WO2024067753A1 - 一种配准方法、配准系统、导航信息确定方法和导航系统 - Google Patents
一种配准方法、配准系统、导航信息确定方法和导航系统 Download PDFInfo
- Publication number
- WO2024067753A1 WO2024067753A1 PCT/CN2023/122370 CN2023122370W WO2024067753A1 WO 2024067753 A1 WO2024067753 A1 WO 2024067753A1 CN 2023122370 W CN2023122370 W CN 2023122370W WO 2024067753 A1 WO2024067753 A1 WO 2024067753A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- registration
- target part
- information
- coordinate system
- navigation
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 247
- 239000003550 marker Substances 0.000 claims abstract description 357
- 230000009466 transformation Effects 0.000 claims abstract description 102
- 230000002452 interceptive effect Effects 0.000 claims description 184
- 239000011159 matrix material Substances 0.000 claims description 152
- 238000006243 chemical reaction Methods 0.000 claims description 103
- 230000008569 process Effects 0.000 claims description 96
- 238000012545 processing Methods 0.000 claims description 52
- 230000004044 response Effects 0.000 claims description 48
- 238000005070 sampling Methods 0.000 claims description 48
- 230000006870 function Effects 0.000 claims description 27
- 238000004590 computer program Methods 0.000 claims description 19
- 230000003993 interaction Effects 0.000 claims description 15
- 238000003860 storage Methods 0.000 claims description 14
- 230000005484 gravity Effects 0.000 claims description 12
- 239000000463 material Substances 0.000 claims description 9
- 239000012790 adhesive layer Substances 0.000 claims description 8
- 239000000853 adhesive Substances 0.000 claims description 3
- 230000001070 adhesive effect Effects 0.000 claims description 3
- 239000011248 coating agent Substances 0.000 claims description 3
- 238000000576 coating method Methods 0.000 claims description 3
- 230000037361 pathway Effects 0.000 claims description 3
- 239000004744 fabric Substances 0.000 claims description 2
- 230000003902 lesion Effects 0.000 description 60
- 238000010586 diagram Methods 0.000 description 39
- 239000000523 sample Substances 0.000 description 37
- 210000003128 head Anatomy 0.000 description 21
- 238000001356 surgical procedure Methods 0.000 description 12
- 230000001815 facial effect Effects 0.000 description 11
- 238000002591 computed tomography Methods 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 9
- 238000011282 treatment Methods 0.000 description 8
- 238000010968 computed tomography angiography Methods 0.000 description 7
- 238000001514 detection method Methods 0.000 description 7
- 238000002595 magnetic resonance imaging Methods 0.000 description 6
- 230000000007 visual effect Effects 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 239000003814 drug Substances 0.000 description 5
- 101100012902 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) FIG2 gene Proteins 0.000 description 4
- 230000009471 action Effects 0.000 description 4
- 230000003190 augmentative effect Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 210000001519 tissue Anatomy 0.000 description 4
- 238000013519 translation Methods 0.000 description 4
- 210000000988 bone and bone Anatomy 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 238000012937 correction Methods 0.000 description 3
- 238000002059 diagnostic imaging Methods 0.000 description 3
- 239000011521 glass Substances 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 230000002792 vascular Effects 0.000 description 3
- 238000012800 visualization Methods 0.000 description 3
- 101001121408 Homo sapiens L-amino-acid oxidase Proteins 0.000 description 2
- 102100026388 L-amino-acid oxidase Human genes 0.000 description 2
- 206010028980 Neoplasm Diseases 0.000 description 2
- -1 aluminum alloys Chemical class 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 229910000838 Al alloy Inorganic materials 0.000 description 1
- 101000827703 Homo sapiens Polyphosphoinositide phosphatase Proteins 0.000 description 1
- 229910000978 Pb alloy Inorganic materials 0.000 description 1
- 102100023591 Polyphosphoinositide phosphatase Human genes 0.000 description 1
- 101100233916 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) KAR5 gene Proteins 0.000 description 1
- 229910000831 Steel Inorganic materials 0.000 description 1
- 229910001069 Ti alloy Inorganic materials 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000000712 assembly Effects 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 210000004204 blood vessel Anatomy 0.000 description 1
- 238000011109 contamination Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 210000001061 forehead Anatomy 0.000 description 1
- 238000007429 general method Methods 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 150000002500 ions Chemical class 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000000968 medical method and process Methods 0.000 description 1
- 229910052751 metal Inorganic materials 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 150000002739 metals Chemical class 0.000 description 1
- 239000003607 modifier Substances 0.000 description 1
- 230000001575 pathological effect Effects 0.000 description 1
- 230000035515 penetration Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000010845 search algorithm Methods 0.000 description 1
- 229920002545 silicone oil Polymers 0.000 description 1
- 210000003625 skull Anatomy 0.000 description 1
- 210000004872 soft tissue Anatomy 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 239000010959 steel Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000006459 vascular development Effects 0.000 description 1
- 210000000216 zygoma Anatomy 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
Landscapes
- Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Processing Or Creating Images (AREA)
Abstract
一种配准方法、配准系统、导航信息确定方法和导航系统,其中,配准方法应用于扩展现实设备,包括获取目标部位的医学影像;对目标部位与医学影像进行配准,得到第一空间转换关系,第一空间转换关系反映扫描坐标系下的目标部位与全局坐标系下的目标部位的空间转换关系;扫描坐标系是基于所述医学影像建立的,全局坐标系是基于目标部位的参考标记物建立的。
Description
交叉引用
本申请要求申请日为2023年01月16日申请号为202310079298.9的中国专利申请、申请日为2023年04月27日申请号为202310474480.4的中国专利申请以及申请日为2022年09月29日申请号为202211194849.8的中国专利申请的优先权,前述各申请的全部内容以引用方式并入本文。
本说明书涉及医疗技术领域,特别涉及一种配准方法、配准系统、导航信息确定方法和导航系统。
可视化医疗是现代医疗技术发展的一个重要方向。例如,将扩展现实设备应用于医疗过程,就是可视化医疗的一个重要方向。在可视化医疗中,对于目标部位在不同空间坐标系下的配准、导航等尤为关键。配准指的是确定物体在不同空间坐标系下的空间位置转换关系。导航指的是为操作者在医疗影像指导下的操作提供定位参考。然而,配准和导航在医学领域中的应用存在效率低、准确性低等问题。
因此,希望提出一种配准方法、配准系统、导航信息确定方法和导航系统,实现医学与扩展现实技术的精准结合,帮助医生更加便利、高效、可视化地执行手术治疗。
发明内容
本说明书一个或多个实施例提供一种配准方法,应用于扩展现实设备,所述配准方法包括:获取目标部位的医学影像;对所述目标部位与所述医学影像进行配准,得到第一空间转换关系,所述第一空间转换关系反映扫描坐标系下的目标部位与全局坐标系下的目标部位的空间转换关系;所述扫描坐标系是基于所述医学影像建立的,所述全局坐标系是基于所述目标部位的参考标记物建立的。
本说明书一个或多个实施例提供一种信息显示方法,应用于扩展现实设备,所述信息显示方法包括处理步骤和显示步骤;所述处理步骤包括:获取手术引导信息,所述手术引导信息包括目标部位的医学影像以及基于所述医学影像的路径规划信息;获取基于上述实施例所述的配准方法得到的第一空间转换关系;所述显示步骤包括:基于所述第一空间转换关系将所述手术引导信息显示于所述目标部位。
本说明书一个或多个实施例提供一种导航方法,应用于扩展现实设备,所述导航方法包括:接收交互部件发送的感应信息;基于所述感应信息,确定穿刺信息。
本说明书一个或多个实施例提供一种配准装置,应用于扩展现实设备,所述配准装置包括:影像获取模块,用于获取目标部位的医学影像;配准模块,用于对所述目标部位与所述医学影像进行配准,得到第一空间转换关系,所述第一空间转换关系反映扫描坐标系下的所述目标部位与全局坐标系下的所述目标部位的空间转换关系;所述扫描坐标系是基于所述医学影像建立的,所述全局坐标系是基于所述目标部位的参考标记物建立的。
本说明书一个或多个实施例提供一种信息显示装置,应用于扩展现实设备,所述信息显示装置包括:信息获取模块,用于获取手术引导信息,所述手术引导信息包括目标部位的医学影像以及基于所述医学影像的路径规划信息;显示模块,用于基于如前述实施例所述的配准方法得到的获取第一空间转换关系,并基于所述第一空间转换关系将所述手术引导信息显示于所述目标部位。
本说明书一个或多个实施例提供一种导航装置,所述导航装置包括:接收模块,用于接收交互部件发送的感应信息;确定模块,用于基于所述感应信息,确定穿刺信息。
本说明书一个或多个实施例提供一种导航装置,所述导航装置包括:扩展现实设备,所述扩展现实设备包括第一处理器和显示模块;所述第一处理器,用于执行上述实施例中任一项所述的配准方法以及执行上述实施例中任一项所述的信息显示方法中的处理步骤;所述显示模块,用于执行如上述实施例任一项所述信息显示方法中的显示步骤。
本说明书一个或多个实施例提供一种医学系统,包括扩展现实设备。
本说明书一个或多个实施例提供一种医学系统,所述医学系统包括:编码标记物、全局标记物和配准工作站,其中,所述编码标记物用于设置在目标部位,所述全局标记物独立于所述目标部位设置并与所述目标部位位置相对固定;所述配准工作站用于获取所述目标部位对应的医学影像和导航影像,根据所述导航影像中的编码标记物和全局标记物,确定所述导航坐标系与全局坐标系之间的第二空间转换关系,根据所述医学影像中的编码标记物和所述导航影像中的编码标记物,确定扫描坐标系和导航坐标系之间的第三空间转换关系,并根据所述第二空间转换关系和所述第三空间转换关系,确定所述目标部位在所述全局
坐标系下的空间位置。
本说明书一个或多个实施例提供一种配准方法,应用于交互部件,所述配准方法包括:生成采集信号,所述采集信号是在第二采点工具感应到目标部位的兴趣点的情况下由所述交互部件生成的;向扩展现实设备发送所述采集信号,以使所述扩展现实设备响应于所述采集信号,确定目标部位的兴趣点的位置信息,并基于所述目标部位的兴趣点的位置信息和所述目标部位的医学影像,对所述目标部位和所述医学影像进行配准,得到第二配准矩阵。
本说明书一个或多个实施例提供一种交互部件,所述交互部件包括:生成模块,用于生成采集信号,所述采集信号是在第二采点工具感应到目标部位的兴趣点的情况下由所述交互部件生成的;发送模块,用于向扩展现实设备发送所述采集信号,以使所述扩展现实设备响应于所述采集信号,确定目标部位的兴趣点的位置信息,并基于所述目标部位的兴趣点的位置信息和所述目标部位的医学影像,对所述目标部位和所述医学影像进行配准,得到第二配准矩阵。
本说明书一个或多个实施例提供一种计算机设备,所述计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现如上述实施例中任一项所述的配准方法、信息显示方法和导航方法。
本说明书一个或多个实施例提供一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上述实施例中任一项所述的配准方法、信息显示方法和导航方法。
本说明书一个或多个实施例提供一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现如上述实施例中任一项所述的配准方法、信息显示方法和导航方法。
本说明书将以示例性实施例的方式进一步说明,这些示例性实施例将通过附图进行详细描述。这些实施例并非限制性的,在这些实施例中,相同的编号表示相同的结构,其中:
图1是根据本说明书一些实施例所示的配准装置的示例性模块图;
图2是根据本说明书一些实施例所示的配准方法的示例性流程图;
图3是根据本说明书一些实施例所示的确定第一配准矩阵的示例性流程图;
图4是根据本说明书一些实施例所示的确定第一配准矩阵的另一示例性流程图;
图5是根据本说明书一些实施例所示的确定第一配准矩阵的另一示例性流程图;
图6是根据本说明书一些实施例所示的获取第二坐标数据的示例性流程图;
图7是根据本说明书一些实施例所示的获取第二坐标数据的另一示例性流程图;
图8是根据本说明书一些实施例所示的确定第二配准矩阵的示例性流程图;
图9是根据本说明书一些实施例所示的获取兴趣点的位置信息的示例性流程图;
图10是根据本说明书一些实施例所示的配准示意图;
图11是根据本说明书一些实施例所示的交互手柄与注册探针的连接的示意图;
图12是根据本说明书一些实施例所示的基于编码标记物确定第一空间转换关系的示例性流程图;
图13是根据本说明书一些实施例所示的确定第三空间转换关系的示例性流程图;
图14是根据本说明书一些实施例所示的确定定位块位置的示例性流程图;
图15A是根据本说明书一些实施例所示的导航影像中编码标记物的示意图;
图15B是根据本说明书一些实施例所示的编码标记物结构特征的示意图;
图16是根据本说明书一些实施例所示的确定第三空间转换关系的另一示例性流程图;
图17是根据本说明书一些实施例所示的确定第三空间转换关系的另一示例性流程图;
图18是根据本说明书一些实施例所示的确定病灶区域在全局坐标系下的空间位置的示例性流程图;
图19是根据本说明书一些实施例所示的信息显示装置的示例性模块图;
图20是根据本说明书一些实施例所示的信息显示方法的示例性流程图;
图21是根据本说明书一些实施例所示的调整候选穿刺路径信息的示例性流程图;
图22是根据本说明书一些实施例所示的确定路径规划信息的示例性流程图;
图23是根据本说明书一些实施例所示的导航装置的示例性模块图;
图24是根据本说明书一些实施例所示的导航装置的另一示例性模块图;
图25是根据本说明书一些实施例所示的确定穿刺信息的示例性流程图;
图26是根据本说明书一些实施例所示的确定穿刺角度的示例性流程图;
图27是根据本说明书一些实施例所示的交互手柄和导向器连接的示意图;
图28是根据本说明书一些实施例所示的确定导向器械姿态信息的过程的示意图;
图29是根据本说明书一些实施例所示的第三传感器的示意图;
图30是根据本说明书一些实施例所示的医学系统的应用场景图;
图31是根据本说明书一些实施例所示的医学系统的示意图;
图32是根据本说明书一些实施例所示的医学系统的另一应用场景图;
图33是根据本说明书一些实施例所示的医学影像显示的示意图;
图34是根据本说明书一些实施例所示的医学系统的另一示意图;
图35A是根据本说明书一些实施例所示的一种编码方式下编码标记物的结构的示意图;
图35B是根据本说明书一些实施例所示的另一种编码方式下编码标记物的结构的示意图;
图35C是根据本说明书一些实施例所示的另一种编码方式下编码标记物的结构的示意图;
图35D是根据本说明书一些实施例所示的另一种编码方式下编码标记物的结构的示意图;
图36是根据本说明书一些实施例所示的编码标记物的结构的示意图;
图37A是根据本说明书一些实施例所示的编码标记物的环结构的示意图;
图37B是根据本说明书一些实施例所示的编码标记物的环结构的另一示意图;
图38是根据本说明书一些实施例所示的编码标记物的剖面结构的示意图;
图39是根据本说明书一些实施例所示的编码标记物的结构的另一示意图;
图40是根据本说明书一些实施例所示的交互部件的示意图;
图41是根据本说明书一些实施例所示的交互部件侧确定第二配准矩阵的示例性流程图;
图42是根据本说明书一些实施例所示的交互部件侧生成采集信号的示例性流程图。
为了更清楚地说明本说明书实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单的介绍。显而易见地,下面描述中的附图仅仅是本说明书的一些示例或实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图将本说明书应用于其它类似情景。除非从语言环境中显而易见或另做说明,图中相同标号代表相同结构或操作。
应当理解,本文使用的“系统”、“装置”、“单元”和/或“模块”是用于区分不同级别的不同组件、元件、部件、部分或装配的一种方法。然而,如果其他词语可实现相同的目的,则可通过其他表达来替换所述词语。
如本说明书和权利要求书中所示,除非上下文明确提示例外情形,“一”、“一个”、“一种”和/或“该”等词并非特指单数,也可包括复数。一般说来,术语“包括”与“包含”仅提示包括已明确标识的步骤和元素,而这些步骤和元素不构成一个排它性的罗列,方法或者设备也可能包含其它的步骤或元素。
本说明书中使用了流程图用来说明根据本说明书的实施例的系统所执行的操作。应当理解的是,前面或后面操作不一定按照顺序来精确地执行。相反,可以按照倒序或同时处理各个步骤。同时,也可以将其他操作添加到这些过程中,或从这些过程移除某一步或数步操作。
在医学手术操作的过程中,医生可以使用扩展现实设备来辅助医生进行手术的操作。例如,扩展现实设备可以协助医生进行手术操作的引导。在使用扩展现实设备的过程中,需要先进行配准,通过配准可以确定相关部位(例如,目标部位、病灶及其周围部位等)在不同坐标系(例如,全局坐标系、扫描坐标系和导航坐标系)下的空间转换关系。配准后,可以进一步基于扩展现实设备进行导航,例如,将手术规划信息显示至对应部位。对应的,扩展现实设备可以包括导航部分和显示部分。导航部分可以采用单目、双目、多目或激光等技术,用于定位和导航手术操作。显示部分可以采用显示器、混合现实(Mixed Reality,MR)、虚拟现实(Virtual Reality,VR)和增强现实(Augmented Reality,AR)、全息投影等技术,用于呈现导航信息和可视化内容。
在实际应用中,例如,在手术导航等实时应用场景中,配准过程需要快速完成,同时还需要保证配准的准确性,配准速度慢或配准准确性低都可能会影响手术的进程和质量。因此,配准需要进一步提升配准效率和准确性。有鉴于此,本说明书一些实施例提供了一种配准方法和系统,能够提高配准方法的效率和准确性。
本说明书一些实施例中,扩展现实设备可以包括配准装置、导航装置和信息显示装置。扩展现实设备还可以包括相机模块和显示模块,其中,相机模块可以作为导航装置的子模块,显示模块可以作为信息显示装置的子模块。在一些实施例中,配准装置和/或导航装置(例如,导航装置中的相机模块)可以设置为独立于扩展现实设备的单独模块,与扩展现实设备进行通信,实现数据传输。
相机模块用于获取图像(例如,目标图像、导航图像等)以进行定位和导航手术操作。相机模块可以包括视觉传感器,例如双目视觉传感器、多目视觉传感器、激光视觉传感器中的至少一种。显示模块用于呈现导航信息和可视化内容。显示模块可以是显示器、增强现实设备、虚拟现实设备、全息投影设备中的至少一种。
在一些实施例中,扩展现实设备还可以与其他的服务器进行通信,利用服务器存储或者中转扩展现实设备需要使用的数据,服务器可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
图1是根据本说明书一些实施例所示的配准装置的示例性模块图。
在一些实施例中,配准装置100可以用于执行下述配准方法中任一实施例的过程。
如图1所示,配准装置100可以包括影像获取模块110、配准模块120。
影像获取模块110,用于获取目标部位的医学影像。
配准模块120,用于对目标部位与医学影像进行配准,得到第一空间转换关系,第一空间转换关系反映扫描坐标系下的目标部位与全局坐标系下的目标部位的空间转换关系;扫描坐标系是基于医学影像建立的,全局坐标系是基于目标部位的参考标记物建立的。
在一些实施例中,配准装置100还可以包括位置获取模块130,位置获取模块130可以用于获取目标部位的全局空间信息。
在一些实施例中,配准模块120可以进一步用于基于医学影像和全局空间信息,对目标部位与医学影像进行配准,得到第一空间转换关系。
在一些实施例中,医学影像包括目标部位对应的目标模型,目标模型是基于目标部位的医学影像数据重建得到的,第一空间转换关系可以包括第一配准矩阵,配准模块120可以进一步用于基于目标模型以及全局空间信息进行配准处理,确定第一配准矩阵,第一配准矩阵反映扫描坐标系下的目标模型与全局坐标系下的目标部位之间的空间坐标转换关系。
在一些实施例中,全局空间信息包括目标部位的兴趣点的位置信息,第一空间转换关系还可以包括第二配准矩阵,位置获取模块130可以进一步用于响应于交互部件发送的采集信号,确定目标部位的兴趣点的位置信息,其中,采集信号是在第二采点工具感应到兴趣点的情况下由交互部件生成的;配准模块120可以进一步用于基于目标部位的兴趣点的位置信息和目标部位的医学影像,对目标部位和医学影像进行配准,得到第二配准矩阵。
在一些实施例中,医学影像包括设置在目标部位上的编码标记物,配准模块120可以进一步用于获取目标部位的导航影像,导航影像包括编码标记物以及与目标部位位置相对固定的全局标记物;对导航影像中的编码标记物和全局标记物进行配准,确定导航坐标系与全局坐标系之间的第二空间转换关系,其中,导航坐标系是基于相机模块建立;对医学影像中的编码标记物和导航影像中的编码标记物进行配准,确定扫描坐标系和导航坐标系之间的第三空间转换关系;基于第二空间转换关系和第三空间转换关系,确定第一空间转换关系。
关于影像获取模块、配准模块以及位置获取模块的更多内容可以参见图1~图18及其相关描述。
需要注意的是,以上对于配准装置100及其模块的描述,仅为描述方便,并不能把本说明书限制在所举实施例范围之内。可以理解,对于本领域的技术人员来说,在了解该系统的原理后,可能在不背离这一原理的情况下,对各个模块进行任意组合,或者构成子系统与其他模块连接。在一些实施例中,图1中披露的影像获取模块110、配准模块120和位置获取模块130可以是一个系统中的不同模块,也可以是一个模块实现上述的两个或两个以上模块的功能。例如,各个模块可以共用一个存储模块,各个模块也可以分别具有各自的存储模块。诸如此类的变形,均在本说明书的保护范围之内。
图2是根据本说明书一些实施例所示的配准方法的示例性流程图。在一些实施例中,图2所示的流程200应用于扩展现实设备,流程200的一个或一个以上操作可以由配准装置(例如,图1所示的配准装置100)实现。如图2所示,流程200包括下述步骤。
步骤210,获取目标部位的医学影像。在一些实施例中,可以由影像获取模块执行110。
目标部位是指手术或治疗方案关注的特定部位。例如,目标部位可以包括在手术或治疗过程中需要精确处理的特定部位。在一些实施例中,目标部位可以包括被检测对象的任一指定部位。例如,目标部位可包括预先指定的头部、颈部、胸部等或其任何组合。
医学影像是指可以反映目标部位组织结构特征的图像数据。
医疗影像采集设备可以对目标部位进行磁共振成像(Magnetic Resonance Imaging,MRI)、电子计算机断层扫描(Computed Tomography,CT)和计算机断层扫描血管造影(Computed Tomography Angiography,CTA)等影像扫描,获得扫描数据,对前述扫描数据进行重建,获取医学影像。
在一些实施例中,医学影像可以包括电子计算机断层扫描的CT图像、计算机断层扫描血管造影的CTA图像和磁共振成像的MRI图像中的至少一种,也可以是前述CT图像、CTA图像和MRI图像等至少两种融合而成的图像数据。其中,CT图像针对骨性结构的特征比较明显,CTA图像针对血管显影的特征比较明显,MRI图像针对软组织的特征比较明显,因此,当医学影像为前述CT图像、CTA图像和MRI图像等融合而成的数据时,医学图像可以展示目标部位更加准确的组织结构信息。
在一些实施例中,扩展现实设备可以通过影像获取模块110获取前述医学影像。扩展现实设备可以
通过影像获取模块直接获取预先存储在扩展现实设备中的目标部位的医学影像,也可以与医疗影像采集设备通信,实时获取目标部位的医学图像。
在一些实施例中,目标部位的医学影像包括手术引导信息,前述手术引导信息用于引导医生进行手术操作(例如,穿刺操作)。例如,手术引导信息可以包括路径规划信息。其中,扩展现实设备获取携带手术引导信息的医学影像的方式可以是:扩展现实设备可以从医疗影像采集设备获取其采集到的目标部位的医学影像,进而基于该医学影像对目标部位进行医学规划,例如在该目标部位的医学影像上设置穿刺路径、穿刺深度、穿刺角度等路径规划信息,从而扩展现实设备得到携带目标部位的手术引导信息的医学影像。关于手术引导信息的更多说明可以参见图20及其相关描述。
在一些实施例中,医学影像还可以包括目标部位中的病灶区域。例如,目标部位为头部,前述目标部位中还可以包括位于头部的肿瘤。
在一些实施例中,医学影像还可以包括标记物。例如,设置在目标部位上的编码标记物。关于编码标记物的更多说明,可以参见本说明书下文相关描述。
在一些实施例中,医学影像还包括目标部位对应的目标模型,配准模块可以基于目标模型以及全局空间信息进行配准处理,确定第一配准矩阵。
目标模型是指可以反映目标部位组织结构特征的模型。例如,目标模型可以是三维模型,也可以是二维模型。其中,三维模型和二维模型是目标模型的两种不同形式,它们的主要区别在于所呈现的图像维度和信息量。
三维模型是指通过医学影像重建得到的具有三维空间结构的模型,可以呈现目标部位在三个维度上的形态、位置、体积和空间关系等信息。三维模型可以帮助医生更全面地了解目标部位的结构特征和病变情况,提高手术导航和治疗的精确度。
相比之下,二维模型则是通过医学影像重建得到的一种平面图像模型,只能够呈现目标部位在二维平面上的形态和位置信息,无法提供目标部位在空间中的立体信息。二维模型相对于三维模型信息量更少,可以适用于一些需要简单定位和测量的手术导航和介入治疗等应用场景。
在一些实施例中,扩展现实设备可以通过术前影像规划系统获取目标模型。其中,术前影像规划系统可以基于目标部位的扫描数据进行重建处理,得到目标部位的目标模型,然后将获取到的目标模型发送给扩展现实设备。示例性地,术前影像规划系统可以为本地端服务器、云端服务器等;其中本地端服务器为传统方式部署特定硬件和软件,仅支持一个目标部位的处理;云端服务器可以理解为集中部署服务器,医生通过网页链接和账号访问的过程进入术前影像规划系统,支持同时多个目标部位的处理或者多个患者一个或多个目标部位的处理以及信息共享。
在一些实施例中,扩展现实设备还可以直接获取医学影像设备扫描得到的目标部位的扫描数据,并对目标部位的扫描数据进行重建处理,得到目标部位的目标模型。
在一些实施例中,在对目标部位的扫描数据进行重建处理之前,扩展现实设备还可以先对扫描数据先进行预处理。其中,预处理可以包括去噪处理、异常点剔除处理、重复数据滤除处理等。
步骤220,对目标部位与医学影像进行配准,得到第一空间转换关系。在一些实施例中,可以由配准模块120执行。
第一空间转换关系是指扫描坐标系与全局坐标系的空间转换关系。
扫描坐标系是基于医学影像建立的。扫描坐标系可以是以目标模型的中心点或边界点为原点建立的空间坐标系,还可以是以目标模型的任一点为原点建立的空间坐标系,关于目标模型的更多说明可以参见图3及其相关描述。
全局坐标系是基于真实空间中目标部位建立的。全局坐标系可以是基于目标部位的参考标记物建立的,也可以是以目标部位的参考标记物的中心点、边界点或其他任意一点为原点建立的空间坐标系。参考标记物是指具有特定形状和尺寸的可见标记。例如,二维或三维的标记点或图案。参考标记物可以设置在目标部位表面,还可以设置于目标部位旁边,与目标部位具有一定距离,对此位置本说明书实施例不做限定,但在本说明书实施例中,参考标记物设置在与目标部位具有固定位姿关系的任意位置。
在一些实施例中,参考标记物包括与目标部位位置相对固定的全局标记物。全局坐标系也可以基于全局标记物建立。
在一些实施例中,第一空间转换关系可以反映扫描坐标系下的目标部位与全局坐标系下的目标部位的空间转换关系。
在一些实施例中,位置获取模块(例如,图1所示的位置获取模块130)可以获取目标部位的全局空间信息。全局空间信息是指目标部位在全局坐标系的空间位置。目标部位的全局空间信息可以为目标部位中不同点的真实位置信息,还可以为目标部位中不同点的位置关系。在一些实施例中,位置获取模块可以通过测量目标部位相对于参考标记物的位置和和姿态,确定目标部位的全局空间信息。
在一些实施例中,配准模块(例如,图1所示的配准模块120)可以基于医学影像和全局空间信息,对目标部位与医学影像进行配准,得到第一空间转换关系。
在一些实施例中,第一空间转换关系包括配准矩阵,配准矩阵可以反映扫描坐标系与全局坐标系之间的空间坐标转换关系。
在一些实施例中,配准矩阵可以包括第一配准矩阵。第一配准矩阵反映扫描坐标系下的目标模型与全局坐标系下的目标部位之间的空间坐标转换关系。
在一些实施例中,配准模块可以基于目标模型的空间信息和目标部位的全局空间信息进行配准处理,确定第一配准矩阵。其中,目标模型的空间信息可以为目标模型中不同点的位置信息,也可以为目标模型中不同点的位置关系。
在一些实施例中,配准模块可以采用配准算法对目标模型的空间信息和目标部位的全局空间信息进行配准处理,确定目标模型与目标部位之间的空间转换关系,即第一配准矩阵。示例性地,配准算法可以为线性配准算法、二次多项式配准算法、矩形配准算法或偏移配准算法等。
在一些实施例中,扩展现实设备可以按照以下方式确定第一配准矩阵:位置获取模块可以获取目标模型的第一特征点在扫描坐标系下的第一坐标数据,以及获取目标部位的第二特征点在全局坐标系下的第二坐标数据;配准模块基于第一坐标数据和第二坐标数据进行配准处理,确定第一配准矩阵。关于前述实施例的更多内容可以参见图3及其相关描述。
在一些实施例中,配准矩阵还可以包括第二配准矩阵。第二配准矩阵可以反映扫描坐标系下的医学图像与全局坐标系下的兴趣点的位置信息之间的空间坐标转换关系。关于兴趣点的位置信息的更多说明可以参见图8、图9及其相关描述。
本说明书一些实施例中,扩展现实设备可以获取目标部位的目标模型,并基于目标模型的空间信息和目标部位的全局空间信息进行配准处理,确定第一配准矩阵,有助于在配准过程中减少人工参与的处理量,从而能够提高配准的效率,并且基于人工参与配准的处理量减少,还可以降低人工参与造成的误差,进一步提高配准的精准度;另外,扩展现实设备还可以基于获取到的精准的第一配准矩阵,直接将目标部位的目标模型映射至真实的目标部位,以为下一步操作做准备;此外,在减少人工参与处理量的基础上,上述方法还可以节省人力资源,降低人力成本,同时还可以降低医生学习曲线,并且对目标部位不做任何限制,配准方法的适用范围较广。
在一些实施例中,目标部位上还包括兴趣点,对应的,全局空间信息还可以包括目标部位的兴趣点的位置信息。兴趣点是指可以体现目标部位结构的特征位置的点。例如,目标部位为面部区域时,兴趣点可以包括鼻尖、嘴角等。在一些实施例中,兴趣点也可以称为特征点。
医生可以佩戴扩展现实设备,并手持交互部件对目标部位的兴趣点进行采集,从而完成对目标部位和目标部位的医疗影像的配准。在一些实施例中,医生还可以利用交互部件确定对目标部位操作过程中的导航信息。其中,扩展现实设备通过有线或无线的方式与交互部件进行通信。
在一些实施例中,响应于交互部件发送的采集信号,配准模块可以基于目标部位的兴趣点的位置信息和目标部位的医学影像,对目标部位和医学影像进行配准,得到第二配准矩阵,更多说明可以参见图8、图9及其相关描述。
在一些实施例中,医学影像包括设置在目标部位上的编码标记物的影像,参考标记物包括与目标部位位置相对固定的全局标记物。
在一些实施例中,配准模块可以对导航影像中的编码标记物和全局标记物进行配准,确定第二空间转换关系,对医学影像中的编码标记物和导航影像中的编码标记物进行配准,确定第三空间转换关系,进而基于第二空间转换关系和第三空间转换关系,确定第一空间转换关系,更多说明可以参加图12~图18及其相关描述。
本说明书的一些实施例通过对目标部位以及医学影响,可以实现扩展现实设备的精准配准,以便于将扩展现实设备应用于手术治疗中。
在一些场景中,扩展现实设备可以在手术过程中将目标部位的目标模型和目标部位进行配准以得到目标模型和目标部位之间的空间转换关系,以直接使用目标模型和目标部位之间的空间转换关系来确定穿刺路径,从而可以减少手术过程中的数据处理环节,下面对上述基于目标模型的空间信息和目标部位的全局空间信息进行配准处理,确定第一配准矩阵的过程进行说明。
图3是根据本说明书一些实施例所示的确定第一配准矩阵的示例性流程图。在一些实施例中,流程300可以由位置获取模块和配准模块执行。如图3所示,流程300包括下述步骤。
步骤310,获取目标模型的第一特征点在扫描坐标系下的第一坐标数据,以及获取目标部位的第二特征点在全局坐标系下的第二坐标数据。
第一特征点是指目标模型中的多个点,可以为目标模型中任意多个点,也可以为目标模型特定的多
个点。在一些实施例中,位置获取模块可以基于目标模型的第一特征点和扫描坐标系,获取目标模型的第一特征点与扫描坐标系的原点之间的位置关系,从而根据该位置关系确定第一特征点在扫描坐标系下的第一坐标数据,即第一特征点在扫描坐标系下的位置。
第二特征点是指目标部位的多个点,可以为目标部位的任意多个点,也可以为目标部位特定的多个点。在一些实施例中,位置获取模块可以基于目标部位的第二特征点和全局坐标系,获取目标部位的第二特征点与全局坐标系的原点之间的位置关系,从而根据该位置关系确定第二特征点在全局坐标系下的第二坐标数据,即第二特征点在全局坐标系下的位置。
在一些实施例中,第一特征点与第二特征点包括目标部位中相同的特征位置。例如,若目标部位为患者的头部,则上述第一特征点和第二特征点可以均为患者面部中多个相同的特征位置,如额头、鼻梁、颧骨等。
步骤320,基于第一坐标数据和第二坐标数据进行配准处理,确定第一配准矩阵。
在一些实施例中,扩展现实设备可以接收医生输入的配准指令,并响应于接收到配准指令,基于获取到的第一坐标数据和第二坐标数据,采用配准算法对第一坐标数据和第二坐标数据进行配准处理,得到第一配准矩阵。其中,配准指令的输入方式可以包括语音、手势、按键、动作等方式。响应于接收到配准指令,配准模块还可以预先构建一个算法模型,将获取到的目标模型的第一坐标数据和目标部位的第二坐标数据输入至算法模型中,从而获取算法模型输出的第一配准矩阵。
在一些实施例中,第一特征点的总数量可以大于或等于第二特征点的总数量。示例性地,第一特征点可以为目标模型上面部区域的所有生理特征点;第二特征点可以为目标部位的真实面部区域的所有生理特征点或部分生理特征点。
本说明书一些实施例中,扩展现实设备可以获取目标模型的第一特征点在扫描坐标系下的第一坐标数据,以及获取目标部位的第二特征点在全局坐标系下的第二坐标数据,并基于第一坐标数据和第二坐标数据进行配准处理,确定第一配准矩阵,减少了人工参与,有助于快速实现第一特征点与第二特征点的配准,能够提高配准的速度和配准的效率;另外,由于人工参与配准的处理量较少,可以提高配准的准确性。
下面对上述基于第一坐标数据和第二坐标数据进行配准处理,确定第一配准矩阵的过程进行说明。在一些实施例中,前述步骤320可以通过图4所示的下述流程实现:
步骤321,对第一坐标数据和第二坐标数据进行配准处理,得到配准信息。
配准信息是指可以反映第一特征点和第二特征点之间的位置关系的信息。
在一些实施例中,配准模块可以采用特征点匹配算法,对第一坐标数据和的第二坐标数据进行配准处理得到配准信息。示例性地,特征点匹配算法可以包括但不限于基于图像灰度值特征点的快速匹配搜索算法、尺度不变特征转换算法、加速稳健特征匹配算法等。
步骤322,根据配准信息确定第一配准矩阵。
在一些实施例中,配准模块可以基于获取到的配准信息,对配准信息进行处理得到第一配准矩阵,还可以将配准信息直接确定为第一配准矩阵。
为了提高配准的成功率,在配准失败后,还需要执行再次配准以得到第一配准矩阵,下面对上述根据配准信息确定第一配准矩阵的过程进行说明。在一实施例中,配准信息包括配准情况和初步配准矩阵,前述步骤322可以通过图5所示的下述流程实现:
步骤3221,若配准情况为配准失败,则输出配准失败提醒信息。
在一些实施例中,配准信息包括配准情况和初步配准矩阵。
配准情况可以反映配准是否成功。例如,配准情况可以包括第一特征点和第二特征点之间是否配准成功。
初步配准矩阵是指配准过程的初步阶段(例如,第一次配准处理)得到的矩阵,可以表示第一特征点和第二特征点之间的近似的空间对应关系。初步配准矩阵中的空间对应关系可能并不完全准确,但在一些情况下,可以作为一种初始的估计,用于指导后续的配准过程。
若配准情况为配准失败,配准模块输出配准失败提醒信息。其中,当前次配准也可以称为第一次配准处理。在一些实施例中,一次配准处理可能无法配准成功,此时,还可以执行二次配准处理,直到配准成功,因此,输出配准失败提醒信息可以提示医生当前次配准失败,需要再次拍摄配准或采点配准。示例性地,配准失败提醒信息的输出方式可以包括语音、视频、图标、文字等方式。其中,在二次配准时,配准模块也可以提取目标模型(例如,面部区域)的所有生理特征点,以及目标部位的所有生理特征点或部分生理特征点,然后基于提取到的目标模型上面部区域的特征点和目标部位的真实面部区域的特征点进行配准处理。
在一些实施例中,若配准情况为配准成功时,可以将初步配准矩阵作为第一配准矩阵。
在一些实施例中,配准模块可以执行多次采集和配准,并确定多次配准对应的配准率,选择最高配
准率对应的初步配准矩阵作为第一配准矩阵。其中,配准率是指成功配准的特征点数与采集到的特征点数的比值。多次采集和配准可以包括:第一次采集n个特征点并进行第一次配准,第二次采集m个特征点,并进行第二次配准,并以此类推,其中,下一次采集时的特征点多于上一次采集时的特征点。
在一些实施例中,配准模块在执行多次配准时,还可以通过统计方法确定离群点,然后选择配准效果较好特征点进行配准。其中,离群点是指可能会对图像配准造成干扰的特征点,例如医学图像采集过程中异常情况导致的噪声对应的特征点。其中,特征点的配准效果可以通过该特征点对应的噪声确定。例如,某一特征点对应存在噪声的可能性越小,该特征点对应的配准效果可以越好。
本说明书一些实施例,通过多次采集和/或配准,可以获得更多的数据,并根据需要对配准情况进行综合或选择,有助于提高整体配准的效果和准确性。
步骤3222,基于初步配准矩阵对目标模型进行位姿变换,得到变换后的目标模型,并获取变换后的目标模型的第三特征点在扫描坐标系下的第三坐标数据,以及基于配准失败提醒信息,获取目标部位的第四特征点在全局坐标系下的第四坐标数据。
在一些实施例中,在当前次配准结束后可以获取到初步配准矩阵,基于初步配准矩阵对目标模型进行位姿变换得到变换后的目标模型。其中,位姿变换是指将初步配准矩阵与目标模型中各点的坐标数据进行相乘得到目标模型中各点变换后的坐标数据,基于目标模型中各点变换后的坐标数据生成变换后的目标模型。
在一些实施例中,基于获取到的变换后的目标模型,扩展现实设备可以提取变换后的目标模型上面部区域的所有生理特征点,即变换后的目标模型的第三特征点,并获取变换后的目标模型的第三特征点与扫描坐标系的原点之间的位置关系,从而根据该位置关系确定第三特征点在扫描坐标系下的第三坐标数据,同时,基于配准失败提醒信息,扩展现实设备可以提取目标部位的真实面部区域的所有生理特征点或部分生理特征点,即目标部位的第四特征点,并获取目标部位的第四特征点与全局坐标系的原点之间的位置关系,从而根据该位置关系确定第四特征点在全局坐标系下的第四坐标数据。其中,第三特征点与第四特征点包括目标部位中相同的特征位置。第四特征点可以与第二特征点相同,也可以不同,即第四特征点可以是重新采集得到,也可以是之前采集得到的第二特征点。另外,第二特征点和第四特征点都可以看作是目标部位上的体现目标部位结构的特征位置的点,这些点是正在配准过程中需要关注的、感兴趣的点。第二特征点和第四特征点与本说明书中的兴趣点的意义可以是相同的。
在一些实施例中,第三特征点的总数量可以大于第四特征点的总数量。
示例性地,若配准情况为配准失败,配准模块则输出配准失败提醒信息以提醒医生配准失败原因(如患者人脸遮挡、患者人脸拍摄不全等),并提示医生检查遮挡物重新拍摄或更换相机模块角度(如扩展现实设备的显示模块可输出正确拍摄角度范围指引信息等),进一步基于配准失败提醒信息重新拍摄后进行二次配准处理。或者,若配准情况为配准失败,配准模块则输出配准失败提醒信息以提醒配准失败的可能原因(如采点操作选取的有效特征点的数量不够、采点操作中参考标记物存在遮挡、采点区域丢失、相机模块的视野变化等),并提示医生在对应采点区域重新采点(如扩展现实设备的显示模块可输出采集有效特征点的目标采点区域)、重新检查参考标记物是否遮挡或医生需要调整相机模块的视野(如扩展现实设备的显示模块可输出相机模块的调节范围的指引信息)等,进一步基于配准失败提醒信息重新采点后进行二次配准处理。
步骤3233,基于第三坐标数据和第四坐标数据进行配准处理,确定第一配准矩阵。
在一些实施例中,配准模块可以再次接收医生输入的配准指令,并响应于接收到配准指令,基于获取到的第三坐标数据和第四坐标数据,采用配准算法对第三坐标数据和第四坐标数据进行配准处理(即第二次配准),得到第一配准矩阵。在一些实施例中,第二次配准的方式与第一次配准的方式相同,只是第一次配准与第二次配准的特征点不同而已。其中,配准指令的输入方式可以是语音、手势、按键、动作等方式。
在一些实施例中,响应于接收到配准指令后,配准模块还可以预先构建一个算法模型,将获取到的第三坐标数据和第四坐标数据均输入至该算法模型中,从而输出第一配准矩阵。
本说明书一些实施例中,扩展现实设备可以对第一特征点的坐标数据和的第二特征点的坐标数据进行配准处理得到配准信息,并根据配准信息确定第一配准矩阵;可以根据配准信息确定是否要执行二次配准,在一次配准失败时,基于一次配准得到的初步配准矩阵执行二次配准,不仅能够提高配准的成功率,还能够提高二次配准的效率。
下面将对上述获取目标部位的第二特征点在全局坐标系下的第二坐标数据的过程进行说明。在一些实施例中,前述步骤310可以通过图6所示的下述流程实现。
步骤311,获取对目标部位和参考标记物进行拍摄得到的目标图像。
在一些实施例中,医生可以向扩展现实设备的相机模块输入拍摄指令,扩展现实设备的相机模块响
应于接收到拍摄指令,并对目标部位和目标部位的参考标记物进行拍摄得到目标图像,进一步,扩展现实设备可以获取相机模块发送的目标图像。其中,拍摄指令的输入方式可以是语音、手势、按键、动作等方式,且拍摄指令中携带有目标部位的相关标识或者相关信息。
步骤312,对目标图像进行特征识别,得到第二特征点在导航坐标系下的第五坐标数据,以及参考标记物在导航坐标系下的第六坐标数据。
导航坐标系是基于相机模块建立的坐标系,可以描述目标部位与相机模块之间的相对位置和姿态关系。
在一些实施例中,扩展现实设备可以采用特征检测算法,对目标图像进行特征识别,得到第二特征点在导航坐标系下的第五坐标数据和参考标记物在导航坐标系下的第六坐标数据。示例性地,特征检测算法可以包括但不限于颜色特征检测算法、纹理特征检测算法、形状特征检测算法、空间关系特征检测算法等。
步骤313,根据第六坐标数据,获取导航坐标系与全局坐标系之间的第二空间转换关系。
第二空间转换关系是反映导航坐标系与全局坐标系的空间转换关系。
在一些实施例中,参考标记物在全局坐标系中的坐标为原点坐标,在导航坐标系中的坐标为第六坐标数据,配准模块基于原点坐标和第六坐标数据之间的转换关系,即可确定第二空间转换关系。
在一些实施例中,第二空间转换关系可以包括导航坐标系与全局坐标系之间的平移向量和旋转矩阵。旋转矩阵可以通过目标对象在两个坐标系下的方向余弦表示。平移向量可以通过导航坐标系与全局坐标系的原点之间在各个维度上的偏移量表示。
示例性地,假设参考标记物在全局坐标系下的位置为(0,0,0),在导航坐标系下的位置为(x6,y6,z6),配准模块可以通过姿态数据计算得到三个旋转角度,根据三个旋转角度生成旋转矩阵,同时,可以根据参考标记物在全局坐标系下的位置(0,0,0)和在导航坐标系下的位置(x6,y6,z6)生成平移向量,基于旋转矩阵和平移向量可以确定第二空间转换关系,实现全局坐标系与导航坐标系之间的位置转换。
步骤314,基于第五坐标数据以及第二空间转换关系,获取第二特征点在全局坐标系下的第二坐标数据。
在一些实施例中,处理器可以将第五坐标数据和第二空间转换关系进行相乘,得到第二特征点在全局坐标系下的第二坐标数据。
本说明书一些实施例中,扩展现实设备可以获取对目标部位和参考标记物进行拍摄得到的目标图像,对目标图像进行特征识别,得到第二特征点在导航坐标系下的第五坐标数据以及参考标记物在导航坐标系下的第六坐标数据,根据第六坐标数据获取导航坐标系与全局坐标系之间的第二空间转换关系,基于第五坐标数据以及第二空间转换关系,获取第二坐标数据;该方法通过特征点提取和坐标系转换可以精准的获取目标部位的第二特征点在全局坐标系下的第二坐标数据,从而能够为配准处理做准备,以提高配准处理结果的准确性。
基于上述实施例,扩展现实设备还可以通过另一种方式获取目标部位的第二坐标数据,下面将对上述获取目标部位的第二坐标数据的另一种过程进行说明。在一些实施例中,前述步骤310还可以通过图7所示的下述流程实现。
步骤315,获取在第一采点工具对目标部位进行采点操作时,对第一采点工具和参考标记物进行追踪,得到的第二特征点在导航坐标系下的第五坐标数据,以及参考标记物在导航坐标系下的第六坐标数据。
第一采点工具是用于辅助扩展现实设备进行配准的工具。第一采点工具可以通过接触目标部位(例如,真实面部区域)进行采点。相机模块可以同时对安装标记物的第一采点工具和目标部位的参考标记物进行追踪,得到目标部位的第二特征点在导航坐标系下的第五坐标数据和目标部位的参考标记物在导航坐标系下的第六坐标数据,并将获取到的第五坐标数据和第六坐标数据,发送给扩展现实设备。
在一些实施例中,扩展现实设备可以通过相机模块获取第一采点工具的标记物的坐标数据,然后根据第一采点工具的标记物的坐标数据和第一采点工具的标定信息,获取第一采点工具接触目标部位的特征点的坐标数据,即第二特征点在导航坐标系下的第五坐标数据。其中,第一采点工具的标定信息可以理解为第一采点工具上设置的标记物与第一采点工具用来接触目标部位的位姿关系,在实际应用中,第一采点工具的标定信息是已知的。
第一采点工具上可以设置按钮,在采点时可以按压按钮使得第一采点工具实现采点操作。或者,第一采点工具还可以接收医生输入的语音指令,响应于接收到语音指令实现采点操作。需要说明的是,按压第一采点工具上的按钮或向第一采点工具输入语音指令的目的是为了触发相机模块,以记录当前时刻第一采点工具的标记物的坐标数据,以根据第一采点工具的标记物的坐标数据和第一采点工具的标定信息,获取第一采点工具接触目标部位的特征点的坐标数据,即第二特征点在导航坐标系下的第五坐标数据。
值得说明的是,相机模块可以为红外相机,因此,相机模块可以追踪参考标记物,得到参考标记物
在导航坐标系下的坐标数据。
步骤316,根据第六坐标数据,获取导航坐标系与全局坐标系之间的第二空间转换关系。
关于步骤316的更多说明,可以参见上述步骤313及其相关说明。
步骤317,基于第五坐标数据,以及第二空间转换关系,获取第二特征点在全局坐标系下的第二坐标数据。
关于步骤317的更多说明,可以参见上述步骤314及其相关说明。
本说明书一些实施例中,扩展现实设备可以采用相机追踪的方式确定目标部位的第二特征点在导航坐标系下的第五坐标数据以及目标部位的参考标记物在导航坐标系下的第六坐标数据,基于第六坐标数据,获取导航坐标系与全局坐标系之间的第二空间转换关系,进一步根据第五坐标数据以及第二空间转换关系,获取第二坐标数据;该方法通过标记物追踪和坐标系转换可以精准的获取目标部位的第二坐标数据,从而能够为配准处理做准备,以提高配准处理结果的准确性。
在一些实施例中,全局空间信息包括目标部位的兴趣点的位置信息,第一空间转换关系包括第二配准矩阵,下面将对上述基于目标部位的兴趣点的位置信息和目标部位的医学影像进行配准处理,确定第二配准矩阵的过程进行说明。
图8是根据本说明书一些实施例所示的确定第二配准矩阵的示例性流程图。在一些实施例中,流程800可以由位置获取模块和配准模块执行。如图8所示,流程800包括下述步骤。
步骤810,响应于交互部件发送的采集信号,确定目标部位的兴趣点的位置信息。
采集信号是在第二采点工具感应到兴趣点的情况下由交互部件生成的。
交互部件可以为交互手柄,其上设置有交互元件,交互元件可以是按键和/或遥感,进而医生通过交互部件上的按键和/或遥感,实现与扩展现实设备的交互,比如数据导入、界面切换、设置更改等。在一些实施例中,除按键外,交互部件还可以通过其他交互元件和医生进行交互,例如交互部件是带语音控制功能的握把,从而医生可以通过语音控制交互部件,本说明书对此不做限制。
在一些实施例中,交互部件可以包括处理器以及集成电气性能的机械接口,交互部件与第二采点工具通过机械接口进行连接,机械接口不仅可以为交互部件供电和传输信号,还起到交互部件和第二采点工具之间的紧固功能。在一些实施例中,交互部件也可以通过其他连接方式与第二采点工具进行连接,本说明书对此不做限制。其中,第二采点工具可以包括注册探针、结构光发射器、激光发射器、三维扫描仪中的任意一种,本说明书对此不做限制。
在一些实施例中,第二采点工具可以包括第一传感器,第一传感器用于在感应到目标部位的兴趣点的情况下生成第一感应信号。第一传感器可以包括电容传感器、电阻传感器、压感传感器等。
在一些实施例中,医生在佩戴扩展现实设备时,可以手持交互部件,并利用与交互部件连接的第二采点工具感应目标部位的兴趣点。以确定兴趣点1的位置信息为例,假设目标部位为头部,当医生手持交互部件,利用第二采点工具感应到头部的兴趣点1时,交互部件获取到对应的采集信号1,进而扩展现实设备获取到采集信号1。
在一些实施例中,第一采点工具和第二采点工具可以相同。
在一些实施例中,目标部位的兴趣点应当分布均匀且数量合理。其中,当第二采点工具包括注册探针时,第二采点工具感应到兴趣点可以是接触式感应;当第二采点工具包括结构光发射器、激光发射器或三维扫描仪时,第二采点工具感应到兴趣点也可以是非接触式感应,本说明书对此不做限制。
在一些实施例中,扩展现实设备响应于交互部件发送的采集信号,确定目标部位的兴趣点的位置信息。以交互部件为交互手柄、第二采点工具为三维扫描仪进行举例,医生可以手持交互手柄,利用与交互手柄连接的三维扫描仪感应目标部位的至少一个兴趣点,三维扫描仪在扫描到目标部位的至少一个兴趣点后,返回给交互手柄一个采集信号,扩展现实设备响应于该采集信号,利用相机模块确定兴趣点在全局坐标系下的位置信息。
步骤820,基于目标部位的兴趣点的位置信息和目标部位的医学影像,对目标部位和医学影像进行配准,得到第二配准矩阵。
第二配准矩阵能够指示医疗影像和目标部位之间的映射关系,可以反映扫描坐标系下的目标部位与全局坐标系下的兴趣点之间的空间坐标转换关系。
在一些实施例中,扩展现实设备可以基于第二配准矩阵对医学影像进行处理,得到全局坐标系下的医学影像,并显示全局坐标系下的医学影像。其中,显示全局坐标系下的医学影像可以是利用全息投影技术将医学影像投影在医生的视野范围内。
在一些实施例中,基于第二配准矩阵对医学影像进行处理的方式可以包括:扩展现实设备基于第二配准矩阵对医学影像进行变换,得到全局坐标系下的医学影像;或者,扩展现实设备基于第二配准矩阵和第二配准矩阵的转置矩阵对医学影像进行变换,得到全局坐标系下的医学影像。
在一些实施例中,扩展现实设备可以基于第二配准矩阵对医学影像处理后,将全局坐标系下的医学影像直接重叠至目标部位进行显示;扩展现实设备也可以基于第二配准矩阵对医学影像进行处理后,再对全局坐标系下的医学影像进行后处理,后处理可以包括透明度设置、缩放、影像参数调节等,进而显示经过后处理后的医学影像。
基于本说明书的前述实施例中的设置,医生可以基于显示的全局坐标系下的医学影像,更好地对目标部位进行操作。
本说明书一些实施例中,扩展现实设备响应于交互部件发送的采集信号,确定目标部位的兴趣点的位置信息,并基于目标部位的兴趣点的位置信息和目标部位的医学影像,对目标部位和医学影像进行配准,得到第二配准矩阵。由于采集信号是在第二采点工具感应到兴趣点的情况下由交互部件生成的,因此,只有在第二采点工具感应到目标部位的兴趣点后,交互部件才会产生采集信号,进而扩展现实设备才能响应该采集信号确定目标部位的兴趣点的位置信息。传统技术中在进行配准时,需要提前对需要采集的兴趣点进行规划,进而采点工具陆续感应规划好的兴趣点,并且在每个兴趣点采集的时长必须达到目标时长才能继续采集下一个兴趣点,例如,在每个兴趣点都需要感应3分钟。而本说明书一些实施例中利用交互部件和第二采点工具完成配准过程,医生可以随时暂停或者开始配准,并且,医生也可以灵活控制兴趣点的个数、分布以及感应兴趣点所停留的时间,因此提高了配准过程的灵活性和效率。并且,在此过程中,交互部件、第二采点工具以及扩展现实设备的互相配合,能够保证最终确定的目标部位的兴趣点的位置信息的准确性,进而提高了配准矩阵的准确性,从而提高了配准过程的准确性。
下面将对上述确定目标部位的兴趣点的位置信息的过程进行说明。在一些实施例中,参考标记物包括目标部位对应的第一标记物。在一些实施例中,上述步骤810可以通过图9所示的下述流程实现。
步骤811,获取第一标记物在导航坐标系下的第六坐标数据,并获取第二标记物在导航坐标系下的第七坐标数据。
图10为配准示意图,图11为交互手柄与注册探针的连接示意图,结合图10和图11,下述说明以交互部件为交互手柄、第二采点工具包括注册探针为例进行说明。
目标部位与第一标记物对应是指目标部位与第一标记物具有固定位姿关系,第二采点工具与第二标记物对应是指第二采点工具与第二标记物具有固定位姿关系。如图10所示,第一标记物与目标部位具有固定位姿关系,第二标记物与注册探针具有固定位姿关系,例如,第一标记物与目标部位保持相对静止,第二标记物与注册探针保持相对静止。第一标记物和第二标记物用于辅助定位,其可以是定位小球、编码靶标、二维码,本说明书对此不做限制。
当医生佩戴扩展现实设备,利用注册探针感应目标部位的兴趣点时,扩展现实设备中的相机模块就能获取第一标记物在导航坐标系下的第六坐标数据以及第二标记物在导航坐标系下的第七坐标数据。
步骤812,基于第六坐标数据,确定导航坐标系与全局坐标系之间的第二空间转换关系。
可以理解的是,由于第一标记物和目标部位具有固定位姿关系,故扩展现实设备能够基于第一标记物建立全局坐标系,即第一标记物在全局坐标系中的坐标为原点坐标。进一步地,由于第六坐标数据是第一标记物在导航坐标系下的坐标数据,因此,扩展现实设备在获取第六坐标数据之后,就能基于第六坐标数据和原点坐标,确定导航坐标系与全局坐标系之间的第二空间转换关系。
步骤813,基于第七坐标数据,确定目标部位的兴趣点在导航坐标系下的第八坐标数据。
第七坐标数据是第二标记物在导航坐标系下的坐标数据,并且,第二标记物与第二采点工具具有固定位姿关系,因此,扩展现实设备就能基于第七坐标数据,确定目标部位的兴趣点在导航坐标系下的第八坐标数据。也就是说,随着医生手持交互手柄,利用注册探针的末端接触目标部位的兴趣点的过程中,注册探针的末端也随之变动。在一些实施例中,相机模块在注册探针变动的过程中,利用注册探针和第二标记物的固定位姿关系,就能确定目标部位的兴趣点在导航坐标系下的第八坐标数据。
以医生利用注册探针的末端接触兴趣点1为例,当医生利用注册探针的末端接触兴趣点1时,第二标记物也随注册探针移动到对应的位置,进而扩展现实设备中的相机模块能够确定此时第二标记物在导航坐标系下的第七坐标数据1,然后利用第二标记物和注册探针的位姿关系,就可以换算出兴趣点1在导航坐标系下对应的第八坐标数据1。
步骤814,基于第二空间转换关系和第八坐标数据,确定目标部位的兴趣点在全局坐标系下的第九坐标数据,并将第九坐标数据作为目标部位的兴趣点的位置信息。
在一些实施例中,在扩展现实设备确定了第二空间转换关系和目标部位的兴趣点的第八坐标数据之后,就能基于第二空间转换关系和第八坐标数据,确定目标部位的兴趣点在全局坐标系下的第九坐标数据,并将第九坐标数据作为目标部位的兴趣点的位置信息。
继续上述兴趣点1的示例,确定出了兴趣点1在导航坐标系下的第八坐标数据1后,就可以利用第二空间转换关系将第八坐标数据1转换至全局坐标系下,以得到第九坐标数据1,第九坐标数据1也即目
标部位的兴趣点1的位置信息。
本说明书一些实施例中,扩展现实设备获取与目标部位具有固定位姿关系的第一标记物在导航坐标系下的第六坐标数据,以及获取与第二采点工具具有固定位姿关系的第二标记物在导航坐标系下的第七坐标数据,进而基于第六坐标数据,确定导航坐标系与全局坐标系之间的第二空间转换关系,并基于第七坐标数据,确定目标部位的兴趣点在导航坐标系下的第八坐标数据,从而基于第二空间转换关系和第八坐标数据,确定目标部位的兴趣点在全局坐标系下的第九坐标数据。由于导航坐标系是基于扩展现实设备的相机模块建立的,全局坐标系是基于第一标记物建立的,因此扩展现实设备能够基于第一坐标数据,确定导航坐标系与全局坐标系之间的第二空间转换关系,进而就能基于第二空间转换关系和第八坐标数据,确定目标部位的兴趣点在全局坐标系下的第九坐标数据。如此,扩展现实设备就得到了目标部位的兴趣点的位置信息,进而就能基于兴趣点的位置信息和医学影像,对目标部位和医疗影像进行配准。
在一些实施例中,医学影像包括设置在目标部位上的编码标记物的影像,参考标记物包括与目标部位位置相对固定的全局标记物,下面将对基于医学影像中的编码标记物和导航影像中的编码标记物进行配准,得到第一空间转换关系的过程进行说明。
图12是根据本说明书一些实施例所示的基于编码标记物确定第一空间转换关系的示例性流程图。在一些实施例中,流程1200可以由位置获取模块和配准模块执行。如图12所示,流程1200包括下述步骤。
步骤1210,获取目标部位的导航影像。
导航影像是指可以反映目标部位在导航坐标系中位置信息的图像。其中,导航影像包括编码标记物以及全局标记物。
标记物是指可以用于辅助定位和识别的物体。编码标记物是可以设置在目标部位上。编码标记物可以在医学影像中显影,进而有助于在医学影像中精确定位和识别目标部位,以便进行精确的导航或手术操作。
全局标记物可以设置在真实环境中的某个位置(例如,床旁边的支架),并且相对于目标部位位置是固定的。全局标记物可以用来建立全局坐标系,全局坐标系可以描述编码标记物、目标部位以及与之相关的其他物体或部位的位置和姿态。
在一些实施例中,全局标记物还可以设置在患者目标部位的表面。以目标部位是头部为例,医生可以直接将全局标记物粘贴在患者的头部或面部等结构上,保证全局标记物在相机模块的拍摄视野范围内即可,医生也可以使用骨钉或刚钉等刚性结构,将全局标记物与患者的颅骨进行刚性连接。相较于放置在真实环境的其他位置,通过上述方式将全局标记物设置在患者目标部位的表面,可以确保全局标记物的稳定性,避免将全局标记物设置在目标部位外部带来的误差,提高后续配准的准确性。
需要说明的是,在获取目标部位的导航图像之前,所需进行的准备工作如下:在被测对象的目标部位粘贴至少一个编码标记物,并且在被测对象所处环境中设置有与目标部位位置相对固定的全局标记物。
在一些实施例中,扩展现实设备分别与医疗影像采集设备和导航设备进行通信,医疗影像采集设备用于对被测对象进行扫描,得到包括目标部位以及编码标记物的医学影像,导航设备用于对被测对象进行拍摄,得到包括编码标记物和全局标记物的导航影像。基于扩展现实设备与医疗影像采集设备和导航设备之间的通信,扩展现实设备即可从医疗影像采集设备处获取到目标部位的医学影像,以及从导航设备处获取到目标部位的导航影像。前述导航设备可以为相机模块。
步骤1220,对导航影像中的编码标记物和全局标记物进行配准,确定导航坐标系与全局坐标系之间的第二空间转换关系。
在一些实施例中,配准模块可根据导航影像确定编码标记物在导航坐标系下的位置信息,并根据导航影像中编码标记物与全局标记物之间的相对位置关系确定编码标记物在全局坐标系下的位置信息,进而根据同一编码标记物在导航坐标系下的位置信息和全局坐标系下的位置信息确定导航坐标系和全局坐标系之间的空间转换关系,作为第二空间转换关系。
步骤1230,对医学影像中的编码标记物和导航影像中的编码标记物进行配准,确定扫描坐标系和导航坐标系之间的第三空间转换关系。
在一些实施例中,医学影像中包括编码标记物,导航影像中也包括编码标记物,配准模块可基于同一编码标记物在医学影像中的位置信息以及在导航影像中的位置信息确定扫描坐标系和导航坐标系之间的空间转换关系,作为第三空间转换关系。
步骤1240,基于第二空间转换关系和第三空间转换关系,确定第一空间转换关系。
在一些实施例中,配准模块在得到扫描坐标系和导航坐标系之间第三空间转换关系,以及导航坐标系和全局坐标系之间的第二空间转换关系后,可根据第三空间转换关系和第二空间转换关系确定扫描坐标系与全局坐标系之间的第一空间转换关系。
本说明书一些实施例中,扩展现实设备获取包括目标部位和粘贴在目标部位上的编码标记物的医学
影像,以及包括编码标记物和与目标部位位置相对固定的全局标记物的导航影像,以根据医学影像中的编码标记物和导航影像中的编码标记物,确定扫描坐标系和导航坐标系之间的第三空间转换关系,并根据导航影像中的编码标记物和全局标记物确定导航坐标系与全局坐标系之间的第二空间转换关系,进而根据第三空间转换关系和第二空间转换关系确定目标部位在全局坐标系下的空间位置。上述方法中,空间配准过程中无需按压、接触目标部位,避免了外力干扰所导致的数据失准,提高了配准准确性,进而提高了病灶定位的准确性。
下面将对上述根据编码标记物在医学影像中的空间位置以及编码标记物在导航影像中的空间位置确定扫描坐标系和导航坐标系之间的第三空间关系的方式进行说明。在一些实施例中,步骤1230可以通过图13所示的下述流程实现。
步骤1310,根据医学影像确定编码标记物的扫描空间位置,以及根据导航影像确定编码标记物的导航空间位置。
在一些实施例中,扩展现实设备可将医学影像输入扫描识别模型,通过扫描识别模型识别出编码标记物并确定对应编码标记物在扫描坐标系下的空间位置,作为扫描空间位置。其中,扫描识别模型为采用大量包括编码标记物的医学影像样本训练得到的网络模型。同理,扩展现实设备可将导航影像输入导航识别模型,通过该导航识别模型识别出编码标记物并确定对应编码标记物在导航坐标系下的空间位置,作为导航空间位置。其中,导航识别模型为采用大量包括编码标记物的导航影像样本训练得到的网络模型。
在一些实施例中,扩展现实设备还可以根据编码标记物的特征信息在医学影像中识别出编码标记物,以确定对应编码标记物在扫描坐标系下的空间位置,作为扫描空间位置。同理,扩展现实设备也可以根据编码标记物的特征信息在导航影像中识别出编码标记物,以确定对应编码标记物在导航坐标系下的空间位置,作为导航空间位置。
在一些实施例中,在识别医学影像中编码标记物的情况下,编码标记物的特征信息可以包括形状特征、结构特征、尺寸特征以及数量特征中的至少一项;在识别导航影像中编码标记物的情况下,编码标记物的特征信息可以包括形状特征、结构特征、尺寸特征、数量特征以及颜色特征中的至少一项。
在一些实施例中,在确定编码标记物在导航坐标系下的导航空间位置的情况下,扩展现实设备可预先根据确定编码标记物在导航影像中的二维坐标,进而结合导航设备的内参、外参以及编码标记物在导航影像中的二维坐标得到相应编码标记物在导航坐标系下的三维坐标,即导航空间位置。
步骤1320,根据扫描空间位置和导航空间位置,确定扫描坐标系和导航坐标系之间的第三空间转换关系。
在一些实施例中,在得到编码标记物的扫描空间位置和导航空间位置后,扩展现实设备即可基于同一编码标记物的扫描空间位置和导航空间位置确定扫描坐标系和导航坐标系之间的第三空间转换关系。
本说明书一些实施例中,扩展现实设备根据医学影像确定编码标记物的扫描空间位置,以及根据导航影像确定编码标记物的导航空间位置,进而根据扫描空间位置和导航空间位置,确定扫描坐标系和导航坐标系之间的第三空间转换关系。通过上述方法即可准确得到扫描坐标系和导航坐标系之间的空间转换关系,即第三空间关系,为后续实现病灶可视化呈现做好准确的数据基础,进而提高病灶定位的准确性。
编码标记物的结构特征可以在医学影像和导航影像中同时呈现,并且更能针对性地准确表征编码标记物。在一些实施例中,步骤1310可以通过图14所示的下述流程实现。
步骤1311,根据编码标记物的结构特征,确定编码标记物在医学影像中的目标空间区域和在导航影像中的目标图像区域。
编码标记物的结构特征为编码标记物在物理结构维度上的特征信息。例如,编码标记物的结构特征包括呈上下层叠设置的层状结构,可以包括呈螺纹状的旋转结构,还可以包括呈小圆围绕大圆设置的环绕结构。
在一些实施例中,扩展现实设备可根据编码标记物的结构特征在医学影像中确定与该结构特征所匹配的区域,作为目标空间区域;同理,扩展现实设备可根据编码标记物的结构特征在导航影像中确定与该结构特征所匹配的区域,作为目标图像区域。以编码标记物的结构特征为呈小圆围绕大圆设置的环绕结构为例,图15A所示的部分导航影像中的虚线框区域即为导航影像中与编码标记物的结构特征所匹配的目标图像区域。
步骤1312,根据定位块的几何特征和目标空间区域,确定定位块的空间位置,并作为扫描空间位置。
在一些实施例中,编码标记物可以包括定位块。如图15A、图15B所示,编码标记物可以包括定位块和编码物,结构特征呈编码物围绕定位块的环绕结构。其中,定位块用于定位编码标记物的位置,扩展现实设备可以基于定位块确定编码标记物的扫描空间位置以及编码标记物的导航空间位置。
定位块的几何特征可以是定位块的形状特征或者尺寸特征。在一些实施例中,在得到目标空间区域和目标图像区域后,扩展现实设备可根据定位块的几何特征在目标空间区域中识别出定位块,并确定定位
块的几何中心在扫描坐标系下的三维坐标,作为定位块的空间位置,进而将其作为扫描空间位置。
步骤1313,根据定位块的几何特征和目标图像区域,确定定位块的图像位置,并作为导航空间位置。
在一些实施例中,扩展现实设备可根据定位块的几何特征在目标图像区域中识别出定位块,并确定定位块的几何中心在导航坐标系下的三维坐标,作为定位块的图像位置。如图15B中定位块中心点S在导航坐标系下的三维坐标即为定位块的图像位置。
在一些实施例中,扩展现实设备可直接将定位块的空间位置作为编码标记物的扫描空间位置,以及将定位块的图像位置作为编码标记物的导航空间位置。
本说明书一些实施例中,扩展现实设备根据编码标记物的结构特征,确定编码标记物在医学影像中的目标空间区域和在导航影像中的目标图像区域,并根据定位块的几何特征和目标空间区域,确定定位块的空间位置,以及根据定位块的几何特征和目标图像区域,确定定位块的图像位置,进而将定位块的空间位置确定为编码标记物的扫描空间位置,并将定位块的图像位置确定为编码标记物的导航空间位置。上述方法中,编码标记物的结构特征可以在医学影像和导航影像中同时呈现,并且更能针对性地准确表征编码标记物,因此基于编码标记物的结构特征可准确确定编码标记物的扫描空间位置和导航空间位置,以提高第三空间转换关系的准确性。
在一些实施例中,目标部位上可以粘贴有多个编码标记物。不同编码标记物对应不同的编码信息,从而区别不同的编码标记物。下面将对上述根据扫描空间位置和导航空间位置,确定扫描坐标系和导航坐标系之间的第三空间转换关系的方式进行说明。在一些实施例中,步骤1320可以基于图16所示的下述流程实现。
步骤1321,识别医学影像中各编码标记物的编码信息,以及导航影像中各编码标记物的编码信息。
编码标记物的编码信息可通过编码标记物的结构特征表征,不同结构特征对应不同编码标记物,而不同编码标记物对应不同的编码信息。
在一些实施例中,扩展现实设备可通过识别编码标记物的结构特征的方式识别得到医学影像中各编码标记物的编码信息;同理,扩展现实设备也可通过识别编码标记物的结构特征的方式识别得到导航影像中各编码标记物的编码信息。其中,编码标记物的结构特征与编码信息的对应关系可预先设定。例如,针对于编码标记物呈一个小圆围绕一个大圆的结构特征,对应编码信息可以是1;针对于编码标记物呈两个小圆围绕一个大圆的结构特征,对应编码信息可以是2;针对于编码标记物呈三个小圆围绕一个大圆的结构特征,对应编码信息可以是3。
步骤1322,在医学影像和导航影像中确定对应相同编码信息的至少三个编码标记物。
在基于医学影像和导航影像所分别确定的编码标记物的编码信息中,若医学影像中所确定的编码标记物A的编码信息与导航影像中所确定的编码标记物B的编码信息相同,表征医学影像中的编码标记物A和导航影像中的编码标记物B为设置在目标部位上的同一编码标记物。
在一些实施例中,扩展现实设备得到医学影像中各编码标记物的编码信息,以及导航影像中各编码标记物的编码信息后,对医学影像和导航影像中的编码标记物进行编码信息的匹配,以确定医学影像和导航影像中对应相同编码信息的至少三个编码标记物。例如,医学影像中包括5个编码标记物,对应编码信息分别为001,002,003,004和005,导航影像中包括6个编码标记物,对应编码信息分别为001,002,004,005,007以及010,对医学影像和导航影像进行编码信息的匹配后,处理器就可确定出编码信息001,002以及004分别对应的编码标记物为医学影像和导航影像中确定对应相同编码信息的编码标记物。
步骤1323,根据至少三个编码标记物的扫描空间位置和导航空间位置,确定扫描坐标系和导航坐标系之间的配准矩阵,并将其作为第三空间转换关系。
在一些实施例中,扩展现实设备在得到医学影像和导航影像对应相同编码信息的至少3个编码标记物后,便可根据至少3个编码标记物的扫描空间位置和导航空间位置确定扫描坐标系和导航坐标系之间的配准矩阵,作为第三空间转换关系。
在一些实施例中,扩展现实设备可基于所得到的对应相同编码信息的编码标记物的扫描空间位置(x,y,z)和导航空间位置(X,Y,Z)以及配准矩阵T构建目标函数,并联列至少3个编码标记物所对应的目标函数,求解得到配准矩阵T,即第三空间转换关系。
示例性的目标函数满足下式:
下面将对上述根据导航影像中的编码标记物和全局标记物确定导航坐标系与全局坐标系之间的第二空间关系的方式进行说明。在一些实施例中,步骤1220可以基于图7所述的下述流程实现:
步骤1221,根据导航影像确定编码物标记物相对于全局标记物的参考空间位置。
其中,编码物标记物相对于全局标记物的参考空间位置为编码标记物在全局坐标系下的空间位置。
在一些实施例中,扩展现实设备可基于导航影像中的编码标记物确定编码标记物在导航坐标系下的第一空间位置,并基于导航影像中的全局标记物确定全局标记物在导航坐标系下的第二空间位置,进而根据第一空间位置和第二空间位置确定编码标记物和全局标记物之间的相对位置关系,再以第二空间位置为原点,根据相对位置关系确定编码物标记物相对于全局标记物的参考空间位置。
步骤1222,根据编码标记物在导航坐标系下的导航空间位置和参考空间位置,确定导航坐标系与全局坐标系之间的第二空间转换关系。
在一些实施例中,扩展现实设备基于导航影像得到编码标记物在导航坐标系下的导航空间位置,以及编码标记物在全局坐标下的参考空间位置后,可根据同一编码标记物的导航空间位置和参考空间位置确定导航坐标系与全局坐标系之间的第二空间转换关系。其中,参见步骤1321-步骤1323,扩展现实设备可根据至少3组同一编码标记物的导航空间位置和参考空间位置确定导航坐标系与全局坐标系之间的配准矩阵,作为第二空间转换关系。
本说明书一些实施例中,扩展现实设备根据导航影像确定编码物标记物相对于全局标记物的参考空间位置,进而根据编码标记物在导航坐标系下的导航空间位置和参考空间位置确定导航坐标系与全局坐标系之间的第二空间转换关系。通过上述方法即可得到准确得到导航坐标系和全局坐标系之间的空间转换关系,即第二空间转换关系,为后续实现病灶可视化呈现做好准确的数据基础,进而提高病灶定位的准确性。
在一些实施例中,目标部位中存在病灶区域,扩展现实设备可以确定病灶区域在全局坐标系下的空间位置。在一些实施例中,扩展现实设备可以在医学影像中识别出病灶区域,进而确定病灶区域在扫描坐标系下的空间位置,即病灶空间位置,基于第一空间转换关系对病灶空间位置进行转换,以将病灶区域转换至全局坐标系下,得到病灶区域在全局坐标系下的空间位置。
全局标记物独立于目标部位设置且与目标部位的位置相对固定,扩展现实设备将病灶区域转换至全局坐标系下,得到病灶区域在全局坐标系下的空间位置,直接以全局坐标系定位病灶区域,以便在后续过程中能够去除目标部位上的编码标记物,通过导航设备追踪全局标记物的位置,就能直接基于全局标记物位置确定病灶区域,同时提高了目标部位上的可操作空间。
在一些实施例中,还可以基于第二空间转换关系和第三空间转换关系,确定病灶区域在全局坐标系下的空间位置。下面将对基于第二空间转换关系和第三空间转换关系,确定病灶区域在全局坐标系下的空间位置的方式进行说明。图18是根据本说明书一些实施例所示的病灶区域在全局坐标系下的空间位置的示例性流程图。在一些实施例中,流程1800可以由扩展现实模块实现。如图18所示,流程1800包括下述步骤。
步骤1810,根据医学影像确定病灶区域的病灶空间位置。
病灶空间位置为病灶区域在扫描坐标系下的空间位置。
在一些实施例中,扩展现实设备可在医学影像中识别出病灶区域,进而确定病灶区域在扫描坐标系下的空间位置,即病灶空间位置。其中,扩展现实设备可根据病灶特征,如病灶的结构、形状、纹理等等的至少一项特征在医学影像中识别出病灶区域,还可以将医学影像输入病灶识别模型,以识别出医学影像中的病灶区域。本实施例中,对于病灶区域的识别方式并不做具体限制。
步骤1820,根据第三空间转换关系对病灶空间位置进行转换,得到病灶区域由扫描坐标系转换至导航坐标系后的转换空间位置。
在一些实施例中,扩展现实设备在得到病灶区域在扫描坐标系下的空间位置即病灶空间位置后,可利用第三空间转换关系对病灶空间位置进行转换,以将病灶区域转换至导航坐标系下,得到病灶区域在导航坐标系下的空间位置,作为病灶区域的转换空间位置。
步骤1830,根据第二空间转换关系对病灶区域的转换空间位置进行转换,得到病灶区域在全局坐标系下的空间位置。
在一些实施例中,扩展现实设备在得到病灶区域在导航坐标系下的空间位置即转换空间位置后,利用第二空间转换关系对病灶区域的转换空间位置进行转换,以将病灶区域再转换至全局坐标系下,即可得到病灶区域在全局坐标系下的空间位置。
本说明书一些实施例中,在得到扫描坐标系与导航坐标系之间的第三空间转换关系,以及导航坐标系与全局坐标系之间的第二空间转换关系后,扩展现实设备可根据扫描影像确定病灶区域的病灶空间位置,进而根据第三空间转换关系对病灶空间位置进行转换,得到病灶区域的转换空间位置,再根据第二空间关系对病灶区域的转换空间位置进行转换,得到病灶区域在全局坐标系下的空间位置。通过上述方法,可根据配准得到的第三空间转换关系和第二空间转换关系将病灶区域转换至全局坐标系下,得到病灶区域在全局坐标系下的空间位置,实现直接以全局坐标系定位病灶区域,以便在后续过程中能够去除目标部位上的编码标记物,通过导航设备追踪全局标记物的位置,就能直接基于全局标记物位置确定病灶区域,同时提高了目标部位上的可操作空间,避免因编码标记物占据空间所带来的操作不便。
本说明书一些实施例中,扩展现实设备可以获取目标部位的医学影像,对目标部位与医学影像进行配准,得到第一空间转换关系,减少了人工参与的处理量,有助于快速实现目标部位和医学图像的配准,提高配准的速度和配准的效率,以及提高配准的准确性。
在一些实施例中,当医生执行如前述实施例中任一项所述的配准方法时,可以通过信息显示装置(例如,图19所示的信息显示装置1900)进行显示,前述信息显示装置可以应用于扩展现实设备。
图19是根据本说明书一些实施例所示的信息显示装置的示例性模块图。
如图19所示,信息显示装置1900可以包括信息获取模块1910、显示模块1920。
信息获取模块1910,用于获取手术引导信息,手术引导信息包括目标部位的医学影像以及基于医学影像的路径规划信息。
显示模块1920,用于获取基于上述配准方法得到的第一空间转换关系,并基于第一空间转换关系将手术引导信息显示于目标部位。
在一些实施例中,医学影像包括相关于目标部位的目标模型,目标模型是基于目标部位的医学影像重建得到的,第一空间转换关系包括第一配准矩阵和第二配准矩阵,显示模块1920可以进一步用于获取第一配准矩阵和/或第二配准矩阵,并基于第一配准矩阵和/或第二配准矩阵将手术引导信息显示于目标部位,第一配准矩阵表示目标模型与目标部位之间的空间转换关系。
关于信息获取模块和显示模块的更多内容可以参见图19~图22及其相关描述。
需要注意的是,以上对于信息现实装置1900及其模块的描述,仅为描述方便,并不能把本说明书限制在所举实施例范围之内。可以理解,对于本领域的技术人员来说,在了解该系统的原理后,可能在不背离这一原理的情况下,对各个模块进行任意组合,或者构成子系统与其他模块连接。在一些实施例中,图1中披露的信息获取模块1910和显示模块1920可以是一个系统中的不同模块,也可以是一个模块实现上述的两个或两个以上模块的功能。例如,各个模块可以共用一个存储模块,各个模块也可以分别具有各自的存储模块。诸如此类的变形,均在本说明书的保护范围之内。
图20是根据本说明书一些实施例所示的信息显示方法的示例性流程图。在一些实施例中,图20所示的流程2000的一个或一个以上操作可以信息显示装置(例如,由图19所示的信息显示装置1900)实现。在一些实施例中,流程2000可以应用于扩展现实设备。如图20所示,流程2000包括下述步骤。
在一些实施例中,信息显示方法包括处理步骤和显示步骤。其中,处理步骤包括如下所述的步骤2010和步骤2020:
步骤2010,获取手术引导信息。
手术引导信息是指用于手术导航或手术操作的信息。手术引导信息包括目标部位的医学影像以及基于医学影像的路径规划信息。前述医学影像包括目标部位的目标模型,目标模型是基于目标部位的扫描数据重建得到的。
在一些实施例中,扩展现实设备可以获取医学影像采集设备扫描得到的目标部位的扫描数据,并基于扫描数据进行重建,获得目标模型,此外,还可以基于目标部位的医学影像进行穿刺路径规划,得到路径规划信息,进而确定手术引导信息。
在一些实施例中,术前影像规划系统可以获取医学影像采集设备扫描得到的目标部位的扫描数据,并对目标部位的扫描数据进行重建处理,得到目标部位的目标模型,同时,还可以基于目标部位的目标模型进行穿刺路径规划,得到路径规划信息,然后将目标部位的目标模型和路径规划信息均发送给扩展现实设备。
步骤2020,获取基于上述配准方法得到的第一空间转换关系。
关于第一空间转换关系的更多说明,可以参见图2及其相关描述。
显示步骤包括如下所述的步骤2030:
步骤2030,基于第一空间转换关系将手术引导信息显示于目标部位。
在一些实施例中,扩展现实设备可以基于第一空间转换关系,将目标部位、目标部位的医学影像以及医学影像的路径规划信息进行叠加,通过显示模块进行显示。
下面将对上述基于第一空间转换关系将手术引导信息显示于目标部位的方式进行说明。在一些实施例中,医学影像包括目标部位的目标模型,目标模型是基于目标部位的扫描数据重建得到的,第一空间转换关系包括第一配准矩阵。
在一些实施例中,扩展现实设备可以基于第一配准矩阵将手术引导信息显示于目标部位,关于第一配准矩阵的更多说明,可以参见本说明书上文相关描述。
在一些实施例中,基于扩展现实设备获取到第一配准矩阵,处理器可以基于第一配准矩阵对目标部位的目标模型和路径规划信息进行转换处理,得到转换后的目标模型和转换后的路径规划信息,进一步,将转换后的目标模型和转换后的路径规划信息均发送给扩展现实设备中的显示模块进行显示,即完成将手
术引导信息显示于目标部位。
在一些实施例中,基于获取到的第一配准矩阵对手术引导信息进行转换处理的方式可以是将第一配准矩阵与手术引导信息的坐标数据进行相乘处理。
其中,在显示模块将转换后的目标模型进行显示后,还可以根据实际需求,对所显示的目标模型进行模型材质调整、隐藏或分割、方位调整等等处理。
本说明书一些实施例中的信息显示方法可以获取手术引导信息以及第一配准矩阵,并基于第一配准矩阵将手术引导信息显示于目标部位;该方法能够将目标模型和路径规划信息与真实部位进行显示,可以直观让医生观看到目标模型和路径规划信息与真实部位进行叠加显示的结果,提高了医生的操作便利性,为后续操作打下了良好的基础。
在一些实施例中,将手术引导信息显示于目标部位之前,处理步骤还包括图21所示的流程2100,流程2100包括下述步骤:
步骤2110,获取目标模型的至少一个候选穿刺路径信息。
在一些实施例中,扩展现实设备或术前影像规划系统可以基于目标部位的目标模型进行病灶检测,确定目标部位的穿刺靶点,并对目标部位的目标模型进行组织分割、图像重建、血管避障和功能区分割等处理,获取包含穿刺起点和穿刺靶点的至少一个候选穿刺路径信息。
在一些实施例中,术前影像规划系统可以在目标模型中确定穿刺靶点,然后将穿刺靶点的位置发送给扩展现实设备,该情况下,术前影像规划系统可以输出该穿刺靶点所在的多平面重建(即MPR)视图以及得到该穿刺靶点在对应多平面重建视图上的坐标数据,其中,医生可以通过指令输入方式调整多平面重建视图上穿刺靶点的位置。在一些实施例中,多平面重建视图可以包括目标模型所在的影像空间坐标系中的xy平面重建视图、yz平面重建视图和xz平面重建视图。
在一些实施例中,扩展现实设备可以在目标模型中确定初始穿刺靶点,并调整初始穿刺靶点的位置,得到最终的穿刺靶点的位置。
在确定好穿刺靶点后,可以基于路径识别算法和血管调节算法通过穿刺靶点确定对应的穿刺起点。或者,目标部位的穿刺起点还可以为医生根据临床经验确定的。例如,目标部位为患者头部时,穿刺起点可以为穿刺入颅点。
步骤2120,将至少一个候选穿刺路径信息显示于目标模型中。
在一些实施例中,候选穿刺路径信息是基于目标模型所规划得到的,扩展现实设备可将目标模型和候选穿刺路径信息发送给扩展现实设备中的显示模块,以使得显示模块显示目标模型,并将候选穿刺路径信息显示于目标模型中。
在一些实施例中,穿刺路径信息可以包括穿刺点的坐标数据,对应地,候选穿刺路径信息可以包括候选穿刺路径上各穿刺点的坐标数据。
步骤2130,响应于对所显示的任一个候选穿刺路径信息的调整指令,对候选穿刺路径信息进行调整。
在一些实施例中,扩展现实设备可以接收医生输入的任一个候选穿刺路径信息的调整指令,并响应接收到的调整指令,对调整指令对应的候选穿刺路径信息进行调整,以调整候选穿刺路径信息,然后处理器将调整后的候选穿刺路径信息发送给显示模块,以使得显示模块将调整后的穿刺路径信息显示于目标模型中。
在一些实施例中,调整指令的输入方式也可以是语音、手势、按键、动作等方式;且调整指令中携带有不同候选穿刺路径信息的标识,以区别不同的候选穿刺路径信息,也就是不同的候选穿刺路径信息对应的调整指令不同。
在一些实施例中,在调整后的候选穿刺路径信息显示于目标模型后,并从目标模型中删除调整前的对应候选穿刺路径信息。在一些实施例中,即使对一些候选穿刺路径信息调整后,也无法满足实际穿刺条件,此时,可以将这些候选穿刺路径信息删除,并将满足实际穿刺条件的调整后的候选穿刺路径信息和未调整的候选穿刺路径信息与目标模型进行叠加显示即可。
本说明书实施例中的信息显示方法可以将目标部位的目标模型进行显示,并针对所显示的目标模型直观地进行穿刺路径规划,提高了医生的操作便利性,为后续操作打下了良好的基础。
在一些实施例中,将手术引导信息显示于目标部位之前,处理步骤还可以包括图22所示的流程2200,流程2200包括下述步骤:
步骤2210,获取目标模型的至少一个候选穿刺路径信息。
步骤2220,将至少一个候选穿刺路径信息显示于目标模型中。
关于步骤2210和步骤2220的具体说明可参见上述步骤2110和2120的具体说明,此处不再赘述。
步骤2230,响应于对所显示的任一个候选穿刺路径信息的选择指令,确定候选穿刺路径信息为路径规划信息。
在一些实施例中,显示模块可以接收医生根据临床经验输入的选择指令,并响应该选择指令,从显示的至少一个候选穿刺路径信息中直接选取满足穿刺条件的候选穿刺路径信息,确定为路径规划信息。其中,选择指令中可以携带不同候选穿刺路径信息的标识,以区别不同的候选穿刺路径信息。
在一些实施例中,显示模块还可以接收医生输入的选择指令,并响应该选择指令,通过血管智能避障算法验证所有候选穿刺路径信息中满足穿刺条件的候选穿刺路径信息,并将筛选出的候选穿刺路径信息确定为路径规划信息。其中,满足穿刺条件可以理解为所有候选穿刺路径信息中避开目标部位中血管等重要结构的穿刺路径信息。
本说明书实施例中的信息显示方法可以将目标部位的目标模型进行显示,并针对所显示的目标模型直观地进行穿刺路径规划,提高了医生的操作便利性,为后续操作打下了良好的基础。
在一些实施例中,还可以基于导航装置(例如,图23所示的导航装置2300)进行导航以实现对患者的手术(如,介入手术),前述导航装置可以应用于扩展现实设备。
图23是根据本说明书一些实施例所示的导航装置的示例性模块图。如图23所示,导航装置2300可以包括接收模块2310、确定模块2320。
接收模块2310,用于接收交互部件发送的感应信息。
确定模块2320,用于基于感应信息,确定穿刺信息。
在一些实施例中,感应信息包括第二感应信号,第二感应信号为交互部件响应于导向器械在目标部位上运动生成的,穿刺信息包括导向器械中的穿刺通道对应的穿刺角度,导向器械连接于交互部件,确定模块2320包括第一确定模块2321和第二确定模块2322。
第一确定模块2321,用于根据第二感应信号,确定导向器械的姿态信息。
第二确定模块2322,用于基于导向器械的姿态信息,确定穿刺通道对应的穿刺角度。
本实施例提供的导航装置,接收交互部件发送的第二感应信号,并根据第二感应信号,确定导向器械的姿态信息,从而基于导向器械的姿态信息,确定穿刺通道的穿刺角度。由于导向器械连接于交互部件,因此交互部件和导向器械也具有固定的位姿关系。并且导向器械具有穿刺通道,故而,在医生利用导向器械对目标部位进行操作的过程中,扩展现实设备就能根据第二感应信号,确定导向器械的姿态信息,以确定穿刺通道的穿刺角度,提高操作的灵活性和准确性。
在一些实施例中,感应信息包括第三感应信号,第三感应信号是在导向器械感应到穿刺器械的情况下由导向器械生成的,导向器械连接于交互部件,且导向器械具有用于供穿刺器械插入的穿刺通道,穿刺信息包括穿刺器械的穿刺深度,确定模块2320包括第三确定模块2323。
第三确定模块2323,用于根据第三感应信号,确定穿刺器械的穿刺深度。
本实施例提供的导航装置,接收交互部件发送的第三感应信号,并根据第三感应信号,确定穿刺器械的穿刺深度。由于第三感应信号为在导向器械感应到穿刺器械的情况下由导向器械生成的,因此,扩展现实设备能够根据第三感应信号确定穿刺器械的穿刺深度,提高操作的灵活性和准确性。
上述导航装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
关于接收模块、确定模块、第一确定模块、第二确定模块和第三确定模块的更多内容可以参见图25~图29及其相关描述。
需要注意的是,以上对于导航装置2300及其模块的描述,仅为描述方便,并不能把本说明书限制在所举实施例范围之内。可以理解,对于本领域的技术人员来说,在了解该系统的原理后,可能在不背离这一原理的情况下,对各个模块进行任意组合,或者构成子系统与其他模块连接。在一些实施例中,图23中披露的接收模块2310、确定模块2320、第一确定模块2321、第二确定模块2322和第三确定模块2323可以是一个系统中的不同模块,也可以是一个模块实现上述的两个或两个以上模块的功能。例如,各个模块可以共用一个存储模块,各个模块也可以分别具有各自的存储模块。诸如此类的变形,均在本说明书的保护范围之内。
图24是根据本说明书一些实施例所示的导航装置的另一示例性模块图。如图24所示,导航装置2400可以包括扩展现实设备3111,扩展现实设备3111包括第一处理器2411和显示模块1920。
第一处理器2411,用于执行上述配准方法以及执行上述信息显示方法中的处理步骤。需要说明的是,以下实施例中为了将扩展现实设备与路径导向设备中的处理器进行区分,将扩展现实设备定义为第一处理器,将路径导向设备中的处理器定义为第二处理器。
显示模块1920,用于执行上述信息显示方法中的显示步骤。
如图30所示为导航装置的一种应用场景图,图30中示出了导航装置中的扩展现实设备,且是以扩展现实设备为AR眼镜为例进行示意的。可选地,扩展现实设备中的显示模块可以理解为用户界面(User
Interface,UI),用于采用视觉交叉算法实现显示。
在一些实施例中,上述第一处理器2411可以获取目标部位的目标模型,并基于目标模型的空间信息和目标部位的全局空间信息进行配准处理,确定第一配准矩阵。关于目标模型、全局空间信息以及第一配置矩阵的更多说明可以参加上文相关描述。
同时,上述第一处理器2411还可以获取手术引导信息以及第一配准矩阵,并基于第一配准矩阵对手术引导信息进行转换处理,得到转换后的目标模型和转换后的路径规划信息,进一步,将转换后的目标模型和转换后的路径规划信息均发送给扩展现实设备中的显示模块进行显示,即完成将手术引导信息显示于目标部位。在一些实施例中,手术引导信息包括目标部位的目标模型和目标模型的路径规划信息。
在一些实施例中,在将手术引导信息显示于目标部位之前,第一处理器2411还可以获取目标模型的至少一个候选穿刺路径信息,将至少一个候选穿刺路径信息显示于目标模型中,并响应于对所显示的任一个候选穿刺路径信息的调整指令,对候选穿刺路径信息进行调整。另外,在将手术引导信息显示于目标部位之前,第一处理器2411还可以获取目标模型的至少一个候选穿刺路径信息,将至少一个候选穿刺路径信息显示于目标模型中,并响应于对所显示的任一个候选穿刺路径信息的选择指令,确定候选穿刺路径信息为路径规划信息。
关于扩展现实设备、第一处理器、显示模块的更多内容可以参见上下文相关描述。
需要注意的是,以上对于导航装置2400及其模块的描述,仅为描述方便,并不能把本说明书限制在所举实施例范围之内。可以理解,对于本领域的技术人员来说,在了解该系统的原理后,可能在不背离这一原理的情况下,对各个模块进行任意组合,或者构成子系统与其他模块连接。在一些实施例中,图24中披露的第一处理器2411、显示模块1920可以是一个系统中的不同模块,也可以是一个模块实现上述的两个或两个以上模块的功能。例如,各个模块可以共用一个存储模块,各个模块也可以分别具有各自的存储模块。诸如此类的变形,均在本说明书的保护范围之内。
上述一些实施例中介绍了配准过程。而在医学领域中,如何利用导航技术对目标部位进行导航,以辅助医生准确完成对目标部位的操作,也是本领域人员的重点研究内容。因此,下述将对导航过程进行详细的介绍。
在完成配准过程后,第二采点工具就可以暂不使用,因此医生将第二采点工具从交互部件的机械接口上卸下,然后对交互部件进行无菌处理,无菌处理的处理方式可以包括紫外线处理、高温高压处理、无菌套处理等中的至少一种。
以无菌套处理为例,医生在拆分交互部件和第二采点工具后,将交互部件放入无菌套中,无菌套上有磁吸片,该磁吸片用于和交互部件吸附对齐,无菌套针对交互部件的遥感、按键等交互元件部分有对应的凸起设计,从而交互部件可以在无菌套内自由活动并且不发生滑移。
在对交互部件进行无菌处理之后,医生就可以借助无菌状态下的交互部件和导向器械,或交互部件、导向器械以及穿刺器械操作目标部位,在借助导向器械或者穿刺器械完成对目标部位操作的过程中,扩展现实设备能够确定导向器械或者穿刺器械的导航信息,并显示该导航信息。
图25是根据本说明书一些实施例所示的导航方法的示例性流程图。在一些实施例中,图25所示的流程2500的一个或一个以上操作可以由导航装置(例如,图23所示的导航装置2300)实现。如图25所示,流程2500包括下述步骤。
步骤2310,接收交互部件发送的感应信息。
感应信息是指交互部件发送的与穿刺过程相关的信息。在一些实施例中,感应信息包括第二感应信号,第二感应信号为交互部件响应于导向器械在目标部位上运动(例如,移动或变化姿态)生成的。
在一些实施例中,医生在对交互部件进行无菌处理之后,将交互部件和导向器械连接,例如,医生可以继续通过交互部件上的机械接口连接交互部件和导向器械。其中,导向器械包括具有穿刺通道的器械,用于辅助医生对目标部位进行操作。例如,导向器械可以为导向器。
需要说明的是,交互部件上可以仅设置一个通用的机械接口,也可以设置多种不同类型和规格的机械接口,以适配不同的医疗器械。
图27为本说明书一些实施例中交互手柄和导向器的连接示意图,如图27所示,以交互部件为交互手柄、导向器械为导向器为例,医生可以将交互手柄与导向器连接。
进而,在上述配置过程的基础上,医生就可以佩戴扩展现实设备,手持交互手柄,利用与交互手柄连接的导向器械,基于显示的医学影像完成对目标部位的操作。在一些实施例中,交互部件中可以集成第二传感器,例如第二传感器是重力传感器,当医生利用导向器械在目标部位上移动或者变换姿态时,交互部件的第二传感器可以生成第二感应信号并向扩展现实设备发送该第二感应信号,从而扩展现实设备就接收到了交互部件发送的第二感应信号。
在一些实施例中,感应信息包括第三感应信号,第三感应信号为导向器械响应于导向器械感应到穿
刺器械的情况下生成的。导向器械连接于交互部件,且导向器械具有用于供穿刺器械插入的穿刺通道。
在一些实施例中,如果已经确定了穿刺角度和穿刺位置,那么医生就可以利用穿刺器械对目标部位进行穿刺。
穿刺器械可以是穿刺针、骨钻等进行穿刺的器械。导向器械内集成有第三传感器,因此,当穿刺器械在导向器械的穿刺通道内进行移动时,导向器械可以在感应到穿刺器械的情况下,由第三传感器生成第三感应信号。进一步地,导向器械通过交互部件中的机械接口,向交互部件中的处理器发送该第三感应信号。交互部件在接收到该第三感应信号之后,向扩展现实设备发送该第三感应信号。故而,扩展现实设备就能接收到交互部件发送的第三感应信号。
步骤2320,基于感应信息,确定穿刺信息。
穿刺信息是基于感应信息经过处理后得出的穿刺操作参数。例如,穿刺信息可以包括穿刺点、穿刺角度、穿刺深度等。
在一些实施例中,穿刺信息包括导向器械中的穿刺通道对应的穿刺角度,导向器械连接于交互部件。下面将对上述基于感应信息,确定穿刺角度的方式进行进一步说明。在一些实施例中,步骤2320可以通过图26所示的流程2600实现。
步骤2610,根据第二感应信号,确定导向器械的姿态信息。
在一些实施例中,扩展现实设备接收到了第二感应信号之后,就会根据第二感应信号,确定导向器械的姿态信息。图28为确定导向器械的姿态信息的过程示意图。以交互部件为交互手柄、导向器械为导向器为例,如图28所示,当医生需要对目标部位进行穿刺时,首先需要确定一个合适的穿刺位置,故而医生借助交互手柄,将导向器在目标部位上移动。
在医生移动导向器的过程中,交互手柄也随之移动。在交互手柄和导向器移动的过程中,交互手柄上的重力传感器就会向扩展现实设备发送第二感应信号,第二感应信号包括重力传感器确定的重力数据,重力数据可以是交互手柄当前的重力加速度。
如图28所示,重力传感器对应坐标系为坐标系G,也即,交互手柄的重力数据的方向总是竖直向下。交互手柄预设有坐标系,例如以交互手柄的质心为原点建立图28所示的坐标系XYZ。
进一步地,扩展现实设备在接收到了交互手柄发送的第二感应信号后,就能够根据第二感应信号,确定交互手柄的重力数据与坐标系XYZ三个方向上的夹角,进而根据交互手柄的重力数据与坐标系XYZ三个方向上的夹角,确定交互手柄的姿态信息。由于交互手柄与导向器具有固定位姿关系,因此也就也可以基于交互手柄的姿态信息换算出导向器的姿态信息,也即导向器穿刺通道的姿态信息。
步骤2620,基于导向器械的姿态信息,确定穿刺通道对应的穿刺角度。
在一些实施例中,扩展现实设备在确定了导向器械的姿态信息后,就可以基于导向器械的姿态信息,确定穿刺通道对应的穿刺角度。其中,穿刺通道对应的穿刺角度用于指示穿刺通道与目标部位之间的相对角度。
继续上述的示例,当扩展现实设备确定了导向器的穿刺通道的姿态信息,也即导向器的姿态信息后,就可以确定导向器中穿刺通道对应的穿刺角度,进一步地,扩展现实设备可以显示或者语音播报该导向器穿刺通道对应的穿刺角度,以由医生根据显示的实时变化的穿刺角度,确定最优的穿刺角度。
在一些实施例中,扩展现实设备也可以利用第三标记物的方式,确定导向器械的位姿信息,从而根据确定穿刺通道的穿刺位置和穿刺角度。第三标记物可以与交互部件和/或导向器械具有固定位姿关系。例如,第三标记物与导向器械相对静止,也就是说,第三标记物设置于导向器械上。进而,在医生佩戴扩展现实设备,并利用导向器械在目标部位上移动的过程中,扩展现实设备能够根据第三标记物确定导向器械在导航坐标系下的坐标数据,进而扩展现实设备利用导航坐标系与全局坐标系之间的第二空间转换关系,就能确定导向器械的位姿信息。第三标记物也可以是定位小球、编码靶标、二维码,本实施例不做限制。
如此,在利用交互部件和穿刺器械对目标部位进行操作的过程中,医生能够准确地确定穿刺位置和穿刺角度,以实现对目标部位的导航,从而辅助医生准确且高效地完成后续的操作。
本实施例提供的导航方法,扩展现实设备接收交互部件发送的第二感应信号,并根据第二感应信号,确定导向器械的姿态信息,从而基于导向器械的姿态信息,确定穿刺通道的穿刺角度。由于导向器械连接于交互部件,因此交互部件和导向器械也具有固定的位姿关系。并且导向器械具有穿刺通道,故而,在医生利用导向器械在目标部位上进行移动的过程中,扩展现实设备就能根据第二感应信号,确定导向器械的姿态信息,以确定穿刺通道的穿刺角度,提高操作的灵活性和准确性。
在一些实施例中,穿刺信息还可以包括穿刺器械的穿刺深度,扩展现实设备还可以根据第三感应信号,确定穿刺器械的穿刺深度。在图29的基础上,扩展现实设备可以根据第三感应信号确定穿刺器械的穿刺深度,其用于指示穿刺器械在目标部位中的穿刺深度。
进一步地,扩展现实设备确定了穿刺器械的穿刺深度后,可以实时显示或者语音播报穿刺器械的穿
刺深度,从而医生能够根据穿刺器械的穿刺深度确定是否穿刺到合适位置,以辅助医生更好地完成对应的操作。
如此,在利用交互部件和穿刺器械对目标部位进行操作的过程中,医生能够准确地确定穿刺深度,以进一步地实现对目标部位的导航,从而辅助医生准确且高效地完成对目标部位的操作。
本实施例提供的导航方法,扩展现实设备接收交互部件发送的第三感应信号,并根据第三感应信号,确定穿刺器械的穿刺深度。由于第三感应信号为在导向器械感应到穿刺器械的情况下由导向器械生成的,因此,扩展现实设备能够根据第三感应信号确定穿刺器械的穿刺深度,提高操作的灵活性和准确性。
本说明书一些实施例中,扩展现实设备可以基于穿刺信息进行精确的穿刺操作,从而提高了穿刺的准确性和安全性,减少了医疗差错和并发症的发生。
图31是根据本说明书一些实施例所示的医学系统的示意图。
如图31所示,医学系统3100可以包括扩展现实设备3111。在一些实施例中,扩展现实设备3111能够执行本说明书前述配准方法、信息显示方法和导航方法中的一种或多种。
在一些实施例中,医学系统3100还包括相机模块3112,相机模块3112用于对目标部位和目标部位的参考标记物进行拍摄。相机模块3112可以设置在扩展现实设备3111中,或独立于扩展现实设备3111设置。相机模块3112可以对目标部位和目标部位的参考标记物进行拍摄得到目标图像,以使扩展现实设备中的第一处理器对目标图像进行特征识别,得到目标部位的特征点(例如,真实面部区域的特征点)在导航坐标系下的坐标数据,以及参考标记物在导航坐标系下的坐标数据。
在一些实施例中,医学系统3100还可以包括第一采点工具3113,相机模块3112可以用于对第一采点工具3113和参考标记物进行追踪。第一采点工具3113用于实现目标部位的采点操作,并通过相机模块3112对第一采点工具3113和目标部位的参考标记物进行追踪,得到目标部位的特征点(例如,真实面部区域的特征点)在导航坐标系下的坐标数据,以及参考标记物在导航坐标系下的坐标数据。
在本说明书一些实施例中,可以采用一种或两种方式能够获取到目标部位的特征点在导航坐标系下的坐标数据。这里需要说明的是,若扩展现实设备3111中包括相机模块3112,但医学系统3100中未包括第一采点工具3113,则可以通过拍摄的方式获取目标部位的特征点在导航坐标系下的坐标数据;若医学系统中包括第一采点工具3113且扩展现实设备3111中也包括相机模块3112,则可以通过追踪的方式或拍摄的方式获取目标部位的特征点在导航坐标系下的坐标数据,还可以通过两种方式分别获取到目标部位的特征点在导航坐标系下的坐标数据,然后将两种方式对应的坐标数据求平均得到目标部位的特征点在导航坐标系下的最终坐标数据。
在一些实施例中,医学系统3100还包括路径导向设备3114,路径导向设备3114包括第二处理器3114-1和导向模块3114-2。
在一些实施例中,相机模块3112还用于对导向模块3114-2和参考标记物进行追踪,得到第一追踪信息并发送给扩展现实设备3111(例如,扩展现实设备3111的第一处理器2411);扩展现实设备3111可以用于向第二处理器3114-1发送第一追踪信息、第一配准矩阵和路径规划信息;第二处理器3114-1可以用于基于第一追踪信息、第一配准矩阵和路径规划信息,控制导向模块3114-2运动至目标位姿。
其中,第一追踪信息可以包括导向模块3114-2在导航坐标系下的坐标数据和参考标记物在导航坐标系下的坐标数据。
另外,如图32所示为医学系统的一种应用场景图,医学系统3100还包括控制系统,图32中示出了医学系统中的扩展现实设备、控制系统和路径导向设备,且是以扩展现实设备为AR眼镜为例进行示意的。其中,扩展现实设备、控制系统和路径导向设备之间均可以通信连接,示例性的连接方式可以包括蓝牙、移动网络、wifi等方式。上述控制系统可以为各种个人计算机、笔记本电脑、智能手机、平板电脑和便携式可穿戴设备,还可以用独立的服务器或者是多个服务器组成的服务器集群来实现,但不限于这些,本实施例对控制系统的具体形式不做限定。
其中,上述控制系统,用于接收扩展现实设备3111(例如,扩展现实设备3111的第一处理器2411)发送的第一追踪信息、第一配准矩阵和路径规划信息,并将第一追踪信息、第一配准矩阵和路径规划信息发送给路径导向设备3114的第二处理器。在一些实施例中,上述路径导向设备3114还包括目标部位固定系统(图未示出)。在手术过程中,目标部位固定系统,用于在医生的控制下对目标部位的自适应固定,以防止在手术过程中目标部位出现晃动现象;第二处理器3114-1,用于基于扩展现实设备发送的第一追踪信息、第一配准矩阵和路径规划信息,控制导向模块3114-2运动至目标位姿。
在一些实施例中,相机模块3112可以同时对导向模块3114-2和目标部位的参考标记物进行追踪,得到导向模块3114-2在导航坐标系下的坐标数据和参考标记物在导航坐标系下的坐标数据,也即第一追踪信息,并将第一追踪信息发送给扩展现实设备3111(例如,扩展现实设备3111的第一处理器2411),然后扩展现实设备3111将第一追踪信息、第一配准矩阵和路径规划信息发送给第二处理器3114-1。
进一步,第二处理器3114-1可以根据第一处理器2411发送的第一追踪信息、第一配准矩阵和路径规划信息,控制导向模块运动至目标位姿。其中,由于第一追踪信息是导向模块3114-2在导航坐标系下的坐标数据和参考标记物在导航坐标系下的坐标数据,因此对第一追踪信息进行处理可以获取导向模块3114-2在全局坐标系下的坐标数据;另外,由于第一配准矩阵表示目标模型与目标部位之间的空间转换关系,能够表示扫描坐标系和全局坐标系之间的空间转换关系,且路径规划信息是扫描坐标系下的坐标数据,因此对第一配准矩阵和路径规划信息进行处理,能够将扫描坐标系下的路径规划信息转换到全局坐标系下;进一步,第二处理器3114-1可以根据获取到的导向模块3114-2在全局坐标系下的坐标数据,以及全局坐标系下的路径规划信息,以控制导向模块3114-2运动至目标位姿,并在该目标位姿下控制穿刺针实行穿刺操作。其中,在配准足够精准以及追踪精度足够高的情况下,此时可以控制穿刺针按照目标模型中所规划的路径在真实目标部位进行穿刺操作。
本说明书实施例可以通过扩展现实设备3111对路径导向设备3114中的导向模块3114-2和目标部位的参考标记物进行追踪,以使得导向模块3114-2能够基于追踪结果运动至合适的目标位姿,使得穿刺操作不仅精确度高,而且穿刺操作的速度较快。
在一些实施例中,医学系统3100还包括手术器械3115,相机模块3112还用于对手术器械3115和参考标记物进行追踪,得到第二追踪信息并发送给扩展现实设备3111。其中,第二追踪信息包括手术器械3115在导航坐标系下的坐标数据和导航标记物在相机坐标系下的坐标数据。
在一些实施例中,在将目标部位的目标模型和目标模型的路径规划信息叠加显示于目标部位之后,还可以对手术器械3115和目标部位的参考标记物进行追踪,以将手术器械3115对应的器械模型与目标部位叠加显示,也即将目标部位的目标模型、目标模型的路径规划信息和器械模型均叠加显示于目标部位,使得医生能够直观地确定手术器械与目标部位的相对位姿关系。
在一些实施例中,扩展现实设备3111还用于基于第二追踪信息,控制显示模块将手术器械3115对应的器械模型显示于目标部位。可选地,扩展现实设备3111可以基于手术器械3115在导航坐标系下的坐标数据和参考标记物在导航坐标系下的坐标数据,获取手术器械3115在全局坐标系下的坐标数据,进而使得显示模块将手术器械3115对应的器械模型叠加显示于目标部位,进一步地,由于目标部位已叠加显示有目标部位的目标模型,因此器械模型与目标模型的相对位姿关系能够反映手术器械3115与目标部位的相对位姿关系。
这里需要说明的是,手术器械3115的器械模型可以为二维模型或三维模型,扩展现实设备还可包括存储器,存储器可预先存储有多个手术器械3115所分别对应的器械模型,通过相机模块3112可识别出当前所追踪的手术器械3115,进而扩展现实设备可从预先存储的多个器械模型中识别出当前所追踪的手术器械3115对应的器械模型。
另外,在执行上述步骤之后,扩展现实设备3111还可以基于目标部位处所显示的器械模型与目标部位处所显示的路径规划信息之间的位置关系,输出操作提醒信息。需要说明的是,本实施例中的目标部位处所显示的器械模型与目标部位处所显示的路径规划信息均叠加显示于已叠加显示有目标模型的目标部位,也即本实施例中的目标部位上同时显示有目标模型、路径规划信息和器械模型,器械模型与目标模型之间的相对位姿关系能够真实反映手术器械3115与目标部位之间的相对位姿关系,器械模型与路径规划信息之间的相对位姿关系能够真实反映手术器械3115的实际执行路径与所规划的路径之间的相对位姿关系。
由于目标部位处所显示的器械模型与目标部位处所显示的路径规划信息之间的相对位姿关系,能够真实反映手术器械3115的实际执行路径与所规划的路径之间的相对位姿关系,因此可基于目标部位处所显示的器械模型与目标部位处所显示的路径规划信息之间的相对位姿关系,输出操作提醒信息,以使得医生根据操作提醒信息对手术器械的位姿进行调整。可选地,操作提醒信息可以为手术器械3115从当前位置移动至正确操作位置的移动方向和位移,如东南1cm、东北1.2cm、西北0.9cm、西南1.1cm等等。操作提醒信息可以通过显示模块进行显示,也可通过语音等方式进行输出提醒。
本说明书实施例可以通过扩展现实设备3111对手术器械3115和目标部位的参考标记物进行追踪,以将不同时刻的器械模型、目标模型、路径规划信息均叠加显示于目标部位,使得医生能够直观地观察到不同时刻手术器械的操作位置。
在一些实施例中,医学系统3100还包括交互部件3116和第二采点工具3117。第二采点工具3117用于在感应到目标部位的兴趣点的情况下,生成第一感应信号并发送给交互部件3116;交互部件3116用于在接收到第一感应信号的情况下,响应于用户操作,生成采集信号并发送给扩展现实设备3111;扩展现实设备3111,用于响应于采集信号,确定目标部位的兴趣点的位置信息,以基于目标部位的兴趣点的位置信息和目标部位的医学影像,对目标部位和医学影像进行配准,得到第二配准矩阵。
在一些实施例中,医学系统3100还包括第一标记物3118和第二标记物3119,第一标记物3118设
置于目标部位,第二标记物3119设置于第二采点工具;扩展现实设备3111响应于采集信号,获取第一标记物的第一坐标数据和第二标记物的第二坐标数据,并基于第一坐标数据和第二坐标数据,确定目标部位的兴趣点的位置信息。
在一些实施例,第二采点工具3117包括第二采点工具本体3117-1和设置于第二采点工具本体3117-1的第一传感器3117-2,第一传感器3117-2用于在感应到目标部位的兴趣点的情况下生成第一感应信号。
以交互部件3116为交互手柄、第二采点工具3117包括注册探针举例,在医生佩戴扩展现实设备3111,并手持交互手柄时,医生可以利用注册探针的末端接触目标部位的兴趣点。当注册探针末端接触到目标部位的兴趣点时,注册探针末端集成的第一传感器3117-2会生成第一感应信号,并且第一传感器3117-2会将第一感应信号通过机械接口发送给交互手柄。其中,注册探针上的第一传感器3117-2可以是压感传感器。
进一步地,交互手柄在接收到第一感应信号的情况下,将采集功能由禁止状态切换为使能状态,并且交互手柄在采集功能为使能状态的情况下,响应于用户操作后,才会生成采集信号,并将采集信号发送给扩展现实设备3111。
更进一步地,扩展现实设备3111就能够接收到该采集信号,进而获取第一标记物3118的第一坐标数据和第二标记物3119的第二坐标数据,并基于第一坐标数据和第二坐标数据,确定目标部位的兴趣点的位置信息,从而基于位置信息与目标部位的医学影像进行配准,得到第二配准矩阵。
交互部件3116和第二采点工具3117还可以是其他设备,以三维扫描仪和交互手柄为例,三维扫描仪识别到目标部位的兴趣点时生成第一感应信号,并将第一感应信号发送给交互部件3116其他过程原理与交互手柄和注册探针的配准过程相同,此处不再赘述。
为了减小配准过程中的硬件成本,并且提高医生操作的灵活性,可选的,第二采点工具3117包括注册探针,注册探针末端集成有第一传感器,第一传感器,用于在注册探针末端接触到目标部位的兴趣点的情况下生成第一感应信号。故而,医生手持交互部件和注册探针时,能够更加灵活快捷地完成配准过程。
本实施例提供的医学系统,利用交互部件、第二采点工具以及扩展现实设备的互相配合,能够保证最终确定的目标部位的兴趣点的位置信息的准确性,进而提高了第二配准矩阵的准确性,从而提高了配准过程的准确性。
如此,在扩展现实设备3111完成配准过程后,就可以显示全局坐标系下的医学影像,例如扩展现实设备3111利用全息投影技术将该医学影像投影在医生的视野范围内。故而,医生能够基于显示的医学影像对目标部位进行后续的操作。图33为本说明书实施例中一种医学影像的显示示意图。以目标部位为头部,医学影像为携带有路径规划信息的头部的CT影像为例,由于对头部和该医学影像进行了配准,因此一种显示的方式可以包括,该医学影像的大小比例与实际的头部大小相同,扩展现实设备3111将医学影像与头部位置进行1:1重叠,并且在重叠时降低了医学影像的透明度,使得医生的视野中既能观测到实际的目标部位,也可以看到医学影像。
本说明书一些实施例中,由于医生的视野范围内已经显示了全局坐标系下的医学影像,因此医生在对目标部位进行操作的过程无需频繁切换视线,从而提高了医生操作效率。
在一些实施例中,医学系统3100还包括交互部件3116、导向器械3120和穿刺器械3121;导向器械3120与交互部件3116连接,导向器械3120具有穿刺通道,穿刺通道用于供穿刺器械3121插入。
在一些实施例中,交互部件3116用于生成第二感应信号并发送给扩展现实设备3111;导向器械3120用于在感应到穿刺器械3121的情况下,生成第三感应信号并发送给扩展现实设备3111。扩展现实设备3111用于根据第二感应信号确定穿刺通道对应的穿刺角度,并用于根据第三感应信号确定穿刺器械3121的穿刺深度。
在一些实施例中,交互部件3116包括交互部件本体3116-1和设置于交互部件本体3116-1的第二传感器3116-2,导向器械3120包括导向器械本体3120-1和设置于导向器械本体3120-1的第三传感器3120-2。第二传感器3116-2用于生成第二感应信号;第三传感器3120-2用于在感应到穿刺器械3121的情况下生成第三感应信号。
其中,第二传感器3116-2可以包括重力传感器,第三传感器3120-2可以包括行程传感器。
关于导向器械、穿刺器械的更多说明,可以参见图25~图29及其相关描述。
本说明书实施例还提供的了一种医学系统,如图34所示,该医学系统包括:编码标记物3420、全局标记物3430和配准工作站3410。
其中,编码标记物3420用于设置在目标部位。全局标记物3430独立于目标部位设置并与目标部位位置相对固定。配准工作站3410可以相当于本说明书前文所述的配准装置。
在一些实施例中,目标部位中存在病灶区域。例如,目标部位可以为患者头部,前述头部中存在肿瘤。
配准工作站3410用于获取目标部位的医学影像和导航影像,根据导航影像中的编码标记物和全局标记物,确定导航坐标系与全局坐标系之间的第二空间转换关系,根据医学影像中的编码标记物和导航影像中的编码标记物,确定扫描坐标系和导航坐标系之间的第三空间转换关系,并根据第二空间转换关系和第三空间转换关系,确定目标部位在全局坐标系下的空间位置,前述目标部位在全局坐标系下的空间位置可以包括病灶区域在全局坐标系下的空间位置。
需要说明的是,本实施例所提供的医学系统用于实现上述任一项实施例中的配准方法、信息显示方法和导航方法,具体过程参见相应实施例中的内容,在此不再赘述。
其中,配准工作站3410可是独立的计算机设备,可以是其他形式具备算力的设备系统。例如,为提高应用便捷性,配准工作站3410包括扩展现实设备。例如,配准工作站3410可以为穿戴式扩展现实设备(如,虚拟现实眼镜、虚拟现实头盔等)。为扩展现实设备配置相应的算力实现上述配准算法,扩展现实设备可直接输出显示目标部位的空间位置,以供扩展现实设备的使用者进行后续操作。
在一些实施例中,提高配准工作站3410的算力,配准工作站3410还包括配准计算机,配准计算机与穿戴式扩展现实设备相互通信。其中,配准计算机用于执行上述配准方法,并将所得到的目标部位的空间位置通过扩展现实设备输出显示,以供扩展现实设备的使用者进行后续操作。
其中,配准计算机与扩展现实设备直接可以通过无线方式,如蓝牙、wifi,进行通信,也可以通过数据线的有线方式进行通信。本实施例中,对于配准计算机与穿戴式扩展现实设备之间的通信方式并不做具体限制。
在当执行本说明书一些实施例中所述的基于医学影像中的编码标记物和导航影像中的编码标记物进行配准时,在进行对应的配准方法之前,所需进行的准备工作如下:
在目标部位设置至少一个编码标记物3420,并且在目标部位所处环境中设置有与目标部位位置相对固定的全局标记物3430。其中,编码标记物3420可在医学影像中显影。
如图34所示,当目标部位可以是被测对象的头部时,在被测对象的头部通过粘贴的方式设置多个编码标记物3420(图中示出6个),全局标记物3430通过固定支架,如图中的所示的三钉式头架与被测对象的头部固定。其中,全局标记物3430可以随头部的移动而移动,但与头部的相位位置固定。
可选地,编码标记物3420和全局标记物3430的表面设置有标记点3411,标记点3411用于形成标记物的编码信息,不同编码信息表征不同的标记物,以区分标记物。
可选地,标记物的编码方式有多种,可基于标记点3411的数量、形状、结构形式中的至少一项进行。其中,标记点3411的结构形式包括立体式和平面式。图35A~图35D提供了一种基于标记点3411的数量的编码方式所形成的编码标记物3420。
本说明书一些实施例中,所提供的医学系统包括:编码标记物、全局标记物和配准工作站。其中,编码标记物用于粘贴于目标部位,全局标记物独立于目标部位设置并与目标部位位置相对固定。基于该医学系统即可实现高效且快捷的目标部位定位,整个医学系统结构简单,操作便捷性强。
在一些实施例中,如图36所示,编码标记物3420包括定位块3421和至少一个编码物3422,其中,定位块3421用于定位编码标记物3420的位置;编码物3422用于形成编码标记物3420对应的编码信息。
需要说明的是,定位块3421被用于在医学影像和/或导航影像中识别,以根据定位块3421的位置定位编码标记物3420的空间位置,编码物3422也被用于在医学影像和/或导航影像中识别,以根据编码物3422的数量、形状或表现形式形成编码标记物3420的编码信息。
在一些实施例中,定位块3421和编码物3422的作用不同,但结构、形状、大小、材质等属性特征可以相同,也可以不同。其中,可将定位块3421和编码物3422属性信息中的结构、形状或大小至少一项设置为不同,以便区分定位块3421和编码物3422。若定位块3421和编码物3422的结构、形状、大小、材质等属性特征均相同,可根据设置位置区分定位块3421和编码物3422。例如,预先设定在编码标记物3420的表面独立设置的标记点3411为定位块3421,集中设置的标记点3411为编码物3422,或者,顺/逆时针排序第一/最后的标记点3411为定位块3421。
可选地,为提高定位块3421识别的准确性,定位块3421呈规则对称结构。
在一些实施例中,编码物3422以定位块3421为中心,环绕定位块设置。
图36示出了一种编码标记物3420,该编码标记物3420包括1个定位块3421和8个编码物3422,8个编码物3422以定位块3421为圆心,沿圆形环绕定位块3421设置,定位块3421和编码物3422均为圆柱,且定位块3421的直径和高度大于编码物3422的直径和高度。
在一些实施例中,编码物3422包括点状编码物和/或带状编码物。
如图37A和图37B所示以编码环形成编码信息。其中,在编码物3422呈点状编码物的情况下,编码物3422不同的数量、大小或者排布规律均可形成不同的编码信息。如图35A~图35D所示的4个编码标记物中,编码物3422的数量不同,图35A~图35D对应形成4种编码信息;在编码物3422呈带状编码物
的情况下,编码物3422不同的数量、长短或者排布规律均可形成不同的编码信息。如图37A~图37B所示的2个编码标记物3420中,均包括2个编码物3422,但在2个编码标记物3420中的长短排布不同,图37A~图37B对应形成2种编码信息。带状编码物和点状编码物的优势不同,可根据需求设置。其中,带状编码物所呈现的面积较点状编码物的大,有助于被准确识别;而点状编码物较带状编码物容易识别,可实施性更强。
为确保编码标记物3420可以在医学影像中显影,在一些实施例中,定位块3421和编码物3422采用显影材料制成。其中,不同医学影像的成像原理不同,因此编码标记物3420的显影材料根据相应需求设定,以便显影。例如,针对CT影像,可针对例如铝合金、钛合金、铅合金等金属显影;针对MR影像,可针对离子活跃的材质显影,如碘化硅油。
为确保编码标记物3420可以在导航影像中显影,在一些实施例中,如图38所示,定位块3421的表面和编码物3423的表面涂覆反射涂层。
在一些实施例中,为高效且准确的识别到定位块3421的位置,反射涂层3423可呈图39所示的十字交叉网格状,且网格的十字交叉处位于定位块3421的中心,以便快速识别捕获定位块3421的十字交叉处,确定定位块3421的位置。
为实现编码标记物3420可重复利用,在一些实施例中,如图38所示,该编码标记物3420还包括粘合层3424。
在一些实施例中,为降低编码标记物3420上定位块3421和编码物3422的脱落概率,如图38所示,定位块3421和编码物3422四周分别设置有固定外壳3425,以将定位块3421和编码物3422固定于粘合层3424。
在一些实施例中,定位块3421和编码物3422固定于粘合层3424的织物侧,编码标记物3420用于通过粘合层3424的粘合剂侧粘贴于目标部位。
不使用时,粘合层3424的粘合剂侧与离型膜3426(图36中所示)粘合,以避免污染;使用时,可将离型膜3426撕开,进行粘贴。以此实现编码标记物3420重复利用,降低耗材成本。
需要说明的是,全局标记物3430上的标记点3411的设置形式可以与编码标记物3420上的标记点3411的设置形式相同,在此不再赘述。
图40为本说明书一些实施例所示的交互部件的示意图。如图40所示,交互部件4000包括生成模块4010和发送模块4020。
生成模块4010,用于生成采集信号。其中,采集信号是在第二采点工具感应到目标部位的兴趣点的情况下由交互部件生成的。
发送模块4020,用于向扩展现实设备发送采集信号,以使扩展现实设备响应于采集信号,确定目标部位的兴趣点的位置信息,并基于目标部位的兴趣点的位置信息和目标部位的医学影像,对目标部位和医学影像进行配准,得到第二配准矩阵。
本说明书一些实施例中的交互部件,在第二采点工具感应到目标部位的兴趣点的情况下生成采集信号,并向扩展现实设备发送采集信号,以使扩展现实设备响应于采集信号,确定目标部位的兴趣点的位置信息,并基于目标部位的兴趣点的位置信息和目标部位的医学影像,对目标部位和医学影像进行配准,得到第二配准矩阵,因此,本说明书一些实施例就能利用交互部件、第二采点工具以及扩展现实设备的互相配合得到第二配准矩阵,以提高了配准过程的准确性。并且,利用交互部件和第一采点工具完成配准过程,医生可以随时暂停或者开始配准,也提高了配准过程的灵活性和效率。
在一些实施例中,生成模块4010还可以包括:
切换单元,用于响应于第二采点工具发送的第一感应信号,将采集功能由禁止状态切换为使能状态;第一感应信号是在第二采点工具感应到目标部位的兴趣点的情况下由第二采点工具生成的。
生成单元,用于在采集功能为使能状态的情况下,响应于用户操作,生成采集信号。
关于生成模块、发送模块、交互部件的更多内容可以参见上下文相关描述。
需要注意的是,以上对于交互部件4000及其模块的描述,仅为描述方便,并不能把本说明书限制在所举实施例范围之内。可以理解,对于本领域的技术人员来说,在了解该系统的原理后,可能在不背离这一原理的情况下,对各个模块进行任意组合,或者构成子系统与其他模块连接。在一些实施例中,图40中披露的生成模块4010、发送模块4020可以是一个系统中的不同模块,也可以是一个模块实现上述的两个或两个以上模块的功能。例如,各个模块可以共用一个存储模块,各个模块也可以分别具有各自的存储模块。诸如此类的变形,均在本说明书的保护范围之内。
图41为本说明书一些实施例所示的配准方法的示例性流程图,前述配准方法可以应用于交互部件中。在一些实施例中,如图41所示,流程4100包括以下步骤:
步骤4110,生成采集信号。
其中,采集信号是在第二采点工具感应到目标部位的兴趣点的情况下由交互部件生成的。
在一些实施例中,以交互手柄和注册探针为例,交互手柄和注册探针通过交互手柄上的机械接口进行连接,注册探针的末端集成有第一传感器,故而,医生可以佩戴扩展现实设备并手持交互手柄,并利用与交互手柄连接的注册探针感应目标部位的兴趣点。在注册探针感应目标部位的兴趣点后,注册探针集成的第一传感器可以发送给交互手柄一个第一感应信号,进而交互手柄在注册探针感应到目标部位的兴趣点的情况下,生成采集信号。交互部件和第二采点工具还可以是其他形式,本说明书实施例不做限制。
步骤4120,向扩展现实设备发送采集信号,以使扩展现实设备响应于采集信号,确定目标部位的兴趣点的位置信息,并基于目标部位的兴趣点的位置信息和目标部位的医学影像,对目标部位和医学影像进行配准,得到第二配准矩阵。
在一些实施例中,交互部件和扩展现实设备通信连接,进而交互部件生成采集信号后,会向扩展现实设备发送该采集信号。
进一步地,扩展现实设备就能响应于交互部件发送的采集信号,确定目标部位的兴趣点的位置信息,并基于目标部位的兴趣点的位置信息和目标部位的医学影像,对目标部位和医学影像进行配准,得到第二配准矩阵。扩展现实设备得到第二配准矩阵的原理可以参考图8以及图9的步骤,此处不再赘述。
本实施例提供的应用于交互部件的配准方法,交互部件在第一采点工具感应到目标部位的兴趣点的情况下生成采集信号,并向扩展现实设备发送采集信号,以使扩展现实设备响应于采集信号,确定目标部位的兴趣点的位置信息,并基于目标部位的兴趣点的位置信息和目标部位的医学影像,对目标部位和医学影像进行配准,得到第二配准矩阵,因此,本说明书的一些实施例中就能利用交互部件、第二采点工具以及扩展现实设备的互相配合得到配准矩阵,以提高了配准过程的准确性。并且,利用交互部件和第二采点工具完成配准过程,医生可以随时暂停或者开始配准,也提高了配准过程的灵活性和效率。
在一实施例中,前述步骤4110可以通过图42所示的下述流程实现:
步骤4111,响应于第二采点工具的第一感应信号,将采集功能由禁止状态切换为使能状态;第一感应信号是在第二采点工具感应到目标部位的兴趣点的情况下由第二采点工具生成的。
在一些实施例中,响应于第二采点工具发送的第一感应信号,将采集功能由禁止状态切换为使能状态;第一感应信号是在第二采点工具感应到目标部位的兴趣点的情况下由第二采点工具生成的。
步骤4112,在采集功能为使能状态的情况下,响应于用户操作,生成采集信号。
在一些实施例中,在交互部件的采集功能为使能状态的情况下,交互部件响应于用户操作后才会生成采集信号。用户操作可以是医生在交互部件上按下的“采集”按键,或者语音“开始”等等。
例如,医生利用注册探针的末端接触目标部位的兴趣点,注册探针集成的第一传感器就会向交互手柄发送第一感应信号,此时交互手柄的采集功能才切换为使能状态。进一步地,医生在注册探针的末端稳定接触目标部位上的兴趣点时,再在交互手柄上按下“采集”按键,此时交互手柄在采集功能为使能状态的情况下,响应于用户操作,才会生成采集信号。进一步地,交互手柄将采集信号发送给扩展现实设备,以完成后续的配准流程。
本实施例中交互部件响应于第二采点工具发送的第一感应信号,将采集功能由禁止状态切换为使能状态,并在采集功能为使能状态的情况下,响应于用户操作,生成采集信号。由于第一感应信号是第二采点工具感应到目标部位的兴趣点的情况下由第二采点工具生成的,因此,在第二采点工具感应到目标部位的情况下,采集功能才能切换为使能状态。进一步地,在采集功能为使能状态,并且需要用户操作的情况下,交互部件才会生成采集信号,进而保证了采集信号的稳定性,从而提高了配准的准确性。
本说明书一些实施例还提供一种计算机设备,包括存储器和处理器,存储器存储有计算机程序,处理器执行计算机程序时实现上述配准方法、信息显示方法和导航方法的步骤。
本说明书一些实施例还提供一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述配准方法、信息显示方法和导航方法的步骤。
本说明书一些实施例还提供一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述配准方法、信息显示方法和导航方法的步骤。
上文已对基本概念做了描述,显然,对于本领域技术人员来说,上述详细披露仅仅作为示例,而并不构成对本说明书的限定。虽然此处并没有明确说明,本领域技术人员可能会对本说明书进行各种修改、改进和修正。该类修改、改进和修正在本说明书中被建议,所以该类修改、改进、修正仍属于本说明书示范实施例的精神和范围。
同时,本说明书使用了特定词语来描述本说明书的实施例。如“一个实施例”、“一实施例”、和/或“一些实施例”意指与本说明书至少一个实施例相关的某一特征、结构或特点。因此,应强调并注意的是,本说明书中在不同位置两次或多次提及的“一实施例”或“一个实施例”或“一个替代性实施例”并不一定是指同一实施例。此外,本说明书的一个或多个实施例中的某些特征、结构或特点可以进行适当的组合。
此外,除非权利要求中明确说明,本说明书所述处理元素和序列的顺序、数字字母的使用、或其他名称的使用,并非用于限定本说明书流程和方法的顺序。尽管上述披露中通过各种示例讨论了一些目前认为有用的发明实施例,但应当理解的是,该类细节仅起到说明的目的,附加的权利要求并不仅限于披露的实施例,相反,权利要求旨在覆盖所有符合本说明书实施例实质和范围的修正和等价组合。例如,虽然以上所描述的系统组件可以通过硬件设备实现,但是也可以只通过软件的解决方案得以实现,如在现有的服务器或移动设备上安装所描述的系统。
同理,应当注意的是,为了简化本说明书披露的表述,从而帮助对一个或多个发明实施例的理解,前文对本说明书实施例的描述中,有时会将多种特征归并至一个实施例、附图或对其的描述中。但是,这种披露方法并不意味着本说明书对象所需要的特征比权利要求中提及的特征多。实际上,实施例的特征要少于上述披露的单个实施例的全部特征。
一些实施例中使用了描述成分、属性数量的数字,应当理解的是,此类用于实施例描述的数字,在一些示例中使用了修饰词“大约”、“近似”或“大体上”来修饰。除非另外说明,“大约”、“近似”或“大体上”表明所述数字允许有±20%的变化。相应地,在一些实施例中,说明书和权利要求中使用的数值参数均为近似值,该近似值根据个别实施例所需特点可以发生改变。在一些实施例中,数值参数应考虑规定的有效数位并采用一般位数保留的方法。尽管本说明书一些实施例中用于确认其范围广度的数值域和参数为近似值,在具体实施例中,此类数值的设定在可行范围内尽可能精确。
针对本说明书引用的每个专利、专利申请、专利申请公开物和其他材料,如文章、书籍、说明书、出版物、文档等,特此将其全部内容并入本说明书作为参考。与本说明书内容不一致或产生冲突的申请历史文件除外,对本说明书权利要求最广范围有限制的文件(当前或之后附加于本说明书中的)也除外。需要说明的是,如果本说明书附属材料中的描述、定义、和/或术语的使用与本说明书所述内容有不一致或冲突的地方,以本说明书的描述、定义和/或术语的使用为准。
最后,应当理解的是,本说明书中所述实施例仅用以说明本说明书实施例的原则。其他的变形也可能属于本说明书的范围。因此,作为示例而非限制,本说明书实施例的替代配置可视为与本说明书的教导一致。相应地,本说明书的实施例不仅限于本说明书明确介绍和描述的实施例。
Claims (57)
- 一种配准方法,其特征在于,应用于扩展现实设备,所述配准方法包括:获取目标部位的医学影像;对所述目标部位与所述医学影像进行配准,得到第一空间转换关系,所述第一空间转换关系反映扫描坐标系下的所述目标部位与全局坐标系下的所述目标部位的空间转换关系;所述扫描坐标系是基于所述医学影像建立的,所述全局坐标系是基于所述目标部位的参考标记物建立的。
- 如权利要求1所述的配准方法,其特征在于,所述配准方法还包括:获取所述目标部位的全局空间信息;对所述目标部位与所述医学影像进行配准,得到第一空间转换关系包括:基于所述医学影像和所述全局空间信息,对所述目标部位与所述医学影像进行配准,得到所述第一空间转换关系。
- 如权利要求2所述的配准方法,其特征在于,所述第一空间转换关系包括第一配准矩阵,所述医学影像包括所述目标部位对应的目标模型,所述目标模型是基于所述目标部位的医学影像数据重建得到的,所述基于所述医学影像和所述全局空间信息,对所述目标部位与医学影像进行配准,得到所述第一空间转换关系包括:基于所述目标模型以及所述全局空间信息进行配准处理,确定所述第一配准矩阵,所述第一配准矩阵反映所述扫描坐标系下的所述目标模型与所述全局坐标系下的所述目标部位之间的空间坐标转换关系。
- 如权利要求3所述的配准方法,其特征在于,所述基于所述目标模型以及所述全局空间信息进行配准处理,确定所述第一配准矩阵包括:获取所述目标模型的第一特征点在所述扫描坐标系下的第一坐标数据,以及获取所述目标部位的第二特征点在所述全局坐标系下的第二坐标数据,其中,所述第一特征点与所述第二特征点包括所述目标部位中相同的特征位置;基于所述第一坐标数据和所述第二坐标数据进行配准处理,确定所述第一配准矩阵。
- 如权利要求4所述的配准方法,其特征在于,所述基于所述第一坐标数据和所述第二坐标数据进行配准处理,确定所述第一配准矩阵包括:对所述第一坐标数据和所述第二坐标数据进行配准处理,得到配准信息;根据所述配准信息确定所述第一配准矩阵。
- 如权利要求5所述的配准方法,其特征在于,所述配准信息包括配准情况和初步配准矩阵,所述根据所述配准信息确定所述第一配准矩阵包括:若所述配准情况为配准失败,则输出配准失败提醒信息;基于所述初步配准矩阵对所述目标模型进行位姿变换,得到变换后的目标模型,并获取所述变换后的目标模型的第三特征点在所述扫描坐标系下的第三坐标数据,以及基于所述配准失败提醒信息,获取所述目标部位的第四特征点在所述全局坐标系下的第四坐标数据,其中,所述第三特征点与所述第四特征点包括所述目标部位中相同的特征位置;基于所述第三坐标数据和所述第四坐标数据进行配准处理,确定所述第一配准矩阵。
- 如权利要求4-6中任一项所述的配准方法,其特征在于,所述获取所述目标部位的第二特征点在所述全局坐标系下的第二坐标数据包括:获取对所述目标部位和所述参考标记物进行拍摄得到的目标图像;对所述目标图像进行特征识别,得到所述第二特征点在导航坐标系下的第五坐标数据,以及所述参考标记物在所述导航坐标系下的第六坐标数据,其中,所述导航坐标系是基于所述扩展现实设备的相机模块建立的;根据所述第六坐标数据,获取所述导航坐标系与所述全局坐标系之间的第二空间转换关系;基于所述第五坐标数据以及所述第二空间转换关系,获取所述第二特征点在所述全局坐标系下的第二坐标数据。
- 如权利要求4-6中任一项所述的配准方法,其特征在于,所述获取所述目标部位的第二特征点在所述全局坐标系下的第二坐标数据包括:获取在第一采点工具对所述目标部位进行采点操作时,对所述第一采点工具和所述参考标记物进行追踪,得到的所述第二特征点在导航坐标系下的第五坐标数据,以及所述参考标记物在所述导航坐标系下的第六坐标数据,其中,所述导航坐标系是基于所述扩展现实设备的相机模块建立的;根据所述第六坐标数据,获取所述导航坐标系与所述全局坐标系之间的第二空间转换关系;基于所述第五坐标数据,以及所述第二空间转换关系,获取所述第二特征点在所述全局坐标系下的第二坐标数据。
- 如权利要求2所述的配准方法,其特征在于,所述全局空间信息包括所述目标部位的兴趣点的位置信息,所述第一空间转换关系包括第二配准矩阵,所述获取所述目标部位的全局空间信息包括:响应于交互部件发送的采集信号,确定所述目标部位的兴趣点的位置信息,其中,所述采集信号是在第二采点工具感应到所述兴趣点的情况下由所述交互部件生成的;所述基于所述医学影像和所述全局空间信息,对所述目标部位与所述医学影像进行配准,得到第一空间转换关系包括:基于所述目标部位的兴趣点的位置信息和所述目标部位的医学影像,对所述目标部位和所述医学影像进行配准,得到所述第二配准矩阵。
- 如权利要求9所述的配准方法,其特征在于,所述参考标记物包括所述目标部位对应的第一标记物,所述确定所述目标部位的兴趣点的位置信息包括:获取所述第一标记物在导航坐标系下的第六坐标数据,并获取所述第二采点工具对应的第二标记物在所述导航坐标系下的第七坐标数据,其中,所述导航坐标系是基于所述扩展现实设备的相机模块建立的;基于所述第六坐标数据,确定所述导航坐标系与所述全局坐标系之间的第二空间转换关系;基于所述第七坐标数据,确定所述目标部位的兴趣点在所述导航坐标系下的第八坐标数据;基于所述第二空间转换关系和所述第八坐标数据,确定所述目标部位的兴趣点在所述全局坐标系下的第九坐标数据,并将所述第九坐标数据作为所述目标部位的兴趣点的位置信息。
- 如权利要求1所述的配准方法,其特征在于,所述医学影像包括设置在所述目标部位上的编码标记物的影像,所述参考标记物包括与所述目标部位位置相对固定的全局标记物;所述对所述目标部位与所述医学影像进行配准,得到第一空间转换关系包括:获取所述目标部位的导航影像,所述导航影像包括所述编码标记物以及所述全局标记物;根据所述导航影像中的所述编码标记物和所述全局标记物,确定导航坐标系与所述全局坐标系之间的第二空间转换关系,其中,所述导航坐标系是基于所述扩展现实设备相机模块建立的;根据所述医学影像中的所述编码标记物和所述导航影像中的所述编码标记物,确定所述扫描坐标系和所述导航坐标系之间的第三空间转换关系;基于所述第二空间转换关系和所述第三空间转换关系,确定所述第一空间转换关系。
- 如权利要求11所述的配准方法,其特征在于,所述根据所述医学影像中的所述编码标记物和所述导航影像中的所述编码标记物,确定所述扫描坐标系和所述导航坐标系之间的第三空间转换关系包括:根据所述医学影像确定所述编码标记物的扫描空间位置,以及根据所述导航影像确定所述编码标记物的导航空间位置;根据所述扫描空间位置和所述导航空间位置,确定所述扫描坐标系和所述导航坐标系之间的第三空间转换关系。
- 如权利要求12所述的配准方法,其特征在于,所述编码标记物包括定位块,所述根据所述医学影像确定所述编码标记物的扫描空间位置,以及根据所述导航影像确定所述编码标记物的导航空间位置包括:根据所述编码标记物的结构特征,确定所述编码标记物在所述医学影像中的目标空间区域和在所述导航影像中的目标图像区域;根据所述定位块的几何特征和所述目标空间区域,确定所述定位块的空间位置,并作为所述扫描空间位置;根据所述定位块的几何特征和所述目标图像区域,确定所述定位块的图像位置,并作为所述导航空间位置。
- 如权利要求12所述的配准方法,其特征在于,所述编码标记物的数量为多个,所述根据所述扫描空间位置和所述导航空间位置,确定所述扫描坐标系和所述导航坐标系之间的第三空间转换关系包括:识别所述医学影像中各编码标记物的编码信息,以及所述导航影像中各编码标记物的编码信息;在所述医学影像和所述导航影像中确定对应相同编码信息的至少三个编码标记物;根据所述至少三个编码标记物的扫描空间位置和导航空间位置,确定所述扫描坐标系和所述导航坐标系之间的配准矩阵,并将其作为所述第三空间转换关系。
- 如权利要求11-14中任一项所述的配准方法,其特征在于,所述根据所述导航影像中的所述编码标记物和所述全局标记物,确定导航坐标系与所述全局坐标系之间的第二空间转换关系包括:根据所述导航影像确定所述编码物标记物相对于所述全局标记物的参考空间位置;根据所述编码标记物在导航坐标系下的导航空间位置和所述参考空间位置,确定所述导航坐标系与所述全局坐标系之间的第二空间转换关系。
- 一种信息显示方法,其特征在于,应用于扩展现实设备,所述信息显示方法包括处理步骤和显示步骤;所述处理步骤包括:获取手术引导信息,所述手术引导信息包括目标部位的医学影像以及基于所述医学影像的路径规划信息;获取基于权利要求1所述的配准方法得到的第一空间转换关系;所述显示步骤包括:基于所述第一空间转换关系将所述手术引导信息显示于所述目标部位。
- 如权利要求16所示的信息显示方法,其特征在于,所述医学影像包括所述目标部位的目标模型,所述目标模型是基于所述目标部位的医学影像重建得到的,所述第一空间转换关系包括第一配准矩阵;所述基于所述第一空间转换关系将所述手术引导信息显示于所述目标部位包括:基于所述第一配准矩阵将所述手术引导信息显示于所述目标部位,所述第一配准矩阵反映所述扫描坐标系的所述目标模型与所述全局坐标系下的所述目标部位之间的空间转换关系。
- 如权利要求17所述的信息显示方法,其特征在于,将所述手术引导信息显示于所述目标部位之前,所述处理步骤还包括:获取所述目标模型的至少一个候选穿刺路径信息;将所述至少一个候选穿刺路径信息显示于所述目标模型中;响应于对所显示的任一个所述候选穿刺路径信息的调整指令,对所述候选穿刺路径信息进行调整。
- 如权利要求17所述的信息显示方法,其特征在于,将所述手术引导信息显示于所述目标部位之前,所述处理步骤还包括:获取所述目标模型的至少一个候选穿刺路径信息;将所述至少一个候选穿刺路径信息显示于所述目标模型中;响应于对所显示的任一个所述候选穿刺路径信息的选择指令,确定所述候选穿刺路径信息为所述路径规划信息。
- 一种导航方法,其特征在于,应用于扩展现实设备,包括:接收交互部件发送的感应信息;基于所述感应信息,确定穿刺信息。
- 如权利要求20所述的导航方法,其特征在于,所述感应信息包括第二感应信号,所述第二感应信号为所述交互部件响应于导向器械在所述目标部位上运动生成的,所述穿刺信息包括所述导向器械中的穿刺通道对应的穿刺角度,所述导向器械连接于所述交互部件,所述基于所述感应信息,确定穿刺信息包括:根据所述第二感应信号,确定所述导向器械的姿态信息;基于所述导向器械的姿态信息,确定所述穿刺通道对应的穿刺角度。
- 如权利要求20所述的导航方法,其特征在于,所述感应信息包括第三感应信号;所述第三感应信号是在导向器械感应到穿刺器械的情况下由所述导向器械生成的;所述导向器械连接于所述交互部件,且所述导向器械具有用于供所述穿刺器械插入的穿刺通道;所述穿刺信息包括所述穿刺器械的穿刺深度;所述基于所述感应信息,确定穿刺信息包括:根据所述第三感应信号,确定所述穿刺器械的穿刺深度。
- 一种配准装置,其特征在于,应用于扩展现实设备,所述配准装置包括:影像获取模块,用于获取目标部位的医学影像;配准模块,用于对所述目标部位与所述医学影像进行配准,得到第一空间转换关系,所述第一空间转换关系反映扫描坐标系下的所述目标部位与全局坐标系下的所述目标部位的空间转换关系;所述扫描坐标系是基于所述医学影像建立的,所述全局坐标系是基于所述目标部位的参考标记物建立的。
- 如权利要求23所述的配准装置,其特征在于,所述配准装置还包括:位置获取模块,用于获取所述目标部位的全局空间信息;所述配准模块进一步用于:基于所述医学影像和所述全局空间信息,对所述目标部位与所述医学影像进行配准,得到所述第一空间转换关系。
- 如权利要求24所述的配准装置,其特征在于,所述医学影像包括所述目标部位对应的目标模型,所述目标模型是基于所述目标部位的医学影像数据重建得到的,所述配准模块进一步用于:基于所述目标模型以及所述全局空间信息进行配准处理,确定所述第一配准矩阵,所述第一配准矩阵反映所述扫描坐标系下的所述目标模型与所述全局坐标系下的所述目标部位之间的空间坐标转换关系。
- 如权利要求24所述的配准装置,其特征在于,所述全局空间信息包括所述目标部位的兴趣点的位置信息,所述第一空间转换关系包括第二配准矩阵,所述位置获取模块进一步用于:响应于交互部件发送的采集信号,确定所述目标部位的兴趣点的位置信息,其中,所述采集信号是在第二采点工具感应到所述兴趣点的情况下由所述交互部件生成的;所述配准模块进一步用于:基于所述目标部位的兴趣点的位置信息和所述目标部位的医学影像,对所述目标部位和所述医学影像进行配准,得到所述第二配准矩阵。
- 如权利要求24所述的配准装置,其特征在于,所述医学影像包括设置在所述目标部位上的编码标记物,所述配准模块进一步用于:获取所述目标部位的导航影像,所述导航影像包括所述编码标记物以及与所述目标部位位置相对固定的全局标记物;对所述导航影像中的所述编码标记物和所述全局标记物进行配准,确定导航坐标系与所述全局坐标系之间的第二空间转换关系,其中,所述导航坐标系是基于所述扩展现实设备的相机模块建立;对所述医学影像中的所述编码标记物和所述导航影像中的所述编码标记物进行配准,确定所述扫描坐标系和所述导航坐标系之间的第三空间转换关系;基于所述第二空间转换关系和所述第三空间转换关系,确定所述第一空间转换关系。
- 一种信息显示装置,其特征在于,应用于扩展现实设备,所述信息显示装置包括:信息获取模块,用于获取手术引导信息,所述手术引导信息包括目标部位的医学影像以及基于所述医学影像的路径规划信息;显示模块,用于基于权利要求1所述的配准方法得到的获取第一空间转换关系,并基于所述第一空间转换关系将所述手术引导信息显示于所述目标部位。
- 如权利要求28所述的信息显示装置,其特征在于,所述医学影像包括所述目标部位的目标模型, 所述目标模型是基于所述目标部位的医学影像重建得到的,所述第一空间转换关系包括第一配准矩阵,所述显示模块进一步用于获取第一配准矩阵,并基于所述第一配准矩阵将所述手术引导信息显示于所述目标部位,所述第一配准矩阵表示所述目标模型与所述目标部位之间的空间转换关系。
- 一种导航装置,其特征在于,包括接收模块,用于接收交互部件发送的感应信息;确定模块,用于基于所述感应信息,确定穿刺信息。
- 如权利要求30所述的导航装置,其特征在于,所述感应信息包括第二感应信号,所述第二感应信号为所述交互部件响应于导向器械在所述目标部位上运动生成的,所述穿刺信息包括所述导向器械中的穿刺通道对应的穿刺角度,所述导向器械连接于所述交互部件,所述确定模块包括第一确定模块和第二确定模块,其中,所述第一确定模块用于根据所述第二感应信号,确定所述导向器械的姿态信息;所述第二确定模块用于基于所述导向器械的姿态信息,确定所述穿刺通道对应的穿刺角度。
- 如权利要求30所述的导航装置,其特征在于,所述感应信息包括第三感应信号;所述第三感应信号是在导向器械感应到穿刺器械的情况下由所述导向器械生成的;所述导向器械连接于所述交互部件,且所述导向器械具有用于供所述穿刺器械插入的穿刺通道;所述穿刺信息包括所述穿刺器械的穿刺深度;所述确定模块包括第三确定模块,所述第三确定模块用于根据所述第三感应信号,确定所述穿刺器械的穿刺深度。
- 一种导航装置,其特征在于,所述导航装置包括:扩展现实设备,所述扩展现实设备包括第一处理器和显示模块;所述第一处理器,用于执行上述权利要求1-15中任一项所述的配准方法以及执行上述权利要求16-19中任一项所述的方法中的处理步骤;所述显示模块,用于执行上述权利要求16-19中任一项所述的方法中的显示步骤。
- 一种医学系统,其特征在于,包括扩展现实设备。
- 如权利要求34所述的医学系统,其特征在于,所述扩展现实设备能够执行权利要求1-15中任一项所述的配准方法、权利要求16-19中任一项所述的信息显示方法、权利要求20-22中任一项所述的导航方法中的一种或多种。
- 如权利要求34所述的医学系统,其特征在于,所述扩展现实设备包括相机模块,所述相机模块用于对所述目标部位和所述目标部位的参考标记物进行拍摄;和/或,所述医学系统还包括第一采点工具,所述相机模块用于对所述第一采点工具和所述参考标记物进行追踪。
- 如权利要求36所述的医学系统,其特征在于,所述医学系统还包括路径导向设备,所述路径导向设备包括第二处理器和导向模块;所述相机模块还用于对所述导向模块和所述参考标记物进行追踪,得到第一追踪信息并发送给所述扩展现实设备;所述扩展现实设备还用于向所述第二处理器发送所述第一追踪信息、所述第一配准矩阵和所述路径规划信息;所述第二处理器,用于基于所述第一追踪信息、所述第一配准矩阵和所述路径规划信息,控制所述导向模块运动至目标位姿。
- 如权利要求36所述的医学系统,其特征在于,所述医学系统还包括手术器械;所述相机模块还用于对所述手术器械和所述参考标记物进行追踪,得到第二追踪信息并发送给所述扩展现实设备;所述扩展现实设备还用于基于所述第二追踪信息,控制所述显示模块将所述手术器械对应的器械模型显示于所述目标部位。
- 如权利要求34所述的医学系统,其特征在于,所述医学系统还包括交互部件和第二采点工具;所述第二采点工具,用于在感应到目标部位的兴趣点的情况下,生成第一感应信号并发送给所述交互部件;所述交互部件,用于在接收到所述第一感应信号的情况下,响应于用户操作,生成采集信号并发送给所述扩展现实设备;所述扩展现实设备,用于响应于所述采集信号,确定所述目标部位的兴趣点的位置信息,以基于所述目标部位的兴趣点的位置信息和所述目标部位的医学影像,对所述目标部位和所述医学影像进行配准,得到第二配准矩阵。
- 根据权利要求39所述的医学系统,其特征在于,所述医学系统还包括第一标记物和第二标记物,所述第一标记物设置于所述目标部位,所述第二标记物设置于所述第二采点工具;所述扩展现实设备,用于响应于所述采集信号,获取所述第一标记物的第一坐标数据和所述第二标记物的第二坐标数据,并基于所述第一坐标数据和所述第二坐标数据,确定所述目标部位的兴趣点的位置信息。
- 根据权利要求39所述的医学系统,其特征在于,所述第二采点工具包括第二采点工具本体和设置于所述第二采点工具本体的第一传感器,所述第一传感器用于在感应到所述目标部位的兴趣点的情况下生成所述第一感应信号。
- 如权利要求34所述的医学系统,其特征在于,所述医学系统还包括交互部件、导向器械和穿刺器械;所述导向器械与所述交互部件连接,所述导向器械具有穿刺通道,所述穿刺通道用于供所述穿刺器械插入;所述交互部件用于生成第二感应信号并发送给所述扩展现实设备;所述导向器械用于在感应到所述穿刺器械的情况下,生成第三感应信号并发送给所述扩展现实设备;所述扩展现实设备用于根据所述第二感应信号确定所述穿刺通道对应的穿刺角度,并用于根据所述第三感应信号确定所述穿刺器械的穿刺深度。
- 根据权利要求42所述的医学系统,其特征在于,所述交互部件包括交互部件本体和设置于所述交互部件本体的第二传感器,所述导向器械包括导向器械本体和设置于所述导向器械本体的第三传感器;所述第二传感器用于生成所述第二感应信号;所述第三传感器用于在感应到所述穿刺器械的情况下生成所述第三感应信号;其中,所述第二传感器为重力传感器,和/或,所述第三传感器为行程传感器。
- 一种医学系统,其特征在于,所述医学系统包括:编码标记物、全局标记物和配准工作站,其中,所述编码标记物用于设置在目标部位,所述全局标记物独立于所述目标部位设置并与所述目标部位位置相对固定;所述配准工作站用于获取所述目标部位对应的医学影像和导航影像,根据所述导航影像中的编码标记物和全局标记物,确定所述导航坐标系与全局坐标系之间的第二空间转换关系,根据所述医学影像中的编码标记物和所述导航影像中的编码标记物,确定扫描坐标系和导航坐标系之间的第三空间转换关系,并根据所述第二空间转换关系和所述第三空间转换关系,确定所述第一空间转换关系。
- 如权利要求44所述的医学系统,其特征在于,所述编码标记物包括定位块和至少一个编码物,其中,所述定位块用于定位所述编码标记物的位置;所述编码物用于形成所述编码标记物对应的编码信息。
- 如权利要求45所述的医学系统,其特征在于,所述编码物以所述定位块为中心,环绕所述定位块设置。
- 如权利要求45所述的医学系统,其特征在于,所述编码物包括点状编码物和/或带状编码物。
- 如权利要求45所述的医学系统,其特征在于,所述定位块和所述编码物采用显影材料制成,所述定位块的表面和所述编码物的表面涂覆反射涂层。
- 如权利要求45-48中任一项所述的医学系统,其特征在于,所述编码标记物还包括粘合层;其中, 所述定位块和所述编码物固定于所述粘合层的织物侧,所述编码标记物用于通过所述粘合层的粘合剂侧粘贴于所述目标部位。
- 如权利要求44-48中任一项所述的医学系统,其特征在于,所述配准工作站包括扩展现实设备。
- 如权利要求50所述的医学系统,其特征在于,所述配准工作站包括配准计算机,所述配准计算机与所述扩展现实设备相互通信。
- 一种配准方法,其特征在于,应用于交互部件,所述配准方法包括:生成采集信号,所述采集信号是在第二采点工具感应到目标部位的兴趣点的情况下由所述交互部件生成的;向扩展现实设备发送所述采集信号,以使所述扩展现实设备响应于所述采集信号,确定目标部位的兴趣点的位置信息,并基于所述目标部位的兴趣点的位置信息和所述目标部位的医学影像,对所述目标部位和所述医学影像进行配准,得到第二配准矩阵。
- 根据权利要求52所述的配准方法,其特征在于,所述生成采集信号包括:响应于所述第二采点工具发送的第一感应信号,将采集功能由禁止状态切换为使能状态;所述第一感应信号是在所述第二采点工具感应到所述目标部位的兴趣点的情况下由所述第二采点工具生成的;在所述采集功能为使能状态的情况下,响应于用户操作,生成所述采集信号。
- 一种交互部件,其特征在于,所述交互部件包括:生成模块,用于生成采集信号,所述采集信号是在第二采点工具感应到目标部位的兴趣点的情况下由所述交互部件生成的;发送模块,用于向扩展现实设备发送所述采集信号,以使所述扩展现实设备响应于所述采集信号,确定目标部位的兴趣点的位置信息,并基于所述目标部位的兴趣点的位置信息和所述目标部位的医学影像,对所述目标部位和所述医学影像进行配准,得到第二配准矩阵。
- 一种计算机设备,包括存储器和处理器,其特征在于,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1-22、52或53中任一项所述的方法的步骤。
- 一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-22、52或53中任一项所述的方法的步骤。
- 一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1-22、52或53中任一项所述的方法的步骤。
Applications Claiming Priority (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211194849.8A CN115429430A (zh) | 2022-09-29 | 2022-09-29 | 配准方法、信息显示方法、手术导航系统、装置及设备 |
CN202211194849.8 | 2022-09-29 | ||
CN202310079298.9 | 2023-01-16 | ||
CN202310079298.9A CN116071525A (zh) | 2023-01-16 | 2023-01-16 | 配准方法、配准系统、导航信息确定方法和导航系统 |
CN202310474480.4A CN116439832A (zh) | 2023-04-27 | 2023-04-27 | 病灶定位方法、装置、系统、计算机设备和存储介质 |
CN202310474480.4 | 2023-04-27 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2024067753A1 true WO2024067753A1 (zh) | 2024-04-04 |
Family
ID=90476316
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/CN2023/122370 WO2024067753A1 (zh) | 2022-09-29 | 2023-09-28 | 一种配准方法、配准系统、导航信息确定方法和导航系统 |
Country Status (1)
Country | Link |
---|---|
WO (1) | WO2024067753A1 (zh) |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101073528A (zh) * | 2007-06-22 | 2007-11-21 | 北京航空航天大学 | 双平面定位与双目视觉跟踪的数字化手术床系统 |
CN106725852A (zh) * | 2016-12-02 | 2017-05-31 | 上海精劢医疗科技有限公司 | 肺部穿刺的手术导航系统 |
US20180185100A1 (en) * | 2017-01-03 | 2018-07-05 | Mako Surgical Corp. | Systems And Methods For Surgical Navigation |
CN109044531A (zh) * | 2018-08-20 | 2018-12-21 | 真健康(北京)医疗科技有限公司 | 一种接触感应式的末端位置导航跟踪装置 |
CN109864820A (zh) * | 2019-03-19 | 2019-06-11 | 安徽紫薇帝星数字科技有限公司 | 一种基于ct三维模型映射混合定位导航系统 |
CN110584783A (zh) * | 2019-10-14 | 2019-12-20 | 中国科学技术大学 | 外科手术导航系统 |
CN114145846A (zh) * | 2021-12-06 | 2022-03-08 | 北京理工大学 | 基于增强现实辅助的手术导航方法及系统 |
CN115105207A (zh) * | 2022-06-28 | 2022-09-27 | 北京触幻科技有限公司 | 基于混合现实的手术全息导航方法及系统 |
CN115429430A (zh) * | 2022-09-29 | 2022-12-06 | 武汉联影智融医疗科技有限公司 | 配准方法、信息显示方法、手术导航系统、装置及设备 |
CN116071525A (zh) * | 2023-01-16 | 2023-05-05 | 武汉联影智融医疗科技有限公司 | 配准方法、配准系统、导航信息确定方法和导航系统 |
CN116439832A (zh) * | 2023-04-27 | 2023-07-18 | 武汉联影智融医疗科技有限公司 | 病灶定位方法、装置、系统、计算机设备和存储介质 |
-
2023
- 2023-09-28 WO PCT/CN2023/122370 patent/WO2024067753A1/zh unknown
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101073528A (zh) * | 2007-06-22 | 2007-11-21 | 北京航空航天大学 | 双平面定位与双目视觉跟踪的数字化手术床系统 |
CN106725852A (zh) * | 2016-12-02 | 2017-05-31 | 上海精劢医疗科技有限公司 | 肺部穿刺的手术导航系统 |
US20180185100A1 (en) * | 2017-01-03 | 2018-07-05 | Mako Surgical Corp. | Systems And Methods For Surgical Navigation |
CN109044531A (zh) * | 2018-08-20 | 2018-12-21 | 真健康(北京)医疗科技有限公司 | 一种接触感应式的末端位置导航跟踪装置 |
CN109864820A (zh) * | 2019-03-19 | 2019-06-11 | 安徽紫薇帝星数字科技有限公司 | 一种基于ct三维模型映射混合定位导航系统 |
CN110584783A (zh) * | 2019-10-14 | 2019-12-20 | 中国科学技术大学 | 外科手术导航系统 |
CN114145846A (zh) * | 2021-12-06 | 2022-03-08 | 北京理工大学 | 基于增强现实辅助的手术导航方法及系统 |
CN115105207A (zh) * | 2022-06-28 | 2022-09-27 | 北京触幻科技有限公司 | 基于混合现实的手术全息导航方法及系统 |
CN115429430A (zh) * | 2022-09-29 | 2022-12-06 | 武汉联影智融医疗科技有限公司 | 配准方法、信息显示方法、手术导航系统、装置及设备 |
CN116071525A (zh) * | 2023-01-16 | 2023-05-05 | 武汉联影智融医疗科技有限公司 | 配准方法、配准系统、导航信息确定方法和导航系统 |
CN116439832A (zh) * | 2023-04-27 | 2023-07-18 | 武汉联影智融医疗科技有限公司 | 病灶定位方法、装置、系统、计算机设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11911214B2 (en) | System and methods for at home ultrasound imaging | |
US10687901B2 (en) | Methods and systems for registration of virtual space with real space in an augmented reality system | |
RU2740259C2 (ru) | Позиционирование датчика ультразвуковой визуализации | |
US10881353B2 (en) | Machine-guided imaging techniques | |
US20190192230A1 (en) | Method for patient registration, calibration, and real-time augmented reality image display during surgery | |
US9480456B2 (en) | Image processing apparatus that simultaneously displays two regions of interest on a body mark, processing method thereof and storage medium | |
EP3602492B1 (en) | Augmented reality patient positioning using an atlas | |
EP3380034B1 (en) | Navigation, tracking and guiding system for the positioning of operatory instruments within the body of a patient | |
Andrews et al. | Registration techniques for clinical applications of three-dimensional augmented reality devices | |
JP2018514352A (ja) | 後期マーカー配置による融合イメージベース誘導のためのシステムおよび方法 | |
JP6510301B2 (ja) | 医療支援システム、医療支援方法、画像処理装置およびその制御方法と制御プログラム | |
CN103479431A (zh) | 非介入式微创手术导航系统 | |
CN115105207A (zh) | 基于混合现实的手术全息导航方法及系统 | |
CN112168346A (zh) | 三维医学影像与患者实时重合的方法及手术辅助系统 | |
CN115429430A (zh) | 配准方法、信息显示方法、手术导航系统、装置及设备 | |
Esposito et al. | Multimodal US–gamma imaging using collaborative robotics for cancer staging biopsies | |
KR102301863B1 (ko) | 수술 대상체의 정합 확인방법, 그 장치 및 이를 포함하는 시스템 | |
CN107260305A (zh) | 计算机辅助微创手术系统 | |
WO2024067753A1 (zh) | 一种配准方法、配准系统、导航信息确定方法和导航系统 | |
Harders et al. | Multimodal augmented reality in medicine | |
CN116077152A (zh) | 穿刺路径规划方法及相关产品 | |
US20220370147A1 (en) | Technique of Providing User Guidance For Obtaining A Registration Between Patient Image Data And A Surgical Tracking System | |
CN208017582U (zh) | 计算机辅助微创手术装置 | |
US11869216B2 (en) | Registration of an anatomical body part by detecting a finger pose | |
CN111631814A (zh) | 术中血管立体定位导航系统及方法 |