CN103797512A - 机器人与图像之间的自动联机配准 - Google Patents

机器人与图像之间的自动联机配准 Download PDF

Info

Publication number
CN103797512A
CN103797512A CN201280044295.1A CN201280044295A CN103797512A CN 103797512 A CN103797512 A CN 103797512A CN 201280044295 A CN201280044295 A CN 201280044295A CN 103797512 A CN103797512 A CN 103797512A
Authority
CN
China
Prior art keywords
robot
energy
configuration device
registration
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201280044295.1A
Other languages
English (en)
Other versions
CN103797512B (zh
Inventor
P·西恩帕波
B·拉马钱德兰
A·波波维奇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips Electronics NV filed Critical Koninklijke Philips Electronics NV
Publication of CN103797512A publication Critical patent/CN103797512A/zh
Application granted granted Critical
Publication of CN103797512B publication Critical patent/CN103797512B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T3/14
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • G06T2207/101363D ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30048Heart; Cardiac
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S901/00Robots
    • Y10S901/46Sensing device
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S901/00Robots
    • Y10S901/46Sensing device
    • Y10S901/47Optical

Abstract

一种配准系统和方法,包括具有一个或多个能移动特征(122)的能配置设备(104),使得能够确定所述能移动特征相对于参考的移动,以定义所述能配置设备的具体配置。一种成像系统(110),具有显示器,在所述显示器上能够察看所述能配置设备。一种处理设备(112),其被配置为基于所述能配置设备的所述具体配置,将所述能配置设备与所述成像系统的坐标系配准。

Description

机器人与图像之间的自动联机配准
技术领域
本公开涉及设备配准,并且具体而言涉及用于基于所述设备的配置进行现场配准的系统、设备和方法。
背景技术
配准是寻找对相同数据的不同观察之间的关系的过程。更具体地,其为对所述相同数据(因不同的视角造成的,或属于不同坐标系的)多个测量结果的对准的计算。需要配准,以确定机器人(robot)坐标系中的物理位置与其在成像空间中的位置之间的一致性。
在临床设置中,在手术之前执行超声图像与机器人坐标之间的配准。术前配准(针对其存在有公知的技术)最适合如下情况,其中相对于世界或全局坐标系固定至少一个坐标系。如果两个坐标系都移动,则一次配准变得无效并且必须被重新计算。
在基于超声的机器人引导中,非常可能有以下情况:两个设备(即超声换能器与所述机器人)在程序期间将相对于彼此移动。尽管所述超声可能有时被固定在一个位置,但是在定位中具有灵活性是有益的,给定超声在机器人引导介入中的角色是用于引导所述机器人以及用于在感兴趣区域上提供成像两者。要求超声换能器(以及因此,超声图像)与机器人之间的配准的程序的范例包括机器人结构性心脏修复。在该情况中,采用经食管超声心动描记(TEE)设备。探头安装在非刚性线缆上,引起其因呼吸而移动。在该情况中,一旦被建立,配准即可能失败。可以采用用于对所述机器人与所述超声探头的连续配准的电磁(EM)轨迹。该解决方案复杂且消耗资源。同样,EM轨迹容易因EM场中的干扰而有误差。
术前配准为已有的复杂手术流程增加了复杂度,同时基准标记物的安装也增加了手术时间和复杂度。跟踪坐标系至少因额外的硬件要求而较为笨重。
发明内容
根据本发明的原理,一种配准系统和方法,包括能配置设备,其具有一个或多个能移动特征,使得可以相对于参考确定所述能移动特征的移动,以定义所述能配置设备的具体配置。一种成像系统,具有显示器,在所述显示器上能够察看所述能配置设备。一种处理设备,其被配置为基于所述能配置设备的所述具体配置,将所述能配置设备与所述成像系统的坐标系配准。
一种配准系统,包括机器人,其具有通过N个接合点连接的一个或多个能移动特征,使得所述能移动特征相对于参考的移动定义所述机器人的具体配置。一种超声成像系统,具有显示器,在所述显示器上能够察看所述机器人。一种处理设备,其被配置为基于所述机器人的所述具体配置,将所述机器人与超声探头的坐标系配准。
一种配准方法,包括:在能配置设备的操作图像中检测所述能配置设备的参考特征;确定所述能配置设备的具体配置;使用所述参考特征,在成像坐标系中计算所述能配置设备的所述具体配置;并且确定所述能配置设备的所述具体配置与所述成像坐标系之间的变换,以将所述能配置设备的坐标系与所述成像坐标系配准。
根据对示例性实施例的以下详细描述,本公开的这些以及其他目标、特征和优点将变得显而易见,应结合附图对其进行阅读。
附图说明
本公开将参考附图详细提供对优选实施例的以下描述,其中:
图1的方框图/流程图示出了根据本发明的原理的用于将机器人或其他能配置设备与成像流或图像配准的系统/方法;
图2的框图/流程图示出了根据一个示例性实施例的用于将机器人与成像系统配准的方法;
图3的示图示出了根据有用的实施例的机器人的轴或连接器,所述机器人包括用于在图像流中识别所述轴或连接器的部分的一个或多个标记物;
图4的示图示出了根据有用的实施例的机器人的轴或连接器,所述机器人包括用于在图像流中识别所述轴或连接器的取向的两个标记物;
图5的示图示出了根据一个示例性实施例的计算的轴端部与图像的坐标系之间的x、y和z坐标的运动轨迹;
图6的示图示出了根据有用的实施例的机器人的轴或连接器,所述机器人上安装有用于识别所述轴或连接器的位置的形状感测光纤;
图7的示图示出了根据一个实施例的机器人的轴或连接器,所述机器人上安装有用于在超声环境中识别所述轴或连接器的位置的振动机构;
图8的示图示例性示出了根据一个实施例的用于将机器人的轴或连接器与图像帧/成像探头配准的变换计算;
图9的方框图/流程图示出了根据示例性实施例的用于将机器人设备与成像坐标系配准的步骤。
具体实施方式
根据本原理,提供了用于执行成像设备(例如超声(US)探头,例如三维(3D)超声探头)与机器人操纵系统之间的自动且实时的配准的系统与方法。这些配准系统与方法可以被用于执行多种任务,例如定位目标、缓解对与成像探头的对齐相关联的认知负担、确定图像与物理世界的关系、将手术工具引导到目标,等等。在采用这些成像和机器人功能的本发明的实施例的辅助下,可以由外科医师执行更为复杂的手术程序。
根据一个尤其有用的实施例,提供机器人到成像探头或图像的实时配准,其使用允许在所述图像中检测所述机器人或安装在所述机器人上的手术仪器的各种方法和设备。也提供允许监测配准准确度的质量控制方案。
应理解,将关于医学仪器描述本发明;然而,本发明的教导要宽泛得多,并且可应用于在轨迹或分析复杂的生物或机械系统中采用的任意仪器。尤其地,本原理可应用于生物系统的内部轨迹程序,在身体的所有区域中的程序,例如肺、胃肠道、排泄器官、血管等等。可以以硬件与软件的各种组合实施附图中所描绘的元件,并且所述元件提供可以被合并在单个元件或多个元件中的功能。
可以通过使用专用硬件以及能够与与合适的软件相关联而运行软件的硬件,来提供附图中所示的各种元件的功能。当由处理器提供时,所述功能可以由单个专用处理器、单个共用处理器或由多个个体处理器提供,所述个体处理器中的一些可以是共用的。此外,术语“处理器”或“控制器”的明确使用不应被解释为排他性指代能够运行软件的硬件,而是可以暗含地、不作为限制地包括数字信号处理器(“DSP”)硬件、用于存储软件的只读存储器(“ROM”)、随机存取存储器(“RAM”)、非易失性存储器等等。
此外,本文中记载本发明的原理、方面和实施例的全部陈述,以及其具体范例,意图包括其结构性和功能性的等价方案。额外地,这些等价方案意图包括当前已知的等价方案以及未来开发的等价方案(即所开发的执行相同功能的任意元件,不管其结构如何)两者。因此,例如,本领域技术人员将认识到本文提供的方框图表示实施本发明的原理的示例性系统部件和/或电路的概念图。类似地,将认识到,任意流程图、作业图等等均表示可以被基本上表示在计算机可读存储介质中并这样由计算机或处理器运行的各个过程,不管是否明确示出这样的计算机或处理器。
此外,本发明的实施例可以采取可以从计算机可用或计算机可读存储介质访问的计算机程序产品的形式,所述存储介质提供程序代码以供计算机或任意指令运行系统使用或者结合计算机或指令运行系统使用。出于本说明的目的,计算机可用或计算机可读存储介质可以为可以包括、存储、通信、传播或传送程序的任意装置,所述程序用于由指令运行系统、装置或设备使用或者结合指令运行系统、装置或设备使用。所述介质可以为电子、磁性、光学、电磁、红外或半导体系统(或装置或设备)或传播介质。计算机可读介质的范例包括半导体或固态存储器、磁带、可移除计算机盘、随机存取存储器(RAM)、只读存储器(ROM)、刚性磁盘和光盘。光盘的当前范例包括光盘-只读存储器(CD-ROM)、光盘-读/写(CD-R/W)和DVD。
现在参考附图并首先参考图1,其中相同的附图标记表示相同或相似的元件,用于自动联机配准的系统100采用图像引导的手术机器人系统102。机器人系统102包括能配置设备或机器人104,以及控制系统106。机器人104包括已知的形状,其可以包括机器人104的部分或整个机器人104。机器人104可以包括一个或多个基准标记物108。机器人104的取向从其(一个或多个)能移动特征122(例如连接器或联动装置、附件等等)的运动学而被破译,并且被与从实时图像计算的取向组合。所述图像可以包括超声图像,但是可以采用其他成像模态(例如X射线等等)。在本范例中,成像系统110包括具有三维(3D)成像功能的超声系统。也可以采用其他成像系统。成像系统110可以采用探头105来设置用于收集成像数据的位置和角度。所述机器人运动被用于实时计算和更新两个坐标系之间的配准,例如机器人坐标系109与成像或探头坐标系107。
本原理提供一种联机配准,其作为操作的正常部分而被重复执行。当期望部件移动时,联机配准可以被用于处理坐标系之间的未对准。联机配准在所述系统可以在任选的轨迹或基准标记物108的辅助下自动执行配准时最有效。轨迹引入了新的全局坐标系,其中可以测量感兴趣的坐标系。基准标记物的使用可以被示为该方法的被动版本,例如所述感兴趣的坐标系计算它们相对于全局固定标记物的各自取向。在两种情况中,由于总能计算坐标系之间的配准,因而所述坐标系可以相对于彼此自由移动。
系统100可以包括工作站或控制台120,从其监督和/或管理程序。工作站112优选地包括一个或多个处理器114以及用于存储程序和应用的存储器116。存储器116可以存储机器人动力学解释模块115,其被配置为从如使用给定成像模态描绘的机器人设备的图像或多个图像来解释位置反馈信号。模块115可以被配置为使用视觉和位置反馈(例如电磁(EM)轨迹、基准位置、形状或几何信息/识别,等等)来重建与机器人104相关联的变形、偏折和其他改变。
所述成像模态或成像设备110可以包括超声成像系统。探头105的坐标系107和机器人104的坐标系109优选地在连续或间断的时间间隔上被配准。在一个实施例中,采用能够采集实时图像流的3D超声探头105。机器人104优选地被定位在所述超声图像的察看区域内。机器人104包括N个接合点111(例如3或4个)并且采用N个编码器113来测量接合点111的绝对或相对位置。因此,整个机器人104的位置以及末端执行器(例如,手术仪器)相对于某个固定坐标系(通常为机器人104的底座)的位置在所有时间都是已知的。
控制单元106可以被包括在工作站112中,或者可以为单独的设备,例如,从成像设备110即机器人系统102的其他部分接收数据,并执行所述配准(方法)的个人电脑(PC)。控制系统106和/或解释模块115可以采用对图像中手术仪器的自动检测的方法,并采用机制以增强所述检测。例如,用于计算在成像设备的坐标系中仪器的配置的技术可以包括采用图像识别程序,其可以解密机器人104的多个点(例如,接合点或端部)来检测其相对于参考位置的配置。另一种方法包括使用机器人104的已知位置/取向以及从机器人104的超声图像计算的机器人104的位置/取向,执行3D超声探头105与机器人104之间的自动联机配准。
配准误差可以由模块115针对图像帧进行监测,并被用于根据用户定义的阈值或其他条件来触发停止开关(dead-man switch)或其他机构126,以使控制系统106停用机器人104和停止操作。
成像设备110可以被用于在程序期间对对象131进行现场成像。成像系统110可以包括荧光检查系统、计算机断层摄影(CT)系统等等,但是超声系统是优选的。成像系统110生成对象131中的区域的图像134,并且机器人104优选地被包括在视场中,或者机器人104的至少部分需要将机器人坐标系与成像设备110的坐标系配准。
工作站112包括显示器118,用于察看对象(患者)131的内部图像。显示器118也可以允许用户与工作站112以及其部件和功能或者系统100内的任意其他元件交互。这进一步通过接口120来促成,接口120可以包括键盘、鼠标、操纵杆、触觉设备或任意其他外围设备或控制器,用于允许用户从工作站112的反馈以及与工作站112的交互。
参考图2,示例性地示出了自动联机配准方法。在方块202中,在3D(例如超声)图像流中检测仪器。在方块204中,在图像坐标系中计算所述仪器的配置。在方块206中,计算帧变换,以将所述仪器与所述图像流配准。在方块208中,执行质量控制。下文参考以下示例性实施例更详细地描述这些步骤。
在一个实施例中,方块202的在3D超声中的仪器检测可以采用基于图像的方法。手术仪器通常由例如金属的材料构成,其在超声成像下可见。此外,所述手术仪器可以以纵向设置的轴(轴等等)为特征,以允许外科医师或机器人在受限空间中操作。使用所述手术仪器的细长性质或其他区别特征,提供了参考,成像算法可以利用该参考以自动方式在超声图像中恰当地检测所述仪器。一种现有的技术/算法为已知的霍夫变换,其可以基于关于手术仪器的形状的知识,从图像中分割所述手术仪器。在一种情况中,线形或棒形(对应于所述仪器轴)可以充当对所述算法的输入参数,而针对先进的检测,可以指定更为复杂的形状。
在另一实施例中,方块202的在3D超声中的仪器检测可以采用基于基准物的方法。可以使用不同类型的基准标记物以便利对工具位置和取向的检测。假定基准标记物以高对比度出现在所述图像中,可以使用本领域已知的图像处理方法,执行在所述图像中对这些标记物的检测,例如霍夫变换、图像阈值化,等等。尽管仪器在超声图像中可以是可见的,但它们的边界可能难以辨别。这可能导致自动仪器检测中的误差。
参考图3,为了解决边界能见度问题,可以用标记物302增大工具300,标记物302容易通过自动算法区分,但不干扰手边的任务。例如,置于工具轴303周围的环302形成超声可见的隆起图样,其针对工具300的每种取向都是有区别的。该方法可以采用对手术工具300的专用加工或制造。实际解决方案将允许改装现有的工具,以提供适合装在已有手术仪器的轴周围的小的可检测标记物306,由此缓解对重新设计所述工具的需要。这些可检测标记物306包括有区分性的图样,使得可以通过自动检测算法在超声或其他成像下辨别工具取向。标记物302、306可以由高回声材料制成,例如聚合物或金属。
一个实施例提供较小且较简单的标记物306,并且可以包括使多个标记物夹到工具轴303上。这些标记物306的组成可以包括钢或与手术环境相容的任意其他回声材料。
参考图4,为了检测轴303的取向,仅需要检测沿轴303的两个点。在该情况中,所述标记物的更简单实施例表现为例如球体312的形式。用于在超声下检测球体形状的算法可以包括归一化互相关(NCC)和方差和(SSD)。也可以采用其他算法。
图5示出了目标(FB)和正轨迹所述目标的机器人工具(端部)的示范性运动轨迹,两者均使用NCC在20帧每秒的超声中被检测到。图5示出了减速24.85倍的x轴运动轨迹;减速24.85倍的y轴运动轨迹以及减速24.85倍的z轴运动轨迹。这里采用的所述标记物为3.2-mm金属球。结果指示,由于所述轨迹彼此吻合良好,因此NCC为针对该应用的稳健方法。
由于3D超声图像通常是以20-30帧每秒的速率生成并处理的,可以以该速率计算新的配准(针对每个新图像)。这是有利的特征,因为其缓解了对于明确的配准步骤的需要,并且由于配准是持续更新的,因而在所述探头的位置的扰动在连续更新所述配准的时期上将不影响所述配准。
参考图6,机器人604的轴602或其他部分可以包括一条或多条形状感测光纤606。在一个实施例中,可以通过使用形状感测光纤606提供对标记物或多个标记物608的检测,所述形状感测光线卷绕在轴602上或以其他方式与轴602耦合。
感测光纤606可以包括一个或多个光纤布拉格光栅(FBG),其为光纤中反射特定波长的光并透过所有其他光的一段。这通过在纤芯中增加折射率的周期性变化得以实现,其生成波长特异的介质反射镜。FBG因此可以被用作线内滤光器,以阻挡某些波长,或者用作波长特异的反射器。
FBG的操作背后的原理是在折射率改变的每个界面处的菲涅尔反射。对于某些波长,各个周期的被反射光同相位,使得存在针对反射的相长干涉,并因此,存在针对透射的相消干涉。布拉格波长对张力以及对温度敏感。这意味着,FBG光栅可以被用作光纤传感器中的感测元件。该技术的优点之一在于,各个感测器元件可以被分布在光线的长度上。沿被嵌入结构中的光纤的长度包括具有各个传感器(计量表)的三个或更多个芯,允许评价的结构的曲率(作为纵向位置的函数),并因此允许精确地确定这样的结构的3维(3D)形式。
作为FBG的替代,可以利用常规光纤中的固有反向散射。一种这样的方法是使用标准单模通信光纤中的瑞利散射器。瑞利散射器作为光纤中折射率的随机波动的结果而出现。这些随机波动可以被建模为具有沿光栅长度随机变化的幅度和相位的布拉格光栅。通过在单一长度的多芯光纤内延伸的三个或更多个芯中使用该作用,感兴趣的表面的形状和动态将是可追踪的。
光纤606可以具有以螺旋方式发射自所述工具上的已知位置并延伸直到轴602的端部610的光。该系统除所述端部位置和取向以外,还可以提供整体形状信息,该信息在所述末端执行器为具有高自由度的高度灵巧机器人操纵器时可能是有价值的。
参考图7,机器人704的轴702或其他部分可以包括(一个或多个)运动设备706。运动设备706可以包括机械作动器或是可以在超声图像中被可视化的其他振动元件。在一个实施例中,对标记物706的检测是由标记物706中位于工具端部710处的机械致动器提供的。端部710振动,并由于端部710被附接到机器人704,标记物706以给定频率振动。可以容易地使用超声检测这些振动,使得可以检测标记物位置和工具端部。机器人结构或连接器中的固有振动也可以被用于高亮显示图像和检测结构。
再次参考图2,在方块204中,在超声坐标系中计算所述仪器的配置。所描述的仪器检测的任务仅是执行联机配准的初始步骤。所述仪器仅已从所述图像的剩余部分被分割出来。在方块204中,考虑从所述超声图像流提取的所述仪器的表示,计算其配置或姿态。这利用了以下事实,即手术工具通常具有在手柄(由外科医师或机器人握持)与末端执行器之间的长轴,这允许从所述机器人/手延伸到手术目标位点。
一旦在超声图像中找到所述仪器的所述轴,即确定描述所述轴的方向的向量。所述向量被用于例如,随着新的3D超声图像流出,实时计算所述仪器在超声坐标(uT)中的姿态。
参考图8,示例性地示出变换/配准计算。工具轴802包括坐标系端部F,并且超声探头(或图像)804包括坐标系uF。实时地在超声坐标中确定描述所述轴的方向的向量ν端部。完成该计算的程序示于方程1中。
Figure BDA0000475866190000091
R u = P + cos θ ( I - P ) + sin θ [ ω ‾ ] ×
P = ω ‾ ⊗ ω ‾ - - - ( 1 )
Figure BDA0000475866190000094
在方程1中,下标和上标u和r分别指代超声坐标系和机器人坐标系。
符号列表:
uT-在超声坐标中观察的所述仪器轴的姿态(4x4变换矩阵)。
uR-姿态uT的旋转分量(3x3矩阵)。
up端部-姿态uT的位置分量,其为仪器端部在超声坐标中的位置(3x1矩阵)。
Figure BDA0000475866190000101
-仪器轴与超声坐标系的z轴之间的旋转轴;其被这样定义是因为在所述仪器的局部坐标系中,所述轴朝向所述端部的方向的向量被定义为z轴。
θ-将向量ν端部匹配到超声z轴的关于
Figure BDA0000475866190000102
的旋转角。
ν端部-与仪器轴的方向相关联的向量。
P-在
Figure BDA0000475866190000103
对其自身进行外积运算的结果,这样表示以简化方程。
I-3x3单位矩阵。
-在上的斜对称算子,当用矩阵符号来表示运算时,其为将其转换到叉积运算的第一操作数的等同。
再次参考图2,在方块206中,执行对帧变换的计算。所述仪器在机器人坐标中的姿态rT由所述机器人的已知动力学(来自编码器等等)给出。到机器人的软件编程接口允许实时地查询该参数。一旦获得了rT,就可以将其与在前一步骤(方块204)中得到的所述仪器在超声坐标中的所述姿态组合,以计算超声坐标系与机器人坐标系之间的期望变换rTu(方程2)。该变换rTu然后可以被用于寻找在超声图像中找到的任一点相对于所述机器人的位置,允许所述机器人基于在所述超声图像中对目标的检测,将手术工具移动向任意所述目标,并最终允许所述机器人在3D超声以及如所述的相关联图像处理的引导下,自主地执行某些功能。
rTu=ruT-1  (2)
其中:
rTu-超声坐标与机器人坐标之间的变换矩阵。
uT-在超声坐标中观察的所述仪器轴的姿态。
rT-根据机器人运动学的所述仪器轴在机器人坐标中的姿态。
简要起见,本文描述的手术仪器关于绕它们的轴旋转对称的。沿用机器人学的说法这,样的仪器可以被标记为5维(5D)的,其源于空间中的3D位置以及关于三个坐标轴中的两个的旋转。通过以下方式容易地实现到6D(为所述仪器关于其轴旋转的额外维度)的扩展:(1)单个适当设计的标记物,或者(2)多个简单标记物在不对称几何图样中的合适放置。本原理可以被扩展以适应任意运动学与结构运动。
再次参考图2,在方块208中,针对本实施例的质量控制可以采取计算并考虑所述计算中的误差的形式。本文描述的所述系统和方法允许联机查询配准准确度,其可以被提供给所述系统的用户用于质量控制。所述配准的所述准确度可以被测量为工具端部的相对位移的差,以及超声图像中的两个或多个帧之间的工具取向。这里,我们提供一种方法,以评价所述端部取向。
误差(e)为:
Figure BDA0000475866190000111
其中
rp端部(t-1)为在时刻t-1,机器人端部在机器人坐标系中的位置。
rp端部(t)为在时刻t(t-1之后一帧),机器人端部在机器人坐标系中的位置。
up端部(t-1)为在时刻t-1,机器人端部在超声(US)坐标系中的位置。
up端部(t)为在时刻t(t-1之后一帧),机器人端部在US坐标系中的位置。
在方块212中,所述误差可以在显示器118(图1)上被呈现给用户,显示器118可以包括所述成像设备的US屏。在方块214中,所述误差可以被用于根据用户定义的阈值或其他条件,触发所述机器人的停止开关或其他机构,并停止操作。
应理解,可以在任意微创手术中采用本实施例,以允许成像设备(例如超声探头)与手术机器人或其他设备的配准,无需术前配准、置于患者上的基准物、手动干预或固定超声探头。所述配准提供具有成像坐标与机器人坐标之间的映射的机器人系统,由此允许所述机器人或其他设备将所述仪器移动向在所述图像中检测的任意目标。本原理容易地可应用于广泛种类的机器人系统或设备、程序及应用。
参考图9,示例性地示出了根据本原理的另一种配准方法。在方块902中,在能配置设备的操作图像中检测所述能配置设备的参考特征。这可以包括纵向轴、机器人底座、区别特征等。在方块904中,确定所述能配置设备的具体配置。例如,机器人外围设备可以具有能够从编码器或其他测量设备计算的确定位置。可以从所述参考位置或特征,相对地计算所述外围设备的所述位置。在方块906中,使用所述参考特征在成像坐标系中计算所述能配置设备系统的具体配置或姿态。所述姿态可以包括对所述能配置设备的所述特征中的全部或一些的确定。例如,四个外围设备中的三个可以提供关于所述设备的位置的足够信息。所述具体配置可以包括使用编码器寻找所述能配置设备的姿态,以在方块908中确定所述能配置设备的能移动特征的位置。
在方块910中,可以用光纤,使用形状感测确定所述具体配置,其中,可以使用来自所述光纤的反馈,确定所述能配置设备的一个或多个能移动特征的移动。在方块912中,所述一个或多个能移动特征可以包括至少一个标记物,以在图像中指定位置,并使用所述至少一个标记物来确定所述具体配置。所述标记物应在所述图像中可见,并且可以包括特定形状或特征,以帮助准确定义所述设备的所述配置或姿态。所述标记物可以包括,例如振动机构,用于指定所述至少一个或多个能移动特征的所述位置或取向。这在超声成像中尤其有用。
在方块914中,确定所述能配置设备的所述具体配置与所述成像坐标系之间的变换,以将所述能配置设备的坐标系与所述成像坐标系配准。所述变换允许将一个坐标系中的任意位置变换到另一坐标系。在方块916中,可以用由所述成像系统拍摄的新图像更新从所述能配置设备到所述成像坐标系的配准或变换。该更新可以根据需要,在每一新帧或预定数目的帧之后完成。所述更新是在程序或操作期间实时完成的。在方块918中,可以基于测得的配准误差来停用所述能配置设备或改变其操作。可以间歇性地计算所述配准误差,并将其用于与阈值比较。如果超过所述阈值,则停用所述设备(例如机器人),直到可以再次建立配准。其他动作也可以被附加到所述误差计算,例如警报响起或指示灯点亮,等等。
在解释所附权利要求书时,应理解:
a)词语“包括”不排除除给定权利要求中所列那些以外的其他元件或动作的存在;
b)元件前的定语“一”或“一个”不排除存在多个这样的元件;
c)权利要求书中的任意附图标记不限制它们的范围;
d)几种“器件”可以由相同的项目或硬件或软件实现的结构或功能表示;并且
e)除非明确指出,不意图要求动作的具体顺序。
已经针对用于机器人与图像之间的自动联机配准的系统与方法,描述了优选的实施例(它们意图为示例性而非限制性的),要指出,本领域技术人员在上述教导的启示下,可以做出多种修改和变型。因此要理解,可以在所公开的公开内容的具体实施例中进行在本文公开的实施例的范围内的多种改变,所述范围由所附权利要求书划定。在这样描述了特别是专利法所要求的细节之后,要求保护的并且期望受专利法保护的内容在权利要求书中得以阐明。

Claims (25)

1.一种配准系统,包括:
能配置设备(104),其具有一个或多个能移动特征(122),使得能够确定所述能移动特征相对于参考的移动,以确定所述能配置设备的具体配置;
成像系统(110),其具有显示器,在所述显示器上能够察看所述能配置设备;以及
处理设备(112),其被配置为基于所述能配置设备的所述具体配置,将所述能配置设备与所述成像系统的坐标系配准。
2.如权利要求1所述的系统,其中,所述能配置设备(104)包括具有至少一个连接器的机器人。
3.如权利要求2所述的系统,其中,所述至少一个连接器(122)被耦合到接合点(111)并且还包括被配置为测量所述接合点的所述移动的编码器(113)。
4.如权利要求2所述的系统,其中,所述至少一个连接器(122)包括形状感测光纤(606),并且使用来自所述光纤的信号测量轴的移动。
5.如权利要求2所述的系统,其中,所述至少一个连接器(122)包括末端部分,并且所述末端部分包括至少一个标记物(108),用于在所述成像系统的图像中指定一位置。
6.如权利要求5所述的系统,其中,所述至少一个标记物(108)包括形状或配置,以指定所述至少一个连接器的所述位置或取向。
7.如权利要求5所述的系统,其中,所述成像系统(110)包括超声系统,并且所述至少一个标记物包括振动机构(706),以指定所述至少一个连接器的所述位置或取向。
8.如权利要求1所述的系统,其中,所述能配置设备(104)包括设置在生物体内的机器人,并且所述成像系统(110)包括对所述体中的感兴趣区域进行成像的超声系统。
9.如权利要求1所述的系统,还包括被配置为基于测得的配准误差来停用所述能配置设备的开关(126)。
10.一种配准系统,包括:
机器人(104),其具有通过N个接合点(111)连接的一个或多个能移动特征(122),使得所述能移动特征相对于参考的移动定义所述机器人的具体配置;
超声成像系统(110),其具有显示器,在所述显示器上能够察看所述机器人;以及
处理设备(112),其被配置为基于所述机器人的所述具体配置,将所述机器人与所述成像系统的超声探头(105)的坐标系配准。
11.如权利要求10所述的系统,其中,所述一个或多个能移动特征(122)包括轴或连接器。
12.如权利要求10所述的系统,其中,所述N个接合点(111)被耦合到编码器(113)以测量各自接合点的所述移动。
13.如权利要求12所述的系统,其中,所述一个或多个能移动特征(122)包括形状感测光纤(606),并且所述一个或多个能移动特征的所述移动使用来自所述光纤的信号测量。
14.如权利要求12所述的系统,其中,所述一个或多个能移动特征(122)包括末端部分,并且所述末端部分包括至少一个标记物(108),以在所述成像系统的图像中指定一位置。
15.如权利要求14所述的系统,其中,所述至少一个标记物(108)包括一形状或配置,以指定所述一个或多个能移动特征的所述位置或取向。
16.如权利要求14所述的系统,其中,所述至少一个标记物(108)包括振动机构(706),以指定所述至少一个或多个能移动特征的所述位置或取向。
17.如权利要求12所述的系统,其中,所述机器人(104)被设置在生物体内,并且所述超声成像系统对所述体中的感兴趣区域进行成像。
18.如权利要求12所述的系统,还包括被配置为基于测得的配准误差来停用所述机器人的开关(126)。
19.一种配准方法,包括:
在能配置设备的操作图像中,检测(902)所述能配置设备的参考特征;
确定(904)所述能配置设备的具体配置;
使用所述参考特征,在成像坐标系中计算(906)所述能配置设备的所述具体配置;并且
确定(914)所述能配置设备的所述具体配置与所述成像坐标系之间的变换,以将所述能配置设备的坐标系与所述成像坐标系配准。
20.如权利要求19所述的方法,还包括:用由所述成像系统拍摄的新图像来更新(916)从所述能配置设备到所述成像坐标系的配准。
21.如权利要求19所述的方法,其中,计算所述具体配置包括使用编码器寻找(908)所述能配置设备的姿态,以确定所述能配置设备的能移动特征的位置。
22.如权利要求19所述的方法,其中,确定具体配置包括用光纤对所述能配置设备的一个或多个能移动特征的移动进行形状感测(910)。
23.如权利要求22所述的方法,其中,所述一个或多个能移动特征包括至少一个标记物,用于在图像中指定一位置,并且所述方法还包括使用所述至少一个标记物来确定(912)所述具体配置。
24.如权利要求22所述的方法,其中,所述至少一个标记物包括振动机构(706),以指定所述至少一个或多个能移动特征的所述位置或取向。
25.如权利要求19所述的方法,还包括基于测得的配准误差来停用(918)所述能配置设备。
CN201280044295.1A 2011-09-13 2012-09-05 机器人与图像之间的自动联机配准 Active CN103797512B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201161533808P 2011-09-13 2011-09-13
US61/533,808 2011-09-13
PCT/IB2012/054579 WO2013038301A2 (en) 2011-09-13 2012-09-05 Automatic online registration between a robot and images

Publications (2)

Publication Number Publication Date
CN103797512A true CN103797512A (zh) 2014-05-14
CN103797512B CN103797512B (zh) 2018-10-16

Family

ID=47089094

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201280044295.1A Active CN103797512B (zh) 2011-09-13 2012-09-05 机器人与图像之间的自动联机配准

Country Status (7)

Country Link
US (1) US9984437B2 (zh)
EP (1) EP2745268B1 (zh)
JP (1) JP6491476B2 (zh)
CN (1) CN103797512B (zh)
BR (1) BR112014005451B1 (zh)
RU (1) RU2624107C2 (zh)
WO (1) WO2013038301A2 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108366833A (zh) * 2015-12-25 2018-08-03 索尼公司 手术信息处理设备和方法
CN110087532A (zh) * 2016-12-15 2019-08-02 诺华股份有限公司 用于眼科手术的自适应图像配准

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6293777B2 (ja) * 2012-12-10 2018-03-14 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 画像キャプチャ装置及び操作可能な装置可動アームの制御された動作の間の衝突回避
EP3183099B1 (en) 2014-08-22 2023-03-22 President and Fellows of Harvard College Soft robotic device
JP6524214B2 (ja) 2014-08-22 2019-06-05 プレジデント アンド フェローズ オブ ハーバード カレッジ 可撓性と伸縮性を有するソフトアクチュエータ用電子歪制限層
CN107249833A (zh) * 2015-01-12 2017-10-13 哈佛学院院长及董事 用于软机器人和软致动器的传感器
US20170119474A1 (en) * 2015-10-28 2017-05-04 Endochoice, Inc. Device and Method for Tracking the Position of an Endoscope within a Patient's Body
WO2017114855A1 (en) 2015-12-29 2017-07-06 Koninklijke Philips N.V. System, control unit and method for control of a surgical robot
EP3429496A1 (en) 2016-03-17 2019-01-23 Koninklijke Philips N.V. Control unit, system and method for controlling hybrid robot having rigid proximal portion and flexible distal portion
JP6998320B2 (ja) 2016-03-31 2022-01-18 コーニンクレッカ フィリップス エヌ ヴェ 低侵襲的処置のための操縦可能な導入器の画像誘導
WO2018175737A1 (en) * 2017-03-22 2018-09-27 Intuitive Surgical Operations, Inc. Systems and methods for intelligently seeding registration
TR201722919A2 (tr) 2017-12-29 2019-07-22 Erhan Ilhan Konukseven Fi̇ber bragg izgara tabanli opti̇k sensörler i̇le cerrahi̇ branşlarda konum beli̇rleme si̇stemi̇
US10828020B2 (en) * 2018-08-22 2020-11-10 Covidien Lp Surgical retractor including three-dimensional (3D) imaging capability

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101809618A (zh) * 2007-10-01 2010-08-18 皇家飞利浦电子股份有限公司 对介入工具的探测和跟踪
CN101861600A (zh) * 2007-11-14 2010-10-13 皇家飞利浦电子股份有限公司 用于定量3d ceus分析的系统和方法

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS54123277A (en) * 1978-03-16 1979-09-25 Tokyo Shibaura Electric Co Needle for biopsy inspection and its marker annunciator
JPH07120211B2 (ja) * 1986-12-26 1995-12-20 トヨタ自動車株式会社 知能ロボツトにおける座標合わせ方法
JPH02262991A (ja) * 1989-03-31 1990-10-25 Mitsubishi Electric Corp ロボット動作監視装置
US6006126A (en) * 1991-01-28 1999-12-21 Cosman; Eric R. System and method for stereotactic registration of image scan data
DE69531994T2 (de) * 1994-09-15 2004-07-22 OEC Medical Systems, Inc., Boston System zur positionserfassung mittels einer an einem patientenkopf angebrachten referenzeinheit zur anwendung im medizinischen gebiet
US6246898B1 (en) * 1995-03-28 2001-06-12 Sonometrics Corporation Method for carrying out a medical procedure using a three-dimensional tracking and imaging system
US5951475A (en) * 1997-09-25 1999-09-14 International Business Machines Corporation Methods and apparatus for registering CT-scan data to multiple fluoroscopic images
US6363940B1 (en) * 1998-05-14 2002-04-02 Calypso Medical Technologies, Inc. System and method for bracketing and removing tissue
FR2779339B1 (fr) 1998-06-09 2000-10-13 Integrated Surgical Systems Sa Procede et appareil de mise en correspondance pour la chirurgie robotisee, et dispositif de mise en correspondance en comportant application
US6674916B1 (en) * 1999-10-18 2004-01-06 Z-Kat, Inc. Interpolation in transform space for multiple rigid object registration
DE10005628B4 (de) * 2000-02-09 2006-04-20 Siemens Ag Verfahren und Vorrichtung zur Ausrichtung eines medizinischen Instruments am Körper eines Patienten unter Verwendung eines Computer-Tomographen
RU2161085C1 (ru) * 2000-03-06 2000-12-27 Закрытое акционерное общество "Авиационные технологии" Система управления процессом электронно-лучевой сварки
US7607440B2 (en) * 2001-06-07 2009-10-27 Intuitive Surgical, Inc. Methods and apparatus for surgical planning
AU2003207811A1 (en) * 2002-02-15 2003-09-09 The John Hopkins University System and method for laser based computed tomography and magnetic resonance registration
EP2070487B1 (en) * 2002-08-13 2014-03-05 NeuroArm Surgical, Ltd. Microsurgical robot system
US20080130965A1 (en) * 2004-11-23 2008-06-05 Avinash Gopal B Method and apparatus for parameter assisted image-guided surgery (PAIGS)
CN100563752C (zh) 2005-01-31 2009-12-02 重庆融海超声医学工程研究中心有限公司 Mri引导的超声波治疗装置
CN1814323B (zh) 2005-01-31 2010-05-12 重庆海扶(Hifu)技术有限公司 一种聚焦超声波治疗系统
JP4382003B2 (ja) * 2005-03-23 2009-12-09 川崎重工業株式会社 ロボット制御装置およびロボット制御方法
EP2289453B1 (en) * 2005-06-06 2015-08-05 Intuitive Surgical Operations, Inc. Laparoscopic ultrasound robotic surgical system
GB2428110A (en) 2005-07-06 2007-01-17 Armstrong Healthcare Ltd A robot and method of registering a robot.
US8190238B2 (en) * 2005-12-09 2012-05-29 Hansen Medical, Inc. Robotic catheter system and methods
US7930065B2 (en) 2005-12-30 2011-04-19 Intuitive Surgical Operations, Inc. Robotic surgery system including position sensors using fiber bragg gratings
KR100731052B1 (ko) * 2006-01-23 2007-06-22 한양대학교 산학협력단 미세침습 수술을 위한 컴퓨터통합 수술 보조시스템
US20080118116A1 (en) * 2006-11-20 2008-05-22 General Electric Company Systems and methods for tracking a surgical instrument and for conveying tracking information via a network
WO2008079360A2 (en) 2006-12-22 2008-07-03 Schering Corporation Dispenser dose counter mechanism
US20080294115A1 (en) * 2007-05-22 2008-11-27 Chen Raymond H Microscopic Tumor Injection Treatment
EP2626028B1 (en) * 2007-08-14 2020-04-22 Koninklijke Philips N.V. Robotic instrument systems and methods utilizing optical fiber sensors
WO2009094646A2 (en) * 2008-01-24 2009-07-30 The University Of North Carolina At Chapel Hill Methods, systems, and computer readable media for image guided ablation
US20090198093A1 (en) * 2008-02-06 2009-08-06 Oliver Meissner System and method for combined embolization and ablation therapy
WO2010044852A2 (en) * 2008-10-14 2010-04-22 University Of Florida Research Foundation, Inc. Imaging platform to provide integrated navigation capabilities for surgical guidance
JP5233601B2 (ja) * 2008-11-07 2013-07-10 セイコーエプソン株式会社 ロボットシステム、ロボット制御装置およびロボット制御方法
US9285246B2 (en) * 2010-02-12 2016-03-15 Intuitive Surgical Operations, Inc. Method and system for absolute three-dimensional measurements using a twist-insensitive shape sensor

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101809618A (zh) * 2007-10-01 2010-08-18 皇家飞利浦电子股份有限公司 对介入工具的探测和跟踪
CN101861600A (zh) * 2007-11-14 2010-10-13 皇家飞利浦电子股份有限公司 用于定量3d ceus分析的系统和方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
PAUL M. NOVOTNY ET AL: "Real-Time Visual Servoing of a Robot Using Three-Dimensional Ultrasound", 《2007 IEEE INTERNATIONAL CONFERENCE ON ROBOTICS AND AUTOMATION》 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108366833A (zh) * 2015-12-25 2018-08-03 索尼公司 手术信息处理设备和方法
CN108366833B (zh) * 2015-12-25 2021-10-12 索尼公司 手术信息处理设备和方法
CN110087532A (zh) * 2016-12-15 2019-08-02 诺华股份有限公司 用于眼科手术的自适应图像配准

Also Published As

Publication number Publication date
WO2013038301A3 (en) 2013-07-18
BR112014005451A2 (pt) 2017-03-21
RU2014114531A (ru) 2015-10-20
EP2745268B1 (en) 2017-08-02
CN103797512B (zh) 2018-10-16
EP2745268A2 (en) 2014-06-25
JP6491476B2 (ja) 2019-03-27
US9984437B2 (en) 2018-05-29
BR112014005451B1 (pt) 2021-11-09
US20140212025A1 (en) 2014-07-31
RU2624107C2 (ru) 2017-06-30
WO2013038301A2 (en) 2013-03-21
JP2014531986A (ja) 2014-12-04

Similar Documents

Publication Publication Date Title
CN103797512A (zh) 机器人与图像之间的自动联机配准
US20230012778A1 (en) Navigation of tubular networks
JP6568084B2 (ja) 光学式形状検知を用いてデバイスを撮像するロボット制御
EP3191800B1 (en) Detection of surface contact with optical shape sensing
CN103415255B (zh) 利用血管内装置形状对血管图像进行非刚性体变形
EP2877096B1 (en) Accurate and rapid mapping of points from ultrasound images to tracking systems
CN103957772B (zh) 形状感测辅助的医疗过程
JP6706576B2 (ja) 最小侵襲性のインターベンションのための形状センスされるロボット超音波
CN104000654A (zh) 用于计算外科手术设备位置的计算机实现技术
JP2017500935A5 (zh)
Koeda et al. Development of wireless surgical knife attachment with proximity indicators using ArUco marker
CN108369268A (zh) 用于医学设备跟踪的系统和方法
Chopra A Framework for Tumor Localization in Robot-Assisted Minimally Invasive Surgery

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant