CN113661544A - 基于图像的探针定位 - Google Patents

基于图像的探针定位 Download PDF

Info

Publication number
CN113661544A
CN113661544A CN202080026117.0A CN202080026117A CN113661544A CN 113661544 A CN113661544 A CN 113661544A CN 202080026117 A CN202080026117 A CN 202080026117A CN 113661544 A CN113661544 A CN 113661544A
Authority
CN
China
Prior art keywords
probe
catheter
image
location
ice
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080026117.0A
Other languages
English (en)
Inventor
V·萨尔高恩卡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Siemens Medical Solutions USA Inc
Original Assignee
Siemens Medical Solutions USA Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens Medical Solutions USA Inc filed Critical Siemens Medical Solutions USA Inc
Publication of CN113661544A publication Critical patent/CN113661544A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/06Devices, other than using radiation, for detecting or locating foreign bodies ; determining position of probes within or on the body of the patient
    • A61B5/061Determining position of a probe within the body employing means separate from the probe, e.g. sensing internal probe position employing impedance electrodes on the surface of the body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0883Detecting organic movements or changes, e.g. tumours, cysts, swellings for diagnosis of the heart
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/12Diagnosis using ultrasonic, sonic or infrasonic waves in body cavities or body tracts, e.g. by using catheters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/42Details of probe positioning or probe attachment to the patient
    • A61B8/4245Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/44Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
    • A61B8/4444Constructional features of the ultrasonic, sonic or infrasonic diagnostic device related to the probe
    • A61B8/445Details of catheter construction
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • A61B8/463Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/48Diagnostic techniques
    • A61B8/483Diagnostic techniques involving the acquisition of a 3D volume of data
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/40ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to mechanical, radiation or invasive therapies, e.g. surgery, laser therapy, dialysis or acupuncture
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Public Health (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Radiology & Medical Imaging (AREA)
  • Pathology (AREA)
  • Physics & Mathematics (AREA)
  • Biophysics (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Human Computer Interaction (AREA)
  • Cardiology (AREA)
  • Robotics (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Urology & Nephrology (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)

Abstract

本文中公开了一种用于基于图像的探针定位的框架。该框架从探针接收当前图像。当前图像由感兴趣结构内的探针来获取。该框架通过将当前图像应用于经训练的分类器来预测探针的位置并且生成要使用探针执行的下一个操纵的推荐。然后,该框架输出所预测的位置以及下一个操纵的推荐。

Description

基于图像的探针定位
技术领域
本公开总体上涉及便于进行基于图像的探针定位。
背景技术
超声心动描记术(echocardiography)使用超声波来获取心脏内部结构的图像。心内超声心动图(ICE)是一种基于导管的形式的超声心动描记术,该超声心动描记术从心脏内获取图像,而不是通过发送穿过胸壁的声波来收集心脏图像。例如,来自SiemensHealthineers Global的ACUSON AcuNav™超声成像导管用于ICE。超声心动图通过从换能器发送医学上安全的声波来工作。当声波从心脏中的结构被反射回到换能器时,超声心动图机器接收反射的声波,并且创建心脏内部结构的移动图片。回波换能器通常位于导管的尖端(tip)处,该导管是细的、柔性的管,该管通过穿刺(puncture)被插入到去往心脏的血管中。
ICE用户在心脏内部操控(manipulate)导管时可能需要导航辅助。通常使用基于电磁的位置传感器来建立心脏内的ICE导管引导。第三方系统(例如,CARTO®标测系统(mapping system))接收并且解释来自这些传感器的数据以确定位置。在传感器不可用的情况下,通常由第二补充成像模态(诸如,荧光透视)来确定导管位置。替代地,可以由临床超声专家来手动地提供逐步引导。
然而,在使用这种系统时存在各种缺点。例如,基于传感器的引导系统通常更加昂贵且麻烦,这是因为它们通常涉及导管的更长的非柔性远侧尖端,这由此降低了可操控性并且增加了心脏壁穿孔的机会。附加地,传感器可能潜在地干扰附近的生物医学装置和仪器。此外,存在导管制造失败的更高风险、连同更低的产量(yield)、以及更高的材料和人工成本。基于荧光透视的导航系统会使医师、患者或医院工作人员暴露于附加的X射线辐射,这可能会导致不期望的副作用。至于手动引导,它需要经训练的ICE超声医师在场,并且涉及与后勤、调度和过程相关联的附加成本。
发明内容
本文中描述了一种用于基于图像的探针定位的框架(framework)。该框架从探针接收当前图像。当前图像由感兴趣结构内的探针来获取。该框架通过将当前图像应用于经训练的分类器来预测探针的位置并且生成要使用探针执行的下一个操纵的推荐。然后,该框架输出所预测的位置以及下一个操纵的推荐。
附图说明
当结合附图考虑时,将容易地获得对本公开及其许多伴随方面的更完整的领会,这是因为本公开及其许多伴随方面通过参考以下详细描述而变得更好理解。
图1是图示了示例性系统的框图;
图2示出了示例性探针定位方法;
图3示出了示例性心内超声心动图(ICE)图像;
图4图示了经训练的神经网络的示例性输入和输出;以及
图5示出了示例性用户接口。
具体实施方式
在以下描述中,阐述了许多具体细节,例如具体组件、装置、方法等的示例,以便提供对本框架的实现方式的全面理解。然而,对于本领域技术人员来说明显的是,不需要采用这些具体细节来实践本框架的实现方式。在其他实例中,没有详细描述众所周知的材料或方法,以避免不必要地模糊本框架的实现方式。虽然本框架易于进行各种修改和替代形式,但是其特定实施例在附图中以示例的方式来示出,并且将在本文中详细描述。然而,应当理解的是,不意图将本发明限制于所公开的特定形式,而是相反地,意图是覆盖落入本发明的精神和范围内的所有修改、等同物和替代物。此外,为了便于理解,某些方法步骤被描绘为单独的步骤;然而,这些单独描绘的步骤不应当被解释为在它们的执行中必然依赖于次序。
本文中使用的术语“x射线图像”可以意指可见的x射线图像(例如,显示在视频屏幕上)或x射线图像的数字表示(例如,对应于x射线检测器的像素输出的文件)。本文中使用的术语“治疗中的x射线图像”可以指代在介入或治疗过程的治疗递送阶段期间的任何时间点处捕获的图像,该时间点可以包括当放射源打开或关闭时的时间。有时,为了便于描述,CT成像数据(例如,锥形射束CT成像数据)可以在本文中用作示例性成像模态。然而,将领会的是,来自任何类型的成像模态的数据(包括但不限于x射线照片、MRI、PET(正电子发射断层摄影)、PET-CT、SPECT、SPECT-CT、MR-PET、3D超声图像等)也可以用于各种实现方式中。
除非另行声明,如从以下讨论中明显的那样,将领会的是,诸如“分割”、“生成”、“配准”、“确定”、“对准”、“定位”、“处理”、“计算”、“选择”、“估计”、“检测”、“跟踪”等术语可以指代计算机系统或类似电子计算装置的动作和过程,这些动作和过程将操控被表示为计算机系统寄存器和存储器内的物理(例如,电子)量的数据并且将该数据转换成其他数据,该其他数据类似地被表示为计算机系统存储器或寄存器或其他这种信息存储、传输或显示装置内的物理量。本文中描述的方法的实施例可以使用计算机软件来实现。如果用符合公认标准的编程语言来编写,则被设计成实现这些方法的指令序列可以被编译,以用于在各种硬件平台上执行、以及用于与各种操作系统对接。此外,没有参考任何特定的编程语言来描述本框架的实现方式。将领会的是,可以使用各种编程语言。
如本文中所使用,术语“图像”指代由离散图像元素(例如,用于2D图像的像素、用于3D图像的体素、用于4D数据集的doxel)组成的多维数据。图像可以是例如通过计算机断层摄影、磁共振成像、超声、或本领域技术人员已知的任何其他医学成像系统所收集的主体的医学图像。也可以从非医学情境来提供图像,该非医学情境诸如例如远程感测系统、电子显微镜等。尽管图像可以被认为是从R3到R2的函数、或者是至R3的映射,但是本方法不限于这种图像,并且可以应用于任何维度的图像,例如2D图片、3D体积或4D数据集。对于2维或3维图像而言,图像的域通常是2维或3维矩形阵列,其中每个像素或体素可以参考2或3个相互正交的轴的集合来寻址。本文中使用的术语“数字的”和“数字化的”将指代在适当的情况下采用数字或数字化格式的图像或体积,该图像或体积是经由数字获取系统或经由从模拟图像的转换而获取的。
关于2D成像和图像显示常规地使用的针对图片元素的术语“像素”、关于3D成像经常使用的针对体积图像元素的术语“体素”、以及针对4D数据集的术语“doxel”可以互换地使用。应当注意的是,3D体积图像本身是从在2D传感器阵列上作为像素而获得的图像数据中合成的,并且从某个视角被显示为2D图像。因此,2D图像处理和图像分析技术可以应用于3D体积图像数据。在随后的描述中,被描述为对doxel进行操作的技术可以替代地被描述为对3D体素数据进行操作,3D体素数据以2D像素数据的形式来存储和表示以用于显示。同样地,对体素数据进行操作的技术也可以被描述为对像素进行操作。在以下描述中,变量x用于指示特定空间位置处的主体图像元素,或者替代地被认为是主体像素。术语“主体像素”、“主体体素”和“主体doxel”用于指示当使用本文中描述的技术对其进行操作时的特定图像元素。
本框架的一个方面利用输入到机器学习分类器的图像来预测(诸如,患者心脏内的)感兴趣结构内部的探针的位置(例如,位置和取向)。所预测的位置可以与治疗或导航协议一起使用,以实时地为用户生成引导,以例如将探针导向(steer)(例如,扭转、旋转和/或平移)到期望位置以对解剖结构进行可视化。
该框架依赖于探针所获取的图像,并且避免了使用传感器和附加的辅助成像模态。由基于图像的本框架所生成的定位(或导航)引导提供了若干个优点。例如,ICE用户可以较少地依赖于荧光透视、其他现场专家或位置传感器反馈。ICE成像是一项专业化的任务,并且许多医师先前不愿意使用它,这是因为他们很难精确地知道导管的位置。即使是经验丰富的医生也会为ICE定位而挣扎。他们通常依赖于ICE超声医师,或者需要花费更长的时间导航至标准ICE视图,以便在过程期间进行重新取向。本框架不仅使得ICE用户能够更好地了解其装置的位置,而且它还可以提供用于完成该过程的逐步引导。这种框架可以增加用户信心,便于用户训练,减少荧光透视的使用,并且扩大了ICE采用。此外,通过去除对位置传感器的使用,有利地降低了与使用一次性使用导管相关联的成本。本框架不需要ICE导管上的任何附加硬件,不会增加成本或降低可操控性。它还有利地简化了工作流程,增加了ICE使用中的信心,并且在这样做的情况下增加了ICE采用。
要理解的是,虽然本文中可以示出涉及导航ICE导管的特定应用,但是该技术不限于所说明的特定实现方式。该技术还可以应用于将其他类型的探针(例如,针、支架、内窥镜、血管成形术球囊等)引导到(诸如,患者身体内的)感兴趣的对象或结构内部。
图1是图示了示例性系统100的框图。系统100包括用于实现本文中描述的框架的计算机系统101。计算机系统101可以是台式个人计算机、便携式膝上型计算机、另一便携式装置、迷你计算机、大型计算机、服务器、云基础设施、存储系统、专用数字电器、通信装置、或具有被配置成存储数字数据项的集合的存储子系统的另一装置。在一些实现方式中,计算机系统101作为独立装置来操作。在其他实现方式中,计算机系统101可以连接(例如,使用网络)到其他机器,诸如成像装置102和工作站103。在联网部署中,计算机系统101可以以服务器-客户端用户网络环境中的服务器(例如,瘦客户端服务器,诸如SiemensHealthcare的syngo®.via)、客户端用户机器的能力来操作,或者作为对等(或分布式)网络环境中的对等机器来操作。
计算机系统101可以包括经由输入-输出接口121耦合到一个或多个非暂时性计算机可读介质105(例如,计算机存储装置或存储器)、显示装置108(例如,监视器)和各种输入装置110(例如,鼠标或键盘)的处理器装置或中央处理单元(CPU)104。计算机系统101可以进一步包括支持电路,例如高速缓存、电源、时钟电路和通信总线。各种其他外围设备(诸如,附加的数据存储装置和打印装置)也可以连接到计算机系统101。
本技术可以以各种形式的硬件、软件、固件、专用处理器或其组合来实现,或者作为经由操作系统执行的微指令代码的一部分或者应用程序或软件产品的一部分或其组合来实现。在一个实现方式中,本文中描述的技术被实现为有形地体现在一个或多个非暂时性计算机可读介质105中的计算机可读程序代码。特别地,本技术可以由机器学习单元106和处理单元107来实现。非暂时性计算机可读介质105可以进一步包括随机存取存储器(RAM)、只读存储器(ROM)、磁性软盘、闪速存储器和其他类型的存储器或其组合。计算机可读程序代码由处理器装置104来执行,以处理由例如成像装置102获取的图像或图像数据。由此,计算机系统101是通用计算机系统,该通用计算机系统在执行计算机可读程序代码时变成专用计算机系统。计算机可读程序代码不意图限于任何特定的编程语言及其实现方式。将领会的是,各种编程语言及其编码可以用于实现本文中包含的公开内容的教导。
相同或不同的计算机可读介质105可以用于存储图像数据集、患者记录、知识库等。这种数据也可以存储在外部存储装置或其他存储器中。外部存储装置可以使用由处理器装置104管理并驻留在存储器(诸如,硬盘、RAM或可移除介质)上的数据库管理系统(DBMS)来实现。外部存储装置可以在一个或多个附加的计算机系统上实现。例如,外部存储装置可以包括驻留在单独的计算机系统上的数据仓库系统、图片存档和通信系统(PACS)、或任何其他现在已知或以后开发的医院、医学机构、医学办公室、测试设施、药房或其他患者记录存储系统。
探针111是可导向的装置,其被插入到诸如患者身体之类的对象中的感兴趣结构中。例如,探针111被定位在患者的孔中,诸如通过嘴并进入食道中。替代地,通过诸如用于微创外科手术的穿过患者皮肤的外科手术插入来定位探针111。在其他实现方式中,探针111被插入在作为外科手术的一部分而产生的开口中,诸如手术间探针。
探针111可以是手术内探针、腔内探针、导管或其他医学装置。在一些实现方式中,探针111是用于患者体内的介入或其他用途的任何导管。导管可以被定尺寸并成形以用于在循环系统中使用,例如具有10 French或更小的直径并且具有一英尺或更大的长度。替代地,导管可以被定尺寸并成形以用于在身体内的其他位置处使用。导管被适配成用于插入患者体内,诸如穿过血管或静脉以便延伸到心腔、体腔或患者体内的其他位置。导管可以包括引导线、或通过另一个先前定位的引导导管而被插入。导管可以包括电极、手术刀(scalpel)、球囊、支架、成像阵列、用于注射的管、或用于治疗患者的其他装置。
在一些实现方式中,探针111包括成像源112。成像源112是用于从探针111对患者进行成像或扫描的阵列、传感器、透镜、换能器或其他元件。例如,导管中的成像源112是心内超声心动图(ICE)导管的超声换能器元件或阵列、血管内超声(IVUS)导管的超声换能器元件、光学相干断层摄影(OCT)导管的透镜或相机、光学成像导管的透镜或相机,或者是经食管超声心动图(TEE)超声换能器的超声换能器阵列。
成像装置102在探针111的外部或内部。例如,成像装置102是具有波束形成器、检测器和/或图像处理器的超声系统,该波束形成器、检测器和/或图像处理器连接到成像源112但是定位在患者外部。外部超声系统与成像源112连接以进行扫描。作为另一示例,成像装置102是用于光学成像的相机或视频装置。相机或视频与成像源112连接,以从探针111观看患者。在又一示例中,成像装置102是光学相干成像仪。在另一示例中,成像装置102是磁共振(MR)系统。MR系统与作为探针111中的成像源112的局部线圈连接。成像装置102使用成像源112从探针111观看或扫描患者。替代地,成像装置102是用于从内部或外部位置扫描患者的任何模态,诸如磁共振、计算机断层摄影、正电子发射断层摄影、或单光子发射断层摄影系统。
作为超声换能器元件或阵列,成像源112可以用于从探针111扫描患者的一维、二维或三维区域。一个或多个压电或微机电(例如,电容式薄膜超声换能器)元件在电能与声能之间进行转换,以用于扫描患者。这种元件的阵列可以用于在二维或三维中进行电子扫描或导向。单个元件或元件阵列可以用于在一维或二维中进行机械扫描。例如,一个或多个元件与驱动轴连接并且在探针111内旋转。该旋转导致了利用探针111周围的不同位置的超声进行扫描。可以提供其他布置。
工作站103可以包括计算机和适当的外围设备,诸如键盘和显示装置,并且可以与整个系统100结合地操作。例如,工作站103可以与成像装置102进行通信,使得由成像装置102收集的图像数据可以在工作站103处呈现并且在显示装置上观看。
工作站103可以直接与计算机系统101进行通信,以经由图形用户接口来显示经处理的图像数据和/或输出图像处理结果。替代地,计算机系统101本身可以在没有工作站103的情况下经由显示装置108上的图形用户接口来显示经处理的图像数据和/或输出图像处理结果。工作站103可以包括图形用户接口,以经由输入装置(例如,键盘、鼠标、触摸屏、语音或视频识别接口等)来接收用户输入,从而操控对图像数据的可视化和/或处理。例如,用户可以观看经处理的图像数据,并且指定一个或多个视图调整或偏好(例如,缩放、裁剪、平移、旋转、改变对比度、改变颜色、改变视角、改变视图深度、改变绘制(rendering)或重建技术等)。
应当进一步理解,因为附图中描述的一些组成系统组件和方法步骤可以在软件中实现,所以系统组件(或过程步骤)之间的实际连接可能取决于对本框架进行编程的方式而不同。给定本文中提供的教导,相关领域普通技术人员将能够设想本框架的这些和类似的实现方式或配置。
图2示出了由计算机系统执行的示例性探针定位方法200。应当理解的是,方法200的步骤可以以所示的次序或不同的次序来执行。也可以提供附加的、不同的或更少的步骤。此外,方法200可以利用图1的系统100、不同的系统或其组合来实现。
在202处,机器学习单元106接收感兴趣结构的训练图像。还可以接收训练图像与从中获取了该训练图像的相应探针位置之间的映射。训练图像是由探针在来自不同患者的感兴趣结构内的特定位置处获取的。训练图像可以是例如ICE图像,该ICE图像是由可导向的ICE导管的远侧尖端获取的相邻组织的超声图像。感兴趣结构是为了研究而标识的任何解剖结构。感兴趣结构可以是例如心或心脏系统(例如,瓣膜、血管、动脉、心腔)的一部分或全部。训练图像可以替代地或附加地表示患者中的器官、骨骼或其他感兴趣结构的全部或部分。
每个训练图像表示分布在二维(2D)视图或平面上的位置。每个视图可以被映射到探针的相对位置(例如,位置和取向)。视图是一个或多个解剖界标的预定义集合的可视化。例如,初始视图(Home View)可以被映射到ICE导管的初始位置(Home Position)。初始视图可以被预定义为心脏的右心房(RA)、右心室(RV)和三尖瓣膜(TV)的可视化。图3示出了表示初始视图的示例性ICE图像301。当ICE导管在未锁定(unlocked)或中立(neutral)位置(即“初始位置”)中被定位在RA中间——这意味着不存在任何导向且张力锁(tension lock)被解开(disengage)——的时候,获得了该初始视图。该初始视图可以用作“基本导航点”,从中可以导出其他视图。
可以相对于该初始位置来定义探针的位置,该初始位置被认为是典型导航协议中的起始位置。这种导航方法类似于人类基于街道标志和地标而不是使用全球定位系统(GPS)来导航汽车。通过相对于该初始位置顺时针方向旋转ICE导管,主动脉瓣膜、左心室、以及右心室流出道在二尖瓣膜和左心房(LA)之前处于该视野中,左心房(LA)具有的左心耳(left atrial appendage)出现在该图像视图中。随着ICE导管的顺时针旋转,左上肺静脉(LSPV)和左下肺静脉(LIPV)在该图像视图中被可视化。当ICE导管处于更靠后的方向时,食道、降主动脉和右肺静脉(PV)出现在该图像视图中。该图像视图与从中获取了该图像的探针相对位置之间的映射可以由例如已经观察了大量图像并且确定了探针的最可能位置的专家超声医师来提供。这种基于大量图像的经专家用户导出的映射然后可以用于训练机器学习分类器,如将在稍后描述的那样。
返回到图2,在204处,机器学习单元106使用训练图像将分类器训练成基于输入图像来预测探针的相对位置(例如,在心脏结构内的位置、成像平面取向、导管弯曲)。该图像视图与探针相对位置之间的映射被用作该训练的地面真值。在一些实现方式中,分类器被进一步训练成提供接下来的一个或多个操纵的推荐,从而将探针导向到如导航协议所要求的下一个位置。一个或多个操纵可以由导航指令来表示。可以显示导航指令以引导人类用户将探针导向(例如,前进(advance)、拉回(pull back)、旋转或弯曲)到如导航协议所要求的特定位置。替代地,导航指令可以采用机器指令的形式,该机器指令可由机器人控制器执行以自动将探针导向到期望位置。
在一些实现方式中,分类器被进一步训练成通过使用位置预测的时间历史来校正探针的所预测的位置中的任何错误。例如,考虑如下情形:其中经训练的分类器首先预测初始视图,并且然后将下一个视图预测为左心房(LA)的经中隔(transseptal)视图。以这种次序捕获视图的该位置预测序列是不可能的。分类器可以被进一步训练成捕捉这种异常,并且在给定位置预测的时间历史的情况下确定下一个最可能的位置(或视图)。
分类器可以是任何一个或多个分类器。可以使用单类别或二进制分类器、不同分类器的集合、级联分类器、层级式分类器、多类别分类器、基于模型的分类器、基于机器学习的分类器或其组合。多类别分类器包括CART、K最近邻、神经网络(例如,多层感知器)、混合模型等等。在一些实现方式中,分类器是神经网络。神经网络可以是例如五层卷积神经网络(CNN)。随着训练进行,分类器的权重被调整,直到分类器充分地执行。
在206处,处理单元107从探针111接收当前图像。当探针111被插入到感兴趣结构(例如,心脏系统)中时,由探针111获取当前图像。为了获取当前图像,可以使用导向线和/或先前定位的引导件在感兴趣结构中引导并定位探针111。当前图像与训练图像(例如,心脏的ICE图像)是相同的类型,并且用于相同或类似的感兴趣结构。
在208处,处理单元107将当前图像应用于经训练的分类器,以预测探针111的位置,并且生成接下来的一个或多个操纵的推荐,以将探针导向到如导航协议所要求的下一个位置。在一些实现方式中,通过利用除了当前图像之外的位置预测的时间历史来预测探针111的位置,从而增加位置预测的鲁棒性。位置预测的时间历史是先前已经由经训练的分类器预测的预定数量的位置的当前序列。位置预测的时间历史可以被经训练的分类器用来检测和校正所预测的位置中的任何错误(或异常)。
在210处,处理单元107输出所预测的位置以及接下来的一个或多个操纵的推荐。在一些实现方式中,处理单元107在感兴趣结构的图形表示中的所预测的位置处显示探针111。图形表示可以经由图形用户接口显示在例如工作站103处。图形表示可以是例如被覆盖在感兴趣结构或感兴趣结构的图像导出模型的三维绘制平面投影上的导管尖端。图形表示提供了关于探针111被预测为当前位于何处的视觉引导。
在一些实现方式中,所预测的一个或多个操纵由导航指令来表示,以引导人类用户将探针111导向(例如,前进、拉回、旋转或弯曲)到特定位置,作为所选择的治疗或导航协议的一部分。导航指令可以被显示在所预测的位置的图形表示旁边(例如,下方或上方)的框中。替代地,导航指令可以采用机器指令的形式,该机器指令可由机器人控制器(或处理器)执行以自动将探针111导向到期望位置。
因此,探针111可以被重新定位到新的位置。探针111可以在新的位置处获取不同的当前图像。可以重复步骤206、208和210,以在探针在感兴趣结构内被导航并且获取了新的当前图像时基本上实时地更新图形表示。
图4图示了经训练的神经网络404的示例性输入和输出。可以使用上述方法200来训练神经网络404。当经训练的神经网络404接收到新的ICE图像402a-c作为输入时,其预测导管406a-c的最可能位置。在成像屏幕上,导管406a-c可以被显示在心脏的图形表示408a-c内的所预测的位置处。图形表示408a-c可以是患者的心脏的通用3D绘制、或计算机断层摄影(CT)图像导出的心脏模型。当用户在心脏内导航导管406a-c时,可以基于输入ICE图像402a-c来实时更新图形表示408a-c。
图5示出了示例性用户接口501。示例性用户接口501可以被显示在例如工作站103处,以引导用户在患者心脏中导航ICE导管。用户接口501示出了由ICE导管在其当前位置处获取的当前超声2D图像502。基于当前图像502,由机器学习单元106训练的分类器预测导管的最可能的当前位置。导管被显示在心脏的图形表示504中的所预测的位置处。图形表示504可以被显示在当前图像旁边。
在一些实现方式中,框506被定位在当前图像502的下方(或旁边)。框506可以显示所预测的下一个操纵的导航指令。导航指令可以由例如指示要执行的(一个或多个)动作或(一个或多个)操纵的文本、图示、卡通、箭头或其组合来表示。导航指令可以引导用户根据导航协议将导管导向和/或旋转到下一个位置,以获得下一个视图。在导管移动并且获取了新的当前超声图像502时,可以实时更新图形表示504以及框506中的导航指令。
虽然已经参考示例性实施例详细描述了本框架,但是本领域技术人员将领会的是,在不脱离如所附权利要求中阐述的本发明的精神和范围的情况下,可以对其进行各种修改和替换。例如,在本公开和所附权利要求的范围内,不同示例性实施例的元素和/或特征可以彼此组合和/或彼此替代。

Claims (20)

1.一个或多个非暂时性计算机可读介质,其体现了可由机器执行以实行用于心内导管定位的操作的指令,所述操作包括:
(i)接收由被插入心脏中的导管获取的当前心内超声心动图(ICE)图像;
(ii)通过将当前ICE图像应用于经训练的分类器来预测导管的位置并且生成要使用导管执行的下一个操纵的推荐;以及
(iii)输出所预测的位置以及所述下一个操纵的推荐。
2.根据权利要求1所述的一个或多个非暂时性计算机可读介质,其中输出所预测的位置包括:在心脏的图形表示中的所预测的位置处显示导管。
3.根据权利要求1所述的一个或多个非暂时性计算机可读介质,其中所述操作进一步包括:基于多个ICE训练图像并且使用所述ICE训练图像与从中获取了所述ICE训练图像的ICE导管位置之间的映射作为地面真值来训练所述分类器。
4.根据权利要求1所述的一个或多个非暂时性计算机可读介质,其中所述下一个操纵由导航指令来表示。
5.根据权利要求4所述的一个或多个非暂时性计算机可读介质,其中导航指令包括机器指令,所述机器指令可由机器人控制器来执行以将导管自动导向到期望位置。
6.根据权利要求1所述的一个或多个非暂时性计算机可读介质,其中预测导管的位置进一步包括:将位置预测的时间历史应用于经训练的分类器以校正所预测的位置中的任何错误。
7.一种用于探针定位的方法,包括:
(i)接收由感兴趣结构内的探针获取的当前图像;
(ii)通过将当前图像应用于经训练的分类器来预测探针的位置并且生成要使用探针执行的下一个操纵的推荐;以及
(iii)输出所预测的位置以及所述下一个操纵的推荐。
8.根据权利要求7所述的方法,其中训练图像和当前图像包括心内超声心动图(ICE)图像。
9.根据权利要求7所述的方法,进一步包括:基于多个训练图像并且使用所述训练图像与从中获取了所述训练图像的探针位置之间的映射作为地面真值来训练所述分类器。
10.根据权利要求7所述的方法,其中所述下一个操纵由导航指令来表示。
11.根据权利要求10所述的方法,其中导航指令包括机器指令,所述机器指令可由机器人控制器来执行以将探针自动导向到期望位置。
12.根据权利要求7所述的方法,其中输出所预测的位置包括:在感兴趣结构的图形表示中的所预测的位置处显示探针。
13.根据权利要求12所述的方法,其中感兴趣结构的图形表示包括感兴趣结构的三维绘制。
14.根据权利要求12所述的方法,其中感兴趣结构的图形表示包括感兴趣结构的图像导出的模型。
15.根据权利要求12所述的方法,进一步包括:重复步骤(i)、(ii)和(iii),以在探针在新的位置处获取了新的当前图像时基本上实时地更新所述图形表示。
16.根据权利要求7所述的方法,其中预测探针的位置进一步包括:将位置预测的时间历史应用于经训练的分类器。
17.一种用于探针定位的系统,包括:
用于存储计算机可读程序代码的非暂时性存储器装置;以及
与所述存储器装置通信的处理器,所述处理器与所述计算机可读程序代码一起操作以执行步骤,所述步骤包括:
(i)接收由感兴趣结构内的探针获取的当前图像,
(ii)通过将当前图像应用于经训练的分类器来预测探针的位置并且生成要使用探针执行的下一个操纵的推荐,以及
(iii)输出所预测的位置以及所述下一个操纵的推荐。
18.根据权利要求17所述的系统,其中探针包括心内超声心动图(ICE)导管。
19.根据权利要求17所述的系统,其中所述处理器与所述计算机可读程序代码一起操作,以通过在感兴趣结构的图形表示中的所预测的位置处显示探针来输出所预测的位置。
20.根据权利要求19所述的系统,其中所述图形表示包括感兴趣结构的三维绘制的平面投影。
CN202080026117.0A 2019-04-02 2020-03-12 基于图像的探针定位 Pending CN113661544A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US16/372727 2019-04-02
US16/372,727 US11707255B2 (en) 2019-04-02 2019-04-02 Image-based probe positioning
PCT/US2020/022214 WO2020205187A1 (en) 2019-04-02 2020-03-12 Image-based probe positioning

Publications (1)

Publication Number Publication Date
CN113661544A true CN113661544A (zh) 2021-11-16

Family

ID=70228803

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080026117.0A Pending CN113661544A (zh) 2019-04-02 2020-03-12 基于图像的探针定位

Country Status (5)

Country Link
US (2) US11707255B2 (zh)
KR (2) KR20240055167A (zh)
CN (1) CN113661544A (zh)
DE (1) DE112020001809T5 (zh)
WO (1) WO2020205187A1 (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11819288B2 (en) * 2020-03-19 2023-11-21 Verb Surgical Inc. Trocar pose estimation using machine learning for docking surgical robotic arm to trocar
EP4197476A1 (en) * 2021-12-16 2023-06-21 Koninklijke Philips N.V. System and method for estimating and visualizing trajectories of robotically controlled interventional device
WO2023110598A1 (en) * 2021-12-16 2023-06-22 Koninklijke Philips N.V. System and method for estimating and visualizing trajectories of robotically controlled interventional device
DE102022206846A1 (de) 2022-07-05 2024-01-11 Siemens Healthcare Gmbh Verfahren und System zum Ausführen einer bildbasierten Aufgabe

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080287794A1 (en) * 2007-05-16 2008-11-20 General Electric Company Method for implementing an imaging nd navigation system
US20100256558A1 (en) * 2008-03-27 2010-10-07 Olson Eric S Robotic catheter system
US20110021915A1 (en) * 2009-07-21 2011-01-27 Seimens Corporation Detection of Structure in Ultrasound M-Mode Imaging
CN106999728A (zh) * 2014-10-17 2017-08-01 皇家飞利浦有限公司 用于在介入治疗中的工具插入期间的实时器官分割和工具导航的系统以及其操作方法
JP2017153953A (ja) * 2016-02-26 2017-09-07 東芝メディカルシステムズ株式会社 超音波診断装置及び画像処理プログラム
CN107809955A (zh) * 2015-06-09 2018-03-16 西门子保健有限责任公司 经由感兴趣界标的自动检测在x射线成像中进行实时准直和roi过滤器定位

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7806829B2 (en) 1998-06-30 2010-10-05 St. Jude Medical, Atrial Fibrillation Division, Inc. System and method for navigating an ultrasound catheter to image a beating heart
US8989842B2 (en) 2007-05-16 2015-03-24 General Electric Company System and method to register a tracking system with intracardiac echocardiography (ICE) imaging system
US8858436B2 (en) 2008-11-12 2014-10-14 Sonosite, Inc. Systems and methods to identify interventional instruments
US20110245659A1 (en) 2010-04-01 2011-10-06 Sonosite, Inc. Systems and methods to assist with internal positioning of instruments
US10278616B2 (en) * 2015-05-12 2019-05-07 Navix International Limited Systems and methods for tracking an intrabody catheter
AU2017230722B2 (en) 2016-03-09 2022-08-11 EchoNous, Inc. Ultrasound image recognition systems and methods utilizing an artificial intelligence network
TWI765895B (zh) * 2016-06-20 2022-06-01 美商蝴蝶網路公司 用於協助使用者操作超音波裝置的自動化影像獲取之系統和方法
MX2017017142A (es) * 2016-12-02 2018-11-09 Avent Inc Sistema y metodo para la navegacion a un objeto anatomico objetivo en procedimientos basados en obtencion de imágenes medicas.
FR3059541B1 (fr) 2016-12-07 2021-05-07 Bay Labs Inc Navigation guidee d'une sonde ultrason
EP3766007A1 (en) * 2018-03-12 2021-01-20 Koninklijke Philips N.V. Ultrasound imaging dataset acquisition for neural network training and associated devices, systems, and methods

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080287794A1 (en) * 2007-05-16 2008-11-20 General Electric Company Method for implementing an imaging nd navigation system
US20100256558A1 (en) * 2008-03-27 2010-10-07 Olson Eric S Robotic catheter system
US20110021915A1 (en) * 2009-07-21 2011-01-27 Seimens Corporation Detection of Structure in Ultrasound M-Mode Imaging
CN106999728A (zh) * 2014-10-17 2017-08-01 皇家飞利浦有限公司 用于在介入治疗中的工具插入期间的实时器官分割和工具导航的系统以及其操作方法
CN107809955A (zh) * 2015-06-09 2018-03-16 西门子保健有限责任公司 经由感兴趣界标的自动检测在x射线成像中进行实时准直和roi过滤器定位
JP2017153953A (ja) * 2016-02-26 2017-09-07 東芝メディカルシステムズ株式会社 超音波診断装置及び画像処理プログラム

Also Published As

Publication number Publication date
KR20210149112A (ko) 2021-12-08
KR20240055167A (ko) 2024-04-26
DE112020001809T5 (de) 2022-02-03
US20230301624A1 (en) 2023-09-28
US11707255B2 (en) 2023-07-25
WO2020205187A1 (en) 2020-10-08
US20200315572A1 (en) 2020-10-08

Similar Documents

Publication Publication Date Title
US8787635B2 (en) Optimization of multiple candidates in medical device or feature tracking
US20230301624A1 (en) Image-Based Probe Positioning
US8126239B2 (en) Registering 2D and 3D data using 3D ultrasound data
EP3363365B1 (en) Automatic imaging plane selection for echocardiography
Noble et al. Ultrasonic image analysis and image-guided interventions
US9179890B2 (en) Model-based positioning for intracardiac echocardiography volume stitching
US10685451B2 (en) Method and apparatus for image registration
US10186035B2 (en) Method and apparatus for image registration
US20160125605A1 (en) Image processing apparatus, image processing method, and ultrasound imaging apparatus having image processing unit
US20140321726A1 (en) Method and apparatus for image registration
CN110301883B (zh) 用于导航管状网络的基于图像的向导
Linte et al. Virtual reality-enhanced ultrasound guidance: A novel technique for intracardiac interventions
EP4115389B1 (en) Multi-modal medical image registration and associated devices, systems, and methods
CN105096306B (zh) 用于对医学图像进行配准的方法和设备
CN108430376B (zh) 提供投影数据集
WO2022128838A1 (en) Ultrasound image-based identification of anatomical scan window, probe orientation, and/or patient position
US20220183759A1 (en) Determining a surgical port for a trocar or laparoscope
US11941754B2 (en) System and method for generating three dimensional geometric models of anatomical regions
EP3863551B1 (en) Using a current workflow step for control of medical data processing
CN114945327A (zh) 用于引导超声探头的系统和方法
CN117582251A (zh) 经食管超声心动图的定位辅助系统、方法、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination