CN110916702A - 支持用户的方法、计算机程序产品、数据载体和成像系统 - Google Patents

支持用户的方法、计算机程序产品、数据载体和成像系统 Download PDF

Info

Publication number
CN110916702A
CN110916702A CN201910868835.1A CN201910868835A CN110916702A CN 110916702 A CN110916702 A CN 110916702A CN 201910868835 A CN201910868835 A CN 201910868835A CN 110916702 A CN110916702 A CN 110916702A
Authority
CN
China
Prior art keywords
image
endoscope
instrument
registration
automatically
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910868835.1A
Other languages
English (en)
Other versions
CN110916702B (zh
Inventor
A.雷根斯伯格
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Siemens Healthcare GmbH
Original Assignee
Siemens Healthcare GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens Healthcare GmbH filed Critical Siemens Healthcare GmbH
Publication of CN110916702A publication Critical patent/CN110916702A/zh
Application granted granted Critical
Publication of CN110916702B publication Critical patent/CN110916702B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/02Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/03Computed tomography [CT]
    • A61B6/032Transmission computed tomography [CT]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/12Arrangements for detecting or locating foreign bodies
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00193Optical arrangements adapted for stereoscopic vision
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B10/00Other methods or instruments for diagnosis, e.g. instruments for taking a cell sample, for biopsy, for vaccination diagnosis; Sex determination; Ovulation-period determination; Throat striking implements
    • A61B10/02Instruments for taking cell samples or for biopsy
    • A61B10/0233Pointed or sharp biopsy instruments
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B10/00Other methods or instruments for diagnosis, e.g. instruments for taking a cell sample, for biopsy, for vaccination diagnosis; Sex determination; Ovulation-period determination; Throat striking implements
    • A61B10/02Instruments for taking cell samples or for biopsy
    • A61B10/04Endoscopic instruments
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/44Constructional features of apparatus for radiation diagnosis
    • A61B6/4429Constructional features of apparatus for radiation diagnosis related to the mounting of source units and detector units
    • A61B6/4435Constructional features of apparatus for radiation diagnosis related to the mounting of source units and detector units the source unit and the detector unit being coupled by a rigid structure
    • A61B6/4441Constructional features of apparatus for radiation diagnosis related to the mounting of source units and detector units the source unit and the detector unit being coupled by a rigid structure the rigid structure being a C-arm or U-arm
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5223Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data generating planar views from image data, e.g. extracting a coronal view from a 3D image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5229Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image
    • A61B6/5235Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image combining images from the same or different ionising radiation imaging techniques, e.g. PET and CT
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5229Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image
    • A61B6/5247Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image combining images from an ionising-radiation diagnostic technique and a non-ionising radiation diagnostic technique, e.g. X-ray and ultrasound
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/313Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes
    • A61B1/3132Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes for laparoscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B10/00Other methods or instruments for diagnosis, e.g. instruments for taking a cell sample, for biopsy, for vaccination diagnosis; Sex determination; Ovulation-period determination; Throat striking implements
    • A61B10/02Instruments for taking cell samples or for biopsy
    • A61B10/04Endoscopic instruments
    • A61B2010/045Needles
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • A61B2034/107Visualisation of planned trajectories or target regions
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B2034/301Surgical robots for introducing or steering flexible instruments inserted into the body, e.g. catheters or endoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/48Diagnostic techniques
    • A61B6/486Diagnostic techniques involving generating temporal series of image data
    • A61B6/487Diagnostic techniques involving generating temporal series of image data involving fluoroscopy
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Medical Informatics (AREA)
  • Physics & Mathematics (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Robotics (AREA)
  • Multimedia (AREA)
  • Pulmonology (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Endoscopes (AREA)

Abstract

本发明涉及一种用于支持用户的方法(11)、一种相应的计算机程序产品(11)、一种相应的数据载体(9)和一种相应的成像系统(1)。在所述方法(11)中,提供描绘目标对象(6)的3D数据组,并且自动采集目标对象(6)的至少一个2D图像。借助2D/3D配准自动将所述2D图像与所述3D数据组相互配准。自动确定空间方向(4),在所述空间方向中所述2D/3D配准具有最大的不确定性。依据所确定的空间方向(4)自动产生并输出信号以支持用户,所述信号用于取向为了检查目标对象(6)而设置的仪器(13)。

Description

支持用户的方法、计算机程序产品、数据载体和成像系统
技术领域
本发明涉及一种用于支持用户的方法、一种相应的计算机程序产品、一种相应的数据载体和一种相应的成像系统。
背景技术
如今存在许多不同的成像模态,其优选地在例如医学领域中以及在其他工业领域中应用,以便对相应的目标对象或检查对象成像。在此,如今的常用技术是,将来自不同源的数据彼此组合,其中相应的数据、即例如图像或数据组彼此配准,以便在共同的坐标系中实现忠于位置的叠加。为了能够尽可能准确且可靠地识别和分析相应的情况,或者为了能够尽可能准确且可靠地操作所描绘的检查对象,期望该配准具有尽可能高的精度。配准中的误差、不准确性或不确定性可能相应地造成不利影响。
发明内容
因此,本发明要解决的技术问题是,在有误差的或不确定的配准的情况下支持用户。该技术问题通过本发明来解决。在说明书和附图中还给出了本发明的有利的设计方案和扩展。
根据本发明的方法用于例如在对检查对象或目标对象进行检查时支持用户。在该方法中,首先提供描绘目标对象的3D数据组。所述提供在此可以包括或意味着,例如,提供数据存储器或者有数据存储器可用,在该数据存储器上存储有3D数据组。同样地,所述提供还可以包括或意味着采集或记录、即测量3D数据组。
特别地,可以借助第一成像模态、例如借助计算机断层成像设备(即CT-X射线装置)、磁共振设备(MR设备)等来对3D数据组进行记录或记录3D数据组。
目标对象例如可以是患者、患者的一部分、特定的器官或组织样本,但最终也可以是可借助相应的成像模态描绘的任意对象或材料。例如,已知在工业应用领域中,借助X射线来描绘和检查技术装置。3D数据组可以是测量值或数据点的组、即集合,或者例如是3D图像。
此外,在根据本发明的方法中,采集目标对象的至少一个2D图像。所述采集可以包括或意味着,例如从所提供的数据存储器中调用2D图像、即相应的数据,以及测量或记录2D图像。2D图像的记录例如可以自动进行或者通过操作脚踏开关等触发地进行。特别地,可以借助第二成像模态来对2D图像进行记录或记录2D图像。在此,第二成像模态可以对应于第一成像模态或者与第一成像模态不同,尤其是有区别的。优选地,第一成像模态可以是3D-X射线装置,并且第二成像模态可以是2D-X射线装置或者以2D模式运行的3D-X射线装置。
此外,在根据本发明的方法中,自动执行至少一个2D图像与所提供的3D数据组的2D/3D配准。换言之,2D图像和3D数据组忠于位置地相互组合或彼此叠加,即布置在共同的坐标系中,使得所描绘的目标对象的彼此相对应的相应部分或区域在2D图像和3D数据组中以相应的叠加彼此重叠。在此,2D图像可以布置在三个空间方向或空间维度中,其在下面被称为x、y和z。此外,在根据本发明的方法中,自动确定这些空间方向中的一个,在这一个空间方向中2D/3D配准具有最大的不确定性或不准确性,即最大的误差。也就是,配准的不确定性或不准确性在给定的空间方向上比在另外两个空间方向上更大。
用于2D/3D配准的已知方法通常在所有三个空间方向上不是同等精确的。特别地,经常观察到,在两个正交的空间方向上、例如x和y,可以以相对高的精度或准确性进行2D/3D配准,而在第三空间方向上、即在z方向上仅可以相对不准确地、即以明显较低的精度或准确度执行2D/3D配准。特别地,在2D图像的记录方向,即例如X射线装置的相应辐射或投影方向,沿着z方向或z轴进行时,会出现所述情况或者是这种情况。换言之,可以将2D图像的记录方向确定为2D/3D配准具有其最大不确定性的空间方向。也就是,2D/3D配准的不确定性或不准确性最终基于2D图像的相对低的或不足的深度分辨率。在此,2D/3D配准的最大不确定性的空间方向,即最大配准不确定性的空间方向,例如可以通过识别或者跟踪用于记录2D图像的X射线装置的姿势和目标对象的姿势实现。然后,根据相应的数据可以直接或者例如借助相应的对象识别或图像处理算法,必要时在考虑另外的传感器数据和/或用户输入的情况下,自动确定2D图像的记录方向,也就是例如相应轴线在共同的坐标系或者在3D数据组的坐标系中的角度。
此外,在根据本发明的方法中,依据所确定的、最大不确定性的空间方向产生并输出信号以支持用户,所述信号用于取向为了检查目标对象而设置的仪器或者用于支持为了检查目标对象而设置的仪器的取向。因此,用户可以是例如X射线装置和/或仪器的操作者,例如医生或技术人员。仪器的取向或取向的支持可能意味着,在此或为此可以移动或调节仪器本身。同样地,取向可能意味着,可以移动或者调节其他对象,例如成像装置、患者台等,由此产生新的或者合适的仪器的相对取向,即仪器相对于实际移动或调节的对象的取向。因此,“取向”在下文中意味着直接或相对地取向,或者还可能是取向的相应支持。
仪器可以是例如照相机、探针、针、感应器或多种类似的或其他仪器或装置中的任何一种。对于一些实例下面还进行更详细地研究。
该信号例如可以是声学、光学和/或触觉指示、图形显示、数据信号或数据组、控制信号和/或类似物。同样地,这点在下面也更详细地进行解释。因此,最终借助信号或者通过信号为用户提供数据或者信息,和/或启动措施或者过程,由此用户有利地尤其可以更精确地和/或更可靠地分析相应的情况、也就是目标对象,和/或至少为用户提供关于2D/3D配准的不确定性的信息,并且因此必要时提供关于仪器在特定空间方向上的相应取向、定位和/或作用的信息。
在迄今为止的应用中,相应的配准不确定性通常被绝对地接受为是不可避免的。替换地,例如在检查目标对象期间,替代2D图像记录目标对象的多个另外的图像或绘图或数据,以便获得足够的数据用于在所有的空间方向上更准确地配准。然而,由此可能会不利地导致目标对象的更高剂量或负担,以及在描绘或检查目标对象时的工作流(英文:Workflow)中的时间延迟和/或逻辑困难或碰撞问题。此外,可能不仅为了记录3D数据组,而且还在检查目标对象时需要相应更复杂并且因此更昂贵的用于成像的系统或成像系统,即例如相应的X射线装置。此外,相应用户不清楚或不知道的配准不确定性带来了错误决定的风险,该错误决定可能使对目标对象的相应检查的结果失去价值或受到质疑,和/或伤害或损坏目标对象。本发明可以避免或减轻这些缺点。
在本发明的有利的设计方案中,作为仪器使用内窥镜,即照相机或图像记录装置、特别是腹腔镜。然后,自动跟踪内窥镜在3D图像和/或2D图像的坐标系中的姿势、即位置和定向,必要时达到预先给定的(即已知的)坐标变换。即,如果针对记录2D图像以及针对定位内窥镜不使用相同的坐标系,则两个坐标系彼此之间至少处于预先给定的空间位置关系。这例如可以事先通过相应的测量或校准来确保。然后,根据至少一个借助内窥镜记录的目标对象的内窥镜图像和3D数据组产生至少一个叠加图像。例如,在使用立体内窥镜(Stereo-Endoskop)时,相应地可以使用两个内窥镜图像、即两个部分立体图像,并且例如相应地产生两个叠加图像。
由于在记录3D数据组和记录内窥镜图像之间可能存在明显的时间间隔、例如几个小时或几天,并且目标对象相应地在此期间可能以未知方式移动,因此为了忠于位置地产生叠加图像、即为了忠于位置地叠加内窥镜图像和3D数据组,使用2D/3D配准。也就是,根据2D图像可以分别确定目标对象的当前姿势,并且与3D数据组或3D数据组的坐标系建立关系。然后,通过已知的、2D图像的坐标系与内窥镜或内窥镜图像的坐标系的位置关系,相应地可以确定内窥镜图像与3D数据组之间的位置关系或者相应坐标系的位置关系。
在此,对于叠加图像可以将内窥镜图像与3D数据组本身彼此叠加。然而,同样地,内窥镜图像可以与根据3D数据组产生或导出的图示或结构(例如虚拟模型或分割网格或分割图示)组合、即叠加。因此,内窥镜图像尤其可以是照相机图像或视频,其光学实际地、即忠于现实地描绘目标对象。相应地,叠加图像可以作为增强现实(英文:AugmentedReality)理解或产生。
然后,作为信号或作为信号的一部分向用户输出指示:用户可以并且如何改变内窥镜的取向,使得内窥镜的采集方向至少基本上沿着最大配准不确定性的特定空间方向延伸,以便减小由于2D/3D配准的不确定性引起的、叠加图像中的可视化误差。
在此,内窥镜的采集方向对应于内窥镜的光学轴线以及对应于如下方向:沿着该方向或者在该方向上例如采集由内窥镜采集的光束的中心光线。因此,内窥镜的采集方向尤其可以与内窥镜图像的图像平面正交。在此,内窥镜的取向和内窥镜沿着特定空间方向的采集方向可以表示至少基本上平行或反平行的取向。
特别地,如果仅使用一个2D图像用于2D/3D配准,则内窥镜的采集方向因此可以沿着该一个2D图像的记录方向进行取向。
在此,内窥镜的取向或其采集方向至少基本上沿特定空间方向的取向可以意味着最多例如10°的误差或偏差的相应取向。然后,2D/3D配准的最大不确定性的特定空间方向因此至少基本上与叠加图像的观察方向或深度方向一致。然后,虽然不确定性可以继续存在,但是根据经验在这种取向中,观察者感知为较少的干扰,并且因此可以容忍。
借助信号或作为信号,例如可以显示图形辅助,其指示内窥镜的采集方向与特定空间方向之间的当前角度偏差。此外,可以借助信号、作为信号或作为信号的一部分显示或输出辅助,以便在取向内窥镜时支持用户。这例如可以通过相应的箭头、颜色编码和/或十字线视图(英文:Bulls-Eye View)来实现。相应的显示或图示可以在相应的显示装置上进行显示、即输出,例如监视器或头戴式显示器(HMD)、即固定在相应观察者或用户的头部的显示器。
在此,要注意的是,内窥镜的采集方向不一定必须与内窥镜本身的中心轴线或纵向轴线、即其壳体或主体一致。然而,可以预先给定相应的角度偏差作为参数或参数值。总体上,可以在增强现实应用(AR应用)中实现叠加图像的或者相应叠加的实际上更大的或至少感知到的精度,而为此不需要附加的图像或对目标对象的记录,例如用于与3D数据组配准的另外的X射线记录。内窥镜的相应取向就足够了,该取向可以容易、快速、灵活地且没有目标对象负担地执行、即实现。因此,可以以特别简单且经济的方式减小由于在2D/3D配准时相应用户不清楚或不知道的、空间方向上的不确定性而引起的错误决定的风险。例如可以理解和掌握的是,用户假定在x和y方向上的配准的可能明显很高的精度或准确性相应地也适用于z方向,即使实际上不是这种情况。
在本发明的另外有利的设计方案中,作为仪器使用借助机器人引导的内窥镜。在此,自动跟踪(追踪,来自英语:“instrument tracking仪器追踪”)内窥镜在3D图像和/或2D图像的坐标系中的姿势,至少达到预先给定的坐标变换。在此,也根据借助内窥镜记录的目标对象的内窥镜图像和3D数据组产生叠加图像。然后,作为信号或作为信号的一部分产生用于机器人的控制信号,机器人通过该控制信号自动取向内窥镜,从而内窥镜的采集方向沿着特定空间方向延伸,以便减小由于2D/3D配准的不确定性引起的、叠加图像中的可视化误差。
换言之,针对叠加图像的优化的可视化或图像质量,机器人引导的内窥镜因此进行自动取向、特别是进行跟踪。为此,附加地,例如可以监视并跟踪目标对象的当前姿势,并且在取向内窥镜时、即在相应地产生控制信号时自动对其进行考虑。以这种方式,相应地可以特别快速、精确和可靠地取向内窥镜。因此,可以特别准确且可靠地确保叠加图像的最佳可视化质量。特别有利地,相应的用户不必施加注意力或努力,就可以在必要时更快并且以较小的偏差或对于相应用户较小的负担来执行对目标对象的检查。
在本发明的另外有利的设计方案中,作为仪器同样地使用内窥镜,并且跟踪内窥镜在3D图像和/或2D图像的坐标系中的姿势,至少达到预先给定的坐标变换。在此,也根据借助内窥镜记录的目标对象的内窥镜图像和3D数据组产生叠加图像(AR图像)。然后,作为信号或作为信号的一部分产生针对用于记录2D图像的成像模态的控制信号,即针对提到的第二成像模态、例如针对C形臂X射线装置的控制信号。通过该控制信号将成像模态、即X射线装置自动取向,使得它们或它的成像方向或记录方向自动沿着内窥镜的采集方向延伸,以便减小由于2D/3D配准的不确定性引起的、叠加图像中的可视化误差。
换言之,依据配准不确定性和内窥镜的当前姿势、特别是定向,以及内窥镜的采集方向自动调整或者跟踪第二成像模态、特别是X射线装置的角度。因此,第二成像模态作为针对相应用户的辅助自动进行移动或调节,使得其记录方向、即特别是相应的X射线投影方向平行或反平行于观察方向、即内窥镜的采集方向延伸。由此还有利地可以特别准确、快速且可靠地将叠加图像中的可视化误差最小化,并且减轻用户的负担。
在本发明的另外有利的设计方案中,作为仪器同样地使用内窥镜,并且跟踪内窥镜在3D图像和/或2D图像的坐标系中的姿势,至少达到预先给定的坐标变换。在此,也根据借助内窥镜记录的目标对象的内窥镜图像和3D数据组产生叠加图像。然后,作为信号或作为信号的一部分,根据2D/3D配准的不确定性的程度取决于位置地调整叠加图像的可视化,特别是通过对叠加图像的一部分进行模糊绘制(Unscharfzeichnen)、泛灰(Ausgrauen)、伸展或变形和/或隐去。也就是,由于2D/3D配准的不确定性,内窥镜图像和3D数据组不能百分百准确地或者以百分百的确定性忠于位置地进行叠加或组合。在此,在叠加时、即在叠加图像中的这种不确定性或不准确性,在叠加图像的不同位置处、即取决于位置地可能是不同的。在此,叠加或叠加图像的不确定性可以特别是动态地取决于内窥镜或内窥镜的采集方向相对于2D/3D配准的最大不确定性的特定空间方向的相对取向。例如,如果内窥镜的采集方向与特定空间方向偏离了角度α,则可以相应地调整叠加图像、即对叠加图像进行图形处理,以便向相应的观察者或用户通知、即显示不确定性或不准确性的程度、即可视化误差的程度。然后,模糊绘制例如可以优选地与sin(α)成比例地进行。同样地,例如箭头或其他符号还可以指示角度偏差和/或特定空间方向。特别优选地,仅相应地调整3D数据组或叠加图像的基于3D数据组的部分。内窥镜图像作为叠加图像的一部分因此例如保持不变,并且仅调整或者修改与内窥镜图像叠加的、插入的叠加结构。特别优选地,可以预先给定角度偏差的偏差阈值、即内窥镜的采集方向与特定空间方向之间的角度α。如果达到或超过该阈值或阈值角度,则可以完全隐去叠加结构、即叠加图像的基于3D数据组的部分。以这种方式可以以特别直观和生动地、即特别容易理解地并且因此特别可靠地使相应的观察者或用户意识到显示的不确定性。
在本发明的有利的扩展中,叠加图像的可视化仅在2D/3D配准的最大不确定性的特定空间方向上进行调整。换言之,例如,叠加结构的模糊绘制仅沿着或者在该空间方向上、即在z方向上进行。同样地,叠加结构例如仅可以在z方向上伸展、即伸展或变形地显示,以便表示或显示不确定性、即在叠加图像中形成的可视化误差或形成的可视化不确定性。以这种方式,可以特别简单且特别精确地向相应的观察者或用户显示问题并且告诉他们:2D/3D配准在特定空间方向上是特别不确定或特别不准确的。在此,有利地省去了例如附加的标志、插入或符号,由此可以减少或避免用户或观察者的分心或压力。
在本发明的另外有利的设计方案中,作为仪器使用立体内窥镜。然后,自动跟踪立体内窥镜在3D图像和/或2D图像的坐标系中的姿势,至少达到预先给定的坐标变换。在此,也根据借助立体内窥镜记录的目标对象的立体内窥镜图像和3D数据组产生叠加图像。在此规定,在叠加图像中,借助立体内窥镜图像的左部分图像与右部分图像之间的聚散或视差产生特定空间方向上的空间效果、即深度印象。由此,有利地可以实现内窥镜图像或者其立体的深度位置与3D数据组或者叠加图像的根据3D数据组产生的部分之间改善的匹配。有利地,由此可以为观察者或用户提供改善的、特别是更真实的印象。
在此描述了本发明的多个实施方式,在这些实施方式中使用了内窥镜。结合这些实施方式中的一个或多个描述的相应设计细节或解释在此还要比照地以相应的方式适用于其他实施方式。
在本发明的另外有利的设计方案中,自动确定路径并且作为信号进行输出,可以沿着该路径引导仪器,以便在考虑2D/3D配准的、特别是取决于方向的不确定性的情况下达到预先给定的目标。
在此,所述路径不仅可以包括或指示一系列路径点或位置,而且同样地还可以包括或指示相应的定向信息、即在路径的点处或沿着路径要采用或设置的仪器的定向或姿势。
预先给定的目标可以是仪器的目标地点或目标姿势;目标对象的特定位置;例如来自目标对象的特定组织、组织切片或部分的取样;对于目标对象的特定组织、特定组织切片或特定部分的影响和/或诸如此类。为此,特别是可以考虑从3D数据组和/或从2D图像导出的和/或预先给定的目标对象的结构,目标对象的结构可以限制或约束仪器的可能路径和/或取向。
优选地,例如可以确定路径,使得沿着所述路径,仪器可以尽可能少地在最大不确定性的特定空间方向上和/或以仪器的取向与特定空间方向之间尽可能小的偏差进行移动。由此,在整体上改善或最大化了仪器相对于目标对象或者预先给定的目标的位置精度,并且相应地以更大的精度或者可靠性以及可能减小的目标对象的负担达到预先给定的目标。通常,例如仪器具有有限的作用范围。由于2D/3D配准的不确定性,例如可以在特定空间方向上规划或者设置仪器的附加路径点或作用地点、即应用地点作为路径的一部分,以便尽管存在配准不确定性,仍然确保了目标对象的预先给定的目标、例如目标对象的病灶可以被仪器的作用范围遍及或覆盖。在此,仪器的作用例如可以是或者可以包括描绘预先给定的目标(必要时以预先给定的最小图像清晰度)以及影响目标对象或者预先给定的目标(例如去除样本和/或消融)。
在本发明的有利的设计方案中,为了确定路径考虑仪器的作用的优选方向。换言之,即考虑仪器的作用或作用范围的空间上的各向异性。例如,仪器可以是用于取样的活检针(Biopsienadel),借助该活检针可以沿着路径、即在活检针的运动方向上,但不是在对此的侧向方向上提取多个样本。
为了确保实际上分别从预先给定的目标或目标范围提取样本,由此特别有利地例如可以规定,规划或者确定路径,使得在预先给定的目标范围中沿着所确定的路径引导仪器的情况下,根据应用情况、例如根据预先给定的目标范围的形状,沿着或者例如垂直于2D/3D配准的最大不确定性的特定空间方向移动仪器。同样地,通过考虑仪器的优选方向或者仪器的作用,在考虑配准和可视化不准确性或不确定性的情况下,通过相应地规划或确定路径可以实现例如仪器的作用范围与预先给定的目标之间的最大的覆盖。例如,针消融中的消融区域不是圆形或球形地扩大,而是沿着相应使用的消融针的轴线椭圆形地扩大。由此,如果要去除例如肿瘤组织,则可以通过本发明以改善的概率或者可靠性确保了,肿瘤组织实际上完全位于消融的作用范围或体积内部、即处于消融区域的内部,并且在此周围的组织尽可能不会被影响或者受到尽可能小的影响。
通过本发明,有利地可以确定针对介入或外科的仪器的改善路径,其对于目标对象、例如身体组织的作用包括几何上的优选方向或空间上的各向异性。这通过考虑所述优选方向或各向异性以及2D/3D配准的空间上各向异性的不确定性或不准确性以及叠加图像来实现。
在本发明的另外有利的设计方案中,在叠加图像中显示仪器本身,例如作为图像或作为模型。作为信号或作为信号的一部分或者通过信号,依据2D/3D配准的相应的局部不确定性,空间上各向异性地拓宽仪器和/或其影响范围或作用范围在叠加图像中的显示。换言之,仪器和/或其作用范围的显示可以根据2D/3D配准的不确定性,并且因此根据叠加图像的可视化或显示的不确定性被失真。由于相应的用户通常信任仪器,因此可以以这种方式,特别简单地、可直观采集地并且不分心地为用户显示不确定性或者相应的可视化误差的类型、大小和方向。如果仪器真实地具有例如圆柱形或棒状的形状或外形,则所述形状或外形可以在叠加图像中根据仪器相对于特定空间方向的当前取向例如椭圆形地拓宽。相应地,可以调整作用范围的显示。
同样地,各向异性地拓宽显示意味着,仪器在叠加图像中的显示被相应的拓宽区域或者不确定区域、即相应表示的空间区域包围。然后,例如可以自动地或者由相应的用户规划或者跟踪仪器的路径,该路径引导仪器,使得仪器或者其作用范围的整体拓宽的显示延伸通过预先给定的目标、例如病灶等,由此完整地采集所述目标。以这种方式可以有利地确保,尽管存在配准不确定性,所有可能的仪器路径在由拓宽显示指示或显示的区域内实际上延伸通过或遇到预先给定的目标、例如病灶或者肿瘤等。特别地,如果仪器的作用范围小于拓宽显示,则相应地例如可以规划或者跟踪多个作用地点或应用地点、也就是多个取样点;或者多个并排延伸通过预先给定的目标的路径或者在预先给定的目标范围中延伸的路径,以便将预先给定的目标用整体拓宽的显示和/或用仪器的作用范围覆盖。
例如,如果仪器是针,并且2D/3D配准的不确定性在x和y方向上相对小,但是在z方向上相对大,则针在沿着或者在z方向上取向时例如显示为线,并且随着与该取向的偏差的增加而越来越拓宽地显示。针沿着或者在z方向上的取向在此意味着,针的纵向方向或主延伸方向在z方向上延伸。
在本发明另外有利的设计方案中,依据2D/3D配准的取决于方向的不确定性,特别是在考虑仪器的作用的优选方向的情况下,自动确定仪器的至少一个应用点,并且作为信号输出相应的指示,即,相应的位置数据、相应的建议或者相应的标识。因此,在这个意义上,应用点是地点或位置、特别是包括仪器的相关定向的地点或位置,在该定向上仪器应当展现其预期作用和/或为了展现其作用应当进行定位。如果仪器是例如活检针或消融针,则应用点可以表示例如目标对象的点或一部分,在该点或该部分处或者从其中应当借助活检针提取样本,或在该点或该部分处或者从其中应当借助消融针消融材料或者组织。因此,可以依据取决于方向的配准不确定性,在考虑仪器的作用方向和作用范围的各向异性的情况下,自动确定并输出对仪器的至少一个应用点的建议、即对仪器的作用地点或者应用地点的建议。以这种方式,可以特别可靠地自动确保,尽管存在配准不确定性,仪器的作用实际上达到了预先给定的目标。否则,在没有相应指示的情况下,由于配准不确定性和可能形成的可视化误差,对于用户来说难以估计,分别在仪器的当前定位和取向的情况下是否能够或者可能以多大概率实际上达到预先给定的目标。
在本发明的另外有利的设计方案中,自动采集、特别是跟踪仪器的相应的当前取向。然后,依据所采集的仪器取向和2D/3D配准的不确定性自动计算出借助仪器在所采集的取向上达到预先给定目标的概率。然后将所计算的概率作为信号或作为信号的一部分输出。由此,例如可以借助统计分析、例如蒙特卡罗模拟(Monte-Carlo-Simulation)等来计算,仪器的特定路径或仪器的多个路径的组合以多大概率导致实际上达到或者满足预先给定的目标,例如病灶或者肿瘤或者从特定组织区域的取样。然后将该概率显示给相应的用户,该用户于是可以调整仪器的路径或取向,和/或可以执行改善的、特别是更准确的配准,直到达到或者给出在相应个别情况下对于达到目标足够的概率。以这种方式,统计上客观地可以改善或者可以验证相应的应用的成功,即可掌握地进行预测。例如,如果对所提取的样本的检查得出否定的结果,则可以根据在取样中通过所使用的仪器路径给出的、从预先给定的目标组织提取出样本的概率,对该结果进行分级或分析。如果通过使用本发明可验证地确保了,达到目标的概率是100%或接近100%,则可以在必要时避免另外的取样。
此外特别有利地,在此将在引导或定位和/或跟踪仪器情况下的不确定性或不准确性或容差作为统计上独立的参量累加到2D/3D配准的不确定性、即与其结合。以这种方式,可以更准确且可靠地计算到达预先给定目标的概率。以相应的方式,还可以在例如所描述的对仪器的显示的调整中(例如通过相应更大地拓宽显示)考虑所述不确定性或概率中的一些或全部。以这种方式,例如可以为相应的用户提供,仪器的实际路径或实际位置可以偏离规划路径或规划位置多远和/或以多大概率发生偏离。
独立于本发明相应使用的实施方式,可以规定,连续采集多个2D图像,例如以透视(Fluoroskopie)的形式。然后,可以自动地分别根据当前的2D图像和其相应的记录方向自动地执行更新,即,分别重新确定或更新2D/3D配准的最大的不确定性的空间方向、分别重新执行或更新2D/3D配准和/或产生并输出相应更新的信号。
本发明的另一方面是一种包括计算机程序的计算机程序产品。该计算机程序在此编码或代表根据本发明的方法、即根据本发明的方法的至少一个实施方式的方法步骤。根据本发明的计算机程序产品或者计算机程序在此被设计或设置为,用于加载到数据处理设备、特别是成像系统的存储设备中,并且用于在借助数据处理设备执行所述计算机程序时,执行所述方法。为此,数据处理设备可以包括与存储器设备连接的相应的处理器设备、即例如至少一个微芯片,或者微控制器。因此,根据本发明的计算机程序产品可以包括用于执行根据本发明的方法的程序装置。在此,这些程序装置可以包括在此未明确提到的其他部件,例如相应的控制命令器、寄存器参考器和/或诸如此类。
本发明的另一方面是特别是电子和/或电子可读和/或计算机可读形式的、特别是用于成像系统的、数据载体或数据存储器。在此,在根据本发明的数据载体上存储有可借助数据处理设备特别是自动地执行的程序编码,其包括计算机程序,计算机程序编码或者代表根据本发明的方法的至少一个实施方式、即相应的方法步骤,以便在由数据处理设备执行计算机程序或者程序编码时引起所述方法的执行、即相应方法步骤的执行。
因此,在根据本发明的数据载体上尤其可以存储根据本发明的计算机程序产品或者由其包含的计算机程序的至少一个实施方式。
本发明的另一方面是成像系统。根据本发明的成像系统具有用于采集描绘目标对象的3D数据组和目标对象的至少一个2D图像的采集设备。在此,3D数据组可以例如在较早的时间点已经借助另外的系统进行了记录。在这种情况下,3D数据组的采集可能意味着从电子的或计算机可读的数据存储器等中调用3D数据组。同样地,采集设备本身可以被设计和设置为,用于记录、即测量3D数据组。此外,根据本发明的成像系统具有数据处理设备,该数据处理设备包括处理器设备和与其连接的根据本发明的数据载体。此外,根据本发明的成像系统具有用于输出自动产生的信号的输出设备。在此,该输出设备可以是或者包括例如数据处理设备的接口、计算机程序或程序代码的程序模块和/或显示设备、诸如屏幕或HMD。因此,根据本发明的成像系统被设计和设置为,特别是用于执行或实施根据本发明的方法。相应地,根据本发明的成像系统因此可以具有结合本发明的其余方面、即结合根据本发明的方法、根据本发明的计算机程序产品和根据本发明的数据载体提到的特性和/或部件或组件中的一些或全部。
在此,根据本发明的成像系统可以被设计为紧凑的系统或装置,即集成的或者例如布置在壳体中的系统或装置。同样地,成像系统的至少一些部件或组件、特别是采集设备和数据处理设备,可以布置在空间分布的或空间上彼此间隔的不同地点。因此,成像系统的数据处理设备例如可以作为计算中心或作为计算中心的一部分位于与采集设备不同的空间中。数据处理设备可以布置在“经营场所(on-premise)”。这可能意味着,例如数据处理设备和采集设备、特别是本发明的成像系统的所有部件或组件可以布置在相同的公司站点处、例如可以布置在相同的企业、工厂或医院场所。然而,同样地,数据处理设备可以是例如在远程布置的服务器设备、例如是云服务器或远程服务器。然后,这种服务器设备可以布置在计算中心中,并且例如通过WAN网络(英文:Wide Area Network)、例如因特网与成像系统的采集设备连接。
在这点上要强调的是,尽管例如可以在介入或外科手术期间或在准备时执行根据本发明的方法,但是它本身不包括任何外科步骤或者仅是其前提。更确切地说,根据本发明的方法可以被认为是用于运行成像系统或数据处理设备的方法,其中对所接收的数据进行处理并且产生并输出以信号形式的输出数据。这完全脱离具体的介入或外科应用并且与其无关。同样地,根据本发明的方法不用于自动做出诊断。在此不要求保护包括外科和/或诊断步骤的根据本发明的方法的任何相应的实施方式。
目前为止以及下面指出的根据本发明的方法、根据本发明的计算机程序、本发明的数据载体和根据本发明的成像系统的特性和扩展以及相应的优点,可以相互比照地在本发明的这些方面之间转用。根据本发明的方法、根据本发明的计算机程序、根据本发明的数据载体以及根据本发明的成像系统的如下扩展也属于本发明,这些扩展具有在此为了避免不必要的冗余而未详细地在相应组合中或者针对本发明的每个方面独立描述的设计方案。
附图说明
从下面对优选实施例的描述以及参照附图得出本发明的其他特征、细节和优点。附图中:
图1示出了成像系统的示意图,和
图2示出了用于支持根据图1的成像系统的用户的方法的示例性示意程序图。
具体实施方式
下面阐述的实施例是本发明的优选的实施方式。在这些实施例中,实施方式的所描述的部件分别代表本发明的、视为彼此独立的各个特征,这些特征还分别彼此独立地扩展本发明,并且因此还将各个组合或者不同于所示或所描述的组合视为本发明的组成部分。此外,所描述的实施方式还可以通过已经描述的本发明的其他特征来补充。
图1示出了成像系统1的示意图,该成像系统在此被设计为C形臂X射线装置。在此,成像系统1具有辐射源3和用于探测借助辐射源3发射的X射线辐射的探测器2。在此,借助X射线辐射、即借助成像系统1,可以沿着或在记录方向4上描绘目标对象。在此,位于患者支承件5上的患者6作为目标对象至少逐区域地借助成像系统1进行描绘。此外,成像系统1具有数据处理设备7,用于处理由探测器2提供的传感器数据或图像数据以及必要时经由数据处理设备7的接口8接收或采集的另外的数据。此外,数据处理设备7还具有存储器设备9以及与存储器设备9和接口8连接的处理器设备10。在此,在存储器设备9上或存储器设备9中存储有计算机程序、即程序代码,该计算机程序或该程序代码编码或代表用于支持用户的方法。为了执行该方法可以借助处理器设备10来执行该计算机程序或该程序代码。
图2示例性并且以块的方式示出了程序图11,其具有针对用于支持成像系统1的用户的这种方法的、示意性表示的程序模块18至24。
在此,成像系统1还包括跟踪设备12(英文:tracking system),其在此例如被设计为立体照相机和/或设计用于电磁跟踪。借助跟踪设备12可以跟踪仪器、诸如在此所示的腹腔镜13。为了实现这种跟踪、即连续或定期地采集腹腔镜13,该腹腔镜在此具有相应的标记14。借助腹腔镜13可以在腹腔镜13的观察或采集方向15上光学地描绘患者6。
在此,在患者6中布置多个患者标记16,其同样可以借助跟踪设备12进行采集以确定和跟踪患者6的姿势。
此外,成像系统1在此还包括显示设备17,其在此例如被设计为屏幕或监视器。
下面参照图1和图2更详细地解释用于支持用户的成像系统1的使用和图2中所示的程序图11。
在医学或外科应用中,如今经常使用增强现实(英文:augmented reality)。在此,借助程序模块18采集3D数据组、例如患者6的手术前或介入前的3D体积扫描。在介入时,然后借助程序模块18和成像系统1采集患者6的至少一个2D图像。此外,借助程序模块18采集患者6的、在此借助腹腔镜13记录的内窥镜图像和/或内窥镜视频。现在的目的是,首先根据这些不同的数据产生叠加图像、即AR图像。
例如,在外科增强现实中,与内窥镜图像或视频内窥镜、在此即腹腔镜图像或腹腔镜视频叠加的结构或插入必须尽可能精确地配准到患者6的真实解剖结构。同样地,例如在针的例如基于激光引导或光学导航的导航引导中,也需要尽可能精确地配准到患者6的真实解剖结构。通常,为此基于一个或两个2D-X射线投影(即2D-X射线图像)与3D体积扫描或相应的3D数据组的2D/3D配准或2D/2D/3D配准来计算针路径(Nadelpfad),即针或相应的仪器要沿着其进行移动或引导的路径。另外的例子是借助2D或3D超声的针引导,其中算法计算与3D超声扫描或者与3D-CT扫描或3D-MR扫描的2D/3D配准。由于2D/3D配准或2D/2D/3D配准不必在针介入期间执行新的3D扫描,或者可以通过在介入期间另外记录的X射线图像或投影图像实现根据手术中的3D扫描的快速移动更新。
然而,在许多情况下,所描述的配准并不是在所有空间方向上都同样精确。通常例如出现如下情况,即,在两个相互正交的空间方向上(其在此在没有一般性限制的情况下被称为x方向和y方向)以相对高的精度进行配准,而在第三空间方向上、即z方向上仅非常不准确地配准。具体地,例如如果在手术或者介入期间借助成像系统1沿着z方向或者z轴记录2D-X射线图像,则会发生这种情况,所述z方向或z轴在此对应于或者可以对应于记录方向4。然后,要借助2D/3D配准将之前记录或采集的、即提供的3D数据组与该2D-X射线图像配准。
在此,借助程序模块19执行该2D/3D配准或2D/2D/3D配准。
然后,使用2D/3D配准,以便将3D数据组或者由此导出的显示、例如分割网格,借助或者以AR显示的形式、即借助或者以增强现实的形式叠加到内窥镜图像。附加地或替换地,2D/3D配准被用作针(诸如活检针或消融针)或另外的仪器的路径规划的基础。
为此,在此通过程序模块20,根据标记14采集并且跟踪腹腔镜13、即腹腔镜13的相应姿势,并且根据患者标记16采集并且跟踪患者6、即患者6的相应姿势。由此已知腹腔镜13的采集方向15,因此可将其用于数据处理。此外,根据成像系统1的相应的控制参数或运行参数还已知记录方向4,因此可将其用于数据处理。通过程序模块21确定相对于记录方向4的采集方向15、即记录方向4与采集方向15之间的角度α。
问题在于,2D/3D配准通常例如在x方向上和在y方向上相对精确,然而在z方向上、即沿着记录方向4明显不精确。这种沿着空间轴线或空间方向的不准确性或不确定性,在产生AR图像或叠加图像的情况下、即在将3D数据组或者由此产生的叠加结构叠加到内窥镜视频上的情况下,可能对于观察者或者用户是非常烦扰的,并且根据内窥镜13的观察方向、即根据采集方向15的相对取向可以具有不同强度的影响或者可察觉性。用户、如外科医生没有意识到的不精确的叠加带来了错误决定的风险,其中在最坏的情况下,例如可能在患者6的错误位置处或者在特定器官的错误位置处设置切口。反之,例如在针刺活检(Nadelbiospien)中希望确保,实际上沿着针路径遇到借助3D数据组、即3D成像找到的病灶。在此例如存在沿着针路径提取多个活检、即样本的可能性,其中然而并不会检查或到达在侧向上偏离针路径的样本地点。
在另外例子中,消融区域在针消融中不是圆形的,而是沿着针轴线比在其他方向上更加扩展。然而,肿瘤在此应当完全在消融区域的体积之内。
通常,在对介入或外科仪器(所述仪器对身体组织的影响具有几何的优选方向或者各向异性)的应用路径的规划中,考虑2D/3D配准的准确度或确定性或者说不确定性的空间上的各向异性。
到目前为止,没有为用户提供任何关于如下的帮助或指示:在哪个方向上准确地或不准确地配准或可视化了2D/3D配准以及叠加,即叠加图像或AR图像。同样地,到目前为止在对针路径的规划中还没有考虑2D/3D配准的空间各向异性的精度或确定性。
在此,解决办法可以是,通过使用多个X射线投影方向(即来自或者具有不同的角度的多个2D-X射线图像)、通过使用双平面X射线系统或通过也在相应的介入期间使用3D-X射线图像,改善或确保了在所有方向上的配准准确性或配准确定性。然而,由此可能产生外科工作流程中的缺点:给出对于患者6的更高剂量或负担,以及可能不利地需要使用更复杂且昂贵的成像系统1。
在本示例中,成像系统1被设计为用于手术中的3D成像和2D透视的C臂X射线装置。借助腹腔镜13进行光学的实时成像。在此,腹腔镜具有成角度的光学器件,使得腹腔镜13的采集方向15相对于腹腔镜13的纵向延伸方向或杆或壳体成例如30°的角度。在此,对于平躺在患者支承件5上、例如手术台上的患者6执行例如腹腔镜检查。例如,要切除肝肿瘤。用户、即外科医生为此使用借助跟踪设备12关于腹腔镜的位置和定向、即腹腔镜的姿势进行跟踪的腹腔镜13。可选地,还可以借助跟踪设备12或者借助另外的跟踪系统采集以及跟踪未在此详细示出的另外的外科仪器,诸如镊子、指示器,电烙器和/或诸如此类。同样地,腹腔镜13的位置和情况确定例如可以根据借助成像系统1记录的X射线图像或透视图像进行。
采集并且跟踪腹腔镜13的跟踪设备12或者跟踪设备12的坐标系在此被校准到借助成像系统1记录的X射线图像和3D数据组的坐标系。由此,可以通过预先给定的坐标变换进行计算:如何能够将已经根据X射线图像和/或根据3D数据组计算出其3D坐标的对象,地点正确地叠加地显示在借助腹腔镜13记录的内窥镜图像中或者相应的坐标系中。
在此,腹腔镜13可以是立体腹腔镜。同样地,显示设备17可以是立体显示设备、例如是3D监视器或者立体头戴式显示器(HMD)。
在理想情况下,腹腔镜13相对于成像系统1的X射线投影方向平行取向地进行观察。在此这意味者,采集方向15平行或反平行于记录方向4进行取向。由此,内窥镜图像的图像平面沿着空间方向x、y定向。由此,在叠加图像中,根据3D数据导出或产生的虚拟叠加结构由于相对精确的配准可以在x和y方向上忠于位置地、即准确匹配地插入内窥镜图像。所描述的、z方向上、即沿着记录方向4的配准不准确性或配准不确定性本身并不能被有效地或明显地注意到。
如果腹腔镜13是立体腹腔镜,则附加地还可以通过立体内窥镜的左部分图像与右部分图像之间的插入的聚散和/或视差来产生3D深度印象,其中相应的深度方向在这种情况下同样平行于X射线投影方向z、即记录方向4。虽然2D/3D配准或者叠加图像中的叠加在此可能是不准确的,但是如果不是明显的干扰,观察者或用户的眼睛实际上在深度方向上获得相对小的偏差或者不准确性,从而深度方向上的不准确性或不确定性在这种情况下可以被容忍。
在一般情况下,腹腔镜13的观察或采集方向15与X射线投射方向、即记录方向4之间的角度α不等于零。由此,内窥镜图像的图像平面不再平行于空间方向x、y。由此,在z方向上的较大的配准不确定性或者较大的配准误差直接在手术前图像的2D叠加中产生影响,例如与sin(α)成比例。
在此,应当为用户提供识别z方向上的2D/3D配准和叠加图像中的相应叠加的不准确性或者不确定性、即相应的可视化误差或者相应的可视化不确定性或者不准确性的可能性。此外,还应当向用户提供辅助,以将腹腔镜13如上面针对理想情况所描述的那样进行取向。
首先,借助程序模块22关于配准不确定性的方向和大小来确定配准不确定性。为此可以使用本身已知的方法,例如基于角度α、即记录方向4与采集方向15之间的相对方向,并且例如基于用于2D/3D配准和/或用于产生叠加图像的配准算法的预先给定的经验值和/或返回值。
然后,借助程序模块23产生叠加图像。
然后,借助程序模块24依据特定的配准不确定性自动产生并输出用于取向腹腔镜13的信号。
如果腹腔镜13的观察方向、即采集方向15偏离记录方向4,则图形地调整或处理叠加图像中的叠加,以便向用户发出不准确性或者不确定性的程度的信号。例如,这可以通过对叠加结构进行模糊绘制来实现,例如与sin(α)成比例地进行模糊绘制,特别是通过仅在z方向上进行模糊绘制来实现。此外,对叠加或者叠加结构进行渐进的、即在空间上渐变的泛灰;在z方向上插入箭头和/或其他符号;和/或在z方向上延伸叠加结构或者叠加内容也是可以的。对于较大的方向偏差,即如果角度α超过预先给定的阈值,则可以完全隐去叠加结构。
因此,成像系统1或者导航系统可以提供图形辅助,其指示记录方向4与采集方向15之间的相应的当前的方向偏差、即角度α的大小。此外,成像系统1或者导航系统还提供辅助,以便支持采集方向15平行于或者反平行于记录方向4的取向。为此可以设置十字线显示或导航。附加地或替换地,相应地将采集方向15假定为已经给出,并且通过辅助在相应的用户处或者优选自动地移动成像系统1、即C形臂的角度以及因此记录方向4的角度,使得记录方向4平行与或者反平行于采集方向15进行取向。
因此,在此规定,测量在成像系统1的X射线投影方向、即记录方向4与腹腔镜13的观察方向、即采集方向15之间的偏差。然后给出或使用用于平行地取向采集方向15的辅助和/或用于取向记录方向4的辅助、特别是自动辅助。在此,可以通过对叠加图像中的叠加内容进行相应的调整为相应的观察者或用户示出配准不确定性和/或可视化不确定性。
有利地,由此可以产生叠加内容的较大的精度、即医学增强现实显示或应用中的相应的叠加图像的较大的精度,而为此不需要多个X射线投影方向、即多个不同的记录方向4。这通过腹腔镜13的优化的相对取向来实现。有利地,由此可以降低相应的使用者或外科医生由于其本身没有意识到的、在空间方向上特别不确定的配准而做出错误的外科手术决定的风险。此外,有利地可以实现腹腔镜13与成像系统1的紧密结合,例如以基于腹腔镜13的观察或采集方向15自动地取向成像系统1的C形臂的形式。
在此,腹腔镜13仅用作示例。同样地,还可以使用任何其他内窥镜或照相机或手术显微镜等。
返回到针被用作仪器的例子中,例如可以规定,要在患者6中执行针刺活检,因为例如根据手术前的3D-CT扫描或3D-MR扫描找到了可疑的病灶。这例如可以位于患者6的肝脏或前列腺上。在此导航地进行针引导、即引导或定位(即移动)活检针,为此使用例如成像系统1的“激光针导航(Laser Needle Guidance)”或光学导航。
为了将手术前的3D扫描配准到所涉及器官(例如肝脏或前列腺)的当前手术中的位置,借助成像系统1执行2D透视记录。然后,通过2D/3D配准将手术前的3D扫描配准到患者6的当前位置。替换地,例如可以从不同的角度记录两个2D透视图像并且执行2D/2D/3D配准。但是,在此出于空间原因、即为了避免碰撞,例如可能发生这两个角度之间的夹角可能比最佳值90°小得多,这导致配准的各向异性的准确性、即配准的各向异性的或取决于方向的不确定性。然而,如果例如对于大的或重的患者存在相应小的空间或移动可能性,则利用在此描述的方法还可以实现使用比迄今通常推荐的40°更小的角度或角度夹角。
在此,在执行2D/3D配准或2D/2D/3D配准时存在沿着空间方向z比沿着两个空间方向x和y更大的不准确性或不确定性。
在此,现在提出,在路径规划时为相应的用户或医生显示取决于活检针的方向的并且通常各向异性的不准确性或不确定性,从而用户或者医生可以在确定针路径时考虑其。同样地,还可以在自动的路径规划时相应地考虑不准确性或不确定性。相应的规划工具(Planungstool)或程序模块、例如程序模块24,附加地可以确定推荐的深度范围、要连续提取的活检或样本的数量和相应的提取地点之间的空间距离。在考虑配准不准确性或配准不确定性的情况下,沿着针轴线(即活检针的主延伸方向)或者沿着针路径确定相应的值。
取决于配准或者针路径或者相应显示的不确定性的、在叠加图像中对针的显示的(例如椭圆形的)拓宽,例如可以在针导航时在手术中实时地进行显示。一个例子是针引导,其作为增强现实叠加到借助腹腔镜13记录的内窥镜图像或腹腔镜视频。在此,例如在针的区域中平滑转化相应的不确定区域并且虚拟地显示病变。
在另外的例子中,在针消融时,肿瘤应当完全位于消融区域内部。借助规划工具或路径规划模块、例如程序模块24,在叠加图像中在肿瘤周围显示取决于针路径或者针的相应取向的、典型的各向异性的不确定区域,其指示或者显示配准的不确定性。可选地,在此以及在其余示例中,可以在统计上具体地考虑和累加仪器引导和/或跟踪设备12的空间不确定性。
在该示例中,借助规划模块将针周围的消融区域可视化,优选地依据相应消融的参数、例如功率和/或持续时间,并且必要时依据或考虑对消融区域中的相应组织的建模或模拟。现在选择这些参数或参数值以及消融针的姿势、即定位或放置,使得肿瘤和肿瘤周围的整个空间上各向异性的不确定区域尽可能地位于所示的消融区域之内。可选地,在此可以规划多个相邻的消融体积,直到总体上覆盖整个确定性区域。这可以类似地视为,规划或设置多个针路径,这些针路径在此不一定彼此平行布置或延伸。
有利地,以所描述的方式可以实现对针刺活检或另外的仪器手术或应用的改善的支持,由此可能能够形成更少的错误的负面结果、特别是针刺活检的错误的负面结果。有利地可以实现更有针对性的针刺活检和另外的仪器应用。在保持不变的或改善的诊断可能性中,有利地在必要时可以减少所需的针刺点的数量。此外,通过在此描述的方法可以实现对于针引导的2D/3D配准或2D/2D/3D配准的更好的可用性,由此通常可以有利地节省用于附加的手术中的3D扫描的剂量。此外,还可以实现有针对性地支持消融程序,其中例如可以借助规划工具以可能改善的精度预测实际上的或者有效的消融区域。
总体而言,在此得出以下认识:存在一个空间方向,其具有比另外的空间方向明显更大的配准不确定性,例如用于内窥镜取向和/或用于规划工具路径,以便通过改善的、特别是精确的仪器引导实现改善的可视化以及可能的患者利用。在此,可以取向相应的内窥镜和/或例如相应的X射线装置,使得相应的观察者可以察觉到尽可能少的配准不确定性或者由此形成的可视化误差。

Claims (15)

1.一种用于支持用户的方法(11),其具有以下方法步骤
-提供描绘目标对象(6)的3D数据组,
-采集目标对象(6)的至少一个2D图像,
-将至少一个2D图像与所提供的3D数据组自动2D/3D配准,
-自动确定空间方向(4),在所述空间方向中2D/3D配准具有最大的不确定性,和
-依据所确定的空间方向(4)自动产生并输出信号以支持用户,所述信号用于支持为了检查目标对象(6)而设置的仪器(13)的取向。
2.根据权利要求1所述的方法(11),其特征在于,
-作为所述仪器(13)使用内窥镜(13),
-自动跟踪所述内窥镜(13)在2D图像的坐标系中的姿势,
-根据至少一个借助所述内窥镜(13)记录的目标对象(6)的内窥镜图像和3D数据组产生至少一个叠加图像,
-作为信号向用户输出指示,即,用户能够以及如何改变内窥镜(13)的取向,使得内窥镜(13)的采集方向(15)沿着特定空间方向(4)延伸,以便减小由于2D/3D配准的不确定性引起的在叠加图像中的可视化误差。
3.根据上述权利要求中任一项所述的方法(11),其特征在于,
-作为所述仪器(13)使用借助机器人引导的内窥镜(13),
-自动跟踪所述内窥镜(13)在2D图像的坐标系中的姿势,
-根据借助所述内窥镜(13)记录的目标对象(6)的内窥镜图像和3D数据组产生叠加图像,
-作为信号产生用于机器人的控制信号,所述机器人通过所述控制信号自动取向所述内窥镜(13),从而所述内窥镜的采集方向(15)沿着特定空间方向(4)延伸,以便减小由于2D/3D配准的不确定性引起的在叠加图像中的可视化误差。
4.根据上述权利要求中任一项所述的方法(11),其特征在于,
-作为所述仪器(13)使用内窥镜(13),
-自动跟踪所述内窥镜(13)在2D图像的坐标系中的姿势,
-根据借助所述内窥镜(13)记录的目标对象(6)的内窥镜图像和3D数据组产生叠加图像,
-作为信号产生针对用于记录2D图像的成像模态(1)的控制信号,所述成像模态的记录方向(4)由此自动沿着内窥镜(13)的采集方向(15)取向,以便减小由于2D/3D配准的不确定性引起的在叠加图像中的可视化误差。
5.根据上述权利要求中任一项所述的方法(11),其特征在于,
-作为所述仪器(13)使用内窥镜(13),
-自动跟踪所述内窥镜(13)在2D图像的坐标系中的姿势,
-根据借助所述内窥镜(13)记录的目标对象(6)的内窥镜图像和3D数据组产生叠加图像,
-作为信号,根据2D/3D配准的不确定性的程度、特别是空间上各向异性的程度,取决于位置地调整叠加图像的可视化,特别是通过对所述叠加图像的一部分进行模糊绘制、泛灰、伸展和/或隐去。
6.根据权利要求5所述的方法(11),其特征在于,所述叠加图像的可视化仅在2D/3D配准的最大不确定性的特定空间方向(4)上进行调整。
7.根据上述权利要求中任一项所述的方法(11),其特征在于,
-作为所述仪器(13)使用立体内窥镜(13),
-自动跟踪所述立体内窥镜(13)在或2D图像的坐标系中的姿势,
-根据借助所述立体内窥镜记录的目标对象(6)的立体内窥镜图像和3D数据组产生叠加图像,
-借助立体内窥镜图像的左部分图像与右部分图像之间的聚散或视差在叠加图像中产生特定空间方向(4)上的空间效果。
8.根据上述权利要求中任一项所述的方法(11),其特征在于,自动确定路径并且作为信号进行输出,沿着所述路径引导所述仪器(13),以便在考虑2D/3D配准的不确定性的情况下达到预先给定的目标。
9.根据权利要求8所述的方法,其特征在于,为了确定所述路径考虑所述仪器(13)的作用的优选方向。
10.根据上述权利要求中任一项所述的方法(11),其特征在于,在叠加图像中显示所述仪器(13),其中作为信号或者通过信号,依据2D/3D配准的相应的局部不确定性,空间上各向异性地拓宽所述仪器(13)和/或所述仪器(13)的作用范围在叠加图像中的显示。
11.根据上述权利要求中任一项所述的方法(11),其特征在于,依据2D/3D配准的取决于方向的不确定性,特别是在考虑所述仪器(13)的作用的优选方向的情况下,自动确定所述仪器(13)的至少一个应用点,并且作为信号输出相应的指示。
12.根据上述权利要求中任一项所述的方法(11),其特征在于,
-自动采集所述仪器(13)的相应的当前取向,
-依据所采集的仪器的取向和2D/3D配准的不确定性自动计算出借助所述仪器(13)在所采集的取向上达到预先给定目标的概率,和
-将所计算的概率作为信号进行输出。
13.一种包括计算机程序(11)的计算机程序产品,所述计算机程序对根据上述权利要求中任一项所述的方法(11)进行编码,并且被设计或设置为,
-用于加载到数据处理设备(7)、特别是成像系统(1)的存储设备(9)中,并且
-用于在借助数据处理设备(7)执行所述计算机程序(11)时,执行所述方法(11)。
14.一种数据载体(9)、特别是用于成像系统(1)的数据载体,在所述数据载体上存储有可借助数据处理设备(7)执行的程序编码,所述程序编码包括计算机程序(11),所述计算机程序对根据权利要求1至12中任一项所述的方法(11)进行编码,以便在由所述数据处理设备(7)执行程序编码时引起所述方法(11)的执行。
15.一种成像系统,其具有
-采集设备(1),用于采集描绘目标对象(6)的3D数据组和目标对象(6)的至少一个2D图像,
-数据处理设备(7),其具有处理器设备(10)和与所述处理器设备连接的、根据权利要求14所述的数据载体(9),和
-输出设备(17),用于输出自动产生的信号。
CN201910868835.1A 2018-09-19 2019-09-16 支持用户的方法、数据载体和成像系统 Active CN110916702B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP18195330.8 2018-09-19
EP18195330.8A EP3626176B1 (de) 2018-09-19 2018-09-19 Verfahren zum unterstützen eines anwenders, computerprogrammprodukt, datenträger und bildgebendes system

Publications (2)

Publication Number Publication Date
CN110916702A true CN110916702A (zh) 2020-03-27
CN110916702B CN110916702B (zh) 2022-09-02

Family

ID=63642787

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910868835.1A Active CN110916702B (zh) 2018-09-19 2019-09-16 支持用户的方法、数据载体和成像系统

Country Status (4)

Country Link
US (1) US11576557B2 (zh)
EP (1) EP3626176B1 (zh)
JP (1) JP6952740B2 (zh)
CN (1) CN110916702B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021237962A1 (zh) * 2020-05-26 2021-12-02 清华大学 一种咽拭子自动采样系统

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020044523A1 (ja) * 2018-08-30 2020-03-05 オリンパス株式会社 記録装置、画像観察装置、観察システム、観察システムの制御方法、及び観察システムの作動プログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150030229A1 (en) * 2013-07-24 2015-01-29 Anja Borsdorf Methods for Updating 2D/3D Registration on Movement and Computing Device
US20150085981A1 (en) * 2013-09-24 2015-03-26 Siemens Aktiengesellschaft Method of image registration in a multi-source/single detector radiographic imaging system, and image acquisition apparatus
US20170243361A1 (en) * 2016-02-18 2017-08-24 Roman Schaffert 2D/3D Registration
CN107580716A (zh) * 2015-05-11 2018-01-12 西门子公司 2d/2.5d腹腔镜和内窥镜图像数据与3d立体图像数据配准的方法和系统
US20180240245A1 (en) * 2015-03-05 2018-08-23 Broncus Medical Inc. Gpu-based system for performing 2d-3d deformable registration of a body organ using multiple 2d fluoroscopic views

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8147503B2 (en) * 2007-09-30 2012-04-03 Intuitive Surgical Operations Inc. Methods of locating and tracking robotic instruments in robotic surgical systems
WO2008120136A1 (en) * 2007-03-30 2008-10-09 Koninklijke Philips Electronics N.V. 2d/3d image registration
JP5028191B2 (ja) * 2007-09-03 2012-09-19 オリンパスメディカルシステムズ株式会社 内視鏡装置
US8271068B2 (en) * 2007-10-02 2012-09-18 Siemens Aktiengesellschaft Method for dynamic road mapping
DE102009030731A1 (de) * 2009-06-26 2010-12-30 Fiagon Gmbh Verfahren zum Erzeugen von Positionsdaten eines Instrumentes
US9265468B2 (en) * 2011-05-11 2016-02-23 Broncus Medical, Inc. Fluoroscopy-based surgical device tracking method
EP3104801B1 (en) 2014-02-11 2019-03-13 Koninklijke Philips N.V. System for spatial visualization of internal mammary artery during minimally invasive bypass surgery
CN110101355A (zh) * 2014-07-28 2019-08-09 直观外科手术操作公司 用于术中分割的系统和方法
JP6662612B2 (ja) * 2015-11-17 2020-03-11 キヤノンメディカルシステムズ株式会社 医用画像診断装置
AU2016370633A1 (en) * 2015-12-14 2018-07-05 Nuvasive, Inc. 3D visualization during surgery with reduced radiation exposure
DE102017216953A1 (de) 2017-09-25 2019-03-28 Siemens Healthcare Gmbh Anzeige eines mit einem realen Objekt verknüpften virtuellen Objekts in einer Augmented-Reality-Anzeigevorrichtung

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150030229A1 (en) * 2013-07-24 2015-01-29 Anja Borsdorf Methods for Updating 2D/3D Registration on Movement and Computing Device
US20150085981A1 (en) * 2013-09-24 2015-03-26 Siemens Aktiengesellschaft Method of image registration in a multi-source/single detector radiographic imaging system, and image acquisition apparatus
US20180240245A1 (en) * 2015-03-05 2018-08-23 Broncus Medical Inc. Gpu-based system for performing 2d-3d deformable registration of a body organ using multiple 2d fluoroscopic views
CN107580716A (zh) * 2015-05-11 2018-01-12 西门子公司 2d/2.5d腹腔镜和内窥镜图像数据与3d立体图像数据配准的方法和系统
US20170243361A1 (en) * 2016-02-18 2017-08-24 Roman Schaffert 2D/3D Registration

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021237962A1 (zh) * 2020-05-26 2021-12-02 清华大学 一种咽拭子自动采样系统

Also Published As

Publication number Publication date
CN110916702B (zh) 2022-09-02
JP6952740B2 (ja) 2021-10-20
US11576557B2 (en) 2023-02-14
EP3626176B1 (de) 2020-12-30
JP2020058779A (ja) 2020-04-16
US20200085281A1 (en) 2020-03-19
EP3626176A1 (de) 2020-03-25

Similar Documents

Publication Publication Date Title
US11871913B2 (en) Computed tomography enhanced fluoroscopic system, device, and method of utilizing the same
Navab et al. Camera augmented mobile C-arm (CAMC): calibration, accuracy study, and clinical applications
US8320992B2 (en) Method and system for superimposing three dimensional medical information on a three dimensional image
US20170065248A1 (en) Device and Method for Image-Guided Surgery
US6851855B2 (en) Registration method for navigation-guided medical interventions
CN103619278B (zh) 用于内窥镜手术期间的引导注射的系统
CN106163408B (zh) 使用同时的x平面成像的图像配准和引导
CN109416841A (zh) 影像增强真实度的方法与应用该方法在可穿戴式眼镜的手术导引
US20080119725A1 (en) Systems and Methods for Visual Verification of CT Registration and Feedback
CN111970986A (zh) 用于执行术中指导的系统和方法
CA2892554A1 (en) System and method for dynamic validation, correction of registration for surgical navigation
KR101954868B1 (ko) 혈관 중재 시술을 위한 내비게이션 시스템 및 가상의 엑스선 이미지 생성 방법
WO2008035271A2 (en) Device for registering a 3d model
CN110916702B (zh) 支持用户的方法、数据载体和成像系统
KR20220086601A (ko) 정합 방법 및 내비게이션 시스템
Fan et al. 3D augmented reality-based surgical navigation and intervention
CN116266369A (zh) 确定要由医学图像采集设备成像的扫描区域的技术

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant