CN114072038A - 脉冲超光谱成像、荧光成像和激光标测成像系统中的散斑去除 - Google Patents

脉冲超光谱成像、荧光成像和激光标测成像系统中的散斑去除 Download PDF

Info

Publication number
CN114072038A
CN114072038A CN202080045273.1A CN202080045273A CN114072038A CN 114072038 A CN114072038 A CN 114072038A CN 202080045273 A CN202080045273 A CN 202080045273A CN 114072038 A CN114072038 A CN 114072038A
Authority
CN
China
Prior art keywords
electromagnetic radiation
coherent light
laser
wavelength
pulses
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080045273.1A
Other languages
English (en)
Inventor
J·D·塔尔伯特
D·M·威克恩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Cilag GmbH International
Original Assignee
Cilag GmbH International
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Cilag GmbH International filed Critical Cilag GmbH International
Publication of CN114072038A publication Critical patent/CN114072038A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/063Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for monochromatic or narrow-band illumination
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00112Connection or coupling means
    • A61B1/00121Connectors, fasteners and adapters, e.g. on the endoscope handle
    • A61B1/00126Connectors, fasteners and adapters, e.g. on the endoscope handle optical, e.g. for light supply cables
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/07Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements using light-conductive means, e.g. optical fibres
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0062Arrangements for scanning
    • A61B5/0066Optical coherence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0075Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0082Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
    • A61B5/0084Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for introduction into the body, e.g. by catheters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7203Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal
    • A61B5/7207Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal of noise induced by motion artifacts
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/254Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/042Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by a proximal camera, e.g. a CCD camera
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Public Health (AREA)
  • Biophysics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Signal Processing (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Electromagnetism (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physiology (AREA)
  • Psychiatry (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Endoscopes (AREA)

Abstract

本发明描述了脉冲超光谱成像、荧光成像和激光标测成像系统中的散斑去除。一种系统,该系统包括用于发射相干光的脉冲的相干光源、连接到相干光源的光纤束和附接到光纤束的振动机构。该系统包括图像传感器,该图像传感器包括用于感测反射的电磁辐射的像素阵列。该系统使得由相干光源发射的相干光的脉冲的至少一部分包括超光谱发射、荧光发射或激光标测图案中的一者或多者。

Description

脉冲超光谱成像、荧光成像和激光标测成像系统中的散斑 去除
技术领域
本公开涉及数字成像,并且具体地涉及缺光环境中的超光谱成像、荧光成像和/或激光标测成像。
背景技术
科技的进步已提供了医用成像能力的进步。内窥镜可用于观察身体内部并检查身体的器官或腔体的内部。内窥镜用于调查患者的症状、确认诊断或提供医学治疗。医学内窥镜可用于观察多种身体系统和部分,诸如胃肠道、呼吸道、尿道、腹腔等。内窥镜还可用于外科手术,诸如整形外科手术、在关节或骨上进行的手术、在神经系统上进行的手术、在腹腔内进行的手术等。
在内窥镜成像的一些情况下,观察彩色空间可能是有利的或有必要的。数字彩色图像包括累积形成具有一系列色调的图像的至少三个层或“颜色通道”。颜色通道中的每个测量光谱带的光的强度和色度。通常,数字彩色图像包括红色光谱带、绿色光谱带和蓝色光谱带的颜色通道(这可称为红绿蓝或RGB图像)。红色、绿色和蓝色颜色通道中的每个包括红色、绿色或蓝色光谱带的亮度信息。单独的红色层、绿色层和蓝色层的亮度信息被组合以生成彩色图像。因为彩色图像由单独层构成,所以常规数字相机图像传感器包括颜色滤光器阵列,该颜色滤光器允许红色可见光波长、绿色可见光波长和蓝色可见光波长击中所选择的像素传感器。每个单独的像素传感器元件对红色、绿色或蓝色波长敏感,并且将仅返回该波长的图像数据。将来自像素传感器的总阵列的图像数据组合以生成RGB图像。至少三种不同类型的像素传感器占用大量物理空间,使得完整的像素阵列不能装配在内窥镜的较小远侧端部中。
因为传统图像传感器不能装配在内窥镜的远侧端部中,所以图像传感器传统上位于内窥镜的手持件单元中,手持件单元由内窥镜操作者握持并且不放置在体腔内。在此类内窥镜中,光沿内窥镜的长度从手持件单元传输到内窥镜的远侧端部。该配置具有显著限制。具有该配置的内窥镜是精密的,并且当其在常规使用期间发生碰撞或冲击时可容易地不对准或损坏。这可显著降低图像的质量并且需要频繁修理或更换内窥镜。
具有放置在手持件单元中的图像传感器的传统内窥镜进一步被限制为仅捕获彩色图像。然而,在一些具体实施中,除了彩色图像数据之外,还可能希望利用荧光数据、超光谱数据和/或激光标测数据来捕获图像。荧光成像捕获已吸收电磁辐射的物质对光的发射并随着其发射弛豫波长而“发光”。超光谱成像可用于通过发射电磁辐射的不同分区并评估材料的光谱响应来识别不同的材料、生物过程和化学过程。激光标测成像可捕获对象和景观的表面形状并测量场景内的对象之间的距离。激光标测成像还可涵盖工具跟踪,其中可相对于彼此、相对于成像装置和/或相对于场景内的结构来跟踪场景内工具的距离和/或尺寸。在一些具体实施中,可能希望在对场景成像时组合使用荧光成像、超光谱成像和/或激光标测成像中的一者或多者。
然而,本领域已知的荧光成像技术、超光谱成像技术和激光标测技术的应用通常需要高度专业化的设备,这些设备对于多种应用可能是不可用的。此外,此类技术提供了有限的环境视图,并且通常必须与多个单独系统和多个单独图像传感器结合使用,该多个单独系统和该多个单独图像传感器被制成对特定电磁辐射频带敏感。因此希望开发一种可用于空间受限的环境中以生成荧光成像数据、超光谱成像数据和/或激光标测成像数据的成像系统。
鉴于上述情况,本文描述了用于在缺光环境中进行荧光成像、超光谱成像和激光标测成像的系统、方法和装置。此类系统、方法和装置可提供多个数据集,用于识别身体内的关键结构并提供关于体腔的精确且有价值的信息。
附图说明
参考以下附图描述了本公开的非限制性和非完全性的具体实施,其中除非另外指明,否则在各个视图中类似的附图标号指示类似的部分。参照以下说明和附图将更好地理解本公开的优点,其中:
图1是具有成对发射器和像素阵列的用于在缺光环境中进行数字成像的系统的示意图;
图2是用于向缺光环境提供照明以进行内窥镜成像的系统;
图2A是互补系统硬件的示意图;
图3A至图3D是用于构造曝光帧的图像传感器的操作循环的图示;
图4A是电磁发射器的一个实施方案的操作的图形表示;
图4B是改变所发射电磁脉冲的持续时间和量值以提供曝光控制的图形表示;
图5是将图3A至图4B的传感器的操作循环、电磁发射器和所发射电磁脉冲组合的本公开的一个实施方案的图形表示,示出了操作期间的成像系统;
图6A是用于在从t(0)至t(1)的时间段内用全光谱光记录视频的过程的示意图;
图6B是通过在从t(0)至t(1)的时间段内脉冲分区光谱光来记录视频的过程的示意图;
图7A至图7E示出了在一定时间间隔内用于记录全光谱光和分区光谱光两者的视频帧的过程的示意图;
图8A示出了用于内窥镜成像并从由图像传感器捕获的曝光帧去除散斑的系统的实施方案,其中图像传感器设置在内窥镜的远侧末端中;
图8B示出了用于内窥镜成像并从由图像传感器捕获的曝光帧去除散斑的系统的实施方案,其中图像传感器设置在内窥镜的近侧端部处;
图9A是用于引起光纤束的路径几何结构的一系列变化的振动机构的分解横截面侧视图;
图9B是用于引起光纤束的路径几何结构的一系列变化的振动机构的分解横截面侧视图;
图9C是用于引起光纤束的路径几何结构的一系列变化的振动机构的横截面侧视图;
图10A是用于直接附接到光纤束的振动装置的分解横截面侧视图,用于引起光纤束的路径几何结构的一系列变化;
图10B是用于直接附接到光纤束的振动装置的横截面侧视图,用于引起光纤束的路径几何结构的一系列变化;
图11是用于在多个单独曝光帧上执行颜色融合的系统硬件的示意图;
图12是用于对相干光的红色、绿色、蓝色和特殊发射进行脉冲的图案重建过程的示意图,该过程用于生成包括红色曝光帧、绿色曝光帧、蓝色曝光帧和特殊曝光帧的图像帧;
图13A至图13C示出了具有多个发射器的光源;
图14示出了在输出处经由漫射器输出以照明缺光环境中的场景的单根光纤;
图15示出了根据本公开的原理和教导内容被分成可由光源的发射器发射的多个不同子光谱的电磁光谱的一部分;
图16是示出用于生成包括由脉冲光的不同分区产生的多个曝光帧的图像帧的发射和读出时序的示意图;
图17示出了包括用于过滤电磁辐射波长的单个截止滤光器的成像系统;
图18示出了包括用于过滤电磁辐射波长的多个截止滤光器的成像系统;
图19示出了可被成像系统脉冲的示例性激光标测图案;
图20A和图20B示出了根据本公开的原理和教导内容的具有用于产生三维图像的多个像素阵列的具体实施;
图21A和图21B分别示出了构建在多个基板上的成像传感器的具体实施的透视图和侧视图,其中形成像素阵列的多个像素列位于第一基板上,并且多个电路列位于第二基板上,并且示出了一列像素与其相关联的或对应的电路系统列之间的电连接和通信;并且
图22A和图22B分别示出了具有多个像素阵列用于产生三维图像的成像传感器的具体实施的透视图和侧视图,其中多个像素阵列和图像传感器构建在多个基板上。
具体实施方式
本文公开了用于可能主要适于医学应用诸如医学内窥镜成像的数字成像的系统、方法和装置。本公开的实施方案是一种用于在缺光环境中进行超光谱、荧光、激光标测和彩色成像的内窥镜系统。本文所公开的此类方法、系统和基于计算机的产品提供用于医学机器人应用诸如用于执行成像规程、外科规程等的机器人的使用的成像或诊断能力。
本公开的实施方案是一种用于捕获由激光光源照明的场景的内窥镜成像系统。激光器的使用引入了被称为“散斑”或“散斑效应”的问题。散斑是固有存在于和降低基于激光的成像技术的质量的粒状干扰,包括本文所讨论的脉冲光成像技术以及有源雷达、合成孔径雷达、医学超声波和光学相干断层摄影术成像。至少从表面反射的光的波长来看,几乎所有的表面都是粗糙的。如本文所讨论的,“粗糙表面”至少在微观水平下具有表面纹理。当相干光源(即仅由一个波长组成的光诸如激光)从粗糙表面散射时,所得图像包括散斑。散射的反射光根据每个散射波形的相对相位和来自这些相长干涉与相消干涉的图案的散斑结果相干地和破坏性地增加。散斑在所得图像中显示为整个图像中的亮点和暗点。
散斑降低图像质量,并使生成的图像在观察者看来呈颗粒状。常规内窥镜光源诸如金属卤化物灯、卤素灯泡、氙气灯和发光二极管(LED)没有散斑问题,因为这些光源具有低相干性并且因此不会导致散斑。然而,尽管激光光源引起散斑,但激光光源提供优于用于内窥镜成像的常规光源的有益效果。激光光源具有更大的功率效率、不太昂贵、产生的热较少,并且小于常规光源。另外,激光光源能够如本文所述进行颜色脉冲和窄带成像。
本公开的实施方案是一种内窥镜成像系统,其包括用于减少由图像传感器捕获的所得图像中的散斑的存在的振动机构。该系统包括相干光源(在本文中可以称为“发射器”),该相干光源包括用于发射相干光的脉冲的一个或多个激光器。光纤束附接到相干光源并将相干光的脉冲传输到缺光环境以照亮由图像传感器成像的场景。振动机构附接到光纤束并以足够的频率振动以引起光纤束的路径几何结构的一系列变化。光纤束的路径几何结构的这些系列变化降低了已由相干光源发射的相干光的脉冲的相干性。当相干光的脉冲的相干性减小时,相似地减少所得图像中的可见散斑图案。
常规内窥镜被设计成使得图像传感器被放置在手持件单元内的装置的近侧端部处。该配置要求入射光通过精确耦合的光学元件行进内窥镜的长度。精确光学元件在正常使用期间容易不对准,并且这可导致图像失真或图像损失。本公开的实施方案将图像传感器放置在内窥镜本身的远侧端部中的空间高度受限环境内。与本领域中已知的具体实施相比,这提供了更大的光学简单性。然而,该方法的可接受解决方案绝不简单并且引发了其自身的一系列工程挑战。
当图像传感器的总体尺寸被最小化使得图像传感器可装配在内窥镜的远侧末端内时,可存在图像质量的显著损失。可通过减少像素数量和/或减小每个单个像素的感测区域来减小图像传感器的像素阵列的面积。这些修改中的每一者都影响所得图像的分辨率、灵敏度和动态范围。传统内窥镜成像系统旨在通过分段像素阵列诸如拜耳图案阵列来感测稳定宽带照明并提供颜色信息。鉴于与分段像素阵列相关联的缺陷,本文公开了使用不包括单个像素滤光器的单色(可被称为“颜色不定”)像素阵列的另选系统和方法。在本文所公开的实施方案中,通过用不同波长的电磁辐射脉冲发射器来提供颜色信息。本文所公开的脉冲成像系统可生成其上叠层有特殊成像数据的彩色图像。
在一个实施方案中,颜色信息通过响应于不同波长的电磁辐射的脉冲来捕获独立的曝光帧而确定。另选脉冲可包括红色波长、绿色波长和蓝色波长,用于生成由红色曝光帧、绿色曝光帧和蓝色曝光帧组成的RGB图像帧。在另选具体实施中,另选脉冲可包括光的亮度(“Y”)脉冲、红色色度(“Cr”)脉冲和蓝色色度(“Cb”)脉冲,用于生成由亮度数据、红色色度数据和蓝色色度数据组成的YCbCr图像帧。彩色图像帧还可包括来自叠层在RGB或YCbCr图像帧上的超光谱曝光帧、荧光曝光帧和/或激光标测曝光帧的数据。超光谱脉冲可以是电磁辐射的发射,其引发来自对象的光谱响应。超光谱曝光帧可包括发射光谱响应的对象的位置的指示。荧光脉冲可以是用于使试剂发荧光的荧光激发波长的电磁辐射。荧光曝光帧可包括场景内的荧光试剂的指示。激光标测脉冲可包括一个或多个脉冲,用于测量场景内的距离或尺寸、跟踪场景中的工具的存在和位置、生成场景的三维形貌图等。脉冲电磁辐射的波长交替允许利用全像素阵列并避免拜耳图案像素阵列引发的伪影。
在一些情况下,希望生成具有彼此叠层的多种数据类型或多个图像的内窥镜成像。例如,可能希望生成彩色(“RGB”)图像,该图像还包括叠层在RGB图像上的超光谱成像数据、荧光成像数据和/或激光标测成像数据。这种性质的叠层图像可使得执业医生或计算机程序能够识别关键身体结构的高准确度尺寸和三维形貌结构,并且基于激光标测数据在缺光环境内进一步识别工具与其它结构之间的距离。过去,这将需要使用多个传感器系统,包括用于彩色成像的图像传感器和用于超光谱成像、荧光成像或激光标测成像的一个或多个附加图像传感器。在此类系统中,多个图像传感器将具有各自对不同范围的电磁辐射敏感的多种类型的像素传感器。在本领域已知的系统中,这包括用于生成RGB彩色图像的三种单独类型的像素传感器,以及用于生成超光谱数据、荧光数据和激光标测数据的附加传感器和系统。这些多个不同的传感器占用过大物理空间,并且不能位于内窥镜的远侧末端处。在本领域已知的系统中,一个或多个相机不放置在内窥镜的远侧末端处,而是放置在内窥镜手持件或机器人单元中。这引发了许多缺点并且导致内窥镜非常脆弱。当脆弱的内窥镜在使用期间受到碰撞或冲击时,可能损坏内窥镜并降低图像质量。考虑到上述情况,本文公开了用于在缺光环境中进行内窥镜成像的系统、方法和装置。本文所公开的系统、方法和装置提供了在单个成像会话中采用多种成像技术同时允许一个或多个图像传感器设置在内窥镜的远侧末端中的方式。
本文所讨论的荧光成像技术可与一种或多种荧光试剂或荧光染料组合使用。试剂的位置可通过发射使试剂发荧光的激发波长的电磁辐射来识别。试剂发射的弛豫波长可由图像传感器读取,以识别试剂在场景内的位置。根据所用试剂的类型,试剂的位置可进一步指示关键结构诸如某些类型的组织、癌细胞与非癌细胞等的位置。
本文所讨论的超光谱成像技术可用于“透视”场景的前景中的组织层,以识别特定类型的组织和/或特定的生物过程或化学过程。超光谱成像可用于医疗环境中,以定量地跟踪疾病的过程并确定组织病理。另外,超光谱成像可用于识别关键结构,诸如神经组织、肌肉组织、癌细胞等。在一个实施方案中,电磁辐射的分区被脉冲,并且响应于电磁辐射的分区,收集关于不同类型组织的光谱响应的数据。可生成并分析光谱响应的数据存储,以评估场景并基于感测到的光谱响应来预测场景内存在哪些组织。
可评估本文所讨论的激光标测成像技术,以生成场景的三维景观地图并计算场景内对象之间的距离。激光标测数据可与荧光成像和/或超光谱成像结合使用,以计算关键结构的精确位置和尺寸。例如,可用荧光成像和/或超光谱成像来识别关键结构的位置和边界。可随后基于激光标测数据来计算关键结构的位置、关键结构的尺寸以及从关键结构到其它对象的距离的精确测量。
超光谱成像
在一个实施方案中,本文所公开的系统、方法和装置提供了用于在缺光环境中生成超光谱成像数据的方式。光谱成像使用跨电磁光谱的多个频带。这不同于仅捕获跨越基于人眼可分辨的可见光谱的三个波长(包括红色、绿色和蓝色波长)的光以生成RGB图像的常规相机。光谱成像可使用电磁光谱中的任何波长带,包括红外波长、可见光谱、紫外光谱、X射线波长或各种波长带的任何合适的组合。
超光谱成像最初开发用于采矿和地质中的应用。不同于向人眼提供有限信息的正常相机图像,超光谱成像可基于不同矿物质的光谱特征来识别特定矿物质。超光谱成像即便在捕获于航拍图像中时也很有用,并且可提供关于例如来自管道或天然井的油或气泄漏以及它们对附近植被的影响的信息。基于可通过超光谱成像识别的某些材料、对象或过程的光谱特征来收集该信息。
超光谱成像包括光谱和数字摄影。在超光谱成像的一个实施方案中,在图像平面中的每个像素处收集完整光谱或一些光谱信息。超光谱成像的目标可针对不同的应用而变化。在一个应用中,超光谱成像的目标是获得图像场景中每个像素的整个电磁光谱。这可使得能够找到原本在可见光波长带下可能不可识别的某些对象。这可使得能够精确地识别某些物质或组织,虽然这些物质或组织在可见光波长带下可能不可识别。此外,这可使得能够通过跨电磁光谱的所有波长捕获图像来检测某些过程。
在本公开的一个实施方案中,内窥镜系统照明源并脉冲用于光谱或超光谱成像的电磁辐射。光谱成像使用跨电磁光谱的多个频带。这不同于仅捕获跨越基于人眼可分辨的可见光谱的三个波长(包括红色、绿色和蓝色波长)的光以生成RGB图像的常规相机。光谱成像可使用电磁光谱中的任何波长带,包括红外波长、可见光谱、紫外光谱、X射线波长或各种波长带的任何合适的组合。光谱成像可将基于不可见频带(例如红外)生成的成像叠层在基于可见频带(例如标准RGB图像)的成像顶部,以提供可易于由人或计算机算法分辨的附加信息。
超光谱成像具有许多优于常规成像的优势。通过超光谱成像获得的信息使得执业医生和/或计算机实现的程序能够精确地识别在使用RGB成像的情况下可能不可识别的某些组织或病症。另外,在医学规程期间可使用超光谱成像来提供图像引导的外科手术,使得执业医生能够例如查看位于某些组织或流体后面的组织,识别与典型健康细胞形成对比的非典型癌细胞,识别某些组织或病症,识别关键结构等。超光谱成像提供不能用常规成像生成的关于组织生理、形态和组成的专用诊断信息。
在医学应用中,超光谱成像可提供优于常规成像的特定优点。通过超光谱成像获得的信息可使得执业医生和/或计算机实现的程序能够精确地识别可能导致在使用常规成像诸如RGB成像的情况下可能不可诊断或可能诊断不太准确的某些组织或病症。另外,在医学规程期间可使用超光谱成像来提供图像引导的外科手术,可使得执业医生能够例如查看位于某些组织或流体后面的组织,识别与典型健康细胞形成对比的非典型癌细胞,识别某些组织或病症,识别关键结构等。超光谱成像可提供不能用常规成像生成的关于组织生理、形态和组成的专用诊断信息。
在本公开的各种应用和具体实施中,内窥镜超光谱成像可呈现优于常规成像的优点。在医学具体实施中,内窥镜超光谱成像可允许执业医生或计算机实现的程序分辨例如神经组织、肌肉组织、各种血管、血流方向等。超光谱成像可使得非典型癌组织能够与典型健康组织精确区分,并且因此可使得执业医生或计算机实施的程序能够在手术或研究成像期间分辨癌性肿瘤的边界。另外,如本文所公开的缺光环境中的超光谱成像可与试剂或染料的使用相结合,以允许进一步区分某些组织或物质。在此类实施方案中,试剂或染料可以电磁光谱中的特定波长带发荧光,从而提供特定于该试剂或染料的目的的信息。本文所公开的系统、方法和装置可使得能够脉冲任何数量的波长带,使得一种或多种试剂或染料可在不同时间发荧光,并且进一步使得可脉冲电磁辐射的一个或多个分区,以用于同一成像会话中的超光谱成像。在某些具体实施中,这使得能够在单个成像规程期间识别或研究多种医学病症。
荧光成像
本文所公开的系统、方法和设备提供了用于在缺光环境中生成荧光成像数据的手段。荧光成像数据可用于识别体腔或其它缺光环境内的某些材料、组织、部件或过程。在某些实施方案中,将荧光成像提供给执业医生或计算机实施的程序以使得能够识别体内的某些结构或组织。此类荧光成像数据可叠层在黑白或RGB图像上以提供附加信息和上下文。
荧光是已吸收光或其它电磁辐射的物质发射的光。当荧光物质经受紫外光或其它波长的电磁辐射时,某些荧光物质可“发光”或发出人眼可见的不同颜色。当辐射源停止时,某些荧光材料将几乎立即停止发光。
当分子、原子或纳米结构的轨道电子被光或其它电磁辐射激发,然后通过从激发态发射光子而弛豫至其基态时,出现荧光。激发轨道电子或在弛豫期间由光子发射的电磁辐射的具体频率取决于具体的原子、分子或纳米结构。在大多数情况下,由该物质发射的光具有比被该物质吸收的辐射更长的波长,并因此具有更低的能量。然而,当所吸收的电磁辐射强烈时,一个电子可以吸收两个光子。这种双光子吸收可导致具有比所吸收的辐射更短的波长并因此具有更高的能量的辐射的发射。另外,所发射的辐射也可具有与所吸收的辐射相同的波长。
荧光成像具有许多实际应用,包括矿物学、地质学、医学、化学传感器的光谱学、检测生物过程或信号等。荧光尤其可用于生物化学和医学中作为用于跟踪或分析生物分子的非破坏性手段。生物分子,包括某些组织或结构,可通过分析生物分子在被某些波长的电磁辐射激发后的荧光发射来跟踪。然而,相对较少的细胞组分是天然荧光的。在某些具体实施中,可视化本质上不发荧光的某些组织、结构、化学过程或生物过程可能是有利的。在此类具体实施中,可向身体施用染料或试剂,该染料或试剂可包括具有荧光特性的分子、蛋白质或量子点。然后,试剂或染料可在被某些波长的电磁辐射激发之后发荧光。不同的试剂或染料可包括将在特定波长的电磁辐射下发荧光的不同的分子、蛋白质和/或量子点。因此,可能需要用特定频带的电磁辐射激发试剂或染料以实现荧光并在体内识别期望的组织、结构或过程。
荧光成像可在医学领域中提供可用于诊断目的和/或可在医学规程期间实时可视化的有价值的信息。可向身体施用特定试剂或染料以使某些组织、结构、化学过程或生物过程发荧光。试剂或染料的荧光可突出显示身体结构,诸如血管、神经、特定器官等。另外,试剂或染料的荧光可突出显示病症或疾病,诸如癌细胞或经历可能与病症或疾病相关联的某些生物或化学过程的细胞。荧光成像可由执业医生或计算机程序实时使用,以用于在外科肿瘤提取期间区分例如癌细胞和非癌细胞。荧光成像还可用作非破坏性手段,以用于随时间推移跟踪和可视化体内原本人眼不可见或在RGB图像中不可辨别的病症。
用于生成荧光成像数据的系统、方法和设备可与试剂或染料配合使用。已知一些试剂或染料会附着在某些类型的组织上,并在电磁波谱的特定波长下发荧光。在一个具体实施中,向患者施用试剂或染料,该试剂或染料被配置成能够在被某些波长的光激活时发荧光。本文所公开的内窥镜成像系统用于激发试剂或染料并使其发荧光。通过内窥镜成像系统捕获试剂或染料的荧光,以帮助识别体腔中的组织或结构。在一个具体实施中,向患者施用多种试剂或染料,每种试剂或染料被配置成能够发出不同波长的荧光和/或提供不同结构、组织、化学反应、生物过程等的指示。在此类具体实施中,内窥镜成像系统发射适用波长中的每个波长,以使适用试剂或染料中的每一者发荧光。这可消除针对多种试剂或染料中的每一者执行各个成像规程的需要。
成像试剂可增强制药、医学、生物技术、诊断和医学规程行业中的成像能力。许多成像技术诸如X射线、计算机断层摄影术(CT)、超声、磁共振成像(MRI)和核医学主要分析解剖结构和形态,而不能检测到分子水平的变化。荧光试剂、染料和探针(包括量子点纳米粒子和荧光蛋白)通过提供关于成像区域内存在的某些组织、结构、化学过程和/或生物过程的附加信息来辅助医学成像技术。使用荧光试剂成像实现细胞跟踪和/或某些分子生物标志物的跟踪。荧光试剂可用于对癌症、感染、炎症、干细胞生物学等进行成像。许多荧光试剂和染料正在被开发并且应用于以非破坏性方式可视化和跟踪生物过程。此类荧光试剂可由某些波长或波长带的电磁辐射激发。类似地,这些荧光试剂在发荧光时可发出某些波长或波长带的弛豫能量,并且所发出的弛豫能量可由传感器读取以确定试剂或染料的位置和/或边界。
在本公开的一个实施方案中,内窥镜成像系统脉冲电磁辐射以用于激发荧光试剂或染料中的电子。内窥镜成像系统可在单个成像过程期间脉冲多个不同波长的电磁辐射,以用于使多种不同试剂或染料发荧光。内窥镜包括图像传感器,该图像传感器对一种或多种试剂或染料的弛豫波长敏感。由该图像传感器生成的成像数据可用于识别一种或多种试剂或染料的位置和边界。内窥镜系统还可脉冲可见光的红色波段、绿色波段和蓝色波段中的电磁辐射,使得荧光成像可叠层在RGB视频流上。
激光标测成像
在一个实施方案中,本文所公开的系统、方法和装置提供了用于利用内窥镜成像系统来生成激光标测数据的方式。激光标测数据可用于确定场景的精确测量和形貌轮廓。在一个具体实施中,激光标测数据用于确定例如体腔中的结构或器官、体腔中的装置或工具和/或体腔中的关键结构之间的精确测量。如本文所述,术语“激光标测”可涵盖被称为激光标测、激光扫描、形貌扫描、三维扫描、激光跟踪、工具跟踪等的技术。如本文所讨论的激光标测曝光帧可包括场景的形貌数据、场景内对象或结构之间的尺寸、场景内工具或对象的尺寸或距离等。
激光标测通常包括激光束的受控偏转。在三维对象扫描领域,激光标测将激光束的受控转向与激光测距仪组合。通过在每个方向上进行距离测量,激光测距仪可快速捕获对象、工具和景观的表面形状。全三维形貌的构造可包括组合从不同视角获得的多个表面模型。存在于本领域的各种测量系统和方法用于考古学、地理学、大气物理学、自动驾驶车辆等中的应用。一种此类系统包括光检测和测距(LIDAR),其为三维激光标测系统。LIDAR已应用于导航系统诸如飞机或卫星中,以确定与其他系统和传感器结合的传感器的位置和取向。LIDAR使用有源传感器来照明对象并且检测从对象反射并回到传感器的能量。
如本文所述,术语“激光标测”包括激光跟踪。激光跟踪或激光用于工具跟踪的用途通过确定相对于对象保持的光学目标的位置来测量那些对象。激光跟踪器可在几米的距离内准确到0.025mm的量级。在一个实施方案中,内窥镜成像系统脉冲光以与激光跟踪系统结合使用,使得可跟踪并测量场景内的位置或工具。在此类实施方案中,内窥镜成像系统可脉冲由内窥镜成像系统成像的场景内的工具、对象或其它结构上的激光跟踪图案。可将目标放置在场景内的工具、对象或其它结构上。可在选定点处触发并获取内窥镜成像系统与目标之间的测量,使得内窥镜成像系统可跟踪目标(以及附连到目标的工具、对象或其它结构)的位置。
脉冲成像
本公开的一些具体实施包括传感器和系统组合设计的各个方面,该设计能够在受限的照明环境中以减少的像素数生成高清晰度图像。这是通过以下来实现的:逐帧地脉冲单色波长,并且使用受控光源结合高帧捕获速率和特别设计的对应单色传感器在单个不同颜色波长之间切换或交替每个帧。另外,可脉冲可见光谱外的电磁辐射以使得能够生成超光谱、荧光和/或激光标测图像。像素可以是颜色不定的,使得每个像素生成针对每个电磁辐射脉冲的数据,该每个电磁辐射脉冲包括红色、绿色和蓝色可见光波长以及用于超光谱成像、荧光成像和/或激光标测成像的其他波长的脉冲。
本公开的系统是在缺光环境中使用的内窥镜系统。该系统包括内窥镜,该内窥镜包括图像传感器,其中该图像传感器被配置为能够感测所反射的电磁辐射以用于生成多个曝光帧,该多个曝光帧可被组合以生成上面叠加有超光谱、荧光和/或激光标测数据的RGB图像帧。所述系统包括用于发射电磁辐射脉冲的发射器。系统包括与图像传感器和发射器电通信的控制器(可另选地称为“控制电路”)。控制器响应于对应于发射器的占空比的信号来控制发射器的占空比。图像传感器包括可发送和接收信息的双向焊盘。图像传感器的双向焊盘在帧周期中操作,该帧周期被分成三个限定状态,包括滚动读出状态、服务线状态和配置状态。系统包括设置在控制器中的振动机构和连接到控制器的频率检测器。频率检测器响应于来自控制器的对应于振动机构频率的信号来控制图像传感器的时钟频率。系统使得时钟信号数据在服务线阶段和配置阶段期间从图像传感器的双向焊盘传输到控制器。系统使得曝光帧在不使用输入时钟或数据传输时钟的情况下同步。
为了促进对根据本公开的原理的理解的目的,现在将参考附图中所示的实施方案,并且将使用特定的语言来描述这些实施方案。然而,应当理解,因此并不旨在限制本公开的范围。本文所示的本发明特征的任何改变和进一步修改,以及如本文所示的本公开的原理的任何附加的应用(其对于相关领域的技术人员和了解本公开内容的人通常将会发生)将被认为在受权利要求书保护的公开的范围内。
在公开和描述用于在缺光环境中产生图像的结构、系统和方法之前,应当理解,本公开不限于本文所公开的特定结构、配置、工艺步骤和材料,因为此类结构、配置、工艺步骤和材料可一定程度地变化。另外应当理解,本文所用的术语只是为了描述具体实施方案的目的,并不旨在进行限制,因为本发明的范围将仅由所附权利要求书及其等同形式来限定。
在描述及对本公开的主题提出权利要求时,将根据下列定义使用以下术语。
应当指出的是,如本说明书和所附权利要求书中使用的单数形式“一种”、“一个”和“该”包括多个指代物,除非上下文中明确表示其它含义。
如本文所用,术语“包括”、“包含”、“其特征在于”以及它们的语法同等成分是非遍举的或开放式的术语,不排除额外的、未述及的要素或方法步骤。
如本文所用,短语“由……组成”及其语法同等成分排除未载入权利要求书的任何要素或步骤。
如本文所用,短语“主要由……组成”及其语法同等成分将权利要求的范围限制于规定的材料或步骤以及本质上不影响被要求保护的本公开的之一种或多种基本及新颖特征的材料或步骤。
如本文所用,术语“近侧”广义上是指靠近起始点的部分的概念。
如本文所用,术语“远侧”一般是指与近侧相反,因此根据上下文其是指距离起始点较远的部分或最远的部分的概念。
如本文所用,颜色传感器或多光谱传感器是那些已知具有颜色滤光器阵列(CFA)的传感器,在其上以便将入射电磁辐射过滤为其单个分量。在电磁光谱的可见范围中,此类CFA可以基于拜尔模板或其修改形式,以便分离光线中的绿色、红色和蓝色光谱分量。
如本文所用,单色传感器是指无过滤功能的成像传感器。因为像素是颜色不定的,所以其有效空间分辨率明显高于传统单传感器相机中的像素颜色(通常采用拜耳图案过滤)对等物。由于单个像素之间浪费的入射光子较少,因此单色传感器也可具有更高的量子效率。
如本文所用,发射器是能够生成和发射电磁脉冲的装置。发射器的各种实施方案可被配置为能够发射脉冲并且具有来自整个电磁光谱内的非常特定的频率或频率范围。脉冲可包括来自可见范围和不可见范围的波长。发射器可循环打开和关闭以产生脉冲,或者可利用快门机构产生脉冲。发射器可具有可变功率输出电平,或者可利用辅助装置诸如光圈或滤光器进行控制。发射器可发射可通过颜色滤光或快门开闭产生脉冲的宽光谱或全光谱电磁辐射。发射器可包括单独或协同起作用的多个电磁源。
应当指出,如本文所用,术语“光”既是粒子又是波长,并且旨在表示可被像素阵列122检测的电磁辐射,并且可包括来自可见光谱和不可见光谱的电磁辐射的波长。本文所用的术语“分区”是指电磁光谱的预定波长范围,其小于整个光谱,或者换句话讲,构成电磁光谱的某一部分的波长。如本文所用,发射器是关于所发射的电磁光谱的一部分可控制的光源,或是可操作其部件的物理性质、发射强度或发射持续时间或以上所有的光源。发射器可发射任何抖动的、漫射的或准直的发射中的光,并且可通过数字方式或通过模拟方法或系统来进行控制。如本文所用,电磁发射器是电磁能量爆发源,并且其包括光源,诸如激光、LED、白炽光、或可进行数字控制的任何光源。
现在参见附图,图1示出了用于在缺光环境中进行序列脉冲成像的系统100的示意图。系统100可被部署成生成其上叠层有特殊数据的RGB图像。系统100包括发射器102和像素阵列122。如本文所讨论的,发射器102可以被称为相干光源,诸如图8A和图8B中所示的相干光源802。发射器102在缺光环境112中脉冲电磁辐射的分区,并且像素阵列122感测反射电磁辐射的例图(instance)。发射器102和像素阵列122依次工作,使得电磁辐射的分区的一个或多个脉冲产生由像素阵列122感测到的图像数据。
应当指出,如本文所用,术语“光”既是粒子又是波长,并且旨在表示可被像素阵列122检测的电磁辐射,并且可包括来自可见光谱和不可见光谱的电磁辐射的波长。本文所用的术语“分区”是指电磁光谱的预定波长范围,其小于整个光谱,或者换句话讲,构成电磁光谱的某一部分的波长。如本文所用,发射器是关于所发射的电磁光谱的一部分可控制的光源,或是可操作其部件的物理性质、发射强度或发射持续时间或以上所有的光源。发射器可发射任何抖动的、漫射的或准直的发射中的光,并且可通过数字方式或通过模拟方法或系统来进行控制。如本文所用,电磁发射器是电磁能量爆发源,并且其包括光源,诸如激光、LED、白炽光、或可进行数字控制的任何光源。
图像传感器的像素阵列122可与发射器102以电子方式配对,使得发射器102和像素阵列122在操作期间同步,以用于接收发射和用于系统内所进行的调节两者。发射器102可被调谐成发射激光形式的电磁辐射,该电磁辐射可被脉冲以照明缺光环境112。发射器102可以对应于像素阵列122的操作和功能的间隔脉冲。发射器102可脉冲多个电磁分区中的光,使得像素阵列接收电磁能量并产生与每个特定电磁分区在时间上对应的数据集。例如,图1示出了一个具体实施,其中发射器102发射电磁辐射的四个不同分区,包括红色104波长、绿色106波长、蓝色108波长和特殊110发射。特殊110发射可包括用于使试剂发荧光的激发波长、电磁辐射的超光谱分区和/或激光标测图案。特殊110发射可包括彼此分开且彼此独立的多个单独发射。特殊110发射可包括用于使试剂发荧光的激发波长和激光标测图案的组合,其中发射彼此分开且彼此独立。可一前一后地分析由单独发射产生的数据,以基于荧光成像数据来识别场景内的关键结构,并且还基于激光标测数据与荧光成像数据的组合来识别关键结构的尺寸或定位。特殊110发射可包括超光谱带的电磁辐射和激光标测图案的组合,其中发射彼此分开且彼此独立。可一前一后地分析由单独发射产生的数据,以基于超光谱成像数据来识别场景内的关键结构,并且还基于激光标测数据与超光谱成像数据的组合来识别关键结构的尺寸或定位。在一个实施方案中,特殊110发射包括发射的任何期望的组合,发射可与由脉冲红色104发射、脉冲绿色106发射和脉冲蓝色108发射所得的数据组合。特殊110发射可分散在脉冲图案内,使得不同类型的特殊110发射的脉冲不如脉冲红色104发射、脉冲绿色106发射和脉冲蓝色108发射的脉冲频繁。
在图1中未示出的另选实施方案中,光的脉冲发射包括亮度(“Y”)发射、红色色度(“Cr”)发射和蓝色色度(“Cb”)发射,而不是脉冲红色104发射、脉冲绿色106发射和脉冲蓝色108发射。在一个实施方案中,控制器或发射器102根据颜色变换系数来调制电磁辐射脉冲以提供亮度和/或色度信息,该颜色变换系数将光能从红色光能空间、绿色光能空间和蓝色光能空间转换到亮度光能空间、红色色度光能空间和蓝色色度光能空间。光的脉冲发射还可包括调制的蓝色色度(“Y+Cb”)脉冲和/或调制的红色色度(“Y+Cr”)脉冲。
缺光环境112包括反射红色114光、绿色116光和/或蓝色118光的组合的结构、组织和其它元件。被感知为红色114的结构将反射脉冲红色104光。来自红色结构的反射导致在脉冲红色104发射之后,像素阵列122感测到红色105。由像素阵列122感测到的数据产生红色曝光帧。被感知为绿色116的结构将反射脉冲绿色106光。来自绿色结构的反射导致在脉冲绿色106发射之后,像素阵列122感测到绿色107。由像素阵列122感测到的数据产生绿色曝光帧。被感知为蓝色118的结构将反射脉冲蓝色108光。来自蓝色结构的反射导致在脉冲蓝色108发射之后,像素阵列122感测到蓝色109。由像素阵列122感测到的数据产生蓝色曝光帧。
当结构为颜色的组合时,结构将反射脉冲红色104发射、脉冲绿色106发射和/或脉冲蓝色108发射的组合。例如,被感知为紫色的结构将反射来自脉冲红色104发射和脉冲蓝色108发射的光。由像素阵列122感测到的所得数据将指示光在脉冲红色104发射和脉冲蓝色108发射之后的相同区域中被反射。当所得红色曝光帧和蓝色曝光帧组合形成RGB图像帧时,RGB图像帧将指示结构是紫色的。
在其中缺光环境112包括荧光试剂或荧光染料或者包括一个或多个荧光结构、组织或其它元件的实施方案中,脉冲方案可包括某些荧光激发波长的发射。可选择某些荧光激发波长以使已知的荧光试剂、荧光染料或其它结构发荧光。荧光结构将对荧光激发波长敏感并且将发射荧光弛豫波长。在发射荧光激发波长之后,荧光弛豫波长将由像素阵列122感测到。由像素阵列122感测到的数据产生荧光曝光帧。荧光曝光帧可与多个其它曝光帧组合以形成图像帧。荧光曝光帧中的数据可叠层在包括来自红色曝光帧、绿色曝光帧和蓝色曝光帧的数据的RGB图像帧上。
在其中缺光环境112包括对电磁波谱的某些分区发出光谱响应的结构、组织或其它材料的实施方案中,脉冲方案可包括电磁辐射的超光谱分区的发射,以便引出来自缺光环境112中存在的结构、组织或其它材料的光谱响应。光谱响应包括某些波长的电磁辐射的发射或反射。光谱响应可由像素阵列122感测并产生超光谱曝光帧。超光谱曝光帧可与多个其它曝光帧组合以形成图像帧。超光谱曝光帧中的数据可叠层在包括来自红色曝光帧、绿色曝光帧和蓝色曝光帧的数据的RGB图像帧上。
在一个实施方案中,脉冲方案包括发射激光标测或工具跟踪图案。像素阵列122在激光标测或工具跟踪图案的发射之后感测到的经反射的电磁辐射产生激光标测曝光帧。激光标测曝光帧中的数据可被提供给对应的系统以识别例如缺光环境112中存在的工具之间的距离、缺光环境112中的场景的三维表面形貌、场景内的结构或对象的距离、尺寸或位置等。该数据可叠层在RGB图像帧上或以其它方式提供给系统的用户。
发射器102可以是能够发射脉冲红色104光的激光发射器,以用于生成感测到的红色105数据,从而识别缺光环境112内的红色114元件。发射器102还能够发射脉冲绿色106光,以用于生成感测到的绿色107数据,从而识别缺光环境内的绿色116元件。发射器102还能够发射脉冲蓝色108光,以用于生成感测到的蓝色109数据,从而识别缺光环境内的蓝色118元件。发射器102还能够发射特殊110发射,以用于标测缺光环境112内的场景的形貌120。发射器102能够以任何期望的顺序来发射脉冲红色104发射、脉冲绿色106发射、脉冲蓝色108发射和脉冲特殊110发射。
像素阵列122感测反射电磁辐射。感测到的红色105数据、感测到的绿色107数据、感测到的蓝色109数据和感测到的特殊111数据中的每一者可被称为“曝光帧”。感测到的特殊111可产生彼此分开且彼此独立的多个单独曝光帧。例如,感测到的特殊111可产生荧光曝光帧、超光谱曝光帧和/或包括激光标测数据的激光标测曝光帧。为每个曝光帧分配特定颜色分区或波长分区,其中分配基于来自发射器102的脉冲颜色或波长分区的定时。曝光帧与所分配的特定颜色或波长分区的组合可被称为数据集。即使像素122不是颜色专用的,也可基于关于发射器的先验信息为任何给定数据集分配颜色。
例如,在操作期间,在脉冲红色104光在缺光环境112中被脉冲后,像素阵列122感测反射电磁辐射。反射电磁辐射产生曝光帧,并且该曝光帧被归类为感测到的红色105数据,因为它在时间上与脉冲红色104光对应。曝光帧与其在时间上与脉冲红色104光对应的指示的组合是“数据集”。针对由发射器102发射的电磁辐射的每个分区重复该过程。像素阵列122形成的数据包括感测到的红色105曝光帧,其用于识别缺光环境中的红色114分量并且在时间上与脉冲红色104光对应。该数据还包括感测到的绿色107曝光帧,其用于识别缺光环境中的绿色116分量并且在时间上与脉冲绿色106光对应。该数据还包括感测到的蓝色109曝光帧,其用于识别缺光环境中的蓝色118分量并且在时间上与脉冲蓝色108光对应。该数据还包括感测到的特殊111曝光帧,其用于识别形貌120并且在时间上与特殊110发射对应。
在一个实施方案中,将代表RED电磁脉冲、GREEN电磁脉冲和BLUE电磁脉冲的三个数据集组合以形成单个图像帧。因此,将红色曝光帧、绿色曝光帧和蓝色曝光帧中的信息组合以形成单个RGB图像帧。表示其它波长分区的一个或多个附加数据集可叠层在单个RGB图像帧上。一个或多个附加数据集可表示例如激光标测数据、荧光成像数据和/或超光谱成像数据。
应当理解,在不脱离本公开的范围的情况下,本公开不限于任何特定的颜色组合或任何特定的电磁分区,并且任何颜色组合或任何电磁分区均可用于代替RED、GREEN和BLUE,诸如青色、洋红色和黄色;紫外线;红外线;前述的任何组合或任何其它颜色组合,包括所有可见波长和不可见波长。在图中,待成像的缺光环境112包括红色114部分、绿色116部分和蓝色118部分,并且还包括可被感测并标测到三维渲染中的形貌120。如图所示,来自电磁脉冲的反射光仅包含对象的具有对应于脉冲颜色分区的特定颜色的部分的数据。这些单独的颜色(或颜色间隔)数据集可随后用于通过在126处组合数据集来重建图像。多个曝光帧(即,多个数据集)中的每一者中的信息可由控制器124、控制单元、相机控制单元、图像传感器、图像信号处理流水线或能够被配置为能够在126处处理多个曝光帧并组合数据集的一些其它计算资源组合。数据集可被组合以在内窥镜单元自身内或由一些其它处理资源在异地生成单个图像帧。
图2是用于向缺光环境提供照明诸如以进行内窥镜成像的系统200。系统200可与本文所公开的系统、方法或装置中的任一者结合使用。系统200包括发射器202、控制器204、跳线波导206、波导连接器208、内腔波导210、内腔212和具有附带的光学部件(诸如透镜)的图像传感器214。发射器202(通常可被称为“光源”)生成行进穿过跳线波导206和内腔波导210的光,以照明内腔212的远侧端部处的场景。发射器202可用于发射任何波长的电磁能量,包括可见波长、红外波长、紫外波长、超光谱波长、荧光激励波长或其它波长。可将内腔212插入患者体内以进行成像,诸如在手术或检查期间。如虚线216所示输出光。可使用图像传感器214捕获由光照明的场景并且向医生或一些其他医学人员显示该场景。控制器204可向发射器202提供控制信号以控制何时向一个场景提供照明。在一个实施方案中,发射器202和控制器204位于内窥镜所连接的相机控制单元(CCU)或外部控制台内。如果图像传感器214包括CMOS传感器,则可在所谓的消隐期间以图像传感器214的读出周期之间的一系列照明脉冲周期性地向场景提供光。因此,光可以受控方式被脉冲,以避免重叠到图像传感器214的像素阵列中的图像像素的读出周期中。
在一个实施方案中,内腔波导210包括一根或多根光纤。考虑到内腔波导210和/或内窥镜的其它部分的弃置,这些光纤可由低成本材料(诸如塑料)制成。在一个实施方案中,内腔波导210是直径为500微米的单根玻璃纤维。跳线波导206可永久性地附接到发射器202。例如,跳线波导206可从发射器202内的发射器接收光,并且在连接器208的位置处向内腔波导210提供光。在一个实施方案中,跳线波导106包括一根或多根玻璃光纤。跳线波导可包括用于将光引导至内腔波导210的任何其它类型的波导。连接器208可将跳线波导206选择性地耦合到内腔波导210,并且允许跳线波导206内的光传递到内腔波导210。在一个实施方案中,内腔波导210直接被耦合到光源,而无需任何居间跳线波导206。
图像传感器214包括像素阵列。在一个实施方案中,图像传感器214包括用于生成三维图像的两个或更多个像素阵列。图像传感器214可构成两个以上的图像传感器,每个图像传感器具有独立的像素阵列并且可彼此独立地操作。图像传感器214的像素阵列包括有效像素和光学黑色(“OB”)像素或光学盲像素。有效像素可以是能够针对任何波长的电磁辐射感测成像数据的透明的“颜色不定”像素。当“重置”或校准像素阵列时,在像素阵列的消隐周期期间读取光学黑色像素。在一个实施方案中,当读取光学黑色像素时,光在像素阵列的消隐周期期间脉冲。在读取了光学黑色像素之后,在像素阵列的读出周期期间读取有效像素。有效像素可由在消隐周期期间脉冲的电磁辐射充电,使得有效像素准备好在像素阵列的读出周期期间由图像传感器读取。
图2A是互补系统硬件诸如专用或通用计算机的示意图。处于本公开的范围内的具体实施也可包括用于承载或存储计算机可执行指令和/或数据结构的物理介质及其它非暂态计算机可读介质。此类计算机可读介质可为可通过通用或专用计算机系统访问的任何可用介质。存储计算机可执行指令的计算机可读介质为计算机存储介质(装置)。承载计算机可执行指令的计算机可读介质为传输介质。因此,以举例而非限制性的方式,本公开的具体实施可包括至少两种明显不同种类的计算机可读介质:计算机存储介质(装置)和传输介质。
计算机存储介质(装置)包括RAM、ROM、EEPROM、CD-ROM、固态硬盘(“SSD”)(例如,基于RAM)、闪存存储器、相变存储器(“PCM”)、其它类型的存储器、其它光盘存储器、磁盘存储器或其它磁存储器装置、或任何其它可用于存储所需的呈计算机可执行指令或数据结构的形式的程序代码工具并可通过通用或专用计算机来访问的介质。
“网络”是指一个或多个数据链路,其能够使电子数据在计算机系统和/或模块和/或其它电子装置之间进行传输。在一个具体实施中,传感器与相机控制单元可网络化,以便彼此通信,以及与通过它们所连接网络进行连接的其它部件进行通信。当信息通过网络或另外的通信连接(硬连接、无线或者硬连接或无线的组合)传送或提供至计算机时,计算机合理地将该连接视作传输介质。传输介质可包括网络和/或数据链路,该网络和/或数据链路可用于承载期望的呈计算机可执行指令或数据结构的形式的程序代码工具并可通过通用或专用计算机来访问。上述组合也应涵盖在计算机可读介质的范围内。
另外,在到达各种计算机系统部件时,呈计算机可执行指令或数据结构的形式的程序代码工具,其可由传输介质自动传送至计算机存储介质(装置)(反之亦然)。例如,通过网络或数据链路接收的计算机可执行指令或数据结构可缓存于网络接口模块(例如,“NIC”)内的RAM中,然后最终传送至计算机系统RAM和/或计算机系统的非易失性计算机存储介质(装置)中。RAM还可包括固态硬盘(SSD或基于PCIx的实时存储器分层存储装置,诸如FusionIO)。因此,应当理解,计算机存储介质(装置)可包括在计算机系统部件中,该计算机系统部件还(或甚至主要)利用了传输介质。
计算机可执行指令包括例如在由一个或多个处理器执行时致使通用计算机、专用计算机或专用处理装置执行某些功能或功能群的指令和数据。计算机可执行指令可为(例如)二进制、中间格式指令(诸如汇编语言)、或者甚至为源代码。尽管在语言上针对结构特征和/或方法步骤阐述了本发明的主题,然而应当理解,随附权利要求书中所限定的主题未必仅限于上文所述的特征或步骤。更确切地说,上文所述的特征和步骤是作为实施权利要求书的例子形式而公开的。
本领域的技术人员应当理解,本公开可在网络计算环境中实现,该网络计算环境具有多种类型的计算机系统配置,包括个人电脑、台式计算机、笔记本电脑、信息处理器、控制单元、相机控制单元、手持设备、手持件、多处理器系统、基于微处理器的或可编程的电子消费品、网络PC、小型计算机、大型计算机、移动电话、PDA、平板电脑、传呼机、路由器、交换机、各种存储设备等等。应当指出的是,任意上述计算设备都可由实体机构提供或位于实体机构内。本公开也可在分布式系统环境中实现,其中本地和远程计算机系统通过网络连接起来(通过硬连接数据链路、无线数据链路或硬连接数据链路与无线数据链路的组合),两者均可执行任务。在分布式系统环境中,程序模块可位于本地和远程存储器存储装置二者中。
另外,在适当的情况下,本文所述的功能可通过硬件、软件、固件、数字部件或模拟部件中的一种或多种来执行。例如,可对一种或多种专用集成电路(ASIC)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。在整个下面的描述和权利要求中所用的某些术语是指特定的系统部件。本领域的技术人员应当理解,部件可具有不同的名称。本文并非旨在在名称上而非功能上不同的部件之间进行辨别。
图2A是示出了示例性计算装置250的框图。计算装置250可用于执行各种程序,诸如本文所讨论的那些程序。计算装置250可用作服务器、客户端或任何其他计算实体。计算装置250可执行本文所讨论的各种监测功能,并且可执行一种或多种应用程序,诸如本文所述的应用程序。计算装置250可以为各种计算装置中的任何一种,诸如台式计算机、笔记本电脑、服务器电脑、掌上电脑、相机控制单元、平板电脑,等等。
计算装置250包括一个或多个处理器252、一个或多个存储器装置254、一个或多个接口256、一个或多个大容量存储装置258、一个或多个输入/输出(I/O)装置260和显示装置280,所有这些均耦合到总线262。处理器252包括一个或多个处理器或控制器,其执行存储在存储器装置254和/或大容量存储装置258中的指令。处理器252还可以包括各种类型的计算机可读介质,诸如高速缓存存储器。
存储器装置254包括各种计算机可读介质,诸如易失性存储器(例如,随机存取存储器(RAM)264)和/或非易失性存储器(例如,只读存储器(ROM)266)。存储器装置254还可包括可重写ROM,诸如闪存存储器。
大容量存储装置258包括各种计算机可读介质,诸如磁带、磁盘、光盘、固态存储器(例如,闪存存储器)等。如图2中所示,特定的大容量存储装置为硬盘驱动器274。各种驱动器也可包括在大容量存储装置258中以能够从各种计算机可读介质中进行读取和/或写入其中。大容量存储装置258包括可移动介质276和/或不可移动介质。
I/O装置260包括允许向计算装置250输入或从计算装置检索数据和/或信息的各种装置。示例性I/O装置260包括数字成像装置、电磁传感器和发射器、光标控制装置、键盘、小键盘、麦克风、监测器或其他显示装置、扬声器、打印机、网络接口卡、调制解调器、透镜、CCD或其他图像捕获装置,等等。
显示装置280包括能够向计算装置250的一个或多个用户显示信息的任何类型的装置。显示装置280的示例包括监测器、显示终端、视频投影装置,等等。
接口256包括允许计算装置250与其他系统、装置或计算环境进行交互的各种接口。示例性接口256可包括任何数量的不同网络接口270,诸如连接局域网(LAN)、广域网(WAN)、无线网和互联网的接口。其他接口包括用户接口268和外围装置接口272。接口256还可包括一个或多个用户接口元件268。接口256还可包括一个或多个外围接口,诸如用于打印机、指示装置(鼠标、触控板等)、键盘等的接口。
总线262允许处理器252、存储器装置254、接口256、大容量存储装置258和I/O装置260彼此通信,并且与耦合到总线262的其他装置或部件通信。总线262表示若干类型的总线结构(诸如系统总线、PCI总线、IEEE 1394总线、USB总线等等)中的一种或多种。
出于示例性目的,本文所示的程序和其它可执行程序器件为分立块体,但应当理解,此类程序和器件可驻留在计算装置250的不同存储器件中的各个时间,并由处理器252执行。或者,本文所述的系统和程序可通过硬件来实现,或通过硬件、软件和/或固件的组合来实现。例如,可对一种或多种专用集成电路(ASIC)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。
图3A示出了在滚动读出模式或在传感器读出300期间使用的传感器的操作循环。帧读出可在竖直线310处开始并且可由该竖直线表示。读出周期由对角线或斜线302表示。图像传感器的像素阵列的有效像素可逐行读出,向下倾斜边缘的顶部为传感器顶行312,向下倾斜边缘的底部为传感器底行314。在最后一行读出和下一读出循环之间的时间可被称为消隐周期316。应当指出,传感器像素行中的一些可覆盖有光屏蔽件(例如,金属涂层或另一种材料类型的任何其它大体上黑色的层)。这些被覆盖的像素行可被称为光学黑色行318和320。光学黑色行318和320可用作校正算法的输入。如图3A所示,这些光学黑色行318和320可位于像素阵列的顶部上或像素阵列的底部或像素阵列的顶部和底部。
图3B示出了控制曝光至像素从而被像素集成或聚积的电磁辐射(例如,光)的量的方法。应当理解,光子是电磁辐射的基本粒子。光子被每个像素集成、吸收或累积并转换为电荷或电流。电子快门或卷帘式快门(点划线322所示)可用于通过复位像素来开始集成时间。然后光将集成直到下一读出阶段为止。电子快门322的位置可在两个读出循环302之间移动,以便控制给定量的光的像素饱和度。应当指出,该技术允许在两个不同行之间的集成时间恒定,但在从顶行移动到底行时引入延迟。
图3C示出了电子快门322已被移除的情况。在该配置中,入射光的集成可在读出302期间开始,并且可在下一读出循环302处结束,该下一读出循环也限定下一集成的开始。
图3D示出了没有电子快门322但在消隐周期316期间具有受控和脉冲光330的配置。这确保所有行看到的光与从相同光脉冲330发出的光相同。换句话讲,每行将在黑暗环境中开始其集成,这可位于读出帧(m)的光学黑色后行320以获得最大的光脉冲宽度,并且然后将接收光通并且将在黑暗环境中结束其集成,这可位于下一后续读出帧(m+1)的光学黑色前行318以获得最大的光脉冲宽度。在例如图3D中,由光脉冲生成的图像将仅在帧(m+1)读出期间可用,而不会干扰帧(m)和帧(m+2)。应当指出,使光脉冲仅在一个帧中读出并且不干扰相邻帧的条件是在消隐周期316期间击发给定的光脉冲。因为光学黑色行318、320对光不敏感,所以可将帧(m)的光学黑色后行320时间和帧(m+1)的光学黑色前行318时间添加至消隐周期316,以确定光脉冲330的击发时间的最大范围。
如图3A所示,传感器可循环多次以接收每种脉冲颜色或波长(例如,电磁光谱上的红色、绿色、蓝色或其它波长)的数据。每个循环可以是定时的。在一个实施方案中,循环可定时以在16.67ms的间隔内操作。在另一个实施方案中,循环可定时以在8.3ms的间隔内操作。应当理解,本公开设想了其它的定时间隔,并且旨在落入本公开的范围内。
图4A以图形方式示出了电磁发射器的实施方案的操作。发射器可定时以对应于传感器的循环,使得电磁辐射在传感器操作循环内和/或传感器操作循环的一部分期间发射。图4A示出了402处的脉冲1、404处的脉冲2和406处的脉冲3。在一个实施方案中,发射器可在传感器操作循环的读出周期302期间脉冲。在一个实施方案中,发射器可在传感器操作循环的消隐部分316期间脉冲。在一个实施方案中,发射器可脉冲持续时间,该持续时间在两个或更多个传感器操作循环的部分期间。在一个实施方案中,发射器可在消隐部分316期间或在读出周期302的光学黑色部分320期间开始脉冲,并且在读出周期302期间或下一后续循环的读出周期302的光学黑色部分318期间结束脉冲。应当理解,只要发射器的脉冲和传感器的循环相对应,上述的任何组合旨在落入本公开的范围内。
图4B以图形方式表示改变发射的电磁脉冲(例如,在412处的脉冲1、在414处的脉冲2、在416处的脉冲3)的持续时间和量值以控制曝光。具有固定输出量值的发射器可在上文结合图3D和图4A所述的任何循环期间脉冲一定间隔,以向像素阵列提供所需的电磁能量。具有固定输出量值的发射器可在较长的时间间隔内脉冲,从而为像素提供更多的电磁能量,或者发射器可在较短的时间间隔脉冲,从而提供较少的电磁能量。是否需要较长或较短的时间间隔取决于操作条件。
与调节发射器脉冲固定输出量值的时间间隔相比,可增大发射量值本身以便向像素提供更多的电磁能量。类似地,减小脉冲的量值可为像素提供较少的电磁能量。应当指出,如果需要的话,系统的实施方案可具有同时调节量值和持续时间的能力。另外,可调节传感器以根据最佳图像质量的需要来增加其灵敏度和持续时间。图4B示出了改变脉冲的量值和持续时间。在图示中,412处的脉冲1具有比414处的脉冲2或416处的脉冲3更高的量值或强度。另外,412处的脉冲1具有比414处的脉冲2或416处的脉冲3更短的持续时间,使得由该脉冲提供的电磁能量由图示中所示脉冲下的面积示出。在图示中,当与412处的脉冲1或416处的脉冲3相比时,414处的脉冲2具有相对较低的量值或强度和较长的持续时间。最后,在图示中,当与412处的脉冲1和414处的脉冲2相比时,416处的脉冲3具有中间量值或强度和持续时间。
图5是根据本公开的原理和教导内容的组合图3A至图3D以及图4的操作循环、电磁发射器和发射电磁脉冲以在操作期间显示成像系统的本公开的实施方案的图形表示。如在图中可见,电磁发射器主要在图像传感器的消隐周期316期间脉冲发射,使得像素将被充电并且准备好在图像传感器循环的读出周期302期间被读取。图5中的点划线表示电磁辐射脉冲(来自图4A)。电磁辐射脉冲主要在图像传感器的消隐周期316期间发射,但可与图像传感器的读出周期302叠层。
曝光帧包括在读出周期302期间由图像传感器的像素阵列读取的数据。曝光帧可与在读出周期302之前由发射器发射何种类型的脉冲的指示相组合。曝光帧与脉冲类型的指示的组合可被称为数据集。可组合多个曝光帧以生成黑白或RGB彩色图像。另外,超光谱成像数据、荧光成像数据和/或激光标测成像数据可叠层在黑白或RGB图像上。
在一个实施方案中,RGB图像帧基于三个曝光帧生成,包括由图像传感器在红色发射之后生成的红色曝光帧、由图像传感器在绿色发射之后生成的绿色曝光帧以及由图像传感器在蓝色发射之后生成的蓝色曝光帧。荧光成像数据可叠层在RGB图像帧上。荧光成像数据可提取自一个或多个荧光曝光帧。荧光曝光帧包括在发射用于激发荧光试剂的激发波长的电磁辐射之后的读出周期302期间由图像传感器生成的数据。在激发荧光试剂之后由像素阵列感测到的数据可为由荧光试剂发射的弛豫波长。荧光曝光帧可包括多个荧光曝光帧,每个荧光曝光帧在不同类型的荧光激发发射之后由图像传感器生成。在一个实施方案中,荧光曝光帧包括多个荧光曝光帧,包括在发射具有约770nm至约790nm的波长的电磁辐射之后由图像传感器生成的第一荧光曝光帧,以及在发射具有约795nm至约815nm的波长的电磁辐射之后由图像传感器生成的第二荧光曝光帧。荧光曝光帧可包括由图像传感器基于成像应用根据需要在光的其它荧光激发发射之后生成的另外的附加荧光曝光帧。
在一个实施方案中,曝光帧是在消隐周期316之后发生的读出周期302期间由像素阵列感测到的数据。电磁辐射的发射在消隐周期316期间发射。在一个实施方案中,电磁辐射的发射的一部分与读出周期316叠层。消隐周期316在像素阵列的光学黑色像素被读取时发生,并且读出周期302在像素阵列的有效像素被读取时发生。消隐周期316可与读出周期302叠层。
图6A和图6B示出了用于记录图像帧的过程。可将多个图像帧串在一起以生成视频流。单个图像帧可包括来自多个曝光帧的数据,其中曝光帧是在发射电磁辐射之后由像素阵列感测到的数据。图6A示出了通常用彩色图像传感器实现的常规过程,该彩色图像传感器具有颜色滤光器阵列(CFA)以用于每个像素滤除某些波长的光。图6B是本文所公开的过程,并且可利用能够接收所有波长的电磁辐射的单色“颜色不定”图像传感器来实现。
图6A所示的过程从时间t(0)到时间t(1)发生。该过程首先发射白光602并感测白光604。在606处,基于在604处的感测来处理并显示图像。
图6B所示的过程从时间t(0)到时间t(1)发生。该过程首先发射绿光612并在发射绿光612之后感测反射电磁辐射614。该过程继续发射红光616并在发射红光616之后感测反射电磁辐射618。该过程继续发射蓝光620并在发射蓝光620之后感测反射电磁辐射622。该过程继续进行特殊624发射的一个或多个发射并在特殊624发射的一个或多个发射中的每一个发射之后感测反射电磁能量626。特殊发射可包括一个或多个单独的发射,诸如荧光试剂的激发波长、超光谱发射和/或激光标测发射。单独的多个特殊发射中的每一个发射可由图像传感器独立地感测,以生成单独且独立的曝光帧。在628处,基于感测到的反射电磁能量例图614、618、622和626中的每一者来处理并显示图像。
图6B所示的过程提供较高分辨率图像并提供用于还包括特殊数据的生成RGB图像的方式。当使用分区光谱光时(如图6B所示),可使传感器对所有波长的电磁能量敏感。在图6B所示的过程中,指示单色像素阵列在每个循环中感测来自全光谱电磁能量的预定分区的电磁能量。因此,为了形成图像,传感器只需要循环全光谱光内的多个不同分区。基于多个循环来组合最终图像。因为来自每个颜色分区帧循环的图像具有更高分辨率(与CFA像素阵列相比),所以当分区光帧被组合时所形成的所得图像也具有更高分辨率。换句话讲,因为阵列内的每个像素(而不是至多,具有CFA的传感器中的每隔一个像素)正感测给定脉冲和给定场景的能量量值,所以仅相隔一段时间,针对每个场景形成较高分辨率图像。
如在图6A和图6B中所示的实施方案中在时间t(0)和t(1)之间可图形方式看出,用于图6B中的分区光谱系统的传感器对图6A中的全光谱系统中的每个系统循环至少四次。在一个实施方案中,显示装置(LCD面板)以每秒50帧至60帧的速度操作。在此类实施方案中,图6B中的分区光系统可以200帧/秒至240帧/秒的速率操作,以保持所显示视频的连续性和平滑性。在其它实施方案中,可存在不同的捕获和显示帧速率。此外,平均捕获速率可以是显示速率的任何倍数。
在一个实施方案中,可能期望并非所有分区在系统帧速率内均相等地表示。换句话讲,并非所有光源都必须以相同的规律性脉冲,以便根据用户的需要来强调和取消强调所记录场景的各个方面。还应当理解,电磁频谱的不可见分区和可见分区可在系统内脉冲到一起,其中它们的相应数据值被接合(stitch)到视频输出中,以用于向用户显示。
一个示例性实施方案可包括如下脉冲循环图案:
i.绿色脉冲;
ii.红色脉冲;
iii.蓝色脉冲;
iv.绿色脉冲;
v.红色脉冲;
vi.蓝色脉冲;
vii.激光标测脉冲方案;
viii.荧光激发脉冲;
ix.超光谱脉冲;
x.(重复)
另一个示例性实施方案可包括如下脉冲循环图案:
i.绿色脉冲;
ii.红色脉冲;
iii.蓝色脉冲;
iv.荧光激发脉冲;
v.超光谱脉冲;
vi.绿色脉冲;
vii.红色脉冲;
viii.蓝色脉冲;
ix.荧光激发脉冲;
x.超光谱脉冲;
xi.激光标测脉冲方案;
xii.(重复)
实施方案可包括如下脉冲循环图案:
i.亮度脉冲;
ii.红色色度脉冲;
iii.亮度脉冲;
iv.蓝色色度脉冲;
v.超光谱脉冲;
vi.荧光激发脉冲;
vii.激光标测脉冲;
viii.(重复)
实施方案可包括如下脉冲循环图案:
i.亮度脉冲;
ii.红色色度脉冲;
iii.亮度脉冲;
iv.蓝色色度脉冲;
v.亮度脉冲;
vi.红色色度脉冲;
vii.亮度脉冲;
viii.蓝色色度脉冲;
ix.超光谱脉冲;
x.荧光激发脉冲;
xi.激光标测脉冲;
xii.(重复)
可改变脉冲图案以适应特定具体实施的成像目标。一个示例性成像目标是获得超光谱成像数据和荧光成像数据,并且还获得基于对超光谱成像数据和/或荧光成像数据的分析的激光标测数据和/或工具跟踪数据。在此类示例中,可针对场景的已被超光谱成像数据和/或荧光成像数据突出显示的某些区域来分析激光标测数据和/或工具跟踪数据。另一个示例性成像目标是获得超光谱成像数据或荧光成像数据,并且还获得激光标测数据和/或工具跟踪数据。另一个示例性成像目标是获得激光标测数据和/或工具跟踪数据。另一个示例性成像目标是获得超光谱成像数据。另一个示例性成像目标是获得荧光成像数据。应当理解,成像目标可以是专门的,具体取决于部署成像系统的原因。另外,成像目标可在单个成像会话期间改变,并且可改变脉冲图案以匹配变化的成像目标。
如在该示例中可见,激光标测分区可以与其它分区脉冲的速率不同的速率脉冲。这样做可强调场景的某个方面,其中激光标测数据仅与视频输出中的其它数据叠层以做出希望的强调。应当指出,在红色分区、绿色分区和蓝色分区的顶部上方添加激光标测分区并不一定要求序列化的系统以全光谱非串行系统的速率的四倍操作,因为每个分区不必在脉冲图案中相等地表示。如在该实施方案中所见,添加在脉冲图案(上述示例中的激光标测)中表示较少的分区脉冲将导致小于传感器的循环速度的20%的增加,以适应不规则的分区取样。
在各种实施方案中,脉冲循环图案还可以任何合适的顺序包括以下波长中的任一个波长。此类波长可特别适用于通过基于荧光试剂弛豫发射感测荧光试剂的弛豫发射来激发荧光试剂以产生荧光成像数据:
i.770±20nm;
ii.770±10nm;
iii.770±5nm;
iv.790±20nm;
v.790±10nm;
vi.790±5nm;
vii.795±20nm;
viii.795±10nm;
ix.795±5nm;
x.815±20nm;
xi.815±10nm;
xii.815±5nm;
xiii.770nm至790nm;和/或
xiv.795nm至815nm。
在各种实施方案中,脉冲循环还可以任何合适的顺序包括以下波长中的任一个波长。此类波长可特别适用于生成超光谱成像数据:
i.513nm至545nm;
ii.565nm至585nm;
iii.900nm至1000nm;
iv.513±5nm;
v.513±10nm;
vi.513±20nm;
vii.513±30nm;
viii.513±35nm;
ix.545±5nm;
x.545±10nm;
xi.545±20nm;
xii.545±30nm;
xiii.545±35nm;
xiv.565±5nm;
xv.565±10nm;
xvi.565±20nm;
xvii.565±30nm;
xviii.565±35nm;
xix.585±5nm;
xx.585±10nm;
xxi.585±20nm;
xxii.585±30nm;
xxiii.585±35nm;
xxiv.900±5nm;
xxv.900±10nm;
xxvi.900±20nm;
xxvii.900±30nm;
xxviii.900±35nm;
xxix.1000±5nm;
xxx.1000±10nm;
xxxi.1000±20nm;
xxxii.1000±30nm;或者
xxxiii.1000±35nm。
可将分区循环划分为适应或近似各种成像和视频标准。在一个实施方案中,分区循环可包括如下如图7A至图7D中最佳地示出的红色、绿色和蓝色光谱中的电磁能量的脉冲。在图7A中,已通过在由竖直灰色虚线所示的工作范围内调制光脉冲宽度或持续时间来实现不同的光强度。在图7B中,已通过调制光功率或电磁发射器(其可为激光器或LED发射器)的功率,但保持脉冲宽度或持续时间恒定来实现不同的光强度。图7C示出了光功率和光脉冲宽度均被调制从而得到更大灵活性的情况。分区循环可使用青色洋红色黄色(CMY)、红外线、紫外线、超光谱和荧光,其使用与可见脉冲源混合的不可见脉冲源以及产生图像所需的任何其它色彩空间或近似于当前已知或尚未开发的所需视频标准。还应当理解,系统能够在运行中的色彩空间之间切换以提供所需图像输出质量。
在使用色彩空间绿色-蓝色-绿色-红色(如图7D中所示)的实施方案中,可能期望比色度分量更频繁地脉冲亮度分量,因为用户通常对光量值差异比对光色差更敏感。可使用如图7D中所示的单色传感器来利用该原理。在图7D中,包含最多亮度信息的绿色可在(G-B-G-R-G-B-G-R……)方案中更频繁地脉冲或具有更大强度以获得亮度数据。此类配置将创建具有可察觉的更多细节的视频流,而不创建和传输不可察觉的数据。
在一个实施方案中,复制较弱分区的脉冲可用于产生已针对较弱脉冲进行调节的输出。例如,认为蓝色激光相对于硅基像素的灵敏度弱,并且与红光或绿光相比,蓝色激光难以产生,因此可在帧循环期间更频繁地脉冲以补偿光的弱性。这些附加脉冲可随时间推移连续地完成,或者通过使用多个激光器同时脉冲以产生所需补偿效果。应当注意,通过在消隐周期(在此期间传感器不读出像素阵列的时间)期间脉冲,传感器对同一种类的激光器之间的差异/失配不敏感,并且简单地聚积光以用于期望的输出。在另一个实施方案中,最大光脉冲范围可能从帧到帧是不同的。这在图7E中示出,其中光脉冲从帧到帧是不同的。传感器可被构建成能够以2帧或3帧或4帧或n帧的重复图案对不同消隐周期进行编程。
在图7E中,示出了四个不同的光脉冲,并且脉冲1可例如在脉冲4之后重复并且可具有不同消隐周期的四个帧的图案。该技术可用于将最大功率的分区放置于最小消隐周期上,并且因此允许最弱的分区在后续帧中的一帧上具有更宽的脉冲而无需增加读出速度。重建帧仍可具有帧到帧的规则图案,因为其由许多脉冲帧构成。
图8A和图8B示出了用于去除数字图像中散斑的系统800的实施方案。系统800是用于缺光环境的内窥镜成像系统,其中缺光环境用脉冲相干光源照明。系统800可以包括图2所示的系统200中的每个部件。应当理解,系统800可以还包括相对于图2所示的系统200的更少或附加部件。
系统800包括与控制器804通信的相干光源802。相干光源802通过将相干光源802连接到内窥镜810的光纤束808向内窥镜810提供光。然后可以通过内窥镜810透射光以照明由图像传感器812成像的场景。在图8A所示的具体实施中,图像传感器812位于内窥镜的远侧末端处,并且在图8B中示出的替代具体实施中,图像传感器812位于内窥镜810的近侧端部处。内窥镜810包括与图像传感器812和控制器804通信的成像单元814。成像单元814可被配置为能够对从图像传感器812接收的数据执行图像信号处理。系统800还包括用于显示由图像传感器812成像并由相干光源802照明的场景的显示器816。
系统800包括附接到光纤束808的振动机构806。振动机构806在沿着光纤束808的长度的某个位置附接在相干光源802与内窥镜810之间。振动机构806使得由相干光源802发射的相干光通过改变相干光路径的几何结构而暂时失去相干性。振动机构806将一系列变化引入相干光的路径几何结构。当路径几何结构以快速频率改变时,可观察到的散斑图案基本上减少或消除,使得散斑图案无法被观察显示器816的人员检测到。在实施方案中,去除可观察到的散斑的最小振荡频率为约20Hz。如果环境的图像用图像传感器812捕获,则该最小频率可以基于图像采集帧速率和显示帧速率而改变。
在实施方案中,成像单元814被配置为能够从曝光帧和/或图像帧去除散斑。成像单元814可定位于图像传感器812内。图像传感器812包括像素阵列,该像素阵列包括用于感测已由相干光源802发射的反射电磁辐射并且然后从场景内的表面反射的多个像素。图像传感器812根据如本文所讨论的脉冲调度来顺序生成曝光帧。
相干光源802发射电磁辐射脉冲以照明缺光环境。如本文所讨论的,相干光源802是发射器的实施方案,诸如图2所示的发射器202。相干光源802可以包括多个激光发射器,用于发射不同波长的电磁辐射的脉冲。相干光源802可以包括例如用于以下电磁辐射波长中的每一个的一个或多个激光发射器:红色可见光、绿色可见光、蓝色可见光、亮度分量、红色色度分量、蓝色色度分量、用于引发光谱响应的超光谱发射、用于试剂发荧光的荧光激发发射,和/或用于测量距离、尺寸和/或生成场景的三维形貌图的激光标测发射。
在一个实施方案中,超光谱发射包括具有约513-545nm、约565-585nm和/或约900-1000nm的波长的电磁辐射中的一种或多种。在此类实施方案中,相干光源802包括用于513-545nm分区的至少一个激光发射器、用于565-585分区的至少一个激光发射器,以及用于900-1000nm分区的至少一个激光发射器。应当理解,在不脱离本公开的范围的情况下,可发射用于引发光谱响应的附加的超光谱发射。
在一个实施方案中,荧光激发发射包括具有约460-470nm、529-537nm、633-643nm、775-785nm、800-810nm、970-980nm、575-579nm、519-527nm、770-790nm和/或795-815nm的波长的电磁辐射中的一种或多种。在此类实施方案中,相干光源802可包括用于前述电磁辐射的分区中的每一个分区的至少一个激光发射器。应当理解,在不脱离本公开的范围的情况下,可发射用于使试剂发荧光的附加的荧光激发发射。
相干光源802可以包括发射器,该发射器被配置为能够用于发射电磁辐射脉冲以照明缺光环境。在不脱离本公开的范围的情况下,相干光源802可以是可在手术设置中使用的已知的或未来可能变得已知的任何合适的相干光源。光纤束808可以连接到相干光源802和内窥镜装置810,如图8A和图8B所示。在不脱离本公开的范围的情况下,光纤束808可以是可在手术设置中使用的已知的或未来可能变得已知的任何合适的光纤束。
控制单元804可以包括用于向图像传感器812发送数据并从图像传感器812接收数据以创建场景的曝光帧的电路。在不脱离本公开的范围的情况下,控制单元804可以是可在手术设置中使用的已知的或未来可能变得已知的任何合适的控制单元。类似地,本公开的显示器816允许用户可视化手术部位,并且在不脱离本公开的范围的情况下,可以是可在手术设置中使用的已知的或未来可能变得已知的任何合适的显示器816。
应当理解,系统800的成像装置814可以与控制单元804电子通信。在具体实施中,成像传感器812可以是CMOS传感器。在具体实施中,成像传感器812可以是CCD传感器。
应当理解,可以使用基于激光的光源将以上公开内容应用于任何MIS或内窥镜可视化系统,包括常规可重复使用的系统、有限使用的系统或可重组的系统或单次使用系统。这也适用于可见光谱内或可见光谱外部的白色或彩色激光光源。
图9A至图9C和图10A至图10B示出了振动机构806的各种视图和实施方案。图9A至图9C示出了振动机构806的一个实施方案,而图10A至图10B示出了振动机构806的另一个实施方案。图9A是附接到套筒924的振动机构806的分解横截面侧视图,其中套筒924被构造成连接到光纤束808的区段。图9B是振动机构806的分解横截面侧视图,示出了振动机构806的壳体920可以如何附接到套筒924。图9C是附接到光纤束808的振动机构806的横截面侧视图。图10A是振动机构806的分解横截面侧视图,其中振动机构是振动装置922,该振动装置可以直接附接到与套筒924分开的光纤束808。图10B是附接到光纤束808的振动机构806的横截面侧视图。
图9A至图9C示出了振动机构806的实施方案,该振动机构包括用于包封振动装置922的壳体920。振动机构806的壳体920可以附接到套筒924a、924b(统称为套筒924)。套筒924可以包括第一套筒部分924a和第二套筒部分924b,其可以分别用于连接第一光纤部分808a和第二光纤部分808b。第一光纤部分808a和第二光纤部分808b在本文中可以统称为光纤束808。
图9A至图9B中示出了振动机构806未附接到光纤束808,并且示出了壳体920和套筒924可如何连接。图9B示出了包括虚线箭头的分解横截面侧视图,该虚线箭头指示壳体920中的凹口可如何与套筒924中的对应通道连接。应当理解,在替代实施方案中,壳体920可以包括通道,并且套筒924包括对应的凹口。图9C示出了附接到套筒924的振动机构806的壳体920的横截面视图,并且其中第一套筒部分924a和第二套筒部分924b已经连接以连接第一光纤部分808a和第二光纤部分808b。
套筒924可用于连接光纤电缆的两个单独部分。应当理解,在替代实施方案中,光纤束808是连续电缆并且不与套筒924连接。在此类实施方案中,光纤束808仍然可以由套筒924保护或包封。在一个实施方案中,光纤束808的整个长度由套筒924包封。
振动装置922设置在壳体920内。振动装置922振荡或摇动,使得整个振动机构806振荡或摇动,从而引起光纤束808的移动。当光纤束808在承载相干光的发射时振荡时,相干光将失去一些相干性。振动装置922可以是小机械马达、压电晶体、振荡器和/或谐振器部件中的一者或多者。振动装置922可以选自小机械马达、压电晶体、振荡器或谐振器部件。
振动机构806可以位于沿着光纤束808的任何位置。振动机构806使得从相干光源802发出的光由于光的路径的几何结构被改变而暂时失去相干性。当新的光路停止时,将出现新的散斑图案。将振动或振动刺激引入光纤束808引入路径几何结构的一系列变化。该一系列变化可以足够快速的频率执行,使得可观察到的散斑图案基本上减少或消除,使得人眼无法在视频输出到显示器816时检测散斑图案。
在一个实施方案中,振动机构806位于或放置在光纤束808的两个长度的接合点或连接点处,如图9A至图9C所示。在该实施方案中,振动装置922集成到壳体920中,该壳体联接光纤束808的两个长度,如图9C中最佳所示。在一个实施方案中,振动机构806沿着光纤束808的长度联接到单个位置,而不是多个位置。
在一个实施方案中,内窥镜成像系统还包括振动阻尼器,以使用户经历的振动最小化。振动阻尼器可以位于沿着光纤束808的任何位置,以减小振荡或振动的振幅,因此内窥镜系统800的用户不经历或接收振荡或振动。
图10A至图10B示出了振动机构806的实施方案,该振动机构不包括壳体(如图9A至图9C所示)并且替代地直接附接到光纤束。图10A示出了其中振动装置922未附接到光纤束808的分解横截面图,并且图10B示出了其中振动装置922附接到光纤束808的横截面视图。在该实施方案中,振动装置922直接附接到光纤束808,而没有中间连接器或部件。在此类实施方案中,振动装置922可以是小机械马达、压电晶体、振荡器和/或谐振器部件。振动装置922可以选自小机械马达、压电晶体、振荡器和谐振器部件。
图11为颜色融合硬件1100的示例。颜色融合硬件1100被部署用于根据如本文所讨论的脉冲照明方案生成图像帧。颜色融合过程比去马赛克更直接,去马赛克是具有颜色滤光器阵列的图像传感器所必需的,因为不存在空间插值。由颜色融合硬件1100执行的颜色融合过程不需要缓冲曝光帧以具有每个像素可用的所有必要信息。
存储器写入器1102接收视频数据流。在一个实施方案中,视频数据流包括Y-Cb-Y-Cr-Y-Cb-Y-特殊曝光帧。在另选的实施方案中,视频数据流包括R-G-B-G-特殊曝光帧。视频数据流可包括与超光谱曝光帧、荧光曝光帧和/或激光标测或工具跟踪曝光帧中的一者或多者组合的YCbCr或RGB曝光帧。
存储器写入器1102将视频数据流写入到存储器1104。视频数据流可以被解析成例如Cb+δΥ曝光帧、一个或多个亮度曝光帧、Cr+λΥ曝光帧、超光谱曝光帧、荧光曝光帧和/或激光标测曝光帧。另选地,视频数据流可以被解析成例如红色曝光帧、一个或多个绿色曝光帧、蓝色曝光帧、超光谱曝光帧、荧光曝光帧和/或激光标测曝光帧。不同的曝光帧由存储器读取器1106读取,并在1108处生成并行RGB视频数据流。脉冲发生器和帧同步1110向存储器写入器1104和存储器读取器1106发送信息以帮助融合多个曝光帧。信息由脉冲发生器和帧同步1110输出到光源。
图12是图案重建过程的示意图。图12所示的示例性图案包括光的各自持续T1的持续时间的红色脉冲、绿色脉冲、蓝色脉冲和特殊脉冲。在各种实施方案中,光脉冲可具有相同的持续时间或不同的持续时间。将红色曝光帧、绿色曝光帧、蓝色曝光帧和特殊曝光帧组合以生成其上叠层有特殊数据诸如超光谱、荧光和/或激光标测数据的RGB图像。需要4*T1的时间段以生成包括红色曝光帧、绿色曝光帧、蓝色曝光帧和特殊曝光帧的单个图像帧。
图12所示的持续时间仅为例示性的,并且可针对不同的具体实施而变化。例如,脉冲方案可以包括光的红色脉冲、绿色脉冲、蓝色脉冲、超光谱脉冲、激光标测脉冲。替代脉冲方案可以包括光的红色脉冲、绿色脉冲、蓝色脉冲、超光谱脉冲、荧光脉冲和激光标测脉冲。替代脉冲方案可以包括光的红色脉冲、绿色脉冲、蓝色脉冲和超光谱脉冲。替代脉冲方案可以包括光的红色脉冲、绿色脉冲、蓝色脉冲和荧光脉冲。替代脉冲方案可以包括光的红色脉冲、绿色脉冲、蓝色脉冲和激光标测脉冲。应当理解,脉冲顺序可以根据期望的具体实施而变化。例如,红色脉冲、绿色脉冲和蓝色脉冲可以比超光谱脉冲、荧光脉冲和激光标测脉冲中的任一者更频繁地脉冲。这可以根据专业成像数据相对于RGB颜色成像数据的重要性视情况而定地确定。
在其它实施方案中,可采用不同的脉冲方案。例如,实施方案可以基于每个颜色分量或帧(T1)的定时,并且重建帧具有的周期是输入彩色帧的周期的两倍(2×T1)。序列内的不同帧可具有不同帧周期,并且平均捕获速率可为最终帧速率的任何倍数。
在一个实施方案中,通过改变图像传感器的像素阵列内的像素的像素灵敏度来增加系统的动态范围。一些像素可感测第一灵敏度水平的经反射的电磁辐射,其它像素可感测第二灵敏度水平的经反射的电磁辐射等等。可将不同的像素灵敏度组合以增加由图像传感器的像素配置提供的动态范围。在一个实施方案中,相邻像素以不同的灵敏度设置,使得每个循环包括由相对于彼此更敏感和更不敏感的像素产生的数据。当在像素阵列的单个循环中记录多个灵敏度时,动态范围增加。在一个实施方案中,可通过具有多个全局TX来实现宽动态范围,每个TX仅在不同的像素组上击发。例如,在全局模式下,全局TX1信号正在击发像素组1,全局TX2信号正在激发像素组2,全局TXn信号正在激发像素组n等等。
图13A至图13C各自示出了具有多个发射器的光源1300。发射器包括第一发射器1302、第二反射器1304和第三发射器1306。可包括附加的发射器,如下文进一步讨论。发射器1302、1304和1306可包括发射具有不同波长的光的一个或多个激光发生器。例如,第一发射器1302可发射与蓝色激光一致的波长,第三发射器1304可发射与绿色激光一致的波长,并且第三发射器1306可发射与红色激光一致的波长。例如,第一发射器1302可包括一个或多个蓝色激光器,第二发射器1304可包括一个或多个绿色激光器,并且第三发射器1306可包括一个或多个红色激光器。激光器1302、1304、1306朝收集区域1308发射激光束,该收集区域可以是波导、透镜或用于收集光和/或向波导(诸如图2的跳线波导206或内腔波导210)提供光的其他光学部件的位置。
在一个具体实施中,发射器1302、1304和1306发射超光谱波长的电磁辐射。某些超光谱波长可穿透组织并且使执业医生能够“透视”前景中的组织,以识别位于前景中的组织的后面的化学过程、结构、化合物、生物过程等。可专门选择超光谱波长以识别已知具有某些光谱响应的特定疾病、组织状况、生物过程、化学过程、组织类型等。
在已向患者施用有助于识别某些组织、结构、化学反应、生物过程等的试剂或染料的具体实施中,发射器1302、1304和1306可发射用于使试剂或染料发荧光的波长。此类波长可基于施用给患者的试剂或染料来确定。在此类实施方案中,发射器可能需要是高度精确的,以便发射所需波长以使某些试剂或染料发荧光或活化。
在一个具体实施中,发射器1302、1304和1306发射激光标测模式,用于标测场景的形貌和/或用于计算场景中对象之间的尺寸和距离。在一个实施方案中,结合多个工具(诸如手术刀、牵开器、夹钳等)使用内窥镜成像系统。在此类实施方案中,发射器1302、1304和1306中的每一个发射器可发射激光标测图案,使得激光标测图案单独地投影到每个工具上。在此类实施方案中,可分析工具中的每一者的激光标测数据以识别场景中工具与其它对象之间的距离。
在图13B的实施方案中,发射器1302、1304、1306各自以不同角度向收集区域1308递送激光。角度的变化可导致电磁能量在输出波导中的位置的变化。例如,如果光在收集区域1308处立即进入纤维束(玻璃或塑料)中,则变化的角度可导致不同量的光进入不同的纤维。例如,角度可导致跨收集区域1308的强度变化。此外,来自不同发射器的光可不会被均匀地混合,因此一些纤维可接收不同量的不同颜色的光。不同纤维中的光的颜色或强度的变化可导致场景的非最佳照明。例如,递送光或光强度的变化可在场景和所捕获图像处导致。
在一个实施方案中,居间光学元件可放置在纤维束和发射器1302、1304、1306之间,以在进入纤维或其他波导中之前混合不同颜色(波长)的光。示例性居间光学元件包括漫射器、混合棒、一个或多个镜片,或用于混合光使得给定纤维接收每种颜色(波长)的相同量的其它光学部件。例如,纤维束中的每根纤维可具有相同的颜色。该混合可导致每根纤维中的相同的颜色,但是,在一些实施方案中,仍可导致递送到不同纤维的不同的总亮度。在一个实施方案中,居间光学元件也可在收集区域上传播或均匀地传播光,使得每根纤维携带相同总量的光(例如,光可能在顶帽式轮廓中散开)。漫射器或混合棒可导致光损失。
尽管收集区域1308在图13A中表示为物理部件,但收集区域1308可以简单地作为递送来自发射器1302、1304和1306的光的区域。在一些情况下,收集区域1308可包括光学部件,诸如漫射器、混合棒、透镜,或处于发射器1302、1304、1306和输出波导之间的任何其他居间光学部件。
图13C示出了具有以相同或大致相同的角度向收集区域1308提供光的发射器1302、1304、1306的光源1300的实施方案。光以基本上垂直于收集区域1308的角度提供。光源1300包括多个二向色镜,包括第一二向色镜1310、第二二向色镜1312和第三二向色镜1314。二向色镜1310、1312、1314包括反射第一波长的光但透射第二波长(或对其透明)的光的镜。例如,第三二向色镜1314可反射由第三发射器提供的蓝色激光,而对第一发射器1302和第二发射器1304各自提供的红光和绿光透明。第二二向色镜1312可对来自第一发射器1302的光透明,但对来自第二发射器1304的光是反射的。如果包括其它颜色或波长,则可选择二向色镜以反射对应于至少一个发射器的光并且对其它发射器透明。例如,第三二向色镜1314反射来自第三发射器1306的光,但对其“后面”的发射器诸如第一发射器1302和第二发射器1304透明。在其中存在数十或数百个发射器的实施方案中,每个二向色镜可反射对应发射器和其前面的发射器,同时对其后面的发射器透明。这可允许数十或数百个发射器以基本上相同的角度将电磁能量发射到收集区域1308。
因为这些二向色镜允许其他波长透射或穿过,这些波长中的每个波长可从相同的角度以及/或者以相同的中心点或焦点到达收集区域1308。从相同的角度和/或相同的焦点/中心点提供光可显著改善在收集区域1308处的接收和颜色混合。例如,特定纤维可以接收不同的颜色,这些颜色的比例与它们由发射器1302、1304、1306和镜1310、1312、1314透射/反射的比例相同。与图13B的实施方案相比,可在收集区域处显著改善光混合。在一个实施方案中,本文所讨论的任何光学部件可在收集区域1308处使用,以在向纤维或纤维束提供光之前收集光。
图13C示出了具有也以相同或大致相同的角度向收集区域1308提供光的发射器1302、1304、1306的光源1300的实施方案。例如,入射在收集区域1308上的光从垂直偏移。角度1316指示从垂直偏移的角度。在一个实施方案中,激光发射器1302、1304、1306可具有高斯横截面强度轮廓。如前所述,纤维之间的光能量的改善的分布可通过形成更平坦或顶帽形的强度轮廓来实现。在一个实施方案中,随着角度1316的增大,跨收集区域1308的强度接近顶帽式轮廓。例如,通过增大角度1316直到轮廓足够平坦,顶帽式轮廓甚至可近似为非平坦输出光束。顶帽式轮廓也可使用一个或多个透镜、漫射器、混合棒,或处于发射器1302、1304、1306和输出波导、纤维或光纤束之间的任何其他居间光学部件来实现。
图14是示出了在输出处经由漫射器1404输出的单根光纤1402的示意图。在一个实施方案中,光纤1402具有500微米的直径,0.65的数值孔径,并且在没有漫射器1404的情况下发射约70度或80度的光锥1406。在有漫射器1404的情况下,光锥1406可具有约110度或120度的角度。光锥1406可以是所有光到达并且均匀分布的地方的大部分。漫射器1404可允许由图像传感器观察到的场景的电磁能量的更均匀分布。
在一个实施方案中,内腔波导210包括约500微米的单根塑料或玻璃光纤。塑料纤维的成本较低,其宽度可允许纤维将足够量的光传携带到场景,但具有耦合、漫射或其它损耗。例如,较小的纤维可能不能携带与较大纤维一样多的光或功率。内腔波导210可包括单根或多根光纤。内腔波导210可直接从光源或经由跳线波导接收光。漫射器可用于加宽光输出206以获得图像传感器214或其它光学部件的所需视场。
虽然在图13A至图13C中示出了三个发射器,但在一些实施方案中可使用数量从一到数百个或更多个不等的发射器。发射器可具有它们发射的不同波长或光谱的光,并且这些光可用于连续覆盖电磁光谱的所需部分(例如,可见光谱以及红外光谱和紫外光谱)。发射器可被配置为能够发射可见光诸如红光、绿光和蓝光,并且还可被配置为能够发射电磁辐射的超光谱发射、用于使试剂发荧光的荧光激发波长和/或用于计算参数和场景中对象之间的距离的激光标测图案。
图15示出了被分成二十个不同子光谱的电磁光谱1500的一部分。子光谱的数量仅为示例性的。在至少一个实施方案中,光谱1500可被分成数百个子光谱,每个子光谱具有小波带。光谱可从红外光谱1502延伸,穿过可见光谱1504,并且进入紫外光谱1506。子光谱各自具有覆盖光谱1500的一部分的波带1508。每个波带可由上波长和下波长限定。
超光谱成像包括来自跨电磁光谱1500的成像信息。电磁辐射的超光谱脉冲可包括跨越电磁波谱1500的一个或多个部分或整个电磁波谱1500的多个子脉冲。电磁辐射的超光谱脉冲可包括电磁辐射的单个波长分区。所得超光谱曝光帧包括在电磁辐射的超光谱脉冲之后由像素阵列感测到的信息。因此,超光谱曝光帧可包括电磁光谱1500的任何合适分区的数据,并且可包括电磁光谱1500的多个分区的多个曝光帧。在一个实施方案中,超光谱曝光帧包括多个超光谱曝光帧,使得组合的超光谱曝光帧包括整个电磁光谱1500的数据。
在一个实施方案中,针对每个子光谱,至少一个发射器(诸如激光发射器)包括在光源(诸如光源202、1300)中以提供对整个光谱1500的完整且连续的覆盖。例如,用于提供对所示子光谱的覆盖的光源可包括至少20个不同的发射器,每个子光谱至少有一个发射器。在一个实施方案中,每个发射器覆盖覆盖40纳米的光谱。例如,一个发射器可发射500nm至540nm的波带内的光,而另一个发射器可发射540nm至580nm的波带内的光。在另一个实施方案中,发射器可覆盖其它尺寸的波带,这取决于可用发射器的类型或成像需要。例如,多个发射器可包括覆盖500nm至540nm的波带的第一发射器、覆盖540nm至640nm的波带的第二发射器,以及覆盖640nm至650nm的波带的第三发射器。每个发射器可覆盖范围从远红外、中红外、近红外、可见光、近紫外和/或远紫外的电磁光谱的不同片段。在一些情况下,可包括相同类型或波长的多个发射器以提供用于成像的足够输出功率。特定波带所需的发射器数量可取决于单色传感器对波带的灵敏度和/或该波带中发射器的功率输出能力。
可选择由发射器提供的波带宽度和覆盖率以提供光谱的任何所需组合。例如,使用非常小的波带宽度(例如,10nm或更小)的光谱的连续覆盖可允许高度选择性的超光谱成像和/或荧光成像。该波带宽度可允许针对一种或多种特定荧光试剂选择性地发射激发波长。另外,该波带宽度可允许选择性地发射超光谱电磁辐射的某些分区,以用于识别特定结构、化学过程、组织、生物过程等。因为波长来自可选择性激活的发射器,所以可实现在检查期间使一种或多种特定荧光试剂发荧光的极致灵活性。另外,可实现通过超光谱成像来识别一个或多个对象或过程的极致灵活性。因此,更多荧光信息和/或超光谱信息可在更少时间内并且在单次检查内实现,这原本需要多次检查、由于施用染料或染色剂而延迟等。
图16是示出用于生成图像的发射和读出的时序图1600的示意图。实线表示用于捕获一系列曝光帧1604至1614的读出(峰1602)和消隐周期(谷)。一系列曝光帧1604至1614可包括可用于生成可叠加在RGB视频流上的激光标测、超光谱和/或荧光数据的一系列重复的曝光帧。在一个实施方案中,单个图像帧包括来自多个曝光帧的信息,其中一个曝光帧包括红色图像数据,另一个曝光帧包括绿色图像数据,并且另一个曝光帧包括蓝色图像数据。另外,单个图像帧可包括超光谱图像数据、荧光图像数据和激光标测数据中的一者或多者。多个曝光帧被组合以产生单个图像帧。单个图像帧是具有超光谱成像数据的RGB图像。该系列曝光帧包括第一曝光帧1604、第二曝光帧1606、第三曝光帧1608、第四曝光帧1610、第五曝光帧1612,以及第N曝光帧1626。
另外,可组合使用超光谱图像数据、荧光图像数据和激光标测数据以识别关键组织或结构并进一步测量那些关键组织或结构的尺寸。例如,可将超光谱图像数据提供给对应的系统以识别身体中的某些关键结构,诸如神经、输尿管、血管、癌组织等。关键结构的位置和识别可从对应的系统接收,并且还可用于使用激光标测数据来生成关键结构的形貌。例如,对应的系统基于超光谱成像数据确定癌性肿瘤的位置。由于基于超光谱成像数据知晓癌性肿瘤的位置,因此可随后基于激光标测数据来计算癌性肿瘤的形貌和距离。当基于荧光成像数据来识别癌性肿瘤或其它结构时,此示例也可适用。
在一个实施方案中,基于电磁能量的至少一个脉冲生成每个曝光帧。电磁能量脉冲被图像传感器反射并且检测,并且随后在后续读出(1602)中读出。因此,每个消隐周期和读出得到用于特定光谱的电磁能量的图像帧。例如,第一曝光帧1604可基于第一一个或多个脉冲1616的光谱生成,第二曝光帧1606可基于第二一个或多个脉冲1618的光谱生成,第三曝光帧1608可基于第三一个或多个脉冲1620的光谱生成,第四曝光帧1610可基于第四一个或多个脉冲1622的光谱生成,第五曝光帧1612可基于第五一个或多个脉冲2424的光谱生成,并且第N曝光帧1626可基于第N一个或多个脉冲1626的光谱生成。
脉冲1616至1626可包括来自单个发射器或来自两个或更多个发射器的组合的能量。例如,可选择包括在单个读出周期中或多个曝光帧1604至1614内的光谱以用于对特定组织或状况的所需检查或检测。根据一个实施方案,一个或多个脉冲可包括用于生成RGB或黑白图像的可见光谱光,而一个或多个附加脉冲被发射以感测针对超光谱波长的电磁辐射的光谱响应。例如,脉冲1616可包括红光,脉冲1618可包括蓝光,并且脉冲1620可包括绿光,而其余脉冲1622至1626可包括用于检测特定组织类型、使试剂发荧光和/或标测场景的形貌的波长和光谱。又如,单个读出周期的脉冲包括由可用于检测特定组织类型的多个不同发射器生成的光谱(例如,电磁光谱的不同片段)。例如,如果波长的组合导致像素具有超过或低于阈值的值,则该像素可被分类为对应于特定类型的组织。每个帧可用于进一步缩小存在于该像素(例如,以及图像中的每个像素)处的组织的类型,以基于组织的光谱响应和/或组织中是否存在荧光试剂来提供组织的非常特化的分类和/或组织的状态(患病/健康)。
多个帧1604至1614被示出为具有不同长度的读出周期并且具有不同长度或强度的脉冲。消隐周期、脉冲长度或强度等可基于单色传感器对特定波长的灵敏度、发射器的功率输出能力和/或波导的携带能力来选择。
在一个实施方案中,双图像传感器可用于获得三维图像或视频馈送。三维检查可允许对检查区域的三维结构的改善的理解以及对该区域内的不同组织或物质类型的标测。
在一个示例性具体实施中,向患者提供荧光试剂,并且该荧光试剂被配置为能够附着到癌细胞。已知该荧光试剂在被特定分区的电磁辐射辐射时发荧光。该荧光试剂的弛豫波长也是已知的。在该示例性具体实施中,如本文所述使用内窥镜成像系统对患者成像。内窥镜成像系统脉冲光的红色波长、绿色波长和蓝色波长的分区,以生成患者身体内部的RGB视频流。另外,内窥镜成像系统针对施用给患者的荧光试剂脉冲激发波长的电磁辐射。在示例中,患者具有癌细胞并且荧光试剂已粘附到癌细胞。当内窥镜成像系统针对荧光试剂脉冲激发波长时,荧光试剂将发荧光并发射弛豫波长。如果癌细胞存在于由内窥镜成像系统成像的场景中,则荧光试剂也将存在于该场景中并且由于激发波长的发射而在发荧光之后发射其弛豫波长。内窥镜成像系统感测荧光试剂的弛豫波长,并由此感测场景中荧光试剂的存在。因为已知荧光试剂附着于癌细胞,所以荧光试剂的存在进一步指示场景内癌细胞的存在。内窥镜成像系统由此识别场景内癌细胞的位置。内窥镜成像系统还可发射用于生成场景的形貌并计算场景内对象的尺寸的激光标测脉冲方案。癌细胞的位置(如由荧光成像数据所识别)可与基于激光标测数据计算出的形貌和尺寸信息组合。因此,可识别癌细胞的精确位置、大小、尺寸和形貌。可将该信息提供给执业医生以帮助切除癌细胞。另外,可将该信息提供给机器人外科系统以使外科系统能够切除癌细胞。
在另一个示例性具体实施中,使用内窥镜成像系统对患者成像以识别关于患者组织病理的定量诊断信息。在示例中,患者疑似或已知患有疾病,该疾病可利用超光谱成像跟踪以观察疾病在患者组织中的进展。内窥镜成像系统脉冲光的红色波长、绿色波长和蓝色波长的分区,以生成患者身体内部的RGB视频流。另外,内窥镜成像系统脉冲光的一个或多个超光谱波长,这些波长允许系统“透视”一些组织并生成受疾病影响的组织的成像。内窥镜成像系统感测反射超光谱电磁辐射以生成患病组织的超光谱成像数据,并由此识别患病组织在患者体内的位置。内窥镜成像系统还可发射用于生成场景的形貌并计算场景内对象的尺寸的激光标测脉冲方案。患病组织的位置(如由超光谱成像数据所识别)可与用激光标测数据计算出的形貌和尺寸信息组合。因此,可识别患病组织的精确位置、大小、尺寸和形貌。可将该信息提供给执业医生以帮助切除、成像或研究患病组织。另外,可将该信息提供给机器人外科系统以使外科系统能够切除患病组织。
图17是具有单个截止滤光器的成像系统1700的示意图。系统1700包括内窥镜1706或具有用于缺光环境的光源1708的其他合适的成像装置。内窥镜1706包括图像传感器1704和滤光器1702,该滤光器用于在到达图像传感器1704之前滤除不需要的波长的光或其他电磁辐射。光源1708传输可在缺光环境诸如体腔中照明表面1712的光。光1710从表面1712反射并且在击中图像传感器1704之前穿过滤光器1702。
滤光器1702可用于已施用荧光试剂或染料的具体实施中。在此类实施方案中,光源1708发射激发波长以用于使荧光试剂或染料发荧光。通常,由荧光试剂或染料发射的弛豫波长将具有与激发波长不同的波长。滤光器1702可被选择为滤除激发波长并且仅允许弛豫波长穿过滤光器并且由图像传感器1704感测。
在一个实施方案中,滤光器1702被配置为能够滤除电磁辐射的引起试剂或染料发荧光的激发波长,使得仅允许发荧光的试剂或染料的预期弛豫波长穿过滤光器1702并且到达图像传感器1704。在一个实施方案中,滤光器1702滤除至少介于770nm和790nm之间的荧光试剂激发波长。在一个实施方案中,滤光器1702滤除至少介于795nm和815nm之间的荧光试剂激发波长。在一个实施方案中,滤光器1702滤除至少介于770nm和790nm之间以及介于795nm和815nm之间的荧光试剂激发波长。在这些实施方案中,滤光器1702滤除试剂的激发波长,并且允许由图像传感器1704读取荧光试剂的仅弛豫波长。图像传感器1704可以是波长不定图像传感器,并且滤光器1702可被配置为能够允许图像传感器1704仅接收荧光试剂的弛豫波长而不接收试剂的所发射激发波长。然后由图像传感器1704确定的数据可指示由试剂或染料的位置确定的关键身体结构、组织、生物过程或化学过程的存在。
滤光器1702还可用于尚未施用荧光试剂或染料的具体实施中。可选择滤光器1702以允许对应于期望的光谱响应的波长穿过图像传感器1704并且由该图像传感器读取。图像传感器1704可以为单色图像传感器,使得可将所捕获图像的超过阈值或低于阈值的像素表征为对应于某些光谱响应或荧光发射。由图像传感器1704捕获的像素确定的光谱响应或荧光发射可指示某些身体组织或结构、某些病症、某些化学过程等的存在。
图18是具有多个截止滤光器的成像系统1800的示意图。系统1800包括内窥镜1806或具有用于缺光环境的光源1808的其他合适的成像装置。内窥镜1806包括图像传感器1804和两个滤光器1802a、1802b。应当理解,在另选的实施方案中,系统1800可包括任何数量的滤光器,并且可针对某些目的选择滤光器的数量和滤光器的类型,例如,用于采集特定身体组织、身体病症、化学过程等的成像信息。滤光器1802a、1802b被配置用于防止图像传感器1804感测到不需要的波长的光或其他电磁辐射。滤光器1802a、1802b可被配置为能够从可由光源1808发射的白光或其他电磁辐射中滤除不需要的波长。
相对于图17进一步描述本发明,滤光器1802a、1802b可用于已施用荧光试剂或染料的具体实施中。滤光器1802a、1802b可被配置用于阻挡试剂或染料的发射激发波长,并且允许图像传感器1804仅读取试剂或染料的弛豫波长。此外,滤光器1802a、1802b可用于尚未施用荧光试剂或染料的具体实施中。在此类具体实施中,可选择滤光器1802a、1802b以允许对应于期望的光谱响应的波长穿过图像传感器1804并且由该图像传感器读取。
多个滤光器1802a、1802b可各自被配置用于滤除电磁光谱的不同范围的波长。例如,一个滤光器可被配置用于滤除长于所需波长范围的波长,并且附加滤光器可被配置用于滤除短于所需波长范围的波长。两个或更多个滤光器的组合可导致仅某些波长或波长带由图像传感器1804读取。
在一个实施方案中,滤光器1802a、1802b被定制为使得介于513nm和545nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于565nm和585nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于900nm和1000nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于417nm和475nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于520nm和545nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于617nm和645nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于760nm和795nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于795nm和815nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于370nm和420nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于600nm和670nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被配置用于允许仅某些荧光弛豫发射穿过滤光器1802a、1802b并且接触图像传感器1804。在一个实施方案中,第一滤光器阻挡具有约770nm至约790nm的波长的电磁辐射,并且第二滤光器阻挡具有约795nm至约815nm的波长的电磁辐射。
在一个实施方案中,系统1800包括多个图像传感器1804,并且可具体地包括用于生成三维图像的两个图像传感器。图像传感器1804可以是颜色/波长不定的,并且被配置用于读取从表面1812反射的任何波长的电磁辐射。在一个实施方案中,图像传感器1804各自是颜色相关的或波长相关的,并且被配置用于读取从表面1812反射并且返回到图像传感器1804的特定波长的电磁辐射。另选地,图像传感器1804可包括具有多个不同像素传感器的单个图像传感器,所述多个不同像素传感器被配置用于读取不同波长或颜色的光,诸如拜耳滤光器颜色滤光器阵列。另选地,图像传感器1804可包括一个或多个颜色不定图像传感器,这些图像传感器可被配置用于根据脉冲调度(诸如图5至图7E中所示的那些)读取不同波长的电磁辐射。
图19是示出用于在缺光环境中通过激光标测成像来标测表面和/或跟踪对象的系统1900的示意图。在一个实施方案中,内窥镜1906在缺光环境中脉冲网格阵列1906(可称为激光标测图图案)到表面1904上。在如图19中所示的一个实施方案中,网格阵列1906包括竖直散列1908和水平散列1910。应当理解,网格阵列1906可包括用于标测表面1904的任何合适的阵列,包括例如离散点的光栅网格、占用网格标测图、点阵列等。另外,内窥镜1906可脉冲多个网格阵列1906,并且可例如在缺光环境内在多个对象或结构中的每一者上脉冲一个或多个单独的网格阵列。
在一个实施方案中,系统1900脉冲网格阵列1906,该网格阵列可用于在缺光环境中标测表面的三维形貌和/或跟踪对象诸如工具或另一装置的位置。在一个实施方案中,系统1900向第三方系统或计算机算法提供数据,以用于通过光检测和测距(LIDAR)标测的方式来确定表面尺寸和构型。系统1900可脉冲网格阵列1906中的任何合适波长的光或电磁辐射,包括例如紫外光、可见光和/或红外光或近红外光。可以非常高的分辨率并且以非常高的准确度和精度标测和跟踪环境内的表面1904和/或对象。
在一个实施方案中,系统1900包括成像装置,该成像装置具有管、一个或多个图像传感器和透镜组件,该透镜组件具有对应于该一个或多个图像传感器的光学元件。系统1900可包括具有发射器和内腔的光引擎,发射器生成一个或多个电磁辐射脉冲,内腔将一个或多个电磁辐射脉冲传输到缺光环境诸如体腔内的内窥镜的远侧末端。在一个实施方案中,该一个或多个电磁辐射脉冲的至少一部分包括发射到缺光环境内的表面(诸如,体腔内的身体组织的表面和/或工具或其它装置的表面)上的激光标测图图案。内窥镜1906可包括二维、三维或n维相机,用于标测和/或跟踪缺光环境内的表面、尺寸和配置。
在一个实施方案中,系统1900包括处理器,该处理器用于确定内窥镜或工具与对象诸如表面1904的距离。处理器还可确定内窥镜或工具与对象之间的角度。处理器还可确定关于对象的表面积信息,包括例如外科工具的尺寸、结构的尺寸、解剖结构的尺寸、位置信息以及其它位置数据和度量。系统1900可包括一个或多个图像传感器,该一个或多个图像传感器提供输出到控制系统的图像数据,以用于确定内窥镜或工具与对象诸如表面1904的距离。图像传感器可将信息输出到控制系统以用于确定内窥镜或工具与对象之间的角度。另外,图像传感器可将信息输出到控制系统,以用于确定关于对象的表面积信息、外科工具的尺寸、结构的尺寸、解剖结构的尺寸、位置信息以及其它位置数据和度量。
在一个实施方案中,内窥镜1906的发射器以足够的速度脉冲网格阵列1906,使得网格阵列1906对于用户不可见。在各种具体实施中,在内窥镜成像规程和/或内窥镜外科手术期间看到网格阵列1906可能使用户分心。可以足够短的周期脉冲网格阵列1906,使得网格阵列1906不能被人眼检测到。在另选的实施方案中,内窥镜1906以足够的复现频率脉冲网格阵列1906,使得网格阵列1906可被用户查看。在此类实施方案中,网格阵列1906可叠加在显示器上的表面1904的图像上。网格阵列1906可叠加在表面1904的黑白或RGB图像上,使得网格阵列1906在系统1900的使用期间可对用户可见。系统1900的用户可指示网格阵列1906是否应该叠加在表面1904的图像上以及/或者网格阵列1906是否应该对用户可见。系统1900可包括显示器,该显示器提供从内窥镜1906到缺光环境内的表面1904或另一个对象的距离的实时测量。显示器还可提供关于缺光环境内的表面1904和/或任何对象、结构或工具的实时表面积信息。测量的准确度可精确到小于一毫米。
在一个实施方案中,系统1900脉冲多个网格阵列1906。在一个实施方案中,多个网格阵列1906中的每一者对应于存在于缺光环境内的工具或其他装置。可通过脉冲和感测多个网格阵列1906来跟踪工具和其他装置中的每一者的精确位置和参数。可评估通过感测反射的网格阵列1906而生成的信息,以识别缺光环境内的工具和其他装置的相对位置。
内窥镜1906可根据脉冲调度(诸如本文所示的那些)脉冲电磁辐射,例如,这还可包括脉冲网格阵列1906并且脉冲用于生成RGB图像并且还生成可叠加在RGB图像上并且/或者用于标测并且跟踪缺光环境内的表面1904和对象的网格阵列1906的红光、绿光和蓝光。可另外结合超光谱或荧光激发波长的电磁辐射来脉冲网格阵列1906。可组合来自RGB成像、激光标测成像、超光谱成像和荧光成像中的每一者的数据,以识别体内关键结构的位置、尺寸和表面形貌。
在一个实施方案中,内窥镜1906包括一个或多个颜色不定图像传感器。在一个实施方案中,内窥镜1906包括用于生成缺光环境的三维图像或标测图的两个颜色不定图像传感器。图像传感器可根据如本文所公开的脉冲调度生成缺光环境的RGB图像。另外,图像传感器可基于在脉冲网格阵列1906时确定的数据来确定用于标测缺光环境并且跟踪缺光环境内的一个或多个对象的数据。另外,图像传感器可根据脉冲调度来确定光谱或超光谱数据以及荧光成像数据,该脉冲调度可由用户修改以适应成像规程的特定需要。在一个实施方案中,脉冲调度包括红色、绿色和蓝色脉冲以及网格阵列1906的脉冲和/或用于生成超光谱图像数据和/或荧光图像数据的脉冲。在各种具体实施中,脉冲调度可包括根据用户需要的电磁辐射脉冲的任何合适的组合。不同波长的电磁辐射的复现频率可基于例如某些脉冲的能量、用户的需要、某些数据(例如,超光谱数据和/或荧光成像数据)需要连续更新还是可更新较不频繁等来确定。
根据用户或用于某些成像规程的计算机实现的程序的需要,脉冲调度可以任何合适的方式修改,并且某些电磁辐射脉冲可以任何合适的频率重复。例如,在将基于网格阵列1906生成的表面跟踪数据提供给计算机实现的程序以用于例如机器人外科手术的实施方案中,网格阵列1906可比在将表面跟踪数据提供给在成像规程期间可视化场景的用户的情况下更频繁地脉冲。在表面跟踪数据用于机器人外科手术的此类实施方案中,表面跟踪数据可能需要更频繁地更新或者可能需要极为准确,使得计算机实现的程序可精密而准确地执行机器人外科手术。
在一个实施方案中,系统1900被配置为能够生成占用网格标测图,该占用网格标测图包括被划分为网格的单元阵列。系统1900被配置为能够存储相应的网格单元中的每一个网格单元的高度值以确定缺光环境中的三维环境的表面标测。
图20A和图20B分别示出根据本公开的教导内容和原理的单片传感器2000的具体实施的透视图和侧视图,该单片传感器具有多个像素阵列用于产生三维图像。此类具体实施可能是三维图像捕获所希望的,其中在使用期间两个像素阵列2002和2004可被偏移。在另一个具体实施中,第一像素阵列2002和第二像素阵列2004可专用于接收预先确定的波长范围的电磁辐射,其中第一像素阵列专用于与第二像素阵列不同波长范围的电磁辐射。
图21A和图21B分别示出了构建在多个基板上的成像传感器2100的具体实施的透视图和侧视图。如图所示,形成像素阵列的多个像素列2104位于第一基板2102上并且多个电路列2108位于第二基板2106上。图中还示出了一个像素列与其相关联的或对应的电路列之间的电连接和通信。在一个具体实施中,图像传感器可具有与全部或大部分支撑电路分开的像素阵列,而其可能以其它方式被制造成它的像素阵列和支撑电路处于单个、单片基板/芯片上。本公开可使用至少两个基板/芯片,这些基板/芯片将使用三维堆叠技术被堆叠在一起。两个基板/芯片中的第一2102可使用图像CMOS工艺加工。第一基板/芯片2102可仅仅由像素阵列构成,或可由被有限电路围绕的像素阵列构成。第二或后续基板/芯片2106可使用任何工艺加工,而不是必须来自图像CMOS工艺。第二基板/芯片1306可以是但不限于,为了将各种和多个功能集成到基板/芯片上非常有限空间或面积中的高密度数字工艺、或为了集成例如精确模拟功能的混合模式或模拟工艺、或为了实现无线能力的RF工艺、或为了集成MEMS器件的MEMS(微电子机械系统)。图像CMOS基板/芯片2102可使用任何三维技术与第二或后续基板/芯片2106堆叠。第二基板/芯片2106可支撑将可能另外在第一图像CMOS芯片2102中实现(如果在单片基板/芯片上实现)为外围电路的电路的绝大部分或大部分,并且因此当保持像素阵列大小恒定并尽最大可能优化时增加了整个系统面积。两个基板/芯片之间的电连接可通过互联器完成,这些互联器可为接合引线、凸耳和/或TSV(硅通孔)。
图22A和图22B分别示出了具有多个像素阵列用于产生三维图像的成像传感器2200的具体实施的透视图和侧视图。三维图像传感器可被构建在多个基板上并且可包括多个像素阵列和其他相关联的电路,其中形成第一像素阵列的多个素列2204a和形成第二像素阵列的多个像素列2204b分别位于相应的基板2202a和2202b上,并且多个电路列2208a和2208b位于单独的基板2206上。还示出了像素列与相关联的或对应的电路列之间的电连接和通信。
多个像素阵列可同时感测信息,并且可组合来自多个像素阵列的信息以生成三维图像。在一个实施方案中,内窥镜成像系统包括可被部署成生成三维成像的两个或更多个像素阵列。内窥镜成像系统可包括用于在像素阵列的消隐周期期间发射电磁辐射脉冲的发射器。像素阵列可被同步,使得针对两个或更多个像素阵列同时读取光学黑色像素(即,发生消隐周期)。发射器可发射用于对两个或更多个像素阵列中的每个像素阵列充电的电磁辐射脉冲。两个或更多个像素阵列可同时读取其相应的带电像素,使得两个或更多个像素阵列的读出周期同时或大致同时发生。在一个实施方案中,内窥镜成像系统包括多个发射器,每个发射器与多个像素阵列中的一个或多个像素阵列单独同步。可组合来自多个像素阵列的信息以生成三维图像帧和视频流。
应当理解,本公开的教导内容和原理可用于可重复使用的装置平台、有限使用的装置平台、可重新设置使用的装置平台或单次使用/一次性的装置平台,而不脱离本公开的范围。应当理解,在可重复使用的装置平台中,最终使用人负责该装置的清洁和消毒。在有限使用的装置平台中,在变得不能操作之前,装置可被使用一些规定量的次数。典型的新装置在交付前已经过无菌处理,如果要用作其它用途,应在其它使用之前由最终用户进行清洗和消毒。在可重新设置使用的装置平台中,第三方可重新处理装置(例如,清洁、包装和消毒)单次使用的装置,以比新单元更低的成本用于另外使用。在单次使用/一次性的装置平台中,装置以无菌方式提供至手术室并且在被弃置掉之前只能使用一次。
实施例
以下实施例涉及另外的实施方案的优选特征:
实施例1是一种系统。所述系统包括用于发射相干光的脉冲的相干光源和连接到所述相干光源的光纤束。所述系统包括图像传感器,所述图像传感器包括用于感测反射的电磁辐射的像素阵列。所述系统包括振动机构,所述振动机构附接到所述光纤束。所述系统包括控制器,所述控制器与所述相干光源和所述图像传感器电子通信并且被配置为能够同步所述相干光源和所述图像传感器的定时。所述系统使得由所述相干光源发射的所述相干光的脉冲的至少一部分包括以下中的一者或多者:具有约513nm至约545nm的波长的电磁辐射;具有约565nm至约585nm的波长的电磁辐射;具有约900nm至约1000nm的波长的电磁辐射;引起试剂发荧光的电磁辐射激发波长;或激光标测图案。
实施例2是根据实施例1所述的系统,其中,所述振动机构包括以下中的一者或多者:机械马达、压电晶体、振荡器或谐振器部件。
实施例3是根据实施例1至2中任一项所述的系统,其中,所述控制器进一步与所述振动机构电子通信,并且被进一步配置为能够控制所述振动机构的操作,使得所述相干光的脉冲的所述相干性减小。
实施例4是根据实施例1至3中任一项所述的系统,其中,所述控制器被进一步配置为能够控制所述振动机构的所述操作,使得至少部分地由所述相干光的脉冲的所述相干性引起的散斑对由所述图像传感器生成的曝光帧中的用户不可见。
实施例5是根据实施例1至4中任一项所述的系统,还包括:套筒,所述套筒用于将所述光纤束的第一光纤部分耦合到所述光纤束的第二光纤部分;以及被构造成容纳振动装置的所述振动机构的壳体,其中,所述振动装置包括以下中的一者或多者:机械马达、压电晶体、振荡器或谐振器部件;其中,所述振动机构的所述壳体附接到所述套筒。
实施例6是根据实施例1至5中任一项所述的系统,其中,所述振动机构是附接到所述光纤束的唯一振动机构,并且其中,所述振动机构使所述第一光纤部分和所述第二光纤部分中的每一者振动。
实施例7是根据实施例1至6中任一项所述的系统,其中,所述振动机构被构造成振动所述光纤束,使得在所述光纤束上透射的所述相干光的脉冲中的至少一个相干光的脉冲暂时由于所述相干光的脉冲行进的所述路径的所述几何结构由所述振动机构的振动改变而失去相干性。
实施例8是根据实施例1至7中任一项所述的系统,其中,所述发射器包括多个激光束,并且所述多个激光束中的每个激光束包括多个激光单元,其中,所述多个激光束包括:红色激光束,所述红色激光束用于发射红色波长的电磁辐射;绿色激光束,所述绿色激光束用于发射绿色波长的电磁辐射;蓝色激光束,所述蓝色激光束用于发射蓝色波长的电磁辐射;超光谱激光束,所述超光谱激光束用于发射用于激发光谱响应的超光谱波长的电磁辐射;荧光激光束,所述荧光激光束用于发射用于使试剂发荧光的荧光激发波长;以及激光标测束,所述激光标测束用于发射所述激光标测图案。
实施例9是根据实施例1至8中任一项所述的系统,其中,所述激光标测束被配置为能够发射所述激光标测图案,使得能够基于由所述图像传感器响应于所述激光标测图案的发射而感测的所反射的电磁辐射来计算距离、尺寸或三维形貌图中的一者或多者。
实施例10是根据实施例1至9中任一项所述的系统,其中,所述振动机构将振动刺激引入所述光纤束以引起所述光纤束的路径几何结构的一系列变化;并且其中,以高频率执行对所述路径几何结构的所述系列变化,使得基本上去除由所述图像传感器生成的曝光帧中的可观察散斑图案。
实施例11是根据实施例1至10中任一项所述的系统,其中,所述图像传感器被配置为能够生成多个曝光帧,其中,所述多个曝光帧中的每一个曝光帧对应于由所述相干光源发射的相干光的脉冲。
实施例12为根据实施例1至11中任一项所述的系统,其中,所述图像传感器的所述像素阵列在所述像素阵列的读出周期期间感测反射的电磁辐射以生成所述多个曝光帧,其中,所述读出周期为当读取所述像素阵列中的有源像素时的持续时间。
实施例13是根据实施例1至12中任一项所述的系统,其中,由所述相干光源发射的所述相干光的脉冲的至少一部分为荧光激发发射,所述荧光激发发射包括具有约770nm至约790nm和/或约795nm约至815nm的波长的电磁辐射。
实施例14是根据实施例1至13中任一项所述的系统,其中,所述相干光源被配置为能够在脉冲持续时间期间发射相干光的多个子脉冲,所述多个子脉冲具有短于所述脉冲持续时间的子持续时间。
实施例15是根据实施例1至14中任一项所述的系统,其中,由所述相干光源发射的所述相干光的脉冲中的一个或多个相干光的脉冲包括作为单个脉冲或单个子脉冲同时以两个或更多个波长发射的电磁辐射。
实施例16是根据实施例1至15中任一项所述的系统,其中,由所述相干光源发射的所述相干光的脉冲的至少一部分是导致由所述图像传感器形成的荧光曝光帧的荧光激发发射,并且其中,所述控制器被配置为能够将所述荧光曝光帧提供给对应荧光系统,所述对应荧光系统基于所述荧光曝光帧确定场景内关键组织结构的位置。
实施例17是根据实施例1至16中任一项所述的系统,其中,所述荧光激发发射包括以下各项中的一者或多者:具有约770nm至约790nm和/或795nm至约815nm的波长的电磁辐射;
实施例18是根据实施例1至17中任一项所述的系统,其中,所述控制器被进一步配置为能够:从所述对应的荧光系统接收所述关键组织结构的位置;生成包括所述关键组织结构的所述位置的叠层帧;以及将叠层帧与描绘场景的彩色图像帧组合,以指示场景内关键组织结构的位置。
实施例19是根据实施例1至18中任一项所述的系统,其中,关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
实施例20是根据实施例1至19中任一项所述的系统,其中,所述控制器被配置为能够在所述图像传感器的消隐周期期间同步所述相干光的脉冲的定时,其中,所述消隐周期对应于所述像素阵列中的最后一行有效像素的读出与所述像素阵列中有效像素的下一次后续读出开始之间的时间。
实施例21是根据实施例1至20中任一项所述的系统,其中,由所述相干光源发射的两个或更多个相干光的脉冲导致反射电磁辐射的两个或更多个例图,所述两个或更多个例图由所述像素阵列感测以生成被组合以形成图像帧的两个或更多个曝光帧。
实施例22是根据实施例1至21中任一项所述的系统,其中,图像传感器包括第一图像传感器和第二图像传感器,使得图像传感器能够生成三维图像。
实施例23是根据实施例1至22中任一项所述的系统,其中,所述相干光源被配置为能够重复发射相干光的脉冲序列,以便足以生成包括多个图像帧的视频流,其中,所述视频流中的每个图像帧包括来自多个曝光帧的数据,并且其中,所述曝光帧中的每个曝光帧对应于相干光的脉冲。
实施例24是根据实施例1至23中任一项所述的系统,其中,以变化波长的电磁辐射的图案发射所述相干光的脉冲,并且其中,所述相干光源重复变化波长的电磁辐射的所述图案。
实施例25是根据实施例1至24中任一项所述的系统,其中,所述相干光的脉冲的至少一部分包括红色波长、绿色波长、蓝色波长和荧光激发波长,使得由所述像素阵列感测的对应于所述红色波长、所述绿色波长、所述蓝色波长和所述荧光激发波长中的每一者的反射的电磁辐射能够被处理以生成包括荧光成像数据的叠加的红-绿-蓝(RGB)图像帧,其中,电磁辐射的所述荧光激发波长包括具有约770nm至约790nm和/或约795nm至约815nm的波长的所述电磁辐射。
实施例26是根据实施例1至25中任一项所述的系统,其中,所述相干光的脉冲的至少一部分包括亮度发射、红色色度发射、蓝色色度发射和荧光激发发射,使得由所述像素阵列感测的对应于所述亮度发射、所述红色色度发射、所述蓝色色度发射和所述荧光激发发射中的每一者的反射的电磁辐射能够被处理以生成包括荧光成像数据的叠加的YCbCr图像帧,其中,电磁辐射的所述荧光激发发射包括具有约770nm至约790nm和/或约795nm至约815nm的波长的所述电磁辐射。
实施例27是根据实施例1至26中任一项所述的系统,其中,所述相干光源以与所述图像传感器的所述像素阵列的所述操作相对应的间隔发射所述相干光的脉冲。
实施例28是根据实施例1至27中任一项所述的系统,还包括用于显示视频流的显示器,其中,所述视频流包括多个图像帧,并且所述多个图像帧中的每一个图像帧由所述图像传感器捕获的两个或更多个曝光帧构成。
实施例29是根据实施例1至28中任一项所述的系统,其中,所述振动机构将路径几何结构的一系列变化引入所述光纤束。
实施例30是根据实施例1至29中任一项所述的系统,其中,所述振动机构包括:壳体、被构造成附接到所述光纤束的套筒、以及振动装置,其中,所述振动装置设置在所述壳体内并且所述壳体附接到所述套筒。
实施例31是根据实施例1至30中任一项所述的系统,其中,所述套筒包括第一套筒和第二套筒,所述第一套筒和第二套筒用于将所述光纤束的第一光纤部分附接到所述光纤束的第二光纤部分,使得所述光纤束用作单个连续电缆以传输所述相干光的脉冲。
实施例32是根据实施例1至31中任一项所述的系统,其中,所述光纤束将来自所述相干光源的所述相干光的脉冲传输到由所述图像传感器成像的缺光环境。
实施例33是根据实施例1至32中任一项所述的系统,其中,所述振动机构仅包括直接附接到所述光纤束的振动装置。
实施例34是根据实施例1至33中任一项所述的系统,还包括用于插入身体中的内窥镜,其中,所述图像传感器位于所述内窥镜的远侧末端。
实施例35是根据实施例1至34中任一项所述的系统,其中,所述相干光源是用于脉冲激光的发射器,所述激光用于照明由所述图像传感器成像的缺光环境。
实施例36是根据实施例1至35中任一项所述的系统,其中,所述图像传感器对于任何波长的电磁辐射敏感。
实施例37是根据实施例1至36中任一项所述的系统,还包括过滤具有约770nm至约790nm的波长的电磁辐射的滤光器。
实施例38是根据实施例1至37中任一项所述的系统,还包括过滤具有约795nm至约815nm的波长的电磁辐射的滤光器。
实施例39是根据实施例1至38中任一项所述的系统,其中,所述相干光的脉冲的至少一部分包括红色发射、绿色发射、蓝色发射和激光标测发射,使得能够处理由所述像素阵列感测的对应于所述红色发射、所述绿色发射、所述蓝色发射和所述激光标测发射中的每一者的所反射的电磁辐射以生成包括激光标测数据的叠加的红-绿-蓝(RGB)图像帧。
实施例40是根据实施例1至39中任一项所述的系统,其中,所述相干光的脉冲的至少一部分包括亮度发射、红色色度发射、蓝色色度发射以及激光标测发射,使得所述像素阵列感测到的反射电磁辐射能够被处理成生成包括激光标测数据叠层的YCbCr图像帧,所述像素阵列对应于亮度发射、红色色度发射、蓝色色度发射和激光标测发射中的每一者。
实施例41是根据实施例1至40中任一项所述的系统,其中,由所述像素阵列感测所反射的电磁辐射包括:通过感测由所述相干光源脉冲所述激光标测图案产生的所反射的电磁辐射来生成激光标测曝光帧,其中,所述激光标测曝光帧包括用于确定实时测量的信息,所述信息包括以下中的一者或多者:从内窥镜到对象的距离;内窥镜与所述对象之间的角度;或关于对象的表面形貌信息。
实施例42是根据实施例1至41中任一项所述的系统,其中,所述激光标测曝光帧包括用于以小于10厘米的准确度确定所述实时测量的信息。
实施例43是根据实施例1至42中任一项所述的系统,其中,所述激光标测曝光帧包括用于以小于一毫米的准确度确定所述实时测量的信息。
实施例44是根据实施例1至43中任一项所述的系统,其中,由所述相干光源发射的所述相干光的脉冲的至少一部分包括用于场景内的多个工具中的每一个工具的多个特定于工具的激光标测图案。
实施例45是根据实施例1至44中任一项所述的系统,其中,由所述相干光源发射的所述激光标测图案包括彼此独立的第一输出和第二输出,其中,所述第一输出用于光照明,并且所述第二输出用于工具跟踪。
实施例46是根据实施例1至45中任一项所述的系统,其中,由所述相干光源发射的所述相干光的脉冲的至少一部分为导致由所述图像传感器产生的超光谱曝光帧的超光谱发射,并且其中,所述控制器被配置为能够向对应的超光谱系统提供所述超光谱曝光帧,所述对应的超光谱系统基于所述超光谱曝光帧确定关键组织结构在场景内的位置。
实施例47是根据实施例1至46中任一项所述的系统,其中,所述超光谱发射包括以下中的一者或多者:具有约513nm至约545nm的波长的电磁辐射;具有约565nm至约585nm的波长的电磁辐射;或者具有约900nm至约1000nm的波长的电磁辐射。
实施例48是根据实施例1至47中任一项所述的系统,其中,所述控制器被进一步配置为能够:从所述对应的超光谱系统接收所述关键组织结构的位置;生成包括所述关键组织结构的所述位置的叠层帧;以及将叠层帧与描绘场景的彩色图像帧组合,以指示场景内关键组织结构的位置。
实施例49是根据实施例1至48中任一项所述的系统,其中,所述像素阵列感测所述反射电磁辐射包括通过感测由所述相干光源脉冲所述激光标测图案而产生的反射电磁辐射来生成激光标测曝光帧,并且其中,所述控制器被进一步配置为能够:将所述激光标测曝光帧提供给对应激光标测系统,所述对应激光标测系统确定所述场景的形貌和/或所述场景内一个或多个对象的尺寸;将所述关键组织结构的所述位置提供给所述对应激光标测系统;以及从对应激光标测系统接收关键组织结构的形貌和/或尺寸。
实施例50是根据实施例1至49中任一项所述的系统,其中,所述关键结构包括神经、输尿管、血管、动脉、血流和肿瘤中的一者。
实施例51是根据实施例1至50中任一项所述的系统,其中,所述超光谱激光束包括以下中的一者或多者:第一超光谱束,所述第一超光谱束用于发射具有约513nm至约545nm的波长的所述电磁辐射;第二超光谱束,所述第二超光谱束用于发射具有约565nm至约585nm的波长的电磁辐射;或第三超光谱束,所述第三超光谱束用于发射具有约900nm至约1000nm的波长的电磁辐射。
实施例52是根据实施例1至51中任一项所述的系统,其中,用于发射所述荧光激发波长的电磁辐射的所述荧光束包括以下中的一者或多者:用于发射具有约770nm至约790nm的波长的电磁辐射的第一荧光束;或用于发射具有约795nm至约815nm的波长的电磁辐射的第二荧光束。
应当理解,本文所公开的各种特征在本领域中提供了显著优势和进步。下列权利要求为那些特征中的一些的示例。
在上述本公开具体实施方式中,出于简化本公开的目的,将本公开的各个特征集中于单个实施方案中。本公开的方法不应理解为体现了这样的意图:受权利要求书保护的公开内容要求比每项权利要求中所明确列举的更多的特征。相反,创新方面未能体现上文公开的单个实施例的所有特征。
应当理解,上述布置方式、实施例和实施方案的任何特征可在包括从任何所公开的布置方式、实施例和实施方案中获得的特征的组合的单个实施方案中组合。
应当理解,上述设置只是本公开原理的示例性应用。在不脱离本公开精神和范围的前提下,本领域的技术人员可以设计许多修改和另选设置,并且所附权利要求书旨在涵盖这些修改和设置。
因此,当本公开以图示显示并且以特殊性和细节进行上述描述时,对于本领域的普通技术人员而言,在不脱离本文所述原则和理念的前提下,显而易见可进行大量修改,这些修改包括但不限于尺寸、材料、形状、形式、功能和操作方式、组装和使用方式的变化。
另外,在适当的情况下,本文所述的功能可通过硬件、软件、固件、数字部件或模拟部件中的一种或多种来执行。例如,可对一种或多种专用集成电路(ASIC)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。在整个下面的描述和权利要求中所用的某些术语是指特定的系统部件。本领域的技术人员应当理解,部件可具有不同的名称。本文并非旨在在名称上而非功能上不同的部件之间进行辨别。
为了举例说明和描述的目的,已经提供了上述具体实施方式。这些具体实施方式并非意图为详尽的或将本公开限制为所公开的具体形式。根据上述教导内容可以对本公开进行许多修改和改变。另外,应当指出的是,任何或所有前述另选的具体实施可以任何期望的组合使用,以形成本公开的另外的混合的具体实施。
另外,虽然已描述和说明了本公开的特定具体实施,但是本公开并不限于如描述和说明的特定形式或部件布置。本公开的范围将由此处所附的权利要求、此处和不同申请中提交的任何未来的权利要求以及它们的等效物来限定。

Claims (34)

1.一种系统,包括:
相干光源,所述相干光源用于发射相干光的脉冲;
光纤束,所述光纤束连接到所述相干光源;
图像传感器,所述图像传感器包括用于感测经反射的电磁辐射的像素阵列;
振动机构,所述振动机构附接到所述光纤束;以及
控制器,所述控制器与所述相干光源和所述图像传感器电子通信并且被配置为能够同步所述相干光源和所述图像传感器的定时;
其中,由所述相干光源发射的所述相干光的脉冲的至少一部分包括以下中的一者或多者:
具有约513nm至约545nm的波长的电磁辐射;
具有约565nm至约585nm的波长的电磁辐射;
具有约900nm至约1000nm的波长的电磁辐射;
使试剂发荧光的荧光激发波长的电磁辐射;或者
激光标测图案。
2.根据权利要求1所述的系统,其中,所述振动机构包括以下中的一者或多者:机械马达、压电晶体、振荡器或谐振器部件。
3.根据权利要求1所述的系统,其中,所述控制器进一步与所述振动机构电子通信,并且被进一步配置为能够控制所述振动机构的操作,使得所述相干光的脉冲的相干性减小。
4.根据权利要求3所述的系统,其中,所述控制器被进一步配置为能够控制所述振动机构的所述操作,使得至少部分地由所述相干光的脉冲的所述相干性引起的散斑对由所述图像传感器生成的曝光帧中的用户不可见。
5.根据权利要求1所述的系统,还包括:
套筒,所述套筒用于将所述光纤束的第一光纤部分耦合到所述光纤束的第二光纤部分;以及
被构造成容纳振动装置的所述振动机构的壳体,其中,所述振动装置包括以下中的一者或多者:机械马达、压电晶体、振荡器或谐振器部件;
其中,所述振动机构的所述壳体附接到所述套筒。
6.根据权利要求5所述的系统,其中,所述振动机构是附接到所述光纤束的唯一振动机构,并且其中,所述振动机构使所述第一光纤部分和所述第二光纤部分中的每一者振动。
7.根据权利要求1所述的系统,其中,所述振动机构被构造成振动所述光纤束,使得在所述光纤束上透射的所述相干光的脉冲中的至少一个相干光的脉冲由于所述相干光的脉冲行进的路径的几何结构由所述振动机构的振动改变而暂时失去相干性。
8.根据权利要求1所述的系统,其中,所述相干光源包括多个激光束,并且所述多个激光束中的每个激光束包括多个激光单元,其中,所述多个激光束包括以下中的一者或多者:
红色激光束,所述红色激光束用于发射红色波长的电磁辐射;
绿色激光束,所述绿色激光束用于发射绿色波长的电磁辐射;
蓝色激光束,所述蓝色激光束用于发射蓝色波长的电磁辐射;
超光谱激光束,所述超光谱激光束用于发射用于激发光谱响应的超光谱波长的电磁辐射;
荧光激光束,所述荧光激光束用于发射用于使试剂发荧光的荧光激发波长;或者
激光标测束,所述激光标测束用于发射所述激光标测图案。
9.根据权利要求8所述的系统,其中,所述超光谱激光束包括以下中的一者或多者:
第一超光谱束,所述第一超光谱束用于发射具有约513nm至约545nm的波长的电磁辐射;
第二超光谱束,所述第二超光谱束用于发射具有约565nm至约585nm的波长的电磁辐射;或者
第三超光谱束,所述第三超光谱束用于发射具有约900nm至约1000nm的波长的电磁辐射。
10.根据权利要求8所述的系统,其中,用于发射所述荧光激发波长的电磁辐射的所述荧光束包括以下中的一者或多者:
第一荧光束,所述第一荧光束用于发射具有约770nm至约790nm的波长的电磁辐射;或者
第二荧光束,所述第二荧光束用于发射具有约795nm至约815nm的波长的电磁辐射。
11.根据权利要求8所述的系统,其中,所述激光标测束被配置为能够发射所述激光标测图案,使得能够基于由所述图像传感器响应于所述激光标测图案的发射而感测的所反射的电磁辐射来计算距离、尺寸或三维形貌图中的一者或多者。
12.根据权利要求1所述的系统,其中:
所述振动机构将振动刺激引入所述光纤束以引起所述光纤束的路径几何结构的一系列变化;并且
其中,以高频率执行对所述路径几何结构的所述系列变化,使得基本上去除由所述图像传感器生成的曝光帧中的可观察散斑图案。
13.根据权利要求1所述的系统,其中,所述图像传感器被配置为能够生成多个曝光帧,其中,所述多个曝光帧中的每个曝光帧对应于由所述相干光源发射的相干光的脉冲。
14.根据权利要求11所述的系统,其中,所述图像传感器的所述像素阵列在所述像素阵列的读出周期期间感测经反射的电磁辐射以生成所述多个曝光帧,其中,所述读出周期为读取所述像素阵列中的有效像素时的持续时间。
15.根据权利要求1所述的系统,其中,所述相干光源被配置为能够在脉冲持续时间期间发射相干光的多个子脉冲,所述多个子脉冲具有短于所述脉冲持续时间的子持续时间。
16.根据权利要求1所述的系统,其中,由所述相干光源发射的所述相干光的脉冲中的一个或多个相干光的脉冲包括作为单个脉冲或单个子脉冲以两个或更多个波长同时发射的电磁辐射。
17.根据权利要求1所述的系统,其中,由所述相干光源发射的所述相干光的脉冲的至少一部分是导致由所述图像传感器形成的荧光曝光帧的荧光激发发射,并且其中,所述控制器被配置为能够将所述荧光曝光帧提供给对应荧光系统,所述对应荧光系统基于所述荧光曝光帧确定场景内关键组织结构的位置。
18.根据权利要求17所述的系统,其中,所述荧光激发发射包括以下中的一者或多者:
具有约770nm至约790nm的波长的电磁辐射;或者
具有约795nm至约815nm的波长的电磁辐射。
19.根据权利要求18所述的系统,其中,所述控制器被进一步配置为能够:
从所述对应荧光系统接收所述关键组织结构的所述位置;
生成包括所述关键组织结构的所述位置的叠层帧;并且
将所述叠层帧与描绘所述场景的彩色图像帧组合,以指示所述场景内所述关键组织结构的所述位置。
20.根据权利要求19所述的系统,其中,感测由所述像素阵列反射的电磁辐射包括通过感测由所述相干光源脉冲所述激光标测图案而产生的反射电磁辐射来生成激光标测曝光帧,并且其中,所述控制器被进一步配置为能够:
将所述激光标测曝光帧提供给对应激光标测系统,所述对应激光标测系统确定所述场景的形貌和/或所述场景内一个或多个对象的尺寸;
将所述关键组织结构的所述位置提供给所述对应激光标测系统;并且
从所述对应激光标测系统接收所述关键组织结构的形貌和/或尺寸。
21.根据权利要求20所述的系统,其中,所述关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
22.根据权利要求1所述的系统,其中,所述控制器被配置为能够在所述图像传感器的消隐周期期间同步所述相干光的脉冲的定时,其中,所述消隐周期对应于所述像素阵列中的最后一行有效像素的读出与所述像素阵列中有效像素的下一次后续读出开始之间的时间。
23.根据权利要求1所述的系统,其中,由所述相干光源发射的两个或更多个相干光的脉冲导致反射电磁辐射的两个或更多个例图,所述两个或更多个例图由所述像素阵列感测以生成被组合以形成图像帧的两个或更多个曝光帧。
24.根据权利要求1所述的系统,其中,所述图像传感器包括第一图像传感器和第二图像传感器,使得所述图像传感器能够生成三维图像。
25.根据权利要求1所述的系统,其中,所述相干光源被配置为能够重复发射相干光的脉冲序列,以便足以生成包括多个图像帧的视频流,其中,所述视频流中的每个图像帧包括来自多个曝光帧的数据,并且其中,所述曝光帧中的每个曝光帧对应于相干光的脉冲。
26.根据权利要求1所述的系统,其中,所述相干光的脉冲以不同波长的电磁辐射的图案发射,并且其中,所述相干光源重复不同波长的电磁辐射的所述图案。
27.根据权利要求1所述的系统,其中,所述像素阵列感测反射电磁辐射包括通过感测由所述相干光源脉冲所述激光标测图案而产生的反射电磁辐射来生成激光标测曝光帧,其中,所述激光标测曝光帧包括用于确定实时测量的信息,所述信息包括以下中的一者或多者;
从内窥镜到对象的距离;
内窥镜与所述对象之间的角度;或者
关于所述对象的表面形貌信息。
28.根据权利要求1所述的系统,其中,由所述相干光源发射的所述相干光的脉冲的至少一部分包括用于场景内的多个工具中的每个工具的多个特定于工具的激光标测图案。
29.根据权利要求1所述的系统,其中,由所述相干光源发射的所述激光标测图案包括彼此独立的第一输出和第二输出,其中,所述第一输出用于光照明并且所述第二输出用于工具跟踪。
30.根据权利要求1所述的系统,其中,由所述相干光源发射的所述相干光的脉冲的至少一部分为导致由所述图像传感器产生的超光谱曝光帧的超光谱发射,并且其中,所述控制器被配置为能够向对应的超光谱系统提供所述超光谱曝光帧,所述对应的超光谱系统基于所述超光谱曝光帧确定场景内关键组织结构的位置。
31.根据权利要求30所述的系统,其中,所述超光谱发射包括以下中的一者或多者:
具有约513nm至约545nm的波长的电磁辐射;
具有约565nm至约585nm的波长的电磁辐射;或者
具有约900nm至约1000nm的波长的电磁辐射。
32.根据权利要求31所述的系统,其中,所述控制器被进一步配置为能够:
从所述对应超光谱系统接收所述关键组织结构的所述位置;
生成包括所述关键组织结构的所述位置的叠层帧;并且
将所述叠层帧与描绘所述场景的彩色图像帧组合,以指示所述场景内所述关键组织结构的所述位置。
33.根据权利要求32所述的系统,其中,感测由所述像素阵列反射的电磁辐射包括通过感测由所述相干光源脉冲所述激光标测图案而产生的反射电磁辐射来生成激光标测曝光帧,并且其中,所述控制器被进一步配置为能够:
将所述激光标测曝光帧提供给对应激光标测系统,所述对应激光标测系统确定所述场景的形貌和/或所述场景内一个或多个对象的尺寸;
将所述关键组织结构的所述位置提供给所述对应激光标测系统;并且
从所述对应激光标测系统接收所述关键组织结构的形貌和/或尺寸。
34.根据权利要求33所述的系统,其中,所述关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
CN202080045273.1A 2019-06-20 2020-06-15 脉冲超光谱成像、荧光成像和激光标测成像系统中的散斑去除 Pending CN114072038A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201962864242P 2019-06-20 2019-06-20
US62/864,242 2019-06-20
US16/799,212 2020-02-24
US16/799,212 US11457154B2 (en) 2019-06-20 2020-02-24 Speckle removal in a pulsed hyperspectral, fluorescence, and laser mapping imaging system
PCT/US2020/037802 WO2020257122A1 (en) 2019-06-20 2020-06-15 Speckle removal in a pulsed hyperspectral, fluorescence, and laser mapping imaging system

Publications (1)

Publication Number Publication Date
CN114072038A true CN114072038A (zh) 2022-02-18

Family

ID=74037159

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080045273.1A Pending CN114072038A (zh) 2019-06-20 2020-06-15 脉冲超光谱成像、荧光成像和激光标测成像系统中的散斑去除

Country Status (4)

Country Link
US (2) US11457154B2 (zh)
EP (1) EP3986236A4 (zh)
CN (1) CN114072038A (zh)
WO (1) WO2020257122A1 (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11700995B2 (en) 2019-06-20 2023-07-18 Cilag Gmbh International Speckle removal in a pulsed fluorescence imaging system
US11412152B2 (en) 2019-06-20 2022-08-09 Cilag Gmbh International Speckle removal in a pulsed hyperspectral imaging system
US11457154B2 (en) 2019-06-20 2022-09-27 Cilag Gmbh International Speckle removal in a pulsed hyperspectral, fluorescence, and laser mapping imaging system
US11412920B2 (en) 2019-06-20 2022-08-16 Cilag Gmbh International Speckle removal in a pulsed fluorescence imaging system
US20230017411A1 (en) * 2021-07-14 2023-01-19 Cilag Gmbh International Endoscope with source and pixel level image modulation for multispectral imaging

Family Cites Families (171)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3844047A (en) 1973-01-29 1974-10-29 R Carson Electronic micrometers employing digital processing techniques
JPS5940830A (ja) 1982-08-31 1984-03-06 浜松ホトニクス株式会社 レ−ザ光パルスを用いた癌の診断装置
US5318024A (en) 1985-03-22 1994-06-07 Massachusetts Institute Of Technology Laser endoscope for spectroscopic imaging
JP3217343B2 (ja) 1989-03-23 2001-10-09 オリンパス光学工業株式会社 画像処理装置
US5784162A (en) 1993-08-18 1998-07-21 Applied Spectral Imaging Ltd. Spectral bio-imaging methods for biological research, medical diagnostics and therapy
US5363387A (en) 1992-11-18 1994-11-08 Rare Earth Medical, Inc. Variable pulsewidth lasers
US5749830A (en) 1993-12-03 1998-05-12 Olympus Optical Co., Ltd. Fluorescent endoscope apparatus
US6167296A (en) * 1996-06-28 2000-12-26 The Board Of Trustees Of The Leland Stanford Junior University Method for volumetric image navigation
US7179222B2 (en) 1996-11-20 2007-02-20 Olympus Corporation Fluorescent endoscope system enabling simultaneous achievement of normal light observation based on reflected light and fluorescence observation based on light with wavelengths in infrared spectrum
US7468075B2 (en) 2001-05-25 2008-12-23 Conformis, Inc. Methods and compositions for articular repair
NL1005068C2 (nl) 1997-01-23 1998-07-27 Ct Rrn Academisch Ziekenhuis U Cathetersysteem en een daarvan deel uitmakende catheter.
DE69938493T2 (de) 1998-01-26 2009-05-20 Massachusetts Institute Of Technology, Cambridge Endoskop zur erfassung von fluoreszenzbilder
US6110106A (en) 1998-06-24 2000-08-29 Biomax Technologies, Inc. Endoscopes and methods relating to direct viewing of a target tissue
US6468265B1 (en) 1998-11-20 2002-10-22 Intuitive Surgical, Inc. Performing cardiac surgery without cardioplegia
NZ529432A (en) * 1999-01-26 2005-07-29 Newton Lab Inc Autofluorescence imaging system for endoscopy
JP3850192B2 (ja) 1999-12-09 2006-11-29 株式会社ニデック 眼底撮影装置
US20020138008A1 (en) 2000-01-13 2002-09-26 Kazuhiro Tsujita Method and apparatus for displaying fluorescence images and method and apparatus for acquiring endoscope images
CA2404600A1 (en) 2000-03-28 2001-10-04 Board Of Regents, The University Of Texas System Methods and apparatus for diagnostic multispectral digital imaging
AU2001259435A1 (en) 2000-05-03 2001-11-12 Stephen T Flock Optical imaging of subsurface anatomical structures and biomolecules
US6748259B1 (en) 2000-06-15 2004-06-08 Spectros Corporation Optical imaging of induced signals in vivo under ambient light conditions
US6975898B2 (en) 2000-06-19 2005-12-13 University Of Washington Medical imaging, diagnosis, and therapy using a scanning single optical fiber system
JP2002253500A (ja) 2001-03-05 2002-09-10 Olympus Optical Co Ltd 内視鏡用光源装置
DE60227374D1 (de) 2001-07-12 2008-08-14 Do Labs Verfahren und System zur Bereitstellung formatierter Informationen für Bildverarbeitungsvorrichtungen
AU2002324775A1 (en) 2001-08-23 2003-03-10 Sciperio, Inc. Architecture tool and methods of use
US6995841B2 (en) 2001-08-28 2006-02-07 Rice University Pulsed-multiline excitation for color-blind fluorescence detection
US6985622B2 (en) 2001-09-21 2006-01-10 Hewlett-Packard Development Company, L.P. System and method for color correcting electronically captured images by determining input media types using color correlation matrix
JP2003190091A (ja) 2001-12-26 2003-07-08 Pentax Corp 蛍光観察用照明プローブ、電子内視鏡システム及び電子内視鏡
US20060241496A1 (en) * 2002-01-15 2006-10-26 Xillix Technologies Corp. Filter for use with imaging endoscopes
WO2003068064A1 (en) 2002-02-12 2003-08-21 Science & Engineering Associates, Inc. Cancer detection and adaptive dose optimization treatment system
WO2003070098A2 (en) 2002-02-19 2003-08-28 Biophan Technologies, Inc. Magnetic resonance imaging capable catheter assembly
US8620410B2 (en) 2002-03-12 2013-12-31 Beth Israel Deaconess Medical Center Multi-channel medical imaging system
US7330305B2 (en) 2002-04-26 2008-02-12 Optiscan Pty Ltd Laser scanning confocal microscope with fibre bundle return
US6825930B2 (en) 2002-06-04 2004-11-30 Cambridge Research And Instrumentation, Inc. Multispectral imaging system
GB0217570D0 (en) 2002-07-30 2002-09-11 Univ Birmingham Method and apparatus for quantifying material or object properties
US7448995B2 (en) 2003-06-23 2008-11-11 Microvision, Inc. Scanning endoscope
EP1680024A2 (en) 2003-10-21 2006-07-19 The Board Of Trustees Of The Leland Stanford Junior University Systems and methods for intraoperative targetting
US20050205758A1 (en) 2004-03-19 2005-09-22 Almeida Leo A Method and apparatus for multi-spectral photodetection
WO2006032106A1 (en) 2004-09-24 2006-03-30 Optiscan Pty Ltd Tuning-fork-type scanning apparatus with a counterweight
US8480566B2 (en) 2004-09-24 2013-07-09 Vivid Medical, Inc. Solid state illumination for endoscopy
JP5028008B2 (ja) 2004-12-08 2012-09-19 オリンパス株式会社 蛍光内視鏡装置
US8872906B2 (en) 2005-01-05 2014-10-28 Avantis Medical Systems, Inc. Endoscope assembly with a polarizing filter
US8206301B2 (en) * 2005-02-01 2012-06-26 Fujifilm Corporation Ultrasonic imaging apparatus and ultrasonic image processing apparatus, method and program
US7530948B2 (en) 2005-02-28 2009-05-12 University Of Washington Tethered capsule endoscope for Barrett's Esophagus screening
JP2006308624A (ja) 2005-04-26 2006-11-09 Matsushita Electric Ind Co Ltd 現像装置
EP1889111A2 (en) 2005-05-25 2008-02-20 Massachusetts Institute of Technology Multifocal imaging systems and methods
US20070086495A1 (en) * 2005-08-12 2007-04-19 Sprague Randall B Method and apparatus for stable laser drive
US7312879B2 (en) 2005-08-23 2007-12-25 University Of Washington Distance determination in a scanned beam image capture device
JP5114024B2 (ja) 2005-08-31 2013-01-09 オリンパス株式会社 光イメージング装置
US7817256B2 (en) 2006-02-22 2010-10-19 Kyushu Institute Of Technology Personal authentication method and personal authentication device utilizing finger-tip blood flow measurement by laser light
US7990524B2 (en) 2006-06-30 2011-08-02 The University Of Chicago Stochastic scanning apparatus using multiphoton multifocal source
US20080058629A1 (en) 2006-08-21 2008-03-06 University Of Washington Optical fiber scope with both non-resonant illumination and resonant collection/imaging for multiple modes of operation
US20080090220A1 (en) 2006-08-28 2008-04-17 Vincent Freeman Modular virtual learning system and method
DE102006046925A1 (de) 2006-09-28 2008-04-03 Jenlab Gmbh Verfahren und Anordnung zur Laser-Endoskopie für die Mikrobearbeitung
US20100049180A1 (en) 2007-10-19 2010-02-25 Lockheed Martin Corporation System and method for conditioning animal tissue using laser light
EP2111165B8 (en) 2007-01-19 2017-10-04 Sunnybrook Health Sciences Centre Imaging probe with combined ultrasound and optical means of imaging
US20080177140A1 (en) 2007-01-23 2008-07-24 Xillix Technologies Corp. Cameras for fluorescence and reflectance imaging
JP2008259595A (ja) 2007-04-10 2008-10-30 Hamamatsu Photonics Kk 蛍光観察装置
US7787121B2 (en) * 2007-07-18 2010-08-31 Fujifilm Corporation Imaging apparatus
US8553337B2 (en) 2007-11-12 2013-10-08 Cornell University Multi-path, multi-magnification, non-confocal fluorescence emission endoscopy apparatus and methods
KR101608749B1 (ko) 2008-01-21 2016-04-06 삼성전자주식회사 박막 원심분리 분석 장치 및 이를 이용한 분석 방법
JP5165400B2 (ja) 2008-01-23 2013-03-21 オリンパス株式会社 光源装置
JP2009240621A (ja) 2008-03-31 2009-10-22 Hoya Corp 内視鏡装置
TR201901658T4 (tr) 2008-05-20 2019-02-21 Univ Health Network Floresan bazli görüntüleme ve i̇zleme i̇çi̇n ci̇haz ve metot
US20090289200A1 (en) 2008-05-22 2009-11-26 Fujifilm Corporation Fluorescent image obtainment method and apparatus, fluorescence endoscope, and excitation-light unit
EP2241244A1 (en) 2008-06-04 2010-10-20 Fujifilm Corporation Illumination device for use in endoscope
US8334900B2 (en) * 2008-07-21 2012-12-18 The Hong Kong University Of Science And Technology Apparatus and method of optical imaging for medical diagnosis
WO2010019515A2 (en) 2008-08-10 2010-02-18 Board Of Regents, The University Of Texas System Digital light processing hyperspectral imaging apparatus
US20120273470A1 (en) 2011-02-24 2012-11-01 Zediker Mark S Method of protecting high power laser drilling, workover and completion systems from carbon gettering deposits
DE102008056868B3 (de) * 2008-11-12 2010-06-24 Eads Deutschland Gmbh Lasererfassungsvorrichtung und Lasererfassungsverfahren
JP5485288B2 (ja) 2008-11-25 2014-05-07 テトラビュー, インコーポレイテッド 高解像度三次元撮像のシステムおよび方法
US8599383B2 (en) * 2009-05-06 2013-12-03 The Regents Of The University Of California Optical cytometry
JP5767775B2 (ja) * 2009-07-06 2015-08-19 富士フイルム株式会社 内視鏡装置
JP5874116B2 (ja) 2009-07-30 2016-03-02 国立研究開発法人産業技術総合研究所 画像撮影装置および画像撮影方法
JP5544219B2 (ja) * 2009-09-24 2014-07-09 富士フイルム株式会社 内視鏡システム
US9060776B2 (en) 2009-10-09 2015-06-23 Ethicon Endo-Surgery, Inc. Surgical generator for ultrasonic and electrosurgical devices
BR112012016973A2 (pt) 2010-01-13 2017-09-26 Koninl Philips Electronics Nv sistema de navegação cirúrgica para a integração de uma pluralidade de imagens de uma região anatômica de um corpo, incluíndo uma imagem pré-operatótia digitalizada, uma imagem intra-operatória fluoroscópia e uma imagem intra-operatória endoscópica
US9044142B2 (en) 2010-03-12 2015-06-02 Carl Zeiss Meditec Ag Surgical optical systems for detecting brain tumors
CN103002826B (zh) 2010-04-22 2016-11-09 精密光手术公司 闪蒸手术系统
US9946058B2 (en) 2010-06-11 2018-04-17 Nikon Corporation Microscope apparatus and observation method
US10682198B2 (en) 2010-07-02 2020-06-16 Intuitive Surgical Operations, Inc. Method and system for fluorescent imaging with background surgical image composed of selective illumination spectra
JP2012016545A (ja) 2010-07-09 2012-01-26 Fujifilm Corp 内視鏡装置
EP2637553A2 (en) 2010-11-12 2013-09-18 Emory University Additional systems and methods for providing real-time anatomical guidance in a diagnostic or therapeutic procedure
WO2012100261A1 (en) 2011-01-21 2012-07-26 Clear Align Llc System and apparatuses providing laser illumination with reduced or zero speckle
WO2013009970A1 (en) 2011-07-13 2013-01-17 Viking Systems, Inc Method and apparatus for obtaining stereoscopic 3d visualization using commercially available 2d endoscopes
US8827990B2 (en) 2011-09-29 2014-09-09 Biolase, Inc. Methods for treating eye conditions
US20130211246A1 (en) 2011-12-27 2013-08-15 Vinod PARASHER METHODS AND DEVICES FOR GASTROINTESTINAL SURGICAL PROCEDURES USING NEAR INFRARED (nIR) IMAGING TECHNIQUES
US8967811B2 (en) * 2012-01-20 2015-03-03 Lumencor, Inc. Solid state continuous white light source
JP5918548B2 (ja) 2012-01-24 2016-05-18 富士フイルム株式会社 内視鏡画像診断支援装置およびその作動方法並びに内視鏡画像診断支援プログラム
EP2719317A4 (en) 2012-03-30 2015-05-06 Olympus Medical Systems Corp ENDOSCOPE
US9277205B2 (en) 2012-05-14 2016-03-01 Intuitive Surgical Operations, Inc. Single-chip sensor multi-function imaging
JP5965726B2 (ja) 2012-05-24 2016-08-10 オリンパス株式会社 立体視内視鏡装置
US10953241B2 (en) 2012-05-25 2021-03-23 Ojai Retinal Technology, Llc Process for providing protective therapy for biological tissues or fluids
US8882662B2 (en) * 2012-06-27 2014-11-11 Camplex, Inc. Interface for viewing video from cameras on a surgical visualization system
WO2014014838A2 (en) 2012-07-15 2014-01-23 2R1Y Interactive illumination for gesture and/or object recognition
CN104619237B (zh) 2012-07-26 2018-03-30 德普伊辛迪斯制品公司 光不足环境中的ycbcr脉冲调制的照明方案
US10568496B2 (en) 2012-07-26 2020-02-25 DePuy Synthes Products, Inc. Continuous video in a light deficient environment
WO2014018948A2 (en) 2012-07-26 2014-01-30 Olive Medical Corporation Camera system with minimal area monolithic cmos image sensor
EP2878123B1 (en) 2012-07-26 2017-12-20 DePuy Synthes Products, Inc. Wide dynamic range using monochromatic sensor
CN103654701B (zh) * 2012-09-05 2016-08-10 青岛奥美克医疗科技有限公司 一种防雾内窥镜系统的装置和方法
US10206610B2 (en) 2012-10-05 2019-02-19 TransRobotics, Inc. Systems and methods for high resolution distance sensing and applications
US10178368B2 (en) 2012-10-23 2019-01-08 Intuitive Surgical Operations, Inc. Stereo imaging system with automatic disparity adjustment for displaying close range objects
US9632302B2 (en) * 2013-01-09 2017-04-25 Lumencor, Inc. Adjustable collimator for coupling a light guide to a microscope
JP6157135B2 (ja) * 2013-02-07 2017-07-05 オリンパス株式会社 光源撮像装置
JP6155684B2 (ja) 2013-02-15 2017-07-05 セイコーエプソン株式会社 照明装置、及びプロジェクター
WO2014134314A1 (en) 2013-03-01 2014-09-04 The Johns Hopkins University Light sources, medical devices, and methods of illuminating an object of interest
US9456752B2 (en) 2013-03-14 2016-10-04 Aperture Diagnostics Ltd. Full-field three-dimensional surface measurement
WO2014146053A2 (en) 2013-03-15 2014-09-18 Hypermed Imaging, Inc. Systems and methods for evaluating hyperspectral imaging data using a two layer media model of human tissue
CA2906828A1 (en) * 2013-03-15 2014-09-18 Olive Medical Corporation System and method for removing speckle from a scene lit by a coherent light source
DE102013103333A1 (de) 2013-04-03 2014-10-09 Karl Storz Gmbh & Co. Kg Kamera zur Erfassung von optischen Eigenschaften und von Raumstruktureigenschaften
EP2904961B1 (en) 2013-04-19 2018-01-03 Olympus Corporation Endoscope device
JP6304953B2 (ja) * 2013-06-27 2018-04-04 オリンパス株式会社 観察装置
US10165972B2 (en) 2013-07-12 2019-01-01 Inthesmart Co., Ltd. Apparatus and method for detecting NIR fluorescence at sentinel lymph node
JP5891208B2 (ja) 2013-08-13 2016-03-22 Hoya株式会社 内視鏡用照明光学系
DE102013109677A1 (de) * 2013-09-05 2015-03-05 MAQUET GmbH Assistenzeinrichtung zur bildgebenden Unterstützung eines Operateurs während eines chirurgischen Eingriffs
JP5997676B2 (ja) 2013-10-03 2016-09-28 富士フイルム株式会社 内視鏡用光源装置、およびこれを用いた内視鏡システム
WO2015077493A1 (en) 2013-11-20 2015-05-28 Digimarc Corporation Sensor-synchronized spectrally-structured-light imaging
EP3137007A4 (en) 2014-04-28 2017-09-27 Cardiofocus, Inc. System and method for visualizing tissue with an icg dye composition during ablation procedures
EP3940371B1 (en) 2014-06-05 2023-08-30 Universität Heidelberg Method and imaging apparatus for acquisition of fluorescence and reflectance images
GB2526879A (en) 2014-06-06 2015-12-09 Univ Southampton Hollow-core optical fibers
JP6251888B2 (ja) 2014-06-25 2017-12-27 パナソニックIpマネジメント株式会社 投影システム
TWI507674B (zh) * 2014-07-09 2015-11-11 Univ Nat Taiwan 以螢光物質檢測器官代謝功能之系統及方法
US9547165B2 (en) 2014-08-29 2017-01-17 Reinroth Gmbh Endoscope system with single camera for concurrent imaging at visible and infrared wavelengths
US10473916B2 (en) 2014-09-30 2019-11-12 Washington University Multiple-view compressed-sensing ultrafast photography (MV-CUP)
US9717417B2 (en) 2014-10-29 2017-08-01 Spectral Md, Inc. Reflective mode multi-spectral time-resolved optical imaging methods and apparatuses for tissue classification
DE102015003019A1 (de) 2015-03-06 2016-09-08 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und Vorrichtung zur optischen Detektion einer Bewegung in einer biologischen Probe mit räumlicher Ausdehnung
US20160262602A1 (en) 2015-03-09 2016-09-15 Steven Sounyoung Yu Laparoscopic Cholecystectomy With Fluorescence Cholangiography
US10043282B2 (en) 2015-04-13 2018-08-07 Gerard Dirk Smits Machine vision for ego-motion, segmenting, and classifying objects
US20170059305A1 (en) 2015-08-25 2017-03-02 Lytro, Inc. Active illumination for enhanced depth map generation
US20180064321A1 (en) 2015-05-15 2018-03-08 Sony Corporation Light source apparatus, light source driving method, and observation apparatus
JP6484336B2 (ja) 2015-06-17 2019-03-13 オリンパス株式会社 撮像装置
CA2996014C (en) * 2015-08-24 2018-07-31 Titan Medical Inc. Method and apparatus for illuminating an object field imaged by a rectangular image sensor
US10987129B2 (en) 2015-09-04 2021-04-27 Medos International Sarl Multi-shield spinal access system
EP3859425B1 (en) 2015-09-17 2024-04-17 S.D. Sight Diagnostics Ltd. Methods and apparatus for detecting an entity in a bodily sample
JP2018534979A (ja) * 2015-10-23 2018-11-29 ザ・トラスティーズ・オブ・コロンビア・ユニバーシティ・イン・ザ・シティ・オブ・ニューヨーク 組織内のレーザ誘導によるコラーゲン架橋結合
US9939231B2 (en) 2016-01-20 2018-04-10 Raytheon Company Dual-band semi-active laser system
US10980420B2 (en) 2016-01-26 2021-04-20 Stryker European Operations Limited Configurable platform
US10708478B2 (en) 2016-03-23 2020-07-07 Karl Storz Imaging, Inc. Image transformation and display for fluorescent and visible imaging
US20170280970A1 (en) * 2016-03-31 2017-10-05 Covidien Lp Thoracic endoscope for surface scanning
US10013527B2 (en) * 2016-05-02 2018-07-03 Aranz Healthcare Limited Automatically assessing an anatomical surface feature and securely managing information related to the same
US11506789B2 (en) 2016-05-16 2022-11-22 Sony Corporation Imaging device and endoscope
US10798310B2 (en) 2016-05-17 2020-10-06 Hypermed Imaging, Inc. Hyperspectral imager coupled with indicator molecule tracking
WO2017205063A1 (en) 2016-05-27 2017-11-30 Verily Life Sciences Llc Systems and methods for surface topography acquisition using laser speckle
US10838190B2 (en) 2016-06-21 2020-11-17 Sri International Hyperspectral imaging methods and apparatuses
WO2017221336A1 (ja) 2016-06-21 2017-12-28 オリンパス株式会社 内視鏡システム、画像処理装置、画像処理方法およびプログラム
US10709333B2 (en) 2016-07-25 2020-07-14 PhotoSound Technologies, Inc. Instrument for acquiring co-registered orthogonal fluorescence and photoacoustic volumetric projections of tissue and methods of its use
US11911003B2 (en) 2016-09-09 2024-02-27 Intuitive Surgical Operations, Inc. Simultaneous white light and hyperspectral light imaging systems
CN108258465A (zh) 2016-12-28 2018-07-06 连展科技(深圳)有限公司 插座电连接器
US10386489B2 (en) 2017-02-01 2019-08-20 Jeffrey Albelo Beam scanner for autonomous vehicles
JP6931705B2 (ja) 2017-02-10 2021-09-08 ノバダック テクノロジーズ ユーエルシー オープンフィールドハンドヘルド蛍光イメージングシステムおよび方法
WO2018198507A1 (ja) 2017-04-27 2018-11-01 オリンパス株式会社 光源装置システム、通常光源装置、特殊光観察用光源装置、内視鏡システム
US20180368656A1 (en) * 2017-05-24 2018-12-27 Camplex, Inc. Surgical visualization systems and displays
EP3422072B1 (en) 2017-06-30 2020-01-08 Leica Instruments (Singapore) Pte. Ltd. Illumination system, microscope comprising an illumination system and microscope method
JP2019083501A (ja) 2017-10-27 2019-05-30 ソニーセミコンダクタソリューションズ株式会社 撮像装置
US11801098B2 (en) 2017-10-30 2023-10-31 Cilag Gmbh International Method of hub communication with surgical instrument systems
CN111542748A (zh) 2017-11-13 2020-08-14 索尼公司 信息处理装置、信息处理方法和荧光图像捕捉系统
BR112020012594A2 (pt) 2017-12-27 2020-11-24 Ethicon Llc imageamento hiperespectral em um ambiente com deficiência de luz
JP2019185002A (ja) 2018-04-11 2019-10-24 ソニー株式会社 顕微鏡システム及び医療用光源装置
US20210275692A1 (en) 2018-06-19 2021-09-09 Danmarks Tekniske Universitet Solution comprising fluorescent dye as fiducial marker
US10925598B2 (en) 2018-07-16 2021-02-23 Ethicon Llc Robotically-assisted surgical suturing systems
KR102655343B1 (ko) 2018-11-15 2024-04-04 엘지디스플레이 주식회사 표시 장치 및 표시 장치의 제조 방법
US12059133B2 (en) 2019-02-18 2024-08-13 Sony Olympus Medical Solutions Inc. Light source apparatus, medical observation system, adjustment apparatus, illumination method, adjustment method, and program
US11701190B2 (en) * 2019-03-15 2023-07-18 Cilag Gmbh International Selectable variable response of shaft motion of surgical robotic systems
JP7420137B2 (ja) 2019-03-29 2024-01-23 ソニーグループ株式会社 信号処理装置、撮像装置、信号処理方法
BR112021022747A2 (pt) * 2019-05-13 2022-01-11 Bracco Imaging Spa Corantes de cianina modificados e conjugados dos mesmos
US11412920B2 (en) 2019-06-20 2022-08-16 Cilag Gmbh International Speckle removal in a pulsed fluorescence imaging system
US11457154B2 (en) 2019-06-20 2022-09-27 Cilag Gmbh International Speckle removal in a pulsed hyperspectral, fluorescence, and laser mapping imaging system
US20200397267A1 (en) 2019-06-20 2020-12-24 Ethicon Llc Speckle removal in a pulsed fluorescence imaging system
US11412152B2 (en) 2019-06-20 2022-08-09 Cilag Gmbh International Speckle removal in a pulsed hyperspectral imaging system
US11172810B2 (en) 2019-06-20 2021-11-16 Cilag Gmbh International Speckle removal in a pulsed laser mapping imaging system
US11700995B2 (en) 2019-06-20 2023-07-18 Cilag Gmbh International Speckle removal in a pulsed fluorescence imaging system
US11006093B1 (en) 2020-01-22 2021-05-11 Photonic Medical Inc. Open view, multi-modal, calibrated digital loupe with depth sensing

Also Published As

Publication number Publication date
US20200404144A1 (en) 2020-12-24
WO2020257122A1 (en) 2020-12-24
US12069377B2 (en) 2024-08-20
EP3986236A4 (en) 2023-06-28
EP3986236A1 (en) 2022-04-27
US20230028618A1 (en) 2023-01-26
US11457154B2 (en) 2022-09-27

Similar Documents

Publication Publication Date Title
US11747479B2 (en) Pulsed illumination in a hyperspectral, fluorescence and laser mapping imaging system
US20200397246A1 (en) Minimizing image sensor input/output in a pulsed hyperspectral, fluorescence, and laser mapping imaging system
US11457154B2 (en) Speckle removal in a pulsed hyperspectral, fluorescence, and laser mapping imaging system
CN114007484A (zh) 在超光谱、荧光和激光标测成像系统中使用多个发射器的场景的偏移照明
CN114245868A (zh) 使用用于超光谱和荧光成像和形貌激光标测的单色图像传感器的宽动态范围
US20200397277A1 (en) Videostroboscopy of vocal cords with a hyperspectral, fluorescence, and laser mapping imaging system
US11412920B2 (en) Speckle removal in a pulsed fluorescence imaging system
US11172810B2 (en) Speckle removal in a pulsed laser mapping imaging system
CN114128253A (zh) 内窥镜超光谱成像、荧光成像和激光标测成像系统中的图像旋转
US11516387B2 (en) Image synchronization without input clock and data transmission clock in a pulsed hyperspectral, fluorescence, and laser mapping imaging system
CN114072041A (zh) 用于超光谱成像、荧光成像和激光标测成像的内窥镜系统中的光纤波导
CN114025656A (zh) 脉冲超光谱、荧光和激光标测成像系统中的噪声感知边缘增强
CN114449940A (zh) 在缺光环境中的激光扫描和工具跟踪成像
CN114144659A (zh) 控制超光谱、荧光和激光标测成像系统中的激光脉冲的积分能量
US20200397267A1 (en) Speckle removal in a pulsed fluorescence imaging system
CN114175620A (zh) 内窥镜激光标测成像系统中的图像旋转
CN114128243A (zh) 在缺光环境中利用拓扑激光扫描进行超光谱和荧光成像
US11412152B2 (en) Speckle removal in a pulsed hyperspectral imaging system
US11700995B2 (en) Speckle removal in a pulsed fluorescence imaging system
CN114126467A (zh) 根据超光谱、荧光和激光标测成像系统中的抖动规范驱动光发射

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination