CN114072643A - 根据超光谱成像系统中的抖动规范来驱动光发射 - Google Patents

根据超光谱成像系统中的抖动规范来驱动光发射 Download PDF

Info

Publication number
CN114072643A
CN114072643A CN202080044867.0A CN202080044867A CN114072643A CN 114072643 A CN114072643 A CN 114072643A CN 202080044867 A CN202080044867 A CN 202080044867A CN 114072643 A CN114072643 A CN 114072643A
Authority
CN
China
Prior art keywords
electromagnetic radiation
wavelength
image sensor
pulses
hyperspectral
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080044867.0A
Other languages
English (en)
Inventor
J·D·塔尔伯特
D·M·威克恩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Cilag GmbH International
Original Assignee
Cilag GmbH International
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Cilag GmbH International filed Critical Cilag GmbH International
Publication of CN114072643A publication Critical patent/CN114072643A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407Optical details
    • G02B23/2461Illumination
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00186Optical arrangements with imaging filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0653Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with wavelength conversion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661Endoscope light sources
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0071Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by measuring fluorescence emission
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0205Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
    • G01J3/0218Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using optical fibers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/10Arrangements of light sources specially adapted for spectrometry or colorimetry
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2803Investigating the spectrum using photoelectric array detector
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2476Non-optical details, e.g. housings, mountings, supports
    • G02B23/2484Arrangements in relation to a camera or imaging device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/79Arrangements of circuitry being divided between different or multiple substrates, chips or circuit boards, e.g. stacked image sensors
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/063Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for monochromatic or narrow-band illumination
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0075Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/026Measuring blood flow
    • A61B5/0261Measuring blood flow using optical means, e.g. infrared light
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/20Measuring for diagnostic purposes; Identification of persons for measuring urological functions restricted to the evaluation of the urinary system
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4887Locating particular structures in or on the body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4887Locating particular structures in or on the body
    • A61B5/489Blood vessels
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4887Locating particular structures in or on the body
    • A61B5/4893Nerves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/047Picture signal generators using solid-state devices having a single pick-up sensor using multispectral pick-up elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Molecular Biology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Signal Processing (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Astronomy & Astrophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Endoscopes (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Studio Devices (AREA)

Abstract

本发明描述了根据超光谱成像系统中的抖动规范来驱动发射器以发射电磁辐射脉冲。本发明提供了一种系统,该系统包括用于发射电磁辐射脉冲的发射器以及包括用于感测反射电磁辐射的像素阵列的图像传感器。该系统包括用于根据抖动规范来驱动该发射器发射的驱动器。该系统使得由发射器发射的电磁辐射脉冲的至少一部分包括具有约513nm至约545nm、约565nm至约585nm、或约900nm至约1000nm的波长的电磁辐射。

Description

根据超光谱成像系统中的抖动规范来驱动光发射
技术领域
本公开涉及数字成像,并且具体地涉及缺光环境中的超光谱成像。
背景技术
科技的进步已提供了医用成像能力的进步。内窥镜可用于观察身体内部并检查身体的器官或腔体的内部。内窥镜用于调查患者的症状、确认诊断或提供医学治疗。医学内窥镜可用于观察多种身体系统和部分,诸如胃肠道、呼吸道、尿道、腹腔等。内窥镜还可用于外科手术,诸如整形外科手术、在关节或骨上进行的手术、在神经系统上进行的手术、在腹腔内进行的手术等。
在内窥镜成像的一些情况下,观察彩色空间可能是有利的或有必要的。数字彩色图像包括累积形成具有一系列色调的图像的至少三个层或“颜色通道”。颜色通道中的每个测量光谱带的光的强度和色度。通常,数字彩色图像包括红色光谱带、绿色光谱带和蓝色光谱带的颜色通道(这可称为红绿蓝或RGB图像)。红色、绿色和蓝色颜色通道中的每个包括红色、绿色或蓝色光谱带的亮度信息。单独的红色层、绿色层和蓝色层的亮度信息被组合以生成彩色图像。因为彩色图像由单独层构成,所以常规数字相机图像传感器包括颜色滤光器阵列,该颜色滤光器允许红色可见光波长、绿色可见光波长和蓝色可见光波长击中所选择的像素传感器。每个单独的像素传感器元件对红光、绿光或蓝光波长敏感,并且将仅返回该波长的图像数据。将来自像素传感器的总阵列的图像数据组合以生成RGB图像。至少三种不同类型的像素传感器占用大量物理空间,使得完整的像素阵列不能装配在内窥镜的较小远侧端部中。
因为传统图像传感器不能装配在内窥镜的远侧端部中,所以图像传感器传统上位于内窥镜的手持件单元中,手持件单元由内窥镜操作者握持并且不放置在体腔内。在此类内窥镜中,光沿内窥镜的长度从手持件单元传输到内窥镜的远侧端部。该配置具有显著限制。具有该配置的内窥镜是精密的,并且当其在常规使用期间发生碰撞或冲击时可容易地不对准或损坏。这可显著降低图像的质量并且需要频繁修理或更换内窥镜。
具有放置在手持件单元中的图像传感器的传统内窥镜进一步被限制为仅捕获彩色图像。然而,在一些具体实施中,除了彩色图像数据之外,还可能期望用超光谱图像数据捕获图像。彩色图像反映人眼在观察环境时检测到的内容。然而,人眼仅限于观察可见光,并且无法检测到电磁光谱的其它波长。在超过“可见光”波长的电磁光谱的其它波长下,可获得关于环境的附加信息。用于获得在可见光谱之外图像数据的一种手段是应用超光谱成像。
超光谱成像用于识别不同的材料或物体,并且通过提供超出人眼可见的信息来识别不同的过程。不同于向人眼提供有限信息的正常相机图像,超光谱成像可基于化合物和生物过程的独特光谱特征来识别特定化合物和生物过程。超光谱成像是复杂的,并且可能需要快速的计算机处理能力、灵敏的检测器和大的数据存储容量。
超光谱成像传统上需要专用的图像传感器,该图像传感器消耗显著的物理空间并且不能配合在内窥镜的远侧端部内。此外,如果超光谱图像叠加在黑白或彩色图像上以向执业医生提供上下文,则能够生成叠加图像的相机(或多个相机)可具有对不同范围的电磁辐射敏感的许多不同类型的像素传感器。这将包括用于生成RGB彩色图像的三种单独类型的像素传感器,以及用于在电磁光谱的不同波长下生成超光谱图像数据的附加像素传感器。这消耗显著的物理空间,并且需要较大的像素阵列以确保图像分辨率令人满意。在内窥镜成像的情况下,一个或多个相机将太大而不能放置在内窥镜的远侧端部处,并且因此可以放置在内窥镜手单元或机器人单元中。这引入了与上述相同的缺点,并且可导致内窥镜非常精密,使得当内窥镜在使用期间发生碰撞或冲击时,图像质量会显著降低。
根据前述内容,本文描述了用于在缺光环境中进行改善的内窥镜成像的系统、方法和装置。本文公开的系统、方法和装置提供了用内窥镜装置进行颜色和超光谱成像的手段。
附图说明
参考以下附图描述了本公开的非限制性和非完全性的具体实施,其中除非另外指明,否则在各个视图中类似的附图标号指示类似的部分。参照以下说明和附图将更好地理解本公开的优点,其中:
图1是具有成对发射器和像素阵列的用于在缺光环境中进行数字成像的系统的示意图;
图2是用于向缺光环境提供照明以进行内窥镜成像的系统;
图2A是互补系统硬件的示意图;
图3A至图3D是用于构造曝光帧的传感器的操作循环的图示;
图4A是电磁发射器的一个实施方案的操作的图形表示;
图4B是改变所发射电磁脉冲的持续时间和量值以提供曝光控制的图形表示;
图5是将图3A至图4B的传感器的操作循环、电磁发射器和所发射电磁脉冲组合的本公开的一个实施方案的图形表示,示出了操作期间的成像系统;
图6A是用于在从t(0)至t(1)的时间段内用全光谱光记录视频的过程的示意图;
图6B是通过在从t(0)至t(1)的时间段内脉冲分区光谱光来记录视频的过程的示意图;
图7A至图7E示出了在一定时间间隔内用于记录全光谱光和分区光谱光两者的视频帧的过程的示意图;
图8是通过发射器在控制信号和电磁辐射发射之间的延迟或抖动的图形显示;
图9是包括中心纤维和多个周边纤维的光纤束的剖视图;
图10是用于将电磁辐射发送至光纤束的顶帽式轮廓和高斯轮廓的图形显示;
图11是示出与相机的视场相比,来自光纤束的电磁辐射(光)的输出的侧视图;
图12是示出来自光纤束的电磁辐射的输出的侧视图,其中单独的纤维的端部旨在提供电磁辐射的更均匀分布;
图13是示出来自光纤束的电磁辐射的输出的侧视图,其中光纤束包括耦合在输出附近的塑料纤维和玻璃纤维;
图14是示出来自光纤束的电磁辐射输出的侧视图,该光纤束包括位于输出附近的漫射器;
图15是根据抖动规范的驱动发射器来照明场景的方法的示意性流程图;
图16是用于向缺光环境中的图像场景提供电磁辐射的方法的示意性流程图;
图17A至图17C示出了具有多个发射器的光源;
图18示出了在输出处经由漫射器输出以照明缺光环境中的场景的单根光纤;
图19示出了根据本公开的原理和教导内容被分成可由光源的发射器发射的多个不同子光谱的电磁光谱的一部分;
图20是示出用于生成包括由脉冲光的不同分区产生的多个曝光帧的图像帧的发射和读出时序的示意图;
图21A和图21B示出了根据本公开的原理和教导内容的具有用于产生三维图像的多个像素阵列的具体实施;
图22A和图22B分别示出了构建在多个基板上的成像传感器的具体实施的透视图和侧视图,其中形成像素阵列的多个像素列位于第一基板上,并且多个电路列位于第二基板上,并且示出了一列像素与其相关联的或对应的电路系统列之间的电连接和通信;并且
图23A和图23B分别示出了具有多个像素阵列用于产生三维图像的成像传感器的具体实施的透视图和侧视图,其中多个像素阵列和图像传感器构建在多个基板上。
具体实施方式
本文公开了用于可能主要适于医学应用诸如医学内窥镜成像的数字成像的系统、方法和装置。本公开的一个实施方案是用于在缺光环境中进行超光谱和彩色成像的内窥镜系统。本文所公开的此类方法、系统和基于计算机的产品提供用于医学机器人应用诸如用于执行成像规程、外科规程等的机器人的使用的成像或诊断能力。
本公开的一个实施方案是一种内窥镜成像系统,其包括用于发射电磁辐射脉冲以照明场景的发射器。该系统包括驱动器,该驱动器用于根据抖动规范来驱动发射器以发射电磁辐射脉冲。抖动是与周期性信号,诸如由发射器发射的电磁辐射的周期性脉冲或图像传感器的周期性读出的真实周期性的偏差,如本文进一步讨论的。抖动周期是随时间变化的信号的最大效果或最小效果的两个时间之间的间隔。抖动频率是抖动周期的倒数。当在本文所讨论的图像系统中存在抖动时,抖动引起不规则的场景照明、所得视频流中的闪烁,以及图像质量的整体降低。根据前述内容,本文公开了用于根据脉冲的内窥镜成像系统中的抖动规范来驱动发射器来发射电磁辐射脉冲的系统、方法和装置。
常规内窥镜被设计成使得图像传感器被放置在手持件单元内的装置的近侧端部处。该配置要求入射光通过精确耦合的光学元件行进内窥镜的长度。精确光学元件在正常使用期间容易不对准,并且这可导致图像失真或图像损失。本公开的实施方案将图像传感器放置在内窥镜本身的远侧端部中的空间高度受限环境内。与本领域中已知的具体实施相比,这提供了更大的光学简单性。然而,该方法的可接受解决方案绝不简单并且引发了其自身的一系列工程挑战。
当图像传感器的总体尺寸被最小化使得图像传感器可装配在内窥镜的远侧末端内时,可存在图像质量的显著损失。可通过减少像素数量和/或减小每个单个像素的感测区域来减小图像传感器的像素阵列的面积。这些修改中的每一者都影响所得图像的分辨率、灵敏度和动态范围。传统内窥镜成像系统旨在通过分段像素阵列诸如拜耳模式阵列来感测稳定宽带照明并提供颜色信息。鉴于与分段像素阵列相关联的缺陷,本文公开了使用不包括单个像素滤光器的单色(可被称为“颜色不定”)像素阵列的另选系统和方法。在本文所公开的实施方案中,通过用不同波长的电磁辐射脉冲发射器来提供颜色信息。本文所公开的脉冲成像系统可生成上面叠加有超光谱成像数据的彩色图像。
在一个实施方案中,颜色信息通过响应于不同波长的电磁辐射的脉冲来捕获独立的曝光帧而确定。另选脉冲可包括红光波长、绿光波长和蓝光波长,用于生成由红色曝光帧、绿色曝光帧和蓝色曝光帧组成的RGB图像帧。在另选具体实施中,另选脉冲可包括光的亮度(“Y”)脉冲、红色度(“Cr”)脉冲和蓝色度(“Cb”)脉冲,用于生成由亮度数据、红色度数据和蓝色度数据组成的YCbCr图像帧。彩色图像帧还可包括来自叠加在RGB或YCbCr图像帧上的超光谱曝光帧的数据。超光谱脉冲可包括用于引发光谱响应的一个或多个电磁辐射脉冲。在一个实施方案中,超光谱发射包括具有约513nm至约545nm;约565nm至约585nm;或约900nm至约1000nm的波长的电磁辐射中的一种或多种。脉冲电磁辐射的波长交替允许利用全像素阵列并避免拜耳模式像素阵列引发的伪影。
在一些情况下,希望生成具有彼此叠层的多种数据类型或多个图像的内窥镜成像。例如,希望生成还包括叠加在彩色图像上的超光谱成像数据的彩色(RGB或YCbCr)图像。具有这种性质的重叠图像可使得执业医生或计算机程序能够基于超光谱成像数据识别关键身体结构。历史上,这将需要使用多个传感器系统,该多个传感器系统包括用于彩色成像的图像传感器和用于超光谱成像的一个或多个附加的图像传感器。在此类系统中,多个图像传感器将具有各自对不同范围的电磁辐射敏感的多种类型的像素传感器。在本领域已知的系统中,这包括用于生成彩色图像的三种单独类型的像素传感器,以及用于在不同波长的电磁光谱下生成超光谱图像数据的附加的像素传感器。这些多个不同的像素传感器占据过大的物理空间,并且无法位于内窥镜的远侧末端处。在本领域已知的系统中,一个或多个相机不放置在内窥镜的远侧末端处,而是放置在内窥镜手持件或机器人单元中。这引发了许多缺点并且导致内窥镜非常脆弱。当脆弱的内窥镜在使用期间受到碰撞或冲击时,可能损坏内窥镜并降低图像质量。考虑到上述情况,本文公开了用于在缺光环境中进行内窥镜成像的系统、方法和装置。本文所公开的系统、方法和装置提供了在单个成像会话中采用多种成像技术同时允许一个或多个图像传感器设置在内窥镜的远侧末端中的方式。
超光谱成像
在一个实施方案中,本文所公开的系统、方法和装置提供了用于在缺光环境中生成超光谱成像数据的方式。光谱成像使用跨电磁光谱的多个频带。这不同于仅捕获跨越基于人眼可分辨的可见光谱的三个波长(包括红光、绿光和蓝光波长)的光以生成RGB图像的常规相机。光谱成像可使用电磁光谱中的任何波长带,包括红外波长、可见光谱、紫外光谱、x射线波长或各种波长带的任何合适的组合。
超光谱成像最初开发用于采矿和地质中的应用。不同于向人眼提供有限信息的正常相机图像,超光谱成像可基于不同矿物质的光谱特征来识别特定矿物质。高光谱成像即便在捕获于航拍图像中时也很有用,并且可提供关于例如来自管道或天然井的油或气泄漏以及它们对附近植被的影响的信息。基于可通过超光谱成像识别的某些材料、对象或过程的光谱特征来收集该信息。超光谱成像也可用于医学成像应用中,其中某些组织、化学过程、生物过程和疾病可以基于独特的光谱特征来识别。
在超光谱成像的一个实施方案中,在图像平面中的每个像素处收集完整光谱或一些光谱信息。超光谱相机可使用特殊硬件来针对每个像素捕获任何合适数量的波长带,该波长带可被解释为完整光谱。超光谱成像的目标针对不同的应用而变化。在一个应用中,目标是获得图像场景中每个像素的整个电磁光谱的成像数据。在另一应用中,目标是获得图像场景中每个像素的电磁光谱的某些分区的成像数据。可以基于图像场景中可能识别的内容来选择电磁光谱的某些分区。当某些材料或组织在可见光波长带下不能被识别时,这些应用使得能够精确地识别这些材料、组织、化学过程、生物过程和疾病。在一些医学应用中,超光谱成像包括已经选择以识别某些组织、疾病、化学过程等的电磁光谱的一个或多个特定分区。可以在医学应用中脉冲用于超光谱成像的电磁光谱的一些示例性分区包括波长为约513nm至约545nm;约565nm至约585nm;和/或约900nm至约1000nm的波长的电磁辐射的发射。
超光谱成像实现许多优于常规成像的优点,并且在医学应用中实现特定优点。内窥镜超光谱成像允许健康执业医生或计算机实现的程序识别神经组织、肌肉组织、血管、癌细胞、典型的非癌细胞、血流方向等。超光谱成像使得非典型癌组织能够与典型健康组织精确区分,并且因此可使得执业医生或计算机实施的程序能够在手术或研究成像期间分辨癌性肿瘤的边界。通过超光谱成像获得的信息使得能够精确地识别可能导致在使用常规成像的情况下可能不可诊断或可能诊断不太准确的某些组织或病症。另外,在医学规程期间可使用超光谱成像来提供图像引导的外科手术,使得执业医生能够例如查看位于某些组织或流体后面的组织,识别与典型健康细胞形成对比的非典型癌细胞,识别某些组织或病症,识别关键结构等。超光谱成像提供不能用常规成像生成的关于组织生理、形态和组成的专用诊断信息。
在本公开的一个实施方案中,内窥镜系统照明源并脉冲用于光谱或超光谱成像的电磁辐射。本文讨论的脉冲超光谱成像包括脉冲电磁光谱的一个或多个带,并且可以包括红外波长、可见光谱、紫外光谱、x射线波长或各种波长带的任何合适的组合。在一个实施方案中,超光谱成像包括具有约513nm至约545nm;约565nm至约585nm;和/或约900nm至约1000nm的波长的电磁辐射的发射。
脉冲成像
本公开的一些具体实施包括传感器和系统组合设计的各个方面,该设计能够在受限的照明环境中以减少的像素数生成高清晰度图像。这是通过以下来实现的:逐帧地脉冲单色波长,并且使用受控光源结合高帧捕获速率和特别设计的对应单色传感器在单个不同颜色波长之间切换或交替每个帧。另外,可脉冲可见光谱外的电磁辐射以使得能够生成超光谱图像。像素可以是颜色不定的,使得每个像素生成针对每个电磁辐射脉冲的数据,该每个电磁辐射脉冲包括红色、绿色和蓝色可见光波长以及可用于超光谱成像的其他波长的脉冲。
本公开的系统是在缺光环境中使用的内窥镜系统。该系统包括内窥镜,该内窥镜包括图像传感器,其中该图像传感器被配置为感测用于生成多个曝光帧的所反射的电磁辐射,该多个曝光帧可被组合以生成上面叠加有超光谱数据的RGB图像帧。系统包括用于发射电磁辐射脉冲的发射器。系统包括与图像传感器和发射器电通信的控制器(可另选地称为“控制电路”)。控制器响应于对应于发射器的占空比的信号来控制发射器的占空比。图像传感器包括可发送和接收信息的双向焊盘。图像传感器的双向焊盘在帧周期中操作,该帧周期被分成三个限定状态,包括滚动读出状态、服务线状态和配置状态。系统包括设置在控制器中的振荡器和连接到控制器的频率检测器。频率检测器响应于来自控制器的对应于振荡器频率的信号来控制图像传感器的时钟频率。系统使得时钟信号数据在服务线阶段和配置阶段期间从图像传感器的双向焊盘传输到控制器。系统使得曝光帧在不使用输入时钟或数据传输时钟的情况下同步。
为了促进对根据本公开的原理的理解的目的,现在将参考附图中所示的实施方案,并且将使用特定的语言来描述这些实施方案。然而,应当理解,因此并不旨在限制本公开的范围。本文所示的本发明特征的任何改变和进一步修改,以及如本文所示的本公开的原理的任何附加的应用(其对于相关领域的技术人员和了解本公开内容的人通常将会发生)将被认为在受权利要求书保护的公开的范围内。
在公开和描述用于在缺光环境中产生图像的结构、系统和方法之前,应当理解,本公开不限于本文所公开的特定结构、配置、工艺步骤和材料,因为此类结构、配置、工艺步骤和材料可一定程度地变化。另外应当理解,本文所用的术语只是为了描述具体实施方案的目的,并不旨在进行限制,因为本发明的范围将仅由所附权利要求书及其等同形式来限定。
在描述及对本公开的主题提出权利要求时,将根据下列定义使用以下术语。
应当指出的是,如本说明书和所附权利要求书中使用的单数形式“一种”、“一个”和“该”包括多个指代物,除非上下文中明确表示其它含义。
如本文所用,术语“包括”、“包含”、“其特征在于”以及它们的语法同等成分是非遍举的或开放式的术语,不排除额外的、未述及的要素或方法步骤。
如本文所用,短语“由……组成”及其语法同等成分排除未载入权利要求书的任何要素或步骤。
如本文所用,短语“主要由……组成”及其语法同等成分将权利要求的范围限制于规定的材料或步骤以及本质上不影响被要求保护的本公开的之一种或多种基本及新颖特征的材料或步骤。
如本文所用,术语“近侧”广义上是指靠近起始点的部分的概念。
如本文所用,术语“远侧”一般是指与近侧相反,因此根据上下文其是指距离起始点较远的部分或最远的部分的概念。
如本文所用,颜色传感器或多光谱传感器是那些已知具有颜色滤光器阵列(CFA)的传感器,在其上以便将入射电磁辐射过滤为其单个分量。在电磁光谱的可见范围中,此类CFA可以基于拜尔模板或其修改形式,以便分离光线中的绿色、红色和蓝色光谱分量。
如本文所用,单色传感器是指无过滤功能的成像传感器。因为像素是颜色不定的,所以其有效空间分辨率明显高于传统单传感器相机中的像素颜色(通常采用拜耳模式过滤)对等物。由于单个像素之间浪费的入射光子较少,因此单色传感器也可具有更高的量子效率。
如本文所用,发射器是能够生成和发射电磁脉冲的装置。发射器的各种实施方案可被配置为发射脉冲并且具有来自整个电磁光谱内的非常特定的频率或频率范围。脉冲可包括来自可见范围和不可见范围的波长。发射器可循环打开和关闭以产生脉冲,或者可利用快门机构产生脉冲。发射器可具有可变功率输出电平,或者可利用辅助装置诸如光圈或滤光器进行控制。发射器可发射可通过颜色滤光或快门开闭产生脉冲的宽光谱或全光谱电磁辐射。发射器可包括单独或协同起作用的多个电磁源。
应当指出,如本文所用,术语“光”既是粒子又是波长,并且旨在表示可被像素阵列122检测的电磁辐射,并且可包括来自可见光谱和不可见光谱的电磁辐射的波长。本文所用的术语“分区”是指电磁光谱的预定波长范围,其小于整个光谱,或者换句话讲,构成电磁光谱的某一部分的波长。如本文所用,发射器是关于所发射的电磁光谱的一部分可控制的光源,或是可操作其部件的物理性质、发射强度或发射持续时间或以上所有的光源。发射器可发射任何抖动的、漫射的或准直的发射中的光,并且可通过数字方式或通过模拟方法或系统来进行控制。如本文所用,电磁发射器是电磁能量爆发源,并且其包括光源,诸如激光、LED、白炽光、或可进行数字控制的任何光源。
现在参见附图,图1示出了用于在缺光环境中进行序列脉冲成像的系统100的示意图。可部署系统100以生成RGB图像,其中超光谱数据叠加在RGB图像上。系统100包括发射器102和像素阵列122。发射器102在缺光环境112中脉冲电磁辐射的分区,并且像素阵列122感测反射电磁辐射的实例。发射器102和像素阵列122按顺序工作,使得电磁辐射的分区的一个或多个脉冲产生包括由像素阵列122感测的图像数据的曝光帧。
图像传感器的像素阵列122可与发射器102以电子方式配对,使得发射器102和像素阵列122在操作期间同步,以用于接收发射和用于系统内所进行的调节两者。发射器102可被调谐成发射激光形式的电磁辐射,该电磁辐射可被脉冲以照明缺光环境112。发射器102可以对应于像素阵列122的操作和功能的间隔脉冲。发射器102可脉冲多个电磁分区中的光,使得像素阵列接收电磁能量并产生与每个特定电磁分区在时间上对应的数据集。例如,图1示出了具体实施,其中发射器102发射电磁辐射的四个不同分区,包括红色104波长、绿色106波长、蓝色108波长和超光谱110发射。超光谱110发射可以包括电磁光谱中引起光谱响应的波长带。超光谱110发射可包括彼此分开且独立的多个单独发射。
在图1中未示出的另选实施方案中,光的脉冲发射包括亮度(“Y”)发射、红色度(“Cr”)发射和蓝色度(“Cb”)发射,而不是脉冲红色104发射、脉冲绿色106发射和脉冲蓝色108发射。在一个实施方案中,控制器或发射器102根据颜色变换系数来调制电磁辐射脉冲以提供亮度和/或色度信息,该颜色变换系数将光能从红色光能空间、绿色光能空间和蓝色光能空间转换到亮度光能空间、红色度光能空间和蓝色度光能空间。光的脉冲发射还可包括调制的蓝色度(“λY+Cb”)脉冲和/或调制的红色度(“δY+Cr”)脉冲。
缺光环境112包括反射红色114光、绿色116光和/或蓝色118光的组合的结构、组织和其它元件。被感知为红色114的结构将反射脉冲红色104光。来自红色结构的反射导致在脉冲红色104发射之后,像素阵列122感测到红色105。由像素阵列122感测到的数据产生红色曝光帧。被感知为绿色116的结构将反射脉冲绿色106光。来自绿色结构的反射导致在脉冲绿色106发射之后,像素阵列122感测到绿色107。由像素阵列122感测到的数据产生绿色曝光帧。被感知为蓝色118的结构将反射脉冲蓝色108光。来自蓝色结构的反射导致在脉冲蓝色108发射之后,像素阵列122感测到蓝色109。由像素阵列122感测到的数据产生蓝色曝光帧。
当结构为颜色的组合时,结构将反射脉冲红色104发射、脉冲绿色106发射和/或脉冲蓝色108发射的组合。例如,被感知为紫色的结构将反射来自脉冲红色104发射和脉冲蓝色108发射的光。由像素阵列122感测到的所得数据将指示光在脉冲红色104发射和脉冲蓝色108发射之后的相同区域中被反射。当所得红色曝光帧和蓝色曝光帧组合形成RGB图像帧时,RGB图像帧将指示结构是紫色的。
在其中缺光环境112包括荧光试剂或荧光染料或者包括一个或多个荧光结构、组织或其它元件的实施方案中,脉冲方案可包括某些荧光激发波长的发射。可选择某些荧光激发波长以使已知的荧光试剂、荧光染料或其它结构发荧光。荧光结构将对荧光激发波长敏感并且将发射荧光弛豫波长。在发射荧光激发波长之后,荧光弛豫波长将由像素阵列122感测到。由像素阵列122感测到的数据产生荧光曝光帧。荧光曝光帧可与多个其它曝光帧组合以形成图像帧。荧光曝光帧中的数据可叠层在包括来自红色曝光帧、绿色曝光帧和蓝色曝光帧的数据的RGB图像帧上。
在其中缺光环境112包括对电磁光谱的某些分区发射光谱响应的结构、组织或其它材料的实施方案中,脉冲方案可包括电磁辐射的超光谱分区的发射,用于引发来自存在于缺光环境112中的结构、组织或其它材料的光谱响应。光谱响应包括某些波长的电磁辐射的发射或反射。光谱响应可由像素阵列122感测并产生超光谱曝光帧。超光谱曝光帧可与多个其它曝光帧组合以形成图像帧。超光谱曝光帧中的数据可叠层在包括来自红色曝光帧、绿色曝光帧和蓝色曝光帧的数据的RGB图像帧上。
在一个实施方案中,脉冲方案包括激光标测模式或工具跟踪模式的发射。在发射激光标测模式或工具跟踪模式之后,由像素阵列122感测到的反射电磁辐射产生激光标测曝光帧。可将激光标测曝光帧中的数据提供给对应的系统,以识别例如在缺光环境112中存在的工具之间的距离、缺光环境112中场景的三维表面形貌、场景内结构或对象的距离、尺寸或位置等。该数据可叠层在RGB图像帧上或以其它方式提供给系统的用户。
发射器102可以是能够发射脉冲红色104光的激光发射器,以用于生成感测到的红色105数据,从而识别缺光环境112内的红色114元件。发射器102还能够发射脉冲绿色106光,以用于生成感测到的绿色107数据,从而识别缺光环境内的绿色116元件。发射器102还能够发射脉冲蓝色108光,以用于生成感测到的蓝色109数据,从而识别缺光环境内的蓝色118元件。发射器102进一步能够发射超光谱110发射以识别对超光谱120辐射敏感的元件。发射器102能够以任何期望的顺序发射脉冲红色104、脉冲绿色106、脉冲蓝色108和脉冲超光谱110发射。
像素阵列122感测反射电磁辐射。感测红色105、感测绿色107、感测蓝色109和感测超光谱111数据中的每一者可被称为“曝光帧”。感测超光谱111可导致彼此分开且独立的多个单独曝光帧。例如,感测的超光谱111可以在电磁辐射的第一分区处产生第一超光谱曝光帧,在电磁辐射的第二分区处产生第二超光谱曝光帧,等等。为每个曝光帧分配特定颜色分区或波长分区,其中分配基于来自发射器102的脉冲颜色或波长分区的定时。曝光帧与所分配的特定颜色或波长分区的组合可被称为数据集。即使像素122不是颜色专用的,也可基于关于发射器的先验信息为任何给定数据集分配颜色。
例如,在操作期间,在脉冲红色104光在缺光环境112中被脉冲后,像素阵列122感测反射电磁辐射。反射电磁辐射产生曝光帧,并且该曝光帧被归类为感测到的红色105数据,因为它在时间上与脉冲红色104光对应。曝光帧与其在时间上与脉冲红色104光对应的指示的组合是“数据集”。针对由发射器102发射的电磁辐射的每个分区重复该过程。像素阵列122形成的数据包括感测到的红色105曝光帧,其用于识别缺光环境中的红色114分量并且在时间上与脉冲红色104光对应。该数据还包括感测到的绿色107曝光帧,其用于识别缺光环境中的绿色116分量并且在时间上与脉冲绿色106光对应。该数据还包括感测到的蓝色109曝光帧,其用于识别缺光环境中的蓝色118分量并且在时间上与脉冲蓝色108光对应。数据还包括感测到的超光谱111曝光帧,其识别对超光谱120辐射敏感并在时间上与超光谱110发射相对应的元件。
在一个实施方案中,将代表RED电磁脉冲、GREEN电磁脉冲和BLUE电磁脉冲的三个数据集组合以形成单个图像帧。因此,将红色曝光帧、绿色曝光帧和蓝色曝光帧中的信息组合以形成单个RGB图像帧。表示其它波长分区的一个或多个附加数据集可叠层在单个RGB图像帧上。该一个或多个另外的数据集可表示例如激光标测数据、荧光成像数据和/或超光谱成像数据。
应当理解,在不脱离本公开的范围的情况下,本公开不限于任何特定的颜色组合或任何特定的电磁分区,并且任何颜色组合或任何电磁分区均可用于代替RED、GREEN和BLUE,诸如青色、洋红色和黄色;紫外线;红外线;前述的任何组合或任何其它颜色组合,包括所有可见波长和不可见波长。在图中,待成像的缺光环境112包括红色114部分、绿色116部分和蓝色118部分,并且还包括对超光谱120辐射敏感的元件,该元件可被感测并标测到三维渲染中。如图所示,来自电磁脉冲的反射光仅包含对象的具有对应于脉冲颜色分区的特定颜色的部分的数据。这些单独的颜色(或颜色间隔)数据集可随后用于通过在126处组合数据集来重建图像。多个曝光帧(即,多个数据集)中的每个曝光帧中的信息可以由控制器124、控制电路、相机控制器、图像传感器、图像信号处理流水线或一些其他计算资源组合,这些计算资源可被配置为在126处处理多个曝光帧并且组合数据集。如本文所讨论的,控制器124可以包括控制电路、相机控制器和/或图像信号处理流水线的结构和功能。数据集可被组合以在内窥镜单元自身内或由一些其它处理资源在异地生成单个图像帧。
图2是用于向缺光环境提供照明诸如以进行内窥镜成像的系统200。系统200可与本文所公开的系统、方法或装置中的任一者结合使用。系统200包括发射器202、控制器204、跳线波导206、波导连接器208、内腔波导210、内腔212和具有附带的光学部件(诸如透镜)的图像传感器214。发射器202(通常可被称为“光源”)生成行进穿过跳线波导206和内腔波导210的光,以照明内腔212的远侧端部处的场景。发射器202可用于发射任何波长的电磁能量,包括可见波长、红外、紫外、超光谱、荧光激发、激光标测脉冲方案或其他波长。可将内腔212插入患者体内以进行成像,诸如在规程或检查期间。如虚线216所示输出光。可使用图像传感器214捕获由光照明的场景并且向医生或一些其他医学人员显示该场景。控制器204可向发射器202提供控制信号以控制何时向一个场景提供照明。在一个实施方案中,发射器202和控制器204位于内窥镜所连接的相机控制器(CCU)或外部控制台内。如果图像传感器214包括CMOS传感器,则可在所谓的消隐周期期间以图像传感器214的读出周期之间的一系列照明脉冲周期性地向该场景提供光。因此,光可以受控方式被脉冲,以避免重叠到图像传感器214的像素阵列中的图像像素的读出周期中。
在一个实施方案中,内腔波导210包括一根或多根光纤。考虑到内腔波导210和/或内窥镜的其它部分的弃置,这些光纤可由低成本材料(诸如塑料)制成。在一个实施方案中,内腔波导210是直径为500微米的单根玻璃纤维。跳线波导206可永久性地附接到发射器202。例如,跳线波导206可从发射器202内的发射器接收光,并且在连接器208的位置处向内腔波导210提供光。在一个实施方案中,跳线波导106包括一根或多根玻璃光纤。跳线波导可包括用于将光引导至内腔波导210的任何其它类型的波导。连接器208可将跳线波导206选择性地耦合到内腔波导210,并且允许跳线波导206内的光传递到内腔波导210。在一个实施方案中,内腔波导210直接被耦合到光源,而无需任何居间跳线波导206。
图像传感器214包括像素阵列。在一个实施方案中,图像传感器214包括用于生成三维图像的两个或更多个像素阵列。图像传感器214可构成两个以上的图像传感器,每个图像传感器具有独立的像素阵列并且可彼此独立地操作。图像传感器214的像素阵列包括有效像素和光学黑色(“OB”)像素或光学盲像素。有效像素可以是能够针对任何波长的电磁辐射感测成像数据的透明的“颜色不定”像素。当“重置”或校准像素阵列时,在像素阵列的消隐周期期间读取光学黑色像素。在一个实施方案中,当读取光学黑色像素时,光在像素阵列的消隐周期期间脉冲。在读取了光学黑色像素之后,在像素阵列的读出周期期间读取有效像素。有效像素可由在消隐周期期间脉冲的电磁辐射充电,使得有效像素准备好在像素阵列的读出周期期间由图像传感器读取。
图2A是互补系统硬件诸如专用或通用计算机的示意图。处于本公开的范围内的具体实施也可包括用于承载或存储计算机可执行指令和/或数据结构的物理介质及其它非暂态计算机可读介质。此类计算机可读介质可为可通过通用或专用计算机系统访问的任何可用介质。存储计算机可执行指令的计算机可读介质为计算机存储介质(装置)。承载计算机可执行指令的计算机可读介质为传输介质。因此,以举例而非限制性的方式,本公开的具体实施可包括至少两种明显不同种类的计算机可读介质:计算机存储介质(装置)和传输介质。
计算机存储介质(装置)包括RAM、ROM、EEPROM、CD-ROM、固态硬盘(“SSD”)(例如,基于RAM)、闪存存储器、相变存储器(“PCM”)、其它类型的存储器、其它光盘存储器、磁盘存储器或其它磁存储器装置、或任何其它可用于存储所需的呈计算机可执行指令或数据结构的形式的程序代码工具并可通过通用或专用计算机来访问的介质。
“网络”是指一个或多个数据链路,其能够使电子数据在计算机系统和/或模块和/或其它电子装置之间进行传输。在一个具体实施中,传感器与相机控制器可网络化,以便彼此通信,以及与通过它们所连接网络进行连接的其他部件进行通信。当信息通过网络或另外的通信连接(硬连接、无线或者硬连接或无线的组合)传送或提供至计算机时,计算机合理地将该连接视作传输介质。传输介质可包括网络和/或数据链路,该网络和/或数据链路可用于承载期望的呈计算机可执行指令或数据结构的形式的程序代码工具并可通过通用或专用计算机来访问。上述组合也应涵盖在计算机可读介质的范围内。
另外,在到达各种计算机系统部件时,呈计算机可执行指令或数据结构的形式的程序代码工具,其可由传输介质自动传送至计算机存储介质(装置)(反之亦然)。例如,通过网络或数据链路接收的计算机可执行指令或数据结构可缓存于网络接口模块(例如,“NIC”)内的RAM中,然后最终传送至计算机系统RAM和/或计算机系统的非易失性计算机存储介质(装置)中。RAM还可包括固态硬盘(SSD或基于PCIx的实时存储器分层存储装置,诸如FusionIO)。因此,应当理解,计算机存储介质(装置)可包括在计算机系统部件中,该计算机系统部件还(或甚至主要)利用了传输介质。
计算机可执行指令包括例如在由一个或多个处理器执行时致使通用计算机、专用计算机或专用处理装置执行某些功能或功能群的指令和数据。计算机可执行指令可为(例如)二进制、中间格式指令(诸如汇编语言)、或者甚至为源代码。尽管在语言上针对结构特征和/或方法步骤阐述了本发明的主题,然而应当理解,随附权利要求书中所限定的主题未必仅限于上文所述的特征或步骤。更确切地说,上文所述的特征和步骤是作为实施权利要求书的例子形式而公开的。
本领域的技术人员应当理解,本公开可在网络计算环境中实现,该网络计算环境具有多种类型的计算机系统配置,包括个人电脑、台式计算机、笔记本电脑、信息处理器、控制器、相机控制器、手持设备、手持件、多处理器系统、基于微处理器的或可编程的电子消费品、网络PC、小型计算机、大型计算机、移动电话、PDA、平板电脑、传呼机、路由器、交换机、各种存储装置等等。应当指出的是,任意上述计算设备都可由实体机构提供或位于实体机构内。本公开也可在分布式系统环境中实现,其中本地和远程计算机系统通过网络连接起来(通过硬连接数据链路、无线数据链路或硬连接数据链路与无线数据链路的组合),两者均可执行任务。在分布式系统环境中,程序模块可位于本地和远程存储器存储装置二者中。
另外,在适当的情况下,本文所述的功能可通过硬件、软件、固件、数字部件或模拟部件中的一种或多种来执行。例如,可对一种或多种专用集成电路(ASIC)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。在整个下面的描述和权利要求中所用的某些术语是指特定的系统部件。本领域的技术人员应当理解,部件可具有不同的名称。本文并非旨在在名称上而非功能上不同的部件之间进行辨别。
图2A是示出了示例性计算装置250的框图。计算装置250可用于执行各种程序,诸如本文所讨论的那些程序。计算装置250可用作服务器、客户端或任何其他计算实体。计算装置250可执行本文所讨论的各种监测功能,并且可执行一种或多种应用程序,诸如本文所述的应用程序。计算装置250可为各种计算装置中的任意一种,诸如台式计算机、笔记本电脑、服务器电脑、掌上电脑、相机控制器、平板电脑,等等。
计算装置250包括一个或多个处理器252、一个或多个存储器装置254、一个或多个接口256、一个或多个大容量存储装置258、一个或多个输入/输出(I/O)装置260和显示装置280,所有这些均耦合到总线262。处理器252包括一个或多个处理器或控制器,其执行存储在存储器装置254和/或大容量存储装置258中的指令。处理器252还可以包括各种类型的计算机可读介质,诸如高速缓存存储器。
存储器装置254包括各种计算机可读介质,诸如易失性存储器(例如,随机存取存储器(RAM)264)和/或非易失性存储器(例如,只读存储器(ROM)266)。存储器装置254还可包括可重写ROM,诸如闪存存储器。
大容量存储装置258包括各种计算机可读介质,诸如磁带、磁盘、光盘、固态存储器(例如,闪存存储器)等。如图2中所示,特定的大容量存储装置为硬盘驱动器274。各种驱动器也可包括在大容量存储装置258中以能够从各种计算机可读介质中进行读取和/或写入其中。大容量存储装置258包括可移动介质276和/或不可移动介质。
I/O装置260包括能够向计算装置250输入或从计算装置检索数据和/或其他信息的各种装置。示例性I/O装置260包括数字成像装置、电磁传感器和发射器、光标控制装置、键盘、小键盘、麦克风、监测器或其他显示装置、扬声器、打印机、网络接口卡、调制解调器、透镜、CCD或其他图像捕获装置,等等。
显示装置280包括能够向计算装置250的一个或多个用户显示信息的任何类型的装置。显示装置280的示例包括监测器、显示终端、视频投影装置,等等。
接口256包括允许计算装置250与其他系统、装置或计算环境进行交互的各种接口。示例性接口256可包括任何数量的不同网络接口270,诸如连接局域网(LAN)、广域网(WAN)、无线网和互联网的接口。其他接口包括用户接口268和外围装置接口272。接口256还可包括一个或多个用户接口元件268。接口256还可包括一个或多个外围接口,诸如用于打印机、指示装置(鼠标、触控板等)、键盘等的接口。
总线262允许处理器252、存储器装置254、接口256、大容量存储装置258和I/O装置260彼此通信,并且与耦合到总线262的其他装置或部件通信。总线262表示若干类型的总线结构(诸如系统总线、PCI总线、IEEE 1394总线、USB总线等等)中的一种或多种。
出于示例性目的,本文所示的程序和其它可执行程序器件为分立块体,但应当理解,此类程序和器件可驻留在计算装置250的不同存储器件中的各个时间,并由处理器252执行。或者,本文所述的系统和程序可通过硬件来实现,或通过硬件、软件和/或固件的组合来实现。例如,可对一种或多种专用集成电路(ASIC)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。
图3A示出了在滚动读出模式或在图像传感器读出300期间使用的传感器的操作循环。帧读出可在竖直线310处开始并且可由该竖直线表示。读出周期由对角线或斜线302表示。传感器可逐行读出,向下倾斜边缘的顶部为传感器顶行312,并且向下倾斜边缘的底部为传感器底行314。在最后一行读出和下一读出循环之间的时间可被称为消隐周期316。应当指出,传感器像素行中的一些可覆盖有光屏蔽件(例如,金属涂层或另一种材料类型的任何其它大体上黑色的层)。这些被覆盖的像素行可被称为光学黑色行318和320。光学黑色行318和320可用作校正算法的输入。如图3A所示,这些光学黑色行318和320可位于像素阵列的顶部上或像素阵列的底部或像素阵列的顶部和底部。
图3B示出了控制曝光至像素从而被像素集成或聚积的电磁辐射(例如,光)的量的方法。应当理解,光子是电磁辐射的基本粒子。光子被每个像素集成、吸收或累积并转换为电荷或电流。电子快门或卷帘式快门(点划线322所示)可用于通过复位像素来开始集成时间。然后光将集成直到下一读出阶段为止。电子快门322的位置可在两个读出循环302之间移动,以便控制给定量的光的像素饱和度。应当指出,该技术允许在两个不同行之间的集成时间恒定,但在从顶行移动到底行时引入延迟。
图3C示出了电子快门322已被移除的情况。在该配置中,入射光的集成可在读出302期间开始,并且可在下一读出循环302处结束,该下一读出循环也限定下一集成的开始。
图3D示出了没有电子快门322但在消隐周期316期间具有受控和脉冲光210的配置。这确保所有行看到的光与从相同光脉冲210发出的光相同。换句话讲,每行将在黑暗环境中开始其集成,这可位于读出帧(m)的光学黑色后行320以获得最大的光脉冲宽度,并且然后将接收光通并且将在黑暗环境中结束其集成,这可位于下一后续读出帧(m+1)的光学黑色前行318以获得最大的光脉冲宽度。在例如图3D中,由光脉冲生成的图像将仅在帧(m+1)读出期间可用,而不会干扰帧(m)和帧(m+2)。应当指出,使光脉冲仅在一个帧中读出并且不干扰相邻帧的条件是在消隐周期316期间击发给定的光脉冲。因为光学黑色行318、320对光不敏感,所以可将帧(m)的光学黑色后行320时间和帧(m+1)的光学黑色前行318时间添加到消隐周期316,以确定光脉冲210的击发时间的最大范围。
如图3A所示,传感器可循环多次以接收每种脉冲颜色或波长(例如,电磁光谱上的红色、绿色、蓝色或其它波长)的数据。每个循环可以是定时的。在一个实施方案中,循环可定时以在16.67ms的间隔内操作。在另一个实施方案中,循环可定时以在8.3ms的间隔内操作。应当理解,本公开设想了其它的定时间隔,并且旨在落入本公开的范围内。
图4A以图形方式示出了电磁发射器的实施方案的操作。发射器可定时以对应于传感器的循环,使得电磁辐射在传感器操作循环内和/或传感器操作循环的一部分期间发射。图4A示出了402处的脉冲1、404处的脉冲2和406处的脉冲3。在一个实施方案中,发射器可在传感器操作循环的读出周期302期间脉冲。在一个实施方案中,发射器可在传感器操作循环的消隐周期316期间脉冲。在一个实施方案中,发射器可脉冲持续时间,该持续时间在两个或更多个传感器操作循环的部分期间。在一个实施方案中,发射器可在消隐周期316期间或在读出周期302的光学黑色部分320期间开始脉冲,并且在读出周期302期间或下一后续循环的读出周期302的光学黑色部分318期间结束脉冲。应当理解,只要发射器的脉冲和传感器的循环相对应,上述的任何组合旨在落入本公开的范围内。
图4B以图形方式表示改变发射的电磁脉冲(例如,在412处的脉冲1、在414处的脉冲2、在416处的脉冲3)的持续时间和量值以控制曝光。具有固定输出量值的发射器可在上文结合图3D和图4A所述的任何循环期间脉冲一定间隔,以向像素阵列提供所需的电磁能量。具有固定输出量值的发射器可在较长的时间间隔内脉冲,从而为像素提供更多的电磁能量,或者发射器可在较短的时间间隔脉冲,从而提供较少的电磁能量。是否需要较长或较短的时间间隔取决于操作条件。
与调节发射器脉冲固定输出量值的时间间隔相比,可增大发射量值本身以便向像素提供更多的电磁能量。类似地,减小脉冲的量值可为像素提供较少的电磁能量。应当指出,如果需要的话,系统的实施方案可具有同时调节量值和持续时间的能力。另外,可调节传感器以根据最佳图像质量的需要来增加其灵敏度和持续时间。图4B示出了改变脉冲的量值和持续时间。在图示中,412处的脉冲1具有比414处的脉冲2或416处的脉冲3更高的量值或强度。另外,412处的脉冲1具有比414处的脉冲2或416处的脉冲3更短的持续时间,使得由该脉冲提供的电磁能量由图示中所示脉冲下的面积示出。在图示中,当与412处的脉冲1或416处的脉冲3相比时,414处的脉冲2具有相对较低的量值或强度和较长的持续时间。最后,在图示中,当与412处的脉冲1和414处的脉冲2相比时,416处的脉冲3具有中间量值或强度和持续时间。
图5是根据本公开的原理和教导内容的组合图3A至图3D以及图4的操作循环、电磁发射器和发射电磁脉冲以在操作期间显示成像系统的本公开的实施方案的图形表示。如在图中可见,电磁发射器主要在图像传感器的消隐周期316期间脉冲发射,使得像素将被充电并且准备好在图像传感器循环的读出周期302期间被读取。图5中的点划线表示电磁辐射脉冲(来自图4A)。电磁辐射脉冲主要在图像传感器的消隐周期316期间发射,但可与图像传感器的读出周期302叠层。
曝光帧包括在读出周期302期间由图像传感器的像素阵列读取的数据。曝光帧可与在读出周期302之前由发射器发射何种类型的脉冲的指示相组合。曝光帧与脉冲类型的指示的组合可被称为数据集。可组合多个曝光帧以生成黑白或RGB彩色图像。另外,超光谱成像数据、荧光成像数据和/或激光标测成像数据可叠层在黑白或RGB图像上。
在一个实施方案中,RGB图像帧基于三个曝光帧生成,包括由图像传感器在红色发射之后生成的红色曝光帧、由图像传感器在绿色发射之后生成的绿色曝光帧以及由图像传感器在蓝色发射之后生成的蓝色曝光帧。超光谱成像数据可叠加在RGB图像帧上。可从一个或多个超光谱曝光帧抽取超光谱成像数据。超光谱曝光帧包括在电磁辐射的超光谱发射之后,在读出周期302期间由图像传感器生成的数据。超光谱发射包括电磁光谱中的任何合适的发射,并且可以包括跨越整个电磁光谱的多个光发射。在一个实施方案中,超光谱发射包括具有约513nm至约545nm;约565nm至约585nm;和/或约900nm至约1000nm的波长的电磁辐射的发射。超光谱曝光帧可包括多个超光谱曝光帧,其各自由图像传感器在不同类型的超光谱发射之后生成。在一个实施方案中,超光谱曝光帧包括多个超光谱曝光帧,包括在波长为约513nm至约545nm的电磁辐射的发射之后由图像传感器生成的第一超光谱曝光帧,在波长为约565nm至约585nm的电磁辐射的发射之后由图像传感器生成的第二超光谱曝光帧,以及在波长为约900nm至约1000nm的电磁辐射的发射之后由图像传感器生成的第三超光谱曝光帧。超光谱曝光帧可包括另外的附加超光谱曝光帧,其由图像传感器在基于成像应用而需要的光的其他超光谱发射之后生成。
超光谱曝光帧可以在电磁辐射的多个不同分区的发射之后由图像传感器生成。例如,可以在波长为约513nm至约545nm;约565nm至约585nm;以及约900nm至约1000nm的电磁辐射的发射之后由像素阵列感测单个超光谱曝光帧。电磁辐射的发射可包括单个脉冲,其中多个波长中的每个波长同时发射;多个子脉冲,其中每个子脉冲是不同波长的电磁辐射;或上述的某种组合。具有一个或多个脉冲的电磁辐射的发射可以发生在消隐周期316期间,该消隐周期发生在读出周期302之前,在该读出周期中像素阵列感测曝光帧。
在一个实施方案中,曝光帧是在消隐周期316之后发生的读出周期302期间由像素阵列感测到的数据。电磁辐射的发射在消隐周期316期间发射。在一个实施方案中,电磁辐射的发射的一部分与读出周期316叠层。消隐周期316在像素阵列的光学黑色像素被读取时发生,并且读出周期302在像素阵列的有效像素被读取时发生。消隐周期316可与读出周期302叠层。
图6A和图6B示出了用于记录图像帧的过程。可将多个图像帧串在一起以生成视频流。单个图像帧可包括来自多个曝光帧的数据,其中曝光帧是在发射电磁辐射之后由像素阵列感测到的数据。图6A示出了通常用彩色图像传感器实现的常规过程,该彩色图像传感器具有颜色滤光器阵列(CFA)以用于每个像素滤除某些波长的光。图6B是本文所公开的过程,并且可利用能够接收所有波长的电磁辐射的单色“颜色不定”图像传感器来实现。
图6A所示的过程从时间t(0)到时间t(1)发生。该过程首先发射白光602并感测白光604。在606处,基于在604处的感测来处理并显示图像。
图6B所示的过程从时间t(0)到时间t(1)发生。该过程首先发射绿光612并在发射绿光612之后感测反射电磁辐射614。该过程继续发射红光616并在发射红光616之后感测反射电磁辐射618。该过程继续发射蓝光620并在发射蓝光620之后感测反射电磁辐射622。该过程继续进行超光谱624发射的一次或多次发射,并且在超光谱624发射的该一次或多次发射中的每一者之后感测反射的电磁能量626。
图6B所示的方法提供较高分辨率的图像并且提供用于生成还包括超光谱成像数据的RGB图像的装置。当使用分区光谱光时(如图6B所示),可使传感器对所有波长的电磁能量敏感。在图6B所示的过程中,指示单色像素阵列在每个循环中感测来自全光谱电磁能量的预定分区的电磁能量。因此,为了形成图像,传感器只需要循环全光谱光内的多个不同分区。基于多个循环来组合最终图像。因为来自每个颜色分区帧循环的图像具有更高分辨率(与CFA像素阵列相比),所以当分区光帧被组合时所形成的所得图像也具有更高分辨率。换句话讲,因为阵列内的每个像素(而不是至多,具有CFA的传感器中的每隔一个像素)正感测给定脉冲和给定场景的能量量值,所以仅相隔一段时间,针对每个场景形成较高分辨率图像。
如在图6A和图6B中所示的实施方案中在时间t(0)和t(1)之间可图形方式看出,用于图6B中的分区光谱系统的传感器对图6A中的全光谱系统中的每个系统循环至少四次。在一个实施方案中,显示装置(LCD面板)以每秒50帧至60帧的速度操作。在此类实施方案中,图6B中的分区光系统可以200帧/秒至240帧/秒的速率操作,以保持所显示视频的连续性和平滑性。在其它实施方案中,可存在不同的捕获和显示帧速率。此外,平均捕获速率可以是显示速率的任何倍数。
在一个实施方案中,可能期望并非所有分区在系统帧速率内均相等地表示。换句话讲,并非所有光源都必须以相同的规律性脉冲,以便根据用户的需要来强调和取消强调所记录场景的各个方面。还应当理解,电磁频谱的不可见分区和可见分区可在系统内脉冲到一起,其中它们的相应数据值被接合(stitch)到视频输出中,以用于向用户显示。
实施方案可包括如下脉冲循环模式:
i.绿色脉冲;
ii.红色脉冲;
iii.蓝色脉冲;
iv.绿色脉冲;
v.红色脉冲;
vi.蓝色脉冲;
vii.超光谱脉冲;
viii.(重复)
实施方案可包括如下脉冲循环模式:
i.亮度脉冲;
ii.红色度脉冲;
iii.亮度脉冲;
iv.蓝色度脉冲;
v.超光谱脉冲;
vi.(重复)
实施方案可包括如下脉冲循环模式:
i.亮度脉冲;
ii.红色度脉冲;
iii.亮度脉冲;
iv.蓝色度脉冲;
v.亮度脉冲;
vi.红色度脉冲;
vii.亮度脉冲;
viii.蓝色度脉冲;
ix.超光谱脉冲;
x.(重复)
如在该示例中可见,超光谱分区可以与其他分区脉冲的速率不同的速率脉冲。这样做可强调场景的某个方面,其中超光谱数据仅与视频输出中的其他数据叠加以做出期望的强调。应当指出,在红色、绿色和蓝色分区的顶部上方添加超光谱分区并不一定要求序列化的系统以全光谱非串行系统的速率的四倍操作,因为每个分区不必在脉冲模式中相等地表示。如在该实施方案中所见,添加在脉冲模式中表示更少的超光谱分区脉冲将导致传感器的循环速度增加小于20%,以便适应不规则的分区取样。
在各种实施方案中,脉冲循环模式还可以任何合适的顺序包括以下波长中的任一个波长。此类波长可特别适用于激发荧光试剂,以通过基于荧光试剂弛豫发射感测荧光试剂的弛豫发射来产生荧光成像数据:
i.770±20nm;
ii.770±10nm;
iii.770±5nm;
iv.790±20nm;
v.790±10nm;
vi.790±5nm;
vii.795±20nm;
viii.795±10nm;
ix.795±5nm;
x.815±20nm;
xi.815±10nm;
xii.815±5nm;
xiii.770nm至790nm;和/或
xiv.795nm至815nm。
在各种实施方案中,脉冲循环还可以任何合适的顺序包括以下波长中的任一个波长。此类波长可特别适用于生成超光谱成像数据:
i.513nm至545nm;
ii.565nm至585nm;
iii.900nm至1000nm;
iv.513±5nm;
v.513±10nm;
vi.513±20nm;
vii.513±30nm;
viii.513±35nm;
ix.545±5nm;
x.545±10nm;
xi.545±20nm;
xii.545±30nm;
xiii.545±35nm;
xiv.565±5nm;
xv.565±10nm;
xvi.565±20nm;
xvii.565±30nm;
xviii.565±35nm;
xix.585±5nm;
xx.585±10nm;
xxi.585±20nm;
xxii.585±30nm;
xxiii.585±35nm;
xxiv.900±5nm;
xxv.900±10nm;
xxvi.900±20nm;
xxvii.900±30nm;
xxviii.900±35nm;
xxix.1000±5nm;
xxx.1000±10nm;
xxxi.1000±20nm;
xxxii.1000±30nm;或者
xxxiii.1000±35nm。
可将分区循环划分为适应或近似各种成像和视频标准。在一个实施方案中,分区循环包括如下如图7A至图7D中最佳地示出的红色、绿色和蓝色光谱中的电磁能量的脉冲。由发射器进行的电磁辐射脉冲的发射与像素阵列的读出之间的定时关系在图7A至图7D中进一步示出。
在图7A中,已通过在由竖直灰色虚线所示的工作范围内调制光脉冲宽度或持续时间来实现不同的光强度。图7A示出了四帧循环内、三个波长的脉冲混合与图像传感器的像素阵列的读出循环之间的一般定时关系。在一个实施方案中,在控制器的控制下存在三个单色脉冲光源。例如用R-G-B-G脉冲模式捕获单色红色、单色绿色和单色蓝色曝光帧的周期性序列,并且由图像信号处理器流水线组合成sRGB图像帧。
在图7B中,已通过调制光功率或电磁发射器(其可为激光器或LED发射器)的功率,但保持脉冲宽度或持续时间恒定来实现不同的光强度。
图7C示出了光功率和光脉冲宽度均被调制从而得到更大灵活性的情况。分区循环可使用青色洋红色黄色(CMY)、红外线、紫外线、超光谱和荧光,其使用与可见脉冲源混合的不可见脉冲源以及产生图像所需的任何其它色彩空间或近似于当前已知或尚未开发的所需视频标准。还应当理解,系统能够在运行中的色彩空间之间切换以提供所需图像输出质量。
在使用色彩空间绿色-蓝色-绿色-红色(如图7D中所示)的实施方案中,可能期望比色度分量更频繁地脉冲亮度分量,因为用户通常对光量值差异比对光色差更敏感。可使用如图7D中所示的单色图像传感器来利用该原理。在图7D中,包含最多亮度信息的绿色可在(G-B-G-R-G-B-G-R……)方案中更频繁地脉冲或具有更大强度以获得亮度数据。此类配置将创建具有可察觉的更多细节的视频流,而不创建和传输不可察觉的数据。
在一个实施方案中,所有三个光源与被调制为在相同的曝光帧中提供纯亮度信息的光能一致地脉冲。可根据从RGB颜色空间转换为YCbCr颜色空间的颜色转换系数来调制光能。应当理解,颜色转换可根据任何合适的标准诸如ITU-R BT.709HD标准、ITU-R BT.601标准、ITU-R BT.2020标准或任何其他合适的标准或公式来实现。该转换可根据ITU-RBT.709HD标准如下执行:
Figure BDA0003418711280000251
除了亮度信息的调制之外,全彩图像还需要红色度分量和蓝色度分量。然而,应用于亮度分量的算法无法直接应用于色度分量,因为该算法是带符号的,如一些RGB系数为负的事实中所反映的。在一个实施方案中,提高亮度的程度,使得所有最终脉冲能量均为正值。只要图像信号处理器中的颜色融合过程知道色度曝光帧的组成,它们就可以通过从相邻帧中减去适当量的亮度来解码。脉冲能量比例由下式给出:
Y=0.183·R+0.614·G+0.062·B
Cb=λ·Y-0.101·R-0.339·G+0.439·B
Cr=δ·Y+0.439·R-0.399·G-0.040·B
其中
Figure BDA0003418711280000261
Figure BDA0003418711280000262
如果λ因子等于0.552,则抵消红色分量和绿色分量。在这种情况下,蓝色度信息可提供有纯蓝光。类似地,如果δ因子等于0.650,则抵消蓝色分量和绿色分量,并且红色度信息可提供有纯红光。该实施方案是数字帧重建的方便的近似。
在照明域中执行白平衡的实施方案中,除了白平衡调制之外,还施加调制。
在一个实施方案中,复制较弱分区的脉冲可用于产生已针对较弱脉冲进行调节的输出。例如,认为蓝色激光相对于硅基像素的灵敏度弱,并且与红光或绿光相比,蓝色激光难以产生,因此可在帧循环期间更频繁地脉冲以补偿光的弱性。这些附加脉冲可随时间推移连续地完成,或者通过使用多个激光器同时脉冲以产生所需补偿效果。应当注意,通过在消隐周期(在此期间传感器不读出像素阵列的时间)期间脉冲,传感器对同一种类的激光器之间的差异/失配不敏感,并且简单地聚积光以用于期望的输出。在另一个实施方案中,最大光脉冲范围可能从帧到帧是不同的。这在图7E中示出,其中光脉冲从帧到帧是不同的。传感器可被构建成能够以2帧或3帧或4帧或n帧的重复模式对不同消隐周期进行编程。
在图7E中,示出了四个不同的光脉冲,并且脉冲1可例如在脉冲4之后重复并且可具有不同消隐周期的四个帧的模式。该技术可用于将最大功率的分区放置于最小消隐周期上,并且因此允许最弱的分区在后续帧中的一帧上具有更宽的脉冲而无需增加读出速度。重建帧仍可具有帧到帧的规则模式,因为其由许多脉冲帧构成。
图8是控制信号802和电磁辐射的发射804之间的延迟或抖动的图形显示。在一个实施方案中,控制信号802表示提供给发射器驱动器的信号。驱动器被配置为使发射器202发射电磁辐射脉冲。在一个实施方案中,驱动器为控制器204的部件,或者可以独立于控制器204并且与控制器204通信。在一个实施方案中,驱动器为控制器204。在一个实施方案中,驱动器是发射器202的部件或与发射器202通信。如图所示,在控制信号802达到其峰值(即,开启)和发射器202的电磁辐射的发射804之间存在持续时间t1的延迟。在控制信号802变低(即,关断)和电磁辐射的发射804结束之间存在持续时间t2的延迟。
延迟t1和t2可以包括一些恒定的延迟以及由发射器的驱动器中的抖动导致的一些非恒定变化。例如,在控制信号802被传输到驱动器的时间和电磁辐射的发射804实际上由发射器202发射的时间之间可存在恒定的延迟。该延迟可以非常短,并且可以基于在驱动器和发射器之间发生电通信所需的时间。延迟的非恒定变化可以是发射器的驱动器、控制器204和/或发射器本身的抖动的结果。
由系统或系统的部件(诸如发射器的驱动器)经历的抖动可以由被称为抖动规范的值来描述。抖动规范是描述系统所经历的抖动量或抖动持续时间的数值。在图8所示的示例中,延迟t1的持续时间比延迟t2的持续时间短。在示例中,延迟t1可以表示在启动控制信号802之后经历的恒定延迟,并且电磁辐射的发射804由发射器发射。t2和t1之间的差可以表示系统所经历的抖动。该值可以被称为抖动规范。
在一个实施方案中,抖动规范是表示用于启动或中断电磁辐射脉冲的发射的恒定的或可预测延迟的变化量的数值。在此类实施方案中,在驱动器向发射器发出信号以发射电磁辐射脉冲和发射器实际上启动电磁辐射脉冲之间,系统经历恒定的、可预测的延迟。类似地,在发射器应该中断电磁辐射脉冲的时间和发射器实际上中断电磁辐射脉冲的时间之间可存在恒定的、可预测的延迟。这种恒定的、可预测的延迟不表示抖动规范。相反,抖动规范是这种恒定的、可预测的延迟的变化。在图8所示的示例中,时间t2与时间t1之间的差表示恒定的、可预测的延迟的变化。
抖动不受系统的用户的控制。抖动规范表示系统中存在的不可预测且非恒定时间变化的量。如果抖动规范相对于电磁辐射脉冲太大,则在所得的曝光帧中可出现图像质量的显著下降或图像亮度变化。例如,在如本文所讨论的视频内窥镜系统中,长抖动规范可以使视频流内不同排的曝光帧具有不同的亮度。这导致视频流中的闪烁和总体质量下降。长抖动规范可导致光在图像传感器的读出周期302期间发射。如果在读出周期302期间脉冲电磁辐射,像素读出中的像素和像素行之间将发生显著变化,并且这将降低所得视频流中的图像质量。
在一个示例性具体实施中,控制器204具有电磁辐射脉冲的持续时间的10%的抖动规范。在示例中,脉冲可以从其期望的持续时间的90%变为其期望的持续时间的110%。这可导致视频的图像帧内的曝光帧或排之间的亮度变化高达三分之一。
在一个实施方案中,如果抖动规范具有长于阈值量的持续时间,则电磁辐射脉冲被限制在持续时间内,以避免重叠到读出周期302中。对脉冲持续时间的限制可能需要通过增加捕获的曝光帧之间的时间以及/或者增加消隐期316的持续时间来降低帧速率。这可导致图像亮度的降低,并且这可以进一步降低图像传感器捕获详细的图像的能力。
在一个实施方案中,如果抖动规范具有短于阈值量的持续时间,则发射器202的脉冲序列和图像传感器的读出序列204保持不变。在一个实施方案中,阈值指示抖动规范必须为1微秒或更小。在一个实施方案中,阈值指示抖动规范必须为50纳秒或更小。在一个实施方案中,阈值指示抖动规范必须小于图像传感器读出像素阵列的一排像素所花费的时间。在一个实施方案中,阈值指示抖动规范必须小于图像传感器读出像素阵列的单个像素所花费的时间。在一个实施方案中,阈值指示抖动规范可以小于或等于图像传感器的读出周期302的10%至25%,或者图像传感器读出像素阵列中的所有有效像素所花费的时间。例如,在此类实施方案中,如果像素阵列包括400排,则抖动规范必须小于或等于读出像素阵列中的400排中的40至100排所需的时间。因此,由像素阵列捕获的光的变化量可足够低以减少有闪烁的图像并且在读出周期302之间提供尽可能多的光。
在一个实施方案中,通过在控制器204或发射器202的驱动器中实施更高的时钟速率或更准确的时钟,降低(缩短)抖动规范。发射器202的驱动器的降低的抖动规范和公差可以解决在所得视频流中导致伪影的不容公差的驱动的问题。
在一个实施方案中,相机控制单元(CCU)向控制器204或发射器202提供信号以避免电磁辐射脉冲与图像传感器的读出周期302重叠。CCU可以确定用于向控制器204和/或发射器202发送信号的定时,以避免重叠到像素阵列的有效(即,非光学黑色)像素的读出中。CCU可以最大化发射器202发射电磁辐射的持续时间,而不与图像传感器的读出周期302重叠。
图9示出了用于将来自发射器202的电磁辐射携带到缺光环境以照明场景的光纤束900的横截面。在图9所示的示例性实施方案中,光纤束900包括七根纤维,但应当理解,该纤维数量仅是说明性的,并且在不脱离本公开范围的情况下可以使用任何合适数量的纤维。纤维束包括中心纤维902和多个周边纤维904。
在一个实施方案中,限制纤维的总数以减小光纤束900的横截面积。光纤束900可包括合适数量的纤维,用于提供足够的光分散,同时允许小横截面积。这可能是期望的,因为内窥镜内腔的横截面积在需要小内窥镜的一些应用中是至关重要的。在一个实施方案中,光纤束900包括2至150根纤维。较少数量的纤维可减少携带光纤束900所需的费用和横截面积。然而,更多数量的光纤改善了冗余。在一个实施方案中,光纤束900包括5至100根纤维、或5至50根纤维或7至15根纤维。在一个实施方案中,光纤束包括如图9所示的七根纤维。
当光纤束900具有较小数量的纤维时,可能期望每根纤维接收相同量的电磁辐射和相同量的特定波长的电磁辐射。例如,如果电磁辐射主要通过中心纤维902传输,则中心纤维902将接收大部分电磁辐射,并且场景将被颜色或亮度不均匀地照明。另外,如果更多的光进入一根光纤而不是另一根,则可在光纤束900中携带的电磁辐射的总量(功率)可以减少。例如,纤维可具有熔断极限,如果向纤维提供高于一定能量水平或强度的电磁辐射,则可导致纤维熔化或以其他方式失效。因此,如果电磁辐射更均匀地跨纤维分布,则可能增加场景的功率和照明。
在一个实施方案中,发射器202在向光纤束900提供电磁辐射之前混合两个或更多个波长的电磁辐射。这可以在发射器202包括用于发射不同波长的电磁辐射的两个或更多个独立激光束时实现。发射器202可以包括例如用于发射第一波长的第一激光束和用于发射第二波长的第二激光束。发射器202可以混合电磁辐射,使得来自第一激光束和第二激光束的光以相同或基本上相同的角度进入跳线波导(或另一个波导)。可以通过相对于彼此以相同的角度定位激光束来实现相同或基本上相同的角度。在一个实施方案中,二向色镜通过反射一个波长的电磁辐射,同时对另一波长的光透明而允许相同或基本上相同的角度。在一个实施方案中,发射器202包括漫射器、混合棒、透镜或其他光学元件,以在光进入光纤束900之前混合光。
在一个实施方案中,发射器202向波导提供均匀分布的光强度。在为波导收集光的区域内的光的峰值强度可基本上等于或接近该区域内的光的平均强度。提供给收集区域的光可具有顶帽式轮廓,使得每根纤维收集和/或接收相同或类似强度的光。发射器202可通过以一定角度向收集区域的表面提供激光来提供或接近顶帽式轮廓。例如,发射器202可包括高斯或其他非恒定强度轮廓。通过使激光束相对于收集区域成角度,将高斯轮廓展平为更为恒定的轮廓或顶帽式轮廓。可使用透镜、漫射器、混合棒等来生成顶帽式轮廓。
图10以图形方式示出了顶帽式轮廓1002和高斯轮廓1004。水平轴线表示水平距离,并且垂直轴线表示光强度。用标注1006标记的线表示光纤束900的收集区域1006的边界或宽度。用标注1008标记的线表示纤维或其他波导的熔断水平1008。
使用高斯轮廓1004,将大部分电磁辐射发送到中心纤维902。当大部分能量位于中心纤维902中时,其余的周边纤维904可以远低于熔断水平1008。例如,使用高斯轮廓1004,能量总量的增加可导致中心纤维902显著超过熔断水平1008,其中多个环绕光纤904远低于熔断水平1008。
使用顶帽式轮廓1002,所有纤维都携带相同的能量水平。该能量水平可以靠近熔断水平1008或低于熔断水平1008。例如,使用顶帽式轮廓1002,由光纤束900携带的总能量可以显著增加,因为光纤束900可以被共同推动到熔断水平1008附近,而不会使任何单独的纤维面临熔断风险。
图10示出了通过实施顶帽式轮廓1002可以在任何单独的纤维达到熔断水平1008之前提供更多能量。高斯轮廓1004和顶帽式轮廓1002可以向光纤束900提供相同量的瓦特数,而顶帽式轮廓1002在达到熔断水平1008之前仍可显著增加。因此,可使用塑料纤维来实现能量传输的总量的显著改善。在一些情况下,可以通过实施顶帽式轮廓1002来实现光纤束900携带的瓦特数增加50%或更多。在一个实施方案中,塑料纤维可具有由一个或多个发射器发射的光/电磁能量的熔断能量水平,高于该熔断能量水平时可损坏塑料纤维,其中光能量跨多个塑料纤维传播开以允许包括塑料纤维的光纤束900携带更大量的能量,而不达到纤维中的任一根纤维的熔断水平1008。
在一个实施方案中,顶帽式轮廓1002和高斯轮廓1004由发射器202组合,用于与塑料光纤束900一起使用。发射器202和/或跳线波导可不包括塑料波导。然而,发射器202可以将顶帽式轮廓1002与高斯轮廓1004进行混合以允许在内腔波导处与塑料光纤束900一起使用。在一个实施方案中,鉴于当在不同的材料(例如,从漫射器到玻璃纤维、到塑料纤维和/或返回到玻璃纤维或漫射器)之间移动电磁辐射时可引起的损耗,混合顶帽式轮廓1002允许更大的功率传输。更大的功率传输可以抵消先前或后续转变中的损耗,所得仍可以传输足够的光来照明场景。
图11是示出了与相机视场相比的来自光纤束1102的输出的侧视图。在一个实施方案中,塑料纤维具有0.63的数值孔径,其中视场为100度,如虚线1106所示。玻璃纤维具有0.87的数值孔径,其中视场为120度,如实线1104所示。然而,在视场内发射的光在小于该视场的光锥内具有近似高斯轮廓。例如,用于塑料纤维的几乎所有光可以在80度的锥内,如点划线1108所示。因此,曝光帧的中心区域可能太亮而边缘太暗。
图12是示出相对于图11中所示的输出具有更均匀的光分布的来自光纤束1202的输出的侧视图。在图12所示的实施方案中,通过瞄准光离开光纤束1202的纤维的端部来实现光的均匀分布。瞄准远离中心的纤维使视场中的锥加宽,并且在输出处没有光损耗。每根光纤的端部可保持在期望的位置以分布光,其中来自纤维的光锥的组合提供均匀的照明。光纤束1202包括多根纤维和指示由单独的纤维输出的锥的取向的线1204。在一个实施方案中,装置诸如物理模具或带孔板将纤维的端部保持在期望的取向。纤维可以用于场景的均匀照明的最佳取向来取向。光纤束1202中的纤维的尖端可位于内窥镜的远侧尖端附近,并且可指向围绕以焦点或相机镜头轴线为中心的区域传播光。
图13是示出从塑料纤维1304转变为连接器1308处的玻璃纤维1306的光纤束1302的输出的侧视图。在该实施方案中,内腔波导包括塑料纤维1304,然后在输出处或附近转变为玻璃纤维1306。玻璃纤维1306通常具有比塑料纤维1304更高的数值孔径和更宽的视场。因此,如光锥1310所示,实现了更宽且更均匀的光能分布。行进穿过塑料纤维1304的光通过连接器1308被引导到玻璃纤维1306。该耦合可发生在内窥镜的内腔的内窥镜的手持件单元内。连接器1308可定位在手持件单元中或内腔中以限制所使用的玻璃纤维1306的量。通过手持件或内腔中的锥从塑料纤维1304移动至玻璃纤维1306可导致与常规的内窥镜相同的视场。然而,与瞄准实施方案相比(其在输出处没有经历光损耗),光损耗可能是显著的,诸如约25%。
图14是示出使用漫射器1408从光纤束1402输出的光的侧视图。在该实施方案中,内腔波导包括塑料纤维1404,然后在输出处或附近转变为漫射器1408。漫射器1408可包括任何合适的光学漫射器,诸如混合棒等。示例性漫射器包括全息漫射器。当与玻璃纤维相比时,输出处的漫射器1408可产生较大角度的视场。然而,漫射器1408的效率较低,诸如与图12中所示的瞄准实施方案相比效率高约40%至60%。
塑料纤维的价格通常低于玻璃纤维的价格。降低的价格可导致制造照明系统时的显著节省。因为玻璃纤维可仅用于输出附近的短距离,或者根本不使用玻璃纤维,所以可实现显著的成本节约。
在一个实施方案中,单根纤维替换光纤束。单根纤维可以大于构成光纤束的典型纤维,使得对于相同的横截面积,单根纤维比一束较小的纤维能够处理更大的功率。单根纤维可从控制台延伸并且穿过内腔以向身体内部或其他缺光环境提供光。单根纤维可作为从发射器202或跳线波导延伸并且通过内腔延伸的内腔波导操作。电磁辐射可由发射器202直接提供给具有顶帽式轮廓的单根纤维。
由于塑料纤维可仅具有0.63或0.65的数值孔径,因此大部分电磁辐射可仅以70或80度的角度离开光纤。在单根纤维的输出处,漫射器可被定位成传播输出光并且在相机的视场内产生更均匀的照明。在一个实施方案中,漫射器的类型或漫射器的存在可基于相机使用的视场。例如,腹腔镜手术可允许更窄的视场,诸如70度,而关节镜手术可使用更宽的视场,诸如110度。因此,漫射器可用于关节镜检查,而对于腹腔镜检查而言,漫射器不存在。
应当理解,用于输出电磁辐射(光)的实施方案可以包括图11至图14中所示的实施方案中的一个或多个实施方案的组合。例如,可将塑料纤维转变到玻璃纤维,并且玻璃纤维可旨在提供更均匀和改进的照明。
图15是示出了用于向缺光环境中的成像场景提供光的示例性方法1500的示意性流程图。方法1500可由照明系统诸如图1的系统100执行。
方法1500开始并且图像传感器基于由图像传感器接收的光在1502处生成并且读出图像传感器的像素数据,其中用于读出一排像素数据的时间长度包括排读出长度。发射器在1504处发射光以用于照明由图像传感器观察到的场景。驱动器在1506处驱动发射器的发射,其中驱动器包括小于或等于排读出长度的抖动规范。控制器在1508处控制驱动器以驱动发射器,以在图像传感器的读出周期之间生成光脉冲。
图16是示出用于向缺光环境中的成像场景提供光的示例性方法1600的示意性流程图。方法1600可由照明系统诸如图1的系统100执行。
方法1600开始并且第一发射器和第二发射器在1602处发射包括第一波长和第二波长的光。多根光纤在1604处将由第一发射器和第二发射器生成的光引导至内窥镜环境中的场景。多根光纤在1606处接收来自多根光纤中的每根光纤处的第一发射器和第二发射器的基本上等量的光(混合光)。
图17A至图17C各自示出了具有多个发射器的光源1700。光源1700在本文中可统称为“发射器”。多个发射器包括第一发射器1702、第二发射器1704和第三发射器1706。可包括附加的发射器,如下文进一步讨论。发射器1702、1704和1706可包括发射具有不同波长的光的一个或多个激光发生器。例如,第一发射器1702可发射与蓝色激光一致的波长,第三发射器1704可发射与绿色激光一致的波长,并且第三发射器1706可发射与红色激光一致的波长。例如,第一发射器1702可包括一个或多个蓝色激光器,第二发射器1704可包括一个或多个绿色激光器,并且第三发射器1706可包括一个或多个红色激光器。激光器1702、1704、1706朝收集区域1708发射激光束,该收集区域可以是波导、透镜或用于收集光和/或向波导(诸如图2的跳线波导206或内腔波导210)提供光的其他光学部件的位置。
在一个具体实施中,发射器1702、1704和1706发射超光谱波长的电磁辐射。某些超光谱波长可穿透组织并且使执业医生能够“透视”前景中的组织,以识别位于前景中的组织的后面的化学过程、结构、化合物、生物过程等。可专门选择超光谱波长以识别已知具有某些光谱响应的特定疾病、组织状况、生物过程、化学过程、组织类型等。
在已向患者施用有助于识别某些组织、结构、化学反应、生物过程等的试剂或染料的具体实施中,发射器1702、1704和1706可发射用于使试剂或染料发荧光的波长。此类波长可基于施用给患者的试剂或染料来确定。在此类实施方案中,发射器可能需要是高度精确的,以便发射所需波长以使某些试剂或染料发荧光或活化。
在一个具体实施中,发射器1702、1704和1706发射激光标测模式,用于标测场景的形貌和/或用于计算场景中对象之间的尺寸和距离。在一个实施方案中,结合多个工具(诸如手术刀、牵开器、夹钳等)使用内窥镜成像系统。在此类实施方案中,发射器1702、1704和1706中的每一个发射器可发射激光标测模式,使得激光标测模式单独地投影到每个工具上。在此类实施方案中,可分析工具中的每一者的激光标测数据以识别场景中工具与其它对象之间的距离。
在图17B的实施方案中,发射器1702、1704、1706各自以不同角度向收集区域1708递送激光。角度的变化可导致电磁能量在输出波导中的位置的变化。例如,如果光在收集区域1708处立即进入纤维束(玻璃或塑料)中,则变化的角度可导致不同量的光进入不同的纤维。例如,角度可导致跨收集区域1708的强度变化。此外,来自不同发射器的光可不会被均匀地混合,因此一些纤维可接收不同量的不同颜色的光。不同纤维中的光的颜色或强度的变化可导致场景的非最佳照明。例如,递送光或光强度的变化可在场景和所捕获图像处导致。
在一个实施方案中,居间光学元件可放置在纤维束和发射器1702、1704、1706之间,以在进入纤维或其他波导中之前混合不同颜色(波长)的光。示例性居间光学元件包括漫射器、混合棒、一个或多个镜片,或用于混合光使得给定纤维接收每种颜色(波长)的相同量的其它光学部件。例如,纤维束中的每根纤维可具有相同的颜色。该混合可导致每根纤维中的相同的颜色,但是,在一些实施方案中,仍可导致递送到不同纤维的不同的总亮度。在一个实施方案中,居间光学元件也可在收集区域上传播或均匀地传播光,使得每根纤维携带相同总量的光(例如,光可能在顶帽式轮廓中散开)。漫射器或混合棒可导致光损失。
尽管收集区域1708在图17A中表示为物理部件,但收集区域1708可以简单地作为递送来自发射器1702、1704和1706的光的区域。在一些情况下,收集区域1708可包括光学部件,诸如漫射器、混合棒、透镜,或处于发射器1702、1704、1706和输出波导之间的任何其他居间光学部件。
图17C示出了具有以相同或基本上相同的角度向收集区域1708提供光的发射器1702、1704、1706的光源1700的实施方案。光以基本上垂直于收集区域1708的角度提供。光源1700包括多个二向色镜,包括第一二向色镜1710、第二二向色镜1712和第三二向色镜1714。二向色镜1710、1712、1714包括反射第一波长的光但透射第二波长(或对其透明)的光的镜。例如,第三二向色镜1714可反射由第三发射器提供的蓝色激光,而对第一发射器1702和第二发射器1704各自提供的红光和绿光透明。第二二向色镜1712可对来自第一发射器1702的光透明,但对来自第二发射器1704的光是反射的。如果包括其它颜色或波长,则可选择二向色镜以反射对应于至少一个发射器的光并且对其它发射器透明。例如,第三二向色镜1714反射来自第三发射器1706的光,但对其“后面”的发射器诸如第一发射器1702和第二发射器1704透明。在其中存在数十或数百个发射器的实施方案中,每个二向色镜可反射对应发射器和其前面的发射器,同时对其后面的发射器透明。这可允许数十或数百个发射器以基本上相同的角度将电磁能量发射到收集区域1708。
因为这些二向色镜允许其他波长透射或穿过,这些波长中的每个波长可从相同的角度以及/或者以相同的中心点或焦点到达收集区域1708。从相同的角度和/或相同的焦点/中心点提供光可显著改善在收集区域1708处的接收和颜色混合。例如,特定纤维可接收不同的颜色,这些颜色的比例与它们被发射器1702、1704、1706和镜1710、1712、1714透射/反射的比例相同。与图17B的实施方案相比,可在收集区域处显著改善光混合。在一个实施方案中,本文所讨论的任何光学部件可在收集区域1708处使用,以在向纤维或纤维束提供光之前收集光。
图17C示出了具有也以相同或基本上相同的角度向收集区域1708提供光的发射器1702、1704、1706的光源1700的实施方案。例如,入射在收集区域1708上的光从垂直偏移。角度1716指示从垂直偏移的角度。在一个实施方案中,激光发射器1702、1704、1706可具有高斯横截面强度轮廓。如前所述,纤维之间的光能量的改善的分布可通过形成更平坦或顶帽形的强度轮廓来实现。在一个实施方案中,随着角度1716的增大,跨收集区域1708的强度接近顶帽式轮廓。例如,通过增大角度1716直到轮廓足够平坦,顶帽式轮廓甚至可近似为非平坦输出光束。顶帽式轮廓也可使用一个或多个透镜、漫射器、混合棒,或处于发射器1702、1704、1706和输出波导、纤维或光纤束之间的任何其他居间光学部件来实现。
图18是示出了在输出处经由漫射器1804输出的单根光纤1802的示意图。在一个实施方案中,光纤1802具有500微米的直径、0.65的数值孔径,并且在没有漫射器1804的情况下发射约70度或80度的光锥1806。在有漫射器1804的情况下,光锥1806可具有约110度或120度的角度。光锥1806可以是所有光到达并且均匀分布的地方的大部分。漫射器1804可允许由图像传感器观察到的场景的电磁能量的更均匀分布。
在一个实施方案中,内腔波导210包括约500微米的单根塑料或玻璃光纤。塑料纤维的成本较低,其宽度可允许纤维将足够量的光传携带到场景,但具有耦合、漫射或其它损耗。例如,较小的纤维可能不能携带与较大纤维一样多的光或功率。内腔波导210可包括单根或多根光纤。内腔波导210可直接从光源或经由跳线波导接收光。漫射器可用于加宽光输出206以获得图像传感器214或其它光学部件的所需视场。
虽然在图17A至图17C中示出了三个发射器,但在一些实施方案中可使用数量从一个到数百个或更多个不等的发射器。发射器可具有它们发射的不同波长或光谱的光,并且这些光可用于连续覆盖电磁光谱的所需部分(例如,可见光谱以及红外光谱和紫外光谱)。发射器可被配置为发射可见光诸如红光、绿光和蓝光,并且还可被配置为发射电磁辐射的超光谱发射、用于使试剂发荧光的荧光激发波长和/或用于计算参数和场景中对象之间的距离的激光标测模式。
图19示出了被分成二十个不同子光谱的电磁光谱1900的一部分。子光谱的数量仅为示例性的。在至少一个实施方案中,光谱1900可被分成数百个子光谱,每个子光谱具有小波带。光谱可从红外光谱1902延伸,穿过可见光谱1904,并且进入紫外光谱1906。子光谱各自具有覆盖光谱1900的一部分的波带1908。每个波带可由上波长和下波长限定。
超光谱成像包括来自跨电磁光谱1900的成像信息。电磁辐射的超光谱脉冲可包括跨越电磁波谱1900的一个或多个部分或整个电磁波谱1900的多个子脉冲。电磁辐射的超光谱脉冲可包括电磁辐射的单个波长分区。所得超光谱曝光帧包括在电磁辐射的超光谱脉冲之后由像素阵列感测到的信息。因此,超光谱曝光帧可包括电磁光谱1900的任何合适分区的数据,并且可包括电磁光谱1900的多个分区的多个曝光帧。在一个实施方案中,超光谱曝光帧包括多个超光谱曝光帧,使得组合的超光谱曝光帧包括整个电磁光谱1900的数据。
在一个实施方案中,针对每个子光谱,至少一个发射器(诸如激光发射器)包括在光源(诸如光源202、1700)中以提供对整个光谱1900的完整且连续的覆盖。例如,用于提供对所示子光谱的覆盖的光源可包括至少20个不同的发射器,每个子光谱至少有一个发射器。在一个实施方案中,每个发射器覆盖覆盖40纳米的光谱。例如,一个发射器可发射500nm至540nm的波带内的光,而另一个发射器可发射540nm至580nm的波带内的光。在另一个实施方案中,发射器可覆盖其它尺寸的波带,这取决于可用发射器的类型或成像需要。例如,多个发射器可包括覆盖500nm至540nm的波带的第一发射器、覆盖540nm至640nm的波带的第二发射器,以及覆盖640nm至650nm的波带的第三发射器。每个发射器可覆盖范围从远红外、中红外、近红外、可见光、近紫外和/或远紫外的电磁光谱的不同片段。在一些情况下,可包括相同类型或波长的多个发射器以提供用于成像的足够输出功率。特定波带所需的发射器数量可取决于单色传感器对波带的灵敏度和/或该波带中发射器的功率输出能力。
可选择由发射器提供的波带宽度和覆盖率以提供光谱的任何所需组合。例如,使用非常小的波带宽度(例如,10nm或更小)的光谱的连续覆盖可允许高度选择性的超光谱成像和/或荧光成像。该波带宽度可允许针对一种或多种特定荧光试剂选择性地发射激发波长。另外,该波带宽度可允许选择性地发射超光谱电磁辐射的某些分区,以用于识别特定结构、化学过程、组织、生物过程等。因为波长来自可选择性激活的发射器,所以可实现在检查期间使一种或多种特定荧光试剂发荧光的极致灵活性。另外,可实现通过超光谱成像来识别一个或多个对象或过程的极致灵活性。因此,更多荧光信息和/或超光谱信息可在更少时间内并且在单次检查内实现,这原本需要多次检查、由于施用染料或染色剂而延迟等。
图20是示出用于生成图像的发射和读出的时序图2000的示意图。实线表示用于捕获一系列曝光帧2004至2014的读出(峰2002)和消隐周期(谷)。一系列曝光帧2004至2014可包括可用于生成可叠加在RGB视频流上的激光标测、超光谱和/或荧光数据的一系列重复的曝光帧。在一个实施方案中,单个图像帧包括来自多个曝光帧的信息,其中一个曝光帧包括红色图像数据,另一个曝光帧包括绿色图像数据,并且另一个曝光帧包括蓝色图像数据。另外,单个图像帧可包括超光谱图像数据、荧光图像数据和激光标测数据中的一者或多者。多个曝光帧被组合以产生单个图像帧。单个图像帧是具有超光谱成像数据的RGB图像。曝光帧系列包括第一曝光帧2004、第二曝光帧2006、第三曝光帧2008、第四曝光帧2010、第五曝光帧2012和第N曝光帧2026。
另外,可组合使用超光谱图像数据、荧光图像数据和激光标测数据以识别关键组织或结构并进一步测量那些关键组织或结构的尺寸。例如,可将超光谱图像数据提供给对应的系统以识别身体中的某些关键结构,诸如神经、输尿管、血管、癌组织等。关键结构的位置和识别可从对应的系统接收,并且还可用于使用激光标测数据来生成关键结构的形貌。例如,对应的系统基于超光谱成像数据确定癌性肿瘤的位置。由于基于超光谱成像数据知晓癌性肿瘤的位置,因此可随后基于激光标测数据来计算癌性肿瘤的形貌和距离。当基于荧光成像数据来识别癌性肿瘤或其它结构时,此示例也可适用。
在一个实施方案中,基于电磁能量的至少一个脉冲生成每个曝光帧。电磁能量脉冲被图像传感器反射并且检测,并且随后在后续读出(2002)中读出。因此,每个消隐周期和读出得到用于特定光谱的电磁能量的图像帧。例如,第一曝光帧2004可基于第一一个或多个脉冲2016的光谱生成,第二曝光帧2006可基于第二一个或多个脉冲2018的光谱生成,第三曝光帧2008可基于第三一个或多个脉冲2020的光谱生成,第四曝光帧2010可基于第四一个或多个脉冲2022的光谱生成,第五曝光帧2012可基于第五一个或多个脉冲的光谱生成,并且第N曝光帧2026可基于第N一个或多个脉冲2026的光谱生成。
脉冲2016至2026可包括来自单个发射器或来自两个或更多个发射器的组合的能量。例如,可选择包括在单个读出周期中或多个曝光帧2004至2014内的光谱以用于对特定组织或状况的所需检查或检测。根据一个实施方案,一个或多个脉冲可包括用于生成RGB或黑白图像的可见光谱光,而一个或多个附加脉冲被发射以感测针对超光谱波长的电磁辐射的光谱响应。例如,脉冲2016可包括红光,脉冲2018可包括蓝光,并且脉冲2020可包括绿光,而其余脉冲2022至2026可包括用于检测特定组织类型、使试剂发荧光和/或标测场景的形貌的波长和光谱。又如,单个读出周期的脉冲包括由可用于检测特定组织类型的多个不同发射器生成的光谱(例如,电磁光谱的不同片段)。例如,如果波长的组合导致像素具有超过或低于阈值的值,则该像素可被分类为对应于特定类型的组织。每个帧可用于进一步缩小存在于该像素(例如,以及图像中的每个像素)处的组织的类型,以基于组织的光谱响应和/或组织中是否存在荧光试剂来提供组织的非常特化的分类和/或组织的状态(患病/健康)。
多个帧2004至2014被示出为具有不同长度的读出周期并且具有不同长度或强度的脉冲。消隐周期、脉冲长度或强度等可基于单色传感器对特定波长的灵敏度、发射器的功率输出能力和/或波导的携带能力来选择。
在一个实施方案中,双图像传感器可用于获得三维图像或视频馈送。三维检查可允许对检查区域的三维结构的改善的理解以及对该区域内的不同组织或物质类型的标测。
在一个示例性具体实施中,向患者提供荧光试剂,并且该荧光试剂被配置为附着到癌细胞。已知该荧光试剂在被特定分区的电磁辐射辐射时发荧光。该荧光试剂的弛豫波长也是已知的。在该示例性具体实施中,如本文所述使用内窥镜成像系统对患者成像。内窥镜成像系统脉冲光的红光波长、绿光波长和蓝光波长的分区,以生成患者身体内部的RGB视频流。另外,内窥镜成像系统针对施用给患者的荧光试剂脉冲激发波长的电磁辐射。在示例中,患者具有癌细胞并且荧光试剂已粘附到癌细胞。当内窥镜成像系统针对荧光试剂脉冲激发波长时,荧光试剂将发荧光并发射弛豫波长。如果癌细胞存在于由内窥镜成像系统成像的场景中,则荧光试剂也将存在于该场景中并且由于激发波长的发射而在发荧光之后发射其弛豫波长。内窥镜成像系统感测荧光试剂的弛豫波长,并由此感测场景中荧光试剂的存在。因为已知荧光试剂附着于癌细胞,所以荧光试剂的存在进一步指示场景内癌细胞的存在。内窥镜成像系统由此识别场景内癌细胞的位置。内窥镜成像系统还可发射用于生成场景的形貌并计算场景内对象的尺寸的激光标测脉冲方案。癌细胞的位置(如由荧光成像数据所识别)可与基于激光标测数据计算出的形貌和尺寸信息组合。因此,可识别癌细胞的精确位置、大小、尺寸和形貌。可将该信息提供给执业医生以帮助切除癌细胞。另外,可将该信息提供给机器人外科系统以使外科系统能够切除癌细胞。
在另一个示例性具体实施中,使用内窥镜成像系统对患者成像以识别关于患者组织病理的定量诊断信息。在示例中,患者疑似或已知患有疾病,该疾病可利用超光谱成像跟踪以观察疾病在患者组织中的进展。内窥镜成像系统脉冲光的红光波长、绿光波长和蓝光波长的分区,以生成患者身体内部的RGB视频流。另外,内窥镜成像系统脉冲光的一个或多个超光谱波长,这些波长允许系统“透视”一些组织并生成受疾病影响的组织的成像。内窥镜成像系统感测反射超光谱电磁辐射以生成患病组织的超光谱成像数据,并由此识别患病组织在患者体内的位置。内窥镜成像系统还可发射用于生成场景的形貌并计算场景内对象的尺寸的激光标测脉冲方案。患病组织的位置(如由超光谱成像数据所识别)可与用激光标测数据计算出的形貌和尺寸信息组合。因此,可识别患病组织的精确位置、大小、尺寸和形貌。可将该信息提供给执业医生以帮助切除、成像或研究患病组织。另外,可将该信息提供给机器人外科系统以使外科系统能够切除患病组织。
图21A和图21B分别示出根据本公开的教导内容和原理的单片传感器2100的具体实施的透视图和侧视图,该单片传感器具有多个像素阵列用于产生三维图像。此类具体实施可能是三维图像捕获所希望的,其中在使用期间两个像素阵列2102和2104可被偏移。在另一个具体实施中,第一像素阵列2102和第二像素阵列2104可专用于接收预先确定的波长范围的电磁辐射,其中第一像素阵列专用于与第二像素阵列不同波长范围的电磁辐射。
图22A和图22B分别示出了构建在多个基板上的成像传感器2200的具体实施的透视图和侧视图。如图所示,形成像素阵列的多个像素列2204位于第一基板2202上并且多个电路列2208位于第二基板2206上。图中还示出了一个像素列与其相关联的或对应的电路列之间的电连接和通信。在一个具体实施中,图像传感器可具有与全部或大部分支撑电路分开的像素阵列,而其可能以其它方式被制造成它的像素阵列和支撑电路处于单个、单片基板/芯片上。本公开可使用至少两个基板/芯片,这些基板/芯片将使用三维堆叠技术被堆叠在一起。两个基板/芯片中的第一2202可使用图像CMOS工艺加工。第一基板/芯片2202可仅仅由像素阵列构成,或可由被有限电路围绕的像素阵列构成。第二或后续基板/芯片2206可使用任何工艺加工,而不是必须来自图像CMOS工艺。第二基板/芯片2206可以是但不限于,为了将各种和多个功能集成到基板/芯片上非常有限的空间或面积中的高密度数字工艺、或为了集成例如精确模拟功能的混合模式或模拟工艺、或为了实现无线能力的RF工艺、或为了集成MEMS器件的MEMS(微电子机械系统)。图像CMOS基板/芯片2202可使用任何三维技术与第二或后续基板/芯片2206堆叠。第二基板/芯片2206可支撑将可能另外在第一图像CMOS芯片2202中实现(如果在单片基板/芯片上实现)为外围电路的电路的绝大部分或大部分,并且因此当保持像素阵列大小恒定并且尽最大可能优化时增加了整个系统面积。两个基板/芯片之间的电连接可通过互联器完成,这些互联器可为接合引线、凸耳和/或TSV(硅通孔)。
图23A和图23B分别示出了具有多个像素阵列用于产生三维图像的成像传感器2300的具体实施的透视图和侧视图。三维图像传感器可被构建在多个基板上并且可包括多个像素阵列和其他相关联的电路,其中形成第一像素阵列的多个素列2302a和形成第二像素阵列的多个像素列2302b分别位于相应的基板2308a和2308b上,并且多个电路列2306a和2306b位于单独的基板2304上。还示出了像素列与相关联的或对应的电路列之间的电连接和通信。
多个像素阵列可同时感测信息,并且可组合来自多个像素阵列的信息以生成三维图像。在一个实施方案中,内窥镜成像系统包括可被部署成生成三维成像的两个或更多个像素阵列。内窥镜成像系统可包括用于在像素阵列的消隐周期期间发射电磁辐射脉冲的发射器。像素阵列可被同步,使得针对两个或更多个像素阵列同时读取光学黑色像素(即,发生消隐周期)。发射器可发射用于对两个或更多个像素阵列中的每个像素阵列充电的电磁辐射脉冲。两个或更多个像素阵列可同时读取其相应的带电像素,使得两个或更多个像素阵列的读出周期同时或大致同时发生。在一个实施方案中,内窥镜成像系统包括多个发射器,每个发射器与多个像素阵列中的一个或多个像素阵列单独同步。可组合来自多个像素阵列的信息以生成三维图像帧和视频流。
应当理解,本公开的教导内容和原理可用于可重复使用的装置平台、有限使用的装置平台、可重新设置使用的装置平台或单次使用/一次性的装置平台,而不脱离本公开的范围。应当理解,在可重复使用的装置平台中,最终使用人负责该装置的清洁和消毒。在有限使用的装置平台中,在变得不能操作之前,装置可被使用一些规定量的次数。典型的新装置在交付前已经过无菌处理,如果要用作其它用途,应在其它使用之前由最终用户进行清洗和消毒。在可重新设置使用的装置平台中,第三方可重新处理装置(例如,清洁、包装和消毒)单次使用的装置,以比新单元更低的成本用于另外使用。在单次使用/一次性的装置平台中,装置以无菌方式提供至手术室并且在被弃置掉之前只能使用一次。
实施例
以下实施例涉及另外的实施方案的优选特征:
实施例1是一种系统。系统包括用于发射电磁辐射脉冲的发射器。所述系统包括图像传感器,所述图像传感器包括用于感测反射的电磁辐射的像素阵列,其中在所述图像传感器的读出周期期间读出像素数据。所述系统包括与所述发射器和所述图像传感器电子通信的控制器。所述系统包括驱动器,所述驱动器用于至少部分地基于抖动规范来驱动所述发射器的发射,其中所述抖动规范包括所述系统的部件所经历的不可预测的时间变化。该系统使得由发射器发射的电磁辐射脉冲的至少一部分包括以下中的一者或多者:具有约513nm至约545nm的波长的电磁辐射;具有约565nm至约585nm的波长的电磁辐射;或具有约900nm至约1000nm的波长的电磁辐射。
实施例2为根据实施例1所述的系统,其中:所述驱动器为所述控制器的部件;所述控制器被配置为确定所述图像传感器和所述发射器的时序,使得由所述发射器发射的所述电磁辐射脉冲在所述图像传感器的消隐周期期间发射;并且所述控制器被配置为使所述驱动器驱动所述发射器以在所述图像传感器的读出周期之间发射电磁辐射脉冲。
实施例3为根据实施例1至2中任一项所述的系统,其中所述抖动规范包括以下一者或两者:控制信号使所述发射器发射电磁辐射脉冲之间的时间延迟;以及关断所述发射器并结束电磁辐射脉冲的控制信号之间的时间延迟;其中所述时间延迟中的一者或两者小于或等于所述图像传感器的所述读出周期的持续时间的约10%至约25%。
实施例4为根据实施例1至3中任一项所述的系统,其中用于读出所述像素阵列的单个像素的像素数据的持续时间为像素读出长度,并且其中所述一个或两个时间延迟小于或等于所述像素读出长度。
实施例5为根据实施例1至4中任一项所述的系统,其中所述一个或两个时间延迟是以下中的一者:约1微秒或更少;或约50纳秒或更少。
实施例6为根据实施例1至5中任一项所述的系统,其中所述图像传感器的所述读出周期:在读出所述像素阵列的光学黑色像素的初始行或初始列之后开始;并且在读出所述像素阵列的光学黑色像素的最终行或最终列之后结束。
实施例7为根据实施例1至6中任一项所述的系统,其中所述发射器包括:第一激光束,所述第一激光束用于在第一二向色镜处发射第一波长的电磁辐射,其中所述第一二向色镜将所述第一波长的所述电磁辐射反射到多根光纤;以及第二激光束,所述第二激光束用于在第二二向色镜处发射第二波长的电磁辐射,其中所述第二二向色镜将所述第二波长的所述电磁辐射反射到所述多根光纤;其中所述第一二向色镜对所述第二波长的电磁辐射透明。
实施例8为根据实施例1至7中任一项所述的系统,还包括:光纤束,其中所述发射器将所述电磁辐射脉冲发射到所述光纤束中;其中所述光纤束包括塑料纤维和玻璃纤维,其中所述塑料纤维和所述玻璃纤维耦合在所述光纤束的输出附近。
实施例9为根据实施例1至8中任一项所述的系统,还包括:光纤束,其中所述发射器将所述电磁辐射脉冲发射到所述光纤束中;以及漫射器,所述漫射器设置在所述光纤束的远侧端部处;其中所述漫射器提供光锥,所述光锥具有介于110度和120度之间的角度或介于70度和80度之间的角度。
实施例10为根据实施例1至9中任一项所述的系统,其中:所述图像传感器被配置为基于所述反射的电磁辐射来生成和读出曝光帧的像素数据;并且所述像素阵列包括用于读出像素数据的多个排。并且所述读出周期为读出所述像素阵列的所有多个排的持续时间。
实施例11为根据实施例1至10中任一项所述的系统,其中所述图像传感器被配置为生成多个曝光帧,其中所述多个曝光帧中的每一个曝光帧对应于由所述发射器发射的一个或多个电磁辐射脉冲。
实施例12为根据实施例1至11中任一项所述的系统,其中所述图像传感器的所述像素阵列在所述像素阵列的读出周期期间感测反射的电磁辐射以生成所述多个曝光帧,其中所述读出周期包括当读取所述像素阵列中的有效像素时的持续时间。
实施例13为根据实施例1至12中任一项所述的系统,其中由所述发射器发射的所述电磁辐射脉冲的至少一部分为用于引起光谱响应的超光谱波长,其中所述超光谱波长包括以下各项中的一者或多者:具有约513nm至约545nm的波长的所述电磁辐射,以及具有约900nm至约1000nm的波长的所述电磁辐射;或者具有约565nm至约585nm的波长的所述电磁辐射,以及具有约900nm至约1000nm的波长的所述电磁辐射。
实施例14为根据实施例1至13中任一项所述的系统,其中所述发射器被配置为在脉冲持续时间期间发射多个电磁辐射子脉冲,所述多个子脉冲具有短于所述脉冲持续时间的子持续时间。
实施例15为根据实施例1至14中任一项所述的系统,其中由所述发射器发射的所述电磁辐射脉冲中的一个或多个电磁辐射脉冲包括作为单个脉冲或单个子脉冲同时以两个或更多个波长发射的电磁辐射。
实施例16为根据实施例1至15中任一项所述的系统,其中由所述发射器发射的所述电磁辐射脉冲的至少一部分为导致由所述图像传感器产生的超光谱曝光帧的超光谱发射,并且其中所述控制器被配置为向对应的超光谱系统提供所述超光谱曝光帧,所述对应的超光谱系统基于所述超光谱曝光帧确定关键组织结构在场景内的位置。
实施例17为根据实施例1至16中任一项所述的系统,其中所述超光谱发射包括:具有约513nm至约545nm的波长的所述电磁辐射和具有约900nm至约1000nm的波长的所述电磁辐射;或者具有约565nm至约585nm的波长的所述电磁辐射,以及具有约900nm至约1000nm的波长的所述电磁辐射。
实施例18为根据实施例1至17中任一项所述的系统,其中所述控制器被进一步配置为:从所述对应的超光谱系统接收所述关键组织结构的位置;生成包括所述关键组织结构的所述位置的叠层帧;以及将叠层帧与描绘场景的彩色图像帧组合,以指示场景内关键组织结构的位置。
实施例19为根据实施例1至18中任一项所述的系统,其中感测由所述像素阵列反射的电磁辐射包括通过感测由所述发射器脉冲所述激光映射模式产生的反射的电磁辐射来生成激光映射曝光帧,并且其中所述控制器被进一步配置为:将所述激光映射曝光帧提供给对应的激光映射系统,所述对应的激光映射系统确定所述场景的形貌和/或所述场景内的一个或多个对象的尺寸;将所述关键组织结构的所述位置提供给所述对应激光标测系统;以及从对应激光标测系统接收关键组织结构的形貌和/或尺寸。
实施例20为根据实施例1至19中任一项所述的系统,其中所述关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
实施例21为根据实施例1至20中任一项所述的系统,其中由所述发射器发射的所述电磁辐射脉冲的至少一部分为导致由所述图像传感器产生的荧光曝光帧的荧光激发波长,并且其中所述控制器被配置为向对应的荧光系统提供所述荧光曝光帧,所述对应的荧光系统基于所述荧光曝光帧确定关键组织结构在场景内的位置。
实施例22为根据实施例1至21中任一项所述的系统,其中所述荧光激发发射包括以下各项中的一者或多者:具有约770nm至约790nm的波长的电磁辐射;或具有约795nm至约815nm的波长的电磁辐射。
实施例23为根据实施例1至22中任一项所述的系统,其中所述控制器被进一步配置为:从所述对应的荧光系统接收所述关键组织结构的位置;生成包括所述关键组织结构的所述位置的叠层帧;以及将叠层帧与描绘场景的彩色图像帧组合,以指示场景内关键组织结构的位置。
实施例24为根据实施例1至23中任一项所述的系统,其中感测由所述像素阵列反射的电磁辐射包括通过感测由所述发射器脉冲所述激光映射模式产生的反射的电磁辐射来生成激光映射曝光帧,并且其中所述控制器被进一步配置为:将所述激光映射曝光帧提供给对应的激光映射系统,所述对应的激光映射系统确定所述场景的形貌和/或所述场景内的一个或多个对象的尺寸;将所述关键组织结构的所述位置提供给所述对应激光标测系统;以及从对应激光标测系统接收关键组织结构的形貌和/或尺寸。
实施例25为根据实施例1至24中任一项所述的系统,其中所述关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
实施例26为根据实施例1至25中任一项所述的系统,其中所述控制器被配置为在所述图像传感器的消隐周期期间同步所述电磁辐射脉冲的定时,其中所述消隐周期对应于所述像素阵列中的最后一行有源像素的读出与所述像素阵列中的有源像素的下一个后续读出开始之间的时间。
实施例27为根据实施例1至26中任一项所述的系统,其中由所述发射器发射的两个或更多个电磁辐射脉冲导致反射的电磁辐射的两个或更多个实例,反射的电磁辐射的两个或更多个实例由所述像素阵列感测以生成两个或更多个曝光帧,所述两个或更多个曝光帧被组合以形成图像帧。
实施例28为根据实施例1至27中任一项所述的系统,其中所述图像传感器包括第一图像传感器和第二图像传感器,使得所述图像传感器能够生成三维图像。
实施例29为根据实施例1至28中任一项所述的系统,其中所述发射器被配置为重复发射足以生成包括多个图像帧的视频流的电磁辐射脉冲序列,其中所述视频流中的每个图像帧包括来自多个曝光帧的数据,并且其中所述曝光帧中的每一个曝光帧对应于电磁辐射脉冲。
实施例30为根据实施例1至29中任一项所述的系统,其中所述电磁辐射脉冲以不同波长的电磁辐射的模式发射,并且其中所述发射器重复不同波长的电磁辐射的所述模式。
实施例31为根据实施例1至30中任一项所述的系统,其中所述电磁辐射脉冲的至少一部分包括红光波长、绿光波长、蓝光波长和超光谱波长,使得由所述像素阵列感测的对应于所述红光波长、所述绿光波长、所述蓝光波长和所述超光谱波长中的每一者的反射的电磁辐射能够被处理以生成包括超光谱成像数据的叠加的红-绿-蓝(RGB)图像帧,其中电磁辐射的所述超光谱波长包括:具有约513nm至约545nm的波长的所述电磁辐射和具有约900nm至约1000nm的波长的所述电磁辐射;或者具有约565nm至约585nm的波长的所述电磁辐射,以及具有约900nm至约1000nm的波长的所述电磁辐射。
实施例32为根据实施例1至31中任一项所述的系统,其中所述电磁辐射脉冲的至少一部分包括亮度发射、红色度发射、蓝色度发射和超光谱发射,使得由所述像素阵列感测的对应于所述亮度发射、所述红色度发射、所述蓝色度发射和所述超光谱发射中的每一者的反射的电磁辐射能够被处理以生成包括超光谱成像数据的叠加的YCbCr图像帧,其中所述电磁辐射的超光谱发射包括:具有约513nm至约545nm的波长的所述电磁辐射和具有约900nm至约1000nm的波长的所述电磁辐射;或者具有约565nm至约585nm的波长的所述电磁辐射,以及具有约900nm至约1000nm的波长的所述电磁辐射。
实施例33为根据实施例1至32中任一项所述的系统,其中由所述发射器发射的所述电磁辐射脉冲的至少一部分为用于使试剂发荧光的荧光激发波长,其中所述荧光激发波长包括以下中的一者或多者:具有约770nm至约790nm的波长的所述电磁辐射;或具有约795nm至约815nm的波长的所述电磁辐射。
实施例34为根据实施例1至33中任一项所述的系统,其中所述电磁辐射脉冲的至少一部分包括红光波长、绿光波长、蓝光波长和荧光激发波长,使得由所述像素阵列感测的对应于所述红光波长、所述绿光波长、所述蓝光波长和所述荧光激发波长中的每一者的反射的电磁辐射能够被处理以生成包括荧光成像数据的叠加的红-绿-蓝(RGB)图像帧,其中电磁辐射的所述荧光波长包括:具有约770nm至约790nm的波长的电磁辐射和/或具有约795nm至约815nm的波长的电磁辐射。
实施例35为根据实施例1至34中任一项所述的系统,其中所述电磁辐射脉冲的至少一部分包括亮度发射、红色度发射、蓝色度发射和荧光激发发射,使得由所述像素阵列感测的对应于所述亮度发射、所述红色度发射、所述蓝色度发射和所述荧光激发发射中的每一者的反射的电磁辐射能够被处理以生成包括荧光成像数据的叠加的YCbCr图像帧,其中电磁辐射的所述荧光波长包括:具有约770nm至约790nm的波长的电磁辐射和/或具有约795nm至约815nm的波长的电磁辐射。
实施例36为根据实施例1至35中任一项所述的系统,还包括单根光纤,其中所述发射器将所述电磁辐射脉冲发射到所述单根光纤中。
实施例37为根据实施例1至36中任一项所述的系统,其中所述像素阵列为独立像素的二维阵列,每个独立像素能够检测任何波长的电磁辐射。
实施例38为根据实施例1至37中任一项所述的系统,还包括过滤具有约770nm至约790nm的波长的电磁辐射的滤光器。
实施例39为根据实施例1至38中任一项所述的系统,还包括滤光器,所述滤光器过滤具有约795nm至约815nm的波长的电磁辐射。
实施例40为根据实施例1至39中任一项所述的系统,其中所述图像传感器为CMOS图像传感器。
实施例41为根据实施例1至40中任一项所述的系统,其中由所述像素阵列感测所反射的电磁辐射包括:通过感测由所述发射器脉冲所述激光标测模式产生的所反射的电磁辐射来生成激光标测曝光帧,其中所述激光标测曝光帧包括用于确定实时测量的信息,所述信息包括以下中的一者或多者:从内窥镜到对象的距离;内窥镜与所述对象之间的角度;或关于对象的表面形貌信息。
实施例42为根据实施例1至41中任一项所述的系统,其中所述激光标测曝光帧包括用于以小于10厘米的准确度确定所述实时测量的信息。
实施例43为根据实施例1至42中任一项所述的系统,其中所述激光标测曝光帧包括用于以小于一毫米的准确度确定所述实时测量的信息。
实施例44为根据实施例1至43中任一项所述的系统,其中由所述发射器发射的所述电磁辐射脉冲的至少一部分包括用于场景内的多个工具中的每一个工具的多个特定于工具的激光标测模式。
实施例45为根据实施例1至44中任一项所述的系统,其中由所述发射器发射的所述激光标测模式包括彼此独立的第一输出和第二输出,其中所述第一输出用于光照明,并且所述第二输出用于工具跟踪。
实施例46为根据实施例1至45中任一项所述的系统,其中所述抖动规范为由所述发射器发射的电磁辐射脉冲的持续时间的5%至25%。
实施例47为根据实施例1至46中任一项所述的系统,其中所述抖动规范小于或等于所述图像传感器的所述读出周期的持续时间的约10%至约25%。
实施例48为根据实施例1至47中任一项所述的系统,其中所述抖动规范表示由所述发射器经历的所述不可预测的时间变化。
实施例49为根据实施例1至48中任一项所述的系统,其中所述抖动规范表示由所述图像传感器经历的所述不可预测的时间变化。
实施例50为根据实施例1至49中任一项所述的系统,其中所述抖动规范表示由所述控制器经历的所述不可预测的时间变化。
实施例51为根据实施例1至50中任一项所述的系统,其中所述抖动规范表示由所述驱动器经历的所述不可预测的时间变化。
实施例52为根据实施例1至51中任一项所述的系统,其中所述抖动规范表示由所述发射器、所述图像传感器、所述控制器或所述驱动器中的一者或多者经历的所述不可预测的时间变化。
实施例53为根据实施例1至52中任一项所述的系统,其中所述控制器包括能够被配置用于执行存储在非暂态计算机可读存储介质中的指令的一个或多个处理器,所述指令包括:确定所述抖动规范的持续时间是否长于阈值;并且响应于确定所述抖动规范长于所述阈值量,限制由所述发射器发射的所述电磁辐射脉冲的持续时间,使得电磁辐射脉冲不与所述图像传感器的所述读出周期重叠。
实施例54为根据实施例1至53中任一项所述的系统,其中所述控制器包括能够被配置用于执行存储在非暂态计算机可读存储介质中的指令的一个或多个处理器,所述指令包括:确定所述抖动规范的持续时间是否短于阈值;并且响应于确定所述抖动规范短于所述阈值量,使由所述发射器发射的所述电磁辐射脉冲的持续时间保持不变。
实施例55为根据实施例1至54中任一项所述的系统,其中所述阈值量为1微秒。
实施例56为根据实施例1至55中任一项所述的系统,其中所述阈值量为50纳秒。
实施例57为根据实施例1至56中任一项所述的系统,其中所述阈值量要求所述抖动规范具有小于所述图像传感器读出所述像素阵列的一排像素所花费的时间的持续时间。
实施例58为根据实施例1至57中任一项所述的系统,其中所述阈值量要求所述抖动规范具有小于所述图像传感器读出所述像素阵列的一个像素所花费的时间的持续时间。
实施例59为根据实施例1至58中任一项所述的系统,其中所述阈值量要求所述抖动规范具有小于或等于所述图像传感器读出所述像素阵列中的所有有效像素所花费的时间的10%至25%的持续时间。
实施例60为根据实施例1至59中任一项所述的系统,还包括与所述控制器电连通的相机控制单元(CCU),其中所述相机控制单元(CCU)向所述控制器提供信号以避免电磁辐射脉冲与所述图像传感器的所述读出周期重叠。
实施例61为根据实施例1至60中任一项所述的系统,其中所述抖动规范小于或等于以下中的一者或多者:一微秒;五十纳秒;所述图像传感器读出所述像素阵列的一排像素所需的持续时间;所述图像传感器读出所述像素阵列的一个像素所需的持续时间;所述图像传感器读出所述像素阵列中所有有效像素所需的持续时间的10%至25%;或所述图像传感器的所述读出周期的持续时间的10%至25%。
实施例62为根据实施例1至61中任一项所述的系统,其中所述抖动规范表示用于启动和/或中断所述电磁辐射脉冲中的一个或多个电磁辐射脉冲的发射的恒定的、可预测的延迟的变化。
实施例63为根据实施例1至62中任一项所述的系统,其中所述抖动规范表示由所述发射器、所述控制器或所述驱动器中的一者或多者经历的抖动。
应当理解,本文所公开的各种特征在本领域中提供了显著优势和进步。下列权利要求为那些特征中的一些的示例。
在上述本公开具体实施方式中,出于简化本公开的目的,将本公开的各个特征集中于单个实施方案中。本公开的方法不应理解为体现了这样的意图:受权利要求书保护的公开内容要求比每项权利要求中所明确列举的更多的特征。相反,创新方面未能体现上文公开的单个实施例的所有特征。
应当理解,上述布置方式、实施例和实施方案的任何特征可在包括从任何所公开的布置方式、实施例和实施方案中获得的特征的组合的单个实施方案中组合。
应当理解,上述设置只是本公开原理的示例性应用。在不脱离本公开精神和范围的前提下,本领域的技术人员可以设计许多修改和另选设置,并且所附权利要求书旨在涵盖这些修改和设置。
因此,当本公开以图示显示并且以特殊性和细节进行上述描述时,对于本领域的普通技术人员而言,在不脱离本文所述原则和理念的前提下,显而易见可进行大量修改,这些修改包括但不限于尺寸、材料、形状、形式、功能和操作方式、组装和使用方式的变化。
另外,在适当的情况下,本文所述的功能可通过硬件、软件、固件、数字部件或模拟部件中的一种或多种来执行。例如,可对一种或多种专用集成电路(ASIC)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。在整个下面的描述和权利要求中所用的某些术语是指特定的系统部件。本领域的技术人员应当理解,部件可具有不同的名称。本文并非旨在在名称上而非功能上不同的部件之间进行辨别。
为了举例说明和描述的目的,已经提供了上述具体实施方式。这些具体实施方式并非意图为详尽的或将本公开限制为所公开的具体形式。根据上述教导内容可以对本公开进行许多修改和改变。另外,应当指出的是,任何或所有前述另选的具体实施可以任何期望的组合使用,以形成本公开的另外的混合的具体实施。
另外,虽然已描述和说明了本公开的特定具体实施,但是本公开并不限于如描述和说明的特定形式或部件布置。本公开的范围将由此处所附的权利要求、此处和不同申请中提交的任何未来的权利要求以及它们的等效物来限定。

Claims (27)

1.一种系统,包括:
发射器,所述发射器用于发射电磁辐射脉冲;
图像传感器,所述图像传感器包括用于感测反射的电磁辐射的像素阵列,其中在所述图像传感器的读出周期期间读出像素数据;
控制器,所述控制器与所述发射器和所述图像传感器电子通信;以及
驱动器,所述驱动器用于至少部分地基于抖动规范来驱动由所述发射器发射的发射,其中所述抖动规范包括由所述系统的部件经历的不可预测的时间变化;
其中由所述发射器发射的所述电磁辐射脉冲的至少一部分包括以下中的一者或多者:
具有约513nm至约545nm的波长的电磁辐射;
具有约565nm至约585nm的波长的电磁辐射;或者
具有约900nm至约1000nm的波长的电磁辐射。
2.根据权利要求1所述的系统,其中所述抖动规范表示以下中的一者或多者:
用于启动和/或中断所述电磁辐射脉冲的发射的可预测的延迟的变化;或者
由所述发射器、所述控制器或所述驱动器中的一者或多者所经历的抖动。
3.根据权利要求1所述的系统,其中:
所述驱动器为所述控制器的部件;
所述控制器被配置为控制所述图像传感器和所述发射器的定序,使得由所述发射器发射的所述电磁辐射脉冲在所述图像传感器的消隐周期期间发射;并且
所述控制器被配置为使所述驱动器驱动所述发射器以在所述图像传感器的读出周期之间发射电磁辐射脉冲。
4.根据权利要求1所述的系统,其中所述抖动规范包括以下一者或两者:
使所述发射器发射电磁辐射脉冲的控制信号之间的时间延迟;以及
关断所述发射器并结束电磁辐射脉冲的控制信号之间的时间延迟;其中所述时间延迟中的一者或两者小于或等于所述图像传感器的所述读出周期的持续时间的约10%至约25%。
5.根据权利要求4所述的系统,其中用于读出所述像素阵列的单个像素的像素数据的持续时间为像素读出长度,并且其中所述一个或两个时间延迟小于或等于所述像素读出长度。
6.根据权利要求1所述的系统,其中所述控制器包括用于执行存储在非暂态计算机可读存储介质中的指令的一个或多个处理器,所述指令包括:确定所述抖动规范是否具有超过阈值的持续时间;以及
响应于所述抖动规范具有超过所述阈值的持续时间,使所述驱动器限制由所述发射器发射的所述电磁辐射脉冲中的每一个电磁辐射脉冲的持续时间,使得电磁辐射脉冲不与所述图像传感器的所述读出周期重叠。
7.根据权利要求6所述的系统,其中如果所述抖动规范具有小于或等于以下中的一者或多者的持续时间,则所述抖动规范不具有超过所述阈值的持续时间:
一微秒;
五十纳秒;
所述图像传感器读出所述像素阵列的一排像素所需的持续时间;
所述图像传感器读出所述像素阵列的一个像素所需的持续时间;
所述图像传感器读出所述像素阵列中所有有效像素所需的持续时间的10%至25%;或者
所述图像传感器的所述读出周期的持续时间的10%至25%。
8.根据权利要求1所述的系统,其中所述图像传感器的所述读出周期:
在读出所述像素阵列的光学黑色像素的初始行或初始列之后开始;并且
在读出所述像素阵列的光学黑色像素的最终行或最终列之后结束。
9.根据权利要求1所述的系统,其中:
所述图像传感器被配置为基于所述反射的电磁辐射生成和读出曝光帧的像素数据;
所述像素阵列包括用于读出有效像素数据的多个排;并且
所述读出周期为用于读出所有多个排以读出所述有效像素数据的持续时间。
10.根据权利要求1所述的系统,还包括与所述控制器通信的相机控制单元(CCU),其中所述相机控制单元(CCU)向所述控制器提供信号以避免电磁辐射脉冲与所述图像传感器的所述读出周期重叠。
11.根据权利要求1所述的系统,其中所述抖动规范表示由所述发射器经历的所述不可预测的时间变化。
12.根据权利要求1所述的系统,其中所述抖动规范小于或等于以下中的一者或多者:
一微秒;
五十纳秒;
所述图像传感器读出所述像素阵列的一排像素所需的持续时间;
所述图像传感器读出所述像素阵列的一个像素所需的持续时间;
所述图像传感器读出所述像素阵列中所有有效像素所需的持续时间的10%至25%;或者
所述图像传感器的所述读出周期的持续时间的10%至25%。
13.根据权利要求1所述的系统,其中所述图像传感器被配置为生成多个曝光帧,其中所述多个曝光帧中的每一个曝光帧对应于由所述发射器发射的一个或多个电磁辐射脉冲。
14.根据权利要求13所述的系统,其中在所述像素阵列的所述读出周期期间,所述图像传感器的所述像素阵列感测反射的电磁辐射以生成所述多个曝光帧,其中所述读出周期包括当所述像素阵列中的有效像素被读取时的持续时间。
15.根据权利要求1所述的系统,其中由所述发射器发射的所述电磁辐射脉冲的至少一部分为用于引发光谱响应的超光谱波长,其中所述超光谱波长包括以下中的一者或多者:
具有约513nm至约545nm的波长的所述电磁辐射以及具有约900nm至约1000nm的波长的所述电磁辐射;或者
具有约565nm至约585nm的波长的所述电磁辐射以及具有约900nm至约1000nm的波长的所述电磁辐射。
16.根据权利要求1所述的系统,其中所述发射器被配置为在脉冲持续时间期间发射多个电磁辐射子脉冲,所述多个子脉冲具有短于所述脉冲持续时间的子持续时间。
17.根据权利要求1所述的系统,其中由所述发射器发射的所述电磁辐射脉冲中的一个或多个电磁辐射脉冲包括作为单个脉冲或单个子脉冲以两个或更多个波长同时发射的电磁辐射。
18.根据权利要求1所述的系统,其中由所述发射器发射的所述电磁辐射脉冲的至少一部分为导致由所述图像传感器产生的超光谱曝光帧的超光谱发射,并且其中所述控制器被配置为向对应的系统提供所述超光谱曝光帧,所述对应的系统基于所述超光谱曝光帧确定场景内关键组织结构的位置。
19.根据权利要求18所述的系统,其中所述超光谱发射包括:
具有约513nm至约545nm的波长的所述电磁辐射以及具有约900nm至约1000nm的波长的所述电磁辐射;或者
具有约565nm至约585nm的波长的所述电磁辐射以及具有约900nm至约1000nm的波长的所述电磁辐射。
20.根据权利要求19所述的系统,其中所述控制器被进一步配置为:
从所述对应的系统接收所述关键组织结构的位置;
生成包括所述关键组织结构的所述位置的叠层帧;并且
将所述叠层帧与描绘所述场景的彩色图像帧组合,以指示所述场景内所述关键组织结构的所述位置。
21.根据权利要求20所述的系统,其中所述关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
22.根据权利要求1所述的系统,其中所述控制器被配置为在所述图像传感器的消隐周期期间同步所述电磁辐射脉冲的定时,其中所述消隐周期对应于所述像素阵列中的最后一行有效像素的读出与所述像素阵列中有效像素的下一次后续读出开始之间的时间。
23.根据权利要求1所述的系统,其中由所述发射器发射的两个或更多个电磁辐射脉冲导致反射电磁辐射的两个或更多个实例,所述两个或更多个实例由所述像素阵列感测以生成被组合以形成图像帧的两个或更多个曝光帧。
24.根据权利要求1所述的系统,其中所述发射器被配置为重复发射足以生成包括多个图像帧的视频流的电磁辐射脉冲序列,其中所述视频流中的每个图像帧包括来自多个曝光帧的数据,并且其中所述曝光帧中的每一个曝光帧对应于一个或多个电磁辐射脉冲。
25.根据权利要求1所述的系统,其中所述电磁辐射脉冲以不同波长的电磁辐射的模式发射,并且其中所述发射器重复不同波长的电磁辐射的所述模式。
26.根据权利要求1所述的系统,其中所述电磁辐射脉冲的至少一部分包括红光波长、绿光波长、蓝光波长和超光谱波长,使得由所述像素阵列感测的对应于所述红光波长、所述绿光波长、所述蓝光波长和所述超光谱波长中的每一者的所反射的电磁辐射可被处理以生成包括超光谱成像数据的叠加的红-绿-蓝(RGB)图像帧,其中所述超光谱波长的电磁辐射包括:
具有约513nm至约545nm的波长的所述电磁辐射以及具有约900nm至约1000nm的波长的所述电磁辐射;或者
具有约565nm至约585nm的波长的所述电磁辐射以及具有约900nm至约1000nm的波长的所述电磁辐射。
27.根据权利要求1所述的系统,其中所述电磁辐射脉冲的至少一部分包括亮度发射、红色度发射、蓝色度发射和超光谱发射,使得由所述像素阵列感测的对应于所述亮度发射、所述红色度发射、所述蓝色度发射和所述超光谱发射中的每一者的所反射的电磁辐射可被处理以生成包括超光谱成像数据的叠加的YCbCr图像帧,其中所述电磁辐射的超光谱发射包括:
具有约513nm至约545nm的波长的所述电磁辐射以及具有约900nm至约1000nm的波长的所述电磁辐射;或者
具有约565nm至约585nm的波长的所述电磁辐射以及具有约900nm至约1000nm的波长的所述电磁辐射。
CN202080044867.0A 2019-06-20 2020-06-18 根据超光谱成像系统中的抖动规范来驱动光发射 Pending CN114072643A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201962864256P 2019-06-20 2019-06-20
US62/864,256 2019-06-20
US16/821,712 US12007550B2 (en) 2019-06-20 2020-03-17 Driving light emissions according to a jitter specification in a spectral imaging system
US16/821,712 2020-03-17
PCT/US2020/038490 WO2020257494A1 (en) 2019-06-20 2020-06-18 Driving light emissions according to a jitter specification in a hyperspectral imaging system

Publications (1)

Publication Number Publication Date
CN114072643A true CN114072643A (zh) 2022-02-18

Family

ID=74038542

Family Applications (4)

Application Number Title Priority Date Filing Date
CN202080044867.0A Pending CN114072643A (zh) 2019-06-20 2020-06-18 根据超光谱成像系统中的抖动规范来驱动光发射
CN202080045283.5A Pending CN114041043A (zh) 2019-06-20 2020-06-18 根据荧光成像系统中的抖动规范驱动光发射
CN202080045336.3A Pending CN114126467A (zh) 2019-06-20 2020-06-18 根据超光谱、荧光和激光标测成像系统中的抖动规范驱动光发射
CN202080044799.8A Pending CN114144658A (zh) 2019-06-20 2020-06-18 根据激光标测成像系统中的抖动规范来驱动光发射

Family Applications After (3)

Application Number Title Priority Date Filing Date
CN202080045283.5A Pending CN114041043A (zh) 2019-06-20 2020-06-18 根据荧光成像系统中的抖动规范驱动光发射
CN202080045336.3A Pending CN114126467A (zh) 2019-06-20 2020-06-18 根据超光谱、荧光和激光标测成像系统中的抖动规范驱动光发射
CN202080044799.8A Pending CN114144658A (zh) 2019-06-20 2020-06-18 根据激光标测成像系统中的抖动规范来驱动光发射

Country Status (4)

Country Link
US (11) US11740448B2 (zh)
EP (4) EP3987261A4 (zh)
CN (4) CN114072643A (zh)
WO (6) WO2020257500A1 (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11740448B2 (en) 2019-06-20 2023-08-29 Cilag Gmbh International Driving light emissions according to a jitter specification in a fluorescence imaging system
CN114354464B (zh) * 2021-12-22 2024-04-09 南京大学 一种对不同金属纳米颗粒高光谱库之间的相似性进行定量分析的方法

Family Cites Families (165)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3844047A (en) 1973-01-29 1974-10-29 R Carson Electronic micrometers employing digital processing techniques
JPS5940830A (ja) 1982-08-31 1984-03-06 浜松ホトニクス株式会社 レ−ザ光パルスを用いた癌の診断装置
US5318024A (en) 1985-03-22 1994-06-07 Massachusetts Institute Of Technology Laser endoscope for spectroscopic imaging
JP2629323B2 (ja) 1988-12-02 1997-07-09 富士写真光機株式会社 照明装置
JP3217343B2 (ja) 1989-03-23 2001-10-09 オリンパス光学工業株式会社 画像処理装置
JPH04158205A (ja) 1990-10-23 1992-06-01 Toshiba Corp 形状計測内視鏡装置
US5784162A (en) 1993-08-18 1998-07-21 Applied Spectral Imaging Ltd. Spectral bio-imaging methods for biological research, medical diagnostics and therapy
US5363387A (en) 1992-11-18 1994-11-08 Rare Earth Medical, Inc. Variable pulsewidth lasers
US5749830A (en) 1993-12-03 1998-05-12 Olympus Optical Co., Ltd. Fluorescent endoscope apparatus
DE19612536A1 (de) 1996-03-29 1997-10-02 Freitag Lutz Dr Anordnung und Verfahren zur Diagnose von malignem Gewebe durch Fluoreszenzbetrachtung
US7179222B2 (en) 1996-11-20 2007-02-20 Olympus Corporation Fluorescent endoscope system enabling simultaneous achievement of normal light observation based on reflected light and fluorescence observation based on light with wavelengths in infrared spectrum
US7468075B2 (en) 2001-05-25 2008-12-23 Conformis, Inc. Methods and compositions for articular repair
NL1005068C2 (nl) 1997-01-23 1998-07-27 Ct Rrn Academisch Ziekenhuis U Cathetersysteem en een daarvan deel uitmakende catheter.
KR20010040418A (ko) 1998-01-26 2001-05-15 자밀라 제트. 허벡 형광 이미지화 내시경
US6110106A (en) 1998-06-24 2000-08-29 Biomax Technologies, Inc. Endoscopes and methods relating to direct viewing of a target tissue
US6468265B1 (en) 1998-11-20 2002-10-22 Intuitive Surgical, Inc. Performing cardiac surgery without cardioplegia
NZ529432A (en) 1999-01-26 2005-07-29 Newton Lab Inc Autofluorescence imaging system for endoscopy
US6563105B2 (en) 1999-06-08 2003-05-13 University Of Washington Image acquisition with depth enhancement
JP3850192B2 (ja) 1999-12-09 2006-11-29 株式会社ニデック 眼底撮影装置
US20020138008A1 (en) 2000-01-13 2002-09-26 Kazuhiro Tsujita Method and apparatus for displaying fluorescence images and method and apparatus for acquiring endoscope images
JP4845318B2 (ja) 2000-03-28 2011-12-28 ボード・オブ・リージエンツ,ザ・ユニバーシテイ・オブ・テキサス・システム 診断用マルチスペクトルデジタル画像化のための方法および装置
US6889075B2 (en) 2000-05-03 2005-05-03 Rocky Mountain Biosystems, Inc. Optical imaging of subsurface anatomical structures and biomolecules
US6748259B1 (en) 2000-06-15 2004-06-08 Spectros Corporation Optical imaging of induced signals in vivo under ambient light conditions
US6975898B2 (en) 2000-06-19 2005-12-13 University Of Washington Medical imaging, diagnosis, and therapy using a scanning single optical fiber system
DE10107586A1 (de) 2001-02-10 2002-08-14 Biotronik Mess & Therapieg Endoskopischer Katheter
JP2002253500A (ja) 2001-03-05 2002-09-10 Olympus Optical Co Ltd 内視鏡用光源装置
JP2002315721A (ja) 2001-04-20 2002-10-29 Mitaka Koki Co Ltd 癌組織摘出手術用の立体視システム
AU2002317219A1 (en) 2001-07-12 2003-01-29 Do Labs Method and system for modifying a digital image taking into account its noise
WO2003017745A2 (en) 2001-08-23 2003-03-06 Sciperio, Inc. Architecture tool and methods of use
US6995841B2 (en) 2001-08-28 2006-02-07 Rice University Pulsed-multiline excitation for color-blind fluorescence detection
US6985622B2 (en) 2001-09-21 2006-01-10 Hewlett-Packard Development Company, L.P. System and method for color correcting electronically captured images by determining input media types using color correlation matrix
US20040092958A1 (en) 2001-11-15 2004-05-13 Limonadi Farhad M. Stereotactic wands, endoscopes and methods using such wands and endoscopes
EP1482831A1 (en) 2002-02-12 2004-12-08 Science & Engineering Associates Inc. Cancer detection and adaptive dose optimization treatment system
WO2003070098A2 (en) 2002-02-19 2003-08-28 Biophan Technologies, Inc. Magnetic resonance imaging capable catheter assembly
US8620410B2 (en) 2002-03-12 2013-12-31 Beth Israel Deaconess Medical Center Multi-channel medical imaging system
US6825930B2 (en) 2002-06-04 2004-11-30 Cambridge Research And Instrumentation, Inc. Multispectral imaging system
GB0217570D0 (en) 2002-07-30 2002-09-11 Univ Birmingham Method and apparatus for quantifying material or object properties
US7448995B2 (en) 2003-06-23 2008-11-11 Microvision, Inc. Scanning endoscope
WO2005043319A2 (en) 2003-10-21 2005-05-12 The Board Of Trustees Of The Leland Stanford Junior University Systems and methods for intraoperative targeting
US7804075B2 (en) 2004-03-11 2010-09-28 The General Hospital Corporation Method and system for tomographic imaging using fluorescent proteins
US20050205758A1 (en) 2004-03-19 2005-09-22 Almeida Leo A Method and apparatus for multi-spectral photodetection
US8480566B2 (en) 2004-09-24 2013-07-09 Vivid Medical, Inc. Solid state illumination for endoscopy
WO2006032106A1 (en) 2004-09-24 2006-03-30 Optiscan Pty Ltd Tuning-fork-type scanning apparatus with a counterweight
US7826878B2 (en) 2004-12-07 2010-11-02 Research Foundation Of City University Of New York Optical tomography using independent component analysis for detection and localization of targets in turbid media
JP5028008B2 (ja) 2004-12-08 2012-09-19 オリンパス株式会社 蛍光内視鏡装置
US8872906B2 (en) 2005-01-05 2014-10-28 Avantis Medical Systems, Inc. Endoscope assembly with a polarizing filter
DE202005003411U1 (de) 2005-02-24 2006-07-06 Karl Storz Gmbh & Co. Kg Multifunktionales Fluoreszenzdiagnosesystem
WO2007043036A1 (en) 2005-10-11 2007-04-19 Prime Sense Ltd. Method and system for object reconstruction
JP2006308624A (ja) 2005-04-26 2006-11-09 Matsushita Electric Ind Co Ltd 現像装置
WO2006127967A2 (en) 2005-05-25 2006-11-30 Massachusetts Institute Of Technology Multifocal scanning microscopy systems and methods
JP2007029232A (ja) 2005-07-25 2007-02-08 Hitachi Medical Corp 内視鏡手術操作支援システム
US20070086495A1 (en) 2005-08-12 2007-04-19 Sprague Randall B Method and apparatus for stable laser drive
US7312879B2 (en) 2005-08-23 2007-12-25 University Of Washington Distance determination in a scanned beam image capture device
JP5114024B2 (ja) 2005-08-31 2013-01-09 オリンパス株式会社 光イメージング装置
JP4744288B2 (ja) 2005-12-21 2011-08-10 オリンパスメディカルシステムズ株式会社 内視鏡装置
WO2007106624A2 (en) 2006-02-07 2007-09-20 Novadaq Technologies Inc. Near infrared imaging
US7817256B2 (en) 2006-02-22 2010-10-19 Kyushu Institute Of Technology Personal authentication method and personal authentication device utilizing finger-tip blood flow measurement by laser light
US7990524B2 (en) 2006-06-30 2011-08-02 The University Of Chicago Stochastic scanning apparatus using multiphoton multifocal source
US20080058629A1 (en) 2006-08-21 2008-03-06 University Of Washington Optical fiber scope with both non-resonant illumination and resonant collection/imaging for multiple modes of operation
US20080090220A1 (en) 2006-08-28 2008-04-17 Vincent Freeman Modular virtual learning system and method
DE102006046925A1 (de) 2006-09-28 2008-04-03 Jenlab Gmbh Verfahren und Anordnung zur Laser-Endoskopie für die Mikrobearbeitung
US20100049180A1 (en) 2007-10-19 2010-02-25 Lockheed Martin Corporation System and method for conditioning animal tissue using laser light
CA2675890A1 (en) 2007-01-19 2008-07-24 University Health Network Electrostatically driven imaging probe
US20080177140A1 (en) 2007-01-23 2008-07-24 Xillix Technologies Corp. Cameras for fluorescence and reflectance imaging
JP2008259595A (ja) 2007-04-10 2008-10-30 Hamamatsu Photonics Kk 蛍光観察装置
US8553337B2 (en) 2007-11-12 2013-10-08 Cornell University Multi-path, multi-magnification, non-confocal fluorescence emission endoscopy apparatus and methods
CN103472241B (zh) 2008-01-21 2015-06-17 三星电子株式会社 薄膜分层离心装置及使用其的分析方法
JP5165400B2 (ja) 2008-01-23 2013-03-21 オリンパス株式会社 光源装置
JP2009240621A (ja) 2008-03-31 2009-10-22 Hoya Corp 内視鏡装置
US20090289200A1 (en) 2008-05-22 2009-11-26 Fujifilm Corporation Fluorescent image obtainment method and apparatus, fluorescence endoscope, and excitation-light unit
EP2130484B1 (en) 2008-06-04 2011-04-20 FUJIFILM Corporation Illumination device for use in endoscope
WO2010019515A2 (en) 2008-08-10 2010-02-18 Board Of Regents, The University Of Texas System Digital light processing hyperspectral imaging apparatus
US20120273470A1 (en) 2011-02-24 2012-11-01 Zediker Mark S Method of protecting high power laser drilling, workover and completion systems from carbon gettering deposits
JP5771147B2 (ja) 2008-09-26 2015-08-26 トカジェン インコーポレーテッド 遺伝子治療ベクターおよびシトシンデアミナーゼ
DK2359593T3 (en) 2008-11-25 2018-09-03 Tetravue Inc High-resolution three-dimensional imaging systems and methods
JP2010125284A (ja) 2008-12-01 2010-06-10 Fujifilm Corp 撮像システム
JP5342869B2 (ja) 2008-12-22 2013-11-13 Hoya株式会社 内視鏡装置、内視鏡照明装置、画像形成装置、内視鏡照明装置の作動方法および画像形成装置の作動方法
JP5874116B2 (ja) 2009-07-30 2016-03-02 国立研究開発法人産業技術総合研究所 画像撮影装置および画像撮影方法
US9050093B2 (en) 2009-10-09 2015-06-09 Ethicon Endo-Surgery, Inc. Surgical generator for ultrasonic and electrosurgical devices
EP2523621B1 (en) 2010-01-13 2016-09-28 Koninklijke Philips N.V. Image integration based registration and navigation for endoscopic surgery
US9044142B2 (en) 2010-03-12 2015-06-02 Carl Zeiss Meditec Ag Surgical optical systems for detecting brain tumors
JP2011206227A (ja) 2010-03-29 2011-10-20 Fujifilm Corp 内視鏡装置
JP2011206435A (ja) 2010-03-30 2011-10-20 Fujifilm Corp 撮像装置、撮像方法、撮像プログラム、及び内視鏡
JP5919258B2 (ja) 2010-04-22 2016-05-18 プリサイス ライト サージカル インコーポレイテッド フラッシュ蒸発手術システム
US9946058B2 (en) 2010-06-11 2018-04-17 Nikon Corporation Microscope apparatus and observation method
JP2012016545A (ja) 2010-07-09 2012-01-26 Fujifilm Corp 内視鏡装置
JP5707758B2 (ja) 2010-07-13 2015-04-30 ソニー株式会社 撮像装置、撮像システム、手術用ナビゲーションシステム、及び撮像方法
JP5544231B2 (ja) 2010-07-15 2014-07-09 富士フイルム株式会社 内視鏡光源装置及び内視鏡システム
JP5481294B2 (ja) 2010-07-15 2014-04-23 富士フイルム株式会社 内視鏡システム
EP2637553A2 (en) 2010-11-12 2013-09-18 Emory University Additional systems and methods for providing real-time anatomical guidance in a diagnostic or therapeutic procedure
JP5526000B2 (ja) 2010-11-15 2014-06-18 富士フイルム株式会社 内視鏡及び内視鏡用光源装置
JP5351924B2 (ja) 2011-04-01 2013-11-27 富士フイルム株式会社 生体情報取得システムおよび生体情報取得システムの作動方法
WO2013009970A1 (en) 2011-07-13 2013-01-17 Viking Systems, Inc Method and apparatus for obtaining stereoscopic 3d visualization using commercially available 2d endoscopes
EP2760359B1 (en) 2011-09-29 2018-05-16 Biolase, Inc. Devices for treating eye conditions
US9814394B2 (en) * 2011-11-02 2017-11-14 Seno Medical Instruments, Inc. Noise suppression in an optoacoustic system
US20130211246A1 (en) 2011-12-27 2013-08-15 Vinod PARASHER METHODS AND DEVICES FOR GASTROINTESTINAL SURGICAL PROCEDURES USING NEAR INFRARED (nIR) IMAGING TECHNIQUES
US11510600B2 (en) 2012-01-04 2022-11-29 The Trustees Of Dartmouth College Method and apparatus for quantitative and depth resolved hyperspectral fluorescence and reflectance imaging for surgical guidance
JP5918548B2 (ja) 2012-01-24 2016-05-18 富士フイルム株式会社 内視鏡画像診断支援装置およびその作動方法並びに内視鏡画像診断支援プログラム
EP2719317A4 (en) 2012-03-30 2015-05-06 Olympus Medical Systems Corp ENDOSCOPE
JP5965726B2 (ja) 2012-05-24 2016-08-10 オリンパス株式会社 立体視内視鏡装置
US10953241B2 (en) 2012-05-25 2021-03-23 Ojai Retinal Technology, Llc Process for providing protective therapy for biological tissues or fluids
WO2014014838A2 (en) 2012-07-15 2014-01-23 2R1Y Interactive illumination for gesture and/or object recognition
BR112015001381A8 (pt) 2012-07-26 2019-07-30 Olive Medical Corp sistema e método para imageamento digital em um ambiente com iluminação deficiente
MX356890B (es) * 2012-07-26 2018-06-19 Depuy Synthes Products Inc Video continuo en un entorno deficiente de luz.
BR112015001369A2 (pt) 2012-07-26 2017-07-04 Olive Medical Corp sistema de câmera com sensor de imagem cmos monolítico de área mínima
IN2015MN00022A (zh) 2012-07-26 2015-10-16 Olive Medical Corp
GB2505926A (en) 2012-09-14 2014-03-19 Sony Corp Display of Depth Information Within a Scene
EP3828591A1 (en) 2012-10-05 2021-06-02 Transrobotics, Inc. Systems and methods for high resolution distance sensing and applications
US10178368B2 (en) 2012-10-23 2019-01-08 Intuitive Surgical Operations, Inc. Stereo imaging system with automatic disparity adjustment for displaying close range objects
EP2918217B1 (en) 2012-11-09 2019-03-06 Panasonic Intellectual Property Management Co., Ltd. Image processing device and endoscope
WO2014134314A1 (en) 2013-03-01 2014-09-04 The Johns Hopkins University Light sources, medical devices, and methods of illuminating an object of interest
US9456752B2 (en) 2013-03-14 2016-10-04 Aperture Diagnostics Ltd. Full-field three-dimensional surface measurement
WO2014146053A2 (en) 2013-03-15 2014-09-18 Hypermed Imaging, Inc. Systems and methods for evaluating hyperspectral imaging data using a two layer media model of human tissue
DE102013103333A1 (de) 2013-04-03 2014-10-09 Karl Storz Gmbh & Co. Kg Kamera zur Erfassung von optischen Eigenschaften und von Raumstruktureigenschaften
WO2014171284A1 (ja) 2013-04-19 2014-10-23 オリンパスメディカルシステムズ株式会社 内視鏡装置
WO2015005277A1 (ja) 2013-07-11 2015-01-15 オリンパスメディカルシステムズ株式会社 光源装置
US10165972B2 (en) 2013-07-12 2019-01-01 Inthesmart Co., Ltd. Apparatus and method for detecting NIR fluorescence at sentinel lymph node
EP2827099A1 (de) 2013-07-16 2015-01-21 Leica Geosystems AG Lasertracker mit Zielsuchfunktionalität
WO2015016172A1 (ja) 2013-08-01 2015-02-05 オリンパスメディカルシステムズ株式会社 内視鏡システム、内視鏡システムの作動方法
JP5891208B2 (ja) 2013-08-13 2016-03-22 Hoya株式会社 内視鏡用照明光学系
US20150056142A1 (en) 2013-08-20 2015-02-26 The Board Of Trustees Of The Leland Stanford Junior University Near-infrared-ii fluorescent agents, methods of making near-infrared-ii fluorescent agents, and methods of using water-soluble nir-ii fluorescent agents
WO2015077493A1 (en) 2013-11-20 2015-05-28 Digimarc Corporation Sensor-synchronized spectrally-structured-light imaging
JP6129731B2 (ja) 2013-12-24 2017-05-17 富士フイルム株式会社 内視鏡システム及びその作動方法
JP2017513645A (ja) 2014-04-28 2017-06-01 カーディオフォーカス,インコーポレーテッド アブレーション処置の際にicg色素組成物を用いて組織を視覚化するためのシステムおよび方法
CN103989459B (zh) 2014-05-20 2021-05-18 曾堃 用于鉴别恶性肿瘤的形成过程的光学观测设备及内窥镜
FI3940371T3 (fi) 2014-06-05 2023-11-20 Univ Heidelberg Menetelmä ja kuvantamislaitteisto fluoresenssi- ja heijastuskuvien saamiseksi
JP6039606B2 (ja) 2014-06-24 2016-12-07 富士フイルム株式会社 内視鏡システム、光源装置、内視鏡システムの作動方法、及び光源装置の作動方法
JP6253527B2 (ja) 2014-06-24 2017-12-27 オリンパス株式会社 内視鏡装置
JP6251888B2 (ja) 2014-06-25 2017-12-27 パナソニックIpマネジメント株式会社 投影システム
US20170035280A1 (en) 2015-08-07 2017-02-09 Reinroth Gmbh Stereoscopic endoscope system with concurrent imaging at visible and infrared wavelengths
US9547165B2 (en) 2014-08-29 2017-01-17 Reinroth Gmbh Endoscope system with single camera for concurrent imaging at visible and infrared wavelengths
US10473916B2 (en) 2014-09-30 2019-11-12 Washington University Multiple-view compressed-sensing ultrafast photography (MV-CUP)
US9717417B2 (en) 2014-10-29 2017-08-01 Spectral Md, Inc. Reflective mode multi-spectral time-resolved optical imaging methods and apparatuses for tissue classification
KR102476063B1 (ko) 2014-12-16 2022-12-12 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 파장대-선택적 이미징을 사용하는 요관 검출
US10666928B2 (en) 2015-02-06 2020-05-26 The University Of Akron Optical imaging system and methods thereof
DE102015003019A1 (de) 2015-03-06 2016-09-08 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und Vorrichtung zur optischen Detektion einer Bewegung in einer biologischen Probe mit räumlicher Ausdehnung
US10043282B2 (en) 2015-04-13 2018-08-07 Gerard Dirk Smits Machine vision for ego-motion, segmenting, and classifying objects
US20170059305A1 (en) 2015-08-25 2017-03-02 Lytro, Inc. Active illumination for enhanced depth map generation
JP2016202726A (ja) 2015-04-27 2016-12-08 ソニー株式会社 光線力学診断装置及び光線力学診断方法
WO2016185763A1 (ja) 2015-05-15 2016-11-24 ソニー株式会社 光源制御装置及び光源制御方法並びに撮像システム
EP3216385A4 (en) 2015-05-28 2018-08-22 Olympus Corporation Light source device
DE112015006505T5 (de) 2015-06-17 2018-03-15 Olympus Corporation Bildgebungsvorrichtung
US10987129B2 (en) 2015-09-04 2021-04-27 Medos International Sarl Multi-shield spinal access system
WO2017046799A1 (en) 2015-09-17 2017-03-23 S.D. Sight Diagnostics Ltd Methods and apparatus for detecting an entity in a bodily sample
US9939231B2 (en) 2016-01-20 2018-04-10 Raytheon Company Dual-band semi-active laser system
CA3009419A1 (en) 2016-01-26 2017-08-03 Novadaq Technologies ULC Configurable platform
US10708478B2 (en) 2016-03-23 2020-07-07 Karl Storz Imaging, Inc. Image transformation and display for fluorescent and visible imaging
US20170280970A1 (en) 2016-03-31 2017-10-05 Covidien Lp Thoracic endoscope for surface scanning
US10690904B2 (en) 2016-04-12 2020-06-23 Stryker Corporation Multiple imaging modality light source
WO2017199531A1 (ja) 2016-05-16 2017-11-23 ソニー株式会社 撮像装置及び内視鏡
US10798310B2 (en) 2016-05-17 2020-10-06 Hypermed Imaging, Inc. Hyperspectral imager coupled with indicator molecule tracking
US10375330B2 (en) 2016-05-27 2019-08-06 Verily Life Sciences Llc Systems and methods for surface topography acquisition using laser speckle
WO2017221336A1 (ja) 2016-06-21 2017-12-28 オリンパス株式会社 内視鏡システム、画像処理装置、画像処理方法およびプログラム
US10709333B2 (en) 2016-07-25 2020-07-14 PhotoSound Technologies, Inc. Instrument for acquiring co-registered orthogonal fluorescence and photoacoustic volumetric projections of tissue and methods of its use
CN115778543A (zh) 2016-09-09 2023-03-14 直观外科手术操作公司 同时带有白光和高光谱光的成像系统
JP6364050B2 (ja) 2016-09-13 2018-07-25 パナソニック株式会社 内視鏡システム
AU2017387099B2 (en) 2016-12-27 2023-02-02 DePuy Synthes Products, Inc. Systems, methods, and devices for providing illumination in an endoscopic imaging environment
US10386489B2 (en) 2017-02-01 2019-08-20 Jeffrey Albelo Beam scanner for autonomous vehicles
US11140305B2 (en) 2017-02-10 2021-10-05 Stryker European Operations Limited Open-field handheld fluorescence imaging systems and methods
US11510741B2 (en) 2017-10-30 2022-11-29 Cilag Gmbh International Method for producing a surgical instrument comprising a smart electrical system
US11801098B2 (en) 2017-10-30 2023-10-31 Cilag Gmbh International Method of hub communication with surgical instrument systems
US11823403B2 (en) 2017-12-27 2023-11-21 Cilag Gmbh International Fluorescence imaging in a light deficient environment
DE102018124984A1 (de) 2018-10-10 2020-04-16 Friedrich-Schiller-Universität Jena Verfahren und Vorrichtung zur hochaufgelösten Fluoreszenzmikroskopie
US11740448B2 (en) 2019-06-20 2023-08-29 Cilag Gmbh International Driving light emissions according to a jitter specification in a fluorescence imaging system
US11006093B1 (en) 2020-01-22 2021-05-11 Photonic Medical Inc. Open view, multi-modal, calibrated digital loupe with depth sensing

Also Published As

Publication number Publication date
US12007550B2 (en) 2024-06-11
EP3987276A1 (en) 2022-04-27
US20240310621A1 (en) 2024-09-19
US11668919B2 (en) 2023-06-06
US20220022737A1 (en) 2022-01-27
US20200397256A1 (en) 2020-12-24
US20210393117A1 (en) 2021-12-23
WO2020257500A1 (en) 2020-12-24
CN114041043A (zh) 2022-02-11
CN114126467A (zh) 2022-03-01
US20230408806A1 (en) 2023-12-21
US20200397257A1 (en) 2020-12-24
EP3986227A4 (en) 2023-06-28
EP3987260A1 (en) 2022-04-27
US20200397255A1 (en) 2020-12-24
US11668920B2 (en) 2023-06-06
WO2020257499A1 (en) 2020-12-24
WO2020257497A1 (en) 2020-12-24
EP3987261A4 (en) 2023-08-02
US11122967B2 (en) 2021-09-21
US11940615B2 (en) 2024-03-26
US20200397299A1 (en) 2020-12-24
WO2020257496A1 (en) 2020-12-24
WO2020257494A1 (en) 2020-12-24
US11083366B2 (en) 2021-08-10
US20200397258A1 (en) 2020-12-24
CN114144658A (zh) 2022-03-04
EP3987260A4 (en) 2023-08-02
WO2020257498A1 (en) 2020-12-24
EP3987276A4 (en) 2023-08-02
US11096565B2 (en) 2021-08-24
US11076747B2 (en) 2021-08-03
US11668921B2 (en) 2023-06-06
US20210378495A1 (en) 2021-12-09
US20200400502A1 (en) 2020-12-24
US11740448B2 (en) 2023-08-29
EP3986227A1 (en) 2022-04-27
EP3987261A1 (en) 2022-04-27

Similar Documents

Publication Publication Date Title
US11266304B2 (en) Minimizing image sensor input/output in a pulsed hyperspectral imaging system
CN114008419A (zh) 超光谱成像系统中的脉冲照明
US20200397303A1 (en) Offset illumination of a scene using multiple emitters in a hyperspectral imaging system
US11612309B2 (en) Hyperspectral videostroboscopy of vocal cords
CN114026845A (zh) 在荧光成像系统中使用多个发射器的场景的偏移照明
US11284783B2 (en) Controlling integral energy of a laser pulse in a hyperspectral imaging system
CN114025655A (zh) 在激光标测成像系统中使用多个发射器的场景的偏移照明
CN114144115A (zh) 内窥镜超光谱成像系统中的图像旋转
CN114072041A (zh) 用于超光谱成像、荧光成像和激光标测成像的内窥镜系统中的光纤波导
US11412152B2 (en) Speckle removal in a pulsed hyperspectral imaging system
CN114072643A (zh) 根据超光谱成像系统中的抖动规范来驱动光发射
US11122968B2 (en) Optical fiber waveguide in an endoscopic system for hyperspectral imaging

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination