CN113766869A - 使用滚动快门成像器进行医学成像的系统和方法 - Google Patents

使用滚动快门成像器进行医学成像的系统和方法 Download PDF

Info

Publication number
CN113766869A
CN113766869A CN202080021725.2A CN202080021725A CN113766869A CN 113766869 A CN113766869 A CN 113766869A CN 202080021725 A CN202080021725 A CN 202080021725A CN 113766869 A CN113766869 A CN 113766869A
Authority
CN
China
Prior art keywords
row
illumination
imaging
tissue
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080021725.2A
Other languages
English (en)
Inventor
W·常
B·拉森
J·沈
B·费恩戈德
A·拉姆什
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Stryker Corp
Original Assignee
Stryker Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Stryker Corp filed Critical Stryker Corp
Publication of CN113766869A publication Critical patent/CN113766869A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661Endoscope light sources
    • A61B1/0684Endoscope light sources using light emitting diodes [LED]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0071Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by measuring fluorescence emission
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0082Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
    • A61B5/0084Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for introduction into the body, e.g. by catheters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61KPREPARATIONS FOR MEDICAL, DENTAL OR TOILETRY PURPOSES
    • A61K49/00Preparations for testing in vivo
    • A61K49/001Preparation for luminescence or biological staining
    • A61K49/0013Luminescence
    • A61K49/0017Fluorescence in vivo
    • A61K49/0019Fluorescence in vivo characterised by the fluorescent group, e.g. oligomeric, polymeric or dendritic molecules
    • A61K49/0021Fluorescence in vivo characterised by the fluorescent group, e.g. oligomeric, polymeric or dendritic molecules the fluorescent group being a small organic molecule
    • A61K49/0032Methine dyes, e.g. cyanine dyes
    • A61K49/0034Indocyanine green, i.e. ICG, cardiogreen
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/445Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by skipping some contiguous pixels within the read portion of the array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/531Control of the integration time by controlling rolling shutters in CMOS SSIS
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/41Detecting, measuring or recording for evaluating the immune or lymphatic systems
    • A61B5/414Evaluating particular organs or parts of the immune or lymphatic systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Optics & Photonics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Epidemiology (AREA)
  • Endoscopes (AREA)
  • Studio Devices (AREA)

Abstract

一种使用电子滚动快门成像器对受试者的组织进行成像的方法,包括从第一行到最后一行按顺序重置滚动快门成像器的像素行,从第一行到最后一行按顺序读取累积在像素行处的电荷,其中在重置最后一行之后读取第一行,在比垂直消隐时段持续更长时间的照明时段内利用照明光照射受试者的组织,其中垂直消隐时段是从最后一行的重置到第一行的读取的时段,并且根据累积在像素行处的电荷的读数生成图像帧,其中移除或替换累积在像素行处的电荷的至少一个读数以生成图像帧。

Description

使用滚动快门成像器进行医学成像的系统和方法
对相关申请的交叉引用
本申请要求保护于2019年1月17日提交的美国临时申请第62/793,790号的权益,该美国临时申请的全部内容通过引用并入本文。
技术领域
本公开总体上涉及医学成像,并且更特别地涉及生成医学成像。
背景技术
医疗系统、器械或工具可以在手术前、手术期间或手术后用于各种目的。这些医疗工具中的一些可以用于通常被称为内窥镜程序的程序。例如,医疗领域中的内窥镜检查允许在不使用传统的全侵入性手术的情况下查看患者身体的内部特征。内窥镜成像系统结合内窥镜使得外科医生能够查看手术部位,并且内窥镜工具使得能够在该部位进行非侵入性手术。内窥镜可与用于处理由内窥镜接收的图像的相机系统一起使用。内窥镜相机系统典型地包括连接到相机控制单元(CCU)的摄像头,该相机控制单元处理从相机的图像传感器接收的输入图像数据,并输出图像数据用于显示。CCU可以控制生成提供给成像场景的照明光的照明器。
各种成像器传感器可以用于内窥镜成像系统,包括电荷耦合器件(CCD)传感器和互补金属氧化物半导体(CMOS)传感器。CCD的构造通常比CMOS传感器的构造更复杂,并且CMOS传感器可以在用于诸如微处理器和芯片组之类的相关技术的大批量晶片制造设施中构建,并且作为结果,CMOS传感器在类似性能方面通常比CCD成本更低。除了成本更低之外,用于创建CMOS成像器的常见制造过程准许CMOS像素阵列与其他电子器件(诸如时钟驱动器、数字逻辑、模/数转换器和其他合适的电子器件)集成在单个电路上。CMOS成像器可能采用的紧凑结构也可以降低空间要求并且减少功耗。
基于CMOS的成像器可以利用电子滚动快门来曝光传感器阵列中的像素。利用电子滚动快门,像素行被按顺序清除、曝光并读出。在积分(integration)过程中,像素行被暴露在光能下,并且每个像素建立与入射到像素的光的量和波长相对应的电荷。因为所述行是按顺序激活和读出的,所以在当第一行积分时到当最后一行积分时之间存在一段经过的时间。由于在当第一行开始积分时到当后续行开始积分时之间经过了一段时间,因此具有电子滚动快门的CMOS成像器可能捕获具有模糊或其他滚动快门效果的视频图像。
发明内容
根据一些实施例,成像系统和方法使用电子滚动快门成像器并且协调提供给目标对象(诸如受试者的目标组织)的照明,以在电子滚动快门成像器处创建全局快门效果,这可以提供滚动快门成像器的成本和性能优势,而没有滚动快门效果。根据一些实施例,在帧周期内重置成像传感器的最后一行与在该帧周期内读出成像传感器的第一行之间的时段中提供照明,从而产生全局快门型效果。照明时段延长至超过该周期,以增加传感器的曝光时间,从而提高灵敏度。当生成图像帧时,来自可能包括滚动快门效果的行的读出可以被移除或替换。照明光可以根据成像器的曝光需求进行脉冲调制。
根据一些实施例,通过跳过每隔一个读出/重置时间来创建扩展的全局快门周期,使得每一行针对标称帧速率的两个帧进行积分。这可能会降低生成图像的帧速率,但会增加灵敏度,这允许较低的光照量。照明光可以根据成像器的曝光需求进行脉冲调制。
根据一些实施例,一种使用电子滚动快门成像器对受试者的组织进行成像的方法包括:从第一行到最后一行按顺序重置滚动快门成像器的像素行;从第一行到最后一行按顺序读取累积在像素行处的电荷,其中在重置最后一行之后读取第一行;在比垂直消隐时段持续更长时间的照明时段内利用照明光照射受试者的组织,其中垂直消隐时段是从最后一行的重置到第一行的读取的时段;以及根据累积在像素行处的电荷的读数生成图像帧,其中移除或替换累积在像素行处的电荷的至少一个读数以生成图像帧。
根据一些实施例,一种操作电子滚动快门成像器(诸如用于对受试者的组织进行成像)的方法包括:从第一行到最后一行按顺序重置滚动快门成像器的像素行;从第一行到最后一行按顺序读取累积在像素行处的电荷,其中在重置最后一行之后读取第一行;在比垂直消隐时段持续更长时间的照明时段内利用照明光照射受试者的组织,其中垂直消隐时段是从最后一行的重置到第一行的读取的时段;以及根据累积在像素行处的电荷的读数来生成图像帧,其中移除或替换累积在像素行处的电荷的至少一个读数以生成图像帧。
在这些实施例中的任一个中,照明时段可以在最后一行的重置之前开始。
在这些实施例中的任一个中,照明时段可以在第一行的读取之后结束。
在这些实施例中的任一个中,照明时段可以至少在垂直消隐时段开始时开始。
在这些实施例中的任一个中,照明时段可以至少在垂直消隐时段结束时结束。
在这些实施例中的任一个中,可以至少移除或替换累积在第一像素行处的电荷的读数以生成图像帧。
在这些实施例中的任一个中,可以至少移除或替换累积在最后一个像素行处的电荷的读数以生成图像帧。
在这些实施例中的任一个中,累积在像素行处的电荷的至少一个读数可以被至少一个预定值代替以生成图像帧。
在这些实施例中的任一个中,可以通过裁剪来移除累积在像素行处的电荷的至少一个读数以生成图像帧。
在这些实施例中的任一个中,可以利用可见光照射受试者的组织,并且该方法可以进一步包括:至少在随后的垂直消隐时段期间利用荧光激发光照射受试者的组织,并且基于响应于荧光激发光而从受试者的组织发射的光来生成荧光图像帧。
在这些实施例中的任一项中,所述方法可以进一步包括在生成荧光图像帧之前向受试者施用荧光显像剂。因此,当执行该方法时,可以预先施用荧光显像剂。
在这些实施例中的任一个中,该方法可以包括在照明时段期间同时利用荧光激发光和可见照明光照射受试者的组织。
在这些实施例中的任一个中,利用照明光照射受试者的组织可以包括对照明光进行脉冲调制。
在这些实施例中的任一个中,该方法可以包括基于在前一帧期间累积在像素行处的电荷的读数来控制脉冲照明光的脉冲宽度。
在这些实施例中的任一个中,照明光可以由至少一个LED生成。
在这些实施例中的任一个中,滚动快门成像器可以是内窥镜成像器的一部分。对受试者的组织进行成像的方法或操作电子滚动快门的方法可以排除将这样的内窥镜成像器插入管腔中的步骤。
在这些实施例中的任一个中,滚动快门成像器可以包括机械快门,并且机械快门可以从照明时段开始之前直到照明时段结束之后保持至少部分打开。
在这些实施例中的任一个中,该方法可以进一步包括通过操作机械快门来减少在滚动快门成像器处接收的光量。
在这些实施例中的任一个中,该方法可以进一步包括基于在前一帧期间累积在像素行处的电荷的读数来调节滚动快门成像器的增益。
根据一些实施例,用于对受试者的组织进行成像的系统可以包括:照明源;以及成像装置,其包括电子滚动快门成像器,所述成像装置被配置用于从第一行到最后一行按顺序重置滚动快门成像器的像素行,从第一行到最后一行按顺序读取累积在像素行处的电荷,其中在重置最后一行之后读取第一行,控制所述照明源以在比垂直消隐时段持续更长时间的照明时段内照射所述受试者的组织,其中所述垂直消隐时段是从最后一行的重置到第一行的读取的时段,并且根据累积在像素行处的电荷的读数生成图像帧,其中移除或替换累积在像素行处的电荷的至少一个读数以生成所述图像帧。
在这些实施例中的任一个中,成像装置可以包括连接到成像头的相机控制单元,该成像头包括滚动快门成像器。
在这些实施例中的任一个中,照明源可以被配置用于脉宽调制照明,并且相机控制单元生成用于控制照明源的脉宽调制波形。
在这些实施例中的任一个中,成像装置可以被配置为控制照明源,使得照明时段在最后一行的重置之前开始。
在这些实施例中的任一个中,成像装置可以被配置为控制照明源,使得照明时段在第一行的读取之后结束。
在这些实施例中的任一个中,成像装置可以被配置为控制照明源,使得照明时段至少在垂直消隐时段开始时开始。
在这些实施例中的任一个中,成像装置可以被配置为控制照明源,使得照明时段至少在垂直消隐时段结束时结束。
在这些实施例中的任一个中,成像装置可以被配置为生成图像帧,使得至少移除或替换累积在第一像素行处的电荷的读数以生成图像帧。
在这些实施例中的任一个中,成像装置可以被配置为生成图像帧,使得至少移除或替换累积在最后一个像素行处的电荷的读数以生成图像帧。
在这些实施例中的任一个中,成像装置可以被配置为生成图像帧,使得累积在一行像素处的电荷的至少一个读数被至少一个预定值替换以生成图像帧。
在这些实施例中的任一个中,成像装置可以被配置为生成图像帧,使得通过裁剪来移除累积在一行像素处的电荷的至少一个读数,以生成图像帧。
在这些实施例中的任一个中,成像装置可以被配置为控制照明源以在垂直消隐时段期间利用可见光照射受试者的组织,至少在随后的垂直消隐时段期间利用荧光激发光照射受试者的组织,并且基于响应于荧光激发光而从受试者的组织发射的光来生成荧光图像帧。
在这些实施例中的任一个中,成像装置可以被配置为控制照明源以在照明时段期间同时利用荧光激发光和可见照明光照射受试者的组织。
在这些实施例中的任一个中,照明源可以被配置用于对照明光进行脉冲调制。
在这些实施例中的任一个中,成像装置可以被配置为控制照明源,用于基于在前一帧期间累积在像素行处的电荷的读数来控制脉冲照明光的脉冲宽度。
在这些实施例中的任一个中,照明源可以包括至少一个LED。
在这些实施例中的任一个中,成像装置可以包括内窥镜成像器。
在这些实施例中的任一个中,滚动快门成像器可以包括机械快门,并且成像装置可以被配置为控制机械快门,使得从照明时段开始之前直到照明时段结束之后,机械快门保持至少部分打开。
在这些实施例中的任一个中,成像装置可以被配置为通过操作机械快门来减少在滚动快门成像器处接收的光量。
在这些实施例中的任一个中,成像装置可以被配置为基于在前一帧期间累积在像素行处的电荷的读数来调节滚动快门成像器的增益。
根据一些实施例,一种使用电子滚动快门成像器对受试者的组织进行成像的方法包括:从第一行到最后一行按顺序重置滚动快门成像器的像素行,其中从第一行到最后一行的顺序重置持续第一时间量;在照明时段内利用照明光照射受试者的组织,一旦滚动快门成像器的最后一行被重置,所述照明时段就开始并且持续至少第一时间量;基于在利用照明光照射受试者的组织的同时从受试者的组织接收的光,在至少照明时段内在像素行处累积电荷,一旦照明时段结束,就从第一行到最后一行按顺序读取累积在像素行处的电荷;以及根据累积在像素行处的电荷的读数来生成图像帧。
根据一些实施例,一种操作电子滚动快门成像器(诸如用于对受试者的组织进行成像)的方法包括:从第一行到最后一行按顺序重置滚动快门成像器的像素行,其中从第一行到最后一行的顺序重置持续第一时间量;在照明时段内利用照明光照射受试者的组织,一旦滚动快门成像器的最后一行被重置,所述照明时段就开始并且持续至少第一时间量;基于在利用照明光照射受试者的组织的同时从受试者的组织接收的光,在至少照明时段内在像素行处累积电荷;一旦照明时段结束,就从第一行到最后一行按顺序读取累积在像素行处的电荷;以及根据累积在像素行处的电荷的读数来生成图像帧。
在这些实施例中的任一个中,利用照明光照射受试者的组织可以包括对照明光进行脉冲调制。
在这些实施例中的任一个中,该方法可以进一步包括基于在前一帧期间累积在像素行处的电荷的读数来控制脉冲照明光的脉冲宽度。
在这些实施例中的任一个中,每个像素行可以在照明时段内累积电荷。
在这些实施例中的任一个中,每个像素行可以在至少两倍于第一时间量的时间内累积电荷。
在这些实施例中的任一个中,照明光可以由至少一个LED生成。
在这些实施例中的任一个中,滚动成像器可以是内窥镜成像器的一部分。对受试者的组织进行成像的方法或操作电子滚动快门的方法可以排除将这样的内窥镜成像器插入管腔中的步骤。
在这些实施例中的任一个中,滚动快门成像器可以包括机械快门,并且机械快门可以从照明开始之前直到照明时段结束之后保持至少部分打开。
在这些实施例中的任一个中,该方法可以进一步包括通过操作机械快门来减少在滚动快门成像器处接收的光量。
在这些实施例中的任一个中,该方法可以进一步包括基于在前一帧期间在像素行处累积的电荷的读数来调节滚动快门成像器的增益。
根据一些实施例,一种用于对受试者的组织成像的系统包括:照明源;以及包括电子滚动快门成像器的成像装置,该成像装置被配置用于从第一行到最后一行按顺序重置滚动快门成像器的像素行,其中从第一行到最后一行的顺序重置持续第一时间量,控制所述照明源以在照明时段内利用照明光照射所述受试者的组织,一旦所述滚动快门成像器的最后一行被重置,所述照明时段就开始并且持续至少第一时间量,基于在利用所述照明光照射所述受试者的组织的同时从所述受试者的组织接收的光,在至少所述照明时段内在所述像素行处累积电荷,一旦照明时段已经结束,就从第一行到最后一行按顺序读取累积在像素行处的电荷,并且根据累积在像素行处的电荷的读数来生成图像帧。
在这些实施例中的任一个中,成像装置可以包括连接到成像头的相机控制单元,该成像头包括滚动快门成像器。
在这些实施例中的任一个中,照明源可以被配置用于脉宽调制照明,并且相机控制单元生成用于控制照明源的脉宽调制波形。
在这些实施例中的任一个中,成像装置可以被配置为控制照明源,用于利用脉冲照明光来照射受试者的组织。
在这些实施例中的任一个中,成像装置可以被配置为控制照明源,用于基于在前一帧期间累积在像素行处的电荷的读数来控制脉冲照明光的脉冲宽度。
在这些实施例中的任一个中,成像装置可以被配置成使得每一个像素行在照明时段内累积电荷。
在这些实施例中的任一个中,成像装置可以被配置成使得每一个像素行在至少两倍于第一时间量的时间内累积电荷。
在这些实施例中的任一个中,照明源可以包括至少一个LED。
在这些实施例中的任一个中,成像装置可以包括内窥镜成像器。
在这些实施例中的任一个中,滚动快门成像器可以包括机械快门,并且成像装置可以被配置为控制机械快门从照明开始之前直到照明时段结束之后保持至少部分打开。
在这些实施例中的任一个中,成像装置可以被配置为通过操作机械快门来减少在滚动快门成像器处接收的光量。
在这些实施例中的任一个中,成像装置可以被配置为基于在前一帧期间累积在像素行处的电荷的读数来调节滚动快门成像器的增益。
根据一些实施例,非暂时性有形计算机可读介质可以具有在嵌入其上的计算机可执行程序代码,以执行上述方法中的任一种。
根据一些实施例,计算机程序产品可以包括计算机可实现指令,当由可编程计算机实现时,所述计算机可实现指令使计算机执行上述方法中的任一种。
根据一些实施例,用于处理受试者组织的图像的时间序列的套件包括上述系统中的任一种或者上述非暂时性有形计算机可读介质以及显像剂。
在这些实施例中的任一项中,显像剂可以是荧光显像剂。
根据一些实施例,荧光显像剂用于上述系统中的任一种、上述方法中的任一种、或上述用于对组织进行成像的套件中的任一种中。
在这些实施例中的任一个中,对组织进行成像可以包括:在血流成像、组织灌注成像、淋巴成像或其组合期间对组织进行成像。
在这些实施例中的任一个中,血流成像、组织灌注成像和/或淋巴成像可以包括:在侵入性医疗程序、微创医疗程序期间、或在非侵入性医疗程序期间进行的血流成像、组织灌注成像和/或淋巴成像。
在这些实施例中的任一个中,侵入性医疗程序可以包括:心脏相关医疗程序或重建医疗程序。
在这些实施例中的任一个中,心脏相关医疗程序可以包括心脏冠状动脉旁路移植术(CABG)程序。
在这些实施例中的任一个中,CABG程序可以是体外循环或非体外循环的。
在这些实施例中的任一个中,非侵入性医疗程序可以包括伤口护理程序。
在这些实施例中的任一个中,淋巴成像可以包括:淋巴结的标识、淋巴结引流、淋巴标测(mapping)或其组合。
在这些实施例中的任一个中,淋巴成像可以与女性生殖系统相关。
根据一些实施例,上述系统中的任一种、上述方法中的任一种、上述套件中的任一种或上述荧光剂中的任一种被用于淋巴成像。
根据一些实施例,上述系统中的任一种、上述方法中的任一种、上述套件中的任一种或上述荧光剂中的任一种用于血流成像、组织灌注成像或其组合。
附图说明
现在将参考附图仅以示例的方式描述本发明,其中:
图1是根据一些实施例的内窥镜相机系统的图示;
图2是根据一些实施例的图1的内窥镜相机系统的一部分和用于成像的目标对象的示图;
图3是根据一些实施例的成像系统的框图;
图4是根据一个实施例的用于交替生成白光和荧光图像帧的方法的流程图;
图5是示出根据一个实施例的用于交替生成白光和荧光图像帧的成像传感器像素行重置和读出以及照明器照明的示例性相对定时的示图;
图6是根据一个实施例的用于通过增加积分时间来生成具有提高的灵敏度的图像帧的方法的流程图;
图7是示出根据一个实施例的用于生成具有提高的灵敏度的图像帧的成像传感器像素行重置和读出以及照明器照明的示例性相对定时的示图;
图8是图示根据一些实施例的可以用于生成脉宽调制照明光的示例性照明器的组件的框图;
图9是根据一些实施例的具有三个成像传感器的成像器的示意图;
图10是根据一些实施例的示例性荧光成像系统的说明性描绘;
图11是根据一些实施例的荧光成像系统的示例性照明模块的说明性描绘;以及
图12是根据一些实施例的荧光成像系统的示例性相机模块。
具体实施方式
现在将详细参考本发明的各种方面和变型的实现和实施例,其示例在随附附图中图示。本文描述了各种设备、系统、方法、处理器、套件和显像剂。尽管描述了设备、系统、方法、处理器、套件和显像剂的至少两种变型,但是其它变型可以包括本文所述的设备、系统、方法、处理器、套件和显像剂的各方面,所述方面以具有所述方面中的全部或一些的组合的任何合适的方式组合。现在将参考随附附图在下文中更全面地描述示例;然而,它们可以以不同的形式体现,并且不应该被解释为限于本文阐述的实施例。相反,提供这些示例以使得本公开将是透彻和完整的,并将向本领域技术人员充分传达示例性实现。
本文描述的是用于医学成像的示例性设备、系统和方法,其使用滚动快门成像器和受控照明来生成具有有限滚动快门效果的图像的时间序列。更一般地,描述了用于操作滚动快门成像器和受控照明(诸如用于医学成像)以生成具有有限滚动快门效果的图像的时间序列的示例性设备、系统和方法。所述系统、设备和方法可以用于对受试者的组织进行成像,诸如在内窥镜成像程序中。可以在手术前、手术中、手术后以及在诊断成像会话和程序期间执行成像。成像方法本身可以排除将内窥镜成像器插入体内的管腔。成像方法本身可以排除任何侵入性手术步骤。
成像系统可以包括如下模式,其中控制对目标场景(例如,患者的目标组织)的照明以产生对于(一个或多个)成像传感器像素具有长积分时间的全局快门型效果的模式。可以根据给定的帧速率来驱动成像传感器,但是不是在每个可能的帧周期读取传感器的像素行,而是每隔一个帧周期读取所述行,从而允许传感器像素在更长的时段内积分。这导致相对长的积分时段,其中基本上所有的行可以同时暴露于场景。在该“全局快门”期间提供照明光,使得所得到的图像帧基本上没有滚动快门效果。
一种成像系统可以包括用于交替生成可见光图像帧和荧光图像帧的模式,其中在延长的垂直消隐时段期间提供照明光。例如,该模式可以用于产生具有荧光叠加的白光图像。如本领域中已知的,滚动快门成像器操作中的垂直消隐时段是从当传感器的最后一行被重置时到当传感器的第一行被读取时的时段。在垂直消隐时段期间,所有行同时进行积分。各种实施例通过在垂直消隐时段期间提供照明光来实现全局快门型效果。然而,由于垂直消隐时段相对较短,因此根据一些实施例,在比垂直消隐时段更长的时段内提供照明光,以增加成像器的灵敏度。这可能导致传感器的一部分行出现滚动快门效果,并且通过移除或替换一个或多个受影响的行,可以最小化这些效果对用户的可见性。
在各种示例中,诸如上述示例,可以使用脉宽调制来调制照明光,以向场景提供适量的照明。成像系统可以控制光量,使得一个或多个成像传感器被最佳地曝光,并且可以基于一个或多个先前帧期间传感器处的强度来这样做。
在以下描述中,应当理解,以下描述中使用的单数形式“一”、“一个”和“该”也旨在包括复数形式,除非上下文另行明确指出。还要理解到,本文中使用的术语“和/或”指代并且涵盖一个或多个相关联的所列项目的任何和所有可能的组合。要进一步理解到,术语“包括”、“包含”、“具有”和/或“具备”在本文中使用时,指定所陈述的特征、整数、步骤、操作、元件、组件和/或单元的存在,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件、单元和/或它们的组。
本公开的某些方面包括本文中以算法形式所描述的过程步骤和指令。应当注意的是,本公开的过程步骤和指令可以以软件、固件或硬件来体现,并且当以软件体现时,可以下载以驻留在各种各样的操作系统所使用的不同平台上,并且从其上运行。除非从以下讨论中清楚地另行具体陈述,否则要领会到,贯穿于该描述,讨论利用诸如“处理”、“计算”、“运算”、“确定”、“显示”、“生成”等的术语指代计算机系统或类似电子计算设备的动作和过程,其在计算机系统存储器或寄存器或其他这样的信息存储、传输或显示设备中操纵和变换被表示为物理(电子)量的数据。
在一些实施例中,本公开还涉及一种用于实行本文中的操作的设备。该设备可以为所需目的而专门构造,或者它可以包括由存储在计算机中的计算机程序选择性地激活或重构的通用计算机。这样的计算机程序可以存储在非暂时性计算机可读存储介质中,诸如但不限于任何类型的磁盘,包括软盘、USB闪存驱动器、外部硬盘驱动器、光盘、CD-ROM、磁光盘、只读存储器(ROM)、随机存取存储器(RAM)、EPROM、EEPROM、磁卡或光卡、专用集成电路(ASIC),或任何类型的适合存储电子指令的介质,并且均耦合到计算机系统总线。另外,说明书中提到的计算机可以包括单个处理器,或者可以是采用多处理器设计以增加计算能力的架构。
本文中描述的方法、设备和系统与任何特定的计算机或其他装置没有固有的关系。各种通用系统也可以与根据本文中的教导的程序一起使用,或者构造更专门的装置来实行所需的方法步骤可以证明是方便的。各种各样的这些系统所需的结构将从下面的描述中变得明显。此外,本发明没有参照任何特定的编程语言进行描述。应当领会到,可以使用各种各样的编程语言来实现如本文中所述的本发明的教导。。
图1图示了内窥镜成像系统10的示例,该内窥镜成像系统10包括可以在内窥镜手术中使用的观察器(scope)组装件11。观察器组装件11包含内窥镜或观察器12,该内窥镜或观察器12通过位于摄像头16远端的耦合器13耦合到摄像头16。光源14经由光导26(诸如光纤线缆)将光提供给观察器。摄像头16通过电缆15耦合到摄像机控制单元(CCU)18。CCU 18连接到光源14并与之通信。摄像机16的操作部分地由CCU 18控制。线缆15将视频图像和/或静止图像数据从摄像头16传送到CCU 18,并且可以在摄像头16和CCU 18之间双向传送各种控制信号。
可以在摄像头16上提供控制或开关布置17,用于允许用户手动控制系统10的各种功能,这可以包括从一种成像模式切换到另一种成像模式,如下面进一步讨论的。语音命令可以输入到安装在由执业医生佩戴的耳机27上并耦合到语音控制单元23的麦克风25中。手持控制设备29,诸如具有触摸屏用户界面的平板电脑或PDA,可以耦合到语音控制单元23作为另一个控制界面。在图示的实施例中,记录器31和打印机33也耦合到CCU 18。诸如图像捕获和存档设备之类的附加设备可以被包括在系统10中,并且耦合到CCU 18。由摄像头16采集并由CCU 18处理的视频图像数据被转换成图像,所述图像可以显示在监视器20上,由记录器31记录,和/或用于生成静态图像,其硬拷贝可以由打印机33产生。
图2示出了内窥镜系统10的一部分的示例,该内窥镜系统10用于照射对象1和接收来自对象1(诸如患者的手术部位)的光。对象1可以包括荧光标记2,例如,作为给患者施用荧光显像剂的结果。荧光标记2可以由例如吲哚菁绿(ICG)组成。
光源14可以生成用于生成目标对象1的可见(例如,白光)图像的可见照明光(诸如,红光、绿光和蓝光的任意组合),并且还可以产生用于激发目标对象中的荧光标记2以产生荧光图像的荧光激发照明光。照明光被传输到并通过光学透镜系统22,光学透镜系统22将光聚焦到光导管24上。光导管24可以创建单色光,然后该单色光被传输到光纤光导26。光导26可以包括多条光纤并且被连接到作为内窥镜12的一部分的光柱28。内窥镜12包括照明路径12′和光学通道路径12″。
内窥镜12可以包括陷波滤波器131,该陷波滤波器131允许由目标对象1中的荧光标记2发射的一些或全部(优选地,至少80%的)荧光发射光(例如,在830nm至870nm的波长范围内)从中通过,并且允许一些或全部(优选地,至少80%的)可见光(例如,在400nm至700nm的波长范围内)——诸如由目标对象1反射的可见照明光—— 从中通过,但是其基本上阻挡了用于激发来自目标对象1中的荧光标记2的荧光发射的所有荧光激发光(例如,具有808nm波长的红外光)。陷波滤波器131可以具有OD5或更高的光密度。在一些实施例中,陷波滤波器131可以位于耦合器13中。
图3示意性地图示了根据一些实施例的示例性成像系统300,其采用电子滚动快门成像器302来生成诸如患者的目标组织之类的目标对象的图像(例如,静止和/或视频)。系统300可以用于例如图1的内窥镜成像系统10。成像器302包括CMOS传感器304,其具有以像素行308和像素列310布置的像素阵列305。成像器302可以包括控制由CMOS传感器304生成的信号的控制组件306。控制组件的示例包括用于生成指示入射到传感器304的每个像素上的光的多位信号的增益电路、一个或多个模数转换器、用作缓冲器并为传感器304提供驱动功率的一个或多个线路驱动器、行电路和定时电路。定时电路可以包括诸如偏置电路、时钟/定时生成电路和/或振荡器之类的组件。行电路可以实现一个或多个处理和/或操作任务,诸如寻址像素行308、寻址像素列310、重置像素行308上的电荷、使能实现像素305的曝光、解码信号、放大信号、模数信号转换、施加定时、读出和重置信号以及其他合适的过程或任务。成像器302还可以包括机械快门312,其可以用于例如控制图像传感器304的曝光和/或控制在图像传感器304处接收的光量。
一个或多个控制组件可以被集成到传感器304被集成在其中的同一集成电路中,或者可以是分立组件。成像器302可以合并到成像头中,诸如系统10的摄像头16。
一个或多个控制组件306,诸如行电路和定时电路,可以电连接到成像控制器320,诸如系统10的相机控制单元18。成像控制器320可以包括一个或多个处理器322和存储器324。成像控制器320接收成像器行读出,并且可以控制读出定时和其他成像器操作,包括机械快门操作。成像控制器320可以生成图像帧,诸如来自成像器302的行和/或列读出的视频帧。生成的帧可以被提供给显示器350以显示给用户,诸如外科医生。
该示例中的系统300包括用于照射目标场景的光源330。光源330由成像控制器320控制。成像控制器320可以与滚动快门操作同步地确定由光源330提供的照明的类型(例如,白光、荧光激发光或这两者)、由光源330提供的照明的强度、和/或照明的开/关时间。光源330可以包括用于生成第一波长的光的第一光发生器332和用于生成第二波长的光的第二光发生器334。例如,在一些实施例中,第一光发生器332是白光发生器,其可以由多个分立的光生成组件(例如,多个不同颜色的LED)组成,并且第二光发生器334是荧光激发光发生器,诸如激光二极管。
光源330包括用于控制光发生器的光输出的控制器336。控制器336可以被配置为提供光发生器的脉宽调制,以用于调制由光源330提供的光的强度,这可以用于管理曝光过度和曝光不足。在一些实施例中,每个光发生器的标称电流和/或电压保持恒定,并且通过根据脉宽控制信号开启和关闭光发生器(例如,LED)来调制光强度。在一些实施例中,由成像控制器336提供PWM控制信号。该控制信号可以是与光发生器的期望脉宽调制操作相对应的波形。
成像控制器320可以被配置为确定光源330所需的照明强度,并且可以生成传送给光源330的PWM信号。在一些实施例中,取决于在传感器304处接收的光的量和积分时间,光源可以以不同的速率被脉冲调制以更改目标场景处的照明光的强度。成像控制器320可基于当前帧和/或一个或多个先前帧中在传感器304处接收的光量来确定后续帧的所需照明光强度。在一些实施例中,成像控制器320能够经由光源330的PWM(以增加/减少像素处的光量)、经由机械快门312的操作(以增加/减少像素处的光量)和/或经由增益的改变(以增加/减少像素对所接收的光的灵敏度)来控制像素强度。在一些实施例中,成像控制器320主要使用照明源的PWM来控制像素强度,同时保持快门打开(或至少不操作快门)并保持增益水平。在光强度处于最大值或最小值并且需要进一步调节的情况下,控制器320可以操作快门312和/或修改增益。
用于生成可见光和荧光图像的方法
图4图示了根据一个实施例的用于生成白光和荧光图像帧的时间序列的示例性方法400。方法400可以由诸如图3的系统300之类的成像系统来执行。在步骤402,根据众所周知的滚动快门成像器操作,诸如图3的成像器302之类的电子滚动快门成像器的像素行被从第一行(例如,顶行或底行)按顺序重置到最后一行(例如,底行或顶行)。
在步骤404,从第一行到最后一行按顺序读取从步骤402中的重置起累积在每一像素行处的电荷。直到从步骤402中的最后一行的重置起已经过去了一个时间段,才开始读取第一行。该时间段可以被称为垂直消隐时段,并且是成像传感器的基本上所有行同时累积电荷(即,积分)的时段。如下文进一步讨论的,可以利用该同时积分时段来创建全局快门效果。
在步骤406,利用来自照明器的照明光来在一个照明时段内照射受试者的目标组织。照明时段比垂直消隐时段(从最后一行被重置直到第一行被读取的时间)更长,并且可以跨越大部分或全部垂直消隐时段。照明时段可以在步骤402中至少最后一个像素行的重置之前、同时或之后开始。在这些实施例中的任一个中,照明时段可以在步骤402中至少第一像素行的读取之前、同时或之后结束。
可选地,照明光可以是白光(或任何其他可见光谱),用于生成白光(或任何其他可见光谱)图像帧。可替代地或附加地,照明光可以是荧光激发光,诸如红外光,用于生成荧光图像帧。
可以基于给定应用的期望成像灵敏度来选择照明时段的长度。对于照明光水平相对较高的应用,照明时段可以比照明光水平相对较低的应用更短。一般来说,照明时段越长,可能失真的行数就越多,并且因此,可能需要移除或利用预定值替换的行数就越多。因此,照明时段长度的选择可能需要灵敏度和视场之间的平衡。
在步骤408,根据累积在像素行的电荷的读数生成图像帧。因为步骤406中的照明时段延长超过垂直消隐时段,所以在每个帧捕获期间,并非所有行都在相同时间量的时间内暴露于得自于照明光的来自目标组织的光。例如,在照明时段开始于倒数第二行的重置(即,在最后一行的重置之前)的实施例中,最后一行在比先前行更短的时间段内对由于照明而对从目标组织接收的光进行积分。这可能导致一个或多个行中的视觉伪像,所述行在比每个帧捕获周期内的照明时段更短的时段内对由于照明光而接收的光进行积分。因此,可以生成图像帧,使得受延长的照明时段影响的一个或多个行——其中照明时段在相应行的重置之前开始和/或在相应行的读取之后结束的行——被移除或替换。一个或多个受影响的行可以利用一个或多个预定值替换。图像帧可以包括其中给定行中的每个像素值是预定值的一个或多个行。当显示时,图像帧可能在顶部和/或底部出现例如一条或多条黑线。在一些实施例中,一个或多个受影响的行诸如通过裁剪受影响的行而被移除。因此,生成的图像帧可以包括比来自成像传感器的像素数据中包括的行更少的行。
可选地,该方法可以进一步包括交替地生成白光(或任何其他可见光谱)图像帧和荧光图像帧。在上面的步骤406,照明光可以是白光,并且在步骤408生成的图像帧可以是白光图像帧。随后的帧捕获周期可以用于生成荧光图像帧。因此,在随后的帧捕获周期,白光照明在延长的垂直消隐时段内保持关闭。在白光关闭的情况下,照明器生成荧光激发光,诸如红外光,用于引起来自目标组织的荧光发射(例如,由于组织中的荧光剂和/或组织的自发荧光)。来自目标组织的荧光发射由像素行接收,并且像素行的读出用于生成荧光图像帧。
后续帧可以用于捕获白光帧,并且照此,可以在跨越下一个垂直消隐时段的白光照明时段上提供白光照明。对于当前的荧光图像捕获,该照明时段可以延长到至少一些行(例如,底部行)的积分时段中,并且因此,如上所述,可以替换或移除受影响的行。
类似地,在荧光图像帧的捕获期间,来自先前白光帧的照明时段(例如,上面的步骤406)可以延长到至少一个像素行的积分时段。这可能导致受影响的一个或多个行中的失真,并且因此,受影响的一个或多个行可能被移除,或者相关联的像素数据被一个或多个预定值替换,如上面所讨论的。
可以在跨越帧的垂直消隐时段的照明时段内提供在荧光图像捕获周期期间的荧光激发照明,如以上关于白光照明时段所讨论的。荧光激发照明时段可以与白光照明时段相同——相同的持续时间、相同的相对开始时间、和/或相同的相对结束时间——也可以不同。
可以在成像的持续时间上连续提供荧光激发光。这可以增加对来自组织的荧光发射的灵敏度,因为组织将在像素积分时段的持续时间上而不仅仅是在相对较短的延长的垂直消隐时段上发射荧光。尽管对于像素行中的至少一些,连续荧光发射将与先前和后续的白光帧捕获重叠(由于滚动快门),但是白光图像帧可能不会受到明显影响,因为来自组织的荧光发射的强度可以远低于反射的白光的强度,使得在白光帧捕获期间荧光发射对像素读出的任何贡献都可以是可忽略的。
根据一些实施例,成像器可以包括机械快门,并且至少在照明时段期间,机械快门可以保持打开或以其他方式不用于调制传感器处的光。相反,可以经由对照明光的脉冲来控制成像器处的光强度控制。
图5是示出根据一个实施例的用于交替生成白光和荧光图像帧的成像传感器像素行重置和读出以及照明器照明的示例性相对定时的示图。成像传感器包括N行,并图示了前四行和最后三行的重置和读出。图示了白光图像帧捕获周期502和随后的荧光图像帧捕获周期503。
在时间504,第一行506被读取和重置,开始白光图像帧的积分时段510。每一行被连续读取和重置,直到最后一行508在时间505被读取和重置。从第一行读取/重置到最后一行读取/重置的时段是读出时间512(本文也称为重置时间)。
在时间514,读取(和重置)第一行506,为第一行506的像素提供与在第一行506的积分时段510期间在第一行像素处接收的光量相关联的强度值。第一行506的读出发生在最后一行508的重置之后。相继读取(和重置)每一行,直到在时间534读取(和重置)最后一行508。每一行具有相同量的积分时间516,其在图5中示出在行的下方。
最后一行508的重置和第一行506的读出之间的时间段是垂直消隐时段517。在垂直消隐时段517期间,由照明器提供白光照明。图5的底部示出了示例性照明器控制信号518。照明时段520开始于时间522,并且结束于时间524——在图示的时间帧中,照明器不在该照明时段520之外提供照明。如可以看出的,在图示的实施例中,白光照明的开始时间522在最后一行508的重置之前,并且照明时段520的结束时间524在第一行506的读出时间514之后。这种延长的照明时段(本文也称为延长的垂直消隐时段,尽管实际的垂直消隐时段没有延长)与仅将照明时段520限制为仅垂直消隐时段517相比,为中间的像素行提供了更多的时间来累积电荷,增加了灵敏度。
如上所述,以与白光帧基本相同的方式捕获荧光帧。在图5的图示中,为了简单起见,在荧光帧捕获周期503内的第一行的重置被描绘为与在白光图像帧捕获周期502内的第一行的读出时间514相同。对于荧光帧,白光控制信号518保持为低,而荧光激发光信号526变为高,使得照明器发射荧光激发光。荧光激发光照明时段528跨越垂直消隐时段517,在时间530开始,并且在时间532结束。
由于白光帧捕获周期502的照明时段520与荧光图像帧捕获周期503的至少第一行506的积分时段重叠,因此荧光帧的第一行的读出相对于与第一行506相关联的组织部分的荧光响应将是不准确的。因此,至少第一行506的读出将被替换为预定值,诸如零,或者将通过省略至少第一行来生成图像帧。此外,因为随后的图像帧将是具有在荧光图像帧捕获周期503的最后一行508的读出536之前开始的白光照射时段520的另一个白光图像帧,所以最后一行508的读出536也将不准确,并且因此将在生成荧光图像帧时被替换或移除。
荧光图像帧的照明时段528在长度、相对开始时间和/或相对结束时间上可以与白光图像帧的照明时段520相同。可替代地,根据对组织的荧光响应相对于反射白光成像所需的相对灵敏度,照明时段528可以不同于照明时段520。在一些实施例中,总是提供荧光激发,其如上面讨论的那样,由于来自组织的荧光发射的相对低的强度(以及荧光激发光的过滤,如本文讨论的)而可能不会显著影响白光图像捕获。
通过重复上述过程,交替生成白光图像帧和荧光图像帧。白光图像帧和荧光图像帧可以分离地显示在显示器上,或者可以通过例如将荧光图像帧覆盖在白光图像帧上来显示。白光帧和荧光帧可以均以成像器帧速率的一半生成。
根据各种实施例,可以根据期望灵敏度与期望视场的平衡来选择延长的垂直消隐时段。根据各种实施例,延长的垂直消隐时段可以小于垂直消隐时段长度的两倍,小于垂直消隐时段的三倍,小于垂直消隐时段的四倍,小于垂直消隐时段的五倍,或小于垂直消隐时段的十倍。根据各种实施例,延长的垂直消隐时段可以是垂直消隐时段长度的至少两倍、垂直消隐时段的至少三倍、垂直消隐时段的至少四倍、垂直消隐时段的至少五倍或垂直消隐时段的至少十倍。在各种实施例中,延长的垂直消隐照明时段的长度可以基于例如成像传感器处的强度测量来动态调节。例如,在照明光的量在前一帧内导致成像传感器处的光强度相对高的情况下,可以在随后的成像帧中缩短照明时段。这可以代替或附加于照明光强度的调制来完成。
可选地,由于延长的垂直消隐照明时段创建的伪影而被移除或替换的像素数据的相对行数可以小于50%、小于40%、小于30%、小于20%、小于10%、小于5%、小于2%、小于1%、小于0.1%、小于0.01%、小于0.001%或小于0.0001%。在一些实施例中,移除或替换一种类型的成像帧(例如,荧光成像帧)的像素数据行,而不移除或替换另一种类型的成像帧(例如,白光成像帧)的像素数据行。例如,这在荧光帧和白光帧显示在不同的显示器上或并排显示在同一显示器上时可能是有用的。
用于生成具有提高的灵敏度的图像帧的方法
图6提供了用于通过利用两帧价值的积分时间来生成具有提高的灵敏度的图像帧的示例性方法600。方法600可以由诸如图3的成像系统300之类的成像系统执行,该成像系统具有诸如系统300的滚动快门成像器302之类的滚动快门成像器和诸如系统300的光源330之类的光源。
在步骤602,根据众所周知的滚动快门成像器操作,从第一行到最后一行按顺序重置滚动快门成像器的像素行。该重置(读出)时段是本文称为重置或读出时段的时间量。在步骤604,在一旦滚动快门成像器的最后一行被重置就开始的照射时段上,利用来自照明器的照明光照射受试者的目标组织。照明时段持续的时间量至少是重置/读出时段持续的时间量。
在步骤606,基于在利用照明光照射受试者的组织时从受试者的组织接收的光,在至少照明时段内在成像器的像素行处累积电荷。在步骤608,从第一行到最后一行按顺序读取累积的电荷。基本上在读取第一行的时候,照明时段已经结束,并且不再利用照明光照射组织。因此,在最后一行的重置和随后第一行的读出之间的时间段中,组织被照射。这样,成像器的每一行接收来自受试者的组织的光,该光是在相同时间段内同时照射组织的结果,从而在滚动快门成像器中有效地创建全局快门效果。该全局快门时间段类似于上面关于方法400讨论的垂直消隐时段,但是显著地更长,因为它至少持续与读出时段的长度一样长的长度。
可选地,该全局快门时段通过跳过成像器能够执行的每隔一个读出/重置步骤来创建,在两个帧周期上对每一行进行积分。这导致最大图像生成帧速率降低,但是在不引入滚动快门效果的情况下提高了成像器的灵敏度。换句话说,成像器被驱动,以便能够产生某个称之为标称的帧速率(即,重置/读出所有行所花费的时间量提供了实现标称帧速率的能力),但是每隔一个帧读出/重置操作被跳过,使得图像生成帧速率是标称帧速率的一半。每一行在被暴露于来自目标组织的光(曝光时段)时积分的量可以等于垂直消隐时段加上重置/读出所有行所花费的时间的两倍。在一些实施例中,可以消除垂直消隐时段,使得曝光时段的长度仅仅是重置/读出所有行所花费的时间量。
在步骤610,根据累积在像素行处的电荷的读数生成图像帧。与方法400的延长的照明时段不同,方法600中的照明时段不与前一帧和后一帧重叠。照此,在生成图像帧时没有行需要被移除或替换。
成像器可以包括机械快门,并且至少在照明时段期间,机械快门可以保持打开或者以其他方式不用于调制传感器处的光。相反,可以经由照明光的脉冲来控制成像器处的光强度控制。
图7是示出根据一个实施例的用于生成具有提高的灵敏度的图像帧的成像传感器像素行重置和读出以及照明器照明的示例性相对定时的示图。成像传感器包括N行,其中图示了前四行和最后三行的重置和读出。图示了图像帧捕获周期702和随后的图像帧捕获周期703的最开始。
在时间704,第一行706被读取和重置,开始图像帧的积分时段710。每一行被相继读取和重置,直到最后一行708在时间705被读取和重置。从第一行读取/重置到最后一行读取/重置的时段是读出时间712(本文也称为重置时间)。
在时间711,重置时段和垂直消隐时段717已经完成,因此,成像器能够进行另一个重置/读出操作。然而,此步骤被跳过,使得每一行的积分时段更长。该读出/重置能力由虚线713表示。在时间714,读取(和重置)第一行706,提供与在第一行706的积分时段710期间在第一像素行处接收的光量相关联的第一行706像素的强度值。第一行706的读出发生在最后一行508的重置的很久之后(相对地)。相继读取(和重置)每一行,直到在时间734读取(和重置)最后一行708。每一行具有相同的积分时间716。由于在时间714跳过读出/重置,因此每一行的积分时段可以有效地加倍。
在所图示的示例中,最后一行708的重置与第一行706的读出之间的时间段等于读出时间加上垂直消隐时段717的两倍。在该时间期间,成像器的基本上所有行被同时曝光,有效地创建了全局快门窗口,其中可以提供照明光,从而防止滚动快门效果。在示例性实施例中,在整个全局快门窗口期间提供照明光。图7的底部示出了示例性照明器控制信号718。照明时段720的开始时间722可以与最后一行708的读出/重置时间705相同。照明时段720的结束时间724可以与第一行706的读出/重置时间714相同。照明器在该照明窗口之外关闭。照明时段可以比全局快门时段更短——它可以在读取最后一行之后的某个时间开始,和/或可以在读取第一行之前结束。
根据一些实施例,成像器可以被配置用于任何合适的帧速率。示例性帧速率包括至少30fps、至少60fps、至少120fps和至少240fps。全局快门窗口时间和/或延长的垂直消隐时间通常与成像器的帧速率能力相关,由此更快的帧速率将与更短的全局快门窗口时间和/或更短的延长垂直消隐时间相关联。
用于脉宽调制照明的照明器
成像系统,诸如图3的成像系统300,可以被配置为通过对照明器的照明光源进行脉冲调制来对提供给目标对象(例如,目标组织)的照明光的量进行调制,如上面所讨论的。可以调制照明光的量,使得可以控制在成像传感器处接收的反射光(或荧光发射光)的量。脉宽调制(PWM)允许目标对象处接收的光量快速改变,使得可以诸如针对每个成像帧快速调节成像器处接收的光量。在一些实施例中,光源的PWM可以代替在成像传感器处调制光强度的其他部件,诸如机械快门。在一些实施例中,光源的PWM可以提供用于调节传感器处的光的主要机制,并且如果光源的调节不足,则机械快门可以提供次级机制。在图像帧生成期间,除了照明器PWM调节之外,成像器还可以依赖于增益调节。
图8是图示根据一个实施例的可以用于生成脉宽调制照明光的示例性照明器800的组件的框图。照明器800可以被配置用于生成白光以及荧光激发光,诸如红外光。照明器800包括激光二极管830、第一LED 832、第二LED 834和第三LED 836。激光二极管830可以用于提供荧光激发光,并且三个LED可以用于提供可见光,诸如红光、绿光和蓝光,以及它们的任意组合(例如,白光)。激光二极管830由激光二极管驱动器838激活。第一LED 832由第一LED驱动器840激活,第二LED 834由第二LED驱动器842激活,并且第三LED 836由第三LED驱动器844激活。
在一些实施例中,激光二极管830是发射波长在约805nm至约810nm范围内的光的红外二极管。在一些实施例中,激光二极管发射波长约为808nm的光。优选地,第一LED 832发射蓝色波长光谱的光,第二LED 834发射绿色波长光谱的光,并且第三LED 836发射红色波长光谱的光。
在激光二极管830前面是第一二向色滤光器850,在第一LED 832前面是第二二向色滤光器852,在第二LED 834和第三LED 836前面是第三二向色滤光器854。二向色滤光器850、852、854均被设计成反射某些光并允许其他光从中通过。第一二向色滤光器850允许来自所有三个LED 832、834和836的光(例如,蓝色、绿色和红色波长光谱中的光)通过,同时反射来自激光二极管830的激光。第二二向色滤光器852允许来自第二LED 834和第三LED 836的光通过,同时反射来自第一LED 832的光。第三二向色滤光器854允许来自第三LED 836的光通过,同时反射来自第二LED 834的光。
第一光学透镜866位于第一二向色滤光器850和第二二向色滤光器852之间,用于聚焦从第二二向色滤光器852接收的光以传递到第一二向色滤光器850。第二光学透镜868位于第二二向色滤光器852和第三二向色滤光器854之间,并且用于聚焦从第三二向色滤光器854接收的光以传递到第二二向色滤光器852。可以提供第三光学透镜870,用于聚焦从第一二向色滤光器850接收的光。照明器800可以经由光传输线880(诸如光纤光导管)提供光。
控制器864被提供用于根据各种模式和控制信号激活和调制照明源,所述控制信号可以通过控制线810从例如相机控制单元接收。根据各种实施例,示例性照明模式可以包括可见白光模式,其中激光二极管830关闭,第一LED 832开启,第二LED 834开启,并且第三LED 836开启。例如,如上所述,该模式可以在图6的方法600中使用。
另一示例性照明模式是交替的红外激发光和白光模式,其可以用于诸如在图4的方法400中例如交替地生成白光和荧光图像帧。在该模式下,第一LED 832、第二LED 834和第三LED 836同时周期性地开启,并且激光二极管830始终开启或周期性地开启。
在照明器800和成像器这两者中从模式到模式的切换、诸如从白光模式到白光加荧光照明模式的切换,可以通过使用摄像头按钮、CCU触摸屏、光源触摸屏、无线控制器触摸屏、语音控制器、脚踏板或任何其他合适的机构来实现。
控制器864可以被配置为控制照明器800中的各个光源的脉冲调制。控制器864可以向照明源驱动器提供脉冲控制信号,所述脉冲控制信号使驱动器根据期望的脉宽调制来激活和停用光源。在一些实施例中,控制器864通过控制线810从外部控制系统(诸如相机控制系统)接收PWM信号,并使用该PWM信号对光源进行脉冲调制。换句话说,对应于光源的期望PWM的波形可以通过控制线810被提供给照明器800,并且该PWM波形可以经由控制器被提供给驱动器,而无需对PWM信号进行任何基于软件的处理。在其他实施例中,控制器864从外部控制系统接收控制信号,根据接收到的控制信号生成其自己的PWM信号。例如,诸如CCU的外部控制器可以提供相对强度控制参数,并且控制器864可以根据强度控制参数生成PWM信号。
示例性成像器
图9图示了包括三个成像传感器的示例性滚动快门成像器916。成像器916可以用作图1的系统10的摄像头16或在图1的系统10的摄像头16中使用,或者用作系统300的成像器302。光经由路径988到达成像器。除了其他未示出的部件之外,成像器916还包括三色棱镜990。三色棱镜990包括第一玻璃棱镜992、第二玻璃棱镜994和第三玻璃棱镜996。在第一玻璃棱镜992和第二玻璃棱镜994之间是第一棱镜滤光器998,其可以是以第一玻璃棱镜992外部上的涂层的形式。第一棱镜滤光器998反射蓝光,但是透射其他光,诸如红光、绿光和红外光。在第二玻璃棱镜994和第三玻璃棱镜996之间是第二棱镜滤光器900,其可以是以第二玻璃棱镜994上的涂层的形式。第二棱镜滤光器900反射红光和红外光,但是允许透射其它波长的光,诸如绿光。因此,蓝光沿着路径902传输,红光和红外光沿着路径904传输,绿光沿着路径906传输。
第一颜色传感器908邻近第一玻璃棱镜992,并且优选固定地附接到第一玻璃棱镜992。第二颜色传感器910邻近第二玻璃棱镜994,并且优选固定地附接到第二玻璃棱镜994。第三颜色传感器912邻近第三玻璃棱镜996,并且优选固定地附接到第三玻璃棱镜996。第一颜色传感器908能够检测蓝色波长光谱中的光,第二颜色传感器910能够检测红色和红外波长光谱中的光,并且第三颜色传感器912能够检测绿色波长光谱中的光。颜色传感器908、910、912是滚动快门成像器,诸如CMOS成像器,其接收光并将光转换成电信号,所述电信号进而被传输到处理器(例如,系统10的CCU 18)以处理成图像的模拟或数字信号,所述图像将被提供用于显示,诸如提供给系统10的监视器20。
可选地,成像系统是荧光成像系统。图10是荧光成像系统1010的示意性示例。荧光成像系统1010包括:光源1012,用于照射受试者的组织,以在受试者的组织中(例如,在血液中、尿液中、淋巴液中、脊髓液或其它体液或组织中)诱导来自荧光显像剂1014的荧光发射;图像采集组装件1016,被布置成用于从荧光发射生成荧光图像的时间序列和/或受试者时间序列;以及处理器组装件1018,被布置成用于根据本文所述的方法的任何变型来处理所生成的荧光图像的时间序列/受试者时间序列。处理器组装件1018可以包括其上具有指令的存储器1068、被布置成用于执行存储器1068上的指令以处理荧光图像的时间序列和/或受试者时间序列的处理器模块1062、以及用于存储未处理的和/或经处理的荧光图像的时间序列和/或受试者时间序列的数据存储模块1064。在一些变型中,存储器1068和数据存储模块1064可以体现在相同的存储介质中,而在其他变型中,存储器1068和数据存储模块1064可以体现在不同的存储介质中。系统1010可以进一步包括通信模块1066,用于将图像和其他数据(诸如荧光图像的一些或全部时间序列/受试者时间序列、或者其他输入数据、空间图、受试者空间图和/或组织数值(量化器))传输到成像数据处理中枢。
在一些变型中,光源1012包括例如照明模块1020。照明模块1020可以包括荧光激发源,其被布置成用于生成具有合适强度和合适波长的激发光以用于激发荧光显像剂1014。如图11所示,照明模块1020可以包括激光二极管1022(例如,其可以包括例如一个或多个光纤耦合二极管激光器),其被布置成用于提供激发光以激发受试者组织中的荧光显像剂(未示出)。可以在各种实施例中使用的其他激发光源的示例包括:一个或多个LED、弧光灯或具有足够强度和适当波长来激发组织中的荧光显像剂的其他照明技术。例如,血液中荧光显像剂的激发(其中,荧光显像剂是具有近红外激发和发射特性的荧光染料)可以使用来自德国DILAS Diode Laser公司的一种或多种793 nm传导冷却的单条光纤耦合激光二极管模块。
在一些变型中,从光源1012输出的光可以通过一个或多个光学元件投射以对用于照射感兴趣的组织区域的输出进行成形和引导。光学元件可以包括一个或多个透镜、光导和/或衍射元件,以便于在图像采集组装件1016的基本上整个视场上确保平坦视场。可以选择荧光激发源以在接近于荧光显像剂1014(例如,吲哚菁绿(ICG)等)的吸收最大值的波长处进行发射。例如,如图11所示,来自激光二极管1022的输出1024可以穿过一个或多个聚焦透镜1026,并且然后通过均化光管1028,诸如例如通常可从美国Newport公司获得的光管。最后,光可以穿过光学衍射元件1032(即,一个或多个光学漫射器),诸如例如是也可从美国Newport公司获得的毛玻璃衍射元件。激光二极管1022的电力可以由例如高电流激光驱动器提供,诸如可从美国Lumina Power股份有限公司获得的那些。在图像采集过程期间,激光器可以可选地以脉冲模式操作。诸如固态光电二极管1030之类的光学传感器可以被并入照明模块1020中,并且可以经由来自各种光学元件的散射或漫反射对由照明模块1020产生的照明强度进行采样。在一些变型中,当在感兴趣区域上方对准和定位模块时,可以使用附加的照明源来提供引导。
再次参考图10,在一些变型中,图像采集组装件1016可以是荧光成像系统1010的组件,其被配置成从荧光显像剂1014的荧光发射中采集荧光图像的时间序列和/或受试者时间序列。图像采集组装件1016可以包括相机模块1040。如图12所示,相机模块1040可以通过使用成像光学系统(例如,1046a、1046b、1048和1050)收集荧光发射并且将其聚焦到图像传感器组装件1044上,来从组织中的荧光显像剂采集荧光发射1042的图像。图像传感器组装件1044可以包括至少一个2D固态图像传感器。该固态图像传感器可以是电荷耦合器件(CCD)、CMOS传感器、CID或类似的2D传感器技术。由图像传感器组装件1044转换的光信号产生的电荷通过相机模块1040中的适当读出和放大电子器件被转换成电视频信号,该电视频信号包括数字和模拟视频信号这二者。
根据荧光成像系统的示例性变型,光源可以提供大约800 nm+/-10 nm的激发波长,并且图像采集组装件使用>820 nm的发射波长以及NIR兼容光学器件,以用于例如ICG荧光成像。在示例性实施例中,NIR兼容光学器件可以包括具有GigE标准接口的CCD单色图像传感器和在光学格式和安装格式(例如,C/CS安装)方面与传感器兼容的透镜。
在一些变型中,处理器模块1062包括任何计算机或计算部件,诸如例如平板计算机、膝上型计算机、台式机、联网计算机或专用的独立微处理器。例如,处理器模块1062可以包括一个或多个中央处理单元(CPU)。在示例性实施例中,处理器模块1062是具有四个CPU的四核2.5GHz处理器,其中每个CPU是微处理器,诸如64位微处理器(例如,作为INTEL Corei3、i5或i7销售,或以AMD Core FX系列销售)。然而,在其他实施例中,处理器模块1062可以是具有任何合适数量的CPU和/或其他合适的时钟速度的任何合适的处理器。
处理器模块1062的输入可以取自例如图12所示的相机模块1040的图像传感器1044、取自图11中的照明模块1020中的固态光电二极管1030,和/或取自任何外部控制硬件,诸如脚踏开关或遥控器。输出被提供给激光二极管驱动器和光学对准辅助装置。如图10所示,在一些变型中,处理器组装件1018可以具有数据存储模块1064,其具有将图像的时间序列/受试者时间序列、或其数据表示、或其他输入数据保存到有形的非暂时性计算机可读介质的能力,该有形的非暂时性计算机可读介质诸如例如是内部存储器(例如,硬盘或闪速存储器),以便于使得能够记录和处理采集的数据。在一些变型中,处理器模块1062可以具有内部时钟,以使得能够控制各种元件,并且确保照明和传感器快门的正确定时。在一些变型中,处理器模块1062还可以提供用户输入和输出的图形显示。荧光成像系统可以可选地被配置有通信单元1066,诸如有线或无线网络连接或视频输出连接,以用于在荧光图像被采集或在记录后被回放时传输它们的时间序列。通信单元1066可以附加地或可替代地传输经处理的数据,诸如空间图、受试者空间图和/或组织数值。
在图10-12中描述的示例性系统的操作中,受试者相对于荧光成像系统1010定位,使得感兴趣区域(例如,目标组织区域)位于光源1012和图像采集组装件1016下方,使得光源1012的照明模块1020跨基本上整个感兴趣区域产生基本上均匀的照明场。在一些变型中,在向受试者施用荧光显像剂1014之前,或者在荧光显像剂到达感兴趣区域之前,可以出于背景扣除的目的采集感兴趣区域的图像。为了采集荧光图像/受试者荧光图像,荧光成像系统1010的操作者可以通过按下遥控开关或脚踏控制、或者经由连接到处理器组装件1018的键盘(未示出)来发起荧光图像的时间序列/受试者时间序列的采集。结果,光源1012被打开,并且处理器组装件1018开始记录由图像采集组装件1016提供的荧光图像数据/受试者荧光图像数据。当在该实施例的脉冲模式下操作时,相机模块1040中的图像传感器1044被同步以在由照明模块1020中的二极管激光器1022所产生的激光脉冲之后收集荧光发射。以这种方式,记录了最大荧光发射强度,并且优化了信噪比。在该实施例中,荧光显像剂1014被施用于受试者,并且经由动脉流递送至感兴趣区域。例如,在施用荧光显像剂1014后不久发起对荧光图像的时间序列/受试者时间序列的采集,并且在荧光显像剂1014的整个进入期间采集来自基本上整个感兴趣区域的荧光图像的时间序列。来自感兴趣区域的荧光发射由相机模块1040的收集光学器件收集。剩余的环境光和反射的激发光被相机模块1040中的后续光学元件(例如,图12中的光学元件1050,其可以是滤波器)衰减,使得可以由图像传感器组装件1044在受来自其他源的光的干扰最小的情况下采集荧光发射。
在一些变型中,在荧光图像的时间序列/受试者时间序列的采集或生成之后,然后可以启动处理器组装件1018(例如,处理器模块1062或其他处理器)以执行存储在存储器1068上的指令,并且在将成像数据传输到成像数据处理系统(例如,系统100的中枢102)之前处理成像数据。系统1010可以经由连接1066传输空间图/受试者空间图、和/或从其导出的任何临床相关性或诊断、或这两者,以在复合显示馈送中显示给用户,例如作为灰度或假彩色图像,和/或被存储以供后续使用。
具有嵌入其上的计算机可执行(可读)程序代码的一种计算机程序产品或有形非暂时性计算机可读介质可以提供用于使一个或多个处理器在执行指令时实行本文中所述方法中的一个或多个方法的指令。程序代码可以用任何适当的编程语言编写,并且以许多形式递送给处理器,包括例如但不限于永久存储在不可写存储介质(例如,只读存储器设备,诸如ROM、CD-ROM盘等)上的信息、可更改地存储在可写存储介质(例如,硬盘驱动器等等)上的信息、通过通信介质(诸如局域网、公共网络(诸如互联网))传送到处理器的信息,或适用于存储电子指令的任何类型的介质。当携带实现本文中所述方法的各种实施例的计算机可读指令时,这样的计算机可读介质表示各种实施例的示例。在各种实施例中,所述有形的非暂时性计算机可读介质包括所有计算机可读介质,并且本发明的范围限于计算机可读介质,其中,该介质既是有形的又是非暂时性的。
套件可以包括本文中所述系统的任何部分和荧光显像剂,诸如例如荧光染料(诸如ICG)或任何合适的荧光显像剂。在另外的方面中,套件可以包括有形的非暂时性计算机可读介质,其上嵌入有计算机可执行(可读)程序代码,该程序代码可以提供用于使一个或多个处理器在执行指令时实行用于表征本文中所述的组织和/或预测临床数据的方法中的一个或多个的指令。该套件可以包括用于使用其至少一些组件的指令(例如,用于使用荧光显像剂,用于安装其上嵌入有指令的计算机可执行(可读)程序代码等)。在又另外的方面中,提供有用于在本文中所描述的方法和系统中使用的荧光显像剂,诸如例如荧光染料。在另外的变型中,套件可以包括本文中所述的系统的任何部分或整个系统以及荧光剂,诸如例如荧光染料(诸如ICG),或任何其他合适的荧光剂,或荧光剂的组合。
用于在生成成像数据时使用的示例显像剂
根据一些实施例,在荧光医学成像应用中,显像剂是荧光显像剂,诸如例如ICG染料。荧光显像剂(诸如ICG)可以在实行如本文描述的方法之前预先施用于受试者。ICG在被施用于受试者时与血液蛋白质结合并且在组织中随血液循环。荧光显像剂(例如,ICG)可以以适于成像的浓度作为团注(bolus injection)(例如,注射到静脉或动脉中)施用于受试者,使得团块(bolus)在脉管系统中循环,并且穿过微脉管系统。在其中使用多种荧光显像剂的其他实施例中,这样的试剂可以同时施用(例如,以单个团块施用),或分离的团块的形式顺序施用。在实行如本文描述的方法之前,可以将荧光显像剂预先施用于受试者。在一些实施例中,荧光显像剂可以通过导管施用。在某些实施例中,荧光显像剂可以在实行对从荧光显像剂产生的信号强度的测量之前不到一小时施用。例如,荧光显像剂可以在测量前不到30分钟施用于受试者。在又其他实施例中,可以在实行测量之前至少30秒施用荧光显像剂。在仍其他实施例中,可以在实行测量的同时施用荧光显像剂。
根据一些实施例,可以以各种浓度施用荧光显像剂以在血液中达到期望的循环浓度。例如,在荧光显像剂是ICG的实施例中,它可以以大约2.5 mg/mL的浓度施用以在血液中达到大约5 μM至大约10 μM的循环浓度。在各种实施例中,施用荧光显像剂的浓度上限是荧光显像剂在循环血液中变得具有临床毒性的浓度,并且浓度下限是用于采集由随血液循环的显像剂产生的信号强度数据的、用于检测荧光显像剂的器械限制。在各种其他实施例中,施用荧光显像剂的浓度上限是荧光显像剂变得自猝灭时的浓度。例如,ICG的循环浓度范围可以从大约2 μM到大约10 mM。因此,在一方面,该方法包括根据各种实施例的在处理信号强度数据之前将显像剂(例如,荧光显像剂)施用于受试者和采集信号强度数据(例如,视频)的步骤。在另一方面,该方法不包括将显像剂施用于受试者的任何步骤。
根据一些实施例,在荧光成像应用中使用以生成荧光图像数据的合适的荧光显像剂是可以随血液(例如,可以随例如血液的成分(诸如血液中的脂蛋白或血清血浆)循环的荧光染料)和组织的转运脉管系统(即,大血管和微脉管系统)循环、并且当显像剂暴露于适当的光能(例如,激发光能,或吸收光能)时从中产生信号强度的显像剂。在各种实施例中,荧光显像剂包括:荧光染料、其类似物、其衍生物或这些的组合。荧光染料包括:任何无毒的荧光染料。在某些实施例中,荧光染料最佳地发射近红外光谱中的荧光。在某些实施例中,荧光染料是或包括三碳菁染料。在某些实施例中,荧光染料是或包括ICG、亚甲蓝或其组合。在其他实施例中,荧光染料是或包括异硫氰酸荧光素、若丹明、藻红蛋白、藻蓝蛋白、别藻蓝蛋白、邻苯二甲醛、荧光胺、玫瑰红、台盼蓝、氟金或其组合,可使用适合于每种染料的激发光波长来激发。在一些实施例中,可以使用荧光染料的类似物或衍生物。例如,荧光染料类似物或衍生物包括:经过化学修饰但在暴露于适当波长的光能时仍保持其发荧光能力的荧光染料。
在各种实施例中,荧光显像剂可以作为冻干粉末、固体或液体提供。在某些实施例中,荧光显像剂可以以在小瓶(例如,无菌小瓶)中提供,其可以通过用无菌注射器施用无菌流体而准许重新配制至合适的浓度。可以使用任何适当的载体或稀释剂进行重新配制。例如,荧光显像剂可以在施用前立即用水性稀释剂重新配制。在各种实施例中,可以使用将荧光显像剂维持在溶液中的任何稀释剂或载体。作为示例,ICG可以用水重新配制。在一些实施例中,一旦荧光显像剂被重新配制,它就可以与附加的稀释剂和载体混合。在一些实施例中,荧光显像剂可以缀合至另一个分子,诸如蛋白质、肽、氨基酸、合成聚合物或糖,例如以增强溶解性、稳定性、成像特性或其组合。可以可选地添加附加的缓冲剂,包括Tris、HCl、NaOH、磷酸盐缓冲液和/或HEPES。
本领域技术人员应当领会,尽管上文详细描述了荧光显像剂,但取决于光学成像模态,可以结合本文中所述的系统、方法和技术使用其他显像剂。这样的荧光剂可以被施用到体液(例如,淋巴液、脊髓液)或身体组织中。
在一些变型中,与本文中所述的方法、系统和套件组合使用的荧光显像剂可以用于血流成像、组织灌注成像、淋巴成像或其组合,所述成像可以在侵入性外科程序、微创外科程序、非侵入性外科程序或其组合之前、期间或之后实行。对受试者的组织进行成像或操作电子滚动快门成像器的方法本身可以排除任何侵入性外科步骤。血流成像、组织灌注成像、淋巴成像或其组合的方法本身可以排除任何侵入性外科步骤。可能涉及血流和组织灌注的侵入性外科程序的示例包括:与心脏相关的外科程序(例如,体外循环或非体外循环的CABG)或重建外科程序。无创或微创程序的示例包括:伤口(例如,慢性伤口,诸如例如压疮)治疗和/或管理。在这方面,例如,伤口随时间推移的改变(诸如伤口尺寸(例如,直径、面积)的改变,或伤口中和/或伤口周围组织灌注的改变)可以是在应用方法和系统的情况下随着时间的推移进行跟踪的。淋巴成像的示例包括:一个或多个淋巴结的标识、淋巴结引流、淋巴标测或其组合。在一些变型中,这样的淋巴成像可能与女性生殖系统(例如,子宫、子宫颈、外阴)相关。
在与心脏应用相关的变型中,可以通过例如中心静脉管线、旁路泵和/或心脏停搏液管线静脉内注射(一种或多种)显像剂(例如,单独的ICG或与另一种显像剂组合)以流动和/或灌注冠状脉管系统、微脉管系统和/或移植物。ICG可以作为稀释的ICG/血液/盐溶液沿移植血管施用,使得冠状动脉中ICG的最终浓度与注射大约2.5 mg(即,2.5 mg/ml的1ml)到中心管线或旁路泵中所得到的浓度近似相同或更低。ICG可以通过将例如25 mg固体溶解在10 ml无菌水性溶剂中来制备,该溶剂可以由制造商随ICG一起提供。一毫升ICG溶液可以与500毫升无菌盐水混合(例如,通过将1 ml的ICG注射到500 ml盐水袋中来混合)。可以将三十毫升稀释的ICG/盐溶液添加到10 ml的受试者血液中,该血液可以以无菌方式从中心动脉管线或旁路泵获得。血液中的ICG与血浆蛋白结合,并且有助于防止渗漏出血管。可以在无菌手术区内使用标准无菌技术实行ICG与血液的混合。可以为每个移植物施用十毫升ICG/盐水/血液混合物。不是通过使用针头穿过移植物的壁进行注射来施用ICG,而是可以借助于附接到移植物(开放)近端的注射器来施用ICG。当移植物被收获时,外科医生例行将适配器附接到移植物的近端,使得它们可以附接充满盐水的注射器,密封移植物的远端并且沿移植物向下注射盐水,对移植物加压,并且因此在实行第一次吻合术之前评估导管的完整性(关于泄漏、侧分支等)。在其他变型中,如本文中结合心脏成像所描述的方法、剂量或其组合可以用于任何血管和/或组织灌注成像应用中。
淋巴标测是通过淋巴系统扩散的癌症(例如,乳腺癌、胃癌、妇科癌症)的有效手术分期的重要部分。从特定的淋巴结盆切除多个淋巴结会导致严重的并发症,包括急性或慢性淋巴水肿、感觉异常和/或血清肿形成,事实上,如果前哨淋巴结转移为阴性,则周围的淋巴结也很可能是阴性的。例如,肿瘤引流淋巴结(LN)的标识已经成为例如在乳腺癌手术中对通过淋巴系统扩散的癌症进行分期的重要步骤。LN标测涉及使用染料和/或放射性示踪剂来标识用于活检或切除的LN,并且随后对转移进行病理学评估。在手术分期时进行淋巴结切除术的目的是标识和移除处于癌症局部扩散高风险中的LN。前哨淋巴结(SLN)标测已经成为治疗乳腺癌的有效手术策略。它通常基于以下概念:如果存在转移(癌症扩散到腋窝LN),则转移应该位于SLN中,其在本领域中被定义为癌细胞最有可能从原发肿瘤扩散到的第一个LN或淋巴结的组。如果SLN转移为阴性,则周围的二级和三级LN也应该是阴性的。SLN标测的主要益处是减少接受传统部分或完全淋巴结切除术的受试者数量,并且因此减少患有相关联的疾状(诸如淋巴水肿和淋巴囊肿)的受试者数量。
SLN标测的当前护理标准涉及注射示踪剂,这标识从原发肿瘤的淋巴引流路径。所使用的示踪剂可以是放射性同位素(例如,锝-99或Tc-99m),用于利用伽马探针进行术中定位。放射性示踪剂技术(被称为闪烁扫描术)仅限于获得放射性同位素的医院,需要核医生参与,并且不提供实时视觉引导。还使用了一种有色染料异硫蓝,然而这种染料无法透过皮肤和脂肪组织看到。此外,蓝色染色会导致乳房纹身持续数月,皮下注射可能会发生皮肤坏死,并且也报告了过敏反应以及罕见过敏反应。注射异硫蓝后发生了严重的过敏反应(近似2%的患者)。表现包括呼吸窘迫、休克、血管性水肿、荨麻疹和瘙痒。具有支气管哮喘病史的受试者、或者对三苯甲烷染料过敏或有药物反应的受试者更有可能发生反应。众所周知,异硫蓝会干扰脉搏血氧饱和度测量氧饱和度和气体分析仪测量高铁血红蛋白。使用异硫蓝可能会导致暂时或长期(纹身)蓝色着色。
相比之下,根据用于在SLN可视化、标测中使用的各种实施例的荧光成像便于术中对LN和/或传入淋巴通道的直接实时视觉标识,便于实时通过皮肤和脂肪组织的高分辨率光学引导、血流的可视化、组织灌注或其组合。
在一些变型中,荧光成像期间淋巴结的可视化、分类或两者可以基于一种或多种显像剂的成像,其可以进一步基于利用伽马探针的可视化和/或分类(例如,锝Tc-99m是一种清澈、无色的水溶液,并且典型地按照标准护理注射到乳晕周围区域)、另一种常规使用的有色显像剂(异硫蓝)和/或其他评估,诸如例如组织学。受试者的乳房可以注射例如两次大约1%异硫蓝(出于比较目的)和注射两次浓度为大约2.5 mg/ml的ICG溶液。异硫蓝的注射可以先于 ICG注射,或反之亦然。例如,使用TB注射器和30 G针头,麻醉下的受试者可以在乳房的乳晕周围区域中注射0.4 ml(每个部位处0.2 ml)异硫蓝。对于右乳房,受试者可以在12点钟定位和9点钟定位注射,而对于左乳房,可以在12点钟定位和3点钟定位注射。皮内注射到每个乳房中的异硫蓝的总剂量可以是大约4.0 mg(0.4 ml的1%溶液:10 mg/ml)。在另一个示例性变型中,受试者可以首先接受ICG注射,接着是异硫蓝(用于比较)。一小瓶25 mg的ICG可以用10 ml注射用无菌水重新配制,以在ICG施用前立即产生2.5 mg/ml的溶液。例如,使用TB注射器和30G针头,受试者可以在乳房的乳晕周围区域注射大约0.1 ml的ICG(每个部位0.05 ml)(对于右侧乳房,注射可以在12点钟定位和9点钟定位实行,并且对于左乳房在12点钟定位和3点钟定位实行)。ICG皮内注射到每个乳房中的总剂量可以是每个乳房大约0.25 mg(0.1 ml的2.5 mg/ml溶液)。例如,可以以每次注射5至10秒的速率注射ICG。当皮内注射ICG时,ICG的蛋白质结合特性使其迅速被淋巴吸收,并且通过传导血管移动到LN。在一些变型中,ICG可以以无菌冻干粉末的形式提供,该粉末含有25mg ICG,其中具有不多于5%的碘化钠。ICG可以用由注射用无菌水组成的水性溶剂包装,该无菌水用于重新配制ICG。在一些变型中,取决于施用途径,乳腺癌前哨淋巴标测中的ICG剂量(mg)范围可以是从大约0.5 mg到大约10 mg。在一些变型中,ICG剂量可以为大约0.6 mg到大约0.75 mg、大约0.75 mg到大约5 mg、大约5 mg到大约10 mg。施用途径可以是例如皮下、皮内(例如,进入乳晕周围区域)、乳晕下、覆盖肿瘤的皮肤、最靠近肿瘤的乳晕中的皮内、皮下进入乳晕、肿瘤上面的皮内、整个乳房上方的乳晕周围,或其组合。注射可以在可视化和/或分类之前。NIR荧光阳性LN(例如,使用ICG)可以被表示为例如(一个或多个)黑白NIR荧光图像和/或全色或部分彩色(白光)图像、全部或部分去饱和白光图像、增强的彩色图像、叠加(例如,荧光与任何其他图像)、合成图像(例如,荧光合并到另一个图像中),其可以具有各种颜色、各种去饱和度或各种颜色范围以突出显示/可视化感兴趣的某些特征。可以进一步实行图像的处理以用于进一步的可视化和/或其他分析(例如,量化)。淋巴结和淋巴管可以使用如下来可视化(例如,在手术中、实时):单独使用根据用于ICG和SLN的各种实施例的荧光成像系统和方法,或者与根据用于乳腺癌患者的SLN活检的美国乳房外科医生协会(ASBrS)实践指南的伽马探针(Tc-99m)组合地使用所述荧光成像系统和方法。LN的荧光成像可以通过跟踪通向腋窝中的LN的淋巴通道从注射部位开始。一旦标识出LN的视觉图像,就可以通过切开的皮肤完成LN的LN标测和标识,可以实行LN标测,直到标识出ICG可视化淋巴结为止。LN标测方法本身可以排除任何手术步骤。为了比较,可以实行利用异硫蓝进行的标测,直到标识出“蓝色”淋巴结为止。单独利用ICG或与另一种成像技术(例如,异硫蓝和/或Tc-99m)组合标识的LN可以被标记以进行切除。受试者可能患有不同分期的乳腺癌(例如,IA、IB、IIA)。
在一些变型中,诸如例如在妇科癌症(例如,子宫癌、子宫内膜癌、外阴癌和宫颈癌)中,可以间质地施用ICG以用于淋巴结、淋巴通道或其组合的可视化。在间质注射时,ICG的蛋白质结合特性使其迅速被淋巴吸收,并且通过传导血管移动到SLN。ICG可以以无菌冻干粉末的形式提供用于注射,该粉末包含25mg的ICG(例如,25 mg/小瓶),其中具有不多于5.0%的碘化钠。然后,ICG可以在使用之前用市售的注射用水(无菌的)重新配制。根据实施例,可以以20 ml注射用水来重新配制包含25 mg ICG的小瓶,从而产生1.25 mg/ml溶液。针对每个受试者5 mg的ICG总剂量,将总共4 ml的这种1.25 mg/ml溶液注射到受试者体内(4x 1 ml注射)。针对40 mg的总剂量,也可以用1%异硫蓝10 mg/ml(用于比较)的1 ml溶液注射子宫颈四(4)次。可以在受试者在手术室中处于麻醉状态时实行注射。在一些变型中,取决于施用途径,妇科癌症前哨淋巴结检测和/或标测中的ICG剂量(mg)范围可以是从大约0.1 mg到大约5 mg。在一些变型中,ICG剂量可以是大约0.1 mg到大约0.75 mg、大约0.75mg到大约1.5 mg、大约1.5 mg到大约2.5 mg、大约2.5 mg到大约5 mg。施用途径可以是例如宫颈注射、外阴瘤周注射、宫腔镜子宫内膜注射或其组合。为了使在切除LN时异硫蓝或ICG的溢出对标测程序的干扰最小化,可以在半骨盆上实行标测,并且可以在切除任何LN之前利用异硫蓝和ICG实行标测。临床I期子宫内膜癌的LN标测可以根据NCCN子宫肿瘤指南、子宫内膜癌手术分期SLN算法实行;并且临床I期宫颈癌的SLN标测可以根据NCCN宫颈肿瘤指南、早期宫颈癌的手术/SLN标测算法来实行。因此,LN的标识可以单独地基于ICG荧光成像,或基于ICG荧光成像与比色染料(异硫蓝)和/或放射性示踪剂的组合或共同施用。
淋巴结的可视化可以是定性和/或定量的。这样的可视化可以包括例如淋巴结检测、检测率、淋巴结的解剖分布。根据各种实施例的淋巴结可视化可以单独使用或与其他变量(例如,生命体征、身高、体重、人口统计学、手术预测因素、相关病史和潜在状况、组织学可视化和/或评估、Tc-99m可视化和/或评估、伴随药物)组合使用。后续访问可以在出院日期和随后的日期(例如,一个月)发生。
淋巴液包括大量蛋白质,因此ICG在进入淋巴系统时可以与内源性蛋白质结合。当根据本文中所述的方法和系统使用时,用于淋巴标测的荧光成像(例如,ICG成像)提供以下示例优势:高信号背景比(或肿瘤背景比),因为NIR不生成显著的自发荧光、淋巴标测的实时可视化特征、组织定义(即,结构可视化)、进入血管系统后快速排泄和消除、以及避免非电离辐射。此外,NIR成像的组织穿透力(近似5至10毫米的组织)优于可见光的组织穿透力(1至3 mm组织)。例如,ICG的使用还便于通过覆盖主动脉旁淋巴结的腹膜进行可视化。尽管可以用NIR光长时间观察组织荧光,但用可见光无法看到,并且因此不会影响LN的病理评估或处理。而且,与淋巴结的蓝色染色(异硫蓝)相比,术中检测荧光更容易。在其他变型中,如本文中与淋巴成像组合描述的方法、剂量或其组合可以被用于任何血管和/或组织灌注成像应用中。
组织灌注涉及每单位组织体积的血液微循环流动,其中氧气和营养物被提供给被灌注的组织的毛细血管床,并且将废物从被灌注的组织的毛细血管床中移除。组织灌注是一种与血管中的血流相关但又与其不同的现象。通过血管的量化血流量可以用定义流量(即,体积/时间)或定义速度(即,距离/时间)的术语来表达。组织血液灌注定义了血液在组织体积内通过微脉管系统(诸如小动脉、毛细血管或小静脉)的移动。量化的组织血液灌注可以用通过组织体积的血流量来表达,即,血液体积/时间/组织体积(或组织质量)。灌注与营养血管(例如,被称为毛细血管的微血管)相关联,所述血管包括与血液和组织之间的代谢物交换相关联的血管,而不是直径较大的非营养血管。在一些实施例中,目标组织的量化可以包括计算或确定与目标组织相关的参数或量,诸如速率、大小体积、时间、距离/时间和/或体积/时间,和/或与任何一个或多个前述参数或量相关的改变的量。然而,与通过较大直径血管的血液移动相比,通过各个毛细血管的血液移动可能非常不稳定,主要是由于血管舒缩,其中,血管张力的自发振荡表现为红细胞移动的脉动。在一些实施例中,本文中结合系统和方法所述的血流和组织灌注成像可以用于对肿瘤组织成像,并且将这样的组织与其他组织区分开来。
出于说明的目的,已经参照具体实施例描述了上述描述。然而,以上说明性讨论并不旨在是穷举的、或将本发明限制为所公开的精确形式。鉴于上述教导,许多修改和变化是可能的。选取和描述实施例是为了最好地解释这些技术的原理及其实际应用。由此使本领域的其他技术人员能够最好地利用具有适合于设想到的特定用途的各种修改的技术和各种实施例。出于清楚和简明描述的目的,在本文中将特征描述为相同或单独实施例的一部分,然而,应当领会,本发明的范围可以包括具有所描述特征中的所有或一些的组合的实施例。
尽管已经参照附图充分描述了本公开和示例,但是要注意,各种变化和修改对于本领域技术人员来说应当变得显而易见。这样的变化和修改要被理解为被包括在由权利要求限定的公开内容和示例的范围内。最后,本申请中提及的专利和出版物的全部公开内容由此通过引用并入本文中。

Claims (76)

1.一种使用电子滚动快门成像器对受试者的组织进行成像的方法,所述方法包括:
从第一行到最后一行按顺序重置滚动快门成像器的像素行;
从第一行到最后一行按顺序读取累积在像素行处的电荷,其中在重置最后一行之后读取第一行;
在比垂直消隐时段持续更长时间的照明时段内利用照明光照射受试者的组织,其中所述垂直消隐时段是从最后一行的重置到第一行的读取的时段;和
根据累积在像素行处的电荷的读数生成图像帧,其中移除或替换累积在像素行处的电荷的至少一个读数以生成图像帧。
2.根据权利要求1所述的方法,其中,照明时段在所述最后一行的重置之前开始。
3.根据权利要求1或权利要求2所述的方法,其中,照明时段在第一行的读取之后结束。
4.根据权利要求1至3中任一项所述的方法,其中,照明时段至少在垂直消隐时段开始时开始。
5.根据权利要求1至4中任一项所述的方法,其中,照明时段至少在垂直消隐时段结束时结束。
6.根据权利要求1至5中任一项所述的方法,其中,至少移除或替换累积在第一像素行处的电荷的读数以生成图像帧。
7.根据权利要求1至6中任一项所述的方法,其中,至少移除或替换在最后一个像素行处累积的电荷的读数以生成图像帧。
8.根据权利要求1至7中任一项所述的方法,其中,用至少一个预定值替换累积在像素行处的电荷的至少一个读数以生成图像帧。
9.根据权利要求1至8中任一项所述的方法,其中,通过裁剪来移除累积在像素行处的电荷的至少一个读数以生成图像帧。
10.根据权利要求1至9中任一项所述的方法,其中,利用可见光照射受试者的组织,并且所述方法进一步包括至少在随后的垂直消隐时段期间利用荧光激发光照射所述受试者的组织,以及基于响应于所述荧光激发光而从所述受试者的组织发射的光来生成荧光图像帧。
11.根据权利要求10所述的方法,进一步包括在生成荧光图像帧之前向受试者施用荧光显像剂。
12.根据权利要求10或权利要求11所述的方法,包括在照明时段期间同时利用荧光激发光和可见照明光来照射受试者的组织。
13.根据权利要求1至12中任一项所述的方法,其中,利用照明光照射受试者的组织包括对照明光进行脉冲调制。
14.根据权利要求13所述的方法,包括基于在前一帧期间积累在像素行处的电荷的读数来控制脉冲照明光的脉冲宽度。
15.根据权利要求1至14中任一项所述的方法,其中照明光由至少一个LED生成。
16.根据权利要求1至15中任一项所述的方法,其中滚动成像器是内窥镜成像器的一部分。
17.根据权利要求1至16中任一项所述的方法,其中滚动快门成像器包括机械快门,并且所述机械快门从照明时段开始之前直到所述照明时段结束之后保持至少部分打开。
18.根据权利要求17所述的方法,进一步包括通过操作机械快门来减少在所述滚动快门成像器处接收的光量。
19.根据权利要求1至18中任一项所述的方法,进一步包括基于在前一帧期间累积在像素行处的电荷的读数来调节滚动快门成像器的增益。
20.一种用于对受试者的组织进行成像的系统,所述系统包括:
照明源;和
一种成像装置,包括电子滚动快门成像器,所述成像装置被配置用于:
从第一行到最后一行按顺序重置滚动快门成像器的像素行,
从第一行到最后一行按顺序读取累积在像素行处的电荷,其中在重置最后一行之后读取第一行,
控制所述照明源以在比垂直消隐时段持续更长时间的照明时段内照射所述受试者的组织,其中所述垂直消隐时段是从最后一行的重置到第一行的读取的时段,以及
根据累积在像素行处的电荷的读数生成图像帧,其中移除或替换累积在像素行处的电荷的至少一个读数以生成图像帧。
21.根据权利要求20所述的系统,其中,所述成像装置包括连接到成像头的相机控制单元,所述成像头包括滚动快门成像器。
22.根据权利要求21所述的系统,其中,所述照明源被配置用于脉宽调制照明,并且所述相机控制单元生成用于控制所述照明源的脉宽调制波形。
23.根据权利要求20至22中任一项所述的系统,其中,所述成像装置被配置为控制所述照明源,使得所述照明时段在最后一行的重置之前开始。
24.根据权利要求20至23中任一项所述的系统,其中,所述成像装置被配置为控制所述照明源,使得所述照明时段在第一行的读取之后结束。
25.根据权利要求20至24中任一项所述的系统,其中,所述成像装置被配置为控制所述照明源,使得所述照明时段至少在所述垂直消隐时段开始时开始。
26.根据权利要求20至25中任一项所述的系统,其中,所述成像装置被配置为控制所述照明源,使得所述照明时段至少在所述垂直消隐时段结束时结束。
27.根据权利要求20至26中任一项所述的系统,其中,所述成像装置被配置为生成所述图像帧,使得至少移除或替换累积在所述第一像素行处的电荷的读数以生成图像帧。
28.根据权利要求20至27中任一项所述的系统,其中,所述成像装置被配置为生成所述图像帧,使得至少移除或替换累积在所述最后一个像素行处的电荷的读数以生成所述图像帧。
29.根据权利要求20至28中任一项所述的系统,其中,所述成像装置被配置为生成所述图像帧,使得累积在像素行处的电荷的所述至少一个读数被至少一个预定值替换以生成所述图像帧。
30.根据权利要求20至29中任一项所述的系统,其中,所述成像装置被配置为生成所述图像帧,使得通过裁剪来移除累积在像素行处的电荷的至少一个读数,以生成所述图像帧。
31.根据权利要求20至30中任一项所述的系统,其中,所述成像装置被配置为控制所述照明源以在所述垂直消隐时段期间利用可见光照射所述受试者的组织,至少在随后的垂直消隐时段期间利用荧光激发光照射所述受试者的组织,并且基于响应于所述荧光激发光而从所述受试者的组织发射的光来生成荧光图像帧。
32.根据权利要求31所述的系统,其中,所述成像装置被配置为控制所述照明源,以在所述照明时段期间同时利用荧光激发光和可见照明光照射所述受试者的组织。
33.根据权利要求20至32中任一项所述的系统,其中,所述照明源被配置用于对所述照明光进行脉冲调制。
34.根据权利要求33所述的系统,其中,所述成像装置被配置为控制所述照明源,用于基于在前一帧期间在累积所述像素行处的电荷的读数来控制所述脉冲照明光的脉冲宽度。
35.根据权利要求20至34中任一项所述的系统,其中,所述照明源包括至少一个LED。
36.根据权利要求20至35中任一项所述的系统,其中,所述成像装置包括内窥镜成像器。
37.根据权利要求20至36中任一项所述的系统,其中所述滚动快门成像器包括机械快门,并且所述成像装置被配置为控制所述机械快门,使得所述机械快门从所述照明时段开始之前直到所述照明时段结束之后保持至少部分打开。
38.根据权利要求37所述的系统,其中,所述成像装置被配置为通过操作所述机械快门来减少在所述滚动快门成像器处接收的光量。
39.根据权利要求20至38中任一项所述的系统,其中,所述成像装置被配置为基于在前一帧期间累积在所述像素行处的电荷的读数来调节所述滚动快门成像器的增益。
40.一种使用电子滚动快门成像器对受试者的组织成像的方法,所述方法包括:
从第一行到最后一行按顺序重置滚动快门成像器的像素行,其中从第一行到最后一行的按顺序重置持续第一时间量;
在照明时段上利用照明光照射受试者的组织,一旦滚动快门成像器的最后一行被重置,所述照明时段就开始并且持续至少第一时间量;
基于在利用照明光照射受试者的组织的同时从受试者的组织接收的光,在至少照明时段上在像素行处累积电荷;
一旦照明时段结束,就从第一行到最后一行按顺序读取累积在像素行处的电荷;和
根据累积在像素行处的电荷的读数生成图像帧。
41.根据权利要求40所述的方法,其中,利用照明光照射受试者的组织包括对所述照明光进行脉冲调制。
42.根据权利要求40或权利要求41所述的方法,进一步包括基于在前一帧期间累积在像素行处的电荷的读数来控制脉冲照明光的脉冲宽度。
43.根据权利要求40至42中任一项所述的方法,其中,每一个像素行在照明时段上累积电荷。
44.根据权利要求40至43中任一项所述的方法,其中,每一个像素行在至少两倍于第一时间量的时间内累积电荷。
45.根据权利要求40至44中任一项所述的方法,其中,照明光由至少一个LED生成。
46.根据权利要求40至45中任一项所述的方法,其中,滚动快门成像器是内窥镜成像器的一部分。
47.根据权利要求40至46中任一项所述的方法,其中滚动快门成像器包括机械快门,并且所述机械快门从所述照明开始之前直到所述照明时段结束之后保持至少部分打开。
48.根据权利要求47所述的方法,进一步包括通过操作所述机械快门来减少在滚动快门成像器处接收的光量。
49.根据权利要求40至48中任一项所述的方法,进一步包括基于在前一帧期间累积在像素行处的电荷的读数来调节滚动快门成像器的增益。
50.一种用于对受试者的组织进行成像的系统,所述系统包括:
照明源;和
一种成像装置,包括电子滚动快门成像器,所述成像装置被配置用于:
从第一行到最后一行按顺序重置滚动快门成像器的像素行,其中从第一行到最后一行的按顺序重置持续第一时间量,
控制所述照明源以在照明时段上利用照明光照射所述受试者的组织,一旦所述滚动快门成像器的最后一行被重置,所述照明时段就开始并且持续至少所述第一时间量,
基于在利用照明光照射受试者的组织的同时从所述受试者的组织接收的光,在至少照明时段内在像素行处累积电荷,
一旦照明时段结束,就从第一行到最后一行按顺序读取累积在像素行处的电荷,并且
根据累积在像素行处的电荷的读数生成图像帧。
51.根据权利要求50所述的系统,其中,所述成像装置包括连接到成像头的相机控制单元,所述成像头包括滚动快门成像器。
52.根据权利要求51所述的系统,其中所述照明源被配置用于脉宽调制照明,并且所述相机控制单元生成用于控制所述照明源的脉宽调制波形。
53.根据权利要求50至52中任一项所述的系统,其中,所述成像装置被配置为控制所述照明源以用于利用脉冲照明光来照射所述受试者的组织。
54.根据权利要求50至53中任一项所述的系统,所述成像装置被配置为控制所述照明源,以用于基于在前一帧期间累积在所述像素行处的电荷的读数来控制所述脉冲照明光的脉冲宽度。
55.根据权利要求50至54中任一项所述的系统,其中,所述成像装置被配置为使得每一个像素行在所述照明时段内累积电荷。
56.根据权利要求50至55中任一项所述的系统,其中,所述成像装置被配置为使得每一个像素行在至少两倍于所述第一时间量的时间内累积电荷。
57.根据权利要求50至56中任一项所述的系统,其中所述照明源包括至少一个LED。
58.根据权利要求50至57中任一项所述的系统,其中,所述成像装置包括内窥镜成像器。
59.根据权利要求50至58中任一项所述的系统,其中所述滚动快门成像器包括机械快门,并且所述成像装置被配置为控制所述机械快门从所述照明开始之前直到所述照明时段结束之后保持至少部分打开。
60.根据权利要求59所述的系统,其中,所述成像装置被配置为通过操作所述机械快门来减少在所述滚动快门成像器处接收的光量。
61.根据权利要求50至60中任一项所述的系统,其中,所述成像装置被配置为基于在前一帧期间累积在所述像素行处的电荷的读数来调节所述滚动快门成像器的增益。
62.一种非暂时性有形计算机可读介质,其上嵌入有计算机可执行程序代码,以执行权利要求1至19中任一项的方法或权利要求40至49中任一项的方法。
63.一种包括计算机可实现指令的计算机程序产品,所述计算机可实现指令在由可编程计算机实现时使计算机执行权利要求1至19中任一项的方法或权利要求40至49中任一项的方法。
64.一种用于处理受试者的组织的图像的时间序列的套件,所述套件包括权利要求20至39中任一项的系统、权利要求50至61中任一项的系统、或权利要求62的非暂时性有形计算机可读介质和显像剂。
65.根据权利要求64所述的套件,其中所述显像剂是荧光显像剂。
66.一种用于在权利要求1至19中任一项的方法或权利要求40至49中任一项的方法、权利要求20至39中任一项的系统或权利要求50至61中任一项的系统、或权利要求64或65的套件中使用的用于对组织进行成像的荧光显像剂。
67.根据权利要求66所述的荧光显像剂,其中,对组织进行成像包括:在血流成像、组织灌注成像、淋巴成像或其组合期间对所述组织进行成像。
68.根据权利要求67所述的荧光显像剂,其中,血流成像、组织灌注成像和/或淋巴成像包括:在侵入性医疗程序、微创医疗程序期间、或在非侵入性医疗程序期间进行的血流成像、组织灌注成像和/或淋巴成像。
69.根据权利要求68所述的荧光显像剂,其中,所述侵入性医疗程序包括:心脏相关医疗程序或重建医疗程序。
70.根据权利要求69所述的荧光显像剂,其中,所述心脏相关医疗程序包括心脏冠状动脉旁路移植术(CABG)程序。
71.根据权利要求70所述的荧光显像剂,其中,所述CABG程序是体外循环或非体外循环的。
72.根据权利要求68所述的荧光显像剂,其中,所述非侵入性医疗程序包括伤口护理程序。
73.根据权利要求67至72中任一项所述的荧光显像剂,其中,所述淋巴成像包括淋巴结的标识、淋巴结引流、淋巴标测或其组合。
74.根据权利要求67至73中任一项所述的荧光显像剂,其中,所述淋巴成像与女性生殖系统相关。
75.权利要求1至19中任一项所述的方法或权利要求40至49中任一项所述的方法、权利要求20至39中任一项所述的系统或权利要求50至61中任一项所述的系统、或者权利要求64或65所述的套件的用于淋巴成像的用途。
76.权利要求1至19中任一项所述的方法或权利要求40至49中任一项所述的方法、权利要求20至39中任一项所述的系统或权利要求50至61中任一项所述的系统、或者权利要求64或65所述的套件的用于血流成像、组织灌注成像或其组合的用途。
CN202080021725.2A 2019-01-17 2020-01-16 使用滚动快门成像器进行医学成像的系统和方法 Pending CN113766869A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201962793790P 2019-01-17 2019-01-17
US62/793790 2019-01-17
PCT/US2020/013912 WO2020150494A1 (en) 2019-01-17 2020-01-16 Systems and methods for medical imaging using a rolling shutter imager

Publications (1)

Publication Number Publication Date
CN113766869A true CN113766869A (zh) 2021-12-07

Family

ID=69650721

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080021725.2A Pending CN113766869A (zh) 2019-01-17 2020-01-16 使用滚动快门成像器进行医学成像的系统和方法

Country Status (5)

Country Link
US (3) US11638517B2 (zh)
EP (1) EP3911221A1 (zh)
JP (1) JP2022517128A (zh)
CN (1) CN113766869A (zh)
WO (1) WO2020150494A1 (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10979646B2 (en) * 2019-06-20 2021-04-13 Ethicon Llc Fluorescence imaging with minimal area monolithic image sensor
US10841504B1 (en) 2019-06-20 2020-11-17 Ethicon Llc Fluorescence imaging with minimal area monolithic image sensor
US11432706B2 (en) 2019-06-20 2022-09-06 Cilag Gmbh International Hyperspectral imaging with minimal area monolithic image sensor
US10952619B2 (en) 2019-06-20 2021-03-23 Ethicon Llc Hyperspectral and fluorescence imaging and topology laser mapping with minimal area monolithic image sensor
US11633089B2 (en) 2019-06-20 2023-04-25 Cilag Gmbh International Fluorescence imaging with minimal area monolithic image sensor
US11872355B2 (en) * 2020-09-04 2024-01-16 Covidien Lp Medical device for detecting fluid parameters using fluorescent probes
US11445123B2 (en) 2020-09-28 2022-09-13 Brompton Technology Ltd. System and method for PWM control of a video display screen
WO2022173517A1 (en) * 2021-02-09 2022-08-18 Verily Life Sciences Llc Pulsed light imaging using rolling shutter image sensors
US11882366B2 (en) 2021-02-26 2024-01-23 Hill-Rom Services, Inc. Patient monitoring system

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3289957A (en) 1963-06-14 1966-12-06 Reiners Walter Method and apparatus for controlling a yarn-winding machine having an automatic knotting device
US6293911B1 (en) 1996-11-20 2001-09-25 Olympus Optical Co., Ltd. Fluorescent endoscope system enabling simultaneous normal light observation and fluorescence observation in infrared spectrum
US7179222B2 (en) 1996-11-20 2007-02-20 Olympus Corporation Fluorescent endoscope system enabling simultaneous achievement of normal light observation based on reflected light and fluorescence observation based on light with wavelengths in infrared spectrum
JP4388318B2 (ja) 2003-06-27 2009-12-24 オリンパス株式会社 画像処理装置
US7059726B2 (en) 2004-07-02 2006-06-13 Infocus Corporation Projection apparatus with light source to output light into an integrating tunnel through a first and a second medium
US7397509B2 (en) * 2004-08-27 2008-07-08 Micron Technology, Inc. High dynamic range imager with a rolling shutter
US9131861B2 (en) 2004-11-30 2015-09-15 Academisch Medisch Centrum Pulsed lighting imaging systems and methods
US7427736B2 (en) * 2006-03-23 2008-09-23 Micron Technology, Inc. Method and apparatus for providing a rolling double reset timing for global storage in image sensors
US9531156B2 (en) 2008-06-18 2016-12-27 Versatile Power, Inc. Endoscopic light source
EP2365773B1 (en) 2008-11-18 2019-06-12 Stryker Corporation Endoscopic led light source having a feedback control system
US10492671B2 (en) * 2009-05-08 2019-12-03 Novadaq Technologies ULC Near infra red fluorescence imaging for visualization of blood vessels during endoscopic harvest
JP5481294B2 (ja) 2010-07-15 2014-04-23 富士フイルム株式会社 内視鏡システム
JP5544231B2 (ja) 2010-07-15 2014-07-09 富士フイルム株式会社 内視鏡光源装置及び内視鏡システム
US8405748B2 (en) * 2010-07-16 2013-03-26 Omnivision Technologies, Inc. CMOS image sensor with improved photodiode area allocation
US9119544B2 (en) * 2012-09-19 2015-09-01 Omnivision Technologies, Inc. Acquiring global shutter-type video images with CMOS pixel array by strobing light during vertical blanking period in otherwise dark environment
US9332193B2 (en) * 2011-11-14 2016-05-03 Omnivision Technologies, Inc. Synchronization of image acquisition in multiple image sensors with a synchronization clock signal
CN104115211B (zh) * 2012-02-14 2017-09-22 金泰克斯公司 高动态范围成像系统
JP5452785B1 (ja) 2012-05-25 2014-03-26 オリンパスメディカルシステムズ株式会社 撮像システム
IN2015MN00018A (zh) * 2012-07-26 2015-10-16 Olive Medical Corp
US9307600B2 (en) 2012-11-20 2016-04-05 RedBeard Ventures LLC Synchronized light source for rolling shutter imagers
US9060404B2 (en) 2012-11-20 2015-06-16 RedBeard Ventures LLC Synchronized light source for rolling shutter imagers
WO2014127376A2 (en) * 2013-02-15 2014-08-21 Sionyx, Inc. High dynamic range cmos image sensor having anti-blooming properties and associated methods
JP6092792B2 (ja) * 2014-01-20 2017-03-08 富士フイルム株式会社 内視鏡システム用プロセッサ装置、内視鏡システム、内視鏡システム用プロセッサ装置の作動方法、内視鏡システムの作動方法
JP5977772B2 (ja) * 2014-02-06 2016-08-24 富士フイルム株式会社 内視鏡システム、内視鏡システムのプロセッサ装置、内視鏡システムの作動方法、プロセッサ装置の作動方法
JP5992936B2 (ja) * 2014-02-27 2016-09-14 富士フイルム株式会社 内視鏡システム、内視鏡システム用プロセッサ装置、内視鏡システムの作動方法、内視鏡システム用プロセッサ装置の作動方法
JP6151850B2 (ja) * 2014-03-28 2017-06-21 富士フイルム株式会社 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡システムの作動方法
US20170035280A1 (en) * 2015-08-07 2017-02-09 Reinroth Gmbh Stereoscopic endoscope system with concurrent imaging at visible and infrared wavelengths
JP6654117B2 (ja) 2016-08-31 2020-02-26 富士フイルム株式会社 内視鏡システム及び内視鏡システムの作動方法
JP7176855B2 (ja) * 2018-04-23 2022-11-22 株式会社エビデント 内視鏡装置、内視鏡装置の作動方法、プログラム、および記録媒体
US11347189B1 (en) * 2018-09-18 2022-05-31 Apple Inc. Watch having a camera

Also Published As

Publication number Publication date
JP2022517128A (ja) 2022-03-04
WO2020150494A1 (en) 2020-07-23
EP3911221A1 (en) 2021-11-24
US20200234439A1 (en) 2020-07-23
US20230320577A1 (en) 2023-10-12
US11638517B2 (en) 2023-05-02
US20230270324A1 (en) 2023-08-31

Similar Documents

Publication Publication Date Title
US11638517B2 (en) Systems and methods for medical imaging using a rolling shutter imager
US11756674B2 (en) Methods and systems for adaptive imaging for low light signal enhancement in medical visualization
US11701016B2 (en) Facilitating assessment of blood flow and tissue perfusion using fluorescence-mediated photoplethysmography
JP6487544B2 (ja) 蛍光媒介光電式容積脈波記録法を用いた組織中の絶対血流の定量化
US20100194871A1 (en) Fluorescence endoscope system and fluorescence imaging method
US11694335B2 (en) Systems and methods for displaying medical imaging data
US20230081866A1 (en) Methods and systems for generating simulated intraoperative imaging data of a subject
US20220211258A1 (en) Contrast enhancement for medical imaging
CN113645889A (zh) 用于将医学成像设备连接到医学成像控制器的系统和方法
WO2021024314A1 (ja) 治療支援装置および治療支援方法
US20230165658A1 (en) Systems and methods for connecting a medical imaging device to a medical imaging controller
RU203175U1 (ru) Видеофлуоресцентное устройство для анализа внутритканевого распределения фотосенсибилизаторов дальнего красного и ближнего инфракрасного диапазонов злокачественных новообразований головы и шеи
US20220087518A1 (en) Systems and methods for fluorescence visualization
JP6659784B2 (ja) 蛍光媒介光電式容積脈波記録法を用いた組織中の絶対血流の定量化
JP2020099705A (ja) 蛍光媒介光電式容積脈波記録法を用いた組織中の絶対血流の定量化

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination