CN114144659A - 控制超光谱、荧光和激光标测成像系统中的激光脉冲的积分能量 - Google Patents
控制超光谱、荧光和激光标测成像系统中的激光脉冲的积分能量 Download PDFInfo
- Publication number
- CN114144659A CN114144659A CN202080045221.4A CN202080045221A CN114144659A CN 114144659 A CN114144659 A CN 114144659A CN 202080045221 A CN202080045221 A CN 202080045221A CN 114144659 A CN114144659 A CN 114144659A
- Authority
- CN
- China
- Prior art keywords
- electromagnetic radiation
- laser
- emitter
- wavelength
- light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00006—Operational features of endoscopes characterised by electronic signal processing of control signals
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
- A61B1/0005—Display arrangement combining images e.g. side-by-side, superimposed or tiled
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00057—Operational features of endoscopes provided with means for testing or calibration
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/043—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0638—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0646—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with illumination filters
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0655—Control therefor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/07—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements using light-conductive means, e.g. optical fibres
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/307—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the urinary organs, e.g. urethroscopes, cystoscopes
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/645—Specially adapted constructive features of fluorimeters
- G01N21/6456—Spatial resolved fluorescence measurements; Imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/296—Synchronisation thereof; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/11—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/125—Colour sequential image capture, e.g. using a colour wheel
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/555—Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/72—Combination of two or more compensation controls
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/74—Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/131—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing infrared wavelengths
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
- H04N25/58—Control of the dynamic range involving two or more exposures
- H04N25/581—Control of the dynamic range involving two or more exposures acquired simultaneously
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
- H04N25/58—Control of the dynamic range involving two or more exposures
- H04N25/581—Control of the dynamic range involving two or more exposures acquired simultaneously
- H04N25/585—Control of the dynamic range involving two or more exposures acquired simultaneously with pixels having different sensitivities within the sensor, e.g. fast or slow pixels or pixels having different sizes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/63—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/63—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
- H04N25/633—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current by using optical black pixels
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/67—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/702—SSIS architectures characterised by non-identical, non-equidistant or non-planar pixel layout
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/79—Arrangements of circuitry being divided between different or multiple substrates, chips or circuit boards, e.g. stacked image sensors
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10064—Fluorescence image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/042—Picture signal generators using solid-state devices having a single pick-up sensor
- H04N2209/047—Picture signal generators using solid-state devices having a single pick-up sensor using multispectral pick-up elements
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Physics & Mathematics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- General Health & Medical Sciences (AREA)
- Optics & Photonics (AREA)
- Medical Informatics (AREA)
- Pathology (AREA)
- Radiology & Medical Imaging (AREA)
- Signal Processing (AREA)
- Heart & Thoracic Surgery (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Multimedia (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Biochemistry (AREA)
- Quality & Reliability (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Immunology (AREA)
- Computer Networks & Wireless Communication (AREA)
- Electromagnetism (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Urology & Nephrology (AREA)
- Endoscopes (AREA)
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
Abstract
本发明公开了控制超光谱、荧光和激光标测成像系统中的光脉冲的积分能量。本发明公开了一种系统,该系统包括用于发射电磁辐射脉冲的发射器和包括用于感测所反射的电磁辐射的像素阵列的图像传感器。该系统包括用于感测由发射器发射的能量的电磁传感器。该系统包括控制器,该控制器被配置为同步发射器和图像传感器的定时。该系统使得由该发射器发射的该电磁辐射脉冲的至少一部分包括超光谱发射、荧光发射或激光标测图案中的一者或多者。
Description
技术领域
本公开涉及数字成像,并且具体地涉及缺光环境中的超光谱成像、荧光成像和/或激光标测成像。
背景技术
科技的进步已提供了医用成像能力的进步。内窥镜可用于观察身体内部并检查身体的器官或腔体的内部。内窥镜用于调查患者的症状、确认诊断或提供医学治疗。医学内窥镜可用于观察多种身体系统和部分,诸如胃肠道、呼吸道、尿道、腹腔等。内窥镜还可用于外科规程,诸如整形外科规程、在关节或骨上进行的规程、在神经系统上进行的规程、在腹腔内进行的规程,等等。
在内窥镜成像的一些情况下,以彩色方式查看空间可能是有益的或必要的。数字彩色图像包括累积形成具有一定范围的色调的图像的至少三个层或“颜色通道”。颜色通道中的每个测量光谱带的光的强度和色度。通常,数字彩色图像包括红色、绿色和蓝色光谱带的颜色通道(这可称为红绿蓝或RGB图像)。红色、绿色和蓝色颜色通道中的每个包括红色、绿色或蓝色光谱带的亮度信息。将单独的红色、绿色和蓝色层的亮度信息组合以产生彩色图像。因为彩色图像由单独的层构成,所以常规的数字相机图像传感器包括颜色滤光器阵列,该颜色滤光器阵列允许红色、绿色和蓝色可见光波长击中所选择的像素传感器。每个单独的像素传感器元件对红色、绿色或蓝色波长敏感,并且将仅返回该波长的图像数据。将来自像素传感器的总阵列的图像数据组合以生成RGB图像。至少三种不同类型的像素传感器占据大量的物理空间,使得完整的像素阵列无法适配在内窥镜的小远侧端部中。
因为传统的图像传感器无法适配在内窥镜的远侧端部中,所以图像传感器传统上位于内窥镜的手持件单元中,该手持件单元由内窥镜操作者保持并且不放置在体腔内。在此类内窥镜中,光沿着内窥镜的长度从手持件单元传输到内窥镜的远侧端部。该配置具有显著限制。具有该配置的内窥镜是精密的,并且当其在常规使用期间发生碰撞或冲击时可容易地不对准或损坏。这可显著降低图像的质量,并且内窥镜需要频繁修理或更换。
具有放置在手持件单元中的图像传感器的传统内窥镜进一步限于仅捕获彩色图像。然而,在一些具体实施中,除了彩色图像数据之外,还可能期望利用荧光数据、超光谱数据和/或激光标测数据来捕获图像。荧光成像捕获已吸收电磁辐射并在其发射弛豫波长时“发光”的物质发射的光。超光谱成像可用于通过发射不同的电磁辐射分区并评估材料的光谱响应来识别不同的材料、生物过程和化学过程。激光标测成像可捕获对象和全景的表面形状并测量场景内对象之间的距离。激光标测成像可进一步涵盖工具跟踪,其中场景内的工具的距离和/或尺寸可相对于彼此、相对于成像装置和/或相对于场景内的结构来进行跟踪。在一些具体实施中,可能有利的是结合观察场景使用荧光成像、超光谱成像和/或激光标测成像中的一者或多者。
然而,本领域已知的荧光技术、超光谱技术和激光标测技术的应用通常需要高度专业化的设备,该设备对于多个应用可能是不可用的。此外,此类技术提供了有限的环境视图,并且通常必须与多个单独系统和多个单独图像传感器结合使用,该多个单独系统和该多个单独图像传感器被制成对特定电磁辐射频带敏感。因此,期望开发一种成像系统,该成像系统可用于空间受限的环境中以生成荧光成像数据、超光谱成像数据和/或激光标测成像数据。
鉴于上述情况,本文描述了用于在缺光环境中进行荧光成像、超光谱成像和激光标测成像的系统、方法和装置。此类系统、方法和装置可提供多个数据集,用于识别身体内的关键结构并提供关于体腔的精确且有价值的信息。
附图说明
参考以下附图描述了本公开的非限制性和非完全性的具体实施,其中除非另外指明,否则在各个视图中类似的附图标号指示类似的部分。参照以下说明和附图将更好地理解本公开的优点,其中:
图1是具有成对的发射器和像素阵列的用于在缺光环境中进行数字成像的系统的示意图;
图2为用于向缺光环境提供照明以用于内窥镜成像的系统;
图2A为互补系统硬件的示意图;
图3A至图3D为用于构建曝光帧的传感器的操作循环的图示;
图4A为电磁发射器的实施方案的操作的图示;
图4B为改变所发射电磁脉冲的持续时间和量值以提供曝光控制的图示;
图5为将图3A至图4B的传感器的操作循环、电磁发射器和所发射电磁脉冲组合的本公开的实施方案的图示,其示出了操作期间的成像系统;
图6A为用于在t(0)至t(1)的时间段内记录具有全光谱光的视频的方法的示意图;
图6B为用于通过在t(0)至t(1)的时间段内脉冲分段的光谱光来记录视频的过程的示意图;
图7A至图7E示出了在一定的时间间隔内用于记录全光谱光和分区光谱光两者的视频帧的方法的示意图;
图8示出了与脉冲成像系统结合使用的照明系统,其中该照明系统包括用于测量由激光器模块发射的能量的光电二极管;
图9示出了包括与运算放大器通信以用于测量由激光单元发射的能量的电磁传感器的激光器束;
图10示出了包括多个激光器束的发射器的实施方案,每个激光器束包括用于测量由激光单元发射的能量的电磁传感器;
图11示出了包括内窥镜装置的数字成像系统的实施方案;
图12为用于通过脉冲光的分区光谱来生成其上叠加有特殊数据(诸如超光谱、荧光和/或激光标测数据)的RGB图像的图案重建过程的示意图;
图13A至图13C示出了具有多个发射器的光源;
图14示出了在输出处经由漫射器输出以照明缺光环境中的场景的单根光纤;
图15示出了根据本公开的原理和教导内容的被分成可由光源的发射器发射的多个不同子光谱的电磁光谱的一部分;
图16是示出了用于生成图像帧的发射和读出的时序的示意图,该图像帧包括由脉冲光的不同分区产生的多个曝光帧;
图17示出了包括用于过滤多个波长的电磁辐射的单个截止滤光器的成像系统;
图18示出了包括用于过滤多个波长的电磁辐射的多个截止滤光器的成像系统;
图19示出了可由成像系统脉冲的示例性激光标测图案;
图20A和图20B示出了根据本公开的原理和教导内容的具有用于产生三维图像的多个像素阵列的具体实施;
图21A和21B分别示出了构建在多个基板上的成像传感器的具体实施的透视图和侧视图,其中形成像素阵列的多个像素列位于第一基板上,并且多个电路列位于第二基板上,图中显示了一列像素与其相关的或对应的电路列之间的电气连接和通信;并且
图22A和图22B分别示出了具有用于产生三维图像的多个像素阵列的成像传感器的具体实施的透视图和侧视图,其中多个像素阵列和图像传感器构建在多个基板上。
具体实施方式
本文公开了可主要适用于医学应用诸如医学内窥镜成像的用于数字成像的系统、方法和装置。本公开的一个实施方案是用于在缺光环境中进行超光谱、荧光、激光标测和彩色成像的内窥镜系统。本文所公开的此类方法、系统和基于计算机的产品提供用于医学机器人应用,诸如用于执行成像规程、外科规程等的机器人的使用的成像或诊断能力。
本公开的一个实施方案是一种成像系统,该成像系统具有用于在缺光环境中提供脉冲照明的光源。在该实施方案中,由光源发射的总能量被控制并且保持到指定的公差。光源可与相机控制单元(CCU)通信,使得CCU控制光源的功率电平、启用/禁用、持续时间和功率电平。光源可包括数字光源,诸如激光器和发光二极管,并且还可包括模拟光源。
在一个实施方案中,在成像系统的操作期间,实现PID(比例、积分和导数)控制算法以确保所捕获的场景保持期望的视频曝光水平,从而最大化图像传感器的动态范围或实现最终用户所期望的期望场景响应。PID控制算法在本文中通常可称为自动快门控制(ASC)。在一些实施方案中,基于计算的误差测量值按比例调节每个光脉冲,并且通过将期望的曝光水平与测量的曝光水平进行比较来计算误差测量值。可使用图像传感器中的所有像素或像素的一些部分的平均像素值来计算所测量的曝光水平。ASC可对光脉冲进行调节以改变光源的持续时间和/或强度。这确保了在某个指定的时间内获得期望的设定值。成像系统可在内窥镜式装置中实现,其中图像传感器设置在内窥镜的远侧末端的空间高度受限的区域中。
常规内窥镜被设计成使得图像传感器被放置在手持件单元内的装置的近侧端部处。该配置要求入射光通过精确耦合的光学元件行进内窥镜的长度。精确的光学元件在正常使用期间可容易地不对准,并且这可导致图像失真或图像丢失。本公开的实施方案将图像传感器放置在内窥镜本身的远侧端部中的空间高度受限的环境内。当与本领域中已知的具体实施相比时,这提供了更大的光学简单性。然而,该方法的可接受的解决方案并不简单,而是带来了一系列工程挑战。
当最小化图像传感器的总体尺寸使得图像传感器可适配在内窥镜的远侧末端内时,可存在显著的图像质量损失。可通过减少像素数量和/或每个单独像素的感测区域来减小图像传感器的像素阵列的面积。这些修改中的每一种修改都影响所得图像的分辨率、灵敏度和动态范围。传统的内窥镜成像系统旨在借助于分段像素阵列(诸如拜耳图案阵列)来感测稳定的宽带照明并且提供颜色信息。根据与分段像素阵列相关联的缺陷,本文公开了使用不包括单独的像素滤光器的单色(可称为“颜色不定的”)像素阵列的另选系统和方法。在本文所公开的实施方案中,通过用不同波长的电磁辐射对发射器进行脉冲来提供颜色信息。本文所公开的脉冲成像系统可生成其上叠加有超光谱、荧光和/或激光标测数据的彩色图像。
在一个实施方案中,通过响应于不同波长的电磁辐射脉冲捕获独立的曝光帧来确定颜色信息。另选脉冲可包括红色、绿色和蓝色波长,用于生成由红色曝光帧、绿色曝光帧和蓝色曝光帧组成的RGB图像帧。在另选的具体实施中,另选脉冲可包括用于生成由亮度数据、红色色度数据和蓝色色度数据组成的YCbCr图像帧的光的亮度(“Y”)、红色色度(“Cr”)和蓝色色度(“Cb”)脉冲。彩色图像帧还可包括来自叠加在RGB或YCbCr图像帧上的超光谱曝光帧、荧光曝光帧和/或激光标测曝光帧的数据。超光谱脉冲可以是电磁辐射的发射,其激发来自对象的光谱响应。超光谱曝光帧可包括发射光谱响应的对象的位置的指示。荧光脉冲可以是用于使试剂发荧光的荧光激发波长的电磁辐射。荧光曝光帧可包括场景内的荧光试剂的指示。激光标测脉冲可包括用于测量场景内的距离或尺寸、跟踪场景中的工具的存在和位置、生成场景的三维形貌图等的一个或多个脉冲。使脉冲电磁辐射的波长交替允许利用全像素阵列并且避免拜耳图案像素阵列引入的伪影。
在一些情况下,希望生成具有多种数据类型或彼此重叠的多个图像的内窥镜成像。例如,可能期望生成还包括叠加在彩色图像上的超光谱、荧光和/或激光标测成像数据的彩色(RGB或YCbCr)图像。这种性质的叠加图像可使得医疗从业者或计算机程序能够识别关键身体结构的高度准确的尺寸和三维形貌,并且基于激光标测数据来进一步识别在缺光环境内的工具与其他结构之间的距离。历史上,这将需要使用多个传感器系统,该多个传感器系统包括用于彩色成像的图像传感器和用于超光谱、荧光、或激光标测成像的一个或多个附加的图像传感器。在此类系统中,多个图像传感器将具有多种类型的像素传感器,这些像素传感器各自对不同范围的电磁辐射敏感。在本领域已知的系统中,这包括用于生成彩色图像的三种单独类型的像素传感器,以及用于生成超光谱、荧光和激光标测数据的附加传感器和系统。这些多个不同的传感器消耗过大的物理空间,并且不能位于内窥镜的远侧末端处。在本领域已知的系统中,一个或多个相机不放置在内窥镜的远侧末端处,而是放置在内窥镜手持件或机器人单元中。这造成了许多缺点并且导致内窥镜非常精密。当内窥镜在使用期间发生碰撞或冲击时,精密的内窥镜可能被损坏并且图像质量可能降低。考虑到前述内容,本文所公开的是用于在缺光环境中进行内窥镜成像的系统、方法和装置。本文所公开的系统、方法和装置提供了用于在单个成像过程中采用多种成像技术同时允许一个或多个图像传感器设置在内窥镜的远侧末端中的装置。
本文所讨论的荧光成像技术可与一种或多种荧光试剂或染料组合使用。试剂的位置可通过发射引起试剂发荧光的电磁辐射激发波长来识别。由试剂发射的弛豫波长可由图像传感器读取以识别场景内试剂的位置。根据所用试剂的类型,试剂的位置还可指示关键结构(诸如某些类型的组织、癌细胞与非癌细胞等)的位置。
本文所讨论的超光谱成像技术可用于“透视”场景前景中的组织层,以识别特定类型的组织和/或特定的生物过程或化学过程。可在医学环境中使用超光谱成像来定量地跟踪疾病的过程并确定组织病理。另外,可使用超光谱成像来识别关键结构,诸如神经组织、肌肉组织、癌细胞等。在一个实施方案中,电磁辐射的分区被脉冲,并且响应于电磁辐射的分区而收集关于不同类型的组织的光谱响应的数据。可生成和分析光谱响应的数据库以评估场景并且基于所感测的光谱响应来预测场景内存在哪些组织。
可评估本文所讨论的激光标测成像技术以生成场景的三维全景图并计算场景内对象之间的距离。激光标测数据可与荧光成像和/或超光谱成像结合使用,以计算关键结构的精确位置和尺寸。例如,可利用荧光和/或超光谱成像来识别关键结构的位置和边界。然后可基于激光标测数据来计算关键结构的位置、关键结构的尺寸以及从关键结构到其他对象的距离的精确测量。
超光谱成像
在一个实施方案中,本文所公开的系统、方法和装置提供了用于在缺光环境中生成超光谱成像数据的装置。光谱成像使用跨电磁光谱的多个频带。这不同于仅捕获跨越基于人眼可分辨的可见光谱的三个波长(包括红色、绿色和蓝色波长)的光以生成RGB图像的常规相机。光谱成像可使用电磁光谱中的任何波长带,包括红外波长、可见光谱、紫外光谱、X射线波长或各种波长带的任何合适的组合。
超光谱成像最初开发用于采矿和地质中的应用。不同于向人眼提供有限信息的正常相机图像,超光谱成像可基于不同矿物质的光谱特征来识别特定矿物质。高光谱成像即便在捕获于航拍图像中时也很有用,并且可提供关于例如来自管道或天然井的油或气泄漏以及它们对附近植被的影响的信息。基于可通过超光谱成像识别的某些材料、对象或过程的光谱特征来收集该信息。
超光谱成像包括光谱和数字摄影。在超光谱成像的一个实施方案中,在图像平面中的每个像素处收集完整光谱或一些光谱信息。超光谱成像的目标可针对不同的应用而变化。在一个应用中,超光谱成像的目标是获得图像场景中每个像素的整个电磁光谱。这可使得能够找到原本在可见光波长带下可能不可识别的某些对象。这可使得能够精确地识别某些物质或组织,虽然这些物质或组织在可见光波长带下可能不可识别。此外,这可使得能够通过跨电磁光谱的所有波长捕获图像来检测某些过程。
在本公开的一个实施方案中,内窥镜系统照明源并脉冲用于光谱或超光谱成像的电磁辐射。光谱成像使用跨电磁光谱的多个频带。这不同于仅捕获跨越基于人眼可分辨的可见光谱的三个波长(包括红色、绿色和蓝色波长)的光以生成RGB图像的常规相机。光谱成像可使用电磁光谱中的任何波长带,包括红外波长、可见光谱、紫外光谱、X射线波长或各种波长带的任何合适的组合。光谱成像可将基于不可见频带(例如红外)生成的成像叠层在基于可见频带(例如标准RGB图像)的成像顶部,以提供可易于由人或计算机算法分辨的附加信息。
与常规成像相比,超光谱成像具有许多优势。通过超光谱成像获得的信息使得执业医生和/或计算机实现的程序能够精确地识别利用RGB成像可能无法识别的某些组织或病症。另外,在医学规程期间可使用超光谱成像来提供图像引导的外科手术,使得执业医生能够例如查看位于某些组织或流体后面的组织,识别与典型健康细胞形成对比的非典型癌细胞,识别某些组织或病症,识别关键结构等。超光谱成像提供不能用常规成像生成的关于组织生理、形态和组成的专用诊断信息。
在医学应用中,超光谱成像可提供优于常规成像的特定优点。通过超光谱成像获得的信息可使得执业医生和/或计算机实现的程序能够精确地识别可能导致在使用常规成像诸如RGB成像的情况下可能不可诊断或可能诊断不太准确的某些组织或病症。另外,在医学规程期间可使用超光谱成像来提供图像引导的外科手术,可使得执业医生能够例如查看位于某些组织或流体后面的组织,识别与典型健康细胞形成对比的非典型癌细胞,识别某些组织或病症,识别关键结构等。超光谱成像可提供不能用常规成像生成的关于组织生理、形态和组成的专用诊断信息。
在本公开的各种应用和具体实施中,内窥镜超光谱成像可呈现优于常规成像的优点。在医学具体实施中,内窥镜超光谱成像可允许执业医生或计算机实现的程序分辨例如神经组织、肌肉组织、各种血管、血流方向等。超光谱成像可使得非典型癌组织能够与典型健康组织精确区分,并且因此可使得执业医生或计算机实施的程序能够在手术或研究成像期间分辨癌性肿瘤的边界。另外,如本文所公开的缺光环境中的超光谱成像可与试剂或染料的使用相结合,以允许进一步区分某些组织或物质。在此类实施方案中,试剂或染料可以电磁光谱中的特定波长带发荧光,从而提供特定于该试剂或染料的目的的信息。本文公开的系统、方法和装置可使得任何数量的波长带能够被脉冲,使得一种或多种试剂或染料可在不同时间发荧光,并且进一步使得电磁辐射的一个或多个分区可被脉冲以用于相同成像过程中的超光谱成像。在某些具体实施中,这使得能够在单个成像规程期间识别或研究多种医学病症。
荧光成像
本文所公开的系统、方法和装置提供了用于在缺光环境中生成荧光成像数据的装置。该荧光成像数据可用于识别体腔或其他缺光环境内的某些物质、组织、组分或过程。在某些实施方案中,荧光成像被提供给执业医生或计算机实施的程序以使得能够对体内的某些结构或组织进行识别。此类荧光成像数据可叠层在黑白或RGB图像上以提供附加信息和上下文。
荧光是已吸收光或其它电磁辐射的物质发射的光。当荧光物质经受紫外光或其它波长的电磁辐射时,某些荧光物质可“发光”或发出人眼可见的不同颜色。当辐射源停止时,某些荧光材料将几乎立即停止发光。
当分子、原子或纳米结构的轨道电子被光或其它电磁辐射激发,然后通过从激发态发射光子而弛豫至其基态时,出现荧光。激发轨道电子或在弛豫期间由光子发射的电磁辐射的具体频率取决于具体的原子、分子或纳米结构。在大多数情况下,由该物质发射的光具有比被该物质吸收的辐射更长的波长,并因此具有更低的能量。然而,当所吸收的电磁辐射强烈时,一个电子可以吸收两个光子。这种双光子吸收可导致具有比所吸收的辐射更短的波长并因此具有更高的能量的辐射的发射。另外,所发射的辐射也可具有与所吸收的辐射相同的波长。
荧光成像具有许多实际应用,包括矿物学、地质学、医学、化学传感器的光谱学、检测生物过程或信号等。荧光尤其可用于生物化学和医学中作为用于跟踪或分析生物分子的非破坏性手段。生物分子,包括某些组织或结构,可通过分析生物分子在被某些波长的电磁辐射激发后的荧光发射来跟踪。然而,相对较少的细胞组分是天然荧光的。在某些具体实施中,可视化本质上不发荧光的某些组织、结构、化学过程或生物过程可能是有利的。在此类具体实施中,可向身体施用染料或试剂,该染料或试剂可包括具有荧光特性的分子、蛋白质或量子点。然后,试剂或染料可在被某些波长的电磁辐射激发之后发荧光。不同的试剂或染料可包括将在特定波长的电磁辐射下发荧光的不同的分子、蛋白质和/或量子点。因此,可能需要用特定频带的电磁辐射激发试剂或染料以实现荧光并在体内识别期望的组织、结构或过程。
荧光成像可在医学领域中提供可用于诊断目的和/或可在医学规程期间实时可视化的有价值的信息。可向身体施用特定试剂或染料以使某些组织、结构、化学过程或生物过程发荧光。试剂或染料的荧光可突出显示身体结构,诸如血管、神经、特定器官等。另外,试剂或染料的荧光可突出显示病症或疾病,诸如癌细胞或经历可能与病症或疾病相关联的某些生物或化学过程的细胞。荧光成像可由执业医生或计算机程序实时使用,以用于在外科肿瘤提取期间区分例如癌细胞和非癌细胞。荧光成像还可用作非破坏性手段,以用于随时间推移跟踪和可视化体内原本人眼不可见或在RGB图像中不可辨别的病症。
用于生成荧光成像数据的系统、方法和装置可与试剂或染料配合使用。已知一些试剂或染料附着到某些类型的组织并且在特定波长的电磁波谱下发荧光。在一个具体实施中,将试剂或染料施用于经过配置在被某些波长的光激活时发荧光的患者。本文所公开的内窥镜成像系统用于激发试剂或染料并且使其发荧光。通过内窥镜成像系统捕获试剂或染料的荧光,以帮助识别体腔中的组织或结构。在一个具体实施中,向患者施用多种试剂或染料,该多种试剂或染料各自被配置为发出不同波长的荧光以及/或者提供不同的结构、组织、化学反应、生物过程等的指示。在此类具体实施中,内窥镜成像系统发射适用波长中的每个适用波长,以使适用试剂或染料中的每种发荧光。这可消除针对多种试剂或染料中的每种执行各个成像规程的需要。
成像试剂可增强制药、医学、生物技术、诊断和医学规程行业中的成像能力。许多成像技术诸如X射线、计算机断层摄影术(CT)、超声、磁共振成像(MRI)和核医学主要分析解剖结构和形态,而不能检测到分子水平的变化。荧光试剂、染料和探头(包括量子点纳米粒子和荧光蛋白)通过提供关于成像区域内存在的某些组织、结构、化学过程和/或生物过程的附加信息来辅助医学成像技术。使用荧光试剂成像实现细胞跟踪和/或某些分子生物标志物的跟踪。荧光试剂可用于对癌症、感染、炎症、干细胞生物学等进行成像。许多荧光试剂和染料正在被开发并且应用于以非破坏性方式可视化和跟踪生物过程。此类荧光试剂可由某些波长或波长带的电磁辐射激发。类似地,这些荧光试剂在发荧光时可发出某些波长或波长带的弛豫能量,并且所发出的弛豫能量可由传感器读取以确定试剂或染料的位置和/或边界。
在本公开的一个实施方案中,内窥镜成像系统脉冲电磁辐射以用于激发荧光试剂或染料中的电子。内窥镜成像系统可在单个成像过程期间脉冲多个不同波长的电磁辐射,以用于使多种不同试剂或染料发荧光。内窥镜包括对一种或多种试剂或染料的弛豫波长敏感的图像传感器。由图像传感器生成的成像数据可用于识别一种或多种试剂或染料的位置和边界。内窥镜系统还可以在可见光的红色带、绿色带和蓝色带中脉冲电磁辐射,使得荧光成像可叠加在RGB视频流上。
激光标测成像
在一个实施方案中,本文所公开的系统、方法和装置提供了用于利用内窥镜成像系统生成激光标测数据的装置。激光标测数据可用于确定场景的精确测量和地形轮廓。在一个具体实施中,激光标测数据用于确定例如体腔中的结构或器官、体腔中的装置或工具和/或体腔中的关键结构之间的精确测量。如本文所讨论,术语“激光标测”可涵盖被称为激光标测、激光扫描、形貌扫描、三维扫描、激光跟踪、工具跟踪等的技术。如本文所讨论,激光标测曝光帧可包括场景的形貌数据、场景内的对象或结构之间的尺寸、场景内的工具或物体的尺寸或距离等。
激光标测通常包括激光器束的受控偏转。在三维对象扫描领域内,激光标测将激光器束的受控转向与激光测距仪组合。通过在每个方向上进行距离测量,激光测距仪可快速捕获对象、工具和全景的表面形状。全三维拓扑的构造可包括组合从不同视角获得的多个表面模型。存在于本领域的各种测量系统和方法用于考古学、地理学、大气物理学、自动驾驶车辆等中的应用。一种此类系统包括光检测和测距(LIDAR),该LIDAR是三维激光标测系统。LIDAR已应用于导航系统诸如飞机或卫星中,以确定与其他系统和传感器结合的传感器的位置和取向。LIDAR使用有源传感器来照明对象并且检测从对象反射并回到传感器的能量。
如本文所讨论,术语“激光标测”包括激光跟踪。激光跟踪或使用激光进行工具跟踪通过确定相对于这些对象保持的光学目标的位置来测量对象。激光跟踪器可在几米的距离内精确到0.025mm量级。在一个实施方案中,内窥镜成像系统脉冲光以与激光跟踪系统结合使用,使得可跟踪和测量场景内的位置或工具。在此类实施方案中,内窥镜成像系统可在由内窥镜成像系统成像的场景内的工具、对象或其他结构上脉冲激光跟踪图案。可将目标放置在场景内的工具、对象或其他结构上。内窥镜成像系统和目标之间的测量可在选定点处触发和获取,使得内窥镜成像系统可跟踪目标(以及附连目标的工具、对象或其他结构)的位置。
脉冲成像
本公开的一些具体实施包括传感器和系统组合设计的各个方面,该设计能够在受限的照明环境中以减少的像素数生成高清晰度图像。这通过以下方式来实现:逐帧地脉冲单色波长,并且使用受控光源结合高帧捕获速率和特别设计的对应单色传感器在单个不同颜色波长之间切换或交替每个帧。另外,可脉冲电磁辐射以使得能够生成激光标测数据,包括关于场景的尺寸、距离和三维形貌数据。像素可以是颜色不定的,使得每个像素生成针对每个电磁辐射脉冲的数据,该每个电磁辐射脉冲包括红色、绿色和蓝色可见光波长以及可用于激光标测数据的其他波长的脉冲。
本公开的系统为一种在缺光环境中使用的内窥镜成像系统。该系统包括内窥镜,该内窥镜包括图像传感器,其中该图像传感器被配置为感测用于生成多个曝光帧的所反射的电磁辐射,该多个曝光帧可被组合以生成其上叠加有超光谱、荧光和/或激光标测数据的RGB图像帧。该系统包括用于发射电磁辐射脉冲的发射器。该系统包括与图像传感器和发射器电子通信的控制器(可另选地称为“控制电路”)。该控制器响应于对应于发射器的占空比的信号来控制发射器的占空比。图像传感器包括可发送和接收信息的双向焊盘。图像传感器的双向焊盘在被分成三个限定状态的帧周期中操作,该三个限定状态包括滚动读出状态、服务项目状态和配置状态。该系统包括设置在控制器中的振荡器和连接到控制器的频率检测器。该频率检测器响应于来自控制器的对应于振荡器频率的信号来控制图像传感器的时钟频率。该系统使得时钟信号数据在服务项目阶段和配置阶段期间从图像传感器的双向焊盘传输到控制器。该系统使得曝光帧在不使用输入时钟或数据传输时钟的情况下同步。
为了促进对根据本公开的原理的理解的目的,现在将参考附图中所示的实施方案,并且将使用特定的语言来描述这些实施方案。然而,应当理解,因此并不旨在限制本公开的范围。本文所示的本发明特征的任何改变和进一步修改,以及如本文所示的本公开的原理的任何附加的应用(其对于相关领域的技术人员和了解本公开内容的人通常将会发生)将被认为在受权利要求书保护的公开的范围内。
在公开和描述用于在缺光环境中产生图像的结构、系统和方法之前,应当理解,本公开不限于本文所公开的特定结构、配置、工艺步骤和材料,因为此类结构、配置、工艺步骤和材料可一定程度地变化。另外应当理解,本文所用的术语只是为了描述具体实施方案的目的,并不旨在进行限制,因为本发明的范围将仅由所附权利要求书及其等同形式来限定。
在描述及对本公开的主题提出权利要求时,将根据下列定义使用以下术语。
应当指出的是,如本说明书和所附权利要求书中使用的单数形式“一种”、“一个”和“该”包括多个指代物,除非上下文中明确表示其它含义。
如本文所用,术语“包括”、“包含”、“其特征在于”以及它们的语法同等成分是非遍举的或开放式的术语,不排除额外的、未述及的要素或方法步骤。
如本文所用,短语“由……组成”及其语法同等成分排除未载入权利要求书的任何要素或步骤。
如本文所用,短语“主要由……组成”及其语法同等成分将权利要求的范围限制于规定的材料或步骤以及本质上不影响被要求保护的本公开的之一种或多种基本及新颖特征的材料或步骤。
如本文所用,术语“近侧”广义上是指靠近起始点的部分的概念。
如本文所用,术语“远侧”一般是指与近侧相反,因此根据上下文其是指距离起始点较远的部分或最远的部分的概念。
如本文所用,颜色传感器或多光谱传感器是那些已知具有颜色滤光器阵列(CFA)的传感器,在其上以便将入射电磁辐射过滤为其单个分量。在电磁光谱的可见范围中,此类CFA可以基于拜尔模板或其修改形式,以便分离光线中的绿色、红色和蓝色光谱分量。
如本文所用,单色传感器是指无过滤功能的成像传感器。因为像素是颜色不定的,所以其有效空间分辨率明显高于传统单传感器相机中的像素颜色(通常采用拜耳图案过滤)对等物。因为单个像素之间浪费的入射光子更少,因此单色传感器也可具有更高的量子效率。
如本文所用,发射器是能够生成和发射电磁脉冲的装置。发射器的各种实施方案可被配置为发射脉冲并且具有来自整个电磁频谱内的非常特定的频率或频率范围。脉冲可包括可见范围和不可见范围的波长。发射器可循环打开和关闭以产生脉冲,或者可以用快门机构产生脉冲。发射器可具有可变功率输出电平,或者可以用辅助装置诸如光圈或滤光器来控制。发射器可发射可通过颜色过滤或快门动作产生脉冲的宽光谱或全光谱电磁辐射。发射器可包括单独地或协同起作用的多个电磁源。
应当指出,如本文所用,术语“光”既是粒子又是波长,并且旨在表示可被像素阵列122检测的电磁辐射,并且可包括来自电磁辐射的可见光谱和不可见光谱的波长。本文所用的术语“分区”是指电磁光谱的预定波长范围,其小于整个光谱,或者换句话讲,构成电磁光谱的某一部分的波长。如本文所用,发射器是关于所发射的电磁光谱的一部分可控制的光源,或是可操作其部件的物理性质、发射强度或发射持续时间或以上所有的光源。发射器可发射任何抖动的、漫射的或准直的发射中的光,并且可通过数字方式或通过模拟方法或系统来进行控制。如本文所用,电磁发射器是电磁能量爆发源,并且其包括光源,诸如激光、LED、白炽光、或可进行数字控制的任何光源。
现在参见附图,图1示出了用于在缺光环境中进行顺序脉冲成像的系统100的示意图。可部署系统100以生成RGB图像,其中特殊数据叠加在RGB图像上。系统100包括发射器102和像素阵列122。发射器102在缺光环境112中脉冲电磁辐射的分区,并且像素阵列122感测所反射的电磁辐射的实例。发射器102和像素阵列122按顺序工作,使得电磁辐射的分区的一个或多个脉冲产生由像素阵列122感测的图像数据。
应当指出,如本文所用,术语“光”既是粒子又是波长,并且旨在表示可被像素阵列122检测的电磁辐射,并且可包括来自电磁辐射的可见光谱和不可见光谱的波长。本文所用的术语“分区”是指电磁光谱的预定波长范围,其小于整个光谱,或者换句话讲,构成电磁光谱的某一部分的波长。如本文所用,发射器是关于所发射的电磁光谱的一部分可控制的光源,或是可操作其部件的物理性质、发射强度或发射持续时间或以上所有的光源。发射器可发射任何抖动的、漫射的或准直的发射中的光,并且可通过数字方式或通过模拟方法或系统来进行控制。如本文所用,电磁发射器是电磁能量爆发源,并且其包括光源,诸如激光、LED、白炽光、或可进行数字控制的任何光源。
图像传感器的像素阵列122可与发射器102以电子方式配对,使得发射器102和像素阵列122在操作期间被同步用于接收发射和系统内所进行的调节。发射器102可被调谐成发射激光形式的电磁辐射,该电磁辐射可被脉冲以照明缺光环境112。发射器102可以对应于像素阵列122的操作和功能的间隔脉冲。发射器102可脉冲多个电磁分区中的光,使得像素阵列接收电磁能量并且产生与每个特定电磁分区在时间上对应的数据集。例如,图1示出了具体实施,其中发射器102发射电磁辐射的四个不同分区,包括红色104波长、绿色106波长、蓝色108波长和特殊110发射。特殊110发射可包括用于使试剂发荧光的激发波长、电磁辐射的超光谱分区和/或激光标测图案。特殊110发射可包括彼此分开且独立的多个单独发射。特殊110发射可包括用于使试剂发荧光的激发波长和激光标测图案的组合,其中发射彼此分开且独立。可串联分析由单独发射产生的数据,以基于荧光成像数据来识别场景内的关键结构,并且进一步基于激光标测数据与荧光成像数据的结合来识别关键结构的尺寸或定位。特殊110发射可包括电磁辐射的超光谱频带和激光标测图案的组合,其中发射彼此分开且独立。可串联分析由单独发射产生的数据,以基于超光谱成像数据来识别场景内的关键结构,并且进一步基于激光标测数据与超光谱成像数据的结合来识别关键结构的尺寸或定位。在一个实施方案中,特殊110发射包括可与由脉冲红色104、脉冲绿色106和脉冲蓝色108发射产生的数据组合的发射的任何期望的组合。特殊110发射可分散在脉冲图案内,使得不同类型的特殊110发射不像脉冲红色104、脉冲绿色106和脉冲蓝色108发射那样频繁地被脉冲。
在图1中未示出的可供选择的实施方案中,光的脉冲发射包括亮度(“Y”)发射、红色色度(“Cr”)发射和蓝色色度(“Cb”)发射,而不是脉冲的红色104发射、脉冲的绿色106发射和脉冲的蓝色108发射。在一个实施方案中,控制器或发射器102根据颜色变换系数来将电磁辐射脉冲模块化以提供亮度和/或色度信息,这些颜色变换系数将来自红色、绿色和蓝色光能空间的光能转换为亮度、红色色度和蓝色色度光能空间。光的脉冲发射还可包括调制的蓝色色度(“λY+Cb”)脉冲和/或调制的红色色度(“δY+Cr”)脉冲。
缺光环境112包括反射红色114、绿色116和/或蓝色118光的组合的结构、组织和其他元件。被感知为红色114的结构将反射回脉冲的红色104光。从红色结构反射离开导致在脉冲的红色104发射之后由像素阵列122感测的红色105。由像素阵列122感测的数据产生红色曝光帧。被感知为绿色116的结构将反射回脉冲的绿色106光。从绿色结构反射离开导致在脉冲的绿色106发射之后由像素阵列122感测的绿色107。由像素阵列122感测的数据产生绿色曝光帧。被感知为蓝色118的结构将反射回脉冲的蓝色108光。从蓝色结构反射离开导致在脉冲的蓝色108发射之后由像素阵列122感测的蓝色109。由像素阵列122感测的数据产生蓝色曝光帧。
当结构为颜色的组合时,结构将反射回脉冲的红色104发射、脉冲的绿色106发射和/或脉冲的蓝色108发射的组合。例如,被感知为紫色的结构将反射回来自脉冲的红色104发射和脉冲的蓝色108发射的光。由像素阵列122感测的所得数据将指示光在脉冲的红色104发射和脉冲的蓝色108发射之后在相同区域中被反射。当所得红色曝光帧和蓝色曝光帧组合而形成RGB图像帧时,RGB图像帧将指示结构为紫色。
在缺光环境112包括荧光试剂或染料或包括一个或多个荧光结构、组织或其他元件的实施方案中,脉冲方案可包括某些荧光激发波长的发射。可选择某些荧光激发波长来使已知的荧光试剂、染料或其他结构发荧光。荧光结构将对荧光激发波长敏感并且将发射荧光弛豫波长。在荧光激发波长的发射之后,荧光弛豫波长将由像素阵列122感测。由像素阵列122感测的数据产生荧光曝光帧。荧光曝光帧可与多个其他曝光帧组合以形成图像帧。荧光曝光帧中的数据可叠加在RGB图像帧上,该RGB图像帧包括来自红色曝光帧、绿色曝光帧和蓝色曝光帧的数据。
在其中缺光环境112包括对电磁波谱的某些分区发出光谱响应的结构、组织或其他材料的实施方案中,脉冲方案可包括电磁辐射的超光谱分区的发射,以用于引发来自存在于缺光环境112中的结构、组织或其他材料的光谱响应。该光谱响应包括某些波长的电磁辐射的发射或反射。该光谱响应可由像素阵列122感测并且产生超光谱曝光帧。超光谱曝光帧可与多个其他曝光帧组合以形成图像帧。超光谱曝光帧中的数据可叠加在RGB图像帧上,该RGB图像帧包括来自红色曝光帧、绿色曝光帧和蓝色曝光帧的数据。
在一个实施方案中,脉冲方案包括激光标测的发射或工具跟踪图案。在激光标测的发射或工具跟踪图案之后由像素阵列122感测的所反射电磁辐射导致激光标测曝光帧。激光标测曝光帧中的数据可以被提供给对应的系统以识别例如在缺光环境112中存在的工具之间的距离、缺光环境112中的场景的三维表面拓扑、场景内的结构或对象的距离、尺寸或位置,等等。该数据可叠加在RGB图像帧上或以其他方式提供给系统的用户。
发射器102可以是激光发射器,该激光发射器能够发射脉冲的红色104光以用于生成用于识别缺光环境112内的红色114元件的感测的红色105数据。发射器102还能够发射脉冲的绿色106光,以用于生成用于识别缺光环境内的绿色116元件的感测的绿色107数据。发射器102还能够发射脉冲的蓝色108光,以用于生成用于识别缺光环境内的蓝色118元件的感测的蓝色109数据。发射器102还能够发射特殊110发射,以用于标测缺光环境112内的场景的拓扑120。发射器102能够以任何期望的顺序发射脉冲红色104、脉冲绿色106、脉冲蓝色108和脉冲特殊110发射。
像素阵列122感测反射的电磁辐射。感测红色105、感测绿色107、感测蓝色109和感测特殊111数据中的每一者可被称为“曝光帧”。感测特殊111可导致彼此分开且独立的多个单独曝光帧。例如,感测特殊111可产生荧光曝光帧、超光谱曝光帧和/或包括激光标测数据的激光标测曝光帧。为每个曝光帧分配特定的颜色或波长分区,其中该分配基于来自发射器102的脉冲的颜色或波长分区的定时。曝光帧与所分配的特定颜色或波长分区的组合可被称为数据集。即使像素122不是专用颜色,也可基于关于发射器的先验信息为任何给定数据集分配颜色。
例如,在操作期间,在脉冲的红色104光在缺光环境112中脉冲之后,像素阵列122感测所反射的电磁辐射。所反射的电磁辐射产生曝光帧,并且曝光帧被归类为感测的红色105数据,因为它在时间上与脉冲的红色104光相对应。曝光帧连同其在时间上与脉冲的红色104光对应的指示为“数据集”。对于由发射器102发射的电磁辐射的每次分配,重复该过程。由像素阵列122创建的数据包括感测红色105曝光帧,该感测红色曝光帧识别缺光环境中的红色114分量并且在时间上与脉冲红色104光对应。该数据还包括识别缺光环境中的绿色116分量并且在时间上与脉冲的绿色106光相对应的感测的绿色107曝光帧。该数据还包括识别缺光环境中的蓝色118分量并且在时间上与脉冲的蓝色108光相对应的感测的蓝色109曝光帧。该数据还包括感测特殊111曝光帧,该感测特殊曝光帧识别拓扑120并且在时间上与特殊110发射对应。
在一个实施方案中,将表示红色、绿色和蓝色电磁脉冲的三个数据集组合以形成单个图像帧。因此,红色曝光帧、绿色曝光帧和蓝色曝光帧中的信息被组合以形成单个RGB图像帧。表示其他波长分区的一个或多个附加数据集可以叠加在单个RGB图像帧上。该一个或多个另外的数据集可表示例如激光标测数据、荧光成像数据和/或超光谱成像数据。
应当理解,在不脱离本公开的范围的情况下,本公开不限于任何特定的颜色组合或任何特定的电磁分区,并且任何颜色组合或任何电磁分区均可用于代替RED、GREEN和BLUE,诸如青色、洋红色和黄色;紫外线;红外线;前述的任何组合或任何其它颜色组合,包括所有可见波长和不可见波长。在图中,待成像的缺光环境112包括红色114部分、绿色116部分和蓝色118部分,并且还包括可被感测并标测到三维渲染中的拓扑120。如图所示,来自电磁脉冲的反射光仅包含对象的具有对应于脉冲颜色分区的特定颜色的部分的数据。这些单独的颜色(或颜色间隔)数据集然后可用于通过在126处组合数据集来重建图像。多个曝光帧(即,多个数据集)中的每个曝光帧中的信息可以由控制器124、控制单元、相机控制单元、图像传感器、图像信号处理流水线或一些其他计算资源组合,这些计算资源可被配置为在126处处理多个曝光帧并且组合数据集。数据集可被组合以在内窥镜单元自身内或由一些其他处理资源在场外生成单个图像帧。
图2为用于向缺光环境(诸如用于内窥镜成像)提供照明的系统200。系统200可与本文所公开的系统、方法或装置中的任一者结合使用。系统200包括发射器202、控制器204、跳线波导206、波导连接器208、内腔波导210、内腔212和具有附带的光学部件(诸如透镜)的图像传感器214。发射器202(可以统称为“光源”)生成行进穿过跳线波导206和内腔波导210的光以照明内腔212的远侧端部处的场景。发射器202可用于发射任何波长的电磁能量,包括可见波长、红外、紫外、超光谱、荧光激发、或其他波长。可将内腔212插入患者体内以进行成像,诸如在规程或检查期间。如虚线216所示输出光。可使用图像传感器214捕获由光照明的场景并且向医生或一些其他医学人员显示该场景。控制器204可向发射器202提供控制信号以控制何时向一个场景提供照明。在一个实施方案中,发射器202和控制器204位于内窥镜所连接的相机控制单元(CCU)或外部控制台内。如果图像传感器214包括CMOS传感器,则可在所谓的消隐周期期间以图像传感器214的读出周期之间的一系列照明脉冲周期性地向该场景提供光。因此,光可以受控方式被脉冲,以避免重叠到图像传感器214的像素阵列中的图像像素的读出周期中。
在一个实施方案中,内腔波导210包括一根或多根光纤。这些光纤可由低成本材料(诸如塑料)制成,以允许内腔波导210和/或内窥镜的其他部分的处理。在一个实施方案中,内腔波导210是直径为500微米的单根玻璃纤维。跳线波导206可永久性地附接到发射器202。例如,跳线波导206可从发射器202内的发射器接收光,并且在连接器208的位置处向内腔波导210提供光。在一个实施方案中,跳线波导106包括一个或多个玻璃光纤。跳线波导可包括用于将光引导至内腔波导210的任何其他类型的波导。连接器208可将跳线波导206选择性地耦合到内腔波导210,并且允许跳线波导206内的光传递到内腔波导210。在一个实施方案中,内腔波导210直接被耦合到光源,而无需任何居间跳线波导206。
图像传感器214包括像素阵列。在一个实施方案中,图像传感器214包括用于生成三维图像的两个或更多个像素阵列。图像传感器214可构成另外两个图像传感器,这两个图像传感器各自具有独立的像素阵列并且可彼此独立地操作。图像传感器214的像素阵列包括有源像素和光学黑色(“OB”)或光学盲像素。有源像素可以是能够感测任何波长的电磁辐射的成像数据的透明“颜色不定的”像素。当像素阵列被“重置”或校准时,在像素阵列的消隐周期期间读取光学黑色像素。在一个实施方案中,当正在读取光学黑色像素时,光在像素阵列的消隐周期期间脉冲。在已读取光学黑色像素之后,在像素阵列的读出周期期间读取有源像素。有源像素可由在消隐周期期间脉冲的电磁辐射充电,使得有源像素准备好在像素阵列的读出周期期间由图像传感器读取。
图2A是互补系统硬件诸如专用或通用计算机的示意图。在本公开范围内的具体实施也可包括用于承载或存储计算机可执行指令和/或数据结构的物理及其他非暂态计算机可读介质。此类计算机可读介质可为可通过通用或专用计算机系统访问的任何可用介质。存储计算机可执行指令的计算机可读介质为计算机存储介质(装置)。承载计算机可执行指令的计算机可读介质为传输介质。因此,以举例而非限制性的方式,本公开的具体实施可包括至少两种明显不同种类的计算机可读介质:计算机存储介质(装置)和传输介质。
计算机存储介质(装置)包括RAM、ROM、EEPROM、CD-ROM、固态硬盘(“SSD”)(例如,基于RAM)、闪存存储器、相变存储器(“PCM”)、其他类型的存储器、其他光盘存储器、磁盘存储器或其他磁存储器装置、或任何其他可用于存储期望的呈计算机可执行指令或数据结构的形式的程序代码工具并且可通过通用或专用计算机来访问的介质。
“网络”是指一个或多个数据链路,其能够使电子数据在计算机系统和/或模块和/或其它电子装置之间进行传输。在一个具体实施中,传感器与相机控制单元可网络化,以便彼此通信,以及与通过它们所连接网络进行连接的其它部件进行通信。当信息通过网络或另外的通信连接(硬连接、无线或者硬连接或无线的组合)传送或提供至计算机时,计算机合理地将该连接视作传输介质。传输介质可包括网络和/或数据链路,该网络和/或数据链路可用于承载期望的呈计算机可执行指令或数据结构的形式的程序代码工具并且可通过通用或专用计算机来访问。上述组合也应涵盖在计算机可读介质的范围内。
另外,在到达各种计算机系统部件时,呈计算机可执行指令或数据结构的形式的程序代码工具,其可由传输介质自动传送至计算机存储介质(装置)(反之亦然)。例如,通过网络或数据链路接收的计算机可执行指令或数据结构可缓存于网络接口模块(例如,“NIC”)内的RAM中,然后最终传送至计算机系统RAM和/或计算机系统的非易失性计算机存储介质(装置)中。RAM还可包括固态硬盘(SSD或基于PCIx的实时存储器分层存储装置,诸如FusionIO)。因此,应当理解,计算机存储介质(装置)可包括在计算机系统部件中,该计算机系统部件还(或甚至主要)利用了传输介质。
计算机可执行指令包括(例如)在由一个或多个处理器执行时使通用计算机、专用计算机或专用处理装置执行某些功能或功能群的指令和数据。计算机可执行指令可为(例如)二进制、中间格式指令(诸如汇编语言)、或者甚至为源代码。尽管在语言上针对结构特征和/或方法步骤阐述了本发明的主题,然而应当理解,随附权利要求书中所限定的主题未必仅限于上文所述的特征或步骤。更确切地说,上文所述的特征和步骤是作为实施权利要求书的例子形式而公开的。
本领域的技术人员应当理解,本公开可在网络计算环境中实现,该网络计算环境具有多种类型的计算机系统配置,包括个人电脑、台式计算机、笔记本电脑、信息处理器、控制单元、相机控制单元、手持设备、手持件、多处理器系统、基于微处理器的或可编程的电子消费品、网络PC、小型计算机、大型计算机、移动电话、PDA、平板电脑、传呼机、路由器、交换机、各种存储设备等等。应当指出的是,任意上述计算设备都可由实体机构提供或位于实体机构内。本公开也可在分布式系统环境中实现,其中本地和远程计算机系统通过网络连接起来(通过硬连接数据链路、无线数据链路或硬连接数据链路与无线数据链路的组合),两者均可执行任务。在分布式系统环境中,程序模块可位于本地和远程存储器存储装置二者中。
另外,在适当的情况下,本文所述的功能可通过硬件、软件、固件、数字部件或模拟部件中的一种或多种来执行。例如,可对一种或多种专用集成电路(ASIC)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。在整个下面的描述和权利要求中所用的某些术语是指特定的系统部件。本领域的技术人员应当理解,部件可具有不同的名称。本文并非旨在在名称上而非功能上不同的部件之间进行辨别。
图2A为示出示例性计算装置250的框图。计算装置250可用于执行各种程序,诸如本文所讨论的那些程序。计算装置250可用作服务器、客户端或任何其他计算实体。计算装置250可执行本文所讨论的各种监控功能,并且可执行一种或多种应用程序,诸如本文所述的应用程序。计算装置250可为各种计算装置中的任意一种,诸如台式计算机、笔记本电脑、服务器电脑、掌上电脑、相机控制单元、平板电脑,等等。
计算装置250包括一个或多个处理器252、一个或多个存储器装置254、一个或多个接口256、一个或多个大容量存储装置258、一个或多个输入/输出(I/O)装置260,以及显示装置280,所有器件均耦合到总线262。处理器252包括一个或多个处理器或控制器,该一个或多个处理器或控制器执行存储于存储器装置254和/或大容量存储装置258中的指令。处理器252还可以包括各种类型的计算机可读介质,诸如高速缓存存储器。
存储器装置254包括各种计算机可读介质,诸如易失性存储器(例如,随机存取存储器(RAM)264)和/或非易失性存储器(例如,只读存储器(ROM)266)。存储器装置254还可包括可重写ROM,诸如闪存存储器。
大容量存储装置258包括各种计算机可读介质,诸如磁带、磁盘、光盘、固态存储器(例如,闪存存储器),等等。如图2中所示,特定的大容量存储装置为硬盘驱动器274。各种驱动器也可包括在大容量存储装置258中以能够从各种计算机可读介质中进行读取和/或写入。大容量存储装置258包括可移动介质276和/或不可移动介质。
I/O装置260包括允许向计算装置250输入或从计算装置检索数据和/或其他信息的各种装置。示例性I/O装置260包括数字成像装置、电磁传感器和发射器、光标控制装置、键盘、小键盘、麦克风、监视器或其他显示装置、扬声器、打印机、网络接口卡、调制解调器、透镜、CCD或其他图像捕获装置,等等。
显示装置280包括能够向计算装置250的一个或多个用户显示信息的任何类型的装置。显示装置280的示例包括监视器、显示终端、视频投影装置,等等。
接口256包括能够使计算装置250与其他系统、装置或计算环境进行交互的各种接口。示例性接口256可包括任何数量的不同网络接口270,诸如连接局域网(LAN)、广域网(WAN)、无线网和互联网的接口。其他接口包括用户接口268和外围装置接口272。接口256还可包括一个或多个用户接口元件268。接口256还可包括一个或多个外围接口,诸如用于打印机、指示装置(鼠标、触控板等)、键盘等的接口。
总线262使处理器252、存储器装置254、接口256、大容量存储装置258和I/O装置260能够彼此通信,并且与耦合到总线262的其他装置或部件通信。总线262表示若干类型的总线结构(诸如系统总线、PCI总线、IEEE 1394总线、USB总线等等)中的一种或多种。
出于示例性目的,本文所示的程序和其他可执行程序器件为分立块体,但应当理解,此类程序和部件可在各个时间驻留在计算装置250的不同存储部件中,并且由(一个或多个)处理器252执行。或者,本文所述的系统和程序可通过硬件来实现,或通过硬件、软件和/或固件的组合来实现。例如,可对一种或多种专用集成电路(ASIC)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。
图3A示出了在滚动读出模式或在传感器读出300期间使用的传感器的操作循环。帧读出可在竖直线310处开始并且可由该竖直线表示。读出周期由对角线或斜线302表示。图像传感器的像素阵列的有源像素可逐行读出,向下倾斜边缘的顶部为传感器顶行312,并且向下倾斜边缘的底部为传感器底行314。在最后一行读出和下一读出循环之间的时间可被称为消隐周期316。应当指出,传感器像素行中的一些可覆盖有光屏蔽件(例如,金属涂层或另一种材料类型的任何其它大体上黒色的层)。这些被覆盖的像素行可被称为光学黑色行318和320。光学黑色行318和320可用作校正算法的输入。如图3A所示,这些光学黑色行318和320可位于像素阵列的顶部上或像素阵列的底部或像素阵列的顶部和底部。
图3B示出了控制曝光至像素从而被像素集成或聚积的电磁辐射(例如,光)的量的方法。应当理解,光子是电磁辐射的基本粒子。光子被每个像素集成、吸收或累积并转换为电荷或电流。电子快门或卷帘式快门(虚线322所示)可用于通过重置像素来开始集成时间。然后光将集成直到下一读出阶段为止。电子快门322的位置可在两个读出循环302之间移动,以便控制给定量的光的像素饱和度。应当指出,该技术允许在两个不同行之间的集成时间恒定,但在从顶行移动到底行时引入延迟。
图3C示出了电子快门322已被移除的情况。在该配置中,入射光的集成可在读出302期间开始,并且可在下一读出循环302处结束,该下一读出循环也限定下一集成的开始。
图3D示出了没有电子快门322但在消隐周期316期间具有受控和脉冲光330的配置。这确保所有行看到的光与从相同光脉冲330发出的光相同。换句话讲,每行将在黑暗环境中开始其集成,这可位于读出帧(m)的光学黑色后行320以获得最大的光脉冲宽度,并且然后将接收光通并且将在黑暗环境中结束其集成,这可位于下一后续读出帧(m+1)的光学黑色前行318以获得最大的光脉冲宽度。在例如图3D中,由光脉冲生成的图像将仅在帧(m+1)读出期间可用,而不会干扰帧(m)和帧(m+2)。应当指出,使光脉冲仅在一个帧中读出并且不干扰相邻帧的条件是在消隐周期316期间击发给定的光脉冲。因为光学黑色行318、320对光不敏感,所以可将帧(m)的光学黑色后行320时间和帧(m+1)的光学黑色前行318时间添加至消隐周期316,以确定光脉冲330的击发时间的最大范围。
如图3A所示,传感器可循环多次以接收每种脉冲颜色或波长(例如,电磁光谱上的红色、绿色、蓝色或其他波长)的数据。每个循环可以是定时的。在一个实施方案中,循环可定时以在16.67ms的间隔内操作。在另一个实施方案中,循环可定时以在8.3ms的间隔内操作。应当理解,本公开设想了其它的定时间隔,并且旨在落入本公开的范围内。
图4A以图形方式示出了电磁发射器的实施方案的操作。发射器可定时以对应于传感器的循环,使得电磁辐射在传感器操作循环内和/或传感器操作循环的一部分期间发射。图4A示出了402处的脉冲1、404处的脉冲2和406处的脉冲3。在一个实施方案中,发射器可在传感器操作循环的读出周期302期间脉冲。在一个实施方案中,发射器可在传感器操作循环的消隐部分316期间脉冲。在一个实施方案中,发射器可脉冲持续时间,该持续时间在两个或更多个传感器操作循环的部分期间。在一个实施方案中,发射器可在消隐部分316期间或在读出周期302的光学黑色部分320期间开始脉冲,并且在读出周期302期间或下一后续循环的读出周期302的光学黑色部分318期间结束脉冲。应当理解,只要发射器的脉冲和传感器的循环相对应,上述的任何组合旨在落入本公开的范围内。
图4B以图形方式表示改变发射的电磁脉冲(例如,在412处的脉冲1、在414处的脉冲2、在416处的脉冲3)的持续时间和量值以控制曝光。具有固定输出量值的发射器可在上文结合图3D和图4A所述的任何循环期间脉冲一定间隔,以向像素阵列提供所需的电磁能量。具有固定输出量值的发射器可在较长的时间间隔内脉冲,从而为像素提供更多的电磁能量,或者发射器可在较短的时间间隔脉冲,从而提供较少的电磁能量。是否需要较长或较短的时间间隔取决于操作条件。
与调节发射器脉冲固定输出量值的时间间隔相比,可增大发射量值本身以便向像素提供更多的电磁能量。类似地,减小脉冲的量值可为像素提供较少的电磁能量。应当指出,如果需要的话,系统的实施方案可具有同时调节量值和持续时间的能力。另外,可调节传感器以根据最佳图像质量的需要来增加其灵敏度和持续时间。图4B示出了改变脉冲的量值和持续时间。在图示中,412处的脉冲1具有比414处的脉冲2或416处的脉冲3更高的量值或强度。另外,412处的脉冲1具有比在414处的脉冲2或416处的脉冲3更短的持续时间,使得由该脉冲提供的电磁能量由图示中所示脉冲下的面积示出。在图示中,当与412处的脉冲1或416处的脉冲3相比时,414处的脉冲2具有相对低的量值或强度以及较长的持续时间。最后,在图示中,当与412处的脉冲1和414处的脉冲2相比时,416处的脉冲3具有中间量值或强度和持续时间。
图5为根据本公开的原理和教导内容的组合图3A至图3D和图4A的操作循环、电磁发射器和发射的电磁脉冲以在操作期间显示成像系统的本公开的实施方案的图示。如在图中可见,电磁发射器主要在图像传感器的消隐周期316期间脉冲辐射,使得像素将被充电并且在图像传感器循环的读出周期302期间准备读取。图5中的虚线表示电磁辐射的脉冲(来自图4A)。电磁辐射脉冲主要在图像传感器的消隐周期316期间发射,但可与图像传感器的读出周期302叠层。
曝光帧包括在读出周期302期间由图像传感器的像素阵列读取的数据。曝光帧可与在读出周期302之前由发射器发射的脉冲的类型的指示组合。曝光帧和脉冲类型的指示的组合可被称为数据集。可组合多个曝光帧以生成黑白或RGB彩色图像。另外,超光谱、荧光和/或激光标测成像数据可叠加在黑白或RGB图像上。
在一个实施方案中,基于三个曝光帧来生成RGB图像帧,该三个曝光帧包括由图像传感器在红色发射之后生成的红色曝光帧、由图像传感器在绿光发射之后生成的绿色曝光帧以及由图像传感器在蓝光发射之后生成的蓝色曝光帧。荧光成像数据可叠加在RGB图像帧上。可从一个或多个荧光曝光帧抽取荧光成像数据。荧光曝光帧包括在发射激发波长的电磁辐射以激发荧光试剂之后,在读出周期302期间由图像传感器生成的数据。在荧光试剂的激发之后由像素阵列感测的数据可以是由荧光试剂发射的弛豫波长。荧光曝光帧可包括多个荧光曝光帧,其各自由图像传感器在不同类型的荧光激发发射之后生成。在一个实施方案中,荧光曝光帧包括多个荧光曝光帧,包括在波长为约770nm至约790的电磁辐射的发射之后由图像传感器生成的第一荧光曝光帧,以及在波长为约795nm到约815nm的电磁辐射的发射之后由图像传感器生成的第二荧光曝光帧。荧光曝光帧可包括另外的附加荧光曝光帧,其由图像传感器在基于成像应用而需要的光的其他荧光激发发射之后生成。
在一个实施方案中,曝光帧是在消隐周期316之后发生的读出周期302期间由像素阵列感测的数据。电磁辐射的发射在消隐周期316期间发射。在一个实施方案中,电磁辐射的发射的一部分与读出周期316重叠。消隐周期316在像素阵列的光学黑色像素正在被读取时发生,并且读出周期302在像素阵列的有源像素正在被读取时发生。消隐周期316可与读出周期302重叠。
图6A和图6B示出了用于记录图像帧的过程。可将多个图像帧串在一起以生成视频流。单个图像帧可包括来自多个曝光帧的数据,其中曝光帧是在电磁辐射的发射之后由像素阵列感测的数据。图6A示出了通常用彩色图像传感器实现的传统过程,该彩色图像传感器具有颜色滤光器阵列(CFA)以针对每个像素滤除某些波长的光。图6B是本文所公开的过程,并且可利用接收所有波长的电磁辐射的单色“颜色不定的”图像传感器来实现。
图6A所示的过程在时间t(0)至时间t(1)期间发生。该过程从白光发射602开始并且感测白光604。在606处,基于604处的感测来处理并且显示图像。
图6B所示的过程在时间t(0)至时间t(1)期间发生。该过程从绿光612的发射开始,并且在绿光612的发射之后感测所反射的电磁辐射614。该过程继续红光616的发射,并且在红光616的发射之后感测所反射的电磁辐射618。该过程继续蓝光620的发射,并且在蓝光620的发射之后感测所反射的电磁辐射622。该过程继续进行特殊624发射的一次或多次发射,并且在特殊624发射的该一次或多次发射中的每一者之后感测反射的电磁能量626。特殊发射可包括一次或多次单独的发射,诸如荧光试剂的激发波长、超光谱发射和/或激光标测发射。该单独的多个特殊发射中的每一者可由图像传感器独立地感测以生成分开且独立的曝光帧。在628处基于所感测的反射电磁能量实例614、618、622和626中的每个实例来处理和显示图像。
图6B所示的过程提供了较高分辨率的图像并且提供了用于生成还包括特殊数据的RGB图像的装置。当使用光的分区光谱时(如图6B所示),可使传感器对所有波长的电磁能量敏感。在图6B所示的过程中,指示单色像素阵列在每个循环中感测来自电磁能量全光谱的预先确定的分区的电磁能量。因此,为了形成图像,传感器仅需以全光谱光内不同的多个分区进行循环。基于多个循环来组合最终图像。因为来自每个颜色分区帧循环的图像(与CFA像素阵列相比)具有较高的分辨率,所以当分区的光帧被组合时产生的所得图像也具有较高的分辨率。换句话讲,因为阵列内的每个像素(而不是至多,具有CFA的传感器中的每隔一个像素)感测给定脉冲和给定场景的能量的幅值,仅相隔一段时间,因此针对每个场景产生较高分辨率的图像。
如在图6A至图6B中所示的实施方案中在时间t(0)和t(1)之间可从图形看出,用于图6B中的分区光谱系统的传感器对图6A中的全光谱系统中的每个全光谱系统循环了至少四次。在一个实施方案中,显示装置(LCD面板)以每秒50至60帧的速度工作。在此类实施方案中,图6B中的分区光系统可以200帧/秒至240帧/秒的速率操作,以保持所显示视频的连续性和平滑性。在其它实施方案中,可存在不同的捕获和显示帧速率。此外,平均捕获速率可以是显示速率的任何倍数。
在一个实施方案中,可能期望并非所有分区在系统帧速率内均相等地表示。换句话讲,并非所有光源都必须以相同的规律性脉冲,以便根据用户的需要来强调和取消强调所记录场景的各个方面。还应当理解,电磁频谱的不可见分区和可见分区可在系统内脉冲到一起,其中它们的相应数据值被接合(stitch)到视频输出中,以用于向用户显示。
示例性实施方案可包括如下脉冲循环图案:
i.绿色脉冲;
ii.红色脉冲;
iii.蓝色脉冲;
iv.绿色脉冲;
v.红色脉冲;
vi.蓝色脉冲;
vii.激光标测脉冲方案;
viii.荧光激发脉冲;
ix.超光谱脉冲;
x.(重复)
另外的示例性实施方案可包括如下脉冲循环图案:
i.绿色脉冲;
ii.红色脉冲;
iii.蓝色脉冲;
iv.荧光激发脉冲;
v.超光谱脉冲;
vi.绿色脉冲;
vii.红色脉冲;
viii.蓝色脉冲;
ix.荧光激发脉冲;
x.超光谱脉冲;
xi.激光标测脉冲方案;
xii.(重复)
实施方案可包括如下脉冲循环图案:
i.亮度脉冲;
ii.红色色度脉冲;
iii.亮度脉冲;
iv.蓝色色度脉冲;
v.超光谱脉冲;
vi.荧光激发脉冲;
vii.激光标测脉冲;
viii.(重复)
实施方案可包括如下脉冲循环图案:
i.亮度脉冲;
ii.红色色度脉冲;
iii.亮度脉冲;
iv.蓝色色度脉冲;
v.亮度脉冲;
vi.红色色度脉冲;
vii.亮度脉冲;
viii.蓝色色度脉冲;
ix.超光谱脉冲;
x.荧光激发脉冲;
xi.激光标测脉冲;
xii.(重复)
可改变脉冲图案以适合特定具体实施的成像目标。示例性成像目标是获得超光谱成像数据和荧光成像数据,并且还获得基于对超光谱和/或荧光成像数据的分析的激光标测和/或工具跟踪数据。在此类示例中,可针对已被超光谱和/或荧光成像数据加亮的场景的某些区域来分析激光标测和/或工具跟踪数据。另外的示例性成像目标是获得超光谱成像数据或荧光成像数据,并且还获得激光标测和/或工具跟踪数据。另外的示例性成像目标是获得激光标测和/或工具跟踪数据。另外的示例性成像目标是获得超光谱成像数据。另外的示例性成像目标是获得荧光成像数据。应当理解,成像目标可以是专用的,这取决于部署成像系统的原因。另外,成像目标可在单个成像会话期间改变,并且可改变脉冲图案以匹配变化的成像目标。
如在该示例中可见,激光标测分区可以与其他分区脉冲的速率不同的速率脉冲。这样做可强调场景的某个方面,其中激光标测数据仅与视频输出中的其他数据叠加以做出期望的强调。应当指出,在红色分区、绿色分区和蓝色分区的顶部上方添加激光标测分区并不一定要求序列化的系统以全光谱非串行系统的速率的四倍操作,因为每个分区不必在脉冲图案中相等地表示。如在该实施方案中所见,添加在脉冲图案(上述示例中的激光标测)中表示较少的分区脉冲将导致小于传感器的循环速度的20%的增加,以适应不规则的分区取样。
在各种实施方案中,脉冲循环图案还可以任何合适的顺序包括以下波长中的任一个波长。此类波长可特别适用于激发荧光试剂,以通过基于荧光试剂弛豫发射感测荧光试剂的弛豫发射来生成荧光成像数据:
i.770±20nm;
ii.770±10nm;
iii.770±5nm;
iv.790±20nm;
v.790±10nm;
vi.790±5nm;
vii.795±20nm;
viii.795±10nm;
ix.795±5nm;
x.815±20nm;
xi.815±10nm;
xii.815±5nm;
xiii.770nm至790nm;和/或
xiv.795nm至815nm。
在各种实施方案中,脉冲循环还可以任何合适的顺序包括以下波长中的任一者。此类波长可特别适用于生成超光谱成像数据:
i.513±545nm;
ii.565nm至585nm;
iii.900nm至1000nm;
iv.513±5nm;
v.513±10nm;
vi.513±20nm;
vii.513±30nm;
viii.513±35nm;
ix.545±5nm;
x.545±10nm;
xi.545±20nm;
xii.545±30nm;
xiii.545±35nm;
xiv.565±5nm;
xv.565±10nm;
xvi.565±20nm;
xvii.565±30nm;
xviii.565±35nm;
xix.585±5nm;
xx.585±10nm;
xxi.585±20nm;
xxii.585±30nm;
xxiii.585±35nm;
xxiv.900±5nm;
xxv.900±10nm;
xxvi.900±20nm;
xxvii.900±30nm;
xxviii.900±35nm;
xxix.1000±5nm;
xxx.1000±10nm;
xxxi.1000±20nm;
xxxii.1000±30nm;或者
xxxiii.1000±35nm。
可将分区循环划分为适应或近似各种成像和视频标准。在一个实施方案中,分区循环可包括如下如图7A至图7D中最佳地示出的红色光谱、绿色光谱和蓝色光谱中的电磁能量的脉冲。在图7A中,已通过在由竖直灰色虚线所示的工作范围内调制光脉冲宽度或持续时间来实现不同的光强度。在图7B中,已通过调制光功率或电磁发射器(其可为激光器或LED发射器)的功率,但保持脉冲宽度或持续时间恒定来实现不同的光强度。图7C示出了光功率和光脉冲宽度均被调制从而得到更大灵活性的情况。分区循环可使用青色洋红色黄色(CMY)、红外线、紫外线、高光谱和荧光,使用与可见脉冲源混合的不可见脉冲源以及产生图像所需的任何其他色彩空间或近似于当前已知或尚未开发的期望的视频标准。还应当理解,系统能够在运行中的色彩空间之间切换以提供所需图像输出质量。
在一个实施方案中,发射器发射一个或多个超光谱发射以激发光谱响应。超光谱发射包括波长为约513-545nm、约565-585nm和/或约900-1000nm的电磁辐射中的一者或多者。在此类实施方案中,相干光源802包括针对513-545nm分区的至少一个激光发射器、针对565-585nm分区的至少一个激光发射器和针对900-1000nm分区的至少一个激光发射器。应当理解,在不脱离本公开的范围的情况下,可发射用于激发光谱响应的附加超光谱发射。
在一个实施方案中,发射器发射一个或多个荧光激发发射以用于使试剂发荧光。荧光激发发射包括波长为约460-470nm、529-537nm、633-643nm、775-785nm、800-810nm、970-980nm、575-579nm、519-527nm、770-790nm和/或795-815nm的电磁辐射中的一者或多者。在此类实施方案中,相干光源802可包括针对前述电磁辐射分区中的每一者的至少一个激光发射器。应当理解,在不脱离本公开的范围的情况下,可发射用于使试剂发荧光的附加荧光激发发射。
在使用色彩空间绿色-蓝色-绿色-红色(如图7D中所示)的实施方案中,可能期望比色度分量更频繁地脉冲亮度分量,因为用户通常对光量值差异比对光色差更敏感。可使用如图7D中所示的单色传感器来利用该原理。在图7D中,包含最多亮度信息的绿色可在(G-B-G-R-G-B-G-R……)方案中更频繁地脉冲或具有更大强度以获得亮度数据。此类配置将创建具有可察觉的更多细节的视频流,而不创建和传输不可察觉的数据。
在一个实施方案中,复制较弱分区的脉冲可用于产生已针对较弱脉冲进行调节的输出。例如,认为蓝色激光相对于硅基像素的灵敏度弱,并且与红光或绿光相比,蓝色激光难以产生,因此可在帧循环期间更频繁地脉冲以补偿光的弱性。这些附加脉冲可随时间推移连续地完成,或者通过使用多个激光器同时脉冲以产生所需补偿效果。应当注意,通过在消隐周期(在此期间传感器不读出像素阵列的时间)期间脉冲,传感器对同一种类的激光器之间的差异/失配不敏感,并且简单地聚积光以用于期望的输出。在另一个实施方案中,最大光脉冲范围可能从帧到帧是不同的。这示出于图7E,其中光脉冲从帧到帧是不同的。传感器可被构建成能够以两帧或三帧或四帧或n帧的重复图案对不同消隐周期进行编程。
在图7E中,示出了四个不同的光脉冲,并且脉冲1可例如在脉冲4之后重复,并且可具有消隐周期不同的四帧的图案。该技术可用于将最大功率的分区放置于最小消隐周期上,并且因此允许最弱的分区在后续帧中的一帧上具有更宽的脉冲而无需增加读出速度。重建帧仍可具有帧到帧的规则图案,因为其由许多脉冲帧构成。
图8示出了用于控制超光谱、荧光和/或激光标测成像的环境中的激光脉冲的积分能量的系统800。在本领域已知的传统系统中,激光器或其他光源一致地递送指定的光级。这些传统系统不具有抵消在正常使用期间出现的问题的手段。此类问题可由预热要求、温度变化、制造缺陷等引起。这些问题可由于闪烁光和图像伪影而降低图像质量。这些问题可通过本文所公开的系统(包括图8所示的系统800)来改善。
图8所示的系统800表示一个示例性实施方案,并且在不脱离本公开的范围的情况下,可以实现许多其他实施方案。系统800包括激光器模块802、连接到激光器模块802的光纤804、以及连接到光纤804的电磁传感器诸如光电二极管806。激光器模块802在本文中通常可称为“发射器”,并且如本文所用的术语发射器可包括多个激光器模块。激光器模块802和光电二极管806各自与控制器808通信。控制器808接收来自光电二极管806的光感测读数,并且响应于从光电二极管806接收的实时光读数而改变由激光器模块802发射的波长和/或功率。
在图8所示的示例性具体实施中,系统800包括两个单独的激光器模块802、两个单独的光纤804和两个单独的光电二极管806。应当理解,在不脱离本公开的范围的情况下,系统800可包括任何数量的激光器模块802、光电二极管806和光纤804。
在一个实施方案中,系统800被实现为控制由发射器脉冲的光的持续时间和/或强度以照明缺光环境。激光器控制器808与多个激光器模块802中的每个激光器模块通信,并且被配置为控制由激光器模块802发射的光的持续时间和/或强度。光电二极管806被配置为通过测量行进穿过光纤804的光来测量由激光器模块802发射的光的持续时间和/或强度。激光控制器808用于将激光器模块802的输出光能限制在可接受的公差内。
激光器模块802可包括能够发射宽范围波长的电磁辐射的一个或多个激光器或其他光发射器。可选择所发射的电磁辐射的波长和功率以满足应用需求。在一个实施方案中,激光器模块802包括布置成如图9所示的线性阵列或一些其他几何图案的多个激光器。激光器模块802通常可包括十个或更多个单独的激光单元以确保精确的光输出。
光纤804可包括单根光纤或一束光纤。光纤804直接连接到激光器模块802并且可直接连接到激光器模块802内的激光器的光学输出。在一些实施方案中,光纤804可在0.05mm至0.5mm的范围内。
光电二极管806为电磁传感器。在另选的实施方案中,可使用不同类型的电磁传感器。光电二极管806通过读取各个光纤804或光纤804的束上的能量传输来感测行进穿过光纤804的光级。在实施方案中,光电二极管806通过感测光纤804的电压或电流来测量光级信息,并且在此类实施方案中,光电二极管806可直接附接到光纤804。光电二极管806将光级信息发送到控制器808。在一些实施方案中,光电二极管806将原始数据转换为可用的光级量度,并且在其他实施方案中,控制器808将原始数据转换为可用的光级量度。
在一个实施方案中,基于对一个、两个或N个光电二极管806的测量来计算场景中的光的总量。一个、两个或N个光电二极管806可与放大器一起使用,以将光输出测量与期望的参考电压或电流电平进行比较。该电路可向激光器模块802的偏置电流或电压提供直接反馈,以确保满足期望的输出光级。
在一个实施方案中,光电二极管806或另一个电磁传感器在每个激光器模块802上内置。由激光器模块802发射的电磁辐射的一部分可在光电二极管806或能够将光转换成电压或电流水平以测量光输出的其他感测元件处被引导。
控制器808实时地从光电二极管806接收光级信息。控制器808基于从光电二极管806接收的能量传输读数来计算由激光器模块802发射的光的量。这些能量传输读数用作从光电二极管806到控制器808的独立反馈。控制器808可将该独立反馈与指示预先确定的期望的光级的寄存器或变量值进行比较。可从计算机存储器中检索寄存器或变量值。
在一个实施方案中,控制器808计算光级并且在小于1ms的时间内将光能集成。控制器808实现自动曝光控制(AEC)系统,以响应于从光电二极管806接收的当前光读数来调节由激光器模块802发射的光的波长和/或持续时间。AEC可包括PID(比例、积分和微分)控制算法,并且该PID控制算法可由控制器808来实现。
在一个实施方案中,电磁辐射的每个脉冲基于误差测量值按比例调节。控制器808通过将期望的曝光水平与测量的曝光水平进行比较来计算误差测量值。基于图像传感器的像素阵列内的所有像素的平均像素值来计算测量的曝光水平。ASC可请求对由激光器模块802发射的光的持续时间和/或强度进行调节,以确保实现期望的曝光水平。
控制器808确保一旦达到光能级,就关闭或禁用激光器模块802以保持期望的图像质量。
在一个实施方案中,控制器808为相机控制单元(CCU)或包括CCU。控制器808可包括微控制器、现场可编程门阵列(FPGA)板、专用集成电路(ASIC)、硬件、软件、图像信号处理器(ISP)、支持电路,等等。控制器808控制激光器模块802的启用和禁用。控制器808还控制激光器模块802的功率电平和光级。控制器808从光电二极管806接收信息,并且基于从光电二极管806接收的信息来改变由激光器模块802发射的光能。
图9示出了用于发射电磁辐射的系统900。系统900可结合用于如本文所述的缺光环境的数字成像系统来实现。系统900可被部署成控制电磁辐射的输出以照明场景。
系统900包括具有多个激光单元的激光器束902。激光器束902在本文中通常可称为“发射器”,并且如本文所用的术语发射器可包括多个激光器束。激光器束902连接到光纤904。该系统包括电磁传感器906,诸如光电二极管或其他光感测元件。电磁传感器906通过激光器束902的至少一个激光单元感测电磁辐射的输出。系统900包括电连接到电磁传感器906的运算放大器(OPA)908电路。运算放大器908可施加反馈,或者在另选的实施方案中,光频率倍增器可施加反馈。
电磁传感器906感测激光器束902的至少一个激光单元的输出。基于该测量的值,实时控制和调节激光器束902的总输出以确保场景的适当曝光。在一个实施方案中,将光输出控制到0.01%至10%的精确水平。
图10示出了用于激光照明的系统1000的具体实施。系统1000包括用于发射多个波长的电磁能量的多个激光器束。系统1000可被实现用于基于分别产生红色曝光帧、绿色曝光帧、蓝色曝光帧的红色电磁辐射、绿色电磁辐射和蓝色电磁辐射的单独脉冲来生成彩色RGB图像帧。系统1000可进一步被实现用于生成要叠加在RGB图像帧上的一个或多个特殊曝光帧。如本文所讨论的,一个或多个特殊曝光帧可包括超光谱曝光帧、荧光曝光帧和/或激光标测曝光帧。
在图10所示的示例性具体实施中,系统1000包括红色激光器束1010、绿色激光器束1012、蓝色激光器束1014和特殊激光器束1016。图10中的特殊激光器束1016可表示多个独立激光器束,诸如超光谱激光器束、荧光激光器束和/或激光标测激光器束。
如果系统1000包括超光谱激光器束,则系统1000可以包括用于发射电磁光谱的不同分区的多个独立的超光谱激光器束。例如,系统1000可包括用于发射具有从约513nm至约545nm的波长的电磁辐射的第一超光谱激光器束。系统1000还可包括用于发射具有从约565nm至约585nm的波长的电磁辐射的第二超光谱激光器束。系统1000还可包括用于发射具有从约900nm至约1000nm的波长的电磁辐射的第二超光谱激光器束。
如果系统1000包括荧光激光器束,则系统1000可包括用于发射电磁光谱的不同分区以使不同试剂发荧光的多个独立的荧光激光器束。例如,系统1000可包括用于发射具有从约770nm至约790nm的波长的电磁辐射的第一荧光激光器束。系统1000还可包括用于发射具有从约795nm至约815nm的波长的电磁辐射的第二荧光激光器束。
如果系统1000包括激光标测激光器束,则系统1000可包括多个独立的激光标测激光器束,用于发射电磁辐射以测量场景的距离、尺寸和三维形貌图。系统1000可包括独立的激光标测系统,用于通过不同的方式执行激光标测测量,例如通过工具跟踪、激光跟踪、三维形貌标测,等等。在一个实施方案中,激光标测激光器束包括附接到例如环境内的工具(诸如外科工具),以及内窥镜装置本身,以及环境内的其他工具的多个激光器束。这些多个激光标测激光器束可一起起作用以跟踪工具在环境中相对于其他对象(诸如组织、器官和其他关键结构)的位置。
激光器束1010、1012、1014、1016在本文中通常可称为“发射器”,并且术语“发射器”可根据需要包括任何合适数量的激光器束。在一个实施方案中,发射器包括红色激光器束、绿色激光器束、蓝色激光器束、超光谱激光器束、荧光激光器束和专用激光器束。根据应用,发射器可包括任何合适数量和组合的激光器束。
应当理解,系统1000可包括任何数量的激光器束,并且激光器束中的每个激光器束可被配置为发射不同波长的电磁辐射。如本文所述,系统1000可包括“发射器”,并且发射器包括多个激光器束,诸如用于红色、绿色和蓝色波长的激光器束,以及用于超光谱、荧光和/或激光标测成像的激光器束。在一个实施方案中,系统1000包括用于发射红色、绿色和蓝色波长的电磁辐射的激光器束,并且还包括用于发射超光谱波长的电磁辐射、用于发射荧光激发波长以用于使试剂发荧光以及用于发射激光标测图案的激光器束。
在一个实施方案中,系统1000包括红色激光器束1010、绿色激光器束1012和蓝色激光器束1014,并且还包括特殊激光器束1016以及超光谱激光器束或荧光激光器束中的一者或多者。超光谱激光器束可发射各波长的电磁辐射以激发光谱响应。可分析响应于超光谱波长的电磁辐射的发射而收集的信息,以识别关键组织结构(诸如患病组织、肿瘤、血管)的位置、血流方向、某些化学过程、某些生物过程等。该信息可与响应于通过激光标测激光器束进行的电磁辐射脉冲而收集的信息结合使用。例如,由图像传感器响应于通过激光标测激光器束进行的电磁辐射的发射而感测的信息可识别关于场景的尺寸、距离和三维形貌信息。该信息可与响应于通过超光谱激光器束进行的电磁辐射脉冲而收集的信息组合,以计算针对关键组织结构(诸如患病组织、肿瘤、血管)、血流方向、某些化学过程、某些生物过程等的距离、尺寸和三维形貌信息。应当理解,相同过程可用响应于通过激光标测激光器束进行的发射而收集的信息以及响应于通过荧光激光器束进行的发射而收集的信息来实现,该荧光激光器束被配置为发射用于使场景内的试剂发荧光的荧光激发波长。
激光器束中的每个激光器束包括用于发射电磁辐射脉冲的多个激光单元。系统1000包括用于测量由每个激光器束发射的电磁辐射的专用电磁传感器1006。如图10所示,系统1000包括用于红色激光器束1010、绿色激光器束1012、蓝色激光器束1014和特殊1016中的每一者的单独的、独立的电磁传感器1006。电磁传感器1006可连接到激光器束1010、1012、1014、1016的一个或多个激光单元。电磁传感器1006通过测量由至少一个激光单元发射的电流或电压来感测电磁辐射的输出。
光通过光纤1004从激光器束透射。激光器束1010、1012、1014、1016中的每一者包括光纤1004。光纤1004被组合以包括单个离开光纤1018。
图11为示出用于向缺光环境提供照明(诸如用于内窥镜成像)的系统1100的示意图。系统1100可与本文所公开的系统、方法或装置中的任一者结合使用。系统1100包括光源1102、控制器1104、跳线波导1106、波导连接器1108、内腔波导1110、内腔1112和具有附带的光学部件(诸如透镜)的图像传感器1114。光源1102(在一些实施方案中可称为“发射器”)生成行进穿过跳线波导1106和内腔波导1110的光以照明内腔1112的远侧端部处的场景。光源1100可用于发射任何波长的电磁能量,包括可见波长、红外波长、紫外波长或其他波长。可将内腔1112插入患者体内以进行成像,诸如在规程或检查期间。如虚线1116所示输出光。可使用图像传感器1114捕获由光照明的场景并且向医生或一些其他医学人员显示该场景。控制器1104可向光源1102提供控制信号以控制何时向一个场景提供照明。在一个实施方案中,光源1102和控制器1104位于内窥镜所连接的相机控制单元(CCU)或外部控制台内。如果图像传感器1114包括CMOS传感器,则可在所谓的消隐周期期间以图像传感器1114的读出周期之间的一系列照明脉冲周期性地向该场景提供光。因此,光可以受控方式被脉冲,以避免重叠到图像传感器1114的像素阵列中的图像像素的读出周期中。
在一个实施方案中,内腔波导1110包括一根或多根光纤。这些光纤可由低成本材料(诸如塑料)制成,以允许内腔波导1110和/或内窥镜的其他部分的处理。在一个实施方案中,可使用具有500微米的直径的单根玻璃纤维。跳线波导1106可永久性地附接到光源1102。例如,跳线波导1106可从光源1102内的发射器接收光,并且在连接器1108的位置处向内腔波导1110提供光。在一个实施方案中,跳线波导106可包括一个或多个玻璃光纤。跳线波导可包括用于将光引导至内腔波导1110的任何其他类型的波导。连接器1108可将跳线波导1106选择性地耦合到内腔波导1110,并且允许跳线波导1106内的光传递到内腔波导1110。在一个实施方案中,内腔波导1110可直接被耦合到光源,而无需任何居间跳线波导1106。
图11示出了数字成像系统1100,该数字成像系统利用最小焊盘互连器来减小与缺光环境内的内窥镜装置一起使用的图像传感器的尺寸。图11所示的数字成像系统1100包括在缺光环境中使用的内窥镜装置1102。内窥镜装置1102包括内窥镜1104、内窥镜外壳1106、控制器1108、电子通信装置1120、光源1110、光缆1126、显示器1112和成像装置1114。电子通信1120可包括电子电缆或其他形式的有线或无线通信。在一些实施方案中,光缆1126可为光纤电缆。成像装置1114可以是图像传感器,诸如具有像素阵列的CMOS图像传感器。
在图11所示的示例中,为了便于讨论,内窥镜装置1104、内窥镜外壳1106、控制器1108、光源1110、显示器1112和成像装置1114相对于彼此单独示出。然而,应当理解和明白,这不应被理解为是限制性的,并且这些部件中的任何一个或多个部件都可以任何合适的方式集成和/或连接。应当理解,图像传感器用像素阵列感测所反射的电磁辐射。像素阵列响应于电磁辐射脉冲而生成包括图像数据的曝光帧。处理器1124可检测图像帧内的图像纹理和边缘,并且可进一步增强图像帧内的纹理和边缘。无论是在外壳1106中还是在控制器1108处,处理器1124还可从存储器检索与像素技术和所施加的传感器增益有关的特性,以评估对由图像传感器产生的图像帧内的噪声量值的预期,并且使用该噪声预期来控制边缘增强应用。可通过顺序地组合多个图像帧来产生图像帧流,其中每个图像帧包括来自多个曝光帧的数据。
应当理解,用于腹腔镜、关节镜、泌尿科、妇科和ENT(耳鼻喉)规程的传统棒状透镜内窥镜因其复杂的光学组成而需要高昂的制造费用。入射图像信息沿内窥镜的整个长度在光域中传输。通常,这些常规内窥镜光学耦合到包括图像传感器的手持件单元。这种类型的常规内窥镜是精密的,并且在处理、使用和消毒期间容易损坏。必要的修理和消毒过程为利用它们的每个过程增加了额外的费用。
可通过将图像感测装置放置在内窥镜的远侧端部处来改善内窥镜1102。在此类实施方案中,可以用简单的塑料透镜堆叠代替光学传输组件。此类内窥镜的价格可能非常低廉,因此将它们制造成只供单次使用,随后进行处理或回收可能更具经济意义,因为这样将不再需要修理和消毒过程。
然而,当图像传感器位于内窥镜1102的远侧端部处时,图像传感器必须非常小。内窥镜1102的远侧端部在x维度和y维度上受到空间约束。减小图像传感器的尺寸的一种方法是减少图像传感器芯片内的接合焊盘的数量。每个接合焊盘占据图像传感器芯片上的显著物理空间。每个接合焊盘用于向和从图像传感器芯片提供功率或输入/输出信号。因此,为了尽量减少面积,希望减少接合焊盘的数量。本公开描述了用于通过将数字输入和输出功能组合到相同的双向焊盘中来减少焊盘计数的系统和方法。在图像传输期间,这些双向焊盘充当差分输出。在一个实施方案中,在每个曝光帧的限定部分期间,双向焊盘切换方向以接收命令。在此类实施方案中,相机控制电子器件被同步,使得当双向焊盘被配置为接收命令时,命令在特定时间被发出给图像传感器双向焊盘。
除此之外,在内窥镜系统的上下文中,可通过定制图像传感器从内窥镜手持件接收命令和信息来增强简单性和可制造性。信息可被结合到由图像传感器发出的输出数据中。这样减少了从内窥镜到相机系统的总导体计数。此类信息源可包括用户发起的按钮事件或内窥镜相对于手持件的旋转角度的测量。内窥镜的某些实施方案需要角度测量,其中内窥镜的图像传感器放置在远侧端部处。
CMOS图像传感器通常结合两个不同的电源,从而需要三个焊盘:VDD1、VDD2和GND。两个电压中的较高电压主要用于对像素阵列加偏压的目的。偶尔,两个电压中的较高电压也用于为输入电路和输出电路供电。在适用的情况下,两个电压中的较低电压通常用于为外围模拟电路和图像传感器的数字部分供电。
在一个实施方案中,通过仅使用单个外部电源来减少焊盘计数。这可通过使用例如内部DC(直流电)至DC转换器或稳压器来提供多个内部电源来实现。此外,可通过仅提供单个功率电平来减少焊盘计数。然后可在芯片上导出第二功率电平。该实施方案可有效地从相机系统移除电源电路,诸如稳压器。
图12是图案重建过程的示意图。图12所示的示例性图案包括各自持续T1的持续时间的红色、绿色、蓝色和特殊光脉冲。在各种实施方案中,光脉冲可具有相同的持续时间或不同的持续时间。将红色曝光帧、绿色曝光帧、蓝色曝光帧和特殊曝光帧组合以生成其上叠加有特殊数据(诸如超光谱、荧光和/或激光标测数据)的RGB图像。包括红色曝光帧、绿色曝光帧、蓝色曝光帧和特殊曝光帧的单个图像帧需要生成4*T1的时间段。
图12所示的持续时间仅为示例性的,并且可针对不同的具体实施变化。例如,脉冲方案可包括光的红色、绿色、蓝色、超光谱、激光标测脉冲。替代脉冲方案可包括光的红色、绿色、蓝色、超光谱、荧光和激光标测脉冲。替代脉冲方案可包括光的红色、蓝绿色和超光谱脉冲。替代脉冲方案可包括光的红色、蓝绿色和荧光脉冲。替代脉冲方案可包括光的红色、蓝绿色和激光标测脉冲。应当理解,脉冲顺序可取决于期望的具体实施而变化。例如,红色、绿色和蓝色脉冲可比超光谱、荧光和激光标测脉冲中的任一者更频繁地脉冲。这可取决于特殊成像数据相对于RGB彩色成像数据的重要性而视情况来确定。
在其它实施方案中,可采用不同的脉冲方案。例如,实施方案可以基于每个颜色分量或帧(T1)的定时,并且重建帧具有的周期是输入彩色帧的周期的两倍(2×T1)。序列内的不同帧可具有不同帧周期,并且平均捕获速率可为最终帧速率的任何倍数。
在一个实施方案中,通过改变图像传感器的像素阵列内的像素的像素灵敏度来增加系统的动态范围。一些像素可感测第一灵敏度水平的所反射的电磁辐射,其他像素可感测第二灵敏度水平的所反射的电磁辐射,等等。可组合不同的像素灵敏度以增大由图像传感器的像素配置提供的动态范围。在一个实施方案中,相邻像素以不同的灵敏度设置,使得每个循环包括由相对于彼此较敏感和较不敏感的像素产生的数据。当在像素阵列的单个周期中记录多个灵敏度时,动态范围增大。在一个实施方案中,宽动态范围可通过具有多个全局TX来实现,每个TX仅在不同的一组像素上击发。例如,在全局模式下,全局TX1信号正在击发像素组1,全局TX2信号正在激发像素组2,全局TXn信号正在激发像素组n,等等。
图13A至图13C各自示出了具有多个发射器的光源1300。发射器包括第一发射器1302、第二发射器1304和第三发射器1306。可包括附加的发射器,如下文进一步讨论。发射器1302、1304和1306可包括发射具有不同波长的光的一个或多个激光发生器。例如,第一发射器1302可发射与蓝色激光器一致的波长,第二发射器1304可发射与绿色激光器一致的波长,并且第三发射器1306可发射与红色激光器一致的波长。例如,第一发射器1302可包括一个或多个蓝色激光器,第二发射器1304可包括一个或多个绿色激光器,并且第三发射器1306可包括一个或多个红色激光器。发射器1302、1304、1306朝收集区域1308发射激光器束,该收集区域可以是波导、透镜或用于收集光以及/或者向波导(诸如图2的跳线波导206或内腔波导210)提供光的其他光学部件的位置。
在一个具体实施中,发射器1302、1304和1306发射超光谱波长的电磁辐射。某些超光谱波长可刺穿组织并且使执业医生能够“透视”前方的组织以识别位于前方的组织后面的化学过程、结构、化合物、生物过程,等等。可具体地选择超光谱波长以识别已知具有特定光谱响应的特定疾病、组织状况、生物过程、化学过程、组织的类型,等等。
在已向患者施用有助于识别某些组织、结构、化学反应、生物过程等的试剂或染料的具体实施中,发射器1302、1304和1306可发射用于使试剂或染料发荧光的波长。此类波长可基于施用给患者的试剂或染料来确定。在此类实施方案中,发射器可能需要是高度精确的,以便发射所需波长以使某些试剂或染料发荧光或活化。
在一个具体实施中,发射器1302、1304和1306发射用于标测场景的拓扑结构以及/或者用于计算场景中对象的尺寸和它们之间的距离的激光标测图案。在一个实施方案中,内窥镜成像系统与多个工具诸如外科手术刀、牵开器、夹钳等结合使用。在此类实施方案中,发射器1302、1304和1306中的每个发射器可发射激光标测图案,使得激光标测图案单独地投影到每个工具上。在此类实施方案中,可分析每个工具的激光标测数据以识别工具与场景中其他对象之间的距离。
在图13B的实施方案中,发射器1302、1304、1306各自以不同的角度向收集区域1308递送激光。角度的变化可导致电磁能量在输出波导中的位置的变化。例如,如果光在收集区域1308处立即进入纤维束(玻璃或塑料)中,则变化的角度可导致不同量的光进入不同的纤维。例如,角度可导致横跨收集区域1308的强度变化。此外,来自不同发射器的光可不会被均匀地混合,因此一些纤维可接收不同量的不同颜色的光。不同纤维中的光的颜色或强度的变化可导致场景的非最佳照明。例如,递送光或光强度的变化可在场景和所捕获图像处导致。
在一个实施方案中,居间光学元件可放置在纤维束和发射器1302、1304、1306之间,以在进入纤维或其他波导中之前混合不同颜色(波长)的光。示例性居间光学元件包括漫射器、混合棒、一个或多个镜片,或用于混合光使得给定纤维接收每种颜色(波长)的相同量的其它光学部件。例如,纤维束中的每根纤维可具有相同的颜色。该混合可导致每根纤维中的相同的颜色,但是,在一些实施方案中,仍可导致递送到不同纤维的不同的总亮度。在一个实施方案中,居间光学元件也可在收集区域上传播或均匀地传播光,使得每根纤维携带相同总量的光(例如,光可能在顶帽式轮廓中散开)。漫射器或混合棒可导致光损失。
尽管收集区域1308在图13A中表示为物理部件,但收集区域1308可以简单地作为递送来自发射器1302、1304和1306的光的区域。在一些情况下,收集区域1308可包括光学部件,诸如漫射器、混合棒、透镜,或处于发射器1302、1304、1306和输出波导之间的任何其他居间光学部件。
图13C示出了具有以相同或大致相同的角度向收集区域1308提供光的发射器1302、1304、1306的光源1300的实施方案。光以基本上垂直于收集区域1308的角度提供。光源1300包括多个二向色镜,包括第一二向色镜1310、第二二向色镜1312和第三二向色镜1314。二向色镜1310、1312、1314包括反射第一波长的光但透射第二波长(或对其透明)的光的反射镜。例如,第三二向色镜1314可反射由第三发射器提供的蓝色激光,而对第一发射器1302和第二发射器1304各自提供的红光和绿光透明。第二二向色镜1312可对来自第一发射器1302的光透明,但对来自第二发射器1304的光进行反射。如果包括其它颜色或波长,则可选择二向色镜以反射对应于至少一个发射器的光并且对其它发射器透明。例如,第三二向色镜1314反射来自第三发射器1306的光,但对其“后面”的发射器诸如第一发射器1302和第二发射器1304透明。在其中存在数十或数百个发射器的实施方案中,每个二向色镜可反射对应发射器和其前面的发射器,同时对其后面的发射器透明。这可允许数十或数百个发射器以基本上相同的角度将电磁能量发射到收集区域1308。
因为这些二向色镜允许其他波长透射或穿过,这些波长中的每个波长可从相同的角度以及/或者以相同的中心点或焦点到达收集区域1308。从相同的角度和/或相同的焦点/中心点提供光可显著改善在收集区域1308处的接收和颜色混合。例如,特定纤维可以接收不同的颜色,这些颜色的比例与它们由发射器1302、1304、1306和反射镜1310、1312、1314透射/反射的比例相同。与图13B的实施方案相比,可在收集区域处显著改善光混合。在一个实施方案中,本文所讨论的任何光学部件可在收集区域1308处使用,以在向纤维或纤维束提供光之前收集光。
图13C示出了具有也以相同或大致相同的角度向收集区域1308提供光的发射器1302、1304、1306的光源1300的实施方案。例如,入射在收集区域1308上的光从垂直偏移。角度1316指示从垂直偏移的角度。在一个实施方案中,激光发射器1302、1304、1306可具有高斯横截面强度轮廓。如前所述,纤维之间的光能量的改善的分布可通过形成更平坦或顶帽形的强度轮廓来实现。在一个实施方案中,随着角度1316的增大,横跨收集区域1308的强度接近顶帽式轮廓。例如,通过增大角度1316直到轮廓足够平坦,顶帽式轮廓甚至可近似为非平坦输出光束。顶帽式轮廓也可使用一个或多个透镜、漫射器、混合棒,或处于发射器1302、1304、1306和输出波导、纤维或光纤束之间的任何其他居间光学部件来实现。
图14是示出了在输出处经由漫射器1404输出的单根光纤1402的示意图。在一个实施方案中,光纤1402具有500微米的直径,0.65的数值孔径,并且在没有漫射器1404的情况下发射约70度或80度的光锥1406。在有漫射器1404的情况下,光锥1406可具有从约110度或120度的角度。光锥1406可以是所有光到达并且均匀分布的地方的大部分。漫射器1404可允许由图像传感器观察到的场景的电磁能量的更均匀分布。
在一个实施方案中,内腔波导210包括约500微米的单个塑料或玻璃光纤。塑料纤维的成本较低,但通过耦合、漫射或其他损耗,其宽度可允许纤维将足够量的光传携带到场景。例如,较小的纤维可能不能携带与较大纤维一样多的光或功率。内腔波导210可包括单根或多根光纤。内腔波导210可直接从光源或者经由跳线波导接收光。漫射器可用于加宽光输出206以获得图像传感器214或其他光学部件的期望的视场。
虽然在图13A至图13C中示出了三个发射器,但在一些实施方案中可使用数量从一到数百个或更多个不等的发射器。发射器可具有它们发射的不同波长或光谱的光,并且这些光可用于连续覆盖电磁光谱的所需部分(例如,可见光谱以及红外光谱和紫外光谱)。发射器可被配置为发射可见光诸如红光、绿光和蓝光,并且可进一步被配置为发射电磁辐射的超光谱发射、用于使试剂发荧光的荧光激发波长和/或用于计算参数和场景中对象之间的距离的激光标测图案。
图15示出了被分成二十个不同子光谱的电磁光谱1500的一部分。子光谱的数量仅为示例性的。在至少一个实施方案中,光谱1500可被分成数百个子光谱,每个子光谱具有小波带。光谱可从红外光谱1502延伸,穿过可见光谱1504,并且进入紫外光谱1506。子光谱各自具有覆盖光谱1500的一部分的波带1508。每个波带可由上波长和下波长限定。
超光谱成像包括来自整个电磁光谱1500的成像信息。电磁辐射的超光谱脉冲可包括跨越电磁波谱1500的一个或多个部分或整个电磁波谱1500的多个子脉冲。电磁辐射的超光谱脉冲可包括电磁辐射的波长的单个分区。所得超光谱曝光帧包括在电磁辐射的超光谱脉冲之后由像素阵列感测的信息。因此,超光谱曝光帧可包括用于电磁频谱1500的任何合适分区的数据,并且可包括用于电磁频谱1500的多个分区的多个曝光帧。在一个实施方案中,超光谱曝光帧包括多个超光谱曝光帧,使得组合的超光谱曝光帧包括整个电磁光谱1500的数据。
在一个实施方案中,至少一个发射器(诸如激光发射器)包括在光源(诸如光源202、1300)中以提供对整个光谱1500的完整且连续的覆盖。例如,用于提供对所示子光谱的覆盖的光源可包括至少20个不同的发射器,每个子光谱至少有一个发射器。在一个实施方案中,每个发射器覆盖40纳米的光谱。例如,一个发射器可发射500nm至540nm的波带内的光,而另一个发射器可发射540nm至580nm的波带内的光。在另一个实施方案中,发射器可覆盖其它尺寸的波带,这取决于可用发射器的类型或成像需要。例如,多个发射器可包括覆盖500nm至540nm的波带的第一发射器、覆盖540nm至640nm的波带的第二发射器,以及覆盖640nm至650nm的波带的第三发射器。每个发射器可覆盖范围从远红外、中红外、近红外、可见光、近紫外和/或远紫外的电磁光谱的不同片段。在一些情况下,可包括相同类型或波长的多个发射器以提供用于成像的足够输出功率。特定波带所需的发射器数量可取决于单色传感器对波带的灵敏度和/或该波带中发射器的功率输出能力。
可选择由发射器提供的波带宽度和覆盖率以提供光谱的任何所需组合。例如,使用非常小的波带宽度(例如,10nm或更小)的光谱的连续覆盖可允许高度选择性的超光谱和/或荧光成像。波带宽度可允许选择性地发射一种或多种特定荧光试剂的激发波长。另外,波带宽度可允许选择性地发射超光谱电磁辐射的某些分区,以用于识别特定结构、化学过程、组织、生物过程,等等。因为波长来自可选择性激活的发射器,所以可实现在检查期间对一种或多种特定荧光试剂发荧光的极大灵活性。另外,可实现通过超光谱成像来识别一个或多个对象或过程的极端灵活性。因此,更多的荧光和/或高光谱信息可在更少的时间内并且在单次检查内实现,这原本需要多次检查、由于染料的施用或污渍而延迟,等等。
图16是示出了用于生成图像的发射和读出的定时图1600的示意图。实线表示用于捕获一系列曝光帧1604至1614的读出(峰1602)和消隐周期(谷)。一系列曝光帧1604至1614可包括可用于生成可叠加在RGB视频流上的激光标测、超光谱和/或荧光数据的一系列重复的曝光帧。在一个实施方案中,单个图像帧包括来自多个曝光帧的信息,其中一个曝光帧包括红色图像数据,另一个曝光帧包括绿色图像数据,并且另一个曝光帧包括蓝色图像数据。另外,单个图像帧可包括超光谱图像数据、荧光图像数据和激光标测数据中的一者或多者。组合多个曝光帧以产生单个图像帧。单个图像帧是具有超光谱成像数据的RGB图像。该系列曝光帧包括第一曝光帧1604、第二曝光帧1606、第三曝光帧1608、第四曝光帧1610、第五曝光帧1612和第N曝光帧1626。
另外,可组合使用超光谱图像数据、荧光图像数据和激光标测数据来识别关键组织或结构,并且进一步测量那些关键组织或结构的尺寸。例如,可将超光谱图像数据提供给对应的系统以识别身体中的某些关键结构,诸如神经、输尿管、血管、癌组织,等等。关键结构的位置和标识可从对应的系统接收,并且还可用于使用激光标测数据生成关键结构的拓扑结构。例如,对应的系统基于超光谱成像数据确定癌性肿瘤的位置。由于癌性肿瘤的位置基于超光谱成像数据是已知的,因此可基于激光标测数据来计算癌性肿瘤的形貌和距离。当基于荧光成像数据识别癌性肿瘤或其他结构时,该示例也可适用。
在一个实施方案中,基于电磁能量的至少一个脉冲生成每个曝光帧。电磁能量脉冲被图像传感器反射并且检测,并且随后在后续读出(1602)中读出。因此,每个消隐周期和读出导致用于特定电磁能量光谱的曝光帧。例如,第一曝光帧1604可基于第一一个或多个脉冲1616的光谱生成,第二曝光帧1606可基于第二一个或多个脉冲1618的光谱生成,第三曝光帧1608可基于第三一个或多个脉冲1620的光谱生成,第四曝光帧1610可基于第四一个或多个脉冲1622的光谱生成,第五曝光帧1612可基于第五一个或多个脉冲2424的光谱生成,并且第N曝光帧1626可基于第N一个或多个脉冲1626的光谱生成。
脉冲1616至1626可包括来自单个发射器或来自两个或更多个发射器的组合的能量。例如,可选择包括在单个读出周期中或多个曝光帧1604至1614内的光谱以用于对特定组织或状况的所需检查或检测。根据一个实施方案,一个或多个脉冲可包括用于生成RGB或黑色图像的可见光谱的光,而一个或多个附加脉冲被发射为感测对超光谱波长的电磁辐射的光谱响应。例如,脉冲1616可包括红光,脉冲1618可包括蓝光,并且脉冲1620可包括绿光,而其余脉冲1622至1626可包括用于检测特定组织类型、使试剂发荧光和/或标测场景的拓扑结构的波长和光谱。又如,单个读出周期的脉冲包括由可用于检测特定组织类型的多个不同发射器生成的光谱(例如,电磁光谱的不同片段)。例如,如果波长的组合导致像素具有超过或低于阈值的值,则该像素可被分类为对应于特定类型的组织。每一帧可用于进一步缩小存在于该像素(例如,以及图像中的每个像素)处的组织的类型,以基于组织的光谱响应和/或组织中是否存在荧光试剂来提供组织和/或组织的状态(患病/健康)的非常具体的分类。
多个帧1604至1614被示出为具有不同长度的读出周期并且具有不同长度或强度的脉冲。消隐周期、脉冲长度或强度等可基于单色传感器对特定波长的灵敏度、发射器的功率输出能力和/或波导的携带能力来选择。
在一个实施方案中,双图像传感器可用于获得三维图像或视频馈送。三维检查可允许对检查区域的三维结构的改善的理解以及对该区域内的不同组织或物质类型的标测。
在一个示例性具体实施中,向患者提供荧光试剂,并且荧光试剂被配置成粘附到癌细胞。已知荧光试剂在被电磁辐射的特定分区辐射时发荧光。荧光试剂的弛豫波长也是已知的。在示例性具体实施中,用如本文所述的内窥镜成像系统对患者进行成像。内窥镜成像系统脉冲红色、绿色和蓝色波长的光的分区,以生成患者身体内部的RGB视频流。另外,内窥镜成像系统对施用给患者的荧光试剂的激发波长的电磁辐射进行脉冲。在示例中,患者具有癌细胞,并且荧光试剂已粘附到癌细胞。当内窥镜成像系统使荧光试剂的激发波长脉冲时,荧光试剂将发荧光并且发出弛豫波长。如果癌细胞存在于由内窥镜成像系统成像的场景中,则荧光试剂也将存在于场景中,并且在发荧光后由于激发波长的发射而发出其弛豫波长。内窥镜成像系统感测荧光试剂的弛豫波长,从而感测场景中荧光试剂的存在。因为已知荧光试剂粘附到癌细胞,所以荧光试剂的存在进一步指示场景内癌细胞的存在。内窥镜成像系统从而识别场景内癌细胞的位置。内窥镜成像系统还可发射激光标测脉冲方案,用于生成场景的拓扑结构并且计算场景内的对象的尺寸。(如由荧光成像数据所识别的)癌细胞的位置可与基于激光标测数据计算的拓扑结构和尺寸信息组合。因此,可识别癌细胞的精确位置、大小、尺寸和拓扑结构。可将该信息提供给执业医生以帮助切除癌细胞。另外,可将该信息提供给机器人外科系统,以使外科系统能够切除癌细胞。
在另一个示例性具体实施中,用内窥镜成像系统对患者进行成像,以识别关于患者组织病变的定量诊断信息。在该示例中,疑似或已知患者患有一种可利用超光谱成像跟踪以观察疾病在患者组织中的进程的疾病。内窥镜成像系统脉冲红色、绿色和蓝色波长的光的分区,以生成患者身体内部的RGB视频流。另外,内窥镜成像系统使一个或多个超光谱波长的光脉冲,从而允许系统“透视”一些组织并且生成受疾病影响的组织的成像。内窥镜成像系统感测所反射的超光谱电磁辐射以生成患病组织的超光谱成像数据,从而识别患病组织在患者体内的位置。内窥镜成像系统还可发射激光标测脉冲方案,用于生成场景的拓扑结构并且计算场景内对象的尺寸。(如由超光谱成像数据所识别的)患病组织的位置可与用激光标测数据计算的拓扑结构和尺寸信息组合。因此,可识别患病组织的精确位置、大小、尺寸和拓扑结构。可将该信息提供给执业医生以帮助切除、成像或研究患病组织。另外,可将该信息提供给机器人外科系统,以使外科系统能够切除患病组织。
图17是具有单个截止滤光器的成像系统1700的示意图。系统1700包括内窥镜1706或具有用于缺光环境的光源1708的其他合适的成像装置。内窥镜1706包括图像传感器1704和滤光器1702,该滤光器用于在到达图像传感器1704之前滤除不需要的波长的光或其他电磁辐射。光源1708传输可在缺光环境诸如体腔中照明表面1712的光。光1710从表面1712反射并且在击中图像传感器1704之前穿过滤光器1702。
滤光器1702可用于已施用荧光试剂或染料的具体实施中。在此类实施方案中,光源1708发射激发波长以用于使荧光试剂或染料发荧光。通常,由荧光试剂或染料发射的弛豫波长将具有与激发波长不同的波长。滤光器1702可被选择为滤除激发波长并且仅允许弛豫波长穿过滤光器并且由图像传感器1704感测。
在一个实施方案中,滤光器1702被配置为滤除电磁辐射的引起试剂或染料发荧光的激发波长,使得仅允许发荧光的试剂或染料的预期弛豫波长穿过滤光器1702并且到达图像传感器1704。在一个实施方案中,滤光器1702滤除至少介于770nm和790nm之间的荧光试剂激发波长。在一个实施方案中,滤光器1702滤除至少介于795nm和815nm之间的荧光试剂激发波长。在一个实施方案中,滤光器1702滤除至少介于770nm和790nm之间以及介于795nm和815nm之间的荧光试剂激发波长。在这些实施方案中,滤光器1702滤除试剂的激发波长,并且允许由图像传感器1704读取荧光试剂的仅弛豫波长。图像传感器1704可以是波长不定图像传感器,并且滤光器1702可被配置为允许图像传感器1704仅接收荧光试剂的弛豫波长而不接收试剂的所发射激发波长。然后由图像传感器1704确定的数据可指示由试剂或染料的位置确定的关键身体结构、组织、生物过程或化学过程的存在。
滤光器1702还可用于尚未施用荧光试剂或染料的具体实施中。可选择滤光器1702以允许对应于期望的光谱响应的波长穿过图像传感器1704并且由该图像传感器读取。图像传感器1704可为单色图像传感器,使得可将所捕获图像的超过阈值或低于阈值的像素表征为对应于某些光谱响应或荧光发射。由图像传感器1704捕获的像素确定的光谱响应或荧光发射可指示某些身体组织或结构、某些病症、某些化学过程等的存在。
图18是具有多个截止滤光器的成像系统1800的示意图。系统1800包括内窥镜1806或具有用于缺光环境的光源1808的其他合适的成像装置。内窥镜1806包括图像传感器1804和两个滤光器1802a、1802b。应当理解,在另选的实施方案中,系统1800可包括任何数量的滤光器,并且可针对某些目的选择滤光器的数量和滤光器的类型,例如,用于采集特定身体组织、身体病症、化学过程等的成像信息。滤光器1802a、1802b被配置用于防止图像传感器1804感测到不需要的波长的光或其他电磁辐射。滤光器1802a、1802b可被配置为从可由光源1808发射的白光或其他电磁辐射中滤除不需要的波长。
相对于图17进一步描述本发明,滤光器1802a、1802b可用于已施用荧光试剂或染料的具体实施中。滤光器1802a、1802b可被配置用于阻挡试剂或染料的发射激发波长,并且允许图像传感器1804仅读取试剂或染料的弛豫波长。此外,滤光器1802a、1802b可用于尚未施用荧光试剂或染料的具体实施中。在此类具体实施中,可选择滤光器1802a、1802b以允许对应于期望的光谱响应的波长穿过图像传感器1804并且由该图像传感器读取。
多个滤光器1802a、1802b可各自被配置用于滤除电磁光谱的不同范围的波长。例如,一个滤光器可被配置用于滤除长于所需波长范围的波长,并且附加滤光器可被配置用于滤除短于所需波长范围的波长。两个或更多个滤光器的组合可导致仅某些波长或波长带由图像传感器1804读取。
在一个实施方案中,滤光器1802a、1802b被定制为使得介于513nm和545nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于565nm和585nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于900nm和1000nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于417nm和475nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于520nm和545nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于617nm和645nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于760nm和795nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于795nm和815nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于370nm和420nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被定制为使得介于600nm和670nm之间的电磁辐射接触图像传感器1804。在一个实施方案中,滤光器1802a、1802b被配置用于允许仅某些荧光弛豫发射穿过滤光器1802a、1802b并且接触图像传感器1804。在一个实施方案中,第一滤光器阻挡具有从约770nm至约790nm的波长的电磁辐射,并且第二滤光器阻挡具有从约795nm至约815nm的波长的电磁辐射。
在一个实施方案中,系统1800包括多个图像传感器1804,并且可具体地包括用于生成三维图像的两个图像传感器。图像传感器1804可以是颜色/波长不定的,并且被配置用于读取从表面1812反射的任何波长的电磁辐射。在一个实施方案中,图像传感器1804各自是颜色相关的或波长相关的,并且被配置用于读取从表面1812反射并且返回到图像传感器1804的特定波长的电磁辐射。另选地,图像传感器1804可包括具有多个不同像素传感器的单个图像传感器,该多个不同像素传感器被配置用于读取不同波长或颜色的光,诸如拜耳滤光器颜色滤光器阵列。另选地,图像传感器1804可包括一个或多个颜色不定图像传感器,这些图像传感器可被配置用于根据脉冲调度(诸如图5至图7E中所示的那些)读取不同波长的电磁辐射。
图19是示出用于在缺光环境中通过激光标测成像来标测表面和/或跟踪对象的系统1900的示意图。在一个实施方案中,内窥镜1906在缺光环境中脉冲网格阵列1906(可称为激光标测图图案)到表面1904上。在如图19中所示的一个实施方案中,网格阵列1906包括竖直散列1908和水平散列1910。应当理解,网格阵列1906可包括用于标测表面1904的任何合适的阵列,包括例如离散点的光栅网格、占用网格标测图、点阵列等。另外,内窥镜1906可脉冲多个网格阵列1906,并且可例如在缺光环境内在多个对象或结构中的每一者上脉冲一个或多个单独的网格阵列。
在一个实施方案中,系统1900脉冲网格阵列1906,该网格阵列可用于在缺光环境中标测表面的三维拓扑和/或跟踪对象诸如工具或另一装置的位置。在一个实施方案中,系统1900向第三方系统或计算机算法提供数据,以用于通过光检测和测距(LIDAR)标测的方式来确定表面尺寸和配置。系统1900可脉冲网格阵列1906中的任何合适波长的光或电磁辐射,包括例如紫外光、可见光、光、和/或红外光或近红外光。可以非常高的分辨率并且以非常高的准确度和精度标测和跟踪环境内的表面1904和/或对象。
在一个实施方案中,系统1900包括成像装置,该成像装置具有管、一个或多个图像传感器和透镜组件,该透镜组件具有对应于该一个或多个图像传感器的光学元件。系统1900可包括光引擎,该光引擎具有发射器和内腔,该发射器生成一个或多个电磁辐射脉冲,该内腔将该一个或多个电磁辐射脉冲传输到缺光环境诸如体腔内的内窥镜的远侧末端。在一个实施方案中,该一个或多个电磁辐射脉冲的至少一部分包括发射到缺光环境内的表面(诸如,体腔内的身体组织的表面和/或工具或其它装置的表面)上的激光标测图图案。内窥镜1906可包括二维、三维或n维相机,用于标测和/或跟踪缺光环境内的表面、尺寸和配置。
在一个实施方案中,系统1900包括处理器,该处理器用于确定内窥镜或工具与对象诸如表面1904的距离。处理器还可确定内窥镜或工具与对象之间的角度。处理器还可确定关于对象的表面积信息,包括例如外科工具的尺寸、结构的尺寸、解剖结构的尺寸、位置信息以及其它位置数据和度量。系统1900可包括一个或多个图像传感器,该一个或多个图像传感器提供输出到控制系统的图像数据,以用于确定内窥镜或工具与对象诸如表面1904的距离。图像传感器可将信息输出到控制系统以用于确定内窥镜或工具与对象之间的角度。另外,图像传感器可将信息输出到控制系统,以用于确定关于对象的表面积信息、外科工具的尺寸、结构的尺寸、解剖结构的尺寸、位置信息以及其它位置数据和度量。
在一个实施方案中,网格阵列1906由内窥镜1906的发射器以足够的速度脉冲,使得网格阵列1906对于用户不可见。在各种具体实施中,在内窥镜成像规程和/或内窥镜外科手术期间看到网格阵列1906可能使用户分心。可以足够短的周期脉冲网格阵列1906,使得网格阵列1906不能被人眼检测到。在另选的实施方案中,内窥镜1906以足够的复现频率脉冲网格阵列1906,使得网格阵列1906可由用户查看。在此类实施方案中,网格阵列1906可叠加在显示器上的表面1904的图像上。网格阵列1906可叠加在表面1904的黑白或RGB图像上,使得网格阵列1906在系统1900的使用期间可对用户可见。系统1900的用户可指示网格阵列1906是否应叠加在表面1904的图像上和/或网格阵列1906是否应对用户可见。系统1900可包括显示器,该显示器提供从内窥镜1906到缺光环境内的表面1904或另一个对象的距离的实时测量值。显示器还可提供关于缺光环境内的表面1904和/或任何对象、结构或工具的实时表面积信息。测量的准确度可精确到小于一毫米。
在一个实施方案中,系统1900脉冲多个网格阵列1906。在一个实施方案中,多个网格阵列1906中的每一者对应于缺光环境内存在的工具或其他装置。可通过脉冲和感测多个网格阵列1906来跟踪工具和其他装置中的每一者的精确位置和参数。可评估通过感测反射的网格阵列1906而生成的信息来识别缺光环境内的工具和其他装置的相对位置。
内窥镜1906可根据脉冲调度(诸如本文所示的那些)脉冲电磁辐射,这还可包括脉冲网格阵列1906并且脉冲用于生成RGB图像并还生成可叠加在RGB图像上并且/或者用于标测并跟踪缺光环境内的表面1904和对象的网格阵列1906的红光、绿光和蓝光。网格阵列1906可另外地结合电磁辐射的超光谱或荧光激发波长进行脉冲。可组合来自RGB成像、激光标测成像、超光谱成像和荧光成像中的每一者的数据,以识别体内关键结构的位置、尺寸和表面拓扑。
在一个实施方案中,内窥镜1906包括一个或多个颜色不定图像传感器。在一个实施方案中,内窥镜1906包括用于生成缺光环境的三维图像或标测图的两个颜色不定图像传感器。图像传感器可根据如本文所公开的脉冲调度生成缺光环境的RGB图像。另外,图像传感器可基于在脉冲网格阵列1906时确定的数据来确定用于标测缺光环境并跟踪缺光环境内的一个或多个对象的数据。另外,图像传感器可根据脉冲调度来确定光谱或超光谱数据以及荧光成像数据,该脉冲调度可由用户修改以适应成像规程的特定需要。在一个实施方案中,脉冲调度包括红色、绿色和蓝色脉冲以及网格阵列1906的脉冲和/或用于生成超光谱图像数据和/或荧光图像数据的脉冲。在各种具体实施中,脉冲调度可包括根据用户需要的电磁辐射脉冲的任何合适的组合。不同波长的电磁辐射的复现频率可基于例如某些脉冲的能量、用户的需要、某些数据(例如,超光谱数据和/或荧光成像数据)需要连续更新还是可更新较不频繁等来确定。
根据用户或用于某些成像规程的计算机实现的程序的需要,脉冲调度可以任何合适的方式修改,并且某些电磁辐射脉冲可以任何合适的频率重复。例如,在将基于网格阵列1906生成的表面跟踪数据提供给计算机实现的程序以用于例如机器人外科手术的实施方案中,网格阵列1906可比在将表面跟踪数据提供给在成像规程期间可视化场景的用户的情况下更频繁地脉冲。在表面跟踪数据用于机器人外科手术的此类实施方案中,表面跟踪数据可能需要更频繁地更新或者可能需要极为准确,使得计算机实现的程序可精密而准确地执行机器人外科手术。
在一个实施方案中,系统1900被配置为生成占用网格标测图,该占用网格标测图包括被划分为网格的单元阵列。系统1900被配置为存储相应网格单元中的每个的高度值以确定缺光环境中的三维环境的表面标测。
图20A和图20B分别示出根据本公开的教导内容和原理的单片传感器2000的具体实施的透视图和侧视图,该单片传感器具有用于产生三维图像的多个像素阵列。此类具体实施可能是三维图像捕获所期望的,其中在使用期间两个像素阵列2002和2004可被偏移。在另一个具体实施中,第一像素阵列2002和第二像素阵列2004可专用于接收预先确定的波长范围的电磁辐射,其中该第一像素阵列专用于与该第二像素阵列不同波长范围的电磁辐射。
图21A和图21B分别示出了构建在多个基板上的成像传感器2100的具体实施的透视图和侧视图。如图所示,形成该像素阵列的多个像素列2104位于第一基板2102上并且多个电路列2108位于第二基板2106上。图中还示出了一个像素列与其相关联的或对应的电路列之间的电连接和通信。在一个具体实施中,图像传感器可具有与全部或大部分支撑电路分开的像素阵列,而其可能以其它方式被制造成它的像素阵列和支撑电路处于单个、单片基板/芯片上。本公开可使用至少两个基板/芯片,这些基板/芯片将使用三维堆叠技术被堆叠在一起。两个基板/芯片中的第一2102可使用图像CMOS工艺加工。第一基板/芯片2102可仅仅由像素阵列构成,或可由被有限电路围绕的像素阵列构成。第二或后续基板/芯片2106可使用任何工艺加工,而不是必须来自图像CMOS工艺。第二基板/芯片1306可以是但不限于,为了将各种和多个功能集成到基板/芯片上非常有限空间或面积中的高密度数字工艺、或为了集成例如精确模拟功能的混合模式或模拟工艺、或为了实现无线能力的RF工艺、或为了集成MEMS器件的MEMS(微电子机械系统)。图像CMOS基板/芯片2102可使用任何三维技术与第二或后续基板/芯片2106堆叠。第二基板/芯片2106可支撑将可能另外在第一图像CMOS芯片2102中实现(如果在单片基板/芯片上实现)为外围电路的电路的绝大部分或大部分,并且因此当保持像素阵列大小恒定并尽最大可能优化时增加了整个系统面积。两个基板/芯片之间的电连接可通过互联器完成,这些互联器可以为接合引线、凸耳和/或TSV(硅通孔)。
图22A和图22B分别示出了具有用于产生三维图像的多个像素阵列的成像传感器2200的具体实施的透视图和侧视图。三维图像传感器可被构建在多个基板上并且可包括多个像素阵列和其他相关联的电路,其中形成第一像素阵列的多个素列2204a和形成第二像素阵列的多个像素列2204b分别位于相应的基板2202a和2202b上,并且多个电路列2208a和2208b位于单独的基板2206上。还示出了像素列与相关联的或对应的电路列之间的电连接和通信。
多个像素阵列可同时感测信息,并且来自多个像素阵列的信息可被组合以生成三维图像。在一个实施方案中,内窥镜成像系统包括可被部署以生成三维成像的两个或更多个像素阵列。内窥镜成像系统可包括用于在像素阵列的消隐周期期间发射电磁辐射脉冲的发射器。像素阵列可被同步,使得针对两个或更多个像素阵列,同时读取光学黑色像素(即,发生消隐周期)。发射器可发射电磁辐射脉冲以用于对两个或更多个像素阵列中的每个像素阵列充电。两个或更多个像素阵列可同时读取其相应的带电像素,使得两个或更多个像素阵列的读出周期同时或大致同时发生。在一个实施方案中,内窥镜成像系统包括多个发射器,其中每个发射器单独地与多个像素阵列中的一个或多个像素阵列同步。来自多个像素阵列的信息可被组合以生成三维图像帧和视频流。
应当理解,本公开的教导内容和原理可用于可重复使用的装置平台、有限使用的装置平台、可重新设置使用的装置平台或单次使用/一次性的装置平台,而不脱离本公开的范围。应当理解,在可重复使用的装置平台中,最终使用人负责该装置的清洁和消毒。在有限使用的装置平台中,在变得不能操作之前,装置可被使用一些规定量的次数。典型的新装置在交付前已经过无菌处理,如果要用作其它用途,应在其它使用之前由最终用户进行清洗和消毒。在可重新设置使用的装置平台中,第三方可重新处理装置(例如,清洁、包装和消毒)单次使用的装置,以比新单元更低的成本用于另外使用。在单次使用/一次性的装置平台中,提供无菌装置至手术室并且在被处置掉之前只能使用一次。
实施例
以下实施例涉及另外的实施方案的优选特征:
实施例1为一种系统。本发明公开了一种系统,所述系统包括用于发射电磁辐射脉冲的发射器和包括用于感测所反射的电磁辐射的像素阵列的图像传感器。该系统包括用于感测由发射器发射的能量的电磁传感器。所述系统包括与所述发射器、所述电磁传感器和所述图像传感器电子通信的控制器,其中所述控制器被配置为同步所述发射器和所述图像传感器的定时以生成多个曝光帧。所述系统使得由所述发射器发射的所述电磁辐射脉冲的至少一部分包括以下一者或多者:具有从约513nm至约545nm的波长的电磁辐射;具有从约565nm至约585nm的波长的电磁辐射;具有从约900nm至约1000nm的波长的电磁辐射;引起试剂发荧光的电磁辐射激发波长;或激光标测图案。
实施例2为根据实施例1所述的系统,其中,所述发射器包括激光器束,并且所述激光器束包括多个分立激光单元,每个激光单元能够发射电磁辐射。
实施例3为根据实施例1至2中任一项所述的系统,其中,所述电磁传感器嵌入所述发射器内,并且其中,所述电磁传感器通过感测由所述激光器束内的所述多个分立激光单元中的至少一个、但少于全部的分立激光单元发射的能量来感测由所述发射器发射的能量。
实施例4为根据实施例1至3中任一项所述的系统,其中:所述电磁传感器向所述控制器提供由所述发射器发射的能量的值;并且所述控制器基于预先确定的已知输出和由所述发射器发射的能量的值来控制所述发射器的占空比,使得所述发射器以由所述图像传感器捕获的图像的期望的曝光来照明场景。
实施例5为根据实施例1至4中任一项所述的系统,其中:所述发射器包括多个激光器束,并且所述多个激光器束中的每个激光器束包括多个激光单元;所述系统包括用于所述多个激光器束中的每个激光器束的专用电磁传感器,使得由所述多个激光器束中的每个激光器束发射的能量由不同的专用电磁传感器感测;并且所述专用电磁传感器被配置为感测由为其分配的激光器束的所述多个激光单元中的至少一个、但少于全部的激光单元发射的能量。
实施例6为根据实施例1至5中任一项所述的系统,其中,所述控制器包括可配置用于执行存储在非暂态计算机可读存储介质中的指令的一个或多个处理器,所述指令包括:从所述电磁传感器接收由所述发射器发射的能量的值;将由所述发射器发射的能量的值与所述发射器的期望的光输出进行比较;确定由所述发射器发射的能量的值相对于所述发射器的所述期望的光输出是否在可接受的公差内;以及响应于由所述发射器发射的能量的值不在所述可接受的公差内,调节所述电磁辐射脉冲中的至少一个脉冲的持续时间。
实施例7为根据实施例1至6中任一项所述的系统,其中:所述发射器包括多个激光器束,并且所述多个激光器束中的每个激光器束包括多个激光单元,其中所述多个激光器束包括:红色激光器束,所述红色激光器束用于发射红色波长的电磁辐射;绿色激光器束,所述绿色激光器束用于发射绿色波长的电磁辐射;蓝色激光器束,所述蓝色激光器束用于发射蓝色波长的电磁辐射;超光谱激光器束,所述超光谱激光器束用于发射用于激发光谱响应的超光谱波长的电磁辐射;荧光激光器束,所述荧光激光器束用于发射用于使试剂发荧光的荧光激发波长;和激光标测器束,所述激光标测器束用于发射所述激光标测图案。
实施例8为根据实施例1至7中任一项所述的系统,其中,所述激光标测器束被配置为发射所述激光标测图案,使得距离、尺寸或三维形貌图中的一者或多者可基于由所述图像传感器响应于所述激光标测图案的发射而感测的反射的电磁辐射来计算。
实施例9为根据实施例1至8中任一项所述的系统,其中,所述图像传感器的所述像素阵列在所述像素阵列的读出周期期间感测反射的电磁辐射以生成所述多个曝光帧,其中所述读出周期是当所述像素阵列中的有源像素被读出时的持续时间。
实施例10为根据实施例1至9中任一项所述的系统,其中,由所述发射器发射的所述电磁辐射脉冲的至少一部分为用于使试剂发荧光的荧光激发波长,其中,所述荧光激发波长包括以下一者或多者:具有从约770nm至约790nm、或约795nm至约815nm的波长的电磁辐射。
实施例11为根据实施例1至10中任一项所述的系统,其中,所述发射器被配置为在脉冲持续时间期间发射具有短于所述脉冲持续时间的子持续时间的电磁辐射的多个子脉冲。
实施例12为根据实施例1至11中任一项所述的系统,其中,由所述发射器发射的所述电磁辐射脉冲中的一个或多个包括作为单个脉冲或单个子脉冲同时以两个或更多个波长发射的电磁辐射。
实施例13为根据实施例1至12中任一项所述的系统,其中,由所述发射器发射的所述电磁辐射脉冲的至少一部分为导致由所述图像传感器产生的荧光曝光帧的荧光激发发射,并且其中,所述控制器被配置为向对应的系统提供所述荧光曝光帧,所述对应的系统基于所述荧光曝光帧确定场景内关键组织结构的位置。
实施例14为根据实施例1至13中任一项所述的系统,其中,所述荧光激发发射包括以下各项中的每一者:具有从约770nm至约790nm的波长的电磁辐射;或具有从约795nm至约815nm的波长的电磁辐射。
实施例15为根据实施例1至14中任一项所述的系统,其中,所述控制器被进一步配置为:从所述对应的系统接收所述关键组织结构的位置;生成包括所述关键组织结构的位置的重叠帧;以及将所述重叠帧与描绘所述场景的彩色图像帧组合,以指示所述场景内所述关键组织结构的位置。
实施例16为根据实施例1至15中任一项所述的系统,其中,由所述像素阵列感测所述反射的电磁辐射包括通过感测由所述发射器脉冲所述激光标测图案而产生的反射的电磁辐射来生成激光标测曝光帧,并且其中所述控制器被进一步配置为:向对应的激光标测系统提供所述激光标测曝光帧,所述对应的激光标测系统确定所述场景的拓扑以及/或者所述场景内的一个或多个对象的尺寸;将所述关键组织结构的位置提供给所述对应的激光标测系统;以及从所述对应的激光标测系统接收所述关键组织结构的拓扑和/或尺寸。所述系统使得所述关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
实施例17为根据实施例1至16中任一项所述的系统,其中,所述控制器被配置为在所述图像传感器的消隐周期期间同步所述电磁辐射脉冲的定时,其中所述消隐周期对应于所述像素阵列中的最后一行有源像素的读出与所述像素阵列中的有源像素的下一个后续读出开始之间的时间。
实施例18为根据实施例1至17中任一项所述的系统,其中,由所述发射器发射的电磁辐射的两个或更多个脉冲导致反射电磁辐射的两个或更多个实例,所述反射电磁辐射的两个或更多个实例由所述像素阵列感测以生成两个或更多个曝光帧,所述两个或更多个曝光帧被组合以形成图像帧。
实施例19为根据实施例1至18中任一项所述的系统,其中,所述图像传感器包括第一图像传感器和第二图像传感器,使得所述图像传感器能够生成三维图像。
实施例20为根据实施例1至19中任一项所述的系统,其中,所述发射器被配置为重复发射足以生成包括多个图像帧的视频流的电磁辐射的脉冲序列,其中所述视频流中的每个图像帧包括来自多个曝光帧的数据,并且其中,所述曝光帧中的每个曝光帧对应于电磁辐射脉冲。
实施例21为根据实施例1至20中任一项所述的系统,其中,所述电磁辐射脉冲以不同波长的电磁辐射的模式发射,并且其中,所述发射器重复不同波长的电磁辐射的所述模式。
实施例22为根据实施例1至21中任一项所述的系统,其中,所述电磁辐射脉冲的至少一部分包括红色发射、绿色发射、蓝色发射和激光标测发射,使得由所述像素阵列感测的对应于所述红色发射、所述绿色发射、所述蓝色发射和所述激光标测发射中的每一者的反射的电磁辐射可被处理以生成包括激光标测数据的叠加的红-绿-蓝(RGB)图像帧。
实施例23为根据实施例1至22中任一项所述的系统,其中,所述电磁辐射脉冲的至少一部分包括亮度发射、红色色度发射、蓝色色度发射和激光标测发射,使得由所述像素阵列感测的对应于所述亮度发射、所述红色色度发射、所述蓝色色度发射和所述激光标测发射中的每一者的反射电磁辐射可被处理以生成包括激光标测数据的叠加的YCbCr图像帧。
实施例24为根据实施例1至23中任一项所述的系统,还包括与所述电磁传感器电子通信的运算放大器电路。
实施例25为根据实施例1至24中任一项所述的系统,其中,所述图像传感器被配置为生成多个曝光帧,其中所述多个曝光帧中的每个曝光帧对应于由所述发射器发射的电磁辐射脉冲。
实施例26为根据实施例1至25中任一项所述的系统,其中,所述发射器包括激光器束,并且所述系统还包括连接到所述激光器束的光纤,其中,所述电磁传感器连接到所述光纤。
实施例27为根据实施例1至25中任一项所述的系统,其中,所述电磁传感器为光电二极管。
实施例28为根据实施例1至27中任一项所述的系统,其中,所述发射器包括用于发射多个不同波长的电磁辐射的多个激光器束,并且所述系统包括用于独立地感测所述多个激光器束中的每个激光器束的多个电磁传感器。
实施例29为根据实施例1至28中任一项所述的系统,其中,所述发射器包括激光器束,并且所述电磁传感器设置在连接到所述激光器束的光纤中。
实施例30为根据实施例1至29中任一项所述的系统,还包括运算放大器电路,其中,所述电磁传感器与所述运算放大器电路电子连通。
实施例31为根据实施例1至30中任一项所述的系统,其中,所述控制器包括可配置用于执行存储在非暂态计算机可读存储介质中的指令的一个或多个处理器,所述指令包括:基于所述图像传感器的曝光水平来确定所述像素阵列中的像素的平均像素值;基于所述平均像素值计算所述图像传感器的所测量的曝光水平;基于所测量的曝光水平和期望的曝光水平来计算误差测量值;确定所述误差测量值是否在公差阈值内;以及响应于所述误差测量值不在所述公差阈值内,调节所述电磁辐射脉冲中的至少一个脉冲的波长和/或持续时间以使所述误差测量值处于所述公差阈值内。
实施例32为根据实施例1至31中任一项所述的系统,还包括滤光器,所述滤光器过滤具有从约770nm至约790nm的波长的电磁辐射。
实施例33为根据实施例1至32中任一项所述的系统,还包括滤光器,所述滤光器过滤具有从约795nm至约815nm的波长的电磁辐射。
实施例34为根据实施例1至33中任一项所述的系统,其中,由所述像素阵列感测反射的电磁辐射包括通过感测由所述发射器脉冲所述激光标测图案而产生的反射的电磁辐射来生成激光标测曝光帧,其中所述激光标测曝光帧包括用于确定实时测量值的信息,所述实时测量值包括以下一者或多者:从内窥镜到对象的距离;内窥镜和所述对象之间的角度;或者关于所述对象的表面拓扑信息。
实施例35为根据实施例1至34中任一项所述的系统,其中,所述激光标测曝光帧包括用于以小于10厘米的精度确定所述实时测量值的信息。
实施例36为根据实施例1至35中任一项所述的系统,其中,所述激光标测曝光帧包括用于以小于一毫米的精度确定所述实时测量值的信息。
实施例37为根据实施例1至36中任一项所述的系统,其中,由所述发射器发射的所述电磁辐射脉冲的至少一部分包括针对场景内的多个工具中的每一者的多个特定于工具的激光标测图案。
实施例38为根据实施例1至37中任一项所述的系统,其中,由所述发射器发射的所述激光标测图案包括彼此独立的第一输出和第二输出,其中所述第一输出用于光照明,并且所述第二输出用于工具跟踪。
实施例39为根据实施例1至38中任一项所述的系统,其中,由所述发射器发射的所述电磁辐射脉冲的至少一部分为导致由所述图像传感器产生的超光谱曝光帧的超光谱发射,并且其中,所述控制器被配置为向对应的超光谱系统提供所述超光谱曝光帧,所述对应的超光谱系统基于所述超光谱曝光帧来确定场景内关键组织结构的位置。
实施例40为根据实施例1至39中任一项所述的系统,其中,所述超光谱发射包括以下一者或多者:具有从约513nm至约545nm的波长的电磁辐射;具有从约565nm至约585nm的波长的电磁辐射;或具有从约900nm至约1000nm的波长的电磁辐射。
实施例41为根据实施例1至40中任一项所述的系统,其中,所述控制器还被配置为:从所述对应的超光谱系统接收所述关键组织结构的位置;生成包括所述关键组织结构的位置的重叠帧;以及将所述重叠帧与描绘所述场景的彩色图像帧组合,以指示所述场景内所述关键组织结构的位置。
实施例42为根据实施例1至41中任一项所述的系统,其中,由所述像素阵列感测所述反射的电磁辐射包括通过感测由所述发射器脉冲所述激光标测图案而产生的反射的电磁辐射来生成激光标测曝光帧,并且其中所述控制器被进一步配置为:向对应的激光标测系统提供所述激光标测曝光帧,所述对应的激光标测系统确定所述场景的拓扑以及/或者所述场景内的一个或多个对象的尺寸;将所述关键组织结构的位置提供给所述对应的激光标测系统;以及从所述对应的激光标测系统接收所述关键组织结构的拓扑和/或尺寸。
实施例43为根据实施例1至42中任一项所述的系统,其中,所述关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
实施例44为根据实施例1至43中任一项所述的系统,其中,所述超光谱激光器束包括以下一者或多者:第一超光谱束,所述第一超光谱束用于发射具有从约513nm至约545nm的波长的电磁辐射;第二超光谱束,所述第二超光谱束用于发射具有从约565nm至约585nm的波长的电磁辐射;或第三超光谱束,所述第三超光谱束用于发射具有从约900nm至约1000nm的波长的电磁辐射。
实施例45为根据实施例1至44中任一项所述的系统,其中,用于发射所述荧光激发波长的电磁辐射的所述荧光束包括以下一者或多者:用于发射具有从约770nm至约790nm的波长的电磁辐射的第一荧光束;或用于发射具有从约795nm至约815nm的波长的电磁辐射的第二荧光束。
应当理解,本文所公开的各种特征在本领域中提供了显著优势和进步。下列权利要求为那些特征中的一些的示例。
在上述本公开具体实施方式中,出于简化本公开的目的,将本公开的各个特征集中于单个实施方案中。本公开的方法不应理解为体现了这样的意图:受权利要求书保护的公开内容要求比每项权利要求中所明确列举的更多的特征。相反,创新方面未能体现上文公开的单个实施例的所有特征。
应当理解,上述布置方式、实施例和实施方案的任何特征可在包括从任何所公开的布置方式、实施例和实施方案中获得的特征的组合的单个实施方案中组合。
应当理解,上述设置只是本公开原理的示例性应用。在不脱离本公开精神和范围的前提下,本领域的技术人员可以设计许多修改和另选设置,并且所附权利要求书旨在涵盖这些修改和设置。
因此,当本公开以图示显示并且以特殊性和细节进行上述描述时,对于本领域的普通技术人员而言,在不脱离本文所述原则和理念的前提下,显而易见可进行大量修改,这些修改包括但不限于尺寸、材料、形状、形式、功能和操作方式、组装和使用方式的变化。
另外,在适当的情况下,本文所述的功能可通过硬件、软件、固件、数字部件或模拟部件中的一种或多种来执行。例如,可对一种或多种专用集成电路(ASIC)或现场可编程门阵列进行编程以执行本文所述的一种或多种系统和程序。在整个下面的描述和权利要求中所用的某些术语是指特定的系统部件。本领域的技术人员应当理解,部件可具有不同的名称。本文并非旨在在名称上而非功能上不同的部件之间进行辨别。
为了举例说明和描述的目的,已经提供了上述具体实施方式。这些具体实施方式并非意图为详尽的或将本公开限制为所公开的具体形式。根据上述教导内容可以对本公开进行许多修改和改变。另外,应当指出的是,任何或所有前述另选的具体实施可以任何期望的组合使用,以形成本公开的另外的混合的具体实施。
另外,虽然已描述和说明了本公开的特定具体实施,但是本公开并不限于如描述和说明的特定形式或部件布置。本公开的范围将由此处所附的权利要求、此处和不同申请中提交的任何未来的权利要求以及它们的等效物来限定。
Claims (33)
1.一种系统,包括:
发射器,所述发射器用于发射电磁辐射脉冲;
电磁传感器,所述电磁传感器用于感测由所述发射器发射的能量;
图像传感器,所述图像传感器包括用于感测所反射的电磁辐射的像素阵列;
控制器,所述控制器与所述发射器、所述电磁传感器和所述图像传感器电子通信,其中所述控制器被配置为同步所述发射器和所述图像传感器的定时;
其中由所述发射器发射的所述电磁辐射脉冲的至少一部分包括以下一者或多者:
具有从约513nm至约545nm的波长的电磁辐射;
具有从约565nm至约585nm的波长的电磁辐射;
具有从约900nm至约1000nm的波长的电磁辐射;
致使试剂发荧光的荧光激发波长的电磁辐射;或者
激光标测图案。
2.根据权利要求1所述的系统,其中,所述发射器包括用于发射电磁波谱的波长的分区的激光器束,并且所述激光器束包括多个分立激光单元,每个分立激光单元能够发射电磁辐射。
3.根据权利要求2所述的系统,其中,所述电磁传感器嵌入在所述发射器内,并且其中,所述电磁传感器通过感测由所述激光器束内的所述多个分立激光单元中的至少一个、但少于全部的分立激光单元发射的能量来感测由所述发射器发射的能量。
4.根据权利要求1所述的系统,其中:
所述电磁传感器向所述控制器提供由所述发射器发射的能量的值;并且
所述控制器基于预先确定的已知输出和由所述发射器发射的能量的值来控制所述发射器的占空比,使得所述发射器以由所述图像传感器捕获的图像的期望的曝光来照明场景。
5.根据权利要求1所述的系统,其中:
所述发射器包括多个激光器束,并且所述多个激光器束中的每个激光器束包括多个激光单元;
所述系统包括用于所述多个激光器束中的每个激光器束的专用电磁传感器,使得由所述多个激光器束中的每个激光器束发射的能量由不同的专用电磁传感器感测;并且
所述专用电磁传感器被配置为感测由为其分配的激光器束的所述多个激光单元中的至少一个、但少于全部的激光单元发射的能量。
6.根据权利要求1所述的系统,其中,所述控制器包括能够被配置用于执行存储在非暂态计算机可读存储介质中的指令的一个或多个处理器,所述指令包括:
从所述电磁传感器接收由所述发射器发射的能量的值;
将由所述发射器发射的能量的值与所述发射器的期望的光输出进行比较;
确定由所述发射器发射的能量的值是否在相对于所述发射器的所述期望的光输出的公差阈值内;以及
响应于由所述发射器发射的能量的值不在所述公差阈值内,调节所述电磁辐射脉冲中的至少一个脉冲的波长和/或持续时间,以使由所述发射器发射的能量的值在所述公差阈值内。
7.根据权利要求1所述的系统,其中,所述控制器包括能够被配置用于执行存储在非暂态计算机可读存储介质中的指令的一个或多个处理器,所述指令包括:
基于所述图像传感器的曝光水平来确定所述像素阵列中的像素的平均像素值;
基于所述平均像素值计算所述图像传感器的所测量的曝光水平;
基于所测量的曝光水平和期望的曝光水平来计算误差测量值;
确定所述误差测量值是否在公差阈值内;以及
响应于所述误差测量值不在所述公差阈值内,调节所述电磁辐射脉冲中的至少一个脉冲的波长和/或持续时间以使所述误差测量值在所述公差阈值内。
8.根据权利要求1所述的系统,其中,所述发射器包括多个激光器束,并且所述多个激光器束中的每个激光器束包括多个激光单元,其中所述多个激光器束包括:
红色激光器束,所述红色激光器束用于发射红色波长的电磁辐射;
绿色激光器束,所述绿色激光器束用于发射绿色波长的电磁辐射;
蓝色激光器束,所述蓝色激光器束用于发射蓝色波长的电磁辐射;
超光谱激光器束,所述超光谱激光器束用于发射用于激发光谱响应的超光谱波长的电磁辐射;
荧光激光器束,所述荧光激光器束用于发射用于使试剂发荧光的荧光激发波长;和
激光标测器束,所述激光标测器束用于发射所述激光标测图案。
9.根据权利要求8所述的系统,其中所述超光谱激光器束包括以下一者或多者:
第一超光谱器束,所述第一超光谱器束用于发射具有从约513nm至约545nm的波长的电磁辐射;
第二超光谱器束,所述第二超光谱器束用于发射具有从约565nm至约585nm的波长的电磁辐射;或者
第三超光谱器束,所述第三超光谱器束用于发射具有从约900nm至约1000nm的波长的电磁辐射。
10.根据权利要求8所述的系统,其中,用于发射所述荧光激发波长的电磁辐射的所述荧光器束包括以下一者或多者:
第一荧光器束,所述第一荧光器束用于发射具有从约770nm至约790nm的波长的电磁辐射;或者
第二荧光器束,所述第二荧光器束用于发射具有从约795nm至约815nm的波长的电磁辐射。
11.根据权利要求8所述的系统,其中,所述激光标测器束被配置为发射所述激光标测图案,使得距离、尺寸或三维形貌图中的一者或多者能够基于由所述图像传感器响应于所述激光标测图案的发射而感测的反射的电磁辐射来计算。
12.根据权利要求1所述的系统,还包括与所述电磁传感器电子通信的运算放大器电路。
13.根据权利要求1所述的系统,其中,所述图像传感器被配置为生成多个曝光帧,其中所述多个曝光帧中的每个曝光帧对应于由所述发射器发射的电磁辐射脉冲。
14.根据权利要求11所述的系统,其中,所述图像传感器的所述像素阵列在所述像素阵列的读出周期期间感测所反射的电磁辐射以生成所述多个曝光帧,其中所述读出周期是当读取所述像素阵列中的有源像素时的持续时间。
15.根据权利要求1所述的系统,其中,所述发射器被配置为在脉冲持续时间期间发射电磁辐射的多个子脉冲,所述子脉冲具有短于所述脉冲持续时间的子持续时间。
16.根据权利要求1所述的系统,其中,由所述发射器发射的所述电磁辐射脉冲中的一个或多个脉冲包括作为单个脉冲或单个子脉冲同时以两个或更多个波长发射的电磁辐射。
17.根据权利要求1所述的系统,其中,由所述发射器发射的所述电磁辐射脉冲的至少一部分为导致由所述图像传感器产生的荧光曝光帧的所述荧光激发波长,并且其中,所述控制器被配置为向对应的荧光系统提供所述荧光曝光帧,所述对应的荧光系统基于所述荧光曝光帧来确定场景内关键组织结构的位置。
18.根据权利要求17所述的系统,其中,所述荧光激发发射包括以下一者或多者:
具有从约770nm至约790nm的波长的电磁辐射;或者
具有从约795nm至约815nm的波长的电磁辐射。
19.根据权利要求18所述的系统,其中,所述控制器被进一步配置为:
从所述对应的荧光系统接收所述关键组织结构的位置;
生成包括所述关键组织结构的位置的重叠帧;以及
将所述重叠帧与描绘所述场景的彩色图像帧组合,以指示所述场景内所述关键组织结构的位置。
20.根据权利要求19所述的系统,其中,由所述像素阵列感测所述反射的电磁辐射包括:通过感测由所述发射器脉冲所述激光标测图案而产生的反射的电磁辐射来生成激光标测曝光帧,并且其中,所述控制器被进一步配置为:
向对应的激光标测系统提供所述激光标测曝光帧,所述对应的激光标测系统确定所述场景的拓扑以及/或者所述场景内的一个或多个对象的尺寸;
将所述关键组织结构的位置提供给所述对应的激光标测系统;以及
从所述对应的激光标测系统接收所述关键组织结构的拓扑和/或尺寸。
21.根据权利要求20所述的系统,其中,所述关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
22.根据权利要求1所述的系统,其中,由所述发射器发射的所述电磁辐射脉冲的至少一部分为用于激发光谱响应的超光谱发射,其中所述超光谱发射导致由所述图像传感器产生的超光谱曝光帧,并且其中所述控制器被配置为向对应的超光谱系统提供所述超光谱曝光帧,所述对应的超光谱系统基于所述超光谱曝光帧来确定场景内的关键组织结构的位置。
23.根据权利要求22所述的系统,其中,所述超光谱发射包括以下一者或多者:
具有从约513nm至约545nm的波长的电磁辐射;
具有从约565nm至约585nm的波长的电磁辐射;或者
具有从约900nm至约1000nm的波长的电磁辐射。
24.根据权利要求23所述的系统,其中,所述控制器被进一步配置为:
从所述对应的超光谱系统接收所述关键组织结构的位置;
生成包括所述关键组织结构的位置的重叠帧;以及
将所述重叠帧与描绘所述场景的彩色图像帧组合,以指示所述场景内所述关键组织结构的位置。
25.根据权利要求24所述的系统,其中,由所述像素阵列感测所述反射的电磁辐射包括:通过感测由所述发射器脉冲所述激光标测图案而产生的反射的电磁辐射来生成激光标测曝光帧,并且其中所述控制器被进一步配置为:
向对应的激光标测系统提供所述激光标测曝光帧,所述对应的激光标测系统确定所述场景的拓扑以及/或者所述场景内的一个或多个对象的尺寸;
将所述关键组织结构的位置提供给所述对应的激光标测系统;和
从所述对应的激光标测系统接收所述关键组织结构的拓扑和/或尺寸。
26.根据权利要求25所述的系统,其中,所述关键结构包括神经、输尿管、血管、动脉、血流或肿瘤中的一者或多者。
27.根据权利要求1所述的系统,其中,所述控制器被配置为在所述图像传感器的消隐周期期间同步所述电磁辐射脉冲的定时,其中所述消隐周期对应于所述像素阵列中的最后一行有源像素的读出与所述像素阵列中的有源像素的下一个后续读出开始之间的时间。
28.根据权利要求1所述的系统,其中,由所述发射器发射的电磁辐射的两个或更多个脉冲导致所反射的电磁辐射的两个或更多个实例,所述两个或更多个实例由所述像素阵列感测以生成两个或更多个曝光帧,所述两个或更多个曝光帧被组合以形成图像帧。
29.根据权利要求1所述的系统,其中,所述发射器被配置为重复发射足以生成包括多个图像帧的视频流的电磁辐射的脉冲序列,其中所述视频流中的每个图像帧包括来自多个曝光帧的数据,并且其中,所述曝光帧中的每个曝光帧对应于电磁辐射脉冲。
30.根据权利要求1所述的系统,其中,所述电磁辐射脉冲以不同波长的电磁辐射的模式发射,并且其中,所述发射器重复不同波长的电磁辐射的所述模式。
31.根据权利要求1所述的系统,其中,由所述像素阵列感测反射的电磁辐射包括通过感测由所述发射器脉冲所述激光标测图案而产生的反射的电磁辐射来生成激光标测曝光帧,其中所述激光标测曝光帧包括用于确定实时测量值的信息,所述实时测量值包括以下一者或多者:
从内窥镜到对象的距离;
内窥镜和所述对象之间的角度;或者
关于所述对象的表面拓扑信息。
32.根据权利要求1所述的系统,其中,由所述发射器发射的所述电磁辐射脉冲的至少一部分包括针对场景内的多个工具中的每一者的多个特定于工具的激光标测图案。
33.根据权利要求1所述的系统,其中,由所述发射器发射的所述激光标测图案包括彼此独立的第一输出和第二输出,其中所述第一输出用于光照明,并且所述第二输出用于工具跟踪。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962864236P | 2019-06-20 | 2019-06-20 | |
US62/864,236 | 2019-06-20 | ||
US16/797,799 | 2020-02-21 | ||
US16/797,799 US11284785B2 (en) | 2019-06-20 | 2020-02-21 | Controlling integral energy of a laser pulse in a hyperspectral, fluorescence, and laser mapping imaging system |
PCT/US2020/037618 WO2020257087A1 (en) | 2019-06-20 | 2020-06-12 | Controlling integral energy of a laser pulse in a hyperspectral, fluorescence, and laser mapping imaging system |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114144659A true CN114144659A (zh) | 2022-03-04 |
Family
ID=74037941
Family Applications (4)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080045221.4A Pending CN114144659A (zh) | 2019-06-20 | 2020-06-12 | 控制超光谱、荧光和激光标测成像系统中的激光脉冲的积分能量 |
CN202080045279.9A Pending CN114173632A (zh) | 2019-06-20 | 2020-06-12 | 控制激光标测成像系统中的激光脉冲的积分能量 |
CN202080045178.1A Pending CN114206196A (zh) | 2019-06-20 | 2020-06-12 | 控制荧光成像系统中的激光脉冲的积分能量 |
CN202080045226.7A Pending CN114144106A (zh) | 2019-06-20 | 2020-06-12 | 控制超光谱成像系统中的激光脉冲的积分能量 |
Family Applications After (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080045279.9A Pending CN114173632A (zh) | 2019-06-20 | 2020-06-12 | 控制激光标测成像系统中的激光脉冲的积分能量 |
CN202080045178.1A Pending CN114206196A (zh) | 2019-06-20 | 2020-06-12 | 控制荧光成像系统中的激光脉冲的积分能量 |
CN202080045226.7A Pending CN114144106A (zh) | 2019-06-20 | 2020-06-12 | 控制超光谱成像系统中的激光脉冲的积分能量 |
Country Status (4)
Country | Link |
---|---|
US (8) | US11284785B2 (zh) |
EP (4) | EP3987277A4 (zh) |
CN (4) | CN114144659A (zh) |
WO (6) | WO2020257087A1 (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200397239A1 (en) | 2019-06-20 | 2020-12-24 | Ethicon Llc | Offset illumination of a scene using multiple emitters in a fluorescence imaging system |
US11931009B2 (en) | 2019-06-20 | 2024-03-19 | Cilag Gmbh International | Offset illumination of a scene using multiple emitters in a hyperspectral imaging system |
US11903563B2 (en) | 2019-06-20 | 2024-02-20 | Cilag Gmbh International | Offset illumination of a scene using multiple emitters in a fluorescence imaging system |
US11550057B2 (en) | 2019-06-20 | 2023-01-10 | Cilag Gmbh International | Offset illumination of a scene using multiple emitters in a fluorescence imaging system |
US11284785B2 (en) | 2019-06-20 | 2022-03-29 | Cilag Gmbh International | Controlling integral energy of a laser pulse in a hyperspectral, fluorescence, and laser mapping imaging system |
Family Cites Families (183)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3844047A (en) | 1973-01-29 | 1974-10-29 | R Carson | Electronic micrometers employing digital processing techniques |
JPS5940830A (ja) | 1982-08-31 | 1984-03-06 | 浜松ホトニクス株式会社 | レ−ザ光パルスを用いた癌の診断装置 |
US5318024A (en) | 1985-03-22 | 1994-06-07 | Massachusetts Institute Of Technology | Laser endoscope for spectroscopic imaging |
JP2629323B2 (ja) | 1988-12-02 | 1997-07-09 | 富士写真光機株式会社 | 照明装置 |
JPH04158205A (ja) | 1990-10-23 | 1992-06-01 | Toshiba Corp | 形状計測内視鏡装置 |
US5784162A (en) | 1993-08-18 | 1998-07-21 | Applied Spectral Imaging Ltd. | Spectral bio-imaging methods for biological research, medical diagnostics and therapy |
US5363387A (en) | 1992-11-18 | 1994-11-08 | Rare Earth Medical, Inc. | Variable pulsewidth lasers |
US5604863A (en) | 1993-11-01 | 1997-02-18 | International Business Machines Corporation | Method for coordinating executing programs in a data processing system |
US5749830A (en) | 1993-12-03 | 1998-05-12 | Olympus Optical Co., Ltd. | Fluorescent endoscope apparatus |
DE19612536A1 (de) | 1996-03-29 | 1997-10-02 | Freitag Lutz Dr | Anordnung und Verfahren zur Diagnose von malignem Gewebe durch Fluoreszenzbetrachtung |
US7179222B2 (en) | 1996-11-20 | 2007-02-20 | Olympus Corporation | Fluorescent endoscope system enabling simultaneous achievement of normal light observation based on reflected light and fluorescence observation based on light with wavelengths in infrared spectrum |
US7468075B2 (en) | 2001-05-25 | 2008-12-23 | Conformis, Inc. | Methods and compositions for articular repair |
NL1005068C2 (nl) | 1997-01-23 | 1998-07-27 | Ct Rrn Academisch Ziekenhuis U | Cathetersysteem en een daarvan deel uitmakende catheter. |
AU752829B2 (en) | 1998-01-26 | 2002-10-03 | Brigham And Women's Hospital | Fluorescence imaging endoscope |
US6110106A (en) | 1998-06-24 | 2000-08-29 | Biomax Technologies, Inc. | Endoscopes and methods relating to direct viewing of a target tissue |
US6468265B1 (en) | 1998-11-20 | 2002-10-22 | Intuitive Surgical, Inc. | Performing cardiac surgery without cardioplegia |
AU3349200A (en) | 1999-01-26 | 2000-08-07 | Newton Laboratories, Inc. | Autofluorescence imaging system for endoscopy |
US6563105B2 (en) | 1999-06-08 | 2003-05-13 | University Of Washington | Image acquisition with depth enhancement |
JP3850192B2 (ja) | 1999-12-09 | 2006-11-29 | 株式会社ニデック | 眼底撮影装置 |
US20020138008A1 (en) | 2000-01-13 | 2002-09-26 | Kazuhiro Tsujita | Method and apparatus for displaying fluorescence images and method and apparatus for acquiring endoscope images |
JP4845318B2 (ja) | 2000-03-28 | 2011-12-28 | ボード・オブ・リージエンツ,ザ・ユニバーシテイ・オブ・テキサス・システム | 診断用マルチスペクトルデジタル画像化のための方法および装置 |
AU2001259435A1 (en) | 2000-05-03 | 2001-11-12 | Stephen T Flock | Optical imaging of subsurface anatomical structures and biomolecules |
US6748259B1 (en) | 2000-06-15 | 2004-06-08 | Spectros Corporation | Optical imaging of induced signals in vivo under ambient light conditions |
US6975898B2 (en) | 2000-06-19 | 2005-12-13 | University Of Washington | Medical imaging, diagnosis, and therapy using a scanning single optical fiber system |
DE10107586A1 (de) | 2001-02-10 | 2002-08-14 | Biotronik Mess & Therapieg | Endoskopischer Katheter |
JP2002253500A (ja) | 2001-03-05 | 2002-09-10 | Olympus Optical Co Ltd | 内視鏡用光源装置 |
JP2002315721A (ja) | 2001-04-20 | 2002-10-29 | Mitaka Koki Co Ltd | 癌組織摘出手術用の立体視システム |
ATE310284T1 (de) | 2001-07-12 | 2005-12-15 | Do Labs | Verfahren und vorrichtung zur erzeugung formatierter information, die mit den fehlern zumindest eines geräts einer kette verbunden ist, insbesondere der bildschärfeverzerrung |
US6986739B2 (en) | 2001-08-23 | 2006-01-17 | Sciperio, Inc. | Architecture tool and methods of use |
US6995841B2 (en) | 2001-08-28 | 2006-02-07 | Rice University | Pulsed-multiline excitation for color-blind fluorescence detection |
US6985622B2 (en) | 2001-09-21 | 2006-01-10 | Hewlett-Packard Development Company, L.P. | System and method for color correcting electronically captured images by determining input media types using color correlation matrix |
US20040092958A1 (en) | 2001-11-15 | 2004-05-13 | Limonadi Farhad M. | Stereotactic wands, endoscopes and methods using such wands and endoscopes |
CA2481112A1 (en) | 2002-02-12 | 2003-08-21 | Science & Engineering Associates, Inc. | Cancer detection and adaptive dose optimization treatment system |
US20040116800A1 (en) | 2002-02-19 | 2004-06-17 | Helfer Jeffrey L. | Magnetic resonance imaging capable catheter assembly |
US8620410B2 (en) | 2002-03-12 | 2013-12-31 | Beth Israel Deaconess Medical Center | Multi-channel medical imaging system |
US6825930B2 (en) | 2002-06-04 | 2004-11-30 | Cambridge Research And Instrumentation, Inc. | Multispectral imaging system |
GB0217570D0 (en) | 2002-07-30 | 2002-09-11 | Univ Birmingham | Method and apparatus for quantifying material or object properties |
US7448995B2 (en) | 2003-06-23 | 2008-11-11 | Microvision, Inc. | Scanning endoscope |
WO2005039391A2 (en) | 2003-10-21 | 2005-05-06 | The Board Of Trustees Of The Leland Stanford Junior University | Systems and methods for intraoperative targetting |
US20050205758A1 (en) | 2004-03-19 | 2005-09-22 | Almeida Leo A | Method and apparatus for multi-spectral photodetection |
US20110077548A1 (en) * | 2004-04-01 | 2011-03-31 | Torch William C | Biosensors, communicators, and controllers monitoring eye movement and methods for using them |
US8480566B2 (en) | 2004-09-24 | 2013-07-09 | Vivid Medical, Inc. | Solid state illumination for endoscopy |
WO2006032106A1 (en) | 2004-09-24 | 2006-03-30 | Optiscan Pty Ltd | Tuning-fork-type scanning apparatus with a counterweight |
US7826878B2 (en) | 2004-12-07 | 2010-11-02 | Research Foundation Of City University Of New York | Optical tomography using independent component analysis for detection and localization of targets in turbid media |
JP5028008B2 (ja) | 2004-12-08 | 2012-09-19 | オリンパス株式会社 | 蛍光内視鏡装置 |
US8872906B2 (en) | 2005-01-05 | 2014-10-28 | Avantis Medical Systems, Inc. | Endoscope assembly with a polarizing filter |
DE202005003411U1 (de) | 2005-02-24 | 2006-07-06 | Karl Storz Gmbh & Co. Kg | Multifunktionales Fluoreszenzdiagnosesystem |
JP2006308624A (ja) | 2005-04-26 | 2006-11-09 | Matsushita Electric Ind Co Ltd | 現像装置 |
EP1889111A2 (en) | 2005-05-25 | 2008-02-20 | Massachusetts Institute of Technology | Multifocal imaging systems and methods |
US7364306B2 (en) | 2005-06-20 | 2008-04-29 | Digital Display Innovations, Llc | Field sequential light source modulation for a digital display system |
JP2007029232A (ja) | 2005-07-25 | 2007-02-08 | Hitachi Medical Corp | 内視鏡手術操作支援システム |
US20070086495A1 (en) | 2005-08-12 | 2007-04-19 | Sprague Randall B | Method and apparatus for stable laser drive |
JP5114024B2 (ja) | 2005-08-31 | 2013-01-09 | オリンパス株式会社 | 光イメージング装置 |
JP4744288B2 (ja) | 2005-12-21 | 2011-08-10 | オリンパスメディカルシステムズ株式会社 | 内視鏡装置 |
US20090303317A1 (en) | 2006-02-07 | 2009-12-10 | Novadaq Technologies Inc. | Near infrared imaging |
US7817256B2 (en) | 2006-02-22 | 2010-10-19 | Kyushu Institute Of Technology | Personal authentication method and personal authentication device utilizing finger-tip blood flow measurement by laser light |
US7990524B2 (en) | 2006-06-30 | 2011-08-02 | The University Of Chicago | Stochastic scanning apparatus using multiphoton multifocal source |
US20080058629A1 (en) | 2006-08-21 | 2008-03-06 | University Of Washington | Optical fiber scope with both non-resonant illumination and resonant collection/imaging for multiple modes of operation |
US20080090220A1 (en) | 2006-08-28 | 2008-04-17 | Vincent Freeman | Modular virtual learning system and method |
DE102006046925A1 (de) | 2006-09-28 | 2008-04-03 | Jenlab Gmbh | Verfahren und Anordnung zur Laser-Endoskopie für die Mikrobearbeitung |
EP3120752A1 (en) | 2007-01-19 | 2017-01-25 | Sunnybrook Health Sciences Centre | Scanning mechanisms for imaging probe |
US20080177140A1 (en) | 2007-01-23 | 2008-07-24 | Xillix Technologies Corp. | Cameras for fluorescence and reflectance imaging |
JP2008259595A (ja) | 2007-04-10 | 2008-10-30 | Hamamatsu Photonics Kk | 蛍光観察装置 |
US7961764B2 (en) | 2007-09-12 | 2011-06-14 | Howard Hughes Medical Institute | Nonlinear imaging using passive pulse splitters and related technologies |
WO2009088550A2 (en) | 2007-10-19 | 2009-07-16 | Lockheed Martin Corporation | System and method for conditioning animal tissue using laser light |
US8553337B2 (en) | 2007-11-12 | 2013-10-08 | Cornell University | Multi-path, multi-magnification, non-confocal fluorescence emission endoscopy apparatus and methods |
US8969070B2 (en) | 2008-01-21 | 2015-03-03 | Samsung Electronics Co., Ltd. | Thin-film layered centrifuge device and analysis method using the same |
JP5165400B2 (ja) | 2008-01-23 | 2013-03-21 | オリンパス株式会社 | 光源装置 |
US20090289200A1 (en) | 2008-05-22 | 2009-11-26 | Fujifilm Corporation | Fluorescent image obtainment method and apparatus, fluorescence endoscope, and excitation-light unit |
US8506478B2 (en) | 2008-06-04 | 2013-08-13 | Fujifilm Corporation | Illumination device for use in endoscope |
US8406859B2 (en) | 2008-08-10 | 2013-03-26 | Board Of Regents, The University Of Texas System | Digital light processing hyperspectral imaging apparatus |
US20120273470A1 (en) | 2011-02-24 | 2012-11-01 | Zediker Mark S | Method of protecting high power laser drilling, workover and completion systems from carbon gettering deposits |
NZ592070A (en) | 2008-09-26 | 2012-07-27 | Tocagen Inc | Gene therapy vectors and humanized yeast cytosine deaminase triple mutant |
US8471895B2 (en) | 2008-11-25 | 2013-06-25 | Paul S. Banks | Systems and methods of high resolution three-dimensional imaging |
JP2010125284A (ja) | 2008-12-01 | 2010-06-10 | Fujifilm Corp | 撮像システム |
JP5342869B2 (ja) | 2008-12-22 | 2013-11-13 | Hoya株式会社 | 内視鏡装置、内視鏡照明装置、画像形成装置、内視鏡照明装置の作動方法および画像形成装置の作動方法 |
JP5874116B2 (ja) | 2009-07-30 | 2016-03-02 | 国立研究開発法人産業技術総合研究所 | 画像撮影装置および画像撮影方法 |
US8956349B2 (en) | 2009-10-09 | 2015-02-17 | Ethicon Endo-Surgery, Inc. | Surgical generator for ultrasonic and electrosurgical devices |
RU2556593C2 (ru) | 2010-01-13 | 2015-07-10 | Конинклейке Филипс Электроникс Н.В. | Совмещение и навигация для эндоскопической хирургии на основе интеграции изображений |
US9044142B2 (en) | 2010-03-12 | 2015-06-02 | Carl Zeiss Meditec Ag | Surgical optical systems for detecting brain tumors |
JP2011206227A (ja) | 2010-03-29 | 2011-10-20 | Fujifilm Corp | 内視鏡装置 |
JP2011206435A (ja) | 2010-03-30 | 2011-10-20 | Fujifilm Corp | 撮像装置、撮像方法、撮像プログラム、及び内視鏡 |
EP2560569B1 (en) | 2010-04-22 | 2020-10-21 | Precise Light Surgical, Inc. | Flash vaporization surgical systems |
US9946058B2 (en) | 2010-06-11 | 2018-04-17 | Nikon Corporation | Microscope apparatus and observation method |
US9211058B2 (en) | 2010-07-02 | 2015-12-15 | Intuitive Surgical Operations, Inc. | Method and system for fluorescent imaging with background surgical image composed of selective illumination spectra |
JP2012016545A (ja) | 2010-07-09 | 2012-01-26 | Fujifilm Corp | 内視鏡装置 |
JP5707758B2 (ja) | 2010-07-13 | 2015-04-30 | ソニー株式会社 | 撮像装置、撮像システム、手術用ナビゲーションシステム、及び撮像方法 |
JP5544231B2 (ja) | 2010-07-15 | 2014-07-09 | 富士フイルム株式会社 | 内視鏡光源装置及び内視鏡システム |
JP5481294B2 (ja) | 2010-07-15 | 2014-04-23 | 富士フイルム株式会社 | 内視鏡システム |
EP2637553A2 (en) | 2010-11-12 | 2013-09-18 | Emory University | Additional systems and methods for providing real-time anatomical guidance in a diagnostic or therapeutic procedure |
JP5526000B2 (ja) | 2010-11-15 | 2014-06-18 | 富士フイルム株式会社 | 内視鏡及び内視鏡用光源装置 |
JP5351924B2 (ja) | 2011-04-01 | 2013-11-27 | 富士フイルム株式会社 | 生体情報取得システムおよび生体情報取得システムの作動方法 |
WO2012170963A1 (en) | 2011-06-08 | 2012-12-13 | Digital Light Innovations | System and method for hyperspectral imaging |
US9979949B2 (en) | 2011-07-13 | 2018-05-22 | Viking Systems, Inc | Method and apparatus for obtaining stereoscopic 3D visualization using commercially available 2D endoscopes |
CA2850502C (en) | 2011-09-29 | 2018-07-10 | Biolase, Inc. | Methods for treating eye conditions |
US20130211246A1 (en) | 2011-12-27 | 2013-08-15 | Vinod PARASHER | METHODS AND DEVICES FOR GASTROINTESTINAL SURGICAL PROCEDURES USING NEAR INFRARED (nIR) IMAGING TECHNIQUES |
US11510600B2 (en) | 2012-01-04 | 2022-11-29 | The Trustees Of Dartmouth College | Method and apparatus for quantitative and depth resolved hyperspectral fluorescence and reflectance imaging for surgical guidance |
JP5918548B2 (ja) | 2012-01-24 | 2016-05-18 | 富士フイルム株式会社 | 内視鏡画像診断支援装置およびその作動方法並びに内視鏡画像診断支援プログラム |
EP2719317A4 (en) | 2012-03-30 | 2015-05-06 | Olympus Medical Systems Corp | ENDOSCOPE |
JP5965726B2 (ja) | 2012-05-24 | 2016-08-10 | オリンパス株式会社 | 立体視内視鏡装置 |
US10953241B2 (en) | 2012-05-25 | 2021-03-23 | Ojai Retinal Technology, Llc | Process for providing protective therapy for biological tissues or fluids |
WO2014014838A2 (en) | 2012-07-15 | 2014-01-23 | 2R1Y | Interactive illumination for gesture and/or object recognition |
EP2877077B1 (en) | 2012-07-26 | 2021-05-26 | DePuy Synthes Products, Inc. | Continuous video in a light deficient environment |
US9462234B2 (en) | 2012-07-26 | 2016-10-04 | DePuy Synthes Products, Inc. | Camera system with minimal area monolithic CMOS image sensor |
IN2015MN00020A (zh) * | 2012-07-26 | 2015-10-16 | Olive Medical Corp | |
EP2877080B1 (en) | 2012-07-26 | 2020-07-22 | DePuy Synthes Products, Inc. | Ycbcr pulsed illumination scheme in a light deficient environment |
GB2505926A (en) | 2012-09-14 | 2014-03-19 | Sony Corp | Display of Depth Information Within a Scene |
JP6273662B2 (ja) | 2012-10-05 | 2018-02-07 | トランスロボティックス,インク. | 高分解能距離感知のためのシステム及び方法、並びにその適用 |
US10178368B2 (en) | 2012-10-23 | 2019-01-08 | Intuitive Surgical Operations, Inc. | Stereo imaging system with automatic disparity adjustment for displaying close range objects |
WO2014073138A1 (ja) | 2012-11-09 | 2014-05-15 | パナソニック株式会社 | 画像処理装置および内視鏡 |
WO2014134314A1 (en) | 2013-03-01 | 2014-09-04 | The Johns Hopkins University | Light sources, medical devices, and methods of illuminating an object of interest |
US9456752B2 (en) | 2013-03-14 | 2016-10-04 | Aperture Diagnostics Ltd. | Full-field three-dimensional surface measurement |
US9619883B2 (en) | 2013-03-15 | 2017-04-11 | Hypermed Imaging, Inc. | Systems and methods for evaluating hyperspectral imaging data using a two layer media model of human tissue |
US9777913B2 (en) * | 2013-03-15 | 2017-10-03 | DePuy Synthes Products, Inc. | Controlling the integral light energy of a laser pulse |
DE102013103333A1 (de) | 2013-04-03 | 2014-10-09 | Karl Storz Gmbh & Co. Kg | Kamera zur Erfassung von optischen Eigenschaften und von Raumstruktureigenschaften |
JP5695808B1 (ja) | 2013-04-19 | 2015-04-08 | オリンパスメディカルシステムズ株式会社 | 内視鏡装置 |
JP5789348B2 (ja) | 2013-07-11 | 2015-10-07 | オリンパス株式会社 | 光源装置 |
US10165972B2 (en) | 2013-07-12 | 2019-01-01 | Inthesmart Co., Ltd. | Apparatus and method for detecting NIR fluorescence at sentinel lymph node |
JP5802860B2 (ja) | 2013-08-01 | 2015-11-04 | オリンパス株式会社 | 内視鏡システム |
JP5891208B2 (ja) | 2013-08-13 | 2016-03-22 | Hoya株式会社 | 内視鏡用照明光学系 |
US20150056142A1 (en) | 2013-08-20 | 2015-02-26 | The Board Of Trustees Of The Leland Stanford Junior University | Near-infrared-ii fluorescent agents, methods of making near-infrared-ii fluorescent agents, and methods of using water-soluble nir-ii fluorescent agents |
WO2015077493A1 (en) | 2013-11-20 | 2015-05-28 | Digimarc Corporation | Sensor-synchronized spectrally-structured-light imaging |
JP6129731B2 (ja) | 2013-12-24 | 2017-05-17 | 富士フイルム株式会社 | 内視鏡システム及びその作動方法 |
EP3137007A4 (en) | 2014-04-28 | 2017-09-27 | Cardiofocus, Inc. | System and method for visualizing tissue with an icg dye composition during ablation procedures |
CN103989459B (zh) | 2014-05-20 | 2021-05-18 | 曾堃 | 用于鉴别恶性肿瘤的形成过程的光学观测设备及内窥镜 |
CN106999021B (zh) | 2014-06-05 | 2021-06-04 | 海德堡大学 | 用于多光谱成像的方法和部件 |
JP6253527B2 (ja) | 2014-06-24 | 2017-12-27 | オリンパス株式会社 | 内視鏡装置 |
JP6039606B2 (ja) | 2014-06-24 | 2016-12-07 | 富士フイルム株式会社 | 内視鏡システム、光源装置、内視鏡システムの作動方法、及び光源装置の作動方法 |
EP3143941B1 (en) | 2014-06-25 | 2021-12-01 | Panasonic Intellectual Property Management Co., Ltd. | Projection system |
US20170035280A1 (en) | 2015-08-07 | 2017-02-09 | Reinroth Gmbh | Stereoscopic endoscope system with concurrent imaging at visible and infrared wavelengths |
US9547165B2 (en) | 2014-08-29 | 2017-01-17 | Reinroth Gmbh | Endoscope system with single camera for concurrent imaging at visible and infrared wavelengths |
US10473916B2 (en) | 2014-09-30 | 2019-11-12 | Washington University | Multiple-view compressed-sensing ultrafast photography (MV-CUP) |
US9717417B2 (en) | 2014-10-29 | 2017-08-01 | Spectral Md, Inc. | Reflective mode multi-spectral time-resolved optical imaging methods and apparatuses for tissue classification |
EP3730086B1 (en) | 2014-12-16 | 2023-06-28 | Intuitive Surgical Operations, Inc. | Ureter detection using waveband-selective imaging |
JP2018514748A (ja) | 2015-02-06 | 2018-06-07 | ザ ユニバーシティ オブ アクロンThe University of Akron | 光学撮像システムおよびその方法 |
DE102015003019A1 (de) | 2015-03-06 | 2016-09-08 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Verfahren und Vorrichtung zur optischen Detektion einer Bewegung in einer biologischen Probe mit räumlicher Ausdehnung |
WO2016168378A1 (en) | 2015-04-13 | 2016-10-20 | Gerard Dirk Smits | Machine vision for ego-motion, segmenting, and classifying objects |
US20170059305A1 (en) | 2015-08-25 | 2017-03-02 | Lytro, Inc. | Active illumination for enhanced depth map generation |
JP2016202726A (ja) | 2015-04-27 | 2016-12-08 | ソニー株式会社 | 光線力学診断装置及び光線力学診断方法 |
WO2016185763A1 (ja) | 2015-05-15 | 2016-11-24 | ソニー株式会社 | 光源制御装置及び光源制御方法並びに撮像システム |
EP3216385A4 (en) | 2015-05-28 | 2018-08-22 | Olympus Corporation | Light source device |
DE112015006505T5 (de) | 2015-06-17 | 2018-03-15 | Olympus Corporation | Bildgebungsvorrichtung |
US10437974B2 (en) * | 2015-06-18 | 2019-10-08 | Shenzhen GOODIX Technology Co., Ltd. | Optical sensing performance of under-screen optical sensor module for on-screen fingerprint sensing |
US10987129B2 (en) | 2015-09-04 | 2021-04-27 | Medos International Sarl | Multi-shield spinal access system |
EP3350644B1 (en) | 2015-09-17 | 2021-04-28 | S.D. Sight Diagnostics Ltd. | Methods and apparatus for detecting an entity in a bodily sample |
US9939231B2 (en) | 2016-01-20 | 2018-04-10 | Raytheon Company | Dual-band semi-active laser system |
EP4155716A1 (en) | 2016-01-26 | 2023-03-29 | Stryker European Operations Limited | Image sensor assembly |
JP6587952B2 (ja) * | 2016-02-10 | 2019-10-09 | 双葉電子工業株式会社 | 有機el表示装置 |
US10708478B2 (en) | 2016-03-23 | 2020-07-07 | Karl Storz Imaging, Inc. | Image transformation and display for fluorescent and visible imaging |
TWI587698B (zh) | 2016-03-31 | 2017-06-11 | 晶睿通訊股份有限公司 | 攝影裝置及曝光亮度調整方法 |
WO2017167594A1 (en) * | 2016-03-31 | 2017-10-05 | Koninklijke Philips N.V. | Wireless position determination |
US20170280970A1 (en) | 2016-03-31 | 2017-10-05 | Covidien Lp | Thoracic endoscope for surface scanning |
US10690904B2 (en) | 2016-04-12 | 2020-06-23 | Stryker Corporation | Multiple imaging modality light source |
WO2017199531A1 (ja) | 2016-05-16 | 2017-11-23 | ソニー株式会社 | 撮像装置及び内視鏡 |
US10798310B2 (en) | 2016-05-17 | 2020-10-06 | Hypermed Imaging, Inc. | Hyperspectral imager coupled with indicator molecule tracking |
WO2017205063A1 (en) | 2016-05-27 | 2017-11-30 | Verily Life Sciences Llc | Systems and methods for surface topography acquisition using laser speckle |
WO2017221336A1 (ja) | 2016-06-21 | 2017-12-28 | オリンパス株式会社 | 内視鏡システム、画像処理装置、画像処理方法およびプログラム |
US10709333B2 (en) | 2016-07-25 | 2020-07-14 | PhotoSound Technologies, Inc. | Instrument for acquiring co-registered orthogonal fluorescence and photoacoustic volumetric projections of tissue and methods of its use |
CN115778543A (zh) | 2016-09-09 | 2023-03-14 | 直观外科手术操作公司 | 同时带有白光和高光谱光的成像系统 |
JP6364050B2 (ja) | 2016-09-13 | 2018-07-25 | パナソニック株式会社 | 内視鏡システム |
US10386489B2 (en) | 2017-02-01 | 2019-08-20 | Jeffrey Albelo | Beam scanner for autonomous vehicles |
WO2018145193A1 (en) | 2017-02-10 | 2018-08-16 | Novadaq Technologies ULC | Open-field handheld fluorescence imaging systems and methods |
AU2018297291B2 (en) * | 2017-07-05 | 2024-03-07 | Ouster, Inc. | Light ranging device with electronically scanned emitter array and synchronized sensor array |
JP7271119B2 (ja) | 2017-10-20 | 2023-05-11 | ソニーセミコンダクタソリューションズ株式会社 | デプス画像取得装置、制御方法、およびデプス画像取得システム |
US11911045B2 (en) | 2017-10-30 | 2024-02-27 | Cllag GmbH International | Method for operating a powered articulating multi-clip applier |
US11510741B2 (en) | 2017-10-30 | 2022-11-29 | Cilag Gmbh International | Method for producing a surgical instrument comprising a smart electrical system |
US11801098B2 (en) | 2017-10-30 | 2023-10-31 | Cilag Gmbh International | Method of hub communication with surgical instrument systems |
WO2019123796A1 (ja) | 2017-12-22 | 2019-06-27 | オリンパス株式会社 | 内視鏡システム |
BR112020012682A2 (pt) | 2017-12-27 | 2020-11-24 | Ethicon Llc | imageamento hiperespectral em um ambiente com deficiência de luz |
US10521916B2 (en) * | 2018-02-21 | 2019-12-31 | Covidien Lp | Locating tumors using structured light scanning |
CN108378825A (zh) | 2018-03-23 | 2018-08-10 | 张栋 | 一种黑白单相机实现的医用四色多光谱成像方法和装置 |
GB201818070D0 (en) * | 2018-04-30 | 2018-12-19 | Spi Lasers Uk Ltd | Apparatus and method for controlling laser processing of a remote material |
US11202014B2 (en) | 2018-07-06 | 2021-12-14 | Medos International Sari | Camera scope electronic variable angle of view |
US10732032B2 (en) * | 2018-08-09 | 2020-08-04 | Ouster, Inc. | Scanning sensor array with overlapping pass bands |
US10739189B2 (en) * | 2018-08-09 | 2020-08-11 | Ouster, Inc. | Multispectral ranging/imaging sensor arrays and systems |
US11105754B2 (en) | 2018-10-08 | 2021-08-31 | Araz Yacoubian | Multi-parameter inspection apparatus for monitoring of manufacturing parts |
DE102018124984A1 (de) | 2018-10-10 | 2020-04-16 | Friedrich-Schiller-Universität Jena | Verfahren und Vorrichtung zur hochaufgelösten Fluoreszenzmikroskopie |
US11585906B2 (en) * | 2018-12-26 | 2023-02-21 | Ouster, Inc. | Solid-state electronic scanning laser array with high-side and low-side switches for increased channels |
US11448503B2 (en) | 2019-06-12 | 2022-09-20 | Microsoft Technology Licensing, Llc | Correction for pixel-to-pixel signal diffusion |
US11012599B2 (en) | 2019-06-20 | 2021-05-18 | Ethicon Llc | Hyperspectral imaging in a light deficient environment |
US11533417B2 (en) | 2019-06-20 | 2022-12-20 | Cilag Gmbh International | Laser scanning and tool tracking imaging in a light deficient environment |
US11284785B2 (en) | 2019-06-20 | 2022-03-29 | Cilag Gmbh International | Controlling integral energy of a laser pulse in a hyperspectral, fluorescence, and laser mapping imaging system |
WO2021150921A1 (en) | 2020-01-22 | 2021-07-29 | Photonic Medical Inc | Open view, multi-modal, calibrated digital loupe with depth sensing |
-
2020
- 2020-02-21 US US16/797,799 patent/US11284785B2/en active Active
- 2020-02-21 US US16/797,788 patent/US11924535B2/en active Active
- 2020-02-21 US US16/797,781 patent/US11337596B2/en active Active
- 2020-02-21 US US16/797,772 patent/US11284784B2/en active Active
- 2020-02-21 US US16/797,792 patent/US11311183B2/en active Active
- 2020-02-21 US US16/797,767 patent/US11284783B2/en active Active
- 2020-06-12 WO PCT/US2020/037618 patent/WO2020257087A1/en unknown
- 2020-06-12 EP EP20827114.8A patent/EP3987277A4/en active Pending
- 2020-06-12 CN CN202080045221.4A patent/CN114144659A/zh active Pending
- 2020-06-12 EP EP20825486.2A patent/EP3986239A4/en active Pending
- 2020-06-12 WO PCT/US2020/037617 patent/WO2020257086A1/en active Application Filing
- 2020-06-12 CN CN202080045279.9A patent/CN114173632A/zh active Pending
- 2020-06-12 EP EP20826558.7A patent/EP3986242A4/en active Pending
- 2020-06-12 WO PCT/US2020/037611 patent/WO2020257082A1/en active Application Filing
- 2020-06-12 CN CN202080045178.1A patent/CN114206196A/zh active Pending
- 2020-06-12 WO PCT/US2020/037615 patent/WO2020257085A1/en active Application Filing
- 2020-06-12 CN CN202080045226.7A patent/CN114144106A/zh active Pending
- 2020-06-12 EP EP20827045.4A patent/EP3986233A4/en active Pending
- 2020-06-12 WO PCT/US2020/037613 patent/WO2020257083A1/en active Application Filing
- 2020-06-12 WO PCT/US2020/037614 patent/WO2020257084A1/en active Application Filing
-
2022
- 2022-03-08 US US17/689,826 patent/US11882352B2/en active Active
- 2022-03-28 US US17/656,694 patent/US11949974B2/en active Active
Also Published As
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11747479B2 (en) | Pulsed illumination in a hyperspectral, fluorescence and laser mapping imaging system | |
US20200397246A1 (en) | Minimizing image sensor input/output in a pulsed hyperspectral, fluorescence, and laser mapping imaging system | |
CN114245868A (zh) | 使用用于超光谱和荧光成像和形貌激光标测的单色图像传感器的宽动态范围 | |
US11284785B2 (en) | Controlling integral energy of a laser pulse in a hyperspectral, fluorescence, and laser mapping imaging system | |
CN114128243A (zh) | 在缺光环境中利用拓扑激光扫描进行超光谱和荧光成像 | |
US11516387B2 (en) | Image synchronization without input clock and data transmission clock in a pulsed hyperspectral, fluorescence, and laser mapping imaging system | |
US20200397253A1 (en) | Image rotation in an endoscopic hyperspectral, fluorescence, and laser mapping imaging system | |
CN114007484A (zh) | 在超光谱、荧光和激光标测成像系统中使用多个发射器的场景的偏移照明 | |
CN113994661A (zh) | 具有固定模式噪声消除的超光谱、荧光和激光标测成像 | |
US11457154B2 (en) | Speckle removal in a pulsed hyperspectral, fluorescence, and laser mapping imaging system | |
CN114449940A (zh) | 在缺光环境中的激光扫描和工具跟踪成像 | |
CN114025656A (zh) | 脉冲超光谱、荧光和激光标测成像系统中的噪声感知边缘增强 | |
CN114144115A (zh) | 内窥镜超光谱成像系统中的图像旋转 | |
CN114175620A (zh) | 内窥镜激光标测成像系统中的图像旋转 | |
CN114026845A (zh) | 在荧光成像系统中使用多个发射器的场景的偏移照明 | |
CN114072041A (zh) | 用于超光谱成像、荧光成像和激光标测成像的内窥镜系统中的光纤波导 | |
CN114126467A (zh) | 根据超光谱、荧光和激光标测成像系统中的抖动规范驱动光发射 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |