JP2021508543A - 光不足環境におけるハイパースペクトル撮像 - Google Patents

光不足環境におけるハイパースペクトル撮像 Download PDF

Info

Publication number
JP2021508543A
JP2021508543A JP2020536006A JP2020536006A JP2021508543A JP 2021508543 A JP2021508543 A JP 2021508543A JP 2020536006 A JP2020536006 A JP 2020536006A JP 2020536006 A JP2020536006 A JP 2020536006A JP 2021508543 A JP2021508543 A JP 2021508543A
Authority
JP
Japan
Prior art keywords
electromagnetic radiation
image
bits
pulse
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020536006A
Other languages
English (en)
Inventor
タルバート・ジョシュア・ディー
ウィヘルン・ドナルド・エム
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ethicon LLC
Original Assignee
Ethicon LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ethicon LLC filed Critical Ethicon LLC
Publication of JP2021508543A publication Critical patent/JP2021508543A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00064Constructional details of the endoscope body
    • A61B1/00066Proximal part of endoscope body, e.g. handles
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00064Constructional details of the endoscope body
    • A61B1/00071Insertion part of the endoscope body
    • A61B1/0008Insertion part of the endoscope body characterised by distal tip features
    • A61B1/00096Optical elements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00186Optical arrangements with imaging filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00193Optical arrangements adapted for stereoscopic vision
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • A61B1/051Details of CCD assembly
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/063Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for monochromatic or narrow-band illumination
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0646Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with illumination filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0653Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with wavelength conversion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661Endoscope light sources
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0205Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
    • G01J3/0208Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using focussing or collimating elements, e.g. lenses or mirrors; performing aberration correction
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0205Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
    • G01J3/021Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using plane or convex mirrors, parallel phase plates, or particular reflectors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0205Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
    • G01J3/0218Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using optical fibers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0205Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
    • G01J3/0232Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using shutters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0205Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
    • G01J3/0235Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using means for replacing an element by another, for replacing a filter or a grating
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0264Electrical interface; User interface
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/027Control of working procedures of a spectrometer; Failure detection; Bandwidth calculation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/10Arrangements of light sources specially adapted for spectrometry or colorimetry
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2803Investigating the spectrum using photoelectric array detector
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/30Measuring the intensity of spectral lines directly on the spectrum itself
    • G01J3/32Investigating bands of a spectrum in sequence by a single detector
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/30Measuring the intensity of spectral lines directly on the spectrum itself
    • G01J3/36Investigating two or more bands of a spectrum by separate detectors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/42Absorption spectrometry; Double beam spectrometry; Flicker spectrometry; Reflection spectrometry
    • G01J3/433Modulation spectrometry; Derivative spectrometry
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • G01J3/50Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors
    • G01J3/501Colorimeters using spectrally-selective light sources, e.g. LEDs
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • G01J3/50Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors
    • G01J3/51Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors using colour filters
    • G01J3/513Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors using colour filters having fixed filter-detector pairs
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407Optical details
    • G02B23/2461Illumination
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2476Non-optical details, e.g. housings, mountings, supports
    • G02B23/2484Arrangements in relation to a camera or imaging device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/125Colour sequential image capture, e.g. using a colour wheel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/13Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with multiple sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/533Control of the integration time by using differing integration times for different sensor regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/10Arrangements of light sources specially adapted for spectrometry or colorimetry
    • G01J2003/102Plural sources
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/12Generating the spectrum; Monochromators
    • G01J2003/1213Filters in general, e.g. dichroic, band
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • G01J2003/2826Multispectral imaging, e.g. filter imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/42Absorption spectrometry; Double beam spectrometry; Flicker spectrometry; Reflection spectrometry
    • G01J3/433Modulation spectrometry; Derivative spectrometry
    • G01J2003/4334Modulation spectrometry; Derivative spectrometry by modulation of source, e.g. current modulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes

Abstract

光不足環境において使用するための内視鏡撮像システムは、チューブと、1つ又は2つ以上の画像センサと、1つ又は2つ以上の画像センサに対応する少なくとも1つの光学素子を含むレンズアセンブリと、を有する、撮像装置を含む。内視鏡システムは、ユーザがシーンを視覚化するためのディスプレイと、画像信号処理コントローラと、を含む。内視鏡システムは、電磁放射線の1つ又は2つ以上のパルスを生成する照明源と、内視鏡の遠位先端に電磁放射線の1つ又は2つ以上のパルスを伝達する管腔と、を有する、ライトエンジンを含む。

Description

技術の進歩によって、医療用撮像能力の進歩がもたらされている。内視鏡を使用して、身体の内部を見ること、及び身体の器官内部又は体腔を診察することができる。内視鏡は、患者の症状を調査する、診断を確認する、又は医療処置を提供するために使用することができる。医療用内視鏡は、例えば、小切開による、消化管、気道、尿路、腹腔、などの、様々な体組織及び身体部位を視認するために使用することができる。内視鏡は、更に、整形手術手技、関節又は骨に行われる手技、神経系に行われる手技、腹腔内に行われる手技などの、外科手技のために使用することができる。
内視鏡はまた、アクセスできない、又は見ることが困難であり得る空間を視認及び検査するための、非医療分野においても使用されている。例えば、内視鏡は、提案された建物又は都市のスケールモデルを視覚化するために、プランナ又は建築家によって使用されることができる。内視鏡は、コンピュータなどの複雑なシステムの内部空間を視覚化するために使用することができる。内視鏡は、狭い空間の監視を行うために、又は爆破装置を検査するために、法執行機関又は軍人によって使用されることさえできる。
内視鏡の様々な用途の中でも、カラーで空間を視認することが有益であり得る。デジタルカラー画像は、画像の画素ごとに、少なくとも3つの層又は「色チャネル」を含むことができる。色チャネルの各々は、スペクトル帯域の光の強度及びクロミナンスを測定する。一般的に、デジタルカラー画像は、光の赤色、緑色、及び青色のスペクトル帯域の色チャネルを含む(これは、RGB画像と称される場合がある)。赤色、緑色、及び青色の色チャネルの各々は、光の赤色、緑色、又は青色スペクトル帯域の輝度情報を含む。別々の赤色、緑色、及び青色層の輝度情報を組み合わせて、デジタルカラー画像を作成することができる。カラー画像は、別々の層で構成されているので、デジタルカメラ画像センサは、一般的に、赤色、緑色、及び青色の可視光波長が、選択された画素センサに衝突することを可能にする、カラーフィルタアレイを含む。各個々の画素センサ素子は、赤色波長、緑色波長、又は青色波長に感応性があり、その波長の画像データのみを返す。画素センサのアレイ全体からの画像データを組み合わせて、RGB画像を生成する。
医療的診断又は医療処置のための内視鏡撮像の場合、カラー画像によって体腔を視認することが有益であり得、必要でさえあり得る。例えば、内視鏡を使用して身体の腹腔を視認する場合、カラー画像は、腹部内の異なる器官若しくは組織の識別、又は空間内の特定の状態若しくは疾患の識別を補助するための有益な情報を提供することができる。上で考察されたように、カラー画像を捕捉することができるデジタルカメラは、カラー画像の赤色、緑色、及び青色の層を個々に捕捉するために、少なくとも3つの異なる種類の画素センサを有し得る。少なくとも3つの異なる種類の画素センサは、(色認識不能な画素アレイと比較したときに)比較的広い物理的空間を消費する場合があり、よって、画素アレイ全体を、体内に挿入される内視鏡の小さい遠位端に嵌合することができない。カラーデジタルカメラは、少なくとも3つの異なる種類の画素センサを含み得るので、画素アレイ全体(すなわち、画像センサ)は、一般的に、内視鏡オペレータによって保持されて体腔内に配置されない、内視鏡のハンドピースユニット内に位置する。かかる内視鏡の場合、光は、ハンドピースユニットから、体腔内に配置される内視鏡の遠位端まで、内視鏡の長さに沿って伝達される。この内視鏡構成は、重大な限界を有する。この構成を有する内視鏡は、繊細であり、また、通常の使用中にぶつけたとき又は衝撃を与えたときに、位置ずれし易い又は損傷を受け易い場合がある。これは、内視鏡によって生成された画像の質を大幅に劣化させる場合があり、また、内視鏡を頻繁に修理又は交換する必要があり得る。
いくつかの場合では、特に医療用撮像又は医療処置の場合では、カラー画像であることよりも見えることが有益であり得る。カラー画像は、ある環境において見たときに、ヒトの眼球が検出したものを反映する。しかしながら、ヒトの眼球は、可視光のみを視認することに限定され、他の波長の電磁スペクトルを検出することができない。「可視光」波長を超える他の波長の電磁スペクトルでは、環境に関する追加的な情報を得ることができる。ヒトの眼球が検出することができるものを超える、環境に関する追加的な情報を検出する1つの方法は、ハイパースペクトル撮像である。医療目的のための撮像の場合、ハイパースペクトル撮像は、ヒトの眼球又はデジタルカラーカメラが検出することができるものを超える追加的な情報を提供する、体腔の独特のビューを提供することができる。
ハイパースペクトル撮像を使用して、異なる材料又は物体を識別すること、及び異なるプロセスを識別することができる。ヒトの眼球は、赤色、緑色、及び青色の組み合わせとして感知される、主に3つの帯域の波長の可視光の色を見る。典型的なヒトの眼球は、約350nm〜約750nmの電磁放射の波長に反応し、この帯域の波長は、「可視スペクトル」と称される場合がある。ハイパースペクトル撮像は、組織、物体、又は材料の反射に基づいて、光波長のスペクトルをはるかに多くの帯域に分けるという点で異なる。これは、ハイパースペクトル撮像が、ヒトの眼球で見ることができるものを超える情報を提供することを可能にする。ハイパースペクトル撮像は、ヒトの眼球又はコンピュータで特定の材料、物体、又はプロセスを識別することが困難又は不可能である様々な用途において有益な情報を提供することができる。いくつかの物体は、スペクトルシグネチャと称される場合がある、電磁スペクトル内の固有の「指紋」を残すので、ハイパースペクトル撮像は、特定の場合において特に効果的であり得る。これらのスペクトルシグネチャは、ヒトの眼球又はコンピュータによって見ることができない、特定の材料、物体、又はプロセスの識別を可能にする。
ハイパースペクトル撮像は、元々は、採掘及び地質学の用途のために開発されたものである。限られた情報をヒトの眼球に提供する通常のカメラ画像とは異なり、ハイパースペクトル撮像は、異なる鉱物のスペクトルシグネチャに基づいて、固有の鉱物を識別することができる。ハイパースペクトル撮像は、航空画像を撮るときでさえも有用であり得、また、例えばパイプライン又は天然井戸からの油又はガスの漏出、及び近隣の植物に対するそれらの影響に関する情報を提供することができる。この情報は、ハイパースペクトル撮像によって識別することができる特定の材料、物体、又はプロセスのスペクトルシグネチャに基づいて収集される。
しかしながら、ハイパースペクトル撮像は、極めて複雑であり、また、高速なコンピュータ処理能力、感度検出器、及び大きいデータ記憶容量を必要とする場合がある。加えて、ハイパースペクトル画像を白黒画像又はカラー画像に重ね合わせて、状況を開業医に提供する場合、重ね合わせる画像を生成することができるカメラ(又は複数のカメラ)は、固有の電磁放射範囲に感応性がある多数の異なる種類の画素センサを有し得る。これは、異なる波長の電磁スペクトルでハイパースペクトル画像データを生成するための追加的な画素センサと共に、従来の方法によってRGBカラー画像を生成するための3つの別々の種類の画素センサを含み得る。これは、画像解像度が十分であることを確実にするために、比較的広い物理的空間を消費し、大きい画素アレイを必要とし得る。内視鏡撮像の場合、複数の波長感応性画素センサを体腔内の内視鏡の遠位端に配置するには、必要とする物理的空間が広過ぎ、また、必要とする画素アレイが大き過ぎるので、1台又は複数のカメラが、内視鏡ハンドユニット又はロボットユニット内に配置され得る。これは、上述したことと同じ不利な点をもたらし、また、内視鏡を非常に繊細なものにする場合があり、よって、内視鏡の使用中にぶつけたとき又は衝撃を与えたときに、画質が大幅に劣化する。
本開示は、概して、内視鏡撮像に適用することができる電磁気の感知及びセンサに関する。本開示はまた、低エネルギー電磁入力条件、並びに低エネルギー電磁スループット条件にも関する。本開示は、より具体的には、全体として必ずしもそうではないが、光不足環境において画像を生成するためのシステム、及び関連する構造、方法、及び特徴に関するものであり、本方法は、期間、強度、又は両方を通して光源を制御することと、画像センサのブランキング期間中に成分制御した光源をパルス化することと、ブランキング期間を最大にして最適な光を可能にすることと、色バランスを維持することと、を含むことができる。
本開示の特徴及び利点を以下の説明で述べるのである程度この説明から明らかとなるか、及び、かつ、又は、不相応な実験のない本開示の実践によって習得されるであろう。本開示の特徴及び利点は、添付の特許請求の範囲において具体的に指摘する器具及び組み合わせによって実現及び取得され得る。
本開示の非制限的及び非網羅的な実装を以下の図を参照して説明し、同様の参照番号は、特に指定がない限り様々な図を通して同様の部品を指す。本開示の利点は以下の説明及び添付の図面を参照してより理解されるであろう。
一実施形態による、光不足環境において画像を生成するために使用するための、動作中における一対のセンサ及び電磁エミッタのシステムの実施形態の概略図である。 相補型システムハードウェアの概略図である。 本開示の実施形態による、1つの画像フレームを構築するために使用されるセンサの動作サイクルの説明図である。 本開示の実施形態による、1つの画像フレームを構築するために使用されるセンサの動作サイクルの説明図である。 本開示の実施形態による、1つの画像フレームを構築するために使用されるセンサの動作サイクルの説明図である。 本開示の実施形態による、1つの画像フレームを構築するために使用されるセンサの動作サイクルの説明図である。 一実施形態による、電磁エミッタの一実施形態の動作のグラフィカル表現である。 一実施形態による、露光制御を提供するために、放出電磁パルスの持続時間及び振幅を変動させたグラフィカル表現である。 一実施形態による、動作中の撮像システムを示す、図2A〜図4のセンサ、電磁エミッタ、及び放出電磁パルスの動作サイクルを組み合わせた、本開示の実施形態のグラフィカル表現である。 一実施形態による、全スペクトル光及び分割スペクトル光のビデオフレームを記録するための、t(0)〜t(1)の期間にわたる2つの異なるプロセスの概略図である。 本開示の原理及び教示に従って全スペクトル光及び分割スペクトル光の両方のビデオフレームを記録するための、ある時間間隔にわたるプロセスの概略図である。 本開示の原理及び教示に従って全スペクトル光及び分割スペクトル光の両方のビデオフレームを記録するための、ある時間間隔にわたるプロセスの概略図である。 本開示の原理及び教示に従って全スペクトル光及び分割スペクトル光の両方のビデオフレームを記録するための、ある時間間隔にわたるプロセスの概略図である。 本開示の原理及び教示に従って全スペクトル光及び分割スペクトル光の両方のビデオフレームを記録するための、ある時間間隔にわたるプロセスの概略図である。 本開示の原理及び教示に従って全スペクトル光及び分割スペクトル光の両方のビデオフレームを記録するための、ある時間間隔にわたるプロセスの概略図である。 電磁エミッタ及びセンサの両方の調整を例示する図であり、かかる調整は、本開示の原理及び教示に従っていくつかの実施形態において同時に行うことができる。 電磁エミッタ及びセンサの両方の調整を例示する図であり、かかる調整は、本開示の原理及び教示に従っていくつかの実施形態において同時に行うことができる。 電磁エミッタ及びセンサの両方の調整を例示する図であり、かかる調整は、本開示の原理及び教示に従っていくつかの実施形態において同時に行うことができる。 電磁エミッタ及びセンサの両方の調整を例示する図であり、かかる調整は、本開示の原理及び教示に従っていくつかの実施形態において同時に行うことができる。 電磁エミッタ及びセンサの両方の調整を例示する図であり、かかる調整は、本開示の原理及び教示に従っていくつかの実施形態において同時に行うことができる。 本開示の実施形態による、分割光システムと共に使用するためのセンサ補正方法及びハードウェアの概略図である。 本開示の実施形態による、分割光システムと共に使用するためのセンサ補正方法及びハードウェアの概略図である。 本開示の実施形態による、分割光システムと共に使用するためのセンサ補正方法及びハードウェアの概略図である。 本開示の実施形態による、分割光システムと共に使用するためのセンサ補正方法及びハードウェアの概略図である。 本開示の実施形態による、分割光システムと共に使用するためのセンサ補正方法及びハードウェアの概略図である。 本開示の実施形態による、分割光システムと共に使用するためのセンサ補正方法及びハードウェアの概略図である。 本開示の実施形態による、分割光システムと共に使用するためのセンサ補正方法及びハードウェアの概略図である。 本開示の実施形態による、分割光システムと共に使用するためのセンサ補正方法及びハードウェアの概略図である。 本開示の実施形態による、分割光システムと共に使用するためのセンサ補正方法及びハードウェアの概略図である。 本開示の実施形態による、閉鎖環境又は限定された光環境内でダイナミックレンジを増加させるための方法及びハードウェアの概略図である。 本開示の実施形態による、閉鎖環境又は限定された光環境内でダイナミックレンジを増加させるための方法及びハードウェアの概略図である。 色補正のないものと比較した典型的なベイヤーベースのセンサの色補正の信号対雑音比に対する影響を例示する図である。 sRGB色域と比較した3つのモノクロレーザの色度を例示する図である。 本開示の実施形態による、閉鎖環境又は限定された光環境内でダイナミックレンジを増加させるための方法及びハードウェアの概略図である。 本開示の実施形態による、閉鎖環境又は限定された光環境内でダイナミックレンジを増加させるための方法及びハードウェアの概略図である。 本開示の実施形態による、閉鎖環境又は限定された光環境内でダイナミックレンジを増加させるための方法及びハードウェアの概略図である。 本開示の実施形態による、対応する色センサによってパルス化及び/又は同期される、白色発光の使用を例示する図である。 本開示の実施形態による、対応する色センサによってパルス化及び/又は同期される、白色発光の使用を例示する図である。 本開示の実施形態による、対応する色センサによってパルス化及び/又は同期される、白色発光の使用を例示する図である。 本開示の実施形態による、三次元画像を生成するための複数の画素アレイを有する実装形態を例示する図である。 本開示の実施形態による、三次元画像を生成するための複数の画素アレイを有する実装形態を例示する図である。 それぞれ、複数の基板に構築された撮像センサの実装形態の斜視図及び側面図であり、画素アレイを形成する複数の画素列が第1の基板上に位置し、複数の回路列が第2の基板上に位置し、1つの画素列とその関連付けられた又は対応する回路列との間の電気接続及び通信を示す。 それぞれ、複数の基板に構築された撮像センサの実装形態の斜視図及び側面図であり、画素アレイを形成する複数の画素列が第1の基板上に位置し、複数の回路列が第2の基板上に位置し、1つの画素列とその関連付けられた又は対応する回路列との間の電気接続及び通信を示す。 それぞれ、三次元画像を生成するための複数の画素アレイを有する撮像センサの実装形態の斜視図及び側面図であり、複数の画素アレイ及び画像センサが、複数の基板上に構築されている。 それぞれ、三次元画像を生成するための複数の画素アレイを有する撮像センサの実装形態の斜視図及び側面図であり、複数の画素アレイ及び画像センサが、複数の基板上に構築されている。 本開示の実施形態による、様々な機械的フィルタ及びシャッタ構成を備えるエミッタの実施形態を例示する図である。 本開示の実施形態による、様々な機械的フィルタ及びシャッタ構成を備えるエミッタの実施形態を例示する図である。 本開示の実施形態による、様々な機械的フィルタ及びシャッタ構成を備えるエミッタの実施形態を例示する図である。 本開示の実施形態による、様々な機械的フィルタ及びシャッタ構成を備えるエミッタの実施形態を例示する図である。 本開示の実施形態による、様々な機械的フィルタ及びシャッタ構成を備えるエミッタの実施形態を例示する図である。 一実施形態による、照明を光不足環境に提供するためのシステムを例示する概略図である。 一実施形態による、複数のエミッタを有する光源を例示する概略ブロック図である。 別の実施形態による、複数のエミッタを有する光源を例示する概略ブロック図である。 更に別の実施形態による、複数のエミッタを有する光源を例示する概略ブロック図である。 一実施形態による、シーンを照明するために、出力において拡散器を介して出力する単一の光ファイバを例示する概略図である。 一実施形態による、フィルタを使用してフィルタ処理した画像の生成を例示するブロック図である。 一実施形態による、光源のエミッタによって放出させることができる、複数の異なるサブスペクトルに分けられた電磁スペクトルの一部分を例示する図である。 一実施形態による、マルチスペクトル画像又はハイパースペクトル画像を生成するための、放出及び読み出しのタイミング図を例示する概略図である。 一実施形態による、フィルタを使用してフィルタ処理した画像の生成を例示するブロック図である。 一実施形態による、複数のフィルタを使用してフィルタ処理した画像の生成を例示するブロック図である。 一実施形態による、物体及び/又は表面を追跡するためのグリッドアレイを例示する概略図である。 一実施形態による、マルチスペクトル画像又はハイパースペクトル画像を生成するための、放出及び読み出しの方法を例示する概略フローチャート図である。 一実施形態による、蛍光画像を生成するための、放出及び読み出しの方法を例示する概略フローチャート図である。
本開示は、主に医療用内視鏡撮像などの医療用途に適し得るデジタル撮像のための方法、システム、及びコンピュータベースの製品まで広がる。本明細書に開示されるかかる方法、システム、及びコンピュータベースの製品は、撮像手順、外科手技などを実行するためのロボット工学の使用などの、医療用ロボット工学用途で使用するための撮像能力又は診断能力を提供することができる。本開示の以下の説明では、本明細書の一部を成し、かつ、本発明の実施形態を実践し得る特定の実施形態が例示として示される添付図面を参照する。他の実装形態が利用され得ること、及び構造上の変更が本開示の範囲から逸脱することなく行われ得ることが理解される。
内視鏡は、多種多様な用途を有し、また、医療分野においてかなりの利益を提供し得る。内視鏡検査は、身体内部を見るために医学分野で使用され、また、いくつかの場合では、他の方法では見ることができないか、又は侵襲的外科手技を必要とする、撮像を提供することができる。内視鏡は、医学的診断、調査、又は研究のために使用することができ、更には、低侵襲様態で医療処置を実行するために使用することもできる。医療用内視鏡は、痛みを伴い、かつ侵襲的な矯正又は試験的な手術の必要性を打ち消すことによって、かなりの利益を患者及び医療従事者に提供することができる。
本明細書に開示されるように、体腔などの光不足環境において使用するための内視鏡システムは、撮像装置と、ライトエンジンと、を含むことができる。ライトエンジンは、電磁放射線のパルスを生成するための照明源を含むことができ、更に、電磁放射線のパルスを伝達するための管腔を内視鏡の遠位先端に含むことができる。管腔は、特定の波長又は波長の帯域の電磁スペクトルで、電磁放射線のパルスを伝達することができる。管腔は、時間調整された順序でかかるパルスを伝達することができ、撮像データは、各パルス中にセンサによって捕捉することができる。異なる波長のパルスと関連付けられた撮像データを使用して、赤色−緑色−青色(red green blue、RGB)画像及び/又はマルチスペクトル画像若しくはハイパースペクトルイメージ画像を生成することができる。一実施形態では、マルチスペクトル撮像又はハイパースペクトル撮像は、白黒画像又はRGB画像に重ね合わせることができる。
本明細書で開示されるように、内視鏡画像システムのためのシステム、方法、及び装置は、光不足環境の特殊化した画像データを提供することができる。特殊化した画像データを使用して、マルチスペクトル撮像又はハイパースペクトル撮像を生成すること、及び/又は光不足環境内の特定の材料、組織、構成要素、若しくはプロセスを識別することができる。特定の実施形態では、マルチスペクトル撮像又はハイパースペクトル撮像は、開業医又はコンピュータ実装のプログラムに提供して、身体内の特定の構造又は組織の識別を可能にすることができる。かかるマルチスペクトル撮像又はハイパースペクトル撮像データは、白黒又はRGB画像に重ね合わせて、追加的な情報及び状況を提供することができる。
更に、内視鏡画像システムのかかるシステム、方法、及び装置は、特定の試薬又は染料と協調して使用することができる。医療用撮像の実装形態では、特定の試薬又は染料を患者に投与することができ、そうした試薬又は染料は、特定の波長の電磁放射線に対して蛍光を発光すること又は反応することができる。本明細書に開示される内視鏡画像システムは、指定した波長の電磁放射線を伝達して、試薬又は染料に蛍光を発光させることができる。試薬又は染料の蛍光は、撮像を生成するために画像センサによって捕捉して、組織若しくは構造の識別を支援すること、及び/又は診断若しくは調査を支援することができる。一実装形態では、患者には、異なる波長で蛍光を発光するように、及び/又は異なる構造、組織、化学反応、生物学的プロセス、などの指示を提供するように各々が構成された、複数の試薬又は染料を投与することができる。かかる実装形態では、本明細書に開示される内視鏡システムは、適用可能な波長の各々を放出させて、適用可能な試薬又は染料に蛍光を発光させることができる。これは、複数の試薬又は染料の各々について個々の撮像手技を行うといった過去の必要性を打ち消すことができる。
医療用内視鏡は、内視鏡の遠位端が挿入される身体の内部空間の連続デジタル画像ストリームを提供することができる。様々な実装形態では、医療従事者が身体内の組織と構造とをより良好に区別することができるように、デジタル画像ストリームがフルカラー撮像を提供することが有益であり得るか、必要でさえあり得る。更なる実装形態では、ハイパースペクトル撮像データを提供して、高められた精度で構造、組織、プロセス、及び状態を区別することが有益であり得る。加えて、ハイパースペクトル撮像は、医療従事者又はコンピュータプログラムが、ヒトの眼球で見ることができない、又はRGBカラー画像において識別できない、人体の状態に関する情報を受信することを可能にすることができる。
内視鏡によってカラー画像データ及び/又はハイパースペクトル画像データを生成するためのシステム、方法、及び装置を本明細書で開示する。本開示のシステムは、チューブと、1つ又は2つ以上の画像センサと、レンズアセンブリと、を有する、撮像装置を含む。レンズアセンブリは、1つ又は2つ以上の画像センサのうちの少なくとも1つに対応する、少なくとも1つの光学素子を含むことができる。本システムは、シーンを視覚化するためのディスプレイと、画像信号処理コントローラと、を更に含む。本システムは、ライトエンジンを更に含むことができる。ライトエンジンは、電磁放射線の1つ又は2つ以上のパルスを生成するように構成された照明源と、電磁放射線の1つ又は2つ以上のパルスを内視鏡の遠位先端に伝達する管腔と、を含む。一実施形態では、電磁放射線の1つ又は2つ以上のパルスの少なくとも一部分は、513nm〜545nmの電磁放射線を含む。一実施形態では、電磁放射線の1つ又は2つ以上のパルスの少なくとも一部分は、565nm〜585nmの電磁放射線を含む。一実施形態では、電磁放射線の1つ又は2つ以上のパルスの少なくとも一部分は、900nm〜1000nmの電磁放射線を含む。本開示の実装形態において、ライトエンジンによるパルス化は、非常に短い持続時間であり得、また、1マイクロ秒(μs)よりも短いオン/オフ時間であり得る。
本開示の実施形態では、内視鏡システムは、スペクトル撮像又はハイパースペクトル撮像のための照明源を照明し、電磁放射線をパルス化する。スペクトル撮像は、電磁スペクトルにわたって複数帯域を使用する。これは、RGB画像を生成するための赤色波長、緑色波長、及び青色波長を含む、ヒトの眼球によって識別可能である可視スペクトルに基づく3つの波長にわたって光を捕捉するのみである、従来のカメラと異なる。スペクトル撮像は、赤外線波長、可視スペクトル、紫外スペクトル、X線波長、又は様々な波長帯域の任意の適切な組み合わせを含む、電磁スペクトル中の任意の波長帯域を使用することができる。スペクトル撮像は、可視帯域(例えば、標準的なRGB画像)に基づく撮像の上に、不可視帯域(例えば、赤外線)に基づいて生成される撮像を重ね合わせて、人又はコンピュータアルゴリズムによって容易に識別できる追加的な情報を提供することができる。
ハイパースペクトル撮像は、スペクトル撮像のサブカテゴリである。ハイパースペクトル撮像は、分光学及びデジタル写真を含む。ハイパースペクトル撮像の一実施形態では、完全なスペクトル又は何らかのスペクトル情報が、画像平面内のあらゆる画素において収集される。ハイパースペクトルカメラは、特殊なハードウェアを使用して、完全なスペクトルと解釈することができる、画素ごとの任意の好適な数の波長帯域を捕捉することができる。ハイパースペクトル撮像の目標は、異なる用途に対して変動させることができる。1つの用途では、ハイパースペクトル撮像の目標は、画像シーン内の各画素の電磁範囲全体を得ることである。これは、その他の方法であれば可視光波長帯域の下では識別不可能であり得る、特定の物体を見つけることを可能にすることができる。これは、特定の材料又は組織が可視光波長帯域の下で識別不可能であり得る場合に、そうした材料又は組織を正確に識別することを可能にすることができる。更に、これは、全ての波長の電磁スペクトルにわたって画像を補足することによって、特定のプロセスを検出することを可能にすることができる。
ハイパースペクトル撮像は、医療用途における従来の撮像に勝る、特定の利点を提供することができる。ハイパースペクトル撮像によって取得される情報は、医療従事者及び/又はコンピュータ実装のプログラムが、RGB撮像などの従来の撮像を使用した場合に不可能であり得るか、又は精度が低くなり得る診断につながり得る特定の組織又は状態を、正確に識別することを可能にすることができる。加えて、ハイパースペクトル撮像は、医療処置中に使用して、画像誘導手術を提供することができ、これは、医療従事者が、例えば、特定の組織又は流体の背後に位置する組織を視認すること、典型的な健康な細胞と対照的に非定型癌細胞を確認すること、特定の組織又は状態を識別すること、重要な構造を識別すること、などを可能にすることができる。ハイパースペクトル撮像は、従来の撮像では生成することができない組織生理学、形態学、及び組成物に関する、特殊化した診断情報を提供することができる。
内視鏡ハイパースペクトル撮像は、本開示の様々な用途及び実装形態において、従来の撮像に勝る利点を提示することができる。医療用の実装形態では、内視鏡ハイパースペクトル撮像は、開業医又はコンピュータ実装のプログラムが、例えば、神経組織、筋組織、様々な脈管、血流の方向、などを識別することを可能にする。ハイパースペクトル撮像は、非定型癌組織を、典型的な健常組織と精密に区別することを可能にすることができ、したがって、開業医又はコンピュータ実装のプログラムが、動作中又は調査撮像中に、癌性腫瘍の境界を識別することを可能にすることができる。加えて、本明細書に開示される光不足環境におけるハイパースペクトル撮像は、試薬又は染料の使用と組み合わせて、特定の組織又は物質の更なる区別を可能にすることができる。かかる一実施形態では、試薬又は染料は、電磁スペクトル内の特定の波長帯域によって蛍光を発光させることができ、したがって、その試薬又は染料の目的に対して特定の情報を提供することができる。本明細書に開示されるシステム、方法、及び装置は、1つ又は2つ以上の試薬又は染料が異なる時間に蛍光を発光することができるように、任意の数の波長帯域をパルス化することを可能にすることができる。特定の実施形態では、これは、単一の撮像手技中に、いくつかの医学的状態の識別又は調査を可能にすることができる。
医療用内視鏡は、可視光スペクトルの外側の波長帯域で電磁放射線をパルス化して、ハイパースペクトル画像の生成を可能にすることができる。内視鏡ハイパースペクトル撮像は、他の撮像方法において一般的である有害な放射線露光を患者が受けることを必要としない、医療用撮像のための非接触かつ非侵襲性の手段である。
例えば関節鏡検査及び腹腔鏡検査などのロボット内視鏡手技において使用される従来の内視鏡は、画像センサが典型的には内視鏡オペレータによって保持されて空洞の中へ挿入されないハンドピースユニット内に配置されるように設計される。かかる構成では、内視鏡ユニットは、複雑な一組の精密に連結された光学構成要素を介して、損失及び歪みを最小限に抑えながら、入射光を内視鏡チューブの長さに沿ってセンサに向かって伝達する。光学構成要素は高価であり、光学構成要素の製造プロセスが大きな労力を要するので、内視鏡ユニットのコストは、光学構成要素がその多くを占める。更に、この種類の内視鏡は、機械的に繊細であり、比較的軽い衝撃が構成要素に容易に損傷を与えること、又はそれらの構成要素の相対的位置合わせを狂わせることがあり得る。内視鏡構成要素(精密に連結された光学構成要素など)に対する僅かな位置ずれによってさえ、画質の相当な低下を生じさせること、又は内視鏡を使用不可能にさせることがあり得る。構成要素の位置がずれた場合、内視鏡の長さに沿って進行する入射光が減少し、よって、内視鏡の遠位端には殆ど又は全く光が存在せず、内視鏡が使用不可能になる。従来の内視鏡は、かかる正確かつ複雑な光学構成要素を必要とするので、及びそうした構成要素は、容易に位置がずれ得るので、かかる従来の内視鏡は、画像品質を維持するために、高頻度かつ高価な修理サイクルを必要とする。
この課題に対する1つの解決策は、内視鏡自体内の遠位端に画像センサを配置することである。かかる解決策は、容易に位置がずれ得る及び/又は損傷を受け得る、連結された光学構成要素の複雑で正確な収集に対する必要性を排除することができる。この解決策は、潜在的に、例えば携帯電話のカメラ内に普遍的に実現される、光学的単純さ、ロバスト性、及び経済性に近づく。しかしながら、内視鏡によって提供される多くの利点は、内視鏡の遠位端のコンパクト化によって生じることが理解されるべきである。カラー撮像又はハイパースペクトル撮像に従来使用されている複数の異なる波長感応性画素センサを収容するために内視鏡の遠位端が拡大された場合に、画素アレイが大きくなり過ぎる場合があり、内視鏡がもはや狭い空間に合わなくなり得るか、又は医療の実装形態で使用するときに妨害的若しくは侵襲的であり得る。内視鏡の遠位端は、非常に小さい状態を維持しなければならないので、遠位端に1つ又は2つ以上の画像センサを配置することは困難である。この方法に対する許容可能な解決策は、決して些末なものではなく、それ自体の一組の工学的課題をもたらすが、とりわけ、カラー撮像及び/又はハイパースペクトル撮像のためのセンサを非常に制限されたエリア内に収めなければならないという事実である。これは、従来のカメラの画素アレイが、ハイパースペクトル撮像に使用される他の波長帯域の追加的な画素センサと共に、赤色、緑色、及び青色の可視光帯域の各々について別々の画素センサを含む場合に特に困難である。内視鏡の遠位先端のエリアは、特に、X次元及びY次元において左右に限定され得るが、Z次元における内視鏡チューブの長さに沿ってより多くの空間が存在する。
内視鏡の利点の多くは、内視鏡の遠位端の小型化によって生じるので、画像センサが遠位端に位置するときに、侵襲的な制約を画像センサエリアに課さなければならない。センサエリアに課されるこうした侵襲的な制約は、必然的に、画素アレイにより少ない及び/又はより小さい画素をもたらす。画素数の低減は、空間解像度に直接影響を及ぼす場合があり、一方で、画素面積の低減は、利用可能な信号容量及びそれによる画素の感度、並びに、画像品質を最大にするような画素数の最適化、最大画素品質及びピッチを使用した最低画素解像度を低減させる場合があり、よって、解像度が問題にならなくなり、並びに、各画素の信号対ノイズ比(signal to noise ratio、SNR)を小さくする。信号容量を低下させることは、ダイナミックレンジを、即ち、広範囲の光度を有するシーンから全ての有用な情報を同時に捕捉する撮像装置又はカメラの能力を低下させる。イメージングシステムのダイナミックレンジを、それ自体のピクセルのダイナミックレンジを超えて拡張する、様々な方法が存在する。しかしながら、それらは全て(例えば、解像度又はフレーム率における)ある種類の損失を有し、極端な例において問題となる、望ましくないアーチファクトを取り込む恐れがあり得る。感度を低減することは、シーンのより暗い領域を容認可能な信号レベルにするために、より高い光のパワーを要する結果となる。F値を低くする(絞りを大きくする)ことで、感度の損失を補償することができるが、空間歪みが犠牲になり、焦点深度が浅くなる。
センサ業界では、相補型金属酸化膜半導体(complementary metal-oxide-semiconductor、「CMOS」)画像センサは、現代のカメラ用途において、従来の電荷結合素子(charge-coupled device、「CCD」)画像センサの大部分を置き換えた。CMOS画像センサは、CCD画像センサと比較して、統合性及び動作性がより容易で、画像品質がより優れているか又は同等であり、多様性がより高く、並びにコストがより低い。典型的には、CMOS画像センサは、画像情報をデジタルデータに変換するのに必要な回路を含むことができ、その後に組み込まれる様々なレベルのデジタル処理を有することができる。これは、例えば増幅器挙動の変動から生じ得る、非理想性を補正するための基礎アルゴリズムから、標準的な赤色−緑色−青色(RGB)色空間、例えばカメラオンチップで映像データを提供する完全画像信号処理(image signal processing、ISP)チェーンに及び得る。
内視鏡又は画像センサの制御ユニットは、画像センサから遠隔に位置することができ、また、画像センサからかなり離れた物理的距離とすることができる。制御ユニットがセンサから遠隔にある場合は、アナログデータストリームを送信することと比較したときに、干渉ノイズ及び信号劣化の影響をあまり受けないので、デジタルドメイン内でデータを送信することが望ましくなり得る。様々な電気デジタルシグナリング規格(例えばLVDS(low voltage differential signaling、低電圧差動シグナリング)、サブLVDS、SLVS(scalable low voltage signaling、スケーラブル低電圧シグナリング)、又は他の電気デジタルシグナリング規格を使用することができることが理解されるであろう。
電気伝導体の数を最小にして、センサ上の空間を消費しているパッドの数を低減させること、並びにセンサ製造の複雑さ及びコストを低減させることに対する強い願望が存在し得る。アナログ−デジタル変換のセンサへの追加が有利であり得るが、デジタル信号への初期の変換により必要とされるアナログバッファリング電力の相当な低減のため、変換回路が占める追加的な面積が相殺される。
面積の消費に関して、CMOS画像センサ(CMOS image sensor、CIS)技術において利用可能な典型的な特徴サイズを考慮すると、いくつかの実装形態では、一組の制御レジスタ及び単純なコマンドインターフェースを介して、画素アレイと同じチップ上で全ての内部論理信号を生成させることが好ましくなり得る。
本開示のいくつかの実装形態は、高度に制御された照明環境において画素数を低減させた高解像度の撮像を可能にする、組み合わせたセンサ及びシステム設計の態様を含むことができる。これは、単一色の波長をフレーム単位でパルス化することによって、及び高フレーム捕捉速度と併せて制御光源を使用する単一の異なる色波長と、特別に設計された対応するモノクロセンサとの間で各フレームを切り替える又は交互にすることによって達成することができる。加えて、可視光スペクトルの外側の電磁放射線をパルス化して、ハイパースペクトル画像の生成を可能にすることができる。画素は、色認識不能であり得、よって、各画素は、ハイパースペクトル撮像に使用することができる他の波長と共に赤色、緑色、及び青色の可視光波長のパルスを含む、電磁放射線の各パルスのデータを生成することができる。
本明細書で使用される場合、モノクロセンサは、フィルタリングされていない撮像センサを指す。画素は、色認識不能(color agnostic)であるので、有効空間解像度は、従来の単一センサカメラにおけるそれらの色(通常、ベイヤーパターンでフィルタリングされる)相対物よりもかなり高い。画素はまた、個々の画素間で無駄になる入射光がはるかに少ないので、より高い量子効率も有し得る。更に、ベイヤーベースの空間色変調は、ベイヤーパターンと関連付けられた色アーチファクトをぼやけさせるために、付随する光学部品の変調伝達関数(modulation transfer function、MTF)を単色の場合と比較して低下させることを必要とする。これは、色センサを用いて実現することができる、実際の空間分解能に対して悪影響がある。
本開示はまた、画像センサが内視鏡の遠位端に存在する、内視鏡用途に対するシステムの解決策に関する。最小面積のセンサベースのシステムを追求する際に、画素数の低減以外に、開発することができる他の設計態様が存在する。チップのデジタル部分の面積を最小にすることができる。加えて、チップ(パッド)への接続数も最小にすることもできる。本開示は、かかるシステムを実現するためのこれらの目標を達成する、新規な方法を記載する。このことは、いくつかの新規な特徴を備えたフルカスタムのCMOS画像センサの設計に関与する。
本開示による原理の理解を促進する目的で、図面に示される実施形態をここで参照し、かつ特定の言語を使用してその図面を説明する。にもかかわらず、それにより、本開示の範囲の限定は意図されないことが理解されるであろう。本明細書に例示される本発明の特徴の任意の改変及び更なる修正、並びに本明細書に例示される本開示の原理の任意の追加の適用は、通常当業者に生じ、また本開示の所有は特許請求される開示の範囲内であると見なされる。
光不足環境において画像を生成するための構造、システム、及び方法を開示及び記載する前に、本開示は、本明細書で開示される特定の構造、構成、処理工程、及び材料がいくらか異なってもよいように、そのような構造、構成、処理工程、及び材料に限定されないことが理解されよう。また、本開示の範囲は添付の「特許請求の範囲」及びその同等物によってのみ制限されるため、本明細書で用いられる専門用語は特定の実施形態のみを記載する目的で使用され、制限であるとは意図されないことも理解されよう。
本開示の主題の記載及び特許請求において、以下の専門用語は、以下に示される定義に従って使用されるであろう。
本明細書及び添付の特許請求の範囲で使用する場合、単数形「a」、「an」、及び、「the」は、前後の文脈により明確な指定がない限り、複数の参照部分を含むことに注意しなければならない。
本明細書で使用する場合、用語「含む(comprising)」、「包含する(including)」、「含有する(containing)」、「によって特徴づけられる(characterized by)」及びその文法的同等物は、更なる、記載されていない要素又は方法の工程を除外しない包括的、つまり、幅広い解釈ができる用語である。
本明細書で使用される場合、「からなる」という語句及びその文法的同等物は、「特許請求の範囲」で特定されない任意の要素又は工程を除外する。
本明細書で使用する場合、語句「から本質的になる」及びそれらの文法的同等物は、特定される材料又は工程、及び特許請求される開示の基本の及び新しい特徴又は複数の特徴に物質的に影響しないものに、特許請求の範囲の範囲を制限する。
本明細書で使用される場合、「近位」という用語は、原点に最も近い部分の概念を広範に指すものである。
本明細書で使用される場合、「遠位」という用語は、近位の反対、故に、文脈により、原点からより遠い部分又は最も遠い部分の概念を一般的に指すものである。
本明細書で使用される場合、色センサ又はマルチスペクトルセンサは、入射電磁放射線をその別々の構成要素内にフィルタをかけるように、その上にカラーフィルタアレイ(color filter array、CFA)を有することが知られているセンサである。電磁スペクトルの視界では、かかるCFAは、光の緑、赤、及び青スペクトル成分に分離するために、ベイヤーパターン上に構築してもよく、又はその修正物であってもよい。
以下、図1〜図5を参照して、光不足環境において画像を生成するためのシステム及び方法を以下に記載する。図1は、光不足環境において画像を生成する際に使用するための、動作中における一対のセンサ及び電磁エミッタの概略図を例示する。かかる構成は、光が制御された環境又は環境照明不足環境における機能を高めることを可能にする。
本明細書で使用されるとき、用語「光」は、粒子と波長の両方であり、画素アレイによって検出可能な電磁放射線を意味するものとし、電磁放射線の可視スペクトル及び非可視スペクトルの波長を含む場合があることに留意されたい。用語「隔壁」は、全体のスペクトル未満である電磁スペクトルの所定の範囲の波長、換言すれば、電磁スペクトルの部分を構成する波長を意味するように、本明細書において使用される。本明細書で使用する場合、エミッタは、その構成要素の物理特性、放出の強度、若しくは放出の持続時間、若しくは上記の全てに関して放出される又は動作し得る電磁スペクトルの一部分に関して制御可能であり得る、光源である。エミッタは、任意のディザ処理された、拡散された、又はコリメート化された発光型で光を放出することができ、またデジタル方式で、又はアナログ方法若しくはアナログシステムを介して制御され得る。本明細書で使用する場合、電磁エミッタは、電磁エネルギーの供給源であり、かつレーザ、LED、白熱光などの光源、又はデジタル制御され得る任意の光源を含む。
画像センサの画素アレイは、エミッタと電気的に対にされてもよく、それにより、それらは、動作中、双方の放出を受け取ることと、システム内部でなされた調整とに対して同期される。図1で見ることができるように、エミッタ100は、レーザの形態で電磁放射線を放出するように調整することができ、これは、物体110を照明するためにパルス化され得る。エミッタ100は、画素アレイ122の動作及び機能に対応する間隔でパルスすることができる。エミッタ100は、複数の電磁隔壁105において光をパルスすることができ、よって、画素アレイは、電磁エネルギーを受信して、各特定の電磁隔壁105に(時間的に)対応するデータセットを生成する。例えば、図1は、画素アレイ(白黒)122及び支持回路を有するモノクロセンサ120を有するシステムを示し、画素アレイ122は、任意の波長の電磁放射線に対して感応性を有する。図に例示される光エミッタ100は、赤色の電磁隔壁105a、青色の電磁隔壁105b、及び緑色の電気隔壁105cを任意の所望の順序で放出することができる、レーザエミッタであってもよい。ハイパースペクトル画像を生成することができる一実施形態では、光エミッタ100は、ハイパースペクトル画像を生成することができるように、電磁スペクトル内の任意の波長で電磁放射線をパルス化することができる。デジタル又はアナログベースのエミッタなどの他の光エミッタ100が、本開示の範囲から逸脱することなく、図1において使用され得ることが理解されるであろう。
動作中に、任意の個々のパルスについてモノクロセンサ120によって作成されたデータには、特定の色又は波長隔壁を割り当てることができ、この割り当ては、エミッタ100からパルス化された色又は波長隔壁のタイミングに基づく。画素122が色専用でない場合であっても、そうした画素には、エミッタに関する事前情報に基づいて、任意の所与のデータセットの色を割り当てることができる。
本開示の例示的な一実施形態では、エミッタ100は、特殊化した波長で電磁放射線をパルス化する。かかるパルスは、特定の医療用途又は診断用途に特に適している特殊化したハイパースペクトル画像の生成を可能にすることができる。例示的な実施形態では、エミッタ100は、513nm〜545nm、及び565nm〜585nm、及び900nm〜1000nmの電磁放射線をパルス化する。
一実施形態では、赤、緑、及び青の電磁パルスを表す3つのデータセットが組み合わせられて、単一の画像フレームを形成し得る。他の波長隔壁を表す1つ又は2つ以上の追加的なデータセットは、赤色、緑色、及び青色パルスに基づく、単一の画像フレームに重ね合わせることができる。1つ又は2つ以上の追加的なデータセットは、例えば513nm〜545nm、及び565nm〜585nm、及び900nm〜1000nmのパルスを表すことができる。1つ又は2つ以上の追加的なデータセットは、赤色、緑色、及び青色パルスに基づく単一の画像フレームに重ね合わせることができる蛍光撮像及び/又はハイパースペクトルを表すことができる。
本開示は、任意の特定の色の組み合わせ又は任意の特定の電磁隔壁に限定されず、かつ任意の色の組み合わせ又は任意の電磁隔壁は、赤、緑及び青の代わりに、シアン、マゼンタ、及びイエロー、紫外線、赤外線、前述の任意の組み合わせ、又は本開示の範囲から逸脱することなく全ての可視波長及び非可視波長を含む、任意のその他の色の組み合わせを使用し得る、と理解されよう。図では、撮像される物体110は、赤色部分110aと、緑色部分110bと、青色部分110cと、を含む。図に示すように、電磁パルスからの反射光は、パルス化された色隔壁に対応する特定の色を有する物体の一部に対する、データのみを含有する。次いで、130において、これらの別々の色(又は色間隔)データセットを使用して、データセットを組み合わせることによって、画像を再構築することができる。
一実施形態では、電磁スペクトルに沿った追加的な波長隔壁と共に、赤色、緑色、及び青色電磁パルスを表す複数のデータセットを組み合わせて、RGB画像に重ね合わせたハイパースペクトル画像データを伴うRGB画像を有する単一の画像フレームを形成することができる。用途又は場合に応じて、波長データセットの異なる組み合わせが望ましくなり得る。例えば、いくつかの実装形態では、特定の波長隔壁を表すデータセットを使用して特定の医療状態の診断、特定の身体組織の調査、などを行うための、特殊化したハイパースペクトル画像を生成することができる。
図2に例示されるように、本開示の実施態様では、下で詳細に考察されるように、例えば、1つ又は2つ以上のプロセッサ及びシステムメモリなどのコンピュータハードウェアを含む、専用又は汎用コンピュータを備えること又は利用することができる。本開示の範囲内の実施態様はまた、コンピュータ実行可能な命令及び/又はデータ構造を支持つまり記憶する、物理的媒体及び他のコンピュータ可読媒体を含み得る。このようなコンピュータ可読媒体は、汎用又は専用コンピュータシステムによりアクセス可能な、任意の入手可能な媒体であってもよい。コンピュータ実行可能な命令を記憶するコンピュータ可読媒体は、コンピュータストレージ媒体(装置)である。コンピュータ実行可能な命令を支持するコンピュータ可読媒体は、伝送媒体である。したがって、限定されない例として、本開示の実施態様では、少なくとも2つの明確に異なる種類のコンピュータ読み取り可能媒体、即ちコンピュータストレージ媒体(装置)と伝送媒体とを含むことができる。
コンピュータストレージ媒体(装置)としては、RAM、ROM、EEPROM、CD−ROM、ソリッドステートドライブ(「solid state drive、SSD」)(例えば、RAM対応)、フラッシュメモリ、相変化メモリ(「phase-change memory、PCM」)、その他の形式のメモリ、他の光ディスクストレージ、磁気ディスクストレージ、又は、他の磁気ストレージ装置、又は、コンピュータ実行可能な命令又はデータ構造の形である所望のプログラムコード手段を記憶するために使用することができ、かつ、汎用又は専用コンピュータによりアクセス可能な任意のその他の媒体が挙げられる。
「ネットワーク」は、コンピュータシステム及び/又はモジュール及び/又は他の電子機器間の電子データの転送を可能にする1つ以上のデータリンクとして定義される。一実装態様では、センサ及びカメラ制御ユニットは、互いに、及びそれらが接続されたネットワークを通じて接続された他の構成要素と通信するようにネットワーク化することができる。情報がコンピュータにネットワーク上で又は別の通信接続(配線接続、無線、又は、配線接続若しくは無線の組み合わせのいずれか)で転送、又は提供される場合、コンピュータは、接続を伝送媒体として適切にとらえる。伝送媒体は、コンピュータ実行可能命令又はデータ構造の形態の所望のプログラムコード手段を伝えるのに使用可能で、かつ汎用又は専用コンピュータによりアクセス可能なネットワーク及び/又はデータリンクを含むことができる。上記の組み合わせはまた、コンピュータ可読媒体の範囲内に含まれるべきである。
更に、様々なコンピュータシステムの構成要素に到達すると、伝送媒体からコンピュータストレージ媒体(装置)まで(逆もまた同様)自動的に転送することができる、コンピュータ実行可能命令又はデータ構造の形態のプログラムコード手段。例えば、ネットワーク又はデータリンク上で受信されたコンピュータ実行可能な命令又はデータ構造は、ネットワークインターフェースモジュール(例えば、「NIC」)内でRAMにおいてバッファリングされ、その後、最終的には、コンピュータシステムRAM及び/又はコンピュータシステムでの揮発性が小さいコンピュータストレージ媒体(装置)に転送することができる。また、RAMとしては、ソリッドステートドライブ(FusionIOなど、SSD又はPCIx対応実時間メモリ階層型ストレージ)を挙げることができる。したがって、コンピュータストレージ媒体(装置)は、伝送媒体をも利用する(又は主に利用する場合もある)コンピュータシステムの構成要素に含まれ得る、と理解するべきである。
コンピュータ実行可能な命令は、例えば、プロセッサにおいて実行された場合に、汎用コンピュータ、専用コンピュータ、又は専用処理装置に、特定の機能又は機能グループを実行させる命令及びデータを含む。コンピュータ実行可能命令は、例えば、バイナリ、アセンブリ言語などの中間フォーマット命令、又はソースコードであってもよい。主題を構造上の特徴及び/又は方法の行為に特有の言語で記載してきたが、添付の特許請求の範囲内で定義する主題が必ずしも記載した特徴、又は、先述した行為に限定されるというわけではないことを理解するべきである。むしろ、記載した特徴及び行為は、本開示を実行するという代表的な形態として開示される。
当業者であれは、本開示が、パーソナルコンピュータ、デスクトップコンピュータ、ラップトップコンピュータ、メッセージプロセッサ、制御ユニット、カメラ制御ユニット、携帯用装置、ハンドピース、マルチプロセッサシステム、マイクロプロセッサ対応又はプログラマブル大衆消費電子製品、ネットワークPC、ミニコンピュータ、メインフレームコンピュータ、携帯電話、PDA、タブレット、ポケットベル、ルータ、スイッチ、様々なストレージ装置などを含め、多くの形式のコンピュータシステム構成を有するネットワークコンピューティング環境において実践され得ることを、理解するであろう。上述したコンピューティング装置のいずれかは、ブリックアンドモルタル(brick and mortar)位置により提供され得る、又はブリックアンドモルタル位置内に位置され得ることに留意されるべきである。本開示は、また、ネットワークを介して(配線接続データリンク、無線データリンク、又は、配線接続データリンク及び無線データリンクの組み合わせのいずれかにより)結び付けられるローカル及びリモートコンピュータシステムが、両方ともタスクを実行する分散システム環境において、実践され得る。分布システム環境では、プログラムモジュールは、ローカル及びリモートメモリストレージ装置の両方に位置してもよい。
更に、適切な場合、本明細書に記載される機能を、ハードウェア、ソフトウェア、ファームウェア、デジタル構成要素、又はアナログ構成要素のうちの1つ以上で実行することができる。例えば、1つ以上の特定用途向け集積回路(application specific integrated circuit、ASIC)、又は、フィールドプログラマブルゲートアレイ(field programmable gate array、FPGA)は、本明細書にて記載するシステム及び手順の1つ以上を実行するように、プログラムすることができる。特定の用語が、特定のシステム構成要素を指すために以下の記述及び特許請求の範囲を通して使用される。当業者には理解されるように、構成要素を異なる名称により称している場合がある。本明細書では、名称が異なるが機能は異ならない構成要素を区別することは、意図していない。
図2は、例示的なコンピューティング装置150を例示するブロック図である。コンピューティング装置150は、本明細書で考察される手順などの、様々な手順を実行するために使用することができる。コンピューティング装置150は、サーバ、クライアント、又は任意の他のコンピューティングエンティティとして機能することができる。コンピューティング装置150は、本明細書で考察されるような様々なモニタリング機能を行うことができ、本明細書に記載されるアプリケーションプログラムなどの1つ又は2つ以上のアプリケーションプログラムを実行することができる。コンピューティング装置150は、デスクトップコンピュータ、ノートブックコンピュータ、サーバコンピュータ、携帯用コンピュータ、カメラ制御ユニット、タブレットコンピュータなどの、多種多様な種類のコンピューティング装置のいずれかとすることができる。
コンピューティング装置150はと、1つ又は2つ以上のプロセッサ152と、1つ又は2つ以上の記憶装置154と、1つ又は2つ以上のインターフェース156と、1つ又は2つ以上の大容量ストレージ装置158と、1つ又は2つ以上の入力/出力(I/O)装置160と、表示装置180と、を含み、これらは全てバス162に連結される。プロセッサ(複数可)152は、記憶装置(複数可)154及び/又は大容量ストレージ装置(複数可)158に記憶された命令を実行する、1つ又は2つ以上のプロセッサ又はコントローラを含む。プロセッサ(複数可)152はまた、キャッシュメモリなどの様々な種類のコンピュータ可読媒体も含むことができる。
記憶装置(複数可)154としては、揮発性メモリ(例えば、ランダムアクセスメモリ(random access memory、RAM)164)及び/又は不揮発性メモリ(例えば、リードオンリーメモリ(read-only memory、ROM)166)などの、様々なコンピュータ可読媒体が挙げられる。記憶装置(複数可)154としてはまた、フラッシュメモリなどのリライタブルROMも挙げることができる。
大容量ストレージ装置(複数可)158としては、磁気テープ、磁気ディスク、光ディスク、ソリッドステートメモリ(例えば、フラッシュメモリ)などの、様々なコンピュータ可読媒体が挙げられる。図2に示されるように、特定の大容量ストレージ装置は、ハードディスクドライブ174である。様々なドライブもまた、様々なコンピュータ可読媒体からの読み出し、及び/又はコンピュータ可読媒体への書き込みを可能にするために、大容量ストレージ装置(複数可)158に含まれ得る。大容量ストレージ装置(複数可)158は、取り外し可能な媒体176及び/又は取り外し不可能な媒体を含む。
I/O装置(複数可)160としては、コンピューティング装置150に対するデータ及び/又は他の情報の入力又は検索を可能にする、様々な装置が挙げられる。例示的なI/O装置(複数可)160としては、デジタル撮像装置、電磁センサ及びエミッタ、カーソル制御装置、キーボード、キーパッド、マイクロホン、モニタ若しくは他の表示装置、スピーカ、プリンタ、ネットワークインターフェースカード、モデム、レンズ、CCD、又は他の画像捕捉装置、などが挙げられる。
表示装置180としては、情報をコンピューティング装置150の1人又は2人以上のユーザに表示することができる、任意の種類の装置が挙げられる。表示装置180の例としては、モニタ、ディスプレイ端子、ビデオ投影装置、などが挙げられる。
インターフェース(複数可)106としては、コンピューティング装置150が、他のシステム、装置、又はコンピューティング環境と相互作用することを可能にする、様々なインターフェースが挙げられる。例示的なインターフェース(複数可)156は、ローカルエリアネットワーク(local area network、LAN)、ワイドエリアネットワーク(wide area network、WAN)、無線ネットワーク、及びインターネットに対するインターフェースなどの、任意の数の異なるネットワークインターフェース170を含むことができる。他のインターフェース(複数可)としては、ユーザインターフェース168及び周辺装置インターフェース172が挙げられる。インターフェース(複数可)156はまた、1つ又は2つ以上のユーザインターフェース要素168も含むことができる。インターフェース(複数可)156はまた、プリンタ、ポインティング装置(マウス、トラックパッド、など)、キーボード、などの1つ又は2つ以上の周辺機器インターフェースも含むことができる。
バス162は、プロセッサ(複数可)152、記憶装置(複数可)154、インターフェース(複数可)156、大容量ストレージ装置(複数可)158、及びI/O装置(複数可)160が、互いに、並びにバス162に連結された他の装置又は構成要素と通信することを可能にする。バス162は、システムバス、PCIバス、IEEE1394バス、USBバス、などの、いくつかの種類のバス構造のうちの1つ又は2つ以上を表す。
例示を目的として、プログラム及び他の実行可能プログラム構成要素は、本明細書で個別的なブロックとして示されるが、かかるプログラム及び構成要素は、コンピューティング装置150の異なるストレージ構成要素内に様々な時間に常駐させることができること、及びプロセッサ(複数可)152によって実行されることが理解される。あるいは、本明細書で記載するシステム及び手順は、ハードウェア、又は、ハードウェア、ソフトウェア及び/又はファームウェアの組み合わせで実装され得る。例えば、1つ以上の特定用途向け集積回路(ASIC)、又は、フィールドプログラマブルゲートアレイ(FPGA)は、本明細書にて記載するシステム及び手順の1つ以上を実行するように、プログラムすることができる。
図2Aは、ローリング読み出しモードで、又はセンサ読み出し200中に使用されるセンサの動作サイクルを例示する。フレーム読み出しは、垂直線210によって表され得、そこで開始され得る。読み出し期間は、対角線又は斜線202によって表される。センサは、行単位で読み出すことができ、下向きの斜縁の最上部は、センサ最上行212であり、下向きの斜縁の最下部は、センサ最下行214である。最後の行の読み出しと次の読み出しとのサイクル間の時間は、ブランキング時間216と称され得る。センサ画素行のうちのいくつかは、遮光(例えば、金属コーティング又は任意の他の、別の種類の材料の実質的黒の層)で覆われ得ることに、留意されたい。これらの覆われた画素行は、光学的黒の行218及び220と称され得る。光学的黒の行218及び220は、補正アルゴリズムのための入力として使用することができる。図2Aに示されるように、これらの光学的黒の行218及び220は、画素アレイの最上部、又は画素アレイの最下部、又は画素アレイの最上部及び最下部に位置することができる。図2Bは、画素に対して露光され、それにより、画素によって積分又は蓄積される電磁放射線、例えば光、の量を制御するプロセスを例示する。光子は、電磁放射線の素粒子であることが理解されよう。光子は、各画素により統合、吸収、又は蓄積され、電荷又は電流に変換される。電子シャッタ又はローリングシャッタ(破線222で示される)は、画素をリセットすることによって積分時間を開始するために使用することができる。次に、光は、次の読み出し段階まで統合し得る。電子シャッタ222の位置は、光の所与の量に対する画素飽和を制御するために、2つの読み出しサイクル202の間に移動し得る。この技法は、2つの異なるラインの間で一定の積分時間を可能にするが、最上行から最下行に移動する場合に遅延を生じることに留意されたい。図2Cは、電子シャッタ222が取り外れた場合を例示する。この構成では、入射光の積分を読み出し202中に開始することができ、次の積分の開始も定義する次の読み出しサイクル202で終了することができる。図2Dは、電子シャッタ222を有しないが、ブランキング時間216中に制御及びパルス化された光230を有する構成を示す。これは、全ての行が、同じ光パルス230から発せられた同じ光を見ることを確実にする。換言すれば、各行は、最大光パルス幅に対して読み出しフレーム(m)の光学的黒の後行220にあり得る、暗い環境においてその積分を開始することができ、次いで、光ストロボを受光し、そして、最大光パルス幅に対して次に続く読み出しフレーム(m+1)の光学的黒の前行218にあり得る、暗い環境においてその積分を終了することができる。図2Dの実施例では、光パルスから生成された画像は、フレーム(m)及び(m+2)とのいかなる干渉も伴うことなく、フレーム(m+1)の読み出し中にのみ利用可能である。1つのフレームにおいてのみ読み出され、かつ隣接するフレームと干渉しない光パルスを有する条件が、ブランキング時間216中に、所与の光パルスの発射を有することに留意されたい。光学的黒の列218、220は、光に対して非感応性であるので、フレーム(m)の光学的黒の後行220及びフレーム(m+1)の光学的黒の前行218をブランキング時間216に追加して、光パルス230の発射時間の最大範囲を決定することができる。図2Aに例示されるように、センサは、各パルス化された色又は波長(例えば、電磁スペクトル上の赤色、緑色、青色、又は他の波長)のデータを受信するために、何度もサイクルさせることができる。各サイクルは、時間調整され得る。ある実施形態では、サイクルは、16.67msの間隔内で動作するように時間調整され得る。別の実施形態では、サイクルは、8.3msの間隔内で動作するように時間調整され得る。その他の時間間隔が本開示で企図され、かつ本開示の範囲内であると意図されることが、理解されよう。
図3は、電磁エミッタの実施形態の動作をグラフ様式に例示する。エミッタは、センサのサイクルに対応するように時間を決めることができるので、電磁放射線はセンサ動作サイクル内及び/又はセンサ動作サイクルの一部の間で放出される。図3は、302におけるパルス1、304におけるパルス2、及び306におけるパルス3を例示する。一実施形態では、エミッタは、センサ動作サイクルの読み出し部分202中に、パルス化することができる。一実施形態では、エミッタは、センサ動作サイクルのブランキング部分216中に、パルス化することができる。一実施形態では、エミッタは、2つ以上のセンサ動作サイクルの部分中の持続時間に、パルスを発生させることができる。一実施形態では、エミッタは、ブランキング部分216中に、又は読み出し部分202の光学的黒の部分220中に、パルスを開始することができ、また、読み出し部分202中に、又は次に続くサイクルの読み出し部分202の光学的黒の部分218中に、パルスを終了させることができる。上記の任意の組み合わせは、エミッタのパルスとセンサのサイクルが一致する限り、本開示の範囲内に該当するように意図される、と理解されるであろう。
図4は、露光を制御するための、放出された電磁パルスの持続時間及び振幅の変動(例えば、402におけるパルス1、404におけるパルス2、及び406におけるパルス3)をグラフ様式に表す。一定の出力振幅を有するエミッタは、必要とされる電磁エネルギーを画素アレイに提供するための間隔で、図2D及び図3を参照して上述したサイクルのいずれかの間に、パルス化され得る。一定の出力振幅を有するエミッタは、より長い間隔でパルス化することにより、より大きな電磁エネルギーを画素に付与し得る、又は、本エミッタは、より短い間隔でパルス化することにより、より小さい電磁エネルギーを付与し得る。長い間隔か、又は短い間隔が必要かどうかは、動作条件に依存する。
エミッタが一定の出力振幅をパルス化する時間間隔を調整するのとは対照的に、放出自体の振幅は、より多くの電磁エネルギーを画素に提供するように増加させることができる。同様に、パルスの振幅を縮小させると、より小さい電磁エネルギーが画素に与えられる。システムの一実施形態は、所望であれば、振幅及び持続時間の両方を同時に調整する能力を有することができることに、留意されたい。また、センサは、最適な画像品質に対し所望の感度及び持続時間を増加させるように、調整され得る。図4は、パルスの振幅及び持続時間を変化させることを示す。図では、402におけるパルス1は、404におけるパルス2又は406におけるパルス3のいずれよりも大きい振幅又は強度を有する。加えて、402におけるパルス1は、404におけるパルス2又は406におけるパルス3よりも短い持続時間を有し、これにより、パルスによって提供される電磁エネルギーは、図に示されるパルスの下のエリアによって例示される。図では、404におけるパルス2は、402におけるパルス1又は406におけるパルス3のいずれかと比較した場合に、比較的小さい振幅又は強度及びより長い持続時間を有する。最後に、図では、406におけるパルス3は、402におけるパルス1及び404におけるパルス2と比較した場合に、中間的な振幅又は強度及び持続時間を有する。
図5は、本開示の原理及び教示に従って、図2〜図4の動作サイクル、電磁エミッタ、及び放出された電磁パルスを組み合わせて、動作中の撮像システムを実証する、本開示の実施形態のグラフィカル表現を示す。図に見られるように、電磁エミッタは、主にセンサのブランキング期間216中に放出をパルス化し、これにより、センササイクルの読み出し部分202中に画素が充電され、読み出し準備が整う。パルスにおける破線部分(図3から)は、電磁エネルギーをパルス化するために追加の時間が必要である、又は所望される場合に、読み取りサイクル(センササイクル)200の光学的黒の部分220及び218中に電磁エネルギーを放出する潜在力又は能力を例示する。
以下、図6〜図9Aを参照すると、図6は、全スペクトル光及び分割スペクトル光のビデオフレームを記録するための、t(0)〜t(1)の期間にわたる2つの異なるプロセスの概略図を示す。色センサは、全スペクトル光受信に一般的に使用される画素当たりの特定の波長の光をフィルタリングするための、カラーフィルタアレイ(CFA)を有することに、留意されたい。CFAの例は、ベイヤーパターンである。色センサが全スペクトル内から単一の色に感応的に作られた配列内の画素を含み得る故に、画素アレイが、全スペクトル内の単一の光のみに専用の画素空間を有するため、低解像度の画像結果が得られる。通常、このような配設は、配列全体にわたって、チェッカーボード型パターンにて形成される。
対照的に、光の分割されたスペクトルが使用される場合、各サイクルにおける電磁エネルギーの全スペクトルの所定の隔壁から電磁エネルギーを感知するように画素アレイが指示される故に、全ての光エネルギーの振幅に感応性であり得る又は応答し得るセンサを、作製することができる。したがって、画像を形成するために、センサは、光の全スペクトル内から複数の異なる隔壁でのみで循環され、また次に、画像を再組み立てして、配列中の全ての画素に対する、色値の所定の混合を表示することが、必要となる。したがって、色パルスの各々について、同じ色感度の画素中心間のベイヤーセンサと比較して、距離が低減されているため、より高解像度の画像も提供される。その結果、形成された有色画像は、より高い変調伝達関数(MTF)を有する。各色分割フレームサイクルからの画像がより高い解像度を有する故に、分割された光フレームがフルカラーフレームに統合された場合に生成される結果として生じる画像もまた、より高い解像度を有する。換言すれば、配列内の全ての画素(多くても、カラーフィルタを伴うセンサ内の全ての第2の画素の代わりである)は、所与のパルス及び所与の場面のためのエネルギーの振幅を感知する故に、ほんの少しの個別の時間だけ、導入される必要がある、より少なく得られた(正確性がより劣る)データを用いて各場面に対し高い解像度の画像が作製される。
例えば、白色光又は全スペクトル可視光は、赤色光、緑色光、及び青色光の組み合わせである。図6に示される実施形態では、分割スペクトルプロセス620及び全スペクトルプロセス610の両方において、画像を捕捉する時間が、t(0)〜t(1)であることを見ることができる。全スペクトルプロセス610では、612において、白色光又は全スペクトル電磁エネルギーが放出される。614において、白色又は全スペクトルの電磁エネルギーが感知される。616において、画像が処理され、かつ表示される。したがって、時間t(0)とt(1)との間で、画像が処理され、かつ表示される。反対に、分割スペクトルプロセス620では、622において、第1の隔壁が放出され、624において、感知される。626において、第2の隔壁が放出され、次いで、628において、感知される。630において、第3の隔壁が放出され、次いで、632において、感知される。634において、画像が処理され、かつ表示される。白色光サイクルよりも少なくとも2倍速い画像センササイクルを使用する任意のシステムは、本開示の範囲内に含まれることが意図される、と理解されよう。
図6に示される実施形態では、時間t(0)とt(1)との間でグラフ様式に見ることができるように、分割スペクトルシステム620のセンサは、全スペクトルシステムの1つごとに3回サイクルしている。分割スペクトルシステム620では、3つのセンササイクルの第1は、緑色スペクトル622及び624に関するものであり、3つのうちの第2は、赤色スペクトル626及び628に関するものであり、第3は、青色スペクトル630及び632に関するものである。したがって、表示装置(LCDパネル)が毎秒50〜60フレームで動作する一実施形態では、分割された光システムは、表示された映像の連続性及び平滑性を維持するために、毎秒150〜180フレームで動作するべきである。
他の実施形態では、異なる捕捉及びディスプレイフレーム速度が存在し得る。更に、平均捕捉速度は、ディスプレイ速度の任意の倍数であってもよい。
一実施形態では、全ての隔壁がシステムフレーム速度内で等しく表されないことが望ましい場合がある。換言すれば、ユーザが望むように記録された場面の態様を強調し、また強調しないようにするために、全ての光源が同じ規則性でパルス化されなければならない。また、電磁スペクトルの非可視隔壁及び可視隔壁は、システム内で一緒にパルス化されてもよく、それらのそれぞれのデータ値は、ユーザに表示するために所望される際に、映像出力へとステッチされていることも、理解されたい。
一実施形態は、以下のようなパルスサイクルパターンを含んでもよい。
i.緑色パルス、
ii.赤色パルス、
iii.青色パルス、
iv.緑色パルス、
v.赤色パルス、
vi.青色パルス、
vii.赤外線(infra-red、IR)パルス、
viii.(繰り返し)
実施例に見ることができるように、赤外線隔壁又は特殊な波長隔壁(例えば、513〜545nm、565〜585nm、及び/又は900〜100nm)は、他の隔壁パルスの速度と異なる速度でパルス化することができる。これは、場面の特定の態様を強調するために行われてもよく、IRデータは、単に映像出力におけるその他のデータと重ねられて、所望の強調を行うことができる。赤色、緑色、及び青色隔壁の頂部への電磁隔壁の追加は、全ての隔壁をパルスパターン内に等しく表す必要がないので、シリアル化されたシステムが、全スペクトルの非シリアルシステムの速度の4倍で動作することを必ずしも必要としないことに留意されたい。本実施形態に見られるように、パルスパターン(上記の実施例では赤外線)がより少なく表される隔壁パルスの追加は、不規則な隔壁サンプリングに適応するために、センサのサイクル速度の20%未満の増加をもたらし得る。
様々な実施形態では、パルスサイクルパターンは、任意の好適な順序で、以下の波長のいずれかを含むことができる。かかる波長は、マルチスペクトル画像データ若しくはハイパースペクトル画像データを決定するのに、又は蛍光試薬緩和放出に基づいて画像データを決定するのに特に適し得る。
i.465±5nm、
ii.533±4nm、
iii.638±5nm、
iv.780±5nm、
v.805±5nm、
vi.975±5nm、
vii.577±2nm、又は
viii.523±4nm。
一実施形態では、場面の態様を強調するために使用される染料又は材料に感応的な電磁隔壁が放出されてもよい。本実施形態では、高解像度を必要とせずに、染料又は材料の位置を強調するのに十分であり得る。かかる一実施形態では、染料感受性電磁隔壁は、強調されたデータを含むために、システム内の他の隔壁よりもはるかに少ない頻度でサイクルさせることができる。
隔壁サイクルは、様々な撮像及び映像基準に対応する、又は近似するように分割されてもよい。一実施形態では、下で図7A〜図7Dにおいて最良に例示されるように、隔壁サイクルは、赤色、緑色、青色スペクトルの電磁エネルギーのパルスを含むことができる。図7Aでは、灰色の垂直破線によって示される動作範囲内で光パルスの幅又は持続時間を調整することによって、異なる光強度が達成されている。図7Bでは、光電力又はレーザエミッタ又はLEDエミッタであり得る電磁エミッタの電力は調整するが、パルス幅又は持続時間は一定に保つことによって、異なる光強度が達成されている。図7Cは、光電力及び光パルス幅がどちらも調整されている場合を示し、これは、より大きい柔軟性につながる。隔壁サイクルは、画像を生成するために、又は現在知られている、若しくは更に開発される所望のビデオ規格に近づけるために必要とされる、可視パルス源及び任意の他の色空間と混合された不可視パルス源を使用するCMY、IR、及び紫外線を使用することができる。また、システムは、色空間の間をオンザフライで切り替えて、所望の画像出力品質を提供することが可能であり得ることが理解されるべきである。
色空間、緑色−青色−赤色(図7Dに見られる)を使用する実施形態では、ユーザは、概して、光の色の違いよりも光の振幅の違いに対して感応性であるので、クロミナンス成分よりも頻繁に輝度成分をパルス化することを望み得る。この原理は、図7Dに例示されるように、モノクロセンサを使用して利用することができる。図7Dでは、最も多くの輝度情報を含む緑色は、輝度データを得るために、(G−B−G−R−G−B−G−R...)スキームにおいて、より頻繁に又はより大きい強度でパルス化され得る。かかる構成は、感知できないデータを作成及び送信することなく、感知可能なより多くの詳細を有するビデオストリームを作成する。
一実施形態では、より弱いパルスのために調整された出力を生成するために、より弱い隔壁のパルスを複製することが使用され得る。例えば、青色レーザ光は、シリコンベースの画素の感度と比較して弱いと考えられ、また、赤色光又は緑色光と比較して生成することが難しく、したがって、光の弱さを補償するために、フレームサイクル中により頻繁にパルス化され得る。これらの追加的なパルスは、連続して経時的に、又は所望の補償効果を生成するために同時にパルス化する複数のレーザを使用することによって行うことができる。ブランキング期間(センサが画素アレイを読み出していない時間)中にパルス化することによって、センサは、同じ種類のレーザの違い/ミスマッチに対して非感応性であり、単に、所望の出力のための光を蓄積することに留意されたい。別の実施形態では、最大光パルス範囲は、フレーム間で異なり得る。これを図7Eに示し、光パルスは、フレーム間で異なる。センサは、2つ、又は3つ、又は4つ、又はn個のフレームの繰り返しパターンによって、異なるブランキング時間をプログラムすることができるように構築することができる。図7Eでは、4つの異なる光パルスが例示され、パルス1は、例えばパルス4の後に繰り返すことができ、また、異なるブランキング時間を有する4つのフレームのパターンを有することができる。この技法を使用して、最も小さいブランキング時間に対して最も強力な隔壁を配置し、したがって、最も弱い隔壁が、読み出し速度を高める必要性を伴うことなく、次のフレームのうちの1つに、より広いパルスを有することを可能にすることができる。再構築されたフレームは、多くのパルス化されたフレームで構成されたときに、それでもフレーム間の規則的なパターンを有することができる。
図8に見ることができるように、各分割された範囲の光が異なるエネルギー値を有することができるので、センサ及び/又は光エミッタは、エネルギー値の違いを補償するように調整することができる。810において、前フレームからのヒストグラムから取得したデータを解析することができる。820において、下述するように、センサを調整することができる。加えて、830において、エミッタを調整することができる。840において、画像を、調整されたサンプリング時間にセンサから取得することができ、又は画像を、調整された(増加又は減少させたのいずれか)放出光によって、又は上記の組み合わせによって得ることができる。例えば、赤色光スペクトルは、システム内のセンサによって青色光スペクトルよりも容易に検出されるので、センサは、シリコンに関して青色隔壁が有する量子効率が低いので、赤色隔壁サイクル中には感応性が低くなるように、及び青色隔壁サイクル中には感応性がより高くなるように調整することができる(図9に最良に例示される)。同様に、エミッタは、調整された隔壁(例えば、より高い又はより低い強度及び持続時間)を提供するように調整することができる。更に、調整は、センサレベル及びエミッタレベルの両方において行うことができる。エミッタはまた、1つの特定の周波数で放出するように設計することもでき、又は特定の用途のために所望される場合に、特定の隔壁の複数周波数を放出して、放出されている光のスペクトルを広げるように変更することもできる。
図10は、非共有4T画素の概略図を示す。TX信号は、フォトダイオード(photo diode、PPD)からフローティングディフュージョン(floating diffusion、FD)に蓄積電荷を転送するために使用される。リセット信号は、FDをリセットバスにリセットするために使用される。リセット信号及びTX信号が同時に「オン」になった場合は、PPDが常にリセットされ(PPDにおいて生成される各光電荷が、リセットバスにおいて直接収集される)、PPDは常に空である。通常の画素アレイの実装形態は、1つの行内の全ての画素のリセット信号を添付する水平リセットラインと、1つの行内の全ての画素のTX信号を添付する水平TXラインと、を含む。
一実施形態では、センサ感度調整のタイミングが例示され、センサ感度の調整は、グローバルリセット機構(すなわち、同時に全ての画素アレイリセット信号を発射する手段)及びグローバルTX機構(すなわち、同時に全ての画素アレイTX信号を発射する手段)を使用して達成することができる。これを図11に示す。この場合、光パルスは、持続時間及び振幅が一定であるが、全ての画素内で積分された光は、グローバルTXの「オン」から始まり、「オフ」に移行し、そして、光パルスによって終了する。したがって、変調は、グローバルTXパルスの立ち下がりエッジを移動させることによって達成される。
反対に、エミッタは、青色光よりも小さい強度で赤色光を放出して、適正に露光された画像(図12に最良に例示される)を生成することができる。1210において、前フレームからのヒストグラムから取得したデータを解析することができる。1220において、エミッタを調整することができる。1230において、調整された放射光から画像を取得することができる。加えて、一実施形態では、エミッタ及びセンサは、同時に調整することができる。
いくつかの実施形態では、後の出力のために、分割スペクトルフレームを全スペクトルフレームに再構築することは、アレイ内の各画素について感知値をブレンドするのと同程度に単純であり得る。加えて、値のブレンド及び混合は、単純な平均とすることができ、又は所望の出力のために、値の所定のルックアップテーブル(lookup table、LUT)に調整することができる。分割光スペクトルを使用したシステムの一実施形態では、感知値は、事前に処理するか、又は遠隔で、画像若しくは二次プロセッサによって、及びディスプレイに出力される直前に、センサから遠隔で更に精緻化することができる。
図13は、モノクロISPの1300における基本的な実施例、及びISPチェーンが、G−R−G−B光パルス化スキームで得られる生センサデータからsRGB画像順序を生成する目的で、どのように組み立てることができるか、を例示する。
第1の段階は、補正を行って(図13の1302、1304、及び1306を参照されたい)、生データドメイン(図21を参照されたい)において機能するのに最も適切であるセンサ技術における任意の非理想性を補償することに関する。
次の段階において、各最終フレームが3つの生フレームからデータを導出してから、2つのフレーム(図13の1308及び1310を参照されたい)をバッファリングする。1314において、現在のフレーム及び2つのバッファリングしたフレーム(1308及び/又は1310)からのサンプリングデータによって、フレームの再構成を始める。再構築プロセスは、線形RGB色空間の全カラーフレームをもたらす。
この実施例では、1324でのその後のエッジ強調のために、1322においてYCbCr空間に変換する前に、1318でのホワイトバランス係数及び1320での色補正マトリックスが適用される。該当する場合は、1324でのエッジ強調の後に、1328においてスケーリングするために、1326において画像が線形RGBに逆に変換される。
最後に、1330において、ガンマ伝達関数が適用されて、1332において、データをsRGBドメインに翻訳する。
図14は、色融合ハードウェアの一実施形態の実施例である。1402において、色融合ハードウェアが、RGBGRGBGRGBGビデオデータストリームを取り、1405において、それを並列RGBビデオデータストリームに変換する。入力側のビット幅は、例えば、1色あたり12ビットであり得る。本実施例の出力幅は、1画素あたり36ビットである。他の実施形態は、異なる初期ビット幅、及び出力幅の3倍の数を有し得る。1402において、メモリライタブロックがその入力としてRGBGビデオストリームを取り、1404において、各フレームをその正しいフレームメモリバッファに書き込む(メモリライタは、レーザ光源を動作させる同じパルス発生器1410をトリガする)。1404に例示されるように、メモリへの書き込みは、赤色、緑色1、青色、緑色2、そして、赤色を再度開始するパターンに従う。1406において、メモリリーダが3つのフレームを同時に読み出して、RGB画素を構築する。各画素は、個々の色成分のビット幅の3倍である。1410において、リーダがレーザパルス発生器もトリガする。リーダは、赤色、緑色1、及び青色フレームが書き込まれるまで待機し、次いで、それらの読み出しに進み、一方で、ライタは、緑色2の書き込みを続け、そして、赤色を再度開始する。赤色が完了すると、リーダは、青色、緑色2、及び赤色からの読み出しを開始する。このパターンは、無制限に続く。
以下、図15及び図16を参照すると、一実施形態では、図16に例示されるRG1BG2RG1BG2パターンの再構築は、120fpsの入力を有する60fpsの出力を可能にする。各連続するフレームは、前のフレームからの赤色成分又は青色成分のいずれかを含む。図16では、各色成分は、8.3msで利用することができ、結果として生じる再構築されたフレームは、16.67msの期間を有する。一般に、このパルス化スキームの場合、再構築されたフレームは、図15に示されるように、入射有色フレームの期間の2倍の期間を有する。他の実施形態では、異なるパルス化方式を採用することができる。例えば、実施形態は、各色成分又はフレームのタイミング(T1)、及び入射カラーフレームの期間の2倍の期間(2×T1)を有する再構築されたフレームに基づくことができる。順序内の異なるフレームは、異なるフレーム期間を有することができ、平均捕捉速度は、最終フレーム速度の倍数になり得る。
図17〜図20は、分割光システムと共に使用するための色補正方法及びハードウェアの概略図を例示する。デジタル撮像では、画像データ内の値を操作して、ユーザの期待に応えるように、又は撮像物体の特定の態様を強調するように、出力を補正することが一般的である。最も一般的には、これは、一方のデータ型を他方よりも強調するように同調及び調整される衛星画像において行われる。多くの場合、衛星取得データには、光源が制御されない、すなわち、太陽が光源であるので、利用可能な電磁エネルギーの全スペクトルが存在する。対照的に、光が制御され、更にはユーザによって提供される撮像状態が存在する。かかる状況では、較正を伴わなければ不適当な強調が他のデータよりも特定のデータに与えられ得るので、依然として画像データの較正が望ましい。光がユーザによって制御されるシステムでは、ユーザに既知で、かつ電磁スペクトルの一部分のみ又は全電磁スペクトルの複数の部分であり得る光の放出を提供することが有利である。較正は、ユーザの期待に応えるために、及びシステム内の故障をチェックするために依然として重要である。較正の1つの方法は、センサからのデータと比較することができる、所与の撮像状態について予想した値の表であり得る。一実施形態は、撮像装置によって出力されるべき既知の値を有する色中立シーンを含むことができ、装置が色中立シーンをサンプリングするときに、そうした既知の値を満たすように装置を調整することができる。
使用中に、及び始動に応じて、システムは、1702において複数の電磁スペクトル隔壁の全サイクルを動作させることによって、(図17に例示されるように)1710において色中立シーンをサンプリングすることができる。1704において、フレームのヒストグラムを生成するために値の表1708を形成することができる。1706において、フレームの値を、色中立シーンからの既知の又は予想した値と比較することができる。次いで、1712において、所望の出力を満たすように撮像装置を調整することができる。図17に例示される一実施形態では、システムは、撮像装置を色補正するように調整することができる、画像信号プロセッサ(image signal processor、ISP)を備えることができる。
光の各分割スペクトルが異なるエネルギー値を有し得るので、センサ及び/又は光エミッタは、エネルギー値の違いを補償するように調整され得ることに留意されたい。例えば、一実施形態では、シリコンベースの撮像装置に関して、青色光スペクトルが赤色光スペクトルよりも低い量子効率を有するので、センサの反応を、赤色サイクル中にはあまり応答しないように、及び青色サイクルにはより応答するように調整することができる。反対に、エミッタは、適切に露光した画像を生成するために赤色光よりも青色光の量子効率が低いので、より高い強度で青色光を放出することができる。
光源の放出が提供され、システムによって制御可能である、図18に例示される一実施形態では、1800において、そうした光の放出の調整を行って、画像の色補正を行うことができる。調整は、振幅、持続時間(すなわち、タイムオン)、又はスペクトル隔壁内の範囲などの、放出光の任意の態様に対して行うことができる。加えて、図19に示されるようないくつかの実施形態では、エミッタ及びセンサは、同時に調整することができる。
図20に見ることができるように、出力された画像ストリーム又はビデオのノイズ及びアーチファクトの量を低減させるために、細分化した調整をシステム内のセンサ又はエミッタに行うことができる。図20には、エミッタ2006及びセンサ2008の両方を調整することができるシステム2000が例示されているが、使用中に又は使用の一部分にわたってエミッタ若しくはセンサのいずれかが調整される撮像装置もまた想到され、本開示の範囲内である。使用の一方の部分の間にはエミッタのみを調整し、使用の別の部分の間にはセンサのみを調整し、一方で、更に使用の一部分の間に両方を同時に調整することが有利であり得る。上記の実施形態のいずれかでは、システムがフレームサイクルの間に行うことができる全体的な調整を制限することによって、向上した画質を得ることができる。換言すれば、一実施形態は、フレームの間の任意の時間にその動作範囲の一部のみを調整することができるように、エミッタを制限することができる。同様に、センサは、フレームの間の任意の時間にその動作範囲の一部のみを調整することができるように制限することができる。更に、一実施形態では、エミッタ及びセンサの両方を、フレームの間の任意の時間にそれらのそれぞれの動作範囲の一部のみを共に調整することができるように制限することができる。
例示的な一実施形態では、システム内の構成要素の一部の調整は、例えば、前のフレームの露光を補正するために、構成要素の動作範囲の約0.1dBにおいて実行することができる。この0.1dBは、単なる一例にすぎず、他の実施形態では、構成要素の可能な調整が、それらのそれぞれの動作範囲の任意の部分であり得ることに留意されたい。システムの構成要素は、概して構成要素によって出力されるビット数(解像度)によって管理される、強度又は持続時間の調整によって変更することができる。構成要素の解像度は、典型的には、約10〜24ビットの範囲とすることができるが、現在利用可能であるものに加えて更に開発される構成要素の解像度を含むことを意図するものとして、この範囲に限定されるべきでない。例えば、第1のフレームの後に、観察したときにシーンが青過ぎると判断された場合には、約0.1dBなどの、上で考察されたような一部分の調整によって、システムの青色サイクル中に、青色光のパルスの振幅又は持続時間を減少させるようにエミッタを調整することができる。
この例示的な実施形態では、10パーセントを超えることが必要であり得たが、システムは、それ自体を1システムサイクルあたりの動作範囲の0.1dBの調整に制限していた。したがって、次いで、次のシステムサイクル中に、必要に応じて、青色光を再度調整することができる。サイクル間の細分化した調整は、出力画像のダンピング効果を有することができ、また、それらの動作極致でエミッタ及びセンサを動作させるときにノイズ及びアーチファクトを低減させる。任意の僅かな量の構成要素の動作の調整範囲を制限因子として使用することができると判断することができ、又はシステムの特定の実施形態が構成要素の動作範囲の全体にわたって調整することができる構成要素を備えることができると判断することができる。
加えて、任意の画像センサの光学的黒のエリアを使用して、画像補正及びノイズ除去を支援することができる。一実施形態では、光学的黒のエリアから読み出した値は、センサのアクティブ画素領域の値と比較して、画像データを処理する際に使用するための基準点を確立することができる。図21は、カラーパルス化システムに採用され得る種類のセンサ補正プロセスを示す。CMOS画像センサは、典型的には、特に少ない光において画像品質に悪影響を及ぼす、複数の非理想性を有する。その主なものは、固定パターンノイズ及びラインノイズである。固定パターンノイズ(fixed pattern noise、FPN)は、感知要素のオフセットのばらつきである。典型的には、大部分のFPNは、他のソースの中でも、フォトダイオード間の暗電流のランダムな変変動によって生じる、画素間の変動である。これは、視聴者には非常に不自然に見える。更に甚だしいのは、特定の画素の列と関連付けられた読み出しチェーンのオフセットによってもたらされる列FPNである。これは、画像内の垂直ストライプの知覚をもたらす。
全体的な照明の制御は、暗データのフレーム全体を定期的に取得して、画素及び列のオフセットを補正するために使用することができるという利点を有する。例示される実施例では、単一のフレームバッファを使用して、例えば単純な指数スムージングを使用した光を伴うことなく、フレーム全体の動作平均を行うことができる。この暗平均フレームは、通常動作中に、あらゆる照明されたフレームから減算される。
ラインノイズは、各行内の画素のオフセットの確率時間変動である。これは一時的であるので、各ライン及び各フレームついて補正を新たに計算しなければならない。この目的のために、通常は、多数の光学的に見えない(optically blind、OB)画素がアレイ内の各行内に存在し、これは、光感応性画素をサンプリングする前に、最初にサンプリングして、ラインオフセットを評価しなければならない。次いで、ラインノイズ補正プロセ中に、単にラインオフセットを減算する。
図21の実施例では、データを適切な順序で取得すること、アナログドメイン(黒のクランプ)における電圧を監視及び制御すること、並びに個々の不良画素を識別/補正すること、に関する他の補正が存在する。
図22及び図23は、閉じた又は制限された光環境内でダイナミックレンジを高めるための方法及びハードウェアの概略を例示する。一実施形態では、露光入力は、経時的に異なるレベルの入力であり得、また、組み合わせて、より大きいダイナミックレンジを生成することができる。図22に見ることができるように、撮像システムは、より大きいダイナミックレンジを達成することができるように、2202において、第1のサイクルにわたって第1の強度でサイクルさせ、次いでその後に、2204において、第2のサイクルにわたって間の第2の強度でサイクルさせ、次いで、2206において、第1及び第2のサイクルを単一のフレームに組み合わせることによってサイクルさせることができる。撮像装置が使用される空間環境が制限されるため、より大きいダイナミックレンジが特に望ましくなり得る。光源によって提供される光を除いて、光不足又は暗所である制限された空間環境では、及び光源が光エミッタの近くにある場合、露光は、距離との指数関係を有する。例えば、光源の近くの物体及び撮像装置の光学的開口部は、過剰に露光される傾向があり、一方で、遠く離れた物体は、周囲光が殆ど(少しも)存在しないので、極めて少なく露光される傾向がある。
図23に見ることができるように、2300において、複数の隔壁における電磁エネルギーの放出を有するシステムのサイクルは、電磁スペクトルの隔壁に従って、連続的にサイクルさせることができる。例えば、エミッタが異なる赤色隔壁、異なる青色隔壁、及び異なる緑色隔壁のレーザを放出する実施形態では、組み合わせられる二組のサイクルデータは、以下の形態であり得る。
i.2302で強度1の赤色、
ii.2304で強度2の赤色、
iii.2302で強度1の青色、
iv.2304で強度2の青色、
v.2302で強度1の緑色、
vi.2304で強度2の緑色。
代替的に、システムは、以下の形態でサイクルさせることができる。
i.2302で強度1の赤色、
ii.2302で強度1の青色、
iii.2302で強度1の緑色、
iv.2304で強度2の赤色、
v.2304で強度2の青色、
vi.2304で強度2の緑色。
かかる一実施形態では、第1の画像は、1つの強度値から導出することができ、第2の画像は、2つの強度値から導出することができ、次いで、2310において、それらの構成部分ではなく、完全な画像データセットとして組み合わせる又は処理することができる。
任意の数の放出隔壁が任意の順序で使用され得ることが、本開示の範囲内であると想到される。図23に見られるように、「n」は、任意の数の電磁隔壁及び「m」を表すための変数として使用され、「m」は、「n」個の隔壁の任意のレベルの強度を表すために使用される。かかるシステムは、以下のようにサイクルさせることができる。
i.2306において強度mのn、
ii.強度m+1のn+1、
iii.強度m+2のn+2、
iv.2308において強度m+jのn+i。
したがって、シリアル化したサイクルの任意のパターンを使用して、所望の画像補正を生成することができ、「i」及び「j」は、撮像システムの動作範囲内の追加的な値である。
デジタルカラーカメラは、色再現の忠実度を最大にするための画像処理段階を組み込んでいる。これは、色補正マトリックス(Color Correction Matrix、CCM)として知られている3×3マトリックスによって達成される。
Figure 2021508543
CCMにおける項は、最良の全体的なマッチをsRGBの標準色空間に提供するために、(例えば、Macbethチャートからの)一組の基準色を使用して調整される。対角項、a、e、及びiは、効果的ホワイトバランスゲインである。しかし、典型的に、ホワイトバランスは、別々に適用され、水平行の合計は、ネットゲインがCCM自体によって適用されないように、単一的であるように制約される。非対角項は、入力チャネル内のカラークロストークに効果的に対処する。したがって、カラーファイラ(filer)アレイがチャネル間に多くの応答の重なりを有するので、ベイヤーセンサは、3チップカメラがチャネルよりも高い非対角を有する。
非対角項の振幅に依存する、色補正に対する信号対雑音比ペナルティが存在する。sRGB成分に完全にマッチしたチャネルを有する仮想センサは、以下の単位行列CCMを備える。
Figure 2021508543
緑色チャネルにおいて評価される信号対雑音比は、この場合の10,000e/画素(読み出し雑音を無視する)の完全な白色光信号について、以下のようになる。
Figure 2021508543
これからの任意の逸脱がSNRを低下させる。例えば、ベイヤーCMOSセンサに対しては異常でない値を有するCCMを考えると、以下のようになる。
Figure 2021508543
この場合では、緑色のSNRは、以下のようになる。
Figure 2021508543
図24は、単位行列対調整したCCMを使用した場合の、典型的なベイヤーセンサのCCMに対してD65照明を使用した、全SNRシミュレーションの結果を示す。輝度成分について評価したSNRは、色補正の結果として約6dB悪化している。
本開示に記載されるシステムは、複数の個別的な波長のモノクロ照明を使用するので、当然、いかなるカラークロストークも存在しない。図25のX印は、三角形によって示されるsRGBの範囲と比較した、レーザダイオード源(465、532、及び639nm)を介して利用可能である3つの波長の位置を示す。
この場合では、ベイヤーセンサと比較して、CCMの非対角項が大幅に低減され、かなりのSNRの利点を提供する。
図26は、画像センサの画素アレイの画素構成によって提供される、ダイナミックレンジを増加させた撮像システムを例示する。図に見ることができるように、隣接するピクセル2602及び2604は、異なる感度に設定することができ、それにより、各サイクルは、互いに対してより多い及びより少ない感応性である画素によって生成されるデータを含む。複数の感度を、単一サイクルのアレイに記録することができるので、並列に記録した場合は、他の実施形態の時間に依存する連続的な性質とは対照的に、ダイナミックレンジを増加させることができる。
一実施形態では、アレイは、それらの感度に基づいて行内に配置することができる画素の行を備えることができる。一実施形態では、異なる感度の画素は、それらの感度に基づいてアレイの全体を通して、その最も近くの隣接する画素に対して行又は列内で交互させて、チェッカーボードパターンを形成することができる。上記は、任意の画素回路を共有した配設を通して、又は任意の独立した画素回路の配設で達成することができる。
広いダイナミックレンジは、複数のグローバルTXを有することによって達成することができ、各TXは、異なる一組の画素に対してのみ発射する。例えば、グローバルモードで、グローバルTX1信号は、第1組の画素を点灯させており、グローバルTX2信号は、第2組の画素を点灯させており、...、グローバルTXn信号は、第n組の画素を点灯させている。
図11に基づいて、図27Aは、画素アレイ内の2つの異なる画素の感度(二重画素感度)のためのタイミングの実施例を示す。この場合、グローバルTX1信号がアレイの画素の半分を点灯させ、グローバルTX2がもう半分の画素を点灯させる。グローバルTX1及びグローバルTX2が「オン」から「オフ」への異なるエッジ位置を有するので、積分光は、TX1画素とTX2画素との間で異なる。図27Bは、二重画素感度のタイミングの異なる実施形態を示す。この場合、光パルスは、2回変調される(パルス持続時間及び/又は振幅)。TX1画素は、P1パルスを積分し、TX2画素は、P1+P2パルスを積分する。グローバルTX信号の分離は、数多くの方法で行うことができる。以下は、実施例である。
i.TXラインを各行と区別する、
ii.1行あたり複数のTXラインを送信し、各々が異なる一組の画素をアドレッシングする。
一実装形態では、本開示に記載されるカラーパルス化システムを利用する、広いダイナミックレンジのビデオを提供する手段が記載されている。この手段の基礎は、同じフレーム内の異なる持続時間にわたって入射光を積分することができる同じモノクロアレイ内で、複数のフレーバーの画素、又は異なって調整することができる画素を有することである。かかるセンサのアレイ内の画素配設の一例は、2つの独立した可変積分時間を有する、全体を通して均一なチェッカーボードパターンである。かかる場合、赤色情報及び青色情報の両方を同じフレーム内に提供することができる。実際には、2つの積分時間をフレーム単位で調整することができるので、最も必要である場合に、緑色フレームのダイナミックレンジを拡張するように、これを同時に行うことが可能である。その利点は、全てのデータが3つに対して2つのフレームから導出される場合に、カラーモーションアーチファクトがあまり問題にならないことである。当然ながら、赤色及び青色データの空間解像度のその後の損失が存在するが、緑色データが輝度成分を占めるので、緑色と比較して、画像品質にあまり影響を及ぼさない。
モノクロワイドダイナミックレンジ(wide-dynamic range、WDR)アレイの固有の特性は、長い積分時間を有する画素が、短い積分時間の画素によって見られる光の上位集合を積分しなければならないことである。これは、緑色フレームにおける標準的なワイドダイナミックレンジ動作に望ましい。赤色及び青色フレームの場合、パルス化は、露光期間と連動して制御して、例えば、長い露光の開始から青色光を提供し、短い露光画素がオンにされた時点で赤色に切り替えなければならない(どちらの画素の種類も、同時に転送されるそれらの電荷を有する)。
色融合段階で、画素の2つのフレーバーを2つのバッファに分離する。次いで、例えば線形補間を使用して、空の画素を満たす。この時点で、一方のバッファが青色データを含み、他方が赤色+青色の全画像を含む。青色バッファを第2のバッファから減算して、純粋な赤色データを提供することができる。
図28A〜図28Cは、対応する色センサによってパルス化及び/又は同期される、又は一定の状態に保たれる、白色発光の使用を例示する。図28Aに見ることができるように、白色光エミッタは、対応するセンサのブランキング期間中に光のビームを放出して、制御された光源を制御された光環境内に提供するように構成することができる。光源は、図28Aに見られるように、一定の振幅でビームを放出し、かつパルスの持続時間を変動させることができ、又は図28Bに例示されるように、振幅を変動させながらパルスを一定の状態に保って、正しい露光データを達成することができる。図28Cには、センサによって制御され、かつそれと同期される電流を変動させながら調整することができる一定の光源のグラフィカル表現が例示されている。
一実施形態では、白色光又は多重スペクトル光は、所望に応じて、パルスとして放出して、システム内で使用するためのデータを提供することができる(図28A〜図28Cに最良に例示される)。電磁スペクトルの隔壁と組み合わせた白色発光は、シーン内の特定の態様を強調する、及び強調を抑えるために有用であり得る。かかる実施形態は、以下のパルシングパターンを使用することができる。
i.緑色パルス、
ii.赤色パルス、
iii.青色パルス、
iv.緑色パルス、
v.赤色パルス、
vi.青色パルス、
vii.白色光(多重スペクトル)パルス、
viii.(繰り返し)
白色光サイクルよりも少なくとも2倍速い画像センササイクルを使用する任意のシステムは、本開示の範囲内に含まれることが意図される。全電磁スペクトルの可視スペクトルからのものであるか不可視スペクトルからのものであるかにかかわらず、電磁スペクトルの隔壁の任意の組み合わせが本明細書で想到されることが理解されよう。
図29A及び図29Bは、それぞれ、本開示の教示及び原理に従う、三次元画像を生成するための複数の画素アレイを有するモノリシックセンサ2900の実装形態の斜視図及び側面図を例示する。かかる実装形態は、三次元画像捕捉に望ましいものであり得、2つの画素アレイ2902及び2904は、使用中にオフセットされ得る。別の実装形態では、第1の画素アレイ2902及び第2の画素アレイ2904は、所定の範囲の波長の電磁放射線の受信専用とすることができ、第1の画素アレイは、第2の画素アレイと異なる範囲の波長の電磁放射線専用である。
図30A及び図30Bは、それぞれ、複数の基板上に構築された撮像センサ3000の実装形態の斜視図及び側面図を例示する。例示されるように、画素アレイを形成する複数の画素列3004が、第1の基板3002上に位置し、複数の回路列3008が、第2の基板3006上に位置する。また、1つの画素列とその関連の又は対応する回路列との間の電気的接続及び通信が、図で例示されている。1つの実装では、その他の方法であれば画素アレイ及び支援回路が単一のモノリシック基板/チップ上にある状態で製造されることがあり得る画像センサが、画素アレイが支持回路の全て又は大部分から分離され得る。本開示は、三次元スタッキング技術を使用して互いに積み重ねられる、少なくとも2つの基板/チップを使用してもよい。2つの基板/チップのうちの第1の3002は、画像CMOSプロセスを使用して処理することができる。第1の基板/チップ3002は、もっぱら画素アレイ、又は限られた回路によって取り囲まれた画素アレイのいずれかで構成することができる。第2の又はその後の基板/チップ3006は、任意のプロセスを使用して処理することができ、かつ画像CMOSプロセスによるものである必要はない。第2の基板/チップ3006は、様々な及びいくつかの機能を基板/チップ上の非常に限られた空間又はエリア内に一体化するために、高密度なデジタルプロセスであり得るか、又は例えば正確なアナログ機能を一体化するために、混合モード若しくはアナログプロセスであり得るか、又は無線能力を実装するために、RFプロセスであり得るか、又はMEMS(Micro-Electro-Mechanical Systems、微小電気機械システム)装置を一体化するために、MEMSであり得るが、これらに限定されない。画像CMOS基板/チップ3002は、任意の三次元技法を使用して第2又はその後の基板/チップ3006とスタックすることができる。第2の基板/チップ3006は、他の場合であれば(モノリシック基板/チップ上に実装された場合には)周辺回路として第1の画像CMOSチップ3002内に実装されていた回路の殆ど又は大部分を支持することができ、したがって、システムエリア全体が増大され、一方で、画素アレイサイズを一定に保ち、かつ、可能な限りの範囲まで最適化された状態に保ち得る。2つの基板/チップ間の電気的接続は、ワイヤボンド、バンプ及び/又はTSV(Through Silicon Via、シリコン貫通電極)であり得る相互接続3003及び3005を通して行うことができる。
図31A及び図31Bは、それぞれ、三次元画像を生成するための複数の画素アレイを有する撮像センサ3100の実装形態の斜視図及び側面図を例示する。三次元画像センサは、複数の基板上に構築することができ、また、複数の画素アレイ及び他の関連する回路を備えることができ、第1の画素アレイを形成する複数の画素列3104a及び第2の画素アレイを形成する複数の画素列3104bは、それぞれ、それぞれの基板3102a及び3102b上に位置、複数の回路列3108a及び3108bは、別個の基板3106上に位置する。また、ピクセル列と関連又は対応する回路類の列との間の電気的接続及び連絡が示される。
本開示の教示及び原理は、本開示の範囲から逸脱することなく再使用可能装置プラットフォーム、限定的使用装置プラットフォーム、再配置可能使用装置プラットフォーム、又は、1回使い切り/使い捨て装置プラットフォームにおいて使用され得ることが認識されるであろう。再使用可能装置プラットフォームでは、エンドユーザが、装置の洗浄及び滅菌を担当することが認識されるであろう。限定された用途の装置プラットフォームでは、装置は、動作不可能になる前に、指定された回数にわたって使用することができる。典型的な新しい装置は、エンドユーザが洗浄及び殺菌することを必要する更なる使用で無菌で供給される。再配置可能な用途の装置プラットフォームでは、第三者が、新しいユニットよりも低コストでの更なる使用のために、装置を、単回使用の装置に再処理する(例えば、洗浄、包装、及び殺菌する)ことができる。単回使用/使い捨ての装置プラットフォームでは、装置は無菌で手術室に提供され、廃棄前に1回のみ使用される。
エミッタの一実施形態は、パルス化カラー光を作成するために、機械的シャッタ及びフィルタの使用を採用することができる。図32に例示されるように、パルス化カラー光を生成するための代替の方法は、白色光源、機械的カラーフィルタ、及びシャッタのシステム3200を使用する。ホイールは、シャッタリングのためのあるパターンの半透明のカラーフィルタウインドウ及び不透明セクションを含むことができる。不透明セクションは、光が通過することを可能にせず、また、センサの読み出しが生じる暗黒期間を作成する。白色光源は、任意の技術、レーザ、LED、キセノン、ハロゲン、ハロゲン化金属、又は他のものに基づくことができる。白色光は、所望のパターンの有色光パルスの一連のカラーフィルタ3207、3209、及び3211を通して投影することができる。一実施形態のパターンは、赤色フィルタ3207、緑色フィルタ3209、青色フィルタ3211、緑色フィルタ3209であり得る。フィルタ及びシャッタシステム3200は、機械的カラーフィルタ3207、3209、及び3211、並びにシャッタ3205のシステムのアーチ長さ及び回転速度の知識が、対応するモノクロ画像センサの動作のためのタイミング情報を提供するように、センサと同期させるために必要な周波数で回転するホイール上に配設することができる。
図33に例示される実施形態は、フィルタホイール3300上に、半透明カラーフィルタ3307、3309、及び3311のみのパターンを含むことができる。本構成では、異なるシャッタを使用することができる。シャッタは、機械的とすることができ、また、サイズを変動させることによって「パルス」持続時間を動的に調整することができる。代替的に、シャッタは、電子的であり得、センサ設計に組み込むことができる。機械的カラーフィルタ3307、3309、及び3311のシステムのアーチ長さ及び回転速度の知識が、対応するモノクロ画像センサの動作のためのタイミング情報を提供するように、フィルタホイール3300を回転させるモータは、センサと通信すること、又はセンサと連動して制御されることを必要とする。制御システムは、フルカラー画像をISP内で適切に再構築することができるように、センサによって捕捉された各フレームの適切なカラーフィルタを知っていることが必要になる。RGBGのカラーパターンが示されているが、有利である場合には、他の色及び/又はパターンを使用することができる。カラーセクションの相対的サイズは、等しいように示されているが、有利である場合は、調整することができる。フィルタの機械的構造は、回転可能に移動する円として示されているが、線形移動を伴う長方形とすること、又は異なる移動パターンを伴う異なる形状とすることができる。
図34に例示されるように、カラー光をパルス化するための実施形態は、赤色、緑色、青色、又は白色のLEDのための電子機器及びヒートシンクを保持する機械的ホイール又はバレルから成り得る。LEDは、本特許内の他の実施形態と一致する光パルス化の時間調整を可能にするためにバレル又はホイールの回転又はねじり速度に関連する距離に離間される。ホイール又はバレルは、電気モータ及びホイール又はバレルを電気モータに取り付ける機械的ブラケットを使用して回転させる。モータは、本特許に記載されているような適切なタイミングのための制御アルゴリズムを含む、マイクロコントローラ、FPGA、DSP、他のプログラム可能な装置を使用して制御される。一方の側部には、本特許に記載されている方法によってファイバをスコープの端部まで輸送するために光ファイバに光学的に連結される機械的開口部が存在する。この連結はまた、光ファイバケーブルを下ることが可能にされる光の量を制御するために開く及び閉じることができる、機械的開口も有することができる。これは、機械的シャッタ装置であり、代替的に、CMOS型又はCCD型センサに設計された電子シャッタを使用することができる。この装置は、製造時の制御及び較正が困難であるが、パルス化光を本システムに通すことができる別の方法である。
図35には、パルス化された電磁放射線を提供するために線形フィルタ3504及びシャッタ機構を備えるエミッタ3502の一実施形態が例示されている。線形フィルタ3504及びシャッタ機構は、必要な周波数で水平に移動して、適切な波長の光をフィルタリングする。
図36には、パルス化された電磁放射線を提供するためにプリズムフィルタ3604及びシャッタ機構を備えるエミッタ3602の一実施形態が例示されている。プリズムフィルタ3604は、光をフィルタリングし、シャッタを含むことができる出力に送達する。プリズムフィルタ3604は、必要な周波数で移動して、正しい色出力パターンを提供する。
更に、本開示の教示及び原理は、赤外線(IR)、紫外線(ultraviolet、UV)、及びX線など、可視及び非可視スペクトルを含む電子エネルギーのありとあらゆる波長を含み得る。
図37は、内視鏡撮像などのための、照明を光不足環境に提供するためのシステム3700を例示する概略図である。システム3700は、本明細書で開示されるシステム、方法、又は装置のうちのいずれかと組み合わせて使用することができる。システム3700は、光源3702と、コントローラ3704と、ジャンパ導波管3706と、導波管コネクタ3708と、管腔導波管3710と、管腔3712と、付随する(レンズなどの)光学構成要素を有する画像センサ3714と、を含む。光源3702は、ジャンパ導波管3706及び管腔導波管3710を通って進行する光を生成して、管腔3712の遠位端においてシーンを照明する。光源3700は、可視波長、赤外線、紫外線、他の波長を含む任意の波長の電磁エネルギーを放出するために使用することができる。管腔3712は、手技中又は検査中などに、撮像のために患者の身体に挿入され得る。光は、破線3716によって例示されるように出力される。光によって照明されたシーンは、画像センサ3714を使用して捕捉し、医師又は他の何らかの医療関係者に表示することができる。コントローラ3704は、照明がシーンに提供されるときを制御するために、制御信号を光源3702に提供することができる。一実施形態では、光源3702及びコントローラ3704は、内視鏡が接続されるカメラ制御ユニット(camera control unit、CCU)又は外部コンソール内に位置する。画像センサ3714がCMOSセンサを含む場合、ブランキング期間として知られる間、画像センサ3714の読み出し期間の間に、一連の照明パルスで、光をシーンに定期的に提供することができる。したがって、光は、画像センサ3714の画素アレイ内の画像画素の読み出し期間への重ね合わせを回避するために、制御された様態でパルス化することができる。
一実施形態では、管腔導波管3710は、1つ又は複数の光ファイバを含む。光ファイバは、管腔導波管3710、及び/又は内視鏡の他の部分の廃棄を可能にするために、プラスチックなどの低コストの材料で作製することができる。一実施形態では、500ミクロンの直径を有する単一のガラスファイバを使用することができる。ジャンパ導波管3706は、光源3702に恒久的に取り付けることができる。例えば、ジャンパ導波管3706は、光源3702内のエミッタから光を受光し、その光をコネクタ3708の位置で管腔導波管3710に提供することができる。一実施形態では、ジャンパ導波管106は、1つ又は2つ以上のガラスファイバを含むことができる。ジャンパ導波管は、光を管腔導波管3710に案内するための任意の他の種類の導波管を含むことができる。コネクタ3708は、ジャンパ導波管3706を管腔導波管3710に選択的に連結し、ジャンパ導波管3706内の光を管腔導波管3710に通過させることができる。一実施形態では、管腔導波管3710は、いかなる介在するジャンパ導波管3706も伴わずに、光源に直接連結することができる。
図38〜図40は、複数のエミッタを有する光源3800を例示する概略ブロック図である。図38に関して、エミッタは、第1のエミッタ3802と、第2のエミッタ3804と、第3のエミッタ3806と、を含む。下で更に考察されるように、更なるエミッタを含むことができる。エミッタ3802、3804、及び3806は、異なる波長を有する光を放出する1つ又は2つ以上のレーザエミッタを含むことができる。例えば、第1のエミッタ3802は、青色レーザと一致する波長を放出することができ、第2のエミッタ3804は、緑色レーザと一致する波長を放出することができ、第3のエミッタ3806は、赤色レーザと一致する波長を放出することができる。例えば、第1のエミッタ3802は、1つ又は2つ以上の青色レーザを含むことができ、第2のエミッタ3804は、1つ又は2つ以上の緑色レーザを含むことができ、第3のエミッタ3806は、1つ又は2つ以上の赤色レーザを含むことができる。エミッタ3802、3804、3806は、収集領域3808に向かってレーザビームを放出し、収集領域は、図37のジャンパ導波管3706又は管腔導波管3710などの導波管に光を収集及び/又は提供するための導波管、レンズ、又は他の光学構成要素の位置にあり得る。
特定の組織、構造、化学反応、生物学的プロセス、などの識別を支援するために患者が試薬又は染料を投与されている一実装形態では、エミッタ3802、3804、及び3806は、試薬又は染料に蛍光を発光させるための波長(複数可)を放出することができる。かかる波長(複数可)は、患者に投与された試薬又は染料に基づいて決定することができる。かかる一実施形態では、エミッタは、所望の波長(複数可)を放出して特定の試薬又は染料に蛍光を発光させる、又はそれらを活性化するために、非常に正確であることが必要とされ得る。
図38の実施形態では、エミッタ3802、3804、3806は、各々、異なる角度でレーザ光を収集領域3808に送達する。角度の変動は、電磁エネルギーが出力導波管内に位置する場合に変動をもたらし得る。例えば、光が、収集領域3808でファイバ束(ガラス又はプラスチック)に直ちに入る場合、角度の変動は、異なる量の光を異なるファイバに進入させることができる。例えば、この角度は、収集領域3808にわたって強度の変動をもたらし得る。更に、異なるエミッタからの光は、均一に混合することができないので、いくつかのファイバは、異なる色の異なる量の光を受光する場合がある。異なるファイバにおける光の色又は強度の変動は、シーンの最適でない照明につながり得る。例えば、送達される光又は光強度の変動は、シーン及び捕捉された画像において生じる可能性がある。
一実施形態では、介在光学素子をファイバ束とエミッタ3802、3804、3806との間に配置して、ファイバ又は他の導波管に進入する前に、異なる色の光(波長)を混合することができる。例示的な介在光学素子は、拡散器、混合ロッド、1つ若しくは2つ以上のレンズ、又は所与のファイバが同量の各色(波長)を受け取るように光を混合する他の光学構成要素を含む。例えば、ファイバ束中の各ファイバは同じ色を有することができる。この混合は、各ファイバに同じ色をもたらし得るが、いくつかの実施形態では、異なるファイバに送達される異なる総輝度が依然としてもたらされる可能性がある。一実施形態では、介在光学素子はまた、各ファイバが同じ総量の光を搬送するように、収集領域の上で光を散開させる、又は一様にすることもできる(例えば、光は、トップハットプロファイルで拡散させることができる)。拡散器又は混合ロッドは、光の損失につながり得る。
収集領域3808は、図38では物理的構成要素として表されているが、収集領域3808は、単に、エミッタ3802、3804、及び3806からの光が送達される領域であってもよい。いくつかの場合では、収集領域3808は、拡散器、混合ロッド、レンズ、又はエミッタ3802、3804、3806と出力導波管との間の任意の他の介在光学構成要素などの、光学構成要素を含むことができる。
図39は、同じ又は実質的に同じ角度で光を収集領域3808に提供するエミッタ3802、3804、3806を有する光源3800の一実施形態を例示する。光は、収集領域3808に対して実質的に垂直な角度で提供される。光源3800は、第1のダイクロイックミラー3902、第2のダイクロイックミラー3904、及び第3のダイクロイックミラー3906を含む、複数のダイクロイックミラーを含む。ダイクロイックミラー3902、3904、3906は、第1の波長の光は反射するが、第2の波長の光は透過する(又は透過性である)ミラーを含む。例えば、第3のダイクロイックミラー3906は、第3のエミッタによって提供される青色レーザ光を反射し、一方で、第1のエミッタ3802及び第2のエミッタ3804によってそれぞれ提供される赤色光及び緑色光を透過することができる。第2のダイクロイックミラー3904は、第1のエミッタ3802からの赤色光は透過するが、第2のエミッタ3804からの緑色光は反射することができる。他の色又は波長が含まれている場合、ダイクロイックミラーは、少なくとも1つのエミッタに対応する光を反射し、他のエミッタに対応する光を透過することができる。例えば、第3のダイクロイックミラー3906は、第3のエミッタ3806からの光は反射するが、その光を、第1のエミッタ3802及び第2のエミッタ3804などの「後方」のエミッタに反射する。数十又は数百のエミッタが存在する実施形態では、各ダイクロイックミラーは、前方にある対応する1つ又は複数のエミッタに反射させ、一方で、その背後のエミッタに透過させることができる。これは、数十又は数百のエミッタが、実質的に同じ角度で電磁エネルギーを収集領域3808に放出することを可能にする。
ダイクロイックミラーは、他の波長を透過又は通過させることを可能にするので、波長の各々は、同じ角度から、及び/又は同じ中心若しくは焦点で、収集領域3808に到達することができる。同じ角度及び/又は同じ焦点/中心点からの光を提供することは、収集領域3808における受光及び色の混合を著しく向上させることができる。例えば、特定のファイバは、エミッタ3802、3804、3806及びミラー3902、3904、3906による透過/反射と同じ比率で、異なる色を受光することができる。光の混合は、図38の実施形態と比較して、収集領域において著しく向上させることができる。一実施形態では、本明細書で考察される任意の光学構成要素は、収集領域3808において使用して、光をファイバ又はファイバ束に提供する前に光を収集することができる。
図40は、同様に、同じ又は実質的に同じ角度で光を収集領域3808に提供するエミッタ3802、3804、3806を有する、光源3800の実施形態を例示する。しかしながら、収集領域3808に入射する光は、垂直からオフセットされている。角度4002は、垂直からの角度オフセットを示す。一実施形態では、レーザエミッタ3802、3804、3806は、ガウス分布である断面強度プロファイルを有することができる。前で考察されたように、ファイバ間の光エネルギーの改善された分布は、より平坦な又はトップハット形状の強度プロファイルを生成することによって達成され得る。一実施形態では、角度4002が増加すると、収集領域3808にわたる強度は、トップハットプロファイルに近づく。例えば、プロファイルが十分に平坦になるまで角度4002を増加させることによって、平坦でない出力ビームでも、トップハットプロファイルに近似させることができる。
トップハットプロファイルはまた、1つ若しくは2つ以上のレンズ、拡散器、混合ロッド、又はエミッタ3802、3804、3806と出力導波管若しくは光ファイバ束との間の任意の他の介在光学構成要素を使用して達成することもできる。
図41は、出力において拡散器4104を介して出力する単一の光ファイバ4102を例示する概略図である。一実施形態では、光ファイバ4102は、500ミクロンの直径を有し、0.65の開口数を有することができ、拡散器4104を伴わずに約70度又は80度の光円錐4106を放出する。拡散器4104によって、光円錐4106は、約110度又は120度の角度を有することができる。光円錐4106は、全ての光が進み、かつ均一に分布する場所の大部分であり得る。拡散器4104は、画像センサによって観察されるシーンの電磁エネルギーのより均一な分布を可能にすることができる。
一実施形態では、管腔導波管4102は、約500ミクロンの単一のプラスチック又はガラス光ファイバを含むことができる。プラスチックファイバは低コストであり得るが、その幅は、連結器、拡散器、又は他の損失によって、ファイバがシーンに十分量の光を搬送することを可能にすることができる。例えば、より小さいファイバは、より大きいファイバと同程度の光又は電力を搬送することができない場合がある。管腔導波管3710は、単一又は複数の光ファイバを含むことができる。管腔導波管3702は、光源から直接又はジャンパ導波管(例えば、図37のジャンパ導波管3706を参照されたい)を介して、光を受光することができる。拡散器を使用して、画像センサ3714又は他の光学構成要素の所望の視野のための光出力3706を広げることができる。
図38〜図40には3つのエミッタが示されているが、いくつかの実施形態では、1から数百以上の数になるエミッタを使用することができる。エミッタは、エミッタが放出する、異なる波長又はスペクトルの光を有することができ、この光を使用して、電磁スペクトル(例えば、可視スペクトル並びに赤外及び紫外スペクトル)の所望の部分を連続的にカバーすることができる。
一実施形態では、複数のエミッタを有する光源は、光不足環境におけるマルチスペクトル撮像又はハイパースペクトル撮像に使用することができる。例えば、異なる化学物質、材料、又は組織は、異なる色又は波長の電磁エネルギーに対して異なる応答を有し得る。いくつかの組織は、組織自体のスペクトルシグネチャ(組織が電磁放射線の反射波長においてどのように反応又は変動するか)を有する。一実施形態では、特定の種類の組織は、組織が特定の波長又は波長の特定の組み合わせにどのように反応するかに基づいて検出することができる。例えば、血管組織は、それを体内の筋肉、脂肪、骨、神経、尿管、又は他の組織若しくは材料と区別するための一意的な方法で、異なる波長又はスペクトルの電磁エネルギーを吸収及び反射することができる。更に、特定の種類の筋肉又は他の種類の組織は、それらのスペクトル応答に基づいて区別することができる。組織の疾病状態もまた、スペクトル情報に基づいて決定することができる。米国特許第8,289,503号を参照されたい。また、米国特許第8,158,957号も参照されたい。
一実施形態では、マルチスペクトル画像データ又はハイパースペクトル画像データは、所望の波長又はスペクトルにおけるものを除いて、1つ又は2つ以上のフィルタを使用して、全ての光又は電磁エネルギーをフィルタリングして取得することができる。図42は、光4208(又は他の電磁放射線)が撮像センサ4204又は他の撮像媒体(例えば、フィルム)に遭遇する前に、不要な波長を除去するためのフィルタ4202を例示するブロック図である。一実施形態では、白色光4208は、フィルタ4202を通過して、フィルタリングした光4210は、画像の捕捉及び読み出しのために撮像センサ4204上へ集束させるレンズ4206を通過する。フィルタは、システム内の任意の場所に配置することができ、又はレンズ4206若しくは画像センサ4204の付属物とすることができる。
光不足環境において、光4208は、光不足環境においてエミッタによって放出される白色光を含むことができる。フィルタ4202は、所望の検査のために選択することができる。例えば、特定の組織を検出又は強調することが所望される場合、フィルタ4202は、特定の組織のスペクトル応答に対応する波長を通過させるように選択することができる。モノクロ画像センサを含むことができる画像センサ4204は、画像を生成することができる。次いで、閾値を超える、又は閾値未満の捕捉した画像の画素を、特定の組織に対応するとして特徴づけることができる。次いで、このデータを使用して、特定の組織の位置を示す画像を生成することができる。
別の実施形態では、蛍光を発光する染料を、身体内の特定の組織の種類、経路、などを撮像するために使用することができる。例えば、蛍光を発光する染料を患者に投与し、次いで、染料の画像を捕捉することができる。一実施形態では、染料に蛍光を発光させることは、特定の波長の電磁エネルギーを使用してトリガすることができる。例えば、染料は、電磁エネルギーが存在するときにのみ蛍光を発光することができる。
しかしながら、フィルタ及び蛍光を発光する染料はどちらも、検査を大幅に制限する。例えば、フィルタを使用する場合、検出され得る所望のスペクトル応答、したがって検出され得る材料又は組織は、利用できるフィルタによって制限される。更に、フィルタは、取り替えること又は交換することが必要であり得る。染料に関して、染料は、撮像する前に投与しなければならず、同じ検査中に異なる目的に対して異なる染料の投与間に競合が存在する場合がある。したがって、フィルタ及び染料を使用する検査は、所望の情報を得るために、長い時間がかかる場合があり、また、多くの異なる検査を必要する場合がある。
一実施形態では、光不足環境におけるマルチスペクトル撮像又はハイパースペクトル撮像は、複数の異なる波長又はスペクトルの電磁エネルギーを放出するモノクロ画像センサ及びエミッタを使用して達成することができる。一実施形態では、(図38〜図40のいずれかの光源3800などの)光源又は他の電磁ソースは、所望のスペクトルをカバーするために、複数のエミッタを含むことができる。
図43は、20個の異なるサブスペクトルに分けた電磁スペクトル4300の一部分を例示する。サブスペクトルの数は、例示的なものにすぎない。少なくとも1つの実施形態では、スペクトル4300は、各々が小さい波長帯を有する数百のサブスペクトルに分けることができる。スペクトルは、赤外スペクトル4302から、可視スペクトル4304を通って、紫外スペクトル4306まで及び得る。サブスペクトルは、各々がスペクトル4300の一部分をカバーする波長帯4308を有する。各波長帯は、上部波長及び下部波長によって画定することができる。
一実施形態では、スペクトル4300全体の完全かつ連続したカバレージを提供するために、少なくとも1つの(レーザエミッタなどの)エミッタを、サブスペクトルごとに(図37〜図40の光源3702、3800などの)光源内に含むことができる。例えば、例示されるサブスペクトルのカバレージを提供するための光源は、サブスペクトルごとに少なくとも1つの、少なくとも20個の異なるエミッタを含むことができる。一実施形態では、各エミッタは、40ナノメートルをカバーするスペクトルをカバーすることができる。例えば、あるエミッタは、500nm〜540nmの波長帯内の光を放出することができ、一方で、別のエミッタは、540nm〜580nmの波長帯内の光を放出することができる。別の実施形態では、エミッタは、利用可能なエミッタの種類又は撮像の必要性に応じて、他のサイズの波長帯をカバーすることができる。例えば、複数のエミッタは、500〜540nmの波長帯をカバーする第1のエミッタと、540nm〜640nmの波長帯をカバーする第2のエミッタと、640nm〜650nmの波長帯をカバーする第3のエミッタと、を含むことができる。各エミッタは、遠赤外線、中赤外線、近赤外線、可視光線、近紫外線、及び/又は極紫外線にわたる異なるスライスの電磁スペクトルをカバーすることができる。いくつかの場合では、撮像のための十分な出力を提供するために、同じ種類又は波長の複数のエミッタを含むことができる。特定の波長帯に必要とされるエミッタの数は、その波長帯に対するモノクロセンサの感度及び/又はその波長帯におけるエミッタの電力出力能力に依存し得る。
エミッタによって提供される波長帯の幅及びカバレージは、スペクトルの任意の所望の組み合わせを提供するように選択することができる。例えば、非常に狭い波長帯幅(例えば、10nm以下)を使用するスペクトルの連続カバレージは、高選択性のハイパースペクトル撮像を可能にすることができる。波長は、選択的に作動することができるエミッタに由来するので、検査中に材料のスペクトル応答を決定する際に、最高の柔軟性を達成することができる。したがって、複数の検査を必要とする、染料又は染色剤の投与により遅延する、などとなる、スペクトル応答に関する更なる情報をより少ない時間で、かつ単一の検査内で達成することができる。一実施形態では、システムは、ハイパースペクトル画像データを捕捉し、そのデータを処理して、各画素にどのような種類の組織が存在しているのかを識別することができる。
図44は、一実施形態による、マルチスペクトル画像又はハイパースペクトル画像を生成するために放出及び読み出しを行うためのタイミング図4400を例示する概略図である。実線は、一連のフレーム4404〜4414を捕捉するための読み出し(ピーク4402)及びブランキング期間(谷)を表す。一連のフレーム4404〜4414は、ビデオフィードのためのハイパースペクトルデータを生成するために使用することができる、繰り返す一連のフレームを含むことができる。一連のフレームは、第1のフレーム404と、第2のフレーム4406と、第3のフレーム4408と、第4のフレーム4410と、第5のフレーム4412と、第nのフレーム4426と、を含む。
一実施形態では、各フレームは、電磁エネルギーの少なくとも1つのパルスに基づいて生成される。電磁エネルギーのパルスは、反射されて、画像センサによって検出され、次いで、その後の読み出し(4402)において読み出される。したがって、各ブランキング期間及び読み出しは、特定の範囲の電磁エネルギーの画像フレームをもたらす。例えば、第1のフレーム404は、第1の1つ又は2つ以上のパルス4416のスペクトルに基づいて生成することができ、第2のフレーム4406は、第2の1つ又は2つ以上のパルス4418のスペクトルに基づいて生成することができ、第3のフレーム4408は、第3の1つ又は2つ以上のパルス4420のスペクトルに基づいて生成することができ、第4のフレーム4410は、第4の1つ又は2つ以上のパルス4422のスペクトルに基づいて生成することができ、第5のフレーム4412は、第5の1つ又は2つ以上のパルス4424のスペクトルに基づいて生成することができ、第nのフレーム4426は、第nの1つ又は2つ以上のパルス4426のスペクトルに基づいて生成することができる。
パルス4416〜4426は、単一のエミッタからの、又は2つ以上のエミッタの組み合わせからのエネルギーを含むことができる。例えば、単一の読み出し期間内又は複数のフレーム4404〜4414内に含まれるスペクトルは、特定の組織又は状態の所望の検査又は検出のために選択することができる。一実施形態によれば、1つ又は2つ以上のパルスは、カラー又は白黒の画像を生成するための可視スペクトル光を含むことができ、一方で、1つ又は2つ以上の追加的なパルスは、スペクトル応答を取得して組織の種類を分類するために使用される。例えば、パルス4416は、赤色光を含むことができ、パルス4418は、青色光を含むことがで、パルス4420は、緑色光を含むことができ、一方で、残りのパルス4422〜4426は、特定の組織の種類を検出するための波長及びスペクトルを含むことができる。更なる一例として、単一の読み出し期間のパルスは、特定の組織の種類を検出するために使用することができる複数の異なるエミッタから生成されるスペクトル(例えば、異なるスライスの電磁スペクトル)を含むことができる。例えば、波長の組み合わせが閾値を超える、又は閾値未満の値を有する画素をもたらす場合、その画素は、組織の特定の種類に対応するものとして分類することができる。各フレームは、その画素(例えば、画像内の各画素)に存在する組織の種類を更に絞って、スペクトル応答に基づいて、組織の非常に特定の分類及び/又は組織の状態(病的/健康)を提供するために使用することができる。
複数のフレーム4404〜4414は、長さの変動する読み出し期間、及び異なる長さ又は強度を有するパルスを有するように示されている。ブランキング期間、パルスの長さ又は強度、などは、特定の波長に対するモノクロセンサの感度、エミッタ(複数可)の電力出力能力、及び/又は導波管の搬送能力に基づいて選択することができる。
図44に例示される様態で取得されるハイパースペクトル画像又はハイパースペクトル画像データは、各々が異なるスペクトル又はスペクトルの組み合わせに基づく複数のフレームをもたらすことができる。いくつかの場合では、数十又は数百の異なるフレームを取得することができる。他の場合では、ビデオストリームなどについて、幾つかのフレームは、視認可能なフレーム速度を提供するように制限され得る。異なるスペクトルの組み合わせを単一の読み出し期間内に提供することができるので、ビデオストリームであっても、依然として有用かつ動的なスペクトル情報を取得することができる。
一実施形態では、ビデオ又は他の画像は、各画素のスペクトル応答から導出された情報と重ね合わせられた白黒画像又はカラー画像を含むことができる。例えば、検査中に、特定の組織又は状態に対応する画素を明緑色又は他の色で示して、医師又は他の医療専門家を支援することができる。
一実施形態では、三次元画像又はビデオフィードを取得するために、二重画像センサを使用することができる。三次元検査は、診察される領域の三次元構造並びに領域内の異なる組織又は材料の種類のマッピングの向上した理解を可能にすることができる。
一実施形態では、材料又は物質を透かして見るために、マルチスペクトル撮像又はハイパースペクトル撮像を使用することができる。例えば、赤外線波長は、筋肉又は脂肪などのいくつかの組織を通過し、一方で、血管に反射することができる。一実施形態では、赤外線波は、5、8、又は10mm以上組織の中へ入り込むことができる。少なくとも1つの赤外線フレームを含む一連のフレームを取得することで、検査が、表面の下側の血管の位置に関する情報を提供することを可能にすることができる。これは、血管を回避する切開を実行することが望ましくなり得る外科手技に極めて有用であり得る。一実施形態では、カラー画像又はグレースケール画像を、表面の下側の血管の位置を示す緑色と重ね合わせることができる。同様に、血液の既知のスペクトル応答を、検査時に対象の血液を透かして組織又は構造を見るために使用することができる。
モニタ又は他の表示装置に表示するための、サブフレームの単一のフレームへの組み立ては、一連のフレーム4404〜4414を捕捉した後に行うことができる。カラー画像又はグレースケール画像は、フレームの1つ又は2つ以上から生成することができ、画素のオーバーレイ情報は、全ての又は残りのフレームに基づいて決定することができる。カラー画像又はグレースケール画像は、オーバーレイ情報と組み合わせて、単一のフレームを生成することができる。単一のフレームは、単一の画像として、又はビデオストリーム内の画像として表示することができる。
一実施形態では、図44に例示されるように取得されたハイパースペクトルデータは、第三者のアルゴリズムによる解析に提供して、画像内に捕捉された組織又は材料を分類することができる。一実施形態では、第三者のアルゴリズムは、所望のスペクトル応答解析を実行することができるように、撮像中に使用されるスペクトル又は波長帯を選択するために使用することができる。一実施形態では、スペクトル応答解析は、医療用撮像手技又は他の医療処置中にリアルタイムで実行することができる。スペクトルデータは、ユーザが特定の種類の組織、器官、化学プロセス、疾患、などを容易に区別することができるように、RGB又は白黒の画像に重ね合わせることができる。一実施形態では、スペクトルデータは、医療用撮像又は医療処置を自動化するためのロボットシステムなどのコンピュータ動作のシステムに提供することができる。
図45は、シングルカットフィルタを有する撮像システム4500の概略図である。システム4500は、光不足環境において使用するための光源4508を有する内視鏡4506又は他の好適な撮像装置を含む。内視鏡4506は、画像センサ4504と、画像センサ4504に到達する前の不要な波長の光又は他の電磁放射線をフィルタリングするためのフィルタ4502と、を含む。光源4508は、体腔などの光不足環境の表面4512を照明することができる光を伝達する。光4510は、表面4512に反射し、画像センサ4504に当たる前にフィルタ4502を通過する。
フィルタ4502は、蛍光試薬又は染料が投与された一実装形態で使用することができる。かかる一実施形態では、フィルタ4502は、1つ又は2つ以上の所望の波長又はスペクトル帯域の光以外の全ての光、又は他の電磁放射線をフィルタリングするように構成されている。一実施形態では、フィルタ4502は、蛍光を発光した試薬又は染料の予想緩和波長のみがフィルタ4502を通過して、画像センサ4504に到達することを可能にするように、試薬又は染料に蛍光を発光させる励起波長の電磁放射線をフィルタリングするように構成されている。一実施形態では、フィルタ4502は、少なくとも770nm〜790nmの蛍光試薬励起波長をフィルタリングする。一実施形態では、フィルタ4502は、少なくとも795nm〜815nmの蛍光試薬励起波長をフィルタリングする。一実施形態では、フィルタ4502は、少なくとも、770nm〜790nm及び795nm〜815nmの蛍光試薬励起波長をフィルタリングする。これらの実施形態では、フィルタ4502は、試薬の励起波長をフィルタリングし、蛍光を発光した試薬の緩和波長のみが画像センサ4504によって読み出されることを可能にする。画像センサ4504は、波長認識不能画像センサとすることができ、フィルタ4502は、画像センサ4504が、蛍光を発光した試薬の緩和波長のみを受信し、試薬の放出励起波長は受信しないことを可能にするように構成することができる。次いで、画像センサ4504によって決定されたデータは、試薬又は染料の位置によって決定される重要な身体の構造、組織、生物学的プロセス、又は化学プロセスの存在を示すことができる。
フィルタ4502は、蛍光試薬又は染料が投与されていない一実装形態において更に使用されることができる。フィルタ4502は、所望のスペクトル応答に対応する波長が通過し、画像センサ4504によって読み出されることを可能にするように選択することができる。画像センサ4504は、閾値を超える、又は閾値未満の捕捉した画像の画素を、特定のスペクトル応答又は蛍光放出に対応するように特徴づけることができるように、モノクロ画像センサとすることができる。画像センサ4504によって捕捉された画素によって決定されるスペクトル応答又は蛍光放出は、特定の身体組織又は構造、特定の状態、特定の化学プロセス、などの存在を示すことができる。
一実施形態では、光源4508は、表面4512に接触する白色光を伝達し、白色光が画像センサ4504に当たる前に、白色光がフィルタ4502によってフィルタ処理された場所に戻り反射する。一実施形態では、光源4508は、フィルタ4502を通過する1つ又は2つ以上の所望の波長のみのフィルタリングされた光がフィルタ4502から現れて、表面4512に反射され、画像センサ4504によって読み出されるように、白色光を伝達する。例えば、一実施形態では、フィルタ4502によって、795nmの波長を有する光のみが、フィルタ4502を通過し、画像センサ4504に接触することを可能にする。更なる一実施形態では、フィルタ4502は、特定の波長の光のみが、内視鏡4506又は他の撮像装置の画像センサ4504に戻り反射することを可能にする。フィルタ4502は、システム4500内の任意の場所に位置することができ、又はレンズ若しくは画像センサ4504の付属物とすることができる。フィルタ4502は、画像センサ4504の前及び/又は後ろに位置することができる。一実施形態では、光源4508によって放出された光は、それが表面4512に到達する前に、フィルタ処理され、反射光は、それが画像センサ4504によって使用可能になる前に、追加的なフィルタによってフィルタ処理される。
光源4508は、1つ又は2つ以上の特定の波長の白色光又は電磁放射線を放出するように構成することができるエミッタとすることができる。光源4508は、指定した波長の光を放出又はパルス化するように構成された複数のレーザを含むことができる。一実施形態では、光源4508は、白色光を放出し、フィルタ4502は、1つ又は2つ以上の所望の波長の光以外の全ての不要な光、又は他の電磁放射線をフィルタリングするように構成される。フィルタ4502は、特定の検査又は目的のために、例えば、ある種類の身体組織又は構造を強調するために、又は特定の状態又は化学プロセスを強調するために選択することができる。
図46は、複数のカットフィルタを有する4600撮像システムの概略図である。システム4600は、光不足環境において使用するための光源4608を有する内視鏡4606又は他の好適な撮像装置を含む。内視鏡4606は、画像センサ4604と、2つのフィルタは4602a、4602bと、を含む。代替の実施形態では、システム4600が任意の数のフィルタを含むことができること、並びにフィルタの数及びフィルタの種類を、特定の目的のために、例えば、特定の身体組織、身体状態、化学プロセス、などの撮像情報を収集するために選択することができることが理解されるべきである。フィルタ4602a、4602bは、光又は他の電磁放射線の不要な波長をフィルタリングするように構成される。フィルタ4602a、4602bは、光源4608によって放出することができる白色光又は他の電磁放射線から不要な波長をフィルタリングするように構成することができる。フィルタリングされた光は、表面4612(例えば、身体組織)に当たって、画像センサ4604に戻り反射することができる。
図45に関する本開示を続けると、フィルタ4602a、4602bは、蛍光試薬又は染料が投与された一実装形態で使用することができる。フィルタ4602a、4602bは、試薬又は染料の放出励起波長をブロックし、画像センサ4604が試薬又は染料の緩和波長のみを読み出すことを可能にするように構成することができる。更に、フィルタ4602a、4602bは、蛍光試薬又は染料が投与されていない一実装形態において使用されることができる。かかる実装形態では、フィルタ4602a、4602bは、所望のスペクトル応答に対応する波長が通過し、画像センサ4604によって読み出されることを可能にするように選択することができる。
複数のフィルタ4602a、4602bは、各々、電磁スペクトルの異なる波長範囲をフィルタリングするように構成することができる。例えば、1つのフィルタを、所望の波長範囲を超える波長をフィルタリングするように構成することができ、追加的なフィルタを、所望の波長範囲よりも短い波長をフィルタリングするように構成することができる。2つ以上のフィルタの組み合わせは、画像センサ4604によって読み出されている波長の特定の波長又は帯域のみをもたらすことができる。
一実施形態では、フィルタ4602a、4602bは、513nm〜545nmの電磁放射線が画像センサ4604に接触するようにカスタマイズすることができる。一実施形態では、フィルタ4602a、4602bは、565nm〜585nmの電磁放射線が画像センサ4604に接触するようにカスタマイズすることができる。一実施形態では、フィルタ4602a、4602bは、900nm〜1000nmの電磁放射線が画像センサ4604に接触するようにカスタマイズすることができる。一実施形態では、フィルタ4602a、4602bは、425nm〜475nmの電磁放射線が画像センサ4604に接触するようにカスタマイズすることができる。一実施形態では、フィルタ4602a、4602bは、520nm〜545nmの電磁放射線が画像センサ4604に接触するようにカスタマイズすることができる。一実施形態では、フィルタ4602a、4602bは、625nm〜645nmの電磁放射線が画像センサ4604に接触するようにカスタマイズすることができる。一実施形態では、フィルタ4602a、4602bは、760nm〜795nmの電磁放射線が画像センサ4604に接触するようにカスタマイズすることができる。一実施形態では、フィルタ4602a、4602bは、795nm〜815nmの電磁放射線が画像センサ4604に接触するようにカスタマイズすることができる。一実施形態では、フィルタ4602a、4602bは、370nm〜420nmの電磁放射線が画像センサ4604に接触するようにカスタマイズすることができる。一実施形態では、フィルタ4602a、4602bは、600nm〜670nmの電磁放射線が画像センサ4604に接触するようにカスタマイズすることができる。一実施形態では、フィルタ4602a、4602bは、特定の蛍光緩和放出のみが、フィルタ4602a、4602bを通過し、画像センサ4604に接触することを可能にするように構成される。
一実施形態では、システム4600は、複数の画像センサ4604を含み、特に、三次元画像を生成する際に使用するための2つの画像センサを含むことができる。画像センサ(複数可)4604は、色/波長認識不能とすることができ、また、表面4612に反射される電磁放射線の任意の波長を読み出すように構成することができる。一実施形態では、画像センサ4604は、各々、色依存又は波長依存であり、また、表面4612に反射して、画像センサ4604に戻る特定の波長の電磁放射線を読み出すように構成されている。代替的に、画像センサ4604は、ベイヤーフィルタのカラーフィルタアレイなどの、光の異なる波長又は色を読み出すように構成された複数の異なる画素センサを有する、単一の画像センサを含むことができる。代替的に、画像センサ4604は、例えば図5〜図7E及び図15〜図16に例示されるものなどのパルス化スケジュールに従って電磁放射線の異なる波長を読み出すように構成することができる、1つ又は2つ以上の色認識不能画像センサを含むことができる。
図47は、光不足環境において表面をマッピングするための及び/又は物体を追跡するためのシステム4700を例示する概略図である。一実施形態では、光不足環境における内視鏡4702は、表面4704のグリッドアレイ4706(レーザマップパターンとも称され得る)をパルス化する。グリッドアレイ4706は、図47に例示される一実施形態では、垂直ハッシング4708と、水平ハッシング4710と、を含むことができる。グリッドアレイ4706は、例えば個別的な位置のラスタグリッド、占有グリッドマップ、ドットアレイ、などを含む表面4704をマッピングするための、任意の好適なアレイを含むことができることが理解されるべきである。加えて、内視鏡4702は、複数のグリッドアレイ4706をパルス化することができ、また、例えば、光不足環境内の複数の物体又は構造の各々の1つ又は2つ以上の個々のグリッドアレイをパルス化することができる。
一実施形態では、システム4700は、グリッドアレイ4706をパルス化することができ、これは、三次元表面を決定するために、及び/又は光不足環境内のツール又は別の装置などの物体の位置を追跡するために使用することができる。一実施形態では、システム4700は、光検出及び測距(light detection and ranging、LIDAR)マッピングによって表面の寸法及び構成を決定するためのデータを第三者のシステム又はコンピュータアルゴリズムに提供することができる。システム4700は、例えば紫外光、可視光、及び/又は赤外光若しくは近赤外光を含む、任意の好適な光の波長又は電磁放射線をグリッドアレイ4706にパルス化することができる。環境内の表面4704及び/又は物体は、非常に高い解像度で、かつ非常に高い正確さ及び精密さでマッピング及び追跡することができる。
一実施形態では、システム4700は、チューブと、1つ又は2つ以上の画像センサと、1つ又は2つ以上の画像センサに対応する光学素子を有するレンズアセンブリと、を有する、撮像装置を含む。システム4700は、電磁放射線の1つ又は2つ以上のパルスを生成する照明源と、電磁放射線の1つ又は2つ以上のパルスを体腔などの光不足環境内の内視鏡の遠位先端に伝達する管腔と、を有する、ライトエンジンを含むことができる。一実施形態では、電磁放射線の1つ又は2つ以上のパルスの少なくとも一部分は、体組織の表面及び/又は体腔内のツール若しくは他の装置の表面などの、光不足環境内の表面に放出されるレーザマップパターンを含む。内視鏡4702は、光不足環境内の表面、寸法、及び構成をマッピング及び/又は追跡するための二次元、三次元、又はn次元のカメラを含むことができる。
一実施形態では、システム4700は、表面4704などの物体から内視鏡又はツールまでの距離を決定するためのプロセッサを含む。プロセッサは、内視鏡又はツールと物体との間の角度を更に決定することができる。プロセッサは、例えば手術用具のサイズ、構造のサイズ、解剖学的構造のサイズ、位置情報、並びに他の位置データ及びメトリックを含む、物体に関する表面積情報を更に決定することができる。システム4700は、内視鏡又はツールから表面4704などの物体までの距離を決定するための制御システムへの出力である画像データを提供する、1つ又は2つ以上の画像センサを含むことができる。画像センサは、内視鏡又はツールと物体との間の角度を決定するための情報を制御システムに出力することができる。加えて、画像センサは、物体に関する表面積情報、手術用具のサイズ、構造のサイズ、解剖学的構造のサイズ、位置情報、並びに他の位置データ及びメトリックを決定するための情報を制御システムに出力することができる。
一実施形態では、グリッドアレイ4706は、グリッドアレイ4706をユーザが見ることができないように、内視鏡4702の照明源によって十分な速度でパルス化される。様々な実装形態では、内視鏡撮像手技及び/又は内視鏡外科手技中に、ユーザがグリッドアレイ4706を見ることで気が散る場合がある。グリッドアレイ4706は、グリッドアレイ4706がヒトの眼球によって検出できないように、十分に短い期間にわたってパルス化することができる。代替的な実施形態では、内視鏡4702は、グリッドアレイ4706がユーザによって視認することができるように、十分な繰り返し頻度でグリッドアレイ4706をパルス化する。かかる一実施形態では、グリッドアレイ4706は、ディスプレイ上の表面4704の画像に重ね合わせることができる。グリッドアレイ4706は、システム4700の使用中にグリッドアレイ4706をユーザが見ることができるように、表面4704の白黒画像又はRGB画像に重ね合わせることができる。システム4700のユーザは、グリッドアレイ4706を表面4704の画像に重ね合わせるべきであるか、及び/又はグリッドアレイ4706をユーザが見ることができるべきであるか、を指示することができる。システム4700は、光不足環境内で内視鏡4702から表面4704又は別の物体までの距離のリアルタイム測定値を提供するディスプレイを含むことができる。ディスプレイは、光不足環境内の表面4704及び/若しくは任意の物体、構造、又はツールに関するリアルタイムの表面積情報を更に提供することができる。測定値の精度は、1ミリメートル未満の精度とすることができる。
内視鏡4702は、例えば図5〜図7E及び図15〜図16に例示されるものなどのパルス化スケジュールに従って電磁放射線をパルス化することができ、これは、RGB画像を生成するために赤色光、緑色光、及び青色光をパルス化することと共にグリッドアレイ4706をパルス化することと、RGB画像に重ね合わせることができる及び/又は光不足環境内で表面4704及び物体をマッピング及び追跡するために使用することができるグリッドアレイ4706を更に生成することと、を更に含むことができる。
一実施形態では、内視鏡4702は、1つ又は2つ以上の色認識不能画像センサを含む。一実施形態では、内視鏡4702は、光不足環境の三次元画像又はマップを生成するための、2つの色認識不能画像センサを含む。画像センサは、本明細書に開示されるパルス化スケジュールに従って光不足環境のRGB画像を生成することができる。加えて、画像センサは、グリッドアレイ4706がパルス化されるときに決定されるデータに基づいて、光不足環境をマッピングし、光不足環境内の1つ又は2つ以上の物体を追跡するためのデータを決定することができる。加えて、画像センサは、撮像手技の特定の必要性を満たすためにユーザによって修正することができるパルス化スケジュールに従う蛍光撮像データと共に、スペクトルデータ又はハイパースペクトルデータを決定することができる。一実施形態では、パルス化スケジュールは、グリッドアレイ4706のパルス化、並びに/又はハイパースペクトル画像データ及び/若しくは蛍光画像データを生成するためのパルス化と共に、赤色パルス、緑色パルス、及び青色パルスを含む。様々な実装形態では、パルス化スケジュールは、ユーザの必要性に従って、電磁放射線のパルスの任意の適切な組み合わせを含むことができる。異なる波長の電磁放射線の繰り返し頻度は、例えば、特定のパルスのエネルギー、ユーザの必要性、特定のデータ(例えば、ハイパースペクトルデータ及び/又は蛍光撮像データ)を連続的に更新することが必要であるか、又はあまり頻繁に更新しなくてもよいか、などに基づいて決定することができる。
パルス化スケジュールは、任意の好適な様態で修正することができ、電磁放射線の特定のパルスは、ユーザの必要性又は特定の撮像手技のためのコンピュータ実装のプログラムに従って、任意の好適な頻度で繰り返すことができる。例えば、グリッドアレイ4706に基づいて生成される表面追跡データが、例えばロボット外科手技で使用するためのコンピュータ実装のプログラムに提供される一実施形態では、グリッドアレイ4706は、表面追跡データが撮像手技中にシーンを視覚化しているユーザに提供される場合よりも頻繁にパルス化することができる。表面追跡データがロボット外科手技に使用されるかかる一実施形態では、表面追跡データは、より頻繁に更新することが必要な場合があり、又はコンピュータ実装のプログラムが精密かつ正確にロボット外科手技を実行することができるように極めて正確であることが必要な場合がある。
一実施形態では、システム4700は、グリッドに分けられたセルのアレイを備える占有グリッドマップを生成するように構成されている。システム4700は、それぞれのグリッドセルの各々の高さ値を記憶して、光不足環境内の三次元環境の表面マッピングを決定するように構成されている。
図48は、光不足環境におけるハイパースペクトル撮像のための方法4800の概略的なフローチャート図である。方法4800は、図37に例示される内視鏡撮像システムなどの撮像システムによって実行することができる。
方法4800は、4802において、モノクロ画像センサの読み出し期間中に複数の狭帯域パルスを放出することを含む。4802において、パルスは、狭周波数帯域内の電磁エネルギーを放出する複数のエミッタを含む光源を使用して放出することができる。例えば、光源は、所望のスペクトルをカバーする複数の周波数帯域のための少なくとも1つのエミッタを含むことができる。4804において、モノクロ画像センサは、モノクロ画像センサから画素データを読み出し、読み出し期間の後に複数のフレームを生成する。各フレームは、異なるスペクトル成分を含むことができる。これらのフレームは、デジタルビデオストリームを生成するために使用することができる複数の繰り返しフレームを含むことができる。各フレームは、光源の1つ又は2つ以上のエミッタによって放出されるエネルギーに基づくことができる。一実施形態では、フレームは、所望の組織又は物質の周波数応答にマッチするように周波数の組み合わせを生成するために、光源によって放出される光の組み合わせに基づくことができる。4806において、コントローラ、CCU、又は他のシステムは、複数のフレームに基づいて、1つ又は2つ以上の画素について組織のスペクトル応答を決定する。例えば、複数のフレーム内の画素の値に基づいて、各フレームごとに放出される光の周波数に関する画素値及び知識を使用して、特定の画素の周波数応答を決定することができる。4808において、システムは、複数のフレームに基づく組み合わせ画像を生成することができ、この組み合わせ画像は、1つ又は2つ以上の画素のスペクトル応答を示すオーバーレイを備える。例えば、組み合わせ画像は、グレースケールとするか、又は特定の組織又は分類に対応する画素が明緑色で示されるカラー画像とすることができる。
図49は、光不足環境における蛍光撮像のための方法4900の概略的なフローチャート図である。方法4900は、図37に例示される内視鏡撮像システムなどの撮像システムによって実行することができる。
方法4900は、4902において、モノクロ画像センサの読み出し期間中に複数の狭帯域パルスを放出することを含む。4902において、パルスは、狭周波数帯域内の電磁エネルギーを放出する複数のエミッタを含む光源を使用して放出することができる。例えば、光源は、所望のスペクトルをカバーする複数の周波数帯域のための少なくとも1つのエミッタを含むことができる。4904において、モノクロ画像センサは、モノクロ画像センサから画素データを読み出し、読み出し期間の後に複数のフレームを生成する。各フレームは、異なるスペクトル成分を含むことができる。これらのフレームは、デジタルビデオストリームを生成するために使用することができる複数の繰り返しフレームを含むことができる。各フレームは、光源の1つ又は2つ以上のエミッタによって放出されるエネルギーに基づくことができる。一実施形態では、フレームは、所望の組織又は物質の周波数応答にマッチするように周波数の組み合わせを生成するために、光源によって放出される光の組み合わせに基づくことができる。4906において、コントローラ、CCU、又は他のシステムは、複数のフレームに基づいて、1つ又は2つ以上の画素について試薬の蛍光緩和放出を決定する。例えば、複数のフレーム内の画素の値に基づいて、各フレームごとに放出される光の周波数に関する画素値及び知識を使用して、特定の画素の周波数応答を決定することができる。4908において、システムは、複数のフレームに基づく組み合わせ画像を生成することができ、この組み合わせ画像は、1つ又は2つ以上の画素の蛍光緩和放出を示すオーバーレイを備える。例えば、組み合わせ画像は、グレースケールとするか、又は特定の組織又は分類に対応する画素が明緑色で示されるカラー画像とすることができる。
以下の実施例は、更なる実施形態に関する。
実施例1は、光不足環境において使用するための内視鏡システムである。システムは、チューブと、1つ又は2つ以上の画像センサと、1つ又は2つ以上の画像センサに対応する少なくとも1つの光学素子を備えるレンズアセンブリと、を含む。システムは、ユーザがシーンを視覚化するためのディスプレイを含む。システムは、電磁放射線の1つ又は2つ以上のパルスを生成する照明源を含むライトエンジンを含む。ライトエンジンは、電磁放射線の1つ又は2つ以上のパルスを内視鏡の遠位先端に伝達する管腔を更に含むことができ、電磁放射線の1つ又は2つ以上のパルスの少なくとも一部分は、513nm〜545nmの電磁放射線を含み、電磁放射線の1つ又は2つ以上のパルスの少なくとも一部分は、565nm〜585nmの電磁放射線を含み、電磁放射線の1つ又は2つ以上のパルスの少なくとも一部分は、900nm〜1000nmの電磁放射線を含む。
実施例2は、電磁放射線の1つ又は2つ以上のパルスの持続時間が可変である、実施例1に記載のシステムである。
実施例3は、パルス持続時間が、パルス持続時間全体よりも短い持続時間を有する電磁放射線の複数のパルスを含む、実施例1〜2のいずれかに記載のシステムである。
実施例4は、パルス持続時間全体よりも短い持続時間を有する電磁放射線の複数のパルスが、単一のフレーム露光を提供する持続時間を有する、実施例1〜3のいずれかに記載のシステムである。
実施例5は、パルス持続時間中に、サブ持続時間を有する電磁放射線の複数のサブパルスが放出され、サブ持続時間が、パルス持続時間よりも短い、実施例1〜4のいずれかに記載のシステムである。
実施例6は、パルス持続時間内のパルスサブ持続時間が、電磁放射線のサブパルスごとに異なる、実施例1〜5のいずれかに記載のシステムである。
実施例7は、パルス持続時間内のパルスサブ持続時間が、電磁放射線のサブパルスごとに同じである、実施例1〜6のいずれかに記載のシステムである。
実施例8は、パルス持続時間内のパルスサブ持続時間が、等しい持続時間を有する電磁放射線の2つ以上のサブパルスを含む、実施例1〜7のいずれかに記載のシステムである。
実施例9は、複数のサブパルスの1つ又は2つ以上が、単一のパルス又は単一のサブパルスとして2つ以上の波長で同時に放出される電磁放射線を含むことができる、実施例1〜8のいずれかに記載のシステムである。
実施例10は、複数のサブパルスのサブ持続時間が、放出される電磁放射線の波長及びパルス持続時間あたりに生じる放出数の両方において可変である、実施例1〜9のいずれかに記載のシステムである。
実施例11は、複数のサブパルスのサブ持続時間が、単一のフレーム露光を提供する単一のパルス持続時間に等しい、実施例1〜10のいずれかに記載のシステムである。
実施例12は、電磁放射線の様々な波長の一連のパルスが、内視鏡ライトエンジンのユーザによって調整可能である、実施例1〜11のいずれかに記載のシステムである。
実施例13は、システムが、トグルボタンを含み、ユーザが、トグルボタンを操作することによってパルスの順序を変更又は調整する、実施例1〜12のいずれかに記載のシステムである。
実施例14は、システムが、シーンを適切に照明するための制御システムを備え、制御システムが、閾値に基づいてライトエンジンから放出される電磁放射線のパルスの順序を自動的に調整又は変更し、閾値が、シーンの適切な照明を演繹的に決定する、実施例1〜13のいずれかに記載のシステムである。
実施例15は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、ディスプレイ上で単一画像としてユーザに表示される、実施例1〜14のいずれかに記載のシステムである。
実施例16は、単一画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜15のいずれかに記載のシステムである。
実施例17は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施例1〜16のいずれかに記載のシステムである。
実施例18は、オーバーレイ画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜17のいずれかに記載のシステムである。
実施例19は、照明源が、1つ又は2つ以上のレーザエミッタを使用して電磁放射線の1つ又は2つ以上のパルスを生成する、実施例1〜18のいずれかに記載のシステムである。
実施例20は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、実施例1〜19のいずれかに記載のシステムである。
実施例21は、単一画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜20のいずれかに記載のシステムである。
実施例22は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施例1〜21のいずれかに記載のシステムである。
実施例23は、オーバーレイ画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜22のいずれかに記載のシステムである。
実施例24は、照明源が、425nm〜475nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、実施例1〜23のいずれかに記載のシステムである。
実施例25は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、ディスプレイ上で単一画像としてユーザに表示される、実施例1〜24のいずれかに記載のシステムである。
実施例26は、単一画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜25のいずれかに記載のシステムである。
実施例27は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施例1〜26のいずれかに記載のシステムである。
実施例28は、オーバーレイ画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜27のいずれかに記載のシステムである。
実施例29は、照明源が、520nm〜545nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、実施例1〜28のいずれかに記載のシステムである。
実施例30は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、ディスプレイ上で単一画像としてユーザに表示される、実施例1〜29のいずれかに記載のシステムである。
実施例31は、単一画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜30のいずれかに記載のシステムである。
実施例32は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施例1〜31のいずれかに記載のシステムである。
実施例33は、オーバーレイ画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜32のいずれかに記載のシステムである。
実施例34は、照明源が、625nm〜645nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、実施例1〜33のいずれかに記載のシステムである。
実施例35は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、ディスプレイ上で単一画像としてユーザに表示される、実施例1〜34のいずれかに記載のシステムである。
実施例36は、単一画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜35のいずれかに記載のシステムである。
実施例37は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施例1〜36のいずれかに記載のシステムである。
実施例38は、オーバーレイ画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜37のいずれかに記載のシステムである。
実施例39は、照明源が、760nm〜795nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、実施例1〜38のいずれかに記載のシステムである。
実施例40は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、ディスプレイ上で単一画像としてユーザに表示される、実施例1〜39のいずれに記載のシステムである。
実施例41は、単一画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜40のいずれかに記載のシステムである。
実施例42は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施例1〜41のいずれかに記載のシステムである。
実施例43は、オーバーレイ画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜42のいずれかに記載のシステムである。
実施例44は、照明源が、795nm〜815nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、実施例1〜43のいずれかに記載のシステムである。
実施例45は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、ディスプレイ上で単一画像としてユーザに表示される、実施例1〜44のいずれかに記載のシステムである。
実施例46は、単一画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜45のいずれかに記載のシステムである。
実施例47は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施例1〜46のいずれかに記載のシステムである。
実施例48は、オーバーレイ画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜47のいずれかに記載のシステムである。
実施例49は、照明源が、370nm〜420nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、実施例1〜48のいずれかに記載のシステムである。
実施例50は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、ディスプレイ上で単一画像としてユーザに表示される、実施例1〜49のいずれかに記載のシステムである。
実施例51は、単一画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜50のいずれか4記載のシステムである。
実施例52は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施例1〜51のいずれかに記載のシステムである。
実施例53は、オーバーレイ画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜52のいずれかに記載のシステムである。
実施例54は、照明源が、600nm〜670nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、実施例1〜53のいずれかに記載のシステムである。
実施例55は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、ディスプレイ上で単一画像としてユーザに表示される、実施例1〜54のいずれかに記載のシステムである。
実施例56は、単一画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜55のいずれかに記載のシステムである。
実施例57は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施例1〜56のいずれかに記載のシステムである。
実施例58は、オーバーレイ画像には、ディスプレイ上で使用するための可視色が割り当てられ、可視色が、8ビット又は16ビット又はnビットである、実施例1〜57のいずれかに記載のシステムである。
実施例59は、ライトエンジンが、偏光フィルタを備える、実施例1〜58のいずれかに記載のシステムである。
実施例60は、偏光フィルタが、電磁放射線の経路内に配置される、実施例1〜59のいずれかに記載のシステムである。
実施例61は、偏光フィルタが、管腔の近位端に配置される、実施例1〜60のいずれかに記載のシステムである。
実施例62は、偏光フィルタが、管腔の遠位端に配置される、実施例1〜61のいずれかに記載のシステムである。
実施例63は、レンズアセンブリが、電磁放射線フィルタを備える、実施例1〜62のいずれかに記載のシステムである。
実施例64は、レンズアセンブリが、偏光フィルタを備える、実施例1〜63のいずれかに記載のシステムである。
実施例65は、電磁放射線の各パルスが、画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、重要な組織構造の位置を提供する、対応するシステムに供給される、実施例1〜64のいずれかに記載のシステムである。
実施例66は、重要な構造の位置が、内視鏡システムによって受信され、ディスプレイ上で重ね合わせられ、重要な構造が、アルゴリズム又はユーザのいずれかによって選択された任意の色に符号化される、実施例1〜65のいずれかに記載のシステムである。
本明細書に記載された様々な特徴は、当該技術分野において重要な利点及び進歩をもたらすことが理解されよう。以下の特許請求の範囲は、これらの特徴の一部を例示する。
前述の「発明を実施するための形態」では、本開示の様々な特性は、本開示の合理化の目的のために単一の実施形態に一緒にグループ化される。本開示の方法は、主張する主題には、各特許請求項において明示的に記載されるものより多い特徴部が必要であるという意図を反映するとは、解釈しないものとする。むしろ、発明の態様は前述の開示の単一の実施形態の全ての特徴より少ない特徴にある。
上述の構成は、本開示の原理の適用を例示し得るにすぎないことを、理解されたい。多数の変形形態及び代替構成が、本開示の趣旨及び範囲から逸脱することなく当業者により考案され得、添付の本開示は、そのような変形形態及び構成を包含することが意図されている。
したがって、本開示を、具体的かつ詳細に図面に示して上述してきたが、大きさ、材料、形状、形態、機能及び動作の様態、組み立て並びに用途の変形を含むが、これらに限定されない多数の変形形態を、本明細書で記載した原理及び概念を逸脱することなく行うことができることが、当業者に明らかであろう。
更に、適切な場合、本明細書に記載される機能を、ハードウェア、ソフトウェア、ファームウェア、デジタル構成要素、又はアナログ構成要素のうちの1つ以上で実行することができる。例えば、1つ以上の特定用途向け集積回路(ASIC)、又は、フィールドプログラマブルゲートアレイ(FPGA)は、本明細書にて記載するシステム及び手順の1つ以上を実行するように、プログラムすることができる。特定の用語が、特定のシステム構成要素を指すために以下の記載及び本開示を通して使用される。当業者には理解されるように、構成要素を異なる名称により称している場合がある。本明細書では、名称が異なるが機能は異ならない構成要素を区別することは、意図していない。
前述の記載は、例示及び説明を目的として提示したものである。網羅的であること、及び、開示した正確な形態に本発明を制限することを目的とするものではない。上記の教示に照らして、多くの変形形態及び変形が可能である。更に、上述した代替実施態様のいずれか又は全ては、本開示の更なる混成の実施態様を形成するために望まれる任意の組み合わせで使用され得る、という点に留意すべきである。
更に、本開示の特定の実施態様を記載及び例示してきたが、本開示はそのように記載及び例示した部分の特定の形態並びに構成に限定されるべきではない。本開示の範囲は、本明細書に添付した特許請求の範囲、本明細書及び異なる出願、及びそれらの均等物で提起される任意の今後の特許請求の範囲によって定義されるべきである。
〔実施の態様〕
(1) 光不足環境で使用するための内視鏡システムであって、
撮像装置であって、
チューブと、
1つ又は2つ以上の画像センサと、
前記1つ又は2つ以上の画像センサに対応する少なくとも1つの光学素子を含むレンズアセンブリと、を備える、撮像装置と、
ユーザがシーンを視覚化するためのディスプレイと、
画像信号処理コントローラと、
ライトエンジンであって、
電磁放射線の1つ又は2つ以上のパルスを生成する照明源と、
電磁放射線の1つ又は2つ以上のパルスを内視鏡の遠位先端に伝達する管腔と、を備える、ライトエンジンと、を備え、電磁放射線の前記1つ又は2つ以上のパルスの少なくとも一部分は、513nm〜545nmの電磁放射線を含み、電磁放射線の前記1つ又は2つ以上のパルスの少なくとも一部分は、565nm〜585nmの電磁放射線を含み、電磁放射線の前記1つ又は2つ以上のパルスの少なくとも一部分は、900nm〜1000nmの電磁放射線を含む、内視鏡システム。
(2) 電磁放射線の1つ又は2つ以上のパルスの持続時間が可変である、実施態様1に記載の内視鏡システム。
(3) パルス持続時間が、前記パルス持続時間全体よりも短い持続時間を有する電磁放射線の複数のパルスを含む、実施態様2に記載の内視鏡システム。
(4) 前記パルス持続時間全体よりも短い持続時間を有する電磁放射線の前記複数のパルスが、単一のフレーム露光を提供する持続時間を有する、実施態様3に記載の内視鏡システム。
(5) パルス持続時間中に、サブ持続時間を有する電磁放射線の複数のサブパルスが放出され、前記サブ持続時間が、前記パルス持続時間よりも短い、実施態様1に記載の内視鏡システム。
(6) 前記パルス持続時間内の前記パルスサブ持続時間が、電磁放射線のサブパルスごとに異なる、実施態様5に記載の内視鏡システム。
(7) 前記パルス持続時間内の前記パルスサブ持続時間が、電磁放射線のサブパルスごとに同じである、実施態様5に記載の内視鏡システム。
(8) 前記パルス持続時間内の前記パルスサブ持続時間が、等しい持続時間を有する電磁放射線の2つ以上のサブパルスを含む、実施態様5に記載の内視鏡システム。
(9) 前記複数のサブパルスの1つ又は2つ以上が、単一のパルス又は単一のサブパルスとして2つ以上の波長で同時に放出される電磁放射線を含むことができる、実施態様5に記載の内視鏡システム。
(10) 前記複数のサブパルスの前記サブ持続時間が、放出される電磁放射線の波長及びパルス持続時間あたりに生じる放出数の両方において可変である、実施態様5に記載の内視鏡システム。
(11) 前記複数のサブパルスの前記サブ持続時間が、単一のフレーム露光を提供する単一のパルス持続時間に等しい、実施態様10に記載の内視鏡システム。
(12) 電磁放射線の様々な波長のパルスの順序が、前記内視鏡ライトエンジンのユーザによって調整可能である、実施態様1に記載の内視鏡システム。
(13) 前記システムが、トグルボタンを含み、ユーザが、前記トグルボタンを操作することによってパルスの前記順序を変更又は調整する、実施態様1に記載の内視鏡システム。
(14) 前記システムが、前記シーンを適切に照明するための制御システムを備え、前記制御システムが、閾値に基づいて前記ライトエンジンから放出される電磁放射線のパルスの前記順序を自動的に調整又は変更し、前記閾値が、前記シーンの適切な照明を演繹的に決定する、実施態様1に記載の内視鏡システム。
(15) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、実施態様1に記載の内視鏡システム。
(16) 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様15に記載の内視鏡システム。
(17) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施態様1に記載の内視鏡システム。
(18) 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様17に記載の内視鏡システム。
(19) 前記照明源が、1つ又は2つ以上のレーザエミッタを使用して電磁放射線の1つ又は2つ以上のパルスを生成する、実施態様1に記載の内視鏡システム。
(20) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、実施態様19に記載の内視鏡システム。
(21) 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様20に記載の内視鏡システム。
(22) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施態様19に記載の内視鏡システム。
(23) 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様22に記載の内視鏡システム。
(24) 前記照明源が、425nm〜475nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、実施態様1に記載の内視鏡システム。
(25) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、実施態様24に記載の内視鏡システム。
(26) 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様25に記載の内視鏡システム。
(27) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施態様24に記載の内視鏡システム。
(28) 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様27に記載の内視鏡システム。
(29) 前記照明源が、520nm〜545nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、実施態様1に記載の内視鏡システム。
(30) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、実施態様29に記載の内視鏡システム。
(31) 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様30に記載の内視鏡システム。
(32) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施態様29に記載の内視鏡システム。
(33) 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様32に記載の内視鏡システム。
(34) 前記照明源が、625nm〜645nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、実施態様1に記載の内視鏡システム。
(35) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、実施態様34に記載の内視鏡システム。
(36) 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様35に記載の内視鏡システム。
(37) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施態様34に記載の内視鏡システム。
(38) 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様37に記載の内視鏡システム。
(39) 前記照明源が、760nm〜795nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、実施態様1に記載の内視鏡システム。
(40) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、実施態様39に記載の内視鏡システム。
(41) 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様40に記載の内視鏡システム。
(42) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施態様39に記載の内視鏡システム。
(43) 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様42に記載の内視鏡システム。
(44) 前記照明源が、795nm〜815nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、実施態様1に記載の内視鏡システム。
(45) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、実施態様44に記載の内視鏡システム。
(46) 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様45に記載の内視鏡システム。
(47) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施態様44に記載の内視鏡システム。
(48) 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様47に記載の内視鏡システム。
(49) 前記照明源が、370nm〜420nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、実施態様1に記載の内視鏡システム。
(50) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、実施態様49に記載の内視鏡システム。
(51) 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様50に記載の内視鏡システム。
(52) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施態様49に記載の内視鏡システム。
(53) 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様52に記載の内視鏡システム。
(54) 前記照明源が、600nm〜670nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、実施態様1に記載の内視鏡システム。
(55) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、実施態様54に記載の内視鏡システム。
(56) 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様55に記載の内視鏡システム。
(57) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、実施態様54に記載の内視鏡システム。
(58) 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、実施態様57に記載の内視鏡システム。
(59) 前記ライトエンジンが、偏光フィルタを備える、実施態様1に記載の内視鏡システム。
(60) 前記偏光フィルタが、前記電磁放射線の経路内に配置されている、実施態様59に記載の内視鏡システム。
(61) 前記偏光フィルタが、前記管腔の近位端に配置されている、実施態様60に記載の内視鏡システム。
(62) 前記偏光フィルタが、前記管腔の遠位端に配置されている、実施態様60に記載の内視鏡システム。
(63) 前記レンズアセンブリが、電磁放射線フィルタを備える、実施態様1に記載の内視鏡システム。
(64) 前記レンズアセンブリが、偏光フィルタを備える、実施態様1に記載の内視鏡システム。
(65) 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、重要な組織構造の位置を提供する、対応するシステムに供給される、実施態様1に記載の内視鏡システム。
(66) 前記重要な構造の位置が、前記内視鏡システムによって受信され、ディスプレイ上で重ね合わせられ、前記重要な構造が、アルゴリズム又はユーザのいずれかによって選択された任意の色に符号化される、実施態様65に記載の内視鏡システム。

Claims (66)

  1. 光不足環境で使用するための内視鏡システムであって、
    撮像装置であって、
    チューブと、
    1つ又は2つ以上の画像センサと、
    前記1つ又は2つ以上の画像センサに対応する少なくとも1つの光学素子を含むレンズアセンブリと、を備える、撮像装置と、
    ユーザがシーンを視覚化するためのディスプレイと、
    画像信号処理コントローラと、
    ライトエンジンであって、
    電磁放射線の1つ又は2つ以上のパルスを生成する照明源と、
    電磁放射線の1つ又は2つ以上のパルスを内視鏡の遠位先端に伝達する管腔と、を備える、ライトエンジンと、を備え、電磁放射線の前記1つ又は2つ以上のパルスの少なくとも一部分は、513nm〜545nmの電磁放射線を含み、電磁放射線の前記1つ又は2つ以上のパルスの少なくとも一部分は、565nm〜585nmの電磁放射線を含み、電磁放射線の前記1つ又は2つ以上のパルスの少なくとも一部分は、900nm〜1000nmの電磁放射線を含む、内視鏡システム。
  2. 電磁放射線の1つ又は2つ以上のパルスの持続時間が可変である、請求項1に記載の内視鏡システム。
  3. パルス持続時間が、前記パルス持続時間全体よりも短い持続時間を有する電磁放射線の複数のパルスを含む、請求項2に記載の内視鏡システム。
  4. 前記パルス持続時間全体よりも短い持続時間を有する電磁放射線の前記複数のパルスが、単一のフレーム露光を提供する持続時間を有する、請求項3に記載の内視鏡システム。
  5. パルス持続時間中に、サブ持続時間を有する電磁放射線の複数のサブパルスが放出され、前記サブ持続時間が、前記パルス持続時間よりも短い、請求項1に記載の内視鏡システム。
  6. 前記パルス持続時間内の前記パルスサブ持続時間が、電磁放射線のサブパルスごとに異なる、請求項5に記載の内視鏡システム。
  7. 前記パルス持続時間内の前記パルスサブ持続時間が、電磁放射線のサブパルスごとに同じである、請求項5に記載の内視鏡システム。
  8. 前記パルス持続時間内の前記パルスサブ持続時間が、等しい持続時間を有する電磁放射線の2つ以上のサブパルスを含む、請求項5に記載の内視鏡システム。
  9. 前記複数のサブパルスの1つ又は2つ以上が、単一のパルス又は単一のサブパルスとして2つ以上の波長で同時に放出される電磁放射線を含むことができる、請求項5に記載の内視鏡システム。
  10. 前記複数のサブパルスの前記サブ持続時間が、放出される電磁放射線の波長及びパルス持続時間あたりに生じる放出数の両方において可変である、請求項5に記載の内視鏡システム。
  11. 前記複数のサブパルスの前記サブ持続時間が、単一のフレーム露光を提供する単一のパルス持続時間に等しい、請求項10に記載の内視鏡システム。
  12. 電磁放射線の様々な波長のパルスの順序が、前記内視鏡ライトエンジンのユーザによって調整可能である、請求項1に記載の内視鏡システム。
  13. 前記システムが、トグルボタンを含み、ユーザが、前記トグルボタンを操作することによってパルスの前記順序を変更又は調整する、請求項1に記載の内視鏡システム。
  14. 前記システムが、前記シーンを適切に照明するための制御システムを備え、前記制御システムが、閾値に基づいて前記ライトエンジンから放出される電磁放射線のパルスの前記順序を自動的に調整又は変更し、前記閾値が、前記シーンの適切な照明を演繹的に決定する、請求項1に記載の内視鏡システム。
  15. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、請求項1に記載の内視鏡システム。
  16. 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項15に記載の内視鏡システム。
  17. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、請求項1に記載の内視鏡システム。
  18. 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項17に記載の内視鏡システム。
  19. 前記照明源が、1つ又は2つ以上のレーザエミッタを使用して電磁放射線の1つ又は2つ以上のパルスを生成する、請求項1に記載の内視鏡システム。
  20. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、請求項19に記載の内視鏡システム。
  21. 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項20に記載の内視鏡システム。
  22. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、請求項19に記載の内視鏡システム。
  23. 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項22に記載の内視鏡システム。
  24. 前記照明源が、425nm〜475nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、請求項1に記載の内視鏡システム。
  25. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、請求項24に記載の内視鏡システム。
  26. 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項25に記載の内視鏡システム。
  27. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、請求項24に記載の内視鏡システム。
  28. 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項27に記載の内視鏡システム。
  29. 前記照明源が、520nm〜545nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、請求項1に記載の内視鏡システム。
  30. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、請求項29に記載の内視鏡システム。
  31. 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項30に記載の内視鏡システム。
  32. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、請求項29に記載の内視鏡システム。
  33. 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項32に記載の内視鏡システム。
  34. 前記照明源が、625nm〜645nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、請求項1に記載の内視鏡システム。
  35. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、請求項34に記載の内視鏡システム。
  36. 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項35に記載の内視鏡システム。
  37. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、請求項34に記載の内視鏡システム。
  38. 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項37に記載の内視鏡システム。
  39. 前記照明源が、760nm〜795nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、請求項1に記載の内視鏡システム。
  40. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、請求項39に記載の内視鏡システム。
  41. 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項40に記載の内視鏡システム。
  42. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、請求項39に記載の内視鏡システム。
  43. 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項42に記載の内視鏡システム。
  44. 前記照明源が、795nm〜815nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、請求項1に記載の内視鏡システム。
  45. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、請求項44に記載の内視鏡システム。
  46. 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項45に記載の内視鏡システム。
  47. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、請求項44に記載の内視鏡システム。
  48. 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項47に記載の内視鏡システム。
  49. 前記照明源が、370nm〜420nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、請求項1に記載の内視鏡システム。
  50. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、請求項49に記載の内視鏡システム。
  51. 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項50に記載の内視鏡システム。
  52. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、請求項49に記載の内視鏡システム。
  53. 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項52に記載の内視鏡システム。
  54. 前記照明源が、600nm〜670nmの波長で電磁放射線の1つ又は2つ以上のパルスを生成する、請求項1に記載の内視鏡システム。
  55. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上で単一画像としてユーザに表示される、請求項54に記載の内視鏡システム。
  56. 前記単一画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項55に記載の内視鏡システム。
  57. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、前記ディスプレイ上でオーバーレイ画像としてユーザに表示される、請求項54に記載の内視鏡システム。
  58. 前記オーバーレイ画像には、前記ディスプレイ上で使用するための可視色が割り当てられ、前記可視色が、8ビット又は16ビット又はnビットである、請求項57に記載の内視鏡システム。
  59. 前記ライトエンジンが、偏光フィルタを備える、請求項1に記載の内視鏡システム。
  60. 前記偏光フィルタが、前記電磁放射線の経路内に配置されている、請求項59に記載の内視鏡システム。
  61. 前記偏光フィルタが、前記管腔の近位端に配置されている、請求項60に記載の内視鏡システム。
  62. 前記偏光フィルタが、前記管腔の遠位端に配置されている、請求項60に記載の内視鏡システム。
  63. 前記レンズアセンブリが、電磁放射線フィルタを備える、請求項1に記載の内視鏡システム。
  64. 前記レンズアセンブリが、偏光フィルタを備える、請求項1に記載の内視鏡システム。
  65. 電磁放射線の各パルスが、前記1つ又は2つ以上の画像センサによって作成された露光フレームをもたらし、1つ又は2つ以上の露光フレームが、重要な組織構造の位置を提供する、対応するシステムに供給される、請求項1に記載の内視鏡システム。
  66. 前記重要な構造の位置が、前記内視鏡システムによって受信され、ディスプレイ上で重ね合わせられ、前記重要な構造が、アルゴリズム又はユーザのいずれかによって選択された任意の色に符号化される、請求項65に記載の内視鏡システム。
JP2020536006A 2017-12-27 2018-12-27 光不足環境におけるハイパースペクトル撮像 Pending JP2021508543A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201762610888P 2017-12-27 2017-12-27
US62/610,888 2017-12-27
US201862723989P 2018-08-28 2018-08-28
US62/723,989 2018-08-28
PCT/US2018/067725 WO2019133736A1 (en) 2017-12-27 2018-12-27 Hyperspectral imaging in a light deficient environment

Publications (1)

Publication Number Publication Date
JP2021508543A true JP2021508543A (ja) 2021-03-11

Family

ID=66949640

Family Applications (6)

Application Number Title Priority Date Filing Date
JP2020536245A Pending JP2021509337A (ja) 2017-12-27 2018-12-27 光不足環境におけるツール追跡を伴うハイパースペクトル撮像
JP2020536243A Pending JP2021508560A (ja) 2017-12-27 2018-12-27 光不足環境における蛍光撮像
JP2020536040A Pending JP2021508547A (ja) 2017-12-27 2018-12-27 光不足環境における蛍光撮像
JP2020536005A Pending JP2021508542A (ja) 2017-12-27 2018-12-27 光不足環境におけるハイパースペクトル撮像
JP2020536038A Pending JP2021508546A (ja) 2017-12-27 2018-12-27 光不足環境における蛍光撮像
JP2020536006A Pending JP2021508543A (ja) 2017-12-27 2018-12-27 光不足環境におけるハイパースペクトル撮像

Family Applications Before (5)

Application Number Title Priority Date Filing Date
JP2020536245A Pending JP2021509337A (ja) 2017-12-27 2018-12-27 光不足環境におけるツール追跡を伴うハイパースペクトル撮像
JP2020536243A Pending JP2021508560A (ja) 2017-12-27 2018-12-27 光不足環境における蛍光撮像
JP2020536040A Pending JP2021508547A (ja) 2017-12-27 2018-12-27 光不足環境における蛍光撮像
JP2020536005A Pending JP2021508542A (ja) 2017-12-27 2018-12-27 光不足環境におけるハイパースペクトル撮像
JP2020536038A Pending JP2021508546A (ja) 2017-12-27 2018-12-27 光不足環境における蛍光撮像

Country Status (8)

Country Link
US (8) US11823403B2 (ja)
EP (6) EP3731724A4 (ja)
JP (6) JP2021509337A (ja)
KR (6) KR20200104377A (ja)
CN (6) CN111526775A (ja)
BR (6) BR112020012744A2 (ja)
IL (6) IL275563B1 (ja)
WO (6) WO2019133736A1 (ja)

Families Citing this family (86)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102127100B1 (ko) 2012-07-26 2020-06-29 디퍼이 신테스 프로덕츠, 인코포레이티드 광 부족 환경에서 ycbcr 펄싱된 조명 수법
IN2015MN00020A (ja) * 2012-07-26 2015-10-16 Olive Medical Corp
BR112015001555A2 (pt) 2012-07-26 2017-07-04 Olive Medical Corp vídeo contínuo em ambiente com deficiência de luz
US9777913B2 (en) 2013-03-15 2017-10-03 DePuy Synthes Products, Inc. Controlling the integral light energy of a laser pulse
EP2967301B1 (en) 2013-03-15 2021-11-03 DePuy Synthes Products, Inc. Scope sensing in a light controlled environment
CN106102559A (zh) 2014-03-21 2016-11-09 德普伊新特斯产品公司 用于成像传感器的卡缘连接器
US11557048B2 (en) 2015-11-16 2023-01-17 Applied Materials, Inc. Thickness measurement of substrate using color metrology
US10565701B2 (en) 2015-11-16 2020-02-18 Applied Materials, Inc. Color imaging for CMP monitoring
JP2017099616A (ja) * 2015-12-01 2017-06-08 ソニー株式会社 手術用制御装置、手術用制御方法、およびプログラム、並びに手術システム
US11573124B2 (en) * 2016-04-14 2023-02-07 National University Corporation Hokkaido University Computer storage medium, network system for distributing spectral camera control program and spectral image capturing method using spectral camera control device
BR112020012744A2 (pt) 2017-12-27 2020-12-01 Ethicon Llc imageamento por fluorescência em ambiente com deficiência de luz
US10694117B2 (en) * 2018-06-07 2020-06-23 Curadel, LLC Masking approach for imaging multi-peak fluorophores by an imaging system
US11100628B2 (en) * 2019-02-07 2021-08-24 Applied Materials, Inc. Thickness measurement of substrate using color metrology
US11112865B1 (en) * 2019-02-13 2021-09-07 Facebook Technologies, Llc Systems and methods for using a display as an illumination source for eye tracking
US20220095891A1 (en) * 2019-02-14 2022-03-31 Dai Nippon Printing Co., Ltd. Color correction device for medical apparatus
US11457154B2 (en) * 2019-06-20 2022-09-27 Cilag Gmbh International Speckle removal in a pulsed hyperspectral, fluorescence, and laser mapping imaging system
US11360028B2 (en) 2019-06-20 2022-06-14 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed hyperspectral, fluorescence, and laser mapping imaging system
US11187657B2 (en) 2019-06-20 2021-11-30 Cilag Gmbh International Hyperspectral imaging with fixed pattern noise cancellation
US11291358B2 (en) 2019-06-20 2022-04-05 Cilag Gmbh International Fluorescence videostroboscopy of vocal cords
US11674848B2 (en) 2019-06-20 2023-06-13 Cilag Gmbh International Wide dynamic range using a monochrome image sensor for hyperspectral imaging
US11892403B2 (en) 2019-06-20 2024-02-06 Cilag Gmbh International Image synchronization without input clock and data transmission clock in a pulsed fluorescence imaging system
US11686847B2 (en) 2019-06-20 2023-06-27 Cilag Gmbh International Pulsed illumination in a fluorescence imaging system
US11617541B2 (en) 2019-06-20 2023-04-04 Cilag Gmbh International Optical fiber waveguide in an endoscopic system for fluorescence imaging
US20200400566A1 (en) * 2019-06-20 2020-12-24 Ethicon Llc Image synchronization without input clock and data transmission clock in a pulsed laser mapping imaging system
US11671691B2 (en) * 2019-06-20 2023-06-06 Cilag Gmbh International Image rotation in an endoscopic laser mapping imaging system
US11172810B2 (en) 2019-06-20 2021-11-16 Cilag Gmbh International Speckle removal in a pulsed laser mapping imaging system
US11622094B2 (en) 2019-06-20 2023-04-04 Cilag Gmbh International Wide dynamic range using a monochrome image sensor for fluorescence imaging
US11754500B2 (en) 2019-06-20 2023-09-12 Cilag Gmbh International Minimizing image sensor input/output in a pulsed fluorescence imaging system
US11288772B2 (en) 2019-06-20 2022-03-29 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed fluorescence imaging system
US11898909B2 (en) 2019-06-20 2024-02-13 Cilag Gmbh International Noise aware edge enhancement in a pulsed fluorescence imaging system
US11758256B2 (en) 2019-06-20 2023-09-12 Cilag Gmbh International Fluorescence imaging in a light deficient environment
US11187658B2 (en) 2019-06-20 2021-11-30 Cilag Gmbh International Fluorescence imaging with fixed pattern noise cancellation
US11633089B2 (en) 2019-06-20 2023-04-25 Cilag Gmbh International Fluorescence imaging with minimal area monolithic image sensor
US11284785B2 (en) 2019-06-20 2022-03-29 Cilag Gmbh International Controlling integral energy of a laser pulse in a hyperspectral, fluorescence, and laser mapping imaging system
US11375886B2 (en) 2019-06-20 2022-07-05 Cilag Gmbh International Optical fiber waveguide in an endoscopic system for laser mapping imaging
US11903563B2 (en) 2019-06-20 2024-02-20 Cilag Gmbh International Offset illumination of a scene using multiple emitters in a fluorescence imaging system
US11516387B2 (en) 2019-06-20 2022-11-29 Cilag Gmbh International Image synchronization without input clock and data transmission clock in a pulsed hyperspectral, fluorescence, and laser mapping imaging system
US11147436B2 (en) 2019-06-20 2021-10-19 Cilag Gmbh International Image rotation in an endoscopic fluorescence imaging system
US10841504B1 (en) 2019-06-20 2020-11-17 Ethicon Llc Fluorescence imaging with minimal area monolithic image sensor
US11716543B2 (en) 2019-06-20 2023-08-01 Cilag Gmbh International Wide dynamic range using a monochrome image sensor for fluorescence imaging
US11624830B2 (en) * 2019-06-20 2023-04-11 Cilag Gmbh International Wide dynamic range using a monochrome image sensor for laser mapping imaging
US11412152B2 (en) * 2019-06-20 2022-08-09 Cilag Gmbh International Speckle removal in a pulsed hyperspectral imaging system
US20200403624A1 (en) * 2019-06-20 2020-12-24 Ethicon Llc Image synchronization without input clock and data transmission clock in a pulsed hyperspectral imaging system
US11533417B2 (en) 2019-06-20 2022-12-20 Cilag Gmbh International Laser scanning and tool tracking imaging in a light deficient environment
US20200397239A1 (en) * 2019-06-20 2020-12-24 Ethicon Llc Offset illumination of a scene using multiple emitters in a fluorescence imaging system
US11432706B2 (en) 2019-06-20 2022-09-06 Cilag Gmbh International Hyperspectral imaging with minimal area monolithic image sensor
US11471055B2 (en) 2019-06-20 2022-10-18 Cilag Gmbh International Noise aware edge enhancement in a pulsed fluorescence imaging system
US10952619B2 (en) 2019-06-20 2021-03-23 Ethicon Llc Hyperspectral and fluorescence imaging and topology laser mapping with minimal area monolithic image sensor
US11412920B2 (en) * 2019-06-20 2022-08-16 Cilag Gmbh International Speckle removal in a pulsed fluorescence imaging system
US11716533B2 (en) 2019-06-20 2023-08-01 Cilag Gmbh International Image synchronization without input clock and data transmission clock in a pulsed fluorescence imaging system
US11012599B2 (en) * 2019-06-20 2021-05-18 Ethicon Llc Hyperspectral imaging in a light deficient environment
US11172811B2 (en) * 2019-06-20 2021-11-16 Cilag Gmbh International Image rotation in an endoscopic fluorescence imaging system
US11218645B2 (en) 2019-06-20 2022-01-04 Cilag Gmbh International Wide dynamic range using a monochrome image sensor for fluorescence imaging
US11793399B2 (en) * 2019-06-20 2023-10-24 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed hyperspectral imaging system
US11740448B2 (en) 2019-06-20 2023-08-29 Cilag Gmbh International Driving light emissions according to a jitter specification in a fluorescence imaging system
US11389066B2 (en) 2019-06-20 2022-07-19 Cilag Gmbh International Noise aware edge enhancement in a pulsed hyperspectral, fluorescence, and laser mapping imaging system
US20200397267A1 (en) * 2019-06-20 2020-12-24 Ethicon Llc Speckle removal in a pulsed fluorescence imaging system
US11294062B2 (en) 2019-06-20 2022-04-05 Cilag Gmbh International Dynamic range using a monochrome image sensor for hyperspectral and fluorescence imaging and topology laser mapping
US11937784B2 (en) 2019-06-20 2024-03-26 Cilag Gmbh International Fluorescence imaging in a light deficient environment
US11276148B2 (en) 2019-06-20 2022-03-15 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed fluorescence imaging system
US20200397302A1 (en) * 2019-06-20 2020-12-24 Ethicon Llc Fluorescence imaging in a light deficient environment
US11233960B2 (en) 2019-06-20 2022-01-25 Cilag Gmbh International Fluorescence imaging with fixed pattern noise cancellation
US11931009B2 (en) 2019-06-20 2024-03-19 Cilag Gmbh International Offset illumination of a scene using multiple emitters in a hyperspectral imaging system
US11237270B2 (en) 2019-06-20 2022-02-01 Cilag Gmbh International Hyperspectral, fluorescence, and laser mapping imaging with fixed pattern noise cancellation
US11700995B2 (en) * 2019-06-20 2023-07-18 Cilag Gmbh International Speckle removal in a pulsed fluorescence imaging system
US11221414B2 (en) 2019-06-20 2022-01-11 Cilag Gmbh International Laser mapping imaging with fixed pattern noise cancellation
US11398011B2 (en) 2019-06-20 2022-07-26 Cilag Gmbh International Super resolution and color motion artifact correction in a pulsed laser mapping imaging system
US10979646B2 (en) 2019-06-20 2021-04-13 Ethicon Llc Fluorescence imaging with minimal area monolithic image sensor
US11925328B2 (en) 2019-06-20 2024-03-12 Cilag Gmbh International Noise aware edge enhancement in a pulsed hyperspectral imaging system
US11122968B2 (en) 2019-06-20 2021-09-21 Cilag Gmbh International Optical fiber waveguide in an endoscopic system for hyperspectral imaging
US11134832B2 (en) * 2019-06-20 2021-10-05 Cilag Gmbh International Image rotation in an endoscopic hyperspectral, fluorescence, and laser mapping imaging system
US11540696B2 (en) 2019-06-20 2023-01-03 Cilag Gmbh International Noise aware edge enhancement in a pulsed fluorescence imaging system
US11265491B2 (en) 2019-06-20 2022-03-01 Cilag Gmbh International Fluorescence imaging with fixed pattern noise cancellation
US11550057B2 (en) 2019-06-20 2023-01-10 Cilag Gmbh International Offset illumination of a scene using multiple emitters in a fluorescence imaging system
DE102019134473A1 (de) 2019-12-16 2021-06-17 Hoya Corporation Live-Kalibrierung
JP7390482B2 (ja) 2020-05-13 2023-12-01 富士フイルム株式会社 内視鏡システム及びその作動方法
CN112596230B (zh) * 2020-12-16 2022-09-20 航天科工微电子系统研究院有限公司 用于光电跟踪主动层析照明的光路系统
JP2024501232A (ja) 2020-12-21 2024-01-11 シンギュラー・ゲノミクス・システムズ・インコーポレイテッド 多色撮像のためのシステム及び方法
US11671775B2 (en) * 2020-12-30 2023-06-06 Knowles Electronics, Llc Microphone assembly with transducer sensitivity drift compensation and electrical circuit therefor
US11963727B2 (en) * 2021-03-30 2024-04-23 Cilag Gmbh International Method for system architecture for modular energy system
US11297294B1 (en) * 2021-05-20 2022-04-05 Shenzhen Jifu Technology Co, Ltd Color enhancement of endoscopic image
CN113393539B (zh) * 2021-06-08 2023-05-26 北方工业大学 化学反应溶液颜色突变识别方法
US20230020346A1 (en) * 2021-07-14 2023-01-19 Cilag Gmbh International Scene adaptive endoscopic hyperspectral imaging system
CN114415202B (zh) * 2022-03-28 2022-07-01 北京中科飞鸿科技股份有限公司 一种基于图像处理的激光侦查设备用追踪系统
WO2024013303A1 (de) * 2022-07-14 2024-01-18 Karl Storz Se & Co. Kg Beleuchtungsvorrichtung, bildgebungsvorrichtung mit einer beleuchtungsvorrichtung, bildgebungssystem, verfahren zur erzeugung von beleuchtungslicht und verfahren zum betrieb einer bildgebungsvorrichtung
CN116725467B (zh) * 2023-03-31 2024-03-01 苏州宇懋医学科技有限公司 内窥镜装置、内窥镜医疗辅助系统及内窥镜图像处理方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012019982A (ja) * 2010-07-15 2012-02-02 Fujifilm Corp 内視鏡システム
JP2012213550A (ja) * 2011-04-01 2012-11-08 Fujifilm Corp 生体情報取得システムおよび生体情報取得方法
JP2015119836A (ja) * 2013-12-24 2015-07-02 富士フイルム株式会社 内視鏡システム及びその作動方法

Family Cites Families (167)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3844047A (en) 1973-01-29 1974-10-29 R Carson Electronic micrometers employing digital processing techniques
JPS5940830A (ja) 1982-08-31 1984-03-06 浜松ホトニクス株式会社 レ−ザ光パルスを用いた癌の診断装置
US5318024A (en) * 1985-03-22 1994-06-07 Massachusetts Institute Of Technology Laser endoscope for spectroscopic imaging
JP3217343B2 (ja) 1989-03-23 2001-10-09 オリンパス光学工業株式会社 画像処理装置
JPH04158205A (ja) 1990-10-23 1992-06-01 Toshiba Corp 形状計測内視鏡装置
US5784162A (en) * 1993-08-18 1998-07-21 Applied Spectral Imaging Ltd. Spectral bio-imaging methods for biological research, medical diagnostics and therapy
US5363387A (en) 1992-11-18 1994-11-08 Rare Earth Medical, Inc. Variable pulsewidth lasers
US5749830A (en) 1993-12-03 1998-05-12 Olympus Optical Co., Ltd. Fluorescent endoscope apparatus
US5902246A (en) * 1996-03-26 1999-05-11 Lifespex, Incorporated Method and apparatus for calibrating an optical probe
DE19612536A1 (de) * 1996-03-29 1997-10-02 Freitag Lutz Dr Anordnung und Verfahren zur Diagnose von malignem Gewebe durch Fluoreszenzbetrachtung
US7179222B2 (en) * 1996-11-20 2007-02-20 Olympus Corporation Fluorescent endoscope system enabling simultaneous achievement of normal light observation based on reflected light and fluorescence observation based on light with wavelengths in infrared spectrum
JP3713347B2 (ja) * 1996-11-25 2005-11-09 オリンパス株式会社 蛍光内視鏡装置
US7468075B2 (en) 2001-05-25 2008-12-23 Conformis, Inc. Methods and compositions for articular repair
NL1005068C2 (nl) * 1997-01-23 1998-07-27 Ct Rrn Academisch Ziekenhuis U Cathetersysteem en een daarvan deel uitmakende catheter.
US6937885B1 (en) * 1997-10-30 2005-08-30 Hypermed, Inc. Multispectral/hyperspectral medical instrument
WO2000042910A1 (en) 1999-01-26 2000-07-27 Newton Laboratories, Inc. Autofluorescence imaging system for endoscopy
CA2318180A1 (en) * 1998-01-26 1999-07-29 Massachusetts Institute Of Technology Fluorescence imaging endoscope
US6110106A (en) 1998-06-24 2000-08-29 Biomax Technologies, Inc. Endoscopes and methods relating to direct viewing of a target tissue
US6468265B1 (en) 1998-11-20 2002-10-22 Intuitive Surgical, Inc. Performing cardiac surgery without cardioplegia
US20050270528A1 (en) * 1999-04-09 2005-12-08 Frank Geshwind Hyper-spectral imaging methods and devices
US6563105B2 (en) * 1999-06-08 2003-05-13 University Of Washington Image acquisition with depth enhancement
JP3850192B2 (ja) * 1999-12-09 2006-11-29 株式会社ニデック 眼底撮影装置
US20020138008A1 (en) * 2000-01-13 2002-09-26 Kazuhiro Tsujita Method and apparatus for displaying fluorescence images and method and apparatus for acquiring endoscope images
WO2001072216A2 (en) 2000-03-28 2001-10-04 Board Of Regents, The University Of Texas System Methods and apparatus for diagnositic multispectral digital imaging
US6889075B2 (en) 2000-05-03 2005-05-03 Rocky Mountain Biosystems, Inc. Optical imaging of subsurface anatomical structures and biomolecules
US6748259B1 (en) 2000-06-15 2004-06-08 Spectros Corporation Optical imaging of induced signals in vivo under ambient light conditions
US6975898B2 (en) 2000-06-19 2005-12-13 University Of Washington Medical imaging, diagnosis, and therapy using a scanning single optical fiber system
DE10107586A1 (de) * 2001-02-10 2002-08-14 Biotronik Mess & Therapieg Endoskopischer Katheter
JP2002253500A (ja) 2001-03-05 2002-09-10 Olympus Optical Co Ltd 内視鏡用光源装置
JP2002315721A (ja) 2001-04-20 2002-10-29 Mitaka Koki Co Ltd 癌組織摘出手術用の立体視システム
WO2003007236A2 (fr) * 2001-07-12 2003-01-23 Do Labs Procede et systeme pour produire la frequence des mises a jour de moyens
US6986739B2 (en) * 2001-08-23 2006-01-17 Sciperio, Inc. Architecture tool and methods of use
US6995841B2 (en) 2001-08-28 2006-02-07 Rice University Pulsed-multiline excitation for color-blind fluorescence detection
US6985622B2 (en) 2001-09-21 2006-01-10 Hewlett-Packard Development Company, L.P. System and method for color correcting electronically captured images by determining input media types using color correlation matrix
US20040092958A1 (en) * 2001-11-15 2004-05-13 Limonadi Farhad M. Stereotactic wands, endoscopes and methods using such wands and endoscopes
US7328060B2 (en) 2002-02-12 2008-02-05 Science & Engineering Associates, Inc. Cancer detection and adaptive dose optimization treatment system
WO2003070098A2 (en) 2002-02-19 2003-08-28 Biophan Technologies, Inc. Magnetic resonance imaging capable catheter assembly
US8620410B2 (en) 2002-03-12 2013-12-31 Beth Israel Deaconess Medical Center Multi-channel medical imaging system
US6825930B2 (en) * 2002-06-04 2004-11-30 Cambridge Research And Instrumentation, Inc. Multispectral imaging system
GB0217570D0 (en) 2002-07-30 2002-09-11 Univ Birmingham Method and apparatus for quantifying material or object properties
US7448995B2 (en) 2003-06-23 2008-11-11 Microvision, Inc. Scanning endoscope
EP1689290A2 (en) 2003-10-21 2006-08-16 The Board of Trustees of The Leland Stanford Junior University Systems and methods for intraoperative targeting
US20050205758A1 (en) 2004-03-19 2005-09-22 Almeida Leo A Method and apparatus for multi-spectral photodetection
JP5197916B2 (ja) * 2004-09-08 2013-05-15 オリンパス株式会社 内視鏡装置
US8480566B2 (en) 2004-09-24 2013-07-09 Vivid Medical, Inc. Solid state illumination for endoscopy
DE112005002322B4 (de) 2004-09-24 2021-04-22 Hoya Corp. Abtasteinrichtung, optischer Kopf, optisches Instrument und Abtastverfahren
US7826878B2 (en) * 2004-12-07 2010-11-02 Research Foundation Of City University Of New York Optical tomography using independent component analysis for detection and localization of targets in turbid media
JP5028008B2 (ja) * 2004-12-08 2012-09-19 オリンパス株式会社 蛍光内視鏡装置
US8872906B2 (en) * 2005-01-05 2014-10-28 Avantis Medical Systems, Inc. Endoscope assembly with a polarizing filter
DE202005003411U1 (de) * 2005-02-24 2006-07-06 Karl Storz Gmbh & Co. Kg Multifunktionales Fluoreszenzdiagnosesystem
US20070057211A1 (en) 2005-05-25 2007-03-15 Karsten Bahlman Multifocal imaging systems and method
JP2006325973A (ja) * 2005-05-26 2006-12-07 Olympus Medical Systems Corp 画像生成装置
WO2006132191A1 (ja) * 2005-06-08 2006-12-14 Olympus Medical Systems Corp. 内視鏡装置及び画像処理装置
US20070086495A1 (en) * 2005-08-12 2007-04-19 Sprague Randall B Method and apparatus for stable laser drive
JP5114024B2 (ja) * 2005-08-31 2013-01-09 オリンパス株式会社 光イメージング装置
JP4677636B2 (ja) * 2005-12-13 2011-04-27 日本電信電話株式会社 オプティカル・コヒーレンス・トモグラフィー装置及びこれに用いる可変波長光発生装置
JP4744288B2 (ja) * 2005-12-21 2011-08-10 オリンパスメディカルシステムズ株式会社 内視鏡装置
US20090303317A1 (en) * 2006-02-07 2009-12-10 Novadaq Technologies Inc. Near infrared imaging
JP4769952B2 (ja) * 2006-02-22 2011-09-07 国立大学法人九州工業大学 レーザー光による指先血流測定を利用した個人認証方法及び個人認証装置
US7990524B2 (en) 2006-06-30 2011-08-02 The University Of Chicago Stochastic scanning apparatus using multiphoton multifocal source
US20080058629A1 (en) * 2006-08-21 2008-03-06 University Of Washington Optical fiber scope with both non-resonant illumination and resonant collection/imaging for multiple modes of operation
US20080090220A1 (en) * 2006-08-28 2008-04-17 Vincent Freeman Modular virtual learning system and method
DE102006046925A1 (de) 2006-09-28 2008-04-03 Jenlab Gmbh Verfahren und Anordnung zur Laser-Endoskopie für die Mikrobearbeitung
JP2008161550A (ja) * 2006-12-28 2008-07-17 Olympus Corp 内視鏡システム
JP2010516304A (ja) * 2007-01-19 2010-05-20 サニーブルック・ヘルス・サイエンシズ・センター 超音波と光学を複合した画像手段を有する撮像プローブ
US20080177140A1 (en) 2007-01-23 2008-07-24 Xillix Technologies Corp. Cameras for fluorescence and reflectance imaging
JP2008259595A (ja) 2007-04-10 2008-10-30 Hamamatsu Photonics Kk 蛍光観察装置
WO2009088550A2 (en) * 2007-10-19 2009-07-16 Lockheed Martin Corporation System and method for conditioning animal tissue using laser light
EP2209412B1 (en) * 2007-11-12 2018-08-29 Cornell University Multi-path, multi-magnification, non-confocal fluorescence emission endoscopy apparatus and methods
CN103472241B (zh) 2008-01-21 2015-06-17 三星电子株式会社 薄膜分层离心装置及使用其的分析方法
JP5165400B2 (ja) 2008-01-23 2013-03-21 オリンパス株式会社 光源装置
WO2009143491A2 (en) * 2008-05-22 2009-11-26 The Trustees Of Dartmouth College System and method for calibration for image-guided surgery
US20090289200A1 (en) * 2008-05-22 2009-11-26 Fujifilm Corporation Fluorescent image obtainment method and apparatus, fluorescence endoscope, and excitation-light unit
EP2130484B1 (en) * 2008-06-04 2011-04-20 FUJIFILM Corporation Illumination device for use in endoscope
GB0812712D0 (en) * 2008-07-10 2008-08-20 Imp Innovations Ltd Improved endoscope
WO2010019515A2 (en) * 2008-08-10 2010-02-18 Board Of Regents, The University Of Texas System Digital light processing hyperspectral imaging apparatus
US20120273470A1 (en) 2011-02-24 2012-11-01 Zediker Mark S Method of protecting high power laser drilling, workover and completion systems from carbon gettering deposits
WO2010068499A1 (en) 2008-11-25 2010-06-17 Tetravue, Inc. Systems and methods of high resolution three-dimensional imaging
JP2010125284A (ja) 2008-12-01 2010-06-10 Fujifilm Corp 撮像システム
JP5342869B2 (ja) * 2008-12-22 2013-11-13 Hoya株式会社 内視鏡装置、内視鏡照明装置、画像形成装置、内視鏡照明装置の作動方法および画像形成装置の作動方法
JP5874116B2 (ja) * 2009-07-30 2016-03-02 国立研究開発法人産業技術総合研究所 画像撮影装置および画像撮影方法
US8986302B2 (en) 2009-10-09 2015-03-24 Ethicon Endo-Surgery, Inc. Surgical generator for ultrasonic and electrosurgical devices
WO2011086431A1 (en) 2010-01-13 2011-07-21 Koninklijke Philips Electronics N.V. Image integration based registration and navigation for endoscopic surgery
US9333036B2 (en) * 2010-01-22 2016-05-10 Board Of Regents, The University Of Texas System Systems, devices and methods for imaging and surgery
KR101172745B1 (ko) * 2010-01-29 2012-08-14 한국전기연구원 생체로부터 발생하는 다중 분광 광 영상 검출 및 광치료를 위한 복합 장치
US9044142B2 (en) * 2010-03-12 2015-06-02 Carl Zeiss Meditec Ag Surgical optical systems for detecting brain tumors
JP2011206227A (ja) * 2010-03-29 2011-10-20 Fujifilm Corp 内視鏡装置
JP2011206435A (ja) * 2010-03-30 2011-10-20 Fujifilm Corp 撮像装置、撮像方法、撮像プログラム、及び内視鏡
US9622819B2 (en) * 2010-04-22 2017-04-18 Precise Light Surgical, Inc. Flash vaporization surgical systems
US9946058B2 (en) 2010-06-11 2018-04-17 Nikon Corporation Microscope apparatus and observation method
JP5508959B2 (ja) * 2010-06-30 2014-06-04 富士フイルム株式会社 内視鏡装置
JP2012016545A (ja) 2010-07-09 2012-01-26 Fujifilm Corp 内視鏡装置
JP5707758B2 (ja) * 2010-07-13 2015-04-30 ソニー株式会社 撮像装置、撮像システム、手術用ナビゲーションシステム、及び撮像方法
JP5292379B2 (ja) * 2010-11-09 2013-09-18 富士フイルム株式会社 内視鏡装置
WO2012065163A2 (en) * 2010-11-12 2012-05-18 Emory University Additional systems and methods for providing real-time anatomical guidance in a diagnostic or therapeutic procedure
JP5526000B2 (ja) * 2010-11-15 2014-06-18 富士フイルム株式会社 内視鏡及び内視鏡用光源装置
US10499804B2 (en) * 2011-02-24 2019-12-10 DePuy Synthes Products, Inc. Imaging sensor providing improved visualization for surgical scopes
CN102279048B (zh) * 2011-04-12 2013-01-23 华东师范大学 一种宽波段显微成像光谱系统及其变波长快速调焦控制方法
US9979949B2 (en) * 2011-07-13 2018-05-22 Viking Systems, Inc Method and apparatus for obtaining stereoscopic 3D visualization using commercially available 2D endoscopes
GB201113138D0 (en) * 2011-07-29 2011-09-14 Univ East Anglia Method, system and device for detecting insects and other pests
JP5709691B2 (ja) * 2011-08-23 2015-04-30 富士フイルム株式会社 内視鏡装置
EP3453353A3 (en) 2011-09-29 2019-06-19 Biolase, Inc. Devices for treating eye conditions
US20130211246A1 (en) 2011-12-27 2013-08-15 Vinod PARASHER METHODS AND DEVICES FOR GASTROINTESTINAL SURGICAL PROCEDURES USING NEAR INFRARED (nIR) IMAGING TECHNIQUES
US8967811B2 (en) 2012-01-20 2015-03-03 Lumencor, Inc. Solid state continuous white light source
JP5918548B2 (ja) 2012-01-24 2016-05-18 富士フイルム株式会社 内視鏡画像診断支援装置およびその作動方法並びに内視鏡画像診断支援プログラム
WO2013116316A1 (en) * 2012-01-30 2013-08-08 Scanadu Incorporated Hyperspectral imaging systems, units, and methods
US8986199B2 (en) * 2012-02-17 2015-03-24 Ethicon Endo-Surgery, Inc. Apparatus and methods for cleaning the lens of an endoscope
WO2013145407A1 (ja) * 2012-03-30 2013-10-03 オリンパスメディカルシステムズ株式会社 内視鏡装置
JP5965726B2 (ja) 2012-05-24 2016-08-10 オリンパス株式会社 立体視内視鏡装置
US10953241B2 (en) * 2012-05-25 2021-03-23 Ojai Retinal Technology, Llc Process for providing protective therapy for biological tissues or fluids
WO2014014838A2 (en) 2012-07-15 2014-01-23 2R1Y Interactive illumination for gesture and/or object recognition
KR102127100B1 (ko) 2012-07-26 2020-06-29 디퍼이 신테스 프로덕츠, 인코포레이티드 광 부족 환경에서 ycbcr 펄싱된 조명 수법
BR112015001555A2 (pt) * 2012-07-26 2017-07-04 Olive Medical Corp vídeo contínuo em ambiente com deficiência de luz
WO2014073138A1 (ja) * 2012-11-09 2014-05-15 パナソニック株式会社 画像処理装置および内視鏡
WO2014134314A1 (en) * 2013-03-01 2014-09-04 The Johns Hopkins University Light sources, medical devices, and methods of illuminating an object of interest
US9456752B2 (en) 2013-03-14 2016-10-04 Aperture Diagnostics Ltd. Full-field three-dimensional surface measurement
WO2014152757A2 (en) 2013-03-15 2014-09-25 Stryker Corporation Endoscopic light source and imaging system
WO2014171284A1 (ja) 2013-04-19 2014-10-23 オリンパスメディカルシステムズ株式会社 内視鏡装置
US10165972B2 (en) 2013-07-12 2019-01-01 Inthesmart Co., Ltd. Apparatus and method for detecting NIR fluorescence at sentinel lymph node
US20150030542A1 (en) 2013-07-26 2015-01-29 Sunil Singhal Methods for medical imaging
CN105377111B (zh) * 2013-08-01 2017-08-04 奥林巴斯株式会社 内窥镜系统
JP5891208B2 (ja) 2013-08-13 2016-03-22 Hoya株式会社 内視鏡用照明光学系
WO2015077493A1 (en) * 2013-11-20 2015-05-28 Digimarc Corporation Sensor-synchronized spectrally-structured-light imaging
DE102014002514B4 (de) * 2014-02-21 2015-10-29 Universität Stuttgart Vorrichtung und Verfahren zur multi- oder hyperspektralen Bildgebung und / oder zur Distanz- und / oder 2-D oder 3-D Profilmessung eines Objekts mittels Spektrometrie
JP2017513645A (ja) 2014-04-28 2017-06-01 カーディオフォーカス,インコーポレーテッド アブレーション処置の際にicg色素組成物を用いて組織を視覚化するためのシステムおよび方法
CN103989459B (zh) * 2014-05-20 2021-05-18 曾堃 用于鉴别恶性肿瘤的形成过程的光学观测设备及内窥镜
US9696200B2 (en) * 2014-05-23 2017-07-04 Abl Ip Holding Llc Combinatorial light device for general lighting and lighting for machine vision
EP3940371B1 (en) 2014-06-05 2023-08-30 Universität Heidelberg Method and imaging apparatus for acquisition of fluorescence and reflectance images
JP6039606B2 (ja) * 2014-06-24 2016-12-07 富士フイルム株式会社 内視鏡システム、光源装置、内視鏡システムの作動方法、及び光源装置の作動方法
JP6253527B2 (ja) * 2014-06-24 2017-12-27 オリンパス株式会社 内視鏡装置
JP6251888B2 (ja) 2014-06-25 2017-12-27 パナソニックIpマネジメント株式会社 投影システム
US9547165B2 (en) * 2014-08-29 2017-01-17 Reinroth Gmbh Endoscope system with single camera for concurrent imaging at visible and infrared wavelengths
CA2902675C (en) * 2014-08-29 2021-07-27 Farnoud Kazemzadeh Imaging system and method for concurrent multiview multispectral polarimetric light-field high dynamic range imaging
US20170035280A1 (en) * 2015-08-07 2017-02-09 Reinroth Gmbh Stereoscopic endoscope system with concurrent imaging at visible and infrared wavelengths
CA2963987A1 (en) * 2014-09-29 2016-04-07 Novadaq Technologies Inc. Imaging a target fluorophore in a biological material in the presence of autofluorescence
US10473916B2 (en) 2014-09-30 2019-11-12 Washington University Multiple-view compressed-sensing ultrafast photography (MV-CUP)
CN204207717U (zh) * 2014-10-13 2015-03-18 佛山市南海区欧谱曼迪科技有限责任公司 内窥镜照射光谱选择装置及超光谱内窥镜成像系统
JP6456129B2 (ja) * 2014-12-15 2019-01-23 キヤノン株式会社 被検体情報取得装置およびその制御方法ならびに光量制御方法
EP3730086B1 (en) * 2014-12-16 2023-06-28 Intuitive Surgical Operations, Inc. Ureter detection using waveband-selective imaging
US9395293B1 (en) * 2015-01-12 2016-07-19 Verily Life Sciences Llc High-throughput hyperspectral imaging with superior resolution and optical sectioning
DE102015003019A1 (de) 2015-03-06 2016-09-08 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und Vorrichtung zur optischen Detektion einer Bewegung in einer biologischen Probe mit räumlicher Ausdehnung
US10043282B2 (en) 2015-04-13 2018-08-07 Gerard Dirk Smits Machine vision for ego-motion, segmenting, and classifying objects
US20170059305A1 (en) 2015-08-25 2017-03-02 Lytro, Inc. Active illumination for enhanced depth map generation
JP2016202726A (ja) * 2015-04-27 2016-12-08 ソニー株式会社 光線力学診断装置及び光線力学診断方法
WO2016191142A2 (en) * 2015-05-27 2016-12-01 Verily Life Sciences Llc Nanophotonic hyperspectral/lightfield superpixel imager
WO2016203572A1 (ja) * 2015-06-17 2016-12-22 オリンパス株式会社 撮像装置
US10987129B2 (en) 2015-09-04 2021-04-27 Medos International Sarl Multi-shield spinal access system
EP3350644B1 (en) 2015-09-17 2021-04-28 S.D. Sight Diagnostics Ltd. Methods and apparatus for detecting an entity in a bodily sample
US20190069824A1 (en) * 2015-10-13 2019-03-07 Hypermed Imaging, Inc. Compact light sensors for surgical applications and shock detection
TWI537762B (zh) * 2016-01-12 2016-06-11 Application of hyperfamily imaging to identification of cancerous lesions
US9939231B2 (en) * 2016-01-20 2018-04-10 Raytheon Company Dual-band semi-active laser system
WO2017127929A1 (en) 2016-01-26 2017-08-03 Novadaq Technologies Inc. Configurable platform
US10708478B2 (en) * 2016-03-23 2020-07-07 Karl Storz Imaging, Inc. Image transformation and display for fluorescent and visible imaging
US20170280970A1 (en) * 2016-03-31 2017-10-05 Covidien Lp Thoracic endoscope for surface scanning
US10690904B2 (en) * 2016-04-12 2020-06-23 Stryker Corporation Multiple imaging modality light source
US10798310B2 (en) 2016-05-17 2020-10-06 Hypermed Imaging, Inc. Hyperspectral imager coupled with indicator molecule tracking
JPWO2017221336A1 (ja) 2016-06-21 2019-04-11 オリンパス株式会社 内視鏡システム、画像処理装置、画像処理方法およびプログラム
JP6660823B2 (ja) * 2016-06-24 2020-03-11 富士フイルム株式会社 内視鏡装置
US10709333B2 (en) 2016-07-25 2020-07-14 PhotoSound Technologies, Inc. Instrument for acquiring co-registered orthogonal fluorescence and photoacoustic volumetric projections of tissue and methods of its use
KR20230093070A (ko) 2016-09-09 2023-06-26 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 동시 백색 광 및 하이퍼스펙트럴 광 이미징 시스템들
JP6364050B2 (ja) * 2016-09-13 2018-07-25 パナソニック株式会社 内視鏡システム
US10386489B2 (en) 2017-02-01 2019-08-20 Jeffrey Albelo Beam scanner for autonomous vehicles
US11140305B2 (en) 2017-02-10 2021-10-05 Stryker European Operations Limited Open-field handheld fluorescence imaging systems and methods
WO2019123796A1 (ja) 2017-12-22 2019-06-27 オリンパス株式会社 内視鏡システム
BR112020012744A2 (pt) 2017-12-27 2020-12-01 Ethicon Llc imageamento por fluorescência em ambiente com deficiência de luz
DE102018124984A1 (de) * 2018-10-10 2020-04-16 Friedrich-Schiller-Universität Jena Verfahren und Vorrichtung zur hochaufgelösten Fluoreszenzmikroskopie
JP2023511407A (ja) 2020-01-22 2023-03-17 フォトニック メディカル インク. 開放視野マルチモード深度検知校正デジタルルーペ

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012019982A (ja) * 2010-07-15 2012-02-02 Fujifilm Corp 内視鏡システム
JP2012213550A (ja) * 2011-04-01 2012-11-08 Fujifilm Corp 生体情報取得システムおよび生体情報取得方法
JP2015119836A (ja) * 2013-12-24 2015-07-02 富士フイルム株式会社 内視鏡システム及びその作動方法

Also Published As

Publication number Publication date
JP2021508560A (ja) 2021-03-11
US11823403B2 (en) 2023-11-21
IL275563A (en) 2020-08-31
BR112020012744A2 (pt) 2020-12-01
CN111526774A (zh) 2020-08-11
EP3731728A1 (en) 2020-11-04
EP3731724A4 (en) 2021-10-13
WO2019133741A1 (en) 2019-07-04
CN111601536A (zh) 2020-08-28
US20190197712A1 (en) 2019-06-27
WO2019133739A1 (en) 2019-07-04
IL275579A (en) 2020-08-31
US20190191974A1 (en) 2019-06-27
IL275563B1 (en) 2024-03-01
KR20200104372A (ko) 2020-09-03
US20190191976A1 (en) 2019-06-27
BR112020012594A2 (pt) 2020-11-24
EP3731723A1 (en) 2020-11-04
EP3731727A1 (en) 2020-11-04
IL275574A (en) 2020-08-31
US20190191978A1 (en) 2019-06-27
KR20200104375A (ko) 2020-09-03
EP3731728A4 (en) 2021-08-25
EP3731727A4 (en) 2021-10-20
WO2019133736A1 (en) 2019-07-04
JP2021508542A (ja) 2021-03-11
EP3731725A1 (en) 2020-11-04
KR20200104371A (ko) 2020-09-03
EP3731724A1 (en) 2020-11-04
JP2021508546A (ja) 2021-03-11
EP3731726A1 (en) 2020-11-04
CN111565620A (zh) 2020-08-21
JP2021509337A (ja) 2021-03-25
IL275565A (en) 2020-08-31
JP2021508547A (ja) 2021-03-11
CN111526777A (zh) 2020-08-11
US20240054666A1 (en) 2024-02-15
KR20200104373A (ko) 2020-09-03
BR112020012999A2 (pt) 2020-12-01
CN111601536B (zh) 2023-12-15
WO2019133750A1 (en) 2019-07-04
IL275564A (en) 2020-08-31
US20230186497A1 (en) 2023-06-15
BR112020012682A2 (pt) 2020-11-24
US11900623B2 (en) 2024-02-13
EP3731726A4 (en) 2021-10-27
EP3731723A4 (en) 2021-10-20
BR112020012708A2 (pt) 2020-11-24
KR20200104377A (ko) 2020-09-03
US20190191975A1 (en) 2019-06-27
US11803979B2 (en) 2023-10-31
BR112020012741A2 (pt) 2020-12-01
EP3731725A4 (en) 2021-10-13
CN111526775A (zh) 2020-08-11
CN111526776A (zh) 2020-08-11
KR20200104379A (ko) 2020-09-03
WO2019133753A1 (en) 2019-07-04
US11574412B2 (en) 2023-02-07
IL275571A (en) 2020-08-31
US20190191977A1 (en) 2019-06-27
WO2019133737A1 (en) 2019-07-04

Similar Documents

Publication Publication Date Title
JP2021508543A (ja) 光不足環境におけるハイパースペクトル撮像
US11012599B2 (en) Hyperspectral imaging in a light deficient environment

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230131

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230706

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20230713

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20230901