WO2018159082A1 - 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法 - Google Patents

内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法 Download PDF

Info

Publication number
WO2018159082A1
WO2018159082A1 PCT/JP2017/046364 JP2017046364W WO2018159082A1 WO 2018159082 A1 WO2018159082 A1 WO 2018159082A1 JP 2017046364 W JP2017046364 W JP 2017046364W WO 2018159082 A1 WO2018159082 A1 WO 2018159082A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
endoscope
index value
information
calculation
Prior art date
Application number
PCT/JP2017/046364
Other languages
English (en)
French (fr)
Inventor
拓明 山本
Original Assignee
富士フイルム株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルム株式会社 filed Critical 富士フイルム株式会社
Priority to EP17898401.9A priority Critical patent/EP3590402A4/en
Priority to JP2019502476A priority patent/JP6774550B2/ja
Publication of WO2018159082A1 publication Critical patent/WO2018159082A1/ja
Priority to US16/535,578 priority patent/US10702136B2/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/005Flexible endoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/041Capsule endoscopes for imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0655Control therefor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2407Optical details
    • G02B23/2461Illumination
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661Endoscope light sources
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0661Endoscope light sources
    • A61B1/0676Endoscope light sources at distal tip of an endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/07Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements using light-conductive means, e.g. optical fibres

Definitions

  • the present invention relates to an endoscope system, a processor device, and an operation method of the endoscope system that calculate an index or the like that contributes to diagnosis.
  • an endoscope system including a light source device, an endoscope, and a processor device is widespread. Particularly in recent years, not only imaging an observation object using an endoscope but also using an image obtained by imaging the observation object, for example, the state of the observation object that is difficult to know at first glance such as oxygen saturation. 2. Description of the Related Art Endoscope systems that calculate information or indices to be expressed (hereinafter collectively referred to as index values) are known.
  • an index value When calculating an index value, if the observation target is not in a state suitable for calculating the index value, for example, a residue or residual liquid (hereinafter referred to as residual liquid) adheres to the observation target. An index value may be calculated. For this reason, for example, in a conventional endoscope system that calculates an index value, the influence of the observed part or residual liquid is corrected (Patent Document 1). An endoscope system is also known in which a region with residual liquid or the like is identified and excluded from the inspection target (Patent Document 2).
  • the calculation accuracy of the index value usually depends not only on the presence / absence of residual liquid, but also on the light scattering characteristics or light absorption characteristics of the observation target. For this reason, it seems that the observation object actually has an unexpected light scattering characteristic or light absorption characteristic, or an unexpected light scattering characteristic or light absorption characteristic due to the hit state of illumination light, etc. In an area that is visible, an accurate index value may not be calculated without residual liquid.
  • the present invention relates to an endoscope system, a processor device, and an endoscope that can specify an area in which an index value may not be accurately calculated and an area in which an index value can be accurately calculated more easily and accurately than in the past.
  • the object is to provide a method of operating the system.
  • An endoscope system of the present invention is an endoscope system including a light source, an endoscope that images an observation target irradiated with light emitted from the light source, and a processor device that performs system control and image processing.
  • an image acquisition unit that acquires an endoscopic image obtained by imaging an observation target, and an endoscope image for display generated using the endoscopic image or the endoscopic image, and light scattering of the observation target
  • Baseline information calculation unit that calculates baseline information that is information on characteristics or light absorption characteristics and that is at least information that does not depend on specific biological information, and represents the state of the observation target using the baseline information
  • a index value calculation unit that calculates a.
  • the baseline information calculation unit calculates baseline information for each part composed of one or a plurality of pixels of the endoscopic image, and the region setting unit determines whether to calculate an index value for each part. By doing so, it is preferable to set a calculation area for calculating an index value for an area composed of one or a plurality of such portions.
  • the region setting unit sets a calculation region for calculating the index value based on a comparison result obtained by comparing the baseline information with a threshold value.
  • the region setting unit sets a threshold using one of the plurality of baseline information or a statistic calculated using the plurality of baseline information. It is preferable.
  • the region setting unit calculates an index value by excluding any one or more of a region having a residue or residual liquid, a dark region, a halation region, or a region having a treatment tool using the baseline information. It is preferable to set a calculation area.
  • the baseline information calculation unit calculates the baseline information using a plurality of endoscope images having different types of illumination light used for imaging.
  • the index value calculation unit uses one or a plurality of endoscope images having different types of illumination light used for imaging from the plurality of endoscope images used by the baseline information calculation unit to calculate the baseline information. It is preferable to calculate the value.
  • the specific biological information is preferably information that changes due to the state of hemoglobin included in the observation target.
  • the specific biological information is preferably oxygen saturation or hemoglobin concentration.
  • the specific biological information is information related to blood vessels included in the observation target.
  • the specific biological information is preferably blood vessel density, blood vessel depth, or blood vessel thickness.
  • a processor device of the present invention is a processor device that performs system control and image processing of an endoscope system having a light source and an endoscope that images an observation target irradiated with light emitted from the light source.
  • a light scattering characteristic or a light absorption characteristic of an observation object using an image acquisition unit that acquires an endoscope image obtained by imaging and an endoscope image for display generated using the endoscope image or the endoscope image A baseline information calculation unit that calculates baseline information that is information related to the information and that does not depend on at least specific biological information, and uses the baseline information to calculate an index value that represents the state of the observation target
  • the index value is calculated in the calculation region set by the region setting unit using the region setting unit for setting the calculation region and the endoscope image for display generated using the endoscope image or the endoscope image. Comprising the index value calculation unit for, a.
  • An endoscope system operating method includes a light source, an endoscope that images an observation target irradiated with light emitted from the light source, and a processor device that performs system control and image processing.
  • An operation method of an endoscope system using a mirror system in which an image acquisition unit acquires an endoscope image obtained by imaging an observation target, and a baseline information calculation unit includes an endoscope image or an endoscope.
  • Baseline information that is information related to light scattering characteristics or light absorption characteristics of an observation target using a display endoscopic image generated using a mirror image, and that does not depend on at least specific biological information
  • a step of setting a calculation region for calculating an index value representing the state of the observation target using the baseline information, and an index value calculation unit for the endoscope image or Using the endoscope image for display generated using endoscopic image, and a step of calculating an index value in the calculation region area setting unit has set.
  • an area where the index value may not be accurately calculated and an area where the index value can be accurately calculated can be easily and It is possible to specify more accurately than in the past.
  • the endoscope system 10 includes an endoscope 12, a light source device 14, a processor device 16, a monitor 18, and a console 19.
  • the endoscope 12 images an observation target.
  • the light source device 14 generates illumination light.
  • the processor device 16 performs system control and image processing of the endoscope system 10.
  • the monitor 18 is a display unit that displays a display endoscopic image generated by the processor device 16.
  • the console 19 is an input device for inputting settings to the processor device 16 and the like.
  • the endoscope 12 includes an insertion portion 12a that can be inserted into a subject, an operation portion 12b provided at a proximal end portion of the insertion portion 12a, a bending portion 12c provided at a distal end side of the insertion portion 12a, and a distal end portion 12d. And have.
  • the bending portion 12c is bent by operating the angle knob 12e of the operation portion 12b.
  • the distal end portion 12d faces in a desired direction.
  • the distal end portion 12d is provided with an ejection port (not shown) that ejects air, water, or the like toward the observation target.
  • the operation unit 12b is provided with a zoom operation unit 13 in addition to the angle knob 12e. By operating the zoom operation unit 13, it is possible to magnify or reduce the image of the observation object.
  • the light source device 14 includes a light source unit 20 that emits illumination light and a light source control unit 22 that controls driving of the light source unit 20.
  • the light source unit 20 includes, for example, a plurality of LEDs (Light Emitting Diodes) that emit light having different center wavelengths or wavelength bands (hereinafter simply referred to as “different wavelengths”) as light sources, and each LED emits light or lights up.
  • LEDs Light Emitting Diodes
  • a plurality of types of illumination light having different wavelengths can be emitted by adjusting the amount of light.
  • the light source unit 20 can emit wide-band purple light, blue light, green light, and red light having relatively wide wavelength bands as illumination light.
  • the light source unit 20 includes, in addition to broadband violet light, blue light, green light, and red light, violet light, blue light, narrow band (which means that the wavelength band is in the range of about 10 nm to 20 nm), Green light and red light can be emitted as illumination light. More specifically, the light source unit 20 includes, as illumination light, narrow-band purple light having a center wavelength of about 400 nm, first narrow-band blue light having a center wavelength of about 450 nm, and second narrow-band blue light having a center wavelength of about 470 nm. It can emit light, narrowband green light having a center wavelength of about 540 nm, and narrowband red light having a center wavelength of about 640 nm. In addition, the light source unit 20 can emit white light as illumination light by combining broadband or narrow-band purple light, blue light, green light, and red light.
  • the light source unit 20 can use a combination of an LD (Laser Diode), a phosphor, and a band limiting filter, or a combination of a lamp such as a xenon lamp and a band limiting filter, instead of the LED.
  • LD Laser Diode
  • a phosphor or a band limiting filter can be used in combination.
  • the light source control unit 22 independently controls the timing of lighting or extinguishing of each light source constituting the light source unit 20 and the light emission amount at the time of lighting. As a result, the light source unit 20 can emit a plurality of types of illumination light having different wavelengths. Further, the light source control unit 22 controls the light source unit 20 in accordance with the imaging timing (so-called frame) of the image sensor 48.
  • the illumination light emitted from the light source unit 20 enters the light guide 41.
  • the light guide 41 is built in the endoscope 12 and the universal cord, and propagates the illumination light to the distal end portion 12d of the endoscope 12.
  • the universal cord is a cord that connects the endoscope 12 to the light source device 14 and the processor device 16.
  • a multimode fiber can be used as the light guide 41.
  • a thin fiber cable having a core diameter of 105 ⁇ m, a cladding diameter of 125 ⁇ m, and a diameter of 0.3 to 0.5 mm including a protective layer serving as an outer skin can be used.
  • nm represents nanometer
  • ⁇ m represents micrometer
  • mm represents millimeter.
  • the distal end portion 12d of the endoscope 12 is provided with an illumination optical system 30a and a photographing optical system 30b.
  • the illumination optical system 30 a includes an illumination lens 45, and illumination light is emitted toward the observation target via the illumination lens 45.
  • the photographing optical system 30b includes an objective lens 46, a zoom lens 47, and an image sensor 48.
  • the image sensor 48 reflects reflected light or the like of illumination light returning from the observation target via the objective lens 46 and the zoom lens 47 (in addition to the reflected light, scattered light, fluorescence emitted from the observation target, or medicine administered to the observation target)
  • the observation object is photographed using the image including the fluorescence caused by
  • the zoom lens 47 is moved by operating the zoom operation unit 13, and enlarges or reduces the observation target to be photographed using the image sensor 48.
  • the image sensor 48 is a color sensor having a primary color filter, for example, and has a B pixel (blue pixel) having a blue color filter, a G pixel (green pixel) having a green color filter, and an R having a red color filter. There are three types of pixels (red pixels).
  • the blue color filter mainly transmits purple to blue light.
  • the green color filter is mainly green light.
  • the red color filter mainly transmits red light.
  • a CCD (Charge Coupled Device) sensor or a CMOS (Complementary Metal Oxide Semiconductor) sensor can be used as the image sensor 48 .
  • the image sensor 48 of the present embodiment is a primary color sensor, but a complementary color sensor can also be used.
  • Complementary color sensors include, for example, a cyan pixel with a cyan color filter, a magenta pixel with a magenta color filter, a yellow pixel with a yellow color filter, and a green pixel with a green color filter.
  • a complementary color sensor is used, an image obtained from each color pixel can be converted into a B image, a G image, and an R image by performing complementary color-primary color conversion.
  • a monochrome sensor not provided with a color filter can be used as the image sensor 48 instead of the color sensor. In this case, the image of each color can be obtained by sequentially imaging the observation target using illumination light of each color such as BGR.
  • the processor device 16 includes a control unit 52, an image acquisition unit 54, an image processing unit 61, and a display control unit 66.
  • the control unit 52 performs overall control of the endoscope system 10 such as synchronous control of illumination light irradiation timing and imaging timing. In addition, when the type and number of areas for area determination are set using the console 19 or the like, the control unit 52 inputs the settings to the light source control unit 22.
  • the image acquisition unit 54 acquires an image obtained by capturing an observation target from the image sensor 48.
  • the image sensor 48 since the image sensor 48 includes a color filter, the image acquisition unit 54 acquires an image for each illumination light and for each color filter.
  • Both an image (captured image) acquired by the image acquisition unit 54 from the image sensor 48 and a display image generated using the image acquired by the image acquisition unit 54 from the image sensor 48 are “endoscopic images”. Is. In the following, except when explicitly distinguishing, when simply referring to an image, it means an endoscopic image obtained by capturing an observation object obtained from the image sensor 48, and when simply referring to an endoscopic image, an internal image for display is used. This means the endoscopic image 101 (see FIG. 6).
  • the image acquisition unit 54 includes a DSP (Digital Signal Processor) 56, a noise reduction unit 58, and a conversion unit 59, and performs various processes on the acquired image as necessary using these.
  • DSP Digital Signal Processor
  • the DSP 56 performs various processing such as defect correction processing, offset processing, gain correction processing, linear matrix processing, gamma conversion processing, demosaic processing, and YC conversion processing on the acquired image as necessary.
  • the defect correction process is a process for correcting the pixel value of the pixel corresponding to the defective pixel of the image sensor 48.
  • the offset process is a process for reducing the dark current component from the image subjected to the defect correction process and setting an accurate zero level.
  • the gain correction process is a process for adjusting the signal level of each image by multiplying the image subjected to the offset process by a gain.
  • the linear matrix process is a process for improving the color reproducibility of the image subjected to the offset process, and the gamma conversion process is a process for adjusting the brightness and saturation of the image after the linear matrix process.
  • the demosaic process (also referred to as an isotropic process or a synchronization process) is a process of interpolating the pixel values of the missing pixels, and is applied to the image after the gamma conversion process.
  • the missing pixel is a pixel having no pixel value due to the arrangement of the color filters (because other color pixels are arranged in the image sensor 48).
  • the B image is an image obtained by photographing the observation target in the B pixel, the pixel at the position corresponding to the G pixel or the R pixel has no pixel value.
  • the B image is interpolated to generate pixel values of the pixels at the positions of the G pixel and the R pixel of the image sensor 48.
  • the YC conversion process is a process for converting the demosaiced image into a luminance channel Y, a color difference channel Cb, and a color difference channel Cr.
  • the noise reduction unit 58 performs noise reduction processing on the luminance channel Y, the color difference channel Cb, and the color difference channel Cr using, for example, a moving average method or a median filter method.
  • the conversion unit 59 reconverts the luminance channel Y, the color difference channel Cb, and the color difference channel Cr after the noise reduction processing into an image of each color of BGR again.
  • the image processing unit 61 uses the image acquired by the image acquisition unit 54 to generate an endoscopic image to be displayed on the monitor 18. Further, the image processing unit 61 calculates an index value using the generated endoscopic image. At that time, the image processing unit 61 identifies an area where the index value may not be accurately calculated and an area where the index value can be accurately calculated, and calculates the index value in the area where the index value can be accurately calculated.
  • the image processing unit 61 includes an image generation unit 81, a baseline information calculation unit 82, a region setting unit 83, an index value calculation unit 84, and an enhancement processing unit 85. And comprising.
  • the image generation unit 81 generates an endoscope image 101 for display using one or more images acquired by the image acquisition unit 54.
  • the image generation unit 81 performs color conversion processing, color enhancement processing, and structure enhancement processing on the image acquired by the image acquisition unit 54 as necessary. Apply.
  • a 3 ⁇ 3 matrix process, a gradation conversion process, a three-dimensional LUT (look-up table) process, and the like are performed on an image of each color of BGR.
  • the color enhancement process is a process for enhancing the color of an image
  • the structure enhancement process is a process for enhancing a tissue or structure to be observed such as a blood vessel or a pit pattern.
  • the baseline information calculation unit 82 uses the endoscope image (image acquired by the image acquisition unit 54) obtained by imaging the observation target, or the display endoscope image 101 generated by the image generation unit 81, as a base.
  • Line information is calculated.
  • Baseline information is information relating to light scattering characteristics or light absorption characteristics of an observation target, and is information that does not depend on at least specific biological information.
  • “do not depend” means that at least the change in the baseline information is greater with respect to the intensity of light scattering characteristics or light absorption characteristics than with respect to the level of specific biological information.
  • the “specific biological information” is information that changes due to, for example, the state of hemoglobin included in the observation target. Specifically, oxygen saturation or hemoglobin concentration, or a combination thereof is specific biological information.
  • the “specific biological information” is information about blood vessels included in the observation target, for example. Specifically, blood vessel density, blood vessel depth, or blood vessel thickness, or a combination of two or more thereof is specific biological information.
  • the baseline information calculation unit 82 calculates baseline information using a plurality of images (endoscopic images acquired from the image sensor 48) having different types of illumination light used for imaging. In the present embodiment, the baseline information calculation unit 82 calculates baseline information that does not depend on at least oxygen saturation. Specifically, an image obtained by imaging the observation target using the first narrow-band blue light is referred to as a B1 image, and an image obtained by imaging the observation target using the second narrow-band blue light is referred to as a B2 image. An image obtained by imaging the observation target using band green light is used as a G2 image, and an image obtained by imaging the observation target using narrow band red light is used as an R2 image.
  • the baseline information calculation unit 82 then calculates the ratio of the B1 image to the G2 image (hereinafter referred to as B1 / G2), the ratio of the B2 image to the G2 image (hereinafter referred to as B2 / G2), and the R2 image to the G2 image.
  • the ratio (hereinafter referred to as R2 / G2) is calculated.
  • an operation value “Z” is calculated according to Equation 1.
  • the phase ⁇ in Equation 1 is determined so that the calculated value “Z” does not change with respect to the oxygen saturation of hemoglobin included in the observation target.
  • the calculated value “Z” is constant according to the value of the ratio R2 / G2, regardless of the oxygen saturation level of the observation target, if there is no residual liquid containing a yellow pigment such as bilirubin. Value.
  • the calculated value “Z” does not depend on the oxygen saturation of the observation target when there is a residual liquid containing a yellow pigment, but it depends on the amount (concentration) of the yellow pigment contained in the residual liquid. Fluctuate accordingly.
  • the calculated value “Z” becomes a constant value according to the value of the ratio R2 / G2, when the observation target is in calculating the index value and adjusting the phase ⁇ .
  • the observation target actually has a scattering characteristic or light absorption characteristic that is not assumed in the calculation of the index value or the like, or the light scattering characteristic or light absorption characteristic that is not assumed due to the hit condition of illumination light, etc.
  • the calculated value “Z” fluctuates from a constant value according to the value of the ratio R2 / G2, even when there is no residual liquid or the like.
  • An area that appears to have an unexpected light scattering characteristic or light absorption characteristic due to, for example, the lighting condition of the illumination light is, for example, the dark area 102 (a dark area that is relatively dark compared to other areas).
  • a certain region see FIG. 6
  • a halation region a pixel value is saturated or a pixel value is close to a saturated state, and an observation object is difficult to observe, a halated region, not shown
  • a treatment tool such as forceps Is a region (not shown).
  • the calculated value “Z” is information related to the light scattering characteristic or light absorption characteristic of the observation target, and is “baseline information” that does not depend on at least oxygen saturation.
  • the baseline information calculation unit 82 calculates a calculated value “Z” that is baseline information for each part of one or more pixels of the endoscopic image. In the present embodiment, the baseline information calculation unit 82 calculates a calculation value “Z” that is baseline information for each pixel.
  • the value of the phase ⁇ is determined so that the baseline information does not depend on the oxygen saturation, but instead, the baseline information includes the blood vessel density, the blood vessel depth, the blood vessel thickness, or The phase ⁇ can be determined so as not to depend on the hemoglobin concentration.
  • the baseline information calculation unit 82 can calculate baseline information that does not depend on the blood vessel density, the blood vessel depth, the blood vessel thickness, or the hemoglobin concentration.
  • the phase ⁇ is adjusted so that the baseline information does not depend on two or more “specific biological information” of oxygen saturation, blood vessel density, blood vessel depth, blood vessel thickness, or hemoglobin concentration. In such a case, the baseline information calculation unit 82 can calculate baseline information that does not depend on the two or more “specific biological information”.
  • the region setting unit 83 uses the baseline information to calculate an index value that represents the state of the observation target in the endoscopic image (sometimes referred to as an index value calculation region. FIG. 7 or FIG. 8). Set. Specifically, the region setting unit 83 calculates the ratio R2 that is actually calculated when the light scattering characteristic and the light absorption characteristic of the observation target are within the assumption in the calculation of the index value and there is no residual liquid.
  • the amount of change ⁇ Z ( Z ⁇ Z 0 ) of the calculated value “Z” actually calculated in the value of the ratio R2 / G2 actually calculated with reference to the value Z 0 that the calculated value “Z” takes in the value of / G2. Is calculated (see FIG. 4).
  • This amount of change ⁇ Z is a value indicating whether or not there is a residual liquid or the like, or whether or not the light scattering characteristic and the light absorption characteristic of the observation target are within the assumption in the calculation of the index value.
  • the region setting unit 83 compares the change amount ⁇ Z with a threshold value, and as a result, identifies an area where the change amount ⁇ Z is greater than or equal to the threshold value and a region where the change amount ⁇ Z is less than the threshold value. In areas where the amount of change ⁇ Z is greater than or equal to the threshold, there is residual liquid or the light scattering characteristics or light absorption characteristics of the observation target are outside the expected range in calculating the index value, so the index value cannot be calculated accurately. It is an area.
  • the area where the amount of change ⁇ Z is less than the threshold is an area where there is no residual liquid and the light scattering characteristics and light absorption characteristics of the observation target are within the expected range in calculating the index value, so that the index value can be calculated accurately. It is. Therefore, the region setting unit 83 excludes the region where the change amount ⁇ Z is equal to or greater than the threshold value in the endoscopic image, and sets the calculation region 105 that calculates the index value in the region where the change amount ⁇ Z is less than the threshold value. That is, the region setting unit 83 uses the calculated value “Z” that is the baseline information to use the region 104 (see FIG. 6) where there is residual liquid, the dark region 102, the halation region, or the region where the treatment tool is present. The calculation area 105 for calculating the index value is set by excluding an area where the index value may not be accurately calculated.
  • the baseline information calculation unit 82 calculates the calculated value “Z”, which is the baseline information, for each part composed of one or a plurality of pixels of the endoscopic image. Therefore, the region setting unit 83 calculates the baseline information.
  • the unit 82 calculates the change amount ⁇ Z and compares the change amount ⁇ with a threshold value for each portion including one or a plurality of pixels for which the calculated value “Z”, which is the baseline information, is calculated. Determine whether to calculate the value.
  • the area setting unit 83 calculates an index value for an area composed of one or a plurality of pixels for which the baseline information calculation unit 82 has calculated the calculated value “Z” as the baseline information. 105 is set.
  • the region setting unit 83 since the baseline information calculation unit 82 calculates the calculation value “Z” that is the baseline information for each pixel, the region setting unit 83 also calculates the change amount ⁇ Z and the change amount ⁇ Z for each pixel. The threshold values are compared, and as a result, whether or not to calculate the index value is set for each pixel.
  • the index value calculation unit 84 calculates an index value in the region set in the calculation region 105 where the region setting unit 83 calculates the index value using the endoscopic image.
  • the index value calculation unit 84 is, for example, an index value based on the characteristics of the structure (size, shape, distribution, density, etc.) of the observation target such as a pit pattern, or an index based on the characteristics of a tissue such as a blood vessel. A value can be calculated.
  • the index value calculation unit 84 calculates an index value (blood vessel index value) related to a blood vessel. Specifically, the index value calculation unit 84 calculates blood vessel information or blood vessel parameters as an index value (blood vessel index value).
  • the blood vessel information is based on, for example, the number of blood vessels, the number of branches, the branch angle, the distance between branch points, the number of intersections, the thickness, the change in thickness, the complexity of the change in thickness, the length, the interval, and the mucous membrane. Depth, elevation difference, slope, area, density, contrast, color, color change, meandering degree, hemoglobin concentration, oxygen saturation, arterial percentage, vein percentage, administered dye concentration, running pattern, or Blood flow, etc.
  • the blood vessel parameter is a calculation result obtained by a calculation using two or more pieces of blood vessel information.
  • the index value calculation unit 84 is an index set by the area setting unit 83 for each part composed of one or a plurality of pixels for which the baseline information calculation unit 82 has calculated the calculated value “Z” as the baseline information. An index value is calculated for each calculation area 105 for calculating a value. In the present embodiment, the index value calculation unit 84 calculates an index value (blood vessel index value) for each calculation region 105 that calculates the index value set by the region setting unit 83.
  • the emphasis processing unit 85 performs an emphasis process for emphasizing the area where the index value is calculated on the image acquired by the image acquisition unit 54 or the endoscopic image generated by the image generation unit 81.
  • the enhancement processing unit 85 displays the outline of the area where the index value is calculated, or the frequency for a part or all of the structure or tissue of the observation target in the area where the index value is calculated.
  • Emphasis processing, edge enhancement processing, brightness adjustment processing, or color change processing is performed.
  • the enhancement processing unit 85 enhances the region where the index value is calculated in the image acquired by the image acquisition unit 54 or the endoscopic image generated by the image generation unit 81.
  • the enhancement processing unit 85 enhances the region where the index value is calculated by displaying the outline of the region where the index value is calculated in the endoscopic image generated by the image generation unit 81.
  • the display control unit 66 acquires from the image processing unit 61 the endoscope image that has been subjected to the enhancement processing by the enhancement processing unit 85 or the endoscope image generated by the image generation unit 81, and is suitable for displaying the acquired endoscope image.
  • the data is converted into a format and output to the monitor 18.
  • the monitor 18 displays an endoscopic image.
  • the display control unit 66 outputs the endoscopic image subjected to the enhancement process by the enhancement processing unit 85 to the monitor 18.
  • the monitor 18 as a display unit highlights the calculation area 105 for calculating the index value in the endoscopic image.
  • the display control unit 66 outputs an index value or other additional information to the monitor 18 according to the setting or the like. Thereby, the monitor 18 displays an index value or additional information together with the endoscopic image.
  • the display control unit 66 outputs at least the index value calculated by the index value calculation unit 84 to the monitor 18.
  • the monitor 18 serving as a display unit displays the endoscope image and the index value calculated by the index value calculation unit 84.
  • the endoscope system 10 images the observation target while appropriately switching the illumination light, and as a result, the image acquisition unit 54 acquires an image from the image sensor 48 (S11).
  • the illumination light includes first illumination light composed of first narrowband blue light, second illumination light composed of second narrowband blue light, narrowband green light, and narrowband red light, and white.
  • the observation target is imaged while sequentially switching to the third illumination light that is light.
  • a B1 image can be acquired by imaging using the first illumination light
  • a B2 image, a G2 image, and an R2 image can be acquired by imaging using the second illumination light.
  • the image of each color of BGR can be acquired by imaging using the 3rd illumination light which is white light.
  • an image acquired from the B pixel by imaging using the third illumination light that is white light is referred to as a B3 image
  • an image acquired from the G pixel is referred to as a G3 image
  • an image acquired from the R pixel is referred to as an R3 image.
  • the image generation unit 81 when an image of each color of BGR is acquired in each frame of imaging, the image generation unit 81 generates an endoscope image 101 for display using the B3 image, the G3 image, and the R3 image ( S12). As shown in FIG. 6, the display endoscopic image 101 includes, for example, a dark area 102 and an area 104 with residual liquid and the like.
  • the baseline information calculation unit 82 uses the B1, B2, and G2 images to calculate a calculation value “Z” that is baseline information ( S13). Then, the region setting unit 83 sets the calculation region 105 for calculating the index value based on the change amount ⁇ Z from the reference value of the calculated value “Z” that is the baseline information. For example, in the case of the endoscopic image 101, as shown in FIG. 7, the area setting unit 83 uses an area excluding the dark area 102 and the area 104 with residual liquid as a calculation area 105 for calculating an index value. Set.
  • the index value calculation section 84 calculates the index value in the calculation area 105 (S15). For example, the index value calculation unit 84 extracts a blood vessel using the B1 image and the B2 image, and calculates blood vessel information of at least one extracted blood vessel as an index value (blood vessel index value).
  • the enhancement processing unit 85 performs enhancement processing on the endoscope image 101 (S16). Then, the display control unit 66 outputs the endoscopic image 110 and the index value after the enhancement process to the monitor 18. Thereby, as shown in FIG. 8, the monitor 18 displays the endoscopic image 110 after the enhancement process, highlights the outline 106 of the calculation area 105 in which the index value is calculated, and displays the index value. The index value calculated in the calculation area 105 is displayed on the part 111.
  • the endoscope system 10 sets the calculation area 105 for calculating the index value using the baseline information (calculated value “Z”). For this reason, it is possible to calculate the index value by specifying the area where the index value may not be accurately calculated and the area where the index value can be accurately calculated more easily and accurately than in the past.
  • the dark area 102 when the dark area 102 is determined based on the brightness of the pixel and, as a result, the dark area 102 is excluded from the calculation area 105 for calculating the index value, the area 104 with residual liquid having a normal brightness, It cannot be excluded from the calculation area 105 for calculating the index value.
  • the region 104 with residual liquid or the like when the region 104 with residual liquid or the like is determined based on the color of the pixel, and as a result, the region 104 with residual liquid or the like is excluded from the calculation region 105 for calculating the index value, the color is not yellowish. The dark area 102 cannot be excluded from the calculation area 105 for calculating the index value.
  • the dark area 102 and the area 104 with the remaining liquid may be discriminated and excluded from each other, but in reality, there are other areas with halation and areas with treatment tools such as forceps. In consideration of the fact that it must be excluded from the calculation area 105 for calculating the index value in FIG.
  • the endoscope system 10 cannot accurately calculate index values such as the dark area 102, the area 104 with residual liquid, and the like, as well as the halation area and the area with treatment tools such as forceps. It is possible to set a calculation area 105 in which an area having a fear is uniformly identified according to one standard called baseline information and an index value is calculated. Therefore, the endoscope system 10 can set the calculation area 105 for calculating the index value more easily than the conventional endoscope system.
  • the endoscope system 10 may not be able to calculate the index value accurately together with the dark area 102, the area 104 with residual liquid, the halation area, and the area with a treatment tool such as forceps. Areas having other light scattering characteristics or light absorption characteristics can also be excluded from the calculation area 105 for automatically calculating the index value. Therefore, the endoscope system 10 can set the calculation region 105 for calculating the index value more accurately than the conventional endoscope system.
  • the region setting unit 83 calculates the calculation value “ The calculation area 105 for calculating the index value is set based on the change amount ⁇ Z from the reference value of Z ′′, but the area setting unit 83 compares the calculated value “Z”, which is baseline information, with the threshold value. Based on the comparison result, it is possible to set the calculation area 105 for calculating the index value, in which case the threshold value is at least for each value of the ratio R2 / G2 and has an upper limit for the value of the ratio R2 / G2. The threshold value and the lower limit threshold value are determined, so that a result substantially equal to the above-described embodiment in which the calculation region 105 for calculating the index value is set based on the change amount ⁇ Z can be obtained.
  • the region setting unit 83 sets the calculation region 105 that calculates the index value based on the comparison result obtained by comparing the calculated value “Z” that is the baseline information with the threshold value
  • the threshold value to be used is Depending on the properties of the captured image or the endoscopic image 101 (for example, how the image to be observed is reflected), it may be changed. For example, when a plurality of baseline information is calculated, a threshold is set by using one baseline information selected from the plurality of baseline information or a statistic calculated using a plurality of baseline information. Can do. More specifically, as in the above embodiment, when the baseline information calculation unit 82 calculates the calculation value “Z” that is the baseline information for each pixel, the region setting unit 83 sets the calculation value for each pixel.
  • the threshold value can be fluidly set with reference to one value selected from “Z” (for example, the calculated value “Z” closest to the median value or the mode value).
  • the region setting unit 83 uses the calculated value “Z” calculated for each pixel by the baseline information calculation unit 82 to calculate an average value, median value, variance, mode value, etc. (hereinafter referred to as a statistic).
  • the threshold value can be set fluidly using the calculated statistic. As described above, when the threshold value is set, the calculation area 105 for calculating the index value may be set more accurately.
  • the calculation area 105 for calculating the index value is set by excluding the dark area 102 and the area 104 with residual liquid, but the area setting unit 83 sets the baseline information.
  • the calculation area 105 for calculating the index value is set by excluding at least one of the area 104 with the remaining liquid, the dark area 102, the halation area, or the area with the treatment tool. It is preferable. In this way, areas other than any one of the areas 104 with the remaining liquid, the dark area 102, the halation area, or the area with the treatment tool, except for any one set to be explicitly excluded, are almost automatically set. Can be excluded from the calculation area 105 for calculating the index value.
  • the index value calculation unit 84 includes a plurality of endoscopic images (B1 image, B2 image) that the baseline information calculation unit 82 uses to calculate the calculated value “Z” that is the baseline information. , And G2 image), the index value is calculated using a part of the endoscopic images (B1 image and B2 image).
  • the index value calculation unit 84 uses the baseline information calculation unit 82 as the baseline.
  • the index value can be calculated using one or a plurality of endoscope images having different types of illumination light used for imaging from a plurality of endoscope images used for calculating information.
  • the hardware structure of the processing unit (Processing Unit) that executes various processes is the following various processors.
  • the circuit configuration can be changed after manufacturing a CPU (Central Processing Unit) or FPGA (Field Programmable Gate Array) that is a general-purpose processor that functions as various processing units by executing software (programs).
  • a CPU Central Processing Unit
  • FPGA Field Programmable Gate Array
  • dedicated logic circuits such as programmable logic devices (Programmable Logic Devices: PLDs) and ASICs (Application Specific Specific Integrated Circuits) that have specially designed circuit configurations to execute specific processing. It is.
  • One processing unit may be configured by one of these various processors, or may be configured by two or more processors of the same type or different types (for example, a plurality of FPGAs or a combination of CPUs and FPGAs). May be. Further, the plurality of processing units may be configured by one processor.
  • circuitry circuitry in which circuit elements such as semiconductor elements are combined.
  • a capsule endoscope system includes at least a capsule endoscope 700 and a processor device (not shown).
  • the capsule endoscope 700 includes a light source unit 702, a control unit 703, an image sensor 704, an image processing unit 706, and a transmission / reception antenna 708.
  • the light source unit 702 corresponds to the light source unit 20.
  • the control unit 703 functions in the same manner as the light source control unit 22 and the control unit 52.
  • the control unit 703 can communicate with the processor device of the capsule endoscope system using the transmission / reception antenna 708 wirelessly.
  • the processor device of the capsule endoscope system is substantially the same as the processor device 16 of the above embodiment, but an image processing unit 706 corresponding to the image acquisition unit 54 and the image processing unit 61 is provided in the capsule endoscope 700.
  • the endoscopic image is transmitted to the processor device via the transmission / reception antenna 708.
  • the image sensor 704 is configured similarly to the image sensor 48.

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Signal Processing (AREA)
  • Astronomy & Astrophysics (AREA)
  • General Physics & Mathematics (AREA)
  • Endoscopes (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)

Abstract

指標値を正確に算出できないおそれのある領域及び指標値を正確に算出可能な領域を、従来よりも簡易にかつ正確に特定し得る内視鏡システム、プロセッサ装置、及び内視鏡システムの作動方法を提供する。内視鏡システム(10)は、観察対象を撮像した内視鏡画像を取得する画像取得部(54)と、内視鏡画像を用いて、観察対象の光散乱特性もしくは光吸収特性に関する情報であって、かつ、少なくとも特定の生体情報に依存しない情報であるベースライン情報(演算値"Z")を算出するベースライン情報算出部(82)と、ベースライン情報を用いて、観察対象の状態を表す指標値を算出する算出領域を設定する領域設定部(83)と、内視鏡画像を用いて、領域設定部(83)が設定した算出領域において指標値を算出する指標値算出部(84)と、を備える。

Description

内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
 本発明は、診断に資する指標等を算出する内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法に関する。
 医療分野においては、光源装置、内視鏡、及びプロセッサ装置を備える内視鏡システムが普及している。特に近年においては、内視鏡を用いて観察対象を単に撮像するだけでなく、観察対象を撮像して得る画像を用いて、例えば酸素飽和度等一見して知得し難い観察対象の状態を表す情報または指標等(以下、まとめて指標値という)を算出する内視鏡システムが知られている。
 指標値を算出する際に、観察対象に例えば残渣または残液(以下、残液等という)が付着しているなど観察対象が指標値の算出に適した状態となっていない場合、不正確な指標値を算出してしまう場合がある。このため、例えば、指標値を算出する従来の内視鏡システムにおいては、観察している部位または残液の影響を補正している(特許文献1)。また、残液等がある領域を判別し、検査対象から除外するようにした内視鏡システムも知られている(特許文献2)。
特開2011-194028号公報 特開2013-051987号公報
 上記のように、指標値を算出する場合、指標値の算出に不適な領域を指標値を算出する対象から除外しようとすることは従来から試みられているが、指標値が正しく求められない可能性がある部分を内視鏡画像から正確に除くのは未だ容易ではない。例えば、前述のように残液等が付着している領域においては指標値が不正確な値になるので、残液等が付着している部分を指標値を算出する対象から除外することは算出した指標値の信頼性を向上するために有効である。しかし、残液等が付着している領域を除外しさえすれば、その余の領域において正確な指標値を算出可能であるというわけではない。具体的には、指標値の算出精度は、通常、残液等の有無だけでなく、観察対象の光散乱特性または光吸収特性にも依存する。このため、想定していない光散乱特性もしくは光吸収特性を観察対象が実際に有する領域、または、照明光の当たり具合等に起因して、想定していない光散乱特性もしくは光吸収特性を有するように見える領域等においては、残液等がなくても正確な指標値を算出できない場合がある。
 本発明は、指標値を正確に算出できないおそれのある領域及び指標値を正確に算出可能な領域を、従来よりも簡易にかつ正確に特定し得る内視鏡システム、プロセッサ装置、及び内視鏡システムの作動方法を提供することを目的とする。
 本発明の内視鏡システムは、光源と、光源から出射された光が照射された観察対象を撮像する内視鏡と、システム制御及び画像処理を行うプロセッサ装置と、を備える内視鏡システムであって、観察対象を撮像した内視鏡画像を取得する画像取得部と、内視鏡画像または内視鏡画像を用いて生成する表示用の内視鏡画像を用いて、観察対象の光散乱特性もしくは光吸収特性に関する情報であって、かつ、少なくとも特定の生体情報に依存しない情報であるベースライン情報を算出するベースライン情報算出部と、ベースライン情報を用いて、観察対象の状態を表す指標値を算出する算出領域を設定する領域設定部と、内視鏡画像または内視鏡画像を用いて生成する表示用の内視鏡画像を用いて、領域設定部が設定した算出領域において指標値を算出する指標値算出部と、を備える。
 ベースライン情報算出部は、内視鏡画像の1または複数の画素からなる部分ごとにベースライン情報を算出し、かつ、領域設定部は、当該部分ごとに指標値を算出するか否かを決定することにより、1または複数の当該部分からなる領域を、指標値を算出する算出領域を設定することが好ましい。
 領域設定部は、ベースライン情報を閾値と比較した比較結果に基づいて、指標値を算出する算出領域を設定することが好ましい。
 領域設定部は、ベースライン情報を複数算出する場合に、複数のベースライン情報のうちの1つのベースライン情報、または、複数のベースライン情報を用いて算出する統計量を用いて閾値を設定することが好ましい。
 領域設定部は、ベースライン情報を用いて、残渣もしくは残液がある領域、暗部領域、ハレーション領域、または、処置具がある領域のうちいずれか1以上を除外することにより、指標値を算出する算出領域を設定することが好ましい。
 ベースライン情報算出部は、撮像に使用した照明光の種類が異なる複数の内視鏡画像を用いてベースライン情報を算出することが好ましい。
 指標値算出部は、ベースライン情報算出部がベースライン情報の算出に使用する複数の内視鏡画像とは撮像に使用した照明光の種類が異なる1または複数の内視鏡画像を用いて指標値を算出することが好ましい。
 内視鏡画像または内視鏡画像を用いて生成した画像、及び、指標値を表示する表示部を備えることが好ましい。
 内視鏡画像または内視鏡画像を用いて生成した画像に、指標値を算出する算出領域を表示する表示部を備えることが好ましい。
 特定の生体情報は、観察対象が含むヘモグロビンの状態に起因して変化する情報であることが好ましい。
 特定の生体情報は、酸素飽和度、または、ヘモグロビン濃度であることが好ましい。
 特定の生体情報は、観察対象が含む血管に関する情報であることが好ましい。
 特定の生体情報は、血管密度、血管深さ、または、血管太さであることが好ましい。
 本発明のプロセッサ装置は、光源と、光源から出射された光が照射された観察対象を撮像する内視鏡を有する内視鏡システムのシステム制御及び画像処理を行うプロセッサ装置であって、観察対象を撮像した内視鏡画像を取得する画像取得部と、内視鏡画像または内視鏡画像を用いて生成する表示用の内視鏡画像を用いて、観察対象の光散乱特性もしくは光吸収特性に関する情報であって、かつ、少なくとも特定の生体情報に依存しない情報であるベースライン情報を算出するベースライン情報算出部と、ベースライン情報を用いて、観察対象の状態を表す指標値を算出する算出領域を設定する領域設定部と、内視鏡画像または内視鏡画像を用いて生成する表示用の内視鏡画像を用いて、領域設定部が設定した算出領域において指標値を算出する指標値算出部と、を備える。
 本発明の内視鏡システムの作動方法は、光源と、光源から出射された光が照射された観察対象を撮像する内視鏡と、システム制御及び画像処理を行うプロセッサ装置と、を備える内視鏡システムを用いで内視鏡システムの作動方法であって、画像取得部が、観察対象を撮像した内視鏡画像を取得するステップと、ベースライン情報算出部が、内視鏡画像または内視鏡画像を用いて生成する表示用の内視鏡画像を用いて、観察対象の光散乱特性もしくは光吸収特性に関する情報であって、かつ、少なくとも特定の生体情報に依存しない情報であるベースライン情報を算出するステップと、領域設定部が、ベースライン情報を用いて、観察対象の状態を表す指標値を算出する算出領域を設定するステップと、指標値算出部が、内視鏡画像または内視鏡画像を用いて生成する表示用の内視鏡画像を用いて、領域設定部が設定した算出領域において指標値を算出するステップと、を備える。
 本発明の内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法によれば、指標値を正確に算出できないおそれのある領域及び指標値を正確に算出可能な領域を、簡易にかつ従来よりも正確に特定することができる。
内視鏡システムの外観図である。 内視鏡システムのブロック図である。 画像処理部のブロック図である。 ベースライン情報である演算値“Z”を示すグラフである。 内視鏡システムの動作の流れを示すフローチャートである。 表示用の内視鏡画像である。 指標値を算出する算出領域を示す説明図である。 モニタの表示例である。 カプセル内視鏡の概略図である。
 図1に示すように、内視鏡システム10は、内視鏡12と、光源装置14と、プロセッサ装置16と、モニタ18と、コンソール19と、を備える。内視鏡12は、観察対象を撮像する。光源装置14は、照明光を発生する。プロセッサ装置16は、内視鏡システム10のシステム制御及び画像処理等を行う。モニタ18はプロセッサ装置16によって生成する表示用の内視鏡画像を表示する表示部である。コンソール19は、プロセッサ装置16等への設定入力等を行う入力デバイスである。
 内視鏡12は、被検体内に挿入可能な挿入部12aと、挿入部12aの基端部分に設けた操作部12bと、挿入部12aの先端側に設けた湾曲部12cと、先端部12dと、を有している。操作部12bのアングルノブ12eを操作することにより、湾曲部12cが湾曲する。湾曲部12cが湾曲することにより、先端部12dが所望の方向に向く。なお、先端部12dには、観察対象に向けて空気や水等を噴射する噴射口(図示しない)が設けられている。また、操作部12bには、アングルノブ12eの他、ズーム操作部13が設けられている。ズーム操作部13を操作することによって、観察対象を拡大または縮小して撮像することができる。
 図2に示すように、光源装置14は、照明光を発光する光源部20と、光源部20の駆動を制御する光源制御部22と、を備える。
 光源部20は、例えば、中心波長または波長帯域が異なる(以下、単に「波長が異なる」という)光を発光する複数のLED(Light Emitting Diode)を光源として備えており、各LEDの発光または点灯、及び、光量の調節等により、波長が異なる複数種類の照明光を発光することができる。例えば、光源部20は、波長帯域が比較的広い広帯域な紫色光、青色光、緑色光、及び赤色光を、それぞれ照明光として発光できる。特に、光源部20は、広帯域な紫色光、青色光、緑色光、及び赤色光の他に、狭帯域(波長帯域が10nmから20nm程度の範囲であることをいう)な紫色光、青色光、緑色光、及び赤色光を照明光として発光できる。より具体的には、光源部20は、照明光として、中心波長が約400nmの狭帯域紫色光、中心波長が約450nmの第1狭帯域青色光、中心波長が約470nmの第2狭帯域青色光、中心波長が約540nmの狭帯域緑色光、及び、中心波長が約640nmの狭帯域赤色光を発光できる。この他、光源部20は、広帯域または狭帯域な紫色光、青色光、緑色光、及び赤色光を組み合わせることにより、白色光を照明光として発光することができる。
 なお、光源部20には、LEDの代わりに、LD(Laser Diode)と蛍光体と帯域制限フィルタとの組み合わせ、または、キセノンランプ等のランプと帯域制限フィルタの組み合わせ等を用いることができる。もちろん、光源部20をLEDによって構成する場合も、蛍光体または帯域制限フィルタを組み合わせて使用することができる。
 光源制御部22は、光源部20を構成する各光源の点灯または消灯のタイミング、及び、点灯時の発光量等をそれぞれ独立に制御する。その結果、光源部20は、波長が異なる複数種類の照明光を発光することができる。また、光源制御部22は、イメージセンサ48の撮像のタイミング(いわゆるフレーム)に合わせて光源部20を制御する。
 光源部20が発光した照明光は、ライトガイド41に入射する。ライトガイド41は、内視鏡12及びユニバーサルコード内に内蔵されており、照明光を内視鏡12の先端部12dまで伝搬する。ユニバーサルコードは、内視鏡12と光源装置14及びプロセッサ装置16とを接続するコードである。なお、ライトガイド41としては、マルチモードファイバを使用できる。一例として、コア径105μm、クラッド径125μm、外皮となる保護層を含めた径がφ0.3~0.5mmの細径なファイバケーブルを使用できる。なお、nmはナノメートルを表し、μmはマイクロメートルを表し、mmはミリメートルを表す。
 内視鏡12の先端部12dには、照明光学系30aと撮影光学系30bが設けられている。照明光学系30aは、照明レンズ45を有しており、この照明レンズ45を介して照明光が観察対象に向けて出射する。撮影光学系30bは、対物レンズ46、ズームレンズ47、及びイメージセンサ48を有している。イメージセンサ48は、対物レンズ46及びズームレンズ47を介して、観察対象から戻る照明光の反射光等(反射光の他、散乱光、観察対象が発する蛍光、または、観察対象に投与等した薬剤に起因した蛍光等を含む)を用いて観察対象を撮影する。ズームレンズ47は、ズーム操作部13の操作をすることによって移動し、イメージセンサ48を用いて撮影する観察対象を拡大または縮小する。
 イメージセンサ48は、例えば原色系のカラーフィルタを有するカラーセンサであり、青色カラーフィルタを有するB画素(青色画素)、緑色カラーフィルタを有するG画素(緑色画素)、及び、赤色カラーフィルタを有するR画素(赤色画素)の3種類の画素を備える。青色カラーフィルタは、主として紫色から青色の光を透過する。緑色カラーフィルタは、主として緑色の光。赤色カラーフィルタは、主として赤色の光を透過する。上記のように原色系のイメージセンサ48を用いて観察対象を撮影すると、最大で、B画素から得るB画像(青色画像)、G画素から得るG画像(緑色画像)、及び、R画素から得るR画像(赤色画像)の3種類の画像を同時に得ることができる。
 なお、イメージセンサ48としては、CCD(Charge Coupled Device)センサ、または、CMOS(Complementary Metal Oxide Semiconductor)センサを利用可能である。また、本実施形態のイメージセンサ48は、原色系のカラーセンサであるが、補色系のカラーセンサを用いることもできる。補色系のカラーセンサは、例えば、シアンカラーフィルタが設けられたシアン画素、マゼンタカラーフィルタが設けられたマゼンタ画素、イエローカラーフィルタが設けられたイエロー画素、及び、グリーンカラーフィルタが設けられたグリーン画素を有する。補色系カラーセンサを用いる場合に上記各色の画素から得る画像は、補色-原色色変換をすれば、B画像、G画像、及びR画像に変換できる。また、カラーセンサの代わりに、カラーフィルタを設けていないモノクロセンサをイメージセンサ48として使用できる。この場合、BGR等各色の照明光を用いて観察対象を順次撮像することにより、上記各色の画像を得ることができる。
 プロセッサ装置16は、制御部52と、画像取得部54と、画像処理部61と、表示制御部66と、を有する。
 制御部52は、照明光の照射タイミングと撮影のタイミングの同期制御等の内視鏡システム10の統括的な制御を行う。また、コンソール19等を用いて、領域判別をする領域の種類及び数等を設定した場合には、制御部52は、その設定を光源制御部22に入力する。
 画像取得部54は、イメージセンサ48から、観察対象を撮像した画像を取得する。本実施形態においては、イメージセンサ48はカラーフィルタを有するので、画像取得部54は、照明光ごとに、かつ、カラーフィルタごとに画像を取得する。画像取得部54がイメージセンサ48から取得する画像(撮像した画像)、及び、画像取得部54がイメージセンサ48から取得した画像を用いて生成する表示用の画像は、いずれも「内視鏡画像」である。以下、明示して区別する場合を除き、単に画像という場合にはイメージセンサ48から得る観察対象を撮像した内視鏡画像を意味し、かつ、単に内視鏡画像という場合には表示用の内視鏡画像101(図6参照)を意味する。
 画像取得部54は、DSP(Digital Signal Processor)56と、ノイズ低減部58と、変換部59と、を有し、これらを用いて、取得した画像に必要に応じて各種処理を施す。
 DSP56は、取得した画像に対し、必要に応じて欠陥補正処理、オフセット処理、ゲイン補正処理、リニアマトリクス処理、ガンマ変換処理、デモザイク処理、及びYC変換処理等の各種処理を施す。
 欠陥補正処理は、イメージセンサ48の欠陥画素に対応する画素の画素値を補正する処理である。オフセット処理は、欠陥補正処理を施した画像から暗電流成分を低減し、正確な零レベルを設定する処理である。ゲイン補正処理は、オフセット処理をした画像にゲインを乗じることにより各画像の信号レベルを整える処理である。リニアマトリクス処理は、オフセット処理をした画像の色再現性を高める処理であり、ガンマ変換処理は、リニアマトリクス処理後の画像の明るさや彩度を整える処理である。デモザイク処理(等方化処理や同時化処理とも言う)は、欠落した画素の画素値を補間する処理であり、ガンマ変換処理後の画像に対して施す。欠落した画素とは、カラーフィルタの配列に起因して(イメージセンサ48において他の色の画素を配置しているため)、画素値がない画素である。例えば、B画像はB画素において観察対象を撮影して得る画像なので、G画素やR画素に対応する位置の画素には画素値がない。デモザイク処理は、B画像を補間して、イメージセンサ48のG画素及びR画素の位置にある画素の画素値を生成する。YC変換処理は、デモザイク処理後の画像を、輝度チャンネルYと色差チャンネルCb及び色差チャンネルCrに変換する処理である。
 ノイズ低減部58は、輝度チャンネルY、色差チャンネルCb及び色差チャンネルCrに対して、例えば、移動平均法またはメディアンフィルタ法等を用いてノイズ低減処理を施す。変換部59は、ノイズ低減処理後の輝度チャンネルY、色差チャンネルCb及び色差チャンネルCrを再びBGRの各色の画像に再変換する。
 画像処理部61は、画像取得部54が取得した画像を用いて、モニタ18に表示する内視鏡画像を生成する。また、画像処理部61は、生成した内視鏡画像を用いて指標値を算出する。その際、画像処理部61は、指標値を正確に算出できないおそれのある領域及び指標値を正確に算出可能な領域を特定し、指標値を正確に算出可能な領域において指標値を算出する。
 より具体的には、図3に示すように、画像処理部61は、画像生成部81と、ベースライン情報算出部82と、領域設定部83と、指標値算出部84と、強調処理部85と、を備える。
 画像生成部81は、画像取得部54が取得した1または複数の画像を用いて、表示用の内視鏡画像101を生成する。画像生成部81は、表示用の内視鏡画像101を生成する際に、必要に応じて、画像取得部54が取得した画像に対して、色変換処理、色彩強調処理、及び構造強調処理を施す。色変換処理は、BGR各色の画像に対して3×3のマトリクス処理、階調変換処理、3次元LUT(ルックアップテーブル)処理等を行う。色彩強調処理は、画像の色彩を強調する処理であり、構造強調処理は、例えば、血管やピットパターン等の観察対象の組織や構造を強調する処理である。
 ベースライン情報算出部82は、観察対象を撮像した内視鏡画像(画像取得部54が取得した画像)、または、画像生成部81が生成した表示用の内視鏡画像101を用いて、ベースライン情報を算出する。ベースライン情報とは、観察対象の光散乱特性もしくは光吸収特性に関する情報であって、かつ、少なくとも特定の生体情報に依存しない情報である。ここで言う「依存しない」とは、少なくともベースライン情報の変化が、特定の生体情報の高低に対してよりも、光散乱特性もしくは光吸収特性の強弱に対しての方が大きいことを言う。
 「特定の生体情報」とは、例えば、観察対象が含むヘモグロビンの状態に起因して変化する情報である。具体的には、酸素飽和度もしくはヘモグロビン濃度、またはこれらの組み合わせ等が特定の生体情報である。また、「特定の生体情報」とは、例えば、観察対象が含む血管に関する情報である。具体的には、血管密度、血管深さ、もしくは血管太さ、またはこれらの2以上の組み合わせ等が特定の生体情報である。
 本実施形態においては、ベースライン情報算出部82は、撮像に使用した照明光の種類が異なる複数の画像(イメージセンサ48から取得する内視鏡画像)を用いてベースライン情報を算出する。また、本実施形態においては、ベースライン情報算出部82は、少なくとも酸素飽和度に依存しないベースライン情報を算出する。具体的には、第1狭帯域青色光を用いて観察対象を撮像して得る画像をB1画像とし、第2狭帯域青色光を用いて観察対象を撮像して得る画像をB2画像とし、狭帯域緑色光を用いて観察対象を撮像して得る画像をG2画像とし、かつ、狭帯域赤色光を用いて観察対象を撮像して得る画像をR2画像として用いる。そして、ベースライン情報算出部82は、G2画像に対するB1画像の比(以下、B1/G2という)と、G2画像に対するB2画像の比(以下、B2/G2という)と、G2画像に対するR2画像の比(以下、R2/G2という)を算出する。次いで、式1にしたがって、演算値“Z”を算出する。式1における位相φは観察対象が含むヘモグロビンの酸素飽和度に対して演算値“Z”が不変となるように定める。位相φは予め実験等により求めることができる。
  [式1]  Z=(B1/G2)×cosφ-(B2/G2)×sinφ
 図4に実線によって示すように、演算値“Z”は、ビリルビン等の黄色色素を含む残液等がなければ、観察対象の酸素飽和度に依らず、比R2/G2の値に応じた一定の値になる。一方、破線によって示すように、演算値“Z”は、黄色色素を含む残液等があると、観察対象の酸素飽和度に依らないが、残液等が含む黄色色素の量(濃度)に応じて変動する。
 また、残液等がない場合に、演算値“Z”が、比R2/G2の値に応じた一定の値になるのは、観察対象が、指標値の算出及び位相φの調整において想定している光散乱特性もしくは光吸収特性を実際に有する場合である。したがって、観察対象が、指標値の算出等において想定しない散乱特性もしくは光吸収特性を実際に有する領域、または、照明光の当たり具合等に起因して、想定していない光散乱特性もしくは光吸収特性を有するように見える領域においては、残液等がない場合においても演算値“Z”の値が比R2/G2の値に応じた一定の値から変動する。照明光の当たり具合等に起因して、想定していない光散乱特性もしくは光吸収特性を有するように見える領域とは、例えば、暗部領域102(他の領域と比較して相対的に暗い暗部である領域。図6参照)、ハレーション領域(画素値が飽和し、もしくは画素値が飽和した状態に近く、観察対象が観察し難い、ハレーションした領域。図示しない。)、または、鉗子等の処置具がある領域(図示しない)等である。このように残液等以外に起因して演算値“Z”の値が比R2/G2の値に応じた一定の値から変動する場合においても、位相φを適切に調整してあれば、演算値“Z”は酸素飽和度には依存しない。
 したがって、演算値“Z”は、観察対象の光散乱特性もしくは光吸収特性に関する情報であって、かつ、少なくとも酸素飽和度に依存しない「ベースライン情報」である。なお、ベースライン情報算出部82は、ベースライン情報である演算値“Z”を、内視鏡画像の1または複数の画素からなる部分ごとに算出する。本実施形態においては、ベースライン情報算出部82は、画素ごとにベースライン情報である演算値“Z”を算出する。
 なお、本実施形態においては、ベースライン情報が酸素飽和度に依存しないように位相φの値を定めているが、代わりに、ベースライン情報が、血管密度、血管深さ、血管太さ、または、ヘモグロビン濃度に依存しないように位相φを定めることができる。この場合、ベースライン情報算出部82は、血管密度、血管深さ、血管太さ、または、ヘモグロビン濃度に対して依存しないベースライン情報を算出することができる。同様に、酸素飽和度、血管密度、血管深さ、血管太さ、または、ヘモグロビン濃度のうち、2以上の「特定の生体情報」に対してベースライン情報が依存しないように位相φを調整しておいた場合には、ベースライン情報算出部82は、その2以上の「特定の生体情報」に対して依存しないベースライン情報を算出することができる。
 領域設定部83は、ベースライン情報を用いて、内視鏡画像のなかで、観察対象の状態を表す指標値を算出する算出領域105(指標値算出領域という場合がある。図7または図8参照。)を設定する。具体的には、領域設定部83は、観察対象の光散乱特性及び光吸収特性が指標値の算出等において想定内であって、かつ、残液等がない場合に、実際に算出した比R2/G2の値において演算値“Z”がとる値Z0を基準として、実際に算出した比R2/G2の値において実際に算出した演算値“Z”の変化量ΔZ(=Z-Z0)を算出する(図4参照)。この変化量ΔZは、残液等の有無及び量、または、観察対象の光散乱特性及び光吸収特性が指標値の算出等において想定内であるか否かを表す値になる。
 その後、領域設定部83は、例えば、変化量ΔZを閾値と比較し、その結果、内視鏡画像において変化量ΔZが閾値以上の領域と変化量ΔZが閾値未満の領域を特定する。変化量ΔZが閾値以上の領域は、残液等があるか、または、観察対象の光散乱特性もしくは光吸収特性が指標値の算出において想定の範囲外であるから、指標値が正確に算出できない領域である。変化量ΔZが閾値未満の領域は、残液等がなく、かつ、観察対象の光散乱特性及び光吸収特性が指標値の算出において想定の範囲内であるから、指標値を正確に算出できる領域である。したがって、領域設定部83は、内視鏡画像において、変化量ΔZが閾値以上の領域を除外し、かつ、変化量ΔZが閾値未満の領域において指標値を算出する算出領域105に設定する。すなわち、領域設定部83は、ベースライン情報である演算値“Z”を用いて、残液等がある領域104(図6参照)、暗部領域102、ハレーション領域、または、処置具がある領域等の指標値を正確に算出できない可能性がある領域を除外することにより、指標値を算出する算出領域105を設定する。
 なお、ベースライン情報算出部82は、ベースライン情報である演算値“Z”を内視鏡画像の1または複数の画素からなる部分ごとに算出するので、領域設定部83は、ベースライン情報算出部82がベースライン情報である演算値“Z”を算出した1または複数の画素からなる部分ごとに、上記変化量ΔZの算出及び変化量Δと閾値の比較を行って、当該部分ごとに指標値を算出するか否かを決定する。その結果、領域設定部83は、ベースライン情報算出部82がベースライン情報である演算値“Z”を算出した1または複数の画素で構成する部分からなる領域を、指標値を算出する算出領域105を設定する。本実施形態においては、ベースライン情報算出部82は、画素ごとにベースライン情報である演算値“Z”を算出するので、領域設定部83も画素ごとに変化量ΔZの算出及び変化量ΔZと閾値の比較をし、その結果、画素ごとに、指標値を算出するか否かを設定する。
 指標値算出部84は、内視鏡画像を用いて、領域設定部83が指標値を算出する算出領域105に設定した領域において、指標値を算出する。指標値算出部84は、例えば、ピットパターン等の観察対象が有する構造の特徴(大きさ、形状、分布、または密度等)に基づいた指標値、または、血管等の組織の特徴に基づいた指標値を算出することができる。
 本実施形態においては、指標値算出部84は、血管に関する指標値(血管指標値)を算出する。具体的には、指標値算出部84は、血管情報または血管パラメータを指標値(血管指標値)として算出する。血管情報とは、例えば、血管の本数、分岐数、分岐角度、分岐点間距離、交差数、太さ、太さの変化、太さの変化の複雑度、長さ、間隔、粘膜を基準とした深さ、高低差、傾き、面積、密度、コントラスト、色、色の変化、蛇行度、ヘモグロビン濃度、酸素飽和度、動脈の割合、静脈の割合、投与した色素の濃度、走行パターン、または、血流量等である。血管パラメータは、2以上の血管情報を用いた演算により得られる演算結果である。
 なお、指標値算出部84は、ベースライン情報算出部82がベースライン情報である演算値“Z”を算出した1または複数の画素からなる部分ごとに、または、領域設定部83が設定した指標値を算出する算出領域105ごとに、指標値を算出する。本実施形態においては、指標値算出部84は、領域設定部83が設定した指標値を算出する算出領域105ごとに、指標値(血管指標値)を算出する。
 強調処理部85は、画像取得部54が取得した画像または画像生成部81が生成した内視鏡画像に、指標値を算出した領域を強調する強調処理を施す。具体的には、強調処理部85は、指標値を算出した領域の輪郭を表示し、または、指標値を算出した領域内にある観察対象の構造もしくは組織等の一部もしくは全部に対して周波数強調処理、エッジ強調処理、明るさ調整処理、もしくは、色変更処理等をする。これにより、強調処理部85は、画像取得部54が取得した画像または画像生成部81が生成した内視鏡画像において、指標値を算出した領域を強調する。本実施形態においては、強調処理部85は、画像生成部81が生成した内視鏡画像において、指標値を算出した領域の輪郭を表示することにより、指標値を算出した領域を強調する。
 表示制御部66は、画像処理部61から強調処理部85が強調処理をした内視鏡画像または画像生成部81が生成した内視鏡画像を取得し、取得した内視鏡画像を表示に適した形式に変換してモニタ18に出力する。これにより、モニタ18は、内視鏡画像を表示する。本実施形態においては、表示制御部66は、強調処理部85が強調処理をした内視鏡画像をモニタ18に出力する。その結果、表示部であるモニタ18は、内視鏡画像に指標値を算出する算出領域105を強調表示する。
 また、表示制御部66は、設定等に応じて、指標値またはその他の付加的情報をモニタ18に出力する。これにより、モニタ18は、内視鏡画像とともに、指標値または付加的な情報を表示する。本実施形態においては、表示制御部66は、少なくとも指標値算出部84が算出した指標値をモニタ18に出力する。その結果、表示部であるモニタ18は、内視鏡画像、及び、指標値算出部84が算出した指標値を表示する。
 次に、内視鏡システム10の動作の流れを、図5に示すフローチャートに沿って説明する。観察を開始すると、内視鏡システム10は照明光を適宜切り替えながら観察対象を撮像し、その結果、画像取得部54はイメージセンサ48から画像を取得する(S11)。
 より具体的には、照明光を、第1狭帯域青色光からなる第1照明光と、第2狭帯域青色光、狭帯域緑色光、及び狭帯域赤色光からなる第2照明光と、白色光である第3照明光と、に順次切り替えながら観察対象を撮像する。第1照明光を用いた撮像によってB1画像を取得でき、第2照明光を用いた撮像によってB2画像、G2画像、及びR2画像を取得できる。また、白色光である第3照明光を用いた撮像によって、BGR各色の画像を取得できる。以下、白色光である第3照明光を用いた撮像によって、B画素から取得する画像をB3画像、G画素から取得する画像をG3画像、及び、R画素から取得する画像をR3画像という。
 上記のように、撮像の各フレームにおいてBGR各色の画像を取得すると、画像生成部81が、B3画像、G3画像、及び、R3画像を用いて、表示用の内視鏡画像101を生成する(S12)。図6に示すように、表示用の内視鏡画像101には、例えば、暗部領域102、及び、残液等がある領域104がある。
 一方、撮像の各フレームにおいてBGR各色の画像を取得すると、ベースライン情報算出部82が、B1画像、B2画像、及びG2画像を用いて、ベースライン情報である演算値“Z”を算出する(S13)。そして、領域設定部83は、ベースライン情報である演算値“Z”の基準値からの変化量ΔZに基づいて、指標値を算出する算出領域105を設定する。例えば、内視鏡画像101であれば、図7に示すように、領域設定部83は、暗部領域102及び残液等がある領域104を除いた領域を、指標値を算出する算出領域105に設定する。
 領域設定部83が指標値を算出する算出領域105を設定すると、指標値算出部84は、この算出領域105において、指標値を算出する(S15)。例えば、指標値算出部84は、B1画像とB2画像を用いて血管を抽出し、少なくとも1つ抽出した血管の血管情報を、指標値(血管指標値)として算出する。
 内視鏡画像101を生成し、かつ、指標値を算出すると、強調処理部85は、内視鏡画像101に強調処理を施す(S16)。そして、表示制御部66は、強調処理後の内視鏡画像110と指標値をモニタ18に出力する。これにより、図8に示すように、モニタ18は、強調処理後の内視鏡画像110を表示して、指標値を算出した算出領域105の輪郭106を強調表示しつつ、かつ、指標値表示部111に、算出領域105において算出した指標値を表示する。
 上記のように、内視鏡システム10は、ベースライン情報(演算値“Z”)を用いて指標値を算出する算出領域105を設定する。このため、指標値を正確に算出できないおそれのある領域及び指標値を正確に算出可能な領域を、従来よりも簡易にかつ正確に特定して、指標値を算出することができる。
 例えば、画素の明るさに基づいて暗部領域102を判別し、その結果、指標値を算出する算出領域105から暗部領域102を除外する場合、明るさが正常な残液等がある領域104を、指標値を算出する算出領域105から除外できない。逆に、画素の色に基づいて残液等がある領域104を判別し、その結果、指標値を算出する算出領域105から残液等がある領域104を除外する場合、色が黄色がかっていない暗部領域102は、指標値を算出する算出領域105から除外できない。もちろん、暗部領域102と残液等がある領域104をそれぞれ判別し、これらをそれぞれ除外すればよいが、現実には、この他にも、ハレーションがある領域や、鉗子等の処置具がある領域において指標値を算出する算出領域105から除かなければならないことを考慮すれば、可能であるにしても非常に重い処理になる。
 これに対し、内視鏡システム10は、暗部領域102、及び、残液等がある領域104、並びに、この他、ハレーション領域及び鉗子等の処置具がある領域等、指標値を正確に算出できないおそれのある領域を、ベースライン情報という1つの基準にしたがって画一的に特定し、指標値を算出する算出領域105を設定できる。したがって、内視鏡システム10は、従来の内視鏡システムよりも簡易に指標値を算出する算出領域105を設定できる。
 また、暗部領域102を判別して指標値を算出する算出領域105から除外する場合、または、残液等がある領域104を判別して指標値を算出する算出領域105から除外する場合等においては、通常、観察対象の光散乱特性または光吸収特性は考慮されない。これに対して、内視鏡システム10は、暗部領域102、残液等がある領域104、ハレーション領域及び鉗子等の処置具がある領域等とともに、指標値が正確に算出できない可能性がある想定外の光散乱特性または光吸収特性を有する領域も自動的に指標値を算出する算出領域105から除外することができる。したがって、内視鏡システム10は、指標値を算出する算出領域105を、従来の内視鏡システムよりも正確に設定することができる。
 なお、上記実施形態においては、領域設定部83は、ベースライン情報である演算値"
Z"の基準値からの変化量ΔZに基づいて、指標値を算出する算出領域105を設定しているが、領域設定部83は、ベースライン情報である演算値“Z”を閾値と比較した比較結果に基づいて、指標値を算出する算出領域105を設定することができる。この場合、閾値は、少なくとも比R2/G2の値ごとに、かつ、比R2/G2の値に対して上限の閾値及び下限の閾値を定める。こうすれば、変化量ΔZに基づいて指標値を算出する算出領域105を設定する上記実施形態と実質的に等しい結果が得られる。
 また、上記のように、領域設定部83が、ベースライン情報である演算値“Z”を閾値と比較した比較結果に基づいて指標値を算出する算出領域105を設定する場合、使用する閾値は、撮像した画像または内視鏡画像101等の性質(例えば観察対象の写り具合等)に応じて変化しても良い。例えば、ベースライン情報を複数算出する場合に、複数のベースライン情報のうちの選択した1つのベースライン情報、または、複数のベースライン情報を用いて算出する統計量を用いて閾値を設定することができる。より具体的には、上記実施形態と同様に、ベースライン情報算出部82は画素ごとにベースライン情報である演算値“Z”を算出する場合、領域設定部83は、これら画素ごとの演算値“Z”の中から選択した1つの値(例えば中央値または最頻値に最も近い演算値“Z”等)を基準として、流動的に閾値を設定することができる。また、領域設定部83は、ベースライン情報算出部82が画素ごとに算出した演算値“Z”を用いて、平均値、中央値、分散、または最頻値等(以下、統計量という)を算出し、算出した統計量を用いて流動的に閾値を設定することができる。このように、閾値を設定すると、指標値を算出する算出領域105を、より正確に設定できるようになる場合がある。
 上記実施形態においては、具体例として、暗部領域102と残液等がある領域104を除外して指標値を算出する算出領域105を設定しているが、領域設定部83は、ベースライン情報を用いて、残液等がある領域104、暗部領域102、ハレーション領域、または、処置具がある領域のうち、少なくともいずれか1以上を除外することにより、指標値を算出する算出領域105を設定することが好ましい。こうすれば、残液等がある領域104、暗部領域102、ハレーション領域、または、処置具がある領域のうち、明確に除外する設定としたいずれか1つ以外の領域以外の領域もほぼ自動的に指標値を算出する算出領域105から除外できる。
 なお、算出する指標値の種類等によっては、ベースライン情報を算出するための内視鏡画像と、指標値を算出するための内視鏡画像が異なる場合がある。このため、上記実施形態においては、指標値算出部84は、ベースライン情報算出部82がベースライン情報である演算値“Z”の算出に使用する複数の内視鏡画像(B1画像、B2画像、及びG2画像)のうち、一部の内視鏡画像(B1画像及びB2画像)を用いて指標値を算出しているが、指標値算出部84は、ベースライン情報算出部82がベースライン情報の算出に使用する複数の内視鏡画像とは撮像に使用した照明光の種類が異なる1または複数の内視鏡画像を用いて指標値を算出することができる。
 上記実施形態においては、各種の処理を実行する処理部(Processing Unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(Processor)である。各種のプロセッサには、ソフトウェア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
 1つの処理部は、これら各種のプロセッサのうちの1つで構成されていてもよいし、同種または異種の2つ以上のプロセッサ(例えば、複数のFPGA、あるいはCPUとFPGAの組み合わせ)によって構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。
 さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。
 上記実施形態においては、イメージセンサ48が設けられた内視鏡12を被検体内に挿入して観察を行う内視鏡システム10において本発明を実施しているが、カプセル内視鏡システムにおいても本発明は好適である。図9に示すように、例えば、カプセル内視鏡システムにおいては、カプセル内視鏡700と、プロセッサ装置(図示しない)とを少なくとも有する。
 カプセル内視鏡700は、光源部702と制御部703と、イメージセンサ704と、画像処理部706と、送受信アンテナ708と、を備えている。光源部702は、光源部20に対応する。制御部703は、光源制御部22及び制御部52と同様に機能する。また、制御部703は、送受信アンテナ708を用いて、カプセル内視鏡システムのプロセッサ装置と無線を使用して通信可能である。カプセル内視鏡システムのプロセッサ装置は、上記実施形態のプロセッサ装置16とほぼ同様であるが、画像取得部54及び画像処理部61に対応する画像処理部706はカプセル内視鏡700に設けられ、内視鏡画像は、送受信アンテナ708を介してプロセッサ装置に送信される。イメージセンサ704はイメージセンサ48と同様に構成される。
 10 内視鏡システム
 12 内視鏡
 12a 挿入部
 12b 操作部
 12c 湾曲部
 12d 先端部
 12e アングルノブ
 13 ズーム操作部
 14 光源装置
 16 プロセッサ装置
 18 モニタ
 19 コンソール
 20、702 光源部
 22 光源制御部
 30a 照明光学系
 30b 撮影光学系
 41 ライトガイド
 45 照明レンズ
 46 対物レンズ
 47 ズームレンズ
 48、704 イメージセンサ
 52、703 制御部
 54、706 画像取得部
 56 DSP(Digital Signal Processor)
 58 ノイズ低減部
 59 変換部
 61 画像処理部
 66 表示制御部
 81 画像生成部
 82 ベースライン情報算出部
 83 領域設定部
 84 指標値算出部
 85 強調処理部
 101、110 内視鏡画像
 102 暗部領域
 104 残液等がある領域
 105 指標値を算出する算出領域
 106 輪郭
 111 指標値表示部
 700 カプセル内視鏡
 708 送受信アンテナ
 Z 演算値(ベースライン情報)
 ΔZ 変化量
 R2/G2 G2画像に対するR2画像の比

Claims (15)

  1.  光源と、光源から出射された光が照射された観察対象を撮像する内視鏡と、システム制御及び画像処理を行うプロセッサ装置と、を備える内視鏡システムであって、
     前記観察対象を撮像した内視鏡画像を取得する画像取得部と、
     前記内視鏡画像または前記内視鏡画像を用いて生成する表示用の内視鏡画像を用いて、前記観察対象の光散乱特性もしくは光吸収特性に関する情報であって、かつ、少なくとも特定の生体情報に依存しない情報であるベースライン情報を算出するベースライン情報算出部と、
     前記ベースライン情報を用いて、前記観察対象の状態を表す指標値を算出する算出領域を設定する領域設定部と、
     前記内視鏡画像または前記内視鏡画像を用いて生成する表示用の内視鏡画像を用いて、前記領域設定部が設定した前記算出領域において前記指標値を算出する指標値算出部と、
     を備える内視鏡システム。
  2.  前記ベースライン情報算出部は、前記内視鏡画像の1または複数の画素からなる部分ごとに前記ベースライン情報を算出し、かつ、
     前記領域設定部は、前記部分ごとに前記指標値を算出するか否かを決定することにより、1または複数の前記部分からなる領域を、前記指標値を算出する前記算出領域を設定する請求項1に記載の内視鏡システム。
  3.  前記領域設定部は、前記ベースライン情報を閾値と比較した比較結果に基づいて、前記指標値を算出する前記算出領域を設定する請求項1または2に記載の内視鏡システム。
  4.  前記領域設定部は、前記ベースライン情報を複数算出する場合に、複数の前記ベースライン情報のうちの1つの前記ベースライン情報、または、複数の前記ベースライン情報を用いて算出する統計量を用いて前記閾値を設定する請求項3に記載の内視鏡システム。
  5.  前記領域設定部は、前記ベースライン情報を用いて、残渣もしくは残液がある領域、暗部領域、ハレーション領域、または、処置具がある領域のうちいずれか1以上を除外することにより、前記指標値を算出する前記算出領域を設定する請求項1~4のいずれか1項に記載の内視鏡システム。
  6.  前記ベースライン情報算出部は、撮像に使用した照明光の種類が異なる複数の前記内視鏡画像を用いて前記ベースライン情報を算出する請求項1~5のいずれか1項に記載の内視鏡システム。
  7.  前記指標値算出部は、前記ベースライン情報算出部が前記ベースライン情報の算出に使用する複数の前記内視鏡画像とは撮像に使用した照明光の種類が異なる1または複数の前記内視鏡画像を用いて前記指標値を算出する請求項6に記載の内視鏡システム。
  8.  前記内視鏡画像または前記内視鏡画像を用いて生成した画像、及び、前記指標値を表示する表示部を備える請求項1~7のいずれか1項に記載の内視鏡システム。
  9.  前記内視鏡画像または前記内視鏡画像を用いて生成した画像に、前記指標値を算出する前記算出領域を表示する表示部を備える請求項1~8のいずれか1項に記載の内視鏡システム。
  10.  前記特定の生体情報は、前記観察対象が含むヘモグロビンの状態に起因して変化する情報である請求項1~9のいずれか1項に記載の内視鏡システム。
  11.  前記特定の生体情報は、酸素飽和度、または、ヘモグロビン濃度である請求項10に記載の内視鏡システム。
  12.  前記特定の生体情報は、前記観察対象が含む血管に関する情報である請求項1~9のいずれか1項に記載の内視鏡システム。
  13.  前記特定の生体情報は、血管密度、血管深さ、または、血管太さである請求項12に記載の内視鏡システム。
  14.  光源と、光源から出射された光が照射された観察対象を撮像する内視鏡を有する内視鏡システムのシステム制御及び画像処理を行うプロセッサ装置であって、
     前記観察対象を撮像した内視鏡画像を取得する画像取得部と、
     前記内視鏡画像または前記内視鏡画像を用いて生成する表示用の内視鏡画像を用いて、前記観察対象の光散乱特性もしくは光吸収特性に関する情報であって、かつ、少なくとも特定の生体情報に依存しない情報であるベースライン情報を算出するベースライン情報算出部と、
     前記ベースライン情報を用いて、前記観察対象の状態を表す指標値を算出する算出領域を設定する領域設定部と、
     前記内視鏡画像または前記内視鏡画像を用いて生成する表示用の内視鏡画像を用いて、前記領域設定部が設定した前記算出領域において前記指標値を算出する指標値算出部と、
     を備えるプロセッサ装置。
  15.  光源と、光源から出射された光が照射された観察対象を撮像する内視鏡と、システム制御及び画像処理を行うプロセッサ装置と、を備える内視鏡システムを用いで内視鏡システムの作動方法であって、
     画像取得部が、前記観察対象を撮像した内視鏡画像を取得するステップと、
     ベースライン情報算出部が、前記内視鏡画像または前記内視鏡画像を用いて生成する表示用の内視鏡画像を用いて、前記観察対象の光散乱特性もしくは光吸収特性に関する情報であって、かつ、少なくとも特定の生体情報に依存しない情報であるベースライン情報を算出するステップと、
     領域設定部が、前記ベースライン情報を用いて、前記観察対象の状態を表す指標値を算出する算出領域を設定するステップと、
     指標値算出部が、前記内視鏡画像または前記内視鏡画像を用いて生成する表示用の内視鏡画像を用いて、前記領域設定部が設定した前記算出領域において前記指標値を算出するステップと、
     を備える内視鏡システムの作動方法。
PCT/JP2017/046364 2017-03-03 2017-12-25 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法 WO2018159082A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP17898401.9A EP3590402A4 (en) 2017-03-03 2017-12-25 ENDOSCOPE SYSTEM, PROCESSOR DEVICE, AND OPERATION METHOD OF ENDOSCOPE SYSTEM
JP2019502476A JP6774550B2 (ja) 2017-03-03 2017-12-25 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
US16/535,578 US10702136B2 (en) 2017-03-03 2019-08-08 Endoscope system, processor device, and method for operating endoscope system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017040342 2017-03-03
JP2017-040342 2017-03-03

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US16/535,578 Continuation US10702136B2 (en) 2017-03-03 2019-08-08 Endoscope system, processor device, and method for operating endoscope system

Publications (1)

Publication Number Publication Date
WO2018159082A1 true WO2018159082A1 (ja) 2018-09-07

Family

ID=63371355

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/046364 WO2018159082A1 (ja) 2017-03-03 2017-12-25 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法

Country Status (4)

Country Link
US (1) US10702136B2 (ja)
EP (1) EP3590402A4 (ja)
JP (1) JP6774550B2 (ja)
WO (1) WO2018159082A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190374093A1 (en) * 2017-03-06 2019-12-12 Fujifilm Corporation Endoscope system and operation method therefor
WO2023119795A1 (ja) * 2021-12-22 2023-06-29 富士フイルム株式会社 内視鏡システム及びその作動方法

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6866531B2 (ja) * 2018-03-06 2021-04-28 富士フイルム株式会社 医療画像処理システム及び内視鏡システム
KR20210045533A (ko) * 2019-10-16 2021-04-27 삼성디스플레이 주식회사 동공 검출 장치

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011194028A (ja) 2010-03-19 2011-10-06 Fujifilm Corp 電子内視鏡システム、電子内視鏡用のプロセッサ装置、および血管情報取得方法
JP2013051987A (ja) 2011-08-31 2013-03-21 Olympus Corp 画像処理装置、画像処理方法、及び画像処理プログラム
JP2013255656A (ja) * 2012-06-12 2013-12-26 Olympus Corp 画像処理装置、画像処理方法、及び画像処理プログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7459696B2 (en) * 2003-04-18 2008-12-02 Schomacker Kevin T Methods and apparatus for calibrating spectral data
JP5190944B2 (ja) * 2008-06-26 2013-04-24 富士フイルム株式会社 内視鏡装置および内視鏡装置の作動方法
WO2014192781A1 (ja) * 2013-05-30 2014-12-04 Hoya株式会社 生体組織中の生体物質の濃度分布を示す画像を生成する方法及び装置
JP6405138B2 (ja) * 2014-07-15 2018-10-17 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
WO2017057021A1 (ja) * 2015-09-28 2017-04-06 オリンパス株式会社 画像解析装置、画像解析システム、画像解析装置の作動方法
JP2017148392A (ja) * 2016-02-26 2017-08-31 Hoya株式会社 計算システム
JP6561000B2 (ja) * 2016-03-09 2019-08-14 富士フイルム株式会社 内視鏡システム及びその作動方法
US11589777B2 (en) * 2016-08-31 2023-02-28 Hoya Corporation Electronic endoscope processor and electronic endoscopic system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011194028A (ja) 2010-03-19 2011-10-06 Fujifilm Corp 電子内視鏡システム、電子内視鏡用のプロセッサ装置、および血管情報取得方法
JP2013051987A (ja) 2011-08-31 2013-03-21 Olympus Corp 画像処理装置、画像処理方法、及び画像処理プログラム
JP2013255656A (ja) * 2012-06-12 2013-12-26 Olympus Corp 画像処理装置、画像処理方法、及び画像処理プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3590402A4

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190374093A1 (en) * 2017-03-06 2019-12-12 Fujifilm Corporation Endoscope system and operation method therefor
US11478136B2 (en) * 2017-03-06 2022-10-25 Fujifilm Corporation Endoscope system and operation method therefor
WO2023119795A1 (ja) * 2021-12-22 2023-06-29 富士フイルム株式会社 内視鏡システム及びその作動方法

Also Published As

Publication number Publication date
JP6774550B2 (ja) 2020-10-28
EP3590402A1 (en) 2020-01-08
US10702136B2 (en) 2020-07-07
US20190357759A1 (en) 2019-11-28
JPWO2018159082A1 (ja) 2020-01-09
EP3590402A4 (en) 2020-03-11

Similar Documents

Publication Publication Date Title
JP6785941B2 (ja) 内視鏡システム及びその作動方法
WO2018159083A1 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
US9675238B2 (en) Endoscopic device
US10702136B2 (en) Endoscope system, processor device, and method for operating endoscope system
JP6752958B2 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
JP6538634B2 (ja) プロセッサ装置及び内視鏡システム並びにプロセッサ装置の作動方法
JP6437943B2 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
JP6744712B2 (ja) 内視鏡システム、プロセッサ装置、及び内視鏡システムの作動方法
JP6629639B2 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
WO2017077772A1 (ja) プロセッサ装置、内視鏡システム、及び画像処理方法
WO2019092948A1 (ja) 内視鏡システム
WO2019065111A1 (ja) 医療画像処理システム、内視鏡システム、診断支援装置、及び医療業務支援装置
JPWO2019059059A1 (ja) 医療画像処理システム、内視鏡システム、診断支援装置、並びに医療業務支援装置
US20190246874A1 (en) Processor device, endoscope system, and method of operating processor device
JP6744713B2 (ja) 内視鏡システム、プロセッサ装置、及び内視鏡システムの作動方法
JP6850358B2 (ja) 医療画像処理システム、内視鏡システム、診断支援装置、及び医療業務支援装置
WO2021065939A1 (ja) 内視鏡システム及びその作動方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17898401

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2019502476

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2017898401

Country of ref document: EP