WO2019082993A1 - 医療画像処理システム、内視鏡システム、診断支援装置、及び医療業務支援装置 - Google Patents

医療画像処理システム、内視鏡システム、診断支援装置、及び医療業務支援装置

Info

Publication number
WO2019082993A1
WO2019082993A1 PCT/JP2018/039771 JP2018039771W WO2019082993A1 WO 2019082993 A1 WO2019082993 A1 WO 2019082993A1 JP 2018039771 W JP2018039771 W JP 2018039771W WO 2019082993 A1 WO2019082993 A1 WO 2019082993A1
Authority
WO
WIPO (PCT)
Prior art keywords
light
medical image
area
unit
interest
Prior art date
Application number
PCT/JP2018/039771
Other languages
English (en)
French (fr)
Inventor
林 伸治
Original Assignee
富士フイルム株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルム株式会社 filed Critical 富士フイルム株式会社
Priority to JP2019550301A priority Critical patent/JP6850358B2/ja
Publication of WO2019082993A1 publication Critical patent/WO2019082993A1/ja

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes

Definitions

  • the present invention relates to a medical image processing system that detects a region of interest from medical images, an endoscope system, a diagnosis support device, and a medical service support device.
  • diagnosis support information regarding a pathological condition is obtained by detecting a notable area of interest in a lesion from a medical image and performing image analysis on the detected area of attention. .
  • the acquired diagnostic support information is provided to the user by displaying it on a display unit such as a monitor.
  • the detection level of the region of interest is set to a low level in order to avoid missing of a lesion. Therefore, although it becomes possible to detect a lesioned part with certainty, in many cases, a region such as a normal region that should not be detected as a region of interest is also often detected. That is, there may occur an erroneous detection area which is erroneously detected as an attention area.
  • the present invention relates to a medical image processing system, an endoscope system, a diagnosis support apparatus, and a medical device, which allow a user operating an endoscope to directly make a judgment on each region of interest when detecting a plurality of regions of interest. It aims at providing a work support device.
  • a medical image processing system includes an image acquisition unit, an attention area detection unit, a display unit, a sight line detection unit, and an attention area tip.
  • the image acquisition unit acquires a medical image obtained by imaging an observation target.
  • the attention area detection unit performs an area detection process of detecting the attention area from the medical image.
  • the display unit displays a region of interest in the medical image.
  • the region-of-interest selection unit performs region selection processing for selecting a first region of interest including a line-of-sight point indicating a position at which the line of sight directed by the user to the display unit intersects the display unit.
  • the region selection process it is determined that the first region of interest is an appropriate region correctly detected as the region of interest, and a second region of interest other than the first region of interest among the plurality of regions of interest It is preferable to provide an area determination unit that performs an area determination process that determines that the area is an erroneously detected area erroneously detected as an attention area.
  • the system includes a learning data generation unit that generates learning data for causing the attention area detection unit to be associated by associating the medical image with the determination result of the area determination processing, and the attention area detection unit performs area detection processing or learning It is preferable to use the learning data to perform any of the learning processes for increasing the detection accuracy of the region of interest.
  • Use the learning data generator to associate the medical image with the judgment result of the area judgment processing to generate the learning data to train the attention area detector, and use the learning data to raise the detection accuracy of the attention area
  • the image processing apparatus further includes a specific processing unit to which a learning process is performed, and the attention area detection unit be replaced with the specific processing unit when the learning process is performed.
  • An area selection operation unit that receives a user's operation regarding selection of an attention area is provided, and the attention area selection unit selects an attention area including a gaze point at a timing when the area selection operation unit is operated as a first attention area.
  • the observation time measurement unit measures an observation time as a time during which the gaze point enters the attention area, and the attention area selection unit selects an attention area whose observation time exceeds a specific observation time as a first attention area. Is preferred.
  • the medical image is preferably a normal light image obtained by irradiating light of a plurality of wavelength bands as light of a white band or light of a white band.
  • the medical image is a special light image obtained by irradiating light of a specific wavelength band, and light of the specific wavelength band is preferably a band narrower than the white band.
  • the specific wavelength band includes a wavelength band of 390 nm to 450 nm, or 530 nm to 550 nm, and light of a specific wavelength band has a peak wavelength within the wavelength band of 390 nm to 450 nm, or 530 nm to 550 nm. Is preferred.
  • the specific wavelength band is preferably included in the red band in the visible range.
  • the specific wavelength band includes a wavelength band of 585 nm to 615 nm, or 610 nm to 730 nm, and light of the specific wavelength band has a peak wavelength within the wavelength band of 585 nm to 615 nm, or 610 nm to 730 nm. It is preferable to have.
  • the specific wavelength band includes wavelength bands having different absorption coefficients for oxyhemoglobin and reduced hemoglobin, and light of a specific wavelength band has peak wavelengths in wavelength bands having different absorption coefficients for oxyhemoglobin and reduced hemoglobin. Is preferred.
  • the specific wavelength band includes wavelength bands of 400 ⁇ 10 nm, 440 ⁇ 10 nm, 470 ⁇ 10 nm, or 600 nm to 750 nm, and light of the specific wavelength band is 400 ⁇ 10 nm, 440 ⁇ 10 nm, 470 ⁇ 10 nm It is preferable to have a peak wavelength in a wavelength band of 600 nm or more and 750 nm or less.
  • the medical image is an in-vivo image obtained by copying the inside of a living body, and the in-vivo image preferably has information of fluorescence emitted from a fluorescent substance in the living body.
  • the fluorescence is preferably obtained by irradiating the living body with excitation light included in a wavelength standby of a peak wavelength of 390 or more and 470 nm or less.
  • the medical image is an in-vivo image obtained by copying the inside of a living body, and the specific wavelength band is preferably a wavelength band of infrared light.
  • the specific wavelength band includes a wavelength band of 790 nm to 820 nm, or 905 nm to 970 nm, and light of a specific wavelength band has a peak wavelength in a wavelength band of 790 nm to 820 nm, or 905 nm to 970 nm. Is preferred.
  • the medical image is a special light image obtained based on a normal light image obtained by irradiating light of a plurality of wavelength bands as light of a white band or light of a white band and having a signal of a specific wavelength band. Is preferred. It is preferable that the signal in the specific wavelength band is obtained by calculation based on RGB or CMY color information included in the normal light image.
  • Medical images are a normal light image obtained by irradiating light of a plurality of wavelength bands as light of a white band or light of a white band, and a special light image obtained by irradiating light of a specific wavelength band. It is preferable that it is a calculation image obtained by calculation based on at least one.
  • the endoscope system of the present invention includes an endoscope, an image acquisition unit, an attention area detection unit, a display unit, a sight line detection unit, and an attention area selection unit.
  • the endoscope images an observation target.
  • the image acquisition unit acquires a medical image obtained by imaging an observation target with an endoscope.
  • the attention area detection unit performs an area detection process of detecting the attention area from the medical image.
  • the line-of-sight detection unit detects a line-of-sight point indicating a position at which the line of sight directed by the user to the display unit intersects the display unit.
  • the region-of-interest selection unit selects a first region of interest including a gaze point from among the plurality of regions of interest.
  • a diagnosis support apparatus includes the medical image processing system according to the present invention described above.
  • the medical service support device of the present invention includes the medical image processing system of the present invention described above.
  • the user operating the endoscope can directly make a determination on each region of interest.
  • FIG. 6 is an explanatory view showing a region selection process and a region determination process. It is an explanatory view showing data generation processing for study. It is an explanatory view showing learning processing. It is a flowchart which shows a series of flows which perform selection of the 1st attention area which is a suitable area
  • the endoscope system 10 includes an endoscope 12, a light source device 14, a processor device 16, a monitor 18, and a user interface 19.
  • the endoscope 12 emits illumination light to an object to be observed, and captures an image of the object illuminated by the illumination light.
  • the light source device 14 generates illumination light for irradiating a subject.
  • the processor device 16 performs system control, image processing, and the like of the endoscope system 10.
  • the monitor 18 is a display unit that displays an image output from the processor device 16.
  • the user interface 19 is an input device for performing setting input and the like to the processor device 16 and the like, and includes a keyboard KB, a mouse MS, and the like.
  • the user interface 19 is not limited to the mouse MS and the keyboard KB, and may be a graphical user interface, voice input, a touch display, or the like.
  • the endoscope 12 includes an insertion portion 12a to be inserted into a subject, an operation portion 12b provided at a proximal end portion of the insertion portion 12a, a curved portion 12c provided at the distal end side of the insertion portion 12a, and a distal end portion 12d. ,have.
  • the bending portion 12c is bent by operating the angle knob 12e of the operation portion 12b.
  • the bending of the bending portion 12 c causes the tip 12 d to face in a desired direction.
  • the tip end 12d is provided with an injection port (not shown) for injecting air, water or the like toward the subject.
  • the operation unit 12b is provided with a zoom operation unit 13a.
  • a forceps channel (not shown) for inserting a treatment tool or the like is provided from the insertion portion 12a to the distal end portion 12d. The treatment tool is inserted into the forceps channel from the forceps inlet 12f.
  • the light source device 14 includes a light source unit 20 and a light source control unit 22.
  • the light source unit 20 emits illumination light for illuminating a subject.
  • the light source unit 20 includes one or more light sources.
  • the light source control unit 22 controls the drive of the light source unit 20.
  • the light source control unit 22 independently controls the timing of turning on or off the light source constituting the light source unit 20, the light emission amount at the time of lighting, and the like. As a result, the light source unit 20 can emit plural types of illumination lights having different light emission amounts and light emission timings.
  • the illumination light emitted by the light source unit 20 is incident on the light guide 41.
  • the light guide 41 is incorporated in the endoscope 12 and the universal cord (not shown), and propagates the illumination light to the distal end 12 d of the endoscope 12.
  • the universal cord is a cord that connects the endoscope 12 to the light source device 14 and the processor device 16.
  • a multimode fiber can be used. As an example, it is possible to use a thin fiber cable having a core diameter of 105 ⁇ m, a cladding diameter of 125 ⁇ m, and a diameter of ⁇ 0.3 to 0.5 mm including a protective layer to be an outer shell.
  • An illumination optical system 30 a and an imaging optical system 30 b are provided at the distal end 12 d of the endoscope 12.
  • the illumination optical system 30 a has an illumination lens 45, and illumination light is emitted toward the subject through the illumination lens 45.
  • the imaging optical system 30 b includes an objective lens 46, a zoom lens 47, and an image sensor 48.
  • the image sensor 48 is a reflected light of illumination light returning from the subject via the objective lens 46 and the zoom lens 47 (in addition to the reflected light, the scattered light, the fluorescence emitted from the subject, or the drug administered to the subject)
  • the subject is imaged using fluorescence and the like.
  • the zoom lens 47 is moved by operating the zoom operation unit 13 a, and the image sensor 48 is used to magnify or reduce the subject to be imaged.
  • the image sensor 48 is, for example, a color sensor having a primary color filter, and has B pixels (blue pixels) having blue color filters, G pixels (green pixels) having green color filters, and R having red color filters. There are three types of pixels (red pixels). Blue color filters transmit mainly violet to blue light. The green color filter is mainly green light. The red color filter transmits mainly red light. As described above, when an object is imaged using the primary color image sensor 48, at most, a B image (blue image) obtained from B pixels, a G image (green image) obtained from G pixels, and an R obtained from R pixels Three types of images (red image) can be obtained simultaneously.
  • a charge coupled device (CCD) sensor or a complementary metal oxide semiconductor (CMOS) sensor can be used.
  • CMOS complementary metal oxide semiconductor
  • the complementary color sensor includes, for example, a cyan pixel provided with a cyan color filter, a magenta pixel provided with a magenta color filter, a yellow pixel provided with a yellow color filter, and a green pixel provided with a green color filter.
  • the image obtained from the pixels of each color when using a complementary color sensor can be converted into a B image, a G image, and an R image by performing complementary-primary color conversion.
  • a monochrome sensor without a color filter can be used as the image sensor 48. In this case, an image of each color can be obtained by sequentially imaging the subject using illumination light of each color such as BGR.
  • the processor device 16 includes a central control unit 52, an image acquisition unit 54, an image processing unit 61, and a display control unit 66.
  • the central control unit 52 performs overall control of the endoscope system 10 such as synchronous control of the irradiation timing of the illumination light and the imaging timing.
  • the central control unit 52 controls the input various settings as the light source control unit 22, the image sensor 48, or the image processing unit 61.
  • the data is input to each part of the endoscope system 10.
  • the image acquisition unit 54 acquires, from the image sensor 48, an image obtained by imaging a subject.
  • the image acquired by the image acquisition unit 54 is an image acquired by a medical device such as the endoscope 12 and thus is referred to as a medical image.
  • the image acquisition unit 54 includes a DSP (Digital Signal Processor) 56, a noise reduction unit 58, and a conversion unit 59, and uses these to perform various processes on the acquired medical image as needed.
  • the DSP 56 performs various processing such as defect correction processing, offset processing, gain correction processing, linear matrix processing, gamma conversion processing, demosaicing processing, and YC conversion processing, as necessary, on the acquired medical image.
  • the defect correction process is a process of correcting the pixel value of the pixel corresponding to the defective pixel of the image sensor 48.
  • the offset process is a process of reducing the dark current component from the image subjected to the defect correction process and setting an accurate zero level.
  • the gain correction process is a process of adjusting the signal level of each image by multiplying the image subjected to the offset process by the gain.
  • the linear matrix processing is processing for improving the color reproducibility of the image subjected to the offset processing, and the gamma conversion processing is processing for adjusting the brightness and saturation of the image after the linear matrix processing.
  • demosaicing processing is processing for interpolating the pixel value of a missing pixel, and is applied to an image after gamma conversion processing.
  • the missing pixels are pixels having no pixel value due to the arrangement of the color filters (because pixels of other colors are arranged in the image sensor 48).
  • the demosaicing process interpolates the B image to generate pixel values of pixels located at G and R pixel positions of the image sensor 48.
  • the YC conversion process is a process of converting the image after the demosaicing process into a luminance channel Y, a color difference channel Cb, and a color difference channel Cr.
  • the noise reduction unit 58 performs noise reduction processing on the luminance channel Y, the color difference channel Cb, and the color difference channel Cr using, for example, a moving average method or a median filter method.
  • the conversion unit 59 reconverts the luminance channel Y, the color difference channel Cb, and the color difference channel Cr after the noise reduction processing into an image of each color of BGR.
  • the image processing unit 61 performs various types of image processing on the medical image acquired by the image acquisition unit 54. Further, the image processing unit 61 detects an attention area from the medical image, and calculates diagnosis support information for supporting diagnosis of the observation target from the detected attention area. The detection of the area of interest and the calculation of the diagnosis support information will be described later.
  • the display control unit 66 converts the medical image or the diagnosis support information sent from the image processing unit 61 into a format suitable for display on the monitor 18 and outputs the converted format to the monitor 18. As a result, at least the medical image and the diagnostic support information are displayed on the monitor 18.
  • the image processing unit 61 includes an attention area detection unit 70, a diagnosis support information calculation unit 72, a gaze image generation unit 74, an image synthesis unit 76, an attention area selection unit 78, and an observation time.
  • a measurement unit 79, an area determination unit 80, and a learning data generation unit 82 are provided.
  • the attention area detection unit 70 performs an area detection process of detecting an attention area to be noted as a target of examination or diagnosis from a medical image.
  • the attention area detection unit 70 is configured of, for example, a CNN (Convolutional Neural Network) or Adaboost using pixel gradient features. Therefore, the attention area detection unit 70 can perform learning processing for increasing the detection accuracy of the attention area in addition to the area detection processing. Whether the region detection process or the learning process is to be performed is determined by the operation of the user interface 19.
  • the region of interest detection unit 70 detects the region of interest from the input medical image, and the region including the region of interest is detected. Output the detected image.
  • a rectangular region of interest ROI that surrounds the periphery of the lesion is displayed.
  • the shape of the region of interest ROI is represented by a square (rectangle) in FIG. 5, the shape other than the rectangle may be represented by, for example, a circle, an ellipse, or the like.
  • the learning process of the attention area detection unit 70 will be described later.
  • the diagnosis support information calculation unit 72 calculates various index values from the attention area detected by the attention area detection unit 70, and calculates diagnosis support information for supporting diagnosis of a lesion based on the calculated various index values.
  • the various index values include blood vessel index values related to blood vessels such as blood vessel density and blood vessel travel patterns, and ductal index values related to duct structure.
  • the diagnosis support information may include, for example, the degree of progression (stage) of the lesion. As shown in FIG. 5, the calculated diagnosis support information 84 is displayed on the monitor 18 in association with the region of interest ROI together with the region detection image (“Stage 1” in FIG. 5).
  • the line-of-sight image generation unit 74 generates a line-of-sight image displaying a line-of-sight point EP representing a position where the line of sight directed to the monitor 18 intersects the monitor 18.
  • Information on the line-of-sight point is generated based on the line-of-sight data from the line-of-sight detection unit 75 provided on the front of the monitor 18.
  • An EP (TN) is displayed, and the sight line points EP (T1) to EP (TN) are connected by a connecting line CL so that the locus of the sight line can be seen.
  • the gaze point after a certain time interval is deleted from the gaze image, and instead, the latest gaze point is displayed.
  • the portion of the monitor 18 where the line of sight of the user intersects includes, in addition to the entire screen of the monitor 18, at least a portion where image information is displayed, such as a window in the screen.
  • the image combining unit 76 combines the area detection image and the line-of-sight image to generate a combined image.
  • the positional relationship between the attention area in the area detection image and the gaze point EP currently gazed by the user can be understood. For example, as shown in FIG. 7, when three regions of interest ROIx, ROIy, and ROIz are displayed, the gaze point EP displayed within a certain time interval is concentrated on the region of interest ROIx. From this, it can be understood that the area the user is gazing at is ROIx.
  • the attention area selection unit 78 performs an area selection process of selecting a first attention area including the gaze point EP from among a plurality of attention areas.
  • the region selection process is performed based on the user's instruction regarding the selection of the region of interest.
  • the endoscope 12 The region selection button 13b (region selection operation unit) provided in the operation unit 12b is operated.
  • the attention area selection unit 78 executes an area selection process. By execution of this area selection processing, as shown in FIG.
  • the attention area ROIx in which the line-of-sight point EP is included is selected as the first attention area at the timing when the area selection button 13b is operated (in FIG. 8, 1 ROI x selected as a region of interest is indicated by a double line.
  • the doctor operating the endoscope 12 is correctly detected as the area to be focused without the support of the staff. You will be able to select the areas of interest that you think are present.
  • the area selection button 13b is used as the area selection operation unit, other than that, a foot switch FS (see FIG. 1), voice recognition using a microphone or the like can also be used.
  • the observation time measurement unit 79 measures the time during which the sight point EP is in the attention area as the observation time, and then the attention area selection unit 78 measures it with the observation time measurement unit 79. An attention area whose observation time exceeds the specific observation time may be selected as the first attention area.
  • the area determination unit 80 determines that the first area of interest is an appropriate area correctly detected as the area of interest.
  • An area determination process is performed on the second attention area other than the attention area to determine that it is an erroneously detected area that is erroneously detected as the attention area.
  • a correct / incorrected judged image including information on an appropriate area and an erroneously detected area is obtained.
  • the attention area ROIx selected as the first attention area is determined to be an appropriate area
  • attention areas ROIy and ROIz which are second attention areas not selected as the first attention area are It is determined as a false detection area.
  • the learning data generation unit 82 associates the medical image input to the attention area detection unit 70 with the correct / incorrect determination image obtained by the area judgment unit 80 to obtain the attention area detection unit 70.
  • a learning data generation process is performed to generate learning data for learning.
  • the generated learning data is stored in the learning data storage unit 82a, and is used when the attention area detection unit 70 performs the learning process.
  • the attention area detection unit 70 reads the learning data from the learning data storage unit 82a, and the accuracy of the area detection process based on the read learning data.
  • the learning processing is performed on the attention area detection unit 70, and is performed on another specific processing unit 83 different from the attention area detection unit 70, and the learning processing specific processing unit It may be replaced with 70.
  • the specified processing unit after the replacement functions the attention area detection unit 70.
  • the attention area detection unit 70 detects an attention area from the medical image in response to the input of the medical image, and outputs an area detection image including the detected attention area.
  • the output area detection image is superimposed on the medical image and displayed on the monitor 18.
  • the user's gaze is detected by the gaze detection unit 75.
  • a line-of-sight image is obtained in which a line-of-sight point representing a line of sight directed by the user to the monitor 18 a predetermined time ago is displayed.
  • the line-of-sight image is synthesized with the area detection image, and the synthesized image obtained by this synthesis is displayed on the monitor 18.
  • the area selection button 13 b is selected. Manipulate At the timing when the region selection button 13b is operated, the region of interest ROIx in which the gaze point EP is included is selected as a first region of interest.
  • the first attention area After selecting the first attention area, it is determined that the first attention area is an appropriate area correctly detected as the attention area, and the second attention area other than the first attention area is determined as the attention area
  • An area determination process is performed to determine that the area is an erroneously detected area detected erroneously.
  • a correct / incorrected judged image including information on an appropriate area and an erroneously detected area is obtained.
  • Learning data is generated by mutually associating the correctness-corrected image and the medical image input to the attention area detection unit 70.
  • the blood vessel index value calculated by the diagnosis support information calculation unit 72 for example, the blood vessel density, the blood vessel thickness, and the blood vessel index value, the number of blood vessels, the number of branches, the branch angle, the branch point Distance, crossing number, thickness change, interval, depth based on mucous membrane, height difference, inclination, contrast, color, color change, meandering degree, blood concentration, oxygen saturation, arterial percentage, vein There are proportions, concentrations of dyes administered, running patterns, and blood flow.
  • the blood vessel density is represented by the proportion of blood vessels contained in a specific area in the image.
  • the thickness of the blood vessel (blood vessel diameter) is the distance between the boundary line of the blood vessel and the mucous membrane, and for example, counts the number of pixels along the lateral direction of the blood vessel from the edge of the detected blood vessel through the blood vessel. Count by. Therefore, although the thickness of the blood vessel is the number of pixels, it can be converted to a unit of length such as " ⁇ m" if necessary when the imaging distance and zoom magnification etc. at the time of imaging a medical image are known. is there.
  • the number of blood vessels is the number of blood vessels detected in the entire medical image or in the region of interest.
  • the number of blood vessels is calculated using, for example, the number of branch points of the detected blood vessels (number of branches), the number of intersections with other blood vessels (number of intersections), and the like.
  • the bifurcation angle of a blood vessel is an angle which two blood vessels make at a bifurcation point.
  • the distance between bifurcation points is a linear distance between any bifurcation point and its neighboring bifurcation point, or a length along a blood vessel from any bifurcation point to its neighboring bifurcation point.
  • the number of crossings of blood vessels is the number of crossing points where blood vessels having different submucosal depths cross on a medical image. More specifically, the number of crossings of blood vessels is the number of blood vessels at relatively shallow positions under the submucosa crossing blood vessels at deep positions.
  • the change in the thickness of the blood vessel is blood vessel information related to the variation in the thickness of the blood vessel, and is also referred to as the aperture unequal degree.
  • the change in thickness of the blood vessel is, for example, the rate of change in the diameter of the blood vessel (also referred to as the degree of dilation).
  • the medical image acquired in the past examination With respect to the detected blood vessel thickness, a temporal change in the same blood vessel thickness detected from a medical image obtained in a subsequent new examination may be used as a change in blood vessel thickness.
  • the ratio of the small diameter portion or the ratio of the large diameter portion may be calculated.
  • the thin diameter portion is a portion whose thickness is equal to or less than the threshold
  • the large diameter portion is a portion whose thickness is thicker than the threshold.
  • the complexity of change in blood vessel thickness (hereinafter referred to as “complexity of change in thickness”) is blood vessel information that indicates how complex the change is in the case of blood vessel thickness change.
  • the blood vessel information is calculated by combining a plurality of blood vessel information representing a change in the thickness of the blood vessel (that is, the change rate of the blood vessel diameter, the ratio of the narrow diameter portion, or the ratio of the wide diameter portion).
  • the complexity of the thickness change can be determined, for example, by the product of the change rate of the blood vessel diameter and the ratio of the small diameter portion.
  • the length of the blood vessel is the number of pixels counted along the longitudinal direction of the detected blood vessel.
  • the distance between blood vessels is the number of pixels of pixels representing the mucous membrane between the edges of the detected blood vessels.
  • the blood vessel interval has no value.
  • the blood vessel depth is measured relative to the mucous membrane (more specifically, the surface of the mucous membrane).
  • the depth of the blood vessel relative to the mucous membrane can be calculated, for example, based on the color of the blood vessel.
  • blood vessels located near the surface of the mucous membrane are expressed in magenta
  • blood vessels located far from the mucous membrane surface and deep in the submucosa are expressed in cyan.
  • the depth of the blood vessel is calculated for each pixel based on the mucous membrane on the basis of the balance of the R, G and B color signals of the detected pixel.
  • the height difference of the blood vessel is the size of the difference in the depth of the blood vessel.
  • the height difference of one blood vessel to be noticed is obtained by the difference between the depth (maximum depth) of the deepest part of the blood vessel and the depth (minimum depth) of the shallowest part. When the depth is constant, the height difference is zero.
  • the blood vessel may be divided into a plurality of sections, and the inclination of the blood vessel may be calculated in each section.
  • the area of the blood vessel is a value proportional to the number of pixels of a pixel detected as a blood vessel or the number of pixels of a pixel detected as a blood vessel.
  • the area of the blood vessel is calculated within the region of interest, outside the region of interest, or for the entire medical image.
  • the contrast of the blood vessel is the relative contrast to the mucous membrane to be observed.
  • the contrast of the blood vessel is calculated, for example, by “Y V / Y M ” or “(Y V ⁇ Y M ) / (Y V + Y M )” using the blood vessel brightness Y V and the mucous membrane brightness Y M Do.
  • the color of a blood vessel is each value of RGB of the pixel showing a blood vessel.
  • the change in blood vessel color is the difference or ratio between the maximum value and the minimum value of each of the RGB values of the pixel representing the blood vessel.
  • the ratio of the maximum value to the minimum value of the pixel value of the B pixel representing the blood vessel, the ratio of the maximum value to the minimum value of the pixel value of the G pixel, or the ratio of the maximum value to the minimum value of the pixel value of the R pixel is Represents the change in color of
  • the color change of the blood vessel and the color of the blood vessel may be calculated for each value such as cyan, magenta, yellow, and green by converting into a complementary color.
  • the meandering degree of a blood vessel is blood vessel information that represents the width of a range in which the blood vessel travels in a meandering manner.
  • the meandering degree of the blood vessel is, for example, the smallest rectangular area (number of pixels) including the blood vessel for which the meandering degree is calculated. Further, the ratio of the length of the blood vessel to the straight distance between the start point and the end point of the blood vessel may be the meander degree of the blood vessel.
  • the blood concentration of a blood vessel is blood vessel information that is proportional to the amount of hemoglobin contained in the blood vessel. Since the ratio (G / R) of the pixel value of the G pixel to the pixel value of the R pixel representing the blood vessel is proportional to the amount of hemoglobin, the blood concentration is calculated for each pixel by calculating the value of G / R. Can.
  • Blood vessel oxygen saturation is the amount of oxygenated hemoglobin relative to the total amount of hemoglobin (total amount of oxygenated hemoglobin and reduced hemoglobin).
  • the oxygen saturation may be calculated using a medical image obtained by photographing an observation target with light of a specific wavelength band (for example, blue light with a wavelength of about 470 ⁇ 10 nm) having a large difference between the absorption coefficients of oxidized hemoglobin and reduced hemoglobin. it can.
  • a specific wavelength band for example, blue light with a wavelength of about 470 ⁇ 10 nm
  • the pixel value of the B pixel representing the blood vessel has a correlation with the oxygen saturation, so using a table or the like that corresponds the pixel value of the B pixel to oxygen saturation,
  • the oxygen saturation of each pixel to be represented can be calculated.
  • the proportion of arteries is the ratio of the number of pixels of arteries to the number of pixels of all blood vessels.
  • the ratio of veins is the ratio of the number of pixels of veins to the number of pixels of all blood vessels.
  • Arteries and veins can be distinguished by oxygen saturation. For example, if a blood vessel having an oxygen saturation of 70% or more is an artery and a blood vessel having an oxygen saturation of less than 70% is a vein, the detected blood vessels can be divided into an artery and a vein. Can be calculated.
  • the concentration of the administered dye is the concentration of the dye dispersed to the observation subject or the concentration of the dye injected into the blood vessel by intravenous injection.
  • the concentration of the administered dye is calculated, for example, by the ratio of the pixel value of the dye color to the pixel value of the pixel other than the dye color. For example, when a pigment colored in blue is administered, the ratio B / G of the B image to the G image, the ratio B / R of the B image to the R image, etc. are fixed (or temporarily attached) to the observation target Represents the concentration of dye.
  • the travel pattern of the blood vessel is blood vessel information regarding the travel direction of the blood vessel.
  • the traveling pattern of the blood vessel is, for example, an average angle (traveling direction) of the blood vessel with respect to a reference line set arbitrarily, dispersion of an angle formed by the blood vessel with respect to the reference line arbitrarily set (variation in traveling direction), and the like.
  • Blood flow in blood vessels is the number of red blood cells per unit time.
  • the Doppler shift frequency of each pixel representing a blood vessel of a medical image is calculated using a signal obtained by the ultrasound probe. You can determine the flow rate.
  • the present invention is applied to an endoscope system for processing an endoscopic image which is one of medical images, but medical images other than endoscopic images are processed.
  • the present invention is also applicable to medical image processing systems.
  • the present invention is also applicable to a diagnosis support apparatus for performing diagnosis support to a user using a medical image.
  • the present invention can be applied to a medical service support apparatus for supporting medical services such as diagnostic reports using medical images.
  • V-LED Volt Light Emitting Diode
  • B-LED Blue Light Emitting Diode
  • G-LED Green Light Emitting Diode
  • the V-LED 20a emits violet light V in a wavelength band of 380 nm to 420 nm.
  • the B-LED 20b emits blue light B in a wavelength band of 420 nm to 500 nm.
  • the wavelength cut filter 23 cuts off at least the wavelength side longer than 450 nm of the peak wavelength.
  • the blue light Bx transmitted through the wavelength cut filter 23 is in the wavelength range of 420 to 460 nm.
  • the reason why light in the wavelength range longer than 460 nm is cut is a factor that reduces the blood vessel contrast of the blood vessel to be observed. It is because there is.
  • the wavelength cut filter 23 may reduce the light in the wavelength range longer than 460 nm instead of cutting the light in the wavelength range longer than 460 nm.
  • the G-LED 20c emits green light G having a wavelength band ranging from 480 nm to 600 nm.
  • the R-LED 20d emits red light R in a wavelength band of 600 nm to 650 nm.
  • the light source device 14 When light in a white band (white light) is emitted, all the V-LED 20a, B-LED 20b, G-LED 20c, and R-LED 20d are turned on. As a result, as shown in FIG. 13, the light source device 14 emits white light including violet light V, blue light Bx, green light G, and red light R. White light is almost white because it has a certain intensity or more from the blue band to the red band. In the case of emitting specific light having a peak wavelength in a wavelength band of 440 ⁇ 10 nm as light of a specific wavelength band (specific light), for example, as shown in FIG. , And green light G and red light R are emitted for specific light which is larger than the amount of light emission.
  • the illumination light may be emitted using a laser light source and a phosphor.
  • a blue laser light source (denoted as “445 LD", where LD represents “Laser Diode”) 104 which emits blue laser light with a peak wavelength of 445 ⁇ 10 nm, as shown in FIG.
  • a blue-violet laser light source (denoted as "405 LD") 106 which emits blue-violet laser light having a peak wavelength of 405 ⁇ 10 nm.
  • the illumination optical system 30a is provided with a phosphor 110 to which blue laser light or blue-violet laser light from the light guide 24 is incident.
  • the phosphor 110 is excited by blue laser light to emit fluorescence.
  • part of the blue laser light transmits without exciting the phosphor 110.
  • the blue-violet laser light transmits without exciting the phosphor 110.
  • the light emitted from the phosphor 110 illuminates the body to be observed through the illumination lens 32.
  • the blue laser light source 104 is turned on, and mainly the blue laser light is incident on the phosphor 110, so that blue laser light and blue laser light as shown in FIG. 16 are used.
  • White light is generated by combining the fluorescence emitted from the phosphor 110.
  • specific light having a peak wavelength in the wavelength band of 440 ⁇ 10 nm as light of a specific wavelength band (specific light)
  • the blue laser light source 104 and the blue violet laser light source 106 are turned on. Both the purple laser light and the blue laser light are incident on the phosphor 110.
  • the specific light which combined the fluorescence which carried out the excitation light emission from the fluorescent substance 110 by blue-violet laser light, blue laser light, and blue laser light is emitted.
  • the half width of the blue laser light or the blue-violet laser light is preferably about ⁇ 10 nm.
  • a broad area type InGaN-based laser diode can be used, and an InGaNAs-based laser diode or a GaNAs-based laser diode can also be used.
  • a light emitter such as a light emitting diode may be used as the light source.
  • the phosphor 110 absorbs a part of blue laser light and emits plural colors of green to yellow (for example, a YAG phosphor or a phosphor such as BAM (BaMgAl 10 O 17 )). It is preferable to use what is comprised including.
  • a YAG phosphor or a phosphor such as BAM (BaMgAl 10 O 17 ) for example, a YAG phosphor or a phosphor such as BAM (BaMgAl 10 O 17 )
  • BAM BaMgAl 10 O 17
  • the illumination light may be emitted using a broadband light source such as a xenon lamp and a rotary filter.
  • the light source unit 20 is provided with a broadband light source 202, a rotation filter 204, and a filter switching unit 206.
  • a diaphragm 203 is provided between the broadband light source 202 and the rotary filter 204.
  • the diaphragm control unit 205 adjusts the area of the opening of the diaphragm 203.
  • the aperture control unit 205 controls the aperture 203 based on the light control signal from the processor device 16.
  • the broadband light source 202 is a xenon lamp, a white LED, or the like, and emits broadband light ranging in wavelength from blue to red.
  • the rotary filter 204 includes a white light filter 210 provided on the inner side closest to the rotation axis, and a specific light filter 212 provided on the outer side of the white light filter 210 (see FIG. 19).
  • the filter switching unit 206 moves the rotary filter 204 in the radial direction. Specifically, when the white light is emitted, the filter switching unit 206 inserts the white light filter 210 into the optical path of the broadband light. When the light (specific light) in a specific wavelength band is emitted, the filter switching unit 206 inserts the filter 212 for specific light into the optical path of the broadband light.
  • the white light filter 210 is provided with a B filter 210 a, a G filter 210 b, and an R filter 210 c along the circumferential direction.
  • the B filter 210a transmits wide band blue light B having a wavelength range of 400 to 500 nm out of the wide band light.
  • the G filter 210 b transmits green light G of the broadband light.
  • the R filter 210c transmits the red light R of the broadband light. Therefore, in the case of emitting white light, blue light B, green light G, and red light R are sequentially emitted as white light by rotating the rotary filter 204.
  • the filter for specific light 212 is provided with a Bn filter 212a and a G filter 212b along the circumferential direction.
  • the Bn filter 212a transmits blue narrow band light Bn of 400 to 450 nm out of wide band light.
  • the G filter 212 b transmits green light G out of the wide band light. Therefore, when the specific light is emitted, the blue narrow band light Bn and the green light G are sequentially irradiated toward the observation target as the specific light by rotating the rotary filter 204.
  • each time the observation target is illuminated with blue light B, green light G, red light R, monochrome The image sensor captures an image of the observation target. An image including a component of white light is generated by the B image, the G image, and the R image obtained by imaging the observation target.
  • the observation object is imaged by a monochrome image sensor, and the Bn image and G image obtained by this imaging.
  • the present invention is applied to an endoscope system for processing an endoscopic image which is one of medical images, but medical images other than endoscopic images are processed.
  • the present invention is also applicable to medical image processing systems.
  • the present invention is also applicable to a diagnosis support apparatus for performing diagnosis support to a user using a medical image.
  • the present invention can be applied to a medical service support apparatus for supporting medical services such as diagnostic reports using medical images.
  • the diagnosis support apparatus 600 is used in combination with a modality such as a medical image processing system 602 or a Picture Archiving and Communication Systems (PACS) 604.
  • a modality such as a medical image processing system 602 or a Picture Archiving and Communication Systems (PACS) 604.
  • the medical service support apparatus 610 includes various inspection apparatuses such as a first medical image processing system 621, a second medical image processing system 622,. Connect via 626.
  • the medical service support device 610 receives medical images from the first to Nth medical image processing systems 621, 622, ..., 623, and supports medical services based on the received medical images.
  • the attention area detection unit 70 the diagnosis support information calculation unit 72, the gaze image generation unit 74, the image synthesis unit 76, the attention area selection unit 78, the observation time measurement unit 79, and the area determination
  • the hardware-like structure of the processing unit (processing unit) that executes various processes such as the unit 80, the learning data generation unit 82, the learning data storage unit 82a, or the specific processing unit 83 is various as shown below. It is a processor.
  • CPU Central Processing Unit
  • FPGA Field Programmable Gate Array
  • PLD Programmable logic device
  • One processing unit may be configured by one of these various types of processors, or a combination of two or more processors of the same or different types (for example, a plurality of FPGAs, a combination of a CPU and an FPGA, a CPU and (A combination of GPUs).
  • a plurality of processing units may be configured by one processor.
  • one processor is configured by a combination of one or more CPUs and software as represented by computers such as clients and servers; There is a form in which this processor functions as a plurality of processing units.
  • SoC system on chip
  • IC integrated circuit
  • circuitry in the form in which circuit elements such as semiconductor elements are combined.

Landscapes

  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Optics & Photonics (AREA)
  • Surgery (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pathology (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Astronomy & Astrophysics (AREA)
  • General Physics & Mathematics (AREA)
  • Endoscopes (AREA)

Abstract

複数の注目領域を検出する場合において、各注目領域に対する判断を、内視鏡を操作するユーザーが直接行うことができる医療画像処理システム、内視鏡システム、診断支援装置、並びに医療業務支援装置を提供する。 医療画像から注目領域を検出する。モニタ(18)は、医療画像において注目領域を表示する。視線検知部(75)は、ユーザーがモニタに向けている視線が、モニタと交差する位置を表す視線ポイントを検出する。注目領域選択部(78)は、複数の注目領域の中から視線ポイントが含まれる第1注目領域を選択する。

Description

医療画像処理システム、内視鏡システム、診断支援装置、及び医療業務支援装置
 本発明は、医療画像から注目領域を検出する医療画像処理システム、内視鏡システム、診断支援装置、及び医療業務支援装置に関する。
 現在の医療分野においては、内視鏡システムに組み込まれる内視鏡用のプロセッサ装置などのように、医療画像を用いる医療画像処理システムが普及している。また、近年においては、医療画像から病変部の可能性のある注目領域を検出し、検出した注目領域に対して画像解析を行うことによって、病態に関する診断支援情報を取得することが行われている。取得した診断支援情報については、モニタなどの表示部に表示することによって、ユーザーに提供される。
 以上のように、注目領域の検出を行う場合には、一般的には、病変部の見落しを避けるために、注目領域の検出レベルを低く設定するようにしている。そのため、病変部については確実に検出することができるようになるものの、正常な部位など、本来、注目領域として検出すべきでない領域も合わせて検出することが多かった。即ち、注目領域として誤って検出される誤検出領域が発生することがあった。
 これに対して、特許文献1では、複数の注目領域を検出した場合において、各注目領域が病変領域として正しい領域か否かの正否判定を行っています。この正否判定の結果に基づき、注目領域の検出に用いた階調値の閾値を更新するようにすることで、誤検出される領域が少なくなるようにしています。
特開2012-249804号公報
 特許文献1では、検出した注目領域に対する正否判定の入力を、キーボードやマウスなどによって行っている。そのため、内視鏡を操作する医師が、正否判定の入力操作を直接操作することは難しく、医師をサポートするスタッフが、正否判定の入力操作を行うことが多かった。
 本発明は、複数の注目領域を検出する場合において、各注目領域に対する判断を、内視鏡を操作するユーザーが直接行うことができる医療画像処理システム、内視鏡システム、診断支援装置、及び医療業務支援装置を提供することを目的とする。
 本発明の医療画像処理システムは、画像取得部と、注目領域検出部と、表示部と、視線検知部と、注目領域先端部とを備える。画像取得部は、観察対象を撮像して得られる医療画像を取得する。注目領域検出部は、医療画像から注目領域を検出する領域検出処理を行う。表示部は、医療画像において注目領域を表示する。注目領域選択部は、ユーザーが表示部に向けている視線が、表示部と交差する位置を表す視線ポイントが含まれる第1注目領域を選択する領域選択処理を行う。
 領域選択処理が行われた場合には、第1注目領域に対しては注目領域として正しく検出された適正領域であると判定し、複数の注目領域のうち第1注目領域以外の第2注目領域に対しては注目領域として誤って検出された誤検出領域であると判定する領域判定処理を行う領域判定部を備えることが好ましい。
 医療画像と領域判定処理の判定結果とを関連付けて、注目領域検出部を学習させるための学習用データを生成する学習用データ生成部を備え、注目領域検出部は、領域検出処理、又は、学習用データを用いて、注目領域の検出精度を上げるための学習処理のいずれかを行うことが好ましい。医療画像と領域判定処理の判定結果とを関連付けて、注目領域検出部を学習させるための学習用データを生成する学習用データ生成部と、学習用データを用いて、注目領域の検出精度を上げるための学習処理が施される特定処理部とを備え、学習処理が行われた場合には、注目領域検出部は、特定処理部と置き換えられることが好ましい。
 注目領域の選択に関するユーザーの操作を受け付ける領域選択操作部を備え、注目領域選択部は、領域選択操作部が操作されたタイミングにおいて視線ポイントが入っている注目領域を、第1注目領域として選択することが好ましい。視線ポイントが注目領域に入っている時間を観察時間として計測する観察時間計測部を備え、注目領域選択部は、観察時間が特定の観察時間を超えた注目領域を、第1注目領域として選択することが好ましい。
 医療画像は、白色帯域の光、又は白色帯域の光として複数の波長帯域の光を照射して得られた通常光画像であることが好ましい。医療画像は、特定の波長帯域の光を照射して得た特殊光画像であり、特定の波長帯域の光は白色帯域よりも狭い帯域であることが好ましい。
 特定の波長帯域は390nm以上450nm以下、または530nm以上550nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、390nm以上450nm以下、または530nm以上550nm以下の波長帯域内にピーク波長を有することが好ましい。特定の波長帯域は可視域の赤色帯域に含まれることが好ましい。特定の波長帯域は、585nm以上615nm以下、または610nm以上730nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、585nm以上615nm以下、または610nm以上730nm以下の波長帯域内にピーク波長を有することが好ましい。
 特定の波長帯域は、酸化ヘモグロビンと還元ヘモグロビンとで吸収係数の異なる波長帯域を含み、かつ、特定の波長帯域の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸収係数の異なる波長帯域にピーク波長を有することが好ましい。特定の波長帯域は、400±10nm、440±10nm、470±10nm、又は600nm以上750nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、400±10nm、440±10nm、470±10nm、又は600nm以上750nm以下の波長帯域にピーク波長を有することが好ましい。
 医療画像は生体内を写した生体内画像であり、生体内画像は、生体内の蛍光物質が発する蛍光の情報を有することが好ましい。蛍光は、ピーク波長が390以上470nm以下の波長待機に含まれる励起光を生体内に照射して得られることが好ましい。
 医療画像は生体内を写した生体内画像であり、特定の波長帯域は赤外光の波長帯域であることが好ましい。特定の波長帯域は、790nm以上820nm以下、又は905nm以上970nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、790nm以上820nm以下、又は905nm以上970nm以下の波長帯域にピーク波長を有することが好ましい。
 医療画像は、白色帯域の光、又は白色帯域の光として複数の波長帯域の光を照射して得られた通常光画像に基づいて得られ、特定の波長帯域の信号を有する特殊光画像であることが好ましい。特定の波長帯域の信号は、通常光画像に含まれるRGBあるいはCMYの色情報に基づく演算により得られることが好ましい。
 医療画像は、白色帯域の光、又は白色帯域の光として複数の波長帯域の光を照射して得られた通常光画像と、特定の波長帯域の光を照射して得られる特殊光画像との少なくとも一方に基づく演算によって得られる演算画像であることが好ましい。
 本発明の内視鏡システムは、内視鏡と、画像取得部と、注目領域検出部と、表示部と、視線検知部と、注目領域選択部とを備える。内視鏡は、観察対象を撮像する。画像取得部は、内視鏡により観察対象を撮像して得られる医療画像を取得する。注目領域検出部は、医療画像から注目領域を検出する領域検出処理を行う。視線検知部は、ユーザーが表示部に向けている視線が、表示部と交差する位置を表す視線ポイントを検出する。注目領域選択部は、複数の注目領域の中から視線ポイントが含まれる第1注目領域を選択する。
 本発明の診断支援装置は、上記記載の本発明の医療画像処理システムを有する診断支援装置。本発明の医療業務支援装置は、上記記載の本発明の医療画像処理システムを有する。
 本発明によれば、複数の注目領域を検出する場合において、各注目領域に対する判断を、内視鏡を操作するユーザーが直接行うことができる。
内視鏡システムの外観図である。 内視鏡システムのブロック図である。 画像処理部の機能を示すブロック図である。 領域検出処理を示す説明図である。 医療画像上の注目領域を示す画像図である。 視線ポイントを示す画像図である。 領域検出画像と視線画像とを合成した合成画像を示す画像図である。 領域選択処理及び領域判定処理を示す説明図である。 学習用データ生成処理を示す説明図である。 学習処理を示す説明図である。 視線検知部を用いて、適正領域である第1注目領域の選択を行う一連の流れを示すフローチャートである。 複数のLEDを備える光源部を示すブロック図である。 複数のLEDを発光して得られる白色光のスペクトルを示すグラフである。 複数のLEDを発光して得られる特定光のスペクトルを示すグラフである。 レーザ光源を備える光源部と蛍光体を示すブロック図である。 レーザ光源及び蛍光体を用いて発光する白色光のスペクトルを示すグラフである。 レーザ光源及び蛍光体を用いて発光する特定光のスペクトルを示すグラフである。 広帯域光源及び回転フィルタを備える光源部を示すブロック図である。 回転フィルタを示す平面図である。 診断支援装置を示すブロック図である。 医療業務支援装置を示すブロック図である。
 図1に示すように、内視鏡システム10は、内視鏡12と、光源装置14と、プロセッサ装置16と、モニタ18と、ユーザーインターフェース19と、を備える。内視鏡12は、観察対象である被写体に照明光を照射し、照明光で照射された被写体を撮像する。光源装置14は、被写体に照射するための照明光を発生する。プロセッサ装置16は、内視鏡システム10のシステム制御及び画像処理等を行う。モニタ18は、プロセッサ装置16から出力された画像を表示する表示部である。ユーザーインターフェース19は、プロセッサ装置16等への設定入力等を行う入力デバイスであり、キーボードKBやマウスMSなどから構成される。なお、ユーザーインターフェース19は、マウスMS、キーボードKBに限定されず、グラフィカルユーザーインターフェースや音声入力、タッチディスプレイなどであってもよい。
 内視鏡12は、被検体内に挿入する挿入部12aと、挿入部12aの基端部分に設けた操作部12bと、挿入部12aの先端側に設けた湾曲部12cと、先端部12dと、を有している。操作部12bのアングルノブ12eを操作することにより、湾曲部12cが湾曲する。湾曲部12cが湾曲することにより、先端部12dが所望の方向に向く。先端部12dには、被写体に向けて空気や水等を噴射する噴射口(図示しない)が設けられている。
 また、操作部12bには、アングルノブ12eの他、ズーム操作部13aが設けられている。ズーム操作部13aを操作することによって、被写体を拡大または縮小して撮像することができる。また、挿入部12aから先端部12dにわたって、処置具などを挿通するための鉗子チャンネル(図示しない)が設けられている。処置具は、鉗子入口12fから鉗子チャンネル内に挿入される。
 図2に示すように、光源装置14は、光源部20と、光源制御部22と、を備える。光源部20は、被写体を照明するための照明光を発光する。光源部20は、1又は複数の光源を備えている。光源制御部22は、光源部20の駆動を制御する。光源制御部22は、光源部20を構成する光源の点灯または消灯のタイミング、及び、点灯時の発光量等をそれぞれ独立に制御する。その結果、光源部20は、発光量や発光タイミングが異なる複数種類の照明光を発光することができる。
 光源部20が発光した照明光は、ライトガイド41に入射する。ライトガイド41は、内視鏡12及びユニバーサルコード(図示しない)内に内蔵されており、照明光を内視鏡12の先端部12dまで伝搬する。ユニバーサルコードは、内視鏡12と光源装置14及びプロセッサ装置16とを接続するコードである。なお、ライトガイド41としては、マルチモードファイバを使用できる。一例として、コア径105μm、クラッド径125μm、外皮となる保護層を含めた径がφ0.3~0.5mmの細径なファイバケーブルを使用できる。
 内視鏡12の先端部12dには、照明光学系30aと撮像光学系30bが設けられている。照明光学系30aは、照明レンズ45を有しており、この照明レンズ45を介して照明光が被写体に向けて出射する。撮像光学系30bは、対物レンズ46、ズームレンズ47、及びイメージセンサ48を有している。イメージセンサ48は、対物レンズ46及びズームレンズ47を介して、被写体から戻る照明光の反射光等(反射光の他、散乱光、被写体が発する蛍光、または、被写体に投与等した薬剤に起因した蛍光等を含む)を用いて被写体を撮像する。ズームレンズ47は、ズーム操作部13aの操作をすることで移動し、イメージセンサ48を用いて撮像する被写体を拡大または縮小する。
 イメージセンサ48は、例えば原色系のカラーフィルタを有するカラーセンサであり、青色カラーフィルタを有するB画素(青色画素)、緑色カラーフィルタを有するG画素(緑色画素)、及び、赤色カラーフィルタを有するR画素(赤色画素)の3種類の画素を備える。青色カラーフィルタは、主として紫色から青色の光を透過する。緑色カラーフィルタは、主として緑色の光。赤色カラーフィルタは、主として赤色の光を透過する。上記のように原色系のイメージセンサ48を用いて被写体を撮像すると、最大で、B画素から得るB画像(青色画像)、G画素から得るG画像(緑色画像)、及び、R画素から得るR画像(赤色画像)の3種類の画像を同時に得ることができる。
 なお、イメージセンサ48としては、CCD(Charge Coupled Device)センサや、CMOS(Complementary Metal Oxide Semiconductor)センサを利用可能である。また、本実施形態のイメージセンサ48は、原色系のカラーセンサであるが、補色系のカラーセンサを用いることもできる。補色系のカラーセンサは、例えば、シアンカラーフィルタが設けられたシアン画素、マゼンタカラーフィルタが設けられたマゼンタ画素、イエローカラーフィルタが設けられたイエロー画素、及び、グリーンカラーフィルタが設けられたグリーン画素を有する。補色系カラーセンサを用いる場合に上記各色の画素から得る画像は、補色-原色色変換をすれば、B画像、G画像、及びR画像に変換できる。また、カラーセンサの代わりに、カラーフィルタを設けていないモノクロセンサをイメージセンサ48として使用できる。この場合、BGR等各色の照明光を用いて被写体を順次撮像することにより、上記各色の画像を得ることができる。
 プロセッサ装置16は、中央制御部52と、画像取得部54と、画像処理部61と、表示制御部66とを有する。中央制御部52は、照明光の照射タイミングと撮像のタイミングの同期制御等の内視鏡システム10の統括的な制御を行う。また、ユーザーインターフェース19等を用いて、各種設定の入力等をした場合には、中央制御部52は、入力された各種設定を、光源制御部22、イメージセンサ48、または画像処理部61等の内視鏡システム10の各部に入力する。
 画像取得部54は、イメージセンサ48から、被写体を撮像した画像を取得する。この画像取得部54で取得する画像は、内視鏡12のような医療用装置により得られた画像であることから、医療画像と称する。画像取得部54は、DSP(Digital Signal Processor)56と、ノイズ低減部58と、変換部59と、を有し、これらを用いて、取得した医療画像に必要に応じて各種処理を施す。DSP56は、取得した医療画像に対し、必要に応じて欠陥補正処理、オフセット処理、ゲイン補正処理、リニアマトリクス処理、ガンマ変換処理、デモザイク処理、及びYC変換処理等の各種処理を施す。
 欠陥補正処理は、イメージセンサ48の欠陥画素に対応する画素の画素値を補正する処理である。オフセット処理は、欠陥補正処理を施した画像から暗電流成分を低減し、正確な零レベルを設定する処理である。ゲイン補正処理は、オフセット処理をした画像にゲインを乗じることにより各画像の信号レベルを整える処理である。リニアマトリクス処理は、オフセット処理をした画像の色再現性を高める処理であり、ガンマ変換処理は、リニアマトリクス処理後の画像の明るさや彩度を整える処理である。
 なお、イメージセンサ48がカラーセンサである場合には、デモザイク処理が行われる。デモザイク処理(等方化処理や同時化処理とも言う)は、欠落した画素の画素値を補間する処理であり、ガンマ変換処理後の画像に対して施す。欠落した画素とは、カラーフィルタの配列に起因して(イメージセンサ48において他の色の画素を配置しているため)、画素値がない画素である。例えば、B画像はB画素において被写体を撮像して得る画像なので、G画素やR画素に対応する位置の画素には画素値がない。デモザイク処理は、B画像を補間して、イメージセンサ48のG画素及びR画素の位置にある画素の画素値を生成する。YC変換処理は、デモザイク処理後の画像を、輝度チャンネルYと色差チャンネルCb及び色差チャンネルCrに変換する処理である。
 ノイズ低減部58は、輝度チャンネルY、色差チャンネルCb及び色差チャンネルCrに対して、例えば、移動平均法またはメディアンフィルタ法等を用いてノイズ低減処理を施す。変換部59は、ノイズ低減処理後の輝度チャンネルY、色差チャンネルCb及び色差チャンネルCrを再びBGRの各色の画像に再変換する。
 画像処理部61は、画像取得部54が取得した医療画像に対して各種の画像処理を施す。また、画像処理部61は、医療画像から注目領域の検出を行い、検出した注目領域から観察対象の診断を支援するための診断支援情報を算出する。注目領域の検出及び診断支援情報の算出については後述する。表示制御部66は、画像処理部61から送られる医療画像又は診断支援情報を用い、モニタ18での表示に適した形式に変換してモニタ18に出力する。これにより、モニタ18には、医療画像と診断支援情報が少なくとも表示される。
 図3に示すように、画像処理部61は、注目領域検出部70と、診断支援情報算出部72と、視線画像生成部74と、画像合成部76と、注目領域選択部78と、観察時間計測部79と、領域判定部80と、学習用データ生成部82とを備えている。注目領域検出部70は、医療画像から検査または診断の対象として注目すべき注目領域を検出する領域検出処理を行う。注目領域検出部70は、例えば、CNN(Convolutional Neural Network)や、画素勾配特徴を利用したAdaboostから構成される。したがって、注目領域検出部70は、領域検出処理の他、注目領域の検出精度を上げるための学習処理が可能である。領域検出処理又は学習処理のいずれを行うかは、ユーザーインターフェース19の操作によって決定される。
 注目領域検出部70は、領域検出処理を行う場合には、図4に示すように、医療画像が入力されると、この入力された医療画像から注目領域を検出して、注目領域を含む領域検出画像を出力する。領域検出画像には、図5に示すように、病変部の周囲を囲む矩形状の注目領域ROIが表示される。なお、図5では、注目領域ROIの形状を四角(矩形)で表しているが、矩形以外の形状は、例えば、円、楕円などで表してもよい。なお、注目領域検出部70の学習処理については後述する。
 診断支援情報算出部72は、注目領域検出部70で検出された注目領域から各種指標値を算出し、算出した各種指標値に基づいて、病変部の診断を支援するための診断支援情報を算出する。各種指標値としては、血管密度や血管走行パターンなどの血管に関する血管指標値や、腺管構造に関する腺管指標値などが含まれる。診断支援情報としては、例えば、病変部の進行度(ステージ)などが挙げられる。図5に示すように、算出された診断支援情報84は、領域検出画像とともに、注目領域ROIに対応づけられてモニタ18に表示される(図5では「ステージ1」)。
 視線画像生成部74は、図6に示すように、ユーザーがモニタ18に向けている視線が、モニタ18と交差する位置を表す視線ポイントEPを表示する視線画像を生成する。視線ポイントに関する情報は、モニタ18の前面に設けられた視線検知部75からの視線データに基づいて生成される。視線画像においては、一定の時間間隔T1~TN(図6ではN=7。Nの数が大きくなる程、時間的に新しいことを意味する。)において取得した複数の視線ポイントEP(T1)~EP(TN)を表示し、且つ、各視線ポイントEP(T1)~EP(TN)間は、視線の軌跡が分かるように、連結線CLによって連結されている。なお、一定の時間間隔を経た視線ポイントは、視線画像から消去するようにし、代わりに、最新の視線ポイントを表示するようにする。なお、ユーザーの視線が交差するモニタ18の部分には、モニタ18の画面全体の他、画面中のウインドウなど、少なくとも画像情報が表示されている部分が含まれる。
 図7に示すように、画像合成部76は、領域検出画像と視線画像とを合成して合成画像を生成する。この合成画像によって、領域検出画像における注目領域と、ユーザーが現在注視している視線ポイントEPとの位置関係が分かるようになる。例えば、図7に示すように、3つの注目領域ROIx、ROIy、ROIzが表示されている場合、一定の時間間隔内に表示される視線ポイントEPは、注目領域ROIxに集中している。これにより、ユーザーが注視している領域はROIxであることが分かる。
 注目領域選択部78は、複数の注目領域の中から、視線ポイントEPが含まれる第1注目領域を選択する領域選択処理を行う。領域選択処理は、ユーザーによって、注目領域の選択に関する指示が行われたことに基づいて、実行される。ユーザーは、モニタ18に表示された合成画像を参照し、注目すべき領域として正しく検出されていると考える注目領域ROIの中に、視線ポイントEPが入っていることを確認すると、内視鏡12の操作部12bに設けられた領域選択ボタン13b(領域選択操作部)を操作する。これに従って、注目領域選択部78は、領域選択処理を実行する。この領域選択処理の実行により、図8に示すように、領域選択ボタン13bが操作されたタイミングにおいて視線ポイントEPが入っている注目領域ROIxを、第1注目領域として選択する(図8では、第1注目領域として選択されたROIxは二重線で表している。)。以上のように、注目領域の選択に、視線検知部75で検出した視線ポイントEPを用いることによって、内視鏡12を操作する医師が、スタッフのサポート無く、注目すべき領域として正しく検出されていると考える注目領域を選択することができるようになる。
 なお、本実施形態では、領域選択操作部として、領域選択ボタン13bを用いているが、その他、フットスイッチFS(図1参照)や、マイク等を使用した音声認識も用いることができる。また、視線ポイントEPが注目領域に入っている時間を観察時間として、観察時間計測部79(図3参照)によって計測し、その上で、注目領域選択部78が、観察時間計測部79で計測した観察時間が特定の観察時間を超えた注目領域を、第1注目領域として選択するようにしてもよい。
 領域判定部80は、第1注目領域を選択する領域選択処理が行われた場合には、第1注目領域に対しては、注目領域として正しく検出された適正領域であると判定し、第1注目領域以外の第2注目領域に対しては、注目領域として誤って検出された誤検出領域であると判定する領域判定処理を行う。この領域判定処理によって、適正領域と誤検出領域に関する情報を含む正誤判定済み画像が得られる。例えば、図8に示すように、第1注目領域として選択された注目領域ROIxは適正領域であると判定され、第1注目領域として選択されなかった第2注目領域である注目領域ROIy、ROIzは誤検出領域として判定される。
 学習用データ生成部82は、図9に示すように、注目領域検出部70に入力した医療画像と、領域判定部80で得られた正誤判定済み画像とを関連付けて、注目領域検出部70を学習させるための学習用データを生成する学習用データ生成処理を行う。生成された学習用データは、学習用データ記憶部82aに記憶され、注目領域検出部70において学習処理が行われる場合に用いられる。注目領域検出部70は、学習処理を行う場合には、図10に示すように、学習用データ記憶部82aから学習用データを読み出し、この読み出した学習用データに基づいて、領域検出処理の精度を向上させる。また、学習処理は、注目領域検出部70に対して行う他、注目領域検出部70とは異なる他の特定処理部83に対して行って、この学習処理済みの特定処理部を注目領域検出部70に置き換えるようにしてもよい。この置き換え後の特定処理部が注目領域検出部70が機能することになる。
 次に、視線検知部を用いて、適正領域である第1注目領域の選択を行う一連の流れについて、図11に示すフローチャートに沿って説明を行う。観察対象の撮像を行うことにより、医療画像が得られる。この医療画像は注目領域検出部70に入力される。注目領域検出部70は、医療画像の入力に対して、この医療画像から注目領域を検出し、検出した注目領域を含む領域検出画像を出力する。出力された領域検出画像は、医療画像上に重畳してモニタ18に表示される。
 また、ユーザーが視線をモニタ18に向けることにより、ユーザーの視線は視線検知部75により検出される。この視線検知部での検出結果に基づいて、現在から一定時間前にユーザーがモニタ18に向けていた視線を表す視線ポイントが表示された視線画像が得られる。視線画像は領域検出画像と合成され、この合成により得られた合成画像はモニタ18に表示される。ユーザーは、モニタ18に表示された合成画像を参照し、注目すべき領域として正しく検出されていると考える注目領域ROIの中に、視線ポイントEPが入っていることを確認すると、領域選択ボタン13bを操作する。この領域選択ボタン13bが操作されたタイミングにおいて視線ポイントEPが入っている注目領域ROIxを、第1注目領域として選択する。
 第1注目領域の選択後は、第1注目領域に対して、注目領域として正しく検出された適正領域であると判定し、第1注目領域以外の第2注目領域に対しては、注目領域として誤って検出された誤検出領域であると判定する領域判定処理を行う。この領域判定処理によって、適正領域と誤検出領域に関する情報を含む正誤判定済み画像が得られる。この正誤判定済み画像と、注目領域検出部70に入力した医療画像とを互いに関連付けることにより、学習用データを生成する。
 なお、上記実施形態において、診断支援情報算出部72で算出する血管指標値としては、例えば、血管密度、血管太さ、血管の指標値としては、血管の本数、分岐数、分岐角度、分岐点間距離、交差数、太さの変化、間隔、粘膜を基準とした深さ、高低差、傾き、コントラスト、色、色の変化、蛇行度、血液濃度、酸素飽和度、動脈の割合、静脈の割合、投与した色素の濃度、走行パターン、及び血流量などがある。
 血管密度は、画像において特定領域に含まれる血管が占める割合によって表される。血管の太さ(血管径)とは、血管と粘膜の境界線間の距離であり、例えば、検出した血管のエッジから血管の中を通って血管の短手方向に沿って画素数を計数することにより計数する。したがって、血管の太さは画素数であるが、医療画像を撮影した際の撮影距離やズーム倍率等が既知の場合には、必要に応じて「μm」等の長さの単位に換算可能である。
 血管の本数とは、医療画像全体または注目領域内で検出した血管の数である。血管の本数は、例えば、検出した血管の分岐点の個数(分岐数)や他の血管との交差点の個数(交差数)等を用いて算出する。血管の分岐角度は、2本の血管が分岐点においてなす角度である。分岐点間距離は、任意の分岐点とその隣の分岐点の直線距離、または、任意の分岐点とその隣の分岐点までの血管に沿った長さである。
 血管の交差数とは、粘膜下の深さが異なる血管が医療画像上で交差する交差点の個数である。より具体的には、血管の交差数とは、相対的に粘膜下の浅い位置にある血管が、深い位置にある血管を横切る数である。
 血管の太さの変化とは、血管の太さのばらつきに関する血管情報であり、口径不同度ともいう。血管の太さの変化は、例えば、血管径の変化率(拡張度ともいう)である。血管径の変化率は、血管の最も細い部分の太さ(最小径)と血管の最も太い部分の太さ(最大径)を用いて、「血管径の変化率(%)=最小径/最大径×100」で求める。
 なお、過去の検査で観察対象を撮影して得た医療画像と、その後の新たな検査で同じ観察対象を撮影して得た医療画像と、を用いる場合、過去の検査で得た医療画像から検出した血管の太さに対して、その後の新たな検査で得た医療画像から検出した同じ血管の太さの時間的な変化を血管の太さの変化としてもよい。
 また、血管の太さの変化として、細径部の割合、または太径部の割合を算出しても良い。細径部とは太さが閾値以下の部分であり、太径部とは太さが閾値よりも太い部分である。細径部の割合は、「細径部の割合(%)=細径部の長さ/血管の長さ×100」で求める。同様に、太径部の割合は、「太径部の割合(%)=太径部の長さ/血管の長さ×100」で求める。
 血管の太さの変化の複雑度(以下、「太さ変化の複雑度」という)は、血管の太さ変化している場合に、その変化がどの程度複雑であるかを表す血管情報であり、血管の太さの変化を表す血管情報(すなわち血管径の変化率、細径部の割合、または太径部の割合)を複数組み合わせて算出する血管情報である。太さ変化の複雑度は、例えば、血管径の変化率と細径部の割合の積で求めることができる。
 血管の長さとは、検出した血管の長手方向に沿って計数した画素数である。
 血管の間隔とは、検出した血管のエッジ間にある粘膜を表す画素の画素数である。検出した血管が1本の場合、血管の間隔は値を持たない。
 血管の深さは、粘膜(より具体的には粘膜の表面)を基準として測る。この粘膜を基準とした血管の深さは、例えば、血管の色に基づいて算出することができる。特殊観察画像の場合、粘膜の表面に近い位置にある血管はマゼンタ系の色で表され、粘膜の表面から遠く、粘膜下の深い位置にある血管はシアン系の色で表されるので、血管として検出した画素のR,G,B各色の信号のバランスに基づいて、粘膜を基準とした血管の深さを画素毎に算出する。
 血管の高低差とは、血管の深さの差の大きさである。例えば、注目する1本の血管の高低差は、この血管の最も深い箇所の深さ(最大深さ)と、最も浅い箇所の深さ(最小深さ)の差で求める。深さが一定の場合、高低差は零である。
 血管の傾きとは、血管の深さの変化率であり、血管の長さと血管の深さを用いて算出する。すなわち、血管の傾きは、「血管の傾き=血管の深さ/血管の長さ」で求める。なお、血管を複数の区間に区切り、各区間で血管の傾きを算出してもよい。
 血管の面積は、血管として検出した画素の画素数、または、血管として検出した画素の画素数に比例する値である。血管の面積は、注目領域内、注目領域外、または、医療画像全体について算出する。
 血管のコントラストとは、観察対象の粘膜に対する相対的なコントラストである。血管のコントラストは、血管の輝度YVと、粘膜の輝度YMと、を用いて、例えば「YV/YM」または「(YV-YM)/(YV+YM)」で算出する。
 血管の色とは、血管を表す画素のRGBの各値である。そして、血管の色の変化とは、血管を表す画素のRGB各値の各々の最大値と最小値の差または比である。例えば、血管を表すB画素の画素値の最大値と最小値の比、G画素の画素値の最大値と最小値の比、またはR画素の画素値の最大値と最小値の比は、血管の色の変化を表す。もちろん、補色に変換して、シアン、マゼンタ、イエロー、グリーン等の各値について血管の色及び血管の色の変化を算出しても良い。
 血管の蛇行度とは、血管が蛇行して走行する範囲の広さを表す血管情報である。血管の蛇行度は、例えば、蛇行度を算出する血管を含む最小の長方形の面積(画素数)である。また、血管の始点と終点の直線距離に対する血管の長さの比を血管の蛇行度としても良い。
 血管の血液濃度とは、血管が含むヘモグロビンの量に比例する血管情報である。血管を表すR画素の画素値に対するG画素の画素値の比(G/R)はヘモグロビンの量に比例するので、G/Rの値を算出することで、画素ごとに血液濃度を算出することができる。
 血管の酸素飽和度とは、ヘモグロビンの総量(酸化ヘモグロビン及び還元ヘモグロビンの総量)に対する酸化ヘモグロビンの量である。酸素飽和度は、酸化ヘモグロビンと還元ヘモグロビンの吸光係数に違いが大きい特定の波長帯域の光(例えば、波長470±10nm程度の青色光)で観察対象を撮影した医療画像を用いて算出することができる。波長470±10nm程度の青色光を用いる場合、血管を表すB画素の画素値は酸素飽和度と相関があるので、B画素の画素値を酸素飽和度に対応付けるテーブル等を用いることで、血管を表す各画素の酸素飽和度を算出することができる。
 動脈の割合とは、全血管の画素数に対する動脈の画素数の割合である。同様に、静脈の割合とは、全血管の画素数に対する静脈の画素数の割合である。動脈と静脈は、酸素飽和度によって区別することができる。例えば、酸素飽和度が70%以上の血管を動脈とし、酸素飽和度が70%未満の血管を静脈とすれば、検出した血管を動脈と静脈に分けられるので、上記動脈の割合及び静脈の割合を算出するするこができる。
 投与した色素の濃度とは、観察対象に対して散布した色素、または静脈注射により血管に注入した色素の濃度である。投与した色素の濃度は、例えば、色素色以外の画素の画素値に対する色素色の画素値の割合で算出する。例えば、青色に着色する色素を投与した場合は、B画像とG画像の比率B/Gや、B画像とR画像の比率B/R等が、観察対象に定着(あるいは一時的に付着)した色素の濃度を表す。
 血管の走行パターンとは、血管の走行方向に関する血管情報である。血管の走行パターンは、例えば、任意に設定する基準線に対する血管の平均角度(走行方向)や、任意に設定する基準線に対して血管がなす角度の分散(走行方向のばらつき)等である。
 血管の血流量(血流速度ともいう)は、単位時間あたりに赤血球が通り抜ける数である。超音波プローブを内視鏡12の鉗子チャンネル等を介して併用する場合等に、医療画像の血管を表す各画素のドップラーシフト周波数を、超音波プローブで得る信号を用いて算出する、血管の血流量を求めるができる。
 なお、上記実施形態では、医療画像の一つである内視鏡画像の処理を行う内視鏡システムに対して、本発明の適用を行っているが、内視鏡画像以外の医療画像を処理する医療画像処理システムに対しても本発明の適用は可能である。また、医療画像を用いてユーザーに診断支援を行うための診断支援装置に対しても本発明の適用は可能である。また、医療画像を用いて、診断レポートなどの医療業務を支援するための医療業務支援装置に対しても本発明の適用は可能である。
 なお、上記実施形態では、図12に示すように、光源部20として、V-LED(Violet Light Emitting Diode)20a、B-LED(Blue Light Emitting Diode)20b、G-LED(Green Light Emitting Diode)20c、及びR-LED(Red Light Emitting Diode)20dの4色のLEDと、波長カットフィルタ23とを用いて、照明光の発光を行うことが好ましい。
 V-LED20aは、波長帯域380nm~420nmの紫色光Vを発する。B-LED20bは、波長帯域420nm~500nmの青色光Bを発する。B-LED23bから出射した青色光Bのうち少なくともピーク波長の450nmよりも長波長側は、波長カットフィルタ23によりカットされる。これにより、波長カットフィルタ23を透過した後の青色光Bxは、420~460nmの波長範囲になる。このように、460nmよりも長波長側の波長域の光をカットしているのは、この460nmよりも長波長側の波長域の光は、観察対象である血管の血管コントラストを低下させる要因であるためである。なお、波長カットフィルタ23は、460nmよりも長波長側の波長域の光をカットする代わりに、460nmよりも長波長側の波長域の光を減光させてもよい。G-LED20cは、波長帯域が480nm~600nmに及ぶ緑色光Gを発する。R-LED20dは、波長帯域が600nm~650nmに及び赤色光Rを発する。
 白色帯域の光(白色光)を発光する場合、V-LED20a、B-LED20b、G-LED20c、及びR-LED20dを全て点灯させる。これにより、図13に示すように、光源装置14から、紫色光V、青色光Bx、緑色光G、及び赤色光Rを含む白色光が発せられる。白色光は、青色帯域から赤色帯域まで一定以上の強度を有しているため、ほぼ白色となっている。特定の波長帯域の光(特定光)として、440±10nmの波長帯域にピーク波長を有する特定光を発光する場合、例えば、図14に示すように、青色光Bxの発光量が、紫色光V、緑色光G、及び赤色光Rのいずれの発光量よりも大きくなる特定光が発せられる。
 また、上記実施形態では、レーザ光源と蛍光体を用いて、照明光の発光を行うようにしてもよい。この場合には、図15に示すように、光源部20には、ピーク波長445±10nmの青色レーザ光を発する青色レーザ光源(「445LD」と表記。LDは「Laser Diode」を表す)104と、ピーク波長405±10nmの青紫色レーザ光を発する青紫色レーザ光源(「405LD」と表記)106とが設けられている。
 照明光学系30aには、照明レンズ32の他に、ライトガイド24からの青色レーザ光又は青紫色レーザ光が入射する蛍光体110が設けられている。蛍光体110は、青色レーザ光によって励起され、蛍光を発する。また、青色レーザ光の一部は、蛍光体110を励起させることなく透過する。青紫色レーザ光は、蛍光体110を励起させることなく透過する。蛍光体110を出射した光は、照明レンズ32を介して、観察対象の体内を照明する。
 ここで、白色光を発光する場合には、青色レーザ光源104が点灯して、主として青色レーザ光が蛍光体110に入射するため、図16に示すような、青色レーザ光、及び青色レーザ光により蛍光体110から励起発光する蛍光を合波した白色光が発せられる。一方、特定の波長帯域の光(特定光)として、440±10nmの波長帯域にピーク波長を有する特定光を発光する場合には、青色レーザ光源104及び青紫色レーザ光源106が点灯して、青紫色レーザ光と青色レーザ光の両方を蛍光体110に入射させる。これにより、図17に示すような、青紫色レーザ光、青色レーザ光、及び青色レーザ光により蛍光体110から励起発光する蛍光を合波した特定光が発せられる。
 なお、青色レーザ光又は青紫色レーザ光の半値幅は±10nm程度にすることが好ましい。また、青色レーザ光源104及び青紫色レーザ光源106は、ブロードエリア型のInGaN系レーザダイオードが利用でき、また、InGaNAs系レーザダイオードやGaNAs系レーザダイオードを用いることもできる。また、上記光源として、発光ダイオードなどの発光体を用いた構成としてもよい。
 なお、蛍光体110は、青色レーザ光の一部を吸収して、緑色~黄色に励起発光する複数種の蛍光体(例えばYAG系蛍光体、或いはBAM(BaMgAl1017)などの蛍光体)を含んで構成されるものを使用することが好ましい。本構成例のように、半導体発光素子を蛍光体110の励起光源として用いれば、高い発光効率で高強度の白色光が得られ、白色光の強度を容易に調整できる上に、白色光の色温度、色度の変化を小さく抑えることができる。
 また、上記実施形態では、キセノンランプ等の広帯域光源と回転フィルタを用いて、照明光の発光を行うようにしてもよい。この場合には、図18に示すように、光源部20には、広帯域光源202と、回転フィルタ204と、フィルタ切替部206とが設けられている。また、広帯域光源202と回転フィルタ204との間には絞り203が設けられており、この絞り203は絞り制御部205によって開口部の面積が調整される。絞り制御部205は、プロセッサ装置16からの調光信号に基づいて絞り203の制御を行う。
 広帯域光源202はキセノンランプや白色LED等であり、波長域が青色から赤色に及ぶ広帯域光を発する。回転フィルタ204は、回転軸に一番近い内側に設けた白色光用フィルタ210と、この白色光用フィルタ210の外側に設けた特定光用フィルタ212とを備えている(図19参照)。
 フィルタ切替部206は、回転フィルタ204を径方向に移動する。具体的には、フィルタ切替部206は、白色光を発光する場合に、白色光用フィルタ210を広帯域光の光路に挿入する。フィルタ切替部206は、特定の波長帯域の光(特定光)を発光する場合に、特定光用フィルタ212を広帯域光の光路に挿入する。
 図19に示すように、白色光用フィルタ210には、周方向に沿って、Bフィルタ210aと、Gフィルタ210bと、Rフィルタ210cとが設けられている。Bフィルタ210aは、広帯域光のうち400~500nmの波長範囲を持つ広帯域の青色光Bを透過する。Gフィルタ210bは、広帯域光のうち緑色光Gを透過する。Rフィルタ210cは、広帯域光のうち赤色光Rを透過する。したがって、白色光を発光する場合には、回転フィルタ204が回転することで、白色光として、青色光B、緑色光G、赤色光Rが順次照射される。
 特定光用フィルタ212には、周方向に沿って、Bnフィルタ212aと、Gフィルタ212bとが設けられている。Bnフィルタ212aは、広帯域光のうち400~450nmの青色狭帯域光Bnを透過する。Gフィルタ212bは、広帯域光のうち緑色光Gを透過する。したがって、特定光を発光する場合には、回転フィルタ204が回転することで、特定光として、青色狭帯域光Bn、緑色光Gが、観察対象に向けて、順次照射される。
 キセノンランプ等の広帯域光源と回転フィルタを用いて、照明光の発光を行う場合には、白色光の照明時には、青色光B、緑色光G、赤色光Rで観察対象を照明する毎にモノクロのイメージセンサで観察対象を撮像する。この観察対象の撮像により得られるB画像、G画像、R画像によって、白色光の成分を備える画像を生成する。また、特定光の照明時には、青色狭帯域光Bn、緑色光Gで観察対象を照明する毎にモノクロのイメージセンサで観察対象を撮像し、この撮像により得られるBn画像、G画像によって、特定光の成分を備える画像を生成する。
 なお、上記実施形態では、医療画像の一つである内視鏡画像の処理を行う内視鏡システムに対して、本発明の適用を行っているが、内視鏡画像以外の医療画像を処理する医療画像処理システムに対しても本発明の適用は可能である。また、医療画像を用いてユーザーに診断支援を行うための診断支援装置に対しても本発明の適用は可能である。また、医療画像を用いて、診断レポートなどの医療業務を支援するための医療業務支援装置に対しても本発明の適用は可能である。
 例えば、図20に示すように、診断支援装置600は、医療画像処理システム602などのモダリティやPACS(Picture Archiving and Communication Systems)604を組み合わせて使用される。また、図21に示すように、医療業務支援装置610は、第1医療画像処理システム621、第2医療画像処理システム622、…、第N医療画像処理システム623等の各種検査装置と任意のネットワーク626を介して接続する。医療業務支援装置610は、第1~第N医療画像処理システム621、622・・・、623からの医療画像を受信し、受信した医療画像に基づいて、医療業務の支援を行う。
 上記実施形態において、画像処理部61に含まれる注目領域検出部70、診断支援情報算出部72、視線画像生成部74、画像合成部76、注目領域選択部78、観察時間計測部79、領域判定部80、学習用データ生成部82、学習用データ記憶部82a、又は特定処理部83といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA (Field Programmable Gate Array) などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、各種の処理を実行するために専用に設計された回路構成を有するプロセッサである専用電気回路、GPU(Graphical Processing Unit)などが含まれる。
 1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGAや、CPUとFPGAの組み合わせ、CPUとGPUの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
 さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路(circuitry)である。
10 内視鏡システム
12 内視鏡
12a 挿入部
12b 操作部
12c 湾曲部
12d 先端部
12e アングルノブ
12f 鉗子入口
13a ズーム操作部
13b 領域選択ボタン
14 光源装置
16 プロセッサ装置
18 モニタ
19 ユーザーインターフェース
20 光源部
20a V-LED(Violet Light Emitting Diode)
20b B-LED(Blue Light Emitting Diode)
20c G-LED(Green Light Emitting Diode)
20d R-LED(Red Light Emitting Diode)
22 光源制御部
23 波長カットフィルタ
24 ライトガイド
30a 照明光学系
30b 撮像光学系
32 照明レンズ
41 ライトガイド
45 照明レンズ
46 対物レンズ
47 ズームレンズ
48 イメージセンサ
52 中央制御部
54 画像取得部
56 DSP(Digital Signal Processor)
58 ノイズ低減部
59 変換部
61 画像処理部
66 表示制御部
70 注目領域検出部
72 診断支援情報算出部
74 視線画像生成部
75 視線検知部
76 画像合成部
78 注目領域選択部
80 領域判定部
82 学習用データ生成部
82a 学習用データ記憶部
84 診断支援情報
104 青色レーザ光源
106 青紫色レーザ光源
110 蛍光体
202 広帯域光源
204 回転フィルタ
205 制御部
206 フィルタ切替部
210 白色光用フィルタ
210a Bフィルタ
210b Gフィルタ
210c Rフィルタ
212 特定光用フィルタ
212a Bnフィルタ
212b Gフィルタ
600 診断支援装置
602 医療画像処理システム
604 PACS
610 医療業務支援装置
621 第1医療画像処理システム
622 第2医療画像処理システム
623 第N医療画像処理システム
626 ネットワーク

Claims (15)

  1.  観察対象を撮像して得られる医療画像を取得する画像取得部と、
     前記医療画像から注目領域を検出する領域検出処理を行う注目領域検出部と、
     前記医療画像において注目領域を表示する表示部と、
     ユーザーが前記表示部に向けている視線が、前記表示部と交差する位置を表す視線ポイントを検出する視線検知部と、
     複数の注目領域の中から前記視線ポイントが含まれる第1注目領域を選択する領域選択処理を行う注目領域選択部とを備える医療画像処理システム。
  2.  前記領域選択処理が行われた場合には、前記第1注目領域に対しては前記注目領域として正しく検出された適正領域であると判定し、前記複数の注目領域のうち前記第1注目領域以外の第2注目領域に対しては前記注目領域として誤って検出された誤検出領域であると判定する領域判定処理を行う領域判定部を備える請求項1記載の医療画像処理システム。
  3.  前記医療画像と前記領域判定処理の判定結果とを関連付けて、前記注目領域検出部を学習させるための学習用データを生成する学習用データ生成部を備え、
     前記注目領域検出部は、前記領域検出処理、又は、前記学習用データを用いて、前記注目領域の検出精度を上げるための学習処理のいずれかを行う請求項2記載の医療画像処理システム。
  4.  前記医療画像と前記領域判定処理の判定結果とを関連付けて、前記注目領域検出部を学習させるための学習用データを生成する学習用データ生成部と、
     前記学習用データを用いて、前記注目領域の検出精度を上げるための学習処理が施される特定処理部とを備え、
     前記学習処理が行われた場合には、前記注目領域検出部は、前記特定処理部と置き換えられる請求項2記載の医療画像処理システム。
  5.  前記注目領域の選択に関するユーザーの操作を受け付ける領域選択操作部を備え、
     前記注目領域選択部は、
     前記領域選択操作部が操作されたタイミングにおいて前記視線ポイントが入っている注目領域を、前記第1注目領域として選択する請求項1ないし4いずれか1項記載の医療画像処理システム。
  6.  前記視線ポイントが前記注目領域に入っている時間を観察時間として計測する観察時間計測部を備え、
     前記注目領域選択部は、前記観察時間が特定の観察時間を超えた注目領域を、第1注目領域として選択する請求項1ないし4いずれか1項記載の医療画像処理システム。
  7.  前記医療画像は、白色帯域の光、又は前記白色帯域の光として複数の波長帯域の光を照射して得られた通常光画像である請求項1ないし6いずれか1項記載の医療画像処理システム。
  8.  前記医療画像は、特定の波長帯域の光を照射して得た特殊光画像であり、
     前記特定の波長帯域の光は白色帯域よりも狭い帯域である請求項1ないし6いずれか1項記載の医療画像処理システム。
  9.  前記医療画像は生体内を写した生体内画像であり、
     前記生体内画像は、生体内の蛍光物質が発する蛍光の情報を有する請求項1ないし6いずれか1項記載の医療画像処理システム。
  10.  前記医療画像は生体内を写した生体内画像であり、
     前記生体内画像は赤外光の波長帯域を有する請求項1ないし6いずれか1項記載の医療画像処理システム。
  11.  前記医療画像は、白色帯域の光、又は前記白色帯域の光として複数の波長帯域の光を照射して得られた通常光画像に基づいて得られ、特定の波長帯域の信号を有する特殊光画像である請求項1ないし6いずれか1項記載の医療画像処理システム。
  12.  前記医療画像は、白色帯域の光、又は前記白色帯域の光として複数の波長帯域の光を照射して得られた通常光画像と、特定の波長帯域の光を照射して得られる特殊光画像との少なくとも一方に基づく演算によって得られる演算画像である請求項1ないし6いずれか1項記載の医療画像処理システム。
  13.  観察対象を撮像する内視鏡と、
     前記内視鏡により観察対象を撮像して得られる医療画像を取得する画像取得部と、
     前記医療画像から注目領域を検出する領域検出処理を行う注目領域検出部と、
     前記医療画像において注目領域を表示する表示部と、
     ユーザーが前記表示部に向けている視線が、前記表示部と交差する位置を表す視線ポイントを検出する視線検知部と、
     複数の注目領域の中から前記視線ポイントが含まれる第1注目領域を選択する領域選択処理を行う注目領域選択部とを備える内視鏡システム。
  14.  請求項1ないし12いずれか1項記載の医療画像処理システムを有する診断支援装置。
  15.  請求項1ないし12いずれか1項記載の医療画像処理システムを有する医療業務支援装置。
PCT/JP2018/039771 2017-10-26 2018-10-25 医療画像処理システム、内視鏡システム、診断支援装置、及び医療業務支援装置 WO2019082993A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019550301A JP6850358B2 (ja) 2017-10-26 2018-10-25 医療画像処理システム、内視鏡システム、診断支援装置、及び医療業務支援装置

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017207059 2017-10-26
JP2017-207059 2017-10-26

Publications (1)

Publication Number Publication Date
WO2019082993A1 true WO2019082993A1 (ja) 2019-05-02

Family

ID=66247481

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/039771 WO2019082993A1 (ja) 2017-10-26 2018-10-25 医療画像処理システム、内視鏡システム、診断支援装置、及び医療業務支援装置

Country Status (2)

Country Link
JP (1) JP6850358B2 (ja)
WO (1) WO2019082993A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2021029293A1 (ja) * 2019-08-13 2021-02-18

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012249804A (ja) * 2011-06-02 2012-12-20 Olympus Corp 蛍光観察装置
JP2015100479A (ja) * 2013-11-22 2015-06-04 日立アロカメディカル株式会社 超音波画像処理装置
JP2015136397A (ja) * 2014-01-20 2015-07-30 富士フイルム株式会社 内視鏡システム用プロセッサ装置、内視鏡システム、内視鏡システム用プロセッサ装置の作動方法、内視鏡システムの作動方法
JP2016067778A (ja) * 2014-09-30 2016-05-09 富士フイルム株式会社 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
WO2017038241A1 (ja) * 2015-08-28 2017-03-09 富士フイルム株式会社 機器操作装置、機器操作方法、及び電子機器システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012249804A (ja) * 2011-06-02 2012-12-20 Olympus Corp 蛍光観察装置
JP2015100479A (ja) * 2013-11-22 2015-06-04 日立アロカメディカル株式会社 超音波画像処理装置
JP2015136397A (ja) * 2014-01-20 2015-07-30 富士フイルム株式会社 内視鏡システム用プロセッサ装置、内視鏡システム、内視鏡システム用プロセッサ装置の作動方法、内視鏡システムの作動方法
JP2016067778A (ja) * 2014-09-30 2016-05-09 富士フイルム株式会社 内視鏡システム、プロセッサ装置、内視鏡システムの作動方法、及びプロセッサ装置の作動方法
WO2017038241A1 (ja) * 2015-08-28 2017-03-09 富士フイルム株式会社 機器操作装置、機器操作方法、及び電子機器システム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2021029293A1 (ja) * 2019-08-13 2021-02-18
WO2021029293A1 (ja) * 2019-08-13 2021-02-18 富士フイルム株式会社 医用画像処理装置、内視鏡システム、及び医用画像処理方法

Also Published As

Publication number Publication date
JPWO2019082993A1 (ja) 2020-11-12
JP6850358B2 (ja) 2021-03-31

Similar Documents

Publication Publication Date Title
JP6785941B2 (ja) 内視鏡システム及びその作動方法
US11426054B2 (en) Medical image processing system, endoscope system, diagnosis support apparatus, and medical service support apparatus
US11062442B2 (en) Vascular information acquisition device, endoscope system, and vascular information acquisition method
US10231658B2 (en) Endoscope system, processor device for endoscope system, operation method for endoscope system, and operation method for processor device
JP6785948B2 (ja) 医療用画像処理装置及び内視鏡システム並びに医療用画像処理装置の作動方法
JP6538634B2 (ja) プロセッサ装置及び内視鏡システム並びにプロセッサ装置の作動方法
US20210153730A1 (en) Endoscope system
JP7190597B2 (ja) 内視鏡システム
WO2019012911A1 (ja) 医療画像処理装置、内視鏡システム、診断支援装置、並びに医療業務支援装置
JP6796725B2 (ja) 医療画像処理システム、内視鏡システム、診断支援装置、及び医療業務支援装置
JP7059297B2 (ja) 医療画像処理装置
JP6724154B2 (ja) プロセッサ装置及び内視鏡システム並びにプロセッサ装置の作動方法
JP6924837B2 (ja) 医療画像処理システム、内視鏡システム、診断支援装置、並びに医療業務支援装置
WO2018159082A1 (ja) 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
JP6850358B2 (ja) 医療画像処理システム、内視鏡システム、診断支援装置、及び医療業務支援装置
US20190246874A1 (en) Processor device, endoscope system, and method of operating processor device

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18871403

Country of ref document: EP

Kind code of ref document: A1

DPE1 Request for preliminary examination filed after expiration of 19th month from priority date (pct application filed from 20040101)
ENP Entry into the national phase

Ref document number: 2019550301

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18871403

Country of ref document: EP

Kind code of ref document: A1