WO2020039968A1 - 医療画像処理システム - Google Patents

医療画像処理システム Download PDF

Info

Publication number
WO2020039968A1
WO2020039968A1 PCT/JP2019/031432 JP2019031432W WO2020039968A1 WO 2020039968 A1 WO2020039968 A1 WO 2020039968A1 JP 2019031432 W JP2019031432 W JP 2019031432W WO 2020039968 A1 WO2020039968 A1 WO 2020039968A1
Authority
WO
WIPO (PCT)
Prior art keywords
medical image
area
attention area
specific
detection
Prior art date
Application number
PCT/JP2019/031432
Other languages
English (en)
French (fr)
Inventor
喬俊 狩野
Original Assignee
富士フイルム株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルム株式会社 filed Critical 富士フイルム株式会社
Priority to EP19851797.1A priority Critical patent/EP3841954A4/en
Priority to CN201980054345.6A priority patent/CN112584741A/zh
Priority to JP2020538311A priority patent/JP7079849B2/ja
Publication of WO2020039968A1 publication Critical patent/WO2020039968A1/ja
Priority to US17/169,510 priority patent/US20210153722A1/en
Priority to JP2022083825A priority patent/JP7235912B2/ja

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts

Definitions

  • the present invention relates to a medical image processing system that uses an analysis result of a medical image.
  • Patent Literature 1 an attention area in a medical image is detected based on a specific feature amount of the medical image. Then, based on the detection of the attention area, a notification image for notifying that the characteristic area has been detected is displayed outside the screen, and a marker image is added to the characteristic area in the screen.
  • the detection accuracy may be low depending on the detection position of the region of interest.
  • a peripheral region an end portion or the like of the endoscopic image
  • characteristics of an image by a lens a lens having a wide angle of view is generally used
  • the detection accuracy of the attention area in the peripheral area of the endoscope image may be lower than that of another area such as the central area.
  • the detection accuracy of the attention region differs between the central region and the peripheral region, if the detection result in the central region and the detection result in the peripheral region are displayed in the same manner, the doctor may not be able to make an accurate diagnosis. .
  • attention may be paid to a central region corresponding to the traveling direction (retreat direction), but attention may not be paid to a peripheral region outside the central region.
  • the detection result of the region of interest is notified in accordance with the detection accuracy, and the detection result of the region of interest is overlooked by the detection position of the region of interest. It is an object of the present invention to provide a medical image processing system capable of preventing the medical image processing.
  • the medical image processing system of the present invention includes a medical image acquisition unit, a region of interest detection unit, and a display control unit.
  • the medical image acquisition unit acquires a medical image obtained by imaging the observation target.
  • the attention area detection unit detects the attention area from the medical image.
  • the display control unit displays the detection result of the attention area on the display unit in a display mode that differs depending on at least the detection position of the attention area.
  • the region of interest is, for example, a target that the user desires as a region of interest, such as a lesion, a trace of processing, a trace of surgery, a bleeding site, a benign tumor, an inflammation, a marking, or a biopsy performing unit. Is preferred.
  • the medical image is divided into a plurality of areas, and the display mode of the detection result of the attention area is changed depending on which of the plurality of areas includes the detection position of the attention area.
  • the display mode of the detection result of the attention area when the detection location of the attention area is included in the first area of the medical image, and the detection mode of the attention area is included in the second area different from the first area in the medical image It is preferable that the display mode of the detection result of the attention area in is different.
  • the first region is a central region of the medical image
  • the second region is a peripheral region outside the central region of the medical image.
  • the specific position is preferably included in the central region of the medical image.
  • the line thickness of the specific graphic differs depending on the detection position of the attention area.
  • the size of the specific graphic differs depending on the detection position of the attention area.
  • the display time of the specific figure differs depending on the detection position of the attention area.
  • the transmittance of the specific figure differs depending on the detection position of the attention area.
  • the color of the specific color area differs depending on the detection position of the attention area.
  • the display time of the particular color area differs depending on the detection position of the attention area.
  • the detection result of the region of interest is reported in accordance with the detection accuracy, and the detection result of the region of interest is viewed based on the detection position of the region of interest. Dropping can be prevented.
  • FIG. 2 is a block diagram illustrating an image processing system, an endoscope system, and the like. It is a block diagram showing an endoscope system. It is a block diagram showing the function of a medical image analysis processing part. It is an image figure showing a central area and a peripheral area in a medical image.
  • FIG. 11 is an image diagram of a medical image showing that the thickness of a bounding box differs depending on the detection position of a region of interest.
  • FIG. 6 is an image diagram of a medical image different from that of FIG. 5, which is a medical image image showing that a thickness of a bounding box differs depending on a detection position of an attention area.
  • FIG. 1 is an image diagram illustrating an image processing system, an endoscope system, and the like. It is a block diagram showing an endoscope system. It is a block diagram showing the function of a medical image analysis processing part. It is an image figure showing a central area and a peripheral area in a medical image.
  • FIG. 11 is an image diagram
  • FIG. 11 is an image diagram of a medical image showing that the size of a bounding box differs depending on the detection position of the attention area.
  • FIG. 8 is an image diagram of a medical image different from that of FIG. 7, which is an image diagram of a medical image showing that a size of a bounding box differs depending on a detection position of an attention area.
  • FIG. 9 is an explanatory diagram showing that the display time of the bounding box differs depending on the detection position of the attention area.
  • FIG. 10 is an explanatory diagram different from FIG. 9, showing that the display time of the bounding box differs depending on the detection position of the attention area.
  • FIG. 9 is an image diagram of a medical image showing that the transmittance of the bounding box differs depending on the detection position of the attention area.
  • FIG. 12 is an image diagram of a medical image different from that of FIG. 11, which is a medical image image showing that the transmittance of the bounding box differs depending on the detection position of the attention area.
  • FIG. 9 is an image diagram of a medical image showing that a color of a specific color region differs depending on a detection position of a region of interest.
  • FIG. 9 is an explanatory diagram showing that a display time of a specific color region differs depending on a detection position of a region of interest.
  • FIG. 15 is an explanatory diagram different from FIG. 14, showing that the display time of a specific color region differs depending on the detection position of the attention region.
  • FIG. 5 is an image diagram of a medical image showing a specific position SP, a detection position DP of a region of interest, and a specific distance L. It is a diagnosis support device including an image processing system. It is a medical service support device including an image processing system.
  • the image processing system 10 includes a medical image acquisition unit 11, a medical image analysis processing unit 12, a display unit 13, a display control unit 15, an input reception unit 16, an overall control unit 17, and a storage unit 18. Is provided.
  • the medical image acquisition unit 11 receives a medical image including a subject image directly from an endoscope system 21 or the like, which is a medical device, or through a management system such as a PACS (Picture Archiving and Communication System) 22 or other information systems. To get.
  • the medical image is a still image or a moving image (a so-called inspection moving image).
  • the medical image acquiring unit 11 can acquire a frame image forming the moving image as a still image after the examination.
  • displaying the medical image includes displaying the still image of one representative frame constituting the moving image and reproducing the moving image one or more times.
  • the medical image acquired by the medical image acquisition unit 11 includes, in addition to an image photographed by a doctor using a medical device such as the endoscope system 21, a medical device such as the endoscope system 21 in response to a doctor's photographing instruction. Includes images taken automatically regardless of In this embodiment, since the image processing system 10 and the endoscope system 21 perform image processing using medical images, both the image processing system 10 and the endoscope system 21 correspond to a medical image processing system. .
  • the medical image obtaining unit 11 can selectively obtain one or a plurality of medical images among these medical images. Further, the medical image acquisition unit 11 can acquire a plurality of medical images acquired in a plurality of different examinations. For example, one or both of a medical image obtained by a test performed in the past and a medical image obtained by the latest test can be obtained. That is, the medical image acquisition unit 11 can arbitrarily acquire a medical image.
  • a plurality of medical images including a subject image are acquired. More specifically, when a medical image taken in one specific examination is acquired, and there are a plurality of medical images taken in one particular examination, a plurality of medical images in a series of medical images are acquired. Get an image.
  • the image processing system 10 is connected to the endoscope system 21 and acquires a medical image from the endoscope system 21. That is, in the present embodiment, the medical image is an endoscope image.
  • the display unit 13 is a display that displays the medical image acquired by the medical image acquisition unit 11 and the analysis result of the medical image analysis processing unit 12.
  • a monitor or display included in a device or the like connected to the image processing system 10 can be shared and used as the display unit 13 of the image processing system 10.
  • the display control unit 15 controls a display mode of the medical image and the analysis result on the display unit 13.
  • the input receiving unit 16 receives inputs from a mouse, a keyboard, and other operation devices connected to the image processing system 10. The operation of each unit of the image processing system 10 can be controlled using these operation devices.
  • the general control unit 17 controls the operation of each unit of the image processing system 10 as a whole.
  • the general control unit 17 controls each unit of the image processing system 10 according to the operation input.
  • the storage unit 18 stores a still image of a medical image or the like in a storage device (not shown) such as a memory included in the image processing system 10 or a medical device such as the endoscope system 21 or a storage device (not shown) included in the PACS 22. Save.
  • a storage device such as a memory included in the image processing system 10 or a medical device such as the endoscope system 21 or a storage device (not shown) included in the PACS 22. Save.
  • the endoscope system 21 connected to the image processing system 10 in the present embodiment irradiates at least one of light in a white wavelength band or light in a specific wavelength band to photograph a subject.
  • Endoscope 31 that obtains an image by the method, a light source device 32 that irradiates the subject with illumination light through the endoscope 31, a processor device 33, an endoscope image captured using the endoscope 31, and the like. Is displayed on the monitor 34.
  • the light in the specific wavelength band used by the endoscope 31 as the illumination light is, for example, light in a shorter wavelength band than the green wavelength band, particularly light in the blue or violet band in the visible region.
  • the processor device 33 includes a medical image acquisition unit 35, a medical image analysis processing unit 36, and a display control unit 37.
  • the medical image acquisition unit 35 acquires a medical image output from the endoscope 31.
  • the medical image analysis processing unit 36 performs an analysis process on the medical image acquired by the medical image acquisition unit 35.
  • the processing content of the medical image analysis processing unit 36 is the same as the processing content of the medical image analysis processing unit 12 of the image processing system 10.
  • the display control unit 37 displays the medical image obtained by the medical image analysis processing unit 36 on the monitor 34.
  • the processor device 33 is connected to the image processing system 10.
  • the medical image acquisition unit 35 is the same as the medical image acquisition unit 11
  • the medical image analysis processing unit 36 is the same as the medical image analysis processing unit 12
  • the display control unit 37 is the same as the display control unit 15.
  • the medical image analysis processing unit 36 performs an analysis process using the medical image acquired by the medical image acquisition unit 11.
  • the medical image analysis processing unit 12 includes an attention area detection unit 41 and a display mode determination unit 42.
  • the attention area detection unit 41 performs an attention area detection process of detecting an attention area from a medical image.
  • NN Neurological Network
  • CNN Convolutional Neural Network
  • Adaboost random forest, or the like
  • the attention area detection processing the attention area may be detected based on the feature amount obtained by the color information of the medical image, the gradient of the pixel value, or the like.
  • the gradient of the pixel value and the like are, for example, the shape of the subject (global undulation or local depression or elevation of the mucous membrane), color (color such as inflammation, bleeding, redness, or whitening due to atrophy).
  • the change appears depending on the characteristics of the tissue (the thickness, the depth, the density of the blood vessel, or a combination thereof) or the characteristics of the structure (such as the pit pattern).
  • the attention area detected by the attention area detection unit 41 is, for example, a lesion represented by cancer, a trace of processing, a trace of surgery, a bleeding point, a benign tumor part, an inflamed part (in addition to so-called inflammation, Or a part containing a change such as atrophy), a marking portion marked by ablation marks by heating or coloring with a coloring agent, a fluorescent agent, or the like, or a region including a biopsy performing portion where a biopsy (so-called biopsy) was performed. It is.
  • the attention area detection unit 41 includes at least any one of a lesion, a trace of processing, a trace of surgery, a bleeding site, a benign tumor, an inflammation, a marking, and a biopsy performing unit. Are detected as regions of interest.
  • the display mode determination unit 42 determines the display mode of the detection result of the attention area based on the detection position of the attention area.
  • the display control unit 37 displays the detection result of the attention area on the medical image on the monitor 34 according to the display mode of the detection result of the attention area.
  • the attention area is detected from the medical image based on the characteristics of the image by the lens used in the endoscope 31 (generally, a lens having a wide angle of view is used) and uneven irradiation of the illumination light. Since the detection accuracy varies depending on the detection position, it is preferable to change the display mode of the detection result of the attention area. In addition, it is preferable that the display mode of the detection result of the attention area be changed depending on the detection position of the attention area, considering that there are areas where the user easily overlooks the attention area and areas where the user does not easily overlook the attention area.
  • the display mode of the detection result of the attention area when the detection position of the attention area includes the central area 43 (first area) of the medical image, and the detection position of the attention area is medical It is preferable to change the display mode of the detection result of the attention area when the image is included in the peripheral area 44 (second area) of the image.
  • the detection result of the attention area is represented by a specific graphic
  • the line width of the specific graphic used for notification of the attention area detected in the central area 43 and the notification of the attention area detected in the peripheral area 44 are used.
  • the line thickness of a specific figure to be used is made different. Note that the shape of a specific figure (for example, a star) used for reporting the attention area detected in the center area 43 and the shape of a specific figure (for example, a circle) used for reporting the attention area detected in the surrounding area 44 ) May be changed.
  • the bounding box 46 used for notifying the attention area detected in the center area 43 is used. It is preferable that the thickness of the frame is larger than the thickness of the frame of the bounding box 47 used for notifying the attention area detected in the peripheral area 44.
  • the user can grasp the detection accuracy based on the thickness of the bounding boxes 46 and 47. That is, the user can grasp that the attention area detected in the central area 43 has high detection accuracy, while the attention area detected in the peripheral area 44 has low detection accuracy.
  • the bounding box when used as a specific shape and the ease of oversight of the attention area is represented by the thickness of the bounding box, as shown in FIG. 6, it is used to notify the attention area detected in the center area 43. It is preferable that the thickness of the frame of the bounding box 48 be smaller than the thickness of the frame of the bounding box 49 used for notifying the attention area detected in the peripheral area 44. Thereby, regarding the attention area detected in the peripheral area 44, the visibility of the bounding box 49 is high, so that oversight can be prevented. On the other hand, as for the attention area detected in the central area 43, the visibility of the bounding box 48 is low, so that the troublesomeness can be reduced.
  • the size of the specific graphic used to notify the attention area detected in the center area and the specific graphic used to notify the attention area detected in the peripheral area Of different sizes.
  • the bounding box used to notify the attention area detected in the center area 43 is used.
  • the size of the box 50 be larger than the size of the bounding box 51 used for notifying the attention area detected in the peripheral area 44.
  • the size of the bounding box 52 is smaller than the size of the bounding box 53 used for reporting the attention area detected in the peripheral area 44.
  • the bounding box 53 is displayed in a large size, so that oversight can be prevented.
  • the bounding box 50 is displayed in a small size, the complexity can be reduced.
  • the display time of a specific graphic used for notifying the detected attention area is made different.
  • FIG. 9 a case where a bounding box is used as a specific shape and the detection accuracy of the attention area is represented by the display time of the bounding box, and the attention area in both the central area 43 and the peripheral area 44 is used. If detected, for example, first, a bounding box 54 used for reporting the region of interest detected in the central region 43 and a bounding box 55 used for reporting the region of interest detected in the peripheral region 44 are displayed.
  • the bounding box when the bounding box is used as a specific shape and the ease of oversight of the attention area is represented by the display time of the bounding box, for example, first, the attention area detected in the center area 43 is used. And a bounding box 57 used for notifying the attention area detected in the surrounding area 44 are displayed. Then, when the first display time has elapsed since the detection of the attention area, the display of the bounding box 57 is continued (displayed by a solid line), while the bounding box 56 is not displayed (dotted line). As a result, the attention area detected in the peripheral area 44 can be prevented from being overlooked by displaying the bounding box 57 for a long time. On the other hand, with respect to the attention area detected in the center area 43, since the bounding box 56 is displayed only for a short time, the complexity can be reduced.
  • the detection result of the attention area is represented by a specific graphic
  • it is used for notifying the transparency of the specific graphic used for notifying the attention area detected in the central area 43 and the attention area detected in the peripheral area 44.
  • the degree of transparency refers to the degree to which a subject image in the background of a specific figure can be visually recognized in a medical image. If the transmittance is high, the subject image on the background of the specific figure can be seen through, and if the transparency is low, the subject image on the background of the specific figure is difficult to see with the specific figure.
  • the transmittance of 58 is lower than the transmittance of the bounding box 59 used for notifying the attention area detected in the peripheral area 44. Thereby, the user can grasp the detection accuracy based on the transmittance of the bounding box.
  • the transmittance is represented by a hatching scale. The larger the scale, the lower the transmittance, and the smaller the scale, the higher the transmittance.
  • the transmissivity of the bounding box 60 be higher than the transmissivity of the bounding box 61 used for notifying the attention area detected in the peripheral area 44.
  • the transmissivity of the bounding box 60 is higher than the transmissivity of the bounding box 61 used for notifying the attention area detected in the peripheral area 44.
  • the color of the specific color area used for notifying the attention area detected in the center area and the specific color used for notifying the attention area detected in the peripheral area are used. Make the color of the color area different.
  • the specific color region preferably includes the region of interest. It is preferable to use a pseudo color, such as red, which is completely different from the color in the living body, but it is preferable to use a color that can be distinguished from the color of the region of interest.
  • the detection accuracy of the attention area is represented by the color of the specific color area, as shown in FIG. Is displayed in a high-color (for example, a color with high brightness and high saturation), while a specific color area 63 used for notifying the attention area detected in the surrounding area 44 is displayed in a low-visibility color (for example, brightness, (Saturated color).
  • a high-color for example, a color with high brightness and high saturation
  • a specific color area 63 used for notifying the attention area detected in the surrounding area 44 is displayed in a low-visibility color (for example, brightness, (Saturated color).
  • the specific color area used for notifying the attention area detected in the center area 43 is replaced with a low-visibility color (for example, while displaying a color with low brightness and low saturation, a specific color area used for reporting the attention area detected in the surrounding area 44 is displayed in a highly visible color (for example, a color with high brightness and high saturation). ).
  • a highly visible color for example, a color with high brightness and high saturation.
  • the monitor 34 displays the specific color area used for reporting the attention area detected in the central area 43.
  • the time during which display is continued (display time) is made different from the display time of a specific color area used for notifying the attention area detected in the surrounding area 44.
  • display time is made different from the display time of a specific color area used for notifying the attention area detected in the surrounding area 44.
  • a specific color area 64 used for notifying the attention area detected in the center area 43 and a specific color area 65 used for notifying the attention area detected in the peripheral area 44 are displayed.
  • the display of the specific color area 64 is continued (displayed by a solid line), while the specific color area 65 is not displayed (displayed by a dotted line).
  • non-display means that there is no difference between the color of a specific color area and the color of another area.
  • both the specific color regions 64, 64 are not displayed. Thereby, the user can grasp the detection accuracy based on the display time of the specific color area. That is, the user can grasp that the attention area detected in the central area 43 has high detection accuracy, while the attention area detected in the peripheral area 44 has low detection accuracy.
  • the display mode of the detection result of the attention area is changed depending on whether the detection position of the attention area is included in the center area or the peripheral area of the medical image.
  • the display mode of the detection result of the attention area may be changed based on the specific distance L indicating the distance between the specific position SP and the detection position DP of the attention area.
  • the specific position SP is preferably included in the central region 43 of the medical image.
  • the display mode of the detection result of the attention area when the specific distance L is within the specific range display mode within the specific range
  • the display mode of the detection result of the attention area when the specific distance is out of the specific range Display mode outside the specific range.
  • the line thickness, size, display time, transparency, or specific color of a specific graphic as a display mode within a specific range, or a display time of a specific color, and a display mode outside a specific range
  • the line thickness, size, display time, transparency, or specific color of a specific graphic, or the display time of a specific color are made different.
  • a specific example for making this different is the same as described above.
  • the display mode of the detection result may be changed.
  • the medical image is divided into concentric circles like the central region and the peripheral region, the shape to be divided may be other shapes such as a rectangular shape.
  • a plurality of types such as concentric circles and rectangular shapes may be combined and divided.
  • the bounding box is mentioned as a specific figure, other figures may be used.
  • the bounding box may be colored, or the observation target included in the attention area may be indicated by an icon (a finger mark or a mouse cursor).
  • the diagnosis support apparatus 610 used in combination with the endoscope system 21 and other modalities and the PACS 22 can include the image processing system 10 of the above embodiment and other modified examples.
  • the medical service support apparatus 630 to be connected can include the image processing system 10 of the above embodiment and other modified examples.
  • image processing system 10 the endoscope system 21, and various devices or systems including the image processing system 10 can be used with the following various modifications.
  • a white band light or a normal light image obtained by irradiating a plurality of wavelength bands as white band light can be used.
  • the specific wavelength band can be a band narrower than the white wavelength band.
  • the specific wavelength band is, for example, a visible blue band or a green band.
  • the specific wavelength band is a visible blue band or a green band
  • the specific wavelength band includes a wavelength band of 390 nm to 450 nm or 530 nm to 550 nm, and light of the specific wavelength band is 390 nm or more. It preferably has a peak wavelength in a wavelength band of 450 nm or less or 530 nm or more and 550 nm or less.
  • the specific wavelength band is, for example, a red band in the visible region.
  • the specific wavelength band is a visible red band
  • the specific wavelength band includes a wavelength band of 585 nm or more and 615 nm or 610 nm or more and 730 nm or less, and light of the specific wavelength band is 585 nm or more and 615 nm or less or 610 nm. It is preferable to have a peak wavelength in a wavelength band of 730 nm or less.
  • the specific wavelength band includes, for example, a wavelength band having a different absorption coefficient between oxyhemoglobin and reduced hemoglobin, and light of a specific wavelength band has a peak wavelength at a wavelength band having a different absorption coefficient between oxyhemoglobin and reduced hemoglobin. Can be provided.
  • the specific wavelength band includes a wavelength band having a different extinction coefficient between oxyhemoglobin and reduced hemoglobin, and light of a specific wavelength band has a peak wavelength in a wavelength band having a different extinction coefficient between oxyhemoglobin and reduced hemoglobin.
  • the specific wavelength band includes a wavelength band of 400 ⁇ 10 nm, 440 ⁇ 10 nm, 470 ⁇ 10 nm, or 600 nm or more and 750 nm or less, and light of the specific wavelength band is 400 ⁇ 10 nm, 440 ⁇ 10 nm, It preferably has a peak wavelength in a wavelength band of 470 ⁇ 10 nm, or 600 nm to 750 nm.
  • the in-vivo image can include information on fluorescence emitted from a fluorescent substance in the living body.
  • fluorescence fluorescence obtained by irradiating the living body with excitation light having a peak wavelength of 390 nm to 470 nm can be used.
  • the above-described specific wavelength band can use a wavelength band of infrared light.
  • the specific wavelength band is a wavelength band of 790 nm to 820 nm or a wavelength band of 905 nm to 970 nm.
  • light in a specific wavelength band preferably has a peak wavelength in a wavelength band of 790 nm to 820 nm or 905 nm to 970 nm.
  • the medical image acquisition unit 11 acquires a special light image having a signal in a specific wavelength band based on a normal light image obtained by irradiating light in a plurality of wavelength bands as light in a white band or light in a white band.
  • a special light image acquisition unit can be provided. In this case, a special light image can be used as a medical image.
  • a signal in a specific wavelength band can be obtained by an operation based on RGB or CMY color information included in a normal light image.
  • the image processing apparatus may further include a feature image generating unit that generates a feature image.
  • a feature image can be used as a medical image.
  • a capsule endoscope can be used as the endoscope 31.
  • the light source device 32 and a part of the processor device 33 can be mounted on the capsule endoscope.
  • Programmable logic device (PLD) which is a possible processor, dedicated electric circuit, which is a processor with a circuit configuration designed specifically to execute various types of processing, and large-scale parallel processing of image processing GPU (Graphical Processing Unit) to perform.
  • One processing unit may be configured by one of these various processors, or a combination of two or more processors of the same type or different types (for example, a plurality of FPGAs, a combination of a CPU and an FPGA, or a combination of a CPU and a CPU). (Combination of GPUs). Further, a plurality of processing units may be configured by one processor. As an example in which a plurality of processing units are configured by one processor, first, as represented by a computer such as a client or a server, one processor is configured by a combination of one or more CPUs and software, There is a form in which this processor functions as a plurality of processing units.
  • SoC System-On-Chip
  • SoC System-On-Chip
  • the hardware structure of these various processors is more specifically an electric circuit (circuitry) in which circuit elements such as semiconductor elements are combined.
  • the hardware structure of the storage unit is a storage device such as a hard disk drive (HDD) or a solid state drive (SSD).
  • the medical image processing system of the present invention comprises: The processor unit is The medical image acquisition unit acquires a medical image obtained by imaging the observation target, The attention area detection unit detects an attention area from the medical image, The display control unit displays the detection result of the attention area on the display unit in a display mode that differs depending on at least the detection position of the attention area.

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Veterinary Medicine (AREA)
  • Animal Behavior & Ethology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Public Health (AREA)
  • Signal Processing (AREA)
  • Architecture (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Endoscopes (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

医療画像に基づいて注目領域の検出を行う場合において、注目領域の検出結果を検出精度に対応させて報知し、且つ、注目領域の検出位置によって注目領域の検出結果の見落しを防ぐことができる医療画像処理システムを提供する。 観察対象を撮像して得られる医療画像を取得する。医療画像から注目対象を含む注目領域を検出する。注目領域の検出結果を、少なくとも注目領域の検出位置によって異なる表示態様で、モニタ(34)に表示する。

Description

医療画像処理システム
 本発明は、医療画像の解析結果を用いる医療画像処理システムに関する。
 現在の医療分野においては、光源装置、内視鏡、及びプロセッサ装置を備える内視鏡システムなどのように、医療画像を用いる医療画像処理システムが普及している。また、近年においては、医療画像から病変部の可能性のある注目領域を抽出し、抽出した注目領域に対して画像解析を行うことによって、病態に関する診断情報を取得することが行われている。
 例えば、特許文献1では、医療画像についての特定の特徴量に基づいて、医療画像における注目領域を検出している。そして、注目領域の検出に基づいて、画面外に特徴領域が検出されたことを報知する報知画像を表示し、また、画面内に特徴領域に対してマーカ画像を付加している。
国際公開第2017/073338号
 特許文献1のように、注目領域の検出を行う場合においては、注目領域の検出位置によっては、検出精度が低いことがある。例えば、医療画像のうち内視鏡画像については、内視鏡画像の周辺領域(端部など)においては、レンズ(一般的には画角の広いレンズが使用されている)による画像の特性や照明光の照射ムラなどがある。そのため、内視鏡画像の周辺領域における注目領域の検出精度は、中央領域など他の領域と比較して低くなる場合がある。このように、中心領域と周辺領域では注目領域の検出精度が異なる場合に、中央領域における検出結果と周辺領域における検出結果を同じように表示すると、医師が正確に診断することができないおそれがある。
 また、注目領域の検出位置によっては、ユーザーの注意が向けられにくい場合がある。例えば、内視鏡を挿入する際、進行方向(後退方向)に対応する中心領域には注意が向けられる一方、中心領域の外側にある周辺領域には注意が向けられない場合がある。
 本発明は、医療画像に基づいて注目領域の検出を行う場合において、注目領域の検出結果を検出精度に対応させて報知し、且つ、注目領域の検出位置によって注目領域の検出結果の見落しを防ぐことができる医療画像処理システムを提供することを目的とする。
 本発明の医療画像処理システムは、医療画像取得部と、注目領域検出部と、表示制御部とを備える。医療画像取得部は、観察対象を撮像して得られる医療画像を取得する。注目領域検出部は、医療画像から注目領域を検出する。表示制御部は、注目領域の検出結果を、少なくとも注目領域の検出位置によって異なる表示態様で、表示部に表示する。注目領域としては、例えば、病変部、処理の跡、手術の跡、出血箇所、良性腫瘍部、炎症部、マーキング部、または、生検実施部など、ユーザーが注目領域として所望する対象であることが好ましい。
 医療画像を複数の領域に分割し、注目領域の検出位置が複数の領域のいずれに含まれるかによって、注目領域の検出結果の表示態様を変えることが好ましい。注目領域の検出位置が医療画像の第1領域に含まれる場合における注目領域の検出結果の表示態様と、注目領域の検出位置が、医療画像のうち第1領域と異なる第2領域に含まれる場合における注目領域の検出結果の表示態様とが異なることが好ましい。第1領域は医療画像の中心領域であり、第2領域は医療画像の中心領域の外側の周辺領域であることが好ましい。
 予め定められた特定位置と注目領域の検出位置との間の距離を示す特定距離が特定範囲に入っている場合における注目領域の検出結果の表示態様と、特定距離が特定範囲から外れている場合における注目領域の検出結果の表示態様とが異なることが好ましい。特定位置は医療画像の中心領域に含まれることが好ましい。
 注目領域の検出結果を特定の図形で表す場合において、特定の図形の線の太さが、注目領域の検出位置によって異なることが好ましい。注目領域の検出結果を特定の図形で表す場合において、特定の図形の大きさが、注目領域の検出位置によって異なることが好ましい。注目領域の検出結果を特定の図形で表す場合において、特定の図形の表示時間が、注目領域の検出位置によって異なるが好ましい。注目領域の検出結果を特定の図形で表す場合において、特定の図形の透過度が、注目領域の検出位置によって異なることが好ましい。注目領域の検出結果を特定の色領域で表す場合において、特定の色領域の色が、注目領域の検出位置によって異なることが好ましい。注目領域の検出結果を特定の色領域で表す場合において、特定の色領域の表示時間が、注目領域の検出位置によって異なることが好ましい。
 本発明によれば、医療画像に基づいて注目領域の検出を行う場合において、注目領域の検出結果を検出精度に対応させて報知し、且つ、注目領域の検出位置によって注目領域の検出結果の見落しを防ぐことができる。
画像処理システムと内視鏡システムなどを示すブロック図である。 内視鏡システムを示すブロック図である。 医療画像解析処理部の機能を示すブロック図である。 医療画像における中心領域と周辺領域を示す画像図である。 注目領域の検出位置によってバウンディングボックスの太さが異なることを示す医療画像の画像図である。 図5と異なる医療画像の画像図であって注目領域の検出位置によってバウンディングボックスの太さが異なることを示す医療画像の画像図である。 注目領域の検出位置によってバウンディングボックスの大きさが異なることを示す医療画像の画像図である。 図7と異なる医療画像の画像図であって注目領域の検出位置によってバウンディングボックスの大きさが異なることを示す医療画像の画像図である。 注目領域の検出位置によってバウンディングボックスの表示時間が異なることを示す説明図である。 図9と異なる説明図であって注目領域の検出位置によってバウンディングボックスの表示時間が異なることを示す説明図である。 注目領域の検出位置によってバウンディングボックスの透過度が異なることを示す医療画像の画像図である。 図11と異なる医療画像の画像図であって注目領域の検出位置によってバウンディングボックスの透過度が異なることを示す医療画像の画像図である。 注目領域の検出位置によって特定の色領域の色が異なることを示す医療画像の画像図である。 注目領域の検出位置によって特定の色領域の表示時間が異なることを示す説明図である。 図14と異なる説明図であって注目領域の検出位置によって特定の色領域の表示時間が異なることを示す説明図である。 特定位置SP、注目領域の検出位置DP、及び特定距離Lを示す医療画像の画像図である。 画像処理システムを含む診断支援装置である。 画像処理システムを含む医療業務支援装置である。
 図1に示すように、画像処理システム10は、医療画像取得部11、医療画像解析処理部12、表示部13、表示制御部15、入力受信部16、統括制御部17、及び、保存部18を備える。
 医療画像取得部11は、医療装置である内視鏡システム21等から直接に、または、PACS(Picture Archiving and Communication System)22等の管理システムもしくはその他情報システムを介して、被写体像を含む医療画像を取得する。医療画像は静止画像または動画(いわゆる検査動画)である。医療画像が動画である場合、医療画像取得部11は、検査後に動画を構成するフレーム画像を静止画像として取得することができる。また、医療画像が動画である場合、医療画像の表示には、動画を構成する1つの代表フレームの静止画像を表示することのほか、動画を1または複数回、再生することを含む。また、医療画像取得部11が取得する医療画像には、内視鏡システム21等の医療装置を用いて医師が撮影した画像の他、内視鏡システム21等の医療装置が医師の撮影指示に依らず自動的に撮影した画像を含む。なお、本実施形態では、画像処理システム10及び内視鏡システム21ともに医療画像を用いて画像処理を行うことから、画像処理システム10及び内視鏡システム21はいずれも医療画像処理システムに相当する。
 医療画像取得部11は、複数の医療画像を取得し得る場合、これらの医療画像のうち1または複数の医療画像を選択的に取得できる。また、医療画像取得部11は、複数の互いに異なる検査において取得した複数の医療画像を取得できる。例えば、過去に行った検査で取得した医療画像と、最新の検査で取得した医療画像と、の一方または両方を取得できる。すなわち、医療画像取得部11は、任意に医療画像を取得できる。
 本実施形態においては、被写体像を含む医療画像を複数取得する。より具体的には、1回の特定の検査において撮影した医療画像を取得し、かつ、1回の特定の検査において撮影した医療画像が複数ある場合には、一連の医療画像のうち複数の医療画像を取得する。また、本実施形態においては、画像処理システム10は、内視鏡システム21と接続し、内視鏡システム21から医療画像を取得する。すなわち、本実施形態において医療画像は、内視鏡画像である。
 表示部13は、医療画像取得部11が取得した医療画像、及び、医療画像解析処理部12の解析結果を表示するディスプレイである。画像処理システム10が接続するデバイス等が含むモニタまたはディスプレイを共用し、画像処理システム10の表示部13として使用できる。表示制御部15は、表示部13における医療画像及び解析結果の表示態様を制御する。
 入力受信部16は、画像処理システム10に接続するマウス、キーボード、その他操作デバイスからの入力を受け付ける。画像処理システム10の各部の動作はこれらの操作デバイスを用いて制御できる。
 統括制御部17は、画像処理システム10の各部の動作を統括的に制御する。入力受信部16が操作デバイスを用いた操作入力を受信した場合には、統括制御部17は、その操作入力にしたがって画像処理システム10の各部を制御する。
 保存部18は、画像処理システム10が含むメモリ等の記憶デバイス(図示しない)、または、内視鏡システム21等の医療装置もしくはPACS22が含む記憶デバイス(図示しない)に、医療画像の静止画等を保存する。
 図2に示すように、本実施形態において画像処理システム10が接続する内視鏡システム21は、白色の波長帯域の光もしくは特定の波長帯域の光の少なくともいずれかを照射して被写体を撮影することにより画像を取得する内視鏡31、内視鏡31を介して被写体内に照明光を照射する光源装置32、プロセッサ装置33、及び、内視鏡31を用いて撮影した内視鏡画像等を表示するモニタ34を有する。内視鏡31が照明光に使用する特定の波長帯域の光は、例えば、緑色波長帯域よりも短波長帯域の光、特に可視域の青色帯域または紫色帯域の光である。
 プロセッサ装置33は、医療画像取得部35、医療画像解析処理部36、表示制御部37を備えている。医療画像取得部35は、内視鏡31から出力される医療画像を取得する。医療画像解析処理部36は、医療画像取得部35で取得した医療画像に対して、解析処理を行う。医療画像解析処理部36での処理内容は、画像処理システム10の医療画像解析処理部12での処理内容と同様である。表示制御部37は、医療画像解析処理部36で得られた医療画像をモニタ34に表示する。プロセッサ装置33は画像処理システム10と接続される。なお、医療画像取得部35は医療画像取得部11と同様であり、医療画像解析処理部36は医療画像解析処理部12と同様であり、表示制御部37は表示制御部15と同様である。
 医療画像解析処理部36は、医療画像取得部11が取得した医療画像を用いて解析処理をする。図3に示すように、医療画像解析処理部12は、注目領域検出部41と、表示態様決定部42と、を含む。注目領域検出部41では、医療画像から注目領域を検出する注目領域検出処理を行う。注目領域検出処理としては、例えば、NN(Neural Network)、CNN(Convolutional Neural Network)、Adaboost、ランダムフォレストなどを用いてもよい。また、注目領域検出処理として、医療画像の色情報、画素値の勾配等で得られる特徴量を元に、注目領域の検出を行ってもよい。なお、画素値の勾配等は、例えば、被写体の形状(粘膜の大局的な起伏または局所的な陥凹もしくは隆起等)、色(炎症、出血、発赤、または萎縮に起因した白化等の色)、組織の特徴(血管の太さ、深さ、密度、もしくはこれらの組み合わせ等)、または、構造の特徴(ピットパターン等)等によって、変化が表れる。
 なお、注目領域検出部41で検出される注目領域は、例えば、がんに代表される病変部、処理の跡、手術の跡、出血箇所、良性腫瘍部、炎症部(いわゆる炎症の他、出血または萎縮等の変化がある部分を含む)、加熱による焼灼跡もしくは着色剤、蛍光薬剤等による着色によってマーキングしたマーキング部、または、生体検査(いわゆる生検)を実施した生検実施部を含む領域である。すなわち、病変を含む領域、病変の可能性がある領域、生検等の何らかの処置をした領域、クリップやかん子などの処置具、または、暗部領域(ヒダ(襞)の裏、管腔奥のため観察光が届きにくい領域)など病変の可能性にかかわらず詳細な観察が必要である領域等が注目領域になり得る。内視鏡システム21においては、注目領域検出部41は、病変部、処理の跡、手術の跡、出血箇所、良性腫瘍部、炎症部、マーキング部、または、生検実施部のうち少なくともいずれかを含む領域を注目領域として検出する。
 表示態様決定部42は、注目領域の検出位置に基づいて、注目領域の検出結果の表示態様を決定する。表示制御部37は、注目領域の検出結果の表示態様に従って、医療画像上において注目領域の検出結果をモニタ34に表示する。ここで、内視鏡31で使用しているレンズ(一般的には画角の広いレンズが使用されている)による画像の特性や照明光の照射ムラなどにより、医療画像から注目領域を検出した検出位置によって、検出精度に違いがあるため、注目領域の検出結果の表示態様を変えることが好ましい。また、ユーザーが注目領域を見落としやすい領域と見落としにくい領域があることを考慮し、注目領域の検出位置によって注目領域の検出結果の表示態様を変えることが好ましい。
 例えば、図4に示すように、注目領域の検出位置が医療画像の中心領域43(第1領域)の含まれている場合における注目領域の検出結果の表示態様と、注目領域の検出位置が医療画像の周辺領域44(第2領域)に含まれている場合における注目領域の検出結果の表示態様を変えることが好ましい。例えば、注目領域の検出結果を特定の図形で表す場合において、中心領域43で検出された注目領域の報知に用いる特定の図形の線の太さと、周辺領域44で検出された注目領域の報知に用いる特定の図形の線の太さとを異ならせる。なお、中心領域43で検出された注目領域の報知に用いる特定の図形の形(例えば、星形)と、周辺領域44で検出された注目領域の報知に用いる特定の図形の形(例えば、円)とを変えるようにしてもよい。
 特定の形としてバウンディングボックスを用い、注目領域の検出精度をバウンディングボックスの太さで表す場合には、図5に示すように、中心領域43で検出された注目領域の報知に用いるバウンディングボックス46の枠の太さを、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス47の枠の太さよりも太くすることが好ましい。これにより、ユーザーは、バウンディングボックス46、47の太さによって、検出精度を把握することができる。即ち、ユーザーは、中心領域43で検出された注目領域は検出精度が高い一方、周辺領域44で検出された注目領域は検出精度が低いことを把握することができる。
 一方、特定の形としてバウンディングボックスを用い、注目領域の見落し易さをバウンディングボックスの太さで表す場合には、図6に示すように、中心領域43で検出された注目領域の報知に用いるバウンディングボックス48の枠の太さを、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス49の枠の太さよりも細くすることが好ましい。これにより、周辺領域44で検出された注目領域に関しては、バウンディングボックス49の視認性が高いため、見落としを防ぐことができる。一方、中心領域43で検出された注目領域に関しては、バウンディングボックス48の視認性が低いため、煩わしさを軽減することができる。
 また、注目領域の検出結果を特定の図形で表す場合において、中心領域で検出された注目領域の報知に用いる特定の図形の大きさと、周辺領域で検出された注目領域の報知に用いる特定の図形の大きさを異ならせる。この場合、図7に示すように、特定の形としてバウンディングボックスを用い、注目領域の検出精度をバウンディングボックスの大きさで表す場合には、中心領域43で検出された注目領域の報知に用いるバウンディングボックス50の大きさを、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス51の大きさよりも大きくが好ましい。これにより、ユーザーは、バウンディングボックス50、51の大きさによって、検出精度を把握することができる。即ち、ユーザーは、中心領域43で検出された注目領域は検出精度が高い一方、周辺領域44で検出された注目領域は検出精度が低いことを把握することができる。
 一方、特定の形としてバウンディングボックスを用い、注目領域の見落し易さをバウンディングボックスの大きさで表す場合には、図8に示すように、中心領域43で検出された注目領域の報知に用いるバウンディングボックス52の大きさを、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス53の大きさよりも小さくことが好ましい。これにより、周辺領域44で検出された注目領域に関しては、バウンディングボックス53が大きく表示されることにより、見落としを防ぐことができる。一方、中心領域43で検出された注目領域に関しては、バウンディングボックス50が小さく表示されることにより、煩わしさを軽減することができる。
 また、注目領域の検出結果を特定の図形で表す場合において、中心領域43で検出された注目領域の報知に用いる特定の図形をモニタ34で表示し続ける時間(表示時間)と、周辺領域44で検出された注目領域の報知に用いる特定の図形の表示時間を異ならせる。この場合、図9に示すように、特定の形としてバウンディングボックスを用い、注目領域の検出精度をバウンディングボックスの表示時間で表す場合であって、中心領域43と周辺領域44の両方で注目領域が検出された場合には、例えば、まず、中心領域43で検出された注目領域の報知に用いるバウンディングボックス54と、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス55が表示される。
 そして、注目領域の検出から第1の表示時間が経過した時点で、バウンディングボックス54の表示は継続する(実線で表示)一方で、バウンディングボックス55は非表示(点線で表示)とする。更に、第1の表示時間経過後、第2の表示時間が経過した時点で、両方のバウンディングボックス54、55を非表示にする。これにより、ユーザーは、バウンディングボックス54、56の表示時間によって、検出精度を把握することができる。即ち、ユーザーは、中心領域43で検出された注目領域は検出精度が高い一方、周辺領域44で検出された注目領域は検出精度が低いことを把握することができる。
 一方、図10に示すように、特定の形としてバウンディングボックスを用い、注目領域の見落し易さをバウンディングボックスの表示時間で表す場合には、例えば、まず、中心領域43で検出された注目領域の報知に用いるバウンディングボックス56と、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス57が表示される。そして、注目領域の検出から第1の表示時間が経過した時点で、バウンディングボックス57の表示は継続する(実線で表示)一方、バウンディングボックス56は非表示(点線)とする。これにより、周辺領域44で検出された注目領域に関しては、バウンディングボックス57が長い間、表示されることにより、見落としを防ぐことができる。一方、中心領域43で検出された注目領域に関しては、バウンディングボックス56が短い間しか表示されないためにより、煩わしさを軽減することができる。
 また、注目領域の検出結果を特定の図形で表す場合において、中心領域43で検出された注目領域の報知に用いる特定の図形の透過度と、周辺領域44で検出された注目領域の報知に用いる特定の図形の透過度を異ならせる。ここで、透過度とは、医療画像において、特定の図形の背景にある被写体像が視認できる度合いのことをいう。透過度が高ければ、特定の図形の背景にある被写体像が透けて見えるようになり、透過度が低ければ、特定の図形の背景にある被写体像が特定の図形で見えにくくなっている。
 そして、図11に示すように、特定の形としてバウンディングボックスを用い、注目領域の検出精度をバウンディングボックスの透過度で表す場合には、中心領域43で検出された注目領域の報知に用いるバウンディングボックス58の透過度を、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス59の透過度よりも低くすることが好ましい。これにより、ユーザーは、バウンディングボックスの透過度によって、検出精度を把握することができる。なお、図11では、透過度をハッチングの尺度で表しており、尺度が大きくなるほど、透過度が低く、尺度が小さくなるほど、透過度が高くなっている。
 一方、特定の形としてバウンディングボックスを用い、注目領域の見落し易さをバウンディングボックスの透過度で表す場合には、図12に示すように、中心領域43で検出された注目領域の報知に用いるバウンディングボックス60の透過度を、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス61の透過度よりも高くすることが好ましい。これにより、周辺領域44で検出された注目領域に関しては、バウンディングボックス61の透過度が低いことにより、バウンディングボックス61を視認し易くなっているため、見落としを防ぐことができる。一方、中心領域43で検出された注目領域に関しては、バウンディングボックス60の透過度が高いことにより、バウンディングボックス60の視認性が低くなっているため、煩わしさを軽減することができる。
 また、注目領域の検出結果を特定の色領域で表す場合には、中心領域で検出した注目領域の報知に用いる特定の色領域の色と、周辺領域で検出した注目領域の報知に用いる特定の色領域の色とを異ならせる。特定の色領域は、注目領域を含むことが好ましい。また、特定の色領域は、赤色など生体内の色と全く異なる疑似カラーを用いることが好ましいが、注目領域の色と区別できるような色とすることが好ましい。
 この場合、特定の色領域の色で注目領域の検出精度を表す場合には、図13に示すように、中心領域43で検出された注目領域の報知に用いる特定の色領域62を、視認性の高い色(例えば、明度、彩度が高い色)で表示する一方で、周辺領域44で検出された注目領域の報知に用いる特定の色領域63を、視認性の低い色(例えば、明度、彩度が低い色)で表示する。これにより、ユーザーは、特定の色領域の色によって検出精度を把握することができる。即ち、ユーザーは、中心領域43で検出された注目領域は検出精度が高い一方、周辺領域44で検出された注目領域は検出精度が低いことを把握することができる。
 一方、特定の色で注目領域の見落し易さを表す場合には、図示は省略するものの、中心領域43で検出された注目領域の報知に用いる特定の色領域を、視認性の低い色(例えば、明度、彩度が低い色)で表示する一方で、周辺領域44で検出された注目領域の報知に用いる特定の色領域を、視認性の高い色(例えば、明度、彩度が高い色)で表示する。これにより、周辺領域44で検出された注目領域に関しては、特定の色領域の視認性が高いため、見落としを防ぐことができる。一方、中心領域43で検出された注目領域に関しては、特定の色領域の視認性が低いため、煩わしさを軽減することができる。
 また、注目領域の検出結果を、生体内の色と全く異なる疑似カラーなどの特定の色領域で表す場合において、中心領域43で検出された注目領域の報知に用いる特定の色領域をモニタ34で表示し続ける時間(表示時間)と、周辺領域44で検出された注目領域の報知に用いる特定の色領域の表示時間を異ならせる。この場合、注目領域の検出精度を特定の色領域の表示時間で表す場合であって、中心領域43と周辺領域44の両方で注目領域が検出された場合には、図14に示すように、まず、中心領域43で検出された注目領域の報知に用いる特定の色領域64と、周辺領域44で検出された注目領域の報知に用いる特定の色領域65が表示される。
 そして、注目領域の検出から第1の表示時間が経過した時点で、特定の色領域64の表示は継続する(実線で表示)一方で、特定の色領域65は非表示(点線で表示)とする。ここで、非表示とは、特定の色領域の色と他の領域の色との違いが無くなることをいう。更に、第1の表示時間経過後、第2の表示時間が経過した時点で、両方の特定の色領域64、64を非表示にする。これにより、ユーザーは、特定の色領域の表示時間の長短によって、検出精度を把握することができる。即ち、ユーザーは、中心領域43で検出された注目領域は検出精度が高い一方、周辺領域44で検出された注目領域は検出精度が低いことを把握することができる。
 一方、注目領域の見落し易さを特定の色領域の表示時間で表す場合であって、中心領域43と周辺領域44の両方で注目領域が検出された場合には、図15に示すように、まず、中心領域43で検出された注目領域の報知に用いる特定の色領域66と、周辺領域44で検出された注目領域の報知に用いる特定の色領域67が表示される。そして、注目領域の検出から第1の表示時間が経過した時点で、特定の色領域の表示は継続する(実線で表示)一方、特定の色領域は非表示(点線)とする。これにより、周辺領域44で検出された注目領域に関しては、特定の色領域67が長い間、表示されることにより、見落としを防ぐことができる。一方、中心領域43で検出された注目領域に関しては、特定の色領域66が短い間しか表示されないためにより、煩わしさを軽減することができる。
 なお、注目領域の検出位置が医療画像の中心領域又は周辺領域のいずれに含まれているか否かによって、注目領域の検出結果の表示態様を変えているが、図16に示すように、予め定めた特定位置SPと注目領域の検出位置DPとの間の距離を示す特定距離Lに基づいて、注目領域の検出結果の表示態様とを変えてもよい。特定位置SPについては医療画像の中心領域43に含まれていることが好ましい。例えば、特定距離Lが特定範囲に入っている場合における注目領域の検出結果の表示態様(特定範囲内表示態様)と、特定距離が特定範囲から外れている場合における注目領域の検出結果の表示態様(特定範囲外表示態様)とを異ならせる。具体的には、特定範囲内表示態様としての特定の図形の線の太さ、大きさ、表示時間、透過度、又は特定の色、特定の色の表示時間と、特定範囲外表示態様としての特定の図形の線の太さ、大きさ、表示時間、透過度、又は特定の色、特定の色の表示時間とを異ならせる。この異ならせるための具体的な例については、上記と同様である。
 また、医療画像を中心領域又は周辺領域の2つの領域分けて、いずれかの領域で注目領域の検出結果の表示態様を変える他、医療画像を3以上の領域に分けて、各領域で注目領域の検出結果の表示態様を変えるようにしてもよい。また、中心領域と周辺領域のように、医療画像を同心円状に分割しているが、分割する形状については、矩形形状などその他の形状であってもよい。また、医療画像を分割する場合には、同心円、矩形形状など複数種類を組み合わせて、分割してもよい。
 また、特定の図形として、バウンディングボックスを挙げているが、その他の図形であってもよい。例えば、バウンディングボックスに色を付けたものや、注目領域に含まれる観察対象をアイコン(指のマークやマウスカーソル)などで指し示したりしてもよい。
 なお、図17に示すように、内視鏡システム21その他モダリティやPACS22とを組み合わせて使用する診断支援装置610は、上記実施形態及びその他変形例の画像処理システム10を含むことができる。また、図18に示すように、例えば内視鏡システム21を含む、第1検査装置621、第2検査装置622、…、第N検査装置633等の各種検査装置と任意のネットワーク626を介して接続する医療業務支援装置630は、上記実施形態及びその他変形例の画像処理システム10を含むことができる。
 この他、画像処理システム10、内視鏡システム21、及び、画像処理システム10を含む各種装置またはシステムは、以下の種々の変更等をして使用できる。
 医療画像としては、白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像を用いることができる。
 医療画像としては、特定の波長帯域の光を照射して得た画像を使用する場合、特定の波長帯域は、白色の波長帯域よりも狭い帯域を用いることができる。
 特定の波長帯域は、例えば、可視域の青色帯域または緑色帯域である。
 特定の波長帯域が可視域の青色帯域または緑色帯域である場合、特定の波長帯域は、390nm以上450nm以下または530nm以上550nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、390nm以上450nm以下または530nm以上550nm以下の波長帯域内にピーク波長を有することが好ましい。
 特定の波長帯域は、例えば、可視域の赤色帯域である。
 特定の波長帯域が可視域の赤色帯域である場合、特定の波長帯域は、585nm以上615nmまたは610nm以上730nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、585nm以上615nm以下または610nm以上730nm以下の波長帯域内にピーク波長を有することが好ましい。
 特定の波長帯域は、例えば、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、かつ、特定の波長帯域の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有することができる。
 特定の波長帯域が、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、かつ、特定の波長帯域の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有する場合、特定の波長帯域は、400±10nm、440±10nm、470±10nm、または、600nm以上750nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、400±10nm、440±10nm、470±10nm、または、600nm以上750nm以下の波長帯域にピーク波長を有することが好ましい。
 医療画像が生体内を写した生体内画像である場合、この生体内画像は、生体内の蛍光物質が発する蛍光の情報を有することができる。
 また、蛍光は、ピーク波長が390nm以上470nm以下である励起光を生体内に照射して得る蛍光を利用できる。
 医療画像が生体内を写した生体内画像である場合、前述の特定の波長帯域は、赤外光の波長帯域を利用することができる。
 医療画像が生体内を写した生体内画像であり、前述の特定の波長帯域として、赤外光の波長帯域を利用する場合、特定の波長帯域は、790nm以上820nmまたは905nm以上970nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、790nm以上820nm以下または905nm以上970nm以下の波長帯域にピーク波長を有することが好ましい。
 医療画像取得部11は、白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像に基づいて、特定の波長帯域の信号を有する特殊光画像を取得する特殊光画像取得部を有することができる。この場合、医療画像として特殊光画像を利用できる。
 特定の波長帯域の信号は、通常光画像に含むRGBまたはCMYの色情報に基づく演算により得ることができる。
 白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像と、特定の波長帯域の光を照射して得る特殊光画像との少なくとも一方に基づく演算によって、特徴量画像を生成する特徴量画像生成部を備えることができる。この場合、医療画像として特徴量画像を利用できる。
 内視鏡システム21については、内視鏡31としてカプセル内視鏡を使用できる。この場合、光源装置32と、プロセッサ装置33の一部と、はカプセル内視鏡に搭載できる。
 上記実施形態及び変形例において、医療画像取得部11、医療画像解析処理部12、及び医療画像解析処理部12を構成する各部、表示制御部15、入力受信部16、統括制御部17、並びに、医療画像取得部35、医療画像解析処理部36、表示制御部37、注目領域検出部41、表示態様決定部42といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA (Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、各種の処理を実行するために専用に設計された回路構成を有するプロセッサである専用電気回路、画像処理などの処理を大量に並列に行うGPU (Graphical Processing Unit)などが含まれる。
 1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGA、CPUとFPGAの組み合わせ、又はCPUとGPUの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
 さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路(circuitry)である。また、記憶部のハードウェア的な構造はHDD(hard disc drive)やSSD(solid state drive)等の記憶装置である。
 また、本発明の別の形態は以下の通りである。
 本発明の医療画像処理システムは、
 プロセッサ装置が、
 医療画像取得部によって、観察対象を撮像して得られる医療画像を取得し、
 注目領域検出部によって、前記医療画像から注目領域を検出し、
 表示制御部によって、前記注目領域の検出結果を、少なくとも前記注目領域の検出位置によって異なる表示態様で、表示部に表示する。
10 画像処理システム
11 医療画像取得部
12 医療画像解析処理部
13 表示部
15 表示制御部
16 入力受信部
17 統括制御部
18 保存部
21 内視鏡システム
22 PACS
31 内視鏡
32 光源装置
33 プロセッサ装置
34 モニタ
35 医療画像取得部
36 医療画像解析処理部
37 表示制御部
41 注目領域検出部
42 表示態様決定部
43 中心領域
44 周辺領域
46 バウンディングボックス
46~61 バウンディングボックス
62~67 特定の色領域
610 診断支援装置
621 第1検査装置
622 第2検査装置
623 第3検査装置
626 ネットワーク
630 医療業務支援装置
SP 特定位置
DP 検出位置
L 特定距離

Claims (12)

  1.  観察対象を撮像して得られる医療画像を取得する医療画像取得部と、
     前記医療画像から注目領域を検出する注目領域検出部と、
     前記注目領域の検出結果を、少なくとも前記注目領域の検出位置によって異なる表示態様で、表示部に表示する表示制御部とを備える医療画像処理システム。
  2.  前記医療画像を複数の領域に分割し、
     前記注目領域の検出位置が前記複数の領域のいずれに含まれるかによって、前記注目領域の検出結果の表示態様を変える請求項1記載の医療画像処理システム。
  3.  前記注目領域の検出位置が前記医療画像の第1領域に含まれる場合における前記注目領域の検出結果の表示態様と、前記注目領域の検出位置が、前記医療画像のうち前記第1領域と異なる第2領域に含まれる場合における前記注目領域の検出結果の表示態様とが異なる請求項2記載の医療画像処理システム。
  4.  前記第1領域は前記医療画像の中心領域であり、前記第2領域は前記医療画像の前記中心領域の外側の周辺領域である請求項3記載の医療画像処理システム。
  5.  予め定められた特定位置と前記注目領域の検出位置との間の距離を示す特定距離が特定範囲に入っている場合における前記注目領域の検出結果の表示態様と、前記特定距離が前記特定範囲から外れている場合における前記注目領域の検出結果の表示態様とが異なる請求項1記載の医療画像処理システム。
  6.  前記特定位置は前記医療画像の中心領域に含まれる請求項5記載の医療画像処理システム。
  7.  前記注目領域の検出結果を特定の図形で表す場合において、前記特定の図形の線の太さが、前記注目領域の検出位置によって異なる請求項1ないし6いずれか1項記載の医療画像処理システム。
  8.  前記注目領域の検出結果を特定の図形で表す場合において、前記特定の図形の大きさが、前記注目領域の検出位置によって異なる請求項1ないし7いずれか1項記載の医療画像処理システム。
  9.  前記注目領域の検出結果を特定の図形で表す場合において、前記特定の図形の表示時間が、前記注目領域の検出位置によって異なる請求項1ないし8いずれか1項記載の医療画像処理システム。
  10.  前記注目領域の検出結果を特定の図形で表す場合において、前記特定の図形の透過度が、前記注目領域の検出位置によって異なる請求項1ないし9いずれか1項記載の医療画像処理システム。
  11.  前記注目領域の検出結果を特定の色領域で表す場合において、前記特定の色領域の色が、前記注目領域の検出位置によって異なる請求項1ないし6いずれか1項記載の医療画像処理システム。
  12.  前記注目領域の検出結果を特定の色領域で表す場合において、前記特定の色領域の表示時間が、前記注目領域の検出位置によって異なる請求項1ないし6いずれか1項記載の医療画像処理システム。
PCT/JP2019/031432 2018-08-20 2019-08-08 医療画像処理システム WO2020039968A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
EP19851797.1A EP3841954A4 (en) 2018-08-20 2019-08-08 MEDICAL IMAGE PROCESSING SYSTEM
CN201980054345.6A CN112584741A (zh) 2018-08-20 2019-08-08 医疗图像处理系统
JP2020538311A JP7079849B2 (ja) 2018-08-20 2019-08-08 医療画像処理システム
US17/169,510 US20210153722A1 (en) 2018-08-20 2021-02-07 Medical image processing system
JP2022083825A JP7235912B2 (ja) 2018-08-20 2022-05-23 医療画像処理システム、内視鏡システム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018154120 2018-08-20
JP2018-154120 2018-08-20

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/169,510 Continuation US20210153722A1 (en) 2018-08-20 2021-02-07 Medical image processing system

Publications (1)

Publication Number Publication Date
WO2020039968A1 true WO2020039968A1 (ja) 2020-02-27

Family

ID=69593203

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/031432 WO2020039968A1 (ja) 2018-08-20 2019-08-08 医療画像処理システム

Country Status (5)

Country Link
US (1) US20210153722A1 (ja)
EP (1) EP3841954A4 (ja)
JP (2) JP7079849B2 (ja)
CN (1) CN112584741A (ja)
WO (1) WO2020039968A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021164538A (ja) * 2020-04-07 2021-10-14 コニカミノルタ株式会社 診断支援システム、診断支援装置及びプログラム
WO2021210334A1 (ja) * 2020-04-14 2021-10-21 Eizo株式会社 情報処理装置、情報処理方法、及びコンピュータプログラム

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020036109A1 (ja) * 2018-08-17 2020-02-20 富士フイルム株式会社 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法
JPWO2021075306A1 (ja) * 2019-10-17 2021-04-22
US20230181002A1 (en) * 2021-12-14 2023-06-15 Karl Storz Imaging, Inc. Frame processing of imaging scope data for user interface presentation
WO2024048098A1 (ja) * 2022-08-30 2024-03-07 富士フイルム株式会社 医療支援装置、内視鏡、医療支援方法、及びプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011115264A (ja) * 2009-12-01 2011-06-16 Konica Minolta Medical & Graphic Inc 医用情報表示装置及びプログラム
WO2017073338A1 (ja) 2015-10-26 2017-05-04 オリンパス株式会社 内視鏡画像処理装置
WO2017081976A1 (ja) * 2015-11-10 2017-05-18 オリンパス株式会社 内視鏡装置
WO2018003503A1 (ja) * 2016-06-28 2018-01-04 ソニー株式会社 画像処理装置および画像処理方法、並びに医療用撮像システム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101448459B (zh) * 2006-05-19 2012-01-04 株式会社日立医药 医用图像显示装置和程序
JP2009086765A (ja) * 2007-09-27 2009-04-23 Fujifilm Corp 医用レポートシステム、医用レポート作成装置、及び医用レポート作成方法
JP5380348B2 (ja) * 2010-03-31 2014-01-08 富士フイルム株式会社 内視鏡観察を支援するシステムおよび方法、並びに、装置およびプログラム
JP5597021B2 (ja) * 2010-04-15 2014-10-01 オリンパス株式会社 画像処理装置及びプログラム
JP2012005512A (ja) * 2010-06-22 2012-01-12 Olympus Corp 画像処理装置、内視鏡装置、内視鏡システム、プログラム及び画像処理方法
JP5934070B2 (ja) * 2012-09-26 2016-06-15 富士フイルム株式会社 仮想内視鏡画像生成装置およびその作動方法並びにプログラム
EP2926713A4 (en) * 2012-11-30 2016-07-20 Olympus Corp OBSERVATION DEVICE
JP2015016067A (ja) * 2013-07-10 2015-01-29 富士フイルム株式会社 画像表示方法および装置並びにプログラム
JP2017518147A (ja) * 2014-03-28 2017-07-06 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 手術シーンの定量的三次元撮像
JP6013665B1 (ja) * 2014-11-26 2016-10-25 オリンパス株式会社 診断支援装置及び診断支援情報表示方法
JP6263248B2 (ja) * 2016-11-07 2018-01-17 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011115264A (ja) * 2009-12-01 2011-06-16 Konica Minolta Medical & Graphic Inc 医用情報表示装置及びプログラム
WO2017073338A1 (ja) 2015-10-26 2017-05-04 オリンパス株式会社 内視鏡画像処理装置
WO2017081976A1 (ja) * 2015-11-10 2017-05-18 オリンパス株式会社 内視鏡装置
WO2018003503A1 (ja) * 2016-06-28 2018-01-04 ソニー株式会社 画像処理装置および画像処理方法、並びに医療用撮像システム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021164538A (ja) * 2020-04-07 2021-10-14 コニカミノルタ株式会社 診断支援システム、診断支援装置及びプログラム
JP7428055B2 (ja) 2020-04-07 2024-02-06 コニカミノルタ株式会社 診断支援システム、診断支援装置及びプログラム
WO2021210334A1 (ja) * 2020-04-14 2021-10-21 Eizo株式会社 情報処理装置、情報処理方法、及びコンピュータプログラム
JP2021170174A (ja) * 2020-04-14 2021-10-28 Eizo株式会社 情報処理装置、情報処理方法、及びコンピュータプログラム
JP7237883B2 (ja) 2020-04-14 2023-03-13 Eizo株式会社 情報処理装置、情報処理方法、及びコンピュータプログラム

Also Published As

Publication number Publication date
EP3841954A4 (en) 2021-10-13
CN112584741A (zh) 2021-03-30
JP2022103441A (ja) 2022-07-07
JP7235912B2 (ja) 2023-03-08
EP3841954A1 (en) 2021-06-30
JPWO2020039968A1 (ja) 2021-08-12
JP7079849B2 (ja) 2022-06-02
US20210153722A1 (en) 2021-05-27

Similar Documents

Publication Publication Date Title
WO2020039968A1 (ja) 医療画像処理システム
WO2020040087A1 (ja) 医療画像処理システム
US11605363B2 (en) Medical image processing apparatus for reducing examination load
US11950757B2 (en) Medical image processing apparatus
US11867896B2 (en) Endoscope system and medical image processing system
US11862327B2 (en) Medical image processing system
JP7348386B2 (ja) 医療画像処理システム、認識処理用プロセッサ装置、及び医療画像処理システムの作動方法
US20210224989A1 (en) Medical image processing system and learning method

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19851797

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2020538311

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2019851797

Country of ref document: EP

Effective date: 20210322