WO2022270582A1 - 検査支援装置、検査支援方法および検査支援プログラム - Google Patents

検査支援装置、検査支援方法および検査支援プログラム Download PDF

Info

Publication number
WO2022270582A1
WO2022270582A1 PCT/JP2022/025111 JP2022025111W WO2022270582A1 WO 2022270582 A1 WO2022270582 A1 WO 2022270582A1 JP 2022025111 W JP2022025111 W JP 2022025111W WO 2022270582 A1 WO2022270582 A1 WO 2022270582A1
Authority
WO
WIPO (PCT)
Prior art keywords
unit
mode
diagnosis
display
examination
Prior art date
Application number
PCT/JP2022/025111
Other languages
English (en)
French (fr)
Inventor
洋幸 関本
夏帆 秋吉
Original Assignee
株式会社Aiメディカルサービス
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社Aiメディカルサービス filed Critical 株式会社Aiメディカルサービス
Publication of WO2022270582A1 publication Critical patent/WO2022270582A1/ja
Priority to US18/508,212 priority Critical patent/US20240095917A1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000096Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/0002Operational features of endoscopes provided with data storages
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00039Operational features of endoscopes provided with input arrangements for the user
    • A61B1/0004Operational features of endoscopes provided with input arrangements for the user for electronic operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/94Hardware or software architectures specially adapted for image or video understanding
    • G06V10/945User interactive design; Environments; Toolboxes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images

Definitions

  • the present invention relates to an examination support device, an examination support method, and an examination support program.
  • An endoscope system takes an image of, for example, the inside of the stomach of a subject using an endoscope and displays the image on a monitor.
  • an examination support device that analyzes an image captured by an endoscope system and informs a doctor of the result is becoming popular (see, for example, Patent Document 1).
  • a mode of use in which an examination support device is connected to an endoscope system and an in-vivo image captured by the endoscope system is analyzed in real time by the examination support device is also reaching the stage of practical use.
  • the doctor can enjoy the benefits of being able to concentrate on observing a specific part according to the displayed diagnostic results.
  • the doctor can enjoy the benefits of being able to concentrate on observing a specific part according to the displayed diagnostic results.
  • it is desired to turn off the display of diagnostic results which causes some delay before the display of diagnostic results, for reasons such as shortening the examination time for inserting the endoscope into the subject's body.
  • completely turning off the diagnostic function increases the risk of overlooking lesions.
  • the present invention was made in order to solve such problems, and provides an examination support device that prevents lesions from being overlooked while allowing the display to be switched according to examination circumstances.
  • An examination support apparatus is an examination support apparatus that is used by being connected to an endoscope system that includes a camera unit that is inserted into the body of a subject.
  • An acquisition unit that sequentially acquires captured images, a diagnostic unit that diagnoses the inside of the body based on the captured images, a display unit that displays the diagnostic results output by the diagnostic unit, an ON mode that displays the diagnostic results on the display unit, and a display a receiving unit that receives a selection from the user of an off mode that does not allow the diagnosis; if the receiving unit receives the selection of the on mode, the diagnosis result is displayed on the display unit in real time; if the selection of the off mode is received, at least and a control unit for storing the diagnosis result in the storage unit without displaying it on the display unit while the examination inside the body by the camera unit is being continued.
  • An examination support method is an examination support method using an examination support apparatus that is used in connection with an endoscope system having a camera unit that is inserted into the body of a subject, a receiving step of receiving a user's selection of an on mode for displaying the diagnostic results on the display unit and an off mode not displaying the results; an obtaining step of sequentially obtaining images captured by the camera unit; a display control step of displaying the diagnostic result on the display unit in real time when the selection of the on mode is received in the receiving step; and when the selection of the off mode is received in the receiving step, at least the camera unit and a storage control step of storing the diagnosis result in the storage unit without displaying it on the display unit while the examination inside the body is continued.
  • An examination support program is an examination support program for controlling an examination support apparatus used in connection with an endoscope system having a camera unit inserted into the body of a subject, a receiving step of receiving a user's selection of an on mode for displaying the diagnostic results on the display unit and an off mode not displaying the results; an obtaining step of sequentially obtaining images captured by the camera unit; a display control step of displaying the diagnostic result on the display unit in real time when the selection of the on mode is received in the receiving step; and when the selection of the off mode is received in the receiving step, at least the camera unit and a storage control step of storing the diagnosis result in the storage unit without displaying it on the display unit while the examination inside the body is continued.
  • an examination support device that prevents lesions from being overlooked while allowing display switching according to examination circumstances.
  • FIG. 10 is a diagram showing an example of a display screen that displays diagnostic results stored during an examination at the end of the examination;
  • FIG. 10 is a diagram showing another example of a display screen that displays diagnostic results stored during an examination at the end of the examination;
  • FIG. 10 is a diagram showing another example of a display screen that displays diagnostic results stored during an examination at the end of the examination;
  • FIG. 10 is a diagram showing an example of a mode setting screen; It is a figure which shows the example of the setting screen in ON mode. It is a figure which shows the example of the setting screen in off mode.
  • FIG. 10 is a flow diagram for explaining the processing procedure of the arithmetic processing unit, and is a flow diagram for explaining the processing procedure mainly when the ON mode is set;
  • FIG. 10 is a flowchart for explaining the processing procedure of the arithmetic processing unit, and is a flowchart mainly for explaining the processing procedure when the off mode is set;
  • FIG. 1 is a diagram showing how an endoscopy is performed using an endoscope system 200 and an examination support device 100 according to the present embodiment.
  • FIG. 4 is a diagram showing; Both the endoscope system 200 and the examination support apparatus 100 are installed in the examination space.
  • the endoscope system 200 includes a camera unit 210. As shown, the camera unit 210 is inserted from the oral cavity of a lying subject into an internal organ such as the stomach, and receives an image signal of an image of the inside of the organ. is sent to the system main unit. The insertion of the camera unit 210 into the organ and the imaging operation are performed by a doctor.
  • the endoscope system 200 includes a system monitor 220 configured by, for example, a liquid crystal panel, and processes the image signal sent from the camera unit 210 and displays it on the system monitor 220 as a visible captured image 221 .
  • the endoscope system 200 also displays examination information 222 including subject information, camera information of the camera unit 210, and the like on the system monitor 220.
  • FIG. 1 A system monitor 220 configured by, for example, a liquid crystal panel, and processes the image signal sent from the camera unit 210 and displays it on the system monitor 220 as a visible captured image 221 .
  • the endoscope system 200 also displays examination information 222 including subject information, camera information of the camera unit 210, and the like on the system monitor 220.
  • the examination support device 100 is connected to the endoscope system 200 by a connection cable 250.
  • the endoscope system 200 also transmits the display signal to be transmitted to the system monitor 220 to the examination support apparatus 100 via the connection cable 250 .
  • the display signal in this embodiment is an example of an image signal that the endoscope system 200 provides to an external device.
  • the examination support apparatus 100 includes a display monitor 120 configured by, for example, a liquid crystal panel as a display unit, extracts an image signal corresponding to the captured image 221 from the display signal sent from the endoscope system 200, and makes it visible.
  • the captured image 121 is sequentially displayed on the display monitor 120 .
  • the doctor proceeds with the examination while viewing the captured image 121 displayed in real time according to the operation of the camera unit 210 .
  • the doctor operates the camera unit 210 so that the target part to be diagnosed by the examination support apparatus 100 is displayed as the captured image 121 .
  • the examination support apparatus 100 In the ON mode, the examination support apparatus 100 generates image data to be input to a neural network for analysis, which will be described later, from the captured image 121 at that time, for example, when detecting a diagnosis trigger by a doctor. Then, the diagnostic result generated from the output of the neural network for analysis is converted into computer graphics and displayed on the display monitor 120 as the CG index 122 .
  • the example in the figure shows the diagnosis result that the probability of being diagnosed with cancer is 75%.
  • the area determined as such is indicated by a diagnostic area frame 121 a superimposed on the captured image 121 .
  • the diagnosis result is displayed for a certain period of time, and then switched to a real-time captured image 121 captured by the camera unit 210 .
  • FIG. 2 is a hardware configuration diagram of the inspection support device 100.
  • the examination support apparatus 100 is mainly composed of an arithmetic processing section 110 , a display monitor 120 , an input/output interface 130 , an input device 140 and a storage section 150 .
  • the arithmetic processing unit 110 is a processor (CPU: Central Processing Unit) that performs control of the examination support apparatus 100 and program execution processing.
  • the processor may be configured to cooperate with an arithmetic processing chip such as an ASIC (Application Specific Integrated Circuit) or a GPU (Graphics Processing Unit).
  • the arithmetic processing unit 110 reads out the examination assistance program stored in the storage unit 150 and executes various processes related to examination assistance.
  • the display monitor 120 is, for example, a monitor having a liquid crystal panel, as described above, and displays the captured image 121, the CG index 122, and the like in a visible manner.
  • Input/output interface 130 is a connection interface for exchanging information with an external device, including a connector for connecting connection cable 250 .
  • the input/output interface 130 includes, for example, a LAN unit, takes in an examination support program and update data of an analysis neural network 151 (to be described later) from an external device, and delivers them to the arithmetic processing unit 110 .
  • the input device 140 is, for example, a keyboard, a mouse, or a touch panel superimposed on the display monitor 120.
  • a doctor or an assistant operates these devices to change the settings of the examination support apparatus 100 or input information necessary for examination. You can
  • the storage unit 150 is a nonvolatile storage medium, and is configured by, for example, an HDD (Hard Disk Drive).
  • the storage unit 150 can store various parameter values, functions, display element data, lookup tables, etc. used for control and calculation, in addition to programs for executing control and processing of the examination support apparatus 100 .
  • the storage unit 150 particularly stores an analysis neural network 151 .
  • the analysis neural network 151 is a trained model that, when inputting image data captured by the camera unit 210, calculates an area in which a lesion is estimated to exist in the image and an estimated probability of estimating that it is a lesion. be.
  • the storage unit 150 may be configured with a plurality of pieces of hardware, and for example, a storage medium storing the program and a storage medium storing the analysis neural network 151 may be configured with separate hardware.
  • the computation processing unit 110 also serves as a functional computation unit that executes various computations according to the processing instructed by the examination support program.
  • the arithmetic processing unit 110 can function as an acquisition unit 111 , a diagnosis unit 112 , a control unit 113 , a reception unit 114 and a detection unit 115 .
  • the acquisition unit 111 sequentially acquires display signals sent from the endoscope system 200 and develops each of them into a signal reproduction image. Further, by searching for a change area in which the amount of difference between the successive signal reproduction images is equal to or greater than the reference amount, the image area representing the captured image captured by the camera unit 210 is determined. Once the image region is determined, the acquisition unit 111 sequentially generates the captured image 121 as a frame image from the image region of the display signal that is sequentially acquired thereafter.
  • the diagnostic unit 112 inputs the captured image 121 as a diagnostic image to the analysis neural network 151 read from the storage unit 150, and outputs regions in the image that are suspected to be lesions and their estimated probabilities.
  • the diagnosis unit 112 generates a diagnosis result by associating this output with an input image or the like.
  • the control unit 113 generates display signals for the display screen to control display on the display monitor 120 , controls reading and writing of data to the storage unit 150 , and communicates various control signals with external devices via the input/output interface 130 . control transmission and reception.
  • the diagnosis result generated by the diagnosis unit 112 is displayed on the display monitor 120 in real time.
  • the diagnosis result generated by the diagnosis unit 112 is stored in the storage unit 150 without being displayed on the display monitor 120 at least while the internal examination of the subject is being continued.
  • the reception unit 114 receives a selection of the ON mode or the OFF mode from the doctor who is the user via the input device 140 .
  • the detection unit 115 detects that the examination in which the camera unit 210 is inserted into the subject's body has ended.
  • a conventional examination support apparatus captured images captured by a camera unit inserted into the subject's body are sequentially captured, and when a diagnosis trigger by a doctor is detected, diagnosis is made based on the captured images at that time. , the results were displayed immediately. In other words, it was common for a doctor to view the diagnosis result in real time in accordance with the operation of the camera unit.
  • the subject may be elderly, have a chronic disease, or be on medication. In such a case, it may not be possible to allow the time for the camera unit to stand still in order to give a diagnosis trigger or the time for the calculation processing for calculating the estimated probability of lesions. In such circumstances, the inspection support device was turned off.
  • the examination support apparatus 100 in this embodiment employs two off modes in addition to the on mode thus far.
  • the two off modes are a background mode and a full off mode, which by default switches to background mode when the off mode is selected by the physician.
  • On mode is a mode that displays diagnostic results in real time.
  • the background mode is a mode in which diagnostic processing is executed by the diagnostic unit 112 but the diagnostic results are not displayed and stored in the storage unit 150 while the in-vivo examination continues.
  • the complete off mode is a mode in which the diagnosis section 112 does not perform diagnostic processing.
  • displaying in real time in the present embodiment allows for a delay of the processing time required for image processing and diagnostic processing with respect to real time. good. For example, displaying a progress bar during diagnostic processing to indicate the progress of the processing, and displaying the diagnostic results immediately after the processing is completed is also expressed as real-time display.
  • FIG. 3 is a diagram showing an example of a display screen in each mode. Specifically, they are all examples of display screens during examinations in which the camera unit 210 is inserted into the body of the subject.
  • FIG. 3A is an example of a display screen when the ON mode is being executed.
  • the ON mode there are mainly a standby display state in which an image captured by the camera unit 210 is displayed in real time, and a result display state in which a diagnosis result of a specific image is displayed.
  • the left diagram of FIG. 3(A) shows an example of the standby display state.
  • the sequentially updated captured image 121 is arranged on the left side, and the standby index 122a representing the diagnosis standby state is arranged on the right side.
  • the sequentially updated captured image 121 is a so-called live display in which the captured image captured by the camera unit 210 is displayed almost without delay.
  • the standby indicator 122a is computer graphics including text "ON" indicating the ON mode and "AI Ready” indicating the diagnosis standby state, and is one aspect of the CG indicator 122.
  • Such a display mode in the on-mode is called an on-mode live display.
  • the right figure of FIG. 3(A) shows an example of the result display state.
  • the captured image 121 used as the diagnostic image is arranged on the left side
  • the result index 122b representing the diagnosis result is arranged on the right side.
  • the result indicator 122b is a computer graphic containing a numerical value of the estimated probability of being a lesion ("85%" in the example of the figure) and text of the type of lesion ("Cancer" in the example of the figure), It is one aspect of the CG index 122 .
  • a diagnostic area frame 121a is superimposed on the captured image 121 so that the area estimated to be a lesion can be identified.
  • the result display state continues for a certain period of time (for example, 2 seconds), and then the display returns to the diagnosis standby state.
  • FIG. 3(B) is an example of the display screen when the background mode of the off modes is being executed.
  • the sequentially updated captured image 121 is arranged on the left side, and the first OFF indicator 122c indicating that the mode is both the OFF mode and the background mode is arranged on the right side.
  • the sequentially updated captured image 121 is a so-called live display in which the captured image captured by the camera unit 210 is displayed almost without delay, similar to the on-mode live display.
  • the first OFF indicator 122c is a computer graphic including the text "OFF" indicating the off mode and "Background Processing" indicating that diagnostic processing is performed in the background. be.
  • the sequentially updated captured image 121 is displayed, and the entire display area is shaded in gray so that it can be recognized at a glance that it is both the off mode and the background mode.
  • Such a display mode in the off-mode is called off-mode live display.
  • FIG. 3(C) is an example of the display screen when the complete off mode is being executed among the off modes.
  • the second off indicator 122d representing the completely off mode is arranged to the right.
  • the second OFF indicator 122 d is computer graphics including only the text “OFF” indicating the OFF mode, and is one aspect of the CG indicator 122 .
  • the sequentially updated captured image 121 is not displayed, and the entire display area is shaded in gray so that both the off mode and the completely off mode can be recognized at a glance. .
  • Fig. 4 is a diagram for explaining the process up to displaying the diagnosis result in the ON mode.
  • a signal reproduction image 225 acquired by the acquisition unit 111 from the display signal sent from the endoscope system 200 and developed is the same as the display image displayed on the system monitor 220 of the endoscope system 200 .
  • the signal reproduced image 225 includes the captured image 221 and examination information 222 .
  • the examination information 222 is, for example, text information.
  • the acquisition unit 111 cuts out the determined image region to obtain the captured image 121 . and It can be said that the captured image 121 is substantially an image obtained by reproducing the captured image captured by the camera unit 210 by the inspection support apparatus 100 .
  • the acquisition unit 111 passes the captured image 121 to the control unit 113 .
  • the control unit 113 sequentially updates the captured image 121 and displays it on the display monitor 120 in order to realize the display screen in the standby display state described with reference to FIG.
  • the acquisition unit 111 hands over the captured image 121 to the control unit 113 and to the diagnosis unit 112 .
  • the diagnosis unit 112 adjusts the captured image 121 according to the specifications of the analysis neural network 151 and generates a diagnostic image.
  • the image size is reduced by thinning out the pixels of the captured image 121 in order to reduce the delay time until the diagnosis result is displayed as much as possible.
  • the diagnostic unit 112 inputs the image data of the generated diagnostic image to the analysis neural network 151 to calculate the estimated probability that a lesion exists in the diagnostic image.
  • the analysis neural network 151 outputs suspected lesion areas in the image together with their estimated probabilities as diagnostic results. In the example of FIG. 4, an upper left area indicating an estimated probability of 60% and an area near the center indicating an estimated probability of 85% are output.
  • Diagnosis unit 112 passes the diagnosis result to control unit 113 .
  • the control unit 113 expands and arranges the captured image data of the captured image 121 received from the acquisition unit 111 and the diagnosis results received from the diagnosis unit 112 according to preset display standards, and displays them on the display monitor 120 . Specifically, it is displayed in the mode of the result display state described with reference to FIG.
  • the display criteria are, for example, criteria such as selecting the one with the highest estimated probability when multiple lesions are detected in the diagnostic results, or prioritizing lesions detected in an area near the center of the diagnostic image. It is possible to consider a standard such as displaying. In addition, display standards that do not display diagnostic results when the generated diagnostic images are unclear and the credibility of the diagnostic results is questionable, or when there is no item whose estimated probability exceeds a preset threshold. can also be set.
  • the display criteria may be appropriately set according to the site to be observed, the purpose of the examination, and the like. Further, when a plurality of lesions are detected, the result index 122b and the diagnostic area frame 121a may be sequentially switched and displayed according to each lesion.
  • FIG. 5 is a diagram for explaining the processing up to storing the diagnosis result in the background mode of the off mode.
  • the acquisition unit 111 acquires the display signal sent from the endoscope system 200 and cuts out the captured image 121 from the expanded reproduced image 225 .
  • the control unit 113 displays the sequentially updated captured image 121 on the display monitor 120 in order to realize the background mode display screen described with reference to FIG. 3B.
  • the acquisition unit 111 delivers the captured image 121 to the diagnosis unit 112 when the captured image 121 that has been cut out is an image to be diagnosed.
  • the diagnosis unit 112 adjusts the captured image 121 according to the specifications of the analysis neural network 151 and generates a diagnostic image. In the background mode, it is not necessary to display the diagnostic results immediately, so the image size may be adjusted to be larger than the image size in the on mode. That is, a high-definition diagnostic image closer to the captured image 121 may be generated by suppressing the thinning rate for the captured image 121 . If the processing capability of the arithmetic processing unit 110 permits, the captured image 121 may be used as a diagnostic image as it is without thinning. The use of high-definition diagnostic images can be expected to improve diagnostic accuracy.
  • the diagnosis unit 112 inputs the image data of the generated diagnostic image to the analysis neural network 151 to calculate the estimated probability that a lesion exists in the diagnostic image.
  • the analysis neural network 151 outputs suspected lesion areas in the image together with their estimated probabilities as diagnostic results.
  • Diagnosis unit 112 passes the diagnosis result to control unit 113 .
  • the control unit 113 stores the captured image data of the captured image 121 received from the acquisition unit 111 and the diagnosis result received from the diagnosis unit 112 in the storage unit 150 according to preset storage criteria.
  • the storage criteria will be detailed later.
  • the diagnostic result and the captured image 121 that generated the diagnostic image are still displayed for a certain period of time, but in the background mode, the diagnostic result is not displayed. still image is not displayed.
  • the control unit 113 reads the diagnosis result stored in the storage unit 150 and displays it on the display monitor 120 .
  • the detection unit 115 detects the timing at which the camera unit 210 is discharged from the oral cavity, for example, by capturing a sudden change in luminance of the captured image 121 .
  • the end of the inspection may be detected by reading the inspection information 222 included in the signal reproduction image 225 .
  • FIG. 6 is a diagram showing an example of a display screen that displays the diagnostic results stored during the examination at the end of the examination.
  • the upper diagram in FIG. 6 is an example of a display screen displaying stored diagnostic results as thumbnails, and the lower diagram is an example of a display screen when a specific thumbnail image is selected.
  • the upper diagram of FIG. 6 is a display example of the diagnosis result when the storage criterion is set to store when a lesion is detected. That is, if the diagnosis result received from the diagnosis unit 112 includes lesion detection, the control unit 113 stores it in the storage unit 150, and if it does not include lesion detection, discards it. When the detection unit 115 detects the end of the examination, the control unit 113 reads out the stored diagnosis results, classifies them into "malignant lesions" and "benign or other lesions", and displays them as thumbnails. Specifically, the image number 162 is superimposed on the thumbnail image 161 cut out so as to include the lesion area from the captured image 121 serving as the basis of the diagnosis and stored in association with the diagnosis result.
  • diagnosis result is a malignant lesion, it is arranged and displayed under the title 123 of "malignant lesion”, and if it is a benign or other lesion, it is arranged and displayed under the title 123 of "benign or other lesion”. displayed.
  • the doctor selects the thumbnail image 161 using the input device 140 when he/she wants to check the specific thumbnail image 161 in detail.
  • the control unit 113 Upon receiving the selection of a specific thumbnail image 161 , the control unit 113 generates a high-definition image 160 corresponding to the thumbnail image 161 from the original captured image 121 , displays a larger image than the thumbnail image 161 together with the diagnosis result 163 on the display monitor 120 . to display.
  • FIG. 7 is a diagram showing another example of the display screen that displays the diagnostic results stored during the examination at the end of the examination. Specifically, it is a display example when a storage criterion is set to store all diagnostic results diagnosed by the diagnostic unit 112 .
  • the display screen includes classifications for "Malignant Lesion", "Benign or Other Lesion” as well as “No Abnormal Findings” as shown.
  • the control unit 113 superimposes the image number 162 on the thumbnail image 161 of the captured image 121 that is the basis of the diagnosis, and arranges it under the title 123 of "no abnormal findings". to display.
  • a scroll index 127 is arranged at the bottom right of the display screen, and in the example of the figure, it indicates that the thumbnail image 161 of "no abnormal findings" continues downward.
  • the doctor can scroll the display screen and confirm other thumbnail images 161 . 6
  • the control unit 113 displays the high-definition image 160 corresponding to the thumbnail image 161 along with the diagnosis result 163 on the display monitor 120.
  • 6 and 7 are examples in which all of the diagnostic results stored in the storage unit 150 are displayed. You may That is, the storage criteria for storing the diagnostic results in the storage unit 150 and the selection criteria for displaying them on the display monitor 120 at the end of the examination may be different. For example, even if a storage criterion is set to store all the diagnostic results diagnosed by the diagnosis unit 112, the selection criterion to be displayed on the display monitor 120 is that the estimated probability of estimating a lesion is equal to or greater than the threshold.
  • the doctor can store the result in the storage unit 150.
  • the diagnostic result obtained can be arbitrarily read and confirmed after the inspection is completed.
  • FIG. 8 is a diagram showing an example of a mode setting screen.
  • the mode setting screen has a title 123 of "Mode setting", selection items 125 of "On Mode” and “Off Mode”, and radio buttons 124 for exclusively selecting and specifying each of the selection items 125.
  • the examination support apparatus 100 operates in the ON mode when the reception unit 114 receives the selection of "On Mode”, and when the reception unit 114 receives the selection of "Off Mode", selects "Completely OFF", which will be described later. Unless you accept it, it will work in off mode background mode.
  • FIG. 9 is a display screen that transitions when "On Mode" is selected on the mode setting screen, and is a diagram showing an example of the setting screen in the on mode.
  • the doctor can set at what timing the diagnosis unit 112 is caused to execute diagnostic processing in the ON mode.
  • the "trigger designation” is, for example, when the captured image 121 becomes a still image when the doctor continues to press a still button provided on the endoscope system, and the acquisition unit 111 detects such a still image period.
  • the diagnosis unit 112 starts diagnosis processing. That is, the setting is such that the diagnosis process is started when the doctor determines that the diagnosis is requested. Therefore, when "trigger designation" is selected, it is preferable that the diagnostic results be uniformly displayed regardless of the contents.
  • “Periodical observation” is to continuously execute diagnostic processing according to the set period.
  • Input boxes 128 for “cycle” and “display standard” are provided for the setting of "cycle observation”, and the cycle (seconds) for executing the diagnosis processing and whether or not to display the diagnosis result are provided respectively.
  • FIG. 10 is a display screen that transitions when "Off Mode” is selected on the mode setting screen, and is a diagram showing an example of the setting screen in the off mode.
  • the screen When "Off Mode” is selected on the mode setting screen, the screen first transitions to the setting screen shown in the upper left figure.
  • the screen transitions to the display screen shown in the upper right figure.
  • the completely off mode the areas related to background mode settings are shaded.
  • the diagnosis processing by the diagnosis unit 112 is not executed, and the diagnosis result cannot be reviewed after the examination is finished, so it is necessary to select it more consciously. Therefore, by default, when off mode is selected, background mode is set first, and completely off mode accepts selections in a hierarchy deeper than the hierarchy where background mode is set. . By adopting such a user interface, the physician is prevented from inadvertently selecting the completely off mode.
  • the doctor can set the period for executing diagnostic processing by the diagnostic unit 112 .
  • the diagnostic unit 112 For example, if "2" seconds is entered in the check box 126 as shown, the diagnostic unit 112 generates a diagnostic image every two seconds and executes diagnostic processing.
  • the period in the background mode can be made different from the period in the case of periodic observation in the on mode. That is, it is possible to vary the rate at which the diagnosis unit 112 executes diagnosis processing for the captured image 121 acquired by the acquisition unit 111 . Since the real-time display of diagnostic results in the ON mode has the aspect of interrupting the progress of examination, it can be said that it is more convenient to reduce the frequency of diagnostic processing.
  • the background mode which is the off mode
  • the progress of the examination is not interrupted, so more diagnostic processing may be executed.
  • the convenience of the examination support apparatus 100 can be improved if the rate at which diagnostic processing is executed can be appropriately changed according to examination circumstances.
  • a storage criterion is a criterion set for at least one of a captured image and a diagnosis result, and the control unit 113 stores the diagnosis result in the storage unit 150 when the set storage criterion is satisfied.
  • a storage criterion it is possible to select either a case of storing all diagnostic results obtained by executing diagnostic processing or a case of storing only diagnostic results showing an estimated probability equal to or greater than a threshold value.
  • a check box 128 allows the user to specify the value of the estimated probability threshold. By storing only the diagnostic results whose estimated probability is equal to or higher than the threshold, it is possible to reduce the workload at the stage where the doctor confirms the diagnostic results after the examination.
  • the threshold of the estimated probability set as the storage reference it is also possible to set the threshold of the estimated probability set as the storage reference to a lower value than the threshold of the estimated probability set as the display reference in the ON mode.
  • the display criteria and the storage criteria may differ according to their properties.
  • “Resolution designation” designates execution of diagnostic processing only when the captured image 121 acquired by the acquisition unit 111 is a high-resolution image. If the "Yes" radio button 124 is selected, such restrictions are adopted, and if the "No" radio button 124 is selected, diagnostic processing is executed without restrictions.
  • the resolution is evaluated, for example, by high-frequency components included in the captured image 121, and is determined as "high resolution” when the high-frequency components occupy a ratio equal to or greater than a preset threshold. If the captured image 121, which is the original image from which the diagnostic image is generated, is limited to a high-resolution image, the reliability of the estimated probability output by the analysis neural network 151 is also improved.
  • the storage criteria for the captured image 121 it may be determined whether or not the captured image 121 satisfies the storage criteria at the time when the diagnosis result is stored in the storage unit 150. At that time, it may be determined whether the storage criteria are met. If it is judged at the time when the diagnosis result is stored in the storage unit 150, it is possible to omit the evaluation calculation of the resolution and the like for the captured image when it is determined not to be stored in the first place according to other storage criteria (for example, the threshold value of the estimated probability). can. If the determination is made when the acquisition unit 111 acquires the captured image 121, the diagnosis processing by the diagnosis unit 112 can be omitted.
  • “Specify observation part” specifies that diagnosis processing is to be performed only when the captured image 121 acquired by the acquisition unit 111 is an image of a specified observation part. In other words, the diagnosis site is limited to a specific organ. If the "Yes” radio button 124 is selected, such restrictions are adopted, and if the "No” radio button 124 is selected, diagnostic processing is executed without restrictions. If “Yes” is selected, a window 129 for designating an observation site appears as shown in the middle right figure.
  • the window 129 includes a title 123 of "specify observation site”, selection items 125 indicating observation sites, radio buttons 124 for exclusively selecting each selection item, and a scroll index 127.
  • selection items 125 "auto”, “esophagus”, “stomach”, etc. are prepared. "Automatic”, for example, confirms whether the prepared analysis neural network 151 is a learning model targeting a specific observation site, and if it is a learning model targeting a specific observation site, The observation site is designated as the designated site.
  • the examination information 222 appearing in the signal reproduction image 225 contains text information about the observation site, the text information is read to specify the observation site. It is a part.
  • the diagnosis unit 112 determines whether the captured image 121 handed over from the acquisition unit 111 is an image of the set observation region. Then, the control unit 113 causes the storage unit 150 to store the diagnosis result only when the diagnosis unit 112 determines that the image of the set observation site is captured. Prior to diagnosis processing, the diagnosis unit 112 determines whether the captured image 121 handed over from the acquisition unit 111 is an image of the set observation region, and determines that the observation region is not the set observation region. In this case, diagnosis processing may not be performed. When determining whether or not the captured image 121 handed over from the acquisition unit 111 is an image of a set observation site, the diagnosis unit 112 uses a site determination image prepared separately from the analysis neural network 151 .
  • a neural network may also be used.
  • the diagnosis unit 112 uses a region determination neural network that outputs the probability that the input image is the stomach, and the captured images handed over from the acquisition unit 111 are used. Image 121 is determined. Then, only when the probability of output from the part determination neural network is equal to or greater than the threshold, the captured image is input to the analysis neural network 151 and diagnostic processing is executed.
  • the display screen in the lower left diagram relates to the list display at the end of the examination and the setting of the storage destination of the diagnosis results.
  • “List display” specifies whether or not to display a list of diagnosis results using thumbnail display at the end of the examination, as described with reference to FIGS. 6 and 7 . If the "Yes" radio button 124 is selected, list display is performed, and if the "No” radio button 124 is selected, list display is not performed.
  • the "storage destination designation" is for designating in which storage medium the diagnostic result is to be stored.
  • the diagnosis result is stored in the storage unit 150, which is an internal memory, but the storage destination does not have to be the storage unit 150.
  • FIG. An external medium can also be specified.
  • the external medium may be, for example, a cloud server connected to a network.
  • a setting screen for setting the IP address may appear.
  • FIG. 11 is a flowchart explaining the processing procedure of the arithmetic processing unit 110, and is a flowchart mainly explaining the processing procedure when the ON mode is set. The flow starts when the examination support apparatus 100 is activated and the examination support program is executed.
  • the reception unit 114 receives various settings from the doctor via the input device 140 in step S101.
  • the doctor makes settings that meet the purpose of the examination through the user interface described with reference to FIGS. 8 to 10 .
  • the process proceeds to step S102.
  • step S102 the control unit 113 confirms whether the ON mode or the OFF mode has been set. If the on mode is set, the process proceeds to step S103, and if the off mode is set, the process proceeds to step S121 in FIG.
  • step S103 the case where the ON mode is set will be described.
  • the acquisition unit 111 acquires the display signal from the endoscope system 200 and generates the signal reproduction image 225. Further, in step S104, the captured image 121 is extracted from the signal reproduction image 225, and the control unit 113 hand over to In step S105, the control unit 113 executes on-mode live display in which the captured image 121 is sequentially updated and displayed on the display monitor 120, as in the example shown in the left diagram of FIG. 3A.
  • step S106 the acquisition unit 111 determines whether or not the generated captured image 121 is an image to be diagnosed. For example, when trigger designation is set, it is determined whether or not the generated captured image 121 has been in a still image state continuously for a certain period of time. If the captured image 121 is determined to be an image to be diagnosed, the captured image 121 is transferred to the diagnosis unit 112 and the process proceeds to step S107.
  • the diagnostic unit 112 Upon proceeding to step S107, the diagnostic unit 112 generates a diagnostic image from the captured image 121 handed over from the acquisition unit 111, and executes diagnostic processing. Specifically, the analysis neural network 151 is used to calculate a suspected lesion area and its estimated probability. Then, these diagnostic results are handed over to the control unit 113 . In step S108, the control unit 113 determines whether the handed over diagnosis result matches the display criteria set in step S101 or defined in advance.
  • the display standard when the on mode is executed by periodic observation, when the display standard is specified as 40% or more, the display standard is met if the estimated probability that the diagnosis result contains is 40% or more, and the display standard is less than 40%. If so, it is determined that the display criteria are not met. If it is determined that the display criteria are not met, the process proceeds to step S110 without displaying the diagnosis result. If it is determined that the display criteria are met, the control unit 113 proceeds to step S109 and displays the diagnosis result as shown in the right diagram of FIG. 3(A). After the result display state is continued for a certain period of time, the process proceeds to step S110.
  • step S110 the detection unit 115 detects whether or not the in-vivo examination by the camera unit 210 has ended. If the end is not detected, the process returns to step S103 to continue the on-mode inspection. When the end is detected, the prescribed end processing is executed to end the series of processing.
  • FIG. 12 is a flowchart explaining the processing procedure of the arithmetic processing unit 110, and is a flowchart mainly explaining the processing procedure when the off mode is set. be.
  • step S121 the control unit 113 confirms whether the background mode or the complete off mode has been set. If the background mode is set, the process proceeds to step S122, and if the completely off mode is set, the process proceeds to step S131.
  • the acquisition unit 111 acquires the display signal from the endoscope system 200 to generate the signal reproduction image 225, and in step S123, extracts the captured image 121 from the signal reproduction image 225, and the control unit 113 hand over to In step S124, the control unit 113 executes off-mode live display in which the captured image 121 is displayed while being shaded on the display monitor 120, as in the example of FIG. 3B.
  • step S106 the acquisition unit 111 determines whether or not the generated captured image 121 is an image to be diagnosed. For example, if the cycle is set to 2 seconds, it is determined whether or not the generated captured image 121 matches the timing. In addition, when an observation region is specified, the acquisition unit 111 delivers the captured image 121 to the diagnosis unit 112 and entrusts determination of whether or not the region shown there is the specified observation region. If the captured image 121 is determined to be a diagnosis target image, the captured image 121 is handed over to the diagnosis unit 112, and the process proceeds to step S126.
  • the diagnostic unit 112 When proceeding to step S126, the diagnostic unit 112 generates a diagnostic image from the captured image 121 handed over from the acquisition unit 111, and executes diagnostic processing. Specifically, the analysis neural network 151 is used to calculate a suspected lesion area and its estimated probability. Then, these diagnostic results are handed over to the control unit 113 . At step S127, the control unit 113 determines whether or not the delivered diagnostic result matches the storage criteria set at step S101 or defined in advance.
  • step S129 For example, if it is determined that the captured image 121, which is the original image of the diagnostic image, does not have high resolution when the resolution specification is set to "yes", it is determined that the storage criteria are not met. If it is determined that the storage criteria are not met, the process proceeds to step S129 without storing the diagnosis result. If it is determined that the storage criteria are met, the control unit 113 proceeds to step S128 and stores the diagnosis result in a storage unit such as the storage unit 150 or the like. After the storage process is completed, the process proceeds to step S129.
  • the detection unit 115 detects whether or not the in-vivo examination by the camera unit 210 has ended in step S129. If the end is not detected, the process returns to step S122 to continue the inspection in the background mode. When the end is detected, the process proceeds to step S130.
  • control unit 113 When proceeding to step S130, the control unit 113 reads out the diagnosis result stored in the storage unit and displays it on the display monitor 120 as in the example of FIG. 6 or 7. FIG. After that, when the reception unit 114 receives an instruction to end the display, a prescribed end process is executed to end the series of processes.
  • step S131 the control unit 113 displays the completely off mode as shown in FIG. 3(C). While displaying the completely off mode, the process proceeds to step S131 periodically, and the detection unit 115 detects whether or not the in-vivo examination by the camera unit 210 is finished. If the end is not detected, the process returns to step S131 to continue the completely off mode display. When the end is detected, the prescribed end processing is executed to end the series of processing.
  • the user interface described here is only an example, and is not limited to this as long as it can accept various setting items and provide information.
  • voice input that recognizes the voice of a doctor who is a user
  • AR augmented reality
  • the setting items described above are only examples, and may be appropriately selected according to the specifications of the inspection apparatus.
  • this is an embodiment in which the background mode is also executed in parallel when the on mode is executed in the above-described embodiment.
  • diagnostic processing that is executed when a diagnostic trigger by a doctor is detected
  • priority is given to ensuring diagnostic accuracy, and the pixels of the captured image 121 are not thinned out so much and the image size is reduced. Use a reduced diagnostic image.
  • the arithmetic processing (first diagnostic processing) for the diagnostic results displayed on the display monitor 120 in real time and the diagnostic results that require a larger amount of computation are stored without being displayed on the display unit during the examination.
  • the convenience of the examination support apparatus can be improved by executing the arithmetic processing (second diagnostic processing) for the diagnostic results stored in the unit in parallel.
  • the configuration of such an examination support apparatus can be summarized as follows.
  • An examination support device that is used in connection with an endoscope system that includes a camera unit that is inserted into the body of a subject, an acquisition unit that sequentially acquires captured images captured by the camera unit; a diagnosis unit that diagnoses the inside of the body based on the captured image; A display unit for displaying the diagnostic result output by the diagnostic unit, The diagnostic unit performs first diagnostic processing for displaying the diagnostic result on the display unit in real time during the examination of the inside of the body, and second diagnostic processing for presenting the diagnostic result after the examination of the inside of the body. and run The second diagnostic process has a larger amount of calculation than the first diagnostic process, and the examination support device.
  • the processing for obtaining a highly accurate diagnosis result is not limited to the thinning amount of the diagnostic image, and for example, the neural network for analysis to be used may be switched. Specifically, a first neural network for a first diagnostic process that prioritizes computational speed over accuracy and a second neural network for a second diagnostic process that prioritizes accuracy over computational speed may be prepared. .
  • the endoscope system 200 and the examination support apparatus 100 are connected via the connection cable 250, but wireless connection instead of wired connection may be used.
  • the endoscope system 200 outputs a display signal to the outside and the examination support apparatus 100 utilizes this display signal, an embodiment has been described.
  • the format of the output signal does not matter as long as it includes the image signal of the captured image captured by 210 .
  • the camera unit 210 included in the endoscope system 200 is assumed to be a flexible endoscope, but even if the camera unit 210 is a rigid endoscope, There is no difference in the configuration or processing procedure of the examination support apparatus 100.
  • FIG. It should be noted that the diagnosis by the diagnosis unit in the present embodiment only assists the doctor's diagnosis, and the final decision is made by the doctor.
  • DESCRIPTION OF SYMBOLS 100... Examination support apparatus, 110... Arithmetic processing part, 111... Acquisition part, 112... Diagnosis part, 113... Control part, 114... Reception part, 115... Detection part, 120... Display monitor, 121... Captured image, 121a... Diagnosis Area frame 122 CG index 122 a Wait index 122 b Result index 122 c First off index 122 d Second off index 123 Title 124 Radio button 125 Selection item 126 Check box , 127... Scroll index, 128... Input box, 129... Window, 130... Input/output interface, 140... Input device, 150... Storage unit, 151... Neural network for analysis, 160... High definition image, 161...

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Quality & Reliability (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Endoscopes (AREA)

Abstract

被検者の体内に挿通されるカメラユニットを備える内視鏡システムに接続して利用される検査支援装置であって、カメラユニットで撮像された撮像画像を逐次取得する取得部と、撮像画像に基づいて体内の診断を行う診断部と、診断部が出力する診断結果を表示する表示部と、診断結果を表示部へ表示させるオンモードと表示させないオフモードの選択をユーザから受け付ける受付部と、受付部がオンモードの選択を受け付けた場合には、診断結果をリアルタイムに表示部に表示させ、オフモードの選択を受け付けた場合には、少なくともカメラユニットによる体内の検査が継続されている間は診断結果を表示部に表示させることなく記憶部に記憶させる制御部とを備える検査支援装置を提供する。

Description

検査支援装置、検査支援方法および検査支援プログラム
 本発明は、検査支援装置、検査支援方法および検査支援プログラムに関する。
 内視鏡により被検者の例えば胃内部を撮像してその画像をモニタに表示する内視鏡システムが知られている。最近では、内視鏡システムで撮像された画像を分析して、その結果を医師へ知らせる検査支援装置も普及しつつある(例えば、特許文献1参照)。また、検査支援装置を内視鏡システムに接続して、内視鏡システムが撮像した体内画像をリアルタイムで検査支援装置に分析させる利用態様も実用段階に至りつつある。
特開2019-42156号公報
 検査支援装置が演算する診断結果を表示部に表示させつつ検査を実施すれば、医師は、表示された診断結果に応じて特定部位を集中的に観察することができる等のメリットを享受する。一方で、内視鏡を被検者の体内に挿通する検査時間を短縮したい等の理由により、診断結果の表示までに多少の遅延が生じる診断結果の表示をオフにしたい場合もある。しかし、診断機能を完全にオフにしてしまうと、病変の見落としに対するリスクが増大してしまう。
 本発明は、このような問題を解決するためになされたものであり、検査の事情に応じて表示の切り替えを許容しつつ、病変の見落としを予防する検査支援装置等を提供するものである。
 本発明の第1の態様における検査支援装置は、被検者の体内に挿通されるカメラユニットを備える内視鏡システムに接続して利用される検査支援装置であって、カメラユニットで撮像された撮像画像を逐次取得する取得部と、撮像画像に基づいて体内の診断を行う診断部と、診断部が出力する診断結果を表示する表示部と、診断結果を表示部へ表示させるオンモードと表示させないオフモードの選択をユーザから受け付ける受付部と、受付部がオンモードの選択を受け付けた場合には、診断結果をリアルタイムに表示部に表示させ、オフモードの選択を受け付けた場合には、少なくともカメラユニットによる体内の検査が継続されている間は診断結果を表示部に表示させることなく記憶部に記憶させる制御部とを備える。
 本発明の第2の態様における検査支援方法は、被検者の体内に挿通されるカメラユニットを備える内視鏡システムに接続して利用される検査支援装置を用いた検査支援方法であって、診断結果を表示部へ表示させるオンモードと表示させないオフモードの選択をユーザから受け付ける受付ステップと、カメラユニットで撮像された撮像画像を逐次取得する取得ステップと、撮像画像に基づいて体内の診断を行う診断ステップと、受付ステップでオンモードの選択を受け付けた場合に、診断結果をリアルタイムに表示部に表示させる表示制御ステップと、受付ステップでオフモードの選択を受け付けた場合に、少なくともカメラユニットによる体内の検査が継続されている間は診断結果を表示部に表示させることなく記憶部に記憶させる記憶制御ステップとを有する。
 本発明の第3の態様における検査支援プログラムは、被検者の体内に挿通されるカメラユニットを備える内視鏡システムに接続して利用される検査支援装置を制御する検査支援プログラムであって、診断結果を表示部へ表示させるオンモードと表示させないオフモードの選択をユーザから受け付ける受付ステップと、カメラユニットで撮像された撮像画像を逐次取得する取得ステップと、撮像画像に基づいて体内の診断を行う診断ステップと、受付ステップでオンモードの選択を受け付けた場合に、診断結果をリアルタイムに表示部に表示させる表示制御ステップと、受付ステップでオフモードの選択を受け付けた場合に、少なくともカメラユニットによる体内の検査が継続されている間は診断結果を表示部に表示させることなく記憶部に記憶させる記憶制御ステップとをコンピュータに実行させる。
 本発明により、検査の事情に応じて表示の切り替えを許容しつつ、病変の見落としを予防する検査支援装置等を提供することができる。
内視鏡システムと本実施形態に係る検査支援装置を用いた内視鏡検査の様子を示す図である。 検査支援装置のハードウェア構成図である。 各モードの表示画面の例を示す図である。 オンモードにおいて診断結果を表示するまでの処理を説明する図である。 オフモードのバックグラウンドモードにおいて診断結果を記憶するまでの処理を説明する図である。 検査中に記憶された診断結果を検査終了時に表示する表示画面の例を示す図である。 検査中に記憶された診断結果を検査終了時に表示する表示画面の他の例を示す図である。 モードの設定画面の例を示す図である。 オンモードにおける設定画面の例を示す図である。 オフモードにおける設定画面の例を示す図である。 演算処理部の処理手順を説明するフロー図であって、主にオンモードに設定された場合の処理手順を説明するフロー図である。 演算処理部の処理手順を説明するフロー図であって、主にオフモードに設定された場合の処理手順を説明するフロー図である。
 以下、発明の実施の形態を通じて本発明を説明するが、特許請求の範囲に係る発明を以下の実施形態に限定するものではない。また、実施形態で説明する構成の全てが課題を解決するための手段として必須であるとは限らない。
 図1は、内視鏡システム200と本実施形態に係る検査支援装置100を用いた内視鏡検査の様子を示す図であり、特に、検査支援装置100が後述するオンモードで機能する様子を示す図である。内視鏡システム200と検査支援装置100は、共に診察スペースに設置されている。内視鏡システム200は、カメラユニット210を備え、カメラユニット210は、図示するように、横たわる被検者の口腔から胃などの体内の器官へ挿通され、器官の内部を撮像した画像の画像信号をシステム本体へ送信する。カメラユニット210の器官への挿通や撮像操作は、医師によって行われる。
 内視鏡システム200は、例えば液晶パネルによって構成されるシステムモニタ220を備え、カメラユニット210から送られてきた画像信号を処理して視認可能な撮像画像221としてシステムモニタ220に表示する。また、内視鏡システム200は、被検者情報やカメラユニット210のカメラ情報などを含む検査情報222をシステムモニタ220に表示する。
 検査支援装置100は、接続ケーブル250によって内視鏡システム200に接続されている。内視鏡システム200は、システムモニタ220へ送信する表示信号を、接続ケーブル250を介して検査支援装置100へも送信する。すなわち、本実施形態における表示信号は、内視鏡システム200が外部装置へ提供する画像信号の一例である。検査支援装置100は、表示部として例えば液晶パネルによって構成される表示モニタ120を備え、内視鏡システム200から送られてきた表示信号から撮像画像221に対応する画像信号を抽出して視認可能な撮像画像121として表示モニタ120に逐次表示する。
 医師は、検査支援装置100がオンモードに設定されている場合は、カメラユニット210の操作に応じてリアルタイムで表示される撮像画像121を視認しながら検査を進める。医師は、検査支援装置100に診断させたい対象箇所が撮像画像121として表示されるようにカメラユニット210を操作する。
 検査支援装置100は、オンモードにおいては、例えば医師による診断トリガーを検出すると、その時点における撮像画像121から後述する分析用ニューラルネットワークへ入力する画像データを生成する。そして、分析用ニューラルネットワークの出力から生成される診断結果を、コンピュータグラフィックスに変換してCG指標122として表示モニタ120に表示する。図の例では、癌と推定される確率が75%であるとの診断結果を示している。また、そのように判断をした領域を、撮像画像121に重畳する診断領域枠121aにより示している。診断結果は一定時間に亘って表示され、その後、カメラユニット210が撮像するリアルタイムの撮像画像121に切り替えられる。
 図2は、検査支援装置100のハードウェア構成図である。検査支援装置100は、主に、演算処理部110、表示モニタ120、入出力インタフェース130、入力デバイス140、記憶部150によって構成される。演算処理部110は、検査支援装置100の制御とプログラムの実行処理を行うプロセッサ(CPU:Central Processing Unit)である。プロセッサは、ASIC(Application Specific Integrated Circuit)やGPU(Graphics Processing Unit)等の演算処理チップと連携する構成であってもよい。演算処理部110は、記憶部150に記憶された検査支援プログラムを読み出して、検査の支援に関する様々な処理を実行する。
 表示モニタ120は、上述のように、例えば液晶パネルを備えるモニタであり、撮像画像121やCG指標122等を視認可能に表示する。入出力インタフェース130は、接続ケーブル250を接続するためのコネクタを含む、外部機器との間で情報を授受するための接続インタフェースである。入出力インタフェース130は、例えばLANユニットを含み、検査支援プログラムや後述する分析用ニューラルネットワーク151の更新データを外部機器から取り込んで演算処理部110へ引き渡す。
 入力デバイス140は、例えばキーボードやマウス、表示モニタ120に重畳されたタッチパネルであり、医師や補助者は、これらを操作して検査支援装置100の設定を変更したり、検査に必要な情報を入力したりすることができる。
 記憶部150は、不揮発性の記憶媒体であり、例えばHDD(Hard Disk Drive)によって構成されている。記憶部150は、検査支援装置100の制御や処理を実行するプログラムの他にも、制御や演算に用いられる様々なパラメータ値、関数、表示要素データ、ルックアップテーブル等を記憶し得る。記憶部150は、特に、分析用ニューラルネットワーク151を記憶している。分析用ニューラルネットワーク151は、カメラユニット210が撮像した画像データを入力すると、その画像内に病変が存在すると推定される領域とそれが病変であると推定する推定確率とを算出する学習済みモデルである。なお、記憶部150は、複数のハードウェアで構成されていても良く、例えば、プログラムを記憶する記憶媒体と分析用ニューラルネットワーク151を記憶する記憶媒体が別々のハードウェアで構成されてもよい。
 演算処理部110は、検査支援プログラムが指示する処理に応じて様々な演算を実行する機能演算部としての役割も担う。演算処理部110は、取得部111、診断部112、制御部113、受付部114、検出部115として機能し得る。取得部111は、内視鏡システム200から送られてくる表示信号を逐次取得して各々を信号再生画像に展開する。さらに、前後する信号再生画像間の差分量が基準量以上となる変化領域を探索することにより、カメラユニット210で撮像された撮像画像を表す画像領域を確定する。取得部111は、画像領域を一旦確定させたら、その後に逐次取得する表示信号の当該画像領域から、フレーム画像としての撮像画像121を逐次生成する。
 診断部112は、撮像画像121を診断画像として、記憶部150から読み出した分析用ニューラルネットワーク151へ入力し、画像内に存在する病変の疑いがある領域をその推定確率と共に出力させる。診断部112は、この出力に入力画像等を関連付けて診断結果を生成する。
 制御部113は、表示画面の表示信号を生成して表示モニタ120の表示を制御したり、記憶部150に対するデータの読み書きを制御したり、入出力インタフェース130を介して外部機器と各種制御信号の送受信を制御したりする。特に、オンモード実行時には、診断部112が生成する診断結果をリアルタイムに表示モニタ120に表示させる。オフモードのバックグラウンドモード実行時には、少なくとも被検者の体内の検査が継続されている間は診断部112が生成する診断結果を表示モニタ120に表示させることなく記憶部150に記憶させる。
 受付部114は、入力デバイス140を介して、オンモードとオフモードの選択をユーザである医師から受け付ける。検出部115は、カメラユニット210が被検者の体内に挿通される検査が終了したことを検出する。
 さて、従来の検査支援装置においては、被検者の体内に挿通されたカメラユニットで撮像された撮像画像を逐次取り込んで、医師による診断トリガーを検出したらその時点の撮像画像に基づいて診断を行い、その結果を直ちに表示させていた。すなわち、医師は、カメラユニットの操作に合わせて、リアルタイムで診断結果を視認するという利用態様が一般的であった。一方で、被検者の疾患状態や検査の性質等によっては、カメラユニットを被検者の体内に挿通する検査時間をできる限り短くしたいという要請がある。具体的には、被検者が高齢であったり、持病を有していたり、服薬の都合であったりする。このような場合においては、診断トリガーを与えるためにカメラユニットを静止させる時間や病変の推定確率を演算する演算処理の時間を許容できないことがある。このような事情がある場合においては、検査支援装置はオフにされていた。
 しかし、検査支援装置をオフにしてしまうと、医師の診断を補助する本来の機能を享受できず、病変の見落としに対するリスクが増大してしまう。また、小規模、中規模の診療所においては、生検を行えない場合も多く、検査支援装置を積極的に活用したいという要請がありながら、それに応えられなくなる。あるいは、医師が先の検査でオフにしたまま次の検査でオンにし忘れる単純ミスも起こり得る。
 そこで、本実施形態における検査支援装置100は、これまでのオンモードに加えて、2つのオフモードを採用する。2つのオフモードは、バックグラウンドモードと完全オフモードであり、初期設定としては、医師がオフモードを選択した場合にはバックグラウンドモードに切り替えられる。
 オンモードは、診断結果をリアルタイムに表示させるモードである。オフモードのうちバックグラウンドモードは、診断部112による診断処理は実行するものの、体内検査が続く間はその診断結果を表示せず記憶部150に記憶させるモードである。オフモードのうち完全オフモードは、診断部112による診断処理を行わないモードである。なお、本実施形態においてリアルタイムに表示するとは、実時間に対して画像処理や診断処理に要する処理時間分の遅延を許容するものであり、連続的に処理を行って直ちに表示するものであればよい。例えば、診断処理中にプログレスバーを表示して処理の進捗を示しつつ、処理の完了後にその診断結果を直ちに表示するような場合も、リアルタイムの表示と表現する。
 図3は、各モードの表示画面の例を示す図である。具体的には、いずれもカメラユニット210が被検者の体内に挿通されている検査時の表示画面の例である。図3(A)は、オンモードが実行されている場合の表示画面の例である。オンモードが実行されている場合には、カメラユニット210が撮像する撮像画像をリアルタイムに表示する待機表示状態と、特定の撮像画像に対して診断した診断結果を表示する結果表示状態の、主に2つの表示状態が存在する。
 図3(A)の左図は、待機表示状態の例を示す。待機表示状態においては、逐次更新される撮像画像121が左側に配置され、診断待機状態を表す待機指標122aが右側に配置されている。逐次更新される撮像画像121は、カメラユニット210が撮像する撮像画像をほぼ遅延なしに表示するいわゆるライブ表示である。待機指標122aは、オンモードであることを示す「ON」と、診断待機状態であることを示す「AI Ready」のテキストを含むコンピュータグラフィックスであり、CG指標122の一態様である。このようなオンモードにおける表示態様をオンモードライブ表示という。
 図3(A)の右図は、結果表示状態の例を示す。結果表示状態においては、診断画像として用いた撮像画像121が左側に配置され、診断結果を表す結果指標122bが右側に配置されている。結果指標122bは、病変であると推定される推定確率の数値(図の例では「85%」)と、病変の種類(図の例では「Cancer」)のテキストを含むコンピュータグラフィックスであり、CG指標122の一態様である。また、病変であると推定した領域がわかるように、診断領域枠121aを撮像画像121に重畳している。結果表示状態は一定時間(例えば2秒)に亘って継続し、その後診断待機状態の表示に戻る。
 図3(B)は、オフモードのうちバックグラウンドモードが実行されている場合の表示画面の例である。バックグラウンドモードにおいては、逐次更新される撮像画像121が左側に配置され、オフモードかつバックグラウンドモードであることを表す第1オフ指標122cが右側に配置されている。逐次更新される撮像画像121は、オンモードライブ表示と同様に、カメラユニット210が撮像する撮像画像をほぼ遅延なしに表示するいわゆるライブ表示である。第1オフ指標122cは、オフモードであることを示す「OFF」と、バックグラウンドで診断処理を行うことを示す「Background Processing」のテキストを含むコンピュータグラフィックスであり、CG指標122の一態様である。バックグラウンドモードにおいては、逐次更新される撮像画像121を表示すると共に、表示領域全体にグレーの網掛けを施し、一目でオフモードかつバックグラウンドモードであることを認識できるようにしている。このようなオフモードにおける表示態様をオフモードライブ表示という。
 図3(C)は、オフモードのうち完全オフモードが実行されている場合の表示画面の例である。完全オフモードにおいては、完全オフモードであることを表す第2オフ指標122dが右側に寄せて配置されている。第2オフ指標122dは、オフモードであることを示す「OFF」のみのテキストを含むコンピュータグラフィックスであり、CG指標122の一態様である。完全オフモードにおいては、逐次更新される撮像画像121を表示することなく、また、表示領域全体にグレーの網掛けを施し、一目でオフモードかつ完全オフモードであることを認識できるようにしている。
 図4は、オンモードにおいて診断結果を表示するまでの処理を説明する図である。内視鏡システム200から送られてくる表示信号を取得部111が取得して展開する信号再生画像225は、内視鏡システム200のシステムモニタ220で表示されている表示画像と同様である。信号再生画像225は、撮像画像221と検査情報222を含む。検査情報222は、例えばテキスト情報である。
 信号再生画像225の画像領域のいずれの領域が撮像画像を表す画像領域であるかが、上述のように確定されていると、取得部111は、その確定された画像領域を切り出して撮像画像121とする。撮像画像121は、実質的にはカメラユニット210が撮像した撮像画像を検査支援装置100で再現した画像と言える。
 取得部111は、切出した撮像画像121が診断対象の画像でない場合には、当該撮像画像121を制御部113へ引き渡す。制御部113は、図3(A)を用いて説明した待機表示状態の表示画面を実現するために、撮像画像121を逐次更新して表示モニタ120へ表示する。取得部111は、切出した撮像画像121が診断対象の画像である場合には、当該撮像画像121を制御部113へ引き渡すと共に診断部112へ引き渡す。
 診断部112は、分析用ニューラルネットワーク151の仕様等に応じて、撮像画像121を調整して診断画像を生成する。特に、オンモードにおいては、診断結果を表示するまでの遅延時間をできる限り短縮したいという要請から、分析用ニューラルネットワーク151の演算量を軽減すべく、撮像画像121の画素を間引いて画像サイズを縮小した診断画像を生成する。そして、診断部112は、生成した診断画像の画像データを分析用ニューラルネットワーク151へ入力して、診断画像内に病変が存在する推定確率を算出させる。分析用ニューラルネットワーク151は、画像内に存在する病変の疑いがある領域をその推定確率と共に診断結果として出力する。図4の例においては、推定確率60%を示す左上の領域と、推定確率85%を示す中央付近の領域が出力されている。診断部112は、診断結果を制御部113へ引き渡す。
 制御部113は、取得部111から受け取った撮像画像121の撮像画像データと、診断部112から受け取った診断結果とを、予め設定された表示基準に従って展開、配列して表示モニタ120へ表示する。具体的には、図3(A)を用いて説明した結果表示状態の態様で表示する。表示基準は、例えば、診断結果の中に複数の病変が検出された場合に、推定確率が最も大きいものを選択するといった基準や、診断画像の中央に近い領域で検出された病変ほど優先して表示するといった基準が考えられる。また、生成された診断画像が不鮮明であって診断結果の信用性が疑わしい場合や、推定確率が事前に設定された閾値を超えるものが存在しない場合などには、診断結果を表示しないという表示基準を設定することもできる。表示基準は、観察部位や検査の目的等に応じて適宜設定されればよい。また、複数の病変が検出された場合には、それぞれの病変に応じて、結果指標122bと診断領域枠121aを順次切り替えて表示してもよい。
 図5は、オフモードのバックグラウンドモードにおいて診断結果を記憶するまでの処理を説明する図である。取得部111は、オンモードと同様に、内視鏡システム200から送られてくる表示信号を取得して展開した再生画像225から撮像画像121を切り出す。制御部113は、図3(B)を用いて説明したバックグラウンドモードの表示画面を実現するために、逐次更新される撮像画像121を表示モニタ120へ表示する。
 取得部111は、切出した撮像画像121が診断対象の画像である場合には、当該撮像画像121を診断部112へ引き渡す。診断部112は、分析用ニューラルネットワーク151の仕様等に応じて、撮像画像121を調整して診断画像を生成する。バックグラウンドモードにおいては、診断結果を直ちに表示する必要がないので、オンモードにおける画像サイズに比べて大きな画像サイズに調整してもよい。すなわち、撮像画像121に対する間引き率を抑えて、より撮像画像121に近い高精細な診断画像を生成してもよい。演算処理部110の処理能力が許せば間引くことなく撮像画像121をそのまま診断画像としてもよい。高精細な診断画像を用いれば、診断精度の向上が期待できる。
 診断部112は、生成した診断画像の画像データを分析用ニューラルネットワーク151へ入力して、診断画像内に病変が存在する推定確率を算出させる。分析用ニューラルネットワーク151は、画像内に存在する病変の疑いがある領域をその推定確率と共に診断結果として出力する。診断部112は、診断結果を制御部113へ引き渡す。
 制御部113は、取得部111から受け取った撮像画像121の撮像画像データと、診断部112から受け取った診断結果とを、予め設定された記憶基準に従って記憶部150へ記憶する。記憶基準については後に詳述する。なお、オンモードにおいては、診断結果と共に診断画像を生成した撮像画像121を一定時間に亘って静止画表示したが、バックグラウンドモードにおいては診断結果を表示しないので、診断画像を生成した撮像画像121の静止画表示は行わない。
 バックグラウンドモードにおいて、検出部115がカメラユニット210による体内の検査が終了したことを検出すると、制御部113は、記憶部150に記憶させた診断結果を読み出して表示モニタ120へ表示させる。検出部115は、例えば、撮像画像121の輝度の急激な変化を捉えることにより、カメラユニット210が口腔から排出されたタイミングを検出する。あるいは、信号再生画像225に含まれる検査情報222を読み取ることにより、検査の終了を検出してもよい。
 図6は、検査中に記憶された診断結果を検査終了時に表示する表示画面の例を示す図である。図6のうち上図は、記憶された診断結果をサムネイル表示した表示画面の例であり、下図は、特定のサムネイル画像が選択されたときの表示画面の例である。
 図6の上図は、病変が検出された場合に記憶するとの記憶基準が設定されている場合の診断結果の表示例である。すなわち、制御部113は、診断部112から受け取った診断結果が病変検出を含むものであれば記憶部150へ記憶し、病変検出を含まないものであれば破棄する。そして、検出部115が検査終了を検出すると、制御部113は、記憶した診断結果を読み出し、「悪性病変」と「良性またはその他の病変」に分類してサムネイル表示する。具体的には、診断結果と共に関連付けて記憶された、その診断の元となる撮像画像121から病変領域を含むように切り出したサムネイル画像161に、画像番号162を重畳する。そして、その診断結果が悪性病変であれば「悪性病変」のタイトル123の下に配列して表示し、良性またはその他の病変であれば「良性またはその他の病変」のタイトル123の下に配列して表示する。
 医師は、特定のサムネイル画像161を詳細に確認したい場合に、入力デバイス140を用いて当該サムネイル画像161を選択する。制御部113は、特定のサムネイル画像161の選択を受け付けると、サムネイル画像161に対応する高精細画像160をもとの撮像画像121から生成し、サムネイル画像161よりも大きく診断結果163と共に表示モニタ120に表示する。
 図7は、検査中に記憶された診断結果を検査終了時に表示する表示画面の他の例を示す図である。具体的には、診断部112が診断した診断結果のすべてを記憶するとの記憶基準が設定されている場合の表示例である。そのため、表示画面は、図示するように「悪性病変」、「良性またはその他の病変」に加えて「異常所見なし」の分類を含む。制御部113は、病変が検出されなかった診断結果については、その診断の元となる撮像画像121のサムネイル画像161に画像番号162を重畳して、「異常所見なし」のタイトル123の下に配列して表示する。
 表示画面の右下にはスクロール指標127が配置されており、図の例では「異常所見なし」のサムネイル画像161が下方に続くことを示している。医師は、スクロール指標127を選択することにより表示画面をスクロールさせて他のサムネイル画像161を確認することができる。なお、図6の例と同様に、医師が特定のサムネイル画像161を選択すると、制御部113は、当該サムネイル画像161に対応する高精細画像160を診断結果163と共に表示モニタ120に表示する。
 なお、図6の例も図7の例も、記憶部150へ記憶された診断結果のすべてを表示する例であったが、記憶部150へ記憶された診断結果の一部を選択して表示してもよい。すなわち、診断結果を記憶部150へ記憶する記憶基準と、検査終了時に表示モニタ120へ表示する選択基準を異ならせてもよい。例えば、診断部112が診断した診断結果のすべてを記憶するとの記憶基準が設定されている場合であっても、表示モニタ120へ表示する選択基準は、病変であると推定する推定確率が閾値以上のものに限ると設定してもよい。なお、検査終了時に表示モニタ120へ表示されない診断結果であっても、また、そもそも検査終了時にいずれの診断結果も表示モニタ120へ表示させない設定であっても、医師は、記憶部150に記憶された診断結果を、検査終了後に任意に読み出して確認することができる。
 次に、検査開始前に医師が行うモードの設定操作について、いくつかの設定画面を示しつつ説明する。受付部114は、入力デバイス140を介して、モード設定に関する医師の選択を受け付ける。図8は、モードの設定画面の例を示す図である。モードの設定画面は、「Mode設定」のタイトル123と、「On Mode」「Off Mode」の選択項目125と、選択項目125のそれぞれを排他的に選択指定するためのラジオボタン124が配置されている。検査支援装置100は、受付部114が「On Mode」の選択を受け付けた場合にはオンモードで動作し、「Off Mode」の選択を受け付けた場合には、後述する「完全オフ」の選択を受け付けない限り、オフモードのバックグラウンドモードで動作する。
 図9は、モード設定画面で「On Mode」が選択された場合に遷移する表示画面であり、オンモードにおける設定画面の例を示す図である。オンモードにおける設定画面では、医師は、オンモードにおいてどのようなタイミングで診断部112に診断処理を実行させるかについて設定できる。
 図の例では、「On Mode設定」のタイトル123の下に、「トリガー指定」と「周期観察」のそれぞれがチェックボックス126と共に選択可能に表示されている。「トリガー指定」は、例えば医師が内視鏡システムに設けられた静止ボタンを押し続けることにより撮像画像121が静止画像となり、取得部111がこのような静止画期間を検出した場合に、それをトリガーとして診断部112が診断処理を開始するものである。すなわち、医師が診断を要求したと判断した場合に、診断処理を開始する設定である。したがって、「トリガー指定」が選択された場合には、診断結果は、その内容に依らず一律に表示されることが好ましい。
 「周期観察」は、設定された周期に従って継続的に診断処理を実行するものである。「周期観察」の設定に対しては、「周期」と「表示基準」の入力ボックス128が設けられており、それぞれ、診断処理を実行する周期(秒)と、診断結果を表示するか否かの推定確率の閾値(%)を設定できるようになっている。図の例では、3秒ごとに診断処理が実行され、その診断結果において推定確率が40%以上と算出された病変部位が存在する場合に診断結果を表示するように設定されている。なお、医師は、「トリガー指定」と「周期観察」の両方のチェックボックス126を選択すれば、自身のトリガーでも設定した周期でも、診断処理を実行させることができる。
 図10は、モード設定画面で「Off Mode」が選択された場合に遷移する表示画面であり、オフモードにおける設定画面の例を示す図である。モード設定画面で「Off Mode」が選択されると、まず、左上図の設定画面に遷移する。左上図の設定画面では、「Off Mode設定」のタイトル123と共に、完全オフモードを選択するラジオボタン124、バックグラウンドモードで動作させる場合の周期と記憶基準に関する選択項目125、入力ボックス128が配置されている。
 「完全オフ」のラジオボタン124が選択されると、右上図の表示画面へ遷移する。完全オフモードでは、バックグラウンドモードに係る設定に関する領域は網掛け表示となる。完全オフモードでは、診断部112による診断処理が実行されず、検査終了後に診断結果を振り返ることもできないので、より意識的に選択される必要がある。そのため、初期設定では、オフモードが選択されるとバックグラウンドモードがまず設定されるようにして、完全オフモードは、バックグラウンドモードが設定される階層よりも深い階層で選択を受け付けるようにしている。このようなユーザインタフェースを採用することにより、医師が不注意に完全オフモードを選択することを防止している。
 左上図の表示画面に戻る。バックグラウンドモードでは、医師は、診断部112による診断処理を実行させる周期を設定することができる。例えば、図示するようにチェックボックス126に「2」秒と入力されると、診断部112は、2秒ごとに診断画像を生成して診断処理を実行する。このように、バックグラウンドモードにおける周期を、オンモードにおいて周期観察を行う場合の周期と異ならせることができる。すなわち、取得部111が取得する撮像画像121に対して診断部112が診断処理を実行する割合を異ならせることができる。オンモードにおける診断結果のリアルタイム表示は、検査の進行を中断する側面があるので、診断処理の頻度を抑える方が都合が良いとも言える。一方で、オフモードのバックグラウンドモードでは、検査の進行を中断することがないので、より多く診断処理を実行しても構わない。このように、検査の事情に応じて診断処理を実行する割合を適宜異ならせることができれば、検査支援装置100の利便性が向上する。
 また、医師は、記憶基準を設定することができる。記憶基準は、撮像画像および診断結果の少なくともいずれかに対して設定される基準であり、制御部113は、この設定された記憶基準を満たす場合に診断結果を記憶部150に記憶させる。記憶基準としては、まず、診断処理を実行して得た診断結果のすべてを記憶させる場合と、閾値以上の推定確率を示した診断結果に限って記憶させる場合のいずれかを選択できる。推定確率の閾値はチェックボックス128によりその値を指定できる。推定確率が閾値以上である診断結果に限って記憶すれば、検査後に医師が診断結果を確認する段階において、作業の軽減を図ることができる。一方で、オンモードにおいて表示基準として設定する推定確率の閾値に比べて、記憶基準として設定する推定確率の閾値を低い値に設定することもできる。バックグラウンドモードにおいては、検査結果のリアルタイム表示を行わないので、推定確率の閾値を低い値に設定しても、検査の進行を妨げる恐れがない。このように、互いに関連する設定項目であっても、表示基準と記憶基準をそれぞれの性質に応じて異ならせてもよい。
 左上図の表示画面においてスクロール指標127を選択すると、左中図の表示画面に遷移し、医師は、撮像画像に対する記憶基準を設定することができる。図の例では、「解像度指定」と「観察部位指定」を設定できる。「解像度指定」は、取得部111が取得した撮像画像121が高解像の画像である場合に限って診断処理を実行することを指定するものである。「あり」のラジオボタン124が選択されればそのような制限が採用され、「なし」のラジオボタン124が選択されれば制限なく診断処理が実行される。解像度は、例えば、撮像画像121が含む高周波成分によって評価され、高周波成分が予め設定されている閾値以上の割合を占める場合に「高解像」と判断する。診断画像が生成される元画像となる撮像画像121を高解像の画像に限れば、分析用ニューラルネットワーク151が出力する推定確率の信頼度も向上する。
 なお、撮像画像121に対する記憶基準は、診断結果を記憶部150へ記憶する時点で撮像画像121が記憶基準を満たすか否かを判断してもよいし、取得部111が撮像画像121を取得した時点で記憶基準を満たすか否かを判断してもよい。診断結果を記憶部150へ記憶する時点で判断すれば、他の記憶基準(例えば、推定確率の閾値)によってそもそも記憶しないと判断された場合に、撮像画像に対する解像度等の評価演算を省くことができる。取得部111が撮像画像121を取得した時点で判断すれば、診断部112による診断処理を省くことができる。
 「観察部位指定」は、取得部111が取得した撮像画像121が指定した観察部位の画像である場合に限って診断処理を実行することを指定するものである。すなわち、診断部位を特定の器官に限定するものである。「あり」のラジオボタン124が選択されればそのような制限が採用され、「なし」のラジオボタン124が選択されれば制限なく診断処理が実行される。「あり」が選択された場合には、右中図に示すように、観察部位を指定するためのウィンドウ129が現れる。
 ウィンドウ129は、「観察部位指定」のタイトル123、観察部位を示す選択項目125、それぞれの選択項目を排他的に選択し得るラジオボタン124、スクロール指標127を含む。選択項目125としては、「自動」「食道」「胃」などが用意されている。「自動」は、例えば、用意されている分析用ニューラルネットワーク151が特定の観察部位を対象にした学習モデルであるか否かを確認し、特定の観察部位を対象とした学習モデルであれば、その観察部位を指定部位とするものである。あるいは、内視鏡システム200において観察部位が指定された場合に、信号再生画像225に現れる検査情報222に当該観察部位に関する文字情報が含まれる場合には、その文字情報を読み取って観察部位を指定部位とするものである。「食道」「胃」などの具体的な観察部位が指定された場合には、その指定に従う。ウィンドウ129で観察部位が指定されると、左中図の表示画面に戻り、指定された観察部位のテキストが「指定部位:胃」のように現れる。
 このように観察部位が指定されると、診断部112は、取得部111から引き渡された撮像画像121が設定された観察部位を撮像したものであるかを判断する。そして、制御部113は、診断部112が設定された観察部位を撮像したものであると判断した場合に限り、診断結果を記憶部150に記憶させる。なお、診断部112は、診断処理に先立って、取得部111から引き渡された撮像画像121が設定された観察部位を撮像したものであるか否かを判断し、設定された観察部位でないと判断した場合には、診断処理を行わないようにしてもよい。診断部112は、取得部111から引き渡された撮像画像121が設定された観察部位を撮像したものであるか否かを判断する場合に、分析用ニューラルネットワーク151とは別に用意された部位判定用ニューラルネットワークを用いてもよい。例えば、観察部位として「胃」が指定された場合には、診断部112は、入力された画像が胃である確率を出力する部位判定用ニューラルネットワークを用いて、取得部111から引き渡された撮像画像121を判断する。そして、部位判定用ニューラルネットワークが出力する確率が閾値以上である場合に限って、当該撮像画像を分析用ニューラルネットワーク151へ入力して診断処理を実行する。
 左中図の表示画面において、スクロール指標127が選択されると、左下図の表示画面に遷移する。左下図の表示画面は、検査終了時の一覧表示と診断結果の記憶先の設定に関する。「一覧表示」は、図6および図7を用いて説明した、検査終了時にサムネイル表示を用いて診断結果を一覧表示するか否かを指定するものである。「あり」のラジオボタン124が選択されれば一覧表示が実行され、「なし」のラジオボタン124が選択されれば一覧表示は実行されない。「記憶先指定」は、診断結果をいずれの記憶媒体に記憶するかを指定するものである。これまでの説明では診断結果を内蔵メモリである記憶部150に記憶するものとして説明したが、記憶先は記憶部150でなくても構わない。外部媒体を指定することもできる。外部媒体としては、例えばネットワークに接続されたクラウドサーバであってもよい。外部媒体のチェックボックス126が選択された場合には、IPアドレスを設定する設定画面が現れるようにしてもよい。
 次に、演算処理部110が実行する主な処理についての処理手順の一例を、フロー図を用いて説明する。図11は、演算処理部110の処理手順を説明するフロー図であって、主にオンモードに設定された場合の処理手順を説明するフロー図である。フローは、検査支援装置100が起動され、検査支援プログラムが実行された時点から開始する。
 受付部114は、ステップS101で、入力デバイス140を介して医師から各種設定を受け付ける。医師は、図8から図10を用いて説明したユーザインタフェースを通じて、検査の目的に合った設定を行う。設定の受付けが完了したらステップS102へ進む。
 制御部113は、ステップS102で、オンモードに設定されたかオフモードに設定されたかを確認する。オンモードに設定されていればステップS103へ進み、オフモードに設定されていれば図12のステップS121へ進む。ここではまずオンモードに設定された場合について説明する。
 ステップS103へ進むと、取得部111は、内視鏡システム200から表示信号を取得して信号再生画像225を生成し、さらにステップS104で、信号再生画像225から撮像画像121を切り出して制御部113へ引き渡す。制御部113は、ステップS105で、図3(A)左図の例のように、表示モニタ120に撮像画像121を逐次更新して表示させるオンモードライブ表示を実行する。
 取得部111は、ステップS106で、生成した撮像画像121が診断対象画像であるか否かを判断する。例えば、トリガー指定が設定されている場合には、生成した撮像画像121が連続して一定期間の間静止画状態であったか否かを判断する。診断対象画像であると判断した場合には撮像画像121を診断部112へ引き渡してステップS107へ進み、診断対象画像でないと判断した場合にはステップS110へ進む。
 ステップS107へ進むと、診断部112は、取得部111から引き渡された撮像画像121から診断画像を生成し、診断処理を実行する。具体的には、分析用ニューラルネットワーク151を用いて病変の疑いがある領域とその推定確率を算出する。そして、これらの診断結果を制御部113へ引き渡す。制御部113は、ステップS108で、引き渡された診断結果が、ステップS101で設定された、あるいは予め規定された表示基準に合致するか否かを判断する。
 例えば、オンモードが周期観察で実行されている場合に、表示基準が40%以上と指定されているときには、診断結果が含む推定確率が40%以上であれば表示基準に合致し、40%未満であれば表示基準に合致しないと判断する。表示基準に合致しないと判断した場合には、診断結果を表示することなくステップS110へ進む。表示基準に合致すると判断した場合にはステップS109へ進み、制御部113は、診断結果を図3(A)右図のように表示する。そして、結果表示の状態を一定時間に亘って継続したら、ステップS110へ進む。
 検出部115は、ステップS110で、カメラユニット210による体内検査が終了したか否かを検出する。終了を検出していなければステップS103へ戻り、オンモードによる検査を継続する。終了を検出したら規定された終了処理を実行して一連の処理を終了する。
 図12は、演算処理部110の処理手順を説明するフロー図であって、主にオフモードに設定された場合の処理手順を説明するフロー図であって、図11のステップS102に続くフローである。
 制御部113は、ステップS121で、バックグラウンドモードに設定されたか完全オフモードに設定されたかを確認する。バックグラウンドモードに設定されていればステップS122へ進み、完全オフモードに設定されていればステップS131へ進む。
 ステップS122へ進むと、取得部111は、内視鏡システム200から表示信号を取得して信号再生画像225を生成し、さらにステップS123で、信号再生画像225から撮像画像121を切り出して制御部113へ引き渡す。制御部113は、ステップS124で、図3(B)の例のように、表示モニタ120に網掛けを施しつつ撮像画像121を逐次更新して表示させるオフモードライブ表示を実行する。
 取得部111は、ステップS106で、生成した撮像画像121が診断対象画像であるか否かを判断する。例えば、周期が2秒に設定されている場合には、生成した撮像画像121がそのタイミングに一致するか否かを判断する。また、観察部位が指定されている場合には、取得部111は当該撮像画像121を診断部112へ引き渡し、そこに写る部位が指定された観察部位であるか否かの判断を委ねる。診断対象画像であると判断した場合には撮像画像121を診断部112へ引き渡してステップS126へ進み、診断対象画像でないと判断した場合にはステップS129へ進む。
 ステップS126へ進むと、診断部112は、取得部111から引き渡された撮像画像121から診断画像を生成し、診断処理を実行する。具体的には、分析用ニューラルネットワーク151を用いて病変の疑いがある領域とその推定確率を算出する。そして、これらの診断結果を制御部113へ引き渡す。制御部113は、ステップS127で、引き渡された診断結果が、ステップS101で設定された、あるいは予め規定された記憶基準に合致するか否かを判断する。
 例えば、解像度指定が「あり」に設定されている場合に、診断画像の元画像となった撮像画像121が高解像でないと判断された場合には、記憶基準に合致しないと判断する。記憶基準に合致しないと判断した場合には、診断結果を記憶することなくステップS129へ進む。記憶基準に合致すると判断した場合にはステップS128へ進み、制御部113は、診断結果を記憶部150等の記憶部に記憶する。記憶処理が完了したら、ステップS129へ進む。
 検出部115は、ステップS129で、カメラユニット210による体内検査が終了したか否かを検出する。終了を検出していなければステップS122へ戻り、バックグラウンドモードによる検査を継続する。終了を検出したらステップS130へ進む。
 ステップS130へ進むと、制御部113は、記憶部に記憶させた診断結果を読み出し、図6または図7の例のように表示モニタ120へ表示させる。その後、受付部114が表示終了の指示を受け付けたら、規定された終了処理を実行して一連の処理を終了する。
 ステップS121からステップS131へ進んだ場合には、制御部113は、図3(C)のように完全オフモードの表示を行う。完全オフモードの表示を行っている間は、定期的にステップS131へ進み、検出部115がカメラユニット210による体内検査が終了したか否かを検出する。終了を検出していなければステップS131へ戻り、完全オフモード表示を継続する。終了を検出したら規定された終了処理を実行して一連の処理を終了する。
 以上本実施形態を説明したが、ここで説明したユーザインタフェースは一例であり、各種設定項目の受付けや情報の提供が可能な態様であればこれに限らない。例えば、ユーザである医師の音声を認識する音声入力や、ウェアラブルグラスに提供情報を重畳する拡張現実(AR)技術などを採用してもよい。また、以上で設定項目は一例であり、検査装置の仕様等に応じて適宜取捨選択され得る。
 また、本実施形態の変形例として、次のような実施形態も採用し得る。すなわち、上述の実施形態におけるオンモードの実行時に、並列してバックグラウンドモードも実行する実施形態である。例えば、医師による診断トリガーを検出したら実行する診断処理については、診断結果を表示するまでの遅延時間をできる限り短縮したいという要請から、撮像画像121の画素を多く間引いて画像サイズを縮小した診断画像を用いる。一方で、検査終了後に確認するために、検査中には診断結果を表示しない周期的な診断処理については、診断精度の確保を優先して、撮像画像121の画素をあまり間引かずに画像サイズを縮小した診断画像を用いる。
 このように、リアルタイムに表示モニタ120に表示する診断結果のための演算処理(第1の診断処理)と、より演算量を必要とする、検査中は診断結果を表示部に表示することなく記憶部に記憶しておく診断結果のための演算処理(第2の診断処理)を並列的に実行すれば、検査支援装置の利便性を向上させることができる。このような検査支援装置の構成は次のように纏めることができる。
[別態様の構成]
 被検者の体内に挿通されるカメラユニットを備える内視鏡システムに接続して利用される検査支援装置であって、
 前記カメラユニットで撮像された撮像画像を逐次取得する取得部と、
 前記撮像画像に基づいて前記体内の診断を行う診断部と、
 前記診断部が出力する診断結果を表示する表示部と
を備え、
 前記診断部は、前記体内の検査中にリアルタイムに前記診断結果を前記表示部に表示させるための第1の診断処理と、前記体内の検査後に前記診断結果を提示するための第2の診断処理を実行し、
 第2の診断処理は第1の診断処理よりも演算量が多い検査支援装置。
 このような検査支援装置であれば、検査中にでもいち早く診断結果を確認したいという要請と、精度の高い診断結果を得たいという要請のいずれにも応えることができる。精度の高い診断結果を得るためには、演算量が増え、その分処理時間も増大するが、少なくとも診断対象となる撮像画像121が取得できれば、リアルタイムの表示という制限が無い以上、診断処理を完遂させることができる。高精度の診断結果を得るための処理は、診断画像の間引き量に限らず、例えば、用いる分析用ニューラルネットワークを切り替えるなどしてもよい。具体的には、精度よりも演算速度を優先する第1の診断処理用の第1ニューラルネットワークと、演算速度よりも精度を優先する第2の診断処理用の第2ニューラルネットワークを用意すればよい。
 なお、このような変形例に係る実施形態においても、上述の記憶基準や表示基準を設定し得る。上述の実施形態においては、「オンモード」「オフモード」のモードを前提として設定を受け付ける態様であったが、「第1の診断処理」「第2の診断処理」に対する設定として受け付けるように再構成することができる。この場合、例えば、第2の診断処理に対して解像度や観察部位の指定を受け付けるようにすることができる。
 以上説明した本実施形態においては、内視鏡システム200と検査支援装置100が接続ケーブル250を介して接続される場合を想定したが、有線接続でなく無線接続であっても構わない。また、内視鏡システム200は表示信号を外部に出力し、検査支援装置100はこの表示信号を利用する実施形態を説明したが、内視鏡システム200が外部装置に提供する画像信号がカメラユニット210で撮像された撮像画像の画像信号を包含するのであれば、出力信号の形式は問わない。また、以上説明した本実施形態においては、内視鏡システム200が備えるカメラユニット210が軟性内視鏡であることを想定して説明したが、カメラユニット210が硬性内視鏡であっても、検査支援装置100の構成や処理手順に違いは何ら生じない。なお、本実施形態における診断部による診断は、あくまで医師の診断を補助するものであり、最終的な決定は医師によって行われる。
 100…検査支援装置、110…演算処理部、111…取得部、112…診断部、113…制御部、114…受付部、115…検出部、120…表示モニタ、121…撮像画像、121a…診断領域枠、122…CG指標、122a…待機指標、122b…結果指標、122c…第1オフ指標、122d…第2オフ指標、123…タイトル、124…ラジオボタン、125…選択項目、126…チェックボックス、127…スクロール指標、128…入力ボックス、129…ウィンドウ、130…入出力インタフェース、140…入力デバイス、150…記憶部、151…分析用ニューラルネットワーク、160…高精細画像、161…サムネイル画像、162…画像番号、163…診断結果、200…内視鏡システム、210…カメラユニット、220…システムモニタ、221…撮像画像、222…検査情報、225…信号再生画像、250…接続ケーブル

Claims (18)

  1.  被検者の体内に挿通されるカメラユニットを備える内視鏡システムに接続して利用される検査支援装置であって、
     前記カメラユニットで撮像された撮像画像を逐次取得する取得部と、
     前記撮像画像に基づいて前記体内の診断を行う診断部と、
     前記診断部が出力する診断結果を表示する表示部と、
     前記診断結果を前記表示部へ表示させるオンモードと表示させないオフモードの選択をユーザから受け付ける受付部と、
     前記受付部が前記オンモードの選択を受け付けた場合には、前記診断結果をリアルタイムに前記表示部に表示させ、前記オフモードの選択を受け付けた場合には、少なくとも前記カメラユニットによる前記体内の検査が継続されている間は前記診断結果を前記表示部に表示させることなく記憶部に記憶させる制御部と
    を備える検査支援装置。
  2.  前記制御部は、前記オフモードの選択を受け付けた場合には、前記撮像画像および前記診断結果の少なくともいずれかに対して予め設定された記憶基準を満たす場合に、前記診断結果を前記記憶部に記憶させる請求項1に記載の検査支援装置。
  3.  前記記憶基準は、前記診断結果が含む病変と推定する推定確率が閾値以上であることを含む請求項2に記載の検査支援装置。
  4.  前記記憶基準は、前記撮像画像の解像度が閾値以上であることを含む請求項2または3に記載の検査支援装置。
  5.  前記受付部は、前記記憶基準の設定を前記ユーザから受け付ける請求項2から4のいずれか1項に記載の検査支援装置。
  6.  前記制御部は、前記受付部が前記オンモードの選択を受け付けた場合には、前記撮像画像および前記診断結果の少なくともいずれかに対して予め設定された表示基準を満たす場合に、前記診断部が前記診断に用いた前記撮像画像と共に前記診断結果を前記表示部へ所定時間に亘って表示させる請求項2から5のいずれか1項に記載の検査支援装置。
  7.  前記記憶基準と前記表示基準は、互いに異なる請求項6に記載の検査支援装置。
  8.  前記診断部は、前記受付部が前記オンモードの選択を受け付けた場合と前記オフモードの選択を受け付けた場合で、前記取得部が取得する前記撮像画像に対して前記診断を行う割合を異ならせる請求項1から7のいずれか1項に記載の検査支援装置。
  9.  前記診断部は、前記取得部が取得した前記撮像画像が予め設定された診断部位を撮像したものであるかを判断し、
     前記制御部は、前記オフモードの選択を受け付けた場合には、前記診断部が前記診断部位を撮像したものであると判断した場合に、前記診断結果を前記記憶部に記憶させる請求項1から8のいずれか1項に記載の検査支援装置。
  10.  前記診断部位は、前記診断部が用いる学習モデルに基づいて設定される請求項9に記載の検査支援装置。
  11.  前記診断部位は、前記取得部が前記内視鏡システムから取得する前記撮像画像以外の画像領域に含まれる文字情報に基づいて設定される請求項9に記載の検査支援装置。
  12.  前記カメラユニットによる前記体内の検査が終了したことを検出する検出部を備え、
     前記制御部は、前記オフモードの選択を受け付けた場合には、前記検出部が前記検査の終了を検出した後に、前記記憶部に記憶させた前記診断結果を読み出して前記表示部へ表示させる請求項1から11のいずれか1項に記載の検査支援装置。
  13.  前記制御部は、病変と推定する推定確率が閾値以上である前記診断結果に限って前記表示部へ表示させる請求項12に記載の検査支援装置。
  14.  前記受付部は、前記オフモードについてバックグラウンドモードと完全オフモードに区分して受け付け、
     前記制御部は、前記受付部が前記バックグラウンドモードの選択を受け付けた場合には、前記診断結果を前記表示部に表示させることなく記憶部に記憶させ、前記完全オフモードの選択を受け付けた場合には、前記診断部に前記診断を行わせない請求項1から13のいずれか1項に記載の検査支援装置。
  15.  前記受付部は、バックグラウンドモードよりも深い階層で前記完全オフモードの選択を受け付ける請求項14に記載の検査支援装置。
  16.  前記制御部は、前記バックグラウンドモードであるか前記完全オフモードであるかを区別して視認できるように前記オフモードである旨を前記表示部に表示する請求項14または15に記載の検査支援装置。
  17.  被検者の体内に挿通されるカメラユニットを備える内視鏡システムに接続して利用される検査支援装置を用いた検査支援方法であって、
     診断結果を表示部へ表示させるオンモードと表示させないオフモードの選択をユーザから受け付ける受付ステップと、
     前記カメラユニットで撮像された撮像画像を逐次取得する取得ステップと、
     前記撮像画像に基づいて前記体内の診断を行う診断ステップと、
     前記受付ステップで前記オンモードの選択を受け付けた場合に、前記診断結果をリアルタイムに前記表示部に表示させる表示制御ステップと、
     前記受付ステップで前記オフモードの選択を受け付けた場合に、少なくとも前記カメラユニットによる前記体内の検査が継続されている間は前記診断結果を前記表示部に表示させることなく記憶部に記憶させる記憶制御ステップと
    を有する検査支援方法。
  18.  被検者の体内に挿通されるカメラユニットを備える内視鏡システムに接続して利用される検査支援装置を制御する検査支援プログラムであって、
     診断結果を表示部へ表示させるオンモードと表示させないオフモードの選択をユーザから受け付ける受付ステップと、
     前記カメラユニットで撮像された撮像画像を逐次取得する取得ステップと、
     前記撮像画像に基づいて前記体内の診断を行う診断ステップと、
     前記受付ステップで前記オンモードの選択を受け付けた場合に、前記診断結果をリアルタイムに前記表示部に表示させる表示制御ステップと、
     前記受付ステップで前記オフモードの選択を受け付けた場合に、少なくとも前記カメラユニットによる前記体内の検査が継続されている間は前記診断結果を前記表示部に表示させることなく記憶部に記憶させる記憶制御ステップと
    をコンピュータに実行させる検査支援プログラム。
     
PCT/JP2022/025111 2021-06-24 2022-06-23 検査支援装置、検査支援方法および検査支援プログラム WO2022270582A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US18/508,212 US20240095917A1 (en) 2021-06-24 2023-11-13 Examination support device, examination support method, and storage medium storing examination support program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021-104550 2021-06-24
JP2021104550A JP2023003458A (ja) 2021-06-24 2021-06-24 検査支援装置、検査支援方法および検査支援プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/508,212 Continuation US20240095917A1 (en) 2021-06-24 2023-11-13 Examination support device, examination support method, and storage medium storing examination support program

Publications (1)

Publication Number Publication Date
WO2022270582A1 true WO2022270582A1 (ja) 2022-12-29

Family

ID=84544425

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/025111 WO2022270582A1 (ja) 2021-06-24 2022-06-23 検査支援装置、検査支援方法および検査支援プログラム

Country Status (3)

Country Link
US (1) US20240095917A1 (ja)
JP (1) JP2023003458A (ja)
WO (1) WO2022270582A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008036028A (ja) * 2006-08-03 2008-02-21 Olympus Medical Systems Corp 画像表示装置
JP2011255006A (ja) * 2010-06-09 2011-12-22 Olympus Corp 画像処理装置、内視鏡装置、プログラム及び画像処理方法
WO2020166247A1 (ja) * 2019-02-14 2020-08-20 日本電気株式会社 病変領域分割装置、医用画像診断システム、病変領域分割方法及びプログラムが格納された非一時的なコンピュータ可読媒体
WO2021029292A1 (ja) * 2019-08-13 2021-02-18 富士フイルム株式会社 画像診断支援装置、内視鏡システム、画像診断支援方法、及び画像診断支援プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008036028A (ja) * 2006-08-03 2008-02-21 Olympus Medical Systems Corp 画像表示装置
JP2011255006A (ja) * 2010-06-09 2011-12-22 Olympus Corp 画像処理装置、内視鏡装置、プログラム及び画像処理方法
WO2020166247A1 (ja) * 2019-02-14 2020-08-20 日本電気株式会社 病変領域分割装置、医用画像診断システム、病変領域分割方法及びプログラムが格納された非一時的なコンピュータ可読媒体
WO2021029292A1 (ja) * 2019-08-13 2021-02-18 富士フイルム株式会社 画像診断支援装置、内視鏡システム、画像診断支援方法、及び画像診断支援プログラム

Also Published As

Publication number Publication date
JP2023003458A (ja) 2023-01-17
US20240095917A1 (en) 2024-03-21

Similar Documents

Publication Publication Date Title
JP4418400B2 (ja) 画像表示装置
JP5242381B2 (ja) 医療用画像処理装置及び医療用画像処理方法
US20090131746A1 (en) Capsule endoscope system and method of processing image data thereof
JP2009022446A (ja) 医療における統合表示のためのシステム及び方法
WO2020195807A1 (ja) 内視鏡用プロセッサ、情報処理装置、プログラム、情報処理方法および学習モデルの生成方法
WO2019008942A1 (ja) 医療画像処理装置、内視鏡装置、診断支援装置、医療業務支援装置、及び、レポート作成支援装置
US20230320584A1 (en) Image processing method, image processing program, image processing device, image display device, and image display method
US10231601B2 (en) Medical apparatus for associating index indicating priority corresponding to lesion occurrence frequency with position of inner wall opposing in visual line direction of endoscope the position being one at which image is acquired
JP5581122B2 (ja) 電子内視鏡装置
JP7194889B2 (ja) コンピュータプログラム、学習モデルの生成方法、手術支援装置、及び情報処理方法
JPWO2020184257A1 (ja) 医用画像処理装置及び方法
WO2022270582A1 (ja) 検査支援装置、検査支援方法および検査支援プログラム
WO2022029824A1 (ja) 診断支援システム、診断支援方法及び診断支援プログラム
JP7100505B2 (ja) 画像処理装置、画像処理装置の作動方法、及び画像処理装置の作動プログラム
WO2022064998A1 (ja) 検査支援装置、検査支援方法および検査支援プログラム
JP2022145395A (ja) 検査支援装置、検査支援方法および検査支援プログラム
WO2023282144A1 (ja) 情報処理装置、情報処理方法、内視鏡システム及びレポート作成支援装置
JP7493285B2 (ja) 情報処理装置、情報処理方法、及びコンピュータプログラム
JP7495511B2 (ja) 医用画像処理装置及び医用画像処理装置の作動方法並びに医用画像処理装置用プログラム
JP7368922B2 (ja) 情報処理装置、情報処理方法、及びコンピュータプログラム
WO2023228659A1 (ja) 画像処理装置及び内視鏡システム
WO2023282143A1 (ja) 情報処理装置、情報処理方法、内視鏡システム及びレポート作成支援装置
WO2022191058A1 (ja) 内視鏡画像処理装置、方法及びプログラム
WO2022065189A1 (ja) 検査支援装置、検査支援方法および検査支援プログラム
JP2023106327A (ja) 検査支援装置、検査支援方法および検査支援プログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22828498

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE