WO2022085342A1 - 医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理装置用プログラム - Google Patents

医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理装置用プログラム Download PDF

Info

Publication number
WO2022085342A1
WO2022085342A1 PCT/JP2021/033822 JP2021033822W WO2022085342A1 WO 2022085342 A1 WO2022085342 A1 WO 2022085342A1 JP 2021033822 W JP2021033822 W JP 2021033822W WO 2022085342 A1 WO2022085342 A1 WO 2022085342A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
information
display
image information
medical
Prior art date
Application number
PCT/JP2021/033822
Other languages
English (en)
French (fr)
Inventor
麻依子 遠藤
Original Assignee
富士フイルム株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルム株式会社 filed Critical 富士フイルム株式会社
Priority to JP2022557289A priority Critical patent/JPWO2022085342A1/ja
Priority to EP21882483.7A priority patent/EP4230111A4/en
Priority to CN202180071260.6A priority patent/CN116367765A/zh
Publication of WO2022085342A1 publication Critical patent/WO2022085342A1/ja
Priority to US18/302,579 priority patent/US11983872B2/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00039Operational features of endoscopes provided with input arrangements for the user
    • A61B1/0004Operational features of endoscopes provided with input arrangements for the user for electronic operation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H15/00ICT specially adapted for medical reports, e.g. generation or transmission thereof
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images
    • G06V2201/034Recognition of patterns in medical or anatomical images of medical instruments

Definitions

  • the present invention relates to a medical image processing device, an operation method of the medical image processing device, and a program for the medical image processing device.
  • the medical image includes an endoscopic image, an X-ray image, a CT (Computed Tomography) image, an MR (Magnetic Resonance) image, and the like.
  • the endoscopist creates a report describing the examination results and findings using the endoscopic images taken by the endoscopic system. Need to be done.
  • the endoscopic image attached to the report (hereinafter referred to as the key image) is troublesome to select, such as when the endoscopist manually selects from a large number of endoscopic images acquired in one examination. There was a problem that it took.
  • Patent Document 1 an information processing apparatus that generates a key image from a photographed medical image based on an analysis result of input diagnostic information
  • Patent Document 2 a medical report system that groups and displays medical images having a designated region of interest by designating a region of interest in the medical image
  • JP-A-2015-211862 Japanese Unexamined Patent Publication No. 2009-86765
  • the criteria for selecting key images differ for each user of the endoscopy system such as a medical facility or an endoscopist, and also differ depending on the purpose of report creation.
  • the report includes, for example, a report for the endoscopist to report the test result to the doctor in charge of the patient who performed the test, a report for notifying the patient of the test result, and the like. Therefore, even if the key image is automatically selected, the selection is not always appropriate for each individual.
  • the number of endoscopic images acquired in one endoscopy may be enormous. If a key image is automatically selected from a huge number of endoscopic images without any restrictions, the display may be difficult for the user to understand. For example, when the user displays the selected key image on the display while comparing the selected endoscope image with the non-selected endoscope image, many endoscope images may be displayed. There is.
  • An object of the present invention is to provide a medical image processing device capable of easily and appropriately selecting a key image, an operation method of the medical image processing device, and a program for the medical image processing device.
  • the medical image processing apparatus of the present invention includes a processor, and the processor acquires a plurality of medical images including a subject image and analyzes the medical images to obtain at least one of a plurality of preset first image information.
  • a selected image which is a medical image to which a designated first image information is given, is selected from a plurality of medical images by assigning to a medical image and designating at least one of a plurality of first image information on the image display screen. Control is performed to display in the first display area in the display mode for the selected image, and control is performed to display each of the designated first image information in the second display area of the image display screen.
  • the processor may add at least one of a plurality of preset second image information to the medical image, and set the display mode for the selected image based on the second image information. preferable.
  • Each of the plurality of preset first image information is set after being associated with at least one of a plurality of categories, and it is preferable that the processor specifies each category.
  • the processor controls to display a plurality of first image information in the third display area of the image display screen for each category, and designates the information based on the user's selection for the plurality of first image information displayed in the third display area. It is preferable to do.
  • each of the plurality of preset second image information is set after being associated with at least one of a plurality of categories.
  • the category is at least one of information about a part included in the subject image, information about imaging conditions of a medical image, information about a lesion included in the subject image, information about an area of interest included in the subject image, and information about a treatment tool included in the subject image. Is preferable.
  • the processor sets the maximum number of selected images to be displayed in the first display area, and controls the display of the number of selected images equal to or less than the set maximum number in the first display area.
  • the processor analyzes the medical image having the first image information and the first image information based on the first correspondence information in which the first image information is associated in advance.
  • the processor analyzes the medical image having the second image information and the second image information based on the second correspondence information in which the second image information is associated in advance.
  • At least one of a plurality of preset first image information is medically treated by an image acquisition step of acquiring a plurality of captured medical images and analysis of the medical images.
  • An image information imparting step to be given to an image a first image information designation step for designating at least one of a plurality of first image information, and medical treatment to which a designated first image information is given among a plurality of medical images.
  • Control is performed to display the selected image, which is an image, in the first display area of the image display screen in the display mode for the selected image, and each of the designated first image information is displayed in the second display area of the image display screen. It is provided with a display control step for performing control.
  • the program for a medical image processing device of the present invention is a program for a medical image processing device installed in a medical image processing device, and has an image acquisition function for acquiring a plurality of captured medical images on a computer and analyzes the medical image. By doing so, an image information imparting function that imparts at least one of a plurality of preset first image information to a medical image, and a first image information designation function that designates at least one of a plurality of first image information.
  • the selected image which is a medical image to which the designated first image information is added, is controlled to be displayed in the first display area of the image display screen in the selected image display mode among the plurality of medical images.
  • It is a program for a medical image processing apparatus for realizing a display control function for controlling the display of each of the designated first image information in the second display area of the image display screen.
  • the key image can be selected easily and appropriately.
  • an endoscopic image is used as an example of a medical image.
  • the endoscopic image is an example of a medical image.
  • the endoscopic image viewing support system 10 shown in FIG. 1 is a computer system used to support viewing of the endoscopic image 100 (see FIG. 2) obtained by endoscopy, and is via a network 12. Is connected to the endoscope system 14.
  • the network 12 is, for example, a LAN (Local Area Network) in a hospital.
  • the endoscope system 14 includes an endoscope 15, a light source device 16, a processor device 17, a display 18, and a keyboard 19 which is an input device.
  • the endoscopy system 14 is used for endoscopy (including various treatments using the endoscope 15).
  • the endoscopy is performed, for example, by an endoscopist who has received a request from the doctor in charge of the patient, and the endoscopy is performed to obtain a plurality of endoscopic images 100.
  • the endoscope image 100 taken by the endoscope system 14 is stored in the endoscope image viewing support system 10.
  • the endoscope image viewing support system 10 includes an endoscope image viewing support server 20, a client terminal 21, and a server group 22, which are connected via a network 24 such as a LAN.
  • the endoscope image viewing support server 20 is the medical image processing device of the present invention, and assists the user in selecting a key image from a plurality of endoscope images 100, and also selects the selected key image.
  • Use to create an inspection report 34 (see FIG. 3).
  • the examination report 34 is a report in which a doctor such as an endoscopist who has performed an endoscopy browses an endoscopic image 100 and summarizes medical findings and the like.
  • An endoscopic image 100 which is the basis of the findings, which is a key image, is attached to the inspection report 34.
  • the examination report 34 is used for diagnosing the patient and the like by being used for viewing by the doctor in charge of the patient who has undergone endoscopy.
  • the server group 22 includes an image server 26 and a report server 28.
  • the image server 26 includes an image database (hereinafter referred to as an image DB) 30.
  • the image DB 30 stores the endoscope image 100 transmitted from the endoscope system 14.
  • the report server 28 includes a report database (hereinafter referred to as a report DB) 32.
  • the report DB 32 stores an inspection report 34 created in association with the implementation of the endoscopy.
  • the image DB 30 and the report DB 32 are databases that can be searched by, for example, a patient ID (Identification Data) assigned to each patient, an examination ID assigned to each endoscopy, or the like.
  • the client terminal 21 is a terminal for viewing the endoscopic image 100 and the examination report 34, and the endoscopist can view the endoscopic image 100 and create the examination report 34 after the examination is completed. Used for.
  • the client terminal 21 is also used for the doctor in charge, who is a doctor in the clinical department who requested the endoscopy, to view the endoscopy image 100 and the examination report 34.
  • the client terminal 21 is, for example, a notebook type or desktop type personal computer.
  • the endoscopist uses the client terminal 21 to access the endoscopic image viewing support server 20. Then, the saved endoscope image 100 or inspection report 34 is read out and displayed on the display of the client terminal 21, necessary work is performed, and the inspection report 34 is completed.
  • the completed inspection report 34 is stored in the report server 28 via the endoscopic image viewing support server 20.
  • the image DB 30 is provided with a plurality of image folders (not shown). When an endoscopy is performed once, one image folder corresponding to this endoscopy is created. Then, the endoscopic image 100 acquired by the corresponding endoscopy is stored in each image folder. As mentioned above, in endoscopy, moving images are taken, still images are taken at arbitrary timings by the freeze switch of the endoscope, automatic pictures are taken at predetermined time intervals, and test pictures are also taken. All the images obtained in the above-mentioned shooting are stored in the image folder 36 as the endoscope image 100.
  • these endoscope images 100 are recorded in association with a unique image ID, a shooting time, and incidental information 101 such as illumination light information 101A in the endoscope system 14 used at the time of shooting. It is stored in the image folder as the shooting information 102.
  • the incidental information 101 recorded in each endoscope image 100 may be used as the second image information described later for selecting a key image or for rearranging when displaying the key image on a display. To.
  • the image folder is created in the image server 26 when the endoscope image 100 of the inspection unit transmitted from the endoscope system 14 is stored.
  • An image folder may be created on the endoscope system 14 side, and the image server 26 may receive each image folder. Further, as long as the image DB 30 is stored in a form in which a plurality of endoscope images 100 can be read out in the inspection unit, such as tagging the endoscope image 100 in the inspection unit, the image folder may not be necessary.
  • the report DB 32 is provided with a plurality of report folders (not shown).
  • the examination report 34 created for each endoscopy is stored in the report folder. Similar to the endoscopic image 100, the inspection report 34 also has a report folder if it is stored in the report DB 32 in a form that can be read out for each endoscopy, such as tagging the inspection report 34 for each inspection. It does not have to be provided.
  • the examination report 34 and the report display screen 103 when displaying the examination report 34 are the report main body 34A, and the above-mentioned examination identification information, patient identification information, and creator information indicating the creator. Consists of.
  • the report body 34A has the findings 104 of the inspector of the endoscopy and the key image 100S which is the endoscopic image 100 attached to the examination report 34.
  • the key image 100S is an endoscopic image 100 that is the basis of the finding 104, and is attached in association with each endoscopy.
  • two endoscopic images 100 having image IDs A13 and A24 are associated with the first finding 104 (finding No. 1), and the second finding 104 (finding No. 2) is associated with an image.
  • An example is shown in which one endoscope image 100 having an ID of A37 is associated with the image 100.
  • the endoscope image viewing support server 20 is an endoscope which is a key image from among a plurality of endoscope images 100 obtained in the endoscopy unit, based on a user's designation or the like.
  • the image 100 is automatically selected, the selected endoscope image 100 is attached according to the format of the examination report 34, and the examination identification information and the patient identification information are attached from the incidental information 101 associated with the endoscope image 100. Etc. are laid out automatically.
  • the endoscope image viewing support server 20, the client terminal 21, the image server 26 constituting the server group 22, and the report server 28 are based on a computer such as a personal computer, a server computer, or a workstation. It is configured by installing a control program such as an operating system and an application program such as a client program or a server program.
  • the computers constituting the servers 20, 26, 28, and the client terminal 21 have the same basic configuration, and each has a CPU (Central Processing Unit) 40, a memory 42, and a storage device. It includes 44, a communication I / F (Interface) 46, and an input / output unit 48. These are connected via the data bus 50.
  • the input / output unit 48 includes a display 52 and an input device 54 such as a keyboard or a mouse.
  • the storage device 44 is, for example, an HDD (Hard Disk Drive) or SSD (Solid State Drive), and a control program or an application program (hereinafter referred to as AP) 56 is stored.
  • the server 26 and the server 28 in which the DB is constructed are provided with, for example, a disk array in which a plurality of HDDs or the like are connected as a storage device 44 for the DB, in addition to the HDD or the like for storing the program.
  • the disk array may be built in the server body, or may be provided separately from the server body and connected to the server body via a network such as a LAN. Further, as the storage device 44, cloud storage connected via the Internet may be used.
  • the memory 42 is a work memory for the CPU 40 to execute processing, and is composed of a RAM (RandomAccessMemory).
  • the CPU 40 comprehensively controls each part of the computer by loading the control program stored in the storage device 44 into the memory 42 and executing the processing according to the program.
  • the communication I / F 46 is a network interface that controls transmission to and from the network 12.
  • a client program is installed as AP56 on the client terminal 21.
  • the client program accesses the endoscope image viewing support server 20 and displays an image such as a display image setting screen 105 (see FIG. 9) or a key image automatic selection screen 106 (see FIG. 11) for selecting a key image.
  • the client terminal 21 is provided with a function of transmitting various requests such as a screen viewing request or an update request, or a function of receiving and displaying an image display screen sent from the endoscope image viewing support server 20 to the client terminal 21. It is a program to be executed.
  • the client program may be programmed exclusively for the endoscopic image viewing support system 10, or may include a well-known web browser.
  • the display 52 of the client terminal 21 displays a start screen 58 having an operation function by GUI (Graphical User Interface), and the CPU 40 of the client terminal 21 displays the start screen 58.
  • GUI Graphic User Interface
  • the CPU 40 of the client terminal 21 displays the start screen 58.
  • it functions as a request issuing unit 62 for issuing various requests to the GUI control unit 60 and the endoscope image viewing support server 20.
  • the activation screen 58 is provided with an inspection ID input field 58A and a decision button 58B.
  • an inspection ID input field 58A and a decision button 58B By inputting the examination ID in the examination ID input field 58A and operating the decision button 58B, one endoscopy can be designated from a plurality of endoscopy.
  • the information input in the examination ID input field 58A is transmitted from the GUI control unit 60 to the request issuing unit 62.
  • the request issuing unit 62 attaches the endoscopic image to the report in the designated endoscopic examination, that is, the endoscopic image 100 of the endoscopy corresponding to the examination ID input in the examination ID input field 58A.
  • a distribution request for an image display screen for selecting 100 is generated and issued to the endoscope image viewing support server 20.
  • the endoscope image viewing support server 20 distributes an image display screen in the initial state or with settings saved in advance, and displays it on the display 52 of the client terminal 21.
  • the image display screen is composed of data described in a markup language such as XML (Extensible Markup Language), and these image display screens themselves also have a GUI operation function.
  • the GUI control unit 60 receives operation instructions from the input device 54 through the image display screen, such as an input operation from the keyboard and a click operation of an operation button by the pointer 108 of the mouse.
  • the request issuing unit 62 issues an image display screen update request or the like in response to an operation instruction received by the GUI control unit 60.
  • the update request includes instructions for updating the display contents of the image display screen, such as various instructions for selecting a key image via the image display screen and instructions for switching the endoscope image 100 to be displayed.
  • the endoscope image viewing support server 20 updates the image display screen and distributes the updated image display screen to the client terminal 21. As a result, the image display screen displayed on the client terminal 21 is updated.
  • the server program installed as AP56 in the endoscope image viewing support server 20 is an operation program for making the computer function as the endoscope image viewing support server 20.
  • the CPU 40 of the endoscope image viewing support server 20 cooperates with the memory 42 and the like to receive the reception unit 70, the image acquisition unit 71, the image information addition unit 72, and the first image information designation unit. It functions as 73, a display control unit 74, and a storage control unit 75.
  • the reception unit 70 receives inputs from various terminals.
  • the reception unit 70 receives distribution requests and update requests for the image display screen input from the client terminal 21, and outputs these requests to the display control unit 74.
  • the delivery request of the image display screen is an image display screen that displays the endoscope image 100 selected from the plurality of endoscope images 100 specified by the inspection ID input in the inspection ID input field 58A of the activation screen 58. It requires delivery.
  • the reception unit 70 inputs the inspection ID (inspection ID input in the inspection ID input field 58A) specified in the distribution request to the image acquisition unit 71.
  • the update request includes at least one designation among a plurality of first image information described later, designated information for designating at least one of the second image information, or various settings. The designated information is input to the image information adding unit 72 and the first image information designating unit 73.
  • the image acquisition unit 71 accesses the image server 26 and obtains all the endoscopic images 100 obtained by the endoscopy corresponding to the notified inspection ID from the image DB 30. get. Specifically, the image acquisition unit 71 searches the image DB 30 using the inspection ID as a search keyword, and reads and acquires the shooting information 102 having the common inspection ID from the image folder 36 of the image DB 30. As described above, the photographing information 102 includes the endoscope image 100 and the incidental information 101 recorded in association with the endoscope image 100. As a result, the plurality of endoscopic images 100 of the examination unit obtained in one endoscopic examination and all the incidental information 101 recorded in association with the endoscopic image 100 are acquired. The image acquisition unit 71 outputs the acquired shooting information 102 to the image information addition unit 72.
  • the image information giving unit 72 adds at least one of a plurality of preset first image information to the endoscope image 100 by analyzing the endoscope image 100.
  • the addition of the first image information to the endoscopic image 100 is to add the first image information to the incidental information 101 included in the photographing information 102, or the first image information is included in the incidental information 101. If it is already in the information, it is realized by adding the information that this information is the first image information. Therefore, adding the information that is the first image information to any of the information included in the incidental information 101 in advance is also included in the analysis of the endoscope image 100. There may be a plurality of first image information to be given.
  • the image information addition unit 72 includes a first image information addition unit 81 and a second image information addition unit 82.
  • the first image information addition unit 81 includes a first image information list 83
  • the second image information addition unit 82 includes a second image information list 84.
  • the second image information will be described later.
  • the first image information list 83 is a list in which a plurality of first image information is described, and is set in advance. It is preferable that each of the plurality of first image information is set after being associated with at least one of the plurality of categories. Therefore, in the first image information list 83, each of the plurality of first image information is described after being associated with at least one of the plurality of categories.
  • One of the plurality of categories is, for example, information about a part included in the subject image.
  • the specific item names included in the site category are, for example, "esophagus”, “esophagogastric junction”, “gastric corpus”, “antrum”, and “angular incisure”.
  • "The corpus”, or “the lower leg of the duodenum” is preset as the first image information.
  • Other categories include information on imaging conditions of medical images, information on lesions included in the subject image, information on the area of interest included in the subject image, information on treatment tools included in the subject image, and the like.
  • the information regarding the imaging conditions is information regarding the imaging when a medical image is acquired, and when the category of the imaging conditions is set, for example, the type of illumination light, the distance between the subject and the tip of the endoscope, the exposure, or The type of endoscope used and the like are set as the first image information.
  • the information about the lesion included in the subject image is set in the category, for example, whether or not the subject image has a lesion, the size of the lesion, the type of the lesion, and the like are set as the first image information.
  • the first image information is information about the treatment tool
  • the first image information can be a "sample collection image”. This is because it is possible to analyze whether or not the scene is a sample being collected based on the type of treatment tool included in the subject image.
  • the first image information addition unit 81 analyzes the endoscope image 100 by image processing, and imparts at least one of a plurality of preset first image information to the endoscope image 100.
  • the plurality of preset first image information is the first image information included in the first image information list 83.
  • the first image information addition unit 81 analyzes the endoscopic image 100 for each category included in the first image information list 83. For example, when the first image information list 83 has a category of information about a portion included in the subject image, the endoscope image 100 is analyzed with respect to the category of this portion, and the first image information included in the category of the portion is included. It is given to the endoscope image 100.
  • the first image information list 83 has a plurality of categories, the endoscope image 100 is analyzed for each category, or the endoscope image 100 is analyzed for the first image information included in the plurality of categories. do.
  • the first image information adding unit 81 adds the first image information to the endoscope image 100 by writing the first image information in the incidental information 101 of the endoscope image 100. If for some reason it is not possible to add preset first image information to the endoscope image 100, for some reason, for example, "unknown” is used as the first image information so that the user or the like can recognize that fact. Give. Therefore, "unknown” or the like is written in the column of the first image information of the incidental information 101 of the endoscope image 100.
  • the endoscope image 100 For the analysis of the endoscope image 100 by image processing, various image processing methods for discriminating or recognizing the first image information can be adopted. Above all, it is preferable to prepare an endoscopic image that is known to have the first image information, and perform analysis based on the corresponding information in which the endoscopic image and the first image information are associated in advance. ..
  • the correspondence information is preferably a trained model in machine learning techniques. Therefore, for example, when the category of the first image information is a part, learning by learning data in which the endoscopic image taken with a specific part as a subject and the part name, for example, "esophagus" is associated with each other is performed a plurality of times.
  • the part name included in the subject image can be obtained as an analysis result.
  • the part reflected in the endoscope image 100 that is, the part included in the subject image is the "esophagus”
  • the first image information is "" by analyzing using the above-mentioned trained model.
  • the analysis result of "esophagus” can be obtained.
  • the first image information designation unit 73 designates at least one of the plurality of first image information.
  • the shooting information 102 having the designated first image information in the incidental information 101 and the designated first image information in the incidental information 101. It is possible to classify the non-photographing information 102.
  • the plurality of first image information is a specific plurality of site names when the first image information is a category of the site. Therefore, for example, by designating a site name attached to the examination report 34 from a plurality of site names, the endoscopic image 100 having this site name in the imaging information 102 can be extracted.
  • the designation of the first image information is performed, for example, by selecting the first image information via the display image setting screen 105 or the like input from the client terminal 21 by the user.
  • the user inputs at least one of the part names which is the first image information such as "esophagus" to the client terminal 21, so that the first image information Select.
  • the input information is received by the first image information designation unit 73 as designated information, and the first image information designation unit 73 classifies the first image information included in the shooting information 102 into those having "esophagus" and those other than that. do. Then, it is written that the designated first image information is given to the endoscope image 100 in the incidental information 101 of the endoscope image 100 having "esophagus" in the first image information.
  • the display control unit 74 includes a display mode setting unit 91, a screen data generation unit 92, and an output control unit 93.
  • the endoscope image 100 is directly input to the screen data generation unit 92 from the image acquisition unit 71.
  • the display control unit 74 selects the endoscope image 100 to which the designated first image information is added from the plurality of endoscope images 100 input via the first image information designation unit 73 as the selected image. do. Then, control is performed to display the selected image in the first display area of the image display screen in the display mode for the selected image based on the setting of the display mode setting unit 91. Further, control is performed to display each of the designated first image information in the second display area of the image display screen.
  • the display mode for the selected image can be set in advance. Further, the display mode for the selected image may be set by the display mode setting unit 91 based on the second image information described later.
  • the image display screen includes a first display area and a second display area, and the selected image is controlled to be displayed in the first display area in the display mode for the selected image. Further, each of the plurality of first image information is controlled to be displayed in the second display area. Each of the selected image and the plurality of first image information is displayed in, for example, the key image automatic selection screen 106.
  • the key image automatic selection screen 106 corresponds to an image display screen. Therefore, the first display area and the second display area can be the display areas in the key image automatic selection screen 106.
  • the key image automatic selection screen 106 is divided into two, one of which is a first display area and the other of which is a second display area.
  • the key image automatic selection screen 106 is displayed on the display 52.
  • the selected image is controlled to be displayed in the selected image display mode in the first display area of the key image automatic selection screen 106.
  • the display mode for the selected image is a display mode in which the selected image is displayed at which position in the first display area, and / or a display in which a specific selected image is emphasized and displayed in comparison with other selected images. Includes aspects of the method. Regarding the aspect of the position, since there is one or more selected images and the area of the first display area is limited in the case of a plurality of selected images, the selected images to be displayed are further selected or prioritized.
  • the display position is controlled and displayed.
  • the display mode for the selected image can be set in advance. As the mode of the display method, various highlighting and the like can be mentioned.
  • control is performed to display it in the second display area of the image display screen.
  • the first image information is a part category
  • all the part names of the designated first image information are displayed in the second display area.
  • the screen data generation unit 92 displays each of the endoscope image 100, which is the selection image input to the screen data generation unit 92, or the designated first image information, based on the set display mode for the selected image.
  • the key image automatic selection screen 106 is generated and updated.
  • the screen data generation unit 92 appropriately uses the shooting information 102 including the endoscope image 100 and the incidental information 101, the first image information, and the like, depending on the screen requested by the client terminal 21.
  • the screen data generation unit 92 generates and updates the key image automatic selection screen 106, it is associated with the display mode for the selected image, the endoscope image 100 which is the selected image, and these endoscope images 100.
  • the key image automatic selection screen 106 is created by using the incidental information 101 recorded in the above.
  • the generated and updated key image automatic selection screen 106 is input to the output control unit 93.
  • the output control unit 93 distributes the input key image automatic selection screen 106 to the requesting client terminal 21.
  • the client terminal 21 displays the key image automatic selection screen 106 distributed from the output control unit 93 on the display 52. The user can grasp whether or not the endoscopic image 100 to be attached to the inspection report 34 is excessive or insufficient by the key image automatic selection screen 106 displayed on the display 52.
  • the flow of automatic key image selection is specifically obtained by acquiring the endoscope image 100 in the endoscope image viewing support server 20. , The assignment of the first image information, the designation of the first image information, the display of the selected image and the first image information on the display, and the like will be described.
  • the display screens of the display image setting screen 105 are displayed on the display 52.
  • the display image setting screen 105 is a screen for setting an endoscope image or the like to be displayed on the key image automatic selection screen 106, and the display image setting screen 105 and the key image automatic selection screen 106 have the same layout.
  • the image acquisition unit 71 searches the image DB 30, and the imaging information 102 of the inspection unit obtained by one endoscopy, that is, a plurality of images.
  • the endoscope image 100 and the incidental information 101 recorded in association with the endoscope image 100 are read out from the image DB 30 and acquired (S11).
  • the image information adding unit 72 analyzes the first image information for each of the plurality of endoscopic images 100 of the acquired inspection unit (S12).
  • the first image information can be selected from a plurality of categories, but is set in advance by the user's selection or the like.
  • the user sets the first image information in advance using the display image setting screen 105.
  • the display image setting screen 105 includes a category setting button (not shown). The user operates the category setting button to set at least one of the categories. In this embodiment, the category of the part is set.
  • the part category a plurality of part names are preset as the first image information. Therefore, when the category of the part is selected, a plurality of part names are set as the first image information, and the image information giving unit 72 analyzes the part name which is the first image information with respect to the endoscopic image 100. Perform the resulting analysis.
  • the plurality of preset first image information is displayed in the non-selected area 105b of the display image setting screen 105, which is one of the display screens, for each category.
  • the non-selected area 105b corresponds to the third display area.
  • first image information blocks 105c showing the part names included in the part category are displayed.
  • One first image information block 105c indicates one first image information. Since the first image information block 105c displays the first image information, the part name is displayed in the present embodiment, but when a category other than the part is set, the first image included in the set category is included. Information is displayed.
  • the image information giving unit 72 By the analysis of the endoscope image 100 by the image information giving unit 72, the first image information of the set category is given to the endoscope image 100 (S13).
  • the image information adding unit 72 analyzes each of the acquired plurality of endoscope images 100, and the first image information is given to each of the endoscope images 100.
  • the part name described in the block 105c is given.
  • the reference numeral may be attached only to a part in order to avoid complicating the figure.
  • the specification is made by the user, but in some cases, such as the same specification as the previous one, it is done by someone other than the user.
  • the first image information is specified by using the first image information block 105c showing the part name displayed in the non-selected area 105b of the display image setting screen 105.
  • the first image information block 105c of the non-selected area 105b is designated and dragged by the pointer 108 to move so as to be included in the selected area 105a.
  • the first image information block 105c included in the selection area 105a is the first image information designated by the user.
  • the designated first image information is highlighted and displayed.
  • the first image information of the "esophagogastric junction" is one of the plurality of designated first image information. The user repeats such an operation to specify a plurality of first image information.
  • the selection area 105a includes five types of the first image information block 105c on the display image setting screen 105, and the first image information designated by the user is 5. It becomes the part name of the kind.
  • the undesignated first image information block 105c is displayed in the non-selected area 105b.
  • the first image information designation unit 73 designates the first image information based on the user's designation. Therefore, the first image information designation unit 73 uses the part name shown in the first image information block 105c moved to the selection area 105a as the designated first image information. Since a part name is given to the acquired plurality of endoscope images 100 by the image information giving unit 72, the plurality of endoscopic images 100 having the part name which is the designated first image information are acquired. It is selected from the endoscopic images 100 and is used as the selected image. As described above, it is preferable that the first image information designation unit 73 designates the first image information based on the plurality of first image information displayed in the selection area 105a.
  • the category of the first image information it is possible to specify the first image information other than the category of the part.
  • the category is switched to the category of information about the treatment tool by the category setting button (not shown) as in the case of the category of the part.
  • two first image information blocks 105c which are a "sample collection image” and a "non-sample collection image", are displayed as categories of information regarding the treatment tool included in the subject image. Further, two first image information blocks 105c, a "lesion image” and a “non-lesion image”, are displayed as categories of information regarding the lesion included in the subject image. In this way, the first image information block 105c of a plurality of categories may be controlled to be displayed in the non-selected area 105b depending on the area of the display area or the like. As in the case of the above-mentioned part category, the user moves the first image information block 105c from the non-selected area 105b to the selected area 105a to specify the first image information of each category.
  • the "sample collection image” is designated as the first image information from the category of information regarding the treatment tool
  • the "lesion image” is designated as the first image information from the category of information regarding the lesion.
  • the image information adding unit 72 applies the first image information of the “sample collection image” to the endoscopic image 100 in which the scene in which the sample is collected is included in the subject image. Perform analysis to grant. Further, an analysis is performed to add the first image information of the "lesion image” to the endoscopic image 100 including the lesion in the subject image.
  • the method of analysis can be the same as in the case of the site category.
  • each of the preset first image information is set after being associated with at least one of a plurality of categories, it is preferable to specify the first image information for each category. This is because by setting the category, it is possible to easily and flexibly select the endoscopic image 100 according to the user's wishes when creating the inspection report.
  • the schema display 105h on the display image setting screen 105 and the schema display 106h on the key image automatic selection screen 106 are fixedly displayed in advance as reference information for the posted portion in the inspection report 34.
  • the selection area 105a includes seven types of first image information blocks 105c, and the first image information specified by the user includes five types of sites and sample collection. It becomes an image and a lesion image. The user confirms that all the first image information to be the key image is included by displaying the selection area 105a, and ends the movement of the first image information block 105c.
  • the display control unit 74 displays the selected image and the first image information on the display 52 by displaying the key image automatic selection screen 106 (S15). As shown in FIG. 13, the selected image 106c is automatically displayed in the selected image display area 106b on the key image automatic selection screen 106 according to the display mode for the selected image. The selected image display area 106b corresponds to the first display area.
  • the display mode for the selected image is a preset content and is a highlight display. Therefore, in the selected image display area 106b, the selected image 106c is highlighted and displayed. Of the endoscopic images 100 acquired in the inspection, the non-selected image 106d that did not become the selected image 106c is displayed inconspicuously by lightening the color or the like, and the selected image 106c is emphasized. Since the screen area of the selected image display area 106b is limited, it may not be possible to display all the selected images 106c on one screen depending on the size setting for displaying one endoscope image 100 or the like. ..
  • the hidden selected image 106c can be displayed by scrolling the screen of the selected image display area 106b by moving the scroll bar 106e.
  • the non-selected image 106d is also displayed in the selected image display area 106b to display all of the inspection images, but it is also possible to set to display only the selected image 106c.
  • each of the plurality of first image information is displayed in the selection category display area 106a.
  • the selection category display area 106a corresponds to the second display area. Since the first image information is a part name or the like, a plurality of designated first image information blocks 105c are displayed side by side together with the part name or the like in the selection category display area 106a.
  • the first image information block 105c displays a part name and the like and a representative image of the endoscope image 100 to which the part name and the like are given. Therefore, the designated part name and the like and the endoscopic image 100 to which the part name and the like are given can be grasped at a glance.
  • the key image automatic selection screen 106 has the same layout as the display image setting screen 105, the first image information block 105c selected in the selection area 105a on the display image setting screen 105 is also in the selection category display area 106a. It is displayed in the same way. Therefore, it is possible to easily grasp what kind of image is selected as the key image by the selected part name.
  • the first image shown in the selection category display area 106a As shown in FIG. 14, when the key image automatic selection screen 106 is viewed and the key image which is the selected image 106c is different from the user's request, the first image shown in the selection category display area 106a.
  • the pop-up button 106g of the information block 106f By clicking the pop-up button 106g of the information block 106f, the first image information included in the same category as the first image information block 106f is displayed in a list by the first image information list 106i, and the first image information is displayed from the list. Can be respecified. In the first image information list 106i, the designated first image information and the non-designated first image information including the same category are displayed separately. Further, the first image information block 106f by clicking the pop-up button 106g is highlighted and displayed.
  • the first image information clicked on the first image information list 106i can be replaced with the first image information displayed up to that point. Therefore, in the case of FIG. 14, the "duodenum descending leg" and the clicked first image information can be exchanged.
  • the first image information may be specified again by clicking the switch button (not shown) to the display image setting screen 105 set on the key image automatic selection screen 106. By repeating these operations, more optimal key image selection can be performed.
  • the user confirms the part name of the selected category display area 106a and all the selected images 106c displayed by scrolling the selected image display area 106b, completes the key image selection work, and completes the key image selection screen 106.
  • a report is created by clicking the completion button (not shown) set in. Alternatively, by pressing the report creation button (not shown), the key image selection work is completed and the report is created. When the key image selection work is completed, the key image selection settings used to create this report are saved.
  • the storage control unit 75 controls the storage of various settings and designations, the storage of the endoscope image 100, and the storage of the inspection report 34.
  • the user specifies the category of the endoscope image 100 which is the first image information, and the key image desired by the user. Can be automatically selected from a large number of endoscopic images 100, so that the key image can be easily selected. Further, since these designations are made on the display screen of the display 52, the key image can be selected more easily and easily. Further, since these designations are made by arbitrarily selecting the first image information, it is possible to flexibly match various key image selection criteria of the user, and it is possible to select an appropriate key image for each user. be. Further, when selecting a key image, the user does not need to confirm a large number of captured endoscopic images 100, so that the work efficiency of key image selection is improved.
  • the first image information designated as the key image can be confirmed on, for example, the key image automatic selection screen 106 or the like. It is possible to easily confirm what is and what kind of endoscopic image 100 is selected by the designation. After confirmation, it is easy to specify the first image information again, and by performing the specification a plurality of times, it is possible to automatically select an appropriate key image for the user. Therefore, the endoscope image viewing support server 20 can easily and appropriately select the key image.
  • the display mode setting unit 91 assigns at least one of a plurality of preset second image information to the medical image, and sets the display mode for the selected image based on the second image information.
  • the display mode setting unit 91 assigns at least one of a plurality of preset second image information to the medical image, and sets the display mode for the selected image based on the second image information.
  • the second image information is the same as the first image information, and is given to the endoscope image 100 in the same manner as the first image information. Similar to the first image information, the second image information includes information on a part included in the subject image, information on imaging conditions of a medical image, information on a lesion included in the subject image, information on an area of interest included in the subject image, or a subject. It can be information about the treatment tool included in the image.
  • the image information addition unit 72 includes a second image information addition unit 82, and the second image information addition unit 82 includes a second image information list 84 (see FIG. 7).
  • the second image information list 84 included in the second image information addition unit 82 is the same as the first image information list 83, and is a list in which the second image information is described.
  • the image information giving unit 72 gives the endoscope image 100 at least one of a plurality of preset second image information by analyzing the endoscope image 100. do.
  • the addition of the second image information to the endoscopic image 100 is to add the second image information to the incidental information 101 included in the photographing information 102, or the second image information is included in the incidental information 101. If it is already in the information, it is realized by adding the information that this information is the second image information.
  • the second image information to be given may be plural. Further, as described above, it is preferable that the second image information is also set after being associated with at least one of a plurality of categories, like the first image information.
  • Which second image information is to be set can be set by the user, for example, by specifying it on the display 52 via the display image setting screen 105. Since the second image information is an item for selecting and / or rearranging the endoscopic images 100 when displaying the selected images on the display 52, a plurality of them may be selected and used in combination.
  • the category of the second image information includes the imaging conditions such as the illumination light information 101A when the endoscope image 100 is photographed, the presence or absence of a lesion when the endoscope image 100 is analyzed by image processing, and the endoscope image 100.
  • the presence or absence of the region of interest when the image 100 is analyzed by image processing, or the presence or absence of the treatment tool when the endoscopic image 100 is analyzed by image processing can be preferably used.
  • the illumination light information 101A indicating one of the shooting conditions indicates the type of illumination light when the endoscope image 100 is shot.
  • the endoscope system 14 includes, as a shooting mode, a normal mode in which white light (WLI, WhiteLight) is used as the illumination light to capture a subject in a natural hue, and a narrow band light in the illumination light. It is provided with a special light mode such as BLI (Blue light (laser) Imaging) that obtains an endoscope image 100 that emphasizes a specific structure or the like by using special light. Therefore, in the illumination light information 101A, the type name of the illumination light such as "WLI” indicating white light or "BLI" indicating one type of special light is described.
  • the analysis by the image processing of the endoscope image 100 prepares the endoscope image 100 which is known to have the second image information. It is preferable to perform the analysis based on the corresponding information in which the endoscopic image 100 and the second image information are associated in advance.
  • the correspondence information is the same as in the case of the first image information, and it is preferable that the model is a trained model in the machine learning technique. Therefore, for example, when the second image information is the presence or absence of a lesion, learning is performed using learning data in which an endoscopic image of a subject including the lesion is associated with information on the presence or absence of a lesion as “with lesion”.
  • the first display mode is set based on the second image information
  • the second image information is set, for example, by the priority image designation area 105d of the display image setting screen 105.
  • the presence / absence of a lesion, the presence / absence of a treatment tool, and imaging conditions are adopted.
  • the user gives priority to the lesion image as the priority 1, the sample collection image as the priority 2, and the normal image in the input box 105e in the priority image designation area 105d.
  • the lesion image priority image which is an image that is prioritized in the case of a lesion image by inputting the third order
  • an image whose imaging condition is BLI is selected by checking the input box 105e. Therefore, when displaying the selected key images side by side on the display 52 based on the second image information, the first display mode setting unit 91 arranges the lesion image, the sample collection image, and the normal image in this order, and the lesion.
  • the first display mode is to select an image taken by BLI.
  • a display number setting unit 94 for setting the maximum number of selected images 106c to be displayed on the key image automatic selection screen 106 is provided, and the display control unit 74 is a selection image having a number equal to or less than the maximum number set by the display number setting unit 94. It is preferable to control the display of the 106c on the key image automatic selection screen 106.
  • the endoscope image viewing support server 20 includes a display number setting unit 94.
  • the display number setting unit 94 sets the maximum number of selected images to be displayed in the selected image display area 106b.
  • the maximum number of selected images to be displayed in the selected image display area 106b of the key image automatic selection screen 106 is set based on the user's settings.
  • the user's setting is set, for example, by inputting a number in the display number setting area 105f of the display image setting screen 105.
  • the maximum number of selected images is set, for example, by inputting "10" in the input box displayed as "Maximum number of key images: Overall” in the display number setting area 105f.
  • the maximum number of selected images displayed in the selected image display mode is 10 from the preset highest priority. In this case, if the number of selected images displayed in the selected image display mode is 10 or less before setting the number of displayed images, the number of displayed images is not limited.
  • the display control unit 74 controls to display the selected images of the maximum number or less for each first image information set by the display number setting unit 94 on the second display screen.
  • the maximum number of images for each first image information is set based on the user's settings in the same manner as above, and for example, "3" is input in the input box after "for each category" is displayed in the display number setting area 105f. Set by doing.
  • the maximum number of selected images displayed in the display mode for selected images is three from the highest priority for each part of the first image information.
  • the number of selected images displayed in the selected image display mode is 3 or less before setting the number of displayed images, the number of displayed images is not limited.
  • the display setting storage unit 95 saves the designations and settings made by at least one of the first image information designation unit 73, the display mode setting unit 91, and the display number setting unit 94 as display settings. It is preferable that the display control unit 74 displays the endoscope image 100 on the second display screen based on the display settings. As shown in FIG. 17, the storage control unit 75 includes a display setting storage unit 95. As described above, the key image automatic selection is carried out by the designation and setting of the first image information designation unit 73, the display mode setting unit 91, and the display number setting unit 94.
  • the designation of the first image information designation unit 73 is "the esophagogastric junction, the duodenal descending leg, the body of the gastric corpus, the gastric angle, and the corpus".
  • the setting of the display mode setting unit 91 is that the "priority image” is "1 lesion image, 2 sample collection image, 3 normal image", and the "lesion image priority image” is "BLI”, and the number of displayed images is set.
  • the setting of the unit 94 is "total 10" and “3 for each category” for the "maximum number of key images”.
  • a user group including a plurality of users is, for example, each clinical department or medical facility in a medical facility. Therefore, the display setting of the key image automatic setting can be saved for each clinical department or medical facility.
  • the purpose of imaging includes, for example, a screening test, a detailed test of a polyp, a treatment using a treatment tool, and the like.
  • a screening test by calling the display setting in the screening test, it is possible to display the key image setting screen in which the optimum key image in the screening test is automatically displayed without any trouble.
  • the hardware-like structure of the processing unit that executes various processes such as the storage control unit 75 is various processors as shown below.
  • the circuit configuration is changed after manufacturing the CPU (Central Processing Unit), FPGA (Field Programmable Gate Array), etc., which are general-purpose processors that execute software (programs) and function as various processing units. It includes a programmable logic device (PLD), which is a possible processor, a dedicated electric circuit, which is a processor having a circuit configuration specially designed for executing various processes, and the like.
  • PLD programmable logic device
  • One processing unit may be composed of one of these various processors, or may be composed of a combination of two or more processors of the same type or different types (for example, a plurality of FPGAs or a combination of a CPU and an FPGA). May be done. Further, a plurality of processing units may be configured by one processor. As an example of configuring a plurality of processing units with one processor, first, as represented by a computer such as a client or a server, one processor is configured by a combination of one or more CPUs and software. There is a form in which this processor functions as a plurality of processing units.
  • SoC System On Chip
  • the various processing units are configured by using one or more of the above-mentioned various processors as a hardware-like structure.
  • the hardware-like structure of these various processors is, more specifically, an electric circuit (circuitry) in which circuit elements such as semiconductor elements are combined.
  • the present invention is a system or device for acquiring medical images (including moving images) other than endoscopic images. It can also be used in such cases.
  • the present invention can be applied to an ultrasonic inspection device, an X-ray imaging device (including a CT (Computed Tomography) inspection device, a mammography device, etc.), an MRI (magnetic resonance imaging) device, and the like.

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Surgery (AREA)
  • Public Health (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Optics & Photonics (AREA)
  • Epidemiology (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Primary Health Care (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Endoscopes (AREA)

Abstract

キー画像の選択を簡易かつ適切に行うことができる医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理装置用プログラムを提供する。医療画像処理装置はプロセッサを備え、プロセッサは、被写体像を含む医療画像を複数取得し、医療画像を解析することにより第1画像情報を医療画像に付与し、第1画像情報の指定を行い、複数の医療画像のうち、指定の第1画像情報が付与された医療画像である選択画像を、表示画面の第1表示領域に選択画像用表示態様で表示する制御を行い、かつ、指定の第1画像情報のそれぞれを第2表示領域に表示する制御を行う。

Description

医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理装置用プログラム
 本発明は、医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理装置用プログラムに関する。
 医療分野において、検査又は診断等のために取得する被写体像を含む画像(以下、医療画像という)が利用されている。取得した医療画像は、医師に提示される。そして、医師は、医療画像を判断材料の1つとして使用し、診断等を行う。具体的には、医療画像には、内視鏡画像、X線画像、CT(Computed Tomography)画像、又は、MR(Magnetic Resonanse)画像等がある。
 例えば、内視鏡システムを用いた検査においては、検査終了後に、内視鏡医が、内視鏡システムにより撮影した内視鏡画像を使用して、検査結果及び所見等を記載したレポートの作成を行う必要がある。しかしながら、レポートに添付する内視鏡画像(以下、キー画像という)は、内視鏡医が、1回の検査で取得した多数の内視鏡画像から手動で選択する場合等、選択に手間がかかるという問題があった。
 そこで、キー画像選択の負担の軽減に関して検討が行われている。例えば、入力した診断情報の解析結果に基づいて、撮影した医療用画像からキー画像を生成する情報処理装置が知られている(特許文献1)。また、医用画像内の関心領域を指定することにより、指定された関心領域を有する医用画像をグループ化して表示する医用レポートシステムが知られている(特許文献2)。
特開2015-211862号公報 特開2009-86765号公報
 キー画像選択の基準は、医療施設又は内視鏡医等の内視鏡システムのユーザ毎に異なり、また、レポート作成の目的によっても異なる。レポートには、例えば、内視鏡医が検査を実施した患者の担当医に検査結果を報告するためのレポート、又は、患者に検査結果を通知するためのレポート等がある。したがって、自動的にキー画像が選択される場合であっても、個々にとって適切な選択が行われるとは限らなかった。
 また、一回の内視鏡検査において取得する内視鏡画像の数は、場合によっては膨大となる。膨大な内視鏡画像から、制限なくキー画像を自動的に選択した場合、ユーザに分かりづらい表示となるおそれがある。例えば、ユーザに、選択した内視鏡画像と選択しなかった内視鏡画像とを比較しながら、選択したキー画像をディスプレイに表示する場合等では、多くの内視鏡画像が表示されるおそれがある。
 本発明は、キー画像の選択を簡易かつ適切に行うことができる医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理装置用プログラムを提供することを目的とする。
 本発明の医療画像処理装置は、プロセッサを含み、プロセッサは、被写体像を含む医療画像を複数取得し、医療画像を解析することにより、予め設定した複数の第1画像情報のうち少なくとも1つを医療画像に付与し、複数の第1画像情報のうち少なくとも1つの指定を行い、複数の医療画像のうち、指定の第1画像情報が付与された医療画像である選択画像を、画像表示画面の第1表示領域に選択画像用表示態様で表示する制御を行い、かつ、指定の第1画像情報のそれぞれを、画像表示画面の第2表示領域に表示する制御を行う。
 プロセッサは、医療画像を解析することにより、予め設定した複数の第2画像情報のうち少なくとも1つを医療画像に付与し、選択画像用表示態様を、第2画像情報に基づいて設定することが好ましい。
 予め設定した複数の第1画像情報のそれぞれは、複数のカテゴリの少なくとも1つに関連づけた上で設定されており、プロセッサは、カテゴリ毎に、指定を行うことが好ましい。
 プロセッサは、複数の第1画像情報を画像表示画面の第3表示領域にカテゴリ毎に表示する制御を行い、第3表示領域に表示した複数の第1画像情報に対するユーザの選択に基づいて、指定を行うことが好ましい。
 予め設定した複数の第2画像情報のそれぞれは、複数のカテゴリの少なくとも1つに関連づけた上で設定されていることが好ましい。
 カテゴリは、被写体像が含む部位に関する情報、医療画像の撮影条件に関する情報、被写体像が含む病変に関する情報、被写体像が含む注目領域に関する情報、及び被写体像が含む処置具に関する情報のうち少なくとも1つであることが好ましい。
 プロセッサは、第1表示領域に表示する選択画像の最大枚数を設定し、設定した最大枚数以下の枚数の選択画像を第1表示領域に表示する制御を行うことが好ましい。
 プロセッサは、第1画像情報を備える医療画像と、第1画像情報とを、予め対応づけた第1対応情報に基づいて、解析を行うことが好ましい。
 プロセッサは、第2画像情報を備える医療画像と、第2画像情報とを、予め対応づけた第2対応情報に基づいて、解析を行うことが好ましい。
 プロセッサが行った指定を表示設定として保存し、表示設定に基づき、選択画像を画像表示画面に表示することが好ましい。
 表示設定は、ユーザ毎に保存することが好ましい。
 表示設定は、複数のユーザを含むユーザグループ毎に保存することが好ましい。
 表示設定は、撮影の目的毎に保存することが好ましい。
 本発明の医療画像処理装置の作動方法は、撮影した複数の医療画像を取得する画像取得ステップと、医療画像を解析することにより、予め設定した複数の第1画像情報のうち少なくとも1つを医療画像に付与する画像情報付与ステップと、複数の第1画像情報のうち少なくとも1つの指定を行う第1画像情報指定ステップと、複数の医療画像のうち、指定の第1画像情報が付与された医療画像である選択画像を、画像表示画面の第1表示領域に選択画像用表示態様で表示する制御を行い、かつ、指定の第1画像情報のそれぞれを、画像表示画面の第2表示領域に表示する制御を行う表示制御ステップとを備える。
 本発明の医療画像処理装置用プログラムは、医療画像処理装置にインストールされる医療画像処理装置用プログラムであって、コンピュータに、撮影した複数の医療画像を取得する画像取得機能と、医療画像を解析することにより、予め設定した複数の第1画像情報のうち少なくとも1つを医療画像に付与する画像情報付与機能と、複数の第1画像情報のうち少なくとも1つの指定を行う第1画像情報指定機能と、複数の医療画像のうち、指定の第1画像情報が付与された医療画像である選択画像を、画像表示画面の第1表示領域に選択画像用表示態様で表示する制御を行い、かつ、指定の第1画像情報のそれぞれを、画像表示画面の第2表示領域に表示する制御を行う表示制御機能とを実現させるための医療画像処理装置用プログラムである。
 本発明によれば、キー画像の選択を簡易かつ適切に行うことができる。
内視鏡画像閲覧支援システム構成の概略を示す説明図である。 撮影情報の内容を示す説明図である。 検査レポート及びレポート表示画面の内容を示す説明図である。 内視鏡画像閲覧支援サーバ等に用いられるコンピュータの電気的な構成を示すブロック図である。 クライアント端末の機能概要を示す説明図である。 内視鏡画像閲覧支援サーバの機能概要を示す説明図である。 画像情報付与部の機能概要を示すブロック図である。 キー画像自動選択の処理手順を示すフローチャートである。 第1画像情報ブロックを移動している表示画像設定画面を示す画像図である。 第1画像情報ブロックを複数移動した表示画像設定画面を示す画像図である。 別のカテゴリの第1画像情報ブロックを移動している表示画像設定画面を示す画像図である。 別のカテゴリの第1画像情報ブロックを移動した表示画像設定画面を示す画像図である。 キー画像自動選択画面を示す画像図である。 第1画像情報一覧を表示したキー画像自動選択画面を示す画像図である。 表示枚数を設定した表示画像設定画面を示す画像図である。 表示枚数設定部を含む内視鏡画像閲覧支援サーバの機能概要を示す説明図である。 保存制御部の機能概要を示すブロック図である。 表示設定の一例を示す説明図である。
 本実施形態では、医療画像の一例として内視鏡画像を用いる。内視鏡画像は医療画像の一例である。
 図1に示す内視鏡画像閲覧支援システム10は、内視鏡検査で得られた内視鏡画像100(図2参照)の閲覧を支援するために用いられるコンピュータシステムであり、ネットワーク12を介して内視鏡システム14と接続されている。ネットワーク12は、例えば、病院内のLAN(Local Area Network)である。内視鏡システム14は、内視鏡15と、光源装置16と、プロセッサ装置17と、ディスプレイ18と、入力装置であるキーボード19とを含む。
 内視鏡システム14は、内視鏡検査(内視鏡15を用いた各種処置を含む)に用いられる。内視鏡検査は、例えば、患者の担当医からの依頼を受けた内視鏡医によって実施され、内視鏡検査が実施されることで複数の内視鏡画像100が得られる。内視鏡システム14で撮影された内視鏡画像100は、内視鏡画像閲覧支援システム10に保存される。
 内視鏡画像閲覧支援システム10は、内視鏡画像閲覧支援サーバ20と、クライアント端末21と、サーバ群22とを備え、これらがLANなどのネットワーク24を介して接続されている。
 内視鏡画像閲覧支援サーバ20は、本発明の医療画像処理装置であり、ユーザが複数の内視鏡画像100の中からキー画像を選択するための支援を行い、また、選択したキー画像を用いて検査レポート34(図3参照)を作成する。検査レポート34は、内視鏡検査を行った内視鏡医などの医師が、内視鏡画像100を閲覧して医学的な所見などをまとめたレポートである。検査レポート34には、キー画像である所見の根拠となった内視鏡画像100が添付される。検査レポート34は、内視鏡検査を受けた患者の担当医等の閲覧に供されて患者の診断等に用いられる。
 サーバ群22は、画像サーバ26と、レポートサーバ28とからなる。画像サーバ26は、画像データベース(以下、画像DBと称する)30を備えている。画像DB30には、内視鏡システム14から送信された内視鏡画像100が格納される。レポートサーバ28は、レポートデータベース(以下、レポートDBと称する)32を備えている。レポートDB32には、内視鏡検査の実施に伴って作成される検査レポート34が格納される。画像DB30、及びレポートDB32は、例えば、患者毎に付与される患者ID(Identification Data)、又は、内視鏡検査毎に付与される検査ID等による検索が可能なデータベースである。
 クライアント端末21は、内視鏡画像100や検査レポート34を閲覧等するための端末であり、内視鏡医が検査終了後に内視鏡画像100を閲覧したり、検査レポート34を作成したりするために使用する。また、クライアント端末21は、内視鏡検査を依頼した診療科の医師である担当医が内視鏡画像100や検査レポート34を閲覧するためにも使用される。
 クライアント端末21は、例えば、ノート型又はデスクトップ型のパソコン等である。内視鏡医は、検査終了後に検査レポート34を作成する場合、クライアント端末21を使用して内視鏡画像閲覧支援サーバ20にアクセスする。そして、保存された内視鏡画像100又は検査レポート34を読み出して、クライアント端末21のディスプレイに表示させ、必要な作業を行い、検査レポート34を完成させる。完成した検査レポート34は、内視鏡画像閲覧支援サーバ20を介して、レポートサーバ28に保存する。
 画像DB30には、複数の画像フォルダ(図示せず)が設けられている。内視鏡検査が1回行われると、この内視鏡検査に対応する画像フォルダが1つ作成される。そして、各画像フォルダには、対応する内視鏡検査で取得された内視鏡画像100が格納される。前述のように、内視鏡検査では、動画の撮影、内視鏡のフリーズスイッチによる任意のタイミングの静止画の撮影、所定時間間隔で行われる自動撮影の他、テスト撮影等も行われ、これらの撮影で得られた画像がすべて内視鏡画像100として画像フォルダ36内に格納される。
 図2に示すように、これらの内視鏡画像100は、固有の画像ID、撮影時刻、及び撮影時に用いた内視鏡システム14における照明光情報101A等の付帯情報101が関連付けて記録された撮影情報102として、画像フォルダ内に格納されている。各内視鏡画像100に記録される付帯情報101は、場合により、後述する第2画像情報として、キー画像の選択のため、又はキー画像をディスプレイに表示する際の並べ替えのために使用される。
 画像フォルダは、画像サーバ26において、内視鏡システム14から送信される検査単位の内視鏡画像100を保存する際に作成される。画像フォルダを内視鏡システム14側で作成し、画像フォルダ毎、画像サーバ26が受信してもよい。また、画像DB30において、内視鏡画像100を検査単位でタグ付けする等、複数の内視鏡画像100を検査単位で読み出しできる形態で格納されていれば、画像フォルダはなくてもよい。
 レポートDB32には、複数のレポートフォルダ(図示せず)が設けられている。内視鏡検査毎に作成された検査レポート34は、レポートフォルダに格納される。検査レポート34についても、内視鏡画像100と同様に、レポートDB32において、検査レポート34を検査単位でタグ付けする等、内視鏡検査毎に読み出しできる形態で格納されていれば、レポートフォルダを設けなくてもよい。
 図3に示すように、検査レポート34、及び検査レポート34を表示する際のレポート表示画面103は、レポート本体34A、並びに、前述した検査識別情報、患者識別情報、及び作成者を示す作成者情報からなる。レポート本体34Aは、内視鏡検査の検査医の所見104と、検査レポート34に添付される内視鏡画像100であるキー画像100Sとを有する。キー画像100Sは、所見104の根拠となった内視鏡画像100であり、内視鏡検査毎に対応付けて添付される。図3は、1つ目の所見104(所見No1)に、画像IDがA13とA24との2枚の内視鏡画像100が対応付けされ、2つ目の所見104(所見No2)に、画像IDがA37の1枚の内視鏡画像100が対応付けされた例を示している。
 検査レポート34の作成において、内視鏡画像閲覧支援サーバ20は、内視鏡検査単位で得られた複数の内視鏡画像100の中から、ユーザの指定等に基づきキー画像である内視鏡画像100を自動的に選別し、検査レポート34の書式に合わせて、選別した内視鏡画像100を添付し、また内視鏡画像100に関連付けされた付帯情報101から検査識別情報及び患者識別情等を自動的にレイアウトする。
 内視鏡画像閲覧支援サーバ20、及び、クライアント端末21、並びに、サーバ群22を構成する画像サーバ26、及び、レポートサーバ28は、パーソナルコンピュータ、サーバコンピュータ、又は、ワークステーションといったコンピュータをベースに、オペレーティングシステム等の制御プログラム、及び、クライアントプログラム又はサーバプログラム等のアプリケーションプログラムをインストールして構成される。
 図4に示すように、各サーバ20、26、28、及び、クライアント端末21を構成するコンピュータは、基本的な構成は同じであり、それぞれ、CPU(Central Processing Unit)40、メモリ42、ストレージデバイス44、通信I/F(Interface)46、及び入出力部48を備えている。これらはデータバス50を介して接続されている。入出力部48は、ディスプレイ52と、キーボード又はマウス等の入力デバイス54とからなる。
 ストレージデバイス44は、例えば、HDD(Hard Disk Drive)又はSSD(Solid State Drive)等であり、制御プログラム又はアプリケーションプログラム(以下、APという)56が格納される。また、DBが構築されるサーバ26及びサーバ28には、プログラムを格納するHDD等とは別に、DB用のストレージデバイス44として、例えば、HDD等を複数台連装したディスクアレイが設けられる。なお、ディスクアレイは、サーバ本体に内蔵されるものでもよいし、サーバ本体とは別に設けられ、サーバ本体にLANなどのネットワークを通じて接続されるものでもよい。また、ストレージデバイス44として、インターネットを通じて接続されるクラウドストレージを用いてもよい。
 メモリ42は、CPU40が処理を実行するためのワークメモリであり、RAM(Random Access Memory)で構成される。CPU40は、ストレージデバイス44に格納された制御プログラムをメモリ42へロードして、プログラムに従った処理を実行することにより、コンピュータの各部を統括的に制御する。通信I/F46は、ネットワーク12との間の伝送制御を行うネットワークインタフェースである。
 クライアント端末21には、AP56として、クライアントプログラムがインストールされている。クライアントプログラムは、内視鏡画像閲覧支援サーバ20にアクセスして、キー画像を選択するための表示画像設定画面105(図9参照)又はキー画像自動選択画面106(図11参照)等の画像表示画面の閲覧要求又は更新要求等の各種要求を送信する機能、又は、内視鏡画像閲覧支援サーバ20からクライアント端末21に送られた画像表示画面を受信して表示する機能を、クライアント端末21に実行させるためのプログラムである。なお、クライアントプログラムは、内視鏡画像閲覧支援システム10専用にプログラミングされたものであってもよいし、周知のウェブブラウザを含むものであってもよい。
 図5に示すように、クライアントプログラムが起動されると、クライアント端末21のディスプレイ52には、GUI(Graphical User Interface)による操作機能を備えた起動画面58が表示され、クライアント端末21のCPU40は、メモリ42などと協働して、GUI制御部60、及び内視鏡画像閲覧支援サーバ20に対する各種の要求を発行する要求発行部62として機能する。
 起動画面58には、検査ID入力欄58A、決定ボタン58Bが設けられている。検査ID入力欄58Aに検査IDを入力し、決定ボタン58Bを操作することによって、複数の内視鏡検査の中から1つの内視鏡検査を指定することができる。内視鏡検査が指定されると、検査ID入力欄58Aに入力された情報が、GUI制御部60から要求発行部62に対して送信される。要求発行部62は、指定された内視鏡検査、すなわち、検査ID入力欄58Aに入力された検査IDに対応する内視鏡検査の内視鏡画像100において、レポートに添付する内視鏡画像100を選択するための画像表示画面の配信要求を生成し、内視鏡画像閲覧支援サーバ20に対して発行する。この配信要求に応答して内視鏡画像閲覧支援サーバ20から初期状態又は予め保存した設定による画像表示画面が配信され、クライアント端末21のディスプレイ52に表示される。
 画像表示画面は、例えば、XML(Extensible Markup Language)などのマークアップ言語により記述されたデータで構成され、これらの画像表示画面自体もGUIによる操作機能を備えている。GUI制御部60は、キーボードからの入力操作や、マウスのポインタ108による操作ボタンのクリック操作など、画像表示画面を通じた入力デバイス54からの操作指示を受け付ける。要求発行部62は、GUI制御部60が受け付けた操作指示に応じて、画像表示画面の更新要求などを発行する。
 更新要求には、画像表示画面を介するキー画像選択のための各種指示、表示する内視鏡画像100等の切り替え指示等、画像表示画面の表示内容を更新する指示が含まれる。更新要求が内視鏡画像閲覧支援サーバ20に送信されると、内視鏡画像閲覧支援サーバ20は、画像表示画面を更新し、更新済みの画像表示画面をクライアント端末21に配信する。これにより、クライアント端末21において表示される画像表示画面が更新される。
 図6に示すように、内視鏡画像閲覧支援サーバ20にAP56としてインストールされているサーバプログラムは、コンピュータを内視鏡画像閲覧支援サーバ20として機能させるための作動プログラムである。サーバプログラムが起動されると、内視鏡画像閲覧支援サーバ20のCPU40は、メモリ42等と協働して、受付部70、画像取得部71、画像情報付与部72、第1画像情報指定部73、表示制御部74、及び、保存制御部75として機能する。
 受付部70は、各種端末からの入力を受信する。受付部70は、クライアント端末21から入力される画像表示画面の配信要求や更新要求を受け付け、これらの要求を表示制御部74へ出力する。画像表示画面の配信要求は、起動画面58の検査ID入力欄58Aに入力された検査IDによって指定された複数の内視鏡画像100から選択された内視鏡画像100を表示する画像表示画面の配信を要求するものである。受付部70は、配信要求を受け付けると、配信要求で指定された検査ID(検査ID入力欄58Aに入力された検査ID)を画像取得部71へ入力する。なお、更新要求には、後述する複数の第1画像情報のうち少なくとも1つの指定、第2画像情報のうち少なくとも1つの指定を行うための指定情報、又は、各種設定を含む。指定情報は、画像情報付与部72及び第1画像情報指定部73へ入力する。
 画像取得部71は、検査IDが入力されると、画像サーバ26にアクセスして、通知された検査IDに対応する内視鏡検査で得られた全ての内視鏡画像100を、画像DB30から取得する。具体的には、画像取得部71は、検査IDを検索キーワードとして、画像DB30を検索し、検査IDが共通する撮影情報102を画像DB30の画像フォルダ36から読みだして取得する。上述したように、撮影情報102には、内視鏡画像100と、内視鏡画像100に関連付けて記録された付帯情報101とが含まれている。これにより、1回の内視鏡検査で得られた検査単位の複数の内視鏡画像100と、内視鏡画像100に関連付けて記録された付帯情報101がすべて取得される。画像取得部71は、取得した撮影情報102を、画像情報付与部72に出力する。
 画像情報付与部72は、内視鏡画像100を解析することにより、予め設定した複数の第1画像情報のうち少なくとも1つを内視鏡画像100に付与する。具体的には、第1画像情報の内視鏡画像100への付与は、撮影情報102が含む付帯情報101に第1画像情報を追加すること、又は、第1画像情報が付帯情報101に含まれる情報にすでにある場合、この情報が第1画像情報であるとの情報を付加することによって実現される。したがって、予め付帯情報101に含まれる情報のいずれかに、第1画像情報であるとの情報を付加することも、内視鏡画像100の解析に含まれる。付与する第1画像情報は、複数あってもよい。
 図7に示すように、画像情報付与部72は、第1画像情報付与部81と、第2画像情報付与部82とを備える。第1画像情報付与部81は、第1画像情報リスト83を備え、第2画像情報付与部82は、第2画像情報リスト84を備える。第2画像情報については後述する。
 第1画像情報リスト83は、複数の第1画像情報が記載されたリストであり、予め設定される。複数の第1画像情報のそれぞれは、複数のカテゴリの少なくとも1つに関連づけた上で設定されることが好ましい。したがって、第1画像情報リスト83には、複数の第1画像情報のそれぞれが、複数のカテゴリの少なくとも1つに関連付けられた上で、記載されている。
 複数のカテゴリのうちの一つは、例えば、被写体像が含む部位に関する情報である。部位のカテゴリを設定した場合、部位のカテゴリに含む具体的な項目名である、例えば、「食道」、「食道胃接合部」、「胃体部大彎」、「前庭部」、「胃角」、「穹窿部」、又は「十二指腸下脚部」等の部位名が、第1画像情報として予め設定される。
 また、他のカテゴリとしては、医療画像の撮影条件に関する情報、被写体像が含む病変に関する情報、被写体像が含む注目領域に関する情報、又は、被写体像が含む処置具に関する情報等が挙げられる。
 撮影条件に関する情報とは、医療画像を取得した際の撮影に関する情報であり、撮影条件のカテゴリを設定した場合、例えば、照明光の種類、被写体と内視鏡先端部との距離、露光、又は用いた内視鏡の種類等が、第1画像情報として設定される。被写体像が含む病変に関する情報をカテゴリに設定した場合、例えば、被写体像が病変を有するか否か、病変の大きさ、又は病変の種類等が、第1画像情報として設定される。被写体像が含む注目領域に関する情報をカテゴリに設定した場合、被写体像が注目領域を有しているか否か、注目領域の大きさ、又は注目領域の酸素飽和度等の生体情報等が、第1画像情報として設定される。被写体像が含む処置具に関する情報をカテゴリに設定した場合、被写体像が処置具を有するか否か、処置具の種類、又は検体採取画像か否か等が、第1画像情報として設定される。なお、第1画像情報を処置具に関する情報とした場合は、第1画像情報を、「検体採取画像」とすることができる。被写体像が含む処置具の種類に基づき、検体を採取している場面であるか否かの解析が可能だからである。第1画像情報リスト83に、これらの第1画像情報を予め保存して用いる。
 第1画像情報付与部81は、内視鏡画像100を画像処理により解析することにより、予め設定した複数の第1画像情報のうち少なくとも1つを内視鏡画像100に付与する。予め設定した複数の第1画像情報は、第1画像情報リスト83が含む第1画像情報である。また、第1画像情報付与部81は、第1画像情報リスト83が含むカテゴリ毎に、内視鏡画像100を解析することが好ましい。例えば、第1画像情報リスト83が、被写体像が含む部位に関する情報のカテゴリを有する場合、この部位のカテゴリに関して、内視鏡画像100を解析し、部位のカテゴリが含む第1画像情報を、内視鏡画像100に付与する。また、第1画像情報リスト83が、複数のカテゴリを有する場合は、それぞれのカテゴリ毎に内視鏡画像100を解析するか、複数のカテゴリが含む第1画像情報に関して内視鏡画像100を解析する。
 第1画像情報付与部81は、第1画像情報を内視鏡画像100の付帯情報101に書き込むことにより、内視鏡画像100に第1画像情報を付与する。なんらかの理由で、内視鏡画像100に予め設定した第1画像情報を付与することができない場合には、その旨をユーザ等が認識できるように、第1画像情報として、例えば、「不明」を付与する。したがって、この内視鏡画像100の付帯情報101の第1画像情報の欄には「不明」等が書き込まれる。
 内視鏡画像100の画像処理による解析は、第1画像情報を判別又は認識する各種の画像処理の方法を採用することができる。なかでも、第1画像情報を備えると判明している内視鏡画像を用意し、この内視鏡画像と第1画像情報とを予め対応付けた対応情報に基づいて、解析を行うことが好ましい。対応情報は、機械学習技術における学習済みモデルであることが好ましい。したがって、例えば、第1画像情報のカテゴリが部位である場合、特定の部位を被写体として撮影した内視鏡画像と、部位名、例えば、「食道」とを対応付けた学習データによる学習を複数回行った学習済みモデルを用いて、被写体像が含む部位が未知である内視鏡画像100を解析することにより、被写体像が含む部位名が解析結果として得られる。具体的には、内視鏡画像100に写る部位、すなわち、被写体像が含む部位が「食道」である場合には、上記の学習済みモデルを用いて解析することにより、第1画像情報として「食道」との解析結果を得ることができる。
 第1画像情報指定部73は、複数の第1画像情報のうち少なくとも1つの指定を行う。第1画像情報の指定により、複数の内視鏡画像100のうち、指定された第1画像情報を付帯情報101に有する撮影情報102と、指定された第1画像情報を付帯情報101に有さない撮影情報102とを、分類することができる。例えば、複数の第1画像情報とは、第1画像情報が部位のカテゴリである場合の具体的な複数の部位名である。したがって、例えば、複数の部位名から、検査レポート34に添付する部位名を指定することにより、この部位名を撮影情報102に有する内視鏡画像100を抽出することができる。
 上記したように、第1画像情報の指定は、例えば、ユーザによりクライアント端末21から入力される表示画像設定画面105等を介した第1画像情報の選択により行われる。具体的には、第1画像情報が部位名である場合、ユーザは、「食道」等、第1画像情報である部位名の少なくとも1つをクライアント端末21に入力することにより、第1画像情報を選択する。入力した情報は、指定情報として、第1画像情報指定部73が受け取り、第1画像情報指定部73は、撮影情報102が含む第1画像情報に「食道」があるものとそれ以外とを分類する。そして、第1画像情報に「食道」がある内視鏡画像100の付帯情報101に、この内視鏡画像100が指定の第1画像情報が付与されていることを書き込む。
 表示制御部74は、表示態様設定部91、画面データ生成部92、及び出力制御部93を有する。画面データ生成部92には、画像取得部71から内視鏡画像100が直接入力される。
 また、表示制御部74は、第1画像情報指定部73を介して入力された複数の内視鏡画像100のうち、指定の第1画像情報が付与された内視鏡画像100を選択画像とする。そして、画像表示画面の第1表示領域に、選択画像を、表示態様設定部91の設定に基づく選択画像用表示態様で表示する制御を行う。また、指定の第1画像情報のそれぞれを、画像表示画面の第2表示領域に表示する制御を行う。選択画像用表示態様は、予め設定しておくことができる。また、選択画像用表示態様は、表示態様設定部91が、後述する第2画像情報に基づいて設定してもよい。
 画像表示画面は、第1表示領域と第2表示領域とを含み、選択画像は、第1表示領域に、選択画像用表示態様で表示されるよう制御する。また、複数の第1画像情報のそれぞれは、第2表示領域に表示されるよう制御する。選択画像及び複数の第1画像情報のそれぞれは、例えば、キー画像自動選択画面106内に表示される。キー画像自動選択画面106は、画像表示画面に相当する。したがって、第1表示領域及び第2表示領域は、キー画像自動選択画面106内の表示領域とすることができる。例えば、キー画像自動選択画面106を2つに分割し、一方を第1表示領域とし、他方を第2表示領域とする。なお、キー画像自動選択画面106は、ディスプレイ52に表示する。
 選択画像に対しては、キー画像自動選択画面106の第1表示領域に、選択画像用表示態様で表示する制御が行われる。選択画像用表示態様は、選択画像を第1表示領域のどの位置に表示するかの位置の態様、及び/又は、特定の選択画像を他の選択画像と比較して強調して表示するといった表示方法の態様とを含む。位置の態様については、選択画像は1つ又は複数であり、複数の場合は、第1表示領域の面積は限られるため、表示する選択画像をさらに選択するか、又は、優先順位を付与し、表示位置を制御して表示する。選択画像用表示態様は、予め設定することができる。表示方法の態様については、各種の強調表示等を挙げることができる。
 指定の第1画像情報のそれぞれに対しては、画像表示画面の第2表示領域に表示する制御が行われる。例えば、第1画像情報が部位のカテゴリである場合は、指定の第1画像情報の部位名すべてを、それぞれ、第2表示領域に表示する。これにより、選択されたキー画像が、どの第1画像情報によるものであるのかをひと目で把握することができる。したがって、所望の内視鏡画像100を添付した検査レポート34を作成しようとする場合に、足りない内視鏡画像100又は過剰な内視鏡画像100を調整するために、第1画像情報をどのように指定し直せばよいのかもすぐに把握することができる。
 画面データ生成部92は、設定された選択画像用表示態様に基づき、画面データ生成部92に入力された選択画像である内視鏡画像100、又は、指定の第1画像情報のそれぞれを表示するキー画像自動選択画面106の生成及び更新を行う。画面データ生成部92は、クライアント端末21に要求された画面に応じて、内視鏡画像100と付帯情報101とを含む撮影情報102、及び第1画像情報等を適宜用いる。画面データ生成部92は、キー画像自動選択画面106の生成及び更新を行う場合は、選択画像用表示態様、又は、選択画像である内視鏡画像100、及びこれらの内視鏡画像100に関連付けて記録された付帯情報101とを用いてキー画像自動選択画面106を作成する。
 生成及び更新されたキー画像自動選択画面106は、出力制御部93へと入力される。出力制御部93は、入力されたキー画像自動選択画面106を、要求元のクライアント端末21に配信する。クライアント端末21では、出力制御部93から配信されたキー画像自動選択画面106をディスプレイ52に表示する。ユーザは、ディスプレイ52に表示されたキー画像自動選択画面106により、検査レポート34に添付しようとする内視鏡画像100が過不足ないかを把握することができる
 図8に示すフローチャート、及び、図9ないし図14に示す説明図を用いて、キー画像自動選択の流れについて、具体的には、内視鏡画像閲覧支援サーバ20における内視鏡画像100の取得、第1画像情報の付与、第1画像情報の指定、及びディスプレイへの選択画像及び第1画像情報の表示等について説明する。
 本実施形態では、キー画像自動選択において、表示画像設定画面105(図9参照)と、キー画像自動選択画面106(図10参照)との表示画面をディスプレイ52に表示する。表示画像設定画面105は、キー画像自動選択画面106に表示する内視鏡画像等を設定する画面であり、表示画像設定画面105とキー画像自動選択画面106とは、同様なレイアウトとしている。
 まず、上述したようにクライアント端末21からの配信要求を受け付けた場合、画像取得部71が画像DB30を検索し、1回の内視鏡検査で得られた検査単位の撮影情報102、すなわち複数の内視鏡画像100と、内視鏡画像100に関連付けて記録された付帯情報101とを画像DB30から読み出して取得する(S11)。
 次に、取得した検査単位の複数の内視鏡画像100のそれぞれを対象として、画像情報付与部72が、第1画像情報に関する解析を行う(S12)。第1画像情報は、上記したように、複数のカテゴリから選択可能であるが、ユーザの選択等により予め設定する。
 図9に示すように、ユーザは、表示画像設定画面105を用いて第1画像情報を予め設定する。表示画像設定画面105は、カテゴリ設定ボタン(図示せず)を備える。ユーザは、カテゴリ設定ボタンを操作して、カテゴリのうち少なくとも1つを設定する。本実施形態では、部位のカテゴリを設定している。部位のカテゴリには、複数の部位名がそれぞれ第1画像情報として予め設定されている。したがって、部位のカテゴリを選択した場合、第1画像情報として、複数の部位名が設定され、画像情報付与部72は、内視鏡画像100に対して、第1画像情報である部位名が解析結果となる解析を行う。
 このように、予め設定した複数の第1画像情報は、カテゴリ毎に、表示画面の1つである表示画像設定画面105の、非選択領域105bに表示する。非選択領域105bは、第3表示領域に対応する。
 非選択領域105bに、部位のカテゴリが含む部位名を示した第1画像情報ブロック105cが複数表示される。1つの第1画像情報ブロック105cは、1つの第1画像情報を示す。第1画像情報ブロック105cは、第1画像情報を表示したものであるので、本実施形態では部位名が表示されるが、部位以外のカテゴリを設定した場合は、設定したカテゴリが含む第1画像情報が表示される。
 画像情報付与部72による内視鏡画像100の解析により、内視鏡画像100に、設定したカテゴリの第1画像情報が付与される(S13)。本実施形態では、部位のカテゴリが設定されたため、画像情報付与部72は、取得した複数の内視鏡画像100のそれぞれを解析することにより、内視鏡画像100のそれぞれに、第1画像情報ブロック105cに記載される部位名を付与する。なお、図において、符号は、図が煩雑になることを避けるため、一部のみに付す場合がある。
 上記のようにして設定された複数の第1画像情報のうち少なくとも1つの指定を行う(S14)。指定はユーザが行うが、前回と同じ指定を行う等、場合によっては、ユーザ以外が行う。このように、非選択領域105bに表示した複数の第1画像情報に対するユーザの選択に基づいて、第1画像情報の指定を行うことが好ましい。本実施形態では、表示画像設定画面105の非選択領域105bに表示された、部位名を示した第1画像情報ブロック105cを用いて、第1画像情報の指定を行う。
 第1画像情報をユーザが指定する場合、非選択領域105bの第1画像情報ブロック105cをポインタ108により指定及びドラッグして、選択領域105aに含まれるように移動する。選択領域105aに含まれる第1画像情報ブロック105cが、ユーザが指定した第1画像情報である。選択領域105aにおいて、指定した第1画像情報は、強調されて表示される。図9に示す実施形態では、「食道胃接合部」の第1画像情報が、指定した複数の第1画像情報の1つである。ユーザがこのような操作を繰り返すことにより、複数の第1画像情報を指定する。
 図10に示すように、ユーザによる指定の結果、表示画像設定画面105において、選択領域105aには、第1画像情報ブロック105cが5種類含まれており、ユーザが指定した第1画像情報は5種類の部位名となる。
 以上のようにして、第1画像情報の指定を行う。なお、図10において、非選択領域105bには、指定しなかった第1画像情報ブロック105cが表示されている。第1画像情報指定部73は、ユーザの指定に基づいて第1画像情報を指定する。したがって、第1画像情報指定部73は、選択領域105aに移動された第1画像情報ブロック105cに示された部位名を、指定の第1画像情報とする。取得した複数の内視鏡画像100には、画像情報付与部72により部位名が付与されているため、指定の第1画像情報である部位名を有する内視鏡画像100が、取得した複数の内視鏡画像100から選択され、選択画像とされる。このように、第1画像情報指定部73は、選択領域105aに表示された複数の第1画像情報に基づいて第1画像情報の指定を行うことが好ましい。
 なお、ここで、第1画像情報のカテゴリを切り替えることにより、部位のカテゴリ以外の第1画像情報を指定することができる。図11に示すように、表示画像設定画面105において、部位のカテゴリの場合と同様に、カテゴリ設定ボタン(図示せず)により、カテゴリを、処置具に関する情報のカテゴリに切り替える。
 非選択領域105bには、被写体像が含む処置具に関する情報のカテゴリとして、「検体採取画像」と「非検体採取画像」との2つの第1画像情報ブロック105cを表示する。また、被写体像が含む病変に関する情報のカテゴリとして、「病変画像」と「非病変画像」との2つの第1画像情報ブロック105cが表示されている。このように、表示領域の面積等により、複数のカテゴリの第1画像情報ブロック105cを非選択領域105bに表示するように制御してもよい。上記した部位のカテゴリの場合と同様に、ユーザが非選択領域105bから、選択領域105aへ、第1画像情報ブロック105cを移動させることにより、各カテゴリの第1画像情報の指定を行う。
 本実施形態では、処置具に関する情報のカテゴリから、「検体採取画像」を第1画像情報として指定し、病変に関する情報のカテゴリから、「病変画像」を第1画像情報として指定する。部位に関する情報のカテゴリの場合と同様、画像情報付与部72は、被写体像に、検体を採取している場面が含まれる内視鏡画像100に、「検体採取画像」との第1画像情報を付与するための解析を行う。また、被写体像に、病変を含む内視鏡画像100に、「病変画像」との第1画像情報を付与するための解析を行う。解析の方法については、部位のカテゴリの場合と同様とすることができる。画像情報付与部72による内視鏡画像100の解析により、内視鏡画像100には、設定したカテゴリの第1画像情報が付与され、指定した第1画像情報を有する内視鏡画像100が、選択画像とされる。
 上記のとおり、予め設定した第1画像情報のそれぞれが、複数のカテゴリの少なくとも1つに関連付けられた上で設定されている場合は、カテゴリ毎に第1画像情報の指定を行うことが好ましい。カテゴリを設定することにより、検査レポート作成の際に、ユーザの希望に沿った内視鏡画像100を容易にかつ柔軟に選択することが可能となるからである。
 なお、表示画像設定画面105におけるシェーマ表示105h、及びキー画像自動選択画面106におけるシェーマ表示106hは、検査レポート34における掲示部位の参考になる情報として、予め固定表示する。
 図12に示すように、表示画像設定画面105において、選択領域105aには、第1画像情報ブロック105cが7種類含まれており、ユーザが指定した第1画像情報は5種類の部位、検体採取画像、及び病変画像となる。ユーザは、選択領域105aの表示により、キー画像としたい第1画像情報が全て含まれていることを確認し、第1画像情報ブロック105cの移動を終了する。
 表示制御部74は、キー画像自動選択画面106を表示することにより、選択画像及び第1画像情報をディスプレイ52に表示する(S15)。図13に示すように、選択画像106cは、キー画像自動選択画面106において、選択画像表示領域106bに、選択画像用表示態様により自動的に表示される。選択画像表示領域106bは、第1表示領域に対応する。
 本実施形態において、選択画像用表示態様は、予め設定した内容であり、強調表示である。したがって、選択画像表示領域106bにおいて、選択画像106cが強調して表示される。検査において取得された内視鏡画像100のうち選択画像106cとならなかった非選択画像106dは、色を薄くする等により、目立たないように表示され、選択画像106cが強調される。選択画像表示領域106bは、画面の面積が限られているため、一枚の内視鏡画像100を表示する大きさの設定等によっては、一画面にすべての選択画像106cを表示できない場合がある。この場合は、選択画像表示領域106bの画面を、スクロールバー106eを移動させてスクロールすることにより、隠れていた選択画像106cを表示することができる。このように、選択画像用表示態様は、選択画像106cを強調して表示することが好ましい。
 なお、本実施形態では、選択画像表示領域106bにおいて、非選択画像106dも表示し、検査画像のすべてを表示する設定としているが、選択画像106cのみを表示するように設定することもできる。
 また、キー画像自動選択画面106において、選択カテゴリ表示領域106aに、複数の第1画像情報のそれぞれが表示される。選択カテゴリ表示領域106aは、第2表示領域に対応する。第1画像情報は部位名等であるので、選択カテゴリ表示領域106aには、指定した複数の第1画像情報ブロック105cが、部位名等とともに並べて表示される。第1画像情報ブロック105cは、部位名等と、その部位名等が付与された内視鏡画像100の代表画像を表示している。したがって、指定した部位名等とその部位名等が付与された内視鏡画像100がひと目で把握できる。
 また、キー画像自動選択画面106は、表示画像設定画面105と同様にレイアウトとしているため、表示画像設定画面105における選択領域105aにおいて選択した第1画像情報ブロック105cが、選択カテゴリ表示領域106aにも同じように表示される。したがって、選択した部位名によりどのような画像がキー画像として選択されたのかが容易に把握できる。
 なお、図14に示すように、キー画像自動選択画面106を見て、選択画像106cであるキー画像がユーザの希望とは異なっていた場合は、選択カテゴリ表示領域106aに示された第1画像情報ブロック106fが有するポップアップボタン106gをクリックすることにより、その第1画像情報ブロック106fと同じカテゴリが含む第1画像情報が第1画像情報一覧106iにより一覧表示され、その中から第1画像情報を指定し直すことができる。第1画像情報一覧106iでは、指定された第1画像情報と、同じカテゴリが含む指定されていない第1画像情報とが、区別されて表示される。また、ポップアップボタン106gをクリックした第1画像情報ブロック106fは、強調されて表示される。第1画像情報一覧106i上でクリックした第1画像情報は、それまで表示されていた第1画像情報と入れ替えることができる。したがって、図14の場合は、「十二指腸下降脚」と、クリックした第1画像情報とを入れ替えることができる。または、キー画像自動選択画面106に設定される表示画像設定画面105への切り替えボタン(図示せず)をクリックして、再度第1画像情報の指定を行ってもよい。これらの作業を繰り返すことにより、より最適なキー画像選択を行うことができる。
 ユーザは、選択カテゴリ表示領域106aの部位名と、選択画像表示領域106bをスクロールすることにより表示したすべての選択画像106cとを確認し、キー画像選択の作業を完了させ、キー画像自動選択画面106内に設定された完了ボタン(図示せず)をクリックすることにより、レポート作成が行われる。または、レポート作成ボタン(図示せず)を押すことによっても、キー画像選択の作業が完了し、レポート作成が行われる。キー画像選択の作業の完了がなされると、今回のレポート作成に用いたキー画像選択の各種設定が保存される。各種設定及び指定の保存、内視鏡画像100の保存、及び検査レポート34の保存の制御は、保存制御部75が行う。
 以上のように構成した医療画像処理装置である内視鏡画像閲覧支援サーバ20によれば、第1画像情報である内視鏡画像100のカテゴリをユーザが指定することで、ユーザが望むキー画像を大量の内視鏡画像100の中から自動で選択することができるため、キー画像の選択が簡易である。また、これらの指定は、ディスプレイ52の表示画面で行うため、より簡易にかつわかりやすくキー画像の選択をすることができる。また、これらの指定は、第1画像情報を任意に選択することにより行われるため、ユーザの様々なキー画像選択基準に柔軟に合わせることができ、個々のユーザに適切なキー画像選択が可能である。また、キー画像の選択に際し、撮影した大量の内視鏡画像100をユーザが確認する必要がないため、キー画像選択の作業効率が向上する。
 また、指定した第1画像情報と、キー画像として選択された内視鏡画像100とを、例えば、キー画像自動選択画面106等により確認することができるため、キー画像として指定した第1画像情報が何であるのか、また、その指定によりどのような内視鏡画像100が選択されたのかを容易に確認することができる。確認した後に、再度第1画像情報を指定し直すことも容易であり、指定を複数回行うことにより、さらにユーザに適切なキー画像を自動的に選択することができる。したがって、内視鏡画像閲覧支援サーバ20は、キー画像の選択を簡易かつ適切に行うことができる。
 なお、表示態様設定部91は、予め設定した複数の第2画像情報のうち少なくとも1つを医療画像に付与し、選択画像用表示態様を、第2画像情報に基づいて設定することが好ましい。選択画像用表示態様を、第2画像情報に基づいて設定することにより、ユーザは、第1画像情報の指定と第2画像情報とを組み合わせて、キー画像の選択を柔軟に行うことができる。これにより、ユーザは、さらにキー画像の選択を簡易かつ適切に行うことができる。
 第2画像情報は、第1画像情報と同様のものであり、第1画像情報と同様にして内視鏡画像100に付与する。第2画像情報は、第1画像情報と同様に、被写体像が含む部位に関する情報、医療画像の撮影条件に関する情報、被写体像が含む病変に関する情報、被写体像が含む注目領域に関する情報、又は、被写体像が含む処置具に関する情報とすることができる。
 画像情報付与部72は、第2画像情報付与部82を備え、第2画像情報付与部82は、第2画像情報リスト84を備える(図7参照)。第2画像情報付与部82が備える第2画像情報リスト84は、第1画像情報リスト83と同様であり、第2画像情報が記載されたリストである。
 第2画像情報を付与する場合は、画像情報付与部72は、内視鏡画像100を解析することにより、予め設定した複数の第2画像情報のうち少なくとも1つを内視鏡画像100に付与する。具体的には、第2画像情報の内視鏡画像100への付与は、撮影情報102が含む付帯情報101に第2画像情報を追加すること、又は、第2画像情報が付帯情報101に含まれる情報にすでにある場合、この情報が第2画像情報であるとの情報を付加することによって実現される。付与する第2画像情報は、複数であってもよい。また、上記したように、第2画像情報も、第1画像情報と同様に、複数のカテゴリの少なくとも1つに関連付けられた上で設定されることが好ましい。
 いずれの第2画像情報を設定するかは、ユーザが設定可能であり、例えば、表示画像設定画面105を介して、ディスプレイ52上で指定することにより設定する。なお、第2画像情報は、選択画像をディスプレイ52に表示する際に、内視鏡画像100を選択及び/又は並び替えるための項目であるため、複数を選択して組み合わせて用いてもよい。第2画像情報のカテゴリとしては、内視鏡画像100を撮影した際の照明光情報101A等の撮影条件、内視鏡画像100を画像処理により解析した場合の病変の有無、内視鏡画像100を画像処理により解析した場合の注目領域の有無、又は、内視鏡画像100を画像処理により解析した場合の処置具の有無を好ましく用いることができる。
 なお、撮影情報102(図2参照)が含む付帯情報101のうち、撮影条件の一つを示す照明光情報101Aとは、内視鏡画像100を撮影した際の照明光の種類を示す。本実施形態では、内視鏡システム14は、撮影モードとして、照明光に白色光(WLI、White Light)を用いて、自然な色合いで被写体を写す通常モードと、照明光に狭帯域光を含む特殊光を用いて、特定の構造等を強調した内視鏡画像100を得る、BLI(Blue light(laser) Imaging)等の特殊光モードとを備える。したがって、照明光情報101Aには、白色光を示す「WLI」、又は特殊光の1種を示す「BLI」等の照明光の種類名が記載される。
 第1画像情報における場合と同様に、第2画像情報の付与において、内視鏡画像100の画像処理による解析は、第2画像情報を備えると判明している内視鏡画像100を用意し、この内視鏡画像100と第2画像情報とを予め対応付けた対応情報に基づいて、解析を行うことが好ましい。対応情報については、第1画像情報における場合と同様であり、機械学習技術における学習済みモデルであることが好ましい。したがって、例えば、第2画像情報が病変の有無である場合、病変を含む被写体を撮影した内視鏡画像と、「病変有り」との病変の有無の情報とを対応付けた学習データによる学習を複数回行った学習済みモデルを用いて、被写体像が病変を含むか否かが未知である内視鏡画像100を解析することにより、被写体像が病変を有するか否かが解析結果として得られる。注目領域の有無、又は処置具の有無も同様にして、解析結果として得られる。
 なお、機械学習技術を用いる場合、病変の有無のみを解析結果として出力する学習済みモデルのみならず、内視鏡画像100に写る被写体が何であるのかを解析するような学習済みモデルを用いてもよい。このような学習済みモデルの解析結果から、予め設定した複数の第2画像情報に当てはまるものがあれば、これを用いて第2画像情報としてもよい。
 第1表示態様を、第2画像情報に基づいて設定する場合は、次のようにすることができる。図15に示すように、第2画像情報は、例えば、表示画像設定画面105の優先画像指定領域105dにより設定する。第2画像情報として、病変の有無及び処置具の有無と、撮影条件とを採用している。ユーザは、病変の有無及び処置具の有無については、優先画像指定領域105d内にある入力ボックス105eに、病変画像を優先順位1番、検体採取画像を優先順位2番、及び、正常画像を優先順位3番と入力し、病変画像の場合に優先する画像である「病変画像優先画像」は、入力ボックス105eにチェックをすることにより、撮影条件がBLIであるものを選択している。したがって、第1表示態様設定部91は、第2画像情報に基づいて、選択したキー画像をディスプレイ52に並べて表示する際に、病変画像、検体採取画像、及び正常画像の順に並べ、かつ、病変画像はBLIにより撮影されたものを選択することを、第1表示態様として設定する。ユーザは、表示画像設定画面105における設定が完了した場合、表示画像設定画面105が含むキー画像自動選択画面への切り替えボタン(図示せず)をクリックして、キー画像自動選択画面106に切り替える。
 なお、キー画像自動選択画面106に表示する選択画像106cの最大枚数を設定する表示枚数設定部94を備え、表示制御部74は、表示枚数設定部94が設定した最大枚数以下の枚数の選択画像106cをキー画像自動選択画面106に表示する制御を行うことが好ましい。図16に示すように、この場合、内視鏡画像閲覧支援サーバ20は、表示枚数設定部94を備える。表示枚数設定部94は、選択画像表示領域106bに表示する選択画像の最大枚数を設定する。
 図15に示すように、キー画像自動選択画面106の選択画像表示領域106bに表示する選択画像の最大枚数の設定は、ユーザの設定に基づいて行う。ユーザの設定は、例えば、表示画像設定画面105の表示枚数設定領域105fにおいて、数字を入力することにより設定する。選択画像の最大枚数は、表示枚数設定領域105fの「最大キーイメージ枚数:全体」と表示された入力ボックスに、例えば、「10」と入力することによって設定する。これにより、選択画像用表示態様で表示される選択画像の最大枚数は、予め設定された優先順位の高い方から10枚となる。なお、この場合に、表示枚数の設定前において、選択画像用表示態様で表示される選択画像の枚数が10枚以下であった場合は、表示枚数は制限されない。
 また、表示制御部74は、表示枚数設定部94が設定した、第1画像情報毎の最大枚数以下の枚数の選択画像を第2表示画面に表示する制御を行うことが好ましい。第1画像情報毎の最大枚数の設定は、上記と同様、ユーザの設定に基づいて行い、表示枚数設定領域105fの「カテゴリ毎」と表示された後の入力ボックスに、例えば「3」と入力することによって設定する。これにより、選択画像用表示態様で表示される選択画像の最大枚数は、第1画像情報である各部位毎に、優先順位の高い方から3枚となる。なお、上記と同様、表示枚数の設定前において、選択画像用表示態様で表示される選択画像の枚数が3枚以下であった場合は、表示枚数は制限されない。
 なお、図17に示すように、第1画像情報指定部73、表示態様設定部91、及び表示枚数設定部94のうち少なくとも1つが行った指定及び設定を表示設定として保存する表示設定保存部95を備え、表示制御部74は、表示設定に基づき、内視鏡画像100を第2表示画面に表示することが好ましい。図17に示すように、保存制御部75は、表示設定保存部95を備える。上記したように、第1画像情報指定部73、表示態様設定部91、及び表示枚数設定部94の指定及び設定により、キー画像自動選択が実施される。これらの組み合わせにより、個々のユーザ毎に、詳細に、キー画像自動選択の設定を行うことができるため、この設定を表示設定として保存すれば、次回に同じ設定でキー画像自動選択を行いたい場合に、保存した表示設定を検索した上で読み込むことで、同じ設定でキー画像自動選択を行うことができる。したがって、簡易な方法により、保存したキー画像自動選択の表示設定を読み込むことができ、余計な手間を省くことができる。
 図18に示すように、表示設定96は、例えば、第1画像情報指定部73の指定が、「食道胃接合部、十二指腸下降脚、胃体部大彎、胃角、及び、穹窿部」であり、表示態様設定部91の設定が、「優先画像」が、「1病変画像、2検体採取画像、3正常画像」、及び、「病変画像優先画像」が「BLI」であり、表示枚数設定部94の設定が、「最大キーイメージ枚数」について、「全体10」枚、及び、「カテゴリ毎3」枚である。これらの指定及び設定をまとめて、第1表示設定として保存する。
 なお、表示設定は、ユーザ毎に保存することが好ましい。ユーザ毎に表示設定を保存することで、ユーザ毎の詳細な設定を検査の都度設定する必要がなくなるため、好ましい。
 また、表示設定は、複数のユーザを含むユーザグループ毎に保存することが好ましい。
複数のユーザを含むユーザグループは、例えば、医療施設における各診療科又は医療施設である。したがって、診療科、又は医療施設毎に、キー画像自動設定の表示設定を保存することができる。
 また、表示設定は、撮影の目的毎に保存することが好ましい。撮影の目的とは、例えば、スクリーニング検査、ポリープの詳細な検査、又は、処置具を用いた処置等が挙げられる。例えば、スクリーニング検査では、スクリーニング検査における表示設定を呼び出すことにより、手間をかけることなく、スクリーニング検査において最適なキー画像が自動的に表示されるキー画像設定画面を表示することができる。
 上記実施形態において、医療画像処理装置である内視鏡画像閲覧支援サーバ20に含まれる、受付部70、画像取得部71、画像情報付与部72、第1画像情報指定部73、表示制御部74、及び保存制御部75といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA (Field Programmable Gate Array) などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、各種の処理を実行するために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
 1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGAや、CPUとFPGAの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
 さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路(circuitry)である。
 なお、本発明は、内視鏡画像を取得等する内視鏡システム、プロセッサ装置、その他関連する装置等の他に、内視鏡画像以外の医療画像(動画を含む)を取得するシステムまたは装置等においても利用できる。例えば、本発明は、超音波検査装置、X線画像撮影装置(CT(Computed Tomography)検査装置及びマンモグラフィ装置等を含む)、MRI(magnetic resonance imaging)装置、等に適用できる。
 10 内視鏡画像閲覧支援システム
 12、24 ネットワーク
 14 内視鏡システム
 15 内視鏡
 16 光源装置
 17 プロセッサ装置
 18 ディスプレイ
 19 キーボード
 20 内視鏡画像閲覧支援サーバ
 20D ディスプレイ
 21 クライアント端末
 22 サーバ群
 26 画像サーバ
 28 レポートサーバ
 30 画像データベース
 32 レポートデータベース
 34 検査レポート
 34A レポート本体
 40 CPU
 42 メモリ
 44 ストレージデバイス
 46 通信I/F
 48 入出力部
 50 データバス
 52 ディスプレイ
 54 入力デバイス
 56 アプリケーションプログラム
 58 起動画面
 58A ID入力欄
 58B 決定ボタン
 60 GUI制御部
 62 要求発行部
 70 受付部
 71 画像取得部
 72 画像情報付与部
 73 第1画像情報指定部
 74 表示制御部
 75 保存制御部
 81 第1画像情報付与部
 82 第2画像情報付与部
 83 第1画像情報リスト
 84 第2画像情報リスト
 91 表示態様設定部
 92 画面データ生成部
 93 出力制御部
 94 表示枚数設定部
 95 表示設定保存部
 96 表示設定
 100 内視鏡画像
 100S キー画像
 101 付帯情報
 101A 照明光情報
 102 撮影情報
 103 レポート表示画面
 104 所見
 105 表示画像設定画面
 105a 選択領域
 105b 非選択領域
 105c、106f第1画像情報ブロック
 105d 優先画像指定領域
 105e 入力ボックス
 105f 表示枚数設定領域
 105h、106h シェーマ表示
 106 キー画像自動選択画面
 106a 選択カテゴリ表示領域
 106b 選択画像表示領域
 106c 選択画像
 106d 非選択画像
 106e スクロールバー
 106g ポップアップボタン
 106i 第1画像情報一覧
 108 ポインタ
 S11~S15 ステップ

Claims (15)

  1.  プロセッサを含み、
     前記プロセッサは、
     被写体像を含む医療画像を複数取得し、
     前記医療画像を解析することにより、予め設定した複数の第1画像情報のうち少なくとも1つを前記医療画像に付与し、
     複数の前記第1画像情報のうち少なくとも1つの指定を行い、
     複数の前記医療画像のうち、前記指定の前記第1画像情報が付与された前記医療画像である選択画像を、画像表示画面の第1表示領域に選択画像用表示態様で表示する制御を行い、かつ、前記指定の前記第1画像情報のそれぞれを、前記画像表示画面の第2表示領域に表示する制御を行う医療画像処理装置。
  2.  前記プロセッサは、前記医療画像を解析することにより、予め設定した複数の第2画像情報のうち少なくとも1つを前記医療画像に付与し、
     前記選択画像用表示態様を、前記第2画像情報に基づいて設定する請求項1に記載の医療画像処理装置。
  3.  予め設定した複数の前記第2画像情報のそれぞれは、複数のカテゴリの少なくとも1つに関連づけた上で設定されている請求項2に記載の医療画像処理装置。
  4.  予め設定した複数の前記第1画像情報のそれぞれは、複数のカテゴリの少なくとも1つに関連づけた上で設定されており、
     前記プロセッサは、前記カテゴリ毎に、前記指定を行う請求項1に記載の医療画像処理装置。
  5.  前記カテゴリは、前記被写体像が含む部位に関する情報、前記医療画像の撮影条件に関する情報、前記被写体像が含む病変に関する情報、前記被写体像が含む注目領域に関する情報、及び前記被写体像が含む処置具に関する情報のうち少なくとも1つである請求項3又は4に記載の医療画像処理装置。
  6.  前記プロセッサは、複数の前記第1画像情報を前記画像表示画面の第3表示領域に前記カテゴリ毎に表示する制御を行い、
     前記第3表示領域に表示した複数の前記第1画像情報に対するユーザの選択に基づいて、前記指定を行う請求項4又は5に記載の医療画像処理装置。
  7.  前記プロセッサは、前記第1表示領域に表示する前記選択画像の最大枚数を設定し、
     設定した前記最大枚数以下の枚数の前記選択画像を前記第1表示領域に表示する制御を行う請求項1ないし6のいずれか1項に記載の医療画像処理装置。
  8.  前記プロセッサは、前記第1画像情報を備える前記医療画像と、前記第1画像情報とを、予め対応づけた第1対応情報に基づいて、前記解析を行う請求項1ないし7のいずれか1項に記載の医療画像処理装置。
  9.  前記プロセッサは、前記第2画像情報を備える前記医療画像と、前記第2画像情報とを、予め対応づけた第2対応情報に基づいて、前記解析を行う請求項5ないし8のいずれか1項に記載の医療画像処理装置。
  10.  前記プロセッサが行った指定を表示設定として保存し、
     前記表示設定に基づき、前記選択画像を前記画像表示画面に表示する請求項1ないし9のいずれか1項に記載の医療画像処理装置。
  11.  前記表示設定は、前記ユーザ毎に保存する請求項10に記載の医療画像処理装置。
  12.  前記表示設定は、複数の前記ユーザを含むユーザグループ毎に保存する請求項11に記載の医療画像処理装置。
  13.  前記表示設定は、前記撮影の目的毎に保存する請求項10に記載の医療画像処理装置。
  14.  撮影した複数の医療画像を取得する画像取得ステップと、
     前記医療画像を解析することにより、予め設定した複数の第1画像情報のうち少なくとも1つを前記医療画像に付与する画像情報付与ステップと、
     複数の前記第1画像情報のうち少なくとも1つの指定を行う第1画像情報指定ステップと、
     複数の前記医療画像のうち、前記指定の前記第1画像情報が付与された前記医療画像である選択画像を、画像表示画面の第1表示領域に選択画像用表示態様で表示する制御を行い、かつ、前記指定の前記第1画像情報のそれぞれを、前記画像表示画面の第2表示領域に表示する制御を行う表示制御ステップとを備える医療画像処理装置の作動方法。
  15.  医療画像処理装置にインストールされる医療画像処理装置用プログラムであって、
     コンピュータに、
     撮影した複数の医療画像を取得する画像取得機能と、
     前記医療画像を解析することにより、予め設定した複数の第1画像情報のうち少なくとも1つを前記医療画像に付与する画像情報付与機能と、
     複数の前記第1画像情報のうち少なくとも1つの指定を行う第1画像情報指定機能と、
     複数の前記医療画像のうち、前記指定の前記第1画像情報が付与された前記医療画像である選択画像を、画像表示画面の第1表示領域に選択画像用表示態様で表示する制御を行い、かつ、前記指定の前記第1画像情報のそれぞれを、前記画像表示画面の第2表示領域に表示する制御を行う表示制御機能とを実現させるための医療画像処理装置用プログラム。
PCT/JP2021/033822 2020-10-19 2021-09-15 医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理装置用プログラム WO2022085342A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2022557289A JPWO2022085342A1 (ja) 2020-10-19 2021-09-15
EP21882483.7A EP4230111A4 (en) 2020-10-19 2021-09-15 MEDICAL IMAGE PROCESSING DEVICE, OPERATING METHOD FOR MEDICAL IMAGE PROCESSING DEVICE AND PROGRAM FOR MEDICAL IMAGE PROCESSING DEVICE
CN202180071260.6A CN116367765A (zh) 2020-10-19 2021-09-15 医疗图像处理装置、医疗图像处理装置的工作方法及医疗图像处理装置用程序
US18/302,579 US11983872B2 (en) 2020-10-19 2023-04-18 Medical image processing device, operation method of medical image processing device, and non-transitory computer readable medium

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020175640 2020-10-19
JP2020-175640 2020-10-19

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/302,579 Continuation US11983872B2 (en) 2020-10-19 2023-04-18 Medical image processing device, operation method of medical image processing device, and non-transitory computer readable medium

Publications (1)

Publication Number Publication Date
WO2022085342A1 true WO2022085342A1 (ja) 2022-04-28

Family

ID=81291196

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/033822 WO2022085342A1 (ja) 2020-10-19 2021-09-15 医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理装置用プログラム

Country Status (5)

Country Link
US (1) US11983872B2 (ja)
EP (1) EP4230111A4 (ja)
JP (1) JPWO2022085342A1 (ja)
CN (1) CN116367765A (ja)
WO (1) WO2022085342A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000155788A (ja) * 1998-11-18 2000-06-06 Olympus Optical Co Ltd 医療用画像再生装置
JP2009086765A (ja) 2007-09-27 2009-04-23 Fujifilm Corp 医用レポートシステム、医用レポート作成装置、及び医用レポート作成方法
JP2015211862A (ja) 2015-06-26 2015-11-26 キヤノン株式会社 画像処理装置及び画像処理方法、レポーティングシステム及びレポーティング方法、プログラム並びに記憶媒体
WO2019008942A1 (ja) * 2017-07-03 2019-01-10 富士フイルム株式会社 医療画像処理装置、内視鏡装置、診断支援装置、医療業務支援装置、及び、レポート作成支援装置
JP2020081332A (ja) * 2018-11-22 2020-06-04 富士フイルム株式会社 内視鏡情報管理システム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012132840A1 (ja) * 2011-03-30 2012-10-04 オリンパスメディカルシステムズ株式会社 画像管理装置、方法、及びプログラム、並びにカプセル型内視鏡システム
US10929508B2 (en) * 2015-04-30 2021-02-23 Merge Healthcare Solutions Inc. Database systems and interactive user interfaces for dynamic interaction with, and indications of, digital medical image data
KR102545768B1 (ko) * 2015-11-11 2023-06-21 삼성전자주식회사 메타 데이터를 처리하기 위한 장치 및 방법
JP7015385B2 (ja) * 2018-05-15 2022-02-02 富士フイルム株式会社 内視鏡画像処理装置、内視鏡装置の作動方法、及びプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000155788A (ja) * 1998-11-18 2000-06-06 Olympus Optical Co Ltd 医療用画像再生装置
JP2009086765A (ja) 2007-09-27 2009-04-23 Fujifilm Corp 医用レポートシステム、医用レポート作成装置、及び医用レポート作成方法
JP2015211862A (ja) 2015-06-26 2015-11-26 キヤノン株式会社 画像処理装置及び画像処理方法、レポーティングシステム及びレポーティング方法、プログラム並びに記憶媒体
WO2019008942A1 (ja) * 2017-07-03 2019-01-10 富士フイルム株式会社 医療画像処理装置、内視鏡装置、診断支援装置、医療業務支援装置、及び、レポート作成支援装置
JP2020081332A (ja) * 2018-11-22 2020-06-04 富士フイルム株式会社 内視鏡情報管理システム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP4230111A4

Also Published As

Publication number Publication date
US11983872B2 (en) 2024-05-14
JPWO2022085342A1 (ja) 2022-04-28
US20230274429A1 (en) 2023-08-31
EP4230111A1 (en) 2023-08-23
CN116367765A (zh) 2023-06-30
EP4230111A4 (en) 2024-03-27

Similar Documents

Publication Publication Date Title
US9836865B2 (en) Systems and methods for split screen display of biological specimen and for capturing records thereof
JP6313325B2 (ja) バイオマーカー発現の選択及び表示
US7873526B2 (en) Medical report producing apparatus, medical report referencing apparatus, and method for producing medical report
US7899684B2 (en) Medical report creating apparatus, medical report referencing apparatus, medical report creating method, and medical report creation program recording medium
US20090248441A1 (en) Medical report system, medical report viewer, medical report program, and method of editing and displaying medical report
US8671118B2 (en) Apparatus, method and program for assisting medical report creation and providing medical information
JP4912054B2 (ja) 読影依頼装置、読影依頼装置の作動方法及び読影依頼プログラム
US11093699B2 (en) Medical image processing apparatus, medical image processing method, and medical image processing program
JP2016189813A (ja) 検査画像閲覧支援装置、その作動方法及び作動プログラム
JP2009238038A (ja) 医用レポートシステム、医用レポート閲覧装置、医用レポートプログラム、及び医用レポート閲覧方法
WO2015146521A1 (ja) 類似症例検索装置、類似症例検索方法、及び類似症例検索プログラム
JP7071441B2 (ja) 装置、方法、システム及びプログラム
JP2007012044A (ja) 医用レポート作成装置、医用レポート参照装置及びそのプログラム
JP2017191461A (ja) 医用レポート作成装置及びその制御方法、医用画像閲覧装置及びその制御方法、並びに、プログラム
JP2017062772A (ja) 医療画像化表示システムを使用して情報を記録する方法及び装置
JP2009005906A (ja) 医用画像観察システム、及び医用画像観察装置
JP5631914B2 (ja) データベース検索装置、方法、及び、プログラム
JP6380281B2 (ja) 遠隔読影システム、情報処理装置、サーバ装置、及びその制御方法、並びにプログラム
JP2016021175A (ja) 診療支援装置、診療支援装置の作動方法及びプログラム、並びに診療支援システム
WO2022085342A1 (ja) 医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理装置用プログラム
JPWO2019193983A1 (ja) 医療文書表示制御装置、医療文書表示制御方法、及び医療文書表示制御プログラム
JP5765899B2 (ja) 制御装置および制御方法
JP7392521B2 (ja) 画像表示装置、画像表示プログラム及び画像表示装置の作動方法
JP6465574B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP6725851B2 (ja) 情報処理装置およびその制御方法、情報処理システム、並びにプログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21882483

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022557289

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2021882483

Country of ref document: EP

Effective date: 20230519