WO2021220873A1 - 生成装置、生成方法、生成プログラム及び診断支援システム - Google Patents

生成装置、生成方法、生成プログラム及び診断支援システム Download PDF

Info

Publication number
WO2021220873A1
WO2021220873A1 PCT/JP2021/015946 JP2021015946W WO2021220873A1 WO 2021220873 A1 WO2021220873 A1 WO 2021220873A1 JP 2021015946 W JP2021015946 W JP 2021015946W WO 2021220873 A1 WO2021220873 A1 WO 2021220873A1
Authority
WO
WIPO (PCT)
Prior art keywords
distribution
partial region
display control
partial
image
Prior art date
Application number
PCT/JP2021/015946
Other languages
English (en)
French (fr)
Inventor
潤一郎 榎
健治 山根
Original Assignee
ソニーグループ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーグループ株式会社 filed Critical ソニーグループ株式会社
Priority to US17/996,799 priority Critical patent/US20230186658A1/en
Priority to CN202180030365.7A priority patent/CN115427806A/zh
Publication of WO2021220873A1 publication Critical patent/WO2021220873A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/67ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/22Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images

Definitions

  • the present invention relates to a generator, a generator, a generator, and a diagnostic support system.
  • the object to be observed is a tissue or cell collected from a patient, and corresponds to a piece of meat, saliva, blood, or the like of an organ.
  • the user when the user specifies an area to be analyzed for the pathological image, the specified area is analyzed by a predetermined analysis procedure and the final analysis result is output.
  • the user adjusts the parameters used in the analysis process while referring to the analysis result.
  • the generator of one form according to the present disclosure is a distribution of the partial region based on the feature amount of the partial region set in the image relating to the pathology, and the partial region has a distribution. It is provided with a generation unit that generates distribution information in which the distribution on the feature space specified by the included feature amount is associated with the partial region and visually arranged in the feature space.
  • FIG. 1 is a diagram showing a diagnosis support system 1 according to the first embodiment.
  • the diagnosis support system 1 includes a pathology system 10 and a generation device 100.
  • the pathological system 10 is a system mainly used by pathologists, and is applied to, for example, laboratories and hospitals. As shown in FIG. 1, the pathology system 10 includes a microscope 11, a server 12, a display control device 13, and a display device 14.
  • the microscope 11 is an imaging device that has the function of an optical microscope, images an observation object stored on a glass slide, and acquires a pathological image (an example of a medical image) that is a digital image.
  • the observation object is, for example, a tissue or cell collected from a patient, such as a piece of meat, saliva, or blood of an organ.
  • the server 12 is a device that stores and stores the pathological image captured by the microscope 11 in a storage unit (not shown).
  • the server 12 searches for a pathological image from a storage unit (not shown) and sends the searched pathological image to the display control device 13. Further, when the server 12 receives the request for acquiring the pathological image from the generation device 100, the server 12 searches for the pathological image from the storage unit and sends the searched pathological image to the generation device 100.
  • the display control device 13 sends a viewing request for the pathological image received from the user to the server 12. Then, the display control device 13 controls the display device 14 so as to display the pathological image received from the server 12.
  • the display device 14 has a screen on which, for example, a liquid crystal display, an EL (Electro-Luminescence), a CRT (Cathode Ray Tube), or the like is used.
  • the display device 14 may correspond to 4K or 8K, or may be formed by a plurality of display devices.
  • the display device 14 displays a pathological image controlled to be displayed by the display control device 13. Although details will be described later, the server 12 stores browsing history information regarding the area of the pathological image observed by the pathologist via the display device 14.
  • the generation device 100 sends a pathological image acquisition request to the server 12 and receives the pathological image from the server 12. Information on the feature amount of the pathological image is attached to the pathological image received from the server 12.
  • the generation device 100 associates the information obtained by dividing the pathological image into a plurality of subregions and the distribution of each subregion, which is the distribution on the feature space specified by the feature amount included in the subregion, with the subregion.
  • the distribution information visually arranged in the feature space is generated and displayed. A detailed description of the generator 100 will be described in "3. Generator according to the present embodiment".
  • FIGS. 2 and 3 are diagrams for explaining the imaging process according to the first embodiment.
  • the microscope 11 described below has a low-resolution imaging unit for imaging at a low resolution and a high-resolution imaging unit for imaging at a high resolution.
  • FIG. 2 includes a glass slide G10 in which the observation object A10 is housed in the imaging region R10, which is an imageable region of the microscope 11.
  • the glass slide G10 is placed on, for example, a stage (not shown).
  • the microscope 11 captures the imaging region R10 with the low-resolution imaging unit to generate an overall image, which is a pathological image in which the observation object A10 is entirely imaged.
  • the label information L10 shown in FIG. 2 describes identification information (for example, a character string or a QR code (registered trademark)) for identifying the observation object A10. By associating the identification information described in the label information L10 with the patient, it is possible to identify the patient corresponding to the entire image. In the example of FIG. 2, "# 001" is described as the identification information. In the label information L10, for example, a brief description of the observation object A10 may be described.
  • the microscope 11 identifies the region where the observation object A10 exists from the whole image after generating the whole image, and divides the region where the observation object A10 exists into each predetermined size into high resolution. Images are sequentially taken by the imaging unit. For example, as shown in FIG. 3, the microscope 11 first images the region R11 and generates a high-resolution image I11 which is an image showing a part of the observation target A10. Subsequently, the microscope 11 moves the stage to image the region R12 by the high-resolution imaging unit, and generates a high-resolution image I12 corresponding to the region R12. Similarly, the microscope 11 produces high resolution images I13, I14, ... Corresponding to regions R13, R14, .... Although only the area R18 is shown in FIG. 3, the microscope 11 sequentially moves the stage to image all the divided areas corresponding to the observation object A10 by the high-resolution imaging unit, and corresponds to each divided area. Generate high resolution images.
  • the glass slide G10 may move on the stage.
  • an unphotographed region of the observation object A10 may occur.
  • the microscope 11 captures images with a high-resolution imaging unit so that adjacent divided regions partially overlap, so that even when the glass slide G10 moves, an unphotographed region is generated. Can be prevented.
  • the low-resolution imaging unit and the high-resolution imaging unit described above may have different optical systems or the same optical system.
  • the microscope 11 changes the resolution according to the image pickup target.
  • the imaging region may be changed by moving the optical system (high resolution imaging unit or the like) by the microscope 11.
  • FIG. 3 shows an example in which the microscope 11 takes an image from the central portion of the observation object A10.
  • the microscope 11 may image the observation object A10 in an order different from the imaging order shown in FIG.
  • the microscope 11 may take an image from the outer peripheral portion of the observation object A10.
  • the microscope 11 divides the entire region of the imaging region R10 or the glass slide G10 shown in FIG. 2 and images the image with the high-resolution imaging unit. You may.
  • FIG. 4 is a diagram for explaining a process of generating a partial image (tile image).
  • FIG. 4 shows a high-resolution image I11 corresponding to the region R11 shown in FIG.
  • the server 12 generates a partial image from the high-resolution image.
  • the partial image may be generated by a device other than the server 12 (for example, an information processing device mounted inside the microscope 11).
  • the server 12 generates 100 tile images T11, T12, ... By dividing one high-resolution image I11. For example, when the resolution of the high-resolution image I11 is 256 x 256 [pixel: pixel], the server 12 has 100 tile images T11 having a resolution of 256 ⁇ 256 [pixel: pixel] from the high-resolution image I11. T12, ... Is generated. Similarly, the server 12 generates tile images by dividing other high-resolution images into similar sizes.
  • the regions R111, R112, R113, and R114 are regions that overlap with other adjacent high-resolution images (not shown in FIG. 4).
  • the server 12 performs stitching processing on high-resolution images adjacent to each other by aligning the overlapping areas by a technique such as template matching.
  • the server 12 may generate a tile image by dividing the high-resolution image after the stitching process.
  • the server 12 generates a tile image of an area other than the areas R111, R112, R113 and R114 before the stitching process, and generates a tile image of the area R111, R112, R113 and R114 after the stitching process. May be good.
  • the server 12 generates a tile image which is the minimum unit of the captured image of the observation object A10. Then, the server 12 generates tile images having different hierarchies by sequentially synthesizing the tile images of the smallest unit. Specifically, the server 12 generates one tile image by synthesizing a predetermined number of adjacent tile images. This point will be described with reference to FIGS. 5 and 6. 5 and 6 are diagrams for explaining a pathological image according to the present embodiment.
  • the upper part of FIG. 5 shows a tile image group of the smallest unit generated from each high-resolution image by the server 12.
  • the server 12 generates one tile image T110 by synthesizing four tile images T111, T112, T211 and T212 adjacent to each other among the tile images.
  • the server 12 generates the tile image T110 having a resolution of 256 ⁇ 256.
  • the server 12 generates the tile image T120 by synthesizing the four tile images T113, T114, T213, and T214 adjacent to each other. In this way, the server 12 generates a tile image in which a predetermined number of tile images of the smallest unit are combined.
  • the server 12 generates a tile image obtained by further synthesizing tile images adjacent to each other among the tile images after synthesizing the tile images of the smallest unit.
  • the server 12 generates one tile image T100 by synthesizing four tile images T110, T120, T210, and T220 adjacent to each other.
  • the server 12 when the resolution of the tile images T110, T120, T210, and T220 is 256 ⁇ 256, the server 12 generates the tile image T100 having the resolution of 256 ⁇ 256.
  • the server 12 uses a 4-pixel average, a weighting filter (a process that reflects close pixels more strongly than a distant pixel), and 1/2 thinning out of an image having a resolution of 512 ⁇ 512, which is a composite of four tile images adjacent to each other. By performing processing or the like, a tile image having a resolution of 256 ⁇ 256 is generated.
  • the server 12 By repeating such a compositing process, the server 12 finally generates one tile image having the same resolution as the resolution of the minimum unit tile image. For example, as in the above example, when the resolution of the minimum unit tile image is 256 ⁇ 256, the server 12 repeats the above-mentioned composition process to finally obtain one tile image having a resolution of 256 ⁇ 256. Generate T1.
  • FIG. 6 schematically shows the tile image shown in FIG.
  • the tile image group of the lowest layer is the tile image of the smallest unit generated by the server 12.
  • the tile image group in the second layer from the bottom is a tile image after the tile image group in the lowest layer is combined.
  • the tile image T1 of the uppermost layer indicates that it is one tile image finally generated.
  • the server 12 generates a tile image group having a hierarchy like the pyramid structure shown in FIG. 6 as a pathological image.
  • the area D shown in FIG. 5 shows an example of an area displayed on the display screen of the display device 14 or the like.
  • the resolution that can be displayed by the display device is a tile image for three vertical tiles and a tile image for four horizontal tiles.
  • the level of detail of the observation object A10 displayed on the display device changes depending on the hierarchy to which the tile image to be displayed belongs. For example, when the tile image of the lowest layer is used, a narrow area of the observation object A10 is displayed in detail. Further, the wider the area of the observation object A10 is displayed coarser as the upper tile image is used.
  • the server 12 stores the tile images of each layer as shown in FIG. 6 in a storage unit (not shown). For example, the server 12 stores each tile image together with tile identification information (an example of partial image information) that can uniquely identify each tile image. In this case, when the server 12 receives a request for acquiring a tile image including the tile identification information from another device (for example, the display control device 13), the server 12 transmits the tile image corresponding to the tile identification information to the other device. .. Further, for example, the server 12 may store each tile image together with the layer identification information for identifying each layer and the tile identification information that can be uniquely identified within the same layer.
  • tile identification information an example of partial image information
  • the server 12 when the server 12 receives a request for acquiring a tile image including the hierarchy identification information and the tile identification information from another device, the server 12 corresponds to the tile identification information among the tile images belonging to the hierarchy corresponding to the hierarchy identification information. Send the tile image to be sent to another device.
  • the server 12 may store the tile images of each layer as shown in FIG. 6 in a storage device other than the server 12.
  • the server 12 may store tile images of each layer in a cloud server or the like.
  • the tile image generation process shown in FIGS. 5 and 6 may be executed by a cloud server or the like.
  • the server 12 does not have to store the tile images of all layers.
  • the server 12 may store only the tile image of the lowest layer, may store only the tile image of the lowest layer and the tile image of the uppermost layer, or may store only a predetermined layer (for example, an odd-numbered layer). , Even-numbered layers, etc.) tile images may be stored only.
  • the server 12 requests a tile image of a layer that is not stored from another device, the server 12 dynamically synthesizes the stored tile image to obtain the tile image requested by the other device. Generate an image. In this way, the server 12 can prevent the storage capacity from being overwhelmed by thinning out the tile images to be stored.
  • the server 12 may store tile images of each layer as shown in FIG. 6 for each imaging condition.
  • An example of the imaging condition is a focal length with respect to a subject (observation object A10 or the like).
  • the microscope 11 may take an image of the same subject while changing the focal length.
  • the server 12 may store tile images of each layer as shown in FIG. 6 for each focal length.
  • the reason for changing the focal length is that some observation objects A10 are translucent, so that the focal length is suitable for imaging the surface of the observation object A10 and the inside of the observation object A10 is imaged. This is because there is a suitable focal length.
  • the microscope 11 can generate a pathological image of the surface of the observation object A10 and a pathological image of the inside of the observation object A10 by changing the focal length.
  • the imaging condition there is a staining condition for the observation object A10.
  • a luminescent substance may be stained on a specific portion (for example, the nucleus of a cell) of the observation object A10.
  • the luminescent material is, for example, a substance that emits light when irradiated with light having a specific wavelength.
  • different luminescent substances may be stained on the same observation object A10.
  • the server 12 may store a tile image of each layer as shown in FIG. 6 for each dyed luminescent material.
  • the number and resolution of the tile images mentioned above are examples and can be changed as appropriate depending on the system.
  • the number of tile images synthesized by the server 12 is not limited to four.
  • the resolution of the tile image is 256 ⁇ 256, but the resolution of the tile image may be other than 256 ⁇ 256.
  • the display control device 13 uses software that employs a system that can handle the tile image group having a hierarchical structure described above, and is desired from the tile image group having a hierarchical structure in response to an input operation via the display control device 13 of the user.
  • the tile image is extracted and output to the display device 14.
  • the display device 14 displays an image of an arbitrary portion selected by the user among the images having an arbitrary resolution selected by the user.
  • the display control device 13 functions as a virtual microscope.
  • the virtual observation magnification here actually corresponds to the resolution.
  • FIG. 7 is a diagram showing an example of a viewing mode of a pathological image by a viewer.
  • a viewer such as a pathologist browses the pathological image I10 in the order of regions D1, D2, D3, ..., D7.
  • the display control device 13 first acquires the pathological image corresponding to the area D1 from the server 12 according to the browsing operation by the viewer.
  • the server 12 acquires one or more tile images forming a pathological image corresponding to the area D1 from the storage unit, and transfers the acquired one or more tile images to the display control device 13. Send. Then, the display control device 13 displays the pathological image formed from one or more tile images acquired from the server 12 on the display device 14. For example, when there are a plurality of tile images, the display control device 13 displays the plurality of tile images side by side. Similarly, each time the display control device 13 changes the display area by the viewer, the display control device 13 outputs a pathological image corresponding to the display target area (areas D2, D3, ..., D7, etc.) from the server 12. It is acquired and displayed on the display device 14.
  • the viewer first browses the relatively wide area D1 and moves the browsing area to the area D2 because there is no area to be carefully observed in the area D1. Then, since the viewer has an area in the area D2 that he / she wants to observe carefully, he / she is browsing the area D3 by enlarging a part of the area D2. Then, the viewer further moves to the area D4, which is a part of the area D2. Then, since the viewer has an area in the area D4 that he / she wants to observe more carefully, he / she is viewing the area D5 by enlarging a part of the area D4. In this way, the viewer is also browsing the areas D6 and D7.
  • the pathological image corresponding to the regions D1, D2, and D7 is a 1.25-magnification display image
  • the pathological image corresponding to the regions D3 and D4 is a 20-magnification display image
  • the pathological image corresponding to the regions D5 and D6 is a 40-magnification display image.
  • the display control device 13 acquires and displays the tile images of the hierarchy corresponding to each magnification among the tile images of the hierarchical structure stored in the server 12.
  • the layer of the tile image corresponding to the areas D1 and D2 is higher than the layer of the tile image corresponding to the area D3 (that is, the layer close to the tile image T1 shown in FIG. 6).
  • the display control device 13 acquires the browsing information at a predetermined sampling cycle. Specifically, the display control device 13 acquires the center coordinates and the display magnification of the viewed pathological image at predetermined timings, and stores the acquired viewing information in the storage unit of the server 12.
  • FIG. 8 is a diagram showing an example of the browsing history storage unit 12a included in the server 12.
  • the browsing history storage unit 12a stores information such as “sampling”, “center coordinates”, “magnification”, and “time”.
  • “Sampling” indicates the order of timing for storing browsing information.
  • the "center coordinates” indicate the position information of the viewed pathological image. In this example, the center coordinates are the coordinates indicated by the center position of the viewed pathological image, and correspond to the coordinates of the coordinate system of the tile image group in the lowest layer.
  • “Magnification” indicates the display magnification of the viewed pathological image.
  • “Time” indicates the elapsed time from the start of browsing. In the example of FIG.
  • the sampling period is 30 seconds. That is, the display control device 13 stores the browsing information in the browsing history storage unit 12a every 30 seconds.
  • the present invention is not limited to this example, and the sampling period may be, for example, 0.1 to 10 seconds, or may be outside this range.
  • sampling “1” indicates browsing information of region D1 shown in FIG. 7
  • sampling “2” indicates browsing information of region D2
  • samplings “3” and “4” indicate browsing information of region D3.
  • the sampling "5" indicates the browsing information of the area D4
  • the samplings "6", "7” and “8” indicate the browsing information of the area D5. That is, in the example of FIG. 8, the area D1 is browsed for about 30 seconds, the region D2 is browsed for about 30 seconds, the region D3 is browsed for about 60 seconds, the region D4 is browsed for about 30 seconds, and the region D5 is browsed for about 90 seconds. Indicates that it has been viewed. In this way, the browsing time of each area can be extracted from the browsing history information.
  • the number of times each area has been browsed can be extracted from the browsing history information. For example, it is assumed that the number of times each pixel of the displayed pathological image is displayed increases by one each time the display area is changed (for example, the display area is moved or the display size is changed). For example, in the example shown in FIG. 7, when the area D1 is displayed first, the number of times each pixel included in the area D1 is displayed is one. Next, when the area D2 is displayed, the number of times each pixel included in both the area D1 and the area D2 is displayed is twice, and the number of times each pixel not included in the area D1 but included in the area D2 is displayed is. It will be once.
  • each pixel of the pathological image (each) can be analyzed by analyzing the browsing history information stored in the browsing history storage unit 12a. It is possible to extract the number of times (which can be said to be coordinates) is displayed.
  • the display control device 13 may interrupt the storage process of the browsing information when the viewer does not perform the operation of changing the display position for a predetermined time (for example, 5 minutes). Further, in the above example, an example in which the pathological image browsed by the center coordinates and the magnification is stored as browsing information is shown, but the browsing information is not limited to this example, and the browsing information is information that can identify the area of the browsed pathological image. Any information may be used as long as it is.
  • the display control device 13 stores the tile identification information for identifying the tile image corresponding to the browsed pathological image and the information indicating the position of the tile image corresponding to the browsed pathological image as the browsing information of the pathological image. You may. Further, although not shown in FIG.
  • the browsing history storage unit 12a stores the browsing information so as to be associated with the patient, the medical record, and the like.
  • FIGS. 9A to 9C are diagrams showing a diagnostic information storage unit included in the pathological system 10.
  • 9A to 9C show an example in which diagnostic information is stored in a different table for each organ to be inspected.
  • FIG. 9A shows an example of a table for storing diagnostic information about a breast cancer test
  • FIG. 9B shows an example of a table for storing diagnostic information for a lung cancer test
  • FIG. 9C shows an example of a table for storing diagnostic information for a colon test. An example table is shown.
  • the diagnostic information storage unit 30A shown in FIG. 9A includes "patient ID”, "pathological image”, “diagnosis result”, “grade”, “tissue type”, “genetic test”, “ultrasonography”, and “medication”. Memorize information.
  • "Patient ID” indicates identification information for identifying a patient.
  • a “pathological image” indicates a pathological image saved by a pathologist at the time of diagnosis. In the “pathological image”, position information (center coordinates, magnification, etc.) indicating an image area to be saved with respect to the entire image may be stored instead of the image itself.
  • the "diagnosis result” is a diagnosis result by a pathologist, and indicates, for example, the presence or absence of a lesion site and the type of the lesion site.
  • “Grade” indicates the degree of progression of the diseased area. "Histological type” indicates the type of diseased part. “Genetic test” indicates the result of the genetic test. “Ultrasonography” indicates the result of an ultrasonic examination. Dosing provides information about dosing to the patient.
  • the diagnostic information storage unit 30B shown in FIG. 9B stores information related to the "CT examination” performed in the lung cancer examination instead of the "ultrasonic examination” stored in the diagnostic information storage unit 30A shown in FIG. 9A.
  • the diagnostic information storage unit 30C shown in FIG. 9C stores information related to the "endoscopy” performed in the large intestine examination instead of the "ultrasound examination” stored in the diagnostic information storage unit 30A shown in FIG. 9A. ..
  • FIG. 10 is a diagram for explaining the processing of the generator 100 according to the present embodiment.
  • the pathological image Ima1 will be used for explanation. It is assumed that the pathological image Ima1 includes the cell region (observed object) A11.
  • the generation device 100 sets a plurality of partial regions by dividing the pathological image Ima1 by a grid or super pixels. In the following description, when the partial area of the nth row and the mth column is appropriately indicated, it is expressed as a partial area p (n, m).
  • the plurality of subregions are candidates for the region "ROI (Region Of Interest)" to be analyzed.
  • the generation device 100 generates, for example, the characteristic distribution information Dis1 indicating the feature space fs1 composed of two axes (or one axis).
  • the horizontal axis of the feature space fs1 is the axis corresponding to the first feature amount among the plurality of types of feature amounts.
  • the vertical axis of the feature space fs1 is the axis corresponding to the second feature amount among the plurality of types of feature amounts. It is assumed that the first feature amount and the second feature amount are set in advance.
  • the generation device 100 executes the following processing on a plurality of partial regions included in the pathological image Ima1.
  • the generation device 100 calculates the feature amount (first feature amount, second feature amount) included in the partial region, and determines the distribution (range of distribution) on the feature space fs1 specified by the calculated feature amount. Place it visually.
  • the feature amount of the partial region is information having a wide distribution such as the maximum value and the minimum value.
  • the distribution dis (2, 8) is distributed in the feature space fs1.
  • the distribution dis (2,8) is associated with the subregion p (2,8).
  • the generation device 100 repeatedly executes the above processing for the other subregions to generate the characteristic distribution information Dis1.
  • the distribution of the partial region p (n, m) which is visually arranged on the feature space fs1, is simply referred to as dis (n, m).
  • the generation device 100 displays the pathological image Ima1 divided into a plurality of partial regions and the characteristic distribution information Dis1 on the display screen.
  • the generation device 100 receives the selection of the partial area from the user who refers to the display screen, the generation device 100 notifies the distribution corresponding to the selected partial area. For example, when the generation device 100 accepts the selection of the partial region p (6, 5) by the user, the generation device 100 highlights the distribution dis (6, 5) of the partial region p (6, 5).
  • the generation device 100 accepts the selection of the partial area, the user can grasp the characteristic distribution of the selected partial area by visually notifying the distribution of the selected partial area. .. Therefore, according to the generation device 100, it is possible to support the selection of partial regions having variations in characteristics. That is, after understanding the spread of the characteristic distribution of each subregion, the user can select the subregion having the target characteristic from the plurality of subregions as the subregion (ROI) to be analyzed. ..
  • the generation device 100 displays the pathological image Ima1 and the characteristic distribution information Dis1 separately has been described, but the pathological image Ima1 and the characteristic distribution information Dis1 are arranged side by side on the same screen. It may be displayed.
  • FIG. 11 is a functional block diagram showing the configuration of the generator according to the present embodiment.
  • the generation device 100 includes a communication unit 110, an input unit 120, a display unit 130, a storage unit 140, and a control unit 150.
  • the communication unit 110 is realized by, for example, a NIC (Network Interface Card) or the like.
  • the communication unit 110 is connected to a network (not shown) by wire or wirelessly, and transmits / receives information to / from the pathology system 10 or the like via the network.
  • the control unit 150 which will be described later, transmits / receives information to / from these devices via the communication unit 110.
  • the input unit 120 is an input device that inputs various information to the generation device 100.
  • the input unit 120 corresponds to a keyboard, a mouse, a touch panel, and the like.
  • the user operates the input unit 120 to select a partial region or the like on the pathological image.
  • the display unit 130 is a display device that displays information output from the control unit 150.
  • the display unit 130 corresponds to a liquid crystal display, an organic EL (Electro Luminescence) display, a touch panel, and the like.
  • the display unit 130 displays the pathological image described with reference to FIG. 10, characteristic distribution information, and the like.
  • the storage unit 140 has a pathological image DB (Data Base) 141, a partial region table 142, and a characteristic distribution table 143.
  • the storage unit 140 is realized by, for example, a semiconductor memory element such as a RAM (Random Access Memory) or a flash memory (Flash Memory), or a storage device such as a hard disk or an optical disk.
  • the pathological image DB 141 is a database that stores a plurality of pathological images.
  • FIG. 12 is a diagram showing an example of the data structure of the pathological image DB 141.
  • the pathological image DB 141 has a "patient ID”, a "pathological image ID”, a "pathological image”, and a "feature amount”.
  • the patient ID is information that uniquely identifies the patient.
  • the pathological image ID is information that uniquely identifies the pathological image.
  • the pathological image shows a pathological image (image data) saved by the pathologist at the time of diagnosis.
  • the pathological image is transmitted from the server 12.
  • the pathological image corresponds to WSI (Whole Slide Image) or the like.
  • the feature amount is a feature amount obtained from the entire corresponding pathological image.
  • the feature amount includes information on the extraction result of each cell present in the pathological image, an image element, and the distance between each cell and a specific tumor region.
  • the extraction result of each cell includes "size, shape, staining intensity regarding cell nucleus", “size, shape, staining intensity, cell density regarding cell membrane” and the like.
  • Image elements include CNN (Convolution Neural Network) features, colors, luminance values, frequency characteristics, and the like.
  • the pathological image DB 141 includes the "diagnosis result”, “grade”, “tissue type”, “genetic test”, and “ultrasonography” described in FIGS. 9A-9C. , "Medication” may be retained. Further, the feature amount may be calculated by the calculation unit 152, which will be described later, based on the pathological image, or may be acquired from the server 12.
  • the partial area table 142 is a table that holds information about a plurality of partial areas when the pathological image is divided.
  • FIG. 13 is a diagram showing an example of the data structure of the partial area table 142. As shown in FIG. 13, this partial region table 142 has a "pathological image ID”, a "partial region ID”, “coordinates”, a "ROI flag", and "feature amount distribution information”.
  • the pathological image ID is information that uniquely identifies the pathological image.
  • a plurality of partial regions are set for each pathological image.
  • the partial region ID is information that identifies each partial region in the pathological image.
  • the coordinates indicate the coordinates of the partial area. For example, the coordinates of a subregion are specified by the coordinates of the upper left corner and the coordinates of the lower right corner of the subregion.
  • the ROI flag indicates whether or not the corresponding sub-region (sub-region specified by the sub-region ID) is registered as ROI. For example, when registered as an ROI, the ROI flag corresponding to the partial area ID is "on”. If it is not registered as an ROI, the ROI flag corresponding to the partial area ID is "off".
  • the partial area of the partial area ID "p (n, m)" is simply referred to as the partial area p (n, m).
  • the feature amount distribution information is the feature amount distribution information in one corresponding subregion.
  • the feature amount distribution information includes information that determines a representative point and information that determines the spread of the distribution.
  • the information for determining the representative points includes the average value, the median value, the mode value, and the like of the feature amount.
  • Information that determines the spread of the distribution includes histograms, variances, standard deviations, maximum and minimum values, quartiles, and the like.
  • the characteristic distribution table 143 is a table that holds information on the distribution of subregions in the feature space.
  • FIG. 14 is a diagram showing an example of the data structure of the characteristic distribution table. As shown in FIG. 14, the characteristic distribution table 143 associates the pathological image ID, the partial region ID, and the range of distribution.
  • the pathological image ID is information that uniquely identifies the pathological image.
  • the partial region ID is information that identifies the partial region in the pathological image.
  • the distribution range is information indicating the distribution range of the subregion in the feature space.
  • the feature space becomes a different feature space depending on the type of feature amount assigned to the axis of the feature space.
  • the distribution of the subregions is set for each different feature space.
  • the distribution range of the partial region corresponding to the feature spaces fs1, fs2, fs3 and the like is set.
  • the feature space fs1 is a feature space centered on a first feature amount and a second feature amount.
  • the feature space fs2 is a feature space centered on a second feature amount and a fourth feature amount.
  • the feature space fs3 is a feature space (histogram) centered on the fifth feature amount.
  • FIG. 14 shows the range of distribution of the feature spaces fs1 to fs3, the feature distribution table 143 may have a range of distribution of the feature space centered on other types of feature quantities.
  • the control unit 150 includes an acquisition unit 151, a calculation unit 152, a generation unit 153, a display control unit 154, and an analysis unit 155.
  • a program (an example of an analysis program) stored inside the generator 100 is executed by a CPU (Central Processing Unit) or an MPU (Micro Processing Unit) using a RAM (random Access Memory) or the like as a work area. It is realized by being done. Further, the control unit 150 may be executed by an integrated circuit such as an ASIC (Application specific Integrated Circuit) or an FPGA (Field Programmable gate Array).
  • ASIC Application specific Integrated Circuit
  • FPGA Field Programmable gate Array
  • the acquisition unit 151 is a processing unit that sends a pathological image acquisition request to the server 12 and acquires the pathological image from the server 12.
  • the acquisition unit 151 registers the acquired pathological image in the pathological image DB 141. It is assumed that the pathological image ID and the patient ID are given to the pathological image.
  • the acquisition unit 151 registers the feature amount of the pathological image in the pathological image DB 141. Further, even if the pathological image is attached with information such as "diagnosis result”, “grade”, “histological type”, “genetic test”, “ultrasonography”, and “medication” described in FIGS. 9A-9C. good.
  • the calculation unit 152 is a processing unit that divides the pathological image into a plurality of partial regions and calculates the feature amount distribution information of each partial region.
  • the calculation unit 152 acquires the pathological image from the pathological image DB 141, and divides the pathological image into a plurality of partial regions by a preset grid, super pixels, or the like.
  • the calculation unit 152 assigns a partial area ID to each partial area, associates the pathological image ID, the partial area ID, and the coordinates, and registers the partial area ID in the partial area table 142.
  • the calculation unit 152 sets the ROI flag corresponding to the partial area ID to the initial value "off".
  • the calculation unit 152 acquires the feature amount corresponding to the partial region p (n, m) from the feature amount of the pathological image registered in the pathological image DB 141.
  • the feature amounts corresponding to the partial regions p (n, m) include cell feature amounts (nucleus size, shape, staining intensity), cell membrane size, cell membrane staining intensity, and cell density.
  • the feature amounts corresponding to the partial region p (n, m) include the cells (or the partial region p (n, m)) contained in the partial region p (n, m) and a specific region (separately given). Includes distance information from the tumor area).
  • the feature amount corresponding to the partial region p (n, m) includes an image feature amount (CNN feature amount, color information, frequency characteristic, etc.).
  • the calculation unit 152 calculates the feature amount distribution information based on the feature amount corresponding to the partial region p (n, m). For example, the calculation unit 152 calculates information for determining representative points and information for determining the spread of distribution for each type of feature amount.
  • the information for determining the representative points includes the average value, the median value, the mode value, and the like of the feature amount.
  • Information that determines the spread of the distribution includes histograms, variances, standard deviations, maximum and minimum values, quartiles, and the like.
  • the calculation unit 152 registers the feature amount distribution information of the partial region p (n, m) in the partial region table 142.
  • the calculation unit 152 generates the partial area table 142 by repeatedly executing the above processing for each partial area included in the pathological image. Further, the calculation unit 152 may repeatedly execute the above processing for a plurality of pathological images registered in the pathological image DB 141.
  • the generation unit 153 is a processing unit that generates the characteristic distribution table 143 based on the partial area table 142. Hereinafter, an example of the processing of the generation unit 153 will be described.
  • the generation unit 153 acquires the feature quantity distribution information corresponding to the partial region p (n, m) from the partial region table 142.
  • the generation unit 153 acquires the information of the preset feature space.
  • the feature space fs1 will be used for explanation.
  • the feature space fs1 is a feature space having a first feature amount and a second feature amount as two axes.
  • the generation unit 153 uses the feature amount distribution information corresponding to the partial region p (n, m) to obtain "information for determining the spread of the distribution" corresponding to the first feature amount and “distribution” corresponding to the second feature amount. "Information that determines the spread of" is acquired. Based on the acquired information, the generation unit specifies the range of distribution of the partial region p (n, m) on the feature space fs1 and registers it in the characteristic distribution table 143. The generation unit 153 specifies the range of distribution in other feature spaces for the partial region p (n, m) and registers it in the characteristic distribution table 143.
  • the generation unit 153 generates the characteristic distribution table 143 by repeatedly executing the above processing for each partial region included in the pathological image. Further, the generation unit 153 may repeatedly execute the above processing for each partial region of the plurality of pathological images.
  • the display control unit 154 generates screen information including the pathological image and the characteristic distribution information based on the pathological image DB 141, the partial area table 142, and the characteristic distribution table 143, and displays the screen information on the display unit 130. It is a department. Hereinafter, various processes executed by the display control unit 154 will be described.
  • the process (1) executed by the display control unit 154 will be described.
  • the process (1) executed by the display control unit 154 will be described with reference to FIG.
  • the display control unit 154 causes the display unit 130 to display the pathological image Ima1 divided into a plurality of partial regions.
  • the display control unit 154 sets a plurality of partial regions for the pathological image Ima1 based on the partial region table 142.
  • the user refers to the pathological image Ima1 and operates the input unit 120 to select one of the partial regions.
  • the display control unit 154 When the display control unit 154 receives the selection of any of the plurality of partial regions of the pathological image Ima1, the display control unit 154 displays the characteristic distribution information Dis1 on the display unit 130. For example, the display control unit 154 specifies the distribution range of each subregion corresponding to the feature space fs1 based on the characteristic distribution table 143, and visually arranges the distribution of each subregion in the feature space fs1. As a result, the characteristic distribution information Dis1 is generated. The display control unit 154 highlights the distribution corresponding to the partial region selected by the user among the plurality of distributions arranged in the characteristic distribution information Dis1.
  • the display control unit 154 highlights the distribution dis (6, 5) of the partial area p (6, 5).
  • the display control unit 154 may enlarge and display the selected partial region p (6, 5).
  • the display control unit 154 When the display control unit 154 receives a registration request for the selected partial area from the user, the display control unit 154 refers to the partial area table 142 and sets the ROI flag corresponding to the partial area for which the registration request is received to "on".
  • FIG. 15 is a diagram for explaining the process (2) executed by the display control unit 154.
  • the display control unit 154 generates the characteristic distribution information Dis1 based on the characteristic distribution table 143, and causes the display unit 130 to display the characteristic distribution information Dis1.
  • the user refers to the characteristic distribution information Dis1 and operates the input unit 120 to select one of the distributions.
  • the display control unit 154 When the display control unit 154 accepts the selection of the distribution of the characteristic distribution information Dis1, the pathological image Ima1-1 is displayed on the display unit 130. The display control unit 154 highlights the partial region corresponding to the distribution selected by the user among the plurality of partial regions of the pathological image Ima1-1.
  • the display control unit 154 highlights the partial region p (6, 4) of the pathological image Ima1-1 when the distribution dis (6, 4) of the characteristic distribution information Dis1 is selected by the user.
  • the display control unit 154 may display an enlarged image Ima 1-2 of the partial area p (6, 4).
  • the display control unit 154 When the display control unit 154 receives a registration request for the partial area p (6, 4) from the user, the display control unit 154 refers to the partial area table 142 and ROI corresponding to the partial area p (6, 4) for which the registration request is received. Set the flag to "on".
  • FIG. 16 is a diagram for explaining the process (3) executed by the display control unit 154.
  • the display control unit 154 generates the characteristic distribution information Dis1 based on the characteristic distribution table 143, and causes the display unit 130 to display the characteristic distribution information Dis1.
  • the user refers to the characteristic distribution information Dis1 and operates the input unit 120 to select one of the distributions (plurality of distributions).
  • the user may specify a range on the characteristic distribution information Dis1 and select a plurality of distributions.
  • the display control unit 154 When the display control unit 154 accepts the selection of the distribution of the characteristic distribution information Dis1, the pathological image Ima1-3 is displayed on the display unit 130. The display control unit 154 highlights the partial region corresponding to the distribution selected by the user among the plurality of partial regions of the pathological image Ima1-3.
  • the range run1 is specified by the user, and the distribution of the characteristic distribution information Dis1 is dis (4, 3), dis (4, 8), dis (3, 12), dis (6, 4). , Dis (6, 6) is selected.
  • the display control unit 154 uses the partial regions p (4, 3), p (4, 8), p (3, 12), p (6, 4), p (6,) of the pathological image Ima1-3. 6) is highlighted.
  • the display control unit 154 displays an enlarged image Ima1-4 of the partial areas p (4, 3), p (4, 8), p (3, 12), p (6, 4), and p (6, 6). It may be displayed.
  • the display control unit 154 receives a registration request for the partial areas p (4, 3), p (4, 8), p (3, 12), p (6, 4), p (6, 6) from the user. If this is the case, the ROI flag corresponding to the partial area for which the registration request has been received is set to "on" with reference to the partial area table 142.
  • the display control unit 154 has specified the number of partial regions to be registered as ROI, and when the number of distributions of the partial regions included in the range run1 exceeds the designated number, it has been designated.
  • the distribution of the partial region of the range run1 may be randomly selected so as to be the number. Further, the display control unit 154 may select a designated number so that the distribution of the partial regions varies. By providing such a function, it is possible to present a partial region having a high degree of atypia such as a large area and being close to the tumor margin.
  • FIG. 17 is a diagram for explaining the process (4) executed by the display control unit 154.
  • the display control unit 154 causes the display unit 130 to display the pathological image Ima1-5 divided into a plurality of partial regions.
  • the user refers to the pathological image Ima1-5 and operates the input unit 120 to select one of the partial regions.
  • the display control unit 154 When the display control unit 154 accepts the selection of any of the plurality of partial regions of the pathological image Ima1-5, the display control unit 154 causes the display unit 130 to display the characteristic distribution information Dis1. The display control unit 154 highlights the distribution corresponding to the partial region selected by the user among the plurality of distributions arranged in the characteristic distribution information Dis1.
  • the display control unit 154 highlights the distribution dis (6, 6) of the partial area p (6, 6).
  • the display control unit 154 receives a registration request for the partial area p (6, 6) from the user, the display control unit 154 sets the ROI flag corresponding to the partial area p (6, 6) of the partial area table 142 to “on”. ..
  • the display control unit 154 When the display control unit 154 receives a display request for the pathological image Ima1-5 from the user who operates the input unit 120, the display control unit 154 displays the pathological image Ima1-5 on the display unit 130. The display control unit 154 highlights the partial area p (6, 6) for which the ROI flag is “on” with reference to the partial area table 142.
  • the display control unit 154 When the display control unit 154 accepts the selection of any of the plurality of partial regions of the pathological image Ima1-5, the display control unit 154 causes the display unit 130 to display the characteristic distribution information Dis1. The display control unit 154 highlights the distribution corresponding to the partial region selected by the user among the plurality of distributions arranged in the characteristic distribution information Dis1. Further, the display control unit 154 highlights the distribution corresponding to the partial region in which the ROI flag is “on”.
  • the display control unit 154 highlights the distribution dis (3, 10) of the partial area p (3, 10). Further, the display control unit 154 highlights the distribution dis (6, 6) corresponding to the partial region p (6, 6) in which the ROI flag is “on”.
  • the display control unit 154 may display the image Ima1-6 in which the partial regions p (6, 6) and p (3, 10) are enlarged.
  • FIG. 18 is a diagram for explaining the process (5) executed by the display control unit 154.
  • the display control unit 154 causes the display unit 130 to display the pathological image Ima1-7 divided into a plurality of partial regions.
  • the user refers to the pathological image Ima1-7 and operates the input unit 120 to select one of the partial regions.
  • the display control unit 154 When the display control unit 154 accepts the selection of any of the plurality of partial regions of the pathological image Ima1-7, the display control unit 154 causes the display unit 130 to display the characteristic distribution information Dis3.
  • the characteristic distribution information Dis3 indicates the feature space fs3.
  • the horizontal axis of the feature space fs3 is the axis corresponding to the fifth feature amount among the plurality of types of feature amounts.
  • the vertical axis of the feature space fs3 is the axis corresponding to the frequency.
  • the feature space fs3 corresponds to the histogram.
  • the display control unit 154 highlights the distribution corresponding to the partial region selected by the user among the plurality of distributions arranged in the characteristic distribution information Dis3. For example, when the display control unit 154 accepts the selection of the partial area p (6, 6) by the user, the display control unit 154 highlights the distribution dis (6, 6) of the partial area p (6, 6). When the display control unit 154 receives a registration request for the partial area p (6, 6) from the user, the display control unit 154 sets the ROI flag corresponding to the partial area p (6, 6) of the partial area table 142 to “on”. ..
  • FIG. 19 is a diagram for explaining the process (6) executed by the display control unit 154.
  • the display control unit 154 causes the display unit 130 to display the pathological image Ima1-8 divided into a plurality of partial regions.
  • the user refers to the pathological image Ima1-8 and operates the input unit 120 to select one of the partial regions.
  • the display control unit 154 When the display control unit 154 accepts the selection of any of the plurality of partial regions of the pathological image Ima1-8, the display control unit 154 displays the characteristic distribution information Dis1-1 on the display unit 130. The display control unit 154 highlights the distribution corresponding to the partial region selected by the user among the plurality of distributions arranged in the characteristic distribution information Dis1-1.
  • the display control unit 154 highlights the distribution dis (6, 4) of the partial area p (6, 4).
  • the display control unit 154 receives a registration request for the partial area p (6, 4) from the user, the display control unit 154 sets the ROI flag corresponding to the partial area p (6, 4) of the partial area table 142 to “on”. ..
  • the display control unit 154 displays the characteristic distribution information Dis1-1 on the display unit 130, the display control unit 154 displays a distribution other than the distribution of the selected partial region as a representative point.
  • the representative points correspond to the average value and the median value.
  • the display control unit 154 displays the distribution of the partial region p (6, 4) other than the distribution dis (6, 4) at the representative points.
  • FIG. 20 is a diagram for explaining the process (7) executed by the display control unit 154.
  • the display control unit 154 causes the display unit 130 to display the pathological image Ima1-9 divided into a plurality of partial regions.
  • the user refers to the pathological image Ima1-9 and operates the input unit 120 to select one of the partial regions.
  • the display control unit 154 When the display control unit 154 accepts the selection of any of the plurality of subregions of the pathological image Ima1-9, the display unit 130 displays the characteristic distribution information Dis1-1 of the feature space fs1. The display control unit 154 highlights the distribution corresponding to the partial region selected by the user among the plurality of distributions arranged in the characteristic distribution information Dis1-1.
  • the display control unit 154 accepts the selection of the partial region p (6, 4) by the user, the distribution dis (6, 4) of the partial region p (6, 4) is displayed in the characteristic distribution information Dis1-1. To highlight.
  • the display control unit 154 displays the characteristic distribution information indicating the changed feature space. For example, the display control unit 154 displays the characteristic distribution information Dis1-2 when the feature space fs2 is selected by the user. The display control unit 154 highlights the distribution dis (6, 4) of the partial region p (6, 4) in the characteristic distribution information Dis1-2.
  • the display control unit 154 When the display control unit 154 receives a registration request for the partial area p (6, 4) from the user, the display control unit 154 sets the ROI flag corresponding to the partial area p (6, 4) of the partial area table 142 to “on”. ..
  • FIG. 21 is a diagram for explaining the process (8) executed by the display control unit 154.
  • the display control unit 154 When the feature space fs1 is specified by the user, the display control unit 154 generates the characteristic distribution information Dis1-3 based on the characteristic distribution table 143, and displays the characteristic distribution information Dis1-3 on the display unit 130. Let me.
  • the display control unit 154 generates the characteristic distribution information Dis1-4 based on the characteristic distribution table 143, and displays the characteristic distribution information Dis1-4. Display on 130.
  • the range run2 is specified by the user, and the distributions of the characteristic distribution information Dis1-4 are dis (2, 1), dis (6, 4), dis (7, 4), and dis (1, 3), dis (9, 8), dis (10, 11), dis (8, 8), dis (4, 6), and then the feature space fs1 is specified after the feature space fs1 is selected, the characteristic distribution information Dis1- 5 is displayed on the display unit 130.
  • the display control unit 154 displays the distribution of the feature space fs2, which is the distribution corresponding to the distribution of the feature space fs1 selected in the characteristic distribution information Dis1-4 in the characteristic distribution information Dis1-5.
  • the distributions of the characteristic distribution information 1-5 dis (2, 1), dis (6, 4), dis (7, 4), dis (1, 3), dis (9, 8), Dis (10, 11), dis (8, 8), dis (4, 6) are displayed, and other distributions are not displayed. That is, when an effective region is specified in a certain feature space fs1, the distribution corresponding to the effective region is displayed in the feature space fs2.
  • FIG. 22 is a diagram for explaining the process (9) executed by the display control unit 154.
  • the display control unit 154 When the feature spaces fs2 and fs3 are specified by the user, the display control unit 154 generates the characteristic distribution information Dis1-6 based on the characteristic distribution table 143 and displays it on the display unit 130. For example, the distribution of the partial region included in the range run3 of the feature space fs3 corresponds to the distribution of the partial region included in the ranges run3-1 and run3-2 of the feature space fs2.
  • the display control unit 154 When the range of the feature space fs3 is changed from ran3 to ran4 by the user, the display control unit 154 generates the characteristic distribution information Dis1-7 and displays it on the display unit 130. For example, when the distribution of the partial region included in the range run4 of the feature space fs2 is the distribution of the partial region included in the range run3-1 of the feature space fs2, the display control unit 154 sets the display control unit 154 to the range run3-1 of the feature space fs2. Display only the distribution of the subregions included in. That is, when a range is specified in a certain feature space fs3, a distribution effective for that range is displayed in the feature space fs2.
  • the analysis unit 155 refers to the partial area table 142, analyzes the partial area in which the ROI flag is “on” according to a predetermined analysis procedure, and outputs the final analysis result to the display unit 130.
  • the user may adjust the parameters used in the analysis process while referring to the analysis result.
  • FIG. 23 is a flowchart showing a processing procedure of the generation processing apparatus according to the present embodiment.
  • the acquisition unit 151 of the generation device 100 acquires a pathological image to be analyzed (step S101).
  • the acquisition unit 151 acquires the feature amount of the entire pathological image (step S102).
  • the calculation unit 152 of the generation device 100 calculates the feature amount distribution information in units of partial regions (step S103).
  • the generation unit 153 generates the characteristic distribution table 143 by setting the distribution of the subspace in each feature space (step S104).
  • the display control unit 154 of the generation device 100 displays the pathological image divided into a plurality of partial regions and the characteristic distribution information (step S105).
  • the display control unit 154 accepts the selection of the partial area (step S106).
  • the display control unit 154 highlights the distribution of the selected subregion (step S107).
  • step S106 If the display control unit 154 does not accept the registration instruction of the selected partial area (steps S108, No), the display control unit 154 proceeds to step S106. On the other hand, when the display control unit 154 receives the registration request for the selected partial area (steps S108, Yes), the display control unit 154 proceeds to step S109.
  • the display control unit 154 sets the ROI flag corresponding to the selected partial area to ON (step S109).
  • the generation device 100 proceeds to step S106.
  • the generation device 100 ends the process.
  • the generation unit 153 is the distribution of the partial region based on the feature amount distribution information of the partial region set in the pathological image, and is the feature amount included in the partial region. Generates characteristic distribution information in which the distribution on the feature space specified by is associated with a subregion and visually arranged in the feature space. This makes it possible to support the selection of partial regions having variations in characteristics.
  • the adjustment with the ROI having the variation of the characteristic becomes possible.
  • the risk that the analysis process does not work as intended can be reduced.
  • the generation device 100 generates characteristic distribution information by arranging the distributions of the plurality of partial regions in the feature space based on the feature quantities of the plurality of partial regions set in the image related to the pathology. This makes it possible to support the selection of a plurality of subregions having variations in characteristics.
  • the generation device 100 displays the pathological image in which a plurality of partial regions are set and the characteristic distribution information, and when the partial region is selected, displays the distribution of the characteristic distribution information corresponding to the selected partial region. Thereby, the distribution of the selected partial region in the pathological image can be easily grasped.
  • the generation device 100 acquires the feature amount corresponding to the pathological image, and calculates the feature amount of the partial region based on the feature amount corresponding to the pathological image. This makes it possible to specify the distribution of subregions in the feature space.
  • the generation device 100 generates characteristic distribution information based on some types of feature quantities among a plurality of types of feature quantities. For example, the generation device 100 generates the characteristic distribution information based on the feature amount of the first combination type among the plurality of types of feature amounts, and based on the feature amount of the second combination type, the generation device 100 generates the characteristic amount. Generate other feature distribution information. As a result, it is possible to display the characteristic distribution information corresponding to the feature amount aimed at by the user among the plurality of types of feature amounts.
  • the generation device 100 When the generation device 100 receives the registration request for the partial area, the generation device 100 stores the information of the registered partial area indicating the partial area for which the registration request is received, and further displays the distribution of the characteristic distribution information corresponding to the registered partial area. This allows the distribution of subregions (ROIs) already selected by the user to be notified.
  • ROIs subregions
  • the generation device 100 displays each distribution of the characteristic distribution information by the representative value of the feature amount, and when the partial area is selected, the distribution of the selected partial area is specified by the feature amount of the partial area. Display according to the distribution you have. This makes it easier to see the range of distribution of the partial area.
  • FIG. 24 is a hardware configuration diagram showing an example of the computer 1000 that realizes the function of the generator.
  • the computer 1000 includes a CPU 1100, a RAM 1200, a ROM (Read Only Memory) 1300, an HDD (Hard Disk Drive) 1400, a communication interface 1500, and an input / output interface 1600. Each part of the computer 1000 is connected by a bus 1050.
  • the CPU 1100 operates based on the program stored in the ROM 1300 or the HDD 1400, and controls each part. For example, the CPU 1100 expands the program stored in the ROM 1300 or the HDD 1400 into the RAM 1200 and executes processing corresponding to various programs.
  • the ROM 1300 stores a boot program such as a BIOS (Basic Input Output System) executed by the CPU 1100 when the computer 1000 is started, a program that depends on the hardware of the computer 1000, and the like.
  • BIOS Basic Input Output System
  • the HDD 1400 is a computer-readable recording medium that non-temporarily records a program executed by the CPU 1100 and data used by the program.
  • the HDD 1400 is a recording medium for recording an information processing program according to the present disclosure, which is an example of program data 1450.
  • the communication interface 1500 is an interface for the computer 1000 to connect to an external network 1550 (for example, the Internet).
  • the CPU 1100 receives data from another device or transmits data generated by the CPU 1100 to another device via the communication interface 1500.
  • the input / output interface 1600 is an interface for connecting the input / output device 1650 and the computer 1000.
  • the CPU 1100 receives data from an input device such as a keyboard or mouse via the input / output interface 1600. Further, the CPU 1100 transmits data to an output device such as a display, a speaker, or a printer via the input / output interface 1600. Further, the input / output interface 1600 may function as a media interface for reading a program or the like recorded on a predetermined recording medium (media).
  • the media is, for example, an optical recording medium such as DVD (Digital Versatile Disc) or PD (Phase change rewritable Disk), a magneto-optical recording medium such as MO (Magneto-Optical disk), a tape medium, a magnetic recording medium, or a semiconductor memory.
  • an optical recording medium such as DVD (Digital Versatile Disc) or PD (Phase change rewritable Disk)
  • a magneto-optical recording medium such as MO (Magneto-Optical disk)
  • tape medium such as DVD (Digital Versatile Disc) or PD (Phase change rewritable Disk)
  • MO Magneto-optical disk
  • the CPU 1100 of the computer 1000 executes the generation program loaded on the RAM 1200 to display the acquisition unit 151, the calculation unit 152, and the generation unit 153. It realizes the functions of the control unit 154, the analysis unit 155, and the like.
  • the HDD 1400 stores the generation program and the like according to the present disclosure.
  • the CPU 1100 reads the program data 1450 from the HDD 1400 and executes the program, but as another example, these programs may be acquired from another device via the external network 1550.
  • the generator has a generator. Based on the feature amount of the partial region set in the image relating to the pathology, the generation unit obtains the distribution of the partial region and the distribution on the feature space specified by the feature amount included in the partial region. Distribution information visually arranged in the feature space is generated in association with a partial area. This makes it possible to support the selection of partial regions having variations in characteristics.
  • the generation unit generates the distribution information by arranging the distributions of the plurality of partial regions in the feature space based on the feature quantities of the plurality of partial regions set in the image related to the pathology. This makes it possible to support the selection of a plurality of subregions having variations in characteristics.
  • the generation device further has a display control unit that displays an image related to the pathology in which the plurality of partial regions are set and the distribution information.
  • the display control unit displays the distribution of the distribution information corresponding to the selected partial area. Thereby, the distribution of the selected partial region in the pathological image can be easily grasped.
  • the generation device further includes an acquisition unit for acquiring the feature amount for the image related to the pathology, and a calculation unit for calculating the feature amount of the partial region based on the feature amount acquired by the acquisition unit. This makes it possible to specify the distribution of subregions in the feature space.
  • the feature amount included in the partial region includes a plurality of types of feature amounts, and the generation unit generates the distribution information based on some types of feature amounts among the plurality of types of feature amounts.
  • the generation unit generates the first distribution information based on the feature amount of the first combination type among the plurality of types of feature amounts, and based on the feature amount of the second combination type, Generate the second distribution information. As a result, it is possible to display distribution information corresponding to the feature amount targeted by the user among a plurality of types of feature amounts.
  • the display control unit When the display control unit receives the registration request for the partial area, the display control unit saves the information of the registered partial area indicating the partial area for which the registration request is received, and further displays the distribution of the distribution information corresponding to the registered partial area. This allows the distribution of subregions (ROIs) already selected by the user to be notified.
  • ROIs subregions
  • the display control unit displays each distribution of the distribution information by a representative value of the feature amount.
  • the display control unit displays the distribution of the selected partial region by a distribution having a spread specified by the feature amount of the partial region. This makes it easier to see the range of distribution of the partial area.
  • the display control unit displays a partial area corresponding to the distribution of the partial area included in the selection range and is set in the image related to the pathology. .. As a result, the subregion corresponding to the distribution of the subregion included in the selection range can be efficiently displayed.
  • the software generation program
  • the distribution on the feature space which is the distribution of the partial region and is specified by the feature amount included in the partial region, is associated with the partial region to the feature space.
  • the present technology can also have the following configurations.
  • (1) Based on the feature amount of the partial region set in the image related to the pathology, the distribution of the partial region and the distribution on the feature space specified by the feature amount included in the partial region corresponds to the partial region.
  • a generator having a generator that is attached and visually arranged in the feature space to generate distribution information.
  • the generation unit generates the distribution information by arranging the distributions of the plurality of partial regions in the feature space based on the feature amounts of the plurality of partial regions set in the image relating to the pathology.
  • (3) The generator according to (2) above, further comprising a display control unit for displaying an image relating to a pathology in which a plurality of partial regions are set and the distribution information.
  • the above (1) to (4) further include an acquisition unit that acquires a feature amount for an image related to the pathology, and a calculation unit that calculates a feature amount of the partial region based on the feature amount acquired by the acquisition unit.
  • the feature amount included in the partial region includes a plurality of types of feature amounts, and the generation unit generates the distribution information based on some types of feature amounts among the plurality of types of feature amounts.
  • the generation unit generates the first distribution information based on the feature amount of the first combination type among the plurality of types of feature amounts, and based on the feature amount of the second combination type, The generator according to (6) above, which generates the second distribution information.
  • the display control unit receives the registration request for the partial area, the display control unit saves the information of the registered partial area indicating the partial area for which the registration request is received, and further displays the distribution of the distribution information corresponding to the registered partial area.
  • the generator according to (3).
  • the generation device (9) The generation device according to (3) above, wherein the display control unit displays each distribution of the distribution information by a representative value of a feature amount.
  • a generation program that is attached and functions as a generation unit that generates distribution information that is visually arranged in the feature space.
  • a diagnostic support system that includes a microscope and software used to process medical images corresponding to objects imaged by the microscope. The software Based on the feature amount of the partial region set in the image related to the pathology, the distribution of the partial region and the distribution on the feature space specified by the feature amount included in the partial region corresponds to the partial region.
  • a diagnostic support system that causes a generator to execute a process of generating distribution information visually arranged in the feature space.
  • Generator 110 Communication unit 120 Input unit 130
  • Display unit 140 Storage unit 141
  • Pathology image DB 142 Partial area table 143
  • Characteristic distribution table 150 Control unit 151 Acquisition unit 152
  • Calculation unit 153 Generation unit 154

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Public Health (AREA)
  • Medical Informatics (AREA)
  • Theoretical Computer Science (AREA)
  • Primary Health Care (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Epidemiology (AREA)
  • Multimedia (AREA)
  • Molecular Biology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Chemical & Material Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Hematology (AREA)
  • Medicinal Chemistry (AREA)
  • Analytical Chemistry (AREA)
  • Business, Economics & Management (AREA)
  • Immunology (AREA)
  • Food Science & Technology (AREA)
  • Urology & Nephrology (AREA)
  • Biochemistry (AREA)
  • General Business, Economics & Management (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Medical Treatment And Welfare Office Work (AREA)

Abstract

生成装置は、病理に関する画像に設定された部分領域の特徴量を基にして、前記部分領域の分布であって、前記部分領域に含まれる特徴量によって特定される特徴空間上の分布を、前記部分領域に対応付けて前記特徴空間に視覚可能に配置した分布情報を生成する生成部を有する。

Description

生成装置、生成方法、生成プログラム及び診断支援システム
 本発明は、生成装置、生成方法、生成プログラム及び診断支援システムに関する。
 ガラススライドに収められた観察対象物を顕微鏡で撮影して、デジタル化した病理画像を生成し、病理画像に対して、各種の画像解析を行うシステムがある。たとえば、観察対象物は、患者から採取された組織や細胞であり、臓器の肉片、唾液、血液等に対応する。
 従来のシステムでは、ユーザが病理画像に対して、解析対象となる領域を指定すると、指定された領域に対して、所定の解析手順で解析を行い、最終的な解析結果を出力する。ユーザは、解析結果を参照しつつ、解析処理で用いるパラメータの調整を行う。
米国特許出願公開第2007/030529号明細書 米国特許出願公開第2009/208134号明細書
 ユーザが、解析対象となる複数の領域を選択する場合に、特性のばらつきを持った領域を選択した方が、様々な特性をもつ領域の解析結果を得ることができるため好ましい。しかし、従来のシステムでは、特性のばらつきを持った領域を選択することを支援することができていない。
 そこで、本開示では、特性のばらつきを持った領域を選択させることを支援することができる生成装置、生成方法、生成プログラム及び診断支援システムを提案する。
 上記の課題を解決するために、本開示に係る一形態の生成装置は、病理に関する画像に設定された部分領域の特徴量を基にして、前記部分領域の分布であって、前記部分領域に含まれる特徴量によって特定される特徴空間上の分布を、前記部分領域に対応付けて前記特徴空間に視覚可能に配置した分布情報を生成する生成部を備える。
本実施形態に係る診断支援システムを示す図である。 本実施形態に係る撮像処理を説明するための図である。 本実施形態に係る撮像処理を説明するための図である。 部分画像(タイル画像)の生成処理を説明するための図である。 本実施形態に係る病理画像を説明するための図である。 本実施形態に係る病理画像を説明するための図である。 病理画像の閲覧者による閲覧態様の一例を示す図である。 サーバが有する閲覧履歴記憶部の一例を示す図である。 医療情報システムが有する診断情報記憶部を示す図である。 医療情報システムが有する診断情報記憶部を示す図である。 医療情報システムが有する診断情報記憶部を示す図である。 本実施形態に係る生成装置の処理を説明するための図である。 本実施形態に係る生成装置の構成を示す機能ブロック図である。 病理画像DBのデータ構造の一例を示す図である。 部分領域テーブル142のデータ構造の一例を示す図である。 特性分布テーブルのデータ構造の一例を示す図である。 表示制御部が実行する処理(2)を説明するための図である。 表示制御部が実行する処理(3)を説明するための図である。 表示制御部が実行する処理(4)を説明するための図である。 表示制御部が実行する処理(5)を説明するための図である。 表示制御部が実行する処理(6)を説明するための図である。 表示制御部が実行する処理(7)を説明するための図である。 表示制御部が実行する処理(8)を説明するための図である。 表示制御部が実行する処理(9)を説明するための図である。 本実施形態に係る生成処理装置の処理手順を示すフローチャートである。 生成装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
 以下に、本開示の実施形態について図面に基づいて詳細に説明する。なお、以下の各実施形態において、同一の部位には同一の符号を付することにより重複する説明を省略する。
 また、以下に示す項目順序に従って本開示を説明する。
<実施形態>
 1.本実施形態に係るシステムの構成
 2.各種情報について
 2-1.病理画像
 2-2.閲覧履歴情報
 2-3.診断情報
 3.本実施形態に係る生成装置
 3-1.生成装置の処理
 3-2.生成装置の機能構成
 4.処理手順
 5.本実施形態に係る生成装置の効果
 6.ハードウェア構成
 7.むすび
[1.実施形態に係るシステムの構成]
 まず、図1を用いて、第1の実施形態に係る診断支援システム1について説明する。図1は、第1の実施形態に係る診断支援システム1を示す図である。図1に示すように、診断支援システム1は、病理システム10と、生成装置100とを含む。
 病理システム10は、主に病理医が使用するシステムであり、例えば研究所や病院に適用される。図1に示すように、病理システム10は、顕微鏡11と、サーバ12と、表示制御装置13と、表示装置14とを含む。
 顕微鏡11は、光学顕微鏡の機能を有し、ガラススライドに収められた観察対象物を撮像し、デジタル画像である病理画像(医療画像の一例)を取得する撮像装置である。なお、観察対象物とは、例えば、患者から採取された組織や細胞であり、臓器の肉片、唾液、血液等である。
 サーバ12は、顕微鏡11によって撮像された病理画像を図示しない記憶部に記憶、保存する装置である。サーバ12は、表示制御装置13から閲覧要求を受け付けた場合に、図示しない記憶部から病理画像を検索し、検索した病理画像を表示制御装置13に送る。また、サーバ12は、生成装置100から病理画像の取得要求を受け付けた場合に、記憶部から病理画像を検索し、検索した病理画像を、生成装置100に送る。
 表示制御装置13は、ユーザから受け付けた病理画像の閲覧要求をサーバ12に送る。そして、表示制御装置13は、サーバ12から受け付けた病理画像を表示するよう表示装置14を制御する。
 表示装置14は、例えば、液晶、EL(Electro‐Luminescence)、CRT(Cathode Ray Tube)などが用いられた画面を有する。表示装置14は4Kや8Kに対応していてもよいし、複数の表示装置により形成されてもよい。表示装置14は、表示制御装置13によって表示するよう制御された病理画像を表示する。なお、詳細は後述するが、サーバ12は、表示装置14を介して病理医に観察された病理画像の領域に関する閲覧履歴情報を記憶する。
 生成装置100は、サーバ12に対して病理画像の取得要求を送り、サーバ12から病理画像を受け付ける。サーバ12から受け付ける病理画像には、病理画像の特徴量の情報が添付されている。生成装置100は、病理画像を複数の部分領域に分割した情報と、各部分領域の分布であって、部分領域に含まれる特徴量によって特定される特徴空間上の分布を、部分領域に対応づけて特徴空間に視覚可能に配置した分布情報とを生成して表示する。生成装置100に関する詳しい説明は、「3.本実施形態に係る生成装置」で述べる。
[2.各種情報について]
[2-1.病理画像]
 上記の通り、病理画像は、顕微鏡11によって観察対象物が撮像されることで生成される。まず、図2及び図3を用いて、顕微鏡11による撮像処理を説明する。図2及び図3は、第1の実施形態に係る撮像処理を説明するための図である。以下に説明する顕微鏡11は、低解像度で撮像するための低解像度撮像部と、高解像度で撮像するための高解像度撮像部とを有する。
 図2には、顕微鏡11の撮影可能な領域である撮像領域R10に、観察対象物A10が収められたガラススライドG10が含まれる。ガラススライドG10は、例えば図示しないステージに置かれる。顕微鏡11は、低解像度撮像部により撮像領域R10を撮像することで観察対象物A10が全体的に撮像された病理画像である全体画像を生成する。図2に示すラベル情報L10は、観察対象物A10を識別するための識別情報(例えば、文字列やQRコード(登録商標))が記載される。ラベル情報L10に記載される識別情報と患者を対応付けておくことで、全体画像に対応する患者を特定することが可能になる。図2の例では、識別情報として「#001」が記載されている。なお、ラベル情報L10には、例えば、観察対象物A10の簡単な説明が記載されてもよい。
 続いて、顕微鏡11は、全体画像を生成した後に、全体画像から観察対象物A10が存在する領域を特定し、観察対象物A10が存在する領域を所定サイズ毎に分割した各分割領域を高解像度撮像部により順次撮像する。例えば、図3に示すように、顕微鏡11は、最初に領域R11を撮像し、観察対象物A10の一部領域を示す画像である高解像度画像I11を生成する。続いて、顕微鏡11は、ステージを移動させることで、領域R12を高解像度撮像部により撮像し、領域R12に対応する高解像度画像I12を生成する。同様にして、顕微鏡11は、領域R13、R14、・・・に対応する高解像度画像I13、I14、・・・を生成する。図3では領域R18までしか図示していないが、顕微鏡11は、ステージを順次移動させることで、観察対象物A10に対応する全ての分割領域を高解像度撮像部により撮像し、各分割領域に対応する高解像度画像を生成する。
 ところで、ステージを移動させる際にガラススライドG10がステージ上で移動することがある。ガラススライドG10が移動すると、観察対象物A10のうち未撮影の領域が発生するおそれがある。顕微鏡11は、図3に示すように、隣り合う分割領域が一部重なるように、高解像度撮像部により撮像することで、ガラススライドG10が移動した場合であっても、未撮影領域の発生を防止することができる。
 なお、上述した低解像度撮像部と高解像度撮像部とは、異なる光学系であってもよいし、同一の光学系であってもよい。同一の光学系である場合には、顕微鏡11は、撮像対象に応じて解像度を変更する。また、上記では、ステージを移動させることで撮像領域を変更する例を示したが、顕微鏡11が光学系(高解像度撮像部など)を移動させることで撮像領域を変更してもよい。また、図3では、顕微鏡11が観察対象物A10の中央部から撮像する例を示した。しかし、顕微鏡11は、図3に示した撮像順とは異なる順序で観察対象物A10を撮像してもよい。例えば、顕微鏡11は、観察対象物A10の外周部から撮像してもよい。また、上記では、観察対象物A10が存在する領域のみを高解像度撮像部で撮像する例を示した。しかし、観察対象物A10が存在する領域を正確に検出できない場合もあるので、顕微鏡11は、図2に示した撮像領域R10又はガラススライドG10の全領域を分割して高解像度撮像部で撮像してもよい。
 続いて、顕微鏡11によって生成された各々の高解像度画像は、所定のサイズに分割される。これにより、高解像度画像から部分画像(以下、タイル画像と表記する)が生成される。この点について、図4を用いて説明する。図4は、部分画像(タイル画像)の生成処理を説明するための図である。図4には、図3に示した領域R11に対応する高解像度画像I11を示す。なお、以下では、サーバ12によって、高解像度画像から部分画像が生成されるものとして説明する。しかし、サーバ12以外の装置(例えば、顕微鏡11内部に搭載される情報処理装置など)によって部分画像が生成されてもよい。
 図4に示す例では、サーバ12は、1つの高解像度画像I11を分割することで、100個のタイル画像T11、T12、・・・を生成する。例えば、高解像度画像I11の解像度が2560×2560[pixel:ピクセル]である場合、サーバ12は、高解像度画像I11から、解像度が256×256[pixel:ピクセル]である100個のタイル画像T11、T12、・・・を生成する。同様にして、サーバ12は、他の高解像度画像も同様のサイズに分割することでタイル画像を生成する。
 なお、図4の例において、領域R111、R112、R113、R114は、隣り合う他の高解像度画像(図4には図示しない)と重複する領域である。サーバ12は、重複する領域をテンプレートマッチング等の技法により位置合わせを行うことで、互いに隣り合う高解像度画像にスティッチング処理を施す。この場合、サーバ12は、スティッチング処理後に高解像度画像を分割することでタイル画像を生成してもよい。または、サーバ12は、スティッチング処理前に、領域R111、R112、R113及びR114以外の領域のタイル画像を生成し、スティッチング処理後に、領域R111、R112、R113及びR114のタイル画像を生成してもよい。
 このようにして、サーバ12は、観察対象物A10の撮像画像の最小単位となるタイル画像を生成する。そして、サーバ12は、最小単位のタイル画像を順次合成することで、階層の異なるタイル画像を生成する。具体的には、サーバ12は、隣り合う所定数のタイル画像を合成することで、1つのタイル画像を生成する。この点について、図5及び図6を用いて説明する。図5及び図6は、本実施形態に係る病理画像を説明するための図である。
 図5の上段には、サーバ12によって各高解像度画像から生成された最小単位のタイル画像群を示す。図5の上段の例において、サーバ12は、タイル画像のうち、互いに隣り合う4つのタイル画像T111、T112、T211、T212を合成することで、1つのタイル画像T110を生成する。例えば、タイル画像T111、T112、T211、T212の解像度がそれぞれ256×256である場合、サーバ12は、解像度が256×256であるタイル画像T110を生成する。同様にして、サーバ12は、互いに隣り合う4つのタイル画像T113、T114、T213、T214を合成することで、タイル画像T120を生成する。このようにして、サーバ12は、最小単位のタイル画像を所定数ずつ合成したタイル画像を生成する。
 また、サーバ12は、最小単位のタイル画像を合成した後のタイル画像のうち、互いに隣り合うタイル画像を更に合成したタイル画像を生成する。図5の例において、サーバ12は、互いに隣り合う4つのタイル画像T110、T120、T210、T220を合成することで、1つのタイル画像T100を生成する。例えば、タイル画像T110、T120、T210、T220の解像度が256×256である場合、サーバ12は、解像度が256×256であるタイル画像T100を生成する。例えば、サーバ12は、互いに隣り合う4つのタイル画像を合成した解像度512×512の画像から、4画素平均や、重み付けフィルタ(近い画素を遠い画素よりも強く反映する処理)や、1/2間引き処理等を施すことにより、解像度が256×256であるタイル画像を生成する。
 サーバ12は、このような合成処理を繰り返すことで、最終的には、最小単位のタイル画像の解像度と同様の解像度を有する1つのタイル画像を生成する。例えば、上記例のように、最小単位のタイル画像の解像度が256×256である場合、サーバ12は、上述した合成処理を繰り返すことにより、最終的に解像度が256×256である1つのタイル画像T1を生成する。
 図6に、図5に示したタイル画像を模式的に示す。図6に示した例では、最下層のタイル画像群は、サーバ12によって生成された最小単位のタイル画像である。また、下から2階層目のタイル画像群は、最下層のタイル画像群が合成された後のタイル画像である。そして、最上層のタイル画像T1は、最終的に生成される1つのタイル画像であることを示す。このようにして、サーバ12は、病理画像として、図6に示すピラミッド構造のような階層を有するタイル画像群を生成する。
 なお、図5に示す領域Dは、表示装置14等のディスプレイ画面に表示される領域の一例を示す。例えば、表示装置が表示可能な解像度が、縦3個分のタイル画像であり、横4個分のタイル画像であるものとする。この場合、図5に示す領域Dのように、表示対象のタイル画像が属する階層によって、表示装置に表示される観察対象物A10の詳細度が変わる。例えば、最下層のタイル画像が用いられる場合には、観察対象物A10の狭い領域が詳細に表示される。また、上層のタイル画像が用いられるほど観察対象物A10の広い領域が粗く表示される。
 サーバ12は、図6に示したような各階層のタイル画像を図示しない記憶部に記憶する。例えば、サーバ12は、各タイル画像を一意に識別可能なタイル識別情報(部分画像情報の一例)とともに、各タイル画像を記憶する。この場合、サーバ12は、他の装置(例えば、表示制御装置13)からタイル識別情報を含むタイル画像の取得要求を受け付けた場合に、タイル識別情報に対応するタイル画像を他の装置へ送信する。また、例えば、サーバ12は、各階層を識別する階層識別情報と、同一階層内で一意に識別可能なタイル識別情報とともに、各タイル画像を記憶してもよい。この場合、サーバ12は、他の装置から階層識別情報とタイル識別情報を含むタイル画像の取得要求を受け付けた場合に、階層識別情報に対応する階層に属するタイル画像のうち、タイル識別情報に対応するタイル画像を他の装置へ送信する。
 なお、サーバ12は、図6に示したような各階層のタイル画像をサーバ12以外の他の記憶装置に記憶してもよい。例えば、サーバ12は、クラウドサーバ等に各階層のタイル画像を記憶してもよい。また、図5及び図6に示したタイル画像の生成処理はクラウドサーバ等で実行されてもよい。
 また、サーバ12は、全ての階層のタイル画像を記憶しなくてもよい。例えば、サーバ12は、最下層のタイル画像のみを記憶してもよいし、最下層のタイル画像と最上層のタイル画像のみを記憶してもよいし、所定の階層(例えば、奇数番目の階層、偶数番目の階層など)のタイル画像のみを記憶してもよい。このとき、サーバ12は、記憶していない階層のタイル画像を他の装置から要求された場合には、記憶しているタイル画像を動的に合成することで、他の装置から要求されたタイル画像を生成する。このように、サーバ12は、保存対象のタイル画像を間引くことで、記憶容量の圧迫を防止することができる。
 また、上記例では撮像条件について言及しなかったが、サーバ12は、撮像条件毎に、図6に示したような各階層のタイル画像を記憶してもよい。撮像条件の例としては、被写体(観察対象物A10など)に対する焦点距離が挙げられる。例えば、顕微鏡11は、同一の被写体に対して焦点距離を変更しながら撮像してもよい。この場合、サーバ12は、焦点距離毎に、図6に示したような各階層のタイル画像を記憶してもよい。なお、焦点距離を変更する理由は、観察対象物A10によっては半透明であるため、観察対象物A10の表面を撮像するために適した焦点距離や、観察対象物A10の内部を撮像するために適した焦点距離があるからである。言い換えれば、顕微鏡11は、焦点距離を変更することで、観察対象物A10の表面を撮像した病理画像や、観察対象物A10の内部を撮像した病理画像を生成することができる。
 また、撮像条件の他の例として、観察対象物A10に対する染色条件が挙げられる。具体的に説明すると、病理診断では、観察対象物A10のうち特定の部分(例えば、細胞の核など)に発光物を染色する場合がある。発光物とは、例えば、特定の波長の光が照射されると発光する物質である。そして、同一の観察対象物A10に対して異なる発光物が染色される場合がある。この場合、サーバ12は、染色された発光物毎に、図6に示したような各階層のタイル画像を記憶してもよい。
 また、上述したタイル画像の数や解像度は一例であってシステムによって適宜変更可能である。例えば、サーバ12が合成するタイル画像の数は4つに限られない。例えば、サーバ12は、3×3=9個のタイル画像を合成する処理を繰り返してもよい。また、上記例ではタイル画像の解像度が256×256である例を示したが、タイル画像の解像度は256×256以外であってもよい。
 表示制御装置13は、上述した階層構造のタイル画像群に対応可能なシステムを採用するソフトウェアを用い、ユーザの表示制御装置13を介した入力操作に応じて、階層構造のタイル画像群から所望のタイル画像を抽出し、これを表示装置14に出力する。具体的には、表示装置14は、ユーザにより選択された任意の解像度の画像のうちの、ユーザにより選択された任意の部位の画像を表示する。このような処理により、ユーザは、観察倍率を変えながら観察対象物を観察しているような感覚を得ることができる。すなわち、表示制御装置13は仮想顕微鏡として機能する。ここでの仮想的な観察倍率は、実際には解像度に相当する。
[2-2.閲覧履歴情報]
 次に、図7を用いて、サーバ12に保存される病理画像の閲覧履歴情報について説明する。図7は、病理画像の閲覧者による閲覧態様の一例を示す図である。図7に示した例では、病理医等の閲覧者が、病理画像I10のうち、領域D1、D2、D3、・・・、D7の順に閲覧したものとする。この場合、表示制御装置13は、閲覧者による閲覧操作に従って、最初に領域D1に対応する病理画像をサーバ12から取得する。サーバ12は、表示制御装置13からの要求に応じて、領域D1に対応する病理画像を形成する1以上のタイル画像を記憶部から取得し、取得した1以上のタイル画像を表示制御装置13へ送信する。そして、表示制御装置13は、サーバ12から取得した1以上のタイル画像から形成される病理画像を表示装置14に表示する。例えば、表示制御装置13は、タイル画像が複数である場合には、複数のタイル画像を並べて表示する。同様にして、表示制御装置13は、閲覧者によって表示領域の変更操作が行われるたびに、表示対象の領域(領域D2、D3、・・・、D7など)に対応する病理画像をサーバ12から取得し、表示装置14に表示する。
 図7の例では、閲覧者は、最初に比較的広い領域D1を閲覧し、領域D1内に注意深く観察する領域がなかったため、閲覧領域を領域D2に移動させている。そして、閲覧者は、領域D2内に注意深く観察したい領域があったため、領域D2の一部領域を拡大して領域D3を閲覧している。そして、閲覧者は、さらに領域D2の一部領域である領域D4へ移動させている。そして、閲覧者は、領域D4内にさらに注意深く観察したい領域があったため、領域D4の一部領域を拡大して領域D5を閲覧している。このようにして、閲覧者は、領域D6、D7についても閲覧している。例えば、領域D1、D2、D7に対応する病理画像が1.25倍率の表示画像であり、領域D3、D4に対応する病理画像が20倍率の表示画像であり、領域D5、D6に対応する病理画像が40倍率の表示画像である。表示制御装置13は、サーバ12に記憶されている階層構造のタイル画像群のうち、各倍率に対応する階層のタイル画像を取得して表示することになる。例えば、領域D1及びD2に対応するタイル画像の階層は、領域D3に対応するタイル画像の階層よりも上(すわなち、図6に示したタイル画像T1に近い階層)になる。
 上記のように病理画像が閲覧されている間、表示制御装置13は、所定のサンプリング周期で閲覧情報を取得する。具体的には、表示制御装置13は、所定のタイミング毎に、閲覧された病理画像の中心座標と表示倍率を取得し、取得した閲覧情報をサーバ12の記憶部に格納する。
 この点について、図8を用いて説明する。図8は、サーバ12が有する閲覧履歴記憶部12aの一例を示す図である。図8に示すように、閲覧履歴記憶部12aは、「サンプリング」、「中心座標」、「倍率」、「時間」といった情報を記憶する。「サンプリング」は、閲覧情報を記憶するタイミングの順番を示す。「中心座標」は、閲覧された病理画像の位置情報を示す。ここの例では、中心座標は、閲覧された病理画像の中心位置が示す座標であって、最下層のタイル画像群の座標系の座標に該当する。「倍率」は、閲覧された病理画像の表示倍率を示す。「時間」は、閲覧が開始されてからの経過時間を示す。図8の例では、サンプリング周期が30秒であることを示す。すなわち、表示制御装置13は、30秒毎に閲覧情報を閲覧履歴記憶部12aに保存する。ただし、この例に限られず、サンプリング周期は、例えば0.1~10秒であってもよいし、この範囲外であってもよい。
 図8の例において、サンプリング「1」は図7に示す領域D1の閲覧情報を示し、サンプリング「2」は領域D2の閲覧情報を示し、サンプリング「3」及び「4」は領域D3の閲覧情報を示し、サンプリング「5」は領域D4の閲覧情報を示し、サンプリング「6」、「7」及び「8」は領域D5の閲覧情報を示す。つまり、図8の例では、領域D1が30秒程度閲覧され、領域D2が30秒程度閲覧され、領域D3が60秒程度閲覧され、領域D4が30秒程度閲覧され、領域D5が90秒程度閲覧されたことを示す。このように、閲覧履歴情報から、各領域の閲覧時間を抽出することができる。
 また、閲覧履歴情報から各領域を閲覧した回数を抽出することができる。例えば、表示領域の変更操作(例えば、表示領域の移動操作、表示サイズの変更操作)が行われるたびに、表示された病理画像の各画素の表示回数が1回ずつ増加するものとする。例えば、図7に示した例において、最初に領域D1が表示された場合、領域D1に含まれる各画素の表示回数は1回となる。次に領域D2が表示された場合には、領域D1と領域D2との双方に含まれる各画素の表示回数は2回となり、領域D1には含まれず領域D2に含まれる各画素の表示回数は1回となる。閲覧履歴記憶部12aの中心座標及び倍率を参照することで表示領域を特定可能であるので、閲覧履歴記憶部12aに記憶されている閲覧履歴情報を分析することで、病理画像の各画素(各座標ともいえる)が表示された回数を抽出することができる。
 表示制御装置13は、閲覧者から所定時間(例えば5分)、表示位置を変更する操作が行われなかった場合には、閲覧情報の記憶処理を中断してもよい。また、上記例では、中心座標と倍率によって閲覧された病理画像を閲覧情報として記憶する例を示したが、この例に限られず、閲覧情報は、閲覧された病理画像の領域を特定可能な情報であれば如何なる情報であってもよい。例えば、表示制御装置13は、閲覧された病理画像に対応するタイル画像を識別するタイル識別情報や、閲覧された病理画像に対応するタイル画像の位置示す情報を、病理画像の閲覧情報として記憶してもよい。また、図8では、図示することを省略したが、閲覧履歴記憶部12aには、患者、カルテ等を識別する情報が記憶される。すなわち、図8に示した閲覧履歴記憶部12aは、閲覧情報と、患者やカルテ等と対応付け可能に記憶される。
[2-3.診断情報]
 次に、図9A~図9Cを用いて、病理システム10に記憶される診断情報について説明する。図9A~図9Cは、病理システム10が有する診断情報記憶部を示す図である。図9A~図9Cでは、それぞれ検査対象の臓器毎に異なるテーブルで診断情報を記憶する例を示す。例えば、図9Aは、乳がん検査に関する診断情報を記憶するテーブルの例を示し、図9Bは、肺がん検査に関する診断情報を記憶するテーブルの例を示し、図9Cは、大腸検査に関する診断情報を記憶するテーブルの例を示す。
 図9Aに示す診断情報記憶部30Aは、「患者ID」、「病理画像」、「診断結果」、「グレード」、「組織型」、「遺伝子検査」、「超音波検査」、「投薬」といった情報を記憶する。「患者ID」は、患者を識別するための識別情報を示す。「病理画像」は、病理医が診断時に保存した病理画像を示す。「病理画像」には、画像自体ではなく、全体画像に対する、保存対象の画像領域を示す位置情報(中心座標と倍率など)が記憶されてもよい。「診断結果」は、病理医による診断結果であり、例えば、病変部位の有無、病変部位の種類を示す。「グレード」は、病気部位の進行度を示す。「組織型」は、病気部位の種類を示す。「遺伝子検査」は、遺伝子検査の結果を示す。「超音波検査」は、超音波検査の結果を示す。投薬は、患者への投薬に関する情報を示す。
 図9Bに示す診断情報記憶部30Bは、図9Aに示した診断情報記憶部30Aに記憶される「超音波検査」の代わりに、肺がん検査で行われる「CT検査」に関する情報を記憶する。図9Cに示す診断情報記憶部30Cは、図9Aに示した診断情報記憶部30Aに記憶される「超音波検査」の代わりに、大腸検査で行われる「内視鏡検査」に関する情報を記憶する。
 図9A~図9Cの例において、「診断結果」に「正常」が記憶されている場合には、病理診断の結果が陰性であったことを示し、「診断結果」に「正常」以外の情報が記憶されている場合には、病理診断の結果が陽性であったことを示す。なお、図9A~図9Cでは、患者IDについて、各項目(病理画像、診断結果、グレード、組織型、遺伝子検査、超音波検査、投薬)を対応付けて記憶する場合について説明したが、診断、検査に関わる情報を、患者IDに対応付けて記憶すればよく、全ての項目が必要なわけではない。
[3.本実施形態に係る生成装置]
[3-1.生成装置の処理]
 次に、本実施形態に係る生成装置100の処理の一例について説明する。図10は、本実施形態に係る生成装置100の処理を説明するための図である。図10では、病理画像Ima1を用いて説明を行う。病理画像Ima1には、細胞領域(観察対象物)A11が含まれるものとする。生成装置100は、病理画像Ima1をグリッドやスーパーピクセルで分割することで、複数の部分領域を設定する。以下の説明では、適宜、n行目、m列目の部分領域を示す場合、部分領域p(n、m)と表記する。複数の部分領域は、解析対象の領域「ROI(Region Of Interest)」の候補となる。
 一方、生成装置100は、たとえば、2軸(1軸でもよい)からなる特徴空間fs1を示す特性分布情報Dis1を生成する。たとえば、特徴空間fs1の横軸は、複数種類の特徴量のうち、第1の特徴量に対応する軸とする。特徴空間fs1の縦軸は、複数種類の特徴量のうち、第2の特徴量に対応する軸とする。第1の特徴量、第2の特徴量は、予め設定されているものとする。
 生成装置100は、病理画像Ima1に含まれる複数の部分領域について、次の処理を実行する。生成装置100は、部分領域に含まれる特徴量(第1の特徴量、第2の特徴量)を算出し、算出した特徴量によって特定される特徴空間fs1上の分布(分布の範囲)を、視覚可能に配置する。部分領域の特徴量は、最大値、最小値等、分布に広がりを持った情報となる。
 たとえば、生成装置100は、部分領域p(2、8)の特徴量によって特定される特徴空間fs1の分布が、分布dis(2、8)となる場合、特徴空間fs1に分布dis(2,8)を視覚可能に配置する。分布dis(2,8)は、部分領域p(2、8)に対応付けられる。生成装置100は、他の部分領域に対しても上記処理を繰り返し実行することで、特性分布情報Dis1を生成する。以下の説明では、部分領域p(n、m)の分布であって、特徴空間fs1上に視覚可能に配置される分布を単に、dis(n、m)と表記する。
 生成装置100は、複数の部分領域に分割された病理画像Ima1と、特性分布情報Dis1とを表示画面に表示する。生成装置100は、表示画面を参照するユーザから、部分領域の選択を受け付けると、選択された部分領域に対応する分布を通知する。たとえば、生成装置100は、ユーザによって、部分領域p(6、5)の選択を受け付けた場合、部分領域p(6、5)の分布dis(6、5)を強調表示する。
 上記のように、生成装置100は、部分領域の選択を受け付けた場合に、選択された部分領域の分布を、視覚可能に通知することで、ユーザは、選択した部分領域の特性分布を把握できる。このため、生成装置100によれば、特性のばらつきを持った部分領域を選択させることを支援することが可能となる。すなわち、ユーザは、各部分領域の特性分布の広がりを理解した上で、複数の部分領域から、狙った特性となる部分領域を、解析対象とする部分領域(ROI)として、選択することができる。
 なお、図10に示す例では、生成装置100が、病理画像Ima1と、特性分布情報Dis1とを別々に表示する場合について説明したが、病理画像Ima1と、特性分布情報Dis1とを同一画面に並べて表示してもよい。
[3-2.生成装置の機能構成]
 次に、本実施形態に係る生成装置100の機能構成の一例について説明する。図11は、本実施形態に係る生成装置の構成を示す機能ブロック図である。図11に示すように、この生成装置100は、通信部110と、入力部120と、表示部130と、記憶部140と、制御部150とを有する。
 通信部110は、例えば、NIC(Network Interface Card)等によって実現される。通信部110は、図示しないネットワークと有線又は無線で接続され、ネットワークを介して、病理システム10等との間で情報の送受信を行う。後述する制御部150は、通信部110を介して、これらの装置との間で情報の送受信を行う。
 入力部120は、各種の情報を、生成装置100に入力する入力装置である。入力部120は、キーボードやマウス、タッチパネル等に対応する。ユーザは、入力部120を操作して、病理画像上の部分領域等を選択する。
 表示部130は、制御部150から出力される情報を表示する表示装置である。表示部130は、液晶ディスプレイ、有機EL(Electro Luminescence)ディスプレイ、タッチパネル等に対応する。たとえば、表示部130は、図10で説明した病理画像や、特性分布情報等を表示する。
 記憶部140は、病理画像DB(Data Base)141と、部分領域テーブル142と、特性分布テーブル143とを有する。記憶部140は、たとえば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。
 病理画像DB141は、複数の病理画像を格納するデータベースである。図12は、病理画像DB141のデータ構造の一例を示す図である。図12に示すように、この病理画像DB141は、「患者ID」と、「病理画像ID」と、「病理画像」と、「特徴量」とを有する。患者IDは、患者を一意に識別する情報である。病理画像IDは、病理画像を一意に識別する情報である。病理画像は、病理医が診断時に保存した病理画像(画像データ)を示す。病理画像は、サーバ12から送信される。病理画像は、WSI(Whole Slide Image)等に対応する。
 特徴量は、該当する一つの病理画像全体から得られる特徴量である。たとえば、特徴量には、病理画像に存在する各細胞の抽出結果、画像要素、各細胞と特定の腫瘍領域との距離の情報が含まれる。各細胞の抽出結果には、「細胞の核に関する、大きさ、形状、染色強度」、「細胞膜に関する、大きさ、形状、染色強度、細胞の密度」などが含まれる。画像要素には、CNN(Convolution Neural Network)特徴量、色、輝度値、周波数特性などが含まれる。
 なお、病理画像DB141は、患者ID、病理画像、特徴量の他に、図9A~9Cで説明した「診断結果」、「グレード」、「組織型」、「遺伝子検査」、「超音波検査」、「投薬」といった情報を保持していてもよい。また、特徴量は、後述する算出部152が、病理画像を基にして算出してもよいし、サーバ12から取得してもよい。
 部分領域テーブル142は、病理画像を分割した場合の複数の部分領域に関する情報を保持するテーブルである。図13は、部分領域テーブル142のデータ構造の一例を示す図である。図13に示すように、この部分領域テーブル142は、「病理画像ID」と、「部分領域ID」と、「座標」と、「ROIフラグ」と、「特徴量分布情報」とを有する。
 病理画像IDは、病理画像を一意に識別する情報である。各病理画像に対して複数の部分領域が設定される。部分領域IDは、病理画像における各部分領域を識別する情報である。座標は、部分領域の座標を示すものである。たとえば、部分領域の座標は、部分領域の左上隅の座標と右下隅の座標とによって特定される。ROIフラグは、該当する部分領域(部分領域IDによって特定される部分領域)が、ROIとして登録されたか否かを示すものである。たとえば、ROIとして登録されている場合、部分領域IDに対応するROIフラグは「オン」となる。ROIとして登録されていない場合、部分領域IDに対応するROIフラグは「オフ」となる。以下の説明では、部分領域ID「p(n、m)」の部分領域を、単に、部分領域p(n、m)と表記する。
 特徴量分布情報は、該当する一つの部分領域における特徴量の分布情報である。特徴量分布情報には、代表点を定める情報と、分布の広がりを定める情報とが含まれる。代表点を定める情報には、特徴量の平均値、中央値、最頻値などが含まれる。分布の広がりを定める情報には、ヒストグラム、分散、標準偏差、最大値および最小値、四分位数等が含まれる。
 特性分布テーブル143は、特徴空間における部分領域の分布に関する情報を保持するテーブルである。図14は特性分布テーブルのデータ構造の一例を示す図である。図14に示すように、この特性分布テーブル143は、病理画像IDと、部分領域IDと、分布の範囲とを対応付ける。病理画像IDは、病理画像を一意に識別する情報である。部分領域IDは、病理画像における部分領域を識別する情報である。
 分布の範囲は、特徴空間のおける部分領域の分布の範囲を示す情報である。特徴空間は、特徴空間の軸に割り当てる特徴量の種別によって、異なる特徴空間となる。部分領域の分布は、異なる特徴空間毎に設定される。図14に示す例では、特徴空間fs1,fs2,fs3等に対応する部分領域の分布の範囲が設定されている。たとえば、特徴空間fs1は、第1の特徴量と、第2の特徴量とを軸とする特徴空間である。特徴空間fs2は、第2の特徴量と、第4の特徴量とを軸とする特徴空間である。特徴空間fs3は、第5の特徴量を軸とする特徴空間(ヒストグラム)である。図14では、特徴空間fs1~fs3の分布の範囲を示すが、特性分布テーブル143は、他の特徴量の種別を軸とする特徴空間の分布の範囲を有していてもよい。
 図11の説明に戻る。制御部150は、取得部151と、算出部152と、生成部153と、表示制御部154と、解析部155とを有する。制御部150は、例えば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)によって、生成装置100内部に記憶されたプログラム(解析プログラムの一例)がRAM(random Access Memory)等を作業領域として実行されることにより実現される。また、制御部150は、例えばASIC(Application specific Integrated Circuit)やFPGA(Field Programmable gate Array)等の集積回路により実行されてもよい。
 取得部151は、サーバ12に対して病理画像の取得要求を送り、サーバ12から病理画像を取得する処理部である。取得部151は、取得した病理画像を、病理画像DB141に登録する。病理画像には、病理画像ID、患者IDが付与されているものとする。取得部151は、病理画像について、患者IDの他に、病理画像の特徴量の情報が添付されている場合に、病理画像の特徴量を、病理画像DB141に登録する。更に、病理画像には、図9A~9Cで説明した「診断結果」、「グレード」、「組織型」、「遺伝子検査」、「超音波検査」、「投薬」といった情報が添付されていてもよい。
 算出部152は、病理画像を複数の部分領域に分割し、各部分領域の特徴量分布情報を算出する処理部である。
 算出部152が、病理画像を複数の部分領域に分割する処理の一例について説明する。算出部152は、病理画像DB141から、病理画像を取得し、予め設定されたグリッドや、スーパーピクセルなどによって、病理画像を複数の部分領域に分割する。算出部152は、各部分領域に部分領域IDを割り当て、病理画像ID、部分領域ID、座標を対応付けて、部分領域テーブル142に登録する。算出部152は、部分領域IDに対応するROIフラグを初期値の「オフ」に設定する。
 算出部152が、各部分領域の特徴量分布情報を算出する処理の一例について説明する。算出部152は、部分領域p(n、m)に対応する特徴量を、病理画像DB141に登録された病理画像の特徴量から取得する。部分領域p(n、m)に対応する特徴量には、細胞の特徴量(核の大きさ、形状、染色強度)、細胞膜の大きさ、細胞膜の染色強度、細胞密度が含まれる。部分領域p(n、m)に対応する特徴量には、部分領域p(n、m)に含まれる細胞(あるいは、部分領域p(n、m))と、特定の領域(別途あたえられた腫瘍領域)との距離情報が含まれる。部分領域p(n、m)に対応する特徴量には、画像特徴量(CNN特徴量、色情報、周波数特性など)が含まれる。
 算出部152は、部分領域p(n、m)に対応する特徴量を基にして、特徴量分布情報を算出する。たとえば、算出部152は、特徴量の種別毎に、代表点を定める情報と、分布の広がりを定める情報とを算出する。代表点を定める情報には、特徴量の平均値、中央値、最頻値などが含まれる。分布の広がりを定める情報には、ヒストグラム、分散、標準偏差、最大値および最小値、四分位数等が含まれる。算出部152は、部分領域p(n、m)の特徴量分布情報を、部分領域テーブル142に登録する。
 算出部152は、病理画像に含まれる各部分領域について、上記処理を繰り返し実行することで、部分領域テーブル142を生成する。更に、算出部152は、病理画像DB141に登録された複数の病理画像について、上記処理を繰り返し実行してもよい。
 生成部153は、部分領域テーブル142を基にして、特性分布テーブル143を生成する処理部である。以下において、生成部153の処理の一例について説明する。
 生成部153は、部分領域p(n、m)に対応する特徴量分布情報を、部分領域テーブル142から取得する。生成部153は、予め設定された特徴空間の情報を取得する。ここでは、特徴空間fs1を用いて説明する。特徴空間fs1は、第1の特徴量と、第2の特徴量とを2軸とする特徴空間である。
 生成部153は、部分領域p(n、m)に対応する特徴量分布情報から、第1の特徴量に対応する「分布の広がりを定める情報」と、第2の特徴量に対応する「分布の広がりを定める情報」とを取得する。生成部は、取得した情報を基にして、特徴空間fs1上における部分領域p(n、m)の分布の範囲を特定し、特性分布テーブル143に登録する。生成部153は、部分領域p(n、m)について、他の特徴空間における分布の範囲を特定し、特性分布テーブル143に登録する。
 生成部153は、病理画像に含まれる各部分領域について、上記処理を繰り返し実行することで、特性分布テーブル143を生成する。更に、生成部153は、複数の病理画像の各部分領域について、上記処理を繰り返し実行してもよい。
 表示制御部154は、病理画像DB141と、部分領域テーブル142と、特性分布テーブル143とを基にして、病理画像と、特性分布情報とを含む画面情報を生成し、表示部130に表示させる処理部である。以下において、表示制御部154が実行する各種の処理について説明する。
 表示制御部154が実行する処理(1)について説明する。表示制御部154が実行する処理(1)を、図10を用いて説明する。表示制御部154は、複数の部分領域に分割された病理画像Ima1を表示部130に表示させる。表示制御部154は、部分領域テーブル142を基にして、病理画像Ima1に対して複数の部分領域を設定する。ユーザは、病理画像Ima1を参照し、入力部120を操作して、いずれかの部分領域を選択する。
 表示制御部154は、病理画像Ima1の複数の部分領域のうち、いずれかの部分領域の選択を受け付けると、特性分布情報Dis1を表示部130に表示させる。たとえば、表示制御部154は、特性分布テーブル143を基にして、特徴空間fs1に対応する各部分領域の分布の範囲を特定し、特徴空間fs1に、各部分領域の分布を視覚可能に配置することで、特性分布情報Dis1を生成する。表示制御部154は、特性分布情報Dis1に配置した複数の分布のうち、ユーザに選択された部分領域に対応する分布を強調表示する。
 たとえば、表示制御部154は、ユーザによって、部分領域p(6、5)の選択を受け付けた場合、部分領域p(6、5)の分布dis(6、5)を強調表示する。図示を省略するが、表示制御部154は、選択された部分領域p(6、5)を拡大表示してもよい。
 表示制御部154は、ユーザから、選択した部分領域に対する登録要求を受け付けた場合、部分領域テーブル142を参照し、登録要求を受け付けた部分領域に対応するROIフラグを「オン」に設定する。
 表示制御部154が実行する処理(2)について説明する。図15は、表示制御部154が実行する処理(2)を説明するための図である。表示制御部154は、特性分布テーブル143を基にして、特性分布情報Dis1を生成し、特性分布情報Dis1を、表示部130に表示させる。ユーザは、特性分布情報Dis1を参照し、入力部120を操作して、いずれかの分布を選択する。
 表示制御部154は、特性分布情報Dis1の分布の選択を受け付けると、病理画像Ima1-1を表示部130に表示させる。表示制御部154は、病理画像Ima1-1の複数の部分領域のうち、ユーザに選択された分布に対応する部分領域を強調表示する。
 たとえば、表示制御部154は、ユーザによって、特性分布情報Dis1の分布dis(6、4)が選択された場合、病理画像Ima1-1の部分領域p(6、4)を強調表示する。表示制御部154は、部分領域p(6、4)を拡大した画像Ima1-2を表示してもよい。
 表示制御部154は、ユーザから、部分領域p(6、4)に対する登録要求を受け付けた場合、部分領域テーブル142を参照し、登録要求を受け付けた部分領域p(6、4)に対応するROIフラグを「オン」に設定する。
 表示制御部154が実行する処理(3)について説明する。図16は、表示制御部154が実行する処理(3)を説明するための図である。表示制御部154は、特性分布テーブル143を基にして、特性分布情報Dis1を生成し、特性分布情報Dis1を、表示部130に表示させる。ユーザは、特性分布情報Dis1を参照し、入力部120を操作して、いずれかの分布(複数の分布)を選択する。ユーザは、特性分布情報Dis1上に範囲を指定して、複数の分布を選択してもよい。
 表示制御部154は、特性分布情報Dis1の分布の選択を受け付けると、病理画像Ima1-3を表示部130に表示させる。表示制御部154は、病理画像Ima1-3の複数の部分領域のうち、ユーザに選択された分布に対応する部分領域を強調表示する。
 たとえば、表示制御部154は、ユーザによって、範囲ran1が指定され、特性分布情報Dis1の分布dis(4、3)、dis(4、8)、dis(3、12)、dis(6、4)、dis(6、6)が選択されたものとする。この場合に、表示制御部154は、病理画像Ima1-3の部分領域p(4、3)、p(4、8)、p(3、12)、p(6、4)、p(6、6)を強調表示する。表示制御部154は、部分領域p(4、3)、p(4、8)、p(3、12)、p(6、4)、p(6、6)を拡大した画像Ima1-4を表示してもよい。
 表示制御部154は、ユーザから、部分領域p(4、3)、p(4、8)、p(3、12)、p(6、4)、p(6、6)に対する登録要求を受け付けた場合、部分領域テーブル142を参照し、登録要求を受け付けた部分領域に対応するROIフラグを「オン」に設定する。
 なお、表示制御部154は、ROIとして登録する部分領域の個数を指定されており、範囲ran1に含まれる部分領域の分布の個数が、指定された個数を上回っている場合には、指定された個数となるように、範囲ran1の部分領域の分布をランダムに選択してもよい。また、表示制御部154は、部分領域の分布がばらつくように、指定された個数を選択してもよい。このような機能を提供することで、たとえば、面積が大きいなど異型度が高く、腫瘍辺縁に近い部分領域を提示することができる。
 表示制御部154が実行する処理(4)について説明する。図17は、表示制御部154が実行する処理(4)を説明するための図である。表示制御部154は、複数の部分領域に分割された病理画像Ima1-5を表示部130に表示させる。ユーザは、病理画像Ima1-5を参照し、入力部120を操作して、いずれかの部分領域を選択する。
 表示制御部154は、病理画像Ima1-5の複数の部分領域のうち、いずれかの部分領域の選択を受け付けると、特性分布情報Dis1を表示部130に表示させる。表示制御部154は、特性分布情報Dis1に配置した複数の分布のうち、ユーザに選択された部分領域に対応する分布を強調表示する。
 たとえば、表示制御部154は、ユーザによって、部分領域p(6、6)の選択を受け付けた場合、部分領域p(6、6)の分布dis(6、6)を強調表示する。表示制御部154は、ユーザから、部分領域p(6、6)に対する登録要求を受け付けた場合、部分領域テーブル142の部分領域p(6、6)に対応するROIフラグを「オン」に設定する。
 表示制御部154は、入力部120を操作するユーザから、病理画像Ima1-5の表示依頼を受け付けた場合、病理画像Ima1-5を表示部130に表示させる。表示制御部154は、部分領域テーブル142を参照して、ROIフラグが「オン」となる部分領域p(6、6)を強調表示する。
 表示制御部154は、病理画像Ima1-5の複数の部分領域のうち、いずれかの部分領域の選択を受け付けると、特性分布情報Dis1を表示部130に表示させる。表示制御部154は、特性分布情報Dis1に配置した複数の分布のうち、ユーザに選択された部分領域に対応する分布を強調表示する。また、表示制御部154は、ROIフラグが「オン」となる部分領域に対応する分布を強調表示する。
 たとえば、表示制御部154は、ユーザによって、部分領域p(3、10)の選択を受け付けた場合、部分領域p(3、10)の分布dis(3、10)を強調表示する。また、表示制御部154は、ROIフラグが「オン」となる部分領域p(6、6)に対応する分布dis(6、6)を強調表示する。なお、表示制御部154は、部分領域p(6、6)、p(3、10)を拡大した画像Ima1-6を表示してもよい。
 表示制御部154が実行する処理(5)について説明する。図18は、表示制御部154が実行する処理(5)を説明するための図である。表示制御部154は、複数の部分領域に分割された病理画像Ima1-7を表示部130に表示させる。ユーザは、病理画像Ima1-7を参照し、入力部120を操作して、いずれかの部分領域を選択する。
 表示制御部154は、病理画像Ima1-7の複数の部分領域のうち、いずれかの部分領域の選択を受け付けると、特性分布情報Dis3を表示部130に表示させる。特性分布情報Dis3は、特徴空間fs3を示すものである。たとえば、特徴空間fs3の横軸は、複数種類の特徴量のうち、第5の特徴量に対応する軸とする。特徴空間fs3の縦軸は、頻度に対応する軸とする。特徴空間fs3は、ヒストグラムに対応する。
 表示制御部154は、特性分布情報Dis3に配置した複数の分布のうち、ユーザに選択された部分領域に対応する分布を強調表示する。たとえば、表示制御部154は、ユーザによって、部分領域p(6、6)の選択を受け付けた場合、部分領域p(6、6)の分布dis(6、6)を強調表示する。表示制御部154は、ユーザから、部分領域p(6、6)に対する登録要求を受け付けた場合、部分領域テーブル142の部分領域p(6、6)に対応するROIフラグを「オン」に設定する。
 表示制御部154が実行する処理(6)について説明する。図19は、表示制御部154が実行する処理(6)を説明するための図である。表示制御部154は、複数の部分領域に分割された病理画像Ima1-8を表示部130に表示させる。ユーザは、病理画像Ima1-8を参照し、入力部120を操作して、いずれかの部分領域を選択する。
 表示制御部154は、病理画像Ima1-8の複数の部分領域のうち、いずれかの部分領域の選択を受け付けると、特性分布情報Dis1-1を表示部130に表示させる。表示制御部154は、特性分布情報Dis1-1に配置した複数の分布のうち、ユーザに選択された部分領域に対応する分布を強調表示する。
 たとえば、表示制御部154は、ユーザによって、部分領域p(6、4)の選択を受け付けた場合、部分領域p(6、4)の分布dis(6、4)を強調表示する。表示制御部154は、ユーザから、部分領域p(6、4)に対する登録要求を受け付けた場合、部分領域テーブル142の部分領域p(6、4)に対応するROIフラグを「オン」に設定する。
 なお、表示制御部154は、特性分布情報Dis1-1を表示部130に表示させる場合、選択された部分領域の分布以外の分布を、代表点で表示させる。代表点は、平均値や中央値などに対応する。図19に示す例では、表示制御部154は、部分領域p(6、4)の分布dis(6、4)以外の分布を、代表点で表示させる。
 表示制御部154が実行する処理(7)について説明する。図20は、表示制御部154が実行する処理(7)を説明するための図である。表示制御部154は、複数の部分領域に分割された病理画像Ima1-9を表示部130に表示させる。ユーザは、病理画像Ima1-9を参照し、入力部120を操作して、いずれかの部分領域を選択する。
 表示制御部154は、病理画像Ima1-9の複数の部分領域のうち、いずれかの部分領域の選択を受け付けると、特徴空間fs1の特性分布情報Dis1-1を表示部130に表示させる。表示制御部154は、特性分布情報Dis1-1に配置した複数の分布のうち、ユーザに選択された部分領域に対応する分布を強調表示する。
 たとえば、表示制御部154は、ユーザによって、部分領域p(6、4)の選択を受け付けた場合、特性分布情報Dis1-1において、部分領域p(6、4)の分布dis(6、4)を強調表示する。
 ここで、表示制御部154は、ユーザによって、特徴空間の変更要求を受け付けた場合には、変更後の特徴空間を示す特性分布情報を表示する。たとえば、表示制御部154は、ユーザによって、特徴空間fs2が選択された場合には、特性分布情報Dis1-2を表示する。表示制御部154は、特性分布情報Dis1-2において、部分領域p(6、4)の分布dis(6、4)を強調表示する。
 表示制御部154は、ユーザから、部分領域p(6、4)に対する登録要求を受け付けた場合、部分領域テーブル142の部分領域p(6、4)に対応するROIフラグを「オン」に設定する。
 表示制御部154が実行する処理(8)について説明する。図21は、表示制御部154が実行する処理(8)を説明するための図である。表示制御部154は、ユーザによって、特徴空間fs1が指定された場合、特性分布テーブル143を基にして、特性分布情報Dis1-3を生成し、特性分布情報Dis1-3を、表示部130に表示させる。
 続いて、表示制御部154は、ユーザによって、特徴空間fs2が指定された場合、特性分布テーブル143を基にして、特性分布情報Dis1-4を生成し、特性分布情報Dis1-4を、表示部130に表示させる。
 たとえば、表示制御部154は、ユーザによって、範囲ran2が指定され、特性分布情報Dis1-4の分布dis(2、1)、dis(6、4)、dis(7、4)、dis(1、3)、dis(9、8)、dis(10、11)、dis(8、8)、dis(4、6)が選択された後に、特徴空間fs1が指定された場合、特性分布情報Dis1-5を、表示部130に表示させる。
 表示制御部154は、特性分布情報Dis1-5において、特性分布情報Dis1-4で選択された特徴空間fs1の分布に対応する分布であって、特徴空間fs2の分布を表示させる。図21に示す例では、特性分布情報1-5の分布dis(2、1)、dis(6、4)、dis(7、4)、dis(1、3)、dis(9、8)、dis(10、11)、dis(8、8)、dis(4、6)が表示され、他の分布が表示されない。すなわち、ある特徴空間fs1で有効領域を指定すると、その有効領域に対応する分布が、特徴空間fs2で表示される。
 表示制御部154が実行する処理(9)について説明する。図22は、表示制御部154が実行する処理(9)を説明するための図である。表示制御部154は、ユーザによって、特徴空間fs2、fs3が指定された場合、特性分布テーブル143を基にして、特性分布情報Dis1-6を生成し、表示部130に表示させる。たとえば、特徴空間fs3の範囲ran3に含まれる部分領域の分布は、特徴空間fs2の範囲ran3-1、ran3-2に含まれる部分領域の分布に対応するものとする。
 表示制御部154は、ユーザによって、特徴空間fs3の範囲がran3から、ran4に変更された場合には、特性分布情報Dis1-7を生成し、表示部130に表示させる。たとえば、特徴空間fsの範囲ran4に含まれる部分領域の分布が、特徴空間fs2の範囲ran3-1に含まれる部分領域の分布である場合、表示制御部154は、特徴空間fs2の範囲ran3-1に含まれる部分領域の分布のみを表示させる。すなわち、ある特徴空間fs3で範囲を指定すると、その範囲に対して有効な分布が、特徴空間fs2で表示される。
 図11の説明に戻る。解析部155は、部分領域テーブル142を参照し、ROIフラグが「オン」となった部分領域に対して、所定の解析手順で解析を行い、最終的な解析結果を表示部130に出力する。ユーザは、解析結果を参照しつつ、解析処理で用いるパラメータの調整を行ってもよい。
[4.処理手順]
 次に、図23を用いて、本実施形態に係る生成装置100の処理手順を説明する。図23は、本実施形態に係る生成処理装置の処理手順を示すフローチャートである。生成装置100の取得部151は、解析対象の病理画像を取得する(ステップS101)。取得部151は、病理画像全体の特徴量を取得する(ステップS102)。
 生成装置100の算出部152は、部分領域の単位で特徴量分布情報を算出する(ステップS103)。生成部153は、各特徴空間における部分空間の分布を設定することで、特性分布テーブル143を生成する(ステップS104)。
 生成装置100の表示制御部154は、複数の部分領域に分割された病理画像と、特性分布情報とを表示する(ステップS105)。表示制御部154は、部分領域の選択を受け付ける(ステップS106)。表示制御部154は、選択された部分領域の分布を強調表示する(ステップS107)。
 表示制御部154は、選択された部分領域の登録指示を受け付けない場合には(ステップS108,No)、ステップS106に移行する。一方、表示制御部154は、選択された部分領域の登録要求を受け付けた場合には(ステップS108,Yes)、ステップS109に移行する。
 表示制御部154は、選択された部分領域に対応するROIフラグをオンに設定する(ステップS109)。生成装置100は、ROIを追加する場合には(ステップS110,Yes)、ステップS106に移行する。一方、生成装置100は、ROIを追加しない場合には(ステップS110)、処理を終了する。
[5.本実施形態に係る生成装置の効果]
 本実施形態に係る生成装置100によれば、生成部153が、病理画像に設定された部分領域の特徴量分布情報を基にして、部分領域の分布であって、部分領域に含まれる特徴量によって特定される特徴空間上の分布を、部分領域に対応付けて特徴空間に視覚可能に配置した特性分布情報を生成する。これによって、特性のばらつきを持った部分領域の選択を支援することができる。
 また、特性のばらつきを持った部分領域の選択を支援することで、ROIを用いて解析処理のパラメータ調整を実行する際、特性のばらつきを十分にもったROIでの調整ができるようになる。これによって、調整結果を解析対象の他の領域に適用した場合に、解析処理が意図通りに動かなくなるリスクを低減することができる。
 生成装置100は、病理に関する画像に設定された複数の部分領域の特徴量を基にして、複数の部分領域の分布を、前記特徴空間にそれぞれ配置することで、特性分布情報を生成する。これによって、特性のばらつきを持った複数の部分領域の選択を支援することができる。
 生成装置100は、複数の部分領域を設定した病理画像と、特性分布情報とを表示し、部分領域が選択された場合に、選択された部分領域に対応する特性分布情報の分布を表示する。これによって、病理画像において選択した部分領域の分布を容易に把握することができる。
 生成装置100は、病理画像に対応する特徴量を取得し、病理画像に対応する特徴量を基にして、部分領域の特徴量を算出する。これによって、特徴空間における部分領域の分布を特定することができる。
 生成装置100は、複数種類の特徴量のうち、一部の種類の特徴量を基にして、特性分布情報を生成する。たとえば、生成装置100は、複数種類の特徴量のうち、第1の組み合わせの種類の特徴量を基にして、特性分布情報を生成し、第2の組み合わせの種類の特徴量を基にして、他の特性分布情報を生成する。これによって、複数種類の特徴量のうち、ユーザの狙った特徴量に対応した特性分布情報を表示することができる。
 生成装置100は、部分領域に対する登録要求を受け付けた場合、登録要求を受け付けた部分領域を示す登録部分領域の情報を保存し、登録部分領域に対応する特性分布情報の分布を更に表示する。これによって、ユーザが既に選択した部分領域(ROI)の分布を通知することができる。
 生成装置100は、特性分布情報の各分布を特徴量の代表値によって表示し、部分領域が選択された場合に、選択された部分領域の分布を、部分領域の特徴量によって特定される広がりを持った分布によって表示する。これによって、部分領域の分布の範囲を見やすくすることができる。
[6.ハードウェア構成]
 上述してきた各実施形態に係る生成装置は、たとえば、図24に示すような構成のコンピュータ1000によって実現される。以下、本実施形態に係る生成装置100を例に挙げて説明する。図24は、生成装置の機能を実現するコンピュータ1000の一例を示すハードウェア構成図である。コンピュータ1000は、CPU1100、RAM1200、ROM(Read Only Memory)1300、HDD(Hard Disk Drive)1400、通信インターフェイス1500、及び入出力インターフェイス1600を有する。コンピュータ1000の各部は、バス1050によって接続される。
 CPU1100は、ROM1300又はHDD1400に格納されたプログラムに基づいて動作し、各部の制御を行う。例えば、CPU1100は、ROM1300又はHDD1400に格納されたプログラムをRAM1200に展開し、各種プログラムに対応した処理を実行する。
 ROM1300は、コンピュータ1000の起動時にCPU1100によって実行されるBIOS(Basic Input Output System)等のブートプログラムや、コンピュータ1000のハードウェアに依存するプログラム等を格納する。
 HDD1400は、CPU1100によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を非一時的に記録する、コンピュータが読み取り可能な記録媒体である。具体的には、HDD1400は、プログラムデータ1450の一例である本開示に係る情報処理プログラムを記録する記録媒体である。
 通信インターフェイス1500は、コンピュータ1000が外部ネットワーク1550(例えばインターネット)と接続するためのインターフェイスである。例えば、CPU1100は、通信インターフェイス1500を介して、他の機器からデータを受信したり、CPU1100が生成したデータを他の機器へ送信したりする。
 入出力インターフェイス1600は、入出力デバイス1650とコンピュータ1000とを接続するためのインターフェイスである。例えば、CPU1100は、入出力インターフェイス1600を介して、キーボードやマウス等の入力デバイスからデータを受信する。また、CPU1100は、入出力インターフェイス1600を介して、ディスプレイやスピーカーやプリンタ等の出力デバイスにデータを送信する。また、入出力インターフェイス1600は、所定の記録媒体(メディア)に記録されたプログラム等を読み取るメディアインターフェイスとして機能してもよい。メディアとは、例えばDVD(Digital Versatile Disc)、PD(Phase change rewritable Disk)等の光学記録媒体、MO(Magneto-Optical disk)等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
 例えば、コンピュータ1000が実施形態に係る生成装置100として機能する場合、コンピュータ1000のCPU1100は、RAM1200上にロードされた生成プログラムを実行することにより、取得部151、算出部152、生成部153、表示制御部154、解析部155等の機能を実現する。また、HDD1400には、本開示に係る生成プログラム等が格納される。なお、CPU1100は、プログラムデータ1450をHDD1400から読み取って実行するが、他の例として、外部ネットワーク1550を介して、他の装置からこれらのプログラムを取得してもよい。
[7.むすび]
 生成装置は、生成部を有する。生成部は、病理に関する画像に設定された部分領域の特徴量を基にして、前記部分領域の分布であって、前記部分領域に含まれる特徴量によって特定される特徴空間上の分布を、前記部分領域に対応付けて前記特徴空間に視覚可能に配置した分布情報を生成する。これによって、特性のばらつきを持った部分領域の選択を支援することができる。
 生成部は、前記病理に関する画像に設定された複数の部分領域の特徴量を基にして、前記複数の部分領域の分布を、前記特徴空間にそれぞれ配置することで、前記分布情報を生成する。これによって、特性のばらつきを持った複数の部分領域の選択を支援することができる。
 生成装置は、前記複数の部分領域を設定した病理に関する画像と、前記分布情報とを表示する表示制御部を更に有する。表示制御部は、前記部分領域が選択された場合に、選択された部分領域に対応する前記分布情報の分布を表示する。これによって、病理画像において選択した部分領域の分布を容易に把握することができる。
 生成装置は、前記病理に関する画像に対する特徴量を取得する取得部と、前記取得部が取得した特徴量を基にして、前記部分領域の特徴量を算出する算出部を更に有する。これによって、特徴空間における部分領域の分布を特定することができる。
 部分領域に含まれる特徴量は複数種類の特徴量を含み、前記生成部は、前記複数種類の特徴量のうち、一部の種類の特徴量を基にして、前記分布情報を生成する。前記生成部は、前記複数種類の特徴量のうち、第1の組み合わせの種類の特徴量を基にして、第1分布情報を生成し、第2の組み合わせの種類の特徴量を基にして、第2分布情報を生成する。これによって、複数種類の特徴量のうち、ユーザの狙った特徴量に対応した分布情報を表示することができる。
 前記表示制御部は、部分領域に対する登録要求を受け付けた場合、登録要求を受け付けた部分領域を示す登録部分領域の情報を保存し、登録部分領域に対応する前記分布情報の分布を更に表示する。これによって、ユーザが既に選択した部分領域(ROI)の分布を通知することができる。
 前記表示制御部は、前記分布情報の各分布を特徴量の代表値によって表示する。表示制御部は、前記部分領域が選択された場合に、選択された部分領域の分布を、前記部分領域の特徴量によって特定される広がりを持った分布によって表示する。これによって、部分領域の分布の範囲を見やすくすることができる。
 前記表示制御部は、前記分布情報に選択範囲が指定された場合、前記選択範囲に含まれる部分領域の分布に対応する部分領域であって、前記病理に関する画像に設定された部分領域を表示する。これによって、選択範囲に含まれる部分領域の分布に対応する部分領域を効率的に表示することができる。
 顕微鏡と、前記顕微鏡により撮像される対象物に対応する医療画像の処理に使われるソフトウェアとを含んで構成される診断支援システムであって、前記ソフトウェア(生成プログラム)は、病理に関する画像に設定された部分領域の特徴量を基にして、前記部分領域の分布であって、前記部分領域に含まれる特徴量によって特定される特徴空間上の分布を、前記部分領域に対応付けて前記特徴空間に視覚可能に配置した分布情報を生成する処理を生成装置に実行させる。これによって、特性のばらつきを持った部分領域の選択を支援することができる。
 なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
 なお、本技術は以下のような構成も取ることができる。
(1)
 病理に関する画像に設定された部分領域の特徴量を基にして、前記部分領域の分布であって、前記部分領域に含まれる特徴量によって特定される特徴空間上の分布を、前記部分領域に対応付けて前記特徴空間に視覚可能に配置した分布情報を生成する生成部
 を有する生成装置。
(2)
 前記生成部は、前記病理に関する画像に設定された複数の部分領域の特徴量を基にして、前記複数の部分領域の分布を、前記特徴空間にそれぞれ配置することで、前記分布情報を生成する前記(1)に記載の生成装置。
(3)
 前記複数の部分領域を設定した病理に関する画像と、前記分布情報とを表示する表示制御部を更に有する前記(2)に記載の生成装置。
(4)
 前記表示制御部は、前記部分領域が選択された場合に、選択された部分領域に対応する前記分布情報の分布を表示する前記(3)に記載の生成装置。
(5)
 前記病理に関する画像に対する特徴量を取得する取得部と、前記取得部が取得した特徴量を基にして、前記部分領域の特徴量を算出する算出部を更に有する前記(1)~(4)のいずれか一つに記載の生成装置。
(6)
 前記部分領域に含まれる特徴量は複数種類の特徴量を含み、前記生成部は、前記複数種類の特徴量のうち、一部の種類の特徴量を基にして、前記分布情報を生成する前記(1)~(5)のいずれか一つに記載の生成装置。
(7)
 前記生成部は、前記複数種類の特徴量のうち、第1の組み合わせの種類の特徴量を基にして、第1分布情報を生成し、第2の組み合わせの種類の特徴量を基にして、第2分布情報を生成する前記(6)に記載の生成装置。
(8)
 前記表示制御部は、部分領域に対する登録要求を受け付けた場合、登録要求を受け付けた部分領域を示す登録部分領域の情報を保存し、登録部分領域に対応する前記分布情報の分布を更に表示する前記(3)に記載の生成装置。
(9)
 前記表示制御部は、前記分布情報の各分布を特徴量の代表値によって表示する前記(3)に記載の生成装置。
(10)
 前記表示制御部は、前記部分領域が選択された場合に、選択された部分領域の分布を、前記部分領域の特徴量によって特定される広がりを持った分布によって表示する前記(9)に記載の生成装置。
(11)
 前記表示制御部は、前記分布情報に選択範囲が指定された場合、前記選択範囲に含まれる部分領域の分布に対応する部分領域であって、前記病理に関する画像に設定された部分領域を表示することを特徴とする前記(3)に記載の生成装置。
(12)
 コンピュータが、
 病理に関する画像に設定された部分領域の特徴量を基にして、前記部分領域の分布であって、前記部分領域に含まれる特徴量によって特定される特徴空間上の分布を、前記部分領域に対応付けて前記特徴空間に視覚可能に配置した分布情報を生成する
 処理を実行する生成方法。
(13)
 コンピュータを、
 病理に関する画像に設定された部分領域の特徴量を基にして、前記部分領域の分布であって、前記部分領域に含まれる特徴量によって特定される特徴空間上の分布を、前記部分領域に対応付けて前記特徴空間に視覚可能に配置した分布情報を生成する生成部
 として機能させるための生成プログラム。
(14)
 顕微鏡と、前記顕微鏡により撮像される対象物に対応する医療画像の処理に使われるソフトウェアとを含んで構成される診断支援システムであって、
 前記ソフトウェアは、
 病理に関する画像に設定された部分領域の特徴量を基にして、前記部分領域の分布であって、前記部分領域に含まれる特徴量によって特定される特徴空間上の分布を、前記部分領域に対応付けて前記特徴空間に視覚可能に配置した分布情報を生成する処理を生成装置に実行させる
 診断支援システム。
 100  生成装置
 110  通信部
 120  入力部
 130  表示部
 140  記憶部
 141  病理画像DB
 142  部分領域テーブル
 143  特性分布テーブル
 150  制御部
 151  取得部
 152  算出部
 153  生成部
 154  表示制御部
 155  解析部

Claims (14)

  1.  病理に関する画像に設定された部分領域の特徴量を基にして、前記部分領域の分布であって、前記部分領域に含まれる特徴量によって特定される特徴空間上の分布を、前記部分領域に対応付けて前記特徴空間に視覚可能に配置した分布情報を生成する生成部
     を有する生成装置。
  2.  前記生成部は、前記病理に関する画像に設定された複数の部分領域の特徴量を基にして、前記複数の部分領域の分布を、前記特徴空間にそれぞれ配置することで、前記分布情報を生成する請求項1に記載の生成装置。
  3.  前記複数の部分領域を設定した病理に関する画像と、前記分布情報とを表示する表示制御部を更に有する請求項2に記載の生成装置。
  4.  前記表示制御部は、前記部分領域が選択された場合に、選択された部分領域に対応する前記分布情報の分布を表示する請求項3に記載の生成装置。
  5.  前記病理に関する画像に対する特徴量を取得する取得部と、前記取得部が取得した特徴量を基にして、前記部分領域の特徴量を算出する算出部を更に有する請求項1に記載の生成装置。
  6.  前記部分領域に含まれる特徴量は複数種類の特徴量を含み、前記生成部は、前記複数種類の特徴量のうち、一部の種類の特徴量を基にして、前記分布情報を生成する請求項1に記載の生成装置。
  7.  前記生成部は、前記複数種類の特徴量のうち、第1の組み合わせの種類の特徴量を基にして、第1分布情報を生成し、第2の組み合わせの種類の特徴量を基にして、第2分布情報を生成する請求項6に記載の生成装置。
  8.  前記表示制御部は、部分領域に対する登録要求を受け付けた場合、登録要求を受け付けた部分領域を示す登録部分領域の情報を保存し、登録部分領域に対応する前記分布情報の分布を更に表示する請求項3に記載の生成装置。
  9.  前記表示制御部は、前記分布情報の各分布を特徴量の代表値によって表示する請求項3に記載の生成装置。
  10.  前記表示制御部は、前記部分領域が選択された場合に、選択された部分領域の分布を、前記部分領域の特徴量によって特定される広がりを持った分布によって表示する請求項9に記載の生成装置。
  11.  前記表示制御部は、前記分布情報に選択範囲が指定された場合、前記選択範囲に含まれる部分領域の分布に対応する部分領域であって、前記病理に関する画像に設定された部分領域を表示することを特徴とする請求項3に記載の生成装置。
  12.  コンピュータが、
     病理に関する画像に設定された部分領域の特徴量を基にして、前記部分領域の分布であって、前記部分領域に含まれる特徴量によって特定される特徴空間上の分布を、前記部分領域に対応付けて前記特徴空間に視覚可能に配置した分布情報を生成する
     処理を実行する生成方法。
  13.  コンピュータを、
     病理に関する画像に設定された部分領域の特徴量を基にして、前記部分領域の分布であって、前記部分領域に含まれる特徴量によって特定される特徴空間上の分布を、前記部分領域に対応付けて前記特徴空間に視覚可能に配置した分布情報を生成する生成部
     として機能させるための生成プログラム。
  14.  顕微鏡と、前記顕微鏡により撮像される対象物に対応する医療画像の処理に使われるソフトウェアとを含んで構成される診断支援システムであって、
     前記ソフトウェアは、
     病理に関する画像に設定された部分領域の特徴量を基にして、前記部分領域の分布であって、前記部分領域に含まれる特徴量によって特定される特徴空間上の分布を、前記部分領域に対応付けて前記特徴空間に視覚可能に配置した分布情報を生成する処理を生成装置に実行させる
     診断支援システム。
PCT/JP2021/015946 2020-04-30 2021-04-20 生成装置、生成方法、生成プログラム及び診断支援システム WO2021220873A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US17/996,799 US20230186658A1 (en) 2020-04-30 2021-04-20 Generation device, generation method, generation program, and diagnosis support system
CN202180030365.7A CN115427806A (zh) 2020-04-30 2021-04-20 生成装置、生成方法、生成程序和诊断支持系统

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020080843A JP2021173734A (ja) 2020-04-30 2020-04-30 生成装置、生成方法、生成プログラム及び診断支援システム
JP2020-080843 2020-04-30

Publications (1)

Publication Number Publication Date
WO2021220873A1 true WO2021220873A1 (ja) 2021-11-04

Family

ID=78281571

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/015946 WO2021220873A1 (ja) 2020-04-30 2021-04-20 生成装置、生成方法、生成プログラム及び診断支援システム

Country Status (4)

Country Link
US (1) US20230186658A1 (ja)
JP (1) JP2021173734A (ja)
CN (1) CN115427806A (ja)
WO (1) WO2021220873A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024002996A1 (en) * 2022-06-29 2024-01-04 Koninklijke Philips N.V. Automatic regional lung disease quantification from thorax x-ray images

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60171575A (ja) * 1984-02-17 1985-09-05 Hitachi Ltd 次元縮退法による特徴量表現方式
JP2009297365A (ja) * 2008-06-16 2009-12-24 Olympus Corp 画像処理装置、画像処理方法および画像処理プログラム
JP2012008027A (ja) * 2010-06-25 2012-01-12 Dainippon Screen Mfg Co Ltd 病理診断支援装置、病理診断支援方法、病理診断支援のための制御プログラムおよび該制御プログラムを記録した記録媒体
JP2013051988A (ja) * 2011-08-31 2013-03-21 Olympus Corp 画像処理装置、画像処理方法、及び画像処理プログラム
WO2014103664A1 (ja) * 2012-12-26 2014-07-03 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
WO2015198620A1 (ja) * 2014-06-23 2015-12-30 オリンパス株式会社 組織地図作成方法
JP2017215876A (ja) * 2016-06-01 2017-12-07 富士通株式会社 類似画像検索プログラム、類似画像検索方法、及び類似画像検索装置
WO2019181072A1 (ja) * 2018-03-19 2019-09-26 株式会社Screenホールディングス 画像処理方法、コンピュータプログラムおよび記録媒体

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60171575A (ja) * 1984-02-17 1985-09-05 Hitachi Ltd 次元縮退法による特徴量表現方式
JP2009297365A (ja) * 2008-06-16 2009-12-24 Olympus Corp 画像処理装置、画像処理方法および画像処理プログラム
JP2012008027A (ja) * 2010-06-25 2012-01-12 Dainippon Screen Mfg Co Ltd 病理診断支援装置、病理診断支援方法、病理診断支援のための制御プログラムおよび該制御プログラムを記録した記録媒体
JP2013051988A (ja) * 2011-08-31 2013-03-21 Olympus Corp 画像処理装置、画像処理方法、及び画像処理プログラム
WO2014103664A1 (ja) * 2012-12-26 2014-07-03 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
WO2015198620A1 (ja) * 2014-06-23 2015-12-30 オリンパス株式会社 組織地図作成方法
JP2017215876A (ja) * 2016-06-01 2017-12-07 富士通株式会社 類似画像検索プログラム、類似画像検索方法、及び類似画像検索装置
WO2019181072A1 (ja) * 2018-03-19 2019-09-26 株式会社Screenホールディングス 画像処理方法、コンピュータプログラムおよび記録媒体

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024002996A1 (en) * 2022-06-29 2024-01-04 Koninklijke Philips N.V. Automatic regional lung disease quantification from thorax x-ray images

Also Published As

Publication number Publication date
JP2021173734A (ja) 2021-11-01
US20230186658A1 (en) 2023-06-15
CN115427806A (zh) 2022-12-02

Similar Documents

Publication Publication Date Title
CN106560827B (zh) 控制方法
JP6907381B2 (ja) 制御方法及びプログラム
JP7065436B2 (ja) 制御方法及びプログラム
US10599810B2 (en) Control method and recording system
JP2019179030A (ja) 包括的なマルチアッセイ組織分析のためのシステムおよび方法
CN102138827B (zh) 图像显示装置
JP2019087272A (ja) 情報端末、制御方法及びプログラム
US20100260395A1 (en) Graphical user interface for in-vivo imaging
WO2014103664A1 (ja) 情報処理装置、情報処理方法、およびプログラム
US10261681B2 (en) Method for displaying a medical image and a plurality of similar medical images obtained from a case search system
JP2004500211A (ja) 医療画像の遠隔地での解釈
WO2021230000A1 (ja) 情報処理装置、情報処理方法及び情報処理システム
WO2021220873A1 (ja) 生成装置、生成方法、生成プログラム及び診断支援システム
JP2011103095A (ja) 医用画像表示システム及びプログラム
WO2020174863A1 (ja) 診断支援プログラム、診断支援システム及び診断支援方法
WO2021261185A1 (ja) 画像処理装置、画像処理方法、画像処理プログラム及び診断支援システム
WO2021157405A1 (ja) 解析装置、解析方法、解析プログラム及び診断支援システム
WO2021220803A1 (ja) 表示制御方法、表示制御装置、表示制御プログラム及び診断支援システム
AU2019384828A1 (en) Multimodality hanging protocols
JP2017207793A (ja) 画像表示装置および画像表示システム
US20230215010A1 (en) Information processing apparatus, information processing method, program, and information processing system
JP2006304840A (ja) 医用画像表示システム
EP3975198A1 (en) Diagnosis support program, diagnosis support system, and diagnosis support method
WO2023048268A1 (ja) 情報処理装置、情報処理方法及び情報処理プログラム
JP2003310587A (ja) 異常陰影の検出結果表示装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21795802

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21795802

Country of ref document: EP

Kind code of ref document: A1