WO2021256459A1 - 画像表示システム、及び画像表示方法 - Google Patents

画像表示システム、及び画像表示方法 Download PDF

Info

Publication number
WO2021256459A1
WO2021256459A1 PCT/JP2021/022642 JP2021022642W WO2021256459A1 WO 2021256459 A1 WO2021256459 A1 WO 2021256459A1 JP 2021022642 W JP2021022642 W JP 2021022642W WO 2021256459 A1 WO2021256459 A1 WO 2021256459A1
Authority
WO
WIPO (PCT)
Prior art keywords
color
patch
image
patches
display
Prior art date
Application number
PCT/JP2021/022642
Other languages
English (en)
French (fr)
Inventor
雅人 高橋
康博 森原
徳道 津村
凌 高橋
恵子 小川
一石 金
Original Assignee
Dic株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dic株式会社 filed Critical Dic株式会社
Priority to CN202180032478.0A priority Critical patent/CN115552512A/zh
Priority to EP21826909.0A priority patent/EP4170646A4/en
Priority to CA3182631A priority patent/CA3182631A1/en
Priority to US18/010,908 priority patent/US20230239419A1/en
Priority to KR1020227035669A priority patent/KR20230025656A/ko
Publication of WO2021256459A1 publication Critical patent/WO2021256459A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/603Colour correction or control controlled by characteristics of the picture signal generator or the picture reproducer
    • H04N1/6033Colour correction or control controlled by characteristics of the picture signal generator or the picture reproducer using test pattern analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0002Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
    • A61B5/0004Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network characterised by the type of physiological signal transmitted
    • A61B5/0013Medical image data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/1032Determining colour for diagnostic purposes
    • A61B5/1034Determining colour for diagnostic purposes by means of colour cards
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/44Detecting, measuring or recording for evaluating the integumentary system, e.g. skin, hair or nails
    • A61B5/441Skin evaluation, e.g. for skin disorder diagnosis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/45For evaluating or diagnosing the musculoskeletal system or teeth
    • A61B5/4538Evaluating a particular part of the muscoloskeletal system or a particular medical condition
    • A61B5/4542Evaluating the mouth, e.g. the jaw
    • A61B5/4552Evaluating soft tissue within the mouth, e.g. gums or tongue
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • G09G5/06Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed using colour palettes, e.g. look-up tables
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/67ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6083Colour correction or control controlled by factors external to the apparatus
    • H04N1/6086Colour correction or control controlled by factors external to the apparatus by scene illuminant, i.e. conditions at the time of picture capture, e.g. flash, optical filter used, evening, cloud, daylight, artificial lighting, white point measurement, colour temperature
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6083Colour correction or control controlled by factors external to the apparatus
    • H04N1/6088Colour correction or control controlled by factors external to the apparatus by viewing conditions, i.e. conditions at picture output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/643Hue control means, e.g. flesh tone control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0242Compensation of deficiencies in the appearance of colours
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0693Calibration of display systems
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/06Colour space transformation
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/08Biomedical applications

Definitions

  • the present invention relates to an image display system and an image display method.
  • the market related to telemedicine is growing due to factors such as chronic disease response and mobile health apps. Due to the spread of the new coronavirus infection (COVID-19), the importance of telemedicine is recognized from the viewpoint of infection prevention, and it is necessary to construct a good telemedicine system.
  • COVID-19 new coronavirus infection
  • a person infected with the new coronavirus may infect others with the new coronavirus before the symptoms of COVID-19 appear. Therefore, under the prevalence of COVID-19, in the usual face-to-face medical care, medical care premised on infection is required.
  • face-to-face medical care is performed based on the results of biochemical tests using collected blood, but it is necessary to consider the risk of infection at the time of blood collection. Also, because COVID-19 recovery takes a long time, infected individuals need to be quarantined for at least two weeks. If the number of patients surges, hospitals run out of beds and asymptomatic infected or mildly ill patients are isolated at home, in hotels, or other unsupervised locations, so care for these patients is also remote care. Is the target of.
  • Non-Patent Document 1 Greenhalgh et al. Have published a guide for general practitioners in charge of primary care (see Non-Patent Document 1). The guide states that pulse wave measurements with fitness equipment may not be suitable for determining the patient's condition from a reliability standpoint. In addition, although there is a reference to general physical evaluation such as the skin color of the subject, the point that the appearance of the color is different is not fully explained.
  • remote medical care is performed by a diagnostician such as a doctor observing a patient using an information communication system capable of transmitting and receiving images such as a conference system, in addition to interviewing by telephone or the like.
  • color-oriented medical care may be performed. For example, observation of gum color in dentistry, observation of skin color in dermatology, observation of throat color in otolaryngology, examination by skin color, tongue color, etc. performed in Chinese medicine (desired examination), etc. Can be mentioned. In such practice, improper color recognition can affect diagnosis. Therefore, it is important to accurately recognize colors when performing such medical treatment by telemedicine.
  • a diagnostic system that displays an image of an object, a photographing means that captures the image of the object as image data quantified for each pixel, and a calculation means that obtains predetermined data necessary for various diagnoses from the image data.
  • a diagnostic system having the image data obtained by the photographing means, the transfer means for transferring any of the predetermined data and the image data, and the display means for displaying the predetermined data and the image data has been proposed. (See Patent Document 1).
  • the proposed technique makes the diagnostic system complicated and lacks simplicity.
  • the present inventors provide medical examinations by doctors who place importance on color, such as medical examinations based on skin color and tongue color (desired examinations), which are performed in Kampo medicine, and medical examinations by dentists using colors. We examined techniques that are useful when performing remote medical care.
  • an object of the present invention is to provide an image display system and an image display method useful for remote medical care using color information such as a patient's skin color and tongue color.
  • the present inventors have taken a color chart with color information such as skin color and tongue color at the same time when taking a picture of the patient, so that the skin color of the patient can be taken. , It has been found that it is possible to facilitate remote medical treatment using color information such as tongue color, and the present invention has been completed.
  • the photographing means is an electronic device with a camera function.
  • the display means is a personal computer.
  • the display means measures the color of at least one patch in the color chart in the image displayed on the display unit under a light source at a place where the display unit is placed.
  • the display unit further comprising a display color of the display unit and a color correction unit for correcting the color information of the image data so as to approach or match the color of at least one patch of the corresponding patch.
  • the color correction unit The display of the display unit so that the corresponding display color of the display unit approaches or matches the color of at least one patch in the color chart measured under a light source at the place where the display unit is placed.
  • the first correction unit that corrects the color and The color of at least one patch in the color chart measured under the light source of the place where the display unit is placed is close to or matches the color of the corresponding at least one patch in the color chart of the image data.
  • a second correction unit that corrects the color information of the image data, and The image display system according to [10].
  • An image display method characterized by having.
  • FIG. 1 shows a configuration diagram of an example of an image display system.
  • the image display system of FIG. 1 includes a color chart 1, a photographing means 2, and a display means 3.
  • the color chart has multiple patches.
  • the plurality of patches have at least three patches selected from the group consisting of the following first to seventh patches.
  • the color of the first patch corresponds to the color of tongue coating with accumulated moisture (excess water).
  • the color of the second patch corresponds to the inflamed skin color.
  • the color of the third patch corresponds to the color of the tongue (poor microcirculation) of blood stasis.
  • the color of the fourth patch corresponds to the color of the part with healthy tongue coating.
  • the color of the sixth patch corresponds to a healthy tongue color.
  • the color of the 7th patch corresponds to the color of the hot tongue.
  • the color chart has at least three selected from the group consisting of the first patch to the seventh patch, preferably at least five, and more preferably seven.
  • the combination of the first patch to the seventh patch is not particularly limited as long as it is three or more selected from the seven patches, but the color tones are different such as purple-red, light red-purple, and deep yellow-red. It is preferable to select 3 or more batches.
  • the color chart may have patches other than the 1st patch to the 7th patch.
  • patches include achromatic patches, chromatic patches, and the like.
  • the plurality of patches have, for example, a plurality of achromatic patches having different brightness.
  • Examples of the type of achromatic patch include 5 to 7 types. If the number of types of achromatic color patches is three or less, for example, when color correction of an image whose color chart is taken by a camera is performed using the achromatic color patches, it is not possible to sufficiently cope with the non-linearity of the camera. , The accuracy of color correction may decrease. In that respect, the number of types of achromatic patches is preferably 5 or more.
  • the plurality of patches have, for example, a plurality of chromatic color patches different from the first color to the seventh color.
  • Examples of the types of these chromatic patches include 15 to 20 types.
  • each patch in the color chart is not particularly limited, but it is preferable that the size is not too small so as not to interfere with color recognition. In that respect, 0.25 cm 2 or more is preferable. Further, 4 cm 2 or less is preferable in that the color chart does not become too large. Examples of the shape of each patch include a square.
  • the color chart preferably has an automatic recognition marker for automatically recognizing at least one of a plurality of patches. Since the color chart has a marker for automatic recognition, it is possible to automatically perform the work of recognizing each patch of the color chart in the image data when performing the color correction described later.
  • the shape and size of the marker for automatic recognition are not particularly limited, but are preferably, for example, the same shape and size as the patch.
  • the size of the automatic recognition marker is preferably 0.25 cm 2 or more 4 cm 2 or less.
  • the marker for automatic recognition usually has a pattern that each patch does not have.
  • the color chart preferably has two or more markers for automatic recognition having different patterns. When two or more automatic recognition markers are used, each patch is automatically recognized in consideration of the relative positional relationship between the two or more automatic recognition markers, so that the automatic recognition of each patch is improved. improves.
  • the marker for automatic recognition is not particularly limited as long as it is a marker that enables automatic recognition, but the version information of the color chart, the link to the usage, and the use of the marker for automatic recognition are described by a two-dimensional bar code or the like. Information such as the deadline may be added.
  • the color chart may fade depending on the storage condition. In that respect, it may be preferable to set an expiration date for the color chart.
  • the automatic recognition marker is detected from the image obtained by photographing the color chart.
  • the detection of the automatic recognition marker can be performed, for example, by using an image recognition means provided with general-purpose image recognition processing software.
  • a color chart is performed by pattern matching an image of an automatic recognition marker stored in the image recognition means in advance with an image obtained by photographing a color chart using an image recognition means.
  • the automatic recognition marker is detected from the image obtained by taking a picture of.
  • the positional relationship between the automatic recognition marker and each patch in the color chart is stored in advance in the image recognition means.
  • the positional relationship between each of the two automatic recognition markers and each patch is stored in advance in the storage unit of the image recognition means.
  • the image recognition means a combination of a CPU and a memory can be mentioned. Then, by using the detected automatic recognition marker and applying the grasped positional relationship to the color chart of the image obtained by shooting, each patch in the color chart of the image obtained by shooting is applied. Can be automatically recognized.
  • the size of the color chart is not particularly limited, but the area of the color chart is preferably 40 cm 2 or more and 150 cm 2 or less because it can be held with one hand and it does not get in the way even if the color chart is held near the face. ..
  • the color chart is usually in the form of a sheet.
  • the shape of the main surface of the color chart is, for example, a rectangle.
  • the material of the color chart is not particularly limited as long as each patch can be printed, and may be made of, for example, plastic resin (for example, synthetic paper) or paper.
  • the color chart preferably has a blank portion in the lower right part of the main surface (lower left part when viewed from the front). Many humans are right-handed. Therefore, holding the blank portion of the color chart with the right hand makes it easier to naturally arrange the color chart on the right side of the face.
  • FIG. 2 is a schematic diagram of an example of a color chart.
  • the color chart in FIG. 2 is grayscale, but the actual color chart includes chromatic patches.
  • the color chart of FIG. 2 is a rectangle having a length of about 90 mm and a width of about 55 mm, and has an upper upper right portion (upper left portion when viewed from the front) and a lower left lower portion (lower right when viewed from the front). ), 10 mm square automatic recognition markers 11a and 11b are arranged.
  • the two automatic recognition markers 11a and 11b have a white pattern on a black background.
  • the white pattern of the automatic recognition marker 11a and the white pattern of the automatic recognition marker 11b are different from each other.
  • each patch of 10 mm square is arranged in 6 (A to F) rows and 5 (a to e) columns without any space.
  • achromatic patches are arranged in order of lightness.
  • Table 1-1 shows the L * a * b * values of each patch in the color chart shown in FIG.
  • Table 1-2 shows an outline of the colors of each patch in the color chart shown in FIG.
  • Table 1-3 shows the relationship between the skin color and the tongue color of the first to seventh patches.
  • the photographing means is a means for simultaneously photographing a color chart and a person to be photographed and acquiring image data. In the shooting process, the color chart and the person to be shot are shot at the same time, and image data is acquired.
  • the photographing step is performed by, for example, an imaging means.
  • the person to be photographed is, for example, a patient who receives a telemedicine.
  • Examples of the photographing means include a camera and an electronic device with a camera function.
  • Examples of the electronic device with a camera function include a mobile phone, a smartphone, a tablet terminal, a personal computer, a surveillance camera, a camera system attached to a medical diagnostic device (for example, a camera system attached to an f-MRI) and the like.
  • the camera in the personal computer as a shooting means may be a built-in camera or an external camera.
  • Examples of the image pickup device included in the photographing means include a CCD (charge-coupled device) and a CMOS (complementary metal oxide semiconductor).
  • the photographing means has, for example, a transmission unit for transmitting image data.
  • the transmission of the image data by the transmission unit may be performed by wireless communication or by wired communication.
  • wireless transmission for example, wireless communication of any available method such as Wi-Fi, LTE, 5G can be used.
  • the image obtained by shooting may be a still image or a moving image.
  • the display means is a means for receiving image data and displaying the image data as an image on the display unit, and has at least a display unit and, if necessary, another unit such as a color correction unit.
  • the image data is received and the image data is displayed on the display unit as an image.
  • further color correction processing may be performed.
  • the display step is performed by, for example, a display means.
  • FIG. 3 shows a functional configuration diagram of an example of the display means.
  • the display means 3 of FIG. 3 has a display unit 3a and a color correction unit 3b.
  • the display means has, for example, a receiving unit for receiving image data.
  • the image data is transmitted from the photographing means and received by the display means, for example.
  • Image data is usually transmitted and received via an internet line.
  • the file format of the image data is not particularly limited, and any usable method can be used.
  • JPG PEG
  • GIF GIF
  • PNG PNG
  • BMP BMP
  • moving images can be used.
  • AVI QuickTime
  • Mpeg-1 Mpeg-2
  • WMV WMV
  • FLV FLV
  • MPEG-4 MPEG-4
  • image data can be performed using, for example, a communication service such as e-mail or a social networking service.
  • a communication service such as e-mail or a social networking service.
  • voice data may be transmitted / received in addition to the image data by using a web conferencing system such as Skype, Zoom, or Microsoft Teams.
  • the method of transmitting the image data from the photographing means to the display means may be uploading the image data from the photographing means to the cloud server and downloading the image data from the cloud server to the display means using the cloud. That is, the display means may receive image data from the cloud server. Further, the method of transmitting image data from the photographing means to the display means may be performed by physical movement via an external memory. For example, the image data acquired by the shooting means is stored in an external memory such as a USB memory, and after the external memory is physically moved by mail or the like, the external memory is connected to the display means so that the display means can display an image. You can receive the data. Further, by storing the received image data a plurality of times in the display means, it is possible to confirm the change with time of the person to be photographed by using the image data.
  • the display unit is not particularly limited as long as it can display image data, and examples thereof include a color display.
  • the display means is not particularly limited, and examples thereof include mobile phones, smartphones, tablet terminals, personal computers, and output terminals of electronic medical record systems.
  • Color correction unit, color correction processing the color of at least one patch in the color chart in the image displayed on the display is measured under the light source of the place where the display is placed, and the color of the corresponding at least one patch in the color chart is measured.
  • This is a unit for correcting the display color of the display unit and the color information of the image data so as to approach or match the colors.
  • the color correction process the color of at least one patch in the color chart in the image displayed on the display unit is measured under the light source of the place where the display unit is placed, and the color of the corresponding at least one patch in the color chart is measured.
  • the display color of the display unit and the color information of the image data are corrected so as to approach or match the colors.
  • the color correction process is performed by, for example, a color correction unit.
  • the display means may or may not have a color correction unit, but it is preferable that the display means has a color correction unit.
  • the display step may or may not have a color correction process, but it is preferable to have a color correction process.
  • the color correction unit is, for example, a CPU that executes a program for performing color correction. Here, how close the colors are to each other by color correction may be appropriately selected according to the purpose. Such color correction may be performed using only one patch in the color chart, or may be performed using a plurality of patches.
  • the color correction unit has, for example, a first correction unit and a second correction unit.
  • the first correction unit is a display unit so that the corresponding display color of the display unit approaches or matches the color of at least one patch in the color chart measured under the light source of the place where the display unit is placed. It is a part for correcting the display color of.
  • the second correction unit the color of at least one patch in the color chart measured under the light source of the place where the display unit is placed approaches the color of at least one patch in the color chart of the image data. Is a part for correcting the color information of the image data so as to match.
  • the color correction process includes, for example, a first correction process and a second correction process.
  • the first correction process the display unit so that the corresponding display color of the display unit approaches or matches the color of at least one patch in the color chart measured under the light source of the place where the display unit is placed.
  • the display color of is corrected.
  • the second correction process the color of at least one patch in the color chart measured under the light source of the place where the display unit is placed approaches the color of at least one patch in the color chart of the image data.
  • the color information of the image data is corrected so that it matches.
  • the first correction process is performed by, for example, the first correction unit.
  • the second correction process is performed by, for example, the second correction unit.
  • the color information (for example, RGB value) in the obtained image data differs depending on the difference in the shooting environment, the type of shooting means, and the like.
  • Differences in the shooting environment include, for example, in the case of indoor shooting, the type of light source of the lighting, the brightness of the lighting, and the like.
  • the difference in the positional relationship between the light source and the shooting target (color chart and shooting target person) also affects the color information in the obtained image data.
  • Differences in the types of photographing means include, for example, differences in the types of image pickup elements, differences in image processing engines, and the like.
  • the image processing engine is, for example, a system LSI that processes a raw image output from an image sensor and converts it into an image suitable for human observation.
  • the system LSI which is an image processing engine, is composed of, for example, an embedded CPU, an embedded DSP, a dedicated arithmetic circuit for performing face detection, a program memory, a data memory, an image memory, and the like.
  • the color information of the patch of the color chart may differ for each obtained image data due to a difference in the type of smartphone as a shooting means, a difference in the type of indoor lighting, and the like. Therefore, even if it is displayed on the same display unit, the color of the patch of the color chart in the image may be different.
  • the color of the patch of the color chart recognized by a person when observing the color chart depends on the observing environment (for example, a light source). This is because the spectral distribution of the light that illuminates the color chart depends on the light source. Therefore, different light sources have different color chart patch colors that are recognized or measured when observing the color chart. Therefore, even if the RGB values of the colors of each patch of the color chart are accurately displayed on the display unit, the color of each patch of the color chart displayed on the display unit and the person under the light source of the place where the display unit is placed. It may be different from the color of each patch in the color chart recognized by. Therefore, the above-mentioned color correction unit and color correction processing become useful.
  • color correction when a doctor performs telemedicine of a patient using a color chart will be described.
  • the purpose of color correction is to change the color of the color chart (color chart taken with the patient) in the image displayed on the display unit used by the doctor (for example, the display of the PC) to the color in the hands of the doctor, which is the correct value.
  • Match the color of the chart (the color of the color chart that the doctor recognizes under a certain light source).
  • the color correction is performed in the order of color correction of the display color used by the doctor (first correction process) and color correction of the image obtained by the patient (second correction process).
  • the display unit so that the corresponding display color of the display unit approaches or matches the color of at least one patch in the color chart measured under the light source of the place where the display unit is placed.
  • the display color of is corrected. Specifically, first, the color of at least one patch in the color chart measured under the light source of the place where the display unit is placed is measured. Next, the display color of the display is corrected so as to approach or match the measured color. The person recognizes the color by the tristimulus value XYZ. Therefore, the XYZ value of the correct answer value is measured and obtained by a colorimeter under the same lighting environment as the doctor's lighting environment.
  • a Konica Minolta color luminance meter CS-100A is used as a colorimeter.
  • the correction of the display is specifically carried out as follows with reference to the following non-patent documents. Mathushita, F.M. , Kiyomitsu, K.K. , Ogawa, K.K. , & Tsumura, N.K. (2019). Assessment of Kampo disease states using facial images. Artificial Life and Robotics, 24 (1), pp. 44-51
  • the tristimulus values X', Y', and Z'of the display color can be decomposed into contribution terms of R, G, and B as shown in the following equation (2).
  • the three stimulus values corresponding to each light emission can be calculated from the luminance L and the color coordinates x and y when the display is measured.
  • the relationship between XY and YY for each emission can be expressed by a linear equation such as the following equation (3).
  • the brightness of each of RGB when it is desired to display a certain tristimulus value X'Y'Z'on the display can be obtained by the formula (5).
  • the RGB value reference RGB value
  • the display color (RGB value) of the display corresponding to the patch color (RGB value) of the color chart is corrected to the calculated RGB value (reference RGB value).
  • the color of at least one patch in the color chart measured under the light source of the place where the display unit is placed approaches the color of at least one patch in the color chart of the image data.
  • the color information of the image data is corrected so that it matches.
  • the RGB values of at least one patch of the color chart and the image data of the image obtained by photographing the patient are corrected to the corresponding reference RGB values calculated by the first processing correction.
  • the part of each patch of the color chart is extracted using the marker for automatic recognition, and for each patch, the average value of the RGB values of each pixel in the patch is obtained. Ask for.
  • a model is created by multiple regression from the difference between the averaged number (RGB value) and the corresponding reference RGB value. Based on the model, all the pixels of the image data are converted to correct the color of the photographed person's face, tongue, etc.
  • the correction is performed by examining the correlation between the RGB value of the color chart patch and the corresponding reference RGB value in the image data of the image obtained by the patient.
  • gamma correction of the image data is performed by using the achromatic color in the patch of the color chart of the image obtained by shooting.
  • the RGB values of the image data are corrected by using all the chromatic colors in the patch of the color chart. The details of gamma correction will be described.
  • the RGB value of the achromatic part in the image obtained by photographing is obtained.
  • Perform gamma correction is also performed for the gray scale portion of the reference RGB value.
  • gamma correction is performed for each of the RGB values.
  • R the form is as shown in equation (6).
  • R c is the R value of the image obtained by shooting
  • Y is the brightness when the achromatic color in the patch of the color chart is measured by the colorimeter.
  • the brightness of the achromatic color is converted to be in the range of 0 to 1 by normalizing with the brightness value of white so that black is 0 and white is 1. ..
  • This model corrects gamma for any RGB value. Specifically, the RGB value corrected for gamma is calculated by multiplying each RGB value by the inverse function of the equation (6).
  • R'c is the R value of the corrected image
  • R r , Gr , and Br are the RGB values before the correction.
  • Each parameter (a, b, c, d) is obtained by multiple regression using each patch.
  • FIG. 4 is a flowchart of an example of the image display method.
  • the color chart 1 and the image shooting target person 21 are simultaneously photographed by using the smartphone which is the photographing means 2 (S1).
  • the image data obtained by shooting is transmitted from the shooting means 2 to the display means 3 (S2).
  • the display means 3 receives the image data transmitted from the photographing means 2 (S3). Transmission / reception is performed, for example, by attaching image data to an e-mail.
  • the image data is displayed as an image on the display unit 3a (display) of the PC which is the display means 3 (S4).
  • an example of the image display method is performed. Further, when performing remote medical treatment using the image display method, as shown in FIG. 7, the doctor 4 who is the diagnostician has the same color chart 1 as the color chart 1 which the patient who is the imaging subject 21 has. While considering the difference between the color of the color chart 1 displayed on the display unit 3a and the color of the color chart 1 held, the skin color and tongue color of the patient's face displayed on the display unit 3a can be obtained. Observe and make a diagnosis.
  • FIG. 8 is a flowchart of another example of the image display method.
  • the color chart 1 and the image shooting target person 21 are photographed at the same time by using the smartphone which is the photographing means 2 (S11).
  • the image data obtained by shooting is transmitted from the shooting means 2 to the display means 3 (S12).
  • the display means 3 receives the image data transmitted from the photographing means 2 (S13). Transmission / reception is performed, for example, by attaching image data to an e-mail.
  • the display color of the display unit 3a is corrected (S14).
  • the display unit so that the corresponding display color of the display unit approaches or matches the color of at least one patch in the color chart measured under the light source of the place where the display unit is placed. Correct the display color. This color correction is performed by the color correction unit 3b.
  • the image data is corrected (S15). Specifically, the color of at least one patch in the color chart measured under the light source of the place where the display unit is placed approaches the color of at least one patch in the color chart of the image data.
  • the color information of the image data is corrected so as to match (S15). This color correction is performed by the color correction unit 3b.
  • each patch of the color chart in the image is automatically recognized by using the marker for automatic recognition.
  • the corrected image data is displayed as an image on the display unit 3a (display) of the PC which is the display means 3 (S16).
  • the step S14 does not have to be performed after the step S13, and the order in which the step S14 and the other steps are performed may be arbitrary.
  • the doctor 4 who is the diagnostician has the same color chart 1 as the color chart 1 which the patient who is the imaging subject 21 has. While holding the patient, the patient's face and tongue color displayed on the display unit 3a are observed to make a diagnosis.
  • the skin color of the patient's face in the image is closer to the skin color of the patient's face when face-to-face medical treatment is performed, as compared with the case where the color correction is not performed. It is in a state. Therefore, when a doctor desires a patient's skin color and tongue color, he / she can perform telemedicine in a state similar to that of face-to-face medical treatment.
  • Example 1 According to the flowchart shown in FIG. 4, image display and simulated diagnosis of telemedicine were performed. As the color chart, the color chart shown in FIG. 2 was used. Eight doctors from the Department of Kampo Medicine, Kanazawa University Hospital performed a simulated diagnosis of telemedicine. First, the patient used the camera function of the smartphone to take a picture of both his face and the color chart. The photograph image obtained by taking a picture was attached to an e-mail and sent to a doctor. The doctor who received the e-mail displayed the photographic image on the display of the PC. The doctor compared the actual color chart at hand with the color chart shown in the photographic image, and judged the skin color of the patient's face with the doctor's feeling while considering the difference between them.
  • Table 2 shows the evaluation comments of the eight doctors who were the judges. Doctors with knowledge of color gave good reviews. Doctors with little knowledge of color found utility value by explaining how to use it. There were no negative opinions, and it was evaluated that better medical care could be provided than when the color chart was not used.
  • Example 2 The image was displayed according to the flowchart shown in FIG. As the color chart, the color chart shown in FIG. 2 was used.
  • the color correction of the image was performed by the above-mentioned method using the formulas (1) to (7).
  • the program for color correction was created in Python.
  • the skin color of the patient's face in the image displayed on the display unit was similar to the skin color of the face when it was assumed that face-to-face medical treatment was performed.
  • One Chinese medicine doctor evaluated the image displayed on the display unit. According to the evaluation results, there was an opinion that the color correction was performed within a reliable range in clinical practice.

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Pathology (AREA)
  • Signal Processing (AREA)
  • Animal Behavior & Ethology (AREA)
  • Molecular Biology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biophysics (AREA)
  • Veterinary Medicine (AREA)
  • Surgery (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Dentistry (AREA)
  • Computer Hardware Design (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • General Business, Economics & Management (AREA)
  • Business, Economics & Management (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Physiology (AREA)
  • Dermatology (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Orthopedic Medicine & Surgery (AREA)
  • Rheumatology (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)

Abstract

本発明は患者の肌色、舌色などの色情報を用いた遠隔診療に有用な画像表示システムなどの提供を課題とし、特定の色を有する第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチ複数のパッチを有するカラーチャートと、前記カラーチャート及び撮影対象者を同時に撮影し、画像データを取得する撮影手段と、前記画像データを受け取り、前記画像データを画像として表示部に表示する表示手段と、を有する画像表示システムにより前記課題を解決した。

Description

画像表示システム、及び画像表示方法
 本発明は、画像表示システム、及び画像表示方法に関する。
 遠隔医療に関連する市場は、慢性疾患対応やモバイルヘルスアプリなども一要因となり、成長している。新型コロナウイルス感染症(COVID-19)の蔓延により、感染予防の観点からも遠隔診療の重要性が認識され、良好な遠隔診療システムの構築の必要性が生じている。
 新型コロナウイルスの感染者は、COVID-19の症状が現れる前に、他者に新型コロナウイルスを感染させる可能性がある。そのため、COVID-19の蔓延下においては、通常の対面診療では感染を前提にした診療が必要となる。
 一般的に行われる対面診療は、採血した血液による生化学検査結果を基に行われているが、採血時の感染リスクを考慮する必要が生じる。また、COVID-19の回復には長い時間がかかるため、感染した個人は少なくとも2週間は隔離する必要がる。患者数が急増した場合、病院はベッドを使い果たし、無症候性の感染または軽症の患者は、家、ホテル、または他の監視されていない場所で隔離されるため、これらの患者のケアも遠隔診療の対象となる。
 これらの状況に対処するため、Greenhalghらは、プライマリケアを担当する一般開業医向けのガイドを公開している(非特許文献1参照)。このガイドには、フィットネス機器で脈波計測すると、信頼性の観点から患者の状態を把握するには適していない可能性があると記載されている。また、対象者の肌色などの一般的な物理的評価についての言及はあるものの、色の見え方が異なるという点については、十分に説明されていない。
 ここで、遠隔診療は、電話などでの問診の他、会議システムなどの画像の送受信が可能な情報通信システムを用い、医師などの診断者が患者を観察することでも行われる。
 診療においては、色を重視する診療が行われる場合がある。例えば、歯科における歯茎の色の観察、皮膚科における皮膚の色の観察、耳鼻咽喉科における喉の色の観察、漢方医学で行われている、肌色、舌色などによる診察(望診)などが挙げられる。このような診療においては、色の認識が正しく行われないことが診断に影響を与えることがある。
 そのため、そのような診療を遠隔診療で行う際には、色を正確に認識することが重要である。
 実用的な色再現系は、国際照明委員会(CIE)によって標準化が行われてきている。しかし、実際に色再現を行う場合は、校正機器の使用など、簡単には行えない。遠隔医療において、色再現を行う場合、医師側のディスプレイの補正は、市販の表示装置のプロファイル作成ツールを用いれば、比較的容易に行う事が出来る。しかし、患者側の補正は、光源の分光放射強度やカメラ性能を考慮した補正が必要で、簡単では無い。加えて、最近の技術の進歩により、スマートフォンでは、自動的な色補正、例えばオートホワイトバランスだけでなく、美肌効果などの処理が行われているため、補正が一層困難となる。
 他方、遠隔診療において、ディスプレイの画像色再現に左右されず、顔の肌色などの皮膚色から得られる客観的生体情報の定量化を図ることで、より的確な診断をするために、各種診断可能な対象物の画像を表示する診断システムであって、対象物の画像を各画素毎に定量化した画像データとして取り込む撮影手段と、前記画像データから各種診断に必要な所定データを得る演算手段と、前記撮影手段によって得られた画像データ、および、前記所定データおよび画像データのうち何れかを転送する転送手段と、前記所定データおよび画像データを表示する表示手段とを有する診断システムが提案されている(特許文献1参照)。しかし、この提案の技術では、診断システムが複雑になり簡便性に欠ける。
特開平10-165375号公報
Trisha Greenhalgh et. al., Video consultations: a guide for practice, BJGP Life (2020)
 そこで、本発明者らは、漢方医学で行われている、肌色、舌色などによる診察(望診)をはじめとした、色を重視する医師の診療や、色を用いた歯科医師の診療を遠隔診療で行う際に有用な技術について検討した。
 すなわち、本発明は、患者の肌色、舌色などの色情報を用いた遠隔診療に有用な、画像表示システム、及び画像表示方法を提供することを目的とする。
 本発明者らは、上記課題を解決するために鋭意研究を重ねた結果、患者を撮影する際に、肌色、舌色などの色情報を備えたカラーチャートを同時に撮影することで、患者の肌色、舌色などの色情報を用いた遠隔診療を行いやすくすることができることを見出し、本発明の完成に至った。
 すなわち、本発明は、以下の態様を包含するものである。
[1] 以下の第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有する複数のパッチを有するカラーチャートと、
 前記カラーチャート及び撮影対象者を同時に撮影し、画像データを取得する撮影手段と、
 前記画像データを受け取り、前記画像データを画像として表示部に表示する表示手段と、
を有することを特徴とする画像表示システム。
 第1パッチ:L値においてL=72、a=8、及びb=22で表される第1色、又は第1色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第2パッチ:L値においてL=78、a=30、及びb=15で表される第2色、又は第2色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第3パッチ:L値においてL=58、a=27、及びb=7で表される第3色、又は第3色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第4パッチ:L値においてL=60、a=20、及びb=5で表される第4色、又は第4色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第5パッチ:L値においてL=48、a=25、及びb=2で表される第5色、又は第5色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第6パッチ:L値においてL=52、a=50、及びb=13で表される第6色、又は第6色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第7パッチ:L値においてL=33、a=40、及びb=30で表される第7色、又は第7色に対してL色空間において色差ΔEが5以下の色、を有する領域
[2] 前記複数のパッチが、明度が異なる複数の無彩色のパッチを有する、[1]に記載の画像表示システム。
[3] 前記複数のパッチが、前記第1色から前記第7色とは異なる複数の有彩色のパッチを有する、[1]又は[2]に記載の画像表示システム。
[4] 前記カラーチャートの面積が、40cm以上150cm以下である、[1]~[3]のいずれかに記載の画像表示システム。
[5] 前記複数のパッチの各面積が、0.25cm以上4cm以下である、[1]~[4]のいずれかに記載の画像表示システム。
[6] 前記カラーチャートが、前記複数のパッチの少なくとも一つを自動認識するための自動認識用マーカを有する、[1]~[5]のいずれかに記載の画像表示システム。
[7] 前記カラーチャートが、主面の右下部に空白部を有する、[1]~[6]のいずれかに記載の画像表示システム。
[8] 前記撮影手段が、カメラ機能付き電子機器である、[1]~[7]のいずれかに記載の画像表示システム。
[9] 前記表示手段が、パーソナルコンピュータである、[1]~[8]のいずれかに記載の画像表示システム。
[10] 前記表示手段が、前記表示部に表示される前記画像における前記カラーチャート内の少なくとも一つのパッチの色が、前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の対応する少なくとも一つのパッチの色に近づく乃至は一致するように、前記表示部の表示色、及び前記画像データの色情報を補正する色補正部を更に有する、[1]~[9]のいずれかに記載の画像表示システム。
[11] 前記色補正部が、
  前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の少なくとも一つのパッチの色に、前記表示部の対応する表示色が近づく乃至は一致するように、前記表示部の表示色を補正する第1補正部と、
  前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の少なくとも一つのパッチの色に、前記画像データの前記カラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、前記画像データの色情報を補正する第2補正部と、
を有する、[10]に記載の画像表示システム。
[12] 以下の第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有する複数のパッチを有するカラーチャート及び撮影対象者が同時に撮影され、画像データが取得される撮影工程と、
 前記画像データが受け取られ、前記画像データが画像として表示部に表示される表示工程と、
を有することを特徴とする画像表示方法。
 第1パッチ:L値においてL=72、a=8、及びb=22で表される第1色、又は第1色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第2パッチ:L値においてL=78、a=30、及びb=15で表される第2色、又は第2色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第3パッチ:L値においてL=58、a=27、及びb=7で表される第3色、又は第3色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第4パッチ:L値においてL=60、a=20、及びb=5で表される第4色、又は第4色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第5パッチ:L値においてL=48、a=25、及びb=2で表される第5色、又は第5色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第6パッチ:L値においてL=52、a=50、及びb=13で表される第6色、又は第6色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第7パッチ:L値においてL=33、a=40、及びb=30で表される第7色、又は第7色に対してL色空間において色差ΔEが5以下の色、を有する領域
 本発明によれば、患者の肌色、舌色などの色情報を用いた遠隔診療に有用な、画像表示システム、及び画像表示方法を提供することができる。
画像表示システムの一例の構成図である。 カラーチャートの一例の模式図である。 表示手段の一例の機能構成図である。 画像表示方法の一例のフローチャートである。 撮影手段でカラーチャート及び患者を同時に撮影する一例の模式図である。 表示手段の表示部に撮影して得られた画像を表示した一例の模式図である。 医師が表示手段の表示部に撮影して得られた画像を表示して遠隔診療を行う一例の模式図である。 画像表示方法の他の一例のフローチャートである。
 以下、本発明の画像表示システム及び画像表示方法について詳細に説明するが、以下に記載する構成要件の説明は、本発明の一実施態様としての一例であり、これらの内容に特定されるものではない。
(画像表示システム、画像表示方法)
 本発明の画像表示システムは、カラーチャートと、撮影手段と、表示手段とを少なくとも有し、更に必要に応じて、その他の手段を有する。
 本発明の画像表示方法は、撮影工程と、表示工程とを少なくとも有し、更に必要に応じて、その他の工程を有する。
 図1に画像表示システムの一例の構成図を示す。図1の画像表示システムは、カラーチャート1と、撮影手段2と、表示手段3とを有する。
<カラーチャート>
 カラーチャートは、複数のパッチを有する。
 複数のパッチは、以下の第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有する。
 第1パッチ:L値においてL=72、a=8、及びb=22で表される第1色、又は第1色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第2パッチ:L値においてL=78、a=30、及びb=15で表される第2色、又は第2色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第3パッチ:L値においてL=58、a=27、及びb=7で表される第3色、又は第3色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第4パッチ:L値においてL=60、a=20、及びb=5で表される第4色、又は第4色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第5パッチ:L値においてL=48、a=25、及びb=2で表される第5色、又は第5色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第6パッチ:L値においてL=52、a=50、及びb=13で表される第6色、又は第6色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第7パッチ:L値においてL=33、a=40、及びb=30で表される第7色、又は第7色に対してL色空間において色差ΔEが5以下の色、を有する領域
 第1パッチが有する色は、湿(余分な水)が蓄積した舌苔の色に対応する。
 第2パッチが有する色は、炎症肌色に対応する。
 第3パッチが有する色は、淤血の(微小循環が悪い)舌の色に対応する。
 第4パッチが有する色は、健康な舌苔のある部分の色に対応する。
 第5パッチが有する色は、舌深静脈の怒張=淤血の色に対応する。
 第6パッチが有する色は、健康な舌の色に対応する。
 第7パッチが有する色は、熱がある舌の色に対応する。
 第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有するカラーチャートを用いることで、患者の肌色、舌色などの色情報を用いた診断を行いやすくできる。
 カラーチャートは、第1パッチから第7パッチからなる群から選択される少なくとも3つを有し、少なくとも5つを有することが好ましく、7つを有することがより好ましい。
 これら第1パッチから第7パッチの組み合わせとして、7つのパッチから選択される3つ以上であれば特に制限されるものではないが、紫赤、薄赤紫、濃い黄赤のように色調が異なるバッチを3つ以上選択することが好ましい。
 カラーチャートは、第1パッチから第7パッチ以外のパッチを有していてもよい。そのようなパッチとしては、無彩色のパッチ、有彩色のパッチなどが挙げられる。
 複数のパッチは、例えば、明度が異なる複数の無彩色のパッチを有する。無彩色のパッチの種類は、例えば、5~7種類が挙げられる。無彩色のパッチの種類が3種類以下であると、例えば、カメラによりカラーチャートが撮影された画像の色補正を、無彩色のパッチを用いて行う際、カメラの非線形性に十分に対応できず、色補正の精度が低下する場合がある。その点で、無彩色のパッチの種類は、5種類以上が好ましい。
 複数のパッチは、例えば、第1色から第7色とは異なる複数の有彩色のパッチを有する。これらの有彩色のパッチの種類は、例えば、15~20種類が挙げられる。
 カラーチャートにおける各パッチの大きさとしては、特に限定されないが、色の認識を妨げない点で小さすぎないことが好ましい。その点で、0.25cm以上が好ましい。また、カラーチャートが大きくなりすぎない点で、4cm以下が好ましい。
 各パッチの形状としては、例えば、正方形などが挙げられる。
 カラーチャートは、複数のパッチの少なくとも一つを自動認識するための自動認識用マーカを有することが好ましい。カラーチャートが自動認識用マーカを有することにより、後述する色補正を行う際の、画像データにおけるカラーチャートの各パッチを認識する作業を、自動で行うことができる。
 自動認識用マーカの形状、大きさとしては、特に限定されないが、例えば、パッチと同程度の形状、大きさであることが好ましい。例えば、自動認識用マーカの大きさは、0.25cm以上4cm以下が好ましい。また、自動認識用マーカは、通常、各パッチが有さない模様を有している。
 カラーチャートは、模様が異なる自動認識用マーカを2つ以上有することが好ましい。2つ以上の自動認識用マーカを用いる場合には、2つ以上の自動認識用マーカの相対的な位置関係を考慮して各パッチの自動認識が行われることから、各パッチの自動認識性が向上する。
 自動認識用マーカは、自動認識を可能とするマーカであれば特に制限されるものではないが、自動認識用マーカに対し二次元バーコード等によりカラーチャートのバージョン情報、使用方法へのリンク、使用期限等の情報を付加してもよい。なお、カラーチャートは、保管状態により退色する場合がある。その点で、カラーチャートには使用期限を設けることが好ましい場合がある。
 ここで、自動認識用マーカを用いてカラーチャートの各パッチを自動認識する方法の一例を説明する。
 まず、カラーチャートを撮影して得られた画像の中から、自動認識用マーカを検知する。自動認識用マーカの検知は、例えば、汎用の画像認識処理ソフトウェアを備える画像認識手段を用いて行うことができる。具体的には、画像認識手段を用いて、あらかじめ画像認識手段に記憶されている自動認識用マーカの画像と、カラーチャートを撮影して得られた画像とのパターンマッチングを行うことにより、カラーチャートを撮影して得られた画像の中から、自動認識用マーカを検知する。
 他方、カラーチャートにおける自動認識用マーカと各パッチとの位置関係を、あらかじめ画像認識手段に記憶させておく。例えば、模様が異なる2つの自動認識用マーカを用いる場合には、2つの自動認識用マーカそれぞれと各パッチとの位置関係を、あらかじめ画像認識手段の記憶部に記憶させておく。ここで、画像認識手段としては、CPUとメモリとの組み合わせが挙げられる。
 そして、検知した自動認識用マーカを用いて、撮影して得られた画像のカラーチャートに、把握しておいた位置関係を当てはめることで、撮影して得られた画像のカラーチャート中の各パッチを自動認識することができる。
 カラーチャートの大きさとしては、特に限定されないが、片手で持つことができ、カラーチャートを顔の近くで持っても邪魔にならない点から、カラーチャートの面積は、40cm以上150cm以下が好ましい。
 カラーチャートは、通常、シート状である。そして、カラーチャートの主面の形状は、例えば、矩形である。
 カラーチャートの材質としては、各パッチが印刷可能であれば、特に限定されず、例えば、プラスチック樹脂製(例えば合成紙)であってもよいし、紙製であってもよい。
 カラーチャートは、主面の右下部(正面視した際の左下部)に空白部を有することが好ましい。人間は右利きが多い。そのため、カラーチャートの当該空白部を右手で持つと、顔の右横にカラーチャートを自然に配置しやすくなる。
 ここで、カラーチャートの一例を、図を用いて説明する。
 図2は、カラーチャートの一例の模式図である。
 なお、図2のカラーチャートは、グレースケールであるが、実際のカラーチャートは、有彩色のパッチを含んでいる。
 図2のカラーチャートは、縦約90mm、横約55mmの長方形であり、その主面の上方の右上部(正面視した際の左上部)、及び下方の左下部(正面視した際の右下部)に、10mm四方の自動認識用マーカ11a、11bが配されている。2つの自動認識用マーカ11a、11bは、黒地に白模様を有している。自動認識用マーカ11aの白模様と自動認識用マーカ11bと白模様とは異なる。上方及び下方に挟まれた中央部には、10mm四方の各パッチが6(A~F)行5(a~e)列で間隔を空けずに並んでいる。主面の最右列(第1列:正面視した際の最左列)には、無彩色のパッチが、明度順に並んでいる。
 図2に示すカラーチャートの各パッチのL値を表1-1に示す。また、図2に示すカラーチャートの各パッチの色の概略を、表1-2に示す。また、第1パッチから第7パッチについて肌色、舌色との関係を表1-3に示す。
Figure JPOXMLDOC01-appb-T000001
Figure JPOXMLDOC01-appb-T000002
Figure JPOXMLDOC01-appb-T000003
<撮影手段、撮影工程>
 撮影手段は、カラーチャート及び撮影対象者を同時に撮影し、画像データを取得するための手段である。
 撮影工程では、カラーチャート及び撮影対象者が同時に撮影され、画像データが取得される。
 撮影工程は、例えば、撮影手段により行われる。
 撮影対象者は、例えば、遠隔診療を受診する患者である。
 撮影手段としては、例えば、カメラ、カメラ機能付き電子機器などが挙げられる。
 カメラ機能付き電子機器としては、例えば、携帯電話、スマートフォン、タブレット端末、パーソナルコンピュータ、監視カメラ、医療診断装置に付帯するカメラシステム(例えば、f-MRIに付帯するカメラシステム)などが挙げられる。なお、撮影手段としてのパーソナルコンピュータにおけるカメラは、内臓カメラであってもよいし、外付けのカメラであってもよい。
 撮影手段が有する撮像素子としては、例えば、CCD(電荷結合素子)、CMOS(相補性金属酸化膜半導体)などが挙げられる。
 撮影手段は、例えば、画像データを送信する送信部を有していることが好ましい。
 送信部による画像データの送信は、無線通信で行われてもよいし、有線通信で行われてもよい。
 無線送信としては、例えば、Wi-Fi、LTE、5Gなど、使用可能な任意の方式の無線通信を利用することができる。
 撮影により得られる画像は、静止画像であってもよいし、動画であってもよい。
<表示手段、表示工程>
 表示手段は、画像データを受け取り、画像データを画像として表示部に表示するための手段であり、表示部を少なくとも有し、更に必要に応じて色補正部などのその他の部を有する。
 表示工程では、画像データが受け取られ、画像データが画像として表示部に表示される。
 表示工程では、更に色補正処理が行われてもよい。
 表示工程は、例えば、表示手段により行われる。
 図3に表示手段の一例の機能構成図を示す。図3の表示手段3は、表示部3aと、色補正部3bとを有する。
 表示手段は、例えば、画像データを受信する受信部を有している。
 画像データは、例えば、撮影手段から送信され、表示手段で受信される。画像データの送受信は、通常、インターネット回線を通じて行われる。
 画像データのファイル形式としては、特に限定されず、使用可能な任意の方式を利用することができ、例えば、静止画像であれば、JPG(JPEG)、GIF、PNG、BMPなどが挙げられ、動画であれば、AVI、QuickTime、Mpeg-1、Mpeg-2、WMV、FLV、MPEG-4などが挙げられる。
 画像データの送信及び受信は、例えば、E-メール、ソーシャルネットワーキングサービスなどの通信サービスを用いて行うことができる。
 また、画像データが動画である場合、送受信は、例えば、Skype、Zoom、Microsoft Teamsなどのweb会議システムを用い、画像データに加えて、音声データを送受信してもよい。
 撮影手段から表示手段へ画像データを伝える方法は、クラウドを利用した、撮影手段からクラウドサーバへの画像データのアップロード、及びクラウドサーバから表示手段への画像データのダウンロードであってもよい。すなわち、表示手段は、クラウドサーバから画像データを受け取ってもよい。
 また、撮影手段から表示手段へ画像データを伝える方法は、外部メモリを介した物理的な移動によって行われてもよい。例えば、撮影手段で取得された画像データがUSBメモリなどの外部メモリに保存され、外部メモリが郵送などにより物理的に移動された後、外部メモリを表示手段に接続することで、表示手段は画像データを受け取ることができる。
 更に、表示手段に、受け取った複数回の画像データが保存されることで、それら画像データを用いて、撮影対象者の経時変化の確認を行うこともできる。
 表示部としては、画像データを表示できる限り、特に限定されないが、例えば、カラーディスプレイなどが挙げられる。
 表示手段としては、特に限定されないが、例えば、携帯電話、スマートフォン、タブレット端末、パーソナルコンピュータ、電子カルテシステムの出力端末などが挙げられる。
<<色補正部、色補正処理>>
 色補正部は、表示部に表示される画像におけるカラーチャート内の少なくとも一つのパッチの色が、表示部が置かれた場所の光源下において測定されるカラーチャート内の対応する少なくとも一つのパッチの色に近づく乃至は一致するように、表示部の表示色、及び画像データの色情報を補正するための部である。
 色補正処理では、表示部に表示される画像におけるカラーチャート内の少なくとも一つのパッチの色が、表示部が置かれた場所の光源下において測定されるカラーチャート内の対応する少なくとも一つのパッチの色に近づく乃至は一致するように、表示部の表示色、及び画像データの色情報が補正される。
 色補正処理は、例えば、色補正部により行われる。
 表示手段は、色補正部を有していてもよいし、色補正部を有していなくてもよいが、色補正部を有している方が好ましい。
 表示工程は、色補正処理を有していてもよいし、色補正処理を有していなくてもよいが、色補正処理を有している方が好ましい。
 色補正部は、例えば、色補正を行うプログラムを実行するCPUである。
 ここで、色補正によってどの程度色を近づけるかは、目的に応じて適宜選択すればよい。
 このような色補正は、カラーチャート内のパッチの一つのみを用いて行ってもよいし、複数を用いて行ってもよい。
 色補正部は、例えば、第1補正部と、第2補正部とを有する。
 第1補正部は、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、表示部の対応する表示色が近づく乃至は一致するように、表示部の表示色を補正するための部である。
 第2補正部は、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、画像データのカラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、画像データの色情報を補正するための部である。
 色補正処理は、例えば、第1補正処理と、第2補正処理とを有する。
 第1補正処理では、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、表示部の対応する表示色が近づく乃至は一致するように、表示部の表示色が補正される。
 第2補正処理では、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、画像データのカラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、画像データの色情報が補正される。
 第1補正処理は、例えば、第1補正部により行われる。
 第2補正処理は、例えば、第2補正部により行われる。
 カラーチャート及び撮影対象者を同時に撮影する場合、撮影環境の違い、撮影手段の種類の違いなどにより、得られる画像データにおける色情報(例えば、RGB値)は異なる。
 撮影環境の違いとしては、例えば、室内での撮影の場合は、照明の光源の種類、照明の明るさなどが挙げられる。また、光源と、撮影対象(カラーチャート及び撮影対象者)との位置関係の違いも、得られる画像データにおける色情報に影響を与える。
 撮影手段の種類の違いとしては、例えば、撮像素子の種類の違い、画像処理エンジンの違いなどが挙げられる。画像処理エンジンは、例えば、撮像素子から出力される生画像に処理を加え、人間が観察するのに適した画像に変換するシステムLSIである。画像処理エンジンであるシステムLSIは、例えば、組み込みCPU、組み込みDSP、顔検出などを行う専用演算回路、プログラムメモリ、データメモリ、画像メモリなどで構成される。
 例えば、カラーチャートを撮影する場合、撮影手段としてのスマートフォンの種類の違い、室内照明の種類の違いなどにより、得られる画像データ毎にカラーチャートのパッチの色情報が異なる場合がある。そのため、それを同じ表示部で表示した場合でも、画像におけるカラーチャートのパッチの色は異なる場合がある。この違いは、遠隔診療に影響を与える場合がある。
 また、カラーチャートを観察した場合に人が認識するカラーチャートのパッチの色は、観察する環境(例えば、光源)に依存する。これは、カラーチャートを照らす光の分光分布が、光源に依存するためである。そのため、光源が異なれば、カラーチャートを観察した際に認識又は測定されるカラーチャートのパッチの色は異なる。そのため、表示部にカラーチャートの各パッチの色のRGB値を正確に表示しても、表示部に表示されるカラーチャートの各パッチの色と、表示部が置かれた場所の光源下において人に認識されるカラーチャートの各パッチの色とは異なることがある。
 そこで、前述の色補正部、及び色補正処理が有用になる。
 ここで、医師がカラーチャートを用いて患者の遠隔診療を行う場合の色補正の具体例について説明する。
 色補正の目的は、医師が使用する表示部(例えば、PCのディスプレイ)に表示される画像におけるカラーチャート(患者とともに撮影されたカラーチャート)の色を、正解値である医師の手元にあるカラーチャートの色(ある光源下において医師が認識するカラーチャートの色)に合わせることである。
 色補正は、医師が使用するディスプレイの表示色の色補正(第1補正処理)、及び患者が撮影して得られた画像の色補正(第2補正処理)の順で行う。
 まず、第1補正処理の一例について説明する。
 第1補正処理では、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、表示部の対応する表示色が近づく乃至は一致するように、表示部の表示色が補正される。
 具体的には、まず、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色を測色する。次に、測色された色に近づく乃至は一致するように、ディスプレイの表示色を補正する。
 人は、色を3刺激値XYZにより認識する。そのため、正解値のXYZ値を、医師の照明環境と同様の照明環境下で、測色計により測定して求める。測色計としては、例えば、
コニカミノルタ 色彩輝度計CS-100Aが用いられる。
 ディスプレイの補正は、以下の非特許文献を参考にして、具体的には以下のように実施する。
 Matsushita, F., Kiyomitsu, K., Ogawa, K., & Tsumura, N. (2019). Evaluation of Kampo disease states using facial images. Artificial Life and Robotics, 24(1), pp.44-51
 輝度と入力されるRGBレベルとの関係は、以下の式(1)で表される。
Figure JPOXMLDOC01-appb-M000004
 ここで、L’,L’,及びL’は、それぞれ、赤、緑、及び青の輝度であり、a,b,及びc(i=0、1、2)は係数である。
 ディスプレイの表示色の3刺激値X’,Y’,及びZ’は、次の式(2)に示すように、R,G,Bの寄与項に分解できる。
Figure JPOXMLDOC01-appb-M000005
 ここで、X’,Y’,及びZ’(i=R,G,B)は、それぞれ、赤、緑、及び青の発光に対する、3刺激値を示す。各発光に対応する3刺激値は、ディスプレイを測定した時の輝度L,色座標x,yから計算できる。各発光についての、X-Y,Y-Zの関係は、次の式(3)のような線形方程式で表すことができる.
Figure JPOXMLDOC01-appb-M000006
 ここで、a,b,c,d(i=R,G,B)は係数である。
 式(2)、及び式(3)から、次の式(4)が得られる。
Figure JPOXMLDOC01-appb-M000007
 式(4)から、ある三刺激値X’Y’Z’をディスプレイに表示したいときの、RGBそれぞれの輝度は、式(5)によって求めることができる。
Figure JPOXMLDOC01-appb-M000008
 式(5)のX’、Y’、Z’に、医師の照明環境と同様の照明環境下で、測色計により測定して求めた正解値であるカラーチャート内のパッチのXYZ値を入れる。そして、式(5)によって、求めた輝度を、式(1)に当てはめることで、RGB値(基準RGB値)が算出できる。そして、カラーチャートのパッチの色(RGB値)に対応するディスプレイの表示色(RGB値)を、算出されたRGB値(基準RGB値)に修正する。これにより、医師が使用するディスプレイの表示色の補正ができる。すなわち、上記手順により、ディスプレイの表示色を正解値に補正できる。
 次に、第2補正処理の一例について説明する。
 第2補正処理では、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、画像データのカラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、画像データの色情報が補正される。
 具体的には、カラーチャート及び患者を撮影して得られた画像の画像データにおけるカラーチャートの少なくとも一つのパッチのRGB値を、第1処理補正で算出した、対応する基準RGB値に補正する。
 更に具体的には、撮影して得られた画像から、自動認識用マーカを使ってカラーチャートのそれぞれのパッチの部分を抽出し、それぞれのパッチについて、パッチ内の各画素のRGB値の平均値を求める。平均化された数字(RGB値)と、対応する基準RGB値との違いから、重回帰によってモデルを作成する。そのモデルに基づき、画像データの全画素を変換して、撮影された人の顔、舌などの色の補正を行う。
 補正は、患者が撮影して得られた画像の画像データにおけるカラーチャートのパッチのRGB値と、対応する基準RGB値との相関を調べることで行われる。
 補正では、まず、撮影して得られた画像のカラーチャートのパッチにおける無彩色を利用して、画像データのガンマ補正を行う。次に、カラーチャートのパッチにおける全ての有彩色を利用して、画像データのRGB値の補正を行う。
 ガンマ補正の詳細を説明する。まず、第1補正処理においてカラーチャートのパッチにおける無彩色部分を測色計で測色したときの輝度をもとに、撮影して得られた画像における当該無彩色部分のRGB値に対して、ガンマ補正を行う。同様に、これを基準RGB値のグレースケール部分についても行う。
 次に、ガンマ補正をRGB値それぞれに対して行う。Rの場合には式(6)のような形となる。
Figure JPOXMLDOC01-appb-M000009
 Rは、撮影して得られた画像のR値であり、Yは、カラーチャートのパッチにおける無彩色を測色計で測色した際の輝度である。カラーチャートの無彩色において、黒が0、白が1となるように白色の輝度値で正規化を行うことで、無彩色の明るさを0~1の範囲になるように変換を行っている。このモデルによって任意のRGB値についてガンマの補正を行う。具体的には、式(6)の逆関数をそれぞれのRGB値に対してかけることで、ガンマを補正したRGB値を算出する。
 次に、ガンマの補正済みの各パッチの色に対して重回帰でモデルを構築する。Rの場合は式(7)となる。
Figure JPOXMLDOC01-appb-M000010
 R’は、補正した画像のR値であり、R,G,及びBは、補正前のRGB値である。各パラメータ(a、b、c、d)は、それぞれのパッチを用いた重回帰により求める。
 画像表示システムを用いた画像表示方法の一例を、図を用いて説明する。
 図4は、画像表示方法の一例のフローチャートである。
 まず、図5に示すように、撮影手段2であるスマートフォンを用いて、カラーチャート1と撮影対象者21とを同時に撮影する(S1)。
 次に、撮影により得られた画像データを、撮影手段2から表示手段3に送信する(S2)。
 次に、撮影手段2から送信された画像データを表示手段3で受信する(S3)。送受信は、例えば、E-メールに画像データを添付して行われる。
 最後に、図6に示すように、表示手段3であるPCの表示部3a(ディスプレイ)に画像データを画像として表示する(S4)。
 以上により、画像表示方法の一例が行われる。
 更に、画像表示方法を用いた遠隔診療を行う場合には、図7に示すように、診断者である医師4が、撮影対象者21である患者が持っているカラーチャート1と同じカラーチャート1を持ちながら、表示部3aに表示されたカラーチャート1の色と、持っているカラーチャート1の色との違いを考慮しながら、表示部3aに表示された患者の顔の肌色や舌色を観察して、診断を行う。
 画像表示システムを用いた画像表示方法の他の一例を、図を用いて説明する。
 図8は、画像表示方法の他の一例のフローチャートである。
 まず、図5に示すように、撮影手段2であるスマートフォンを用いて、カラーチャート1と撮影対象者21とを同時に撮影する(S11)。
 次に、撮影により得られた画像データを、撮影手段2から表示手段3に送信する(S12)。
 次に、撮影手段2から送信された画像データを表示手段3で受信する(S13)。送受信は、例えば、E-メールに画像データを添付して行われる。
 他方、表示部3aの表示色の補正を行う(S14)。具体的には、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、表示部の対応する表示色が近づく乃至は一致するように、表示部の表示色を補正する。この色補正は、色補正部3bが行う。
 次に、画像データの補正を行う(S15)。具体的には、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、画像データのカラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、画像データの色情報を補正する(S15)。この色補正は、色補正部3bが行う。色補正を行う際、画像中のカラーチャートの各パッチは、自動認識用マーカを用いて自動認識される。
 最後に、図6に示すように、表示手段3であるPCの表示部3a(ディスプレイ)に補正された画像データを画像として表示する(S16)。
 以上により、画像表示方法の一例が行われる。なお、工程S14は、工程S13の後に行う必要はなく、工程S14と他の工程とを行う順序は任意でよい。
 更に、画像表示方法を用いた遠隔診療を行う場合には、図7に示すように、診断者である医師4が、撮影対象者21である患者が持っているカラーチャート1と同じカラーチャート1を持ちながら、表示部3aに表示された患者の顔や舌色を観察して、診断を行う。
 この例では、色補正が行われているため、画像内の患者の顔の肌色は、色補正が行われない場合と比べて、対面診療を行ったと仮定した際の患者の顔の肌色に近い状態となっている。そのため、医師は、患者の肌色、舌色を望診する際、対面診療を行うのと近い状態で遠隔診療を行うことができる。
 以下に実施例を挙げて本発明を更に具体的に説明するが、本発明の範囲はこれらの実施例に限定されるものではない。
(実施例1)
 図4に示すフローチャートに従って、画像表示と、遠隔診療の模擬診断とを行った。
 カラーチャートとして、図2に示すカラーチャートを用いた。
 遠隔診療の模擬診断は、金沢大学附属病院漢方医学科の医師8名が行った。
 まず、患者が、スマートフォンのカメラ機能を用いて、自分の顔とカラーチャートの両方が写るように撮影した。撮影して得られた写真画像を、E-メールに添付して医師に送信した。E-メールを受信した医師は、写真画像をPCのディスプレイに表示した。医師は、手元にある実物のカラーチャートと、写真画像に写ったカラーチャートとを比較して、それらの違いを考慮しつつ、患者の顔の肌色を医師の感覚で判断した。なお、色の比較に熟知していない医師のために、以下を記載した手順書をあらかじめ医師に渡していた。なお、以下の手順書において「左側」とは正面視した際の左側を意味する。
〔手順書〕
 (1)グレースケール:カラーチャート左側の、黒から白への濃淡部分を観察し、明るさの段階の違いを観察する。
 (2)赤系統のパッチを見て、赤の強弱を観察する。これにより、血色の見えの違いを考慮する。
 (3)健康な舌色のパッチを見て、色の濃淡を確認する。
 (4)青色のパッチを見て、色の強弱を確認する。これにより、赤・青の強弱の違いが判る事になる。
 (5)舌肌色パッチにより、患者の状態をより正確に把握する。
 (6)皮膚炎を起こしたパッチも用意されているので、炎症を把握するために利用する。
 判定者である8名の医師の評価コメントを表2に示した。色彩の知識がある医師は良い評価を示した。色彩の知見が少ない医師は、使用法の説明により、利用価値を見出した。否定的な意見は無く、カラーチャートを使用しない場合よりは、良い診療ができるとの評価であった。
Figure JPOXMLDOC01-appb-T000011
(実施例2)
 図8に示すフローチャートに従って、画像表示を行った。
 カラーチャートとして、図2に示すカラーチャートを用いた。
 画像の色補正は、式(1)~(7)を用いて、前述の方法で行った。
 色補正を行うためのプログラムは、Pythonで作成した。
 結果として、表示部に表示された画像の患者の顔の肌色は、対面診療を行ったと仮定した際の顔の肌色と同様であった。
 1名の漢方医が、表示部に表示された画像を評価した。評価結果では、診療において信頼できる範囲の色補正がなされているとの意見が得られた。
1  カラーチャート
2  撮影手段
3  表示手段
3a 表示部
4  医師
11a、11b 自動認識用マーカ
21  撮影対象者

Claims (12)

  1.  以下の第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有する複数のパッチを有するカラーチャートと、
     前記カラーチャート及び撮影対象者を同時に撮影し、画像データを取得する撮影手段と、
     前記画像データを受け取り、前記画像データを画像として表示部に表示する表示手段と、
    を有することを特徴とする画像表示システム。
     第1パッチ:L値においてL=72、a=8、及びb=22で表される第1色、又は第1色に対してL色空間において色差ΔEが5以下の色、を有する領域
     第2パッチ:L値においてL=78、a=30、及びb=15で表される第2色、又は第2色に対してL色空間において色差ΔEが5以下の色、を有する領域
     第3パッチ:L値においてL=58、a=27、及びb=7で表される第3色、又は第3色に対してL色空間において色差ΔEが5以下の色、を有する領域
     第4パッチ:L値においてL=60、a=20、及びb=5で表される第4色、又は第4色に対してL色空間において色差ΔEが5以下の色、を有する領域
     第5パッチ:L値においてL=48、a=25、及びb=2で表される第5色、又は第5色に対してL色空間において色差ΔEが5以下の色、を有する領域
     第6パッチ:L値においてL=52、a=50、及びb=13で表される第6色、又は第6色に対してL色空間において色差ΔEが5以下の色、を有する領域
     第7パッチ:L値においてL=33、a=40、及びb=30で表される第7色、又は第7色に対してL色空間において色差ΔEが5以下の色、を有する領域
  2.  前記複数のパッチが、明度が異なる複数の無彩色のパッチを有する、請求項1に記載の画像表示システム。
  3.  前記複数のパッチが、前記第1色から前記第7色とは異なる複数の有彩色のパッチを有する、請求項1又は2に記載の画像表示システム。
  4.  前記カラーチャートの面積が、40cm以上150cm以下である、請求項1~3のいずれかに記載の画像表示システム。
  5.  前記複数のパッチの各面積が、0.25cm以上4cm以下である、請求項1~4のいずれかに記載の画像表示システム。
  6.  前記カラーチャートが、前記複数のパッチの少なくとも一つを自動認識するための自動認識用マーカを有する、請求項1~5のいずれかに記載の画像表示システム。
  7.  前記カラーチャートが、主面の右下部に空白部を有する、請求項1~6のいずれかに記載の画像表示システム。
  8.  前記撮影手段が、カメラ機能付き電子機器である、請求項1~7のいずれかに記載の画像表示システム。
  9.  前記表示手段が、パーソナルコンピュータである、請求項1~8のいずれかに記載の画像表示システム。
  10.  前記表示手段が、前記表示部に表示される前記画像における前記カラーチャート内の少なくとも一つのパッチの色が、前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の対応する少なくとも一つのパッチの色に近づく乃至は一致するように、前記表示部の表示色、及び前記画像データの色情報を補正する色補正部を更に有する、請求項1~9のいずれかに記載の画像表示システム。
  11.  前記色補正部が、
      前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の少なくとも一つのパッチの色に、前記表示部の対応する表示色が近づく乃至は一致するように、前記表示部の表示色を補正する第1補正部と、
      前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の少なくとも一つのパッチの色に、前記画像データの前記カラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、前記画像データの色情報を補正する第2補正部と、
    を有する、請求項10に記載の画像表示システム。
  12.  以下の第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有する複数のパッチを有するカラーチャート及び撮影対象者が同時に撮影され、画像データが取得される撮影工程と、
     前記画像データが受け取られ、前記画像データが画像として表示部に表示される表示工程と、
    を有することを特徴とする画像表示方法。
     第1パッチ:L値においてL=72、a=8、及びb=22で表される第1色、又は第1色に対してL色空間において色差ΔEが5以下の色、を有する領域
     第2パッチ:L値においてL=78、a=30、及びb=15で表される第2色、又は第2色に対してL色空間において色差ΔEが5以下の色、を有する領域
     第3パッチ:L値においてL=58、a=27、及びb=7で表される第3色、又は第3色に対してL色空間において色差ΔEが5以下の色、を有する領域
     第4パッチ:L値においてL=60、a=20、及びb=5で表される第4色、又は第4色に対してL色空間において色差ΔEが5以下の色、を有する領域
     第5パッチ:L値においてL=48、a=25、及びb=2で表される第5色、又は第5色に対してL色空間において色差ΔEが5以下の色、を有する領域
     第6パッチ:L値においてL=52、a=50、及びb=13で表される第6色、又は第6色に対してL色空間において色差ΔEが5以下の色、を有する領域
     第7パッチ:L値においてL=33、a=40、及びb=30で表される第7色、又は第7色に対してL色空間において色差ΔEが5以下の色、を有する領域
PCT/JP2021/022642 2020-06-17 2021-06-15 画像表示システム、及び画像表示方法 WO2021256459A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN202180032478.0A CN115552512A (zh) 2020-06-17 2021-06-15 图像显示系统以及图像显示方法
EP21826909.0A EP4170646A4 (en) 2020-06-17 2021-06-15 IMAGE DISPLAY SYSTEM AND IMAGE DISPLAY METHOD
CA3182631A CA3182631A1 (en) 2020-06-17 2021-06-15 Image display system and image display method
US18/010,908 US20230239419A1 (en) 2020-06-17 2021-06-15 Image display system and image display method
KR1020227035669A KR20230025656A (ko) 2020-06-17 2021-06-15 화상 표시 시스템 및 화상 표시 방법

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2020104693 2020-06-17
JP2020-104693 2020-06-17
JP2021039227A JP7136955B2 (ja) 2020-06-17 2021-03-11 画像表示システム、及び画像表示方法
JP2021-039227 2021-03-11

Publications (1)

Publication Number Publication Date
WO2021256459A1 true WO2021256459A1 (ja) 2021-12-23

Family

ID=79242023

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/022642 WO2021256459A1 (ja) 2020-06-17 2021-06-15 画像表示システム、及び画像表示方法

Country Status (7)

Country Link
US (1) US20230239419A1 (ja)
EP (1) EP4170646A4 (ja)
JP (2) JP7136955B2 (ja)
KR (1) KR20230025656A (ja)
CN (1) CN115552512A (ja)
CA (1) CA3182631A1 (ja)
WO (1) WO2021256459A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024033499A (ja) 2022-08-30 2024-03-13 エスペック株式会社 雪環境試験装置及び雪環境試験方法
WO2024116574A1 (ja) * 2022-11-28 2024-06-06 株式会社ロッテ 咀嚼能力測定方法、咀嚼能力確認システム及び専用台紙

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000052571A (ja) * 1998-08-11 2000-02-22 Olympus Optical Co Ltd 画像形成装置
JP2003134526A (ja) * 2001-10-19 2003-05-09 Univ Waseda 色再現装置及び色再現方法
JP2008022410A (ja) * 2006-07-14 2008-01-31 Dainippon Printing Co Ltd プロファイル作成装置及びプロファイル作成システム
JP2011212013A (ja) * 2010-03-17 2011-10-27 Elmex Ltd フィルム型培地による微生物検査方法およびこの微生物検査方法に用いる画像取込ツ−ル
CN103340598A (zh) * 2013-05-16 2013-10-09 李少文 用于人体的色卡及其制作方法、使用方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3417235B2 (ja) 1996-12-13 2003-06-16 ミノルタ株式会社 診断システム
JP5005944B2 (ja) 2006-04-03 2012-08-22 株式会社Pfu 色再現システム
JP2009028058A (ja) * 2007-07-24 2009-02-12 Saieco:Kk 舌診システム、舌診装置、舌診方法、舌診プログラム
JP5150440B2 (ja) * 2008-09-30 2013-02-20 慣吾 鶴田 鏡器具
CN101947101B (zh) 2010-07-15 2012-04-25 哈尔滨工业大学 一种舌色还原色卡的制作方法
KR101331640B1 (ko) * 2011-12-14 2013-11-20 한국 한의학 연구원 혀 입체 정보 추출 장치 및 방법
KR20130076978A (ko) 2011-12-29 2013-07-09 삼성전자주식회사 표시 장치 및 그 색상 보정 방법
US20140148708A1 (en) 2012-11-26 2014-05-29 Cardiocom, Llc System and method for wound management
JP2018120184A (ja) 2017-01-27 2018-08-02 凸版印刷株式会社 画像校正色標及び画像校正色標製造方法
CN110739047A (zh) 2018-07-19 2020-01-31 脉景(杭州)健康管理有限公司 患者图像色彩还原方法、装置、设备及可读存储介质
CN110495888B (zh) 2019-08-27 2022-03-29 上海中医药大学 一种基于中医舌、面图像的标准色卡及其应用

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000052571A (ja) * 1998-08-11 2000-02-22 Olympus Optical Co Ltd 画像形成装置
JP2003134526A (ja) * 2001-10-19 2003-05-09 Univ Waseda 色再現装置及び色再現方法
JP2008022410A (ja) * 2006-07-14 2008-01-31 Dainippon Printing Co Ltd プロファイル作成装置及びプロファイル作成システム
JP2011212013A (ja) * 2010-03-17 2011-10-27 Elmex Ltd フィルム型培地による微生物検査方法およびこの微生物検査方法に用いる画像取込ツ−ル
CN103340598A (zh) * 2013-05-16 2013-10-09 李少文 用于人体的色卡及其制作方法、使用方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
MATSUSHITA, F.KIYOMITSU, K.OGAWA, K.TSUMURA, N.: "Evaluation of Kampo disease states using facial images", ARTIFICIAL LIFE AND ROBOTICS, vol. 24, no. 1, 2019, pages 44 - 51, XP036734006, DOI: 10.1007/s10015-018-0462-x

Also Published As

Publication number Publication date
CN115552512A (zh) 2022-12-30
KR20230025656A (ko) 2023-02-22
JP2022000686A (ja) 2022-01-04
EP4170646A4 (en) 2024-06-26
CA3182631A1 (en) 2021-12-23
US20230239419A1 (en) 2023-07-27
JP7136955B2 (ja) 2022-09-13
EP4170646A1 (en) 2023-04-26
JP2022137109A (ja) 2022-09-21

Similar Documents

Publication Publication Date Title
Dimauro et al. A new method and a non-invasive device to estimate anemia based on digital images of the conjunctiva
JP6346576B2 (ja) 画像処理装置
US20170164888A1 (en) Organ imaging device
JP6545658B2 (ja) ビリルビンレベルを推定すること
US8319857B2 (en) Apparatus and method for correcting digital color photographs
EP1450287A2 (en) Method of extracting region of interest from tongue image and health monitoring method and apparatus using the tongue image
JP2022137109A (ja) 画像表示システム、及び画像表示方法
CN101652097A (zh) 与生命体征床旁监护仪结合的图像捕获
WO2016067892A1 (ja) 健康度出力装置、健康度出力システムおよびプログラム
TWI576093B (zh) 血色素與血球比容之檢測系統及方法
WO2021256458A1 (ja) カラーチャート
JP6266948B2 (ja) 黄疸測定システム
JP2018126632A (ja) 画像処理装置
JP2005094185A (ja) 画像処理システム、画像処理装置、および撮像制御方法
TWI489306B (zh) Health status assessment methods and the use of the method of health assessment system
US20160242678A1 (en) Organ image photographing apparatus
WO2022080185A1 (ja) 表示部の色補正方法
US12022048B2 (en) Display unit color-correction method
JP2022187833A (ja) 機械学習装置、その制御方法ならびにプログラム
JPH11206722A (ja) 在宅健康管理システム
WO2015063940A1 (ja) 血行度測定装置、方法、及びプログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21826909

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 3182631

Country of ref document: CA

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2021826909

Country of ref document: EP

Effective date: 20230117