JP2022000686A - 画像表示システム、及び画像表示方法 - Google Patents

画像表示システム、及び画像表示方法 Download PDF

Info

Publication number
JP2022000686A
JP2022000686A JP2021039227A JP2021039227A JP2022000686A JP 2022000686 A JP2022000686 A JP 2022000686A JP 2021039227 A JP2021039227 A JP 2021039227A JP 2021039227 A JP2021039227 A JP 2021039227A JP 2022000686 A JP2022000686 A JP 2022000686A
Authority
JP
Japan
Prior art keywords
color
patch
image
patches
chart
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021039227A
Other languages
English (en)
Other versions
JP7136955B2 (ja
Inventor
雅人 高橋
Masato Takahashi
康博 森原
Yasuhiro Morihara
徳道 津村
Norimichi Tsumura
凌 高橋
Ryo Takahashi
恵子 小川
Keiko Ogawa
一石 金
Il Seok Kim
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
DIC Corp
Original Assignee
DIC Corp
Dainippon Ink and Chemicals Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by DIC Corp, Dainippon Ink and Chemicals Co Ltd filed Critical DIC Corp
Priority to CA3182631A priority Critical patent/CA3182631A1/en
Priority to US18/010,908 priority patent/US20230239419A1/en
Priority to EP21826909.0A priority patent/EP4170646A4/en
Priority to CN202180032478.0A priority patent/CN115552512A/zh
Priority to KR1020227035669A priority patent/KR20230025656A/ko
Priority to PCT/JP2021/022642 priority patent/WO2021256459A1/ja
Publication of JP2022000686A publication Critical patent/JP2022000686A/ja
Priority to JP2022102904A priority patent/JP2022137109A/ja
Application granted granted Critical
Publication of JP7136955B2 publication Critical patent/JP7136955B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/603Colour correction or control controlled by characteristics of the picture signal generator or the picture reproducer
    • H04N1/6033Colour correction or control controlled by characteristics of the picture signal generator or the picture reproducer using test pattern analysis
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0002Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
    • A61B5/0004Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network characterised by the type of physiological signal transmitted
    • A61B5/0013Medical image data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/1032Determining colour for diagnostic purposes
    • A61B5/1034Determining colour for diagnostic purposes by means of colour cards
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/44Detecting, measuring or recording for evaluating the integumentary system, e.g. skin, hair or nails
    • A61B5/441Skin evaluation, e.g. for skin disorder diagnosis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/45For evaluating or diagnosing the musculoskeletal system or teeth
    • A61B5/4538Evaluating a particular part of the muscoloskeletal system or a particular medical condition
    • A61B5/4542Evaluating the mouth, e.g. the jaw
    • A61B5/4552Evaluating soft tissue within the mouth, e.g. gums or tongue
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • G09G5/06Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed using colour palettes, e.g. look-up tables
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/67ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6083Colour correction or control controlled by factors external to the apparatus
    • H04N1/6086Colour correction or control controlled by factors external to the apparatus by scene illuminant, i.e. conditions at the time of picture capture, e.g. flash, optical filter used, evening, cloud, daylight, artificial lighting, white point measurement, colour temperature
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6083Colour correction or control controlled by factors external to the apparatus
    • H04N1/6088Colour correction or control controlled by factors external to the apparatus by viewing conditions, i.e. conditions at picture output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/643Hue control means, e.g. flesh tone control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0242Compensation of deficiencies in the appearance of colours
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0693Calibration of display systems
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/06Colour space transformation
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/08Biomedical applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Pathology (AREA)
  • Signal Processing (AREA)
  • Molecular Biology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Hardware Design (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Dentistry (AREA)
  • Software Systems (AREA)
  • General Business, Economics & Management (AREA)
  • Databases & Information Systems (AREA)
  • Physiology (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Business, Economics & Management (AREA)
  • Artificial Intelligence (AREA)
  • Rheumatology (AREA)
  • Orthopedic Medicine & Surgery (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Dermatology (AREA)

Abstract

【課題】 患者の肌色、舌色などの色情報を用いた遠隔診療に有用な画像表示システムなどの提供。【解決手段】 特定の色を有する第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチ複数のパッチを有するカラーチャートと、前記カラーチャート及び撮影対象者を同時に撮影し、画像データを取得する撮影手段と、前記画像データを受け取り、前記画像データを画像として表示部に表示する表示手段と、を有する画像表示システム。【選択図】図4

Description

本発明は、画像表示システム、及び画像表示方法に関する。
遠隔医療に関連する市場は、慢性疾患対応やモバイルヘルスアプリなども一要因となり、成長している。新型コロナウイルス感染症(COVID−19)の蔓延により、感染予防の観点からも遠隔診療の重要性が認識され、良好な遠隔診療システムの構築の必要性が生じている。
新型コロナウイルスの感染者は、COVID−19の症状が現れる前に、他者に新型コロナウイルスを感染させる可能性がある。そのため、COVID−19の蔓延下においては、通常の対面診療では感染を前提にした診療が必要となる。
一般的に行われる対面診療は、採血した血液による生化学検査結果を基に行われているが、採血時の感染リスクを考慮する必要が生じる。また、COVID−19の回復には長い時間がかかるため、感染した個人は少なくとも2週間は隔離する必要がる。患者数が急増した場合、病院はベッドを使い果たし、無症候性の感染または軽症の患者は、家、ホテル、または他の監視されていない場所で隔離されるため、これらの患者のケアも遠隔診療の対象となる。
これらの状況に対処するため、Greenhalghらは、プライマリケアを担当する一般開業医向けのガイドを公開している(非特許文献1参照)。このガイドには、フィットネス機器で脈波計測すると、信頼性の観点から患者の状態を把握するには適していない可能性があると記載されている。また、対象者の肌色などの一般的な物理的評価についての言及はあるものの、色の見え方が異なるという点については、十分に説明されていない。
ここで、遠隔診療は、電話などでの問診の他、会議システムなどの画像の送受信が可能な情報通信システムを用い、医師などの診断者が患者を観察することでも行われる。
診療においては、色を重視する診療が行われる場合がある。例えば、歯科における歯茎の色の観察、皮膚科における皮膚の色の観察、耳鼻咽喉科における喉の色の観察、漢方医学で行われている、肌色、舌色などによる診察(望診)などが挙げられる。このような診療においては、色の認識が正しく行われないことが診断に影響を与えることがある。
そのため、そのような診療を遠隔診療で行う際には、色を正確に認識することが重要である。
実用的な色再現系は、国際照明委員会(CIE)によって標準化が行われてきている。しかし、実際に色再現を行う場合は、校正機器の使用など、簡単には行えない。遠隔医療において、色再現を行う場合、医師側のディスプレイの補正は、市販の表示装置のプロファイル作成ツールを用いれば、比較的容易に行う事が出来る。しかし、患者側の補正は、光源の分光放射強度やカメラ性能を考慮した補正が必要で、簡単では無い。加えて、最近の技術の進歩により、スマートフォンでは、自動的な色補正、例えばオートホワイトバランスだけでなく、美肌効果などの処理が行われているため、補正が一層困難となる。
他方、遠隔診療において、ディスプレイの画像色再現に左右されず、顔の肌色などの皮膚色から得られる客観的生体情報の定量化を図ることで、より的確な診断をするために、各種診断可能な対象物の画像を表示する診断システムであって、対象物の画像を各画素毎に定量化した画像データとして取り込む撮影手段と、前記画像データから各種診断に必要な所定データを得る演算手段と、前記撮影手段によって得られた画像データ、および、前記所定データおよび画像データのうち何れかを転送する転送手段と、前記所定データおよび画像データを表示する表示手段とを有する診断システムが提案されている(特許文献1参照)。しかし、この提案の技術では、診断システムが複雑になり簡便性に欠ける。
特開平10−165375号公報
Trisha Greenhalgh et. al., Video consultations: a guide for practice, BJGP Life (2020)
そこで、本発明者らは、漢方医学で行われている、肌色、舌色などによる診察(望診)をはじめとした、色を重視する医師の診療や、色を用いた歯科医師の診療を遠隔診療で行う際に有用な技術について検討した。
すなわち、本発明は、患者の肌色、舌色などの色情報を用いた遠隔診療に有用な、画像表示システム、及び画像表示方法を提供することを目的とする。
本発明者らは、上記課題を解決するために鋭意研究を重ねた結果、患者を撮影する際に、肌色、舌色などの色情報を備えたカラーチャートを同時に撮影することで、患者の肌色、舌色などの色情報を用いた遠隔診療を行いやすくすることができることを見出し、本発明の完成に至った。
すなわち、本発明は、以下の態様を包含するものである。
[1] 以下の第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有する複数のパッチを有するカラーチャートと、
前記カラーチャート及び撮影対象者を同時に撮影し、画像データを取得する撮影手段と、
前記画像データを受け取り、前記画像データを画像として表示部に表示する表示手段と、
を有することを特徴とする画像表示システム。
第1パッチ:L値においてL=72、a=8、及びb=22で表される第1色、又は第1色に対してL色空間において色差ΔEが5以下の色、を有する領域
第2パッチ:L値においてL=78、a=30、及びb=15で表される第2色、又は第2色に対してL色空間において色差ΔEが5以下の色、を有する領域
第3パッチ:L値においてL=58、a=27、及びb=7で表される第3色、又は第3色に対してL色空間において色差ΔEが5以下の色、を有する領域
第4パッチ:L値においてL=60、a=20、及びb=5で表される第4色、又は第4色に対してL色空間において色差ΔEが5以下の色、を有する領域
第5パッチ:L値においてL=48、a=25、及びb=2で表される第5色、又は第5色に対してL色空間において色差ΔEが5以下の色、を有する領域
第6パッチ:L値においてL=52、a=50、及びb=13で表される第6色、又は第6色に対してL色空間において色差ΔEが5以下の色、を有する領域
第7パッチ:L値においてL=33、a=40、及びb=30で表される第7色、又は第7色に対してL色空間において色差ΔEが5以下の色、を有する領域
[2] 前記複数のパッチが、明度が異なる複数の無彩色のパッチを有する、[1]に記載の画像表示システム。
[3] 前記複数のパッチが、前記第1色から前記第7色とは異なる複数の有彩色のパッチを有する、[1]又は[2]に記載の画像表示システム。
[4] 前記カラーチャートの面積が、40cm以上150cm以下である、[1]〜[3]のいずれかに記載の画像表示システム。
[5] 前記複数のパッチの各面積が、0.25cm以上4cm以下である、[1]〜[4]のいずれかに記載の画像表示システム。
[6] 前記カラーチャートが、前記複数のパッチの少なくとも一つを自動認識するための自動認識用マーカを有する、[1]〜[5]のいずれかに記載の画像表示システム。
[7] 前記カラーチャートが、主面の右下部に空白部を有する、[1]〜[6]のいずれかに記載の画像表示システム。
[8] 前記撮影手段が、カメラ機能付き電子機器である、[1]〜[7]のいずれかに記載の画像表示システム。
[9] 前記表示手段が、パーソナルコンピュータである、[1]〜[8]のいずれかに記載の画像表示システム。
[10] 前記表示手段が、前記表示部に表示される前記画像における前記カラーチャート内の少なくとも一つのパッチの色が、前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の対応する少なくとも一つのパッチの色に近づく乃至は一致するように、前記表示部の表示色、及び前記画像データの色情報を補正する色補正部を更に有する、[1]〜[9]のいずれかに記載の画像表示システム。
[11] 前記色補正部が、
前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の少なくとも一つのパッチの色に、前記表示部の対応する表示色が近づく乃至は一致するように、前記表示部の表示色を補正する第1補正部と、
前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の少なくとも一つのパッチの色に、前記画像データの前記カラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、前記画像データの色情報を補正する第2補正部と、
を有する、[10]に記載の画像表示システム。
[12] 以下の第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有する複数のパッチを有するカラーチャート及び撮影対象者が同時に撮影され、画像データが取得される撮影工程と、
前記画像データが受け取られ、前記画像データが画像として表示部に表示される表示工程と、
を有することを特徴とする画像表示方法。
第1パッチ:L値においてL=72、a=8、及びb=22で表される第1色、又は第1色に対してL色空間において色差ΔEが5以下の色、を有する領域
第2パッチ:L値においてL=78、a=30、及びb=15で表される第2色、又は第2色に対してL色空間において色差ΔEが5以下の色、を有する領域
第3パッチ:L値においてL=58、a=27、及びb=7で表される第3色、又は第3色に対してL色空間において色差ΔEが5以下の色、を有する領域
第4パッチ:L値においてL=60、a=20、及びb=5で表される第4色、又は第4色に対してL色空間において色差ΔEが5以下の色、を有する領域
第5パッチ:L値においてL=48、a=25、及びb=2で表される第5色、又は第5色に対してL色空間において色差ΔEが5以下の色、を有する領域
第6パッチ:L値においてL=52、a=50、及びb=13で表される第6色、又は第6色に対してL色空間において色差ΔEが5以下の色、を有する領域
第7パッチ:L値においてL=33、a=40、及びb=30で表される第7色、又は第7色に対してL色空間において色差ΔEが5以下の色、を有する領域
本発明によれば、患者の肌色、舌色などの色情報を用いた遠隔診療に有用な、画像表示システム、及び画像表示方法を提供することができる。
画像表示システムの一例の構成図である。 カラーチャートの一例の模式図である。 表示手段の一例の機能構成図である。 画像表示方法の一例のフローチャートである。 撮影手段でカラーチャート及び患者を同時に撮影する一例の模式図である。 表示手段の表示部に撮影して得られた画像を表示した一例の模式図である。 医師が表示手段の表示部に撮影して得られた画像を表示して遠隔診療を行う一例の模式図である。 画像表示方法の他の一例のフローチャートである。
以下、本発明の画像表示システム及び画像表示方法について詳細に説明するが、以下に記載する構成要件の説明は、本発明の一実施態様としての一例であり、これらの内容に特定されるものではない。
(画像表示システム、画像表示方法)
本発明の画像表示システムは、カラーチャートと、撮影手段と、表示手段とを少なくとも有し、更に必要に応じて、その他の手段を有する。
本発明の画像表示方法は、撮影工程と、表示工程とを少なくとも有し、更に必要に応じて、その他の工程を有する。
図1に画像表示システムの一例の構成図を示す。図1の画像表示システムは、カラーチャート1と、撮影手段2と、表示手段3とを有する。
<カラーチャート>
カラーチャートは、複数のパッチを有する。
複数のパッチは、以下の第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有する。
第1パッチ:L値においてL=72、a=8、及びb=22で表される第1色、又は第1色に対してL色空間において色差ΔEが5以下の色、を有する領域
第2パッチ:L値においてL=78、a=30、及びb=15で表される第2色、又は第2色に対してL色空間において色差ΔEが5以下の色、を有する領域
第3パッチ:L値においてL=58、a=27、及びb=7で表される第3色、又は第3色に対してL色空間において色差ΔEが5以下の色、を有する領域
第4パッチ:L値においてL=60、a=20、及びb=5で表される第4色、又は第4色に対してL色空間において色差ΔEが5以下の色、を有する領域
第5パッチ:L値においてL=48、a=25、及びb=2で表される第5色、又は第5色に対してL色空間において色差ΔEが5以下の色、を有する領域
第6パッチ:L値においてL=52、a=50、及びb=13で表される第6色、又は第6色に対してL色空間において色差ΔEが5以下の色、を有する領域
第7パッチ:L値においてL=33、a=40、及びb=30で表される第7色、又は第7色に対してL色空間において色差ΔEが5以下の色、を有する領域
第1パッチが有する色は、湿(余分な水)が蓄積した舌苔の色に対応する。
第2パッチが有する色は、炎症肌色に対応する。
第3パッチが有する色は、淤血の(微小循環が悪い)舌の色に対応する。
第4パッチが有する色は、健康な舌苔のある部分の色に対応する。
第5パッチが有する色は、舌深静脈の怒張=淤血の色に対応する。
第6パッチが有する色は、健康な舌の色に対応する。
第7パッチが有する色は、熱がある舌の色に対応する。
第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有するカラーチャートを用いることで、患者の肌色、舌色などの色情報を用いた診断を行いやすくできる。
カラーチャートは、第1パッチから第7パッチからなる群から選択される少なくとも3つを有し、少なくとも5つを有することが好ましく、7つを有することがより好ましい。
これら第1パッチから第7パッチの組み合わせとして、7つのパッチから選択される3つ以上であれば特に制限されるものではないが、紫赤、薄赤紫、濃い黄赤のように色調が異なるバッチを3つ以上選択することが好ましい。
カラーチャートは、第1パッチから第7パッチ以外のパッチを有していてもよい。そのようなパッチとしては、無彩色のパッチ、有彩色のパッチなどが挙げられる。
複数のパッチは、例えば、明度が異なる複数の無彩色のパッチを有する。無彩色のパッチの種類は、例えば、5〜7種類が挙げられる。無彩色のパッチの種類が3種類以下であると、例えば、カメラによりカラーチャートが撮影された画像の色補正を、無彩色のパッチを用いて行う際、カメラの非線形性に十分に対応できず、色補正の精度が低下する場合がある。その点で、無彩色のパッチの種類は、5種類以上が好ましい。
複数のパッチは、例えば、第1色から第7色とは異なる複数の有彩色のパッチを有する。これらの有彩色のパッチの種類は、例えば、15〜20種類が挙げられる。
カラーチャートにおける各パッチの大きさとしては、特に限定されないが、色の認識を妨げない点で小さすぎないことが好ましい。その点で、0.25cm以上が好ましい。また、カラーチャートが大きくなりすぎない点で、4cm以下が好ましい。
各パッチの形状としては、例えば、正方形などが挙げられる。
カラーチャートは、複数のパッチの少なくとも一つを自動認識するための自動認識用マーカを有することが好ましい。カラーチャートが自動認識用マーカを有することにより、後述する色補正を行う際の、画像データにおけるカラーチャートの各パッチを認識する作業を、自動で行うことができる。
自動認識用マーカの形状、大きさとしては、特に限定されないが、例えば、パッチと同程度の形状、大きさであることが好ましい。例えば、自動認識用マーカの大きさは、0.25cm以上4cm以下が好ましい。また、自動認識用マーカは、通常、各パッチが有さない模様を有している。
カラーチャートは、模様が異なる自動認識用マーカを2つ以上有することが好ましい。2つ以上の自動認識用マーカを用いる場合には、2つ以上の自動認識用マーカの相対的な位置関係を考慮して各パッチの自動認識が行われることから、各パッチの自動認識性が向上する。
自動認識用マーカは、自動認識を可能とするマーカであれば特に制限されるものではないが、自動認識用マーカに対し二次元バーコード等によりカラーチャートのバージョン情報、使用方法へのリンク、使用期限等の情報を付加してもよい。なお、カラーチャートは、保管状態により退色する場合がある。その点で、カラーチャートには使用期限を設けることが好ましい場合がある。
ここで、自動認識用マーカを用いてカラーチャートの各パッチを自動認識する方法の一例を説明する。
まず、カラーチャートを撮影して得られた画像の中から、自動認識用マーカを検知する。自動認識用マーカの検知は、例えば、汎用の画像認識処理ソフトウェアを備える画像認識手段を用いて行うことができる。具体的には、画像認識手段を用いて、あらかじめ画像認識手段に記憶されている自動認識用マーカの画像と、カラーチャートを撮影して得られた画像とのパターンマッチングを行うことにより、カラーチャートを撮影して得られた画像の中から、自動認識用マーカを検知する。
他方、カラーチャートにおける自動認識用マーカと各パッチとの位置関係を、あらかじめ画像認識手段に記憶させておく。例えば、模様が異なる2つの自動認識用マーカを用いる場合には、2つの自動認識用マーカそれぞれと各パッチとの位置関係を、あらかじめ画像認識手段の記憶部に記憶させておく。ここで、画像認識手段としては、CPUとメモリとの組み合わせが挙げられる。
そして、検知した自動認識用マーカを用いて、撮影して得られた画像のカラーチャートに、把握しておいた位置関係を当てはめることで、撮影して得られた画像のカラーチャート中の各パッチを自動認識することができる。
カラーチャートの大きさとしては、特に限定されないが、片手で持つことができ、カラーチャートを顔の近くで持っても邪魔にならない点から、カラーチャートの面積は、40cm以上150cm以下が好ましい。
カラーチャートは、通常、シート状である。そして、カラーチャートの主面の形状は、例えば、矩形である。
カラーチャートの材質としては、各パッチが印刷可能であれば、特に限定されず、例えば、プラスチック樹脂製(例えば合成紙)であってもよいし、紙製であってもよい。
カラーチャートは、主面の右下部(正面視した際の左下部)に空白部を有することが好ましい。人間は右利きが多い。そのため、カラーチャートの当該空白部を右手で持つと、顔の右横にカラーチャートを自然に配置しやすくなる。
ここで、カラーチャートの一例を、図を用いて説明する。
図2は、カラーチャートの一例の模式図である。
なお、図2のカラーチャートは、グレースケールであるが、実際のカラーチャートは、有彩色のパッチを含んでいる。
図2のカラーチャートは、縦約90mm、横約55mmの長方形であり、その主面の上方の右上部(正面視した際の左上部)、及び下方の左下部(正面視した際の右下部)に、10mm四方の自動認識用マーカ11a、11bが配されている。2つの自動認識用マーカ11a、11bは、黒地に白模様を有している。自動認識用マーカ11aの白模様と自動認識用マーカ11bと白模様とは異なる。上方及び下方に挟まれた中央部には、10mm四方の各パッチが6(A〜F)行5(a〜e)列で間隔を空けずに並んでいる。主面の最右列(第1列:正面視した際の最左列)には、無彩色のパッチが、明度順に並んでいる。
図2に示すカラーチャートの各パッチのL値を表1−1に示す。また、図2に示すカラーチャートの各パッチの色の概略を、表1−2に示す。また、第1パッチから第7パッチについて肌色、舌色との関係を表1−3に示す。
Figure 2022000686
Figure 2022000686
Figure 2022000686
<撮影手段、撮影工程>
撮影手段は、カラーチャート及び撮影対象者を同時に撮影し、画像データを取得するための手段である。
撮影工程では、カラーチャート及び撮影対象者が同時に撮影され、画像データが取得される。
撮影工程は、例えば、撮影手段により行われる。
撮影対象者は、例えば、遠隔診療を受診する患者である。
撮影手段としては、例えば、カメラ、カメラ機能付き電子機器などが挙げられる。
カメラ機能付き電子機器としては、例えば、携帯電話、スマートフォン、タブレット端末、パーソナルコンピュータ、監視カメラ、医療診断装置に付帯するカメラシステム(例えば、f−MRIに付帯するカメラシステム)などが挙げられる。なお、撮影手段としてのパーソナルコンピュータにおけるカメラは、内臓カメラであってもよいし、外付けのカメラであってもよい。
撮影手段が有する撮像素子としては、例えば、CCD(電荷結合素子)、CMOS(相補性金属酸化膜半導体)などが挙げられる。
撮影手段は、例えば、画像データを送信する送信部を有していることが好ましい。
送信部による画像データの送信は、無線通信で行われてもよいし、有線通信で行われてもよい。
無線送信としては、例えば、Wi−Fi、LTE、5Gなど、使用可能な任意の方式の無線通信を利用することができる。
撮影により得られる画像は、静止画像であってもよいし、動画であってもよい。
<表示手段、表示工程>
表示手段は、画像データを受け取り、画像データを画像として表示部に表示するための手段であり、表示部を少なくとも有し、更に必要に応じて色補正部などのその他の部を有する。
表示工程では、画像データが受け取られ、画像データが画像として表示部に表示される。
表示工程では、更に色補正処理が行われてもよい。
表示工程は、例えば、表示手段により行われる。
図3に表示手段の一例の機能構成図を示す。図3の表示手段3は、表示部3aと、色補正部3bとを有する。
表示手段は、例えば、画像データを受信する受信部を有している。
画像データは、例えば、撮影手段から送信され、表示手段で受信される。画像データの送受信は、通常、インターネット回線を通じて行われる。
画像データのファイル形式としては、特に限定されず、使用可能な任意の方式を利用することができ、例えば、静止画像であれば、JPG(JPEG)、GIF、PNG、BMPなどが挙げられ、動画であれば、AVI、QuickTime、Mpeg−1、Mpeg−2、WMV、FLV、MPEG−4などが挙げられる。
画像データの送信及び受信は、例えば、E−メール、ソーシャルネットワーキングサービスなどの通信サービスを用いて行うことができる。
また、画像データが動画である場合、送受信は、例えば、Skype、Zoom、Microsoft Teamsなどのweb会議システムを用い、画像データに加えて、音声データを送受信してもよい。
撮影手段から表示手段へ画像データを伝える方法は、クラウドを利用した、撮影手段からクラウドサーバへの画像データのアップロード、及びクラウドサーバから表示手段への画像データのダウンロードであってもよい。すなわち、表示手段は、クラウドサーバから画像データを受け取ってもよい。
また、撮影手段から表示手段へ画像データを伝える方法は、外部メモリを介した物理的な移動によって行われてもよい。例えば、撮影手段で取得された画像データがUSBメモリなどの外部メモリに保存され、外部メモリが郵送などにより物理的に移動された後、外部メモリを表示手段に接続することで、表示手段は画像データを受け取ることができる。
更に、表示手段に、受け取った複数回の画像データが保存されることで、それら画像データを用いて、撮影対象者の経時変化の確認を行うこともできる。
表示部としては、画像データを表示できる限り、特に限定されないが、例えば、カラーディスプレイなどが挙げられる。
表示手段としては、特に限定されないが、例えば、携帯電話、スマートフォン、タブレット端末、パーソナルコンピュータ、電子カルテシステムの出力端末などが挙げられる。
<<色補正部、色補正処理>>
色補正部は、表示部に表示される画像におけるカラーチャート内の少なくとも一つのパッチの色が、表示部が置かれた場所の光源下において測定されるカラーチャート内の対応する少なくとも一つのパッチの色に近づく乃至は一致するように、表示部の表示色、及び画像データの色情報を補正するための部である。
色補正処理では、表示部に表示される画像におけるカラーチャート内の少なくとも一つのパッチの色が、表示部が置かれた場所の光源下において測定されるカラーチャート内の対応する少なくとも一つのパッチの色に近づく乃至は一致するように、表示部の表示色、及び画像データの色情報が補正される。
色補正処理は、例えば、色補正部により行われる。
表示手段は、色補正部を有していてもよいし、色補正部を有していなくてもよいが、色補正部を有している方が好ましい。
表示工程は、色補正処理を有していてもよいし、色補正処理を有していなくてもよいが、色補正処理を有している方が好ましい。
色補正部は、例えば、色補正を行うプログラムを実行するCPUである。
ここで、色補正によってどの程度色を近づけるかは、目的に応じて適宜選択すればよい。
このような色補正は、カラーチャート内のパッチの一つのみを用いて行ってもよいし、複数を用いて行ってもよい。
色補正部は、例えば、第1補正部と、第2補正部とを有する。
第1補正部は、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、表示部の対応する表示色が近づく乃至は一致するように、表示部の表示色を補正するための部である。
第2補正部は、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、画像データのカラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、画像データの色情報を補正するための部である。
色補正処理は、例えば、第1補正処理と、第2補正処理とを有する。
第1補正処理では、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、表示部の対応する表示色が近づく乃至は一致するように、表示部の表示色が補正される。
第2補正処理では、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、画像データのカラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、画像データの色情報が補正される。
第1補正処理は、例えば、第1補正部により行われる。
第2補正処理は、例えば、第2補正部により行われる。
カラーチャート及び撮影対象者を同時に撮影する場合、撮影環境の違い、撮影手段の種類の違いなどにより、得られる画像データにおける色情報(例えば、RGB値)は異なる。
撮影環境の違いとしては、例えば、室内での撮影の場合は、照明の光源の種類、照明の明るさなどが挙げられる。また、光源と、撮影対象(カラーチャート及び撮影対象者)との位置関係の違いも、得られる画像データにおける色情報に影響を与える。
撮影手段の種類の違いとしては、例えば、撮像素子の種類の違い、画像処理エンジンの違いなどが挙げられる。画像処理エンジンは、例えば、撮像素子から出力される生画像に処理を加え、人間が観察するのに適した画像に変換するシステムLSIである。画像処理エンジンであるシステムLSIは、例えば、組み込みCPU、組み込みDSP、顔検出などを行う専用演算回路、プログラムメモリ、データメモリ、画像メモリなどで構成される。
例えば、カラーチャートを撮影する場合、撮影手段としてのスマートフォンの種類の違い、室内照明の種類の違いなどにより、得られる画像データ毎にカラーチャートのパッチの色情報が異なる場合がある。そのため、それを同じ表示部で表示した場合でも、画像におけるカラーチャートのパッチの色は異なる場合がある。この違いは、遠隔診療に影響を与える場合がある。
また、カラーチャートを観察した場合に人が認識するカラーチャートのパッチの色は、観察する環境(例えば、光源)に依存する。これは、カラーチャートを照らす光の分光分布が、光源に依存するためである。そのため、光源が異なれば、カラーチャートを観察した際に認識又は測定されるカラーチャートのパッチの色は異なる。そのため、表示部にカラーチャートの各パッチの色のRGB値を正確に表示しても、表示部に表示されるカラーチャートの各パッチの色と、表示部が置かれた場所の光源下において人に認識されるカラーチャートの各パッチの色とは異なることがある。
そこで、前述の色補正部、及び色補正処理が有用になる。
ここで、医師がカラーチャートを用いて患者の遠隔診療を行う場合の色補正の具体例について説明する。
色補正の目的は、医師が使用する表示部(例えば、PCのディスプレイ)に表示される画像におけるカラーチャート(患者とともに撮影されたカラーチャート)の色を、正解値である医師の手元にあるカラーチャートの色(ある光源下において医師が認識するカラーチャートの色)に合わせることである。
色補正は、医師が使用するディスプレイの表示色の色補正(第1補正処理)、及び患者が撮影して得られた画像の色補正(第2補正処理)の順で行う。
まず、第1補正処理の一例について説明する。
第1補正処理では、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、表示部の対応する表示色が近づく乃至は一致するように、表示部の表示色が補正される。
具体的には、まず、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色を測色する。次に、測色された色に近づく乃至は一致するように、ディスプレイの表示色を補正する。
人は、色を3刺激値XYZにより認識する。そのため、正解値のXYZ値を、医師の照明環境と同様の照明環境下で、測色計により測定して求める。測色計としては、例えば、
コニカミノルタ 色彩輝度計CS−100Aが用いられる。
ディスプレイの補正は、以下の非特許文献を参考にして、具体的には以下のように実施する。
Matsushita, F., Kiyomitsu, K., Ogawa, K., & Tsumura, N. (2019). Evaluation of Kampo disease states using facial images. Artificial Life and Robotics, 24(1), pp.44−51
輝度と入力されるRGBレベルとの関係は、以下の式(1)で表される。
Figure 2022000686
ここで、L’,L’,及びL’は、それぞれ、赤、緑、及び青の輝度であり、a,b,及びc(i=0、1、2)は係数である。
ディスプレイの表示色の3刺激値X’,Y’,及びZ’は、次の式(2)に示すように、R,G,Bの寄与項に分解できる。
Figure 2022000686
ここで、X’,Y’,及びZ’(i=R,G,B)は、それぞれ、赤、緑、及び青の発光に対する、3刺激値を示す。各発光に対応する3刺激値は、ディスプレイを測定した時の輝度L,色座標x,yから計算できる。各発光についての、X−Y,Y−Zの関係は、次の式(3)のような線形方程式で表すことができる.
Figure 2022000686
ここで、a,b,c,d(i=R,G,B)は係数である。
式(2)、及び式(3)から、次の式(4)が得られる。
Figure 2022000686
式(4)から、ある三刺激値X’Y’Z’をディスプレイに表示したいときの、RGBそれぞれの輝度は、式(5)によって求めることができる。
Figure 2022000686
式(5)のX’、Y’、Z’に、医師の照明環境と同様の照明環境下で、測色計により測定して求めた正解値であるカラーチャート内のパッチのXYZ値を入れる。そして、式(5)によって、求めた輝度を、式(1)に当てはめることで、RGB値(基準RGB値)が算出できる。そして、カラーチャートのパッチの色(RGB値)に対応するディスプレイの表示色(RGB値)を、算出されたRGB値(基準RGB値)に修正する。これにより、医師が使用するディスプレイの表示色の補正ができる。すなわち、上記手順により、ディスプレイの表示色を正解値に補正できる。
次に、第2補正処理の一例について説明する。
第2補正処理では、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、画像データのカラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、画像データの色情報が補正される。
具体的には、カラーチャート及び患者を撮影して得られた画像の画像データにおけるカラーチャートの少なくとも一つのパッチのRGB値を、第1処理補正で算出した、対応する基準RGB値に補正する。
更に具体的には、撮影して得られた画像から、自動認識用マーカを使ってカラーチャートのそれぞれのパッチの部分を抽出し、それぞれのパッチについて、パッチ内の各画素のRGB値の平均値を求める。平均化された数字(RGB値)と、対応する基準RGB値との違いから、重回帰によってモデルを作成する。そのモデルに基づき、画像データの全画素を変換して、撮影された人の顔、舌などの色の補正を行う。
補正は、患者が撮影して得られた画像の画像データにおけるカラーチャートのパッチのRGB値と、対応する基準RGB値との相関を調べることで行われる。
補正では、まず、撮影して得られた画像のカラーチャートのパッチにおける無彩色を利用して、画像データのガンマ補正を行う。次に、カラーチャートのパッチにおける全ての有彩色を利用して、画像データのRGB値の補正を行う。
ガンマ補正の詳細を説明する。まず、第1補正処理においてカラーチャートのパッチにおける無彩色部分を測色計で測色したときの輝度をもとに、撮影して得られた画像における当該無彩色部分のRGB値に対して、ガンマ補正を行う。同様に、これを基準RGB値のグレースケール部分についても行う。
次に、ガンマ補正をRGB値それぞれに対して行う。Rの場合には式(6)のような形となる。
Figure 2022000686
は、撮影して得られた画像のR値であり、Yは、カラーチャートのパッチにおける無彩色を測色計で測色した際の輝度である。カラーチャートの無彩色において、黒が0、白が1となるように白色の輝度値で正規化を行うことで、無彩色の明るさを0〜1の範囲になるように変換を行っている。このモデルによって任意のRGB値についてガンマの補正を行う。具体的には、式(6)の逆関数をそれぞれのRGB値に対してかけることで、ガンマを補正したRGB値を算出する。
次に、ガンマの補正済みの各パッチの色に対して重回帰でモデルを構築する。Rの場合は式(7)となる。
Figure 2022000686
R’は、補正した画像のR値であり、R,G,及びBは、補正前のRGB値である。各パラメータ(a、b、c、d)は、それぞれのパッチを用いた重回帰により求める。
画像表示システムを用いた画像表示方法の一例を、図を用いて説明する。
図4は、画像表示方法の一例のフローチャートである。
まず、図5に示すように、撮影手段2であるスマートフォンを用いて、カラーチャート1と撮影対象者21とを同時に撮影する(S1)。
次に、撮影により得られた画像データを、撮影手段2から表示手段3に送信する(S2)。
次に、撮影手段2から送信された画像データを表示手段3で受信する(S3)。送受信は、例えば、E−メールに画像データを添付して行われる。
最後に、図6に示すように、表示手段3であるPCの表示部3a(ディスプレイ)に画像データを画像として表示する(S4)。
以上により、画像表示方法の一例が行われる。
更に、画像表示方法を用いた遠隔診療を行う場合には、図7に示すように、診断者である医師4が、撮影対象者21である患者が持っているカラーチャート1と同じカラーチャート1を持ちながら、表示部3aに表示されたカラーチャート1の色と、持っているカラーチャート1の色との違いを考慮しながら、表示部3aに表示された患者の顔の肌色や舌色を観察して、診断を行う。
画像表示システムを用いた画像表示方法の他の一例を、図を用いて説明する。
図8は、画像表示方法の他の一例のフローチャートである。
まず、図5に示すように、撮影手段2であるスマートフォンを用いて、カラーチャート1と撮影対象者21とを同時に撮影する(S11)。
次に、撮影により得られた画像データを、撮影手段2から表示手段3に送信する(S12)。
次に、撮影手段2から送信された画像データを表示手段3で受信する(S13)。送受信は、例えば、E−メールに画像データを添付して行われる。
他方、表示部3aの表示色の補正を行う(S14)。具体的には、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、表示部の対応する表示色が近づく乃至は一致するように、表示部の表示色を補正する。この色補正は、色補正部3bが行う。
次に、画像データの補正を行う(S15)。具体的には、表示部が置かれた場所の光源下において測定されるカラーチャート内の少なくとも一つのパッチの色に、画像データのカラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、画像データの色情報を補正する(S15)。この色補正は、色補正部3bが行う。色補正を行う際、画像中のカラーチャートの各パッチは、自動認識用マーカを用いて自動認識される。
最後に、図6に示すように、表示手段3であるPCの表示部3a(ディスプレイ)に補正された画像データを画像として表示する(S16)。
以上により、画像表示方法の一例が行われる。なお、工程S14は、工程S13の後に行う必要はなく、工程S14と他の工程とを行う順序は任意でよい。
更に、画像表示方法を用いた遠隔診療を行う場合には、図7に示すように、診断者である医師4が、撮影対象者21である患者が持っているカラーチャート1と同じカラーチャート1を持ちながら、表示部3aに表示された患者の顔や舌色を観察して、診断を行う。
この例では、色補正が行われているため、画像内の患者の顔の肌色は、色補正が行われない場合と比べて、対面診療を行ったと仮定した際の患者の顔の肌色に近い状態となっている。そのため、医師は、患者の肌色、舌色を望診する際、対面診療を行うのと近い状態で遠隔診療を行うことができる。
以下に実施例を挙げて本発明を更に具体的に説明するが、本発明の範囲はこれらの実施例に限定されるものではない。
(実施例1)
図4に示すフローチャートに従って、画像表示と、遠隔診療の模擬診断とを行った。
カラーチャートとして、図2に示すカラーチャートを用いた。
遠隔診療の模擬診断は、金沢大学附属病院漢方医学科の医師8名が行った。
まず、患者が、スマートフォンのカメラ機能を用いて、自分の顔とカラーチャートの両方が写るように撮影した。撮影して得られた写真画像を、E−メールに添付して医師に送信した。E−メールを受信した医師は、写真画像をPCのディスプレイに表示した。医師は、手元にある実物のカラーチャートと、写真画像に写ったカラーチャートとを比較して、それらの違いを考慮しつつ、患者の顔の肌色を医師の感覚で判断した。なお、色の比較に熟知していない医師のために、以下を記載した手順書をあらかじめ医師に渡していた。なお、以下の手順書において「左側」とは正面視した際の左側を意味する。
〔手順書〕
(1)グレースケール:カラーチャート左側の、黒から白への濃淡部分を観察し、明るさの段階の違いを観察する。
(2)赤系統のパッチを見て、赤の強弱を観察する。これにより、血色の見えの違いを考慮する。
(3)健康な舌色のパッチを見て、色の濃淡を確認する。
(4)青色のパッチを見て、色の強弱を確認する。これにより、赤・青の強弱の違いが判る事になる。
(5)舌肌色パッチにより、患者の状態をより正確に把握する。
(6)皮膚炎を起こしたパッチも用意されているので、炎症を把握するために利用する。
判定者である8名の医師の評価コメントを表2に示した。色彩の知識がある医師は良い評価を示した。色彩の知見が少ない医師は、使用法の説明により、利用価値を見出した。否定的な意見は無く、カラーチャートを使用しない場合よりは、良い診療ができるとの評価であった。
Figure 2022000686
(実施例2)
図8に示すフローチャートに従って、画像表示を行った。
カラーチャートとして、図2に示すカラーチャートを用いた。
画像の色補正は、式(1)〜(7)を用いて、前述の方法で行った。
色補正を行うためのプログラムは、Pythonで作成した。
結果として、表示部に表示された画像の患者の顔の肌色は、対面診療を行ったと仮定した際の顔の肌色と同様であった。
1名の漢方医が、表示部に表示された画像を評価した。評価結果では、診療において信頼できる範囲の色補正がなされているとの意見が得られた。
1 カラーチャート
2 撮影手段
3 表示手段
3a 表示部
4 医師
11a、11b 自動認識用マーカ
21 撮影対象者

Claims (12)

  1. 以下の第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有する複数のパッチを有するカラーチャートと、
    前記カラーチャート及び撮影対象者を同時に撮影し、画像データを取得する撮影手段と、
    前記画像データを受け取り、前記画像データを画像として表示部に表示する表示手段と、
    を有することを特徴とする画像表示システム。
    第1パッチ:L値においてL=72、a=8、及びb=22で表される第1色、又は第1色に対してL色空間において色差ΔEが5以下の色、を有する領域
    第2パッチ:L値においてL=78、a=30、及びb=15で表される第2色、又は第2色に対してL色空間において色差ΔEが5以下の色、を有する領域
    第3パッチ:L値においてL=58、a=27、及びb=7で表される第3色、又は第3色に対してL色空間において色差ΔEが5以下の色、を有する領域
    第4パッチ:L値においてL=60、a=20、及びb=5で表される第4色、又は第4色に対してL色空間において色差ΔEが5以下の色、を有する領域
    第5パッチ:L値においてL=48、a=25、及びb=2で表される第5色、又は第5色に対してL色空間において色差ΔEが5以下の色、を有する領域
    第6パッチ:L値においてL=52、a=50、及びb=13で表される第6色、又は第6色に対してL色空間において色差ΔEが5以下の色、を有する領域
    第7パッチ:L値においてL=33、a=40、及びb=30で表される第7色、又は第7色に対してL色空間において色差ΔEが5以下の色、を有する領域
  2. 前記複数のパッチが、明度が異なる複数の無彩色のパッチを有する、請求項1に記載の画像表示システム。
  3. 前記複数のパッチが、前記第1色から前記第7色とは異なる複数の有彩色のパッチを有する、請求項1又は2に記載の画像表示システム。
  4. 前記カラーチャートの面積が、40cm以上150cm以下である、請求項1〜3のいずれかに記載の画像表示システム。
  5. 前記複数のパッチの各面積が、0.25cm以上4cm以下である、請求項1〜4のいずれかに記載の画像表示システム。
  6. 前記カラーチャートが、前記複数のパッチの少なくとも一つを自動認識するための自動認識用マーカを有する、請求項1〜5のいずれかに記載の画像表示システム。
  7. 前記カラーチャートが、主面の右下部に空白部を有する、請求項1〜6のいずれかに記載の画像表示システム。
  8. 前記撮影手段が、カメラ機能付き電子機器である、請求項1〜7のいずれかに記載の画像表示システム。
  9. 前記表示手段が、パーソナルコンピュータである、請求項1〜8のいずれかに記載の画像表示システム。
  10. 前記表示手段が、前記表示部に表示される前記画像における前記カラーチャート内の少なくとも一つのパッチの色が、前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の対応する少なくとも一つのパッチの色に近づく乃至は一致するように、前記表示部の表示色、及び前記画像データの色情報を補正する色補正部を更に有する、請求項1〜9のいずれかに記載の画像表示システム。
  11. 前記色補正部が、
    前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の少なくとも一つのパッチの色に、前記表示部の対応する表示色が近づく乃至は一致するように、前記表示部の表示色を補正する第1補正部と、
    前記表示部が置かれた場所の光源下において測定される前記カラーチャート内の少なくとも一つのパッチの色に、前記画像データの前記カラーチャート内の対応する少なくとも一つのパッチの色が近づく乃至は一致するように、前記画像データの色情報を補正する第2補正部と、
    を有する、請求項10に記載の画像表示システム。
  12. 以下の第1パッチから第7パッチからなる群から選択される少なくとも3つのパッチを有する複数のパッチを有するカラーチャート及び撮影対象者が同時に撮影され、画像データが取得される撮影工程と、
    前記画像データが受け取られ、前記画像データが画像として表示部に表示される表示工程と、
    を有することを特徴とする画像表示方法。
    第1パッチ:L値においてL=72、a=8、及びb=22で表される第1色、又は第1色に対してL色空間において色差ΔEが5以下の色、を有する領域
    第2パッチ:L値においてL=78、a=30、及びb=15で表される第2色、又は第2色に対してL色空間において色差ΔEが5以下の色、を有する領域
    第3パッチ:L値においてL=58、a=27、及びb=7で表される第3色、又は第3色に対してL色空間において色差ΔEが5以下の色、を有する領域
    第4パッチ:L値においてL=60、a=20、及びb=5で表される第4色、又は第4色に対してL色空間において色差ΔEが5以下の色、を有する領域
    第5パッチ:L値においてL=48、a=25、及びb=2で表される第5色、又は第5色に対してL色空間において色差ΔEが5以下の色、を有する領域
    第6パッチ:L値においてL=52、a=50、及びb=13で表される第6色、又は第6色に対してL色空間において色差ΔEが5以下の色、を有する領域
    第7パッチ:L値においてL=33、a=40、及びb=30で表される第7色、又は第7色に対してL色空間において色差ΔEが5以下の色、を有する領域
JP2021039227A 2020-06-17 2021-03-11 画像表示システム、及び画像表示方法 Active JP7136955B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
US18/010,908 US20230239419A1 (en) 2020-06-17 2021-06-15 Image display system and image display method
EP21826909.0A EP4170646A4 (en) 2020-06-17 2021-06-15 IMAGE DISPLAY SYSTEM AND IMAGE DISPLAY METHOD
CN202180032478.0A CN115552512A (zh) 2020-06-17 2021-06-15 图像显示系统以及图像显示方法
KR1020227035669A KR20230025656A (ko) 2020-06-17 2021-06-15 화상 표시 시스템 및 화상 표시 방법
CA3182631A CA3182631A1 (en) 2020-06-17 2021-06-15 Image display system and image display method
PCT/JP2021/022642 WO2021256459A1 (ja) 2020-06-17 2021-06-15 画像表示システム、及び画像表示方法
JP2022102904A JP2022137109A (ja) 2020-06-17 2022-06-27 画像表示システム、及び画像表示方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020104693 2020-06-17
JP2020104693 2020-06-17

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022102904A Division JP2022137109A (ja) 2020-06-17 2022-06-27 画像表示システム、及び画像表示方法

Publications (2)

Publication Number Publication Date
JP2022000686A true JP2022000686A (ja) 2022-01-04
JP7136955B2 JP7136955B2 (ja) 2022-09-13

Family

ID=79242023

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021039227A Active JP7136955B2 (ja) 2020-06-17 2021-03-11 画像表示システム、及び画像表示方法
JP2022102904A Pending JP2022137109A (ja) 2020-06-17 2022-06-27 画像表示システム、及び画像表示方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022102904A Pending JP2022137109A (ja) 2020-06-17 2022-06-27 画像表示システム、及び画像表示方法

Country Status (7)

Country Link
US (1) US20230239419A1 (ja)
EP (1) EP4170646A4 (ja)
JP (2) JP7136955B2 (ja)
KR (1) KR20230025656A (ja)
CN (1) CN115552512A (ja)
CA (1) CA3182631A1 (ja)
WO (1) WO2021256459A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024116574A1 (ja) * 2022-11-28 2024-06-06 株式会社ロッテ 咀嚼能力測定方法、咀嚼能力確認システム及び専用台紙

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024033499A (ja) 2022-08-30 2024-03-13 エスペック株式会社 雪環境試験装置及び雪環境試験方法

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000052571A (ja) * 1998-08-11 2000-02-22 Olympus Optical Co Ltd 画像形成装置
JP2003134526A (ja) * 2001-10-19 2003-05-09 Univ Waseda 色再現装置及び色再現方法
JP2007278710A (ja) * 2006-04-03 2007-10-25 Pfu Ltd 色再現システム
JP2008022410A (ja) * 2006-07-14 2008-01-31 Dainippon Printing Co Ltd プロファイル作成装置及びプロファイル作成システム
JP2009028058A (ja) * 2007-07-24 2009-02-12 Saieco:Kk 舌診システム、舌診装置、舌診方法、舌診プログラム
JP2010082151A (ja) * 2008-09-30 2010-04-15 Kango Tsuruta 鏡器具
CN101947101A (zh) * 2010-07-15 2011-01-19 哈尔滨工业大学 一种舌色还原色卡的制作方法
JP2011212013A (ja) * 2010-03-17 2011-10-27 Elmex Ltd フィルム型培地による微生物検査方法およびこの微生物検査方法に用いる画像取込ツ−ル
KR20130067657A (ko) * 2011-12-14 2013-06-25 한국 한의학 연구원 혀 입체 정보 추출 장치 및 방법
JP2013141245A (ja) * 2011-12-29 2013-07-18 Samsung Electronics Co Ltd 表示装置及び色補正方法
CN103340598A (zh) * 2013-05-16 2013-10-09 李少文 用于人体的色卡及其制作方法、使用方法
US20140148708A1 (en) * 2012-11-26 2014-05-29 Cardiocom, Llc System and method for wound management
JP2018120184A (ja) * 2017-01-27 2018-08-02 凸版印刷株式会社 画像校正色標及び画像校正色標製造方法
CN110495888A (zh) * 2019-08-27 2019-11-26 上海中医药大学 一种基于中医舌、面图像的标准色卡及其应用
CN110739047A (zh) * 2018-07-19 2020-01-31 脉景(杭州)健康管理有限公司 患者图像色彩还原方法、装置、设备及可读存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3417235B2 (ja) 1996-12-13 2003-06-16 ミノルタ株式会社 診断システム

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000052571A (ja) * 1998-08-11 2000-02-22 Olympus Optical Co Ltd 画像形成装置
JP2003134526A (ja) * 2001-10-19 2003-05-09 Univ Waseda 色再現装置及び色再現方法
JP2007278710A (ja) * 2006-04-03 2007-10-25 Pfu Ltd 色再現システム
JP2008022410A (ja) * 2006-07-14 2008-01-31 Dainippon Printing Co Ltd プロファイル作成装置及びプロファイル作成システム
JP2009028058A (ja) * 2007-07-24 2009-02-12 Saieco:Kk 舌診システム、舌診装置、舌診方法、舌診プログラム
JP2010082151A (ja) * 2008-09-30 2010-04-15 Kango Tsuruta 鏡器具
JP2011212013A (ja) * 2010-03-17 2011-10-27 Elmex Ltd フィルム型培地による微生物検査方法およびこの微生物検査方法に用いる画像取込ツ−ル
CN101947101A (zh) * 2010-07-15 2011-01-19 哈尔滨工业大学 一种舌色还原色卡的制作方法
KR20130067657A (ko) * 2011-12-14 2013-06-25 한국 한의학 연구원 혀 입체 정보 추출 장치 및 방법
JP2013141245A (ja) * 2011-12-29 2013-07-18 Samsung Electronics Co Ltd 表示装置及び色補正方法
US20140148708A1 (en) * 2012-11-26 2014-05-29 Cardiocom, Llc System and method for wound management
CN103340598A (zh) * 2013-05-16 2013-10-09 李少文 用于人体的色卡及其制作方法、使用方法
JP2018120184A (ja) * 2017-01-27 2018-08-02 凸版印刷株式会社 画像校正色標及び画像校正色標製造方法
CN110739047A (zh) * 2018-07-19 2020-01-31 脉景(杭州)健康管理有限公司 患者图像色彩还原方法、装置、设备及可读存储介质
CN110495888A (zh) * 2019-08-27 2019-11-26 上海中医药大学 一种基于中医舌、面图像的标准色卡及其应用

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024116574A1 (ja) * 2022-11-28 2024-06-06 株式会社ロッテ 咀嚼能力測定方法、咀嚼能力確認システム及び専用台紙

Also Published As

Publication number Publication date
JP2022137109A (ja) 2022-09-21
JP7136955B2 (ja) 2022-09-13
CA3182631A1 (en) 2021-12-23
EP4170646A4 (en) 2024-06-26
KR20230025656A (ko) 2023-02-22
CN115552512A (zh) 2022-12-30
WO2021256459A1 (ja) 2021-12-23
US20230239419A1 (en) 2023-07-27
EP4170646A1 (en) 2023-04-26

Similar Documents

Publication Publication Date Title
Dimauro et al. A new method and a non-invasive device to estimate anemia based on digital images of the conjunctiva
US20200261016A1 (en) Skin Feature Imaging System
WO2015114950A1 (ja) 器官画像撮影装置
JP6545658B2 (ja) ビリルビンレベルを推定すること
EP1450287A2 (en) Method of extracting region of interest from tongue image and health monitoring method and apparatus using the tongue image
JP2022137109A (ja) 画像表示システム、及び画像表示方法
US20170238843A1 (en) Degree-of-health outputting device, degree-of-health outputting system, and program
TWI576093B (zh) 血色素與血球比容之檢測系統及方法
JP6981561B1 (ja) カラーチャート
JP6266948B2 (ja) 黄疸測定システム
JP2010214055A (ja) 歯色の時系列表示装置及びその方法
CN106127675B (zh) 颜色一致性方法和装置
TWI489306B (zh) Health status assessment methods and the use of the method of health assessment system
KR20180061629A (ko) 영상을 이용한 피부 상태 평가 방법 및 영상을 이용한 피부 상태 평가 장치
US20160242678A1 (en) Organ image photographing apparatus
US12022048B2 (en) Display unit color-correction method
JP2024051715A (ja) 画像処理装置、画像処理方法及びプログラム
JP2022187833A (ja) 機械学習装置、その制御方法ならびにプログラム
JPH11206722A (ja) 在宅健康管理システム
WO2015063940A1 (ja) 血行度測定装置、方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210312

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210312

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20210416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210427

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210621

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210820

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211102

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20211222

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220405

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20220627

C876 Explanation why request for accelerated appeal examination is justified

Free format text: JAPANESE INTERMEDIATE CODE: C876

Effective date: 20220627

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20220712

C305 Report on accelerated appeal examination

Free format text: JAPANESE INTERMEDIATE CODE: C305

Effective date: 20220714

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20220726

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20220823

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20220823

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220901

R150 Certificate of patent or registration of utility model

Ref document number: 7136955

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150