JP2021100555A - 医療画像処理装置、内視鏡システム、診断支援方法及びプログラム - Google Patents

医療画像処理装置、内視鏡システム、診断支援方法及びプログラム Download PDF

Info

Publication number
JP2021100555A
JP2021100555A JP2019233104A JP2019233104A JP2021100555A JP 2021100555 A JP2021100555 A JP 2021100555A JP 2019233104 A JP2019233104 A JP 2019233104A JP 2019233104 A JP2019233104 A JP 2019233104A JP 2021100555 A JP2021100555 A JP 2021100555A
Authority
JP
Japan
Prior art keywords
information
medical image
lesion
processor
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019233104A
Other languages
English (en)
Other versions
JP7346285B2 (ja
JP2021100555A5 (ja
Inventor
美沙紀 目黒
Misaki MEGURO
美沙紀 目黒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2019233104A priority Critical patent/JP7346285B2/ja
Priority to US17/111,514 priority patent/US11600385B2/en
Publication of JP2021100555A publication Critical patent/JP2021100555A/ja
Publication of JP2021100555A5 publication Critical patent/JP2021100555A5/ja
Application granted granted Critical
Publication of JP7346285B2 publication Critical patent/JP7346285B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/67ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000096Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H15/00ICT specially adapted for medical reports, e.g. generation or transmission thereof
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/273Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the upper alimentary canal, e.g. oesophagoscopes, gastroscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30028Colon; Small intestine
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30092Stomach; Gastric
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Theoretical Computer Science (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Optics & Photonics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Quality & Reliability (AREA)
  • General Business, Economics & Management (AREA)
  • Business, Economics & Management (AREA)
  • Databases & Information Systems (AREA)
  • Endoscopes (AREA)

Abstract

【課題】観察対象の部位情報と医療画像から検出される病変種別情報とのいずれかが誤っている場合に不適切な報知を回避して、診断を支援することが可能な医療画像処理装置、内視鏡システム、診断支援方法及びプログラムを提供する。【解決手段】医療画像処理装置は少なくとも1つのプロセッサを備える。少なくとも1つのプロセッサは、医療画像を取得し、医療画像に含まれる観察対象の人体における部位を示す部位情報を取得し、医療画像から病変を検出して病変の種別を示す病変種別情報を取得し、部位情報と病変種別情報との矛盾の有無を判定し、判定の結果に基づき部位情報及び病変種別情報の報知態様を決定する。【選択図】図3

Description

本発明は医療画像処理装置、内視鏡システム、診断支援方法及びプログラムに関する。
近年、内視鏡画像等の医療画像の分野において、人工知能(AI:Artificial Intelligence)技術等が導入され、画像解析によって病変の位置及び/又は病変の種類を認識し、その認識結果を報知することにより、診断を支援する技術が開発されている。病変等を認識するための処理においては、深層学習(Deep Learning)をはじめとする機械学習によって学習された推論モデルを含むAIモジュールが使用される。
特許文献1には、内視鏡により得られた内視鏡画像から病変部を検出して病変部の鑑別分類を行う内視鏡装置が記載されている。特許文献1に記載の内視鏡装置におけるプロセッサは、鑑別支援のための各種処理を行う回路である鑑別支援部を含む。鑑別支援部は、内視鏡画像から病変部の領域を特定する病変領域特定部と、内視鏡画像を基に観察対象である臓器の部位を推定する臓器部位推定部とを含んでいる。病変領域特定部及び臓器部位推定部には機械学習を用いた分類器が適用されている。特許文献1における鑑別支援は本明細書における診断支援に対応する用語と理解される。
また、特許文献2には、深層学習の手法を用いて学習がなされたニューラルネットワークを用いて特定の領域の抽出及び病変の種類の判別を行うコンピュータを含む医療情報システムが記載されている。
国際公開第2018/105063号 特開2019−169049号公報
内視鏡検査など医療画像を用いる検査において深層学習等による病変検出は医師の診断支援に有効である。例えば、上部消化器官内視鏡検査の場合、食道、胃及び十二指腸の各部位を一連の検査によって観察するため、観察対象の部位情報と画像内から検出される病変の種別を示す病変種別情報とを組み合わせて報知を行うことが望まれる。
その一方で、深層学習等による画像の認識性能は完全とは言えず、AIが出力する認識結果にミス(誤り)が発生する可能性が考えられる。特に、部位の認識と病変の認識とをそれぞれ独立した別々の方法によって実施する場合に、どちらかの認識結果にミスが発生すると、モニタの画面に報知させる部位情報と病変種別情報とが矛盾する事態となる可能性がある。
また、深層学習等による病変検出では対象とする部位ごとに異なるAIモジュールが用意されることがあり、このようなシステムにおいては、観察の対象とする部位に応じて検出方法を切り替えることが考えられる。例えば、食道、胃、及び十二指腸といった部位ごとに別々の推論モデルを用いたAIモジュールが用意され、部位の認識に連動してそれぞれの部位における病変検出に適した検出器(AIモジュール)に切り替えるシステムを構築することが考えられる。このように複数の部位を検査対象とする一連の内視鏡検査では異なる部位を観察するため、観察対象の部位に応じて自動的に検出方法を切り替えることが求められる。
しかし、例えば、部位の認識にミス(誤り)があった場合に、システムが意図しない挙動を起こす可能性が考えられる。
上述したこれらの課題は、内視鏡検査に限らず、各種の医療画像に対して観察対象の部位情報の取得と医療画像に基づく病変種別情報の取得とを行う場合に想定される共通の課題である。
本発明はこのような事情に鑑みてなされたもので、上述した複数の課題のうちの少なくとも1つの課題を解決し、観察対象の部位情報と医療画像から検出される病変の種別を示す病変種別情報とのいずれかが誤っている場合に不適切な報知を回避して、診断を支援することが可能な医療画像処理装置、内視鏡システム、診断支援方法及びプログラムを提供することを目的とする。
本開示の一態様に係る医療画像処理装置は、少なくとも1つのプロセッサを有する医療画像処理装置であって、少なくとも1つのプロセッサは、医療画像を取得し、医療画像に写っている被写体の人体における部位を示す部位情報を取得し、医療画像から病変を検出して病変の種別を示す病変種別情報を取得し、部位情報と病変種別情報との矛盾の有無を判定し、判定の結果に基づき部位情報及び病変種別情報の報知態様を決定する。
部位情報と病変種別情報との矛盾の有無を判定することは、部位情報と病変種別情報との整合性を判定すること理解してよい。部位とその部位において検出される可能性がある病変種別の候補との対応関係は医学的知識から特定され得る。少なくとも1つのプロセッサは、部位情報と病変種別情報とが矛盾しているか否かを判定して、矛盾する情報の報知を回避する報知を行うよう報知態様を制御できる。報知態様とは、報知方法と言い換えてもよい。本態様によれば、矛盾する情報が報知される事態を回避するなどの対応が可能となり、診断等に有益な情報を提供することが可能になる。
医療画像処理装置は、単一の装置として構成されてもよいし、複数の装置を組み合わせて構成されてもよい。例えば、医療画像処理装置は、1台又は複数台のコンピュータを用いて実現し得る。「装置」は、「システム」及び「モジュール」の概念を含む。
本開示の他の態様に係る医療画像処理装置において、メモリをさらに備え、メモリには、複数種類の部位と部位ごとの病変の種別との対応関係を表すテーブルが記憶されており、少なくとも1つのプロセッサは、テーブルを用いて部位情報と病変種別情報との矛盾の有無を判定する構成であってよい。
「テーブル」は、医学的知識に基づいて作成しておくことができる。少なくとも1つのプロセッサは、取得される部位情報と病変種別情報との組み合わせがテーブルに記載されている組み合わせに該当するか否かを判定し、テーブルに記載されている組み合わせに該当する場合には「矛盾がない」と判定し、テーブルに記載されている組み合わせに非該当である場合には「矛盾している」と判定することができる。
本開示のさらに他の態様に係る医療画像処理装置において、メモリには、少なくとも1つのプロセッサによって実行される命令が記憶され、少なくとも1つのプロセッサが命令を実行することにより、少なくとも1つのプロセッサが医療画像の取得、部位情報の取得、病変種別情報の取得、矛盾の有無の判定、及び報知態様の決定、を含む処理を行う、構成とすることができる。
本開示のさらに他の態様に係る医療画像処理装置において、少なくとも1つのプロセッサは、部位情報と病変種別情報とに矛盾がないと判定した場合、部位情報及び病変種別情報の両方を報知することを決定する構成であってよい。
本開示のさらに他の態様に係る医療画像処理装置において、少なくとも1つのプロセッサは、部位情報と病変種別情報とに矛盾があると判定した場合、部位情報及び病変種別情報のうち少なくとも一方の情報を非報知とすることを決定する構成であってよい。
本開示のさらに他の態様に係る医療画像処理装置において、少なくとも1つのプロセッサは、部位情報と病変種別情報とに矛盾があると判定した場合、部位情報の信頼度と病変種別情報の信頼度とを比較し、部位情報及び病変種別情報のうち、信頼度が高い方の情報を報知し、低い方の情報を非報知とすることを決定する構成であってよい。
本開示のさらに他の態様に係る医療画像処理装置において、少なくとも1つのプロセッサは、部位情報と病変種別情報とに矛盾があると判定した場合、部位情報を非報知とし、病変種別情報を報知することを決定する構成であってよい。
本開示のさらに他の態様に係る医療画像処理装置において、少なくとも1つのプロセッサは、部位情報と病変種別情報とに矛盾があると判定した場合、部位情報の信頼度及び病変種別情報の信頼度のそれぞれを基準値と比較し、部位情報の信頼度及び病変種別情報の信頼度の両方が基準値以下であれば、部位情報及び病変種別情報の両方を非報知とすることを決定する構成であってよい。
本開示のさらに他の態様に係る医療画像処理装置において、少なくとも1つのプロセッサは、部位情報と病変種別情報とに矛盾があると判定した場合、矛盾が起こったことを報知することを決定する構成であってよい。
本開示のさらに他の態様に係る医療画像処理装置において、少なくとも1つのプロセッサは、医療画像から被写体の部位を認識することにより部位情報を取得する構成であってよい。
「認識」という用語は、識別、判別、推論、推定、検出、及び分類などの概念を含む。少なくとも1つのプロセッサは、例えば、機械学習によって認識性能を獲得した学習済みモデルを用いて認識の処理を行う構成であってよい。
本開示のさらに他の態様に係る医療画像処理装置において、少なくとも1つのプロセッサは、医療画像を第1のニューラルネットワークに入力することにより第1のニューラルネットワークから出力される推論結果が示す部位情報を取得し、医療画像を第2のニューラルネットワークに入力することにより第2のニューラルネットワークから出力される推論結果を用いた推論によって医療画像の画像内に存在する病変の病変種別情報を取得する構成であってよい。
本開示のさらに他の態様に係る医療画像処理装置において、少なくとも1つのプロセッサは、第1のニューラルネットワークを用いて部位情報の信頼度を示すスコアを取得し、第2のニューラルネットワークを用いて病変種別情報の信頼度を示すスコアを取得する構成であってよい。
本開示のさらに他の態様に係る医療画像処理装置において、少なくとも1つのプロセッサは、さらに、決定した報知態様の報知を実現させる報知制御用の信号を生成する構成であってよい。
本開示のさらに他の態様に係る医療画像処理装置において、報知制御用の信号は、ディスプレイを用いた表示による報知を実現させる表示信号を含む構成であってよい。
本開示のさらに他の態様に係る医療画像処理装置において、少なくとも1つのプロセッサが決定した報知態様に従って情報の表示を行うディスプレイをさらに備える構成であってよい。
本開示のさらに他の態様に係る医療画像処理装置において、少なくとも1つのプロセッサは、時系列の医療画像を取得する構成であってよい。
時系列の医療画像は、動画像であってもよいし、連写、若しくはインターバル撮影などのように、特定の時間間隔で撮影される画像群であってもよい。また、時系列による撮影の時間間隔は必ずしも一定でなくてもよい。
医療画像は、内視鏡を用いて撮影された内視鏡画像であってよい。内視鏡は、内視鏡スコープであってよいし、カプセル内視鏡であってもよい。
本開示のさらに他の態様に係る医療画像処理装置において、部位は臓器であり、部位情報は臓器の名称を示す情報であってよい。
本開示の他の態様に係る内視鏡システムは、内視鏡スコープと、少なくとも1つのプロセッサと、を備える内視鏡システムであって、少なくとも1つのプロセッサは、内視鏡スコープを用いて体内を撮影することによって得られる内視鏡画像を取得し、内視鏡画像に写っている被写体の人体における部位を示す部位情報を取得し、内視鏡画像から病変を検出して病変の種別を示す病変種別情報を取得し、部位情報と病変種別情報との矛盾の有無を判定し、判定の結果から部位情報及び病変種別情報の報知態様を決定し、決定した報知態様に従って報知を実行させる報知制御用の信号を生成する。
本開示の他の態様に係る診断支援方法は、少なくとも1つのプロセッサが実施する診断支援方法であって、少なくとも1つのプロセッサが、医療画像を取得することと、医療画像に含まれる観察対象の人体における部位を示す部位情報を取得することと、医療画像から病変を検出して病変の種別を示す病変種別情報を取得することと、部位情報と病変種別情報との矛盾の有無を判定することと、判定の結果に基づき部位情報及び病変種別情報の報知態様を決定することと、決定した報知態様に従ってディスプレイに情報を表示させることと、を含む。
本開示の他の態様に係るプログラムは、コンピュータに、医療画像を取得する機能と、医療画像に写っている被写体の人体における部位を示す部位情報を取得する機能と、医療画像から病変を検出して病変の種別を示す病変種別情報を取得する機能と、部位情報と病変種別情報との矛盾の有無を判定する機能と、判定の結果に基づき部位情報及び病変種別情報の報知態様を決定する機能と、を実現させるためのプログラム。
本発明によれば、観察対象の部位情報と医療画像から検出される病変種別情報とが矛盾している場合に、これら矛盾する情報が報知されてしまう事態を回避するなどの対応が可能となり、妥当な報知の実現により、診断等に有益な情報を提供することが可能になる。
図1は、本発明の実施形態に係る内視鏡システムの外観を例示的に示す斜視図である。 図2は、内視鏡システムの構成例を示すブロック図である。 図3は、第1実施形態に係る医療画像処理装置の機能を示す機能ブロック図である。 図4は、部位と病変種別との関係が記述された対応関係テーブルの例を示す図表である。 図5は、モニタの画面に表示される表示画像の例である。 図6は、比較例の内視鏡システムにおいて想定される不適切な報知が行われた場合の表示画像の例である。 図7は、本実施形態に係る医療画像処理装置によって部位情報を非報知とし、病変種別情報を報知する場合の表示画像の例である。 図8は、本実施形態に係る医療画像処理装置によって病変種別情報を非報知とし、部位情報を報知する場合の表示画像の例である。 図9は、本実施形態に係る医療画像処理装置によって部位情報と病変種別情報との両方の情報を非報知とする場合の表示画像の例である。 図10は、本実施形態に係る医療画像処理装置によって部位認識の結果と病変検出の結果とに矛盾が発生したことを報知する場合の表示画像の例である。 図11は、第1実施形態に係る医療画像処理装置のハードウェア構成を例示的に示すブロック図である。 図12は、第1実施形態に係る医療画像処理装置の動作を示すフローチャートである。 図13は、第2実施形態に係る医療画像処理装置の要部構成を示す機能ブロック図である。 図14は、第2実施形態に係る医療画像処理装置のハードウェア構成を例示的に示すブロック図である。 図15は、第3実施形態に係る医療画像処理装置の機能を示す機能ブロック図である。
以下、添付図面に従って本発明の好ましい実施の形態について詳説する。本明細書では、同一の構成要素には同一の参照符号を付して、重複する説明は適宜省略する。
《内視鏡システムの概要》
図1は、本発明の実施形態に係る内視鏡システム10の外観を例示的に示す斜視図である。内視鏡システム10は、内視鏡スコープ100と、プロセッサ装置200と、光源装置300と、モニタ400と、を備える。
内視鏡スコープ100は電子内視鏡であり、例えば軟性内視鏡である。内視鏡スコープ100は、手元操作部102、挿入部104、及びユニバーサルケーブル106を備える。手元操作部102は、アングルノブ140、送気送水ボタン141、吸引ボタン142、機能ボタン143、及び撮影ボタン144を備える。
アングルノブ140は、挿入部104における湾曲部114の湾曲方向及び湾曲量を指示する湾曲操作に用いられる。アングルノブ140は、湾曲部114を上下方向に湾曲させる上下アングルノブと、湾曲部114を左右方向に湾曲させる左右アングルノブとの2種類のノブを含む。
送気送水ボタン141は、送気指示及び送水指示の操作を受け付ける。吸引ボタン142は吸引指示の操作を受け付ける。機能ボタン143には各種の機能が割り付けられる。機能ボタン143は各種機能の指示操作を受け付ける。撮影ボタン144は撮影指示操作を受け付ける。「撮影」という用語には、静止画像の撮影及び動画像の撮影の両方の概念が含まれる。撮影指示操作には、静止画像の撮影タイミングを指示する操作、及び動画像の撮影開始タイミングと撮影終了タイミングとを指示する操作が含まれる。
ユーザは、手元操作部102を把持して内視鏡スコープ100を操作し、挿入部104を被検体の体内に挿入することにより体内を観察する。ここでの「ユーザ」とは、術者である医師を指す。「被検体」という記載は、患者、被検者あるは被検査者と同義である。
挿入部104は、被検体の体内に挿入される部分である。挿入部104は、手元操作部102に連設されており、手元操作部102の側から順に、軟性部112、湾曲部114及び先端硬質部116を備える。
軟性部112は、手元操作部102と湾曲部114との間に設けられる可撓性を有する部分である。湾曲部114は、手元操作部102の操作によって湾曲可能な機構を含む部分である。ユーザはアングルノブ140を操作することにより湾曲部114を湾曲させて、先端硬質部116の向きを上下左右に変えることができる。
図1には先端硬質部116の一部を拡大して図示する。先端硬質部116には、撮影レンズ132を含む撮像部と、照明用レンズ123A,123Bを含む照明部と、鉗子口126とが設けられる。なお、撮像部は図2において符号130を付して図示する。また、照明部は図2において符号123を付して図示する。
観察及び処置の際には、ユーザによる操作に応じて照明用レンズ123A,123Bを介して白色光及び/又は狭帯域光を照射することができる。狭帯域光には、赤色狭帯域光、緑色狭帯域光、青色狭帯域光、及び紫色狭帯域光のうち少なくとも1つが含まれる。
また、送気送水ボタン141が操作された場合、不図示の送水ノズルから洗浄水が放出され、又は不図示の送気ノズルから気体が放出される。洗浄水及び気体は、撮影レンズ132及び照明用レンズ123A,123B等の洗浄に用いることができる。なお、送水ノズル及び送気ノズルを共通化してもよい。
鉗子口126は、挿入部104の内部に配置される不図示の処置具挿通路と連通している。処置具挿通路には不図示の処置具が挿通される。手元操作部102には処置具を処置具挿通路内に導入するための不図示の処置具導入口が設けられている。処置具としては、例えば、生検鉗子、カテーテル、高周波スネアなどがあり得る。また、処置具には、カイドチューブ、トラカールチューブ、スライディングチューブなども含まれる。処置具は処置具挿通路において適宜進退可能に支持される。腫瘍摘出等の際に、ユーザは処置具を用いて被検体に対して必要な処置を施すことが可能である。
ユニバーサルケーブル106は、内視鏡スコープ100をプロセッサ装置200及び光源装置300に接続するためのケーブルである。ユニバーサルケーブル106には、挿入部104から延設される電気ケーブル及びライトガイドが挿通されている。電気ケーブルには、信号の伝達に用いる通信ケーブルと電力供給に用いる給電ケーブルとが含まれる。内視鏡スコープ100は、ユニバーサルケーブル106を介してプロセッサ装置200及び光源装置300と接続される。
なお、内視鏡システム10は、ユーザからの指示等を入力する入力装置として、手元操作部102の他に、不図示のフットスイッチ及び/又は音声入力装置などを備えてもよい。フットスイッチはペダルとケーブルとを備える。フットスイッチのケーブルはプロセッサ装置200と接続される。
《内視鏡システムの構成例》
図2は、内視鏡システム10の構成例を示すブロック図である。以下、内視鏡スコープ100、光源装置300、及びプロセッサ装置200の順に、それぞれの構成例について説明する。
〔内視鏡スコープの説明〕
内視鏡スコープ100は、撮像部130と、照明部123と、を備える。撮像部130は先端硬質部116の内部に配置される。撮像部130は、撮影レンズ132を含む撮影光学系と、撮像素子134と、駆動回路136と、アナログフロントエンド(AFE:Analog Front End)138と、を備える。
撮影レンズ132は先端硬質部116の先端側端面116Aに配置される。撮影レンズ132の奥(先端側端面116Aよりも湾曲部114に近い側の位置)には撮像素子134が配置される。撮像素子134は、例えば、CMOS(Complementary Metal-Oxide Semiconductor)型のイメージセンサである。撮像素子134としてCCD(Charge Coupled Device)型のイメージセンサを適用してもよい。
撮像素子134は、例えばカラー撮像素子であり、撮像素子134の受光面(撮像面)には不図示のカラーフィルタを備えた複数の受光素子により構成される複数の画素が特定のパターン配列によって2次元配置されている。撮像素子134の各画素は、マイクロレンズ、カラーフィルタ及び光電変換部(フォトダイオード等)を含んでいる。カラーフィルタとして、例えば、赤(R)、緑(G)、及び青(B)を含む原色カラーフィルタが用いられる。カラーフィルタの色パターンの配置形態は、特に限定されず、例えばベイヤー配列などであってよい。
また、撮像素子134は、不図示の紫色光源に対応した紫色カラーフィルタ、及び/又は不図示の赤外光源に対応した赤外用フィルタを備えた画素を含んでいてもよい。
駆動回路136は、プロセッサ装置200から送信される制御信号に基づき、撮像素子134の動作に必要な各種のタイミング信号を撮像素子134へ供給する。
観察対象である被写体の光学像は、撮影レンズ132を介して撮像素子134の受光面に結像される。撮像素子134は、被写体の光学像を電気信号へ変換する。撮像素子134から出力される電気信号はアナログフロントエンド138による処理を経てデジタル画像信号に変換される。
アナログフロントエンド138はアンプ、フィルタ及びアナログデジタル変換器を備える。アナログフロントエンド138は、撮像素子134の出力信号に対して、増幅、ノイズ除去及びアナログデジタル変換等の処理を施す。アナログフロントエンド138の出力信号はプロセッサ装置200へ送られる。なお、撮像素子134、駆動回路136、及びアナログフロントエンド138は、モノリシック集積回路として構成することができ、これらの各回路素子は、1つの撮像チップに搭載され得る。
照明部123は、照明用レンズ123A,123Bを備える。照明用レンズ123A,123Bは、先端硬質部116の先端側端面116Aにおいて撮影レンズ132の隣接位置に配置される。照明用レンズ123A,123Bの奥に、ライトガイド170の射出端が配置される。
ライトガイド170は、図1に示す挿入部104、手元操作部102及びユニバーサルケーブル106に挿通される。ライトガイド170の入射端は、ユニバーサルケーブル106の端部に設けられたライトガイドコネクタ108の内部に配置される。
〔光源装置の説明〕
光源装置300は、ライトガイドコネクタ108を介してライトガイド170へ照明光を供給する。照明光は、白色光(白色の波長帯域の光又は複数の波長帯域の光)、或いは1又は複数の特定の波長帯域の光、或いはこれらの組み合わせなど観察目的に応じた各種波長帯域の光が選択される。なお、特定の波長帯域は、白色の波長帯域よりも狭い帯域である。観察範囲に照射する照明光は観察光と呼ばれる場合がある。
光源装置300は、照明用の光源310、絞り330、集光レンズ340及び光源制御部350を備える。光源装置300は、ライトガイド170へ観察光を入射させる。光源310は、赤色光源310R、緑色光源310G及び青色光源310Bを備える。赤色光源310R、緑色光源310G及び青色光源310Bはそれぞれ、赤色、緑色及び青色の狭帯域光を放出する。
光源310は、赤色、緑色及び青色の狭帯域光を任意に組み合わせた観察光を生成し得る。例えば、光源310は赤色、緑色及び青色の狭帯域光を組み合わせて白色光を生成し得る。また、光源310は赤色、緑色及び青色の狭帯域光の任意の二色を組み合わせて狭帯域光を生成し得る。
光源310は赤色、緑色及び青色の狭帯域光の任意の一色を用いて狭帯域光を生成し得る。光源310は、白色光又は狭帯域光を選択的に切り替えて放出し得る。なお、狭帯域光は特殊光と同義である。光源310は、赤外光を放出する赤外光源及び紫外光を放出する紫外光源等を備え得る。
光源310は、白色光を放出する白色光源、白色光を通過させるフィルタ及び狭帯域光を通過させるフィルタを備える態様を採用し得る。かかる態様の光源310は、白色光を通過させるフィルタ及び狭帯域光を通過させるフィルタを切り替えて、白色光又は狭帯域光のいずれかを選択的に放出し得る。
狭帯域光を通過させるフィルタは、異なる帯域に対応する複数のフィルタが含まれ得る。光源310は、異なる帯域に対応する複数のフィルタを選択的に切り替えて、帯域が異なる複数の狭帯域光を選択的に放出し得る。
光源310は、観察対象の種類及び観察の目的等に応じた、種類及び波長帯域等を適用し得る。光源310の種類の例として、レーザ光源、キセノン光源及びLED(Light-Emitting Diode)光源等が挙げられる。
光源装置300にライトガイドコネクタ108が接続されることにより、ライトガイド170の入射端が集光レンズ340の出射光の光路上に配置される。光源310から放出された観察光は、絞り330及び集光レンズ340を介して、ライトガイド170の入射端へ到達する。観察光はライトガイド170を介して照明用レンズ123A、123Bに伝送され、照明用レンズ123A、123Bから観察範囲に照射される。
光源制御部350は、プロセッサ装置200から送信される指示信号に基づき、光源310及び絞り330へ制御信号を送信する。光源制御部350は、光源310から放出される観察光の照度、観察光の切り替え及び観察光のオンオフ等を制御する。
〔プロセッサ装置200の構成〕
プロセッサ装置200は、画像入力コントローラ202、画像処理部204、通信制御部205、ビデオ出力部206、及び記憶部207を備える。また、プロセッサ装置200は、CPU210、ROM211、RAM212、操作部208、音声処理部209及びスピーカ209Aを備える。
画像入力コントローラ202は、内視鏡スコープ100から撮像信号を取得する。画像処理部204は、画像入力コントローラ202を介して取得された撮像信号を処理することにより、観察対象の内視鏡画像を生成する。なお、「画像」という用語は、画像自体及び画像を表す画像データの意味を含む。画像は動画像及び静止画像の両方の概念を含む。内視鏡スコープ100から出力される撮像信号は「内視鏡画像」の一態様と理解してよい。
画像処理部204は、入力された撮像信号に対してホワイトバランス処理及びシェーディング補正処理等のデジタル信号処理を適用した画質補正を実施し得る。画像処理部204は、画像処理専用のデジタル信号処理回路を用いて構成されてよい。また、画像処理部204の処理機能の一部又は全部は、CPU210がプログラムを実行することによって実現されてもよい。画像処理部204は、内視鏡スコープ100から得られる撮像信号を基に、1つ又は複数の分光画像を生成することが可能である。また、画像処理部204は、DICOM(Digital Imaging and Communications in Medicine)規格で規定された付帯情報を内視鏡画像へ付加してもよい。
記憶部207は、内視鏡スコープ100を用いて生成された内視鏡画像を記憶する。記憶部207は、内視鏡画像に付帯する各種情報(付帯情報)を記憶し得る。
ビデオ出力部206は、画像処理部204を用いて生成された画像を含む各種の表示信号をモニタ400へ送信する。モニタ400は、ビデオ出力部206から出力される表示信号に従い観察対象の画像等を表示する。
通信制御部205は、病院内ローカルエリアネットワーク(LAN:Local Area Network)及び病院内システム(HIS:Hospital Information System)等を介して通信可能に接続される装置との通信を制御する。通信制御部205はDICOM規格に準拠した通信プロトコルを適用し得る。
CPU210は、プロセッサ装置200内の各部を制御し、かつ内視鏡システム10の全体を統括的に制御する全体制御部として機能する。CPU210は、ROM(Read Only Memory)211及びRAM(Random Access Memory)212を制御するメモリコントローラとして機能する。ROM211には、プロセッサ装置200の動作を制御するための各種プログラム及び制御パラメータ等のデータが記憶される。
RAM212は、各種処理におけるデータの一時記憶領域及びCPU210を用いた演算処理の処理領域に用いられる。RAM212には、CPU210により実行されるプログラムが記憶される。RAM212は、撮像信号や内視鏡画像を取得した際のバッファメモリとして用いることができる。
操作部208はユーザの操作を受け付け、ユーザの操作に応じた指示信号を出力する。操作部208は、例えばキーボード、マウス、ジョイスティック、タッチパネル、フットスイッチ及び音声入力装置のうちの1つ又は複数の組み合わせを用いて構成される。
CPU210は、操作部208から送信される指示信号(ユーザ入力信号)を取得し、取得したユーザ入力信号に対応する処理や制御を実施する。
音声処理部209は、音声として報知される情報を表す音声信号を生成する。スピーカ209Aは、音声処理部209を用いて生成された音声信号を音声に変換する。スピーカ209Aから出力される音声の例として、メッセージ、音声ガイダンス及び警告音等が挙げられる。
プロセッサ装置200は、内視鏡スコープ100を用いて生成された内視鏡画像、又は通信制御部205を介して取得された内視鏡画像に対して各種の処理を実施し、内視鏡画像及び内視鏡画像に付帯する各種情報をモニタ400へ表示させる。また、プロセッサ装置200は、内視鏡画像及び内視鏡画像に付帯する各種情報を記憶部207に記憶することができる。
また、プロセッサ装置200には、AIを用いた内視鏡画像の診断支援システムが実装されている。詳細は後述するが、プロセッサ装置200は、観察対象の内視鏡画像が人体のどの部位を写した画像であるかを示す部位情報を取得する部位情報取得機能と、内視鏡画像から病変を検出して病変種別情報を取得する病変検出機能と、を備え、さらに、部位情報と病変種別情報との整合性を判定してこれら情報の報知態様を制御する機能を備える。プロセッサ装置200は、本開示における「医療画像処理装置」の一例である。モニタ400は、本開示における「ディスプレイ」の一例である。
《第1実施形態に係る医療画像処理装置の概要》
図3は、本発明の第1実施形態に係る医療画像処理装置20の機能を示す機能ブロック図である。医療画像処理装置20は、画像取得部22と、部位情報取得部24と、病変検出部26と、整合性判定部28と、報知態様決定部30と、表示制御部32と、テーブル記憶部34と、を備える。
画像取得部22は、内視鏡スコープ100を用いて撮影された内視鏡画像18を取得する。内視鏡画像18は、内視鏡スコープ100から出力された撮像信号によって表される画像であってもよいし、図2に示す画像処理部204による処理が施されて生成された画像であってもよい。
図2に示す画像入力コントローラ202は画像取得部22として機能し得る。なお、画像取得部22は、通信回線を介して外部装置から内視鏡画像18を取り込むための通信インターフェースを含んで構成されてもよいし、メモリカード等の可搬型情報記憶媒体に記憶された内視鏡画像を取り込むメディアインターフェースを含んで構成されてもよい。図2に示す通信制御部205は画像取得部22として機能し得る。
また、画像取得部22は、図2に示すプロセッサ装置200の内部の処理回路から内視鏡画像18の入力を受け付けるデータ入力インターフェース及び/又はデータ入力端子であってもよい。例えば、画像取得部22は、図2の画像処理部204が生成した内視鏡画像18の入力を受ける端子であってよい。内視鏡画像18は本開示における「医療画像」の一例である。
画像取得部22は、内視鏡スコープ100によって撮影された時系列のフレーム画像18Bから構成される動画像18Aを取得し得る。また、画像取得部22は、動画像18Aの撮影中にユーザから静止画像撮影指示が入力されて静止画像19の撮影が実施された場合に、静止画像撮影指示に応じて撮影された静止画像19を取得し得る。
部位情報取得部24は、画像取得部22を介して取得された内視鏡画像18に写っている被写体の人体における部位を示す部位情報を取得する処理部である。ここでいう「部位」とは、例えば、食道、胃、あるいは十二指腸などといった人体の臓器であり、部位情報は臓器の名称に対応したラベルであってよい。
部位情報取得部24には、画像認識によって部位情報を取得する部位認識器を用いることができる。部位認識器は、内視鏡画像18の観察シーンを認識して内視鏡画像18に写っている部位のラベルを付与する画像分類の処理を行う。部位認識器は、例えば、深層学習などの機械学習によって学習されたニューラルネットワーク等の学習済みモデルを用いて構成される。
部位情報取得部24は、内視鏡画像18を入力とし、部位ラベルを出力するように機械学習された学習済みの畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)を用いて構成することができる。部位情報取得部24は、内視鏡画像18から部位の認識を行うAI処理部と理解してよい。部位情報取得部24に適用されるニューラルネットワークは本開示における「第1のニューラルネットワーク」の一例である。
部位情報取得部24は、内視鏡画像18の入力を受けて、認識結果(推論結果)としての部位情報とその信頼度を示す情報とを出力する。信頼度を示す情報は、認識した部位(クラス)の確からしさ(確信度)を示すスコアの値、若しくはそのスコアの値を反映して算出されたクラス所属確率などであってもよい。部位情報取得部24において得られた情報は、整合性判定部28に送られる。部位情報取得部24は、時系列に取得される複数のフレーム画像18Bの一部又は全部について、フレーム画像ごとに部位の認識処理を実施し得る。
病変検出部26は、画像取得部22を介して取得された内視鏡画像に写っている病変を検出し、病変の位置を示す情報と、病変の種別を示す病変種別情報とを生成する処理部である。ここでいう病変の位置を示す情報は、内視鏡画像の画像内から抽出された病変の画像領域を示す病変領域情報であってもよいし、病変領域の位置を示す病変位置情報であってもよく、これらの組み合わせであってもよい。病変種別情報は、例えば、扁平上皮癌、あるいは、胃潰瘍などといった病変の種別に対応した病変種別ラベルであってよい。
病変検出部26には、内視鏡画像から病変の位置を認識し、かつ、その病変をクラス分類して病変種別のラベルを付与する物体検出タスクを行う病変検出器を用いることができる。病変検出器は、例えば、深層学習などの機械学習によって学習されたニューラルネットワーク等の学習済みモデルを用いて構成される。
病変検出部26は、内視鏡画像を入力として病変種別のラベルを出力するように機械学習された学習済みの畳み込みニューラルネットワークを用いて構成することができる。病変検出部26における物体検出アルゴリズムには、例えば、R−CNN(Regions with CNN features)、あるいはFaster R−CNN(Region-Based Convolutional Neural Networks)などのアルゴリズムを用いることができる。病変検出部26に適用されるニューラルネットワークは本開示における「第2のニューラルネットワーク」の一例である。
病変検出部26は、内視鏡画像18から病変領域の抽出と病変種別の多クラス分類とを行うAI処理部と理解してよい。病変検出部26は、内視鏡画像18の入力を受けて、認識結果(推論結果)としての病変位置情報と病変種別情報と、これらの信頼度を示す情報と、を出力する。病変検出部26において得られた病変の情報は、整合性判定部28に送られる。病変検出部26は、時系列に取得される複数のフレーム画像18Bの一部又は全部について、フレーム画像18Bごとに部位の病変検出処理を実施し得る。
整合性判定部28は、部位情報取得部24から取得される部位情報と、病変検出部26から取得される病変種別情報との矛盾の有無を判定する処理部である。整合性判定部28は、テーブル記憶部34に記憶されている対応関係テーブルTBを用いて、部位情報と病変種別情報との関係に矛盾がないかどうかを判定する。対応関係テーブルTBは、複数種類の部位と部位ごとの病変種別との対応関係が記述されたテーブルである。このような対応関係テーブルTBは医学的知識に基づいて作成されている。
テーブル記憶部34は、対応関係テーブルTBを記憶しておく記憶領域を含む記憶装置であり、例えば、半導体メモリ及び/又はハードディスク装置などのコンピュータ可読媒体を用いて構成される。テーブル記憶部34には、整合性判定部28での判定処理の際に用いられる対応関係テーブルTBが記憶されている。
図4に対応関係テーブルTBの例を示す。図4には、部位の分類ラベルとしての「食道」と「胃」の2種類の部位について、それぞれの部位にて検出される可能性がある病変種別の情報がテーブル化されているテーブルデータの例が示されている。「食道」に対応付けされた「バレット腺癌」、「扁平上皮癌」、「食道裂孔ヘルニア」、及び「逆流性食道炎」などの病変種別は、対象の部位が食道である場合に限って検出され得る病変である。
また、「胃」に対応付けされた「胃がん」、「胃潰瘍」、「過形成ポリープ」、及び「胃底腺ポリープ」などの病変種別は、対象の部位が胃である場合に限って検出され得る病変である。
図3に示す整合性判定部28は、部位情報取得部24から得られる部位情報と病変検出部26から得られる病変種別情報との情報のセットを作成し、この情報のセットを対応関係テーブルTBと照合することにより、部位情報と病変種別情報との組み合わせに矛盾がないかどうかを判定する。
部位情報取得部24から得られる部位情報と病変検出部26から得られる病変種別情報との情報の組み合わせが対応関係テーブルTBに含まれている場合、整合性判定部28は「部位情報と病変種別情報とが矛盾しない(整合している)」と判定する。その一方、部位情報取得部24から得られる部位情報と病変検出部26から得られる病変種別情報との情報の組み合わせが対応関係テーブルTBに含まれていない場合、整合性判定部28は「部位情報と病変種別情報とが矛盾している(不整合である)」と判定する。
報知態様決定部30は、整合性判定部28の判定結果に基づき部位情報及び病変種別情報の報知態様を決定する処理部である。報知態様決定部30は、矛盾する情報の組み合わせがそのまま報知されることがないように、報知態様を制御する。報知態様決定部30は、矛盾する情報の組み合わせが発生した場合に、例えば、予め定められたルールに従い、部位情報及び病変種別情報のうち少なくとも一方の情報を非報知とすることを決定する。
表示制御部32は、報知態様決定部30が決定した報知態様に従ってモニタ400の表示内容を制御する。すなわち、表示制御部32は、モニタ400への表示出力に必要な表示信号を生成する。表示信号には、内視鏡画像18を表す表示信号の他、部位情報及び病変種別情報に関する報知を行うための表示信号が含まれる。表示信号は本開示における「報知制御用の信号」の一例である。表示制御部32は、表示信号をモニタ400へ出力する。モニタ400は表示信号に従い、内視鏡画像18等を表示する。表示制御部32は、図2に示すビデオ出力部206に対応する。
また、図2に示すCPU210は、部位情報取得部24、病変検出部26、及び整合性判定部28として機能し得る。図2に示す画像処理部204及びCPU210の組み合わせが部位情報取得部24、病変検出部26、及び整合性判定部28の機能を適宜分担して実施してもよい。
《報知態様の具体例》
図5は、モニタ400の画面40に表示される表示画像の例である。ここではビデオ軟性胃十二指腸鏡を用いて撮影された内視鏡画像の例を示す。図5は、食道を観察しているときの観察画像の例である。モニタ400の画面40は、観察画像表示領域42と、部位情報報知領域44と、病変情報報知領域46と、を有する。
観察画像表示領域42は、観察画像である内視鏡画像が表示される領域である。観察画像表示領域42には、内視鏡検査中に内視鏡スコープ100によって撮影されている内視鏡画像の動画像がリアルタイムに表示される。図5では、内視鏡画像の画像内から病変LSが検出された場合の例が示されている。病変LSが検出されると、観察画像表示領域42には、内視鏡画像内における病変LSの領域を囲むバウンディングボックスBBが内視鏡画像に重畳表示される。バウンディングボックスBBは、病変LSの位置を強調表示して報知する態様の一例である。バウンディングボックスBBの表示は、図5に示すに四角形の四隅を示すL字形の折れ線の組み合わせであってもよいし、四角形の枠線であってもよい。
画面40内において観察画像表示領域42の脇に、部位情報報知領域44と病変情報報知領域46とが設けられる。部位情報報知領域44は、部位情報を報知する表示領域である。部位情報報知領域44には、部位情報取得部24による認識結果である部位情報が文字情報として表示される。病変情報報知領域46は、病変種別情報を報知する表示領域である。病変情報報知領域46には、病変検出部26によって検出された病変LSの病変種別情報が文字情報として表示される。
病変LSが存在している部位と、病変種別との対応関係が整合している場合(矛盾していない場合)は、図5に示すように、観察画像の脇に、部位情報と病変種別情報との両方の情報が表示される。ここでは、医療画像処理装置20によって認識された部位が「食道」であり、検出された病変が「扁平上皮癌」である例が示されている。「食道」と「扁平上皮癌」の組み合わせは、対応関係テーブルTB(図4)に記載されており、両者は矛盾していないものである。
なお、図5では、観察画像表示領域42の右上に部位情報を表示させ、観察画像表示領域42の右下に病変種別情報を表示させているが、これらの情報を表示させる位置は図5の例に限らない。部位情報及び病変種別情報の報知は観察画像と重ならない位置に行うことが好ましい。
〈認識ミスが発生した場合に想定される課題の説明〉
図6は、比較例の内視鏡システムにおいて想定される不適切な報知が行われた場合の表示画像の例である。比較例の内視鏡システムは、図3で説明した整合性判定部28、報知態様決定部30、テーブル記憶部34を備えていない構成であり、部位情報取得部24の認識結果と病変検出部26の検出結果とがそれぞれ独立にそのままモニタ400に示される構成であるとする。
このような比較例に係る内視鏡システムにおいて、例えば、部位情報取得部24が部位認識を誤り、誤った認識結果を出力した場合、図6に示すように、報知される部位情報と病変識別情報とが矛盾することがある。図6は、胃を観察しているときの観察画像の例である。すなわち、部位認識の結果は「食道」であるが、病変検出部26は「胃がん」と認識することがあり得る。
〈本実施形態に係る医療画像処理装置20よる報知態様の例〉
図6で説明したような矛盾する情報を含む不適切な報知を回避するため、本実施形態に係る医療画像処理装置20においては、上述のような情報の矛盾が生じた場合に、例えば次のように動作する。
[例1]報知態様決定部30は、部位情報と病変種別情報とに矛盾が生じた場合に、部位情報の信頼度と病変種別情報の信頼度とを比較し、信頼度の低い方の情報を非報知とし、信頼度の高い方の情報のみを報知することを決定する。
[例2]報知態様決定部30は、部位情報と病変種別情報とに矛盾が生じた場合に、部位情報を非報知とし、病変種別情報を報知することを決定する。
[例3]報知態様決定部30は、部位情報と病変種別情報とに矛盾が生じた場合に、部位情報の信頼度と病変種別情報の信頼度とのそれぞれを基準値と比較し、両方の信頼度が基準値以下の低い信頼度である場合に、部位情報及び病変種別情報の両方の情報を非報知とすることを決定する。
[例4]報知態様決定部30は、部位情報と病変種別情報とに矛盾が生じた場合に、矛盾が起こったことを報知することを決定する。なお、例4のアルゴリズムに基づく報知は例1から例3のいずれか1つの態様と組み合わせて実施することができる。
図7は、本実施形態に係る医療画像処理装置によって部位情報を非報知とし、病変種別情報を報知する場合の表示画像の例である。図7においては、部位情報が非報知となっていることを明示するために、部位情報報知領域44を四角形の囲み枠で示して部位情報報知領域44がブランクであることを図示しているが、実際の画面40においては囲み枠の表示は不要である。図8及び図9においても同様である。
図8は、本実施形態に係る医療画像処理装置20によって病変種別情報を非報知とし、部位情報を報知する場合の表示画像の例である。
図9は、本実施形態に係る医療画像処理装置20によって部位情報と病変種別情報との両方の情報を非報知とする場合の表示画像の例である。
図10は、本実施形態に係る医療画像処理装置20によって部位認識の結果と病変検出の結果とに矛盾が発生したことを報知する場合の表示画像の例である。図10に示す例では、部位情報及び病変種別情報のうち信頼度が低い部位情報が非報知となり、部位情報の報知に代わって、部位情報報知領域44に「認識不能」という文字情報が表示されている。
本実施形態に係る医療画像処理装置20によれば、矛盾する情報の報知が回避され、ユーザに対して有益な診断支援が可能となる。
なお、医療画像処理装置20は、プロセッサ装置200に搭載される形態に限らず、プロセッサ装置200とは別の情報処理装置に適用することが可能である。例えば、医療画像処理装置20の処理機能は、病院内ネットワークに接続されている画像処理サーバなどに実装されてもよい。
《医療画像処理装置20のハードウェア構成の例》
図11は、医療画像処理装置20のハードウェア構成を例示的に示すブロック図である。医療画像処理装置20は、1台又は複数台のコンピュータを用いて構成されるコンピュータシステムによって実現することができる。すなわち、医療画像処理装置20は、コンピュータにプログラムをインストールすることにより実現される。
医療画像処理装置20は、プロセッサ222、非一時的な有体物であるコンピュータ可読媒体224、画像入力インターフェース225、画像処理プロセッサ226、通信インターフェース227、入出力インターフェース228、及びバス230を備える。
プロセッサ222はCPUを含む。プロセッサ222はGPU(Graphics Processing Unit)を含んでもよい。プロセッサ222は、バス230を介してコンピュータ可読媒体224、画像入力インターフェース225、画像処理プロセッサ226、通信インターフェース227、及び入出力インターフェース228と接続される。医療画像処理装置20は、入力装置234と表示装置236とをさらに備えてもよい。入力装置234及び表示装置236は入出力インターフェース228を介してバス230に接続される。
コンピュータ可読媒体224は、主記憶装置であるメモリ及び補助記憶装置であるストレージを含む。コンピュータ可読媒体224は、例えば、半導体メモリ、ハードディスク(HDD:Hard Disk Drive)装置、若しくはソリッドステートドライブ(SSD:Solid State Drive)装置又はこれらの複数の組み合わせであってよい。
画像入力インターフェース225は、図3に示す画像取得部22として機能し得る。医療画像処理装置20は、画像入力インターフェース225を介して内視鏡スコープ100と接続される。
画像処理プロセッサ226は、図2に示す画像処理部204に相当する画像処理専用のプロセッサである。
通信インターフェース227は、図2に示す通信制御部205に相当する。医療画像処理装置20は、通信インターフェース227を介して不図示の通信回線に接続される。通信回線は、例えば、病院内に構築されるローカルエリアネットワーク(LAN:Local Area Network)であってよい。病院内の通信ネットワークを病院内ネットワークという。病院内ネットワークは、ルーターを介してさらにインターネットなどのワイドエリアネットワークと接続されてもよい。病院内ネットワークには、PACS(Picture Archiving and Communication Systems)サーバなどの画像保存サーバ500が接続される。
PACSサーバは、各種モダリティを用いて撮影された医療画像を含む各種データを保存して管理するコンピュータであり、大容量外部記憶装置及びデータベース管理用ソフトウェアを備えている。PACSサーバは、病院内ネットワークを介して他の装置と通信を行い、画像データを含む各種データを送受信する。PACSサーバは、DICOMのプロトコルに基づいて動作するDICOMサーバであってよい。
医療画像処理装置20は、通信インターフェース227を介して接続された画像保存サーバ500から内視鏡画像を取得してもよい。
コンピュータ可読媒体224には、診断支援プログラム240と、対応関係テーブルTBと、表示制御プログラム252と、が記憶される。診断支援プログラム240は、部位認識モジュール244と、病変検出モジュール246と、整合性判定アルゴリズム248と、報知態様決定アルゴリズム250と、を含む。部位認識モジュール244は、図3で説明した部位情報取得部24としての処理をプロセッサ222に実行させるための命令を含むプログラムモジュールである。
病変検出モジュール246は、図3で説明した病変検出部26としての処理をプロセッサ222に実行させるための命令を含むプログラムモジュールである。病変検出モジュール246は、内視鏡画像18から病変の領域を検出する領域検出アルゴリズム246Aと、内視鏡画像18から検出された病変を分類して病変種別のラベルを付与するクラス分類のタスクを行う種別分類アルゴリズム246Bと、を含む。ここでの「アルゴリズム」とは、プロセッサ222に実行させるための命令を含むプログラムの構成要素である。
領域検出アルゴリズム246Aと種別分類アルゴリズム246Bのそれぞれがプログラムモジュールとして構成されてもいし、領域検出アルゴリズム246Aと種別分類アルゴリズム246Bとが一体的に構成されたプログラムモジュールとして実装されてもよい。
整合性判定アルゴリズム248は、図3で説明した整合性判定部28としての処理をプロセッサ222に実行させるための命令を含む。報知態様決定アルゴリズム250は、図3で説明した報知態様決定部30としての処理をプロセッサ222に実行させるための命令を含む。
表示制御プログラム252は、図3で説明した表示制御部32としての処理をプロセッサ222に実行させるための命令を含むプログラムである。表示制御プログラム252の一部又は全部は診断支援プログラム240の中に組み込まれていてもよい。
また、コンピュータ可読媒体224には、図3で説明した画像処理部204としての処理の一部又は全部をプロセッサ222に実行させるための命令を含む不図示の画像処理プログラムが記憶されていてよい。
入力装置234は、図2に示す操作部208に相当する。入力装置234は、例えば、キーボード、マウス、タッチパネル、フットスイッチ、若しくは、音声入力装置、又はこれらの適宜の組み合わせであってよい。ユーザは、入力装置234を操作することにより、各種の指示を入力することができる。
表示装置236は、例えば、液晶ディスプレイ、有機EL(organic electro-luminescence:OEL)ディスプレイ、若しくは、プロジェクタ、又はこれらの適宜の組み合わせであってよい。表示装置236は、認識結果の他、処理の対象となった画像、及び、処理に必要な各種設定情報などの各種情報を表示し得る。表示装置236は、図2に示すモニタ400に相当する。表示装置236は、本開示における「ディスプレイ」の一例である。
図12は、第1実施形態に係る医療画像処理装置20の動作を示すフローチャートである。図12のフローチャートの各ステップはプロセッサ222がプログラムを実行することによって実施される。
ステップS12の画像取得工程において、プロセッサ222は内視鏡画像を取得する。
ステップS14の部位情報取得工程において、プロセッサ222は観察対象の部位を認識して部位情報を取得する。
ステップS16の病変検出工程において、プロセッサ222は内視鏡画像から病変を検出する処理を行い、病変が検出された場合にその病変種別情報を取得する。プロセッサ222は、ステップS14の処理とステップS16の処理とを並列に、それぞれ独立して実施し得る。
ステップS18の整合性判定工程において、プロセッサ222はステップS14から得られる部位情報とステップS16から得られる病変種別情報との矛盾の有無を判定する。
ステップS20の報知態様決定工程において、プロセッサ222はステップS18の判定結果に応じて、部位情報及び病変種別情報の報知態様を決定する。報知態様を決定するアルゴリズムは、既述した[例1]から[例4]のうちのいずれか1つ又は複数の組み合わせであってよい。
ステップS22の表示信号生成工程において、プロセッサ222はステップS20にて決定した報知態様の報知を実現するための表示信号を生成する。
ステップS24のモニタ出力工程において、プロセッサ222はステップS22にて生成された表示信号をモニタ400に送信する。これにより、モニタ400の画面40において、部位情報及び病変種別情報についての適切な報知態様による報知が行われる。
図12のフローチャートに示される医療画像処理装置20の作動方法は、医療画像処理装置20が実施する診断支援方法と理解してよいし、医療画像処理装置20が実施する画像処理方法と理解してもよい。
《第2実施形態》
図13は、第2実施形態に係る医療画像処理装置20Bの要部構成を示す機能ブロック図である。図13において、図1から図3及び図11に示す構成と同一又は類似の要素には同一の符号を付し、その説明を省略する。第1実施形態との相違点を説明する。
図13に示す医療画像処理装置20Bは、病変検出部26として、観察対象とする部位ごとに複数の病変検出部を備えている例である。ここでは上部消化器官内視鏡検査への適用を想定し、病変検出部26は、食道の病変検出部261と、胃の病変検出部262と、十二指腸の病変検出部263と、を備えている。それぞれの病変検出部は、各部位における病変の検出を行うよう学習された学習済みのニューラルネットワークを用いた病変検出器であってよい。
食道の病変検出部261、胃の病変検出部262、及び十二指腸の病変検出部263のそれぞれが並列に(独立して)病変の検出処理を実行し、検出結果を出力する。
整合性判定部28は、部位情報取得部24から得られる部位ラベルが示す部位情報と、食道の病変検出部261、胃の病変検出部262、及び十二指腸の病変検出部263のそれぞれから得られる検出結果としての病変種別ラベルが示す病変種別情報との整合性をそれぞれ判定する。
報知態様決定部30は、整合性判定部28の判定結果に基づき部位情報及び病変種別情報に関する報知形態を決定する。
図14は、第2実施形態に係る医療画像処理装置20Bのハードウェア構成の例を示すブロック図である。図14において、図11に示す構成と同一又は類似の要素には同一の符号を付し、その説明は省略する。
図14に示す医療画像処理装置20Bは、病変検出モジュール246が部位ごとに用意された複数の病変検出モジュールを含んで構成される。図14における病変検出モジュール246は、食道の病変検出モジュール271と、胃の病変検出モジュール272と、十二指腸の病変検出モジュール273と、を含む。部位ごとに用意されたこれら複数の病変検出モジュールのそれぞれは、対象とする部位の内視鏡画像から病変の領域を検出する領域検出アルゴリズムと、病変を分類して病変種別のラベルを付与する種別分類アルゴリズムと、を含んで構成される。
なお、図13及び図14では、食道、胃、及び十二指腸の各部位について部位ごとの病変検出部(病変検出モジュール)を備える例を説明したが、部位の種類とその組み合わせはこの例に限らない。内視鏡の検査が行われる他の部位として、例えば、大腸、小腸、直腸、膵管、胆道、胸腔、気管支、耳、鼻、喉、脳など、様々な部位があり得る。
《第3実施形態》
図15は、第3実施形態に係る医療画像処理装置20Cの機能を示す機能ブロック図である。図15において、図3に示す構成と同一又は類似する要素には同一の符号を付し、その説明は省略する。
第1実施形態及び第2実施形態においては、内視鏡画像18の画像認識に基づいて部位情報を取得する例を説明したが、部位情報を取得する方法は画像認識によるものに限らない。
図15に示す医療画像処理装置20Cは、挿入位置検出装置23を用いて体内における内視鏡スコープ100の挿入位置を示す情報を取得し、この挿入位置情報から部位情報を取得する。医療画像処理装置20Cは、挿入位置検出装置23から得られる挿入位置情報を基に部位情報を取得する部位情報取得部25を備える。
挿入位置検出装置23は、内視鏡スコープ100に内蔵された位置検出センサであってもよいし、内視鏡挿入形状観測装置(UPD:Endoscope Position Detecting Unit)などであってもよい。内視鏡挿入形状観測装置は、内視鏡プローブに内蔵されたコイルが発する磁場を内視鏡挿入形状観測装置を用いて受信することにより、被検者の体内における内視鏡プローブの挿入形状を把握できるシステムである。内視鏡挿入形状観察装置を用いることにより、体内における内視鏡プローブの挿入位置、つまり、観察中の場所を把握することができる。このような内視鏡プローブの挿入位置の情報を利用して観察対象の部位を推定することが可能である。
部位情報取得部25は、例えば、挿入位置情報と部位情報との対応関係を定めたテーブル等を用いて部位情報を取得する構成であってよい。その他の構成については第1実施形態及び第2実施形態と同様であってよい。
《各処理部及び制御部のハードウェア構成について》
図2で説明した画像処理部、通信制御部205、及び光源制御部350、図3で説明した画像取得部22、部位情報取得部24、病変検出部26、整合性判定部28、報知態様決定部30、及び表示制御部32、図13で説明した食道の病変検出部261、胃の病変検出部262、及び十二指腸の病変検出部263、並びに図15で説明した部位情報取得部25などの各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。
各種のプロセッサには、プログラムを実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されていてもよいし、同種又は異種の2つ以上のプロセッサで構成されてもよい。例えば、1つの処理部は、複数のFPGA、或いは、CPUとFPGAの組み合わせによって構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第一に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第二に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。
《内視鏡システムの観察光について》
観察光は、白色光、或いは1又は複数の特定の波長帯域の光、或いはこれらの組み合わせなど観察目的に応じた各種波長帯域の光が選択される。白色光は、白色の波長帯域の光又は複数の波長帯域の光である。「特定の波長帯域」は、白色の波長帯域よりも狭い帯域である。特定の波長帯域に関する具体例を以下に示す。
〈第1例〉
特定の波長帯域の第1例は、例えば可視域の青色帯域又は緑色帯域である。この第1例の波長帯域は、390nm以上450nm以下の波長帯域又は530nm以上550nm以下の波長帯域を含み、且つ第1例の光は、390nm以上450nm以下の波長帯域内又は530nm以上550nm以下の波長帯域内にピーク波長を有する。
〈第2例〉
特定の波長帯域の第2例は、例えば可視域の赤色帯域である。この第2例の波長帯域は、585nm以上615nm以下の波長帯域又は610nm以上730nm以下の波長帯域を含み、且つ第2例の光は、585nm以上615nmの波長帯域内以下又は610nm以上730nm以下の波長帯域内にピーク波長を有する。
〈第3例〉
特定の波長帯域の第3例は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、且つ第3例の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有する。この第3例の波長帯域は、400±10nm、440±10nmの波長帯域、470±10nmの波長帯域、又は600nm以上750nm以下の波長帯域を含み、且つ第3例の光は、400±10nm、440±10nm、470±10nm、又は600nm以上750nm以下の波長帯域内にピーク波長を有する。
〈第4例〉
特定の波長帯域の第4例は、生体内の蛍光物質が発する蛍光の観察(蛍光観察)に用いられ、且つこの蛍光物質を励起させる励起光の波長帯域、例えば、390nmから470nmである。
〈第5例〉
特定の波長帯域の第5例は、赤外光の波長帯域である。この第5例の波長帯域は、790nm以上820nm以下の波長帯域又は905nm以上970nm以下の波長帯域を含み、且つ第5例の光は、790nm以上820nm以下の波長帯域内又は905nm以上970nm以下の波長帯域内にピーク波長を有する。
《観察光の切り替えについて》
光源の種類は、レーザ光源、キセノン光源、若しくは、LED(Light-Emitting Diode)光源又はこれらの適宜の組み合わせを採用し得る。光源の種類、波長、フィルタの有無等は被写体の種類、観察の目的等に応じて構成することが好ましく、また観察の際は被写体の種類、観察の目的等に応じて照明光の波長を組み合わせ及び/又は切り替えることが好ましい。波長を切り替える場合、例えば光源の前方に配置され特定波長の光を透過又は遮光するフィルタが設けられた円板状のフィルタ(ロータリカラーフィルタ)を回転させることにより、照射する光の波長を切り替えてもよい。
電子内視鏡に用いる撮像素子は、各画素に対しカラーフィルタが配設されたカラー撮像素子に限定されるものではなく、モノクロ撮像素子でもよい。モノクロ撮像素子を用いる場合、照明光の波長を順次切り替えて面順次(色順次)で撮像することができる。例えば出射する照明光の波長を、紫色、青色、緑色、及び赤色の間で順次切り替えてもよいし、広帯域光(白色光)を照射してロータリカラーフィルタ(赤色、緑色、青色等)により出射する照明光の波長を切り替えてもよい。また、1又は複数の狭帯域光を照射してロータリカラーフィルタにより出射する照明光の波長を切り替えてもよい。狭帯域光は波長の異なる2波長以上の赤外光でもよい。
《特殊光画像の生成例》
プロセッサ装置200は、白色光を用いて撮像して得られた通常光画像に基づいて、特定の波長帯域の情報を有する特殊光画像を生成してもよい。なお、ここでいう生成には「取得」の概念が含まれる。この場合、プロセッサ装置200は、特殊光画像取得部として機能する。プロセッサ装置200は、特定の波長帯域の信号を、通常光画像に含まれる赤(R)、緑(G)、及び青(B)、或いはシアン(C)、マゼンタ(M)、及びイエロー(Y)の色情報に基づく演算を行うことで得ることができる。
《特徴量画像の生成例》
プロセッサ装置200は、医療画像として、白色帯域の光、又は白色帯域の光として複数の波長帯域の光を照射して得る通常光画像、並びに特定の波長帯域の光を照射して得る特殊光画像の少なくともいずれかに基づく演算を用いて、特徴量画像を生成し得る。特徴量画像は医療画像の一形態である。
《蛍光体を利用する照明》
ライトガイド170の出射端と、内視鏡スコープ100の照明用レンズ123A,123Bとの間に、蛍光体が配置されてもよい。例えば、ライトガイド170を通った青色レーザ光は蛍光体に照射され、蛍光体を励起状態にすると共に、その一部は蛍光体を透過して青色光として照明用レンズ123A,123Bから出射される。
蛍光体は、青色レーザ光で励起され、光の波長帯域における青色と緑色の境界あたりの波長域から赤色の波長域までの広範囲の光(色としては黄色)を発光する。この黄色光と蛍光体を透過する青色光とが混合されて白色光となり、照明用レンズ123A、123Bを通して被写体を照明する構成であってもよい。なお、蛍光体を透過する青色光には、蛍光体で発光する青色光も一部含む。
蛍光体は、例えば、波長445nmの青色レーザ光の照射を受けた場合に黄色光を発光すると共に波長445nmの青色光を透過するが、波長405nmの青色レーザ光の照射を受けた場合にはその殆どを透過する性質を持つものであってよい。このような蛍光体を用い、光源装置において波長445nmの青色レーザ光と波長405nmの青色レーザ光との混合割合を制御することで、蛍光体を透過する青色光と、蛍光体で発光する黄色光との割合を制御することが可能である。
《変形例1》
上述の実施形態では、軟性内視鏡である内視鏡スコープ100を用いる例を説明したが、体内を撮影する内視鏡は、軟性内視鏡に限らず、硬性内視鏡であってもよいし、カプセル内視鏡であってもよい。本開示に係る医療画像処理装置が扱う医療画像は、内視鏡画像に限らず、超音波診断装置など、他の医療画像撮影装置によって生成される画像であってよい。医療画像撮影装置は、例えば、X線撮影装置、CT(Computed Tomography)撮影装置、MRI(Magnetic Resonance Imaging)撮影装置、及び核医学診断装置のうちの少なくとも1つであってよい。これら各種医療画像撮影装置(モダリティー)を用いて取得される医療画像を処理する装置について、本開示の技術を適用できる。
《変形例2》
本開示の医療画像処理装置は、医師等による診察、治療、又は診断などを支援する診断支援装置として用いることができる。「診断支援」という用語は、診察支援、治療支援、及び病変鑑別支援の概念を含む。
《医療情報管理システムへの応用例》
本開示に係る医療画像処理装置は、図1に例示した内視鏡システム10のプロセッサ装置200に適用する形態に限らず、様々な応用が可能である。例えば、医療画像処理装置は、内視鏡画像を含む様々な医療情報を管理する医療情報管理システムに応用することができる。
本開示に係る医療画像処理装置の処理機能が実装された情報管理装置は、例えば、病院内の手術室、検査室、若しくは、カンファレンス室などに設置してもよいし、院外施設の医療機関、若しくは研究機関などに設置してもよい。情報管理装置は、診察、治療、診断などの支援を行うワークステーションであってもよいし、医療業務を支援する業務支援装置であってもよい。業務支援装置は、臨床情報の蓄積、診断書類の作成支援、レポート作成支援などを行う機能を備えていてよい。
《コンピュータに医療画像処理装置の機能を実現させるプログラムについて》
上述の実施形態で説明した医療画像処理装置20,20B,20Cの機能をコンピュータに実現させるプログラムを光ディスク、磁気ディスク、若しくは、半導体メモリその他の有体物たる非一時的な情報記憶媒体であるコンピュータ可読媒体に記録し、この情報記憶媒体を通じてプログラムを提供することが可能である。またこのような有体物たる非一時的な情報記憶媒体にプログラムを記憶させて提供する態様に代えて、インターネットなどの電気通信回線を利用してプログラム信号をダウンロードサービスとして提供することも可能である。
また、上述の実施形態で説明した医療画像処理装置の機能の一部又は全部をアプリケーションサーバとして提供し、電気通信回線を通じて処理機能を提供するサービスを行うことも可能である。
《実施形態及び変形例等の組み合わせについて》
上述した実施形態で説明した構成要素、及び変形例で説明した構成要素は、適宜組み合わせて用いることができ、また、一部の構成要素を置き換えることもできる。
《付記》
本明細書は、上述した各実施形態及び変形例等に加えて、以下に記載の発明の開示を含む。
(付記1)
医療画像処理装置は、医療画像解析処理部と、医療画像解析結果取得部と、を有し、医療画像解析処理部は、医療画像の画素の特徴量に基づいて、注目すべき領域である注目領域を検出し、医療画像解析結果取得部は、医療画像解析処理部の解析結果を取得する医療画像処理装置。
医療画像解析処理部は、画像認識部を含んでよい。
(付記2)
医療画像解析処理部は、医療画像の画素の特徴量に基づいて、注目すべき対象の有無を検出し、医療画像解析結果取得部は、医療画像解析処理部の解析結果を取得する医療画像処理装置。
(付記3)
医療画像解析結果取得部は、医療画像の解析結果を記録する記録装置から取得し、解析結果は、医療画像に含まれる注目すべき領域である注目領域と、注目すべき対象の有無のいずれか、若しくは両方である医療画像処理装置。
(付記4)
医療画像は、白色帯域の光、又は白色帯域の光として複数の波長帯域の光を照射して得た通常光画像である医療画像処理装置。
(付記5)
医療画像は、特定の波長帯域の光を照射して得た画像であり、特定の波長帯域は、白色の波長帯域よりも狭い帯域である医療画像処理装置。
(付記6)
特定の波長帯域は、可視域の青色若しくは、緑色帯域である医療画像処理装置。
(付記7)
特定の波長帯域は、390nm以上450nm以下又は530nm以上550nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、390nm以上450nm以下又は530nm以上550nm以下の波長帯域内にピーク波長を有する医療画像処理装置。
(付記8)
特定の波長帯域は、可視域の赤色帯域である医療画像処理装置。
(付記9)
特定の波長帯域は、585nm以上615nm以下又は610nm以上730nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、585nm以上615nm以下又は610nm以上730nm以下の波長帯域内にピーク波長を有する医療画像処理装置。
(付記10)
特定の波長帯域は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、かつ、特定の波長帯域の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有する医療画像処理装置。
(付記11)
特定の波長帯域は、400±10nm、440±10nm、470±10nm、又は、600nm以上750nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、400±10nm、440±10nm、470±10nm、又は、600nm以上750nm以下の波長帯域にピーク波長を有する医療画像処理装置。
(付記12)
医療画像は生体内を写した生体内画像であり、生体内画像は、生体内の蛍光物質が発する蛍光の情報を有する医療画像処理装置。
(付記13)
蛍光は、ピークが390nm以上470nm以下である励起光を生体内に照射して得る医療画像処理装置。
(付記14)
医療画像は生体内を写した生体内画像であり、特定の波長帯域は、赤外光の波長帯域である医療画像処理装置。
(付記15)
特定の波長帯域は、790nm以上820nm以下又は905nm以上970nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、790nm以上820nm以下又は905nm以上970nm以下の波長帯域にピーク波長を有する医療画像処理装置。
(付記16)
医療画像取得部は、白色帯域の光、又は白色帯域の光として複数の波長帯域の光を照射して得る通常光画像に基づいて、特定の波長帯域の情報を有する特殊光画像を取得する特殊光画像取得部を備え、医療画像は特殊光画像である医療画像処理装置。
(付記17)
特定の波長帯域の信号は、通常光画像に含まれるRGB或いはCMYの色情報に基づく演算により得る医療画像処理装置。
(付記18)
白色帯域の光、又は白色帯域の光として複数の波長帯域の光を照射して得る通常光画像と、特定の波長帯域の光を照射して得る特殊光画像との少なくとも一方に基づく演算によって、特徴量画像を生成する特徴量画像生成部を備え、医療画像は特徴量画像である医療画像処理装置。
(付記19)
付記1から付記18のいずれか1つに記載の医療画像処理装置と、白色の波長帯域の光、又は、特定の波長帯域の光の少なくともいずれかを照射して画像を取得する内視鏡と、を備える内視鏡装置。
(付記20)
付記1から付記18のいずれか1つに記載の医療画像処理装置を備える診断支援装置。
(付記21)
付記1から付記18のいずれか1つに記載の医療画像処理装置を備える医療業務支援装置。
《その他》
以上説明した本発明の実施形態は、本発明の趣旨を逸脱しない範囲で、適宜構成要件を変更、追加、又は削除することが可能である。本発明は以上説明した実施形態に限定されるものではなく、本発明の技術的思想内で同等関連分野の通常の知識を有する者により、多くの変形が可能である。
10 内視鏡システム
18 内視鏡画像
18A 動画像
18B フレーム画像
19 静止画像
20 医療画像処理装置
20B 医療画像処理装置
20C 医療画像処理装置
22 画像取得部
23 挿入位置検出装置
24,25 部位情報取得部
26 病変検出部
28 整合性判定部
30 報知態様決定部
32 表示制御部
34 テーブル記憶部
40 画面
42 観察画像表示領域
44 部位情報報知領域
46 病変情報報知領域
100 内視鏡スコープ
102 手元操作部
104 挿入部
106 ユニバーサルケーブル
108 ライトガイドコネクタ
112 軟性部
114 湾曲部
116 先端硬質部
116A 先端側端面
123 照明部
123A,123B 照明用レンズ
126 鉗子口
130 撮像部
132 撮影レンズ
134 撮像素子
136 駆動回路
138 アナログフロントエンド
140 アングルノブ
141 送気送水ボタン
142 吸引ボタン
143 機能ボタン
144 撮影ボタン
170 ライトガイド
200 プロセッサ装置
202 画像入力コントローラ
204 画像処理部
205 通信制御部
206 ビデオ出力部
207 記憶部
208 操作部
209 音声処理部
209A スピーカ
210 CPU
211 ROM
212 RAM
222 プロセッサ
224 コンピュータ可読媒体
225 画像入力インターフェース
226 画像処理プロセッサ
227 通信インターフェース
228 入出力インターフェース
230 バス
234 入力装置
236 表示装置
240 診断支援プログラム
244 部位認識モジュール
246 病変検出モジュール
246A 領域検出アルゴリズム
246B 種別分類アルゴリズム
248 整合性判定アルゴリズム
250 報知態様決定アルゴリズム
252 表示制御プログラム
261 食道の病変検出部
262 胃の病変検出部
263 十二指腸の病変検出部
271 食道の病変検出モジュール
272 胃の病変検出モジュール
273 十二指腸の病変検出モジュール
300 光源装置
310 光源
310B 青色光源
310G 緑色光源
310R 赤色光源
330 絞り
340 集光レンズ
350 光源制御部
400 モニタ
500 画像保存サーバ
TB 対応関係テーブル
BB バウンディングボックス
LS 病変
S12〜S24 医療画像処理装置が実施する処理のステップ

Claims (21)

  1. 少なくとも1つのプロセッサを有する医療画像処理装置であって、
    前記少なくとも1つのプロセッサは、
    医療画像を取得し、
    前記医療画像に写っている被写体の人体における部位を示す部位情報を取得し、
    前記医療画像から病変を検出して前記病変の種別を示す病変種別情報を取得し、
    前記部位情報と前記病変種別情報との矛盾の有無を判定し、
    前記判定の結果に基づき前記部位情報及び前記病変種別情報の報知態様を決定する、
    医療画像処理装置。
  2. メモリをさらに備え、
    前記メモリには、複数種類の部位と部位ごとの病変の種別との対応関係を表すテーブルが記憶されており、
    前記少なくとも1つのプロセッサは、前記テーブルを用いて前記部位情報と前記病変種別情報との矛盾の有無を判定する、
    請求項1に記載の医療画像処理装置。
  3. 前記メモリには、前記少なくとも1つのプロセッサによって実行される命令が記憶され、
    前記少なくとも1つのプロセッサが前記命令を実行することにより、前記少なくとも1つのプロセッサが前記医療画像の取得、前記部位情報の取得、前記病変種別情報の取得、前記矛盾の有無の判定、及び前記報知態様の決定、を含む処理を行う、
    請求項2に記載の医療画像処理装置。
  4. 前記少なくとも1つのプロセッサは、
    前記部位情報と前記病変種別情報とに矛盾がないと判定した場合、前記部位情報及び前記病変種別情報の両方を報知することを決定する、
    請求項1から3のいずれか一項に記載の医療画像処理装置。
  5. 前記少なくとも1つのプロセッサは、
    前記部位情報と前記病変種別情報とに矛盾があると判定した場合、前記部位情報及び前記病変種別情報のうち少なくとも一方の情報を非報知とすることを決定する、請求項1から4のいずれか一項に記載の医療画像処理装置。
  6. 前記少なくとも1つのプロセッサは、
    前記部位情報と前記病変種別情報とに矛盾があると判定した場合、前記部位情報の信頼度と前記病変種別情報の信頼度とを比較し、前記部位情報及び前記病変種別情報のうち、信頼度が高い方の情報を報知し、低い方の情報を非報知とすることを決定する、
    請求項1から4のいずれか一項に記載の医療画像処理装置。
  7. 前記少なくとも1つのプロセッサは、
    前記部位情報と前記病変種別情報とに矛盾があると判定した場合、前記部位情報を非報知とし、前記病変種別情報を報知することを決定する、
    請求項1から4のいずれか一項に記載の医療画像処理装置。
  8. 前記少なくとも1つのプロセッサは、
    前記部位情報と前記病変種別情報とに矛盾があると判定した場合、前記部位情報の信頼度及び前記病変種別情報の信頼度のそれぞれを基準値と比較し、前記部位情報の信頼度及び前記病変種別情報の信頼度の両方が前記基準値以下であれば、前記部位情報及び前記病変種別情報の両方を非報知とすることを決定する、
    請求項1から4のいずれか一項に記載の医療画像処理装置。
  9. 前記少なくとも1つのプロセッサは、
    前記部位情報と前記病変種別情報とに矛盾があると判定した場合、矛盾が起こったことを報知することを決定する、
    請求項1から8のいずれか一項に記載の医療画像処理装置。
  10. 前記少なくとも1つのプロセッサは、
    前記医療画像から前記被写体の前記部位を認識することにより前記部位情報を取得する、
    請求項1から9のいずれか一項に記載の医療画像処理装置。
  11. 前記少なくとも1つのプロセッサは、
    前記医療画像を第1のニューラルネットワークに入力することにより前記第1のニューラルネットワークから出力される推論結果が示す前記部位情報を取得し、
    前記医療画像を第2のニューラルネットワークに入力することにより前記第2のニューラルネットワークから出力される推論結果を用いた推論によって前記医療画像の画像内に存在する病変の病変種別情報を取得する、
    請求項1から9のいずれか一項に記載の医療画像処理装置。
  12. 前記少なくとも1つのプロセッサは、
    前記第1のニューラルネットワークを用いて前記部位情報の信頼度を示すスコアを取得し、
    前記第2のニューラルネットワークを用いて前記病変種別情報の信頼度を示すスコアを取得する、
    請求項11に記載の医療画像処理装置。
  13. 前記少なくとも1つのプロセッサは、さらに、
    前記決定した前記報知態様の報知を実現させる報知制御用の信号を生成する、
    請求項1から12のいずれか一項に記載の医療画像処理装置。
  14. 前記報知制御用の信号は、ディスプレイを用いた表示による報知を実現させる表示信号を含む、
    請求項13に記載の医療画像処理装置。
  15. 前記少なくとも1つのプロセッサが決定した前記報知態様に従って情報の表示を行う前記ディスプレイをさらに備える、
    請求項14に記載の医療画像処理装置。
  16. 前記少なくとも1つのプロセッサは、
    時系列の前記医療画像を取得する、
    請求項1から15のいずれか一項に記載の医療画像処理装置。
  17. 前記医療画像は、内視鏡を用いて撮影された内視鏡画像である、
    請求項1から16のいずれか一項に記載の医療画像処理装置。
  18. 前記部位は臓器であり、前記部位情報は臓器の名称を示す情報である、請求項1から17のいずれか一項に記載の医療画像処理装置。
  19. 内視鏡スコープと、少なくとも1つのプロセッサと、を備える内視鏡システムであって、
    前記少なくとも1つのプロセッサは、
    前記内視鏡スコープを用いて体内を撮影することによって得られる内視鏡画像を取得し、
    前記内視鏡画像に写っている被写体の人体における部位を示す部位情報を取得し、
    前記内視鏡画像から病変を検出して前記病変の種別を示す病変種別情報を取得し、
    前記部位情報と前記病変種別情報との矛盾の有無を判定し、
    前記判定の結果から前記部位情報及び前記病変種別情報の報知態様を決定し、
    前記決定した前記報知態様に従って報知を実行させる報知制御用の信号を生成する、
    内視鏡システム。
  20. 少なくとも1つのプロセッサが実施する診断支援方法であって、
    前記少なくとも1つのプロセッサが、
    医療画像を取得することと、
    前記医療画像に含まれる観察対象の人体における部位を示す部位情報を取得することと、
    前記医療画像から病変を検出して前記病変の種別を示す病変種別情報を取得することと、
    前記部位情報と前記病変種別情報との矛盾の有無を判定することと、
    前記判定の結果に基づき前記部位情報及び前記病変種別情報の報知態様を決定することと、
    前記決定した前記報知態様に従ってディスプレイに情報を表示させることと、
    を含む診断支援方法。
  21. コンピュータに、
    医療画像を取得する機能と、
    前記医療画像に写っている被写体の人体における部位を示す部位情報を取得する機能と、
    前記医療画像から病変を検出して前記病変の種別を示す病変種別情報を取得する機能と、
    前記部位情報と前記病変種別情報との矛盾の有無を判定する機能と、
    前記判定の結果に基づき前記部位情報及び前記病変種別情報の報知態様を決定する機能と、
    を実現させるためのプログラム。
JP2019233104A 2019-12-24 2019-12-24 医療画像処理装置、内視鏡システム、医療画像処理装置の作動方法及びプログラム Active JP7346285B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019233104A JP7346285B2 (ja) 2019-12-24 2019-12-24 医療画像処理装置、内視鏡システム、医療画像処理装置の作動方法及びプログラム
US17/111,514 US11600385B2 (en) 2019-12-24 2020-12-04 Medical image processing device, endoscope system, diagnosis support method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019233104A JP7346285B2 (ja) 2019-12-24 2019-12-24 医療画像処理装置、内視鏡システム、医療画像処理装置の作動方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2021100555A true JP2021100555A (ja) 2021-07-08
JP2021100555A5 JP2021100555A5 (ja) 2022-04-22
JP7346285B2 JP7346285B2 (ja) 2023-09-19

Family

ID=76439280

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019233104A Active JP7346285B2 (ja) 2019-12-24 2019-12-24 医療画像処理装置、内視鏡システム、医療画像処理装置の作動方法及びプログラム

Country Status (2)

Country Link
US (1) US11600385B2 (ja)
JP (1) JP7346285B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023281738A1 (ja) * 2021-07-09 2023-01-12 オリンパス株式会社 情報処理装置および情報処理方法
WO2023067922A1 (ja) * 2021-10-20 2023-04-27 富士フイルム株式会社 内視鏡画像処理装置、内視鏡画像処理方法及び内視鏡システム
WO2023100446A1 (ja) * 2021-11-30 2023-06-08 富士フイルム株式会社 医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理装置用プログラム
WO2023100475A1 (ja) * 2021-11-30 2023-06-08 富士フイルム株式会社 医療画像処理装置及びその作動方法
WO2023112499A1 (ja) * 2021-12-13 2023-06-22 富士フイルム株式会社 内視鏡画像観察支援装置及び内視鏡システム
WO2023188903A1 (ja) * 2022-03-29 2023-10-05 富士フイルム株式会社 画像処理装置、医療診断装置、超音波内視鏡装置、画像処理方法、及びプログラム
WO2024111106A1 (ja) * 2022-11-25 2024-05-30 日本電気株式会社 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP1699214S (ja) * 2021-01-22 2021-11-08
JP1692533S (ja) * 2021-01-22 2021-08-16
JP1699166S (ja) * 2021-01-22 2021-11-08
JP1699213S (ja) * 2021-01-22 2021-11-08
JP1699215S (ja) * 2021-01-22 2021-11-08
CN114569043A (zh) * 2022-01-29 2022-06-03 重庆天如生物科技有限公司 一种基于人工智能的内窥镜辅助检查方法及装置
CN114259197B (zh) * 2022-03-03 2022-05-10 深圳市资福医疗技术有限公司 一种胶囊内窥镜质控方法及系统
CN114587579B (zh) * 2022-04-01 2023-09-15 桂林电子科技大学 基于lstm神经网络预测控制的磁激光内窥镜控制方法
JP2024031468A (ja) * 2022-08-26 2024-03-07 富士フイルム株式会社 画像処理装置及びその作動方法並びに内視鏡システム
CN117204790B (zh) * 2023-09-12 2024-01-30 南京诺源医疗器械有限公司 一种内窥镜的图像处理方法及系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014113345A (ja) * 2012-12-11 2014-06-26 Konica Minolta Inc 放射線画像撮影システム
US20150080652A1 (en) * 2013-09-18 2015-03-19 Cerner Innovation, Inc. Lesion detection and image stabilization using portion of field of view
WO2018105063A1 (ja) * 2016-12-07 2018-06-14 オリンパス株式会社 画像処理装置
WO2019088121A1 (ja) * 2017-10-30 2019-05-09 公益財団法人がん研究会 画像診断支援装置、資料収集方法、画像診断支援方法および画像診断支援プログラム
JP2019169049A (ja) * 2018-03-26 2019-10-03 富士フイルム株式会社 医用画像特定装置、方法およびプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014113345A (ja) * 2012-12-11 2014-06-26 Konica Minolta Inc 放射線画像撮影システム
US20150080652A1 (en) * 2013-09-18 2015-03-19 Cerner Innovation, Inc. Lesion detection and image stabilization using portion of field of view
WO2018105063A1 (ja) * 2016-12-07 2018-06-14 オリンパス株式会社 画像処理装置
WO2019088121A1 (ja) * 2017-10-30 2019-05-09 公益財団法人がん研究会 画像診断支援装置、資料収集方法、画像診断支援方法および画像診断支援プログラム
JP2019169049A (ja) * 2018-03-26 2019-10-03 富士フイルム株式会社 医用画像特定装置、方法およびプログラム

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023281738A1 (ja) * 2021-07-09 2023-01-12 オリンパス株式会社 情報処理装置および情報処理方法
WO2023067922A1 (ja) * 2021-10-20 2023-04-27 富士フイルム株式会社 内視鏡画像処理装置、内視鏡画像処理方法及び内視鏡システム
WO2023100446A1 (ja) * 2021-11-30 2023-06-08 富士フイルム株式会社 医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理装置用プログラム
WO2023100475A1 (ja) * 2021-11-30 2023-06-08 富士フイルム株式会社 医療画像処理装置及びその作動方法
WO2023112499A1 (ja) * 2021-12-13 2023-06-22 富士フイルム株式会社 内視鏡画像観察支援装置及び内視鏡システム
WO2023188903A1 (ja) * 2022-03-29 2023-10-05 富士フイルム株式会社 画像処理装置、医療診断装置、超音波内視鏡装置、画像処理方法、及びプログラム
WO2024111106A1 (ja) * 2022-11-25 2024-05-30 日本電気株式会社 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体

Also Published As

Publication number Publication date
JP7346285B2 (ja) 2023-09-19
US20210192738A1 (en) 2021-06-24
US11600385B2 (en) 2023-03-07

Similar Documents

Publication Publication Date Title
JP7346285B2 (ja) 医療画像処理装置、内視鏡システム、医療画像処理装置の作動方法及びプログラム
JP7383105B2 (ja) 医療画像処理装置及び内視鏡システム
WO2021145265A1 (ja) 医療画像処理装置、内視鏡システム、診断支援方法及びプログラム
US20230086972A1 (en) Medical image processing device, endoscope system, medical image processing method, and program
WO2019198637A1 (ja) 画像処理装置、内視鏡システム、及び画像処理方法
JP7326308B2 (ja) 医療画像処理装置及び医療画像処理装置の作動方法、内視鏡システム、プロセッサ装置、診断支援装置並びにプログラム
JP7166430B2 (ja) 医用画像処理装置、プロセッサ装置、内視鏡システム、医用画像処理装置の作動方法及びプログラム
WO2020012872A1 (ja) 医用画像処理装置、医用画像処理システム、医用画像処理方法、及びプログラム
WO2020162275A1 (ja) 医療画像処理装置、内視鏡システム、及び医療画像処理方法
WO2020008834A1 (ja) 画像処理装置、方法及び内視鏡システム
JP2022000163A (ja) 画像処理装置、内視鏡システム、及び画像処理方法
JP7387859B2 (ja) 医用画像処理装置、プロセッサ装置、内視鏡システム、医用画像処理装置の作動方法及びプログラム
WO2019220801A1 (ja) 内視鏡画像処理装置、内視鏡画像処理方法、及びプログラム
JPWO2020031851A1 (ja) 画像処理方法及び画像処理装置
WO2021029292A1 (ja) 画像診断支援装置、内視鏡システム、画像診断支援方法、及び画像診断支援プログラム
WO2020184257A1 (ja) 医用画像処理装置及び方法
US20220338717A1 (en) Endoscopic examination support device, endoscopic examination support method, and endoscopic examination support program
CN116724334A (zh) 计算机程序、学习模型的生成方法、以及手术辅助装置
US20220414956A1 (en) Endoscope system, medical image processing device, and operation method therefor
US11978209B2 (en) Endoscope system, medical image processing device, and operation method therefor
JP7427766B2 (ja) 画像選択支援装置、画像選択支援方法、及び画像選択支援プログラム
WO2021029293A1 (ja) 医用画像処理装置、内視鏡システム、及び医用画像処理方法
JP7076535B2 (ja) 内視鏡装置、内視鏡装置の作動方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220304

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230519

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230711

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230901

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230906

R150 Certificate of patent or registration of utility model

Ref document number: 7346285

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150