JP2023043344A - 医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理用プログラム - Google Patents

医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理用プログラム Download PDF

Info

Publication number
JP2023043344A
JP2023043344A JP2021150905A JP2021150905A JP2023043344A JP 2023043344 A JP2023043344 A JP 2023043344A JP 2021150905 A JP2021150905 A JP 2021150905A JP 2021150905 A JP2021150905 A JP 2021150905A JP 2023043344 A JP2023043344 A JP 2023043344A
Authority
JP
Japan
Prior art keywords
medical image
display
result
storage unit
evaluation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021150905A
Other languages
English (en)
Inventor
駿平 加門
Shumpei KAMON
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2021150905A priority Critical patent/JP2023043344A/ja
Priority to US17/932,035 priority patent/US20230082779A1/en
Publication of JP2023043344A publication Critical patent/JP2023043344A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Radiology & Medical Imaging (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Public Health (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

【課題】 学習上有用な医療画像を選択的に蓄積することができる医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理用プログラムを提供する。【解決手段】医療画像処理装置10は、取得した医療画像に対する認識処理を行い、医療画像と医療画像の認識処理の結果63とをディスプレイ20に表示する制御を行い、表示された医療画像と認識処理の結果63とに基づいたユーザからの認識処理の結果63に関する評価を受け付け、評価に基づき評価の対象となった医療画像をデータ記憶部17bに記憶するか否かを判定し、記憶すると判定した医療画像をデータ記憶部17bに記憶する。【選択図】図1

Description

本発明は、医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理用プログラムに関する。
医療分野においては、内視鏡またはCT(Computed Tomography、コンピュータ断層撮影装置)もしくはMRI(Magnetic Resonance Imaging、磁気共鳴画像)等の各種のモダリティにより得られる医療画像を用いて画像認識処理を行うことにより、医師の診断を支援するための診断支援情報を得ることが行われている。近年では、機械学習の技術を用いた画像認識処理により所望の情報を得る方法が各種開発されている。
機械学習の技術を用いて医療画像の画像認識処理を行う場合、実臨床上の様々な条件に対応するためには、大量の適切な医療画像データが必要である。適切な医療画像データに関し、画像認識処理時の医用画像を取得する装置として、フリーズボタン等によるユーザ入力信号を取得し、ユーザ入力信号を取得した場合に、注目領域に関する認識処理の結果が得られている医用画像から、医用画像を選択する医用画像処理装置が知られている(特許文献1)。また、医療画像の解析結果に対し、解析結果の修正を受け付けた上で医療画像を保存する医療画像処理装置が知られている(特許文献2)。
特開2021-045337号公報 国際公開第2019/008941号
機械学習の技術を用いた画像認識処理を行う場合であって、教師あり学習によって構築した学習モデルを用いる際、多数の学習上有用な学習データを用いて学習することにより構築した学習モデルを用いることが好ましいとされる。したがって、医療画像の画像認識処理を精度良く行うためには、多数の学習上有用な医療画像を学習データとして学習した学習モデルを用いることが好ましい。しかしながら、多数の学習上有用な医療画像を収集することには多大な労力が必要であった。
本発明は、学習上有用な医療画像を選択的に蓄積することができる医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理用プログラムを提供することを目的とする。
本発明の医療画像処理装置は、プロセッサを備え、プロセッサは、被検体が写る医療画像を取得し、医療画像に対する認識処理を行い、医療画像と医療画像の認識処理の結果とをディスプレイに表示する制御を行い、表示された医療画像と医療画像の認識処理の結果とに基づいたユーザからの認識処理の結果に関する評価を受け付け、評価に基づき、評価の対象となった医療画像をデータ記憶部に記憶するか否かを判定し、記憶すると判定した医療画像をデータ記憶部に記憶する制御を行う。
プロセッサは、ユーザに評価を促す指示表示をディスプレイに表示する制御を行い、指示表示を表示した後に、評価を受け付けることが好ましい。
プロセッサは、医療画像を検査中に取得し、検査終了後の予め設定したタイミングで指示表示を表示する制御を行うことが好ましい。
プロセッサは、医療画像を検査中に取得し、検査終了後の予め設定したタイミングで医療画像と医療画像の認識処理の結果とをディスプレイに表示する制御を行い、医療画像と医療画像の認識処理の結果とがディスプレイに表示された後に、評価を受け付けることが好ましい。
プロセッサは、検査中に医療画像と医療画像の認識処理の結果を表示する制御を行うディスプレイと、検査終了後に医療画像と医療画像の認識処理の結果を表示する制御を行うディスプレイとを、互いに異ならせることが好ましい。
評価は、認識処理の結果が正解である程度を示す評価値により行われ、プロセッサは、評価値が、認識処理の結果が正解である程度が低いことを示す予め設定した範囲内である場合に、医療画像をデータ記憶部に記憶すると判定することが好ましい。
プロセッサは、医療画像を一時保存部に一時的に保存する制御を行うことが好ましい。
プロセッサは、医療画像を記憶すると判定した場合、一時保存部に保存した医療画像をデータ記憶部に記憶することが好ましい。
プロセッサは、医療画像を記憶すると判定した場合、一時保存部に保存した医療画像から一部の医療画像を抽出した上でデータ記憶部に記憶する制御を行うことが好ましい。
プロセッサは、医療画像の認識処理の結果が予め設定した特定の内容を含む場合、医療画像の認識処理の対象となった医療画像が取得された時刻を含む予め設定した期間に取得された医療画像をデータ記憶部に記憶する制御を行うことが好ましい。
プロセッサは、ユーザが被検体に対して行った診断に関する診断情報を受け付け、医療画像と診断情報とを関連付けてデータ記憶部に記憶する制御を行うことが好ましい。
プロセッサは、診断情報の内容に応じて医療画像を抽出した上でデータ記憶部に記憶する制御を行うことが好ましい。
プロセッサは、医療画像が被検体を有する個人に関する個人情報を含む場合、医療画像から個人情報を削除した上でデータ記憶部に記憶する制御を行うことが好ましい。
プロセッサは、医療画像と医療画像の認識処理の結果とを関連付けてデータ記憶部に記憶する制御を行うことが好ましい。
プロセッサは、医療画像を静止画として及び/又は医療画像を含む動画としてデータ記憶部に記憶する制御を行うことが好ましい。
プロセッサは、指示表示を表示する制御を行うディスプレイ、医療画像を表示する制御を行うディスプレイ、及び、医療画像の認識処理の結果を表示する制御を行うディスプレイを、それぞれ互いに異ならせる、又は、少なくとも2つを同じとすることが好ましい。
また、本発明の医療画像処理装置の作動方法は、被検体が写る医療画像を取得するステップと、医療画像に対する認識処理を行うステップと、医療画像と医療画像の認識処理の結果とをディスプレイに表示する制御を行うステップと表示された医療画像と医療画像の認識処理の結果とに基づいたユーザからの認識処理の結果に関する評価を受け付けるステップと、評価に基づき、評価の対象となった医療画像をデータ記憶部に記憶するか否かを判定するステップと、記憶すると判定した医療画像をデータ記憶部に記憶する制御を行うステップとを備える。
また、本発明の医療画像処理用プログラムは、医療画像処理用のプログラムであって、被検体が写る医療画像を取得する処理と、医療画像に対する認識処理を行う処理と、医療画像と医療画像の認識処理の結果とをディスプレイに表示する制御を行う処理と、表示された医療画像と医療画像の認識処理の結果とに基づいたユーザからの認識処理の結果に関する評価を受け付ける処理と、評価に基づき、評価の対象となった医療画像をデータ記憶部に記憶するか否かを判定する処理と、記憶すると判定した医療画像をデータ記憶部に記憶する制御を行う処理とをコンピュータに実行させる。
本発明によれば、学習上有用な医療画像を選択的に蓄積することができる。
医療画像処理装置の機能を示すブロック図である。 医療画像処理装置の構成を説明するブロック図である。 認識処理部の機能を示すブロック図である。 図4(a)は、検出注目領域の領域を出力する検出器の処理を説明する説明図であり、図4(b)は、検出注目領域の位置を示す矩形を出力する検出器の処理を説明する説明図である。 内視鏡画像及び検出処理である認識処理の結果を表示する画像図である。 内視鏡画像及び分類処理である認識処理の結果を表示する画像図である。 内視鏡画像及び部位認識処理である認識処理の結果を表示する画像図である。 図8(a)は、検査中の画像図であり、図8(b)は、指示表示を表示した検査終了後の画像図である。 図9(a)は、認識処理の結果を表示した検査中の画像図であり、図9(b)は、認識処理の結果と指示表示とを表示した検査終了後の画像図である。 複数の認識処理の結果と指示表示とを表示した検査終了後の画像図である。 図11(a)は指示入力枠を有する指示表示の画像図であり、図11(b)は評価値入力ボタンを有する指示表示の画像図であり、図10(c)は評価値バーを有する指示表示の画像図であり、図10(d)はコメント欄を有する指示表示の画像図である。 項目別の評価値入力欄を有する指示表示の画像図である。 記憶制御部の機能を示すブロック図である。 図14(a)は氏名の患者情報が付帯する内視鏡画像の画像図であり、図14(b)は氏名の患者情報が削除された内視鏡画像の画像図である。 認識処理の結果に基づいて抽出した抽出動画を説明する説明図である。 医師の所見に基づいて抽出した抽出動画を説明する説明図である。 医療画像処理装置の処理の流れを説明するフローチャートである。
本発明の基本的な構成の一例について説明する。図1に示すように、医療画像処理装置10は、医療画像取得部11、認識処理部12、表示制御部13、評価受付部14、判定部15、記憶制御部16、一時保存部17a、及びデータ記憶部17bを備える。医療画像処理装置10は、内視鏡装置18、X線検査等の各種モダリティ(図示せず)、RIS(放射線科情報システム、Radiology Information Systems)もしくは内視鏡情報システム等の検査情報システム(図示せず)、PACS(医療用画像管理システム、Picture Archiving and Communication System)19等の医療画像データの出力が可能な装置、ディスプレイ20等の表示装置、及び/又は、キーボード(図示せず)もしくはディスプレイ20のタッチパネル等の入力デバイス21等と接続する。
医療画像処理装置10は、内視鏡装置18等から取得した医療画像に基づき、医療画像の認識処理を行い、医療画像と医療画像の認識処理の結果とをディスプレイ20に表示する制御を行う。医師等のユーザは、表示された医療画像と医療画像の認識処理の結果とを確認し、認識処理の結果を診断支援情報として診断に役立てる。また、医師は、表示された医療画像と医療画像の認識処理の結果とに基づいて、医療画像の認識処理の結果に関する評価を行う。評価は、認識処理の結果が正解であるか否かに関して行う。医療画像処理装置10は、医師が行った評価を受け付け、この評価に基づき、評価の基となった医療画像をデータ記憶部17bに記憶するか否かを判定する。そして、記憶すると判定した医療画像を、データ記憶部17bに記憶する。
医療画像は、例えばPACS19が扱う医療画像であり、主に検査により得られた検査動画又は静止画である。具体的には、X線検査によるX線画像、MR検査によるMRI、CT検査によるCT画像、内視鏡検査による内視鏡画像、又は超音波検査による超音波画像等が挙げられる。
医療画像処理装置10は、検査中又は検査後に作動する。したがって、医療画像処理装置10は、検査中にリアルタイムで医療画像を取得し、その後の一連の動作を続けて行うか、また、検査後に、保存されていた医療動画を取得し、その後の一連の動作を続けて行う。
認識処理は、医療画像を用いて行われる各種処理であり、例えば、病変等の注目領域を検出する検出処理、病変に対して病種を分類する分類処理、又は、撮影中の部位に関する情報を認識する部位認識処理等が挙げられる。これらの処理は、病変等の注目領域を検出した上で、この病変に対して病種を分類する等、2つ以上の処理を兼ね備えてもよい。
認識処理は、機械学習アルゴリズムに対し学習を実施して構築された診断支援学習モデルにより実施される。この診断支援学習モデルは、医療画像を入力することにより、目的の認識処理の結果を出力するように、学習及び調整等が行われたものである。
医療画像と認識処理の結果とは、ディスプレイ20に表示される。ユーザは、ディスプレイ20の表示により、認識処理の結果を診断支援情報として診断に役立てる。また、ディスプレイ20の表示に基づいて、認識処理の結果を評価する。評価には、認識処理の結果が正解であった、又は、正解でなかった、との内容が含まれる。
医療画像処理装置10では、評価に基づいて、医療画像をデータ記憶部17bに記憶するか否かを判定し、認識処理の結果が正解でなかった旨の評価がなされた医療画像を選択してデータ記憶部17bに記憶する。なお、認識処理の結果が正解であった旨の評価がなされた医療画像は、データ記憶部17bには記憶しないものとする。
検査により得られる検査動画から認識処理を行うことで診断支援を行う機能を、機械学習の技術を用いて開発する場合において、実臨床上の様々な条件に対応するためにも大量の検査動画データを学習に用いることが重要となる。そのため、検査動画を各医療施設で蓄積しておき、診断支援学習モデル等の開発用に収集することが考えられる。
しかしながら、全ての検査動画が学習モデルの学習上等しく有用という訳ではない。例えば、既に開発済の診断支援学習モデルが存在する状況において、特定の検査動画に対して、この診断支援学習モデルが誤認識を全くしない場合、この検査動画は学習済データとの情報としての差異が少ないことを意味し、そのようなデータを学習データに追加したとしても、この診断支援学習モデルの精度向上は期待できない。このような学習上のメリットが小さい検査動画を全て蓄積することは、検査施設のデータ記憶部17bであるストレージの圧迫や開発工数の増大に繋がるため望ましくない。
診断支援学習モデルによる認識処理の結果が正解であり、認識処理が適切に行えている場合は、対象の医療画像のデータには学習済のデータと情報としての差異がないため、それらを診断支援学習モデルの学習データに追加したとしても、診断支援学習モデルの精度が向上する可能性は低い。一方で、診断支援学習モデルが認識処理を間違える場合、すなわち、認識処理の結果が正解でなかった場合は、対象の医療画像のデータは、逆の理由で診断支援学習モデルの精度向上に寄与する可能性が高い。
医療画像処理装置10では、認識処理の結果が正解でなかったとの評価がなされた医療画像を選別して、データ記憶部17bに記憶する。医療画像処理装置10は、認識処理の結果を確認しているユーザから認識処理の結果に対する評価を受け付け、評価が悪い、すなわち、認識処理の結果が認識の基となった医療画像に写る被検体の実際の状況と一致しない場合の医療画像データを、ストレージ等のデータ記憶部17bに蓄積する。このように、蓄積する医療画像データを選別することで、ストレージの圧迫や開発工数の増加を抑えながら、診断支援学習モデルの精度向上に寄与する医療画像データを収集することが可能となる。特に、検査動画を蓄積する場合、上記の選別によるストレージ容量の削減の効果が大きい。
本発明の医療画像処理装置10について実施形態を説明する。図2に示すように、本実施形態の医療画像処理装置10は、ハードウェア構成としては、入力装置である入力デバイス21、出力装置であるディスプレイ20、制御部31、通信部32、及び記憶部33が、データバス34を介して電気的に相互接続されているコンピュータである。
入力デバイス21は、キーボード、マウス、又はディスプレイ20のタッチパネル等の入力装置である。ディスプレイ20は、出力装置の一種である。ディスプレイ20は、マウスやキーボード等の入力デバイス21の操作に応じた各種操作画面を表示する。操作画面にはGUI(Graphical User Interface)による操作機能が備えられる。医療画像処理装置10を構成するコンピュータは、操作画面を通じて入力デバイス21からの操作指示の入力を受け付けることができる。
制御部31は、プロセッサであるCPU(Central Processing Unit)41、RAM(Random Access Memory)42、及びROM(Read Only Memory)43等を含む。CPU41は、記憶部33等に記憶されたプログラムをRAM42、又はROM43へロードして、プログラムにしたがった処理を実行することにより、コンピュータの各部を統括的に制御する。通信部32は、ネットワーク35を介した各種情報の伝送制御を行うネットワークインターフェースである。なお、RAM42、又はROM43は、記憶部33の機能を備えていてもよい。
記憶部33は、メモリの一例であり、例えば、医療画像処理装置10を構成するコンピュータに内蔵、もしくはケーブルやネットワークを通じて接続されたハードディスクドライブ、ソリッドステートドライブ、又はハードディスクドライブ等を複数台連装したディスクアレイである。記憶部33には、制御プログラム、各種アプリケーションプログラム、これらのプログラムに使用するための各種データ、及び、これらのプログラムに付随する各種操作画面の表示データ等が記憶されている。
本実施形態の記憶部33は、医療画像処理装置用プログラム44、医療画像処理装置用データ45等の各種データを記憶する。医療画像処理装置用プログラム44又は医療画像処理装置用データ45は、医療画像処理装置10の各種機能を実施するためのプログラム又はデータである。医療画像処理装置用プログラム44と医療画像処理装置用データ45とにより、医療画像処理装置10の機能が実現される。また、医療画像処理装置用データ45は、一時保存部17a及びデータ記憶部17bを含み、医療画像処理装置用プログラム44が一時的に保存するデータ等も記憶される。
医療画像処理装置10を構成するコンピュータは、専用に設計された装置の他、汎用のサーバ装置、又はPC(Personal Computer)等とすることができる。また、医療画像処理装置10の機能を発揮することができればよく、他の機能を果たす装置とコンピュータを共用してもよいし、内視鏡管理システム等に医療画像処理装置10の機能を組み込むこともできる。
本実施形態の医療画像処理装置10はプロセッサ装置であり、医療画像処理装置10には医療画像処理に関するプログラムがプログラム用メモリである記憶部33に格納されている。医療画像処理装置10においては、プロセッサ等によって構成される制御部31により、プログラム用メモリ内のプログラムが動作することによって、医療画像取得部11と、認識処理部12と、表示制御部13と、評価受付部14と、判定部15と、記憶制御部16との機能が実現される(図1参照)。
医療画像取得部11は、医療画像を出力可能な装置から医療画像を取得する。医療画像としては、主に検査により得られる検査動画を取得する。本実施形態では、内視鏡装置18を用いた内視鏡検査において得られる内視鏡画像をリアルタイムで取得する。内視鏡画像は医療画像の一種であり、内視鏡装置18が備える内視鏡で被検体を撮影して得た画像である。以下、医療画像として内視鏡画像を用いた場合について説明する。なお、内視鏡画像という場合には、動画及び/又は静止画とする。また、動画には、内視鏡装置18が予め設定したフレーム数で撮影した個々のフレーム画像が含まれる。
認識処理部12は、医療画像取得部11が取得した内視鏡画像に対する認識処理を行う。認識処理の内容としては、本実施形態では、医療画像取得部11が取得した内視鏡画像に対し、検査中にリアルタイムで病変等の注目領域を検出する検出処理を行う。検出処理の他に、病変に対して病種を分類する分類処理、撮影中の部位に関する情報を認識する部位認識処理、又は、これらを複数行う処理が可能である。
図3に示すように、認識処理部12は、検出器51を含む。検出器51は、取得した内視鏡画像に基づき、内視鏡画像に写る被検体が含む注目領域を検出する診断支援学習モデルである。図4(a)に示すように、検出器51は、内視鏡画像61が入力されることにより、内視鏡画像61に映る被検体が注目領域62を含む場合に、認識処理の結果63を出力する。認識処理の結果63の出力は、例えば、認識処理により検出された注目領域62である検出注目領域64の領域自体を画像の形態として表示する。また、図4(b)に示すように、認識処理の結果63の出力は、検出注目領域64の領域自体の出力ではなく、検出注目領域64の位置を示す出力でもよい。例えば、認識処理の結果63の出力は、検出注目領域64を示す矩形の図形の形態として表示する。認識処理の結果63は、画像、図形、又はテキスト等の各種の形態で出力することにより通知される。
検出器51は、具体的には機械学習アルゴリズムを用いて構築された診断支援学習モデルであり、内視鏡画像61を検出器51に入力した場合に、内視鏡画像61における注目領域の有無を目的変数として出力することが可能な学習モデルである。検出器51は、内視鏡画像61における注目領域の有無を目的変数として出力することが可能なように、予め、機械学習アルゴリズムを用いて、内視鏡画像61と注目領域の正解データとからなる検出器51用の初期画像データセットにより学習され、パラメータ等の調整が行われている。
検出器51に用いる機械学習アルゴリズムとしては、教師あり学習に用いられるアルゴリズムであれば各種のアルゴリズムを用いることができるが、画像認識において良好な推論結果を目的変数として出力するとされるアルゴリズムを用いることが好ましい。例えば、多層ニューラルネットワーク、又は畳み込みニューラルネットワークを用いることが好ましく、いわゆるディープラーニングと称される手法を用いることが好ましい。また、診断支援学習モデルには、注目領域の検出の精度の向上、又は検出速度の向上等、学習モデルの性能の向上のために一般的に行われる、入力画像である内視鏡画像61に対する加工、複数の学習モデルの使用等の技術を用いてもよい。
認識処理の結果63である注目領域の検出の結果には、内視鏡画像61において検出した注目領域の場所、大きさもしくは面積、形状、又は、個数等が含まれ、注目領域の場所又は大きさ等が0であった、すなわち、注目領域が検出されなかったとの内容も含む。
表示制御部13は、内視鏡画像61と認識処理の結果63とをディスプレイ20に表示する制御を行う。内視鏡画像61と認識処理の結果63との表示方法としては、医師が、内視鏡画像61と認識処理の結果63とを確認できればよく、例えば、内視鏡画像61に認識処理の結果63を重畳して示す、ディスプレイ20のメイン領域に内視鏡画像61を表示し、サブ領域に認識処理の結果63を表示する、又は認識処理の結果63をテキストで示す等とすることができる。認識処理部12が行う認識処理の内容等に合わせて、適切な表示形態に変えることが可能である。
図5に示すように、本実施形態では、認識処理部12は病変等の注目領域を検出する検出処理を行うため、内視鏡装置18による検査終了後において、検査中に使用していたディスプレイ20のメイン領域71に内視鏡画像61と認識処理の結果63である検出処理の結果とを表示する。内視鏡画像61が注目領域62を含む場合は、内視鏡画像61を表示することにより、医師は、被検体が有する注目領域62を確認することができる。そして、認識処理の結果63は、例えば、注目領域検出表示枠72として、検出した注目領域62に近い内視鏡画像61の枠の形状及び色を、通常の枠から変化させて表示することができる。また、注目領域検出表示図形73として、検出した注目領域62の位置を示す図形を内視鏡画像61に重畳することによって、検出した注目領域62の位置を示すことができる。
医師は、内視鏡画像61を見ることで、注目領域62が検出されたことを認知できる。医師は、認識処理の結果63を示す注目領域検出表示枠72又は注目領域検出表示図形73により、認識処理の結果63を診断に役立てることができる。なお、検査中の内視鏡画像61を含む検査動画、及び、認識処理の結果63等のデータは、一時保存部17aに保存される。
また、図6に示すように、例えば、認識処理部12が病変に対して病種を分類する分類処理を行う場合であって、内視鏡装置18による検査終了後において、検査中に使用していたディスプレイ20に内視鏡画像61と認識処理の結果63である分類処理の結果とを表示する場合は、検査中に使用していたディスプレイ20のメイン領域71に内視鏡画像61と認識処理の結果63とを表示し、また、ディスプレイのサブ領域74にも認識処理の結果63を表示する。メイン領域71に表示した認識処理の結果63は、分類結果表示テキスト75により認識処理の結果63を表示する。認識処理の結果63は、「HYPERPLASTIC」等のテキストにより表示される。また、サブ領域74にも、認識処理の結果63として、分類結果色別表示76により、注目領域の位置と、注目領域の病種が色により表示される。図6では、分類結果色別表示76により、注目領域が過形成(hyperplastic)であることを示す色により表示される。
また、図7に示すように、例えば、認識処理部12が部位に関する情報を認識する部位認識処理等を行う場合であって、内視鏡装置18による検査終了後において、検査レポート作成用のディスプレイ20のメイン領域71に内視鏡画像61と認識処理の結果63である部位認識処理の結果とを表示する場合は、例えば、検査レポート作成用のディスプレイ20のメイン領域71に内視鏡画像61と部位名表示テキスト77とを表示し、また、ディスプレイのサブ領域74にも、部位名のタイルの強調表示78により、認識処理の結果63を表示する。
評価受付部14は、表示された内視鏡画像61と、内視鏡画像61の認識処理の結果63とに基づいた医師からの認識処理の結果63に関する評価を受け付ける。評価は、認識処理の結果63に関する評価であればよく、例えば、認識処理の結果63が正解であったか否かとの観点、又は、検出器51の性能又は精度が高い又は低いとの観点等とすることができる。なお、認識処理の結果63が正解であるとは、認識処理の結果63が、認識処理の基となった医療画像に写る被検体の実際の状況と一致することをいう。また、検出器51の性能又は精度が高いとは、認識処理の結果63が、認識処理の基となった医療画像に写る被検体の実際の状況と一致する程度が高いことであるといえる。
評価の形式は、場合に応じて決定することができ、例えば、2つの選択肢からの選択、3つ以上の選択肢からの選択、評価値として数値を入力する、自由記述形式でコメントを付与する、又はこれらの組合せ等の形式を採用することができる。本実施形態では、検出器51の性能に関して高いか又は低いかといった、検出器51の性能の良し悪しの観点に関する2つの選択肢から選択する形式とする。
評価のタイミングとしては、内視鏡装置18を用いた検査中に行ってもよいし、検査終了後に行ってもよい。例えば、検査中に評価を行う場合は、例えば、内視鏡に備えられるスコープボタンに、評価の選択肢を割り当てること等により評価を行う。評価の選択肢のうち、検出器51の性能が低いと評価することをスコープボタンの一つに割り当てることが好ましい。具体的には、医師は、メイン領域71に内視鏡画像61が表示され、サブ領域74に認識処理の結果63が表示されているディスプレイ20(図6参照)を確認し、サブ領域74に表示されている認識処理の結果63が、メイン領域71に表示される内視鏡画像61と一致しない場合に、このスコープボタンを押下することで、サブ領域74に表示されている認識処理の結果63に対する評価を完了する。
検査終了後に評価を行う場合は、評価受付部14は、検査終了後に内視鏡画像61と内視鏡画像の認識処理の結果63とがディスプレイ20に表示された後に、評価を受け付けることが好ましい。検査終了後に評価を行う場合は、検査中に内視鏡画像61等を表示していたディスプレイ20に内視鏡画像61等を表示して行ってもよいし、検査中に内視鏡画像61等を表示していたディスプレイ20と異なるディスプレイ20に内視鏡画像61等を表示して行ってもよい。例えば、検査終了後に評価を行う場合は、検査後の検査レポート作成のための端末のディスプレイ20に内視鏡画像61等を表示して行ってもよい。
評価は、例えば、表示制御部13によりディスプレイ20に表示される選択肢を、医師が選択することにより行うことができる。医師は、表示された評価に関する選択肢を選択することにより評価を完了する。また、表示制御部13が、医師に対して検出器51の性能に関する評価を促す指示表示をディスプレイ20に表示してもよい。この場合、評価受付部14は、指示表示をディスプレイ20に表示した後に評価を受け付ける。
なお、表示制御部13は、検査中又は検査終了後に、内視鏡画像61を表示するディスプレイ20と、指示表示を表示するディスプレイ20と、内視鏡画像61の認識処理の結果を表示するディスプレイ20とを、それぞれ互いに異なるディスプレイ20としてもよいし、このうち2つを同じディスプレイ20としてもよいし、3つとも同じディスプレイ20としてもよい。ディスプレイ20には、内視鏡検査において用いるディスプレイ20,検査終了後に検査レポート作成を行うために用いるディスプレイ20、又は、タブレット等の小型端末のディスプレイ20等とすることができる。
本実施形態では、検査終了後に、検査中に内視鏡画像61を表示していたディスプレイ20に内視鏡画像61等を表示して評価を行う。図8(a)に示すように、具体的には、検査中、内視鏡画像61等を表示したディスプレイ20において、図8(b)に示すように、時間が経過した検査終了後、表示制御部13は、内視鏡画像61等と、OKボタン82とNGボタン83とを含む指示表示81とを表示する制御を行う。指示表示81には、「AIの性能を評価してください」と表示される。ここで、AI(artificial intelligence)は、認識処理を示す。
医師は、検査中又は検査終了後に確認した内視鏡画像61と内視鏡画像61の認識処理の結果63とに基づいて、検出器51による認識処理の性能について、性能が高いと評価した場合にはOKボタン82をディスプレイ20のタッチパネルにより選択し、性能が低いと評価した場合にはNGボタン83をディスプレイ20のタッチパネルにより選択することにより、評価を完了する。
なお、図9(a)に示すように、検査中に内視鏡画像61と認識処理の結果63とを示し、図9(b)に示すように、時間が経過した検査終了後も、認識処理の結果63を示してもよい。また、認識処理の結果63の一部のみを示してもよい。それにより、検査中の認識処理の性能に関して医師に想起させることができ、医師はより正確な評価をより簡便に行うことが可能となる。
また、図10に示すように、検査終了後に、複数の内視鏡画像61とそれぞれの認識処理の結果63とをサムネイル画像としてディスプレイ20に一覧で表示していもよい。スクロールバー70により移動することにより、複数の内視鏡画像61の一覧の全体を閲覧することができる。なお、図においては、煩雑化を防ぐために符号を一部のみに付す場合がある。
複数の内視鏡画像61としては、予め設定した条件により選択した内視鏡画像61の複数のフレーム画像としてもよい。条件としては、例えば、認識処理が検出処理である場合は、注目領域等が検出されたフレーム画像とし、認識処理が病変等の分類処理である場合は、分類結果が出力されたフレーム画像とし、また、認識処理が部位認識処理である場合は、特定の部位認識結果が出力されたフレーム画像とする。そして、これらのフレーム画像を、フレーム画像が取得された時刻順、又は、予め設定した認識処理の結果の重要度順等で一覧表示する。
なお、一覧表示するフレーム画像には、認識処理の結果63も示すことが好ましい。図10では、認識処理の結果63は検出処理の結果であり、内視鏡画像61に検出注目領域64を重畳することにより示している。複数の内視鏡画像61の一覧をディスプレイ20に表示することにより、医師は検査全体での認識処理の性能について短時間で把握することができるため、より正確な評価を短時間で行うが可能となる。
また、評価は、評価値のような数値により行うことができる。この場合、評価は、例えば、認識処理の結果63が正解である程度を示す評価値により行われる。判定部15は、評価値について、認識処理の結果63が正解である程度が低いことを示す予め設定した範囲内である場合に、内視鏡画像61をデータ記憶部17bに記憶すると判定する。
評価値としては、具合的には、認識処理の結果63が正解である程度が最も高い場合を100、かつ、最も低い場合が1の百分率を用いることができる。評価値を数値で入力してもよいし、いくつかの段階からの選択等とすることができる。例えば、評価値を1、30、60、90、及び100のように5段階からの選択等としてもよい。
評価値を用いる場合の指示表示81は、具体的には、次のようにすることができる。図11(a)に示すように、例えば、指示表示81は、評価値入力枠84を含むものでもよい。評価値入力枠84には、評価値を1-100の数値で入力する。また、図11(b)に示すように、指示表示81は、評価値入力ボタン85を含むものでもよい。評価値入力ボタン85は、例えば、1、30、60、90、又は100等の5段階のボタンを含む。また、図11(c)に示すように、評価値バー86及びスライダー87を含むものでもよい。スライダー87を評価値バー86上の所望の数値上にスライダー87を移動させて評価値を指定する。また、図11(d)に示すように、指示表示81は、OKボタン82とNGボタン83に加えて、コメント欄88をを含むものでもよい。コメント欄88には、自由記載方式により、コメントを記載することができる。コメント欄88に記載した内容は、評価に用いてもよいし、評価の対象となる内視鏡画像61に対するアノテーションとして、学習データに用いることもできる。
図12に示すように、指示表示81は、項目別に評価値を入力する評価値入力欄89を含むものでもよい。評価値入力欄は、ボタン、又は図形等で評価値を選択するものでもよいし、数値を入力するものでもよい。例えば、認識処理が注目領域を検出する検出処理を行う場合、「適切に病変を拾えていましたか?」、「誤った領域を検出していませんでしたか?」、又は「検出された矩形のサイズは適切でしたか?」といった具体的な項目を表示する。医師は、それぞれについて、評価値として0から5の六段階から一つを、矩形の枠である選択枠90を画面上で移動させることにより選択する。そして、これらの複数の項目の評価値から総合的な評価値を算出し、総合的な評価値に基づいて、内視鏡画像61を記憶するか否かの判定を行ってもよい。
また、項目別の評価値等の評価結果は、内視鏡画像61に関連付けておくことが好ましい。これらの評価値等の評価結果は、内視鏡画像61と関連付けられた評価値であるため、内視鏡画像61を蓄積して回収した後の検出器51等の開発方針の指針とすることができる。また、項目別に統計処理を行う等により様々に活用できる有用なデータとすることができる。
判定部15は、評価に基づき、評価の基となった内視鏡画像61をデータ記憶部17bに記憶するか否かを判定する。評価の基となった内視鏡画像61とは、認識処理の対象となった内視鏡画像61である。内視鏡画像61を検査動画とした場合は、検査動画全体を記憶してもよいし、一部を選択して記憶してもよい。また、内視鏡画像61を静止画とした場合は、認識処理の対象となった一つの静止画であってもよいし、この静止画を含む複数の静止画であってもよい。
判定は、認識処理の結果に関する評価が低いか否かを判定する。具体的には、評価の形式に応じて判定を行う。例えば、本実施形態のように、評価の選択肢が、認識処理の性能が高い、又は、低いとの2択である場合、2つの選択肢のうち低いとの選択肢により評価された内視鏡画像61をデータ記憶部17bに記憶すると判定する。評価の選択肢が、3つ以上である場合は、そのうちいずれかを選択した場合に、評価の基となった内視鏡画像61をデータ記憶部17bに記憶することを予め設定しておく。また、評価が評価値により行われた場合、予めしきい値を設定しておき、評価値がしきい値以下である場合に内視鏡画像61をデータ記憶部17bに記憶する。
記憶制御部16は、記憶すると判定した内視鏡画像61をデータ記憶部17bに記憶する制御を行う。記憶すると判定した内視鏡画像61については、検査中及び検査後の動画及び/又は静止画を一時保存部17aに保存している場合、一時保存部17aに保存している内視鏡画像61をデータ記憶部17bに記憶する。したがって、データ記憶部17bには、内視鏡画像61を静止画として及び/又は動画として記憶される。
また、図13に示すように、記憶制御部16がデータ抽出部91を備え、データ抽出部91が、一時保存部17aに保存している内視鏡画像61から一部の内視鏡画像61を抽出してもよい。データ記憶部17bは、データ抽出部91が抽出した内視鏡画像61をデータ記憶部17bに記憶する。データ抽出部91についての詳細は、後述する。
本実施形態のように、評価の選択肢が、認識処理の性能が高い、又は、低いとの2択である場合、記憶制御部16は、検査後に、一時保存部17aに保存されていた検査中の動画につき、NGボタン83が選択された場合はデータ記憶部17bに移動し、OKボタン82が選択された場合は一時保存部17aから削除する。このようにして、データ記憶部17bには、医師により認識処理の性能が低いと評価された検査動画が蓄積される。そして、一時保存部17aにおいても、データ記憶部17bにおいても、ストレージの節約を図ることができる。
なお、一時保存部17a又はデータ記憶部17bは、医療画像処理装置10内に設けてもよいし、医療画像処理装置10の外に設けてもよい。また、データ記憶部17bには、内視鏡画像61と、医師による評価、及び評価の詳細等も付随して蓄積してもよい。これにより、ストレージ容量の削減だけでなく、認識処理に対する詳細なユーザ評価も、検出器51等の開発に反映することが可能になる。
医療画像処理装置10は、以上のように、学習上有用な内視鏡画像61を選択的に蓄積することができる。学習上有用ではないとされる内視鏡画像61は蓄積されないため、データ記憶部17bの容量を大いに節約することができる。また、選択は、ワンクリック等の一つの操作で行うことができるため手間がかからない。選択した内視鏡画像61は、認識処理部12が認識処理を間違えた内視鏡画像61であるため、特に認識処理部12における検出器51等の診断支援学習モデルの学習に対して有用な内視鏡画像であり、検出器51以外の診断支援学習モデルに対しても学習上有用な内視鏡画像61である。学習上有用な内視鏡画像61は、一つのストレージに自動的に蓄積されるため、移動又は管理がしやすい。
次に、内視鏡画像61のデータ記憶部17bへの記憶についてさらに説明する。まず、検査中又は検査終了後に一時保存部17aに保存するデータとしては、内視鏡画像61に各種の情報を関連付けたデータでもよい。内視鏡画像61に関連付ける情報としては、認識処理部12による認識処理の結果、又は、検査中又は検査終了後に医師が行った診断に関する診断情報等が挙げられる。これらの情報が関連付けられた内視鏡画像61をデータ記憶部17bに記憶する場合は、医師が被検体に対して行った診断に関する診断情報等もデータ記憶部17bが受け付ける。データ記憶部17bは、内視鏡画像61と診断情報とを関連付けてデータ記憶部17bに記憶する。
認識処理の結果を付与する場合は、対象となった内視鏡画像61が取得された時刻又は認識処理の結果が得られた時刻の情報とあわせて保存することが好ましい。これにより、認識処理部12による認識の結果が誤った際に時間領域の特定が容易になる。また、医師が行った診断に関する診断情報は、検査終了後に医師が検査レポートを作成する際に付与した所見又は診断等の情報としてもよい。これにより、データ記憶部17bに記憶した医師の初見又は診断の情報が関連付けられた内視鏡画像61のデータにより、検出器51等の学習に利用する際の正解ラベル又はアノテーションが付された内視鏡画像61を収集することが可能となる。
一方、内視鏡画像61に個人情報が関連付けられている場合は、蓄積する内視鏡画像61に関連付けられた患者個人を特定しうる情報を匿名化することが好ましい。例えば、内視鏡画像61が付帯する患者情報として被検体を有する個人に関する個人情報を含む場合、内視鏡画像61から個人情報を削除した上で、データ記憶部17bに記憶することが好ましい。
内視鏡装置18を用いる検査においては、内視鏡画像61には患者を特定するための患者情報が付帯する場合がある。例えば、動画を含む医療画像又は検査情報データは、DICOM(Digital Imaging and Communications in Medicine)の規格により統一化されており、この規格には、患者名等の患者の個人情報が含まれる。
図14(a)に示すように、内視鏡画像61に患者情報として氏名が付帯する場合、氏名表示欄101には、氏名が表示される。患者情報として氏名が付帯する内視鏡画像61をデータ記憶部17bに記憶する際に、データ記憶部17bは、学習データとして必要ではない氏名等の個人情報を削除する。図14(b)に示すように、氏名を削除した後は、氏名が削除されたことがわかるように、氏名表示欄101に表示される氏名として「匿名」等と表示してもよい。
個人情報保護の観点から、各施設のデータは個人を特定し得る情報を含んだままでは施設外に持ち出すことは認められない。したがって、データ記憶部17bに蓄積する時点で匿名化処理を行うことで、内視鏡画像61等のデータ回収時の上記の問題を回避することができる。なお、患者が特定されない限り、学習データとして有用な情報は選択して残すことができる。例えば、患者名は削除するが、年齢、病歴、又は病名等は、学習データとして有用である場合があるため場合によっては削除しなくてもよい。
記憶制御部16は、一時保存部17aに保存した内視鏡画像61及び内視鏡画像61に関連付けられて付帯する各種の情報をデータ記憶部17bへ記憶する際には、内視鏡画像61及び各種の情報の全てを蓄積してもよいし、データ抽出部91により、内視鏡画像61及び各種の情報から一部を抽出して蓄積してもよい。記憶制御部16は、記憶すると判定した内視鏡画像61について、内視鏡画像61の一部を抽出して蓄積する場合は、内視鏡画像61のデータ記憶部17bに記憶されなかった部分については、一時保存部17a又はデータ記憶部17bにおいて削除する制御を行うことが好ましい。これにより、検出器51の学習上有益な内視鏡画像61及び内視鏡画像61に付随する各種の情報を残しながら、さらなるストレージ容量、及び、開発工数の削減が可能となる。
データ抽出部91は、例えば、内視鏡画像61の認識処理の結果63が予め設定した特定の内容を含む場合、内視鏡画像61の認識処理の対象となった内視鏡画像61が取得された時刻を含む予め設定された期間に取得された内視鏡画像61をデータ記憶部17bに記憶するようにしてもよい。したがって、データ抽出部91は、内視鏡画像61と内視鏡画像61に関連付けられた各種の情報を把握した上で、データ抽出を行う。
予め設定した特定の内容としては、例えば、認識処理部12が、注目領域62を検出する検出処理の場合は、認識処理の結果63が注目領域62を検出したとの内容が挙げられる。この場合、認識処理の結果63が注目領域62を検出したとの結果であった際の認識処理の対象となった、内視鏡画像61が取得された時刻を含む予め設定した期間の動画のみを抽出して、内視鏡画像61をデータ記憶部17bに記憶する。
図15に示すように、具体的には、データ抽出部91は、検査動画111である内視鏡画像61において、認識処理の結果63として注目領域62が検出された内視鏡画像61があった場合、この内視鏡画像61が取得された時刻tを含んで予め設定した期間の検査動画を抽出して抽出動画112とする。そして、抽出動画112をデータ記憶部17bに記憶する。ここで、予め設定した期間は、注目領域62が検出された内視鏡画像61が取得された時刻tの前後aの期間としたため、抽出動画112は、検査動画111において時刻t-aから時刻t+aの期間を抽出した抽出動画112となる。
また、内視鏡画像61に医師が診断情報である特定の所見を付与した場合、診断情報の内容に応じて内視鏡画像61を抽出した上で、抽出した内視鏡画像61をデータ記憶部17bに記憶するようにしてもよい。特定の所見としては、注目領域62を認める、特定の病変を認める、又は、寛解した領域である等、適宜設定することができる。したがって、データ抽出部91は、内視鏡画像61と内視鏡画像61に関連付けられた医師の所見を把握した上で、データ抽出を行う。
図16に示すように、具体的には、データ抽出部91は、医師が検査動画111である内視鏡画像61a及び内視鏡画像61bに対し、所見として、内視鏡画像61aに対して注目領域62aを指定し、内視鏡画像61bに対して注目領域62bを指定した場合、内視鏡画像61a及び内視鏡画像61bに付された医師のこれらの診断情報に基づいて、医師により領域が指定された内視鏡画像61aが取得された時刻t1及び内視鏡画像61bが取得された時刻t2を含む予め設定した期間の動画を抽出して、内視鏡画像61をデータ記憶部17bに記憶してもよい。診断情報の内容に応じて抽出された内視鏡画像61が複数である場合、これらの内視鏡画像61を含むように検査動画111を抽出することが好ましい。
ここで、予め設定した期間は、注目領域が検出された内視鏡画像61が取得された時刻tの前後bの期間としていたため、抽出動画112は、抽出動画112に含める複数の内視鏡画像61のうち、最も古い時刻に取得された内視鏡画像61の取得時刻の前の設定期間から、最も新しい時刻に取得された内視鏡画像61の取得時刻の後の設定期間まで、とすることができる。したがって、図16の場合は、検査動画111において時刻t1-bから時刻t2+bの期間を抽出した抽出動画112となる。
データ抽出部91が、検査動画111から特定の条件により抽出した抽出動画112を生成することにより、記憶制御部16は、検査動画111の全体ではなく抽出動画112をデータ記憶部17bに記憶する制御を行う。したがって、予め行った設定に応じて、検査動画111全体から学習に有用とされるシーンを選択した上で、データ記憶部17bに記憶することができる。これにより、ストレージの圧迫を大いに抑制することができる。また、抽出動画112には、認識処理の結果63又は医師の特定の所見等の情報が関連付けられているため、アノテーションが付された学習データとして有効に用いることが可能である。
次に、記憶制御部16が記憶すると判定しなかった内視鏡画像61について説明する。記憶制御部16が記憶すると判定しなかった内視鏡画像61については、記憶制御部16が一時保存部17aから削除する制御を行ってもよい。これにより、データ記憶部17bに加え一時保存部17aのストレージの節約を図ることができる。
次に、本実施形態の医療画像処理装置10による処理の流れについて説明する。図17に示すように、医療画像取得部11が内視鏡装置18により得られた内視鏡画像61を取得する(ステップST110)。内視鏡画像61には被検体が写っている。認識処理部12は、医療画像取得部11が取得した内視鏡画像61に対し、認識処理を行う(ステップST120)。
医師は、ディスプレイ20に表示された認識処理の結果63と内視鏡画像61とを見て検査を進める。検査終了後に、表示制御部13は、医療画像取得部11が取得した内視鏡画像61をディスプレイ20に表示する制御を行い、また、認識処理の結果63についてもディスプレイ20に表示する制御を行う(ステップST130)。医師は、ディスプレイ20に表示された内視鏡画像61と内視鏡画像61の認識処理の結果63とを見て、認識処理の結果63に関して評価を行う(ステップST140)。評価は、認識処理の良し悪しに関する評価である。評価は、内視鏡画像61と関連付けられて一時保存部17aに保存される(ステップST150)。
判定部15は、一時保存部17aに保存された内視鏡画像61及びこれに関連付けられた評価の内容を判定し、評価が予め設定したレベル以下である内視鏡画像61について、データ記憶部17bに記憶すると判定する。記憶制御部16は、判定部15がデータ記憶部17bに記憶すると判定した内視鏡画像61について、全部を記憶するか一部を抽出して記憶するかを判断し、内視鏡画像61の記憶する部分を決定する(ステップST160)。記憶制御部16は、記憶制御部16が記憶すると決定した内視鏡画像61の全部又は一部を、データ記憶部17bに記憶する制御を行う(ステップST170)。
上記実施形態等は、医療画像処理用のプログラムであって、被検体が写る医療画像を取得する処理と、医療画像に対する認識処理を行う処理と、医療画像と医療画像の認識処理の結果とをディスプレイに表示する制御を行う処理と、表示された医療画像と医療画像の認識処理の結果とに基づいたユーザからの認識処理の結果に関する評価を受け付ける処理と、評価に基づき、評価の対象となった医療画像をデータ記憶部に記憶するか否かを判定する処理と、記憶すると判定した医療画像をデータ記憶部に記憶する制御を行う処理とをコンピュータに実行させる医療画像処理用プログラムを含む。
上記実施形態において、プロセッサ装置である医療画像処理装置10に含まれる医療画像取得部11、認識処理部12、表示制御部13、評価受付部14、判定部15、記憶制御部16等の処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA (Field Programmable Gate Array) などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、各種の処理を実行するために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGAや、CPUとFPGAの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路(circuitry)である。
10 医療画像処理装置
11 医療画像取得部
12 認識処理部
13 表示制御部
14 評価受付部
15 判定部
16 記憶制御部
17a 一時保存部
17b データ記憶部
18 内視鏡装置
19 PACS
20 ディスプレイ
21 入力デバイス
31 制御部
32 通信部
33 記憶部
34 データバス
35 ネットワーク
41 CPU
42 RAM
43 ROM
44 医療画像処理装置用プログラム
45 医療画像処理装置用データ
51 検出器
61、61a、61b 内視鏡画像
62、62a、62b 注目領域
63 認識処理の結果
64 検出注目領域
70 スクロールバー
71 メイン領域
72 注目領域検出表示枠
73 注目領域検出表示図形
74 サブ領域
75 分類結果表示テキスト
76 分類結果色別表示
77 部位名表示テキスト
78 部位名のタイルの強調表示
81 指示表示
82 OKボタン
83 NGボタン
84 評価値入力枠
85 評価値入力ボタン
86 評価値バー
87 スライダー
88 コメント欄
89 評価値入力欄
90 選択枠
91 データ抽出部
101 氏名表示欄
111 検査動画
112 抽出動画
ST110~ST170 ステップ

Claims (18)

  1. プロセッサを備え、
    前記プロセッサは、
    被検体が写る医療画像を取得し、
    前記医療画像に対する認識処理を行い、
    前記医療画像と前記医療画像の認識処理の結果とをディスプレイに表示する制御を行い、
    表示された前記医療画像と前記医療画像の認識処理の結果とに基づいたユーザからの前記認識処理の結果に関する評価を受け付け、
    前記評価に基づき、前記評価の対象となった前記医療画像をデータ記憶部に記憶するか否かを判定し、
    記憶すると判定した前記医療画像を前記データ記憶部に記憶する制御を行う医療画像処理装置。
  2. 前記プロセッサは、前記ユーザに前記評価を促す指示表示を前記ディスプレイに表示する制御を行い、
    前記指示表示を表示した後に、前記評価を受け付ける請求項1に記載の医療画像処理装置。
  3. 前記プロセッサは、前記医療画像を検査中に取得し、
    前記検査終了後の予め設定したタイミングで前記指示表示を表示する制御を行う請求項1又は2に記載の医療画像処理装置。
  4. 前記プロセッサは、前記医療画像を検査中に取得し、
    前記検査終了後の予め設定したタイミングで前記医療画像と前記医療画像の認識処理の結果とを前記ディスプレイに表示する制御を行い、
    前記医療画像と前記医療画像の認識処理の結果とが前記ディスプレイに表示された後に、前記評価を受け付ける請求項1又は2に記載の医療画像処理装置。
  5. 前記プロセッサは、前記検査中に前記医療画像と前記医療画像の認識処理の結果を表示する制御を行う前記ディスプレイと、前記検査終了後に前記医療画像と前記医療画像の認識処理の結果を表示する制御を行う前記ディスプレイとを、互いに異ならせる請求項3又は4に記載の医療画像処理装置。
  6. 前記評価は、前記認識処理の結果が正解である程度を示す評価値により行われ、
    前記プロセッサは、前記評価値が、前記認識処理の結果が正解である程度が低いことを示す予め設定した範囲内である場合に、前記医療画像を前記データ記憶部に記憶すると判定する請求項1ないし5のいずれか1項に記載の医療画像処理装置。
  7. 前記プロセッサは、前記医療画像を一時保存部に一時的に保存する制御を行う請求項1ないし6のいずれか1項に記載の医療画像処理装置。
  8. 前記プロセッサは、前記医療画像を記憶すると判定した場合、前記一時保存部に保存した前記医療画像を前記データ記憶部に記憶する請求項7に記載の医療画像処理装置。
  9. 前記プロセッサは、前記医療画像を記憶すると判定した場合、前記一時保存部に保存した前記医療画像から一部の前記医療画像を抽出した上で前記データ記憶部に記憶する制御を行う請求項7に記載の医療画像処理装置。
  10. 前記プロセッサは、前記医療画像の認識処理の結果が予め設定した特定の内容を含む場合、前記医療画像の認識処理の対象となった前記医療画像が取得された時刻を含む予め設定した期間に取得された前記医療画像を前記データ記憶部に記憶する制御を行う請求項1ないし9のいずれか1項に記載の医療画像処理装置。
  11. 前記プロセッサは、前記ユーザが前記被検体に対して行った診断に関する診断情報を受け付け、前記医療画像と前記診断情報とを関連付けて前記データ記憶部に記憶する制御を行う請求項1ないし10のいずれか1項に記載の医療画像処理装置。
  12. 前記プロセッサは、前記診断情報の内容に応じて前記医療画像を抽出した上で前記データ記憶部に記憶する制御を行う請求項11に記載の医療画像処理装置。
  13. 前記プロセッサは、前記医療画像が前記被検体を有する個人に関する個人情報を含む場合、前記医療画像から前記個人情報を削除した上で前記データ記憶部に記憶する制御を行う請求項1ないし12のいずれか1項に記載の医療画像処理装置。
  14. 前記プロセッサは、前記医療画像と前記医療画像の認識処理の結果とを関連付けて前記データ記憶部に記憶する制御を行う請求項1ないし13のいずれか1項に記載の医療画像処理装置。
  15. 前記プロセッサは、前記医療画像を静止画として及び/又は前記医療画像を含む動画として前記データ記憶部に記憶する制御を行う請求項1ないし14のいずれか1項に記載の医療画像処理装置。
  16. 前記プロセッサは、前記指示表示を表示する制御を行う前記ディスプレイ、前記医療画像を表示する制御を行う前記ディスプレイ、及び、前記医療画像の認識処理の結果を表示する制御を行う前記ディスプレイを、それぞれ互いに異ならせる、又は、少なくとも2つを同じとする請求項2ないし15のいずれか1項に記載の医療画像処理装置。
  17. 被検体が写る医療画像を取得するステップと、
    前記医療画像に対する認識処理を行うステップと、
    前記医療画像と前記医療画像の認識処理の結果とをディスプレイに表示する制御を行うステップと
    表示された前記医療画像と前記医療画像の認識処理の結果とに基づいたユーザからの前記認識処理の結果に関する評価を受け付けるステップと、
    前記評価に基づき、前記評価の対象となった前記医療画像をデータ記憶部に記憶するか否かを判定するステップと、
    記憶すると判定した前記医療画像を前記データ記憶部に記憶する制御を行うステップとを備える医療画像処理装置の作動方法。
  18. 医療画像処理用のプログラムであって、
    被検体が写る医療画像を取得する処理と、
    前記医療画像に対する認識処理を行う処理と、
    前記医療画像と前記医療画像の認識処理の結果とをディスプレイに表示する制御を行う処理と、
    表示された前記医療画像と前記医療画像の認識処理の結果とに基づいたユーザからの前記認識処理の結果に関する評価を受け付ける処理と、
    前記評価に基づき、前記評価の対象となった前記医療画像をデータ記憶部に記憶するか否かを判定する処理と、
    記憶すると判定した前記医療画像を前記データ記憶部に記憶する制御を行う処理とをコンピュータに実行させる医療画像処理用プログラム。
JP2021150905A 2021-09-16 2021-09-16 医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理用プログラム Pending JP2023043344A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021150905A JP2023043344A (ja) 2021-09-16 2021-09-16 医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理用プログラム
US17/932,035 US20230082779A1 (en) 2021-09-16 2022-09-14 Medical image processing device, operation method of medical image processing device, and non-transitory computer readable medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021150905A JP2023043344A (ja) 2021-09-16 2021-09-16 医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理用プログラム

Publications (1)

Publication Number Publication Date
JP2023043344A true JP2023043344A (ja) 2023-03-29

Family

ID=85479525

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021150905A Pending JP2023043344A (ja) 2021-09-16 2021-09-16 医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理用プログラム

Country Status (2)

Country Link
US (1) US20230082779A1 (ja)
JP (1) JP2023043344A (ja)

Also Published As

Publication number Publication date
US20230082779A1 (en) 2023-03-16

Similar Documents

Publication Publication Date Title
TWI842573B (zh) 用於處理即時視訊之電腦實施系統
JP6438395B2 (ja) 効果的な表示及び報告のための画像資料に関連する以前の注釈の自動検出及び取り出し
JP5383431B2 (ja) 情報処理装置、情報処理方法及びプログラム
KR101943011B1 (ko) 피검체의 의료 영상 판독을 지원하는 방법 및 이를 이용한 장치
US20190155836A1 (en) Control method and non-transitory computer-readable recording medium for comparing medical images
US9690902B2 (en) Image observation apparatus to display medical images from a plurality of apparatus types
JP5927591B2 (ja) 症例表示装置、症例表示方法およびプログラム
JP5661890B2 (ja) 情報処理装置、情報処理方法及びプログラム
US20120166211A1 (en) Method and apparatus for aiding imaging diagnosis using medical image, and image diagnosis aiding system for performing the method
EP2116974B1 (en) Statistics collection for lesion segmentation
JP2018061771A (ja) 画像処理装置、及び画像処理方法
JP2007502469A (ja) Cad(コンピュータ援用診断)をサポートするシステム及び方法
CN104933698A (zh) 图像处理装置以及图像处理方法
JP7190992B2 (ja) 表示制御装置、表示制御装置の作動方法、及び表示制御装置の作動プログラム
WO2020174863A1 (ja) 診断支援プログラム、診断支援システム及び診断支援方法
JP2007275440A (ja) 類似画像検索装置および方法並びにプログラム
JP2011103095A (ja) 医用画像表示システム及びプログラム
JP6498018B2 (ja) 情報処理装置、制御方法およびプログラム
WO2019193983A1 (ja) 医療文書表示制御装置、医療文書表示制御方法、及び医療文書表示制御プログラム
WO2021187483A1 (ja) 文書作成支援装置、方法およびプログラム
US20240029252A1 (en) Medical image apparatus, medical image method, and medical image program
JP5871104B2 (ja) 病変判定装置、類似症例検索装置、病変判定装置の駆動方法、類似症例検索装置の駆動方法、およびプログラム
JP6956200B2 (ja) 診療支援装置とその作動方法および作動プログラム
CN110537178B (zh) 用于针对发现的指示而对图像切片进行计算机辅助搜索的系统和方法
JP2023043344A (ja) 医療画像処理装置、医療画像処理装置の作動方法、及び医療画像処理用プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240606