JP7299314B2 - 医療文書作成装置、方法およびプログラム、学習装置、方法およびプログラム、並びに学習済みモデル - Google Patents

医療文書作成装置、方法およびプログラム、学習装置、方法およびプログラム、並びに学習済みモデル Download PDF

Info

Publication number
JP7299314B2
JP7299314B2 JP2021522916A JP2021522916A JP7299314B2 JP 7299314 B2 JP7299314 B2 JP 7299314B2 JP 2021522916 A JP2021522916 A JP 2021522916A JP 2021522916 A JP2021522916 A JP 2021522916A JP 7299314 B2 JP7299314 B2 JP 7299314B2
Authority
JP
Japan
Prior art keywords
medical
learning
medical image
feature
document
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021522916A
Other languages
English (en)
Other versions
JPWO2020241857A1 (ja
JPWO2020241857A5 (ja
Inventor
陽平 桃木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2020241857A1 publication Critical patent/JPWO2020241857A1/ja
Publication of JPWO2020241857A5 publication Critical patent/JPWO2020241857A5/ja
Application granted granted Critical
Publication of JP7299314B2 publication Critical patent/JP7299314B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H15/00ICT specially adapted for medical reports, e.g. generation or transmission thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Public Health (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Quality & Reliability (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • Pathology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Biology (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Image Analysis (AREA)

Description

本開示は、読影レポート等の医療文書を作成する医療文書作成装置、方法およびプログラム、学習装置、方法およびプログラム、並びに学習済みモデルに関する。
近年、CT(Computed Tomography)装置およびMRI(Magnetic Resonance Imaging)装置等の医療機器の進歩により、より質の高い高解像度の医用画像を用いての画像診断が可能となってきている。とくに、CT画像およびMRI画像等を用いた画像診断により、病変の領域を精度よく特定することができるため、特定した結果に基づいて適切な治療が行われるようになってきている。
また、ディープラーニング等により学習がなされた判別器を用いたCAD(Computer-Aided Diagnosis)により医用画像を解析して、医用画像に含まれる病変等の領域、位置および体積等を抽出し、これらを解析結果として取得することも行われている。このように、解析処理により生成される解析結果は、患者名、性別、年齢および医用画像を取得したモダリティ等の検査情報と対応づけられて、データベースに保存され、診断に供される。読影医は、自身の読影端末において、配信された医用画像および解析結果を参照して医用画像の読影を行い、読影レポートを作成する。
一方、上述したCT装置およびMRI装置の高性能化に伴い、読影を行う医用画像の数も増大している。しかしながら、読影医の数は医用画像の数に追いついていないことから、読影医の読影業務の負担を軽減することが望まれている。このため、読影レポート等の医療文書の作成を支援するための各種手法が提案されている。例えば、再公表2005-122002号公報には、読影レポートにおいて使用する用語および略語の統一を図るために、所見の入力に基づいてテンプレートを特定し、テンプレートを用いて所見から読影レポートを作成する手法が提案されている。また、特開2008-257569号公報には、機械学習によって得られた情報に基づく言語処理を文章に対して行い、文章から所見を含む各項目に属する複数の要素を抽出し、複数の要素を関連付けることにより要素関連情報を取得し、各要素が相互に関連付けられた情報の一覧表示を行い、一覧表示に含まれる各項目に対し、複数の要素を所定のレポートモデルに沿ったレポート情報を構成するレポート構成要素として指定して新規なレポートを生成する手法が提案されている。
一方、読影レポート等の医療文書は、医用画像に含まれる異常陰影等の特徴に応じて、表現形式が異なるものとなる。このため、医用画像に含まれる特徴に応じた表現形式の医療文書が作成されることが好ましい。しかしながら、再公表2005-122002号公報に記載された手法は、テンプレートを用いる手法であるため、画像に含まれる特徴が異なっても画一的な表現の文書しか作成することができない。また、画像に含まれるすべての特徴をテンプレートに当てはめることができない場合がある。また、特開2008-257569号公報に記載された手法では、レポートモデルにしたがった表現の読影レポートしか作成することができない。このため、特開2008-257569号公報に記載された手法では、画像に含まれる特徴に適した医療文書が作成できない可能性がある。
本開示は上記事情に鑑みなされたものであり、医用画像に含まれる特徴に応じた表現形式の医療文書を作成できるようにすることを目的とする。
本開示による医療文書作成装置は、学習用医用画像の特徴ベクトル、および学習用医療文書を含む学習データを複数用いることにより、対象医用画像の特徴ベクトルおよび対象医用画像の特徴ベクトルを含む特徴情報に応じた表現ベクトルが入力されると、対象医用画像に関する特徴を含む医療文書を出力する学習がなされた学習済みモデルを有する文書作成部と、
複数の学習用医用画像のそれぞれの特徴ベクトルに対応する複数の表現ベクトルを記憶する記憶部とを備え、
文書作成部は、対象医用画像の特徴ベクトルを含む特徴情報が入力されると、特徴情報に応じた少なくとも1つの表現ベクトルを、記憶部に記憶された複数の表現ベクトルから選択し、対象医用画像の特徴ベクトルおよび選択された少なくとも1つの表現ベクトルを学習済みモデルに入力して、対象医用画像に関する特徴を含む少なくとも1つの医療文書を作成する。
「対象医用画像の特徴ベクトルを含む特徴情報」とは、対象医用画像の特徴ベクトルそのものであってもよく、特徴ベクトルに加えて、対象医用画像の付帯情報を含むものであってもよい。付帯情報としては、例えば対象医用画像の読影を行う病院を表す情報、病院内の診療科を表す情報、および読影を行う医師を表す情報等、医療文書の表現に関する特徴を特定可能な情報を用いることができる。
なお、本開示による医療文書作成装置においては、特徴ベクトルは、学習用医用画像および対象医用画像に含まれる異常陰影に関する所見を含むものあってもよい。
また、本開示による医療文書作成装置においては、対象医用画像を解析して特徴ベクトルを生成する解析部をさらに備えるものであってもよい。
また、本開示による医療文書作成装置においては、少なくとも1つの医療文書を表示部に表示する表示制御部をさらに備えるものであってもよい。
また、本開示による医療文書作成装置においては、文書作成部は、特徴情報に応じた複数の表現ベクトルを複数の表現ベクトルから選択して、複数の医療文書を作成し、
表示制御部は、複数の医療文書を表示部に表示するものであってもよい。
また、本開示による医療文書作成装置においては、複数の医療文書からの特定の医療文書の選択の入力を受け付ける入力部をさらに備えるものであってもよい。
また、本開示による医療文書作成装置においては、医療文書の作成に使用された表現ベクトル以外の少なくとも1つの他の表現ベクトルの選択を受け付ける表現ベクトル選択部をさらに備え、
文書作成部は、他の表現ベクトルを用いて医療文書を生成し、
表示制御部は、他の表現ベクトルを用いて医療文書を表示部に表示するものあってもよい。
本開示による学習装置は、学習用医用画像の特徴ベクトル、および学習用医療文書を含む学習データを複数用いることにより、対象医用画像の特徴ベクトルおよび対象医用画像の特徴ベクトルを含む特徴情報に応じた表現ベクトルが入力されると、対象医用画像に関する特徴を含む医療文書を出力するように学習モデルを学習して学習済みモデルを生成する学習部を備える。
なお、本開示による学習装置においては、学習用医療文書および学習用医療文書に対応する学習用医用画像の特徴ベクトルを用いて、学習用医用画像の表現ベクトルを生成する表現ベクトル生成部をさらに備えるものであってもよい。
本開示による学習済みモデルは、学習用医用画像の特徴ベクトル、および学習用医療文書を含む学習データを複数用いることにより、対象医用画像の特徴ベクトルおよび対象医用画像の特徴ベクトルを含む特徴情報に応じた表現ベクトルが入力されると、対象医用画像に関する特徴を含む医療文書を出力する学習がなされてなる。
本開示による医療文書作成方法は、学習用医用画像の特徴ベクトル、および学習用医療文書を含む学習データを複数用いることにより、対象医用画像の特徴ベクトルおよび対象医用画像の特徴ベクトルを含む特徴情報に応じた表現ベクトルが入力されると、対象医用画像に関する特徴を含む医療文書を出力する学習がなされた学習済みモデルを有する文書作成部と、
複数の学習用医用画像のそれぞれの特徴ベクトルに対応する複数の表現ベクトルを記憶する記憶部とを備えた医療文書作成装置における医療文書作成方法であって、
対象医用画像の特徴ベクトルを含む特徴情報が入力されると、特徴情報に応じた少なくとも1つの表現ベクトルを、記憶部に記憶された複数の表現ベクトルから選択し、対象医用画像の特徴ベクトルおよび選択された少なくとも1つの表現ベクトルを学習済みモデルに入力して、対象医用画像に関する特徴を含む少なくとも1つの医療文書を作成する。
本開示による学習方法は、学習用医用画像の特徴ベクトル、および学習用医療文書を含む学習データを複数用いることにより、対象医用画像の特徴ベクトルおよび対象医用画像の特徴ベクトルを含む特徴情報に応じた表現ベクトルが入力されると、対象医用画像に関する特徴を含む医療文書を出力するように学習モデルを学習して学習済みモデルを生成する。
なお、本開示による医療文書作成方法および学習方法をコンピュータに実行させるためのプログラムとして提供してもよい。
本開示による他の医療文書作成装置は、コンピュータに実行させるための命令を記憶するメモリと、
記憶された命令を実行するよう構成されたプロセッサとを備え、プロセッサは、
学習用医用画像の特徴ベクトル、および学習用医療文書を含む学習データを複数用いることにより、対象医用画像の特徴ベクトルおよび対象医用画像の特徴ベクトルを含む特徴情報に応じた表現ベクトルが入力されると、対象医用画像に関する特徴を含む医療文書を出力する学習がなされた学習済みモデルを有する文書作成部として機能し、
文書作成部は、対象医用画像の特徴ベクトルを含む特徴情報が入力されると、特徴情報に応じた少なくとも1つの表現ベクトルを、複数の学習用医用画像のそれぞれの特徴ベクトルに対応する複数の表現ベクトルを記憶する記憶部に記憶された複数の表現ベクトルから選択し、対象医用画像の特徴ベクトルおよび選択された少なくとも1つの表現ベクトルを学習済みモデルに入力して、対象医用画像に関する特徴を含む少なくとも1つの医療文書を作成する処理を実行する。
本開示による他の学習装置は、コンピュータに実行させるための命令を記憶するメモリと、
記憶された命令を実行するよう構成されたプロセッサとを備え、プロセッサは、
学習用医用画像の特徴ベクトル、および学習用医療文書を含む学習データを複数用いることにより、対象医用画像の特徴ベクトルおよび対象医用画像の特徴ベクトルを含む特徴情報に応じた表現ベクトルが入力されると、対象医用画像に関する特徴を含む医療文書を出力するように学習モデルを学習して学習済みモデルを生成する処理を実行する。
本開示によれば、医用画像に含まれる特徴に応じた表現形式の医療文書を作成できる。
本開示の第1の実施形態による医療文書作成装置を適用した医療情報システムの概略構成を示す図 第1の実施形態による医療文書作成装置の概略構成を示す図 所見の項目および各項目についての所見の例を示す図 所見の検出結果を示す図 文書作成部の概略構成を示す図 表現ベクトル生成部が行う処理を示す概略ブロック図 学習用医用画像の特徴ベクトルの例を示す図 学習用医療文書の例を示す図 第1の実施形態における読影レポート表示画面を示す図 第1の実施形態において行われる医療文書作成処理を示すフローチャート 第1の実施形態において行われる学習処理を示すフローチャート 第2の実施形態における読影レポート表示画面を示す図 第3の実施形態における読影レポート表示画面を示す図 表現選択ウィンドウを示す図
以下、図面を参照して本開示の実施形態について説明する。図1は本開示の第1の実施形態による医療文書作成装置を適用した医療情報システムの概略構成を示す図である。図1に示す医療情報システム1は、公知のオーダリングシステムを用いた診療科の医師からの検査オーダに基づいて、被写体の検査対象部位の撮影、撮影により取得された医用画像の保管、読影医による医用画像の読影と読影レポートの作成、および依頼元の診療科の医師による読影レポートの閲覧と読影対象の医用画像の詳細観察とを行うためのシステムである。図1に示すように、医療情報システム1は、複数のモダリティ(撮影装置)2、読影端末である複数の読影ワークステーション(WS)3、診療科ワークステーション(WS)4、画像サーバ5、画像データベース6、読影レポートサーバ7、および読影レポートデータベース8が、有線または無線のネットワーク9を介して互いに通信可能な状態で接続されて構成されている。
各機器は、医療情報システム1の構成要素として機能させるためのアプリケーションプログラムがインストールされたコンピュータである。アプリケーションプログラムは、ネットワーク9に接続されたサーバコンピュータの記憶装置、もしくはネットワークストレージに、外部からアクセス可能な状態で記憶され、要求に応じてコンピュータにダウンロードされ、インストールされる。または、DVD(Digital Versatile Disc)あるいはCD-ROM(Compact Disc Read Only Memory)等の記録媒体に記録されて配布され、その記録媒体からコンピュータにインストールされる。
モダリティ2は、被写体の診断対象となる部位を撮影することにより、診断対象部位を表す医用画像を生成する装置である。具体的には、単純X線撮影装置、CT装置、MRI装置、およびPET(Positron Emission Tomography)装置等である。モダリティ2により生成された医用画像は画像サーバ5に送信され、保存される。
読影WS3は、本実施形態による医療文書作成装置を内包する。読影WS3の構成については後述する。
診療科WS4は、診療科の医師が画像の詳細観察、読影レポートの閲覧、および電子カルテの作成等に利用するコンピュータであり、処理装置、ディスプレイ等の表示装置、並びにキーボードおよびマウス等の入力装置により構成される。診療科WS4では、患者のカルテ(電子カルテ)の作成、画像サーバ5に対する画像の閲覧要求、画像サーバ5から受信した画像の表示、画像中の病変らしき部分の自動検出または強調表示、読影レポートサーバ7に対する読影レポートの閲覧要求、および読影レポートサーバ7から受信した読影レポートの表示等の各処理が、各処理のためのソフトウェアプログラムを実行することにより行われる。
画像サーバ5は、汎用のコンピュータにデータベース管理システム(DataBase Management System: DBMS)の機能を提供するソフトウェアプログラムがインストールされたものである。また、画像サーバ5は画像データベース6が構成されるストレージを備えている。このストレージは、画像サーバ5とデータバスとによって接続されたハードディスク装置であってもよいし、ネットワーク9に接続されているNAS(Network Attached Storage)およびSAN(Storage Area Network)に接続されたディスク装置であってもよい。また、画像サーバ5は、モダリティ2からの医用画像の登録要求を受け付けると、その医用画像をデータベース用のフォーマットに整えて画像データベース6に登録する。
画像データベース6には、モダリティ2において取得された医用画像の画像データと付帯情報とが登録される。付帯情報には、例えば、個々の医用画像を識別するための画像ID、被写体を識別するための患者ID(identification)、検査を識別するための検査ID、医用画像毎に割り振られるユニークなID(UID:unique identification)、医用画像が生成された検査日、検査時刻、医用画像を取得するための検査で使用されたモダリティの種類、患者氏名、年齢、性別等の患者情報、検査部位(撮影部位)、撮影情報(撮影プロトコル、撮影シーケンス、撮像手法、撮影条件、造影剤の使用等)、1回の検査で複数の医用画像を取得したときのシリーズ番号あるいは採取番号等の情報が含まれる。
また、画像サーバ5は、読影WS3からの閲覧要求をネットワーク9経由で受信すると、画像データベース6に登録されている医用画像を検索し、検索された医用画像を要求元の読影WS3に送信する。
読影レポートサーバ7には、コンピュータにデータベース管理システムの機能を提供するソフトウェアプログラムが組み込まれる。読影レポートサーバ7は、読影WS3からの読影レポートの登録要求を受け付けると、その読影レポートをデータベース用のフォーマットに整えて読影レポートデータベース8に登録する。また、読影レポートの検索要求を受け付けると、その読影レポートを読影レポートデータベース8から検索する。
読影レポートデータベース8には、例えば、読影対象の医用画像を識別する画像ID、読影を行った画像診断医を識別するための読影医ID、病変名、病変の位置情報、所見、および所見の確信度等の情報が記録された読影レポートが登録される。
ネットワーク9は、病院内の各種機器を接続する有線または無線のローカルエリアネットワークである。読影WS3が他の病院あるいは診療所に設置されている場合には、ネットワーク9は、各病院のローカルエリアネットワーク同士をインターネットまたは専用回線で接続した構成としてもよい。
以下、本実施形態による読影WS3について詳細に説明する。読影WS3は、医用画像の読影医が、医用画像の読影および読影レポートの作成に利用するコンピュータであり、処理装置、ディスプレイ等の表示装置、並びにキーボードおよびマウス等の入力装置により構成される。読影WS3では、画像サーバ5に対する医用画像の閲覧要求、画像サーバ5から受信した医用画像に対する各種画像処理、医用画像の表示、医用画像に対する解析処理、解析結果に基づく医用画像の強調表示、解析結果に基づく読影レポートの作成、読影レポートの作成の支援、読影レポートサーバ7に対する読影レポートの登録要求と閲覧要求、並びに読影レポートサーバ7から受信した読影レポートの表示等の各処理が、各処理のためのソフトウェアプログラムを実行することにより行われる。なお、これらの処理のうち、本実施形態の医療文書作成装置が行う処理以外の処理は、周知のソフトウェアプログラムにより行われるため、ここでは詳細な説明は省略する。また、本実施形態の医療文書作成装置が行う処理以外の処理を読影WS3において行わず、別途その処理を行うコンピュータをネットワーク9に接続しておき、読影WS3からの処理の要求に応じて、そのコンピュータにおいて要求された処理を行うようにしてもよい。
読影WS3は、読影レポートを作成するために、第1の実施形態による医療文書作成装置が内包されてなる。また、第1の実施形態による医療文書作成装置は、第1の実施形態による学習装置を内包する。このため、読影WS3には、第1の実施形態による医療文書作成プログラムおよび学習プログラムがインストールされている。医療文書作成プログラムおよび学習プログラムは、ネットワークに接続されたサーバコンピュータの記憶装置、もしくはネットワークストレージに、外部からアクセス可能な状態で記憶され、要求に応じて読影WS3にダウンロードされ、インストールされる。または、DVDあるいはCD-ROM等の記録媒体に記録されて配布され、その記録媒体から読影WS3にインストールされる。
図2は、医療文書作成プログラムおよび学習プログラムをインストールすることにより実現される、本開示の第1の実施形態による医療文書作成装置の概略構成を示す図である。図2に示すように、医療文書作成装置10は、標準的なコンピュータの構成として、CPU(Central Processing Unit)11、メモリ12およびストレージ13を備えている。また、医療文書作成装置10には、液晶ディスプレイ等の表示装置(以下表示部とする)14、並びにキーボードおよびマウス等の入力装置(以下、入力部とする)15が接続されている。
ストレージ13は、ハードディスクまたはSSD(Solid State Drive)等のストレージデバイスからなる。ストレージ13には、ネットワーク9を経由して画像サーバ5から取得した、医用画像および医療文書作成装置10の処理に必要な情報を含む各種情報が記憶されている。また、後述する複数の表現ベクトルもストレージ13に記憶されている。なお、ストレージ13が記憶部に対応する。
また、メモリ12には、医療文書作成プログラムおよび学習プログラムが記憶されている。医療文書作成プログラムは、CPU11に実行させる処理として、読影レポートを作成する対象となる対象医用画像および後述する学習データ等を取得する情報取得処理、対象医用画像を解析して対象医用画像の特徴ベクトルを生成する解析処理、対象医用画像に関する特徴を含む少なくとも1つの医療文書を作成する文書作成処理、および作成された少なくとも1つの医療文書を表示部14に表示する表示制御処理を規定する。なお、本実施形態においては、医療文書作成装置10は、読影レポートを医療文書として作成するものとする。
学習プログラムは、学習用医療文書および学習用医療文書に対応する学習用医用画像の特徴ベクトルを用いて、学習用医用画像の表現ベクトルを生成する表現ベクトル生成処理、並びに後述する学習済みモデルを生成する学習処理を規定する。
そして、CPU11が医療文書作成プログラムに従いこれらの処理を実行することで、コンピュータは、情報取得部21、解析部22、文書作成部23、表示制御部24、表現ベクトル生成部25、および学習部26として機能する。
なお、本実施形態においては、人体の肺を含むCT画像を対象医用画像として使用し、肺結節に関する読影レポートを作成するものとする。
情報取得部21は、ネットワーク9と接続されたインターフェース(不図示)により、画像サーバ5から読影レポートの作成の対象となる対象医用画像G0を取得する。また、後述する学習済みモデルを生成する際に使用する学習データ等も取得する。情報取得部21は、対象医用画像G0および学習データ等が既にストレージ13に記憶されている場合には、ストレージ13から対象医用画像G0および学習データ等を取得するようにしてもよい。
解析部22は、対象医用画像G0を解析して病変等の異常陰影を検出し、異常陰影に関する特徴ベクトルを生成する。このために、解析部22は、対象医用画像G0から異常陰影を検出するための学習済みモデルM1および特徴ベクトルを生成するための学習済みモデルM2を有する。本実施形態において、学習済みモデルM1は、対象医用画像G0における各画素が異常陰影であるか否かを判別するように、例えばディープラーニング(深層学習)がなされたCNN(Convolutional Neural Network、畳み込みニューラルネットワーク)からなる。学習済みモデルM1は、対象医用画像G0が入力されると、対象医用画像G0内の対象領域の各画素について、異常陰影と見なせる画素値を有するか否かの判別結果を出力するようにCNNを学習することにより生成される。学習済みモデルM1は、対象医用画像G0の各画素について、異常陰影と見なせる各種所見であることの確率を表す、例えば0~1の値となる出力値を導出し、出力値が予め定められたしきい値以上となる画素を異常陰影と判定する判定結果を出力する。学習済みモデルM1を生成するためのCNNの学習に際しては、各画素について異常陰影であることの判別結果が既知である多数の医用画像が学習データとして用いられる。
学習済みモデルM2は、学習済みモデルM1が出力した判別結果に基づいて、異常陰影に関する特徴を表す複数の所見を検出する。本実施形態において、学習済みモデルM2は、学習済みモデルM1が出力した、対象医用画像G0における異常陰影を含む領域の判別結果が入力されると、その領域に関して、異常陰影に関する複数種類の所見の項目についての所見の検出結果を出力するように、例えばディープラーニングがなされたCNNからなる。学習済みモデルM2を生成するためのCNNの学習に際しては、異常陰影に対する所見の検出結果が既知である多数の医用画像が学習データとして用いられる。
また、学習済みモデルM2は、異常陰影と判定された画素がまとまることにより領域となって存在する場合、その領域のサイズおよびその領域の肺における位置を出力するようにも学習がなされる。サイズは領域の縦横の大きさまたは直径等をmmまたはcm等の単位で表したものとする。位置は、例えばその領域の重心位置が存在する、左右の肺の区域S1~S10または左右の肺の葉(上葉、中葉、下葉)により表される。
図3は、所見の項目および各項目についての所見の例を示す図である。本実施形態においては、対象医用画像G0は肺のCT画像であり、異常陰影は肺結節の候補である。このため、図3には肺結節についての所見の項目を示している。また、図3には所見の項目に対応する括弧内が、その項目についての所見を表している。図3に示すように、所見の項目および項目に対する所見としては、吸収値(充実型、部分充実型、スリガラス型、該当無)、境界(明瞭、比較的明瞭、不明瞭、該当無)、辺縁(整、やや不整、不整、該当無)、形状(円形、直線、扁平、該当無)、スピキュラ(有、無)、鋸歯状(有、無)、気管支透亮像(有、無)、空洞(有、無)、石灰化(有、無)、胸膜陥入(有、無)、胸膜浸潤(有、無)、無気肺(有、無)、位置およびサイズを含む。
本実施形態においては、解析部22の学習済みモデルM2は、上記のすべての項目についての所見を検出し、検出結果を出力する。図4は所見の検出結果を示す図である。図4に示す所見の検出結果は、吸収値がスリガラス型、境界が明瞭、辺縁が整、形状が円形、スピキュラが無、鋸歯状が無、気管支透亮像が無、空洞が無、石灰化が無、胸膜陥入が無、胸膜浸潤が無、無気肺が有、位置が左肺S10、サイズが14mm×13mmとなっている。
解析部22は、学習済みモデルM2が出力した所見を表す特徴ベクトルを生成し、特徴ベクトルを解析結果として出力する。ここで、所見を表す特徴ベクトルは、所見の項目に対応するx1~x14の要素を有するものとする。要素x1~x14はそれぞれ吸収値、境界、辺縁、形状、スピキュラ、鋸歯状、気管支透亮像、空洞、石灰化、胸膜陥入、胸膜浸潤、無気肺、位置およびサイズに対応する。要素x1~x14はそれぞれ所見に対応するパラメータを有する。パラメータは所見に応じた値をとる。例えば、吸収値に対応する要素x1のパラメータは、充実型、部分充実型、スリガラス型および該当無のそれぞれに対して0~3の値をとる。境界に対応する要素x2のパラメータは、明瞭、比較的明瞭、不明瞭および該当無のそれぞれに対して0~3の値を取る。辺縁に対応する要素x3のパラメータは、整、やや不整、不整および該当無のそれぞれに対して0~3の値をとる。形状に対応する要素x4のパラメータは、円形、直線、扁平および該当無のそれぞれに対して0~3の値をとる。スピキュラに対応する要素x5のパラメータは、有および無のそれぞれに対して0,1の値をとる。鋸歯状に対応する要素x6のパラメータは、有および無のそれぞれに対して0,1の値をとる。気管支透亮像に対応する要素x7のパラメータは、有および無のそれぞれに対して0,1の値をとる。空洞に対応する要素x8のパラメータは、有および無のそれぞれに対して0,1の値をとる。石灰化に対応する要素x9のパラメータは、有および無のそれぞれに対して0,1の値をとる。胸膜陥入に対応する要素x10のパラメータは、有および無のそれぞれに対して0,1の値をとる。胸膜浸潤に対応する要素x11のパラメータは、有および無のそれぞれに対して0,1の値をとる。無気肺に対応する要素x12のパラメータは、有および無のそれぞれに対して0,1の値をとる。位置に対応する要素x13のパラメータは、左の肺の区域S1~S10のそれぞれに対して0~9、右の肺の区域S1~S10のそれぞれに対して10~18の値をとる。サイズに対応する要素x14のパラメータは、サイズの値をとる。
例えば、図4に示すように、吸収値がスリガラス型、境界が明瞭、辺縁が整、形状が円形、スピキュラが無、鋸歯状が無、気管支透亮像が無、空洞が無、石灰化が無、胸膜陥入が無、胸膜潤が無、無気肺が有、位置が左肺S10、サイズが14mm×13mmであれば、特徴ベクトルC0は、(x1,x2,x3,x4,x5,x6,x7,x8,x9,x10,x11,x12,x13,x14)=(2,0,0,0,1,1,1,1,1,1,1,0,9,14×13)により表される。
文書作成部23は、対象医用画像G0に関する特徴を含む少なくとも1つの読影レポートを医療文書として作成する。このために、文書作成部23は、対象医用画像G0の特徴ベクトルが入力されると、対象医用画像G0の特徴ベクトルに応じた少なくとも1つの表現ベクトルを複数の表現ベクトルから選択し、対象医用画像G0の特徴ベクトルおよび選択された少なくとも1つの表現ベクトルが入力されると、対象医用画像G0に関する特徴を含む少なくとも1つの読影レポートを作成する学習済みモデルM3を有する。
図5は文書作成部23の概略構成を示す図である。図5に示すように文書作成部23は、選択部30および学習済みモデルM3を有する。選択部30は、ストレージ13に保存されている複数の表現ベクトルzi(i=2~n:nは表現ベクトルの数)から、文書作成部23に入力された対象医用画像G0の特徴ベクトルC0に応じた少なくとも1つの表現ベクトルzsを選択する。なお、第1の実施形態においては、1つの表現ベクトルzsを選択するものとする。複数の表現ベクトルziは、学習部26が学習済みモデルM3を生成するために、後述するようにCNNを学習する際に、表現ベクトル生成部25により生成されて、ストレージ13に保存される。以下、表現ベクトルの生成について説明する。
図6は表現ベクトル生成部が行う処理を示す概略ブロック図である。なお、表現ベクトルの生成に際しては、後述するように文書作成部23の学習済みモデルM3を学習するための学習用医用画像GL0の特徴ベクトルCL0および学習用医用画像GL0に関する学習用医療文書TL0が使用される。図7は学習用医用画像の特徴ベクトルの例を示す図、図8は学習用医療文書の例を示す図である。なお、図7においては、特徴ベクトルCL0を所見そのものにより示している。学習用医用画像GL0の特徴ベクトルCL0は、吸収値がスリガラス型、境界が不明瞭、辺縁が整、形状が扁平、スピキュラが有、鋸歯状が無、気管支透亮像が無、空洞が無、石灰化が無、胸膜陥入が有、胸膜潤が無、無気肺が無、位置が右肺S3、サイズが10mm×10mmとなっている。学習用医用画像GL0の特徴ベクトルCL0は、解析部22によって学習用医用画像GL0を解析することにより生成すればよい。
また、図8に示す学習用医療文書TL0は学習用医用画像GL0の特徴ベクトルC0(すなわち所見)に基づいて、予め読影医により作成されたものであり、その内容は、「右肺S3に、境界が不明瞭なスリガラス型の腫瘤が認められます。形状は扁平でスピキュラが見られます。胸膜陥入も認められます。サイズは10mm×10mmです。」となっている。
学習用医用画像の特徴ベクトルCL0および学習用医療文書TL0が入力されると、表現ベクトル生成部25は、学習用医療文書TL0をエンコードする。そして、表現ベクトル生成部25は、エンコードされた学習用医療文書TL0から、特徴ベクトルCL0に関する成分を除去することにより、学習用医療文書TL0の表現を表す表現ベクトルzを生成する。なお、表現ベクトルzは、例えば、文章が能動形か受け身形か、使用される語尾が断定調(である、です等)か推定調か(~と思われる、~と見える、~が認められる等)、文章の長さ、文章において特徴に言及される順序、および同一所見に対して使用される単語(例えば、スリガラス型に対して「スリガラス結節」か「限局性スリガラス影」か)等の要素を含む。
表現ベクトルzの要素は、h1,h2,h3…で表すものとする。要素h1,h2,h3…は、それぞれ文章が能動形か受け身形か、使用される語尾が断定調か推定調か、文章の長さ等を表す。要素h1,h2,h3…は、それぞれ要素の内容に応じた値をとるパラメータを有する。例えば、文章が能動形か受け身形かに対応する要素h1のパラメータは、能動形および受け身形のそれぞれに対して0,1の値をとる。また、使用される語尾が断定調か推定調かに対応する要素h2のパラメータは、断定調および推定調のそれぞれに対して0,1の値をとる。
本実施形態においては、表現ベクトル生成部25は、複数の学習用医用画像および学習用医療文書の組を用いて、複数の表現ベクトルziを生成する。生成された複数の表現ベクトルziは、表現ベクトルziを生成した特徴ベクトルと対応づけられて、ストレージ13に保存される。
複数の表現ベクトルziから表現ベクトルzsを選択するに際し、選択部30は、対象医用画像G0の特徴ベクトルC0と、表現ベクトルziと対応づけられた特徴ベクトルCiとの類似度を導出する。類似度は、特徴ベクトルC0と複数の特徴ベクトルCiとの距離とすればよい。この場合、距離が小さいほど類似度は大きいものとなる。そして、選択部30は、類似度が最も大きい特徴ベクトルに対応づけられた表現ベクトルzsを、複数の表現ベクトルziから選択する。
学習済みモデルM3は、対象医用画像G0および対象医用画像G0に対して選択された表現ベクトルzsが入力されると、対象医用画像G0に関する特徴を含む読影レポートを出力するように、例えばディープラーニング(深層学習)がなされたCNNからなる。学習済みモデルM3を生成するためのCNNは、学習部26により学習される。なお、学習前のCNNが学習モデルに対応する。
学習部26は、学習用医用画像GL0の特徴ベクトルCL0、および学習医用画像GL0に関する学習用医療文書TL0を学習データとして複数使用して、CNNの学習を行う。具体的には、学習部26は、図7に示す特徴ベクトルCL0および図8に示す学習用医療文書TL0が入力されると、学習用医療文書TL0の表現ベクトルzL0を表現ベクトル生成部25に生成させる。そして、学習用医用画像GL0の特徴ベクトルCL0および学習用の表現ベクトルzL0が入力されると、図8に示す学習医療文書TL0を出力するようにCNNの学習を行って学習済みモデルM3を生成する。
本実施形態にける文書作成部23は、上記のように選択部30および学習済みモデルM3を備える。このため、対象医用画像G0の特徴ベクトルC0が図4に示すものである場合、選択部30は特徴ベクトルC0に類似する特徴ベクトルと対応づけられた表現ベクトルzsを、複数の表現ベクトルziから選択する。学習済みモデルM3には、特徴ベクトルC0および選択された表現ベクトルzsが入力される。学習済みモデルM3は、特徴ベクトルC0および表現ベクトルzsが入力されると、対象医用画像G0に関する特徴を含む読影レポートを出力する。
表示制御部24は、文書作成部23が作成した読影レポートを表示するための読影レポート表示画面を表示部14に表示する。図9は第1の実施形態における読影レポート表示画面を示す図である。図9に示すように、読影レポート表示画面40には、対象医用画像G0の表示領域41、および読影レポートを作成するための入力を行う作成領域42を有する。なお、作成領域42には、文書作成部23が図4に示す特徴ベクトルC0に基づいて作成した「左肺S10に円形で境界が明瞭なスリガラス型の吸収値を認めます。サイズは14mm×13mmです。無気肺を認めます。」の読影レポートが挿入されている。また、表示領域41に表示された対象医用画像G0においては、異常陰影の位置に円形のマーク43が付与されている。操作者は、作成領域42に表示された読影レポートの内容を確認し、必要であれば入力部15を用いて読影レポートを修正することができる。
次いで、第1の実施形態において行われる処理について説明する。図10は第1の実施形態において行われる医療文書作成処理を示すフローチャートである。読影レポートの作成の指示が操作者により行われることにより処理が開始され、情報取得部21が読影レポートの作成の対象となる対象医用画像G0を取得する(ステップST1)。次いで、解析部22が対象医用画像G0を解析して、対象医用画像G0の特徴ベクトルC0を生成する(ステップST2)。次いで、文書作成部23の選択部30が、特徴ベクトルC0に応じた表現ベクトルzsを、ストレージ13に記憶された複数の表現ベクトルziから選択する(ステップST3)。そして、文書作成部23の学習済みモデルM3に特徴ベクトルC0および表現ベクトルzsが入力され、対象医用画像G0の特徴を含む読影レポートが作成される(ステップST4)。そして、表示制御部24が、作成された読影レポートを表示部14に表示し(ステップST5)、処理を終了する。
なお、操作者は必要であれば作成された読影レポートを、入力部15からの入力により修正する。その後、操作者が読影レポートを読影レポートサーバ7に送信する指示を読影WS3に対して行うと、読影レポートが対象医用画像G0と対応づけられて読影レポートサーバ7に送信され、保存される。
図11は本実施形態において行われる学習処理を示すフローチャートである。まず、情報取得部21が、学習用医用画像GL0および学習用医用画像GL0について作成された学習用医療文書TL0を取得する(ステップST11)。次いで、解析部22が学習用医用画像GL0を解析して、学習用医用画像GL0の特徴ベクトルCL0を生成する(ステップST12)。そして、表現ベクトル生成部25が、学習用医用画像GL0の特徴ベクトルCL0および学習用医療文書TL0から表現ベクトルzL0を生成し(ステップST13)、特徴ベクトルCL0と表現ベクトルzL0とを対応づけてストレージ13に保存する(ステップST14)。
また、学習部26は、学習用医用画像GL0の特徴ベクトルCL0および表現ベクトルzL0が入力されると、学習用医療文書TL0を出力するようにCNNを学習し(ステップST15)、ステップST11にリターンする。学習部26は、ステップST11~ステップST15までの処理を、複数の学習データについて繰り返す。これにより、複数の表現ベクトルziがストレージ13に記憶され、学習済みモデルM3が生成される。
このように、本実施形態においては、対象医用画像G0の特徴ベクトルC0が入力されると、対象医用画像G0の特徴ベクトルC0に対応する表現ベクトルzsが複数の表現ベクトルziから選択され、対象医用画像G0の特徴ベクトルC0および選択された表現ベクトルzsが文書作成部23の学習済みモデルM3に入力されて、対象医用画像G0に関する特徴を含む読影レポートが作成される。ここで、表現ベクトルzsは、対象医用画像G0の特徴ベクトルC0に応じた表現形式を表すものとなっている。このため、作成された読影レポートは、対象医用画像G0に関する特徴を含み、かつ特徴に応じた表現形式を有するものとなる。したがって、本実施形態によれば、対象医用画像G0に含まれる特徴に応じた表現形式の読影レポートを作成できる。
次いで、本開示の第2の実施形態について説明する。なお、第2の実施形態による医療文書作成装置の構成は、図2に示す第1の実施形態による医療文書作成装置10の構成と同一であり、行われる処理のみが異なるため、ここでは装置についての詳細な説明は省略する。
上記第1の実施形態においては、文書作成部23の選択部30が、対象医用画像G0の特徴ベクトルC0に応じた1つの表現ベクトルzsを選択して、1つの読影レポートを作成していた。第2の実施形態においては、文書作成部23の選択部30が、対象医用画像G0の特徴ベクトルC0に応じた複数の表現ベクトルzsk(k=2~m、mは正の整数)を選択し、文書作成部23が、選択された複数の表現ベクトルzskを用いて、複数の読影レポートを作成するようにした点が第1の実施形態と異なる。
第2の実施形態においては、選択部30は、特徴ベクトルC0に類似する複数の特徴ベクトルCkと対応づけられた複数の表現ベクトルzskを選択する。具体的には、特徴ベクトルC0との距離が予め定められた範囲内にある複数の特徴ベクトルCkと対応づけられた複数の表現ベクトルzskを選択する。なお、特徴ベクトルC0との距離が予め定められた範囲内にある特徴ベクトルが1つしかない場合、距離の範囲を広げて複数の表現ベクトルzskを選択するようにする。
第2の実施形態においては、文書作成部23は、対象医用画像G0の特徴ベクトルC0と選択された複数の表現ベクトルzskのそれぞれとを学習済みモデルM3に入力し、学習済みモデルM3から複数の表現ベクトルzskのそれぞれに対応する読影レポートを出力させることにより、複数の読影レポートを作成する。表示制御部24は、文書作成部23が作成した複数の読影レポートを表示部14に表示する。
図12は、第2の実施形態おける読影レポート表示画面を示す図である。なお、第2の実施形態においては、3つの表現ベクトルzs1~zs3が選択されて、3つの読影レポートが作成されたものとする。図12に示すように読影レポート表示画面50には、対象医用画像G0の表示領域51、および読影レポートを作成するための入力を行う作成領域52を有する。表示領域51に表示された対象医用画像G0においては、異常陰影の位置に円形のマーク53が付与されている。作成領域52の上側には、3つの読影レポートを切り替えるためのタブ55が表示されている。初期状態においては、「1」のタブが選択され、作成領域52には、読影レポート1として、「左肺S10に円形で境界が明瞭なスリガラス型の吸収値を認めます。サイズは14mm×13mmです。無気肺を認めます。」の読影レポートが表示されている。
操作者がタブ55を2に切り替えると、作成領域52には、「境界が明瞭な円形のスリガラス型の吸収値が左肺S10に有り。無気肺有り。サイズは14mm×13mm。」の読影レポート2が表示される。
操作者がタブ55を3に切り替えると、作成領域52には、「サイズが14mm×13mmの異常が左肺S10に見られます。14mm×13mmのサイズで無気肺が有ります。境界は明瞭で円形スリガラス型です。」の読影レポート3が表示される。
第2の実施形態においては、作成領域52には決定ボタン56が表示される。操作者は3つの読影レポートのうちの所望とする読影レポートが表示された状態で、入力部15を用いて決定ボタン56を選択する。これにより、選択した読影レポートが対象医用画像G0と対応づけられて読影レポートサーバ7に送信され、保存される。
なお、上記第2の実施形態においては、複数の読影レポートを切り替え表示しているが、これに限定されるものではない。複数の読影レポートを一度に表示するようにしてもよい。
次いで、本開示の第3の実施形態について説明する。なお、第3の実施形態による医療文書作成装置の構成は、図2に示す第1の実施形態による医療文書作成装置10の構成と同一であり、行われる処理のみが異なるため、ここでは装置についての詳細な説明は省略する。
第3の実施形態においては、上記第1の実施形態において、読影レポート表示画面において、表示されている読影レポートを作成した場合とは異なる表現ベクトルを選択可能とした点が第1の実施形態と異なる。
図13は、第3の実施形態における読影レポート表示画面を示す図である。図13に示すように、読影レポート表示画面40は、第1の実施形態における読影レポート表示画面と同一であるが、決定ボタン45および表現選択ボタン46がさらに表示されている。操作者が入力部15を用いて表現選択ボタン46を選択すると、表示制御部24は図14に示す表現選択ウィンドウ60を表示部14に表示する。表現選択ウィンドウ60には、表現1~3が表示されている。表現1~3は、対象医用画像G0の特徴ベクトルC0との距離が予め定められた範囲にある3つの特徴ベクトルと対応づけられた表現ベクトルのそれぞれに対応する。なお、表現1,2,3の順に特徴ベクトルC0との距離が大きくなる、すなわち類似度が小さくなるものとする。また、第3の実施形態において、読影レポート表示画面40の初期の作成領域42には、特徴ベクトルC0と最も類似する表現ベクトル(すなわち表現1)を用いた読影レポートを表示するものとするが、これに限定されるものではない。
操作者は、表現選択ボタン46を選択し、これにより表示された表現選択ウィンドウ60から所望とする表現を選択することができる。操作者が所望とする表現を選択すると、文書作成部23は、選択された表現に対応する表現ベクトルおよび対象医用画像G0の特徴ベクトルC0を学習済みモデルM3に入力して、選択された表現ベクトルに対応した表現の読影レポートを作成する。表示制御部24は、作成された読影レポートを読影レポート表示画面40に表示する。
第3の実施形態によれば、操作者は、同一所見を有する対象医用画像G0について、異なる表現の読影レポートを確認することができる。
なお、上記第3の実施形態においては、表現選択ウィンドウ60において、3つの表現ベクトルを選択可能としているが、これに限定されるものではない。特徴ベクトルC0と最も類似する特徴ベクトルに対応づけられた表現ベクトル以外に、1以上の表現ベクトルを選択可能であれば、いくつの表現ベクトルを選択可能としてもよい。
なお、上記実施形態においては、読影WS3における医療文書作成装置10の解析部22が、対象医用画像G0を解析して異常陰影を検出して特徴ベクトルを生成しているが、これに限定されるものではない。外部の解析サーバ(不図示)等において解析処理を行うようにしてもよい。この場合、外部の解析サーバ等が取得した特徴ベクトルを情報取得部21が取得するようにし、取得した特徴ベクトルを用いて、読影レポートの作成および学習済みモデルM3の学習を行うようにしてもよい。この場合、医療文書作成装置10には解析部22は不要となる。
また、上記実施形態においては、解析部22が所見を表す特徴ベクトルを生成しているが、これに限定されるものではない。学習済みモデルM1が出力した出力値を特徴ベクトルとして用いてもよい。この場合、複数の表現ベクトルziは、出力値を表す特徴ベクトルと対応づけられて、ストレージ13に保存される。また、表現ベクトル生成部25は、学習用医療文書TL0と出力値を表す特徴ベクトルとに基づいて、表現ベクトルを生成する。すなわち、エンコードされた学習用医療文書TL0から、学習済みモデルM1が出力した出力値の成分を除去することにより、学習用医療文書TL0の表現を表すパラメータを抽出して、表現ベクトルを生成する。
また、上記実施形態において、所見を表す特徴ベクトルおよび学習済みモデルM1が出力した出力値に基づく特徴ベクトルの双方を用いるようにしてもよい。この場合、複数の表現ベクトルziは、所見を表す特徴ベクトルおよび出力値を表す特徴ベクトルとの双方と対応づけられて、ストレージ13に保存される。また、表現ベクトル生成部25は、学習用医療文書TL0と所見および出力値を表す特徴ベクトルとに基づいて、表現ベクトルを生成する。すなわち、エンコードされた学習用医療文書TL0から、学習済みモデルM1が出力した所見および出力値の成分を除去することにより、学習用医療文書TL0の表現を表すパラメータを抽出して、表現ベクトルを生成する。
また、上記実施形態においては、表現ベクトルを特徴ベクトルと対応づけてストレージ13に保存しているが、これに限定されるものではない。特徴ベクトルに対象医用画像の付帯情報を加えた特徴情報と対応づけて表現ベクトルを保存しておいてもよい。ここで、読影レポートは、病院に応じて表現形式のルールが決められている場合がある。この場合、病院に応じて読影レポートの表現形式が異なるものとなる。また、同一病院内においても、診療科が異なると読影レポート作成のための表現形式のルールが異なる場合があり、この場合、診療科に応じて読影レポートの表現形式が異なるものとなる。さらに、医師によっても読影レポートの表現形式が異なる。このため、付帯情報としては、例えば対象医用画像の読影を行う病院を表す情報、病院内の診療科を表す情報、および読影を行う医師を表す情報等、医療文書の作成に際しての表現に関する特徴を特定可能な情報を用いることができる。この場合、特徴情報、すなわち特徴ベクトルと付帯情報との双方に応じた表現ベクトルが複数の表現ベクトルから選択されて、文書作成部23における医療文書の作成に使用されることとなる。
このように、付帯情報をも用いて表現ベクトルを選択することにより、病院、診療科または医師等に応じた表現形式の読影レポートを作成することができる。
また、上記実施形態においては、医療文書作成装置10が、表現ベクトル生成部25および学習部26を備えるものとしているが、これに限定されるものではない。外部の学習装置(不図示)において、CNNの学習を行って学習済みモデルM3を生成するようにしてもよい。この場合、医療文書作成装置10に対して、外部の学習装置により生成された学習済みモデルM3がインストールされることとなる。また、この場合、医療文書作成装置10には表現ベクトル生成部25および学習部26は不要となる。
また、上記実施形態においては、肺における肺結節に関する読影レポートを作成するものとしているが、読影レポートを作成する対象は肺に限定されるものではない。脳、肝臓、心臓および腎臓等の肺以外の診断対象を含む医用画像についての読影レポートを作成する場合にも、本開示の技術を適用することができる。この場合、解析部22の学習済みモデルM1,M2は、診断対象の医用画像についての特徴ベクトルを生成するように学習がなされる。また、文書作成部23の学習済みモデルM3は、診断対象の特徴ベクトルに応じた読影レポートを出力するように学習がなされる。
また、上記実施形態においては、医療文書として読影レポートを作成する際に、本開示の技術を適用しているが、電子カルテおよび診断レポート等の読影レポート以外の医療文書を作成する場合にも、本開示の技術を適用できることはもちろんである。この際、文書作成部23の学習済みモデルM3は、作成する種類の医療文書を学習用医療文書TL0として用いて学習がなされる。また、この場合、作成する医療文書に応じた表現ベクトルが、ストレージ13に保存されることとなる。
また、上記実施形態においては、学習済みモデルM1~M3は、CNNに限定されるものではない。CNNの他、サポートベクタマシン(SVM(Support Vector Machine)、ディープニューラルネットワーク(DNN(Deep Neural Network))およびリカレントニューラルネットワーク(RNN(Recurrent Neural Network))等を用いることができる。
また、上記実施形態において、例えば、情報取得部21、解析部22、文書作成部23、表示制御部24、表現ベクトル生成部25および学習部26といった各種の処理を実行する処理部(Processing Unit)のハードウェア的な構造としては、次に示す各種のプロセッサ(Processor)を用いることができる。上記各種のプロセッサには、上述したように、ソフトウェア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPUに加えて、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device :PLD)、ASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
1つの処理部は、これらの各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせまたはCPUとFPGAとの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。
複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントおよびサーバ等のコンピュータに代表されるように、1つ以上のCPUとソフトウェアとの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)等に代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサの1つ以上を用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造としては、より具体的には、半導体素子等の回路素子を組み合わせた電気回路(Circuitry)を用いることができる。
1 医療情報システム
2 モダリティ
3 読影ワークステーション
4 診療科ワークステーション
5 画像サーバ
6 画像データベース
7 読影レポートサーバ
8 読影レポートデータベース
9 ネットワーク
10 医療文書作成装置
11 CPU
12 メモリ
13 ストレージ
14 表示部
15 入力部
21 情報取得部
22 解析部
23 文書作成部
24 表示制御部
25 表現ベクトル生成部
26 学習部
30 選択部
40、50 読影レポート用表示画面
41、51 表示領域
42、52 作成領域
43、53 マーク
44、54 ウィンドウ
45 決定ボタン
46 表現選択ボタン
55 タブ
56 決定ボタン
60 表現選択ウィンドウ
C0、Ci 特徴ベクトル
CL0 学習用医用画像の特徴ベクトル
z、zs、zi 表現ベクトル
TL0 学習用医療文書
G0 対象医用画像
M1~M3 学習済みモデル

Claims (12)

  1. 学習用医用画像の特徴ベクトル、および学習用医療文書を含む学習データを複数用いることにより、対象医用画像の特徴ベクトルおよび該対象医用画像の該特徴ベクトルを含む特徴情報に応じた表現ベクトルが入力されると、前記対象医用画像に関する特徴を含む医療文書を出力する学習がなされた学習済みモデルを有する文書作成部と、
    複数の前記学習用医用画像のそれぞれの特徴ベクトルに対応する複数の表現ベクトルを記憶する記憶部とを備え、
    前記文書作成部は、前記対象医用画像の特徴ベクトルを含む特徴情報が入力されると、該特徴情報に応じた少なくとも1つの表現ベクトルを、前記記憶部に記憶された前記複数の表現ベクトルから選択し、前記対象医用画像の特徴ベクトルおよび選択された少なくとも1つの表現ベクトルを前記学習済みモデルに入力して、前記対象医用画像に関する特徴を含む少なくとも1つの医療文書を作成する医療文書作成装置。
  2. 前記特徴ベクトルは、前記学習用医用画像および前記対象医用画像に含まれる異常陰影に関する所見を含む請求項1に記載の医療文書作成装置。
  3. 前記対象医用画像を解析して前記特徴ベクトルを生成する解析部をさらに備えた請求項1または2に記載の医療文書作成装置。
  4. 前記少なくとも1つの医療文書を表示部に表示する表示制御部をさらに備えた請求項1から3のいずれか1項に記載の医療文書作成装置。
  5. 前記文書作成部は、前記対象医用画像の特徴情報に応じた複数の表現ベクトルを前記複数の表現ベクトルから選択して、複数の前記医療文書を作成し、
    前記表示制御部は、前記複数の医療文書を前記表示部に表示する請求項4に記載の医療文書作成装置。
  6. 前記複数の医療文書からの特定の医療文書の選択の入力を受け付ける入力部をさらに備えた請求項5に記載の医療文書作成装置。
  7. 前記医療文書の作成に使用された表現ベクトル以外の少なくとも1つの他の表現ベクトルの選択を受け付ける表現ベクトル選択部をさらに備え、
    前記文書作成部は、前記他の表現ベクトルを用いて前記医療文書を生成し、
    前記表示制御部は、前記他の表現ベクトルを用いて前記医療文書を前記表示部に表示する請求項4または5に記載の医療文書作成装置。
  8. 学習用医用画像の特徴ベクトルおよび学習用医療文書を含む学習データを複数取得する情報取得部と、
    前記学習用医療文書をエンコードし、エンコードされた前記学習用医療文書から前記特徴ベクトルに関する成分を除去することにより、前記学習用医療文書の表現を表す表現ベクトルを生成する表現ベクトル生成部と、
    前記特徴ベクトルおよび前記表現ベクトルの入力によって前記学習用医療文書を出力させる学習モデルの学習を、前記複数の学習データを用いて行うことにより、対象医用画像の特徴ベクトルおよび該対象医用画像の該特徴ベクトルを含む特徴情報に応じた表現ベクトルが入力されると、前記対象医用画像に関する特徴を含む医療文書を出力する習済みモデルを生成する学習部を備えた学習装置。
  9. 学習用医用画像の特徴ベクトル、および学習用医療文書を含む学習データを複数用いることにより、対象医用画像の特徴ベクトルおよび該対象医用画像の該特徴ベクトルを含む特徴情報に応じた表現ベクトルが入力されると、前記対象医用画像に関する特徴を含む医療文書を出力する学習がなされた学習済みモデルを有する文書作成部と、
    複数の前記学習用医用画像のそれぞれの特徴ベクトルに対応する複数の表現ベクトルを記憶する記憶部とを備えた医療文書作成装置における医療文書作成方法であって、
    前記対象医用画像の特徴ベクトルを含む特徴情報が入力されると、該特徴情報に応じた少なくとも1つの表現ベクトルを、前記記憶部に記憶された前記複数の表現ベクトルから選択し、前記対象医用画像の特徴ベクトルおよび選択された少なくとも1つの表現ベクトルを前記学習済みモデルに入力して、前記対象医用画像に関する特徴を含む少なくとも1つの医療文書を作成する医療文書作成方法。
  10. コンピュータが、学習用医用画像の特徴ベクトルおよび学習用医療文書を含む学習データを複数取得し、
    前記学習用医療文書をエンコードし、エンコードされた前記学習用医療文書から前記特徴ベクトルに関する成分を除去することにより、前記学習用医療文書の表現を表す表現ベクトルを生成し、
    前記特徴ベクトルおよび前記表現ベクトルの入力によって前記学習用医療文書を出力させる学習モデルの学習を、前記複数の学習データを用いて行うことにより、対象医用画像の特徴ベクトルおよび該対象医用画像の該特徴ベクトルを含む特徴情報に応じた表現ベクトルが入力されると、前記対象医用画像に関する特徴を含む医療文書を出力する習済みモデルを生成する学習方法。
  11. 学習用医用画像の特徴ベクトル、および学習用医療文書を含む学習データを複数用いることにより、対象医用画像の特徴ベクトルおよび該対象医用画像の該特徴ベクトルを含む特徴情報に応じた表現ベクトルが入力されると、前記対象医用画像に関する特徴を含む医療文書を出力する学習がなされた学習済みモデルを有する文書作成部と、
    複数の前記学習用医用画像のそれぞれの特徴ベクトルに対応する複数の表現ベクトルを記憶する記憶部とを備えた医療文書作成装置における医療文書作成方法をコンピュータに実行させる医療文書作成プログラムであって、
    前記対象医用画像の特徴ベクトルを含む特徴情報が入力されると、該特徴情報に応じた少なくとも1つの表現ベクトルを、前記記憶部に記憶された前記複数の表現ベクトルから選択し、前記対象医用画像の特徴ベクトルおよび選択された少なくとも1つの表現ベクトルを前記学習済みモデルに入力して、前記対象医用画像に関する特徴を含む少なくとも1つの医療文書を作成する手順をコンピュータに実行させる医療文書作成プログラム。
  12. 学習用医用画像の特徴ベクトルおよび学習用医療文書を含む学習データを複数取得する手順と、
    前記学習用医療文書をエンコードし、エンコードされた前記学習用医療文書から前記特徴ベクトルに関する成分を除去することにより、前記学習用医療文書の表現を表す表現ベクトルを生成する手順と、
    前記特徴ベクトルおよび前記表現ベクトルの入力によって前記学習用医療文書を出力させる学習モデルの学習を、前記複数の学習データを用いて行うことにより、対象医用画像の特徴ベクトルおよび該対象医用画像の該特徴ベクトルを含む特徴情報に応じた表現ベクトルが入力されると、前記対象医用画像に関する特徴を含む医療文書を出力する習済みモデルを生成する手順をコンピュータに実行させる学習プログラム。
JP2021522916A 2019-05-31 2020-05-29 医療文書作成装置、方法およびプログラム、学習装置、方法およびプログラム、並びに学習済みモデル Active JP7299314B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019102059 2019-05-31
JP2019102059 2019-05-31
PCT/JP2020/021431 WO2020241857A1 (ja) 2019-05-31 2020-05-29 医療文書作成装置、方法およびプログラム、学習装置、方法およびプログラム、並びに学習済みモデル

Publications (3)

Publication Number Publication Date
JPWO2020241857A1 JPWO2020241857A1 (ja) 2020-12-03
JPWO2020241857A5 JPWO2020241857A5 (ja) 2022-02-16
JP7299314B2 true JP7299314B2 (ja) 2023-06-27

Family

ID=73553195

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021522916A Active JP7299314B2 (ja) 2019-05-31 2020-05-29 医療文書作成装置、方法およびプログラム、学習装置、方法およびプログラム、並びに学習済みモデル

Country Status (4)

Country Link
US (1) US20220076796A1 (ja)
EP (1) EP3977916A4 (ja)
JP (1) JP7299314B2 (ja)
WO (1) WO2020241857A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018206082A (ja) 2017-06-05 2018-12-27 キヤノン株式会社 情報処理装置、情報処理システム、情報処理方法及びプログラム
JP2019008349A (ja) 2017-06-20 2019-01-17 富士フイルム株式会社 学習データ生成支援装置および学習データ生成支援方法並びに学習データ生成支援プログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4649405B2 (ja) 2004-06-07 2011-03-09 株式会社日立メディコ 構造化文書作成方法ならびに装置
JP5145751B2 (ja) 2007-04-06 2013-02-20 コニカミノルタエムジー株式会社 医療用の情報処理システム
JP5486364B2 (ja) * 2009-09-17 2014-05-07 富士フイルム株式会社 読影レポート作成装置および方法並びにプログラム
JP2016133821A (ja) * 2015-01-15 2016-07-25 キヤノン株式会社 情報処理装置、情報処理方法およびプログラム
US10140421B1 (en) * 2017-05-25 2018-11-27 Enlitic, Inc. Medical scan annotator system

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018206082A (ja) 2017-06-05 2018-12-27 キヤノン株式会社 情報処理装置、情報処理システム、情報処理方法及びプログラム
JP2019008349A (ja) 2017-06-20 2019-01-17 富士フイルム株式会社 学習データ生成支援装置および学習データ生成支援方法並びに学習データ生成支援プログラム

Also Published As

Publication number Publication date
WO2020241857A1 (ja) 2020-12-03
JPWO2020241857A1 (ja) 2020-12-03
EP3977916A1 (en) 2022-04-06
EP3977916A4 (en) 2022-08-03
US20220076796A1 (en) 2022-03-10

Similar Documents

Publication Publication Date Title
JP2019153250A (ja) 医療文書作成支援装置、方法およびプログラム
US20190295248A1 (en) Medical image specifying apparatus, method, and program
US11139067B2 (en) Medical image display device, method, and program
US11093699B2 (en) Medical image processing apparatus, medical image processing method, and medical image processing program
US20220028510A1 (en) Medical document creation apparatus, method, and program
JP7237089B2 (ja) 医療文書作成支援装置、方法およびプログラム
WO2019193982A1 (ja) 医療文書作成支援装置、医療文書作成支援方法、及び医療文書作成支援プログラム
US11984207B2 (en) Medical document creation support apparatus, method, and program
WO2021157705A1 (ja) 文書作成支援装置、方法およびプログラム
US11923069B2 (en) Medical document creation support apparatus, method and program, learned model, and learning apparatus, method and program
JP7109345B2 (ja) 優先度判定装置、方法およびプログラム
US20230005580A1 (en) Document creation support apparatus, method, and program
US20220392619A1 (en) Information processing apparatus, method, and program
US11978274B2 (en) Document creation support apparatus, document creation support method, and document creation support program
WO2021193548A1 (ja) 文書作成支援装置、方法およびプログラム
JP7299314B2 (ja) 医療文書作成装置、方法およびプログラム、学習装置、方法およびプログラム、並びに学習済みモデル
JP7504987B2 (ja) 情報処理装置、情報処理方法及び情報処理プログラム
WO2022196106A1 (ja) 文書作成装置、方法およびプログラム
WO2021172477A1 (ja) 文書作成支援装置、方法およびプログラム
US20230360213A1 (en) Information processing apparatus, method, and program
JP7376715B2 (ja) 経過予測装置、経過予測装置の作動方法および経過予測プログラム
WO2022239593A1 (ja) 文書作成支援装置、文書作成支援方法、及び文書作成支援プログラム
JP7483018B2 (ja) 画像処理装置、画像処理方法及びプログラム、画像処理システム
US20230225681A1 (en) Image display apparatus, method, and program
WO2022215530A1 (ja) 医用画像装置、医用画像方法、及び医用画像プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211118

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230516

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230615

R150 Certificate of patent or registration of utility model

Ref document number: 7299314

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150