JP7431317B2 - 文書作成支援装置、方法およびプログラム - Google Patents

文書作成支援装置、方法およびプログラム Download PDF

Info

Publication number
JP7431317B2
JP7431317B2 JP2022508379A JP2022508379A JP7431317B2 JP 7431317 B2 JP7431317 B2 JP 7431317B2 JP 2022508379 A JP2022508379 A JP 2022508379A JP 2022508379 A JP2022508379 A JP 2022508379A JP 7431317 B2 JP7431317 B2 JP 7431317B2
Authority
JP
Japan
Prior art keywords
area
description
image
images
document creation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022508379A
Other languages
English (en)
Other versions
JPWO2021187483A1 (ja
JPWO2021187483A5 (ja
Inventor
陽平 桃木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2021187483A1 publication Critical patent/JPWO2021187483A1/ja
Publication of JPWO2021187483A5 publication Critical patent/JPWO2021187483A5/ja
Application granted granted Critical
Publication of JP7431317B2 publication Critical patent/JP7431317B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H15/00ICT specially adapted for medical reports, e.g. generation or transmission thereof
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/02Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/03Computed tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/30ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Biomedical Technology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Data Mining & Analysis (AREA)
  • Pathology (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Databases & Information Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Optics & Photonics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Biophysics (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Description

本開示は、文書作成支援装置、方法およびプログラムに関する。
近年、CT(Computed Tomography)装置およびMRI(Magnetic Resonance Imaging)装置等の医療機器の進歩により、より質の高い高解像度の医用画像を用いた画像診断が可能となってきている。とくに、CT画像およびMRI画像等を用いた画像診断により、病変の領域の特定および解析を精度よく行うことができるため、適切な治療を実施できるようになってきている。
また、ディープラーニング等により機械学習がなされた学習モデルを用いたCAD(Computer-Aided Diagnosis)により医用画像を解析して、医用画像に含まれる異常陰影等の関心構造の形状、濃度、位置および大きさ等の性状を判別し、これらを解析結果として取得することも行われている。CADにより取得された解析結果は、患者名、性別、年齢および医用画像を取得したモダリティ等の検査情報と対応づけられて、データベースに保存される。医用画像および解析結果は、医用画像の読影を行う読影医の端末に送信される。読影医は、自身の端末において、送信された医用画像および解析結果を参照して医用画像の読影を行い、読影レポートを作成する。
一方、上述したCT装置およびMRI装置の高性能化に伴い、読影を行う医用画像の数も増大している。しかしながら、読影医の数は医用画像の数に追いついていないことから、読影医の読影業務の負担を軽減することが望まれている。このため、読影レポート等の医療文書の作成を支援するための各種手法が提案されている。例えば、特開2019-153250号公報には、読影医が入力したキーワードおよび医用画像の解析結果に含まれる、関心構造の性状を表す情報(以下、性状情報とする)に基づいて、読影レポートに記載するための文章を自動で生成する手法が提案されている。特開2019-153250号公報に記載された手法においては、入力された性状情報を表す文字から文章を生成するように学習が行われたリカレントニューラルネットワーク等の機械学習がなされた学習モデルを用いて、医療用の文章(以下、医療文章とする)が作成される。特開2019-153250号公報に記載された手法のように、医療文章を自動で生成することにより、読影レポート等の医療文書を作成する際の読影医の負担を軽減することができる。
ところで、患者の経過観察を行う際には、患者の最新の医用画像に基づく読影レポートを作成する際に、過去の医用画像の読影レポートを参照することが多い。このような過去の読影レポートの参照を容易に行うために、同一患者の過去画像を特定し、過去画像に対応づけられた所見情報を取得する手法が提案されている(特開207-204041号公報参照)。また、同一患者についての同一部位の過去画像が存在する場合、その部位についての現在の画像と過去の画像を同時に表示し、さらにその領域についての所見情報が存在する場合にその所見情報を送信する手法が提案されている(特開2011-024622号公報参照)。また、現在の医用画像についての読影レポートと、過去の医用画像についての読影レポートとを同時に表示する手法が提案されている(特開2017-189390号公報参照)。
一方、ある患者の医用画像に含まれる異常陰影についての所見を記述した読影レポートを作成する場合において、同一患者の過去画像および対応する所見を記述した読影レポート等の文章が複数存在する場合がある。このような場合、過去画像についての読影レポート等の文章を参照できれば、現在の医用画像に含まれる異常陰影についての所見を含む読影レポートを効率よく作成することができる。
本開示は上記事情に鑑みなされたものであり、撮影時期が異なる画像が複数ある場合に、その画像についての文章を効率よく参照できるようにすることを目的とする。
本開示による文書作成支援装置は、少なくとも1つのプロセッサを備え、
プロセッサは、
被写体の第1の画像において特定された第1の領域に関して、第1の画像と撮影時期が異なる被写体の複数の第2の画像のそれぞれにおいて、第1の領域に対応する第2の領域を特定し、
複数の第2の画像のそれぞれに関連する複数の文章に含まれる、特定された第2の領域に関する第2の記述を特定し、
複数の第2の画像のそれぞれについて特定した複数の第2の記述を、切り替え可能に表示するように構成される。
なお、本開示による文書作成支援装置においては、プロセッサは、第1の領域に関する文章を記述するための記述領域をさらに表示するように構成されるものであってもよい。
また、本開示による文書作成支援装置においては、プロセッサは、記述領域に複数の第2の記述のうちの少なくとも1つを転記するように構成されるものであってもよい。
また、本開示による文書作成支援装置においては、プロセッサは、第1の領域を解析して、第1の領域に関する第1の記述を生成し、
第1の記述を記述領域に表示するように構成されるものであってもよい。
また、本開示による文書作成支援装置においては、プロセッサは、第1の記述に含まれる第1の領域に関する性状と、複数の第2の画像のそれぞれについて特定した第2の記述に含まれる第2の領域に関する性状との相違を導出し
第1の記述に含まれる性状と第2の記述に含まれる性状との相違を視認可能に表示するように構成されるものであってもよい。
また、本開示による文書作成支援装置においては、プロセッサは、第1の領域と第2の領域との相違を導出するように構成されるものであってもよい。
また、本開示による文書作成支援装置においては、プロセッサは、相違が導出された場合に、第2の記述を表示するように構成されるものであってもよい。
また、本開示による文書作成支援装置においては、プロセッサは、相違が導出されなかった場合に、相違が導出されなかったことを通知するように構成されるものであってもよい。
本開示による文書作成支援方法は、被写体の第1の画像において特定された第1の領域に関して、第1の画像と撮影時期が異なる被写体の複数の第2の画像のそれぞれにおいて、第1の領域に対応する第2の領域を特定し、
複数の第2の画像のそれぞれに関連する複数の文章に含まれる、特定された第2の領域に関する第2の記述を特定し、
複数の第2の画像のそれぞれについて特定した複数の第2の記述を、切り替え可能に表示する。
なお、本開示による文書作成支援方法をコンピュータに実行させるためのプログラムとして提供してもよい。
本開示によれば、撮影時期が異なる画像が複数ある場合に、その画像についての文章を効率よく参照できる。
本開示の第1の実施形態による文書作成支援装置を適用した医療情報システムの概略構成を示す図 第1の実施形態による文書作成支援装置の概略構成を示す図 第1の実施形態による文書作成支援装置の機能構成図 第1の医用画像および第2の医用画像を示す図 性状情報の例を説明するための図 第2の記述の特定を説明するための図 第1の実施形態における表示画面を示す図 第1の実施形態における表示画面を示す図 第1の実施形態における表示画面を示す図 第1の実施形態において行われる処理を示すフローチャート 第2の実施形態による文書作成支援装置の機能構成図 リカレントニューラルネットワークの模式的な構成を示す図 第2の実施形態における表示画面を示す図 第2の実施形態において行われる処理を示すフローチャート 第3の実施形態による文書作成支援装置の機能構成図 第3の実施形態における表示画面を示す図 第3の実施形態において行われる処理を示すフローチャート 第4の実施形態による文書作成支援装置の機能構成図 第1の領域と第2の領域との相違を説明するための図 第4の実施形態における表示画面を示す図 第4の実施形態において行われる処理を示すフローチャート
以下、図面を参照して本開示の実施形態について説明する。まず、本実施形態による文書作成支援装置を適用した医療情報システム1の構成について説明する。図1は、医療情報システム1の概略構成を示す図である。図1に示す医療情報システム1は、公知のオーダリングシステムを用いた診療科の医師からの検査オーダに基づいて、被写体の検査対象部位の撮影、撮影により取得された医用画像の保管、読影医による医用画像の読影と読影レポートの作成、および依頼元の診療科の医師による読影レポートの閲覧と読影対象の医用画像の詳細観察とを行うためのシステムである。
図1に示すように、医療情報システム1は、複数の撮影装置2、読影端末である複数の読影WS(WorkStation)3、診療WS4、画像サーバ5、画像データベース(以下、画像DB(DataBase)とする)6、レポートサーバ7およびレポートデータベース(以下レポートDBとする)8が、有線または無線のネットワーク10を介して互いに通信可能な状態で接続されて構成されている。
各機器は、医療情報システム1の構成要素として機能させるためのアプリケーションプログラムがインストールされたコンピュータである。アプリケーションプログラムは、DVD(Digital Versatile Disc)およびCD-ROM(Compact Disc Read Only Memory)等の記録媒体に記録されて配布され、その記録媒体からコンピュータにインストールされる。または、ネットワーク10に接続されたサーバコンピュータの記憶装置、若しくはネットワークストレージに、外部からアクセス可能な状態で記憶され、要求に応じてコンピュータにダウンロードされ、インストールされる。
撮影装置2は、被写体の診断対象となる部位を撮影することにより、診断対象部位を表す医用画像を生成する装置(モダリティ)である。具体的には、単純X線撮影装置、CT装置、MRI装置、およびPET(Positron Emission Tomography)装置等である。撮影装置2により生成された医用画像は画像サーバ5に送信され、画像DB6に保存される。
読影WS3は、例えば放射線科の読影医が、医用画像の読影および読影レポートの作成等に利用するコンピュータであり、本実施形態による文書作成支援装置20を内包する。読影WS3では、画像サーバ5に対する医用画像の閲覧要求、画像サーバ5から受信した医用画像に対する各種画像処理、医用画像の表示、および医用画像に関する所見文の入力受け付け等が行われる。また、読影WS3では、医用画像および入力された所見文に対する解析処理、解析結果に基づく読影レポートの作成の支援、レポートサーバ7に対する読影レポートの登録要求と閲覧要求、およびレポートサーバ7から受信した読影レポートの表示が行われる。これらの処理は、読影WS3が各処理のためのソフトウェアプログラムを実行することにより行われる。
診療WS4は、診療科の医師が、画像の詳細観察、読影レポートの閲覧、および電子カルテの作成等に利用するコンピュータであり、処理装置、ディスプレイ等の表示装置、並びにキーボードおよびマウス等の入力装置により構成される。診療WS4では、画像サーバ5に対する画像の閲覧要求、画像サーバ5から受信した画像の表示、レポートサーバ7に対する読影レポートの閲覧要求、およびレポートサーバ7から受信した読影レポートの表示が行われる。これらの処理は、診療WS4が各処理のためのソフトウェアプログラムを実行することにより行われる。
画像サーバ5は、汎用のコンピュータにデータベース管理システム(DataBase Management System: DBMS)の機能を提供するソフトウェアプログラムがインストールされたものである。また、画像サーバ5は画像DB6が構成されるストレージを備えている。このストレージは、画像サーバ5とデータバスとによって接続されたハードディスク装置であってもよいし、ネットワーク10に接続されているNAS(Network Attached Storage)およびSAN(Storage Area Network)に接続されたディスク装置であってもよい。また、画像サーバ5は、撮影装置2からの医用画像の登録要求を受け付けると、その医用画像をデータベース用のフォーマットに整えて画像DB6に登録する。なお、本実施形態においては、疾患に応じた診断ガイドラインも画像サーバ5に保存されているものとするが、これに限定されるものではない。
画像DB6には、撮影装置2において取得された医用画像の画像データと付帯情報とが登録される。付帯情報には、例えば、個々の医用画像を識別するための画像ID(identification)、被写体を識別するための患者ID、検査を識別するための検査ID、医用画像毎に割り振られるユニークなID(UID:unique identification)、医用画像が生成された検査日、検査時刻、医用画像を取得するための検査で使用された撮影装置の種類、患者氏名、年齢、性別等の患者情報、検査部位(撮影部位)、撮影情報(撮影プロトコル、撮影シーケンス、撮像手法、撮影条件、造影剤の使用等)、1回の検査で複数の医用画像を取得した場合のシリーズ番号あるいは採取番号等の情報が含まれる。
また、画像サーバ5は、読影WS3および診療WS4からの閲覧要求をネットワーク10経由で受信すると、画像DB6に登録されている医用画像を検索し、検索された医用画像を要求元の読影WS3および診療WS4に送信する。
レポートサーバ7には、汎用のコンピュータにデータベース管理システムの機能を提供するソフトウェアプログラムが組み込まれる。レポートサーバ7は、読影WS3からの読影レポートの登録要求を受け付けると、その読影レポートをデータベース用のフォーマットに整えてレポートDB8に登録する。
レポートDB8には、読影医が読影WS3を用いて作成した所見文を少なくとも含む読影レポートが登録される。読影レポートは、例えば、読影対象の医用画像、医用画像を識別する画像ID、読影を行った読影医を識別するための読影医ID、病変名、病変の位置情報、特定領域を含む医用画像にアクセスするための情報、および性状情報等の情報を含んでいてもよい。
また、レポートサーバ7は、読影WS3および診療WS4からの読影レポートの閲覧要求をネットワーク10経由で受信すると、レポートDB8に登録されている読影レポートを検索し、検索された読影レポートを要求元の読影WS3および診療WS4に送信する。
なお、本実施形態においては、医用画像は診断対象を肺とした、複数の断層画像からなる3次元のCT画像とし、読影WS3においてCT画像を読影することにより、肺に含まれる異常陰影についての読影レポートを作成するものとする。なお、医用画像はCT画像に限定されるものではなく、MRI画像および単純X線撮影装置により取得された単純2次元画像等の任意の医用画像を用いることができる。
ネットワーク10は、病院内の各種機器を接続する有線または無線のローカルエリアネットワークである。読影WS3が他の病院あるいは診療所に設置されている場合には、ネットワーク10は、各病院のローカルエリアネットワーク同士をインターネットまたは専用回線で接続した構成としてもよい。
次いで、本開示の第1の実施形態による文書作成支援装置について説明する。図2は、第1の実施形態による文書作成支援装置のハードウェア構成を説明する。図2に示すように、文書作成支援装置20は、CPU(Central Processing Unit)11、不揮発性のストレージ13、および一時記憶領域としてのメモリ16を含む。また、文書作成支援装置20は、液晶ディスプレイ等のディスプレイ14、キーボードとマウス等の入力デバイス15、およびネットワーク10に接続されるネットワークI/F(InterFace)17を含む。CPU11、ストレージ13、ディスプレイ14、入力デバイス15、メモリ16およびネットワークI/F17は、バス18に接続される。なお、CPU11は、本開示におけるプロセッサの一例である。
ストレージ13は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、およびフラッシュメモリ等によって実現される。記憶媒体としてのストレージ13には、文書作成支援プログラム12が記憶される。CPU11は、ストレージ13から文書作成支援プログラムを読み出してからメモリ16に展開し、展開した文書作成支援プログラム12を実行する。
次いで、第1の実施形態による文書作成支援装置の機能的な構成を説明する。図3は、第1の実施形態による文書作成支援装置の機能的な構成を示す図である。図3に示すように、第1の実施形態による文書作成支援装置20は、取得部21、領域特定部22、記述特定部23、表示制御部24、保存制御部25および通信部26を備える。そして、CPU11が、文書作成支援プログラムを実行することにより、CPU11は、取得部21、領域特定部22、記述特定部23、表示制御部24、保存制御部25および通信部26として機能する。
取得部21は、操作者である読影医による入力デバイス15からの指示により、画像サーバ5から読影レポートを作成するための第1の医用画像G1を取得する。また、取得部21は、第1の医用画像G1を取得した患者についての、第1の医用画像G1よりも撮影時期が前の複数の第2の医用画像G2-i(i=2~n、nは第2の医用画像の数であり、nが大きいほど撮影時期が古い)を、画像サーバ5から取得する。また、取得部21は、レポートサーバ7から、複数の第2の医用画像G2-iについての読影レポートR2-iを取得する。取得した第1の医用画像G1および第2の医用画像G2-i、並びに読影レポートR2-iは、ストレージ13に保存される。
領域特定部22は、被写体の第1の医用画像G1において特定された第1の領域に関して、複数の第2の医用画像のそれぞれにおいて、第1の領域に対応する第2の領域を特定する。このために、領域特定部22は、医用画像に含まれる肺についての異常陰影を検出するように学習がなされた学習モデル22Aを有する。
学習モデル22Aは、例えば医用画像における各画素(ボクセル)が異常陰影を表すものであるか否かを判別するように、教師データを用いてディープラーニング(深層学習)がなされた畳み込みニューラルネットワーク(CNN(Convolutional Neural Network))からなる。
学習モデル22Aは、例えば、異常陰影を含む医用画像と、その医用画像における異常陰影の位置を表す正解データの組み合わせを教師データとして用いた機械学習によって構築される。学習モデル22Aは、医用画像が入力されると、入力された医用画像に各画素が異常陰影であることのスコアを出力する。スコアは、医用画像における異常陰影の顕著性を示すスコアである。スコアは例えば0以上1以下の値をとり、スコアの値が大きい程、その異常陰影である可能性が高いことを示す。そして、学習モデル22Aは、スコアが予め定められたしきい値(例えば0.5)以上となる画素を異常陰影の画素として抽出する。
領域特定部22は、学習モデル22Aにより、第1の医用画像G1における異常陰影の領域を第1の領域A1として特定する。なお、異常陰影が複数特定される場合があるが、ここでは説明のために第1の医用画像G1において1つの第1の領域A1が特定されたものとする。
領域特定部22は、第1の医用画像G1において特定した第1の領域A1に対応する第2の領域A2-iを、複数の第2の医用画像G2-iのそれぞれにおいて特定する。この際、領域特定部22は、複数の医用画像G2-iのそれぞれについて学習モデル22Aにより第2の領域A2-iを特定すればよい。また、第2の医用画像G2-iについては、異常陰影がすでに特定されており、特定した異常陰影の位置を表す情報が第2の医用画像G2-iと併せて画像サーバ5に保存されている場合がある。このような場合は、取得部21により、第2の医用画像G2-iと併せて、異常陰影の位置を表す情報を取得し、その情報を用いて第2の医用画像G2-iにおける第2の領域A2-iを特定するようにしてもよい。
図4は医用画像において特定された領域を示す図である。図4に示すように、第1の医用画像G1においては、第1の領域A1が特定されている。また、2つの第2の医用画像G2-1,G2-2においては、それぞれ第2の領域A2-1,A2-2が特定されている。なお、図4に示すように、第1の医用画像G1および第2の医用画像G2-1,G2-2において、撮影時期が新しいほど特定された領域が大きくなっている。
記述特定部23は、複数の第2の医用画像G2-iのそれぞれに関連する複数の文章における、特定された第2の領域A2-iに関する第2の記述を特定する。本実施形態においては、複数の第2の医用画像G2-iのそれぞれに対して読影レポートR2-iが作成されており、取得部21により取得されてストレージ13に保存されている。記述特定部23は、複数の第2の医用画像G2-iのそれぞれについて、対応する読影レポートR2-iに含まれる複数の記述のうち、第2の領域A2-iに関する第2の記述を特定する。このために、記述特定部23は、医用画像に含まれる異常陰影についての性状を、予め定められた複数の性状項目のそれぞれについて判別するように学習がなされた学習モデル23Aを有する。
ここで、異常陰影について特定される性状項目の例として、異常陰影の場所、異常陰影のサイズ、境界の形状(明瞭および不整形)、吸収値の種類(充実型およびスリガラス型)、スピキュラの有無、腫瘤か結節か、胸膜接触の有無、胸膜陥入の有無、胸膜浸潤の有無、空洞の有無、および石灰化の有無等が挙げられる。
本実施形態においては、学習モデル23Aは、医用画像における異常陰影の性状を判別するように、教師データを用いてディープラーニング(深層学習)がなされた畳み込みニューラルネットワークからなる。
学習モデル23Aは、例えば、異常陰影を含む医用画像と、異常陰影の性状を表す性状ラベルとの複数の組み合わせを教師データとして用いた機械学習によって学習される。学習モデル23Aは、医用画像が入力されると、医用画像に含まれる異常陰影における、性状項目毎に導出される性状スコアを出力する。性状スコアは、各性状項目についての性状の顕著性を示すスコアである。性状スコアは例えば0以上1以下の値をとり、性状スコアの値が大きい程、その性状が顕著であることを示す。
例えば異常陰影の性状項目の1つである「スピキュラの有無」についての性状スコアが例えば0.5以上である場合、異常陰影の「スピキュラの有無」についての性状が「スピキュラ有り(陽性)」であることを特定し、「スピキュラの有無」についての性状スコアが例えば0.5未満である場合、異常陰影のスピキュラの有無についての性状が「スピキュラ無し(陰性)」であることを特定する。なお、性状判定に用いるしきい値0.5は、例示に過ぎず、性状項目毎に適切な値に設定される。
図5は記述特定部23が特定した性状情報の例を説明するための図である。図5に示すように記述特定部23が特定した性状情報30においては、各性状項目についての性状は、「左肺胸膜下」、「4.2cm」、「不整形」、「充実型」、「スピキュラ有」、「腫瘤」、「胸膜接触有」、「胸膜陥入有」、「胸膜浸潤無」、「空洞無」および「石灰化無」となっている。図5においては、「有り」すなわち陽性の場合は+、「無し」すなわち陰性の場合は-を付与している。
さらに、記述特定部23は、第2の領域A2-iについて抽出した性状情報30に基づいて、読影レポートR2-iに含まれる、第2の領域A2-iに関する第2の記述D2-iを特定する。
図6は、第2の記述の特定を説明するための図である。なお、図6においては、1つの第2の医用画像G2-1についての第2の記述の抽出について説明する。図6に示すように、第2の医用画像G2-1についての読影レポートR2-1は、複数の場所に存在する複数の異常陰影についての複数の記述を含む。一方、第2の医用画像G2-1に含まれる第2の領域A2-1についての性状情報31は「腫瘤、空洞有」である。このため、記述特定部23は、読影レポートR2-iに含まれる複数の記述のうち、性状情報31に関連する「右肺S6の腫瘤影は6.5×4cm程度で、増大しています。腫瘤の中心部の空洞も前回より拡大しています。」の記述を、第2の記述D2-1に特定する。
なお、本実施形態においては、複数の第2の医用画像G2-iおよび複数の第2の医用画像G2-iのそれぞれについての複数の第2の読影レポートR2-iが取得されている。このため、記述特定部23は、複数の第2の読影レポートR2-iのそれぞれから、第2の領域A2-iのそれぞれに関する第2の記述D2-iを特定する。なお、1つの読影レポートR2-iにおいて、1つの第2の記述のみならず、複数の第2の記述D2-iが特定される場合もあるものとする。
なお、学習モデル23Aとしては、畳み込みニューラルネットワークの他、例えばサポートベクタマシンおよびリカレントニューラルネットワーク等の任意の学習モデルを用いることができる。
また、記述特定部23は、学習モデル23Aにより記述を特定するものに限定されるものではない。腫瘤のサイズ、および診断ガイドラインに含まれる項目をキーワードとして、第2の読影レポートR2-iを検索することにより、第2の記述D2-iを特定するものであってもよい。
表示制御部24は、複数の第2の医用画像G2-iのそれぞれについて特定した複数の第2の記述D2-iを、ディスプレイ14に切り替え可能に表示する。図7は第1の実施形態における表示画面を示す図である。図7に示すように、表示画面50は、画像表示領域51および文章表示領域52を含む。画像表示領域51には、第1の医用画像G1が表示され、第1の医用画像G1の下方に複数の第2の医用画像G2-iが切り替え可能に表示される。図7においては、図4に示す第2の医用画像G2-1が表示されている。また、第1の医用画像G1および第2の医用画像G2-iの上方には、各医用画像の撮影日時が表示される。第1の医用画像G1および第2の医用画像G2-iの下方には、第1の医用画像G1について表示される断層画像を切り替えるための第1の切り替えボタン53A,53Bが表示されている。
第2の医用画像G2-iの切り替え表示は、後述する第2の切り替えボタン56A,56Bを選択することにより行うことができる。
文章表示領域52には、第1の医用画像G1についての読影レポートを記述するための第1の記述領域54、および画像表示領域51に表示中の第2の医用画像G2-iについての第2の記述D2-iを表示するための第2の記述領域55を有する。第2の記述領域55には、第2の医用画像G2-iについての第2の記述D2-iが切り替え可能に表示される。なお、図7においては、第2の記述領域55には、第2の医用画像G2-1についての第2の記述D2-1が表示されている。
第2の記述D2-iの切り替え表示は、文章表示領域52の下方に表示された切り替えボタン56A,56Bを選択することにより行うことができる。また、これに連動して、画像表示領域51に表示される第2の医用画像G2-iも切り替えられる。すなわち、左向きの切り替えボタン56Aを選択することにより、画像表示領域51に表示される第2の医用画像G2-iの撮影日時が新しくなり、かつ第2の記述領域55に表示される第2の記述D2-iが表示された第2の医用画像G2-iに対応したものとなる。また、右向きの切り替えボタン56Bを選択することにより、画像表示領域51に表示される第2の医用画像G2-iの撮影日時が古くなり、かつ第2の記述領域55に表示される第2の記述D2-iが表示された第2の医用画像G2-iに対応したものとなる。
図8は、第2の記述が切り替えられた表示画面を示す図である。図8に示すように、第2の記述領域55には第2の記述D2-1に代えて、第2の記述D2-2が表示され、画像表示領域51の下側の領域には、第2の医用画像G2-1に代えて第2の医用画像G2-2が表示されている。
なお、初期状態においては、撮影日時が最も新しい第2の医用画像G2-1および第2の医用画像G2-1についての第2の記述D2-1が表示されるものとする。
読影医は、画像表示領域51に表示された第2の医用画像G2-iおよび文章表示領域52に表示された第2の記述D2-iを参考に、第1の記述領域54に、第1の医用画像G1についての所見を記述する。そして、所見を記述した後、確定ボタン57を選択する。
ここで、図7および図8においては、第1の記述領域54には初期状態において何も記述されていない。しかしながら、図9に示すように、初期状態で表示された第2の医用画像G2-1についての第2の記述D2-1を第1の記述領域54に転記しておいてもよい。この場合、表示される第2の記述D2-iが切り替え表示されると、第1の記述領域54に転記される記述も切り替えるようにしてもよい。これにより、第1の医用画像G1についての所見文を生成する際に、第2の記述D2-1を転用することが容易となるため、第1の医用画像G1についての所見文の作成を容易に行うことができる。
保存制御部25は、操作者による確定ボタン57の選択により、第1の記述領域54に記述された所見文を含む読影レポート、および読影レポートを生成する際に参照した第1の医用画像G1を併せて、ストレージ13に保存する。
通信部26は、第1の記述領域54に記述された所見文を含む読影レポート、および読影レポートを生成する際に参照した第1の医用画像G1を併せて、ネットワークI/F17を介してレポートサーバ7に転送する。レポートサーバ7は、第1の記述領域54に記述された所見文を含む読影レポート、および読影レポートを生成する際に参照した第1の医用画像G1を併せて保存する。
次いで、第1の実施形態において行われる処理について説明する。図10は第1の実施形態において行われる処理を示すフローチャートである。なお、読影の対象となる第1の医用画像G1、複数の第2の医用画像G2-iおよび複数の読影レポートR2-iは、取得部21により画像サーバ5およびレポートサーバ7から取得されて、ストレージ13に保存されているものとする。読影レポートの作成の指示が読影医により行われることにより処理が開始され、領域特定部22は、第1の医用画像G1および複数の第2の医用画像G2-iを解析することにより、異常陰影である第1の領域A1および第2の領域A2-iを特定する(領域特定;ステップST1)。
次いで、記述特定部23は、複数の第2の医用画像G2-iのそれぞれに関連する第2の読影レポートR2-iにおける、特定された第2の領域A2-iに関する第2の記述D2-iを特定する(ステップST2)。
そして、表示制御部24は、複数の第2の医用画像G2-1のそれぞれについて特定した複数の第2の記述D2-iを、ディスプレイ14に切り替え可能に表示する(ステップST3)。この状態において、読影医は、第1の記述領域54に第1の医用画像G1についての所見文を記述することができる。
一方、表示制御部24は、第2の切り替えボタン56A,56Bが選択されたか否かを判定する(ステップST4)。ステップST4が肯定されると、表示制御部24は、画像表示領域51に表示する第2の医用画像G2-iおよび文章表示領域52に表示する第2の記述D2-iを切り替え(表示切り替え;ステップST5)、ステップST4に戻る。ステップST4が否定されると、表示制御部24は、第1の切り替えボタン53A,53Bが選択されたか否かを判定する(ステップST6)。ステップST6が肯定されると、表示制御部24は、第1の医用画像G1について、画像表示領域51に表示する断層画像を切り替え(ステップST7)、ステップST1に戻る。ステップST6が否定されると、確定ボタン57が選択されたか否かを判定する(ステップST8)。ステップST8が否定されるとステップST4に戻る。
ステップST8が肯定されると、保存制御部25は、第1の医用画像G1についての第1の読影レポートR1および第1の医用画像G1を併せて、ストレージ13に保存する(読影レポート等保存;ステップST9)。そして、通信部26が、第1の読影レポートR1および第1の医用画像G1を併せて、ネットワークI/F17を介してレポートサーバ7に転送し(読影レポート等転送;ステップST10)、処理を終了する。
ここで、ある患者の最新の医用画像を読影して読影レポートを作成するに際し、同一の患者についての過去の複数の医用画像(第2の医用画像G2-i)のそれぞれについての複数の読影レポート(第2の読影レポートR2-i)が存在する場合がある。このような場合、過去画像(すなわち第2の医用画像G2-i)についての読影レポートに含まれる、異常陰影についての記述を参照できれば、現在の医用画像(すなわち第1の医用画像G1)に含まれる異常陰影についての所見を含む読影レポートを効率よく作成することができる。
第1の実施形態においては、第1の医用画像G1についての読影レポートR1を作成する際に、複数の医用画像G2-iについての第2の読影レポートR2-iに含まれる第2の記述D2-iを切り替え可能に表示するようにした。このため、同一患者について、撮影時期が異なる画像が複数ある場合に、その過去画像についての読影レポートR2-iに含まれる第2の記述D2-iを効率よく参照できる。したがって、第1の医用画像G1についての読影レポートR1の作成を効率よく行うことができる。
次いで、本開示の第2の実施形態について説明する。図11は第2の実施形態による文書作成支援装置の機能的な構成を示す図である。なお、図11において図3と同一の構成については同一の参照番号を付与し、詳細な説明は省略する。図11に示すように、第2の実施形態による文書作成支援装置20Aは、文章生成部27をさらに備えた点が第1の実施形態と異なる。
文章生成部27は、領域特定部22が第1の医用画像G1において特定した第1の領域A1を解析して、第1の領域A1に関する第1の記述D1を生成する。このために、文章生成部27は、第1の領域A1の性状を、予め定められた複数の性状項目のそれぞれについて判別するための学習モデル27Aを有する。学習モデル27Aは、記述特定部23が有する学習モデル23Aと同様に学習がなされた畳み込みニューラルネットワークからなる。学習モデル27Aは、第1の領域A1が入力されると、第1の領域A1についての性状を表す性状情報を出力する。
また、文章生成部27は、導出した性状情報を用いて所見文を生成する。このため、文章生成部27は、入力された性状情報から文章を生成するように学習が行われた学習モデル27Bを有する。学習モデル27Bとしては、例えばリカレントニューラルネットワークを用いることができる。図12はリカレントニューラルネットワークの模式的な構成を示す図である。図12に示すように、リカレントニューラルネットワーク40は、エンコーダ41およびデコーダ42からなる。エンコーダ41には、学習モデル27Aが出力した性状情報が入力される。例えば、エンコーダ41には、「左肺胸膜下」、「4.2cm」、「スピキュラ+」および「腫瘤」の性状情報が入力される。デコーダ42は、文字情報を文章化するように学習がなされており、入力された性状情報から文章を生成する。具体的には、上述した「左肺胸膜下」、「4.2cm」、「スピキュラ+」および「腫瘤」の性状情報から、「左肺胸膜下にスピキュラを有する4.2cm径の腫瘤が認められます。」の医療文章を生成する。なお、図12において「EOS」は文章の終わりを示す(End Of Sentence)。
このように、性状情報の入力によって所見文を出力するために、リカレントニューラルネットワーク40は、性状情報と所見文との組み合わせからなる多数の教師データを用いてエンコーダ41およびデコーダ42を学習することにより構築されてなる。なお、図12に示す生成された文章は肺結節についての所見を表すものであり、肺結節の性状情報を入力として学習モデルを学習することにより生成される。
第2の実施形態においては、表示制御部24は、文章生成部27が生成した文章、すなわち所見文を第1の記述領域54に表示する。図13は第2の実施形態における表示画面を示す図である。なお、図13において図7と同一の構成については同一の参照番号を付与し、詳細な説明は省略する。図13に示すように、第2の実施形態における表示画面50Aは、初期状態において第1の記述領域54に第1の医用画像G1に含まれる第1の領域A1に関する所見文が、第1の記述D1として表示されている。
次いで、第2の実施形態において行われる処理について説明する。図14は第2の実施形態において行われる処理を示すフローチャートである。なお、読影の対象となる第1の医用画像G1、複数の第2の医用画像G2-iおよび複数の読影レポートR2-iは、取得部21により画像サーバ5およびレポートサーバ7から取得されて、ストレージ13に保存されているものとする。読影レポートの作成の指示が読影医により行われることにより処理が開始され、領域特定部22は、第1の医用画像G1および複数の第2の医用画像G2-iを解析することにより、異常陰影である第1の領域A1および第2の領域A2-iを特定する(領域特定;ステップST21)。
次いで、記述特定部23は、複数の第2の医用画像G2-iのそれぞれに関連する第2の読影レポートR2-iにおける、特定された第2の領域A2-iに関する第2の記述D2-iを特定する(ステップST22)。さらに、文章生成部27が、第1の医用画像G1に含まれる第1の領域A1に関する第1の記述D1を生成する(ステップST23)。そして、表示制御部24が、第1の記述D1を第1の記述領域54に表示し(ステップST24)、図10におけるステップST3の処理に進む。なお、ステップST23の処理はステップST21の処理の前に行ってもよく、ステップST21,ST22の処理と並列に行ってもよい。また、ステップST24の処理は、図10のステップST3の処理の後に行ってもよく、ステップST3の処理と並列に行ってもよい。
このように、第2の実施形態においては、第1の医用画像G1に含まれる第1の領域A1に関する第1の記述D1を生成し、第1の記述D1を第1の記述領域54に表示するようにした。このため、第1の医用画像G1に含まれる第1の領域A1についての所見文を生成する読影医の負担を軽減することができる。
なお、上記第2の実施形態においては、第1の記述領域54に文章生成部27が生成した第1の記述D1を表示しているが、第1の記述D1に加えて、第2の記述領域55に表示されている第2の記述D2-iを第1の記述領域54に転記してもよい。この場合、第1の記述領域54においては、第1の記述D1および第2の記述D2-iが例えば上下に並べられて表示される。
次いで、本開示の第3の実施形態について説明する。図15は第3の実施形態による文書作成支援装置の機能的な構成を示す図である。なお、図15において図11と同一の構成については同一の参照番号を付与し、詳細な説明は省略する。図15に示すように、第3の実施形態による文書作成支援装置20Bは、性状相違導出部28をさらに備えた点が第2の実施形態と異なる。
性状相違導出部28は、文章生成部27が生成した第1の記述D1に含まれる第1の領域A1についての性状と、複数の第2の医用画像G2-iのそれぞれについて特定した第2の記述D2-iに含まれる第2の領域A2-iについての性状との相違を導出する。このために、性状相違導出部28は、2つの文章が入力されると、2つの文章に含まれる性状の相違を出力するように学習がなされた学習モデル28Aを有する。学習モデル28としては、例えばリカレントニューラルネットワークを用いることができる。学習モデル28Aを構成するリカレントニューラルネットワークは、2つの文章および2つの文章の相違を表す語句の組み合わせからなる多数の教師データを用いてリカレントニューラルネットワークを構成するエンコーダおよびデコーダを学習することにより構築されてなる。
これにより、性状相違導出部28の学習モデル28Aに、第1の記述D1として「右肺S6にサイズが7×5cmの空洞を伴う腫瘤が見られます。一部胸膜陥入が認められます。」が、第2の記述D2-iとして「右肺S6の腫瘤影は6.5×4cm程度で、増大しています。腫瘤の中心部の空洞も前回より拡大しています。」が入力されると、2つの記述に含まれる性状の相違である「7×5cm」および「胸膜陥入」を出力する。
なお、性状相違導出部28は、第1の記述D1に含まれる性状とすべての第2の記述D2-iに含まれる性状との相違を導出する。この際、第1の記述D1に含まれる性状とすべての第2の記述D2-iに含まれる性状との相違を一度に導出してもよく、第2の記述D2-iが切り替え表示される毎に、表示された第2の記述D2-iに含まれる性状と第1の記述に含まれる性状との相違を導出するものであってもよい。例えば、切り替えた第2の記述D2-iが、「右肺S6の腫瘤影は3×2cmです。」の場合、性状相違導出部28は、切り替えた第2の記述に含まれる性状と第1の記述D1に含まれる性状との相違である「7×5cm」および「胸膜陥入」を出力する。
第3の実施形態において、表示制御部24は、性状相違導出部28により相違が導出された場合に、第1の記述D1に含まれる性状と第2の記述D2-iに含まれる性状との相違を視認可能にディスプレイ14に表示する。図16は第3の実施形態における表示画面を示す図である。なお、図16において図13と同一の構成については同一の参照番号を付与し、詳細な説明は省略する。図16に示すように、第3の実施形態における表示画面50Bは、初期状態において第1の記述領域54に第1の医用画像G1に含まれる第1の領域A1に関する第1の記述D1が表示されている。さらに、第1の記述D1において、表示されている第2の記述D2-iとの性状の相違箇所である「7×5cm」および「胸膜陥入」が強調表示されている。なお、図16においては相違する性状を四角で囲むことにより強調表示を表しているが、これに限定されるものではない。相違する語句に下線を付与したり、相違する性状の背景の色を変更したり、相違する語句の文字色を変更したりしてもよい。
次いで、第3の実施形態において行われる処理について説明する。図17は第3の実施形態において行われる処理を示すフローチャートである。なお、読影の対象となる第1の医用画像G1、複数の第2の医用画像G2-iおよび複数の読影レポートR2-iは、取得部21により画像サーバ5およびレポートサーバ7から取得されて、ストレージ13に保存されているものとする。読影レポートの作成の指示が読影医により行われることにより処理が開始され、領域特定部22は、第1の医用画像G1および複数の第2の医用画像G2-iを解析することにより、異常陰影である第1の領域A1および第2の領域A2-iを特定する(領域特定;ステップST31)。
次いで、記述特定部23は、複数の第2の医用画像G2-iのそれぞれに関連する第2の読影レポートR2-iにおける、特定された第2の領域A2-iに関する第2の記述D2-iを特定する(ステップST32)。さらに、文章生成部27が、第1の医用画像G1に含まれる第1の領域A1に関する第1の記述D1を生成する(ステップST33)。そして、性状相違導出部28が、第1の記述D1に含まれる性状と第2の記述D2-iに含まれる性状との相違を導出する(ステップST34)。
次いで、表示制御部24が、第1の記述D1を第1の記述領域54に表示し(ステップST35)、さらに第1の記述D1において第2の記述D2-iとの性状の相違箇所を強調表示し(ステップST36)、図10におけるステップST3の処理に進む。なお、ステップST33の処理はステップST31の処理の前に行ってもよく、ステップST31,ST32の処理と並列に行ってもよい。また、ステップST35,ST36の処理は、図10のステップST3の処理の後に行ってもよく、ステップST3の処理と並列に行ってもよい。
このように、第3の実施形態においては、第1の医用画像G1に含まれる第1の領域A1に関する第1の記述D1を生成し、第1の記述D1を第1の記述領域54に表示するようにした。さらにこの際に、第1の記述D1と第2の記述D2-iとの性状の相違を導出し,相違箇所を強調表示することにより、性状の相違を視認可能に表示するようにした。このため、第1の医用画像G1に含まれる第1の領域A1についての所見文を生成する読影医の負担を軽減し、かつ生成された第1の記述D1と第2の記述D2-iとの性状に関する記述内容の相違を確認することが可能となる。
なお、上記第3の実施形態においては、第1の記述D1において第2の記述D2-iとの性状の相違箇所を強調表示しているが、これに限定されるものではない。第2の記述D2-iにおいて第1の記述の性状との相違箇所を強調表示してもよく、第1の記述D1および第2の記述D2-iの双方において性状の相違箇所を強調表示するようにしてもよい。
次いで、本開示の第4の実施形態について説明する。図18は第4の実施形態による文書作成支援装置の機能的な構成を示す図である。なお、図18において図3と同一の構成については同一の参照番号を付与し、詳細な説明は省略する。図18に示すように、第4の実施形態による文書作成支援装置20Cは、領域相違導出部29をさらに備えた点が第1の実施形態と異なる。
領域相違導出部29は、第1の医用画像G1から検出された第1の領域A1と、複数の第2の医用画像G2-iのそれぞれから検出された第2の領域A2-iとの相違を導出する。このために、領域相違導出部29は、2つの画像が入力されると2つの画像の相違を出力するように学習がなされた学習モデル29Aを有する。学習モデル29Aとしては、例えば畳み込みニューラルネットワークを用いることができる。学習モデル29Aを構成する畳み込みニューラルネットワークは、2つの画像および2つの画像の相違を表す情報(例えば差分の領域、差分値等)の組み合わせからなる多数の教師データを用いて畳み込みニューラルネットワークを学習することにより構築されてなる。
これにより、領域相違導出部29の学習モデル29Aに、第1の領域A1および第2の領域A2-iが入力されると、2つの領域の相違を出力する。図19は2つの領域の相違の導出を説明するための図である。なお、図19においては、第1の医用画像G1および第2の医用画像G2-iにおける異常陰影すなわち第1の領域A1をおよび第2の領域A2-iを含む部分領域のみを示している。図19に示すように、第1の医用画像G1における第1の領域A1が、第2の医用画像G2-iにおける第2の領域A2-iよりも小さくなっている場合、領域相違導出部29は、図19に示すように領域の相違60を導出する。
なお、領域相違導出部29は、第1の領域A1とすべての第2の領域A2-iとの相違を導出する。この際、第1の領域A1とすべての第2の領域A2-iとの相違を一度に導出してもよく、第2の医用画像G2-iが切り替え表示される毎に、表示された第2の医用画像G2-iから検出した第2の領域A2-iと第1の領域A1との相違を導出するものであってもよい。
第4の実施形態においては、表示制御部24は、領域相違導出部29により第1の領域A1と第2の領域A2-iとの相違が導出された場合に第2の記述D2-iを表示する。なお、本実施形態においては、複数の第2の医用画像G2-iを取得しており、第2の医用画像G2-iのそれぞれから検出した第2の領域A2-iに関して、第1の領域A1と相違があるものとないものとが存在する。このため、表示制御部24は、第1の領域A1との相違がある第2の領域A2-iを含む第2の医用画像G2-iが表示された場合にのみ、第2の記述領域55に第2の記述D2-iを表示する。一方、第1の領域A1との相違がない第2の領域A2-iを含む第2の医用画像G2-iが表示された場合、表示制御部24は、第2の記述領域55に、相違がない旨の表示を行う。例えば、表示制御部24は、図20の表示画面50Cに示すように、画像表示領域51に、第1の医用画像G1に含まれる第1の領域A1と相違がない第2の領域を含む第2の医用画像G2-3を表示し、第2の記述領域55に、「2つの医用画像の異常陰影に変化はありません」のテキストを表示する。
次いで、第4の実施形態において行われる処理について説明する。図21は第4の実施形態において行われる処理を示すフローチャートである。なお、読影の対象となる第1の医用画像G1、複数の第2の医用画像G2-iおよび複数の読影レポートR2-iは、取得部21により画像サーバ5およびレポートサーバ7から取得されて、ストレージ13に保存されているものとする。読影レポートの作成の指示が読影医により行われることにより処理が開始され、領域特定部22は、第1の医用画像G1および複数の第2の医用画像G2-iを解析することにより、異常陰影である第1の領域A1および第2の領域A2-iを特定する(領域特定;ステップST41)。
次いで、記述特定部23は、複数の第2の医用画像G2-iのそれぞれに関連する第2の読影レポートR2-iにおける、特定された第2の領域A2-iに関する第2の記述D2-iを特定する(ステップST42)。さらに、領域相違導出部29が、第1の領域A1と第2の領域A2-iとの相違を導出する(ステップST43)。なお、ステップST43の処理は、ステップST42の処理の前に行うようにしてもよく、ステップST42の処理と並列に行うようにしてもよい。
そして、表示制御部24が、初期状態において表示する第2の医用画像G2-iについて、第1の領域A1と第2の領域A2-iとの相違があるか否かを判定する(ステップST44)。ステップST44が肯定されると、表示制御部24は、初期状態で表示する第2の医用画像G2-1について特定した第2の記述D2-iを、ディスプレイ14に切り替え可能に表示する(ステップST45)。ステップST44が否定されると、表示制御部24は、第2の記述領域55に相違がない旨の表示を行う(ステップST46)。
ステップST45,ST46に続いて、表示制御部24は、第2の切り替えボタン56A,56Bが選択されたか否かを判定する(ステップST47)。ステップST47が肯定されると、表示制御部24は、画像表示領域51に表示する第2の医用画像G2-iを切り替え(表示切り替え;ステップST48)、ステップST44に戻る。ステップST47が否定されると、表示制御部24は、第1の切り替えボタン53A,53Bが選択されたか否かを判定する(ステップST49)。ステップST49が肯定されると、表示制御部24は、第1の医用画像G1について、画像表示領域51に表示する断層画像を切り替え(ステップST50)、ステップST41に戻る。ステップST49が否定されると、表示制御部24は、確定ボタン57が選択されたか否かを判定する(ステップST51)。ステップST51が否定されるとステップST47に戻る。ステップST51が肯定されると、図10に示すステップST9の処理に進む。
このように,第4の実施形態においては、第1の領域A1と第2の領域A2-iとの相違を導出し、相違がある場合に第2の記述D2-iを表示するようにした。このため、第1の医用画像G1と第2の医用画像G2-iとの間において異常陰影に変化がある場合に、その異常陰影についての第2の記述D2-iを参照することができる。したがって、第1の医用画像G1に関して、異常陰影の変化についての所見文の作成を効率よく行うことができる。
なお、第4の実施形態において、表示制御部24は、第1の領域A1との相違がない第2の領域A2-iを含む第2の医用画像G2-iが表示された場合、表示制御部24は、第2の記述領域55に、相違がない旨の表示を行っているが、これに限定されるものではない。第1の領域A1との相違がない第2の領域A2-iを含む第2の医用画像G2-iが表示された場合に、第2の記述領域55にその第2の医用画像G2-iについての第2の記述D2-iを表示し、第1の記述領域54に相違がない旨の表示を行うようにしてもよい。
また、上記第4の実施形態においては、第1の実施形態において領域相違導出部29を設けるようにしているが、これに限定されるものではない。第2の実施形態または第3の実施形態において領域相違導出部29を設けるようにしてもよい。
また、上記各実施形態においては、診断対象を肺とした医用画像を用いて読影レポートを作成する場合に本開示の技術を適用しているが、診断対象は肺に限定されるものではない。肺の他に、心臓、肝臓、脳、および四肢等の人体の任意の部位を診断対象とすることができる。この場合、診断対象の部位に応じた診断ガイドラインを取得して、読影レポートにおける診断ガイドラインの項目と対応する対応部分を特定するようにすればよい。
また、上記各実施形態において、例えば、取得部21、領域特定部22、記述特定部23、表示制御部24、保存制御部25、通信部26、文章生成部27、性状相違導出部28および領域相違導出部29といった各種の処理を実行する処理部(Processing Unit)のハードウェア的な構造としては、次に示す各種のプロセッサ(Processor)を用いることができる。上記各種のプロセッサには、上述したように、ソフトウェア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPUに加えて、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device :PLD)、ASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
1つの処理部は、これらの各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせまたはCPUとFPGAとの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。
複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントおよびサーバ等のコンピュータに代表されるように、1つ以上のCPUとソフトウェアとの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)等に代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサの1つ以上を用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造としては、より具体的には、半導体素子等の回路素子を組み合わせた電気回路(Circuitry)を用いることができる。
1 医療情報システム
2 撮影装置
3 読影WS
4 診療
5 画像サーバ
6 画像DB
7 レポートサーバ
8 レポートDB
10 ネットワーク
11 CPU
12 文書作成支援プログラム
13 ストレージ
14 ディスプレイ
15 入力デバイス
16 メモリ
17 ネットワークI/F
18 バス
20,20A,20B,20C 文書作成支援装置
21 取得部
22 領域特定部
23 記述特定部
24 表示制御部
25 保存制御部
26 通信部
27 文章生成部
28 性状相違導出部
29 領域相違導出部
30 性状情報
40 リカレントニューラルネットワーク
41 エンコーダ
42 デコーダ
50 表示画面
51 画像表示領域
52 文章表示領域
53A,53B,56A,56B 切り替えボタン
54 第1の記述領域
55 第2の記述領域
A1 第1の領域
A2-i 第2の領域
D1 第1の記述
D2-i 第2の記述
G1 第1の医用画像
G2 第2の医用画像

Claims (12)

  1. 少なくとも1つのプロセッサを備え、
    前記プロセッサは、
    被写体の第1の画像において特定された第1の領域に関して、第1の画像と撮影時期が異なる前記被写体の複数の第2の画像のそれぞれにおいて、前記第1の領域に対応する第2の領域を特定し、
    前記複数の第2の画像のそれぞれに関連する複数の文章に含まれる、前記特定された第2の領域に関する第2の記述を特定し、
    前記複数の第2の画像のそれぞれについて特定した複数の第2の記述を、切り替え可能に表示するように構成される文書作成支援装置。
  2. 前記プロセッサは、前記第1の領域に関する文章を記述するための記述領域をさらに表示するように構成される請求項1に記載の文書作成支援装置。
  3. 前記プロセッサは、前記記述領域に前記複数の第2の記述のうちの少なくとも1つを転記するように構成される請求項2に記載の文書作成支援装置。
  4. 前記プロセッサは、前記第1の領域を解析して、前記第1の領域に関する第1の記述を生成し、
    前記第1の記述を前記記述領域に表示するように構成される請求項2または3に記載の文書作成支援装置。
  5. 前記プロセッサは、前記第1の記述に含まれる第1の領域に関する性状と、前記複数の第2の画像のそれぞれについて特定した前記第2の記述に含まれる第2の領域に関する性状との相違を導出し
    前記第1の記述に含まれる性状と前記第2の記述に含まれる性状との相違を視認可能に表示するように構成される請求項4に記載の文書作成支援装置。
  6. 前記プロセッサは、前記第1の領域と前記第2の領域との相違を導出するように構成される請求項1から5のいずれか1項に記載の文書作成支援装置。
  7. 前記プロセッサは、前記相違が導出された場合に、前記第2の記述を表示するように構成される請求項6に記載の文書作成支援装置。
  8. 前記プロセッサは、前記相違が導出されなかった場合に、前記相違が導出されなかったことを通知するように構成される請求項6または7に記載の文書作成支援装置。
  9. 前記プロセッサは、前記第1の画像および前記第2の画像を解析することにより、前記第1の領域および前記第2の領域を特定する請求項1から8のいずれか1項に記載の文書作成支援装置。
  10. 前記プロセッサは、前記第2の記述の切り替えに連動させて、前記第2の画像を切り替え可能に表示する請求項1から9のいずれか1項に記載の文書作成支援装置。
  11. 被写体の第1の画像において特定された第1の領域に関して、第1の画像と撮影時期が異なる前記被写体の複数の第2の画像のそれぞれにおいて、前記第1の領域に対応する第2の領域を特定し、
    前記複数の第2の画像のそれぞれに関連する複数の文章に含まれる、前記特定された第2の領域に関する第2の記述を特定し、
    前記複数の第2の画像のそれぞれについて特定した複数の第2の記述を、切り替え可能に表示する文書作成支援方法。
  12. 被写体の第1の画像において特定された第1の領域に関して、第1の画像と撮影時期が異なる前記被写体の複数の第2の画像のそれぞれにおいて、前記第1の領域に対応する第2の領域を特定する手順と、
    前記複数の第2の画像のそれぞれに関連する複数の文章に含まれる、前記特定された第2の領域に関する第2の記述を特定する手順と、
    前記複数の第2の画像のそれぞれについて特定した複数の第2の記述を、切り替え可能に表示する手順とをコンピュータに実行させる文書作成支援プログラム。
JP2022508379A 2020-03-17 2021-03-16 文書作成支援装置、方法およびプログラム Active JP7431317B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020046019 2020-03-17
JP2020046019 2020-03-17
PCT/JP2021/010610 WO2021187483A1 (ja) 2020-03-17 2021-03-16 文書作成支援装置、方法およびプログラム

Publications (3)

Publication Number Publication Date
JPWO2021187483A1 JPWO2021187483A1 (ja) 2021-09-23
JPWO2021187483A5 JPWO2021187483A5 (ja) 2022-11-18
JP7431317B2 true JP7431317B2 (ja) 2024-02-14

Family

ID=77771551

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022508379A Active JP7431317B2 (ja) 2020-03-17 2021-03-16 文書作成支援装置、方法およびプログラム

Country Status (3)

Country Link
US (1) US20230005580A1 (ja)
JP (1) JP7431317B2 (ja)
WO (1) WO2021187483A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2021107098A1 (ja) * 2019-11-29 2021-06-03

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009070201A (ja) 2007-09-14 2009-04-02 Fujifilm Corp 読影レポート作成システム及び読影レポート作成装置並びに読影レポート作成方法
WO2011033769A1 (ja) 2009-09-17 2011-03-24 富士フイルム株式会社 医用画像表示装置および方法並びにプログラム
JP2019153249A (ja) 2018-03-06 2019-09-12 富士フイルム株式会社 医用画像処理装置、医用画像処理方法、及び医用画像処理プログラム
WO2019208130A1 (ja) 2018-04-24 2019-10-31 富士フイルム株式会社 医療文書作成支援装置、方法およびプログラム、学習済みモデル、並びに学習装置、方法およびプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008200373A (ja) * 2007-02-22 2008-09-04 Fujifilm Corp 類似症例検索装置、方法、およびプログラム、ならびに、類似症例データベース登録装置、方法、およびプログラム
JP6397277B2 (ja) * 2014-09-05 2018-09-26 キヤノン株式会社 読影レポート作成のための支援装置およびその制御方法
JP6746360B2 (ja) * 2016-04-13 2020-08-26 キヤノン株式会社 情報処理システム、情報処理方法及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009070201A (ja) 2007-09-14 2009-04-02 Fujifilm Corp 読影レポート作成システム及び読影レポート作成装置並びに読影レポート作成方法
WO2011033769A1 (ja) 2009-09-17 2011-03-24 富士フイルム株式会社 医用画像表示装置および方法並びにプログラム
JP2019153249A (ja) 2018-03-06 2019-09-12 富士フイルム株式会社 医用画像処理装置、医用画像処理方法、及び医用画像処理プログラム
WO2019208130A1 (ja) 2018-04-24 2019-10-31 富士フイルム株式会社 医療文書作成支援装置、方法およびプログラム、学習済みモデル、並びに学習装置、方法およびプログラム

Also Published As

Publication number Publication date
WO2021187483A1 (ja) 2021-09-23
JPWO2021187483A1 (ja) 2021-09-23
US20230005580A1 (en) 2023-01-05

Similar Documents

Publication Publication Date Title
US11139067B2 (en) Medical image display device, method, and program
US20120250961A1 (en) Medical report generation apparatus, method and program
JP2019169049A (ja) 医用画像特定装置、方法およびプログラム
JP7000206B2 (ja) 医用画像処理装置、医用画像処理方法、及び医用画像処理プログラム
JP7102509B2 (ja) 医療文書作成支援装置、医療文書作成支援方法、及び医療文書作成支援プログラム
JP2024009342A (ja) 文書作成支援装置、方法およびプログラム
JP7431317B2 (ja) 文書作成支援装置、方法およびプログラム
JP7007469B2 (ja) 医療文書作成支援装置、方法およびプログラム、学習済みモデル、並びに学習装置、方法およびプログラム
WO2019193983A1 (ja) 医療文書表示制御装置、医療文書表示制御方法、及び医療文書表示制御プログラム
JP7436636B2 (ja) 文書作成支援装置、方法およびプログラム
JP7420913B2 (ja) 情報処理装置、方法およびプログラム
JP7504987B2 (ja) 情報処理装置、情報処理方法及び情報処理プログラム
JP2021175454A (ja) 医用画像処理装置、方法およびプログラム
JP7368592B2 (ja) 文書作成支援装置、方法およびプログラム
JP7436698B2 (ja) 医用画像処理装置、方法およびプログラム
JP7376715B2 (ja) 経過予測装置、経過予測装置の作動方法および経過予測プログラム
JP7436628B2 (ja) 情報保存装置、方法およびプログラム、並びに解析記録生成装置、方法およびプログラム
WO2022215530A1 (ja) 医用画像装置、医用画像方法、及び医用画像プログラム
JP7361930B2 (ja) 医用画像処理装置、方法およびプログラム
WO2021107142A1 (ja) 文書作成支援装置、方法およびプログラム
WO2022196106A1 (ja) 文書作成装置、方法およびプログラム
US20230281810A1 (en) Image display apparatus, method, and program
WO2023054645A1 (ja) 情報処理装置、情報処理方法及び情報処理プログラム
US20230225681A1 (en) Image display apparatus, method, and program
WO2024071246A1 (ja) 情報処理装置、情報処理方法及び情報処理プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220906

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220906

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230905

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231025

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240201

R150 Certificate of patent or registration of utility model

Ref document number: 7431317

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150