JPWO2013001584A1 - 類似症例検索装置および類似症例検索方法 - Google Patents

類似症例検索装置および類似症例検索方法 Download PDF

Info

Publication number
JPWO2013001584A1
JPWO2013001584A1 JP2012505932A JP2012505932A JPWO2013001584A1 JP WO2013001584 A1 JPWO2013001584 A1 JP WO2013001584A1 JP 2012505932 A JP2012505932 A JP 2012505932A JP 2012505932 A JP2012505932 A JP 2012505932A JP WO2013001584 A1 JPWO2013001584 A1 JP WO2013001584A1
Authority
JP
Japan
Prior art keywords
interpretation
image
image feature
extracted
report
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012505932A
Other languages
English (en)
Other versions
JP4979842B1 (ja
Inventor
近藤 堅司
堅司 近藤
貴史 續木
貴史 續木
和豊 高田
和豊 高田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2012505932A priority Critical patent/JP4979842B1/ja
Priority claimed from PCT/JP2011/006375 external-priority patent/WO2013001584A1/ja
Application granted granted Critical
Publication of JP4979842B1 publication Critical patent/JP4979842B1/ja
Publication of JPWO2013001584A1 publication Critical patent/JPWO2013001584A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H15/00ICT specially adapted for medical reports, e.g. generation or transmission thereof
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16ZINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS, NOT OTHERWISE PROVIDED FOR
    • G16Z99/00Subject matter not provided for in other main groups of this subclass

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Primary Health Care (AREA)
  • General Health & Medical Sciences (AREA)
  • Epidemiology (AREA)
  • Data Mining & Analysis (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Databases & Information Systems (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Human Resources & Organizations (AREA)
  • Economics (AREA)
  • Child & Adolescent Psychology (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Processing Or Creating Images (AREA)

Abstract

類似症例検索装置は、医用画像から抽出される各画像特徴量と、医用画像に対する読影レポートに含まれる、各読影項目または各疾病名との間の関連性を予め定めた二項間関係情報に基づいて、読影対象画像から抽出される複数の画像特徴量の各々について、当該画像特徴量と、対象読影レポートに含まれる読影項目または疾病名との間の関連性が高いほど大きな値の重みを決定する重み決定部(170)と、読影対象画像から抽出される複数の画像特徴量と、症例データベースに登録されている症例データに含まれる医用画像から抽出される複数の画像特徴量とを、重み決定部(170)で決定された画像特徴量毎の重みで重み付けして比較することにより、読影対象画像に類似する医用画像を含む症例データを検索する類似症例検索部(180)とを備える。

Description

本発明は、医用画像の読影に参考となる類似症例を検索するための類似症例検索装置および類似症例検索方法に関する。
近年、CT(Computed Tomography)、MRI(Magnetic Resonance Imaging)等の医用画像装置の発達および普及によりデジタル化された高精細な医用画像が大容量で取得可能になっている。また、医師により読影済の医用画像は読影レポートと共にPACS(Picture Archiving and Communication Systems)に順次蓄積されつつある。ここで、新たな読影の参考とするため、読影対象の医用画像と類似した過去の医用画像を、蓄積済の過去症例から検索する技術が開発され始めている。
類似画像検索には画像間の類似度を決定する画像特徴量の選択が重要であるが、従来の画像検索装置として次のような技術が開示されている。
医用画像間の類似度を決定するための画像特徴量は、疾病の種類、疾病の進行度、または疾病の重症度、等により異なるべきであるが、従来の医用画像類似検索ではそれらの状況に関わらず同じ画像特徴量を使用していることが課題として存在していた。非特許文献1は、解決手段として、“customized−queries” approach(CQA)という2ステップの検索法を提案している。これは、第一ステップにて、疾病の種類、疾病の進行度または疾病の重症度、等のクラスを最も良好に分類できる画像特徴量を用いて、クエリ画像を分類する。第二ステップにて、分類結果となったクラスに含まれる症例をさらに細分類するために最適化された画像特徴量を用いて、類似画像を検索する。このとき、クラス毎に最適な画像特徴量は教師なし学習(unsupervised learning)により事前に求めておく。また、同文献では、CQAを肺CT画像に対して適用し、従来の1種類の画像特徴量を用いた類似画像検索よりも、検索再現率を向上させている。
Jennifer G.Dy et al. "Unsupervised Feature Selection Applied to Content−based Retrieval of Lung Images", IEEE Transactions on Pattern Analysis and Machine Intelligence, vol.25, no.3, March 2003
しかしながら、前記従来の構成では、識別された疾病の種類、疾病の進行度または疾病の重症度、等により画像特徴量(即ち、類似基準)が決定され、決定された画像特徴量を用いて類似画像が検索されるだけであり、読影対象の医用画像に対する読影者の着目点を反映した類似画像検索にはなっていない。即ち、読影者が下した診断の裏づけや読影者が迷っている診断への補助にはなりにくいという課題を有している。
本発明は、前記従来の課題を解決するもので、読影者の着目点を類似画像検索に反映させた類似症例検索装置を提供することを目的とする。
本発明のある局面に係る類似症例検索装置は、医用画像と当該医用画像を読影した結果が記載された文書データである読影レポートとを含む症例データに類似する症例データを症例データベースより検索する類似症例検索装置であって、読影対象の医用画像である読影対象画像から複数の画像特徴量を抽出する画像特徴抽出部と、読影者が前記読影対象画像を読影することにより得られる読影レポートである対象読影レポートから、(a)医用画像の特徴を示す文字列である読影項目または(b)医用画像に基づく読影者の診断結果である疾病名を抽出するレポート解析部と、医用画像から抽出される各画像特徴量と、前記医用画像に対する読影レポートから抽出される各読影項目または各疾病名との間の関連性を予め定めた二項間関係情報に基づいて、前記画像特徴抽出部が抽出した画像特徴量ごとに、当該画像特徴量と前記レポート解析部が抽出した前記読影項目または前記疾病名との間の関連性が高いほど大きな値の重みを決定する重み決定部と、前記画像特徴抽出部で抽出された前記複数の画像特徴量と、症例データベースに登録されている症例データに含まれる医用画像から抽出される複数の画像特徴量とを、前記重み決定部で決定された画像特徴量毎の重みで重み付けして比較することにより、前記読影対象画像に類似する医用画像を含む症例データを前記症例データベースより検索する類似症例検索部とを備える。
この構成によると、医用画像または読影対象画像から抽出される各画像特徴量について、対象読影レポートに記載されている読影項目または疾病名との間の関連性が高いものほど大きな重みで重み付けを行った上で、重み付けされた画像特徴量同士を比較することにより類似症例を検索している。これにより、対象読影レポートに記入された読影者の着目点を反映した上で、類似症例検索を行うことができる。
なお、本発明は、このような特徴的な処理部を備える類似症例検索装置として実現することができるだけでなく、類似症例検索装置に含まれる特徴的な処理部が実行する処理をステップとする類似症例検索方法として実現することができる。また、類似症例検索装置に含まれる特徴的な処理部としてコンピュータを機能させるためのプログラムまたは類似症例検索方法に含まれる特徴的なステップをコンピュータに実行させるプログラムとして実現することもできる。そして、そのようなプログラムを、CD−ROM(Compact Disc−Read Only Memory)等のコンピュータ読取可能な非一時的な記録媒体やインターネット等の通信ネットワークを介して流通させることができるのは、言うまでもない。
本発明の類似症例検索装置によれば、読影者の着目点を類似画像検索に反映させた類似症例検索装置を提供することができる。
図1は、本発明の実施の形態1における類似症例検索装置の構成を示すブロック図である。 図2は、本発明の実施の形態1における読影知識作成の手順を示すフローチャートである。 図3は、本発明の実施の形態1における画像特徴量抽出の手順を示すフローチャートである。 図4は、本発明の実施の形態1における腹部CT検査の読影レポートの例を示す図である。 図5は、本発明の実施の形態1における読影レポートから抽出された読影項目および疾病名を示す図である。 図6は、本発明の実施の形態1における読影レポートから抽出された読影項目および疾病名、および、読影項目と同時に抽出された位置と時相の情報を示す図である。 図7は、本発明の実施の形態1における読影レポートから抽出された読影項目および疾病名、および、文脈解釈を行って読影項目と同時に抽出された位置と時相の情報を示す図である。 図8は、本発明の実施の形態1における、読影知識抽出のために取得したデータ一式を示す図である。 図9は、本発明の実施の形態1における、読影項目と画像特徴量との間の相関関係(二値)の概念図である。 図10は、本発明の実施の形態1における、読影項目と画像特徴量との間の相関関係(多値)の概念図である。 図11は、本発明の実施の形態1における、疾病名と画像特徴量との間の相関関係(二値)の概念図である。 図12は、本発明の実施の形態1における、読影項目と疾病名との間の相関関係(二値)の概念図である。 図13は、本発明の実施の形態1における、読影知識として抽出した(画像特徴量−読影項目)間の相関関係の格納形式を示す図である。 図14は、本発明の実施の形態1における、読影知識として抽出した(画像特徴量−疾病名)間の相関関係の格納形式を示す図である。 図15は、本発明の実施の形態1における、読影知識として抽出した(読影項目−疾病名)間の相関関係の格納形式を示す図である。 図16は、本発明の実施の形態1における類似症例検索の手順を示すフローチャートである。 図17は、本発明の実施の形態1における、類似症例検索画面の一例を示す図である。 図18は、本発明の実施の形態1における、病変位置または領域の指定について説明するための図である。 図19は、本発明の実施の形態1における類似症例検索時の重み付け方法1を示す図である。 図20は、本発明の実施の形態1における類似症例検索時の重み付け方法2を示す図である。 図21は、本発明の実施の形態1における類似症例検索時の重み付け方法3を示す図である。 図22は、本発明の実施の形態2における読影項目の有無による画像特徴量の分布の違いを示す図である。 図23は、本発明の実施の形態2における画像特徴量の分布パラメータを格納した様子を示す図である。 図24は、本発明の実施の形態2における疾病名の有無による画像特徴量の分布の違いを示す図である。 図25は、本発明の実施の形態2における画像特徴量の分布パラメータを格納した様子を示す図である。 図26は、本発明の実施の形態2における腹部CT検査の読影レポートの例を示す図である。 図27は、本発明の実施の形態2における読影レポートから抽出された読影項目および疾病名を示す図である。 図28は、本発明の実施の形態2における、読影項目に対応する画像特徴量の分布から、読影者が記入した読影項目の妥当性を判定する様子を示す図である。 図29は、本発明の実施の形態2において、入力された読影レポートを加工して表示した例を示す図である。 図30は、本発明の実施の形態2における、ある読影項目に対応した複数の画像特徴量の分布を示す図である。 図31は、類似症例検索装置の他の構成を示すブロック図である。 図32は、類似症例検索装置の本発明に必須の構成要素を示すブロック図である。
以下、本発明の実施の形態について、図面を参照しながら説明する。なお、以下で説明する実施の形態は、いずれも本発明の好ましい一具体例を示すものである。以下の実施の形態で示される数値、構成要素、構成要素の接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。本発明は、請求の範囲だけによって限定される。よって、以下の実施の形態における構成要素のうち、本発明の最上位概念を示す独立請求項に記載されていない構成要素については、本発明の課題を達成するのに必ずしも必要ではないが、より好ましい形態を構成するものとして説明される。
本発明の一実施の態様に係る類似症例検索装置は、医用画像と当該医用画像を読影した結果が記載された文書データである読影レポートとを含む症例データに類似する症例データを症例データベースより検索する類似症例検索装置であって、読影対象の医用画像である読影対象画像から複数の画像特徴量を抽出する画像特徴抽出部と、読影者が前記読影対象画像を読影することにより得られる読影レポートである対象読影レポートから、(a)医用画像の特徴を示す文字列である読影項目または(b)医用画像に基づく読影者の診断結果である疾病名を抽出するレポート解析部と、医用画像から抽出される各画像特徴量と、前記医用画像に対する読影レポートから抽出される各読影項目または各疾病名との間の関連性を予め定めた二項間関係情報に基づいて、前記画像特徴抽出部が抽出した画像特徴量ごとに、当該画像特徴量と前記レポート解析部が抽出した前記読影項目または前記疾病名との間の関連性が高いほど大きな値の重みを決定する重み決定部と、前記画像特徴抽出部で抽出された前記複数の画像特徴量と、症例データベースに登録されている症例データに含まれる医用画像から抽出される複数の画像特徴量とを、前記重み決定部で決定された画像特徴量毎の重みで重み付けして比較することにより、前記読影対象画像に類似する医用画像を含む症例データを前記症例データベースより検索する類似症例検索部とを備える。
この構成によると、医用画像または読影対象画像から抽出される各画像特徴量について、対象読影レポートに記載されている読影項目または疾病名との間の関連性が高いものほど大きな重みで重み付けを行った上で、重み付けされた画像特徴量同士を比較することにより類似症例を検索している。これにより、対象読影レポートに記入された読影者の着目点を反映した上で、類似症例検索を行うことができる。
好ましくは、前記二項間関係情報は、さらに、読影レポートから抽出される読影項目と疾病名との間の関連性を示し、前記レポート解析部が前記対象読影レポートから読影項目および疾病名の両方を抽出した場合、前記重み決定部は、前記二項間関係情報に基づいて、前記画像特徴抽出部が抽出した画像特徴量ごとに、当該画像特徴量と前記レポート解析部が抽出した前記読影項目との間の関連性を示す値と、当該読影項目と前記レポート解析部が抽出した前記疾病名との関連性を示す値との積を、当該画像特徴量に対する重みとして決定する。
この構成によると、対象読影レポートに読影項目および疾病名の両方が記入されている場合に、画像特徴量と読影項目との間の関連性と、読影項目と疾病名との間の関連性とを同時に評価した類似症例検索を行うことができる。
また、前記レポート解析部が前記対象読影レポートから読影項目を抽出した場合、前記重み決定部は、前記二項間関係情報に基づいて、前記画像特徴抽出部が抽出した画像特徴量ごとに、当該画像特徴量と前記レポート解析部が抽出した前記読影項目との間の関連性を示す値を、当該画像特徴量に対する重みとして決定しても良い。
この構成によると、読影者が着目すべき読影項目は判断できたものの、最終的な疾病名の診断に迷っており、類似症例検索の結果で疾病名診断のヒントを得ようとしている状況において、適切な類似症例検索を行うことができる。
また、前記レポート解析部が前記対象読影レポートから疾病名を抽出した場合、前記重み決定部は、前記二項間関係情報に基づいて、前記画像特徴抽出部が抽出した画像特徴量ごとに、当該画像特徴量と前記レポート解析部が抽出した前記疾病名との間の関連性を示す値を、当該画像特徴量に対する重みとして決定しても良い。
この構成によると、読影者が直感等で疾病名を推定したがその根拠となる読影項目の判断に迷っている状況において、適切な類似症例検索を行うことができる。読影者は、類似症例検索の結果から、診断根拠(読影項目)のヒントを得ることができる。
また、前記重み決定部は、さらに、読影項目ごとの、該読影項目が記載されている読影レポートを作成する基となった医用画像に含まれる各画像特徴量の予め定められた確率分布データに基づいて、前記レポート解析部が抽出した読影項目に対応する前記画像特徴抽出部が抽出した各画像特徴量の尤度が高いほど、前記レポート解析部が抽出した読影項目に対する妥当性が高いと判断しても良い。
この構成によると、対象読影レポートに含まれる類似症例検索に使用した読影項目の妥当性を判断することができる。
好ましくは、上述の類似症例検索装置は、さらに、前記対象読影レポートを表示する表示部を備え、前記表示部は、前記重み決定部が判断した読影項目に対する妥当性の高さに基づいて、前記対象読影レポートに含まれる読影項目を視覚的に区別して表示する。
この構成によると、対象読影レポートの中で類似症例検索に使用した読影項目のうち、妥当性が低いと判定されたものを、妥当性が高いと判定されたものと区別可能なように表示することで、読影者に類似症例検索の根拠と、読影レポートの中の妥当性が低い箇所について提示することが可能である。
また、前記重み決定部は、さらに、疾病名ごとの、当該疾病名が記載されている読影レポートを作成する基となった医用画像に含まれる各画像特徴量の予め定められた確率分布データに基づいて、前記レポート解析部が抽出した疾病名に対応する前記画像特徴抽出部が抽出した各画像特徴量の尤度が高いほど、前記レポート解析部が抽出した疾病名に対する妥当性が高いと判断しても良い。
この構成によると、対象読影レポートに含まれる類似症例検索に使用した疾病名の妥当性を判断することができる。
好ましくは、上述の類似症例検索装置は、さらに、前記対象読影レポートを表示する表示部を備え、前記表示部は、前記重み決定部が判断した疾病名に対する妥当性の高さに基づいて、前記対象読影レポートに含まれる疾病名を視覚的に区別して表示する。
この構成によると、対象読影レポートの中で類似症例検索に使用した疾病名のうち、妥当性が低いと判定されたものを、妥当性が高いと判定されたものと区別可能なように表示することで、読影者に類似症例検索の根拠と、読影レポートの中の妥当性が低い箇所について提示することが可能である。
(実施の形態1)
図1は、本発明の実施の形態1における類似症例検索装置のブロック図である。
類似症例検索装置は、症例データベース100と、読影知識データベース110と、読影対象画像読込部120と、読影対象画像表示部130と、レポート入出力部140と、レポート解析部150と、画像特徴抽出部160と、重み決定部170と、類似症例検索部180と、類似症例表示部190とを含む。
症例データベース100は、CT(Computed Tomography)またはMRI(Magnetic Resonance Imaging)等の医用画像(本明細書中では「画像データ」のことを単に「画像」と言う)と、その医用画像を読影した結果である読影レポートとの対から構成される症例データ(以下、単に「症例」と言う。)を複数格納したデータベースである。読影知識データベース110は、複数の症例を解析することにより得た読影知識を格納したデータベースである。詳細については後述する。症例データベース100および読影知識データベース110は、HDD(Hard Disk Drive)などの記憶装置に記憶される。
読影対象画像読込部120は、CTやMRI等の医用画像撮影装置で撮影された画像を、医用画像撮影装置または外部接続された記憶装置などから読み込む。
読影対象画像表示部130は、医療用の高精細モニタ等で構成され、読影対象画像読込部120で読み込んだ読影対象画像を表示する。
レポート入出力部140は、キーボードやマウスなどの入力装置と、そのような入力装置を用いて入力されたレポートを表示することにより、入力者に確認させるための表示装置とで構成されている。読影者は読影対象画像表示部130に表示された読影対象画像を参照しながら、レポート入出力部140を通して読影レポートを入力する。
読影対象画像表示部130、レポート入出力部140、および、後述する類似症例表示部190は、読影端末200を構成する。
レポート解析部150は、レポート入出力部140で入力された読影レポートを解析し、テキスト特徴量(読影項目および疾病名)を抽出する。
画像特徴抽出部160は、読影対象画像読込部120で読み込まれた読影対象画像から複数種類の画像特徴量を抽出する。
重み決定部170は、レポート解析部150で抽出されたテキスト特徴量、画像特徴抽出部160で抽出された画像特徴量、および、読影知識データベース110に格納された読影知識から、画像検索で使用する複数の画像特徴量に対する重みをそれぞれ決定する。
類似症例検索部180は、画像特徴抽出部160で抽出された画像特徴量、および、重み決定部170で決定された重みを利用して、症例データベース100から読影対象画像と類似した医用画像を含む症例を検索する。
類似症例表示部190は、類似症例検索部180で検索された類似症例を表示する。類似症例表示部190は、読影対象画像表示部130を構成する高精細モニタと同じ機種で別途構成されていてもよく、読影対象画像表示部130を構成する高精細モニタに読影対象画像と類似症例を同時に表示してもよい。なお、類似症例表示部190と読影対象画像表示部130との機種は異なっていても良い。
以後、本発明の各部の動作について詳細に説明する。
<読影知識データベースの事前作成>
類似症例検索を行うに当たり、事前に読影知識を得て、読影知識データベース110に格納しておく。読影知識は、医用画像とその医用画像を読影した結果である読影レポートとの対から構成される“症例”を複数集めたものから得られる。症例として、類似症例検索時にその中から類似症例を検索するための症例データベース100に格納されたものを用いてもよいし、他のデータベースに格納されたものを用いてもよい。必要な症例数は、種種のデータマイニングアルゴリズムを用いて何らかの法則性および知識を得るために十分となる数である。通常は数百〜数万個のデータが用いられる。本実施の形態では、読影知識として、(1)画像特徴量、(2)読影項目、(3)疾病名の三項のうち二項間の相関関係を用いる。
「画像特徴量」としては、医用画像における臓器もしくは病変部分の形状に関するもの、または輝度分布に関するものなどがある。画像特徴量として、例えば、非特許文献:「根本,清水,萩原,小畑,縄野,“多数の特徴量からの特徴選択による乳房X線像上の腫瘤影判別精度の改善と高速な特徴選択法の提案”,電子情報通信学会論文誌D−II,Vol.J88−D−II,No.2,pp.416−426,2005年2月」に490種類の特徴量を用いることが記載されている。本実施の形態においても、医用画像の撮像に使用した医用画像撮影装置(モダリティ)または読影の対象臓器ごとに予め定めた数十〜数百種の画像特徴量を用いる。
「読影項目」とは、本明細書では、「読影医が、読影対象の画像の特徴を言語化した文字列」と定義する。使用する医用画像撮影装置または対象臓器等により、読影項目として使用される用語はほぼ限定される。例えば、分葉状、棘状、不整形、境界明瞭、輪郭不明瞭、低濃度、高濃度、低吸収、高吸収、スリガラス状、石灰化、モザイク状、早期濃染、低エコー、高エコー、毛羽立ち、等がある。
「疾病名」とは、医師(読影者)が医用画像やその他の検査を基に診断した疾病名のことである。読影時の診断疾病名とその他の検査を経て確定診断した疾病名とは異なることがあるが、読影知識データベースを作成する際は、確定診断の結果を用いる。
以下、図2のフローチャートを用いて読影知識作成の手順を説明する。本実施の形態で対象とする、つまり使用する医用画像撮影装置はマルチスライスCTとし、対象臓器および疾病は、それぞれ肝臓および肝腫瘤とする。
ステップS10では、読影知識を得るための症例が格納されたデータベースから症例を1つ取得する。ここで読影知識を得るための症例の総数をC個とする。1つの症例は、医用画像とその医用画像を読影した結果である読影レポートとの対で構成されている。医用画像がマルチスライスCT装置により取得された場合、1つの症例は多数枚のスライス画像を含むことになる。また、通常、マルチスライスCT画像を医師が読影する場合、重要なスライス画像1〜数枚を、キー画像として読影レポートに添付する。以後、多数枚のスライス画像集合、あるいは、数枚のキー画像を単に「医用画像」、「画像」と呼ぶこともある。
ステップS11では、医用画像から画像特徴量を抽出する。ステップS11の処理を、図3のフローチャートを用いて詳細に説明する。
ステップS111では、対象臓器の領域を抽出する。本実施の形態では肝臓領域を抽出する。肝臓領域抽出法として、例えば、非特許文献:「田中,清水,小畑,“異常部位の濃度パターンを考慮した肝臓領域抽出手法の改良<第二報>”,電子情報通信学会技術研究報告,医用画像,104(580),pp.7−12,2005年1月」等の手法を用いることができる。
ステップS112では、ステップS111で抽出された臓器領域から病変領域を抽出する。本実施の形態では肝臓領域から腫瘤領域を抽出する。肝腫瘤領域抽出法として、例えば、非特許文献:「中川、清水,一杉,小畑,“3次元腹部CT像からの肝腫瘤影の自動抽出手法の開発<第二報>”,医用画像,102(575),pp.89−94,2003年1月」等の手法を用いることができる。ここで、i番目の症例における画像から抽出した腫瘤の数をMとすると、腫瘤は(症例番号,腫瘤番号)の組(i,j)で特定できる。ここで、1≦i≦C,1≦j≦Mである。また本実施の形態では病変として肝腫瘤を対象としているため、“腫瘤番号”と呼んだが、本発明で共通の表現を用いて“病変番号”と呼ぶこともできる。
ステップS113では、ステップS112で抽出された病変領域のうち、1つの領域を選択する。
ステップS114では、ステップS113で選択された病変領域から画像特徴量を抽出する。本実施の形態では、画像特徴量として、非特許文献:「根本,清水,萩原,小畑,縄野,“多数の特徴量からの特徴選択による乳房X線像上の腫瘤影判別精度の改善と高速な特徴選択法の提案”,電子情報通信学会論文誌D−II,Vol.J88−D−II,No.2,pp.416−426,2005年2月」に記載された490種類の特徴量のうち、肝腫瘤にも適用可能な特徴量をいくつか選択して用いる。この特徴量数をN個とする。本ステップで抽出された特徴量は、(症例番号,この症例(医用画像)から抽出された腫瘤番号,特徴量番号)の組(i,j,k)で特定できる。ここで、1≦i≦C,1≦j≦M,1≦k≦Nである。
ステップS115では、ステップS112で抽出された病変領域のうち未選択の病変があるかどうかをチェックし、未選択の病変がある場合は、ステップS113に戻り未選択の病変領域を選択した後、ステップS114を再実行する。未選択の病変がない場合、すなわち、ステップS112で抽出された全ての病変領域に対し、ステップS114の特徴量選択を行った場合は図3のフローチャートの処理を終了し、図2のフローチャートに戻る。
図2のステップS12では、読影レポートの解析処理を行う。具体的には読影レポートから読影項目および疾病名を抽出する。本実施の形態では読影項目が格納された読影項目単語辞書、および疾病名が格納された疾病名単語辞書を用いた、形態素解析および構文解析を行う。これらの処理により、各単語辞書に格納された単語と一致する単語を抽出する。形態素解析技術としては、例えば、非特許文献:MeCab(http://mecab.sourceforge.net)やChaSen(http://chasen−legacy.sourceforge.jp)等が、構文解析技術としては、非特許文献:KNP(http://nlp.kuee.kyoto−u.ac.jp/nl−resource/knp.html)、CaboCha(http://chasen.org/〜taku/software/cabocha/)等が存在する。読影レポートは医師により読影レポート独特の表現で記述されることが多いので、読影レポートに特化した形態素解析技術、構文解析技術、各単語辞書を開発することが望ましい。
図4は腹部CT検査の読影レポートの例であり、図5は図4の読影レポートから抽出された読影項目および疾病名を示す。読影項目は通常複数個、疾病名は1個抽出される。i番目の症例における読影レポートから抽出した読影項目の数をNとすると、読影項目は(症例番号,読影項目番号)の組(i,j)で特定できる。ここで、1≦i≦C,1≦j≦Nである。
また、図5では、読影項目および疾病名の単語のみを抽出しているが、読影レポートにおける病変の位置を表す文字列、時相を表す文字列を同時に抽出してもよい。ここで、時相について補足する。肝臓の病変の鑑別には、造影剤を急速静注して経時的に撮像する造影検査が有用とされている。肝臓の造影検査では一般に、肝動脈に造影剤が流入し多血性の腫瘍が濃染する動脈相、腸管や脾臓に分布した造影剤が門脈から肝臓に流入し肝実質が最も造影される門脈相、肝の血管内外の造影剤が平衡に達する平衡相、肝の間質に造影剤が貯留する晩期相などにおいて、肝臓が撮像される。読影レポートには病変の臓器における位置や、造影検査であれば着目した時相の情報が記述されていることが多い。このため、読影項目だけでなく位置や時相の情報も合わせて抽出することで、後で説明する読影知識の抽出に有効となる。図6に、読影項目と同時に位置と時相の情報を抽出した例を示す。例えば、図4の読影レポートを解析し、「肝S3区域に早期濃染を認め」という文節から「早期濃染」の位置属性として「肝S3区域」が抽出される。同様に、「後期相でwashoutされており」という文節から「washout」の時相属性として「後期相」が抽出される。
図4の読影レポートを、単純に解釈すると、図6のように「早期濃染」に関する時相、washoutに関する位置の部分が空白になる。これに対し、読影項目「早期濃染」は早期相に対応した単語であるという事前知識を利用したり、「早期濃染」の状態を示す腫瘤と「後期相でwashout」される腫瘤が同一の腫瘤を指すという文脈解釈を行ったりすることができれば、抽出される位置と時相の情報は図7のようになる。
ステップS13では、読影知識を得るための症例が格納されたデータベースにおいて未取得の症例があるかどうかをチェックし、未取得の症例がある場合は、ステップS10に戻り未取得の症例を取得した後、ステップS11およびS12を実行する。未取得の症例がない場合、すなわち、全ての症例に対し、ステップS11の画像特徴抽出およびステップS12のレポート解析を実施済の場合は、ステップS14に進む。
ステップS11とステップS12の結果は相互に依存しないため、実行順は逆でも構わない。
ステップS14に到達した時点で、例えば、図8で表されるデータ一式が取得される。つまり、症例ごとに画像特徴量と読影項目と疾病名とが取得される。症例番号1の症例については、医用画像中にM1個の病変が含まれており、各病変から抽出される画像特徴量の個数はNF個である。また、読影レポート中の読影項目の数はN1個である。例えば、病変番号(1,1)で示される1つ目の病変のうち、1つ目の画像特徴量の値は0.851である。また、読影項目番号(1,1)で示される1つ目の読影項目の値は「早期濃染」である。図8の例では、各画像特徴量は0以上1以下の数値であり、読影項目および疾病名は文字列である。画像特徴量として負の値または1より大きな値をとるものを用いても良い。また、読影項目および疾病名として、予め定めた単語IDの形式にてデータを格納してもよい。
ステップS14では、ステップS11で得られた画像特徴量、ステップS12で得られた読影項目および疾病名から、読影知識を抽出する。本実施の形態では、画像特徴量、読影項目、疾病名という三項のうちの二項の相関関係を、読影知識とする。
以下では、画像特徴量、読影項目、疾病名という三項から得られる三組の二項の相関関係について説明する。
(1)(画像特徴量−読影項目)間の相関関係
1対の(画像特徴量,読影項目)間の相関関係の求め方について説明する。相関関係の表現形態は複数あるが、ここでは相関比を用いる。相関比は、質的データと量的データとの間の相関関係を表す指標であり、(式1)で表される。
Figure 2013001584
読影レポート中に、ある読影項目を含む場合および含まない場合の2カテゴリを考え、これを質的データとする。医用画像から抽出した、ある画像特徴量の値そのものを量的データとする。例えば、読影知識を抽出するための症例データベースに含まれる全症例に対し、読影レポートを、ある読影項目を含むものまたは含まないものに区分する。ここでは、読影項目「早期濃染」と画像特徴量「早期相における腫瘤内部の輝度平均値」との相関比を求める方法について説明する。(式1)においては、カテゴリi=1を「早期濃染」を含むもの、カテゴリi=2を「早期濃染」を含まないものとする。読影レポートに「早期濃染」を含む症例から抽出した腫瘤画像の「早期相における腫瘤内部の輝度平均値」であるj番目の観測値をx1jとする。また、読影レポートに「早期濃染」を含まない症例から抽出した腫瘤画像の「早期相における腫瘤内部の輝度平均値」であるj番目の観測値をx2jとする。「早期濃染」とは造影早期相にてCT値が上昇することを表すため、この場合、相関比が大きく(1に近く)なることが予想される。また、早期濃染は腫瘤の種類に依存し、腫瘤の大きさには依存しないため、読影項目「早期濃染」と画像特徴量「腫瘤面積」との相関比は小さく(0に近く)なることが予想される。このようにして、全ての読影項目と全ての画像特徴量との間の相関比を計算する。
図9に、読影項目と画像特徴量との間の相関関係(ここでは、相関比)の概念図を示す。左側には複数の読影項目、右側には複数の画像特徴量の名称が列挙されている。そして、相関比が閾値以上の読影項目と画像特徴量の間が実線で結ばれている。相関比は0以上1以下の値をとるため、閾値として0.3〜0.7程度の値を用いることができる。計算した相関比を最終的に閾値で二値化すると、図9のような情報が求められることになる。その一例について補足する。肝腫瘤の造影CT検査においては、殆どの腫瘤は造影剤使用前のCT画像(単純、単純CT、単純相などと呼ぶ)で低濃度に描出され、多くの場合、読影レポートに「低濃度」、「LDA(Low Density Area)あり」などと記述される。そのため、「低輝度」や「LDA」といった読影項目と、造影剤使用前のCT画像における腫瘤内部の輝度平均(図9では「単純相 輝度平均」と略記載)との相関が大きくなる。
また、図10に、読影項目と画像特徴量との間の相関関係(例えば、相関比)の別の概念図を示す。この図では、相関比を多値表現しており、読影項目と画像特徴量の間の実線の太さが相関比の大きさに相当している。例えば、造影早期相にてCT値が上昇する「早期濃染」と、早期動脈相(早期相、動脈相とも略される)における腫瘤内部の輝度平均(図10では「動脈相 輝度平均」と略記載)との相関が大きくなっている。
相関比の値に着目することで、ある読影項目と相関の高い画像特徴量を特定することができる。実際には1つの症例には、複数の画像や複数の病変(腫瘤)を含む場合が多く、その場合は読影レポートには複数の病変に関する記載が含まれることになる。例えば、造影CT検査では、造影剤使用前や使用後の複数時刻におけるタイミングでCT撮影を行う。そのため、スライス画像の集合が複数得られ、スライス画像の1つの集合には複数の病変(腫瘤)が含まれ、1つの病変からは複数の画像特徴量が抽出される。そのため、(スライス画像集合数)×(1人の患者から検出された病変数)×(画像特徴量の種類数)の個数だけ画像特徴量が得られ、これら複数の画像特徴量と、1つの読影レポートから抽出された複数の読影項目や疾病名との相関関係を求める必要がある。もちろん大量の症例を用いることにより、対応が正しく得られる可能性があるが、図7のように病変位置と時相を用いる等して、読影レポートの記載と、対応する画像特徴量とをある程度事前に対応づけることができれば、より正確に相関関係を求めることができる。
先の説明では、質的データが、ある読影項目を含むものおよび含まないものの2カテゴリである場合について説明したが、ある読影項目(例えば、「境界明瞭」)と、その対義語となる読影項目(例えば、「境界不明瞭」)との2カテゴリであってもよい。また、読影項目が「低濃度」、「中濃度」、「高濃度」などの序数尺度の場合は、それらの各々をカテゴリとして(この例では3カテゴリ)、相関比を計算してもよい。
また、「低濃度」、「低輝度」、「低吸収」などの同義語については、予め同義語辞書を作成しておき、それらを同一の読影項目として扱う。
(2)(画像特徴量−疾病名)間の相関関係
1対の(画像特徴量,疾病名)間の相関関係については、(画像特徴量,読影項目)間の場合と同じく相関比を用いることができる。図11に、疾病名と画像特徴量との間の相関関係(例えば、相関比)の概念図を示す。この図では図9と同じく相関関係を二値表現しているが、もちろん図10のような多値表現を行うことも可能である。
(3)(読影項目−疾病名)間の相関関係
1対の(読影項目,疾病名)間の相関関係の求め方について説明する。相関関係の表現形態は複数あるが、ここでは対数尤度比を用いる。対数尤度比は、質的データ間の共起の強さを表す指標であり、(式2)で表される。
Figure 2013001584
(式2)から分かる通り、対数尤度比は、事象X,Yおよび排反事象¬X,¬Yも考慮に入れた共起指標と見なすことができる。
なお、対数尤度比の代わりに、(式3)で示される支持度、(式4)で示される確信度、(式5)で示されるリフト値等を用いても良い。その他、conviction,φ係数を用いても良い。conviction,φ係数については相関ルール分析に関する文献(例えば、非特許文献:「データマイニングとその応用」、加藤/羽室/矢田 共著、朝倉書店)に記載されている。
Figure 2013001584
この支持度は、全症例において読影項目Xと疾病名Yとが同時に出現する確率(共起確率)を意味する。読影項目Xと疾病名Yが多くの読影レポートに同時出現すれば、読影項目Xと疾病名Yの関連性(相関性)が強いと見なす。
Figure 2013001584
確信度とは、条件部Xのアイテムの出現を条件としたときの結論部Yのアイテムが出現する確率である。読影項目Xが出現している読影レポートにて、疾病名Yが多く出現していれば、読影項目Xと疾病名Yの関連性が強いと見なす。
Figure 2013001584
リフト値とは、読影項目Xの出現を条件としないときの疾病名Yの出現確率に対して、読影項目Xの出現を条件としたときの疾病名Yの出現確率(すなわち確信度)がどの程度上昇したかを示す指標である。リフト値が1.0であるということは、読影項目Xが出現してもしなくても疾病名Yの出現確率は変わらないことを意味し、ルール(読影項目X⇒疾病名Y)は興味深くないと考える。これは、読影項目Xの出現と、疾病名Yの出現が統計的に独立であることを意味する。リフト値が1.0より大きく、かつ、その値が大きければ大きいほど興味深いルールと見なす。つまり、読影項目Xと疾病名Yとの相関が大きいとみなす。
図12に、読影項目と疾病名との間の相関関係(例えば、対数尤度比)の概念図を示す。この図では図9と同じく相関関係を二値表現しているが、もちろん図10のような多値表現を行うことも可能である。
以上の方法にて、ステップS14の処理を行うと、図13、図14、図15のような、(画像特徴量−読影項目)間の相関関係、(画像特徴量−疾病名)間の相関関係、(読影項目−疾病名)間の相関関係が、それぞれ得られる。なお表中の数値は、図13、図14では相関比、図15では対数尤度比である。相関比は0以上1以下の値をとる。対数尤度比は0以上の値をとる。また、得られた相関関係は、図13、図14、図15の形式にて読影知識データベース110に格納される。
<類似症例検索>
以下、図16のフローチャートおよび図17の類似症例検索画面例を用いて類似症例検索の手順について説明する。図17に示す類似症例検索画面例は、読影対象画像表示部130、レポート入出力部140および類似症例表示部190の表示部を1台の表示装置で兼用した際に、その表示装置の画面例である。
ステップS20では、読影対象画像読込部120により、医用画像撮影装置から読影対象画像を取得する。図2の読影知識作成時と同じく、本実施の形態で対象とする医用画像撮影装置はマルチスライスCTとし、対象臓器および疾病は肝腫瘤とする。読み込まれた画像(図17における読影対象画像201)は、読影対象画像表示部130に表示される。
ステップS21では、読影者は読影対象画像表示部130に表示された読影対象画像を参照しながら、レポート入出力部140を通して読影レポートを入力する。入力された読影レポートは、図17における読影レポート入出力領域210に表示される。マルチスライスCT装置の場合、再構成により通常、体軸に対して垂直な面(axial view)のスライス画像が複数枚得られる。読影者は、これら複数のスライス画像に対し、スライス位置を変えながら病変(本実施の形態では肝腫瘤)の有無を確認し、読影レポートを入力する。読影レポートを入力する際、読影対象画像にて検出した病変の位置(スライス番号、および、スライス画像上における座標や領域情報)を、読影者がマウスなどの入力機器により指定してもよい。読影対象画像に複数の病変が存在し、読影レポートにその複数の病変に関する記述を行う場合は、読影対象画像の病変と読影レポートにおける記述との対応を明確に記録しておけば、この読影レポートを用いて、読影知識データベース110を作成する際に有用である。
病変位置または領域の指定について、図18を用いて説明する。図18に示すは読影対象画像300(ここでは腹部CT)には、腹部の周囲310と、対象臓器(ここでは肝臓)320と、病変領域330とが含まれる。座標を指定する場合は、例えば、腫瘤の中心位置付近(図18の点340)をマウスでクリックする。領域を指定する場合は、図18の病変領域330を矩形、円または楕円で囲む方法や、病変部(図18の病変領域330)と正常組織(図18の病変領域330の外側)間との境界を自由曲線で指定する方法がある。中心座標のみを指定する場合や、矩形、円または楕円等で囲むことにより領域を指定する場合は、読影者の負担が小さいという利点があるが、画像特徴量抽出のために、別途、正確な病変領域を画像処理アルゴリズムにより自動抽出する必要がある。腫瘤領域抽出については、ステップS112と同じ手法を用いることができる。
ステップS22では、読影者からの類似症例検索の要求を受け付ける。
典型的な症状を有する腫瘤の場合や読影者が熟練者の場合、通常は迷うことなく読影レポートの記入が完了する。非典型な症状を有する腫瘤の場合や読影者の熟練度が低い場合などは、読影者が読影端末200において類似症例検索要求を行う。類似症例検索の要求は、例えば、図17における類似症例検索アイコン220をマウスクリックすることにより行われる。読影対象画像に複数の病変が存在する場合は、診断に迷っている病変を指定した後、類似症例検索要求を行う。
この病変の指定について説明する。ステップS21の読影レポート記入時に、診断に迷っている病変を含めて既に病変の位置や領域が複数指定されていれば、そのうちのどれかを選択するだけでよい。ステップS21にて、診断に迷っている病変を指定していなければ、ここで新たに病変を指定する。指定の方法として、病変の中心付近の1点を指定してもよいし、病変領域を指定してもよい。点や領域の指定については、ステップS21と同じ方法を用いることができる。中心付近の1点が指定された場合は、指定された点を基準としてその近傍領域からステップS112と同じ方法を用いて詳細な病変領域を設定する。病変領域を大まかに指定した場合は、この領域の中からステップS112と同じ方法を用いて詳細な病変領域を設定する。
そして、読影者からの類似症例検索要求があった場合は、ステップS23に進む。この時、読影レポートは記入完了の状態であってもよく、記入途中であってもよい。全く未記入の状態でも後のステップS25での類似症例検索は実行可能であるが、その場合は、本発明の特徴である読影者の着目点に応じた類似症例検索は実行されず、予め設定された標準的な画像特徴量集合で類似症例検索を実行することになる。
また、読影レポート記入時間が一定以上経過した場合、もしくは、読影者から読影終了に関する入力があった場合は、図16の処理を終了する。類似症例検索要求、読影終了入力を受理するための処理部は図1には図示していないが、読影端末200のキーボード内等に内蔵された物理的なスイッチでもよいし、医療用の高精細モニタ等で構成される読影対象画像表示部130に表示されたGUIメニュー等でもよい。図17は、GUIメニューの例であり、類似症例検索アイコン220は類似症例検索要求を受理する仮想ボタンであり、アイコン230は読影終了入力を受理する仮想ボタンである。
ステップS23では、画像特徴抽出部160は、読影対象画像に対して、ステップS22にて指定または抽出された病変領域から画像特徴量を抽出する。指定または抽出された病変領域が複数あればその全てに対して、予め定めているN個の特徴量を抽出する。画像特徴量の抽出方法は、ステップS114と同じである。
ステップS24では、レポート解析部150は、ステップS21にて記入された読影レポートの解析を行う。ここでは、読影知識データベースの作成時におけるステップS12の、読影項目および疾病名の抽出と同じ処理を実行する。
ステップS25では、重み決定部170および類似症例検索部180は、読影対象画像および読影者が記入した読影レポートを基にして、症例データベース100から類似症例を検索する。検索された類似症例は、図17の類似症例出力領域240に表示される。ここでは、ステップS21にて読影者が図4の読影レポートを記入済、ステップS24にて図5の読影項目および疾病名が抽出済、ステップS23で読影対象画像から画像特徴量が抽出済の状況を考える。また、読影知識データベース110には、図13、図14、図15のような画像特徴量、読影項目、疾病名の三項のうち二項間の相関関係が格納済であるとする。
本実施の形態では、読影レポートから抽出された読影項目および疾病名の少なくとも1つを基に、類似症例検索にて重み付け距離計算を行う。即ち、抽出された読影項目および疾病名の少なくとも1つと関連する画像特徴量に関しては重みを相対的に大きく、関連しない画像特徴量に関しては重みを相対的に小さくする。これにより、読影レポートに記入された医師の着目点を反映した類似症例検索が可能となる。つまり、類似症例検索部180は、症例データベース100に記憶されている症例に含まれる医用画像と読影対象画像との間で重み付け距離を算出する。類似症例検索部180は、所定の閾値よりも小さい重み付け距離の算出の元となった医用画像を含む症例を類似症例として、症例データベース100から検索する。または、類似症例検索部180は、小さいものから所定個数の重み付け距離の算出の元となった医用画像を含む症例を類似症例として、症例データベース100から検索する。
重み付け距離は、例えば(式6)にて計算できる。
Figure 2013001584
ここで、xは、読影対象画像から抽出された複数(N個)の画像特徴量を全て連結したベクトルである。uは、症例データベース100に格納された症例のうち、i番目の症例から抽出された画像特徴量である。異なる種類の画像特徴量を連結する際は、特徴量毎のスケールの違いに影響を受けないよう正準化(平均0、分散1に正規化)を行っておく。
以下に重み付け方法の具体例を示す。
(1)読影レポートから読影項目および疾病名の両方が抽出できた場合
このケースは、読影者が読影レポートをほぼ記入終了し、類似症例検索の結果で記入内容の確信を高めようとしている状況に相当する。
ここでは、(読影項目−画像特徴量)間の相関関係と、(読影項目−疾病名)間の相関関係を用いて重み付けを行う例について説明する。前者は、工学的な画像特徴量と医学的な(言い換えれば、“医師の観点で決定された”)読影項目との対応関係を示し、画像特徴量を医学的に意味付けることに相当する。後者は、医師の観点で決定された読影項目と(その読影項目の組合せで決定された)疾病名との対応関係を示し、医師が有している診断知識に相当する。後述する方法でこの2つの相関関係を併用する場合、両者を同時に考慮して、類似症例検索を行うことができる。具体的には、読影レポートに複数の読影項目が記入されている場合、読影項目が疾病名の決定に影響する度合に応じて、(読影項目−画像特徴量)間の重みを合成できる。
(疾病名−画像特徴量)間の相関関係も使用可能ではあるが、次の理由から今回は用いないこととする。ある疾病が複数の症状(例えばA,B,Cの3種類)を持つ場合、症状Aと相関のある画像特徴量と、症状Bと相関のある画像特徴量はそれぞれ異なる。疾病名から画像特徴量の重みを決定する場合、症状A,B,Cの画像特徴量の重みが混在したもの(平均化されたもの)を用いることとなる。読影項目にて複数ある症状のうち症状を特定している場合が多いため、記入された読影項目を用いれば医師の着目点に合った類似症例検索が行える。
この時点で、図4の読影レポートから図5のように読影項目として「早期濃染」「washout」が、疾病名として「肝細胞がん」が抽出されている。重み決定部170は、読影知識データベース110における図15の形式で格納された(読影項目−疾病名)間の相関関係テーブルを参照し、(早期濃染−肝細胞がん)間の相関関係と(washout−肝細胞がん)間の相関関係を取得する。ここでは取得した相関関係を表す数値をそのまま重みとして用い、それぞれw,wと表す。また、重み決定部170は、読影知識データベース110における図13の形式で格納された(画像特徴量−読影項目)間の相関関係テーブルを参照し、「早期濃染」と全ての画像特徴量間の相関関係と、「washout」と全ての画像特徴量間の相関関係を取得する。ここでは取得した相関関係を表す数値をそのまま重みとして用い、それぞれwa,i,wb,iと表す。ここで、iは画像特徴量の種類を現す添字である。重み決定部170は、これらの重みを用いて、i番目の画像特徴量に対応する重みWを(式7)のように計算する。
Figure 2013001584
以上の重み付け方法について、図19に概要を示した。
例えば、4番目の画像特徴量「エッジ強度」に対する重みは、wa,4と、wb,4との和として求められる。ここで、wa,4は、(早期濃染−エッジ強度)間の相関関係を表す値wa,4を、同じ読影項目を含む(早期濃染−肝細胞がん)間の相関関係を表す値wで重み付けした値である。wb,4は、(washout−エッジ強度)間の相関関係を表す値wb,4を、同じ読影項目を含む(washaout−肝細胞がん)間の相関関係を表す値wで重み付けした値である。
読影項目の個数が2以外の場合でも、(読影項目−疾病名)間の相関関係で重み付けした後の(読影項目−画像特徴量)間の相関関係を加算することで対応可能である。この式により、読影者が着目した読影項目および疾病名、読影項目と疾病名との関連性、および、読影項目と画像特徴量との関連性、を同時に考慮した重みが計算でき、その結果、それらを重視した類似症例検索が可能となる。具体的には、複数の読影項目が記入されている場合、読影項目が疾病名の決定に影響する度合に応じて、(読影項目−画像特徴量)間の重みを合成できる。
また、図16のフローチャートでは類似症例検索要求があった場合のみ類似症例検索を実行するが、読影レポート記入中の他のタイミングで類似症例検索を実行してもよい。他のタイミングとしては、少なくとも1個以上の読影項目または疾病名を記入後、一定時間以上、読影レポートの記入がされない場合などである。これは、読影者が読影に迷っていると解釈し、ヒントとなる類似症例を先回りして提示することにより読影を進展させることを意図した動作方法である。本実施の形態では、少なくとも1個以上の読影項目または疾病名が記入された場合、読影者のその着眼点を基に類似症例検索を実行することができる。以降に、読影レポートから読影項目のみが抽出できた場合、および、疾病名のみが抽出できた場合についても説明する。
(2)読影レポートから読影項目のみが抽出できた場合
このケースは、読影者が着目すべき読影項目は判断できたものの、最終的な疾病名の診断に迷っており、類似症例検索の結果で疾病名診断のヒントを得ようとしている状況に相当する。ここでは、(読影項目−画像特徴量)間の相関関係のみを用いて重み付けを行う。
この時点で、図示せぬ読影レポートから読影項目として「早期濃染」、「washout」が抽出されているとする。重み決定部170は、読影知識データベース110における図13の形式で格納された(画像特徴量−読影項目)間の相関関係テーブルを参照し、「早期濃染」と全ての画像特徴量間の相関関係と、「washout」と全ての画像特徴量間の相関関係を取得する。ここでは取得した相関関係を表す数値をそのまま重みとして用い、それぞれwa,i,wb,iと表す。ここで、iは画像特徴量の種類を現す添字である。これらの重みを用い、i番目の画像特徴量に対応する重みWを、(式8)のように計算する。
Figure 2013001584
以上の重み付け方法について、図20に概要を示した。
例えば、4番目の画像特徴量「エッジ強度」に対する重みは、(早期濃染−エッジ強度)間の相関関係を表す値wa,4と、(washout−エッジ強度)間の相関関係を表す値wb,4とを足した値である。
読影項目の個数が2以外の場合も、(読影項目−画像特徴量)間の相関関係を加算することで対応可能である。この式により、読影者が着目した読影項目、および、読影項目と画像特徴量との関連性、を同時に考慮した重みが計算でき、その結果、それらを重視した類似症例検索が可能となる。但し、抽出された読影項目が複数ある場合はそれらを均等に扱うことになり、読影項目の中での優先順位づけはできていない。読影項目のみで類似症例検索を行い、検索結果の症例が疾病名推定のヒントになり、推定された疾病名を新たに読影レポートに記入することができれば、「(1)読影レポートから読影項目および疾病名の両方が抽出できた場合」で説明したように、読影項目が疾病名の決定に影響する度合に応じて、(読影項目−画像特徴量)間の重みを合成できる。
(3)読影レポートから疾病名のみが抽出できた場合
このケースは、読影者が直感等で疾病名を推定したがその根拠となる読影項目の判断に迷っており、類似症例検索の結果で診断根拠(読影項目)のヒントを得ようとしている状況に相当する。ここでは、(疾病名−画像特徴量)間の相関関係のみを用いて重み付けを行う。
この時点で、読影レポートから疾病名として「肝細胞がん」が抽出されているとする。重み決定部170は、読影知識データベース110における図14の形式で格納された(画像特徴量−疾病名)間の相関関係テーブルを参照し、「肝細胞がん」と全ての画像特徴量間の相関関係を取得する。ここでは取得した相関関係を表す数値をそのまま重みとして用い、wと表す。ここで、iは画像特徴量の種類を現す添字である。これらの重みを用い、i番目の画像特徴量に対応する重みWを、(式9)のように計算する。
Figure 2013001584
以上の重み付け方法について、図21に概要を示した。
例えば、4番目の画像特徴量「エッジ強度」に対する重みは、(肝細胞がん−エッジ強度)間の相関関係を表す値wである。
疾病名は通常1個であるため、上記の処理を行えばよいが、2個以上の疾病名が記入された場合などは、それらを加算することで対応可能である。加算することにより、2個以上の疾病に対し、平均的な画像特徴量で類似症例検索が可能となる。この式により、読影者が着目した疾病名、および、疾病名と画像特徴量との関連性、を同時に考慮した重みが計算でき、その結果、それらを重視した類似症例検索が可能となる。疾病名のみで類似症例検索を行い、検索結果の症例が読影項目推定のヒントになり、推定された読影項目を新たに読影レポートに記入することができれば、「(1)読影レポートから読影項目および疾病名の両方が抽出できた場合」で説明したように、読影者が着目した読影項目および疾病名、読影項目と疾病名との関連性、および、読影項目と画像特徴量との関連性、を同時に考慮した重みが計算でき、その結果、それらを重視した類似症例検索が可能となる。
なお、本実施の形態では、(式6)の重み付け距離を用いて画像間の類似判定を行ったが、用いる特徴量の総次元数が大きくなってくると、計算された距離において、相関比が小さい(または中程度)多数の特徴量のために、相関比の大きい特徴量が埋没する可能性がある。その場合は、対応する相関比が所定の閾値以上の画像特徴量のみを距離計算に使用する、あるいは、相関比の上位数個の画像特徴量のみを距離計算に使用するなどの方法を採用してもよい。その場合の個数は事前に定めておけばよい。
以上、本実施の形態における類似症例の検索では、読影レポートから抽出された読影項目および疾病名の少なくとも1つを基に、類似症例検索にて重み付け距離計算を行う。即ち、抽出された読影項目および疾病名の少なくとも1つと関連する画像特徴量に関しては重みを相対的に大きく、関連しない画像特徴量に関しては重みを相対的に小さくする。これにより、読影レポートに記入された医師の着目点を反映した類似症例検索が可能となる。
ここで、3種類の重み付け方法の使い分けについて説明する。
読影レポートに、読影項目および疾病名の両方が記入されていれば図19の重み付け方法を、読影項目のみが記載されていれば図20の重み付け方法を、疾病名のみが記載されていれば図21の重み付け方法を使用する。発明者らは図19の重み付け方法が最も望ましいと考えている。一方、図20や図21の方法を用いて類似症例検索を行い、検索結果の類似症例を参考にして、欠けていた疾病名や読影項目を読影レポートに追記することができる。その段階で、図19の重み付け方法が使用可能になる。そうすれば類似症例検索の精度が向上し、さらに類似した検索結果を参考にでき、読影レポートを更新できる。このように、本発明を利用して、読影レポートを更新する度に検索を行うことで、診断精度を向上させることができる。
(実施の形態2)
実施の形態1では、読影者が読影レポートに記入した読影の着目点を反映した画像検索(類似症例検索)について説明した。研修医など経験の浅い読影者の場合、記入した読影レポートの内容が不適切となる可能性があり、その場合は不適切な着目点を反映した画像検索を行うことになる。但し、この場合でも、不適切な着目点に対応する画像特徴量での(別の観点での)類似画像検索が実行されるだけであり、全く類似していない症例が検索されることはない。類似検索の結果よりもむしろ、不適切な読影レポートが作成されることが問題になる。本実施の形態では、この問題を未然に防止する類似症例検索装置の動作について説明する。
本発明の実施の形態2における類似症例検索装置の構成は、実施の形態1における図1に示したものと同様である。実施の形態1と同一の構成要素については、説明を省略する。
読影知識データベース110には、複数の症例を解析することにより事前に得た読影知識が格納されている。格納される読影知識の内容が実施の形態1とは少し異なっており、詳細については後述する。重み決定部170は、レポート解析部150で抽出されたテキスト特徴量、画像特徴抽出部160で抽出された画像特徴量、および、読影知識データベース110に格納された読影知識から、レポート解析部150で抽出されたテキスト特徴量の妥当性を判定すると共に、画像検索で使用する複数の画像特徴量に対する重みを決定する。
以後、本発明の実施の形態2に関する各部の動作について説明する。
<読影知識データベースの事前作成>
類似症例検索を行うに当たり、事前に読影知識を得て、読影知識データベース110に格納しておく。読影知識は、医用画像とその医用画像を読影した結果である読影レポートとの対から構成される症例を複数集めたものから得られる。症例として、類似症例検索時にその中から類似症例を検索するための症例データベース100に格納されたものを用いてもよいし、他のデータベースに格納されたものを用いてもよい。必要な症例数は、種種のデータマイニングアルゴリズムを用いて何らかの法則性および知識を得るために十分となる数である。通常は数百〜数万個のデータが用いられる。本実施の形態では、読影知識として、(1)画像特徴量、(2)読影項目、(3)疾病名の三項のうち二項間の相関関係、および、ある読影項目または疾病名に対応する少なくとも1種類以上の画像特徴量の値の分布を用いる。
以下、図2のフローチャートを用いて読影知識作成の手順について説明する。実施の形態1と同様、本実施の形態で対象とする、つまり使用する医用画像撮影装置はマルチスライスCTとし、対象臓器および疾病は肝腫瘤とする。
ステップS10からステップS13までの動作は実施の形態1と同じである。ステップS14に到達した時点で、図8で表されるデータ一式が取得されている。
ステップS14では、ステップS11で得られた画像特徴量、ステップS12で得られた読影項目および疾病名から、読影知識を抽出する。読影知識のうち、二項間の相関関係に関しては、実施の形態1と同様であるので説明を省略する。画像特徴量の値の分布に関しては、以下で、ある読影項目または疾病名に対応する“1種類”の画像特徴量の値の分布を読影知識とする場合の説明を行う。
(1)読影項目に対応する画像特徴量の分布
図22(a)は、肝腫瘤画像に対応する読影レポート中に、読影項目「境界明瞭」が記載されている症例における画像特徴量「エッジ強度」の値の分布を示す図であり、図22(b)は、上記読影レポート中に、読影項目「境界明瞭」が記載されていない症例における画像特徴量「エッジ強度」の値の分布を示す図である。画像特徴量「エッジ強度」は、腫瘤(病変)領域と正常組織の領域間の境界エッジ上での輝度の一階差分の値とする。読影レポートに「境界明瞭」と記載されている症例においては、腫瘤境界のエッジ強度が大きいことが多く、図22(a)のような偏りのある分布になる。一方、エッジ強度が大きくても疾病名診断に寄与しない場合は読影レポートに「境界明瞭」と記載されないことが多い。このため、図22(b)は、図22(a)に比べて偏りが小さくなる。また、通常は、ある読影項目が記載される症例数よりも記載されない症例数の方が多いことから、頻度の総和(図22のグラフの積分値)は、図22(a)よりも図22(b)が大きくなる傾向にある。
以上から、本実施の形態では、「ある読影項目(または疾病名)が読影レポートに記載された症例に含まれる腫瘤画像から抽出された画像特徴量の分布」を、読影知識として新たに用いる。この時、(読影項目(または疾病名),画像特徴量)の組合せにおいて、別途算出済の相関関係(例えば、相関比)が予め定めた閾値以上である場合のみ、画像特徴量の分布を算出する。ある読影項目(または疾病名)が記載されている症例にて図22(a)のように画像特徴量の分布に偏りがある場合でも、その読影項目または疾病名が記載されていない症例で同じように分布に偏りがある場合は、その読影項目または疾病名が画像特徴量の分布形状を特徴づけているとは言えないためである。
分布の具体的な表現手法として、例えば、ガウス混合モデル(Gaussian Mixture Model)を用いることができる。また、分布の算出には、期待値最大化(EM; Expectation Maximization)アルゴリズムを用いることができる。得られた分布のパラメータは、図23のような形式で読影知識データベース110に格納される。読影項目1と画像特徴量1の交点のセルには、dim次元のパラメータが格納されている。1次元ガウス混合モデルの場合、パラメータは、正規分布の個数、各正規分布の平均および標準偏差、各正規分布に対する重み、である。図23では他のセルは空白になっているが、実際は、別途算出済の相関関係が予め定めた閾値以上である限りは、同様に分布のパラメータが格納されることになる。また、読影項目と画像特徴量の組合せ毎に分布の複雑さは異なるため、分布のパラメータ数がそれぞれ異なっていてもよい。また、Parzen推定などの他手法を用いて分布を表現してもよい。
(2)疾病名に対応する画像特徴量の分布
図24(a)は、肝腫瘤画像に対応する読影レポート中に、疾病名「肝細胞がん」が記載されている症例における画像特徴量「動脈相における腫瘤内部領域の平均輝度」の値の分布を示す図である。図24(b)は、肝腫瘤画像に対応する読影レポート中に、疾病名「嚢胞」が記載されている症例における画像特徴量「動脈相における腫瘤内部領域の平均輝度」の値の分布を示す図である。疾病名が「肝細胞がん」の場合、造影動脈相にて強く造影される(CT値が上昇する)ため、図24(a)のような分布になる。一方、疾病名が「嚢胞」の場合、造影動脈相でも造影されないので、図24(b)のような分布になる。分布の算出は、読影レポート中に読影項目が記載されている症例の場合と同じ方法を用いることができる。この時、読影項目に関して先に説明したように、(疾病名−画像特徴量)の組合せのうち、別途算出済の相関関係が予め定めた閾値以上である場合のみ、画像特徴量の分布を算出する。得られた分布のパラメータは、図25のような形式で読影知識データベース110に格納される。
以上の方法にて、ステップS14の処理を行い、図13、図14、図15の、(画像特徴量−読影項目)間の相関関係、(画像特徴量−疾病名)間の相関関係、(読影項目−疾病名)間の相関関係と、図23の読影項目に関する画像特徴量の分布パラメータ、図25の疾病名に関する画像特徴量の分布パラメータがそれぞれ得られる。また、得られた相関関係、分布パラメータは読影知識データベース110に格納される。
<類似症例検索>
以下、図16のフローチャートを用いて類似症例検索の手順について説明する。
ステップS20からステップS24までの動作は実施の形態1と同じである。
ステップS25では、重み決定部170および類似症例検索部180は、読影対象画像および読影者が記入した読影レポートを基にして、症例データベース100から類似症例を検索する。
本実施の形態では、実施の形態1で説明した、検索時(ステップS24)に抽出した読影項目および疾病名を用いた重み付けによる類似症例検索に加え、重み決定部170が、事前(ステップS14)に抽出した読影知識(読影項目または疾病名に関する画像特徴量の分布)を基に、ステップS24で抽出された読影項目および疾病名の妥当性を検証する。
ここでは、ステップS14にて、読影知識データベース110に、図13、図14、図15の(画像特徴量,読影項目,疾病名)の三項のうち二項間の相関関係、図23の読影項目に関する画像特徴量の分布、図25の疾病名に関する画像特徴量の分布が格納済とする。また、ステップS21にて読影者が図26の読影レポートを記入済とする。ステップS23で読影対象画像から画像特徴量が抽出済とする。ステップS24にて図27の読影項目および疾病名が抽出済とする。
図27の読影項目のうち「境界明瞭」について考える。重み決定部170は、読影知識データベース110に格納された図23のデータから、読影項目「境界明瞭」に対応する全ての画像特徴量の分布を取得する。この時、読影項目「境界明瞭」と相関関係が小さい画像特徴量に関しては分布のパラメータが格納されていないため取得できない。同一種の画像特徴量に関して、取得した画像特徴量の分布とステップS23で抽出した画像特徴量との関係を検証する。ステップS23で抽出した画像特徴量の値をxとすると、(式10)のようにxを中心とした微小幅±δの範囲内で確率密度関数p(i)を積分することにより、画像特徴量xに対するvalidity(x)を計算する。validity(x)は尤度の一種である。このvalidity(x)の値により、読影者が記入した読影項目「境界明瞭」の妥当性を判定する。
Figure 2013001584
図28に、上記で説明した画像特徴量の妥当性判定の様子を示す。図28(b)の画像特徴量xが抽出された場合の方が、図28(a)の画像特徴量xが抽出された場合よりも、記入された読影項目「境界明瞭」の妥当性が高いことを表している。
画像特徴量の種類は複数存在するため、読影項目「境界明瞭」の妥当性は、複数の画像特徴量から評価できる。ここでは、ステップS14で算出した(画像特徴量−読影項目)間の相関関係が大きいものの上位の数個を用いて読影項目の妥当性を判定する。この上位の数個の画像特徴量に対し、全ての妥当性が閾値以上であれば、読影項目「境界明瞭」が最終的に「妥当」と判定される。上位の数個の個数、および、閾値は事前に求めておく。また、「全ての妥当性が閾値以上」(AND条件)としたが、「いずれかの妥当性が閾値以上」(OR条件)の場合に、読影項目「境界明瞭」が最終的に「妥当」と判定してもよい。
重み決定部170は、同様にして、図27の残りの読影項目「低吸収」、疾病名「肝嚢胞」に対しても妥当性を判定する。
また、疾病名に関しては、ここでは図24のような(画像特徴量−疾病名)間の関係(画像特徴量の分布)を基に妥当性を判定したが、図15のような(読影項目−疾病名)間の相関関係を基に妥当性を判定してもよい。
次に、類似症例検索にて重み付け距離計算を行い、類似症例を検索する。この計算は実施の形態1と同じであるため説明を省略する。
重み決定部170が算出した読影項目、疾病名の妥当性判定結果は次のように利用する。
レポート入出力部140は、読影時にレポート入出力部140の入力装置を通して入力された読影レポートに加工を行い、レポート入出力部140の表示装置へ表示する。例えば、図29のように、抽出された読影項目および疾病名のうち、妥当性が低い(妥当性が閾値以下)と判定されたものを、妥当性が高い(妥当性が閾値よりも大きい)と判定されたものと区別可能なように表示する。図29では、矩形で囲まれた3単語が抽出された読影項目または疾病名であり、うち、反転表示されている「境界明瞭」、「肝嚢胞」が、妥当性が低いと判定された読影項目または疾病名である。このような表示を行うことで、読影者は、自分の記入した読影レポートのうち何を根拠として類似症例が検索されているかが把握でき、同時に、類似症例検索装置により妥当性が低いと判定された部分が把握できる。そして、検索された類似症例の診断結果を参照しながら、読影対象の画像に関して再度読影を行うことができる。なお、ここでは、読影項目と疾病名の2つを区別して表示していないが、両者を区別可能なように表示してもよい。また、妥当性を二値(反転表示か否か)で表現しているが、妥当性の値の大きさにより多値表現してもよい。
本実施の形態の冒頭にて、「研修医など経験の浅い読影者の場合、記入した読影レポートの内容が不適切となる可能性があり、その場合は不適切な着目点を反映した画像検索を行うことになる。但し、この場合でも、不適切な着目点に対応する画像特徴量での(別の観点での)類似画像検索が実行されるだけであり、全く類似していない症例が検索されることはない。」と説明したが、妥当性の低い読影項目または疾病名に対応する画像特徴量への重みを0にして検索することにより、不適切な着目点を反映した画像検索を防止できる。例えば、図19において、読影対象画像から抽出した画像特徴を基に判定した結果、読影項目「早期濃染」の妥当性が低い場合、wa,i=0とする。同様にして、読影知識データベース110に格納した図13、図14、図15、図23、図25の読影知識と矛盾するものは妥当性が低いとして、対応する重みを0にしてもよい。多くの読影項目、疾病名が抽出されている場合、妥当性が高いと判定された残りの読影項目および疾病名に対応した画像特徴量への重みを用いて検索が実行される。残りの読影項目、疾病名の数が少ない(予め定めた閾値を下回る)時は、標準的な重みを用いて画像特徴量の重み付けを行い、症例を検索すればよい。
なお、上記では、ある読影項目または疾病名に対応する“1種類の”画像特徴量の値の分布を読影知識とする例について説明したが、2種類以上の画像特徴量の値の分布を読影知識としてもよい。図30に、ある読影項目または疾病名に対応する3種類の画像特徴量の値の分布の例を示す。分布のモデル化は、先の説明と同じく、ガウス混合モデルやParzen推定を用いることができる。また、ある読影項目が含まれる場合の画像特徴量の分布と、ある読影項目が含まれない場合の画像特徴量の分布とが特徴量空間上で良好に分離されているような場合は、SVM(Support Vector Machine)等のパターン識別手法を用いて、それら2つの分布を区別するような識別器を学習し、その識別器の識別結果により妥当性を判定することも可能である。
以上、本実施の形態における類似症例の検索では、実施の形態1と同様に、読影レポートから抽出された読影項目および疾病名の少なくとも1つを基に類似症例検索にて重み付け距離計算を行い、読影者の着目点を反映した類似症例検索が可能となる。加えて、読影レポートの中で類似症例検索に使用した読影項目および疾病名のうち、妥当性が低いと判定されたものを、妥当性が高いと判定されたものと区別可能なように表示することで、読影者に類似症例検索の根拠と、読影レポートの中の妥当性が低い箇所について提示することが可能である。
なお、実施の形態1および2では、医用画像と読影レポートからなる症例について検索を行う例を説明したが、本発明の検索対象は症例に限定されるものではなく、画像と画像に対するテキストデータとからなるデータセットを検索対象とすることもできる。例えば、植物画像とその植物画像に対する説明とからなるデータセットを検索対象とすることも可能である。この場合には、医用画像の画像特徴量の代わりに植物画像の画像特徴量(例えば、花びら数、茎の太さなど)を用い、読影レポートの代わりに植物画像に対する説明を用いることにより、上記説明を作成する際にユーザが着目した画像特徴量を重みとして反映した上で、植物画像の検索を行うことができる。
なお、図31に示すように、読影知識データベース110および読影知識データベース110は、必ずしも類似症例検索装置に備えられていなくてもよく、類似症例検索装置が存在する場所Aとは異なる場所Bに備えられていても良い。この場合、類似症例検索装置の重み決定部170と類似症例検索部180が、それぞれ、ネットワークを介して読影知識データベース110と症例データベース100に接続されている。
また、図32に示すように、類似症例検索装置の本発明に必須の構成要素は、レポート解析部150と、画像特徴抽出部160と、重み決定部170と、類似症例検索部180とであり、その他の構成要素は、本発明の課題を達成するのに必ずしも必要ではない。
また、上記の各装置は、具体的には、マイクロプロセッサ、ROM、RAM、ハードディスクドライブ、ディスプレイユニット、キーボード、マウスなどから構成されるコンピュータシステムとして構成されても良い。RAMまたはハードディスクドライブには、コンピュータプログラムが記憶されている。マイクロプロセッサが、コンピュータプログラムに従って動作することにより、各装置は、その機能を達成する。ここでコンピュータプログラムは、所定の機能を達成するために、コンピュータに対する指令を示す命令コードが複数個組み合わされて構成されたものである。
さらに、上記の各装置を構成する構成要素の一部または全部は、1個のシステムLSI(Large Scale Integration:大規模集積回路)から構成されているとしても良い。システムLSIは、複数の構成部を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM、RAMなどを含んで構成されるコンピュータシステムである。RAMには、コンピュータプログラムが記憶されている。マイクロプロセッサが、コンピュータプログラムに従って動作することにより、システムLSIは、その機能を達成する。
さらにまた、上記の各装置を構成する構成要素の一部または全部は、各装置に脱着可能なICカードまたは単体のモジュールから構成されているとしても良い。ICカードまたはモジュールは、マイクロプロセッサ、ROM、RAMなどから構成されるコンピュータシステムである。ICカードまたはモジュールは、上記の超多機能LSIを含むとしても良い。マイクロプロセッサが、コンピュータプログラムに従って動作することにより、ICカードまたはモジュールは、その機能を達成する。このICカードまたはこのモジュールは、耐タンパ性を有するとしても良い。
また、本発明は、上記に示す方法であるとしても良い。また、これらの方法をコンピュータにより実現するコンピュータプログラムであるとしても良いし、前記コンピュータプログラムからなるデジタル信号であるとしても良い。
さらに、本発明は、上記コンピュータプログラムまたは上記デジタル信号をコンピュータ読取可能な非一時的な記録媒体、例えば、フレキシブルディスク、ハードディスク、CD−ROM、MO、DVD、DVD−ROM、DVD−RAM、BD(Blu−ray Disc(登録商標))、半導体メモリなどに記録したものとしても良い。また、これらの非一時的な記録媒体に記録されている上記デジタル信号であるとしても良い。
また、本発明は、上記コンピュータプログラムまたは上記デジタル信号を、電気通信回線、無線または有線通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送するものとしても良い。
また、本発明は、マイクロプロセッサとメモリを備えたコンピュータシステムであって、上記メモリは、上記コンピュータプログラムを記憶しており、上記マイクロプロセッサは、上記コンピュータプログラムに従って動作するとしても良い。
また、上記プログラムまたは上記デジタル信号を上記非一時的な記録媒体に記録して移送することにより、または上記プログラムまたは上記デジタル信号を上記ネットワーク等を経由して移送することにより、独立した他のコンピュータシステムにより実施するとしても良い。
さらに、上記実施の形態及び上記変形例をそれぞれ組み合わせるとしても良い。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて請求の範囲によって示され、請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。
本発明は、読影者に参考となる類似症例を検索および提示する類似症例検索装置、および、研修読影医のための読影教育装置等に利用可能である。
100 症例データベース
110 読影知識データベース
120 読影対象画像読込部
130 読影対象画像表示部
140 レポート入出力部
150 レポート解析部
160 画像特徴抽出部
170 重み決定部
180 類似症例検索部
190 類似症例表示部
200 読影端末
201、300 読影対象画像
210 読影レポート入出力領域
220 類似症例検索アイコン
230 アイコン
240 類似症例出力領域
310 腹部の周囲
320 対象臓器
330 病変領域
340 点

Claims (10)

  1. 医用画像と当該医用画像を読影した結果が記載された文書データである読影レポートとを含む症例データに類似する症例データを症例データベースより検索する類似症例検索装置であって、
    読影対象の医用画像である読影対象画像から複数の画像特徴量を抽出する画像特徴抽出部と、
    読影者が前記読影対象画像を読影することにより得られる読影レポートである対象読影レポートから、(a)医用画像の特徴を示す文字列である読影項目または(b)医用画像に基づく読影者の診断結果である疾病名を抽出するレポート解析部と、
    医用画像から抽出される各画像特徴量と、前記医用画像に対する読影レポートから抽出される各読影項目または各疾病名との間の関連性を予め定めた二項間関係情報に基づいて、前記画像特徴抽出部が抽出した画像特徴量ごとに、当該画像特徴量と前記レポート解析部が抽出した前記読影項目または前記疾病名との間の関連性が高いほど大きな値の重みを決定する重み決定部と、
    前記画像特徴抽出部で抽出された前記複数の画像特徴量と、症例データベースに登録されている症例データに含まれる医用画像から抽出される複数の画像特徴量とを、前記重み決定部で決定された画像特徴量毎の重みで重み付けして比較することにより、前記読影対象画像に類似する医用画像を含む症例データを前記症例データベースより検索する類似症例検索部と
    を備える類似症例検索装置。
  2. 前記二項間関係情報は、さらに、読影レポートから抽出される読影項目と疾病名との間の関連性を示し、
    前記レポート解析部が前記対象読影レポートから読影項目および疾病名の両方を抽出した場合、前記重み決定部は、前記二項間関係情報に基づいて、前記画像特徴抽出部が抽出した画像特徴量ごとに、当該画像特徴量と前記レポート解析部が抽出した前記読影項目との間の関連性を示す値と、当該読影項目と前記レポート解析部が抽出した前記疾病名との関連性を示す値との積を、当該画像特徴量に対する重みとして決定する
    請求項1記載の類似症例検索装置。
  3. 前記レポート解析部が前記対象読影レポートから読影項目を抽出した場合、前記重み決定部は、前記二項間関係情報に基づいて、前記画像特徴抽出部が抽出した画像特徴量ごとに、当該画像特徴量と前記レポート解析部が抽出した前記読影項目との間の関連性を示す値を、当該画像特徴量に対する重みとして決定する
    請求項1記載の類似症例検索装置。
  4. 前記レポート解析部が前記対象読影レポートから疾病名を抽出した場合、前記重み決定部は、前記二項間関係情報に基づいて、前記画像特徴抽出部が抽出した画像特徴量ごとに、当該画像特徴量と前記レポート解析部が抽出した前記疾病名との間の関連性を示す値を、当該画像特徴量に対する重みとして決定する
    請求項1記載の類似症例検索装置。
  5. 前記重み決定部は、さらに、読影項目ごとの、該読影項目が記載されている読影レポートを作成する基となった医用画像に含まれる各画像特徴量の予め定められた確率分布データに基づいて、前記レポート解析部が抽出した読影項目に対応する前記画像特徴抽出部が抽出した各画像特徴量の尤度が高いほど、前記レポート解析部が抽出した読影項目に対する妥当性が高いと判断する
    請求項1記載の類似症例検索装置。
  6. さらに、前記対象読影レポートを表示する表示部を備え、
    前記表示部は、前記重み決定部が判断した読影項目に対する妥当性の高さに基づいて、前記対象読影レポートに含まれる読影項目を視覚的に区別して表示する
    請求項5記載の類似症例検索装置。
  7. 前記重み決定部は、さらに、疾病名ごとの、当該疾病名が記載されている読影レポートを作成する基となった医用画像に含まれる各画像特徴量の予め定められた確率分布データに基づいて、前記レポート解析部が抽出した疾病名に対応する前記画像特徴抽出部が抽出した各画像特徴量の尤度が高いほど、前記レポート解析部が抽出した疾病名に対する妥当性が高いと判断する
    請求項1記載の類似症例検索装置。
  8. さらに、前記対象読影レポートを表示する表示部を備え、
    前記表示部は、前記重み決定部が判断した疾病名に対する妥当性の高さに基づいて、前記対象読影レポートに含まれる疾病名を視覚的に区別して表示する
    請求項7記載の類似症例検索装置。
  9. 医用画像と当該医用画像を読影した結果が記載された文書データである読影レポートとを含む症例データに類似する症例データを症例データベースより検索する類似症例検索方法であって、
    読影対象の医用画像である読影対象画像から複数の画像特徴量を抽出する画像特徴抽出ステップと、
    読影者が前記読影対象画像を読影することにより得られる読影レポートである対象読影レポートから、(a)医用画像の特徴を示す文字列である読影項目または(b)医用画像に基づく読影者の診断結果である疾病名を抽出するレポート解析ステップと、
    医用画像から抽出される各画像特徴量と、前記医用画像に対する読影レポートから抽出される各読影項目または各疾病名との間の関連性を予め定めた二項間関係情報に基づいて、前記画像特徴抽出ステップにおいて抽出された画像特徴量ごとに、当該画像特徴量と前記レポート解析ステップにおいて抽出された前記読影項目または前記疾病名との間の関連性が高いほど大きな値の重みを決定する重み決定ステップと、
    前記画像特徴抽出ステップにおいて抽出された前記複数の画像特徴量と、症例データベースに登録されている症例データに含まれる医用画像から抽出される複数の画像特徴量とを、前記重み決定ステップにおいて決定された画像特徴量毎の重みで重み付けして比較することにより、前記読影対象画像に類似する医用画像を含む症例データを前記症例データベースより検索する類似症例検索ステップと
    を含む類似症例検索方法。
  10. 請求項9に記載の類似症例検索方法に含まれる全てのステップをコンピュータに実行させるためのプログラム。
JP2012505932A 2011-06-30 2011-11-16 類似症例検索装置および類似症例検索方法 Active JP4979842B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012505932A JP4979842B1 (ja) 2011-06-30 2011-11-16 類似症例検索装置および類似症例検索方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2011146699 2011-06-30
JP2011146699 2011-06-30
PCT/JP2011/006375 WO2013001584A1 (ja) 2011-06-30 2011-11-16 類似症例検索装置および類似症例検索方法
JP2012505932A JP4979842B1 (ja) 2011-06-30 2011-11-16 類似症例検索装置および類似症例検索方法

Publications (2)

Publication Number Publication Date
JP4979842B1 JP4979842B1 (ja) 2012-07-18
JPWO2013001584A1 true JPWO2013001584A1 (ja) 2015-02-23

Family

ID=46678906

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012505932A Active JP4979842B1 (ja) 2011-06-30 2011-11-16 類似症例検索装置および類似症例検索方法

Country Status (2)

Country Link
US (1) US8953857B2 (ja)
JP (1) JP4979842B1 (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5067375B2 (ja) * 2007-01-19 2012-11-07 富士通株式会社 病名入力支援プログラム、方法及び装置
JP6021346B2 (ja) 2012-02-14 2016-11-09 キヤノン株式会社 診断支援装置及びその制御方法
JP6099593B2 (ja) * 2014-03-27 2017-03-22 富士フイルム株式会社 類似症例検索装置、類似症例検索方法、及び類似症例検索プログラム
JP6099592B2 (ja) * 2014-03-27 2017-03-22 富士フイルム株式会社 類似症例検索装置及び類似症例検索プログラム
JP6109778B2 (ja) * 2014-03-27 2017-04-05 富士フイルム株式会社 類似症例検索装置、類似症例検索方法、及び類似症例検索プログラム
US10331851B2 (en) * 2014-05-29 2019-06-25 Panasonic Corporation Control method and non-transitory computer-readable recording medium
WO2016071825A1 (en) * 2014-11-03 2016-05-12 Koninklijke Philips N.V. Picture archiving system with text-image linking based on text recognition
KR20160054992A (ko) * 2014-11-07 2016-05-17 삼성전자주식회사 관심영역의 재검출 회피 장치 및 방법
JP6074455B2 (ja) * 2015-05-14 2017-02-01 キヤノン株式会社 診断支援装置、診断支援装置の制御方法、プログラム、及び診断支援システム
CN106560827B (zh) * 2015-09-30 2021-11-26 松下知识产权经营株式会社 控制方法
WO2018116727A1 (ja) * 2016-12-19 2018-06-28 富士フイルム株式会社 類似症例検索装置とその作動方法および作動プログラム、並びに類似症例検索システム
JP6862286B2 (ja) * 2017-05-31 2021-04-21 キヤノン株式会社 情報処理装置、情報処理方法、情報処理システム及びプログラム
US11139080B2 (en) 2017-12-20 2021-10-05 OrthoScience, Inc. System for decision management
DE102018100895A1 (de) * 2018-01-16 2019-07-18 Zoe Life Technologies Holding AG Währungseinheiten für Wissen
US10600511B2 (en) * 2018-02-20 2020-03-24 International Business Machine Corporation Accelerating human understanding of medical images by dynamic image alteration
WO2019176407A1 (ja) * 2018-03-16 2019-09-19 富士フイルム株式会社 学習支援装置、学習支援方法、学習支援プログラム、関心領域判別装置、関心領域判別方法、関心領域判別プログラム及び学習済みモデル
JP6914233B2 (ja) * 2018-08-31 2021-08-04 富士フイルム株式会社 類似度決定装置、方法およびプログラム
CN113641784A (zh) * 2021-06-25 2021-11-12 合肥工业大学 医教研一体化的医疗知识推荐方法和系统

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000148793A (ja) * 1998-09-11 2000-05-30 Nippon Telegr & Teleph Corp <Ntt> 複合メディア文書の類似検索方法及び装置及び複合メディア文書の類似検索プログラムを格納した記憶媒体
US6922699B2 (en) 1999-01-26 2005-07-26 Xerox Corporation System and method for quantitatively representing data objects in vector space
US6564202B1 (en) 1999-01-26 2003-05-13 Xerox Corporation System and method for visually representing the contents of a multiple data object cluster
US6941321B2 (en) 1999-01-26 2005-09-06 Xerox Corporation System and method for identifying similarities among objects in a collection
US6567797B1 (en) 1999-01-26 2003-05-20 Xerox Corporation System and method for providing recommendations based on multi-modal user clusters
US6728752B1 (en) 1999-01-26 2004-04-27 Xerox Corporation System and method for information browsing using multi-modal features
US6598054B2 (en) 1999-01-26 2003-07-22 Xerox Corporation System and method for clustering data objects in a collection
EP2284733A3 (en) * 1999-01-26 2011-05-25 Xerox Corporation Multi-modal information access
JP2002063280A (ja) 2000-08-17 2002-02-28 Matsushita Electric Ind Co Ltd 医療情報システム
JP4021179B2 (ja) * 2000-11-29 2007-12-12 富士通株式会社 診断支援プログラム、診断支援プログラムを記録したコンピュータ読取可能な記録媒体、診断支援装置及び診断支援方法
US6925199B2 (en) 2000-11-29 2005-08-02 Fujitsu Limited Computer readable recording medium recorded with diagnosis supporting program, diagnosis supporting apparatus and diagnosis supporting method
JP2004005364A (ja) * 2002-04-03 2004-01-08 Fuji Photo Film Co Ltd 類似画像検索システム
JP4380142B2 (ja) * 2002-11-05 2009-12-09 株式会社日立製作所 検索システム及び検索方法
JP2006318219A (ja) * 2005-05-12 2006-11-24 Fujitsu Ltd 類似スライド検索プログラム及び検索方法
JP2007275408A (ja) * 2006-04-10 2007-10-25 Fujifilm Corp 類似画像検索装置および方法並びにプログラム
JP5100285B2 (ja) * 2007-09-28 2012-12-19 キヤノン株式会社 医用診断支援装置およびその制御方法、プログラム、記憶媒体
JP5098559B2 (ja) * 2007-10-11 2012-12-12 富士ゼロックス株式会社 類似画像検索装置、及び類似画像検索プログラム
CN101911077B (zh) 2007-12-27 2016-05-11 皇家飞利浦电子股份有限公司 用于分层搜索的方法和装置
JP2010082001A (ja) * 2008-09-29 2010-04-15 Toshiba Corp 画像表示装置
JP5414334B2 (ja) * 2009-04-10 2014-02-12 株式会社日立製作所 擬似文書検索システム及び擬似文書検索方法
JP2011118543A (ja) * 2009-12-01 2011-06-16 Shizuoka Prefecture 症例画像検索装置、方法およびプログラム

Also Published As

Publication number Publication date
US8953857B2 (en) 2015-02-10
JP4979842B1 (ja) 2012-07-18
US20130006087A1 (en) 2013-01-03

Similar Documents

Publication Publication Date Title
JP4979842B1 (ja) 類似症例検索装置および類似症例検索方法
JP5054252B1 (ja) 類似症例検索装置、類似症例検索方法、類似症例検索装置の作動方法およびプログラム
WO2013001584A1 (ja) 類似症例検索装置および類似症例検索方法
JP5475923B2 (ja) 類似症例検索装置および類似症例検索方法
JP5462414B2 (ja) 類似症例検索装置および関連度データベース作成装置並びに類似症例検索方法および関連度データベース作成方法
US9111027B2 (en) Similar case search apparatus and similar case search method
JP5852970B2 (ja) 症例検索装置および症例検索方法
JP5383431B2 (ja) 情報処理装置、情報処理方法及びプログラム
US20170193660A1 (en) Identifying a Successful Therapy for a Cancer Patient Using Image Analysis of Tissue from Similar Patients
US10593430B2 (en) Method and recording medium
Xu et al. DeepLN: a framework for automatic lung nodule detection using multi-resolution CT screening images
JP4945705B2 (ja) 誤診原因検出装置及び誤診原因検出方法
JP5789211B2 (ja) 類似画像検索装置、方法及びプログラム
JP5789791B2 (ja) 類似症例検索装置および読影知識抽出装置
JP2010172559A (ja) 医療診断支援システム及び医療診断支援装置
Zhou et al. Computer‐aided detection of pulmonary embolism in computed tomographic pulmonary angiography (CTPA): Performance evaluation with independent data sets
JP5871104B2 (ja) 病変判定装置、類似症例検索装置、病変判定装置の駆動方法、類似症例検索装置の駆動方法、およびプログラム
CN114201613A (zh) 试题生成方法、试题生成装置、电子设备以及存储介质
JP2012101088A (ja) 医用画像検索システム
JP2013105465A (ja) 医用同義語辞書作成装置および医用同義語辞書作成方法
CN115943426A (zh) 用于标识医学图像集中的异常图像的方法和系统
RU2475833C2 (ru) Фильтр по образцу

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120327

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120417

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150427

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4979842

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150