JP2020174861A - 情報処理装置、情報処理方法およびプログラム - Google Patents

情報処理装置、情報処理方法およびプログラム Download PDF

Info

Publication number
JP2020174861A
JP2020174861A JP2019078889A JP2019078889A JP2020174861A JP 2020174861 A JP2020174861 A JP 2020174861A JP 2019078889 A JP2019078889 A JP 2019078889A JP 2019078889 A JP2019078889 A JP 2019078889A JP 2020174861 A JP2020174861 A JP 2020174861A
Authority
JP
Japan
Prior art keywords
region
medical image
information processing
information
inference means
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019078889A
Other languages
English (en)
Inventor
将実 川岸
Masasane Kawagishi
将実 川岸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019078889A priority Critical patent/JP2020174861A/ja
Priority to US16/834,225 priority patent/US11200978B2/en
Publication of JP2020174861A publication Critical patent/JP2020174861A/ja
Priority to JP2023182840A priority patent/JP2024010085A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Theoretical Computer Science (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Public Health (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Software Systems (AREA)
  • Quality & Reliability (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Analysis (AREA)

Abstract

【課題】 医用画像における経時差分画像に基づいて適切な推論手段を選択する技術を提供することを目的とする。【解決手段】 本発明にかかる情報処理装置100は、第一の時点で撮像された第一の医用画像と第二の時点で撮像された第二の医用画像との経時差分画像を取得する取得部102と、経時差分画像に対して推論を行う複数の推論手段を有する推論部108と、前記取得された経時差分画像における注目領域に基づいて、前記推論部における複数の推論手段から少なくともひとつの推論手段を選択する選択部106とを備える。【選択図】 図1

Description

本発明は、経時差分画像に対して推論をする推論手段を選択する情報処理装置、情報処理方法およびプログラムに関する。
取得された医用画像に対して、機械学習技術(推論手段)を利用し、ユーザである医師に対して診断支援を行う技術が知られている。
特許文献1には、医用画像とそれに付随する画像所見を用いて異常陰影の鑑別診断を行い、その診断結果と共に、画像所見の内、計算機が診断結果に対して否定的と判断した情報を表示する技術が記載されている。
特開2010−200840号公報
MF.Beg et al.,"Computing Large Deformation Metric Mappings via Geodesic Flows of Diffeomorphisms",International Journal of Computer Vision,61(2),139−157,2005.
しかしながら、複数の異なる推論手段が存在する場合において、ユーザが適切な推論手段を選択する必要があった。
本発明はかかる課題を解決するためになされたものであり、医用画像における経時差分画像に基づいて適切な推論手段を選択する技術を提供することを目的とする。
上記課題を解決するため、本発明の一態様における情報処理装置は、第一の時点で撮像された第一の医用画像と第二の時点で撮像された第二の医用画像との経時差分画像を取得する取得部と、経時差分画像に対して推論を行う複数の推論手段を有する推論部と、取得された経時差分画像における注目領域に基づいて、前記推論部における複数の推論手段から少なくともひとつの推論手段を選択する選択部と、を有する。
本発明によれば、医用画像における経時差分画像に基づいて適切な推論手段を選択することができる。
情報処理装置の機能構成の一例を示す図。 情報処理装置のハードウェア構成の一例を示す図。 情報処理装置の処理の一例を示すフローチャート。 経時差分画像の一例を示す図。 情報処理装置の機能構成の他の一例を示す図。 情報処理装置の処理の他の一例を示すフローチャート。 経時差分画像と第二の医用画像の一例を示す図。 経時差分画像と第一の医用画像及び第二の医用画像、第一の臨床情報及び第二の臨床情報の一例を示す図。
以下、本発明を実施するための形態について図面を用いて説明する。
<実施形態1>
実施形態1における情報処理装置は、被検者における異なる二時点の医用画像の経時差分画像から注目領域を抽出し、抽出した注目領域に基づき推論手段を選択する。以下では、対象となる医用画像は胸部X線CT画像(3次元画像)とする。また、ここでは二時点の画像は同一の患者の医用画像である。もちろん対象はこれらに限定されるものではなく、何れも情報処理装置の工程を説明するための一例に過ぎない。
図1は、実施形態1における情報処理装置100の機能構成の一例を示す図である。本実施形態における情報処理装置100は、経時差分画像を含めた医用画像と、臨床情報が含まれた情報とを保持する記憶部200と接続している。もちろん、記憶部200に保持される情報はこれらに限らず、撮像日時や撮像条件などを保持するようにしてもよい。また、記憶部200をPACSや電子カルテ、読影レポートとし、情報処理装置100からの要求に従い経時差分画像を含む情報を取得するようにしてもよい。表示部110は、情報処理装置100による推論結果を診断支援情報として表示をする。また操作部120によって、ユーザの入力を別途受け付けてもよい。
情報処理装置100は、経時差分画像を取得する取得部102と、経時差分画像から注目領域を抽出する抽出部104と、推論部から推論手段を選択する選択部106と、第一乃至第Nの推論手段108−Nから構成される推論部108を備える。取得部102は、記憶部200に要求を行い、対象患者の第一の時点で撮像された第一の医用画像と第二の時点で撮像された第二の医用画像の経時差分画像を取得する。経時差分画像の詳細については後述する。抽出部104は、経時差分画像から注目領域を抽出する。すなわち、経時差分画像における注目領域は、第一の医用画像および第二の医用画像の少なくとも一方の医用画像上の異常陰影を示す領域のうち、少なくとも一部の領域となる。選択部106は、注目領域に基づいて推論部108における第一乃至第Nの推論手段108−Nから少なくとも一つの推論手段108−Iを選択する。また選択部106は、選択した推論手段に入力する入力情報を選択する。選択された推論手段108−Iは、注目領域を含む情報に基づいて、被検者に対する推論を実施する。なお、第一乃至第Nの推論手段は、夫々異なる推論を実施するものとする。詳細については後述する。そして表示部110は、推論手段108−Iにより実施された推論結果を診断支援情報として表示する。
なお、図1に示した情報処理装置100の各部の少なくとも一部は独立した装置として実現してもよい。また、夫々の機能を実現するソフトウェアとして実現してもよい。本実施形態では、各部はそれぞれソフトウェアにより実現されているものとする。
図2は、情報処理装置100のハードウェア構成の一例を示す図である。情報処理装置100、モニタ等の表示部110、マウス1006やキーボード1007を含む操作部120から構成される。まず情報処理装置100におけるCPU1001は、主として各構成要素の動作を制御する。主メモリ1002は、CPU1001が実行する制御プログラムを格納したり、CPU1001によるプログラム実行時の作業領域を提供したりする。磁気ディスク1003は、オペレーティングシステム(OS)、周辺機器のデバイスドライバ、後述する処理等を行うためのプログラムを含む各種アプリケーションソフトを実現するためのプログラムを格納する。CPU1001が主メモリ1002、磁気ディスク1003に格納されているプログラムを実行することにより、図1に示した情報処理装置100の機能(ソフトウェア)及び後述するフローチャートにおける処理が実現される。表示メモリ1004は、表示用データを一時記憶する。
表示部110は、例えばCRTモニタや液晶モニタ等であり、表示メモリ1004からのデータに基づいて画像やテキスト等の表示を行う。操作部120におけるマウス1006及びキーボード1007は、ユーザによるポインティング入力及び文字等の入力を夫々行う。上記各構成要素は、共通バス1008により互いに通信可能に接続されている。
次に、図3のフローチャートを用いて、情報処理装置100が行う全体の処理を説明する。図3は、情報処理装置100が行う処理の一例を示すフローチャートである。本実施形態では、CPU1001が主メモリ1002に格納されている各部の機能を実現するプログラムを実行することにより図3に示す処理が実現される。
ステップS300において、取得部102は、記憶部200に要求を行い、対象患者の第一の時点で撮像された第一の医用画像と第二の時点で撮像された第二の医用画像の経時差分画像を取得する。なお、第一の時点と第二の時点は、第二の時点の方がより現時点に近い(すなわち、第二の医用画像よりも第一の医用画像の方が過去に撮像されている)ものとする。経時差分画像は、第二の医用画像に対して位置合わせされた第一の医用画像を減算することで作成される。この位置合わせは、公知の剛体位置合わせ技術または非剛体位置合わせ技術(例えば、非特許文献1)を用いて行われる。
ステップS310において、抽出部104は、ステップS300で取得した経時差分画像から注目領域を取得する。注目領域は、経時差分画像に対してあらかじめ設けたパラメータにより取得されてもよいし、GUIを通して、操作部120によりユーザが選択した領域を注目領域としてもよい。
図4を用いて経時差分画像の簡単な例を説明する。図4(b)は第一の医用画像430であり、図4(c)は第二の医用画像450である。第一の医用画像430には第一の結節領域435が描出されており、第二の医用画像450には第二の結節領域455が描出されている。第二の医用画像450から第一の医用画像430を減算すると、図4(a)に示すような経時差分画像400となる。なお、図4(a)は、経時差分画像400の1スライス(2次元画像)を示したものである。本発明に係る画像は減算の結果を、値が0の部分は灰色で、値が正の部分は白で、値が負の部分は黒で表すものとする。すなわち、白の部分は第一の医用画像に対して第二の医用画像で値が増大した部分を示し、黒の部分は第一の医用画像に対して第二の医用画像で値が減少した部分を示す。つまり、減算の結果、値が変化していた部分に病変が確認されると、値が正(経時差分画像上では白い領域)の場合は病変が増大したことを示す。一方で減算の結果、値が負(経時差分画像上では黒い領域)の場合は病変が縮小したことを示す。経時差分画像上で(白い領域)値が増大した部分に病変が存在していた場合には、選択部106は推論手段として、例えば、鑑別診断を行う推論手段を選択または、その病変の予後を判定する予後判定の推論手段を選択する。もしくは、白い領域の形状が病変にみられる形状であった場合には、選択部106は癌のリスク判定を行う推論手段の選択をする。なお、撮像された画像の種類や、撮像部位、診断の対象によっては、値の増減による病変の増大と縮小の関係が異なっていてもよい。
図4の例においては、経時差分画像400上で特徴領域405が白い領域で表示されているため、第一の医用画像の撮像時点に対して、第二の医用画像の撮像時点で病変が増大したことを示している。図4の例では、抽出部104は特徴領域405(白い領域)を囲む立方体(図4中では正方形で示される)を注目領域410として抽出する。
ステップS320において、選択部106は、ステップS310で取得した注目領域410に基づいて第一乃至第Nの推論手段108−Nから推論手段108−Iを選択する。以下では、推論部108として、結節状陰影の鑑別診断を行う推論手段、予後判定を行う推論手段、治療効果判定を行う推論手段、および肺癌のリスク評価を行う推論手段が存在するものとする。もちろん、推論部108を構成する推論手段はこれらに限定されず、他の推論手段が存在していてもよい。また、推論手段には公知のどのような機械学習手段を使ってもよい。例えば、畳み込みニューラルネットワーク(CNN)やサポートベクターマシン(SVM)、ベイジアンネットワークなどを用いてよい。なお、機械学習手段は、推論対象によってそれぞれ異なった学習手段が用いられてもよいし、複数の機械学習手段が組み合わされた構成でもよい。本実施形態では、CNNを各推論部の機械学習手段として用いることとする。
ここでは、選択部106は経時差分画像400上の注目領域内410に含まれる特徴量を構成する特徴領域405の形状と体積を基に推論部108を選択する。経時差分画像400においては、注目領域内410の特徴領域405の形状が結節状陰影に見られる球形や、肺のびまん性疾患に見られるもやもや感に合致せず、体積も通常の結節状陰影と比較して小さい。ここではもやもや感とは、周囲の肺野(空気領域)よりCT値が高く白く見える領域と空気領域が混合して淡く描出される広い領域(もや状の白色領域)が見られることを指す。もちろんこの定義は一例であり、びまん性肺疾患を示唆するテクスチャで異なる判定方法であってもよい。よって選択部106は、注目領域410内の特徴領域の情報を含む特徴量に基づいて推論部108から予後予測を行う推論手段を推論手段108−Iとして選択する。他方で、注目領域410内の特徴量を構成する特徴領域の体積が、結節状陰影と比較して差が小さい場合には、鑑別診断を行う推論手段を推論手段108−Iとして選択する。選択部106は、注目領域410における特徴量によって選択する推論手段を変化させる。つまり、選択部106は、注目領域410が第一の特徴量を有している場合、複数の推論手段から第一の推論手段を選択し、注目領域410が第二の特徴量を有している場合、第一の推論手段と異なる第二の推論手段を複数の推論手段から選択することを特徴とする。選択部106は、注目領域410における特徴量を構成する特徴領域の形状、大きさ、画素値(減算による正負)のうち、少なくともひとつに基づいて推論手段の選択をする。ステップS330において、ステップS320で選択部106によって選択された推論手段108−Iは、ステップS310で取得した注目領域410に基づいて推論を実施する。推論手段への入力情報は、経時差分画像および経時差分画像上の注目領域の少なくとも一方である。推論は前述のように、注目領域410(立方体)を入力とし、3次元のCNN(3D−CNN)を用いて行われる。
ステップS340において、表示部110は、ステップS330で実施された推論手段108−Iによる推論結果に基づき診断支援情報を作成し、ユーザへと表示する。このような予後予測により、今後の病変領域の変化を予測でき、それに対応させた施術プラン等の作成の手助けとなる。
本実施形態では、取得部102が対象患者の第一の時点で撮像された第一の医用画像と第二の時点で撮像された第二の医用画像の経時差分画像400を取得し、抽出部104によって抽出された経時差分画像400内における注目領域410に基づいて、選択部106は複数の推論手段から一つの推論手段を選択する。そして、選択された推論手段108−Iにより対象患者に対する推論を実施し、表示部110は推論結果から診断支援情報を作成し、ユーザへと表示する。選択部106が経時差分画像400の注目領域410に基づいて複数の推論手段から適切な推論手段を選択することにより、適切な診断支援情報を作成して表示することが可能である。つまり言い換えると、本実施形態にかかる情報処理装置は、第一の時点で撮像された第一の医用画像と第二の時点で撮像された第二の医用画像との経時差分画像を取得する取得部102と、経時差分画像に対して推論を行う複数の推論手段を有する推論部108と、取得された経時差分画像における注目領域に基づいて、前記推論部における複数の推論手段から少なくとも一つの推論手段を選択する選択部106とを有することを特徴とする。
<実施形態2>
図5に係る実施形態2における情報処理装置500は、取得部102が、経時差分画像とさらに第一の医用画像及び/または第二の医用画像を取得する。そして、変換部512により経時差分画像上の注目領域を第二の医用画像と略一致するように変換し、第二の医用画像上の注目領域を推論手段108−Iへの入力とする部分が、第一の実施例と異なる。図5は、実施形態2における情報処理装置500の機能構成の一例を示す図である。なお、図1と同一の符号が付与された構成部については、実施形態1との差異部分のみ説明する。
取得部102は、記憶部200に要求を行い、対象患者の第一の時点で撮像された第一の医用画像と第二の時点で撮像された第二の医用画像と、第一の医用画像と第二の医用画像の経時差分画像とを取得する。変換部512は、選択部106で選択された推論手段に基づいて、第一の医用画像及び/または第二の医用画像において経時差分画像の注目領域と対応させる。つまり変換部512は注目領域を第二の医用画像に対応させる変換を行う。選択された推論手段108−Iは、略一致する領域内の情報に基づいて、対象患者に対する推論を実施する。すなわち、推論手段への入力情報は、変換部により変換された領域を含む情報である。本実施形態における情報処理装置500のハードウェア構成は、実施形態1における図2と同様である。
次に、図6のフローチャートを用いて、情報処理装置500が行う全体の処理を説明する。
ステップS600において、取得部102は、記憶部200に要求を行い、対象患者の第一の時点で撮像された第一の医用画像と第二の時点で撮像された第二の医用画像と、第一の医用画像と第二の医用画像の経時差分画像とを取得する。
ステップS610の処理は、実施形態1におけるステップS310の処理と同様である。なお、本実施形態では、図7(a)に示す経時差分画像700から注目領域710を取得したものとする。
ステップS620の処理は、実施形態1におけるステップS320の処理と同様である。ここでは、選択部106は注目領域710における特徴領域705である白い領域の形状が結節状陰影に見られる陰影であるため、第一の時点では存在しなかった陰影が第二の時点で現れたと判断する。そのため、選択部106は注目領域710における特徴量に基づいて第一乃至第Nの推論手段から結節の鑑別診断を行う推論手段を推論手段108−Iとして選択する。
ステップS625において、変換部512は、ステップS620で選択された推論手段に基づいて、経時差分画像上の注目領域を、ステップS600で取得した第一の医用画像及び/または第二の医用画像上で略一致するように変換する。具体的には、経時差分画像上の注目領域のXYZ座標と幅、高さ、深さを、第一の医用画像及び/または第二の医用画像と略一致するように変換した領域を注目領域とする。例えば、図7(a)に示す注目領域710を、図7(b)に示す第二の医用画像750と略一致するように変換すると、第二の医用画像における注目領域760となる。
本実施形態では、陰影が第二の時点で現れたと判断し、ステップS620で結節の鑑別診断を行う推論手段を選択したので、第二の医用画像に対してのみ注目領域が略一致するように変換し、第二の医用画像から変換した領域を抽出する。よって経時差分画像に描出されていない情報も推論に使用することができるため、より適切な推論が可能となる。本フローでは、推論手段の選択をするステップS620は、経時差分画像700における注目領域710の情報により推論部108より推論手段108−Iを選択し、ステップS625により変換された領域を推論手段108−Iへの入力とした。なお、選択部106が推論手段108−Iを選択するための情報として、変換部512により変換された領域の情報を踏まえて選択をしてもよい。本構成により適切な入力情報と適切な推論手段の選択が可能となる。
ステップS630において、ステップS620で選択部106が選択した推論部108−Iは、ステップS625で取得した第二の医用画像における略一致するように変換部512により変換された注目領域760に基づいて推論を実施する。
ステップS640の処理は実施形態1と同様である。
本実施形態では、経時差分画像の注目領域710に基づいて選択部106により推論手段108−Iが選択される。そして変換部512は、経時差分画像700の注目領域710を第二の医用画像上で略一致するように変換し、変換した領域を推論手段108−Iへの入力として用いる。これにより、推論手段108−Iに適切な入力情報を選択することができ、より適切な支援情報を表示することが可能となる。
(実施形態2の変形例1)
本実施形態では、ステップS620において選択部106は注目領域710が結節状陰影であると判断し、結節の鑑別診断を行う推論手段108−Iを推論部108より選択したが、これに限定されない。例えば、経時差分画像に、もや状の白色領域が現れた場合には、選択部106は該特徴領域を注目領域とし、肺癌のリスク評価を行う推論手段を推論手段108−Iとして選択してもよい。また、取得部102において第二の時点の第二の臨床情報を取得し、第二の臨床情報も推論部108への入力として扱う構成としてもよい。
<実施形態3>
実施形態3における情報処理装置は、取得部102が第一の時点での第一の臨床情報と第二の時点での第二の臨床情報をさらに取得する。そして、経時差分画像上の注目領域を第一の医用画像及び第二の医用画像と略一致するようにし、略一致した領域と臨床情報を推論部108への入力とする部分が実施形態1および実施形態2と異なる。臨床情報は、例えば性別や第一の医用画像の撮像日や、第二の医用画像の撮像日、年齢、病歴、既往歴、薬の処方歴、第一の医用画像の撮像前後および/または第二の医用画像の撮像前後における血液検査データ等が含まれている。ここで、推論手段への入力情報は、第一の医用画像および第二の医用画像の少なくとも一方を含む情報になる。また、取得された注目領域を第一の医用画像および第二の医用画像の少なくとも一方の医用画像に対応させる変換部をさらに有する。
実施形態3における情報処理装置の機能構成は図5に示す情報処理装置500の機能構成と同一である。以下では、実施形態2との差異部分のみ説明する。取得部102は、記憶部200に要求を行い、対象患者の第一の時点で撮像された第一の医用画像および第一の臨床情報と、第二の時点で撮像された第二の医用画像および第二の臨床情報と、第一の医用画像および第二の医用画像の経時差分画像とを取得する。
また、情報処理装置500が行う全体の処理は、図6のフローチャートと同様であるが、一部の処理が異なる。以下では、図6のフローチャートを用いて、情報処理装置500が行う全体の処理を説明する。
ステップS600において、取得部102は、記憶部200に要求を行い、対象患者の第一の時点で撮像された第一の医用画像および第一の臨床情報と、第二の時点で撮像された第二の医用画像および第二の臨床情報と、第一の医用画像と第二の医用画像の経時差分画像とを取得する。つまり、入力情報は第一の時点での臨床情報と第二の時点での臨床情報のうち少なくとも一方の臨床情報を含む構成になる。
ステップS610の処理は、実施形態2におけるステップS610の処理と同様である。なお、本実施形態では、図8(a)に示す経時差分画像800から注目領域810を取得したものとする。
ステップS620における処理は、実施形態2におけるステップS620の処理と同様である。注目領域810における特徴領域805における黒い領域の形状は、結節状陰影に見られる球形や、肺のびまん性疾患に見られるもやもや感が見られず、体積も通常の結節状陰影と比較して小さい。そのため、第一乃至第Nの推論手段を持つ推論部108から治療効果判定を行う推論手段を推論手段108−Iとして選択する。なお選択部106による推論手段108−Iの選択は、第一の時点での臨床情報と、第二の時点での臨床情報を加味して実施されてもよい。つまり第一の時点での臨床情報及び第二の時点での臨床情報のうち少なくとも一方の臨床情報に基づいて推論手段を選択する。
ステップS625における処理は、実施形態2におけるステップS625の処理と同様である。本実施形態では、ステップS620において陰影が第一の時点よりも第二の時点で縮小したと判断し、治療効果判定を行う推論手段を選択したので、第一の医用画像(図8(b)830)と第二の医用画像(図8(c)850)の両方に注目領域が略一致するように変換する。変換の結果は、第一の医用画像における略一致された注目領域840(図8(b))と、第二の医用画像における注目領域860(図8(c))となる。
ステップS630において、ステップS620で選択した推論手段108−Iは、推論に必要な情報を用いて推論を実施する。具体的には、ステップS600で取得した第一の時点における第一の臨床情報845(図8(b))と、第二の時点における第二の臨床情報865(図8(c))とを用いる。さらに、ステップS625で取得した第一の医用画像における略一致するように変換した注目領域840と、第二の医用画像における略一致するように変換した注目領域860も用いる。ここで、臨床情報を疑似的に画像のように扱うことで、推論手段108−IがCNNの場合にも適用することが可能である。もちろんSVMやベイジアンネットのように値をそのまま使う機械学習手段を推論部108として用いてもよい。
ステップS640の処理は、実施形態2におけるステップS640の処理と同様である。
本実施形態では経時差分画像800上の注目領域810を第一の医用画像及び第二の医用画像上で略一致するように変換し、変換した領域を推論部108への入力として用いる。また、第一の時点における第一の臨床情報と第二の時点における第二の臨床情報も推論に用いることで、より適切な支援情報を表示することが可能となる。
(変形例1)
実施形態1乃至3では、注目領域が一つの場合について説明してきたが、注目領域は複数あっても構わない。また、複数の注目領域のそれぞれについて異なる推論手段を選択するような構成であってもよい。この方法によれば、個々の注目領域において適切な推論手段を選択することができるため、対象画像に対する包括的な支援情報を表示することが可能となる。
また、特徴領域が複数存在する場合において、選択部106がそれぞれの特徴領域と注目領域を対応付ける処理を行ってもよい。また、選択部106は対応付けられた注目領域のそれぞれに対して、異なる推論手段を選択してもよい。
(変形例2)
実施形態1乃至3では、一つの注目領域に対して一つの推論手段のみを選択していたが、注目領域のそれぞれに対して複数の推論手段を選択する構成であっても構わない。本構成によれば、一つの注目領域に対して様々な支援情報を表示することが可能となり、ユーザは注目領域ごとに複数の推論手段による推論結果を考慮した診断や、表示された支援情報の中から、対象画像に対する適切な支援情報を選択することが可能となる。
(変形例3)
実施形態1乃至3では、取得部102における取得する情報が夫々異なっていたが、全ての情報を取得しておき、選択部106で選択した推論手段108−Iに応じて必要な情報を取得した情報から選択する構成であってもよい。あるいは、最初は経時差分画像のみを取得しておき、推論手段108−Iに応じて必要な情報を記憶部200に都度要求する構成であってもよい。
(変形例4)
実施形態1乃至3では、経時差分画像の注目領域または、第一の医用画像及び/または第二の医用画像で略一致させた注目領域を推論部108に入力していたが、これらすべてを同時に推論部108に入力する構成であってもよい。また、入力は注目領域のみに限らず、画像全体または画像一部を入力する構成であってもよい。
(変形例5)
実施形態1乃至3では、取得された経時差分画像上の特徴領域から、選択部106が推論手段108−Iを選択し、選択された推論手段108−Iによって注目領域に対して推論を行っていた。しかしながら、例えば経時差分画像上での特徴領域が、選択部106によって推論手段を選択するに満たない情報しかもっていない場合が考えられる。例えば、特徴領域が極端に小さい場合や、特徴領域が局所的に飛び地で存在する場合等が挙げられる。
このような場合において、上述の実施形態1乃至3のように、特徴領域から注目領域を特定することは難しい。経時差分画像上の特徴領域を注目領域として設定するのに不十分な場合、選択部106は注目領域を異ならせる。つまり選択部106は注目領域における特徴領域が推論手段を選択する情報を満たさない場合に、注目領域を異ならせる。例えば選択部106は特徴領域を含む注目領域とするレンジを広げてもよい。また、そのための判定として、注目領域のサイズの下限を設けてもよい。特徴領域が所定より小さい領域もしくは、局所的に離散して存在する場合に、注目領域のレンジを大きくする。本構成により、特徴領域が所定より小さい領域に対し、より広いレンジの注目領域を設定することで、例えば、変換部512により第二の医用画像と対応させたときの情報量が増加する。また、特徴領域が局所的に離散して存在する場合には、離散した特徴領域のそれぞれが関連している可能性が高い。離散した領域をひとつの注目領域として囲むことができると、情報量が増加する。つまり本構成により、実施形態1では、例えば局所的に飛び地で存在した複数の特徴領域を含む注目領域を設定することが可能になり、選択部106による推論手段の選択の精度が向上することが期待される。また実施形態2や実施形態3のように注目領域を医用画像と一致させる変換をするために実施形態1の効果に加え、さらに特徴領域とその周辺の領域の情報を更に推論手段へ与えることができ、推論精度の向上が期待される。
(変形例6)
上記の変形例5により、特徴領域が極端に小さい場合や、特徴領域が局所的に飛び地で存在する場合の処理について述べた。本変形例6では、経時差分画像における特徴領域が注目領域として設定するための領域情報として不十分である場合、すなわち特徴領域が極端に小さい場合や、特徴領域が局所的に飛び地で存在する場合に、取得部102は臨床情報を取得する。
取得部102により取得された臨床情報には例えば、性別や第一の医用画像の撮像日や、第二の医用画像の撮像日、年齢、病歴、既往歴、薬の処方歴、第一の医用画像の撮像前後および/または第二の医用画像の撮像前後における血液検査データ等が含まれている。選択部106が注目領域を設定することが難しい場合、選択部106は臨床情報を参照し、特徴領域が注目領域を設定することができない理由を特定する。例えば、第一の医用画像の撮像日と第二の医用画像の撮像日との間に十分な日数があり、かつ薬の処方歴があるに場合について記載する。撮像間の日数と、薬の処方歴があるにも関わらず、経時差分画像上で特徴領域が十分に認められなかった場合、投薬をしたにも関わらず治療効果が認められないことを表示部110を介して表示をする。また、第一の医用画像の撮像日と、第二の医用画像の撮像日の間に十分な日数が認められない場合には、撮像画像間の日数が十分でないことが表示される。つまり、第一の時点での臨床情報及び、第二の時点での臨床情報に基づいて注目領域における特徴領域が推論手段を選択する情報を満たさない理由を特定する。そして、特定された理由を表示部110を介して表示をする。
なお、撮像画像間の日数が十分でない場合には後述の処理を実施してもよい。該第1の医用画像の撮影日よりも古い医用画像と、第2の医用画像との経時差分画像が存在する場合はその画像を取得する。
もしくは、該第2の医用画像の撮影日よりも新しい医用画像と、第1の医用画像との経時差分画像が存在する場合はその画像を取得する。なお、第1の医用画像と第2の医用画像が夫々異なる画像の経時差分画像が存在する場合はその画像を取得してもよい。すなわち、注目領域における特徴領域が推論手段を選択する情報を満たさない場合に、第一の時点以前に撮像された医用画像および第二の時点以降に撮像された医用画像のうち少なくとも一方が異なる経時差分画像を取得し、対象とすることを特徴とする。そして医用画像を置き換えられ作成された経時差分画像が、取得部102により、取得され、新たな経時差分画像から選択部106が注目領域を設定し、推論手段108−Iを選択してもよい。なお本処理は、画像間の日数が不十分な場合に限られない。例えば、第一の医用画像上においても、第二の医用画像上において同様の結節状陰影が存在する場合には経時差分画像上で表示されないため本構成が有効である。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 情報処理装置
102 取得部
106 選択部
108 推論部
110 表示部
120 操作部
200 記憶部

Claims (18)

  1. 第一の時点で撮像された第一の医用画像と第二の時点で撮像された第二の医用画像との経時差分画像を取得する取得部と、
    経時差分画像に対して推論を行う複数の推論手段を有する推論部と、
    前記取得された経時差分画像における注目領域に基づいて、前記推論部における複数の推論手段から少なくともひとつの推論手段を選択する選択部と
    を有することを特徴とする情報処理装置。
  2. 前記注目領域は、前記第一の医用画像および前記第二の医用画像の少なくとも一方の医用画像上の異常陰影を示す領域のうち、少なくとも一部の領域であることを特徴とする請求項1に記載の情報処理装置。
  3. 前記取得された経時差分画像における注目領域を前記第一の医用画像および前記第二の医用画像の少なくとも一方の医用画像に対応させる変換部をさらに有することを特徴とする請求項1または2に記載の情報処理装置。
  4. 前記選択部はさらに、前記選択された推論手段に入力する入力情報を選択することを特徴とする請求項1から3の何れか一項に記載の情報処理装置。
  5. 前記入力情報は、前記経時差分画像および前記経時差分画像上の前記注目領域の少なくとも一方であることを特徴とする請求項4に記載の情報処理装置。
  6. 前記入力情報は、前記第一の医用画像および前記第二の医用画像の少なくとも一方を含む情報であることを特徴とする請求項4または5に記載の情報処理装置。
  7. 前記入力情報は、前記変換部により変換された領域を含む情報であることを特徴とする請求項4から6の何れか一項に記載の情報処理装装置。
  8. 前記入力情報は、前記第一の時点での臨床情報及び前記第二の時点での臨床情報のうち少なくとも一方の臨床情報をさらに含むことを特徴とする請求項4乃至6の何れか一項に記載の情報処理装置。
  9. 前記選択部は、前記注目領域が第一の特徴量を有している場合、前記複数の推論手段から第一の推論手段を選択し、前記注目領域が第二の特徴量を有している場合、前記第一の推論手段と異なる第二の推論手段を前記複数の推論手段から選択することを特徴とする請求項1に記載の情報処理装置。
  10. 前記選択部は、前記経時差分画像上の注目領域における特徴領域の形状、特徴領域の大きさ、特徴領域の画素値のうち、少なくともひとつに基づいて推論手段を選択することを特徴とする請求項1または9に記載の情報処理装置。
  11. 前記選択部は、第一の時点での臨床情報及び第二の時点での臨床情報のうち少なくとも一方の臨床情報に基づいて推論手段を選択することを特徴とすることを特徴とする請求項1または9に記載の情報処理装置。
  12. 前記選択部は、前記注目領域における特徴領域が推論手段を選択する情報を満たさない場合に、注目領域を異ならせることを特徴とする請求項1に記載の情報処理装置。
  13. 前記選択部は、前記特徴領域が所定より小さい領域もしくは、局所的に離散して存在する場合に、前記注目領域のレンジを大きくすることを特徴とする請求項12に記載の情報処理装置。
  14. 前記選択部は、第一の時点での臨床情報及び第二の時点での臨床情報に基づいて、前記注目領域における特徴領域が推論手段を選択する情報を満たさない理由を特定することを特徴とする請求項12に記載の情報処理装置。
  15. 前記特定された理由を表示する表示部を有することを特徴とする請求項14に記載の情報処理装置。
  16. 前記注目領域における特徴領域が推論手段を選択する情報を満たさない場合に、前記第一の時点以前に撮像された医用画像および前記第二の時点以降に撮像された医用画像のうち少なくとも一方を経時差分画像の対象として置き換えることを特徴とする請求項1に記載の情報処理装置。
  17. 第一の時点で撮像された第一の医用画像と第二の時点で撮像された第二の医用画像との経時差分画像を取得する取得ステップと、
    前記取得された経時差分画像における注目領域に基づいて、経時差分画像に対して推論を行う複数の推論手段から少なくともひとつの推論手段を選択する選択ステップと
    を有することを特徴とする情報処理方法。
  18. 請求項17に記載の情報処理方法をコンピュータに実行させるためのプログラム。
JP2019078889A 2019-04-17 2019-04-17 情報処理装置、情報処理方法およびプログラム Pending JP2020174861A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019078889A JP2020174861A (ja) 2019-04-17 2019-04-17 情報処理装置、情報処理方法およびプログラム
US16/834,225 US11200978B2 (en) 2019-04-17 2020-03-30 Information processing apparatus, information processing method, and non-transitory computer-readable storage medium
JP2023182840A JP2024010085A (ja) 2019-04-17 2023-10-24 情報処理装置、情報処理方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019078889A JP2020174861A (ja) 2019-04-17 2019-04-17 情報処理装置、情報処理方法およびプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023182840A Division JP2024010085A (ja) 2019-04-17 2023-10-24 情報処理装置、情報処理方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2020174861A true JP2020174861A (ja) 2020-10-29

Family

ID=72832827

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019078889A Pending JP2020174861A (ja) 2019-04-17 2019-04-17 情報処理装置、情報処理方法およびプログラム
JP2023182840A Pending JP2024010085A (ja) 2019-04-17 2023-10-24 情報処理装置、情報処理方法およびプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023182840A Pending JP2024010085A (ja) 2019-04-17 2023-10-24 情報処理装置、情報処理方法およびプログラム

Country Status (2)

Country Link
US (1) US11200978B2 (ja)
JP (2) JP2020174861A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021176424A (ja) * 2020-05-08 2021-11-11 コニカミノルタ株式会社 医療診断支援装置、医療診断支援プログラム、および医療診断支援方法
WO2023058468A1 (ja) * 2021-10-04 2023-04-13 株式会社biomy 情報処理装置及び情報処理方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10118016A (ja) * 1996-10-24 1998-05-12 Toshiba Corp 医療用画像形成装置
JP2018038815A (ja) * 2016-08-31 2018-03-15 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP2018175227A (ja) * 2017-04-10 2018-11-15 富士フイルム株式会社 医用画像表示装置、方法およびプログラム
JP2019045929A (ja) * 2017-08-30 2019-03-22 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6067373A (en) * 1998-04-02 2000-05-23 Arch Development Corporation Method, system and computer readable medium for iterative image warping prior to temporal subtraction of chest radiographs in the detection of interval changes
JP4311598B2 (ja) * 2000-11-20 2009-08-12 富士フイルム株式会社 異常陰影検出方法および装置
JP4745080B2 (ja) * 2006-02-20 2011-08-10 猛 中浦 X線診断装置、画像処理装置及びプログラム
US20090074276A1 (en) * 2007-09-19 2009-03-19 The University Of Chicago Voxel Matching Technique for Removal of Artifacts in Medical Subtraction Images
JP5582707B2 (ja) 2009-02-27 2014-09-03 キヤノン株式会社 医療意志決定支援装置及びその制御方法
JP6363575B2 (ja) * 2015-09-29 2018-07-25 富士フイルム株式会社 画像位置合わせ装置および方法並びにプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10118016A (ja) * 1996-10-24 1998-05-12 Toshiba Corp 医療用画像形成装置
JP2018038815A (ja) * 2016-08-31 2018-03-15 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP2018175227A (ja) * 2017-04-10 2018-11-15 富士フイルム株式会社 医用画像表示装置、方法およびプログラム
JP2019045929A (ja) * 2017-08-30 2019-03-22 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021176424A (ja) * 2020-05-08 2021-11-11 コニカミノルタ株式会社 医療診断支援装置、医療診断支援プログラム、および医療診断支援方法
WO2023058468A1 (ja) * 2021-10-04 2023-04-13 株式会社biomy 情報処理装置及び情報処理方法

Also Published As

Publication number Publication date
US11200978B2 (en) 2021-12-14
US20200335202A1 (en) 2020-10-22
JP2024010085A (ja) 2024-01-23

Similar Documents

Publication Publication Date Title
JP7225295B2 (ja) 医用画像表示装置、方法およびプログラム
KR101887194B1 (ko) 피검체의 의료 영상의 판독을 지원하는 방법 및 이를 이용한 장치
US9536045B1 (en) Dynamic digital image compression based on digital image characteristics
JP6275876B2 (ja) 医療データ処理のための進化型文脈的臨床データエンジン
US7747050B2 (en) System and method for linking current and previous images based on anatomy
US20160321427A1 (en) Patient-Specific Therapy Planning Support Using Patient Matching
JP4911029B2 (ja) 異常陰影候補検出方法、異常陰影候補検出装置
JP2019153250A (ja) 医療文書作成支援装置、方法およびプログラム
JP2007151645A (ja) 医用画像診断支援システム
US20200105414A1 (en) Information processing apparatus, information processing system, information processing method, and non-transitory computer-readable storage medium
JP2010167042A (ja) 医用診断支援装置及びその制御方法、並びに、プログラム
US11626209B2 (en) Diagnosis support apparatus, diagnosis support system, diagnosis support method, and non-transitory storage medium
CN112529834A (zh) 病理图像模式在3d图像数据中的空间分布
JP2024010085A (ja) 情報処理装置、情報処理方法およびプログラム
EP3424017A1 (en) Automatic detection of an artifact in patient image data
JP7170000B2 (ja) 学習システム、方法及びプログラム
WO2021157705A1 (ja) 文書作成支援装置、方法およびプログラム
JP2006325640A (ja) 異常陰影候補の表示方法及び医用画像処理システム
US20230274439A1 (en) Method and system for determining a change of an anatomical abnormality depicted in medical image data
JP5556674B2 (ja) 医用画像表示装置及びプログラム
JP2006340835A (ja) 異常陰影候補の表示方法及び医用画像処理システム
JP2006334140A (ja) 異常陰影候補の表示方法及び医用画像処理システム
US10839299B2 (en) Non-leading computer aided detection of features of interest in imagery
EP4358022A1 (en) Medical image diagnostic system, medical image diagnostic method, and program
EP4356837A1 (en) Medical image diagnosis system, medical image diagnosis system evaluation method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220331

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230412

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230725