JP7097794B2 - 情報処理システム及び情報処理方法 - Google Patents

情報処理システム及び情報処理方法 Download PDF

Info

Publication number
JP7097794B2
JP7097794B2 JP2018196705A JP2018196705A JP7097794B2 JP 7097794 B2 JP7097794 B2 JP 7097794B2 JP 2018196705 A JP2018196705 A JP 2018196705A JP 2018196705 A JP2018196705 A JP 2018196705A JP 7097794 B2 JP7097794 B2 JP 7097794B2
Authority
JP
Japan
Prior art keywords
image data
image
captured
machine learning
patient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018196705A
Other languages
English (en)
Other versions
JP2020062281A (ja
Inventor
研一 吉田
Original Assignee
富士フイルム医療ソリューションズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルム医療ソリューションズ株式会社 filed Critical 富士フイルム医療ソリューションズ株式会社
Priority to JP2018196705A priority Critical patent/JP7097794B2/ja
Publication of JP2020062281A publication Critical patent/JP2020062281A/ja
Application granted granted Critical
Publication of JP7097794B2 publication Critical patent/JP7097794B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Radiation-Therapy Devices (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Description

本開示は、情報処理システム及び情報処理方法に関する。
診断や治療を行うために、CT(Computed Tomography)、MR(Magnetic Resonance Imaging)又はPET(Positron Emission Tomography)等の撮像装置を用いて、人体や動物の撮像が行われる。従来、撮像した画像を用いて、画像診断や治療計画の策定をコンピュータにより自動化する方法が知られている。
例えば特許文献1には、画像から特徴を抽出し、抽出した特徴を用いて機械学習分類方法を実行するコンピュータ援用検出/診断システムが記載されている。また、例えば非特許文献1及び非特許文献2には、機械学習における画像分類方法が記載されている。また、例えば特許文献2には、自動で放射線治療計画を作成するシステムが記載されている。
特表2007-528746号公報 特表2017-522097号公報
Alex Krizhevsky、外2名、"ImageNet Classification with Deep Convolutional Neural Networks"、[online]、[平成30年9月5日検索]、インターネット<URL:https://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf> 寺本篤司、外3名、"PET/CT画像におけるConvolutional neural networkと従来型の特徴量を併用した肺結節自動検出手法の改良"、[online]、2016年、一般社団法人 電子情報通信学会、[平成30年9月5日検索]、インターネット<URL:http://www.fjt.info.gifu-u.ac.jp/publication/876.pdf>
機械学習を行う際には、学習に用いられる教師データが多量に必要となる。しかしながら、機械学習を行うために十分な良質な教師データを新たに収集することは容易ではない。
また、機械学習を用いることにより、より高品質な診断を提供できれば望ましい。
本開示は、教師データを収集する負荷を軽減し、あるいは、より高品質な診断を提供可能な情報処理システム及び情報処理方法を提供することを目的とする。
幾つかの実施形態に係る情報処理システムは、治療対象となり得る治療対象領域が指定された第1画像データと、第1画像データと異なる時期に撮像された第2画像データと、に基づき、第2画像データについて、第1画像データの治療対象領域に対応する位置を特定する位置合わせを行う画像位置合わせ部と、第1画像データと第2画像データとの位置合わせに基づいて、患者を診断するための診断プログラムを生成する機械学習実行部と、を備える。これにより、異なる時期に撮像された画像データに基づいて機械学習を行うことができる。そのため、このようにして生成された診断プログラムを用いて診断を行うことにより、例えば将来病変となる部位を、より早期段階で発見しやすくなる。このようにして、より高品質な診断を提供可能である。
一実施形態において、第2画像データは、第1画像データよりも過去に撮像された画像データであってよい。この場合、第1画像データにおける治療対象領域の過去の状態を、第2画像データにおいて特定することができる。
一実施形態において、第1画像データと第2画像データとは、同一種類の撮像装置を用いて撮像された画像データであってよい。これにより、第1画像データと第2画像データとの条件を揃えることができる。
幾つかの実施形態に係る情報処理システムは、治療対象となり得る治療対象領域が指定された第1画像データと、第1画像データと異なる種類の撮像装置を用いて撮像された第2画像データと、に基づき、第2画像データについて、第1画像データの治療対象領域に対応する位置を特定する位置合わせを行う画像位置合わせ部と、第1画像データと第2画像データとの位置合わせに基づいて、患者を診断するための診断プログラムを生成する機械学習実行部と、を備える。これにより、異なる種類の撮像装置により撮像された画像データに基づいて機械学習を行うことができる。そのため、このようにして生成された診断プログラムを用いて診断を行う場合、患者は複数種類の撮像装置による撮像を行うことなく、1つの撮像装置による撮像を行うことにより、他の撮像装置を用いて診断され得る病変についても、診断を受けることができる。このようにして、より高品質な診断を提供可能である。また、異なる種類の撮像装置ごとに診断プログラムを作成する場合と比較して、撮像装置の種類ごとに異なる診断プログラムを作成する必要がなくなるため、複数の診断プログラムを作成する煩雑さが低減される。
一実施形態において、第1画像データ及び第2データは、CTを用いて撮像されたCT画像データ、MRIを用いて撮像されたMRI画像データ、又はPTを用いて撮像されたPT画像データである。この場合、患者は、例えばCT、MRI又はPTによる撮像を行うことによって、CT、MRI又はPTを撮像して診断され得る病変について診断を受けることができる。
一実施形態において、第1画像データと第2画像データとは、同一の時期に撮像された画像データであってよい。これにより、第1画像データと第2画像データとの条件を揃えることができる。
一実施形態において、画像位置合わせ部は、平行移動による補正、回転角度の補正、及び/又は非剛体的な変形に関する補正を行った後、対応する位置を特定してよい。これにより、より高い精度で位置合わせを行うことができる。
一実施形態において、治療対象領域として特定された範囲内において設定された特定の疾患に関する悪性領域と、治療対象領域として特定されていない範囲外において設定された良性領域とを用いて、診断プログラムを生成してよい。これにより、病変が発生している部位と病変が発生していない部位とを区別して学習を行うことができる。
一実施形態において、第1画像データと第2画像データとは、患者と同一の患者の同一の部位について撮像された画像データであってよい。これにより、第1画像データと第2画像データとの条件を揃えることができる。
一実施形態において、第1画像データ及び第2画像データの少なくともいずれかは、治療計画を作成するために撮像され、患者の前記治療計画を作成することにより予め治療計画データベースに蓄積された画像データであってよい。これにより、治療計画を作成するために撮像された画像データを機械学習の教師データとして使用できるため、教師データを収集する負荷を軽減できる。また、指定された治療対象領域の位置が病変の位置であるとして、機械学習を実行することができるため、機械学習にあたり新たに治療対象領域を指定する必要がなくなる。
一実施形態において、新たに撮像された新規撮像画像データに対して前記診断プログラムを適用することにより診断を行う学習結果適用演算部をさらに備えてよい。これにより、診断システムにおいて、診断プログラムを用いた診断処理まで実行することができる。
一実施形態において、画像データは、放射線治療の治療計画を作成するために撮像されたものであってよい。この場合、放射線治療の治療計画作成時に撮像された画像を、教師データとして使用することができる。
幾つかの実施形態に係る情報処理システムは、治療計画を作成するために撮像された画像データを用いて患者を診断するための診断プログラムを生成する機械学習実行部を備える情報処理システムであって、画像データは、治療対象となり得る治療対象領域が指定されており、かつ、患者の治療計画を作成することにより予め治療計画データベースに蓄積された画像データである。これにより、治療計画を作成するために撮像された画像データを機械学習の教師データとして使用できるため、教師データを収集する負荷を軽減できる。また、指定された治療対象領域の位置が病変の位置であるとして、機械学習を実行することができるため、機械学習にあたり新たに治療対象領域を指定する必要がなくなる。
幾つかの実施形態に係る情報処理方法は、情報処理システムにより実行される情報処理方法であって、治療対象となり得る治療対象領域が指定された第1画像データと、第1画像データと異なる時期に撮像された第2画像データと、を取得するステップと、第2画像データについて、第1画像データの治療対象領域に対応する位置を特定する位置合わせを行うステップと、位置合わせに基づいて、患者を診断するための診断プログラムを生成するステップと、を含む。これにより、異なる時期に撮像された画像データに基づいて機械学習を行うことができる。そのため、このようにして生成された診断プログラムを用いて診断を行うことにより、例えば将来病変となる部位を、より早期段階で発見しやすくなる。このようにして、より高品質な診断を提供可能である。
幾つかの実施形態に係る情報処理方法は、情報処理システムにより実行される情報処理方法であって、治療対象となり得る治療対象領域が指定された第1画像データと、第1画像データと異なる種類の撮像装置を用いて撮像された第2画像データと、を取得するステップと、第2画像データについて、第1画像データの治療対象領域に対応する位置を特定する位置合わせを行うステップと、位置合わせに基づいて、患者を診断するための診断プログラムを生成するステップと、を含む。これにより、異なる種類の撮像装置により撮像された画像データに基づいて機械学習を行うことができる。そのため、このようにして生成された診断プログラムを用いて診断を行う場合、患者は複数種類の撮像装置による撮像を行うことなく、1つの撮像装置による撮像を行うことにより、他の撮像装置を用いて診断され得る病変についても、診断を受けることができる。このようにして、より高品質な診断を提供可能である。
幾つかの実施形態に係る情報処理方法は、情報処理システムにより実行される情報処理方法であって、治療計画を作成するために撮像された画像データを取得するステップと、画像データを用いて患者を診断するための診断プログラムを生成するステップと、を含み、画像データは、治療対象となり得る治療対象領域が指定されており、かつ、患者の治療計画を作成することにより予め治療計画データベースに蓄積された画像データである。これにより、治療計画を作成するために撮像された画像データを機械学習の教師データとして使用できるため、教師データを収集する負荷を軽減できる。また、指定された治療対象領域の位置が病変の位置であるとして、機械学習を実行することができるため、機械学習にあたり新たに治療対象領域を指定する必要がなくなる。
本開示によれば、教師データを収集する負荷を軽減し、あるいは、より高品質な診断を提供可能な情報処理システム及び情報処理方法を提供することができる。
患者に対して施される診断及び治療の流れの一例を示す図である。 機械学習のために用いられる教師データとして使用する画像の一例を示す模式図である。 機械学習の一例を示す概念図である。 本開示の一実施形態に係る情報処理システムの使用態様の一例を示す概念図である。 図4に示す診断システムの概略構成の一例を示す機能ブロック図である。 位置合わせの一例について説明する図である。 位置合わせの他の一例について説明する図である。 教師領域の設定の一例について説明する図である。 図5の診断システムが実行する処理の一例を示すフローチャートである。 図5の診断システムが実行する他の処理の一例を示すフローチャートである。 図5の診断システムが実行するさらに他の処理の一例を示すフローチャートである。
以下、本発明の一実施形態について、図面を参照して説明する。
まず、従来行われてきた、コンピュータを用いない診断及び治療の流れの一例について説明する。図1は、患者に対して施される診断及び治療の流れの一例を示す図である。図1において、破線で囲まれた箇所は診断業務を示し、一点鎖線で囲まれた箇所は治療業務を示す。なお、本明細書において、診断は、患者の病変の発見及び特定を含み、治療は、病変を治癒させるための施術を含む。治療は、診断の結果発見された病変に対応する任意の治療を含んでよい。例えば、病変ががんである場合、治療は、放射線治療を含んでよい。
図1に示すように、患者の診断において、まず、撮像装置(モダリティともいう)を用いて患者の人体の撮像が行われる(ステップS1)。そして、医師により、撮像した画像(以下「撮像画像」ともいう)の読影が行われる(ステップS2)。読影は、医師が撮像画像を目視して、腫瘍等の病変がないかを判断したり、所見(読影レポート)を記録として作成したりすることにより行われる。病変が発見された場合には、病変の位置を、画像上において円や矢印を用いて表示したり、文章により示したりすることにより、読影レポートに記録する。読影を行う医師を、読影医ともいう。ステップS1及びステップS2により行われる診断を、ここでは、第1回目の診断という。第1回目の診断では、病変が発見されなかったとする。
第1回目の診断から所定期間(例えば1年又は3年等)経過後、再び患者の診断が行われる。具体的には、第1回目の診断と同様に、撮像装置による人体の撮像(ステップS3)と、読影医による撮像画像の読影(ステップS4)が行われる。ステップS3及びステップS4により行われる診断を、ここでは、第2回目の診断という。第2回目の診断でも、病変が発見されなかったとする。
第2回目の診断からさらに所定期間経過後、再び患者の診断が行われる。第1回目及び第2回目の診断と同様に、撮像装置による人体の撮像(ステップS5)と、読影医による撮像画像の読影(ステップS6)が行われる。ステップS5及びステップS6により行われる診断を、ここでは、第3回目の診断という。第3回目の診断において、読影医により悪性腫瘍が発見されたとする。
この場合、図1で一点鎖線により示される治療が行われる。例えば、放射線治療が行われる場合、医師により放射線治療計画が作成される(ステップS7)。放射線治療計画では、例えば人体に対して、放射線を照射する位置及び方向、並びに照射する放射線量等が計画される。放射線治療計画は、放射線治療計画を行うための専用の装置又はアプリケーションを用いて行われる。放射線治療計画は、照射する放射線の線種(例えば光子、陽子又は重粒子)の物理的性質や、治療機器の性能を考慮して作成される。放射線治療計画が作成されると、当該放射線治療計画に基づいて、実際に放射線治療が実施される(ステップS8)。
図1を参照して説明した従来の診断及び治療計画方法に対し、近年では、コンピュータを活用した診断及び治療計画方法が考案されてきた。コンピュータを活用した診断及び治療計画方法の一例として、例えばディープラーニング等の機械学習により生成したプログラムを用いて、診断及び治療計画の作成を実行することができる。
機械学習においては、学習を行うための素材である教師データが必要となる。図2は、病変を診断するための診断プログラムを機械学習により生成する場合に用いられる教師データとして使用する画像の一例を示す模式図である。機械学習に際し、教師データは、画像データとして、コンピュータに入力される。当該コンピュータは、病変を診断する診断プログラムを機械学習により生成可能なコンピュータである。図2は、教師データとして使用する画像の一例として、CTで撮像された画像(以下「CT画像」ともいう)の画像データ(以下「CT画像データ」ともいう)を示す。図2は、人体の腹部断面のCT画像データを示すものである。教師データとして提供される画像には、治療対象領域が示される。治療対象領域は、治療の対象となり得る領域であり、病変を含む領域である。治療対象領域は、例えば、医師により特定される。医師は、例えば、治療が必要な領域を、治療対象領域として特定する。治療対象領域は、医師により指定されずに、例えばコンピュータにより自動で指定されてもよい。治療対象領域は、悪性領域の位置を示すものとして指定されたROI(Region of Interest:着目領域)を含む。以下、本明細書において、治療対象領域が悪性領域の位置を示すものとして指定されたROI(以下、単に「ROI」ともいう)であるとして説明する。なお、治療対象領域は、実際の治療を伴わない診断においても適用可能な概念であると認識されたい。診断において、例えば病変が検出された場合、当該病変を含む領域は、治療の対象となり得る領域であると言える。
図2では、ROIは、正方形の領域として示されている。ただし、ROIは、円形のような他の形状により示されていてもよい。提供される教師データが3次元画像である場合には、ROIは、例えば立方体等の3次元の領域として示されてもよい。
コンピュータは、上述したようにROIが示された画像データを教師データとして用いて機械学習を行う。機械学習は、公知の手法により実行される。図3は、機械学習の一例を示す概念図である。図3に示すように、機械学習において、複数種類の画像データがコンピュータに入力される。図3では、複数種類の画像データとして、疾患αの病変を含む画像データと、疾患βの病変を含む画像データと、病変を含まない画像データとが示されている。コンピュータは、複数種類の画像データを、多層ニューラルネットワークを用いて分類する。具体的には、図3に示すように、コンピュータは、入力された画像から、疾患の有無、及び疾患の種類ごとに画像データを分類する。このようにして、画像に基づいて正しく分類が実行されるように学習が行われることによって、診断プログラムが生成される。
機械学習が完了すると、機械学習により生成された診断プログラムを用いて、患者の診断が行われる。具体的には、患者のCT画像がコンピュータに入力され、コンピュータは、診断プログラムを用いて、入力されたCT画像における病変の有無を判定する。病変がある場合、コンピュータは、CT画像に発見された病変に係る疾患の種類を分類する。このようにして、機械学習を用いた自動診断が実現される。
ここで、高精度な機械学習を行うに当たっては、多量の(例えば数万件以上の)教師データが必要となる。しかしながら、機械学習を行うために十分な量の教師データを収集することは容易ではなく、可能であるとしても大きな労力を要する。
例えば、患者の診断記録として、上述した従来のコンピュータを用いない診断の記録が蓄積されてはいるが、このような記録としての読影レポートは、医師が、病変の位置を自然言語で記載したり矢印等で示したりするものであり、画像上にROIとして指定したものではない。機械学習の教師データは、一般に、画像上での位置を正確に特定する必要があるため、従来の診断記録を、そのまま機械学習の教師データとして用いることはできない。
従来の診断記録を教師データとして用いるためには、蓄積された従来の診断記録に対して、例えば放射線科の医師等の専門知識を有する者が、画像上のROIを指定する作業をする必要がある。しかしながら、十分な教師データを準備するためには、作業量が膨大であり、作業者の負担が大きい。
また、診断及び治療は、病変を発見及び特定する等の点において相互に関連するが、病院等の医療施設では、診断を行う部門と、治療を行う部門とが独立しており、ネットワークやシステム等が独立して構成されている場合がある。ネットワークやシステム等が独立して構成されていることにより、両部門間での情報の交換や共有が行いにくい場合がある。そのため、例えば診断を行う部門で収集されたデータと、治療を行う部門で収集されたデータとが、いずれも機械学習のための教師データとして用いることができる場合であっても、両部門で収集されたデータを統合的に活用することが難しい。つまり、例えば、治療を行う部門で収集されたデータを、自動診断のための機械学習の教師データとして活用することは難しい。
さらに、自動診断のための機械学習においては、単一の種類の撮像装置、つまりCT、MR又はPET等の撮像装置ごとにおける機械学習の精度の向上について着目されてきた。すなわち、従来は、例えばCT画像を用いた自動診断を行う場合、CTの画像データのみを教師データとして機械学習を行い、CTの画像データを用いて自動診断が行われてきた。そのため、例えば、種類の異なる撮像装置により撮像された画像を互いに関連付けた自動診断は行われていない。また、単一の種類の撮像装置により撮像された画像を用いる場合であっても、例えば撮像時期が異なる画像を比較した自動診断については行われていない。しかしながら、種類の異なる撮像装置により撮像された画像を関連づけたり、撮像時期が異なる画像を比較したりすることにより、より高品質な自動診断を提供できる。
以下、上述した課題を解決可能な情報処理システムについて説明する。
図4は、本実施形態に係る情報処理システムの使用態様の一例を示す概念図である。以下、本実施形態では、情報処理システムの一例として、自動で患者の診断を行うシステム(以下「診断システム」ともいう)について説明する。
図4は、診断システム10が使用される医療施設の様子を示している。図4に示す医療施設は、患者の診断を行う診断部門と、患者の治療を行う治療部門とを有する。
診断部門には、撮像装置として、CT画像の撮像を行う検査用CT11と、MRIで撮像された画像(以下「MRI画像」ともいう)の撮像を行う検査用MRI12とが設置されている。検査用CT11及び検査用MRI12は、それぞれ複数台設置されていてもよい。
図4に示すように、例えば検査用CT11を用いて患者Aの人体のCT画像の撮像が行われ、撮像されたCT画像データが、医療施設内のネットワーク30を介して検査画像データベース13に送信される。また、図4に示すように、例えば検査用MRI12を用いて患者Bの人体のMRI画像の撮像が行われ、撮像されたMRI画像の画像データ(以下「MRI画像データ」ともいう)が、医療施設内のネットワーク30を介して検査画像データベース13に送信される。これを、同一及び/又は異なる患者について繰り返すことにより、検査用CT11及び検査用MRI12は、複数のCT画像及びMRI画像をそれぞれ撮像し、撮像された画像データが検査画像データベース13に送信される。
検査画像データベース13は、検査用CT11及び検査用MRI12から送信されるCT画像データ及びMRI画像データをデータベースとして記憶する。検査画像データベース13は、例えば、CT画像データ及びMRI画像データを記憶する記憶部を備えるサーバ装置により構成されていてよい。
診断システム10は、自動診断のための機械学習を行うとともに、機械学習により生成されたプログラムを用いて、自動診断を行うシステムである。診断システム10の機能及び構成の詳細については、後述する。
診断部門には、さらに診断装置14が備えられている。診断装置14は、例えばコンピュータにより構成される。診断装置14は、例えば各医師が使用する端末装置であってよい。診断装置14は、例えば後述する診断システム10により実行された自動診断の結果を、ネットワーク30を介して取得し、診断装置14が備える記憶部に記憶したり、診断装置14が備える表示画面に表示したりしてもよい。このようにして、医師は、自動診断の結果を見ることができる。医師は、例えば、診断において病変を発見した場合には、診断装置14を用いて、病変を発見したCT画像又はMRI画像において、病変の位置を、ROIとして指定する操作を行ってもよい。ROIが指定されたCT画像又はMRI画像は、検査画像データベース13に記憶される。
治療部門には、撮像装置として、CT画像の撮像を行う治療計画用CT21が設置されている。治療計画用CT21の機能は、診断部門が有する検査用CT11と同じであってよい。検査用CT11及び治療計画用CT21は、いずれもCT画像を取得する点で共通するが、撮像されたCT画像の用途が異なる。図4に示すように、例えば治療計画用CT21を用いて患者Cの人体のCT画像の撮像が行われ、撮像されたCT画像データが、医療施設内のネットワーク30を介して治療計画データベース23に送信される。これを同一及び/又は異なる患者について繰り返すことにより、治療計画用CT21は、複数のCT画像を撮像し、撮像された画像データが治療計画データベース23に送信される。
治療部門には、さらに治療計画装置24が備えられている。治療計画装置24は、例えばコンピュータにより構成される。治療計画装置24は、例えば各医師が使用する端末装置であってよい。治療計画装置24は、例えば、治療計画データベース23に記憶されたCT画像に基づいて治療計画を作成するために使用されてよい。例えば、医師は、治療計画データベース23に記憶されたCT画像に基づき、患者Cの治療計画を作成する。このとき、医師は、CT画像について、ROIを指定する操作を行う。ROIが指定されたCT画像は、治療計画データベース23に記憶される。
治療装置25は、患者の治療を行うための装置である。例えば、患者に対して放射線治療が行われる場合、治療装置は、患者に放射線を照射するための放射線治療装置である。
医療施設内のネットワーク30は、診断部門と治療部門とで通信可能に接続されている。診断システム10は、検査画像データベース13に記憶されたCT画像及び/又はMRI画像と、治療計画データベース23に記憶されたCT画像とを、ネットワーク30を介して取得し、取得したCT画像及び/又はMRI画像を用いて機械学習を行う。
次に、診断システム10の機能及び構成の詳細について説明する。診断システム10は、機械学習を行うことによって診断プログラムを生成するとともに、生成した診断プログラムを用いて患者の診断を行う。診断の対象となる患者は、機械学習に用いた画像の患者であってもよく、機械学習に用いた画像の患者ではない患者であってもよい。診断の対象となる患者を、以下「新たな患者」ともいう。
本実施形態に係る診断システム10は、診断プログラムの生成のための機械学習において、教師データとして、治療計画を作成するために撮像されたCT画像、つまり治療計画データベース23に記憶されたCT画像と、診断を行うために撮像されたCT画像及び/又はMRI画像、つまり検査画像データベース13に記憶されたCT画像及び/又はMRI画像とを用いる。治療計画データベース23に記憶されたCT画像には、上述のようにROIが指定されている。このように、診断システム10は、教師データとして、治療計画のために取得されROIが指定された画像データと、診断のために取得された画像データとの双方を利用する。そのため、治療計画のために取得された画像データを有効に活用できるとともに、診断のための膨大な教師データを新たに取得するという負荷を軽減することができる。
また、本実施形態に係る診断システム10は、機械学習の段階において、異なる時期に撮像された画像を対応付けて、機械学習を行う。ここでいう異なる時期とは、患者の病変の変化が検出できる程度に間隔を隔てた時期をいう。例えば、異なる時期は、数ヶ月や数年の間隔を隔てた時期であってよい。反対に、患者の病変の変化が検出できない程度に間隔が近い時期を、本明細書において、同時期という。例えば、診断システム10は、治療計画のために撮像されたCT画像と、当該CT画像と同一の患者について、異なる時期(例えば過去)に診断のために撮像されたCT画像とを対応付けて、機械学習を行う。具体的には、診断システム10は、例えば、治療計画のために撮像されたCT画像において指定されたROIの位置に対応する位置を、異なる時期に診断のために撮像されたCT画像において特定する。これにより、ROIとして特定された病変が発見された位置について、異なる時期における画像が特定される。つまり、将来的に病変が発見される位置の、病変が発生する前の画像が特定される。このように、異なる時期に撮像された画像を互いに対応付けて機械学習を行って生成される診断プログラムを用いて、診断を行った場合、将来的に病変となり得る位置が特定され得る。そのため、病変の発生や増悪の可能性について、早期に予見しやすくなる。
また、本実施形態に係る診断システム10は、機械学習の段階において、異なる種類の撮像装置により撮像された画像を対応付けて、機械学習を行う。例えば、診断システム10は、同一の患者について撮像されたCT画像とMRI画像とを対応付けて、機械学習を行う。CTとMRIとは、撮像原理が異なるため、同一の患者の同一の部位であっても、画像における写り方が異なる。例えば、一方の撮像装置により撮像された画像において明確に写らない病変が、他の撮像装置により撮像された画像において明確に写る場合がある。しかしながら、本実施形態のように、異なる種類の撮像装置により撮像された画像を互いに対応付けて機械学習を行って生成される診断プログラムを用いて、診断を行った場合、一方の撮像装置により撮像された画像のみから、他の撮像装置により発見しやすい病変を、発見することが容易になる。これにより、新たな患者は、複数の撮像装置による撮像を行う必要がなくなる。従って、患者の負担が軽減される。特に、例えば、CT画像の撮像においては、患者にX線を照射することとなるため、患者が被曝することとなり、患者の負担が大きい。このように患者に負担がかかる撮像方法を避け、他の撮像方法により、多様な病変を検出できれば、患者の負担が大きく軽減される。
診断システム10について、さらに詳細に説明する。図5は、診断システム10の概略構成の一例を示す機能ブロック図である。
診断システム10は、例えばサーバ装置により構成されていてよい。診断システム10は、例えば、1台のサーバ装置により構成されていてもよく、複数のサーバ装置により構成されていてもよい。診断システム10が複数のサーバ装置により構成される場合、図5に示す機能ブロックが備える機能が、適宜各サーバ装置に分散されて備えられていてよい。本明細書では、診断システム10が1台のサーバ装置により構成されているとして説明する。
診断システム10は、主に、機械学習を行って診断プログラムを生成する学習処理と、生成した診断プログラムを用いて患者の診断を行う診断処理という、2つの処理を行う。図5に示すように、診断システム10は、学習処理を行う機能部として学習実行部100を有し、診断処理を行う機能部として診断処理部200を有する。学習実行部100は、第1制御部110を有し、第1制御部110により学習処理を実行する。診断処理部200は、第2制御部210を有し、第2制御部210により診断処理を実行する。ただし、診断システム10は、必ずしも第1制御部110及び第2制御部210という2つの制御部を備えていなくてもよい。診断システム10は、本明細書で説明する処理を実行可能な制御部を1つ以上備えていればよい。
第1制御部110は、学習実行部100の各機能ブロックをはじめとして、学習実行部100の全体を制御及び管理する。第1制御部110は、制御手順を規定したプログラムを実行するCPU等の任意の好適なプロセッサ上で実行されるソフトウェアとして構成したり、処理ごとに特化した専用のプロセッサによって構成したりすることができる。このようなプログラムは、例えば記憶部300、又は診断システム10に接続された外部の記憶媒体等に格納される。
第1制御部110は、学習処理を行う具体的な機能部として、治療計画データベース検索部111と、治療用画像・ROI取得部113と、検査画像データベース検索部112と、画像位置合わせ部114と、機械学習実行部115と、機械学習結果記録部116とを有する。
治療計画データベース検索部111は、治療計画データベース23に記憶されたCT画像データのうち、機械学習に用いるCT画像データを検索する。例えば、学習実行部100が特定の疾患αに関する機械学習を行う場合、治療計画データベース検索部111は、治療計画データベース23に記憶されたCT画像のうち、疾患αが含まれるCT画像データを検索する。検索されたCT画像データには、ROIが指定されている。治療計画データベース23に記憶されたCT画像は、例えば、予めそれぞれ具体的な疾患が対応付けて記憶されている。例えば、治療計画データベース23に記憶されたCT画像は、予め医師により具体的な疾患が対応付けられている。治療計画データベース検索部111は、特定の疾患αに対応付けられたCT画像データを検索する。治療計画データベース検索部111は、医療施設内のネットワーク30を介して治療計画データベース23にアクセスすることにより、CT画像データの検索を行うことができる。学習実行部100は、疾患ごとに、機械学習を行い、診断プログラムを生成することができる。
検査画像データベース検索部112は、検査画像データベース13に記憶されたCT画像データ及び/又はMRI画像データのうち、機械学習に用いる画像データを検索する。例えば、検査画像データベース検索部112は、検査画像データベース13に記憶されたCT画像データ及び/又はMRI画像データのうち、治療計画データベース検索部111により検索されたCT画像データと同一の患者の同一の部位を撮像した画像データを検索する。ここで検索される画像データは、治療計画データベース検索部111により検索されたCT画像データと同一の患者の同一の部位を撮像した画像データであってよい。従って、ここで検索される画像データは、治療計画データベース検索部111により検索されたCT画像データが撮像された時期とは異なる時期(例えば過去)に撮像された画像の画像データであってもよく、治療計画データベース検索部111により検索されたCT画像データとは異なる種類の撮像装置(ここでは例えばMRI)により撮像された画像のデータであってもよい。つまり、検査画像データベース検索部112は、治療計画データベース検索部111により検索されたCT画像データと同一の患者の同一の部位の画像であって、異なる時期及び/又は異なる種類の撮像装置により撮像された画像データを検索してよい。あるいは、検査画像データベース検索部112は、ROIが指定されたCT画像データ又はMRI画像データと、ROIが指定されていない同一の患者のCT画像データ又はMRI画像データとを検索してよい。検査画像データベース検索部112は、医療施設内のネットワーク30を介して検査画像データベース13にアクセスすることにより、画像データの検索を行うことができる。
治療用画像・ROI取得部113は、治療計画データベース検索部111により検索されたCT画像データ、並びに/又は、検査画像データベース検索部112により検索されたCT画像データ及び/若しくはMRI画像データを、それぞれ、治療計画データベース23及び検査画像データベース13から、ネットワーク30を介して取得する。また、治療用画像・ROI取得部113は、治療計画データベース検索部111により検索されたCT画像データ、並びに/又は、検査画像データベース検索部112により検索されたCT画像データ及び/若しくはMRI画像データにおいて指定された、ROIに関する情報を取得する。つまり、治療用画像・ROI取得部113は、画像データと、画像データのROIに関する情報とを取得する。
画像位置合わせ部114は、画像データの位置合わせを行う。ここで、位置合わせは、複数の画像データにおいて、対応する位置を特定する処理をいう。画像位置合わせ部114は、位置合わせを行うことにより、ROIが指定された画像データに基づいて、ROIが指定されていない画像データについて、ROIが指定された画像データのROIの位置に対応する位置を特定する。
画像位置合わせ部114は、例えば、異なる時期に撮像された複数の画像について、位置合わせを行う。また、画像位置合わせ部114は、例えば、異なる種類の撮像装置を用いて撮像された画像について、位置合わせを行う。例えば、画像位置合わせ部114は、治療計画データベース検索部111により検索されたCT画像データと、検査画像データベース検索部112により検索されたCT画像データとの位置合わせを実行する。具体的には、画像位置合わせ部114は、検査画像データベース検索部112により検索されたCT画像データにおいて、治療計画データベース検索部111により検索されたCT画像データのROIに対応する位置を特定する。例えば、画像位置合わせ部114は、検査画像データベース検索部112により検索されたCT画像データとMRI画像データとの位置合わせを実行してもよい。
図6は、位置合わせの一例について説明する図である。図6は、異なる時期に撮像された2つの画像について、位置合わせを行う場合の例について説明する図である。図6(A)は、治療計画データベース23に記憶された、治療計画の作成のために治療計画用CT21により撮像されたCT画像を示す模式図である。図6(A)は、患者の腹部断面の画像を示している。図6(A)には、医師により、病変の位置を示すROIが指定されている。図6(B)は、検査画像データベース13に記憶された、診断のために検査用CT11により撮像されたCT画像を示す模式図である。図6(B)は、図6(A)のCT画像と同一の患者の、同一の部位のCT画像であって、図6(A)のCT画像が撮像された時期とは異なる時期(つまり過去)に撮像されたCT画像を示している。従って、図6(A)のCT画像において病変が発見された場合、図6(B)のCT画像には、図6(A)で発見された病変が現れる前又は悪化する前の状態が写っていると言える。
画像位置合わせ部114は、図6(A)に示すCT画像と、図6(B)に示すCT画像との位置合わせを行う。つまり、画像位置合わせ部114は、図6(B)において、図6(A)のROIの位置に対応する位置を、図6(B)のCT画像におけるROIとして特定する。位置合わせを行うことにより、将来的に病変として発見される位置のCT画像が、図6(B)において特定される。
位置合わせは、任意の公知の方法により実行されてよい。例えば、位置合わせにおいて、CT画像を平行移動による補正を行う場合、CT画像データがDICOM(Digital Imaging and Communications in Medicine)という規格で各データベースに保存され、DICOMのタグに、付加情報として、例えば撮像対象の画像位置等の、画像に関する情報を記録することにより、当該画像に関する情報を用いて、異なる時期に撮像された画像の位置合わせを行うことができる。
上述の方法に加えて、さらに他の手法を用いて位置合わせを行うこともできる。例えば、位置合わせの対象となる、同一種類の撮像装置で撮像されたCT画像について、公知の2次元画像又は3次元ボクセルに対するパターンマッチを適用することができる。CT画像を撮像する際には、患者の姿勢の変化や移動等により、CT画像データごとに撮像部位のCT画像に差異が発生する場合がある。しかしながら、上述したような手法を含む公知の手法を用いて位置合わせを行うことにより、上述した差異による影響を小さくし、より高い精度で位置合わせを行うことができる。
また、例えば、次の文献にも、位置合わせの手法の一例が記載されており、これらの手法を用いて位置合わせを実行してもよい。この場合も、上述した理由により、より高い精度で位置合わせを行うことができる。
・小山博史、外4名、「バイオメディカル融合3次元画像処理」、東京大学出版会、2015年03月31日、p.113-147
・特開2017-127474号公報
・特開2017-136242号公報
また、位置合わせは、上述した平行移動による補正に限られない。例えば、CT画像における回転角度の補正を行うことにより、位置合わせを実行してもよい。これは、例えば、位置合わせの対象となる複数のCT画像について、患者の姿勢が、回転方向にずれている場合に有効である。実用上は、回転方向のずれが発生し得る範囲を考慮し、例えば±5度の範囲で何段階かの回転を行う。このようにして回転角度ごとに生成されたCT画像について、それぞれ平行移動による補正を行い、位置合わせの対象となる画像同士の合致の度合いが最大となる回転角度のCT画像を、補正後の画像として採用することができる。
さらに、位置合わせは、非剛体的な変形に関する補正であってもよい。非剛体的な変形は、呼吸や体形の変化に基づく変形である。非剛体的な変形は、例えば呼吸や体型の変化に基づく変形を補正する。非剛体的な変形に関する補正の手法については、例えば次の文献に一例が開示されている。
・小山博史、外4名、「バイオメディカル融合3次元画像処理」、東京大学出版会、2015年03月31日、p.132-147
図7は、位置合わせの他の一例について説明する図である。図7は、異なる種類の撮像装置により撮像された2つの画像について、位置合わせを行う場合の例について説明する図である。図7(A)は、検査画像データベース13に記憶された、診断のために検査用CT11により撮像されたCT画像を示す模式図である。図7(A)は、患者の腹部断面の画像を示している。図7(B)は、検査画像データベース13に記憶された、診断のために検査用MRI12により撮像されたMRI画像を示す模式図である。図7(B)は、図7(A)のCT画像と同一の患者の、同一の部位のMRI画像である。つまり、図7(A)と、図7(B)とは、同一の患者の同一の部位における、異なる種類の撮像装置で撮像された画像を示す。図7(A)のCT画像と、図7(B)のMRI画像とは、同一の時期に撮像されたものである。図7(A)のCT画像及び図7(B)のMRI画像のいずれかにおいて、病変の位置を示すROIが指定されている。ROIは、例えば、医師により指定されてよい。ここでは、図7(A)に示すCT画像においてROIが特定され、図7(B)に示すMRI画像においてROIが特定されていないとする。この場合、図7(A)に示すCT画像で発見された病変が、図7(B)におけるMRI画像では、異なる態様で写っていたり、明確には目視で確認できない程度に写っていたりする。
画像位置合わせ部114は、図7(A)に示すCT画像と、図7(B)に示すMRI画像との位置合わせを行う。つまり、画像位置合わせ部114は、図7(B)において、図7(A)のROIの位置に対応する位置を、図7(B)におけるROIとして特定する。位置合わせを行うことにより、CT画像において病変として発見される位置のMRI画像が、図7(B)において特定される。
位置合わせは、任意の公知の方法により実行されてよい。例えば、位置合わせは、次の文献に記載された方法を用いて実行することができる。
・小山博史、外4名、「バイオメディカル融合3次元画像処理」、東京大学出版会、2015年03月31日、p.113-147
異なる種類の撮像装置により取得される撮像画像は、それぞれ異なる原理で撮像されたものであるため、単純に画像同士のパターンマッチを実行できない場合がある。この場合、パターンマッチを実行可能にするために、前処理が実行されてもよい。前処理は、例えば、撮像画像について画像処理を行い、骨、臓器及び体表面等の輪郭を抽出することによって実行されてよい。輪郭の抽出は、例えば、画像の2次微分を用いるラプラシアンフィルタを適用したり、空間周波数分解による高周波フィルタを適用したりする等、公知の手法により実行することができる。画像位置合わせ部114は、抽出された輪郭を合わせるようにして位置合わせを行うことができる。異なる種類の撮像原理で撮像された画像同士であっても、骨、臓器及び体表面等の輪郭は対応する位置に写り込むため、輪郭を抽出して合わせることにより、高い精度で画像同士の位置を対応させて、パターンマッチを実行することができる。
再び図5を参照すると、機械学習実行部115は、機械学習を実行して、診断プログラムを生成する。機械学習実行部115は、例えば、治療計画データベース検索部111により検索されたCT画像データと、検査画像データベース検索部112により検索されたCT画像データ及び/又はMRI画像データとを用いて機械学習を実行する。
具体的には、機械学習実行部115は、学習を行う領域(以下「教師領域」ともいう)を設定する。本実施形態では、機械学習実行部115は、学習領域として、悪性領域(疾患領域)と、良性領域(正常領域)との、2種類の領域を設定する。悪性領域は、疾患を有する領域である。悪性領域は、ROIの範囲内において設定される領域を含む。この場合、悪性領域は、病変を含む。悪性領域は、ROIに対応する位置の範囲内において設定される領域を含む。ROIに対応する位置は、上述した位置合わせにより特定された位置である。悪性領域は、特定の疾患に関する悪性領域が指定されていてよい。この場合、後述する学習結果としての診断プログラムを用いることによって、当該特定の疾患に関する診断を行うことができる。良性領域は、疾患を有さない正常な領域である。良性領域は、ROIの範囲外において設定される領域を含む。この場合、良性領域は、病変を含まない。良性領域は、ROIに対応する位置の範囲内において設定される領域を含む。
図8は、教師領域の設定の一例について説明する図である。図8は、教師データとしての画像の一部を示す図である。図8において、破線で囲まれた領域は、ROIとして指定された領域を示す。機械学習実行部115は、ROIとして特定された破線内と、ROIとして特定されていない破線外とにおいて、それぞれ教師領域として、悪性領域と良性領域とを設定する。
ここで、教師データとして入力される画像では、ROIは、病変に合わせた多様な形状で指定されており、必ずしも機械学習に適した大きさや形状で指定されているわけではない。そこで、機械学習実行部115は、教師領域を、それぞれ機械学習に用いるための適当な大きさ及び形状で設定してよい。例えば、教師領域は、例えば所定の大きさの正方形又は長方形等の領域として指定されてよい。教師データが3次元データである場合には、教師領域は、例えば所定の大きさの立方体又は直方体等の領域として指定されてよい。
例えば、悪性領域の設定において、ROIの範囲が小さいことにより、ROIの範囲内に所定の大きさの正方形の領域を設定できない場合、設定の条件を緩和させてもよい。ROIの範囲内に所定の大きさの正方形の領域を設定できない場合とは、つまり、所定の大きさの正方形の領域を設定するに際して、少なくとも一部の領域がROIの外部にかかる場合である。設定の条件を緩和することにより、例えば、設定される悪性領域の全体がROIの範囲内に含まれなくてもよく、設定される悪性領域のうち所定の割合(例えば90%以上等)がROIの範囲内に含まれていればよいという条件で、悪性領域の設定が行われてもよい。
教師領域の設定は、所定のプログラムに従って、機械学習実行部115により自動的に行われてよい。教師領域は、例えば図8に示すように1つの教師データから悪性領域と良性領域とをそれぞれ1つずつ設定してもよく、1つの教師データから悪性領域と良性領域とを複数設定してもよい。
機械学習実行部115は、教師領域を設定すると、設定した教師領域に基づいて、機械学習を実行する。機械学習は、公知の方法により実行できる。例えば、機械学習実行部115は、教師領域の画像を入力として、畳み込みニューラルネットワークによる機械学習を行う。畳み込みニューラルネットワークは、パターン抽出を行う畳み込み層を、1層実行し又は2層以上繰り返した後、プーリング層で出力を束ねる。畳み込みニューラルネットワークは、畳み込み層とプーリング層との他に、活性化関数や全結合層を積層して構成されていてよいが、この構成に限られるものではない。このようにして、畳み込みを用いる多層ニューラルネットワークの学習により、診断プログラムが生成される。
機械学習結果記録部116は、機械学習実行部115により生成された、機械学習の結果として生成された診断プログラムを、記憶部300に記憶する。
第2制御部210は、診断処理部200の各機能ブロックをはじめとして、診断処理部200の全体を制御及び管理する。第2制御部210は、制御手順を規定したプログラムを実行するCPU等の任意の好適なプロセッサ上で実行されるソフトウェアとして構成したり、処理ごとに特化した専用のプロセッサによって構成したりすることができる。このようなプログラムは、例えば記憶部300、又は診断システム10に接続された外部の記憶媒体等に格納される。
第2制御部210は、診断処理を行う具体的な機能部として、機械学習結果読込部211と、学習結果適用演算部212と、診断結果表示処理部213とを有する。
機械学習結果読込部211は、記憶部300に記憶された、機械学習の結果としての診断プログラムを読み込む。
学習結果適用演算部212は、診断プログラムを用いて、診断処理を行う。具体的には、学習結果適用演算部212は、まず、新たに撮像された画像データ(以下「新規画像データ」ともいう)を取得する。新規画像データは、例えば検査用CT11で新たに撮像されたCT画像データ及び検査用MRI12で新たに撮像されたMRI画像データ等である。学習結果適用演算部212は、新規画像データに対して、診断プログラムを適用し、新規画像データの診断を行う。診断の具体的な処理については、後述する。
診断結果表示処理部213は、学習結果適用演算部212による診断処理の結果を、表示部400に表示させる。医師や患者は、表示部400の表示を見ることにより、診断結果を確認することができる。
記憶部300は、半導体メモリ又は磁気メモリ等で構成されることができる。記憶部300は、各種情報や診断システム10を動作させるためのプログラム等を記憶する。また、記憶部300は、学習実行部100により生成された診断プログラムを記憶する。記憶部300は、ワークメモリとしても機能してもよい。
表示部400は、例えば液晶ディスプレイ(LCD:Liquid Crystal Display)、有機ELディスプレイ(OELD:Organic Electro-Luminescence Display)、又は無機ELディスプレイ(IELD:Inorganic Electro-Luminescence Display)等の周知のディスプレイにより構成される表示デバイスである。表示部400は、例えば診断処理部200による診断処理の結果を表示する。
次に、本実施形態に係る診断システム10により実行される処理の一例について説明する。
図9は、診断システム10が実行する処理の一例を示すフローチャートであり、学習実行部100により実行される学習処理の一例を示すフローチャートである。図9に示すフローは、治療計画データベース23から取得したCT画像データを用いて学習を行う場合の処理の一例を示す。すなわち、図9に示すフローでは、教師データとして、治療計画データベース23から取得したCT画像データが用いられる。図9のフローは、例えば第1制御部110により実行される。
まず、第1制御部110は、治療計画データベース23に記憶されたCT画像データのうち、機械学習に用いるCT画像データを検索する(ステップS11)。例えば、第1制御部110は、所定の疾患による病変が含まれるCT画像データを検索する。
第1制御部110は、ステップS11で検索したCT画像データを、ネットワーク30を介して治療計画データベース23から取得する(ステップS12)。
また、第1制御部110は、ステップS12で取得したCT画像データにおけるROIに関する情報を、ネットワーク30を介して治療計画データベース23から取得する(ステップS13)。
第1制御部110は、ステップS12で取得したCT画像データにおいて、悪性領域を設定する(ステップS14)。つまり、第1制御部110は、ステップS12で取得したCT画像データのうち、ROIとして特定された領域内において、学習に用いる悪性領域を設定する。
また、第1制御部110は、ステップS12で取得したCT画像データにおいて、良性領域を設定する(ステップS15)。つまり、第1制御部110は、ステップS12で取得したCT画像データのうち、ROIとして特定されていない領域外において、学習に用いる良性領域を設定する。
第1制御部110は、ステップS14で設定した悪性領域と、ステップS15で設定した良性領域とを、多層ニューラルネットワークを用いて分類することにより、機械学習を行う(ステップS16)。例えば、第1制御部110は、公知のCNN(Convolutional Neural Network:畳み込みニューラルネットワーク)等の手法を用いて機械学習を行ってよい。
第1制御部110は、学習が終了したか否かを判定する(ステップS17)。例えば、第1制御部110は、患者の診断を行うために十分な所定の数以上のデータを用いて機械学習を行った場合、学習が終了したと判定してよい。例えば、第1制御部110は、ステップS11において検索されたCT画像データの全データについて、機械学習を行った場合、学習が終了したと判定してもよい。第1制御部110は、これらの例に限られず、診断を実行可能な程度に機械学習を行った場合に、学習が終了したと判定してよい。
第1制御部110は、学習が終了していないと判定した場合(ステップS17のNo)、ステップS12に移行し、学習処理を継続する。
第1制御部110は、学習が終了したと判定した場合(ステップS17のYes)、このフローを終了する。
このようにして、本実施形態に係る診断システム10によれば、治療計画データベース23に蓄積された、治療計画の作成のために収集されたCT画像データを教師データとして用いて機械学習を行うことができる。治療計画の作成のために収集されたCT画像データでは、すでにROIが指定されていることから、機械学習に際してROIを指定する作業を行うことなく、教師データとして活用することができる。
図10は、診断システム10が実行する他の処理の一例を示すフローチャートであり、学習実行部100により実行される学習処理の他の一例を示すフローチャートである。図10に示すフローは、位置合わせを行ってから学習を行う場合の処理の一例を示す。すなわち、図10に示すフローでは、教師データとして、異なる時期に撮像された画像データ、又は異なる種類の撮像装置により撮像された画像データが用いられる。教師データとして異なる時期に撮像された画像データが用いられる場合、例えば、上述したようにして位置合わせがされた2つのCT画像データが用いられる。教師データとして異なる種類の撮像装置により撮像された画像データが用いられる場合、例えば、上述したようにして位置合わせがされたCT画像データとMRI画像データとが用いられる。図10のフローは、例えば第1制御部110により実行される。
まず、第1制御部110は、機械学習に用いる画像データを検索する(ステップS21)。
具体的には、教師データとして異なる時期に撮像された画像データを用いる場合、第1制御部110は、例えば、治療計画データベース23に記憶されたCT画像データのうち、機械学習に用いるCT画像データを検索する。機械学習に用いるCT画像データは、例えば所定の疾患による病変が含まれるCT画像データである。また、第1制御部110は、検査画像データベース13に記憶されたCT画像データのうち、第1制御部110により治療計画データベース23から検索されたCT画像データと同一の患者の同一の部位を撮像したCT画像データを検索する。
また、具体的には、教師データとして異なる種類の撮像装置により撮像された画像データを用いる場合、第1制御部110は、例えば、検査画像データベース13に記憶されたCT画像データ及び/又はMRI画像データのうち、機械学習に用いる画像データを検索する。機械学習に用いる画像データは、例えば所定の疾患による病変が含まれる画像データであって、ROIが指定された画像データである。また、第1制御部110は、検査画像データベース13に記憶されたCT画像及び/又はMRI画像のうち、上述のようにして第1制御部110により検索された画像データとは異なる種類の撮像装置により撮像された、同一の患者の同一の部位を撮像した画像データを検索する。つまり、ROIが指定された画像データとしてCT画像データが検索された場合には、次にMRI画像データが検索され、反対に、ROIが指定された画像データとしてMRI画像データが検索された場合には、次にCT画像データが検索される。
第1制御部110は、ステップS21で検索した画像データを、ネットワーク30を介して検査画像データベース13及び/又は治療計画データベース23から取得する(ステップS22)。
また、第1制御部110は、ステップS22で取得した画像データにおけるROIに関する情報を、ネットワーク30を介して検査画像データベース13及び/又は治療計画データベース23から取得する(ステップS23)。
第1制御部110は、ステップS22で取得した複数の画像データについて、ステップS23で取得したROIに関する情報を用いて、位置合わせを行う(ステップS24)。位置合わせの詳細は、上述した通りである。位置合わせにより、ステップS22で取得された画像データのうち、ROIが指定されていない画像データについて、ROIが指定される。
第1制御部110は、ステップS24で位置合わせをした複数の画像データについて、悪性領域を設定する(ステップS25)。つまり、第1制御部110は、ステップS24で位置合わせをした複数の画像データについて、それぞれROIとして特定された領域内において、学習に用いる悪性領域を設定する。
また、第1制御部110は、ステップS24で位置合わせをした複数の画像データについて、良性領域を設定する(ステップS15)。つまり、第1制御部110は、ステップS24で位置合わせをした複数の画像データについて、それぞれROIとして特定されていない領域外において、学習に用いる良性領域を設定する。
第1制御部110は、ステップS25で設定した悪性領域と、ステップS26で設定した良性領域とを、多層ニューラルネットワークを用いて分類することにより、機械学習を行う(ステップS27)。例えば、第1制御部110は、公知のCNN(Convolutional Neural Network:畳み込みニューラルネットワーク)等の手法を用いて機械学習を行ってよい。なお、分類は、悪性領域と良性領域との2種類に限らず、複数の異なる疾患や進行度等に応じた3種類以上の領域に分類してもよい。
第1制御部110は、学習が終了したか否かを判定する(ステップS28)。学習終了の判断は、図9のステップS17で説明した方法と同様であってよい。
第1制御部110は、学習が終了していないと判定した場合(ステップS28のNo)、ステップS22に移行し、学習処理を継続する。
第1制御部110は、学習が終了したと判定した場合(ステップS28のYes)、このフローを終了する。
このようにして、本実施形態に係る診断システム10によれば、異なる時期に撮像された画像データ、又は異なる種類の撮像装置により撮像された画像データについて、位置合わせを行い、機械学習を実行することができる。
なお、図9及び図10を参照して説明したフローにより学習を行う場合、必ずしも同一の患者の悪性領域と良性領域とに基づいて学習を行わなくてもよい。例えば、悪性領域と良性領域とが、互いに異なる患者の画像データにおいて設定されてもよい。この場合も、病変の診断を実行可能な診断プログラムを生成できる。
また、図9及び図10において設定される悪性領域の数と良性領域の数とは、必ずしも同数でなくてもよい。設定される悪性領域の数と良性領域の数とが異なっていても、設定された悪性領域と良性領域とを入力として機械学習を実行することにより、病変の診断を実行可能な診断プログラムを生成できる。
図11は、診断システム10が実行するさらに他の処理の一例を示すフローチャートであり、診断処理部200により実行される診断処理の一例を示すフローチャートである。具体的には、図11に示すフローは、図9及び/又は図10に示すフローにより生成された診断プログラムを用いて実行される診断処理の一例を示す。図11のフローは、例えば第2制御部210により実行される。
第2制御部210は、新規画像データを取得する(ステップS31)。新規画像データは、例えば検査画像データベース13に記憶された、新たに撮像された画像データである。第2制御部210は、検査画像データベース13から、新規画像データを取得することができる。
第2制御部210は、ステップS31で取得した新規画像データに対して、診断プログラムを適用し、新規画像データの診断を行う。具体的には、まず、第2制御部210は、
取得した新規画像データを所定のサイズの断片画像に分割する(ステップS32)。所定のサイズは、診断処理を実行可能なサイズであればよく、例えば、教師領域と同一のサイズであってよい。
第2制御部210は、断片画像を診断プログラムに入力することにより、診断を実行する(ステップS33)。すなわち、第2制御部210は、断片画像が、病変に分類されるか否かを判定する。例えば、断片画像が、悪性領域として学習した画像と同一のグループに分類される場合は、病変であると分類され、良性領域として学習した画像と同一のグループに分類される場合は、病変でないと分類される。第2制御部210は、分割された断片画像の全てについて、診断を実行してよい。
第2制御部210は、ステップS33の診断において、病変が検出されたか否かを判定する(ステップS34)。第2制御部210は、断片画像が病変であると分類される場合、病変が検出されたと判定する。一方、第2制御部210は、断片画像が病変でないと分類される場合、病変が検出されていないと判定する。
第2制御部210は、病変が検出されたと判定した場合(ステップS34のYes)、病変が検出された位置を記憶部300に記憶する(ステップS35)。具体的には、第2制御部210は、病変であると判定された断片画像の、分割前の画像データにおける位置を、記憶部300に記憶する。
そして、第2制御部210は、表示部400において、診断の結果を表示する(ステップS36)。この場合、例えば、第2制御部210は、病変が検出されたこと、検出された病変の種類(つまり病名等)、及び病変の位置等を表示する。医師及び/又は患者は、表示を見ることにより、患者の病変に関する情報を確認することができる。
一方、第2制御部210は、病変が検出されていないと判定した場合(ステップS34のNo)、病変が検出されていないことを、診断の結果として表示する(ステップS36)。医師及び/又は患者は、表示を見ることにより、病変が検出されていないことを確認することができる。
なお、第2制御部210は、ステップS36における表示に加え、又はステップS36における表示に代えて、診断結果を、ネットワーク30を介して診断装置14に送信し、診断装置14に表示させてもよい。この場合も、医師及び/又は患者は、患者の病変に関する情報を確認することができる。
また、第2制御部210は、ステップS32及びステップS33に代えて、スライディングセルに対して検出を行う方法により診断を実行してもよい。具体的には、第2制御部210は、新規画像データにおいて分割された領域を、一部重複させつつずらしながら検出を行う方法により、診断を実行してもよい。
また、第2制御部210は、病変が検出された場合、ステップS35及びステップS36において、病変が検出された連続する断片画像をラベル付けして識別し、その位置と個数とを記憶及び表示してもよい。
このようにして、診断システム10によれば、生成した診断プログラムを用いて、患者の診断を自動的に実行することができる。
特に、異なる時期に撮像された撮像画像の位置合わせを行って機械学習を行った場合、病変として検出された部位と、当該部位における病変が検出される前の画像とが対応付けられて学習が行われる。つまり、機械学習において、検出された病変そのものの画像に加え、病変が現れる前又は病変の悪化の程度が低い時の撮像画像について、学習が行われる。診断システム10は、このように異なる時期に撮像された撮像画像の位置合わせを行って機械学習を行って生成された診断プログラムを用いて、診断処理において、病変が現れる前又は病変の悪化の程度が低い状態においても、将来病変となる部位を検出することができる。すなわち、診断システム10によれば、病変の早期段階での発見がしやすくなる。
また、異なる種類の撮像装置により撮像された撮像画像の位置合わせを行って機械学習を行った場合、異なる種類の撮像装置により撮像された撮像画像が対応付けられて学習が行われる。そのため、例えば、ある撮像装置による撮像画像における特定の病変の写り方と、他の撮像装置による撮像画像における当該病変の写り方とが対応付けられて学習が行われる。これにより、例えば、ある撮像装置による撮像画像では病変が確認しにくく、他の撮像装置による撮像画像では病変が確認しやすい場合であっても、病変の写り方の対応付けにより、当該ある撮像装置による撮像画像での病変の写り方を学習することができる。そうすると、診断システム10は、異なる種類の撮像装置により撮像された撮像画像の位置合わせを行って機械学習を行って生成された診断プログラムを用いて、診断処理において、複数の撮像装置による撮像画像を用いなくとも、1つの撮像装置による撮像画像に基づいて、病変の有無の診断を行うことができる。つまり、新たな患者は、複数の撮像装置による撮像を行うことなく、1つの撮像装置による撮像を行うことによって、診断を受けることができる。これにより、より患者への負担が小さい撮像方法のみを用いて診断を行うことが可能となる。例えば、CT画像を撮像する場合、患者に放射線をあてる必要があるため、患者が放射線被曝を受けることとなる。しかしながら、本実施形態に係る診断システム10を用いることによって、患者は、放射線被曝を受けないMRI画像の撮像のみによって、CT画像により検出し得る病変の診断も受けることができる。このようにして、診断システム10によれば、患者への負担を低減することができる。
さらに、異なる種類の撮像装置により撮像された撮像画像の位置合わせを行って機械学習を行った場合、撮像画像の対応付けにより、複数の撮像装置による撮像画像の情報を集約することができる。すなわち、診断システム10によれば、1つの撮像画像において、複数の撮像画像における病変の写り方を学習することができる。そのため、1つの撮像画像を用いて、より多様な病変を検出したり、より高い精度で病変を検出したりすることができる。
上述実施形態で説明した診断システム10は、必ずしも診断のみに用いられるものでなくてもよい。例えば、上述した技術を用いて、自動的に治療計画を作成する治療計画作成システムとして実現されてもよい。
診断システム10による学習は、上述した方法に限られない。例えば、診断システム10は、画像データに加え、関連する情報を、教師データとして用いることができる。関連する情報は、例えば、画像データのROIに指定された箇所における病変に関する情報であってよい。例えば、診断システム10は、異なる時期に撮像された撮像画像を用いて学習を行う場合、さらに、画像データのROIに指定された箇所における病変のTNM分類と、画像が撮像された時期に関する情報とを、教師データとして用いることができる。具体例を挙げると、画像に写った特定の種類の癌のTNM分類(例えばステージIII等)と、当該画像と過去の画像との時間経過(例えば3年等)とを、さらに教師データとして用いることができる。これらの教師データを用いて機械学習することにより、例えば「ステージIIIになる3年前の画像」等を学習することができるため、診断において、3年後にステージIIIに至る可能性がある画像を検出することができるようになる。関連する情報は、例えば医師により、診断装置14又は治療計画装置24を用いて入力されることができる。
上記実施形態の説明において、撮像画像がCT画像及びMRI画像である場合の例について説明したが、撮像画像はこれに限られない。他の撮像装置においても、上述した診断システム10を適用可能である。例えば、撮像画像は、PT(Positron Emission Tomography)を用いて撮像されたPT画像であってもよい。
教師データとして異なる種類の撮像装置により撮像された画像データを用いる場合、必ずしも撮像原理が異なる撮像装置により撮像された画像データを用いなくてもよい。例えば、CTとCR(Computed Radiography)、DBT(Digital Breast Tomosynthesis)とマンモグラフィ等のように、3次元と2次元とが異なる画像データや、感度が異なる画像データ、解像度が異なる画像データ等において、位置合わせを行って機械学習を行うこともできる。これにより、例えば、より高感度の撮像装置による撮像画像で明確に検出した病変の写り方と、より低感度の撮像装置による撮像画像での写り方と、等を比較できるため、より低感度な撮像装置を用いた診断能力を向上させることができる。
上記実施形態では、診断システム10が、治療計画データベース23に既に記憶されたCT画像を用いて機械学習を行う場合について説明した。しかしながら、診断システム10は、例えば、新たに治療計画が作成されるたびに、又は定期的に、新たに作成された治療計画を用いて、機械学習を行ってもよい。
また、上記実施形態では、画像データを用いて機械学習を行うと説明したが、機械学習では、必ずしも画像データのみが教師データとして用いられなくてもよい。例えば、患者の遺伝子情報、血液検査等を含む他の検査結果の情報、並びに、喫煙及び飲酒等の生活習慣を含む患者に関する情報等の情報が、教師データとして用いられてもよい。また、これらの情報を組み合わせて機械学習を行ってもよい。特に、患者に関する情報が電子カルテとして電子的に保存されている場合には、新たにデータを入力又は加工等することなく、機械学習のための教師データとして用いることができる。
本開示は、上述した実施形態で特定された構成に限定されず、特許請求の範囲に記載した開示の要旨を逸脱しない範囲内で種々の変形が可能である。例えば、各構成部、各ステップなどに含まれる機能などは論理的に矛盾しないように再構成可能であり、複数の構成部またはステップなどを1つに組み合わせたり、あるいは分割したりすることが可能である。
10 診断システム
11 検査用CT
12 検査用MRI
13 検査画像データベース
14 診断装置
21 治療計画用CT
23 治療計画データベース
24 治療計画装置
25 治療装置
30 ネットワーク
100 学習実行部
110 第1制御部
111 治療計画データベース検索部
112 検査画像データベース検索部
113 ROI取得部
114 画像位置合わせ部
115 機械学習実行部
116 機械学習結果記録部
200 診断処理部
210 第2制御部
211 機械学習結果読込部
212 学習結果適用演算部
213 診断結果表示処理部
300 記憶部
400 表示部

Claims (7)

  1. 治療対象となり得る治療対象領域が指定された第1画像データと、前記第1画像データと異なる時期に撮像された前記第1画像データの患者と同一の患者の同一部位について撮像された第2画像データと、に基づき、前記第2画像データについて、前記第1画像データの前記治療対象領域に対応する位置を特定する位置合わせを行う画像位置合わせ部と、
    前記位置合わせにより特定された前記位置に対応する前記第1画像データと前記第2画像データを教師データとして機械学習することにより、患者を診断するための診断プログラムを生成する機械学習実行部と、
    を備える、情報処理システム。
  2. 前記第2画像データは、前記第1画像データよりも過去に撮像された画像データである、請求項1に記載の情報処理システム。
  3. 前記第1画像データと前記第2画像データとは、同一種類の撮像装置を用いて撮像された画像データである、請求項1又は請求項2に記載の情報処理システム。
  4. 前記治療対象領域として特定された範囲内において設定された特定の疾患に関する悪性領域と、前記治療対象領域として特定されていない範囲外において設定された良性領域とを用いて、前記診断プログラムを生成する、請求項1乃至請求項のいずれか一項に記載の情報処理システム。
  5. 前記画像データは、放射線治療の治療計画を作成するために撮像されたものである、請求項1乃至請求項のいずれか一項に記載の情報処理システム。
  6. 情報処理システムにより実行される情報処理方法であって、
    治療対象となり得る治療対象領域が指定された第1画像データと、前記第1画像データと異なる時期に撮像された前記第1画像データの患者と同一の患者の同一部位について撮像された第2画像データと、を取得するステップと、
    前記第2画像データについて、前記第1画像データの前記治療対象領域に対応する位置を特定する位置合わせを行うステップと、
    前記位置合わせにより特定された前記位置に対応する前記第1画像データと前記第2画像データを教師データとして機械学習することにより、患者を診断するための診断プログラムを生成するステップと、
    を含む、情報処理方法。
  7. 情報処理システムにより実行される情報処理プログラムであって、
    前記情報処理システムのコンピュータに、
    治療対象となり得る治療対象領域が指定された第1画像データと、前記第1画像データと異なる種類の撮像装置を用いて撮像された前記第1画像データの患者と同一の患者の同一部位について撮像された第2画像データと、を取得するステップと、
    前記第2画像データについて、前記第1画像データの前記治療対象領域に対応する位置を特定する位置合わせを行うステップと、
    前記位置合わせにより特定された前記位置に対応する前記第1画像データと前記第2画像データを教師データとして機械学習することにより、患者を診断するための診断プログラムを生成するステップと、
    実行させるための、情報処理プログラム
JP2018196705A 2018-10-18 2018-10-18 情報処理システム及び情報処理方法 Active JP7097794B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018196705A JP7097794B2 (ja) 2018-10-18 2018-10-18 情報処理システム及び情報処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018196705A JP7097794B2 (ja) 2018-10-18 2018-10-18 情報処理システム及び情報処理方法

Publications (2)

Publication Number Publication Date
JP2020062281A JP2020062281A (ja) 2020-04-23
JP7097794B2 true JP7097794B2 (ja) 2022-07-08

Family

ID=70387887

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018196705A Active JP7097794B2 (ja) 2018-10-18 2018-10-18 情報処理システム及び情報処理方法

Country Status (1)

Country Link
JP (1) JP7097794B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114569146A (zh) * 2022-03-01 2022-06-03 西安大医集团股份有限公司 医学图像处理方法、装置、计算机设备及存储介质

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002165894A (ja) 2000-12-04 2002-06-11 Mitsubishi Electric Corp 放射線治療システム
US20050100208A1 (en) 2003-11-10 2005-05-12 University Of Chicago Image modification and detection using massive training artificial neural networks (MTANN)
JP2014212820A (ja) 2013-04-23 2014-11-17 株式会社日立製作所 放射線治療システム
JP2015116319A (ja) 2013-12-18 2015-06-25 パナソニックIpマネジメント株式会社 診断支援装置、診断支援方法、および診断支援プログラム
JP2015205110A (ja) 2014-04-23 2015-11-19 三菱電機株式会社 患者位置決めシステム、および位置ずれ量算出方法
JP2016536035A (ja) 2013-09-30 2016-11-24 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 変形可能レジストレーションのためのシステム及びモジュラーネットワーク
JP2017520305A (ja) 2014-06-30 2017-07-27 ウニヴェルズィテート・ベルンUniversitat Bern 急性脳虚血患者における組織領域の区分法及び予測法
WO2018048507A1 (en) 2016-09-06 2018-03-15 Han Xiao Neural network for generating synthetic medical images
JP2018075356A (ja) 2016-11-02 2018-05-17 国立研究開発法人量子科学技術研究開発機構 X線透視装置およびx線透視方法
JP2018522651A (ja) 2015-06-30 2018-08-16 エレクタ リミテッド 放射線治療中に品質指標を使用して標的を追跡するためのシステム及び方法
JP2020054581A (ja) 2018-10-01 2020-04-09 富士フイルム株式会社 疾患領域を判別する判別器の学習装置、方法及びプログラム、疾患領域を判別する判別器、並びに疾患領域判別装置及びプログラム

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002165894A (ja) 2000-12-04 2002-06-11 Mitsubishi Electric Corp 放射線治療システム
US20050100208A1 (en) 2003-11-10 2005-05-12 University Of Chicago Image modification and detection using massive training artificial neural networks (MTANN)
JP2014212820A (ja) 2013-04-23 2014-11-17 株式会社日立製作所 放射線治療システム
JP2016536035A (ja) 2013-09-30 2016-11-24 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 変形可能レジストレーションのためのシステム及びモジュラーネットワーク
JP2015116319A (ja) 2013-12-18 2015-06-25 パナソニックIpマネジメント株式会社 診断支援装置、診断支援方法、および診断支援プログラム
JP2015205110A (ja) 2014-04-23 2015-11-19 三菱電機株式会社 患者位置決めシステム、および位置ずれ量算出方法
JP2017520305A (ja) 2014-06-30 2017-07-27 ウニヴェルズィテート・ベルンUniversitat Bern 急性脳虚血患者における組織領域の区分法及び予測法
JP2018522651A (ja) 2015-06-30 2018-08-16 エレクタ リミテッド 放射線治療中に品質指標を使用して標的を追跡するためのシステム及び方法
WO2018048507A1 (en) 2016-09-06 2018-03-15 Han Xiao Neural network for generating synthetic medical images
JP2018075356A (ja) 2016-11-02 2018-05-17 国立研究開発法人量子科学技術研究開発機構 X線透視装置およびx線透視方法
JP2020054581A (ja) 2018-10-01 2020-04-09 富士フイルム株式会社 疾患領域を判別する判別器の学習装置、方法及びプログラム、疾患領域を判別する判別器、並びに疾患領域判別装置及びプログラム

Also Published As

Publication number Publication date
JP2020062281A (ja) 2020-04-23

Similar Documents

Publication Publication Date Title
Parvaiz et al. Vision transformers in medical computer vision—A contemplative retrospection
US20210158531A1 (en) Patient Management Based On Anatomic Measurements
US9662083B2 (en) Medical image display apparatus and medical image display system
EP3355273B1 (en) Coarse orientation detection in image data
JP6220310B2 (ja) 医用画像情報システム、医用画像情報処理方法及びプログラム
US20120166211A1 (en) Method and apparatus for aiding imaging diagnosis using medical image, and image diagnosis aiding system for performing the method
US8934687B2 (en) Image processing device, method and program including processing of tomographic images
CN103733200B (zh) 由带有解剖学标记临床管理促进的检查审阅
JP6460636B2 (ja) 読影レポート作成装置、読影レポート作成システムおよび読影レポート作成プログラム
JP5676269B2 (ja) 脳画像データの画像解析
US11468659B2 (en) Learning support device, learning support method, learning support program, region-of-interest discrimination device, region-of-interest discrimination method, region-of-interest discrimination program, and learned model
JP2018175864A (ja) 自動レイアウト装置および自動レイアウト方法並びに自動レイアウトプログラム
CN104217423B (zh) 选出图像数据组的自动产生
JP6738305B2 (ja) 学習データ生成支援装置および学習データ生成支援装置の作動方法並びに学習データ生成支援プログラム
US20140228667A1 (en) Determining lesions in image data of an examination object
JPWO2020129385A1 (ja) 医療文書作成支援装置、方法およびプログラム
WO2021112141A1 (ja) 文書作成支援装置、方法およびプログラム
JP7097794B2 (ja) 情報処理システム及び情報処理方法
CA3034814C (en) System and method for using imaging quality metric ranking
Eswaran et al. Applying Machine Learning for Medical Image Processing
JP7155274B2 (ja) 加速化された臨床ワークフローのためのシステムおよび方法
WO2022153702A1 (ja) 医用画像表示装置、方法およびプログラム
WO2022070528A1 (ja) 医用画像処理装置、方法およびプログラム
WO2021246047A1 (ja) 経過予測装置、方法およびプログラム
WO2022018942A1 (ja) 医用画像処理装置、方法およびプログラム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20191016

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20191021

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20191025

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210406

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220302

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220428

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220607

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220628

R150 Certificate of patent or registration of utility model

Ref document number: 7097794

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150