JP6994094B1 - 推定装置、推定方法、プログラム、及び生成方法 - Google Patents

推定装置、推定方法、プログラム、及び生成方法 Download PDF

Info

Publication number
JP6994094B1
JP6994094B1 JP2020154719A JP2020154719A JP6994094B1 JP 6994094 B1 JP6994094 B1 JP 6994094B1 JP 2020154719 A JP2020154719 A JP 2020154719A JP 2020154719 A JP2020154719 A JP 2020154719A JP 6994094 B1 JP6994094 B1 JP 6994094B1
Authority
JP
Japan
Prior art keywords
body part
ray image
bone marrow
photographed
marrow edema
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020154719A
Other languages
English (en)
Other versions
JP2022048732A (ja
Inventor
耕 片山
健策 森
昌宏 小田
冬平 潘
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
MEDICAL CORPORATION KATAYAMA ORTHOPEDIC RHEUMATOLOGY CLINIC
Original Assignee
MEDICAL CORPORATION KATAYAMA ORTHOPEDIC RHEUMATOLOGY CLINIC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by MEDICAL CORPORATION KATAYAMA ORTHOPEDIC RHEUMATOLOGY CLINIC filed Critical MEDICAL CORPORATION KATAYAMA ORTHOPEDIC RHEUMATOLOGY CLINIC
Priority to JP2020154719A priority Critical patent/JP6994094B1/ja
Priority to EP21869399.2A priority patent/EP4216154A1/en
Priority to US18/025,746 priority patent/US20230419493A1/en
Priority to PCT/JP2021/033957 priority patent/WO2022059713A1/ja
Application granted granted Critical
Publication of JP6994094B1 publication Critical patent/JP6994094B1/ja
Publication of JP2022048732A publication Critical patent/JP2022048732A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/50Clinical applications
    • A61B6/505Clinical applications involving diagnosis of bone
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5217Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data extracting a diagnostic or physiological parameter from medical diagnostic data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30008Bone
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Abstract

【課題】骨髄浮腫の診断にあたり、高価なMRI装置を使用した検査によらず、対象の身体部位に骨髄浮腫が存在するか否かについて推定可能にする。【解決手段】身体部位が撮影されたX線画像、およびX線画像に撮影された身体部位が骨髄浮腫を有しているか否かの情報を含む学習用データを用いて学習させた学習器321を含み、学習器に対象の身体部位が撮影されたX線画像322を入力し、入力されたX線画像に撮影された身体部位における骨髄浮腫の有無に関する推定結果を出力する、推定装置3。【選択図】図2

Description

本発明は、推定装置、推定方法、プログラム、及び生成方法に関する。
関節リウマチ(RA)は、全世界の人口の約1%が罹患しているともいわれる最も一般的な炎症性関節炎である。炎症が続くと次第に軟骨や骨が破壊されて関節が変形してしまい、最終的に関節としての機能が失われてしまうことから、効果的な治療方法の開発が進められてきた。近時では、その病因自体は未だ明らかでない部分が多いものの、免疫抑制剤であるメトトレキサート(MTX)や新たな生物学的製剤(BIO)等の効果的な治療薬の出現により治療面において著しい改善がなされた。しかしながら、一部の患者では、関節破壊の進行が著しく早い場合があり、早期診断および早期治療の必要性も認識されている。
関節リウマチの診断方法としては、画像診断法が広く利用されているが、早期診断のために画像診断方法の改良が進められている。例えば、X線検査、関節超音波検査、核磁気共鳴画像法(MRI)検査等の画像診断方法が知られている。X線検査では、関節内骨びらん、関節裂隙狭小化等を観察するが、感度が低いことから、関節破壊の結果を見ることが多い。関節超音波検査およびMRI検査は、関節破壊前の早期の関節内の炎症を観察することができる。とくに、MRI検査は、唯一、骨内の炎症性病変である骨髄浮腫(BME)も観察可能な画像診断方法として知られている。X線検査で骨髄浮腫を観察できるとの報告はこれまでに一切ない。
ここで、骨髄浮腫は、骨内の炎症性病変であるが、関節リウマチ患者において骨髄浮腫が将来の関節破壊の可能性を示すことが知られている。最近では、骨髄浮腫が早期関節リウマチの強力な独立した関節破壊の予後予測因子であると2013年のヨーロッパリウマチ学会画像診断項目に推奨されている(非特許文献1)。また、骨髄浮腫を伴う関節リウマチ患者において、早期に生物学的製剤を投与したことで、骨髄浮腫を抑え、関節破壊の進行を抑えることができたことも報告されている。
他方、関節リウマチの診断にAIを利用する試みが進展している。例えば、非特許文献2では、畳み込みニューラルネットワークを使用して、臨床情報に基づき、関節リウマチおよび非関節リウマチを分類している。
Colebatch AN, Edwards CJ, Ostergaard M, et al. EULAR recommendations for the use of imaging of the joints in the clinical management of rheumatoid arthritis. Ann Rheum Dis, 2013; 72: 804-814. Fukae J, Isobe M, Hattori T, et al. Convolutional neural network for classification of two-dimensional array images generated from clinical information may support diagnosis of rheumatoid arthritis. Scientific reports, 2020; 10: 1-7.
これまで見てきたとおり、骨髄浮腫の早期診断とその早期治療は、関節リウマチにおける関節破壊の抑制に重要であるが、現時点で骨髄浮腫の診断は高価なMRI装置を使用したMRI検査によってのみ可能である。そして、MRI検査の検査費用は、一般に高額であり世界中の多くの患者にとって負担である。
したがって、本発明の目的は、骨髄浮腫の診断にあたり、高価なMRI装置を使用したMRI検査によらず、対象の身体部位に骨髄浮腫が存在するか否かについて推定可能にすることにある。
本発明者らは、長年にわたり骨髄浮腫を有する関節等のX線画像と骨髄浮腫を有さない関節等のX線画像とを数多く比較観察していたところ、X線画像においても骨髄浮腫との関連が示唆される不定形の像が存在している可能性を見出した。さらに、本発明者らは、この知見をもとに、ディープラーニングなどの機械学習手法を利用することで、関節等のX線画像から骨髄浮腫の有無を推定できることを見出した。
すなわち、本発明の要旨は、身体部位が撮影されたX線画像、および前記X線画像に撮影された身体部位が骨髄浮腫を有しているか否かの情報を含む学習用データを用いて学習させた学習器を含み、前記学習器に対象の身体部位が撮影されたX線画像を入力し、入力されたX線画像に撮影された身体部位における骨髄浮腫の有無に関する推定結果を出力する、推定装置にある。
また、本発明の要旨は、身体部位が撮影されたX線画像、および前記X線画像に撮影された身体部位が骨髄浮腫を有しているか否かの情報を含む学習用データを用いて学習させた学習器に、対象の身体部位が撮影されたX線画像を入力し、入力されたX線画像に撮影された身体部位における骨髄浮腫の有無に関する推定結果を出力する推定工程を含む、X線画像に撮影された身体部位における骨髄浮腫の有無を推定する方法にある。
また、本発明の要旨は、コンピュータを、身体部位が撮影されたX線画像、および前記X線画像に撮影された身体部位が骨髄浮腫を有しているか否かの情報を含む学習用データを用いて学習させた学習器として機能させ、ここで、前記学習済み学習器は、対象の身体部位が撮影されたX線画像が入力され、入力されたX線画像に撮影された身体部位における骨髄浮腫の有無に関する推定結果を出力する、プログラムにある。
また、本発明の要旨は、学習器を、身体部位が撮影されたX線画像、および前記X線画像に撮影された身体部位が骨髄浮腫を有しているか否かの情報を含む学習用データを用いて学習させる学習工程を含む、X線画像に撮影された身体部位における骨髄浮腫の有無を推定可能な学習済み学習器の生成方法にある。
本発明によれば、MRI装置を使用した検査をすることなく、対象の身体部位が撮影されたX線画像に基づいて、対象の身体部位に骨髄浮腫が存在するか否かについて推定することができる。
図1は、実施形態1の推定システムの構成の一例を示すブロック図である。 図2は、実施形態1におけるサーバの構成の一例を示すブロック図である。 図3は、実施形態1における学習済み学習器の生成方法の一例を示すフローチャートである。 図4は、実施形態1における推定方法の一例を示すフローチャートである。 図5は、実施例1における畳み込みニューラルネットワークの設計を示す概略図である。 図6は、実施例1における手関節のX線画像の一例である。 図7は、実施例1におけるROC曲線を示すグラフである。
本発明において、「骨髄浮腫」は、当業者に周知の通常の意味で使用され、典型的には、MRIのT1協調画像で低信号、T2協調、脂肪抑制、STIR画像で高信号として描出される辺縁不整のびまん性の骨内の領域であり、変性疾患(変形性関節症)、炎症性疾患(関節リウマチ、脊椎関節炎、付着部炎)等の病態に出現するものを意味する。
本発明において、好ましく扱うことのできる骨髄浮腫は、炎症性疾患に伴う骨髄浮腫(組織像:炎症細胞、破骨細胞)である。中でも、関節リウマチ、または脊椎関節炎に伴う骨髄浮腫をより好ましく扱うことができ、関節リウマチに伴う骨髄浮腫をとくに好ましく扱うことができる。
本発明において、推定の目的となる身体部位としては、特に制限はないが、例えば、関節リウマチでは、手指関節、手首の関節(手関節)、股関節、膝関節、足首の関節、足の指の関節などが挙げられ、脊椎関節炎では、仙腸関節、椎体やアキレス腱などの関節周囲靭帯付着部骨組織などが挙げられる。中でも、関節リウマチでは手関節、脊椎関節炎では仙腸関節が好ましく挙げられ、とくに手関節が好ましく挙げられる。また、手関節は、関節リウマチにおいて出現頻度が高いという点で好ましく、関節破壊予測という見地からも好ましい。
以下、本発明の実施形態について、図1~4を用いて説明する。本発明は、以下の実施形態には限定されない。以下の各図において、同一部分には、同一符号を付している。また、各実施形態の説明は、特に言及がない限り、互いの説明を援用できる。
[実施形態1]
本発明の推定装置、推定方法、生成方法の一例について、以下、図を用いて説明する。なお、本実施形態では、推定の目的となる身体部位として手関節を例に説明するが、前述のとおり、本発明はこれに限定されない。
図1は、実施形態1の推定システムの構成の一例を示すブロック図である。推定システム10は、X線撮影装置1と、ユーザー端末2と、推定装置としてのサーバ3とを含む。X線撮影装置1、ユーザー端末2、およびサーバ3は、それぞれ通信回線網4に接続されており、通信回線網4を介して相互に通信可能である。通信回線網4は、一般公知の通信回線網が使用でき、有線であっても無線であってもよく、例えば、LAN(Local Area Network)、インターネット等を使用できる。また、本実施形態では、X線撮影装置1、およびユーザー端末2は、それぞれ1つずつ設置されているが、例えば、これらは複数設置されてもよい。
X線撮影装置1は、対象の手関節をX線撮影するための装置であり、例えば、一般的な医療診断用のX線撮影装置である。X線撮影装置1は、通常、医師の興味に従い対象(患者)の手関節を撮影するのに用いられて、本実施形態における推定の対象となる手関節が撮影されたX線画像が取得される。なお、後述する学習用データ用のX線画像も、本装置により取得可能である。
X線撮影装置1は通信機能を有しており、撮影された手関節のX線画像はサーバ3に送信される。
ここで、X線画像には、対象の手関節が撮影されていればよい。すなわち、その対象の手関節が撮影されたX線画像に、例えば、対象の手関節以外の身体部位が撮影されていてもよく、その撮影範囲は問わない。手関節の診断においては、手首から指先にかけて広い範囲をX線撮影することが一般的であって、本実施形態の推定システム1は、このようなX線画像を好適に用いることができる。
ユーザー端末2は、ユーザーが利用する端末である。ユーザー端末2は、一般的なコンピュータであってよく、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)等からなる制御部、ハードディスク、ROM(Read Only Memory)、RAM(Random Access Memory)等からなる記憶部、ネットワークアダプタ等からなる通信部、液晶パネル等からなる表示部、およびキーボード、マウス等からなる入力部を含んで構成される。ユーザー端末2は、推定装置としてのサーバ3から、X線画像に撮影された手関節における骨髄浮腫の有無に関する推定結果を受信できる。例えば、医師は、ユーザー端末2を利用することで、患者のX線画像についての上記推定結果を確認することができ、これを患者の診断に活用できる。
なお、本実施形態では、ユーザー端末2は、X線撮影装置1とは別に設置されているが、例えば、X線撮影装置1とユーザー端末2とが一緒になって構成されてもよい。
サーバ3は、サーバとして機能し得る程度の性能を有するコンピュータにより構成される。サーバ3は、本発明の推定装置として機能し、対象の手関節が撮影されたX線画像について、骨髄浮腫の有無を推定する処理を行うことができる。図2は、サーバ3の構成の一例を示すブロック図である。サーバ3は、通信部31と、記憶部32と、制御部33とを含み、各部は電気回路を介して相互に接続されている。
通信部31は、例えば、ネットワークアダプタ等を含んで構成される。通信部31は、通信回線網4を介して他の装置と相互に通信する。通信部31は、例えば、対象の手関節が撮影されたX線画像をX線撮影装置1から受信する。また、通信部31は、X線画像に撮影された対象の手関節における骨髄浮腫の有無に関する推定結果をユーザー端末2に送信する。
記憶部32は、例えば、ハードディスク、ROM、RAM等を含んで構成される。記憶部32には、サーバ3の各部を動作させるための処理プログラムが保存されている。また、記憶部32には、学習器321およびX線画像DB322が保存されている。また、記憶部32は、例えば、X線撮影装置1から受信した対象の手関節が撮影されたX線画像を保存することもできる。
学習器321について説明する。典型的には、学習器321の実態は、機械学習プログラム(アルゴリズム)である。本発明において、学習器321は、X線画像に撮影された対象の身体部位における骨髄浮腫の有無に関する推定を行うために必要なパラメータが規定されるように学習される。学習器321は、上記推定を行えるように学習可能であれば、任意の機械学習プログラム(アルゴリズム)であってよく、例えば、畳み込みニューラルネットワーク(CNN)を好適に使用できる。本実施形態では、X線画像DB322には、手関節が撮影された複数のX線画像、および各X線画像に撮影された手関節が骨髄浮腫を有しているか否かの情報を含む学習用データが格納されており、推定処理の前に、学習器321に、X線画像DB322に格納された学習用データを読み込ませる(学習させる)ことにより、学習済みの学習器(すなわち、学習済みモデル)を生成した上で、記憶部32に保存される。
なお、上記では、学習済み学習器321を生成する生成処理と学習済み学習器321を利用した推定処理とを同一のコンピュータであるサーバ3が実行するものとして説明しているが、これらは別々に実行できる。したがって、例えば、学習済み学習器321の生成は、別のコンピュータで行い、生成された学習済み学習器321をサーバ3にインストールして使用してもよい。すなわち、記憶部32は、X線画像DB322を保存していなくとも、学習済み学習器321を保存していれば、後述する推定処理を行うことができる。
前述のように、推定処理の前には、学習器321は、手関節が撮影されたX線画像、および前記X線画像に撮影された手関節が骨髄浮腫を有しているか否かの情報を含む学習用データを用いて学習させた学習済み学習器として保存されている。そして、学習済み学習器321には、X線撮影装置1から受信した、対象の手関節が撮影されたX線画像が入力データとして入力され、学習済み学習器321は、入力されたX線画像に撮影された対象の手関節における骨髄浮腫の有無に関する推定を行う。例えば、入力されたX線画像について、骨髄浮腫を有する手関節であるか、骨髄浮腫を有さない手関節であるかを識別する。
具体的な学習器321の構成の例としては、例えば、後述する実施例における畳み込みニューラルネットワーク(図5を参照)の構成を例示できる。ただし、図5に示す畳み込みニューラルネットワークの構成は一例であって、本実施形態はこれに限定されるものではない。本発明における学習器としての機能を有している限り、任意の構成を採用できる。
なお、本実施形態では、推定の目的となる身体部位は手関節であるが、本発明の推定装置は、手関節以外の身体部位も推定可能である。したがって、手関節以外の身体部位の推定のために、記憶部32は、推定の目的となる身体部位に対応して、その身体部位に応じた学習用データを用いて生成された複数の学習済み学習器を記憶してもよい。
制御部33は、例えば、CPU、GPU等を含んで構成される。制御部33は、記憶部32に記憶された処理プログラムに従って、サーバ3の各部を制御する。また、制御部33は、以下のような学習処理部および推定処理部としても機能する。すなわち、制御部33は、学習処理部として機能する場合、学習器321に対して、X線画像DB322に格納された学習用データを読み込ませて、学習済み学習器を生成する一連の処理を実行する。また、制御部33は、推定処理部として機能する場合、学習済み学習器321に対して、X線画像を入力し、推定結果を出力する一連の処理を実行する。
また、本発明の推定装置は、任意で、学習器の内部状態を解析して、入力されたX線画像において異常が疑われる領域を可視化した画像を出力する可視化部を含むことができる。この場合には、制御部33は、可視化部としても機能する。制御部33は、可視化部として機能する場合、学習器321の内部状態を解析して、入力されたX線画像において異常が疑われる領域を可視化した画像を出力する一連の処理を実行する。
つぎに、サーバ3で実行される学習済み学習器321の生成方法を図3のフローチャートを用いて説明する。なお、本実施形態の生成方法は、この例に制限されない。
まず、制御部33が、学習済み学習器321の生成に用いる学習用データを取得する(ステップS11)。具体的には、制御部33は、X線画像DB322から、手関節が撮影された複数のX線画像、および各X線画像に撮影された手関節が骨髄浮腫を有しているか否かの情報を含む学習用データを読み出す。
つづいて、制御部33が、上記学習用データを用いて学習器321を学習させることで、対象の手関節が撮影されたX線画像を入力したとき、X線画像に撮影された対象の手関節における骨髄浮腫の有無に関する推定結果を出力する学習済み学習器321を生成する(ステップS12)。このとき、制御部33は、学習済み学習器321を記憶部32に保存して、一連の処理を終了する。
つぎに、サーバ3で実行されるX線画像の推定方法を図4のフローチャートを用いて説明する。なお、本実施形態の推定方法は、この例に制限されない。
まず、制御部33が、通信部31あるいは記憶部32から、対象の手関節が撮影されたX線画像を取得する(ステップS21)。
つづいて、制御部33が、前記X線画像を学習済み学習器321への入力に適したサイズにリサイズする(ステップS22)。
つづいて、制御部33が、学習済み学習器321に対して、リサイズしたX線画像を入力する(ステップS23)。
つづいて、制御部33は、学習済み学習器321からの出力として、X線画像に撮影された対象の手関節における骨髄浮腫の有無に関する推定結果を取得する(ステップS24)。
つづいて、制御部33は、これら推定結果をユーザー端末2に出力して(ステップS25)、一連の処理を終了する。ユーザー端末2では、推定結果が表示部に表示される。
また、本発明の推定方法は、任意で、学習器の内部状態を解析して、入力されたX線画像において異常が疑われる領域を可視化した画像を出力する可視化工程を含むことができる。この場合には、つづいて、制御部33(可視化部)は、学習器321の内部状態を解析して、入力されたX線画像において異常が疑われる領域を可視化した画像を出力する。ここで、学習器321の内部状態を解析して、入力されたX線画像において異常が疑われる領域を可視化した画像を出力するための手法としては、一般公知の手法をとることができ、例えば、Grad-CAM(Selvaraju R R, Cogswell M, Das A, et al. Grad-cam: Visual explanations from deep networks via gradient-based localization. Proceedings of the IEEE international conference on computer vision. 2017: 618-626.を参照)を使用すれば、最終的な予測に対する画像中の各領域の重要性を可視化できることから、これを利用することができる。このような異常が疑われる領域を可視化した画像は、医師が骨髄浮腫の診断するときに有益な情報であり、医師の診断を支援することができる。
なお、上記では、X線撮影装置と、ユーザー端末と、推定装置としてのサーバとを含む推定システムの例を説明したが、推定装置のみでも、X線画像に撮影された対象の身体部位における骨髄浮腫の有無を推定できる。この場合、推定装置は、上記記憶部、制御部等の他、例えば操作入力を受け付ける入力部、推定結果を表示する表示部等を備えてもよく、さらに、CD-ROM、DVD-ROM、フラッシュメモリ等の可搬型記憶媒体を読み取る読取部を備えてもよい。このような推定装置は、すでに取得済みのX線画像を外部から読み込んで使用することができ、また、推定結果を表示部に出力することができる。
(変形例)
上記実施形態1では、学習用データとして、身体部位が撮影されたX線画像、および前記X線画像に撮影された身体部位が骨髄浮腫を有しているか否かの情報のみを用いた例を示したが、本発明はこれに限定されず、学習用データとして、これら以外の任意の情報を含ませることができる。例えば、その身体部位を有する患者の情報(年齢、性別、体重、身長、血液検査、尿検査、痛みの有無等)を含ませることができる。このような学習用データを用いて学習器321を学習させ、学習済み学習器321に対して、対象の身体部位が撮影されたX線画像に加えて、対象の情報(年齢、性別、体重、身長、血液検査、尿検査、痛みの有無等)を入力することで、より精度の高い推定結果を得ることができる。
[実施形態2]
本発明の一態様は、前述の本発明の推定方法を、コンピュータ上で実行することが可能なプログラムである。前述の推定装置および推定方法の説明が、本実施形態にも援用される。
このようなプログラムは、コンピュータを、身体部位が撮影されたX線画像、および前記X線画像に撮影された身体部位が骨髄浮腫を有しているか否かの情報を含む学習用データを用いて学習させた学習器として機能させ、ここで、前記学習済み学習器は、対象の身体部位が撮影されたX線画像が入力され、入力されたX線画像に撮影された身体部位における骨髄浮腫の有無に関する推定結果を出力する、プログラムである。
また、本実施形態のプログラムは、例えば、コンピュータ読み取り可能な記録媒体に記録されてもよい。記録媒体としては、例えば、ランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、ハードディスク(HD)、光ディスク、フロッピー(登録商標)ディスク(FD)等を使用できる。
[実施例1]
本発明によれば、前述のように、機械学習プログラム(アルゴリズム)を使用することで、関節等のX線画像から骨髄浮腫(BME)の有無を推定できる。本実施例では、BME又は非BMEのラベル付けがされた手関節のX線画像からなる学習用データを用いて学習済みモデルを作成し、その学習済みモデルの性能を評価した。
<方法>
X線画像を分類するために、畳み込み層および全結合層を含むニューラルネットワークを使用した。ネットワーク設計を図5に示す。ネットワークの入力は、224×224ピクセルの解像度を有する画像(X線画像)である。オリジナル画像は、JPEG形式で保存され、約800×450ピクセルのサイズを有している。オリジナル画像のサイズは整理されていないため、画像を224×224ピクセルにリサイズする。図5の畳み込みニューラルネットワークは、3つの畳み込みブロック(「Conv」)と3つの全結合層(「FC」)とを含む。各畳み込みブロックは、2D畳み込み層(「Conv2d」)、Leaky Relu活性化層(「Leaky Relu」)、最大プーリング層(「Maxpooling」)、およびバッチ正規化層(「BN」)からなる。図5における各「Conv」上の数字は、カーネルサイズ、カーネルサイズ、カーネル数を示す。各「FC」上の数字は、ニューロン数を示す。最後の層は、各カテゴリの確率を出力することができるソフトマックス層(「Softmax」)である。出力は、BMEのスコアであり、0~1の範囲のBMEの確率である。
ニューラルネットワークは、Adamオプティマイザを用いて、200エポック訓練する。損失関数は、二値交差エントロピーを使用する。マイナーカテゴリーが訓練プロセスにおいてより影響力のある役割を果たすように、損失関数を重み付けする。具体的には、BMEサンプル数が非BMEサンプル数のn倍である場合、非BMEサンプルからの損失はnの係数で乗算される。
<実験>
オリジナルデータは、577枚の手のX線画像からなる。そのうち450枚はBMEを含まず、残り127枚はBMEを含む。ここで、BMEは、MRI検査によってのみ観察可能である。各X線画像は、医師により、対応するMRI検査の診断結果を利用することでラベル付けされた。図6にBME画像および非BME画像の例を示す。左の2枚の画像はBMEの例であり、右の2枚の画像は非BMEの例である。早期のBME例では、軟部組織の腫脹および骨皮質の辺縁不明瞭が見られた。
データ分割に関して、79枚の非BME画像および25枚のBME画像を含む104枚の画像をホールドアウトテストセットとして使用した。残りの473枚の画像を訓練データおよび検証データとして使用した。これら473枚の画像に対して、5分割交差検証を用いた。各回、訓練データセットには297枚の非BME画像および81枚のBME画像を含む約378の画像が含まれ、検証データセットには74枚の非BME画像および21枚のBME画像を含む約95枚の画像が含まれた。全て画像を十分に利用し、かつ訓練データセットおよび検証データセットの分布を統一するため、非BME画像とBME画像との比を約3.66:1に調整した。
ここで、データセットは反転および回転により拡張した。選択された全ての画像を偶然反転させるように、Kerasのデータ生成機能を使用した。反転による拡張には水平反転および垂直反転が含まれた。回転による拡張はオフラインで処理した。それぞれの画像を時計回りに5度および10度回転させ、また、反時計回りにも同様に回転させた。回転による拡張によって、データセットは元の画像数の5倍に拡張した。
モデルの性能は、ROC曲線、適合率(precision)、および再現率(recall)を用いて評価した。データセットは3.66:1の比率で不均衡であるので、モデル性能を評価するために全体正解率(accuracy)を用いることには意味がない。すべての画像を非BMEとして予測することによって78.5%の全体正解率を得ることができてしまい、誤りを招く。そこで、全体正解率に代えて、ROC曲線、適合率、および再現率を適用して、ニューラルネットワークの性能を評価した。これら評価基準の概略は、以下の通りである。
本モデルにおいて、最終出力はBMEのスコアであり、これはBMEの可能性を意味する。この2値分類タスクのために、閾値が選択される。出力スコアが閾値を超える場合、画像はBMEとみなされる。ここで、選択のために閾値を0.1から0.9としてF値(F-measure)を計算したところ、0.4のときのF値が最も高かったことから、これを閾値として選択した。
また、ROC曲線を作成した。ROC曲線は、各閾値の分類性能を把握するために広く用いられている。ROC曲線では、x軸に1-特異度(偽陽性率(FPR)に相当)、y軸に感度(真陽性率(TPR)に相当)をとる。全ての閾値について、下記表1に示す混同行列(confusion matrix)を作成し、下記式に基づき、真陽性率(TPR)および偽陽性率(FPR)を算出した。
Figure 0006994094000002
TPR=TP/(TP+FN) (式1)
FPR=FP/(FP+TN) (式2)
TP/TNは、真陽性/真陰性(正しく陽性/陰性を予測していることを意味する)の数であり、同様に、FP/FNは、偽陽性/偽陰性(誤って陽性/陰性を予測していることを意味する)の数である(表1に定義される)。
ROC曲線上の点は、各閾値に対応する。ROC曲線は、全ての閾値におけるネットワークの全体的な能力を示す。他方、最適な閾値における適合率および再現率は、モデルにおける最高の性能を示す。適合率は、下記式3に基づき計算される。再現率は、真陽性率と同様に計算される(式4)。
適合率=TP/(FP+TP) (式3)
再現率=TP/(TP+FN) (式4)
下記表2に、適合率および再現率のテスト結果を示す(閾値=0.4)。表2のとおり、ホールドアウトテストセットに対し、5フォールドは同様の性能を示した。図7には、フォールド5のROC曲線を示す。AUCは、ROC曲線の下の面積であるが、表2のとおり、本モデルの一般的な性能を示すAUCは0.73~0.79の範囲にあった。また、平均適合率は63%であり、平均再現率87%であった。
Figure 0006994094000003
<考察>
以上のとおり、実施例1では、X線画像およびMRIベースのラベルを用いて、BMEおよび非BME間の2値分類タスクを設計した。また、これを評価したところ、結果はランダムな推測よりもはるかに良好であった。これらの結果によれば、BME画像と非BME画像との間にはある程度の差があるはずであり、機械学習を使用して、X線画像から骨髄浮腫(BME)の有無を推定できることが示された。
以上、実施形態および実施例を参照して本発明を説明したが、本発明は、上記実施形態および実施例に限定されるものではなく、本発明の主旨を逸脱しない限りにおいて種々の変更が可能である。
本発明によれば、MRI装置を使用した検査をすることなく、対象の身体部位が撮影されたX線画像に基づいて、その身体部位に骨髄浮腫が存在するか否かについて推定することができることから、骨髄浮腫の診断を支援するものとして有利に使用できる。
1 X線撮影装置
2 ユーザー端末
3 サーバ
4 通信回線網
10 推定システム
31 通信部
32 記憶部
33 制御部
321 学習器
322 X線画像DB

Claims (8)

  1. 身体部位が撮影された単純X線撮影画像、および前記単純X線撮影画像に撮影された身体部位が骨髄浮腫を有しているか否かの情報を含む学習用データを用いて学習させた学習器を含み、
    前記学習器に対象の身体部位が撮影された単純X線撮影画像が入力され、入力された単純X線撮影画像に撮影された身体部位における骨髄浮腫の有無に関する推定結果出力され、ここで該出力はBMEのスコアである
    推定装置。
  2. 身体部位が手関節である、請求項1記載の推定装置。
  3. 骨髄浮腫が、関節リウマチに伴う骨髄浮腫である、請求項1または2記載の推定装置。
  4. さらに、学習器の内部状態を解析して、入力された単純X線撮影画像において異常が疑われる領域を可視化した画像を出力する可視化部を含む、請求項1~3のいずれか一項に記載の推定装置。
  5. 身体部位が撮影された単純X線撮影画像、および前記単純X線撮影画像に撮影された身体部位が骨髄浮腫を有しているか否かの情報を含む学習用データを用いて学習させた学習器に、対象の身体部位が撮影された単純X線撮影画像を入力し、入力された単純X線撮影画像に撮影された身体部位における骨髄浮腫の有無に関する推定結果を出力させ、ここで該出力はBMEのスコアである、推定工程を含む、
    単純X線撮影画像に撮影された身体部位における骨髄浮腫の有無を推定する方法。
  6. さらに、学習器の内部状態を解析して、入力された単純X線撮影画像において異常が疑われる領域を可視化した画像を出力する可視化工程を含む、請求項5記載の方法。
  7. コンピュータを、
    身体部位が撮影された単純X線撮影画像、および前記単純X線撮影画像に撮影された身体部位が骨髄浮腫を有しているか否かの情報を含む学習用データを用いて学習させた学習器として機能させ、
    ここで、前記学習済み学習器は、対象の身体部位が撮影された単純X線撮影画像が入力され、入力された単純X線撮影画像に撮影された身体部位における骨髄浮腫の有無に関する推定結果を出力し、ここで該出力は、BMEのスコアである
    プログラム。
  8. 学習器を、身体部位が撮影された単純X線撮影画像、および前記単純X線撮影画像に撮影された身体部位が骨髄浮腫を有しているか否かの情報を含む学習用データを用いて学習させる学習工程を含む、
    単純X線撮影画像に撮影された身体部位における骨髄浮腫の有無を推定可能な学習済み学習器の生成方法であって、
    該学習済み学習器は、対象の身体部位が撮影された単純X線撮影画像が入力され、入力された単純X線撮影画像に撮影された身体部位における骨髄浮腫の有無に関する推定結果を出力し、ここで該出力は、BMEのスコアである、生成方法
JP2020154719A 2020-09-15 2020-09-15 推定装置、推定方法、プログラム、及び生成方法 Active JP6994094B1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020154719A JP6994094B1 (ja) 2020-09-15 2020-09-15 推定装置、推定方法、プログラム、及び生成方法
EP21869399.2A EP4216154A1 (en) 2020-09-15 2021-09-15 Estimation device, estimation method, program, and generation method
US18/025,746 US20230419493A1 (en) 2020-09-15 2021-09-15 Estimation device, estimation method, program, and generation method
PCT/JP2021/033957 WO2022059713A1 (ja) 2020-09-15 2021-09-15 推定装置、推定方法、プログラム、及び生成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020154719A JP6994094B1 (ja) 2020-09-15 2020-09-15 推定装置、推定方法、プログラム、及び生成方法

Publications (2)

Publication Number Publication Date
JP6994094B1 true JP6994094B1 (ja) 2022-01-14
JP2022048732A JP2022048732A (ja) 2022-03-28

Family

ID=80447963

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020154719A Active JP6994094B1 (ja) 2020-09-15 2020-09-15 推定装置、推定方法、プログラム、及び生成方法

Country Status (4)

Country Link
US (1) US20230419493A1 (ja)
EP (1) EP4216154A1 (ja)
JP (1) JP6994094B1 (ja)
WO (1) WO2022059713A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100238171A1 (en) * 2009-03-19 2010-09-23 Bernhard Krauss Method for preparing ct image displays, and an arithmetic logic unit for carrying out this method
JP2016041245A (ja) * 2014-08-15 2016-03-31 株式会社東芝 医用画像処理装置及び医用画像処理方法
US20160262709A1 (en) * 2013-11-26 2016-09-15 The Johns Hopkins University Dual-energy cone-beam computed tomography with a multiple source, single-detector configuration
US20200129114A1 (en) * 2018-10-25 2020-04-30 The Chinese University Of Hong Kong Automatic computerized joint segmentation and inflammation quantification in mri

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10561442B2 (en) * 2014-11-24 2020-02-18 Zimmer Knee Creations, Inc. Navigation instruments for subchondral bone treatment

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100238171A1 (en) * 2009-03-19 2010-09-23 Bernhard Krauss Method for preparing ct image displays, and an arithmetic logic unit for carrying out this method
US20160262709A1 (en) * 2013-11-26 2016-09-15 The Johns Hopkins University Dual-energy cone-beam computed tomography with a multiple source, single-detector configuration
JP2016041245A (ja) * 2014-08-15 2016-03-31 株式会社東芝 医用画像処理装置及び医用画像処理方法
US20200129114A1 (en) * 2018-10-25 2020-04-30 The Chinese University Of Hong Kong Automatic computerized joint segmentation and inflammation quantification in mri

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
片山 耕、他9名,"手関節広範囲骨髄浮腫に特徴的なレントゲン像について",北海道医学雑誌,2019年05月,vol.94(1),pp.61
片山 耕、他9名: ""手関節広範囲骨髄浮腫に特徴的なレントゲン像について"", 北海道医学雑誌, vol. vol.94(1), JPN6021032219, May 2019 (2019-05-01), pages 61, ISSN: 0004572720 *

Also Published As

Publication number Publication date
US20230419493A1 (en) 2023-12-28
WO2022059713A1 (ja) 2022-03-24
EP4216154A1 (en) 2023-07-26
JP2022048732A (ja) 2022-03-28

Similar Documents

Publication Publication Date Title
JP2020062378A (ja) 医療画像の分析方法、システムおよびモデル
CN110766735B (zh) 一种图像的匹配方法、装置、设备及存储介质
US20200105414A1 (en) Information processing apparatus, information processing system, information processing method, and non-transitory computer-readable storage medium
Snider et al. An image classification deep-learning algorithm for shrapnel detection from ultrasound images
Tay et al. Ensemble-based regression analysis of multimodal medical data for osteopenia diagnosis
JP2006149654A (ja) 眼底の病変についての診断の支援
JP2020057053A (ja) 術後合併症予測方法、術後合併症予測プログラム及び術後合併症予測装置
Kim et al. Diagnostic triage in patients with central lumbar spinal stenosis using a deep learning system of radiographs
WO2021184799A1 (zh) 医学图像处理方法、装置、设备及存储介质
JP6994094B1 (ja) 推定装置、推定方法、プログラム、及び生成方法
Yosibash et al. Femurs segmentation by machine learning from CT scans combined with autonomous finite elements in orthopedic and endocrinology applications
JP2019149094A (ja) 診断支援システム、診断支援方法、及びプログラム
JP2019149093A (ja) 診断支援システム、診断支援方法、及びプログラム
JP2020048685A (ja) 乳がん診断支援装置、乳がん診断支援システム、および乳がん診断支援方法
CN114820483A (zh) 图像检测方法、装置及计算机设备
Tamai et al. Deep learning algorithm for identifying cervical cord compression due to degenerative canal stenosis on radiography
JP6862286B2 (ja) 情報処理装置、情報処理方法、情報処理システム及びプログラム
CN113643223A (zh) 图像检测方法、装置、计算机设备和存储介质
JP2021074095A (ja) 眼科画像処理装置および眼科画像処理プログラム
KR102522172B1 (ko) 사전 문진용 음성 분석을 통한 주관적 통증의 임상 연계성 분석 시스템
JP7452847B2 (ja) 状態変化推定システム
US11923072B2 (en) Image diagnosis supporting device and image processing method
Ramos Analysis of medical images to support decision-making in the musculoskeletal field
Ganesan et al. Sushrut-Diagnosis Made Easy
EP3882819A1 (en) Image processing program, image processing apparatus, and image processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210706

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210817

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20211012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211109

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211210

R150 Certificate of patent or registration of utility model

Ref document number: 6994094

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150