JP2019202087A - 医用情報処理システム、医用情報処理装置、放射線診断装置、超音波診断装置、学習用データの生産方法及びプログラム - Google Patents

医用情報処理システム、医用情報処理装置、放射線診断装置、超音波診断装置、学習用データの生産方法及びプログラム Download PDF

Info

Publication number
JP2019202087A
JP2019202087A JP2018101025A JP2018101025A JP2019202087A JP 2019202087 A JP2019202087 A JP 2019202087A JP 2018101025 A JP2018101025 A JP 2018101025A JP 2018101025 A JP2018101025 A JP 2018101025A JP 2019202087 A JP2019202087 A JP 2019202087A
Authority
JP
Japan
Prior art keywords
medical
image data
function
learning data
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018101025A
Other languages
English (en)
Other versions
JP7262933B2 (ja
Inventor
翔 佐々木
Sho Sasaki
翔 佐々木
亮一 長江
Ryoichi Nagae
亮一 長江
智生 藤戸
Tomoki Fujito
智生 藤戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Medical Systems Corp
Original Assignee
Canon Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Medical Systems Corp filed Critical Canon Medical Systems Corp
Priority to JP2018101025A priority Critical patent/JP7262933B2/ja
Publication of JP2019202087A publication Critical patent/JP2019202087A/ja
Application granted granted Critical
Publication of JP7262933B2 publication Critical patent/JP7262933B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Apparatus For Radiation Diagnosis (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Medical Treatment And Welfare Office Work (AREA)

Abstract

【課題】医用画像に関する学習用データ不足を解消すること。【解決手段】実施形態の医用情報処理装置は、取得部と、特定部とを備える。取得部は、医用画像を取得する。特定部は、前記取得部により取得される医用画像のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致する医用画像を組として含む学習用データを特定する。【選択図】図1

Description

本発明の実施形態は、医用情報処理システム、医用情報処理装置、放射線診断装置、超音波診断装置、学習用データの生産方法及びプログラムに関する。
機械学習を用いた画像処理技術が知られている。この技術では、例えば、ノイズの多寡が異なり、かつ、同一の領域を撮像した画像の組を学習用データとして用いることにより、画像中のノイズを除去する処理に組み込まれる学習済みモデルを生成する。ここで、機械学習を用いた画像処理技術を医用画像に適用することが考えられるが、医用画像に関する学習用データの収集は容易でない。
特開2016−062524号公報
本発明が解決しようとする課題は、医用画像に関する学習用データ不足を解消することである。
実施形態の医用情報処理装置は、取得部と、特定部とを備える。取得部は、医用画像を取得する。特定部は、前記取得部により取得される医用画像のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致する医用画像を組として含む学習用データを特定する。
図1は、第1の実施形態に係る医用情報処理システムの構成の一例を示すブロック図である。 図2は、第1の実施形態に係るX線診断装置の構成の一例を示すブロック図である。 図3は、第1の実施形態に係る撮像方向について説明するための図である。 図4は、第1の実施形態に係る撮像方向について説明するための図である。 図5は、第1の実施形態に係る処理回路による処理について説明するための図である。 図6は、第1の実施形態に係る学習済みモデルの生成処理について説明するための図である。 図7は、第1の実施形態に係る学習済みモデルの生成処理について説明するための図である。 図8は、第1の実施形態に係る学習済みモデルの生成処理について説明するための図である。 図9は、第1の実施形態に係る学習済みモデルの生成処理について説明するための図である。 図10は、第1の実施形態に係る変換処理について説明するための図である。 図11は、第1の実施形態に係る医用情報処理装置の処理の一連の流れを説明するためのフローチャートである。 図12は、第2の実施形態に係るX線診断装置の構成の一例を示すブロック図である。 図13は、第4の実施形態に係る超音波診断装置の構成の一例を示すブロック図である。
以下、図面を参照して、医用情報処理システム、医用情報処理装置、放射線診断装置、超音波診断装置、学習用データの生産方法及びプログラムの実施形態について詳細に説明する。
(第1の実施形態)
まず、第1の実施形態について説明する。第1の実施形態では、医用情報処理装置30を含んだ医用情報処理システム1を一例として説明する。
図1に示すように、第1の実施形態に係る医用情報処理システム1は、医用画像診断装置10と、画像保管装置20と、医用情報処理装置30とを備える。なお、図1は、第1の実施形態に係る医用情報処理システム1の構成の一例を示すブロック図である。図1に示すように、医用画像診断装置10、画像保管装置20及び医用情報処理装置30は、ネットワークNWを介して相互に接続される。
医用画像診断装置10は、被検体から医用画像を収集する装置である。なお、データとして処理される医用画像については、医用画像データとも記載する。例えば、医用画像診断装置10は、被検体から医用画像データを収集し、収集した医用画像データを画像保管装置20及び医用情報処理装置30に送信する。例えば、医用画像診断装置10は、X線診断装置やX線CT(Computed Tomography)装置、SPECT(Single Photon Emission Computed Tomography)装置、SPECT装置とX線CT装置とが一体化されたSPECT−CT装置、超音波診断装置等である。
画像保管装置20は、医用画像診断装置10によって収集された医用画像データを保管する装置である。例えば、画像保管装置20は、ネットワークNWを介して医用画像診断装置10から医用画像データを取得し、取得した医用画像データを装置内又は装置外に設けられたメモリに記憶させる。例えば、画像保管装置20は、サーバ装置等のコンピュータ機器によって実現される。
医用情報処理装置30は、ネットワークNWを介して医用画像データを取得し、取得した医用画像データを用いた種々の処理を実行する。例えば、医用情報処理装置30は、ネットワークNWを介して、医用画像診断装置10又は画像保管装置20から医用画像データを取得する。また、医用情報処理装置30は、取得した医用画像データのうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致する医用画像データを組として含む学習用データを特定する。例えば、医用情報処理装置30は、ワークステーション等のコンピュータ機器によって実現される。
なお、ネットワークNWを介して接続可能であれば、医用画像診断装置10、画像保管装置20及び医用情報処理装置30が設置される場所は任意である。例えば、医用情報処理装置30は、医用画像診断装置10と異なる病院に設置されてもよい。即ち、ネットワークNWは、院内で閉じたローカルネットワークにより構成されてもよいし、インターネットを介したネットワークでもよい。また、図1においては医用画像診断装置10を1つ示すが、医用情報処理システム1は、複数の医用画像診断装置10を含んでもよい。
図1に示すように、医用情報処理装置30は、入力インターフェース31と、ディスプレイ32と、メモリ33と、処理回路34とを有する。
入力インターフェース31は、操作者からの各種の入力操作を受け付け、受け付けた入力操作を電気信号に変換して処理回路34に出力する。例えば、入力インターフェース31は、マウスやキーボード、トラックボール、スイッチ、ボタン、ジョイスティック、操作面へ触れることで入力操作を行なうタッチパッド、表示画面とタッチパッドとが一体化されたタッチスクリーン、光学センサを用いた非接触入力回路、音声入力回路等により実現される。なお、入力インターフェース31は、医用情報処理装置30本体と無線通信可能なタブレット端末等で構成されることにしても構わない。また、入力インターフェース31は、マウスやキーボード等の物理的な操作部品を備えるものだけに限られない。例えば、医用情報処理装置30とは別体に設けられた外部の入力機器から入力操作に対応する電気信号を受け取り、この電気信号を処理回路34へ出力する電気信号の処理回路も入力インターフェース31の例に含まれる。
ディスプレイ32は、各種の情報を表示する。例えば、ディスプレイ32は、処理回路34による制御の下、医用画像診断装置10又は画像保管装置20から処理回路34が取得した医用画像や、処理回路34による変換処理後の医用画像を表示する。また、ディスプレイ32は、入力インターフェース31を介して操作者から各種指示や各種設定等を受け付けるためのGUI(Graphical User Interface)を表示する。例えば、ディスプレイ32は、液晶ディスプレイやCRT(Cathode Ray Tube)ディスプレイである。ディスプレイ32は、デスクトップ型でもよいし、医用情報処理装置30本体と無線通信可能なタブレット端末等で構成されることにしても構わない。
メモリ33は、例えば、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等により実現される。例えば、メモリ33は、医用画像診断装置10又は画像保管装置20から取得した医用画像データを記憶する。また、例えば、メモリ33は、処理回路34が生成した学習用データセットや学習済みモデルを記憶する。また、例えば、メモリ33は、医用情報処理装置30に含まれる回路がその機能を実現するためのプログラムを記憶する。なお、メモリ33は、医用情報処理装置30とネットワークNWを介して接続されたサーバ群(クラウド)により実現されることとしてもよい。
処理回路34は、取得機能34a、特定機能34b、学習用データセット生成機能34c、モデル生成機能34d、変換機能34e、出力機能34f及び制御機能34gを実行することで、医用情報処理装置30全体の動作を制御する。ここで、取得機能34aは、取得部の一例である。また、特定機能34bは、特定部の一例である。また、学習用データセット生成機能34cは、学習用データセット生成部の一例である。また、モデル生成機能34dは、モデル生成部の一例である。また、変換機能34eは、変換部の一例である。また、制御機能34gは、制御部の一例である。
例えば、処理回路34は、取得機能34aに対応するプログラムをメモリ33から読み出して実行することにより、医用画像診断装置10又は画像保管装置20から、医用画像データを取得する。また、例えば、処理回路34は、特定機能34bに対応するプログラムをメモリ33から読み出して実行することにより、取得機能34aにより取得される医用画像データのうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致する医用画像データを組として含む学習用データを特定する。
また、例えば、処理回路34は、学習用データセット生成機能34cに対応するプログラムをメモリ33から読み出して実行することにより、特定機能34bにより特定された複数の学習用データを含む学習用データセットを生成する。また、例えば、処理回路34は、モデル生成機能34dに対応するプログラムをメモリ33から読み出して実行することにより、学習用データセットに基づいて、入力される医用画像データを、撮像の条件及び被検体の条件のうち少なくとも一方が異なる医用画像データに相当する医用画像データに変換する処理に組み込まれる学習済みモデルを生成する。
また、例えば、処理回路34は、変換機能34eに対応するプログラムをメモリ33から読み出して実行することにより、学習済みモデルに基づいて、入力される医用画像データを、撮像の条件及び被検体の条件のうち少なくとも一方が異なる医用画像データに相当する医用画像データに変換する変換処理を実行する。また、例えば、処理回路34は、出力機能34fに対応するプログラムをメモリ33から読み出して実行することにより、取得機能34aが取得した医用画像や変換機能34eによる変換処理後の医用画像をディスプレイ32に表示させたり、種々のデータ(学習用データ、学習用データセット、学習済みモデル、変換処理後の医用画像データ等)を外部装置に出力したりする。また、例えば、処理回路34は、制御機能34gに対応するプログラムをメモリ33から読み出して実行することにより、入力インターフェース31を介して操作者から受け付けた入力操作に基づいて、処理回路34の各種機能を制御する。
図1に示す医用情報処理装置30においては、各処理機能がコンピュータによって実行可能なプログラムの形態でメモリ33へ記憶されている。処理回路34は、メモリ33からプログラムを読み出して実行することで各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の処理回路34は、読み出したプログラムに対応する機能を有することとなる。なお、図1においては単一の処理回路34にて、取得機能34a、特定機能34b、学習用データセット生成機能34c、モデル生成機能34d、変換機能34e、出力機能34f及び制御機能34gが実現するものとして説明したが、複数の独立したプロセッサを組み合わせて処理回路34を構成し、各プロセッサが各プログラムを実行することにより各処理機能を実現するものとしても構わない。また、処理回路34が有する各処理機能は、単一又は複数の処理回路に適宜に分散又は統合されて実現されてもよい。
次に、医用画像データを収集する医用画像診断装置10について説明する。本実施形態では、医用画像診断装置10の一例として、図2に示すX線診断装置100について説明する。図2は、第1の実施形態に係るX線診断装置100の構成の一例を示すブロック図である。また、本実施形態では、医用画像データの一例として、2次元のX線画像データについて説明する。
図2に示すように、X線診断装置100は、X線高電圧装置101と、X線管102と、コリメータ103と、フィルタ104と、天板105と、Cアーム106と、X線検出器107と、メモリ108と、ディスプレイ109と、入力インターフェース110と、処理回路111とを備える。
X線高電圧装置101は、処理回路111による制御の下、X線管102に高電圧を供給する。例えば、X線高電圧装置101は、変圧器(トランス)及び整流器等の電気回路を有し、X線管102に印加する高電圧を発生する高電圧発生装置と、X線管102が照射するX線に応じた出力電圧の制御を行なうX線制御装置とを有する。なお、高電圧発生装置は、変圧器方式であってもよいし、インバータ方式であってもよい。
X線管102は、熱電子を発生する陰極(フィラメント)と、熱電子の衝突を受けてX線を発生する陽極(ターゲット)とを有する真空管である。X線管102は、X線高電圧装置101から供給される高電圧を用いて、陰極から陽極に向けて熱電子を照射することにより、X線を発生する。
コリメータ(X線絞り装置ともいう)103は、例えば、スライド可能な4枚の絞り羽根を有する。コリメータ103は、絞り羽根をスライドさせることで、X線管102が発生したX線を絞り込んで被検体P1に照射させる。ここで、絞り羽根は、鉛等で構成された板状部材であり、X線の照射範囲を調整するためにX線管102のX線照射口付近に設けられる。例えば、コリメータ103は、モータ及びアクチュエータ等の駆動機構を有し、後述する処理回路111による制御の下、X線の照射範囲を制御する。例えば、コリメータ103は、処理回路111から受け付けた制御信号に応じて駆動電圧を駆動機構に付加することにより、絞り羽根の開度を調整して、被検体P1に対して照射されるX線の照射範囲を制御する。
フィルタ104は、被検体P1に対する被ばく線量の低減とX線画像データの画質向上を目的として、その材質や厚みによって透過するX線の線質を変化させ、被検体P1に吸収されやすい軟線成分を低減したり、X線画像データのコントラスト低下を招く高エネルギー成分を低減したりする。また、フィルタ104は、その材質や厚み、位置等によってX線の線量及び照射範囲を変化させ、X線管102から被検体P1へ照射されるX線が予め定められた分布になるようにX線を減衰させる。例えば、フィルタ104は、モータ及びアクチュエータ等の駆動機構を有し、後述する処理回路111による制御の下、駆動機構を動作させることにより移動する。例えば、フィルタ104は、処理回路111から受け付けた制御信号に応じて駆動電圧を駆動機構に付加することによりその位置を調整して、被検体P1に対して照射されるX線の線量の分布を制御する。
天板105は、被検体P1を載せるベッドであり、図示しない寝台の上に配置される。なお、被検体P1は、X線診断装置100に含まれない。例えば、寝台は、モータ及びアクチュエータ等の駆動機構を有し、後述する処理回路111による制御の下、駆動機構を動作させることにより、天板105の移動・傾斜を制御する。例えば、寝台は、処理回路111から受け付けた制御信号に応じて駆動電圧を駆動機構に付加することにより、天板105を移動させたり、傾斜させたりする。
Cアーム106は、X線管102、コリメータ103及びフィルタ104と、X線検出器107とを、被検体P1を挟んで対向するように保持する。例えば、Cアーム106は、モータ及びアクチュエータ等の駆動機構を有し、後述する処理回路111による制御の下、駆動機構を動作させることにより、回転したり移動したりする。例えば、Cアーム106は、処理回路111から受け付けた制御信号に応じて駆動電圧を駆動機構に付加することにより、X線管102、コリメータ103及びフィルタ104と、X線検出器107とを被検体P1に対して回転・移動させ、X線の照射位置や照射角度を制御する。なお、図2では、X線診断装置100がシングルプレーンの場合を例に挙げて説明しているが、実施形態はこれに限定されるものではなく、バイプレーンの場合であってもよい。また、図2では、X線診断装置100が循環器診断用のX線診断装置である場合を例に挙げて説明しているが、実施形態はこれに限定されるものではない。例えば、X線診断装置100は、一般X線診断装置、消化器用X線TV装置、マンモグラフィ装置等、種々のX線診断装置であってもよい。Cアーム106は、X線管およびX線検出器のうち少なくとも一方を保持する保持部、保持機構および保持装置の一例である。
X線検出器107は、例えば、マトリクス状に配列された検出素子を有するX線平面検出器(Flat Panel Detector:FPD)である。X線検出器107は、X線管102から照射されて被検体P1を透過したX線を検出して、検出したX線量に対応した検出信号を処理回路111へと出力する。なお、X線検出器107は、グリッド、シンチレータアレイ及び光センサアレイを有する間接変換型の検出器であってもよいし、入射したX線を電気信号に変換する半導体素子を有する直接変換型の検出器であっても構わない。また、X線検出器107は、検出面に垂直な軸を回転軸として、回転可能に構成されてもよい。即ち、X線検出器107は、検出面内で回転可能に構成されてもよい。以下では、検出面内でのX線検出器107の回転角を、面内回転角とも記載する。なお、X線検出器107は、検出器の一例である。
メモリ108は、例えば、RAM、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等により実現される。例えば、メモリ108は、処理回路111によって収集されたX線画像データを受け付けて記憶する。また、メモリ108は、処理回路111によって読み出されて実行される各種機能に対応するプログラムを記憶する。なお、メモリ108は、X線診断装置100とネットワークNWを介して接続されたサーバ群(クラウド)により実現されることとしてもよい。
ディスプレイ109は、各種の情報を表示する。例えば、ディスプレイ109は、処理回路111による制御の下、操作者の指示を受け付けるためのGUIや、各種のX線画像を表示する。例えば、ディスプレイ109は、液晶ディスプレイやCRTディスプレイである。なお、ディスプレイ109はデスクトップ型でもよいし、処理回路111と無線通信可能なタブレット端末等で構成されることにしても構わない。
入力インターフェース110は、操作者からの各種の入力操作を受け付け、受け付けた入力操作を電気信号に変換して処理回路111に出力する。例えば、入力インターフェース110は、マウスやキーボード、トラックボール、スイッチ、ボタン、ジョイスティック、操作面へ触れることで入力操作を行なうタッチパッド、表示画面とタッチパッドとが一体化されたタッチスクリーン、光学センサを用いた非接触入力回路、音声入力回路等により実現される。なお、入力インターフェース110は、処理回路111と無線通信可能なタブレット端末等で構成されることにしても構わない。また、入力インターフェース110は、マウスやキーボード等の物理的な操作部品を備えるものだけに限られない。例えば、X線診断装置100とは別体に設けられた外部の入力機器から入力操作に対応する電気信号を受け取り、この電気信号を処理回路111へ出力する電気信号の処理回路も入力インターフェース110の例に含まれる。
処理回路111は、収集機能111a、出力機能111b及び制御機能111cを実行することで、X線診断装置100全体の動作を制御する。
例えば、処理回路111は、メモリ108から収集機能111aに相当するプログラムを読み出して実行することにより、X線画像データを収集する。例えば、収集機能111aは、X線高電圧装置101を制御し、X線管102に供給する電圧を調整することで、被検体P1に対して照射されるX線量やオン/オフを制御する。
また、収集機能111aは、撮像対象領域や撮像方向を制御する。ここで、本実施形態において、撮像対象領域とは、被検体P1の部位のうちX線画像により描出される部分を指し、撮像方向とは、被検体P1に対するX線照射に関する方向を指す。例えば、収集機能111aは、コリメータ103を制御し、絞り羽根の開度を調整することで、被検体P1に対して照射されるX線の照射範囲を制御する。また、収集機能111aは、フィルタ104を制御し、フィルタ104の位置を調整することで、X線の線量の分布を制御する。また、収集機能111aは、Cアーム106の動作を制御することで、Cアーム106を回転させたり、移動させたりする。また、例えば、収集機能111aは、寝台の動作を制御することで、天板105を移動させたり、傾斜させたりする。
以下では、医用画像診断装置10において撮像に用いられる機構を、撮像部とも記載する。例えば、X線診断装置100の撮像部は、X線管102、コリメータ103、フィルタ104、天板105、Cアーム106及びX線検出器107を含む。収集機能111aは、撮像部の一部又は全部を制御することにより、撮像対象領域や撮像方向を制御する。
また、収集機能111aは、X線検出器107から受信した検出信号に基づいてX線画像データを生成し、生成したX線画像データをメモリ108に格納する。この際、収集機能111aは、生成したX線画像データの付帯情報に、撮像対象領域や撮像方向、患者ID、検査種別、検査日時、X線検出器107の面内回転角等を記録することとしてもよい。
例えば、収集機能111aは、X線管102の向きに応じて撮像方向を特定し、X線画像データの付帯情報に記録する。例えば、収集機能111aは、まず、被検体Pを基準とした方向を定義する。一例を挙げると、収集機能111aは、被検体P1の体軸方向(被検体P1の横断面に垂直な方向)をT方向として定義する。また、収集機能111aは、被検体P1の左右方向(被検体P1のサジタル面に垂直な方向)をS方向として定義する。また、収集機能111aは、被検体P1の前後方向(被検体P1のコロナル面に垂直な方向)をC方向として定義する。なお、以下では、T方向、S方向及びC方向が相互に直交するものとして説明する。
例えば、被検体P1は、天板105の長手方向に沿って仰向けに載置される。この場合、収集機能111aは、天板105の傾斜情報を用いて、図3の左図に示すように、天板105の長手方向をT方向として定義し、天板105の短手方向をS方向として定義し、天板105に垂直な方向をC方向として定義する。また、収集機能111aは、図3の左図に示すように、撮像方向を特定する。具体的には、収集機能111aは、T方向、S方向及びC方向を基準とし、X線管102の向きを撮像方向として特定する。なお、図3は、第1の実施形態に係る撮像方向について説明するための図である。
ここで、図3の左図に示すように、収集機能111aがCアーム106の回転動作を行なうことによって、被検体Pに対するX線管102の向きは変化する。即ち、Cアーム106の回転動作により、撮像方向は変化する。この場合、収集機能111aは、図3の右図に示すように、T方向、S方向及びC方向を基準として、回転動作後のX線管102の向きを撮像方向として特定する。
また、収集機能111aは、天板105の傾斜(チルト)を考慮して、撮像方向を特定してもよい。即ち、図4の左図に示すように、収集機能111aが天板105を傾斜(チルト)させることによって、X線管102に対する被検体Pの向きは変化する。この場合、収集機能111aは、チルト後の天板105の傾斜情報を用いて、T方向、S方向及びC方向を再度定義する。そして、収集機能111aは、図4の右図に示すように、再度定義したT方向、S方向及びC方向を基準とし、X線管102の向きを撮像方向として特定する。なお、図4は、第1の実施形態に係る撮像方向について説明するための図である。
なお、収集機能111aは、撮像方向として、臨床角を特定してもよいし、撮像方向を示す値を特定してもよい。例えば、心臓の検査において収集されたX線画像データについて、収集機能111aは、CRA、CAU、LAO、RAO等の臨床角を撮像方向として特定し、X線画像データの付帯情報に記録する。また、例えば、収集機能111aは、T方向、S方向及びC方向から成るTSC座標系を定義し、この座標系における単位ベクトルを撮像方向として特定する。一例を挙げると、撮像方向がC方向に一致する場合、収集機能111aは、TSC座標系において(0,0,1)を撮像方向として特定し、X線画像データの付帯情報に記録する。
また、収集機能111aは、Cアーム106の位置やコリメータ103における絞り羽根の開度等に応じて撮像対象領域を特定し、X線画像データの付帯情報に記録する。例えば、収集機能111aは、まず、被検体Pを基準とした方向及び基準位置を定義する。一例を挙げると、収集機能111aは、T方向、S方向及びC方向から成るTSC座標系を定義し、T座標、S座標及びC座標を用いて、撮像対象領域を特定する。
例えば、収集機能111aは、まず、Cアーム106の位置に基づいて、アイソセンタ(Cアーム106の回転中心)を特定する。次に、収集機能111aは、アイソセンタを通り、かつ、撮像方向に平行な直線を特定する。そして、収集機能111aは、コリメータ103における絞り羽根の開度に基づき、特定した直線を軸とする柱状領域又は錐状領域として、撮像対象領域を特定する。一例を挙げると、コリメータ103が4枚の絞り羽根を有する場合、収集機能111aは、X線焦点を頂点とし、特定した直線を軸とする四角錐状の領域を、撮像対象領域として特定する。
以下では、+T方向が被検体Pの上側(頭側)の方向であり、−T方向が被検体Pの下側(足側)の方向であるものとして説明する。例えば、Cアーム106が+T方向に平行移動する場合、撮像対象領域は、+T方向に平行移動する。また、コリメータ103における絞り羽根の動作を制御する場合、撮像対象領域は、絞り羽根の開度に応じて、拡大または縮小する。例えば、収集機能111aは、Cアーム106の位置、及び、コリメータ103における絞り羽根の開度に基づいて、撮像対象領域を特定することができる。
また、収集機能111aは、天板105の平行移動(スライド)を考慮して、撮像対象領域を特定してもよい。即ち、収集機能111aが天板105をスライドさせることによって、天板105とCアーム106との相対的な位置関係は変化し、撮像対象領域も変化する。例えば、天板105が+T方向に平行移動する場合、撮像対象領域は、−T方向に平行移動する。この場合、収集機能111aは、例えば、天板105とCアーム106との相対的な位置関係、及び、コリメータ103における絞り羽根の開度に基づいて、撮像対象領域を特定する。
なお、収集機能111aは、撮像対象領域として、撮像対象部位を特定してもよいし、撮像対象領域を示す値を特定してもよい。例えば、収集機能111aは、「心臓」、「右肺」、「頭部」等の撮像対象部位を撮像対象領域として特定し、X線画像データの付帯情報に記録する。また、例えば、収集機能111aは、T方向、S方向及びC方向から成るTSC座標系を定義し、この座標系における3次元領域を撮像対象領域として特定して、X線画像データの付帯情報に記録する。
また、収集機能111aは、メモリ108が記憶するX線画像データに対して各種画像処理を行なってもよい。例えば、収集機能111aは、X線画像データに対して、画像処理フィルタによるノイズ低減処理や、散乱線補正を実行する。
また、処理回路111は、メモリ108から出力機能111bに相当するプログラムを読み出して実行することにより、ディスプレイ109にGUIやX線画像を表示させる。また、出力機能111bは、X線画像データを、画像保管装置20や医用情報処理装置30に出力する。また、処理回路111は、メモリ108から制御機能111cに相当するプログラムを読み出して実行することにより、入力インターフェース110を介して操作者から受け付けた入力操作に基づいて、処理回路111の各種機能を制御する。
図2に示すX線診断装置100においては、各処理機能がコンピュータによって実行可能なプログラムの形態でメモリ108へ記憶されている。処理回路111は、メモリ108からプログラムを読み出して実行することで各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の処理回路111は、読み出したプログラムに対応する機能を有することとなる。なお、図2においては、収集機能111a、出力機能111b及び制御機能111cの各処理機能が単一の処理回路111によって実現される場合を示したが、実施形態はこれに限られるものではない。例えば、処理回路111は、複数の独立したプロセッサを組み合わせて構成され、各プロセッサが各プログラムを実行することにより各処理機能を実現するものとしても構わない。また、処理回路111が有する各処理機能は、単一又は複数の処理回路に適宜に分散又は統合されて実現されてもよい。
上記説明において用いた「プロセッサ」という文言は、例えば、CPU、GPU(Graphics Processing Unit)、あるいは、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等の回路を意味する。プロセッサはメモリ33又はメモリ108に保存されたプログラムを読み出し実行することで機能を実現する。
なお、図1及び図2においては、単一のメモリ33又はメモリ108が各処理機能に対応するプログラムを記憶するものとして説明した。しかしながら、複数のメモリ33を分散して配置し、処理回路34は、個別のメモリ33から対応するプログラムを読み出す構成としても構わない。同様に、複数のメモリ108を分散して配置し、処理回路111は、個別のメモリ108から対応するプログラムを読み出す構成としても構わない。また、メモリ33及びメモリ108にプログラムを保存する代わりに、プロセッサの回路内にプログラムを直接組み込むよう構成しても構わない。この場合、プロセッサは回路内に組み込まれたプログラムを読み出し実行することで機能を実現する。
また、処理回路34及び処理回路111は、ネットワークNWを介して接続された外部装置のプロセッサを利用して、機能を実現することとしてもよい。例えば、処理回路34は、メモリ33から各機能に対応するプログラムを読み出して実行するとともに、医用情報処理装置30とネットワークNWを介して接続されたサーバ群(クラウド)を計算資源として利用することにより、図1に示す各機能を実現する。また、例えば、処理回路34は、メモリ33から各機能に対応するプログラムを読み出して実行するとともに、処理回路111を計算資源として利用することにより、図1に示す各機能を実現する。
以上、医用情報処理システム1の構成の一例について説明した。かかる構成の下、医用情報処理システム1における医用情報処理装置30は、医用画像に関する学習用データ不足を解消する。具体的には、医用情報処理装置30は、以下詳細に説明する処理回路34による処理によってX線画像データを取得し、取得したX線画像データのうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致するX線画像データを組として含む学習用データを特定することで、医用画像に関する学習用データ不足を解消する。以下、第1の実施形態に係る医用情報処理装置30が行なう処理について詳細に説明する。
まず、取得機能34aは、X線診断装置100又は画像保管装置20からX線画像データを取得する。例えば、取得機能34aは、図5に示すように、X線診断装置100から、X線画像データI1及びX線画像データI2を含む複数のX線画像データを取得する。なお、図5は、第1の実施形態に係る処理回路34による処理について説明するための図である。
ここで、取得機能34aは、メモリ108に記憶されたX線画像データを取得してもよいし、収集機能111aにより収集されたX線画像データをメモリ108を介すことなく取得してもよい。また、取得機能34aは、画像保管装置20に記憶されたX線画像データを取得する場合であってもよい。また、取得機能34aは、取得したX線画像データをメモリ33に記憶させることとしてもよい。
次に、特定機能34bは、取得機能34aにより取得されたX線画像データのうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致するX線画像データを組として含む学習用データを特定する。
例えば、特定機能34bは、まず、取得機能34aにより取得されたX線画像データのうち、同一検査内で収集されたX線画像データの組を特定する。一例を挙げると、特定機能34bは、撮像対象となった被検体及び検査種別が同一であり、かつ、同日に収集されたX線画像データの組を特定する。
例えば、特定機能34bは、各X線画像データの付帯情報に基づいて、各X線画像データの撮像対象となった被検体の情報を取得し、撮像対象となった被検体が同一であるX線画像データの組を特定する。一例を挙げると、X線画像データがDICOM(Digital Imaging and Communications in Medicine)形式である場合、特定機能34bは、タグ「(0010,0020) Patient ID」に記録された患者IDに基づいて、撮像対象となった被検体が同一であるX線画像データの組を特定する。
次に、特定機能34bは、撮像対象となった被検体が同一であるX線画像データの組のうち、検査種別が同一であるX線画像データの組を特定する。一例を挙げると、特定機能34bは、各X線画像データの付帯情報に基づいて、各X線画像データに関する検査が通常検査であるか緊急検査であるか等の検査種別を取得する。そして、特定機能34bは、各X線画像データの検査種別を比較することで、検査種別が同一であるX線画像データの組を特定する。
更に、特定機能34bは、撮像対象となった被検体及び検査種別が同一であるX線画像データの組のうち、同日に収集されたX線画像データの組を特定する。一例を挙げると、特定機能34bは、各X線画像データの付帯情報に基づいて、各X線画像データに関する検査が実行された検査日時を取得する。そして、特定機能34bは、各X線画像データの検査日時を比較することで、同日に収集されたX線画像データの組を特定する。即ち、特定機能34bは、撮像対象となった被検体及び検査種別が同一であるX線画像データの組のうち、同日に収集されたX線画像データの組を、同一検査内で収集されたX線画像データの組として特定する。
次に、特定機能34bは、同一検査内で収集されたX線画像データの組のうち、撮像方向が略一致するX線画像データの組を特定する。例えば、特定機能34bは、同一検査内で収集されたX線画像データの組のうち、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致するX線画像データの組を特定する。ここで、特定機能34bは、各X線画像データの撮像対象領域及び撮像方向を、各X線画像データの付帯情報に基づいて取得することができる。
例えば、特定機能34bは、まず、同一検査内で収集されたX線画像データの組の間で、撮像方向が略一致しているか否かを判定する。一例を挙げると、心臓の検査において収集された各X線画像データについて、収集機能111aは、CRA、CAU、LAO、RAO等の臨床角を撮像方向として特定し、各X線画像データの付帯情報に記録する。この場合、特定機能34bは、各X線画像データの付帯情報から取得した臨床角を相互に比較し、臨床角が一致している場合、撮像方向が略一致していると判定する。別の例を挙げると、収集機能111aは、各X線画像データの撮像方向として、撮像方向を示す単位ベクトルを特定する。この場合、特定機能34bは、各X線画像データの付帯情報から取得した単位ベクトルについて内積を算出し、内積が閾値以上である場合に、撮像方向が略一致していると判定する。
上述したように、収集機能111aは、X線管102の向きや天板105の傾斜情報等、撮像部の配置に基づいて撮像方向を特定し、X線画像データの付帯情報に撮像方向を記録する。そして、特定機能34bは、X線画像データの付帯情報から取得した撮像方向に基づいて、撮像方向が略一致するX線画像データの組の特定を行なう。即ち、特定機能34bは、撮像部の配置に基づいて、撮像方向が略一致するX線画像データの組の特定を行なう。
また、例えば、特定機能34bは、撮像方向が略一致していると判定したX線画像データの組の間で、撮像対象領域の少なくとも一部が重複しているか否かを判定する。一例を挙げると、各X線画像データについて、収集機能111aは、TSC座標系において特定した3次元領域を、撮像対象領域としてX線画像データの付帯情報に記録する。この場合、特定機能34bは、各X線画像データの付帯情報から取得した3次元領域を相互に比較し、3次元領域の少なくとも一部が重複している場合、撮像対象領域の少なくとも一部が重複していると判定する。別の例を挙げると、収集機能111aは、各X線画像データについて、アイソセンタの位置情報をX線画像データの付帯情報に記録する。この場合、特定機能34bは、各X線画像データの付帯情報から取得したアイソセンタの位置間の距離が閾値以下である場合に、撮像対象領域の少なくとも一部が重複していると判定する。
上述したように、収集機能111aは、天板105とCアーム106との位置関係や、コリメータ103における絞り羽根の開度等、撮像部の配置に基づいて撮像対象領域を取得し、X線画像データの付帯情報に記録する。或いは、収集機能111aは、天板105とCアーム106との位置関係等、撮像部の配置に基づいてアイソセンタの位置情報を取得し、X線画像データの付帯情報に記録する。そして、特定機能34bは、X線画像データの付帯情報から取得した撮像対象領域、又は、アイソセンタの位置情報に基づいて、撮像対象領域の少なくとも一部が重複するX線画像データの組の特定を行なう。即ち、特定機能34bは、撮像部の配置に基づいて、撮像対象領域の少なくとも一部が重複するX線画像データの組の特定を行なう。
ここで、特定機能34bは、撮像対象領域の一部が重複し、かつ、撮像対象領域の全部が重複していないX線画像データの組について、X線画像データ間の位置合わせを行なうこととしてもよい。例えば、特定機能34bは、撮像対象領域の一部が重複するX線画像データの組において、各X線画像データから解剖学的特徴点(ランドマーク)を抽出する。次に、特定機能34bは、平行移動、拡大/縮小等の処理によって、X線画像データ間の解剖学的特徴点が重なるように位置合わせを行なう。そして、特定機能34bは、位置合わせしたX線画像データの組を学習用データとして特定する。なお、特定機能34bは、撮像対象領域の全部が重複するX線画像データの組については、位置合わせを実行せず、そのまま学習用データとして特定する。
また、特定機能34bは、撮像方向が略一致し、かつ、撮像方向が同一でないX線画像データの組について、X線画像データ間の角度補正を行なうこととしてもよい。例えば、特定機能34bは、撮像方向が略一致し、かつ、撮像方向が同一でないX線画像データの組において、X線画像データ間の撮像方向の差に基づく台形補正や、各X線画像データから抽出した解剖学的特徴点に基づく変形処理等の角度補正を行なう。そして、特定機能34bは、角度補正したX線画像データの組を学習用データとして特定する。なお、特定機能34bは、撮像方向が同一であるX線画像データの組については、角度補正を実行せず、そのまま学習用データとして特定する。
また、特定機能34bは、X線画像データの撮像時におけるX線検出器107の面内回転角に基づいて、X線画像データの回転補正を行なうこととしてもよい。例えば、収集機能111aは、X線検出器107の基準状態(面内回転角が0°である状態)を定義し、基準状態からのX線検出器107の回転量を面内回転角として取得し、X線画像データの付帯情報に記録する。一例を挙げると、X線画像データがDICOM形式である場合、収集機能111aは、DICOMのプライベートタグに面内回転角を記録する。
例えば、特定機能34bは、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致するX線画像データの組における少なくとも一方のX線画像データについて、回転補正を実行する。一例を挙げると、特定機能34bは、面内回転角(基準状態からのX線検出器107の回転量)を相殺するように、各X線画像データの回転補正を実行する。
これにより、特定機能34bは、各X線画像データの向きを揃えることができる。そして、特定機能34bは、向きが揃った状態のX線画像データの組を、学習用データとして特定する。
或いは、特定機能34bは、まず、同一検査内で収集されたX線画像データの組における少なくとも一方のX線画像データについて、回転補正を実行する。次に、特定機能34bは、回転補正後のX線画像データの組から、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致するX線画像データの組を特定する。これにより、特定機能34bは、向きが揃った状態のX線画像データの組を、学習用データとして特定する。
次に、特定機能34bは、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致するX線画像データの組のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なるX線画像データの組から成る学習用データを特定する。
ここで、X線画像データについて撮像の条件とは、例えば、X線の照射に関する条件やX線の検出に関する条件等である。なお、X線の照射に関する条件の例としては、管電流値、管電圧値、照射時間等が挙げられる。また、X線の検出に関する条件の例としては、X線検出器107が備える検出素子の数、X線検出器107のビニング数、X線検出器107の種類(間接変換型/直接変換型)等が挙げられる。
また、X線画像データについて被検体の条件とは、例えば、造影条件等である。なお、造影条件の例としては、被検体の血管や消化器等に注入された造影剤の種類及び量、造影剤注入後の経過時間等が挙げられる。例えば、被検体の血管に注入される造影剤の種類には、被検体の周辺組織よりX線減弱係数の大きな陽性造影剤(ヨードや硫酸バリウムを主成分とする造影剤等)と、被検体の周辺組織よりX線減弱係数の小さな陰性造影剤(二酸化炭素や酸素、窒素、空気を主成分とする気体造影剤等)とがある。
以下では一例として、図5に示すX線画像データI1に係る管電流値が、X線画像データI2に係る管電流値よりも小さい場合について説明する。即ち、以下では、X線画像データI1とX線画像データI2との撮像の条件が異なる場合について説明する。また、図5に示すように、X線画像データI1とX線画像データI2とは、撮像対象領域が略重複し、かつ、撮像方向が略一致するX線画像データの組である。従って、特定機能34bは、撮像の条件が異なるX線画像データI1とX線画像データI2との組を、学習用データとして特定する。
ここで、X線画像データI2よりも小さい管電流値(低線量)で撮像されたX線画像データI1は、X線画像データI2よりも多くのノイズを含んでいる。即ち、X線画像データI1とX線画像データI2との組は、ノイズの程度が異なる医用画像の組の一例である。
なお、特定機能34bは、X線画像データの組について、学習用データとして特定するか否かを判定してもよい。例えば、特定機能34bは、撮像方向が略一致し、かつ、撮像方向が同一でないX線画像データの組についてX線画像データ間の角度補正を行なった場合に、角度補正したX線画像データの組を学習用データとして特定するか否かを判定してもよい。例えば、特定機能34bは、まず、角度補正したX線画像データの組について、画像間の比較を行なう。
例えば、特定機能34bは、角度補正したX線画像データの組について、各X線画像データから特徴点を抽出し、画像間で特徴点の位置が一致するか否かを判定する。一例を挙げると、特定機能34bは、メモリ33から、被検体P1の年齢、成人/子供、男性/女性、体重、身長等の種々のパラメータに応じて、仮想患者画像データを取得する。ここで、仮想患者画像データは、複数の解剖学的特徴点の位置が、それぞれの解剖学的特徴の識別コードとともに定義されたデータである。例えば、特定機能34bは、パターン認識等の画像処理によりX線画像データから複数の特徴点を抽出するとともに、仮想患者画像データに基づいて、抽出した複数の特徴点それぞれの識別コードを特定する。そして、特定機能34bは、識別コードごとに、各X線画像データから抽出した特徴点の位置が画像間で一致するか否かを判定する。ここで、特徴点の位置が一致する場合、特定機能34bは、角度補正したX線画像データの組を学習用データとして特定する。一方で、特徴点の位置が一致しない場合、特定機能34bは、角度補正したX線画像データの組を、学習用データとして特定しないと判定する。
別の例を挙げると、特定機能34bは、角度補正したX線画像データの組について、各X線画像データから特徴領域を抽出し、画像間で特徴領域が一致するか否かを判定する。例えば、特定機能34bは、各X線画像データにおいて骨や臓器等を特徴領域として抽出し、抽出した領域の輪郭線を抽出する。ここで、輪郭線が画像間で一致する場合、特定機能34bは、角度補正したX線画像データの組を学習用データとして特定する。一方で、輪郭線が一致しない場合、特定機能34bは、角度補正したX線画像データの組を、学習用データとして特定しないと判定する。
別の例を挙げると、特定機能34bは、角度補正したX線画像データの組について、画像間の類似度を算出する。例えば、特定機能34bは、画素ごとに、画像間での画素値の差を算出する。次に、特定機能34bは、画素ごとに算出した差をそれぞれ二乗した後、合算する。そして、特定機能34bは、算出した合算値に基づいて、類似度を算出する。また、例えば、特定機能34bは、各X線画像データをハッシュ関数に入力して、ハッシュ値を算出する。そして、特定機能34bは、画像間でのハッシュ値の差に基づいて、類似度を算出する。
なお、特定機能34bは、各X線画像データのSN比(信号対雑音比)が異なる場合、コントラストを補正してから、類似度を算出してもよい。例えば、特定機能34bは、角度補正したX線画像データの組のうちSN比が低い方のX線画像データについて、平滑化フィルタを用いた画像処理を実行する。これにより、特定機能34bは、SN比が低い方のX線画像データについて、他方のX線画像データと同程度までSN比を上昇させる。そして、特定機能34bは、同程度のSN比を有するX線画像データの組について、画像間の類似度を算出する。
ここで、類似度が閾値よりも高い場合、特定機能34bは、角度補正したX線画像データの組を学習用データとして特定する。なお、SN比が低い方のX線画像データについて画像処理を実行していた場合、特定機能34bは、画像処理を実行する前のX線画像データと他方のX線画像データとの組を、学習用データとして特定する。一方で、類似度が閾値よりも低い場合、特定機能34bは、角度補正したX線画像データの組を、学習用データとして特定しないと判定する。
また、特定機能34bは、学習用データの特定に先立って、X線画像データの各々を学習用データの特定に使用するか否か判定してもよい。即ち、特定機能34bは、取得機能34aにより取得されたX線画像データについて、学習用データの特定に使用するか否かを判定し、使用すると判定したX線画像データを用いて、学習用データを特定することとしてもよい。
例えば、特定機能34bは、取得機能34aにより取得されたX線画像データのうち、類似するX線画像データが複数ある場合、その一部のみを使用すると判定する。ここで、類似するX線画像データが複数ある場合とは、例えば、X線透視が実行された場合や、撮像対象領域及び撮像方向を変更することなく、条件を微調整しながらX線画像データの撮像が繰り返し行われた場合等である。なお、X線透視は、リアルタイムでの観察に用いられる撮像及び観察の方法であり、例えば、比較的低線量のX線を用いて時系列の複数のX線画像データの撮像を行ない、撮像と並行してディスプレイ109に表示する方法である。X線透視によって得られるX線画像を透視画像ともいう。
一例を挙げると、特定機能34bは、まず、取得機能34aにより取得されたX線画像データの各々について、撮像の条件及び被検体の条件が略一致し、かつ、撮像対象領域及び撮像方向が略一致する他のX線画像データ(類似するX線画像データ)があるか否かを判定する。そして、特定機能34bは、類似するX線画像データがないX線画像データについては、学習用データの特定に使用すると判定する。
一方で、特定機能34bは、撮像の条件及び被検体の条件が略一致し、かつ、撮像対象領域及び撮像方向が略一致する複数のX線画像データについては、その一部を学習用データの特定に使用すると判定する。即ち、特定機能34bは、類似する複数のX線画像データについては、その一部を学習用データの特定に使用すると判定する。例えば、特定機能34bは、類似する複数のX線画像データのうち、画質の良いX線画像データを学習用データの特定に使用すると判定する。一例を挙げると、特定機能34bは、複数のX線画像データの各々についてSN比を算出し、SN比が最も高いX線画像データを、学習用データの特定に使用すると判定する。
また、例えば、特定機能34bは、取得機能34aにより取得されたX線画像データのうち、時系列の複数のX線画像データについては、階調の安定性に関する条件及び残像に関する条件の少なくとも一方を満たすX線画像データを学習用データの特定に使用すると判定する。
例えば、特定機能34bは、時系列の複数のX線画像データのうち、連続するX線画像データの間で画素値の平均値の差を算出する。そして、特定機能34bは、算出した差が閾値よりも小さい場合は階調の安定性に関する条件を満たすと判定し、算出した差が閾値以上である場合は階調の安定性に関する条件を満たさないと判定する。なお、階調の安定性に関する条件を満たさない場合としては、例えば、X線管102がX線の発生を開始した後、X線強度が安定するまでの間にX線画像データが収集された場合等が該当する。
また、例えば、特定機能34bは、時系列の複数のX線画像データについて、リカーシブフィルタや加算平均処理等の画像処理を実行し、処理後のX線画像データと処理前のX線画像データとを差分することで残像成分を抽出する。そして、特定機能34bは、残像成分の抽出量が閾値よりも小さい場合は残像に関する条件を満たすと判定し、残像成分の抽出量が閾値以上である場合は残像に関する条件を満たさないと判定する。なお、残像に関する条件を満たさない場合としては、例えば、撮像時に被検体の体動があった場合等が該当する。
次に、学習用データセット生成機能34cは、特定機能34bにより特定された複数の学習用データを含む学習用データセットを生成する。例えば、学習用データセット生成機能34cは、特定機能34bにより特定された学習用データから、X線画像データの組の間で異なっている条件(撮像の条件及び被検体の条件)が共通する学習用データを抽出する。
一例を挙げると、学習用データセット生成機能34cは、特定機能34bにより特定された学習用データから、X線画像データの組の間で管電流値の条件が異なっている学習用データ(X線画像データI1とX線画像データI2との組から成る学習用データ等)を複数抽出する。即ち、学習用データセット生成機能34cは、ノイズの程度が異なるX線画像データの組から成る学習用データを複数抽出する。次に、学習用データセット生成機能34cは、抽出した複数の学習用データを含む学習用データセットを生成する。そして、学習用データセット生成機能34cは、生成した学習用データセットをメモリ33に格納する。なお、以下では、ノイズの程度が異なるX線画像データの組から成る複数の学習用データを含む学習用データセットを、学習用データセットD1とも記載する。
ここで、学習用データセット生成機能34cは、被検体の部位ごとに学習用データセットを生成することとしてもよい。例えば、学習用データセット生成機能34cは、まず、特定機能34bにより特定された学習用データから、ノイズの程度が異なるX線画像データの組から成る学習用データを複数抽出する。次に、学習用データセット生成機能34cは、抽出した学習用データから、被検体の部位ごとに学習用データを抽出する。
例えば、学習用データセット生成機能34cは、「腹部」のX線画像データの組から成る学習用データを抽出し、「腹部」についての学習用データセットD11を生成する。また、例えば、学習用データセット生成機能34cは、「肝臓」のX線画像データの組から成る学習用データを抽出し、「肝臓」についての学習用データセットD12を生成する。ここで、学習用データセット生成機能34cは、同一の学習用データを、「腹部」のX線画像データの組から成る学習用データとして抽出するとともに、「肝臓」のX線画像データの組から成る学習用データとして抽出しても構わない。そして、学習用データセット生成機能34cは、生成した学習用データセットD11及び学習用データセットD12をメモリ33に格納する。なお、学習用データセットD11及び学習用データセットD12は、学習用データセットD1の一例である。
次に、モデル生成機能34dは、図5に示すように、メモリ33から学習用データセットを読み出して、学習済みモデルを生成する。具体的には、モデル生成機能34dは、入力されるX線画像データを、撮像の条件及び被検体の条件のうち少なくとも一方が異なるX線画像データに相当するX線画像データに変換する処理に組み込まれる学習済みモデルを生成する。ここで、本実施形態における学習済みモデルは、例えば、多層のニューラルネットワークにより構成することができる。
本実施形態に係る多層のニューラルネットワークの典型的な構成について、以下説明する。ここで、多層のニューラルネットワークとは、層状に並べた隣接層間のみ結合した構造を持ち、情報が入力層側から出力層側に一方向に伝播するネットワークである。本実施形態に係る多層のニューラルネットワークは、図6に示す様に、入力層(l=1)、中間層(l=2,3,・・・,L−1)、出力層(l=L)のL個の層から構成されるものとする。なお、図6は、第1の実施形態に係る学習済みモデルの生成処理について説明するための図である。以下の説明は一例であり、多層のニューラルネットワークの構成は以下の説明に限定されない。
第l層でのユニット数をI個とし、第l層への入力u(l)を下記の式(1−1)、第l層からの出力z(l)を下記の式(l−2)の様にそれぞれ表記すると、第l層への入力と第l層からの出力との関係は、下記の式(1−3)によって表すことができる。
式(1−1)、式(1−2)及び式(1−3)において、右上の添字(l)は層の番号を示す。また、式(1−3)におけるf(u)は、活性化関数であり、ロジスティックシグモイド関数(ロジスティック関数)、双曲線正接関数、正規化線形関数(ReLU:Rectified Liner Unit)、線形写像、恒等写像、マックスアウト関数等、目的に応じて種々の関数を選択することができる。
第l+1層でのユニット数をJ個とし、第l層と第l+1層との間の重み付行列W(l+1)を下記の式(2−1)、第l+1層におけるバイアスb(l+1)を下記の式(2−2)の様にそれぞれ表記すると、第l+1層への入力u(l+1)、第l+1層からの出力z(l+1)は、それぞれ、下記の式(2−3)、式(2−4)によって表すことができる。
本実施形態に係る多層のニューラルネットワークにおいて、入力層(l=1)には、下記の式(3−1)で表現される信号が入力される。また、当該入力層においては、入力データxがそのまま出力データz(1)となるため、下記の式(3−2)の関係が成立する。
ここで、入力信号xについては、例えば、各成分xp(p=1,2,・・・,N)を、入力側の医用画像を構成する画素の画素値とする。
入力層に続く中間層(l=2,3,・・・,L−1)層においては、上記の式(2−3)、式(2−4)に従う計算を順次実行することで、各層の出力z(2),・・・z(L-1)を計算することができる。
出力層(第L層)の出力z(L)を以下の式(4−1)の様に表記する。本実施形態に係る多層のニューラルネットワークは、入力層に入力された画像データxが、入力層側から出力層側に向かって隣接層間でのみ結合しながら伝播する順伝播型ネットワークである。この様な順伝播型ネットワークは、以下の式(4−2)の様な合成関数として表現することができる。
式(4−2)によって定義される合成関数は、式(2−3)、式(2−4)より、重み付行列W(l+1)を用いた各層間の線形関係、各層における活性化関数f(u(l+1))を用いた非線形関係(又は線形関係)、バイアスb(l+1)の組み合わせとして定義される。特に、重み付行列W(l+1)、バイアスb(l+1)はネットワークのパラメータpと呼ばれる。式(4−2)によって定義される合成関数は、パラメータpをどのように選ぶかで、関数としての形を変える。従って、本実施形態に係る多層のニューラルネットワークは、式(4−2)を構成するパラメータpを適切に選ぶことで、出力層が好ましい結果yを出力することができる関数として、定義することができる。
パラメータpを適切に選ぶためには、学習用データセットと誤差関数を用いた学習を実行する。ここで、学習用データセットとは、入力xnに対する望ましい出力(正解出力)をdnとすると、下記の式(5−1)のように表現される学習用データ(xn,dn)の集合D(n=1,・・・,S)である。即ち、学習用データセットとは、下記の式(5−2)のように表現される学習用データの集合Dである。
また、誤差関数とは、xnを入力した多層のニューラルネットワークからの出力と学習用データdnとの近さを表す関数である。誤差関数の代表例としては、二乗誤差関数、最尤度推定関数、交差エントロピー関数等を挙げることができる。どのような関数を誤差関数に選択するかは、多層化ネットワークが取り扱う問題(例えば、回帰問題、二値問題、多クラス分類問題等)に依存する。
誤差関数をE(p)と表記し、一つの学習用データ(xn,dn)のみを使用して計算される誤差関数をEn(p)と表記する。現在のパラメータp(t)は、勾配降下法に従う場合には誤差関数E(p)の勾配ベクトルを用いた式(6−1)、確率的勾配降下法に従う場合には誤差関数En(p)の勾配ベクトルを用いた式(6−3)によって、新たなパラメータp(t+1)に更新される。
ここで、εはパラメータpの更新量の大きさを定める学習係数である。式(6−1)又は式(6−3)に従って、現在のpを負の勾配方向に少し動かし、これを逐次繰り返すことで、誤差関数E(p)を極小にするパラメータpを決定することができる。
なお、式(6−1)又は式(6−3)を計算するためには、式(6−2)で示されるE(p)の勾配ベクトル、又は式(6−4)で示されるE(p)の勾配ベクトルを計算する必要がある。誤差関数が二乗誤差関数である場合を例とすれば、下記の式(7−1)に示される誤差関数について、各層の重み係数と各ユニットのバイアスとで微分する必要がある。
一方、最終出力yが式(4−2)で表される合成関数であることから、E(p)又はEn(p)の勾配ベクトルの計算は複雑であり、その計算量も膨大なものとなる。
この様な勾配計算における不具合は、誤差逆伝播法によって解決することができる。例えば、第l−1層の第iユニットと第l層の第jユニットとを繋ぐ重みwji (l)についての誤差関数の微分は、以下の式(8−1)の様に表すことができる。
l層の第jユニットへの入力uj (l)がEnに与える変化量は、当該第jユニットからの出力zj (l)を通じて第l+1層の各ユニットkへの各入力uk (l+1)を変化させることのみを介して生じるものである。このことから、式(8−1)の右辺第1項は、微分の連鎖則を用いて、次の式(9−1)の様に表すことができる。
ここで、式(9−1)の左辺をδj (l)とおくと、下記の式(10−1)、式(10−2)の関係を使って、式(9−1)は式(10−3)の様に書き直すことができる。
式(10−3)より、左辺のδj (l)は、δk (l+1)(k=1,2,・・・・)から計算できることがわかる。すなわち、一つ上位の出力層側に存在する第l+1層の第kユニットに関するδk (l+1)が与えられれば、第l層についてのδj (l)を計算することができる。さらに、第l+1層の第kユニットに関するδk (l+1)についても、その一つ上位の出力層側に存在する第l+2層の第kユニットに関するδk (l+2)が与えられれば、計算することができる。このことを逐次繰り返して最上位層である出力層まで辿ることができる。
最初に第L層である出力層の第kユニットに関するδk (L)が取得されていれば、式(10−3)を用いて下位側(すなわち入力層側)に向かって逐次計算を繰り返すことにより(逆伝播)、任意層におけるδk (l+1)を計算することができる。
一方、式(8−1)の右辺第2項については、式(2−3)を第l層について成分で表現した式(11−1)を用いて、式(11−2)の様に計算することができる。
従って、第l−1層の第iユニットと第l層の第jユニットとを繋ぐ重みwji (l)についての誤差関数の微分は、式(8−1)、式(10−3)によるδj (l)、式(11−2)を用いて、以下の式(12−1)の様に表現することができる。
式(12−1)から、第l−1層の第iユニットと第l層の第jユニットとを繋ぐ重みwji (l)についての誤差関数の微分は、第jユニットに関するδj (l)と、第iユニットからの出力であるzi (l-1)との積で与えらえることがわかる。なお、δj (l)についての計算は、上述した様に、式(10−3)を用いて逆伝播により求めることができ、また、逆伝播の最初の値、すなわち、第L層である出力層に関するδj (L)は、以下の式(13−1)の様に計算することができる。
以上の手順により、本実施形態に係る多層化ネットワークについて、ある学習サンプル(xn,dn)を用いた学習を実現することができる。なお、複数の学習サンプルに対する誤差の総和E=Σnnに関する勾配ベクトルについては、上述した手順を学習サンプル(xn,dn)毎に並列的に繰り返し、以下の式(14−1)に示す和を計算することで、取得することができる。
例えば、モデル生成機能34dは、まず、メモリ33から学習用データセットD1を読み出す。次に、モデル生成機能34dは、学習用データセットD1に基づいて、ノイズの多いX線画像データ(X線画像データI1等)から、ノイズの少ないX線画像データ(X線画像データI2等)を復元するように、モデルを学習させる。例えば、モデル生成機能34dは、ノイズの多いX線画像データを入力側データ、ノイズの少ないX線画像データを出力側データとしてモデルのパラメータを調整することにより、ノイズを除去する関数を近似した学習済みモデルを生成する。生成する学習済みモデルがニューラルネットワークによる学習済みモデルである場合、調整するパラメータは、例えば、重みとバイアスとのうち少なくとも一方である。なお、以下では、学習用データセットD1に基づいて生成された学習済みモデルを、学習済みモデルM1とも記載する。そして、モデル生成機能34dは、生成した学習済みモデルM1をメモリ33に格納する。
なお、モデル生成機能34dは、学習用データを入力側データとして用いてもよいし、学習用データに基づくデータを入力側データとして用いてもよい。例えば、モデル生成機能34dは、図7に示すように、ノイズの多いX線画像データ(X線画像データI1等)に対する前処理(例えば、空間フィルタやコンボリューションフィルタを用いた画像処理等)を実行し、前処理後の画像データを入力側データとする。なお、図7は、第1の実施形態に係る学習済みモデルの生成処理について説明するための図である。
また、モデル生成機能34dは、学習用データを出力側データとして用いてもよいし、学習用データに基づくデータを出力側データとして用いてもよい。例えば、図7に示すように、モデル生成機能34dは、ノイズの少ないX線画像データ(X線画像データI2等)に対する後処理の実行前の画像データを、出力側データとする。例えば、モデル生成機能34dは、出力側データに対する後処理後の画像データとノイズの少ないX線画像データとが近似するようにモデルのパラメータを調整して、ノイズを除去する関数を近似した学習済みモデルM1を生成する。この場合、学習済みモデルM1は、ノイズの多いX線画像データをノイズの少ないX線画像データに変換する処理に対して、他の処理(前処理、後処理等)と共に組み込まれて使用される。即ち、モデル生成機能34dは、X線画像データの変換処理に他の処理と共に組み込まれる学習済みモデルM1を生成することができる。
また、モデル生成機能34dによって生成される学習済みモデルにおけるニューラルネットワークの出力は、画像データの画素値そのものでなくても良い。例えば、モデル生成機能34dは、ニューラルネットワークの出力を、各種画像処理フィルタのパラメータ(強度等)の組み合わせとしてもよい。
この場合において、モデル生成機能34dは、画像処理フィルタのパラメータの組み合わせごとに、X線画像データの組のうちのノイズの多いX線画像データ(X線画像データI1等)に対するフィルタ処理を実行する。また、モデル生成機能34dは、図8に示すように、ノイズの多いX線画像データに対するフィルタ処理後の画像データと、ノイズの少ないX線画像データ(X線画像データI2等)との類似度をパラメータの組み合わせごとに算出し、類似度が高くなるパラメータの組み合わせ(k1, k2・・・, kM)を特定する。そして、モデル生成機能34dは、図8に示すように、ノイズの多いX線画像データを入力側のデータとし、特定したパラメータの組み合わせを出力側のデータとして、ニューラルネットワークを学習させる。なお、図8は、第1の実施形態に係る学習済みモデルの生成処理について説明するための図である。
これにより、ノイズの多いX線画像データを入力画像として、ノイズの少ないX線画像データに変換するための画像処理フィルタのパラメータの組み合わせ(k1, k2・・・, kM)を出力するニューラルネットワークを得ることができる。従って、図9のように、当該ニューラルネットワークにより得られるフィルタのパラメータの組み合わせ(k1, k2・・・, kM)でノイズの多いX線画像データに対してフィルタ処理を行うようにすることにより、ノイズの多いX線画像データをノイズの少ないX線画像データに変換する学習済みモデルM1を構成することができる。なお、図9は、第1の実施形態に係る学習済みモデルの生成処理について説明するための図である。
なお、画像処理フィルタの種類としては、例えば、移動平均(平滑化)フィルタ、ガウシアンフィルタ、メディアンフィルタ、リカーシブフィルタ、バンドパスフィルタ等が挙げられる。また、画像処理フィルタのパラメータとしては、例えば、各フィルタの強度、移動平均(平滑化)フィルタ、ガウシアンフィルタ及びメディアンフィルタの縦方向及び横方向のサイズ、リカーシブフィルタにおいて使用するフレーム数及び各フレームに対する重み、バンドパスフィルタにおける周波数の設定等が挙げられる。
また、多層のニューラルネットワーク以外の機械学習手法による学習済みモデルを生成してもよい。例えば、SVM(サポートベクターマシン)等のデータの分類を行う機械学習手法によって、入力された医用画像データに対して適切な画像処理フィルタを選択する学習済みモデルを生成してもよい。具体的な手法としては、例えば、分類先のクラスを画像処理フィルタの種類とし、入力された医用画像データの特徴量をモデルの入力データとし、そして、学習用データの入力側データに対する出力結果と学習用データの出力側データとの類似度が高くなるフィルタを選択するように、モデルの学習を行えばよい。
また、モデル生成機能34dが学習済みモデルを生成する処理を実行する時間については、検査情報に基づいて設定されることとしてもよい。例えば、モデル生成機能34dは、検査情報に基づいて、X線診断装置100によるX線画像データの収集が行われない時間(深夜等)を取得し、取得した時間を、学習済みモデルを生成する時間として設定する。このように設定された時間において、X線診断装置100のプロセッサ(処理回路111等)は使用されないことが多く、モデル生成機能34dは、X線診断装置100のプロセッサを計算資源として利用することができる。特に、X線診断装置100はGPUを有している場合も多いため、モデル生成機能34dは、設定された時間において、学習済みモデルを生成する処理を高速で実現することができる。
モデル生成機能34dが学習済みモデルを生成した後、新たにX線画像データが収集された場合、取得機能34aは、新たに収集されたX線画像データを取得する。例えば、図10に示すように、X線診断装置100によって新たにX線画像データI3が収集された場合、取得機能34aは、新たに収集されたX線画像データI3を取得する。なお、図10は、第1の実施形態に係る変換処理について説明するための図である。
そして、変換機能34eは、学習済みモデルに基づいて、X線画像データI3に対する変換処理を実行する。具体的には、変換機能34eは、学習済みモデルに基づいて、入力されるX線画像データI3を、X線画像データI3と撮像の条件及び被検体の条件のうち少なくとも一方が異なるX線画像データに相当するX線画像データに変換する変換処理を実行する。
一例を挙げると、変換機能34eは、まず、メモリ33から学習済みモデルM1を読み出す。次に、変換機能34eは、X線画像データI3を学習済みモデルM1に入力し、X線画像データI3よりもノイズが少ないX線画像データに相当するX線画像データI3’に変換する変換処理を実行する。換言すると、変換機能34eは、X線画像データI3を、X線画像データI3よりも大きい管電流値(高線量)で撮像されたX線画像データに相当するX線画像データI3’に変換して、X線画像データI3のノイズを除去する。
そして、出力機能34fは、変換処理後のX線画像データI3’ を出力する。例えば、出力機能34fは、X線画像データI3’に基づいて表示用のX線画像を生成し、生成したX線画像をディスプレイ32に表示させる。これにより、出力機能34fは、医用情報処理装置30の操作者に、ノイズが低減されたX線画像を提供することができる。また、例えば、出力機能34fは、X線画像データI3’ を、医用情報処理装置30とネットワークNWを介して接続された外部装置に出力する。この場合、外部装置は、X線画像データI3’に基づく表示用のX線画像を、外部装置が有するディスプレイに表示させることができる。即ち、出力機能34fは、外部装置の操作者に、ノイズが低減されたX線画像を提供することができる。
ここで、特定機能34bは、新たに取得されたX線画像データの組、又は、新たに取得されたX線画像データとメモリ33に記憶されたX線画像データとの組であって、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致するものを、学習用データとして新たに特定することができる。また、新たに学習用データが特定された場合、学習用データセット生成機能34cは、新たに特定された学習用データを含む学習用データセットを新たに生成し、モデル生成機能34dは、新たに生成された学習用データセットに基づいて学習済みモデルを新たに生成する。
なお、制御機能34gは、変換機能34eが変換処理を実行するか否かを切り替える入力操作を受け付けることとしてもよい。例えば、制御機能34gは、入力インターフェース31を介して操作者からの入力操作を受け付けることにより、変換機能34eが変換処理を実行するモードと、変換機能34eが変換処理を実行しないモードとを切り替える。
例えば、変換機能34eが変換処理を実行しないモードにおいてX線診断装置100がX線画像データの収集を行なった場合、取得機能34aは、収集されたX線画像データを取得し、特定機能34bは、学習用データを特定する。一方で、変換機能34eが変換処理を実行するモードにおいてX線診断装置100がX線画像データの収集を行なった場合、取得機能34aは、新たに収集されたX線画像データを取得してメモリ33に記憶させ、変換機能34eは、メモリ33から読み出したX線画像データに対する変換処理を実行する。その後、特定機能34bは、変換機能34eが変換処理を実行しないモードに切り替えられた際、メモリ33からX線画像データを読み出して学習用データを特定する。
これまで、学習用データの例として、ノイズの程度が異なるX線画像データの組から成る学習用データについて説明した。しかしながら、実施形態はこれに限定されるものではない。
一例を挙げると、特定機能34bは、解像度が異なるX線画像データの組から成る学習用データを特定する。具体的には、特定機能34bは、取得機能34aが取得したX線画像データのうち、撮像方向が略一致するX線画像データの組であって、解像度が異なるものを特定する。例えば、特定機能34bは、取得機能34aが取得したX線画像データのうち、同一検査内で収集されたX線画像データの組を特定する。次に、特定機能34bは、同一検査内で収集されたX線画像データの組のうち、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致するX線画像データの組を特定する。そして、特定機能34bは、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致するX線画像データの組であって、解像度が異なるものを特定する。
ここで、解像度が異なるX線画像データの組とは、例えば、検出素子の数(密度)が異なるX線検出器107を用いて撮像されたことにより、画素数(ピクセル数)が異なっているX線画像データの組である。また、例えば、解像度が異なるX線画像データの組とは、少なくとも一方のX線画像データを撮像する際に、検出信号の束ね処理が行われたことにより、画素数が異なっているX線画像データの組である。
なお、特定機能34bは、解像度が異なるX線画像データの組について学習用データとして特定するか否かを判定してもよい。例えば、特定機能34bは、撮像方向が略一致し、かつ、撮像方向が同一でなく、かつ、解像度が異なるX線画像データの組についてX線画像データ間の角度補正を行なった場合に、角度補正したX線画像データの組を学習用データとして特定するか否かを判定する。例えば、特定機能34bは、まず、角度補正したX線画像データの組について、画像間の比較を行なう。
例えば、特定機能34bは、角度補正したX線画像データの組について、各X線画像データから特徴点を抽出し、画像間で特徴点の位置が一致するか否かを判定する。一例を挙げると、特定機能34bは、パターン認識等の画像処理によりX線画像データから複数の特徴点を抽出するとともに、仮想患者画像データに基づいて、抽出した複数の特徴点それぞれの識別コードを特定する。そして、特定機能34bは、識別コードごとに、各X線画像データから抽出した特徴点の位置が一致するか否かを判定する。ここで、特徴点の位置が一致する場合、特定機能34bは、角度補正したX線画像データの組を学習用データとして特定する。一方で、特徴点の位置が一致しない場合、特定機能34bは、角度補正したX線画像データの組を、学習用データとして特定しないと判定する。
別の例を挙げると、特定機能34bは、角度補正したX線画像データの組について、各X線画像データから特徴領域を抽出し、画像間で特徴領域が一致するか否かを判定する。例えば、特定機能34bは、各X線画像データにおいて骨や臓器等を特徴領域として抽出し、抽出した領域の輪郭線を抽出する。ここで、輪郭線が画像間で一致する場合、特定機能34bは、角度補正したX線画像データの組を学習用データとして特定する。一方で、輪郭線が一致しない場合、特定機能34bは、角度補正したX線画像データの組を、学習用データとして特定しないと判定する。
別の例を挙げると、特定機能34bは、角度補正したX線画像データの組について、画像間の類似度を算出する。例えば、特定機能34bは、画素ごとに画像間での画素値の差を算出し、算出した差をそれぞれ二乗した後に合算する。そして、特定機能34bは、算出した合算値に基づいて、類似度を算出する。また、例えば、特定機能34bは、各X線画像データをハッシュ関数に入力してハッシュ値を算出し、画像間でのハッシュ値の差に基づいて、類似度を算出する。
なお、特定機能34bは、X線画像データの解像度を補正してから、類似度を算出してもよい。例えば、特定機能34bは、角度補正したX線画像データの組において解像度が高い方のX線画像データについて、画素の束ね処理を実行する。これにより、特定機能34bは、解像度が高い方のX線画像データについて、他方のX線画像データと同程度まで解像度を低下させる。そして、特定機能34bは、同程度の解像度を有するX線画像データの組について、画像間の類似度を算出する。
また、特定機能34bは、各X線画像データのSN比が異なる場合、コントラストを補正してから、類似度を算出してもよい。例えば、特定機能34bは、角度補正したX線画像データの組のうちSN比が低い方のX線画像データについて、平滑化フィルタを用いた画像処理を実行する。これにより、特定機能34bは、SN比が低い方のX線画像データについて、他方のX線画像データと同程度までSN比を上昇させる。そして、特定機能34bは、同程度のSN比を有するX線画像データの組について、画像間の類似度を算出する。
ここで、類似度が閾値よりも高い場合、特定機能34bは、角度補正したX線画像データの組を学習用データとして特定する。なお、解像度が高い方のX線画像データについて画素の束ね処理を実行していた場合、特定機能34bは、画素の束ね処理を実行する前のX線画像データと他方のX線画像データとの組を学習用データとして特定する。また、SN比が低い方のX線画像データについて画像処理を実行していた場合、特定機能34bは、画像処理を実行する前のX線画像データと他方のX線画像データとの組を学習用データとして特定する。一方で、類似度が閾値よりも低い場合、特定機能34bは、角度補正したX線画像データの組を、学習用データとして特定しないと判定する。
次に、学習用データセット生成機能34cは、特定機能34bにより特定された学習用データから、解像度が異なるX線画像データの組から成る学習用データを抽出し、抽出した複数の学習用データを含む学習用データセットを生成する。なお、以下では、解像度が異なるX線画像データの組から成る複数の学習用データを含む学習用データセットを、学習用データセットD2とも記載する。
次に、モデル生成機能34dは、学習用データセットD2に基づいて、入力されるX線画像データを、より解像度が高いX線画像データに相当するX線画像データに変換する処理に組み込まれる学習済みモデルを生成する。なお、以下では、学習用データセットD2に基づいて生成された学習済みモデルを、学習済みモデルM2とも記載する。
モデル生成機能34dが学習済みモデルM2を生成した後、新たにX線画像データI4が収集された場合、取得機能34aは、X線画像データI4を取得する。そして、変換機能34eは、学習済みモデルM2に基づいて、X線画像データI4に対する変換処理を実行する。具体的には、変換機能34eは、学習済みモデルM2に基づいて、入力されるX線画像データI4を、より解像度が高いX線画像データに相当するX線画像データI4’に変換する変換処理を実行する。例えば、変換機能34eは、新たに収集されたX線画像データI4を、より高精細なX線検出器107を用いて撮像されたX線画像データに相当するX線画像データI4’に変換して、高解像度化する。
そして、出力機能34fは、変換処理後のX線画像データI4’ を出力する。例えば、出力機能34fは、X線画像データI4’に基づいて表示用のX線画像を生成し、生成したX線画像をディスプレイ32に表示させる。これにより、出力機能34fは、医用情報処理装置30の操作者に、高解像度のX線画像を提供することができる。また、例えば、出力機能34fは、X線画像データI4’を、医用情報処理装置30とネットワークNWを介して接続された外部装置に出力する。この場合、外部装置は、X線画像データI4’に基づく表示用のX線画像を、外部装置が有するディスプレイに表示させることができる。即ち、出力機能34fは、外部装置の操作者に、高解像度のX線画像を提供することができる。
別の例を挙げると、特定機能34bは、コントラスト画像とマスク像との組から成る学習用データを特定する。具体的には、特定機能34bは、取得機能34aが取得したX線画像データのうち、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致するX線画像データの組であって、コントラスト画像とマスク像との組を特定する。
ここで、コントラスト画像は、例えば、被検体P1の血管内に造影剤が注入された状態で撮像されたX線画像データである。コントラスト画像においては、血管内に注入された造影剤と、背景成分(被検体P1の骨や軟組織等)とが描出される。即ち、コントラスト画像には血管と背景成分とが描出される。また、マスク像は、例えば、被検体P1の血管内に造影剤が注入されていない状態で撮像されたX線画像データ(非造影画像)と、コントラスト画像との差分画像である。即ち、マスク像は、コントラスト画像から背景成分を除去した血管像である。
次に、学習用データセット生成機能34cは、特定機能34bにより特定された学習用データから、コントラスト画像とマスク像との組から成る学習用データを抽出し、抽出した複数の学習用データを含む学習用データセットを生成する。なお、以下では、コントラスト画像とマスク像との組から成る複数の学習用データを含む学習用データセットを、学習用データセットD3とも記載する。
次に、モデル生成機能34dは、学習用データセットD3に基づいて、入力されるX線画像データを、背景成分を除去したX線画像データに相当するX線画像データに変換する処理に組み込まれる学習済みモデルを生成する。即ち、モデル生成機能34dは、学習用データセットD3に基づいて、入力されるコントラスト画像を、マスク像に相当するX線画像データに変換する処理に組み込まれる学習済みモデルを生成する。なお、以下では、学習用データセットD3に基づいて生成された学習済みモデルを、学習済みモデルM3とも記載する。
モデル生成機能34dが学習済みモデルM3を生成した後、血管内に造影剤が注入された状態の被検体P1からX線画像データI5(コントラスト画像)が収集された場合、取得機能34aは、X線画像データI5を取得する。そして、変換機能34eは、学習済みモデルM3に基づいて、X線画像データI5に対する変換処理を実行する。具体的には、変換機能34eは、学習済みモデルM3に基づいて、コントラスト画像であるX線画像データI5を、マスク像に相当するX線画像データI5’に変換する変換処理を実行する。即ち、変換機能34eは、X線画像データI5における背景成分を除去し、血管像を生成する。
そして、出力機能34fは、変換処理後のX線画像データI5’ を出力する。例えば、出力機能34fは、X線画像データI5’に基づいて表示用のX線画像を生成し、生成したX線画像をディスプレイ32に表示させる。また、例えば、出力機能34fは、X線画像データI5’ を、医用情報処理装置30とネットワークNWを介して接続された外部装置に出力する。この場合、外部装置は、X線画像データI5’に基づく表示用のX線画像を、外部装置が有するディスプレイに表示させることができる。
次に、医用情報処理装置30による処理の手順の一例を、図11を用いて説明する。図11は、第1の実施形態に係る医用情報処理装置30の処理の一連の流れを説明するためのフローチャートである。ステップS101及びステップS108は、取得機能34aに対応するステップである。ステップS102及びステップS103は、特定機能34bに対応するステップである。ステップS104及びステップS105は、学習用データセット生成機能34cに対応するステップである。ステップS106及びステップS107は、モデル生成機能34dに対応するステップである。ステップS109及びステップS110は、変換機能34eに対応するステップである。ステップS111は、出力機能34fに対応するステップである。
まず、処理回路34は、X線診断装置100又は画像保管装置20から、X線画像データを取得する(ステップS101)。次に、処理回路34は、取得したX線画像データについて、学習用データの特定に使用するか否かを判定し(ステップS102)、使用すると判定したX線画像データから学習用データを特定する(ステップS103)。次に、処理回路34は、特定した複数の学習用データを含む学習用データセットを生成し(ステップS104)、生成した学習用データセットをメモリ33に格納する(ステップS105)。
ここで、処理回路34は、検査情報に基づいて設定された時間であるか否かを判定する(ステップS106)。設定された時間である場合(ステップS106肯定)、処理回路34は、学習用データセットに基づいて学習済みモデルを生成する(ステップS107)。一方で、設定された時間でない場合(ステップS106否定)、又は、ステップS107の後、処理回路34は、新たにX線画像データを取得したか否かを判定する(ステップS108)。
新たにX線画像データを取得した場合(ステップS108肯定)、処理回路34は、変換処理を実行するか否かを判定する(ステップS109)。ここで、変換処理を実行すると判定した場合(ステップS109肯定)、処理回路34は、ステップS108において新たに取得したX線画像データに対して変換処理を実行し(ステップS110)、変換処理後のX線画像データを出力する(ステップS111)。なお、処理回路34は、ステップS110において、最後に生成された学習済みモデルに基づいて変換処理を実行する。
変換処理を実行しないと判定した場合(ステップS109否定)、又は、ステップS111の後、処理回路34は、再度ステップS102に移行する。また、新たにX線画像データを取得しない場合(ステップS108否定)、処理回路34は、処理を終了する。
上述したように、第1の実施形態によれば、取得機能34aは、X線画像データを取得する。また、特定機能34bは、取得機能34aにより取得されるX線画像データのうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致するX線画像データの組から成る学習用データを特定する。従って、第1の実施形態に係る医用情報処理装置30は、学習用データ不足を解消することができる。
また、上述したように、学習用データセット生成機能34cは、特定機能34bが特定した複数の学習用データを含む学習用データセットを生成する。また、モデル生成機能34dは、入力されるX線画像データを、撮像の条件及び被検体の条件のうち少なくとも一方が異なるX線画像データに相当するX線画像データに変換する処理に組み込まれる学習済みモデルを生成する。
例えば、モデル生成機能34dは、学習用データセットD1に基づいて、入力されるX線画像データを、よりノイズが少ないX線画像データに相当するX線画像データに変換する処理に組み込まれる学習済みモデルM1を生成する。従って、第1の実施形態に係る医用情報処理装置30は、X線画像データにおけるノイズを低減することができる。これにより、医用情報処理装置30は、撮像に使用されるX線を低線量化して、X線管102の寿命を延長するとともに、被検体の被ばく線量を低減することもできる。
また、例えば、モデル生成機能34dは、学習用データセットD2に基づいて、入力されるX線画像データを、より解像度が高いX線画像データに相当するX線画像データに変換する処理に組み込まれる学習済みモデルM2を生成する。従って、第1の実施形態に係る医用情報処理装置30は、X線画像データの解像度を向上させることができる。これにより、医用情報処理装置30は、撮像に使用されるX線を低線量化して、X線管102の寿命を延長するとともに、被検体の被ばく線量を低減することもできる。
また、例えば、モデル生成機能34dは、学習用データセットD3に基づいて、入力されるコントラスト画像を、マスク像に相当するX線画像データに変換する処理に組み込まれる学習済みモデルM3を生成する。従って、第1の実施形態に係る医用情報処理装置30は、非造影画像を用いずともコントラスト画像の背景成分を除去し、血管像を生成することができる。ひいては、医用情報処理装置30は、非造影画像の撮像を省略し、被検体P1の被爆量を低減することができる。
また、上述したように、第1の実施形態に係る医用情報処理装置30は、新たにX線画像データが撮像される度に学習用データを自動的に特定する。従って、医用情報処理装置30は、撮像が行われるほど多くの学習用データを蓄積し、学習用データ不足を解消することができる。ひいては、医用情報処理装置30は、次第に蓄積される学習用データから学習用データセットを生成し、生成した学習用データセットに基づいて学習済みモデルを生成することで、変換処理の精度を次第に向上させることができる。
また、上述したように、第1の実施形態に係る特定機能34bは、取得機能34aにより取得されるX線画像データについて、学習用データの特定に使用するか否かを判定し、使用すると判定したX線画像データから学習用データを特定する。従って、第1の実施形態に係る医用情報処理装置30は、学習用データの質を向上させることができる。
例えば、特定機能34bは、取得機能34aにより取得されるX線画像データのうち、撮像の条件及び被検体の条件が略一致し、かつ、撮像対象領域及び撮像方向が略一致する複数のX線画像データについては、その一部を学習用データの特定に使用すると判定する。これにより、特定機能34bは、略同一の学習用データが大量に登録されるといった事態を防止し、データの偏りを防ぐことができる。
また、例えば、特定機能34bは、取得機能34aにより取得されるX線画像データのうち、時系列の複数のX線画像データについては、階調の安定性に関する条件及び残像に関する条件の少なくとも一方を満たすX線画像データを学習用データの特定に使用すると判定する。これにより、特定機能34bは、階調が不安定なX線画像データや、残像の多いX線画像データから成る学習用データが登録される事態を防止し、学習用データの質を向上させることができる。
また、上述したように、第1の実施形態に係る制御機能34gは、変換機能34eが変換処理を実行するか否かを切り替える入力操作を受け付ける。これにより、医用情報処理装置30は、変換機能34eによる変換処理と、特定機能34bによる学習用データの特定処理とを異なるタイミングで実行し、処理負荷を時間的に分散させることができる。ひいては、医用情報処理装置30は、各処理について十分な計算資源を担保し、各処理を高速化することができる。
なお、図1においては、医用情報処理装置30の処理回路34にて、取得機能34a、特定機能34b、学習用データセット生成機能34c、モデル生成機能34d、変換機能34e、出力機能34f及び制御機能34gが実現するものとして説明したが、複数のプロセッサを組み合わせて処理回路34を構成し、各プロセッサが各プログラムを実行することにより各処理機能を実現するものとしても構わない。また、処理回路34は、異なる装置のプロセッサを組み合わせて構成されることとしてもよい。
例えば、医用情報処理システム1は、複数の医用情報処理装置30を備え、医用情報処理装置30のそれぞれが有するプロセッサを組み合わせることにより、処理回路34を構成することとしてもよい。一例を挙げると、医用情報処理システム1は、取得機能34a及び特定機能34bを実現するプロセッサを有する医用情報処理装置30(第1の医用情報処理装置)と、学習用データセット生成機能34c及びモデル生成機能34dを実現するプロセッサを有する医用情報処理装置30(第2の医用情報処理装置)とを備える。また、例えば、医用情報処理装置30が有するプロセッサ(処理回路34等)と、医用画像診断装置10のプロセッサ(処理回路111等)とを組み合わせることにより、処理回路34を構成することとしてもよい。
一例を挙げると、第1の医用情報処理装置の処理回路は、取得機能34aと、特定機能34bと、送信機能34h(図示せず)とを有する。また、第2の医用情報処理装置の処理回路は、学習用データセット生成機能34cと、モデル生成機能34dと、受信機能34i(図示せず)とを有する。なお、送信機能34hは、送信部の一例である。また、受信機能34iは、受信部の一例である。この場合、第1の医用情報処理装置における送信機能34hは、第2の医用情報処理装置に対して、特定機能34bにより特定された学習用データを送信する。また、第2の医用情報処理装置における受信機能34iは、第1の医用情報処理装置により送信された学習用データを受信する。また、学習用データセット生成機能34cは、受信機能34iが受信した学習用データを含む学習用データセットを生成する。そして、モデル生成機能34dは、学習用データセット生成機能34cが生成した学習用データセットに基づいて、学習済みモデルを生成する。
例えば、第2の医用情報処理装置におけるモデル生成機能34dは、受信機能34iが受信した学習用データの数が閾値を超えた時に、学習済みモデルを生成する。或いは、モデル生成機能34dは、検査情報に基づいてX線診断装置100によるX線画像データの収集が行われない時間を取得し、取得した時間において、X線診断装置100が有するGPU等を利用して、学習済みモデルを生成する。或いは、モデル生成機能34dは、学習用データセット生成機能34cが学習用データセットを生成し次第、学習済みモデルを生成する。
また、上述した実施形態では、学習用データの例として、X線画像データの組から成る学習用データについて説明した。しかしながら、実施形態はこれに限定されるものではない。例えば、特定機能34bは、X線画像データの組と、他のデータとから成る学習用データを特定してもよい。ここで、他のデータの例としては、例えば、特定機能34bが学習用データを特定した日時の情報が挙げられる。即ち、特定機能34bは、少なくともX線画像データを組として含む学習用データを特定する。
同様に、学習用データセット生成機能34cは、複数の学習用データと、他のデータとを含む学習用データセットを生成してもよい。ここで、他のデータの例としては、例えば、学習用データセット生成機能34cが学習用データセットを生成した日時の情報が挙げられる。即ち、学習用データセット生成機能34cは、少なくとも複数の学習用データを含む学習用データセットを生成する。
(第2の実施形態)
上述した第1の実施形態では、処理回路34が、取得機能34a、特定機能34b、学習用データセット生成機能34c、モデル生成機能34d、変換機能34e、出力機能34f及び制御機能34gを有する場合について説明した。これに対し、第2の実施形態では、処理回路111が、取得機能34a、特定機能34b、学習用データセット生成機能34c、モデル生成機能34d、変換機能34e、出力機能34f及び制御機能34gに相当する機能を有する場合について説明する。
第2の実施形態に係るX線診断装置100は、図2に示した第1の実施形態に係るX線診断装置100と同様の構成を有し、処理回路111が、取得機能111d、特定機能111e、学習用データセット生成機能111f、モデル生成機能111g及び変換機能111hを更に有する点で相異する。そこで、第1の実施形態において説明した構成と同様の構成を有する点については、図2と同一の符号を付し、説明を省略する。
以下、図12を用いて、第2の実施形態に係るX線診断装置100について説明する。図12は、第2の実施形態に係るX線診断装置100の構成の一例を示すブロック図である。図12に示すように、X線診断装置100は、X線高電圧装置101と、X線管102と、コリメータ103と、フィルタ104と、天板105と、Cアーム106と、X線検出器107と、メモリ108と、ディスプレイ109と、入力インターフェース110と、処理回路111とを備える。
また、処理回路111は、収集機能111a、出力機能111b、制御機能111cを実行することで、X線診断装置100全体の動作を制御する。更に、処理回路111は、取得機能34aに対応する取得機能111dを実行する。また、処理回路111は、特定機能34bに対応する特定機能111eを実行する。また、処理回路111は、学習用データセット生成機能34cに対応する学習用データセット生成機能111fを実行する。また、処理回路111は、モデル生成機能34dに対応するモデル生成機能111gを実行する。また、処理回路111は、変換機能34eに対応する変換機能111hを実行する。
以上、第2の実施形態に係るX線診断装置100の構成の一例について説明した。かかる構成の下、X線診断装置100は、X線画像データに関する学習用データ不足を解消する。
具体的には、収集機能111aは、まず、X線画像データを収集する。例えば、収集機能111aは、X線高電圧装置101を制御することで、X線管102から被検体P1に対してX線を照射させる。この際、X線検出器107は、被検体P1を透過したX線を検出して検出信号を出力する。そして、収集機能111aは、X線検出器107から受信した検出信号に基づいてX線画像データを生成し、生成したX線画像データをメモリ108に格納する。ここで、出力機能111bは、X線画像データを画像保管装置20に出力し、記憶させることとしてもよい。
次に、取得機能111dは、収集機能111aにより収集されたX線画像データを取得する。なお、取得機能111dは、メモリ108に記憶されたX線画像データを取得してもよいし、収集機能111aにより収集されたX線画像データをメモリ108を介すことなく取得してもよい。また、取得機能111dは、画像保管装置20に記憶されたX線画像データを取得する場合であってもよい。
次に、特定機能111eは、取得機能111dにより取得されるX線画像データのうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致するX線画像データを組として含む学習用データを特定する。例えば、特定機能111eは、取得機能111dにより取得されるX線画像データのうち、同一検査内で収集されたX線画像データの組を特定する。次に、特定機能111eは、同一検査内で収集されたX線画像データの組のうち、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致するX線画像データの組を特定する。そして、特定機能111eは、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致するX線画像データの組であって、撮像の条件及び被検体の条件のうち少なくとも一方が異なるものを特定する。次に、学習用データセット生成機能111fは、特定機能111eにより特定された複数の学習用データを含む学習用データセットを生成する。
次に、モデル生成機能111gは、学習用データセットに基づいて、入力されるX線画像データを、撮像の条件及び被検体の条件のうち少なくとも一方が異なるX線画像データに相当するX線画像データに変換する処理に組み込まれる学習済みモデルを生成する。例えば、モデル生成機能111gは、検査情報に基づいて、収集機能111aがX線画像データの収集を行わない時間を取得し、取得した時間を、学習済みモデルを生成する時間として設定する。そして、モデル生成機能111gは、設定された時間に学習済みモデルを生成する。
モデル生成機能111gが学習済みモデルを生成した後、収集機能111aが新たにX線画像データを収集した場合、取得機能111dは、新たに収集されたX線画像データを取得する。ここで、変換機能111hは、学習済みモデルに基づいて、新たに収集されたX線画像データに対する変換処理を実行する。そして、出力機能111bは、変換処理後のX線画像データを出力する。例えば、出力機能111bは、変換処理後のX線画像データに基づいて表示用のX線画像を生成し、生成したX線画像をディスプレイ109に表示させる。また、例えば、出力機能111bは、変換処理後のX線画像データを、X線診断装置100とネットワークNWを介して接続された外部装置に出力する。
上述したように、第2の実施形態によれば、X線検出器107は、X線を検出して検出信号を出力する。また、収集機能111aは、検出信号に基づくX線画像データを収集する。また、取得機能111dは、収集機能111aにより収集されるX線画像データを取得する。また、特定機能111eは、取得機能111dにより取得されるX線画像データのうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致するX線画像データを組として含む学習用データを特定する。従って、第2の実施形態に係るX線診断装置100は、学習用データ不足を解消することができる。
なお、X線診断装置100における取得機能111dは、収集機能111aにより収集されるX線画像データのみならず、X線診断装置100以外のX線診断装置により収集されたX線画像データを取得してもよい。この場合、X線診断装置100は、より多くの学習用データを特定して、学習用データ不足を解消することができる。
(第3の実施形態)
上述した第1〜第2の実施形態では、医用画像診断装置10の例として、X線診断装置100について説明した。これに対し、第3の実施形態では、医用画像診断装置10の例として、X線診断装置100以外の放射線診断装置について説明する。
第3の実施形態に係る医用情報処理システム1は、図1に示した第1の実施形態に係る医用情報処理システム1と同様の構成を有し、X線診断装置100に代えて、又は、X線診断装置100に加えて、X線CT装置やSPECT装置を有する点で相異する。また、第3の実施形態に係る医用情報処理装置30は、図1に示した第1の実施形態に係る医用情報処理装置30と同様の構成を有し、出力機能34fによる処理の一部が相違する。そこで、第1の実施形態において説明した構成と同様の構成を有する点については、図1と同一の符号を付し、説明を省略する。
例えば、医用情報処理システム1がX線CT装置を備える場合、X線CT装置は、架台装置と、寝台装置と、コンソール装置とを有する。寝台装置は、被検体が載置される天板を含む。天板は、コンソール装置による制御の下、移動したり、傾斜したりする。架台装置は、X線管とX線検出器とを支持する回転フレームを含む。なお、架台装置は、傾斜可能に構成されてもよい。この場合、架台装置と天板との相対的な角度の変更は、天板の傾斜によって行われてもよいし、架台装置の傾斜によって行われてもよいし、これらの複合によって行われてもよい。また、架台装置は、移動可能に構成されてもよい。この場合、架台装置と天板との位置関係の相対的な変更は、天板の移動によって行われてもよいし、架台装置の走行によって行われてもよいし、これらの複合によって行われてもよい。なお、上記のX線管やX線検出器、回転フレーム、天板等は、X線CT装置の撮像部に含まれる。
例えば、X線CT装置は、被検体を挟んで対向した状態でX線管とX線検出器とを支持する回転フレームを回転させながら、被検体に対してX線管からX線を照射させる。この際、X線検出器は、被検体を透過したX線を検出して、検出信号をデータ収集回路に対して出力する。なお、X線CT装置が備えるX線検出器は、検出器の一例である。
データ収集回路は、検出器から入力された検出信号に対して、増幅処理及びA/D変換処理を実行することで検出データを生成するDAS(Data Acquisition System)である。更に、データ収集回路は、生成した検出データをX線CT装置の処理回路に出力する。処理回路は、検出データに対して対数変換処理やオフセット補正処理、チャネル間の感度補正処理、ビームハードニング補正等の前処理を施したデータを生成する。
ここで、取得機能34aは、医用画像データとして、X線CT装置により生成された前処理前のデータ(検出データ)、又は、前処理後のデータを取得する。以下、前処理前のデータ(検出データ)および前処理後のデータを総称して投影データとも記載する。更に、特定機能34bは、取得機能34aにより取得される投影データのうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致する投影データを組として含む学習用データを特定する。
例えば、特定機能34bは、まず、取得機能34aにより取得された投影データのうち、同一検査内で収集された投影データの組を特定する。次に、特定機能34bは、同一検査内で収集された投影データの組のうち、撮像方向が略一致する投影データの組を特定する。例えば、特定機能34bは、撮像部の全部または一部の配置に基づいて、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致する投影データの組を特定する。
一例を挙げると、X線CT装置のコンソール装置は、各投影データの付帯情報に、撮像時におけるX線管の位置(管球位置)や、架台装置に対する天板の位置を記憶させる。この場合、特定機能34bは、付帯情報に基づいて各投影データの管球位置を比較することにより、同一検査内で収集された投影データの組の間で、撮像方向が略一致しているか否かを判定することができる。また、特定機能34bは、付帯情報に基づいて、各投影データが撮像された時点での天板位置を比較することにより、撮像方向が略一致していると判定した投影データの組の間で、撮像対象領域の少なくとも一部が重複しているか否かを判定することができる。即ち、特定機能34bは、管球位置や天板位置等、撮像部の配置に基づいて、投影データの組の特定を行なう。そして、特定機能34bは、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致する投影データの組のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なるX線画像データを組として含む学習用データを特定する。
次に、学習用データセット生成機能34cは、特定機能34bにより特定された複数の学習用データを含む学習用データセットを生成する。例えば、学習用データセット生成機能34cは、特定機能34bにより特定された学習用データから、管電流値の条件が異なっている学習用データ(ノイズの程度が異なる投影データを組として含む学習用データ)を複数抽出し、抽出した複数の学習用データを含む学習用データセットを生成する。なお、以下では、ノイズの程度が異なる投影データを組として含む複数の学習用データを含む学習用データセットを、学習用データセットD4とも記載する。次に、モデル生成機能34dは、学習用データセットD4に基づいて、入力される投影データを、よりノイズが少ない投影データに相当する投影データに変換する処理に組み込まれる学習済みモデルM4を生成する。
モデル生成機能34dが学習済みモデルを生成した後、X線CT装置によって新たに投影データが収集された場合、取得機能34aは、新たに収集された投影データを取得する。そして、変換機能34eは、学習済みモデルに基づいて、新たに収集された投影データに対する変換処理を実行する。例えば、変換機能34eは、学習済みモデルM4に基づいて、新たに収集された投影データを、よりノイズが少ない投影データに相当する投影データに変換する変換処理を実行する。
次に、出力機能34fは、変換処理後の投影データを出力する。例えば、出力機能34fは、変換処理後の投影データを、X線CT装置の処理回路に出力する。また、X線CT装置の処理回路は、変換処理後の投影データに対して、フィルタ補正逆投影法や逐次近似再構成法等を用いた再構成処理を行なうことにより、CT画像データ(ボリュームデータ)を生成する。また、例えば、X線CT装置の処理回路は、変換処理後の投影データから複数の断層画像データを生成し、複数の断層画像データを公知の方法により変換することで、CT画像データを生成する。更に、X線CT装置の処理回路は、生成したCT画像データに基づいて、ボリュームレンダリング画像等の表示画像を生成し、生成した表示画像を表示させる。
また、例えば、医用情報処理システム1がSPECT装置を備える場合、SPECT装置は、被検体に投与され、被検体の生体組織に選択的に取り込まれた放射性医薬品(トレーサ)の核種(RI:Radio Isotope)から放射される放射線(ガンマ線)をガンマカメラにより検出し、検出信号を出力する。なお、ガンマカメラは、検出器の一例である。
具体的には、ガンマカメラは、放射性医薬品から放出されたガンマ線の強度分布を2次元的に検出し、検出した強度分布を示すデータに対して、増幅処理やA/D変換処理を施すことで検出信号を生成する。例えば、ガンマカメラは、シンチレータと、光電子増倍管(PMT:Photomultiplier Tube)とを有するフォトンカウンティング方式の放射線検出器である。シンチレータは、ガンマ線を紫外領域にピークを持つ光に変換する。PMTは、シンチレータからの発光を電気信号に変換し、その電流値を増倍させる。なお、ガンマカメラには、入射方向を制限するコリメータが取り付けられている。ガンマカメラは、コリメータにより制限された入射方向で入射したガンマ線を検出する。 そして、ガンマカメラは、生成した検出信号をデータ収集回路に送信する。データ収集回路は、ガンマカメラから入力された検出信号を収集し、収集した検出信号それぞれに対して、オフセット補正、感度補正等の補正処理を行なって投影データを生成する。
ここで、取得機能34aは、医用画像データとして、SPECT装置により生成された投影データを取得する。更に、特定機能34bは、取得機能34aにより取得される投影データのうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致する投影データを組として含む学習用データを特定する。
例えば、特定機能34bは、まず、取得機能34aにより取得された投影データのうち、同一検査内で収集された投影データの組を特定する。次に、特定機能34bは、同一検査内で収集された投影データの組のうち、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致する投影データの組を特定する。例えば、特定機能34bは、SPECT装置の撮像部の一部または全部の配置に基づいて、投影データの組の特定を行なう。なお、SPECT装置の撮像部には、例えば、ガンマカメラや、ガンマカメラに取り付けられたコリメータ、被検体を載置する天板等が含まれる。例えば、特定機能34bは、撮像方向を、各投影データが撮像された時のガンマカメラの位置と、コリメータが制限する入射方向とに基づいて取得することができる。
そして、特定機能34bは、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致する投影データの組のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なる投影データを組として含む学習用データを特定する。
ここで、SPECT装置が収集する投影データについて撮像の条件とは、例えば、ガンマ線の検出に関する条件等である。なお、ガンマ線の検出に関する条件の例としては、ガンマカメラが備えるPMTの数や、ガンマカメラに取り付けられたコリメータのスリット間隔等が挙げられる。SPECT装置が収集する投影データについて被検体の条件とは、例えば、ガンマ線の放射に関する条件等である。なお、ガンマ線の放射に関する条件の例としては、例えば、被検体に注入される放射性医薬品の種類や量等が挙げられる。
次に、学習用データセット生成機能34cは、特定機能34bにより特定された複数の学習用データを含む学習用データセットを生成する。例えば、学習用データセット生成機能34cは、特定機能34bにより特定された学習用データから、被検体に注入された放射性医薬品の量が異なっている学習用データ(ノイズの程度が異なる投影データを組として含む学習用データ)を複数抽出し、抽出した複数の学習用データを含む学習用データセットを生成する。なお、以下では、ノイズの程度が異なる投影データを組として含む複数の学習用データを含む学習用データセットを、学習用データセットD5とも記載する。次に、モデル生成機能34dは、学習用データセットD5に基づいて、入力される投影データを、よりノイズが少ない投影データに相当する投影データに変換する処理に組み込まれる学習済みモデルM5を生成する。
モデル生成機能34dが学習済みモデルを生成した後、SPECT装置によって新たに投影データが収集された場合、取得機能34aは、新たに収集された投影データを取得する。そして、変換機能34eは、学習済みモデルに基づいて、新たに収集された投影データに対する変換処理を実行する。例えば、変換機能34eは、学習済みモデルM5に基づいて、新たに収集された投影データを、よりノイズが少ない投影データに相当する投影データに変換する変換処理を実行する。
次に、出力機能34fは、変換処理後の投影データを出力する。例えば、出力機能34fは、変換処理後の投影データを、SPECT装置の処理回路に出力する。また、SPECT装置の処理回路は、変換処理後の投影データに対して、フィルタ補正逆投影法や逐次近似再構成法等を用いた再構成処理を行なうことにより、被検体内の放射性医薬品の分布を示すSPECT画像データを生成する。更に、SPECT装置の処理回路は、生成したSPECT画像データに対する種々の画像処理を行なって表示画像を生成し、生成した表示画像を表示させる。
上述したように、第3の実施形態によれば、取得機能34aは、投影データを取得する。また、特定機能34bは、取得機能34aにより取得される投影データのうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致する投影データを組として含む学習用データを特定する。従って、第3の実施形態に係る医用情報処理装置30は、投影データに関する学習用データ不足を解消することができる。
また、上述したように、学習用データセット生成機能34cは、特定機能34bが特定した複数の学習用データを含む学習用データセットを生成する。また、モデル生成機能34dは、入力される投影データを、撮像の条件及び被検体の条件のうち少なくとも一方が異なる投影データに相当する投影データに変換する処理に組み込まれる学習済みモデルを生成する。
例えば、モデル生成機能34dは、学習用データセットD4に基づいて、X線CT装置により収集された投影データを、よりノイズが少ない投影データに相当する投影データに変換する処理に組み込まれる学習済みモデルM4を生成する。従って、第3の実施形態に係る医用情報処理装置30は、投影データにおけるノイズを低減することができる。ひいては、医用情報処理装置30は、CTスキャンにおいて使用するX線を低線量化して、X線管102の寿命を延長するとともに、被検体の被ばく線量を低減することができる。
また、例えば、モデル生成機能34dは、学習用データセットD5に基づいて、SPECT装置により収集された投影データを、よりノイズが少ない投影データに相当する投影データに変換する処理に組み込まれる学習済みモデルM5を生成する。従って、第3の実施形態に係る医用情報処理装置30は、投影データにおけるノイズを低減することができる。ひいては、医用情報処理装置30は、SPECTスキャンにおいて使用するガンマ線を低線量化して、放射性医薬品に起因する被検体の被ばく線量を低減することができる。
なお、処理回路34は、単一のプロセッサにより構成してもよいし、複数のプロセッサを組み合わせて構成してもよい。また、処理回路34は、異なる装置のプロセッサを組み合わせて構成されることとしてもよい。例えば、医用情報処理システム1は、複数の医用情報処理装置30を備え、医用情報処理装置30のそれぞれが有するプロセッサを組み合わせることにより、処理回路34を構成することとしてもよい。また、例えば、医用情報処理装置30が有するプロセッサと、X線CT装置が有するプロセッサや、SPECT装置が有するプロセッサとを組み合わせることにより、処理回路34を構成することとしてもよい。あるいは、X線CT装置又はSPECT装置の処理回路が、取得機能34a、特定機能34b、学習用データセット生成機能34c、モデル生成機能34d、変換機能34e、出力機能34f及び制御機能34gに相当する機能を有する場合であってもよい。
(第4の実施形態)
上述した第1〜第3の実施形態では、医用画像診断装置10の例として、X線診断装置100やX線CT装置、SPECT装置等の放射線診断装置について説明した。これに対し、第4の実施形態では、医用画像診断装置10の例として、超音波診断装置について説明する。
第4の実施形態に係る医用情報処理システム1は、図1に示した第1の実施形態に係る医用情報処理システム1と同様の構成を有し、放射線診断装置に代えて、又は、放射線診断装置に加えて、超音波診断装置を有する点で相異する。そこで、第1の実施形態において説明した構成と同様の構成を有する点については、図1と同一の符号を付し、説明を省略する。
本実施形態では、処理回路34が取得機能34a、特定機能34b、学習用データセット生成機能34c、モデル生成機能34d及び変換機能34eを有していてもよいし、超音波診断装置の処理回路が、取得機能34a、特定機能34b、学習用データセット生成機能34c、モデル生成機能34d及び変換機能34eに相当する機能を有する場合であってもよい。以下では一例として、図13に示すように、超音波診断装置200の処理回路224が、取得機能34a、特定機能34b、学習用データセット生成機能34c、モデル生成機能34d及び変換機能34eに相当する取得機能224d、特定機能224e、学習用データセット生成機能224f、モデル生成機能224g及び変換機能224hを有する場合について説明する。なお、図13は、第4の実施形態に係る超音波診断装置200の構成の一例を示すブロック図である。
図13に示すように、超音波診断装置200は、超音波プローブ210と、装置本体220と、ディスプレイ230と、入力インターフェース240とを備える。超音波プローブ210、ディスプレイ230及び入力インターフェース240は、それぞれ装置本体220に接続される。
超音波プローブ210は、被検体P2の体表面に接触され、超音波の送受信(超音波走査)を行なう。例えば、超音波プローブ210は、複数の圧電振動子を有する。これら複数の圧電振動子は、送信回路221から供給される駆動信号に基づいて、超音波を発生させる。発生した超音波は、被検体内の音響インピーダンスの不整合面で反射され、反射波信号として複数の圧電振動子にて受信される。超音波プローブ210は、複数の圧電振動子にて受信した反射波信号を、送信回路221へ送る。なお、超音波プローブ210は、超音波診断装置200の撮像部の一例である。
ディスプレイ230は、各種の情報を表示する。例えば、ディスプレイ230は、処理回路224による制御の下、操作者の指示を受け付けるためのGUIや、各種の超音波画像を表示する。例えば、ディスプレイ230は、液晶ディスプレイやCRTディスプレイである。なお、ディスプレイ230はデスクトップ型でもよいし、処理回路224と無線通信可能なタブレット端末等で構成されることにしても構わない。
入力インターフェース240は、操作者からの各種の入力操作を受け付け、受け付けた入力操作を電気信号に変換して処理回路224に出力する。例えば、入力インターフェース240は、マウスやキーボード、トラックボール、スイッチ、ボタン、ジョイスティック、操作面へ触れることで入力操作を行なうタッチパッド、表示画面とタッチパッドとが一体化されたタッチスクリーン、光学センサを用いた非接触入力回路、音声入力回路等により実現される。なお、入力インターフェース240は、処理回路224と無線通信可能なタブレット端末等で構成されることにしても構わない。また、入力インターフェース240は、マウスやキーボード等の物理的な操作部品を備えるものだけに限られない。例えば、超音波診断装置200とは別体に設けられた外部の入力機器から入力操作に対応する電気信号を受け取り、この電気信号を処理回路224へ出力する電気信号の処理回路も入力インターフェース240の例に含まれる。
装置本体220は、超音波プローブ210が受信した反射波信号に基づいて、超音波画像データを生成する装置である。図13に示すように、装置本体220は、例えば、送信回路221と、受信回路222と、メモリ223と、処理回路224とを有する。
送信回路221は、超音波プローブ210による超音波の送信を制御する。例えば、送信回路221は、処理回路224による制御の下、振動子ごとに所定の送信遅延時間が付与されたタイミングで超音波プローブ210に駆動信号(駆動パルス)を印加する。これにより、送信回路221は、超音波がビーム状に集束された超音波ビームを送信させる。
受信回路222は、送信超音波が体内組織で反射された反射波信号の受信を制御する。例えば、受信回路222は、処理回路224による制御の下、超音波プローブ210が受信した反射波信号に所定の遅延時間を与えて加算処理を行なう。これにより、反射波信号の受信指向性に応じた方向からの反射成分が強調される。そして、受信回路222は、加算処理後の反射波信号をベースバンド帯域の同相信号(I信号、I:In-phase)と直交信号(Q信号、Q:Quadrature-phase)とに変換する。そして、受信回路222は、I信号及びQ信号(以下、IQ信号と記載する)を反射波データとして、処理回路224へ送る。なお、受信回路222は、加算処理後の反射波信号を、RF(Radio Frequency)信号に変換した上で、処理回路224へ送ってもよい。IQ信号や、RF信号は、位相情報が含まれる信号(反射波データ)となる。
メモリ223は、例えば、RAM、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等により実現される。例えば、メモリ223は、処理回路224によって収集された超音波画像データを受け付けて記憶する。また、メモリ223は、処理回路224によって読み出されて実行される各種機能に対応するプログラムを記憶する。なお、メモリ223は、超音波診断装置200とネットワークNWを介して接続されたサーバ群(クラウド)により実現されることとしてもよい。
処理回路224は、収集機能224a、出力機能224b、制御機能224cを実行することで、超音波診断装置200全体の動作を制御する。
例えば、処理回路224は、メモリ223から収集機能224aに相当するプログラムを読み出して実行することにより、超音波画像データを収集する。例えば、収集機能224aは、受信回路222が反射波信号から生成した反射波データに対して対数増幅、包絡線検波処理等を行なって、複数のサンプル点(観測点)それぞれの信号強度が輝度の明るさで表現されるデータ(Bモードデータ)を生成する。
なお、超音波プローブ210の収集モードについては、様々な収集モードを選択可能である。例えば、超音波プローブ210は、被検体P2に対する位置を固定して収集を行う2Dモードによりデータ収集を行い、2次元データを得る。この場合、収集機能224aは、収集されたデータに基づいて、2次元の超音波画像データを生成することができる。
また、例えば、超音波プローブ210は、被検体P2に対する位置情報を位置センサにより検出しつつ、移動しながらデータ収集を行う3Dモードによりデータ収集を行い、3次元データを得る。この場合、収集機能224aは、収集されたデータに対して、位置センサにより検出された位置情報を用いた位置補正を実行して、3次元の超音波画像データを生成することができる。なお、超音波プローブ210が位置センサを有しない場合、収集機能224aは、フレーム(超音波走査面)間隔が一定、またはフレーム間の角度が一定であるという前提を用いることにより、3次元の超音波画像データを生成することができる。
また、例えば、超音波プローブ210は、機械的に搖動しながらデータ収集を行うメカ4Dモードによりデータ収集を行い、3次元データを得る。また、例えば、超音波プローブ210は、2次元アレープローブを用いて電子的に3次元走査する2次元アレー3Dモードによりデータ収集を行い、3次元データを得る。この場合、収集機能224aは、収集されたデータに基づいて、3次元の超音波画像データを生成することができる。
また、例えば、処理回路224は、メモリ223から出力機能224bに相当するプログラムを読み出して実行することにより、超音波画像データを、表示用のデータ形式に変換(スキャンコンバート)することで超音波画像を生成し、生成した超音波画像をディスプレイ230に表示させる。また、例えば、処理回路224は、制御機能224cに対応するプログラムをメモリ223から読み出して実行することにより、入力インターフェース240を介して操作者から受け付けた入力操作に基づいて、処理回路224の各種機能を制御する。
更に、処理回路224は、取得機能34aに対応する取得機能224dを実行する。また、処理回路224は、特定機能34bに対応する特定機能224eを実行する。また、処理回路224は、学習用データセット生成機能34cに対応する学習用データセット生成機能224fを実行する。また、処理回路224は、モデル生成機能34dに対応するモデル生成機能224gを実行する。また、処理回路224は、変換機能34eに対応する変換機能224hを実行する。
以上、第4の実施形態に係る超音波診断装置200の構成の一例について説明した。かかる構成の下、超音波診断装置200は、超音波画像データに関する学習用データ不足を解消する。
具体的には、収集機能224aは、まず、2次元又は3次元の超音波画像データを収集する。例えば、収集機能224aは、送信回路221及び受信回路222を制御し、超音波プローブ210により被検体P2を走査することで、反射波データを収集する。更に、収集機能224aは、反射波データに基づいて、Bモードデータ等の超音波画像データを収集し、収集した超音波画像データをメモリ223に格納する。この際、収集機能224aは、収集した超音波画像データの付帯情報に、撮像対象領域や撮像方向、患者ID、検査種別、検査日時等を記録する。ここで、出力機能224bは、超音波画像データを画像保管装置20に出力し、記憶させることとしてもよい。なお、2次元又は3次元の超音波画像データは、医用画像データの一例である。
例えば、収集機能224aは、各超音波画像データの撮像時における超音波プローブ210の配置を取得する。例えば、超音波プローブ210がセンサを備える場合、収集機能224aは、センサからの出力に基づいて超音波プローブ210の配置を取得する。一例を挙げると、収集機能224aは、被検体P2の体軸方向(T方向)、被検体P2の左右方向(S方向)、及び、被検体P2の前後方向(C方向)を基準としてTSC座標系を定義し、TSC座標系における位置センサ(磁気センサ等)の位置を、超音波プローブ210の位置として取得する。また、超音波プローブ210が複数の位置センサを備える場合、収集機能224aは、TSC座標系における位置センサ間の位置関係に基づいて超音波プローブ210の配向を取得する。或いは、超音波プローブ210がジャイロセンサを備える場合、収集機能224aは、ジャイロセンサの出力に基づいてTSC座標系における超音波プローブ210の配向を取得する。
別の例を挙げると、超音波プローブ210がアームにより支持される場合、収集機能224aは、アームに関する情報から超音波プローブ210の配置を取得する。例えば、超音波プローブ210がロボットアームにより支持される場合、収集機能224aは、ロボットアームを駆動させることにより、被検体P2に対する超音波プローブ210の配置を変更する。この場合、収集機能224aは、ロボットアームの駆動情報に基づいて、TSC座標系における超音波プローブ210の配置を取得する。
別の例を挙げると、超音波診断装置200以外の医用画像診断装置10(以下、他の装置)により超音波プローブ210が撮像される場合、収集機能224aは、他の装置により撮像された医用画像データに描出された超音波プローブ210の像に基づいて、超音波プローブ210の配置を取得する。
ここで、一例として、他の装置がX線診断装置であり、超音波プローブ210が食道心エコー図検査(TEE:Trans-Esophageal Echocardiograms)プローブである場合を例として説明する。この場合、X線診断装置は、まず、超音波プローブ210が挿入された状態の被検体P2からX線画像データを収集する。次に、X線診断装置は、X線画像データに描出された超音波プローブ210の像に基づいて、X線画像データにおける超音波プローブ210の配置を取得する。例えば、X線診断装置は、超音波プローブ210を示す3DモデルをX線画像データに対してマッチングすることで、X線画像データにおける超音波プローブ210の位置及び配向を取得する。また、X線診断装置は、X線診断装置の撮像部(X線管、コリメータ、天板、Cアーム、X線検出器等)の配置に基づいて、被検体P2を基準とした座標系(TSC座標系等)に対するX線画像データの撮像方向及び撮像対象領域を特定する。これにより、X線診断装置は、被検体P2を基準とした座標系とX線画像データとを位置合わせして、被検体P2を基準とした座標系に対する超音波プローブ210の配置を取得する。そして、収集機能224aは、X線診断装置から、超音波画像データの撮像時における超音波プローブ210の配置を取得する。
更に、収集機能224aは、超音波プローブ210の配置に基づいて各超音波画像データの撮像方向及び撮像対象領域を特定し、超音波画像データの付帯情報に記録する。例えば、収集機能224aは、臨床角や、撮像方向を示す単位ベクトルを撮像方向として特定し、超音波画像データの付帯情報に記録する。また、例えば、収集機能224aは、撮像対象部位や、TSC座標系において特定した3次元領域を、撮像対象領域として超音波画像データの付帯情報に記録する。
次に、取得機能224dは、収集機能224aにより収集された超音波画像データを取得する。なお、取得機能224dは、メモリ223に記憶された超音波画像データを取得してもよいし、収集機能224aにより収集された超音波画像データをメモリ223を介すことなく取得してもよい。また、取得機能224dは、画像保管装置20に記憶された超音波画像データを取得する場合であってもよい。
次に、特定機能224eは、取得機能224dにより取得される超音波画像データのうち、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致する超音波画像データの組を特定する。例えば、特定機能224eは、まず、超音波画像データの付帯情報から患者ID、検査種別、検査日時等を取得して比較することにより、同一検査内で収集された超音波画像データの組を特定する。
次に、特定機能224eは、超音波画像データの付帯情報から撮像方向を取得し、同一検査内で収集された超音波画像データの組の間で、撮像方向が略一致しているか否かを判定する。例えば、各超音波画像データの撮像方向として臨床角が特定されていた場合、特定機能224eは、各超音波画像データの付帯情報から取得した臨床角を相互に比較し、臨床角が一致している場合、撮像方向が略一致していると判定する。別の例を挙げると、各超音波画像データの撮像方向として撮像方向を示す単位ベクトルが特定されていた場合、特定機能224eは、各超音波画像データの付帯情報から取得した単位ベクトルについて内積を算出し、内積が閾値以上である場合に、撮像方向が略一致していると判定する。
上述したように、収集機能224aは、超音波プローブ210(撮像部)の配置に基づいて撮像方向を取得し、超音波画像データの付帯情報に記録する。そして、特定機能224eは、超音波画像データの付帯情報から取得した撮像方向に基づいて、撮像方向が略一致する超音波画像データの組の特定を行なう。即ち、特定機能224eは、撮像部の配置に基づいて、撮像方向が略一致する超音波画像データの組の特定を行なう。
また、例えば、特定機能224eは、撮像方向が略一致していると判定した超音波画像データの組の間で、撮像対象領域の少なくとも一部が重複しているか否かを判定する。一例を挙げると、各超音波画像データについて、収集機能224aは、TSC座標系において特定した3次元領域を、撮像対象領域として超音波画像データの付帯情報に記録する。この場合、特定機能224eは、各超音波画像データの付帯情報から取得した3次元領域を相互に比較し、3次元領域の少なくとも一部が重複している場合、撮像対象領域の少なくとも一部が重複していると判定する。
上述したように、収集機能224aは、超音波プローブ210(撮像部)の配置に基づいて撮像対象領域を取得し、超音波画像データの付帯情報に撮像対象領域を記録する。そして、特定機能224eは、超音波画像データの付帯情報から取得した撮像対象領域に基づいて、撮像対象領域の少なくとも一部が重複する超音波画像データの組の特定を行なう。即ち、特定機能224eは、撮像部の配置に基づいて、撮像対象領域の少なくとも一部が重複する超音波画像データの組の特定を行なう。
次に、特定機能224eは、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致する超音波画像データの組のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なる超音波画像データの組を、学習用データとして特定する。ここで、超音波画像データについて撮像の条件とは、例えば、走査に用いる超音波の周波数や走査線の密度等である。
次に、学習用データセット生成機能224fは、特定機能224eにより特定された複数の学習用データを含む学習用データセットを生成する。一例を挙げると、学習用データセット生成機能224fは、特定機能224eにより特定された学習用データから、超音波画像データの組の間で超音波の周波数が異なっている学習用データを複数抽出する。ここで、走査に用いる超音波の周波数が大きいほど、走査可能な深度は浅くなる一方、空間分解能は向上するため、超音波画像データの解像度は高くなる。即ち、学習用データセット生成機能224fは、解像度が異なる超音波画像データを組として含む学習用データを複数抽出する。
別の例を挙げると、学習用データセット生成機能224fは、特定機能224eにより特定された学習用データから、超音波画像データの組の間で走査線の密度が異なっている学習用データを複数抽出する。ここで、走査に用いる超音波の周波数が大きいほど、収集可能なフレームレートは低下する一方、空間分解能は向上するため、超音波画像データの解像度は高くなる。即ち、学習用データセット生成機能224fは、解像度が異なる超音波画像データを組として含む学習用データを複数抽出する。
次に、学習用データセット生成機能224fは、抽出した複数の学習用データを含む学習用データセットを生成する。そして、学習用データセット生成機能224fは、生成した学習用データセットをメモリ223に格納する。なお、以下では、解像度が異なる超音波画像データを組として含む複数の学習用データを含む学習用データセットを、学習用データセットD6とも記載する。
次に、モデル生成機能224gは、学習用データセットに基づいて、入力される超音波画像データを、撮像の条件及び被検体の条件のうち少なくとも一方が異なる超音波画像データに相当する超音波画像データに変換する処理に組み込まれる学習済みモデルを生成する。例えば、モデル生成機能224gは、学習用データセットD6に基づいて、入力される超音波画像データを、より解像度が高い超音波画像データに相当する超音波画像データに変換する処理に組み込まれる学習済みモデルM6を生成する。そして、モデル生成機能224gは、生成した学習済みモデルM6をメモリ223に格納する。
モデル生成機能224gが学習済みモデルを生成した後、収集機能224aが新たに超音波画像データを収集した場合、取得機能224dは、新たに収集された超音波画像データを取得する。ここで、変換機能224hは、学習済みモデルに基づいて、新たに収集された超音波画像データに対する変換処理を実行する。例えば、変換機能224hは、学習済みモデルM6に基づいて、新たに収集された超音波画像データを、より解像度が高い超音波画像データに相当する超音波画像データに変換する変換処理を実行する。
そして、出力機能224bは、変換処理後の超音波画像データを出力する。例えば、出力機能224bは、変換処理後の超音波画像データに基づいて表示用の超音波画像を生成し、生成した超音波画像をディスプレイ230に表示させる。また、例えば、出力機能224bは、変換処理後の超音波画像データを、超音波診断装置200とネットワークNWを介して接続された外部装置に出力する。
上述したように、第4の実施形態によれば、収集機能224aは、超音波を送受信する超音波プローブ210により被検体を走査することで、超音波画像データを収集する。また、取得機能224dは、収集機能224aにより収集される超音波画像データを取得する。また、特定機能224eは、取得機能224dにより取得される超音波画像データのうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致する超音波画像データを組として含む学習用データを特定する。従って、第4の実施形態に係る超音波診断装置200は、学習用データ不足を解消することができる。
なお、超音波診断装置200における取得機能224dは、収集機能224aにより収集される超音波画像データのみならず、超音波診断装置200以外の超音波診断装置により収集された超音波画像データを取得してもよい。この場合、超音波診断装置200は、より多くの学習用データを特定して、学習用データ不足を解消することができる。
また、上述したように、学習用データセット生成機能224fは、特定機能224eが特定した複数の学習用データを含む学習用データセットを生成する。また、モデル生成機能224gは、入力される超音波画像データを、撮像の条件及び被検体の条件のうち少なくとも一方が異なる超音波画像データに相当する超音波画像データに変換する処理に組み込まれる学習済みモデルを生成する。例えば、モデル生成機能224gは、学習用データセットD6に基づいて、入力される超音波画像データを、より解像度が高い超音波画像データに相当する超音波画像データに変換する処理に組み込まれる学習済みモデルM6を生成する。従って、第4の実施形態に係る超音波診断装置200は、超音波画像データの解像度を向上させることができる。
上述した実施形態に係る各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。即ち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的又は物理的に分散・統合して構成することができる。更に、各装置にて行われる各処理機能は、その全部又は任意の一部が、CPU及び当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現されうる。
また、上述した実施形態で説明した学習用データの生産方法は、予め用意されたプログラムをパーソナルコンピュータやワークステーション等のコンピュータで実行することによって実現することができる。このプログラムは、インターネット等のネットワークを介して配布することができる。また、このプログラムは、ハードディスク、フレキシブルディスク(FD)、CD−ROM、MO、DVD等のコンピュータで読み取り可能な非一過性の記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行することもできる。
以上説明した少なくとも1つの実施形態によれば、医用画像に関する学習用データ不足を解消することができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行なうことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1 医用情報処理システム
30 医用情報処理装置
34 処理回路
34a 取得機能
34b 特定機能
34c 学習用データセット生成機能
34d モデル生成機能
34e 変換機能
34f 出力機能
34g 制御機能

Claims (24)

  1. 医用画像を取得する取得部と、
    前記取得部により取得される医用画像のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致する医用画像を組として含む学習用データを特定する特定部と、
    を備える、医用情報処理システム。
  2. 前記特定部は、前記医用画像の撮像に用いられた医用画像診断装置の撮像部の一部又は全部の配置に基づいて、医用画像の組の特定を行なう、請求項1に記載の医用情報処理システム。
  3. 前記特定部は、前記取得部により取得される医用画像のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致する医用画像を組として含む前記学習用データを特定する、請求項1又は2に記載の医用情報処理システム。
  4. 前記特定部により特定された複数の前記学習用データを含む学習用データセットを生成する学習用データセット生成部を更に備える、請求項1乃至3のいずれか一項に記載の医用情報処理システム。
  5. 前記学習用データセット生成部は、被検体の部位ごとに前記学習用データセットを生成する、請求項4に記載の医用情報処理システム。
  6. 前記学習用データセットに基づいて、入力される医用画像を当該医用画像と撮像の条件及び被検体の条件のうち少なくとも一方が異なる医用画像に相当する医用画像に変換する処理に組み込まれる学習済みモデルを生成するモデル生成部を更に備える、請求項4又は5に記載の医用情報処理システム。
  7. 前記特定部は、ノイズの程度が異なる医用画像を組として含む前記学習用データを特定し、
    前記モデル生成部は、前記学習用データセットに基づいて、入力される医用画像を当該医用画像よりもノイズが少ない医用画像に相当する医用画像に変換する処理に組み込まれる学習済みモデルを生成する、請求項6に記載の医用情報処理システム。
  8. 前記特定部は、解像度が異なる医用画像を組として含む前記学習用データを特定し、
    前記モデル生成部は、前記学習用データセットに基づいて、入力される医用画像を当該医用画像よりも解像度が高い医用画像に相当する医用画像に変換する処理に組み込まれる学習済みモデルを生成する、請求項6に記載の医用情報処理システム。
  9. 前記特定部は、コントラスト画像とマスク像とを組として含む前記学習用データを特定し、
    前記モデル生成部は、前記学習用データセットに基づいて、入力される医用画像を当該医用画像から背景成分を除去した医用画像に相当する医用画像に変換する処理に組み込まれる学習済みモデルを生成する、請求項6に記載の医用情報処理システム。
  10. 前記モデル生成部は、検査情報に基づいて設定された時間に前記学習済みモデルを生成する、請求項6乃至9のいずれか一項に記載の医用情報処理システム。
  11. 前記学習済みモデルに基づいて、入力される医用画像を当該医用画像と撮像の条件及び被検体の条件のうち少なくとも一方が異なる医用画像に相当する医用画像に変換する変換処理を実行する変換部と、
    前記変換部が前記変換処理を実行するか否かを切り替える入力操作を受け付ける制御部とを更に備える、請求項6乃至10のいずれか一項に記載の医用情報処理システム。
  12. 前記特定部は、前記取得部により取得される医用画像のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致する医用画像の組のうちの一部を特定される前記学習用データとする、請求項1乃至10のいずれか一項に記載の医用情報処理システム。
  13. 前記特定部は、前記取得部により取得される医用画像について前記学習用データの特定に使用するか否かを判定し、使用すると判定した医用画像を用いて、前記学習用データを特定する、請求項1乃至10のいずれか一項に記載の医用情報処理システム。
  14. 前記特定部は、前記取得部により取得される医用画像のうち類似する複数の医用画像については、当該複数の医用画像の一部を前記学習用データの特定に使用すると判定する、請求項13に記載の医用情報処理システム。
  15. 前記特定部は、前記取得部により取得される医用画像のうち、時系列の複数の医用画像については、階調の安定性に関する条件及び残像に関する条件の少なくとも一方を満たす医用画像を前記学習用データの特定に使用すると判定する、請求項13に記載の医用情報処理システム。
  16. 前記特定部は、前記取得部により取得される医用画像のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像対象領域の一部が重複し、かつ、撮像方向が略一致する医用画像の組について医用画像間の位置合わせを行ない、位置合わせした医用画像の組を前記学習用データとして特定する、請求項1乃至15のいずれか一項に記載の医用情報処理システム。
  17. 前記特定部は、前記取得部により取得される医用画像のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像対象領域の少なくとも一部が重複し、かつ、撮像方向が略一致し、かつ、撮像方向が同一でない医用画像の組について医用画像間の角度補正を行ない、角度補正した医用画像の組を前記学習用データとして特定する、請求項1乃至16のいずれか一項に記載の医用情報処理システム。
  18. 医用画像を取得する取得部と、
    前記取得部により取得される医用画像のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致する医用画像を組として含む学習用データを特定する特定部と、
    を備える、医用情報処理装置。
  19. 第1の医用情報処理装置と第2の医用情報処理装置とを備える医用情報処理システムであって、
    前記第1の医用情報処理装置は、
    医用画像を取得する取得部と、
    前記取得部により取得される医用画像のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致する医用画像を組として含む学習用データを特定する特定部と、
    前記学習用データを送信する送信部とを備え、
    前記第2の医用情報処理装置は、
    前記第1の医用情報処理装置により送信された前記学習用データを受信する受信部と、
    受信した前記学習用データを含む学習用データセットを生成する学習用データセット生成部と、
    前記学習用データセットに基づいて、入力される医用画像を当該医用画像と撮像の条件及び被検体の条件のうち少なくとも一方が異なる医用画像に相当する医用画像に変換する処理に組み込まれる学習済みモデルを生成するモデル生成部とを備える、
    医用情報処理システム。
  20. 前記モデル生成部は、前記受信部が受信した前記学習用データの数が閾値を超えた時に、前記学習済みモデルを生成する、請求項19に記載の医用情報処理システム。
  21. 放射線を検出して検出信号を出力する検出器と、
    前記検出信号に基づく医用画像を収集する収集部と、
    前記収集部により収集される医用画像を取得する取得部と、
    前記取得部により取得される医用画像のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致する医用画像を組として含む学習用データを特定する特定部と、
    を備える、放射線診断装置。
  22. 超音波を送受信する超音波プローブにより被検体を走査することで医用画像を収集する収集部と、
    前記収集部により収集される医用画像を取得する取得部と、
    前記取得部により取得される医用画像のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致する医用画像を組として含む学習用データを特定する特定部と、
    を備える、超音波診断装置。
  23. 医用画像を取得し、
    取得した医用画像のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致する医用画像を組として含む学習用データを特定する、
    ことを含む、学習用データの生産方法。
  24. 医用画像を取得し、
    取得した医用画像のうち、撮像の条件及び被検体の条件のうち少なくとも一方が異なり、かつ、撮像方向が略一致する医用画像を組として含む学習用データを特定する
    各処理をコンピュータに実行させる、プログラム。
JP2018101025A 2018-05-25 2018-05-25 医用情報処理システム、医用情報処理装置、放射線診断装置、超音波診断装置、学習用データの生産方法及びプログラム Active JP7262933B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018101025A JP7262933B2 (ja) 2018-05-25 2018-05-25 医用情報処理システム、医用情報処理装置、放射線診断装置、超音波診断装置、学習用データの生産方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018101025A JP7262933B2 (ja) 2018-05-25 2018-05-25 医用情報処理システム、医用情報処理装置、放射線診断装置、超音波診断装置、学習用データの生産方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2019202087A true JP2019202087A (ja) 2019-11-28
JP7262933B2 JP7262933B2 (ja) 2023-04-24

Family

ID=68725550

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018101025A Active JP7262933B2 (ja) 2018-05-25 2018-05-25 医用情報処理システム、医用情報処理装置、放射線診断装置、超音波診断装置、学習用データの生産方法及びプログラム

Country Status (1)

Country Link
JP (1) JP7262933B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020162296A1 (ja) * 2019-02-07 2020-08-13 浜松ホトニクス株式会社 画像処理装置および画像処理方法
JP2021104194A (ja) * 2019-12-26 2021-07-26 キヤノンメディカルシステムズ株式会社 学習装置及び学習方法
JP7100783B1 (ja) 2021-09-09 2022-07-14 株式会社ツバサファクトリー 学習装置及び推論装置
JP7451239B2 (ja) 2020-03-12 2024-03-18 富士フイルムヘルスケア株式会社 画像処理装置、x線撮像装置及び画像処理方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08153194A (ja) * 1994-11-29 1996-06-11 Hitachi Medical Corp 画像処理装置
JP2000057349A (ja) * 1998-08-10 2000-02-25 Hitachi Ltd 欠陥の分類方法およびその装置並びに教示用データ作成方法
JP2008119195A (ja) * 2006-11-10 2008-05-29 Hitachi Medical Corp X線透視撮影装置
US20150196265A1 (en) * 2014-01-15 2015-07-16 Alara Systems, Inc Converting low-dose to higher dose mammographic images through machine-learning processes
JP2017205334A (ja) * 2016-05-19 2017-11-24 東芝メディカルシステムズ株式会社 医用画像処理装置
JP2018005841A (ja) * 2016-07-08 2018-01-11 株式会社トプコン 医用画像処理方法及び医用画像処理装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08153194A (ja) * 1994-11-29 1996-06-11 Hitachi Medical Corp 画像処理装置
JP2000057349A (ja) * 1998-08-10 2000-02-25 Hitachi Ltd 欠陥の分類方法およびその装置並びに教示用データ作成方法
JP2008119195A (ja) * 2006-11-10 2008-05-29 Hitachi Medical Corp X線透視撮影装置
US20150196265A1 (en) * 2014-01-15 2015-07-16 Alara Systems, Inc Converting low-dose to higher dose mammographic images through machine-learning processes
JP2017205334A (ja) * 2016-05-19 2017-11-24 東芝メディカルシステムズ株式会社 医用画像処理装置
JP2018005841A (ja) * 2016-07-08 2018-01-11 株式会社トプコン 医用画像処理方法及び医用画像処理装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020162296A1 (ja) * 2019-02-07 2020-08-13 浜松ホトニクス株式会社 画像処理装置および画像処理方法
US11893660B2 (en) 2019-02-07 2024-02-06 Hamamatsu Photonics K.K. Image processing device and image processing method
JP2021104194A (ja) * 2019-12-26 2021-07-26 キヤノンメディカルシステムズ株式会社 学習装置及び学習方法
JP7433901B2 (ja) 2019-12-26 2024-02-20 キヤノンメディカルシステムズ株式会社 学習装置及び学習方法
JP7451239B2 (ja) 2020-03-12 2024-03-18 富士フイルムヘルスケア株式会社 画像処理装置、x線撮像装置及び画像処理方法
JP7100783B1 (ja) 2021-09-09 2022-07-14 株式会社ツバサファクトリー 学習装置及び推論装置
JP2023039499A (ja) * 2021-09-09 2023-03-22 株式会社ツバサファクトリー 学習装置及び推論装置

Also Published As

Publication number Publication date
JP7262933B2 (ja) 2023-04-24

Similar Documents

Publication Publication Date Title
US11278213B2 (en) Medical data processing apparatus, magnetic resonance imaging apparatus, and learned model generating method
US9717474B2 (en) Image processing apparatus, ultrasound diagnosis apparatus, and image processing method
JP2022016591A (ja) X線コンピュータ断層撮影装置、スキャン計画設定支援装置、医用画像診断システム、制御方法及び制御プログラム
JP7262933B2 (ja) 医用情報処理システム、医用情報処理装置、放射線診断装置、超音波診断装置、学習用データの生産方法及びプログラム
US20210052247A1 (en) Medical information processing system and medical information processing method
US20180160993A9 (en) X-ray imaging apparatus and method for controlling the same
JP7242284B2 (ja) 医用画像処理装置、x線診断装置及び医用画像処理プログラム
JP7313818B2 (ja) 医用画像処理装置、医用画像診断装置、及び医用画像処理方法
JP7483361B2 (ja) 医用画像処理装置、医用画像診断装置および医用画像処理プログラム
JP7233874B2 (ja) 医用情報処理装置、x線診断装置及び医用情報処理プログラム
US11266377B2 (en) Support apparatus and support method
JP2022013679A (ja) 医用画像処理方法、医用画像処理装置及びx線ct装置
US20230148985A1 (en) X-ray diagnosis apparatus and x-ray condition setting method
US20220292655A1 (en) Medical image processing apparatus, x-ray diagnostic apparatus, and method of medical image processing
US20240062371A1 (en) Information processing method, medical image diagnostic apparatus, and information processing system including deep learning for optimal cardiac phase selection
JP7334034B2 (ja) 医用画像処理装置、x線診断装置及び医用画像処理プログラム
JP7341667B2 (ja) 医用画像処理装置、x線診断装置及び医用情報処理システム
WO2024048374A1 (ja) 画像処理装置、撮影システム、画像処理方法、及びプログラム
JP7426310B2 (ja) X線コンピュータ断層撮像装置
WO2024062894A1 (ja) 医用画像処理装置およびその制御方法、医用画像処理プログラム
JP2017205482A (ja) 支援装置及び支援方法
JP2022141591A (ja) 医用画像処理装置、x線診断装置及び医用画像処理方法
JP2022172743A (ja) 医用画像処理装置、医用画像処理方法及びプログラム
JP2022172850A (ja) 医用画像診断装置、医用イメージング条件の決定方法、及びプログラム
JP2023074958A (ja) 医用画像処理装置、医用画像処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210312

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220308

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220509

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230314

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230412

R150 Certificate of patent or registration of utility model

Ref document number: 7262933

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150