以下、図面を参照して、医用情報処理装置、X線診断装置及び医用情報処理プログラムの実施形態について詳細に説明する。
(第1の実施形態)
まず、第1の実施形態について説明する。第1の実施形態では、X線診断装置10、超音波診断装置20、画像保管装置30及び医用情報処理装置40を含んだ医用情報処理システム1を一例として説明する。
図1は、第1の実施形態に係る医用情報処理システム1の構成の一例を示すブロック図である。図1に示すように、第1の実施形態に係る医用情報処理システム1は、X線診断装置10と、超音波診断装置20と、画像保管装置30と、医用情報処理装置40とを備える。X線診断装置10、超音波診断装置20、画像保管装置30及び医用情報処理装置40は、ネットワークNWを介して相互に接続される。
X線診断装置10は、被検体からX線画像を収集する装置である。例えば、X線診断装置10は、被検体からX線画像を収集し、収集したX線画像を画像保管装置30及び医用情報処理装置40に送信する。なお、X線診断装置10の構成については後述する。また、超音波診断装置20は、被検体から超音波画像を収集する装置である。例えば、超音波診断装置20は、被検体から超音波画像を収集し、収集した超音波画像を画像保管装置30及び医用情報処理装置40に送信する。なお、超音波診断装置20の構成については後述する。また、以下では、データとして処理される画像については、画像データとも記載する。
画像保管装置30は、X線診断装置10や超音波診断装置20等の医用画像診断装置によって収集された医用画像データを保管する装置である。例えば、画像保管装置30は、ネットワークNWを介してX線診断装置10からX線画像データを取得し、取得したX線画像データを装置内又は装置外に設けられたメモリに記憶させる。また、例えば、画像保管装置30は、ネットワークNWを介して超音波診断装置20から超音波画像データを取得し、取得した超音波画像データを装置内又は装置外に設けられたメモリに記憶させる。例えば、画像保管装置30は、サーバ装置等のコンピュータ機器によって実現される。
医用情報処理装置40は、ネットワークNWを介して医用画像データを取得し、取得した医用画像データを用いた種々の処理を実行する。例えば、医用情報処理装置40は、ネットワークNWを介して、X線診断装置10又は画像保管装置30からX線画像データを取得する。また、例えば、医用情報処理装置40は、ネットワークNWを介して超音波診断装置20又は画像保管装置30から超音波画像データを取得する。また、例えば、医用情報処理装置40は、X線画像データと超音波画像データとを位置合わせして操作者に提示する。具体的には、医用情報処理装置40は、超音波診断装置20が有する超音波プローブ201の位置及び向きを特定することにより、X線画像データと超音波画像データとを位置合わせして操作者に提示する。なお、医用情報処理装置40の構成については後述する。例えば、医用情報処理装置40は、ワークステーション等のコンピュータ機器によって実現される。
なお、ネットワークNWを介してX線診断装置10及び超音波診断装置20と接続可能であれば、医用情報処理装置40が設置される場所は任意である。例えば、医用情報処理装置40は、X線診断装置10及び超音波診断装置20と異なる病院に設置されてもよい。即ち、ネットワークNWは、院内で閉じたローカルネットワークにより構成されてもよいし、インターネットを介したネットワークでもよい。
次に、図2を用いて、X線診断装置10について説明する。図2は、第1の実施形態に係るX線診断装置10の構成の一例を示すブロック図である。図2に示すように、X線診断装置10は、X線高電圧装置101と、X線管102と、X線絞り器103と、天板104と、Cアーム105と、X線検出器106と、メモリ107と、ディスプレイ108と、入力インターフェース109と、処理回路110とを備える。
X線高電圧装置101は、処理回路110による制御の下、X線管102に高電圧を供給する。例えば、X線高電圧装置101は、変圧器(トランス)及び整流器等の電気回路を有し、X線管102に印加する高電圧を発生する高電圧発生装置と、X線管102が照射するX線に応じた出力電圧の制御を行うX線制御装置とを有する。なお、高電圧発生装置は、変圧器方式であってもよいし、インバータ方式であってもよい。
X線管102は、熱電子を発生する陰極(フィラメント)と、熱電子の衝突を受けてX線を発生する陽極(ターゲット)とを有する真空管である。X線管102は、X線高電圧装置101から供給される高電圧を用いて、陰極から陽極に向けて熱電子を照射することにより、X線を発生する。
X線絞り器103は、X線管102により発生されたX線の照射範囲を絞り込むコリメータと、X線管102から曝射されたX線を調節するフィルタとを有する。
X線絞り器103におけるコリメータは、例えば、スライド可能な4枚の絞り羽根を有する。コリメータは、絞り羽根をスライドさせることで、X線管102が発生したX線を絞り込んで被検体Pに照射させる。ここで、絞り羽根は、鉛などで構成された板状部材であり、X線の照射範囲を調整するためにX線管102のX線照射口付近に設けられる。
X線絞り器103におけるフィルタは、被検体Pに対する被曝線量の低減とX線画像データの画質向上を目的として、その材質や厚みによって透過するX線の線質を変化させ、被検体Pに吸収されやすい軟線成分を低減したり、X線画像データのコントラスト低下を招く高エネルギー成分を低減したりする。また、フィルタは、その材質や厚み、位置などによってX線の線量及び照射範囲を変化させ、X線管102から被検体Pへ照射されるX線が予め定められた分布になるようにX線を減衰させる。
例えば、X線絞り器103は、モータ及びアクチュエータ等の駆動機構を有し、後述する処理回路110による制御の下、駆動機構を動作させることによりX線の照射を制御する。例えば、X線絞り器103は、処理回路110から受け付けた制御信号に応じて駆動電圧を駆動機構に付加することにより、コリメータの絞り羽根の開度を調整して、被検体Pに対して照射されるX線の照射範囲を制御する。また、例えば、X線絞り器103は、処理回路110から受け付けた制御信号に応じて駆動電圧を駆動機構に付加することにより、フィルタの位置を調整することで、被検体Pに対して照射されるX線の線量の分布を制御する。
天板104は、被検体Pを載せるベッドであり、図示しない寝台の上に配置される。なお、被検体Pは、X線診断装置10に含まれない。例えば、寝台は、モータ及びアクチュエータ等の駆動機構を有し、後述する処理回路110による制御の下、駆動機構を動作させることにより、天板104の移動・傾斜を制御する。例えば、寝台は、処理回路110から受け付けた制御信号に応じて駆動電圧を駆動機構に付加することにより、天板104を移動させたり、傾斜させたりする。
Cアーム105は、X線管102及びX線絞り器103と、X線検出器106とを、被検体Pを挟んで対向するように保持する。例えば、Cアーム105は、モータ及びアクチュエータ等の駆動機構を有し、後述する処理回路110による制御の下、駆動機構を動作させることにより、回転したり移動したりする。例えば、Cアーム105は、処理回路110から受け付けた制御信号に応じて駆動電圧を駆動機構に付加することにより、X線管102及びX線絞り器103と、X線検出器106とを被検体Pに対して回転・移動させ、X線の照射位置や照射角度を制御する。なお、図2では、X線診断装置10がシングルプレーンの場合を例に挙げて説明しているが、実施形態はこれに限定されるものではなく、バイプレーンの場合であってもよい。
X線検出器106は、例えば、マトリクス状に配列された検出素子を有するX線平面検出器(Flat Panel Detector:FPD)である。X線検出器106は、X線管102から照射されて被検体Pを透過したX線を検出して、検出したX線量に対応した検出信号を処理回路110へと出力する。なお、X線検出器106は、グリッド、シンチレータアレイ及び光センサアレイを有する間接変換型の検出器であってもよいし、入射したX線を電気信号に変換する半導体素子を有する直接変換型の検出器であっても構わない。
メモリ107は、例えば、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等により実現される。例えば、メモリ107は、処理回路110によって収集されたX線画像データを受け付けて記憶する。また、メモリ107は、処理回路110によって読み出されて実行される各種機能に対応するプログラムを記憶する。なお、メモリ107は、X線診断装置10とネットワークを介して接続されたサーバ群(クラウド)により実現されることとしてもよい。
ディスプレイ108は、各種の情報を表示する。例えば、ディスプレイ108は、処理回路110による制御の下、操作者の指示を受け付けるためのGUI(Graphical User Interface)や、各種のX線画像を表示する。例えば、ディスプレイ108は、液晶ディスプレイやCRT(Cathode Ray Tube)ディスプレイである。なお、ディスプレイ108はデスクトップ型でもよいし、処理回路110と無線通信可能なタブレット端末等で構成されることにしても構わない。
入力インターフェース109は、操作者からの各種の入力操作を受け付け、受け付けた入力操作を電気信号に変換して処理回路110に出力する。例えば、入力インターフェース109は、マウスやキーボード、トラックボール、スイッチ、ボタン、ジョイスティック、操作面へ触れることで入力操作を行うタッチパッド、表示画面とタッチパッドとが一体化されたタッチスクリーン、光学センサを用いた非接触入力回路、音声入力回路等により実現される。なお、入力インターフェース109は、処理回路110と無線通信可能なタブレット端末等で構成されることにしても構わない。また、入力インターフェース109は、マウスやキーボード等の物理的な操作部品を備えるものだけに限られない。例えば、X線診断装置10とは別体に設けられた外部の入力機器から入力操作に対応する電気信号を受け取り、この電気信号を処理回路110へ出力する電気信号の処理回路も入力インターフェース109の例に含まれる。
処理回路110は、制御機能110a、収集機能110b、送信機能110c、受信機能110d及び表示制御機能110eを実行することで、X線診断装置10全体の動作を制御する。
例えば、処理回路110は、メモリ107から制御機能110aに相当するプログラムを読み出して実行することにより、入力インターフェース109を介して操作者から受け付けた入力操作に基づいて、処理回路110の各種機能を制御する。また、例えば、処理回路110は、メモリ107から収集機能110bに相当するプログラムを読み出して実行することにより、2次元のX線画像データを収集する。
例えば、収集機能110bは、X線高電圧装置101を制御し、X線管102に供給する電圧を調整することで、被検体Pに対して照射されるX線量やオン/オフを制御する。また、例えば、収集機能110bは、X線管102、X線絞り器103、天板104、Cアーム105及びX線検出器106の動作を制御することにより、X線の照射範囲やX線の線量の分布、X線の照射角度等を制御する。なお、以下では、X線診断装置10において撮像に用いられる機構(X線管102、X線絞り器103、天板104、Cアーム105及びX線検出器106)を、撮像部とも記載する。
具体的には、収集機能110bは、X線絞り器103の動作を制御し、コリメータが有する絞り羽根の開度を調整することで、被検体Pに対して照射されるX線の照射範囲を制御する。また、収集機能110bは、X線絞り器103の動作を制御し、フィルタの位置を調整することで、X線の線量の分布を制御する。また、収集機能110bは、Cアーム105を回転させたり、移動させたりすることで、X線の照射範囲及び照射角度を制御する。また、収集機能110bは、天板104を移動させたり、傾斜させたりすることで、X線の照射範囲及び照射角度を制御する。
また、収集機能110bは、X線検出器106から受信した検出信号に基づいてX線画像データを生成し、生成したX線画像データをメモリ107に格納する。ここで、収集機能110bは、メモリ107が記憶するX線画像データに対して各種画像処理を行なってもよい。例えば、収集機能110bは、X線画像データに対して、画像処理フィルタによるノイズ低減処理や、散乱線補正を実行する。
ここで、収集機能110bは、被検体Pを超音波走査する超音波プローブ201を撮像した2次元のX線画像データを収集する。例えば、収集機能110bは、被検体P内に挿入されたTEE(transesophageal echocardiography:経食道心エコー用超音波)プローブが撮像領域に含まれるようにX線の照射範囲及び照射角度を制御して、X線画像データを収集する。なお、超音波プローブ201については後述する。
また、処理回路110は、メモリ107から送信機能110cに相当するプログラムを読み出して実行することにより、X線画像データを画像保管装置30及び医用情報処理装置40に送信する。また、処理回路110は、メモリ107から受信機能110dに相当するプログラムを読み出して実行することにより、医用情報処理装置40から超音波プローブ201の位置及び向きを受信する。なお、超音波プローブ201の位置及び向きについては後述する。また、受信機能110dは、超音波診断装置20から、超音波プローブ201を用いて撮像された超音波画像データを受信する。
また、処理回路110は、メモリ107から表示制御機能110eに相当するプログラムを読み出して実行することにより、操作者から各種指示や各種設定等を受け付けるためのGUIや、各種の画像データをディスプレイ203に表示させる。例えば、表示制御機能110eは、超音波プローブ201の位置及び向きに応じて、X線画像データ上に、超音波診断装置20から受信した超音波画像データを表示させる。なお、超音波プローブ201の位置及び向きに基づく表示画像については後述する。
図2に示すX線診断装置10においては、各処理機能がコンピュータによって実行可能なプログラムの形態でメモリ107へ記憶されている。処理回路110は、メモリ107からプログラムを読み出して実行することで各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の処理回路110は、読み出したプログラムに対応する機能を有することとなる。
なお、図2においては、制御機能110a、収集機能110b、送信機能110c、受信機能110d及び表示制御機能110eの各処理機能が単一の処理回路110によって実現される場合を示したが、実施形態はこれに限られるものではない。例えば、処理回路110は、複数の独立したプロセッサを組み合わせて構成され、各プロセッサが各プログラムを実行することにより各処理機能を実現するものとしても構わない。また、処理回路110が有する各処理機能は、単一又は複数の処理回路に適宜に分散又は統合されて実現されてもよい。
次に、図3を用いて、超音波診断装置20について説明する。図3は、第1の実施形態に係る超音波診断装置20の構成の一例を示すブロック図である。図3に示すように、超音波診断装置20は、装置本体200と、超音波プローブ201と、入力インターフェース202と、ディスプレイ203とを備える。また、図3に示すように、超音波プローブ201、入力インターフェース202及びディスプレイ203は、それぞれ装置本体200に接続される。なお、図3は、第1の実施形態に係る超音波診断装置20の構成例を示すブロック図である。
超音波プローブ201は、複数の振動素子(圧電振動子)を有する。超音波プローブ201は、被検体Pの体表面に接触され、超音波の送受信(超音波走査)を行う。複数の振動素子は、後述する送信回路210から供給される駆動信号に基づいて、超音波を発生させる。発生した超音波は、被検体P内の音響インピーダンスの不整合面で反射され、組織内の散乱体によって散乱された成分等を含む反射波信号(受信エコー)として複数の振動素子にて受信される。超音波プローブ201は、複数の振動素子にて受信した反射波信号を受信回路220へ送る。
なお、超音波プローブ201は、マトリクス状(格子状)に配列された複数の振動素子を有する2次元超音波プローブ(2Dアレイプローブ)でもよいし、所定方向に1次元で配列された複数の振動素子を有する1次元超音波プローブ(1Dアレイプローブ)でもよい。例えば、超音波診断装置20を備える病院等は、形状や送信する超音波の周波数が異なる複数種類の超音波プローブ201を備える。一例を挙げると、病院等は、リニアプローブやコンベックスプローブ、セクタプローブ、体腔内プローブ等の各種の超音波プローブ201を備える。ここで、体表血管や甲状腺の検査を行なう場合、操作者は、例えば、リニアプローブを装置本体200に接続して、超音波走査を実行する。また、例えば、腹部の検査を行なう場合、操作者は、コンベックスプローブを装置本体200に接続して、超音波走査を実行する。また、例えば、心臓の検査を行なう場合、操作者は、セクタプローブを装置本体200に接続して、超音波走査を実行する。また、例えば、経食道で心臓の検査を行なう場合、操作者は、TEEプローブ等の体腔内プローブを装置本体200に接続して、超音波走査を実行する。以下では、超音波プローブ201がTEEプローブである場合を一例として説明する。
入力インターフェース202は、操作者からの各種の入力操作を受け付け、受け付けた入力操作を電気信号に変換して処理回路260に出力する。例えば、入力インターフェース202は、マウスやキーボード、トラックボール、スイッチ、ボタン、ジョイスティック、操作面へ触れることで入力操作を行うタッチパッド、表示画面とタッチパッドとが一体化されたタッチスクリーン、光学センサを用いた非接触入力回路、音声入力回路等により実現される。なお、入力インターフェース202は、処理回路260と無線通信可能なタブレット端末等で構成されることにしても構わない。また、入力インターフェース202は、マウスやキーボード等の物理的な操作部品を備えるものだけに限られない。例えば、装置本体200とは別体に設けられた外部の入力機器から入力操作に対応する電気信号を受け取り、この電気信号を処理回路260へ出力する電気信号の処理回路も入力インターフェース202の例に含まれる。
ディスプレイ203は、超音波診断装置20の操作者が入力インターフェース202を用いて各種設定要求を入力するためのGUIを表示したり、装置本体200において生成された超音波画像データ等を表示したりする。例えば、ディスプレイ203は、液晶ディスプレイやCRTディスプレイ等によって構成される。ディスプレイ203は、デスクトップ型でもよいし、処理回路260と無線通信可能なタブレット端末等で構成されることにしても構わない。
装置本体200は、超音波プローブ201が受信した反射波信号に基づいて、超音波画像データを生成する。例えば、装置本体200は、図3に示すように、送信回路210と、受信回路220と、Bモード処理回路230と、ドプラ処理回路240と、メモリ250と、処理回路260とを有する。送信回路210、受信回路220、Bモード処理回路230、ドプラ処理回路240、メモリ250及び処理回路260は、互いに通信可能に接続される。
送信回路210は、パルサ回路等を有する。パルサ回路は、所定のレート周波数(PRF:Pulse Repetition Frequency)で、送信超音波を形成するためのレートパルスを繰り返し発生し、発生したレートパルスを超音波プローブ201に出力する。また、パルサ回路は、レートパルスに基づくタイミングで、超音波プローブ201に駆動信号(駆動パルス)を印加する。また、送信回路210は、処理回路260による制御を受けて、パルサ回路が出力する駆動信号の振幅の値を出力する。また、送信回路210は、処理回路260による制御を受けて、超音波プローブ201に、超音波プローブ201から送信される超音波に対する遅延量を送信する。
受信回路220は、A/D変換器及び受信ビームフォーマを有する。例えば、超音波プローブ201から反射波信号を受信した後、A/D変換器は、反射波信号をデジタルデータに変換する。次に、受信ビームフォーマは、これらの各チャンネルからのデジタルデータに対して整相加算処理を行なって、反射波データを生成する。そして、受信ビームフォーマは、生成した反射波データをBモード処理回路230及びドプラ処理回路240に送信する。
Bモード処理回路230は、受信回路220から出力された反射波データを受信し、受信した反射波データに対して対数増幅、包絡線検波処理等を行って、信号強度が輝度の明るさで表現されるデータ(Bモードデータ)を生成する。
ドプラ処理回路240は、受信回路220から出力された反射波データを受信し、受信した反射波データから速度情報を周波数解析し、ドプラ効果による血流や組織、造影剤エコー成分を抽出し、平均速度、分散、パワー等の移動体情報を多点について抽出したデータ(ドプラデータ)を生成する。
メモリ250は、例えば、RAM、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等により実現される。例えば、メモリ250は、Bモード処理回路230及びドプラ処理回路240が生成したデータ(Bモードデータ、ドプラデータ等)や、処理回路260が生成した画像データ(Bモード画像データ、ドプラ画像データ等)を記憶する。また、例えば、メモリ250は、超音波診断装置20に含まれる回路がその機能を実現するためのプログラムを記憶する。なお、メモリ250は、超音波診断装置20とネットワークを介して接続されたサーバ群(クラウド)により実現されることとしてもよい。
処理回路260は、超音波診断装置20全体の動作を制御する。例えば、処理回路260は、制御機能261、収集機能262、表示制御機能263及び送信機能264を実行する。
例えば、処理回路260は、メモリ250から制御機能261に相当するプログラムを読み出して実行することにより、入力インターフェース202を介して操作者から受け付けた入力操作に基づいて、処理回路260の各種機能を制御する。また、例えば、処理回路260は、メモリ250から収集機能262に相当するプログラムを読み出して実行することにより、超音波画像データを収集する。
例えば、収集機能262は、操作者から受け付けた各種設定要求に基づいて、送信回路210、受信回路220、Bモード処理回路230及びドプラ処理回路240の処理を制御して、Bモードデータやドプラデータを収集する。また、例えば、収集機能262は、Bモードデータやドプラデータから超音波画像データを生成する。例えば、収集機能262は、Bモード処理回路230が生成したBモードデータから、反射波の強度を輝度で表したBモード画像データを生成する。また、例えば、収集機能262は、ドプラ処理回路240が生成したドプラデータから、移動体情報を表すドプラ画像データを生成する。ドプラ画像データは、速度画像データ、分散画像データ、パワー画像データ、又は、これらを組み合わせた画像データである。
ここで、収集機能262は、生成した超音波画像データに対する種々の処理を更に行なうこととしてもよい。例えば、収集機能262は、超音波プローブ201による超音波の走査形態に応じて座標変換を行うことで、表示用の超音波画像データを生成する。一例を挙げると、収集機能262は、超音波走査の走査線信号列を、テレビ等に代表されるビデオフォーマットの走査線信号列に変換(スキャンコンバート)することで、表示用の超音波画像データを生成する。また、例えば、収集機能262は、スキャンコンバート後の複数の画像フレームを用いて、輝度の平均値画像を再生成する画像処理(平滑化処理)や、画像内で微分フィルタを用いる画像処理(エッジ強調処理)等を行う。また、例えば、収集機能262は、超音波画像データに、種々のパラメータの文字情報、目盛り、ボディーマーク等を合成する。
また、例えば、処理回路260は、メモリ250から表示制御機能263に相当するプログラムを読み出して実行することにより、操作者から各種指示や各種設定等を受け付けるためのGUIや、各種の画像データをディスプレイ203に表示させる。また、例えば、処理回路260は、メモリ250から送信機能264に相当するプログラムを読み出して実行することにより、超音波画像データをX線診断装置10及び画像保管装置30に送信する。
図3に示す超音波診断装置20においては、各処理機能がコンピュータによって実行可能なプログラムの形態でメモリ250へ記憶されている。図3の各回路は、メモリ250からプログラムを読み出して実行することで、各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の各回路は、読み出したプログラムに対応する機能を有することとなる。
なお、図3においては、制御機能261、収集機能262、表示制御機能263及び送信機能264の各処理機能が単一の処理回路260によって実現される場合を示したが、実施形態はこれに限られるものではない。例えば、処理回路260は、複数の独立したプロセッサを組み合わせて構成され、各プロセッサが各プログラムを実行することにより、各処理機能を実現するものとしても構わない。また、処理回路260が有する各処理機能は、単一又は複数の回路に適宜に分散又は統合されて実現されてもよい。
次に、図4を用いて、医用情報処理装置40について説明する。図4は、第1の実施形態に係る医用情報処理装置40の構成の一例を示すブロック図である。図4に示すように、医用情報処理装置40は、入力インターフェース41と、ディスプレイ42と、メモリ43と、処理回路44とを有する。なお、図4は、第1の実施形態に係る医用情報処理装置40の構成例を示すブロック図である。
入力インターフェース41は、操作者からの各種の入力操作を受け付け、受け付けた入力操作を電気信号に変換して処理回路44に出力する。例えば、入力インターフェース41は、マウスやキーボード、トラックボール、スイッチ、ボタン、ジョイスティック、操作面へ触れることで入力操作を行なうタッチパッド、表示画面とタッチパッドとが一体化されたタッチスクリーン、光学センサを用いた非接触入力回路、音声入力回路等により実現される。なお、入力インターフェース41は、処理回路44と無線通信可能なタブレット端末等で構成されることにしても構わない。また、入力インターフェース41は、マウスやキーボード等の物理的な操作部品を備えるものだけに限られない。例えば、医用情報処理装置40とは別体に設けられた外部の入力機器から入力操作に対応する電気信号を受け取り、この電気信号を処理回路44へ出力する電気信号の処理回路も入力インターフェース41の例に含まれる。
ディスプレイ42は、各種の情報を表示する。例えば、ディスプレイ42は、処理回路44による制御の下、X線診断装置10により収集されたX線画像データや、超音波診断装置20により収集された超音波画像データを表示する。また、ディスプレイ42は、入力インターフェース41を介して操作者から各種指示や各種設定等を受け付けるためのGUIを表示する。例えば、ディスプレイ42は、液晶ディスプレイやCRTディスプレイである。ディスプレイ42は、デスクトップ型でもよいし、処理回路44と無線通信可能なタブレット端末等で構成されることにしても構わない。
メモリ43は、例えば、RAM、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等により実現される。例えば、メモリ43は、X線診断装置10又は画像保管装置30から取得したX線画像データを記憶する。また、例えば、メモリ43は、医用情報処理装置40に含まれる回路がその機能を実現するためのプログラムを記憶する。なお、メモリ43は、医用情報処理装置40とネットワークNWを介して接続されたサーバ群(クラウド)により実現されることとしてもよい。
処理回路44は、制御機能44a、受信機能44b、第1の特定機能44c、第2の特定機能44d、送信機能44e及び表示制御機能44fを実行することで、医用情報処理装置40全体の動作を制御する。ここで、第1の特定機能44cは、第1の特定部の一例である。また、第2の特定機能44dは、第2の特定部の一例である。
例えば、処理回路44は、メモリ43から制御機能44aに相当するプログラムを読み出して実行することにより、入力インターフェース41を介して操作者から受け付けた入力操作に基づいて、処理回路44の各種機能を制御する。また、例えば、処理回路44は、メモリ43から受信機能44bに相当するプログラムを読み出して実行することにより、X線診断装置10から、超音波プローブ201を撮像したX線画像データを受信する。
また、例えば、処理回路44は、メモリ43から第1の特定機能44cに相当するプログラムを読み出して実行することにより、超音波プローブ201の位置を特定する。また、例えば、処理回路44は、メモリ43から第2の特定機能44dに相当するプログラムを読み出して実行することにより、超音波プローブ201の向きを特定する。なお、超音波プローブ201の位置及び向きの特定については後述する。
また、例えば、処理回路44は、メモリ43から送信機能44eに相当するプログラムを読み出して実行することにより、超音波プローブ201の位置及び向きをX線診断装置10に送信する。また、例えば、処理回路44は、メモリ43から表示制御機能44fに相当するプログラムを読み出して実行することにより、操作者から各種指示や各種設定等を受け付けるためのGUIや、各種の画像データをディスプレイ42に表示させる。
図4に示す医用情報処理装置40においては、各処理機能がコンピュータによって実行可能なプログラムの形態でメモリ43へ記憶されている。処理回路44は、メモリ43からプログラムを読み出して実行することで各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の処理回路44は、読み出したプログラムに対応する機能を有することとなる。
なお、図4においては単一の処理回路44にて、制御機能44a、受信機能44b、第1の特定機能44c、第2の特定機能44d、送信機能44e及び表示制御機能44fが実現するものとして説明したが、複数の独立したプロセッサを組み合わせて処理回路44を構成し、各プロセッサが各プログラムを実行することにより各処理機能を実現するものとしても構わない。また、処理回路44が有する各処理機能は、単一又は複数の処理回路に適宜に分散又は統合されて実現されてもよい。
上記説明において用いた「プロセッサ」という文言は、例えば、CPU、GPU(Graphics Processing Unit)、あるいは、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等の回路を意味する。プロセッサは、メモリ107、メモリ250又はメモリ43に保存されたプログラムを読み出し実行することで機能を実現する。
なお、図2、図3及び図4においては、単一のメモリ107、メモリ250又はメモリ43が各処理機能に対応するプログラムを記憶するものとして説明した。しかしながら、複数のメモリ107を分散して配置し、処理回路110は、個別のメモリ43から対応するプログラムを読み出す構成としても構わない。同様に、複数のメモリ250を分散して配置し、処理回路260は、個別のメモリ250から対応するプログラムを読み出す構成としても構わない。同様に、複数のメモリ43を分散して配置し、処理回路44は、個別のメモリ43から対応するプログラムを読み出す構成としても構わない。また、メモリ107、メモリ250又はメモリ43にプログラムを保存する代わりに、プロセッサの回路内にプログラムを直接組み込むよう構成しても構わない。この場合、プロセッサは回路内に組み込まれたプログラムを読み出し実行することで機能を実現する。
また、処理回路110、処理回路260及び処理回路44は、ネットワークNWを介して接続された外部装置のプロセッサを利用して、機能を実現することとしてもよい。例えば、処理回路44は、メモリ43から各機能に対応するプログラムを読み出して実行するとともに、医用情報処理装置40とネットワークNWを介して接続されたサーバ群(クラウド)を計算資源として利用することにより、図4に示す各機能を実現する。
以上、医用情報処理システム1の構成の一例について説明した。かかる構成の下、医用情報処理システム1における医用情報処理装置40は、超音波プローブ201の位置及び向きを特定し、X線画像データと超音波画像データとの位置合わせを可能とする。以下、第1の実施形態に係る医用情報処理装置40が行なう処理について詳細に説明する。
例えば、医用情報処理装置40は、図5に示すように、X線診断装置10において生成されたX線画像データI11を受信し、受信したX線画像データI11を用いて超音波プローブ201の位置及び向きを特定し、特定した位置及び向きをX線診断装置10に送信する。ここで、図5は、第1の実施形態に係る医用情報処理システム1の処理の一連の流れを説明するためのフローチャートである。
具体的には、まず、X線診断装置10における収集機能110bは、TEEプローブである超音波プローブ201が挿入された被検体Pに対して、X線管102からX線を照射する(ステップS11)。この際、収集機能110bは、X線診断装置10の撮像部を制御することによって、超音波プローブ201が撮像領域に含まれるようにX線の照射範囲及び照射角度を制御する。また、この際、X線検出器106は、X線管102から照射されて被検体Pを透過したX線を検出して、検出したX線量に対応した検出信号を処理回路110へと出力する。
次に、収集機能110bは、X線検出器106から受信した検出信号に基づいてX線画像データI11を生成し、生成したX線画像データI11をメモリ107に格納する(ステップS12)。次に、X線診断装置10における送信機能110cは、図5に示すように、生成されたX線画像データI11を医用情報処理装置40に対して送信する(ステップS13)。
図5に示すように、医用情報処理装置40における受信機能44bは、X線診断装置10から送信されたX線画像データI11を受信し、受信したX線画像データI11をメモリ43に格納する(ステップS14)。次に、医用情報処理装置40における第1の特定機能44c及び第2の特定機能44dは、超音波プローブ201の位置及び向きを特定する(ステップS15)。次に、医用情報処理装置40における送信機能44eは、超音波プローブ201の位置及び向きをX線診断装置10に対して送信する(ステップS16)。
ここで、医用情報処理装置40における処理について、図6を用いてより詳細に説明する。図6は、第1の実施形態に係る医用情報処理装置40の処理の一連の流れを説明するためのフローチャートである。
図6において、ステップS101は、受信機能44bに対応するステップである。また、ステップS102及びステップS103は、第1の特定機能44cに対応するステップである。また、ステップS104及びステップS105は、第2の特定機能44dに対応するステップである。また、ステップS106は、送信機能44eに対応するステップである。
まず、受信機能44bは、X線診断装置10からX線画像データI11を受信したか否かを判定する(ステップS101)。X線画像データI11を受信した場合(ステップS101肯定)、受信機能44bは、受信したX線画像データI11をメモリ43に格納する。
ここで、X線画像データI11は、図7に示すように、超音波プローブ201を含む2次元のX線画像データである。超音波プローブ201は、通常、図7に示すように、ケーブルと接続された状態で使用される。また、超音波プローブ201及びケーブルは、通常、被検体Pよりも暗く描出される。即ち、超音波プローブ201及びケーブルは、図7に示すように、X線画像データI11において被検体Pよりも小さい画素値で描出される。なお、図7は、第1の実施形態に係る超音波プローブ201の位置の特定について説明するための図である。
次に、第1の特定機能44cは、メモリ43に格納されたX線画像データI11を読み出し、X線画像データI11に基づいて超音波プローブ201の位置を特定する。具体的には、第1の特定機能44cは、X線画像データI11に対する2値化処理を実行して、図7に示す画像データI21を生成する(ステップS102)。より具体的には、第1の特定機能44cは、X線画像データI11の各画素について、画素値が閾値を超える場合には白、画素値が閾値を超えない場合には黒に変換することで、画像データI21を生成する。なお、画像データI21は、2値化画像の一例である。
例えば、第1の特定機能44cは、2値化処理における閾値を、超音波プローブ201及びケーブルに相当する画素の画素値のうちの最大値に設定する。そして、第1の特定機能44cは、X線画像データI11の各画素について、画素値が閾値より大きい画素は白、画素値が閾値以下である画素は黒に変換する。これにより、第1の特定機能44cは、超音波プローブ201及びケーブルに相当する画素を黒で表し、他の画素を白で表した画像データI21を生成する。
次に、第1の特定機能44cは、図7に示す図形データG1を用いて、超音波プローブ201の位置を特定する(ステップS103)。具体的には、第1の特定機能44cは、図形データG1と画像データI21とをマッチングすることにより、超音波プローブ201のX線画像データI11上での位置を特定する。ここで、図形データG1は、超音波プローブ201に類似した形状の図形であり、例えば、メモリ43に事前に記憶される。なお、図形データG1は、所定の図形の一例である。
一例を挙げると、第1の特定機能44cは、画像データI21において、図形データG1に類似するパターンの位置を検索することにより、超音波プローブ201の画像データI21上での位置を特定する。ここで、画像データI21はX線画像データI11を2値化したものであり、X線画像データI11上での位置と画像データI21上での位置との対応関係は明らかである。従って、第1の特定機能44cは、超音波プローブ201の画像データI21上での位置を特定することにより、超音波プローブ201のX線画像データI11上での位置を特定することができる。
次に、第2の特定機能44dは、第1の特定機能44cにより特定された超音波プローブ201の画像データI21上での位置に基づいて、図7に示す特定領域R1を切り出す(ステップS104)。即ち、第2の特定機能44dは、画像データI21のうち、超音波プローブ201の位置を含む特定領域R1を切り出す。なお、図7においては特定領域R1を矩形で示すが、特定領域R1の形状は任意である。
次に、第2の特定機能44dは、超音波プローブ201の構造を示す3次元データM1を用いて、特定領域R1において超音波プローブ201の向きを特定する(ステップS105)。具体的には、第2の特定機能44dは、3次元データM1と特定領域R1とをマッチングすることにより、特定領域R1における超音波プローブ201の向きを特定する。
例えば、第2の特定機能44dは、まず、3次元データM1を回転させながら、3次元データM1と特定領域R1とを比較する。一例を挙げると、第2の特定機能44dは、3次元データM1に対して複数の投影方向からレンダリング処理を実行することで、複数のレンダリング画像を生成する。そして、第2の特定機能44dは、複数のレンダリング画像と特定領域R1とでパターンを比較し、パターンが類似するレンダリング画像の投影方向を、特定領域R1における超音波プローブ201の向きとして特定する。ここで、3次元データM1は超音波プローブ201のモデルデータであり、例えば、メモリ43に事前に記憶される。3次元データM1は、超音波プローブ201の設計情報(CAD(computer-aided design)データ等)であってもよいし、超音波プローブ201を光学カメラ等により複数方向から撮影してモデリングしたものであってもよい。或いは、3次元データM1は、超音波プローブ201をX線診断装置10等の医用画像診断装置により複数方向から撮影してモデリングしたものであってもよい。なお、3次元データM1は、超音波プローブ201の構造を示す3次元データの一例である。
次に、送信機能44eは、第1の特定機能44cにより特定された超音波プローブ201の位置、及び、第2の特定機能44dにより特定された超音波プローブ201の向きをX線診断装置10に対して送信する(ステップS106)。その後、処理回路44は、再度ステップS101に移行し、X線診断装置10から更にX線画像データI11を受信したか否かを判定する。即ち、収集機能110bがX線画像データI11を時系列的に収集する場合、第1の特定機能44c及び第2の特定機能44dは、時系列のX線画像データI11のそれぞれについて超音波プローブ201の位置及び向きを順次特定する。ここで、X線診断装置10からX線画像データI11を受信しない場合(ステップS101否定)、処理回路44は、処理を終了する。
なお、図6及び図7では、所定の図形として図形データG1について説明したが、実施形態はこれに限定されるものではない。例えば、第1の特定機能44cは、楕円形状の図形データG1に代えて、他の形状の図形(例えば、棒状の図形)を用いてもよい。即ち、第1の特定機能44cは、超音波プローブ201に類似した形状の所定の図形と、画像データI21とをマッチングすることにより、超音波プローブ201の位置を特定する。また、所定の図形をメモリ43が複数記憶する場合、第1の特定機能44cは、超音波プローブ201の種類等に応じて選択した所定の図形と、画像データI21とをマッチングすることにより、超音波プローブ201の位置を特定することとしてもよい。
また、図6及び図7では、所定の図形と、X線画像データI11に基づく画像データI21(2値化画像)とをマッチングすることにより、超音波プローブ201のX線画像データI11上での位置を特定する場合について説明したが、実施形態はこれに限定されるものではない。例えば、第1の特定機能44cは、所定の図形とX線画像データI11とをマッチングすることにより、超音波プローブ201のX線画像データI11上での位置を特定してもよい。
また、図6及び図7では、3次元データM1と、画像データI21(2値化画像)から切り出した特定領域R1とをマッチングすることにより、超音波プローブ201のX線画像データI11上での向きを特定する場合について説明したが、実施形態はこれに限定されるものではない。例えば、第1の特定機能44cは、X線画像データI11から超音波プローブ201の位置を含む領域を切り出し、切り出した領域と3次元データM1とをマッチングすることにより、超音波プローブ201のX線画像データI11上での向きを特定してもよい。
図5の説明に戻る。X線診断装置10における受信機能110dは、医用情報処理装置40から送信された超音波プローブ201の位置及び向きを受信し、メモリ107に格納する(ステップS17)。また、受信機能110dは、超音波診断装置20から、超音波プローブ201を用いて撮像された超音波画像データI31を受信し、メモリ107に格納する。なお、超音波画像データI31は、ステップS11と略同時に行われた超音波走査に基づく超音波画像データである。即ち、X線画像データI11と超音波画像データI31とは、略同時に撮像された画像データである。
そして、表示制御機能110eは、超音波プローブ201の位置及び向きに応じて、超音波プローブ201を用いて撮像された超音波画像データI31をX線画像データI11上に表示させる(ステップS18)。例えば、表示制御機能110eは、図8に示すように、X線画像データI11をディスプレイ108に表示させ、超音波画像データI31をX線画像データI11上に表示させる。なお、図8は、第1の実施形態に係るX線画像データ及び超音波画像データの表示の一例を示す図である。
具体的には、表示制御機能110eは、X線画像データI11上で特定された超音波プローブ201の位置及び向きに基づいて、X線画像データI11が撮像された撮像空間における座標系(X線座標系)と、超音波画像データI31が撮像された撮像空間における座標系(超音波座標系)とを関連付ける。これにより、表示制御機能110eは、X線画像データI11に対する超音波画像データI31の位置及び向きを特定し、特定した位置及び向きで、超音波画像データI31をX線画像データI11上に表示させる。
なお、収集機能110bがX線画像データI11を時系列的に収集する場合、表示制御機能110eは、収集されたX線画像データI11を順次表示させる。同様に、収集機能262が超音波画像データI31を時系列的に収集する場合、表示制御機能110eは、収集された超音波画像データI31を順次表示させる。即ち、表示制御機能110eは、超音波プローブ201の位置及び向きに応じてX線画像データI11と超音波画像データI31とを位置合わせしつつ、X線画像データI11及び超音波画像データI31をリアルタイム表示する。
また、図8においては、超音波画像データI31をX線画像データI11上に表示させる場合について説明した。しかしながら、実施形態はこれに限定されるものではない。例えば、表示制御機能110eは、超音波画像データI31に代えて、超音波プローブ201の撮像領域を表示させる場合であってもよい。一例を挙げると、表示制御機能110eは、X線画像データI11をディスプレイ108に表示させ、超音波プローブ201の位置及び向きに応じて、超音波プローブ201の撮像領域を示す輪郭線をX線画像データI11上に表示させる。
また、図5においては、X線診断装置10における表示制御機能110eが、超音波プローブ201の位置及び向きに応じて、X線画像データI11上に超音波画像データI31を表示させる場合について説明した。しかしながら、実施形態はこれに限定されるものではない。例えば、医用情報処理装置40における表示制御機能44fが、超音波プローブ201の位置及び向きに応じて、X線画像データI11上に超音波画像データI31又は超音波プローブ201の撮像領域を表示させる場合であってもよい。
具体的には、医用情報処理装置40における受信機能44bは、X線診断装置10からX線画像データI11を受信し、メモリ43に格納する。また、受信機能44bは、超音波診断装置20から超音波画像データI31を受信し、メモリ43に格納する。また、第1の特定機能44cは、所定の図形(図形データG1等)と、X線画像データI11又は画像データI21とをマッチングすることにより、超音波プローブ201のX線画像データI11上での位置を特定する。また、第2の特定機能44dは、3次元データM1とX線画像データI11とに基づいて、第1の特定機能44cによって特定された位置における超音波プローブ201の向きを特定する。そして、表示制御機能44fは、超音波プローブ201の位置及び向きに応じて、X線画像データI11上に超音波画像データI31又は超音波プローブ201の撮像領域を表示させる。一例を挙げると、表示制御機能44fは、X線画像データI11をディスプレイ42に表示させ、超音波プローブ201の位置及び向きに応じて、超音波画像データI31又は超音波プローブ201の撮像領域をX線画像データI11上に表示させる。
上述したように、第1の実施形態によれば、第1の特定機能44cは、所定の図形とX線画像データI11とをマッチングすることにより、超音波プローブ201のX線画像データI11上での位置を特定する。また、第2の特定機能44dは、3次元データM1とX線画像データI11とに基づいて、第1の特定機能44cによって特定された位置における超音波プローブ201の向きを特定する。従って、第1の実施形態に係る医用情報処理装置40は、X線画像データI11と、超音波プローブ201を用いて撮像された超音波画像データI31との位置合わせを可能とすることができる。
また、医用情報処理装置40は、超音波プローブ201の位置の特定と、超音波プローブ201の向きの特定とを切り離して実行することにより、計算量を低減して処理時間を短縮することができる。例えば、3次元データM1を用いて超音波プローブ201の位置及び向きを特定する場合には、3次元データM1に基づいて生成した複数のレンダリング画像を用いたパターンマッチングを、X線画像データI11上の各位置において実行する必要がある。即ち、3次元データM1を用いて超音波プローブ201の位置及び向きを特定する場合、位置と向きとの2つの自由度があるため、位置と向きとを繰り返し検出する必要があり、計算量が増大する。これに対し、医用情報処理装置40は、超音波プローブ201の位置を特定した後、特定した位置における超音波プローブ201の向きを特定することにより、処理ごとの自由度を1つとして、計算量を低減することができる。
また、医用情報処理装置40は、超音波プローブ201が小型であり、形状特徴が少ない場合であっても、超音波プローブ201の位置及び向きを特定することができる。例えば、3次元データM1を用いて超音波プローブ201の位置及び向きを特定する場合、位置と向きとの2つの自由度があるため、位置と向きとを繰り返し検出して精度を上げる必要がある。この場合、計算量の制約に起因して精度にも限界が生じるため、超音波プローブ201が小型である場合、超音波プローブ201の位置及び向きを特定できない場合がある。これに対し、医用情報処理装置40は、超音波プローブ201の位置を特定した後、特定した位置における超音波プローブ201の向きを特定することによって、計算量を低減することができる。即ち、医用情報処理装置40は、超音波プローブ201の位置の特定と、超音波プローブ201の向きの特定とを切り離して、それぞれをより高い精度で実行することができる。従って、医用情報処理装置40は、超音波プローブ201が小型であり、形状特徴が少ない場合においても、超音波プローブ201の位置及び向きを特定することができる。
(第2の実施形態)
上述した第1の実施形態では、所定の図形と、X線画像データI11又は画像データI21とをマッチングすることにより、超音波プローブ201のX線画像データI11上での位置を特定する場合について説明した。これに対し、第2の実施形態では、X線画像データI12上で超音波プローブ201に対応する点又は領域を指定する操作を受け付け、X線画像データI12の後に撮像された複数のX線画像データにおいて、指定された点又は領域を追跡することにより、超音波プローブ201の複数のX線画像データ上での位置を特定する場合について説明する。
第2の実施形態に係る医用情報処理装置40は、図4に示した第1の実施形態に係る医用情報処理装置40と同様の構成を有し、第1の特定機能44c及び第2の特定機能44dにおける処理の一部が相違する。第1の実施形態において説明した構成と同様の構成を有する点については、図1~図4と同一の符号を付し、説明を省略する。
まず、X線診断装置10は、X線画像データI12を含む複数のX線画像データを時系列的に撮像する。例えば、収集機能110bは、超音波プローブ201が挿入された被検体Pに対してX線パルスを繰り返し照射させる。この際、X線検出器106は、各X線パルスを検出して、検出信号を処理回路110へと出力する。そして、収集機能110bは、X線検出器106から出力された検出信号に基づいて、X線パルスごとにX線画像データを生成する。また、送信機能110cは、X線画像データが撮像されるごとに、X線画像データを医用情報処理装置40に対して順次送信する。
以下では、X線画像データI12が撮像された後、X線画像データI1mからX線画像データI1nまでの複数のX線画像データが時系列的に撮像される場合について説明する。即ち、以下では、所定のX線パルス(最初のX線パルス等)に基づいてX線画像データI12が生成され、所定のX線パルスの後に照射される複数のX線パルスに基づいて、X線画像データI1mからX線画像データI1nまでの複数のX線画像データが時系列的に生成される場合について説明する。
また、以下では、図9を用いて、医用情報処理装置40における処理について説明する。図9は、第2の実施形態に係る医用情報処理装置40の処理の一連の流れを説明するためのフローチャートである。図9において、ステップS201は、受信機能44bに対応するステップである。また、ステップS202、ステップS203、ステップS204、ステップS205、ステップS206及びステップS207は、第1の特定機能44cに対応するステップである。また、ステップS208及びステップS209は、第2の特定機能44dに対応するステップである。また、ステップS210は、送信機能44eに対応するステップである。
まず、受信機能44bは、X線診断装置10からX線画像データを受信したか否かを判定する(ステップS201)。X線画像データを受信した場合(ステップS201肯定)、受信機能44bは、受信したX線画像データをメモリ43に格納する。次に、第1の特定機能44cは、後述のテンプレートT1を生成済みであるか否かを判定する(ステップS202)。
テンプレートT1を生成済みでない場合(ステップS202否定)、第1の特定機能44cは、ステップS203に移行する。一方で、テンプレートT1を生成済みである場合(ステップS202肯定)、第1の特定機能44cは、ステップS206に移行する。ここで、テンプレートT1は、後述する指定領域R2の指定操作を受け付けたX線画像データから生成される画像データである。以下では一例として、X線画像データI12に基づいてテンプレートT1が生成される場合について説明する。この場合、第1の特定機能44cは、ステップS201において受信したX線画像データがX線画像データI12である場合にはステップS203に移行し、ステップS201において受信したX線画像データがX線画像データI1m・・・X線画像データI1nのうちのいずれかである場合にはステップS206に移行する。
ステップS202においてテンプレートT1を生成済みでないと判定した場合、第1の特定機能44cは、ステップS201において受信したX線画像データ(X線画像データI12)において、超音波プローブ201に対応する領域(指定領域R2)の指定操作を受け付ける(ステップS203)。これにより、第1の特定機能44cは、超音波プローブ201のX線画像データI12上での位置を特定する。
例えば、表示制御機能44fは、ディスプレイ42にX線画像データI12を表示させ、第1の特定機能44cは、X線画像データI12を参照した操作者から、入力インターフェース41を介して指定領域R2の指定操作を受け付ける。一例を挙げると、操作者はマウスを操作して、超音波プローブ201に対応する領域の中心位置においてクリック操作を行なう。そして、第1の特定機能44cは、クリックされた位置を中心とする領域であって、所定の形状及び大きさを有する領域を指定領域R2として受け付ける。
次に、第1の特定機能44cは、X線画像データI12の指定領域R2を切り出す(ステップS204)。また、第1の特定機能44cは、X線画像データI12から切り出した指定領域R2に対する2値化処理により、テンプレートT1を生成する。即ち、テンプレートT1は、X線画像データI12に描出された超音波プローブ201を2諧調で表した画像データである。
一方で、ステップS202においてテンプレートT1を生成済みであると判定した場合、第1の特定機能44cは、ステップS201において受信したX線画像データ(X線画像データI1m・・・X線画像データI1n)に対する2値化処理を実行して画像データを生成する。例えば、ステップS201においてX線画像データI1mを受信した場合、第1の特定機能44cは、X線画像データI1mに対する2値化処理を実行して、画像データI2mを生成する。
次に、第1の特定機能44cは、テンプレートT1を用いて、超音波プローブ201の位置を特定する(ステップS207)。例えば、ステップS201においてX線画像データI1mを受信した場合、第1の特定機能44cは、テンプレートT1と画像データI2mとをマッチングすることにより、超音波プローブ201のX線画像データI1m上での位置を特定する。一例を挙げると、第1の特定機能44cは、画像データI2mにおいてテンプレートT1に類似するパターンの位置を検索することにより、超音波プローブ201のX線画像データI1m上での位置を特定する。
上述したように、第1の特定機能44cは、X線画像データI12については、X線画像データI12上で超音波プローブ201に対応する指定領域R2を指定する操作を受け付けることにより、超音波プローブ201の位置を特定する。また、第1の特定機能44cは、X線画像データI12の後に撮像された複数のX線画像データ(X線画像データI1m・・・X線画像データI1n)については、指定領域R2に基づくテンプレートT1とのマッチングにより、超音波プローブ201の位置を特定する。即ち、第1の特定機能44cは、X線画像データI12の後に撮像された複数のX線画像データ(X線画像データI1m・・・X線画像データI1n)については、X線画像データI12上で指定された指定領域R2を追跡することにより、超音波プローブ201の位置を特定する。
次に、第2の特定機能44dは、特定領域R1を切り出す(ステップS208)。例えば、第2の特定機能44dは、X線画像データI12に対する2値化処理によって画像データI22を生成し、画像データI22から、超音波プローブ201の位置を含む特定領域R1を切り出す。なお、第2の特定機能44dは、指定領域R2を特定領域R1として用いることとしてもよい。また、例えば、第2の特定機能44dは、ステップS206において生成された画像データから、超音波プローブ201の位置を含む特定領域R1を切り出す。
次に、第2の特定機能44dは、超音波プローブ201の構造を示す3次元データM1を用いて、特定領域R1における超音波プローブ201の向きを特定する(ステップS209)。具体的には、第2の特定機能44dは、3次元データM1と特定領域R1とをマッチングすることにより、特定領域R1における超音波プローブ201の向きを特定する。そして、送信機能44eは、第1の特定機能44cにより特定された超音波プローブ201の位置、及び、第2の特定機能44dにより特定された超音波プローブ201の向きをX線診断装置10に対して送信する(ステップS210)。その後、処理回路44は、再度ステップS201に移行し、X線診断装置10から更にX線画像データを受信したか否かを判定する。ここで、X線診断装置10からX線画像データを受信しない場合(ステップS201否定)、処理回路44は、処理を終了する。
X線診断装置10における受信機能110dは、医用情報処理装置40から送信された超音波プローブ201の位置及び向きを受信し、メモリ107に格納する。また、受信機能110dは、超音波診断装置20から、超音波プローブ201を用いて撮像された超音波画像データを受信し、メモリ107に格納する。そして、表示制御機能110eは、超音波プローブ201の位置及び向きに応じて、超音波プローブ201を用いて撮像された超音波画像データをX線画像データ上に表示させる。ここで、表示制御機能110eは、時系列的に収集されたX線画像データ及び超音波画像データを順次表示させる。即ち、表示制御機能110eは、超音波プローブ201の位置及び向きに応じてX線画像データと超音波画像データとを位置合わせしつつ、X線画像データ及び超音波画像データをリアルタイム表示する。
或いは、表示制御機能110eは、超音波プローブ201の位置及び向きに応じて、超音波プローブ201の撮像領域をX線画像データ上に表示させる。或いは、医用情報処理装置40における表示制御機能44fが、超音波プローブ201の位置及び向きに応じて、X線画像データ上に超音波画像データ又は超音波プローブ201の撮像領域を表示させる場合であってもよい。
なお、図9においては、X線画像データI12上で、超音波プローブ201に対応する領域(指定領域R2)を指定する操作を受け付ける場合について説明した。しかしながら、実施形態はこれに限定されるものではない。例えば、第1の特定機能44cは、X線画像データI12上で、超音波プローブ201に対応する1又は複数の点(指定点)を指定する操作を受け付ける場合であってもよい。
この場合、第1の特定機能44cは、X線画像データI12の後に撮像された複数のX線画像データ(X線画像データI1m・・・X線画像データI1n)において、指定点を追跡することにより、超音波プローブ201の複数のX線画像データ上での位置を特定する。例えば、第1の特定機能44cは、X線画像データI12において、指定点に対応する画素の画素値や周辺画素との画素値の差を、指定点の特徴情報として取得する。そして、第1の特定機能44cは、複数のX線画像データ(X線画像データI1m・・・X線画像データI1n)において、同様の特徴情報を有する画素の位置を特定することにより、超音波プローブ201の複数のX線画像データ上での位置を特定する。
上述したように、第2の実施形態によれば、第1の特定機能44cは、X線画像データI12上で超音波プローブ201に対応する点又は領域を指定する操作を受け付け、X線画像データI12の後に撮像された複数のX線画像データ(X線画像データI1m・・・X線画像データI1n)において、指定された点又は領域を追跡することにより、超音波プローブ201の複数のX線画像データ上での位置を特定する。従って、第2の実施形態に係る医用情報処理装置40は、X線画像データと、超音波プローブ201を用いて撮像された超音波画像データとの位置合わせを可能とすることができる。
また、医用情報処理装置40は、超音波プローブ201の位置の特定と超音波プローブ201の向きの特定とを切り離して実行することにより、計算量を低減して処理時間を短縮することができる。また、医用情報処理装置40は、超音波プローブ201の位置の特定と超音波プローブ201の向きの特定とを切り離して、それぞれをより高い精度で実行することにより、超音波プローブ201が小型であり、形状特徴が少ない場合においても、超音波プローブ201の位置及び向きを特定することができる。
なお、これまで、3次元データM1を用いて超音波プローブ201の向きを特定する場合について説明した。しかしながら、実施形態はこれに限定されるものではない。例えば、第1の特定機能44c及び第2の特定機能44dは、X線画像データI12の後に撮像された複数のX線画像データ(X線画像データI1m・・・X線画像データI1n)において、指定された点又は領域を追跡することにより、超音波プローブ201の複数のX線画像データ上での位置及び向きを特定する場合であってもよい。
具体的には、まず、第1の特定機能44cは、X線画像データI12上で、超音波プローブ201に対応する点(指定点)を少なくとも3つ指定する操作を受け付ける。次に、第1の特定機能44cは、複数のX線画像データ(X線画像データI1m・・・X線画像データI1n)において、少なくとも3つの指定点を追跡する。これにより、第1の特定機能44cは、複数のX線画像データにおいて、超音波プローブ201の位置を特定する。更に、第2の特定機能44dは、少なくとも3つの指定点の相対的な位置関係に基づいて、第1の特定機能44cによって特定された位置における超音波プローブ201の向きを特定する。
(第3の実施形態)
上述した第1~第2の実施形態では、超音波プローブ201を撮像した2次元のX線画像データを用いて、超音波プローブ201のX線画像データ上での位置を特定する場合について説明した。これに対し、第3の実施形態では、超音波プローブ201を撮像した2次元のX線画像データを用いずに、超音波プローブ201の位置を特定する場合について説明する。
第3の実施形態に係る医用情報処理装置40は、図4に示した第1の実施形態に係る医用情報処理装置40と同様の構成を有し、第1の特定機能44c及び第2の特定機能44dにおける処理の一部が相違する。第1の実施形態において説明した構成と同様の構成を有する点については、図1~図4と同一の符号を付し、説明を省略する。
例えば、医用情報処理装置40は、図10に示すように、X線診断装置10からの通知に応じて超音波プローブ201の位置及び向きを特定し、特定した位置及び向きをX線診断装置10に送信する。ここで、図10は、第3の実施形態に係る医用情報処理システム1の処理の一連の流れを説明するためのフローチャートである。
具体的には、まず、X線診断装置10における収集機能110bは、TEEプローブである超音波プローブ201が挿入された被検体Pに対して、X線管102からX線を照射する(ステップS21)。この際、収集機能110bは、X線診断装置10の撮像部を制御することによって、超音波プローブ201が撮像領域に含まれるようにX線の照射範囲及び照射角度を制御する。また、この際、X線検出器106は、X線管102から照射されて被検体Pを透過したX線を検出して、検出したX線量に対応した検出信号を処理回路110へと出力する。
また、X線診断装置10における送信機能110cは、医用情報処理装置40への通知を行なう。例えば、送信機能110cは、X線が照射された時刻を医用情報処理装置40に通知する。即ち、送信機能110cは、X線画像データI11の撮像時間を医用情報処理装置40に通知する。また、医用情報処理装置40における第1の特定機能44c及び第2の特定機能44dは、X線診断装置10からの通知に基づいて、X線照射が照射された時刻における超音波プローブ201の位置及び向きを特定する(ステップS22)。また、X線診断装置10における収集機能110bは、X線検出器106から受信した検出信号に基づいてX線画像データI11を生成し、生成したX線画像データI11をメモリ107に格納する(ステップS23)。また、医用情報処理装置40における送信機能44eは、超音波プローブ201の位置及び向きをX線診断装置10に対して送信する(ステップS24)。
ここで、医用情報処理装置40における処理について、図11を用いてより詳細に説明する。図11は、第3の実施形態に係る医用情報処理装置40の処理の一連の流れを説明するためのフローチャートである。図11において、ステップS301は、受信機能44bに対応するステップである。また、ステップS302は、第1の特定機能44cに対応するステップである。また、ステップS303は、第2の特定機能44dに対応するステップである。また、ステップS304は、送信機能44eに対応するステップである。
まず、受信機能44bは、X線診断装置10から撮像時間の通知を受けたか否かを判定する(ステップS301)。ここで、通知を受けた場合(ステップS301肯定)、第1の特定機能44cは、磁気センサ等の位置センサを用いて、通知された撮像時間における超音波プローブ201の位置を特定する(ステップS302)。
例えば、第1の特定機能44cは、超音波プローブ201が備える位置センサにより検出された位置情報に基づいて、超音波プローブ201の位置を特定する。この場合、第1の特定機能44cは、事前にX線診断装置10に対する位置センサの位置校正を行なう。例えば、第1の特定機能44cは、超音波プローブ201が被検体Pに挿入されるより前に位置校正を行なう。
一例を挙げると、まず、位置センサを備える超音波プローブ201がX線診断装置100により撮像される。次に、第1の特定機能44cは、撮像されたX線画像データに含まれる超音波プローブ201の位置に基づいて、X線座標系における超音波プローブ201の座標を算出する。より具体的には、第1の特定機能44cは、超音波プローブ201が備える位置センサのX線座標系における座標を算出する。ここで、位置センサがX線画像データに描出される場合、第1の特定機能44cは、X線画像データに基づいて、位置センサのX線座標系における座標を算出することができる。また、位置センサがX線画像データに描出されない場合、第1の特定機能44cは、超音波プローブ201の設計情報等に基づいて、位置センサの超音波プローブ201上での位置を取得することにより、位置センサのX線座標系における座標を算出することができる。更に、受信機能44bは、X線画像データの撮像時における位置センサの位置情報を超音波診断装置20から受信する。これにより、第1の特定機能44cは、位置センサにより検出される位置情報をX線座標系に対応付ける。
校正が完了した後、被検体Pに超音波プローブ201が挿入される。ここで、メモリ250は、位置センサにより検出される超音波プローブ201の位置情報を時刻に対応付けて順次記憶する。更に、X線診断装置10から撮像時間の通知を受けた場合、第1の特定機能44cは、超音波プローブ201が備える位置センサにより検出された位置情報を取得する。例えば、第1の特定機能44cは、メモリ250に記憶された位置情報の中から、通知された撮像時間に対応付いた位置情報を取得する。そして、第1の特定機能44cは、取得した位置情報に基づいて、X線画像データI11の撮像時間における超音波プローブ201の位置をX線座標系において特定する。
更に、第2の特定機能44dは、ハンドル信号を用いて、通知された撮像時間における超音波プローブ201の向きを特定する(ステップS303)。ここで、ハンドル信号は、超音波プローブ201の向きを操作するために用いられる信号である。例えば、超音波プローブ201は、ケーブルを介してハンドル部に接続され、操作者は、ハンドル部を操作してハンドル信号を入力することにより、超音波プローブ201の向きを操作する。ここで、ハンドル部は、超音波プローブ201の回転及び移動を検出する第1センサ(ポテンショメータ等)を備える。
例えば、第2の特定機能44dは、事前にハンドル部が備えるセンサの校正を行なう。一例を挙げると、ハンドル部は、超音波プローブ201の回転及び移動を検出する第1センサに加えて、位置センサ(以下、第2センサ)を複数備える。この場合、まず、ハンドル部がX線診断装置100により撮像され、第2の特定機能44dは、X線画像データに基づいて、ハンドル部が備える複数の第2センサのX線座標系における座標を算出する。これにより、第2の特定機能44dは、ハンドル部の位置及び向きをX線座標系に対応付ける。ここで、ハンドル部に対する超音波プローブ201の向きはハンドル信号により制御されるため、ハンドル部の位置及び向きをX線座標系に対応付けることで、超音波プローブ201の回転及び移動を検出する第1センサを校正することが可能となる。例えば、第2の特定機能44dは、超音波プローブ201が被検体Pに挿入されるより前に、天井方向(鉛直方向)を「0」とするように、第1センサの校正を行なう。これにより、第2の特定機能44dは、ハンドル部が備える第1センサにより検出される超音波プローブ201の配向情報をX線座標系に対応付ける。
校正が完了した後、被検体Pに超音波プローブ201が挿入される。ここで、X線座標系に対してハンドル部の位置及び向きが対応付いており、かつ、ハンドル部に対する超音波プローブ201の向きはハンドル信号により制御されるものであることから、ハンドル信号に基づいて、超音波プローブ201の配向情報をX線座標系において算出することが可能である。例えば、メモリ250は、ハンドル信号に基づく配向情報を時刻に対応付けて順次記憶する。更に、X線診断装置10から撮像時間の通知を受けた場合、第2の特定機能44dは、ハンドル信号に基づく配向情報を取得する。例えば、第2の特定機能44dは、メモリ250に記憶された配向情報の中から、通知された撮像時間に対応付いた配向情報を取得する。そして、第2の特定機能44dは、取得した配向情報に基づいて、X線画像データI11の撮像時間における超音波プローブ201の向きをX線座標系において特定する。
なお、ハンドル部の位置及び向きをX線座標系に対応付けることで超音波プローブ201の回転及び移動を検出する第1センサを校正する場合について説明したが、実施形態はこれに限定されるものではない。例えば、ハンドル部と超音波プローブ201とを接続するケーブルにおいて屈曲等しない部分(非可動部)がある場合、第2の特定機能44dは、ケーブルの非可動部の位置及び向きをX線座標系に対応付けることで、第1センサを校正してもよい。
次に、送信機能44eは、第1の特定機能44cにより特定された超音波プローブ201の位置、及び、第2の特定機能44dにより特定された超音波プローブ201の向きをX線診断装置10に対して送信する(ステップS304)。その後、処理回路44は、再度ステップS301に移行し、X線診断装置10から更に通知を受けたか否かを判定する。ここで、X線診断装置10から通知を受けない場合(ステップS301否定)、処理回路44は、処理を終了する。
図10の説明に戻る。X線診断装置10における受信機能110dは、医用情報処理装置40から送信された超音波プローブ201の位置及び向きを受信し、メモリ107に格納する(ステップS25)。また、受信機能110dは、超音波診断装置20から、超音波プローブ201を用いて撮像された超音波画像データI31を受信し、メモリ107に格納する。そして、表示制御機能110eは、超音波プローブ201の位置及び向きに応じて、超音波プローブ201を用いて撮像された超音波画像データI31をX線画像データI11上に表示させる(ステップS26)。
なお、図11においては、ハンドル信号に基づいて超音波プローブ201の向きを特定する場合について説明したが、実施形態はこれに限定されるものではない。例えば、超音波プローブ201がジャイロセンサを備える場合、第2の特定機能44dは、ジャイロセンサにより検出された回転情報に基づいて、超音波プローブ201の向きを特定してもよい。
一例を挙げると、第2の特定機能44dは、超音波プローブ201が被検体Pに挿入されるより前に、天井方向(鉛直方向)を「0」とするようにジャイロセンサの校正を行なう。これにより、第2の特定機能44dは、ジャイロセンサにより検出される回転情報をX線座標系に対応付ける。そして、校正が完了した後、被検体Pに超音波プローブ201が挿入される。更に、X線診断装置10から撮像時間の通知を受けた場合、第2の特定機能44dは、ジャイロセンサにより検出された回転情報に基づいて、X線画像データI11の撮像時間における超音波プローブ201の向きをX線座標系において特定する。
また、第2の特定機能44dは、超音波プローブ201の回転及び移動のみならず、超音波プローブ201が超音波ビームを送信する方向を考慮して、超音波プローブ201の向きを特定してもよい。即ち、第2の特定機能44dは、超音波プローブ201から送信される超音波がビーム状に集束される超音波ビームの向きを、超音波プローブ201の向きとして特定してもよい。
具体的には、まず、操作者は、入力インターフェース202を介して、ビーム配向信号を入力する。次に、送信回路210のパルサ回路は、ビーム配向信号に基づいて、圧電振動子ごとの送信遅延時間を各レートパルスに付与し、超音波プローブ201に出力する。これにより、操作者は、各レートパルスに与える送信遅延時間を変化させて、圧電振動子面からの超音波ビームの送信方向を任意に調整することができる。ここで、送信機能264は、操作者により入力されたビーム配向信号を医用情報処理装置40に対して送信し、受信機能44bは、ビーム配向信号を受信する。次に、第2の特定機能44dは、ハンドル信号や、ジャイロセンサにより検出された回転情報に基づいて超音波プローブ201の送受信面の向きを算出する。そして、第2の特定機能44dは、算出した超音波プローブ201の送受信面の向きとビーム配向信号とに基づいて超音波ビームの向きを算出し、算出した超音波ビームの向きを超音波プローブ201の向きとして特定する。
上述したように、第3の実施形態によれば、第1の特定機能44cは、超音波プローブ201が備える位置センサにより検出された位置情報に基づいて、超音波プローブ201の位置を特定する。また、第2の特定機能44dは、超音波プローブ201の向きの操作に用いられるハンドル信号に基づいて、超音波プローブ201の向きを特定する。或いは、第2の特定機能44dは、超音波プローブ201が備えるジャイロセンサにより検出された回転情報に基づいて、超音波プローブ201の向きを特定する。従って、第3の実施形態に係る医用情報処理装置40は、超音波プローブ201の位置及び向きを特定して、X線画像データと、超音波プローブ201を用いて撮像された超音波画像データとの位置合わせを可能とすることができる。
また、第2の特定機能44dは、更に、超音波プローブ201から送信される超音波ビームの向きの操作に用いられるビーム配向信号に基づいて、超音波プローブ201の向きを特定する。従って、第3の実施形態に係る医用情報処理装置40は、超音波プローブ201の向きをより高い精度で特定して、X線画像データと超音波画像データとの位置合わせの精度を向上させることができる。
また、第2の特定機能44dは、超音波プローブ201を撮像したX線画像データを用いずとも、超音波プローブ201の位置及び向きを特定することができる。従って、第3の実施形態に係る医用情報処理装置40は、超音波プローブ201が小型であり、X線画像データに形状特徴が描出されにくい場合においても、超音波プローブ201の位置及び向きを特定することができる。また、第3の実施形態に係る医用情報処理装置40は、X線診断装置10と医用情報処理装置40との間で送受信されるデータのサイズを低減することができる。
また、上述したように、第3の実施形態によれば、第1の特定機能44c及び第2の特定機能44dは、3次元データM1を用いずとも、超音波プローブ201の位置及び向きを特定することができる。従って、第3の実施形態に係る医用情報処理装置40は、超音波プローブ201が他のメーカの製品であり、超音波プローブ201の設計情報を保持しない場合においても、超音波プローブ201の位置及び向きを特定することができる。
なお、位置センサを用いて超音波プローブ201の位置を特定する場合について説明したが、実施形態はこれに限定されるものではない。例えば、第1の特定機能44cは、所定の図形と、超音波プローブ201を撮像した2次元のX線画像データ、又は、X線画像データに基づく2値化画像とをマッチングすることにより、超音波プローブ201の位置を特定してもよい。また、例えば、第1の特定機能44cは、超音波プローブ201を撮像した2次元のX線画像データ上で超音波プローブ201に対応する指定点又は指定領域を指定する操作を受け付け、後に撮像された複数のX線画像データにおいて指定点又は指定領域を追跡することにより、超音波プローブ201の複数のX線画像データ上での位置を特定してもよい。
また、ハンドル信号又はジャイロセンサにより検出された回転情報に基づいて超音波プローブ201の向きを特定する場合について説明したが、実施形態はこれに限定されるものではない。例えば、第2の特定機能44dは、超音波プローブ201の構造を示す3Dデータと、超音波プローブ201を撮像した2次元のX線画像データとに基づいて、超音波プローブ201の向きを特定してもよい。
(第4の実施形態)
第4の実施形態では、異なる方向から超音波プローブ201を撮像した複数の画像データと、超音波プローブ201を撮像した2次元のX線画像データI11とをマッチングすることにより、超音波プローブ201のX線画像データI11上での位置及び向きを特定する場合について説明する。
第4の実施形態に係る医用情報処理装置40は、図4に示した第1の実施形態に係る医用情報処理装置40と同様の構成を有し、第1の特定機能44c及び第2の特定機能44dにおける処理の一部が相違する。第1の実施形態において説明した構成と同様の構成を有する点については、図1~図4と同一の符号を付し、説明を省略する。
医用情報処理装置40は、図5と同様に、X線診断装置10において生成されたX線画像データI11を受信し、受信したX線画像データI11を用いて超音波プローブ201の位置及び向きを特定し、特定した位置及び向きをX線診断装置10に送信する。以下、図12を用いて、医用情報処理装置40における処理について詳細に説明する。図12は、第4の実施形態に係る医用情報処理装置40の処理の一連の流れを説明するためのフローチャートである。
図12において、ステップS401は、受信機能44bに対応するステップである。また、ステップS402、ステップS403、ステップS404、ステップS405及びステップS406は、第1の特定機能44c及び第2の特定機能44dに対応するステップである。なお、本実施形態では、第1の特定機能44cと第2の特定機能44dとを総称して、特定機能44gとも記載する。特定機能44gは、特定部の一例である。また、ステップS407は、送信機能44eに対応するステップである。
まず、受信機能44bは、X線診断装置10からX線画像データI11を受信したか否かを判定する(ステップS401)。X線画像データI11を受信した場合(ステップS401肯定)、受信機能44bは、受信したX線画像データI11をメモリ43に格納する。また、特定機能44gは、X線画像データI11に対する2値化処理を実行して、画像データI21を生成する(ステップS402)。
次に、特定機能44gは、メモリ43から、テンプレートT2を取得する(ステップS403)。ここで、テンプレートT2は、超音波プローブ201を撮像した画像データ(X線画像データや、X線画像データに基づく2値化画像等)である。例えば、メモリ43は、異なる方向から超音波プローブ201を撮像した複数のテンプレートT2を事前に記憶し、特定機能44gは、メモリ43に記憶された複数のテンプレートT2のうちいずれかを取得する。
例えば、X線診断装置10は、被検体Pに超音波プローブ201を挿入するよりも前に、複数方向から超音波プローブ201を撮像する。次にX線診断装置10は、撮像した複数のX線画像データのそれぞれを2値化し、複数の2値化画像を医用情報処理装置40に送信する。この場合、メモリ43は、X線診断装置10から送信された複数の2値化画像を、複数のテンプレートT2として記憶する。或いは、X線診断装置10は、撮像した複数のX線画像データを医用情報処理装置40に送信する。この場合、特定機能44gは、複数のX線画像データのそれぞれを2値化し、メモリ43は、特定機能44gにより生成された複数の2値化画像を、複数のテンプレートT2として記憶する。
例えば、超音波プローブ201が経食道で心臓の検査に用いられるTEEプローブである場合、メモリ43は、LAO(左前斜位:left anterior oblique)、RAO(右前斜位:right anterior oblique)、CRA(頭部方向:cranial)、CAU(尾部方向:caudal)等の各臨床角に対応付けて、複数のテンプレートT2を記憶する。一例を挙げると、メモリ43は、異なる方向を向いた超音波プローブ201をLAO方向から複数撮像し、撮像した複数のX線画像データに基づく複数のテンプレートT2を、LAO方向に対応付けて記憶する。
次に、特定機能44gは、テンプレートT2を用いてマッチング処理を実行する(ステップS404)。即ち、特定機能44gは、テンプレートT2と画像データI21とをマッチングして、画像データI21においてテンプレートT2に類似するパターンの位置及び向きを検索する。
次に、特定機能44gは、超音波プローブ201の位置及び向きを特定したか否かを判定する(ステップS405)。ここで、超音波プローブ201の位置及び向きを特定しなかったと判定した場合(ステップS405否定)、特定機能44gは、新たなテンプレートT2を取得して(ステップS406)、再度ステップS406に移行する。例えば、第1方向を向いた超音波プローブ201をLAO方向から撮像したX線画像データに基づくテンプレートT21を用いてマッチング処理を実行して、超音波プローブ201の位置及び向きを特定しなかったと判定した場合、特定機能44gは、第1方向と異なる第2方向を向いた超音波プローブ201をLAO方向から撮像したX線画像データに基づくテンプレートT22を用いて、マッチング処理を再度実行する。なお、テンプレートT21及びテンプレートT22は、テンプレートT2の一例である。
一方で、超音波プローブ201の位置及び向きを特定したと判定した場合(ステップS405肯定)、特定機能44gは、特定した超音波プローブ201の位置及び向きをX線診断装置10に送信して(ステップS407)、再度ステップS401に移行する。例えば、画像データI21において、第1方向を向いた超音波プローブ201を撮像したX線画像データに基づくテンプレートT21に類似するパターンの位置を検出した場合、特定機能44gは、検出した位置を、超音波プローブ201のX線画像データI11上での位置として特定する。更に、特定機能44gは、第1方向を、超音波プローブ201の向きとして特定する。また、ステップS401においてX線診断装置10からX線画像データI11を受信しない場合(ステップS401否定)、処理回路44は、処理を終了する。
医用情報処理装置40から超音波プローブ201の位置及び向きが送信された場合、X線診断装置10における受信機能110dは、超音波プローブ201の位置及び向きを受信して、メモリ107に格納する。また、受信機能110dは、超音波診断装置20から、超音波プローブ201を用いて撮像された超音波画像データI31を受信し、メモリ107に格納する。そして、表示制御機能110eは、超音波プローブ201の位置及び向きに応じて、超音波プローブ201を用いて撮像された超音波画像データI31をX線画像データI11上に表示させる。
なお、テンプレートT2がX線画像データに基づく2値化画像であるものとして説明したが、実施形態はこれに限定されるものではない。例えば、テンプレートT2は、X線画像データであってもよい。即ち、テンプレートT2の生成に当たって、2値化処理は行われない場合であってもよい。この場合、特定機能44gは、図12のステップS402を省略し、テンプレートT2とX線画像データI11とをマッチングすることにより、超音波プローブ201の位置及び向きを特定する。
また、例えば、テンプレートT2は、超音波プローブ201を光学カメラにより撮像した画像データ、又は、この画像データに基づく2値化画像であってもよい。また、例えば、テンプレートT2は、超音波プローブ201をX線診断装置10以外の医用画像診断装置により撮像した医用画像データ、又は、この医用画像データに基づく2値化画像であってもよい。一例を挙げると、テンプレートT2は、超音波プローブ201をX線CT装置により撮像した画像データ(投影データ、CT画像データに基づくレンダリング画像等)であってもよい。
上述したように、第4の実施形態によれば、メモリ43は、異なる方向から超音波プローブ201を撮像した複数の画像データ(テンプレートT2)を記憶する。また、特定機能44gは、テンプレートT2と、超音波プローブ201を撮像した2次元のX線画像データとをマッチングすることにより、超音波プローブ201のX線画像データ上での位置及び向きを特定する。従って、第4の実施形態に係る医用情報処理装置40は、超音波プローブ201の位置及び向きを特定して、X線画像データと、超音波プローブ201を用いて撮像された超音波画像データとの位置合わせを可能とすることができる。
また、上述したように、特定機能44gは、2次元の画像データであるテンプレートT2を用いて、マッチング処理を実行する。従って、第4の実施形態に係る医用情報処理装置40は、3次元データM1に基づくレンダリング画像を用いてマッチング処理を実行する場合と比較して、レンダリング画像を生成する処理を省略し、計算量を低減することができる。
また、上述したように、第4の実施形態によれば、第1の特定機能44c及び第2の特定機能44dは、3次元データM1を用いずとも、超音波プローブ201の位置及び向きを特定することができる。従って、第4の実施形態に係る医用情報処理装置40は、超音波プローブ201が他のメーカの製品であり、超音波プローブ201の設計情報を保持しない場合においても、超音波プローブ201の位置及び向きを特定することができる。
(第5の実施形態)
第5の実施形態では、超音波プローブ201を撮像した2次元のX線画像データI11の位置及び向きを3次元の医用画像データにおいて特定し、超音波プローブ201を用いて撮像された超音波画像データI31の位置及び向きを3次元の医用画像データにおいて特定することで、超音波プローブ201のX線画像データI11上での位置及び向きを特定する場合について説明する。
第5の実施形態に係る医用情報処理装置40は、図4に示した第1の実施形態に係る医用情報処理装置40と同様の構成を有し、第1の特定機能44c及び第2の特定機能44dにおける処理の一部が相違する。また、第5の実施形態に係る医用情報処理システム1は、図1に示した医用情報処理システム1と比較して、X線CT装置50(図示せず)を更に含む点で相違する。以下、第1の実施形態において説明した構成と同様の構成を有する点については、図1~図4と同一の符号を付し、説明を省略する。
例えば、医用情報処理装置40は、図13に示すように、X線診断装置10、超音波診断装置20及び画像保管装置30からX線画像データI11、超音波画像データI31及びCT画像データI41を受信し、超音波プローブ201のX線画像データI11上での位置及び向きを特定し、特定した位置及び向きをX線診断装置10に送信する。ここで、図13は、第5の実施形態に係る医用情報処理システム1の処理の一連の流れを説明するためのフローチャートである。
具体的には、まず、X線診断装置10における収集機能110bは、TEEプローブである超音波プローブ201が挿入された被検体Pに対して、X線管102からX線を照射する(ステップS31)。この際、収集機能110bは、X線診断装置10の撮像部を制御することによって、超音波プローブ201が撮像領域に含まれるようにX線の照射範囲及び照射角度を制御する。また、この際、X線検出器106は、X線管102から照射されて被検体Pを透過したX線を検出して、検出したX線量に対応した検出信号を処理回路110へと出力する。次に、収集機能110bは、X線検出器106から受信した検出信号に基づいてX線画像データI11を生成し、生成したX線画像データI11をメモリ107に格納する(ステップS32)。次に、X線診断装置10における送信機能110cは、図13に示すように、生成されたX線画像データI11を医用情報処理装置40に対して送信する(ステップS33)。
また、超音波診断装置20における収集機能262は、被検体Pに挿入された超音波プローブ201を用いて超音波走査を実行し、Bモードデータやドプラデータを収集する(ステップS34)。また、収集機能262は、超音波走査により収集したデータから超音波画像データI31を生成し、生成した超音波画像データI31をメモリ250に格納する(ステップS35)。なお、本実施形態では、超音波画像データI31が3次元の超音波画像データである場合について説明する。次に、超音波診断装置20における送信機能264は、図13に示すように、生成された超音波画像データI31を医用情報処理装置40に対して送信する(ステップS36)。なお、ステップS31とステップS34とは略同時に行われる。即ち、X線画像データI11と超音波画像データI31とは、略同時に撮像される。
図13に示すように、医用情報処理装置40における受信機能44bは、X線診断装置10からX線画像データI11を受信し、超音波診断装置20から超音波画像データI31を受信し、画像保管装置30からCT画像データI41を受信して、受信した画像データをメモリ43に格納する(ステップS37)。
ここで、CT画像データI41は、X線CT装置50によって、被検体Pから事前に収集される。例えば、X線CT装置50は、図13のステップS31及びステップS34よりも前に、被検体Pに対するCTスキャンを実行する。即ち、X線CT装置50は、被検体Pに対して複数方向からX線を照射し、被検体Pを透過したX線をX線検出器により検出して、検出データを収集する。また、X線CT装置50は、検出データに基づいて再構成処理を実行し、CT画像データ(ボリュームデータ)を生成する。そして、X線CT装置50は、ネットワークNWを介して、生成したCT画像データを画像保管装置30に送信する。なお、CT画像データは、3次元医用画像の一例である。
次に、第1の特定機能44c及び第2の特定機能44dは、CT画像データI41を用いて、X線画像データI11に対する超音波プローブ201の位置及び向きを特定し(ステップS38)、送信機能44eは、特定された位置及び向きをX線診断装置10に対して送信する(ステップS39)。
ここで、医用情報処理装置40における処理について、図14を用いてより詳細に説明する。図14は、第5の実施形態に係る医用情報処理装置40の処理の一連の流れを説明するためのフローチャートである。図14において、ステップS501及びステップS502は、受信機能44bに対応するステップである。また、ステップS503、ステップS504、ステップS505、ステップS506及びステップS507は、第1の特定機能44c及び第2の特定機能44dに対応するステップである。なお、本実施形態では、第1の特定機能44cと第2の特定機能44dとを総称して、特定機能44gとも記載する。特定機能44gは、特定部の一例である。また、ステップS508は、送信機能44eに対応するステップである。
まず、受信機能44bは、画像保管装置30から被検体PのCT画像データI41を受信して、CT画像データI41をメモリ43に格納する(ステップS501)。また、受信機能44bは、X線画像データI11及び超音波画像データI31を受信したか否かを判定する(ステップS502)。ここで、X線画像データI11及び超音波画像データI31を受信した場合(ステップS502肯定)、受信機能44bは、受信した画像データをメモリ43に格納する。
次に、特定機能44gは、CT画像データI41に基づくレンダリング画像と、X線画像データI11とでマッチング処理を実行し(ステップS503)、CT画像データI41に対するX線画像データI11の位置及び向きを特定する(ステップS504)。
例えば、特定機能44gは、CT画像データI41に対して複数の投影方向からレンダリング処理を実行することで、複数のレンダリング画像を生成する。ここで、特定機能44gは、所定の範囲内の投影方向についてレンダリング処理を実行することとしてもよい。例えば、特定機能44gは、X線画像データI11の撮像時における撮像部(Cアーム105や天板104等)の配置に基づいて、CT画像データI41に対してX線画像データI11が取り得る向きの範囲を設定し、設定した範囲内における複数の投影方向についてレンダリング処理を実行する。
次に、特定機能44gは、複数のレンダリング画像とX線画像データI11とでパターンを比較して、複数のレンダリング画像のうちX線画像データI11とパターンが類似するレンダリング画像を特定する。これにより、特定機能44gは、特定したレンダリング画像のレンダリング方向を、CT画像データI41に対するX線画像データI11の向きとして特定する。また、特定機能44gは、特定したレンダリング画像においてX線画像データI11とパターンが類似する位置に基づいて、CT画像データI41に対するX線画像データI11の位置を特定する。
次に、特定機能44gは、CT画像データI41と超音波画像データI31とで、レジストレーション処理(位置合わせ)を実行し(ステップS505)、CT画像データI41に対する超音波画像データI31の位置及び向きを特定する(ステップS506)。ここで、特定機能44gは、任意の方法により、CT画像データI41と超音波画像データI31とのレジストレーションを実行することができる。
例えば、特定機能44gは、CT画像データI41及び超音波画像データI31のそれぞれから複数の特徴点(ランドマーク)を検出する。一例を挙げると、超音波プローブ201が経食道で心臓の検査に用いられるTEEプローブである場合、特定機能44gは、CT画像データI41及び超音波画像データI31のそれぞれから、特徴点として、血管の分岐点や弁(僧帽弁、大動脈弁等)を検出する。そして、特定機能44gは、検出した特徴点を基準として、CT画像データI41と超音波画像データI31とのレジストレーション処理を実行する。なお、ステップS503及びステップS504と、ステップS505及びステップS506とを行なう順序は任意であり、並行して行なう場合であってもよい。
次に、特定機能44gは、CT画像データI41に対するX線画像データI11の位置及び向きと、CT画像データI41に対する超音波画像データI31の位置及び向きとに基づいて、X線画像データI11に対する超音波プローブ201の位置及び向きを特定する(ステップS507)。例えば、特定機能44gは、CT画像データI41に対するX線画像データI11の位置及び向きと、CT画像データI41に対する超音波画像データI31の位置及び向きとに基づいて、X線画像データI11に対する超音波画像データI31の位置及び向きを特定する。ここで、超音波画像データI31に対する超音波プローブ201の位置及び向きは明らかであるから、特定機能44gは、X線画像データI11に対する超音波プローブ201の位置及び向きを特定することができる。即ち、特定機能44gは、CT画像データI41を介して、X線座標系と超音波座標系とを対応付けることができる。そして、送信機能44eは、超音波プローブ201の位置及び向きを、X線診断装置10に対して送信する(ステップS508)。
図13の説明に戻る。X線診断装置10における受信機能110dは、医用情報処理装置40から送信された超音波プローブ201の位置及び向きを受信し、メモリ107に格納する(ステップS40)。また、受信機能110dは、超音波診断装置20から、超音波プローブ201を用いて撮像された超音波画像データI31を受信し、メモリ107に格納する。そして、表示制御機能110eは、超音波プローブ201の位置及び向きに応じて、超音波プローブ201を用いて撮像された超音波画像データI31をX線画像データI11上に表示させる(ステップS41)。
上述したように、第5の実施形態によれば、特定機能44gは、超音波プローブ201を撮像した2次元のX線画像データI11の位置及び向きをCT画像データI41において特定し、超音波プローブ201を用いて撮像された超音波画像データI31の位置及び向きをCT画像データI41において特定することで、超音波プローブ201のX線画像データI11上での位置及び向きを特定する。従って、第5の実施形態に係る医用情報処理装置40は、超音波プローブ201の位置及び向きを特定して、X線画像データと、超音波プローブ201を用いて撮像された超音波画像データとの位置合わせを可能とすることができる。
また、上述したように、第5の実施形態によれば、第1の特定機能44c及び第2の特定機能44dは、3次元データM1を用いずとも、超音波プローブ201の位置及び向きを特定することができる。従って、第5の実施形態に係る医用情報処理装置40は、超音波プローブ201が他のメーカの製品であり、超音波プローブ201の設計情報を保持しない場合においても、超音波プローブ201の位置及び向きを特定することができる。
なお、図13及び図14においては、3次元医用画像の一例として、CT画像データI41について説明した。しかしながら、実施形態はこれに限定されるものではない。例えば、特定機能44gは、CT画像データI41に代えて、MRI(Magnetic Resonance Imaging)装置等の他の医用画像診断装置によって収集された3次元画像データを用いてもよいし、X線診断装置10によって収集された3次元X線画像データを用いてもよい。
例えば、X線診断装置10は、図13のステップS31及びステップS34よりも前に、被検体Pに対する回転撮影を実行する。即ち、X線診断装置10は、Cアーム105を被検体Pの周囲で回転させながら所定のフレームレートで投影データを収集し、収集した投影データから3次元X線画像データを再構成して、画像保管装置30に送信する。そして、特定機能44gは、超音波プローブ201を撮像した2次元のX線画像データI11の位置及び向きを3次元X線画像データにおいて特定し、超音波プローブ201を用いて撮像された超音波画像データI31の位置及び向きを3次元X線画像データにおいて特定することで、超音波プローブ201のX線画像データI11上での位置及び向きを特定する。
(第6の実施形態)
さて、これまで第1~第5の実施形態について説明したが、上述した第1~第5の実施形態以外にも、種々の異なる形態にて実施されてよいものである。
図7においては、X線画像データI11又は画像データI21において超音波プローブ201を検出することにより、超音波プローブ201のX線画像データI11上での位置を特定する場合について説明した。しかしながら、実施形態はこれに限定されるものではない。
例えば、第1の特定機能44cは、X線画像データI11又は画像データI21において、超音波プローブ201に接続されるケーブルを抽出することにより、超音波プローブ201のX線画像データI11上での位置を特定してもよい。一例を挙げると、第1の特定機能44cは、まず、X線画像データI11の端部においてケーブルを抽出する。次に、第1の特定機能44cは、抽出したケーブルの位置(X線画像データI11の端部)を始点として、画素値の連続性に基づいてケーブルをトレースする。そして、第1の特定機能44cは、トレースしたケーブルの終点の位置を、超音波プローブ201のX線画像データI11上での位置として特定する。
また、例えば、第1の特定機能44cは、X線画像データI11において、超音波プローブ201が有する部品(例えば、トランジスタ等)を抽出することにより、超音波プローブ201のX線画像データI11上での位置を特定してもよい。また、例えば、第1の特定機能44cは、X線画像データI11において、超音波プローブ201に付されたマーカ(例えば、星形の金属等)を抽出することにより、超音波プローブ201のX線画像データI11上での位置を特定してもよい。
また、上述した実施形態では、X線診断装置10における表示制御機能110e、又は、医用情報処理装置40における表示制御機能44fが、超音波プローブ201を撮像した2次元のX線画像データ上に、超音波プローブ201を用いて撮像された超音波画像データ、又は、超音波プローブ201の撮像領域を表示させる場合について説明した。しかしながら、実施形態はこれに限定されるものではない。例えば、超音波診断装置20における表示制御機能263が、超音波プローブ201を撮像した2次元のX線画像データ上に、超音波プローブ201を用いて撮像された超音波画像データ、又は、超音波プローブ201の撮像領域を表示させる場合であってもよい。
また、上述した実施形態では、医用情報処理装置40の処理回路44が、第1の特定機能44c及び第2の特定機能44dを有するものとして説明した。しかしながら、実施形態はこれに限定されるものではない。例えば、X線診断装置10や超音波診断装置20等の他の装置が、第1の特定機能44c及び第2の特定機能44dに相当する機能を有する場合であってもよい。
一例を挙げると、X線診断装置10の処理回路110は、図2に示した各機能に加えて、第1の特定機能110f及び第2の特定機能110gを有する。この場合、収集機能110bは、超音波プローブ201を撮像した2次元のX線画像データを収集する。また、第1の特定機能110fは、例えば、所定の図形と、収集機能110bにより収集された2次元のX線画像データとをマッチングすることにより、超音波プローブ201のX線画像データ上での位置を特定する。或いは、第1の特定機能110fは、所定の図形と、収集機能110bにより収集された2次元のX線画像データに基づく2値化画像とをマッチングすることにより、超音波プローブ201のX線画像データ上での位置を特定する。或いは、第1の特定機能110fは、収集機能110bにより収集された2次元のX線画像データにおいて、超音波プローブ201に接続されるケーブルを抽出することにより、超音波プローブ201のX線画像データ上での位置を特定する。
或いは、第1の特定機能110fは、収集機能110bにより収集された2次元のX線画像データ上で、超音波プローブ201に対応する点又は領域を指定する操作を受け付ける。更に、第1の特定機能110fは、収集機能110bにより後に収集された複数のX線画像データにおいて、指定された点又は領域を追跡することにより、超音波プローブ201の複数のX線画像データ上での位置を特定する。ここで、第1の特定機能110f及び第2の特定機能110gは、超音波プローブ201に対応する点を少なくとも3つ指定する操作を受け付けて、これら少なくとも3つの点を追跡することにより、超音波プローブ201の複数のX線画像データ上での位置及び向きを特定してもよい。或いは、第1の特定機能110fは、超音波プローブ201が備える位置センサにより検出された位置情報に基づいて、超音波プローブ201の位置を特定する。
また、第2の特定機能110gは、超音波プローブ201の向きを特定する。例えば、第2の特定機能110gは、超音波プローブ201の構造を示す3次元データM1と、超音波プローブ201を撮像した2次元のX線画像データとに基づいて、第1の特定機能110fによって特定された位置における超音波プローブ201の向きを特定する。
また、例えば、第2の特定機能110gは、超音波プローブ201の向きの操作に用いられるハンドル信号に基づいて、超音波プローブ201の向きを特定する。また、例えば、第2の特定機能110gは、超音波プローブ201が備えるジャイロセンサにより検出された回転情報に基づいて、超音波プローブ201の向きを特定する。ここで、第2の特定機能110gは、超音波プローブ201から送信される超音波ビームの向きの操作に用いられるビーム配向信号を更に用いて、超音波プローブ201の向きを特定してもよい。
別の例を挙げると、X線診断装置10の処理回路110は、図2に示した各機能に加えて、特定機能110hを有する。この場合、例えば、X線診断装置10のメモリ107は、異なる方向から超音波プローブ201を撮像した複数の画像データを記憶する。ここで、メモリ107が記憶する複数の画像データは、X線画像データであってもよいし、X線診断装置10以外の医用画像診断装置により撮像される医用画像データであってもよいし、光学カメラにより撮像される画像データであってもよいし、これらの2値化画像であってもよい。また、特定機能110hは、メモリ107が記憶する複数の画像データと、超音波プローブ201を撮像した2次元のX線画像データとをマッチングすることにより、超音波プローブ201のX線画像データ上での位置及び向きを特定する。或いは、特定機能110hは、超音波プローブ201を撮像した2次元のX線画像データの位置及び向きを3次元医用画像において特定し、超音波プローブ201を用いて撮像された超音波画像データの位置及び向きを3次元医用画像において特定することで、超音波プローブ201のX線画像データ上での位置及び向きを特定する。
上述した実施形態に係る各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。即ち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的又は物理的に分散・統合して構成することができる。更に、各装置にて行われる各処理機能は、その全部又は任意の一部が、CPU及び当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現されうる。
また、上述した実施形態で説明した超音波プローブの位置及び向きの特定方法は、予め用意された医用情報処理プログラムをパーソナルコンピュータやワークステーション等のコンピュータで実行することによって実現することができる。このプログラムは、インターネット等のネットワークを介して配布することができる。また、この医用情報処理プログラムは、ハードディスク、フレキシブルディスク(FD)、CD-ROM、MO、DVD等のコンピュータで読み取り可能な非一過性の記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行することもできる。
以上説明した少なくとも1つの実施形態によれば、X線画像と超音波画像との位置合わせを可能とすることができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行なうことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。