JP6312898B2 - 情報処理装置、情報処理方法及びプログラム - Google Patents

情報処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
JP6312898B2
JP6312898B2 JP2017083692A JP2017083692A JP6312898B2 JP 6312898 B2 JP6312898 B2 JP 6312898B2 JP 2017083692 A JP2017083692 A JP 2017083692A JP 2017083692 A JP2017083692 A JP 2017083692A JP 6312898 B2 JP6312898 B2 JP 6312898B2
Authority
JP
Japan
Prior art keywords
image
deformation
information processing
subject
information indicating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2017083692A
Other languages
English (en)
Other versions
JP2017124286A (ja
Inventor
亮 石川
亮 石川
佐藤 清秀
清秀 佐藤
石田 卓也
卓也 石田
遠藤 隆明
隆明 遠藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Publication of JP2017124286A publication Critical patent/JP2017124286A/ja
Application granted granted Critical
Publication of JP6312898B2 publication Critical patent/JP6312898B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G06T7/344Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Quality & Reliability (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Description

本発明は、画像を処理する情報処理装置及び情報処理方法、並びに、当該情報処理方法をコンピュータに実行させるためのプログラムに関する。
医療の分野において、医師は、被検体を撮影した医用画像(被検体内部の三次元的な情報を表す断層画像群からなる三次元画像)をモニタに表示し、表示された医用画像を読影して病変部の診断を行う。断層画像群を撮影する医用画像収集装置(以下、「モダリティ」と称する)としては、超音波画像診断装置(超音波画像撮影装置)や、磁気共鳴画像装置(以下、「MRI装置」と称する)、X線コンピュータ断層撮影装置(以下、「X線CT装置」と称する)などが挙げられる。
これらのモダリティで撮影された個々の断層画像群を観察するだけでは、病変部の状態を正しく診断することは困難である。そこで、複数のモダリティで撮影されたそれぞれの断層画像群や、異なる日時に撮影されたそれぞれの断層画像群中の病変部を比較することによって、病変部の状態を正しく診断しようとする試みがなされている。
複数種類の断層画像群を診断に利用するためには、それぞれの断層画像群において注目病変部等の対応付けを図ることが重要である。モダリティの違いや被検体の変形等の影響で画像処理による対応付けの自動化が困難であるため、医師等の操作者は、画像を見ながら手動で対応付けの作業を行うことが一般的である。この場合、操作者は、一方の画像群で指摘されている注目病変部を見ながら、その病変部の形状やその周辺部の見え方等の類似性を手がかりにして、他方の画像群からその病変部に対応する部位(対応病変部)を探索している。
現在、この対応付けの作業を補助する試みがなされている。
例えば、下記の特許文献1では、X線CT等の三次元画像上で指摘した病変部の位置に関する情報を超音波断層画像上に重畳表示することで、超音波断層画像上における対応病変部の探索を支援している。具体的に、特許文献1では、三次元画像と超音波断層画像との位置合わせを行うことで三次元画像の空間における超音波断層画像の位置を得て、注目病変部が超音波断面に交わる場合にその境界線からなる領域を超音波断層画像上に描画する。これにより、注目病変部に対応する超音波断層画像中の対応病変部の探索が容易になる。
また、下記の特許文献2には、三次元画像と超音波断層画像との位置合わせを行った上で、注目病変部と超音波断層画像との間の距離を表す情報を超音波断層画像上に描画する技術が示されている。
特開2008−246264号公報 特開2008−212680号公報
しかしながら、超音波探触子の位置及び姿勢の計測精度には少なからず誤差が含まれ、また、参照画像の撮影時と超音波断層画像の撮影時とでは、被検体の形状は必ずしも一致していない。そのため、超音波断層画像の座標系における対応病変部の推定位置には誤差が含まれており、実際の対応病変部の位置とはずれる場合がある。このため、上記位置ずれの程度によっては、ユーザは対応病変部を同定できない、つまり見つけられない可能性がある。この場合、結局、ユーザが超音波断層画像全体から対応病変部を探索することになり、探索の効率が低い。
そこで、本発明は、探索対象とする領域の特定を容易にすることを第1の目的とする。
また、本発明は、上述の誤差が正確に予測できない場合でも、ユーザが効率的に対応病変部を同定できるようにすることを第2の目的とする。
発明の情報処理装置は被検体の第1画像を取得する第1画像取得手段と、前記被検体の第2画像を取得する第2画像取得手段と、前記第1画像の注目領域を示す情報を取得する注目領域取得手段と、前記第1画像と前記第2画像との間の変形の変動範囲を示す情報を取得する変動範囲取得手段と、前記注目領域を示す情報と、前記変形の変動範囲を示す情報とに基づいて当該注目領域の変動範囲を示す情報を取得する注目領域変動取得手段と、前記注目領域の変動範囲を示す情報に基づいて、前記第2画像に前記注目領域の変動範囲を表示させる表示制御手段と、を有する。
また、本発明は、上述した情報処理装置による情報処理方法、及び、当該情報処理方法をコンピュータに実行させるためのプログラムを含む。
本発明によれば、ユーザが対応病変部を探索する際の目安として、位置推定の誤差を考慮した対応病変部の存在確率が断層画像上に提示される。その結果、必要以上に広い範囲を探してしまうというユーザの不要な作業を減らし、探索の作業負荷を軽減することができる。
第1の実施形態に係る情報処理システムの機器構成を示す図である。 コンピュータの基本構成を示す図である。 情報処理装置100の処理手順を示すフローチャートである。 情報処理装置100による表示形態の一例を示す図である。 第2の実施形態に係る情報処理システムの機器構成を示す図である。 情報処理装置500の処理手順を示すフローチャートである。 第4の実施形態に係る情報処理システムの機能構成の一例を示す模式図である。 第4の実施形態に係る情報処理システムのハードウェア構成の一例を示す模式図である。 第4の実施形態に係る情報処理装置による情報処理方法の処理手順の一例を示すフローチャートである。 第4の実施形態を示し、図9のステップS370の処理を説明する模式図である。 第4の実施形態を示し、図9のステップS400の処理を説明する模式図である。 第5の実施形態に係る情報処理システムの機能構成の一例を示す模式図である。 第5の実施形態に係る情報処理装置による情報処理方法の処理手順の一例を示すフローチャートである。 第5の実施形態を示し、図13のステップS670の処理を説明する模式図である。 第6の実施形態に係る情報処理システムの機能構成の一例を示す模式図である。 第6の実施形態に係る情報処理装置による情報処理方法の処理手順の一例を示すフローチャートである。 第6の実施形態を示し、図16のステップS890の処理を説明する模式図である。
以下、添付図面を参照しながら本発明の好ましい実施形態に係る情報処理システム(情報処理装置)について詳細に説明する。ただし、発明の範囲はこれらの実施形態に限定されるものではない。
(第1の実施形態)
第1の実施形態に係る情報処理システムは、三次元画像データ等の参照画像中の注目領域に対応する領域が存在する確率の分布(以下、「存在確率分布」と称する)を、実時間で撮影している超音波断層画像等の対象画像中に表示する。注目領域が注目病変部である場合、これに対応する領域は対応病変部である。そうすることで、医師及び技師等の操作者が超音波断層画像上で対応領域を容易に探索して同定できるようにする。
図1は、第1の実施形態に係る情報処理システムの構成を示す図である。
図1に示すように、本実施形態における情報処理装置100には、断層画像取得部110、位置姿勢取得部112、三次元画像データ取得部120、注目領域取得部122、断面画像生成部130、分布取得部135、画像合成部140及び表示制御部150が含まれる。また、情報処理装置100は、データサーバ190及び第2医用画像収集装置180に接続されている。データサーバ190は、三次元画像データ及び後に記述する誤差要因情報等を保持する。また、第2医用画像収集装置180は、例えば超音波画像診断装置であり、被検体の超音波断層画像を撮像する。
次に、情報処理装置100の動作の概要について説明する。
<三次元画像データの取得>
データサーバ190が保持する三次元画像データは、第1医用画像収集装置170によって被検体を予め撮像して得られた画像である。以下の説明では、第1医用画像収集装置170としてMRI装置が用いられることとするが、第1医用画像収集装置170としては、他にX線CT装置等が用いられてもよい。本実施形態では、三次元画像データは、三次元のボクセルに輝度値を格納した三次元ボリュームデータとして表現されているものとする。また、各ボクセルの座標はMRI装置座標系で表現されているものとする。データサーバ190が保持する三次元画像データは、三次元画像データ取得部120により取得され、情報処理装置100に入力される。
<注目領域の取得>
更に、データサーバ190は、三次元画像データ中の注目領域を表す情報を保持している。この注目領域を表す情報の詳細については後述する。データサーバ190が保持する注目領域を表す情報は、注目領域取得部122により取得され、情報処理装置100に入力される。なお、以下の説明では、注目領域を表す情報も、三次元画像データと同様にMRI装置座標系で表されているものとする。また、データサーバ190は、対応領域の存在確率分布を算出するための情報を保持している。この対応領域の存在確率分布を算出するための情報は誤差要因情報であり、その詳細については後述する。データサーバ190が保持する誤差要因情報は、分布取得部135を介して情報処理装置100に入力される。
<断層画像の取得>
超音波画像診断装置等の第2医用画像収集装置180は、被検体の超音波断層画像を実時間で撮像する。超音波断層画像は、断層画像取得部110により取得され、情報処理装置100に逐次入力される。また、超音波探触子の位置姿勢は不図示の位置姿勢センサで計測され、位置姿勢取得部112により取得されて、情報処理装置100に入力される。ここで、超音波探触子の位置姿勢は、例えば被検体を基準とした基準座標系における位置姿勢で表されている。また、位置姿勢取得部112は、基準座標系における超音波探触子の位置姿勢を取得して、これに基づいてMRI装置座標系における超音波断層画像の位置姿勢を算出する。
<存在確率分布の取得>
分布取得部135は、注目領域取得部122が取得した注目領域を表す情報と、位置姿勢取得部112が取得した超音波断層画像の位置姿勢とに基づいて、注目領域に対応する領域、即ち対応領域を超音波座標系上で推定する。ここで、超音波座標系とは、超音波断層画像を基準とした三次元座標系であり、例えば、該断層画像上の1点を原点として、該断層画像の平面上にx軸及びy軸を設定し、該平面に直交する方向にz軸を設定した座標系として定義できる。そして、分布取得部135は、この推定した対応領域と、データサーバ190から取得する誤差要因情報とに基づいて、超音波断層画像上における対応領域の存在確率分布を算出する。
<断面画像の生成>
断面画像生成部130は、三次元画像データ取得部120の出力である三次元ボリュームデータ、及び位置姿勢取得部112の出力である超音波断層画像の位置姿勢を入力する。そして、断面画像生成部130は、これらのデータに基づいて、超音波断層画像に対応する断面画像を三次元ボリュームデータから生成して、画像合成部140へと出力する。画像合成部140は、対応病変部の存在確率分布示す情報を分布取得部135から取得して、断層画像取得部110から取得した超音波断層画像上に重畳して描画する。更に、画像合成部140は、その画像と断面画像生成部130から取得した断面画像とを合成した合成画像、例えば、これらを左右に並べた合成画像を生成して、これを表示制御部150又は外部へと出力する。表示制御部150は、画像合成部140の出力である合成画像を取得し、これを表示部160に表示する。
なお、図1に示した各部(断層画像取得部110、位置姿勢取得部112、三次元画像データ取得部120、注目領域取得部122、断面画像生成部130、分布取得部135、画像合成部140、表示制御部150)の少なくとも一部は、独立した装置として実現してもよい。または、夫々一つもしくは複数のコンピュータにインストールし、コンピュータのCPUにより実行することで、その機能を実現するソフトウェアとして実現してもよい。本実施形態では、各部はそれぞれソフトウェアにより実現され、同一のコンピュータにインストールされているものとする。
<コンピュータの基本構成>
図2は、断層画像取得部110、位置姿勢取得部112、三次元画像データ取得部120、注目領域取得部122、断面画像生成部130、分布取得部135、画像合成部140、表示制御部150の夫々の機能を、ソフトウェアを実行することで実現するためのコンピュータの基本構成を示す図である。
CPU1001は、RAM1002やROM1003に格納されたプログラムやデータを用いてコンピュータ全体の制御を行う。また、CPU1001は、断層画像取得部110、位置姿勢取得部112、三次元画像データ取得部120、注目領域取得部122、断面画像生成部130、分布取得部135、画像合成部140、表示制御部150の夫々におけるソフトウェアの実行を制御して、各部の機能を実現する。
RAM1002は、外部記憶装置1007や記憶媒体ドライブ1008からロードされたプログラムやデータを一時的に記憶するエリアを備えると共に、CPU1001が各種の処理を行うために必要とするワークエリアを備える。
ROM1003は、一般にコンピュータのプログラムや設定データなどが格納されている。キーボード1004、マウス1005は入力デバイスであり、操作者はこれらを用いて、各種の指示をCPU1001に入力することができる。
表示部1006は、CRTや液晶ディスプレイなどにより構成されており、表示部160がこれに相当する。表示部1006は、画像合成部140が生成する合成画像の他に、画像処理のために表示すべきメッセージやGUI等を表示することができる。
外部記憶装置1007は、ハードディスクドライブなどの大容量情報記憶装置として機能する装置であって、ここにOS(オペレーティングシステム)やCPU1001が実行するプログラム等を保存する。また、本実施形態の説明において、既知であると説明する情報はここに保存されており、必要に応じてRAM1002にロードされる。
記憶媒体ドライブ1008は、CD−ROMやDVD−ROMなどの記憶媒体に記憶されているプログラムやデータをCPU1001からの指示に従って読み出して、RAM1002や外部記憶装置1007に出力する。
I/F1009は、アナログビデオポートあるいはIEEE1394等のデジタル入出力ポートや、合成画像などの情報を外部へ出力するためのイーサネット(登録商標)ポート等によって構成される。夫々が入力したデータはI/F1009を介してRAM1002に取り込まれる。断層画像取得部110、位置姿勢取得部112、三次元画像データ取得部120、注目領域取得部122、および分布取得部135の機能の一部は、I/F1009によって実現される。
上述した各構成要素は、バス1010によって相互に接続される。
図3は、第1の実施形態における情報処理装置100が行う全体の処理手順を示すフローチャートである。
このフローチャートに示す処理は、本実施形態ではCPU1001が各部の機能を実現するプログラムを実行することにより実現される。なお、以下の処理を行う前段で、図3に示すフローチャートに従ったプログラムコードは、例えば外部記憶装置1007からRAM1002に既にロードされているものとする。
<S1000:データの入力>
ステップS1000において、情報処理装置100は、三次元画像データ取得部120の処理として、データサーバ190から三次元画像データを取得する。また、情報処理装置100は、注目領域取得部122の処理として、データサーバ190から注目領域を表す情報を取得する。ここで、注目領域を表す情報とは、例えば、注目病変部の位置や、注目病変部の領域境界に位置する点群の座標である。注目病変部の位置としては、例えば領域の重心位置が用いられる。
<S1010:誤差要因情報の入力>
ステップS1010において、情報処理装置100は、分布取得部135の処理として、存在確率分布の算出に用いる各種の誤差要因情報をデータサーバ190から取得する。例えば、情報処理装置100は、超音波探触子の位置姿勢を計測する位置姿勢センサの種別(例えば、センサA,センサBなど)を表す情報を、誤差要因情報としてデータサーバ190から取得する。
<S1020:断層画像の取得>
ステップS1020において、情報処理装置100は、断層画像取得部110の処理として、第2医用画像収集装置180から超音波断層画像を取得する。また、情報処理装置100は、位置姿勢取得部112の処理として、上記超音波断層画像を撮像した際の超音波探触子の位置姿勢を第2医用画像収集装置180から取得する。そして、情報処理装置100は、既知の値として予め記憶している校正データを利用して、基準座標系における超音波探触子の位置姿勢から、MRI装置座標系における超音波断層画像の位置姿勢を算出する。
<S1040:断面画像の取得>
ステップS1040において、情報処理装置100は、断面画像生成部130の処理として、ステップS1020で得た超音波断層画像に対応する参照画像の断面画像を生成する。具体的には、情報処理装置100は、ステップS1020で得た超音波断層画像の位置姿勢に基づき、ステップS1000で得た三次元ボリュームデータから該超音波断層画像と同じ断面を切り出した断面画像を生成する。
<S1050:存在確率分布の取得>
ステップS1050において、情報処理装置100は、分布取得部135の処理として、ステップS1020で得た超音波断層画像上における対応領域の存在確率分布を算出する。
具体的には、先ず、分布取得部135が超音波座標系における注目領域に対する対応領域を推定する。例えば、注目領域を表す情報として注目病変部の位置が与えられている場合には、分布取得部135が、対応領域を表す情報として超音波座標系上における対応病変部の位置を推定する。また、注目領域を表す情報として注目病変部の領域境界に位置する点群の座標が与えられている場合には、分布取得部135が、対応領域を表す情報として対応病変部の境界領域に位置する点群の座標を超音波座標系上で推定する。これらの推定は、位置姿勢取得部112が取得した超音波断層画像の位置姿勢に基づいて行うことができる。
次に、分布取得部135は、上記で推定した対応領域とステップS1010で取得した誤差要因情報とに基づいて、超音波断層画像上における対応領域の存在確率分布を算出する。
対応領域を表す情報が対応病変部の位置である場合、例えば、対応領域の存在確率分布が正規分布に従うと仮定してもよい。このとき、位置姿勢センサの種別毎に予め分布の標準偏差を定めておき、誤差要因情報として与えられるセンサの種別に応じて分布の標準偏差を選択するようにできる。なお、分布の標準偏差を与える処理は、他の誤差要因情報に基づくものであってもよい。
対応領域の存在確率分布が正規分布に従うと仮定すると、超音波座標系における対応病変部の三次元の存在確率分布は、対応病変部の推定位置からの距離の関数で定義できる。このとき、対応病変部の推定位置を中心とし、そこからの距離を半径とする球の内部に実際の対応病変部が存在する確率は、球内の正規分布関数の積分値として算出できる。分布取得部135は、この確率を所定の閾値(例えば、90%、95%、98%、99.5%)で区切ることで、推定された対応病変部の位置を中心とした同心球を導出する。この、所定の閾値それぞれで区切られた同心球は、注目領域に対応する領域が内部に存在する確率が特定の値となる三次元領域を示している。また、超音波断層画像上における対応病変部の存在確率分布は、当該同心球と当該断層画像を含む平面とが交差する領域(同心球の断面)である同心円として定義される。分布取得部135は、対応病変部の存在確率分布として、超音波断層画像上におけるこの同心円の中心位置と夫々の円の半径を算出する。なお、三次元空間中で定義される球と平面との交差領域の算出方法は周知のものであるので、その説明は省略する。
<S1060:断層画像への存在確率分布の描画>
ステップS1060において、情報処理装置100は、画像合成部140の処理として、ステップS1050で算出した超音波断層画像上における対応病変部の存在確率分布を表す情報を、当該超音波断層画像上に重畳して描画する。例えば、情報処理装置100は、ステップS1050で算出した同心円のラインを超音波断層画像上に描画する。このとき、夫々の円のラインの線種を、円が表す確率に応じて変更するようにすることが好ましい。例えば、線の太さ、色、濃度、実線か点線か(点の間隔)を変更してもよい。また、それぞれの円の近傍に、対応する球の内部に対応病変部が存在する確率(前述の例では90%、95%、98%、99.5%)を表示するようにしてもよい。また、球と球との間の領域に対応病変部が存在する確率(すなわち、内側の球との確率の差分)を求めて表示するようにしてもよい。この場合、それぞれの円に表示される値は、前述の例では90%、5%、3%、1.5%となる。本ステップの処理の結果として、図4に示すような、対応病変部401の存在確率分布402を超音波断層画像403上に重畳した画像が生成される。なお、ステップS1050における所定の閾値を、分布の標準偏差に基づく値(例えば、σ、1.5σ、2σ、2.5σ、3σなど)に設定しておいて、夫々を表す文字情報(すなわち、「σ」、「2σ」など)を夫々の円の近傍に表示するようにしてもよい。図4の例では複数の確率を表わす複数の円が描かれているが、これに限らず、ある特定の確率、例えば90%の確率を示す円のみを超音波断層画像403に重畳して表示させることとしてもよい。
<S1070:断層画像と断面画像との合成>
ステップS1070において、情報処理装置100は、画像合成部140の処理として、ステップS1040で得た断面画像と、ステップS1060で得た画像とを合成する。例えば、情報処理装置100は、これらの画像を左右に並べた画像を生成する。そして、情報処理装置100は、表示制御部150の処理として、合成した画像を表示部160に表示する。また、必要に応じて、情報処理装置100は、I/F1009を介してこれを外部へと出力し、更に、他のアプリケーションから利用可能な状態としてRAM1002上に格納する。
<S1080:全体の処理を終了するか否かの判定>
ステップS1080において、情報処理装置100は、全体の処理を終了するか否かの判定を行う。例えば、情報処理装置100は、キーボード1004の所定のキー(終了キー)を操作者が押すなどして入力した終了の指示を取得する。終了すると判定した場合には、情報処理装置100の処理の全体を終了させる。一方、終了すると判定しなかった場合には、ステップS1010へと処理を戻し、新たに撮像される超音波断層画像に対して、ステップS1010以降の処理を再度実行する。
以上によって、情報処理装置100の処理が実行される。
以上のように、第1の実施形態に係る情報処理システムによると、操作者が対応病変部を探索する際の目安として、位置推定の誤差を考慮した対応病変部の存在確率分布が超音波断層画像上に提示される。その結果、必要以上に広い範囲を探してしまうという操作者の不要な作業を減らし、探索の作業負荷を軽減することができる。また、実際の誤差が大きい場合であっても、表示に惑わされることなく対応領域を探索することができる。
[第1の実施形態の変形例]
次に、第1の実施形態の変形例について説明する。上記の第1の実施形態の説明では、対応領域の推定位置を中心として正規分布に従って存在確率が分布すると仮定しているが、この存在確率は正規分布に従っていなくてもよい。例えば、対応病変部の存在確率が空間中の任意の分布として与えられている場合でも、同様の表示を行うことができる。この場合、例えば、分布取得部135が領域内の存在確率の積分値が所定の値となるような領域の中から、体積が最小となる領域を選択するようにすればよい。これにより、存在確率の分布に偏りがある場合であっても、分布の偏りを断層画像に重畳して表示させるため、病変の位置をより効率的に特定することができる。
なお、第1の実施形態では、超音波断層画像と同一となる断面を参照画像である三次元画像データから切り出した断面画像を超音波断層画像と並べて表示しているが、この断面画像は必ずしも表示しなくてよい。この場合、参照画像である三次元画像データの取得や、断面画像の生成処理は行わなくてもよい。
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。第1の実施形態に係る情報処理システムは、三次元画像データ撮影時の被検体の形状と、超音波撮影時の被検体の形状とは変化していない(剛体である)と仮定して処理を行う。そして、被検体に対する超音波探触子の位置姿勢を計測することで、超音波座標系における注目領域の対応領域の存在確率分布を推定する。これに対し、第2の実施形態に係る情報処理システムは、三次元画像データ撮影時の被検体の形状から超音波撮影時の被検体の形状への変形を推定して対応領域を求める場合に、その変形推定の曖昧さを考慮することによって、対応領域の存在確率分布を推定する。以下、第2の実施形態に係る情報処理システムについて、第1の実施形態と相違する部分を中心にして説明する。
図5は、第2の実施形態に係る情報処理システムの構成を示す図である。なお、図1と同じ部分については同じ符号を付けており、その説明を省略する。図5に示すように、本実施形態における情報処理装置500には、第1の実施形態における断面画像生成部130に代えて断面画像生成部530が含まれ、分布取得部135に代えて分布取得部535が含まれる。更に、情報処理装置500には、第1の実施形態における各部の他に、形状取得部527及び変形推定部528が含まれる。また、情報処理装置500は、データサーバ190及び第2医用画像収集装置180だけでなく、形状計測装置585にも接続されている。形状計測装置585としては、例えばレンジセンサが用いられ、形状計測装置585は、超音波撮影時の被検体の表面形状を計測して表面形状データを得る。なお、形状計測装置585は、対象物体の形状を計測できるのであればどのように構成されていてもよく、例えばステレオ画像計測装置などであってもよい。
形状取得部527は、情報処理装置500へと入力される被検体の表面形状データを取得し、変形推定部528へと出力する。
変形推定部528は、形状取得部527が取得した表面形状データに基づいて被検体の変形状態を推定する。そして、変形推定部528は、変形パラメータの変動範囲(詳細は後述する)を算出して、これを分布取得部535へと出力する。また、変形推定部528は、三次元画像データを超音波撮影時の被検体の形状へと変形させた変形三次元画像を生成し、これを断面画像生成部530へと出力する。
分布取得部535は、注目領域取得部122が取得した注目領域を表す情報と、変形推定部528が推定した変形パラメータの変動範囲とに基づいて、超音波断層画像上における対応領域の存在確率分布を算出する。
断面画像生成部530は、変形推定部528の出力である変形三次元画像と、位置姿勢取得部112の出力である超音波断層画像の位置姿勢とに基づいて、該超音波断層画像に対応する断面画像を変形三次元画像から生成して、画像合成部140へと出力する。
そして、第2の実施形態における情報処理装置500も、第1の実施形態と同様に、図2に示す基本構成のコンピュータを用いて実現することができる。
図6は、第2の実施形態における情報処理装置500が行う全体の処理手順を示すフローチャートである。このフローチャートに示す処理も、本実施形態ではCPU1001が各部の機能を実現するプログラムを実行することにより実現される。なお、以下の処理を行う前段で、図6に示すフローチャートに従ったプログラムコードは、例えば外部記憶装置1007からRAM1002に既にロードされているものとする。
<S6000:データの入力>
ステップS6000において、情報処理装置500は、第1の実施形態におけるステップS1000と同様の処理を行い、三次元画像データと注目領域を表す情報を取得する。また、情報処理装置500は、形状取得部527の処理として、形状計測装置585から被検体の表面形状データを取得する。
<S6005:変形推定>
ステップS6005において、情報処理装置500は、変形推定部528の処理として、ステップS6000で取得した表面形状データに基づいて被検体の変形状態を推定する。例えば、情報処理装置500は、特開2011−092263号公報に記載の変形推定方法を用いて、三次元画像データから被検体の変形モデルを生成し、これを該形状データにあてはめることでその変形パラメータを推定する。また、情報処理装置500は、この推定の工程で生成される異なるパラメータによる変形シミュレーション結果の夫々を、分布取得部535へと出力する。更に、情報処理装置500は、推定した変形パラメータに基づいて、三次元画像データを超音波撮影時の被検体の形状へと変形させた変形三次元画像を生成する。
<S6015:三次元空間中の存在確率分布の算出>
ステップS6015において、情報処理装置500は、分布取得部535の処理として、複数の変形シミュレーションによって変位した対応領域のばらつきに基づいて、三次元空間中における対応領域の存在確率分布を算出する。具体的には、情報処理装置500は、先ず、ステップS6005で求めた変形シミュレーション結果の夫々における変形後の対応領域を算出する。そして、情報処理装置500は、夫々の対応領域に、ステップS6005で推定した対応領域からの距離に応じた重み、例えば近いほど大きくなるような重みを、総計が1となるように付与する。そして、推定した対応領域からの距離が近いものを順に選び、その重みの和が所定の値(例えば、0.9,0.95,0.98,0.995)となるような領域を導出する。
<S6020:断層画像の取得>
ステップS6020において、情報処理装置500は、第1の実施形態におけるステップS1020と同様の処理を行い、超音波断層画像及びその位置姿勢を取得する。
<S6040:断面画像の取得>
ステップS6040において、情報処理装置500は、断面画像生成部530の処理として、ステップS6020で得た超音波断層画像に対応する変形三次元画像の断面画像を生成する。
<S6050:断面画像上の存在確率分布の取得>
ステップS6050において、情報処理装置500は、分布取得部535の処理として、超音波断層画像上における対応領域の存在確率分布を算出する。具体的には、情報処理装置500は、ステップS6015で算出した三次元空間中における対応領域の存在確率分布を超音波断面で切り取ることによって、二次元平面上における対応領域の存在確率分布を算出する。
なお、ステップS6060、S6070及びS6080の処理は、第1の実施形態におけるステップS1060、S1070及びS1080と同様である。
以上によって、情報処理装置500の処理が実行される。
以上のように、第2の実施形態に係る情報処理システムは、三次元画像データ撮影時の被検体の形状から超音波撮影時の被検体の形状への変形を推定して対応領域を求める場合に、その変形推定の曖昧さを考慮することによって、対応領域の存在確率分布を算出する。そうすることで、注目病変部が被検体の乳房等の軟組織に存在する場合にも、ユーザは二次元画像上の実際の対応領域の探索範囲がより正確に分かるので、実際の対応領域を更に効率良く探索することができる。
(第3の実施形態)
次に、本発明の第3の実施形態について説明する。第1の実施形態に係る情報処理システムは、対応病変部の存在確率分布を表示する方法として、存在確率分布の積分値が所定の値となるような同心球を表示する。これに対し、第3の実施形態では、断層画像上の各画素における対応病変部の存在確率をそのまま重畳表示する。以下、第3の実施形態に係る情報処理システムについて、第1の実施形態と相違する部分を中心にして説明する。
本実施形態に係る情報処理システムの構成は第1の実施形態と同様に図1のようなものであるが、分布取得部135の処理の一部、及び画像合成部140の処理の一部が第1の実施形態とは異なっている。また、本実施形態に係る情報処理システムの処理のフローは第1の実施形態と同様に図3のようなものであるが、ステップS1050及びステップS1060の処理の一部が第1の実施形態とは異なっている。
<S1050:存在確率分布の取得>
ステップS1050において、情報処理装置100は、分布取得部135の処理として、第1の実施形態と同様な処理を行い、対応病変の存在確率分布を得る。ここで、分布を表わす関数を得る処理までは第1の実施形態と同様であるが、本実施形態では、第1の実施形態で求めたような同心球やその断面としての同心円の算出は実行しない。その代わりに、情報処理装置100は、超音波断層画像上の夫々の画素の位置における対応病変の存在確率を計算する。なお、第1の実施形態と同様な同心円を求める処理を、更に実行するようにしてもよい。
<S1060:断層画像に存在確率分布を描画>
ステップS1060において、情報処理装置100は、画像合成部140の処理として、ステップS1050で算出した対応病変部の存在確率分布を表す情報を、超音波断層画像の夫々の画素上に重畳して描画する。例えば、情報処理装置100は、存在確率の値の変化に従って、画素に重畳する色を変化させる。より具体的には、情報処理装置100は、存在確率の値が大きくなるに従って、画素に重畳する色を薄くする。また、存在確率の等高線(等確率線)を所定の値について求め、これを断層画像上に重畳表示するようにしてもよい。なお、ステップS1050の処理において第1の実施形態と同様な同心円を求める処理を実行している場合には、第1の実施形態におけるステップS1060と同様な表示をあわせて行ってもよい。
以上によって、情報処理装置100の処理が実行される。
このような第3の実施形態によれば、誤解の原因となりうるような明確な境界を示すことなく、対応領域が存在しうる位置をユーザに提示することができる。
(第4の実施形態)
本実施形態に係る情報処理装置は、うつ伏せの状態で被検体の乳房を撮影したMRI画像(MRI装置で撮影した画像)と、仰向けの状態で被検体の乳房を撮影した超音波画像(超音波画像撮影装置で撮影した画像)とを対応付けて観察できるようにする。そして、本実施形態に係る情報処理装置では、MRI画像中に描出される病変部などの注目領域と対応する超音波画像中における領域を超音波画像中に表示する。ここで、超音波画像中における領域は、上述した対応付けの誤差に起因する曖昧さを含む領域である。本実施形態に係る情報処理装置では、上述した対応付けの際に生じる誤差の範囲を推定し、当該誤差により超音波画像中における領域の変動範囲(注目領域が存在するであろう範囲)を算出する。これにより、本実施形態では、MRI画像中の注目領域に対応する部位の超音波画像中における存在範囲を提示できるようにする。
なお、本実施形態では、医用画像である三次元画像の一例として、MRI画像を用いる場合を例として説明するが、本発明においてはこれに限定されるものではない。例えば、三次元画像として、X線CT画像(X線CT装置で撮影された画像)やPET画像などを用いてもよい。
図7は、第4の実施形態に係る情報処理システムの機能構成の一例を示す模式図である。
本実施形態に係る情報処理システムは、図7に示すように、情報処理装置1100−1、MRI画像撮影装置1110、データサーバ1120、形状計測装置1130、位置姿勢計測装置1140、超音波画像撮影装置1150、及び、モニタ1160を備えている。
また、情報処理装置1100−1は、図7に示すように、MRI画像取得部2001、注目領域取得部2002、変形シミュレーション部2003、変形モデル生成部2004、形状計測値取得部2005、変形パラメータ算出部2006、パラメータ変動範囲算出部2007、注目領域変動算出部2008、超音波画像取得部2009、位置姿勢計測値取得部2010、及び、観察画像生成部2011の機能構成を備えている。
この情報処理装置1100−1は、図7に示すように、データサーバ1120、形状計測装置1130、位置姿勢計測装置1140、超音波画像撮影装置1150、及び、モニタ1160に接続されている。
MRI画像撮影装置1110は、人体である被検体の内部の3次元領域に関する情報を核磁気共鳴法により取得した画像、即ちMRI画像を撮影する装置である。このMRI画像撮影装置1110は、データサーバ1120に接続され、撮影により得られたMRI画像をデータサーバ1120へ送信する。
データサーバ1120は、MRI画像撮影装置1110が撮影したMRI画像や、MRI画像中に描出される病変などの注目領域の位置に関する情報(座標値)を保持する装置である。
超音波画像撮影装置1150は、超音波を送受信する不図示の超音波プローブを被検体に接触させることで、被検体の内部を超音波撮影する。本実施形態においては、超音波画像撮影装置1150は、仰向け状態の被検体の断面領域を撮影した2次元のBモード超音波画像を撮影する。
位置姿勢計測装置1140は、3次元空間における前記超音波プローブの位置と姿勢を計測する装置である。この位置姿勢計測装置1140は、例えば、磁気式や光学式の6自由度計測装置を前記超音波プローブに装着することで構成される。
形状計測装置1130は、被検体の体表の形状を計測する装置である。この形状計測装置1130は、例えば、被検体の体表に接触させて形状を計測するスタイラスや、被検体に対して光学的に非接触に形状を計測するレンジセンサなど、周知の部材により構成される。本実施形態においては、形状計測装置1130は、超音波画像撮影装置1150や位置姿勢計測装置1140と隣接して設置され、超音波画像撮影装置1150で超音波撮影される仰向け状態の被検体の体表の形状を計測する。
モニタ1160は、画像や情報を表示するものである。
次に、図7に示す情報処理装置1100−1の各機能構成について説明する。
MRI画像取得部2001は、MRI画像撮影装置1110が撮影した、うつ伏せ状態の被検体のMRI画像を、データサーバ1120を介して取得する。
注目領域取得部2002は、被検体の病変などの注目領域の位置に関する情報(座標値)をデータサーバ1120から取得する。
変形シミュレーション部2003は、MRI画像取得部2001で取得されたMRI画像に基づいて、うつ伏せ状態における被検体の形状を算出する。そして、変形シミュレーション部2003は、被検体が仰向け状態になった場合に被検体に生じる変形をシミュレーションにより算出する。ここで、変形シミュレーション部2003は、後述する処理方法により、条件の異なる複数の変形を算出する。
変形モデル生成部2004は、変形シミュレーション部2003で算出された被検体に生じる複数の変形の結果に基づいて、被検体の変形を複数のパラメータの組によって表現する変形モデルを生成する。本実施形態では、前記複数のパラメータの組を「パラメータベクトル」と称する。
形状計測値取得部2005は、形状計測装置1130が計測した被検体の体表の形状に係る形状計測値を取得する。
変形パラメータ算出部2006は、変形モデル生成部2004で生成された変形モデルと、形状計測値取得部2005で取得された仰向け状態の被検体の体表の形状に係る形状計測値とに基づいて、前記変形モデルで前記体表の形状を近似する場合にその近似誤差が最小となるパラメータベクトルを算出する。
パラメータ変動範囲算出部2007は、変形モデル生成部2004で生成された変形モデルと、変形パラメータ算出部2006で算出されたパラメータベクトルとに基づいて、前記パラメータベクトルの変動範囲を算出する。このパラメータベクトルの変動範囲の算出は、変形パラメータ算出部2006が行うパラメータベクトルの算出に関する曖昧さに基づいて実行される。この具体的な処理の内容については後で詳述する。
注目領域変動算出部2008は、注目領域取得部2002で取得された注目領域の位置に関する情報(座標値)と、変形モデル生成部2004で生成された変形モデルと、パラメータ変動範囲算出部2007で算出された前記パラメータベクトルの変動範囲(誤差の変動範囲)とに基づいて、前記注目領域の変動範囲を算出する。この具体的な処理の内容については後で詳述する。
超音波画像取得部2009は、超音波画像撮影装置1150が被検体の内部を超音波撮影することで得られた超音波画像を取得する。
位置姿勢計測値取得部2010は、位置姿勢計測装置1140が計測した前記超音波プローブの位置と姿勢に係る位置姿勢計測値を取得する。
観察画像生成部2011は、位置姿勢計測値取得部2010で取得された超音波プローブの位置姿勢計測値と、注目領域変動算出部2008で算出された注目領域の変動範囲と、超音波画像取得部2009で取得された超音波画像とに基づいて、観察画像を生成する。本実施形態においては、観察画像生成部2011で生成された観察画像は、モニタ1160に表示される。
図8は、第4の実施形態に係る情報処理システムのハードウェア構成の一例を示す模式図である。図8において、図7に示す構成と同様の構成については同じ符号を付している。
図8に示す情報処理システムでは、図7に示す処理システムに対して、マウス1170、及び、キーボード1180が追加されている。
また、情報処理装置1100は、CPU(中央演算処理装置)1211、主メモリ1212、磁気ディスク1213、表示メモリ1214、及び、共通バス1215のハードウェア構成を備えている。この情報処理装置1100は、例えば、パーソナルコンピュータ(PC)などで実現することができる。
CPU1211は、主として情報処理装置1100の各ハードウェア構成の動作を制御して、情報処理装置1100における動作を統括的に制御する。
主メモリ1212は、CPU1211が実行する制御プログラムを格納したり、CPU1211によるプログラム実行時の作業領域を提供したりする。
磁気ディスク1213は、オペレーティングシステム(OS)、周辺機器のデバイスドライブ、各種のアプリケーションソフト等を格納する。
表示メモリ1214は、モニタ1160に表示するための表示用データを一時記憶する。
共通バス1215は、CPU1211、主メモリ1212、磁気ディスク1213、表示メモリ1214、データサーバ1120、形状計測装置1130、位置姿勢計測装置1140、超音波画像撮影装置1150、マウス1170、及び、キーボード1180を通信可能に接続する。
モニタ1160は、例えばCRTモニタや液晶モニタ等であり、表示メモリ1214からの表示用データに基づいて画像や情報を表示する。
マウス1170及びキーボード1180は、ユーザ(操作者)によるポインティング入力及び文字やコマンド等の入力をそれぞれ行う。
なお、図7に示す情報処理装置1100−1の各機能構成(2001〜2011)は、例えば、図8に示すCPU1211及び主メモリ1212に格納されている制御プログラムから構成される。
次に、本実施形態に係る情報処理装置1100−1が行う全体の動作に関して、図9のフローチャートを用いて詳しく説明する。
図9は、第4の実施形態に係る情報処理装置による情報処理方法の処理手順の一例を示すフローチャートである。ここで、本実施形態では、図9に示す情報処理方法は、図8のCPU1211が図8の主メモリ1212に格納されている制御プログラムを実行することによりなされるものとする。また、以下に説明する情報処理装置が行う各処理の結果は、図8の主メモリ1212に格納されて記録されるものとする。
<S300:MRI画像の取得>
ステップS300において、図7のMRI画像取得部2001は、MRI画像撮影装置1110が被検体を撮影した3次元のMRI画像をデータサーバ1120から取得する。本実施形態におけるMRI画像は、うつ伏せの状態の被検体の乳房を撮影した画像である場合を例として説明する。
<S310:注目領域の取得>
ステップS310において、図7の注目領域取得部2002は、被検体内部における病変などの注目領域の位置に関する情報(座標値)をデータサーバ1120から取得する。本実施形態では、注目領域は、被検体内部の病変の中心の位置を表す点である場合を例として説明する。以下では、前記病変の中心の位置を表す点のMRI画像座標系を基準とした位置座標値をpと表記する。つまり、本処理ステップは、データサーバ1120が保持する被検体内部の病変の中心位置の座標値pを注目領域取得部2002が取得する処理である。
<S320:変形シミュレーション>
ステップS320において、図7の変形シミュレーション部2003は、MRI画像を撮影した際のうつ伏せの状態の被検体が、超音波撮影を行う姿勢である仰向けの状態に姿勢を変えた際に、被検体の乳房に生じる変形を物理シミュレーションにより算出する。この算出処理は、例えば、有限要素法などの公知の方法により実行できる。この場合の算出処理方法について、具体的な方法を以下に例示する。
まず、図7の変形シミュレーション部2003は、ステップS300で取得されたMRI画像からシミュレーションの対象とする被検体の領域を抽出する。被検体の乳房を対象部位とする本実施形態では、図7の変形シミュレーション部2003は、乳房付近の体表面と、大胸筋面で囲まれた領域を抽出し、その領域をシミュレーション対象の領域とする。この処理は、MRI画像の画像処理等によって自動的に実行できるようにしても良いし、マウス1170やキーボード1180などを介してユーザ(操作者)が手動で指定した領域を抽出することで実行できるようにしても良い。
次いで、図7の変形シミュレーション部2003は、抽出したシミュレーション対象領域を複数の頂点で構成されるメッシュに分割する。この処理は、公知の手法で自動的に実行できる。ここで、領域を分割する各メッシュの頂点の位置座標をベクトルs=(x1,y1,z1,…,xk,yk,zk,…,xN,yN,zNtと表記する。ただし、kはメッシュの頂点毎に割振られる添え字であり、1≦k≦Nである。また、Nは頂点の総数である。ここで、N個の頂点のうち、被検体の体表に位置する頂点はQ個であるものとする。したがって Q≦Nである。そして、ベクトルsの1番目の要素から3×Q番目の要素には、前記被検体の体表に位置するQ個の頂点の位置座標を格納するものとする。また、ベクトルsの各要素の値は、MRI画像座標系を基準とした位置座標値である。
次いで、図7の変形シミュレーション部2003は、シミュレーション対象領域を構成する材料の機械的な特性や変形の原因となる重力方向の変動などのシミュレーション条件を設定し、それに基づいて剛性行列を生成する。例えば、前記材料の機械的な特性として線形弾性体を仮定する場合には、ヤング率、ポアソン比などをシミュレーション条件として設定する。本実施形態では、被検体を構成する材料の機械的な特性として線形弾性体を仮定する。ただし、ヤング率、ポアソン比は未知であるものとし、ヤング率、ポアソン比を複数の組み合わせで設定した場合の複数の異なる条件毎に後述の処理を実行する場合を例として説明する。具体的には、ヤング率として、500[Pa]、1000[Pa]、2000[Pa]及び4000[Pa]の4種類、ポアソン比として、0.3、0.4及び0.49の3種類を考え、これらの全組み合わせである12通りのシミュレーション条件を設定し、後の処理を実行する。
次いで、図7の変形シミュレーション部2003は、対象領域を構成するメッシュの頂点に作用させる荷重を設定する。うつ伏せの状態から仰向けの状態へと姿勢を変えた際に生じる変形をシミュレーションする本実施形態では、その間の重力方向の違いによる荷重を算出して設定する。
次いで、図7の変形シミュレーション部2003は、上述した方法で算出した剛性行列と荷重とに基づき、シミュレーション領域を分割した各メッシュの頂点の変位を算出する。これは、被検体の変形状態を算出することに相当する。ここで、変形状態とは、変形後のメッシュの各頂点の位置に関する数値情報を意味する。本実施形態では、12通りの異なるシミュレーション条件毎に算出した被検体の変形状態を、変形後の頂点の位置座標を縦に並べたベクトルdi=(x1i,y1i,z1i,…,xNi,yNi,zNitで表わす。ただし、iはシミュレーション条件毎の添え字であり、本実施形態では、1≦i≦12である。またベクトルdiの各要素の値は、MRI画像座標系を基準とした位置座標値である。
上述した例では、被検体の変形状態を有限要素法によるシミュレーションを用いて求める場合を例として説明したが、本発明の実施はこれに限定されるものではなく、他の方法を用いても良い。例えば、差分法や粒子法などを用いて被検体の変形状態をシミュレーションするようにした形態も適用可能である。また、上述した例では、被検体の乳房をシミュレーションの対象領域とする場合を例として説明したが、本発明の実施はこれに限定されるものではなく、例えば、人体の他の部位や人体以外の工業部品等であっても良い。この場合も、上述した方法と同様の処理を行うことができる。
<S330:変形モデルの生成>
ステップS330において、図7の変形モデル生成部2004は、ステップS320で算出された被検体の変形に関するシミュレーション結果diに基づいて、その変形をパラメトリックに表現する変形モデルを生成する。この変形モデルの生成方法としては、例えば、上記の非特許文献1に記載の方法で実行することができる。
非特許文献1に記載の方法によれば、まず、図7の変形モデル生成部2004は、シミュレーション結果diに基づいて、下記の(1)式に示す正規化ベクトルd~iを生成する。
Figure 0006312898
ただし、iはシミュレーション結果毎の添え字であり、本実施形態では1≦i≦Mである。ここで、Mはシミュレーション結果の総数であり、本実施例ではM=12である。また、daveはシミュレーション結果の平均ベクトルであり、下記の(2)式により算出する。
Figure 0006312898
そして、図7の変形モデル生成部2004は、正規化ベクトルd~iの主成分分析を行い、第1主成分ベクトルe1から第M−1主成分ベクトルeM-1までのM−1個の主成分ベクトルを算出する。
本処理ステップで図7の変形モデル生成部2004が実行する変形モデルの生成は、平均ベクトルdaveと主成分ベクトルeiの情報の算出により実行される。本実施形態では、これらの情報をもって変形モデルと称する。
なお、上述した例では、条件の異なる複数のシミュレーション結果を用いて算出しうる、シミュレーション結果の総数Mより1小さいM−1個の主成分ベクトルの全てを算出し、それらにより変形モデルを構成する場合を例として説明したが、本発明の実施はこれに限定されない。例えば、変形モデルを構成する主成分ベクトルとして、上述した方法で算出した主成分ベクトルの一部だけを用いるようにすることもできる。この場合、変形モデルに用いる主成分ベクトルは上述した方法で算出した主成分ベクトルのうち、主成分スコア(寄与率)の高い主成分ベクトルを用いることが望ましい。また、累積寄与率によって変形モデルの構成に用いる主成分ベクトルの数を決めるようにしても良い。この方法によれば、より効率的に変形モデルを構築することができる。
以下、変形モデルについて説明を加える。
上述した処理により算出し主成分ベクトルを、下記の(3)式に示すように、主成分ベクトルの数と同数のパラメータc1〜cM-1で重み付けした線形和を計算すると、シミュレーション結果diを含む様々な変形状態rを生成することができる。
Figure 0006312898
ここで、(3)式は、下記の(4)式のように行列、ベクトル表記に書き換えることができる。
Figure 0006312898
ただし、Eは主成分ベクトルe1〜eM-1を横に並べた行列、cはc1〜cM-1を縦に並べたベクトルである。本実施形態では、ベクトルcをパラメータベクトルと称する。ステップS330で生成した変形モデルは、このパラメータベクトルの各要素を様々に変更することにより、(4)式の計算処理を経て、様々な変形状態を表現するものである。
本実施形態では、変形モデルが表現する変形状態であるメッシュの各頂点の位置座標値をrkと表記する。メッシュの各頂点の位置座標値rkは、パラメータベクトルcによって変化する関数として捉えることもでき、その場合にはrk(c)と関数表記する。
<S340:形状計測値の取得>
ステップS340において、図7の形状計測値取得部2005は、形状計測装置1130が計測した被検体の体表形状に係る形状計測値を取得する処理を実行する。本実施形態では、被検体の体表形状に係る形状計測値は、MRI画像座標系における位置座標値の群として取得されるものとする。本実施形態では、被検体の体表形状に係る形状計測値を三次元ベクトルの群qjと表記する。ただし、jは複数の位置座標値毎に振られる添え字であり、1≦j≦Kである。ここで、Kは形状計測値の数を意味する。
<S350:変形パラメータの算出>
ステップS350において、図7の変形パラメータ算出部2006は、ステップS330で生成された変形モデルが表す変形状態が、ステップS340で取得された被検体の体表形状に係る形状計測値と略一致する変形モデルの変形パラメータを算出する。具体的には、図7の変形パラメータ算出部2006は、下記の(5)式に示す距離関数Ldist(c)が最小となる最適変形パラメータベクトルcoptを求める処理を実行する。
Figure 0006312898
即ち、計測した体表位置のそれぞれに最も近いメッシュ表面の頂点を得て、その距離の総和を最小とするような変形を推定する。この処理は、非線形最適化問題の解法を用いて解くことができ、例えば、最急降下法や準ニュートン法などの公知の手法を用いることができる。
<S360:変形パラメータの変動範囲の算出>
ステップS360において、図7のパラメータ変動範囲算出部2007は、(5)式で示した距離関数が所定の値以下となる変形パラメータベクトルの変動範囲を算出する処理を実行する。具体的に、図7のパラメータ変動範囲算出部2007は、ステップS350で算出された最適変形パラメータベクトルcoptを含み、(5)式で示した距離関数の値が、Ldist(copt)と所定の範囲内となる変形パラメータベクトルの変動の範囲を算出する。この変動範囲の算出方法について、具体的な方法を以下に例示する。
まず、図7のパラメータ変動範囲算出部2007は、下記の(6)式に示すように、coptの1番目の要素値を微小量δだけ増加させた変動パラメータベクトルc'を生成する。
Figure 0006312898
そして、図7のパラメータ変動範囲算出部2007は、その変動パラメータベクトルc'を用いて(5)式の計算を実行し、変動パラメータベクトルc'に対する距離関数の値Ldist(c')を算出する。そして、図7のパラメータ変動範囲算出部2007は、この距離関数の値Ldist(c')とLdist(copt)との差が所定の範囲内である限り、前記微小量δの増加を繰り返す。
最後に、図7のパラメータ変動範囲算出部2007は、Ldist(c')とLdist(copt)とが所定の差以上となる時の前記変動パラメータベクトルc' の1番目の要素値に加えられた増加量を、変形パラメータベクトルの1番目の要素の上限幅(δUPPER_1)として記録する。また、図7のパラメータ変動範囲算出部2007は、上述した処理と同様の処理を、微小量δを減少させる方向に作用させて実行し、変形パラメータベクトルの1番目の要素の下限幅(δLOWER_1)として記録する。以下、パラメータベクトルの2番目以降の要素に関しても同様の処理を実行し、それぞれの上限幅と下限幅を算出して記録する。
本実施形態では、上述の処理によって算出した変形パラメータベクトルの各要素に関する上限幅をδUPPER_1,…,δUPPER_M-1、下限幅をδLOWER_1,…,δLOWER_M-1と表記する。
<S370:注目領域の変動範囲の算出>
ステップS370において、図7の注目領域変動算出部2008は、ステップS310で取得された注目領域の位置に関する情報(座標値)と、ステップS330で生成された変形モデルと、ステップS360で算出されたパラメータベクトルの変動範囲に基づいて、ステップS310で取得した注目領域の変動範囲を算出する処理を実行する。この注目領域の変動範囲の算出方法について、具体的な方法を以下に例示する。
まず、図7の注目領域変動算出部2008は、ステップS360で算出された変形パラメータベクトルの各要素に関する上限値及び下限値に基づいて、変形パラメータベクトルの群を生成する。例えば、図7の注目領域変動算出部2008は、下記の(7)式〜(10)式に示す計算により、1番目と2番目の要素に関する変形パラメータベクトルの群を生成する。
Figure 0006312898
同様にして、図7の注目領域変動算出部2008は、3番目以降の要素に関する変形パラメータベクトルの群(cUPPER_3〜cUPPER_M-1、cLOWER_3〜cLOWER_M-1)も生成する。
そして、図7の注目領域変動算出部2008は、これらの変形パラメータベクトルの群のそれぞれについて、被検体の変形状態を(4)式を用いて算出する。ここで、この際の算出結果をrUPPER_1〜rUPPER_M-1、rLOWER_1〜rLOWER_M-1とする。さらに、図7の注目領域変動算出部2008は、これらの各変形状態を用いて、ステップS310で取得された注目領域をワーピング処理し、変形後の注目領域の群pUPPER_1〜pUPPER_M-1、pLOWER_1〜pLOWER_M-1を算出する。この処理は、シミュレーション対象領域の変形前のメッシュの頂点の位置座標s、及び、変形後のメッシュの頂点の位置座標であるrUPPER_1〜rUPPER_M-1、rLOWER_1〜rLOWER_M-1を用いて、公知の方法で実行できる。そして、図7の注目領域変動算出部2008は、前記変形後注目領域の群を内包する最小の楕円体を算出し、この楕円体の内部の領域を注目領域の変動範囲とする。
図10は、第4の実施形態を示し、図9のステップS370の処理を説明する模式図である。
図10において、変形後の注目領域の群550は、MRI画像座標系510における、前記pUPPER_1〜pUPPER_M-1、pLOWER_1〜pLOWER_M-1の位置座標の群である。そして、図7の注目領域変動算出部2008は、変形後の注目領域の群550を包含し、かつ最小の大きさの楕円体の内部の領域を注目領域の変動範囲520として算出する。なお、楕円体で表現する注目領域の変動範囲は、MRI画像座標系510における前記楕円体を表す数式や当該数式を構成する係数などでも良いし、MRI画像座標系510における二値ボリュームであっても良い。いずれにしても、MRI画像座標系510における任意の位置座標が前記注目領域の変動範囲の内部か外部かが判別できる情報であればよい。
なお、上述した例では、注目領域の変動範囲を楕円体とする場合を例として説明したが、本発明の実施はこれに限定されるものではなく、例えば、球体や直方体など任意の形状で表すようにしても良い。
<S380:超音波画像の取得>
ステップS380において、図7の超音波画像取得部2009は、仰向け状態の被検体の乳房を超音波画像撮影装置1150が撮影した超音波画像を取得する。
<S390:位置姿勢計測値の取得>
ステップS390において、図7の位置姿勢計測値取得部2010は、位置姿勢計測装置1140が計測した超音波プローブの位置と姿勢に係る位置姿勢計測値を取得する。ここで、本実施形態では、図7の位置姿勢計測値取得部2010は、位置姿勢計測装置1140の計測値に公知の校正処理を施すことで、MRI画像座標系におけるプローブ座標系の位置と姿勢の関係を取得する。ここで、プローブ座標系は、超音波プローブの撮影面(被検体と接する面)の中心を原点とし、超音波ビームの放射方向をY軸とする。また、超音波画像撮影装置1150が撮影する超音波画像の撮影面に含まれ、前記Y軸と直交する方向をX軸とする。そして、X軸とY軸の外積の方向をZ軸とする。プローブ座標系は、上記のようにして定める直交座標系である。なお、本実施形態において、ステップS380で取得した超音波画像の画像座標系は、前記プローブ座標系(のZ=0平面)と一致するものとして定義されているものとする。
<S400:観察画像の表示>
ステップS400において、図7の観察画像生成部2011は、ステップS390で取得された位置姿勢計測値に基づいて、ステップS380で取得された超音波画像に、ステップS370で算出した注目領域の変動範囲を重畳した観察画像を生成する。そして、図7の観察画像生成部2011は、生成した観察画像を図7のモニタ1160に表示する処理を実行する。本ステップの処理方法について、具体的な方法を以下に例示する。
まず、図7の観察画像生成部2011は、ステップS390で取得した超音波プローブの位置姿勢計測値を利用して、前記超音波画像の撮影平面のMRI画像座標系における位置と姿勢を算出する。そして、図7の観察画像生成部2011は、前記撮影平面の位置と姿勢との関係に基づいて、前記算出した注目領域の変動範囲である楕円体の領域を超音波画像上に重畳して表示する。この処理について、図11を用いてより詳しく説明する。
図11は、第4の実施形態を示し、図9のステップS400の処理を説明する模式図である。
図11(a)において、超音波画像600は、ステップS380で取得された超音波画像である。また、超音波画像600は、プローブ座標系610における所定の平面領域を超音波撮影した画像である。このプローブ座標系610は、ステップS390で取得された位置姿勢計測値により、MRI画像座標系510との位置と姿勢の関係が定められる。また、ステップS370で算出された注目領域の変動範囲520は、MRI画像座標系510における楕円体領域であるので、この楕円体領域と超音波画像600との交差領域630は、MRI画像座標系510における楕円領域として一意に定めることができる。
図11(b)は、超音波画像600及び当該超音波画像の平面上に位置する交差領域630を、プローブ座標系610を基準として表示した観察画像の例である。この図11(b)に示すように、本実施形態における観察画像の一例としては、超音波画像600上に交差領域630を重畳して描画した画像とすることができる。本実施形態に係る処理装置は、以上の処理により生成した観察画像を、表示メモリ1214への送信を介してモニタ1160に表示する。
<S410:処理終了の判定>
ステップS410において、本実施形態に係る情報処理装置は、処理を終了するか否かを判定する。この判定は、ユーザ(操作者)によるマウス1170やキーボード1180を介した入力操作に基づいて行うことができる。
そして、ステップS410の判定の結果、処理を終了しない場合には、ステップS380の処理に戻る。
一方、ステップS410の判定の結果、処理を終了する場合には、図9に示すフローチャートの処理を終了する。
以上の処理によって、本実施形態に係る情報処理装置1100−1の処理が実施される。
上述したように、本実施形態に係る情報処理装置1100−1は、姿勢がうつ伏せの状態(第1状態)の被検体をMRI画像撮影装置(第1撮影装置)1110を用いて撮影したMRI画像(第1画像)を取得するMRI画像取得部(第1画像取得手段)2001を備える。
また、本実施形態に係る情報処理装置1100−1は、姿勢が仰向けの状態(第2状態)の前記被検体を超音波画像撮影装置(第2撮影装置)1150を用いて撮影した超音波画像(第2画像)を取得する超音波画像取得部(第2画像取得手段)2009を備える。
また、本実施形態に係る情報処理装置1100−1は、MRI画像(第1画像)の注目領域を取得する注目領域取得部2002を備える。
また、本実施形態に係る情報処理装置1100−1は、被検体をうつ伏せの状態(第1状態)から仰向けの状態(第2状態)にした際の当該被検体の変形状態をパラメータにより表現する変形モデルを生成する変形モデル生成部2004を備える。
また、本実施形態に係る情報処理装置1100−1は、被検体が仰向けの状態(第2状態)のときの当該被検体の形状計測値を取得する形状計測値取得部2005を備える。
また、本実施形態に係る情報処理装置1100−1は、前記変形モデルと前記形状計測値とに基づいて前記変形モデルによる変形パラメータを算出する変形パラメータ算出部2006を備える。
また、本実施形態に係る情報処理装置1100−1は、前記変形モデルと前記変形パラメータとに基づいて当該変形パラメータの変動範囲を算出するパラメータ変動範囲算出部2007を備える。
また、本実施形態に係る情報処理装置1100−1は、注目領域取得部2002で取得した注目領域と前記変形モデルと前記変形パラメータの変動範囲とに基づいて当該注目領域の変動範囲を算出する注目領域変動算出部2008を備える。
また、本実施形態に係る情報処理装置1100−1は、超音波画像(第2画像)に前記注目領域の変動範囲を示した観察画像を生成する観察画像生成部2011を備える。
本実施形態に係る情報処理システムによれば、MRI画像中の注目領域に対応する部位の超音波画像中における存在範囲を提示可能な仕組みを提供することができる。
次に、第4の実施形態における変形例について説明する。
[第4の実施形態の変形例1]
上述した第4の実施形態では、図9のステップS360において変形パラメータベクトルの各要素毎に上限幅と下限幅を算出し、図9のステップS370においてその上限幅と下限幅に基づいて注目領域の変動範囲を算出する場合を例として説明した。しかしながら、本発明の実施においては、これに限定されるものではない。例えば、ステップS360の処理で算出する変形パラメータベクトルの変動範囲は、変形パラメータベクトルが取りうる値が張る空間、即ち本実施形態ではM−1次元(11次元)のパラメータ空間の任意の領域として算出しても良い。この場合、例えば、図9のステップS350で算出された最適変形パラメータベクトルcoptを起点とし、前記M−1次元のパラメータ空間において(5)式に示した距離関数が所定の値以内となる領域を探索的に求めるようにしても良い。そして、前記処理で求めたM−1次元のパラメータ空間における領域の境界位置を変形パラメータベクトルの変動範囲としても良い。この場合、図9のステップS370の処理としては、前記処理で求めたパラメータ空間の領域の境界の位置における変形パラメータベクトルの群を用いて注目領域の変動範囲を算出することになる。この方法によれば、注目領域の変動範囲をより正確に算出することができるという作用・効果がある。
[第4の実施形態の変形例2]
上述した第4の実施形態における図9のステップS360の処理では、最適変形パラメータベクトルcoptを起点として前記ベクトルを微小変動させ、(5)式に示した距離関数が所定の値以内となる範囲として変形パラメータベクトルの変動範囲を算出する場合を例として説明した。しかしながら、本発明の実施においては、これに限定されるものではない。例えば、(5)式に示した距離関数の最適変形パラメータベクトルcoptにおける、パラメータベクトルの各要素に関する微分を算出し、これに基づいて変形パラメータベクトルの変動範囲を算出するようにしても良い。この場合、前記算出した変形パラメータベクトルの各要素に関する微分値の逆数に比例する量を変形パラメータベクトルの変動範囲とすることになる。この方法によれば、探索的な方法によらずに変形パラメータベクトルの変動範囲を定めることができるため、処理を効率的に行うことができるという作用・効果がある。
[第4の実施形態の変形例3]
上述した第4の実施形態における図9のステップS330の処理では、図9のステップS320の処理で得た複数の変形シミュレーションの結果を主成分分析することで主成分ベクトルを算出し、これらの線形和で被検体の変形状態を表現する変形モデルを生成する場合を例として説明した。しかしながら、本発明の実施においては、これに限定されるものではない。例えば、図9のステップS320で得た複数の変形シミュレーション結果と、これらを算出する際に設定した変形シミュレーションの条件とを関連付けて保持し、変形シミュレーションの条件に関する値をパラメータとした変形モデルとするようにすることもできる。ヤング率とポアソン比をシミュレーション条件とする本実施形態の場合には、ヤング率とポアソン比の2つの要素を持つ2次元の変形パラメータベクトルにより変形状態を表現する変形モデルとすることができる。この場合、前記複数の変形シミュレーションの結果を補間、外挿することで、連続量としての任意の2次元パラメータに対する被検体の変形状態を表現する変形モデルとすることができる。つまり、本実施形態で説明したM−1次元の変形パラメータベクトルに変えて、ヤング率とポアソン比で構成される2次元の変形パラメータベクトルを使う。そして、図9のステップS350、S360、S370における処理として、変形パラメータベクトルから変形状態を算出する場合には、上述したように変形シミュレーション結果の補間、外挿により変形状態を算出する。それ以外の処理は、第4の実施形態で説明した方法と同様の処理を実行することができる。
(第5の実施形態)
本実施形態に係る情報処理装置は、第4の実施形態に係る情報処理装置の仕組みに加えて、被検体の変形の推定の誤差範囲に基づいて、変形推定によって求めた体表形状の変動範囲を提示する。この情報は、推定によって求めた体表形状の曖昧さを示す情報であり、即ち推定した変形状態の曖昧さを示す情報である。これにより、被検体の体表形状の計測の追加の必要性を判断する情報が、ユーザに提示される。これにより、被検体の変形をユーザが所望する精度で算出するのに必要な被検体の体表形状の計測を行えるようにする。
図12は、第5の実施形態に係る情報処理システムの機能構成の一例を示す模式図である。
図12において、図7に示す第4の実施形態に係る情報処理システムの機能構成と同様の構成については同じ符号を付しており、その説明は省略する。
図12に示すように、本実施形態に係る情報処理装置1100−2は、図7に示す第4の実施形態に係る情報処理装置1100−1の構成に加えて、形状変動算出部2020及び形状変動画像生成部2021を備えている。
形状変動算出部2020は、変形モデル生成部2004で生成された変形モデルと、パラメータ変動範囲算出部2007で算出された変形パラメータベクトルの変動範囲に基づいて、推定によって求めた被検体の体表形状の変動範囲を算出する。
形状変動画像生成部2021は、形状変動算出部2020で算出された体表形状の変動範囲に基づいて、それを視認できる形状変動画像を生成する。
また、本実施形態に係る情報処理システムのハードウェア構成は、図8に示す第4の実施形態に係る情報処理システムのハードウェア構成と同様であるため、説明は省略する。
次に、本実施形態に係る情報処理装置1100−2が行う全体の動作に関して、図13のフローチャートを用いて詳しく説明する。
図13は、第5の実施形態に係る情報処理装置による情報処理方法の処理手順の一例を示すフローチャートである。ここで、本実施形態では、図13に示す情報処理方法は、図8のCPU1211が図8の主メモリ1212に格納されている制御プログラムを実行することによりなされるものとする。また、以下に説明する情報処理装置が行う各処理の結果は、図8の主メモリ1212に格納されて記録されるものとする。
図13のステップS600〜S660の処理は、それぞれ、第4の実施形態で説明した図3のステップS300〜S360の処理と同様であるため、その説明は省略する。
<S670:体表形状の変動範囲の算出>
ステップS670において、図12の形状変動算出部2020は、ステップS630で生成された変形モデルと、ステップS660で算出された変形パラメータベクトルの変動範囲に基づいて、推定した体表形状の変動範囲を算出する処理を実行する。この体表形状の変動範囲の算出方法について、具体的な方法を以下に例示する。
まず、第4の実施形態において図9のステップS370の処理の一部として説明した方法と同様にして、図12の形状変動算出部2020は、被検体の変形状態の群rUPPER_1〜rUPPER_M-1、rLOWER_1〜rLOWER_M-1を算出する。次いで、図12の形状変動算出部2020は、これらの変形状態の群のそれぞれについて、被検体の体表に相当する面を生成する。この処理は、ステップS620の処理の一部として抽出した被検体の体表面の位置を、第4の実施形態において図9のステップS370で説明した注目領域のワーピング処理と同様にしてワーピング処理することで実行できる。この処理の結果の例を図14に示す。
図14は、第5の実施形態を示し、図13のステップS670の処理を説明する模式図である。
図14において、体表面の形状900は、例えば、被検体の変形状態rUPPER_1に基づいて生成した被検体の体表面の形状である。同様に、体表面の形状910は、例えば、被検体の変形状態rUPPER_2に基づいて生成した被検体の体表面の形状である。このように、図12の形状変動算出部2020は、被検体の変形状態の群のそれぞれについて体表面の形状を算出する。また、coptに基づいて生成した体表面の形状920に示すように、ステップS650で算出した最適変形パラメータベクトルcoptに基づいて、被検体の変形状態を算出し、それに基づいて被検体の体表面を算出してもよい。本実施形態では、上述した方法で算出した複数の体表面を体表面の形状の群と称し、これを体表形状の変動範囲とする。
<S680:体表形状の表示>
ステップS680において、図12の形状変動画像生成部2021は、ステップS670で算出された体表形状の変動範囲を視認できる形状変動画像を生成し、これをモニタ1160に表示する処理を実行する。この体表形状の表示処理方法について、具体的な方法を以下に例示する。
具体的に、本ステップでは、ステップS670で算出された体表面の形状の群を重ねて描画した画像を生成し、これを表示する。その際、例えば、3次元の座標系であるMRI画像座標系510における体表面の形状を、任意の視点位置から観察した場合の仮想的な画像をコンピュータグラフィックスのレンダリング技術を用いて生成する。なお、画像の生成方法はこれに限らず、例えばMRI画像座標系510において、任意に断面を仮想的に設定し、その断面と前記形状の群のそれぞれとが交差する位置である曲線群を算出し、それらを上述したレンダリング技術によって描画するようにしても良い。また、より簡便な方法としては、前記設定した断面と生成する画像平面とを一致させて、前記断面上の曲線群を描画した画像を生成するようにしても良い。この場合、ステップS670の処理の説明として用いた図14と同様な画像が生成される。
以上の処理により、本実施形態に係る情報処理装置1100−2が被検体の変形状態をどの程度正確に推定しているのかを、ユーザに提示することができる。例えば、図12の形状変動画像生成部2021で生成した形状変動画像に描画されている体表形状の群が互いにばらついているような場合には、ユーザは、被検体の変形状態が正確に推定されていないと認識することができる。逆に、形状変動画像に描画されている体表形状の群が互いにほぼ一致しているような場合には、ユーザは、被検体の変形状態が正確に推定されていると認識することができる。
なお、本発明の実施は上述した例に限られない。例えば、形状変動画像は、上述した処理により算出した被検体の体表面の形状の群に基づいて、体表面上の変動の大きい位置を強調した画像であっても良い。これによれば、被検体の体表形状の計測が不足している位置をユーザにより分かり易く提示することができる。
<S690:形状計測値追加の判定>
ステップS690において、本実施形態に係る情報処理装置は、被検体の体表形状に係る形状計測値を追加するか否かを判定する。
そして、ステップS690の判定の結果、形状計測値を追加する場合には、ステップS640の処理に戻る。
一方、ステップS690の判定の結果、形状計測値を追加しない場合には、ステップS700に進む。
このステップS690の判定は、ユーザ(操作者)によるマウス1170やキーボード1180を介した入力操作に基づいて行うことができる。つまり、ユーザは、ステップS680の処理で表示された形状変動画像を視認し、被検体の変形状態が正確に推定されていないと知った場合に、処理をステップS640に戻して被検体の体表形状を追加して取得するように処理を切り替えることができる。
なお、ステップS690の判定によってステップS640に処理を戻した場合に、ステップS640の処理では、既に取得した被検体の体表形状に係る形状測定値に加えて、新たに計測した体表形状の係る形状測定値を追加して取得し、以降の処理を実行する。
図13のステップS700〜S740の処理は、それぞれ、第4の実施形態で説明した図9のステップS370〜S410の処理と同様であるため、その説明は省略する。
以上の処理によって、本実施形態に係る情報処理装置1100−2の処理が実施される。
上述した本実施形態に係る情報処理システムによれば、第4の実施形態に係る情報処理システムにおける効果に加えて、さらに、被検体の変形をユーザが所望する精度で算出するために必要な被検体の体表形状の計測を行える仕組みを提供することができる。
(第6の実施形態)
本実施形態に係る情報処理装置は、第5の実施形態に係る情報処理装置の仕組みに加えて、仰向け状態における被検体の注目領域の位置をより正確に推定するために必要な、被検体の体表形状の計測に関する誘導情報を提示する仕組みを備える。これにより、より効率的に被検体の体表形状の計測を行うための情報をユーザに提示できるようにする。
図15は、第6の実施形態に係る情報処理システムの機能構成の一例を示す模式図である。
図15において、図12に示す第5の実施形態に係る情報処理システムの機能構成と同様の構成については同じ符号を付しており、その説明は省略する。
図15に示すように、本実施形態に係る情報処理装置1100−3は、図12に示す第5の実施形態に係る情報処理装置1100−2の構成に対して、形状変動画像生成部2021に替えて誘導情報生成部2030を備えている。
誘導情報生成部2030は、形状変動算出部2020で算出された体表形状の変動範囲と、注目領域変動算出部2008で算出された注目領域の変動範囲とに基づいて、被検体の体表形状の計測に関する誘導情報を生成する。具体的に、この誘導情報は、被検体の体表形状の計測を促すための情報である。
また、本実施形態に係る情報処理システムのハードウェア構成は、図8に示す第4の実施形態に係る情報処理システムのハードウェア構成と同様であるため、説明は省略する。
次に、本実施形態に係る情報処理装置1100−3が行う全体の動作に関して、図16のフローチャートを用いて詳しく説明する。
図16は、第6の実施形態に係る情報処理装置による情報処理方法の処理手順の一例を示すフローチャートである。ここで、本実施形態では、図16に示す情報処理方法は、図8のCPU1211が図8の主メモリ1212に格納されている制御プログラムを実行することによりなされるものとする。また、以下に説明する情報処理装置が行う各処理の結果は、図8の主メモリ1212に格納されて記録されるものとする。
図16のステップS800〜S870の処理は、それぞれ、第5の実施形態で説明した図13のステップS600〜S670の処理と同様であるため、その説明は省略する。また、図16のステップS880の処理は、第4の実施形態で説明した図9のステップS370の処理と同様であるため、その説明は省略する。
<S890:誘導情報の表示>
ステップS890において、図15の誘導情報生成部2030は、ステップS870で算出された体表形状の変動範囲と、ステップS880で算出された注目領域の変動範囲に基づいて、被検体の体表形状の計測に関する誘導情報を生成し、これをモニタ1160に表示する処理を実行する。この誘導情報は、具体的には、被検体の体表形状を追加して計測するための候補となる位置を提示する情報である。この誘導情報の表示処理方法について、具体的な方法を以下に例示する。
まず、図15の誘導情報生成部2030は、ステップS880で算出された注目領域の変動範囲を用いて、変形パラメータベクトルの要素毎に、注目領域の変動量giを下記の(11)式の計算により算出する。
Figure 0006312898
ここでiは、変形パラメータベクトルの要素毎に振られる添え字であり、1≦i≦Mである。注目領域の変動量giは、変形パラメータベクトルの各要素の推定の曖昧さが、注目領域の変動に与える影響の大きさを表す。図17にその例を示す。
図17は、第6の実施形態を示し、図16のステップS890の処理を説明する模式図である。
図17(a)において、変動量930は、例えば、変形パラメータベクトルの1番目の要素の変動に関する注目領域の位置の変動量g1である。同様に、変動量940は、例えば、変形パラメータベクトルの2番目の要素の変動に関する注目領域の位置の変動量g2である。以後、図面上での説明においては、図面の記載を簡略化するために、変形パラメータベクトルが2つの場合について例示する。
次いで、図15の誘導情報生成部2030は、算出したM個のgiの中で最も値が大きいものを選択する。図17(a)に示した例の場合には、変動量930として示すg1よりも変動量940として示すg2の方が大きいため、変形パラメータベクトルの2番目の要素が選択される。これにより、注目領域の変動に最も影響の大きい変形パラメータベクトルの要素が特定される。
次いで、図15の誘導情報生成部2030は、ステップS870で生成された被検体の体表面の形状の群の中から、上述した処理で選択した変形パラメータベクトルの要素値の変動に基づく被検体の体表面の形状を選択する。
図17(a)の例において、体表面の形状900は変形パラメータベクトルの1番目の要素の変動に基づき算出した被検体の体表面の形状、体表面の形状910は変形パラメータベクトルの2番目の要素の変動に基づき算出した被検体の体表面の形状であるとする。図17(a)の例では、前の処理で変形パラメータベクトルの2番目の要素が選択されているので、この場合、それに対応する体表面の形状910が選択される。
本処理ステップでは、例えば、上述した処理によって選択した体表面の形状910と、coptに基づいて生成した体表面の形状920とを重ねて描画した画像を生成し、これを誘導情報とすることができる。この重ねて描画した画像を生成する方法としては、例えば、第5実施形態における図13のステップS680と同様の処理で実現できる。そして、図15の誘導情報生成部2030は、以上の処理で生成した誘導情報をモニタ1160に表示する。
誘導情報の生成の例を図17(b)に示す。この図17(b)において、体表面の形状910の中で追加計測の候補点950の位置において、coptに基づいて生成した体表面の形状920との差異が大きいことが容易に視認できる。つまり、ステップS840で取得された被検体の体表形状に係る形状計測値として、追加計測の候補点950の付近における計測値が仮に追加された場合には、変形パラメータベクトルのうち、上述した処理で選択した要素の変動量を減少させられることが分かる。そして、変形パラメータベクトルの選択した要素の変動量が減少した場合には、注目領域の変動量も減少することは自明である。つまり、誘導情報を表示することにより、被検体の体表形状で追加して計測するのが望ましい位置をユーザに提示することができる。
図16のステップS900〜S940の処理は、それぞれ、第5の実施形態で説明した図13のステップS690、第4の実施形態で説明した図9のステップS380〜S410と同様の処理であるため、その説明は省略する。
以上の処理によって、本実施形態に係る情報処理装置1100−3の処理が実施される。
上述した本実施形態に係る情報処理システムによれば、第5の実施形態(或いは第4の実施形態)に係る情報処理システムにおける効果に加えて、さらに、注目領域の位置の推定をより正確に行うことを目的とした場合に、より効率的に被検体の体表形状の計測を行うための情報をユーザに提示することができる。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。
即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
このプログラム及び当該プログラムを記憶したコンピュータ読み取り可能な記録媒体は、本発明に含まれる。
なお、上述した本発明の実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
本発明によれば、注目領域の対応領域を断層画像中で探索する際に、対応領域が存在する確率の分布が断層画像上に表示される。従って、ユーザは、探索範囲を絞りこみつつ、実際の誤差が大きい場合であっても表示に惑わされることなく対応領域を探索することができる。
また、本発明によれば、異なるモダリティで撮影された第1画像と第2画像との対応付けを行う際に、第1画像中の注目領域に対応する部位の第2画像中における存在範囲を提示することができる。
100:情報処理装置、110:断層画像取得部、112:位置姿勢取得部、120:三次元画像データ取得部、122:注目領域取得部、130:断面画像生成部、135:分布取得部、140:画像合成部、150:表示制御部、160:表示部、170:第1医用画像収集装置、180:第2医用画像収集装置、190:データサーバ

Claims (9)

  1. 被検体の第1画像を取得する第1画像取得手段と、
    前記被検体の第2画像を取得する第2画像取得手段と、
    前記第1画像の注目領域を示す情報を取得する注目領域取得手段と、
    前記第1画像と前記第2画像との間の変形の変動範囲を示す情報を取得する変動範囲取得手段と、
    前記注目領域を示す情報と、前記変形の変動範囲を示す情報とに基づいて当該注目領域の変動範囲を示す情報を取得する注目領域変動取得手段と、
    前記注目領域の変動範囲を示す情報に基づいて、前記第2画像に前記注目領域の変動範囲を表示させる表示制御手段と、
    を有することを特徴とする情報処理装置。
  2. 前記第1画像取得手段は、姿勢が第1状態の前記被検体を第1撮影装置を用いて撮影した前記第1画像を取得し、
    前記第2画像取得手段は、姿勢が前記1状態とは異なる第2状態の前記被検体を、前記第1撮影装置とは異なる第2撮影装置を用いて撮影した前記第2画像を取得し、
    前記第1状態から他の状態へ変化した場合の当該被検体の変形パラメータにより表現する変形モデルを取得する変形モデル取得手段と、
    前記被検体が前記第2状態のときの当該被検体の形状を示す情報を取得する形状取得手段と、
    前記変形モデルと前記形状を示す情報とに基づいて前記変形モデルによる前記第1状態と前記2状態との間の変形を表す変形パラメータを算出する変形パラメータ算出手段と、
    を更に有し、
    前記変動範囲取得手段は、前記変形モデル及び前記変形パラメータ基づいて、前記変形の変動範囲を示す情報を取得する
    ことを特徴とする請求項1に記載の情報処理装置。
  3. 前記第1撮影装置は、超音波画像撮影装置、MRI画像撮影装置、X線CT画像撮影装置、PET画像撮影装置のいずれかであり、
    前記第2撮影装置は、超音波画像撮影装置、MRI画像撮影装置、X線CT画像撮影装置、PET画像撮影装置のいずれかである
    ことを特徴とする請求項2に記載の情報処理装置。
  4. 前記変動範囲取得手段は、前記変形パラメータによる前記変形モデルの変形に関して、前記被検体の形状における変位が所定の範囲に収まる前記変形パラメータの変動範囲を取得し、前記変形パラメータを当該変形パラメータの変動範囲で変動させた場合に前記変形モデルが表す変形の変動範囲を示す情報を取得する
    ことを特徴とする請求項2または3に記載の情報処理装置。
  5. 前記注目領域変動取得手段は、前記変形の変動範囲で前記変形モデルの変形を変動させた場合に、当該変形の変動によって前記注目領域の位置が前記第2画像上で変動する位置の範囲に基づいて前記注目領域の変動範囲を示す情報を取得する
    ことを特徴とする請求項2から4のいずれか1項に記載の情報処理装置。
  6. 前記変形モデルと前記変形の変動範囲を示す情報とに基づいて前記被検体の形状の変動範囲を示す情報取得する形状変動取得手段を更に有し、
    前記表示制御手段は、前記被検体の形状の変動範囲を示す情報に基づいて形状変動画像を表示させる
    ことを特徴とする請求項2から5のいずれか1項に記載の情報処理装置。
  7. 前記変形モデルと前記変形の変動範囲を示す情報とに基づいて前記被検体の形状の変動範囲を示す情報取得する形状変動取得手段と、
    前記被検体の形状の変動範囲を示す情報と前記注目領域の変動範囲を示す情報とに基づいて前記被検体の形状の計測に関する誘導情報を取得する誘導情報取得手段と、
    を更に有することを特徴とする請求項2から5のいずれか1項に記載の情報処理装置。
  8. 被検体の第1画像を取得する第1画像取得ステップと、
    前記被検体の第2画像を取得する第2画像取得ステップと、
    前記第1画像の注目領域を示す情報を取得する注目領域取得ステップと、
    前記第1画像と前記第2画像との間の変形の変動範囲を示す情報を取得する変動範囲取得ステップと、
    前記注目領域を示す情報と、前記変形の変動範囲を示す情報とに基づいて当該注目領域の変動範囲を示す情報を取得する注目領域変動取得ステップと、
    前記注目領域の変動範囲を示す情報に基づいて、前記第2画像に前記注目領域の変動範囲を表示させる表示ステップと、
    を有することを特徴とする情報処理方法。
  9. コンピュータに、
    被検体の第1画像を取得する第1画像取得ステップと、
    前記被検体の第2画像を取得する第2画像取得ステップと、
    前記第1画像の注目領域を示す情報を取得する注目領域取得ステップと、
    前記第1画像と前記第2画像との間の変形の変動範囲を示す情報を取得する変動範囲取得ステップと、
    前記注目領域を示す情報と、前記変形の変動範囲を示す情報とに基づいて当該注目領域の変動範囲を示す情報を取得する注目領域変動取得ステップと、
    前記注目領域の変動範囲を示す情報に基づいて、前記第2画像に前記注目領域の変動範囲を表示させる表示ステップと、
    を実行させるためのプログラム。
JP2017083692A 2012-01-16 2017-04-20 情報処理装置、情報処理方法及びプログラム Expired - Fee Related JP6312898B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2012006394 2012-01-16
JP2012006394 2012-01-16
JP2012038719 2012-02-24
JP2012038719 2012-02-24

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2013005691A Division JP6132558B2 (ja) 2012-01-16 2013-01-16 情報処理装置、情報処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2017124286A JP2017124286A (ja) 2017-07-20
JP6312898B2 true JP6312898B2 (ja) 2018-04-18

Family

ID=48779994

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2013005691A Active JP6132558B2 (ja) 2012-01-16 2013-01-16 情報処理装置、情報処理方法及びプログラム
JP2017083692A Expired - Fee Related JP6312898B2 (ja) 2012-01-16 2017-04-20 情報処理装置、情報処理方法及びプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2013005691A Active JP6132558B2 (ja) 2012-01-16 2013-01-16 情報処理装置、情報処理方法及びプログラム

Country Status (3)

Country Link
US (1) US9058647B2 (ja)
JP (2) JP6132558B2 (ja)
CN (1) CN103251431B (ja)

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5950619B2 (ja) * 2011-04-06 2016-07-13 キヤノン株式会社 情報処理装置
US9058647B2 (en) * 2012-01-16 2015-06-16 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and storage medium
JP2014183876A (ja) * 2013-03-22 2014-10-02 Fujifilm Corp 画像表示装置および方法
JP6200249B2 (ja) 2013-09-11 2017-09-20 キヤノン株式会社 情報処理装置、情報処理方法
KR20150077184A (ko) * 2013-12-27 2015-07-07 삼성전자주식회사 의료 영상의 병변 유사도 판단 장치 및 방법
JP2019013852A (ja) * 2014-01-16 2019-01-31 キヤノン株式会社 画像処理装置、システム、画像処理方法、医用画像撮像方法およびプログラム
JP6489800B2 (ja) 2014-01-16 2019-03-27 キヤノン株式会社 画像処理装置、画像診断システム、画像処理方法およびプログラム
JP6431342B2 (ja) * 2014-01-16 2018-11-28 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP6489801B2 (ja) * 2014-01-16 2019-03-27 キヤノン株式会社 画像処理装置、画像診断システム、画像処理方法およびプログラム
JP6403393B2 (ja) * 2014-02-12 2018-10-10 住友重機械工業株式会社 画像生成装置
CN103942795B (zh) * 2014-04-22 2016-08-24 浙江大学 一种图像物体的结构化合成方法
JP6383189B2 (ja) 2014-06-16 2018-08-29 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP6376873B2 (ja) 2014-07-16 2018-08-22 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
EP3174490B1 (en) 2014-07-28 2020-04-15 Intuitive Surgical Operations, Inc. Systems and methods for planning multiple interventional procedures
WO2016017987A1 (en) * 2014-07-31 2016-02-04 Samsung Electronics Co., Ltd. Method and device for providing image
KR102301231B1 (ko) * 2014-07-31 2021-09-13 삼성전자주식회사 영상 제공 방법 및 이를 위한 장치
US9808213B2 (en) * 2014-08-11 2017-11-07 Canon Kabushiki Kaisha Image processing apparatus, image processing method, medical image diagnostic system, and storage medium
KR20160032586A (ko) * 2014-09-16 2016-03-24 삼성전자주식회사 관심영역 크기 전이 모델 기반의 컴퓨터 보조 진단 장치 및 방법
JP6331922B2 (ja) * 2014-09-22 2018-05-30 コニカミノルタ株式会社 医用画像システム及びプログラム
JP6541334B2 (ja) * 2014-11-05 2019-07-10 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP6467221B2 (ja) 2014-12-22 2019-02-06 キヤノン株式会社 画像処理装置および方法
JP6448356B2 (ja) * 2014-12-22 2019-01-09 キヤノン株式会社 画像処理装置、画像処理方法、画像処理システム、及びプログラム
US9824189B2 (en) * 2015-01-23 2017-11-21 Panasonic Intellectual Property Management Co., Ltd. Image processing apparatus, image processing method, image display system, and storage medium
JP6598565B2 (ja) * 2015-08-06 2019-10-30 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
EP3337418B1 (en) * 2015-08-17 2021-10-13 Koninklijke Philips N.V. Simulating breast deformation
US10147183B2 (en) * 2015-11-25 2018-12-04 Fovia, Inc. Methods and systems for stochastic growth assessment
JP6632361B2 (ja) * 2015-12-15 2020-01-22 キヤノン株式会社 画像処理装置、画像処理システム、画像処理方法、及びプログラム。
JP6821303B2 (ja) 2015-12-15 2021-01-27 キヤノン株式会社 情報処理装置、情報処理方法およびプログラム
JP6615603B2 (ja) 2015-12-24 2019-12-04 キヤノンメディカルシステムズ株式会社 医用画像診断装置および医用画像診断プログラム
US11219427B2 (en) * 2016-06-07 2022-01-11 Koninklijke Philips N.V. Ultrasound system and method for breast tissue imaging and annotation of breast ultrasound images
JP6637610B2 (ja) * 2016-09-16 2020-01-29 富士フイルム株式会社 超音波診断装置及び超音波診断装置の制御方法
WO2018051577A1 (ja) * 2016-09-16 2018-03-22 富士フイルム株式会社 超音波診断装置及び超音波診断装置の制御方法
JP7054787B2 (ja) * 2016-12-22 2022-04-15 パナソニックIpマネジメント株式会社 制御方法、情報端末、及びプログラム
JP6660428B2 (ja) * 2018-08-01 2020-03-11 キヤノン株式会社 処理装置、処理方法、およびプログラム
JP7239363B2 (ja) * 2019-03-22 2023-03-14 ソニー・オリンパスメディカルソリューションズ株式会社 医療用画像処理装置、医療用観察装置、医療用観察システム、医療用画像処理装置の作動方法および医療用画像処理プログラム
JP7291534B2 (ja) * 2019-05-14 2023-06-15 キヤノンメディカルシステムズ株式会社 解析装置及び超音波診断装置
CN112215804B (zh) * 2020-09-15 2021-10-15 数坤(北京)网络科技股份有限公司 一种数据处理方法、设备和计算机存储介质

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003260056A (ja) 2002-03-08 2003-09-16 Toshiba Corp 超音波診断装置
US20040210133A1 (en) * 2003-04-15 2004-10-21 Dror Nir Method and system for selecting and recording biopsy sites in a body organ
EP2460474B1 (en) 2003-05-08 2015-12-16 Hitachi Medical Corporation Reference image display method for ultrasonography and ultrasonic diagnosis apparatus
CN101422378B (zh) 2003-05-08 2012-07-18 株式会社日立医药 超声诊断设备
US20060036162A1 (en) * 2004-02-02 2006-02-16 Ramin Shahidi Method and apparatus for guiding a medical instrument to a subsurface target site in a patient
US8425418B2 (en) * 2006-05-18 2013-04-23 Eigen, Llc Method of ultrasonic imaging and biopsy of the prostate
CA2670261A1 (en) * 2006-11-16 2008-05-29 Vanderbilt University Apparatus and methods of compensating for organ deformation, registration of internal structures to images, and applications of same
US7907768B2 (en) 2006-12-19 2011-03-15 Fujifilm Corporation Method and apparatus for probabilistic atlas based on shape modeling technique
US8175350B2 (en) * 2007-01-15 2012-05-08 Eigen, Inc. Method for tissue culture extraction
US8303502B2 (en) 2007-03-06 2012-11-06 General Electric Company Method and apparatus for tracking points in an ultrasound image
US7899226B2 (en) * 2007-04-03 2011-03-01 General Electric Company System and method of navigating an object in an imaged subject
US8184886B2 (en) * 2007-08-21 2012-05-22 Siemens Aktiengesellschaft Deformable 2D-3D registration
US20100256493A1 (en) * 2007-11-09 2010-10-07 Tomoaki Chono Ultrasonic diagostic apparatus, operation method thereof, and ultrasonic diagnostic program
US20090129650A1 (en) * 2007-11-19 2009-05-21 Carestream Health, Inc. System for presenting projection image information
JP5305757B2 (ja) * 2008-06-30 2013-10-02 株式会社東芝 画像処理装置、超音波診断装置、および画像処理プログラム
US20100016710A1 (en) * 2008-07-11 2010-01-21 Dinesh Kumar Prostate treatment apparatus
JP5486182B2 (ja) * 2008-12-05 2014-05-07 キヤノン株式会社 情報処理装置および情報処理方法
JP5546230B2 (ja) * 2009-12-10 2014-07-09 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
JP5580030B2 (ja) * 2009-12-16 2014-08-27 株式会社日立製作所 画像処理装置、および画像位置合せ方法
JP5538861B2 (ja) * 2009-12-18 2014-07-02 キヤノン株式会社 情報処理装置、情報処理方法、情報処理システム、及びプログラム
JP5234671B2 (ja) 2010-05-19 2013-07-10 ジーイー・メディカル・システムズ・グローバル・テクノロジー・カンパニー・エルエルシー 超音波診断装置
CN101859441B (zh) 2010-05-25 2011-12-21 中国人民解放军第四军医大学 基于影像的无创监测肿瘤浸润周围组织程度的计算机辅助分析方法
US9058647B2 (en) * 2012-01-16 2015-06-16 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and storage medium

Also Published As

Publication number Publication date
US9058647B2 (en) 2015-06-16
CN103251431A (zh) 2013-08-21
JP2017124286A (ja) 2017-07-20
CN103251431B (zh) 2015-09-02
US20130182901A1 (en) 2013-07-18
JP6132558B2 (ja) 2017-05-24
JP2013198722A (ja) 2013-10-03

Similar Documents

Publication Publication Date Title
JP6312898B2 (ja) 情報処理装置、情報処理方法及びプログラム
KR101267759B1 (ko) 화상 처리 장치, 화상 처리 방법 및 저장 매체
US9035941B2 (en) Image processing apparatus and image processing method
CN102727258B (zh) 图像处理装置、超声波摄影系统及图像处理方法
JP5538862B2 (ja) 画像処理装置、画像処理システム、画像処理方法、及びプログラム
US8908944B2 (en) Information processing apparatus, information processing method, and program
US20110262015A1 (en) Image processing apparatus, image processing method, and storage medium
JP5631453B2 (ja) 画像処理装置、画像処理方法
JP5591309B2 (ja) 画像処理装置、画像処理方法、プログラム、及び記憶媒体
US10856850B2 (en) Information processing apparatus, method, and program for matching target object position between the prone and supine positions obtained by MRI and ultrasound
KR20130016942A (ko) 3차원 볼륨 파노라마 영상 생성 방법 및 장치
US20050197558A1 (en) System and method for performing a virtual endoscopy in a branching structure
JP2020018767A (ja) 超音波診断システム
JP6548798B2 (ja) 情報処理装置、情報処理方法、プログラム
JP6487999B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2019500114A (ja) 位置合わせ精度の決定
Luo et al. Externally navigated bronchoscopy using 2-D motion sensors: Dynamic phantom validation
JP6251002B2 (ja) 画像処理装置及び画像処理方法、コンピュータプログラム
JP2017023834A (ja) 画像処理装置、撮影システム及び画像処理方法
JP2011156117A (ja) 医用画像読影システム、医用画像参照装置及び血管長計測用制御プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170522

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170522

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180320

R151 Written notification of patent or utility model registration

Ref document number: 6312898

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees