JP2019051060A - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP2019051060A JP2019051060A JP2017177357A JP2017177357A JP2019051060A JP 2019051060 A JP2019051060 A JP 2019051060A JP 2017177357 A JP2017177357 A JP 2017177357A JP 2017177357 A JP2017177357 A JP 2017177357A JP 2019051060 A JP2019051060 A JP 2019051060A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image data
- deformation
- unit
- processing apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】被検体の姿勢変化に伴う変形演算を行うためのパラメータを容易に設定し、変形演算時の誤差を少なくする画像処理装置を提供する。【解決手段】画像処理装置には、同一の被検体について撮影時の姿勢が互いに異なる第1の画像データ(超音波画像)と第2の画像データ(MRI画像)が入力する。変形演算部106は、第2の画像データにおける被検体の形状を、第1の画像データを撮影した姿勢における形状に変形する変形演算を行なう。変形パラメータ設定部108は、変形演算を行うための変形パラメータを設定する。位置合わせ部204は、変形演算を行った第2の画像データと第1の画像データとの位置合わせを行う。表示制御部は、第1の画像データに基づく画像とともに、該画像と同一断面について、第2の画像データに基づく画像をディスプレイに表示する。【選択図】図3
Description
本発明は、リアルタイムで撮像した超音波画像と、他の撮像装置で予め撮像されたボリュームデータから求めた同じ断面の画像とを同時に表示する画像処理装置に関する。
超音波撮像装置は、超音波を被検体に照射し、その反射信号により被検体内部の構造を画像化するため、無侵襲かつリアルタイムに患者を観察することが可能である。一方、X線CT(Computed Tomography)装置あるいはMRI(Magnetic Resonance Imaging)装置などの他の医用画像撮像装置は、広範囲かつ高分解能で撮像することができるため、細かな病変や臓器の位置関係の把握が容易に行える。例えば乳癌などの腫瘍を、早期の段階でMRI画像やX線CT画像から見つけ出すことができる。
また、超音波探触子に位置センサを貼り付けてスキャン面の位置関係を算出し、医用画像診断装置から撮像した3次元診断用ボリュームデータから、超音波スキャン面の画像と対応する2次元画像を構築し、表示する画像診断システムも普及し始めている。
ところで、超音波診断装置において、同一断面についての超音波画像と超音波画像以外の医用画像を表示しようとした場合、それぞれの画像における撮影時の被検体の姿勢の相違により、同一断面であっても生体組織の形状が異なる場合がある。
例えば、乳房について超音波診断装置を用いて撮影する場合には、仰向け(仰臥位)で撮影を行う。一方、MRI装置で乳房を撮影する場合には、うつ伏せ(伏臥位)で撮影を行う。このため、超音波画像における乳房は、重力によって押しつぶされたような形状となり、MRI画像における乳房は重力により垂下した形状となる。このため、各画像における形状が大きく異なる。これは、超音波画像と超音波以外の画像を同時に表示する場合の問題となっていた。
特許文献1には、それぞれの画像における撮影時の被検体の姿勢の相違による生体組織の形状の変化を解消するために、有限要素法や粒子法などを用いて姿勢変更による生体組織の形状変形を演算し、変形演算後の画像を表示する技術が開示されている。
特許文献1において生体組織の変形演算を行うためには、変形のための種々のパラメータを適切に設定する必要がある。例えば、乳房の硬さ等のパラメータは被検体ごとに違っているため、精密な変形演算を行うためには適切なパラメータ設定が必要になる。また、変形演算のためには、例えば重力方向のパラメータ設定なども必要になる。
しかしながら、変形パラメータの設定は非常に難しく、乳房の硬さには個人差がある。さらに、乳房は脂肪、乳腺、皮膚から構成されるため、硬さのパラメータは脂肪だけでなく、乳腺、皮膚に対しても設定する必要がある。これらの複数のパラメータの設定が適切に行われないと、姿勢間の形状変形に大きな誤差が生じてしまう。その結果、2つの画像間に位置ずれが生じ、細かな病変の位置を特定するのが困難になる。前記特許文献1には被検体ごとの変形パラメータ設定については、特に考慮されていない。
本発明の目的は、変形演算のためのパラメータを容易に設定でき、姿勢変更に伴う形状変形の誤差を少なくする画像処理装置を提供することである。
本発明は、同一の被検体を異なる撮像装置にて撮影した第1の画像データと第2の画像データとを入力し、画像処理を施して表示する画像処理装置において、第1の画像データは超音波撮像装置で撮影した超音波画像であり、第2の画像データは他の画像撮像装置により取得したボリュームデータであり、第1の画像データと第2の画像データは、被検体の撮影時の姿勢が互いに異なるものであって、第2の画像データにおける被検体の生体組織の形状を、第1の画像データを撮影した姿勢における生体組織の形状に変形する変形演算を行なう変形演算部と、変形演算部にて生体組織の変形演算を行うための変形パラメータを設定する変形パラメータ設定部と、変形演算部にて変形演算を行った第2の画像データの座標系と第1の画像データの座標系との間の座標変換を行って、第2の画像データと第1の画像データの位置合わせを行う位置合わせ部と、第1の画像データに基づく画像とともに、該画像と同一断面について、位置合わせ済みの第2の画像データに基づく画像をディスプレイに表示する表示制御部と、を備える構成とする。
本発明によれば、変形パラメータを設定するためのパラメータ設定部を有しているので、被検体ごとの変形パラメータを容易に設定することが可能となり、姿勢変更に伴う形状変形の誤差を少なくすることができる。
以下、本発明の実施の形態について、図面を参照して説明する。
実施例1では、本発明の画像処理装置の基本構成と動作について説明する。画像処理装置は超音波撮像装置に組み込まれ、超音波画像と他の画像撮像装置で撮影した同一断面の画像(例えばMRI画像)とを同時に表示するものである。
図1は、本発明の画像処理装置を含む超音波撮像装置の構成例を示す図である。超音波撮像装置1は、超音波探触子2、位置センサ3、位置検出ユニット4、送受信部5、超音波画像生成部6、制御部7、画像処理部8、ユーザインタフェース(UI)部9を備える。このうち、画像処理部8とUI部9は、2つの画像を表示する画像処理装置10を構成する。超音波探触子2は、被検体20に超音波を送信し、被検体20からの超音波を受信する。位置センサ3は、超音波探触子2に取り付けられている。
超音波画像生成部6は、超音波探触子2の受信信号から超音波画像を生成する。この超音波画像のことを第1の画像データと呼ぶ。第1の画像データは画像処理装置10の画像処理部8へ送られる。
一方画像処理部8は、UI部9を介して、外部の他の画像撮像装置が被検体20について得たボリュームデータを受け取る。このボリュームデータを第2の画像データと呼ぶ。このとき、第2の画像データの撮影時の被検体20の姿勢が、第1の画像データの撮影時の姿勢と異なっている場合がある。この場合には、画像処理部8は、第2の画像データにおける生体組織の形状を、第1の画像における生体組織の形状に変形する変形演算を行なう。ここで画像処理部8は、後述する変形パラメータ設定部によって適切なパラメータを設定することで、精度の良い変形シミュレーション(変形演算)を実行する。変形後の第2の画像は、第1の画像とともに、ディスプレイ11にて表示される。
まず、超音波撮像装置1における超音波画像の生成動作について説明する。超音波撮像装置1において、送受信部5は、制御部7の制御下で送信信号を生成し、超音波探触子2を構成する複数の超音波素子ごとに受け渡す。これにより、超音波探触子2の複数の超音波素子は、それぞれ超音波を被検体20に向かって送信する。被検体20で反射された超音波は、再び超音波探触子2の複数の超音波素子に到達して受信され、電気信号に変換される。超音波素子が受信した信号は、送受信部5によって、受信焦点の位置に応じた所定の遅延量で遅延させた後加算される(整相加算)。これを複数の受信焦点について繰り返す。整相加算後の信号は、超音波画像生成部6に受け渡される。
位置検出ユニット4は、位置センサ3の出力から超音波探触子2の位置を検出する。例えば位置検出ユニット4として、磁気センサユニットを用いることができる。位置検出ユニット4は磁場空間を形成し、位置センサ3が磁場を検出することにより、基準点となる位置からの座標を検出することができる。超音波画像生成部6は、送受信部5から受け取った整相加算信号を受信焦点に対応する位置に並べる等の処理を行い、超音波画像(第1の画像データ)を生成する。
次に、画像処理装置10、すなわち画像処理部8とユーザインタフェース(UI)部9の構成と動作について説明する。
図2は、画像処理装置10のハードウェア構成を示すブロック図である。画像処理部8は、CPU(プロセッサ)81、ROM(不揮発性メモリ:読出専用の記憶媒体)82、RAM(揮発性メモリ:データの読み書きが可能な記憶媒体)83、記憶装置84、および表示制御部85を備えて構成される。UI部9は、画像入力部91、媒体入力部92、入力制御部93、および入力装置94を備えて構成される。これらと、超音波画像生成部6および位置検出ユニット4は、データバス86によって相互に接続されている。また、表示制御部85にはディスプレイ11が接続されている。
ROM82およびRAM83の少なくとも一方には、CPU81の演算処理により画像処理部8の動作を実現するために必要とされるプログラムとデータが格納されている。CPU81が、このROM82およびRAM83の少なくとも一方に格納されたプログラムを実行することによって、画像処理部8の各種処理が実現される。
なお、CPU81が実行するプログラムは、記憶媒体(例えば、光ディスク)41に格納しておき、媒体入力部92(例えば、光ディスクドライブ)がそのプログラムを読み込んでRAM83に格納するようにしてもよい。また、記憶装置84に当該プログラムを格納しておき、記憶装置84からそのプログラムをRAM83にロードしてもよい。また、ROM82に予め当該プログラムを記憶させておいてもよい。
UI部9において、画像入力部91は、MRI装置などの他の画像撮像装置42が撮影した医用画像ボリュームデータ(第2画像データ)を取り込むためのインターフェースである。記憶装置84は、画像入力部91を介して入力された第2画像データ等を格納する磁気記憶装置である。記憶装置84は、不揮発性半導体記憶媒体(例えば、フラッシュメモリ)を備えてもよい。また、ネットワークなどを介して接続された外部記憶装置を利用してもよい。
入力装置94は、ユーザの操作を受け付けるデバイスであり、例えば、キーボード、トラックボール、操作パネル、フットスイッチなどを含む。入力制御部93は、入力装置94で受け付けた入力を操作入力信号に変換し、操作入力信号はCPU81に送られて処理される。
表示制御部85は、CPU81の処理で得られた画像データをディスプレイ11に表示させる制御を行う。ディスプレイ11は、表示制御部85の制御下で画像を表示する。
このようにして画像処理部8は、超音波画像生成部6から取得した被検体20の超音波画像(第1の画像データ)とともに、他の画像撮像装置42が被検体20について得たボリュームデータ(第2の画像データ)を受け取る。そして、第2の画像データにおける生体組織の形状を、第1の画像データにおける生体組織の形状に変形する処理を行ない、両方の画像を同時に表示する。以下では、被検体20として患者の乳房を例に取り上げ、第2の画像データはMRI画像として説明する。
図4は、被検体の姿勢と乳房の形状を説明する図である。図4(a)は被検体がうつ伏せ(伏臥位)の場合の乳房brの形状、図4(b)は被検体が仰向け(仰臥位)の場合の乳房brの形状を示している。うつ伏せの場合は、重力によって乳房brが垂下している。このように、乳房の形状は被検体の姿勢の変化によって大きく変形する。なお、符号fは後述する特徴点を、符号mは胸筋の境界を、符号sは皮膚表面を示す。
本実施例では、図に示すような姿勢による形状変形を補正し、例えば、図4(a)に示すうつ伏せの乳房形状を図4(b)に示す仰向けの乳房形状に変換する。そして、うつ伏せ状態から仰向け状態に変換した乳房形状のMRI画像(仮想仰向けMRI画像とも呼ぶ)と仰向け超音波画像とを表示する。
図3は、実施例1における画像処理部8の機能構成を示すブロック図である。ここでは、機能ブロックを実線、画像やデータを破線で示している。各ブロックの処理動作は第1フェーズ〜第4フェーズから成っており、まず、全体の動作の概要を説明する。
第1フェーズでは、うつ伏せMRI画像101から乳房変形モデル104を生成し特徴点105を抽出する。画像入力部91からうつ伏せMRI画像101(第2の画像データ)が入力すると、乳房モデル生成部102は乳房変形モデル104を生成し、特徴点抽出部103は特徴点105を抽出する。
第2フェーズでは、仰向け超音波画像201から特徴点203を抽出する。画像処理部8は被検体20の超音波画像201(第1の画像データ)を取得し、特徴点抽出部202は、仰向けの姿勢における特徴点203を抽出する。この特徴点203は前述のMRI画像101から抽出した特徴点105に対応するものである。
第3フェーズでは、変形パラメータ107を設定して乳房変形モデル104の変形シミュレーションを行い、さらに特徴点の位置合わせを行って仮想仰向けMRI画像205を生成する。変形シミュレーション部(変形演算部)106は、乳房変形モデル104を用いて変形シミュレーションを行い、仮想仰向けMRI画像109を生成し、対応する変形後の特徴点110を求める。このとき変形パラメータ設定部108は、変形シミュレーションのための変形パラメータ107を制御する。位置合わせ部204は、変形後の特徴点110と仰向け姿勢における特徴点203との対応から、仮想仰向けMRI画像109と仰向け超音波画像201との位置合わせを行い、位置合わせ済仮想仰向けMRI画像205を生成する。
第4フェーズでは、超音波探触子2を動かしながら、仰向け超音波画像303と対応する仮想仰向けMRI画像断面305を同時に表示する。超音波撮像部301では、超音波画像生成部6によって仰向け超音波画像303を生成する。このとき、超音波探触子2の位置・方向のデータ302に従って、断面表示部304は、仰向け超音波画像303と同一断面の仮想仰向けMRI画像断面305を生成する。そして、仰向け超音波画像303と同一断面の仮想仰向けMRI画像断面305を同時に表示する。
以下、各フェーズの動作を詳細に説明する。
(第1フェーズ)ここでは、うつ伏せMRI画像101から乳房変形モデル104を生成する。
まず、うつ伏せMRI画像101を画像入力部91から入力する。この例では、うつ伏せのMRI画像としているが、別の姿勢(例えば立位)のMRI画像でもよい。また、画像の種類はMRIに限らない。CTなど他の撮像方法でもよい。図4(a)に示したように、うつ伏せのMRI画像は重力によって乳房が垂下している。
(第1フェーズ)ここでは、うつ伏せMRI画像101から乳房変形モデル104を生成する。
まず、うつ伏せMRI画像101を画像入力部91から入力する。この例では、うつ伏せのMRI画像としているが、別の姿勢(例えば立位)のMRI画像でもよい。また、画像の種類はMRIに限らない。CTなど他の撮像方法でもよい。図4(a)に示したように、うつ伏せのMRI画像は重力によって乳房が垂下している。
乳房モデル生成部102は、うつ伏せMRI画像101から乳房変形モデル104を生成する。乳房変形モデル104とは、重力等の外力を変更することで、乳房形状の変形演算を行うためのモデルである。これにより、例えば図4(a)に示すうつ伏せの乳房形状を、図4(b)に示すような仰向けの乳房形状に変形することができる。
乳房変形モデルとしては、有限要素法などの物理シミュレーションモデルが利用でき、その他、粒子法や質点バネモデルなど、様々な変形シミュレーション方法が利用できる。乳房変形モデルとして、有限要素法を用いる場合には、乳房領域から四面体などの有限要素モデルを生成する。また、胸筋部分を固定境界として変形シミュレーションを行う。さらに、乳房モデルを脂肪、乳腺、皮膚の領域でモデル化して、それぞれの変形パラメータ(ヤング率、ポアソン比など)を指定することが可能である。
特徴点抽出部103は、うつ伏せMRI画像101から、乳房画像の特徴点105を抽出する。特徴点105としては、例えば乳頭や、解剖学的なランドマークを用いる。図4(a)には、特徴点の例(符号f)を示している。特徴点は自動的に抽出することも可能であるが、対話的に指定してもよい。
(第2フェーズ)ここでは、仰向け超音波画像201上の特徴点203を抽出する。
被検体20に対して、超音波探触子2、送受信部5、超音波画像生成部6を用いて様々な断面における仰向け超音波画像201を生成する。このとき、第1フェーズで指定したうつ伏せMRI画像101上の特徴点105に対応する仰向け超音波画像201上の特徴点203が現れる断面を探索する。対応する特徴点203が超音波画像201上に現れた場合に、マウスなどの入力装置94を用いて特徴点203の位置を指定する。このとき、位置検出ユニット4によって超音波探触子2の位置姿勢が既知であるため、座標変換によって指定された特徴点203の3次元座標を求めることが可能である。
被検体20に対して、超音波探触子2、送受信部5、超音波画像生成部6を用いて様々な断面における仰向け超音波画像201を生成する。このとき、第1フェーズで指定したうつ伏せMRI画像101上の特徴点105に対応する仰向け超音波画像201上の特徴点203が現れる断面を探索する。対応する特徴点203が超音波画像201上に現れた場合に、マウスなどの入力装置94を用いて特徴点203の位置を指定する。このとき、位置検出ユニット4によって超音波探触子2の位置姿勢が既知であるため、座標変換によって指定された特徴点203の3次元座標を求めることが可能である。
上記の処理を繰り返すことによって、うつ伏せMRI画像上の特徴点105に対応する、仰向け超音波画像201上の特徴点203の三次元座標が求められる。
(第3フェーズ)ここでは、変形パラメータ107を設定して変形シミュレーションを行い、位置合わせ済仮想仰向けMRI画像205を生成する。
変形パラメータ設定部108は、乳房変形モデル104に対する変形パラメータ107を設定する。変形パラメータ107としては、乳房モデルの弾性変形パラメータを設定する。具体的には、脂肪、乳腺、皮膚のヤング率、ポアソン比が挙げられる。さらに、重力の方向も変形パラメータとする。
変形パラメータ設定部108は、乳房変形モデル104に対する変形パラメータ107を設定する。変形パラメータ107としては、乳房モデルの弾性変形パラメータを設定する。具体的には、脂肪、乳腺、皮膚のヤング率、ポアソン比が挙げられる。さらに、重力の方向も変形パラメータとする。
次に、変形シミュレーション部106によって乳房変形モデル104を変形し、仮想仰向けMRI画像109を生成する。変形シミュレーションは、有限要素法などの手法を用いるが、うつ伏せ姿勢から仰向け姿勢に変換する場合には、1例として2倍の重力を与える方法を用いることが可能である。図4(a)のうつ伏せ形状に対して、胸筋の境界mを固定として、乳房brの変形をシミュレーションする。このとき、図4(a)の下から上方向に重力の2倍の力を加えることで、図4(b)の仰向け乳房の形状変形をシミュレーションできる。
変形シミュレーションによって特徴点105も変形され、仮想仰向けMRI画像上の特徴点110を求める。
変形シミュレーションによって特徴点105も変形され、仮想仰向けMRI画像上の特徴点110を求める。
位置合わせ部204は、変形後の仮想仰向けMRI画像の特徴点110と仰向け超音波画像の特徴点203との対応から、仮想仰向けMRI画像109と仰向け超音波画像201との位置合わせを行い、位置合わせ済仮想仰向けMRI画像205を生成する。
ここで、位置合わせ部204の位置合わせ方法について説明する。特徴点の数が1つの場合には、変形後の特徴点110と仰向け姿勢における特徴点203の位置が一致するように、移動だけの座標変換を行う。
特徴点の数が2個の場合には、座標変換後の特徴点110と特徴点203との誤差の二乗和が最小となるような移動変換を求める。特徴点の数が3個以上の場合には、座標変換後の特徴点110と特徴点203との誤差の二乗和が最小となるような剛体変換(移動と回転の変換)を求める。以上により、特徴点の数に応じた位置合わせを実行する。
(第4のフェーズ)ここでは、仰向け超音波画像303と対応する仮想仰向けMRI画像断面305を同時表示する。
超音波撮像部301では、被検体20に対して、超音波探触子2、送受信部5、超音波画像生成部6を用いて仰向け超音波画像303を生成する。このとき、位置検出ユニット4によって超音波探触子2の位置・方向のデータ302を得て、その値に従って断面表示部304は、仰向け超音波画像303とこれに対応する同一断面の仮想仰向けMRI画像断面305を生成する。そして、仰向け超音波画像303とこれと同一断面の仮想仰向けMRI画像断面305を同時にディスプレイ11に表示する。
以上で、超音波画像と、これと異なる姿勢で撮影したMRI画像とを同時に表示することが可能となる。
超音波撮像部301では、被検体20に対して、超音波探触子2、送受信部5、超音波画像生成部6を用いて仰向け超音波画像303を生成する。このとき、位置検出ユニット4によって超音波探触子2の位置・方向のデータ302を得て、その値に従って断面表示部304は、仰向け超音波画像303とこれに対応する同一断面の仮想仰向けMRI画像断面305を生成する。そして、仰向け超音波画像303とこれと同一断面の仮想仰向けMRI画像断面305を同時にディスプレイ11に表示する。
以上で、超音波画像と、これと異なる姿勢で撮影したMRI画像とを同時に表示することが可能となる。
(パラメータ設定処理)第3フェーズにおける変形パラメータ設定部108による変形パラメータ107の設定処理について説明する。
変形パラメータ設定部108は、後述する対話処理、最適化処理、エラストグラフィの利用などの方法で、変形パラメータ107を最適に設定する。変形パラメータとしては、被検体20の各組織のヤング率、ポアソン比、重力方向などが挙げられる。変形パラメータ設定部108により、変形パラメータ107を最適に設定し、変形シミュレーション部106によって、仮想仰向けMRI画像109と、仮想仰向けMRI画像上の特徴点110とが高精度に求められる。その結果、第4フェーズにおいて、仰向け超音波画像303と、同一断面の仮想仰向けMRI画像断面305が高精度に生成される。
変形パラメータ設定部108は、後述する対話処理、最適化処理、エラストグラフィの利用などの方法で、変形パラメータ107を最適に設定する。変形パラメータとしては、被検体20の各組織のヤング率、ポアソン比、重力方向などが挙げられる。変形パラメータ設定部108により、変形パラメータ107を最適に設定し、変形シミュレーション部106によって、仮想仰向けMRI画像109と、仮想仰向けMRI画像上の特徴点110とが高精度に求められる。その結果、第4フェーズにおいて、仰向け超音波画像303と、同一断面の仮想仰向けMRI画像断面305が高精度に生成される。
なお、上記の説明の中で、うつ伏せMRI画像101から抽出する特徴点105に加えて、胸筋の境界m、皮膚表面sを抽出することが可能である。この場合には、仰向け超音波画像201からも特徴点203に加えて、対応する胸筋の境界m’、皮膚表面s’を抽出する。
うつ伏せMRI画像101から胸筋境界mの抽出は対話的に実行できる。うつ伏せMRI画像101から皮膚表面sの抽出は閾値処理で可能である。仰向け超音波画像201から対応する胸筋の境界m’を抽出する場合には、代表断面において胸筋の境界をマウスなどで指定し、複数断面の境界を補間することで胸筋境界を設定できる。仰向け超音波画像201から対応する皮膚表面s’を抽出する場合には、超音波探触子2の位置から皮膚表面を抽出し、複数断面の皮膚境界を補間することで皮膚表面を抽出できる。
特徴点として胸筋の境界m,m’と皮膚表面s,s’を用いる場合には、位置合わせ部204の処理も変更される。この場合には、公知のICP(Iterative Closest Point)アルゴリズム(参考文献1)によって座標変換を求めることが可能である。ICPアルゴリズムと特徴点の対応を同時に使う場合には、両アルゴリズムから求められた距離に対して重み付きの和を求め、和の最適化によって変換座標が求められる。
〔参考文献1〕Y. Chen and G. Medioni, “Object modelling by registration of multiple range images,” Image and vision computing, vol. 10, no. 3, pp. 145-155, 1992。
なお、胸筋の境界mおよび対応する胸筋の境界m’を用いる場合には、胸筋の境界が変形しないという仮定を設け、他の変形する特徴点、皮膚表面を用いた位置合わせを用いず、胸筋の境界だけを用いた位置合わせを用いることも可能である。
この場合には、変形パラメータ設定部108の設定により、変形パラメータ107が変更された場合にも、位置合わせ204の処理結果は同じになるため、位置合わせ部204の処理は省略可能である。
以上のように実施例1によれば、変形パラメータ設定部108のパラメータ設定処理によって、適切な変形画像を得ることができる。すなわち、変形パラメータ設定部108により変形パラメータ107を変更すると、パラメータ設定に連動して、仮想仰向けMRI画像断面305が変更される。これを参考に変形パラメータ107を修正することで、所望の変形画像に近づけることが可能となる。
実施例2は、実施例1の構成において、変形シミュレーション部106に対する変形パラメータの設定を、変形結果を見ながら対話的に行うようにしたものである。超音波撮像装置1と画像処理部8の構成は、実施例1における図1〜図3とほぼ同様であり、以下では差異点を中心に説明する。
図5は、実施例2における変形パラメータ設定部108の構成を示す図である。変形パラメータ設定部108は、対話的に変形パラメータを設定する対話型変形パラメータ設定部151から構成される。
対話型変形パラメータ設定には様々な方法があるが、グラフィカルユーザインタフェースを用いて、マウスなどを用いて、ヤング率や重力方向などのパラメータを対話的に設定することが可能である。対話型変形パラメータ設定部151の設定により、変形パラメータ107が変更される。変形シミュレーション部106は、変更された変形パラメータ107を用いて、仮想仰向けMRI画像109と、仮想仰向けMRI画像上の特徴点110を求める。
その後、図3で述べたように、仰向け超音波画像上の特徴点203と仮想仰向けMRI画像上の特徴点110を用いて、位置合わせ部204によって、位置合わせ済仮想仰向けMRI画像205が生成される(第3フェーズ)。そして、断面表示部304により、仰向け超音波画像303と同一断面の仮想仰向けMRI画像断面305が生成される(第4フェーズ)。
実施例2によれば、対話型変形パラメータ設定部151により変形パラメータ107を対話的に設定することで、ユーザは仮想仰向けMRI画像を参照しながら所望の変形画像に容易に近づけることが可能となる。
実施例3は、実施例1の構成において、仰向け超音波画像201と位置合わせ済仮想仰向けMRI画像205との位置合わせ誤差を求めて表示する機能を追加したものである。
図6は、実施例3における画像処理部8の機能構成を示すブロック図である。このうち、仮想仰向けMRI画像109、仮想仰向けMRI画像上の特徴点110、仰向け超音波画像上の特徴点203の算出までの処理は実施例1と同一である。
実施例1では、位置合わせ部204によって仮想仰向けMRI画像109と仰向け超音波画像201との位置合わせを行い、位置合わせ済仮想仰向けMRI画像205を生成していた。これに対して実施例3では、位置合わせ誤差評価部206によって仮想仰向けMRI画像109と仰向け超音波画像201との位置合わせを行うとともに、位置合わせの誤差207を求めてディスプレイ11に表示するようにした。
位置合わせ部誤差評価部206による位置合わせ方法および誤差評価方法について説明する。なお、位置合わせ誤差を評価するため、特徴点の数は3個以上必要である。位置合わせでは、座標変換後の仮想仰向けMRI画像109の特徴点110と、仰向け超音波画像201の特徴点203との誤差の二乗和が最小となるような剛体変換(移動と回転の変換)を行う。このときの最小の誤差を位置合わせ誤差207として出力する。画像処理部8のその他の処理は、実施例1と同一である。
なお、本実施例において、仮想仰向けMRI画像109における胸筋の境界m、皮膚表面sと、仰向け超音波画像201における対応する胸筋の境界m’、皮膚表面s’を用いる場合には、位置合わせには前述のICPアルゴリズムによって座標変換を求める。ICPアルゴリズムと特徴点の対応を同時に使う場合には、両アルゴリズムから求められた距離に対して重み付きの和を求め、和の最適化によって変換座標が求める。この重み付きの誤差を位置合わせ誤差207として出力する。
実施例3によれば、仰向け超音波画像201と位置合わせ済仮想仰向けMRI画像205との位置合わせ誤差207を求めて表示する構成としたので、ユーザは変形後の画像の精度を容易に把握することが可能となる。
実施例3は実施例2と組み合わせることも可能である。その場合には、対話型変形パラメータ設定部151を用いて対話的に変形パラメータ107を設定すると、仰向け超音波画像303と、変形パラメータ107に連動した同一断面の仮想仰向けMRI画像断面305が生成される。さらに、そのときの位置合わせ誤差207をディスプレイ11に表示することができる。ユーザは画像と誤差の両方を参照しながら対話型変形パラメータ設定部151を用いて変形パラメータを対話的に設定して、所望の変形に容易に近づけることが可能となる。
実施例4は、実施例3の構成において、仰向け超音波画像201と位置合わせ済仮想仰向けMRI画像205との位置合わせ誤差207を最小化する機能を追加したものである。
図7は、実施例4における画像処理部8の機能構成を示すブロック図である。このうち、仮想仰向けMRI画像109、仮想仰向けMRI画像上の特徴点110、仰向け超音波画像上の特徴点203、位置合わせ誤差207の算出までの処理は実施例3と同一である。ただし、変形パラメータ設定部108は、実施例4では変形パラメータ最適化部208で置き換えている。変形パラメータ最適化部208は、算出された位置合わせ誤差207を入力して、位置合わせ誤差207が最小となるように変形パラメータ107を設定する。
図8は、変形パラメータの最適化処理を説明するフローチャートである。
まず、変形パラメータ最適化部208は変形パラメータ107の初期値を設定する(S1001)。変形パラメータの初期値としては、典型的なヤング率や重力方向などを用いる。設定された変形パラメータ107を用いて変形シミュレーション部106によって変形シミュレーションを行い、変形後の仮想仰向けMRI画像109上の特徴点110を求める(S1002)。
まず、変形パラメータ最適化部208は変形パラメータ107の初期値を設定する(S1001)。変形パラメータの初期値としては、典型的なヤング率や重力方向などを用いる。設定された変形パラメータ107を用いて変形シミュレーション部106によって変形シミュレーションを行い、変形後の仮想仰向けMRI画像109上の特徴点110を求める(S1002)。
位置合わせ誤差評価部206によって、仮想仰向けMRI画像109と仰向け超音波画像201との位置合わせを行う。そして、仰向け超音波画像201の特徴点203と位置合わせ済仮想仰向けMRI画像205の特徴点110との位置合わせ誤差207を評価する(S1003)。
求めた位置合わせ誤差207を予め設定している閾値と比較し、誤差が収束しているか否かを判定する(S1004)。誤差207が閾値より小さい場合には収束と判定し、処理を終了する。あるいは、誤差207の値が改善されない場合や、所定の回数だけ収束計算を行った場合にも、収束と判定し処理を終了する。
誤差が収束していない場合には、変形パラメータ最適化部208は変形パラメータ107を修正する(S1005)。そしてS1002に戻り、修正した変形パラメータ107を用いて再度変形シミュレーションを行い、そのときの位置合わせ誤差207を再度評価する。以下、これを繰り返して、誤差207が収束するまで変形シミュレーションを繰り返す。これにより、位置合わせ誤差207を最小化させる。
なお、上記の最小化処理には様々な方法が利用できるが、たとえば、公知のPowellの最適化(参考文献2)を利用できる。Powellの最適化法は、微分を使わずに多変数関数の最小化問題を解く方法である。
〔参考文献2〕M. J. Powell, “An efficient method for finding the minimum of a function of several variables without calculating derivatives,” The computer journal, vol. 7, no. 2, pp. 155-162, 1964。
実施例4によれば、仰向け超音波画像201と位置合わせ済仮想仰向けMRI画像205との位置合わせ誤差を最小化させることができるので、ディスプレイ11に表示する仰向け超音波画像303と同一断面の仮想仰向けMRI画像断面305が高精度に対応し、細かな病変の位置を特定するのが容易となる。
実施例5は、実施例1の構成において、変形シミュレーション部106に対する変形パラメータ107の設定のためエラストグラフィを用いるものである。エラストグラフィ(Ultra Sound Elastography:超音波組織弾性映像法)とは、組織の硬さをリアルタイムで画像化する技術である。組織に一定の圧力を加えたときに生じるゆがみの大きさなどから組織の硬さを推定し、この組織の硬さに基づき変形パラメータを設定するものである。実施例5においては、図1の超音波撮像装置にエラストグラフィ装置を接続することで、組織の硬さの画像データを取得できる。
図9は、実施例5における画像処理部8の機能構成を示すブロック図である。画像処理部8にはエラストグラフィ部401を追加し、これに外部のエラストグラフィ装置43を接続する。エラストグラフィ装置43からは、被検体画像の各画素における硬さのデータが入力される。エラストグラフィ部401は、入力した硬さのデータを、乳腺、脂肪などの部位ごとに平均化することで、被検体の部位ごとの硬さを示す組織パラメータ402(乳腺のヤング率、脂肪のヤング率など)を生成する。
生成した組織パラメータ402は、変形パラメータ107の一部に用いられる。なお、変形パラメータ107には、重力方向などエラストグラフィ部401から設定できないパラメータがあるが、それらは変形パラメータ設定部108にて別途設定する。
以上のように、実施例5では、エラストグラフィを用いることで被検体に特有の変形パラメータを設定することができるので、より精密な変形シミュレーションが可能となり、被検体の細かな病変の位置を特定することが容易となる。
なお、実施例5は、実施例2〜実施例4と組み合わせて実施することも可能である。
実施例5と実施例2を組み合わせる場合には、エラストグラフィで設定できない変形パラメータを対話的に設定することで、所望の変形を得ることが可能である。
実施例5と実施例2を組み合わせる場合には、エラストグラフィで設定できない変形パラメータを対話的に設定することで、所望の変形を得ることが可能である。
実施例5と実施例3を組み合わせる場合には、変形の誤差を参照しながら、エラストグラフィで設定できない変形パラメータを対話的に設定することで、所望の変形を得ることが可能である。
実施例5と実施例4を組み合わせる場合には、エラストグラフィで設定できない変形パラメータを最適化によって求めることで、より精密な変形を得ることが可能である。
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。
1…超音波撮像装置、2…超音波探触子、5…送受信部、6…超音波画像生成部、7…制御部、8…画像処理部、9…ユーザインタフェース(UI)部、10…画像処理装置、11…ディスプレイ、42…画像撮像装置、43…エラストグラフィ装置、85…表示制御部、101…うつ伏せMRI画像(第2の画像データ)、102…乳房モデル生成部、103,202…特徴点抽出部、106…変形シミュレーション部(変形演算部)、108…変形パラメータ設定部、151…対話型変形パラメータ設定部、201…仰向け超音波画像(第1の画像データ)、204…位置合わせ部、206…位置合わせ誤差評価部、208…変形パラメータ最適化部、301…超音波撮像部、304…断面表示部、401…エラストグラフィ部。
Claims (6)
- 同一の被検体を異なる撮像装置にて撮影した第1の画像データと第2の画像データとを入力し、画像処理を施して表示する画像処理装置において、
前記第1の画像データは超音波撮像装置で撮影した超音波画像であり、前記第2の画像データは他の画像撮像装置により取得したボリュームデータであり、前記第1の画像データと前記第2の画像データは、前記被検体の撮影時の姿勢が互いに異なるものであって、
前記第2の画像データにおける前記被検体の生体組織の形状を、前記第1の画像データを撮影した姿勢における生体組織の形状に変形する変形演算を行なう変形演算部と、
前記変形演算部にて生体組織の変形演算を行うための変形パラメータを設定する変形パラメータ設定部と、
前記変形演算部にて変形演算を行った前記第2の画像データの座標系と前記第1の画像データの座標系との間の座標変換を行って、前記第2の画像データと前記第1の画像データの位置合わせを行う位置合わせ部と、
前記第1の画像データに基づく画像とともに、該画像と同一断面について、前記位置合わせ済みの前記第2の画像データに基づく画像をディスプレイに表示する表示制御部と、
を備えることを特徴とする画像処理装置。 - 請求項1に記載の画像処理装置であって、
前記変形演算部にて変形演算を行うために前記第2の画像データの変形モデルを生成する変形モデル生成部と、
前記位置合わせ部にて前記第2の画像データと前記第1の画像データの位置合わせを行うために、前記第2の画像データと前記第1の画像データからそれぞれの特徴点を抽出する特徴点抽出部と、
を備えることを特徴とする画像処理装置。 - 請求項1に記載の画像処理装置であって、
前記変形パラメータ設定部は、対話的に前記変形パラメータを設定するものであることを特徴とする画像処理装置。 - 請求項2に記載の画像処理装置であって、
前記位置合わせ部は、前記特徴点抽出部にて抽出した特徴点を用いて、前記変形演算部にて変形演算を行った前記第2の画像データと、前記第1の画像データの位置合わせを行うとともに、位置合わせ誤差を求めて表示することを特徴とする画像処理装置。 - 請求項4に記載の画像処理装置であって、
前記変形パラメータ設定部は、前記位置合わせ部が求めた前記位置合わせ誤差を入力し、該位置合わせ誤差が最小となるように前記変形パラメータを設定すること特徴とする画像処理装置。 - 請求項1に記載の画像処理装置であって、
前記変形パラメータ設定部は、さらに、生体組織の硬さを示すエラストグラフィを用いて前記変形パラメータを設定することを特徴とする画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017177357A JP2019051060A (ja) | 2017-09-15 | 2017-09-15 | 画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017177357A JP2019051060A (ja) | 2017-09-15 | 2017-09-15 | 画像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019051060A true JP2019051060A (ja) | 2019-04-04 |
Family
ID=66013319
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017177357A Pending JP2019051060A (ja) | 2017-09-15 | 2017-09-15 | 画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019051060A (ja) |
-
2017
- 2017-09-15 JP JP2017177357A patent/JP2019051060A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5737858B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
US10709425B2 (en) | 3D ultrasound imaging system | |
US9524551B2 (en) | Ultrasound diagnosis apparatus and image processing method | |
US9480456B2 (en) | Image processing apparatus that simultaneously displays two regions of interest on a body mark, processing method thereof and storage medium | |
JP6346445B2 (ja) | 処理装置、処理装置の制御方法、およびプログラム | |
CN102727258B (zh) | 图像处理装置、超声波摄影系统及图像处理方法 | |
US10417777B2 (en) | Image processing apparatus, image processing method, and non-transitory computer-readable storage medium | |
CN109152566B (zh) | 校正超声融合成像系统中的探头引起的变形 | |
KR20140096919A (ko) | 의료 영상 정합 방법 및 장치 | |
KR102273020B1 (ko) | 의료 영상 정합 방법 및 그 장치 | |
JP6490820B2 (ja) | 超音波撮像装置、画像処理装置、及び方法 | |
JP6383483B2 (ja) | 超音波撮像装置、および、画像処理装置 | |
US9990725B2 (en) | Medical image processing apparatus and medical image registration method using virtual reference point for registering images | |
JP6905323B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
CN115210761A (zh) | 多模态医学图像配准和相关联的设备、系统和方法 | |
JP6383153B2 (ja) | 処理装置、処理方法、およびプログラム | |
US9521980B2 (en) | Method for registering medical images, apparatus performing the method, and computer readable media including the method | |
JP2022111704A (ja) | 画像処理装置、医用画像撮像装置、画像処理方法、およびプログラム | |
JP2022111705A (ja) | 学習装置、画像処理装置、医用画像撮像装置、学習方法およびプログラム | |
JP6887942B2 (ja) | 超音波撮像装置、画像処理装置、及び方法 | |
JP2019051060A (ja) | 画像処理装置 | |
WO2016131955A1 (en) | Automatic 3d model based tracking of deformable medical devices with variable appearance | |
EP4128145A1 (en) | Combining angiographic information with fluoroscopic images | |
JP2022111706A (ja) | 画像処理装置および画像処理方法、医用撮像装置、プログラム | |
JP2018167077A (ja) | 処理装置、処理方法、およびプログラム |