JP7165541B2 - ボリュームデータ処理装置、方法及びプログラム - Google Patents

ボリュームデータ処理装置、方法及びプログラム Download PDF

Info

Publication number
JP7165541B2
JP7165541B2 JP2018172072A JP2018172072A JP7165541B2 JP 7165541 B2 JP7165541 B2 JP 7165541B2 JP 2018172072 A JP2018172072 A JP 2018172072A JP 2018172072 A JP2018172072 A JP 2018172072A JP 7165541 B2 JP7165541 B2 JP 7165541B2
Authority
JP
Japan
Prior art keywords
points
volume data
model
dimensional model
data processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018172072A
Other languages
English (en)
Other versions
JP2020043881A (ja
Inventor
智章 長野
Original Assignee
富士フイルムヘルスケア株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルムヘルスケア株式会社 filed Critical 富士フイルムヘルスケア株式会社
Priority to JP2018172072A priority Critical patent/JP7165541B2/ja
Publication of JP2020043881A publication Critical patent/JP2020043881A/ja
Application granted granted Critical
Publication of JP7165541B2 publication Critical patent/JP7165541B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Ultra Sonic Daignosis Equipment (AREA)

Description

本発明はボリュームデータ処理装置、方法及びプログラムに関し、特に、組織の輪郭に対する三次元モデルのフィッティングに関する。
ボリュームデータ処理装置として、超音波診断装置、X線CT装置、MRI装置等が知られている。それらは生体内の三次元空間から取得されたボリュームデータを処理する機能を備える。以下においては超音波診断装置について説明する。
超音波診断装置においては、生体への超音波の送受波により、生体内の三次元空間からボリュームデータが取得される。取得されたボリュームデータに基づいて、三次元空間内の組織を立体的に表現した超音波画像(三次元超音波画像)が形成される。あるいは、取得されたボリュームデータに基づいて、その組織が計測される。ボリュームデータの処理に際しては、必要に応じて、組織の輪郭が三次元的にトレースされる。そのトレースのための技術として、組織の輪郭に対して三次元モデル(三次元組織輪郭モデル)をフィッティングさせる技術が提案されている。なお、フィッティング対象となる組織は、実際には、ボリュームデータ中の一部分としてのオブジェクトである。
特許文献1に記載された超音波診断装置では、二次元モデルを変形させることにより、組織の輪郭に対して二次元モデルがフィッティングされている。特許文献2に記載された超音波診断装置では、三次元モデルを変形させることにより、組織の輪郭に対して三次元モデルがフィッティングされている。
特許第5753794号公報 特開2018-51001号公報
組織の輪郭に対して三次元モデルをフィッティングさせる方式として、マニュアル方式、セミオート方式及びフルオート方式がある。それらの方式の中で、セミオート方式は、一般に、組織の輪郭上にマニュアルで指定された複数の指定点に対して三次元モデルが有する複数の代表点を一致させ又は近接させることを前提として、組織の輪郭に対して三次元モデルをフィッティングさせるものである。例えば、ボリュームデータに基づいて形成された超音波画像上で複数の指定点が指定される。
しかし、超音波画像には、アーチファクト、低輝度部分等が含まれ、つまり、組織の輪郭が不鮮明な部分が含まれる。このため、所定数の指定点の内の一部を指定できないこともある。また、負担軽減の観点から指定点の個数の削減を希望するユーザーもいる。このような背景から、任意数の指定点に基づく三次元モデルのフィッティングの実現が要望されている。なお、特許文献1及び特許文献2のいずれにも、そのような要望に応える構成は開示されていない。
本発明の目的は、任意数の指定点に基づいて組織の輪郭に対して三次元モデルをフィッティングさせるボリュームデータ処理装置、方法及びプログラムを提供することにある。
本発明に係るボリュームデータ処理装置は、生体内の三次元空間からボリュームデータを取得する取得部と、前記三次元空間に含まれる組織の輪郭に対してn(但し1≦n≦K)個の指定点を指定するための指定部と、前記ボリュームデータに基づいて、三次元モデルを前記組織の輪郭にフィッティングさせる変形部であって、前記三次元モデルの変形の過程において、前記三次元モデルが有するK個の代表点の中のn個の対応代表点を前記n個の指定点に一致させ又は近付ける変形部と、を含むことを特徴とするものである。
本発明に係るボリュームデータ処理方法は、生体内の三次元空間に含まれる組織の輪郭に対するn(但し1≦n≦K)個の指定点の指定を受け付ける工程と、前記三次元モデルが有するK個の代表点の中のn個の対応代表点を前記n個の指定点に一致させ又は近付け、これにより前記三次元モデルを初期変形させる工程と、前記三次元空間から取得されたボリュームデータに基づいて、前記初期変形後の三次元モデルを前記組織の輪郭にフィッティングさせる工程と、を含むことを特徴とするものである。
本発明に係るプログラムは、ボリュームデータ処理装置において実行されるプログラムであって、生体内の三次元空間に含まれる組織の輪郭に対するn(但し1≦n≦K)個の指定点の指定を受け付ける機能と、前記三次元モデルが有するK個の代表点の中のn個の対応代表点を前記n個の指定点に一致させ又は近付け、これにより前記三次元モデルを初期変形させる機能と、前記三次元空間から取得されたボリュームデータに基づいて、前記初期変形後の三次元モデルを前記組織の輪郭にフィッティングさせる機能と、を含むことを特徴とするものである。
本発明によれば、任意数の指定点に基づいて組織の輪郭に対して三次元モデルをフィッティングさせることが可能となる。
実施形態に係るボリュームデータ処理装置を示すブロック図である。 モデルテーブルの一例を示す図である。 指定点テーブルの一例を示す図である。 指定点を指定するための表示画像を示す図である。 原モデルを示す図である。 n=7の場合における指定点群を示す図である。 原モデルと指定点群の空間的関係を示す図である。 代表点ベクトル群及び指定点ベクトル群を示す図である。 初期変形後のモデルを示す図である。 組織輪郭へのモデルのフィッティングを示す図である。 フィッティング後のモデルを示す図である。 n=1の場合における原モデルと指定点の空間的関係を示す図である。 初期変形後のモデルを示す図である。 n=2の場合における原モデルと指定点の空間的関係を示す図である。 初期変形後のモデルを示す図である。 代表点の移動に伴うモデルの追従変形を示す図である。 モデル点の移動に伴うモデルの追従変形を示す図である。 ボリュームデータ処理方法を示すフローチャートである。
以下、実施形態を図面に基づいて説明する。
(1)実施形態の概要
実施形態に係る超音波診断装置は、取得部、指定部及び変形部を有する。取得部は、生体内の三次元空間からボリュームデータを取得するものである。ボリュームデータが超音波ボリュームデータの場合、取得部は超音波プローブである。指定部は、三次元空間に含まれる組織の輪郭に対してn(但し1≦n≦K)個の指定点を指定するためのものである。指定部は、操作パネル等の入力デバイスによって構成される。変形部は、ボリュームデータに基づいて三次元モデルを変形させ、それを組織の輪郭にフィッティングさせるものである。変形部は、三次元モデルの変形の過程において、三次元モデルが有するK個の代表点の中のn個の対応代表点をn個の指定点に一致させ又は近付ける。
上記構成によれば、1個からK個の範囲内における任意数の指定点に基づいて、組織の輪郭に対して三次元モデルをフィッティングさせることが可能となる。例えば、組織を表した画像に不明瞭な部分が含まれる場合において、その不明瞭な部分への指定点の指定を回避することが可能となる。あるいは、ユーザーにおいてフィッティング精度よりも指定負担の軽減を優先させることが可能となる。
実施形態において、変形部は、n個の対応代表点とn個の指定点の空間的関係に基づいて、三次元モデルを初期変形させる第1変形部と、初期変形後の三次元モデルを前記組織の輪郭にフィッティングさせる第2変形部と、を含む。この構成によれば、初期変形後にフィッティングを実行できるので、フィッティング精度を高められる。
実施形態において、第1変形部はnに応じて初期変形の方法を切り換える。この構成によれば、nに応じて初期変形を最適化できる。
実施形態において、第1変形部は、nが1の場合に三次元モデルを並行移動させ、nが2以上の場合に三次元モデルを平行移動及び回転させると共にその倍率を変更する。nが2の場合とnが3以上の場合とで初期変形の方法又は条件が切り換えられてもよい。指定された1又は複数の指定点の属性に応じて、初期変形の方法又は条件が切り換えられてもよい。
実施形態において、第2変形部は、n個の対応代表点を含む複数のモデル点を対象組織の輪郭に一致させる。その際には、エッジ検出法、学習結果に基づくエッジ識別等の公知の技術を利用し得る。
実施形態において、変形部は、三次元モデル中のいずれかのモデル点の位置が変更された場合に、三次元モデルを組織の輪郭にフィッティングさせる処理を再実行する。これは事後的な修正に相当する処理である。
実施形態に係るボリュームデータ処理装置は、ボリュームデータに基づいて、ボリュームデータに対して設定された複数の基準断面を表す複数の断層画像を形成する画像形成部と、複数の断層画像を表示する表示部と、を含み、表示部に表示された複数の断層画像の全部又は一部に対するマニュアルでの座標の指定によりn個の指定点が指定される。
実施形態に係る方法おいては、生体内の三次元空間に含まれる組織の輪郭に対するn(但し1≦n≦K)個の指定点の指定が受け付けられる。続いて、三次元モデルが有するK個の代表点の中のn個の対応代表点をn個の指定点に一致させ又は近付ける工程が実行される。これにより三次元モデルが初期変形される。更に続いて、三次元空間から取得されたボリュームデータに基づいて、初期変形後の三次元モデルを組織の輪郭にフィッティングさせる工程が実行される。
上記方法は、ハードウエアの機能として、又は、ソフトウエアの機能として実現され得る。後者の場合には、上記方法を実行するプログラムが、ネットワークを介して又は記憶媒体を介して、ボリュームデータ処理装置へインストールされる。ボリュームデータ処理装置の概念には、超音波診断装置、X線CT装置、MRI装置等の医療装置が含まれ、また、パーソナルコンピュータ等の情報処理装置が含まれる。
(2)実施形態の詳細
図1には、実施形態に係るボリュームデータ処理装置が示されている。このボリュームデータ処理装置は超音波診断装置である。超音波診断装置は、病院等の医療機関に設置され、生体に対する超音波の送受波により得られた受信データに基づいて超音波画像を形成する装置である。
実施形態に係る超音波診断装置は、生体内の三次元空間からボリュームデータ(超音波ボリュームデータ)を取得する機能、及び、ボリュームデータに基づいて組織の輪郭に三次元モデル(三次元組織輪郭モデル)をフィッティングして組織の輪郭をトレースする機能、を備えている。ここで、対象となる組織は心臓であり、より具体的には、心臓の左室である。心臓の他の部分(例えば、右室、二腔、四腔)がトレース対象とされてもよいし、心臓以外の組織がトレース対象とされてもよい。
図1において、超音波プローブ10は、ボリュームデータ取得部又はボリュームデータ取得手段として機能する。超音波プローブ10は、ユーザー(医師、検査技師等)によって保持される。心臓の超音波診断に際しては、超音波プローブの10の送受波面が被検者における胸部の表面に当接され、その状態で、心臓に対して超音波が送受波される。
超音波プローブ10は、二次元配列された複数の振動素子からなる二次元振動素子アレイ12を備えている。二次元振動素子アレイ12によって超音波ビーム14が形成され、超音波ビーム14の二次元電子走査により、三次元データ取込空間16が形成される。超音波ビーム14の電子走査によって形成される走査面を更に電子走査することにより三次元データ取込空間16が形成されてもよい。三次元データ取込空間16からボリュームデータが取得される。超音波ビームの電子走査方式として、電子セクタ走査方式、電子リニア走査方式等が知られている。一次元振動素子アレイを機械的に走査することにより、三次元データ取込空間が形成されてもよい。
なお、超音波プローブ10は、より詳しくは、二次元振動素子アレイ12を備えたプローブヘッド、そこから引き出されたケーブル、その端部に設けられたコネクタを有する。そのコネクタが超音波診断装置本体側のコネクタに接続される。プローブヘッドが可搬型の送受波器を構成し、それがユーザーによって保持される。体腔内挿入型の超音波プローブが用いられてもよい。二次元振動素子アレイ12としてC-MUT(Capacitive Micro-machined Ultrasound Transducer)が用いられてもよい。
送信部18は、送信時において、二次元振動素子アレイ12を構成する複数の振動素子に対して複数の送信信号を並列的に供給する送信ビームフォーマーであり、それは電子回路として構成される。受信部20は、受信時において、二次元振動素子アレイ12を構成する複数の振動素子から並列的に出力される複数の受信信号を整相加算(遅延加算)する受信ビームフォーマーであり、それは電子回路として構成される。受信部20は、複数のA/D変換器、検波回路等を備えている。受信部20での複数の受信信号の整相加算によりビームデータが生成される。
ボリュームデータは、二次元配列された複数のビームデータによって構成される。個々のビームデータは深さ方向に並ぶ複数のエコーデータにより構成される。超音波プローブ10内にサブビームフォーマーを設け、超音波診断装置本体内にメインビームフォーマーを設けてもよい。受信部20の後段にはビームデータ処理部が設けられているが、それは図示省略されている。
3Dメモリ22は三次元データ記憶空間を有し、そこにはボリュームデータが格納される。ボリュームデータへの書き込み時に送受波座標系から直交座標系への座標変換が実行されてもよいし、3Dメモリ22からの読み出し時にその座標変換が実行されてもよい。
断層画像形成部24は、ボリュームデータに基づいて、三次元空間に対して設定された複数の基準断面に対応する複数の断層画像(MPR画像)を形成するものである。各断層画像のデータが表示処理部30へ送られている。トレース対象又はトレースモードに応じて、複数の断面の組み合わせが変わる。個々の断層画像にはトレース対象の断面(例えば左室の断面)が現れる。
三次元画像形成部26は、ボリュームデータに基づいて三次元画像を形成するものである。その際には、ボリュームレンダリング法、サーフェイスレンダリング法、等が利用される。三次元画像は、組織を立体的に表現した超音波画像である。三次元画像のデータが表示処理部30へ送られている。
参照画像形成部28は、参照画像としてのワイヤーフレーム像を形成するものである。ワイヤーフレーム像は、複数の断面を複数の図形によって表現した画像である。ワイヤーフレーム像には、複数の代表点、複数の指定点等を示す複数のマーカーも含まれる。ワイヤーフレーム像のデータが表示処理部30へ送られている。参照画像としてレンダリング画像が利用されてもよい。その場合、レンダリング画像上に複数の代表点、複数の指定点を表す複数のマーカーが表示されてもよい。
表示処理部30は、グラフィック画像生成機能、カラー演算機能、画像合成機能等を有している。表示部32には、表示処理部30によって生成された表示画像が表示される。表示部32はLCD、有機EL表示デバイス等によって構成される。
なお、断層画像形成部24、三次元画像形成部26、参照画像形成部28及び表示処理部30は、1又は複数のプロセッサにより構成され得る。それらが以下に説明する制御部34の機能として実現されてもよい。
制御部34は、制御手段として機能し、図1に示されている各構成の動作を制御するものである。制御部34は、実施形態において、CPU及びプログラムによって構成される。制御部34に接続された操作パネル46は、指定部又は指定手段として機能する入力デバイスであり、それは複数のスイッチ、複数のボタン、トラックボール、キーボード等を有する。操作パネル46を利用して、ユーザーにより、組織の輪郭上に1又は複数の指定点が指定される。
制御部34には半導体メモリ等によって構成される記憶部38が接続されている。記憶部38には、複数のモデルテーブル40が格納されており、また、指定点テーブル42が格納されている。各モデルテーブル40は、三次元モデル(以下単にモデルともいう。)を管理するためのテーブルである。個々のモデルが関数として管理されてもよい。個々のモデルはK個の代表点を有する。モデルごとにKの値が異なっていてもよい。通常、Kは2以上の値であり、例えば、その値は5,7又は9である。その値が偶数であってもよい。指定点テーブル42は、ユーザーによって指定された任意数(n個)の指定点を管理するためのテーブルである。ここで、nは1以上K以下である。
制御部34は、変形手段又は変形部として機能するモデル処理部36を有する。モデル処理部36は、実施形態において、ソフトウエアの機能として実現されている。モデル処理部36を制御部34とは別のプロセッサで構成してもよい。
モデル処理部36は、複数の断層画像上におけるn個の指定点の入力を受け付ける機能、n個の指定点に基づいてモデルを初期変形させる機能、初期変形後のモデルを組織の輪郭にフィッティングさせる機能、等を有する。初期変形に際しては、モデルが有するK個の代表点の内でn個の指定点に対応するn個の代表点(対応代表点)が特定され、n個の対応代表点がn個の指定点に合わせられ又は近付けられる。フィッティングに際しては、組織の輪郭が検出又は認識され、その輪郭に対してモデルが位置合わせされる。その際には、各種のエッジ検出法、機械学習に基づく境界識別法等が利用される。機械学習に基づく境界識別法の適用に際しては、例えば、深層学習が利用される。モデルのフィッティングについては後に詳述する。
図2には、モデルテーブル40の一例が示されている。モデルは例えば数百個のモデル点により構成される。モデルテーブルは、モデル点ごとに、例えば、属性、初期座標及び現在座標を管理するためのテーブルである。各座標は絶対座標又は相対座標であり、それはベクトルとして表現され得る。属性は、実際には、各代表点について付与されており、それは代表点がおかれている部位(第1基準断面上の心尖部、第2基準断面上の弁輪部左側、等)を表すものである。符号40Aは、K個の代表点に相当する部分を示している。符号40BはK個の代表点以外の複数のモデル点に相当する部分を示している。図示の例では、250個のモデル点によって三次元モデルが構成されている。複数の三次元モデルつまり複数のモデルテーブルが用意されており、それらの中から、トレース対象、トレースモード等によって、実際に使用するモデルつまりモデルテーブルが選択される。
図3には、指定点テーブル42の一例が示されている。選択されたモデルに対応する指定点テーブル42が作成される。指定点テーブル42は、ユーザー指定された指定点ごとに属性及び指定座標を管理するためのテーブルである。属性は、例えば、代表点との対応付けにおいて利用される。
図示の例では、K個の指定点中において、個々の指定点ごとに実際にその点が指定されたのか否かを示すフラグも管理されている。なお、各モデルテーブル及び指定点テーブルは上記のモデル処理部によって作成及び管理される。
図4には、指定点の指定に際して表示される表示画像の一例が示されている。図示された表示画像50は、1又は複数の指定点を指定するためのユーザーインターフェイスとして機能するものである。表示画像50には、心臓についての3つの基準断面に対応する3つの断層画像52,54,56が含まれる。図示の例において、断層画像52は四腔断層画像(A4C画像)であり、そこには心臓における4つの腔の断面が現れている。断層画像54は二腔断層画像(A2C画像)であり、そこには心臓における左室及び左房の断面が現れている。断層画像56は3つの腔の断面を表す断層画像(A3C画像)であり、3つの腔は左室、左房及び大動脈である。3つの断面の空間的関係は、基本的に、患者によらずに一定である。
ワイヤーフレーム像63は参照画像であり、そこにおいて、3つの基準断面(A4C,A2C,A3C)が、互いに交差し合う3つの矩形によって三次元的に表現されている。左室も砲弾型図形によって模式的に表現されている。左室に対しては、その中心軸における3つの位置において中心軸に直交する3つの横断面(Apex, Mid, Base)が定められる。それらの横断面も3つの矩形によって三次元的に表現されている。表示画像50には、3つの横断面を表す3つの断層画像58,60,62も含まれる。
例えば、左室の容積を計測するために、左室の輪郭がトレースされる。上記のように、そのトレースの際にはモデルが利用される。モデルは左室輪郭モデルであり、それを実際の左室にフィッティングさせることによって、左室輪郭の形状を特定することが可能である。そのフィッティングに先立って、フィッティング精度を高め、あるいは、演算時間を削減するために、ユーザーによって左室の輪郭上に1又は複数の点が指定される。各点は輪郭点としての指定点である。
図4に示す例では、A4C画像52上において、心尖部に対して1点(符号64を参照)及び弁輪部(僧帽弁の左右の根本)に対して2点(符号70,72を参照)を指定することが可能であり、A2C画像54上において、弁輪部に対して2点(符号66,68を参照)を指定することが可能であり、A3C画像上において、弁輪部に対して2点(符号74,76を参照)を指定することが可能である。すなわち、合計で7箇所に対して7個の指定点を指定することが可能である。典型的には、A4C画像52上において心尖部が指定され(符号64を参照)、且つ、A2C画像54上において弁輪部の2箇所が指定される(符号66,68を参照)。
もっとも、断層画像の不鮮明さその他を理由として指定点の指定を行えない場合、ユーザーがより少ない個数の指定点の指定を望む場合、あるいは、ユーザーがより多くの個数の指定点の指定を望む場合、等もある。最大数をKとした場合、実施形態においては、ユーザーの判断で、1からKの範囲内で指定点の個数を増減することが可能である。指定点の個数をnとした場合、1≦n≦Kの条件が満たされるように、指定点がユーザーにより指定される。どの断層画像上においてどの部位を指定したのかは、画像種別及び指定座標に基づいて、装置において自動的に認識される。
各断層画像には、ユーザー指定された各指定点がマークとして表示され(符号64~76を参照)、参照画像としてのワイヤーフレーム像63にも、ユーザー指定された各点がマークとして表示される(符号64a~76aを参照)。例えば、7個の指定点を指定した場合には図4に示されるように7個のマークが表示される。例えば、断層画像58~62上において指定点が指定されてもよい。各断層画像52~56上に表示されるマークと、ワイヤーフレーム像63に表示されるマークの対応関係をユーザーが認識できるように、両者の形状や表示色を一致させてもよい。
なお、指定点の指定に際しては、操作パネルが有するトラックボールが操作される。トレース対象、トレース種別その他によって、表示する基準断面セットが自動的に選択される。ボリュームデータに対してユーザーが表示断面を指定するようにしてもよいし、ボリュームデータの解析により表示断面が自動的に認識されてもよい。実施形態においては、心腔内膜がトレース対象である。それに加えて心腔外膜がトレース対象とされてもよい。
次に、図5~図11を用いて、n=7の場合における三次元トレースについて具体例を説明する。三次元トレースは、上記モデル処理部によって実行されるものであり、大別して、初期変形工程とフィッティング工程とからなる。以下の図5~9は初期変形工程を示しており、以下の図10及び図11はフィッティング工程を示している。
図5には、変形前のモデル(原モデル)80が示されている。この原モデル80は左室輪郭をトレースするためのものである。トレース対象ごとにモデルが用意され、その中から実際に使用するモデルがユーザーにより又は自動的に選択される。原モデル80は、左室の三次元輪郭形状を模擬した砲弾状の形態を有する。砲弾状の形態は湾曲面80Aと底面80Bとからなる。三次元モデルとして機能するのは、それらの内の湾曲面80Aである。もちろん、底面80Bをフィッティング対象に加えてもよい。湾曲面80Aつまり原モデル80は例えば250点のモデル点により構成される。その内で、図示の例では、7個の点S1~S7が代表点である。なお、原モデル80は、xyz直交座標系において観念されるものであり、そのxyz直交座標系で表される三次元空間は、生体内の三次元空間又はボリュームデータに相当する。
図6には、xyz直交座標系において指定される指定点群82が表されている。指定点群82は、図示の例において、ユーザー指定された7つの指定点T1~T7により構成される。各代表点及びその三次元座標は、上記のモデル処理部によって管理される。
図7には、代表点群を含む原モデル80と指定点群82の空間的関係が示されている。代表点(対応代表点)S1~S7と指定点T1~T7は不一致である。もっとも、通常、各断層画像上において組織輪郭の位置、大きさ及び向きには一様性が認められるので、各指定点とそれに対応する代表点とが大きく離れることはあまりない。
図8には、代表点S1~S7に対して定義される位置ベクトルb~bが示されている。代表点S1~S7についての重心がgで示されている。各位置ベクトルb~bは、図示の例では、重心gから出る位置ベクトルである。各位置ベクトルb~bを原点その他の基準点から出る位置ベクトルとしてもよい。
また、図8には、指定点T1~T7に対して定義される位置ベクトルa~aが示されている。指定点T1~T7についての重心がgで示されている。各位置ベクトルa~aは、図示の例では、重心gから出る位置ベクトルである。各位置ベクトルa~aを原点その他の基準点から出る位置ベクトルとしてもよい。
初期変形工程では、ユーザー指定されたn個の指定点に基づいて原モデルが初期変形される。図示の例では、初期変形は、指定点T1~T7に対して代表点S1~S7を一致させ又は近付けることによって行われ、それに先立って、以下の3つの計算が実行される。
原モデル80の平行移動量cは以下の(1)式に従って演算される。
Figure 0007165541000001
平行移動量cは、重心gから重心gへ向かうベクトルである。aはk番目の指定点についての位置ベクトルであり、bはk番目の代表点(対応代表点)についての位置ベクトルである。kは1からnまでの値をとる。図示の例においてはn=7である。例えば、ユーザーにより特定の3つの指定点が指定された場合にはn=3となる。
原モデル80の回転量θは以下の(2)式に従って演算される。
Figure 0007165541000002
回転量θもベクトルであり、それは(θ,θ,θ)と表現される。θはx軸回りの回転量であり、θはy軸回りの回転量であり、θはz軸回りの回転量である。上記(2)式は内積の計算式の変形により導出されるものである。
原モデル80の倍率sは以下の(3)式に従って計算される。
Figure 0007165541000003
倍率sは縮小率又は拡大率である。x方向、y方向及びz方向について個別的に倍率が演算されてもよい。
初期変形時には、原モデル80の平行移動、原モデル80の回転、及び、原モデル80の倍率変更の3つの処理が順番に又は同時に実行される。3つの処理を順番に実行する場合、いずれの順序で3つの処理を実行してもよい。初期変形によって、モデルを実際の組織輪郭にできるだけ近付けておき、そのようなモデルを出発点としてフィッティングを実行すれば、フィッティング精度つまり輪郭特定精度を高められる。
図9には、初期変形後のモデル84が例示されている。各代表点がそれに対応する指定点に近付けられている。各代表点がそれに対応する指定点に一致するのが理想的であるが、上記の(1)式~(3)式を用いて初期変形を行う場合には、複数の代表点がそれら全体として複数の指定点に近付けられる。よって、一部の代表点がそれに対応する指定点から遠ざかることもあり得る。そのような場合であっても、モデルをそれ全体として実際の組織輪郭に近付けておけば、フィッティング精度の向上を図れる。
初期変形工程後のフィッティング工程では、図10に示されるように、モデルを構成するモデル点ごとにそれを組織境界上へ移動させる処理が実行される。実施形態においては、モデル点の内で、指定点に対応する代表点(対応代表点)については、それを対応する指定点に一致させる処理が実行される。図10においては、初期変形後の対応代表点S1’~S7’が指定点T1~T7に位置合わせされている。
対応代表点以外の個々のモデル点(対応代表点ではない単なる代表点を含む)については、その近傍に存在する組織輪郭点が探索され、モデル点を組織輪郭点に一致する処理が実行される。例えば、モデル点88に着目すると、モデル点88が存在している局所面の法線方向が探索方向90として定められ、探索方向90における探索範囲内において組織輪郭が探索される。探索により組織輪郭が検出された場合、その検出地点が組織輪郭点として取り扱われる。なお、探索範囲は、通常、モデル84の内側及び外側の両方に及ぶ。状況に応じて内側探索範囲と外側探索範囲の比率が可変されてもよい。組織輪郭の探索に際しては、エッジ検出法、機械学習を利用したエッジ識別法、等の各種の手法を利用し得る。いずれにしても、フィッティングの結果、すべてモデル点(n個の対応代表点を含む)が組織の輪郭上に位置決められる。輪郭を探索できなかったモデル点についてはその周囲のモデル点の移動に合わせてそのモデル点を移動させてもよい。
図11には、フィッティング後のモデル92が示されている。なお、図11には、フィッティング前、つまり初期変形直後の代表点S1’~S7’も示されている。フィッティングにおいて、対応代表点の近傍に存在するモデル点については、上記法線方向以外への運動を許容し、対応代表点の移動に連動させてそれを移動させてもよい。
次に、図12及び図13を用いて、指定点の個数が1個の場合、つまりn=1の場合について説明する。
図12には、原モデル80が示されている。ユーザーにより心尖部に対して指定点T1が指定されている。それに対応する代表点は代表点S1である。上記の(1)式に従って、平行移動量cが演算される。すなわち、c=a-bにより、平行移動量cが求められる。なお、n=1の場合、重心g,gを定義できないので、例えば、座標系の原点を基準として、指定点T1の位置ベクトル、及び、代表点S1の位置ベクトルが定義される。n=1の場合、通常、回転量及び倍率は演算できない。初期変形として、平行移動量cに従って原モデル80を平行移動させる処理が実行される。図13には、平行移動後のモデル96が示されている。矢印98は平行移動の軌跡を示すものである。初期変形に続いてフィッティングが実行される。
続いて、図14及び図15を用いて、指定点の個数が2個の場合、つまりn=2の場合について説明する。
図14には、原モデル80が示されている。ユーザーにより心尖部に対して指定点T1が指定されており、また、弁輪部における特定の箇所に対して指定点T2が指定されている。それらに対応する2つの代表点が代表点S1,S2である。代表点S1,S2の重心がgで示されており、指定点T1,T2の重心がgで示されている。代表点S1,S2に対して位置ベクトルb,bが定義され、指定点T1,T2に対して位置ベクトルa,aが定義されている。それらの移動ベクトルが、座標系の原点等の基準点を基準として定義されてもよい。
n=2の場合、上記(1)式に従って平行移動量cが演算される。また、上記(2)式に従って回転量θが演算される。更に、上記(3)式に従って倍率sが演算される。それらのパラメータに従って、原モデル80が初期変形される。図15には、初期変形後のモデル100が示されている。初期変形により、重心gが重心gに一致している。代表点S1’がそれに対応する指定点T1に近付けられており、同じく、代表点S2’がそれに対応する指定点T2に近付けられている。初期変形後にフィッティングが実行される。nが3以上の場合でも、上記同様に初期変形用のパラメータが演算される。
図16及び図17に示されるように、実施形態においては、必要に応じて、フィッティング後のモデルを修正し得る。図16においては、フィッティング後のモデル102における代表点がU1~U7で示されている。その内で、任意の代表点(図16においては代表点U1)の位置がユーザーにより変更される(符号104を参照)。その過程で、代表点の位置が更新される都度、モデルを実際の組織の輪郭にフィッティングさせる処理が実行される。または、初期変形とフィッティングの両方が実行されてもよい。修正後のモデルが符号108で示されている。
図17には、フィッティング後のモデル110が示されている。モデル110を構成するモデル点の中で、代表点U1~U7以外の任意のモデル点(図17においてモデル点U8)を移動させることにより(符号112を参照)、モデル110の形状を修正することが可能である。モデル点の移動の過程で、その座標が更新される都度、モデルを実際の組織の輪郭にフィッティングさせる処理が実行される。または、初期変形とフィッティングの両方が実行されてもよい。図17において、修正後のモデルが符号114で示され、移動後のモデル点がU8’で示されている。
原モデルを構成するモデル点以外の点が新たなモデル点として追加され、それの位置が変更されてもよい。例えば、モデルがポリゴンの集合体として構成されている場合において、特定のポリゴン内の座標が新たなモデル点として指定されてもよい。
図18には、図1に示した超音波診断装置の動作例が示されている。以下に説明するS10~S24の中でS16~S24が上記モデル処理部によって実行される。
S10では、ユーザーにより、トレース対象等(トレース対象、トレース種別、撮像モード、計測種別等)が選択される。S12では、ボリュームデータに対して基準断面セットがユーザーにより指定され、あるいは、ボリュームデータにおける基準断面セットが自動的に認識される。基準断面セットは、1又は複数の指定点を指定するための複数の基準断面からなるものである。例えば、ボリュームデータに対する断面探索により、個々の基準断面が自動的に認識されてもよい。その場合において、機械学習型の識別器が利用されてもよい。S14では、複数の基準断面に対応する複数の断層画像が表示される。その場合、ワイヤーフレーム像も表示される。ワイヤーフレーム像に代えて、又は、それと共に、三次元画像としてのレンダリング像が表示されてもよい。
S16では、表示された複数の断層画像の全部又は一部を利用して、ユーザーにより1又は複数の指定点が指定される。指定完了時に指定点数nが認識される。S18では、手動により又は自動的にモデルが選択される。通常、S10で指定された情報に基づいてモデルが自動的に選択される。
S20は、初期変形工程に相当する。S20では、nに応じた方法で、モデルが初期変形される。実施形態においては、nが1の場合、モデルが平行移動され、nが2以上の場合、モデルが平行移動及び回転され、並びに、モデルの倍率が変更される。nが2の場合とnが3以上の場合とで処理方法が切り換えられてもよい。また、nが一定数以上の場合、平行移動量及び回転量を決めるための指定点群と、倍率を決めるための指定点群とを区別するようにしてもよい。距離的に近い複数の指定点を平均化して新しい指定点を定義した上で、初期変形用のパラメータを演算するようにしてもよい。いずれにしても、K個の代表点の全部についての指定点の指定が強いられないので、画像の状態に応じて指定点を指定でき、また、ユーザーの負担や要求するフィッティング精度との関係で、指定点の個数を判断できる。
S22は、フィッティング工程に相当する。初期変形後のモデルが実際の組織の輪郭に応じて更に変形され、すなわち、初期変形後のモデルが実際の組織の輪郭にフィッティングされる。S24では、修正の要否が判定され、モデル点(代表点を含む)の位置がユーザーにより変更された場合、S22が再度、実行される。通常、モデル点の移動に伴って、S22が繰り返し実行される。または、S20とS22が再度実行されてもよい。最終的にモデルの形状が確定した段階で、モデルを利用して組織の計測が実行される。例えば、左室の体積が演算される。拡張末期の左室体積及び収縮末期の左室体積から駆出率等の計測値が演算されてもよい。
上記実施形態によれば、1個からK個の範囲内における任意数の指定点に基づいて、組織の輪郭に対して三次元モデルをフィッティングさせることが可能である。よって、組織を表した断層画像に不明瞭な部分が含まれる場合において、その不明瞭な部分への指定点の指定を回避することが可能となる。あるいは、ユーザーにおいてフィッティング精度よりも指定負担の軽減を優先させることが可能となる。
フィッティング後のモデルの形状が各断層画像に反映されてもよい。すなわち、各断層画像上にモデルの断面を表示させ、フィッティング結果の正しさがユーザーにより目視確認されてもよい。そのような構成によれば、フィッティング後のモデルの修正の要否を判断し易くなる。また、修正それ自体を行い易くなる。
上記実施形態においては、(1)式から(3)式に基づいて初期変形用のパラメータが演算されていたが、他の計算式によって初期変形用のパラメータが演算されてもよい。いずれしても、ユーザーにより入力された座標情報を利用してモデルの初期変形を行った上で、モデルのフィッティングを実行すれば、誤ったフィッティングが行われてしまう可能性を低減できる。
上記の初期変形工程及びフィッティング工程が、超音波診断装置以外の医療装置、例えば、X線CT装置、MRI装置等において実行されてもよく、また、汎用の情報処理装置において実行されてもよい。
10 超音波プローブ、24 断層画像形成部、26 三次元画像形成部、28 参照画像形成部、30 表示処理部、34 制御部、36 モデル処理部、38 記憶部、40 モデルテーブル、42 指定点テーブル。

Claims (10)

  1. 生体内の三次元空間からボリュームデータを取得する取得部と、
    三次元モデルがK(但しKは2以上の整数)個の代表点を有する場合において、前記三次元空間に含まれる組織の輪郭に対して、ユーザーが1からK個の範囲内で任意のn個の指定点を指定するための指定部と、
    前記ボリュームデータに基づいて、前記三次元モデルを前記組織の輪郭にフィッティングさせる変形部であって、前記三次元モデルが有するK個の代表点の中から前記n個の指定点に対応するn個の対応代表点を特定し、前記三次元モデルの変形の過程において、前記三次元モデルが有するK個の代表点の中の前記n個の対応代表点を前記n個の指定点に一致させ又は近付ける変形部と、
    を含み、
    前記変形部は、
    前記n個の対応代表点と前記n個の指定点の空間的関係に基づいて、前記三次元モデルを初期変形させる第1変形部であって、前記nが1の場合に前記三次元モデルを平行移動させる第1変形部と、
    前記初期変形後の三次元モデルを前記組織の輪郭にフィッティングさせる第2変形部と、
    を含み、
    前記第1変形部は、前記K個よりも少ない個数の指定点が指定された場合でも前記三次元モデルを初期変形させる、
    ことを特徴とするボリュームデータ処理装置。
  2. 請求項1記載のボリュームデータ処理装置において、
    前記第1変形部は前記nに応じて前記初期変形の方法を切り換える、
    ことを特徴とするボリュームデータ処理装置。
  3. 請求項1記載のボリュームデータ処理装置において、
    前記第1変形部は、前記nが2以上の場合に三次元モデルを平行移動及び回転させると共にその倍率を変更する、
    ことを特徴とするボリュームデータ処理装置。
  4. 請求項1記載のボリュームデータ処理装置において、
    前記第2変形部は、前記n個の対応代表点を含む複数のモデル点を前記組織の輪郭に一致させる、
    ことを特徴とするボリュームデータ処理装置。
  5. 請求項1記載のボリュームデータ処理装置において、
    前記変形部は、前記三次元モデルにおけるいずれかのモデル点の位置が変更された場合に、前記三次元モデルを前記組織の輪郭にフィッティングさせる処理を再実行する、
    ことを特徴とするボリュームデータ処理装置。
  6. 請求項1記載のボリュームデータ処理装置において、
    前記ボリュームデータに基づいて、前記ボリュームデータに対して設定された複数の基準断面を表す複数の断層画像を形成する画像形成部と、
    前記複数の断層画像を表示する表示部と、
    を含み、
    前記表示部に表示された複数の断層画像の全部又は一部に対するマニュアルでの座標の指定により前記n個の指定点が指定される、
    ことを特徴とするボリュームデータ処理装置。
  7. 請求項1記載のボリュームデータ処理装置において、
    前記取得部は超音波を送受波する超音波プローブであり、
    前記ボリュームデータは超音波ボリュームデータである、
    ことを特徴とするボリュームデータ処理装置。
  8. 三次元モデルがK(但しKは2以上の整数)個の代表点を有する場合において、生体内の三次元空間に含まれる組織の輪郭に対して、ユーザーにより1からK個の範囲内で任意のn個の指定点が指定される場合に、前記n個の指定点の指定を受け付ける工程と、
    前記三次元モデルが有するK個の代表点の中から前記n個の指定点に対応するn個の対応代表点を特定し、前記n個の対応代表点を前記n個の指定点に一致させ又は近付け、これにより前記三次元モデルを初期変形させる工程であって、前記nが1の場合に前記三次元モデルを平行移動させ、前記K個よりも少ない個数の指定点が指定された場合でも三次元モデルを初期変形させる工程と、
    前記三次元空間から取得されたボリュームデータに基づいて、前記初期変形後の三次元モデルを前記組織の輪郭にフィッティングさせる工程と、
    を含むことを特徴とするボリュームデータ処理方法。
  9. 請求項8記載のボリュームデータ処理方法において、
    前記三次元モデルを初期変形させる工程では、前記nに応じて初期変形方法が切り換えられる、
    ことを特徴とするボリュームデータ処理方法。
  10. ボリュームデータ処理装置において実行されるプログラムであって、
    三次元モデルがK(但しKは2以上の整数)個の代表点を有する場合において、生体内の三次元空間に含まれる組織の輪郭に対して、ユーザーにより1からK個の範囲内で任意のn個の指定点が指定される場合に、前記n個の指定点の指定を受け付ける機能と、
    前記三次元モデルが有するK個の代表点の中から前記n個の指定点に対応するn個の対応代表点を特定し、前記n個の対応代表点を前記n個の指定点に一致させ又は近付け、これにより前記三次元モデルを初期変形させる機能であって、前記nが1の場合に前記三次元モデルを平行移動させ、前記K個よりも少ない個数の指定点が指定された場合でも三次元モデルを初期変形させる機能と、
    前記三次元空間から取得されたボリュームデータに基づいて、前記初期変形後の三次元モデルを前記組織の輪郭にフィッティングさせる機能と、
    を含むことを特徴とするプログラム。
JP2018172072A 2018-09-14 2018-09-14 ボリュームデータ処理装置、方法及びプログラム Active JP7165541B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018172072A JP7165541B2 (ja) 2018-09-14 2018-09-14 ボリュームデータ処理装置、方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018172072A JP7165541B2 (ja) 2018-09-14 2018-09-14 ボリュームデータ処理装置、方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2020043881A JP2020043881A (ja) 2020-03-26
JP7165541B2 true JP7165541B2 (ja) 2022-11-04

Family

ID=69900250

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018172072A Active JP7165541B2 (ja) 2018-09-14 2018-09-14 ボリュームデータ処理装置、方法及びプログラム

Country Status (1)

Country Link
JP (1) JP7165541B2 (ja)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007035020A (ja) 2005-06-22 2007-02-08 Konica Minolta Medical & Graphic Inc 領域抽出装置、領域抽出方法及びプログラム
JP2009028362A (ja) 2007-07-27 2009-02-12 Toshiba Corp 医用画像処理装置及び医用画像診断装置
JP2010179098A (ja) 2009-02-04 2010-08-19 General Electric Co <Ge> 3dデータセット中の画像ビューを自動的に特定する方法および装置
JP2010534500A (ja) 2007-07-27 2010-11-11 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 画像位置合わせに対するインタラクティブアトラス
JP2012205899A (ja) 2011-03-29 2012-10-25 Samsung Electronics Co Ltd 3次元的モデルを利用した身体臓器の映像生成方法及び装置並びにコンピュータ読み取り可能な記録媒体
US20170238904A1 (en) 2016-02-19 2017-08-24 General Electric Company Automatic alignment of ultrasound volumes
JP2018051001A (ja) 2016-09-29 2018-04-05 株式会社日立製作所 画像処理装置、及びその方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007035020A (ja) 2005-06-22 2007-02-08 Konica Minolta Medical & Graphic Inc 領域抽出装置、領域抽出方法及びプログラム
JP2009028362A (ja) 2007-07-27 2009-02-12 Toshiba Corp 医用画像処理装置及び医用画像診断装置
JP2010534500A (ja) 2007-07-27 2010-11-11 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 画像位置合わせに対するインタラクティブアトラス
JP2010179098A (ja) 2009-02-04 2010-08-19 General Electric Co <Ge> 3dデータセット中の画像ビューを自動的に特定する方法および装置
JP2012205899A (ja) 2011-03-29 2012-10-25 Samsung Electronics Co Ltd 3次元的モデルを利用した身体臓器の映像生成方法及び装置並びにコンピュータ読み取り可能な記録媒体
US20170238904A1 (en) 2016-02-19 2017-08-24 General Electric Company Automatic alignment of ultrasound volumes
JP2018051001A (ja) 2016-09-29 2018-04-05 株式会社日立製作所 画像処理装置、及びその方法

Also Published As

Publication number Publication date
JP2020043881A (ja) 2020-03-26

Similar Documents

Publication Publication Date Title
US10660613B2 (en) Measurement point determination in medical diagnostic imaging
RU2663649C2 (ru) Сегментация крупных объектов из нескольких трехмерных видов
EP3003161B1 (en) Method for 3d acquisition of ultrasound images
CA2949686C (en) System and method of valve quantification
US10102622B2 (en) Processing apparatus, processing method, and non-transitory computer-readable storage medium
RU2653274C2 (ru) Связанная сегментация в стандартных и контрастных ультразвуковых 3d-изображениях
JP5484444B2 (ja) 医用画像診断装置、容積計算方法
KR101267759B1 (ko) 화상 처리 장치, 화상 처리 방법 및 저장 매체
JP5661453B2 (ja) 画像処理装置、超音波診断装置、及び画像処理方法
US8265363B2 (en) Method and apparatus for automatically identifying image views in a 3D dataset
EP2433567A1 (en) Medical image diagnosis device and region-of-interest setting method therefor
JP5462598B2 (ja) 超音波診断システム
RU2708792C2 (ru) Ультразвуковая диагностика работы сердца с использованием сегментации модели сердечной камеры под контролем пользователя
JP2013505778A (ja) 運動情報を用いた医用画像解析のためのコンピュータ可読媒体、システム、および方法
KR20150118484A (ko) 의료 영상 정합 방법 및 장치
JP2002306483A (ja) 医用画像診断装置及びその方法
CN115486877A (zh) 一种超声设备及其显示三维超声图像的方法
JP2019514632A (ja) 超音波融合撮像システムにおけるプローブ誘導変形の補正
CN112641464A (zh) 用于启用上下文感知的超声扫描的方法和系统
KR20190032348A (ko) 이미지 기반 진단 시스템
JP2022111704A (ja) 画像処理装置、医用画像撮像装置、画像処理方法、およびプログラム
JP2022111705A (ja) 学習装置、画像処理装置、医用画像撮像装置、学習方法およびプログラム
JP5383467B2 (ja) 画像処理装置、画像処理方法、画像処理システム及びプログラム
JP7165541B2 (ja) ボリュームデータ処理装置、方法及びプログラム
JP7019594B2 (ja) 撮像システムおよび方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210209

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20211109

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220322

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220818

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20220818

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20220906

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220913

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221018

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221024

R150 Certificate of patent or registration of utility model

Ref document number: 7165541

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150