JP2008068086A - 3d心エコー図において心臓構造をリアルタイムでトラッキングするための方法 - Google Patents

3d心エコー図において心臓構造をリアルタイムでトラッキングするための方法 Download PDF

Info

Publication number
JP2008068086A
JP2008068086A JP2007232305A JP2007232305A JP2008068086A JP 2008068086 A JP2008068086 A JP 2008068086A JP 2007232305 A JP2007232305 A JP 2007232305A JP 2007232305 A JP2007232305 A JP 2007232305A JP 2008068086 A JP2008068086 A JP 2008068086A
Authority
JP
Japan
Prior art keywords
contour
model
predicted
vector
updated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007232305A
Other languages
English (en)
Inventor
Fredrik Orderud
フレドリック・オーダルド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
General Electric Co
Original Assignee
General Electric Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by General Electric Co filed Critical General Electric Co
Publication of JP2008068086A publication Critical patent/JP2008068086A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • G06T2207/101363D ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20112Image segmentation details
    • G06T2207/20116Active contour; Active surface; Snakes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30048Heart; Cardiac

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】ボリュメトリック画像シーケンスにおいて変形可能モデル(10)の運動及び形状変化をトラッキングするための方法を提供する。
【解決手段】3D超音波からの心臓構造などの3D画像から変形可能モデル(10)の形状及び位置が超音波画像の各フレームごとに予測される。次いで、モデル表面と垂直な変形可能モデル上の各予測点(34)ごとにエッジ検出が実施される。変形可能モデルに関する予測エッジと計測エッジの間の距離がカルマンフィルタ向けの計測値となる。この計測値はエッジ検出の空間不確定度を指定するノイズ値(42)と結合させる。これらの計測データは情報空間内で順次足し合わされると共にカルマンフィルタにおける予測と組み合わせられ、変形可能モデルに関する位置及び変形が推定される。次いでこの変形可能モデルを更新し更新表面モデル(50)を生成させる。
【選択図】図5

Description

本明細書で開示する主題は全般的には、画像データ内部で3D構造をトラッキングする方法に関する。より具体的には、本明細書で開示する主題は、3D超音波画像内で心臓の房室などの心臓構造をリアルタイムトラッキングし該構造に関する所望の情報をリアルタイムで算定する方法に関する。
医用撮像の分野においてボリュメトリック画像収集の出現が、近年大きな科学的関心を集めている。ボリュメトリックデータ組に関する変形可能なモデルに対するセグメント分割及びトラッキングについては、3Dデータ組に対する新規アルゴリズムと既存アルゴリズムの拡張の両方を含め多くの異なる方式が提唱されている。しかし、ボリュメトリック収集は最新式の3D超音波テクノロジーによればリアルタイムで実施することができるが、目下の方法の処理要件が広範であるために目下のところ知られている従来の取り組みはオフライン操作に限定される。目下のところ、こうしたデータをリアルタイムでトラッキングまたはセグメント分割するための方法で目下利用可能なものはない。
ボリュメトリックデータ組に関するリアルタイムトラッキングのためのテクノロジーが利用できるようになれば、医用撮像を用いて瞬時にフィードバック及び診断を行う可能性が切り開かれることになる。例えば、侵襲性の処置や集中治療中において心臓機能をリアルタイムで監視することに対する要求が存在する。心臓の主たる房室である左心室(LV)に関する体積などのパラメータを自動トラッキングすることは、リアルタイムトラッキングの有益な用途の1つとなる。
2D心エコー図に関する大部分のトラッキング方式は、自由形態変形を容易にさせる従来式の変形可能モデルに基づいてきた。しかしこれらの方法は、リアルタイム適用が低速すぎる傾向があると共に、LV境界の近傍で初期化することが必要である。しかしこの問題点は、許容できる変形を事前定義のある種のモードに制約することによって対処可能とすることができる。この両者によって問題点を規格化してトラッキングをより頑強なものにすると共に、連続状態推定に基づいたリアルタイムの実現形態が可能となる。
この状態推定方式は先ずBlakeらによる「A framework for spatiotemporal control in the tracking of visual contours」(International Journal of Computer Vision,11(2):127〜145,1993)に提示されており、これでは形状空間と呼ばれるモデルサブ空間内部の線形変換によって変形させたB−スプラインモデルをトラッキングするためのカルマン(Kalman)フィルタの使用について教示している。後に、長軸2D心エコー図におけるリアルタイムの左心室トラッキングのためにJacobらによる「Quantitative regional analysis of myocardial wall motion」(Ultrasound in Medicine & Biology、27(6):773〜784,2001)によってこのフレームワークが利用された。これら以前の方法はすべて、2Dデータ組のトレーニング式(trained)線形主成分分析(PCA)変形モデルによって変形させたB−スプライン描出を利用している。
幾分か同様の方式(D.Metaxas及びD.Terzopoulos、「Shape and Nonrigid Motion Estimation Through Physics−Based Synthesis」(IEEE Transactions on Pattern Analysis and Machine Intelligence、15(6):580〜591,1993)を参照)は連続カルマンフィルタを用いて、対象物に取り付けたダイオードマーカーからサンプリングした点の3D位置を用いた変形可能な超2次(superquadric)モデルのためのパラメータを推定している。これによって、事前定義の既知点で直接に3D計測値が得られる。しかし本開示はエッジ検出を利用して、予測される輪郭の近傍で一定のサンプリング間隔で変位計測を実施している。
特開2002−212514号公報
よってボリュメトリック画像シーケンスにおいて変形可能モデル(10)の運動及び形状変化をトラッキングするための改良された方法が求められる。
本開示は、ボリュメトリック画像シーケンスにおいてエッジに対して当てはめられる変形可能モデルに関する動き及び形状変化のトラッキング方法に関する。本方法は拡張型(extended)カルマンフィルタを利用して変形可能モデルの位置、向き及び変形パラメータを推定している。
先ず運動学的モデルを用いて新たな各フレームごとに変形可能モデルの形状及び位置が予測される。次いで、このモデルの近傍でエッジ検出が実施される。このエッジ保護は、該モデル全体にわたる一定間隔の箇所でモデル表面と垂直なエッジを検索することによって実施される。変形可能モデルに関する予測エッジと計測エッジの間で決定された距離はカルマンフィルタなどの最小自乗アルゴリズムに対する計測値として取り扱われる。この距離計測値は、局所的エッジ検出の空間的不確定度を指定する関連する計測ノイズ値と結合させる。このエッジ計測に関するモデルパラメータ感度は各エッジ検出点ごとに算定される。この感度はエッジ計測値と組み合わせられる。
引き続いてすべての計測データが情報空間内で足し合わされると共に、カルマンフィルタ内の予測値と組み合わせられ、その変形可能モデルに関する位置及び変形パラメータが推定される。
添付の図面は本発明を実施するように目下のところ企図される最適モードを表している。
本開示は、ボリュメトリックデータ組内の非線形変形モードにより変形可能輪郭のリアルタイムトラッキングを可能にしたトラッキング方式を提供する。開示した方式は、トラッキングの問題を状態推定の問題として扱うと共に、拡張型カルマンフィルタを用いて状態予測値と計測更新値の組み合わせを用いた変形パラメータの再帰的トラッキングを行っている。
左心室に対する変形可能な輪郭モデルは、3D心エコー図におけるリアルタイムのボリュメトリックトラッキングに関する例示的な実現形態の役割をする。図面では左心室に関する変形可能輪郭モデルについて図示し説明しているが、本開示の方法は別の心臓構造さらには撮像技法を用いて監視可能な別の内部構造で利用することも可能であることを理解されたい。さらに、本開示は超音波撮像に関する利用に関連させているが、本開示の趣旨の域内で動作させながらMRIやCTなど別の様々なタイプの撮像も利用できることが想定される。図面に示したモデルは形状モードと広域的姿勢変形の組み合わせを利用して左心室で予測される変形の範囲を直感的にモデル化している。
[変形可能輪郭モデル]
上述のように、超音波デバイスを利用して患者心臓を監視する間では、左心室などの心臓房室に関する変動する体積をトラッキングすることが望ましいことが多い。本開示の方法の第1の工程では、監視対象の心臓房室を輪郭モデルを利用して先ずモデル化することが必要となる。図示し説明するような実施形態では、輪郭モデル10は図1のx、y及びz軸に沿って示すような切頭球体(truncated sphere)である。
本方法は、状態推定アルゴリズムを用いた輪郭トラッキングを利用する。輪郭トラッキングは、映像ストリームにおいて、対象物の内部ではなく傾斜やエッジなどの対象物の境界の特徴に焦点を当てている連続式対象物追跡の一形態である。この方法は、色やテクスチャなど対象物内部の特徴に焦点を当てているブロブ(blob)トラッキングとも呼ばれるセグメント分割ベースのトラッキング方式と異なる。
セグメント分割ベースのトラッキングと比較した輪郭トラッキングの利点の1つは、検討を要するのが対象物の内部全体ではなく対象物の境界だけであることにより計算の複雑さが軽減されることである。しかし輪郭トラッキングではその対象物に、対象物の存在検出に利用可能な明瞭なエッジが存在することが必要である。
輪郭モデルは輪郭の描出及びパラメータ化に使用されており、このためトラッキング中の対象物に対するテンプレートの役割をする。例えば多角形、2次及び3次B−ライン、インプリシット(implicit)カーブ及びパラメータ表面などの多くの形態の輪郭に関するフレームワークがある。唯一の要件は、輪郭モデル上で一定間隔の輪郭点に関してその位置及び法線ベクトルを評価できなければならないことだけである。
このトラッキングフレームワークは、輪郭形状テンプレート
=[po,xo,yo,y
上の点を変形後の点
p=[p
に変換する輪郭変換モデルTに基づいており、この際下記の式に従って状態ベクトルxをパラメータとして使用している。
p=T(po,x
上述のパラメータ化は許容可能な変形に関する制約が極めて少ないため、非線形生化学モデルを含む広範囲のパラメータ化変形モデルを使用することが可能である。様々なモデルの使用が可能であるが、その点位置の偏導関数のすべてが変形パラメータの関数として計算可能でなければならない。輪郭法線の変換ではさらに、空間導関数の算定も必要となる。この方式は、その変形のすべてが状態ベクトルにおいて線形でなければならず、したがって偏導関数の算定が全く不要であるような従来の2D方法で使用される線形形状空間変形と異なる。
[法線ベクトル変換]
変形輪郭モデルの表面上の様々な輪郭点に関する法線ベクトルの算定は、逆空間ヤコビアン行列の転置行列と初期法線ベクトルを乗算し、さらにそのヤコビアン行列の行列式を乗算することにより次式のようにして実施される。
変換モデルの空間ヤコビアン行列は、次式のようにすべてのパラメータに関する変換輪郭点の偏導関数からなる行列である。
[例示的な楕円体モデル]
上述のように、本開示の方法を利用して超音波画像内で左心室を監視しトラッキングする際には、左心室を表すために図1に示すようなものなどの切頭球体輪郭が選択される。切頭球体輪郭を初期輪郭モデルとして選択しているが、左心室の形状及びサイズを全体として再現した別の様々なモデルも利用可能であることを理解されたい。さらに、本発明の方法を監視対象の別の心臓房室や別の臓器の監視に利用する場合、その輪郭モデルは大きく異なる形状を有するように選択される可能性がある。
切頭球体は、円の方程式において切りつめパラメータ(truncation parameter)Tを用いてzを1未満の値まで切りつめることによって規定される点からなる組で表すことが可能である。
楕円体方程式は、頂部−底部運動及び短軸回転のそれぞれに関するパラメータu及びvを用いてパラメータ形式で表現することも可能である。uの値はπ/2より小さい値に制限される。すると主輪郭は次式を満足することになる。
この輪郭モデルの有利な特徴は、切りつめ面を除くすべての輪郭法線が関連する点座標と平行となることである。したがって輪郭法線に関して個別のモデルは必要としない。
[楕円体に関する例示的な変換モデル]
切頭球体の輪郭モデルを展開させた後、切頭球体の変換モデルは以下のパラメータからなるように規定される。
Translation(tx,ty,tz)
Scaling(sx,sy,sz)
Rotation/orientation(rx,ry)
「Bending」(cx,cy)
全体としてこれによって、次の10個のパラメータを包含した状態ベクトルxが得られる。
したがって提唱する変換モデルは以下のように規定される。
ここで図2を参照すると、変形させた楕円体輪郭12を表している。図2に示した変形輪郭12と図1の元の輪郭モデル10との比較から分かるように、この変形させた輪郭12は超音波撮像の以前の画像フレームから算定した状態ベクトルに基づいており、変形輪郭モデルが左心室など解析中の心臓房室の実際の物理的構成をより正確に再現するように初期輪郭モデルを変形させている。
上で規定した変換モデルに基づいて、数値評価によるか、コンピュータ代数アプリケーションを用いて閉形式の解を計算することによるかのいずれかによってこの関数から空間及び状態−空間導関数に関するヤコビアン行列を推論することが可能である。
[トラッキングフレームワーク]
本開示で提唱した輪郭トラッキング方式は、幾つかの工程からなるサイクリック処理チェーンに従う。超音波画像の新たな各画像フレームごとに実施される主たる計算工程は以下のように要約することができる。
○ 以前の画像フレームに基づき運動学的モデルを用いて輪郭モデル状態ベクトルを予測する工程
○ この状態ベクトルに基づいて形状テンプレートを変形させて予測輪郭を形成すると共に、関連する法線ベクトル及び状態−空間ヤコビ行列を計算する工程。
○ 変形させた輪郭の予測輪郭点の法線ベクトルに沿って局所的エッジ検出を実施する工程。
○ 情報空間内でエッジ計測値を融合させる工程。
○ 予測輪郭モデル状態ベクトルをエッジ計測値と組み合わせ、更新済み輪郭状態推定値を計算する工程。
図3は、本開示の方法に従って実施される全体的トラッキング分解の概要図である。図3に示すように、予測工程18では以前の画像フレームに関する状態ベクトル14及び共分散行列16を用いて予測状態ベクトル20及び予測共分散行列22が生成される。計測工程24では、この予測状態ベクトル20及び共分散行列22を利用して情報ベクトル26及び情報行列28が作成される(これについては以下で詳細に説明することにする)。この情報ベクトル26及び情報行列28は、更新工程30において利用される。
[状態予測]
後続する画像フレーム間での輪郭状態を予測するために運動学的モデルが使用される。このモデルは、以前の知見を利用すること、状態ベクトルと共分散行列の予測の両者を得ること、予測の不確定度を指定することによって動作する。次いでこの予測は、より正確な改良値(更新値と呼ぶ)を得るための開始点として用いることが可能であり、この予測は当座フレームからの計測値と組み合わせられてより正確な推定値が形成される。
輪郭トラッキングなど大部分のタイプの映像トラッキングは、形状、整列及び位置のいずれについても非静止状態の移動性で変形可能な対象物を取り扱う。これによって状態予測の複雑さが増大する。というのは以前のフレームからの単純な状態推定値を運動学的モデルに入力するのでは不十分であるためである。その理由は輪郭状態ベクトルには運動すなわち変化率に関する概念が全くないためである。したがって、空間的変化以外に時間的な展開を取り込むための方策が必要である。
トラッキングしている対象物に関する運動の減衰、形状及び姿勢の正規化並びに変形パラメータの許容変化率などの運動学的特徴を取り込むことが可能であることが望ましい。これらの特徴の活用は、検索空間を制約することによってトラッキングをガイドするのに役立てることができ、他方これを用いて輪郭に関して異常値エッジを棄却すると共に時間的コヒーレンスを課すことが可能である。
好都合にも、カルマンフィルタの状態予測段階によればこうしたモデル化に関するフレームワークが提供される。直前の2つの画像フレームからの少なくとも2つの後続の状態推定値を包含するように状態ベクトルを補強すると共に第2次自己回帰モデルを形成することによって、位置に加えて運動のモデル化を実現することが可能である。さらに、平均状態xからの偏差に注目しながら時間ステップk+1における状態
を予測する運動学的モデルは次式で表現することが可能である。
上式において
は時間ステップkからの推定状態である。行列A及びAの係数を調整することによって、すべての変形パラメータに関する平均状態xに向けた減衰や正規化などの特徴のチューニングを実施することが可能である。予測不確定度も同様に、関連する共分散更新方程式で使用される処理ノイズ共分散行列Bに対する操作によって調整することが可能である。次いでこの後者によってそのパラメータ値の変化が許容される割合が制約を受けることになる。
全体的フレームワークに対して変更を加えることなく、より高次のモデルや非線形モデルを含む別の運動学的モデルを使用することもできる。
[輪郭変形]
以前の画像フレームに基づいて輪郭モデルに関する予測状態ベクトルxを算定した後、この予測状態ベクトルと連係して変換モデルを使用することにより、本開示の上で示したような予測状態ベクトルに基づいた関連する法線ベクトルnを伴う輪郭点pが生成される。
拡張型カルマンフィルタを用いたエッジ計測値の処理では、輪郭点位置の変化を輪郭状態の変化に関連させるために予測状態ベクトルの位置で状態−空間ヤコビ行列を評価することが必要である。したがってさらに、すべての変換パラメータに関する輪郭点の偏導関数からなるように、各輪郭点に対して個別にヤコビアン行列を算定しなければならない。
[エッジ計測]
上で記載したように輪郭変形が生成された後、図4に示すようにトラッキング中の構造33の内壁に沿って輪郭点31の実際位置を決定するためのエッジ検出が実施される。一例として、左心室の内壁に沿って輪郭点を決定するためのエッジ検出が実施される。エッジ検出は、超音波画像などの画像内でエッジの有無及び位置を検出する処理である。エッジは通常、短かい空間スケールにわたって生じる画像強度の任意の大きな変化であると規定される。エッジを検出するための方策は数多くありかつ多様である。最もよく用いられる手順は、画像強度の任意の変化を強調する処理である空間微分フィルタ処理である。次いで後続のしきい値によって存在する任意のエッジの位置が明らかとなる。この方式に関する問題点の1つは、これによりエッジが強調されるだけではなくノイズも強調され、これにより本方法の頑強性が制限されることである。したがって本開示は、様々なタイプのエッジ検出を利用することになる。
さらに、エッジ検出に対する法線方式は通常、画像全体を処理するため、画像が数百万画素を含み得ることから計算上の要求が厳しくなり兼ねない。しかし本開示の輪郭トラッキング方式では、検討するのが輪郭法線だけであるため状況が改善される。したがって、画像全体の処理は不要であり、各エッジごとに検討するのが数画素で済むようなより単純なエッジ検出へ道が開かれる。
本開示によれば、本開示の趣旨の域内の操作をしながらステップエッジ検出かピークエッジ検出モデルのいずれかを利用できることが企図される。さらに、本開示の趣旨の域内にあるような別のエッジ検出方法も企図される。
エッジ計測値は、トラッキング中の対象物の方向に予測輪郭をガイドするために使用される。この操作は、運動学的モデルから推論される予測輪郭35の表面上の予測点34と、輪郭表面を基準としてある方向で検索することによって見出された実際の画像エッジ33との間の距離の計測し、これによって変位計測値nを得ることによって実施される。輪郭表面の法線方向で実施されるこのタイプのエッジ検出のことを法線変位(normal displacement)と呼ぶ。しかしエッジ計測は、本発明の趣旨域内に留まりながら法線方向以外の方向で検索することによって実施することも可能である。
関連する法線ベクトルnを伴う予測輪郭点pと計測エッジ点pobsとの間の法線変位は、図4に示すようにこれらの点間の距離の法線投影となるように規定される。
上式はベクトル形式では次式となる。
各変位計測値はそのエッジに関連する不確定度を指定する計測ノイズrの値と結合させており、この不確定度は、すべてのエッジに対して一定とすることや、エッジ強さや別の不確定度計測値に依存させることがある。
関連する計測ノイズを伴うこの変位計測値の選択によって広範囲の可能なエッジ検出器の利用が可能となる。エッジ検出器に関する唯一の要件は、予測輪郭点に対する各検索法線について最も有望なエッジ候補を特定すると共に、この候補に対して不確定度値を割り当てなければならないことだけである。
カルマンフィルタにおいて各エッジ計測ごとに必要となる線形化計測モデルは、エッジ計測と同じ状態−空間ヤコビ行列に対する変換、すなわちその法線ベクトル投影を取ることによって作成される。
これによってその変位を輪郭状態の変化に関連させる個別の計測ベクトルhが各変位計測ごとに得られる。
[計測融合]
ここで図5を参照すると、図5はこの点に合わせて記載した本開示の各工程を表している。図5に示したように、輪郭モデル上の点pとnは変形工程32に示したような予測状態ベクトル20を用いて初めに変形を受ける。工程32における輪郭モデルの変形では、輪郭変換モデルTを利用して予測輪郭点34及び予測法線ベクトル36を生成している。同時に、計測モデルの状態−空間ヤコビアンに基づいた計測ベクトル38が生成される。
計測工程24において本方法は、エッジ計測技法を用いて当座画像フレーム上で実輪郭点の位置を決定する。図示した本発明の実施形態では、本方法は400〜600個のエッジ検出点を利用する。好ましい一実施形態では、本方法は500個のエッジ検出点を利用する。
計測した実際のエッジ検出点に基づいて、本方法は次いで変位値v(40)及び計測ノイズ値r(42)を算定する。
値及び変数が算定されると、本方法は次いで融合工程44を利用する(これについては以下で詳細に説明することにする)。
計測値の数は典型的には状態次元の数をはるかに超えるため、輪郭トラッキングにより特殊問題構造が生成される。記載した実施形態では、本システムは各画像フレームごとに400〜600個の輪郭点を算定しており、またその状態ベクトルは10個のパラメータを含む。したがって、定常(Ordinary)カルマン利得算定では、計測値の数(500×500)に等しい次元による逆行列生成が必要となるため計算上対処が困難となる。
別のある方式は、カルマンフィルタにおける計測更新工程を、状態更新工程の前に情報空間内で融合させた計測値を受け容れるように変更することによってこの問題を回避している。輪郭トラッキング装置でリアルタイム性の性能を実現するために変位計測値を効率よく処理しなければならないためにこのことが重要となる。
この方式は、計測の情報空間内での効率のよい加算が可能であるような非相関の計測値を前提として構築されている。非相関計測値では対角計測値共分散行列が得られるためこれが可能となる。次いですべての計測情報を加え合わせて、計測値数に対して不変の次元をもつ情報ベクトル及び情報行列にすることが可能である。次いで計測値に対する情報ベクトル及び情報行列の算定は次式のように簡略化される。
[計測値更新]
情報フィルタ形式の計測値ではカルマンフィルタの状態更新工程に対する変更が必要である。このことは、時間ステップkにおける更新状態推定値
に関してカルマンフィルタの情報フィルタ公式を用いることによって実施することができる。
状態次元より大きい次元をもつ逆行列の生成を回避するために、更新誤差共分散行列
は情報空間内で同様に算定することが可能である。
更新状態推定値
及び共分散行列
が算定された後に、次いでこれらの値を上に記載した方式で利用し輪郭モデルを更新する。ここでこの更新輪郭モデルは当座画像フレームから直接得た計測値に基づいている。
輪郭モデルが更新された後、この更新した輪郭モデルを利用して解析対象領域の体積を決定することが可能である。一例として解析対象領域が左心室であれば、更新輪郭モデルを利用して超音波画像から当座画像フレームの間に左心室の体積を決定することが可能である。
上述のように本開示の処理技法及び方法を使用すると、超音波などの連続撮像技法の各フレームごとに更新輪郭モデルを生成することが可能である。上述した処理技法及び方法は、状態ベクトルを用いて情報空間内で実施されており、これにより次の画像フレームの作成前に個々の各画像フレームごとに更新輪郭モデルを作成することが可能となる。この処理方法は、監視やトラッキングを受ける3D領域に関する輪郭モデル並びに体積など様々な計測パラメータの生成を可能にする。従来の方法及びシステムでは、左心室などの領域に関する体積計測値の算定において、画像フレームが作成された後に大規模な処理工程が必要であった。したがって本開示の方法によれば、体積などの様々な計測を超音波撮像事象中にリアルタイムで算定することが可能となる。
ここで図6を参照すると、本発明の方法を用いて実施される一例を表している。図6では、左心室の像を含む超音波画像46を示している。本開示の方法では、超音波画像46の上に重ね合わせた初期輪郭モデル48を表している。これから明瞭に理解できるように、輪郭モデル48の次元は超音波画像内に表された心臓房室と一致していない。
上述した工程に続いて、以前の超音波画像フレームからの情報、並びにエッジ検出方法を含む上述した更新工程を利用して輪郭モデル48が更新される。この更新工程に続いて、解析対象の心臓房室のサイズ及び形状とより密に一致するように更新輪郭モデル50を展開させる。
更新輪郭モデル50を展開させた後、従来のアルゴリズム及び技法を用いて更新輪郭モデルの体積を容易に算定することができる。次いでこの算定された体積は、超音波画像を監視しながらリアルタイムでユーザ/オペレータに対して表示させることができる。
この記載では、本発明(最適の形態を含む)を開示するため、並びに当業者による本発明の製作及び使用を可能にするために例を使用している。本発明の特許性のある範囲は添付の特許請求の範囲によって規定していると共に、当業者により行われる別の例を含むことができる。こうした別の例は、特許請求の範囲の文字表記と異ならない構造要素を有する場合や、特許請求の範囲の文字表記と実質的に差がない等価的な構造要素を有する場合があるが、特許請求の範囲の域内にあるように意図したものである。また、図面の符号に対応する特許請求の範囲中の符号は、単に本願発明の理解をより容易にするために用いられているものであり、本願発明の範囲を狭める意図で用いられたものではない。そして、本願の特許請求の範囲に記載した事項は、明細書に組み込まれ、明細書の記載事項の一部となる。
切頭球体輪郭を表した図である。 本開示の方法に基づいて切頭球体輪郭を変形させる一例を表した図である。 全体的トラッキングフレームワーク分解を表した図である。 予測される輪郭上の点の法線ベクトルに沿った法線変位計測を表した図である。 輪郭モデルの更新及びトラッキングに使用される方法の各工程を表した図である。 変形前における、左心室の超音波画像の上への輪郭モデルの重ね合わせを表した図である。 更新し変形させた輪郭モデルの重ね合わせを表した図6と同様の図である。
符号の説明
10 輪郭モデル
12 変形させた輪郭
14 状態ベクトル
16 共分散行列
18 予測工程
20 予測状態ベクトル
22 共分散行列
24 計測工程
26 情報ベクトル
28 情報行列
30 更新工程
31 実輪郭点
32 変形工程
33 実際の構造
34 予測輪郭点
35 予測輪郭
36 予測法線ベクトル
38 計測ベクトル
40 変位値
42 ノイズ値
44 融合工程
46 超音波画像
48 輪郭モデル
50 更新輪郭モデル

Claims (10)

  1. 複数の連続画像フレームを含む3D画像内で3D構造をリアルタイムトラッキングする方法であって、
    トラッキングを受ける3D構造を表す輪郭モデル(10)を選択する工程と、
    以前の画像フレームに基づいて前記輪郭モデル(10)に関する予測状態ベクトル(20)を生成する工程と、
    前記予測状態ベクトル(14)に基づいて前記輪郭モデル(10)を変形させる工程(32)と、
    3D画像の当座画像フレームから前記3D構造に関する複数の実輪郭点(31)を決定する工程と、
    複数の実輪郭点(31)と複数の予測輪郭点(34)の差に基づいて変位値(40)及び計測ベクトル(38)を決定する工程と、
    最小自乗法を利用して情報空間内で前記変位値(40)と計測ベクトル(38)を融合させ(44)、更新状態ベクトル及び更新共分散行列を作成する工程と、
    前記更新状態ベクトルに基づいて前記当座画像フレームに関する更新輪郭モデル(50)を作成する工程と、
    を含む方法。
  2. 前記3D画像は超音波によって収集される、請求項1または請求項2のいずれかに記載の方法。
  3. 前記3D構造は心臓房室である、請求項1または請求項2のいずれかに記載の方法。
  4. 前記心臓房室は左心室である、請求項3に記載の方法。
  5. 左心室に関する前記選択輪郭モデルは非線形変形モードによる切頭球体である、請求項4に記載の方法。
  6. 前記複数の予測輪郭点(34)並びに該予測輪郭点(34)の各々に関する法線ベクトルを前記変形輪郭モデル(12)に基づいて作成する工程をさらに含むと共に、前記変位値(40)は該予測輪郭点(34)に関する法線ベクトル(36)に沿った実輪郭点(31)と予測輪郭点(34)の間の差に基づいて決定されている、請求項1または請求項3のいずれかに記載の方法。
  7. 前記変位値(40)と計測ベクトル(38)を情報空間内で融合させ情報ベクトル(26)及び情報行列(28)が生成されており、該情報ベクトル(26)及び情報行列(28)は更新状態ベクトル及び更新共分散行列を作成するようにカルマンフィルタを用いて処理されている、請求項1または請求項3のいずれかに記載の方法。
  8. 次の画像フレームの作成前に前記更新輪郭モデル(50)に基づいて前記3D構造の表面を算定する工程をさらに含む請求項1または請求項3のいずれかに記載の方法。
  9. 前記予測状態ベクトルは直前の2つの画像フレーム及び運動学的モデルから決定された更新状態ベクトルを利用している、請求項1または請求項3のいずれかに記載の方法。
  10. 前記更新輪郭モデル(50)の表面に基づいて前記3D構造の体積を算定する工程をさらに含む請求項8に記載の方法。
JP2007232305A 2006-09-15 2007-09-07 3d心エコー図において心臓構造をリアルタイムでトラッキングするための方法 Pending JP2008068086A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US84508206P 2006-09-15 2006-09-15
US11/775,903 US7889912B2 (en) 2006-09-15 2007-07-11 Method for real-time tracking of cardiac structures in 3D echocardiography

Publications (1)

Publication Number Publication Date
JP2008068086A true JP2008068086A (ja) 2008-03-27

Family

ID=39145090

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007232305A Pending JP2008068086A (ja) 2006-09-15 2007-09-07 3d心エコー図において心臓構造をリアルタイムでトラッキングするための方法

Country Status (3)

Country Link
US (1) US7889912B2 (ja)
JP (1) JP2008068086A (ja)
FR (1) FR2906055A1 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009273882A (ja) * 2008-05-12 2009-11-26 General Electric Co <Ge> 定量的局所測定結果および形態構造の複合4次元プレゼンテーションのための方法および装置
JP2010240409A (ja) * 2009-03-31 2010-10-28 General Electric Co <Ge> 4dレンダリングにおいて定量的なセグメントデータを表示するための方法およびシステム
JP2011200549A (ja) * 2010-03-26 2011-10-13 Fujitsu Ltd 3次元テンプレート変形方法、装置及びプログラム
JP2011248853A (ja) * 2010-05-05 2011-12-08 General Electric Co <Ge> 構造物の球形度を計算する方法
WO2012070588A1 (ja) * 2010-11-25 2012-05-31 株式会社日立メディコ 超音波動画像処理方法、装置、およびプログラム
JP2014507166A (ja) * 2011-03-30 2014-03-27 ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド 腫瘍を追跡するための方法
JP2017018305A (ja) * 2015-07-10 2017-01-26 東芝メディカルシステムズ株式会社 超音波診断装置及び医用画像処理装置
JP2017512091A (ja) * 2014-02-27 2017-05-18 インパック メディカル システムズ、 インク.Impac Medical Systems Inc. 適応性放射線治療における自動輪郭抽出システム及び方法
US10631948B2 (en) 2015-09-29 2020-04-28 Fujifilm Corporation Image alignment device, method, and program
US20220284589A1 (en) * 2019-06-12 2022-09-08 Carnegie Mellon University System and Method for Vessel Segmentation

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8150116B2 (en) 2007-07-02 2012-04-03 Siemens Corporation Method and system for detection of deformable structures in medical images
US20090238404A1 (en) * 2008-03-18 2009-09-24 Fredrik Orderud Methods for using deformable models for tracking structures in volumetric data
US8295569B2 (en) * 2008-06-12 2012-10-23 Siemens Medical Solutions Usa, Inc. Method and system for automatic detection and measurement of mitral valve inflow patterns in doppler echocardiography
JP5438936B2 (ja) * 2008-08-29 2014-03-12 株式会社東芝 超音波診断装置、画像処理装置及び画像処理プログラム
US8265363B2 (en) * 2009-02-04 2012-09-11 General Electric Company Method and apparatus for automatically identifying image views in a 3D dataset
US8478012B2 (en) 2009-09-14 2013-07-02 General Electric Company Methods, apparatus and articles of manufacture to process cardiac images to detect heart motion abnormalities
JP5707148B2 (ja) * 2010-01-27 2015-04-22 株式会社東芝 医用画像診断装置及び医用画像処理装置
WO2011106622A1 (en) 2010-02-25 2011-09-01 The Trustees Of The University Of Pennsylvania Automatic quantification of mitral valve dynamics with real-time 3d ultrasound
US20110161013A1 (en) * 2010-05-18 2011-06-30 Saeed Ranjbar Method for determining heat boundary value conditions of red blood cells in the neighborhood of myocardium
GB201009006D0 (en) 2010-05-28 2010-07-14 Ntnu Technology Transfer As Ultrasound acquisition
US8750375B2 (en) * 2010-06-19 2014-06-10 International Business Machines Corporation Echocardiogram view classification using edge filtered scale-invariant motion features
US20120155727A1 (en) * 2010-12-15 2012-06-21 General Electric Company Method and apparatus for providing motion-compensated images
US10123781B2 (en) * 2013-11-05 2018-11-13 Koninklijke Philips N.V. Automated segmentation of tri-plane images for real time ultrasonic imaging
EP3108456B1 (en) * 2014-02-19 2020-06-24 Koninklijke Philips N.V. Motion adaptive visualization in medical 4d imaging
JP6382050B2 (ja) * 2014-09-29 2018-08-29 キヤノンメディカルシステムズ株式会社 医用画像診断装置、画像処理装置、画像処理方法及び画像処理プログラム
WO2016110463A1 (en) * 2015-01-06 2016-07-14 Koninklijke Philips N.V. Ultrasound imaging apparatus and method for segmenting anatomical objects
US10398411B2 (en) 2016-02-19 2019-09-03 General Electric Company Automatic alignment of ultrasound volumes
CN107886058B (zh) * 2017-10-31 2021-03-26 衢州学院 噪声相关的两阶段容积Kalman滤波估计方法及系统
CN113261987A (zh) * 2021-03-25 2021-08-17 聚融医疗科技(杭州)有限公司 一种基于运动目标的三维超声成像方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002224116A (ja) * 2001-01-31 2002-08-13 Matsushita Electric Ind Co Ltd 超音波診断装置及び画像処理装置
JP2003216951A (ja) * 2001-12-03 2003-07-31 Microsoft Corp 複数のキューを使用する複数の個人の自動検出および追跡の方法、システムおよびコンピュータ可読媒体
WO2004081875A2 (en) * 2003-03-07 2004-09-23 Siemens Corporate Research Inc. System and method for tracking a global shape of an object in motion
JP2005165791A (ja) * 2003-12-03 2005-06-23 Fuji Xerox Co Ltd 対象物の追跡方法及び追跡システム

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4489729A (en) * 1982-09-03 1984-12-25 Medtronic, Inc. Ultrasound imaging system
US5817022A (en) * 1995-03-28 1998-10-06 Sonometrics Corporation System for displaying a 2-D ultrasound image within a 3-D viewing environment
US5797849A (en) * 1995-03-28 1998-08-25 Sonometrics Corporation Method for carrying out a medical procedure using a three-dimensional tracking and imaging system
US6295464B1 (en) * 1995-06-16 2001-09-25 Dimitri Metaxas Apparatus and method for dynamic modeling of an object
US5768413A (en) * 1995-10-04 1998-06-16 Arch Development Corp. Method and apparatus for segmenting images using stochastically deformable contours
US5806521A (en) * 1996-03-26 1998-09-15 Sandia Corporation Composite ultrasound imaging apparatus and method
US6019725A (en) * 1997-03-07 2000-02-01 Sonometrics Corporation Three-dimensional tracking and imaging system
US6950689B1 (en) * 1998-08-03 2005-09-27 Boston Scientific Scimed, Inc. Dynamically alterable three-dimensional graphical model of a body region
US6385332B1 (en) * 1999-02-19 2002-05-07 The John P. Roberts Research Institute Automated segmentation method for 3-dimensional ultrasound
US6106464A (en) * 1999-02-22 2000-08-22 Vanderbilt University Apparatus and method for bone surface-based registration of physical space with tomographic images and for guiding an instrument relative to anatomical sites in the image
US6352507B1 (en) * 1999-08-23 2002-03-05 G.E. Vingmed Ultrasound As Method and apparatus for providing real-time calculation and display of tissue deformation in ultrasound imaging
GB9920401D0 (en) * 1999-08-27 1999-11-03 Isis Innovation Non-rigid motion image analysis
US6379302B1 (en) * 1999-10-28 2002-04-30 Surgical Navigation Technologies Inc. Navigation information overlay onto ultrasound imagery
US7356367B2 (en) * 2000-06-06 2008-04-08 The Research Foundation Of State University Of New York Computer aided treatment planning and visualization with image registration and fusion
WO2002043564A2 (en) * 2000-11-28 2002-06-06 Allez Physionix Limited Systems and methods for making non-invasive physiological assessments
US7022077B2 (en) * 2000-11-28 2006-04-04 Allez Physionix Ltd. Systems and methods for making noninvasive assessments of cardiac tissue and parameters
JP3902765B2 (ja) * 2001-05-17 2007-04-11 シーメンス コーポレイト リサーチ インコーポレイテツド Mr心臓画像における左心室のセグメンテーションに対する様々なアプローチ
US6638221B2 (en) * 2001-09-21 2003-10-28 Kabushiki Kaisha Toshiba Ultrasound diagnostic apparatus, and image processing method
JP4373682B2 (ja) * 2003-01-31 2009-11-25 独立行政法人理化学研究所 関心組織領域抽出方法、関心組織領域抽出プログラム及び画像処理装置
US6896657B2 (en) * 2003-05-23 2005-05-24 Scimed Life Systems, Inc. Method and system for registering ultrasound image in three-dimensional coordinate system
US7428334B2 (en) * 2004-08-27 2008-09-23 General Electric Company Methods and systems for 3D segmentation of ultrasound images

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002224116A (ja) * 2001-01-31 2002-08-13 Matsushita Electric Ind Co Ltd 超音波診断装置及び画像処理装置
JP2003216951A (ja) * 2001-12-03 2003-07-31 Microsoft Corp 複数のキューを使用する複数の個人の自動検出および追跡の方法、システムおよびコンピュータ可読媒体
WO2004081875A2 (en) * 2003-03-07 2004-09-23 Siemens Corporate Research Inc. System and method for tracking a global shape of an object in motion
JP2005165791A (ja) * 2003-12-03 2005-06-23 Fuji Xerox Co Ltd 対象物の追跡方法及び追跡システム

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009273882A (ja) * 2008-05-12 2009-11-26 General Electric Co <Ge> 定量的局所測定結果および形態構造の複合4次元プレゼンテーションのための方法および装置
JP2010240409A (ja) * 2009-03-31 2010-10-28 General Electric Co <Ge> 4dレンダリングにおいて定量的なセグメントデータを表示するための方法およびシステム
JP2011200549A (ja) * 2010-03-26 2011-10-13 Fujitsu Ltd 3次元テンプレート変形方法、装置及びプログラム
JP2011248853A (ja) * 2010-05-05 2011-12-08 General Electric Co <Ge> 構造物の球形度を計算する方法
WO2012070588A1 (ja) * 2010-11-25 2012-05-31 株式会社日立メディコ 超音波動画像処理方法、装置、およびプログラム
JPWO2012070588A1 (ja) * 2010-11-25 2014-05-19 株式会社日立メディコ 超音波動画像処理方法、装置、およびプログラム
JP5756812B2 (ja) * 2010-11-25 2015-07-29 株式会社日立メディコ 超音波動画像処理方法、装置、およびプログラム
JP2014507166A (ja) * 2011-03-30 2014-03-27 ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド 腫瘍を追跡するための方法
JP2017512091A (ja) * 2014-02-27 2017-05-18 インパック メディカル システムズ、 インク.Impac Medical Systems Inc. 適応性放射線治療における自動輪郭抽出システム及び方法
JP2017018305A (ja) * 2015-07-10 2017-01-26 東芝メディカルシステムズ株式会社 超音波診断装置及び医用画像処理装置
US10631948B2 (en) 2015-09-29 2020-04-28 Fujifilm Corporation Image alignment device, method, and program
US20220284589A1 (en) * 2019-06-12 2022-09-08 Carnegie Mellon University System and Method for Vessel Segmentation

Also Published As

Publication number Publication date
US20080069436A1 (en) 2008-03-20
FR2906055A1 (fr) 2008-03-21
US7889912B2 (en) 2011-02-15

Similar Documents

Publication Publication Date Title
JP2008068086A (ja) 3d心エコー図において心臓構造をリアルタイムでトラッキングするための方法
US7558402B2 (en) System and method for tracking a global shape of an object in motion
US20090238404A1 (en) Methods for using deformable models for tracking structures in volumetric data
US9524582B2 (en) Method and system for constructing personalized avatars using a parameterized deformable mesh
US8345927B2 (en) Registration processing apparatus, registration method, and storage medium
US7555151B2 (en) System and method for tracking anatomical structures in three dimensional images
US8879815B2 (en) Automatic initialization for 2D/3D registration
US10321892B2 (en) Computerized characterization of cardiac motion in medical diagnostic ultrasound
KR100860640B1 (ko) 강력한 정보 융합을 사용함으로써 다중-모델 성분에 기초하여 대상을 추적하기 위한 방법 및 시스템
EP2710557B1 (en) Fast articulated motion tracking
JP2015522200A (ja) 人顔特徴点の位置決め方法、装置及び記憶媒体
JP2008304269A (ja) 情報処理装置、および情報処理方法、並びにコンピュータ・プログラム
US9508140B2 (en) Quantifying curvature of biological structures from imaging data
EP1851721B1 (en) A method, a system and a computer program for segmenting a surface in a multidimensional dataset
Hansegård et al. Real-time active shape models for segmentation of 3D cardiac ultrasound
Orderud et al. Real-time tracking of the left ventricle in 3D echocardiography using a state estimation approach
JP4836065B2 (ja) エッジトラッキング方法及びそのコンピュータプログラム
JP6806160B2 (ja) 3次元運動評価装置、3次元運動評価方法、及びプログラム
Dockstader et al. A kinematic model for human motion and gait analysis
Korban et al. 3d human body inpainting using intrinsic statistical shape models
Almeida et al. Automatic left-atrial segmentation from cardiac 3D ultrasound: a dual-chamber model-based approach
Orderud Real-time segmentation of 3D echocardiograms using a state estimation approach with deformable models
Royer et al. Non-rigid target tracking in 2D ultrasound images using hierarchical grid interpolation
Liu et al. Implementation of levels-of-detail in Bayesian tracking framework using single RGB-D sensor
Choong et al. Variational level set algorithm in image segmentation for foetus ultrasound imaging system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100902

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100902

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110901

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130520

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20140430