JP7233409B2 - 対象の動的多次元画像に対する方法及びシステム - Google Patents

対象の動的多次元画像に対する方法及びシステム Download PDF

Info

Publication number
JP7233409B2
JP7233409B2 JP2020501486A JP2020501486A JP7233409B2 JP 7233409 B2 JP7233409 B2 JP 7233409B2 JP 2020501486 A JP2020501486 A JP 2020501486A JP 2020501486 A JP2020501486 A JP 2020501486A JP 7233409 B2 JP7233409 B2 JP 7233409B2
Authority
JP
Japan
Prior art keywords
model
images
personalized
image
series
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020501486A
Other languages
English (en)
Other versions
JP2020527399A (ja
Inventor
アルネ エワルト
フランク ミヒャエル ウェーバー
ロルフ ユルゲン ウィーゼ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2020527399A publication Critical patent/JP2020527399A/ja
Application granted granted Critical
Publication of JP7233409B2 publication Critical patent/JP7233409B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/149Segmentation; Edge detection involving deformable models, e.g. active contour models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/251Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/04Indexing scheme for image data processing or generation, in general involving 3D image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/100764D tomography; Time-sequential 3D tomography
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • G06T2207/101363D ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30048Heart; Cardiac

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Software Systems (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Description

本発明は、対象の多次元画像を得るための画像処理装置、これに準じるシステム及び方法に関する。
画像ガイド下インターベンションのような多くの医療撮像アプローチに対して、特定の器官の正確かつ同時に動的な三次元セグメンテーションが、望ましい。器官のこのようなセグメンテーションは、例えば、医師が最小侵襲インターベンション心臓処置において装置を正確に追跡することを可能にする。詳細な三次元(3D)画像は、通常、器官、例えば心臓の速い動態がとらえられることができないような低い時間的解像度を提供する。他方で、二次元(2D)技術は、器官全体の適切な撮像及びセグメンテーションに対して空間的情報を欠くかもしれない。
対象を撮像する撮像装置は、文献US2015/016704A1に記載されている。対象の第1及び第2の画像の間の幾何学的関係は、第1及び第2の画像におけるマーカ位置を使用して、提供される。
したがって、器官の詳細な3D情報及び正確な動的情報が提供されるような、対象又は器官、例えば患者の心臓の正確な動的セグメンテーションに対する2D及び3D撮像技術の組み合わせを提供する必要性が、存在しうる。
本発明の目的は、独立請求項の内容(subject-matter)により解決され、更なる実施例は、従属請求項に組み込まれる。本発明の以下に記載される態様が、画像処理装置、対象の動的多次元画像を得るためのシステム及び方法にも当てはまることに注意すべきである。
本発明によると、対象の動的多次元画像を得るための画像処理装置が、提供される。前記画像処理装置は、対象の3D画像データを提供し、前記対象の一連の画像を提供するするように構成されたインタフェースを有する。前記画像処理装置は、前記対象の前記3D画像データにモデルベースのセグメンテーションを適用することにより前記対象の個人化された3Dモデルを取得し、前記対象の前記一連の画像の中の画像の少なくとも一部に基づいて前記個人化された3Dモデルを適合するように構成された処理ユニットを有し、前記個人化された3Dモデルは、変形可能なモデルである。
一例において、前記画像処理装置は、対象の3D画像データを提供するように構成されたインタフェースを有する。任意の正確なスキャン、例えばコンピュータ断層撮影(CT)、3D超音波(US)又は磁気共鳴(MR)により取得された3Dスキャン又は同様のスキャンが、前記多司法の3D画像データとして使用されることができる。前記3Dスキャンは、前記対象の完全な情報を提供する。前記インタフェースも、前記対象の一連の画像を提供するように構成される。
前記得られた多次元画像は、前記対象の適合された3Dモデル又は前記対象の動的3D形状として規定される。換言すると、経時的な3Dモデル変化が、提供される。
前記対象の前記一連の画像は、時間単位ごとに1つの2D画像のみ、2D画像のセット又は画像データの薄スラブ(thin slab)を有するシーケンスとして規定される。前記画像データの薄スラブは、前記器官の一部の画像データを意味し、例えば、選択された部分のサイズは、撮像に対する所望のフレームレートを達成するようなものである。
前記対象の前記一連の画像は、動的シーケンスとして提供される。前記シーケンスの画像又は複数の画像は、一部の例において、前記対象のサブ領域のみを含むことができる。これは、高いフレームレートが提供されることができることを保証する。前記(複数の)2D画像は、交差平面(cross-plane)画像として提供されることができる。交差平面画像は、互いに対してある角度、例えば90度に配置された2つの平面を有する画像である。また、三面画像のような多面画像も、提供されることができる。前記対象の前記画像の画像データのスラブは、前記対象の2D及び3D情報を含む画像データを提供する。前記画像、例えば超音波画像は、経時的に前記対象を追跡するために高いフレームレートで提供される。また、高いフレームレートで追跡するのに適した他のタイプの画像も、使用されることができる。
前記画像処理装置は、前記対象の前記3D画像データに対してモデルベースのセグメンテーションを適用することにより前記対象の個人化された3Dモデルを取得するように構成された処理ユニットを有する。前記処理ユニットは、前記対象の前記一連の画像の中の画像の少なくとも一部に基づいて前記個人化された3Dモデルを適合するように構成される。画像ガイド下インターベンションにおいて、詳細な3D画像は、例えば、装置プランニングに対して既に取得されたCTスキャン又は3D超音波又はMRスキャンであることができる。前記個人化された3Dモデルは、前記3D画像データの前記モデルベースのセグメンテーションの結果である。前記個人化された3Dモデルは、前記対象の詳細かつ正確な3Dモデルである。この3Dモデルを仮定すると、経時的に前記対象を追跡するために高いフレームレートで生成された前記対象の前記画像を使用することができる。
一例において、前記処理装置は、更に、表示ユニットを有する。前記表示ユニットは、前記対象の前記一連の画像及び前記適合された個人化された3Dモデルのオーバレイを表示するように構成される。前記オーバレイは、例えば前記対象の個別の生体構造を表すメッシュとして提供される、前記適合された個人化された3Dモデルに基づいて表示される。前記対象の前記一連の画像及び前記メッシュに基づいて、前記オーバレイは、構築されることができる。前記表示ユニットは、前記対象の前記適合された個人化された3Dモデル及び前記対象の動的な一連の画像を受け取るように構成される。したがって、前記対象の動的多次元画像が、表示される。前記表示ユニットは、前記処理装置の一部として又は外部装置として提供される。
前記適合された個人化された3Dモデル及び前記対象の画像を重ねることにより、前記対象の形状及びその経時的な動的変化が、可視にされる。以下でより明らかになるように、前記一連の画像により提供される前記対象の領域において、前記個人化された3Dモデルは、前記画像に適合される。前記画像に示されていない前記対象の領域において、前記対象の形状は、前記個人化された3Dモデルからのこれらの領域に関する静的情報を前記一連の画像に示される他の対象部分の動的情報と組み合わせることにより推定される。
本発明によると、対象の動的多次元画像を得るためのシステムも、提供される。前記システムは、前記対象の3D画像データを取得し、前記対象の複数の画像を生成するように構成された取得装置を有する。前記システムは、前記対象の個人化された3Dモデルを取得し、前記対象の前記一連の画像の中の画像の少なくとも一部に基づいて前記3Dモデルを適合するように構成された画像処理装置を有し、前記個人化された3Dモデルは、変形可能なモデルである。
一例において、前記対象の動的多次元画像を得るためのシステムは、画像取得装置及び画像処理装置を有する。前記3D画像データは、3Dスキャンとして、例えばコンピュータ断層撮影(CT)、3D超音波(US)又は磁気共鳴(MR)又は同様のスキャンとして取得される。前記動的多次元画像は、前記対象の個人化された3Dモデルを取得し、前記一連の画像の中の画像の少なくとも一部に基づいて前記3Dモデルを適合するように前記画像処理装置を構成することにより得られる。このようなシステムは、正確なライブ追跡を提供する。前記システムは、最初に前記3D画像を取得し、これをセグメント化し、次いで、高速動的画像取得及びセグメンテーションを実行する全体的なプロセスを通して前記ユーザをガイドすることができる。
しばしば、詳細な3D画像は、例えば心臓の速い動態がとらえられることができないような低い時間的解像度を提供する。他方で、高速2D技術は、必要とされる器官全体を撮像し、セグメント化するための空間的情報を欠く。前記多次元画像は、高い空間的情報及び時間的解像度の両方を提供する。
一例において、前記画像取得装置は、第1の画像取得ユニットを有する。前記第1の画像取得ユニットは、例えばCT、US又はMRからの3Dスキャンとして、前記対象の3D画像を取得するように構成される。前記画像取得装置は、更に、前記対象の一連の画像を生成するように構成された第2の画像取得ユニットを有する。前記第2の画像取得装置は、例えば超音波プローブを有する超音波システムであることができる。
一部の例において、心臓撮像に対してしばしば使用されるTTEマトリクスプローブ、胸腔を通って心臓を撮像する体外の超音波プローブのような、マトリクスプローブが、第1の画像取得ユニットとして使用されることができ、ここで、TTEは、経胸腔的エコーを意味する。X5-1(TTE)又は他のプローブの例は、インターベンション中にしばしば使用されるTEEマトリクスプローブであり、ここでTEEは、経食道エコーを意味し、すなわち、前記プローブは、食道内に挿入される。一部の例において、前記第2の画像取得ユニットは、従来の2Dプローブ又はTEEプローブである。
一例において、前記画像取得ユニットは、超音波トランスデューサである。フィリップスの超音波トランスデューサは、前記対象の3D画像を取得し、また、前記対象の複数の2DX画像を生成するように構成され、したがって、スタンドアロンシステムを可能にする。
本発明によると、また、対象の動的多次元画像を得る方法も、提供され、前記方法は、
a)対象の3D画像データを提供するステップと、
b)前記対象の前記3D画像データに対してモデルベースのセグメンテーションを適用することにより前記対象の個人化された3Dモデルを取得するステップと、
c)前記対象の一連の画像を提供するステップと、
d)前記対象の前記一連の画像の中の画像の少なくとも一部に基づいて前記個人化された3Dモデルを適合するステップであって、前記個人化された3Dモデルが、変形可能なモデルである、ステップと、
を有する。
一例によると、対象の動的多次元画像を得る方法が、提供される。第一に、対象の3D画像データが、提供される。モデルベースのセグメンテーションが、前記対象の前記3D画像データに適用される。前記3D画像は、前記対象の3Dモデルを取得するためにセグメント化される。したがって、前記対象の個人化されたモデルが、取得される。術前詳細3D画像データは、ゆっくりだが正確なスキャン、例えばコンピュータ断層撮影(CT)、3D超音波(US)又は磁気共鳴(MR)により取得された3Dスキャン又は同様のスキャンから提供されることができる。前記3D画像データは、前記対象の個別の及び詳細な3D情報を提供する。
前記対象の一連の画像が、提供される。前記対象の前記一連の画像は、上に記載されたようなものである。前記一連の画像は、ある時間期間に生成される。前記画像は、前記対象の変化又は運動を提供する。一部の例において、前記画像は、同じフレームレートで後で生成される。他の例において、前記一連の画像は、異なるフレームレートで生成される。
更なるステップにおいて、前記対象の前記3Dモデルは、前記対象の前記一連の画像の中の画像の少なくとも一部に基づいて、すなわち前記画像により提供される前記対象の構造に対して、連続的に適合される。したがって、前記対象の前記生成された画像のセグメンテーションは、前記対象の前記個人化された3Dモデルに基づいて実行される。このようにして、医師は、現在の応用において達成されないレベルの詳細な時間的動態で動いている器官を信頼できる形で追跡することができる。
前記対象、例えば心臓のような器官の高速かつ信頼できる多次元(3D+時間)の個別の画像が、得られ、高速2D撮像取得から得られるような3D画像スキャン及び時間動態のものに対応するレベルの詳細を提供する。しかしながら、前記一連の画像によりとらえられていない対象部分に対して、詳細のレベルは、前記3D画像のものより低い。換言すると、経時的に変化する前記適合された3Dモデル又は前記対象の時間的解像度を提供する適合された3Dモデルが、提供される。したがって、高速かつ信頼できる多次元画像が、提供される。これは、例えば、カテーテルベースのインターベンション中の強化されたナビゲーションを提供する。
一例において、前記個人化された3Dモデルは、前記画像を複製する及び/又は積み重ねることにより前記一連の画像の中の画像に適合される。セグメンテーションに対して2D画像を使用するために、単一の画像が、積み重ねられて(繰り返されて)、一方向において同一の情報を持つ3D体積を作成する。これは、2D画像データに対する3Dセグメンテーションアルゴリズム及びモデルを使用することを可能にする。換言すると、前記個人化された3Dモデルの適合は、前記対象をカバーする十分な数の画像に対して適合することにより実行される。一例において、異なる画像のセット(例えば、2D画像面又は前記対象の一部を各々カバーする3D画像のセット)は、前記個人化された3Dモデルを適合するのに十分な情報を提供する。換言すると、前記対象の領域を各々カバーする異なる画像を提供することが、前記3Dモデルを適合するのに十分である。結果は、前記対象の動的3D形状である。
一部の例において、前記画像の積み重ねは、3Dモデルが2D画像に対して適合される場合に発生する。前記個人化された3Dモデルが、複数の2D画像に対して汎用3Dモデルを適合することにより取得される場合、画像の積み重ねが、実行されることができる。前記2D画像の各々は、積み重ねられて(繰り返されて)、疑似3D体積を作成する。また、前記個人化された3Dモデルが、2D画像の時系列、すなわち前記一連の画像の中の画像に適合される場合、前記2D画像、すなわち画像フレームの各々に対して、前記2D画像は、積み重ねられて(繰り返されて)、疑似3D体積を作成する。
一例において、前記個人化された3Dモデルは、前記対象の前記3Dモデルに対する個別の体積幾何構成の位置合わせに対して提供されるランドマークの使用により前記対象の前記一連の画像の中の画像に対して適合される。最初に取得されたフレームにおいて前記個人化された3Dモデルを初期化するために、前記画像のビューは、既知である、例えば2心室、4心室又は長軸若しくは短軸のような超音波に対する心臓撮像における標準的なビューであると仮定される。これらの標準的なビューに対応するランドマークは、最初に3Dセグメンテーションに対して使用される汎用平均形状において符号化されている。最初の3Dセグメンテーションの後に、これらのランドマークは、個別の器官幾何構成に対応し、前記画像及び前記個人化された3Dモデルを位置合わせするのに使用されることができる。また、マーカが、前記対象の前記個人化された3Dモデルに対する前記個別の対象幾何構成の位置合わせに対して使用されることができる。
一例において、前記変形可能な個人化された3Dモデルは、メッシュ三角形として提供され、内部及び外部エネルギを有するモデルエネルギを最小化するように適合される。時間にわたって連続的に繰り返される、前記個人化された3Dモデルの適合中に、前記3Dモデルは、現在受け取られた画像内の構造に対して適合される。最終的な変形は、αが各エネルギの影響をバランスするパラメータであるとして、内部エネルギ(Eint)及び外部エネルギ(Eext)の和:E=αEint+(1-α)Eextを最小化することにより達成される。前記内部エネルギは、以前の3Dセグメンテーションに基づき、形状安定性を保証するのに対し、前記外部エネルギは、画像力(image force)により動かされ、器官境界に前記メッシュを引き付ける。
一例において、前記外部エネルギは、前記対象の前記画像の画像面の近くの目標点から得られる。前記画像面の近位近傍における各メッシュ三角形は、その法線に沿って目標点を探す。前記目標点は、前記3Dモデルを取得するための前記3D画像のセグメンテーション中に提供される特徴的な画像フィーチャ(例えば典型的なグレイ値、縁)であり、特定の撮像モダリティに依存する。前記画像面に近い前記三角形により見つけられた目標点は、いわゆる外部エネルギを有する。前記画像面から離れた三角形は、目標点を探さず、したがって、前記外部エネルギに寄与しない。したがって、前記外部エネルギは、前記一連の画像からの前記画像により動かされる。
前記特徴的な画像フィーチャは、通常、以下のように提供される。全ての三角形が、トレーニング画像に基づいて特定の画像フィーチャを学習する。このような手順は、前記モデルベースのセグメンテーションに固有であり、ここで適用される。第一に、前記個人化された3Dモデルを取得するための前記対象の前記3D画像データに対する汎用3Dモデルの適合中である。第二に、前記2DX画像データに対する前記個人化された3Dモデルの適合中である。
一例において、前記内部エネルギは、前記メッシュの現在の状態と前記個人化された3Dモデルからの前記メッシュとの間のずれのペナライゼーション(penalization)を有する。前記外部エネルギとは対照的に、前記内部エネルギは、前記画像を全く考慮しない。前記内部エネルギは、(i)前記メッシュの前記現在の状態と前記個人化された3Dモデルからの前記メッシュとの間のずれにペナルティを科す及び(ii)形状一貫性を保証することに関与している。
一例において、前記対象の前記画像は、10Hzより高いレートで取得される。換言すると、毎秒10フレームより高いフレームレートである。したがって、生体構造は、経時的に追跡され、前記対象の速い動態、例えば心臓の速く変化する動態が、とらえられる。
本発明は、したがって、詳細な3D撮像を高速な2D撮像と組み合わせることを提案する。モデルベースのセグメンテーションを使用して、個人化された3Dモデルは、前記3Dスキャンをセグメント化することから取得される。これは、前記対象の汎用平均形状を、個人化された形状、以前の3Dスキャンから得られた前記対象の前記3Dモデルにより置き換えることにより達成されることができる。前記対象の前記一連の画像からの前記画像のセグメンテーション中に、情報がまばらな面においてのみ利用可能である場合、欠けている空間的情報は、前記個人化された3Dモデル、すなわち事前に学習された情報により主に動かされる。このようにして、心臓のような器官の高速かつ信頼できる4D(3D+時間)個別画像が、例えば、カテーテルベースのインターベンション中にナビゲーションを強化するために提供される。
他のセグメンテーション技術とは対照的に、本発明は、完全な3Dセグメンテーションを提供する。したがって、医師は、既知の応用において達成されないレベルの詳細かつ時間的動態で移動する器官を信頼できる形で追跡することができる。
本発明のこれら及び他の態様は、以下に記載される実施例を参照して説明され、明らかになる。
本発明の上述のオプション、実施及び/又は態様の2以上が、有用であると思われるいかなる形でも組み合わせられてもよいことは、当業者に理解される。
本発明の典型的な実施例は、以下の図面を参照して以下に記載される。
本発明によるシステムである。 本発明による概略図である。 図2Aの概略図である。 図2A及び2Bの図の組み合わせである。 本発明の方法によるフローチャートである。
特定の実施例は、ここで添付の図面を参照してより詳細に記載される。以下の記載において、同様の図面の参照番号は、異なる図面でさえ、同様の要素に対して使用される。詳細な構造及び要素のような記載において規定される事柄は、典型的な実施例の包括的な理解を支援するように提供される。また、周知の機能又は構造は、不要な詳細で実施例を曖昧にするので、詳細には記載されない。更に、「少なくとも1つ」のような表現は、要素のリストに先行する場合、要素のリスト全体を修飾するが、前記リストの個別の要素を修飾しない。
図1は、対象の動的多次元画像を得るシステム10を示す。システム10は、画像取得装置14及び画像処理装置16を有する。画像取得装置10は、本実施例において患者12の心臓である、対象15の3D画像データを取得するように構成される。
本実施例において、前記3D画像データは、3D超音波スキャンとして提供される。他の実施例において、前記3D画像データは、コンピュータ断層撮影(CT)又は磁気共鳴(MR)により取得された3Dスキャンとして提供される。前記3Dスキャンは、対象15の完全な情報を提供する。画像取得装置14は、前記対象の一連の画像として対象15の複数の画像を生成するようにも構成される。本実施例において、前記画像は、10Hzのフレームレートで提供された超音波画像である。しかしながら、50Hz以上のより高いフレームレートが、他の実施例において使用される。また、他の実施例において、このような高いフレームレートで追跡するのに適した他のタイプの画像が、使用される。
画像処理装置16は、インタフェース18及び処理ユニット22を有する。インタフェース18は、対象15の前記3D画像データ及び前記一連の画像を提供するように構成される。処理ユニット22は、前記提供された3D画像データから前記対象の個人化された3Dモデルを取得するように構成される。前記3Dモデルは、画像取得装置14により生成された前記一連の画像の中の画像の少なくとも一部に基づいて適合される。
本実施例において、画像処理装置16は、前記一連の画像及び前記適合された個人化された3Dモデルのオーバレイを表示する外部表示ユニット24をも有する。したがって、対象15の前記動的多次元画像は、この場合には心臓15の速く変化する動態を観察する医師に提供される。オプションとして、システム10は、対象15の多次元画像を回転させる入力装置を有する。前記入力装置は、前記画像取得を作動する及び/又は手順を生成するのに使用されることもできる。
他の実施例において、画像取得装置14は、前記3D画像データの取得に対する第1の画像取得ユニット及び前記対象の前記一連の画像を生成する第2の画像取得ユニットを有することができる。このような画像取得装置14は、例えば、超音波システムである。
図2Aは、本発明による概略図を示す。3D画像データ30が、本実施例において3D超音波画像データとして提供される。3D画像データ30は、心房40、42及び心室44、46を提供する。この3Dスキャンは、後でモデルベースのセグメンテーションを使用してセグメント化される。対象15、心臓の3Dモデル32が、取得され、特定の患者の心臓の個人化されたモデルを提供する。この詳細な、正確なかつ個人化された3Dモデル32は、次いで、一連の画像34として高速2D画像取得において心臓を動的に追跡し、セグメント化するのに使用される。
対象15の一連の画像34は、超音波画像の動的シーケンス34として提供される。心房40、42及び心室44、46は、画像のシーケンス34により表される。前記シーケンスの一部の画像は、一部の実施例において、対象15のサブ領域のみ、例えば、心房40のみを含むかもしれない。これは、10Hzより高いフレームレートを保証する。前記超音波画像は、2D画像であり、他の実施例において、交差平面画像として提供されることができる。
適合された3Dモデル32及び対象15の画像34を重ねることにより、前記対象、本実施例において心臓の形状、及び時間tに対する動的変化36が、可視にされる。図2において、心室の収縮及び拡張は、明確に可視である。図2は、紙上の図を提供することができるのみであるので、変化する動態は、一連の後続の画像として提供される。
一連の画像34により提供される対象15の領域において、前記個人化された3Dモデルは、前記提供された画像に対して適合される。画像34に示されていない前記対象の領域において、対象15の形状は、これらの領域からの情報データを前記シーケンスの画像34から提供された部分の動的情報と組み合わせることにより推定される。
個人化された3Dモデル34の適合中に、空間的情報が、前記対象の前記個人化された3Dモデルにより提供される。換言すると、一連の画像34の欠けている空間的情報は、前記対象の個人化された3Dモデル32により提供される。これは、汎用平均形状又はモデルベースのセグメンテーションにおいて通常に使用されるメッシュを対象15の3Dモデル32により置き換えることにより達成されることができ、これは、対象15の個人化された形状を提供する。
図2Bは、前記超音波画像が改良された可視性に対する線画により置き換えられる、図2Aの概略図を示す。
図2Cは、前記対象、この場合には心臓の動的多次元画像を得るための提供された方法及びシステムの改善された理解のための図2A及び2Bの図の組み合わせを示す。
図3は、本発明の方法によるフローチャートを示す。対象の3D画像データが、ステップS1において提供される。前記対象の個人化された3Dモデル32が、ステップS2において前記3D画像データに対してモデルベースのセグメンテーションを適用することにより取得される。前記対象の一連の画像34が、ステップS3において提供され、前記個人化された3Dモデルは、ステップS4において前記シーケンスの中の画像の少なくとも一部に基づいて適合される。したがって、動的多次元画像36が、時間に対して対象15を追跡するように取得される。
一部の実施例において、空間的情報(S5)は、3Dモデル32の適合中に前記個人化された3Dモデルにより提供される。また、ランドマーク(S6)は、個別の対象15の幾何構成の位置合わせに対して提供される。
個人化された3Dモデル32は、三角形のメッシュとして提供された変形可能なモデルであることができ、モデルエネルギを最小化するように適合される(S7)。前記モデルエネルギは、内部及び外部エネルギを有する。前記外部エネルギは、画像3の画像面に近い目標点から得られる。前記内部エネルギは、前記メッシュの現在の状態と前記個人化された3Dモデルからの前記メッシュとの間のずれのペナライゼーションを有する。したがって、完全な3Dセグメンテーションが、例えば、カテーテルベースのインターベンション中のナビゲーションを強化するために、心臓のような対象15の高速かつ信頼できる4D(3D+時間)個別画像として提供される。
ここで提供される対象の動的多次元画像を得る方法、装置及びシステムは、複数の異なるシナリオで使用されることができる。1つのシナリオは、画像ガイド下インターベンションである。ここで、Echo Navigatorソフトウェアにおける実装が、適切である。画像ガイド下インターベンションに対して、CT画像が、例えば装置プランニングのために、しばしば、実際の処置の前に取得される。このような3DCTスキャンが、使用され、画像データに対する追加の記録は、必要ではない。追加のシナリオは、セグメント化された心臓のリアルタイムビューを用いる心臓超音波であることができる。本発明により提供される、リアルタイムの個人化されたセグメンテーションの実行可能性は、既知の解決法及び応用に対して大きな利点を提供する。
本発明の他の典型的な実施例において、適切なシステム上で、先行する実施例の1つによる方法の方法ステップを実行するように構成されることにより特徴づけられるコンピュータプログラム又はコンピュータプログラム要素が、提供される。
前記コンピュータプログラム要素は、したがって、本発明の一実施例の一部であってもよいコンピュータユニットに記憶されてもよい。この計算ユニットは、上に記載された方法のステップを実行する又はその実行を誘導するように構成されてもよい。更に、上に記載された装置のコンポーネントを動作するように構成されてもよい。前記計算ユニットは、自動的に動作する及び/又はユーザのオーダを実行するように構成されることができる。コンピュータプログラムは、データプロセッサのワーキングメモリにロードされてもよい。前記データプロセッサは、したがって、本発明の方法を実行するように備えられてもよい。本発明のこの典型的な実施例は、最初から本発明を使用するコンピュータプログラムと、アップデートを用いて既存のプログラムを、本発明を使用するプログラムにするコンピュータプログラムとの両方をカバーする。
更に、前記コンピュータプログラム要素は、上に記載された方法の典型的な実施例の手順を満たす全ての必要なステップを提供することができてもよい。
本発明の更なる典型的な実施例によると、CD-ROMのようなコンピュータ可読媒体が、提示され、前記コンピュータ可読媒体は、コンピュータプログラム要素を記憶され、前記コンピュータプログラム要素は、先行するセクションにより記載されている。コンピュータプログラムは、他のハードウェアと一緒に又は一部として提供される光記憶媒体又は半導体媒体のような適切な媒体に記憶及び/又は分配されてもよいが、インターネット又は他の有線若しくは無線電気通信システムを介するような他の形式で分配されてもよい。
しかしながら、前記コンピュータプログラムは、ワールドワイドウェブのようなネットワーク上に提示されてもよく、このようなネットワークからデータプロセッサのワーキングメモリにダウンロードされることができる。本発明の更なる典型的な実施例によると、コンピュータプログラム要素をダウンロード可能にする媒体が、提供され、前記コンピュータプログラム要素は、本発明の以前に記載された実施例の1つによる方法を実行するように構成される。
上で論じられたように、前記処理ユニット、例えばコントローラは、制御方法を実装する。前記コントローラは、ソフトウェア及び/又はハードウェアを用いて、要求される様々な機能を実行するように、多くの形式で実装されることができる。プロセッサは、要求される機能を実行するようにソフトウェア(例えばマイクロコード)を使用してプログラムされうる1以上のマイクロプロセッサを使用するコントローラの1つの例である。コントローラは、しかしながら、プロセッサを使用して又は使用せずに実装されてもよく、一部の機能を実行する専用ハードウェアと他の機能を実行するプロセッサ(例えば、1以上のプログラムされたマイクロプロセッサ及び関連する回路)との組み合わせとして実装されてもよい。
本開示の様々な実施例で採用されうるコントローラコンポーネントの例は、従来のマイクロプロセッサ、特定用途向け集積回路(ASIC)、及びフィールドプログラマブルゲートアレイ(FPGA)を含むが、これらに限定されない。
様々な実装において、プロセッサ又はコントローラは、RAM、PROM、EPORM、及びEEPROMのような揮発性又は不揮発性コンピュータメモリのような1以上の記憶媒体と関連付けられてもよい。前記記憶媒体は、1以上のプロセッサ及び/又はコントローラ上で実行される場合に、要求される機能を実行する1以上のコンピュータプログラムでエンコードされてもよい。様々な記憶媒体は、プロセッサ若しくはコントローラ内に固定されてもよく、又は記憶された前記1以上のプログラムがプロセッサ若しくはコントローラにロードされることができるように、輸送可能であってもよい。
本発明の実施例が、異なる内容を参照して記載されることに注意すべきである。特に、一部の実施例は、方法型請求項を参照して記載されるのに対し、他の実施例は、装置型請求項を参照して記載される。しかしながら、当業者は、他の通史されない限り、1つのタイプの内容に属するフィーチャの任意の組み合わせに加えて、異なる内容に関するフィーチャの間の任意の組み合わせも、本出願で開示されていると見なされることを、上の及び以下の記載から推測するだろう。しかしながら、全てのフィーチャは、組み合わされて、フィーチャの単純な合計以上である相乗効果を提供することができる。
本発明は、図面及び先行する記載に詳細に図示及び記載されているが、このような図示及び記載は、限定的ではなく、実例的又は典型的であると見なされるべきである。本発明は、開示された実施例に限定されない。開示された実施例に対する他の変形例は、図面、開示及び従属請求項の検討から、請求された発明を実施する当業者により理解及び達成されることができる。
請求項において、単語「有する」は、他の要素又はステップを除外せず、不定冠詞「a」又は「an」は、複数を除外しない。単一のプロセッサ又は他のユニットが、請求項に記載された複数のアイテムの機能を満たしてもよい。特定の方策が相互に異なる従属請求項に記載されているという単なる事実は、これらの方策の組み合わせが有利に使用されることができないことを示さない。請求項内のいかなる参照符号も、範囲を限定すると解釈されるべきではない。

Claims (13)

  1. 対象の多次元画像を得る画像処理装置において、
    対象の3D画像データを提供し、
    前記対象の一連の画像を提供する、
    インタフェースと、
    前記対象の前記3D画像データに対してモデルベースのセグメンテーションを適用することにより前記対象の個人化された3Dモデルを取得し、
    前記対象の前記一連の画像の中の画像の少なくとも一部に基づいて前記個人化された3Dモデルを適合し、前記個人化された3Dモデルが変形可能なモデルである、
    処理ユニットと、
    を有し、
    前記インタフェースは、10Hzより高いレートで前記対象の一連の画像を提供するように構成され、
    前記処理ユニットは、時間にわたって前記個人化された3Dモデルの適合を連続的に繰り返すように構成され、
    前記変形可能な個人化された3Dモデルが、メッシュ三角形として提供され、内部及び外部エネルギを有するモデルエネルギを最小化するように適合される、
    画像処理装置。
  2. 前記対象の前記一連の画像及び前記適合された個人化された3Dモデルのオーバレイを表示する表示ユニットを更に有する、請求項1に記載の画像処理装置。
  3. 対象の動的多次元画像を得るシステムにおいて、
    前記対象の3D画像データを取得し、
    前記対象の複数の画像を生成する、
    画像取得装置と、
    請求項1又は2に記載の画像処理装置と、
    を有する、システム。
  4. 前記画像取得装置が、前記対象の3D画像を取得する第1の画像取得ユニットと、前記対象の一連の画像を生成する第2の画像取得ユニットとを有する、請求項3に記載のシステム。
  5. 前記画像取得装置が、超音波システムである、請求項4に記載のシステム。
  6. 対象の動的多次元画像を得る方法において、
    a)対象の3D画像データを提供するステップと、
    b)前記対象の前記3D画像データに対してモデルベースのセグメンテーションを適用することにより前記対象の個人化された3Dモデルを取得するステップと、
    c)10Hzより高いレートで前記対象の一連の画像を提供するステップと、
    d)前記対象の一連の画像の中の画像の少なくとも一部に基づいて前記個人化された3Dモデルを適合するステップと、
    を有し、前記個人化された3Dモデルが、変形可能なモデルであり、
    前記個人化された3Dモデルの適合が、時間にわたって連続的に繰り返され、
    前記変形可能な個人化された3Dモデルが、メッシュ三角形として提供され、内部及び外部エネルギを有するモデルエネルギを最小化するように適合される、
    方法。
  7. 前記個人化された3Dモデルを適合する間に、空間的情報が、前記対象の前記個人化された3Dモデルにより提供される、請求項6に記載の方法。
  8. 前記個人化された3Dモデルが、前記画像を複製する及び/又は積み重ねることにより前記一連の画像の中の画像に対して適合される、請求項6又は7に記載の方法。
  9. 前記対象の前記一連の画像の中の画像に対して前記個人化された3Dモデルを適合するために、ランドマークが、前記対象の前記個人化された3Dモデルとの個別の対象幾何構成の位置合わせに対して使用される、請求項6乃至8のいずれか一項に記載の方法。
  10. 前記外部エネルギが、前記対象の前記画像の画像面に近い目標点から得られる、請求項に記載の方法。
  11. 前記内部エネルギが、前記メッシュの現在の状態と前記個人化された3Dモデルからの前記メッシュとの間のずれのペナライゼーションを有する、請求項6乃至10のいずれか一項に記載の方法。
  12. 処理ユニットにより実行される場合に、請求項6乃至11のいずれか一項に記載の方法のステップを実行するように構成される、請求項1乃至5のいずれか一項に記載の装置を制御するコンピュータプログラム要素。
  13. 請求項12に記載のプログラム要素を記憶したコンピュータ可読媒体。
JP2020501486A 2017-07-18 2018-07-18 対象の動的多次元画像に対する方法及びシステム Active JP7233409B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP17181881.8 2017-07-18
EP17181881.8A EP3432262A1 (en) 2017-07-18 2017-07-18 Method and system for dynamic multi dimensional images of an object
PCT/EP2018/069451 WO2019016244A1 (en) 2017-07-18 2018-07-18 METHOD AND SYSTEM FOR DYNAMIC MULTIDIMENSIONAL IMAGES OF AN OBJECT

Publications (2)

Publication Number Publication Date
JP2020527399A JP2020527399A (ja) 2020-09-10
JP7233409B2 true JP7233409B2 (ja) 2023-03-06

Family

ID=59631533

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020501486A Active JP7233409B2 (ja) 2017-07-18 2018-07-18 対象の動的多次元画像に対する方法及びシステム

Country Status (5)

Country Link
US (1) US11715196B2 (ja)
EP (2) EP3432262A1 (ja)
JP (1) JP7233409B2 (ja)
CN (1) CN110892447B (ja)
WO (1) WO2019016244A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7444569B2 (ja) 2019-09-18 2024-03-06 ザイオソフト株式会社 鏡視下手術支援装置、鏡視下手術支援方法、及びプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007035020A (ja) 2005-06-22 2007-02-08 Konica Minolta Medical & Graphic Inc 領域抽出装置、領域抽出方法及びプログラム
US20120253170A1 (en) 2011-03-29 2012-10-04 Samsung Electronics Co., Ltd. Method and apparatus for generating medical image of body organ by using 3-d model

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6778690B1 (en) * 1999-08-13 2004-08-17 Hanif M. Ladak Prostate boundary segmentation from 2D and 3D ultrasound images
DE102006046735A1 (de) 2006-09-29 2008-04-10 Siemens Ag Vorrichtung zur Fusion eines 2D-Durchleuchtungsbildes mit einem Bild aus einem 3D-Bilddatensatz
JP5739812B2 (ja) * 2008-10-10 2015-06-24 コーニンクレッカ フィリップス エヌ ヴェ 血管造影画像取得装置の作動方法、コリメータ制御ユニット、血管造影画像取得装置及びコンピュータソフトウェア
EP2465094B1 (en) * 2009-08-12 2016-01-06 Koninklijke Philips N.V. Generating object data
US10321892B2 (en) * 2010-09-27 2019-06-18 Siemens Medical Solutions Usa, Inc. Computerized characterization of cardiac motion in medical diagnostic ultrasound
DE102011079561B4 (de) 2011-07-21 2018-10-18 Siemens Healthcare Gmbh Verfahren und Röntgengerät zum zeitlich aktuellen Darstellen eines bewegten Abschnitts eines Körpers, Computerprogramm und Datenträger
US9684972B2 (en) * 2012-02-03 2017-06-20 Koninklijke Philips N.V. Imaging apparatus for imaging an object
JP6537981B2 (ja) * 2013-02-28 2019-07-03 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 複数の三次元ビューからの大きな対象のセグメンテーション
EP2994879A1 (en) * 2013-04-03 2016-03-16 Koninklijke Philips N.V. Vessel segmentation
US20150051480A1 (en) * 2013-08-07 2015-02-19 Samsung Electronics Co., Ltd. Method and system for tracing trajectory of lesion in a moving organ using ultrasound
US9375184B2 (en) * 2013-09-12 2016-06-28 Technische Universität München System and method for prediction of respiratory motion from 3D thoracic images
US9406142B2 (en) * 2013-10-08 2016-08-02 The Trustees Of The University Of Pennsylvania Fully automatic image segmentation of heart valves using multi-atlas label fusion and deformable medial modeling
CN105849773B (zh) * 2013-12-17 2020-06-09 皇家飞利浦有限公司 解剖结构的基于模型的分割
WO2015139937A1 (en) * 2014-03-21 2015-09-24 Koninklijke Philips N.V. Image processing apparatus and method for segmenting a region of interest
CN107072531A (zh) * 2014-05-06 2017-08-18 塞克利心血管成像股份有限公司 用于心肌壁动力学的分析的方法和系统
US10354758B2 (en) 2014-08-28 2019-07-16 Siemens Healthcare Gmbh System and method for patient-specific image-based simulation of atrial electrophysiology
US10290098B2 (en) 2014-10-17 2019-05-14 Koninklijke Philips N.V. System for real-time organ segmentation and tool navigation during tool insertion in interventional therapy and method of operation thereof
EP3242602B1 (en) * 2015-01-06 2019-08-07 Koninklijke Philips N.V. Ultrasound imaging apparatus and method for segmenting anatomical objects
US10485510B2 (en) * 2015-01-29 2019-11-26 Siemens Healthcare Gmbh Planning and guidance of electrophysiology therapies
GB201506842D0 (en) 2015-04-22 2015-06-03 Ucl Business Plc And Schooling Steven Locally rigid vessel based registration for laparoscopic liver surgery
CN109863534B (zh) 2016-10-25 2023-08-01 皇家飞利浦有限公司 用于分割解剖结构的二维图像的方法和装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007035020A (ja) 2005-06-22 2007-02-08 Konica Minolta Medical & Graphic Inc 領域抽出装置、領域抽出方法及びプログラム
US20120253170A1 (en) 2011-03-29 2012-10-04 Samsung Electronics Co., Ltd. Method and apparatus for generating medical image of body organ by using 3-d model
JP2012205899A (ja) 2011-03-29 2012-10-25 Samsung Electronics Co Ltd 3次元的モデルを利用した身体臓器の映像生成方法及び装置並びにコンピュータ読み取り可能な記録媒体

Also Published As

Publication number Publication date
WO2019016244A1 (en) 2019-01-24
US11715196B2 (en) 2023-08-01
US20200160513A1 (en) 2020-05-21
CN110892447A (zh) 2020-03-17
JP2020527399A (ja) 2020-09-10
CN110892447B (zh) 2023-12-08
EP3655922A1 (en) 2020-05-27
EP3432262A1 (en) 2019-01-23

Similar Documents

Publication Publication Date Title
JP7440534B2 (ja) 2次元画像投影を用いた、トラッキングシステムと画像との空間レジストレーション
JP2023175709A (ja) 空間トラッキングシステムと拡張現実ディスプレイとのレジストレーション
US9652845B2 (en) Surgical assistance planning method using lung motion analysis
CN109589170B (zh) 医学成像中的左心耳闭合引导
US8145012B2 (en) Device and process for multimodal registration of images
Song et al. Locally rigid, vessel-based registration for laparoscopic liver surgery
CA2908279C (en) Real-time simulation of fluoroscopic images
US10929989B2 (en) Determining a transformation between coordinate frames of sets of image data
EP1692661B1 (en) Three-dimensional reconstruction of an object from projection photographs
CN113661544A (zh) 基于图像的探针定位
CN108430376B (zh) 提供投影数据集
US8781188B2 (en) Method and device for displaying changes in medical image data
JP7233409B2 (ja) 対象の動的多次元画像に対する方法及びシステム
CN108885797B (zh) 成像系统和方法
JP6876200B2 (ja) 動的術中セグメンテーションデータに対する静的術前計画データの位置合わせ
Kaiser et al. Significant acceleration of 2D-3D registration-based fusion of ultrasound and x-ray images by mesh-based DRR rendering
US11468569B2 (en) Providing a prognosis data record
WO2016131955A1 (en) Automatic 3d model based tracking of deformable medical devices with variable appearance
Mansi et al. Virtual pulmonary valve replacement interventions with a personalised cardiac electromechanical model
CN116983084A (zh) 一种穿支皮瓣三维导航方法和系统
Peressutti et al. A framework for automatic model-driven 2D echocardiography acquisition for robust respiratory motion estimation in image-guided cardiac interventions

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210602

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220415

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220510

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221109

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230221

R150 Certificate of patent or registration of utility model

Ref document number: 7233409

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150