JP2021524302A - マルチモーダル画像レジストレーション - Google Patents

マルチモーダル画像レジストレーション Download PDF

Info

Publication number
JP2021524302A
JP2021524302A JP2020564485A JP2020564485A JP2021524302A JP 2021524302 A JP2021524302 A JP 2021524302A JP 2020564485 A JP2020564485 A JP 2020564485A JP 2020564485 A JP2020564485 A JP 2020564485A JP 2021524302 A JP2021524302 A JP 2021524302A
Authority
JP
Japan
Prior art keywords
organ
sagittal plane
dimensional
magnetic resonance
resonance imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020564485A
Other languages
English (en)
Other versions
JP7341165B2 (ja
Inventor
クリュッカー,ヨッヘン
チェン,アルヴィン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2021524302A publication Critical patent/JP2021524302A/ja
Application granted granted Critical
Publication of JP7341165B2 publication Critical patent/JP7341165B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/12Diagnosis using ultrasonic, sonic or infrasonic waves in body cavities or body tracts, e.g. by using catheters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/174Segmentation; Edge detection involving the use of two or more images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/37Determination of transform parameters for the alignment of images, i.e. image registration using transform domain methods
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2065Tracking using image or pattern recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • G06T2207/101363D ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30081Prostate

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Robotics (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

磁気共鳴画像法(MRI)の画像を追跡空間に位置合わせするためのコントローラは、命令を格納するメモリ、及び命令を実行するプロセッサを含む。命令により、コントローラに、器官の正中矢状面の2次元座標、器官の正中矢状面の画像レジストレーション、及び正中矢状面の超音波画像の追跡空間内の追跡位置に基づいて、追跡空間において3次元磁気共鳴イメージングボリュームの画像レジストレーションを生成するプロセスを実行させる。

Description

本願は、マルチモーダル画像レジストレーションに関する。
介入医療処置は、介入医療装置が人体の内部に配置される処置である。人体は、磁気共鳴画像法(MRI)及び超音波を含む、様々な方法でイメージング(画像化)される。様々なイメージングモードによる画像は、それら画像によって介入医療装置で役立つ様々な情報を表示できるため、ディスプレイ上で一緒に融合されることがある。「融合(fusion)イメージング」では、画像の共通の特徴が画像の同じ場所に表示されるように、画像を同じ座標系で一緒に位置合わせする必要がある。
従って、MRI超音波融合ガイド前立腺生検等の「融合イメージング」処置には、正確なマルチモーダル画像レジストレーション(registration:位置合わせ)が必要である。マルチモーダル画像レジストレーションは、MRI及び超音波での前立腺の画像の場合等に、共通の画像特徴がないため、非常に困難な場合がある。この目的のための正確でロバストな完全自動化画像レジストレーションプロセスは知られていない。代わりに、画像レジストレーションを実行、手動で修正、又は検証する負担はユーザが担っている。経験の浅い又は訓練が不十分なユーザにとって、そのようなマルチモーダル画像レジストレーションを作成することはまた困難であり、エラーが発生し易く、潜在的に不正確なマルチモーダル画像レジストレーションが生じ、こうして不正確な融合ガイダンスをきたす。生検又は治療処置に使用される場合に、不正確な画像レジストレーションは、不正確なガイダンス、組織の不正確なサンプリング(サンプル採取)、又はさらに不正確な治療につながる可能性がある。
介入医療処置で使用される技術の複雑さに加えて、電磁追跡が、超音波プローブ及び介入医療処置を受ける人体の部分を含む空間内の超音波プローブを追跡するために使用される。さらに、近年、画像セグメンテーションが2次元及び3次元の画像及び画像ボリュームに適用され、画像及び画像ボリュームが器官等の構造に分割される線、平面、及び他の形状のビューを提供する。
本開示の一態様によれば、磁気共鳴画像法(MRI)の画像を、超音波プローブと、超音波プローブによって生成された超音波画像で取り込まれた器官とを含む追跡空間に位置合わせするためのコントローラは、命令を格納するメモリと、命令を実行するプロセッサとを含む。命令がプロセッサによって実行されると、命令によって、コントローラに、器官のセグメンテーションを含む3次元セグメント化磁気共鳴イメージングボリュームと器官を通る正中矢状面との交差部に基づいて、器官のセグメンテーションによって切断された正中矢状の2次元座標を取得することを含むプロセスを実行させる。コントローラによって実行されるプロセスには、追跡される超音波プローブを使用して、器官の正中矢状面の超音波画像の追跡空間内の追跡位置を生成すること;及び器官の正中矢状面の2次元セグメント化超音波表現を、器官の正中矢状面の2次元セグメント化磁気共鳴イメージング表現に位置合わせすること;も含まれる。コントローラによって実行されるプロセスには、器官のセグメンテーションの正中矢状面の2次元座標、器官の正中矢状面の画像レジストレーション、及び正中矢状面の超音波画像の追跡空間内の追跡位置(の追跡位置)に基づいて、3次元磁気共鳴イメージングボリュームの追跡空間へのレジストレーションを生成することがさらに含まれる。
本開示の別の態様によれば、磁気共鳴画像法(MRI)の画像を、超音波プローブと、超音波プローブによって生成された超音波画像で取り込まれた器官とを含む追跡空間に位置合わせする方法は、器官のセグメンテーションを含む3次元セグメント化磁気共鳴イメージングボリュームと、器官の中央矢状面の2次元セグメント化磁気共鳴イメージング表現との交差部に基づいて、器官のセグメンテーションによって切断された正中矢状面の2次元座標を取得するステップを含む。この方法はまた、追跡される超音波プローブを使用して、器官の正中矢状面の超音波画像の追跡空間内の追跡位置を生成するステップと;プロセッサ及びメモリを含むコントローラのプロセッサによって、器官の正中矢状面の2次元セグメント化超音波表現を正中矢状面の2次元セグメント化磁気共鳴イメージング表現に位置合わせして、器官の正中矢状面の画像レジストレーションを取得するステップと;を含む。この方法はさらに、プロセッサによって、器官の正中矢状面の2次元座標、器官の正中矢状面の画像レジストレーション、及び正中矢状面の超音波画像の追跡空間内の追跡位置に基づいて、3次元磁気共鳴イメージングボリュームの追跡空間へのレジストレーションを生成するステップを含む。
本開示のさらに別の態様によれば、磁気共鳴画像法(MRI)の画像を、超音波プローブと、超音波プローブによって生成された超音波画像で取り込まれた器官とを含む追跡空間に位置合わせするためのシステムは、超音波プローブと、命令を格納するメモリ及び命令を実行するプロセッサを含むコントローラとを含む。命令がプロセッサによって実行されると、命令によって、コントローラに、器官のセグメンテーション含む3次元セグメント化磁気共鳴イメージングボリュームと、器官の正中矢状面の2次元セグメント化磁気共鳴イメージング表現との交差部に基づいて、器官のセグメンテーションによって切断された正中矢状面の2次元座標を取得することを含むプロセスを実行させる。コントローラによって実行されるプロセスにはまた、超音波プローブを使用して、器官の正中矢状面の超音波画像の追跡空間内の追跡位置を生成すること;及び器官の正中矢状面の2次元セグメント化超音波表現を、器官の正中矢状面の2次元セグメント化磁気共鳴イメージング表現に位置合わせして、器官の正中矢状面の画像レジストレーションを取得すること;が含まれる。コントローラによって実行されるプロセスにはさらに、器官の正中矢状面の2次元座標、器官の正中矢状面の画像レジストレーション、及び正中矢状面の超音波画像の追跡空間内の追跡位置に基づいて、3次元磁気共鳴イメージングボリュームの追跡空間へのレジストレーションを生成することが含まれる。これらの各態様は、臨床医が使用する標準の2D参照フレームに位置合わせするための3Dデータ及びアルゴリズムを使用して、迅速で実行可能なマルチモダリティ画像レジストレーションを実現する。
例示的な実施形態は、添付の図面図と共に読むとき、以下の詳細な説明から最もよく理解される。様々な特徴が必ずしも一定の縮尺で描かれているわけではないことを強調しておく。実際、説明を明確にするために、寸法を適宜増減する場合がある。適用可能で実用的な場合はいつでも、同様の参照符号は同様の要素を指す。
代表的な実施形態による、マルチモーダル画像レジストレーションのプロセスを示す図である。 代表的な実施形態による、マルチモーダル画像レジストレーションで使用されるセグメント化された磁気共鳴イメージングボリュームの形状を示す図である。 代表的な実施形態による、マルチモーダル画像レジストレーションで使用されるような、セグメント化された3次元超音波ボリューム(3D超音波ボリューム)の幾何学的形状、セグメント化された3D超音波ボリュームの空間で取得された2次元超音波画像(2D超音波画像)の幾何学的形状、及びセグメント化された3D超音波ボリュームへの2D超音波画像の画像レジストレーションを示す図である。 代表的な実施形態による、マルチモーダル画像レジストレーションのための別のプロセスを示す図である。 代表的な実施形態による、マルチモーダル画像レジストレーションのためのシステムを示す図である。 代表的な実施形態による、マルチモーダル画像レジストレーションのための別のプロセスを示す図である。 代表的な実施形態による、マルチモーダル画像レジストレーションの方法を実施することができる一般的なコンピュータシステムを示す図である。
以下の詳細な説明では、限定ではなく説明の目的で、本教示による実施形態の完全な理解を与えるために、特定の詳細を開示する代表的な実施形態が示される。代表的な実施形態の説明を曖昧にしないように、既知のシステム、装置、材料、動作方法、及び製造方法の説明が省略され得る。それにもかかわらず、当業者の範囲内にあるシステム、装置、材料、及び方法は、本教示の範囲内であり、代表的な実施形態に従って使用することができる。本明細書で使用される用語は、特定の実施形態を説明することのみを目的としており、限定することを意図するものではないことを理解されたい。規定された用語は、本教示の技術分野で一般的に理解され受け入れられている規定された用語の技術的及び科学的意味に追加される。
本明細書では、第1、第2、第3等の用語を使用して様々な要素又は構成要素を説明する場合があるが、これらの要素又は構成要素はこれらの用語によって限定すべきではないことが理解されよう。これらの用語は、ある要素又は構成要素を別の要素又は構成要素から区別するためにのみ使用される。こうして、以下で議論する第1の要素又は構成要素は、本発明の概念の教示から逸脱することなく、第2の要素又は構成要素と呼ぶことができる。
本明細書で使用される用語は、特定の実施形態を説明することのみを目的としており、限定することを意図するものではない。明細書及び添付の特許請求の範囲で使用される場合に、用語「1つの(a, an)」及び「その(the)」の単数形は、文脈が明確に別段の指示をしない限り、単数形と複数形との両方を含むことを意図している。さらに、本明細書で使用される場合の「備える、有する、含む((comprises)及び/又は(comprising))」という用語、及び/又は同様の用語は、記載された特徴、要素、及び/又は構成要素の存在を指定するが、1つ又は複数の他の特徴、要素、構成要素、及び/又はそれらのグループの存在又は追加を排除するものではない。本明細書で使用される場合に、「及び/又は」という用語は、関連するリストされたアイテムの1つ又は複数のありとあらゆる組合せを含む。
特に断りのない限り、要素又は構成要素が別の要素又は構成要素に「接続」、「結合」、又は「隣接」すると言われる場合に、要素又は構成要素は、他の要素又は構成要素に直接接続又は結合され得るか、或いは介在する要素又は構成要素が存在し得る。すなわち、これら及び類似の用語は、1つ又は複数の中間要素又は構成要素を使用して、2つの要素又は構成要素を接続し得る場合を包含する。ただし、要素又は構成要素が別の要素又は構成要素に「直接接続」されると言われる場合に、これは、2つの要素又は構成要素が中間又は介在する要素又は構成要素なしに互いに接続される場合のみを包含する。
前述した観点から、本開示は、こうして、その様々な態様、実施形態、及び/又は特定の特徴又はサブ構成要素の1つ又は複数を通じて、以下に具体的に記載されるような1つ又は複数の利点をもたらすことを意図する。限定ではなく説明の目的で、本教示による実施形態の完全な理解を与えるために、特定の詳細を開示する例示的な実施形態が示される。ただし、本明細書に開示される特定の詳細から逸脱する、本開示と一致する他の実施形態は、添付の特許請求の範囲内にとどまる。さらに、例示的な実施形態の説明を曖昧にしないように、周知の機器及び方法の説明が省略され得る。そのような方法及び機器は、本開示の範囲内にある。
図1は、代表的な実施形態による、マルチモーダル画像レジストレーションのプロセスを示す。
以下の説明において、磁気共鳴画像法(magnetic resonance imaging)は、頭字語を取ってMRI又はMRと呼ばれ得る。超音波(ultrasound)は頭字語を取ってUSと呼ばれ得る。電磁気(electromagnetic)は頭字語を取ってEMと呼ばれ得る。これらの頭字語はいずれも、明細書及び図の基礎となる用語と同じ意味で使用され得る。
図1において、プロセスは、3D MRIボリューム内の指定された器官(例えば、前立腺)をセグメント化して3Dセグメント化MRIボリュームを取得するときの、S110で開始する。セグメンテーション(セグメント化)は、器官の表面の表現であり、例えば、器官の表面上の3D MRI座標の点のセット、及び3点の隣接するグループを接続することによって規定される三角形平面セグメントで構成され、それによって、器官表面全体が、交差しない三角形平面のメッシュで覆われている(例えば、図2Aの左側を参照)。3D MRIボリュームは、別の場所及び別の日付を含む、介入医療処置の前に取得され得る。
すなわち、S110では、3D MRI画像I3DMRI内の前立腺をセグメント化して、前立腺の3D MRIセグメンテーションS3DMRIを生成することができる。3D MRI座標系は、器官の軸方向(axial)ビューがxy平面に対応し、器官の矢状方向(sagittal)ビューがボリュームにおけるYZ平面に対応するように規定され得る。
MRIの簡単な説明として、図4に示される磁気共鳴イメージングシステム472は、送信段階で可変シーケンスを使用して、無線周波数(RF)コイルを介してB1磁場(B1 field)を被検体(subject)に選択的に送達する。受信段階では、B1磁場によって刺激された水素原子は、元の位置(つまり、B1磁場の選択的送達の前の位置)に戻り、弱い無線周波数信号を発し、この信号は、ローカルコイル(被検体の体の上又はその近くにある局所的な無線周波数コイル)によって拾われ、且つ画像を生成するために使用することができる。磁気共鳴イメージング情報は、人体の水素原子からの弱い無線周波数信号を拾うために特別に配置されたローカルコイルによって検出される弱い無線周波数信号からの情報を含む。
S120では、正中矢状面の2Dセグメント化MRI表現が、3Dセグメント化MRIボリュームから抽出される。正中矢状面は、体又は器官を左右の部分に分割する解剖学的平面である。この平面は、体の中心にあり、体を2つの部分に分ける。以下で説明する図2A及び図2Bでは、図2AのXMR_ML、YMR_ML及び図2BのXUS_ML及びYUS_MLとラベル付けされた破線は、3Dボリュームに示されるセグメント化された前立腺の正中矢状面を規定する。正中矢状面は、医用イメージングで一般的に使用される参照面である。MRIシステム等の医療器具は、正中矢状面のビューを表示するように予め設定され得る。医師は、フリーハンド超音波を用いて正中矢状面を取得することに慣れている。
図2Aの左側に示されるように、S3DMRにおける正中矢状面位置x、すなわち前立腺セグメンテーションの中心を切断するyzMRIセクションのx座標を決定することができる。S3DMRの正中矢状面位置xは、例えば、S3DMRの表面上の全ての点の重心のx座標を計算することによって決定することができる。あるいはまた、xは、x軸に沿ったS3DMRの周りの境界ボックスの中央平面として計算することができる。もちろん、xは手動で決定することもできる。xを使用して、3D MRI座標系からMRI正中矢状面の座標系への変換、つまりT3DMR→MR_MLを決定することができる。S130で規定された座標規則が与えられると、この変換は、図2Aの右側に示されるように、y軸の周りの90度の回転と、それに続くz軸に沿ったxだけの並進から構成される。
図2Aに示されるように、次に、正中矢状MRIセグメンテーションSMR_MLは、x位置xでのS3DMRIとYZ平面との交差部を計算することによって決定することができる。
S130では、MRI正中矢状面の2D座標は、正中矢状面の2Dセグメント化MRI表現から規定される。これは、図2Aの左側ボックスに具体的に示されており、破線が前立腺のセグメンテーションによる正中矢状面を示しており、このような正中矢状面の2D座標は、3Dセグメント化MRIボリュームの元の情報から容易に導き出される。
S140では、3D超音波ボリュームが取得され、次に、セグメント化されて、セグメント化された3D超音波ビューが取得される。3D超音波ボリュームは、ライブで(つまり、リアルタイムで)取得する必要はないが、超音波プローブが器官を横切ってスイープされるときに、(追跡される)2D超音波面のセットの取得により再構成することもできる。3D超音波ボリュームは、典型的に、介入医療処置の開始時等、介入医療処置と同じ日に(すなわち、時間的に近い)取得される。
3D超音波ボリュームは、介入医療処置中に取得され得、次に、元の3Dセグメント化MRIボリュームを、3D超音波ボリュームを取得するために使用された超音波プローブを追跡するために使用される追跡空間に最終的に位置合わせするために、本明細書に記載のプロセスへの入力として使用され得る。一例として、介入的医療処置の開始時又はその最中に、追跡される3D超音波(3DUS)画像又は前立腺の再構成I3DUSを取得することができる。追跡される3D超音波再構成I3DUSは、前立腺を横切って超音波画像プローブをスイープしている間に取得された一連の空間的に追跡される2次元超音波画像(2D超音波画像)をボリュームに再構成することによって取得することができる。I3DUSのセグメンテーションはS3DUSを生成する。
S150では、正中矢状面の超音波画像が取得される。超音波画像は、超音波プローブを自動的に制御することによって、又はユーザからの入力に基づいて等で取得され得る。例えば、ユーザは、プローブによって取得された2D画像が器官の正中矢状面であるように超音波プローブを位置付けするのを具体的に試みるように求められ得る。一例として、オペレータは、前立腺の正中線に沿って正中矢状画像IUS_MLを取得するように超音波プローブを位置付けし、追跡空間における超音波プローブの対応する追跡される空間姿勢を取得するように指示され得る。追跡座標系の正中矢状面は、図2Bの左側の面xyUS_MLに対応する。IUS_MLの追跡姿勢は、例えば、2DUS画像座標系から電磁追跡座標系への座標変換TUS→EMの形式で記録することができる。
S160では、正中矢状面の超音波画像は、セグメント化された3D超音波ビューに位置合わせされ、正中矢状面の2D超音波セグメンテーションが取得される。例えば、正中矢状画像IUS_MLは、3DUSセグメント化画像ボリュームI3DUSに自動的に位置合わせすることができる。次に、IUS_MLと前立腺セグメンテーションS3DUSとの交差部を計算することができる。この交差部は、図2Bの右側に示されるように、IUS_MLにおける前立腺の2次元セグメンテーションSUS_MLを生成する。結果は、3DUSボリュームが(MRIボリュームとは異なり)必ずしもボリューム座標軸に対する前立腺の特定の整列で取得されるとは限らないため、3DUSの正中矢状面を単に取得するよりも正中矢状超音波ビューのより正確な表現となる。
US_MLからI3DUSへの画像レジストレーションを支援するために、部分的スイープI3DUS_MLが、正中矢状面xyUS_MLから始まり、略垂直方向に移動して取得され得る。単一の正中矢状画像IUS_MLのみを使用する場合と比較して、部分的スイープに含まれる空間情報が増えると、画像レジストレーションの精度が高くなり得る。
S170では、S160からの正中矢状面の2D超音波セグメンテーションは、S120からの正中矢状面の2Dセグメント化MRI表現と位置合わせされ、MRIから超音波への2D変換が取得される。換言すると、SUS_MLとSMR_MLとの間で2D画像レジストレーションが実行される。つまり、超音波及びMRIそれぞれの正中矢状セグメンテーションが実行され、変換TMRI→USが生成される。画像レジストレーションは、例えば反復最接近点(iterative closest point)アルゴリズム(ICPアルゴリズム)を使用して、SUS_MLとSMR_MLとの間のポイント間(point-to-point)境界距離を最小化するように取得できる。あるいはまた、3D MRIセグメンテーションS3DMRIと3DUSセグメンテーションS3DUSとの間の境界距離を最小化に使用することもできるが、TMR→USを解くときに面内変換パラメーターのみを更新することができる。
3DMRとS3DUSとの間の6自由度での完全なレジストレーションと比較して、2D面内画像レジストレーションは、計算がより簡素であり、誤った面外並進及び回転の可能性を排除し、その面外並進及び回転は、ユーザがプローブを正中矢状位置に手動で配置するように指示したため、無視できる程度であると想定される。境界は、画像レジストレーションの前に予め略整列されている場合がある。例えば、境界は重心位置に基づいて概算することができる。
S180では、元の3D MRIボリュームは、S130からの正中矢状面の2D座標、S170でのMRIから超音波への2D変換、及びS150からの追跡空間内の正中矢状面の追跡位置を使用して、追跡空間に位置合わせされる。最終的に、図1のプロセスの結果は、MRI画像から追跡空間への3D変換であり、それによって、3D MRIボリュームは追跡空間に位置合わせされる。このようにして、MRIは、これまで得られなかった又は得ることができなかった精度で、追跡空間内の超音波と一緒に表示することができる。すなわち、ディスプレイを制御して、全体的な電磁追跡空間内の磁気共鳴画像法の画像の対応するセクションと融合したライブで追跡される超音波画像を表示することができる。
S180の個々の変換を記号形式表現として読み取る方法は、右から左への連結によるものであり、最終的に所望のT3DMR→EMをもたらす。特に、超音波座標系US_MLは、ユーザが正中矢状位置で2DUS画像を取得するように指示されたため、2D超音波座標系と同一視される。正中矢状位置は、少なくとも前立腺の標準的な臨床超音波ビューであり、この主題に精通している医師は容易に特定(identify)できるはずである。
得られた変換T3DMR→EMは、ライブの追跡される超音波画像とMRI画像の対応するセクションとの融合画像表示に使用することができる。これは、例えば、任意のライブ超音波画像の追跡位置TUS→EMを取得し、TUS→3DMR=(T3DMR→EM−1・TUS→EMを計算して現在の2DUS画像に対応するMRI座標を取得することによって、行うことができ、ここで(・)−1は逆変換を示す。
図2Aは、代表的な実施形態による、マルチモーダル画像レジストレーションで使用されるセグメント化された磁気共鳴イメージングボリュームの幾何学的形状を示す。
図2Aは、3D MRI前立腺セグメンテーションによって切断された正中矢状の抽出を示しており、右側の2Dでの分離されたSMR_MLをもたらす。図2Aの左側に示される座標Xmは、XYZ座標系の3D座標である。破線はYZ平面の矢状ビューである。左側の境界ボックス内の不規則な形状の対象物(object)は、3Dでの前立腺のセグメンテーションである。特に、図2Aの左側の3Dでの前立腺の表現の周りの不規則な実線は、前立腺セグメンテーションと前立腺の正中矢状面との交差部であり、図2Aの右側の2Dでの不規則な実線と相関している。すなわち、図2Aの右側は、MRIにおける前立腺のセグメント化された正中矢状面の2D表現を示している。
図2Bは、代表的な実施形態による、マルチモーダル画像レジストレーションで使用されるような、セグメント化された3D超音波ボリュームの幾何学的形状、3D超音波ボリュームと同じ空間で得られた2D超音波画像の幾何学的形状、及びセグメント化された3D超音波ボリュームへの2D超音波画像の画像レジストレーションを示す。
図2Bは、左側の3D超音波ボリュームに位置合わせされた正中矢状ビューIUS_MLで得られた2D超音波画像を示す。3D超音波ボリュームとの対応する交差部はIUS_ML座標に変換される。換言すると、図2Bの左側の3Dモデルは、右側の2D画像と再び相関している。
ちなみに、図2Bの右側の画像では、前側(anterior)が上、後側(posterior)が下、頭が左、足が右である。さらに、図2Bの左側の前立腺の表現の周りの不規則な実線は、図2Bの右側の不規則な実線に相関している。具体的には、図2Bの不規則な実線は、左側の3D MRI座標に示される、正中矢状面と器官セグメンテーションとの交差部である。
図3は、代表的な実施形態による、マルチモーダル画像レジストレーションのための別のプロセスを示す。
図3は、超音波プローブの電磁追跡を伴う前立腺融合生検のためのMRI超音波画像レジストレーションの特定の場合の要素の実施形態を示し、且つ説明する。換言すると、図3の実施形態では、3つの別個の視覚化、すなわち、前立腺を含むMRI、前立腺を含む超音波、及び超音波イメージングプローブと前立腺とを含む3次元空間での電磁追跡が組み合わされる。図3に関して示され、説明される特徴は、他の器官、イメージングモダリティ及び処置に適用できる。
図3において、目的は、予め取得したMRIボリューム画像(I3DMRI)と融合イメージング処置中に使用される電磁追跡座標系との画像レジストレーション、すなわちT3DMRI→EMを計算することである。
S302での第1のステップ又はプロセスにおいて、前立腺の3D MRIボリュームの画像がI3DMRIとして取得される。S311での第2のステップ又はプロセスにおいて、前立腺の3D MRIボリュームの画像I3DMRIがセグメント化され、前立腺3D MRIセグメンテーションS3DMRIが生成される。
S321での第3のステップ又はプロセスにおいて、3D MRIから2D正中矢状面座標への座標変換、すなわち、T3DMRIMRI_MLが規定される。S331での第4のステップ又はプロセスにおいて、MRIセグメンテーションS3DMRIの正中矢状面、つまりSMRI_MLが抽出される。MRIセグメンテーションの正中矢状面は、S3DMRIと2D正中矢状面との交差部である。
S341での第5のステップ又はプロセスにおいて、追跡される3D超音波ボリューム又は前立腺の再構成、すなわちI3DUSが取得される。S351での第6のステップ又はプロセスにおいて、3D超音波ボリュームI3DUSの前立腺がセグメント化されて、S3DUSが生成される。
S361での第7のステップ又はプロセスにおいて、オペレータは、超音波プローブを用いて前立腺の正中矢状超音波画像IUS_MLを取得及び記録するように指示される。S371での第8のステップ又はプロセスにおいて、超音波プローブの追跡位置TUS→EMが電磁追跡空間で記録される。
S376での第9のステップ又はプロセスにおいて、正中矢状超音波画像IUS_MLは、3D超音波ボリュームI3DUSと/に自動的に位置合わせされる。IUS_MLと前立腺セグメンテーションS3DUSとの交差部が計算によって抽出され、正中矢状画像に前立腺の2DセグメンテーションSUS_MLが生成される。
S381での第10のステップ又はプロセスにおいて、2D画像レジストレーションが、超音波正中矢状面のセグメンテーションSUS_MLと磁気共鳴画像化正中矢状面のセグメンテーションSMRI_MLとの間で実行される。第10のステップ又はプロセスにおける2D画像レジストレーションは、例えば、反復最接近点(ICP)アルゴリズムを使用して実行され得る。第10のステップ又はプロセスの結果は、磁気共鳴画像座標から超音波座標への変換TMRI→USである。
S391での第11のステップ又はプロセスにおいて、一連の変換は、3D磁気共鳴画像化が電磁追跡に位置合わせされる、すなわちT3DMRI→EMの結果となる。変換は、3D磁気共鳴画像法から磁気共鳴画像法の正中矢状面へ、次に磁気共鳴画像法の正中矢状面から超音波の正中矢状面へ、そして超音波の正中矢状面から電磁追跡フィールドへの変換、すなわちT3DMRIMRI_ML、TMRI→US、及びTUS→EMへと行われ、目的のT3DMRI→EMを生成する。つまり、S391での最終結果は、予め取得したMRIボリューム3D MRIと、融合イメージング処置中に使用される電磁追跡座標系との画像レジストレーション、すなわちT3DMRI→EMである。
図4は、代表的な実施形態による、マルチモーダル画像レジストレーションのためのシステムを示す。
図4において、超音波システム450は、プロセッサ461及びメモリ462を含む中央ステーション460、タッチパネル463、モニタ459、及びデータ接続458(例えば、有線又は無線データ接続)によって中央ステーション460に接続された超音波イメージングプローブ456を含む。本明細書に記載のマルチモーダル画像レジストレーションは、典型的には又は少なくともしばしば介入医療プロセスを伴うが、マルチモーダル画像レジストレーションが、介入医療装置に特有のものよりも様々なモードからの画像レジストレーションに関係しているため、介入医療装置は図4には示されていない。
磁気共鳴イメージングシステム472も示されている。明確にするために、マルチモーダル画像レジストレーションで使用されるMRI画像は、超音波システム450とは異なる時間及び異なる場所から提供され得る。その場合に、磁気共鳴イメージングシステム472は、必ずしも超音波システム450と同じ場所にあるとは限らない。図4では、磁気共鳴イメージングシステム472が超音波システム450とともに示され、MRIモード及び超音波モードからの画像が、プロセッサ491及びメモリ492を含む位置合わせ(レジストレーション)システム490に提供される。マルチモーダル画像レジストレーションの文脈では、位置合わせシステム490は、本明細書で説明されるように、複数のモードからの画像を位置合わせするためのプロセスを制御するコントローラと見なすことができる。換言すると、位置合わせシステム490は、本明細書で説明される機能及びプロセスのパフォーマンスを実行するか、又は他に制御するコントローラであり得る。位置合わせシステム490は、スタンドアロンシステムであり得るか、又は介入医療処置で使用される超音波システム等の修正された電子システムで実現され得る。
位置合わせシステム490は、プロセッサ491及びメモリ492を含む。位置合わせシステム490は、磁気共鳴イメージングシステム472から、ネットワークを介して又はコンピュータ可読媒体から等、直接的又は間接的にデータを受信する。位置合わせシステム490は、例えば、メモリ392内の命令を実行するプロセッサ391によって本明細書に記載のプロセスを実行させる。しかしながら、位置合わせシステム490はまた、中央ステーション460内又は中央ステーション460によって、或いは任意の他のメカニズムで実現され得る。プロセッサ491とメモリ492との組合せは、位置合わせシステム490であろうと別の構成であろうと、本明細書で使用される用語として「コントローラ」と見なすことができる。
図5は、代表的な実施形態による、マルチモーダル画像レジストレーションのための別のプロセスを示す。
図5において、左側は最初にMRIプロセスを示し、右側は最初に超音波プロセスを示す。この視覚化は、様々なプロセスが並行して実行される場合もあれば、全く異なる時間に様々な場所で実行される場合があることを反映している。
S501では、3D MRIボリュームが取得される。S511では、3D MRIボリュームの前立腺がセグメント化される。S521では、2D正中矢状面座標が取得され、S531では、セグメント化された3D MRIと2D正中矢状面との交差部から正中矢状セグメンテーション平面が抽出される。
S541では、追跡される3D超音波が取得される。S551では、追跡される3D超音波の前立腺がセグメント化される。S561では、3D超音波の2D正中矢状面が取得され、S571では、2D正中矢状面とセグメント化された3D超音波セグメンテーションとの交差部から正中矢状セグメンテーション平面が抽出される。
S581では、超音波及びMRIからの2Dセグメンテーションが位置合わせされる。S591では、追跡座標系で追跡される3D超音波が処置前の3D MRIに位置合わせされる。その結果、処置前MRIと超音波イメージとの両方を同じ座標空間に表示させることができる。具体的には、処置前MRI及び超音波は、超音波が超音波プローブを追跡するために最初に提供された追跡空間に表示することができる。
図6は、代表的な実施形態による、マルチモーダル画像レジストレーションの方法を実施することができる一般的なコンピュータシステムを示す。
コンピュータシステム600は、コンピュータシステム600に、本明細書に開示される方法又はコンピュータベースの機能のうちの任意の1つ又は複数を行わせるために実行され得る一組の命令を含むことができる。コンピュータシステム600は、スタンドアロン装置として動作することができ、又は、例えばネットワーク601を使用して、他のコンピュータシステム又は周辺装置に接続することができる。図6のコンピュータシステム600の要素及び特性のいずれか又は全ては、中央ステーション460、位置合わせシステム490、超音波イメージングプローブ456、超音波システム450、又はコントローラを含み且つ本明細書に記載のプロセスを実行することができる他の同様の装置及びシステムの要素及び特性を表すことができる。
ネットワーク化された展開において、コンピュータシステム600は、サーバクライアントユーザネットワーク環境におけるクライアントの能力で動作し得る。コンピュータシステム600はまた、制御ステーション、イメージングプローブ、パッシブ超音波センサ、固定コンピュータ、移動コンピュータ、パーソナルコンピュータ(PC)、又はそのマシンによって実行されるアクションを指定する一組の命令(順次又は他の方法)を実行することができる他の任意のマシン等の様々な装置として完全に又は部分的に実現又は組み込むことができる。コンピュータシステム600は、追加の装置を含む統合システム内にある装置として、又はこの装置内に組み込むことができる。一実施形態では、コンピュータシステム600は、ビデオ又はデータ通信を提供する電子装置を使用して実現することができる。さらに、コンピュータシステム600が示されているが、「システム」という用語はまた、1つ又は複数のコンピュータ機能を実行するための命令のセット又は複数のセットを個別に又は共同で実行するシステム又はサブシステムの任意の集合を含むと解釈するものとする。
図6に示されるように、コンピュータシステム600は、プロセッサ610を含む。コンピュータシステム600のプロセッサ610は、有形で非一時的である。本明細書で使用される場合に、「非一時的」という用語は、状態の恒久的な特性としてではなく、ある期間に亘って続く状態の特性として解釈すべきである。「非一時的」という用語は、搬送波又は信号の特性等のつかの間の特性、或いはいつでもどこでも一時的にのみ存在する他の形式を明確に否定する。本明細書に記載の任意のプロセッサは、製品及び/又は機械部品である。コンピュータシステム600のプロセッサは、本明細書の様々な実施形態に記載されている機能を実行するためのソフトウェア命令を実行するように構成される。コンピュータシステム600のプロセッサは、汎用プロセッサであり得るか、又は特定用途向け集積回路(ASIC)の一部であり得る。コンピュータシステム600のプロセッサはまた、マイクロプロセッサ、マイクロコンピュータ、プロセッサチップ、コントローラ、マイクロコントローラ、デジタル信号プロセッサ(DSP)、状態マシン、又はプログラマブルロジックデバイスであり得る。コンピュータシステム600のプロセッサはまた、フィールドプログラマブルゲートアレイ(FPGA)等のプログラマブルゲートアレイ(PGA)を含む論理回路、又はディスクリートゲート及び/又はトランジスタロジックを含む別のタイプの回路であり得る。コンピュータシステム600のプロセッサは、中央処理装置(CPU)、グラフィックス処理装置(GPU)、又はその両方であり得る。さらに、本明細書に記載の任意のプロセッサは、複数のプロセッサ、並列プロセッサ、又はその両方を含み得る。複数のプロセッサが、単一の装置又は複数の装置に含まれるか、又はそれらに結合され得る。
さらに、コンピュータシステム600は、バス608を介して互いに通信することができるメインメモリ620及びスタティックメモリ630を含む。本明細書に記載のメモリは、データ及び実行可能命令を格納することができる有形の記憶媒体であり、命令がそこに格納される期間中、非一時的である。本明細書で使用される場合に、「非一時的」という用語は、状態の恒久的な特性としてではなく、ある期間に亘って続く状態の特性として解釈すべきである。「非一時的」という用語は、搬送波又は信号の特性等のつかの間の特性、或いはいつでもどこでも一時的にのみ存在する他の形式を明確に否定する。本明細書に記載のメモリは、製品及び/又は機械部品である。本明細書に記載のメモリは、コンピュータがデータ及び実行可能命令を読み出すことができるコンピュータ可読媒体である。本明細書に記載のメモリは、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、フラッシュメモリ、電気的にプログラム可能な読み取り専用メモリ(EPROM)、電気的に消去可能なプログラム可能な読み取り専用メモリ(EEPROM)、レジスタ、ハードディスク、リムーバブルディスク、テープ、コンパクトディスク読み取り専用メモリ(CD−ROM)、デジタル多用途ディスク(DVD)、フロッピー(登録商標)ディスク、ブルーレイディスク、又は当技術分野で知られている他の形式の記憶媒体であり得る。メモリは、揮発性又は不揮発性、セキュア及び/又は暗号化され、非セキュア及び/又は暗号化されていない可能性がある。
示されるように、コンピュータシステム600は、液晶ディスプレイ(LDC)、有機発光ダイオード(OLED)、フラットパネルディスプレイ、ソリッドステートディスプレイ、又はブラウン管(CRT)等のビデオディスプレイユニット650をさらに含み得る。さらに、コンピュータシステム600は、キーボード/仮想キーボード又はタッチ感知入力画面又は音声認識を含む音声入力等の入力装置660と、マウス又はタッチ感知入力画面又はパッド等のカーソル制御装置670とを含み得る。コンピュータシステム600はまた、ディスクドライブユニット680、スピーカ又はリモートコントロール等の信号生成装置690、及びネットワークインターフェイス装置640を含み得る。
一実施形態では、図6に示されるように、ディスクドライブユニット680は、コンピュータ可読媒体682を含むことができ、その中に、1つ又は複数の命令のセット684、例えばソフトウェアを埋め込むことができる。命令セット684は、コンピュータ可読媒体682から読み出すことができる。さらに、命令684は、プロセッサによって実行されるときに、本明細書に記載される方法及びプロセスのうちの1つ又は複数を実行するために使用され得る。一実施形態では、命令684は、コンピュータシステム600による実行中に、メインメモリ620、スタティックメモリ630内、及び/又はプロセッサ610内に完全に又は少なくとも部分的に存在し得る。
代替実施形態では、特定用途向け集積回路(ASIC)、プログラマブルロジックアレイ、及び他のハードウェアコンポーネント等の専用ハードウェア実施態様を構築して、本明細書に記載の方法の1つ又は複数を実施することができる。本明細書に記載の1つ又は複数の実施形態は、2つ以上の特定の相互接続されたハードウェアモジュール、又はモジュール同士の間及びモジュールを介して通信できる関連する制御及びデータ信号を含む装置を使用して機能を実現することができる。従って、本開示は、ソフトウェア、ファームウェア、及びハードウェアの実施態様を包含する。本願のいかなるものも、有形の非一時的プロセッサ及び/又はメモリ等のハードウェアではなく、ソフトウェアのみで実施又は実施可能であると解釈すべきではない。
本開示の様々な実施形態によれば、本明細書に記載の方法は、ソフトウェアプログラムを実行するハードウェアコンピュータシステムを使用して実施することができる。さらに、例示的な非限定的な実施形態では、実施態様は、分散処理、コンポーネント/オブジェクト分散処理、及び並列処理を含むことができる。仮想コンピュータシステム処理は、本明細書に記載の方法又は機能の1つ又は複数を実現するように構築することができ、本明細書に記載のプロセッサを使用して、仮想処理環境をサポートすることができる。
本開示は、命令684を含むか、又は伝播される信号に応答して命令684を受信及び実行するコンピュータ可読媒体682を企図し、それによってネットワーク601に接続された装置がネットワーク601を介してビデオ又はデータを通信できる。さらに、命令684は、ネットワークインターフェイス装置640を経由してネットワーク601を介して送信又は受信され得る。
従って、マルチモーダル画像レジストレーションは、前立腺がイメージングされるとき等の異なるモードに対して共通ではないイメージングされた特徴を用いても、処置前MRIと処置内超音波との画像レジストレーションを可能にする。
マルチモーダル画像レジストレーションについて、いくつかの例示的な実施形態を参照して説明してきたが、使用された単語は、限定の単語ではなく、説明及び例示の単語であることが理解される。その態様のマルチモーダル画像レジストレーションの範囲と精神から逸脱することなく、現在示されているように、また補正される場合に、添付の特許請求の範囲内で変更を加えることができる。マルチモーダル画像レジストレーションについて、特定の手段、材料、及び実施形態を参照して説明してきたが、マルチモーダル画像レジストレーションは、開示された詳細に限定することを意図していない。むしろマルチモーダル画像レジストレーションは、添付の特許請求の範囲内にあるような、全ての機能的に同等の構造、方法、及び使用にまで及ぶ。
例えば、再位置合わせ又は動き補償は、図1、図3、及び図5の方法について示され、説明されるプロセスの後者の特徴等、本明細書に記載される特徴を使用して実行することができる。例えば、前立腺が動いたときに、再位置合わせ又は動き補償を行うことができる。すなわち、本明細書に記載のプロセスは、前立腺の動きの決定に基づいて、器官の正中矢状面の2次元座標、器官の正中矢状面の画像レジストレーション、及び正中矢状面の超音波画像の追跡空間内の追跡位置に基づく追跡空間における3次元磁気共鳴イメージングボリュームの画像レジストレーションを再生成することを含むことができる。
さらに、2D MRI正中矢状面セグメンテーションSMR_MLは、3D MRI画像において前立腺を通る正中矢状面のx位置を推定すること等によって、最初にS3DMRを取得することなく直接取得することができる。これは、例えば前立腺が3D MRI画像の中心にあると仮定することによって行うことができる。次に、2Dセグメンテーションは、3D MRIボリュームの選択された正中矢状面でのみ実行することができる。
さらに、前立腺の2D正中矢状超音波画像は、3D超音波ボリュームに位置合わせし、3Dセグメンテーションによって2Dセクションを抽出するのではなく、直接セグメント化することができる。
別の代替法として、3D超音波の正中矢状面が既知である場合に、2D画像レジストレーションを直接実行することができる。具体的には、3D超音波の正中矢状面は、上記の実施形態で説明した2Dから3Dへの画像レジストレーションの代わりに、超音波の正中矢状面の画像に直接位置合わせすることができる。3D超音波の正中矢状面は、ボリュームの手動評価、又は3Dスイープの取得中に実施される特定のユーザ指示に基づいて、自動化を含む、様々な方法で特定することができる。
さらに別の代替法として、使用される超音波プローブのタイプ及びイメージングされる器官に応じて、「矢状」以外の異なる参照ビューを選択することができる。例えば、軸方向ビュー又は冠状ビューを選択して使用することができる。
本明細書に記載の実施形態の図は、様々な実施形態の構造の一般的な理解を与えることを意図している。議論される実施形態は、融合ガイド前立腺生検に関連しているが、本発明はそれに限定されない。特に、本明細書の開示は、一般に、前立腺だけでなく他の器官にも適用可能である。図は、本明細書に記載される本開示の全ての要素及び特徴の完全な説明として役立つことを意図するものではない。本開示を検討すると、他の多くの実施形態が当業者には明らかになり得る。構造的及び論理的な置換及び変更が、本開示の範囲から逸脱することなくなされ得るように、他の実施形態が利用され、本開示から導き出され得る。さらに、図は単なる表現であり、縮尺どおりに描かれていない場合がある。図内の特定の比率は誇張される場合がある一方、他の比率は最小化される場合がある。従って、開示及び図は、限定的ではなく例示的であると見なすべきである。
本開示の1つ又は複数の実施形態は、本願の範囲を特定の発明又は発明概念に自発的に限定することを意図することなく、単に便宜のために「発明」という用語によって、本明細書において個別に及び/又は集合的に言及され得る。さらに、特定の実施形態が本明細書に例示及び記載されているが、同じ又は同様の目的を達成するように設計された後続の任意の構成を、示される特定の実施形態の代わりに使用できることを理解されたい。この開示は、様々な実施形態のその後のあらゆる全ての適応又は変形を網羅することを意図している。上記の実施形態と、本明細書に具体的に記載されていない他の実施形態との組合せは、詳細な説明を検討すると当業者には明らかになるであろう。
開示の要約は、米国特許規則 セクション1.72に準拠するために提供されており、特許請求の範囲又は意味を解釈又は制限するために使用されないことを理解した上で提出される。さらに、前述した詳細な説明では、開示を合理化(streaming)する目的で、様々な特徴を一緒にグループ化するか、又は単一の実施形態で説明することができる。この開示は、特許請求の範囲に記載された実施形態が各請求項に明示的に記載されているよりも多くの特徴を必要とするという意図を反映していると解釈すべきではない。むしろ、以下の特許請求の範囲が反映するように、本発明の主題は、開示された実施形態のいずれかの特徴の全てよりも少ないものに向けられ得る。従って、以下の特許請求の範囲は詳細な説明に組み込まれ、各請求項は、個別にクレームされた主題を規定するものとして独立している。
開示される実施形態の前述した説明は、当業者が本開示に記載される概念を実践することを可能にするために提供される。そのため、上記の開示された主題は、例示的であり、限定的ではないと見なすべきであり、添付の特許請求の範囲は、本開示の真の精神及び範囲内にあるそのような全ての修正、強化、及び他の実施形態を網羅することを意図している。こうして、法律で認められる最大限の範囲で、本開示の範囲は、以下の請求項及びそれらの同等物の最も広い許容可能な解釈によって決定されるべきであり、前述した詳細な説明によって制限又は限定されないものとする。

Claims (14)

  1. 磁気共鳴画像法(MRI)の画像を、追跡される超音波プローブと、該超音波プローブによって生成された超音波画像で取り込まれた器官とを含む追跡空間に位置合わせするためのコントローラであって、当該コントローラは、
    命令を格納するメモリと、
    前記命令を実行するプロセッサと、を含み、
    前記命令が前記プロセッサによって実行されると、前記命令によって、当該コントローラに、
    前記器官のセグメンテーションを含む3次元セグメント化磁気共鳴イメージングボリュームと前記器官を通る正中矢状面との交差部に基づいて、前記器官の前記セグメンテーションによって切断された正中矢状の2次元座標を取得すること、
    追跡される超音波プローブを使用して、前記器官の前記正中矢状面の超音波画像の前記追跡空間内の追跡位置を生成すること、
    前記器官の前記正中矢状面の2次元セグメント化超音波表現を前記器官の前記正中矢状面の2次元セグメント化磁気共鳴イメージング表現に位置合わせして、前記器官の前記正中矢状面の画像レジストレーションを取得すること、及び
    前記器官の前記セグメンテーションの前記正中矢状面の前記2次元座標、前記器官の前記正中矢状面の前記画像レジストレーション、及び前記正中矢状面の前記超音波画像の前記追跡空間内の前記追跡位置に基づいて、前記3次元磁気共鳴イメージングボリュームの前記追跡空間へのレジストレーションを生成すること、を含むプロセスを実行させる、
    コントローラ。
  2. 前記コントローラによって実行される前記プロセスには、
    3次元磁気共鳴イメージングボリュームをセグメント化して、前記3次元セグメント化磁気共鳴イメージングボリュームを取得すること、
    前記3次元セグメント化磁気共鳴イメージングボリューム内の前記器官の前記正中矢状面を特定して、前記器官の前記正中矢状面の前記2次元セグメント化磁気共鳴イメージング表現を取得することがさらに含まれる、請求項1に記載のコントローラ。
  3. 前記コントローラによって実行される前記プロセスには、前記正中矢状面の前記2次元セグメント化磁気共鳴イメージング表現の座標を前記器官の前記正中矢状面の前記2次元座標に変換することがさらに含まれる、請求項2に記載のコントローラ。
  4. 前記コントローラによって実行される前記プロセスには、
    3次元超音波ボリュームの生成を制御すること、
    該3次元超音波ボリュームをセグメント化して、セグメント化された3次元超音波ボリュームを取得すること、及び
    該セグメント化された3次元超音波ボリューム内の前記器官の前記正中矢状面を特定して、超音波正中矢状面を特定することがさらに含まれる、請求項1に記載のコントローラ。
  5. 前記器官の前記正中矢状面は、ユーザから促された入力に基づいて特定される、請求項4に記載のコントローラ。
  6. 前記コントローラによって実行される前記プロセスには、
    前記器官の前記正中矢状面の前記2次元セグメント化磁気共鳴イメージング表現を取得すること、
    3次元超音波ボリュームの生成を制御すること、
    該3次元超音波ボリュームをセグメント化して、セグメント化された3次元超音波ボリュームを取得すること、
    該セグメント化された3次元超音波ボリューム内の前記器官の前記正中矢状面を特定して、超音波正中矢状面を特定すること、及び
    前記器官の前記正中矢状面の前記2次元セグメント化磁気共鳴イメージング表現を前記超音波正中矢状面に位置合わせすることがさらに含まれる、請求項1に記載のコントローラ。
  7. 前記器官の前記正中矢状面の前記2次元セグメント化磁気共鳴イメージング表現を前記超音波正中矢状面に位置合わせすることは、反復最接近点アルゴリズムを使用して実行される、請求項6に記載のコントローラ。
  8. 前記器官には、前立腺が含まれる、請求項1に記載のコントローラ。
  9. 前記追跡空間における前記3次元磁気共鳴イメージングボリュームの前記画像レジストレーションは、介入医療処置中にライブで実行される、請求項1に記載のコントローラ。
  10. 前記コントローラによって実行される前記プロセスには、前記器官を横切って前記超音波プローブをスイープしている間に取得された一連の空間的に追跡された2次元超音波画像をボリュームに再構成することにより、3次元超音波ボリュームを生成することがさらに含まれる、請求項1に記載のコントローラ。
  11. 前記コントローラによって実行される前記プロセスには、磁気共鳴画像法の画像の対応するセクションと融合したライブで追跡される超音波画像を表示するようにディスプレイを制御することがさらに含まれる、請求項1に記載のコントローラ。
  12. 前記コントローラによって実行される前記プロセスには、
    前記器官の動きを決定すること、及び
    該器官の動きの決定に基づいて、前記器官の前記正中矢状面の前記2次元座標、前記器官の前記正中矢状面の前記画像レジストレーション、及び前記正中矢状面の前記超音波画像の前記追跡空間内の前記追跡位置に基づく前記追跡空間への前記3次元磁気共鳴イメージングボリュームの位置合わせを再生成することがさらに含まれる、請求項1に記載のコントローラ。
  13. 磁気共鳴画像法(MRI)の画像を、超音波プローブと、該超音波プローブによって生成された超音波画像で取り込まれた器官とを含む追跡空間に位置合わせするための方法であって、当該方法は、
    前記器官のセグメンテーションを含む3次元セグメント化磁気共鳴イメージングボリュームと、前記器官の正中矢状面の2次元セグメント化磁気共鳴イメージング表現との交差部に基づいて、前記器官の前記セグメンテーションによって切断された正中矢状面の2次元座標を取得するステップと、
    追跡される超音波プローブを使用して、前記器官の正中矢状面の超音波画像の前記追跡空間内の追跡位置を生成するステップと、
    プロセッサ及びメモリを含むコントローラの前記プロセッサによって、前記器官の前記正中矢状面の2次元セグメント化超音波表現を前記正中矢状面の2次元セグメント化磁気共鳴イメージング表現に位置合わせして、前記器官の前記正中矢状面の画像レジストレーションを取得するステップと、
    前記プロセッサによって、前記器官の前記正中矢状面の前記2次元座標、前記器官の前記正中矢状面の前記画像レジストレーション、及び前記正中矢状面の前記超音波画像の前記追跡空間内の前記追跡位置に基づいて、前記3次元磁気共鳴イメージングボリュームの前記追跡空間へのレジストレーションを生成するステップと、を含む、
    方法。
  14. 磁気共鳴画像法(MRI)の画像を、超音波プローブと、該超音波プローブによって生成された超音波画像で取り込まれた器官とを含む追跡空間に位置合わせするためのシステムであって、当該システムは、
    命令を格納するメモリ、及び前記命令を実行するプロセッサを含むコントローラと、
    超音波プローブと、を含み、
    前記命令が前記プロセッサによって実行されると、前記命令によって、前記コントローラに、
    前記器官のセグメンテーションを含む3次元セグメント化磁気共鳴イメージングボリュームと、前記器官の正中矢状面の2次元セグメント化磁気共鳴イメージング表現との交差部に基づいて、前記器官のセグメンテーションによって切断された前記正中矢状面の2次元座標を取得すること、
    前記超音波プローブを使用して、前記器官の正中矢状面の超音波画像の前記追跡空間内の追跡位置を生成すること、
    前記器官の前記正中矢状面の2次元セグメント化超音波表現を前記器官の前記正中矢状面の2次元セグメント化磁気共鳴イメージング表現に位置合わせして、前記器官の前記正中矢状面の画像レジストレーションを取得すること、及び
    前記器官の前記正中矢状面の前記2次元座標、前記器官の前記正中矢状面の画像レジストレーション、及び前記正中矢状面の前記超音波画像の前記追跡空間内の前記追跡位置に基づいて、前記3次元磁気共鳴イメージングボリュームの前記追跡空間へのレジストレーションを生成すること、を含むプロセスを実行させる、
    システム。
JP2020564485A 2018-05-18 2019-05-16 マルチモーダル画像レジストレーション Active JP7341165B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201862673153P 2018-05-18 2018-05-18
US62/673,153 2018-05-18
PCT/EP2019/062709 WO2019219861A1 (en) 2018-05-18 2019-05-16 Multi-modal image registration

Publications (2)

Publication Number Publication Date
JP2021524302A true JP2021524302A (ja) 2021-09-13
JP7341165B2 JP7341165B2 (ja) 2023-09-08

Family

ID=66752043

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020564485A Active JP7341165B2 (ja) 2018-05-18 2019-05-16 マルチモーダル画像レジストレーション

Country Status (6)

Country Link
US (1) US20210251696A1 (ja)
EP (1) EP3794553B1 (ja)
JP (1) JP7341165B2 (ja)
CN (1) CN112292710A (ja)
CA (1) CA3100458A1 (ja)
WO (1) WO2019219861A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3496038A1 (en) * 2017-12-08 2019-06-12 Koninklijke Philips N.V. Registration of static pre-procedural planning data to dynamic intra-procedural segmentation data

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010515472A (ja) * 2006-11-27 2010-05-13 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 事前収集された医用画像に実時間超音波画像を融合させるシステム及び方法
JP2017511728A (ja) * 2014-03-11 2017-04-27 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 同時x平面撮像を用いた画像レジストレーション及び誘導

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7244233B2 (en) * 2003-07-29 2007-07-17 Ntd Laboratories, Inc. System and method for utilizing shape analysis to assess fetal abnormality
KR101121379B1 (ko) * 2009-09-03 2012-03-09 삼성메디슨 주식회사 복수의 뷰에 대한 복수의 단면 영상을 제공하는 초음파 시스템 및 방법
CN103356284B (zh) * 2012-04-01 2015-09-30 中国科学院深圳先进技术研究院 手术导航方法和系统
US9498188B2 (en) * 2012-07-20 2016-11-22 Fujifilm Sonosite, Inc. Enhanced ultrasound imaging apparatus and associated methods of work flow
EP4011298A1 (en) * 2014-11-18 2022-06-15 C. R. Bard, Inc. Ultrasound imaging system having automatic image presentation
EP3106096B1 (en) * 2015-06-12 2020-02-19 Samsung Medison Co., Ltd. Method and apparatus for displaying ultrasound images
JP6745879B2 (ja) * 2015-11-25 2020-08-26 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 身体部内の超音波プローブを追跡するためのシステム
US11064979B2 (en) * 2016-05-16 2021-07-20 Analogic Corporation Real-time anatomically based deformation mapping and correction

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010515472A (ja) * 2006-11-27 2010-05-13 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 事前収集された医用画像に実時間超音波画像を融合させるシステム及び方法
JP2017511728A (ja) * 2014-03-11 2017-04-27 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 同時x平面撮像を用いた画像レジストレーション及び誘導

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JHIMLI MITRA: "MULTIMODAL IMAGE REGISTRATION APPLIED TO MAGNETIC RESONANCE AND ULTRASOUND PROSTATIC IMAGES", HAL, JPN6023007510, 7 February 2012 (2012-02-07), ISSN: 0005076986 *

Also Published As

Publication number Publication date
CA3100458A1 (en) 2019-11-21
JP7341165B2 (ja) 2023-09-08
CN112292710A (zh) 2021-01-29
WO2019219861A1 (en) 2019-11-21
EP3794553B1 (en) 2022-07-06
US20210251696A1 (en) 2021-08-19
EP3794553A1 (en) 2021-03-24

Similar Documents

Publication Publication Date Title
EP3003161B1 (en) Method for 3d acquisition of ultrasound images
CN111161326B (zh) 用于可变形图像配准的无监督深度学习的系统和方法
US9375195B2 (en) System and method for real-time ultrasound guided prostate needle biopsy based on biomechanical model of the prostate from magnetic resonance imaging data
US10290098B2 (en) System for real-time organ segmentation and tool navigation during tool insertion in interventional therapy and method of operation thereof
US20080186378A1 (en) Method and apparatus for guiding towards targets during motion
EP3206747B1 (en) System for real-time organ segmentation and tool navigation during tool insertion in interventional therapy and method of opeperation thereof
JP2018514352A (ja) 後期マーカー配置による融合イメージベース誘導のためのシステムおよび方法
KR20140096919A (ko) 의료 영상 정합 방법 및 장치
KR102090270B1 (ko) 영상 정합 방법 및 장치
CN110458872B (zh) 使用超声弹性成像执行生物力学驱动的图像配准的系统和方法
KR20150118484A (ko) 의료 영상 정합 방법 및 장치
US20180360427A1 (en) Ultrasonic diagnostic apparatus and medical image processing apparatus
RU2769065C2 (ru) Технологический процесс, система и способ компенсации движения при ультразвуковых процедурах
EP3142587B1 (en) Reconstruction-free automatic multi-modality ultrasound registration
US20160074012A1 (en) Apparatus and method of ultrasound image acquisition, generation and display
US9990725B2 (en) Medical image processing apparatus and medical image registration method using virtual reference point for registering images
JP2021524302A (ja) マルチモーダル画像レジストレーション
KR101811826B1 (ko) 워크 스테이션, 이를 포함하는 의료영상 촬영장치 및 그 제어방법
KR20160041803A (ko) 영상 처리 장치, 영상 처리 장치 제어 방법 및 의료 영상 장치
WO2018193731A1 (ja) 体内組織位置測定装置および放射線治療装置、ならびに体内組織位置測定方法
US20220207743A1 (en) System and method for two dimensional acoustic image compounding via deep learning
WO2021018749A1 (en) System and method for real-time fusion of acoustic image with reference image

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220512

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230523

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230606

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230713

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230801

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230829

R150 Certificate of patent or registration of utility model

Ref document number: 7341165

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150