JP2013517909A - 気管支鏡検査法ガイダンスに適用される画像ベースのグローバル登録 - Google Patents

気管支鏡検査法ガイダンスに適用される画像ベースのグローバル登録 Download PDF

Info

Publication number
JP2013517909A
JP2013517909A JP2012551312A JP2012551312A JP2013517909A JP 2013517909 A JP2013517909 A JP 2013517909A JP 2012551312 A JP2012551312 A JP 2012551312A JP 2012551312 A JP2012551312 A JP 2012551312A JP 2013517909 A JP2013517909 A JP 2013517909A
Authority
JP
Japan
Prior art keywords
bronchoscope
branch
view
search
airway tree
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012551312A
Other languages
English (en)
Inventor
ウィリアム エフ ヒギンズ
ラウール カーレ
スコット エイ メリット
Original Assignee
ザ ペン ステイト リサーチ ファンデーション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ザ ペン ステイト リサーチ ファンデーション filed Critical ザ ペン ステイト リサーチ ファンデーション
Publication of JP2013517909A publication Critical patent/JP2013517909A/ja
Pending legal-status Critical Current

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/267Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the respiratory tract, e.g. laryngoscopes, bronchoscopes
    • A61B1/2676Bronchoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/75Determining position or orientation of objects or cameras using feature-based methods involving models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/754Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries involving a deformation of the sample pattern or of the reference pattern; Elastic matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • G06V20/647Three-dimensional objects by matching two-dimensional images to three-dimensional objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • G06V20/653Three-dimensional objects by matching three-dimensional models, e.g. conformal mapping of Riemann surfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30061Lung

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Pulmonology (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Molecular Biology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Otolaryngology (AREA)
  • Physiology (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Endoscopes (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Processing (AREA)

Abstract

グローバルな登録システム及び方法は、大きな気管支鏡操作、専門家の介入、又は電磁気センサを必要とせずに気管支鏡位置を識別する。気道ツリー内の分岐位置のVBビューを含む三次元(3D)気道ツリーの仮想気管支鏡(VB)レンダリングが得られる。少なくとも1つの実際の気管支鏡(RB)ビデオフレームが気道ツリー内に挿入された気管支鏡から受信される。本発明に従うアルゴリズムは、コンピュータ上で受信したRBビューに最も近いVBビューを最も見込みのありそうな分岐位置の幾つかを識別する演算を行う。気道ツリー内の気管支鏡の3D位置はVBビューで識別された分岐位置に従い決定される。好ましい実施例は、ベストマッチを見つけるために使用する二乗距離行列の重みづけ正規化和を用いてグローバルな気道分岐点サーチ空間におけるあらゆる分岐にわたり高速のローカル登録サーチを取り込む。
【選択図】図3

Description

本発明は、全般的には気管支鏡検査法に関連し、特に、画像ベースの気管支鏡検査法ガイダンスシステム及び、他のタイプの内視鏡的な処置を含む他のアプリケーションに有用なグローバル登録システム及び方法に関する。
〔政府支援〕
本発明は、NIH国立癌協会が授与した認可番号R01−CA074325の下で政府支援がされました。
〔関連出願への相互参照〕
本願発明は、2010年2月28日出願の米国仮特許出願第61/299,194号、及び2010年2月3日出願の米国仮特許出願第61/300,969号からの優先権を請求するものであり、これらの出願の全内容が引用により組み込まれる。
気管支鏡検査法は、肺癌評価で通常用いられる医療処置である[1]。肺癌評価は、主に次の2つのステージに関連する[2,3,4]。すなわち、(1)三次元(3D)マルチスライスCT(multi-detector computed-tomography:MDCT)の画像評価、及び(2)生体の気管支鏡検査法、である。MDCT画像評価の間に、医師は患者の二次元(2D)のMDCTスキャンから得られる断面スライスを用いて、リンパ節及び疑わしい結節(こぶ)等の診断上の特定の関心領域(ROI)を鑑別する[5,6,7]。このステップで、医師は各ROIに至る最接近ルートを特定し、2Dスライスを用いた3Dルートを頭の中で計画する。気管支鏡検査の間、医師は事前に頭の中で計画して定義しておいたルートに沿って、各ROIに向かい、気管支鏡を肺気道に通して操作する。これは、気管支鏡から得られる生内腔ビデオフォード(video feed)上のルートに沿った分岐点を識別することによって行われる。この手作業をベースとしたルート計画処置はチャレンジングであることを示し、早ければ第2の気道生成で気管支鏡検査のエラーを生じさせる[8,9]。
画像をガイドした気管支鏡検査ガイダンスシステムは、多くの正確な気管支鏡検査法を可能にする[4,10,11,12,13]。これらのシステムは、仮想の気管支鏡検査法(VB)によって動かさられ、患者の胸部の3DのMDCT画像は“仮想環境”として役に立つ[14,15,16]。ソフトウェア定義の仮想カメラは仮想環境において肺の中をナビゲートし、そして、VB画像としても知られる3Dデータの内腔レンダリングをあらわす。気管支鏡検査中のガイダンスを容易にするため、あらゆる気管支鏡検査ガイダンスシステムは、3DのMDCT仮想空間に対して、3D外科的空間における実際の気管支鏡の登録に関する幾つかの手法に依存する。登録のために用いられるセンサのタイプにより、気管支鏡検査ガイダンスシステムは、電磁気(EM)型か、画像型の何れか一方となる[3,4,11,12,13,15,16,17,18]。
電磁気(EM)型のガイダンスシステムは、1)電磁場ジェネレータ、2)操縦可能なEMプローブ、3)ガイダンス・ソフトウェアら構成される[12,13,17]。電磁場ジェネレータは、患者の胸部まわりに電磁場を発生させる。操縦可能なEMプローブは、気管支鏡検査の作動チャンネルを通して挿入され、且つ、外部の電磁場において追跡される。気管支鏡検査を開始する前に、操縦可能なEMプローブは、外部の電磁場の座標システムとMDCT座標システムをキャリブレーション及び同期させるのに用いる。その結果、EMプローブは気管支鏡検査の間で追跡されるので、MDCT座標システムにおけるその位置は名目上、既知になる。このようなシステムは、三次元のMDCT座標システム内における気管支鏡の先端のグローバルポジションを直ちに確立することが可能である。しかしながら、付近にある金属物体は、強磁性体のデバイス干渉(妨害)を誘導させ、外部電磁場に歪みを導いてしまう[9]。さらに、患者の呼吸は、登録エラーにつながる胸部の動きを生じさせる[20]。これらのエラーは周囲の気道内で拡大される。なぜなら、気道の分岐は一層小さくなり、患者の呼吸で動いてしまうからである。さらに、気管支鏡が特定の関心領域(ROI)に導かれると、生体検査用の手具がROIの組織サンプルを収集するのに挿入されるようにするため、操縦可能なプローブは気管支鏡の作動チェンネルから後退されなければならない。その結果、EM型の気管支鏡ガイダンスシステムは、暗黙のうちにグローバルな登録を提供するのであるが、一方でローカルな登録には悩まされる。これらの問題を軽減する試みとして、EMと画像ベースのガイダンス手法を組み合わせる進行中の研究がある[21,22]。
画像ベースの気管支鏡ガイダンスシステムは、気管支鏡の位置を確立するために、3DのMDCTスキャンから気道ツリーのボリュームレンダリング若しくはサーフェースレンダリングされた内腔画像に依存する。これは、一般的には、仮想の気管支鏡検査法(VB)画像と実際の気管支鏡検査法(RB)のビデオフレームを比較することによってなされる。誤差の二乗の重みづけされた正規化総計(WNSSD)[24]及び正規化された相互情報(NMI)[3,4,26]は、この2つのソース源から得られる画像を比較するために用いられる行列である。Powellの最適化、シンプレックス若しくは勾配方式を用いて登録が実行される。画像ベースの気管支鏡ガイダンス方式は、分岐点でローカルな登録に依存するので、患者の呼吸の動きにあまり影響を受けない。しかしながら、これらの方式は気管支鏡ビデオに頼ることから、患者の咳や粘液性の閉塞症状により生ずる気管支鏡ビデオ内の不自然な結果に影響を受けてしまう。また、利用可能なシステムの殆どは、気管支鏡位置の初期化の際に手作業の登録に依存している。実際の気管支鏡処置の間、グローバルな登録アルゴリズムが存在しないことは、処置時間の増加と気管支鏡の位置における不確かさを導いてします。これは、ひいては、ガイダンスエラーにつながる。その結果、画像ベースの気管支鏡ガイダンス方式は、暗黙のうちに、グローバル登録ではない、秀逸なローカル登録を提供する。
グローバル登録は、イメージ融合[27,28]、リモートセンシング[29,30]、オブジェクト認識[31]、及びロボットナビゲーション[32]などの様々な分野で用いられている。ロボットナビゲーションにおいてグローバル位置を確立することの問題は、画像ベースのコンピュータ誘導気管支鏡法の領域でのグローバル登録と殆ど似ている。ロボットナビゲーションの場合、グローバル登録は、“児童誘拐問題”とも呼ばれている。そこでは、ロボットが任意の姿勢に移動され、どんな動きの予測も利用できないときにその位置を推定しなければならない[32]。Moreno他は、実際の(生の)センサデータを使用し、且つ再帰的に現在の姿勢を推定する進化ローカリゼーションフィルターと命名された非線形フィルターを提示した[32]。マルチ仮説カルマンフィルター[33,34]、グリッドベース確率フィルター[35]、及びモンテカルロ・ローカリゼーション[36]を用いる他の方法もまた、ロボットナビゲーションにおけるグローバル登録の問題を取り組むために使用されてきた。
医療イメージングの領域の場合、グローバル登録は主に、マルチ様式の登録のために用いられてきた。Zhang他は、適合領域強度型超音波及びコンピュータテクノロジー登録を記載している[37]。Munim他は、複数の患者の磁気共鳴(MR)画像を登録するのにベクトル距離関数を使用した[38]。Moghari他は、複雑骨折を、統計に基づく解剖地図モデルに合わせるためのグローバル登録方法を記載した[39]。重要なコンポーネント解析及び未感知のカルマンフィルターが、ローカル及びグローバルの登録それぞれのために用いられた。Fookes他は、この問題を重みづけ共分散の非線形最少二乗関数の最小化として系統立てることによって、同じ患者から複数のMR画像の登録に関する方法を記載した[40]。
画像ベースの気管支鏡法ガイダンスの場合、研究者達は、ローカルな登録の問題に焦点をあててきた。しかしながら、グローバルな登録の問題に取り組んできた例は殆ど無い。これによって、気管支鏡の分岐位置が確立される。Bricaul他は、登録に関してマルチレベルの戦略を提案してきた[23]。この研究では、気管支鏡の分岐位置を識別「するのに、一つの分岐点から隣の分岐点までのサブ区間の壁の関連する位置変化が用いられた。Shinohara他は、固有空間イメージマッチングを用いた分岐識別を記載した[41]。しかしながら、この方法は、気管支鏡の追跡に取り組むものであり、グローバルな登録のために使用されることができない。さらに、これは相互の初期化を要求している。
本発明は、画像ベース気管支鏡法ガイダンスシステム及び他のタイプの内視鏡処置を含む別の応用例に有用なグローバルな登録システム及び方法である。最新の分岐位置を識別することにより同期が復元され、これにより、電磁気センサなどの他の外部デバイスを必要とせずに、グローバルで専門家に頼らない気管支鏡ガイダンスを容易に実行することができる。
気道ツリー内における分岐位置の仮想ビューを含む、3次元気道ツリーの仮想の気管支鏡法(VB)レンダリングが得られる。実際の気管支鏡(RB)ビデオフレームの少なくとも1つは、気道ツリーの中に挿入される気管支鏡から受信される。本発明によるアルゴリズムは、受信されたRBビューに最も近いVBビューを有する幾つかの類似分岐位置を識別するためにコンピュータ上で実行され、そして気道ツリー内の気管支鏡の3次元位置が、VBビューで識別された分岐位置に従い決定される。
アルゴリズムとして、分岐内の探索(サーチ)の後の分岐相互間のサーチを含むオペレーションを高速化する様々な技術を使用する。特に、グローバルな気道分岐点のサーチ空間におけるすべての分岐にわたり、最適一致を決定するのに用いられる二乗距離行列の重みづけされた正規化総計により、高速サーチが実行される。好ましい実施例において、分岐内部サーチは、高速ローカル登録の改良と結びついた矩形を包含するルーメンの予め計算された領域を使用する。
分岐内部サーチは、以下の式で与えられる。

分岐相互間のサーチは、以下の式で与えられる。

は、分岐内部サーチから得られるビューポイントの集合である。
現時点で、サーチ空間分岐毎に3秒要するアルゴリズムの結果を示す。サーチ空間を減少させながら精度を上げる傾向がみてとれる。このアルゴリズムは、同一分岐点のマルチビューを用いるとき、精度比がほぼ90%となる。気道の幻像(ファントム)を使用するとき、テストフレームの照射モデルはVBフレームのために使用するものとは異なり、89%のグローバル登録精度が得られる。
気管支鏡法におけるビデオフレームの歪み補正を示す図である。 気管支鏡法におけるビデオフレームの歪み補正を示す図である。 三次元気道ツリー及び仮想気管支鏡の例を示す図である。 三次元気道ツリー及び仮想気管支鏡の例を示す図である。 三次元気道ツリー及び仮想気管支鏡の例を示す図である。 三次元気道ツリー及び仮想気管支鏡の例を示す図である。 三次元気道ツリー及び仮想気管支鏡の例を示す図である。 三次元気道ツリー及び仮想気管支鏡の例を示す図である。 分岐相互間のサーチに関する事前計算を示す図である。 入力RB分岐を示す図である。 サーチ空間の5つの異なる分岐において分岐相互間のサーチにより見つけられる気管支鏡位置に関連したVB画像を示す図である。 サーチ空間の5つの異なる分岐において分岐相互間のサーチにより見つけられる気管支鏡位置に関連したVB画像を示す図である。 サーチ空間の5つの異なる分岐において分岐相互間のサーチにより見つけられる気管支鏡位置に関連したVB画像を示す図である。 サーチ空間の5つの異なる分岐において分岐相互間のサーチにより見つけられる気管支鏡位置に関連したVB画像を示す図である。 サーチ空間の5つの異なる分岐において分岐相互間のサーチにより見つけられる気管支鏡位置に関連したVB画像を示す図である。 気道の幻像に関する気管支鏡の入力ビデオフレームを示す図である。 気道の幻像に関する気管支鏡の入力ビデオフレームを示す図である。 気道の幻像に関する気管支鏡の入力ビデオフレームを示す図である。 気道の幻像に関する気管支鏡の入力ビデオフレームを示す図である。 気道の幻像に関する気管支鏡の入力ビデオフレームを示す図である。 気道の幻像に関するアルゴリズムによって推定される気管支鏡位置でのVB画像を示す図である。 気道の幻像に関するアルゴリズムによって推定される気管支鏡位置でのVB画像を示す図である。 気道の幻像に関するアルゴリズムによって推定される気管支鏡位置でのVB画像を示す図である。 気道の幻像に関するアルゴリズムによって推定される気管支鏡位置でのVB画像を示す図である。 気道の幻像に関するアルゴリズムによって推定される気管支鏡位置でのVB画像を示す図である。
気管支鏡法の間、医者は気道ツリーを通して気管支鏡を操作する。画像ベースの気管支鏡法ガイダンスシステムは、分岐点で別個のガイダンスを提供する。マルチ検出コンピュータ・トモグラフィー(MDCT)の座標システムを用いた気管支鏡ビデオに見られるビューを登録するために、我々は三次元MDCTデータを用いることによって気管支鏡で見られる画像をモデル化する。
VBビューをモデル化する際に、まず、オフライン手順を用いて気管支鏡カメラがキャリブレートされる[42]。焦点距離f及びカメラのFOV角などのパラメータが計算される。また、図1に示すように、ビデオフレームの樽型(バレル)歪みを修正するための係数が見つけられる。図1A及び図1Bは、気管支鏡のビデオフレームの歪み補正を示し、図1Bは歪み補正後の気管支鏡ビデオフレームを示す。
VBビューを生成するため、ロバストなセグメンテーション・アルゴリズムを用いて気道ツリーを自動的にセグメント化する[43]。マッチングキューブアルゴリズムが、三次元セグメンテーション上で行われ、気道ツリーのポリゴンサーフェースを得る[44]。仮想の気管支鏡は、焦点距離fと気管支鏡カメラと同じ画像ディメンジョンを有するピンホールカメラモデルとして設計される。内腔の気道サーフェースは、焦点に光源があるランバート(Lambertian)として仮定される。副次的な反射は無視する。これらの仮定を用いると、VBビューは図2A〜2Fに示すようなOpenGL[45]を用いてレンダリングされる。仮想の気管支鏡をビューする。図2A〜2Cは、気管内、左主気管支、右主気管支(図2D−2F)内にポジショニングされた三次元気道ツリー及び仮想の気管支鏡(黄色の円筒+グラフィカルな針状葉)と対応するVBビューとの例を示す。
<グローバルな登録の問題>
三次元気道ツリーにおいて気管支鏡の最新の分岐位置が確立されるとき、グロ−バルな登録が定義される。グロ−バル登録問題を系統立てるため、我々は、気管支鏡が気道内に“盲目的に(blindly)”挿入されるシナリオを考慮する。これにより、気管支鏡は幾つかの分岐点に存在することになる。我々は、気管支鏡からの実際の気管支鏡(RB)ビデオフレームをIv(x,y)としてあらわす。仮想気管支鏡から得られる仮想気管支鏡(VB)レンダリングは、ICT(x,y)としてあらわす。気管支鏡の現時点で未だ分かっていないビューポイントはθ=(x,y,z,α、β,γ)であり、(x,y,z)は三次元の空間位置を与え、(α、β,γ)はオイラー角を特定する。グローバルな登録アルゴリズムは、所与のRBビューに最も近いVBビューをもつビューポイントを含む分岐を見つける。
この問題は、最大事後確率(MAP)問題をもたらし得る。その最初の部分は、確率密度推定問題である。我々は、入力気管支鏡ビデオを与えたときに、気管支鏡が使用できる姿勢の空間にわたり事後密度を推定する。この問題はMoreno他によるものと類似する[32]。その論文においてはグローバルな登録のために反復解法が使用されているが、我々はWeiβ他による方法に類似する単一フレームを用いた登録方法を提供する[46]。ビューびMAPポイントより、グローバルな登録問題は最適問題でもあり、我々は、気管支鏡が事後確率密度:
を最大にする姿勢を与える分岐を推定する。
ベイズ理論を用いて、
を得る。
その結果、我々は、
を得る。
仮に、類似度関数C(・,・)が非類似度指標で置換えられる場合、グローバルな登録問題は、
最適分岐は、以下の式(6)で与えられる。
提案したアルゴリズムは、1以上の実際の気管支鏡ビデオフレームを入力として受付け、気道ツリー内の気管支鏡の三次元位置を出力する。このアルゴリズムは、気管支鏡の位置が未知なとき、実際の気管支鏡を行っている間、呼び出される。次ぎに、このアルゴリズムは、気道ツリー内の気管支鏡の位置を決定するだろう。本アルゴリズムを呼び出す前に、気道の分岐点の良好なビューが得られるように医者は気管支鏡をポジショニングする。その結果、図4に示すようなルーメン領域が上手く表示される。本方法の全体精度を向上させるため、同一の分岐点若しくは関連する分岐点(親−娘分岐)の何れか一方でこのアルゴリズムをマルチに実行することが用いられる。本アルゴリズムは、大きくは2つの主なステージ、すなわち、内部分岐サーと分岐相互間サーチとに分けられる。
図3は、分岐内部サーチに関する事前計算を示している。この図は、青線でハイライトされた分岐に関して実行された事前計算をあらわしている。赤の線は、三次元の気道ツリーを通じてあらかじめ定義したセンターライン・ナビゲーション経路である。緑の三角形は、選択された分岐に沿った予め適宜した3つのビューサイト(A,B,C)をハイライト化している。このビューサイトの右側にある図は、VBレンダリング(A1,B1,C1)、ルーメン閾値画像(A2,B2,C2)、及び各ビューサイトに関連する矩形を包含する最小部分(A3,B3,C3)である。上記最小の包含矩形の長手方向の長さは、事前計算中に保存され、後に、所与の分岐においてRBフレームの位置をローカライジング(localizing)するために使用される。
<分岐内部サーチ>
分岐内部サーチは、以下の式(7)であらわされる。

この最適化プロセスは、所与の分岐における可能性のあるすべてのビュー位置におよぶ必要がある。これは、関連する時間が過度となることから、リアルタイムのアルゴリズムにおいては実用的ではない。それゆえ、我々は2つのステップを含む新規な分岐内部サーチを使用する。第1のステップにおいて、分岐内部サーチは、分岐のセンターラインに沿った予め定義されたすべてのビューサイトを通じて高速のスキャンを実行する。第2のステップは、第1のローカル登録を用いながらのレンダー位置調整を含む。気管支鏡のロール角に不確かさがあるので、我々は異なるロール角を用いながら各分岐に対する4つの見込みのある位置のセットを使用する。
ルーメン領域の矩形を包含する最小部分は、図3に示すようにレンダー位置が分岐点に向かったセンターラインに沿って動くとき、その長手寸法において変化がある。これは、センターラインに沿って高速スキャンサーチをすることの基本アイデアとなっている。このサーチの場合、最初に、入力のリアル画像Ivはルーメン領域をセグメントに分けるために閾値化される。p=10の値で閾値化されるpタイルはルーメン領域をセグメントに分けるための良好な結果を与えるよう経験的に見つけられてきた。ルーメン領域がセグメントに分けられると、セグメント領域の凸状体が見つけ出される。我々は、この目的野rために、Bentley-Faust-Preparata(BFP)高速近似の2次元凸状体アルゴリズムを使用する[47]。この凸状体は、図3に示すようなルーメン領域の矩形を包含する最小部分を見つけるのに使用される。この包含矩形の長手寸法は、DimMaxとして保存される。同様の特徴抽出ステップが、事前計算ステップで、すべての分岐の予め定義されたセンターラインビューポイントで実行され、そして包含矩形の長手寸法が保存される。生のグローバル登録の間で、分岐内部サーチは、DimMaxに最も近い特徴値をもつ各分岐で、最高のセンターラインビューポイントを与える。得られるベストなレンダリング位置は固定のロール角を有する。しかしながら、実画像は可能性のある任意のロール角をもつことだろう。これに取り組むため、90度のロール角、180度、及び270度のロール角がこのレンダリング位置に適用され、各分岐に関してベストな4つのレンダリング位置を生じさせる。
実画像は、複数の自由度をもつ気管支鏡から得られる。したがって、前のステップで得られた4つのベストなレンダリング位置は実画像Ivに類似するレンダリング画像Ictを提供しないかもしれない。それゆえ、前のステップから得られる4つのレンダリング位置は、ローカルな登録に関する逆合成方法を用いてさらに調整される[24]。ローカルな登録は、画像比較のためにWNSSD行列を用いる。

ここで我々は、明らかに重みづけされたケースとして以下を使用する。

パラメータ更新は200msで行われ、それは収束するのに十分且つアルゴリズムのトータルランタイムを制限し、各分岐に関して4つの画像レンダリング位置を生じさせる。これらの位置のそれぞれでレンダリングされた画像は、ルーメン領域を得るためにスレッショホールド(閾値)化される。閾値化された画像は、次に、式(11)に記載される行列C1を用いて実画像から得られるルーメン・スレッショホールド画像と比較される。式(7)において、s機器(11)を代入することにより、分岐のベストレンダリング位置を得る。
ここで、

である。
<分岐相互間のサーチ>
分岐相互間のサーチは、以下の式で与えられる。
式(12)において、我々は式(8)で定義したようなWNSSD非類似度行列を使用する。最適なビューポイントは、式(6)を用いて最新の気管支鏡の分岐位置を見つけるのに使用される。
上述したグローバルな登録方法は、式(12)で纏められていた。図4A〜4Fは、サーチ空間の異なる分岐のためのベストなマッチ(合致)を示し、図4Bは分岐内部サーチ後の分岐を正確に識別している。図4Aは入力のRBフレームを示し、図4B〜4Fはサーチ空間の5つの異なる分岐において分岐内部サーチにより発見されたときのベストな気管支鏡の位置に関連するVB画像を示す。分岐内部サーチは、ベスト分岐として図4Bに示すようなレンダリングにより分岐を正確に識別する。

<結果>
グルーバルな登録アルゴリズムの精度を評価するため、我々は3つのセットのテストを実行する。第1のセットにおいて、我々は仮想ケーススタディを用いながらグローバルな登録アルゴリズムを評価した。第2のセットのテストは、気道幻像の気管支鏡の診断検査から得られるRBフレームを用いてグルーバルな登録アルゴリズムの精度を評価した。第3のセットにおいては、我々は複数のテストフレームが用いられたときにアルゴリズムの精度に改善がみられたかを検証した。
<仮想ケースを用いた評価>
グルーバルな登録アルゴリズムは、表1に記載するとおり、承諾済みの患者のCTデータから派生される3つの仮想ケースを用いて評価された。仮想の気管支鏡を用いる一方で、最初の5つの気道の世代から最小の28分岐が用いられた。アルゴリズムのサーチ空間を変化させることによって、4つの異なるテストが実行された。すべてのテストにおいて、仮想の気管支鏡の分岐点ビューは、分岐サーチ空間からランダムに選択された。これは、本テストにおいて、未知の“実際の(生の)気管支鏡ビデオ”として提供された。この分岐点ビューは分岐に沿った任意のビューサイトにランダムに移動させることにより得られる。0〜360度のランダムなロール角が用いられ、最大±5mmの摂動が仮想気管支鏡の位置に適用され、仮想気管支鏡をセンターラインから離して移動させた。第1のセットにおいて、サーチ空間のためにすべての分岐を用いた。第2のセットにおいて、サーチ空間は、左肺又は右肺の何れか一方のみの分岐を用いることによって2つに分けた。第3のセットにおいて、サーチ空間は肺葉の領域に基づき5つの異なる部分に分けた。第4のセットにおいて、同じ分岐の娘であった分岐のみをサーチ空間で用いた。これらのテストの結果を表2にまとめた。グローバルな登録の精度は71%〜92%の範囲であった。28個の気道分岐からのランダムな選択が3.6%の“精度”を与えたに過ぎないことに留意したい。
表1 テストに使用されたケースのまとめ
表2 仮想気管支鏡のケースに対し異なる集合セットのグローバルな登録の精度をパーセント表示
<幻像ケースを用いた評価>
気道幻像テストは、予め構築した気道ツリー幻像における実際の(生の)気管支鏡に関与した[25]。幻像は、直径5.9mmの気管支鏡を用いたときのアクセス可能な5個の分岐点より成る。グローバルな登録を実行するしながら、気管支鏡からの各入力ビデオフレームは入力として使用され、グローバルな登録アルゴリズムの出力はサーチ空間からの5個の分岐のうちの一つであった。テストを実行するために、気管支鏡は異なる5つの分岐のそれぞれに移動され、この気管支鏡操作から収集されたビデオがテストに用いられた。収集ビデオから、良好な分岐点を提供したビデオフレームのみがスタディーにおいて使用された。そのようなフレーム総数として836が得られた。グローバルな登録アルゴリズムは、836個のフレームに対して89%の精度を与えた(図5A〜5J参照)。図5A〜5Jは、気道幻像に関するグローバルな登録の結果を示す。最上行(図5A〜5E)は、入力気管支鏡のビデオフレームであり、最行行(図5F〜5J)はアルゴリズムによって推定された気管支鏡位置でのVB画像である。
<マルチフレームを用いた評価>
マルチフレームを用いてグローバルな登録アルゴリズムの性能を評価するため、表1に記載した仮想ケースを用いた。このテストの設定は、仮想ケースを用いた評価のために使用した設定と同じである。我々は2つのセットのテストを実行した。第1のセットにおいて、同一の分岐点のマルチな“ランダムビュー”がテストのために使用された。本テストの方法論の場合、各フレームはグローバルな登録アルゴリズムによって独立に評価された。最も低いWNSSD行列(式(12)からのベスト値)を与えたフレームがフレーム群の分岐位置を決定した。第2のセットにおいて、2つの連続する分岐からのテストフレームが使用された。両方分岐は独立に評価された。2つのテストフレームのうち、低いWNSSD行列を与えるフレームが分岐の組を決定した。このセットのテストの結果は、表3にまとめられている。グローバルな登録の精度は82%〜99%の範囲である。上記テストのすべてにおいて、グローバルな登録アルゴリズムはサーチ空間分岐毎に2〜3秒の平均時間で実行することがわかった。
表3 仮想気管支鏡のケースに対しマルチテストフレームを用いたときのグローバルな登録の精度をパーセント表示


Claims (28)

  1. 気管支鏡ガイダンス及び他のアプリケーションに有用なグローバルな登録方法であって、
    三次元気道ツリー内の分岐位置の仮想気管支鏡(VB)ビューを含む仮想気管支鏡レンダリングを取得する処理と、
    前記三次元気道ツリー内に挿入された気管支鏡から、少なくとも1つの実際の気管支鏡(RB)ビューを受信する処理と、
    前記受信したRBビューに最も近いVBビューをもつ最適化された分岐位置を識別するためにコンピュータで操作可能なアルゴリズムを提供し実行する処理と、
    前記VBビューで識別された分岐位置に基づき、前記三次元気道ツリー内の気管支鏡の三次元位置を出力する処理と、
    を含む方法。
  2. 前記RBビューはビデオフレームより得られる、請求項1に記載の方法。
  3. 前記アルゴリズムは、前記受信したRBビューに最も近いVBビューをもつ複数の可能性のある分岐位置を識別する、請求項1に記載の方法。
  4. 前記アルゴリズムは、前記三次元気道ツリー内の全体的な気管支鏡位置をレンダリングする領域固有の情報を使用する、請求項1に記載の方法。
  5. 前記領域固有の情報は、活動中の肺の設定又は肺葉位置を含む、請求項4に記載の方法。
  6. 前記気管支鏡から複数のRBビューを受信する処理と、
    前記複数のRBビューに最も近い一つのVBビューをもつ最適化された分岐位置を識別する処理とを更に含む、請求項1に記載の方法。
  7. 前記複数のRBビューは、気道ツリー内の同一又はマルチな分岐位置に関連する、請求項6に記載の方法。
  8. 前記アルゴリズムは、ベストマッチを決定するために二乗距離行列の重みづけ正規化和を用いて、グローバルな気道分岐点サーチ空間におけるあらゆる分岐にわたり高速のサーチを実行する処理を更に含む、請求項1に記載の方法。
  9. 前記アルゴリズムは、分岐内部サーチの後に分岐相互間サーチを実行する、請求項1に記載の方法。
  10. 前記分岐内部サーチは、以下の式で与えられ、
    分岐内部サーチから得られるビューポイントの集合が
    である、請求項9に記載の方法。
  11. 前記分岐内部サーチは、予め計算された矩形ルーメンの矩形領域及び高速ローカル登録の改良を使用する、請求項9に記載の方法。
  12. 気管支鏡ガイダンス及び他のアプリケーションに有用なグローバルな登録方法であって、
    三次元気道ツリー内の分岐位置の仮想気管支鏡(VB)ビューを含む仮想気管支鏡レンダリングを取得する処理と、
    前記三次元気道ツリー内に挿入された気管支鏡から、少なくとも1つの実際の気管支鏡(RB)ビューを受信する処理と、
    前記受信したRBビューに最も近いVBビューをもつ分岐位置を識別するために、分岐内部サーチの後に分岐相互間サーチが続くアルゴリズムをコンピュータ上に提供し実行する処理と、
    前記VBビューで識別された最も可能性のある分岐位置に基づき、前記三次元気道ツリー内の気管支鏡の三次元位置を出力する処理と、
    を含む方法。
  13. 前記アルゴリズムは、前記三次元気道ツリー内の全体的な気管支鏡位置をレンダリングする領域固有の情報を使用する、請求項12に記載の方法。
  14. 前記領域固有の情報は、活動中の肺の設定又は肺葉位置を含む、請求項13に記載の方法。
  15. 前記アルゴリズムは、ベストマッチを決定するために二乗距離行列の重みづけ正規化和を用いて、グローバルな気道分岐点サーチ空間におけるあらゆる分岐にわたり高速のサーチを実行する処理を更に含む、請求項12に記載の方法。
  16. 前記分岐内部サーチは、以下の式で与えられ、
    分岐内部サーチから得られるビューポイントの集合が
    である、請求項12に記載の方法。
  17. 前記分岐内部サーチは、予め計算された矩形ルーメンの矩形領域及び高速ローカル登録の改良を使用する、請求項12に記載の方法。
  18. 気管支鏡ガイダンス及び他のアプリケーションに有用なグローバルな登録システムであって、
    三次元気道ツリー内の分岐位置の仮想気管支鏡(VB)ビューを含む仮想気管支鏡レンダリングを記憶するメモリと、
    前記三次元気道ツリーの実際の気管支鏡(RB)ビューを生成する気管支鏡と、
    前記RBビューを使用して、当該VBのレンダリングをサーチ及び解析し、前記RBビューに最もマッチする気管支鏡位置を識別するコンピュータと、
    前記VBビューで識別された分岐位置に基づき、前記三次元気道ツリー内の気管支鏡の三次元位置を表示するディスプレイと、
    を備えたシステム。
  19. 前記気管支鏡は、1以上のビデオフレーム形式で前記RBビューを出力する、請求項18に記載のシステム。
  20. 前記コンピュータは、受信した前記RBビューに最も近いVBビューをもつ複数の可能性のある分岐位置を識別する、請求項18に記載のシステム。
  21. 前記コンピュータは、前記三次元気道ツリー内の全体的な気管支鏡位置をレンダリングする領域固有の情報を使用する、請求項18に記載のシステム。
  22. 前記領域固有の情報は、活動中の肺の設定又は肺葉位置を含む、請求項21に記載のシステム。
  23. 前記気管支鏡が、複数のRBビューを生成し、
    前記コンピュータが、前記複数のRBビューに最も近い一つのVBビューをもつ最適化された分岐位置を識別する、請求項18に記載のシステム。
  24. 前記複数のRBビューは、気道ツリー内の同一又はマルチな分岐位置に関連する、請求項23に記載のシステム。
  25. 前記コンピュータは、ベストマッチを決定するために二乗距離行列の重みづけ正規化和を用いて、グローバルな気道分岐点サーチ空間におけるあらゆる分岐にわたり高速のサーチを実行する、請求項18に記載のシステム。
  26. 前記コンピュータは、分岐内部サーチの後に分岐相互間サーチを実行する、請求項18に記載のシステム。
  27. 前記分岐内部サーチは、以下の式で与えられ、
    分岐内部サーチから得られるビューポイントの集合が
    である、請求項26に記載のシステム。
  28. 前記分岐内部サーチは、予め計算された矩形ルーメンの矩形領域及び高速ローカル登録の改良を使用する、請求項26に記載のシステム。
JP2012551312A 2010-01-28 2011-01-28 気管支鏡検査法ガイダンスに適用される画像ベースのグローバル登録 Pending JP2013517909A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US29919410P 2010-01-28 2010-01-28
US61/299,194 2010-01-28
US30096910P 2010-02-03 2010-02-03
US61/300,969 2010-02-03
PCT/US2011/022891 WO2011094518A2 (en) 2010-01-28 2011-01-28 Image-based global registration system and method applicable to bronchoscopy guidance

Publications (1)

Publication Number Publication Date
JP2013517909A true JP2013517909A (ja) 2013-05-20

Family

ID=44309460

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012551312A Pending JP2013517909A (ja) 2010-01-28 2011-01-28 気管支鏡検査法ガイダンスに適用される画像ベースのグローバル登録

Country Status (5)

Country Link
US (2) US20110184238A1 (ja)
EP (1) EP2528496A4 (ja)
JP (1) JP2013517909A (ja)
CN (1) CN102883651B (ja)
WO (1) WO2011094518A2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016501557A (ja) * 2012-10-12 2016-01-21 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 分岐した解剖学的構造における医療デバイスの位置決定
US9516993B2 (en) 2013-03-27 2016-12-13 Olympus Corporation Endoscope system
JP2017006671A (ja) * 2015-06-19 2017-01-12 コヴィディエン リミテッド パートナーシップ 仮想気管支鏡検査視野における気道を通ってナビゲートするためのシステムおよび方法
JP2017055954A (ja) * 2015-09-16 2017-03-23 富士フイルム株式会社 内視鏡位置特定装置、方法およびプログラム
JP2018153346A (ja) * 2017-03-16 2018-10-04 富士フイルム株式会社 内視鏡位置特定装置、方法およびプログラム
KR102051410B1 (ko) * 2018-10-25 2019-12-03 인하대학교 산학협력단 대규모 멀티뷰 영상을 위한 확장성 높은 글로벌뷰 및 깊이 생성 방법 및 장치

Families Citing this family (61)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102883651B (zh) * 2010-01-28 2016-04-27 宾夕法尼亚州研究基金会 可应用于支气管镜引导的基于图像的全局配准系统和方法
EP2449954B1 (en) * 2010-05-31 2014-06-04 Olympus Medical Systems Corp. Endoscopic form detection device and form detecting method of insertion section of endoscope
US8672837B2 (en) 2010-06-24 2014-03-18 Hansen Medical, Inc. Methods and devices for controlling a shapeable medical device
US20130303887A1 (en) 2010-08-20 2013-11-14 Veran Medical Technologies, Inc. Apparatus and method for four dimensional soft tissue navigation
US9757021B2 (en) * 2011-02-04 2017-09-12 The Penn State Research Foundation Global and semi-global registration for image-based bronchoscopy guidance
US8900131B2 (en) * 2011-05-13 2014-12-02 Intuitive Surgical Operations, Inc. Medical system providing dynamic registration of a model of an anatomical structure for image-guided surgery
EP3689250B1 (en) * 2011-10-17 2022-12-07 BFLY Operations, Inc. Transmissive imaging and related apparatus and methods
CN102521833B (zh) * 2011-12-08 2014-01-29 东软集团股份有限公司 一种从胸部ct图像中获得气管树的方法及装置
WO2013173227A1 (en) 2012-05-14 2013-11-21 Intuitive Surgical Operations Systems and methods for registration of a medical device using a reduced search space
US10376178B2 (en) 2012-05-14 2019-08-13 Intuitive Surgical Operations, Inc. Systems and methods for registration of a medical device using rapid pose search
US10039473B2 (en) 2012-05-14 2018-08-07 Intuitive Surgical Operations, Inc. Systems and methods for navigation based on ordered sensor records
KR102194463B1 (ko) 2012-08-14 2020-12-23 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 다중 비전 시스템의 정합을 위한 시스템 및 방법
WO2014136576A1 (ja) * 2013-03-06 2014-09-12 オリンパスメディカルシステムズ株式会社 内視鏡システム
CN104780826B (zh) * 2013-03-12 2016-12-28 奥林巴斯株式会社 内窥镜系统
US9057600B2 (en) 2013-03-13 2015-06-16 Hansen Medical, Inc. Reducing incremental measurement sensor error
US9014851B2 (en) 2013-03-15 2015-04-21 Hansen Medical, Inc. Systems and methods for tracking robotically controlled medical instruments
US9271663B2 (en) 2013-03-15 2016-03-01 Hansen Medical, Inc. Flexible instrument localization from both remote and elongation sensors
US9629595B2 (en) 2013-03-15 2017-04-25 Hansen Medical, Inc. Systems and methods for localizing, tracking and/or controlling medical instruments
JP5687811B1 (ja) * 2013-04-15 2015-03-25 オリンパスメディカルシステムズ株式会社 内視鏡システム
US11020016B2 (en) 2013-05-30 2021-06-01 Auris Health, Inc. System and method for displaying anatomy and devices on a movable display
WO2015035287A1 (en) 2013-09-06 2015-03-12 Covidien Lp Microwave ablation catheter, handle, and system
US10201265B2 (en) 2013-09-06 2019-02-12 Covidien Lp Microwave ablation catheter, handle, and system
US10098565B2 (en) 2013-09-06 2018-10-16 Covidien Lp System and method for lung visualization using ultrasound
US10448861B2 (en) * 2013-09-06 2019-10-22 Covidien Lp System and method for light based lung visualization
US9754367B2 (en) * 2014-07-02 2017-09-05 Covidien Lp Trachea marking
CN104306072B (zh) * 2014-11-07 2016-08-31 常州朗合医疗器械有限公司 医疗导航系统及方法
JP6552601B2 (ja) * 2015-03-20 2019-07-31 オリンパス株式会社 画像処理装置、画像処理装置の作動方法および画像処理プログラム
CN108778113B (zh) 2015-09-18 2022-04-15 奥瑞斯健康公司 管状网络的导航
US10709352B2 (en) * 2015-10-27 2020-07-14 Covidien Lp Method of using lung airway carina locations to improve ENB registration
US10143526B2 (en) 2015-11-30 2018-12-04 Auris Health, Inc. Robot-assisted driving systems and methods
WO2017197360A1 (en) * 2016-05-13 2017-11-16 The Regents Of The University Of California Airway mucus impaction
US10244926B2 (en) 2016-12-28 2019-04-02 Auris Health, Inc. Detecting endolumenal buckling of flexible instruments
JP6702902B2 (ja) * 2017-02-24 2020-06-03 富士フイルム株式会社 マッピング画像表示制御装置および方法並びにプログラム
JP6745748B2 (ja) * 2017-03-16 2020-08-26 富士フイルム株式会社 内視鏡位置特定装置、その作動方法およびプログラム
CN108990412B (zh) 2017-03-31 2022-03-22 奥瑞斯健康公司 补偿生理噪声的用于腔网络导航的机器人系统
US10022192B1 (en) 2017-06-23 2018-07-17 Auris Health, Inc. Automatically-initialized robotic systems for navigation of luminal networks
US11058493B2 (en) 2017-10-13 2021-07-13 Auris Health, Inc. Robotic system configured for navigation path tracing
US10555778B2 (en) 2017-10-13 2020-02-11 Auris Health, Inc. Image-based branch detection and mapping for navigation
US10646284B2 (en) 2017-12-05 2020-05-12 Covidien Lp Multi-rigid registration of magnetic navigation to a computed tomography volume
US10984585B2 (en) 2017-12-13 2021-04-20 Covidien Lp Systems, methods, and computer-readable media for automatic computed tomography to computed tomography registration
US11510736B2 (en) 2017-12-14 2022-11-29 Auris Health, Inc. System and method for estimating instrument location
EP3684283A4 (en) 2017-12-18 2021-07-14 Auris Health, Inc. METHODS AND SYSTEMS FOR MONITORING AND NAVIGATION OF INSTRUMENTS IN LUMINAL NETWORKS
JP7225259B2 (ja) 2018-03-28 2023-02-20 オーリス ヘルス インコーポレイテッド 器具の推定位置を示すためのシステム及び方法
JP7214747B2 (ja) 2018-03-28 2023-01-30 オーリス ヘルス インコーポレイテッド 位置センサの位置合わせのためのシステム及び方法
CN114601559B (zh) 2018-05-30 2024-05-14 奥瑞斯健康公司 用于基于定位传感器的分支预测的系统和介质
EP3801189B1 (en) 2018-05-31 2024-09-11 Auris Health, Inc. Path-based navigation of tubular networks
CN112236083B (zh) 2018-05-31 2024-08-13 奥瑞斯健康公司 用于导航检测生理噪声的管腔网络的机器人系统和方法
KR102455671B1 (ko) 2018-05-31 2022-10-20 아우리스 헬스, 인코포레이티드 이미지-기반 기도 분석 및 매핑
JP7536752B2 (ja) 2018-09-28 2024-08-20 オーリス ヘルス インコーポレイテッド 内視鏡支援経皮的医療処置のためのシステム及び方法
US11957319B2 (en) 2018-12-06 2024-04-16 Verathon Inc. Endobronchial ultrasound imaging
US11877806B2 (en) 2018-12-06 2024-01-23 Covidien Lp Deformable registration of computer-generated airway models to airway trees
EP3751524A1 (en) 2019-06-13 2020-12-16 RaySearch Laboratories AB Method, computer program product and computer system for providing an approximate image
JP2022546421A (ja) 2019-08-30 2022-11-04 オーリス ヘルス インコーポレイテッド 位置センサの重みベースの位置合わせのためのシステム及び方法
WO2021038495A1 (en) 2019-08-30 2021-03-04 Auris Health, Inc. Instrument image reliability systems and methods
EP4084721A4 (en) 2019-12-31 2024-01-03 Auris Health, Inc. IDENTIFICATION OF AN ANATOMIC FEATURE AND AIMING
EP4084720A4 (en) 2019-12-31 2024-01-17 Auris Health, Inc. ALIGNMENT TECHNIQUES FOR PERCUTANE ACCESS
WO2021137108A1 (en) 2019-12-31 2021-07-08 Auris Health, Inc. Alignment interfaces for percutaneous access
CN113855242B (zh) * 2021-12-03 2022-04-19 杭州堃博生物科技有限公司 支气管镜的位置确定方法、装置、系统、设备与介质
CN116416413A (zh) * 2021-12-31 2023-07-11 杭州堃博生物科技有限公司 支气管镜的运动导航方法、装置及设备
CN116433874B (zh) * 2021-12-31 2024-07-30 杭州堃博生物科技有限公司 支气管镜导航方法、装置、设备及存储介质
CN114041741B (zh) * 2022-01-13 2022-04-22 杭州堃博生物科技有限公司 数据处理部、处理装置、手术系统、设备与介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000135215A (ja) * 1998-10-30 2000-05-16 Ge Yokogawa Medical Systems Ltd 管路案内方法および装置並びに放射線断層撮影装置
JP2003116772A (ja) * 2001-10-18 2003-04-22 Olympus Optical Co Ltd 内視鏡装置及び内視鏡用フード部材
JP2003265408A (ja) * 2002-03-19 2003-09-24 Mitsubishi Electric Corp 内視鏡誘導装置および方法
WO2004010857A1 (ja) * 2002-07-31 2004-02-05 Olympus Corporation 内視鏡装置
JP2005077831A (ja) * 2003-09-01 2005-03-24 Olympus Corp 工業用内視鏡装置及びこれを用いた検査方法
WO2008095068A1 (en) * 2007-01-31 2008-08-07 The Penn State Research Foundation Method and apparatus for continuous guidance of endoscopy
JP2008541859A (ja) * 2005-05-23 2008-11-27 ザ ペン ステイト リサーチ ファンデーション 3d−2d姿勢推定に基づく案内方法及び生の気管支鏡検査への応用を有する3d−ctレジストレーション
JP2009056239A (ja) * 2007-09-03 2009-03-19 Olympus Medical Systems Corp 内視鏡装置

Family Cites Families (52)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AT399647B (de) * 1992-07-31 1995-06-26 Truppe Michael Anordnung zur darstellung des inneren von körpern
US5782762A (en) * 1994-10-27 1998-07-21 Wake Forest University Method and system for producing interactive, three-dimensional renderings of selected body organs having hollow lumens to enable simulated movement through the lumen
US6702736B2 (en) * 1995-07-24 2004-03-09 David T. Chen Anatomical visualization system
EP1095628A3 (en) * 1999-10-29 2001-05-16 Marconi Medical Systems, Inc. Planning minimally invasive procedures for in - vivo placement of objects
US6939138B2 (en) * 2000-04-12 2005-09-06 Simbionix Ltd. Endoscopic tutorial system for urology
JP3958526B2 (ja) * 2001-02-28 2007-08-15 ペンタックス株式会社 電子内視鏡装置の観察部位表示システム
US7998062B2 (en) * 2004-03-29 2011-08-16 Superdimension, Ltd. Endoscope structures and techniques for navigating to a target in branched structure
US6892090B2 (en) * 2002-08-19 2005-05-10 Surgical Navigation Technologies, Inc. Method and apparatus for virtual endoscopy
US20050272971A1 (en) * 2002-08-30 2005-12-08 Olympus Corporation Medical treatment system, endoscope system, endoscope insert operation program, and endoscope device
GB2395880B (en) * 2002-11-27 2005-02-02 Voxar Ltd Curved multi-planar reformatting of three-dimensional volume data sets
US20050033117A1 (en) * 2003-06-02 2005-02-10 Olympus Corporation Object observation system and method of controlling object observation system
US7822461B2 (en) * 2003-07-11 2010-10-26 Siemens Medical Solutions Usa, Inc. System and method for endoscopic path planning
US7300398B2 (en) * 2003-08-14 2007-11-27 Siemens Medical Solutions Usa, Inc. Method and apparatus for registration of virtual endoscopic images
US20050085717A1 (en) * 2003-10-21 2005-04-21 Ramin Shahidi Systems and methods for intraoperative targetting
EP1680024A2 (en) * 2003-10-21 2006-07-19 The Board Of Trustees Of The Leland Stanford Junior University Systems and methods for intraoperative targetting
JP3820244B2 (ja) * 2003-10-29 2006-09-13 オリンパス株式会社 挿入支援システム
EP2189107A3 (en) * 2003-10-31 2010-09-15 Olympus Corporation Insertion support system
JP3847744B2 (ja) * 2003-11-04 2006-11-22 オリンパス株式会社 挿入支援システム
EP1691666B1 (en) * 2003-12-12 2012-05-30 University of Washington Catheterscope 3d guidance and interface system
EP1722331B1 (en) * 2004-03-03 2010-12-01 NEC Corporation Image similarity calculation system, image search system, image similarity calculation method, and image similarity calculation program
US7811294B2 (en) * 2004-03-08 2010-10-12 Mediguide Ltd. Automatic guidewire maneuvering system and method
JP4698966B2 (ja) * 2004-03-29 2011-06-08 オリンパス株式会社 手技支援システム
ATE484811T1 (de) * 2004-06-23 2010-10-15 Koninkl Philips Electronics Nv Virtuelle endoskopie
EP1876954A4 (en) * 2005-05-02 2009-12-16 Agency Science Tech & Res METHOD AND DEVICE FOR REGISTERING AN ATLAS TO A PICTURE
US7756563B2 (en) * 2005-05-23 2010-07-13 The Penn State Research Foundation Guidance method based on 3D-2D pose estimation and 3D-CT registration with application to live bronchoscopy
US7889905B2 (en) * 2005-05-23 2011-02-15 The Penn State Research Foundation Fast 3D-2D image registration method with application to continuously guided endoscopy
CN1920882A (zh) * 2005-08-24 2007-02-28 西门子共同研究公司 基于显著区域特征的医学图像三维多模配准的系统和方法
US7623900B2 (en) * 2005-09-02 2009-11-24 Toshiba Medical Visualization Systems Europe, Ltd. Method for navigating a virtual camera along a biological object with a lumen
WO2007035688A2 (en) * 2005-09-16 2007-03-29 The Ohio State University Method and apparatus for detecting intraventricular dyssynchrony
US20070167714A1 (en) * 2005-12-07 2007-07-19 Siemens Corporate Research, Inc. System and Method For Bronchoscopic Navigational Assistance
EP1960966B1 (en) * 2005-12-08 2009-05-27 Koninklijke Philips Electronics N.V. System and method for enabling selection of an image registration transformation
WO2007129493A1 (ja) * 2006-05-02 2007-11-15 National University Corporation Nagoya University 医療画像観察支援装置
US7517320B2 (en) * 2006-06-30 2009-04-14 Broncus Technologies, Inc. Airway bypass site selection and treatment planning
US20090156895A1 (en) * 2007-01-31 2009-06-18 The Penn State Research Foundation Precise endoscopic planning and visualization
US9037215B2 (en) * 2007-01-31 2015-05-19 The Penn State Research Foundation Methods and apparatus for 3D route planning through hollow organs
EP2117436A4 (en) * 2007-03-12 2011-03-02 David Tolkowsky DEVICES AND METHODS FOR PERFORMING MEDICAL OPERATIONS IN ARBORESCENT LUMINUM STRUCTURES
JP2008253586A (ja) * 2007-04-06 2008-10-23 Hoya Corp 内視鏡支援システム
CN100517387C (zh) * 2007-06-18 2009-07-22 华中科技大学 一种多相似性测度图像配准方法
JP5208495B2 (ja) * 2007-12-27 2013-06-12 オリンパスメディカルシステムズ株式会社 医療用システム
WO2009101504A2 (en) * 2008-02-12 2009-08-20 Superdimension, Ltd. Controlled perspective guidance method
EP2244633A4 (en) * 2008-02-14 2013-10-23 Penn State Res Found MEDICAL IMAGING SYSTEM AND METHOD
US8219179B2 (en) * 2008-03-06 2012-07-10 Vida Diagnostics, Inc. Systems and methods for navigation within a branched structure of a body
JP5372406B2 (ja) * 2008-05-23 2013-12-18 オリンパスメディカルシステムズ株式会社 医療機器
JP5372407B2 (ja) * 2008-05-23 2013-12-18 オリンパスメディカルシステムズ株式会社 医療機器
RU2011120186A (ru) * 2008-10-20 2012-11-27 Конинклейке Филипс Электроникс, Н.В. Способ и система локализации на основе изображений
CN102883651B (zh) * 2010-01-28 2016-04-27 宾夕法尼亚州研究基金会 可应用于支气管镜引导的基于图像的全局配准系统和方法
WO2011102012A1 (ja) * 2010-02-22 2011-08-25 オリンパスメディカルシステムズ株式会社 医療機器
US20130303887A1 (en) * 2010-08-20 2013-11-14 Veran Medical Technologies, Inc. Apparatus and method for four dimensional soft tissue navigation
US20120130171A1 (en) * 2010-11-18 2012-05-24 C2Cure Inc. Endoscope guidance based on image matching
US9757021B2 (en) * 2011-02-04 2017-09-12 The Penn State Research Foundation Global and semi-global registration for image-based bronchoscopy guidance
WO2012106310A1 (en) * 2011-02-04 2012-08-09 The Penn State Research Foundation Method and device for determining the location of an endoscope
US8900131B2 (en) * 2011-05-13 2014-12-02 Intuitive Surgical Operations, Inc. Medical system providing dynamic registration of a model of an anatomical structure for image-guided surgery

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000135215A (ja) * 1998-10-30 2000-05-16 Ge Yokogawa Medical Systems Ltd 管路案内方法および装置並びに放射線断層撮影装置
JP2003116772A (ja) * 2001-10-18 2003-04-22 Olympus Optical Co Ltd 内視鏡装置及び内視鏡用フード部材
JP2003265408A (ja) * 2002-03-19 2003-09-24 Mitsubishi Electric Corp 内視鏡誘導装置および方法
WO2004010857A1 (ja) * 2002-07-31 2004-02-05 Olympus Corporation 内視鏡装置
JP2005077831A (ja) * 2003-09-01 2005-03-24 Olympus Corp 工業用内視鏡装置及びこれを用いた検査方法
JP2008541859A (ja) * 2005-05-23 2008-11-27 ザ ペン ステイト リサーチ ファンデーション 3d−2d姿勢推定に基づく案内方法及び生の気管支鏡検査への応用を有する3d−ctレジストレーション
WO2008095068A1 (en) * 2007-01-31 2008-08-07 The Penn State Research Foundation Method and apparatus for continuous guidance of endoscopy
JP2009056239A (ja) * 2007-09-03 2009-03-19 Olympus Medical Systems Corp 内視鏡装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016501557A (ja) * 2012-10-12 2016-01-21 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 分岐した解剖学的構造における医療デバイスの位置決定
US10888248B2 (en) 2012-10-12 2021-01-12 Intuitive Surgical Operations, Inc. Determining position of medical device in branched anatomical structure
US11903693B2 (en) 2012-10-12 2024-02-20 Intuitive Surgical Operations, Inc. Determining position of medical device in branched anatomical structure
US9516993B2 (en) 2013-03-27 2016-12-13 Olympus Corporation Endoscope system
JP2017006671A (ja) * 2015-06-19 2017-01-12 コヴィディエン リミテッド パートナーシップ 仮想気管支鏡検査視野における気道を通ってナビゲートするためのシステムおよび方法
US10163262B2 (en) 2015-06-19 2018-12-25 Covidien Lp Systems and methods for navigating through airways in a virtual bronchoscopy view
US10453257B2 (en) 2015-06-19 2019-10-22 Covidien Lp Systems and methods for navigating through airways in a virtual bronchoscopy view
JP2017055954A (ja) * 2015-09-16 2017-03-23 富士フイルム株式会社 内視鏡位置特定装置、方法およびプログラム
US10561338B2 (en) 2015-09-16 2020-02-18 Fujifilm Corporation Endoscope position identifying apparatus, endoscope position identifying method, and recording medium having an endoscope position identifying program recorded therein
JP2018153346A (ja) * 2017-03-16 2018-10-04 富士フイルム株式会社 内視鏡位置特定装置、方法およびプログラム
KR102051410B1 (ko) * 2018-10-25 2019-12-03 인하대학교 산학협력단 대규모 멀티뷰 영상을 위한 확장성 높은 글로벌뷰 및 깊이 생성 방법 및 장치

Also Published As

Publication number Publication date
EP2528496A4 (en) 2015-02-25
US20180220883A1 (en) 2018-08-09
EP2528496A2 (en) 2012-12-05
CN102883651A (zh) 2013-01-16
CN102883651B (zh) 2016-04-27
US20110184238A1 (en) 2011-07-28
WO2011094518A2 (en) 2011-08-04
WO2011094518A3 (en) 2011-11-10
US10667679B2 (en) 2020-06-02

Similar Documents

Publication Publication Date Title
JP2013517909A (ja) 気管支鏡検査法ガイダンスに適用される画像ベースのグローバル登録
US10660708B2 (en) Dynamic 3D lung map view for tool navigation inside the lung
US11896414B2 (en) System and method for pose estimation of an imaging device and for determining the location of a medical device with respect to a target
US11701184B2 (en) System and method for catheter detection in fluoroscopic images and updating displayed position of catheter
US20170084036A1 (en) Registration of video camera with medical imaging
JP2013031660A (ja) 医療映像処理方法及び装置、映像誘導を利用したロボット手術システム
US11847730B2 (en) Orientation detection in fluoroscopic images
Wang et al. A visual SLAM-based bronchoscope tracking scheme for bronchoscopic navigation
WO2019118395A1 (en) Systems, methods, and computer-readable media for non-rigid registration of electromagnetic navigation space to ct volume
US20210052146A1 (en) Systems and methods for selectively varying resolutions
US20200297292A1 (en) Catheter tip detection in fluoroscopic video using deep learning
Khare et al. Toward image-based global registration for bronchoscopy guidance
CN115120345A (zh) 导航定位方法、装置、计算机设备和存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140109

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141031

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141104

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150413