JP2015526133A - ロボット操作される内視鏡を使用した血管可視化の向上 - Google Patents

ロボット操作される内視鏡を使用した血管可視化の向上 Download PDF

Info

Publication number
JP2015526133A
JP2015526133A JP2015519422A JP2015519422A JP2015526133A JP 2015526133 A JP2015526133 A JP 2015526133A JP 2015519422 A JP2015519422 A JP 2015519422A JP 2015519422 A JP2015519422 A JP 2015519422A JP 2015526133 A JP2015526133 A JP 2015526133A
Authority
JP
Japan
Prior art keywords
image
anatomical target
composite image
progress
field
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015519422A
Other languages
English (en)
Other versions
JP6382802B2 (ja
JP2015526133A5 (ja
Inventor
アレクサンドラ ポポヴィッチ
アレクサンドラ ポポヴィッチ
ハイサム エルハワリー
ハイサム エルハワリー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV, Koninklijke Philips Electronics NV filed Critical Koninklijke Philips NV
Publication of JP2015526133A publication Critical patent/JP2015526133A/ja
Publication of JP2015526133A5 publication Critical patent/JP2015526133A5/ja
Application granted granted Critical
Publication of JP6382802B2 publication Critical patent/JP6382802B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • A61B1/00149Holding or positioning arrangements using articulated arms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00172Optical arrangements with means for scanning
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/005Flexible endoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/313Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes
    • A61B1/3132Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for introducing through surgical openings, e.g. laparoscopes for laparoscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4887Locating particular structures in or on the body
    • A61B5/489Blood vessels
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61FFILTERS IMPLANTABLE INTO BLOOD VESSELS; PROSTHESES; DEVICES PROVIDING PATENCY TO, OR PREVENTING COLLAPSING OF, TUBULAR STRUCTURES OF THE BODY, e.g. STENTS; ORTHOPAEDIC, NURSING OR CONTRACEPTIVE DEVICES; FOMENTATION; TREATMENT OR PROTECTION OF EYES OR EARS; BANDAGES, DRESSINGS OR ABSORBENT PADS; FIRST-AID KITS
    • A61F2/00Filters implantable into blood vessels; Prostheses, i.e. artificial substitutes or replacements for parts of the body; Appliances for connecting them with the body; Devices providing patency to, or preventing collapsing of, tubular structures of the body, e.g. stents
    • A61F2/02Prostheses implantable into the body
    • A61F2/04Hollow or tubular parts of organs, e.g. bladders, tracheae, bronchi or bile ducts
    • A61F2/06Blood vessels
    • A61F2/062Apparatus for the production of blood vessels made from natural tissue or with layers of living cells
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B2034/302Surgical robots specifically adapted for manipulations within body cavities, e.g. within abdominal or thoracic cavities
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B2090/364Correlation of different images or relation of image positions in respect to the body
    • A61B2090/365Correlation of different images or relation of image positions in respect to the body augmented reality, i.e. correlating a live optical image with another image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Veterinary Medicine (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Optics & Photonics (AREA)
  • Signal Processing (AREA)
  • Vascular Medicine (AREA)
  • Gastroenterology & Hepatology (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Pulmonology (AREA)
  • Cardiology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Transplantation (AREA)
  • Robotics (AREA)
  • Endoscopes (AREA)
  • Image Processing (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

解剖学的ターゲットを可視化するシステムは、撮像される領域よりも小さい視野を有する内部撮像のための検査鏡102を含む。計画モジュール104は、撮像される領域の合成画像を生成するように、検査鏡の複数の視野画像がステッチされるように検査鏡からのビデオを受け取る。画像ガイダンスモジュール106は、検査鏡の視野内で生成された画像が、合成画像のフィールド上にオーバレイされるライブビデオとして表示されるように、処置の間、解剖学的ターゲットに沿って検査鏡を移動させる。

Description

本開示は、医療機器及び方法、より具体的には、医学的応用における解剖学的内部構造の可視化を向上させるシステム及び方法に関する。
冠動脈バイパス術(CABG)は、閉塞した冠動脈の血管再開通のための外科的処置である。従来の外科手術では、患者の肋骨が開かれ、心臓が完全に露出される。しかし、低侵襲(MI)バイパス外科手術は、小さいポートを介して行われる。CABG処置の重要な部分は、患者の体から血管を取り出すことである。その血管は、冠動脈における1つ以上のアテローム性狭窄箇所にバイパス形成するために使用される。最も一般的に取り出されて使用される血管は、内胸動脈(IMA)であり、左内胸動脈(LIMA)又は右内胸動脈(RIMA)を含み、胸腔内にある。
MI心臓バイパス術の間、これらの血管に直接アクセスすることはできず、これらの血管は、肋骨の間の空間内の肋間筋を通るポート内に挿入される長い器具を使用して取り出される。MI手術の間、外科助手が内視鏡を持つか、又は、内視鏡はロボットガイダンスを使用して保持される。ロボットガイダンスの場合、ロボットを特定の場所に移動させるために、視覚サーボが使用される。視覚サーボは、内視鏡画像上の点を選択し、当該点が画像の中心となるようにロボットが移動することから構成される。
IMAの取り出し(takedown)は、通常、CABG処置のうち最も時間のかかる部分である。IMAの取り出しは、通常、45〜60分かかり、バイパス形成術の成功は、通常、摘出される血管の質に依存する。
処置のこの段階における主な課題は次を含む。即ち、内視鏡画像が、この処置のための唯一の可視化方法であるが、内視鏡は、血管の小さいセグメントの限られた視野しか提供しない。MIのために、外科医は、肋骨間に挿入され、胸骨領域の下に到達する細長い器具を用いて作業する。しかし、これは作業を困難にする。摘出される動脈は、周囲組織から慎重に分離されなければならず、また、側枝は焼灼されなければならないからである。
例えばLIMA動脈の長さは、冠動脈上のバイパス形成位置に届くように十分でなければならない。(領域全体が可視で、アクセス可能であることにより、摘出される血管動脈の長さを推定することのできる観血手術とは対照的に)MI処置の間に摘出される血管動脈の長さを推定することは非常に困難である。LIMAは、胸の中央及び下部から取り出されるので、LIMAは、組織内により埋め込まれている傾向があり、分離が遅くなり、動脈及び側枝の可視化をより一層困難なものにしてしまう。
動脈を分離する技術的難しさとバイパス形成に必要な長さが分からないということが合わさると、処置時間が長くなる。これは、外科医がより困難な遠位領域において必要であるよりも大幅に長い動脈セグメントを分離するか、又は、短過ぎるセグメントを分離することで動脈を再び分離するために後で戻ることが必要となることによる。
本発明の例示的な実施形態によれば、本明細書において説明される解剖学的ターゲットを可視化するシステムは、撮像される領域よりも小さい視野を有する内部撮像のための検査鏡を含む。計画モジュールが、撮像される領域の合成画像を生成するように、検査鏡の複数の視野画像がステッチされるように検査鏡からのビデオを受け取る。画像ガイダンスモジュールは、検査鏡の視野内で生成された画像が、合成画像のフィールド上にオーバレイされるライブビデオとして表示されるように、処置の間、解剖学的ターゲットに沿って検査鏡を移動させる。
例えば、計画モジュールは、合成画像内の解剖学的ターゲットに関連する関心点を選択する。当該システムは、検査鏡をガイドするロボットを更に含み、画像ガイダンスモジュールは、検査鏡をガイドするために、当該関心点を使用する。計画モジュールは、解剖学的ターゲットの高められたマップを提供するように、合成画像上に手術画像を位置合わせし、オーバレイする。当該システムは、例えば全寸法に対する検査鏡の進捗を示すように、合成画像と共に表示される進捗インジケータを更に含む。解剖学的ターゲットは、分離されるべき血管を含み、進捗インジケータは、血管の全長に対して分離された部分を示す進捗のパーセンテージ及び/又は進捗グラフを含む。計画モジュールは、全長を推定するために、血管の術前画像を使用することも可能である。解剖学的ターゲットは、例えば、バイパス形成術に使用するための内胸動脈(IMA)を含む。更に、検査鏡は、フレキシブル内視鏡を含んでもよい。
本発明の別の例示的な実施形態によれば、本明細書において説明される解剖学的ターゲットを可視化するシステムは、プロセッサと、当該プロセッサに結合されるメモリとを含む。メモリは、解剖学的ターゲットの合成画像を形成するように、検査鏡から受け取られる解剖学的ターゲットの複数の視野画像をステッチする計画モジュールを含む。画像ガイダンスモジュールは、検査鏡の視野内で生成された画像が、合成画像のフィールド上にオーバレイされるライブビデオとして表示されるように、合成画像を使用して解剖学的ターゲットに沿って検査鏡を移動させる。
例えば、計画モジュールは、合成画像内の解剖学的ターゲットに関連する関心点を選択する。当該システムは、検査鏡をガイドするロボットを更に含み、画像ガイダンスモジュールは、検査鏡をガイドするために、関心点を使用する。計画モジュールは、解剖学的ターゲットの高められたマップを提供するように、合成画像上に手術画像を位置合わせし、オーバレイする。当該システムは、画像ガイダンスモジュールによって生成され、例えば全寸法に対する検査鏡の進捗を示すように合成画像と共に表示される進捗インジケータを更に含む。解剖学的ターゲットは、分離されるべき血管を含み、進捗インジケータは、血管の全長に対して分離された部分を示す進捗のパーセンテージ及び/又は進捗グラフを含む。計画モジュールは、全長を推定するために、血管の術前画像を使用する。解剖学的ターゲットは、例えば、バイパス形成術に使用するための内胸動脈(IMA)を含む。更に、検査鏡は、フレキシブル内視鏡を含んでもよい。
本発明の更に別の例示的な実施形態によれば、本明細書において説明される解剖学的ターゲットを可視化する方法は、検査鏡の視野を使用して解剖学的ターゲットの一部を撮像するステップと、当該一部を使用して解剖学的ターゲットの合成画像を形成するステップと、合成画像内の関心点を選択するステップと、検査鏡の視野内で生成された画像が、合成画像のフィールド上にオーバレイされるライブビデオとして表示されるように、始点から解剖学的ターゲットに沿って移動するステップとを含む。
例えば、当該方法は、解剖学的ターゲットの高められたマップを提供するように、合成画像上に、術中又は術前画像を位置合わせし、オーバレイするステップを更に含む。更に、当該方法は、全寸法に対する検査鏡の進捗を示すように進捗インジケータを生成するステップを更に含む。解剖学的ターゲットは、分離されるべき血管を含み、進捗インジケータを生成するステップは、例えば、血管の全長に対して分離された部分を示す進捗のパーセンテージ又は進捗グラフの少なくとも1つを示すことを含む。検査鏡の視野を使用して解剖学ターゲットの一部を撮像するステップは、ガイダンスのための関心点を使用して、検査鏡をロボットで移動させるステップを含む。当該方法は更に、視覚サーボを使用して、検査鏡を移動させるステップを含む。解剖学的ターゲットは、内胸動脈(IMA)を含み、解剖学的ターゲットに沿って移動するステップは、バイパス形成術に使用するためにIMAを分離するステップを含むことが可能である。当該方法は更に、合成画像から解剖学的ターゲットの長さを測定するステップを含む。
本開示のこれらの及び他の目的、特徴及び利点は、添付図面に関連して読まれるべき、その例示的な実施形態の以下の詳細な説明から明らかとなろう。
本開示は、以下の図面を参照して好適な実施形態の以下の説明を詳細に提示する。
図1は、一実施形態に係る解剖学的ターゲットを可視化するシステムを示すブロック/フロー図である。 図2は、一実施形態に係る解剖学的ターゲットを可視化するシステムを示すブロック/フロー図である。 図3は、1つの例示的な実施形態に従って、血管の取り出し及び/又は動脈バイパス形成を行うためのシステムセットアップを示す図である。 図4は、1つの例示的な実施形態に従って、取出される血管全体の視野よりも小さい視野を有する内視鏡を有する図3のシステムセットアップを示す図である。 図5は、一実施形態に従って内胸動脈の内視鏡ビデオからの視野がステッチされた合成画像を示す画像である。 図6は、一実施形態に従って割り当てられた関心点を有する合成画像を示す画像である。 図7は、一実施形態に従って内胸動脈の位置合わせされ及びオーバレイされた手術画像(術前及び/又は術中)を有する合成画像を示す画像である。 図8は、一実施形態に従って、合成画像上にオーバレイされたライブビデオ視野挿入画像を有する合成画像を示し、進捗(%)及び内胸動脈の長さを示す画像である。
本発明の原理によれば、上記の血管分離の問題を解決するために、血管分離計画及び実行システムが提供される。本発明の原理は、ほんの小さなセグメントではなく、血管(例えばLIMA)の大部分を示す大幅に拡大された視野を提供して、血管に関する追加情報を提供する。この追加情報は、例えば摘出のために分離されている血管の長さ、所望のバイパス形成長さに対する血管分離の進捗、及び、焼灼される必要のある側枝の位置を含む。
なお、本発明は、冠動脈のバイパス形成処置に使用する医用器具の観点から説明されるが、本発明の教示内容は、それよりも広く、ターゲット解剖学的構造の向上された可視化が必要又は所望される任意の器具又は処置に適用可能である。幾つかの実施形態では、本発明の原理は、複雑な生物系又は機械系を追跡又は分析する際に使用される。特に、本発明の原理は、生物系の内部追跡法、及び、肺、胃腸管、排出器官、血管等といった人体のあらゆる領域における処置に適用可能である。図面に示される要素は、ハードウェア及びソフトウェアの様々な組み合わせで実施されてよく、単一の要素又は複数の要素に組み合わされてもよい機能を提供する。
図面に示される様々な要素の機能は、専用ハードウェアだけでなく、適切なソフトウェアと関係してソフトウェアを実行可能であるハードウェアの使用を介して提供される。機能は、プロセッサによって提供される場合は、単一の専用プロセッサ、単一の共有プロセッサ、又は、複数の個別のプロセッサによって提供されてもよい。複数の個別のプロセッサのうちの幾つかは共有されてもよい。また、「プロセッサ」又は「コントローラ」といった用語の明白な使用は、ソフトウェアを実行可能なハードウェアを排他的に指すものと解釈されるべきではなく、当該使用は、限定されることなく、デジタル信号プロセッサ(「DSP」)ハードウェア、ソフトウェアを記憶するための読出し専用メモリ(「ROM」)、ランダムアクセスメモリ(「RAM」)、不揮発性記憶装置等を非明示的に含む。
更に、本発明の原理、態様及び実施形態、並びに、それらの特定の例を列挙する本明細書における記述はすべて、構造とその機能的等価物との両方を含むことを意図している。更に、このような等価物は、現在知られている等価物だけでなく、将来に開発される等価物(即ち、構造に関係なく、同じ機能を実行するように開発される等価物)の両方を含むことを意図している。したがって、例えば当業者であれば、本明細書に提示されるブロック図は、本発明の原理を具現化する例示的なシステムコンポーネント及び/又は回路の概念的な図を表すことは理解できよう。同様に、当然ながら、任意のフローチャート、フロー図等は、コンピュータ可読記憶媒体内に実質的に表現され、したがって、コンピュータ又はプロセッサが明示的に示されているかどうかに関係なく、当該コンピュータ又はプロセッサによって実行される様々なプロセスを表す。
更に、本発明の実施形態は、コンピュータ若しくは任意の命令実行システムによって使用される又は当該コンピュータ若しくは任意の命令実行システムに関連してプログラムコードを提供するコンピュータ使用可能若しくはコンピュータ可読記憶媒体からアクセス可能なコンピュータプログラムプロダクトの形態を取ってよい。この説明のために、コンピュータ使用可能又はコンピュータ可読記憶媒体は、命令実行システム、装置又はデバイスによって使用される又は当該命令実行システム、装置又はデバイスに関連してプログラムを含む、記憶する、通信する、伝播する又は輸送する任意の装置であってよい。媒体は、電子、磁気、光、電磁気、赤外線若しくは半導体システム(又は装置若しくはデバイス)、又は、伝播媒体であってもよい。コンピュータ可読媒体の例としては、半導体又は固体メモリ、磁気テープ、取外し可能なコンピュータディスク、ランダムアクセスメモリ(RAM)、読出し専用メモリ(ROM)、剛性磁気ディスク及び光ディスクが挙げられる。光ディスクの現在の例としては、コンパクトディスク−読出し専用メモリ(CD−ROM)、コンパクトディスク−読出し/書込み(CD−R/W)、ブルーレイ(登録商標)及びDVDが挙げられる。
次に、同様の参照符号が同じ又は同様の要素を表す図面を参照する。まず、図1を参照すると、一実施形態に係る低侵襲外科処置用のシステム100が例示的に示される。システム100は、処置を監視及び/又は管理するワークステーション又はコンソール112を含む。ワークステーション112は、1つ以上のプロセッサ114と、プログラム及びアプリケーションを記憶するメモリ106とを含むことが好適である。メモリ116は、計画モジュール104と、医療デバイス102と共に動作するように使用される画像ガイダンスモジュール106とを記憶していてもよい。医療デバイス102は、カテーテル、ガイドワイヤ、プローブ、内視鏡、フレキシブル内視鏡、ロボット、電極、フィルタデバイス、バルーンデバイス又は他の医療コンポーネント等のうちの1つ以上が設置される撮像デバイス105(例えばカメラ、レンズ付き光ファイバ等)を含む。デバイス102は、患者の体106内に挿入される。一実施形態では、行われる処置は、低侵襲冠動脈手術を含み、デバイス102は、血管(例えばIMA)といった解剖学的ターゲット131を観察し、分離するために、体160の胸腔162内に挿入される。
計画モジュール104は、次の要素及び特徴を含む。例えば冠動脈バイパス形成処置のために血管を取り出す間、計画モジュール104は、例えばIMAである摘出されるターゲット血管の可視化の制御のために計画する一方で、外科医が、他の器具を操作することを可能にする。計画モジュール104は、大局的な視野を提供するように、IMAに沿って画像のステッチングを制御し、更に、例えば当技術分野において知られている方法を使用して、内視鏡ビデオ上に術前(又は術中)画像をオーバレイすることを可能にする画像位置合わせを提供する。計画モジュール104は、画像ガイダンスモジュール106と共に使用するために参照される又はインデックス付けされるターゲット関心点の選択を提供する。計画モジュール104は更に、(例えばステッチ/合成画像を使用して)血管又は他の解剖学的特徴の長さの計算も提供する。
計画モジュール104は、撮像デバイス110を使用して撮られた術前又は術中画像といった手術画像を位置合わせし、オーバレイするために使用される。撮像デバイス110は、画像を収集するために、同時に又は別の時間及び位置において使用されてもよい。手術画像135は、3次元の術前のコンピュータ断層撮影(CT)画像若しくは磁気共鳴画像(MRI)等、又は、術中のX線又は超音波を含んでもよい。他の撮像モダリティも考えられる。手術画像135は、内視鏡画像中では見ることが困難である解剖学的ターゲット131の特徴を図示するために、オーバレイ画像107内に使用される。
画像ガイダンスモジュール106は、好適には、例えば内視鏡であるデバイス102を支持するロボットシステム108を制御することによって、デバイス102の画像に基づいた制御を提供する。オーバレイ画像107は、画像処理モジュール148及び計画モジュール104を使用して生成される。オーバレイ画像107は、合成画像124上に可視化される現在のライブ内視鏡画像134を含む。合成画像124は、デバイス102によって撮られた画像の複数の視野のステッチされた視野である。画像ガイダンスモジュール106は、十分な進捗が達成された時を判断するために、分離された血管の長さを所望の長さと比較することができる進捗の定量化を提供する。
画像ガイダンスモジュール106は、ロボットシステム108を、ターゲット解剖学的構造131の長さに沿ってガイドする。一実施形態では、デバイス102が、計画段階で割り当てられた関心点を使用してガイドされる。
ワークステーション112は、被験者(患者)又はボリュームの内部像を見るためのディスプレイ118を含み、オーバレイ又はデバイス102から収集された画像上に生成される他のレンダリングを有する画像を含む。ディスプレイ118は更に、ユーザがワークステーション112並びにそのコンポーネント及び機能、又は、システム100内の任意の他の要素とインタラクトできるようにする。このことは、ワークステーション112からのフィードバック及びワークステーション112とのインタラクションを可能にするキーボード、マウス、ジョイスティック、触覚デバイス又は任意の他の周辺機器若しくは制御器を含むインターフェース120によって容易にされる。
図2を参照するに、本発明の原理に従って処置を行う方法は、2つのパートを含む。処置の第1のパートは、計画モジュール104によって行われ、第2のパートは、血管分離を容易にするために画像ガイダンスモジュール106によって行われる。計画モジュール104は、ステップ202乃至212を行う。画像ガイダンスモジュール106は、ステップ214乃至220を行う。処置の間、図3に示される術中セットアップが使用される。他の実施形態では、図2のタスクのうちの一部又はすべてが、異なるモジュール(104及び/又は106)によって共有される又は行われる。
図2を引き続き参照しながら、図3を参照する。内視鏡302がロボットシステム304によって保持される一方で、外科医によってIMA310を分離するために2つの器具306、308が使用され、保持されている。内視鏡302は、肋骨312間へのアクセスを可能にするポート(図示せず)を通り胸腔内に挿入される。これは、助手が内視鏡を持つ従来のセットアップとは異なる。ロボットシステム304(内視鏡ホルダ)は、提供される画像に基づいて命令を発行することによって、可視化に関して外科医による完全な制御を可能にする。
ステップ202において、ターゲット領域について術前又は術中画像が得られる。術前画像は、前もって撮られた患者のボリューム画像を含む。これは、コンピュータ断層撮影(CT)撮像、磁気共鳴撮像(MRI)又は任意の他の撮像モダリティを含む。術中画像は、X線撮像、直接的写真撮影(例えば内視鏡カメラを介する)等を含む。ステップ204において、内視鏡302が、胸部内に挿入される。ステップ206において、内視鏡は、有用な視野を提供する位置に動かされる。一実施形態では、内視鏡は、処置の間、内視鏡視野の中心を関心領域上に合わせることを含む視覚サーボと呼ばれる技術を使用して操作される。他の内視鏡移動技術が使用されてもよい。
ステップ208において、ターゲット血管の合成画像が収集される。内視鏡の視野は限られているため、ターゲット血管に沿った複数の画像が収集され、例えばIMAであるターゲット領域全体の合成画像を形成するように、互いにステッチされる。図4は、合成画像用の画像を撮る内視鏡302の視野(FOV)コーン402を例示的に示す。
ステップ210において、合成画像上に解剖学的関心点が選択される。これらの点は、IMAから側枝が生じる領域、又は、健康若しくは不健康な組織の領域、瘢痕領域等を含む。関心点は、処置の様々な時点において、内視鏡をロボットによって合焦させる又は移動させるためのアドレス位置として使用される。ステップ212において、術前又は術中画像と、内視鏡から収集された合成画像との間で位置合わせが行われる。
ステップ214において、内視鏡(又は少なくとも内視鏡の視野)が、最初の位置に移動される。この位置は、最初のスキャン位置として選択され、関心領域の端に設定されることが好適である。ステップ216において、内視鏡の現在の視野が、合成画像の対応する部分の上にオーバレイされる。現在の視野は、図3において、ボックス320内に示される。合成画像322に、ライブビュー画像320がオーバレイされる。ステップ218において、血管の一部が分離されるにつれて、全長に対する進捗の長さを示す進捗バーが組み入れられる。例えば合成画像が横断されるにつれて、全長のうちの分離されている一部が、パーセンテージ、又は、焼灼された側枝の数として示される又は計算される。図3では、全長326が図示され、進捗長さ324が示される。ステップ220において、進捗は、完了するまで続く。
図5乃至図8を参照するに、本発明の実施形態をより完全に説明するために、IMAの例示的な画像が示されている。これらの例は、例示的であり、当然ながら、本発明の原理は、任意の外科的処置、又は、(例えばトレーニングシステムにおいてや、例えばエンジンブロックといった機械システム、骨董品等の)内部構造を確認若しくは分析するための任意のシステム/方法に適用されてもよい。
図5を参照するに、広視野画像のための画像ステッチングが例示的に示されている。内視鏡が定位置にあり、LIMA血管の先頭に向けて置かれた状態で、外科医は、広視野の獲得を開始できる。これをするためには、外科医又はロボットは、未較正ロボット視覚サーボ又は他の技術を使用して、内視鏡を、LIMAの可視部分に沿って移動させる。このようにして、外科医は、LIMAに沿って位置を選択し、内視鏡は、これに応じて移動する。外科医は更に、外科的器具をガイドとして使用することもでき、当該器具が移動するにつれて、内視鏡がツールの先端を追随する。このステップは、動脈の全長を観察するために助手又は外科医によって内視鏡が動かされる臨床診療に似ている。
移動する内視鏡によって収集された複数の画像をステッチするためには、画像のステッチングを行うために使用される既知の方法が変更される。画像は、マッチングアルゴリズム又は他の画像処理技術を使用する。1つの変更点は、内視鏡の種類に関する。この実施形態では、内視鏡は、斜視型でかつ前方視型である。第2の変更点は、内視鏡の動作に関する。内視鏡の動作は、画像処理モジュール148(図1)によって予めプログラムされて、ゲートされる。この実施形態では、動作は、外科医のコマンドによって生成され、ゲートされる。他の変更点は、フレキシブル内視鏡の使用を伴う。
動作は、ユーザによって定義されるが、ステッチングに使用される画像の照合は、オーバラップ量とオーバラップした画素のRGB値における残余誤差とに基づいて、捕捉画像を最適化することによって行われる。画像は、合成画像500を形成するように位置合わせされる。合成画像500は、血管(例えばIMA)の全長を含む。血管の全長は、(スケール又は基準を使用して)画像から計算されるか、又は、画像内を内視鏡若しくは他のツールが進んだ距離に基づいて計算される。最終的に得られる結果は、ある一定の時間に亘って内視鏡によって獲得された個々の画像からステッチされているIMA502の長さに沿った一連の画像(視野画像504)を含む合成画像500である。
図6を参照するに、関心点602が選択され、示されている合成画像500が示されている。IMA502の関連部分の合成画像500が生成されると、血管分離を計画するために、合成画像500上の幾つかの解剖学的関心点602が選択される。これらの点602は、(これらの点を画像上にオーバレイすることによって)記憶され、処置の間に参照される。或いは、点602が選択されると、ロボット内視鏡ホルダは、内視鏡をその位置に移動し、ロボットの関節位置が記憶され、したがって、これらの位置は、画像によりガイドされる分離処置の間に、参照される。
図6の例では、解剖学的関心点602上の点の選択は、例えば、「A」とマーク付けされた分離開始点、「B」とマーク付けされた分離終了点、及び、「C」とマーク付けされた大きい分岐点を含む。
図7を参照するに、合成画像500上の点の選択に加えて(又はそれに代えて)、合成画像500は、2Dの内視鏡画像と術前又は術中の3D撮像と位置合わせするために使用される。3D術前画像からの血管系のオーバレイ702が、合成画像500上に置かれる。IMA502との比較によって、筋膜及び他の組織の下にあることによって内視鏡画像上ではすぐに可視ではない分岐点の場所が示される。
図8を参照するに、内視鏡をガイドするために、画像ガイダンスモジュール106が使用される。外科医は、内視鏡を、近位部(例えば大動脈付近)に戻し、胸壁から動脈(IMA)を離すために、周囲組織からの動脈の分離を実行し始める。外科医は、視覚サーボを使用することによって及び/又は先に選択された点602(計画の段階で選択される)を参照することによって、当該位置に内視鏡を自動的に置く。外科医が動脈に沿って進むと、ボックス802内でオーバレイされる現在の内視鏡視野と、先に計算された合成画像500との両方が、外科医に表示される(例えば術前画像からの動脈オーバレイ(702)を有してもよい)。
「ピクチャ・イン・ピクチャ」ビューによって、外科医は、現在利用可能であるものよりもかなり広い視野を観察することができる。更に、位置合わせ情報と組み合わされたロボットエンコーダから、内視鏡の動作が既知であるため、既に分離されている動脈の一部の長さを示すスケールが読出し可能である。数値であってもグラフであってもよい進捗インジケータ804が、所望又は全体の長さ806の一部として動脈の取出された量を示す。進捗インジケータ804は、ディスプレイ上の画像内に示されてもよい。別の実施形態では、パーセンテージではなく、進捗バーが示されてもよく、外科医がIMA枝を進むにつれて、ライブビューボックス802が合成画像500上にオーバレイされる場合、所望又は全体の長さに比べて取り出された血管の全長の一部として示される。計画モジュール(104、図1)は、血管の全長の推定を可能とするために術前画像を使用し、当該画像は、検査鏡(scope)を用いた介入の間に、進捗バーを生成するために使用できる。
添付の請求項を解釈する際に、以下の通りに理解されるべきである。
a)「含む」との用語は、所与の請求項において列挙されるもの以外の要素又は行為の存在を排除するものではない。
b)要素に先行する「a」又は「an」との用語は、当該要素が複数存在することを排除するものではない。
c)請求項における任意の参照符号は、その範囲を制限するものではない。
d)幾つかの「手段」が同一のアイテム若しくはハードウェア又はソフトウェアが実装された構造体若しくは機能によって表される。
e)特に明記されない限り、行為の特定の順序を必要とすることを意図していない。
ロボット操作される内視鏡を使用した血管可視化を向上するための好適な実施形態(これらは例示的であって限定を意図していない)を説明したが、当業者であれば、上記の教示内容を鑑みて、修正態様及び変更態様を作成可能である。したがって、当然ながら、開示された開示内容の特定の実施形態について、添付の請求項に記載されるように本明細書に開示される実施形態の範囲内の変更を行ってもよい。したがって、特許法で定められるように詳細に及び入念に説明したが、特許証(特許状)により保護されることが望ましくクレームされるものは、請求項に記載されている。

Claims (20)

  1. 撮像される領域より小さい視野を有する内部撮像用の検査鏡と、
    前記撮像される領域の合成画像を生成するように、前記検査鏡の視野画像がステッチされるように前記検査鏡からのビデオを受け取る計画モジュールと、
    前記検査鏡の視野内で生成された画像が、前記合成画像のフィールド上にオーバレイされるライブビデオとして表示されるように、処置の間、解剖学的ターゲットに沿って前記検査鏡を移動させる画像ガイダンスモジュールと、
    を含む、解剖学的ターゲットを可視化するシステム。
  2. 前記計画モジュールは、前記合成画像内の前記解剖学的ターゲットに関連する関心点を選択する、請求項1に記載のシステム。
  3. 前記検査鏡をガイドするロボットを更に含み、前記画像ガイダンスモジュールは、前記検査鏡をガイドするために、前記関心点を使用する、請求項2に記載のシステム。
  4. 前記計画モジュールは、前記解剖学的ターゲットの高められたマップを提供するように、前記合成画像上に手術画像を位置合わせし、オーバレイする、請求項1に記載のシステム。
  5. 全寸法に対する前記検査鏡の進捗を示すように、前記合成画像と共に表示される進捗インジケータを更に含む、請求項1に記載のシステム。
  6. 前記解剖学的ターゲットは、分離されるべき血管を含み、前記進捗インジケータは、前記血管の全長に対して分離された部分を示す進捗のパーセンテージ又は進捗グラフの少なくとも1つを含む、請求項5に記載のシステム。
  7. 前記計画モジュールは、前記全長を推定するために、前記血管の術前画像を使用する、請求項6に記載のシステム。
  8. 前記解剖学的ターゲットは、バイパス形成術に使用するための内胸動脈(IMA)を含む、請求項1に記載のシステム。
  9. 前記検査鏡は、フレキシブル内視鏡を含む、請求項1に記載のシステム。
  10. プロセッサと、
    前記プロセッサに結合されるメモリと、
    を含み、
    前記メモリは、
    解剖学的ターゲットの合成画像を形成するように、検査鏡から受け取られる前記解剖学的ターゲットの視野画像をステッチする計画モジュールと、
    前記検査鏡の視野内で生成された画像が、前記合成画像のフィールド上にオーバレイされるライブビデオとして表示されるように、前記合成画像を使用して前記解剖学的ターゲットに沿って前記検査鏡を移動させる画像ガイダンスモジュールとを含む、解剖学的ターゲットを可視化するシステム。
  11. 前記計画モジュールは、少なくとも、(i)前記合成画像内の前記解剖学的ターゲットに関連する関心点を選択する、又は、(ii)前記解剖学的ターゲットの高められたマップを提供するように、前記合成画像上に手術画像を位置合わせし、オーバレイする、請求項10に記載のシステム。
  12. 前記検査鏡をガイドするロボットを更に含み、前記画像ガイダンスモジュールは、前記検査鏡をガイドするために、前記関心点を使用する、請求項10に記載のシステム。
  13. 前記画像ガイダンスモジュールによって生成され、全寸法に対する前記検査鏡の進捗を示すように前記合成画像と共に表示される進捗インジケータを更に含み、前記解剖学的ターゲットは、分離されるべき血管を含み、前記進捗インジケータは、前記血管の全長に対して分離された部分を示す進捗のパーセンテージ又は進捗グラフの少なくとも1つを含み、前記計画モジュールは、前記全長を推定するために、前記血管の術前画像を使用する、請求項10に記載のシステム。
  14. 前記解剖学的ターゲットは、バイパス形成術に使用するための内胸動脈(IMA)を含む、請求項10に記載のシステム。
  15. 前記検査鏡は、フレキシブル内視鏡を含む、請求項10に記載のシステム。
  16. 解剖学的ターゲットを可視化する方法であって、
    検査鏡の視野を使用して前記解剖学的ターゲットの一部を撮像するステップと、
    前記一部を使用して前記解剖学的ターゲットの合成画像を形成するステップと、
    前記合成画像内の関心点を選択するステップと、
    前記検査鏡の視野内で生成された画像が、前記合成画像のフィールド上にオーバレイされるライブビデオとして表示されるように、始点から前記解剖学的ターゲットに沿って移動するステップと、
    を含む、方法。
  17. (i)前記解剖学的ターゲットの高められたマップを提供するように、前記合成画像上に、術中又は術前画像を位置合わせし、オーバレイするステップ、又は、(ii)前記合成画像から前記解剖学的ターゲットの長さを測定するステップのうちの少なくとも1つを更に含む、請求項16に記載の方法。
  18. 全寸法に対する前記検査鏡の進捗を示すように進捗インジケータを生成するステップを更に含み、前記解剖学的ターゲットは、分離されるべき血管を含み、前記進捗インジケータを生成するステップは、前記血管の全長に対して分離された部分を示す進捗のパーセンテージ又は進捗グラフの少なくとも1つを示すことを含む、請求項16に記載の方法。
  19. 前記検査鏡の視野を使用して前記解剖学ターゲットの一部を撮像するステップは、ガイダンスのための前記関心点を使用して、前記検査鏡をロボットで移動させるステップを含む、請求項16に記載の方法。
  20. 前記解剖学的ターゲットは、内胸動脈(IMA)を含み、前記解剖学的ターゲットに沿って移動するステップは、バイパス形成術に使用するために前記内胸動脈を分離するステップを含む、請求項16に記載の方法。
JP2015519422A 2012-06-28 2013-06-20 ロボット操作される内視鏡を使用した血管可視化の向上 Active JP6382802B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201261665375P 2012-06-28 2012-06-28
US61/665,375 2012-06-28
PCT/IB2013/055070 WO2014001980A1 (en) 2012-06-28 2013-06-20 Enhanced visualization of blood vessels using a robotically steered endoscope

Publications (3)

Publication Number Publication Date
JP2015526133A true JP2015526133A (ja) 2015-09-10
JP2015526133A5 JP2015526133A5 (ja) 2016-08-04
JP6382802B2 JP6382802B2 (ja) 2018-08-29

Family

ID=49151257

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015519422A Active JP6382802B2 (ja) 2012-06-28 2013-06-20 ロボット操作される内視鏡を使用した血管可視化の向上

Country Status (7)

Country Link
US (1) US11278182B2 (ja)
EP (1) EP2866638B1 (ja)
JP (1) JP6382802B2 (ja)
CN (1) CN104411226B (ja)
BR (1) BR112014031993A2 (ja)
RU (1) RU2689767C2 (ja)
WO (1) WO2014001980A1 (ja)

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150045619A1 (en) * 2013-08-09 2015-02-12 Chang Bing Show Chwan Memorial Hospital System and method for mosaicing endoscope images using wide angle view endoscope
WO2015121764A1 (en) * 2014-02-11 2015-08-20 Koninklijke Philips N.V. Spatial visualization of internal mammary artery during minimally invasive bypass surgery
JP6626452B2 (ja) * 2014-02-26 2019-12-25 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 管腔外の冠状動脈バイパスを行うためのシステム及びその作動方法
WO2015171480A1 (en) * 2014-05-06 2015-11-12 Koninklijke Philips N.V. Devices, systems, and methods for vessel assessment
EP3169264A1 (en) * 2014-07-15 2017-05-24 Koninklijke Philips N.V. Image integration and robotic endoscope control in x-ray suite
JP6243364B2 (ja) * 2015-01-26 2017-12-06 富士フイルム株式会社 内視鏡用のプロセッサ装置、及び作動方法、並びに制御プログラム
US10013808B2 (en) 2015-02-03 2018-07-03 Globus Medical, Inc. Surgeon head-mounted display apparatuses
JP2019502419A (ja) * 2015-11-05 2019-01-31 コヴィディエン リミテッド パートナーシップ 表層下血液の検出のためのシステムと方法
RU2664179C1 (ru) * 2017-08-07 2018-08-15 федеральное государственное бюджетное образовательное учреждение высшего образования "Омский государственный медицинский университет" Министерства здравоохранения Российской Федерации (ФГБОУ ВО ОмГМУ Минздрава России) Способ измерения размеров объектов пищеварительного тракта по эндоскопической фотографии
JPWO2019155931A1 (ja) * 2018-02-09 2021-01-28 ソニー株式会社 手術システム、画像処理装置及び画像処理方法
US20190254753A1 (en) 2018-02-19 2019-08-22 Globus Medical, Inc. Augmented reality navigation systems for use with robotic surgical systems and methods of their use
US11857151B2 (en) * 2018-09-12 2024-01-02 Steris Instrument Management Services, Inc. Systems and methods for standalone endoscopic objective image analysis
GB2577714B (en) * 2018-10-03 2023-03-22 Cmr Surgical Ltd Automatic endoscope video augmentation
US10955657B2 (en) * 2018-12-20 2021-03-23 Acclarent, Inc. Endoscope with dual image sensors
DE102019200803A1 (de) * 2019-01-23 2020-07-23 Siemens Healthcare Gmbh Medizintechnischer Roboter, medizinisches System, Verfahren zu deren Betrieb, Computerprogramm und Speichermedium
US11484384B2 (en) 2019-02-21 2022-11-01 Theator inc. Compilation video of differing events in surgeries on different patients
CA3126444A1 (en) 2019-02-21 2020-08-27 Theator inc. Systems and methods for analysis of surgical videos
US11992373B2 (en) 2019-12-10 2024-05-28 Globus Medical, Inc Augmented reality headset with varied opacity for navigated robotic surgery
US11464581B2 (en) 2020-01-28 2022-10-11 Globus Medical, Inc. Pose measurement chaining for extended reality surgical navigation in visible and near infrared spectrums
US11382699B2 (en) 2020-02-10 2022-07-12 Globus Medical Inc. Extended reality visualization of optical tool tracking volume for computer assisted navigation in surgery
US11207150B2 (en) 2020-02-19 2021-12-28 Globus Medical, Inc. Displaying a virtual model of a planned instrument attachment to ensure correct selection of physical instrument attachment
US20210313050A1 (en) 2020-04-05 2021-10-07 Theator inc. Systems and methods for assigning surgical teams to prospective surgical procedures
US11607277B2 (en) 2020-04-29 2023-03-21 Globus Medical, Inc. Registration of surgical tool with reference array tracked by cameras of an extended reality headset for assisted navigation during surgery
US11153555B1 (en) 2020-05-08 2021-10-19 Globus Medical Inc. Extended reality headset camera system for computer assisted navigation in surgery
US11510750B2 (en) 2020-05-08 2022-11-29 Globus Medical, Inc. Leveraging two-dimensional digital imaging and communication in medicine imagery in three-dimensional extended reality applications
US11382700B2 (en) 2020-05-08 2022-07-12 Globus Medical Inc. Extended reality headset tool tracking and control
US11737831B2 (en) 2020-09-02 2023-08-29 Globus Medical Inc. Surgical object tracking template generation for computer assisted navigation during surgical procedure
USD1022197S1 (en) 2020-11-19 2024-04-09 Auris Health, Inc. Endoscope
US20230053189A1 (en) * 2021-08-11 2023-02-16 Terumo Cardiovascular Systems Corporation Augmented-reality endoscopic vessel harvesting

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08275958A (ja) * 1995-04-07 1996-10-22 Olympus Optical Co Ltd 手術用マニピュレータ装置
JPH08511694A (ja) * 1993-02-22 1996-12-10 ハートポート,インコーポレイティド 胸腔鏡心臓バイパス術の実施方法
JP2001500772A (ja) * 1997-06-23 2001-01-23 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 画像誘導手術システム
JP2006000485A (ja) * 2004-06-18 2006-01-05 Olympus Corp 生体組織切断用器具
JP2007159641A (ja) * 2005-12-09 2007-06-28 Rf:Kk 画像処理装置及び医療システム
JP2009517177A (ja) * 2005-12-02 2009-04-30 アボット・カーディオヴァスキュラー・システムズ・インコーポレーテッド 画像ガイド医療処置のための方法及び装置
WO2012001549A1 (en) * 2010-06-30 2012-01-05 Koninklijke Philips Electronics N.V. Robotic control of an oblique endoscope for fov images
JP2012505695A (ja) * 2008-10-20 2012-03-08 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 画像に基づくローカライゼーション方法及びシステム

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5417210A (en) 1992-05-27 1995-05-23 International Business Machines Corporation System and method for augmentation of endoscopic surgery
US6006127A (en) * 1997-02-28 1999-12-21 U.S. Philips Corporation Image-guided surgery system
US7381183B2 (en) * 2003-04-21 2008-06-03 Karl Storz Development Corp. Method for capturing and displaying endoscopic maps
DE102004008164B3 (de) * 2004-02-11 2005-10-13 Karl Storz Gmbh & Co. Kg Verfahren und Vorrichtung zum Erstellen zumindest eines Ausschnitts eines virtuellen 3D-Modells eines Körperinnenraums
US7889905B2 (en) 2005-05-23 2011-02-15 The Penn State Research Foundation Fast 3D-2D image registration method with application to continuously guided endoscopy
EP2289591A3 (en) 2005-06-14 2012-01-04 Olympus Medical Systems Corp. Endoscope treatment instrument and treatment instrument apparatus for endoscope
EP1937176B1 (en) * 2005-10-20 2019-04-17 Intuitive Surgical Operations, Inc. Auxiliary image display and manipulation on a computer display in a medical robotic system
GB0613576D0 (en) * 2006-07-10 2006-08-16 Leuven K U Res & Dev Endoscopic vision system
WO2008081396A2 (en) * 2006-12-29 2008-07-10 Koninklijke Philips Electronics, N.V. Improved image registration and methods for compensating intraoperative motion in image-guided interventional procedures
US8200042B2 (en) * 2007-01-31 2012-06-12 Olympus Corporation Endoscope apparatus and program
EP2143038A4 (en) * 2007-02-20 2011-01-26 Philip L Gildenberg VIDEOSTEREREOTAXY- AND AUDIOSTEREOTAXY-ASSISTED SURGICAL PROCEDURES AND METHODS
DE102007029884A1 (de) 2007-06-28 2009-01-15 Siemens Ag Verfahren und Einrichtung zum Erzeugen eines aus einer Mehrzahl von endoskopischen Einzelbildern zusammengesetztes Gesamtbildes von einer Innenoberfläche eines Körperhohlraums
US20090208143A1 (en) * 2008-02-19 2009-08-20 University Of Washington Efficient automated urothelial imaging using an endoscope with tip bending
US10004387B2 (en) 2009-03-26 2018-06-26 Intuitive Surgical Operations, Inc. Method and system for assisting an operator in endoscopic navigation
US8337397B2 (en) * 2009-03-26 2012-12-25 Intuitive Surgical Operations, Inc. Method and system for providing visual guidance to an operator for steering a tip of an endoscopic device toward one or more landmarks in a patient
DE102009040430B4 (de) * 2009-09-07 2013-03-07 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Verfahren und Computerprogramm zur Überlagerung eines intraoperativen Livebildes eines Operationsgebiets oder des Operationsgebiets mit einem präoperativen Bild des Operationsgebiets
EP2523621B1 (en) * 2010-01-13 2016-09-28 Koninklijke Philips N.V. Image integration based registration and navigation for endoscopic surgery
WO2012035492A1 (en) * 2010-09-15 2012-03-22 Koninklijke Philips Electronics N.V. Robotic control of an endoscope from blood vessel tree images
CN102063714A (zh) * 2010-12-23 2011-05-18 南方医科大学 基于胶囊内窥镜图片生成人体腔道全视影像的方法
WO2012115863A2 (en) * 2011-02-22 2012-08-30 3M Innovative Properties Company Hybrid stitching
US9123155B2 (en) * 2011-08-09 2015-09-01 Covidien Lp Apparatus and method for using augmented reality vision system in surgical procedures
US20130046137A1 (en) * 2011-08-15 2013-02-21 Intuitive Surgical Operations, Inc. Surgical instrument and method with multiple image capture sensors

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08511694A (ja) * 1993-02-22 1996-12-10 ハートポート,インコーポレイティド 胸腔鏡心臓バイパス術の実施方法
JPH08275958A (ja) * 1995-04-07 1996-10-22 Olympus Optical Co Ltd 手術用マニピュレータ装置
JP2001500772A (ja) * 1997-06-23 2001-01-23 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 画像誘導手術システム
JP2006000485A (ja) * 2004-06-18 2006-01-05 Olympus Corp 生体組織切断用器具
JP2009517177A (ja) * 2005-12-02 2009-04-30 アボット・カーディオヴァスキュラー・システムズ・インコーポレーテッド 画像ガイド医療処置のための方法及び装置
JP2007159641A (ja) * 2005-12-09 2007-06-28 Rf:Kk 画像処理装置及び医療システム
JP2012505695A (ja) * 2008-10-20 2012-03-08 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 画像に基づくローカライゼーション方法及びシステム
WO2012001549A1 (en) * 2010-06-30 2012-01-05 Koninklijke Philips Electronics N.V. Robotic control of an oblique endoscope for fov images

Also Published As

Publication number Publication date
JP6382802B2 (ja) 2018-08-29
EP2866638B1 (en) 2019-12-04
RU2015102605A (ru) 2016-08-20
WO2014001980A1 (en) 2014-01-03
US20150112126A1 (en) 2015-04-23
BR112014031993A2 (pt) 2017-06-27
CN104411226B (zh) 2017-01-18
EP2866638A1 (en) 2015-05-06
US11278182B2 (en) 2022-03-22
CN104411226A (zh) 2015-03-11
RU2689767C2 (ru) 2019-05-28

Similar Documents

Publication Publication Date Title
JP6382802B2 (ja) ロボット操作される内視鏡を使用した血管可視化の向上
CN106030656B (zh) 一种用于对解剖目标进行可视化的系统和方法
US11980505B2 (en) Visualization of depth and position of blood vessels and robot guided visualization of blood vessel cross section
EP3164050B1 (en) Dynamic 3d lung map view for tool navigation inside the lung
CN109219384B (zh) 内窥镜图像与超声图像的基于图像的融合
JP6404713B2 (ja) 内視鏡手術におけるガイド下注入のためのシステム及び方法
EP2838412B1 (en) Guidance tools to manually steer endoscope using pre-operative and intra-operative 3d images
JP6122875B2 (ja) 血管ツリー画像内での見えない分岐部の検出
JP6559956B2 (ja) 内視鏡手術における超音波プローブのロボット誘導
US11779192B2 (en) Medical image viewer control from surgeon's camera
US20230215059A1 (en) Three-dimensional model reconstruction

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160616

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160616

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170307

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170605

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180704

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180802

R150 Certificate of patent or registration of utility model

Ref document number: 6382802

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250