JP6730938B2 - 医学画像表示装置、医学画像表示システム、医学画像表示装置を動作させる方法 - Google Patents

医学画像表示装置、医学画像表示システム、医学画像表示装置を動作させる方法 Download PDF

Info

Publication number
JP6730938B2
JP6730938B2 JP2016575495A JP2016575495A JP6730938B2 JP 6730938 B2 JP6730938 B2 JP 6730938B2 JP 2016575495 A JP2016575495 A JP 2016575495A JP 2016575495 A JP2016575495 A JP 2016575495A JP 6730938 B2 JP6730938 B2 JP 6730938B2
Authority
JP
Japan
Prior art keywords
image
navigation
medical image
display device
image display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016575495A
Other languages
English (en)
Other versions
JP2017525418A (ja
Inventor
イスラエル ケハット,
イスラエル ケハット,
エヤル クライン,
エヤル クライン,
ベンジャミン グリーンバーグ,
ベンジャミン グリーンバーグ,
ドリアン アバーバッチ,
ドリアン アバーバッチ,
Original Assignee
コヴィディエン リミテッド パートナーシップ
コヴィディエン リミテッド パートナーシップ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by コヴィディエン リミテッド パートナーシップ, コヴィディエン リミテッド パートナーシップ filed Critical コヴィディエン リミテッド パートナーシップ
Publication of JP2017525418A publication Critical patent/JP2017525418A/ja
Application granted granted Critical
Publication of JP6730938B2 publication Critical patent/JP6730938B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/267Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the respiratory tract, e.g. laryngoscopes, bronchoscopes
    • A61B1/2676Bronchoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/06Devices, other than using radiation, for detecting or locating foreign bodies ; determining position of probes within or on the body of the patient
    • A61B5/065Determining position of the probe employing exclusively positioning means located on or in the probe, e.g. using position sensors arranged on the probe
    • A61B5/066Superposing sensor position on an image of the patient, e.g. obtained by ultrasound or x-ray imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2051Electromagnetic tracking systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2065Tracking using image or pattern recognition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B2090/364Correlation of different images or relation of image positions in respect to the body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B2090/364Correlation of different images or relation of image positions in respect to the body
    • A61B2090/367Correlation of different images or relation of image positions in respect to the body creating a 3D dataset from 2D images using position information
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/374NMR or MRI
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/376Surgical systems with images on a monitor during operation using X-rays, e.g. fluoroscopy
    • A61B2090/3762Surgical systems with images on a monitor during operation using X-rays, e.g. fluoroscopy using computed tomography systems [CT]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2560/00Constructional details of operational features of apparatus; Accessories for medical measuring apparatus
    • A61B2560/04Constructional details of apparatus
    • A61B2560/0475Special features of memory means, e.g. removable memory cards
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0002Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
    • A61B5/0004Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network characterised by the type of physiological signal transmitted
    • A61B5/0013Medical image data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • A61B5/7425Displaying combinations of multiple images regardless of image source, e.g. displaying a reference anatomical image with a live image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2211/00Image generation
    • G06T2211/40Computed tomography
    • G06T2211/412Dynamic
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2211/00Image generation
    • G06T2211/40Computed tomography
    • G06T2211/428Real-time
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/08Biomedical applications

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Public Health (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • General Health & Medical Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Medical Informatics (AREA)
  • Veterinary Medicine (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • Pulmonology (AREA)
  • General Physics & Mathematics (AREA)
  • Robotics (AREA)
  • Physiology (AREA)
  • Otolaryngology (AREA)
  • Gynecology & Obstetrics (AREA)
  • General Engineering & Computer Science (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Endoscopes (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Image Processing (AREA)

Description

(背景)
(技術分野)
本開示は、動的なおよび変化する方法で医学画像を表示するシステムに関する。より具体的には、本開示は、ナビゲーション器具の位置および状態、および各点に時間内に到達する機能に基づいて動的に医学画像を表示するシステムに関する。
(関連技術の議論)
可視化技術は、医療分野において急速に成長してきた。特に、可視化技術は、切開の大きさを最小化すること、または、手術において患者の病気の低侵襲的な処置、および、低侵襲性的に患者の体内をナビゲートして目標の病変を識別し治療することに役立ってきた。しかしながら、可視化は、また、正しくない情報が表示されるという、予期しないリスクを提起する。さらに、正しくない情報が表示される場合、表示された情報を解釈するために、臨床医は困難な時を有し得る。
臨床医は、医療デバイスを使用しながら、手順、および/または、臨床医が達成したいと欲する機能に依存する動的な方法で、正しく適切な情報を得る必要がある。医療デバイスが正しく適切な情報をこのような条件の下で、表示できる場合、臨床医は、より少ない訓練のみを必要とする。また、このような条件の下で、設定が自動的に調節されて情報を表示する場合、臨床医およびスタッフメンバは、より早い、かつより容易な使用を経験できる。自動調節は、臨床医またはスタッフメンバが通常は医療デバイスを使用しない場合、より有益である。
(要旨)
一つの実施形態において、本開示は、肺の医学画像を画面上に表示する医学画像表示装置を開示する。医療学画像表示装置は、ナビゲーション器具の位置センサからのナビゲーション器具の位置情報、ナビゲーション器具の光学センサからのビデオストリームおよび画像化デバイスからの医学画像を受信するように構成されたネットワークインターフェイス、複数の医学画像および複数の医学画像を格納するメモリおよび命令、該命令を実行するように構成されたプロセッサ、および、動的に画像を画面上に表示するように構成されたディスプレイを含む。命令は、プロセッサによって実行される場合、医学画像表示装置に、状態情報が経路検討モード、目標管理モード、または、ナビゲーションモードを示すかを決定させる。プロセッサによって実行される場合、命令は、さらにディスプレイに、複数の医学画像の中で、ナビゲーション器具の位置情報および状態情報に基づいて、画面に表示される画像を動的に選択し、更新させる。
ある態様において、ナビゲーション器具は内視鏡器具である。
別の態様において、複数の医学画像は、矢状の、冠状の、または、軸位の画像、肺、目標、目標への経路計画、仮想気管支鏡ビデオ画像、実況の気管支鏡ビデオ画像、最大値投影画像、3D CT画像、ナビゲーション器具の遠位先端の三次元(3D)マップ、およびそれらの任意の組み合わせからなる群から選択される。矢状の、冠状の、または、軸位の画像は、コンピュータトモグラフィー、X線透視装置、コンピュータ支援トモグラフィー、陽電子放出トモグラフィー、または、磁気共鳴画像化法によって得られる。表示された画像は、合成画像であり、そこでは、第一の画像化法から得られた肺の第一の画像は、他の画像化法から得られた第二の画像と重ね合わされる。
一つの態様において、一部分が目標であり、第一の画像は、コンピュータトモグラフィーによって得られ、第二の画像は、X線透視装置によって得られる。ディスプレイは二つ以上の画像を、位置情報における変化に対応して、同期して表示する。
他の態様において、上記目標が3Dマップに表示される場合、目標の位置情報に基づいて、矢状の画像、冠状の画像、および/または、軸位の画像が選択され、表示される。位置情報における変化は、肺における、ナビゲーション器具の位置センサの動きを示す。
なおも別の態様において、ナビゲーション器具の位置センサの位置情報に基づいて、軸位の、冠状の、および矢状の画像が表示される。軸位の、冠状の、および矢状の画像の各々は、ズームおよびパンを含む制御によって制御される。
なおも別の態様において、3Dマップは、3Dマップの方向を示す方向インディケータと共に、表示される。
なおも別の態様において、ディスプレイは、位置情報が、位置センサは閾値位置を通り過ぎていないことを示すとき、実況の気管支鏡ビデオ画像を表示し、位置情報が、位置センサは閾値位置を通り過ぎたことを示すとき、ディスプレイは実況の気管支鏡ビデオ画像を取り除き、仮想気管支鏡ビデオ画像を表示する。
なおも別の態様において、実況の気管支鏡ビデオ画像が、ナビゲーションモードにおいて、ナビゲーション器具から受信されなかったと状態情報が示す場合、ディスプレイは最後に受信した画像を表示する。
なおも別の態様において、ディスプレイは、自動的に3Dマップを方向付けて、3Dマップにおける位置センサの現在の位置を十分な鮮明さで示す。
別の実施形態において、本開示は、医学画像を画面上に表示するための、医学画像表示システムを開示する。医学画像表示システムは、患者の画像を捕捉するように構成された画像化デバイス;患者の体内をナビゲートし、位置センサによって得られた位置情報および光学センサによって得られたビデオストリームを送信するように構成されたナビゲーション器具;ならびに、位置情報を受信するように構成されたネットワークインターフェイスを含む装置、および、ナビゲーション器具からのビデオストリーム、および、画像化デバイスから得られた画像、命令を実行するように構成されたプロセッサ、複数の医学画像および命令を格納するメモリ、および画面上に画像を表示するように構成されたディスプレイを含む。命令は、プロセッサによって実行される場合、装置に、ナビゲーション器具が位置情報およびビデオストリームを送信するかを示す、ナビゲーション器具の状態を決定させ、ナビゲーション器具の位置情報および状態情報に基づいて、ディスプレイに複数の画像の中で、画面に表示される画像を動的に選択し更新させる。
なおも別の実施形態において、本開示は、肺の医学画像を、肺のスライス画像、肺の三次元(3D)マップ、および目標への経路計画を格納する表示デバイスのディスプレイ上に動的に表示する方法を開示する。該方法は、表示デバイスの状態情報が、経路検討モード、ナビゲーションモード、または、目標管理モードを示しているかを決定することと、肺をナビゲートするナビゲーション器具の位置センサの位置を示す、ナビゲーション器具からの位置情報を受信することと、該決定された状態情報と位置情報に基づいて、医学画像を表示することとを含む。決定された状態情報が経路検討モードである場合、表示された医学画像は、3Dマップ、および経路計画および目標で重畳されている仮想気管支鏡ビデオ画像を含む。決定された状態情報がナビゲーションモードである場合、表示された医学画像は、3Dマップ、仮想または実況の気管支鏡ビデオ画像およびスライス画像を含み、それらのすべては、同期して位置センサの位置を追跡する。決定された状態情報が目標管理モードである場合、表示された医学画像は、独立な方向から撮られた3つのスライス画像および、目標を表示する最大値投影画像を含む。ナビゲーションモードにおいて、一つの画像がパンまたはズームされる場合、すべの画像および3Dマップが対応して、同期してパンまたはズームされる。
本開示の上記態様および実施形態のいずれも、本開示の範囲から外れることなく組み合わされる。
例えば、本願は以下の項目を提供する。
(項目1)
肺の医学画像を画面に表示する医学画像表示装置であって、該医学画像表示装置は、
ナビゲーション器具の位置センサから該ナビゲーション器具の位置情報と、該ナビゲーション器具の光学センサからのビデオストリームと、画像化デバイスからの医学画像とを受け取るように構成された、ネットワークインターフェイスと、
複数の医学画像および命令を格納するメモリと、
該命令を実行するように構成されたプロセッサと、
画像を該画面上に動的に表示するように構成されたディスプレイとを含み、
ここで、該命令は、該プロセッサによって実行される場合、医学画像表示装置に状態情報が経路検討モード、目標管理モード、または、ナビゲーションモードを示すかどうかを決定させ、
ここで、該命令は、該プロセッサによって実行される場合、該ナビゲーション器具の位置情報および状態情報に基づいて、該複数の医学画像の中で、該ディスプレイに該画面に、該画面に表示される画像を動的に選択させ、および更新させる、医学画像表示装置。
(項目2)
前記ナビゲーション器具は内視鏡器具である、項目1に記載の医学画像表示装置。
(項目3)
前記複数の医学画像は矢状の、冠状の、または、軸位の画像、肺の三次元(3D)マップ、目標、該目標への経路計画、仮想気管支鏡ビデオ画像、実況の気管支鏡ビデオ画像、最大値投影画像、3D CT画像、ナビゲーション器具の遠位先端、およびそれらの任意の組み合わせからなる群から選択される、項目1に記載の医学画像表示装置。
(項目4)
前記矢状の、冠状の、または軸位の画像はコンピュータトモグラフィ、X線透視装置、コンピュータ断支援トモグラフィー、陽電子放出トモグラフィー、または、磁気共鳴画像化法によって捕捉される、項目3に記載の医学画像表示装置。
(項目5)
表示された画像は合成画像であり、第一の画像化法から得られた肺の第一の画像は、別の画像化法から得られた第二の画像に重ねられている、項目3に記載の医学画像表示装置。
(項目6)
前記一部分は、前記目標であり、前記第一の画像は、コンピュータトモグラフィによって撮られており、前記第二の画像は、X線透視法によって撮られている、項目5に記載の医学画像表示装置。
(項目7)
前記ディスプレイは、前記位置情報における変化に対応して、二つ以上の画像を同期して表示する、項目1に記載の医学画像表示装置。
(項目8)
前記目標が3Dマップにおいて表示される場合、該目標の位置情報に基づいて、矢状の画像、冠状の画像、および/または、軸位の画像が選択され、かつ表示される、項目3に記載の医学画像表示装置。
(項目9)
前記位置情報における変化は、前記肺における前記ナビゲーション器具の前記位置センサの移動を示す、項目3に記載の医学画像表示装置。
(項目10)
前記ナビゲーション器具の前記位置センサの前記位置情報に基づいて、前記軸位の画像、冠状の画像、および、矢状の画像が表示される、項目3に記載の医学画像表示装置。
(項目11)
前記軸位の画像、冠状の画像、および矢状の画像のそれぞれは、制御装置によって制御される、項目10に記載の医学画像表示装置。
(項目12)
前記制御装置は、ズームとパンとを含む、項目11に記載の医学画像表示装置。
(項目13)
前記3Dマップは、方向インディケータと共に表示される、項目3に記載の医学画像表示装置。
(項目14)
前記方向インディケータは、前記3Dマップの方向を示す、項目13に記載の医学画像表示装置。
(項目15)
前記位置情報が、前記位置センサは閾値位置を通過しないことを示す場合、前記ディスプレイは、前記実況の気管支鏡ビデオ画像を表示する、項目3に記載の医学画像表示装置。
(項目16)
前記位置情報が、前記位置センサは前記閾値位置を通過することを示す場合、前記ディスプレイは、前記実況の気管支鏡ビデオ画像を除去し、前記仮想気管支鏡ビデオ画像を表示する、項目15に記載の医学画像表示装置。
(項目17)
前記ナビゲーションモードにおいて、前記状態情報が、実況の気管支鏡ビデオ画像が前記ナビゲーション器具から受信されていないことを示す場合、前記ディスプレイは、最後に受信した画像を表示する、項目3に記載の医学画像表示装置。
(項目18)
前記ディスプレイは、前記3Dマップを自動的に配向して、3Dマップにおける前記位置センサの現在位置を十分な明瞭度で示す、項目3に記載の医学画像表示装置。
(項目19)
医学画像を画面に表示する医学画像表示システムであって、該システムは、
患者の画像を捕捉するように構成された画像化デバイスと;
患者の内部をナビゲートし、位置センサによって得られた位置情報、および、光学センサによって得られたビデオストリームを送信するように構成されたナビゲーション装置と;
装置であって、該装置は、
該ナビゲーション器具からの該位置情報および該ビデオストリーム、および該画像化デバイスから得られた画像を受信するように構成された、ネットワークインターフェイスと;
命令を実行するように構成されたプロセッサと;
複数の医学画像および命令を格納するメモリと;
画像を該画面上に表示するように構成されたディスプレイとを含み、
ここで、該命令は、該プロセッサによって実行される場合、該ナビゲーション器具が該位置情報をおよび該ビデオストリームを送信するかどうかを示す該ナビゲーション器具の状態を決定させ、および、
ここで、該命令は、該プロセッサによって実行される場合、該ナビゲーション器具の位置情報および状態情報に基づいて、該複数の医学画像の中で、該ディスプレイに該画面に、該画面に表示される画像を動的に選択させ、および更新させる、装置、
とを含む、システム。
(項目20)
肺の医学画像を該肺のスライス画像、該肺の三次元(3D)マップ、および目標への経路計画を格納する表示デバイスのディスプレイ上に動的に表示する方法であって、該方法は:
表示デバイスの状態情報が、経路検討モード、ナビゲーションモード、または、目標管理モードを示すかどうかを決定することと;
該肺をナビゲートする該ナビゲーション器具の位置センサの位置を示すナビゲーション器具から位置情報を受信することと;
該決定された状態情報および該位置情報に基づいて医学画像を表示することと、
を含み、
ここで、該決定された状態情報が該経路検討モードである場合、該表示された医学画像は、該経路計画および該目標に重ねられている該3Dマップおよび仮想気管支鏡ビデオ画像を含み、
ここで、該表示された医学画像は、該3Dマップ、該仮想または実況気管支鏡ビデオ画像、およびスライス画像を含み、該決定された状態情報が該ナビゲーションモードである場合、これらのすべては、該位置センサの該位置を同期して追跡し、
ここで、該表示された医学画像は、3つのスライス画像を含み、該決定された状態情報が該目標管理モードである場合、これらのスライス画像は、3つの独立した方向から撮られた、該目標を表示する最大値投影画像であり、かつ、
ここで、ナビゲーションモードにおいて、一つの画像がパンまたはズームされる場合、すべの画像および3Dマップが対応して、同期してパンまたはズームされる、
方法。
様々な実施形態の記述が添付の図面を参照して読まれるとき、本開示されるシステムおよび方法の対象および特徴が当業者に明らかになる。それらの図面は、
図1は、本開示の実施形態に従った、医学画像を画面に動的に表示するシステムの透視図である。 図2〜5は、本開示の実施形態に従った、図1のシステムの画面に表示された、動的に表示された画像のグラフィカルな例示である。 図2〜5は、本開示の実施形態に従った、図1のシステムの画面に表示された、動的に表示された画像のグラフィカルな例示である。 図2〜5は、本開示の実施形態に従った、図1のシステムの画面に表示された、動的に表示された画像のグラフィカルな例示である。 図2〜5は、本開示の実施形態に従った、図1のシステムの画面に表示された、動的に表示された画像のグラフィカルな例示である。 図6は、本開示の実施形態に従った、医学画像を動的に表示する方法を例示するフローチャートである。
(詳細な説明)
本開示は、医学画像を動的に画面に表示するシステムと方法に関する。システムディスプレイは、患者の内部の内視鏡デバイスの位置に基づいて、視覚的な、可聴な、および触覚的な情報を使用する適切な情報を更新、かつ、調節する。内視鏡デバイスの場所および状態情報に基づいて、画面上の画像を動的にかつ自動的に変えることは、表示システムの使用の容易さを促進し、臨床医のディスプレイの調節および変化に対する相互作用の必要性を減少する。
図1は、患者の胸の内部を低侵襲的に可視化して、画面上の医学画像および処理された画像を動的に表示する内視鏡ナビゲーションシステム100を示す。特に、内視鏡ナビゲーションシステム100は、ワークステーション120とナビゲーション器具140を含む。ワークステーション120は、ディスプレイ122、一つ以上のプロセッサ124、メモリ126、ネットワークインターフェイス128および入力デバイス129を含む。
ナビゲーション器具140は、気管支鏡144のワーキングチャネルの中へ挿入され得るカテーテル142を含む。監視デバイス146は、気管支鏡144によって生成された画像を表示する。ナビゲーション器具140の近位端のハンドル141は、カテーテル142に動作可能に接続されており、狭すぎて気管支鏡144がナビゲートできない、患者の領域へのカテーテル142のナビゲーションを可能にする。ナビゲーション器具140は、センサ143を含み得る。センサ143は、カテーテルの中に一体化して形成されてもよいか、または、カテーテル142の管腔を通って挿入可能な位置確認可能なガイド(LG)145上に形成されてもよい。ナビゲーションの間にLG145を使用するとき、目標に到達すると、LG145は、カテーテル142を離れて、カテーテル142の管腔から除去され得る。この方法では、他の外科手術(例えば、生検、切除、密封、または、焼灼)が必要な場合、外科手術に対応する外科器具が、カテーテル142を通って挿入され得て、目標に到達する。
内視鏡ナビゲーションシステム100は、外科用テーブル160をさらに含む。電磁(EM)場発生器165は、外科用テーブル160(例えば、下に置く、一体化して、または上面に置くか、患者130の下に置く)に関連し、電磁(EM)場発生器165によって発生された電磁(EM)場(示されない)内においてセンサ143の場所を識別することを支援するように使用され得る。
内視鏡ナビゲーションシステム100は、追跡デバイス148および患者130上に置かれた基準センサ150を含み得る。ナビゲーション器具140は、気管支鏡を介し、有線接続または、無線接続(示されない)を通して動作可能に追跡デバイス148に結合される。基準センサ150は、電磁(EM)場発生器165によって発生された電磁波を感知し、患者の呼吸に起因する胸の運動パターンを感知する。基準センサ150は、患者の呼吸パターンを補償し得、電磁場内におけるセンサ」143の場所を識別することをより支援する。
追跡デバイス148は、位置情報をナビゲーション器具140に関連するセンサ143と患者内のセンサ143の場所を識別する基準センサ150とから受け取り、その位置を二次元画像および三次元マップと関連付け、患者130内のナビゲーション器具140のナビゲーションを可能にする。
ワークステーション120が3Dマップのセンサ143の位置を表示でき得るように、位置情報は、3Dマップの座標系において識別される。3Dマップとスライス画像を表示することは、さらに、以下で詳細に記述される。
一つ以上のプロセッサ124がコンピュータ実行可能な命令を実行する。プロセッサ124は、患者130の肺の3Dマップが、取り入れた医療におけるデジタル画像化および通信(DICOM)画像から生成され得るように、画像処理機能を行い得る。ディスプレイ122は、患者130の一部分の二次元(2D)画像、または三次元(3D)マップを表示し得る。プロセッサ124は、センサ143から感知された位置情報を処理し、センサ143の位置を識別し、登録処理を通じて、2D画像または3Dマップにおけるセンサ143の場所の識別を提供する。2D画像および3Dマップは、例えば、生検、または処置に対する目的のある点として、病変または腫瘍を場所決めかつ識別するように使用され得、その目標に到達するための経路を発生し、患者130の内部の目標へのナビゲーションを可能にする。
メモリ126は、データおよびプログラムを格納する。一つの態様において、データはDICOM画像、3Dマップ、または、患者の治療記録、処方箋、および患者の病歴等の任意の他の関係するデータであり得、プログラムはナビゲーションおよび臨床医にガイダンスを提供し、3Dマップおよび2D画像上の経路の提示を提供する経路計画ソフトウェアであり得る。メモリに格納され得るプログラムの例は、Covidien LPによって販売されているILOGIC○R(登録商標)ナビゲーション計画および手順ソフトウェアパッケージを含む。計画ソフトウェアパッケージは、2013年3月15日に出願された、「Pathway Planning System and Method」と称する、米国特許出願第13/838,805号、米国特許出願第13/838,997号、および米国特許出願第13/839,224号に、および手順ソフトウェアパッケージは、Brown他によって2014年7月2日に出願された、「System and Method for Navigating Within The Lung」と称する米国仮特許出願第62/020,240号に見られる。これらのすべては、Covidien LPによって出願され、その全体の内容が、参照により本明細書に援用されている。
図2から5は、本開示の実施形態に従った、ワークステーション120がディスプレイ122上に提示できる様々なウィンドウを例示する。ディスプレイ122は、内視鏡ナビゲーションシステム100の動作のモードに基づいて、特定のウィンドウを提示し得、これらのモードは目標管理モード、経路計画モード、ナビゲーションモード、および本明細書に記載されたような他のものを含み得る。
図2は、開示の実施形態に従った、目標管理モードを例示する。目標が識別された後、臨床医は、各目標の場所またはサイズを優先順位付けるか確立するように、検討し管理し得る。目標管理モードは、3Dマップウィンドウ210および軸位表示ウィンドウ230、冠状表示ウィンドウ250および矢状表示ウィンドウ270を含む3つのウィンドウを含み得る。目標管理モードは、3Dマップウィンドウ210を、左側に位置し得、目標215を示し得る。目標215は、大きさでは比例的には表示されないが、臨床医にその場所を気づかせる。これらのウィンドウ230から270は、目標215場所に基づいて選択される。
一つの態様において、ディスプレイ122は、3Dマップウィンドウ210におけるすべての識別された目標を表示し得る。目標が、臨床医の指によって、または、ポインティング・デバイスによって選択される場合、3つのウィンドウ230から270は自動的に表示され、軸位の、矢状の、および冠状の、選択された目標の場所において互いに交差する画像を示す。さらに、選択された目標が、3Dマップウィンドウ210における他の非選択目標から区別できるように、選択された目標は、異なる色または形状で表示され得る。3Dマップウィンドウ210および3つのウィンドウ230から270は、選択された目標に基づいて同期され得る。選択された目標のサイズおよび場所情報は、3つのウィンドウ230から270において表示された情報と比較され識別され得る。臨床医は、場所における選択された目標のサイズおよび場所情報を訂正し、修正し得る。
別の態様において、3Dマップウィンドウ210にすでに表示された目標は、除去され得、新しい目標が目標管理モードに付加され得る。例えば、目標が選択され、対応するメニューが表示される場合、目標を除去することが選択され得る。そして、目標が3Dマップウィンドウ210から除去され、目標管理ウィンドウの右側には、対応するスライス画像が表示されない。または、新しい目標が付加された場合、新しい目標が3Dマップウィンドウ210に表示され、対応する3つのスライス画像が、目標管理ウィンドウの右側に積み重ねられた形式で表示されている。上に記載されたように、これらのウィンドウ210、230、250、および270が、手動で制御されて、臨床医が好むように、それらのサイズおよび場所を変更し得る。
一つの態様において、目標の場所のために、目標が明確に表示されない場合、3Dマップウィンドウ210は、回転されるか、パンされるか、または、ズームされる3Dマップ動的ウィンドウに自動的に切り換えられ得る。3Dマップ動的ウィンドウは、目標が明確に表示され得る様な方法で、自動的に回転されるか、パンされるか、またはズームされる。一つの態様において、図2の表示されたウィンドウは、生検用具が取られる場合、どこに次の目標があるかを、ナビゲーション段階において表示され得る。
ワークステーション120によって、目標が識別され、経路が識別される場合、臨床医は、ナビゲーション検討モードにおいて、経路を検討したいことがあり得る。図3は、計画段階のナビゲーション検討モードを例示し、該ナビゲーション検討モードにおいて、ワークステーション120は、3Dマップウィンドウ310および仮想気管支鏡検査法ウィンドウ350を、本開示の実施形態に従って、ディスプレイ122の画面上に示す。3Dマップウィンドウ310は、3Dマップを示し、かつ、仮想気管支鏡ウィンドウ350は、仮想気管支鏡ビデオ画像を示す。3Dマップウィンドウ310は、明白に表示し、かつ、経路320を目標330および現在位置インディケータ317に重ね合わせる。ナビゲーション検討モードにおいて、気管から目標330へのフライスルー視界が提示されているので、ディスプレイ122は、仮想気管支鏡検査法ウィンドウ350を常に示す。
仮想気管支鏡検査法ウィンドウ350は、また、検討のためのターゲット330に向かう経路360を示す。現在位置インディケータ317は、仮想気管支鏡検査法ウィンドウ350に示される現在位置に基づいてかつ現在位置に従って、3Dマップウィンドウ310において動く。一つの態様において、臨床医が、経路を示すことと経路を示さないこととの間に設定し得る表示選択肢に基づいて、経路360または320は、表示されないことがある。
仮想気管支鏡検査法ウィンドウ350は、不透明度のためのスライダ370を含む。該スライダ370を動かすことによって、仮想気管支鏡ビデオ画像の不透明度は、不透明から透明へ変化し得る。しかしながら、仮想気管支鏡の不透明度の状態は、3Dマップウィンドウ310に示される3Dマップには同期していない。
図4Aおよび4Bは、ナビゲーションモードの間に表示されたウィンドウを例示しており、ナビゲーションモードは、本開示の実施形態に従った中央モードおよび周辺ナビゲーションモードを含む。この中央モードにおいて、ワークステーション120は、3Dマップウィンドウ410と、実況の気管支鏡検査法ウィンドウ450を、図4Aに示されるように表示し得る。
3Dマップウィンドウ410は、患者の気道の3Dマップを表示し、実況の気管支鏡検査法ウィンドウ450は、気管支鏡144の遠位端に位置決めされた光学センサによって受け取られた実況の気管支鏡ビデオ画像を表示する。目標が肺の中央気道(例えば、気管または第一の気管支)にある場合、気管支鏡は目標に到達でき、実況の気管支鏡検査法ウィンドウ450は、実況の気管支鏡ビデオ画像および目標への経路を表示できる。
3Dマップウィンドウ410は、肺の3Dマップ415および、カテーテル142のLG145のセンサ143の現在の位置を示す現在位置インディケータ417を表示する。センサ143が肺を目標に向かってナビゲートするので、現在位置インディケータ417は3Dマップ415中を、肺の中のセンサ143の実際の位置に対応する位置に移動する。例えば、センサ143は、実況の気管支鏡検査法ウィンドウ450における肺の分岐位置に近く、現在位置インディケータ417も、図4Aに示されるように、3Dマップ415の分岐位置に近い。換言すれば、実況の気管支鏡検査法ウィンドウ450および3Dマップウィンドウ410は、3Dマップ415における現在位置インディケータ417を介して、センサ143の現在位置と同期する。
3Dマップウィンドウ410も、パン/ズーム選択装置420およびリセットボタン425を示す。パン/ズーム選択装置420においてパンが選択される場合、3Dマップ415はパンされ得る。例えば、ズームが選択される場合、3Dマップ415がズームされ得る。3Dマップウィンドウ410も、人間の体の形で方向インディケータ440を示す。3Dマップがパン、および/またはズームされるとき、方向インディケータ440は3Dマップ415の方向を示す。パン機能またはズーム機能がパン/ズーム選択装置420において選択される場合、パンおよび回転機能が起動される。3Dマップ415の内外で、3Dマップ415または方向インディケータ440をクリックし、右、左、上および下、または、任意の方向にドラッグすることによって、臨床医は、パンまたはズームし得る。
一つの実施形態において、3Dマップ415は、任意の方向に、または、換言すれば、パンおよびズームの組み合わせの方向にクリックおよびドラッグすることによって、3Dマップウィンドウ410の中心の周りに回転され得る。別の実施形態において、3Dマップ415は、現在位置インディケータ417の現在位置の周りにパンされ得る。3Dマップ415および方向インディケータ440の両方が同期してパンおよびズームし得る。リセットボタン425が押された場合、3Dマップ415は、現在位置インディケータ417の位置に基づいて自動的にパンおよびズームすることによって、デフォルトの方向に回転させられる。デフォルトの方向は、ディスプレイ122の設定に基づいて、前方上方位置であり得るか、または、後方上方位置に変更され得る。
別の実施形態において、3Dマップ415は、自動的にパンされるか、またはズームされて、現在位置インディケータ417の位置を明確に示し得る。例えば、現在位置インディケータ417が3Dマップ415の前葉に位置決めされ、3Dマップ415をズームまたはパンすることなく、明確には示されなく、3Dマップ415は自動的に回転させられ、および/または、ズームされて、3Dマップ415における現在位置インディケータ417の位置に基づいて、明確に現在位置を画面上に示し得る。
なおも別の実施形態において、リセットボタン425は、3Dマップ415における現在位置インディケータ417の位置に基づいて、自動パン、および/またはズームを起動し得る。そして、パン/ズーム選択装置420は、自動パン、および/またはズームを停止し、手動パンまたはズームを起動する。この方法において、ディスプレイ122は、臨床医が、ディスプレイ122に接触または操作することなく、肺の中のセンサ143の3Dマップ415における現在位置インディケータ417の位置と同期する実際の位置を評価することを支援する。また、臨床医は、3Dマップを手動で回転させて、目標の場所および、現在位置インディケータ417の位置に近い肺の構造をチェックする。
3Dマップウィンドウ410は、ズームインボタン432、ズームアウトボタン434および、ズームスライダ436を含むズームツール430を示す。ズームインボタン432は、現在位置インディケータ417の位置の周りをズームインし、ズームアウトボタン434は、現在位置インディケータの位置の周りをズームアウトする。ズームスライダ436は、スライダをそれぞれ上下に動かすことによって、ズームインおよびズームアウトするために使用され得る。一つの態様において、リセットボタン425が押されると、3Dマップ415は、デフォルトの方向にズームなしで、表示され得る。
実況の気管支鏡検査法ウィンドウ450は、実況の気管支鏡ビデオ画像を表示する。実況の気管支鏡検査法ウィンドウ450を見ることによって、臨床医は気管支鏡144を操縦でき、肺の内腔ネットワークにおいて目標に向けてナビゲートする。センサ143は、気管支鏡144から所定の距離だけ突き刺す。気管支鏡は、そのサイズに起因して、所定のサイズの肺の気道を超えてナビゲートできない。その位置の前に、光学センサは実況の気管支鏡ビデオ画像の流れをワークステーション120に送信する。
ひとたび、気管支鏡144が、気道において楔止めされると、または、実況の気管支鏡検査法450が任意の情報を提供しない場合、カテーテル142およびセンサ143は、気管支鏡144から延長され得、肺の周囲の分岐を通って目標に向かって、さらにナビゲートされる。この場合、ひとたび、周囲のナビゲーションが始まると、内視鏡ナビゲーションシステム100および特に、ワークステーション120は、周辺ナビゲーションモードに自動的に切り替わり、そのモードでは、ディスプレイ122に提示されたウィンドウが変更される。例えば、光学センサは、同じ画像を単に受け取るので、ひとたび、気管支鏡144が楔止めされると、または、実況の気管支鏡検査法450が任意の情報を提供できない場合、実況の気管支鏡検査法ウィンドウ450から仮想気管支鏡検査法ウィンドウへ切り替えることが望ましいことがある。
図4Bは、本開示の実施形態に従った、サンプル周辺ナビゲーション表示を例示する。この構成において、3Dマップウィンドウ410および図4Aの実況気管支鏡検査法ウィンドウ450は、ディスプレイの左側に積み重ねられ、局所表示ウィンドウ460は、右側に表示される。局所表示ウィンドウ460は、グレイのぼやけた境界によって囲まれている黒い領域として、気道465を示す。カテーテル142またはLG145の遠位先端に位置決めされたセンサ143のグラフィカル表示470および目標475は、局所表示ウィンドウ460に示される。一つの態様において、目標475は、ボールまたは他の形状として、表示され得る。目標475の実際のサイズは、局所表示ウィンドウ460と同期される必要はなく、従って、センサ143の場所からのいくらかの距離にも拘わらず、フルサイズで表され得る。局所表示ウィンドウ460は、目標475、経路計画480およびセンサ143を示し、かつ重ね合わせる。
経路計画480は、局所表示ウィンドウ460の底から目標475へ曲線として臨床医を目標475へ到達するように導くように表示される。局所表示ウィンドウ460は、距離インディケータ485をさらに表示する。距離インディケータ485に示される距離は、設定に基づいて、国際標準単位(SI単位系)または、米国慣例法による単位で表され得る。図4Bにおいて、目標への距離はSI単位系において9.2cmとして示される。この距離は、経路計画480に従った目標475への距離を表し得る。
図5は、本開示の実施形態に従った、目標への実際のナビゲーションを表示する6つのウィンドウを例示する。6つのウィンドウは、3D CTウィンドウ510、仮想気管支鏡検査法ウィンドウ520、実況の気管支鏡検査法ウィンドウ530、3Dマップ動的ウィンドウ540、矢状の表示ウィンドウ550、および、局所表示ウィンドウ560。LGのセンサ143のグラフィカル表示が動くとき、6つのウィンドウ510から560は、対応して変化し得る。気管支鏡検査法ウィンドウ530がさらには進行しないので、肺の分岐のいくつかの点の後で、実況の気管支鏡検査法ウィンドウ530は、ある点の後に、同じ画像を示し得る。または、一つの態様において、実況の気管支鏡検査法ウィンドウ530は、センサ143がある点を通り過ぎた後に、ディスプレイの画面から自動的に除去され得る。
3D CTウィンドウ510は、直接配置してLGのセンサ143の前に、表示を表示し得、かつ、血管、および病気の病変のような、高密度構造を示す。3D CTウィンドウ510に示されるように、目標への距離512が表示され得る。3D CTウィンドウ510は、次の中間地点514もどの道にセンサ143が進むべきかを示めす交差形式で示し得る。仮想気管支鏡検査法ウィンドウ520、気管支鏡検査法ウィンドウ530、および3Dマップ動的ウィンドウ540に対する記述は上記と同様であり、省略される。
一つの態様において、3D CTウィンドウ510にマークされた目標病変は、蛍光透視鏡画像において、重ねて表示され得、合成画像を生成する。蛍光透視鏡画像が目標病変を示さないので、合成画像が表示され得、蛍光透視鏡画像において、仮想現実を示すように表示され得、さらなる利便性を臨床医に提供する。
矢状表示ウィンドウ550は、矢状平面に画像を表示し、矢状平面画像内のセンサ143のグラフィカル表示522を重ねる。センサ143が動く方向に基づいて、矢状表示ウィンドウ550は、冠状の表示ウィンドウまたは軸位の表示ウィンドウに切替られ得る。冠状の表示ウィンドウがよりよくセンサ143の動きを示す場合、冠状の表示ウィンドウは、自動的に矢状表示ウィンドウ550を置換する。一つの態様において、経路554は、矢状表示ウィンドウ550に重ね合わされる。
局所表示ウィンドウ560は、スライス画像(例えば、軸位の、冠状の、および矢状の画像)を表示し、センサ143に位置され、センサ143と整列され、かつ、スライス画像、センサ143のグラフィカル表示552、経路554、および目標562を重ね合わせる。
二つ以上のスライス画像が、ディスプレイの画面上に表示される場合、スライス画像は、センサ143の場所に基づいて、同期される。換言すれば、センサ143が動くとき、ディスプレイは、センサ143の場所に従ってスライス画像を表示する。さらに、3D CTウィンドウ510、仮想気管支鏡検査法ウィンドウ520、3Dマップ動的ウィンドウ540、および局所表示ウィンドウ560も、センサ143の現在の位置に基づいて、同期される。気管支鏡検査法のユーザが、パンするか、ズームする場合、スライス画像、3Dマップ動的ウィンドウ540、局所表示ウィンドウ560も同期され得る。いくつかの例において、仮想気管支鏡検査法ウィンドウ520は、パンおよびズームとは同期されないかもしれない。
一つの態様において、画面に表示されるウィンドウの数は、手続きモードおよびセンサ143の位置情報に基づいて、自動的に調整され得る。臨床医は手動で画面からウィンドウを除去し得、例えば、6ウィンドウまでウィンドウを追加できる。画面に表示されたウィンドウの数は、しかしながら、所定の数に制限されるものではなく、画面の不動産、モード、および/または、臨床医の好みに基づいて増加または減少できる。一つの実施形態において、臨床医は手動で上に記述したウィンドウの場所を切替え、それらを縦方向に積み重ね、ウィンドウのサイズを増加し、または減少し、また、任意のウィンドウを追加または除去できる。
図6は、本開示の実施形態に従って、ナビゲーション器具140の状態情報および位置情報に基づいて、動的に医学画像を表示する方法600を例示するフローチャートを示す。ワークステーション120は、患者のDICOM画像(例えば、CT、CAT、超音波画像、等)を取得し、画像化された構造(例えば、肺)の3Dマップを生成する。
ステップ610において、状態情報が識別される。状態情報は、ワークステーション120の状態を示し得る。内視鏡ナビゲーションシステム100が、目標管理モードにあり、ディスプレイ122は、画像化された肺の3つの2D画像(例えば、矢状の、軸位の、冠状の画像)、および、最大値投影画像であり、それらのすべては、ステップ620において、目標候補を示す。これらの画像を表示することによって、臨床医は、容易に目標、それらの場所およびサイズを識別し、目標に到達する経路を決定する。そのようなステップが一般になされるとしても、上に記載したように、ナビゲーション手順を始める前に受けた別個のプロセスとして、手順の間に、臨床医が、ナビゲーションモードから目標管理モードに戻ることを望む場合がある。
実施において、ナビゲーション手順を始める前であるが手順を計画した後に、経路検討モードが入り得ることは、まれなことではない。経路検討において、ワークステーション120は、ステップ615においてそして図3に示されるように、3Dマップおよび仮想気管支鏡ビデオ画像を表示する。経路検討モードにおいて、ディスプレイ122は、例えば、目標および目標への肺の内腔ネットワークにおける経路への仮想ナビゲーションを図示する。ディスプレイ122は、内腔ネットワークにおける仮想ナビゲーションの位置に基づいて、2D画像を表示し得る。ここで、2D画像は、例えば、矢状の、冠状のおよび軸位の画像である。検討の完了に続いて、方法600は、ステップ610に戻り、状態情報を確認する。
状態情報が、ナビゲーションモードがステップ610に入ったことを決定した後、ステップ625において、位置情報が、EM場発生器165によって発生されたEM場内のセンサ143から受け取られる。位置情報は、EM場内のセンサ143の位置を識別し、カテーテル142の遠位先端の表現が2D画像および3Dマップに図示されるように、2D画像および3Dマップに登録され得る。初めに、センサ143が気管支鏡144の端に位置される。ステップ630において、センサ143の位置が閾値位置を通過したかどうかを決定する。気管支鏡のサイズに起因して、気管支鏡は、閾値位置よりさらに遠くにはナビゲートできない。閾値位置は、期間の底部、主気管支樹または気管支樹の任意の部分のような所定の位置であり得、その直径は所定の直径よりも小さい(例えば、気管支鏡の直径)。そのように、気管支鏡は、カテーテル142の、気管支鏡144の遠位端を超える前進を必要とする肺の気道においてくぎ付けになる。
一つの態様において、閾値位置は、実況の気管支鏡ビデオ画像がいかなる情報も提供しなく、仮想気管支鏡ビデオ画像に変更され、肺の内腔ネットワークを通ってさらにナビゲートする必要があるという状況であり得る。例えば、閾値位置では、気管支鏡が筋肉または出血によって閉塞される状況である。
閾値に到達する前に、ディスプレイ122は、図4Aに示されるように、実況の気管支鏡ビデオ画像および3Dマップをステップ635において表示し得る。実況の気管支鏡ビデオ画像は、目標への経路に従う内視鏡144を示す。一つの態様において、ディスプレイ122は、また、ナビゲーション器具140のセンサ143の現在位置を示す、所望の(冠状の、矢状の、軸位の、またはその他の)表示からの肺の2D画像を示し得る。方法600は、ステップ625から635において、センサ143が閾値位置を通過するまで、位置情報を受け取り続け、実況の気管支鏡ビデオ画像を表示し続ける。
ステップ630において、センサ143の位置が、閾値位置を通過したと決定される場合、ディスプレイ122は表示されている画像を変更し、仮想気管支鏡ビデオ画像(例えば、検討モードの間に図示されたものと同様なフライスルー視界であるが、画像におけるセンサ143のその瞬間の場所を示す)、3Dマップ、および3つの2D画像をステップ640において図示し得る。その様な実例において、図4Aの実況の気管支鏡検査法ウィンドウ450は、カテーテル142およびセンサ143が光学の画像を超えて延長された場合、小さな値であり、本質において、ビデオ画像は変化しない。ディスプレイ122によって表示されたすべての画像は、同期して表示され、内腔ネットワーク内のセンサの現在位置に基づいて更新され得る。換言すれば、全ての画像はセンサ143の現在位置を3Dマップおよび任意の表示された2D画像において追跡する。
一つの態様において、モードは、マーカ配置モード、生検位置追跡/管理モード、生検支援モード、結論/要旨モード等をさらに含み得る。各モードに関係のある画像は、各モードにおいて手順を促進するか進めるように表示される。
上に記述したように、各画像はパンまたはズームボタンまたはスライダを含み得る。ステップ645において、一つの画像のパンまたはズーム特徴は、臨床医によって行われるかどうかが決定される。パンおよびズームボタンまたはスライダに加えて、パンおよびズーム特徴がキーボードおよびマウスのような入力デバイスによって、ディスプレイ画面上のタッチ動作(例えば、ピンチまたはダブルクリック)によって、カメラによって監視されている臨床医のジェスチャによって、または、可聴音によって起動され得る。パンまたはズームが行われない場合、方法600は、ステップ655に進む。そうでない場合、ステップ650において、ディスプレイ122は、画像のパンまたはズームに対応する3Dマップを含むすべての画像を同期してパンまたはズームする。このように、全ての画像が一体化してパンされるかズームされ得る。3Dマップウィンドウは、切り替えられた3Dマップ動的ウィンドウが同期してパンまたはズームされるように、3Dマップ動的ウィンドウに切り替えられ得る。表示画面に表示された画像は、目標、経路、ウェイポイント、生検マーカ、臓器または医療器具を含み得る。
ステップ655において、ナビゲーションが終了したか、またはナビゲーション器具140が目標に到達したかを決定する。もし、そうでない場合、ナビゲーション器具140のセンサ143が目標の近傍に到着するまで、方法600は、ステップ640から655までを実施し続ける。方法600が終了した場合、生検または処理手順が行われ得る。LGが使用されている場合、LGは除去され、カテーテル142内の生検ツールまたは処理ツールによって置き換えられる。しかしながら、もし、センサ143がカテーテル142内で一体化されている場合、手順を実施するように要求されるので、生検ツールまたは処理ツールは単純に前進させられ得る。
図6に記載された方法論の結果として、ディスプレイ122に提示された画像は、臨床医が、ナビゲーション器具140または、気管支鏡144から手を放す必要性を取り除いて、手順の各段階において更新される。当業者によって評価されるように、上に記載された実施形態は、例示であり、本開示の範囲を限定するものではない。結果として、画像および3Dマップの異なるグループ分けが、手順の異なる段階において提示され得る。さらに、特定の臨床医、病院の好みに対するカスタマイズ、または、特定のタイプの肺の特定の部分に対する手順または、本明細書に記載されたデバイスおよびシステムによってアクセスされる他の領域に対するカスタマイズされるユーザ選択のインテリジェントディスプレイを生成する臨床医によって、段階は、最適化されるか、事前選択され得る。
ワークステーション120は、ラップトップ、デスクトップ、タブレット、または他の同様なデバイスを含む様々なコンピュータシステムの一つであり得る。ディスプレイ122は、タッチ感応、および/または音声起動であり得、ディスプレイ122を入力デバイスおよび出力デバイスとして役立つことを可能にする。一つの態様において、図1のメモリ126は、一つ以上の個体格納デバイス、フラッシュメモリ、大容量ストレージ、テープドライブ、または、格納制御装置およびシステム通信バスを介してプロセッサに接続されている任意のコンピュータ読み取り可能な格納媒体であり得る。コンピュータ読み取り可能な格納媒体は、コンピュータ読み取り可能な命令、データ構造、プログラムまたは他のデータのような情報を格納する任意の方法または技術に実装される、非遷移型、揮発性、不揮発性、取外し可能型、非取外し可能型媒体であり得る。例えば、コンピュータ読み取り可能な格納媒体は、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、消去可能プログラム可能読み取り専用メモリ(EPROM)、電気的消去可能プログラム可能読み取り専用メモリ(EEPROM)、フラッシュメモリまたは他の個体メモリ技術、CD−ROM、DVDまたは他の光学ストレージ、磁気カセット、磁気テープ、磁気ディスク、または他の磁気格納デバイス、または、所望の情報を格納するために使用され、表示デバイスによってアクセスできる任意の他の媒体を含む。
実施形態において、一つ以上のプロセッサ124が他のプログラムのために利用可能であるように、ワークステーション120は、別個の画像処理機能のみを行うグラフィックアクセラレータをさらに含み得る。ネットワークインターフェイス128は、他のコンピュータデバイスおよび/または画像化デバイス110が、有線および/または無線ネットワーク接続を介して互いに通信することを可能にする。図1において、ワークステーション120は、画像化デバイス110により有線接続を介して、医学画像、医学データ、および制御データを送信または受信するように示されているが、しかし、データは、無線で送信され得る。
一つの態様において、メモリまたは格納空間は、ネットワーククラウドにあり得、画像処理、または、肺の内腔ネットワークを介するナビゲーションを計画または実施するために必要な他の処理は、ネットワーククラウドにおいて、コンピュータデバイスによってなされ得る。
入力デバイス129は、値の設定、テキスト情報、および/または、ワークステーション120の制御のような、データを入力するか、情報制御のために使用される。入力デバイス129は、キーボード、マウス、走査デバイス、または、他のデータ入力デバイスを含み得る。システム通信バスは、ディスプレイ122、一つ以上のプロセッサ124、メモリ126、ネットワークインターフェイス128、および入力デバイス129の間を互いに接続し得る。一つの態様において、入力デバイス129は、音声、タッチ、または、ジェスチャをさらに含み得る。
別の態様において、コンピュータトモグラフィ(CT)技術、X線透視法、コンピュータ化軸位トモグラフィ(CAT)スキャン法、磁気共鳴画像化(MRI)法、超音波検査法、コントラスト画像化法、X線透視法、核スキャン、および、陽電子放出画像化(PET)法を含む、画像化モダリティを使用する画像化デバイスによって、肺のスライス画像が得られ得る。
加えて、次の共同所有の出願も参照され、それらは、画像処理の特徴、および本明細書に記載されたシステムと関連のある他の特徴の中でユーザインターフェイスの更新を教示する:2014年7月2日にBrown他によって出願された、「System and Method for Navigating Within the Lung」と題される、米国仮特許出願第62/020,240号;2014年7月2日にBrown他によって出願された、「Real−Time Automatic Registration Feedback」と題される、共同所有の米国仮特許出願第62/020,220号;2014年7月2日にBrown他によって出願された、「Methods for Marking Biopsy Location」と題される、米国仮特許出願第62/020,177号;2014年7月2日にGreenburgによって出願された、「Unified Coordinate System For Multiple CT Scans Of Patient Lungs」と題される、米国仮特許出願第62/020,242号;2014年7月2日にKlein他によって出願された、「Alignment CT」と題される、米国仮特許出願第62/020,245号;2014年7月2日にMerlet他によって出願された、「Algorithm for Fluoroscopic Pose Estimation」と題される、米国仮特許出願第62/020,250号;2014年7月2日にLachmanovich他によって出願された、「Trachea Marking」と題される、米国仮特許出願第62/020,253号;2014年7月2日にMarkov他によって出願された、「Lung and Pleura Segmentation」と題される、米国仮特許出願第62/020,261号;2014年7月2日にLachmanovich他によって出願された、「Cone View−A Method Of Providing Distance And Orientation Feedback While Navigating In 3d」と題される、米国仮特許出願第62/020,258号;2014年7月2日にWeingarten他によって出願された、「Dynamic 3D Lung Map View for Tool Navigation Inside the Lung」と題される、米国仮特許出願第62/020,262号;2014年7月2日にMarkov他によって出願された、「System and Method for Segmentation of Lung」と題される、米国仮特許出願第62/020,261号;および2014年7月2日にMarkov他によって出願された、「Automatic Detection Of Human Lung Trachea」と題される、米国仮特許出願第62/020,257号。さらに、本開示では、これらの参照文献はすべてDICOM画像を処理する態様に向けられており、気管の検出、肺の中をナビゲートすること、およびDICOM画像および処理された画像を表示して、とりわけ、肺の処理計画およびナビゲーションに関係する、強化された明確性および分析、診断、および処理システムのための性能を提供する。これらの出願のすべては、参照として、本明細書に援用される。本開示は、特定の例示の実施形態の観点から記述されてきたが、様々な修正、再構成および置換が、本開示の精神から離れることなく、なされ得ることが当業者には容易に明らかであろう。本開示の範囲は、以下に添付の特許請求の範囲によって規定される。

Claims (20)

  1. 肺の医学画像を画面上に表示する医学画像表示装置であって、前記医学画像表示装置は、
    ナビゲーション器具の位置センサからの前記ナビゲーション器具の位置情報と、前記ナビゲーション器具の光学センサからのビデオストリームと、画像化デバイスからの医学画像とを受信するように構成されているネットワークインターフェイスと、
    複数の医学画像および命令を格納するメモリと、
    前記命令を実行するように構成されているプロセッサと、
    ウィンドウを前記画面上に動的に表示するように構成されているディスプレイと
    を含み、
    前記ウィンドウは、画像を表示し、
    前記命令は、前記プロセッサによって実行されると、
    前記ディスプレイの内視鏡ナビゲーション情報を決定することであって、前記内視鏡ナビゲーション情報は、手続きモードを示し、前記手続きモードは、経路検討モード、目標管理モード、または、ナビゲーションモードのうちの1つである、ことと、
    前記決定された内視鏡ナビゲーション情報によって示される前記手続きモードと前記位置情報とに基づいて、前記画面上に表示されるべき前記ウィンドウの数を動的に変更することと、
    前記ナビゲーション器具の前記位置情報と前記決定された内視鏡ナビゲーション情報とに基づいて、前記複数の医学画像の中から前記画面上に表示される画像を動的に選択し更新することと
    を前記医学画像表示装置に行わせる、医学画像表示装置。
  2. 前記ナビゲーション器具は、内視鏡器具である、請求項1に記載の医学画像表示装置。
  3. 前記複数の医学画像は、矢状の画像または冠状の画像または軸位の画像、前記肺の三次元(3D)マップ、目標、前記目標への経路計画、仮想気管支鏡ビデオ画像、実況の気管支鏡ビデオ画像、最大値投影画像、3D CT画像、ナビゲーション器具の遠位先端、および、これらの任意の組み合わせからなる群から選択される、請求項1に記載の医学画像表示装置。
  4. 前記矢状の画像または前記冠状の画像または前記軸位の画像は、コンピュータトモグラフィ、X線透視法、コンピュータ支援トモグラフィー、陽電子放出トモグラフィー、または、磁気共鳴画像化法によって捕捉される、請求項3に記載の医学画像表示装置。
  5. 表示された画像は、合成画像であり、第一の画像化法から得られた前記肺の第一の画像は、別の画像化法から得られた第二の画像に重ねられている、請求項3に記載の医学画像表示装置。
  6. 前記第一の画像は、コンピュータトモグラフィによって捕捉され、前記第二の画像は、X線透視法によって捕捉される、請求項5に記載の医学画像表示装置。
  7. 前記ディスプレイは、前記位置情報における変化に対応するように、二つ以上の画像を同期して表示する、請求項1に記載の医学画像表示装置。
  8. 前記目標が3Dマップにおいて表示される場合には、前記目標の位置情報に基づいて、矢状の画像、冠状の画像、および/または、軸位の画像が選択され表示される、請求項3に記載の医学画像表示装置。
  9. 前記位置情報における変化は、前記肺における前記ナビゲーション器具の前記位置センサの移動を示す、請求項3に記載の医学画像表示装置。
  10. 前記ナビゲーション器具の前記位置センサの前記位置情報に基づいて、前記軸位の画像および前記冠状の画像および前記矢状の画像が表示される、請求項3に記載の医学画像表示装置。
  11. 前記軸位の画像および前記冠状の画像および前記矢状の画像のそれぞれは、制御によって制御される、請求項10に記載の医学画像表示装置。
  12. 前記制御は、ズームすることとパンすることとを含む、請求項11に記載の医学画像表示装置。
  13. 前記3Dマップは、方向インディケータと共に表示される、請求項3に記載の医学画像表示装置。
  14. 前記方向インディケータは、前記3Dマップの方向を示す、請求項13に記載の医学画像表示装置。
  15. 前記位置センサが閾値位置を通過しないことを前記位置情報が示す場合には、前記ディスプレイは、前記実況の気管支鏡ビデオ画像を表示する、請求項3に記載の医学画像表示装置。
  16. 前記位置センサが前記閾値位置を通過することを前記位置情報が示す場合には、前記ディスプレイは、前記実況の気管支鏡ビデオ画像を除去し、前記仮想気管支鏡ビデオ画像を表示する、請求項15に記載の医学画像表示装置。
  17. 前記ナビゲーションモードにおいて実況の気管支鏡ビデオ画像が前記ナビゲーション器具から受信されていない場合には、前記ディスプレイは、最後に受信した画像を表示する、請求項3に記載の医学画像表示装置。
  18. 前記ディスプレイは、前記3Dマップを自動的に配向することにより、前記3Dマップにおける前記位置センサの現在位置を示す、請求項3に記載の医学画像表示装置。
  19. 医学画像を画面上に表示する医学画像表示システムであって、前記医学画像表示システムは、
    患者の画像を捕捉するように構成されている画像化デバイスと、
    前記患者の内部をナビゲートし、位置センサによって得られた位置情報と光学センサによって得られたビデオストリームとを送信するように構成されているナビゲーション装置と、
    装置と
    を含み、
    前記装置は、
    ナビゲーション器具からの前記位置情報および前記ビデオストリームと、前記画像化デバイスからの前記捕捉された画像を受信するように構成されているネットワークインターフェイスと、
    命令を実行するように構成されているプロセッサと、
    複数の医学画像および命令を格納するメモリと、
    ウィンドウを前記画面上に表示するように構成されているディスプレイと
    を含み、
    前記ウィンドウは、画像を表示し、
    前記命令は、前記プロセッサによって実行されると、
    前記ナビゲーション器具の内視鏡ナビゲーション情報を決定することであって、前記内視鏡ナビゲーション情報は、手続きモードを示し、前記手続きモードでは、前記ナビゲーション器具が前記位置情報よび前記ビデオストリームを送信することと、
    前記決定された内視鏡ナビゲーション情報によって示される前記手続きモードと前記位置情報とに基づいて、前記画面上に表示されるべき前記ウィンドウの数を動的に変更することと、
    前記ナビゲーション器具の前記位置情報と前記決定された内視鏡ナビゲーション情報とに基づいて、前記複数の画像の中から前記画面上に表示される画像を動的に選択し更新することと
    を前記装置に行わせる、医学画像表示システム。
  20. 肺の医学画像を表示デバイスの画面上に表示されるウィンドウ上に動的に表示する医学画像表示装置を動作させる方法であって、前記表示デバイスは、前記肺のスライス画像と前記肺の三次元(3D)マップと目標への経路計画とを格納し、前記医学画像表示装置は、プロセッサとネットワークインターフェイスとを含み、
    前記方法は、
    前記プロセッサが、前記表示デバイスの内視鏡ナビゲーション情報を決定することであって、前記内視鏡ナビゲーション情報は、手続きモードを示し、前記手続きモードは、経路検討モード、目標管理モード、または、ナビゲーションモードのうちの1つである、ことと、
    前記ネットワークインターフェイスが、ナビゲーション器具から位置情報を受信することであって、前記位置情報は、前記肺をナビゲートする前記ナビゲーション器具の位置センサの位置を示す、ことと、
    前記プロセッサが、前記決定された内視鏡ナビゲーション情報によって示される前記手続きモードと前記位置情報とに基づいて、前記画面上に表示されるべき前記ウィンドウの数を動的に変更することと、
    前記プロセッサが、前記決定された内視鏡ナビゲーション情報と前記位置情報とに基づいて、医学画像を選択することと
    を含み、
    前記決定された内視鏡ナビゲーション情報が前記経路検討モードである場合には、前記表示された医学画像は、前記経路計画および前記目標に重ねられている前記3Dマップおよび仮想気管支鏡ビデオ画像を含み、
    前記決定された内視鏡ナビゲーション情報が前記ナビゲーションモードである場合には、前記表示された医学画像は、前記3Dマップと、前記仮想気管支鏡ビデオ画像または実況気管支鏡ビデオ画像と、スライス画像とを含み、これらのすべては、前記位置センサの前記位置を同期して追跡し、
    前記決定された内視鏡ナビゲーション情報が前記目標管理モードである場合には、前記表示された医学画像は、3つの独立した方向から撮られた3つのスライス画像と、前記目標を表示する最大値投影画像とを含み、
    前記ナビゲーションモードにおいて、1つの画像がパンされるまたはズームされる場合には、すべての画像および前記3Dマップが対応するように、同期してパンされるまたはズームされる、方法。
JP2016575495A 2014-07-02 2015-06-30 医学画像表示装置、医学画像表示システム、医学画像表示装置を動作させる方法 Active JP6730938B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201462020238P 2014-07-02 2014-07-02
US62/020,238 2014-07-02
US14/754,058 US11188285B2 (en) 2014-07-02 2015-06-29 Intelligent display
US14/754,058 2015-06-29
PCT/US2015/038491 WO2016004007A1 (en) 2014-07-02 2015-06-30 Intelligent display

Publications (2)

Publication Number Publication Date
JP2017525418A JP2017525418A (ja) 2017-09-07
JP6730938B2 true JP6730938B2 (ja) 2020-07-29

Family

ID=55016180

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016575495A Active JP6730938B2 (ja) 2014-07-02 2015-06-30 医学画像表示装置、医学画像表示システム、医学画像表示装置を動作させる方法

Country Status (7)

Country Link
US (3) US11188285B2 (ja)
EP (1) EP3164071B1 (ja)
JP (1) JP6730938B2 (ja)
CN (1) CN106572827B (ja)
AU (1) AU2015284290B2 (ja)
CA (1) CA2953723A1 (ja)
WO (1) WO2016004007A1 (ja)

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10165938B2 (en) * 2012-11-13 2019-01-01 Karl Storz Imaging, Inc. Configurable medical video safety system
US9603668B2 (en) 2014-07-02 2017-03-28 Covidien Lp Dynamic 3D lung map view for tool navigation inside the lung
CN106572834B (zh) 2014-07-02 2019-12-03 柯惠有限合伙公司 对准ct
US9633431B2 (en) 2014-07-02 2017-04-25 Covidien Lp Fluoroscopic pose estimation
US11188285B2 (en) * 2014-07-02 2021-11-30 Covidien Lp Intelligent display
JPWO2017038321A1 (ja) * 2015-09-03 2018-06-14 オリンパス株式会社 内視鏡装置及び内視鏡装置の表示変更制御方法
US10582914B2 (en) 2016-01-15 2020-03-10 Covidien Lp Navigable endobronchial tool to access tissue outside a bronchus
CN109069009B (zh) * 2016-03-10 2022-09-23 博迪维仁医疗有限公司 用于使用多视图位姿估计的方法和系统
US10478254B2 (en) 2016-05-16 2019-11-19 Covidien Lp System and method to access lung tissue
US10470839B2 (en) * 2016-06-02 2019-11-12 Covidien Lp Assessment of suture or staple line integrity and localization of potential tissue defects along the suture or staple line
KR102420386B1 (ko) * 2016-06-30 2022-07-13 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 영상 안내식 시술 중에 복수의 모드에서 안내 정보를 디스플레이하기 위한 그래픽 사용자 인터페이스
CN108024833B (zh) * 2016-06-30 2021-06-04 直观外科手术操作公司 用于在图像引导过程期间显示引导信息的图形用户界面
US10939963B2 (en) 2016-09-01 2021-03-09 Covidien Lp Systems and methods for providing proximity awareness to pleural boundaries, vascular structures, and other critical intra-thoracic structures during electromagnetic navigation bronchoscopy
US10542953B2 (en) 2016-09-27 2020-01-28 Covidien Lp Fissural assessment and surgical and interventional planning
US10543044B2 (en) 2016-09-27 2020-01-28 Covidien Lp Systems and methods for detecting pleural invasion for surgical and interventional planning
JP6608111B2 (ja) * 2016-09-28 2019-11-20 富士フイルム株式会社 医用画像保存再生装置および方法並びにプログラム
WO2018179675A1 (ja) * 2017-03-29 2018-10-04 ソニー・オリンパスメディカルソリューションズ株式会社 医療用観察装置、および制御方法
EP3612121A4 (en) * 2017-04-18 2021-04-07 Intuitive Surgical Operations, Inc. GRAPHIC USER INTERFACE TO MONITOR AN IMAGE GUIDED PROCEDURE
WO2018195946A1 (zh) * 2017-04-28 2018-11-01 深圳迈瑞生物医疗电子股份有限公司 一种超声图像显示方法、设备及存储介质
US11779192B2 (en) * 2017-05-03 2023-10-10 Covidien Lp Medical image viewer control from surgeon's camera
CN111278381B (zh) * 2017-08-28 2024-04-09 皇家飞利浦有限公司 对定位跟踪的介入设备的自动视场更新
US11058493B2 (en) 2017-10-13 2021-07-13 Auris Health, Inc. Robotic system configured for navigation path tracing
US11219489B2 (en) 2017-10-31 2022-01-11 Covidien Lp Devices and systems for providing sensors in parallel with medical tools
AU2018390476B2 (en) * 2017-12-18 2024-03-28 Auris Health, Inc. Methods and systems for instrument tracking and navigation within luminal networks
US11464576B2 (en) 2018-02-09 2022-10-11 Covidien Lp System and method for displaying an alignment CT
CN110831481B (zh) 2018-05-31 2022-08-30 奥瑞斯健康公司 管状网络的基于路径的导航
US11224486B2 (en) * 2018-08-22 2022-01-18 Verily Life Sciences Llc Global synchronization of user preferences
EP3875022A4 (en) * 2018-11-01 2021-10-20 FUJIFILM Corporation MEDICAL IMAGE PROCESSING DEVICE, MEDICAL IMAGE PROCESSING PROCESS AND PROGRAM, AND DIAGNOSIS ASSISTANCE DEVICE
US11514576B2 (en) * 2018-12-14 2022-11-29 Acclarent, Inc. Surgical system with combination of sensor-based navigation and endoscopy
US11627924B2 (en) 2019-09-24 2023-04-18 Covidien Lp Systems and methods for image-guided navigation of percutaneously-inserted devices
US11446095B2 (en) * 2019-12-24 2022-09-20 Biosense Webster (Israel) Ltd. 2D pathfinder visualization
WO2021130734A1 (en) * 2019-12-26 2021-07-01 Navix International Limited Device implantation guidance
WO2021216860A1 (en) * 2020-04-22 2021-10-28 Canon U.S.A., Inc. Visualization of three-dimensional image data on two-dimensional images
CA3208480A1 (en) * 2021-01-15 2022-07-21 Minnetronix Neuro, Inc. Systems and methods for managing, monitoring, and treating patient conditions
DE102021103411A1 (de) * 2021-02-12 2022-08-18 Aesculap Ag Chirurgisches Assistenzsystem und Darstellungsverfahren
US11957302B2 (en) 2021-05-24 2024-04-16 Verily Life Sciences Llc User-interface for visualization of endoscopy procedures
WO2023166974A1 (ja) * 2022-03-02 2023-09-07 富士フイルム株式会社 画像処理装置、内視鏡装置、画像処理方法、及びプログラム

Family Cites Families (64)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5605531A (en) * 1994-04-08 1997-02-25 Tilane Corporation Apparatus for use with endoscopy and fluoroscopy for automatic switching between video modes
US6343936B1 (en) 1996-09-16 2002-02-05 The Research Foundation Of State University Of New York System and method for performing a three-dimensional virtual examination, navigation and visualization
US6049622A (en) 1996-12-05 2000-04-11 Mayo Foundation For Medical Education And Research Graphic navigational guides for accurate image orientation and navigation
US6928314B1 (en) * 1998-01-23 2005-08-09 Mayo Foundation For Medical Education And Research System for two-dimensional and three-dimensional imaging of tubular structures in the human body
US7356367B2 (en) 2000-06-06 2008-04-08 The Research Foundation Of State University Of New York Computer aided treatment planning and visualization with image registration and fusion
EP1463437B1 (en) * 2000-07-31 2012-01-04 Galil Medical Ltd. Facilitation system for cryosurgery
US7072501B2 (en) * 2000-11-22 2006-07-04 R2 Technology, Inc. Graphical user interface for display of anatomical information
US6663559B2 (en) * 2001-12-14 2003-12-16 Endactive, Inc. Interface for a variable direction of view endoscope
EP1499235B1 (en) * 2002-04-17 2016-08-17 Covidien LP Endoscope structures and techniques for navigating to a target in branched structure
US7998062B2 (en) 2004-03-29 2011-08-16 Superdimension, Ltd. Endoscope structures and techniques for navigating to a target in branched structure
EP1466552B1 (en) * 2002-07-31 2007-01-03 Olympus Corporation Endoscope
US7599730B2 (en) 2002-11-19 2009-10-06 Medtronic Navigation, Inc. Navigation system for cardiac therapies
US7697972B2 (en) 2002-11-19 2010-04-13 Medtronic Navigation, Inc. Navigation system for cardiac therapies
FI117986B (fi) * 2003-06-17 2007-05-15 Onesys Oy Menetelmä ja järjestelmä navigoimiseksi tosiaikaisesti kolmiulotteisessa lääketieteellisessä kuvamallissa
US7822461B2 (en) * 2003-07-11 2010-10-26 Siemens Medical Solutions Usa, Inc. System and method for endoscopic path planning
WO2005029258A2 (en) 2003-09-16 2005-03-31 Stereotaxis, Inc. User interface for remote control of medical devices
US7543239B2 (en) * 2004-06-04 2009-06-02 Stereotaxis, Inc. User interface for remote control of medical devices
US20090226065A1 (en) 2004-10-09 2009-09-10 Dongqing Chen Sampling medical images for virtual histology
US7920152B2 (en) 2004-11-04 2011-04-05 Dr Systems, Inc. Systems and methods for viewing medical 3D imaging volumes
CA2588002A1 (en) * 2005-01-18 2006-07-27 Traxtal Inc. Method and apparatus for guiding an instrument to a target in the lung
JP4914574B2 (ja) * 2005-04-18 2012-04-11 オリンパスメディカルシステムズ株式会社 内視鏡形状検出装置
WO2007129493A1 (ja) 2006-05-02 2007-11-15 National University Corporation Nagoya University 医療画像観察支援装置
US8248414B2 (en) * 2006-09-18 2012-08-21 Stryker Corporation Multi-dimensional navigation of endoscopic video
US8248413B2 (en) 2006-09-18 2012-08-21 Stryker Corporation Visual navigation system for endoscopic surgery
WO2008125910A2 (en) 2006-11-10 2008-10-23 Superdimension, Ltd. Adaptive navigation technique for navigating a catheter through a body channel or cavity
JP2010510815A (ja) 2006-11-28 2010-04-08 スーパーディメンション, リミテッド 身体の通路または腔を通してカテーテルをナビゲートする適応的ナビゲーション技術
US8672836B2 (en) * 2007-01-31 2014-03-18 The Penn State Research Foundation Method and apparatus for continuous guidance of endoscopy
US20080300478A1 (en) * 2007-05-30 2008-12-04 General Electric Company System and method for displaying real-time state of imaged anatomy during a surgical procedure
JP2010528750A (ja) 2007-06-07 2010-08-26 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 管状構造の検査
RU2494676C2 (ru) * 2007-11-16 2013-10-10 Конинклейке Филипс Электроникс, Н.В. Интервенционная навигация с использованием трехмерного ультразвука с контрастным усилением
WO2009102984A2 (en) 2008-02-15 2009-08-20 The Research Foundation Of The State University Of New York System and method for virtually augmented endoscopy
US8219179B2 (en) 2008-03-06 2012-07-10 Vida Diagnostics, Inc. Systems and methods for navigation within a branched structure of a body
US8218846B2 (en) * 2008-05-15 2012-07-10 Superdimension, Ltd. Automatic pathway and waypoint generation and navigation method
JP2010172350A (ja) 2009-01-27 2010-08-12 Sendai City Medical Center 術具挿入支援システム
US8337397B2 (en) * 2009-03-26 2012-12-25 Intuitive Surgical Operations, Inc. Method and system for providing visual guidance to an operator for steering a tip of an endoscopic device toward one or more landmarks in a patient
WO2011001301A1 (en) 2009-06-29 2011-01-06 Koninklijke Philips Electronics N.V. Method and apparatus for tracking in a medical procedure
EP2489011B1 (en) * 2009-10-14 2020-04-29 3Mensio Medical Imaging B.V. A method, a graphic user interface, a system and a computer program for optimizing workflow of a medical intervention
US8945140B2 (en) * 2010-06-18 2015-02-03 Vantage Surgical Systems, Inc. Surgical procedures using instrument to boundary spacing information extracted from real-time diagnostic scan data
US10165928B2 (en) * 2010-08-20 2019-01-01 Mark Hunter Systems, instruments, and methods for four dimensional soft tissue navigation
EP2581029B1 (en) 2011-01-24 2014-12-31 Olympus Medical Systems Corp. Medical device
US20120249546A1 (en) * 2011-04-04 2012-10-04 Vida Diagnostics, Inc. Methods and systems for visualization and analysis of sublobar regions of the lung
US8992232B2 (en) 2011-09-20 2015-03-31 Orca Health, Inc. Interactive and educational vision interfaces
RU2606453C2 (ru) * 2011-12-03 2017-01-10 Конинклейке Филипс Н.В. Автоматическое изменение глубины и корректирование ориентации при полуавтоматическом планировании пути
US8920368B2 (en) * 2011-12-22 2014-12-30 St. Jude Medical, Atrial Fibrillation Division, Inc. Multi-user touch-based control of a remote catheter guidance system (RCGS)
US8682049B2 (en) * 2012-02-14 2014-03-25 Terarecon, Inc. Cloud-based medical image processing system with access control
WO2014028394A1 (en) 2012-08-14 2014-02-20 Intuitive Surgical Operations, Inc. Systems and methods for registration of multiple vision systems
CN105377177B (zh) * 2013-03-14 2018-08-07 Vida诊断公司 肺减容手术的治疗设计
US9925009B2 (en) 2013-03-15 2018-03-27 Covidien Lp Pathway planning system and method
US9639666B2 (en) 2013-03-15 2017-05-02 Covidien Lp Pathway planning system and method
US9459770B2 (en) 2013-03-15 2016-10-04 Covidien Lp Pathway planning system and method
JP6785656B2 (ja) 2013-08-15 2020-11-18 インテュイティブ サージカル オペレーションズ, インコーポレイテッド カテーテルの位置付け及び挿入のためのグラフィカル・ユーザインターフェイス
CN105992996B (zh) * 2014-04-04 2019-11-26 外科手术室公司 外科手术环境中的动态和交互式导航
US20150305612A1 (en) * 2014-04-23 2015-10-29 Mark Hunter Apparatuses and methods for registering a real-time image feed from an imaging device to a steerable catheter
US9836848B2 (en) 2014-07-02 2017-12-05 Covidien Lp System and method for segmentation of lung
US20160000414A1 (en) 2014-07-02 2016-01-07 Covidien Lp Methods for marking biopsy location
CN106659374B (zh) 2014-07-02 2021-04-02 柯惠有限合伙公司 在3d导航时提供距离和取向反馈的系统和方法
US9727986B2 (en) 2014-07-02 2017-08-08 Covidien Lp Unified coordinate system for multiple CT scans of patient lungs
US9633431B2 (en) 2014-07-02 2017-04-25 Covidien Lp Fluoroscopic pose estimation
US11188285B2 (en) * 2014-07-02 2021-11-30 Covidien Lp Intelligent display
CN106572834B (zh) 2014-07-02 2019-12-03 柯惠有限合伙公司 对准ct
US9607395B2 (en) 2014-07-02 2017-03-28 Covidien Lp System and method for detecting trachea
US9770216B2 (en) 2014-07-02 2017-09-26 Covidien Lp System and method for navigating within the lung
US9754367B2 (en) 2014-07-02 2017-09-05 Covidien Lp Trachea marking
US9603668B2 (en) 2014-07-02 2017-03-28 Covidien Lp Dynamic 3D lung map view for tool navigation inside the lung

Also Published As

Publication number Publication date
CN106572827B (zh) 2022-02-25
AU2015284290A1 (en) 2017-01-12
US11188285B2 (en) 2021-11-30
JP2017525418A (ja) 2017-09-07
EP3164071B1 (en) 2022-08-03
US20160000517A1 (en) 2016-01-07
CA2953723A1 (en) 2016-01-07
US20240041299A1 (en) 2024-02-08
WO2016004007A1 (en) 2016-01-07
US11793389B2 (en) 2023-10-24
US20220057977A1 (en) 2022-02-24
EP3164071A1 (en) 2017-05-10
AU2015284290B2 (en) 2019-09-12
EP3164071A4 (en) 2018-04-04
CN106572827A (zh) 2017-04-19

Similar Documents

Publication Publication Date Title
US11793389B2 (en) Intelligent display
US20220338820A1 (en) System and method of providing distance and orientation feedback while navigating in 3d
AU2020205248B2 (en) Dynamic 3D lung map view for tool navigation inside the lung
US20210068911A1 (en) Robot-assisted driving systems and methods
US11571262B2 (en) Graphical user interface for planning a procedure
JP6438545B2 (ja) プランニングシステム及び方法
JP6371083B2 (ja) 経路計画システムおよび方法
JP6122875B2 (ja) 血管ツリー画像内での見えない分岐部の検出
US20230143522A1 (en) Surgical assistant system based on image data of the operative field
JP2019531113A (ja) 軟性点特徴部を使用して呼吸周期を予測し、端部位置合わせを改善する方法
EP4222718A1 (en) Systems and method of planning thoracic surgery

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180508

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190304

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191031

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200623

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200703

R150 Certificate of patent or registration of utility model

Ref document number: 6730938

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250