JP2023509321A - 内視鏡処置のためのガイド下解剖学的構造操作 - Google Patents
内視鏡処置のためのガイド下解剖学的構造操作 Download PDFInfo
- Publication number
- JP2023509321A JP2023509321A JP2022535102A JP2022535102A JP2023509321A JP 2023509321 A JP2023509321 A JP 2023509321A JP 2022535102 A JP2022535102 A JP 2022535102A JP 2022535102 A JP2022535102 A JP 2022535102A JP 2023509321 A JP2023509321 A JP 2023509321A
- Authority
- JP
- Japan
- Prior art keywords
- anatomy
- endoscopic
- operational
- guided
- manipulation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 63
- 210000003484 anatomy Anatomy 0.000 claims abstract description 263
- 230000033001 locomotion Effects 0.000 claims abstract description 26
- 238000003860 storage Methods 0.000 claims description 18
- 230000008707 rearrangement Effects 0.000 abstract 1
- 210000001519 tissue Anatomy 0.000 description 30
- 238000001356 surgical procedure Methods 0.000 description 15
- 210000004185 liver Anatomy 0.000 description 9
- 230000005291 magnetic effect Effects 0.000 description 9
- 230000001225 therapeutic effect Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 230000000670 limiting effect Effects 0.000 description 8
- 210000004204 blood vessel Anatomy 0.000 description 7
- 206010028980 Neoplasm Diseases 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 6
- 210000000988 bone and bone Anatomy 0.000 description 5
- 238000002591 computed tomography Methods 0.000 description 5
- 238000002405 diagnostic procedure Methods 0.000 description 5
- 210000000056 organ Anatomy 0.000 description 5
- 230000036961 partial effect Effects 0.000 description 5
- 238000002560 therapeutic procedure Methods 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 210000004072 lung Anatomy 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 3
- 238000005452 bending Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 210000005036 nerve Anatomy 0.000 description 3
- 210000000944 nerve tissue Anatomy 0.000 description 3
- 238000002600 positron emission tomography Methods 0.000 description 3
- 238000012800 visualization Methods 0.000 description 3
- 210000001015 abdomen Anatomy 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000013276 bronchoscopy Methods 0.000 description 2
- 238000002052 colonoscopy Methods 0.000 description 2
- 238000002573 colposcopy Methods 0.000 description 2
- 238000010219 correlation analysis Methods 0.000 description 2
- 238000005520 cutting process Methods 0.000 description 2
- 238000002574 cystoscopy Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000005294 ferromagnetic effect Effects 0.000 description 2
- 238000002575 gastroscopy Methods 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 238000002357 laparoscopic surgery Methods 0.000 description 2
- 238000002576 laryngoscopy Methods 0.000 description 2
- 238000002595 magnetic resonance imaging Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000002579 sigmoidoscopy Methods 0.000 description 2
- 238000011282 treatment Methods 0.000 description 2
- 230000003187 abdominal effect Effects 0.000 description 1
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000004071 biological effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000013154 diagnostic monitoring Methods 0.000 description 1
- 239000012636 effector Substances 0.000 description 1
- 238000002674 endoscopic surgery Methods 0.000 description 1
- 238000001839 endoscopy Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000002324 minimally invasive surgery Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000002271 resection Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 210000000115 thoracic cavity Anatomy 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00006—Operational features of endoscopes characterised by electronic signal processing of control signals
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000094—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
- A61B1/0005—Display arrangement combining images e.g. side-by-side, superimposed or tiled
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/10—Computer-aided planning, simulation or modelling of surgical operations
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B90/361—Image-producing devices, e.g. surgical cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000096—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/10—Computer-aided planning, simulation or modelling of surgical operations
- A61B2034/101—Computer-aided simulation of surgical operations
- A61B2034/105—Modelling of the patient, e.g. for ligaments or bones
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2055—Optical tracking systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2065—Tracking using image or pattern recognition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/25—User interfaces for surgical systems
- A61B2034/256—User interfaces for surgical systems having a database of accessory information, e.g. including context sensitive help or scientific articles
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B2090/364—Correlation of different images or relation of image positions in respect to the body
- A61B2090/365—Correlation of different images or relation of image positions in respect to the body augmented reality, i.e. correlating a live optical image with another image
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/50—Supports for surgical instruments, e.g. articulated arms
- A61B2090/502—Headgear, e.g. helmet, spectacles
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Veterinary Medicine (AREA)
- Physics & Mathematics (AREA)
- Radiology & Medical Imaging (AREA)
- Pathology (AREA)
- Biophysics (AREA)
- Optics & Photonics (AREA)
- Signal Processing (AREA)
- Robotics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Endoscopes (AREA)
Abstract
本開示の様々な実施形態は、解剖学的構造の内視鏡ビュー11の表示を制御するための、内視鏡ビューイングコントローラ20と、解剖学的構造の内視鏡ビュー11の表示内において、1つ又は複数のガイド下操作アンカ50~52の表示を制御するための、操作ガイダンスコントローラ30とを利用する、操作的な内視鏡ガイダンスデバイスを備える。ガイド下操作アンカ50~52は、解剖学的構造のガイド下操作のロケーションマーキング及び/又は動き指令(例えば、解剖学的構造の、つかみ、引っ張り、押し、スライド、向き変更、傾け、除去、又は再配置)を表す。操作ガイダンスコントローラ30は、解剖学的構造に対応する画像、モデル、及び/又は詳細についての知識ベースに対する、解剖学的構造の内視鏡ビュー11の相関を分析することによって、また知識ベースに対する、解剖学的構造の内視鏡ビュー11の相関の程度に基づいて、アンカを導出することによって、アンカを生成する。
Description
本開示は、一般に、画像ガイド下の内視鏡ベースの診断的処置、治療的処置、及び外科的処置に関する。本開示は、詳細には、内視鏡ビュー内における解剖学的構造のガイド下操作に関する。
低侵襲手術においては、外科医は、患者の体内に延びたカメラを使用して、治療下の組織を見る。これらのカメラは、内視鏡と呼ばれ、利用される内視鏡の特定のタイプは、実行される処置(例えば、肛門鏡検査、関節鏡検査、気管支鏡検査、結腸鏡検査、膣鏡検査、膀胱鏡検査、食道鏡検査、胃カメラ検査、腹腔鏡検査、喉頭鏡検査、神経内視鏡検査、直腸鏡検査、S字結腸鏡検査、及び胸腔鏡検査)に依存する。
手術中、外科医は、主要な外科的タスクの前に、内視鏡を介して、対象者の解剖学的領域の視覚的な検査及び調査を実行し、それによって、患者の解剖学的構造に精通し、重要な解剖学的構造(例えば、既知の血管及び神経)を識別する。そうしながら、外科医は、外科医がそれまで見たことがない、患者の組織に自らを精通させる。内視鏡は、従来、受動的な可視化ツールとして、このように使用されてきた。
処置に応じて、外科医は、自分が見たものを、解剖学的画像、並びに経験及び教科書による解剖学的知識を含む、自分が術前情報から知っていることと関連付けようと試みる。しかしながら、内視鏡ビュー下で見られる組織は、単独では前後左右との関連の把握が困難な小さいエリアに、視野が限定されるので、しばしば外科医によって直ちに認識可能ではない。術前計画が、手術行為の最良の工程を決定するために、使用されるが、介入が、始まると、術前情報を内視鏡観察に完全に結び付けるのに十分な情報が、明らかになっていないことがある。その後、介入が、進むにつれて、組織の変形、生理的な動き、及び患者の動きなどによって、すでに獲得されたいずれかの情報融合が、無効とされることがある。介入が計画を参照するために、内視鏡ビューは、継続的に分析され、進展する手術状況に合わせて、更新されなければならない。
より詳細には、スキャン(例えば、X線、コンピュータ断層撮影(CT)、陽電子放出断層撮影(PET)など)を介した術前情報は、腫瘍、血管、及び気道などの構造を描き出す、放射線エネルギーに対する組織による減衰の相違を主に示すので、特定の患者の解剖学的構造の視覚的な様子は、手術時まで、分からない。したがって、低侵襲内視鏡手術における予備活動は、組織の外見に精通することである。この調査フェース中に、外科医は、ツールを使用して、操作を実行しながら、内視鏡を通して、組織を見、同時に、主要な外科的タスクを容易にするために、ランドマークを識別しながら、組織を切り裂いて、解剖学的構造を露出させる。例えば、腫瘍の切除においては、外科医は、切除中に、腫瘍に近接する血管及び他の構造を損傷することを回避するために、それらを識別しようと試みる。
この調査フェースは、外科的処置の多くの側面を再現困難にする、時間のかかる、不確実で、数量化不可能な活動である。既存の手法は、術前情報(例えば、X線スキャン、CTスキャン、PETスキャンなど)を、内視鏡ビューに融合させる。しかしながら、実際には、画像融合手法は、極端な組織変形、困難な深さ視覚化、並びに画像のアーチファクト(例えば、鏡面性、遮蔽、影、小さい視野、被写体ぶれ、及び焦点ぼけ)のせいで、大きく失敗している。
本開示は、内視鏡処置中に外科医に伝達される、解剖学的構造(例えば、組織、骨、神経、及び血管)の好ましいガイド下操作の新規で独特なコントローラ生成について説明する。そのようなガイド下操作の例は、内視鏡ベースの診断的処置中、内視鏡ベースの治療的処置中、及び/又は内視鏡ベースの外科的処置中における、解剖学的構造の、つかみ、引っ張り、押し、スライド、向き変更、傾け、切断、曲げ、ひねり、屈曲、引き伸ばし、圧縮、除去、及び/又は再配置を含むが、それらに限定されない。臨床医(例えば、放射線技師、療法士、又は外科医)が、ガイド下操作を手動若しくはロボットで実施し、又はコントローラが、しかるべく組織を操作するために、ロボット器具を自動的に制御する。
本開示は、(1)操作ガイダンスコントローラ、(2)操作ガイダンスコントローラを組み込んだ、操作的な内視鏡ガイダンスデバイス、(3)操作的な内視鏡ガイダンスデバイスを組み込んだ、操作的な内視鏡ガイダンスシステム、(4)操作ガイダンスコントローラを利用した、操作的な内視鏡ガイダンス方法、(5)操作的な内視鏡ガイダンスデバイスを利用した、操作的な内視鏡ガイダンス方法、(6)操作的な内視鏡ガイダンスシステムを利用した、操作的な内視鏡ガイダンス方法として具現化される。
本開示の様々な操作ガイダンスコントローラの実施形態は、解剖学的構造の内視鏡ビューの表示内において、1つ又は複数のガイド下操作アンカの表示を制御するための、操作ガイダンスコントローラを備える。ガイド下操作アンカは、内視鏡ベースの診断的処置中、内視鏡ベースの治療的処置中、及び/又は内視鏡ベースの外科的処置中における、解剖学的構造の、つかみ、引っ張り、押し、スライド、向き変更、傾け、除去、及び/又は再配置を含むが、それらに限定されない、解剖学的構造のガイド下操作のロケーションマーキング及び/又は動き指令を表す。
臨床医(例えば、放射線技師、療法士、又は外科医)は、表示されたように、ガイド下操作を手動若しくはロボットで実施し、又は操作ガイダンスコントローラは、しかるべく組織を操作するために、ロボット器具を自動的に制御する。
操作ガイダンスコントローラは、(1)解剖学的構造に対応する画像、モデル、及び/又は詳細についての知識ベースに対する、解剖学的構造の内視鏡ビューの相関を分析することによって、また(2)知識ベースに対する、解剖学的構造の内視鏡ビューの相関の程度に基づいて、ガイド下操作アンカを導出することによって、ガイド下操作アンカを生成する。
操作ガイダンスコントローラは、解剖学的構造の内視鏡ビューを受け取り、又は解剖学的構造の部分若しくは全体ボリュームスキャンに対する、内視鏡の追跡されたポジショニングから、解剖学的構造の内視鏡ビューを確かめる。
様々な操作的な内視鏡ガイダンスデバイスの実施形態は、操作ガイダンスコントローラと、解剖学的構造の内視鏡ビューの表示を制御するための内視鏡ビューイングコントローラとを備える。内視鏡ビューイングコントローラの例は、本開示の技術分野において知られ、本明細書において以下で構想されるような、解剖学的領域内において、ツール及び器具の内視鏡ベースの診断的、治療的、及び/又は外科的ガイダンスを実施するためのコントローラを含むが、それに限定されない。
様々な操作的な内視鏡ガイダンスシステムの実施形態は、解剖学的構造の内視鏡ビューを生成するための、本開示の技術分野において知られ、本明細書において以下で構想されるような、操作的な内視鏡ガイダンスデバイスと、内視鏡とを備える。内視鏡の例は、肛門鏡、関節鏡、気管支鏡、結腸鏡、膣鏡、膀胱鏡、食道鏡、胃カメラ、腹腔鏡、喉頭鏡、神経内視鏡、直腸鏡、S字結腸鏡、及び胸腔鏡を含むが、それらに限定されない。
本開示の様々な操作的な内視鏡ガイダンス方法の実施形態は、操作ガイダンスコントローラが、解剖学的構造の内視鏡ビューを受け取るステップと、操作ガイダンスコントローラが、解剖学的構造の内視鏡ビューの表示内において、1つ又は複数のガイド下操作アンカの表示を制御するステップとを有する。やはり、ガイド下操作アンカは、診断的処置中、治療的処置中、及び/又は外科的処置中における、解剖学的構造の、つかみ、引っ張り、押し、スライド、向き変更、傾け、除去、及び/又は再配置を含むが、それらに限定されない、解剖学的構造のガイド下操作のロケーションマーキング及び/又は動き指令を表す。
臨床医(例えば、放射線技師、療法士、又は外科医)は、表示されたように、ガイド下操作を手動若しくはロボットで実施し、又は操作ガイダンスコントローラは、しかるべく組織を操作するために、ロボット器具を自動的に制御する。
操作的な内視鏡ガイダンス方法は、操作ガイダンスコントローラが、(1)解剖学的構造に対応する画像、モデル、及び/又は詳細についての知識ベースに対する、解剖学的構造の内視鏡ビューの相関を分析することによって、また(2)知識ベースに対する、解剖学的構造の内視鏡ビューの相関の程度に基づいて、ガイド下操作アンカを導出することによって、ガイド下操作アンカを生成するステップを有する。
操作ガイダンスコントローラは、解剖学的構造の内視鏡ビューを受け取り、又は解剖学的構造の部分若しくは全体ボリュームスキャンに対する、内視鏡の追跡されたポジショニングから、解剖学的構造の内視鏡ビューを確かめる。
操作的な内視鏡ガイダンス方法は、内視鏡が、解剖学的構造の内視鏡ビューを生成し、及び/又は内視鏡ビューイングコントローラが、解剖学的構造の内視鏡ビューの表示を制御するステップをさらに有する。
本開示の上述の実施形態及び他の実施形態、並びに本開示の様々な構造及び利点は、添付の図面と併せて読まれる、本開示の様々な実施形態についての以下の詳細な説明から、さらに明らかになる。詳細な説明及び図面は、限定的なものではなく、単に本開示を例示するものであり、本開示の範囲は、添付の特許請求の範囲及びその均等物によって定義される。
本開示は、以下の図を参照して、例示的な実施形態についての以下の説明を詳細に提示する。
本開示は、肛門鏡検査、関節鏡検査、気管支鏡検査、結腸鏡検査、膣鏡検査、膀胱鏡検査、食道鏡検査、胃カメラ検査、腹腔鏡検査、喉頭鏡検査、神経内視鏡検査、直腸鏡検査、S字結腸鏡検査、及び胸腔鏡検査を含むが、それらに限定されない、内視鏡を利用する、多数の様々な診断的、治療的、及び外科的処置に適用可能である。
本開示は、
(1)内視鏡ビュー内において、隠された解剖学的構造を露呈させ、並びに/又は(2)内視鏡ビュー内において、解剖学的構造の診断分析、治療的処置、及び/若しくは外科手術を容易にするために、内視鏡ビュー内において、解剖学的構造を再配置及び/若しくは向き変更する、解剖学的構造の内視鏡ビュー内において、解剖学的構造(例えば、組織、骨、神経、及び血管)を手動又はロボットでいかに操作するかに関するガイド下操作を、臨床医(例えば、放射線技師、療法士、又は外科医)に提供することによって、内視鏡処置の従来技術を改善する。
(1)内視鏡ビュー内において、隠された解剖学的構造を露呈させ、並びに/又は(2)内視鏡ビュー内において、解剖学的構造の診断分析、治療的処置、及び/若しくは外科手術を容易にするために、内視鏡ビュー内において、解剖学的構造を再配置及び/若しくは向き変更する、解剖学的構造の内視鏡ビュー内において、解剖学的構造(例えば、組織、骨、神経、及び血管)を手動又はロボットでいかに操作するかに関するガイド下操作を、臨床医(例えば、放射線技師、療法士、又は外科医)に提供することによって、内視鏡処置の従来技術を改善する。
本開示を説明し、特許請求する目的のために、「ガイド下操作」という用語は、本開示の技術分野において知られ、本明細書において以下で構想されるように、解剖学的構造の内視鏡ビュー内において、解剖学的構造の構成、位置、及び/又は向きを変更し、再形成し、歪め、変形し、又は他のやり方で操作をする目的での、解剖学的構造に対するツール/器具の画定された接触を広く包含する。
ガイド下操作の例は、内視鏡処置中における、解剖学的構造の、つかみ、引っ張り、押し、スライド、傾け、切断、曲げ、ひねり、屈曲、引き伸ばし、圧縮、及び/又は除去を含むが、それらに限定されない。
ガイド下操作の1つの目的は、解剖学的構造の診断分析、治療的処置、及び/又は外科手術を容易にするために、内視鏡ビュー内において、解剖学的構造を、臨床医により知られた、基本的な、又は認識可能な状態にする操作である。
ガイド下操作の別の目的は、内視鏡ビュー内において、解剖学的構造の診断分析、治療的処置、及び/又は外科手術を容易にするために、内視鏡ビュー内における、隠された追加の解剖学的構造の露出である。
加えて、本開示のガイド下操作には、様々な用途がある。そのような用途の例は、(1)内視鏡ビューのより良い理解を容易にするための、内視鏡に対して斜めを向いた組織の露出、(2)対応する解剖学的領域(例えば、胸部領域、腹部領域など)の大きなピクチャになるように継ぎ合わせるための、内視鏡ビューの組み合わせ、(3)内視鏡の視野内にもはやない、又は他の物の背後に隠されたビューを復元する能力、及び(4)解剖学的構造に対して知られた量の力を加えるための力センシングの使用を含むが、それらに限定されない。
本開示を説明し、特許請求する目的のために、「アンカ」という用語は、本開示の技術分野において知られ、本明細書において以下で構想されるように、画像モダリティのビュー内において、特定のロケーションを継続的にマーキングするための、視覚的表現を広く包含し、「ガイド下操作アンカ」という用語は、それによって、臨床医(例えば、放射線技師、療法士、又は外科医)が、解剖学的構造のガイド下操作を手動若しくはロボットで実施し、又はコントローラが、しかるべく解剖学的構造を操作するために、ロボット器具を自動的に制御する、解剖学的構造の内視鏡ビュー内における、ガイド下操作のロケーションマーキング及び/又は動き指令の、本開示に従った、視覚的表現を広く包含する。
実際には、本開示のガイド下操作アンカは、内視鏡ビデオフィード上にオーバレイされ、それによって、アンカは、任意のタイプの物理的ディスプレイ、仮想ディスプレイ、又は拡張ディスプレイ(例えば、表示モニタ、ヘッドマウントディスプレイなど)上における、静的な視覚的拡張になる。加えて、そのようなデータが、利用可能である場合、ディスプレイは、シーンの3Dモデルをレンダリングする。本開示のガイド下操作アンカは、動的であることもあり、それによって、ガイド下操作アンカは、関連付けられた解剖学的構造(例えば、組織、骨、神経、及び血管)に付着しているように見える。
例えば、つかむロケーションが、臓器の外縁上にある場合、そこをつかむように外科医に告げるアンカオーバーレイは、下にある組織を、組織が動くにつれて、追跡する。その結果、アンカオーバーレイは、組織がビューの外に出た場合、又は隠された場合、消えることがあり、関連した組織とともに再び現れることがある。ガイド下操作アンカは、ツール/器具がどのように動かされるべきかを伝達するために、ツール/器具上にも置かれることがある。
さらに実際には、視覚的に、本開示のガイド下操作アンカは、臨床医の注意を引き付けるように、不透明なことがあり、又はガイド下操作アンカの背後にある解剖学的構造に対する臨床医による視認を可能にするために、半透明なことがある。本開示のガイド下操作アンカは、また、アンカの性質(例えば、診断的、治療的、及び/又は外科的内視鏡処置との関連における情報提供か、それとも問い合わせか)によって変化する。本開示のガイド下操作アンカの形状、色、及び大きさも、メッセージを伝達するために、同様に調整される。例えば、本開示のガイド下操作アンカの形状は、解剖学的構造操作の方向性を伝達するような向きに向けられ、及び/又は動きの提案を示すような動きを伴う。
また、実際には、本開示のガイド下操作アンカは、視覚化を超える手段を通して伝達される。例えば、触覚ディスプレイは、形状を与えられ、若しくは色付けされ、又は触覚ジョイスティックは、器具のロケーションが、組織に近いつかみポイントにあることを、臨床医に伝達するために、振動させられる。他の非限定的な伝達手段は、可聴キュー、及び触覚刺激の組み合わせを含む。
加えて、実際には、解剖学的構造操作の方向性は、解剖学的構造が内視鏡ビュー内においてどのような向きに向けられているかと、内視鏡処置中に実行される当座のタスクとの組み合わせに基づいて、決定される。例えば、つかまれる組織が、臓器の縁である場合、方向は、折り畳む動きの場合は、臓器の内側を向き、引き伸ばす動き場合は、外側を向くべきである。組織特性を決定する実施形態は、組織のつかみにねじる動きを伴い、それによって、組織の好ましい方向における望ましい動きの実行を可能にする。
より詳細には、解剖学的構造操作の方向は、効率的なタスク実行及びワークフローにも基づいて、計算される。例えば、特定の切開が、ある角度において、最も安全かつ効率的に実行されることが知られている場合、臨床医は、組織をその角度に置くように、ガイドされる。また、解剖学的構造操作の方向は、タスクの1つ又は複数のシーケンスに拡張されることもある、例えば、組織、カメラ、及び器具の現在の角度などの、術中基準に基づいて、計算される。
本開示の理解を容易にするために、以下の図1~図2Cについての以下の説明は、本開示に従った、操作的な内視鏡ガイダンスデバイスのそれぞれの例示的な実施形態を教示する。図1~図2Cの説明から、本開示の技術分野における当業者は、本開示に従って、操作的な内視鏡ガイダンスデバイスの追加の実施形態を作成し、使用するために、本開示をどのように適用するかを理解する。
図1を参照すると、内視鏡10は、例えば、図1に示されるような、肺の内視鏡ビュー11などの、解剖学的構造の内視鏡ビューを生成するための、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、内視鏡である。内視鏡の例は、肛門鏡、関節鏡、気管支鏡、結腸鏡、膣鏡、膀胱鏡、食道鏡、胃カメラ、腹腔鏡、喉頭鏡、神経内視鏡、直腸鏡、S字結腸鏡、及び胸腔鏡を含むが、それらに限定されない。
本開示は、内視鏡ビューイングコントローラ20と、操作ガイダンスコントローラ30とを利用する、操作的な内視鏡ガイダンスデバイスを提供する。
本開示を説明し、特許請求する目的のために、「内視鏡ビューイングコントローラ」という用語は、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、解剖学的構造の内視鏡ビューの表示を制御するための、本開示の様々な原理の適用を制御するための、主回路基板又は集積回路の、本開示の技術分野において理解されるような、また本開示において例示的に説明されるような、すべての構造的構成を包含する。内視鏡ビューイングコントローラの構造的構成は、プロセッサ、コンピュータ使用可能/コンピュータ可読記憶媒体、オペレーティングシステム、アプリケーションモジュール、周辺デバイスコントローラ、スロット、及びポートを含むが、それらに限定されない。
本開示を説明し、特許請求する目的のために、内視鏡ビューイングコントローラに関連する場合の「アプリケーションモジュール」という用語は、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、解剖学的構造の内視鏡ビューの表示を制御するための、関連付けられた特定のアプリケーションを実行するための、電子回路(例えば、電子コンポーネント、及び/若しくはハードウェア)、並びに/又は実行可能プログラム(例えば、非一時的コンピュータ可読媒体上に記憶された実行可能ソフトウェア、及び/若しくはファームウェア)から成る、内視鏡ビューイングコントローラ内に組み込まれた、又は内視鏡ビューイングコントローラによってアクセス可能な、アプリケーションを広く包含する。
内視鏡ビューイングコントローラ20の例は、本開示の技術分野において知られ、本明細書において以下で構想されるような、解剖学的領域内において、ツール及び器具の内視鏡ベースの診断的ガイダンス、治療的ガイダンス、及び/又は外科的ガイダンスを実施するための内視鏡ビューイングコントローラを含むが、それらに限定されない。
依然として図1を参照すると、本開示を説明し、特許請求する目的のために、「操作ガイダンスコントローラ」という用語は、本開示に従って、解剖学的構造の内視鏡ビューの表示内において、1つ又は複数のガイド下操作アンカを制御するための、本開示の様々な原理を適用するための、主回路基板又は集積回路の、本開示の技術分野において理解されるような、また本開示において例示的に説明されるような、すべての構造的構成を包含する。操作ガイダンスコントローラの構造的構成は、プロセッサ、コンピュータ使用可能/コンピュータ可読記憶媒体、オペレーティングシステム、アプリケーションモジュール、周辺デバイスコントローラ、スロット、及びポートを含むが、それらに限定されない。
本開示を説明し、特許請求する目的のために、操作ガイダンスコントローラに関連する場合の「アプリケーションモジュール」という用語は、本開示に従って、解剖学的構造の内視鏡ビューの表示内において、1つ又は複数のガイド下操作アンカの表示を制御する、関連付けられた特定のアプリケーションを実行するための、電子回路(例えば、電子コンポーネント、及び/若しくはハードウェア)、並びに/又は実行可能プログラム(例えば、非一時的コンピュータ可読媒体上に記憶された実行可能ソフトウェア、及び/若しくはファームウェア)から成る、操作ガイダンスコントローラ内に組み込まれた、又は操作ガイダンスコントローラによってアクセス可能な、アプリケーションを広く包含する。
本明細書において先に説明されたように、ガイド下操作アンカは、内視鏡ベースの診断的処置中、内視鏡ベースの治療的処置中、及び/又は内視鏡ベースの外科的処置中における、解剖学的構造の、つかみ、引っ張り、押し、スライド、向き変更、傾け、除去、及び/又は再配置を含むが、それらに限定されない、解剖学的構造のガイド下操作のロケーションマーキング及び/又は動き指令を表す。臨床医(例えば、放射線技師、療法士、又は外科医)は、表示されたように、ガイド下操作を手動若しくはロボットで実施し、又は操作ガイダンスコントローラは、しかるべく組織を操作するために、ロボット器具を自動的に制御する。
例えば、肺の内視鏡ビュー11上にオーバレイされた、ガイド下操作アンカ50は、解剖学的構造のガイド下操作のロケーションマーキングを表し、それによって、ガイド下操作アンカ50の形状、色、及び/又は大きさは、解剖学的構造の特定のタイプのガイド下操作(例えば、解剖学的構造の、つかみ、引っ張り、押し、スライド、向き変更、傾け、除去、及び/又は再配置)を明示的に伝達する。
さらなる例によって、肺の内視鏡ビュー11上にオーバレイされた、ガイド下操作アンカ51は、解剖学的構造のガイド下操作の動き指令を表し、それによって、ガイド下操作アンカ50の形状、色、及び/又は大きさは、解剖学的構造の特定のタイプのガイド下操作(例えば、解剖学的構造の、つかみ、引っ張り、押し、スライド、向き変更、傾け、除去、及び/又は再配置)を明示的に伝達する。
さらなる例によって、肺の内視鏡ビュー11上にオーバレイされた、ガイド下操作アンカ52は、解剖学的構造のガイド下操作のロケーションマーキング及び動き指令を表し、それによって、ガイド下操作アンカ50の形状、色、及び/又は大きさは、解剖学的構造の特定のタイプのガイド下操作(例えば、解剖学的構造の、つかみ、引っ張り、押し、スライド、向き変更、傾け、除去、及び/又は再配置)を明示的に伝達する。
依然として図1を参照すると、実際には、操作ガイダンスコントローラ30は、内視鏡ベースの診断的処置、内視鏡ベースの治療的処置、及び/又は内視鏡ベースの外科的処置との関連において、解剖学的構造の内視鏡ビューに応じて、ガイド下操作アンカを生成する。
本開示においてさらに説明されるような、一実施形態においては、操作ガイダンスコントローラ30は、(1)解剖学的構造に対応する画像、モデル、及び/又は詳細についての知識ベースに対する、解剖学的構造の内視鏡ビューの相関を分析することによって、また(2)知識ベースに対する、解剖学的構造の内視鏡ビューの相関の程度に基づいて、ガイド下操作アンカを導出することによって、ガイド下操作アンカを生成する。
本開示を説明し、特許請求する目的のために、「相関」という用語は、内視鏡ビューが、解剖学的構造のターゲットビューと相互関係を有することを広く包含する。相互関係の例は、(1)解剖学的構造のボリュームスキャン内のターゲットビューに対する、内視鏡ビューの画像マッチング、(2)解剖学的構造のモデル上のターゲットビューに対する、内視鏡ビューの画像マッチング、(3)解剖学的構造の画像編集のターゲットビューに対する、内視鏡ビューの画像マッチング、(4)ターゲットビュー内に示された顕著な解剖学的特徴との、内視鏡ビュー内に示された解剖学的特徴の画像マッチング、並びに(5)治療タスク及び/又は外科的タスクが、解剖学的構造上において実行されるときの、ターゲットビューに対する、内視鏡ビューの進展する画像マッチングを含むが、それらに限定されない。
実際には、解剖学的構造のターゲットビューは、内視鏡処置の計画フェース中に画定された、又は内視鏡処置のナビゲーションフェース中に臨床医によって識別されたビューである。
また、実際には、相関の程度は、解剖学的構造のガイド下操作のロケーションマーキング及び動き指令を表すために、単一のガイド下操作アンカが必要とされるか、それともガイド下操作アンカの単一のセットが必要とされるか、又は解剖学的構造のガイド下操作の時系列のロケーションマーキング及び動き指令を表すために、時系列のガイド下操作アンカが必要とされるどうかを決定する。
依然として図1を参照すると、操作ガイダンスコントローラは、解剖学的構造の内視鏡ビューを受け取り、又は解剖学的構造の部分若しくは全体ボリュームスキャンに対する、内視鏡の追跡されたポジショニングから、解剖学的構造の内視鏡ビューを確かめる。
内視鏡ベースの処置に対応する画像の例は、解剖学的領域の術前又は術中のボリュームスキャン(例えば、CTスキャン、MRIスキャン、PETスキャン、3D超音波スキャン、3DX線スキャン)を含むが、それらに限定されない。
内視鏡ベースの処置に対応するモデルの例は、解剖学的構造の3次元表現(例えば、解剖学的アトラスに従って、除去製造法又は付加製造法を介して生成された、解剖学的モデル)を含むが、それに限定されない。
解剖学的構造に対応する詳細の例は、解剖学的構造の生物学的特性、及び解剖学的構造と関連付けられた内視鏡処置ステップを含むが、それらに限定されない。
依然として図1を参照すると、実際には、内視鏡ビューイングコントローラ20、及び操作ガイダンスコントローラ30は、示されるように分離され、部分的に統合され、又は全体的に統合される。
図2Aに示されるような、第1の例示的な実施形態においては、内視鏡ビューイングコントローラ20aは、本開示の技術分野において知られているような内視鏡10aから、解剖学的構造の内視鏡ビュー11aを生成する。内視鏡ビューイングコントローラ20aは、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、解剖学的領域のボリュームスキャンを介して、解剖学的構造の計画されたビューを生成するための、ガイダンスプランナ21と、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、表示コントローラ60aを介して、モニタ70上において、解剖学的構造の内視鏡ビュー11aの表示を制御するための、画像ガイド22とを利用する。内視鏡ビュー11aの表示は、解剖学的領域のボリュームスキャンの表示に隣接し、又はその上にオーバレイされる。
操作ガイダンスコントローラ30aは、示されるように、内視鏡ビューイングコントローラ20aから、解剖学的構造の内視鏡ビュー11aを受け取り、又は代替として、解剖学的領域のボリュームスキャンに対する、内視鏡10aの追跡から、解剖学的構造の内視鏡ビュー11aを確かめる。操作ガイダンスコントローラ30aは、解剖学的構造の画像41、解剖学的構造の解剖学的モデル42、解剖学的構造の画像編集42、解剖学的構造の顕著な特徴情報43、及び/又は解剖学的構造に対する内視鏡10aの計画されたナビゲーション44を含む、知識ベース40に対する、解剖学的構造の内視鏡ビュー11aの相関を分析することによって、ガイド下ロケーション操作アンカ50a、ガイド下動き操作アンカ51a、及び/又はガイド下ポジショニング操作アンカ52aを生成する。本開示においてさらに説明されるように、操作ガイダンスコントローラ30aは、知識ベース40に対する、解剖学的構造の内視鏡ビュー11aの相関の程度に基づいて、ガイド下操作アンカを導出する。
操作ガイダンスコントローラ30aは、本開示の技術分野において知られ、又は本明細書において以下で構想されるように、表示コントローラ60aを介して、モニタ70上において、解剖学的構造の内視鏡ビュー11aの表示内における、ガイド下ロケーション操作アンカ50a、ガイド下動作操作アンカ51a、及び/又はガイド下ポジショニング操作アンカ52aの表示を制御する。
図2Bに示されるような、第2の例示的な実施形態においては、内視鏡ビューイングコントローラ20bは、本開示の技術分野において知られているような内視鏡10aから、解剖学的構造の内視鏡ビュー11aを生成する。内視鏡ビューイングコントローラ20bは、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、解剖学的領域のボリュームスキャンを介して、解剖学的構造の計画されたビューを生成するための、ガイダンスプランナ21と、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、表示コントローラ60bを介して、モニタ70上において、解剖学的構造の内視鏡ビュー11bの表示を制御するための、画像ガイド22とを利用する。内視鏡ビュー11bの表示は、解剖学的領域のボリュームスキャンの表示に隣接し、又はその上にオーバレイされる。
操作ガイダンスコントローラ30bは、示されるように、内視鏡ビューイングコントローラ20bから、解剖学的構造の内視鏡ビュー11aを受け取り、又は代替として、解剖学的領域のボリュームスキャンに対する、内視鏡10aの追跡から、解剖学的構造の内視鏡ビュー11aを確かめる。操作ガイダンスコントローラ30bは、解剖学的構造の画像41、解剖学的構造の解剖学的モデル42、解剖学的構造の画像編集42、解剖学的構造の顕著な特徴情報43、及び/又は解剖学的構造に対する内視鏡10aの計画されたナビゲーション44を含む、知識ベース40に対する、解剖学的構造の内視鏡ビュー11aの相関を分析することによって、ガイド下ロケーション操作アンカ50b、ガイド下動き操作アンカ51b、及び/又はガイド下ポジショニング操作アンカ52bを生成する。本開示においてさらに説明されるように、操作ガイダンスコントローラ30aは、知識ベース40に対する、解剖学的構造の内視鏡ビュー11aの相関の程度に基づいて、ガイド下操作アンカを導出する。
操作ガイダンスコントローラ30bは、ガイド下操作アンカを、内視鏡イメージングコントローラ20bに伝達し、それによって、画像ガイド22は、本開示の技術分野において知られ、又は本明細書において以下で構想されるように、表示コントローラ60bを介して、モニタ70上において、解剖学的構造の内視鏡ビュー11bの表示内における、ガイド下ロケーション操作アンカ50b、ガイド下動き操作アンカ51b、及び/又はガイド下ポジショニング操作アンカ52bの表示を制御する。
図2Cに示されるような、第3の例示的な実施形態においては、内視鏡ビューイングコントローラ20cは、本開示の技術分野において知られているような内視鏡10aから、解剖学的構造の内視鏡ビュー11aを生成する。内視鏡ビューイングコントローラ20cは、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、解剖学的領域のボリュームスキャンを介して、解剖学的構造の計画されたビューを生成するための、ガイダンスプランナ21と、操作ガイダンスコントローラ30cへの内視鏡ビュー11aの伝達を制御するための、画像ガイド22bとを利用する。
操作ガイダンスコントローラ30cは、示されるように、内視鏡ビューイングコントローラ20cから、解剖学的構造の内視鏡ビュー11aを受け取り、解剖学的構造の画像41解剖学的構造の解剖学的モデル42、解剖学的構造の画像編集42、解剖学的構造の顕著な特徴情報43、及び/又は解剖学的構造に対する内視鏡10aの計画されたナビゲーション44を含む、知識ベース40に対する、解剖学的構造の内視鏡ビュー11aの相関を分析することによって、ガイド下ロケーション操作アンカ50c、ガイド下動作操作アンカ51c、及び/又はガイド下ポジショニング操作アンカ52cを生成する。本開示においてさらに説明されるように、操作ガイダンスコントローラ30cは、知識ベース40に対する、解剖学的構造の内視鏡ビュー11aの相関の程度に基づいて、ガイド下操作アンカを導出する。
操作ガイダンスコントローラ30cは、本開示の技術分野において知られ、又は本明細書において以下で構想されるように、解剖学的構造の内視鏡ビュー11cを、表示コントローラ60aを介して、モニタ70上に表示するために、オーバレイされるガイド下操作アンカとともに、表示コントローラ60cに伝達する。内視鏡ビュー11cの表示は、解剖学的領域のボリュームスキャンの表示に隣接し、又はその上にオーバレイされる。
本開示の理解をさらに容易にするために、図3の以下の説明は、本開示に従った操作的な内視鏡ガイダンス方法のそれぞれの例示的な実施形態について教示する。図3の説明から、本開示の技術分野における当業者は、本開示に従って、操作的な内視鏡ガイダンス方法の追加の実施形態を作成し、使用するために、本開示をどのように適用するかを理解する。
図3を参照すると、内視鏡処置中の本開示の操作的な内視鏡方法は、本開示の操作ガイダンスコントローラが、内視鏡10が、解剖学的領域AR内において、焦点を合わせされ、又はナビゲートされるときの、操作されていない解剖学的構造ASの内視鏡ビュー相関分析S100と、必要に応じた、解剖学的構造ASの内視鏡ビュー11上におけるガイド下操作アンカの表示のガイド下ツール操作アンカ生成S110とを実行するステップを有する。
これらのステージS100及びS110は、ガイダンスの目的に応じて、操作ガイダンスコントローラによって、必要に応じて、連続的に繰り返され、ガイド下操作アンカに従って、解剖学的構造が、変更される。例えば、目的が、解剖学的構造ASの大きい視野を再構築することである場合、操作ガイダンスコントローラは、それが、解剖学的構造ASのフルビューを継ぎ合わせるのに十分なビューを獲得するまで、操作提案を繰り返し示す。
ステージS100及びS110の実施において、操作ガイダンスコントローラは、最初に、現瞬間の内視鏡ビュー11を分析する。操作ガイダンスコントローラが、内視鏡ビュー11内にあるものを完全には理解していない場合(すなわち、未知のビュー111)、臨床医が、どこでガイド下操作を実行すべきかが分かるように、操作ガイダンスコントローラは、ガイド下操作アンカを生成し、アンカを内視鏡ビュー11上にオーバレイする。臨床医は、示されたガイド下操作を実行し、結果として、ビュー内の解剖学的構造ASを、既知の又は認識可能な状態に置く。知っている状態は、解剖学的構造ASを操作する行為において、臨床医によって従事される、視覚的、(力センシングを通した)触覚的、又は他の手段である。次に、操作ガイダンスコントローラは、明らかにされた新しい情報を分析し、知識ベース40に組み込み、その後、操作ガイダンスコントローラは、後で処置中に臨床医をガイドするために、それを利用する。
知識ベース40の例は、処置前の時点における、解剖学的構造ASの状態をキャプチャした、術前ボリュームスキャン(例えば、CTスキャン又はMRIスキャン)である。術前ボリュームスキャンと内視鏡画像との間の対応付けは、様々な理由で、手術の開始時に、完全には知られていないことがある。例えば、画像は、異なるモダリティを使用して、キャプチャされ、そのため、画像は、異なるやり方で、類似の情報を捕えており、これは、解消されなければならない。さらに別の例によって、解剖学的領域ARの状態は、変形などのプロセスを介して、又は身体の位置によって、術前状態と術中状態との間で変化し、これは、解消されなければならない。内視鏡における術中ビューは、検討下にある完全な解剖学的構造ASを捕えておらず、術前のボリュームスキャンとの関係に関して、曖昧なことがあり、このケースにおいては、内視鏡像を術前の対応物に一致させるために、より多くのビューが、術中に獲得されなければならない。
知識ベース40は、過去のデータも情報ソースとする。データは、統計的な編集であり、又は機械学習技法を使用して学習される。データは、術前画像、手術において使用される術中画像を含み、又は力、タスクシーケンスなどの非画像データさえ含む。言い換えると、患者についての情報は、患者以外のどこかに由来する情報ソースによって与えられたものが元となることがあり、手術が、進むにつれて、汎用的な情報が、患者により良く一致するように、調整される。
操作ガイダンスコントローラが、術前知識ベース40と内視鏡ビュー11との間の部分的な対応付けから開始する場合、操作ガイダンスコントローラは、操作ガイダンスコントローラにとってまだ未知のそれらの部分を露出させるために、既知の解剖学的構造ASをどのように操作するかについて、臨床医をガイドする。これは、臨床医が、現在ビュー内にない解剖学的構造ASの部分を探している場合、特に価値がある。例えば、操作ガイダンスコントローラも、臨床医も、解剖学的領域AR内において、主要な血管がどこにあるのかを知らないが、知識ベース40と、現在の内視鏡ビュー11とに基づいて、操作ガイダンスコントローラは、血管が解剖学的領域AR内のどこにあるかを推論する。その後、操作ガイダンスコントローラは、隠された血管を露呈させる、解剖学的構造ASの操作について、臨床医をガイドする。解剖学的構造ASのガイド下操作のロケーションマーキング及び動き指令は、操作ガイダンスコントローラによって利用されるセンシング要素に応じて、解剖学的構造ASの特性の視覚的、触覚的、及び他の形態を明らかにするために、操作ガイダンスコントローラによって提案される。
この操作的な内視鏡ガイダンス方法は、好ましくは、臨床医のワークフローに対する最小限の中断しか伴わずに、行われ、すなわち、臨床医は、操作ガイダンスコントローラに応答するために、気を散らされることなく、自然に処置を実行することができなければならない。操作ガイダンスコントローラは、処置の状態、又は臨床医のニーズを解釈することによって、操作ガイダンスを賢明に提供することもできなければならない。
依然として図3を参照すると、先の実施形態においては、操作ガイダンスコントローラは、完全な理解(例えば、ライブの内視鏡観察から術前知識ベース40への対応付け)を有しないが、より良い対応付けを獲得するために、解剖学的構造ASをどのように操作するかについて、臨床医をガイドするのに十分な理解を有する。この実施形態においては、操作ガイダンスコントローラは、操作ガイダンスコントローラが、ビュー(例えば、既知のビュー112)内において、何を見るかを既に認識しており、したがって、自分が何を見ているかを臨床医が認識するために、解剖学的構造ASをどのように操作すべきかについて、臨床医をガイドすることを助ける。
例えば、ステージS110に示されるように、肝臓の内視鏡ビュー11dは、斜めの角度にあり、それが、臨床医が肝臓を認識することを困難にする。これは、斜めの影付きの四角によって表されている。操作ガイダンスコントローラは、そのロケーションに重要な血管又は腫瘍があることを理解し、肝臓を引き伸ばし、それによって、臨床医が、内視鏡ビュー11e内において、重要な血管/腫瘍を見つけて、見えるように、臓器のどこをどのようにつかむかについて、臨床医に命令する。このビューにおいては、肝臓は、今は、直立した前向き角度のビューになり、臨床医が、臨床的に関連する特徴を解釈し、見つけることを、より容易かつ迅速にする。
代替として、操作ガイダンスコントローラは、肝臓の内視鏡ビュー11d内において、操作ガイダンスコントローラが、肝臓を正確に認識すること、又は肝臓を知識ベース40に登録することができないような斜めの角度で、肝臓を見ることがある。そのため、操作ガイダンスコントローラは、少なくとも、視覚的により認識可能になるために、肝臓が向いている必要がある角度を決定し、そのため、それは、臨床医がつかむ肝臓上のロケーションと、臨床医が引っ張る方向とを計算する。臨床医が、このガイダンスを用いて、続行するとき、結果は、操作ガイダンスコントローラが、高い信頼性をもって認識するビューとなる。これが、今度は、臨床医がさらに事物を見つける助けとなるように、操作ガイダンスコントローラが、異なる情報ソースを同じビューに融合させることを可能にする。
実際には、操作ガイダンスコントローラは、解剖学的構造ASをどのように操作すべきかを、臨床医に提案するために、解剖学的領域AR内における、解剖学的構造ASの大まかなロケーションを知る必要がある。例えば、内視鏡ビュー11が、操作ガイダンスコントローラによって認識可能であるが、3Dオーバレイのために必要とされる3D登録のためには不十分である場合、操作ガイダンスコントローラは、例えば、「この2Dビューは、おおよそこのマークのところで、及び/又はこの方向に、解剖学的構造ASを操作する必要がある」などと伝達するために、本開示の技術分野において知られたような、トレーニングされる基本ビュー分類器(例えば、畳み込みニューラルネットワーク)を実施する。
依然として図3を参照すると、別の例示的な実施形態においては、操作ガイダンスコントローラは、臨床医の判断に依存する。より詳細には、ステージS110のガイド下ビュー113において、操作ガイダンスコントローラは、術前モデル12上に、ガイド操作アンカ52を示し、臨床医は、内視鏡ビュー11内において、術前モデル12と内視鏡ビュー11とを相関させる効果を有する、そのガイドに従う。単一のそのようなインスタンスは、術前モデル12と内視鏡ビュー11との間の完全な対応付け又は登録を生成するには不十分なことがあるが、複数の慎重に計画されたインスタンスは、十分な対応する情報を生成する。代替として、術前画像は、それによって、臨床医が、内視鏡ビュー11の原ビューを見、解剖学的構造上において対応するアンカを見つけるために、臨床判断を使用し、その後、内視鏡ビュー11を術前画像に登録するために、それらのアンカを操作するものである。
本開示において先に説明されたように、操作ガイダンスコントローラは、解剖学的構造ASを検査し、それを知識ベース40に相関させることによって、解剖学的構造ASの操作をガイドするための、ガイド下操作アンカを生成する。情報の重複が、存在するが、内視鏡ビュー11と知識ベース40との間の関連性は、不完全なことがあることが、前提である。その後、操作ガイダンスコントローラは、それが知らないことを明らかにし、それの知識ベース40を改善するために、それが知っていることを使用して、臨床医をガイドする。このケースにおいては、操作ガイダンスコントローラは、部分的な情報を有する。
操作ガイダンスコントローラが、1つのモダリティ(例えば、内視鏡検査及び術前画像)において、完全な情報を有するケースにおいては、操作ガイダンスコントローラは、異なるモダリティ(例えば、力)のさらなるデータを獲得するために、その知識を使用して、解剖学的構造ASの操作ガイダンスのためのガイド下操作アンカを生成する。
本開示において先に説明されたように、知識ベース40は、ガイド下操作アンカの新しいセットを生成するために使用される、多数の様々な情報ソースを有する。これらのソースの例は、術前及び術中画像、本質的に非画像の解剖学的構造に関する情報、過去の処置からの画像の統計的編集、並びに過去の処置から学習された知識を含むが、それらに限定されない。
アンカは、対話型仮想マーキングシステムを使用する臨床医によって与えられたものが元となることもある。この実施形態においては、操作ガイダンスコントローラは、解剖学的領域についての完全な情報を有していないが、それは、いくつかの緩く結合された術前情報を有することがある。その後、臨床医は、器具を使用して、自分が解剖学的構造AS上において見た、いくつかの特徴をラベル付けし、仮想ラベルは、知識ベース40に組み込まれ、操作ガイダンスコントローラが、後で手術中に、画像及び操作ガイダンスを提供することを可能にする。
例えば、操作ガイダンスコントローラは、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、対話型ラベリングシステムを組み込み、それによって、臨床医は、器具を使用して、内視鏡ビュー11内において、解剖学的構造ASを仮想的にマーキング及びラベリングする(例えば、腫瘍縁、気道、及び血管のロケーションを示す星型を介したマーキング)。その後、操作ガイダンスコントローラは、さらなる解剖学的構造の操作ガイダンスを提供するために、この知識を、それの既存の知識ベース40とリアルタイムで組み合わせる。
実際には、操作ガイダンスコントローラは、同様に意味情報を有することなく、臨床医のためのガイド下操作アンカを生成する。実施形態においては、操作ガイダンスコントローラは、関心のある顕著な画像パターンを検出する。顕著なパターンの例は、肌理の細かいエリア、共通した肌理又は外見のエリア、それの近隣と比較して高コントラストのエリア、以前は見られなかったパターン、以前に見られたパターン、繰り返し見られたパターン、及び意味的に識別可能なエリアに隣接するエリアなどを含むが、それらに限定されない。より詳細には、解剖学的構造ASにおける追跡可能なパターンは、よく知られたアルゴリズム(例えば、SURF)を使用して、見つけられ、操作ガイダンスコントローラは、これらのエリアについての永続的なラベルを見つける。これらのラベルは、上で述べられたように、どれがガイド下操作アンカとなるべきかを決定するために、さらに洗練される。
依然として図3を参照すると、ステージS100及びS110の実施は、解剖学的領域AR内における解剖学的構造ASの術前又は術中ボリュームスキャンを伴った、初期計画フェースを含む、内視鏡手順である。ボリュームスキャンから、臨床医は、診断、治療、又は手術を実行するための、解剖学的構造ASのボリュームスキャン内における、1つ又は複数のターゲットビューを識別するために、内視鏡ビューイングコントローラ20、又は本開示の技術分野において知られた他のコントローラを利用する。解剖学的構造の状態、及び内視鏡処置の目的に応じて、内視鏡10が、患者内にポジショニングされたときに、ターゲットビューの全体が、内視鏡10によって見ることができることがあり、又は見ることができないことがある。
より詳細には、本開示の技術分野において知られているような、計画インターフェースが、処置中に解剖学的構造のターゲットビューを確かめる目的で、2D及び3Dデータを見、注釈付けするために使用される。これは、内視鏡ビュー内において術中に行われ、内視鏡画像とボリューム画像との融合を伴うが、それは、そのような内視鏡計画が、解剖学的構造の幾何学的形状、内視鏡の運動学、及び臨床医の好みにおける他の制約を考慮して、患者の解剖学的構造のボリューム画像上において行われるからである。例えば、対象臓器に対するトロカールの位置(肋骨の間)、並びに内視鏡の幾何学的形状及び動きである(直線内視鏡の場合、それは、トロカール入口点を中心とした回転によって規定される位置のセットである)。
計画フェースは、操作ガイダンスコントローラ30の知識ベース40を、解剖学的構造ASのボリュームスキャン、計画された経路、解剖学的構造の顕著な特徴、及びタスクシーケンスを用いて、更新することをさらに伴い、それによって、内視鏡10が、解剖学的領域内において、ナビゲートされる前に、又はナビゲートされるのと同時に、操作ガイダンスコントローラ30は、(1)ターゲットビューが内視鏡10から見える程度を確かめ、及び/又は(2)ターゲットビューの1つ若しくは複数の認識可能な姿勢を確かめる。
計画フェースの後、内視鏡処置は、患者P内における内視鏡10のナビゲーションフェースを含み、それによって、操作ガイダンスコントローラ30は、内視鏡10が、ターゲットビューに関する位置に、ナビゲートされているときに、可能な限り最も高い程度で、解剖学的領域の内視鏡ビューを相関させる。
1つの相関の実施形態は、内視鏡10が、ターゲットビューに関する位置に、ナビゲートされているときに、操作ガイダンスコントローラ30が、可能な限り最も高い程度で、知識ベース40内に記憶されたボリュームスキャン内のターゲットビューに一致する、内視鏡ビューを確かめようと試みることを包含する。ひとたびポジショニングされ、操作ガイダンスコントローラ30が、知識ベース40内に記憶されたボリュームスキャン内のターゲットビューに一致する、内視鏡ビューを認識した場合、操作ガイダンスコントローラ30は、解剖学的構造の不可視の側面を露出させるための、ガイド下操作アンカを生成し、又は解剖学的構造の可視の側面のビューを調節するための、ガイド下操作アンカを生成する。
代替として、解剖学的構造のモデル、又は画像の編集が、ボリュームスキャンの代わりに使用される。
別の相関の実施形態は、ターゲットビューに関する位置にナビゲートされる内視鏡の、可能な限り最も高い程度で試みられる追跡を包含する。操作ガイダンスコントローラ30が、知識ベース内における計画された経路又はタスクシーケンスによって、内視鏡がそのような位置に到達したと、ひとたび決定すると、操作ガイダンスコントローラ30が、知識ベース40内に記憶されたボリュームスキャン内のターゲットビューに一致する、内視鏡ビューを認識した場合、操作ガイダンスコントローラ30は、解剖学的構造の不可視の側面を露出させるための、ガイド下操作アンカを生成し、又は解剖学的構造の可視の側面のビューを調節するための、ガイド下操作アンカを生成する。
やはり、代替として、解剖学的構造のモデル、又は画像の編集が、ボリュームスキャンの代わりに使用される。
別の相関の実施形態は、ターゲットビューに隣接する解剖学的構造の顕著な特徴の、可能な限り最も高い程度で試みられた識別を包含する。操作ガイダンスコントローラ30が、知識ベース内における計画された経路又はタスクシーケンスによって、内視鏡がそのような位置に到達したと、ひとたび決定すると、操作ガイダンスコントローラ30が、知識ベース40内に記憶されたボリュームスキャン内のターゲットビューに隣接する、解剖学的構造の顕著な特徴を示す、内視鏡ビューを認識した場合、操作ガイダンスコントローラ30は、解剖学的構造の不可視の側面を露出させるための、ガイド下操作アンカを生成し、又は解剖学的構造の可視の側面のビューを調節するための、ガイド下操作アンカを生成する。
やはり、代替として、解剖学的構造のモデル、又は画像の編集が、ボリュームスキャンの代わりに使用される。
本開示の様々な発明のさらなる理解を容易にするために、図4及び図5の以下の説明は、それぞれ、本開示の操作的な内視鏡ガイドシステム、及び操作ガイダンスコントローラの例示的な実施形態について教示する。この説明から、当業者は、本開示の操作的な内視鏡ガイドデバイス、及び操作ガイダンスコントローラの追加の実施形態を作成し、使用するために、本開示の様々な態様をどのように適用するかを理解する。
図4を参照すると、1つの例示的な実施形態においては、本開示の操作的な内視鏡ガイドシステムは、本開示の技術分野において知られているような、モニタ201、キーボード202、及びコンピュータ203を利用する、ワークステーション200である。内視鏡210は、本開示の技術分野において知られ、又は本明細書において以下で構想されるように、ワークステーション200と有線又は無線で通信する。ガイド下操作を実行するためのオプションのロボット220も、ワークステーション200と有線又は無線で通信する。
本開示の技術分野において知られ、又は本明細書において以下で構想されるような、表示コントローラ260と、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、ロボットコントローラ270と、本開示において先に説明されたような、内視鏡イメージングコントローラ280と、本開示において先に説明されたような、操作ガイダンスコントローラ290との制御ネットワーク250が、ワークステーション200内にインストールされる。追加の制御ネットワーク250が、サーバ(図示されず)、モバイルデバイス(例えば、示されるようなタブレット230)、及び拡張現実デバイス(例えば、示されるようなヘッドマウントディスプレイ240)内にインストールされることもある。
依然として図4を参照すると、実際には、ガイド下操作を達成することに関与させられる特定の機構は、ガイダンスが臨床医にどのように伝達されるかについての決定の基礎として機能する。例えば、手動器具又はロボット器具(例えば、ロボット220)が、ガイダンスに基づいて、組織をつかむための等価なやり方で使用される。
より詳細には、動作は、それが半自動になるように支援する。例えば、ロボットツールを用いると、臨床医は、ガイド下操作アンカのおおよその領域に、エンドエフェクタを持ってくる必要があるだけであり、その後は、ロボットが、本開示の技術分野で知られているように、つかみ及び操作の残りを自動的に実行することができる。
1つの例示的な実施形態においては、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、磁気デバイスが、ガイド下操作を達成するために使用される。例えば、Levita(登録商標) Magneticsは、患者の腹部上に載る磁気モジュールと、引っ張られる組織の部分に取り付けられる強磁性モジュールクリップとを備える、磁気的な外科プラットフォームを商業的に提供している。このクリップは、手術ポートを通して挿入され、保持される組織に固定することによって、配備される。その後、磁気モジュールが、患者の腹部上に置かれ、強磁性モジュールを磁気モジュールに向かって引き寄せ、それによって、他の組織を露出させるために、組織を吊るして保持する。
実際には、解剖学的構造(例えば、組織)をつかんで移動させるための複数の方法が、存在する場合、与えられたつかみ事例のために、どのタイプの方法が使用されるべきかを区別するやり方で、ガイド下操作アンカが、示される。これは、操作ガイダンスコントローラ290が、使用されるつかみ機構に基づいて、つかみ操作の結果を予測する、やり方でもある。操作ガイダンスコントローラ290は、さらに、取り外し可能なクリップが適当な位置にあることを臨床医に思い出させ、つかみ操作を達成するために、磁気モジュールをどのように動かすべきかを、臨床医に命令する。
図5を参照すると、操作ガイダンスコントローラ290aは、1つ又は複数のシステムバス296を介して相互接続された、1つ又は複数のプロセッサ291と、メモリ292と、ユーザインターフェース293と、ネットワークインターフェース294と、ストレージ295とを備える、操作ガイダンスコントローラ290(図4)の例示的な実施形態である。
各プロセッサ291は、メモリ292若しくはストレージ内に記憶された命令を実行し、又はさもなければ、データを処理することが可能な、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、任意のハードウェアデバイスである。非限定的な例においては、プロセッサ291は、マイクロプロセッサ、フィールドプログラマブルゲートアレイ(FPGA)、特定用途向け集積回路(ASIC)、又は他の同様のデバイスを含む。
メモリ292は、L1、L2、若しくはL3キャッシュ、又はシステムメモリを含むが、それらに限定されない、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、様々なメモリを含む。非限定的な例においては、メモリ292は、スタティックランダムアクセスメモリ(SRAM)、ダイナミックRAM(DRAM)、フラッシュメモリ、リードオンリメモリ(ROM)、又は他の同様のメモリデバイスを含む。
ユーザインターフェース293は、管理者などのユーザとの通信を可能にするための、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、1つ又は複数のデバイスを含む。非限定的な例においては、ユーザインターフェースは、ネットワークインターフェース294を介して、リモート端末に提示される、コマンドラインインターフェース、又はグラフィカルユーザインターフェースを含む。
ネットワークインターフェース294は、他のハードウェアデバイスとの通信を可能にするための、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、1つ又は複数のデバイスを含む。非限定的な例においては、ネットワークインターフェース294は、イーサネットプロトコルに従って、通信するように構成された、ネットワークインターフェースカード(NIC)を含む。加えて、ネットワークインターフェース294は、TCP/IPプロトコルに従った通信のための、TCP/IPスタックを実施する。ネットワークインターフェース294のための様々な代替又は追加のハードウェア又は構成は、明らかである。
ストレージ295は、リードオンリメモリ(ROM)、ランダムアクセスメモリ(RAM)、磁気ディスク記憶媒体、光学記憶媒体、フラッシュメモリデバイス、又は同様の記憶媒体を含むが、それらに限定されない、本開示の技術分野において知られ、又は本明細書において以下で構想されるような、1つ又は複数の機械可読記憶媒体を含む。様々な非限定的な実施形態においては、ストレージ295は、プロセッサ291によって実行のための命令、又はプロセッサ291がそれに対して作用し、それを用いて動作するデータを記憶する。例えば、ストレージ295は、ハードウェアの様々な基本的な動作を制御するための、基本オペレーティングシステムを記憶する。ストレージ295は、ビュー相関器298a、及びアンカ生成器298bを含むが、それらに限定されない、本開示において先に説明されたような、操作ガイダンスコントローラ290aの様々な機能を実施するための、実行可能ソフトウェア/ファームウェアの形態の、アプリケーションモジュールも記憶する。ストレージS295は、本開示において先に説明されたような、知識ベースの様々な実施形態に従った、知識ベース299も記憶する。
図6は、図5のビュー相関器298a及びアンカ生成器298bによって実行可能な、本開示の操作ガイダンス方法を表す、フローチャート300を例示している。
図6を参照すると、フローチャート300のステージS302は、ビュー相関器298aが、本開示において先に説明されたように、解剖学的構造の内視鏡ビューを受け取るステップ、又は識別するステップを有し、フローチャート300のステージS304は、ビュー相関器298aが、本開示において先に説明されたように、解剖学的構造の内視鏡ビューの内視鏡ビュー相関分析を実行するステップを有する。より詳細には、ビュー相関器298aは、可能な限り最良の程度で、内視鏡ビューを、内視鏡処置の画像、モデル、及び/又は処置詳細の知識ベースに関連させる。例えば、ビュー相関器298は、可能な限り最良の程度で、本開示の技術分野において知られているような、登録技法を介して、又は解剖学的領域に対する内視鏡のカメラポジショニングを示す、内視鏡の追跡から、解剖学的領域のボリュームスキャン内における、又は解剖学的モデル上における、解剖学的構造の内視鏡ビューの位置を決定する。
依然として図6を参照すると、ビュー相関器298aは、ステージS302及びS304のループ内に留まり、フローチャート300のステージS306の内視鏡ビュー操作のトリガの際、フローチャート300のステージS308は、アンカ生成器298bが、本開示において先に説明された、ガイド下操作アンカを生成するステップを有し、フローチャート300のステージS310は、アンカ生成器298bが、解剖学的構造の操作に基づいて、知識ベースを更新するステップを有する。
図1~図6を参照すると、本開示の技術分野における当業者は、(1)内視鏡ビュー内における隠された解剖学的構造を露呈させ、(2)内視鏡ビュー内における解剖学的構造の分析を容易にするために、組織をポジショニングし、及び/又は方向付けるために、内視鏡ビュー内において、解剖学的構造(例えば、組織、骨、神経、及び血管)を手動又はロボットでどのように操作するかに関する、臨床医(例えば、放射線技師、療法士、又は外科医)に対するガイダンス提案を含むが、それに限定されない、本開示の多数の利益を理解する
さらに、当業者が、本明細書において提供される教示に鑑みて、理解するように、本開示/明細書において説明され、及び/又は図に描かれた、構造、要素、コンポーネントなどは、ハードウェア及びソフトウェアの様々な組み合わせで実施され、単一の要素又は複数の要素内において組み合わされる機能を提供する。例えば、図に示され/例示され/描かれた、様々な構造、要素、コンポーネントなどの機能は、専用ハードウェア、及び追加の機能性のための適切なソフトウェアと関連付けられた、ソフトウェアを実行することが可能なハードウェアの使用を通して、提供されることができる。プロセッサによって提供されるとき、機能は、単一の専用プロセッサによって、単一の共有プロセッサによって、又はそのうちのいくつかは共用され、及び/若しくは多重化されることができる、複数の個別プロセッサによって、提供されることができる。さらに、「プロセッサ」又は「コントローラ」という用語の明示的な使用は、ソフトウェアを実行することが可能なハードウェアを排他的に指すと解釈されるべきではなく、限定なしに、デジタル信号プロセッサ(「DSP」)ハードウェア、メモリ(例えば、ソフトウェアを記憶するためのリードオンリメモリ(「ROM」)、ランダムアクセスメモリ(「RAM」)、不揮発性ストレージなど)、並びにプロセスを実行し、及び/又は制御することが可能な(及び/又はそのように構成可能な)、(ハードウェア、ソフトウェア、ファームウェア、それらの組み合わせなどを含む)実質的に任意の手段及び/又は機械を暗黙的に含むことができる。
さらに、本発明の原理、態様、及び実施形態、並びにそれらの具体例を列挙する、本明細書におけるすべての言明は、それらの構造的及び機能的な均等物の両方を包含することが意図されている。加えて、そのような均等物は、現在知られている均等物、及び将来開発される均等物(例えば、構造にかかわらず、同じ又は実質的に同様の機能を実行することができる、開発された任意の要素)の両方を含むことが意図されている。したがって、例えば、本明細書において提示される任意のブロック図は、本発明の原理を具現化する、例示的なシステムコンポーネント及び/又は回路の概念図を表すことができることが、本明細書において提供される教示に鑑みて、当業者によって理解される。同様に、当業者は、任意のフローチャート及びフロー図などが、様々なプロセスを表すことができ、様々なプロセスは、コンピュータ可読記憶媒体内において、実質的に表されることができ、コンピュータ、プロセッサ、又は処理能力を有する他のデバイスによって、そのようなコンピュータ又はプロセッサが、明示的に示されているかどうかにかかわらず、そのように実行されることを、本明細書において提供される教示に鑑みて、理解すべきある。
本開示において使用される場合、「信号」、「データ」、及び「コマンド」という用語は、本開示において後で説明されるような、本開示の様々な発明原理を適用することを支援する、情報及び/又は命令を送信するための、本開示の技術分野において理解されるような、また本開示において例示的に説明されるような、検出可能な物理量又はインパルスのすべての形態(例えば、電圧、電流、又は磁界強度)を広く包含する。本開示の様々なコンポーネント間における信号/データ/コマンドの通信は、任意のタイプの有線又は無線データリンク上における信号/データ/コマンドの送信/受信、及びコンピュータ使用可能/コンピュータ可読記憶媒体にアップロードされた信号/データ/コマンドの読み取りを含むが、それらに限定されない、本開示の技術分野において知られているような、任意の通信方法を含む。
本開示の様々な多数の発明の好ましい例示的な実施形態について説明したが(それらの実施形態は、例示的であり、限定的ではないことが意図されている)、図を含む、本明細書において提供される教示に照らして、変更及び変形が、当業者によって行われることができることが留意される。したがって、変更が、本開示の好ましい例示的な実施形態において/に対して、施されることができ、それは、本明細書に開示される実施形態の範囲内にあることが理解されるべきである。
さらに、本開示に従った、デバイス/システムを組み込み、及び/若しくは実施し、又はデバイス内において/デバイスとともに使用/実施される、対応する及び/又は関連するシステムも、企図され、本開示の範囲内にあると見なされることが企図される。さらに、本開示に従った、デバイス及び/又はシステムを製造及び/又は使用するための、対応する及び/又は関連する方法も、企図され、本開示の範囲内にあると見なされる。
Claims (20)
- 解剖学的構造の内視鏡ビューの表示を制御する、内視鏡ビューイングコントローラと、
前記解剖学的構造の前記内視鏡ビューの前記表示内において、少なくとも1つのガイド下操作アンカの表示を制御する、操作ガイダンスコントローラであって、1つの又は各前記ガイド下操作アンカは、前記解剖学的構造のガイド下操作のロケーションマーキング及び動き指令のうちの少なくとも一方を表す、操作ガイダンスコントローラと
を備える、操作的な内視鏡ガイダンスデバイス。 - 前記解剖学的構造の前記内視鏡ビューの前記表示内において、前記少なくとも1つのガイド下操作アンカの前記表示を制御する、前記操作ガイダンスコントローラは、
前記解剖学的構造の基本画像に対する、前記解剖学的構造の前記内視鏡ビューの相関を分析する、操作ガイダンスコントローラと、
前記解剖学的構造の前記基本画像に対する、前記解剖学的構造の前記内視鏡ビューの相関の程度に基づいて、前記少なくとも1つのガイド下操作アンカを導出する、操作ガイダンスコントローラと
を備える、請求項1に記載の操作的な内視鏡ガイダンスデバイス。 - 前記解剖学的構造の前記内視鏡ビューの前記表示内において、前記少なくとも1つのガイド下操作アンカの前記表示を制御する、前記操作ガイダンスコントローラは、
解剖学的構造モデルに対する、前記解剖学的構造の前記内視鏡ビューの相関を分析する、操作ガイダンスコントローラと、
前記解剖学的構造モデルに対する、前記解剖学的構造の前記内視鏡ビューの相関の程度に基づいて、前記少なくとも1つのガイド下操作アンカを導出する、操作ガイダンスコントローラと
を備える、請求項1に記載の操作的な内視鏡ガイダンスデバイス。 - 前記解剖学的構造の前記内視鏡ビューの前記表示内において、前記少なくとも1つのガイド下操作アンカの前記表示を制御する、前記操作ガイダンスコントローラは、
解剖学的構造画像編集に対する、前記解剖学的構造の前記内視鏡ビューの相関を分析する、操作ガイダンスコントローラと、
前記解剖学的構造画像編集に対する、前記解剖学的構造の前記内視鏡ビューの相関の程度に基づいて、前記少なくとも1つのガイド下操作アンカを導出する、操作ガイダンスコントローラと
を備える、請求項1に記載の操作的な内視鏡ガイダンスデバイス。 - 前記解剖学的構造の前記内視鏡ビューの前記表示内において、前記少なくとも1つのガイド下操作アンカの前記表示を制御する、前記操作ガイダンスコントローラは、
前記解剖学的構造の少なくとも1つの顕著な特徴に対する、前記解剖学的構造の前記内視鏡ビューの相関を分析する、操作ガイダンスコントローラと、
前記解剖学的構造の前記少なくとも1つの顕著な特徴に対する、前記解剖学的構造の前記内視鏡ビューの相関の程度に基づいて、前記少なくとも1つのガイド下操作アンカを導出する、操作ガイダンスコントローラと
を備える、請求項1に記載の操作的な内視鏡ガイダンスデバイス。 - 前記解剖学的構造の前記内視鏡ビューの前記表示内において、前記少なくとも1つのガイド下操作アンカの前記表示を制御する、前記操作ガイダンスコントローラは、
前記解剖学的構造と関連付けられた内視鏡処置に対する、前記解剖学的構造の前記内視鏡ビューの相関を分析する、操作ガイダンスコントローラと、
前記内視鏡処置に対する、前記解剖学的構造の前記内視鏡ビューの相関の程度に基づいて、前記少なくとも1つのガイド下操作アンカを導出する、操作ガイダンスコントローラと
を備える、請求項1に記載の操作的な内視鏡ガイダンスデバイス。 - 前記操作ガイダンスコントローラは、前記少なくとも1つのガイド下操作アンカに従って、前記解剖学的構造の少なくとも1つのガイド下操作を実行するために、ロボットのコマンドをさらに制御する、
請求項1に記載の操作的な内視鏡ガイダンスデバイス。 - 前記内視鏡ビューイングコントローラと、前記操作ガイダンスコントローラは、少なくとも部分的に統合される、請求項1に記載の操作的な内視鏡ガイダンスデバイス。
- 少なくとも1つのプロセッサによって実行するための命令を備えるように符号化された非一時的機械可読記憶媒体を備える操作ガイダンスコントローラであって、前記非一時的機械可読記憶媒体は、
前記解剖学的構造の内視鏡ビューを受け取ることと、
前記解剖学的構造の前記内視鏡ビュー内において、少なくとも1つのガイド下操作アンカの表示を制御することであって、1つの又は各前記ガイド下操作アンカは、前記解剖学的構造のガイド下操作のロケーションマーキング及び動き指令のうちの少なくとも一方を表す、制御することと
を行う前記命令を備える、操作ガイダンスコントローラ。 - 前記解剖学的構造の前記内視鏡ビュー内において、前記少なくとも1つのガイド下操作アンカの前記表示を制御する、前記命令は、
前記解剖学的構造を示す基本画像に対する、前記解剖学的構造の前記内視鏡ビューの相関を分析することと、
前記基本画像に対する、前記解剖学的構造の前記内視鏡ビューの相関の程度に基づいて、前記少なくとも1つのガイド下操作アンカを導出することと
を行う命令を備える、請求項9に記載の操作ガイダンスコントローラ。 - 前記解剖学的構造の前記内視鏡ビュー内において、前記少なくとも1つのガイド下操作アンカの前記表示を制御する、前記命令は、
解剖学的構造モデルに対する、前記解剖学的構造の前記内視鏡ビューの相関を分析することと、
前記解剖学的構造モデルに対する、前記解剖学的構造の前記内視鏡ビューの相関の程度に基づいて、前記少なくとも1つのガイド下操作アンカを導出することと、
を行う命令を備える、請求項9に記載の操作ガイダンスコントローラ。 - 前記解剖学的構造の前記内視鏡ビュー内において、前記少なくとも1つのガイド下操作アンカの前記表示を制御する、前記命令は、
解剖学的構造画像編集に対する、前記解剖学的構造の前記内視鏡ビューの相関を分析することと、
前記解剖学的構造画像編集に対する、前記解剖学的構造の前記内視鏡ビューの相関の程度に基づいて、前記少なくとも1つのガイド下操作アンカを導出することと
を行う命令を備える、請求項9に記載の操作ガイダンスコントローラ。 - 前記解剖学的構造の前記内視鏡ビュー内において、前記少なくとも1つのガイド下操作アンカの前記表示を制御する、前記命令は、
前記解剖学的構造の少なくとも1つの顕著な特徴に対する、前記解剖学的構造の前記内視鏡ビューの相関を分析することと、
前記解剖学的構造の前記少なくとも1つの顕著な特徴に対する、前記解剖学的構造の前記内視鏡ビューの相関の程度に基づいて、前記少なくとも1つのガイド下操作アンカを導出することと
を行う命令を備える、請求項9に記載の操作ガイダンスコントローラ。 - 前記解剖学的構造の前記内視鏡ビュー内において、前記少なくとも1つのガイド下操作アンカの前記表示を制御する、前記命令は、
前記解剖学的構造と関連付けられた内視鏡処置に対する、前記解剖学的構造の前記内視鏡ビューの相関を分析することと、
前記内視鏡処置に対する、前記解剖学的構造の前記内視鏡ビューの相関の程度に基づいて、前記少なくとも1つのガイド下操作アンカを導出することと
を行う命令を備える、請求項9に記載の操作ガイダンスコントローラ。 - 前記非一時的機械可読記憶媒体は、
前記少なくとも1つのガイド下操作アンカに従って、前記解剖学的構造の少なくとも1つのガイド下操作を実行するために、ロボットのコマンドを制御する
前記命令をさらに備える、請求項9に記載の操作ガイダンスコントローラ。 - 操作ガイダンスコントローラによって実行可能な、操作的な内視鏡ガイダンス方法であって、前記操作的な内視鏡ガイダンス方法は、
前記操作ガイダンスコントローラによって、解剖学的構造の内視鏡ビューを受け取るステップと、
前記操作ガイダンスコントローラによって、前記解剖学的構造の前記内視鏡ビュー内において、少なくとも1つのガイド下操作アンカの表示を制御するステップであって、1つの又は各前記ガイド下操作アンカは、前記解剖学的構造のガイド下操作のロケーションマーキング及び動き指令のうちの少なくとも一方を表す、ステップと
を有する、操作的な内視鏡ガイダンス方法。 - 前記操作ガイダンスコントローラによって、前記解剖学的構造の前記内視鏡ビュー内において、前記少なくとも1つのガイド下操作アンカの前記表示を制御するステップは、
前記操作ガイダンスコントローラによって、前記解剖学的構造の基本画像に対する、前記解剖学的構造の前記内視鏡ビューの相関を分析するステップと、
前記操作ガイダンスコントローラによって、前記解剖学的構造の前記基本画像に対する、前記解剖学的構造の前記内視鏡ビューの相関の程度に基づいて、前記少なくとも1つのガイド下操作アンカを導出するステップと、
を有する、請求項16に記載の操作的な内視鏡ガイダンス方法。 - 前記操作ガイダンスコントローラによって、前記解剖学的構造の前記内視鏡ビュー内において、前記少なくとも1つのガイド下操作アンカの前記表示を制御するステップは、
前記操作ガイダンスコントローラによって、解剖学的構造モデル及び解剖学的構造画像編集のうちの少なくとも一方に対する、前記解剖学的構造の前記内視鏡ビューの相関を分析するステップと、
前記操作ガイダンスコントローラによって、前記解剖学的構造モデル及び前記解剖学的構造画像編集のうちの少なくとも一方に対する、前記解剖学的構造の前記内視鏡ビューの相関の程度に基づいて、前記少なくとも1つのガイド下操作アンカを導出する、ステップと
を有する、請求項16に記載の操作的な内視鏡ガイダンス方法。 - 前記操作ガイダンスコントローラによって、前記解剖学的構造の前記内視鏡ビュー内において、前記少なくとも1つのガイド下操作アンカの前記表示を制御するステップは、
前記操作ガイダンスコントローラによって、前記解剖学的構造の顕著な特徴及び前記解剖学的構造と関連付けられた内視鏡処置のうちの少なくとも一方に対する、前記解剖学的構造の前記内視鏡ビューの相関を分析するステップと、
前記操作ガイダンスコントローラによって、前記顕著な特徴及び前記内視鏡処置のうちの少なくとも一方に対する、前記解剖学的構造の前記内視鏡ビューの相関の程度に基づいて、前記少なくとも1つのガイド下操作アンカを導出するステップと
を有する、請求項16に記載の操作的な内視鏡ガイダンス方法。 - 前記操作ガイダンスコントローラによって、前記少なくとも1つのガイド下操作アンカに従って、前記解剖学的構造の少なくとも1つのガイド下操作を実行するために、ロボットのコマンドを制御するステップ
をさらに有する、請求項16に記載の操作的な内視鏡ガイダンス方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962947145P | 2019-12-12 | 2019-12-12 | |
US62/947,145 | 2019-12-12 | ||
PCT/EP2020/084189 WO2021115857A1 (en) | 2019-12-12 | 2020-12-02 | Guided anatomical manipulation for endoscopic procedures |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2023509321A true JP2023509321A (ja) | 2023-03-08 |
JPWO2021115857A5 JPWO2021115857A5 (ja) | 2023-12-08 |
Family
ID=73740369
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022535102A Pending JP2023509321A (ja) | 2019-12-12 | 2020-12-02 | 内視鏡処置のためのガイド下解剖学的構造操作 |
Country Status (5)
Country | Link |
---|---|
US (2) | US20230009335A1 (ja) |
EP (1) | EP4073742A1 (ja) |
JP (1) | JP2023509321A (ja) |
CN (1) | CN114945937A (ja) |
WO (1) | WO2021115857A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7432340B2 (ja) * | 2019-11-07 | 2024-02-16 | 川崎重工業株式会社 | 手術システム及び制御方法 |
CN118119329A (zh) * | 2021-11-24 | 2024-05-31 | 奥林巴斯株式会社 | 内窥镜插入引导装置、内窥镜插入引导方法、内窥镜信息取得方法、引导服务器装置及图像推导模型学习方法 |
US12004821B2 (en) * | 2022-02-03 | 2024-06-11 | Medtronic Navigation, Inc. | Systems, methods, and devices for generating a hybrid image |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6346940B1 (en) * | 1997-02-27 | 2002-02-12 | Kabushiki Kaisha Toshiba | Virtualized endoscope system |
JP6785656B2 (ja) * | 2013-08-15 | 2020-11-18 | インテュイティブ サージカル オペレーションズ, インコーポレイテッド | カテーテルの位置付け及び挿入のためのグラフィカル・ユーザインターフェイス |
WO2017044965A1 (en) | 2015-09-10 | 2017-03-16 | Duke University | Systems and methods for arbitrary viewpoint robotic manipulation and robotic surgical assistance |
US10786298B2 (en) | 2016-03-01 | 2020-09-29 | Covidien Lp | Surgical instruments and systems incorporating machine learning based tissue identification and methods thereof |
AU2018378810B2 (en) * | 2017-12-08 | 2024-02-22 | Auris Health, Inc. | System and method for medical instrument navigation and targeting |
CN109771032A (zh) * | 2019-03-14 | 2019-05-21 | 苏州朗开医疗技术有限公司 | 一种电视辅助胸腔镜定位标记标记方法及装置 |
-
2020
- 2020-12-02 JP JP2022535102A patent/JP2023509321A/ja active Pending
- 2020-12-02 WO PCT/EP2020/084189 patent/WO2021115857A1/en unknown
- 2020-12-02 EP EP20820351.3A patent/EP4073742A1/en active Pending
- 2020-12-02 US US17/783,392 patent/US20230009335A1/en active Pending
- 2020-12-02 CN CN202080092878.6A patent/CN114945937A/zh active Pending
- 2020-12-09 US US17/115,850 patent/US11937883B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20230009335A1 (en) | 2023-01-12 |
CN114945937A (zh) | 2022-08-26 |
US11937883B2 (en) | 2024-03-26 |
US20210177524A1 (en) | 2021-06-17 |
EP4073742A1 (en) | 2022-10-19 |
WO2021115857A1 (en) | 2021-06-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7308936B2 (ja) | インジケータシステム | |
US20230009335A1 (en) | Guided anatomical manipulation for endoscopic procedures | |
US20190321118A1 (en) | System and apparatus for positioning an instrument in a body cavity for performing a surgical procedure | |
US9615890B2 (en) | Surgical robot system and method of controlling the same | |
KR101038417B1 (ko) | 수술 로봇 시스템 및 그 제어 방법 | |
RU2692206C2 (ru) | Роботизированное управление эндоскопом на основе анатомических признаков | |
US20210290317A1 (en) | Systems and methods for tracking a position of a robotically-manipulated surgical instrument | |
US20130046137A1 (en) | Surgical instrument and method with multiple image capture sensors | |
Saeidi et al. | Autonomous laparoscopic robotic suturing with a novel actuated suturing tool and 3D endoscope | |
JP2016511049A (ja) | デュアルデータ同期を用いた解剖学的部位の位置の再特定 | |
US20220192777A1 (en) | Medical observation system, control device, and control method | |
KR101598774B1 (ko) | 수술용 영상 처리 장치 및 그 방법 | |
EP3870021B1 (en) | Mixed reality systems and methods for indicating an extent of a field of view of an imaging device | |
US20220415006A1 (en) | Robotic surgical safety via video processing | |
KR100962472B1 (ko) | 수술 로봇 시스템 및 그 제어 방법 | |
WO2022158451A1 (ja) | コンピュータプログラム、学習モデルの生成方法、及び支援装置 | |
KR101114232B1 (ko) | 수술 로봇 시스템 및 그 동작 제한 방법 | |
JP7494196B2 (ja) | コンピュータ支援手術システムの手術セッション中の撮像デバイス視点の最適化を容易にするシステム及び方法 | |
US20220409301A1 (en) | Systems and methods for identifying and facilitating an intended interaction with a target object in a surgical space | |
EP3871193B1 (en) | Mixed reality systems and methods for indicating an extent of a field of view of an imaging device | |
JP2023507063A (ja) | 手術中に画像取込装置を制御するための方法、装置、およびシステム | |
KR20110047929A (ko) | 수술 로봇 시스템 및 그 동작 제한 방법 | |
KR101114237B1 (ko) | 체감형 수술용 영상 처리 장치 및 방법 | |
WO2023038127A1 (ja) | 推論装置、情報処理方法、及びコンピュータプログラム | |
KR102099563B1 (ko) | 최소 침습 수술을 위한 수술로봇 시스템 및 이를 이용한 충돌방지 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231130 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231130 |