JP2023126480A - 訓練又は支援機能を有する手術システム - Google Patents

訓練又は支援機能を有する手術システム Download PDF

Info

Publication number
JP2023126480A
JP2023126480A JP2023115982A JP2023115982A JP2023126480A JP 2023126480 A JP2023126480 A JP 2023126480A JP 2023115982 A JP2023115982 A JP 2023115982A JP 2023115982 A JP2023115982 A JP 2023115982A JP 2023126480 A JP2023126480 A JP 2023126480A
Authority
JP
Japan
Prior art keywords
surgical
surgeon
tss
patient
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023115982A
Other languages
English (en)
Inventor
ジャーク アンソニー,エム
M Jarc Anthony
ショウ,チー
Chi Zhang
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intuitive Surgical Operations Inc
Original Assignee
Intuitive Surgical Operations Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intuitive Surgical Operations Inc filed Critical Intuitive Surgical Operations Inc
Publication of JP2023126480A publication Critical patent/JP2023126480A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B34/35Surgical robots for telesurgery
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B34/37Master-slave robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/361Image-producing devices, e.g. surgical cameras
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B23/00Models for scientific, medical, or mathematical purposes, e.g. full-sized devices for demonstration purposes
    • G09B23/28Models for scientific, medical, or mathematical purposes, e.g. full-sized devices for demonstration purposes for medicine
    • G09B23/285Models for scientific, medical, or mathematical purposes, e.g. full-sized devices for demonstration purposes for medicine for injections, endoscopy, bronchoscopy, sigmoidscopy, insertion of contraceptive devices or enemas
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B23/00Models for scientific, medical, or mathematical purposes, e.g. full-sized devices for demonstration purposes
    • G09B23/28Models for scientific, medical, or mathematical purposes, e.g. full-sized devices for demonstration purposes for medicine
    • G09B23/30Anatomical models
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/30ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to physical therapies or activities, e.g. physiotherapy, acupressure or exercising
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/40ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to mechanical, radiation or invasive therapies, e.g. surgery, laser therapy, dialysis or acupuncture
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/67ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/50ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • A61B2034/101Computer-aided simulation of surgical operations
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • A61B2034/101Computer-aided simulation of surgical operations
    • A61B2034/102Modelling of surgical devices, implants or prosthesis
    • A61B2034/104Modelling the effect of the tool, e.g. the effect of an implanted prosthesis or for predicting the effect of ablation or burring
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • A61B2034/101Computer-aided simulation of surgical operations
    • A61B2034/105Modelling of the patient, e.g. for ligaments or bones
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • A61B2034/254User interfaces for surgical systems being adapted depending on the stage of the surgical procedure
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • A61B2034/256User interfaces for surgical systems having a database of accessory information, e.g. including context sensitive help or scientific articles
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/20ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the management or administration of healthcare resources or facilities, e.g. managing hospital staff or surgery rooms

Abstract

【課題】 遠隔操作手術システム(TSS)をサポートするためのシステム、方法、及び有形に実装されたソフトウェア命令を提供する。【解決手段】 TSSの監視されるイベントを含む手術入力が受信される。外科的処置の現在の段階は、手術入力に基づいて自律的に決定される。状況に関連した支援がTSSの外科医コンソールに提供されることに応答して、外科医支援の要請が検出されて、状況に関連した支援は外科的処置に段階同期される。【選択図】 図9

Description

優先権の主張
本願は、2016年8月12日に出願された米国仮特許出願第62/374,670号について優先権の利益を主張し、及び2015年11月12日に出願された米国仮特許出願第62/254,556号について優先権の利益を主張するものであり、これら各文献の全体が参照により本明細書に組み込まれる。
本発明の態様は、手術に関連して使用される医療装置に関する。より具体的には、本発明の態様は、ロボット支援手術システムを制御して、手術能力データを収集及び評価し、手術従事者に自動的に支援又は助言することに関する。
低侵襲性遠隔操作手術システム(TSS)が、内部手術部位で作業するときに外科医の手先の器用さを増大させるだけでなく、外科医が遠隔地(滅菌場外部)から患者を手術できるようにするために、開発されている。TSSにおいて、外科医には、大抵の場合、制御コンソールにおいて手術部位の画像が提供される。外科医は、適切なビューア又はディスプレイ上で手術部位の画像を見ながら、制御コンソールのマスター入力又は制御装置を操縦することによって患者に対して外科的処置を行う。マスター入力装置のそれぞれは、サーボ機構で作動/関節駆動される手術器具の動作を制御する。外科的処置中に、TSSは、マスター入力装置の操縦に応答して、例えば、針を保持又は駆動する、血管を把持する、組織を切開する、組織をステープル留めする等、外科医のために様々な機能を実行するエンドエフェクタを有する様々な手術器具又はツールの機械的作動及び制御を提供することができる。
TSSを使用する外科医を訓練し、TSSを使用する手術で外科医を支援(assist)することが望ましい。該当する場合には、自動化された外科的評価及び自動化された手術支援を容易にするための実用的な解決策が必要である。
以下の発明の概要は、基本的な理解を提供するために、本発明の主題の特定の態様を紹介する。この発明の概要は、本発明の主題の広範な概要ではなく、解決要素又は重要な要素を特定すること、又は本発明の主題の範囲を線引きすることを意図するものではない。この発明の概要は、本発明の主題の様々な態様及び実施形態に関連する情報を含むが、その唯一の目的は、以下の詳細な説明の前置きとして、いくつかの態様及び実施形態を一般的な形態で提示することである。
本発明の一態様は、遠隔操作手術システム(TSS)のための外科医支援システムを対象とする。TSSは、一般に、電気機械手術システムを有効にして外科的処置を実施するための手術制御入力を受け取る外科医入力インターフェイスを含む。
いくつかの実施形態では、外科医支援システムは、仮想手術環境エンジン及びアシストエンジンを含み、それら各エンジンは、コンピュータ・ハードウェアを使用して実装され得る。
仮想手術環境エンジンは、TSSの監視されるイベントを含む手術入力を受信する手術入力評価エンジンと、手術入力に基づいて、外科的処置の現在の段階を決定するセグメント化エンジンとを含む。
アシストエンジンは、TSSの外科医入力インターフェイスに通信可能に結合されるTSSインターフェイスと、外科医支援のための要請を検出する支援要請検知器と、外科医の支援のための要請に応答して、TSSインターフェイスを介して状況に関連した支援(context-related assistance)を送信する支援レンダリング・エンジンとを含む。状況に関連した支援は、外科的処置に段階同期(stage-synchronized)される。段階同期(stage synchronization)とは、厳密な時間的整合ではなく、手術プロセスフローに関する整合を指す。いくつかの実施形態では、段階同期は、外科的処置の今後の段階のために外科医又は外科チームを用意するための支援が提供されるように、段階オフセット(stage-offsetting)をサポートする。
有利には、段階同期は、直ちに利用可能にされ得る状況に関連した支援を外科医に提供する。支援の例には、外科的処置の現在の(又は今後の)部分の自動的にキューイングされた(queued)専門家ビデオセグメント、場合によっては手術中に呼び出され得る外科的処置の現在又は今後の部分のオンデマンド・シミュレーション、自動化された専門システムからの特定のシナリオの外科的手法のアドバイス、及び外科的処置の特定の部分に専門知識を有すると以前評価された人物の専門的な支援の通知を含む。前述の例は説明のために与えられたものであり、添付の特許請求の範囲において明示的に示されない(called out)限り、特許請求の範囲を限定するものと見なすべきではない。
いくつかの実施形態では、仮想手術環境エンジンは、TSSの手術入力に基づいて外科的処置の計算モデルを処理するシミュレータ・エンジンを実装するようにさらに構成される。例えば、シミュレータ・エンジンは、仮想手術環境におけるTSSを計算上表現するためのTSSモデルと;患者の身体的特徴に基づく患者、及びTSSモデルの操作によって影響を受ける患者への変化を計算上表現するための患者モデルと;を含むことができる。
いくつかの実施形態では、外科医支援システムは、外科的処置の手術入力及び現在の段階にアクセスし、現在の段階を含む外科的処置の複数の異なる段階に対応する手術入力の複数の時間的及び空間的メトリックを計算するように構成された外科的手法評価エンジンを含む。外科的手法評価エンジンは、手術制御入力を生成する外科医の外科的能力の質を表す手術段階特有の能力スコアを生成することができる。
低侵襲性遠隔操作手術システム(TSS)の平面図である。 外科医コンソールの斜視図である。 電子機器カートの斜視図である。 TSSの概略図である。 TSSの説明図である。 手術システムの患者側カートの斜視図である。 手術シーンの説明図である。 手術器具の正面図である。 器具マニピュレータの斜視図である。 手術計画ツールの概略図である。 様々な実施形態による、仮想手術環境、データ記録システム、外科医評価システム、及び支援システムを含む追加のサポートシステムを有するTSSを特徴とする先進の手術システムを示す図である。 一実施形態による、図9のシステムの仮想手術環境の動作要素及びそれらの相互作用を示す図である。 一実施形態による、図10の仮想手術環境の手術入力評価器の動作要素及びそれらの相互作用を示す図である。 一実施形態による、図10の仮想手術環境の、その動作要素及びそれらの相互作用を含むセグメンタを示す図である。 一実施形態による、図10の仮想手術環境のシミュレータの動作要素及びそれらの相互作用を示す図である。 一実施形態による、図9のシステムの外科医評価器の動作要素及びそれらの相互作用を示す図である。 例示的な実施形態による、図9のシステムのデータ記録システムの動作要素及びそれらの相互作用を示す図である。 いくつかの実施形態による、図9のシステムのアシストエンジンの動作要素及びそれらの相互作用を示す図である。 汎用マシンの例示的な形態のコンピュータシステムを示すブロック図であり、コンピュータシステムは、本明細書に記載の実施形態の態様を実施するために専用マシンに変換することができる。 図17に示されるようなコンピュータ装置の例示的なハードウェア及びソフトウェア・アーキテクチャを示す図であり、ハードウェアコンポーネントとソフトウェアコンポーネントとの間の様々なインターフェイスが示されている。 いくつかの実施形態による、例示的な手術器具及びアクチュエータアセンブリを示す説明図であり、手術器具が手術器具の異なる例示的な動作状態で示されている。 いくつかの実施形態による、例示的な手術器具及びアクチュエータアセンブリを示す説明図であり、手術器具が手術器具の異なる例示的な動作状態で示されている。 いくつかの実施形態による、例示的な手術器具及びアクチュエータアセンブリを示す説明図であり、手術器具が手術器具の異なる例示的な動作状態で示されている。 いくつかの実施形態による、図9のシステム等のTSSサポートシステムを動作させる例示的な方法を示すプロセスフロー図である。 外科医がTSSの手術シーン内で手術器具をより正確に制御できるような視点を達成し外科医を支援するために、図14の外科医評価器の制御設定アジャスタによってもたらされる手術シーンの水平線の変化を示す説明図である。 外科医がTSSの手術シーン内で手術器具をより正確に制御できるような視点を達成し外科医を支援するために、図14の外科医評価器の制御設定アジャスタによってもたらされる手術シーンの水平線の変化を示す説明図である。 外科医がTSSの手術シーン内で手術器具をより正確に制御できるような視点を達成し外科医を支援するために、図14の外科医評価器の制御設定アジャスタによってもたらされる手術シーンの水平線の変化を示す説明図である。 外科医がTSSの手術シーン内の関連情報をより良く監視できる視点を達成し外科医を支援するために、図14の外科医評価器の制御設定アジャスタによってもたらされる手術シーンの2次元位置変化を示す説明図である。 外科医がTSSの手術シーン内の関連情報をより良く観察できる視点を達成し外科医を支援するために、図14の外科医評価器の制御設定アジャスタによってもたらされる手術シーンの2次元位置変化を示す説明図である。 外科医がTSSの手術シーン内の関連情報をより良く観察できる視点を達成し外科医を支援するために、図14の外科医評価器の制御設定アジャスタによってもたらされる手術シーンのズームレベル変更を示す説明図である。 外科医がTSSの手術シーン内の関連情報をより良く観察できる視点を達成し外科医を支援するために、図14の外科医評価器の制御設定アジャスタによってもたらされる手術シーンのズームレベル変更を示す説明図である。
発明の態様、実施形態、実装形態、又は用途を説明するこの詳細な説明及び添付図面は、限定するものとして解釈すべきではなく、特許請求の範囲は保護対象となる発明を規定する。この詳細な説明及び特許請求の範囲の範囲から逸脱することなく、様々な機械的、構成的、構造的、電気的及び動作的変更を行うことができる。いくつかの例では、本発明を不明瞭にしないために、周知の回路、構造、又は技術は詳細には示さないか、又は説明していない。2つ以上の図における同様の数字は、同じ又は類似の要素を表す。
1つの実施形態、実装形態、又は用途に関して詳細に説明した要素は、実際的であればいつでも、具体的に図示又は説明していない他の実施形態、実装形態、又は用途に含まれることがある。例えば、ある要素について第1の実施形態を参照して詳細に説明しているが、第2の実施形態を参照して説明していない場合に、この要素は、それにも拘わらず、第2の実施形態に含まれるように権利範囲に含まれる。こうして、以下の詳細な説明で不必要な繰返しを避けるために、1つの実施形態、実装形態、又は用途に関連して図示し説明した1つ又は複数の要素は、特に他に説明しない限り、1つ又は複数の要素が実施形態又は実装形態を機能しないようにしない限り、又は2つ以上の要素が相反する機能を提供しない限り、他の実施形態、実装形態、又は態様に組み込まれ得る。
本発明の態様は、カリフォルニア州サニーベールのIntuitive Surgical, Inc.によって商品化されたda Vinci(登録商標)Surgical System(具体的には、Da Vinci Xi(登録商標)手術システムとして市販されているModel IS4000)を使用する実装形態の観点から主に説明する。しかしながら、知識のある者は、本明細書に開示された本発明の態様は、ロボット式の及び適用可能であれば非ロボット式の実施形態及び実装形態を含む様々な方法で具体化及び実施できることを理解するであろう。da Vinci(登録商標)手術システム(例えば、da Vinci Xi(登録商標)手術システム、da Vinci Si(登録商標)手術システム)での実装形態は、単なる例示であり、本明細書に開示される本発明の態様の範囲を特定のモデル又は装置に限定するものと見なすべきではなく、さらにそれらの制限が1つ又は複数の請求項に明示的に示される範囲に限定するものとみなすべきではない。
低侵襲性遠隔操作手術システム(TSS)
遠隔操作とは、遠隔における機械の操作を指す。低侵襲性遠隔操作医療システムでは、外科医は、カメラを含む内視鏡を使用して患者の体内の手術部位を見ることができる。いくつかの実施形態では、外科的処置中に深さの知覚を可能にする立体画像を取り込むことができる。
ここで図面を参照すると、同様の参照符号がいくつかの図面を通して同様の部品を表しており、図1は、手術台14上に横たわっている患者12に対して低侵襲性の診断又は外科的処置を行うために典型的に使用される低侵襲性TSS10の平面図である。システムは、処置中に外科医18が使用するための外科医コンソール16を含む。1人又はそれ以上のアシスタント20もこの処置に参加することができる。低侵襲性TSS10は、患者側カート(複数可)22及び電子機器カート24をさらに含む。患者側カート22は、外科医18が外科医コンソール16を介して手術部位を確認しながら、少なくとも1つの手術器具26を患者12の身体の低侵襲性切開部を介して操縦することができる。手術部位の画像は、立体内視鏡等の内視鏡28と共に取り付けられたカメラによって取得することができ、患者側カート22によってカメラを操縦して内視鏡28を位置付けし且つ向き合わせすることができる。外科医コンソール16を介して外科医18に後で表示するために、電子機器カート24上に位置するコンピュータプロセッサを使用して手術部位の画像を処理することができる。別個のシステム要素(すなわち、患者側カート22、電子機器カート24、及び外科医コンソール16)は、例示的な目的のために図示及び説明しているが、様々な実施形態において、それらに含まれる要素は、組み合わせ及び/又は分離することができる。例えば、いくつかの実施形態では、電子機器カート24のコンピュータプロセッサは、外科医コンソール16及び/又は患者側カート22に組み込むことができる。一度に使用される手術器具26の数は、一般に、数ある要因の中でも診断又は外科的処置、及び手術部位内の空間的な制約に依存する。処置中に使用される1つ又は複数の手術器具26を変更する必要がある場合に、アシスタント20は、患者側カート22から手術器具26を取り外し、その器具を手術室のトレイにある別の手術器具26と交換することができる。
図2は、外科医コンソール16の斜視図である。外科医コンソール16は、奥行き知覚を可能にするような手術部位の調整された立体視を外科医18に提示するための左眼用ディスプレイ32と右眼用ディスプレイ34とを含むビューア31を有する。様々な他の実施形態では、非立体ディスプレイが外科医18に提供され得る。コンソール16は、1つ又は複数の制御入力36をさらに含む。外科医18による1つ又は複数の制御入力36の操縦に応答して、患者側カート22(図1に示される)で使用するために設置された1つ又は複数の手術器具が移動する。制御入力36は、関連する手術器具26(図1に示される)と同じ又はそれより多い機械的自由度を提供して、外科医18にテレプレゼンス(すなわち、制御入力36が器具26と一体であるという知覚)を提供することができ、それによって外科医は、器具26を直接的に制御しているという強い感覚を有することになる。この目的のために、いくつかの実施形態では、位置、力、及び触覚フィードバックセンサ(図示せず)を使用して、手術器具26からの位置、力、及び触覚感覚を制御入力36を介して外科医の手に戻して伝達させることができるが、通信遅延の制約を受ける。ビューア31が固定され、制御入力36が機械的に結合された物理的コンソール16が、例示目的のために図示され説明されているが、様々な他の実施形態では、「非接地状態の(ungrounded)」制御入力及び/又はディスプレイ構造が使用され得る。例えば、いくつかの実施形態では、ビューア31はヘッドマウントディスプレイであってもよく、及び/又は制御入力36は、任意の基本構造(例えば、マイクロソフト社のKinect等の有線、無線又はジェスチャベース)から機械的に独立してもよい。
外科医コンソール16は、通常、外科医が処置を直接的に監視し、必要な場合にその場に物理的に存在し、電話や他の通信媒体を介すのではなく患者側アシスタントと直接的に話すことができるように、患者と同じ部屋に配置される。しかし、外科医は、異なる部屋、完全に異なる建物、又は遠隔医療処置を可能にする、患者から離れた他の遠隔位置に位置してもよい。
図3は、電子機器カート24の斜視図である。電子機器カート24は、内視鏡28と結合され、取り込んだ画像を処理し、その後に外科医コンソール上で又はローカル及び/又はリモートに位置する別の適切なディスプレイ上で外科医等に表示させるために、コンピュータプロセッサを含む。例えば、立体内視鏡が使用される場合に、電子機器カート24上のコンピュータプロセッサは、取り込んだ画像を処理して手術部位の調整された立体画像を外科医に提示することができる。そのような調整は、対向する画像同士の間の位置合せを含むことができ、且つ立体内視鏡の立体動作距離を調整することを含むことができる。別の例として、画像処理は、光学収差等の画像取込み装置の結像誤差を補償するために以前に決定されたカメラ較正パラメータの使用を含むことができる。オプションとして、電子機器カート内の機器は、外科医コンソール又は患者側カートに統合してもよく、或いは手術室内の他の様々な位置に配置してもよい。
図4は、(図1の低侵襲性TSS等の)TSS50を概略的に示す。外科医コンソール52(図1の外科医コンソール16等)は、外科医が低侵襲性処置中に患者側カート54(図1の患者側カート22等)を制御するために使用される。患者側カート54は、立体内視鏡等の撮像装置を使用して手術部位の画像を取り込み、取り込んだ画像を電子機器カート56(図1の電子機器カート24等)上に位置するコンピュータプロセッサに出力することができる。コンピュータプロセッサは、典型的には、コンピュータプロセッサの不揮発性メモリ装置に記憶されたコンピュータ可読コードを実行するための1つ又は複数のデータ処理ボードを含む。一態様では、コンピュータプロセッサは、その後に表示する前に、取り込んだ画像を様々な方法で処理することができる。例えば、コンピュータプロセッサは、外科医コンソール52を介して外科医に合成画像を表示する前に、取り込んだ画像を仮想制御インターフェイスに重ね合わせる(オーバーレイする)ことができる。
追加的に又は代替的に、取り込んだ画像は、電子機器カート56の外部に位置するコンピュータプロセッサによって画像処理を受け得る。一実施形態では、TSS50は、電子機器カート56上に位置するコンピュータプロセッサと同様のオプションのコンピュータプロセッサ58(破線で示す)を含み、患者側カート54は、外科医コンソール52に表示させる前に、画像処理のために取り込んだ画像をコンピュータプロセッサ58に出力する。別の態様では、取り込んだ画像は、最初に、電子機器カート56上のコンピュータプロセッサによる画像処理を受け、次に、外科医コンソール52に表示させる前に、コンピュータプロセッサ58による更なる画像処理を受ける。TSS50は、破線で示されるようなオプションのディスプレイ60を含むことができる。ディスプレイ60は、電子機器カート56上に位置するコンピュータプロセッサ及びコンピュータプロセッサ58と結合され、これらのコンピュータプロセッサによって処理された取込み画像は、ディスプレイ60に表示され、さらに外科医コンソール52のディスプレイにも表示される。
図5Aは、いくつかの実施形態による、1つ又は複数の機械式支持アーム510を使用して外科的処置を行う遠隔操作手術システム10の構成要素の配置を示す例示的な簡略ブロック図である。システム10の態様は、ロボット支援され且つ自律的に動作する機構を含む。これらの機械式支持アーム510は、多くの場合に、手術器具を支持する。例えば、機械式手術用アーム(例えば、中央の機械式手術用アーム510C)を使用して、立体又は3次元の手術画像取込み装置101Cを有する内視鏡を支持することができる。機械式手術用アーム510Cは、画像取込み装置101Cを含む内視鏡を機械式アームに機械的に固定するための、滅菌アダプタ、又はクランプ、クリップ、ネジ、スロット/溝、又は他の締結機構を含むことができる。様々な他の実施形態では、画像取込み装置101C(又は任意の他の手術器具)を機械式手術用アーム510Cに組み込むことができる。
ユーザ又はオペレータO(一般に外科医)は、マスター制御コンソール16におけるハンドグリップ及びフットペダル等の制御入力装置36を操縦することによって、患者Pに対して外科的処置を行う。オペレータは、患者の身体内部の手術部位の画像のビデオフレームを立体表示ビューア31を介して見ることができる。コンソール16のコンピュータプロセッサ58は、制御ライン159を介して遠隔操作式内視鏡手術器具101A~101Cの動きを指示し、患者側システム24(患者側カートとも呼ばれる)を使用して器具を移動させる。
患者側システム24は、1つ又は複数の機械式支持アーム510を含む。典型的には、患者側システム24は、対応する位置付けセットアップ・アーム156によって支持された少なくとも3つの機械式手術用アーム510A~510C(一般に機械式手術用支持アーム510と呼ばれる)を含む。中央の機械式手術用アーム510Cは、カメラの視野内の画像の取込みに適した内視鏡カメラ101Cを支持するか、又は内視鏡カメラ101Cを含むことができる。中央から左右の機械式手術用支持アーム510A及び510Bは、組織を操作することができる器具101A及び101Bをそれぞれ支持又は含むことができる。
図5Bは、実施形態による、低侵襲性TSS10の患者側カート500の斜視図である。患者側カート500は、1つ又は複数の支持アームアセンブリ510を含む。手術器具マニピュレータ512が、各支持アームアセンブリ510の端部に取り付けられる。さらに、各支持アームアセンブリ510は、オプションで、手術のために患者に対して取り付けられた手術器具マニピュレータ512を位置付けするために使用される1つ又は複数のセットアップ関節(例えば、非動力供給及び/又はロック可能)を含むことができる。図示されるように、患者側カート500は床の上に置かれる。他の実施形態では、患者側カートの動作部分は、壁、天井、患者の身体522も支持する手術台526、又は他の手術室の機器に取り付けることができる。さらに、単一の患者側カート500が、4つの手術器具マニピュレータ512を含むものとして示されているが、複数の患者側カート500及び/又は患者側カート(複数可)500上のより多い又は少ない手術器具マニピュレータ512を使用してもよい。
機能的なTSSは、一般に、TSSのユーザが患者の身体522の外部から手術部位を見ることを可能にする視覚システム部分を含む。視覚システムは、典型的には、ビデオ画像を取り込むためのカメラ器具528と、取り込んだビデオ画像を表示させるための1つ又は複数のビデオディスプレイとを含む。いくつかの手術システム構成では、カメラ器具528は、カメラ器具528の先端部から患者の身体522の外部の1つ又は複数の撮像センサ(例えば、CCD又はCMOSセンサ)に画像を移す光学系を含む。あるいはまた、撮像センサ(複数可)をカメラ器具528の先端部に位置付けしてもよく、センサ(複数可)によって生成された信号を処理するためにリード線に沿って又は無線で転送して、1つ又は複数のビデオディスプレイ上に表示させることができる。ビデオディスプレイの一例は、カリフォルニア州サニーベールのIntuitive Surgical, Inc.によって商品化された手術システムの外科医コンソール上の立体視ディスプレイである。
図5A~図5Bを参照すると、各手術器具マニピュレータ512には、患者の身体522内の手術部位で動作する手術器具520が取り付けられている。各手術器具マニピュレータ512は、関連する手術器具が1つ又は複数の機械的な自由度(例えば、全部で6つのデカルト自由度、5つ以下のデカルト自由度等)で移動可能になるように、様々な形態で提供される。典型的には、機械的制約又は制御的制約により、各マニピュレータ512がその関連する手術器具を患者に対して静止している器具の運動中心の周りに動くことが制限され、この運動中心は、典型的には、器具が身体内に入る位置に置かれる。
一態様では、手術器具520は、コンピュータ支援遠隔操作によって制御される。機能的な低侵襲性TSSは、TSSのユーザ(例えば、外科医又は他の医療従事者)からの入力を受け取る制御入力を含む。制御入力は、手術器具520が結合される1つ又は複数のモータ等の、1つ又は複数のコンピュータ制御遠隔操作アクチュエータと通信する。このようにして、手術器具520は、医療従事者の制御入力の動きに応じて移動する。一態様では、1つ又は複数の制御入力は、図2に示される外科医コンソール16等の外科医コンソールに含まれる。外科医は、外科医コンソール16の制御入力装置36を操縦して、患者側カート500の遠隔操作アクチュエータを動作させることができる。遠隔操作アクチュエータによって生成された力は、遠隔操作アクチュエータから手術器具520に力を伝える駆動トレイン機構を介して伝達される。
図5A~図5Bを参照すると、一態様では、手術器具520及びカニューレ524は、手術器具520がカニューレ524を通して挿入された状態で、マニピュレータ512に取り外し可能に結合される。マニピュレータ512の1つ又は複数の遠隔操作アクチュエータは、手術器具512を全体として移動させる。マニピュレータ512は、器具キャリッジ530をさらに含む。手術器具520は、器具キャリッジ530に着脱可能に接続される。一態様では、器具キャリッジ530は、多数のコントローラ動作を与える1つ又は複数の遠隔操作アクチュエータを内部に収容し、アクチュエータによって、手術器具520が手術器具520上のエンドエフェクタの様々な運動として並進する。こうして、器具キャリッジ530内の遠隔操作アクチュエータは、手術器具全体ではなく、手術器具520の1つ又は複数の構成要素のみを動かす。器具全体又は器具の構成要素のいずれかを制御するための入力は、外科医又は他の医療従事者によって制御入力に与えられる入力(「マスター」コマンド)が、手術器具による対応する動作(「スレーブ」応答)に変換されるような入力である。
いくつかの実施形態によれば、手術システム10は、ドッキングされた以下の器具のタイプ、ヘッドイン、カメラの動き、第3のアームの制御、人間工学的な調整、テーブルの動きの調整等を含む複数のシステム作動状態を有することができる。ドッキングされたシステム状態の間に、1つ又は複数のマニピュレータ512がカニューレ524に結合される。次のシステム状態の間に、手術器具(スレーブ)は制御入力(マスターコマンド)を追跡している。器具タイプのシステム状態の間に、システムは、特定の外科的処置の実施に適した、又は外科的処置中の特定の外科的活動の実施に適した器具のセットをそのシステム内に設置する。ヘッドインシステム状態の間に、システムは、外科医が「マスター」制御入力装置を保持したことを示すのを待っている。
代替実施形態では、器具キャリッジ530は、遠隔操作アクチュエータを収容していない。手術器具520のエンドエフェクタの様々な動きを可能にする遠隔操作アクチュエータは、例えば患者側カート500上のいずれかの場所等の、器具キャリッジ530から離れた位置に収容される。ケーブルベースの力伝達機構等が、遠隔に位置する遠隔操作アクチュエータのそれぞれの動きを、器具キャリッジ530に位置する対応する器具インターフェイス・アクチュエータ出力に移すために使用される。いくつかの実施形態では、手術器具520は、第1のアクチュエータに機械的に結合され、第1のアクチュエータは、縦方向(z軸)回転等の手術器具の第1の動きを制御する。手術器具520は、第2のアクチュエータに機械的に結合され、第2のアクチュエータは、2次元(x,y)運動等の手術器具の第2の動きを制御する。手術器具520は、第3のアクチュエータに機械的に結合され、第3のアクチュエータは、顎部エンドエフェクタの開閉等の手術器具の第3の動きを制御する。
図5Cは、手術シーン550を表す説明図であり、また、いくつかの実施形態によるシーンを記録するために使用されるカメラ528を取り付ける内視鏡101Cを示している。シーン(scene)550は、患者の体腔内に配置される。シーン550は、幾何学的輪郭554を含む例示的な仮想球状解剖学的構造552を含む。シーン550は、手術器具556を取り囲む。内視鏡101Cに取り付けられたカメラ528は、ビューア31内に表示されるシーンを取り込み、後で再生するために記録する。
図6は、細長いチューブ中心軸線611を有する細長いチューブ610によって結合された先端部分650と基端側制御機構640とを含む手術器具520の側面図である。手術器具520は、患者の身体内に挿入されるように構成され、外科的処置又は診断処置を実施するために使用される。手術器具520の先端部分650は、図示される鉗子、針ドライバ、焼灼装置、切断ツール、撮像装置(例えば、内視鏡又は超音波プローブ)等の様々なエンドエフェクタ654のいずれかを提供することができる。手術エンドエフェクタ654は、顎部を開閉する又はナイフを経路に沿って並進する等の機能的な機械的自由度を含むことができる。図示される実施形態では、エンドエフェクタ654は、エンドエフェクタを細長いチューブ中心線軸611に対して向き合せ可能にする手首652によって、細長いチューブ610に結合される。手術器具520は、(例えば、器具に関連する半導体メモリ上に)記憶された情報を含むことができ、この情報は、恒久的であってもよく、又は手術器具520を動作させるように構成された手術システムによって更新してもよい。従って、手術システムは、手術器具520と手術システムの1つ又は複数の構成要素との間の一方向又は双方向の情報通信のいずれかを提供することができる。
図7は、手術器具マニピュレータ512の斜視図である。器具マニピュレータ512は、手術器具が設置されていない状態で示されている。器具マニピュレータ512は、手術器具(例えば、手術器具520)が着脱可能に結合され得る器具キャリッジ530を含む。器具キャリッジ530は、複数の遠隔操作アクチュエータを収容する。各遠隔操作アクチュエータは、アクチュエータ出力705を含む。手術器具が器具マニピュレータ512に設置されると、器具の基端側制御機構(例えば、図6の基端側制御機構640)の1つ又は複数の器具入力(図示せず)は、対応するアクチュエータ出力705に機械的に結合される。一態様では、この機械的結合は直接的であり、アクチュエータ出力705は対応する器具入力に直接的に接触する。別の態様では、この機械的結合は、器具マニピュレータ512と関連する手術器具との間に滅菌バリアを提供するように構成されたドレープ要素等の中間インターフェイスを介して生じる。
一態様では、対応する遠隔操作アクチュエータによる1つ又は複数の器具入力の動きは、手術器具の機械的自由度の動きをもたらす。例えば、一態様では、器具マニピュレータ512に設置された手術器具は、図6に示される手術器具520である。図6を参照すると、一態様では、対応する遠隔操作アクチュエータによる基端側制御機構640の1つ又は複数の器具入力の動きは、基端側制御機構640に対して細長いチューブ610(及び取り付けられた手首652及びエンドエフェクタ654)を細長いチューブの中心軸線611の周りに回転させる。別の態様では、対応する遠隔操作アクチュエータによる1つ又は複数の器具入力の動きは、手首652の運動をもたらし、細長いチューブ中心線軸611に対してエンドエフェクタ654を向き合せする。別の態様では、対応する遠隔操作アクチュエータによる1つ又は複数の器具入力の動きは、エンドエフェクタ654の1つ又は複数の可動要素(例えば、顎部材、ナイフ部材等)の運動をもたらす。従って、器具マニピュレータ512に設置された手術器具の様々な機械的自由度は、器具キャリッジ530の遠隔操作アクチュエータの操作によって動かすことができる。
手術計画システム
図8は、例示的な手術計画システム800の概略図を示す。一態様では、手術計画ツール800は、電子カルテデータベース830とデータ通信するTSS850を含む。ここに示されるTSS850は、図4に示されるTSS50と同様である。一態様では、電子カルテデータベース830は、特定の病院又は複数の病院で治療を受けた患者の医療記録を含む。データベース830は、病院の構内に位置するサーバ上に実装することができる。データベース830に含まれる医療記録エントリは、病院のコンピュータからイントラネット・ネットワークを介してアクセスすることができる。あるいはまた、データベース830は、例えば、多数のクラウドデータストレージサービスの1つを使用して、病院から離れて位置する遠隔サーバ上に実装することができる。この場合に、データベース830の医療記録エントリは、クラウドサーバ上に格納され、コンピュータシステムによってインターネットアクセスを用いてアクセスすることができる。
一態様では、外科的処置が、TSS850を使用して第1の患者に対して行われる。TSS850に関連する撮像装置は、手術部位の画像を取り込み、取り込んだ画像をビデオのフレームとして外科医コンソール52のディスプレイに表示する。一態様では、外科医コンソール52の医療従事者は、外科医コンソール52の入力装置を使用して、表示されたビデオに示された特定の患者の解剖学的構造に強調表示又は注釈付けを行う。そのような入力装置の例は、図2にそれぞれ示される左及び右用のハンドグリップ制御入力36,38であり、そのような入力装置は、表示されたビデオに重ね合わされたグラフィックユーザインターフェイスと連動して動作するカーソルに結合される。グラフィックユーザインターフェイスは、QWERTYキーボード、マウス及び対話式スクリーンディスプレイ等のポインティング装置、タッチスクリーンディスプレイ、或いはデータ又はテキスト入力のための他の手段、又は音声注釈/又はマイク及びプロセッサによる音声のテキスト変換を含む。従って、医療従事者は、表示された画像内の関心のある組織を強調表示する、又はテキスト注釈を入力することができる。
一態様では、手術部位ビデオは、電子機器カート56上に位置するディスプレイにさらに表示される。一態様では、電子機器カートのディスプレイは、医療従事者が、電子機器カート上のディスプレイ上で見るために表示される画像上に示される患者の解剖学的構造の特定の部分を強調表示し注釈を付けるために有用なタッチスクリーン・ユーザインターフェイスである。ユーザがタッチスクリーン・ユーザインターフェイス上に表示された患者の解剖学的構造の一部に触れることによって、ユーザは、表示された画像の一部を強調表示することができる。さらに、キーボードを含むグラフィックインターフェイスを表示された画像上に重ね合わせる(オーバーレイする)ことができる。ユーザは、キーボード、又はマイク及び音声-テキスト変換ドライバ等の他の入力装置を使用して、テキスト注釈を入力することができる。
一態様では、TSS850に関連する撮像装置によって取り込まれた手術部位ビデオは、TSS850によって記録され、ユーザにリアルタイムで又は略リアルタイムで表示されることに加えて、データベース830に記憶される。記録されたビデオに関連してユーザによってなされた強調表示及び/又は注釈もデータベース830に記憶することができる。一態様では、ユーザによってなされた強調表示は、データベース830に記憶する前に、記録されたビデオに埋め込まれる。後になって、記録されたビデオは、視聴するために検索することができる。一態様では、記録されたビデオを見る人は、強調表示が表示されるか、又は表示させないかを選択することができる。同様に、記録されたビデオに関連する注釈もデータベース830に記憶することができる。一態様では、ユーザによってなされた注釈付けは、記録されたビデオにタグを付けるために使用され、及び記録されたビデオに含まれる主題を特定する手段として提供するように使用される。例えば、1つの注釈は、特定の疾患状態の条件を表すことができる。この注釈は、記録されたビデオにタグ付けするために使用される。後になって、この疾患状態に関する記録された処置を見たい人は、キーワード検索を使用してビデオを見つけることができる。
記憶されたビデオの検索
場合によっては、医療従事者は、所与の患者に対して行われた過去の外科的処置のビデオ録画を見ることができることが望ましい。一態様では、病状を治療するために以前に第1の外科的処置を受けた患者は、その後、同じ病状の再発を治療するために、又は第1の外科的処置の手術部位の近くに位置する解剖学的構造を治療するために、第2の外科的処置を必要とする。一態様では、第1の外科的処置の手術部位のイベントが手術部位ビデオ録画に取り込まれ、ビデオ録画は患者の電子カルテの一部としてデータベース830に保管された。関連する実施形態では、第1の外科的処置は、処置のタイプに従ってインデックス付けされ得る。患者に対して第2の外科的処置を行う前に、医療従事者は、データベース830の検索を行って、患者の以前の外科的処置のビデオ録画を見つけることができる。
場合によっては、患者に対して外科的処置を行うことを計画している医療従事者は、患者と同様の特定の特徴を有する人物に対して行われた同様の外科的処置のビデオ録画を見ることができることが望ましい。一態様では、外科的処置の手術部位ビデオ録画は、各ビデオ録画がデータベース830に保管される前に、患者の年齢、性別、肥満度指数(BMI)、遺伝情報、患者が受けた処置のタイプ等のメタデータ情報でタグ付けすることができる。一態様では、ビデオ録画をタグ付けするために使用されたメタデータ情報は、患者の既存の医療記録から自動的に検索され、その後、ビデオ録画をデータベース830に保管する前にビデオ録画をタグ付けするために使用される。従って、患者に対して医療処置を行う前に、医療従事者は、その患者と共通の特定の特性を共有する患者に対して行われた同様の処置のビデオ録画をデータベース830で検索することができる。例えば、医療従事者が、TSS850を使用して、肥満度指数が高い65歳の男性患者に対して前立腺切除術を行うことを計画する場合に、医療従事者は、TSS850を使用して、同様に肥満度指数が高く同様の年齢の男性に対して行われた前立腺切除の手術部位ビデオ録画をデータベース830で検索することができる。
一態様では、外科的処置のビデオ録画は、データベース830によって、パーソナルコンピュータ、タブレット、スマートフォン、端末、又は他の電子アクセス装置等のオプションのパーソナルコンピュータ装置820(破線で示す)に伝達され、外科的処置を行うことを計画している医療従事者が見ることができるようにされる。それに加えて又はこれに代えて、以前の外科的処置のビデオ録画は、データベース830によってTSS850に伝達され、手術前又は手術中に見ることができるようにされる。一態様では、ビデオ録画は、TSS850によって、外科医コンソール52に位置するディスプレイ上に表示される。別の態様では、第1の外科的処置のビデオ録画は、電子機器カート56上に位置するディスプレイに表示される。
関連する実施形態では、以下でより詳細に説明するように、以前の処置のビデオ録画は、現在の外科的処置の段階と同期又はその段階とキューイング可能であり、現在の処置の今後の段階で使用される等の関連する外科的タスク又は手法の即時の位置特定を容易にする。現在の外科的処置にビデオ再生をキューイングする(queuing)ことにより、外科医は再生を非常に効率的にスクロールして今後のステップ又は最近のステップを見ることができる。特に、段階の同期又は段階のキューイングは、厳密には時間に同期していないが、以前の外科的処置と現在の外科的処置との間の時間順序の類似性が一般的にある。むしろ、上述したように、段階同期は、手術プロセスフローに関して整合される。ビデオマッチングによる直接的な視覚的特徴のマッチングは、(a)メタデータ、(b)段階同期、及び(c)時間的同期のうちの1つ又は複数によって高めることができる。
あるいはまた、現在の手術からのビデオシーケンスは、コンテンツがコンピュータ視覚方法を使用して特定できる場合に、視覚的類似性(例えば、色、時間、エッジ等)又はコンテンツの類似性(例えば、器官、解剖学的構造、ツール等)に基づいて、マッチングにより、熟練した外科医によって実施される代表的な手術からのビデオシーケンスに一致させることができる。
クラウドベースのビデオデータベース
一態様では、データベース830は、クラウドデータストレージサービスを使用して遠隔サーバに実装され、複数のヘルスケアプロバイダによってアクセス可能である。図8を参照すると、破線で示されるように、手術計画ツール800は、オプションで、TSS850(破線で示す)及びパーソナルコンピュータ装置840(破線で示す)を含む。一態様では、TSS850はTSS850と同様であり、パーソナルコンピュータ装置840は、TSS850及びパーソナルコンピュータ装置820が第1のヘルスケアプロバイダに位置しており、TSS850及びパーソナルコンピュータ装置840が第2の位置に位置している又は第2のヘルスケアプロバイダと共にあることを除いて、パーソナルコンピュータ装置820と同様である。一態様では、第1の患者は、病状の外科的処置を必要とし、第1のヘルスケアプロバイダでTSS850を使用して外科的処置を受ける。外科的処置のビデオ録画は、データベース830に保管される。後になって、第2の患者は、同じ病状の外科的治療を必要とし、第2のヘルスケアプロバイダでTSS850を使用して外科的治療を受ける予定である。第2の患者に対して外科的処置を行う前に、医療従事者は、安全なインターネット接続を介してデータベース830にアクセスし、同様の処置の手術部位ビデオ録画をデータベース830で検索する。一態様では、第2の患者を治療する医療従事者は、第1の患者の身元の知識を得ることなく、第1の患者の外科的処置のビデオ録画をデータベース830から検索することができる。このようにして、第1の患者のプライバシーが維持される。一態様では、第1の患者の外科的処置のビデオ録画は、第1の患者を治療した医療従事者によって行われた強調表示及び/又は注釈を含む。
コンピュータベースのパターンマッチング及び解析
手術計画ツール800は、コンピュータ実行可能コードの形態で実装されるパターンマッチング及び解析アルゴリズムを含むことができる。一態様では、パターンマッチング及び解析アルゴリズムは、手術計画ツール800の不揮発性メモリ装置に記憶され、データベース830に保管されたビデオ録画を解析するように構成される。前述したように、データベースに保管された各ビデオ録画830は、特定のメタデータ情報でタグ付け及び/又はその情報を埋め込むことができる。このメタデータ情報は、患者の年齢、性別、及び患者の健康又は病歴を記述する他の情報等の患者情報を含むことができる。さらに、前述したように、メタデータ情報は、医療従事者によってなされた強調表示又は注釈を含むことができる。一態様では、これらの強調表示及び注釈は、ビデオ録画に埋め込まれ、ビデオと共にデータベース830に保管される。
一態様では、パターンマッチング及び解析アルゴリズムは、データベース830に記憶された複数のビデオ録画の間で共有される形状及び色のパターンを特定する画像解析コンポーネントを含む。パターンマッチング及び解析アルゴリズムは、このビデオのサブセットに関連付けられたタグ付きメタデータをレビューして、単語やフレーズがこのサブセット内のビデオに頻繁に関連付けられているかどうかを判定する。メタデータは、例えば、テキストに注釈付けによって、音声をテキストに翻訳することによってタグ付けすることができる。パターンマッチング及び解析アルゴリズムによって実行されるこれらの解析は、患者の解剖学的構造、好ましい外科的アプローチ、疾患状態、潜在的な合併症等に関する決定を行う際に医療従事者を支援するために使用することができる。
仮想手術環境、データ記録、及び外科医評価器
TSSは、実施されている外科的処置のビデオを外科医の入力と共に、制御コンソールを介して記録することができる。一般に、このように収集されたデータを使用して外科医を訓練し支援することが望ましい。しかしながら、システム設計者は、膨大な量の収集データを管理し、データの関連部分を抽出し、外科医が歓迎する有用で控えめな支援を提供する際に多くの課題に直面する。
様々な実施形態において、以下に詳述するように、TSSは、TSSを操作する医療従事者に評価及び支援を提供するために、追加の専用マシンによって補強又はサポートされる。図9は、TSS950が、仮想手術環境(VSE)904、データ記録システム906、外科医評価器(assessor)908、及び支援システム910を含む適切なインターフェイスを追加のサポートシステムに含むことを除いて、図4に関連して上述したTSS50に同様の、TSS950を特徴とする先進の手術システム900を示す図である。これらの追加の支援システムはそれぞれ、様々なマシン構成で実現してもよい。例えば、1つ又は複数の追加のシステムは、専用ユニットとして、又はプログラム命令の実行によるコンピュータ・プラットフォームの一部として提供してもよい。コンピュータ・プラットフォームは、1つの物理的なマシンであってもよく、又はクラウドコンピュータの分散モデルの場合には、役割や機能、又は処理スレッド等によって複数の物理マシンの間で分散してもよい。コンピュータ・プラットフォームは、いくつかの実施形態において、(例えば、外科医コンソール52、電子機器カート58等において)TSS950の一部として実装してもよく、TSSからの別個のハードウェア(例えば、タブレット、パーソナルコンピュータ又はラップトップコンピュータ、スマートフォン、又はこれらのいくつかの組合せ)を使用して実装してもよい。コンピュータ・プラットフォームは、システム又はパーソナルハードウェア上のローカル処理とクラウドとの組合せとして実装してもよい。
様々な実施形態において、特定の動作は、仮想マシンで実行され、1つ又は複数の物理マシン上で順番に実行してもよい。当業者であれば、実施形態の特徴は、様々な異なる適切なマシン実装によって実現してもよいことを理解するであろう。
様々な実施形態では、これらのコンポーネントは、エンジン、回路、コンポーネント、又はモジュールとして実装され、一貫性のためにエンジンと呼ばれるが、これらの用語は互換性を有して使用され得る。エンジンは、本明細書で説明する動作を実施するために、1つ又は複数のプロセッサに通信可能に結合されたハードウェア、ソフトウェア、又はファームウェアであってもよい。エンジンはハードウェアエンジンであってもよく、そのようなエンジンは、特定の動作を行うことができる有形の実体と考えてもよく、特定の方法で構成又は配置してもよい。一例では、回路は、エンジンとして特定の方法で(例えば、内部的に又は他の回路等の外部エンティティに対して)構成してもよい。一例では、1つ又は複数のハードウェアプロセッサの全体又は一部は、ファームウェア又はソフトウェア(例えば、命令、アプリケーション部分、又はアプリケーション)によって、特定の動作を行うように動作するエンジンとして構成し得る。一例では、ソフトウェアは機械可読媒体上に存在することができる。一例では、ソフトウェアは、エンジンの基礎となるハードウェアによって実行されると、ハードウェアに指定された動作を実行させる。従って、ハードウェアエンジンという用語は、有形の実体を包含するように理解され、特定の態様で動作し又は本明細書に記載された任意の動作の一部又は全部を実行するように物理的に構成され、具体的に構成され(例えば、ハードワイヤードにより実現され)、又は一時的に(例えば、非常に短い時間の間に)構成される(例えば、プログラムされる)エンティティである。
エンジンが一時的に構成される例を考えると、各エンジンは、ある時点でインスタンス化する必要はない。例えば、エンジンがソフトウェアを使用して構成された汎用ハードウェアプロセッサコアを含む場合に、汎用ハードウェアプロセッサコアは、異なる時間にそれぞれ異なるエンジンとして構成してもよい。従って、ソフトウェアは、例えば、ある時点で特定のエンジンを構成し、異なる時点で異なるエンジンを構成するように、ハードウェアプロセッサコアを構成することができる。
TSS950は、患者及び医療従事者にとって役に立つ手術環境902とインターフェイス接続する。概して言えば、TSS950の制御入力は、手術環境902において現実世界の効果を生じさせる電気機械システムに供給される。これに対して、VSE904は、実際の手術環境の1つ又は複数の部分を計算上モデル化して、いくつかの実施形態による仮想手術環境を形成する。従って、TSS950の同じ制御入力がVSE904に供給され、これらの制御入力は仮想手術環境において計算上モデル化された効果を生じさせる。
1つのタイプの実施形態では、仮想手術環境は、TSS950の出力を表すモデル化された電気機械出力の患者モデルへの影響に加えて、生理学的構造、体液、疾患状態、血行動態等を含む患者の少なくとも一部のモデルを含む。別のタイプの実施形態では、患者はモデル化されず、むしろ、TSS950の電気機械的出力が表される。別のタイプの実施形態では、TSS950の電気機械システムに供給される制御シグナリングは、VSE904によってモデル化される。
関連する実施形態では、仮想手術環境904は、TSS950から受け取った手術入力の評価に基づいて、外科的処置の段階又はセグメントを決定するようにプログラムされるか、又は他の方法で構成される。
別の関連する実施形態では、VSE904は、シミュレートされた患者における効果(例えば、手術部位における組織の効果、血行動態等)を含むTSSへの手術入力のVSEシミュレート後の効果、又は手術入力そのものではなく、患者と手術器具との相互作用の他のシミュレートされた特徴に基づいて、外科的処置の段階又はセグメントを決定するようにプログラムされるか、又は他の方法で構成される。別の関連する実施形態では、手術入力の組合せ及びそのシミュレート後の効果が、外科的処置のセグメントの評価に使用される。
図10は、一実施形態によるVSE904の動作要素及びそれらの相互作用を示す図である。手術入力評価器1002は、TSS950からとりわけ制御入力、運動学的情報、センサデータ、システムイベント、又は状態指標等のイベントデータを収集し、外科的効果の観点からそれらの意味を解釈するようにプログラムされるか、又は他の方法で構成される。セグメンタ(segmenter)1004は、外科的処置が行われているとき又は後処理モードにおいて、外科的処置の段階を区別するようにプログラムされるか、又は他の方法で構成される。シミュレータ1006は、TSS950からの制御入力に基づいて、仮想手術環境における外科的処置をモデル化するようにプログラムされるか、又は他の方法で構成される。シミュレータ1006は、手術環境902において実施される実際の外科的処置と並行して、又はその代わりに動作することができ、外科医が特定の処置又はその一部を練習するために使用することができる。いくつかの実施形態では、シミュレータ1006は、処置の特定の部分の間に呼び出されて、外科医が患者に対して実際にあるタスクを実施する前にそのタスクを練習可能にする。より一般的には、シミュレータ1006は、外科医、学生、又は他の医療従事者による訓練及び練習に使用され得る。
図11は、一実施形態による、手術入力評価器1002の動作要素及びそれらの相互作用を示す図である。イベントモニタ1102は、システムイベント、運動学及び外部入力を含み得るイベントデータをTSS950から受信し、一連のイベントを記録する。関連する実施形態では、イベントモニタ1102は、処置に関連するアシスタント(複数可)又は他の機器/器具による動作等、TSS950以外又はTSS950による手術環境902で行われた追加の動作に関する情報を受信する。これらの動作は、例えば、TSS950の1つ又は複数のセンサによって、又はビデオ取込み装置等の環境監視センサによって、又は他の機器/器具自体によって検出され、TSS950に通信される。上で参照したように、イベントは、例えば、外科医、アシスタント、又は他の検出可能な動作/入力/出力によって提供されるボタンの押下、器具運動制御、器具選択、ビデオシステム制御、手首運動、カメラ運動活性化、マスタージェスチャ/活性化、及び他の入力等の器具制御の活性化のいずれかをさらに含むことができる。例えば、イベントとして収集される他のデータは、運動データ、眼球運動、ユーザ認証(例えば、虹彩認識)、筋活動(例えば、筋電図を用いた測定)、感知された外科医の姿勢、内視鏡によって撮影された画像、システム状態(例えば、様々な器具のドッキング/展開状態、アームとマスターコントローラとの係合/係合解除状態、設置された器具のタイプ、設置された器具の数、オペレータのヘッド係合状態、マスター制御等のコントロールに加えられる力、ロボット器具によって検出された力、カメラの動き及び制御、タッチスクリーン入力、人員の位置(例えば、センサが手術環境に設けられた場合等))、及びこれらのいずれかの履歴を含む。イベントの順序は、時系列データとして記録することができ、集合的に記録することができ、TSS950のオペレータ(複数可)及び手術環境902内の任意の人員の調整された動作、及び/又は手術環境902からコンパイルされた他のデータを表すことができる。
いくつかの実施形態では、ジェスチャ評価器(assessor)1104は、時系列イベントデータを読み取り、ジェスチャ基準1106を適用して、イベントの組合せが任意の規定されたジェスチャを構成するかどうかを確認する。現在の状況では、ジェスチャは、ツール及びコントロールの複合的な動きを構成する2つ以上のイベントのシーケンスである。例示的な例として、縫合作業に関連する単一の縫う動作は、ジェスチャと見なすことができる。この例では、一般に、制御入力データが収集され、そのジェスチャを認識するように分類されるシーケンスの個々の動きが存在する。一実施形態では、ジェスチャ基準1106は、様々なジェスチャを構成する一連のイベントのライブラリを含む。より基本的な環境では、ジェスチャ基準1106は、あらゆる時間増分について、一連のイベントの時間ウィンドウがジェスチャであるとみなされるように、最近のイベントの時間ウィンドウ(例えば、最近の40秒)を単に規定することができる。この例の時間ウィンドウ又はジェスチャは、他のジェスチャと重複する可能性がある。
特に、他の実施形態では、ジェスチャ評価器1104は存在しない。むしろ、監視されるイベントが、タスク評価器1108に提供される。ジェスチャ評価器1104が利用可能なさらに別のタイプの実施形態では、検出されたジェスチャと監視されるイベントとの組合せが、タスク評価器1108に並列に提供される。
タスク評価器1108は、実行されている現在の外科的タスクを評価するようにプログラムされるか、又は他の方法で構成される。現況では、タスクとは、規定された外科的効果を一緒に生成する、一連のイベント、ジェスチャ、又はこれらの組合せである。タスクは、臨床的に一般的な手術(例えば、切開タスク、縫合タスク等)又は処置の臨床的に関連するステップ(複数可)/セグメント(複数可)(例えば、前立腺切除術のUV吻合)であり得る。タスク評価は、一連の最近のイベントに基づいており、さらに、ある規定された一連のイベントをタスクに関連付けるタスク基準データベース1110からのデータに基づいている。関連する実施形態では、タスク基準データベース1110は、それらのタスクが共通に行われる外科的処置のライブラリを含むこともできる。このタイプの実施形態では、外科的処置の特定自体が、タスク評価アルゴリズムへの入力となり得る。この文脈における外科的処置は、例えば、前立腺切除術、臍ヘルニア修復、乳房切除術等の高レベルの記述子である。
様々な実施形態では、ジェスチャ評価器1104及びタスク評価器1108は、適用可能な場合に訓練セットデータとして使用されるそれぞれの基準1106,1110に基づいて、K近傍(KNN)分類等の1つ又は複数の分類操作、例えばK平均クラスタリング等のクラスタ化操作、関連規則マイニング(mining)操作、サポートベクトルマシン(SVM)操作、人工ニューラルネットワーク(ANN)操作(例えば、再帰型ニューラルネットワーク、畳込みニューラルネットワーク等)等を個別に実行することができる。
イベント、ジェスチャ、及びタスクは、それぞれ、関節角度、速度、先行/後続アイドリング(idling)等の様々なパラメータ値を有することができる。遠隔操作される外科的処置中に、手術システムの作動状態の変化を引き起こす制御入力が生じることが理解されるであろう。例えば、外科医は、自分の頭をビューアの内外に移動させることができ、その結果、ヘッドイン(head-in)状態が変化する。外科医は、手又は足を制御入力に接触させたり接触を外したりして、例えば、次の状態の変化を生じさせることができる。使用中の器具の組合せが変更され、例えば器具タイプの状態に変化が生じる可能性がある。
1つ又は複数の外科的状態における外科的活動を支援するTSS950の動作は、外科医が外科的活動を行った実際の方法を示す器具の動きを示す、手術システム内の制御入力情報の生成をさらにもたらす。例えば、外科医は、制御入力を使用して、器具を例えば迅速に又はゆっくりと移動させることができる。外科医は、例えば、手術器具を、1つ又は別の経路に沿って、解剖学的構造に向かう方向又は解剖学的構造から離れる方向に移動させることができる。外科医は、特定の器具を作動させる前に、例えば、制御入力を使用して異なる器具の位置を調整することができる。
図19A~図19Cは、いくつかの実施形態による、例示的な手術器具1902及びアクチュエータアセンブリ1903を示す説明図であり、手術器具が3つの異なる例示的な手術器具作動状態で示されている。例示的な器具1902は、開いた状態と閉じた状態との間で移行可能な顎エンドエフェクタ1904と、その間に部分的に開いた/部分的に閉じた状態の連続体とを含む。例示的な器具1902は、異なる2次元(x,y)位置状態の間を移動することができる2自由度(2-dof)の手首1906も含む。例示的なアクチュエータアセンブリ1903は、いくつかの実施形態では、顎エンドエフェクタ1904を作動させるために使用される顎用モータ(JM)を含む第1のアクチュエータ1908を含む。例示的なアクチュエータアセンブリ1903は、いくつかの実施形態では、手首1906を作動させるために使用される手首用モータ(WM)を含む第2のアクチュエータ1910を含む。手術中に、手術器具1902は、外科的処置中の異なる活動に対応する複数の器具作動状態を介して移行ことができる。各移行は、イベントモニタ1102によって取り込まれ記憶された制御入力情報の生成をもたらし、その制御入力情報は、ある状態のその物理的位置及び配置(例えば、開いているか閉じている)から次の状態のその物理的な位置及び配置にする移行するように命令されたときの器具の動きを示す。
例えば、図19Aに示されるように、第1のジェスチャは、顎エンドエフェクタ1904を完全に開いた状態に配置する第1のアクチュエータ1908(JM)と、手首1906を第1の位置状態(x1,y1)に配置する第2のアクチュエータ1910(WM)とを含むことができる。例えば、図19Bに示されるように、外科的処置は、第1のアクチュエータ1908が顎エンドエフェクタ1904を完全に閉じた状態に移行させ、第2のアクチュエータ1910が手首1906を第2の位置状態(x2,y2)に移行させる第2のジェスチャを含むことができる。例えば、図19Cに示されるように、外科的処置は、第1のアクチュエータ1908が顎エンドエフェクタ1104を部分的に開いた/部分的に閉じた状態に配置し、第2のアクチュエータ1910が手首1906を第3の位置状態(x3,y3)に配置する第3の外科的活動を含むことができる。
一実施形態によれば、手術入力評価器1002は、シミュレータ1006と協働して、制御入力情報(例えば、イベント、ジェスチャ、又はこれらの組合せ)に応答して位置状態をモデル化する。仮想化された動き及び位置状態は、タスク評価器1108によって順番に評価され、適用可能なタスクを特定することができる。このタイプの実施形態では、処理された制御入力データではなく、又はこのデータに加えて、モデル化された運動学的情報を使用してタスク評価を行うことができる。
ここで図12を参照すると、例示的な実施形態によるセグメンタ(segmenter)1004が、その動作要素及びそれらの相互作用を含めて詳細に示されている。図示の例では、セグメンタ1004は、セグメント評価(segmentation assessment)のための2つのクラス(すなわち、リアルタイム・セグメント評価器1200及び後処理ベースのセグメント評価器1220)のアルゴリズムのうちの1つを選択的に適用するように構成される。
リアルタイム・セグメント評価器1200を手術中に適用して、外科医又は医療従事者が知覚する限り、無視できる遅延でセグメント評価を行ってもよい。例示的な実施形態では、リアルタイム・セグメント評価器1200は、ディープラーニングのために長い短期記憶(LSTM)RNNアーキテクチャを使用する再帰型ニューラルネットワーク(RNN)として構成される。図示されるように、特徴抽出器1202は、RNN1204への入力として特徴ベクトルを生成するために、評価されたタスクのシーケンス及びそれらの対応するパラメータにフィルタリング又は他の選択基準を適用する。特徴ベクトルの例は、アクチュエータの関節角度及び速度と一緒に姿勢(例えば、位置及び回転行列情報)を含む。RNN1204は、実際には2つのRNNが存在し、一方が前方参照型であり、他方は後方参照型である双方向RNNであってもよい。したがって、予測された将来の値及び過去の値が、RNNアルゴリズムにおいて考慮される。例示的な実施形態では、RNN1204は、2つの層、双方向LSTM及びゲート付き再帰型ユニット(GRU)層を有し、各層に隠れノードを有する。
訓練データ1206は、当業者によって認識されるように、適切な訓練アルゴリズムを使用してRNN1204を訓練するために使用される、分類された特徴ベクトルを含む。訓練データは、手術入力(例えば、外科医が操作する制御からの制御入力パラメータを含むイベント、又は補助的に修正可能な器具構成、手術環境で生じるイベント等)に基づいてもよい。関連する実施形態では、訓練データは、手術入力のシミュレート後の効果に基づいてもよい。この後者のタイプの実施形態では、シミュレータ1006は訓練データのソースとすることができる。
後処理セグメント評価器は、セグメント評価を行うために操作から記録された全てのデータを使用して、操作後の任意の時点で適用できる。後処理ベースのセグメント評価器1220の一例では、図示の実施形態による階層整列クラスタ化アルゴリズム(HACA)を使用してクラスタ化が行われる。例示的なセグメント評価器1220アーキテクチャは、図示の実施形態による特徴抽出器1222、プリプロセッサ1224、フレームカーネル行列1226、及びクラスタ化エンジン1228を含む。特徴抽出器1222は、特定の次元を有し、特定のパラメータのセットを表す特徴ベクトルを生成する。プリプロセッサ1224は、一実施形態によるK平均クラスタ化アルゴリズムを使用することができる。
フレームカーネル行列演算1226は、動きセグメント化に関連する自己類似性(すなわち、グラム(Gram))行列K=φ(X)φ(X)を計算する。ここで、各エントリsijは、カーネル関数による2つのサンプルxとxと間の類似性を規定する。
Figure 2023126480000002
HACAクラスタ化エンジン1228は、Zhou, Feng, Fernando De la Torre, Jessica K. Hodgins, “Hierarchical aligned
cluster analysis for temporal clustering of human motion,” IEEE Transactions on
Pattern Analysis and Machine Intelligence 35, no. 3(2013): 582-596に一致するHACAアルゴリズムを実行する。
関連する実施形態では、訓練データ1206を更新し、リアルタイム・セグメント評価器1200のセグメント決定を再評価するために、後処理ベースのセグメント評価器1220が手術後に使用される。
信頼度測定エンジン1230は、正しいセグメント化の確率を表す信頼度スコアを計算するようにプログラムされるか、又は他の方法で構成される。信頼度スコアは、クロスエントロピー及び対数確率計算を用いて計算することができる。以下により詳細に説明するように、計算された信頼度は、外科医のスキルを評価するためのメトリックとして、又は時間等の他のメトリックへの重みとして使用して、評価精度をさらに向上させることができる。
図13は、一実施形態によるシミュレータ1006の動作要素及びそれらの相互作用を示す図である。患者モデル1302は、患者の測定又は評価された身体的特徴1304に基づいて、又は測定又は診断された病状1306に基づいて患者を表すようにプログラムされるか、又は他の方法で構成される。関連する身体的特徴1304の例には、サイズ、体重、性別、年齢、肥満度指数(BMI)、筋緊張、臓器の大きさ及び位置等、並びにCTスキャン、MRI、超音波又は他の検査で取得したような画像化された解剖学的構造を含む。同様に、病状1306は、腫瘍、嚢胞、ヘルニア、切れた結合組織、骨折した骨等の特徴を含み得る。TSSモデラ1310は、構成情報1312によって表されるような、ツール、エンドエフェクタ、及び他の構成部分を含むTSS950を表すようにプログラムされるか、又は他の方法で構成される。TSSモデラ1310は、様々な手術ツールの位置付け及び動きを仮想手術環境に反映できるように、TSS950から制御入力情報を受信する。
TSSモデラ1310及び患者モデル1302は、仮想外科的処置がシミュレートされるときに、シミュレーション中に状態情報を交換することができる。従って、これらのエンジンの一方又は両方は、外科的処置によって変更が行われるときに、患者の現在の状態を維持し更新することができる。
一実施形態では、シミュレータ1006は、外科的処置中にTSS950及び患者の進行を追跡するために、手術環境902とともに操作される。別の実施形態では、外科的処置の所与のセグメントは、外科医の要求で、又はトリガに応答して、シミュレーションを開始することができる。この手術中のシミュレーションは、外科医が処置中に重大な又は困難な瞬間に遭遇し、これらの措置を実際に患者に展開する前に特定の動き又は様々な手法を練習することを望む場合に呼び出される。関連する実施形態では、並列実行シミュレーションを自律分析して、セグメンタ1004を使用して現在の手術段階を決定し、特徴ベクトルのセット内のモデルベースの状況データでさらに訓練してもよい。
別の実施形態では、実際の患者の代わりに外科的訓練又は練習のためにシミュレータ1006を使用してもよい。いくつかの実装形態では、外科医及び他の医療従事者のためのTSS950のユーザインターフェイスを使用して、手術環境を現実的にシミュレートし、訓練又は練習の一部として機械インターフェイス体験を提供することができる。
外科医評価
図14は、一実施形態による、外科医評価器908の動作要素及びそれらの相互作用をより詳細に示す図である。外科医評価器908の心臓部には、制御入力シグナリング、並びにジェスチャ評価器1104(利用可能な場合)、タスク評価器1108、及びセグメンタ1004による評価を解析して、TSS950の制御入力を操作する外科医の外科的処置の質を表す評価又はスコアを生成するようにプログラムされた、又は他の方法で構成された外科的手法評価器1402があり、これらは、外科的処置中に、又は練習又は訓練のシミュレーション中に使用してもよい。
外科的手法評価器への入力は、ビデオ情報V、イベント情報E、ジェスチャG、及び評価されたタスクTを運動学的データKと共に含む。このデータは、TSS950又はVSE904によって(例えば、手術入力評価器1002、シミュレータ1006から)提供してもよい。関連する実施形態では、入力は、RNN1204又はクラスタ化エンジン1228によるセグメント決定に基づいて、セグメンタ1004の信頼度測定エンジン1230によって決定されるようなセグメント信頼度スコアS-Cを含むことができる。
セグメントは、外科的処置部分に対応し、且つビデオ、イベント、ジェスチャ、タスク及び運動学のうちの1つ又は複数の組合せを表す1つ又は複数の特徴の組合せに関して規定される。セグメントには、ジェスチャ/タスクとして表現することができるイベント/運動学/ビデオの組合せ、又は中間ジェスチャ/タスク表現なしで直接的に表現することができるイベント/運動学/ビデオの組合せが含まれる。
一実施形態では、外科的手法評価器1402は、様々な時間的及び空間的なメトリックのそれぞれについて様々な統計を計算する。例えば、様々な外科的処置セグメントの持続時間を評価することができる。同様に、タスクレベルの持続期間は、例えば、セグメント毎に、いくつかのやり方で計算され、集約してもよい。特定のタスク又は外科的セグメントの完了に関連して、ジェスチャ又は他の動きの量、イベントの量、又はこれらの量のいくつかの組合せを調べる効率的な運動(economy-of-motion)解析もまた実行され得る。アイドル時間(すなわち、動きがないこと)も考慮され得る。外科的手法の評価において、運動速度、入力装置の手首角度、アイドル時間(例えば、静止)、マスターワークスペース範囲、マスタークラッチ数、印加エネルギー、及び他のそのようなパラメータ等の他のメトリックも考慮に入れることができる。外科的手法の評価において、カメラ移動の頻度、カメラ移動の持続時間、カメラ移動の間隔等のカメラ制御メトリックも考慮に入れることができる。いくつかの実施形態では、カメラクラッチ移動(CMFrq)は、イベント又はセグメント全体の経過に亘って時間増分(例えば、毎秒)毎に外科医によって行われる内視鏡移動の平均数として規定される。カメラ移動持続時間(CMDur)は、イベント又はセグメント全体の過程に亘る全ての内視鏡移動の平均時間増分(例えば、秒)として規定される。カメラクラッチ間隔(CMInt)は、イベント又はセグメント全体の過程に亘る内視鏡移動の間の平均時間増分(例えば、秒)として規定される。非限定的な例として、カメラの使用期間、カメラ使用の一貫性、エネルギー印加の持続時間(組織の切断、組織の焼灼、印加されるエネルギーの増大)、マスタークラッチの使用頻度、異なるアームの時間的制御(例えば、アーム1とアーム3との使用の間の時間)、エンドエフェクタの向きを有するマスターアライメントの頻度等を含む。
評価基準1406は、外科医の能力評価を計算するための1つ又は複数の基準を規定する。1つのタイプの実施形態では、外科的処置の能力には、処置の特定された異なる段階に対応する一連のスコア(得点)が与えられる。評価基準1406は、相対的重要度を調整するために、様々なメトリックに適用される情報をフィルタリング、マスキング、及び重付け情報を含むことができる。特に、様々な外科的処置のために又は所与の外科的処置の異なる段階のために、異なる重み/調整が、メトリックに適用され得る。また、評価基準1406は、外科的能力評価をレンダリングする際に適用されるアルゴリズム又は計算式を規定することができる。外科的手法評価器1402が、ANN、分類器、クラスタ化エージェント、サポートベクトルマシン等の機械学習アルゴリズムを使用する実施形態では、評価基準1406は、メトリックの特徴ベクトルを構築するための基準を含むことができる。
ベンチマーク技術データベース1404は、対応する外科的処置において専門家であるとみなされる外科医又は他の医療従事者によって達成されるスコア及びメトリックを含む。
例えば、いくつかの実施形態では、ベンチマークデータベース1404は、カメラ制御時間に基づく外科医のスキルレベルのベンチマークを含む。本発明者は、遠隔操作手術システム(TSS)を使用する際に外科医を経験者、中級者、又は初心者として評価するために、カメラの制御時間を、異なる外科的タスク(例えば、カメラ標的決定、点及び針、切開エネルギー(energy dissection)、マッチボード(match board)、針標的決定、ペグボード(peg board)、ピックアンドプレース(pick and place)、リング及びレール、リングウォーキング、スケーリング、縫合、スポンジ、スレッドリング及びチューブ)を表す複数の練習の各々について測定した検討を行った。練習の結果は、カメラ制御時間に基づいて外科医のスキルレベルのベンチマークを作成するために使用される。この検討によると、熟練した外科医は、一般に、新人の外科医よりもはるかに迅速にカメラ制御を行うことが分かった。中級の外科医は、新人の外科医よりもはるかに速く練習を行うことが多い。しかしながら、この検討では、中級の外科医と熟練した外科医との間で練習の完了時間に有意な差がないことが分かった。
この検討では多くの驚くべき発見が明らかになった。例えば、熟練した外科医は、殆ど練習で新人の外科医よりも有意に高いCMFrqを有し、中級の外科医は、殆どの練習で新人の外科医よりも有意に高いCMFrqを有し、中間の外科医と熟練した外科医との間ではCMFrqに有意な差はなかった。この検討では、熟練した外科医が、殆どの練習で新人の外科医よりも有意に短いCMDurを有することが分かった。殆どの練習では、中級の外科医は、新人の外科医よりも有意に短いCMDurを有していた。殆どの練習では、熟練した外科医は中級の外科医よりも有意に短いCMDurを有していた。殆どの練習では、熟練した外科医は、新人の外科医よりも有意に短いCMIntを有していたが、中級の外科医は、殆どの練習で新人の外科医よりも有意に短いCMIntを有していた。中間の外科医と熟練した外科医との間でCMIntに有意な差はなかった。
関連する実施形態では、所与の処置についてリアルタイムで実行され得るタスク毎又はセグメント毎に構築された特徴ベクトルが、外科的処置のタスク又はセグメントに対応する1つ又は複数のベンチマークスコアと比較される。この比較は、問題の特徴ベクトルとベンチマーク特徴ベクトルとの間の単純なデカルト距離測定、又は他の何らかの同様の測定であってもよい。決定された類似度は、タスク、セグメント等に対応する手術能力スコアとして返してもよい。
各外科医の所与の外科的処置について計算された様々なスコアが、外科医データベース1408に記憶される。外科医がTSS950の使用及び特定の処置を行う際に経験及び専門知識を得るにつれて、改善率等の傾向を検出するために、経時的なスコアを解析することができる。いくつかの実施形態によれば、外科医データベース1408は、1412でのTSS950のシミュレーションのみの動作と、1414での実際の患者に対して行われた処置に対応する動作との間の能力スコアを区別する。
データ記録(logging)
図15は、例示的な実施形態によるデータ記録システム906の動作要素及びそれらの相互作用を示す図である。インデクサ(indexer)1502は、入来データを他の関連データと関連させてデータ検索を容易にするようにプログラムされるか、又は他の方法で構成される。図示の例では、様々なデータが外科的処置中に記録され得る。例えば、取り込まれたビデオ及び追加された注釈1504、評価された入力ログ1506、評価されたタスクログ1508、シミュレーションログ1510、及び実行中の(running)外科的手法評価ログ1512が記録され得る。データの各項目は、その取込みの日付及び時刻、患者、外科医、TSS、手術のタイプ、及び他の関連データにさらに関連し得る。
一実施形態では、取り込まれたビデオ及び注釈データ1504について、インデクサ1502は、ビデオを、外科的処置の評価されたセグメントに対応するセグメントに分割することができる。評価された入力ログ1506は、評価されたジェスチャだけでなく、時系列イベント及び他の入力情報も記憶する。評価されたタスクログ1508は、リアルタイムで行われたタスク及び外科的処置セグメントの評価を含む。一実施形態では、評価された入力ログ1506は、短期記憶部分及び長期記憶部分を含み、短期記憶部分は、イベントを含む全ての入来入力情報を記憶するが、長期記憶部分は、タスク判定の決定がなされた入力のみを記憶する。
シミュレーションログ1510は、シミュレータ1006の患者モデル1302及びTSSモデラ1310を記述する時系列の状態情報を含む。一実施形態では、シミュレーションログのサンプリングレートは、セグメント評価が行われるレート(例えば、4~20サンプル/秒)と同様である。実施された外科的処置の詳細な検討及び解析を可能にするのに十分なデータが記録される。
実行中の外科的手法評価ログ1512は、外科的手法評価器1402によって生成された絶えず更新された外科的能力スコアの時系列サンプルを記憶する。実行中の外科的手法評価ログ1512に記録されたデータは、現在の患者に対して行われている現在の外科的タスク(又はシミュレーション)に特有のものであり得る。このデータセットは、外科医特有のデータを複数の異なる患者、処置、及び日付に亘り記憶する外科医データベース1408(図14)のデータと重複してもよい。
アシストエンジン
図16は、いくつかの実施形態による、アシストエンジン910の動作要素及びそれらの相互作用を示す図である。図示されるように、アシストエンジン910は、外科医支援のための要請を検出するようにプログラムされるか、又は他の方法で構成された支援要請検出器1600を含む。いくつかの実施形態では、支援要請検出器1600、処置能力センサ1602、及びTSSユーザインターフェイス(UI)1604、これらのエンジンのいずれかが、それぞれの入力に応答してアシストエンジン910の支援動作を開始することができる。処置能力センサ1602は、VSE904及び外科医評価器908の動作を監視する。例えば、実行中の外科的手法評価(例えば、データベース1512に記録されている)と重ねられたセグメンタ1004の出力は、外科的処置の段階、及びその段階での外科医の測定された能力に関する情報を提供する。
アシスト基準1603は、満たされると、以下に説明するアシスタンスレンダリング・エンジンのうちの1つ又は複数によってアシスト動作の働きをトリガする様々な閾値条件を含む。特に、異なる閾値を、異なるタイプの支援に関連付けてもよい。動作中に、手処置能力センサ1602は、現在の外科的処置及びそのセグメントの現在、実行中の外科的手法評価を、処置及び段階に対応する閾値条件に対して比較する。閾値条件の比較が満たされた場合、すなわち現在、実行中の外科的手法評価スコアが所与の閾値を下回った場合に、対応する支援が提案され、及び/又は提供される。
関連する実施形態では、アシスト基準1603の閾値条件は、外科医固有又は患者固有のものであってもよい。例えば、比較的熟練した外科医は、支援が提供される前に、初心者の外科医よりもより高い閾値でシステムを構成することができる。同様に、より重大な状態(例えば、重度の外傷患者、高齢の患者、新生児又は早産の患者等)の患者に対する手術のために、より低い閾値を選択することができる。
さらに、例えば、アシスト基準1603は、処置の特定のステップの専門知識を有する特定の熟練した外科医からの入力を選択的に要求するために使用することができる。例えば、特定の外科医は複雑な解剖を本当に上手に行うことができ、従って、それら外科医は、誰かがそのステップで苦労しているが他の外科医がより簡単なステップを求めている場合に、待機(on-call)しなければならない。
TSS UIインターフェイス1604は、TSS950の外科医コンソールと情報を交換する。TSS UIインターフェイス1604は、外科医から特定の支援を求める要求を受け取り、その場合に、TSS UIインターフェイスは、支援レンダリング・エンジンに命令して、対応する支援を提供する。状況に関連した支援情報は同様に、その情報を外科医コンソールに送るTSS UIインターフェイスを介して外科医に表示することができる。
関連する実施形態では、処置能力センサ1602による支援のための自動要請に応答して、TSS UIインターフェイス1604は、その支援を提供する外科医に視覚的又は聴覚的な通知を提供し、外科医が、その支援を受け入れる、拒否する、又は延期する制御入力を提供する。
図示の実施形態によれば、外科医又は他の医療従事者に対応する種類の支援を提供するために、多数の異なる支援レンダリング・エンジンが利用可能である。様々な他の実施形態では、より多い又はより少ない支援レンダリング・エンジンが提供される。図示されるように、ビデオ待ち行列(queuer)1606は、再生のためにデータベース1608からビデオセグメントを検索するように構成される。ビデオセグメントは、セグメンタ1004によって決定されるように、外科的処置の現在の段階に対して特定の対応を有してもよい。例えば、キューに入れられるビデオセグメントは、外科的処置の現在の段階又は今後の段階を表すことができる。
通知器1610は、遠隔コンソール又は他のインターフェイスを介して、外科医に直接的な指導及び/又は支援を提供することができる専門家問合せ先1612に従って待機中の外科医との通信を開始するように構成される。
技術アドバイザ1614は、現在又は今後の手術段階に応答して、手術スキル要件データベース1616に基づいて外科医の評価された実行中の手術技法評価を考慮して、所与のシナリオで使用される特定の外科的手法を推奨する。関連する実施形態では、技術アドバイザ1614は、手術環境の1人以上のアシスタント等の他の医療従事者に適用可能なプロンプト又は他の指示又は推奨を提供することができる。
関連する実施形態では、技術アドバイザ1614は、ステップの持続時間、ステップの順序、現在のセグメント、及びステップの能力レベルに基づいて(全てが現在のセグメント及び外科医の能力、だけでなくオプションでその外科医に対応する履歴データに基づいて)、今後の手術段階を予測する予測機能を含む。この情報を使用して、最適なORターンオーバー(turnover)のための処置の終了、将来の器具交換等の将来のイベントを予測することができる。
シミュレーション構成器1618は、シミュレータ1006によって実行される、現在の又は今後の外科的処置の段階に対応するシミュレーションシナリオを自律的にセットアップするように動作する。このタイプの支援によって、外科医が実際の手術環境に戻って患者に外科的手法を行う前に、手術中に仮想手術環境において特定の外科的手法を練習可能にすることができる。
制御設定アジャスタ1620は、外科的タスクを容易にするために、制御入力に応答してTSSの1つ又は複数の挙動を自動的に変化させるように動作する。調整は、処置特有の、タスク特有の、外科医特有の、又はこれらの何らかの組合せであってもよい制御調整規則1622に従って行ってもよい。可変TSS挙動の例には、制御入力感度の調整(例えば、所与の入力イベント又はジェスチャの動作速度の低下)、ジェスチャフィルタリング(例えば、特定の入力動きを可能にして外科的効果を生じさせるが、他は行わない)、ビデオ取込み設定等が含まれる。他の調整には、カメラの水平線/ズーム/位置、テーブル位置、画像特性(色、色合い、オーバーレイ等)、現在の患者又は関連する患者からの現在の/今後のステップのための手術前画像のロード、マスターツール動作のスケーリング、力フィードバックゲイン、状況/セグメントに応じて制御入力ボタンの押下を異なるようにマッピングをすること、又はそれらの何らかの組合せが含まれる。
図21A~図21Cは、外科医が遠隔操作手術システム(TSS)の手術シーン内の手術器具をより正確に制御することができるような視点を達成し外科医を支援するために、制御設定アジャスタ1620によって行われる手術シーンの水平線の変化を示す説明図である。外科医は、左眼用ディスプレイ32及び右眼用ディスプレイ34を介して手術器具を含む手術シーンを立体的に視る(例示的な目的のために立体的な外科医ビューが描かれているが、様々な他の実施形態では、平面視のビューが提供され得る)。例えば、TSSが、3つの異なる手術器具2110,2112,2114と、内視鏡を搭載したカメラ(図示せず)とを取り付けていると仮定する。外科医は、左及び右のハンドグリップ制御入力36,38を使用して、手術器具及び内視鏡を2つずつ制御することができる。カメラの視野内にある器具は、手術シーンビュー内で外科医に見える。さらに、例えば、外科医があるタスクから(外科医が変わる)次のタスクへの移行の間に外科医が器具を変更したと仮定する。さらに、器具から変更したもの(the changed from instrument)が、器具に変更したもの(the changed
to instrument)とは異なる手術シーン内の異なる位置に位置付けされると仮定する。この場合に、左及び右のハンドグリップ制御入力36,38の外科医のグリップは変わらないが、現在外科医の制御下にある手術シーン内の手術器具の位置及び向きが変更される。制御設定アジャスタ1620は、手術器具の精度及び制御を改善又は最適化するために、左及び右のハンドグリップ制御入力36,38上で手術シーン内の現在外科医制御下の器具の視点を外科医の手の位置と調和させるように、手術シーンの水平線の調整を提供することができる。
図21Aを参照すると、現在外科医の制御下にある第1及び第2の手術器具2110,2112を含む、水平線アイコン2120の向きによって示される第1の水平線を有する第1の手術シーン2100が示されている。水平線アイコン2120は、シーン内にオプションのオーバーレイとして表示され、水平線アイコン2120は、典型的には内視鏡が患者側カートのマニピュレータの中立位置にある場合のレベルである手術シーンの水平線を示す。水平線レベルは、患者側アーム内の中立位置として公称上規定されており、左右のディスプレイは決して位置を変えないので、左右のディスプレイに対して相対的ではないことが理解されるであろう。さらに、図21Aに示される手術器具2110,2112及び第1の手術シーンの水平線の向きは、外科医の目の前に直接的に置かれたシーンを視た場合に、左及び右のハンドグリップ制御入力36,38上の外科医の手の自然な解剖学的な向きと一致する。外科医の手の3Dデカルト位置は、TSSのマスタークラッチ能力のため、器具の3Dデカルト位置とは異なり得ることに留意されたい。
図21Bを参照すると、現在外科医の制御下にある第1及び第3の手術器具2110,2114を含む、水平線アイコン2120の向きによって示される第1の水平線を有する第2の手術シーン2102が示されている。第1のシーン2100から第2のシーン2102への移行の過程で、外科医は、第2の手術器具(破線で示す)2112を使用することから第3の手術器具2114を使用するように変更したと仮定する。こうして、左及び右のハンドグリップ制御入力36,38の上の外科医の手は、第1のシーン2100で行ったように第1及び第2の手術器具2110,2112を制御するのではなく、第2の手術シーン2102内の第1及び第3の手術器具2110,2114を制御する。第2及び第3の手術器具2112,2114は、手術シーン内の異なる位置に位置付けされる。さらに、水平線アイコン2120は、左眼及び右眼のディスプレイ32,34の視点からの第2の手術シーン2102のビューが、第1のシーン2100の視点と同じであることを示す。こうして、外科医は、ここで、第2の手術シーン2102において、以前に制御した第2の器具2112の位置とは異なる位置にある第3の手術器具2114を制御する。左及び右のハンドグリップ制御入力36,38上の外科医の手の位置は変更されず、手術シーンの水平線は変化しないが、現在制御されている器具のうちの1つ、すなわち第3の器具2114の位置が変更される。さらに、外科医がその器具に関する制御を取得する前に第3の器具2114の姿勢を鏡映する必要がある場合に、右ハンドグリップ制御入力38の向きは、器具2112とは異なる第3の器具2114の新しい向きに一致するように変更しなければならない。これらの理由及び潜在的に他の理由により、図21Bに示される手術器具2110,2114及び第2の手術シーンの水平線の位置は、左及び右のハンドグリップ制御入力36,38上の外科医の手の自然の解剖学的位置と一致しない場合がある。この不一致の結果として、外科医は、そうでなければ有し得た正確さ及び/又は器用さで第3の器具2114を動かすことができないかもしれない。
図21Cを参照すると、現在外科医の制御下にある第1及び第3の手術器具2110,2114を含む、水平線アイコン2120の向きによって示される第2の水平線を有する第3の手術シーン2104が示されている。第3のシーン2104は、手術シーンの水平線が水平線アイコンの向きによって示されるように変化する点を除いて、第2のシーン2102と同一である。シーン方向の変化の結果として、図21Cに示される手術器具2110,2114及び第3の手術シーンの水平線の位置/向きは、外科医の目の直前に位置するシーンを視るときに、左及び右のハンドグリップ制御入力36,38上の外科医の手の自然の解剖学的位置とより密接に一致することが理解されるだろう。手術シーンの水平線の向きの変化の結果として、外科医は、第2のシーン2102の手術シーンの水平線よりも正確に、第3の器具2114をより容易に移動させることができる。
制御設定アジャスタ1620は、第2の手術シーン2102に示される水平線の向きから第3の手術シーン2104に示される水平線の向きに変更するために、カメラ向き制御設定の変更を内視鏡搭載カメラに与える。外科的手法評価器1402は、例えば、熟練した外科医が、第2及び第3のシーン2110,2114に示される第1及び第3の器具2100,2104の位置で器具を制御するときに、第3のシーン2114の水平線の向きを使用することを決定できる。制御設定アジャスタ1620は、初心者の外科医に代わってそのような水平線の向きの変化を自動的に行うことができる。こうして、例えば、初心者の外科医が、熟練した器具移動の精度に従って、手術シーンの水平線の変化によって改善され得るタスクに移行するとき、制御設定アジャスタ1620は、手術シーンの水平線の向きを自動的に変化させ、手術シーンの水平線の向き及びシーン内の器具の位置を、左及び右のハンドグリップ制御入力36,38上の外科医の手の位置とより良く相関させることができる。
図22A~図22Bは、外科医がTSSの手術シーン内の関連情報をより良く観察することができる視点を達成し外科医が支援するために、制御設定アジャスタ1620によって行われる手術シーンの2次元位置変化を示す説明図である。図22Aを参照すると、第1及び第2の手術器具2110,2112がそれらのエンドエフェクタ部分を手術シーン2200の縁部の近くに配置した第4の手術シーン2200が示されている。手術器具2100,2102が第4の手術シーン220のようにシーンの縁部近くに配置されると、身体組織(図示せず)等の、そのシーンの縁部近くに位置する関心のある項目は、可視シーンの外に位置する可能性があり、従って、外科医には見えない可能性がある。図22Bを参照すると、第1及び第2の手術器具2110,2112がそれらのエンドエフェクタ部分を手術シーン2202の中央近くに配置した第5の手術シーン2202が示されている。制御設定アジャスタ1620は、器具のエンドエフェクタがシーンの縁部に配置された第1の2次元領域を表示する第2の手術シーン2102から、器具のエンドエフェクタがシーンの中央近くに配置された第2の2次元領域を表示する第3の手術シーン2104に変更するために、カメラ制御設定の変更を内視鏡搭載カメラに与える。外科的手法評価器1402は、例えば、外科医が手術シーン内の特定の領域(例えば、中心等)に器具を表示することを好むことを判定することができる。こうして、例えば、初心者の外科医が、熟練した外科医に従って、シーンの中心に向けて器具を移動させるように描写されたシーンの領域の変化をより良く見ることができるシーンを含むタスクに移行する場合に、例えば、制御設定アジャスタ1620は、シーン内に描かれた器具及び組織構造(図示せず)の位置を変えるように、カメラの位置を自動的に変更することができる。
図23A~図23Bは、外科医がTSSの手術シーン内の関連情報をより良く観察できる視点を達成し外科医を支援するために、制御設定アジャスタ1620によって行われる手術シーンのズームレベル変更を示す説明図である。図23Aを参照すると、第1及び第2の手術器具2110,2112が、手術シーン2200内で遠くに小さく見えるようにズームアウトされた状態で示される第6の手術シーン2300が示されている。第6の手術シーン2300における手術器具2100,2102の遠くの小さな外観はまた、手術器具2100,2102が遠くに小さく見えるように相互作用し、従って外科医が見るのが難しくなる、身体組織(図示せず)等の他の関心のある項目をもたらすことが理解される。図23Bを参照すると、第1及び第2の手術器具2110,2112がより近く大きく現われ、容易に詳細に見られるようにズームインした状態で示される第7の手術シーン2302が示されている。制御設定アジャスタ1620は、第1のズームアウト状態のズームレベルを表示する第5の手術シーン2300から、第2のズームイン状態のズームレベルを表示する第7の手術シーン2302に変更するために、カメラ制御設定の変更を内視鏡搭載カメラに与える。外科的手法評価器1402は、例えば、熟練した外科医が特定のタスクについて特定のズームレベルで器具を表示することを好むことを判定することができる。こうして、例えば、初心者の外科医が、熟練した外科医に従って、ズームレベルの変化につれて良く見ることができるシーンを含むタスクに移行する場合に、制御設定アジャスタ1620は、例えば、カメラのズームレベルを自動的に変更することができる。
さらに、カメラ調整は、患者の解剖学的位置及びカメラの向きの推定値を含み、動き及び相互作用のためのカメラの位置/向きを最適化することができる。例えば、外科医が解剖学的構造に基づいて特定の方向に針を動かす必要がある場合に、カメラはこの環境のキュー(cue)にそのカメラ自体を整列させることができる。
いくつかの実施形態では、これらのアシストエンジンのいずれかによる支援は、段階の現在の評価に基づいて、現在の外科的処置の段階に段階同期させることができる。上述したように、段階同期とは、厳密な時間的整合ではなく、手術プロセスフローの点での整合を指す。いくつかの実施形態では、段階同期は、外科的処置の今後の段階のために外科医又は外科チームを用意するための支援が提供されるように、段階オフセットをサポートする。
支援は、セグメンタ1004、シミュレータ1006、外科医評価器908、又はこれらのエンジンの2つ以上を含む組合せによって評価されるように、使用された、評価後の外科的手法のタイプに一致するようにさらに選択してもよい。
図17は、汎用マシンの例示的な形態であるコンピュータシステムを示すブロック図である。特定の実施形態では、本明細書に記載される1つ又は複数の特定の動作アーキテクチャ及びアルゴリズムによるコンピュータシステム1700のプログラミングは、そのプログラムを実行する際に、VSE904、データ記録エンジン906、外科医評価器908、アシストエンジン910、又はこれらのシステムの任意の組合せを形成するために専用マシンを生成する。ネットワーク展開では、コンピュータシステムは、サーバ-クライアント・ネットワーク環境においてサーバ又はクライアント・マシンのいずれかの能力で動作してもよく、ピアツーピア(又は分散)ネットワーク環境においてピア・マシンとして動作してもよい。
例示的なコンピュータシステム1700は、少なくとも1つのプロセッサ1702(例えば、中央処理装置(CPU)、グラフィック処理装置(GPU)又は両方、プロセッサコア、計算ノード等)、メインメモリ1704、及びスタティックメモリ1706を含み、これらは、リンク1708(例えば、バス)を介して互いに通信する。コンピュータシステム1700は、ビデオ表示装置1710、英数字入力装置1712(例えば、キーボード)、及びユーザインターフェイス(UI)ナビゲーション装置1714(例えば、マウス)をさらに含むことができる。一実施形態では、ビデオ表示装置1710、入力装置1712、及びUIナビゲーション装置1714は、タッチスクリーンディスプレイに組み込まれる。コンピュータシステム1700は、記憶装置1716(例えば、ドライブユニット)、信号発生装置1718(例えば、スピーカ)、ネットワークインターフェイス装置(NID)1720、及び1つ又は複数のセンサ(図示せず)をさらに含むことができる。
記憶装置1716は、本明細書に記載される方法又は機能のいずれか1つ又は複数によって具体化又は利用されるデータ構造及び命令1724(例えば、ソフトウェア)の1つ又は複数のセットを記憶する機械可読媒体1722を含む。命令1724はまた、コンピュータシステム1700によるその実行中に、メインメモリ1704、スタティックメモリ1706、及び/又はプロセッサ1702内に完全に又は少なくとも部分的に存在することができ、メインメモリ1704、スタティックメモリ1706、及び/又はプロセッサ1702も機械可読媒体を構成する。
機械可読媒体1722は、例示的な実施形態で単一の媒体であると示されているが、用語「機械可読媒体」は、1つ又は複数の命令1724を記憶する単一の媒体又は複数の媒体(例えば、集中型又は分散型データベース、及び/又は関連するキャッシュ及びサーバ)を含むことができる。用語「機械可読媒体」は、機械による実行のための命令を記憶、符号化、又は伝達することができ、機械に本開示のいずれか1つ又は複数の方法を実行させ、又はそのような命令によって又はそれに関連して利用されるデータ構造を記憶、符号化、又は伝達することが可能である任意の有形の媒体を含むように考慮される。従って、「機械可読媒体」という用語は、ソリッドステートメモリ、光媒体、磁気媒体を含むものとして考慮されるが、これらに限定されるものではない。機械可読媒体の特定の例には、例として、半導体メモリ装置(例えば、電気的にプログラム可能な読出し専用メモリ(EPROM)、電気的に消去可能なプログラム可能な読出し専用メモリ(EEPROM)及びフラッシュメモリ装置;内蔵ハードディスクやリムーバブルディスク等の磁気ディスク;光磁気ディスク;及びCD-ROM及びDVD-ROMを含むが、これらに限定されない不揮発性メモリを含む。
様々な実施形態によるNID1730は、任意の適切なフォームファクタを取ることができる。そのような実施形態の1つでは、NID1720は、リンク1708を介してプロセッサ1702とインターフェイス接続するネットワークインターフェイスカード(NIC)の形態である。一例では、リンク1708は、スロットを含むPCI Express(PCIe)バスであり、スロット内でNICフォームファクタは取り外し可能に係合し得る。別の実施形態では、NID1720は、ローカルリンク回路、プロセッサインターフェイス回路、他の入出力回路、メモリ回路、記憶装置、及び周辺コントローラ回路等と共にマザーボード上にレイアウトされたネットワークインターフェイス回路である。別の実施形態では、NID1720は、ユニバーサルシリアルバス(USB)ポート等の周辺入出力ポートを介してリンク1708とインターフェイス接続する周辺機器である。NID1720は、有線又は無線(例えば、無線周波数、赤外線、又は可視光スペクトル等)、光ファイバ等であり得る伝送媒体1726を介してデータを送受信する。
図18は、図17に示すようなコンピュータ装置の例示的なハードウェア及びソフトウェア・アーキテクチャを示す図であり、ハードウェア(HW)コンポーネントとソフトウェア(SW)コンポーネントとの間の様々なインターフェイスが示されている。HWで示されるように、ハードウェアコンポーネントは分割ダラインの下に表示されるが、SWで示されるソフトウェアコンポーネントは分割ラインの上にある。ハードウェア側では、(1つ又は複数のマイクロプロセッサ、デジタル信号プロセッサ(それぞれが1つ又は複数のプロセッサコアを有する)等を含むことができる)処理装置1802は、メモリ管理装置1804及びシステム相互接続1806とインターフェイス接続される。メモリ管理装置1804は、実行されるプロセスによって使用される仮想メモリと物理的メモリとの間のマッピングを提供する。メモリ管理装置1804は、処理装置1802も含む中央処理装置の一体部分であってもよい。
相互接続1806は、メモリ、データ、及び制御ライン等のバックプレーンだけでなくPCI、USB等の入出力装置とのインターフェイスも含む。メモリ1808(例えば、ダイナミックランダムアクセスメモリ-DRAM)及びフラッシュメモリ等の不揮発性メモリ1809(例えば、電気的に消去可能な読出し専用メモリ-EEPROM、NANDフラッシュ、NORフラッシュ等)は、メモリコントローラ1810を介してメモリ管理装置1804及び相互接続1806とインターフェイス接続される。いくつかの実施形態では、このアーキテクチャは、周辺機器による直接メモリアクセス(DMA)をサポートすることができる。ビデオ及びオーディオアダプタ、不揮発性ストレージ、USB、Bluetooth(登録商標)等の外部周辺リンクだけでなく、Wi-Fi(登録商標)又はLTE(登録商標)ファミリインターフェイスを介して通信するようなネットワークインターフェイス装置等のI/O装置は、まとめてI/O装置及びネットワーク1812として表され、これらは、対応するI/Oコントローラ1814を介して相互接続1806とインターフェイスする。
ソフトウェア側では、初期システム起動時に実行されるプレオペレーティングシステム(プレOS)環境1816は、オペレーティングシステムの起動を開始する責任がある。プレOS環境1816の従来の例は、システム基本入出力システム(BIOS)である。現代のシステムでは、統一された拡張可能なファームウェアインターフェイス(UEFI)が実装されている。プレOS環境1816は、オペレーティングシステムの起動を開始する責任があるが、本発明の特定の態様による組込みアプリケーションの実行環境も提供する。
オペレーティングシステム(OS)1818は、ハードウェア装置を制御し、メモリ内のプログラムに対するメモリアクセスを管理し、タスクを調整し、マルチタスクを容易にし、記憶されるデータを編成し、メモリ空間及び他のリソースを割り当て、プログラムバイナリコードをメモリにロードし、アプリケーションプログラムの実行を開始し(アプリケーションプログラムは次にユーザ及びハードウェア装置と相互作用する)、及び様々な規定された割込みを検出して応答するカーネルを提供する。また、オペレーティングシステム1818は、デバイスドライバと、周辺機器及びネットワークとのインターフェイスを容易にし、アプリケーションプログラムの抽象化を提供する様々な共通サービスとを提供し、アプリケーションがそのような共通動作の詳細を処理する責任を負う必要がないようにする。オペレーティングシステム1818は、さらに、モニタ、キーボード、マウス、マイク、ビデオカメラ、タッチスクリーン等の周辺装置を介してユーザとの対話を容易にするグラフィカルユーザインターフェイス(GUI)を提供する。
ランタイムシステム1820は、関数呼出しの前にスタックにパラメータを置く、ディスク入出力(I/O)の動作、及び並列実行に関連する動作等の操作を含む実行モデルの部分を実装する。ランタイムシステム1820は、タイプチェック、デバッグ、又はコード生成及び最適化等のサポートサービスを実行することもできる。
ライブラリ1822は、アプリケーションプログラムの更なる抽象化を提供するプログラム機能のコレクションを含む。これらは、例えば共有ライブラリ、動的リンクライブラリ(DLL)等を含む。ライブラリ1822は、オペレーティングシステム1818、ランタイムシステム1820に一体化してもよく、機能を追加してもよく、さらに遠隔ホストしてもよい。ライブラリ1822は、オペレーティングシステム1818によって提供されるサービスを呼び出すために、アプリケーションプログラム1824によって様々な関数呼出しが行われるアプリケーションプログラムインターフェイス(API)を規定する。アプリケーションプログラム1824は、コンピュータ装置自体の基本操作を調整する下位システムプログラムによって実行されるタスクを超える、ユーザにとって有用なタスクを実行するプログラムである。
プロセスフロー
図20は、システム900等のTSSサポートシステムを動作させる例示的な方法2000を示すプロセスフロー図である。方法2000は、説明目的のために様々な異なる動作を組み合わせる十分に特徴付けられた実施形態であることに留意されたい。図20に示す例は実際的な実施形態であってもよいが、様々な他の実施形態では、特定の動作を修正、省略、又は再順序付けできることが理解されるだろう。
以下の説明は、図9~図16のシステム構成要素図及び動作要素図と共に、図20を参照する。2002において、手術入力評価器1002のイベントモニタ1102は手術入力を受信する。手術入力は、TSSの監視されるイベントを含む。さらに、手術入力は、シミュレータ1006におけるTSSの計算モデルへの制御入力を含むことができる。手術入力はまた、TSSの計算モデルからのモデル化されたイベントを含むことができる。
2004において、TSSモデラ1310は仮想手術環境でTSSをモデル化する。これは、構成情報1312に規定されるように、ツール、エンドエフェクタ、及び他の構成部分を計算上表現することを含むことができる。TSSモデラ1310は、制御入力を処理し、モデルにおいて、それらの制御入力に応答して仮想状態の変化をもたらす。仮想状態の変化は、それ自体が、イベントモニタ1102が受け取ることができるイベントのタイプを構成することができる。
2006において、患者モデル1302は、TSSモデラ1310の操作の効果を含めて、患者をモデル化する。2008において、手術入力評価器は、実行されている現在の外科的タスクを決定する。2010において、セグメンタ1004は、手術入力に基づいて、及びオプションの評価されたタスクに基づいて、外科的処置の現在の段階を決定する。
2012において、セグメンタ1004の信頼度測定エンジン1230は、段階評価の信頼度スコアを決定する。2014において、外科医評価器908は、外科的手法評価器1402を使用して手術入力の時間的及び空間的なメトリックを計算する。オプションで、信頼度スコアが考慮される。2016において、外科的手法評価器は、外科医又は手術スタッフについての段階特有の能力スコアを生成する。
2018において、外科的処置の現在の段階、能力スコア、又はこれらの項目のいくつかの組合せに基づいて、外科医支援の要請が検出され得る。支援の要請は、外科医又は他のオペレータによって提供してもよい。2020において、段階に同期化された支援がレンダリングされる。
補注と実施例
実施例1は、外科医入力インターフェイスを含む遠隔操作手術システム(TSS)のための手術支援システムであって、外科医入力インターフェイスは、電気機械手術システムを有効にして外科的処置を行うための手術制御入力を受け取り、この手術支援システムは、仮想手術環境エンジンと、アシストエンジンと、を有しており、
仮想手術環境エンジンは、TSSの監視されるイベントを含む手術入力を受信する手術入力評価エンジンと;手術入力に基づいて、外科的処置の現在の段階を決定するセグメント化エンジンと;を実装するように動作可能に構成されたコンピュータ・ハードウェアを含み、
アシストエンジンは、TSSの外科医入力インターフェイスに通信可能に結合されるTSSインターフェイスと;外科医支援のための要請を検出する支援要請検出器と;外科医支援のための要請に応答して、TSSインターフェイスを介して状況に関連した支援(context-related assistance)を開始する支援レンダリング・エンジンと;を実装するように動作可能に構成されたコンピュータ・ハードウェアを含み、
状況に関連した支援は、外科的処置に段階同期される。
実施例2では、実施例1の主題はオプションでTSSを含む。
実施例3では、実施例1~2のいずれか1つ又は複数の主題はオプションで以下を含み、仮想手術環境エンジンは、TSSの手術入力に基づいて、外科的処置の計算モデルを処理するシミュレータ・エンジンを実装するようにさらに構成される。
実施例4では、実施例3の主題はオプションで以下を含み、シミュレータ・エンジンは、仮想手術環境におけるTSSを計算上表現するためのTSSモデルと;患者の身体的特徴に基づく患者、及びTSSモデルの操作によって影響を受ける患者への変化を計算上表現するための患者モデルとを含む。
実施例5では、実施例3~4いずれか1つ又は複数の主題はオプションで以下を含み、シミュレータ・エンジンは、TSSを介して行われている実際の外科的処置と並行して動作するように構成され、TSSへの手術制御入力は、シミュレータ・エンジンの計算モデルに仮想効果を生じさせる。
実施例6では、実施例3~5のいずれか1つ又は複数の主題はオプションで以下を含み、手術入力評価エンジンによって受信された手術入力は、シミュレータ・エンジンの計算モデルからのTSS制御入力のシミュレートされた効果(simulated effects:シュミレート後の効果)を含む。
実施例7では、実施例3~6のいずれか1つ又は複数の主題はオプションで以下を含み、シミュレータ・エンジンは、現在の段階の決定に基づいて、外科的処置の特定の段階をシミュレートするように構成され、このシミュレーションを開始する。
実施例8では、実施例1~7のいずれか1つ又は複数の主題はオプションで以下を含み、監視されるイベントは、TSSの電気機械手術システムを制御するTSS制御入力を含む。
実施例9では、実施例1~8のいずれか1つ又は複数の主題はオプションで以下を含み、監視されるイベントは、TSSの電気機械手術システムのシミュレーションを制御するTSS制御入力を含む。
実施例10では、実施例1~9のいずれか1つ又は複数の主題はオプションで以下を含み、監視されるイベントは、手術アシスタントによるTSS検出動作を含む。
実施例11では、実施例1~10のいずれか1つ又は複数の主題はオプションで以下を含み、セグメント化エンジンは、正確なセグメント決定の確率を表す信頼度スコアを決定するための信頼度測定エンジンを含む。
実施例12では、実施例11の主題はオプションで以下を含み、信頼度スコアは、セグメント化エンジンのディープラーニング・エンジンを訓練するための手術入力の対応するシーケンスの適合性を示す。
実施例13では、実施例1~12のいずれか1つ又は複数の主題はオプションで以下を含み、セグメント化エンジンは、外科的処置中に手術入力の一部を処理する訓練される(trained)ニューラルネットワークを実装するように構成されたリアルタイム・セグメント評価器を含む。
実施例14では、実施例13の主題はオプションで以下を含み、セグメント化エンジンは、手術入力の一部を処理するクラスタ化アルゴリズムを実施するように構成された後処理セグメント評価器をさらに含む。
実施例15では、実施例13~14のいずれか1つ又は複数の主題はオプションで以下を含み、訓練されるニューラルネットワークは、先行する複数の外科的処置からの先の手術入力に基づいて訓練される。
実施例16では、実施例13~15のいずれか1つ又は複数の主題はオプションで以下を含み、訓練されるニューラルネットワークは、先行してシミュレートされた複数の外科的処置からの先の手術入力に基づいて訓練される。
実施例17では、実施例1~16のいずれか1つ又は複数の主題はオプションで以下を含み、手術入力評価エンジンは、手術入力に基づいて、行われている現在の外科的タスクを決定するように構成されたタスク評価エンジンを含み、現在の外科的タスクは、規定された外科的効果を生じさせる一連のイベントを含み、セグメント化エンジンは、現在の外科的タスクにさらに基づいて、外科的処置の現在の段階を決定する。
実施例18では、実施例1~17のいずれか1つ又は複数の主題はオプションで外科的手法評価エンジンを実装するように動作可能に構成されたコンピュータ・ハードウェアを含む外科医評価エンジンを含み、外科的手法評価エンジンは、手術入力及び外科的処置の現在の段階にアクセスし;現在の段階を含む外科的処置の複数の異なる段階に対応する手術入力の複数の時間的及び空間的なメトリックを計算し;手術制御入力を生じさせる外科医の外科的能力の質を表す手術段階特有の能力スコアを生成する;ように構成される。
実施例19では、実施例18の主題はオプションで以下を含み、外科的手法評価器は、時間的及び空間的なメトリックと、外科的処置の専門家によって行われる段階に基づく基準メトリックとの間の比較を行うようにさらに構成され、能力スコアは比較の結果に基づく。
実施例20では、実施例18~19のいずれか1つ又は複数の主題はオプションで以下を含み、外科的手法評価器は、セグメント化エンジンによる正確なセグメント決定の確率を表す信頼度スコアにアクセスし、信頼度スコアにさらに基づいて、能力スコアを生成するようにさらに構成される。
実施例21では、実施例18~20のいずれか1つ又は複数の主題はオプションで以下を含み、能力スコアは、外科的処置中ずっと(throughout)更新されるランニングスコアである。
実施例22では、実施例18~21のいずれか1つ又は複数の主題はオプションで以下を含み、支援要請検出器は、能力スコアに基づいて、外科医支援の要請を検出するように構成される。
実施例23では、実施例1~22のいずれか1つ又は複数の主題はオプションで以下を含み、状況に関連した支援は、実施されている外科的処置の段階特有部分のデモンストレーションを含む専門家ビデオセグメントを含む。
実施例24では、実施例1~23のいずれか1つ又は複数の主題はオプションで以下を含み、状況に関連した支援は、外科的処置の段階特有のシミュレーションの構成及び開始を含む。
実施例25では、実施例1~24のいずれか1つ又は複数の主題はオプションで以下を含み、状況に関連した支援は、制御設定の調整を含む。
実施例26は、外科医入力インターフェイスを含む遠隔操作手術システム(TSS)を支援するための機械実装方法であって、外科医入力インターフェイスは、電気機械手術システムを有効にして外科的処置を行うための手術制御入力を受け取り、この方法は、TSSの監視されるイベントを含む手術入力を受信するステップと;手術入力に基づいて、外科的処置の現在の段階を決定するステップと;外科医支援のための要請を検出するステップと;外科医支援のための要請に応答して、外科医入力インターフェイスに対して状況に関連した支援を開始するステップと;を含み、状況に関連した支援は、外科的処置に段階同期される。
実施例27では、実施例26の主題は、オプションで、TSSの手術入力に基づいて、外科的処置を計算モデルとしてシミュレートすることを含む。
実施例28では、実施例27の主題はオプションで以下を含み、外科的処置をシミュレートするステップは、仮想手術環境におけるTSSを計算モデルの一部として計算上表現するステップと;患者の身体的特徴に基づく患者、及び計算モデルにおいて計算上表現されたTSSのモデル化された操作によって影響を受ける患者への変化を計算上表現するステップと;を含む。
実施例29では、実施例27~28のいずれか1つ又は複数の主題はオプションで以下を含み、シミュレーションは、TSSを介して実施される実際の外科的処置と並行して行われ、TSSへの手術制御入力は、計算モデルにおいて仮想効果を生じさせる。
実施例30では、実施例27~29のいずれか1つ又は複数の主題はオプションで以下を含み、手術入力は、計算モデルからのTSS制御入力のシミュレート後の効果を含む。
実施例31では、実施例27~30のいずれか1つ又は複数の主題は、オプションで、現在の段階の決定に基づいて、計算モデルを使用して外科的処置の特定の段階をシミュレートするステップを含む。
実施例32では、実施例26~31のいずれか1つ又は複数の主題はオプションで以下を含み、監視されるイベントは、TSSの電気機械手術システムを制御するTSS制御入力を含む。
実施例33では、実施例26~32のいずれか1つ又は複数の主題はオプションで以下を含み、監視されるイベントは、TSSの電気機械手術システムのシミュレーションを制御するTSS制御入力を含む。
実施例34では、実施例26~33のいずれか1つ又は複数の主題はオプションで以下を含み、監視されるイベントは、手術アシスタントによるTSS検出動作を含む。
実施例35では、実施例26~34のいずれか1つ又は複数の主題は、オプションで、正確なセグメント決定の確率を表す信頼度スコアを決定するステップを含む。
実施例36では、実施例35の主題はオプションで以下を含み、信頼度スコアは、ディープラーニング・アルゴリズムを訓練するための手術入力の対応するシーケンスの適合性を示す。
実施例37では、実施例26~36のいずれか1つ又は複数の主題はオプションで以下を含み、外科的処置の現在の段階を決定する際に、訓練されるニューラルネットワークが、外科的処置中に手術入力の一部を処理するために実装される。
実施例38では、実施例37の主題はオプションで以下を含み、外科的処置の現在の段階を決定する際に、クラスタ化アルゴリズムが、手術入力の一部を処理するために実施される。
実施例39では、実施例37~38のいずれか1つ又は複数の主題はオプションで以下を含み、訓練されるニューラルネットワークは、先行する複数の外科的処置からの先の手術入力に基づいて訓練される。
実施例40では、実施例37~39のいずれか1つ又は複数の主題はオプションで以下を含み、訓練されるニューラルネットワークは、先行してシミュレートされた複数の外科的処置からの先の手術入力に基づいて訓練される。
実施例41では、実施例26~40のいずれか1つ又は複数の主題は、オプションで、手術入力に基づいて、行われている現在の外科的タスクを決定するステップを含み、現在の外科的タスクは、規定された外科的効果を生じさせる一連のイベントを含み、外科的処置の現在の段階を決定するステップは、現在の外科的タスクにさらに基づく。
実施例42では、実施例26~41のいずれか1つ又は複数の主題は、オプションで、現在の段階を含む外科的処置の複数の異なる段階に対応する手術入力の複数の時間的及び空間的なメトリックを計算するステップと;手術制御入力を生じさせる外科医の外科的能力の質を表す手術段階特有の能力スコアを生成するステップと;を含む。
実施例43では、実施例42の主題は、オプションで、時間的及び空間的なメトリックと、外科的処置の専門的によって行われる段階に基づく基準メトリックとの間の比較を行うステップを含み、能力スコアは比較の結果に基づく。
実施例44では、実施例42~43のいずれか1つ又は複数の主題は、オプションで、正確なセグメント決定の確率を表す信頼度スコアにさらに基づいて、能力スコアを生成するステップを含む。
実施例45では、実施例42~44のいずれか1つ又は複数の主題はオプションで以下を含み、能力スコアは、外科的処置中ずっと更新されるランニングスコアである。
実施例46では、実施例42~45のいずれか1つ又は複数の主題はオプションで以下を含み、外科医支援のための要請は、能力スコアに基づく。
実施例47では、実施例26~46のいずれか1つ又は複数の主題はオプションで以下を含み、状況に関連した支援は、実施されている外科的処置の段階特有部分のデモンストレーションを含む専門家ビデオセグメントを含む。
実施例48では、実施例26~47のいずれか1つ又は複数の主題はオプションで以下を含み、状況に関連した支援は、外科的処置の段階特有のシミュレーションの構成及び開始を含む。
実施例49では、実施例26~48のいずれか1つ又は複数の主題はオプションで以下を含み、状況に関連した支援は、制御設定の調整を含む。
実施例50は、コンピュータ・プラットフォーム上で実行されると、コンピュータ・プラットフォームに、外科医入力インターフェィスを含む遠隔操作手術システム(TSS)をサポートするための専用機械を実装させる命令を含む少なくとも1つの非一時的な機械可読記憶媒体であり、外科医入力インターフェィスは、電気機械手術システムを有効にして外科的処置を行うための手術制御入力を受け取り、命令は、TSSの監視されるイベントを含む手術入力を受信するための命令と;手術入力に基づいて、外科的処置の現在の段階を決定するための命令と;外科医支援のための要請を検出するための命令と;外科医支援のための要請に応答して、外科医入力インターフェイスに対して状況に関連した支援を開始するための命令と;を含み、状況に関連した支援は、外科的処置に段階同期される。
実施例51では、実施例50の主題は、オプションで、TSSの手術入力に基づいて、外科的処置を計算モデルとしてシミュレートするための命令を含む。
実施例52では、実施例51の主題はオプションで以下を含み、外科的処置をシミュレートするための命令は、仮想手術環境におけるTSSを計算モデルの一部として計算上表現するための命令と;患者の身体的特徴に基づく患者、及び計算モデルにおいて計算上表現されたTSSのモデル化された操作によって影響を受ける患者への変化を計算上表現するための命令と;を含む。
実施例53では、実施例51~52のいずれか1つ又は複数の主題はオプションで以下を含み、シミュレーションは、TSSを介して実施される実際の外科的処置と並行して行われ、TSSへの手術制御入力は、計算モデルにおいて仮想効果を生じさせる。
実施例54では、実施例51~53のいずれか1つ又は複数の主題はオプションで以下を含み、手術入力は、計算モデルからのTSS制御入力のシミュレート後の効果を含む。
実施例55では、実施例51~54のいずれか1つ又は複数の主題は、オプションで、現在の段階の決定に基づいて、計算モデルを使用して外科的処置の特定の段階をシミュレートするための命令を含む。
実施例56では、実施例50~55のいずれか1つ又は複数の主題はオプションで以下を含み、監視されるイベントは、TSSの電気機械手術システムを制御するTSS制御入力を含む。
実施例57では、実施例50~56のいずれか1つ又は複数の主題はオプションで以下を含み、監視されるイベントは、TSSの電気機械手術システムのシミュレーションを制御するTSS制御入力を含む。
実施例58では、実施例50~57のいずれか1つ又は複数の主題はオプションで以下を含み、監視されるイベントは、手術アシスタントによるTSS検出動作を含む。
実施例59では、実施例50~58のいずれか1つ又は複数の主題は、オプションで、正確なセグメント決定の確率を表す信頼度スコアを決定するための命令を含む。
実施例60では、実施例59の主題はオプションで以下を含み、信頼度スコアは、ディープラーニング・アルゴリズムを訓練するための手術入力の対応するシーケンスの適合性を示す。
実施例61では、実施例50~60のいずれか1つ又は複数の主題はオプションで以下を含み、外科的処置の現在の段階を決定するための命令は、訓練されるニューラルネットワークに、外科的処置中に手術入力の一部を処理するように実施させる。
実施例62では、実施例61の主題はオプションで以下を含み、外科的処置の現在の段階を決定するための命令は、クラスタ化アルゴリズムに、手術入力の一部を処理するように実施させる。
実施例63では、実施例61~62のいずれか1つ又は複数の主題はオプションで以下を含み、訓練されるニューラルネットワークは、先行する複数の外科的処置からの先の手術入力に基づいて訓練される。
実施例64では、実施例61~63のいずれか1つ又は複数の主題はオプションで以下を含み、訓練されるニューラルネットワークは、先行してシミュレートされた複数の外科的処置からの先の手術入力に基づいて訓練される。
実施例65では、実施例50~64のいずれか1つ又は複数の主題は、オプションで、手術入力に基づいて、行われている現在の外科的タスクを決定するための命令を含み、現在の外科的タスクは、規定された外科的効果を生じさせる一連のイベントを含み、外科的処置の現在の段階を決定するための命令は、現在の外科的タスクの決定に基づく。
実施例66では、実施例50~65のいずれか1つ又は複数の主題は、オプションで、現在の段階を含む外科的処置の複数の異なる段階に対応する手術入力の複数の時間的及び空間的なメトリックを計算するための命令と;手術制御入力を生じさせる外科医の外科的能力の質を表す手術段階特有の能力スコアを生成するための命令と;を含む。
実施例67では、実施例66の主題は、オプションで、時間的及び空間的なメトリックと、外科的処置の専門家によって行われる段階に基づく基準メトリックとの間の比較を行うための命令を含み、能力スコアは比較の結果に基づく。
実施例68では、実施例66~67のいずれか1つ又は複数の主題は、オプションで、正確なセグメント決定の確率を表す信頼度スコアにさらに基づいて、能力スコアを生成するための命令を含む。
実施例69では、実施例66~68のいずれか1つ又は複数の主題はオプションで以下を含み、能力スコアは、外科的処置中ずっと更新されるランニングスコアである。
実施例70では、実施例66~69のいずれか1つ又は複数の主題はオプションで以下を含み、外科医支援のための要請は、能力スコアに基づく。
実施例71では、実施例50~70のいずれか1つ又は複数の主題はオプションで以下を含み、状況に関連した支援は、実施されている外科的処置の段階特有部分のデモンストレーションを含む専門家ビデオセグメントを含む。
実施例72では、実施例50~71のいずれか1つ又は複数の主題はオプションで以下を含み、状況に関連した支援は、外科的処置の段階特有のシミュレーションの構成及び開始を含む。
実施例73では、実施例50~72のいずれか1つ又は複数の主題はオプションで以下を含み、状況に関連した支援は、制御設定の調整を含む。
例示的な実施形態について図示し且つ説明してきたが、広範な修正、変更、及び置換が、前述した開示において企図されており、いくつかの例において、実施形態のいくつかの特徴は、他の特徴の対応する使用なしに用いることができる。当業者は、多くの変形形態、代替形態、及び修正形態を認識するだろう。従って、本発明の範囲は、以下の特許請求の範囲によってのみ限定され、特許請求の範囲は、本明細書に開示された実施形態の範囲と一致する態様で及び広範に解釈することが適当である。


Claims (2)

  1. 外科医入力インターフェイスを含む遠隔操作手術システム(TSS)をサポートするための機械実施方法であって、前記外科医入力インターフェイスは、電気機械手術システムを有効にして外科的処置を行うための手術制御入力を受け取り、当該方法は、
    前記TSSの監視されるイベントを含む手術入力を受信するステップと、
    前記手術入力に基づいて、前記外科的処置の現在の段階を決定するステップと、
    外科医支援のための要請を検出するステップと、
    前記外科医支援のための要請に応答して、前記外科医入力インターフェイスに対して状況に関連した支援を開始するステップと、を含み、
    前記状況に関連した支援は前記外科的処置に段階同期される、
    方法。
  2. 前記TSSの前記手術入力に基づいて、前記外科的処置を計算モデルとしてシミュレートするステップをさらに含み、
    前記外科的処置をシミュレートするステップは、
    仮想手術環境における前記TSSを前記計算モデルの一部として計算上表現するステップと、
    患者の身体的特徴に基づく前記患者、及び計算モデルにおいて計算上表現された前記TSSのモデル化された操作によって影響を受ける患者への変化を計算上表現するステップと、を含む、請求項1に記載の方法。
JP2023115982A 2015-11-12 2023-07-14 訓練又は支援機能を有する手術システム Pending JP2023126480A (ja)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US201562254556P 2015-11-12 2015-11-12
US62/254,556 2015-11-12
US201662374670P 2016-08-12 2016-08-12
US62/374,670 2016-08-12
JP2018524314A JP2018538037A (ja) 2015-11-12 2016-11-11 訓練又は支援機能を有する手術システム
JP2021152466A JP2021191519A (ja) 2015-11-12 2021-09-17 訓練又は支援機能を有する手術システム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2021152466A Division JP2021191519A (ja) 2015-11-12 2021-09-17 訓練又は支援機能を有する手術システム

Publications (1)

Publication Number Publication Date
JP2023126480A true JP2023126480A (ja) 2023-09-07

Family

ID=58696195

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2018524314A Pending JP2018538037A (ja) 2015-11-12 2016-11-11 訓練又は支援機能を有する手術システム
JP2021152466A Pending JP2021191519A (ja) 2015-11-12 2021-09-17 訓練又は支援機能を有する手術システム
JP2023115982A Pending JP2023126480A (ja) 2015-11-12 2023-07-14 訓練又は支援機能を有する手術システム

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2018524314A Pending JP2018538037A (ja) 2015-11-12 2016-11-11 訓練又は支援機能を有する手術システム
JP2021152466A Pending JP2021191519A (ja) 2015-11-12 2021-09-17 訓練又は支援機能を有する手術システム

Country Status (6)

Country Link
US (3) US10912619B2 (ja)
EP (1) EP3373834A4 (ja)
JP (3) JP2018538037A (ja)
KR (1) KR20180068336A (ja)
CN (2) CN113456241A (ja)
WO (1) WO2017083768A1 (ja)

Families Citing this family (233)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11871901B2 (en) 2012-05-20 2024-01-16 Cilag Gmbh International Method for situational awareness for surgical network or surgical network connected device capable of adjusting function based on a sensed situation or usage
US9566414B2 (en) 2013-03-13 2017-02-14 Hansen Medical, Inc. Integrated catheter and guide wire controller
US10849702B2 (en) 2013-03-15 2020-12-01 Auris Health, Inc. User input devices for controlling manipulation of guidewires and catheters
US9283046B2 (en) 2013-03-15 2016-03-15 Hansen Medical, Inc. User interface for active drive apparatus with finite range of motion
US11020016B2 (en) 2013-05-30 2021-06-01 Auris Health, Inc. System and method for displaying anatomy and devices on a movable display
EP3578119B1 (en) 2013-12-11 2021-03-17 Covidien LP Wrist and jaw assemblies for robotic surgical systems
EP3243476B1 (en) 2014-03-24 2019-11-06 Auris Health, Inc. Systems and devices for catheter driving instinctiveness
CA2957750C (en) 2014-08-13 2023-04-04 Covidien Lp Robotically controlling mechanical advantage gripping
US11504192B2 (en) 2014-10-30 2022-11-22 Cilag Gmbh International Method of hub communication with surgical instrument systems
US10695142B2 (en) 2015-02-19 2020-06-30 Covidien Lp Repositioning method of input device for robotic surgical system
US10716639B2 (en) 2015-03-10 2020-07-21 Covidien Lp Measuring health of a connector member of a robotic surgical system
US10959788B2 (en) 2015-06-03 2021-03-30 Covidien Lp Offset instrument drive unit
KR20230054760A (ko) 2015-06-09 2023-04-25 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 수술 절차 아틀라스를 갖는 수술시스템의 구성
EP3311181B1 (en) 2015-06-16 2020-03-11 Covidien LP Robotic surgical system torque transduction sensing
US10779897B2 (en) 2015-06-23 2020-09-22 Covidien Lp Robotic surgical assemblies
WO2017053363A1 (en) 2015-09-25 2017-03-30 Covidien Lp Robotic surgical assemblies and instrument drive connectors thereof
CN112842228A (zh) 2015-10-23 2021-05-28 柯惠Lp公司 用于检测灌注中逐步变化的手术系统
EP3373834A4 (en) 2015-11-12 2019-07-31 Intuitive Surgical Operations Inc. SURGICAL SYSTEM WITH TRAINING OR ASSISTANCE FUNCTION
WO2017087439A1 (en) 2015-11-19 2017-05-26 Covidien Lp Optical force sensor for robotic surgical system
US10991070B2 (en) 2015-12-18 2021-04-27 OrthoGrid Systems, Inc Method of providing surgical guidance
US11576562B2 (en) 2016-04-07 2023-02-14 Titan Medical Inc. Camera positioning method and apparatus for capturing images during a medical procedure
CN109152614B (zh) 2016-05-26 2021-09-10 柯惠Lp公司 器械驱动单元
CA3022145A1 (en) 2016-05-26 2017-11-30 Covidien Lp Robotic surgical assemblies
US11446099B2 (en) 2016-06-03 2022-09-20 Covidien Lp Control arm for robotic surgical systems
CN109275333B (zh) 2016-06-03 2022-05-17 柯惠Lp公司 用于控制机器人递送操纵器的系统、方法和计算机可读程序产品
CN109152612A (zh) 2016-06-03 2019-01-04 柯惠Lp公司 具有嵌入式成像仪的机器人手术系统
CN109195543A (zh) 2016-06-03 2019-01-11 柯惠Lp公司 用于机器人手术系统的被动轴系统
US11037464B2 (en) * 2016-07-21 2021-06-15 Auris Health, Inc. System with emulator movement tracking for controlling medical devices
US11348482B2 (en) * 2016-07-25 2022-05-31 Rush University Medical Center Inanimate model for laparoscopic repair
US10568703B2 (en) 2016-09-21 2020-02-25 Verb Surgical Inc. User arm support for use in a robotic surgical system
WO2018087309A1 (en) * 2016-11-10 2018-05-17 Telefonaktiebolaget Lm Ericsson (Publ) Resource segmentation to improve delivery performance
JP2020507377A (ja) 2017-02-15 2020-03-12 コヴィディエン リミテッド パートナーシップ 医療用ロボット用途の圧砕防止のためのシステムおよび機器
US11341868B2 (en) * 2017-04-18 2022-05-24 Teleflex Medical Incorporated Vascular access training simulator system and transparent anatomical model
CN110650705B (zh) 2017-05-24 2023-04-28 柯惠Lp公司 机器人系统中的电外科工具的存在检测
US11510747B2 (en) 2017-05-25 2022-11-29 Covidien Lp Robotic surgical systems and drapes for covering components of robotic surgical systems
US11553974B2 (en) 2017-05-25 2023-01-17 Covidien Lp Systems and methods for detection of objects within a field of view of an image capture device
EP3629980A4 (en) 2017-05-25 2021-03-10 Covidien LP ROBOTIC SURGICAL SYSTEM WITH AUTOMATED GUIDANCE
JP7111242B2 (ja) * 2017-05-29 2022-08-02 株式会社三洋物産 遊技機
JP7111241B2 (ja) * 2017-05-29 2022-08-02 株式会社三洋物産 遊技機
JP7111239B2 (ja) * 2017-05-29 2022-08-02 株式会社三洋物産 遊技機
JP6911536B2 (ja) * 2017-05-29 2021-07-28 株式会社三洋物産 遊技機
WO2018226756A1 (en) * 2017-06-06 2018-12-13 Intuitive Surgical Operations, Inc. Systems and methods for state-based speech recognition in a teleoperational system
US11284955B2 (en) 2017-06-29 2022-03-29 Verb Surgical Inc. Emulation of robotic arms and control thereof in a virtual reality environment
US11011077B2 (en) 2017-06-29 2021-05-18 Verb Surgical Inc. Virtual reality training, simulation, and collaboration in a robotic surgical system
US11270601B2 (en) 2017-06-29 2022-03-08 Verb Surgical Inc. Virtual reality system for simulating a robotic surgical environment
JP2019022580A (ja) 2017-07-24 2019-02-14 ソニー株式会社 手術システム、情報処理方法および情報処理装置
CN107689076B (zh) * 2017-08-28 2018-09-04 哈尔滨理工大学 一种用于虚拟手术系统切割时的高效渲染方法
CA3074443A1 (en) 2017-09-05 2019-03-14 Covidien Lp Collision handling algorithms for robotic surgical systems
US20190069957A1 (en) * 2017-09-06 2019-03-07 Verily Life Sciences Llc Surgical recognition system
US11583358B2 (en) 2017-09-06 2023-02-21 Covidien Lp Boundary scaling of surgical robots
CN111226288B (zh) 2017-10-17 2022-03-29 威里利生命科学有限责任公司 用于对外科手术视频分段的系统和方法
US11911045B2 (en) 2017-10-30 2024-02-27 Cllag GmbH International Method for operating a powered articulating multi-clip applier
US11311342B2 (en) 2017-10-30 2022-04-26 Cilag Gmbh International Method for communicating with surgical instrument systems
US11510741B2 (en) 2017-10-30 2022-11-29 Cilag Gmbh International Method for producing a surgical instrument comprising a smart electrical system
US11291510B2 (en) 2017-10-30 2022-04-05 Cilag Gmbh International Method of hub communication with surgical instrument systems
US11229436B2 (en) 2017-10-30 2022-01-25 Cilag Gmbh International Surgical system comprising a surgical tool and a surgical hub
US11317919B2 (en) 2017-10-30 2022-05-03 Cilag Gmbh International Clip applier comprising a clip crimping system
US11801098B2 (en) 2017-10-30 2023-10-31 Cilag Gmbh International Method of hub communication with surgical instrument systems
US11123070B2 (en) 2017-10-30 2021-09-21 Cilag Gmbh International Clip applier comprising a rotatable clip magazine
US11026712B2 (en) 2017-10-30 2021-06-08 Cilag Gmbh International Surgical instruments comprising a shifting mechanism
US11564756B2 (en) 2017-10-30 2023-01-31 Cilag Gmbh International Method of hub communication with surgical instrument systems
JP7343394B2 (ja) * 2017-12-05 2023-09-12 ソニー・オリンパスメディカルソリューションズ株式会社 医療用情報処理装置、情報処理方法、および医療用情報処理システム
WO2019113391A1 (en) 2017-12-08 2019-06-13 Auris Health, Inc. System and method for medical instrument navigation and targeting
US11883120B2 (en) * 2017-12-18 2024-01-30 Sony Corporation Medical observation system, medical signal processing device, and medical signal processing device driving method
CN108053033A (zh) * 2017-12-27 2018-05-18 中南大学 一种函数调用序列生成方法和系统
US11786251B2 (en) 2017-12-28 2023-10-17 Cilag Gmbh International Method for adaptive control schemes for surgical network control and interaction
US10966791B2 (en) 2017-12-28 2021-04-06 Ethicon Llc Cloud-based medical analytics for medical facility segmented individualization of instrument function
US11744604B2 (en) 2017-12-28 2023-09-05 Cilag Gmbh International Surgical instrument with a hardware-only control circuit
US20190201087A1 (en) 2017-12-28 2019-07-04 Ethicon Llc Smoke evacuation system including a segmented control circuit for interactive surgical platform
US11419667B2 (en) 2017-12-28 2022-08-23 Cilag Gmbh International Ultrasonic energy device which varies pressure applied by clamp arm to provide threshold control pressure at a cut progression location
US11100631B2 (en) 2017-12-28 2021-08-24 Cilag Gmbh International Use of laser light and red-green-blue coloration to determine properties of back scattered light
US11633237B2 (en) 2017-12-28 2023-04-25 Cilag Gmbh International Usage and technique analysis of surgeon / staff performance against a baseline to optimize device utilization and performance for both current and future procedures
US11096693B2 (en) 2017-12-28 2021-08-24 Cilag Gmbh International Adjustment of staple height of at least one row of staples based on the sensed tissue thickness or force in closing
US11576677B2 (en) 2017-12-28 2023-02-14 Cilag Gmbh International Method of hub communication, processing, display, and cloud analytics
US10892899B2 (en) 2017-12-28 2021-01-12 Ethicon Llc Self describing data packets generated at an issuing instrument
US11179208B2 (en) 2017-12-28 2021-11-23 Cilag Gmbh International Cloud-based medical analytics for security and authentication trends and reactive measures
US11284936B2 (en) 2017-12-28 2022-03-29 Cilag Gmbh International Surgical instrument having a flexible electrode
US11659023B2 (en) 2017-12-28 2023-05-23 Cilag Gmbh International Method of hub communication
US11602393B2 (en) 2017-12-28 2023-03-14 Cilag Gmbh International Surgical evacuation sensing and generator control
US11056244B2 (en) 2017-12-28 2021-07-06 Cilag Gmbh International Automated data scaling, alignment, and organizing based on predefined parameters within surgical networks
US11291495B2 (en) 2017-12-28 2022-04-05 Cilag Gmbh International Interruption of energy due to inadvertent capacitive coupling
US11253315B2 (en) 2017-12-28 2022-02-22 Cilag Gmbh International Increasing radio frequency to create pad-less monopolar loop
US11696760B2 (en) 2017-12-28 2023-07-11 Cilag Gmbh International Safety systems for smart powered surgical stapling
US10898622B2 (en) 2017-12-28 2021-01-26 Ethicon Llc Surgical evacuation system with a communication circuit for communication between a filter and a smoke evacuation device
US20190201039A1 (en) 2017-12-28 2019-07-04 Ethicon Llc Situational awareness of electrosurgical systems
US11324557B2 (en) 2017-12-28 2022-05-10 Cilag Gmbh International Surgical instrument with a sensing array
US11571234B2 (en) 2017-12-28 2023-02-07 Cilag Gmbh International Temperature control of ultrasonic end effector and control system therefor
US11278281B2 (en) 2017-12-28 2022-03-22 Cilag Gmbh International Interactive surgical system
US11446052B2 (en) 2017-12-28 2022-09-20 Cilag Gmbh International Variation of radio frequency and ultrasonic power level in cooperation with varying clamp arm pressure to achieve predefined heat flux or power applied to tissue
US11109866B2 (en) 2017-12-28 2021-09-07 Cilag Gmbh International Method for circular stapler control algorithm adjustment based on situational awareness
US11076921B2 (en) 2017-12-28 2021-08-03 Cilag Gmbh International Adaptive control program updates for surgical hubs
US11559308B2 (en) 2017-12-28 2023-01-24 Cilag Gmbh International Method for smart energy device infrastructure
US11389164B2 (en) 2017-12-28 2022-07-19 Cilag Gmbh International Method of using reinforced flexible circuits with multiple sensors to optimize performance of radio frequency devices
US11304763B2 (en) 2017-12-28 2022-04-19 Cilag Gmbh International Image capturing of the areas outside the abdomen to improve placement and control of a surgical device in use
US11612444B2 (en) 2017-12-28 2023-03-28 Cilag Gmbh International Adjustment of a surgical device function based on situational awareness
US10892995B2 (en) 2017-12-28 2021-01-12 Ethicon Llc Surgical network determination of prioritization of communication, interaction, or processing based on system or device needs
US10944728B2 (en) 2017-12-28 2021-03-09 Ethicon Llc Interactive surgical systems with encrypted communication capabilities
US10932872B2 (en) 2017-12-28 2021-03-02 Ethicon Llc Cloud-based medical analytics for linking of local usage trends with the resource acquisition behaviors of larger data set
US20190201139A1 (en) 2017-12-28 2019-07-04 Ethicon Llc Communication arrangements for robot-assisted surgical platforms
US11464535B2 (en) 2017-12-28 2022-10-11 Cilag Gmbh International Detection of end effector emersion in liquid
US11896322B2 (en) 2017-12-28 2024-02-13 Cilag Gmbh International Sensing the patient position and contact utilizing the mono-polar return pad electrode to provide situational awareness to the hub
US11213359B2 (en) 2017-12-28 2022-01-04 Cilag Gmbh International Controllers for robot-assisted surgical platforms
US11559307B2 (en) 2017-12-28 2023-01-24 Cilag Gmbh International Method of robotic hub communication, detection, and control
US11529187B2 (en) 2017-12-28 2022-12-20 Cilag Gmbh International Surgical evacuation sensor arrangements
US11969142B2 (en) 2017-12-28 2024-04-30 Cilag Gmbh International Method of compressing tissue within a stapling device and simultaneously displaying the location of the tissue within the jaws
US11969216B2 (en) 2017-12-28 2024-04-30 Cilag Gmbh International Surgical network recommendations from real time analysis of procedure variables against a baseline highlighting differences from the optimal solution
US10695081B2 (en) 2017-12-28 2020-06-30 Ethicon Llc Controlling a surgical instrument according to sensed closure parameters
US11832899B2 (en) 2017-12-28 2023-12-05 Cilag Gmbh International Surgical systems with autonomously adjustable control programs
US11160605B2 (en) 2017-12-28 2021-11-02 Cilag Gmbh International Surgical evacuation sensing and motor control
US11818052B2 (en) 2017-12-28 2023-11-14 Cilag Gmbh International Surgical network determination of prioritization of communication, interaction, or processing based on system or device needs
US11423007B2 (en) 2017-12-28 2022-08-23 Cilag Gmbh International Adjustment of device control programs based on stratified contextual data in addition to the data
US11202570B2 (en) 2017-12-28 2021-12-21 Cilag Gmbh International Communication hub and storage device for storing parameters and status of a surgical device to be shared with cloud based analytics systems
US10987178B2 (en) 2017-12-28 2021-04-27 Ethicon Llc Surgical hub control arrangements
US11147607B2 (en) 2017-12-28 2021-10-19 Cilag Gmbh International Bipolar combination device that automatically adjusts pressure based on energy modality
US11166772B2 (en) 2017-12-28 2021-11-09 Cilag Gmbh International Surgical hub coordination of control and communication of operating room devices
US11419630B2 (en) 2017-12-28 2022-08-23 Cilag Gmbh International Surgical system distributed processing
US11026751B2 (en) 2017-12-28 2021-06-08 Cilag Gmbh International Display of alignment of staple cartridge to prior linear staple line
US11311306B2 (en) 2017-12-28 2022-04-26 Cilag Gmbh International Surgical systems for detecting end effector tissue distribution irregularities
US11424027B2 (en) 2017-12-28 2022-08-23 Cilag Gmbh International Method for operating surgical instrument systems
US11432885B2 (en) 2017-12-28 2022-09-06 Cilag Gmbh International Sensing arrangements for robot-assisted surgical platforms
US11864728B2 (en) 2017-12-28 2024-01-09 Cilag Gmbh International Characterization of tissue irregularities through the use of mono-chromatic light refractivity
US10849697B2 (en) 2017-12-28 2020-12-01 Ethicon Llc Cloud interface for coupled surgical devices
US11266468B2 (en) 2017-12-28 2022-03-08 Cilag Gmbh International Cooperative utilization of data derived from secondary sources by intelligent surgical hubs
US11410259B2 (en) 2017-12-28 2022-08-09 Cilag Gmbh International Adaptive control program updates for surgical devices
US10943454B2 (en) 2017-12-28 2021-03-09 Ethicon Llc Detection and escalation of security responses of surgical instruments to increasing severity threats
US11376002B2 (en) 2017-12-28 2022-07-05 Cilag Gmbh International Surgical instrument cartridge sensor assemblies
US11666331B2 (en) 2017-12-28 2023-06-06 Cilag Gmbh International Systems for detecting proximity of surgical end effector to cancerous tissue
US11786245B2 (en) 2017-12-28 2023-10-17 Cilag Gmbh International Surgical systems with prioritized data transmission capabilities
US11257589B2 (en) 2017-12-28 2022-02-22 Cilag Gmbh International Real-time analysis of comprehensive cost of all instrumentation used in surgery utilizing data fluidity to track instruments through stocking and in-house processes
US11273001B2 (en) 2017-12-28 2022-03-15 Cilag Gmbh International Surgical hub and modular device response adjustment based on situational awareness
US11540855B2 (en) 2017-12-28 2023-01-03 Cilag Gmbh International Controlling activation of an ultrasonic surgical instrument according to the presence of tissue
US11051876B2 (en) 2017-12-28 2021-07-06 Cilag Gmbh International Surgical evacuation flow paths
US20190201130A1 (en) * 2017-12-28 2019-07-04 Ethicon Llc Communication of data where a surgical network is using context of the data and requirements of a receiving system / user to influence inclusion or linkage of data and metadata to establish continuity
US20190201140A1 (en) * 2017-12-28 2019-07-04 Ethicon Llc Surgical hub situational awareness
US11234756B2 (en) 2017-12-28 2022-02-01 Cilag Gmbh International Powered surgical tool with predefined adjustable control algorithm for controlling end effector parameter
US11304720B2 (en) 2017-12-28 2022-04-19 Cilag Gmbh International Activation of energy devices
US11069012B2 (en) 2017-12-28 2021-07-20 Cilag Gmbh International Interactive surgical systems with condition handling of devices and data capabilities
US11304745B2 (en) 2017-12-28 2022-04-19 Cilag Gmbh International Surgical evacuation sensing and display
US11832840B2 (en) 2017-12-28 2023-12-05 Cilag Gmbh International Surgical instrument having a flexible circuit
US11464559B2 (en) 2017-12-28 2022-10-11 Cilag Gmbh International Estimating state of ultrasonic end effector and control system therefor
US10758310B2 (en) 2017-12-28 2020-09-01 Ethicon Llc Wireless pairing of a surgical device with another device within a sterile surgical field based on the usage and situational awareness of devices
US11903601B2 (en) 2017-12-28 2024-02-20 Cilag Gmbh International Surgical instrument comprising a plurality of drive systems
US11589888B2 (en) 2017-12-28 2023-02-28 Cilag Gmbh International Method for controlling smart energy devices
US11308075B2 (en) 2017-12-28 2022-04-19 Cilag Gmbh International Surgical network, instrument, and cloud responses based on validation of received dataset and authentication of its source and integrity
US11132462B2 (en) 2017-12-28 2021-09-28 Cilag Gmbh International Data stripping method to interrogate patient records and create anonymized record
US11304699B2 (en) 2017-12-28 2022-04-19 Cilag Gmbh International Method for adaptive control schemes for surgical network control and interaction
US11678881B2 (en) 2017-12-28 2023-06-20 Cilag Gmbh International Spatial awareness of surgical hubs in operating rooms
US11317937B2 (en) 2018-03-08 2022-05-03 Cilag Gmbh International Determining the state of an ultrasonic end effector
US11857152B2 (en) 2017-12-28 2024-01-02 Cilag Gmbh International Surgical hub spatial awareness to determine devices in operating theater
US11896443B2 (en) 2017-12-28 2024-02-13 Cilag Gmbh International Control of a surgical system through a surgical barrier
US11364075B2 (en) 2017-12-28 2022-06-21 Cilag Gmbh International Radio frequency energy device for delivering combined electrical signals
US11937769B2 (en) 2017-12-28 2024-03-26 Cilag Gmbh International Method of hub communication, processing, storage and display
US20190201042A1 (en) 2017-12-28 2019-07-04 Ethicon Llc Determining the state of an ultrasonic electromechanical system according to frequency shift
WO2019136062A1 (en) 2018-01-04 2019-07-11 Covidien Lp Systems and assemblies for mounting a surgical accessory to robotic surgical systems, and providing access therethrough
JP2021510224A (ja) 2018-01-10 2021-04-15 コヴィディエン リミテッド パートナーシップ 患者および手術ロボットを配置するためのガイダンス
US20190223961A1 (en) * 2018-01-19 2019-07-25 Verily Life Sciences Llc Step-based system for providing surgical intraoperative cues
US11967422B2 (en) * 2018-03-05 2024-04-23 Medtech S.A. Robotically-assisted surgical procedure feedback techniques
US11189379B2 (en) 2018-03-06 2021-11-30 Digital Surgery Limited Methods and systems for using multiple data structures to process surgical data
US11259830B2 (en) 2018-03-08 2022-03-01 Cilag Gmbh International Methods for controlling temperature in ultrasonic device
CN111787880A (zh) 2018-03-08 2020-10-16 柯惠Lp公司 手术机器人系统
US11678927B2 (en) 2018-03-08 2023-06-20 Cilag Gmbh International Detection of large vessels during parenchymal dissection using a smart blade
US11534196B2 (en) 2018-03-08 2022-12-27 Cilag Gmbh International Using spectroscopy to determine device use state in combo instrument
US11589865B2 (en) 2018-03-28 2023-02-28 Cilag Gmbh International Methods for controlling a powered surgical stapler that has separate rotary closure and firing systems
US11129611B2 (en) 2018-03-28 2021-09-28 Cilag Gmbh International Surgical staplers with arrangements for maintaining a firing member thereof in a locked configuration unless a compatible cartridge has been installed therein
US11207067B2 (en) 2018-03-28 2021-12-28 Cilag Gmbh International Surgical stapling device with separate rotary driven closure and firing systems and firing member that engages both jaws while firing
US11278280B2 (en) 2018-03-28 2022-03-22 Cilag Gmbh International Surgical instrument comprising a jaw closure lockout
US11219453B2 (en) 2018-03-28 2022-01-11 Cilag Gmbh International Surgical stapling devices with cartridge compatible closure and firing lockout arrangements
US11090047B2 (en) 2018-03-28 2021-08-17 Cilag Gmbh International Surgical instrument comprising an adaptive control system
US10973520B2 (en) 2018-03-28 2021-04-13 Ethicon Llc Surgical staple cartridge with firing member driven camming assembly that has an onboard tissue cutting feature
US11096688B2 (en) 2018-03-28 2021-08-24 Cilag Gmbh International Rotary driven firing members with different anvil and channel engagement features
US11471156B2 (en) 2018-03-28 2022-10-18 Cilag Gmbh International Surgical stapling devices with improved rotary driven closure systems
CN111989026A (zh) * 2018-04-19 2020-11-24 富士胶片株式会社 内窥镜装置、内窥镜操作方法及程序
US11232556B2 (en) 2018-04-20 2022-01-25 Verily Life Sciences Llc Surgical simulator providing labeled data
US11647888B2 (en) 2018-04-20 2023-05-16 Covidien Lp Compensation for observer movement in robotic surgical systems having stereoscopic displays
KR20210010871A (ko) 2018-05-18 2021-01-28 아우리스 헬스, 인코포레이티드 로봇식 원격작동 시스템을 위한 제어기
US11250726B2 (en) * 2018-05-24 2022-02-15 Verily Life Sciences Llc System for simulation of soft bodies
WO2019232552A1 (en) * 2018-05-30 2019-12-05 Intuitive Surgical Operations, Inc. Context-awareness systems and methods for a computer-assisted surgical system
KR102529390B1 (ko) 2018-06-14 2023-05-04 현대자동차 주식회사 차량용 변속장치
CN112105312A (zh) 2018-07-03 2020-12-18 柯惠Lp公司 用于在手术程序期间检测图像退化的系统、方法和计算机可读介质
JP2021182950A (ja) * 2018-08-17 2021-12-02 ソニーグループ株式会社 情報処理装置および方法
EP3852645A4 (en) 2018-09-12 2022-08-24 Orthogrid Systems, SAS INTRAOPERATIVE ARTIFICIAL INTELLIGENCE SURGICAL GUIDANCE SYSTEM AND METHOD OF USE
US11540794B2 (en) 2018-09-12 2023-01-03 Orthogrid Systesm Holdings, LLC Artificial intelligence intra-operative surgical guidance system and method of use
JP6902639B2 (ja) * 2018-09-25 2021-07-14 株式会社メディカロイド 手術システム
JP7325173B2 (ja) * 2018-10-06 2023-08-14 シスメックス株式会社 手術支援ロボットの遠隔支援方法、および遠隔支援システム
US11109746B2 (en) 2018-10-10 2021-09-07 Titan Medical Inc. Instrument insertion system, method, and apparatus for performing medical procedures
CN113039609B (zh) * 2018-10-12 2024-04-09 索尼集团公司 手术支持系统、数据处理设备和方法
US11586106B2 (en) 2018-12-28 2023-02-21 Titan Medical Inc. Imaging apparatus having configurable stereoscopic perspective
WO2020141468A1 (en) * 2019-01-03 2020-07-09 Ehe Innovations Private Limited Method and system for detecting position of a target area in a target subject
US11605161B2 (en) 2019-01-10 2023-03-14 Verily Life Sciences Llc Surgical workflow and activity detection based on surgical videos
US11717355B2 (en) 2019-01-29 2023-08-08 Covidien Lp Drive mechanisms for surgical instruments such as for use in robotic surgical systems
US11576733B2 (en) 2019-02-06 2023-02-14 Covidien Lp Robotic surgical assemblies including electrosurgical instruments having articulatable wrist assemblies
US11484372B2 (en) 2019-02-15 2022-11-01 Covidien Lp Articulation mechanisms for surgical instruments such as for use in robotic surgical systems
US11357503B2 (en) 2019-02-19 2022-06-14 Cilag Gmbh International Staple cartridge retainers with frangible retention features and methods of using same
US11317915B2 (en) 2019-02-19 2022-05-03 Cilag Gmbh International Universal cartridge based key feature that unlocks multiple lockout arrangements in different surgical staplers
US11331100B2 (en) 2019-02-19 2022-05-17 Cilag Gmbh International Staple cartridge retainer system with authentication keys
US11369377B2 (en) 2019-02-19 2022-06-28 Cilag Gmbh International Surgical stapling assembly with cartridge based retainer configured to unlock a firing lockout
US11751872B2 (en) 2019-02-19 2023-09-12 Cilag Gmbh International Insertable deactivator element for surgical stapler lockouts
US11484384B2 (en) 2019-02-21 2022-11-01 Theator inc. Compilation video of differing events in surgeries on different patients
AU2020224128B2 (en) 2019-02-21 2021-09-30 Theator inc. Systems and methods for analysis of surgical videos
US10779890B2 (en) * 2019-02-27 2020-09-22 Jared Weir System and method for performing joint replacement surgery using artificial neural network
US11540883B2 (en) * 2019-03-08 2023-01-03 Thomas Jefferson University Virtual reality training for medical events
DE102019203192A1 (de) * 2019-03-08 2020-09-10 Siemens Healthcare Gmbh Erzeugung eines digitalen Zwillings für medizinische Untersuchungen
US11348235B2 (en) * 2019-03-22 2022-05-31 Verily Life Sciences Llc Improving surgical video consumption by identifying useful segments in surgical videos
CN110211650A (zh) * 2019-05-30 2019-09-06 苏州爱医斯坦智能科技有限公司 手术富媒体电子病历自动监测识别记录的方法及装置
US10791301B1 (en) * 2019-06-13 2020-09-29 Verb Surgical Inc. Method and system for synchronizing procedure videos for comparative learning
USD964564S1 (en) 2019-06-25 2022-09-20 Cilag Gmbh International Surgical staple cartridge retainer with a closure system authentication key
USD952144S1 (en) 2019-06-25 2022-05-17 Cilag Gmbh International Surgical staple cartridge retainer with firing system authentication key
USD950728S1 (en) 2019-06-25 2022-05-03 Cilag Gmbh International Surgical staple cartridge
US11872007B2 (en) 2019-06-28 2024-01-16 Auris Health, Inc. Console overlay and methods of using same
EP3982863A4 (en) * 2019-07-15 2023-06-28 Corindus, Inc. Data capture and adaptive guidance for robotic procedures with an elongated medical device
CN111685895B (zh) * 2019-10-29 2021-07-20 成都博恩思医学机器人有限公司 一种手术机器人的手术器械类型自动识别系统
JP7128326B2 (ja) * 2020-02-21 2022-08-30 株式会社メディカロイド 手術システム
US11911120B2 (en) 2020-03-27 2024-02-27 Verb Surgical Inc. Training and feedback for a controller workspace boundary
WO2021207016A1 (en) * 2020-04-05 2021-10-14 Theator inc. Systems and methods for automating video data management during surgical procedures using artificial intelligence
US20210312949A1 (en) 2020-04-05 2021-10-07 Theator inc. Systems and methods for intraoperative video review
EP4138701A1 (en) * 2020-04-20 2023-03-01 Avail Medsystems, Inc. Systems and methods for video and audio analysis
US20230268051A1 (en) * 2020-06-30 2023-08-24 Purdue Research Foundation Artifically intelligent medical procedure assessment and intervention system
USD963851S1 (en) 2020-07-10 2022-09-13 Covidien Lp Port apparatus
JP2022020592A (ja) * 2020-07-20 2022-02-01 ソニーグループ株式会社 医療用アーム制御システム、医療用アーム制御方法、及びプログラム
US11871108B2 (en) * 2020-09-15 2024-01-09 Gopro, Inc. Integrated internal and removable battery power management for image capture device
WO2022106989A1 (en) * 2020-11-20 2022-05-27 Auris Health, Inc. Ai-assisted workflow segmentation
KR20230109712A (ko) * 2020-11-20 2023-07-20 아우리스 헬스, 인코포레이티드 자동화된 절차 평가
US20220384011A1 (en) * 2021-05-28 2022-12-01 Cilag GmbH Internation Efficiency of motion monitoring and analysis for a surgical procedure
US11948226B2 (en) 2021-05-28 2024-04-02 Covidien Lp Systems and methods for clinical workspace simulation
CN117693318A (zh) * 2021-07-19 2024-03-12 奥瑞斯健康公司 经皮医疗规程的阶段分割
WO2023084257A1 (en) * 2021-11-10 2023-05-19 Digital Surgery Limited Query similar cases based on video information
WO2023084260A1 (en) * 2021-11-10 2023-05-19 Digital Surgery Limited Removing redundant data from catalogue of surgical video
US11389248B1 (en) * 2021-12-14 2022-07-19 Ix Innovation Llc Surgical robot evolution and handoff
US11944508B1 (en) 2022-01-13 2024-04-02 Altair Innovations, LLC Augmented reality surgical assistance system
WO2023178102A1 (en) * 2022-03-16 2023-09-21 Intuitive Surgical Operations, Inc. Systems and methods for parameterizing medical procedures
US20230298336A1 (en) * 2022-03-21 2023-09-21 Verb Surgical Inc. Video-based surgical skill assessment using tool tracking
WO2023180963A1 (en) * 2022-03-23 2023-09-28 Verb Surgical Inc. Video-based analysis of stapling events during a surgical procedure using machine learning
WO2023185699A1 (zh) * 2022-03-26 2023-10-05 深圳市精锋医疗科技股份有限公司 一种手术机器人和控制方法

Family Cites Families (74)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0820894B2 (ja) 1987-07-01 1996-03-04 株式会社日立製作所 産業用ロボツトの動作制御方法
DE69331789T2 (de) * 1992-01-21 2003-03-13 Stanford Res Inst Int Endoskopisches chirurgisches Instrument
US5769640A (en) 1992-12-02 1998-06-23 Cybernet Systems Corporation Method and system for simulating medical procedures including virtual reality and control method and system for use therein
US5882206A (en) * 1995-03-29 1999-03-16 Gillio; Robert G. Virtual surgery system
US6074213A (en) * 1998-08-17 2000-06-13 Hon; David C. Fractional process simulator with remote apparatus for multi-locational training of medical teams
US6659939B2 (en) * 1998-11-20 2003-12-09 Intuitive Surgical, Inc. Cooperative minimally invasive telesurgical system
US8527094B2 (en) 1998-11-20 2013-09-03 Intuitive Surgical Operations, Inc. Multi-user medical robotic system for collaboration or training in minimally invasive surgical procedures
US6493608B1 (en) 1999-04-07 2002-12-10 Intuitive Surgical, Inc. Aspects of a control system of a minimally invasive surgical apparatus
US6573889B1 (en) 1999-02-08 2003-06-03 Adobe Systems Incorporated Analytic warping
JP2000287986A (ja) 1999-04-01 2000-10-17 Olympus Optical Co Ltd 手術具
US7236618B1 (en) * 2000-07-07 2007-06-26 Chee-Kong Chui Virtual surgery system with force feedback
JP4032410B2 (ja) 2001-11-09 2008-01-16 ソニー株式会社 情報処理システムおよび情報処理方法、プログラムおよび記録媒体、並びに情報処理装置
US8010180B2 (en) 2002-03-06 2011-08-30 Mako Surgical Corp. Haptic guidance system and method
US7831292B2 (en) 2002-03-06 2010-11-09 Mako Surgical Corp. Guidance system and method for surgical procedures with improved feedback
US20100312129A1 (en) 2005-01-26 2010-12-09 Schecter Stuart O Cardiovascular haptic handle system
CA2826925C (en) 2005-02-22 2017-01-24 Mako Surgical Corp. Haptic guidance system and method
US8073528B2 (en) 2007-09-30 2011-12-06 Intuitive Surgical Operations, Inc. Tool tracking systems, methods and computer products for image guided surgery
US8398541B2 (en) 2006-06-06 2013-03-19 Intuitive Surgical Operations, Inc. Interactive user interfaces for robotic minimally invasive surgical systems
US20090017430A1 (en) * 2007-05-15 2009-01-15 Stryker Trauma Gmbh Virtual surgical training tool
JP5394622B2 (ja) * 2007-07-31 2014-01-22 オリンパスメディカルシステムズ株式会社 医用ガイドシステム
FR2920086A1 (fr) * 2007-08-24 2009-02-27 Univ Grenoble 1 Systeme et procede d'analyse pour une operation chirurgicale par endoscopie
US9161817B2 (en) 2008-03-27 2015-10-20 St. Jude Medical, Atrial Fibrillation Division, Inc. Robotic catheter system
US8317744B2 (en) 2008-03-27 2012-11-27 St. Jude Medical, Atrial Fibrillation Division, Inc. Robotic catheter manipulator assembly
US8864652B2 (en) 2008-06-27 2014-10-21 Intuitive Surgical Operations, Inc. Medical robotic system providing computer generated auxiliary views of a camera instrument for controlling the positioning and orienting of its tip
US20100248200A1 (en) * 2008-09-26 2010-09-30 Ladak Hanif M System, Method and Computer Program for Virtual Reality Simulation for Medical Procedure Skills Training
WO2010080741A1 (en) 2009-01-06 2010-07-15 Siemens Healthcare Diagnostics Inc. Methods and apparatus for automated detection of the presence and types of caps on vials and containers
US8126736B2 (en) 2009-01-23 2012-02-28 Warsaw Orthopedic, Inc. Methods and systems for diagnosing, treating, or tracking spinal disorders
CN102365061B (zh) 2009-02-25 2015-06-17 捷迈有限公司 定制矫形植入物和相关方法
WO2013130895A1 (en) 2012-02-29 2013-09-06 Aquabeam, Llc Automated image-guided tissue resection and treatment
CN102362302B (zh) 2009-03-20 2016-01-06 约翰斯·霍普金斯大学 用于量化技能的方法及系统
US8311791B1 (en) 2009-10-19 2012-11-13 Surgical Theater LLC Method and system for simulating surgical procedures
US8521331B2 (en) * 2009-11-13 2013-08-27 Intuitive Surgical Operations, Inc. Patient-side surgeon interface for a minimally invasive, teleoperated surgical instrument
US9341704B2 (en) 2010-04-13 2016-05-17 Frederic Picard Methods and systems for object tracking
US20110295268A1 (en) 2010-05-28 2011-12-01 Hansen Medical, Inc. System and method for automated master input scaling
US20120178069A1 (en) * 2010-06-15 2012-07-12 Mckenzie Frederic D Surgical Procedure Planning and Training Tool
JP2012065698A (ja) 2010-09-21 2012-04-05 Fujifilm Corp 手術支援システムおよびそれを用いた手術支援方法
WO2012060901A1 (en) * 2010-11-04 2012-05-10 The Johns Hopkins University System and method for the evaluation of or improvement of minimally invasive surgery skills
EP2637594A4 (en) 2010-11-11 2015-05-06 Univ Johns Hopkins ROBOT SYSTEMS FOR HUMAN MACHINE COLLABORATION
US20130307955A1 (en) 2010-12-13 2013-11-21 Ortho Kinematics, Inc., Methods, systems and devices for a clinical data reporting and surgical navigation
US8900131B2 (en) 2011-05-13 2014-12-02 Intuitive Surgical Operations, Inc. Medical system providing dynamic registration of a model of an anatomical structure for image-guided surgery
US9498231B2 (en) 2011-06-27 2016-11-22 Board Of Regents Of The University Of Nebraska On-board tool tracking system and methods of computer assisted surgery
US20140228860A1 (en) 2011-08-03 2014-08-14 Conformis, Inc. Automated Design, Selection, Manufacturing and Implantation of Patient-Adapted and Improved Articular Implants, Designs and Related Guide Tools
US9554866B2 (en) 2011-08-09 2017-01-31 Covidien Lp Apparatus and method for using a remote control system in surgical procedures
US9268915B2 (en) 2011-09-25 2016-02-23 Theranos, Inc. Systems and methods for diagnosis or treatment
US8992230B2 (en) * 2012-01-23 2015-03-31 Virtamed Ag Medical training systems and methods
CN104271046B (zh) 2012-03-07 2018-01-16 齐特奥股份有限公司 用于跟踪和引导传感器和仪器的方法和系统
US9198714B2 (en) 2012-06-29 2015-12-01 Ethicon Endo-Surgery, Inc. Haptic feedback devices for surgical robot
US9220570B2 (en) 2012-06-29 2015-12-29 Children's National Medical Center Automated surgical and interventional procedures
EP2879608B1 (en) 2012-08-03 2020-03-18 Stryker Corporation Systems for robotic surgery
KR101997566B1 (ko) 2012-08-07 2019-07-08 삼성전자주식회사 수술 로봇 시스템 및 그 제어방법
US20140081659A1 (en) 2012-09-17 2014-03-20 Depuy Orthopaedics, Inc. Systems and methods for surgical and interventional planning, support, post-operative follow-up, and functional recovery tracking
JP5719819B2 (ja) * 2012-09-28 2015-05-20 日本光電工業株式会社 手術支援システム
EP2925250B1 (en) * 2012-11-30 2017-07-26 Olympus Corporation Operation support system
EP2925495B1 (en) * 2012-12-03 2021-02-03 ABB Schweiz AG Teleoperation of machines having at least one actuated mechanism
US10456062B2 (en) 2013-01-11 2019-10-29 The Cleveland Clinic Foundation Alignment of manipulable sensor assembly
CN103077633A (zh) * 2013-01-11 2013-05-01 深圳超多维光电子有限公司 一种立体虚拟培训系统和方法
CA2897897C (en) 2013-01-16 2023-09-05 Medaware Ltd. Medical database and system
CN103961178B (zh) * 2013-01-30 2016-05-11 深圳先进技术研究院 远程手术规划与导航系统
EP3459468B1 (en) 2013-03-13 2020-07-15 Stryker Corporation Method and system for arranging objects in an operating room
AU2014248758B2 (en) 2013-03-13 2018-04-12 Stryker Corporation System for establishing virtual constraint boundaries
WO2014152668A1 (en) * 2013-03-15 2014-09-25 Ratcliffe Mark B System and method for performing virtual surgery
SG10201707562PA (en) 2013-03-15 2017-11-29 Synaptive Medical Barbados Inc Intramodal synchronization of surgical data
JP6473919B2 (ja) 2013-06-24 2019-02-27 パナソニックIpマネジメント株式会社 マスタスレーブロボットの制御装置及び制御方法、ロボット、マスタスレーブロボットの制御プログラム、並びに、マスタスレーブロボットの制御用集積電子回路
FR3009271B1 (fr) 2013-08-02 2016-11-04 Thales Sa Dispositif de remorquage a chaumard en deux parties
CA2929282A1 (en) 2013-10-31 2015-05-07 Health Research, Inc. System and method for a situation and awareness-based intelligent surgical system
EP4184483A1 (en) 2013-12-20 2023-05-24 Intuitive Surgical Operations, Inc. Simulator system for medical procedure training
US10130436B2 (en) 2014-03-17 2018-11-20 Intuitive Surgical Operations, Inc. Automated structure with pre-established arm positions in a teleoperated medical system
KR102365191B1 (ko) 2014-10-20 2022-02-18 삼성전자주식회사 사용자의 동작을 인식하기 위한 장치 및 방법
KR20160066928A (ko) * 2014-12-03 2016-06-13 삼성전자주식회사 컴퓨터 보조 진단 장치 및 방법, 프로브의 초음파 송신 패턴 조절 장치
KR20230054760A (ko) 2015-06-09 2023-04-25 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 수술 절차 아틀라스를 갖는 수술시스템의 구성
EP3373834A4 (en) 2015-11-12 2019-07-31 Intuitive Surgical Operations Inc. SURGICAL SYSTEM WITH TRAINING OR ASSISTANCE FUNCTION
US20170367766A1 (en) 2016-03-14 2017-12-28 Mohamed R. Mahfouz Ultra-wideband positioning for wireless ultrasound tracking and communication
FR3059541B1 (fr) * 2016-12-07 2021-05-07 Bay Labs Inc Navigation guidee d'une sonde ultrason
KR101842372B1 (ko) 2016-12-23 2018-03-27 한양로보틱스 주식회사 사출성형기의 원격관제시스템

Also Published As

Publication number Publication date
US10912619B2 (en) 2021-02-09
KR20180068336A (ko) 2018-06-21
CN108472084A (zh) 2018-08-31
EP3373834A1 (en) 2018-09-19
US11751957B2 (en) 2023-09-12
JP2018538037A (ja) 2018-12-27
US20190090969A1 (en) 2019-03-28
US20210186634A1 (en) 2021-06-24
CN108472084B (zh) 2021-08-27
CN113456241A (zh) 2021-10-01
US20240115333A1 (en) 2024-04-11
WO2017083768A1 (en) 2017-05-18
JP2021191519A (ja) 2021-12-16
EP3373834A4 (en) 2019-07-31

Similar Documents

Publication Publication Date Title
US11751957B2 (en) Surgical system with training or assist functions
US11737841B2 (en) Configuring surgical system with surgical procedures atlas
JP7440262B2 (ja) 患者健康記録ベース器具制御を備える遠隔操作手術システム
KR102654065B1 (ko) 스캔 기반 배치를 갖는 원격조작 수술 시스템
KR102633401B1 (ko) 외과의 숙련도 레벨 기반 기구 제어를 갖는 원격조작 수술 시스템
KR20150004726A (ko) 최소 침습 수술 기량의 평가 또는 개선을 위한 시스템 및 방법
Long et al. Integrating artificial intelligence and augmented reality in robotic surgery: An initial dvrk study using a surgical education scenario
Lo Interface Design for a Virtual Reality-enhanced Image-guided Surgery Platform Using Surgeon-controlled Viewing Techniques

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230810

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240312