JP2019526328A - 手術ミスを防止するためのシステムおよび方法 - Google Patents

手術ミスを防止するためのシステムおよび方法 Download PDF

Info

Publication number
JP2019526328A
JP2019526328A JP2019510306A JP2019510306A JP2019526328A JP 2019526328 A JP2019526328 A JP 2019526328A JP 2019510306 A JP2019510306 A JP 2019510306A JP 2019510306 A JP2019510306 A JP 2019510306A JP 2019526328 A JP2019526328 A JP 2019526328A
Authority
JP
Japan
Prior art keywords
medical procedure
medical
machine learning
procedure
server
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019510306A
Other languages
English (en)
Other versions
JP6784829B2 (ja
Inventor
ケー. バラール,ジョエル
ケー. バラール,ジョエル
ハベッケ,マーティン
ピポニ,ダニエル
テセール,トーマス
Original Assignee
ヴェリリー ライフ サイエンシズ エルエルシー
ヴェリリー ライフ サイエンシズ エルエルシー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ヴェリリー ライフ サイエンシズ エルエルシー, ヴェリリー ライフ サイエンシズ エルエルシー filed Critical ヴェリリー ライフ サイエンシズ エルエルシー
Publication of JP2019526328A publication Critical patent/JP2019526328A/ja
Application granted granted Critical
Publication of JP6784829B2 publication Critical patent/JP6784829B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1628Programme controls characterised by the control loop
    • B25J9/163Programme controls characterised by the control loop learning, adaptive, model based, rule based expert control
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/0265Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
    • G05B13/028Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion using expert systems only
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/04Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric involving the use of models or simulators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/50ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • A61B2034/254User interfaces for surgical systems being adapted depending on the stage of the surgical procedure
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B34/32Surgical robots operating autonomously
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B34/37Leader-follower robots
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40418Presurgical planning, on screen indicate regions to be operated on
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/45Nc applications
    • G05B2219/45117Medical, radio surgery manipulator

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Software Systems (AREA)
  • Robotics (AREA)
  • Pathology (AREA)
  • Databases & Information Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Automation & Control Theory (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Instructional Devices (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Endoscopes (AREA)

Abstract

【課題】 医療処置中の医療従事者に医療処置システムがサポートおよび/またはガイダンスを提供することである。【解決手段】 手術ミスを防止するために医療処置中に外科医をガイドするための装置、システム、およびプロセスが説明される。システムは、複数の様々な医療処置システムにおいて行われる医療処置中に捕捉された医療処置データを少なくとも用いて1または複数の機械学習医療処置モデルを生成する機械学習医療処置サーバを含んでよい。またシステムは、機械学習医療処置サーバから選択された機械学習医療処置モデルを受信し、対応する医療処置中に医療処置システムの1または複数の動作を制御するために選択された機械学習医療処置モデルを用いる、機械学習医療処置サーバと通信可能に結合された医療処置システムも含んでよい。【選択図】図2

Description

[0001] 本出願は、その内容が参照によって本願に組み込まれる、2016年9月6日に出願された米国特許仮出願第62/383,838号の利益を主張するものである。
[0002] 本開示は、一般に医療用手術システムに関し、限定されるものではないが特に、手術ミスを防止するために医療処置中に外科医をガイドするためのシステムおよび方法に関する。
[0003] 手術における多くの合併症は、外科的処置中の外科医の誤った判断によってもたらされる。誤った判断の2つの主な原因は、重要な解剖学的構造の誤識別(たとえば神経血管束をそれと識別しなかったことにより切断すること)および必要な必須条件に背くこと(たとえば必要なクリップ全てを設置する前に切断すること)である。また、特定の医療従事者の経験不足によって、手術ステップが誤った順序で行われることがある。また他のミスも外科的処置中に生じ得る。
[0004] これらの問題は、医療従事者が低侵襲性手術(MIS)および/またはロボット支援手術を行う場合、悪化し得る。たとえば、患者の解剖学的構造に対する外科医の非常に限られた内視鏡視野ならびに感覚フィードバックの欠如により、MISおよび/またはロボット処置において解剖学的構造の誤識別がさらに起こりやすい。
[0005] 本発明の非限定的かつ非網羅的な実施形態は、以下の図面を参照して説明され、図面において、特に記載しない限り、様々な図を通して同類の参照番号は同類の要素を指す。図面は必ずしも一定の比率で拡大縮小されず、代わりに説明されている原理が強調されている。
[0006]医療処置システムに機械学習モデルベースのガイダンスおよびサポートを提供することによって外科的処置中の医療ミスを防止するための例示的なシステムアーキテクチャ100のブロック図である。 [0007]医療処置システムおよび機械学習モデル医療処置サーバの1つの実施形態のブロック図である。 [0008]本開示の実施形態に係る、医療処置システムにガイダンスおよびサポートを提供するためのプロセスを示すフローチャートである。 [0009]本開示の実施形態に係る、ML医療処置モデルを訓練するためのプロセスを示すフローチャートである。 [0010]本発明とともに用いられ得るコンピュータシステムの1つの実施形態である。 [0011]例示的な医療処置中に医療処置システムによって提供される例示的なユーザインタフェースを示す。 [0011]例示的な医療処置中に医療処置システムによって提供される例示的なユーザインタフェースを示す。 [0011]例示的な医療処置中に医療処置システムによって提供される例示的なユーザインタフェースを示す。
[0012] 本明細書において、医療処置中の医療従事者に医療処置システムがサポートおよび/またはガイダンスを提供することを可能にする、医療処置から機械学習ベースモデルを生成するための装置、システム、およびプロセスの実施形態が説明される。以下の説明において、複数の細部が記載される。しかし本開示の利益を得る当業者には理解されるように、本発明は、これら特定の細部なしでも実施され得る。いくつかの例において、周知の構造およびデバイスは、本発明を不明瞭にしないように、詳細にではなくブロック図形式で示される。
[0013] 以下に続く詳細な説明のいくつかの部分は、コンピュータメモリ内のデータビットに対する演算のアルゴリズムおよびシンボル表現の観点から提示される。アルゴリズム的説明および表現は、データ処理技術者が他の当該技術者に対して自身の研究の大意を最も効果的に伝えるために用いる手段である。アルゴリズムは本明細書で、また一般に、所望の結果を導く自己矛盾のない一連のステップと考えられる。ステップは、物理量の物理的操作を必要とするものである。必ずではないが多くの場合、これらの量は、格納、伝送、結合、比較、および他の操作をされることが可能な電気または磁気信号の形式を取る。主に一般的な用法により、これらの信号をビット、値、要素、記号、符号、項、数などと称することが時に便利であると分かっている。
[0014] ただし、これらの用語および同類の用語は全て、適当な物理量と関連付けられ、これらの量に適用される都合の良い符号にすぎないことに留意すべきである。特に記載されない限り、以下の説明から明らかであるように、本説明を通して、たとえば「生成する」、「受信する」、「制御する」、「防止する」、「追跡する」、「可能にする」、「提供する」、「押し上げる」などの用語を用いる説明は、コンピュータシステムのレジスタおよびメモリ内で物理(たとえば電子)量として表現されたデータを操作し、コンピュータシステムメモリまたはレジスタまたは他のそのような情報ストレージ、伝送、または表示デバイス内で同様に物理量として表現される他のデータに変換するコンピュータシステムまたは同様の電子コンピューティングデバイスのアクションおよびプロセスを指すことが理解される。
[0015] また本発明は、本明細書における動作を実行するための装置にも関する。この装置は、必要な目的のために特別に構成されてよく、またはコンピュータに格納されたコンピュータプログラムによって選択的にアクティブ化または再構成される汎用コンピュータを備えてよい。そのようなコンピュータプログラムは、限定されるものではないがたとえば、フロッピーディスク、光ディスク、CD−ROM、および光磁気ディスクを含む任意の種類のディスク、読取専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、EPROM、EEPROM、磁気または光カード、または電子命令を格納するために適した任意の種類の媒体などのコンピュータ可読記憶媒体に格納され得る。
[0016] 本明細書に提示されるアルゴリズムおよびディスプレイは、本質的に任意の特定のコンピュータまたは他の装置に関連するものではない。様々な汎用システムが、本明細書の教示に係るプログラムとともに用いられてよく、あるいは必要な方法ステップを実行するように特化した装置を構成するために便利であると分かる。様々なこれらのシステムに必要な構造は、以下の説明から明らかになる。加えて、本発明は、任意の特定のプログラミング言語を参照して説明されるものではない。理解されるように、本明細書で説明されるような本発明の教示を実装するために様々なプログラミング言語が用いられ得る。
[0017] 図1は、医療処置システムに機械学習モデルベースのガイダンスおよびサポートを提供することによって、外科的処置における医療ミスを防止するための例示的なシステムアーキテクチャ100のブロック図である。1つの実施形態において、システムは、機械学習(ML)医療処置サーバ110、および1または複数の医療処置システム(たとえば医療処置システム140〜医療処置システム140−N)を含む。1つの実施形態において、医療処置システム140〜140−Nの各々は、たとえばパーソナルコンピュータ、専用コンピュータ、コンピューティング機器などのコンピュータ処理システムであってよい。ML医療処置サーバ110もまた、たとえば1または複数のサーバコンピュータ、デスクトップコンピュータなどのコンピューティングシステムであってよい。
[0018] 医療処置システム140〜140−NおよびML医療処置サーバ110は、情報を交換するために標準プロトコルのいずれかを用いて通信するネットワーク102に結合され得る。1つの実施形態において、医療処置システムは、たとえばワイファイ接続などの無線接続を介してネットワーク102と結合される。医療処置システム140〜140−NおよびML医療処置サーバ110は、1つのローカルエリアネットワーク(LAN)上で実行してよく、同じ物理または論理システム、または異なる物理または論理システムに組み込まれ得る。あるいは、医療処置システム140〜140−NおよびML医療処置サーバ110の各々は、インターネットを介して互いに結合され得るがファイヤウォール、ルータ、および/または他のネットワークデバイスによって分離され得る異なるLAN、広域ネットワーク、セルラ通信ネットワークなどに常駐してよい。ただし、たとえばホスト型ネットワーク、分散ネットワーク、集中ネットワークなどを含む他の様々なネットワーク構成が用いられてもよい。
[0019] 医療処置システム140〜140−Nは、外科的処置中に医療従事者にガイダンスおよびサポートを提供する役割を担う。実施形態において、以下で詳しく説明するように、各医療処置システムは、たとえば立体視内視鏡、ロボット制御医療用器具(たとえばキャリパ、スプレッダ、カッタなど)など1または複数の医療用具と結合され得る。各医療処置システムは、たとえば医療用具によって収集されたデータ(たとえば内視鏡によって捕捉された患者の解剖学的構造の視野)を表示し、触覚フィードバックを提供し(たとえば視覚、聴覚、または感覚アラームを作動させ)、追加のデータ(たとえば術前医療画像、患者の既往歴、患者の生体情報など)へのアクセスを可能にし、追加の(たとえば患者が載置された台、ロボット手術機器のアームなどの)視覚化を提供するグラフィカルユーザインタフェースならびに他のインタフェースなど、1または複数のユーザインタフェースとも結合され得る。実施形態において、各医療処置システムは、所望の使用法/実行される処置に基づいて、様々な医療用具およびユーザインタフェースのセットを有してよい。図1に関する以下の説明は、医療処置システム140〜140−Nの1つの実施形態として医療処置システム140を説明する。
[0020] 医療処置システム140は、1または複数のユーザインタフェースを介して、様々な患者固有情報を提供する、たとえば年齢、性別、肥満度指数(BMI)、既知の医療/健康状態などの患者固有要因の詳述を受信する。また医療処置システム140は、行うべき医療処置の詳述も受信する。処置および患者固有情報に基づいて、医療処置システムは、処置およびケース特有ML医療処置モデルを医療処置システム140のモデルストア(たとえばML医療処置モデルデータベース)から呼び出し、または処置およびケース特有ML医療処置モデルをML医療処置システム110から要求してよい。
[0021] 1つの実施形態において、医療処置(たとえば手術、内視鏡検査、介入的放射線治療など)中、医療処置システム140は、医療処置中に医療用具の1または複数によって捕捉されたセンサデータを取り込む。センサデータは、たとえば患者の解剖学的構造(複数も可)の立体画像、ロボット器具の速度、加速度、回転、方向などを示すテレメトリデータ、非ロボット器具(たとえば医療従事者が保持し操作する器具)のテレメトリデータなどを含んでよい。医療処置システム140は、ML医療処置モデルを用いて、受信したセンサデータを分析し、たとえば医療処置の進捗を追跡し、医療処置中に行われた行動を識別し、所与の医療処置に関する所定の一連のステップにおけるステップと識別した行動とを合致させ、ケース特有および/または行動特有情報を前提として一連のステップを動的に更新する。
[0022] 1つの実施形態において、医療処置のステップを識別および追跡することにより、医療処置システム140は、医療処置を行う1または複数の医療従事者へガイダンスおよび意思決定サポートを提供することが可能である。これは、医療処置の次のステップ(複数も可)の提案、次のステップのグラフィック表示、重要な情報のリマインダの生成(たとえば「次の切開の前に構造XYZを識別しましたか」)、重要な情報のグラフィック表示(たとえば構造XYZの視覚図示)、行動が所定の一連のステップにおける予定ステップから逸脱した場合の通知、医療用具を作動させる前に確認を要求すること(たとえば、ステップの逸脱未遂または患者の解剖構造領域への進入を検出し、医療用具を停止させ、行動を進行させる前に確認を要求すること)、医療用具が患者の解剖構造の特定領域に進入することを妨げる「飛行禁止」領域を実施すること、センサデータ(たとえば速度、加速度、移動の周期性、移動の方向および深さなど)に基づいて異常行為を警告すること、履歴情報に基づいて異常挙動を警告すること(たとえば、疲労による震え、動作範囲の増加などを検出することなど、自身の過去の挙動と一致しないように行動している外科医に警告すること)、ならびに作業中の医療従事者をサポートするための他の行動の1または複数を含んでよい。この情報を、医療処置を行う1または複数の医療従事者に提供することによって、医療処置システム140は、医療処置中にガイダンスを提供し、ミスを防止することによって医療従事者を支援し、上述したガイダンスおよび支援を通して医療従事者の訓練を補助することなどができる。
[0023] 1つの実施形態において、ML医療処置サーバ110は、医療処置システム140〜140−Nによって用いられるML医療処置モデルを生成する役割を担う。1つの実施形態において、ML医療処置サーバ110は、処置、ケース、および患者属性固有の医療処置モデルを訓練する。訓練は、過去の医療処置の訓練データの複数のセットにおける分析に基づいて機械学習モデルを実行することを含んでよく、訓練データは、視覚情報(たとえば解剖学的構造を識別するために内視鏡の視覚システムによって捕捉されたデジタル画像/モノまたはステレオビデオ)、センサ情報(たとえば、識別された解剖学的構造に対する速度、切開の深さ、広がりの幅といった医療用具属性)、医療処置におけるステップおよび/またはステップからの逸脱、ベンチマーク情報(たとえば予定最大および最小期間、用具使用法、予定変動などを有する一連のステップ)、患者固有情報(たとえば年齢、性別、BMI、関連既往歴など)、医療処置データのマニュアル注釈(たとえば、処置および/または処置のステップにおける解剖学的構造の重要ステップの注釈)医療処置のステップ/段階の時間的注釈、ならびに他の関連情報を含んでよい。
[0024] ML医療処置サーバ110は、訓練セットを用いて、ML医療処置モデルを生成する。1つの実施形態において、医療処置モデルは、たとえば医療処置における現在のステップを識別するために用いられるステップ識別分類子(たとえば現在のステップはXであり、次のステップは潜在的逸脱Zを有するYである)、入力ビデオまたは静止画像データに基づいて医療処置中に1または複数の解剖学的構造を識別するために用いられる解剖構造分類子(たとえば患者の動脈、臓器などの識別)、および医療用具センサデータに基づいて医療処置中に適切および不適切な用具の使用法を識別する1または複数の用具分類子(たとえば、予定の切開深さ、用具移動(複数も可)方向、速度、加速度などの識別)といった複数の分類子を含む。1つの実施形態において、訓練セットは、正の成果(たとえば、外科的処置が成功した場合)を有する訓練セット、ならびに負の成果(たとえば実際の手術における誤り、最適以下の成果、合併症、死体における人為的ミスなど)を有する訓練セットを含んでよい。1つの実施形態において、ML医療処置サーバ110は、医療処置システムの1または複数によって行われた医療処置中に捕捉されたデータを有する訓練セット、新たに生成された正/負の訓練セットなどに基づいて、既存のML医療処置モデルを定期的に改良する。この医療処置システムからの新たなデータの継続的ストリームは、ML医療処置モデルの分類子を定期的に再訓練および改善するために用いられる。
[0025] 1つの実施形態において、ML医療処置サーバ110は、各モデルに関する分類子を含む訓練後の医療処置モデルを医療処置システム140〜140−Nへ送信する。モデルは、たとえば特定の特徴を有する患者に対して行うべき特定の処置に関するモデルの要求、特定の処置に関する全てのモデルの要求、医療処置の範囲に関するモデルのライブラリなど、医療処置システムからの要求に応答して送信され得る。また、ML医療処置サーバ110は、新たに受信した訓練データに基づいて、1または複数の過去に提供されたML医療処置モデルに更新を提供してよい。1つの実施形態において、更新後のML医療処置モデルにおける改善された分類子は、1または複数の医療処置システムへ定期的に押し上げられる。その結果、潜在的に大きなグループの医療従事者の知識および経験が収集され、合併され、知識ベース(たとえば訓練後のML医療処置モデル)に組み込まれることにより、医療処置中のガイドおよびミスの防止によって医療処置システムを用いる全ての医療従事者に利益がもたらされる。
[0026] 図2は、医療処置システムおよび機械学習医療処置サーバの1つの実施形態200のブロック図である。医療処置システム240およびML医療処置サーバ210は、図1において上述した医療処置システム(たとえば140〜140−N)およびML医療処置サーバ110に関する追加の細部を提供する。
[0027] 1つの実施形態において、ML医療処置サーバ210は、機械学習訓練エンジン212、訓練データの複数のセットを格納するデータストア214、訓練後の機械学習モデル(たとえばモデルおよびそれらの各分類子)のデータストア216、およびフロントエンドインタフェース218を含む。1つの実施形態において、医療処置システム240は、バックエンドインタフェース242、訓練後のMLM(複数も可)のデータストア246、MLMベース処置エンジン250、1または複数の医療用具(複数も可)260との用具インタフェース252、およびユーザインタフェース270と結合されたユーザインタフェースコントローラ248を含む。1つの実施形態において、医療処置システム240およびML医療処置サーバ210は、様々なネットワーク202および図1において上述したようなネットワーク構成を介して互いに通信する。
[0028] ML医療処置サーバ210は、実施形態において、たとえばサーバコンピュータシステム、デスクトップコンピュータ、分散コンピュータシステムなどのコンピューティングデバイス、ならびに他のコンピューティングデバイスおよび構成において実装され得る。1つの実施形態において、機械学習訓練エンジン212は、データストア216において維持される訓練後のMLM(複数も可)を生成する。実施形態において、機械学習訓練エンジン212は、複数の訓練セット(たとえば、正の成果を有する訓練データ、誤りおよび/または負の成果を示す訓練データ、および1または複数の医療処置システムによって捕捉されたフロントエンド訓練データ)にアクセスする。機械学習訓練エンジン212は、1または複数の機械学習技術を用いて、医療処置システム240において行われる医療処置中に使用するためのML医療処置モデル分類子(たとえば図1において上述したステップ識別分類子、解剖構造分類子、および1または複数の用具分類子)を訓練してよい。たとえば機械学習訓練エンジン212は、ステップ識別分類子を生成するために隠れマルコフモデルを用いてデータストア214内の訓練セットデータのコーパスを分析してよい。他の例として、機械学習訓練エンジン212は、ステップ識別分類子、解剖構造分類子、およびツール分類子を生成するためにディープニューラルネットワークを用いてデータストア214内の訓練セットデータのコーパスを分析してよい。本明細書で説明されるMLM分類子を生成するために、他の機械学習技術が用いられてもよい。
[0029] 1つの実施形態において、機械学習訓練エンジン212によって訓練が完了すると、訓練後の分類子を含むML医療処置モデルがデータストア216に格納される。1つの実施形態において、データストア216は、複数の処置および患者固有ML医療措置モデルを維持する。たとえば、様々な特徴(たとえば年齢、性別、BMI、関連既往歴など)を有する患者に関する各処置について、様々なML医療処置モデルが維持され得る。ただし、特徴のセットおよび/または範囲が特定のML医療処置モデルに関連付けられ、ML医療処置モデルは患者固有情報を用いて構成され得るので、様々なML医療処置モデルが必ずしも患者の特徴の全ての組み合わせについて維持されるのではない。また、本明細書で説明されるように、機械学習訓練エンジン212によって実行される訓練は、1または複数の医療処置システム(たとえば医療処置システム240)において捕捉された医療処置データに基づいてデータストア216内のML医療処置モデルの分類子を更新および/または改良するために定期的に実行され得る。
[0030] 1つの実施形態において、フロントエンドインタフェース218は、医療処置システム240の要求に応答して、またはML医療処置モデルの更新に応答して、バックエンドインタフェース242を介して医療処置システム240へ1または複数のML医療処置モデルを定期的に通信する。医療処置システム240は、受信したML医療処置モデルを、医療処置中に用いるために訓練後のMLM(複数も可)データストア246に格納する。
[0031] 1つの実施形態において、1または複数の医療従事者は、ユーザインタフェース270および医療用具(複数も可)260を用いて医療処置を行うために、医療処置システム240とインタラクトしてよい。ユーザインタフェース270は、たとえばグラフィックユーザインタフェース、オーディオユーザインタフェース、触覚フィードバックシステム、仮想現実インタフェース、ユーザ制御メカニズム(たとえばジョイスティック、ナビゲーション)など、医療処置システム240との1または複数のインタフェースを含んでよい。1または複数の医療用具(複数も可)260は、たとえば選択された処置に基づいて医療処置システム240と選択的に結合されてよく、最小侵襲性医療用具(たとえば内視鏡、皮下注射器、電極など)、ロボット支援ツール(たとえばユーザインタフェース270を介して医療従事者が制御することができる電動器具)、自律ツール(たとえば訓練後のML医療処置モデルの命令に基づいて医療従事者が介入せずに作動する医療用具)、ならびに他の種類の医療用具260を含んでよい。
[0032] ユーザインタフェース270は、処置が選択され、選択された処置に関連する患者属性が入力されることを可能にする。他の実施形態において、処置および/または患者属性は、医療処置の開始時に捕捉されたビデオまたは画像データを分析するML医療処置モデル(たとえば選択モデル)を用いて自動的に認識され得る。処置および患者属性に基づいて、MLMベース処置エンジン250は、訓練後のMLM(複数も可)データストア246から適切なML医療処置モデルを選択する。1つの実施形態において、選択されたML医療処置モデルは、医療従事者がそのモデルを許諾または拒絶し、また特定の患者属性を用いてモデルを設定し、処置オプションを用いてモデルを設定することなどを可能にするために、ユーザインタフェース270を介して医療従事者に表示され得る。
[0033] 1つの実施形態において、医療処置中、MLMベース処置エンジン250は、選択されたML医療処置モデルの分類子を用いて、処置におけるステップを識別し、処置を受けている患者の解剖学的構造を識別し、および/または適切な医療用具260の使用法を識別する。1つの実施形態において、MLMベース処置エンジン250によって作成された様々な分類子は、医療用具260の受信センサ入力に基づく。たとえば、立体視内視鏡は、MLMベース処置エンジン250によって分析するための2次元または3次元医療画像を捕捉し、MLMベース処置エンジン250が、捕捉された画像データから解剖学的構造を識別し、解剖学的構造の様々な部分の可視性に基づいて処置におけるステップを識別し、使用される用具およびそれらが所与のステップにおいて適切であるかを識別することなどを可能にしてよい。他の例として、たとえば切開デバイスに取り付けられた加速度計、ジャイロスコープ、圧力センサ、または他のセンサによって、MLMベース処置エンジン250は、医療従事者が推奨速度を超過しているか、最大切開深さを超過しているか、誤った方向に切開しているかなどを決定することができる。
[0034] 1つの実施形態において、MLMベース処置エンジン250によって実行される分類子分析に基づいて、MLMベース処置エンジン250は、医療処置中に1または複数の行動を取ってよい。たとえばMLMベース処置エンジン250は、識別された解剖学的構造に基づいてロボット支援または自律医療用具の動きを制限または停止(たとえば、医療用具が医療処置中に立ち入ることのできない、または外科医が視覚警報を上書きした場合のみ立ち入ることができる「飛行禁止」領域を実施)することができる。他の例として、MLMベース処置エンジン250は、検出された状態(たとえば、用具使用速度が所与の解剖学的環境/特定の構造の近接度に関する最大値を超過していること、処置において予定された次のステップにおける逸脱など)に基づいて、視覚、聴覚、触覚警報などの警報を生成することができる。また他の例として、MLMベース処置エンジン250は、医療従事者に、処置における次のステップ、解剖学的構造の予想図のビジュアル、または他のガイダンスを示す1または複数のユーザインタフェース要素を表示することができる。これらのMLMベース処置エンジン250によって提供される制御、警報、およびガイダンスは、医療処置を行う医療従事者(複数も可)に、ガイダンス、決定サポート、および誤り防止を提供する。
[0035] 1つの実施形態において、用具インタフェース252が、医療処置中に医療用具260によって捕捉されたセンサデータ(たとえばテレメトリ、温度、水分など)データをMLMベース処置エンジン250へ提供することに加えて、用具インタフェース252は、医療処置中に捕捉されたデータを処置データ収集データストア244に格納する。データストア244は、医療処置システム240において実行された実際の医療処置から訓練データのセットを生成するために用いられる。その後、バックエンドインタフェース242は、処置データ収集データストア244内の訓練セットデータをML医療処置サーバ210へ定期的に送信してよい。
[0036] 本明細書で説明されるように、ML医療処置サーバ210は、複数の様々な処置に関して複数の様々な医療処置システムから訓練セットデータを収集してよい。その結果、ML医療処置モデル分類子の訓練は、医療従事者のグループの収集結果に基づいて定期的に改良され得る。これにより、ML医療処置モデルの分類子は、多数の種類の処置、処置における変動の種類、様々な特徴を有する患者などに関する現実の医療処置を扱うことができる、より正確な分類子を展開することが可能である。その結果、本明細書の説明に従って動作する医療処置システム240によって提供される誤り防止およびガイダンスは、経時的に改善し続ける。
[0037] 図3は、本開示の実施形態に係る、医療処置システムによってガイダンスおよびサポートを提供するためのプロセス300を示すフローチャートである。プロセスは、ハードウェア(回路、専用論理など)、(たとえば汎用コンピュータシステムまたは専用機械において実行する)ソフトウェア、ファームウェア、またはこれらの組み合わせを備え得る処理論理によって実行される。1つの実施形態において、プロセスは、医療処置システム(たとえば医療処置システム140または240)によって実行される。
[0038] 図3を参照すると、処理論理は、ML医療処置モデルを受信し、データストアにモデルを格納することによって開始する(処理ブロック302)。本明細書で説明されるように、ML医療処置モデルは、医療処置の段階が正確にある所定の範囲内で実行されているか否かを決定するためにステップ、解剖学的構造、および用具動作を識別するための分類子を含む。実施形態において、ML医療処置モデルは、特定のML医療処置モデルの要求に応答して、ML医療処置モデルのバッチの要求に応答して、医療処置システムへ定期的に押し上げられた結果として、既存のML医療処置モデルへの更新としてなどで受信され得る。受信されたML医療処置モデルは、医療処置システムによって行われることができる複数の様々な医療処置に関する複数のモデルとともに格納される。
[0039] 処理論理は、医療処置および患者特徴の詳述を受信する(処理ブロック304)。たとえば、医療従事者は、特定の処置(たとえば胆嚢除去)および1または複数の患者特徴(たとえば年齢、性別、BMI、たとえば高血圧などの関連症状など)を入力してよい。この受信情報に基づいて、処理論理は、指定された医療処置に基づいて格納されたデータからML医療処置モデルを選択し、指定された患者特徴に基づいて選択されたモデルを構成する(ブロック306)。ML医療処置モデルは医療処置の一連のステップを定めるので、患者特徴は、医療処置を受けている所与の患者に適切であるようにステップのフローならびにステップ自体をカスタマイズしてよい。
[0040] 医療処置の間、処理論理は、動作を行うために使用されている医療用具の1または複数のセンサを用いて医療処置における動作を追跡する(処理ブロック308)。実施形態において、医療用具は、たとえば制御メカニズム(たとえばジョイスティック、タッチコントロール、音声コマンドコントローラ、VRコントローラなど)、医療器具(たとえば内視鏡、カッタ、スプレッダ、クランプなど)、および他の用具など複数の様々な用具を含んでよい。たとえば加速度計、ジャイロスコープ、力センサなどのセンサは、処置における動作がどのように行われているかに関して処理論理に通知するために処理論理にフィードバックを提供し、それによって処理論理は、現在の動作におけるステップ、解剖学的構造、用具特徴を識別するために、ML医療処置モデルの1または複数の分類子を用いて追跡された動作を分析してよい(処理ブロック310)。たとえば、分類子は、用具が過度に高速である場合、過度に低速である場合、切開が予定の深さである場合、用具が想定外の方向へ動いている場合などを決定するためにセンサデータのコーパスを分析する。他の例として、分類子は、視野内の解剖学的構造を認識して、予定される解剖学的構造が視野内にあるかを決定し、現在どの医療用具が使用されているかを認識し、予定外の解剖学的構造が見えることにより医療処置における逸脱が生じているかを決定するなどのために、たとえば内視鏡データなどの視覚センサデータを分析する。その後、分析の結果に基づいて、処理論理は、医療処置中に医療処置システムの1または複数のプロセスを制御する(処理ブロック312)。1つの実施形態において、プロセス制御は、医療処置のステップを通して医療従事者をガイドし、または医療処置中に遠隔支援を提供するために他の医療従事者との通信を提供するユーザインタフェースを生成することを含んでよい。また、プロセス制御は、たとえば医療従事者の優先的コマンドなどの制御メカニズムを医療用具に実施すること、速度、方向、加速度に基づいて用具の動きを停止させること、自律行動を取ること、予定の動作からの逸脱が生じる前に承認を要求することなどを含んでよい。また、たとえば他の医療従事者(たとえば外科医、看護師、または研修医が動作を行っている場合、病院管理役員)への警報の送信など、ML医療処置モデルの1または複数の予定された状態からの逸脱に応答して警報が生じ得る。
[0041] たとえば、図6Aは、処置を行っている外科医に、医療処置中に捕捉された内視鏡データを表示するために用いられ得る、たとえば外科用コンソールなどのグラフィックユーザインタフェース602を示す。医療処置における現在の動作が(たとえば選択/構成されたML医療処置モデルの分類子によって識別されたような)切開手術である場合、切開の完了時にどの解剖学的構造が外科医の視野内にあるべきか(たとえば肝臓、動脈、導管など他の解剖学的構造に囲まれたカロー三角608)を外科医に通知するために、現在の動作に基づいて挿入部604が表示606され得る。たとえばハイライトされたカロー三角608といったこれらの解剖学的構造は、医療処置の正確な進行における重要な中間地点であってよい。図6Bは、グラフィックユーザインタフェース652においてハイライト654される認識された解剖学的構造(たとえばカロー三角656)を表示するグラフィックユーザインタフェース652によって更新された同じ外科用コンソールを示す。この視野におけるオーバレイは、進行中の動作が首尾よく行われたという表示を外科医に提供するために一時的にあってよい。ただし、図6Cに示すように、たとえば予定外の特定の用具の使用が検出された場合など、動作が予定の順序で生じていない場合、認識されていない要素(たとえばクリップ挿入678)を識別するグラフィックユーザインタフェース676が表示され得る。1つの実施形態において、処理論理は、入力要求680を生成することによって、この予定外のイベントを考慮して医療処置を制御する。入力は、外科医が入力680を介して動作が進行してよいことを確認するまで、たとえば手術ロボットの動きを阻止することなどの制御を実施してよい。
[0042] 図3を参照すると、処理論理は次に、医療処置から追跡された動作をML医療サーバへ提供する(処理ブロック314)。本明細書で説明されるように、追跡された動作は、ML医療サーバに、センサデータ、成果、逸脱、注釈などを含む実際の医療処置データの訓練データセットを提供する。医療処置データを提供することによって、フロントエンド訓練セット(たとえばデータストア214内の訓練データセット)は拡張されることができ、対応するML医療処置モデルの分類子が新たな状況(たとえば患者特徴、医療処置中の合併症、ならびに他の状況)に対して再訓練、改良、拡張などをされ得る。
[0043] 実施形態において、処理論理は、医療処置の期間にわたりリアルタイムでガイダンスおよび誤り防止を提供するために、継続的に動作を追跡し、追跡された動作を分析する(たとえば処理ブロック308および310)。また、医療処置動作を継続的に追跡することによって、処理論理は、視覚データ、医療用具感覚データ、医療処置ステップ進捗、承認された逸脱などを含む、医療処置を表すデータの包括的なセットを構築することができる。1つの実施形態において、この情報は、ML医療サーバへデータを提供する前に、外科医または他の医療従事者によって注釈を付けられ得る。
[0044] 図4は、本開示の実施形態に係る、ML医療処置モデルを訓練するためのプロセス400を示すフローチャートである。プロセスは、ハードウェア(回路、専用論理など)、(たとえば汎用コンピュータシステムまたは専用機械において実行する)ソフトウェア、ファームウェア、またはこれらの組み合わせによって実行される。1つの実施形態において、プロセスは、機械学習医療処置サーバ(たとえばML医療処置サーバ110または210)によって実行される。
[0045] 図4を参照すると、処理論理は、1または複数の医療処置訓練セットから医療処置データにアクセスすること(処理ブロック402)によって開始する。1つの実施形態において、医療処置データは、指定された処置に基づいてアクセスされる。本明細書で説明されるように、医療処置データは、たとえば医療用具センサデータ(たとえば速度、方向、加速度、圧力、水分など)、医療処置中に捕捉された視覚データ(たとえば内視鏡ビデオまたは静止画像データ)、医療従事者によって医療処置データに付けられた注釈など、複数の様々な種類のデータを含んでよい。また、訓練セットは、成功した処置の正の訓練データ、ミス(たとえば死体または動物の手術中になされた意図的なミス)を含む負の訓練データ、ならびに様々な医療処置システムにおいて行われた処置から収集された訓練データを含んでよい。
[0046] 処理論理は、医療処置の機械学習モデルを導出または改良するために、アクセスされた医療処置データにおける分析に基づいて機械学習モデルを実行する(処理ブロック404)。分析に基づいて、処理論理は、医療処置に関する機械学習モデルの1または複数の分類子を訓練する(処理ブロック406)。本明細書で説明されるように、機械学習モデルは、訓練されると、医療処置におけるステップ、医療処置における所与のステップに関連する解剖学的構造、および用具特徴(たとえば移動速度、移動方向、切開深さ、印加圧力量など)の識別を可能にする複数の分類子を含んでよい。処理論理は、処理ブロック402へ戻り、追加の医療処置データ(たとえば、医療処置データの正の訓練セット、負の訓練セット、およびフロントエンド訓練セット)を分析してよい。また、医療処置データの新たな訓練セットが受信されてよく、これによって処理論理は、機械学習モデルの分類子を改良および/または拡張するために処理ブロック402へ戻ることができる。
[0047] 処理論理は、機械学習医療処置モデルデータストアに、訓練後の分類子を有する機械学習モデルを格納する(処理ブロック408)。その後、医療処置システムからの要求時、または処理論理によって開始されたプッシュ操作中、訓練後の分類子を有する1または複数の機械学習モデルが1または複数の医療処置システムへ提供される(処理ブロック410)。本明細書で説明されるように、機械学習モデルは、医療処置システムによって用いられると、医療ミスを防止し、様々な医療処置を行う医療従事者をガイドするために、そのようなシステムが医療処置システム(たとえばグラフィックユーザインタフェース、医療用具など)の1または複数の動作を制御するために医療処置中に機械学習モデルを適用することを可能にする。
[0048] 図5は、本発明とともに用いられ得るコンピュータシステムの1つの実施形態である。ただし、当業者には明らかであるように、様々なシステムアーキテクチャの他の代替システムが用いられてもよい。
[0049] 図5に示すデータ処理システムは、情報を伝達するためのバスまたは他の内部通信手段515、およびバス515に結合された、情報を処理するためのプロセッサ510を含む。システムは更に、バス515に結合された、プロセッサ510によって実行される情報および命令を格納するためのランダムアクセスメモリ(RAM)または(メモリと称される)他の揮発性ストレージデバイス550を備える。主要メモリ550は、プロセッサ510による命令の実行中に一時変数または他の中間情報を格納するためにも用いられ得る。またシステムは、バス515に結合された、プロセッサ510に関する静的情報および命令を格納するための読取専用メモリ(ROM)および/またはスタティックストレージデバイス520、およびたとえば磁気ディスクまたは光ディスクなどのデータストレージデバイス525およびそれに対応するディスクドライブも備える。データストレージデバイス525は、情報および命令を格納するためにバス515に結合される。
[0050] システムは更に、コンピュータユーザに情報を表示するためにバス565を介してバス515に結合された、たとえば液晶ディスプレイ(LCD)、発光ダイオード(LED)などのディスプレイデバイス570に結合され得る。英数字および他のキーを含む英数字入力デバイス575もまた、プロセッサ510へ情報およびコマンド選択を伝達するためにバス565を介してバス515に結合され得る。追加のユーザ入力デバイスは、プロセッサ510へ情報およびコマンド選択を伝達するためにバス565を介してバス515に連結された、たとえばマウス、トラックボール、スタイラス、ジョイスティック、仮想現実コントローラ、センサフィードバックコントローラ、またはカーソル方向キーなどのカーソル制御デバイス580である。
[0051] 任意選択的にコンピュータシステム500に連結され得る他のデバイスは、ネットワークを介して分散システムの他のノードにアクセスするための通信デバイス590である。通信デバイス590は、たとえばイーサネット、トークンリング、インターネット、または広域ネットワークに結合するために用いられるものなど、複数の市販のネットワーク周辺デバイスのいずれかを含んでよい。通信デバイス590は更に、ヌルモデム接続であってよく、またはコンピュータシステム500と外部世界との間の接続を提供する他の任意のメカニズムであってよい。図5に示すこのシステムおよび関連ハードウェアの構成要素のいずれかまたは全てが本発明の様々な実施形態において用いられ得ることに留意する。
[0052] 当業者には理解されるように、任意の構成のシステムが特定の実装に従って様々な目的のために用いられ得る。本発明を実装する制御論理またはソフトウェアは、主要メモリ550、マスストレージデバイス525、またはプロセッサ510にローカルまたは遠隔的にアクセス可能な他の記憶媒体に格納され得る。
[0053] 当業者には理解されるように、本明細書で説明されるシステム、方法、およびプロセスは、主要メモリ550および読取専用メモリ520に格納され、プロセッサ510によって実行されるソフトウェアとして実装され得る。実施形態において、プロセッサ510は、FPGA、CPU、GPUなどであってよい。この制御論理またはソフトウェアは、マスストレージデバイス525によって読取可能であり本明細書の方法および教示に従ってプロセッサ510を動作させる、内部で具体化されたコンピュータ可読プログラムコードを有するコンピュータ可読媒体を備える製品に常駐してもよい。
[0054] また本発明は、上述したコンピュータハードウェアコンポーネントのサブセットを含むハンドヘルドまたはポータブルデバイスにおいて具体化されてもよい。たとえばハンドヘルドデバイスは、バス515、プロセッサ510、およびメモリ550および/または525のみを含むように構成され得る。ハンドヘルドデバイスは、ユーザが利用可能なオプションのセットから選択し得るボタンのセットまたは入力シグナリングコンポーネントを含むようにも構成され得る。ハンドヘルドデバイスは、ハンドヘルドデバイスのユーザに情報を表示するための、たとえば液晶ディスプレイ(LCD)またはディスプレイ素子マトリックスなどの出力装置を含むようにも構成され得る。そのようなハンドヘルドデバイスを実装するために従来の方法が用いられ得る。そのようなデバイスに関する本発明の実装は、本明細書において提供された本発明の開示を前提として、当業者に明らかである。
[0055] また本発明は、上述したコンピュータハードウェアコンポーネントのサブセットを含む専用機器において具体化されてもよい。たとえば機器は、プロセッサ510、データストレージデバイス525、バス515、およびメモリ550、およびたとえばユーザがデバイスと基本的に通信することを可能にする小型タッチスクリーンなどの基本通信メカニズムを含んでよい。一般に、デバイスの専用性が高いほど、デバイスが機能するために存在する必要のある要素は少ない。
[0056] 上述したプロセスは、コンピュータソフトウェアおよびハードウェアの観点から説明された。説明された技術は、機械によって実行されると説明された動作を機械に実行させる、有形または非一時的機械(たとえばコンピュータ)可読記憶媒体において具体化される機械実行可能命令を構成してよい。また、プロセスは、たとえば特定用途向け集積回路(「ASIC」)などのハードウェアにおいて具体化され得る。
[0057] 有形機械可読記憶媒体は、機械(たとえばコンピュータ、ネットワークデバイス、パーソナルデジタルアシスタント、1または複数のプロセッサのセットを有する任意のデバイスなど)によってアクセス可能な非一時的形式で情報を提供(すなわち格納)する任意のメカニズムを含む。たとえば機械可読記憶媒体は、記録可能/非記録可能媒体(たとえば読取専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、磁気ディスク記憶媒体、光記憶媒体、フラッシュメモリデバイスなど)を含む。
[0058] 発明の概要に記載されたものを含む、本発明の例示された実施形態の上記説明は、網羅的であること、または開示された形式そのものに本発明を限定することは意図されない。本発明の特定の実施形態および例が例示のために本明細書で説明されたが、当業者が認識するように、本発明の範囲内で様々な変更が可能である。
[0059] これらの変更は、上記詳細な説明の観点から本発明になされ得る。以下のクレームにおいて用いられる用語は、本明細書に開示された特定の実施形態に本発明を限定するものとして解釈されてはならない。本発明の範囲は、確立されたクレーム解釈方針に従って解釈すべきである以下のクレームによって全体が決定されるものとする。
独占的所有権および利益が主張される本発明の実施形態は、特許請求の範囲の記載のように定義される。

Claims (23)

  1. 医療ミスを防止するためのシステムであって、
    複数の様々な医療処置システムにおいて行われる医療処置中に捕捉された医療処置データを少なくとも用いて1または複数の機械学習医療処置モデルを生成する機械学習医療処置サーバと、
    前記機械学習医療処置サーバと通信可能に結合された医療処置システムであって、前記機械学習医療処置サーバから選択された機械学習医療処置モデルを受信し、対応する医療処置中に前記選択された機械学習医療処置モデルを用いて前記医療処置システムの1または複数の動作を制御する、医療処置システムと
    を備えるシステム。
  2. 各機械学習医療処置モデルは医療処置に関連付けられ、前記医療処置におけるステップを識別するように前記機械学習医療処置サーバによって訓練された第1の分類子と、前記医療処置の対応するステップ中に見える解剖学的構造を識別するように前記機械学習医療処置サーバによって訓練された第2の分類子と、前記医療処置の対応するステップ中の1または複数の医療用具の予定動作を示す、医療用具を識別するように前記機械学習医療処置サーバによって訓練された第3の分類子とを備える、請求項1に記載のシステム。
  3. 前記医療処置システムの前記1または複数の動作の制御は、前記対応する医療処置中の前記医療処置システムと結合された医療用具の動きを制御することを備える、請求項1に記載のシステム。
  4. 前記医療用具は、前記対応する医療処置を行う医療従事者によって制御されるロボット支援医療用デバイスを備える、請求項3に記載のシステム。
  5. 前記医療処置システムの前記1または複数の動作の制御は、前記対応する医療処置を行う医療従事者に、前記対応する医療処置の現在のステップにおいて予定される解剖学的構造を通知する解剖学的構造情報を有するグラフィックユーザインタフェースを生成することを備える、請求項1に記載のシステム。
  6. 前記医療処置システムの前記1または複数の動作の制御は、医療用具の要求された動きを、前記要求された動きの1または複数の特徴に基づいて阻止することと、前記要求された動きを可能にするために医療従事者の承認を要求するグラフィックユーザインタフェースを生成することと、前記要求された動きに従って前記医療用具を動かすことを可能にすることとを備える、請求項1に記載のシステム。
  7. 前記1または複数の機械学習医療処置モデルは、前記対応する医療処置における正の成果を有する医療処置データの1または複数の正の訓練セットと、前記対応する医療処置における1または複数の段階における1または複数の失敗を伴う成果を有する医療処置データの1または複数の負の訓練セットと、複数の様々な医療処置システムにおいて行われた医療処置中に捕捉された前記医療処置データとを備える医療処置データの訓練セットに基づいて生成される、請求項1に記載のシステム。
  8. 前記医療処置システムは、前記対応する医療処置中にリアルタイムで、前記選択された機械学習医療処置モデルを用いて前記対応する医療処置を分析する、請求項1に記載のシステム。
  9. 前記医療処置システムと結合された医療用具センサによって前記対応する医療処置中に生成されたセンサデータを追跡し、前記対応する医療処置に関連する機械学習医療処置モデルを生成または改良するために、前記追跡されたセンサデータを前記機械学習医療処置サーバへ提供する前記医療処置システムを更に備える、請求項1に記載のシステム。
  10. 前記複数の様々な医療処置システムにおいて前記対応する医療処置に関連する既存の機械学習医療処置モデルと置き換えるために、前記生成または改良された機械学習医療処置モデルを押し上げる前記機械学習医療処置サーバを更に備える、請求項9に記載のシステム。
  11. 機械学習医療処置サーバにおいて、複数の様々な医療処置システムにおいて行われる医療処置中に捕捉された医療処置データを少なくとも用いて1または複数の機械学習医療処置モデルを生成することと、
    前記機械学習医療処置サーバから、前記医療処置と通信可能に結合された医療処置システムにおいて、選択された機械学習医療処置モデルを受信することと、
    前記選択された機械学習医療処置モデルを用いて、対応する医療処置中に前記医療処置システムの1または複数の動作を制御することと
    を備える方法。
  12. 各機械学習医療処置モデルは医療処置に関連付けられ、前記医療処置におけるステップを識別するように前記機械学習医療処置サーバによって訓練された第1の分類子と、前記医療処置の対応するステップ中に見える解剖学的構造を識別するように前記機械学習医療処置サーバによって訓練された第2の分類子と、前記医療処置の対応するステップ中の1または複数の医療用具の予定動作を示す、医療用具を識別するように前記機械学習医療処置サーバによって訓練された第3の分類子とを備える、請求項11に記載の方法。
  13. 前記医療処置システムの前記1または複数の動作を制御することは、前記対応する医療処置中の前記医療処置システムと結合された医療用具の動きを制御することを備える、請求項11に記載の方法。
  14. 前記医療用具は、前記対応する医療処置を行う医療従事者によって制御されるロボット支援医療用デバイスを備える、請求項13に記載の方法。
  15. 前記医療処置システムの前記1または複数の動作を制御することは、前記対応する医療処置を行う医療従事者に、前記対応する医療処置の現在のステップにおいて予定される解剖学的構造を通知する解剖学的構造情報を有するグラフィックユーザインタフェースを生成することを備える、請求項11に記載の方法。
  16. 前記医療処置システムの前記1または複数の動作を制御することは、
    医療用具の要求された動きを、前記要求された動きの1または複数の特徴に基づいて阻止することと、
    前記要求された動きを可能にするために医療従事者の承認を要求するグラフィックユーザインタフェースを生成することと、
    前記要求された動きに従って前記医療用具を動かすことを可能にすること
    を備える、請求項11に記載の方法。
  17. 前記1または複数の機械学習医療処置モデルは、前記対応する医療処置における正の成果を有する医療処置データの1または複数の正の訓練セットと、前記対応する医療処置における1または複数の段階における1または複数の失敗を伴う成果を有する医療処置データの1または複数の負の訓練セットと、複数の様々な医療処置システムにおいて行われた医療処置中に捕捉された前記医療処置データとを備える医療処置データの訓練セットに基づいて生成される、請求項11に記載の方法。
  18. 前記医療処置システムは、前記対応する医療処置中にリアルタイムで、前記選択された機械学習医療処置モデルを用いて前記対応する医療処置を分析する、請求項11に記載の方法。
  19. 前記医療処置システムによって、前記医療処置システムと結合された医療用具センサによって前記対応する医療処置中に生成されたセンサデータを追跡することと、
    前記対応する医療処置に関連する機械学習医療処置モデルを生成または改良するために、前記追跡されたセンサデータを前記機械学習医療処置サーバへ提供することと
    を更に備える、請求項11に記載の方法。
  20. 前記対応する医療処置に関連する既存の機械学習医療処置モデルと置き換えるために、前記機械学習医療処置サーバから前記複数の様々な医療処置システムへ前記生成または改良された機械学習医療処置モデルを押し上げること
    を更に備える、請求項19に記載の方法。
  21. 処理システムによって実行されると、前記処理システムに、
    機械学習医療処置サーバにおいて、複数の様々な医療処置システムにおいて行われる医療処置中に捕捉された医療処置データを少なくとも用いて1または複数の機械学習医療処置モデルを生成することと、
    前記機械学習医療処置サーバから、前記医療処置と通信可能に結合された医療処置システムにおいて、選択された機械学習医療処置モデルを受信することと、
    前記選択された機械学習医療処置モデルを用いて、対応する医療処置中に前記医療処置システムの1または複数の動作を制御することと
    を備える方法を実行させる命令が格納された非一時的機械可読記憶媒体。
  22. 前記医療処置システムによって、前記医療処置システムと結合された医療用具センサによって前記対応する医療処置中に生成されたセンサデータを追跡することと、
    前記対応する医療処置に関連する機械学習医療処置モデルを生成または改良するために、前記追跡されたセンサデータを前記機械学習医療処置サーバへ提供することと
    を更に備える、請求項21に記載の非一時的機械可読記憶媒体。
  23. 前記対応する医療処置に関連する既存の機械学習医療処置モデルと置き換えるために、前記機械学習医療処置サーバから前記複数の様々な医療処置システムへ前記生成または改良された機械学習医療処置モデルを押し上げること
    を更に備える、請求項22に記載の非一時的機械可読記憶媒体。


JP2019510306A 2016-09-06 2017-09-01 手術ミスを防止するためのシステムおよび方法 Active JP6784829B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201662383838P 2016-09-06 2016-09-06
US62/383,838 2016-09-06
US15/686,840 US11370113B2 (en) 2016-09-06 2017-08-25 Systems and methods for prevention of surgical mistakes
US15/686,840 2017-08-25
PCT/US2017/049971 WO2018048753A1 (en) 2016-09-06 2017-09-01 Systems and methods for prevention of surgical mistakes

Publications (2)

Publication Number Publication Date
JP2019526328A true JP2019526328A (ja) 2019-09-19
JP6784829B2 JP6784829B2 (ja) 2020-11-11

Family

ID=61281933

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019510306A Active JP6784829B2 (ja) 2016-09-06 2017-09-01 手術ミスを防止するためのシステムおよび方法

Country Status (5)

Country Link
US (2) US11370113B2 (ja)
EP (2) EP3510506B1 (ja)
JP (1) JP6784829B2 (ja)
CN (1) CN109690688A (ja)
WO (1) WO2018048753A1 (ja)

Families Citing this family (175)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11871901B2 (en) 2012-05-20 2024-01-16 Cilag Gmbh International Method for situational awareness for surgical network or surgical network connected device capable of adjusting function based on a sensed situation or usage
US11504192B2 (en) * 2014-10-30 2022-11-22 Cilag Gmbh International Method of hub communication with surgical instrument systems
US11510741B2 (en) 2017-10-30 2022-11-29 Cilag Gmbh International Method for producing a surgical instrument comprising a smart electrical system
US11801098B2 (en) * 2017-10-30 2023-10-31 Cilag Gmbh International Method of hub communication with surgical instrument systems
US11229436B2 (en) 2017-10-30 2022-01-25 Cilag Gmbh International Surgical system comprising a surgical tool and a surgical hub
US11317919B2 (en) 2017-10-30 2022-05-03 Cilag Gmbh International Clip applier comprising a clip crimping system
US11413042B2 (en) 2017-10-30 2022-08-16 Cilag Gmbh International Clip applier comprising a reciprocating clip advancing member
US11291510B2 (en) 2017-10-30 2022-04-05 Cilag Gmbh International Method of hub communication with surgical instrument systems
US11911045B2 (en) * 2017-10-30 2024-02-27 Cllag GmbH International Method for operating a powered articulating multi-clip applier
US11051836B2 (en) 2017-10-30 2021-07-06 Cilag Gmbh International Surgical clip applier comprising an empty clip cartridge lockout
US11564756B2 (en) 2017-10-30 2023-01-31 Cilag Gmbh International Method of hub communication with surgical instrument systems
US11311342B2 (en) * 2017-10-30 2022-04-26 Cilag Gmbh International Method for communicating with surgical instrument systems
JP7216662B2 (ja) * 2017-11-30 2023-02-01 テルモ株式会社 支援システム、支援方法、および支援プログラム
EP3677208A4 (en) * 2017-12-05 2020-09-09 Sony Olympus Medical Solutions Inc. MEDICAL INFORMATION PROCESSING DEVICE AND INFORMATION PROCESSING PROCESS
US10898622B2 (en) 2017-12-28 2021-01-26 Ethicon Llc Surgical evacuation system with a communication circuit for communication between a filter and a smoke evacuation device
US11166772B2 (en) 2017-12-28 2021-11-09 Cilag Gmbh International Surgical hub coordination of control and communication of operating room devices
US10755813B2 (en) 2017-12-28 2020-08-25 Ethicon Llc Communication of smoke evacuation system parameters to hub or cloud in smoke evacuation module for interactive surgical platform
US11529187B2 (en) 2017-12-28 2022-12-20 Cilag Gmbh International Surgical evacuation sensor arrangements
US11576677B2 (en) * 2017-12-28 2023-02-14 Cilag Gmbh International Method of hub communication, processing, display, and cloud analytics
US20190201142A1 (en) 2017-12-28 2019-07-04 Ethicon Llc Automatic tool adjustments for robot-assisted surgical platforms
US11410259B2 (en) 2017-12-28 2022-08-09 Cilag Gmbh International Adaptive control program updates for surgical devices
US11559308B2 (en) 2017-12-28 2023-01-24 Cilag Gmbh International Method for smart energy device infrastructure
US11424027B2 (en) 2017-12-28 2022-08-23 Cilag Gmbh International Method for operating surgical instrument systems
US11291495B2 (en) 2017-12-28 2022-04-05 Cilag Gmbh International Interruption of energy due to inadvertent capacitive coupling
US11389164B2 (en) 2017-12-28 2022-07-19 Cilag Gmbh International Method of using reinforced flexible circuits with multiple sensors to optimize performance of radio frequency devices
US12207817B2 (en) 2017-12-28 2025-01-28 Cilag Gmbh International Safety systems for smart powered surgical stapling
US11253315B2 (en) 2017-12-28 2022-02-22 Cilag Gmbh International Increasing radio frequency to create pad-less monopolar loop
US11633237B2 (en) 2017-12-28 2023-04-25 Cilag Gmbh International Usage and technique analysis of surgeon / staff performance against a baseline to optimize device utilization and performance for both current and future procedures
US11109866B2 (en) 2017-12-28 2021-09-07 Cilag Gmbh International Method for circular stapler control algorithm adjustment based on situational awareness
US10849697B2 (en) 2017-12-28 2020-12-01 Ethicon Llc Cloud interface for coupled surgical devices
US11304763B2 (en) 2017-12-28 2022-04-19 Cilag Gmbh International Image capturing of the areas outside the abdomen to improve placement and control of a surgical device in use
US11432885B2 (en) 2017-12-28 2022-09-06 Cilag Gmbh International Sensing arrangements for robot-assisted surgical platforms
US10987178B2 (en) 2017-12-28 2021-04-27 Ethicon Llc Surgical hub control arrangements
US11464559B2 (en) 2017-12-28 2022-10-11 Cilag Gmbh International Estimating state of ultrasonic end effector and control system therefor
US11937769B2 (en) 2017-12-28 2024-03-26 Cilag Gmbh International Method of hub communication, processing, storage and display
US11786251B2 (en) 2017-12-28 2023-10-17 Cilag Gmbh International Method for adaptive control schemes for surgical network control and interaction
US11202570B2 (en) 2017-12-28 2021-12-21 Cilag Gmbh International Communication hub and storage device for storing parameters and status of a surgical device to be shared with cloud based analytics systems
US11540855B2 (en) 2017-12-28 2023-01-03 Cilag Gmbh International Controlling activation of an ultrasonic surgical instrument according to the presence of tissue
US11100631B2 (en) 2017-12-28 2021-08-24 Cilag Gmbh International Use of laser light and red-green-blue coloration to determine properties of back scattered light
US11266468B2 (en) 2017-12-28 2022-03-08 Cilag Gmbh International Cooperative utilization of data derived from secondary sources by intelligent surgical hubs
US11419667B2 (en) 2017-12-28 2022-08-23 Cilag Gmbh International Ultrasonic energy device which varies pressure applied by clamp arm to provide threshold control pressure at a cut progression location
US20190201113A1 (en) 2017-12-28 2019-07-04 Ethicon Llc Controls for robot-assisted surgical platforms
US11324557B2 (en) 2017-12-28 2022-05-10 Cilag Gmbh International Surgical instrument with a sensing array
US11589888B2 (en) 2017-12-28 2023-02-28 Cilag Gmbh International Method for controlling smart energy devices
US11284936B2 (en) 2017-12-28 2022-03-29 Cilag Gmbh International Surgical instrument having a flexible electrode
US11179175B2 (en) 2017-12-28 2021-11-23 Cilag Gmbh International Controlling an ultrasonic surgical instrument according to tissue location
US11969216B2 (en) * 2017-12-28 2024-04-30 Cilag Gmbh International Surgical network recommendations from real time analysis of procedure variables against a baseline highlighting differences from the optimal solution
US11278281B2 (en) 2017-12-28 2022-03-22 Cilag Gmbh International Interactive surgical system
US12062442B2 (en) 2017-12-28 2024-08-13 Cilag Gmbh International Method for operating surgical instrument systems
US10943454B2 (en) * 2017-12-28 2021-03-09 Ethicon Llc Detection and escalation of security responses of surgical instruments to increasing severity threats
US11364075B2 (en) 2017-12-28 2022-06-21 Cilag Gmbh International Radio frequency energy device for delivering combined electrical signals
US10695081B2 (en) 2017-12-28 2020-06-30 Ethicon Llc Controlling a surgical instrument according to sensed closure parameters
US11308075B2 (en) 2017-12-28 2022-04-19 Cilag Gmbh International Surgical network, instrument, and cloud responses based on validation of received dataset and authentication of its source and integrity
US11666331B2 (en) 2017-12-28 2023-06-06 Cilag Gmbh International Systems for detecting proximity of surgical end effector to cancerous tissue
US11304745B2 (en) 2017-12-28 2022-04-19 Cilag Gmbh International Surgical evacuation sensing and display
US11317937B2 (en) 2018-03-08 2022-05-03 Cilag Gmbh International Determining the state of an ultrasonic end effector
US11903601B2 (en) 2017-12-28 2024-02-20 Cilag Gmbh International Surgical instrument comprising a plurality of drive systems
US11076921B2 (en) 2017-12-28 2021-08-03 Cilag Gmbh International Adaptive control program updates for surgical hubs
US11832840B2 (en) 2017-12-28 2023-12-05 Cilag Gmbh International Surgical instrument having a flexible circuit
US11744604B2 (en) 2017-12-28 2023-09-05 Cilag Gmbh International Surgical instrument with a hardware-only control circuit
US11896322B2 (en) 2017-12-28 2024-02-13 Cilag Gmbh International Sensing the patient position and contact utilizing the mono-polar return pad electrode to provide situational awareness to the hub
US11559307B2 (en) 2017-12-28 2023-01-24 Cilag Gmbh International Method of robotic hub communication, detection, and control
WO2019133143A1 (en) 2017-12-28 2019-07-04 Ethicon Llc Surgical hub and modular device response adjustment based on situational awareness
US11273001B2 (en) 2017-12-28 2022-03-15 Cilag Gmbh International Surgical hub and modular device response adjustment based on situational awareness
US11678881B2 (en) 2017-12-28 2023-06-20 Cilag Gmbh International Spatial awareness of surgical hubs in operating rooms
US11056244B2 (en) 2017-12-28 2021-07-06 Cilag Gmbh International Automated data scaling, alignment, and organizing based on predefined parameters within surgical networks
US11096693B2 (en) 2017-12-28 2021-08-24 Cilag Gmbh International Adjustment of staple height of at least one row of staples based on the sensed tissue thickness or force in closing
US11160605B2 (en) 2017-12-28 2021-11-02 Cilag Gmbh International Surgical evacuation sensing and motor control
US11659023B2 (en) 2017-12-28 2023-05-23 Cilag Gmbh International Method of hub communication
US20190201039A1 (en) 2017-12-28 2019-07-04 Ethicon Llc Situational awareness of electrosurgical systems
US11311306B2 (en) 2017-12-28 2022-04-26 Cilag Gmbh International Surgical systems for detecting end effector tissue distribution irregularities
US11304699B2 (en) 2017-12-28 2022-04-19 Cilag Gmbh International Method for adaptive control schemes for surgical network control and interaction
US11419630B2 (en) 2017-12-28 2022-08-23 Cilag Gmbh International Surgical system distributed processing
US11147607B2 (en) 2017-12-28 2021-10-19 Cilag Gmbh International Bipolar combination device that automatically adjusts pressure based on energy modality
US11818052B2 (en) 2017-12-28 2023-11-14 Cilag Gmbh International Surgical network determination of prioritization of communication, interaction, or processing based on system or device needs
US11179208B2 (en) 2017-12-28 2021-11-23 Cilag Gmbh International Cloud-based medical analytics for security and authentication trends and reactive measures
US11832899B2 (en) 2017-12-28 2023-12-05 Cilag Gmbh International Surgical systems with autonomously adjustable control programs
US11132462B2 (en) 2017-12-28 2021-09-28 Cilag Gmbh International Data stripping method to interrogate patient records and create anonymized record
US10966791B2 (en) 2017-12-28 2021-04-06 Ethicon Llc Cloud-based medical analytics for medical facility segmented individualization of instrument function
US12127729B2 (en) 2017-12-28 2024-10-29 Cilag Gmbh International Method for smoke evacuation for surgical hub
US11423007B2 (en) 2017-12-28 2022-08-23 Cilag Gmbh International Adjustment of device control programs based on stratified contextual data in addition to the data
US11998193B2 (en) 2017-12-28 2024-06-04 Cilag Gmbh International Method for usage of the shroud as an aspect of sensing or controlling a powered surgical device, and a control algorithm to adjust its default operation
US11864728B2 (en) 2017-12-28 2024-01-09 Cilag Gmbh International Characterization of tissue irregularities through the use of mono-chromatic light refractivity
US10944728B2 (en) 2017-12-28 2021-03-09 Ethicon Llc Interactive surgical systems with encrypted communication capabilities
US11069012B2 (en) 2017-12-28 2021-07-20 Cilag Gmbh International Interactive surgical systems with condition handling of devices and data capabilities
US11376002B2 (en) 2017-12-28 2022-07-05 Cilag Gmbh International Surgical instrument cartridge sensor assemblies
US11234756B2 (en) 2017-12-28 2022-02-01 Cilag Gmbh International Powered surgical tool with predefined adjustable control algorithm for controlling end effector parameter
US11571234B2 (en) 2017-12-28 2023-02-07 Cilag Gmbh International Temperature control of ultrasonic end effector and control system therefor
US11844579B2 (en) 2017-12-28 2023-12-19 Cilag Gmbh International Adjustments based on airborne particle properties
US11602393B2 (en) 2017-12-28 2023-03-14 Cilag Gmbh International Surgical evacuation sensing and generator control
US11446052B2 (en) 2017-12-28 2022-09-20 Cilag Gmbh International Variation of radio frequency and ultrasonic power level in cooperation with varying clamp arm pressure to achieve predefined heat flux or power applied to tissue
US10932872B2 (en) 2017-12-28 2021-03-02 Ethicon Llc Cloud-based medical analytics for linking of local usage trends with the resource acquisition behaviors of larger data set
US10892995B2 (en) 2017-12-28 2021-01-12 Ethicon Llc Surgical network determination of prioritization of communication, interaction, or processing based on system or device needs
US11786245B2 (en) 2017-12-28 2023-10-17 Cilag Gmbh International Surgical systems with prioritized data transmission capabilities
US11051876B2 (en) 2017-12-28 2021-07-06 Cilag Gmbh International Surgical evacuation flow paths
US11896443B2 (en) 2017-12-28 2024-02-13 Cilag Gmbh International Control of a surgical system through a surgical barrier
US11969142B2 (en) 2017-12-28 2024-04-30 Cilag Gmbh International Method of compressing tissue within a stapling device and simultaneously displaying the location of the tissue within the jaws
US11857152B2 (en) 2017-12-28 2024-01-02 Cilag Gmbh International Surgical hub spatial awareness to determine devices in operating theater
US11304720B2 (en) 2017-12-28 2022-04-19 Cilag Gmbh International Activation of energy devices
US12096916B2 (en) 2017-12-28 2024-09-24 Cilag Gmbh International Method of sensing particulate from smoke evacuated from a patient, adjusting the pump speed based on the sensed information, and communicating the functional parameters of the system to the hub
US20190206569A1 (en) 2017-12-28 2019-07-04 Ethicon Llc Method of cloud based data analytics for use with the hub
US11257589B2 (en) 2017-12-28 2022-02-22 Cilag Gmbh International Real-time analysis of comprehensive cost of all instrumentation used in surgery utilizing data fluidity to track instruments through stocking and in-house processes
US11464535B2 (en) 2017-12-28 2022-10-11 Cilag Gmbh International Detection of end effector emersion in liquid
US11026751B2 (en) 2017-12-28 2021-06-08 Cilag Gmbh International Display of alignment of staple cartridge to prior linear staple line
US10758310B2 (en) 2017-12-28 2020-09-01 Ethicon Llc Wireless pairing of a surgical device with another device within a sterile surgical field based on the usage and situational awareness of devices
US10892899B2 (en) 2017-12-28 2021-01-12 Ethicon Llc Self describing data packets generated at an issuing instrument
EP3537447A1 (en) * 2018-03-07 2019-09-11 Koninklijke Philips N.V. Display of medical image data
US11534196B2 (en) 2018-03-08 2022-12-27 Cilag Gmbh International Using spectroscopy to determine device use state in combo instrument
US11678927B2 (en) 2018-03-08 2023-06-20 Cilag Gmbh International Detection of large vessels during parenchymal dissection using a smart blade
US11259830B2 (en) 2018-03-08 2022-03-01 Cilag Gmbh International Methods for controlling temperature in ultrasonic device
US10347255B1 (en) * 2018-03-08 2019-07-09 Ces Advancements, Llc Healthcare systems and methods using voice inputs
US20210000446A1 (en) * 2018-03-12 2021-01-07 Koninklijke Philips N.V. Ultrasound imaging plane alignment guidance for neural networks and associated devices, systems, and methods
US11207067B2 (en) 2018-03-28 2021-12-28 Cilag Gmbh International Surgical stapling device with separate rotary driven closure and firing systems and firing member that engages both jaws while firing
US11219453B2 (en) 2018-03-28 2022-01-11 Cilag Gmbh International Surgical stapling devices with cartridge compatible closure and firing lockout arrangements
US11259806B2 (en) 2018-03-28 2022-03-01 Cilag Gmbh International Surgical stapling devices with features for blocking advancement of a camming assembly of an incompatible cartridge installed therein
US11129611B2 (en) 2018-03-28 2021-09-28 Cilag Gmbh International Surgical staplers with arrangements for maintaining a firing member thereof in a locked configuration unless a compatible cartridge has been installed therein
US11090047B2 (en) 2018-03-28 2021-08-17 Cilag Gmbh International Surgical instrument comprising an adaptive control system
US11096688B2 (en) 2018-03-28 2021-08-24 Cilag Gmbh International Rotary driven firing members with different anvil and channel engagement features
US11471156B2 (en) 2018-03-28 2022-10-18 Cilag Gmbh International Surgical stapling devices with improved rotary driven closure systems
US10973520B2 (en) 2018-03-28 2021-04-13 Ethicon Llc Surgical staple cartridge with firing member driven camming assembly that has an onboard tissue cutting feature
US11278280B2 (en) 2018-03-28 2022-03-22 Cilag Gmbh International Surgical instrument comprising a jaw closure lockout
US10769443B2 (en) * 2018-06-14 2020-09-08 Sony Corporation Dominant tool detection system for surgical videos
AU2019289081B2 (en) * 2018-06-19 2022-02-24 Howmedica Osteonics Corp. Mixed reality-aided education related to orthopedic surgical procedures
US11923084B2 (en) 2018-09-07 2024-03-05 Cilag Gmbh International First and second communication protocol arrangement for driving primary and secondary devices through a single port
US12144136B2 (en) 2018-09-07 2024-11-12 Cilag Gmbh International Modular surgical energy system with module positional awareness with digital logic
US11696789B2 (en) 2018-09-07 2023-07-11 Cilag Gmbh International Consolidated user interface for modular energy system
US11804679B2 (en) * 2018-09-07 2023-10-31 Cilag Gmbh International Flexible hand-switch circuit
US11350978B2 (en) * 2018-09-07 2022-06-07 Cilag Gmbh International Flexible neutral electrode
JP2020046893A (ja) * 2018-09-19 2020-03-26 尚紀 北村 手術支援システム及び仮想手術支援システム
WO2020075545A1 (en) * 2018-10-12 2020-04-16 Sony Corporation Surgical support system, data processing apparatus and method
US10930395B2 (en) * 2018-11-23 2021-02-23 Asheleigh Adeline Mowery System for surgical decisions using deep learning
US11645745B2 (en) * 2019-02-15 2023-05-09 Surgical Safety Technologies Inc. System and method for adverse event detection or severity estimation from surgical data
US11464511B2 (en) 2019-02-19 2022-10-11 Cilag Gmbh International Surgical staple cartridges with movable authentication key arrangements
US11357503B2 (en) 2019-02-19 2022-06-14 Cilag Gmbh International Staple cartridge retainers with frangible retention features and methods of using same
US11317915B2 (en) 2019-02-19 2022-05-03 Cilag Gmbh International Universal cartridge based key feature that unlocks multiple lockout arrangements in different surgical staplers
US11369377B2 (en) 2019-02-19 2022-06-28 Cilag Gmbh International Surgical stapling assembly with cartridge based retainer configured to unlock a firing lockout
US11298129B2 (en) 2019-02-19 2022-04-12 Cilag Gmbh International Method for providing an authentication lockout in a surgical stapler with a replaceable cartridge
US11065079B2 (en) 2019-02-21 2021-07-20 Theator inc. Image-based system for estimating surgical contact force
EP3928325B1 (en) 2019-02-21 2023-07-05 Theator Inc. Systems and methods to enable automatically populating a post-operative report of a surgical procedure
US11218822B2 (en) 2019-03-29 2022-01-04 Cilag Gmbh International Audio tone construction for an energy module of a modular energy system
US11728033B2 (en) * 2019-05-29 2023-08-15 Medos International Sarl Dynamic adaptation of clinical procedures and device assessment generation based on determined emotional state
WO2020257533A1 (en) * 2019-06-19 2020-12-24 Neotract, Inc. Devices and methods for targeting implant deployment in tissue
JP7248516B2 (ja) * 2019-06-20 2023-03-29 株式会社日立製作所 作業支援装置、作業支援方法、および作業支援プログラム
USD950728S1 (en) 2019-06-25 2022-05-03 Cilag Gmbh International Surgical staple cartridge
USD964564S1 (en) 2019-06-25 2022-09-20 Cilag Gmbh International Surgical staple cartridge retainer with a closure system authentication key
USD952144S1 (en) 2019-06-25 2022-05-17 Cilag Gmbh International Surgical staple cartridge retainer with firing system authentication key
US10758309B1 (en) * 2019-07-15 2020-09-01 Digital Surgery Limited Methods and systems for using computer-vision to enhance surgical tool control during surgeries
USD939545S1 (en) 2019-09-05 2021-12-28 Cilag Gmbh International Display panel or portion thereof with graphical user interface for energy module
USD928725S1 (en) 2019-09-05 2021-08-24 Cilag Gmbh International Energy module
USD924139S1 (en) 2019-09-05 2021-07-06 Ethicon Llc Energy module with a backplane connector
USD928726S1 (en) 2019-09-05 2021-08-24 Cilag Gmbh International Energy module monopolar port
EP3792717A1 (en) * 2019-09-12 2021-03-17 FRAUNHOFER-GESELLSCHAFT zur Förderung der angewandten Forschung e.V. Tracking system
US11795495B1 (en) * 2019-10-02 2023-10-24 FOXO Labs Inc. Machine learned epigenetic status estimator
WO2021097367A1 (en) * 2019-11-15 2021-05-20 Onsite-Llc Monitoring and enforcing infection safety procedures in operating rooms
WO2021111879A1 (ja) * 2019-12-05 2021-06-10 Hoya株式会社 学習モデルの生成方法、プログラム、手技支援システム、情報処理装置、情報処理方法及び内視鏡用プロセッサ
US11822913B2 (en) * 2019-12-20 2023-11-21 UiPath, Inc. Dynamic artificial intelligence / machine learning model update, or retrain and update, in digital processes at runtime
US11942207B2 (en) * 2020-03-20 2024-03-26 Kpn Innovations, Llc Artificial intelligence methods and systems for generating zoological instruction sets from biological extractions
US20210313050A1 (en) 2020-04-05 2021-10-07 Theator inc. Systems and methods for assigning surgical teams to prospective surgical procedures
EP4138701A4 (en) * 2020-04-20 2024-11-06 Mendaera, Inc. Systems and methods for video and audio analysis
CA3133789A1 (en) * 2020-10-07 2022-04-07 Abdul Karim Qayumi System and method for virtual online medical team training and assessment
EP4228863A1 (en) * 2020-10-19 2023-08-23 K2Ai, Llc Smart tool with integrated neural network image analysis
US20220223260A1 (en) * 2021-01-08 2022-07-14 Expanded Existence, Llc System and method for medical procedure optimization
US12142373B2 (en) 2021-03-30 2024-11-12 Cilag Gmbh International Modular energy system with hardware mitigated communication
US11857252B2 (en) 2021-03-30 2024-01-02 Cilag Gmbh International Bezel with light blocking features for modular energy system
US11963727B2 (en) 2021-03-30 2024-04-23 Cilag Gmbh International Method for system architecture for modular energy system
US12127777B2 (en) 2021-03-30 2024-10-29 Cilag Gmbh International Energy delivery mitigations for modular energy systems
US12004824B2 (en) 2021-03-30 2024-06-11 Cilag Gmbh International Architecture for modular energy system
US11950860B2 (en) 2021-03-30 2024-04-09 Cilag Gmbh International User interface mitigation techniques for modular energy systems
US11980411B2 (en) 2021-03-30 2024-05-14 Cilag Gmbh International Header for modular energy system
US12040749B2 (en) 2021-03-30 2024-07-16 Cilag Gmbh International Modular energy system with dual amplifiers and techniques for updating parameters thereof
US11978554B2 (en) 2021-03-30 2024-05-07 Cilag Gmbh International Radio frequency identification token for wireless surgical instruments
US11968776B2 (en) 2021-03-30 2024-04-23 Cilag Gmbh International Method for mechanical packaging for modular energy system
EP4490748A1 (en) * 2022-03-08 2025-01-15 PAIGE.AI, Inc. Systems and methods to process electronic images for model selection
US12079460B2 (en) 2022-06-28 2024-09-03 Cilag Gmbh International Profiles for modular energy system
EP4477173A1 (en) * 2023-06-15 2024-12-18 Caranx Medical System for autonomously carrying out a medical procedure

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003150569A (ja) * 2001-11-09 2003-05-23 Sony Corp 情報処理システムおよび情報処理方法、プログラムおよび記録媒体、並びに情報処理装置
JP2007534351A (ja) * 2003-07-16 2007-11-29 ゼット−カット, インコーポレイテッド フィードバックを改良した外科的手順のための誘導システムおよび誘導方法
US20140006049A1 (en) * 2003-12-19 2014-01-02 Stryker Leibinger Gmbh & Co. Kg Reactive Workflow System and Method
US20160125154A1 (en) * 2014-11-04 2016-05-05 Heartflow, Inc. Systems and methods for simulation of occluded arteries and optimization of occlusion-based treatments
WO2017216645A2 (en) * 2016-04-11 2017-12-21 Instent Sas Medical device making treatment recommendations based on sensed characteristics of a lesion

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5791907A (en) * 1996-03-08 1998-08-11 Ramshaw; Bruce J. Interactive medical training system
US8010180B2 (en) 2002-03-06 2011-08-30 Mako Surgical Corp. Haptic guidance system and method
SE527525C2 (sv) * 2003-12-22 2006-04-04 Abb As Styranordning, metod och styrsystem för start eller stop av en nästkommande arbetsuppgift hos en robot
US7966269B2 (en) 2005-10-20 2011-06-21 Bauer James D Intelligent human-machine interface
EP2023843B1 (en) * 2006-05-19 2016-03-09 Mako Surgical Corp. System for verifying calibration of a surgical device
US8560047B2 (en) 2006-06-16 2013-10-15 Board Of Regents Of The University Of Nebraska Method and apparatus for computer aided surgery
CN102831294B (zh) * 2007-08-10 2016-08-17 施曼信医疗Asd公司 一种在服务器处确定医疗设备的操作能力的方法和系统
US20140142591A1 (en) 2012-04-24 2014-05-22 Auris Surgical Robotics, Inc. Method, apparatus and a system for robotic assisted surgery
US10039440B2 (en) * 2012-06-11 2018-08-07 Intuitive Surgical Operations, Inc. Systems and methods for cleaning a minimally invasive instrument
US9440352B2 (en) 2012-08-31 2016-09-13 Qualcomm Technologies Inc. Apparatus and methods for robotic learning
US20140081659A1 (en) 2012-09-17 2014-03-20 Depuy Orthopaedics, Inc. Systems and methods for surgical and interventional planning, support, post-operative follow-up, and functional recovery tracking
US20140249830A1 (en) * 2013-03-01 2014-09-04 Nuance Communications, Inc. Virtual medical assistant methods and apparatus
ES2534140B1 (es) * 2013-10-16 2016-03-17 Fundació Institut De Recerca De L'hospital De La Santa Creu I Sant Pau Procedimiento y dispositivo para el aprendizaje y entrenamiento de operaciones de cirugía laparoscópica e intervenciones similares
CN104914726A (zh) * 2014-03-11 2015-09-16 深圳迈瑞生物医疗电子股份有限公司 医疗设备控制系统及方法
KR102363661B1 (ko) * 2014-03-17 2022-02-17 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 원격동작 의료 시스템 내의 기구의 화면외 표시를 위한 시스템 및 방법
US11977998B2 (en) * 2014-05-15 2024-05-07 Storz Endoskop Produktions Gmbh Surgical workflow support system
KR102728830B1 (ko) * 2015-05-15 2024-11-14 마코 서지컬 코포레이션 로봇식 의료 절차에 대한 지침을 제공하기 위한 시스템들 및 방법들
US20170084036A1 (en) * 2015-09-21 2017-03-23 Siemens Aktiengesellschaft Registration of video camera with medical imaging
US11024428B2 (en) * 2015-11-16 2021-06-01 Serenus Ai Ltd. Automated method and system for screening and prevention of unnecessary medical procedures
WO2017151904A1 (en) * 2016-03-04 2017-09-08 Covidien Lp Methods and systems for anatomical image registration
US11173599B2 (en) * 2016-05-20 2021-11-16 Google Llc Machine learning methods and apparatus related to predicting motion(s) of object(s) in a robot's environment based on image(s) capturing the object(s) and based on parameter(s) for future robot movement in the environment

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003150569A (ja) * 2001-11-09 2003-05-23 Sony Corp 情報処理システムおよび情報処理方法、プログラムおよび記録媒体、並びに情報処理装置
JP2007534351A (ja) * 2003-07-16 2007-11-29 ゼット−カット, インコーポレイテッド フィードバックを改良した外科的手順のための誘導システムおよび誘導方法
US20140006049A1 (en) * 2003-12-19 2014-01-02 Stryker Leibinger Gmbh & Co. Kg Reactive Workflow System and Method
US20160125154A1 (en) * 2014-11-04 2016-05-05 Heartflow, Inc. Systems and methods for simulation of occluded arteries and optimization of occlusion-based treatments
WO2017216645A2 (en) * 2016-04-11 2017-12-21 Instent Sas Medical device making treatment recommendations based on sensed characteristics of a lesion

Also Published As

Publication number Publication date
JP6784829B2 (ja) 2020-11-11
EP3510506A1 (en) 2019-07-17
US20180065248A1 (en) 2018-03-08
CN109690688A (zh) 2019-04-26
WO2018048753A1 (en) 2018-03-15
US20220324102A1 (en) 2022-10-13
EP4026664A1 (en) 2022-07-13
US11370113B2 (en) 2022-06-28
EP3510506B1 (en) 2021-12-15

Similar Documents

Publication Publication Date Title
JP6784829B2 (ja) 手術ミスを防止するためのシステムおよび方法
US11737841B2 (en) Configuring surgical system with surgical procedures atlas
JP7608305B2 (ja) 訓練又は支援機能を有する手術システム
US20240099790A1 (en) Multi-panel graphical user interface for a robotic surgical system
JP7308936B2 (ja) インジケータシステム
KR102477325B1 (ko) 로봇 수술 시스템용 다중 패널 그래픽 사용자 인터페이스
Kranzfelder et al. Toward increased autonomy in the surgical OR: needs, requests, and expectations
US20140012793A1 (en) System and method for predicting surgery progress stage
KR102633401B1 (ko) 외과의 숙련도 레벨 기반 기구 제어를 갖는 원격조작 수술 시스템
WO2017151904A1 (en) Methods and systems for anatomical image registration
US20210249109A1 (en) Information processing system, information processing device, and information processing method
JP7395125B2 (ja) 手術ツールの先端及び向きの決定
JP2020046893A (ja) 手術支援システム及び仮想手術支援システム
CN118648065A (zh) 用于协调计算机辅助系统的内容呈现的方法和系统

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190418

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190418

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200522

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200924

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201023

R150 Certificate of patent or registration of utility model

Ref document number: 6784829

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250