CN115135270A - 用于提供具有臂设置引导的体育场型视图的机器人外科系统和方法 - Google Patents

用于提供具有臂设置引导的体育场型视图的机器人外科系统和方法 Download PDF

Info

Publication number
CN115135270A
CN115135270A CN202080097012.4A CN202080097012A CN115135270A CN 115135270 A CN115135270 A CN 115135270A CN 202080097012 A CN202080097012 A CN 202080097012A CN 115135270 A CN115135270 A CN 115135270A
Authority
CN
China
Prior art keywords
robotic
surgical system
robotic arms
arms
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080097012.4A
Other languages
English (en)
Inventor
E·约翰逊
F·布拉希克
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Verb Surgical Inc
Original Assignee
Verb Surgical Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Verb Surgical Inc filed Critical Verb Surgical Inc
Publication of CN115135270A publication Critical patent/CN115135270A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B34/37Master-slave robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/70Manipulators specially adapted for use in surgery
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00115Electrical control of surgical instruments with audible or visual output
    • A61B2017/00119Electrical control of surgical instruments with audible or visual output alarm; indicating an abnormal situation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2055Optical tracking systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2059Mechanical position encoders
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • A61B2034/252User interfaces for surgical systems indicating steps of a surgical procedure
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • A61B2034/254User interfaces for surgical systems being adapted depending on the stage of the surgical procedure
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • A61B2034/256User interfaces for surgical systems having a database of accessory information, e.g. including context sensitive help or scientific articles
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B2034/305Details of wrist mechanisms at distal ends of robotic arms

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Robotics (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Human Computer Interaction (AREA)
  • Manipulator (AREA)

Abstract

提供了一种用于提供具有臂设置引导的体育场型视图的机器人外科系统和方法。在一个实施方案中,一种机器人外科系统包括多个机器人臂、显示设备和处理器。该处理器被配置成在显示设备上渲染多个机器人臂在这些机器人臂的当前位置的图形表示,以及关于如何将多个机器人臂移动到不同位置的用户引导信息。本发明提供了其他实施方案。

Description

用于提供具有臂设置引导的体育场型视图的机器人外科系统 和方法
技术领域
以下实施方案通常涉及机器人外科手术领域,并且更具体地涉及一种用于提供具有臂设置引导的体育场型视图的机器人外科系统的图形用户界面(GUI)。
背景技术
微创外科规程(MIS)诸如腹腔镜手术涉及旨在在外科规程期间减少组织损伤的技术。例如,腹腔镜手术通常涉及在患者体内(例如,在腹部)形成多个小切口,并通过切口将一个或多个外科器械(例如,端部执行器、至少一个相机等)引入患者体内。然后可使用引入的外科器械执行外科规程,其中可视化辅助由相机提供。
一般来讲,MIS提供多重有益效果,诸如减少患者疤痕、减轻患者疼痛、缩短患者恢复期以及降低与患者恢复相关联的医疗费用。在一些实施方案中,可用机器人系统执行MIS,该机器人系统包括用于基于来自操作者的命令操纵外科器械的一个或多个机器人臂。机器人臂可以例如在其远侧端部处支撑各种设备,诸如外科端部执行器、成像设备、用于提供进入患者体腔和器官的通路的插管等。
在一些实施方案中,操作者可提供用于操纵外科器械的命令,同时查看由相机提供并在显示器上向用户显示的图像。
附图说明
图1A描绘了实施方案的具有机器人外科系统和用户控制台的手术室布置的示例。
图1B是实施方案的机器人臂操纵器、工具驱动器和具有外科工具的插管的一个示例性变型的示意性图示。
图1C是实施方案的示例性用户控制台的示意性图示。
图2是用于与一个或多个第三方设备通信的实施方案的机器人外科系统的用户控制台的示例性变型的示意性图示。
图3是具有图形用户界面(GUI)模块的实施方案的外科机器人平台的示意图,其中外科机器人平台与多个医学数据资源通信。
图4A至图4E是包括体育场型视图应用程序的实施方案的图形用户界面的示例性变型。
图5是包括提供关于如何定位患者的用户引导信息的体育场型视图应用程序的实施方案的图形用户界面的图示。
图6是包括提供关于如何部署机器人臂的用户引导信息的体育场型视图应用程序的实施方案的图形用户界面的图示。
图7是包括提供关于如何遮盖机器人臂的指令的体育场型视图应用程序的实施方案的图形用户界面的图示。
图8是包括提供关于如何将机器人臂移动到准备臂位置的指令的体育场型视图应用程序的实施方案的图形用户界面的图示。
图9是包括提供关于如何在患者体内放置端口的指令的体育场型视图应用程序的实施方案的图形用户界面的图示。
图10是包括提供关于如何将机器人臂部署到对接臂位置的指令的体育场型视图应用程序的实施方案的图形用户界面的图示。
图11是包括提供关于如何在机器人臂中插入器械的指令的体育场型视图应用程序的实施方案的图形用户界面的图示。
图12是包括提供关于如何将机器人臂部署到分配臂位置的指令的体育场型视图应用程序的实施方案的图形用户界面的图示。
图13是包括显示关于如何将多个机器人臂移动到臂设置位置的用户引导信息的体育场型视图应用程序的实施方案的图形用户界面的图示。
图14是包括显示部署位置上的多个机器人臂的体育场型视图应用程序的实施方案的图形用户界面的图示。
图15是包括显示关于如何将多个机器人臂移动到收起位置的用户引导信息的体育场型视图应用程序的实施方案的图形用户界面的图示。
图16是另一实施方案的图形用户界面的图示。
具体实施方式
实施方案的各个方面和变型的非限制性示例在本文中描述并在附图中示出。
机器人外科系统概述
图1A是具有机器人外科系统的示例性手术室环境的图示。通常,如图1A所示,机器人外科系统包括用户控制台100(在本文中有时称为“外科医生桥”或“桥”)、控制塔133和位于机器人平台(例如,台、床等)处的一个或多个机器人臂160,其中外科器械(例如,具有端部执行器)附接到机器人臂160的远侧端部以执行外科规程。机器人臂160被示出为台式安装系统,但是在其他构型中,一个或多个机器人臂可安装在手推车、天花板或侧壁,或者其他合适的支撑表面。
作为进一步的图示,如图18的示例性示意图所示,机器人外科系统可以包括至少一个机器人臂160和通常附接到机器人臂160的远侧端部的工具驱动器170。联接到工具驱动器170的端部的插管180可以接收并引导外科器械190(例如,端部执行器、相机等)。此外,机器人臂160可以包括被致动的多个连杆,以便定位和定向工具驱动器170,该工具驱动器致动外科器械190。
通常,如图1A所示,用户控制台100可以用于与机器人外科系统150介接。用户(诸如外科医生或其他操作者)可以使用用户控制台100远程操纵机器人臂160和/或外科器械(例如,在远程操作中)。用户控制台100可位于与机器人系统150相同的手术室中,如图1A所示。在其他实施方案中,用户控制台100可位于相邻或附近的房间中,或者从不同建筑物、城市或国家的远程位置进行远程操作。在一个示例中,用户控制台100可以包括座椅110、脚踏控制件(踏板)120、一个或多个手持式用户输入设备122,以及至少一个用户显示器130,该用户显示器被配置成显示例如患者体内的手术部位的视图(例如,用内窥镜相机捕获),和/或其他手术或医学信息。
在图1C所示的示例性用户控制台中,位于座椅110中并且观看用户显示器130的用户可操纵脚踏控制件120和/或手持式用户输入设备122以远程控制机器人臂160和/或安装到该臂的远侧端部的外科器械。脚踏控制件120和/或手持式用户输入设备122可以另外或替代地用于控制用户控制台100或机器人系统150的其他方面。例如,在用户通常控制(在任何给定时间)指定的“左手”机器人臂/器械和指定的“右手”机器人臂/器械的变型中,脚踏控制件120可以使用户能够从更大的一组可用的机器人臂/器械中指定哪些机器人臂/器械包括“左手”和“右手”机器人臂/器械(例如,经由在可用的机器人臂/器械中选择时拨动或旋转)。其他示例包括调整或配置座椅110、脚踏控制件120、用户输入设备122和/或用户显示器130。
在一些变型中,用户可以在“床上”(OTB)模式下操作外科机器人系统,其中用户位于患者的一侧并且同时操纵附接到患者的机器人驱动的器械/端部执行器(例如,用一只手握持的手持式用户输入设备122)和手动腹腔镜工具。例如,用户的左手可以操纵手持式用户输入设备122以控制机器人外科部件,而用户的右手可以操纵手动腹腔镜工具。因此,在这些变型中,用户可以对患者执行机器人辅助的MIS和手动腹腔镜手术两者。
在示例性规程或手术期间,以无菌方式对患者进行准备并遮盖,并且实现麻醉。可利用处于收起构型或缩回构型的机器人系统150手动地执行对手术部位的初始接近,以有助于接近手术部位。一旦完成接近,就可执行机器人系统的初始定位和/或准备。在外科规程期间,用户控制台100中的外科医生或其他用户可以利用脚踏控制件120、用户输入设备122和/或其他合适的控制件来操纵各种端部执行器和/或成像系统以执行规程。可以由其他人员在规程台处提供手动辅助,这些人员可以执行包括但不限于以下任务:牵开组织,或执行涉及一个或多个机器人臂160的手动重新定位或工具更换。可存在其他人员以在用户控制台100处辅助用户。辅助其他医务人员(例如,护士)的医疗和手术相关信息可以提供在额外显示器上,诸如控制塔133上的显示器134(例如,用于机器人外科系统的控制系统)和/或位于靠近患者的床边的显示器132。例如,如本文进一步详细描述的,在用户控制台100中显示给用户的一些或所有信息也可以显示在其他人员的至少一个额外显示器上以及/或者提供用于人员间通信的额外路径。当完成规程或手术时,机器人系统150和/或用户控制台100可被配置或设置成处于有助于进行一个或多个术后规程的状态,包括但不限于机器人系统清洁和/或消毒,以及/或者诸如经由用户控制台100的医疗记录输入或打印输出,无论是电子拷贝还是硬拷贝。
在一些变型中,机器人系统150、用户控制台100和任何其他显示器之间的通信可以通过控制塔133,该控制塔可以将来自用户控制台100的用户命令转译成机器人控制命令,并将这些命令传输到机器人系统150。控制塔133还可将状态和反馈从机器人150传输回用户控制台100(和/或其他显示器)。外科机器人150、用户控制台100、其他显示器和控制塔133之间的连接可以是经由有线和/或无线连接,并且可以是专有的和/或使用多种数据通信协议中的任一种数据通信协议来执行。任何有线连接都可以内置于手术室的地板和/或墙壁或天花板中。外科机器人系统可向一个或多个显示器提供视频输出,包括手术室内的显示器以及可经由互联网或其他网络访问的远程显示器。视频输出或馈送可被加密以确保隐私,并且视频输出的全部或一个或多个部分可被保存到服务器、电子健康护理记录系统或其他合适的存储介质。
在一些变型中,可以提供额外用户控制台100,例如以控制额外外科器械以及/或者在主用户控制台上控制一个或多个外科器械。这将允许例如外科医生在外科规程期间与医学生和训练中的医师接替或说明一种技术,或者在需要多个外科医生同时或以协调的方式行动的复杂手术期间进行辅助。
在一些变型中,如图2的示意性图示所示,一个或多个第三方设备240可以被配置成与用户控制台210和/或机器人外科系统的其他合适部分通信。例如,如本文其他地方所描述,外科医生或其他用户可以坐在用户控制台210中,该用户控制台可以与控制塔230和/或机器人系统220中的机器人器械通信。医学数据(例如,内窥镜图像、患者生命体征、工具状态等)可以显示在用户控制台210、控制塔230和/或其他显示器处。手术和其他医疗相关信息的至少一个子集还可以显示在第三方设备240,诸如远程计算机显示器,该远程计算机显示器由同一房间中或房间外部的手术协作者观看。其他通信,诸如使用音频和/或视觉通信的电话会议,可以进一步向第三方设备提供并且从第三方设备提供。手术协作者可以是例如监督者或训练者、医务同事(例如,放射科医师)或其他第三方,他们可以例如经由第三方设备240查看和通信以辅助外科规程。
图3是系统300的示例性变型的示意性图示,该系统包括机器人外科系统和其与其他设备和其他方的交互。尽管图3中描绘了各种连接和通信系统的特定架构,但是应当理解,在其他变型中,可以使用其他合适的架构,并且图3中所示的布置是出于说明性目的。系统300可以包括外科机器人平台302,该外科机器人平台有助于集成来自从各方生成的离散医学数据资源的医学数据。来自离散医学数据资源的数据可以例如用于形成在时间上协调的医学数据。如本文进一步所描述,可以配置和呈现在时间上协调的医学数据的多面板显示器。
平台302可以是例如具有经由总线314连接到一个或多个输入/输出设备312的一个或多个处理器310的机器。至少一个处理器可以例如包括中央处理单元、图形处理单元、专用集成电路、现场可编程逻辑设备,或它们的组合。
外科机器人平台302可以包括一个或多个输入端口以从离散医学数据资源接收医学数据。例如,外科机器人端口329可以从外科机器人330接收外科机器人数据。例如,此类数据可以包括位置数据或其他合适的状态信息。成像端口331可以从成像设备332(诸如内窥镜)接收成像数据,该成像设备被配置成捕获手术部位的图像(例如,静止图像、视频图像)。内窥镜可以例如通过自然孔口或通过手术患者体内的孔插入。作为另一示例,一个或多个医疗仪器端口333可以从医疗仪器334(例如,脉冲血氧仪、心电图设备、超声设备等)接收患者生命体征信息。另外,作为另一示例,一个或多个用户控制数据端口335可以从一个或多个控制设备接收用户交互数据,该控制设备接收来自用户的用户输入以控制系统。例如,一个或多个手持式用户输入设备、一个或多个脚踏板和/或其他合适的设备(例如,眼睛跟踪、头部跟踪传感器)可以接收用户输入。
外科机器人平台302可以还包括一个或多个输出端口337,该输出端口被配置成用于连接到一个或多个显示器338。例如,显示器338可以包括在用户控制台中的开放式显示器(例如,监视器屏幕)、具有显示器的沉浸式显示器或头戴式设备、诸如在控制塔显示器上的补充显示器(例如,团队显示器)、床边显示器(例如,护士显示器)、头顶“体育场”风格的屏幕等。例如,本文所公开的图形用户界面可以呈现在一个或多个显示器338上。一个或多个显示器338可以呈现三维图像。在一些变型中,一个或多个显示器338可以包括触摸屏。一个或多个显示器138可以是具有多个面板的单个显示器,其中每个面板呈现不同内容。替代地,一个或多个显示器138可以包括单独显示器的集合,其中每个单独显示器呈现至少一个面板。
在一些变型中,网络接口316也可以连接到总线314。例如,网络接口316可以提供与网络317的连接性,该网络可以是一个或多个有线和/或无线网络的任何组合。例如,网络317可以帮助实现外科机器人平台302与其他数据源或其他设备之间的通信。例如,一个或多个第三方数据源340也可以连接到网络317。第三方源340可以包括第三方设备(例如,由诸如另一医生或医学专家的第三方操作的另一计算机)、视频外科规程数据的储存库(例如,该数据可能与由外科医生执行的规程相关),或与外科规程相关的其他合适的额外信息源。例如,可以将第三方设备数据传送到在规程之前、期间或之后向外科医生显示的面板。
作为另一示例,一个或多个应用程序数据库342可以连接到网络317(或替代地,本地存储在外科机器人平台302内的存储器320内)。应用程序数据库342可以包括软件应用程序(例如,如下文进一步详细描述的),外科医生可能在规程期间对软件应用程序感兴趣。例如,软件应用程序可以提供对所存储的患者医疗记录的访问,提供外科规程的手术任务的检查表,执行用于辅助规程的机器视觉技术,执行机器学习任务以改进手术任务等。可以调用任何合适数目的应用程序。在规程期间,可以在多面板显示器或其他合适的显示器中显示与应用程序相关联的信息。另外或替代地,由一个或多个应用程序提供的信息可以通过单独的资源(例如,机器学习资源)来提供,该资源另外与外科机器人平台302合适地通信。
在一些变型中,软件应用程序中的一个或多个软件应用程序可以作为使用应用程序程序界面(API)来绘制显示器上的对象和/或图像的单独过程来运行。可以使用不同复杂性的API。例如,简单的API可以包括具有固定小部件大小和位置的几个模板,该模板可以由GUI模块用来自定义文本和/或图像。作为另一示例,更复杂的API可以允许软件应用程序创建、放置和删除不同的小部件,诸如标签、列表、按钮和图像。
另外或替代地,一个或多个软件应用程序可以渲染自身以用于显示。这可以例如允许应用程序的高级自定义和复杂行为。例如,此方法可通过允许应用程序传递由图形用户界面(GUI)模块324渲染的帧来实施,该GUI模块可为由处理器310执行的计算机可读程序代码。替代地,图像缓冲区可用作应用程序向其渲染自身的储存库。
在一些变型中,一个或多个软件应用程序可以独立于GUI模块324运行并渲染自身。然而,GUI模块仍然可以启动此类应用程序、指示应用程序或操作系统将应用程序定位在显示器上的哪里,等等。
作为另一方法,在一些变型中,一个或多个应用程序可以与由GUI模块渲染的GUI完全分开运行。例如,此类应用程序可以具有与系统的物理视频连接和数据连接(例如,通过合适的输入/输出设备、网络等)。数据连接可用于将应用程序的视频馈送配置成适当的像素尺寸(例如,全屏、半屏等)。
如图3所示,在一些变型中,存储器320也可以连接到总线314。存储器320可以被配置成存储根据本文所描述的方法和系统的实施方案来处理的数据。
在一些变型中,存储器320可以被配置成存储用于执行的其他种类的数据和/或软件模块。例如,用户控制台可以包括存储器320,该存储器存储具有可执行指令以实施本文所公开的操作的GUI模块324。GUI模块可以例如组合和聚合来自各种软件应用程序和/或其他医学数据资源的信息以用于显示。在一些示例性变型中,一个或多个软件应用程序可以结合到GUI模块的基码中,使得模块绘制图形并在显示器上的适当位置显示文本。例如,模块可以从数据库中获取图像,或者可以经由有线或无线接口将图像从手术室中的器械(例如,内窥镜相机)推送到接口。
在一些变型中,可以从离散医学数据资源(例如,外科机器人330、内窥镜332、医疗仪器334、控制设备336、第三方数据源340、应用程序数据库342等)收集医学数据。另外,医学数据中的至少一些医学数据可以是在时间上协调的,使得在必要时,来自不同医学数据资源的时间敏感信息在公共时间轴上对准。例如,外科机器人位置数据可以与内窥镜数据进行时间协调,该内窥镜数据与来自控制设备的操作者交互数据协调。类似地,诸如由一个或多个软件应用程序提供的信息的网络资源可以在适当的时间点与其他在时间上协调的数据一起呈现。多面板显示器和/或其他合适的显示器可以被配置成将医学信息(例如,包括在时间上协调的医学数据)作为图形用户界面(GUI)的一部分进行传达。
在一些实施方案中,GUI可以在控制机器人外科系统的用户控制台处的多面板显示器中显示。另外地或替代地,GUI可以显示在一个或多个额外显示器处,诸如机器人外科系统的控制塔处、患者床边处等。通常,GUI可以向用户控制台中的用户和/或其他人员提供更有效的信息通信,以及在外科规程中涉及的不同方之间提供更有效的通信和协作。
以下部分描述了可以与机器人外科系统150的GUI一起使用的一个特定实施方案。其他GUI实施方案的示例描述于2017年12月14日提交的美国专利申请15/842,485“Multi-Panel Graphical User Interface for a Robotic Surgical System”中,该专利申请以引用的方式并入本文。
GUI的体育场型视图应用程序
在一个实施方案中,GUI运行渲染台和多个机器人臂160的当前位置的图形表示(即,不是实际相机视图)的“体育场型视图”应用程序。体育场型视图还可以示出额外信息,诸如但不限于患者、手术室工作人员和/或手术室环境的其他元素的图形表示。图形表示可以是二维或三维的,并且可以由机器人外科系统150生成,或者由单独的部件渲染并且提供给体育场型应用程序以用于显示。
当前位置可以从与台和多个机器人臂160的当前位置相关的实时或接近实时的信息导出。例如,机器人臂的图形表示(有时在本文中被称为“渲染”)可以至少部分地基于控制机器人臂的一个或多个运动算法。可以将一个或多个运动算法馈送到建模模块中,该建模模块将运动信息变换为渲染的二维或三维模型。作为另一示例,机器人臂和/或台的渲染可以至少部分地基于一个或多个传感器(例如,机器人臂中的位置传感器、手术室周围的跟踪放置在机器人臂160或台上的标记的红外传感器等)。
此体育场型视图可以向用户提供手术室中的机器人外科系统150、患者和/或工作人员等的“患者体外”视图。例如,用户可以监视机器人系统的状态,诸如工具状态、潜在碰撞等,并且向手术团队的其他成员传达此类状态和对任何问题的解决方案。此外,在一些变型中,用户可以与体育场型视图应用程序内的图形表示交互,并且实现机器人外科系统的一个或多个变化,如下所描述。
图4A中示出了体育场型视图应用程序的示例性实施方式。如图4A所示,体育场型视图应用程序900可以显示患者台上的患者以及对接到患者的多个机器人臂的3D渲染910。可以另外显示透视引导920以指示当前正在显示3D渲染的哪种视图(例如,透视图、平面图等)。此外,如例如图4C所示,机器人臂中的至少一些机器人臂可以被数字标记,以便区分不同的机器人臂(例如,帮助实现关于特定臂的状态的更好通信)。在体育场型视图应用程序900内的另一视图中,关于机器人系统的状态的额外信息(例如,哪些种类的工具附接到相应机器人臂、工具的激活状态等)可以另外显示在渲染910附近。
可以基于所渲染对象的状态来修改体育场型视图应用程序中的3D渲染910的显示。例如,如图4B所示,渲染910通常是标称渲染,其中未选择或突出显示渲染910的特定部分。如图4C所示,体育场型视图应用程序可以被配置成诸如响应于对臂的用户选择而突出显示机器人臂中的至少一个机器人臂(在图4C中标记为“2”)。例如,用户可以选择特定机器人臂,并且作为响应,体育场型视图应用程序可以显示关于所选臂的状态的信息。如例如图4E所示,响应于对臂的用户选择,体育场型视图应用程序还可以显示和/或突出显示与所选臂和其相关联工具相关的信息,诸如工具类型(例如,“剪刀”)、工具状态(例如,诸如“切割”或“凝血”的操作状态,和/或剩余缝钉等)等。作为另一示例,用户可以选择特定机器人臂,使得机器人臂在用户的所显示GUI和GUI的另一所显示实例中(例如,在控制塔显示器上)被高亮显示,以更容易地与和机器人臂有关的其他手术工作人员通信,从而减少混淆。
作为另一示例,用户可以选择在体育场型视图应用程序中渲染的机器人臂,并且将其移动(例如,通过点击和拖曳交互)以实现实际选择的机器人臂的位置(位姿)的变化。所选择的所渲染机器人臂的移动可以例如被传达到机器人臂控制器,该机器人臂控制器将新位置解析为一系列一个或多个致动器命令以致动机器人臂中的关节,使得机器人臂位置匹配所渲染机器人臂的新位置。因此,体育场型视图应用程序可以提供帮助用户能够在用户控制台中“手动地”从用户控制台重新定位机器人臂而无需物理地接触机器人臂的方式。类似地,可以经由调整体育场型视图应用程序内的所渲染患者台来调整患者台的位置。
在一些变型中,体育场型视图应用程序可以被配置成向用户告知机器人臂之间的碰撞。在一些变型中,可以基于机器人臂上的接近度传感器或接触传感器、机器视觉技术和/或以任何合适的方式检测碰撞(例如,即将发生的或已发生的)。响应于接收到指示即将发生或已发生碰撞的信息,体育场型视图应用程序可以突出显示碰撞中涉及的一个或多个机器人臂。例如,如图4D所示,可以突出显示一个或多个所渲染机器人臂(标记为“3”和“4”)。另外或替代地,可以显示解释碰撞的警告通知930。可以通过体育场型视图应用程序另外提供指示碰撞的音频警告。应当理解,在其他变型中,体育场型视图应用程序可以以类似的方式提供对其他种类的状态更新(诸如外科器械错误)的警告或通知。例如,可以突出显示机器人系统的其他部分和/或手术室环境的其他合适部分的所渲染显示,以指示其他种类的状态改变或提供合适的更新。还可以经由体育场型视图应用程序提供类似于对其他种类状态更新的警告通知930的通知。
在以上示例中,在手术期间在术中使用体育场型视图来向外科医生(使用桥100上的显示器)和/或工作人员(例如,使用控制塔133上的显示器134或位于患者邻近/附近的床边的显示器132)提供机器人臂160的位置的实时或接近实时的视图,以警告臂160和/或其他物体之间的可能碰撞。以上示例还示出了体育场型视图可以由外科医生在手术期间使用以在机器人臂上的器械交换期间引导工作人员。如由这些示例所示,因为体育场型视图为外科医生提供了具有来自外科医生控制台100的机器人臂160、台和患者的实时或接近实时体外视图的方式,所以此实施方案允许外科医生在手术期间与床边工作人员更好地通信。也就是说,使用体育场型视图,外科医生控制台100处的外科医生可以具有对床边情况的更好理解,并且与床边工作人员清楚地通信,因为外科医生将具有臂160的实时(或接近实时)视图,该视图具有对臂160和工具名称的标识。体育场型视图还可以提供反馈,诸如错误或警告信息,以帮助解决问题(例如,臂碰撞)。
在另一示例中,可以在术前和/或术后使用体育场型视图,以通过提供关于如何将多个机器人臂160移动到不同位置的用户引导信息来引导工作人员(例如护士)完成臂设置和/或拆卸。术前/术后臂设置/拆卸是机器人外科系统150的用户必须面对的重要过程。用户可以发现由此实施方案的体育场型视图提供的视觉引导比文本指南更容易遵循并且更合乎需要。例如,在机器人系统的设置期间,可以在体育场型视图应用程序中突出显示特定机器人臂,以指示应将根据规程模板应用程序的下一工具附接到该特定机器人臂。可以经由体育场型视图应用程序提供其他引导,诸如文本描述和/或工具和动画(视频)的其他图形表示等,以进一步帮助手术工作人员设置、拆卸或以其他方式有助于系统。以下段落和图5至图12提供关于此实施方案的更多信息。
图5是包括提供关于如何定位患者的用户引导信息的体育场型视图应用程序的实施方案的图形用户界面的图示。图6是包括提供关于如何部署机器人臂的用户引导信息的体育场型视图应用程序的实施方案的图形用户界面的图示。臂的移动可以例如使用用户输入设备(例如,远程控制件)来完成。图7是包括提供关于如何遮盖机器人臂的指令的体育场型视图应用程序的实施方案的图形用户界面的图示。图8是包括提供关于如何将机器人臂移动到准备臂位置的指令的体育场型视图应用程序的实施方案的图形用户界面的图示。图9是包括提供关于如何在患者体内放置端口的指令的体育场型视图应用程序的实施方案的图形用户界面的图示。图10是包括提供关于如何将机器人臂部署到对接臂位置的指令的体育场型视图应用程序的实施方案的图形用户界面的图示。图11是包括提供关于如何在机器人臂中插入器械的指令的体育场型视图应用程序的实施方案的图形用户界面的图示。图12是包括提供关于如何将机器人臂部署到分配臂位置的指令的体育场型视图应用程序的实施方案的图形用户界面的图示。
在一个实施方案中,可以修改机器人系统的一个或多个部分的所渲染显示以帮助在机器人外科系统150的设置和/或拆卸(例如,术前和/或术后规程)期间引导手术团队,或以其他方式有助于系统150。也就是说,除了显示台和多个机器人臂160的当前位置的图形表示之外,GUI可以显示关于如何将多个机器人臂160移动到不同位置(例如,臂设置位置或臂拆卸位置)的用户引导信息。现在将结合图13至图15描述此实施方案。
图13示出了台和多个机器人臂160的当前位置的图形表示。臂160在台下方处于“收起”位置。图13还示出了关于如何将多个机器人臂160移动到不同位置(在此,完全部署位置)的用户引导信息。此示例中的用户引导信息是多个机器人臂在不同位置的图形表示的显示。如图13所示,多个机器人臂160的当前位置的图形表示呈实线,并且多个机器人臂160在不同位置的图形表示呈假想线。然而,可以使用显示和输送此用户引导信息的其他方式。
通过能够看到臂160应当被定位到的位置,用户可以简单地移动臂160,直到机器人臂160的当前位置的图形表示与机器人臂160的“目的地位置”的图形表示重叠为止(参见图14)。因为机器人臂160的当前位置的图形表示随着用户正在移动臂而移动,所以用户获得对怎样将机器人臂160定位到适当位置的连续视觉反馈。可选地,机器人外科系统150可以提供关于如何将多个机器人臂160移动到不同位置的可听用户引导信息。例如,当用户正在将机器人臂160移动成更靠近其预期位置时,系统150可以提供听觉提示,诸如当用户在正确轨道上时更频繁“嘟嘟”的声音,然后是不同的声音以指示成功定位。
图13示出了臂设置情况的示例,而图15示出了具有体育场型视图的GUI可以如何在臂拆下的情况下使用以收起机器人臂160。如图15所示,处于收起位置的臂以虚线示出,并且用户将要将机器人臂160移动到以虚线示出的位置,以收起臂160。
当然,这些仅仅是示例,并且可以使用用户引导信息的其他实施方案。例如,代替仅用静态图像指示机器人臂160的最终位置,GUI可以提供准确地示出应该如何操纵机器人臂160以将其移动到其最终位置的动画/视频。作为另一示例,用户引导信息可以是对按下机器人臂160上的哪些触点以及如何移动机器人臂160的显示。作为又一示例,除了臂160、台和患者的图形表示之外,体育场型视图还可以包括手术部位的内窥镜视图(由机器人臂160中的一个机器人臂上的内窥镜相机捕获)。此外,这些实施方案可用于引导用户定位患者和台附件。这样可以帮助使体育场型视图能够反映台上的患者的精确位置。另外,这些实施方案可以用于自动检测用户何时已经跳过或错过设置/拆卸步骤,并且利用关于如何解决问题的引导将此告知用户。最后,如上所述,附图中所示的图像仅是示例,并且可以使用其他图形或表示。例如,图16是另一实施方案的图形用户界面的图示。
出于解释的目的,前述描述使用特定命名来提供对本发明的透彻理解。然而,对于本领域的技术人员将显而易见的是,实践本发明不需要具体细节。出于举例说明和描述的目的,已经提供了本发明的特定实施方案的前述说明。它们并非旨在为详尽的或将本发明限制为所公开的具体形式;根据上述教导内容可对本公开进行多种修改和改变。选择和描述实施方案是为了最好地解释本发明的原理和其实际应用,从而其使得本领域的其他技术人员能够最好地利用本发明和具有适合于所设想的特定用途的各种修改的各种实施方案。以下权利要求书及其等同项旨在限定本发明的范围。

Claims (20)

1.一种机器人外科系统,包括:
多个机器人臂;
显示设备;以及
处理器,所述处理器被配置成:
在所述显示设备上渲染所述多个机器人臂在所述多个机器人臂的当前位置的图形表示;以及
在所述显示设备上显示关于如何将所述多个机器人臂移动到不同位置的用户引导信息。
2.根据权利要求1所述的机器人外科系统,其中所述不同位置是部署位置。
3.根据权利要求1所述的机器人外科系统,其中所述不同位置是收起位置。
4.根据权利要求1所述的机器人外科系统,其中所述多个机器人臂在所述多个机器人臂的当前位置的所述图形表示呈实线,并且其中所述用户引导信息包括所述多个机器人臂在所述不同位置的呈假想线的图形表示。
5.根据权利要求1所述的机器人外科系统,其中所述用户引导信息包括关于如何操纵用户输入设备以将所述多个机器人臂移动到所述不同位置的指令。
6.根据权利要求1所述的机器人外科系统,其中所述处理器被进一步配置成提供可听用户引导信息。
7.根据权利要求1所述的机器人外科系统,其中所述显示设备与患者台相邻定位。
8.根据权利要求1所述的机器人外科系统,其中所述用户引导信息包括要操纵所述多个机器人臂上的哪些触点的指示。
9.一种用于机器人外科系统的方法,所述方法包括:
在包括多个机器人臂和显示设备的机器人外科系统中执行以下操作:
在所述显示设备上渲染所述多个机器人臂的当前位置的图形表示;以及
在所述显示设备上显示所述多个机器人臂的目的地位置的图形表示,其中所述多个机器人臂的所述目的地位置的所述图形表示与所述多个机器人臂的所述当前位置的所述图形表示不同地显示。
10.根据权利要求9所述的方法,其中所述多个机器人臂的所述目的地位置的所述图形表示以假想线显示,并且其中所述多个机器人臂的所述当前位置的所述图形表示以实线渲染。
11.根据权利要求9所述的方法,其中所述目的地位置是以下中的一者:部署位置和收起位置。
12.根据权利要求9所述的方法,进一步包括提供可听用户引导信息。
13.根据权利要求9所述的方法,其中所述显示设备与患者台相邻定位。
14.根据权利要求9所述的方法,进一步包括显示要操纵所述多个机器人臂上的哪些触点的指示。
15.一种机器人外科系统,包括:
多个机器人臂;以及
用于提供关于如何将所述多个机器人臂移动到不同位置的用户引导信息的装置。
16.根据权利要求14所述的机器人外科系统,其中所述用于提供的装置包括用于与所述多个机器人臂在当前位置的图形表示的所渲染显示一起在显示设备上显示所述多个机器人臂在所述不同位置的图形表示的装置。
17.根据权利要求15所述的机器人外科系统,其中所述多个机器人臂在所述不同位置的图形表示与所述多个机器人臂在当前位置的所渲染图形表示不同地显示。
18.根据权利要求14所述的机器人外科系统,其中所述用于提供的装置包括用于提供关于如何操纵用户输入设备以将所述多个机器人臂移动到所述不同位置的指令的装置。
19.根据权利要求14所述的机器人外科系统,其中所述用于提供的装置包括用于提供可听用户引导信息的装置。
20.根据权利要求14所述的机器人外科系统,其中显示设备与患者台相邻定位。
CN202080097012.4A 2020-02-18 2020-02-21 用于提供具有臂设置引导的体育场型视图的机器人外科系统和方法 Pending CN115135270A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US16/793,886 US20210251706A1 (en) 2020-02-18 2020-02-18 Robotic Surgical System and Method for Providing a Stadium View with Arm Set-Up Guidance
US16/793886 2020-02-18
PCT/US2020/019214 WO2021167619A1 (en) 2020-02-18 2020-02-21 Robotic surgical system and method for providing a stadium view with arm set-up guidance

Publications (1)

Publication Number Publication Date
CN115135270A true CN115135270A (zh) 2022-09-30

Family

ID=77272242

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080097012.4A Pending CN115135270A (zh) 2020-02-18 2020-02-21 用于提供具有臂设置引导的体育场型视图的机器人外科系统和方法

Country Status (5)

Country Link
US (1) US20210251706A1 (zh)
EP (1) EP4106660A4 (zh)
KR (1) KR20220143893A (zh)
CN (1) CN115135270A (zh)
WO (1) WO2021167619A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI805248B (zh) * 2022-03-01 2023-06-11 艾沙技術股份有限公司 基於頭部追蹤控制內視鏡手術機器人的控制系統與控制方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9789608B2 (en) * 2006-06-29 2017-10-17 Intuitive Surgical Operations, Inc. Synthetic representation of a surgical robot
US8315720B2 (en) * 2008-09-26 2012-11-20 Intuitive Surgical Operations, Inc. Method for graphically providing continuous change of state directions to a user of a medical robotic system
KR102101435B1 (ko) * 2013-03-13 2020-04-17 스트리커 코포레이션 수술 절차들을 위한 준비시 수술실에 대상들을 배치하는 시스템
KR102469169B1 (ko) * 2014-03-17 2022-11-23 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 원격조정 의료 장치를 위한 안내 설정
US20160314711A1 (en) * 2015-04-27 2016-10-27 KindHeart, Inc. Telerobotic surgery system for remote surgeon training using robotic surgery station and remote surgeon station with display of actual animal tissue images and associated methods
US9622827B2 (en) * 2015-05-15 2017-04-18 Auris Surgical Robotics, Inc. Surgical robotics system
WO2019023390A2 (en) * 2017-07-27 2019-01-31 Intuitive Surgical Operations, Inc. MEDICAL DEVICE HANDLE
US11071595B2 (en) * 2017-12-14 2021-07-27 Verb Surgical Inc. Multi-panel graphical user interface for a robotic surgical system
EP3737321A4 (en) * 2018-01-10 2021-09-01 Covidien LP GUIDED TO POSITION A PATIENT AND SURGICAL ROBOT
EP3764932A4 (en) * 2018-03-13 2021-05-26 Intuitive Surgical Operations, Inc. MANUAL MOVEMENT GUIDANCE PROCESSES OF MEDICAL SYSTEMS
GB2608751B (en) * 2018-10-03 2023-06-14 Cmr Surgical Ltd Methods and systems for providing assistance to a user of a surgical robot system

Also Published As

Publication number Publication date
US20210251706A1 (en) 2021-08-19
EP4106660A4 (en) 2024-03-20
WO2021167619A1 (en) 2021-08-26
EP4106660A1 (en) 2022-12-28
KR20220143893A (ko) 2022-10-25

Similar Documents

Publication Publication Date Title
US11812924B2 (en) Surgical robotic system
US11786319B2 (en) Multi-panel graphical user interface for a robotic surgical system
CN110461269B (zh) 用于机器人外科系统的多面板图形用户界面
US11766308B2 (en) Systems and methods for presenting augmented reality in a display of a teleoperational system
US20180168754A1 (en) Robotic surgical system with selective motion control decoupling
US20210205027A1 (en) Context-awareness systems and methods for a computer-assisted surgical system
CN109996509B (zh) 带有基于外科医生技能水平的器械控制的远程操作手术系统
US20220370131A1 (en) Simulation-Based Surgical Procedure Planning System
US11633247B2 (en) Graphical user guidance for a robotic surgical system
WO2020092170A1 (en) Surgical robotic system
CN115697235A (zh) 使用增强现实的远程外科指导
US20210251706A1 (en) Robotic Surgical System and Method for Providing a Stadium View with Arm Set-Up Guidance
WO2022243957A1 (en) Simulation-based surgical procedure planning system
WO2023114348A1 (en) Methods and systems for coordinating content presentation for computer-assisted systems
JP2024521722A (ja) 手術シミュレーションナビゲーションシステム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination