CN111182847B - 机器人手术系统和方法及用于其控制的计算机可读介质 - Google Patents

机器人手术系统和方法及用于其控制的计算机可读介质 Download PDF

Info

Publication number
CN111182847B
CN111182847B CN201880064946.0A CN201880064946A CN111182847B CN 111182847 B CN111182847 B CN 111182847B CN 201880064946 A CN201880064946 A CN 201880064946A CN 111182847 B CN111182847 B CN 111182847B
Authority
CN
China
Prior art keywords
user
head
surgical system
actuation
response
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201880064946.0A
Other languages
English (en)
Other versions
CN111182847A (zh
Inventor
威廉·派纳
艾伯特·德沃尔尼克
贾里德·法洛
罗伯特·皮尔斯
罗伯特·斯蒂芬森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Covidien LP
Original Assignee
Covidien LP
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Covidien LP filed Critical Covidien LP
Publication of CN111182847A publication Critical patent/CN111182847A/zh
Application granted granted Critical
Publication of CN111182847B publication Critical patent/CN111182847B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/361Image-producing devices, e.g. surgical cameras
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B34/37Master-slave robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/70Manipulators specially adapted for use in surgery
    • A61B34/74Manipulators with manual electric input means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/70Manipulators specially adapted for use in surgery
    • A61B34/76Manipulators having means for providing feel, e.g. force or tactile feedback
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/70Manipulators specially adapted for use in surgery
    • A61B34/77Manipulators with motion or force scaling
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/39Markers, e.g. radio-opaque or breast lesions markers
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/50Supports for surgical instruments, e.g. articulated arms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00017Electrical control of surgical instruments
    • A61B2017/00216Electrical control of surgical instruments with eye tracking or head position tracking control
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2055Optical tracking systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/70Manipulators specially adapted for use in surgery
    • A61B34/74Manipulators with manual electric input means
    • A61B2034/742Joysticks
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/39Markers, e.g. radio-opaque or breast lesions markers
    • A61B2090/3937Visible markers
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/39Markers, e.g. radio-opaque or breast lesions markers
    • A61B2090/3991Markers, e.g. radio-opaque or breast lesions markers having specific anchoring means to fixate the marker to the tissue, e.g. hooks
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/50Supports for surgical instruments, e.g. articulated arms
    • A61B2090/502Headgear, e.g. helmet, spectacles

Landscapes

  • Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Robotics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Pathology (AREA)
  • Manipulator (AREA)

Abstract

本公开涉及一种机器人手术系统和方法及用于其控制的计算机可读介质。机器人手术系统以改善用户体验和用户控制的方式进行操作。机器人手术系统被配置为具有携带模式、摄像机重定位模式和/或瞄准模式,用户可以选择其中的一种或多种。

Description

机器人手术系统和方法及用于其控制的计算机可读介质
背景技术
机器人手术系统越来越多地用于微创手术程序。通常,机器人手术系统包含远离一个或多个机器人臂的临床医生控制台,外科手术器械和/或摄像机联接到所述机器人臂。例如,临床医生控制台可以从机器人臂、另一个房间或另一个建筑物中位于手术室的另一侧,并且包含由临床医生致动的输入手柄和/或其它输入装置。基于输入手柄的激励的信号被传送到中央控制器,所述中央控制器将信号转换成用于操纵机器人臂和/或其联接的手术器械的命令,例如,在手术部位内。
除输入手柄和输入装置外,临床医生控制台还包括显示器。该显示器通过显示由附接到一个或多个机器人臂的摄像机捕获的图像来提供手术部位的视图。为了将摄像机定位和/或重新定位在手术部位内,临床医生可将输入手柄的致动与手术器械分离,并将输入手柄的致动与摄像机相关联。结果,当临床医生致动输入手柄时,基于致动的信号被转换成命令以实现摄像机的相应运动。尽管当前的机器人手术系统已经足够,但可以对其进行改进。
发明内容
本公开提供了改进的机器人手术系统,并且还提供了用于控制机器人手术系统的改进的方法和计算机可读介质。
在本公开的一方面,机器人手术系统包括:机器人臂,其包括手术器械;被配置为捕获手术部位的图像的患者图像捕获装置;以及控制台。控制台包括:显示器,用于显示所捕获的手术部位的图像;输入手柄;以及输入装置,其被配置为被致动并基于致动提供信号,以使机器人手术系统进入或退出摄像机重定位模式。控制器耦合到机器人臂、患者图像捕获装置和控制台。控制器包括处理器和耦合到处理器的存储器。存储器上存储有指令,当指令由处理器执行时,该指令响应于基于输入装置的致动而接收到的信号,使控制器使机器人手术系统进入摄像机重新定位模式。当机器人手术系统处于摄像机重定位模式时,控制器将输入手柄的致动与机器人臂的运动解除关联,并跟踪用户头部的位置。
在本公开的另一方面,输入装置包括在输入手柄上的按钮。
在本公开的另一方面,输入装置包括脚踏板。
在本公开的又一个方面,存储器上还存储有其他指令,当由处理器执行时,该指令使控制器响应于基于脚踏板的第一致动而接收到第一信号而进入摄像机重定位模式,并响应于在接收到第一信号的预定时间内基于脚踏板的第二致动而接收到第二信号,退出摄像机重定位模式。
在本发明的又一个方面,存储器上还存储有其他指令,当由处理器执行时,该指令使控制器响应于接收到指示踩下脚踏板的信号而进入摄像机重定位模式,并响应于接收到指示脚踏板已被释放的信号,退出摄像机重新定位模式。
在本公开的另一方面,该机器人手术系统还包括用户图像捕获装置,其被配置为捕获用户的图像以用于跟踪用户的头部的运动。
在本发明的又一个方面,存储器上还存储有其他指令,该指令在由处理器执行时使控制器从由用户图像捕获装置捕获的用户的图像中检测用户头部的位置,从捕获的用户的图像确定是否已经发生用户头部的左或右倾斜,并且响应于确定用户头部的倾斜是左倾斜还是右倾斜,引起患者图像捕获装置相应地左或右摇摄。
在本发明的又一个方面,存储器上还存储有其他指令,当由处理器执行时,该指令使控制器从捕获的用户图像中检测用户头部的位置,确定用户的头部是否已经发生转动(roll),并且响应于确定用户头部的转动,使患者图像捕获装置以与用户头部的转动相对应的运动转动。
在本公开的另一方面,存储器上还存储有其他指令,该指令在由处理器执行时使控制器在处于摄像机重新定位模式时,增大基于输入手柄的致动而接收到的信号和手术器械的输出运动之间的比例因子。
在本公开的另一方面,存储器上还存储有其他指令,该指令在由处理器执行时使控制器,当由机器人手术系统处于摄像机重定位模式时,提供力反馈信号或扭矩反馈信号中的至少一个,以减少与基于输入手柄的致动而接收到的信号相对应的手术器械的输出运动,以防止输入手柄的操纵使手术器械运动。
根据本公开的一个方面,一种控制机器人手术系统的方法包括基于机器人手术系统的输入装置的致动产生至少一个信号,该至少一个信号使机器人手术系统进入或退出摄像机重定位模式。响应于所述至少一个信号,机器人手术系统进入摄像机重新定位模式。当机器人手术系统处于摄像机重定位模式时,机器人手术系统的输入手柄的致动与机器人手术系统的机器人臂的运动解除关联,并且通过用户图像捕获装置跟踪用户头部的位置。
在本公开的另一方面,输入装置包括脚踏板。该方法还包括:响应于接收到由脚踏板的第一致动产生的第一信号进入摄像机重定位模式,以及在产生第一信号的预定时间内响应于接收到由脚踏板的第二致动产生的第二信号离开摄像机重定位模式。
在本公开的另一方面,所述输入装置包括脚踏板,并且所述方法还包括:响应于所生成的指示所述脚踏板已被踩下的信号而进入所述摄像机重定位模式;以及响应于所生成的指示脚踏板已释放的信号,退出所述摄像机重定位模式。
在本公开的另一方面,该方法还包括捕获用户头部的图像。确定用户的头部位置是发生左倾斜还是右倾斜。响应于确定用户的头部的倾斜是左倾斜或右倾斜,机器人手术系统的患者图像捕获装置相应地向左或向右摇摄。
在本公开的另一方面,该方法还包括捕获用户头部的图像。确定用户的头部位置是否发生转动。响应于确定已经发生用户头部的转动,机器人手术系统的患者图像捕获装置以与用户头部的转动相对应的运动转动。
在本公开的另一方面,该方法进一步包括,当在摄像机重定位模式中时,增加基于输入手柄的致动接收的至少一个信号与机器人手术系统的手术器械的输出运动之间的比例因子。
在本公开的另一方面,该方法还包括:当在摄像机重定位模式中时,提供力反馈信号或扭矩反馈信号中的至少一个,以减少与基于输入手柄的致动接收的信号相对应的到手术器械的输出,以防止输入手柄的致动移动机器人手术系统的手术器械。
根据本公开的又一方面,一种非暂时性计算机可读介质具有存储在其上的指令,该指令在由处理器执行时使处理器执行用于控制机器人手术系统的方法。该方法包括基于机器人手术系统的输入装置的致动来接收至少一个信号,该至少一个信号使机器人手术系统进入或退出摄像机重定位模式,并且响应于接收到所述至少一个信号,使机器人手术系统进入摄像机重定位模式。当机器人手术系统处于摄像机重定位模式时,机器人手术系统的输入手柄的致动与机器人手术系统的机器人臂的运动解除关联,并且通过用户图像捕获装置跟踪用户头部的位置。
在本公开的另一方面,输入装置包括脚踏板。该方法还包括响应于基于脚踏板的第一致动而接收到第一信号而进入摄像机重定位模式,以及在接收第一信号的预定时间内响应于基于脚踏板的第二致动而接收到第二信号而离开摄像机重定位模式。
在本公开的另一方面,其中所述输入装置包括脚踏板,并且所述方法还包括:响应于接收到指示所述脚踏板已被踩下的信号而进入所述摄像机重定位模式;以及响应于接收到指示脚踏板已释放的信号,退出所述摄像机重定位模式。
在本公开的另一方面,该方法还包括:基于来自用户图像捕获装置的捕获图像,确定是否发生了用户头部位置的左倾斜或右倾斜,以及响应于确定用户头部的倾斜是左倾斜或右倾斜,使机器人手术系统的患者图像捕获装置相应地向左或向右摇摄。
在本公开的另一方面,该方法还包括:基于来自用户图像捕获装置的捕获图像,确定是否发生了用户头部的转动;以及响应于确定已经发生了用户头部的转动,使机器人手术系统的患者图像捕获装置以与用户头部的转动相对应的运动转动。在本公开的又一方面,当在摄像机重定位模式下时,增加在基于输入手柄的致动接收的至少一个信号与由机器人手术系统的手术器械的输出运动之间的缩放因子。
在本公开的另一方面,该方法还包括:当在摄像机重定位模式中时,提供力反馈信号或扭矩反馈信号中的至少一个,以减少与基于输入手柄的致动接收的至少一个信号相对应的到机器人手术系统的手术器械的输出,以防止输入手柄的致动移动手术器械。
根据本公开的又一方面,机器人手术系统包括:机器人臂,其包括手术器械;具有可调节的视野并且被配置为捕获手术部位的图像的患者图像捕获装置;以及控制台。控制台包括用于显示所捕获的手术部位的图像的显示器、输入手柄和输入装置。输入装置被配置为被致动并基于该致动提供信号以使机器人手术系统进入或退出携带模式。控制器耦合到机器人臂、患者图像捕获装置和控制台。控制器包括处理器和耦合到处理器的存储器。该方法具有存储在其上的指令,该指令在由处理器执行时使控制器接收手术部位的捕获图像,基于输入手柄的致动来接收信号以移动手术器械,基于输入装置的致动来接收信号;并响应于基于输入装置的致动接收到的信号,使机器人手术系统进入携带模式。携带模式包括检测在手术部位的捕获图像中的手术器械,响应于确定手术器械不在患者图像捕获装置的视野内而确定手术器械是否在患者图像捕获装置的视野内,使患者图像捕获装置调整视野,并响应于确定手术器械在患者图像捕获装置的视野内,确定手术器械是否正随着时间在捕获图像中移动。
在本公开的另一方面,存储器上还存储有其他指令,当由处理器执行该指令时,响应于确定手术器械正在移动,使控制器调整患者图像捕获装置的姿势。
根据本公开的另一方面,一种控制机器人手术系统的方法包括基于机器人手术系统的输入装置的致动来接收信号。该机器人手术系统包括机器人臂,该机器人臂包括与之联接的手术器械;具有可调节的视野并且被配置为捕获手术部位的图像的患者图像捕获装置;以及控制台。控制台包括用于显示手术部位的捕获图像的显示器和输入手柄。输入装置被配置为被致动并基于该致动提供信号以使机器人手术系统进入或退出携带模式。该方法包括:接收手术部位的捕获图像;基于输入手柄的致动来接收信号以移动手术器械;基于输入装置的致动来接收信号;并响应于基于输入装置的致动接收到的信号,使机器人手术系统进入携带模式。携带模式包括检测在手术部位的捕获图像中的手术器械,响应于确定手术器械不在患者图像捕获装置的视野内而确定手术器械是否在患者图像捕获装置的视野内,使患者图像捕获装置调整视野,并响应于确定手术器械在患者图像捕获装置的视野内,确定手术器械是否正随着时间在捕获图像中移动。
在本公开的另一方面,响应于确定手术器械正在运动,调节患者图像捕获装置的姿势。
根据本公开的又一方面,一种非暂时性计算机可读介质包括存储在其上的指令,该指令在由处理器执行时使处理器执行用于控制机器人手术系统的方法。该方法包括基于机器人手术系统的输入装置的致动来接收信号。该机器人手术系统包括机器人臂,该机器人臂包括与之联接的手术器械;具有可调节的视野并且被配置为捕获手术部位的图像的患者图像捕获装置;以及控制台,其包括显示手术部位的捕获图像的显示器和输入手柄。输入装置被配置为被致动并基于该致动提供信号以使机器人手术系统进入或退出携带模式。该方法也包括:接收手术部位的捕获图像;基于输入手柄的致动来接收信号以移动手术器械;基于输入装置的致动来接收信号;并响应于基于输入装置的致动接收到的信号,使机器人手术系统进入携带模式。携带模式包括检测在手术部位的捕获图像中的手术器械,响应于确定手术器械不在患者图像捕获装置的视野内而确定手术器械是否在患者图像捕获装置的视野内,使患者图像捕获装置调整视野,并响应于确定手术器械在患者图像捕获装置的视野内,确定手术器械是否正随着时间在捕获图像中移动。
在本公开的另一方面,所述方法还包括响应于确定手术器械正在运动,调节患者图像捕获装置的姿势。
根据另一方面,一种机器人手术系统包括患者图像捕获装置,控制台和用户图像捕获装置,所述患者图像捕获装置具有可调节的视野并且被配置为捕获手术部位的图像,所述用户图像捕获装置被配置为捕获用户的图像。控制台包括用于显示所捕获的手术部位的图像的显示器、输入手柄以及一个或多个输入装置,其中一个或多个输入装置中的第一输入装置被配置为被致动并基于所述致动提供信号,以使机器人手术系统进入或退出瞄准模式。控制器耦合到患者图像捕获装置、控制台和用户图像捕获装置。控制器包含处理器和耦合到处理器的存储器。存储器上存储有指令,该指令在由处理器执行时使控制器从捕获的用户图像中跟踪用户头部的位置,基于第一输入装置的致动而接收信号,并响应于基于第一输入装置的致动接收到的信号使机器人手术系统进入瞄准模式。瞄准模式包括使用户界面提示(例如,图形、音频或触觉)相应地显示和/或修改在显示器上,检测用户头部的初始位置,确定用户头部的位置是否从用户头部的初始位置发生了变化,并且响应于确定用户头部的位置已经发生变化,确定该变化是否是速度变化。响应于确定该改变是速度改变,将所显示的用户界面提示的大小增加以对应于正的速度改变,或者将所显示的用户界面提示的大小减小以对应于负的速度改变。
在本公开的另一方面,一个或多个输入装置中的第二输入装置被配置为被致动以指示确认以向患者图像捕获装置提供命令。存储器在其上存储了另外的指令,这些指令在由一个或多个处理器执行时使控制器基于第二输入装置的致动来接收信号。响应于基于第二输入装置的致动而接收到的信号以及确定速度变化是负速度变化,患者图像捕获装置从初始视野调整为大于初始视野的第一调整视野。响应于基于第二输入装置的致动而接收到的信号以及确定速度变化是正速度变化,患者图像捕获装置从初始视野调整为小于初始视野的第二调整视野。
在本公开的另一方面中,其中存储器在其上存储了另外的指令,当由处理器执行时,该另外的指令使控制器响应于确定用户头部的位置已经发生改变而确定该变化指示用户头部的转动运动。响应于确定该变化指示用户头部的转动运动,所显示的用户界面提示以与用户头部的转动运动相对应的方式旋转。在本公开的又另一方面,一个或多个输入装置中的第二输入装置被配置为被致动以指示确认以向患者图像捕获装置提供命令。存储器在其上存储了另外的指令,这些指令在由处理器执行时使控制器基于第二输入装置的致动接收信号,并响应于基于第二输入装置的致动接收到的信号和确定变化指示用户头部的转动运动,使患者图像捕获装置以与用户头部的转动运动相对应的方式旋转。
在本公开的另一方面中,存储器在其上存储了另外的指令,当由处理器执行时,该另外的指令使控制器响应于确定用户头部的位置已经发生改变而确定该变化指示用户点头运动。另外,响应于确定变化指示用户头部的点头运动,所显示的用户界面提示在与头部点头运动相对应的方向上移动。在本公开的又另一方面,一个或多个输入装置中的第二输入装置被配置为被致动以指示确认以向患者图像捕获装置提供命令。存储器在其上存储了另外的指令,这些指令在由处理器执行时使控制器基于第二输入装置的致动来接收信号。响应于基于第二输入装置的致动而接收到的信号以及确定该变化指示用户头部的点头运动,以对应于用户头部的点头动作的方式调节患者图像捕获装置的姿势。
在本公开的另一方面中,存储器在其上存储了另外的指令,当由处理器执行时,该另外的指令使控制器响应于确定用户头部的位置已经发生改变而确定该变化指示用户倾斜运动。响应于确定该改变指示用户的头部倾斜运动,所显示的用户界面提示在与头部倾斜运动相对应的方向上在图像上移动。在本公开的又另一方面,一个或多个输入装置中的第二输入装置被配置为被致动以指示确认以向患者图像捕获装置提供命令。存储器在其上存储了另外的指令,这些指令在由处理器执行时使控制器基于第二输入装置的致动来接收信号。响应于基于第二输入装置的致动而接收到的信号以及确定该改变指示头部倾斜运动是左倾斜运动,患者图像捕获装置在相应的左方向上执行摇摄运动,并且响应于基于第二输入装置的致动接收到的信号以及确定该改变指示头部倾斜运动是右倾斜运动,患者图像捕获装置在相应的右方向上执行摇摄运动。
在本公开的另一方面,一个或多个输入装置包括按钮和脚踏板。
根据本公开的又一方面,一种控制机器人手术系统的方法包括从由用户图像捕获装置捕获的用户的图像跟踪用户的头部的位置。该方法还包括基于机器人手术系统的第一输入装置的致动接收信号,该机器人手术系统包括具有视野并且被配置为捕获手术部位的图像的患者图像捕获装置;控制台,其包括用于显示来自患者图像捕获装置的手术部位的图像的显示器、输入手柄以及包括第一输入装置的一个或多个输入装置,其中一个或多个输入装置中的第一输入装置被配置成为机器人手术系统提供信号以进入或退出瞄准模式。响应于基于第一输入装置的致动而接收到的信号,使机器人手术系统进入瞄准模式。瞄准模式包括:使用户界面提示显示在显示器上;检测用户的头部的初始位置;以及确定用户的头部的位置是否从用户的头部的初始位置发生了变化。另外,响应于确定用户的头部的位置已经发生变化,确定该变化是否是速度变化。响应于确定该改变是速度改变,将所显示的用户界面提示的大小增加以对应于正的速度改变,或者将所显示的用户界面提示的大小减小以对应于负的速度改变。
在本公开的另一方面,该方法还包括基于第二输入装置的致动接收信号。响应于基于第二输入装置的致动而接收到的信号以及确定速度变化是负速度变化,患者图像捕获装置从初始视野调整为大于初始视野的第一调整视野。响应于基于第二输入装置的致动而接收到的信号以及确定速度变化是正速度变化,患者图像捕获装置从初始视野调整为小于初始视野的第二调整视野。
在本公开的另一方面,该方法还包括:响应于确定用户的头部的位置已经发生改变,确定该改变是否指示用户的头转动运动。另外,响应于确定该变化指示用户头部的转动运动,所显示的用户界面提示以与用户头部的转动运动相对应的方式旋转。
在本公开的另一方面,该方法还包括基于第二输入装置的致动接收信号。响应于基于第二输入装置的致动而接收到的信号以及确定该变化指示用户的头部转动运动,使患者图像捕获装置以与用户的头部转动运动相对应的方式旋转。
在本公开的另一方面,该方法还包括:响应于确定在用户的头部的位置中已经发生改变,确定该改变是否指示头部点头动作,并且响应于确定该改变指示用户的头部点头动作,将显示的用户界面提示沿与头部点头动作相对应的方向移动。在本公开的又一个方面,该方法还包括:基于第二输入装置的致动来接收信号,以及响应于基于第二输入装置的致动而接收到的信号以及确定该变化指示用户头部的点头运动,以与用户的头部点头运动相对应的方式调整患者图像捕获装置的姿势。
在本公开的另一方面,该方法还包括:响应于确定用户的头部的位置已经发生改变,确定该改变是否指示头部倾斜运动,以及响应于确定该改变指示用户的头部倾斜运动,将显示的用户界面提示沿与头部倾斜运动相对应的方向在图像上移动。在本公开的又一个方面,基于第二输入装置的致动来接收信号,并且响应于基于第二输入装置的致动而接收到的信号以及确定该变化指示头部倾斜运动是左倾斜运动,患者图像捕获装置在相应的左方向执行摇摄运动。响应于基于第二输入装置的致动接收到的信号以及确定该改变指示头部倾斜运动是右倾斜运动,患者图像捕获装置在相应的右方向上执行摇摄运动。
根据本公开的又一方面,一种非暂时性计算机可读介质包括存储在其上的指令,该指令在由处理器执行时使处理器执行用于控制机器人手术系统的方法。该方法包括基于机器人手术系统的第一输入装置的致动来接收信号。该机器人手术系统包括具有视野并被配置为捕获手术部位的图像的患者图像捕获装置,包括用于显示来自手术部位的患者图像捕获装置的图像的显示器、输入手柄和一个或多个输入装置的控制台。一个或多个输入装置中的第一输入装置被配置为提供信号以供机器人手术系统进入或退出瞄准模式,以及被配置为捕获用户的图像的用户图像捕获装置。该方法还包括从捕获的用户的图像跟踪用户的头部的位置,并且响应于基于第一输入装置的致动而接收到的信号,使机器人手术系统进入瞄准模式。瞄准模式包括使用户界面提示显示在显示器上,检测用户头部的初始位置,确定用户头部的位置是否从用户头部的初始位置发生了变化,并且响应于确定用户头部的位置已经发生变化,确定该变化是否是速度变化。响应于确定该改变是速度改变,将所显示的用户界面提示的大小增加以对应于正的速度改变,或者将所显示的用户界面提示的大小减小以对应于负的速度改变。
在本公开的另一方面,该方法还包括:基于第二输入装置的致动接收信号,响应于基于第二输入装置的致动而接收到的信号以及确定速度变化为负速度变化,使患者图像捕获装置从初始视野调整到大于初始视野的第一调整视野,并且响应于基于第二输入装置的致动而接收到的信号和确定速度变化是正速度变化,使患者图像捕获装置从初始视野调整到小于初始视野的第二调整视野。
在本公开的另一方面,该方法还包括:响应于确定用户的头部的位置已经发生改变,确定该改变是否指示用户的头转动运动,以及响应于确定改变指示用户的头转动运动,以与用户的头转动运动对应的方式旋转显示的用户界面提示。
在本公开的另一方面,该方法还包括:基于第二输入装置的致动接收信号,以及响应于基于第二输入装置的致动而接收到的信号以及确定该变化指示用户的头转动运动,使患者图像捕获装置以与用户的头转动运动相对应的方式旋转。
在本公开的另一方面,该方法还包括:响应于确定在用户的头部的位置中已经发生改变,确定该改变是否指示头部点头动作,并且响应于确定该改变指示用户的头部点头动作,将显示的用户界面提示沿与头部点头动作相对应的方向移动。在本公开的又一个方面,该方法还包括:基于第二输入装置的致动来接收信号,以及响应于基于第二输入装置的致动而接收到的信号以及确定该变化指示用户头部的点头运动,以与用户的头部点头运动相对应的方式调整患者图像捕获装置的姿势。
在本公开的另一方面,该方法还包括:响应于确定用户的头部的位置已经发生改变,确定该改变是否指示头部倾斜运动,以及响应于确定该改变指示用户的头部倾斜运动,将显示的用户界面提示沿与头部倾斜运动相对应的方向在图像上移动。在本公开的又另一方面,该方法还包括基于第二输入装置的致动接收信号。响应于基于第二输入装置的致动而接收到的信号以及确定该改变指示头部倾斜运动是左倾斜运动,患者图像捕获装置在相应的左方向上执行摇摄运动,并且响应于基于第二输入装置的致动接收到的信号以及确定该改变指示头部倾斜运动是右倾斜运动,患者图像捕获装置在相应的右方向上执行摇摄运动。
根据本公开的另一方面,机器人手术系统包括:机器人臂,其包括手术器械;被配置为捕获手术部位的图像的患者图像捕获装置;以及控制台。控制台包括:显示器,用于显示所捕获的手术部位的图像;输入手柄;第一输入装置,被配置为被致动并基于致动提供信号,以使机器人手术系统进入或退出携带模式;和第二输入装置,其被配置为被致动并基于该致动提供信号,以使机器人手术系统进入或退出摄像机重定位模式。控制器耦合到机器人臂、患者图像捕获装置和控制台。控制器包括处理器和耦合到处理器的存储器。存储器上存储有指令,当指令由处理器执行时,该指令响应于基于第一输入装置的致动而接收到的信号,使控制器使机器人手术系统进入携带模式。携带模式包括:在一段时间内从手术部位的捕获图像跟踪手术器械在初始视野内的位置,将手术器械在第一时间的跟踪位置与在第二时间在初始视野内的手术器械的跟踪位置进行比较,并确定第一时间和第二时间的跟踪位置之间的距离是否大于预定阈值距离。响应于确定跟踪位置之间的距离大于预定阈值距离,确定第二时间的手术器械的跟踪位置是否在距患者图像捕获装置的初始视野的边缘预定距离之内。响应于确定第二时间的跟踪位置不在距患者图像捕获装置的初始视野的边缘的预定距离之内,将患者图像捕获装置的姿态调整为与第二时间的跟踪位置对应,并且响应于确定第二时间的跟踪位置在距患者图像捕获装置的初始视野的边缘的预定距离之内,将患者图像捕获装置的初始视野增加到大于初始视野的调整视野。响应于基于第二输入装置的致动而接收到的信号,使机器人手术系统进入摄像机重定位模式。摄像机重定位模式包括使输入手柄的致动与机器人臂的运动解除关联,以及跟踪用户头部的位置。
在本公开的另一方面,该机器人手术系统还包括第三输入装置,其被配置成为该机器人手术系统提供进入或退出瞄准模式的信号。存储器上还存储有其他指令,这些指令在由处理器执行时使控制器在摄像机重新定位模式下基于第三输入装置的致动接收信号,并响应于基于第三输入装置的致动而接收到的信号,进入瞄准模式。瞄准模式包括从捕获的用户的图像跟踪用户的头部的位置,使用户界面提示显示在显示器上,检测用户头部的初始位置,确定用户头部的位置是否从用户头部的初始位置发生了变化,并且响应于确定用户头部的位置已经发生变化,确定该变化是否是速度变化。响应于确定该改变是速度改变,将所显示的用户界面提示的大小增加以对应于正的速度改变,或者将所显示的用户界面提示的大小减小以对应于负的速度改变。
在不脱离本公开的范围的情况下,可组合本公开的以上方面和实施例中的任一个。
附图说明
下文中参考附图描述本公开的各个方面和特征,附图中:
图1是根据本公开的实施例的机器人手术系统的示意图;
图2是根据本公开的实施例的图1的机器人手术系统的系统架构的框图;
图3是根据本公开的实施例的用于控制机器人手术系统的方法的流程图;
图4是根据本公开的实施例的在执行图3的方法的过程中,如果选择,以携带模式操作机器人手术系统的方法的流程图;
图5是根据本公开的实施例的在执行图3的方法的过程中,如果选择,以摄像机重定位模式操作机器人手术系统的方法的流程图;
图6是根据本公开的实施例的在执行图3的方法的过程中,如果不选择瞄准模式,执行头部跟踪的方法的流程图;和
图7是根据本公开的实施例的在执行图3的方法的过程中,如果选择瞄准模式,执行头部跟踪的方法的流程图。
具体实施方式
现在参看图式详细地描述本公开的实施例,在附图中,相似的参考标号在若干视图中的每个视图中指代相同或对应的元件。如本文所使用的,术语“用户”和“临床医生”是指医生、护士或任何其他护理提供者,并且可以包含支援人员。在整个说明书中,术语“近侧”是指装置或其部件的最远离患者的部分,术语“远侧”是指装置或其部件中最靠近患者的部分。
本公开涉及机器人手术系统、用于以改善用户体验和用户控制的方式来控制机器人手术系统的方法和计算机可读介质。在一个实施例中,机器人手术系统被配置为以用户可经由单个或多个输入装置选择的一个或多个模式操作。例如,机器人手术系统可以被配置为使得单个输入装置允许用户在开启和关闭位置之间切换系统以开启或关闭特定模式。在另一实例中,系统被配置为以不止一种模式操作,并且不同的输入装置均与不同的模式相关联。就这一点而言,在一个实施例中,两个模式同时运行。在另一个实施例中,除非系统在先决模式下操作,否则可以不选择在模式下的操作。机器人手术系统可以被配置为以携带模式、摄像机重定位模式和/或瞄准模式中的一种或多种来操作。
如果选择,携带模式使患者图像捕获装置在没有用户输入的情况下跟随手术部位中的手术器械,直到用户取消选择该模式。更特别地,选择携带模式允许机器人手术系统的控制器从布置在手术部位的患者图像捕获装置捕获的图像中检测手术器械的存在。从捕获的图像中跟踪检测到的手术器械的运动。响应于确定该运动大于预定阈值距离并且该运动没有接近患者图像捕获装置的视野的边缘,以与检测到的手术器械的运动相对应的方式调节患者图像捕获装置。响应于确定该运动大于预定阈值距离并且该运动接近患者图像捕获装置的视野的边缘,调整患者图像捕获装置内的透镜的焦距(例如,提供命令以使患者图像捕获装置缩小)以扩大视野,使得捕获的图像继续包括手术器械。
如果选择,摄像机重新定位模式可以防止用户对输入手柄的输入被转换至机器人臂,从而也转换至手术器械。结果,用户可以在控制台上调节输入手柄的位置,而无需重新定位机器人臂和/或手术器械。另外,患者图像捕获装置可以被重新定位,其中头部跟踪被用于驱动患者图像捕获装置的运动。
在摄像机重新放置模式下,可以选择瞄准模式。如果选择了瞄准模式,则在头部跟踪过程中为用户提供了对患者图像捕获装置的更大控制。例如,当处于瞄准模式时,系统例如通过将用户界面提示或图标叠加在图像上,与用户图像捕获装置捕捉的图像同时显示用户界面提示、图标等。如果系统确定用户靠近或远离固定位置(例如用户图像捕获装置)移动,则显示的用户界面提示或图标的大小将相应增大或减小。如果检测到头部转动,则显示的用户界面提示或图标相应旋转。如果检测到头向左或向右倾斜,则显示的用户界面提示或图标相应地向左或向右移动。如果检测到头点头,则所显示的用户界面提示或图标在显示器上相应地向上或向下移动。在跟踪用户头部的一个或多个运动的同时或之后,用户可以通过例如按钮来致动机器人手术系统的输入装置,该按钮提供信号以使患者图像捕获装置根据跟踪的用户头部的运动而移动。在另一个实施例中,机器人手术系统确定并随后将患者图像捕获装置的原始位置存储在手术部位内,并且用户可以使用不同的输入装置进行选择,以使患者图像捕获装置返回到原始位置。
参考图1,根据本公开的实施例,提供了机器人手术系统100,在其上可以实施下面更详细讨论的一个或多个模式。机器人手术系统100通常包括手术机器人10,机器人基座18,多个图像捕获装置48、50、52,控制台40和控制器30。手术机器人10具有一个或多个机器人臂20a、20b、20c,其可以是连杆的形式。在一个实施例中,一个或多个机器人臂20a、20b、20c,例如,臂20b,可以具有可互换地固定到其远端22的手术器械16。在另一实施例中,一个或多个机器人臂20a、20b、20c可具有附接到其上的图像捕获装置50、52。例如,机器人臂20a可以包括患者图像捕获装置52,和/或机器人臂20c可以包括图像捕获装置50。每个机器人臂20a、20b、20c都可围绕患者“P”绕手术部位“S”移动。
每个控制台40与机器人基座18通过控制器30通信,并包括显示装置44,其被配置以显示图像。尽管示出了单个机器人基座18,但是在其他实施例中,每个臂20a、20b、20c具有对应的基座。根据一个实施例,显示装置44显示手术部位“S”的三维图像,其可以包括由成像装置(下面也称为患者图像捕获装置50)捕获的数据和/或包括由定位在外科手术区的成像装置(未示出)(例如定位在手术部位“S”内的成像装置)、邻近患者“P”定位的成像装置、或定位在成像臂20c的远端的成像装置52捕获的数据。成像装置(例如成像装置50、52)可以捕获手术部位“S”的视觉图像、红外图像、超声图像、X射线图像、热图像和/或任何其他已知的实时图像,并且可以是摄像机或内窥镜等。成像装置50、52将捕获的成像数据传输到从成像数据实时地创建手术部位“S”的三维图像的控制器30并且将三维图像传输到显示装置44以供显示。在另一实施例中,所显示的图像是由成像装置50、52捕获的数据的二维渲染。
控制台40包括输入手柄43和输入装置42,以允许临床医生操纵机器人系统10(例如,移动臂20a、20b、20c,臂20a、20b、20c的端部22a、22b、22c,和/或手术器械16)。输入手柄43和输入装置42中的每一个与控制器30通信以将控制信号传送到所述处理单元并且从所述处理单元接收反馈信号。附加地或替代地,每个输入手柄43可包括控制接口(未示出),该控制接口允许外科医生操纵(例如,夹紧、抓握、击发、打开、关闭、旋转、推力、切片等)支撑在臂20a、20b、20c的端部22a、22b、22c上的手术器械16。
在一个实施例中,输入手柄43可移动通过预定的工作空间以在手术部位“S”内移动臂20a、20b、20c的端部22a、22b、22c。应当理解,虽然在图1中以二维示出了工作空间,但工作空间是三维工作空间。显示装置44上的三维图像定向成使得输入手柄43的移动使臂20a、20b、20c的端部22a、22b、22c如在显示装置44上所见进行移动。将了解的是,显示装置44上的三维图像的朝向可以相对于来自患者“P”上方的视图被镜像或旋转。此外,将了解的是,显示装置44上的三维图像的大小可以被缩放成比手术部位的实际结构更大或更小以允许诊治者更好地观察手术部位“S”内的结构。随着输入手柄43移动,手术器械16在手术部位“S”内移动,如下详述。手术器械16的运动还可包括支撑手术器械16的臂20a、20b、20c的端部22a、22b、22c的运动。尽管示出为手柄,但是输入手柄43可包括离合器开关和/或包括万向节和关节。
输入装置42用于接收来自临床医生的输入。尽管被描绘为单个组件,但是可以包括一个以上组件作为输入装置42的一部分。例如,可以包括多个输入装置42作为控制台40的一部分,并且每个输入装置42可以用于不同的目的。在实例中,每个输入装置42可以被配置为使得每个输入装置允许机器人手术系统100进入不同的操作模式。在另一实施例中,输入装置42被配置成允许用户进行在显示器44(本文也称为“自动立体显示器”或简称为“显示器”)或触摸屏(如果包含的话)上显示的选择,如来自下拉菜单、弹出窗口或任何其它演示机制。在另一实施例中,输入装置42被配置成允许用户操纵手术部位图像,如通过放大或缩小手术部位图像、选择手术部位图像上的位置等。在另一实施例中,输入装置42可包括以下的一个或多个:触摸板、操纵杆、键盘、鼠标或其他计算机附件,和/或脚踏开关、踏板、轨迹球或其他可致动装置,其被配置为将来自临床医生的物理移动转换成发送到控制器30的信号。
相对于输入手柄43的移动来缩放手术器械16的移动。当输入手柄43在预定义工作空间内移动时,输入手柄43发送控制信号到控制器30。控制器30分析控制信号以响应于控制信号而移动手术器械16。控制器30将缩放的控制信号发送到机器人基座18,以响应输入手柄43的移动来移动手术器械16。
在一个实施例中,控制台40包括用户图像捕获设备48(在一个实例中,一个或多个摄像机)以捕获用户的一个或多个图像或视频(图1中未示出)。例如,用户图像捕获装置48可以被配置成周期性地捕获用户的静止图像、用户的视频等。在另一实施例中,用户图像捕获装置48用于跟踪用户的眼睛、面部、头部或其它一个或多个特征。在一个实施例中,用户图像捕获装置48捕获视觉图像、红外图像、超声图像、X射线图像、热图像和/或任何其它已知的实时图像。
用户图像捕获设备48可与显示器44集成和/或在位置上被固定到显示器44,使得用户图像捕获设备48与显示器44之间的位置关系是已知的并且能够由控制器30在各种计算中倚靠。可以通过使用由用户佩戴的可穿戴装置45来增强跟踪以提供在处理用户的图像时可以检测到的标记47形式的固定位置。可以将可穿戴装置45设置为眼镜、头带、放置在用户上的位置上的一组贴纸等。在另一实例中,控制器30利用由用户图像捕获装置48捕获的图像来确定用户的位置,例如,通过采用识别和跟踪算法,该算法检测捕获的图像中的标记47并确定标记47的位置以获得用户的位置。然后,控制器30将所确定的用户位置与预定位置标准进行比较。在另一个实施例中,控制器30可以进一步基于用户的运动来提供控制信号,从而允许用户的运动充当用于操纵机器人手术系统100的组件(例如,机器人臂20a、20b、20c和/或患者图像捕获装置50)的附加控制机制。
图2是图1的机器人手术系统100的简化框图。机器人手术系统200包含控制器220、塔架230和控制台240。控制器220被配置成响应于从控制台240接收的信号而与塔架230通信,从而提供用于操作的指令。
控制器230通常包括处理单元222、存储器224、塔架接口226和控制台接口228。处理单元222,特别是借助于存储在存储器224中的计算机程序,以这样的方式起作用,以使塔架230的部件根据由控制台240的输入装置242限定的移动来执行臂236a-c的期望的移动。在这方面,处理单元222包括适于执行计算和/或根据一组指令操作的任何合适的逻辑控制电路。处理单元222可以包括一个或多个处理设备,诸如微处理器类型的处理设备或能够执行存储在存储器224中的指令和/或处理数据的其他物理设备。存储器224可以包括暂时类型存储器(例如RAM)和/或非暂时类型存储器(例如闪存介质、磁盘介质等)。塔架接口226和控制台接口228分别与塔架230和控制台240无线地(例如Wi-Fi、蓝牙、LTE等)和/或通过有线配置进行通信。尽管描绘为单独的模块,但是接口226、228在其他实施例中是单个部件。
塔架230包含通信接口232,所述通信接口被配置成从塔架接口226接收通信和/或数据,以用于操纵发动机机构234,从而移动臂236a-c。根据一个实施例,马达机构234被配置成响应于来自处理单元222的指令,接收用于机械操纵线缆(未示出)的电流施加,该线缆附接到臂236a-c以引起臂236a-c的所选择一个和/或连接到臂236a-c的器械的期望移动。塔架230还包括成像装置238,其捕获手术部位的实时图像并通过通信接口232将表示图像的数据发送到控制器230。
为了操纵塔架230的装置,每个控制台240具有输入装置242、显示器244、和计算机246。输入装置242耦合到计算机246并由临床医生致动。在这方面,输入装置242可以是以下的一种或多种:手柄或踏板,或计算机配件,例如键盘、操纵杆、鼠标、按钮、触摸屏、开关、轨迹球或其他部件。显示器244显示从控制器220接收的图像或其他数据,从而将数据传送给临床医生。计算机246包含处理单元和存储器,所述存储器包含与塔架230的各种部件、算法和/或操作有关的数据、指令和/或信息,并且可以使用任何合适的电子服务、数据库、平台、云等来操作。
图像捕获装置248被包括作为系统200的一部分,以使用例如可穿戴装置250在控制台240上跟踪用户的运动。图像捕获装置248捕获用户的图像和/或视频,并将表示捕获的图像和/或视频的数据发送到控制器220,该控制器被配置为处理捕获的图像和/或视频以跟踪用户的运动。
如上所述,机器人手术系统100、200可以被配置为以携带模式、摄像机重定位模式和/或瞄准模式中的一种或多种来操作。模式,如果被选择,则被配置为提供以下的一种或多种:允许临床医生使图像捕获装置50在外科手术过程中自动跟随正在使用的手术器械的运动,防止基于其致动的输入手柄43信号影响机器人臂20a-c的运动,和/或开启头部跟踪特征。可以在操作机器人手术系统100、200的过程中选择一种或多种模式。图3是根据一个实施例的用于操作机器人手术系统100、200的计算机实现的过程300的流程图,其具有进入携带模式、摄像机重定位模式和/或瞄准模式中的一个或多个的选项。过程300可以至少部分地由执行存储在存储器224(图2)中的指令的处理单元222来实施。另外,图3的过程300中所示的特定步骤序列是通过实例提供的并且不受限制。因此,过程300的步骤可以以不同于图3中所示的序列的顺序执行,而不脱离本公开的范围。此外,图3的过程300中示出的一些步骤可以相对于彼此同时执行,而不是相对于彼此顺序执行。
首先,临床医生可以通过提供适当的动作(例如打开电源开关)从外科医生控制台40激活手术机器人10,所述动作可以将“电源打开”信号传输到控制器30。在一个实施例中,临床医生致动输入手柄43和/或输入装置42,其基于该致动提供信号,以选择和操纵机器人臂20a、20b或20c之一以放置选定的机器人臂20a、20b或20c在手术部位“S”。机器人臂20a、20b或20c中的至少一个包括患者图像捕获装置50。在其中手术器械16与患者图像捕获装置50在机器人臂20a、20b或20c的不同臂的实施例中,临床医生致动输入手柄43和/或输入装置42,其提供基于该致动的附加信号,用于选择另一个机器人臂20a、20b或20c并操纵该另一个选定的机器人臂20a、20b或20c以放置在手术部位“S”。
从步骤302开始,连续捕获手术部位“S”的图像。在这方面,由临床医生放置在手术部位“S”内的期望位置的患者图像捕获装置50捕获视觉图像、红外图像、超声图像、X射线图像、热图像和/或手术位置“S”的任何其他已知实时图像。表示图像的数据被发送到控制器30,该控制器向显示器44提供命令以使得在步骤304显示捕获的图像。这样,所捕获的图像在执行外科手术过程中为临床医生提供了手术部位“S”的实时视图。捕获的图像可以包括组织和一个或多个手术器械16的图像,例如已经由临床医生放置在手术部位“S”中的那些。
在外科手术过程中的某个时刻,临床医生可以选择进入多种模式中的一种或多种。特别地,在步骤306,临床医生可以在步骤306选择进入携带模式。基于输入装置42之一的相应致动,通过提供相应信号来选择进入携带模式。例如,进入或退出携带模式的命令可以与脚踏板的致动相关联,使得脚踏板的单次敲击导致进入和/或脚踏板的两次敲击导致退出。在另一个实例中,进入或退出携带模式与持续按下或释放设置在输入手柄43上或附近的按钮、抓握器或其他机构有关。在又一个实施例中,进入或退出携带模式与在触控板上的轻敲、拖动或其他运动相关联。响应于进入携带模式的信号,过程300前进到方法“A”,如下面结合图4更详细地讨论的,该方法包括用于在携带模式下控制手术系统10的方法。在执行方法“A”之后,过程300继续到步骤316,在此确定手术过程是否完成。如果完成,则过程300结束。如果在步骤316手术过程未完成,则过程300在步骤302重复。
然而,例如,如果未选择携带模式,则在其中未接收到与进入携带模式相关联的信号或者接收到指示取消选择携带模式的信号的情况下,过程300可进行至步骤308,在此期间,临床医生可以选择进入摄像机重定位模式。通过致动输入装置42之一来选择进入摄像机重定位模式,从而提供相应的信号。将理解的是,可以使用与用于实现携带模式的配置不同的配置来实现进入或退出摄像机重定位模式。例如,在踩脚踏板与进入或退出携带模式相关联的实施例中,按下/释放输入手柄43的按钮可以与进入或退出摄像机重新定位模式相关联。在其他实施例中可以采用其他关联。
如果未选择进入摄像机重定位模式,例如,在未收到与进入摄像机重定位模式相关的信号或接收到指示取消选择摄像机重定位模式的信号的情况下,患者图像捕获装置50在步骤310保持静止。另外,由于患者图像捕获装置50在执行程序300之前保持与放置位置相同的位置,因此一个或多个输入手柄43被致动以提供信号以在步骤312在手术部位“S”移动手术器械16。并且信号可以由控制器30转换,从而在步骤314实现手术器械16的运动。在步骤316确定手术过程是否完成。如果完成,则过程300结束。如果在步骤316手术过程未完成,则过程300在步骤302重复。
返回步骤308,如果已经选择进入摄像机重定位模式,则过程300继续方法“B”,如下面参考图5所讨论的,其包括用于在摄像机重定位模式下控制机器人手术系统的步骤。在摄像机重新定位模式下时,可以在步骤318进行进入瞄准模式的选择。通过提供输入装置42之一的相应致动来选择进入瞄准模式。与其他模式一样,将理解的是,使用与用于实现携带模式和摄像机重新定位模式的配置不同的配置来实现进入或退出瞄准模式。如果没有选择瞄准,则过程300前进到图6的方法“C”。如果选择,则过程继续进行图7的方法“D”。无论是否选择进入瞄准模式,在每种情况下,都在步骤316确定手术程序是否完成。如果完成,则过程300结束。如果在步骤316手术过程未完成,则过程300在步骤302重复。
现在转到图4,现在将提供用于在处于携带模式时控制机器人手术系统的计算机实现的过程400的流程图。如上所述,在携带模式下,图像捕获装置50在手术器械在手术部位“S”内移动时“跟随”手术器械。过程400可以至少部分地由处理单元222执行存储在存储器224(图2)中的指令来实现。另外,图4所示的过程400中的特定步骤序列是作为示例而非限制来提供的。因此,在不脱离本公开的范围的情况下,可以以不同于图4所示的顺序的顺序来执行过程400的步骤。此外,在图4的过程400中所示的一些步骤可以相对于彼此同时地被执行,而不是相对于彼此顺序地被执行。
从步骤402开始,基于输入装置的致动,接收信号以移动手术器械16。例如,临床医生操纵输入手柄43以基于该操纵提供信号以移动手术器械16中的选定一个。响应于接收到的信号,控制器30向相应的机器人臂20a、20b、20c提供命令以以相应的方式移动所选择的手术器械16。在步骤404,基本上与机器人臂20a、20b、20c的运动同时,在步骤302捕获的图像中检测手术器械16。例如,从由控制器30等检测到的在手术部位“S”处捕获到的图像中检测手术器械16的移动。
为了确定手术器械16的移动是否需要调整患者图像捕获装置50,在步骤406,确定手术器械是否在患者图像捕获装置50的视野内。特别地,光学地或通过图像识别处理由患者图像捕获装置50捕获的图像,以识别是否可以在图像中找到手术器械16。如果在捕获的图像内检测到手术器械16,则在步骤410,控制器30向患者图像捕获装置50提供命令以确定手术器械16是否在图像中移动。例如,控制器30随着时间分析图像并且连续地比较所捕获的图像以评估手术器械16是否已经在图像内移动。如果是,则在步骤412,患者图像捕获装置50调整其姿势。例如,患者图像捕获装置50通过在与手术器械16的移动相对应的方向上转动或移动到允许患者图像捕获装置50将其视野在预定位置或手术器械16上的指定标识符中居中的位置来调整其姿势。在手术部位“S”上存在一个以上手术器械16的实施例中,对患者图像捕获装置50的姿势的调整可以取决于一个或多个手术器械16在手术部位“S”上的位置,并且可以通过将患者图像捕获装置50的视野在手术器械16中指定的一个上居中、将患者图像捕获装置50的视野在所有手术器械16的平均位置处居中、或者将患者图像捕获装置50的视野在根据手术器械16的加权的位置上居中,实现这种调整。方法400然后继续到步骤420,在其过程中确定该过程是否完成。如果该过程未完成,则方法400在步骤402处重复。如果该过程完成,则方法400结束。
如果在步骤410,手术器械16未在图像中移动,则方法400继续进行到步骤420,在该步骤中,确定手术是否完成。如果该过程未完成,则方法400在步骤402处重复。如果该过程完成,则方法400结束。
返回步骤406,如果已经确定手术器械16在患者图像捕获装置50的视野之外,则控制器30向患者图像捕获装置50提供命令以减小其焦距,从而在步骤408,减小放大率并提供手术部位“S”的缩小视图,直到手术器械16在视野内。在任一情况下,方法400继续到步骤420,在其过程中确定该过程是否完成。如果该过程未完成,则方法400在步骤402处重复。如果该过程完成,则方法400结束。
可以考虑,携带模式可以包括但不限于以下附加特征:
使用主手柄的运动作为所述输入或命令下的器械运动,而不是通过图像处理来测量器械的实际位置,其中所述系统由于运动学而知道器械的相对运动,因此图像处理不必是需要的;
使用过滤方案;
使用器械运动到摄像机运动的非线性映射;
使用两(2)个器械的运动的映射,例如,基于两个器械的质心移动摄像机,或仅跟随一个或另一个器械,或两者的一些组合;
使用不同的映射进行摇摄与缩放;
使用外科医生可以选择的多种类型的携带模式(例如,不同的缩放系数、过滤器、R/L手轨迹等);和/或
使用手柄按钮或踏板在携带模式之间切换。
如以上简要指出的,在尚未选择携带模式的情况下,临床医生可以选择进入摄像机重定位模式。摄像机重新定位模式允许临床医生在不影响或最小化影响手术器械16的运动的情况下移动输入手柄43。这种选择可能是理想的,因为当临床医生致动输入手柄43时,该致动可能导致输入手柄43在外科医生控制台40内离开中性位置。因为输入手柄43相对于手术器械16的运动比通常小,所以输入手柄43的大运动导致手术器械16的小运动。然而,随着输入手柄43从中性位置进一步延伸,临床医生操纵输入手柄43变得更困难并且更不舒服。因此,临床医生会不时地将输入手柄43的位置重置到更居中的位置以继续执行该过程。
参考图5,提供了根据另一个实施例的用于操作机器人手术系统10的计算机实现的过程500的流程图。过程500可以至少部分地由执行存储在存储器224(图2)中的指令的处理单元222来实施。可附加地,图5的过程500中所示的步骤的特定顺序是作为示例而非限制来提供的。因此,过程500的步骤可以以不同于图5中所示的序列的顺序执行,而不脱离本公开的范围。此外,图5的过程500中示出的一些步骤可以相对于彼此同时执行,而不是相对于彼此顺序执行。
在步骤502,响应于所接收的模式选择,提供命令以使输入手柄43的致动与机器人臂20a、20b、20c的运动解除关联。例如,可以通过致动输入装置42之一,例如通过脚踏板,接收选择。在一个实施例中,控制器30可以接收基于指示脚踏板已经被踩下的致动接收的信号或者基于指示脚踏板已经被释放的致动接收的信号。根据一个实施例,控制器30响应于所接收的模式选择,提供解除关联的命令并且启动方案以使输入手柄43的致动与机器人臂20a、20b、20c的运动解除关联。在一个实施例中,通过提供命令以通过改变齿轮的位置来使电动机18内的齿轮关联脱开,从而与输入手柄43的运动相关联的齿轮继续旋转但不接触或啮合与机器人臂20a、20b、20c的运动关联的齿轮。在另一个实施例中,由在输入手柄43处的接收到的输入产生的信号被控制器30接收,但是没有被传递到机器人臂20a、20b、20c,从而尽管接收到了输入,也阻止了机器人臂20a、20b、20c的运动。
作为步骤504的补充或替代,响应于所接收的模式选择,提供命令以调节输入手柄43的运动与机器人臂20a、20b、20c和/或手术器械16的运动之间的比例因子。例如,当临床医生致动输入手柄43时,基于致动的信号被控制器30转换成运动。根据信号测量输入手柄43的关节角度,以便获得信号的正向运动学,并基于输入手柄43的姿势,将缩放和离合应用于输入手柄43的姿势以输出机器人臂20a、20b、20c和/或手术器械16的所需姿势。在实例中,在正常操作期间,输入手柄43的运动与机器人臂和/或器械的运动之间的比例因子可以是10:1(例如,输入手柄43的10mm运动导致机器人臂和/或器械的1mm运动)。当步骤504的结果是比例因子被调整时,比例因子可以被调整,使得需要输入手柄43的更大运动以便实现机器人臂和/或器械的运动(例如输入手柄34的10mm运动导致机器人臂和/或器械的0.0001mm的运动)。结果,机器人臂20以及随之手术器械16响应于输入手柄43的致动以几乎不可察觉的量运动,从而允许临床医生移动输入手柄43以更容易地将输入手柄43移动到更舒适的位置。
作为步骤504和506的补充或替代,响应于所接收的模式选择,在步骤508提供扭矩反馈。例如,当临床医生致动输入手柄43时,基于致动的信号被控制器30转换成运动。根据信号测量输入手柄43的关节角度,以便获得输入的正向运动学,并基于输入手柄43的姿势,如果期望,将缩放和离合应用于输入手柄43的姿势以输出机器人臂和/或手术器械的所需姿势。力/扭矩反馈扳手是根据机器人臂和/或器械输出的实际从动关节角度计算得出的。从动关节限制、速度限制和碰撞的力/扭矩反馈可以存在存储器中并因此由专家临床医生预先设定,这取决于专家临床医生的偏好,或者可以作为工厂安装的参数包括在内。力/扭矩命令(F/T扳手)输出使用转置雅可比函数进行处理,以计算输入装置中所需的关节扭矩以输出所需的从动扳手命令,然后将所需的输入装置关节扭矩与保持/重新定位模式所需的关节扭矩和运动极限范围结合,它们可以是响应于接收模式选择以及重力和摩擦补偿(如果需要)提供的预定值。在任何情况下,作为结合的结果,当临床医生致动手柄43时,就获得并考虑了输入手柄43的关节扭矩,从而当接收到额外的运动时,控制器30使电动机输出扭矩,其等于并且相反于输入力,从而尽管临床医生致动了输入手柄43,也抵消了机器人臂和/或器械的运动。
除了执行一个或多个解除关联步骤之外,过程500还包括在步骤508跟踪用户的头部。在一个实施例中,经由用户图像捕获设备48跟踪用户的头部,该用户图像捕获设备对准并捕获用户和标记27的图像。具体地,用户的捕获图像由控制器30处理,并且标记27可以与捕获图像隔离并且随时间追踪。例如,标记27包括用户图像捕获装置48可感知的一个或多个红外标记(未示出),其对一个或多个红外指示器成像并将图像数据提供给控制器30。控制器30处理由用户图像捕获装置48提供的图像,并确定一个或多个红外标记在二维平面中的位置。通过处理一个或多个红外标记的位置随时间的变化来检测用户头部的移动。通过跟踪例如附接到操作机器人系统100的临床医生的头部的可穿戴装置45上的一个或多个标记27的运动,控制器30跟踪用户的头部的运动。
在步骤508的头部跟踪期间检测到的头部运动可以用于向系统100提供信号,该信号在被接收时引起控制器30向患者图像捕获装置50提供命令以改变其姿势和/或放大或缩小以捕捉所需的图像以显示在显示器44上。例如,在未选择瞄准模式的实施例中,所跟踪的头部运动用于直接驱动患者图像捕获装置50的运动。根据一个实施例,在图6中提供了用于在不处于瞄准模式时控制机器人手术系统的计算机实现的过程600的示例。过程600可以至少部分地由执行存储在存储器224(图2)中的指令的处理单元222来实施。另外,在图6的过程600中所示的步骤的特定顺序是作为示例而非限制来提供的。因此,过程600的步骤可以以不同于图6中所示的序列的顺序执行,而不脱离本公开的范围。此外,图6的过程600中示出的一些步骤可以相对于彼此同时执行,而不是相对于彼此顺序执行。
在一个实施例中,在步骤602处检测头部位置。根据步骤508(图5)的头部跟踪从用户的捕获图像确定头部位置,并且以与以上关于图5的步骤508所述的方式相似的方式执行。在一个实施例中,检测初始头部位置。
接下来,在步骤604,确定用户的头部位置是否已经改变。更特别地,随着图像被用户图像捕获装置48随时间捕获,控制器30连续处理图像以检测标记27,确定标记27在一段时间内的位置,并计算检测到的标记27在一段时间内的质心。如果质心尚未改变位置,则过程继续进行到步骤630,在此确定手术过程是否完成。如果是,则过程600结束。如果不是,则过程600在步骤602重复。然而,如果质心改变位置,则确定用户的头部位置已经改变。响应于检测到的位置变化,在步骤606确定头部位置的变化是否是速度变化。如果是,然后在步骤608确定速度是否包括正或负变化。
如果速度指示正变化,则确定临床医生的头部正朝着用户图像捕获装置48向前移动,并且在步骤612控制器30向患者图像捕获装置50提供命令以相应地放大手术部位“S”的所捕获的图像。同样,如果速度指示负变化,则确定临床医生的头部正在朝着远离用户图像捕获装置48的方向移动,并且在步骤614控制器30向患者图像捕获装置50提供命令以相应地从手术部位“S”缩小。在一个实施例中,由患者图像捕获装置50内的透镜的焦距影响的放大量与在向前或向后方向上的头部运动成正比。在另一个实施例中,放大量相对于头部在向前或向后方向上的移动来缩放。
在步骤612和614的另一个实施例中,以不同的方式实现操作。例如,根据另一实施例,从速度和检测到的标记27的位置确定用户的头部位置与显示器44的平面之间的距离,并且该距离用于确定在捕获手术部位“S”的图像中患者图像捕获装置50使用的放大倍数。在该实施例中,存储器224可在其上存储数据库,该数据库包括距显示器44的头部位置距离和相应的放大倍数,从而控制器30可在步骤608期间在确定是否(以及多少)放大或缩小中参考该数据库。在另一个实施例中,在捕获的图像中检测到的标记27的尺寸用于确定用户的头部位置与显示器44的平面的距离。因此,响应于在一段时间内检测到标记27的尺寸逐渐变大,确定用户的头部正向前移动。同样地,响应于在一段时间内检测到标记27的尺寸逐渐变小,确定用户的头部正在向后移动。在步骤612或614中的任何一个之后,过程600继续到步骤616。另外,在其中在步骤606没有检测到速度变化的实施例中,过程600也继续到步骤616。
在步骤616,确定是否已经检测到头部转动。临床医生可以在右侧通过将临床医生的右耳移近临床医师的右肩膀来进行头部转动,也可以在左侧通过将临床医生的左耳移近临床医师的左肩膀来进行头部转动。在一个实施例中,头部转动可以与用于旋转具有成角度的颈部的患者图像捕获装置50例如30°内窥镜的命令相关联。在实例中,随着图像被用户图像捕获装置48随时间捕获,控制器30连续处理图像以检测标记27并确定标记27的位置。基于标记27的位置,控制器30可以确定是否已经检测到头部转动。例如,在其中包括两个或更多个标记的实施例中,两个或更多个标记以顺时针运动旋转以指示头部向右侧转动,或者以逆时针运动指示头部向左侧转动。响应于检测到头部转动,在步骤618,控制器30向患者图像捕获装置50提供命令以使其也转动。特别地,患者图像捕获装置50响应于在右侧执行头部转动而以顺时针方向旋转,或者响应于在左侧执行头部转动而以逆时针方向旋转。患者图像捕获装置50旋转的量可以成正比、相对于头部转动的移动缩放或基于某些其他数学函数旋转。过程600进行到步骤620。类似地,在未检测到头部转动的实施例中,过程600继续至步骤620。
在步骤620,确定是否已经检测到头部点头。临床医师可以通过上下方向移动临床医师的下巴来进行头部点头。在实例中,随着图像被用户图像捕获装置48随时间捕获,控制器30连续处理图像以检测标记27并确定标记27的位置。基于标记27的位置,控制器30可以确定是否已经检测到头部点头。例如,标记27可以沿着图像的y轴改变位置,并且作为响应,控制器30可以确定临床医生正在进行头部点头。响应于检测到的头部点头,在步骤622,控制器30向患者图像捕获装置50提供命令以相应的方式调整其对手术部位“S”的视图。例如,响应于检测到标记27沿图像的y轴向上移动,控制器30提供命令以相同的方式移动患者图像捕获装置50。过程600进行到步骤624。类似地,在尚未检测到头部点头的实施例中,过程600继续至步骤624。
在步骤624,确定是否已经检测到头部倾斜。可以由临床医师通过向左或向右移动临床医师的头部来执行头部倾斜,类似于摇头动作。在实例中,随着图像被用户图像捕获装置48随时间捕获,控制器30连续处理图像以检测标记27并确定标记27的位置。基于标记27的位置,控制器30可以确定是否已经检测到头部倾斜。例如,标记27可以沿着图像的x轴改变位置,并且作为响应,控制器30可以确定临床医生正在执行头部倾斜。响应于检测到头部倾斜,在步骤626,如果头部倾斜的方向是向右,则控制器30向患者图像捕获装置50提供命令以向右摇摄,或者在步骤628,如果头部倾斜的方向是向右,则控制器30向患者图像捕获装置50提供命令以向左摇摄。在一个实施例中,通过将头部位置的速度映射到患者图像捕获装置50的速度来实现步骤626和628。返回步骤624,如果尚未检测到头部倾斜,则过程继续进行到步骤630,在此确定手术过程是否完成。如果是,则过程600结束。如果不是,则过程600在步骤602重复。尽管在本文中已经详细描述了头部的转动、倾斜和点头,但是还可以考虑,根据本公开的系统可以适应和调节头部相对于肩膀的平移运动(例如,头部沿着平行于肩部限定的轴线的轴线的侧面滑动,或沿着垂直于肩部限定的轴线的轴线的头部上下/前后滑动)。
在使用在步骤508的头部跟踪期间检测到的头部运动的另一实施例中,临床医生可以选择进入瞄准模式。如以上简要指出的,瞄准模式允许临床医生驱动显示器44上显示的用户界面提示或图标,并通过致动按钮、脚踏板、触摸板或其他输入装置来提供选择以确认患者图像捕获装置50的运动的需要。根据一个实施例,在图7中提供了用于在处于瞄准模式时控制机器人手术系统的计算机实现的过程700的示例。过程700可以至少部分地由执行存储在存储器224(图2)中的指令的处理单元222来实施。另外,图7的过程700中所示的特定步骤序列是通过实例提供的并且不受限制。因此,过程700的步骤可以以不同于图7中所示的序列的顺序执行,而不脱离本公开的范围。此外,图7的过程700中示出的一些步骤可以相对于彼此同时执行,而不是相对于彼此顺序执行。
在一个实施例中,在步骤701,在显示器上显示用户界面提示或图标。例如,用户界面提示或图标被叠加在由患者图像捕获装置50捕获的手术部位“S”的图像上,并且可以是二维或三维形状,例如三角形、棱柱形或当临床医生查看时可以指示方向的其他合适表示。用户界面提示或图标可以显示在图像的中心以指示患者图像捕获装置50的视野的中心。除了显示用户界面提示或图标之外,在步骤702还检测用户的头部位置。根据步骤508(图5)的头部跟踪从用户的捕获图像确定头部位置,并且以与以上关于图5的步骤508所述的方式相似的方式执行。在一个实施例中,检测初始头部位置。可选地,在步骤703获得患者图像捕获装置50的初始位置。所获得的初始位置被存储在存储器224中以供以后使用。
在步骤704,确定用户的头部位置是否已经改变。例如,随着图像被用户图像捕获装置48随时间捕获,控制器30连续处理图像以检测图像中的标记27,确定标记27在一段时间内的位置,并计算在一段时间内检测到的标记27的质心。如果质心尚未改变位置,则过程继续进行到步骤730,在此确定手术过程是否完成。如果是,则过程700结束。如果否,则过程700进行到步骤732,在此,确定是否已经接收到基于致动的信号以将患者图像捕获装置50返回到初始位置。这样,在步骤734,控制器30从存储器224获得初始位置,并且向患者图像捕获装置50提供命令以返回到初始位置。如果没有接收到信号,则过程700在步骤702处重复。
如果质心改变位置,则确定用户的头部位置已经改变,并且作为响应,在步骤706处确定头部位置的速度是否已经改变。如果是,然后在步骤708确定速度是否包括正或负变化。
在速度指示正变化的实施例中,该正变化与临床医生的头部向前移动相关联,在步骤709控制器30提供命令,以对应于向前移动的方式增加用户界面提示或图标的尺寸。然后在步骤710确定是否已经接收到基于一个或多个输入装置42的致动的信号以指示临床医生确认以使患者图像捕获装置50相应地放大所捕获的手术部位“S”的图像。在一个实施例中,临床医生按压或释放用户输入装置,诸如按钮、脚踏板、触摸屏等。在另一个实施例中,控制器30例如通过定时器到期来确定已经接收到基于致动的确认信号。响应于接收到信号,在步骤711,控制器30向患者图像捕获装置50提供命令以相应地放大或扩大手术部位“S”的捕获图像。同样,如果速度指示负变化,指示临床医生的头部正在向后移动,则在步骤712控制器30将命令提供给患者图像捕获装置50,以按照与向后移动对应的方式减小用户界面提示或图标的大小。在步骤713,确定是否已经接收到指示临床医生的确认的信号,以引起患者图像捕获装置50相应地缩小手术部位“S”的捕获图像的放大率。响应于接收到信号,在步骤714,控制器30向患者图像捕获装置50提供命令以相应地从手术部位“S”缩小。如结合过程600描述的实施例一样,由患者图像捕获装置50内的透镜的焦距影响的放大倍数可以与头部在向前或向后方向上的移动成正比,放大倍数相对于头部在向前或向后方向上的移动而缩放,等等。另外,可以分别以类似于以上关于过程600的步骤612和614所描述的方式来实现步骤712和714。
在步骤712或714中的任何一个之后,过程700继续到步骤715。另外,在其中在步骤706未检测到头部位置的速度变化的实施例中,过程700也继续至步骤715。
在步骤715,确定是否已经检测到头部转动。随着图像被用户图像捕获装置48随时间捕获,控制器30连续处理图像以检测标记27并确定标记27的位置。基于标记27的位置,控制器30通过确定标记27是否已经以顺时针方向旋转以指示头部转动到右侧或以逆时针方向旋转以指示头部转动到左侧,确定是否检测到头部转动。响应于检测到头部转动,在步骤716,控制器30提供命令,使用户界面提示或图标以与检测到的头部转动相对应的方式旋转。在一个实例中,响应于标记27以顺时针运动旋转,提供命令以以顺时针运动旋转显示器44上的用户界面提示或图标。类似地,响应于标记27以逆时针方向旋转,提供命令以使显示器44上的用户界面提示或图标以逆时针方向旋转。
在步骤717,确定是否已经接收到指示临床医生的确认的信号以使患者图像捕获装置50相应地转动。响应于确定指示确认信号,在步骤718,控制器30向患者图像捕获装置50提供命令以使其也转动。特别地,患者图像捕获装置50响应于在右侧运动中执行头部转动而以顺时针方向旋转,或者响应于在左侧运动中执行头部转动而以逆时针方向旋转。过程700进行到步骤719。类似地,在未检测到头部转动的实施例中,过程700继续至步骤719。
在步骤719,确定是否已经检测到头部点头。例如,随着图像被用户图像捕获装置48随时间捕获,控制器30连续处理图像以检测标记27并确定标记27的位置。基于标记27的位置,控制器30可以例如通过确定标记27是否已经沿着图像的y轴改变了位置来确定是否已经检测到头部点头。响应于检测到头部点头,在步骤720处,控制器30可以提供命令,以使显示器44上的用户界面提示或图标以与头部点头相对应的方式移动,诸如沿着图像的y轴。在步骤721,确定是否已经接收到指示临床医生确认的信号,以引起患者图像捕获装置50以与头部点头的移动相对应的方式移动。响应于接收到信号,在步骤722,控制器30向患者图像捕获装置50提供命令以相应的方式调整其对手术部位“S”的视图。过程700进行到步骤723。在尚未检测到头部点头的实施例中,过程700继续到步骤723。
在步骤723,确定是否已经检测到头部倾斜。随着图像被用户图像捕获装置48随时间捕获,控制器30连续处理图像以检测标记27并确定标记27的位置。基于标记27的位置,例如沿着图像的x轴,控制器30可以确定是否已经检测到头部倾斜。响应于检测到的头部倾斜,控制器30提供命令以使用户界面提示或图标以相应的方式在图像上移动。例如,响应于检测到朝向右侧的头部倾斜,控制器30在步骤724提供命令以将用户界面提示或图标在图像上移向右侧。在步骤725,确定是否已经接收到指示临床医生的确认以使患者图像捕获装置50以与头部倾斜相对应的方式移动的信号。响应于所接收的信号,在步骤726,控制器30向患者图像捕获装置50提供命令以向右摇摄。
返回步骤723,响应于检测到的头部倾斜向左,在步骤727,控制器30提供命令以将用户界面提示或图标在图像上移向左侧。在步骤728,确定是否已经接收到指示临床医生的确认以使患者图像捕获装置50以与头部倾斜相对应的方式移动的信号。响应于所接收的信号,在步骤729,控制器30向患者图像捕获装置提供命令以向左摇摄。返回步骤723,如果尚未检测到头部倾斜,则过程继续进行到步骤730,在此确定手术过程是否完成。如果是,则过程700结束。如果否,则过程700继续到步骤732,如上所述。
本文中所描述的系统还可以利用一个或多个控制器来接收各种信息并转换所接收的信息以生成输出。控制器可以包含任何类型的计算设备、计算电路或能够执行存储在存储器中的一系列指令的任何类型的处理器或处理电路。控制器可以包含多个处理器和/或多核中央处理单元(CPU),并且可以包含如微处理器、数字信号处理器、微控制器、可编程逻辑装置(PLD)、现场可编程门阵列(FPGA)等任何类型的处理器。控制器还可以包含用于存储数据和/或指令的存储器,当由所述一个或多个处理器执行所述数据和/或指令时,使所述一个或多个处理器执行一种或多种方法和/或算法。
本文描述的任何方法、程序、算法或代码可以被转换成编程语言或计算机程序,或者以编程语言或计算机程序表达。如本文所用,术语“编程语言”和“计算机程序”各自包含用于指定计算机指令的任何语言,并且包含(但不限于)以下语言和其衍生物:汇编程序、Basic、批处理文件、BCPL、C、C+、C++、Delphi、Fortran、Java、JavaScript、机器代码、操作系统命令语言、Pascal、Perl、PL1、脚本语言、可视化Basic、元语言自指定程序以及所有第一代、第二代、第三代、第四代、第五代或更高代的计算机语言。还包含数据库和其它数据模式以及任何其它元语言。解译、编译或使用编译和解译方法两者的语言之间没有区别。程序的编译版本与源版本之间没有区别。因此,对其中编程语言可以以多于一种的状态(如源、编译、对象或链接)存在的程序的引用是对任何和所有这种状态的引用。对程序的引用可涵盖实际指令和/或那些指令的意图。
本文描述的任何方法、程序、算法或代码可包含在一个或多个机器可读介质或存储器上。术语“存储器”可包含以机器可读形式提供(例如,存储和/或传输)信息的机制,所述机器例如处理器、计算机或数字处理装置。例如,存储器可包含只读存储器(ROM)、随机存取存储器(RAM)、磁盘存储介质、光学存储介质、快闪存储器装置或任何其它易失性或非易失性存储器存储装置。其上包含的代码或指令可以由载波信号、红外信号、数字信号和其它类似信号表示。
尽管已经在附图中示出了本公开的若干实施例,但是不旨在将本公开限制于此,因为旨在使本公开的范围与本领域所允许的一样宽,并且同样地阅读说明书。因此,上文的描述不应被解释为限制性的,而仅仅是具体实施例的示范。本领域技术人员可在其所附权利要求的范围和精神范围内进行其它修改。

Claims (23)

1.一种机器人手术系统,其包括:
包括手术器械的机器人臂;
患者图像捕获装置,其被配置为捕获手术部位的图像;
控制台,其包括:
用于显示所述手术部位的捕获图像的显示器,
输入手柄,和
输入装置,其被配置为被致动并基于所述致动提供信号,以使所述机器人手术系统进入或退出摄像机重定位模式;和
控制器,其耦合到所述机器人臂、所述患者图像捕获装置和所述控制台,所述控制器包括:
处理器,和
存储器,其耦合到所述处理器并且在其上存储有指令,当由所述处理器执行时,所述指令使得所述控制器:
响应于基于所述输入装置的致动而接收到的信号,使所述机器人手术系统进入所述摄像机重定位模式,和
当所述机器人手术系统处于所述摄像机重定位模式时,将所述输入手柄的致动与所述机器人臂的运动解除关联,并且
跟踪用户头部的位置;
其中,所述存储器上存储有其他指令,所述其他指令在由所述处理器执行时使所述控制器,当所述机器人手术系统处于所述摄像机重定位模式时,提供力反馈信号或扭矩反馈信号中的至少一个,以减少与基于所述输入手柄的致动而接收到的信号相对应的所述手术器械的输出运动,以防止所述输入手柄的操纵使所述手术器械运动;
其中,基于由所述机器人臂和/或所述手术器械输出的实际从动关节角度计算与所述力反馈信号或所述扭矩反馈信号对应的力/扭矩反馈扳手。
2.根据权利要求1所述的机器人手术系统,其中所述输入装置包括在所述输入手柄上的按钮。
3.根据权利要求1所述的机器人手术系统,其中所述输入装置包括脚踏板。
4.根据权利要求3所述的机器人手术系统,其中所述存储器具有在其上存储的其他指令,当由所述处理器执行时,所述其他指令使所述控制器:
响应于基于所述脚踏板的第一致动而接收到第一信号,进入所述摄像机重定位模式,并且
响应于在接收到第一信号的预定时间内基于所述脚踏板的第二致动而接收到第二信号,退出所述摄像机重定位模式。
5.根据权利要求3所述的机器人手术系统,其中所述存储器具有在其上存储的其他指令,当由所述处理器执行时,所述其他指令使所述控制器:
响应于接收到指示踩下所述脚踏板的信号而进入所述摄像机重定位模式,并且
响应于接收到指示所述脚踏板已释放的信号,退出所述摄像机重定位模式。
6.根据权利要求1所述的机器人手术系统,其还包括:
用户图像捕获装置,其被配置为捕获用户的图像以用于跟踪用户的头部的运动。
7.根据权利要求6所述的机器人手术系统,其中所述存储器具有在其上存储的其他指令,当由所述处理器执行时,所述其他指令使所述控制器:
从所述用户图像捕获装置捕获的用户图像中检测用户头部的位置;
从捕获的用户图像中确定是否发生用户头部向左倾斜还是向右倾斜;和
响应于确定用户头部的倾斜是左倾斜或右倾斜,使所述患者图像捕获装置相应地向左或向右摇摄。
8.根据权利要求6所述的机器人手术系统,其中所述存储器具有在其上存储的其他指令,当由所述处理器执行时,所述其他指令使所述控制器:
从捕获的用户图像中检测用户头部的位置;
确定是否发生了用户头部的转动;和
响应于确定用户头部的转动,使所述患者图像捕获装置以与用户头部的转动对应的运动转动。
9.根据权利要求1所述的机器人手术系统,其中所述存储器上存储有其他指令,所述其他指令在由所述处理器执行时使所述控制器在处于所述摄像机重定位模式时,增大基于所述输入手柄的致动而接收到的信号和所述手术器械的输出运动之间的比例因子。
10.一种控制机器人手术系统的方法,包括:
基于所述机器人手术系统的输入装置的致动产生至少一个信号,所述至少一个信号使所述机器人手术系统进入或退出摄像机重定位模式;和
响应于所述至少一个信号,使所述机器人手术系统进入所述摄像机重定位模式,
其中当所述机器人手术系统处于所述摄像机重定位模式时,所述机器人手术系统的输入手柄的致动与所述机器人手术系统的机器人臂的运动解除关联,并且通过用户图像捕获装置跟踪用户头部的位置;
所述方法还包括:当在所述摄像机重定位模式中时,提供力反馈信号或扭矩反馈信号中的至少一个,以减少与基于所述输入手柄的致动接收的信号相对应的到手术器械的输出,以防止所述输入手柄的致动移动所述机器人手术系统的所述手术器械;
其中,基于由所述机器人臂和/或所述手术器械输出的实际从动关节角度计算与所述力反馈信号或所述扭矩反馈信号对应的力/扭矩反馈扳手。
11.根据权利要求10所述的方法,其中:
所述输入装置包括脚踏板;和
所述方法还包括:
响应于接收到所述脚踏板的第一致动产生的第一信号,进入所述摄像机重定位模式,并且
响应于在产生第一信号的预定时间内接收到由所述脚踏板的第二致动产生的第二信号,退出所述摄像机重定位模式。
12.根据权利要求10所述的方法,其中:
所述输入装置包括脚踏板;和
所述方法还包括:
响应于所产生的指示踩下所述脚踏板的信号而进入所述摄像机重定位模式,以及
响应于所产生的指示脚踏板已被释放的信号,退出所述摄像机重定位模式。
13.根据权利要求10所述的方法,其进一步包括:
捕获用户头部的图像;
确定是否发生了用户头部的位置的左或右倾斜;和
响应于确定用户头部的倾斜是左倾斜或右倾斜,使所述机器人手术系统的患者图像捕获装置相应地向左或向右摇摄。
14.根据权利要求10所述的方法,其进一步包括:
捕获用户头部的图像;
确定是否发生了用户头部的转动;和
响应于确定已经发生用户头部的转动,使所述机器人手术系统的患者图像捕获装置以与用户头部的转动相对应的运动转动。
15.根据权利要求10所述的方法,还包括,当在所述摄像机重定位模式中时,增加基于所述输入手柄的致动接收的所述至少一个信号与所述机器人手术系统的手术器械的输出运动之间的比例因子。
16.一种非暂时性计算机可读介质,其具有存储在其上的指令,所述指令在由处理器执行时使所述处理器执行用于控制机器人手术系统的方法,所述方法包括:
基于所述机器人手术系统的输入装置的致动接收至少一个信号,所述至少一个信号使所述机器人手术系统进入或退出摄像机重定位模式;和
响应于接收所述至少一个信号,使所述机器人手术系统进入所述摄像机重定位模式,和
当所述机器人手术系统处于摄像机重定位模式时,使所述机器人手术系统的输入手柄的致动与所述机器人手术系统的机器人臂的运动解除关联,并且通过用户图像捕获装置跟踪用户头部的位置;
其中所述方法还包括:当在所述摄像机重定位模式中时,提供力反馈信号或扭矩反馈信号中的至少一个,以减少与基于所述输入手柄的致动接收的所述至少一个信号相对应的到所述机器人手术系统的手术器械的输出,以防止所述输入手柄的致动移动所述手术器械;
其中,基于由所述机器人臂和/或所述手术器械输出的实际从动关节角度计算与所述力反馈信号或所述扭矩反馈信号对应的力/扭矩反馈扳手。
17.根据权利要求16所述的非暂时性计算机可读介质,其中所述输入装置包括脚踏板,并且所述方法还包括:
响应于基于所述脚踏板的第一致动而接收到第一信号,进入所述摄像机重定位模式,并且
响应于在接收到第一信号的预定时间内基于所述脚踏板的第二致动而接收到第二信号,退出所述摄像机重定位模式。
18.根据权利要求16所述的非暂时性计算机可读介质,其中所述输入装置包括脚踏板,并且所述方法还包括:
响应于接收到指示踩下所述脚踏板的信号而进入所述摄像机重定位模式,并且
响应于接收到指示所述脚踏板已释放的信号,退出所述摄像机重定位模式。
19.根据权利要求16所述的非暂时性计算机可读介质,其中所述方法还包括:
基于来自所述用户图像捕获装置的捕获图像,确定在用户头部的位置中是否发生了左倾斜或右倾斜;和
响应于确定用户头部的倾斜是左倾斜或右倾斜,使所述机器人手术系统的患者图像捕获装置相应地向左或向右摇摄。
20.根据权利要求16所述的非暂时性计算机可读介质,其中所述方法还包括,
基于来自所述用户图像捕获装置的捕获图像,确定是否发生了用户头的转动;和
响应于确定已经发生用户头部的转动,使所述机器人手术系统的患者图像捕获装置以与用户头部的转动相对应的运动转动。
21.根据权利要求16所述的非暂时性计算机可读介质,其中所述方法还包括,当在所述摄像机重定位模式中时,增加基于所述输入手柄的致动接收的所述至少一个信号与所述机器人手术系统的手术器械的输出运动之间的比例因子。
22.一种机器人手术系统,其包括:
包括手术器械的机器人臂;
患者图像捕获装置,其被配置为捕获手术部位的图像;
控制台,其包括:
用于显示所述手术部位的捕获图像的显示器,
输入手柄;
第一输入装置,其被配置为被致动并基于所述致动提供信号,以使所述机器人手术系统进入或退出携带模式,和
第二输入装置,其被配置为被致动并基于所述致动提供信号,以使所述机器人手术系统进入或退出摄像机重定位模式;和
控制器,其耦合到所述机器人臂、所述患者图像捕获装置和所述控制台,所述控制器包括:
处理器,和
存储器,其耦合到所述处理器,所述存储器在其上存储有指令,当由所述处理器执行时,所述指令使得所述控制器:
响应于基于所述第一输入装置的致动而接收到的信号,使所述机器人手术系统进入所述携带模式,其中所述携带模式包括:
在所述手术部位的捕获图像中检测手术器械,
确定所述手术器械是否在所述患者图像捕获装置的视野内,
响应于确定所述手术器械不在所述患者图像捕获装置的视野内,使所述患者图像捕获装置调整视野,以及
响应于确定所述手术器械在所述患者图像捕获装置的视野内,确定所述手术器械在捕获图像中是否随时间移动,和
响应于基于第二输入装置的致动而接收到的信号,使所述机器人手术系统进入所述摄像机重定位模式,其中所述摄像机重定位模式包括:
将所述输入手柄的致动与所述机器人臂的运动解除关联,并且
跟踪用户头部的位置;
其中,所述存储器上存储有其他指令,所述其他指令在由所述处理器执行时使所述控制器,当所述机器人手术系统处于所述摄像机重定位模式时,提供力反馈信号或扭矩反馈信号中的至少一个,以减少与基于所述输入手柄的致动而接收到的信号相对应的所述手术器械的输出运动,以防止所述输入手柄的操纵使所述手术器械运动;
其中,基于由所述机器人臂和/或所述手术器械输出的实际从动关节角度计算与所述力反馈信号或所述扭矩反馈信号对应的力/扭矩反馈扳手。
23.根据权利要求22所述的机器人手术系统,其进一步包括配置以提供用于所述机器人手术系统进入或退出瞄准模式的信号的第三输入装置,其中所述存储器上存储有其他指令,这些指令在由所述处理器执行时使所述控制器在所述摄像机重定位模式下基于第三输入装置的致动接收信号,并响应于基于第三输入装置的致动而接收到的信号,进入所述瞄准模式,其中所述瞄准模式包括:
从捕获的用户图像中追踪用户头部的位置;
使用户界面提示显示在所述显示器上;
检测用户头部的初始位置;
从用户头部的初始位置确定用户头部的位置是否发生了变化;和
响应于确定用户头部的位置已经发生变化,确定所述变化是否是速度变化,
其中响应于确定所述变化是速度改变,将所显示的用户界面提示的大小增加以对应于正的速度改变,或者将所显示的用户界面提示的大小减小以对应于负的速度改变。
CN201880064946.0A 2017-09-05 2018-08-29 机器人手术系统和方法及用于其控制的计算机可读介质 Active CN111182847B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201762554093P 2017-09-05 2017-09-05
US62/554,093 2017-09-05
PCT/US2018/048475 WO2019050729A1 (en) 2017-09-05 2018-08-29 ROBOTIC SURGICAL SYSTEMS AND METHODS AND COMPUTER-READABLE MEDIA FOR CONTROLLING THEM

Publications (2)

Publication Number Publication Date
CN111182847A CN111182847A (zh) 2020-05-19
CN111182847B true CN111182847B (zh) 2023-09-26

Family

ID=65634483

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201880064946.0A Active CN111182847B (zh) 2017-09-05 2018-08-29 机器人手术系统和方法及用于其控制的计算机可读介质

Country Status (5)

Country Link
US (1) US20200261160A1 (zh)
EP (1) EP3678581A4 (zh)
JP (1) JP2020532404A (zh)
CN (1) CN111182847B (zh)
WO (1) WO2019050729A1 (zh)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12102403B2 (en) 2018-02-02 2024-10-01 Coviden Lp Robotic surgical systems with user engagement monitoring
WO2020028777A1 (en) 2018-08-03 2020-02-06 Intuitive Surgical Operations, Inc. System and method of displaying images from imaging devices
US10758309B1 (en) 2019-07-15 2020-09-01 Digital Surgery Limited Methods and systems for using computer-vision to enhance surgical tool control during surgeries
EP4076259A4 (en) * 2019-12-17 2023-09-20 Covidien LP ROBOTIC SURGICAL SYSTEMS WITH USER INTERVENTION MONITORING
US11571269B2 (en) * 2020-03-11 2023-02-07 Verb Surgical Inc. Surgeon disengagement detection during termination of teleoperation
CN112043299A (zh) * 2020-09-30 2020-12-08 上海联影医疗科技股份有限公司 一种医学设备的控制方法和系统
CN116322559A (zh) * 2020-11-25 2023-06-23 直观外科手术操作公司 可操控的查看器模式激活和停用
CN112890954B (zh) * 2020-12-30 2022-08-09 北京和华瑞博医疗科技有限公司 机械臂运动控制方法、系统及外科手术系统
CN112618029A (zh) * 2021-01-06 2021-04-09 深圳市精锋医疗科技有限公司 手术机器人及其引导手术臂移动的方法、控制装置
WO2022166929A1 (zh) * 2021-02-03 2022-08-11 上海微创医疗机器人(集团)股份有限公司 计算机可读存储介质、电子设备及手术机器人系统
WO2023014732A1 (en) * 2021-08-03 2023-02-09 Intuitive Surgical Operations, Inc. Techniques for adjusting a field of view of an imaging device based on head motion of an operator
EP4137279A1 (en) * 2021-08-20 2023-02-22 BHS Technologies GmbH Robotic imaging system and method for controlling a robotic device
DE102022118710A1 (de) 2022-07-26 2024-02-01 B. Braun New Ventures GmbH Medizinische Fernsteuerung, Medizinischer Roboter mit intuitiver Steuerung und Steuerungsverfahren

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012223363A (ja) * 2011-04-20 2012-11-15 Tokyo Institute Of Technology 手術用撮像システム及び手術用ロボット
US9179832B2 (en) * 2008-06-27 2015-11-10 Intuitive Surgical Operations, Inc. Medical robotic system with image referenced camera control using partitionable orientational and translational modes

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3668865B2 (ja) * 1999-06-21 2005-07-06 株式会社日立製作所 手術装置
JP4781181B2 (ja) * 2006-07-07 2011-09-28 株式会社ソニー・コンピュータエンタテインメント ユーザインタフェースプログラム、装置および方法、情報処理システム
US8155479B2 (en) * 2008-03-28 2012-04-10 Intuitive Surgical Operations Inc. Automated panning and digital zooming for robotic surgical systems
US20100321482A1 (en) * 2009-06-17 2010-12-23 Lc Technologies Inc. Eye/head controls for camera pointing
BR112012011422B1 (pt) * 2009-11-13 2020-09-29 Intuitive Surgical Operations, Inc Sistema cirúrgico minimamente invasivo
IT1401669B1 (it) * 2010-04-07 2013-08-02 Sofar Spa Sistema di chirurgia robotizzata con controllo perfezionato.
US8982160B2 (en) * 2010-04-16 2015-03-17 Qualcomm, Incorporated Apparatus and methods for dynamically correlating virtual keyboard dimensions to user finger size
WO2015023513A1 (en) * 2013-08-14 2015-02-19 Intuitive Surgical Operations, Inc. Endoscope control system
US10398521B2 (en) * 2014-03-17 2019-09-03 Intuitive Surgical Operations, Inc. System and method for recentering imaging devices and input controls
CA2946595A1 (en) * 2014-05-05 2015-11-12 Vicarious Surgical Inc. Virtual reality surgical device

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9179832B2 (en) * 2008-06-27 2015-11-10 Intuitive Surgical Operations, Inc. Medical robotic system with image referenced camera control using partitionable orientational and translational modes
JP2012223363A (ja) * 2011-04-20 2012-11-15 Tokyo Institute Of Technology 手術用撮像システム及び手術用ロボット

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"Detecting and Tracking of 3D Face Pose for Human-Robot Interaction";Fadi Dornaika等;《2008 IEEE International Conference on Robotics and Automation》;20080523;第1716-1721页 *

Also Published As

Publication number Publication date
CN111182847A (zh) 2020-05-19
JP2020532404A (ja) 2020-11-12
WO2019050729A1 (en) 2019-03-14
EP3678581A4 (en) 2021-05-26
US20200261160A1 (en) 2020-08-20
EP3678581A1 (en) 2020-07-15

Similar Documents

Publication Publication Date Title
CN111182847B (zh) 机器人手术系统和方法及用于其控制的计算机可读介质
US11857278B2 (en) Roboticized surgery system with improved control
US11977678B2 (en) Robotic system providing user selectable actions associated with gaze tracking
JP7478106B2 (ja) 外科手術におけるコンピュータ支援ナビゲーションのための光学器具追跡ボリュームのエクステンデッドリアリティ視覚化
US20220125534A1 (en) Determing an ergonomic center for an input control
CN110279427B (zh) 图像采集装置和可操纵装置活动臂受控运动过程中的碰撞避免
CN107249498B (zh) 机器人手术系统的输入装置的重定位方法
JP7547241B2 (ja) 予定の器具アタッチメントの仮想モデルの表示により物理的器具アタッチメントの正しい選択を確実にする
US20230064265A1 (en) Moveable display system
JP2021122743A (ja) ナビゲートされたロボット外科手術のためのエクステンデッドリアリティ器具相互作用ゾーン
US20220296323A1 (en) Moveable display unit on track

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant