CN117202869A - 用于提供输入设备重新定位提醒的方法和装置 - Google Patents
用于提供输入设备重新定位提醒的方法和装置 Download PDFInfo
- Publication number
- CN117202869A CN117202869A CN202280030205.7A CN202280030205A CN117202869A CN 117202869 A CN117202869 A CN 117202869A CN 202280030205 A CN202280030205 A CN 202280030205A CN 117202869 A CN117202869 A CN 117202869A
- Authority
- CN
- China
- Prior art keywords
- input device
- head
- hand
- hand input
- change
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 118
- 230000033001 locomotion Effects 0.000 claims abstract description 176
- 230000008859 change Effects 0.000 claims abstract description 85
- 238000003384 imaging method Methods 0.000 claims abstract description 76
- 238000013519 translation Methods 0.000 claims description 49
- 230000000007 visual effect Effects 0.000 claims description 49
- 230000004044 response Effects 0.000 claims description 35
- 230000035807 sensation Effects 0.000 claims description 8
- 230000001747 exhibiting effect Effects 0.000 claims 2
- 210000003128 head Anatomy 0.000 description 278
- 230000001629 suppression Effects 0.000 description 33
- 238000006073 displacement reaction Methods 0.000 description 21
- 230000014616 translation Effects 0.000 description 19
- 238000005286 illumination Methods 0.000 description 14
- 230000000875 corresponding effect Effects 0.000 description 12
- 230000006870 function Effects 0.000 description 11
- 230000004886 head movement Effects 0.000 description 10
- 230000003287 optical effect Effects 0.000 description 9
- 239000013598 vector Substances 0.000 description 7
- 241001465754 Metazoa Species 0.000 description 6
- 210000003484 anatomy Anatomy 0.000 description 6
- 230000003993 interaction Effects 0.000 description 6
- 238000010801 machine learning Methods 0.000 description 5
- 230000007935 neutral effect Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 230000001276 controlling effect Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 210000000245 forearm Anatomy 0.000 description 3
- 210000001061 forehead Anatomy 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000002360 preparation method Methods 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000001934 delay Effects 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 239000000523 sample Substances 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 238000003860 storage Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 238000002604 ultrasonography Methods 0.000 description 2
- 230000003187 abdominal effect Effects 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 239000010868 animal carcass Substances 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 239000002537 cosmetic Substances 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 238000002405 diagnostic procedure Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 210000001035 gastrointestinal tract Anatomy 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000005764 inhibitory process Effects 0.000 description 1
- 210000000936 intestine Anatomy 0.000 description 1
- 238000003064 k means clustering Methods 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000004091 panning Methods 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000000284 resting effect Effects 0.000 description 1
- 230000033764 rhythmic process Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000000087 stabilizing effect Effects 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 238000001356 surgical procedure Methods 0.000 description 1
- 238000002560 therapeutic procedure Methods 0.000 description 1
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
- A61B34/37—Master-slave robots
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/25—User interfaces for surgical systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/70—Manipulators specially adapted for use in surgery
- A61B34/76—Manipulators having means for providing feel, e.g. force or tactile feedback
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Robotics (AREA)
- Medical Informatics (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Human Computer Interaction (AREA)
- Manipulator (AREA)
Abstract
本文描述了用于用计算机辅助机器人系统提供提醒的系统和方法。在一个示例中,机器人系统包含头部输入设备和手部输入设备以及控制系统。头部输入设备包含传感器,该传感器被配置成感测由操作者的头部提供的头部输入。手部输入设备包含手部输入传感器,该手部输入传感器被配置成感测由操作者的手提供的手部输入。该控制系统被配置成在远程操作模式下基于由头部输入设备提供的头部输入信号而命令图像的显示的变化,其中该图像由成像设备获得,并且基于由手部输入设备提供的手部输入信号而命令工具的运动。控制系统进一步被配置成在离合器模式下为操作者提供重新定位手部输入设备的提醒。
Description
背景技术
越来越多的设备被计算机辅助电子设备所取代,包括在工业、娱乐、教育、医疗和其他环境中。作为一个医疗示例,当今的医院在手术室、介入治疗室、重症监护病房、急诊室和/或类似项中发现了大量的电子设备。这些电子设备中的许多能够自主或半自主运动。工作人员使用位于操作者输入系统处的一个或多个输入设备来控制电子设备的运动和/或操作也是常见的。作为一个具体的示例,微创机器人远程医疗系统准许医务人员从床边或远程位点(location)远程操作地对患者执行程序。远程操作一般是指由操作者使用某种形式的远程控件以操纵工具移动而不是直接用手握持和移动工具来执行的操作。
当使用电子设备在工作场所执行任务时,一个或多个成像设备(例如,内窥镜、光学相机和/或超声波探头)可以捕获工作场所的图像,该图像向监控和/或执行任务的操作者提供视觉反馈。(一个或多个)成像设备也可以是可控的,以更新工作场所的视图,该视图经由显示单元提供给操作者。例如,(一个或多个)成像设备可以附接到可重新定位的结构,该结构包括通过一个或多个接头耦接在一起的两个或更多个连杆,其中可重新定位的结构可以移动(包括通过内部重新配置)以更新成像设备在工作场所的位置和/或取向。在这类情形下,(一个或多个)成像设备的移动可以由操作者或另一个人控制或自动控制,并且使得工作场所的视图能够改变。
一种用于控制使用成像设备提供的工作场所的视图的方法是响应于显示单元的运动而改变视图。在这种方法中,显示单元作为输入设备操作,并且可以被称为头部输入设备,并且显示单元或操作者的一部分(例如,操作者的头部)的运动可以被追踪并且映射到成像设备的所命令运动,并且用于控制成像设备的运动或者由成像设备提供的视图。
操作者有时可能希望将成像设备的运动控制与显示单元的运动解耦,诸如以重新定位他/她自己、显示单元或另一输入设备。这类控制解耦的模式可以被称为计算机辅助机器人系统的“离合器模式”。这可以有助于辅助操作者在“离合器模式”期间重新定位。因此,期望有改进的方法和系统来辅助操作者在“离合器模式”期间重新定位。
发明内容
本文描述了利用计算机辅助机器人系统提供提醒的系统和方法。在一个示例中,一种计算机辅助机器人系统包含头部输入设备、手部输入设备和控制系统。头部输入设备包括一个或多个头部输入传感器,其被配置成感测由机器人系统的操作者的头部提供的头部输入,并且提供指示由一个或多个头部输入传感器感测的输入的头部输入信号。手部输入设备包括一个或多个手部输入传感器,其被配置成感测由操作者的一只或多只手提供的手部输入,并且提供指示由一个或多个手部输入传感器感测的输入的手部输入信号。控制系统通信地耦接到头部输入设备和手部输入设备。控制系统被配置成在远程操作模式下基于头部输入信号而命令图像的显示的变化,其中图像由成像设备获得,并且基于手部输入信号而命令工具的运动。控制系统还被配置成在离合器模式下,基于一个或多个参数为操作者提供重新定位手部输入设备的提醒。
在另一个示例中,描述了一种用于操作计算机辅助机器人系统的方法,该系统包含头部输入设备和手部输入设备。头部输入设备被配置成感测由机器人系统的操作者的头部提供的头部输入。手部输入设备被配置成感测由操作者的一只或多只手提供的手部输入。该方法包括接收指示由头部输入设备感测的输入的头部输入信号,以及接收指示由手部输入设备感测的输入的手部输入信号。该方法还包括,当机器人系统处于远程操作模式时,基于头部输入信号而命令图像的显示的变化,其中图像由耦接到机器人系统的成像设备获得,以及基于手部输入信号而命令工具的运动,其中工具耦接到机器人系统。该方法进一步包括,当机器人系统处于离合器模式时,基于一个或多个参数,为操作者提供重新定位手部输入设备的提醒。
在又一示例中,提供了一种非暂时性机器可读介质。非暂时性机器可读介质包括多个机器可读指令,这些指令在由与机器人系统相关联的一个或多个处理器实行时,促使计算机辅助机器人系统执行本文所描述的方法中的任一种。
附图说明
图1是示例计算机辅助机器人系统的简化图。
图2是示例显示系统的透视图。
图3图示了示例显示单元的不同自由度。
图4A图示了计算机辅助机器人系统的示例输入系统的头部输入设备和两个手部输入设备的示意性俯视图,每个设备均处于第一位置。
图4B描绘了由示例输入系统的示例显示单元呈现的示例图像。
图4C图示了图4A的头部输入设备和两个手部输入设备,与图4A相比,每个设备均处于第二位置。
图5图示了在控制系统已经进入计算机辅助机器人系统的离合器模式之后,图4C的头部输入设备和两个手部输入设备。
图6A图示了离合器模式下提供的示例视觉指示。
图6B图示了在操作者已经将他或她的头部移动到先前位置或朝向先前位置移动之后的示例视觉指示。
图7A图示了第一组示例参数。
图7B图示了第二组示例参数。
图7C图示了第三组示例参数。
图7D图示了第四组示例参数。
图7E图示了第五组示例参数。
图7F图示了不向操作者提供手部提醒的第一示例。
图7G图示了不向操作者提供手部提醒的第二示例。
图8是用于使用计算机辅助机器人系统提供提醒的示例方法的流程图。
图9是用于评估参数并提供重新定位手部输入设备的提醒的方法的流程图。
图10A-图10B是图示为触觉反馈提供的力与手部输入设备的位移之间的示例性关系的力和位移图。
图11是用于使用计算机辅助机器人系统提供提醒的方法的另一示例的示意流程图。
具体实施方式
在一个或多个实施例中,呈现了用于向计算机辅助机器人系统的操作者提供提醒的系统和方法。在一个或多个实施例中,操作者可以促使机器人系统进入离合器模式,以便允许将输入系统的一个或多个输入设备重新定位到例如更方便的位置,或者具有更舒适的取向,或者为输入设备中的一个或多个的大移动做准备,或者一些其他原因。在离合器模式下,输入设备可以被重新定位,而不移动通常由一个或多个输入设备控制的机器人设备。这些输入设备包括显示单元,操作者将他或她的头部靠在该显示单元上,并且操作者可以通过该显示单元控制成像设备的位置和取向。这些输入设备还包括一个或多个手部输入设备,操作者通过这些手部输入设备控制工具。在一个或多个实施例中,可以基于一个或多个参数而提供手部提醒。例如,在一些情况下,可以响应于一个或多个参数满足提醒提供的至少一个条件而提供提醒。在一些情况下,提醒提供的至少一个条件包含与操作者在移动显示单元之后忘记移动或以其他方式没有移动(例如,平移或旋转)手部输入设备的情景一致的一个或多个条件。该提醒可以是视觉提醒、听觉提醒、触觉(例如触觉反馈)提醒或其任意组合。
参考计算机辅助系统和设备描述了本发明的各个方面,这些系统和设备可以包括远程操作、远程控制、自主、半自主、机器人和/或类似项的系统和设备。此外,根据使用外科手术系统的实施例描述了本公开的方面,该外科手术系统诸如由加利福尼亚州森尼韦尔市(Sunnyvale,California)的直观外科手术操作公司(Intuitive Surgical,Inc.)商业化的da外科手术系统。然而,有知识的人将会理解,本文所公开的发明方面可以按各种方式来体现和实施,包括机器人实施方式和(如果适用的话)非机器人实施方式。参考da外科手术系统描述的实施例仅仅是示例性的,并且不被认为是限制本文所公开的发明方面的范围。例如,参照外科手术工具和外科手术方法描述的技术可以在其他情境下使用。因此,本文所描述的工具、系统和方法可以用于人类、动物、人类或动物解剖结构的部分、工业系统、一般机器人或一般远程操作系统。作为进一步的示例,本文所描述的工具、系统和方法可以用于非医疗目的,包括工业用途、一般机器人用途、感测或操纵非组织工件、美容改进、人体或动物解剖结构的成像、从人体或动物解剖结构收集数据、安装或拆卸系统、训练医务人员或非医务人员和/或类似项。附加的示例应用包括用于对从人类或动物解剖结构中移除的组织的程序(不需要回到人类或动物解剖结构中)以及用于人类或动物尸体的程序。此外,这些技术也可以用于包括或不包括外科手术方面的医疗治疗或诊断程序。
图1是根据各种实施例的示例计算机辅助机器人系统100的简化图。在一些示例中,计算机辅助机器人系统100可以是远程操作医疗系统。在一些示例中,远程操作医疗系统可以是外科手术系统。在一些示例中,计算机辅助机器人系统100可以在领导者-跟随者配置中操作。领导者-跟随者配置有时被称为“主-从”配置。在领导者-跟随者配置中,跟随者(“从动者”)模仿领导者“主动者”的部分或全部运动。然后,操作者可以使用领导者设备的输入系统来远程操作跟随者设备。在该计算机辅助机器人系统100的示例中,如图1所示,计算机辅助机器人系统100包括跟随者设备104和用于命令跟随者设备104的运动的领导者设备(例如,包含输入系统102)。在图1的示例中,跟随者设备104被示为包含一个或多个操纵器臂120的操纵设备,并且领导者设备的输入系统102被示为具有工作站,在这种情形下是控制台的形式。跟随者设备104和领导者设备可以呈任何适当的形式;例如,在各种情况下,跟随者设备104可以包含任何适当的可远程操作的系统,并且领导者设备的输入系统102可以包括或可以不包括工作站。
在该示例中,领导者设备的输入系统102包括由操作者108的手操纵的一个或多个输入设备。例如,输入系统102可以包含供操作者的一只或多只手使用的一个或多个手部输入设备111A、111B。手部输入设备111A、111B由输入系统102支持,并且可以机械地接地。此外,例如,输入系统102可以包含供操作者的一只或多只脚使用的一个或多个脚部输入设备113。在各种示例中,输入设备(111A、111B、113)各自可由单手或单脚使用,可由多只手或脚同时使用,和/或可由多只手或脚以时分复用方式使用。输入设备(111A、111B、113)可以各自包括一个或多个传感器(未示出),或者由一个或多个传感器机械地耦接、电磁地耦接、可由一个或多个传感器成像或以其他方式由一个或多个传感器感测,以检测操作者交互(例如,脚部输入设备113的应用和释放)。在一些情况下,可以提供人体工程学支撑件110(例如,操作者108可以将他或她的前臂靠在其上的前臂支撑物)。在一些示例中,操作者108可以通过使用领导者设备的输入设备(111A、111B、113)中的一个或多个来命令跟随者设备104,从而在程序期间用跟随者设备104在工作场所执行任务。例如,任务可以包含程序的一部分;该程序可以是非医疗程序,也可以是医疗程序。
继续参考图1,显示单元112被包括在示例输入系统102中。显示单元112可以显示存储的图像、由成像设备或另一来源获得的图像、或供操作者108观看的其他图像。显示单元112可以以各种自由度移动,以适应操作者108的观看位置和/或提供控制功能。在一些示例中,显示单元112接受来自操作者108的输入,以命令由计算机辅助机器人系统的成像设备获得的图像的显示。例如,在一些情况下,显示单元112接受来自操作者108的头部输入,诸如由头部输入传感器190检测的,以通过命令跟随者设备104的运动来命令所显示图像;在这类示例中,显示单元112也是输入系统102的输入设备(头部输入设备),并且在领导者-跟随者配置中使用。在另一个示例中,显示单元112接受来自操作者108的头部输入,诸如由头部输入传感器190检测的,以通过引起由跟随者设备104获取的图像的数字变化来命令所显示图像。头部输入传感器190用于感测操作者的头部的存在,和/或由头部施加在显示单元112上的力,和/或由头部施加到显示单元112的扭矩。头部输入传感器190基于感测的头部存在和由头部施加在显示单元112上的接触力/扭矩而输出信号。输出的信号用于推断操作者的头部在与显示单元112接触时的移动,并且生成对由跟随者设备104获取的图像的数字变化。对所显示图像的示例数字变化包括数字缩放、平摇(panning)(例如,通过仅显示所获取图像的一部分并改变所显示的部分)、倾斜(tilting)、旋转或对所获取图像的其他视图操纵。因此,在各种情况下,所显示图像的变化可以通过仅移动成像设备、仅数字地改变显示的图像、或者移动成像设备和数字地改变显示的图像的组合来实现。
在一些情况下,头部输入传感器190或计算机辅助机器人系统100的其他传感器(例如,显示单元112、输入系统102的部件等的传感器)被配置成提供足够的传感器数据来将头部与其他身体部位区分开,和/或将头部施加在显示单元112上的力或扭矩与其他源施加的力或扭矩区分开。传感器数据可以直接指示头部(例如,来自头部存在传感器、可以从中识别头部对头部输入设备的接触的图像等),或者提供足够的信息,使得可以足够确定地推断与头部的交互(例如,指示与头部输入相称的力或扭矩幅度、方向或历史,指示操作者的手与手部输入设备接合,使得由头部输入设备感测的输入不是由手提供的,等等)。在一些情况下,控制系统140被配置成使用这类传感器数据来识别归因于与头部的交互的头部输入信号,并且在命令机器人系统或提供提醒时使用那些识别的头部输入信号。
在一些情况下,头部输入传感器190或计算机辅助机器人系统100的其他传感器无法提供足够的传感器数据来将头部与其他身体部位区分开,或者将由头部施加的力或扭矩与由其他源施加的力或扭矩区分开。在一些情况下,控制系统140缺乏足够的传感器数据来识别,或者未被配置成使用传感器数据来识别,归因于与头部的交互的头部输入信号。在这些情况下,控制系统140可以被配置成使用由对头部输入设备的输入产生的输入信号,而不识别或区分由头部交互引起的输入信号或者去除由与其他身体部位的交互引起的输入信号,以用于命令机器人系统或提供提醒。
尽管头部输入传感器190在图1中被示为显示单元112的特定位点的整体式部件,但头部输入传感器190可以包含利用任何适当的感测技术的任何适当数目、(一个或多个)大小、(一个或多个)形状和(一个或多个)位点的(一个或多个)传感器元件。例如,头部输入传感器190可以包含位于显示单元112的头靠下方的一个或多个传感器。作为其他示例,头部输入传感器190可以包含与显示单元112的另一部分集成或位于其内、被集成在显示输入系统102的另一部分内、与显示输入系统102分开放置、利用接触技术(例如,力、扭矩、应变、压力、电阻)或非接触技术(例如,光学、声学、超声波、RF等)和类似项的一个或多个传感器元件。
在计算机辅助机器人系统100的示例中,显示单元112可以显示描绘工作场所的图像,操作者通过操纵输入设备(例如,111A、111B、113,且在适当的情况下112)命令设备(诸如跟随者设备)来在该工作场所执行各种任务。在一些示例中,由显示单元112显示的图像可以由输入系统102从用于在工作场所处捕获图像的一个或多个成像设备接收。在其他示例中,由显示单元112显示的图像可以由显示单元112(或由通信地耦接到显示单元的另一设备或系统)生成,诸如用于工具、工作场所、用户接口部件等的虚拟表示。
当使用输入系统102时,操作者108可以坐在如图所示的椅子上,或者坐在输入系统102前方的其他支撑件上,将他或她的眼睛置于显示单元112前方,操纵输入设备111A、111B、113,并且根据期望将他或她的前臂靠在人体工程学支撑件110上。在一些情况下,操作者108可以站在输入系统102处或采取其他姿态,并且显示单元112和输入设备111A、111B、113可以设置在适应站立的操作者108的位置(高度、深度等)处。在一些情况下,操作者108可以坐着或站着,并且显示单元112和输入设备111A、111B、113以及其他部件被调整以适应坐着或站着的姿势。
如上所述,计算机辅助机器人系统100还可以包括跟随者设备104,其可以由领导者设备命令(例如,由输入系统102命令)。在医疗示例中,跟随者设备104可以位于手术台106(例如,桌子、床或其他支撑件)附近,患者(或模型或模拟患者)可以位于该手术台106上。在这类情形下,工作场所130可以位于手术台106上。如图所示的示例跟随者设备104包括多个操纵器臂120,每个操纵器臂120被配置成耦接到工具组装件122。操纵器臂120可以包括例如托架或用于耦接到工具126的其他工具接口。
在各种情况下,工具126中的一个或多个可以包括用于捕获图像的成像设备。示例成像设备包括光学相机、红外或紫外相机、超光谱相机、超声波传感器等。图1示出了包含内窥镜组装件124的成像设备。成像设备可以提供工作场所中的部分或全部的所捕获图像,以由显示单元112和/或工作场所附近或远离工作场所的其他显示单元显示。
在一些情况下,可以控制操纵器臂120,以响应于操作者108对手部输入设备111A、111B的操纵而移动和铰接(articulate)工具126,使得操作者108可以使用工具126在工作场所130处执行任务。在外科手术示例中,操作者108可以引导操纵器臂120移动工具126,以通过患者的微创孔或自然孔口在内部外科手术部位处执行外科手术程序。
如图所示,控制系统140设置在输入系统102外部,与输入系统102通信。在其他情况下,控制系统140可以设置在输入系统102中或跟随者设备104中。随着操作者108移动(一个或多个)输入设备(例如,手部输入设备111A、111B,且在适当的情况下,包含显示单元112的头部输入设备),传感器基于这些输入设备的移动感测空间信息,包括感测的位置和/或取向信息,并且将这种空间信息提供给控制系统140。控制系统140可以基于接收的信息和操作者输入而确定或向跟随者设备104提供控制信号,以控制操纵器臂120、工具组装件122和/或工具126的移动。在一种情况下,控制系统140支持一个或多个光纤或其他有线通信协议(例如,以太网、USB和/或类似项)和/或一个或多个无线通信协议(例如,蓝牙、IrDA、HomeRF、IEEE 802.11、DECT、无线遥测和/或类似项)。
控制系统140可以在一个或多个计算系统上实施。一个或多个计算系统可以用于控制跟随者设备104。此外,一个或多个计算系统可以用于控制输入系统102的部件,诸如显示单元112响应于操作者108的头部的移动而移动。
如图所示,控制系统140包括处理器150和存储控制模块170的存储器160。在一些情况下,控制系统140可以包括一个或多个处理器、非永久性存储件(例如,易失性存储器,诸如随机存取存储器(RAM)、高速缓存存储器等)、永久性存储件(例如,硬盘、诸如压缩盘(CD)驱动器或数字多功能盘(DVD)驱动器的光驱、闪存等)、通信接口(例如,蓝牙接口、红外接口、网络接口、光学接口等),以及许多其他元件和功能件。此外,控制模块170的功能可以在任何技术上可行的软件和/或硬件中实施。控制系统140包括能够进行硬实时处理的操作系统、用于对数字和模拟信号进行采样的数据采集接口,以及用于生成命令信号的数字和模拟输出和功率放大器等。
在一些情况下,一个或多个输入设备111A、111B、113可以不接地(不接地的输入设备在运动学上不接地,例如,由操作者108的手握持的手部输入设备,无需附加的物理支撑件)。这类不接地的输入设备可以与显示单元112结合使用。在一些情况下,操作者108可以使用位于工作场所附近的显示单元112,使得操作者108可以在观看由显示单元112显示的图像的同时手动地操作工作场所处的工具,诸如外科手术示例中的腹腔镜工具。
一些情况可以包括计算机辅助机器人医疗系统(诸如美国加利福尼亚州森尼韦尔市的直观外科手术操作公司商业化的da外科手术系统)的一个或多个部件。da外科手术系统的实施例仅为示例,并且不应视为对本文所公开的特征范围的限制。例如,在工作场所处具有跟随者设备的不同类型的远程操作系统,以及非远程操作系统,可以利用本文所描述的特征。
图2是根据各种情况的示例显示系统200的透视图。在一些情况下,显示系统200用于计算机辅助机器人系统的输入系统中(例如,在图1的计算机辅助机器人系统100的输入系统102中)。在一些情况下,显示系统200可以用于其他系统中或用作独立系统,例如,以允许操作者查看工作场所或其他物理场所、显示的虚拟环境或类似项。虽然图2示出了特定的配置,但其他情况可以使用不同的配置。
显示系统200包括基座支撑件202、臂支撑件204和显示单元206。显示单元206被提供有由支撑联动装置提供的多个移动自由度,该支撑联动装置包括基座支撑件202、耦接到基座支撑件202的臂支撑件204、以及耦接到臂支撑件204的俯仰构件224(下面更全面地描述)。显示单元206耦接到俯仰构件224。
基座支撑件202可以是机械接地的竖直构件,例如,直接或间接耦接至地面,诸如通过靠置或附接至地板。例如,基座支撑件202可以机械地耦接到耦接到地面的支撑结构210。基座支撑件202包括第一基座部分212和第二基座部分214,它们耦接成使得第二基座部分214可关于第一基座部分212在线性自由度上平移。在一个示例中,如图2所示,第二基座部分214被配置成装配在第一基座部分212内,并且沿着自由度216相对于第一基座部分212向上和向下移动,自由度216在图2中被示为大致竖直的方向。
臂支撑件204可以是机械地耦接到基座支撑件202的水平构件。臂支撑件204可以包括第一臂部分218和第二臂部分220。第二臂部分220耦接到第一臂部分218,使得第二臂部分220可关于第一臂部分218在第一线性自由度(DOF)上线性平移。在一个示例中,如图2所示,第二臂部分220被配置成装配在第一臂部分218内,并且沿着自由度222相对于第一臂部分218向前和向后移动,自由度222在图2中被示为大致水平的方向。
显示单元206可以机械地耦接到臂支撑件204。显示单元206可以在由第二基座部分214和第二臂部分220的线性平移提供的第二线性DOF上可移动。
在一些情况下,显示单元206包括可以显示数字图像的显示设备,例如一个或多个显示屏、投影仪或其他显示设备。显示单元206可以包括两个视口223,其中显示设备被提供在视口后面或被包括在视口中。在一些情况下,一个或多个显示屏或其他显示设备可以定位在显示单元206上,代替视口223。
在一些情况下,显示单元206显示由成像设备(诸如内窥镜)捕获的工作场所的图像(例如,医疗示例中的患者内部解剖结构)。替代地,工作场所可以是工作场所的虚拟表示。在操作者经由输入系统102的输入设备控制跟随者设备104的工具126中的一个或多个时,所显示图像可以示出跟随者设备104的工具126的所捕获图像或虚拟渲染。
在一些情况下,显示单元206通过俯仰构件224旋转地耦接到臂支撑件204。在所示的示例中,俯仰构件224在第一端处通过旋转耦接件耦接到臂支撑件204的第二臂部分220,该旋转耦接件被配置成提供俯仰构件224和显示单元206关于第二臂部分220围绕俯仰轴线226的旋转运动。例如,从操作者经由视口223观看显示单元206的图像的视点来看,这种旋转可以是竖直的或上下旋转。在一些情况下,俯仰轴线226定位在显示单元206中的显示设备上方,如图2所示。
本文所论述的各种自由度中的每一个均可以是被动式并且需要手动操纵,或者可由一个或多个致动器移动,诸如由一个或多个马达、螺线管等移动。例如,俯仰构件224和显示单元206围绕轴线226的旋转运动可以由一个或多个致动器驱动,诸如由在俯仰轴线226处或附近耦接到俯仰构件的马达驱动。
显示单元206可以旋转地耦接至俯仰构件224,并且可以围绕偏航轴线230旋转。例如,从操作者经由视口223观看显示单元206的图像的视点来看,这可以是横向的或左右旋转。在该示例中,显示单元206通过旋转机构耦接到俯仰构件,该旋转机构可以是轨道机构。例如,在一些情况下,轨道机构包括弯曲轨道228,弯曲轨道228可滑动地接合耦接到俯仰构件224的凹槽构件229,通过移动弯曲轨道228穿过凹槽构件229的凹槽而允许显示单元206围绕偏航轴线230旋转。
因此,显示系统200可以为显示单元206提供竖直线性自由度216、水平线性自由度222、旋转(俯仰)自由度227和旋转偏航自由度231。显示系统200的部件在这些自由度上的协调移动的组合允许显示单元206以各种位置和取向定位在其工作空间中。当操作者通过由头部输入传感器190感测的力、扭矩或运动提供(一个或多个)头部输入时,显示单元206在俯仰、水平和竖直自由度上的运动允许显示单元206保持接近操作者的头部或者维持与操作者的头部接触。
显示系统的自由度允许显示系统200提供显示单元206在物理空间中围绕可以定位在不同位点的枢轴线的枢转运动。例如,显示系统200可以提供显示单元206在物理空间中的与操作者在操作显示系统200时的头部的运动相对应的运动。
显示单元206可以包括一个或多个输入设备,其允许操作者提供输入,以操纵显示单元206在空间中的取向和/或位置,和/或操纵显示系统200和/或更大系统(例如,计算机辅助机器人系统100)的其他功能或部件。
示例性地,显示单元206的头部输入设备290包括用于接触操作者的头部的头靠部分242。头靠部分242可以位于视口223上方的区域中,以便当操作者通过视口223观看图像时与操作者的前额接触。显示单元206可以包括一个或多个头部输入传感器,该头部输入传感器被配置成感测到显示单元206的操作者头部输入,诸如施加到头靠部分242的力。由(一个或多个)头部输入传感器感测的这些输入或者头部输入可以被控制系统解释为命令,以引起成像设备或其他工具的移动,或者以其他方式引起更新显示在显示单元206上并呈现给操作者的图像中的视图(诸如通过图形渲染、数字缩放或平摇等)。在一些示例中,一个或多个头部输入传感器可以设置在头靠部分242下方。在替代示例中,头部输入传感器可以集成在显示单元206的另一部分内,集成在显示系统200的另一部分内(诸如通过包含显示系统200的接头传感器),和类似项。此外,在一些情况下和操作的一些情况下,感测的头部移动用于移动显示单元206以补偿头部移动。因此,即使当操作者执行引起显示单元206的运动的头部移动并控制由成像设备提供的视图时,操作者的头部的位置也可以相对于视口223保持静止。
一个或多个头部输入传感器可以包括各种类型的传感器中的任一种,例如,电阻传感器、电容传感器、力传感器、压力传感器、光学传感器(诸如光学相机)、接头编码器、应变仪、本公开中其他地方列举的其他传感器等。
继续参考图2,显示系统200可以基于操作者头部输入而改变显示单元206的取向和/或位置。例如,感测的头部操作者输入被提供给控制系统(例如,图1所示的控制系统140),该控制系统控制显示系统200的致动器在线性自由度216移动第二基座部分214,在线性自由度222上移动第二臂部分220,在旋转自由度227上移动俯仰构件224,和/或在旋转自由度231上移动显示单元206,以促使显示单元206按照(例如,根据)所感测的操作者头部输入的命令而移动。所感测的操作者头部输入也可以用于控制显示系统200和/或更大系统(例如,图1的计算机辅助机器人系统100)的其他功能。因此,在一些情况下,操作者可以移动他或她的头部以向输入设备提供输入,以控制显示单元206由显示系统200根据头部的运动来移动,从而允许显示单元206跟随操作者的头部的运动和视角的变化。
在一些情况下,由显示单元206和/或其他受控设备显示的图像基于显示单元206的感测的运动而被改变和操纵。
在显示系统的一些情况下,显示单元206具有在数目、运动范围、运动方向等方面不同的自由度。在一些情况下,显示单元206可在自由度231上围绕偏航轴线230旋转。在一些情况下,显示单元206缺乏以下自由度中的一个或多个:216、222和227。作为具体示例,显示单元206可以具有自由度231、216,并且缺乏自由度222和227。
本领域技术人员将理解,图2仅示出了显示系统的配置的示例。支持显示单元206基于来自操作者的输入而移动的替代配置也是可能的。可以使用支持显示单元206的期望移动的任何可重新定位的结构配置来代替图2所示的配置。
图2图示了作为接地机械结构(例如,显示系统200)的一部分的显示单元206。在其他情况下,显示单元可以是任何技术上可行的一个或多个显示设备。例如,显示单元可以是手持设备,诸如由操作者握持的平板设备或移动电话。作为另一个示例,显示单元可以是头戴式设备(例如,眼镜、护目镜、头盔)。可以使用一个或多个加速度计、陀螺仪、惯性测量单元、相机或显示单元内部或外部的其他传感器来确定显示单元的位置和/或取向。
如上所述,显示单元(例如,显示单元206)中的头部输入设备290和头靠部分242可以包括一个或多个头部输入传感器,该头部输入传感器感测操作者头部输入,该头部输入被转换为命令,以引起成像设备的移动。例如,头部输入设备290可以捕获由头部力或移动提供的头部输入并将其转换成用于工具(诸如包含成像设备的工具)的命令。在工具包含内窥镜组装件(例如,内窥镜组装件124)的示例中,内窥镜组装件可以捕获并提供工作场所的一部分的图像,该图像经由显示单元206显示以供输出。
图3图示了根据各种示例的示例显示单元的自由度。在各种示例中,显示单元可以具有与其命令的工具的自由度不同的自由度。图3图示了可以对应于图1的显示单元112和图2的显示单元206的示例显示单元310。示例显示单元310包括四个DOF。特别地,显示单元310可以在竖直(上下)DOF 314中沿着竖直轴线移动,并且在水平(前后)DOF 316中沿着水平轴线移动。显示单元310进一步可以在偏航DOF 318中围绕竖直轴旋转显示单元310,并且在俯仰DOF 312中围绕水平轴旋转。例如,对应于结合图2描述的显示系统,显示单元206的取向和/或位置可以基于操作者输入而改变,以手动地移动显示单元206,或者控制显示系统200的致动器来移动显示单元206。例如,手动或致动器提供的移动可以通过在线性自由度216上移动第二基座部分214、在线性自由度222上移动第二臂部分220、在旋转自由度227上移动俯仰构件224和/或在旋转自由度231上移动显示单元206来跟随操作者的头部的移动。
类似地,示例手部输入设备可以具有与其命令的工具的自由度不同的自由度。在各种示例中,手部输入设备可以具有与图3中显示单元310所示相同的四个DOF。在其他示例中,诸如图1所示的手部输入设备111A和111B,手部输入设备可以缺乏类似于图3的DOF 312的俯仰DOF。在其他示例中,手部输入设备可以具有沿着第二水平轴线的附加的左右(从一边到一边)水平DOF。该附加的左右DOF垂直于图3的竖直DOF 314和水平DOF 316中的每一个。附加的水平DOF允许操作者沿着平行于人体工程学支撑件110的宽度的方向移动手部输入设备。在各种示例中,手部输入设备(例如,手部输入设备111A和111B)和头部输入设备(例如,适当配置的显示单元112、206、310)均可彼此独立地移动,并且因此每个均在它们自己的工作空间中。
在一些计算机辅助机器人系统中,可以存在多种操作性模式用于控制耦接到跟随者设备(例如,跟随者设备104)的成像设备。在示例操作性模式下,成像设备由操作者操纵领导者设备的一个或多个手部输入设备(例如,图1的手部输入设备111A和111B中的一个或两个)来控制。然而,在这种操作性模式下,当操作者的一只或两只手(或手部输入设备中的一个或多个)正用于执行其他任务时,成像设备不能容易地移动。其他任务的示例包括,例如,操纵一个或多个手部输入设备以命令耦接到跟随者设备的一个或多个工具。在替代操作性模式下,操作者通过使用他或她的头部提供命令来控制成像设备,诸如通过提供非接触式头部输入(例如,由相机或其他传感器追踪的头部运动)或者通过提供基于接触的头部输入(例如,由头部施加的线性力或旋转力(也可称为“扭矩”)、线性位移或角位移)。使用头部输入来控制成像设备可以允许操作者在使用他或她的手执行其他任务时有更多的选项。在一些情况下,还在几乎不需要或根本不需要使用操作者的手时实现进入和/或退出这种替代操作性模式;这类方法可以让操作者的手可用于更多的选项和改进的控制。这种替代操作性模式有时被称为“头部控制模式”(“HCM”)。在一些示例中,计算机辅助机器人系统(例如,机器人系统100)可以被配置成在多种操作性模式下操作,其中第一操作性模式涉及使用一个或多个手部输入设备来控制成像设备的运动,并且第二操作性模式涉及很少或不使用手部输入设备来控制成像设备的运动。在其他示例中,计算机辅助机器人系统可以被配置成仅在HCM中操作。
当在HCM中使用机器人系统(例如,机器人系统100)时,操作者可能希望移动输入设备(例如,头部、手部、脚部或其他输入设备),而不控制对应于该输入设备的任何工具的移动。这可能是为了将输入设备定位为具有足够的运动范围以用于更大移动的命令,将输入设备移动到更舒适的位置,将输入设备移动到更远离运动范围极限,和/或一些其他原因。在一个示例中,机器人系统(例如,机器人系统100)具有暂时暂停机器人系统的手部和/或头部运动控制的离合器功能(称为“离合器模式”)。在一些情况下,系统通过系统的控制系统140以与离合器模式一致的方式操作(例如,不响应于输入设备运动而命令跟随者运动等)来进入离合器模式。在系统处于离合器模式的情况下,操作者可以移动头部输入设备和手部输入设备,而不会引起(一个或多个)对应工具(例如,成像设备或其他工具)的输入设备所命令的运动。在一些情况下,控制系统140被配置有分离的头部和手部离合器模式。在系统处于头部离合器模式的情况下,操作者可以移动头部输入设备,而不会引起对应工具(例如,成像设备)的所命令运动。在一些示例中,处于头部离合器模式的系统100通过将对应成像设备或显示的视图与头部输入设备的运动解耦来允许头部输入设备移动,而不会引起由显示单元显示的图像的所命令改变。此外,在系统处于手部离合器模式的情况下,操作者可以移动手部输入设备,而不会引起对应工具(例如,操纵或切割工具)的所命令运动。因此,例如,一旦系统已经进入离合器模式,操作者就可以在不引起改变耦接到跟随者设备的工具(例如,成像设备或其他工具)的位置的所命令运动的情况下,将头部输入设备或(一个或多个)手部输入设备移动到允许大的移动命令的位置、移动到更舒适的位置、远离运动范围极限等。在一些情况下,操作者可以将头部或手部输入设备移动到操作者的“原始位置”。原始位置可以是任务或程序开始的初始位置、对操作者来说人体工程学上有利的位置等。在一些情况下,处于离合器模式的机器人系统提供视觉指示符,该视觉指示符被设计成指导操作者移动他或她的头部或(一个或多个)手部,诸如移动到或朝向原始位置或一些其他位置。一旦输入设备定位完成,系统就可自动地或按照操作者的命令或其他指示退出离合器模式。该系统还可以自动地或按照操作者的命令进入远程操作模式(例如,头部控制模式(HCM))。
在一些情形下,操作者移动头部输入设备,但忘记移动或以其他方式未移动或延迟移动一个或多个手部输入设备。在一些情形下,操作者移动一个或多个手部输入设备,但忘记移动或者以其他方式未移动或者延迟移动头部输入设备。因此,为了帮助操作者在离合器模式下使用这些输入设备中的一个或多个,系统可以提供提醒或鼓励操作者在适当情况下移动头部和/或手部输入设备的一个或多个反馈提示。
本文的论述主要集中于头部输入设备和手部输入设备的位置、取向和/或运动。在许多这类情况下,头部输入设备和手部输入设备的位置、取向和/或运动分别指示了操作者头部和手部的实际位置、取向和/或运动。例如,被配置成通过与操作者前额接触来操作的头部输入设备的位置、取向或运动可以指示操作者的头部的线性或角位置或者线性或角运动。作为另一个示例,被配置成在被操作者的手抓握时被操作的手部输入设备的位置、取向或运动可以指示手的线性或角位置或者线性或角运动。一些系统被配置成直接感测操作者的头部和/或手,并且将其用作输入(例如,通过用非接触式传感器诸如光学或红外相机追踪头部和手)。一些系统被配置成间接感测操作者的头部和/或手,并且将其用作输入(例如,通过确定对应于头部输入设备和手部输入设备的运动的头部和手运动)。本文所描述的用于提供提醒的技术也可以由那些系统使用,并且应用于头部和/或手,而不是头部和/或手部输入设备。例如,该系统可以缺乏与头部或手进行物理交互的输入设备,并且可以提供移动头部和/或手而不是头部和/或手部输入设备的提醒。
因此,在一种或多种情况下,为了帮助操作者在离合器模式下重新定位头部和/或手部输入设备,系统使用显示单元有条件地呈现提醒。例如,在一些情况下,如果确定:头部输入设备在离合器期间已经大幅移动,手部输入设备在离合器期间没有大幅移动,或者头部输入设备已经大幅移动而一个或多个手部输入设备没有大幅移动,则呈现移动一个或多个手部输入设备的手部提醒。在一些情况下,提醒可以是视觉的、听觉的、触觉的或者前述的组合(例如,视觉的和经由一些其他感觉,诸如听觉或触觉)。在一些情况下,提醒是视觉的。在一些情况下,视觉提醒被渲染为看起来漂浮在显示屏(例如,显示单元112)上描绘的场景上方。在一些情况下,视觉提醒可以被突出显示、改变大小或形状、相对于所显示图像大、或者视觉描绘的变化(例如,大小或形状或颜色的律动、变化等)以具有更高的可见性。在其他情况下,提醒含有听觉和/或触觉方面,以代替或附加于视觉方面。尽管本文所描述的一些示例利用了特定类型的提醒,但可设想,可以利用另一种类型的提醒来代替或附加于说明性示例中描述的提醒类型。
在一些情况下,可以基于由从头部输入设备(例如,显示单元112、206、310,其被配置为具有适当仪器的输入设备)和/或一个或多个手部输入设备接收的信号得出的一个或多个参数,向操作者提供提醒。在一些这类情况下,一旦参数不再指示要提供提醒,系统就可以使手部提醒不太明显(诸如通过使提醒不太可见、更小、更类似于图像的其余部分、更半透明、更柔和或更安静的声音、降低的触觉反馈的幅度或频率等)或者完全阻止提供提醒。例如,在一些情况下,操作者将手部输入设备中的一个或两个从它们在进入离合器模式时的初始位置和/或取向移开确定的量改变了参数以不再指示要提供手部提醒。
在一些情况下,即使参数以其他方式指示应提供提醒,系统仍可以响应于特定操作性情境(诸如特定事件的发生)抑制提供提醒(或停止提供提醒)。例如,在一些情况下,响应于与操作者有意移动显示单元(而不移动(一个或多个)手部输入设备)一致的操作性情境或事件,在操作者为显示单元的大移动而定位的情况下,或者在操作者未忘记移动(一个或多个)手部输入设备的其他情况下,机器人系统可以抑制显示手部提醒(或者停止提供手部提醒)。
图4A图示了计算机辅助机器人系统的示例输入系统的三个输入设备(包含头部输入设备的显示单元112,和两个手部输入设备111A、111B)的示意性俯视图,每个输入设备均处于第一位置。例如,参考图1,输入系统可以是输入系统102,并且所描绘的设备可以是配置有头部输入传感器190的显示单元112,以及手部输入设备111A和111B。图4A的视点来自输入系统102的上方,具有操作者在三维(3D)操作环境内的三个输入设备的俯视图(二维(2D)投影)。此外,在图4A的显示单元112和手部输入设备111A和111B的所示第一位置,这三个设备在这些输入设备111A、111B、112的相应工作空间中居中。在一些情况下,居中的位置充当这些设备的操作者原始位置。在图4A中图示了操作者108相对于输入设备111A、111B、112的取向的示意性表示,其中操作者108的前额被示为与显示单元112接合并且可由头部输入传感器190检测到。
图4B描绘了可以对应于图4A的医疗示例。在图4B中,在领导者设备的显示单元上(例如,在图1的显示单元112上)显示由耦接在跟随者设备处的成像设备(例如,内窥镜)捕获的工作场所(示出包括肠道的腹部区域)的图像601。如上所述,在HCM中,显示单元的位置和/或取向可以用于控制成像设备的位置和/或取向。在图像601中还可见两个其他工具605和606,它们可以由领导者设备处的其他输入设备控制,诸如由手部输入设备(例如,分别为图1的手部输入设备111A和111B)控制。一般而言,操作者正在工作场所处使用以进行操作的这类其他工具可被该工作场所处的成像设备观看(例如,这些其他工具是可移动的和/或成像设备是可移动的或可缩放的,使得这些其他工具在成像设备的视野内是可见的)。
在与工作场所的多个部分的程序(诸如图4B所示的肠道上的某些程序)相关的示例中,操作者可能需要移动成像设备,以相对于结构的不同部分进行平摇和/或缩放。例如,参考图4B,操作者可以决定平摇和缩放图像以聚焦在图像601的左下象限。在一些情况下,机器人系统命令跟随者设备以对应于显示单元112的运动的方式移动成像设备。在该示例中,操作者可以相对于他/她自己移动显示单元112——向左平移显示单元112并向下旋转显示单元112(例如,沿着如图3所示的自由度312)。操作者也可以放大或缩小,诸如通过向前或向后移动显示单元(例如,沿着如图3所示的自由度316)。操作者可以在他们的相应工作空间内移动手部输入设备111A和111B,诸如以将工具带到成像设备工作场所的移动后视野内。在这类运动之后,操作者可以选择进入离合器模式来移动显示单元112和/或手部输入设备111A和111B,而不命令成像设备或其他工具的运动。这可能是由于上面提到的任何原因,包括显示单元112和/或手部输入设备111A和111B可能处于对于操作者或程序来说欠佳的位置或取向,诸如在它们的相应工作空间的边缘处或附近。
图4B还描绘了叠加在所显示图像上的轮廓602,以指示最近视点。例如,轮廓602便于操作者返回到他/她的先前视点。在一些情况下,轮廓602可以对应于先前的位置、保存的位置、操作者原始位置或一些其他位置,使得当操作者移动头部输入设备以将成像设备移动到所指示的视点时,操作者的头部也朝向这类位置移动。
图4C图示了显示单元112(在该示例中也为头部输入设备)已经相对于其图4A所示的姿态发生平移和旋转,并且两个手部输入设备111A和111B已经从其图4A所示的位置移动的情景。将手部输入设备111A、111B和显示单元112从图4A所示的它们的相应姿态移动到图4C所示的那些姿态涉及操作者将头部相对于操作者向左平移和旋转,并且将双臂相对于操作者向前和向左伸展。例如,操作者可以将显示单元112和手部输入设备111A、111B从图4A所示的姿态移动到图4C所示的姿态,以放大图4B所示的图像的左下部分,并且将手部输入设备111A、111B所命令的工具定位在成像设备的视野内。操作者可以使系统进入离合器模式,并且出于任何原因(包括以上针对离合器模式移动所论述的原因)重新定位显示单元112和/或手部输入设备111A、111B中的一个或多个。
图5图示了进入离合器模式并将显示单元112从显示单元112的虚线描绘重新定位(在这种情形下,包括平移和旋转两者)至显示单元112实线描绘之后的示例情景。在该示例中,在进入离合器模式时,三个输入设备111A、111B、112被定位和定向在它们的相应工作空间中,如图4C所示。如图5所示,操作者已经将显示单元112向后平移,并且将显示单元112向右旋转,达到显示单元112在图4A中具有的姿态的小公差范围内,并且基本上与其相同。如图5所示,操作者没有将两个手部输入设备111A和111B从它们进入离合器模式时的位置移开。在一些情况下,系统将提供手部提醒,以提醒和鼓励操作者将手部输入设备111A和111B中的一个或两个重新定位到潜在的更期望的位置和/或取向。
图6A图示了实施为照明区域625的示例头部姿态指示符。除了照明区域625之外,图6B还图示了使用显示单元112显示的视觉手部提醒610。接下来描述这些图。
图6A图示了计算机辅助机器人系统进入离合器模式之后,显示单元112显示的示例图像。图6A图示了,在进入离合器模式之后,成像设备图像不再响应于显示单元112的移动而移动,因为显示单元112对成像设备的运动的控制已经被暂停。在一些情况下,显示单元112在整个离合器模式下向操作者显示的图像保持与进入离合器模式时显示的图像相同。图6A还图示了,在一些情况下,所显示图像提供视觉头部姿态指示符,该指示符反映了显示单元112在显示单元112的工作空间内的位置和取向。在图6A的示例中,头部姿态指示符是模拟光束效果的照明区域625。尽管示为圆形,但照明区域可以是任何合适的形状或大小。照明区域625(特别是如果是圆形的话)因此可以被理解为佩戴头灯并使用它来照明内窥镜视图的隐喻。在照明区域625之外,图像没有被完全照明,并且因此看起来更暗。在一种或多种情况下,照明区域625相对于所显示图像的中心的角度偏移指示显示单元112的取向,并且照明区域625的大小指示显示单元112相对于参考位置的位置。在一些情况下,照明区域625的位点和大小(例如,覆盖面积或特性尺寸,诸如圆形区域的直径)可以被确定,使得当操作者的头部靠近先前位置(例如,进入离合器模式时的位置、原始位置等)时,照明区域625将主要填充所显示图像。
如图6A所示,照明区域625的视图内为工具605。当系统100处于远程操作模式时,工具605的运动由手部输入设备111A控制。然而,由于系统100处于离合器模式,工具605的运动现在与手部输入设备111A解耦。在图6A的示例中,照明区域625指示操作者的头部(或头部输入设备)在先前位置的上方和左侧。
在一种或多种情况下,独立地或除了头部姿态指示符之外,显示单元112可以提供一种或多种视觉或其他类型的手部提醒,以移动操作者的一只或两只手。
头部姿态指示符、(一个或多个)视觉手部提醒和其他视觉指示符可以渲染在显示图像601内的一定深度处,或者看起来“漂浮”在工作场所的视图上方。工作场所的视图可以是实时的并且继续示出由成像设备获取的图像,可以是在进入离合器模式之前拍摄的快照,可以是虚拟描绘、混合或任何其他合适的图像,包括空白图像或与程序无关的图像。
图6B中示出了示例视觉手部提醒。图6B示出了在操作者已经将他/她的头部从其在图6A中的位置向后向右移动之后,由显示单元112显示的图像。因此,照明区域625现在位于图像的中心处或附近,并且因此位于先前位置附近。此外,在图6B中,照明区域625被定位成使得工具605和606两者均被部分照明。图6B的示例反映了类似于图5所描绘的情景,其中操作者已经移动了他/她的头部(或头部输入设备),但在进入离合器模式之后没有移动他/她的手。因此,在一种或多种情况下,计算机辅助机器人系统可提供一个或多个手部提醒(例如,手部提醒610和611)来提醒操作者在处于离合器模式时移动他/她的(一只或多只)手(或手部输入设备)。(一个或多个)手部提醒可以包含任何适当的提醒,包括任何视觉提醒,其包含一个或多个文本、图形、符号、图标或其他元素。在图6B所示的示例中,手部提醒610、611包含手部输入设备(例如,手部输入设备111A和111B)的手部握持部分的线条图,如图1所示。手部提醒610和611的其他示例包括手、手部输入设备等的图像。
如上所述,在一种或多种情况下,通信地耦接到计算机辅助机器人系统的头部输入设备和手部输入设备的控制系统140可在多种模式下操作。在第一模式下,第一模式是一种远程操作模式,控制系统140基于接收的头部输入信号而命令工作场所内的第一工具,第一工具包括成像设备。在第一模式下,控制系统140可以基于接收的手部输入信号而进一步命令工作场所内的第二工具,诸如工具605或606。第一和第二工具可以相对于彼此定位,使得第二工具可被成像设备观看,并且可以在成像设备捕获的图像中看到。在第二模式下,第二模式是一种离合器模式,控制系统140可以基于一个或多个参数而向操作者提供重新定位一个或多个手部输入设备的提醒。例如,控制系统140可以基于一个或多个参数满足提醒提供的至少一个条件而提供提醒。
当系统100处于离合器模式时,可以根据或以其他方式基于由控制系统140接收的头部和手部信号得出参数满足提醒提供的至少一个条件。头部和手部信号指示显示单元和一个或多个手部输入设备的位置和/或取向。如本文所用,术语“参数”可以指标量、向量、矩阵或其他可量化、可测量或可得出的信息。可以对照一个或多个条件来评估这些参数,以确定是否提供提醒。可以通过各种比较、算法、函数和类似项来对照(一个或多个)条件评估参数。参数的示例包括头部输入和手部输入信号的幅度、频率和其他特性。参数的其他示例包括显示单元和/或一个或多个手部输入设备的位置、取向、线速度或角速度(方向和/或幅度)、线加速度或角加速度(方向和/或幅度)、或姿态或运动的其他位置特性。参数的进一步示例包括沿一个或多个维度的位置之间的差异、不同物理部件之间的线性或角距离,或者同一部件的线性或旋转移动量、指示净平移或旋转的初始和最终线性或角位置之间的差异。接下来参考图7A至图7E描述一个或多个参数的一些示例以及用于确定是否以及何时提供提醒的相关示例条件。
此外,在一些情况下,控制系统140检查提醒抑制或停止条件,并且基于满足一个或多个提醒抑制或停止条件,不提供(抑制提供)或者阻止提供(停止提供)提醒。例如,一些提醒抑制或停止条件可以通过减少提醒将是无关的或将使分散注意力的情况来改进用户体验,这些情况诸如是当操作者全神贯注于另一任务或故意不移动头部输入设备和/或手部输入设备时。可以在检查提醒提供条件之前、同时和/或之后检查提醒抑制或停止条件。
在一些情况下,提醒的提供和抑制是二元的,使得系统要么提供提醒,要么不提供提醒。在一些情况下,提醒的提供和抑制不是二元的,并且部分提供提醒、部分抑制或停止提供提醒是可能的。因此,例如,系统可以响应于一个或多个参数满足提醒提供的多个条件中的任何条件而提供提醒。在一些情况下,满足多个条件中的不同条件造成相同的提醒。在一些情况下,满足多个条件中的不同条件造成在类型、持续时间、强度、可见性(如果是视觉提醒)等方面不同的提醒。例如,满足多个条件中的第一条件造成视觉提醒,而满足多个条件中的第二条件造成听觉提醒(或视觉提醒和听觉提醒两者)。作为另一示例,满足多个条件中的第一条件造成比满足多个条件中的第二条件更不可见(例如,更透明、更不亮、更小、显示更短时间量等)的提醒。作为另一个示例,在一些情况下,满足多个条件中的更多条件造成比满足多个条件中的更少条件更可见(例如,更不透明、更亮、更大、显示更长时间量、动画化等)的提醒。
类似地,系统可以响应于一个或多个参数满足提醒提供的多个条件中的任何条件而抑制提供提醒。在一些情况下,满足不同的提醒抑制条件造成相同类型或数目的抑制提供提醒。在一些情况下,满足不同的条件或不同数目的条件造成在类型、持续时间、强度、可见性(如果是视觉提醒)等方面不同的提醒抑制。例如,满足提醒抑制的多个条件中的第一条件造成抑制视觉提醒,而满足多个条件中的第二条件造成抑制听觉提醒(或视觉提醒和听觉提醒两者)。作为另一示例,满足提醒抑制的多个条件中的第一条件造成比满足多个条件中的第二条件更不可见(例如,更透明、更不亮、更小、显示更短时间量等)的提醒。作为另一示例,在一些情况下,满足提醒抑制的多个条件中的更多条件造成比满足多个条件中的更少条件更完全的提醒抑制(例如,更不可见、更长持续时间等)。参考图7F和图7G描述了抑制或停止提醒的条件的一些示例。
图7A-图7G描述了提供提醒的条件和相关联参数的示例,以及抑制提供和停止提供提醒的条件和相关联参数的示例。这些示例是说明性的,并且系统可以使用其他条件或参数。同样,这些条件可以单独使用或组合使用;也就是说,系统可以配置有以下条件中的一个或另一个条件,或者可以配置有以下条件中的两个、三个或更多个或其他条件的任意组合。所论述的一些示例从(诸如相对于头部或头部输入设备的)手部输入工作空间的移动中得出参数。在各种情况下,手部工作空间相对于头部的移动被确定为头部的平移和旋转的函数。在一些情况下,手部输入姿态相对于头部参考系进行变换,并且与已经相对于头部姿态定义或映射的手部输入工作空间进行比较。如果这些参数满足某些条件,则不提供或停止提供提醒。
图7A图示了一个或多个参数的第一组的示例。参考此处,显示单元112的两个位置被示出在工作空间内。这两个位置均是显示单元112在控制系统140已经进入离合器模式之后示出的位置。最初,紧接在进入离合器模式之后,显示单元112处于位置A(其中显示单元112以虚线示出)。在这一点上,任何设备的位置均没有改变,也没有提供提醒。随后,操作者将显示单元112移动到第二位置,即位置B,这是长度L1的变化。然而,手部输入设备111A和111B没有移动。在该示例中,控制系统140评估显示单元的第一位置A和第二位置B之间的距离,如L1所示。在该示例中,如果L1大于定义的阈值TH头部,则控制系统140使显示单元112提供手部提醒。在一种或多种情况下,当系统处于离合器模式时,不管手部输入设备111A和111B中的任何一个是否已经移动,均提供手部提醒。在其他情况下,所评估的参数可以是显示单元112在位置A、B之间行进的总距离,如果显示单元不采用位置A、B之间的最短路径,则该总距离将不同于L1。
图7B图示了一个或多个参数的第二组的示例。参考图7B,示出了自系统进入离合器模式以来经过了一段时间后的瞬间,三个输入设备111A、111B、112的位置。显示单元112已经从其进入离合器模式时的位置移动。在图7B的示例中,在进入离合器模式之后,可以获得输入设备的位置,并且每当手部输入设备111A和111B不在包围显示单元112的当前位置的边界区域710内时,就提供手部提醒。因此,一个或多个参数包括手部输入设备111A、111B和显示单元112的位置。基于显示单元112的位置,定义边界区域710。边界区域710可以是任何适当数目的维度,包括二维和三维。在一些情况下,如果手部输入设备111A、111B中的至少一个的位置在边界区域710之外,则提供手部提醒。在一些情况下,边界区域710可以被理解为手部输入设备与显示单元112的接近度的度量。在一些情况下,控制系统140响应于显示单元112和(一个或多个)手部输入设备111A、111B之间的距离超过阈值距离而提供手部提醒。在一些情况下,控制系统140响应于显示单元112和手部输入设备111A之间的距离以及显示单元112和手部输入设备111B之间的距离均超过阈值距离而提供手部提醒。
在一些情况下,手部提醒指示哪个手部输入设备111A、111B在边界区域710之外,或者与显示单元112的距离超过阈值距离。在一些情况下,如果所有手部输入设备111A、111B的位置均在边界区域710之外(或超出距显示单元112的阈值距离),则提供手部提醒,并且如果手部输入设备111A、111B中的至少一个在边界区域710之内(或在距显示单元112的阈值距离之内),则不提供手部提醒。
例如,当操作者在系统处于离合器模式时移动显示单元112但不移动手部输入设备111A、111B使其保持在显示单元112附近时,可以发生图7B所示的示例情景。例如,手部输入设备111A、111B和显示单元112的位置的参数可以对照连续软件循环中的条件进行检查,该连续软件循环在系统处于离合器模式时运行并确定手部输入设备是否在边界区域710内,是否在显示单元112的阈值距离内,或者是否以其他方式足够接近显示单元112。在一些情况下,边界区域可以被成形为,相比于竖直方向,允许手部输入设备111A、111B在水平方向离显示单元112更远,而不触发手部提醒。在该示例中,边界区域710被示为盒子形状;然而,在各种情况下,边界区域710可以具有任何适当的形状和大小,并且可以是凸多面体、凹多面体、椭球体、多边形或椭球体的联合或其他复杂形状、扫描体等。例如,在其他情况下,手部输入工作空间的形状和大小以及边界区域710的定位可以被确定成保持相对于由显示单元112的头部输入传感器190检测到的头部姿态的工作关系。这种工作关系可以基于任何适当的因素来确定,包括人体工程学。
图7C图示了一个或多个参数的第三组的示例。图7C示出了在进入离合器模式之后,显示单元112(位置A和B)、左手部输入设备111A(位置A1和B1)和右手部输入设备111B(位置A2和B2)中的每一个的两个位置。在图7C的示例中,在系统刚刚进入离合器模式之后的第一时间T1C,显示单元112处于第一位置(位置A,以虚线示出),左手部输入设备111A处于第一位置(位置A1,也以虚线示出),并且右手部输入设备111B处于第一位置(位置A2,也以虚线示出)。图7C示出了2D空间上的俯视投影。一些示例可以使用包含在这种2D投影中、在另一个2D投影中(例如,与图7D所示平面正交的平面)、在3D空间中的取向的参数。输入设备112、111A、111B中的每一个可以是刚性体,或者可以具有可以相对于彼此移动或弯曲的多个子部件。在输入设备112、111A、111B不是刚性体的情况下,输入设备的“位置”可以比单个值更复杂;然而,为了解释的简单,示出了代表性位置。代表性位置的示例包括:几何中心的位置、质心的位置、感兴趣位点的位置(诸如操作者接触输入设备的位点)、不同子部件的不同位置的集合的位置等。一些情况可以使用这类代表性位置或更复杂的位置表示(例如,以向量、矩阵等)作为对照提醒提供的(一个或多个)条件评估的参数。
在时间T1,不提供手部提醒。随后,在T1C之后的第二时间T2D,操作者已经将显示单元112移动了运动量L1至第二位置(位置B),将左手部输入设备111A移动了运动量L2至第二位置(位置B1),并且将右手部输入设备也移动了运动量L2至第二位置(位置B2)。可以将一个或多个条件应用于这些参数,以确定计算机辅助机器人系统100是否向操作者提供手部提醒。
为方便起见,这些图描绘了3D工作环境的2D俯视图。因此,在一种或多种情况下,所考虑的参数可以是3D运动的2D投影,或者实际的3D运动量。因此,示出为L1、L2和L3的位置的变化可以是投影到平面(例如,水平面)上的2D向量,也可以是三维空间中的3D向量。
在一种或多种情况下,可以使用第一阈值TH手部左和第二阈值TH手部右将条件应用于手部输入设备参数。这些阈值TH手部左和TH手部右可以与阈值TH头部分开使用或者一起使用。在一种情况下,如果L1大于TH头部,并且L2小于TH手部左或者L3小于TH手部右,则由计算机辅助机器人系统100向操作者提供手部提醒。如图6B所示,该提醒可以针对两个手部输入设备,或者可以仅针对一个手部输入设备,诸如移动小于其相关联阈值的一个手部输入设备。在另一种情况下,如果L1大于TH头部,并且L2小于TH手部左且L3小于TH手部右,则向操作者提供手部提醒。在该示例中,手部提醒可以针对两个手部输入设备。例如,手部提醒可以包括如图6B所示的可视部分。在又一个示例中,如果以下各项中的至少一项为真,则可以提供手部提醒:L2小于TH手部左,或者L3小于TH手部右,而不管显示单元112移动还是缺乏移动。在一些情况下,TH手部左和TH手部右可以具有相同的值,并且因此针对上述情况中的每一个,可以简化为单个手部阈值TH手部。在一些情况下,TH手部左和TH手部右可以基于TH头部来定义,诸如与TH头部成比例或者是TH头部的一些其他函数。在一些情况下,TH手部左和TH手部右可以基于L1来定义,并且因此表达相对于显示单元的重新定位的手部输入设备的重新定位的提醒。在一些情况下,TH手部左、TH手部右和TH头部的值是可变的,并且在其他一些情况下,TH手部左、TH手部右和TH头部的值是固定的。
图7D图示了一个或多个参数的第四组的示例。图7D所示的示例参数包括输入设备的位置和取向两者。在图7D的示例中,获得每个输入设备的位置和取向两者的变化作为用于确定是否提供提醒的参数。在一些情况下,为提醒提供而评估的参数包括头部输入设备和所有手部输入设备的位置和取向。在一些情况下,为提醒提供而评估的参数包括头部输入设备和手部输入设备的位置,以及头部输入设备和少于所有手部输入设备的取向(例如,手部输入设备的子集或没有手部输入设备)。在系统未被配置成在确定是否提供提醒时评估被忽略的取向的情况下,参数可以包含少于所有手部输入设备的取向。在系统控制或试图控制忽略的取向的情况下,参数可以包含少于所有手部输入设备的取向。例如,在一些情况下,计算机辅助机器人系统命令手部输入设备的致动器或制动器在离合器模式期间保持手部输入设备的取向。在另一示例中,如果手部输入设备不与工具或工作空间中可见的其他虚拟或实际项目的控制相关联,则可以忽略与手部输入设备相关联的参数。在这些情况中的一些情况下,图7D的示例参数可以不包含被忽略的(一个或多个)手部输入设备的(一个或多个)取向。
图7D图示了显示单元112、左手部输入设备111A和右手部输入设备111B,它们各自在时间T1D时位于第一位置处于第一取向(虚线所示)并且在稍后时间T2D时位于第二位置处于第二取向(实线所示)。输入设备112、111A、111B中的每一个可以是刚性体,或者可以具有可以相对于彼此移动或弯曲的多个子部件。在输入设备不是刚性体的情况下,输入设备112、111A、111B的“位置”可以比单个值更复杂,类似于以上结合图7C所论述的。此外,在输入设备不是刚性体的情况下,输入设备112、111A、111B的“取向”可以比单个值更复杂;然而,为了解释的简单,示出了代表性取向。代表性取向的示例包括:子部件的取向、由输入设备的特征定义的线段或平面等。一些情况可以使用这类代表性位置或更复杂的位置表示(例如,以向量、矩阵等)作为对照提醒提供的(一个或多个)条件评估的参数。在图7D中,代表性取向被表达为由对应希腊字母标记的角度值。在具有如图3所示的输入控制系统的一种或多种情况下,取向是指输入设备112、111A和111B中的每一个沿着偏航DOF 318左右转动。在一些情况下,可以相对于世界参考系、输入设备的原始取向、先前取向(诸如进入离合器模式时的取向)等来确定取向。图7D示出了2D投影的俯视图中的取向。一些情况可以使用包含在这类2D投影中、在另一个2D投影中(例如,与图7D所示平面正交的平面)、在3D空间等中的取向的参数。
如图7D所示,在T1D,在进入离合器模式时或刚进入离合器模式之后,显示单元112处于位置A具有取向α,左手部输入设备111A处于位置A1具有取向α1,并且右手部输入设备111B处于位置A2具有取向α2。随后,在稍后的时间T2D,操作者已经将显示单元112移动到第二位置B和取向β,这与距离L1的位置的变化和β-α的取向的变化相关联。从T1D到T2D,操作者还将左手部输入设备111A移动到第二位置B1和取向β1,这与距离L2的位置的变化和β1-α1的取向的变化相关联。此外,从T1D到T2D,操作者已经将右手部输入设备111B移动到第二位置B2和取向β2,这与距离L3的位置的变化和β2-α2的取向的变化相关联。在图7D的示例中,显示单元112在时间T2D的位置和取向(B和β)接近原始位置和取向。左手部输入设备111A在时间T2D时的位置和取向(B1和β1)较接近但不处于其原始位置和取向。右手部输入设备在时间T2D的位置和取向(B2和β2)较接近但不处于其原始位置和原始取向。
根据所使用的参数和应用于参数的条件,系统可以提供或可以不提供提醒。结合图7C论述的评估移动量的参数和相关联条件(例如,在图7C的示例中表达为L1、L2和L3)也可以应用于图7D所示的示例。图7D还示出了进一步的示例,其中考虑了其他参数和条件以附加于或代替结合图7C描述的参数和条件之外。例如,一些示例配置有基于一个或多个输入设备的取向的变化,或者基于一个或多个输入设备(例如,三个输入设备,诸如头部输入设备、第一手部输入设备和第二手部输入设备)的位置和取向两者的变化的组合的条件。在其他情况下,针对头部移动和手部移动之间的关系的阈值可以根据不同身体大小的人体测量数据来确定,然后经由针对身体大小或特定身体尺寸(例如,臂长、躯干测量值和类似项)的用户简档设置来选择。
在第一示例中,系统100配置有基于显示单元的取向的变化的条件,并且基于与取向的变化相关联的参数而确定系统100要向操作者提供提醒。在第二示例中,系统配置有基于手部输入设备从先前取向的旋转量和显示单元从显示单元的先前取向的旋转量的条件;因此,系统可以基于这些旋转参数满足条件而确定要提供提醒。考虑手部输入设备的旋转量的示例可以由任何系统使用,并且对于不将手部输入设备命令到某一姿态的系统可能更自然,并且对于当系统处于离合器模式时不锁定手部输入设备取向的系统可能更适用。
作为参考图7D的特定示例,在一些情况下,手部提醒提供的条件包含β-α高于定义的头部旋转阈值TH头部旋转(头部输入设备112已经旋转了超过TH头部旋转),并且β1-α1或β2-α2中的至少一个低于定义的手部旋转阈值TH手部旋转(至少一个手部输入设备111A、111B已经旋转了小于TH头部旋转)。在一些情况下,TH头部旋转和TH手部旋转被设置为使得提醒提供的条件要求操作者已经改变了显示单元112的取向,并且没有改变或仅最小程度地改变了一个或多个手部输入设备111A或111B的取向。在一些情况下,手部提醒可以是视觉的,并且可以具体指示一个或两个手部输入设备已经改变了小于TH手部旋转的取向。TH头部旋转和TH手部旋转可以被设置为任何合适的值。在一些情况下,TH手部旋转被设置为使得大于TH手部旋转的旋转量一般是有意的。在一些情况下,TH手部旋转被设置为30度、45度或介于30度和45度之间的量。此外,尽管该示例将相同的阈值TH手部旋转应用于多个手部输入设备111A、111B,但其他情况可将不同的阈值(TH手部旋转_A、TH手部旋转_B)应用于不同的手部输入设备111A、111B。
作为参考图7D的另一个具体示例,一个或多个参数包括一个或多个输入设备的位置和取向的变化,并且当提醒提供的条件要求满足基于位置和基于取向两者的要求时,提供手部提醒。例如,该条件可以包括:手部输入设备111A、111B的位置的变化低于阈值TH手部,该手部输入设备111A、111B的取向的变化低于阈值TH手部旋转,显示单元112的位置的变化高于TH头部,以及显示单元112的取向的变化高于TH头部旋转。在一些情况下,手部提醒可以是视觉的,并且可以具体指示满足了哪些条件来产生提醒(例如,如果头部输入设备没有满足头部位置或取向变化阈值,则哪个手部输入设备没有移动超过相关联的位置的变化阈值或超过取向的变化阈值等)。例如,类似于图6B所示的视觉提醒,在每个视觉手部提醒610、611附近或周围添加了弯曲箭头,该箭头用标记的提醒指示相关联的(一个或多个)手部输入设备的旋转将促使不再满足提醒提供的条件。
在参考图7D的进一步的具体示例中,参数可以包括在进入离合器模式之后,手部输入设备111A、111B中的一个或多个和/或显示单元112的其他平移或旋转。所评估的平移和旋转可以是沿着特定轴线或在特定平面中的平移和旋转,可以是在特定时间段期间的净平移和/或旋转,可以是在特定时间段期间的总平移和/或旋转,等等。例如,在特定时间段期间的净平移和/或旋转可以包含在离合器进入时的位置/取向和在一些事件的发生的结束处的位置/取向之间的差异。例如,在特定时间段期间的总平移和/或旋转可以包含从离合器进入到一些事件发生的平移和/或旋转的量的总和,即使运动的方向与先前的运动相反。事件的示例包括阻止包含显示单元112的头部输入设备的移动、在离合器进入之后经过了预定的持续时间等。平移和旋转可以与任何适当的条件进行比较,以确定是否提供提醒。示例条件可以包含如上所述的与定义的阈值的比较、彼此的比较(例如,头部输入设备的平移与手部输入设备的平移相比,或者与多个手部输入设备的平移相比;手部输入设备的平移彼此相比等)、与他们自己的比较(例如,评估他们对他们的变化)等。当操作者第一次开始使用该系统时,或者当操作者正在配置用户简档时,比较也可以基于操作者的头部和手部的参考姿态。参考姿态可以由系统基于操作者随时间的使用而细化。作为具体示例,条件可以将已经满足或超过相关阈值的输入设备的平移和/或旋转与没有满足对应阈值的另一输入设备进行比较。所有这类组合条件均被理解为在本公开的范围内。
图7E图示了第五示例,其利用了输入设备中的每一个的先前获得或先前定义的原始位置。例如,这些原始位置可以是操作者定义的、在先前进入基于操作者的身体类型和大小定义的HCM时获取的、基于随时间的合计输入设备位置的平均值确定的,等等。
在图7E中,输入设备111A、111B、112的原始位置使用针对每个设备的边界的虚线指示。显示单元112的原始位置处于位置A具有取向α,手部输入设备111A的原始位置处于位置A1具有取向α1,并且手部输入设备111B的原始位置处于位置A2具有取向α2。在进入离合器模式之后的时间T2E,显示单元112的位置和取向处于位置B和取向β,其相对于其原始位置和取向处于L1的位移和β-α的净旋转。同时,在时间T2E的手部输入处于位置B1具有取向β1,其相对于其原始位置和取向处于位移L2和β1-α1的净旋转。同样在T2E,手部设备111B处于位置B2具有取向β2,其相对于其原始位置和取向处于L3的位移和β2-α2的净旋转。从图7E中可看到,当显示单元112相对接近其A处的原始位置和其α的原始取向时,手部输入设备111A和111B的位置相对远离它们的相应原始位置和原始取向。
在图7E的示例中,可以应用手部提醒提供的各种条件,以确定是否提供提醒。注意,除了用于比较的基线包含输入设备111A、111B、112的原始位置之外,图7E的示例类似于图7D的示例。因此,在图7E的示例中可以使用等同的参数和条件,如上面参考图7D所描述的。例如,在一些情况下,手部提醒提供的条件包含β-α高于定义的头部旋转阈值TH头部旋转(头部输入设备112已经旋转了超过TH头部旋转),以及β1-α1或β2-α2中的至少一个低于定义的手部旋转阈值TH手部旋转(至少一个手部输入设备111A、111B已经旋转了小于TH头部旋转)。作为另一个具体示例,该条件可以包括:手部输入设备111A、111B的位置的变化低于阈值TH手部,手部输入设备111A、111B的取向的变化低于阈值TH手部旋转,显示单元112的位置的变化高于TH头部,以及显示单元112的取向的变化高于TH头部旋转。结合图7D描述的进一步示例的类似项也适用于此,并且因此在此不再重复。
在一种或多种情况下,所提供的手部提醒(例如,结合图7A至图7E的任何示例提供的手部提醒)可以包括指示与手部输入设备的先前位置相比手部输入设备的当前位置的视觉指示符。或者,例如,手部提醒可以包括指示与输入设备111A、111B的先前位置相比输入设备111A、111B的当前位置的视觉指示符,或者指示移动手部输入设备的建议方向的视觉指示符。在一种或多种情况下,计算机辅助机器人系统100的控制系统140可以被配置成在相对于所显示图像的固定位点中、在相对于输入设备111A、111B、112相对于彼此或它们的相对工作空间的位点的可变位点中、在相对于在先前远程操作期间由输入设备控制的工具的描绘的位点的可变位点中等,向操作者提供手部提醒。在一些情况下,控制系统140可以被配置成确定操作者的注意力方向,并且基于检测到的注意力方向而在某个位点渲染手部提醒。
接下来描述的图7F图示了即使满足向操作者提供提醒的条件,计算机辅助机器人系统100也可以不向操作者提供手部提醒的示例。在一种或多种情况下,控制系统140可以在某些条件下抑制或停止提供手部提醒。
参考图7F,示出了工作空间内显示单元112的两个位置。两者均是在系统100已经进入离合器模式之后获得的显示单元112的位置。在进入离合器模式的时间T1F处,显示单元112处于第一位置A(其中显示单元112以虚线示出)。随后,在稍后的时间T2F且系统100仍处于离合器模式,操作者已经将显示单元112移动到第二位置B,这涉及距离L1的净平移。同时,手部输入设备111A和111B从时间T1F和T2F没有移动。注意,图7F的示例类似于图7A所示的示例。因此,在提醒提供的条件仅要求L1大于定义的阈值TH头部的情况下,系统100将向操作者提供手部提醒。然而,在图7F的示例中,控制系统140进一步被配置成考虑提醒抑制条件。
控制系统140可以配置有任何适当的提醒抑制条件。示例提醒抑制条件要求L1小于“大移动”阈值TH大移动,其中TH大移动>TH头部。TH大移动可以是大于TH头部的任何适当值。例如,TH大移动可以是TH头部的倍数,诸如K*TH头部,其中K等于1.5、2、3或任何其他因子。在图7F的示例中,L大于TH大移动,因此即使L大于TH头部,系统100也不提供手部提醒。在一些情况下,提醒抑制条件包含净位移、总行进距离或显示单元112相对于基线位置的平移的一些其他特性度量大于TH大移动,并且当满足这类提醒抑制条件时,不提供手部提醒,而不管应用哪个手部提醒提供条件。大移动阈值TH大移动条件可以有助于减少不必要的提醒,其中操作者有意将显示单元112移动到适合大平移头部输入的位置,诸如在系统再次进入远程操作模式之后命令成像设备移动大距离。在一些情况下,图7A和7F的示例条件可以组合为“当且仅当TH头部<L1<TH大移动为真”,使得系统100将仅在满足组合条件时提供手部提醒。
作为另一个示例,在一些情况下,当头部运动的方向与另一个动作的准备强烈相关时,大头部移动将不触发提醒。例如,在一些架构中,远离原始姿态的大头部移动不同于朝向原始姿态的大移动。当头部朝向原始姿态进行大移动时,更可能的是操作者也将随着头部移动他/她的手,并且如果手不移动,则提供提醒。然而,在一些情况下,大头部移动远离原始姿态可能是为涉及大头部或手部移动的后续命令(例如,诸如命令成像设备的大移动)做准备,并且系统将停止或抑制提供提醒。在一些情况下,还应用了超时,使得如果后续命令在预定义的时间段内没有发生,则系统将阻止停止或抑制提供提醒,并且提供提醒。
当超过大移动阈值TH大移动时,可以假定操作者未忘记移动手部输入设备,而是使系统进入离合器模式,以便准备在系统再次进入远程操作模式时经由显示单元112的大移动来实现成像设备的大移动。因此,操作者希望手部输入设备保持在它们所处的位置,并且计划例如将显示单元移回工作空间内的近似位置A,这将引起成像设备在图7F所示的方向D上大量移动。
接下来描述的图7G图示了提醒抑制条件的另一个示例,其中即使满足一个或多个提醒提供条件,也可以不提供手部提醒。图7G的示例是图7F的位置示例的旋转模拟项。参考图7G,显示单元112的两个取向在工作空间内的相同位置处示出。最初,刚好在系统100在时间T1G进入离合器模式之后,显示单元112具有取向α。随后,在时间T2G且当系统100仍处于离合器模式时,操作者已经将显示单元112旋转到第二取向β。在图7G的示例情景中,对于被配置成响应于旋转β-α大于第一阈值TH头部旋转而提供手部提醒的系统,系统100一般将在时间T2G时或之后不久提供手部提醒。图7G图示了一个示例,其中控制系统进一步配置有旋转β-α超过“大头部旋转”阈值TH大头部旋转的提醒抑制条件,其中TH大头部旋转>TH头部旋转。TH大头部旋转可以是大于TH头部旋转的任何适当值。例如,在一些情况下,TH大头部旋转为45、60、90或其他度数。作为另一个示例,TH大头部旋转可以是TH头部旋转的倍数,诸如R*TH头部旋转,其中R等于1.5、2、3或任何其他因子。在图7F的示例中,β-α大于TH大头部旋转,因此即使β-α大于TH头部旋转,系统100也提供。在一些情况下,提醒抑制条件包含净旋转、在T1G和T2G之间发生的旋转总量、或者显示单元112相对于基线位置的旋转的某个其他特性度量大于TH大头部旋转,并且当满足这类提醒抑制条件时,不提供手部提醒,而不管应用哪个手部提醒提供条件。大移动阈值TH大头部旋转条件可以有助于帮助减少不必要的提醒,其中操作者有意将显示单元112移动到适合大平移头部输入的位置,诸如在系统再次进入远程操作模式之后命令成像设备旋转大的量。
类似地,在一些情况下,提醒抑制阈值可以对照大旋转阈值“TH大手部旋转”评估手部输入设备的旋转量。在一些情况下,如果对于一个或两个手部输入设备超过了该大旋转阈值,则控制系统140抑制提供或停止提供手部提醒。在一些情况下,TH大手部旋转可以是45°、60°、75°或其他旋转量。
此外,在一种或多种情况下,可以存在用控制系统140实施的各种附加提醒抑制条件。例如,另一示例提醒抑制条件包含手部输入设备已经移动了大于阈值TH大手部移动的量。进一步的示例提醒抑制条件包含显示单元已经实现了相对于先前位置和/或取向在阈值偏差内的位置和/或取向。又一个提醒抑制条件包含显示单元已经以超过速度阈值的速度移动。
迟滞阈值也可以用作抑制提醒的条件。有利的是,迟滞阈值可以用于减少移动阈值的边界处的抖动。例如,在头部输入设备感测到操作者的头部已经移动了距离“x”,并且x大于阈值条件之后,如果由手部输入设备指示的操作者的手的位置没有移动到目标位置,则生成提醒。除了正在生成提醒之外,还通过添加填充距离来降低阈值,使得即使用户在阈值附近颤振,“x>阈值–填充”条件仍为真。一旦用户在另一个方向上向回越过边界,使得“x<阈值–填充”,则填充被移除并且原始阈值被恢复。通过填充距离增加阈值有助于稳定系统响应,这是通过减少小的运动将开启和关闭提醒的可能性来实现的。此外,增加阈值然后将需要在相反方向(-x)上相对较大的头部移动来清除触发条件,并且降低操作者将意外引起提醒启动的可能性。
进一步的示例提醒抑制条件包含显示单元的运动以俯仰运动(与操作者俯仰他/她的头部相关联的运动)为主、显示单元俯仰超出俯仰阈值、显示单元的运动以其竖直高度的变化为主,以及显示单元竖直移动超出竖直高度变化阈值。
如本文所用,“水平移动”由图3中的自由度316图示。在一个或多个示例中,一旦已经提供了提醒,则在发生一个或多个提醒停止条件时,可停止提供提醒。在一些情况下,在提醒是视觉提醒或者包含视觉部分的情况下,控制系统140可以通过停止提醒的视觉显示来停止提供提醒。停止条件的示例包括:本文所描述的提醒提供条件中的所有、经过定义的时间间隔、引起显示提醒的参数被确定为不再满足提供提醒的条件、从离合器模式退出、进入非离合器模式、操作者发出的停止命令、与提醒相关联的输入设备的移动(例如,响应于头部提醒的头部输入设备的移动,或者响应于手部提醒的手部输入设备的移动)、为其主动提供提醒的所有输入设备的移动等。例如,参考图7C,在一些情况下,控制系统140可以被配置成响应于在提供手部提醒之后的时间,L2和L3中的一个或两个超过其对应阈值TH手部左或TH手部右,而使手部提醒停止显示。
控制系统140可以配置有任何适当数目、类型或组合的提醒提供条件、提醒抑制条件、提醒停止条件。例如,在一些情况下,控制系统140配置有提醒提供条件和提醒抑制条件两者,或者配置有提醒提供条件和提醒停止条件两者。作为另一个示例,在一些情况下,控制系统140配置有提醒提供条件、提醒抑制条件和提醒停止条件。在控制系统140配置有提醒提供条件和提醒抑制条件两者的一些情况下,(一个或多个)提醒抑制条件总是优先于(override)提醒提供条件。在控制系统140配置有提醒提供条件和提醒抑制条件两者的一些情况下,(一个或多个)提醒抑制条件和(一个或多个)提醒提供条件具有相对优先级,并且较高优先级的条件优先于较低优先级的条件。
图8是用于利用计算机辅助机器人系统提供提醒的方法800的流程图。利用框810至860来描述方法800。在替代示例中,方法800可以包括比框810至860更多或更少的框。用于执行方法800的框可以按不同于图8所示的顺序执行。方法800可以由计算机辅助机器人系统的控制系统执行,诸如图1的控制系统140。方法800在框810开始,接收指示由机器人系统的操作者向头部输入设备提供的头部输入的头部输入信号。例如,参考图2,可以响应于操作者向头靠部分242施加力,通过耦接到显示单元206或与显示单元206集成的传感器而生成头部输入信号。
在框820,接收指示由机器人系统的操作者向手部输入设备提供的手部输入的手部输入信号。例如,参考图1,手部输入信号可以由耦接到手部输入设备111A、111B中的一个或两个或与其集成的输入设备传感器生成。当由控制系统140处理时,手部输入信号使得控制系统140命令与手部输入设备111A、111B相关联的工具在工作空间内移动。
在框830,处理在框810、820获得的头部输入信号和手部输入信号。例如,在远程操作模式下,头部输入信号由图1的控制系统140处理,以促使控制系统140在工作空间内移动显示单元206。
在方法800的查询框835,控制系统140确定计算机辅助机器人系统当前是处于远程操作模式(例如HCM)还是处于离合器模式。基于在查询框835确定系统处于“远程操作模式”,方法800前进到框840。
在框840,显示单元改变所呈现的图像。图像的变化可能是由于捕获所显示图像的成像设备的移动、对图像的数字改变(例如,数字缩放、平摇、旋转等)、成像设备的移动和数字改变图像的组合等。例如,控制系统140基于头部输入信号而命令第一工具。在一个示例中,第一工具包含成像设备,诸如内窥镜、光学相机和/或超声波探头,其可以捕获工作场所的图像。方法800从框840移动到框850,在框850,基于手部输入信号而命令第二工具,并且第二工具可由成像设备观看。第二工具可被成像设备观看,其中第二工具和/或成像设备可在它们的相应运动范围内移动,使得第二工具的至少一部分在成像设备的视野中,或者第二工具的一部分或全部已经在成像设备的视野中。例如,工具可以是如图4B的示例中所示的工具605和606,图4B描绘了HCM期间的视图。从框850,方法800可以终止。或者,例如,方法800可以在操作者正在使用计算机辅助机器人系统时作为连续循环运行,并且然后方法800沿着路径851返回到框810。
如果在方法800的查询框835,控制系统140确定系统处于“离合器模式”,则方法800前进到框843。在框843,控制系统140从头部输入信号和手部输入信号中的一个或两个获得一个或多个参数。例如,控制系统140可以获得手部输入设备111A、111B中的一个或多个和/或显示单元112的位置和/或取向的变化。
方法800从框843前进至查询框845。在查询框845,控制系统140确定一个或多个参数是否满足提醒所需的条件。如果控制系统140在查询框845确定“否”状态(即,不应该发送提醒),则方法800可以终止,因为没有提醒要被提供。替代地,基于“否”状态,方法800可以沿着路径861返回到框810,如图8所示,以进行方法800的另一次迭代。然而,如果控制系统140在查询框845确定“是”状态(即,应该发送提醒),则方法800前进到框860,在框860,控制系统140提供重新定位一个或多个输入设备(例如,一个或多个头部或手部输入设备)的提醒。例如,控制系统140可以提供视觉提醒形式的提醒,诸如视觉手部提醒610或611或者两者,如图6B所示。在提供提醒之后,方法800终止于框860,或者替代地,可以沿着图8所示的路径861返回到框810,以进行方法800的另一次迭代。
图9是用于对照条件评估参数并且响应于参数满足某些条件而向操作者提供重新定位手部输入设备的提醒的方法900的流程图。利用框910至950来描述方法900。在替代示例中,方法900可以包括比框910至950更多或更少的框。此外,用于执行方法900的框可以按不同于图9所示的顺序来执行。在图9所描绘的示例中,利用图7A和图7F所示的一组描述的参数描述了方法900。方法900可以由计算机辅助机器人系统的控制系统执行,诸如图1的控制系统140。方法900开始于框910,其中在计算机辅助机器人系统的离合器模式下,控制系统140接收来自头部输入设备的头部输入传感器的头部输入信号,以及来自手部输入设备的手部输入传感器的手部输入信号。例如,头部输入设备可以包含显示单元,诸如图1的显示单元112。
方法900从框910前进至框920。在框920,控制系统140接收并处理头部输入信号和手部输入信号。例如,控制系统140处理头部输入信号和手部输入信号以确定各种参数,诸如在进入离合器模式之后的一个或多个时间,头部输入设备和/或手部输入设备的位置、取向、位置的变化、取向的变化、总平移运动、总角度运动等。
方法900从框920前进至查询框925、930、935。在图9中,框的示例性顺序是925、930、935。如上所述,方法900的框可以在不同的情况下以不同的顺序执行。作为示例,查询框925、930、935可以按其他顺序执行。作为具体示例,在各种情况下,框930在框925之前执行,框935在框925之前执行,或者框935在框930之前执行。此外,在执行方法900时,框925、930、935中的一个或多个可以省略或者用针对其他条件的查询框来代替。
在图9所示的示例中,控制系统140在框925确定参数是否满足与头部输入设备的移动量大于头部移动阈值TH头部一致的条件。如果控制系统140在查询框925确定系统处于“否”状态,则方法900可以终止,或者可以沿着图9所示的返回路径926、975返回到框910,以进行方法900的另一次迭代。然而,如果控制系统140在查询框925确定系统处于“是”状态,则方法900前进到查询框930。
在查询框930,控制系统140确定参数是否满足与手部输入设备的移动量大于手部移动阈值TH手部一致的条件。如果控制系统140在查询框930确定系统处于“是”状态,则方法900可以终止,或者可以沿着图9所示的返回路径931、975返回到框910,以进行方法900的另一次迭代。然而,如果控制系统140在查询框930确定系统处于“否”状态,则提醒条件已经满足,因为头部输入设备已经移动了大于TH头部的量,而手部输入设备没有移动小于TH手部的量。
在图9所描绘的示例中,如果在查询框930确定为“否”状态,则方法900移至查询框935。在查询框935,控制系统140确定参数是否满足与头部输入设备的移动量大于头部大移动阈值TH大移动一致的条件。如果控制系统140在查询框935确定系统处于“是”状态,则方法900可以终止,或者可以沿着返回路径936、975返回到框910。然而,如果控制系统140在查询框935确定系统处于“否”状态,则方法900前进到框940。
在框940,控制系统140向操作者提供重新定位手部输入设备的提醒。
如上所述,方法900可以使用比图9所示更多或更少的框来执行。例如,方法900可以没有查询框、有一个查询框或有多个查询框用于实施提醒抑制条件。实施提醒抑制条件的查询框可益在方法900的任何适当部分执行。例如,在一些情况下,检查提醒抑制条件的一个或多个查询框可以在针对提醒提供条件的任何更多查询框之前、与之交错或之后执行。此外,在提醒抑制条件优先于一个或多个提醒提供条件的实施方式中,提醒抑制条件的满足可以绕过针对优先级被超过的提醒提供条件的查询框的执行(或者如果该实施方式使得提醒抑制条件的满足优先于所有提醒提供条件,使得将不提供提醒,则甚至促使方法900的执行返回到框910)。
方法900从框940前进至查询框945。可选地,在框945,控制系统140响应于参数满足提醒停止条件而停止提供提醒。如上所述,方法900可以没有查询框、有一个查询框或有多个查询框用于实施提醒停止条件(例如,查询框945)。图9示出了两个示例提醒停止条件,其中控制系统140确定自从在框940提供提醒以来是否已经过了一段时间、参数是否与在框940提供提醒之后手部输入设备已经移动了大于手部移动阈值TH手部的量一致。
如果控制系统140在查询框945确定系统处于“否”状态,则方法900返回到框940并继续向操作者提供提醒。然而,如果控制系统140在查询框945确定系统处于“是”状态,则方法900移动到框950,在框950终止向操作者提供的提醒。方法900终止于框950,或者方法900可以沿着图9所示的返回路径975返回到框910,以进行方法900的另一次迭代。
如上文至少部分所述,任何阈值标准可以经由机器学习来确定。此外,由头部输入设备和手部输入设备检测到的头部移动和手部移动之间的关系可以用算法或模型来表达,该算法或模型分析该关系以有条件地确定是否要生成提醒来提示操作者将他们的手移动到目标位置。例如,机器学习分类器模型,例如以线性回归、神经网络、随机森林、决策树、k-均值聚类、支持向量机或其他合适的机器学习技术的形式,使用监督学习方法(即,主动学习、分类、回归和类似项)进行训练,该方法将基于从手部输入设备和头部输入设备接收的头部运动信号和手部运动信号而生成提醒信号。训练集可以由在离合器模式期间从熟练操作者获得的头部运动信号和手部运动信号的示例组成,使得系统可以学习指示操作者在移动他们的头部之后何时以及是否应该移动他们的手的头部和手部运动模式。当这类头部和手部运动模式指示操作者应该在移动他们的头部之后移动他们的手时,系统将生成提醒。
在其他示例中,将操作者的手移动至目标配置或位置的提醒可以被配置为通过手部输入设备提供的触觉反馈。触觉反馈可以作为唯一的提醒提供,或者附加于一个或多个其他提醒(诸如视觉提醒或听觉提醒)提供。触觉反馈可以提供提醒,和/或帮助操作者将手部输入设备朝向某一配置(例如,更中性的配置,更接近目标位置等)移动。该某一配置可以与操作者的头部的工作姿态、原始位置等对准,并且基于操作者的头部的工作姿态、原始位置等。
在一些示例中,目标位置具有基于距离定义的形状、范围和位点。这类距离可以由操作者的头部的工作姿态、原始位置等来定义。形状、范围和位点中的至少一项、两项或全部可以是预先定义的并存储在系统的存储器中,由操作者键入,从驻留在系统的存储器中的菜单中选择,从存储在系统的存储器中并与唯一操作者或其他识别符相关联的信息中检索,或者经由机器学习通过由唯一操作者或其他操作者在远程操作期间经由使用系统获得的信息来学习。
目标位置可以定义为基于操作者的头部的工作姿态、原始位置等定位的边界区域内。边界区域具有通过上述技术中的一种或通过其他合适的技术定义的位点、形状和范围。在一个示例中,定义目标位置的边界区域的位点、形状和范围中的至少一项、两项或全部由系统通过经由在远程操作期间使用系统获得并存储在系统的存储器中的信息来学习。边界区域和头部工作姿态之间的关系可以通过系统的远程操作自动学习(即,通过机器学习),这是通过在远程操作期间有规律地采样手部输入设备位置并关于头部参考系估计边界区域来实现的。例如,可以通过确定沿着头部参考系中的主轴线中的每一个的手部输入设备位置的第95百分位范围来建立边界区域,并且边界区域的中心位置可以由头部参考系中的手部输入设备样本的质心来定义。学习到的边界区域的位点和/或大小和/或范围存储在数据库中,并且与特定的操作者、菜单选择、默认设置或其他操作者标识相关联,以供系统在退出远程操作模式并进入离合器模式时检索。
响应于进入离合器模式,与手部输入设备对接的触觉反馈发生器(诸如力致动器、超声波发生器、振动触觉反馈和类似项)通过手部输入设备向操作者提供触觉感知(例如,触觉反馈)。触觉感知可以作为脉冲或连续的感知来提供。触觉感知可以基于手部输入设备相对于目标位置的位点。在一个示例中,触觉反馈的幅度可以随着手部输入设备移动靠近目标位置而减小。在另一个示例中,触觉感知是定向的,诸如恢复力,以指导操作者将手部输入设备朝向目标位置移动。在一个示例中,触觉反馈被配置成例如通过减少反馈量、停止反馈量、提供触觉制动(detent)或振动、或向操作者提供另一触觉感知来发信号通知手部输入设备到达和进入目标位置。
图10A是力和位移图形1000,其中图示了手部输入设备的触觉反馈(在这种情形下为力)和位移之间的关系,如触觉反馈绘图1006所示。在图10A所示的触觉反馈绘图1006中,施加到手部输入设备的力在Y轴1002上提供,而手部输入设备的位置在X轴1004上提供。尽管绘图1006仅图示了响应于X方向上的位移的力,但施加到手部输入设备的总触觉反馈可以是在多个方向上(例如在X、Y和Z方向上)的力-位移关系的总和。触觉反馈绘图1006可以被建模为虚拟弹簧,并且在位移和力之间具有线性关系(F=k*x),其中k是弹簧常数,并且x是超出边界区域的位移。弹簧常数k可以是线性的,也可以不是线性的。在一些情况下,对于小于阈值1008的手部输入设备的位移,触觉反馈绘图1006可以具有零力输出。在一些情况下,触觉反馈绘图1006可以替代地或附加地具有针对手部输入设备的位移的力输出限值1010,该位移将根据模型产生将超过期望量的力(如绘图1006的虚线延伸部所示)。在使用力输出限值1010的一些情况下,与大于将输出等于或大于力输出限值1010的力的位移1014的手部输入设备的位移相关联的触觉反馈绘图1006的区域1012具有恒定的力输出。可选地,触觉反馈绘图1006可以平滑地向上或向下倾斜,使得力以更“用户满意”的方式施加,并且降低用户失去对手部输入设备的控制的风险。
图10B是力和位移图形1050的另一情况,其中图示了手部输入设备的触觉反馈(在这种情形下为力)和位移之间的关系,如触觉反馈绘图1052所示。类似于图10A的绘图1006,在图10B所示的触觉反馈绘图1052中,施加到手部输入设备的力在Y轴1002上提供,而手部输入设备的位置在X轴1004上提供。手部输入设备1056被示为在不同时间(即,时间T0至时间T6)处于沿着X轴1004的不同位置。手部输入设备1056被示出在沿着X轴1004的位置A,同时系统在时间T0以远程操作模式操作。当在时间T0处于位置A时,施加到手部输入设备1056的触觉力是零或者是在远程操作模式期间通常施加到手部输入设备的基线力(与X轴1004重合)。当系统在时间T1进入离合器模式时,边界区域1058至少部分地基于由头部输入设备在时间T1感测的操作者的头部的位置来设置。尽管边界区域1058是三维的,但图10B图示了穿过X轴1004上位置C和D之间的边界区域1058的切片。边界区域1058的其他维度具有类似的位移和力关系。边界区域1058的大小、范围和位点可以如上所述确定,并且在一些示例中,可以至少部分地基于由头部输入设备在当前时间感测的操作者的头部的位置在不同时间重新调整。
在时间T1,当处于离合器模式时,提供触觉反馈,因为与处于远程操作模式操作时施加到手部输入设备1056的力相比,施加到手部输入设备1056的触觉力增加。尽管在图10中,手部输入设备1056被示为在从时间T0至时间T1的时间段期间没有在x方向上从位置A移动,但可设想,当在时间T1进入离合器模式时,手部输入设备1056可以不是静止的,并且如此,手部输入设备1056可以在时间T1从位置A稍微偏移。
在时间T1提供的触觉力提醒操作者朝向边界区域1058移动手部输入设备。在时间T1提供给手部输入设备1056的触觉力定向朝向边界区域1058。触觉力可以被建模为虚拟弹簧/阻尼器,随时间朝向期望恒定力倾斜。在一个示例中,随着手部输入设备1056从时间T1的位置A移动到时间T2的位置B,提供给手部输入设备1056的触觉力倾斜到恒定力,其中位置B比位置A更靠近边界区域1058。在另一示例中,随着手部输入设备1056从位置A移动到位置B,提供给手部输入设备1056的触觉力减小。当在位置A和B之间移动时,施加到手部输入设备1056的力的减小向操作者提供了方向感知,以朝向边界区域1058指导手部输入设备1056。在其他示例中,在时间T1和时间T2施加的力是相同的。
随着手部输入设备1056在位置C和时间T3到达边界区域1058的边缘,施加到手部输入设备1056的触觉力在时间T4发生变化,以警示操作者手部输入设备1056正在进入或已经进入边界区域1058。在时间T4施加到手部输入设备1056的触觉力可以减小到零,减小到远程操作或其他基线,或者减小到零(或基线)和在时间T3施加的力之间的中间力水平。通过将在时间T4施加到手部输入设备1056的触觉力降低到中间水平,可以指导手部输入设备1056的进一步运动,以使得操作者能够在时间T6将手部输入设备1056定位在边界区域1058的中心位置E处。边界区域1058的中心也由虚线1060示出。在手部输入设备1056进入边界区域1058之后的任何时间,操作者可以引导系统退出离合器模式并重新进入另一模式,诸如远程操作模式。
图11是用于在计算机辅助机器人系统的离合器模式期间提供提醒的方法1100的示意流程图。方法1100通过进入离合器模式而开始于操作1102。在操作1102,当处于离合器模式时,对手部输入设备的位置进行采样。在操作1102,同样当处于离合器模式时,部分地基于由头部输入设备感测的头部姿态而设置边界区域。在操作1104,将采样的手部输入设备位置与头部输入设备位置相关。例如,采样的手部输入设备位置可以被变换到指示头部输入设备的当前位置的头部参考系。
在操作1106,确定手部输入设备的位置是否在边界区域之外。该确定可以通过本文所描述的任何技术或者其他合适的技术来进行。如果手部输入设备的位置在边界区域内,则方法1100然后返回到操作1102,并且方法1100重复,直到系统退出离合器模式。如果手部输入设备的位置在边界区域之外,则方法1100移动到操作1110,并且向操作者提供移动手部输入设备的提醒。
操作1110可以通过向操作者提供提醒中的至少一个或多个来执行。在一个示例中,操作1110可以在子操作1112通过提供听觉提醒来执行。听觉提醒可以是钟声、铃声、语音消息或其他听觉提示,警示操作者应该将手部输入设备移动到更中性位置或更接近目标位置。
在另一示例中,操作1110可以在子操作1114通过提供视觉提醒来执行。视觉提醒可以是本文所描述的视觉提醒中的任何一种,或者其他合适的视觉提示,其警示操作者应该将手部输入设备移动到更中性的位置或更接近目标位置。可以提供在子操作1114提供的视觉提醒以代替或附加于在子操作1112提供的听觉提醒。
在又一示例中,操作1110可以在子操作1116通过提供触觉反馈提醒来执行。触觉反馈可以是本文所描述的提供给手部输入设备的触觉反馈提醒中的任何一种,或者其他合适的触觉提示,其警示操作者应该将手部输入设备移动到更中性的位置或更接近目标位置。可以提供在子操作1116提供的触觉提醒以代替或附加于在子操作1112提供的听觉提醒。可以提供在子操作1116提供的触觉提醒以代替或附加于在子操作1114提供的视觉提醒。还可以提供在子操作1116提供的触觉提醒以附加于在子操作1112、1114提供的听觉提醒和视觉提醒两者。
在一个示例中,可以通过实行子例程1118-1124来执行子操作1116。在子例程1118,确定边界区域到手部输入设备最近的位置。在子例程1120,边界区域的最近位置作为输入被提供给手部输入设备控制器,并且被变换到控制器的手部输入设备操纵器工作空间。在子例程1122,控制器计算触觉力向量,其用于从当前位置(在操作1102确定的)和期望位置(即,在边界区域内)引导手部输入设备。在子例程1124,触觉力向量被映射到触觉发生器(例如通过提供给触觉力发生器的马达扭矩),并且被用于提供朝向期望位置定向地指导手部输入设备的触觉力。
在操作1110提供了一个或多个提醒之后,方法1100返回到操作1102,在处于离合器模式时重复对手部输入设备的位置的监控,以确定是否应向操作者提供移动手部输入设备的提醒。
虽然前述内容针对本发明的实施例,但在不脱离本发明的基本范围的情况下,可以设计本发明的其他和进一步的实施例,并且本发明的范围由所附权利要求确定。
Claims (49)
1.一种计算机辅助机器人系统,其包含:
头部输入设备,其包含一个或多个头部输入传感器,所述一个或多个头部输入传感器被配置成感测由所述机器人系统的操作者的头部提供的头部输入,并且提供指示由所述一个或多个头部输入传感器感测的输入的头部输入信号;
手部输入设备,其包含一个或多个手部输入传感器,所述一个或多个手部输入传感器被配置成感测由所述操作者的一只或多只手提供的手部输入,并且提供指示由所述一个或多个手部输入传感器感测的输入的手部输入信号;以及
控制系统,其通信地耦接到所述头部输入设备和所述手部输入设备,
其中所述控制系统被配置成在远程操作模式下:
基于所述头部输入信号而命令图像的显示的变化,所述图像由成像设备获得,并且
基于所述手部输入信号而命令工具的运动,并且
其中所述控制系统被配置成在离合器模式下:
基于一个或多个参数而为所述操作者提供重新定位所述手部输入设备的提醒。
2.根据权利要求1所述的计算机辅助机器人系统,其中:
所述图像是含有所述工具的工作场所的图像;并且
基于所述头部输入信号而命令所述图像的所述显示的所述变化包含:基于所述头部输入信号而命令所述成像设备的运动。
3.根据权利要求2所述的计算机辅助机器人系统,其中所述控制系统进一步被配置成在所述离合器模式下:
暂停基于所述头部输入信号而命令所述成像设备的所述运动,并且
暂停基于所述手部输入信号而命令所述工具的所述运动。
4.根据权利要求1所述的计算机辅助机器人系统,其中所述控制系统进一步被配置成:基于选自由以下各项组成的组中的至少一个信号而确定所述一个或多个参数:所述头部输入信号和所述手部输入信号。
5.根据权利要求1所述的计算机辅助机器人系统,其中所述一个或多个参数包含在进入所述离合器模式之后所述头部输入设备的位置或取向的变化。
6.根据权利要求1所述的计算机辅助机器人系统,其中所述一个或多个参数包含在进入所述离合器模式之后所述头部输入设备的运动量,并且其中所述控制系统被配置成响应于所述运动量高于定义的阈值而提供所述提醒。
7.根据权利要求1所述的计算机辅助机器人系统,其中所述一个或多个参数包含在进入所述离合器模式之后所述手部输入设备的运动量,并且其中所述控制系统被配置成响应于所述运动量低于定义的阈值而提供所述提醒。
8.根据权利要求1所述的计算机辅助机器人系统,其中所述一个或多个参数包含:所述手部输入设备从所述手部输入设备的先前位置的平移量,以及所述头部输入设备从所述头部输入设备的先前位置的平移量。
9.根据权利要求8所述的计算机辅助机器人系统,其中所述手部输入设备的所述先前位置是所述手部输入设备的先前获取的原始位置,并且其中所述头部输入设备的所述先前位置是所述头部输入设备的先前获取的原始位置。
10.根据权利要求8所述的计算机辅助机器人系统,其中所述控制系统被配置成响应于以下各项的同时发生而提供所述提醒:
所述手部输入设备的所述平移量低于手部平移阈值;以及
所述头部输入设备的所述平移量高于头部平移阈值。
11.根据权利要求1所述的计算机辅助机器人系统,其中:
所述一个或多个参数包含:所述手部输入设备从所述手部输入设备的先前取向的旋转量,以及所述头部输入设备从所述头部输入设备的先前取向的旋转量;并且
所述控制系统被配置成响应于以下各项的同时发生而提供所述提醒:所述手部输入设备的所述旋转量低于手部旋转阈值,以及所述头部输入设备的所述旋转量高于头部旋转阈值。
12.根据权利要求1所述的计算机辅助机器人系统,其中所述一个或多个参数包含:
所述手部输入设备的位置的变化;
所述手部输入设备的取向的变化;
所述头部输入设备的位置的变化;以及
所述头部输入设备的取向的变化。
13.根据权利要求12所述的计算机辅助机器人系统,其中所述控制系统被配置成响应于以下各项的同时发生而提供所述提醒:
所述手部输入设备的位置的所述变化低于手部平移阈值,
所述手部输入设备的取向的所述变化低于手部旋转阈值,
所述头部输入设备的位置的所述变化高于头部平移阈值,以及
所述头部输入设备的取向的所述变化高于头部旋转阈值。
14.根据权利要求1所述的计算机辅助机器人系统,其中所述一个或多个参数包含:
所述手部输入设备相对于所述头部输入设备的位置的位置;或者
所述手部输入设备相对于所述头部输入设备的取向的旋转。
15.根据权利要求1所述的计算机辅助机器人系统,其中所述一个或多个参数包含在进入所述离合器模式之后经过的时间量。
16.根据权利要求1至15中任一项所述的计算机辅助机器人系统,其中所述手部输入设备是第一手部输入设备,其中所述手部输入信号是第一手部输入信号,并且其中所述机器人系统进一步包含:
第二手部输入设备,其包含一个或多个第二手部输入传感器,所述一个或多个第二手部输入传感器被配置成感测由所述操作者的所述一只或多只手提供的第二手部输入,并且提供指示由所述一个或多个第二手部输入传感器感测的输入的第二手部输入信号,
其中所述控制系统进一步通信地耦接到所述第二手部输入设备,
其中所述控制系统进一步被配置成:
基于所述头部输入信号、所述第一手部输入信号和所述第二手部输入信号而确定所述一个或多个参数,以及
在所述远程操作模式下,基于所述第二手部输入信号而命令第三工具。
17.根据权利要求16所述的计算机辅助机器人系统,其中所述一个或多个参数包含比较结果,所述比较结果将在进入所述离合器模式之后所述第一手部输入设备和所述第二手部输入设备的平移或旋转与在进入所述离合器模式之后所述头部输入设备的平移或旋转进行比较。
18.根据权利要求16所述的计算机辅助机器人系统,其中所述一个或多个参数包含在进入所述离合器模式之后所述第一手部输入设备的位置的变化、在进入所述离合器模式之后所述第二手部输入设备的位置的变化、以及在进入所述离合器模式之后所述头部输入设备的位置的变化,并且其中所述控制系统被配置成响应于以下各项的同时发生而提供所述提醒:
所述头部输入设备的所述位置的所述变化高于头部平移阈值;以及
至少一个位置变化低于手部平移阈值,所述至少一个位置变化选自由以下各项组成的组:所述第一手部输入设备的所述位置的所述变化和所述第二手部输入设备的所述位置的所述变化。
19.根据权利要求18所述的计算机辅助机器人系统,其中所述至少一个位置变化包含所述第一手部输入设备的所述位置的所述变化和所述第二手部输入设备的所述位置的所述变化两者。
20.根据权利要求18所述的计算机辅助机器人系统,其中所述控制系统被配置成响应于所述第一手部输入设备和所述第二手部输入设备的所述位置的所述变化中的仅一个低于所述手部平移阈值而通过以下方式提供所述提醒:
指示所述第一手部输入设备和所述第二手部输入设备中的哪一个表现出低于所述手部平移阈值的所述位置的所述变化;或者
指示手部输入设备的重新定位。
21.根据权利要求1至15中任一项所述的计算机辅助机器人系统,其中所述提醒包含视觉指示符,并且其中所述视觉指示符指示:
与所述手部输入设备的先前位置相比的所述手部输入设备的当前位置;或者
与所述头部输入设备的先前位置相比的所述头部输入设备的当前位置;或者
移动所述手部输入设备的方向。
22.根据权利要求1至15中任一项所述的计算机辅助机器人系统,其中所述控制系统进一步被配置成确定所述操作者的注意力方向,并且其中所述控制系统被配置成通过以下方式提供所述提醒:
基于所述注意力方向提供视觉指示符。
23.根据权利要求1至15中任一项所述的计算机辅助机器人系统,其中所述控制系统进一步被配置成响应于选自由以下各项组成的组中的至少一个事件而抑制提供所述提醒:
经过预定的一段时间;
从所述离合器模式退出;以及
在进入所述离合器模式之后,所述头部输入设备缺乏运动。
24.根据权利要求1至15中任一项所述的计算机辅助机器人系统,其中所述控制系统进一步被配置成响应于选自由以下各项组成的组中的至少一个事件而抑制提供所述提醒:
确定所述手部输入设备已经移动了大于定义量的量;
确定所述头部输入设备已经实现了在先前姿态的定义偏差内的姿态;以及
确定所述头部输入设备已经以超过定义的速度阈值的速度移动。
25.根据权利要求1至15中任一项所述的计算机辅助机器人系统,其中所述控制系统进一步被配置成在所述离合器模式下:响应于所述头部输入设备表现出选自由以下各项组成的组中的至少一个运动特性而抑制提供所述提醒:
以俯仰运动为主的头部输入设备运动;
以所述头部输入设备的高度变化为主的头部输入设备运动;
所述头部输入设备的俯仰大于俯仰阈值;以及
所述头部输入设备的竖直平移大于竖直移动阈值。
26.根据权利要求1至15中任一项所述的计算机辅助机器人系统,其中所述控制系统进一步被配置成在所述离合器模式下:响应于选自由以下各项组成的组中的至少一个事件的发生而抑制提供所述提醒:
所述头部信号指示所述头部输入设备的位置已经改变了大于大移动阈值;以及
所述头部信号指示所述头部输入设备的位置已经改变了大于大移动阈值,而所述手部输入设备的位置已经改变了小于小移动阈值。
27.根据权利要求1至15中任一项所述的计算机辅助机器人系统,其中所述提醒是提供给所述手部输入设备的触觉反馈。
28.根据权利要求27所述的计算机辅助机器人系统,其中提供给所述手部输入设备的所述触觉反馈包含:
在朝向定义所述操作者的一只或多只手的目标位置的边界区域内部的最近位置的方向上定向地施加到所述手部输入设备的恢复力。
29.根据权利要求28所述的计算机辅助机器人系统,其中所述目标位置基于由所述头部输入设备感测的所述操作者的所述头部的当前位置。
30.一种用于操作包含头部输入设备和手部输入设备的计算机辅助机器人系统的方法,所述头部输入设备被配置成感测由所述机器人系统的操作者的头部提供的头部输入,所述手部输入设备被配置成感测由所述操作者的一只或多只手提供的手部输入,所述方法包含:
接收指示由所述头部输入设备感测的输入的头部输入信号;
接收指示由所述手部输入设备感测的输入的手部输入信号;
当所述机器人系统处于远程操作模式时:
基于所述头部输入信号而命令图像的显示的变化,所述图像由成像设备获得,所述成像设备耦接到所述机器人系统,以及
基于所述手部输入信号而命令工具的运动,所述工具耦接到所述机器人系统;以及
当所述机器人系统处于离合器模式时:
基于一个或多个参数,为所述操作者提供重新定位所述手部输入设备的提醒。
31.根据权利要求30所述的方法,其中:
所述图像是含有所述工具的工作场所的图像;并且
基于所述头部输入信号而命令所述图像的所述显示的所述变化包含:基于所述头部输入信号而命令所述成像设备的运动。
32.根据权利要求31所述的方法,其中所述方法进一步包含,当所述机器人系统处于所述离合器模式时:
暂停基于所述头部输入信号而所述命令所述成像设备的所述运动,以及
暂停基于所述手部输入信号而命令所述工具的所述运动。
33.根据权利要求30所述的方法,其中:
确定所述一个或多个参数包含确定在进入所述离合器模式之后所述头部输入设备的运动量;并且
提供所述提醒包含:基于所述运动量高于定义的阈值而提供所述提醒。
34.根据权利要求30所述的方法,其中:
确定所述一个或多个参数包含确定在进入所述离合器模式之后所述手部输入设备的运动量;并且
提供所述提醒包含:基于所述运动量低于定义的阈值而提供所述提醒。
35.根据权利要求30所述的方法,其中:
确定所述一个或多个参数包含确定所述手部输入设备从所述手部输入设备的先前位置的平移量,以及所述头部输入设备从所述头部输入设备的先前位置的平移量。
36.根据权利要求35所述的方法,其中提供所述提醒包含确定以下各项的同时发生:
所述手部输入设备的所述平移量低于手部平移阈值;以及
所述头部输入设备的所述平移量高于头部平移阈值。
37.根据权利要求35所述的方法,其中:
确定所述一个或多个参数包含确定所述手部输入设备从所述手部输入设备的先前取向的旋转量,以及所述头部输入设备从所述头部输入设备的先前取向的旋转量;并且
提供所述提醒包含:基于所述手部输入设备的所述旋转量低于手部旋转阈值和所述头部输入设备的所述旋转量高于头部旋转阈值的同时发生而提供所述提醒。
38.根据权利要求35所述的方法,其中:
所述一个或多个参数包含以下各项中的至少一项:
所述手部输入设备的位置的变化;
所述手部输入设备的取向的变化;
所述头部输入设备的位置的变化;或者
所述头部输入设备的取向的变化;并且
提供所述提醒包含确定以下各项的同时发生:
所述手部输入设备的位置的所述变化低于手部平移阈值,
所述手部输入设备的取向的所述变化低于手部旋转阈值,
所述头部输入设备的位置的所述变化高于头部平移阈值,以及
所述头部输入设备的取向的所述变化高于头部旋转阈值。
39.根据权利要求30所述的方法,其中确定所述一个或多个参数包含:
确定所述手部输入设备相对于所述头部输入设备的位置的位置;或者
确定所述手部输入设备相对于所述头部输入设备的取向的旋转。
40.根据权利要求30所述的方法,其中:
所述手部输入设备是第一手部输入设备;
所述手部输入信号是第一手部输入信号;
确定所述一个或多个参数包含将在进入所述离合器模式之后所述第一手部输入设备和第二手部输入设备的平移或旋转与在进入所述离合器模式之后所述头部输入设备的平移或旋转进行比较。
41.根据权利要求30所述的方法,其中为所述操作者提供所述提醒进一步包含:
向所述头部输入设备提供触觉感知。
42.根据权利要求30所述的方法,其中:
所述手部输入设备是第一手部输入设备;
确定所述一个或多个参数包含确定在进入所述离合器模式之后所述第一手部输入设备的位置的变化、在进入所述离合器模式之后第二手部输入设备的位置的变化、或者在进入所述离合器模式之后所述头部输入设备的位置的变化;并且
提供所述提醒包含确定以下各项的同时发生:
所述头部输入设备的所述位置的所述变化高于头部平移阈值,以及
至少一个位置变化低于手部平移阈值,所述至少一个位置变化选自由以下各项组成的组:所述第一手部输入设备的所述位置的所述变化和所述第二手部输入设备的所述位置的所述变化。
43.根据权利要求42所述的方法,其中所述至少一个位置变化包含所述第一手部输入设备的所述位置的所述变化和所述第二手部输入设备的所述位置的所述变化两者。
44.根据权利要求42所述的方法,其中提供所述提醒包含,响应于所述第一手部输入设备和所述第二手部输入设备的所述位置的所述变化中的仅一个低于所述手部平移阈值:
指示所述第一手部输入设备和所述第二手部输入设备中的哪一个表现出低于所述手部平移阈值的所述位置的所述变化;或者
指示手部输入设备的重新定位。
45.根据权利要求30至44所述的方法,其中提供所述提醒进一步包含:
响应于选自由以下各项组成的组中的至少一个事件而抑制提供所述提醒:
经过预定的一段时间;
从所述离合器模式退出;以及
在进入所述离合器模式之后,所述头部输入设备缺乏运动。
46.根据权利要求30至44所述的方法,其中提供所述提醒进一步包含:
响应于选自由以下各项组成的组中的至少一个事件而抑制提供所述提醒:
确定所述手部输入设备已经移动了大于定义量的量;
确定所述头部输入设备已经实现了在先前姿态的定义偏差内的姿态;以及
确定所述头部输入设备已经以超过定义的速度阈值的速度移动。
47.根据权利要求30至44所述的方法,其中提供所述提醒进一步包含:
响应于所述头部输入设备表现出选自由以下各项组成的组中的至少一个运动特性而抑制提供所述提醒:
以俯仰运动为主的头部输入设备运动;
以所述头部输入设备的高度变化为主的头部输入设备运动;
所述头部输入设备的俯仰大于俯仰阈值;以及
所述头部输入设备的竖直平移大于竖直移动阈值。
48.根据权利要求30至44所述的方法,其中提供所述提醒进一步包含:
响应于选自由以下各项组成的组中的至少一个事件的发生而抑制提供所述提醒:
所述头部信号指示所述头部输入设备的位置已经改变了大于大移动阈值;以及
所述头部信号指示所述头部输入设备的位置已经改变了大于大移动阈值,而所述手部输入设备的位置已经改变了小于小移动阈值。
49.一种非暂时性机器可读介质,其包含多个机器可读指令,所述多个机器可读指令在由与机器人系统相关联的一个或多个处理器实行时,促使所述计算机辅助机器人系统执行根据权利要求30至48中任一项所述的方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US202163181022P | 2021-04-28 | 2021-04-28 | |
US63/181,022 | 2021-04-28 | ||
PCT/US2022/026383 WO2022232170A1 (en) | 2021-04-28 | 2022-04-26 | Method and apparatus for providing input device repositioning reminders |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117202869A true CN117202869A (zh) | 2023-12-08 |
Family
ID=81940763
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202280030205.7A Pending CN117202869A (zh) | 2021-04-28 | 2022-04-26 | 用于提供输入设备重新定位提醒的方法和装置 |
Country Status (3)
Country | Link |
---|---|
CN (1) | CN117202869A (zh) |
DE (1) | DE112022002333T5 (zh) |
WO (1) | WO2022232170A1 (zh) |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11037464B2 (en) * | 2016-07-21 | 2021-06-15 | Auris Health, Inc. | System with emulator movement tracking for controlling medical devices |
CN110494095B (zh) * | 2017-04-20 | 2023-03-21 | 直观外科手术操作公司 | 用于约束虚拟现实手术系统的系统和方法 |
US20200163731A1 (en) * | 2017-07-13 | 2020-05-28 | Intuitive Surgical Operations, Inc. | Systems and methods for switching control between multiple instrument arms |
EP3658057B1 (en) * | 2017-07-27 | 2023-08-30 | Intuitive Surgical Operations, Inc. | Association systems for manipulators |
US20210038335A1 (en) * | 2019-07-16 | 2021-02-11 | Transenterix Surgical, Inc. | Robot Assisted Surgical System with Clutch Assistance |
-
2022
- 2022-04-26 CN CN202280030205.7A patent/CN117202869A/zh active Pending
- 2022-04-26 WO PCT/US2022/026383 patent/WO2022232170A1/en active Application Filing
- 2022-04-26 DE DE112022002333.3T patent/DE112022002333T5/de active Pending
Also Published As
Publication number | Publication date |
---|---|
DE112022002333T5 (de) | 2024-02-15 |
WO2022232170A1 (en) | 2022-11-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
AU2020200343B2 (en) | Immersive three-dimensional display for robotic surgery | |
US11986259B2 (en) | Association processes and related systems for manipulators | |
US20230200923A1 (en) | Systems, methods, and computer-readable program products for controlling a robotically delivered manipulator | |
KR20170084186A (ko) | 사용자 인터페이스와 마스터 제어기 사이의 상호작용 | |
US11703952B2 (en) | System and method for assisting operator engagement with input devices | |
US20240000534A1 (en) | Techniques for adjusting a display unit of a viewing system | |
US20240025050A1 (en) | Imaging device control in viewing systems | |
CN117202869A (zh) | 用于提供输入设备重新定位提醒的方法和装置 | |
WO2023023186A1 (en) | Techniques for following commands of an input device using a constrained proxy | |
US20240008942A1 (en) | Steerable viewer mode activation and de-activation | |
CN114270089A (zh) | 轨道上的可移动显示单元 | |
US20240024049A1 (en) | Imaging device control via multiple input modalities | |
WO2023177802A1 (en) | Temporal non-overlap of teleoperation and headrest adjustment in a computer-assisted teleoperation system | |
US20230393544A1 (en) | Techniques for adjusting a headrest of a computer-assisted system | |
WO2023014732A1 (en) | Techniques for adjusting a field of view of an imaging device based on head motion of an operator | |
WO2023069745A1 (en) | Controlling a repositionable structure system based on a geometric relationship between an operator and a computer-assisted device | |
CN116528790A (zh) | 用于调整观看系统的显示单元的技术 | |
WO2023244636A1 (en) | Visual guidance for repositioning a computer-assisted system | |
WO2023163955A1 (en) | Techniques for repositioning a computer-assisted system with motion partitioning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |