EP4774108A1 - Robotersystem und verfahren zur steuerung eines robotersystems - Google Patents
Robotersystem und verfahren zur steuerung eines robotersystemsInfo
- Publication number
- EP4774108A1 EP4774108A1 EP24768027.5A EP24768027A EP4774108A1 EP 4774108 A1 EP4774108 A1 EP 4774108A1 EP 24768027 A EP24768027 A EP 24768027A EP 4774108 A1 EP4774108 A1 EP 4774108A1
- Authority
- EP
- European Patent Office
- Prior art keywords
- operating mode
- robot system
- autonomy
- control
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Program-controlled manipulators
- B25J9/16—Program controls
- B25J9/1679—Program controls characterised by the tasks executed
- B25J9/1689—Teleoperation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
- A61B34/32—Surgical robots operating autonomously
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Program-control systems
- G05B19/02—Program-control systems electric
- G05B19/42—Recording and playback systems, i.e. in which the program is recorded from a cycle of operations, e.g. the cycle of operations being manually controlled, after which this record is played back on the same machine
- G05B19/427—Teaching successive positions by tracking the position of a joystick or handle to control the positioning servo of the tool head, leader-follower control
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
- A61B34/37—Leader-follower robots
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/35—Nc in input of data, input till input file format
- G05B2219/35472—Mode selection
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/36—Nc in input of data, input key till input tape
- G05B2219/36432—By putting some constraints on some DOF, move within limited volumes, areas, planes, limits motion in x, y or z planes, virtual reality constraints
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/39—Robotics, robotics to robotics hand
- G05B2219/39212—Select between autonomous or teleoperation control
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/40—Robotics, robotics mapping to robotics vision
- G05B2219/40117—Virtual mecanism, like slider to constraint movement in task space
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/40—Robotics, robotics mapping to robotics vision
- G05B2219/40153—Teleassistance, operator assists, controls autonomous robot
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/40—Robotics, robotics mapping to robotics vision
- G05B2219/40164—Fault recovery from task execution errors
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/40—Robotics, robotics mapping to robotics vision
- G05B2219/40399—Selection of leader-follower operation mode
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/45—Nc applications
- G05B2219/45199—Polish
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Robotics (AREA)
- Medical Informatics (AREA)
- Public Health (AREA)
- Heart & Thoracic Surgery (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Veterinary Medicine (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Mechanical Engineering (AREA)
- Manipulator (AREA)
Abstract
Die Erfindung betrifft ein Robotersystem umfassend mindestens einen Roboterarm und eine Steuereinheit, wobei die Steuereinheit dazu eingerichtet ist - das Robotersystem in einem ersten Betriebsmodus, einem zweiten Betriebsmodus und einem dritten Betriebsmodus zu betreiben und zwischen den einzelnen Betriebsmodi umzuschalten; - einen Autonomie-Parameter zu bestimmen, der einen graduell einstellbaren Autonomiegrad für die Steuerung des Robotersystems innerhalb zweiten Betriebsmodus definiert, - das Robotersystem in dem ersten Betriebsmodus in Abhängigkeit von einer Eingabe eines Benutzers zu steuern; - das Robotersystem in dem zweiten Betriebsmodus in Abhängigkeit von einer Eingabe eines Benutzers, einem vorgegebenen Bewegungsablauf sowie Autonomie-Parameters zu steuern; und - das Robotersystem in dem dritten Betriebsmodus in Abhängigkeit von einem vorgegebenen Bewegungsablauf zu steuern; wobei - die Steuereinheit dazu eingerichtet ist, in dem zweiten Betriebsmodus den durch den Autonomie-Parameter definierten Autonomiegrad der Steuerung unter Verwendung einer Virtuellen Halterung und durch Variation der Parameter der Virtuellen Halterung einzustellen.
Description
22. August 2024 Robotersystem und Verfahren zur Steuerung eines Robotersystems Die vorliegende Erfindung betrifft ein Robotersystem sowie ein entsprechendes Verfahren zur Steuerung eines Robotersystems. Insbesondere betrifft die vor- liegende Erfindung ein Robotersystem, das auf dem Gebiet der Telemedizin ein- gesetzt werden kann, wodurch beispielsweise ein chirurgischer Eingriff durch einen an einem entfernen Ort befindlichen Chirurgen ermöglicht wird. Die vor- liegende Erfindung ist jedoch nicht auf derartige Robotersysteme für den medi- zinische Einsatz eingeschränkt, sondern umfasst beispielsweise auch Roboter- systeme, die in der Industrie für die Fertigung von Gütern eingesetzt werden. In DE 102022104525 A1 ist ein Verfahren zum Ausführen von Aufgaben mittels eines Roboters beschrieben. Der Roboter kann dabei in einem Ausführungsmo- dus und in einem zweiten Ausführungsmodus kontrolliert werden. In DE 102021104883 B3 ist ein Verfahren zum roboterunterstützten Ausführen von Aufgaben beschrieben, wobei ein Roboter in einem ersten Unterstützungs- modus mit Hilfe eines Benutzermoduls geteilt kontrolliert und in einem zweiten Unterstützungmodus mit Hilfe eines Automationsmoduls benutzerüberwacht au- tonom kontrolliert werden kann. In DE 10 2020 121 561 B3 ist ein Steuerungsverfahren für ein zeitverzögertes bilaterales Teleoperationssystem beschrieben. Bei diesem Verfahren wird eine virtuelle zeitverzögerte Slave-Referenzposition auf der Masterseite definiert, welche über eine masterseitige virtuelle Federeinrichtung mit einer virtuellen Federsteifigkeit mit der Masterposition zur Kraft- und Positionsrückkopplung verbunden ist. In EP 3 431 032 B1 ist ein Computer zur Planung chirurgischer Implantate be- schrieben. Der Computer weist eine Netzwerkschnittstelle auf, die mit einem Computertomographie-Bildscanner und einem Roboter verbunden werden kann.
22. August 2024 Der Roboter weist eine Roboterbasis auf, die mit einem Roboterarm gekoppelt ist, welcher durch Motoren relativ zur Roboterbasis beweglich ist. In EP 3 114 677 B1 ist ein Verfahren zum Bestimmen eines realen Objektes innerhalb einer realen Umgebung unter Verwendung einer Rechenvorrichtung beschrieben, wobei die reale Umgebung ein Roboterwerkzeug umfasst. Bei dem Verfahren erfolgt zunächst ein Empfangen einer Spezifikation des realen Objek- tes an der Rechenvorrichtung und ein Bestimmen einer entsprechenden virtuel- len Vorrichtung, die dem realen Objekt entspricht, basierend auf der Spezifika- tion des realen Objektes unter Verwendung der Rechnervorrichtung. In US 2013 / 0 300 537 A1 ist ein Robotersystem sowie ein Verfahren zur Ma- nipulation von Mehrsegment-Kontinuumsrobotern beschrieben. Das beschrie- bene Verfahren bezieht sich dabei auf die Kontaktierung und die Schätzung des Kontaktortes entlang eines Kontinuumsroboters mit mehreren Segmenten. Bei den aus dem Stand der Technik bekannten Robotersystemen kann es vor- gesehen sein, dass die Steuerung des Robotersystems in verschiedenen Auto- nomiestufen bzw. Autonomieniveaus erfolgt. In einer ersten Autonomiestufe (im Englischen auch als Level of Autonomy oder kurz LoA bezeichnet) wird das Robotersystem bzw. ein definierter Punkt des Robotersystems (auch als Interest Point oder kurz IP bezeichnet) manuell durch den Benutzer gesteuert. Hierzu kann ein Eingabegerät verwendet werden, wel- ches bei telemedizinischen Anwendungen häufig als haptisches Eingabegerät ausgeführt ist. Das Eingabegerät kann unterschiedliche Ausgestaltungen auf- weisen. Beispielsweise können auch Joysticks eingesetzt werden, um ein Steu- erkommando eines Benutzers aufzunehmen und ein entsprechendes Steuersig- nal zu erzeugen, um das Robotersystem anzusteuern. Die Eingabe durch einen Benutzer kann auch dadurch realisiert werden, dass der Benutzer das Roboter- system bewegt und dessen Orientierung variiert, wodurch entsprechende Sen- soren (insbesondere in dem Robotersystem vorgesehene Beschleunigungs- sensoren) eine Änderung der Position oder der Orientierung des Roboters
22. August 2024 erkennen und in Abhängigkeit der detektierten Änderung ein Steuersignal er- zeugen können. In einer zweiten Autonomiestufe erfolgt die Steuerung des Robotersystems in Abhängigkeit einer Benutzereingabe sowie in Abhängigkeit eines vorgegebenen Bewegungsablaufs. Bei dieser Autonomiestufe wird häufig auch von einer ge- teilten Kontrolle oder einer geteilten Steuerung (auch als Shared Control be- zeichnet) gesprochen. Dabei kann ein Bewegungsablauf vorgegeben sein, ge- mäß dem das Robotersystem idealerweise gesteuert wird. Beispielweise kann der Bewegungsablauf eine Trajektorie definieren, die einen chirurgischen Schnitt oder eine vorzunehmende Naht während eines vordefinierten Operationsprozes- ses beschreibt. Im Idealfall würde also beispielsweise ein durch das Robotersys- tem gehaltenes Skalpell entlang dieser Trajektorie geführt, um den vordefinier- ten Schnitt durchzuführen. Jedoch erhält der Benutzer in dieser Autonomiestufe die Möglichkeit zur vollen Kontrolle über die Bewegung des Robotersytems. Er wird jedoch in mindestens einem Freiheitsgrad von dem robotischen System unterstützt. Für die Implementierung der Steuerung in der zweiten Autonomie- stufe werden häufig Virtuelle Halterungen (auch als Virtual Fixtures oder kurz VF bezeichnet) eingesetzt, um eine Haptische Augmentierung in einem oder mehreren Freiheitsgraden zu realisieren. Dieser Virtuellen Halterungen weisen üblicherweise Totzonen (auch als Deadzones bezeichnet) auf, damit der Benut- zer etwaige Ungenauigkeiten des Robotersystems ausgleichen kann. Bei den aus dem Stand der Technik bekannten Verfahren sind die Virtuellen Halterungen und deren Totzonen konstant ausgebildet und auf eine konkrete Anwendung ange- passt. In einer dritten Autonomiestufe kann das Robotersystem autonom gemäß einem vorgegebenen Bewegungsablauf gesteuert werden. In der dritten Autonomie- stufe hat der Benutzer also keinen Einfluss auf die vorgegebene Trajektorie und/oder auf die Rotationsbewegungen, die durch den vorgegebenen Bewe- gungsablauf definiert sind.
22. August 2024 Während die aus dem Stand der Technik bekannten Robotersysteme in vielen Anwendungen bereits sehr vielversprechend sind, ist es in der Praxis wün- schenswert, ein verbessertes Robotersystem bereitzustellen, das einerseits ei- nen optimierten Übergang zwischen den Autonomiestufen ermöglicht und ande- rerseits eine verbesserte Steuerung erlaubt. Zur Lösung der vorstehend genannten Aufgabe wird mit der vorliegenden Erfin- dung ein Robotersystem vorgeschlagen, das mindestens einen Roboterarm und eine Steuereinheit aufweist, wobei die Steuereinheit dazu eingerichtet ist: - das Robotersystem in einem ersten Betriebsmodus, einem zweiten Be- triebsmodus und einem dritten Betriebsmodus zu betreiben und zwischen den einzelnen Betriebsmodi umzuschalten; - einen Autonomie-Parameter zu bestimmen, der einen graduell einstellba- ren Autonomiegrad für die Steuerung des Robotersystems innerhalb des zweiten Betriebsmodus definiert; - das Robotersystem in dem ersten Betriebsmodus in Abhängigkeit von einer Eingabe eines Benutzers zu steuern; - das Robotersystem in dem zweiten Betriebsmodus in Abhängigkeit von ei- ner Eingabe eines Benutzers, einem vorgegebenen Bewegungsablauf sowie dem Autonomie-Parameter zu steuern; und - das Robotersystem in dem dritten Betriebsmodus in Abhängigkeit von ei- nem vorgegebenen Bewegungsablauf zu steuern; wobei - die Steuereinheit dazu eingerichtet ist, in dem zweiten Betriebsmodus den durch den Autonomie-Parameter definierten Autonomiegrad der Steuerung unter Verwendung einer Virtuellen Halterung und durch Variation der Para- meter der Virtuellen Halterung einzustellen. Der erste Betriebsmodus beschreibt einen Modus, in dem das Robotersystem manuell gesteuert wird. Der erste Betriebsmodus kann insofern auch von einem manuellen Betriebsmodus bezeichnet werden. Der zweite Betriebsmodus be- schreibt einen Modus, in dem das Robotersystem durch eine geteilte Kontrolle (Shared Control) gesteuert wird. Dies bedeutet, dass sowohl die Eingabe des Benutzers als auch ein vorgegebener Bewegungsablauf berücksichtigt werden.
22. August 2024 Der Benutzer kann also das Robotersystem nicht vollständig manuell und frei von etwaigen Einschränkungen steuern. Hingegen werden die von ihm eingege- benen Steuerkommandos durch eine Führung beeinflusst. Beispielweise kann es vorgesehen sein, dass die Steuerkommandos des Benutzers durch ein Hapti- sches Eingabegerät eingegeben werden, wobei die Virtuelle Halterung (Virtual Fixture) verwendet wird, um die Eingabe des Benutzers zu lenken bzw. die Be- wegung in bestimmten Bereichen zu verhindern. Der Einsatz der Virtuellen Hal- terung schränkt also die freie bzw. manuelle Kontrolle durch den Benutzer (zu- mindest in einem Freiheitsgrad) ein. Der Grad der Einschränkung der freien Steuerung im zweiten Betriebsmodus bzw. der Grad der Führung in diesem Be- triebsmodus durch das System wird bei dem erfindungsgemäßen Verfahren durch den Autonomie-Parameter definiert und durch Variation der Parameter der Virtuellen Halterung eingestellt. Dadurch erlaubt das erfindungsgemäße Ro- botersystem, innerhalb des zweiten Betriebsmodus eine graduelle Einstellung des Autonomiegrads vorzunehmen, wodurch eine verbesserte Einstellung des Autonomiegrads ermöglicht wird. In dem dritten Betriebsmodus erfolgt eine weitgehend autonome Steuerung des Robotersystems. Dabei wird das Roboter- system im Wesentlichen in Abhängigkeit von einem vorgegebenen Bewegungs- ablauf gesteuert, wobei der Bewegungsablauf jeweils für einen vordefinierten Prozess (beispielsweise für einen chirurgischen Schnitt oder für die Durchfüh- rung einer gewünschten Naht) eine translatorische Bewegung und/oder eine Ro- tationsbewegung einer Komponente des Robotersystems definiert. Der dritte Betriebsmodus kann insofern auch als ein autonomer Betriebsmodus bezeichnet werden, wobei sich der Begriff der Autonomie darauf bezieht, dass eine Bewe- gung gemäß einem vorgegebenen Bewegungsablauf erfolgt, ohne dass es hier- für einer Eingabe des Benutzers bedarf und ohne dass der Benutzer eine vorge- gebene Bewegungstrajektorie oder einen Rotationsablauf wesentlich verändern kann. Wie nachfolgend noch erläutert wird, kann der Benutzer jedoch bevorzugt auch in dem dritten Betriebsmodus Eingaben vornehmen, um bei beispielsweise die Geschwindigkeit der Bewegung zu manipulieren, während die Bewegungs- trajektorie unverändert bleibt. Bei einigen Ausführungsformen der Erfindung kann es vorgesehen sein, dass die Steuereinheit dazu eingerichtet ist, das Ro- botersystem im dritten Betriebsmodus ausschließlich in Abhängigkeit von einem
22. August 2024 vorgegebenen Bewegungsablauf zu steuern. Alternativ hierzu kann es vorgese- hen sein, dass neben dem vorgegebenen Bewegungsablauf eine Benutzerein- gabe berücksichtigt wird, sodass der Benutzer zumindest kleinere Korrekturen eines durchzuführenden Prozesses vornehmen kann und/oder die Geschwindig- keit der Bewegung einstellen kann. Das erfindungsgemäße Robotersystem bietet die Möglichkeit, zwischen den ver- schiedenen Betriebsmodi umzuschalten, und dadurch auf variierende Umge- bungsbedingungen zu reagieren. Auch bietet das erfindungsgemäße Roboter- system dem Benutzer die Möglichkeit, jederzeit in die Steuerung einzugreifen und den Autonomiegrad bei Bedarf anzupassen. Beispielsweise kann der Auto- nomiegrad reduziert werden, wenn die Steuerung des Robotersystems sich als unzuverlässig erweist, während der Autonomiegrad erhöht werden kann, wenn die Steuerung des Robotersystems als zuverlässig angesehen wird. Zudem kann in dem zweiten Betriebsmodus der Autonomie-Parameter dazu verwendet wer- den, den Autonomiegrad für die Steuerung des Robotersystems graduell einzu- stellen. Dadurch kann eine optimierte Ansteuerung des Robotersystems erreicht werden, bei der eine besonders feine Einstellung des Autonomiegrades ermög- licht wird. Der Autonomie-Parameter kann beispielsweise einen Wert annehmen, der zwi- schen 0 und 1 liegt, wobei ein niedriger Wert des Autonomie-Parameters nahe 0 eine weitgehend manuelle Steuerung des Robotersystems und ein hoher Wert des Autonomie-Parameters nahe 1 eine weitgehend autonome Steuerung des Robotersystems beschreibt. Beispielsweise kann vorgesehen sein, dass der Au- tonomie-Parameter, fünf, zehn, 20, 30, 50 oder 100 unterschiedliche Werte zwi- schen 0 und 1 annehmen kann. Dadurch kann eine graduelle Einstellung des Autonomiegrades eingestellt werden, die an ein spezifisches Anwendungssze- nario angepasst werden kann. Bei dem erfindungsgemäßen Robotersystem kann insbesondere vorgesehen sein, dass das Robotersystem ein Eingabegerät aufweist, das bevorzugt als ein
22. August 2024 haptisches Eingabegerät ausgebildet ist. Alternativ kann es vorgesehen sein, dass das Eingabegerät als Joystick ausgeführt ist. Der vorgegebene Bewegungsablauf kann bei beispielsweise in Form einer Funk- tion oder in Form eines Vektors bereitgestellt werden, der die Position eines Punktes oder die Rotation einer Komponente beschreiben. Sofern sich das Ro- botersystem in dem dritten Betriebsmodus befindet, kann beispielsweise der anzusteuernde Referenzpunkt oder die anzusteuernde Komponente des Robo- tersystems autonom entlang einer vorgegebenen Trajektorie bewegt werden. Der vorgegebene Bewegungsablauf kann auch Rotationsinformationen umfas- sen. Dadurch kann das Robotersystem autonom in allen sechs Freiheitsgraden gesteuert werden. In dem dritten Betriebsmodus kann der Benutzer bei einigen Ausführungsformen keine Veränderung der vorgegebenen Trajektorie oder der vorgegebenen Rotationsinformationen vornehmen. Alternativ hierzu kann es vorgesehen sein, dass auch im dritten Betriebsmodus kleinere Korrekturen zu- gelassen werden, wobei in diesem Fall die Totzonen sehr klein sind. Falls sich das Robotersystem in dem zweiten Betriebsmodus befindet, so kann das Robo- tersystem in Abhängigkeit von dem vorgegebenen Bewegungsablauf, von der Eingabe des Benutzers sowie von dem Autonomie-Parameter gesteuert werden, wobei der Benutzer durch seine Eingabe eine Korrektur der durch das Roboter- system vorgegebenen Bewegung vornehmen kann. Der Grad des Einflusses, den der Benutzer auf die Steuerung hat, ist dabei durch den Autonomie-Parameter definiert. Wie bereits vorstehend erläutert, kann der Benutzer relativ stark in den Bewegungsablauf des Robotersystems eingreifen, wenn der Autonomie-Pa- rameter einen geringen Wert aufweist, während er nur relativ geringfügig in den Bewegungsablauf des Robotersystems eingreifen kann, wenn der Autonomie- Parameter einen hohen Wert aufweist. Dadurch wird es ermöglicht, den Auto- nomiegrad innerhalb des zweiten Betriebsmodus graduell einzustellen. Für die Einstellung des Autonomiegrades wird gemäß der vorliegenden Erfindung eine Virtuelle Halterung eingesetzt, deren Parameter in Echtzeit variiert werden kön- nen.
22. August 2024 Gemäß einigen Ausführungsformen des erfindungsgemäßen Robotersystems kann es vorgesehen sein, dass der Autonomie-Parameter durch die Eingabe ei- nes Benutzers eingestellt werden kann. Dadurch kann eine manuelle Einstellung des Autonomiegrades durch den Benutzer erfolgen. Wenn der Benutzer bei- spielsweise feststellt, dass die Steuerung des Robotersystems unzuverlässig er- folgt, so kann er den Autonomiegrad reduzieren, um stärker in den Bewegungs- ablauf des Robotersystems eingreifen zu können. Alternativ hierzu kann es vor- gesehen sein, dass eine automatische Anpassung des Autonomiegrades erfolgt, die nachfolgend noch im Detail erläutert wird. Hierzu können Kontextinformati- onen ausgewertet werden, die eine Aussage darüber zulassen, wie zuverlässig die Steuerung des Robotersystem zu einem bestimmten Zeitpunkt ist. Bei dem erfindungsgemäßen Robotersystem kann vorgesehen sein, dass die Vir- tuelle Halterung durch einen geometrischen Körper und durch geometrische Pa- rameter, die den geometrischen Körper beschreiben, definiert ist, wobei im In- nenraum des geometrischen Körpers eine Totzone (im Englischen auch als deadzone bezeichnet) definiert ist, innerhalb derer Eingaben eines Benutzers zur Steuerung des Robotersystems uneingeschränkt umgesetzt werden, wäh- rend hingegen die Eingaben des Benutzers, die auf eine Steuerung außerhalb der Totzone bewirken, durch die Virtuelle Halterung eingeschränkt werden. Die Virtuelle Halterung kann bevorzugt durch einen Zylinder, ein Ellipsoid oder einen Quader definiert sein. Der Einsatz einer Virtuellen Halterung, die durch einen geometrischen Körper definiert ist, bietet den Vorteil, dass die Virtuelle Halte- rung sowie der mit der Virtuellen Halterung eingestellte Autonomiegrad in ein- facher Art und Weise an das aktuelle Anwendungsszenario angepasst werden können. Insbesondere kann die Virtuelle Halterung durch einen Zylinder defi- niert werden, wobei die Parameter der Virtuellen Halterung entsprechend vari- abel eingestellt werden können. Wenn der eingestellte Zylinder, der die Virtuelle Halterung definiert, einen relativ kleiner Zylinderradius aufweist, dann ist die Bewegungseingabe durch den Benutzer entsprechend stark eingeschränkt. Da- bei kann es vorgesehen sein, dass der Benutzer ein taktiles Eingabegerät ver- wendet und dass die Benutzereingaben durch eine rückgekoppelte Kraft einge- schränkt werden, wenn die Benutzereingabe ein Verlassen des vorgegebenen
22. August 2024 Zylinders verursacht. Dadurch wird eine geführte Eingabe des Benutzers ermög- licht. In Abhängigkeit des aktuellen Anwendungsszenarios kann der Zylinderra- dius angepasst werden, sodass dieser auf einen relativ kleinen Wert eingestellt wird, um eine weitgehend autonome Steuerung des Robotersystems zu ermög- lichen, während der Zylinderradius auf einen vergleichsweise großen Wert ein- gestellt wird, um eine weitgehend manuelle Steuerung des Robotersystems zu ermöglichen. Auf diese Weise erlaubt das erfindungsgemäße Robotersystem eine graduelle Einstellung des Autonomiegrades innerhalb des zweiten Betriebs- modus, wodurch der Autonomiegrad präzise an unterschiedliche Anwendungs- szenarien angepasst werden kann. Analog zu der vorstehend beschriebenen Ausführungsform kann es ebenso vorgesehen sein, dass die Virtuelle Halterung durch einen Quader oder ein Ellipsoid definiert ist. Die entsprechenden Parame- ter des Quaders oder des Ellipsoids können in diesem Fall ebenfalls variiert wer- den, um den Autonomiegrad der Steuerung in dem zweiten Betriebsmodus ein- zustellen. Auch kann bei dem erfindungsgemäßen Robotersystem vorgesehen sein, dass die Steuereinheit dazu eingerichtet ist, den Betriebsmodus und/oder den Auto- nomiegrad manuell und in Abhängigkeit von einer Benutzereingabe umzuschal- ten. Beispielsweise kann ein durch ein Eingabegerät erzeugtes Eingabesignal ausgewertet werden, wobei die Steuereinheit dazu eingerichtet sein kann, in Abhängigkeit eines empfangenen Eingabesignals zwischen dem ersten Betriebs- modus, dem zweiten Betriebsmodus und dem dritten Betriebsmodus umzu- schalten. Ebenso kann die Steuereinrichtung dazu vorgesehen sein, in Abhän- gigkeit von einem Eingabesignals den Autonomiegrad im zweiten Betriebsmodus zu erhöhen oder zu reduzieren. Beispielsweise kann es vorgesehen sein, dass zehn verschiedene Autonomiegrade innerhalb des zweiten Betriebsmodus vor- gesehen sind, wobei der Benutzer durch eine Benutzereingabe zwischen den einzelnen Autonomiegraden hoch- und runterschalten kann. Auf diese Weise wird es dem Benutzer ermöglicht, gemäß der aktuellen Situation seinen Einfluss auf die Steuerung des Robotersystems bzw. den Autonomiegrad der Steuerung anzupassen. Beispielsweise kann es vorgesehen sein, dass der Benutzer eine durch das Robotersystem durchgeführte Aufgabe überwacht und in den Fällen,
22. August 2024 in denen ein fehlerhafter oder zumindest ungenauer Betrieb beobachtet wird, den Autonomiegrad reduzieren oder komplett in den ersten Betriebsmodus um- schalten kann. Ebenso kann in den Fällen, in denen ein zuverlässiger Betrieb beobachtet wird, der Autonomiegrad erhöht bzw. in den dritten Betriebsmodus (autonomer Betriebsmodus) umgeschaltet werden. Auf diese Weise erhält der Benutzer zu jeder Zeit die Steuerung darüber, wie autonom das Robotersystem arbeiten soll und wie stark der Benutzer in den Steuerprozess eingreifen kann. Gemäß einigen bevorzugten Ausführungsformen des erfindungsgemäßen Ro- botersystems kann vorgesehen sein, dass eine Auswahl an Betriebsmodi durch das Robotersystem dem Benutzer vorgeschlagen wird, welche in einer Anwen- dung als sinnvoll bewertet werden. Auch kann es vorgesehen sein, dass ein- zelne Betriebsmodi und/oder Autonomiegrade überhaupt nicht zugelassen wer- den, wenn diese unter Berücksichtigung der aktuellen Situation als ungeeignet erscheinen. Die Auswahl der vorgeschlagenen oder der zugelassenen Betriebs- modi und/oder der Autonomiegrade kann dabei insbesondere in Abhängigkeit von Kontextinformationen erfolgen, die im nachfolgenden Abschnitt im Zusam- menhang mit der automatischen Festlegung des Betriebsmodus und/oder des Autonomiegrads beschrieben werden. Insbesondere kann die Auswahl der vor- geschlagenen oder zur Verfügung gestellten Betriebsmodi und/oder Autono- miegrade in Abhängigkeit eines Unsicherheitsparameters U erfolgen, der eben- falls nachfolgend im Detail erläutert wird. Dadurch wird es insgesamt ermög- licht, dass das Robotersystem den Benutzer während der manuellen Auswahl des Betriebsmodus und/oder des Autonomiegrades datenbasiert zu unterstüt- zen. Insbesondere kann es dabei vorgesehen sein, dass im Falle einer hohen Unsicherheit bestimmte Betriebsmodi oder bestimmte Autonomiegrade nicht zugelassen werden. Darüber hinaus kann bei dem erfindungsgemäßen Robotersystem vorgesehen sein, dass die Steuereinheit dazu konfiguriert ist, den Betriebsmodus und/oder den Autonomiegrad automatisch und in Abhängigkeit von zuvor ermittelten Kon- textinformationen festzulegen. Die Kontextinformationen umfassen Daten, die den aktuellen Betrieb des Robotersystems charakterisieren. Diese Daten können
22. August 2024 sich beispielsweise auf einzelne Komponenten des Robotersystems oder auf des- sen Umgebung beziehen, sodass sie eine Charakterisierung des Robotersystems oder Umgebung erlauben. Beispielsweise können die Kontextinformationen Messdaten aufweisen, welche die Position einer Komponente des Robotersys- tems bzw. eines definierten Punktes innerhalb des Robotersystems oder den Rotationswinkel einer Komponente des Robotersystems darstellen. Beispiels- weise kann das Robotersystem hierfür eine Sensoreinheit umfassen, die ent- sprechende Kontextinformation erzeugt. Die Sensoreinheit kann dabei beispiels- weise als optische, elektrische oder magnetische Sensoreinheit ausgebildet sein. Beispielsweise kann die Sensoreinheit eine Kamera oder einen Lidar-Sensor auf- weisen, der beispielsweise zur Positionsermittlung eines Referenzpunktes des Robotersystems oder eines Rotationswinkels eines Roboterarms eingesetzt wird. Dabei kann beispielsweise auf die aus dem Stand der Technik bekannten Tra- cking-Ansätze zurückgegriffen werden, wobei bekannte Positionsbestimmungs- verfahren eingesetzt werden können, um die Position des Referenzpunktes zu ermitteln. Bei einem für chirurgische Anwendungen eingesetzten Robotersystem kann es beispielsweise vorgesehen sein, dass die Position und/oder die Orien- tierung eines Skalpells überwacht wird und dass die Kontextinformationen ent- sprechende Messdaten zu der Position und/oder der Orientierung des Skalpells aufweisen. Auch können die Kontextinformationen Daten umfassen, welche die Umgebung des Robotersystems beschreiben. Dabei können die Kontextinforma- tionen beispielsweise Daten zu der aktuellen Temperatur oder zu dem aktuellen Umgebungslicht in der Umgebung des Robotersystems enthalten. Auch können die Kontextinformationen Daten darüber enthalten, ob sich ein durch das Robo- tersystem zu bearbeitendes Objekt in einer korrekten Position befindet und eine korrekte Orientierung aufweist. In den Situationen, in denen erwartet wird, dass die autonome Steuerung des Robotersystems versagen könnte (beispielsweise aufgrund einer starken Abweichung der aktuellen Temperatur von der üblicher- weise vorgesehenen Temperatur oder falls ein zu bearbeitendes Objekt nicht korrekt in einer Halteeinrichtung fixiert ist), kann die Steuereinheit automatisch den Betriebsmodus wechseln und beispielsweise von dem dritten Betriebsmodus (autonome Steuerung) in den zweiten Betriebsmodus (geteilte Steuerung), oder
22. August 2024 von dem zweiten Betriebsmodus in den ersten Betriebsmodus (manuelle Steu- erung) umschalten. Bei der vorstehend beschriebenen Ausführungsform des erfindungsgemäßen Robotersystems kann also vorgesehen sein, dass die Steuereinheit in Abhängig- keit der ermittelten Kontextinformationen vollautomatisch den Betriebsmodus und/oder den Autonomiegrad festlegt. Dadurch kann eine besonders zuverläs- sige und sichere Steuerung des Robotersystems gewährleistet werden. Gemäß einer Ausführungsform kann zudem vorgesehen sein, dass die aktuellen Licht- verhältnisse gemessen werden (beispielsweise durch Messung der Intensität des Umgebungslichtes unter Verwendung einer Photodiode) und dass der Betriebs- modus und/oder der Autonomiegrad anschließend in Abhängigkeit von den ge- messenen Lichtverhältnissen ausgewählt wird. Beispielsweise kann es vorgese- hen sein, dass bei sehr schlechten Lichtverhältnissen bzw. bei vollständiger Dun- kelheit von dem ersten Betriebsmodus in den zweiten Betriebsmodus oder von dem zweiten Betriebsmodus in den dritten Betriebsmodus umgeschaltet wird, sodass der Autonomiegrad der Steuerung erhöht wird. Dadurch kann in den Fällen, in denen die Sicht des Benutzers eingeschränkt ist und die Benutzerein- gabe als relativ unzuverlässig angesehen werden kann, auf die Unterstützung durch das Robotersystem zurückgegriffen werden. Somit kann eine vollautoma- tische Einstellung des Betriebsmodus und/oder des Autonomiegrades der Steu- erung in Abhängigkeit von den aktuellen Kontextinformationen erreicht werden. Ferner kann bei dem erfindungsgemäßen Robotersystem vorgesehen sein, dass die Steuereinheit dazu konfiguriert ist, zur automatischen Festlegung bzw. zum automatischen Auswählen des Betriebsmodus und/oder des Autonomiegrades einen Unsicherheitsparameter U zu ermitteln, wobei der Unsicherheitsparameter U die Unzuverlässigkeit von innerhalb des Robotersystems aufgenommener Messdaten wiedergibt. Der Unsicherheitsparameter U kann also aus den Kon- textinformationen berechnet werden. Wie bereits vorstehend ausgeführt, kann das Robotersystem eine Sensoreinheit zum Aufnehmen von Messdaten enthal- ten, die den aktuellen Status des Robotersystems und dessen Umgebung cha- rakterisieren. Aus den aufgenommenen Messdaten kann der
22. August 2024 Unsicherheitsparameter U ermittelt werden. Der Unsicherheitsparameter U kann sich prinzipiell in jedem Zeitschritt ändern, in dem die dazugehörige Sensorein- heit Messdaten aufnimmt. Insbesondere kann der Unsicherheitsparameter U die Unsicherheit einer geschätzten Position, eine Orientierung oder einer Pose (Po- sition + Orientierung) einer Komponente des Robotersystems charakterisieren. Beispielsweise kann die Position eines Referenzpunktes des Robotersystems durch ein Kamerasystem, ein Lidar-System oder durch einen magnetischen Po- sitionssensor ermittelt werden und anschließend aus den innerhalb einer Mess- periode aufgenommenen Messdaten der Unsicherheitsparameter U bestimmt werden. Hierfür können verschiedene Ansätze gewählt werden. Insbesondere kann es vorgesehen sein, dass die Zuverlässigkeit der Messdaten durch eine Plausibilitätsprüfung überprüft werden. Wenn die Messdaten relativ starke Aus- reißer zeigen, kann dies als Indiz dafür gewertet werden, dass die Messdaten eher unzuverlässig sind. Auch können die ermittelten Messdaten mit Daten ver- glichen werden, die in einem spezifischen Anwendungsszenario üblicherweise erwartet werden (ein Referenzpunkt kann beispielsweise dazu ausgelegt sein, in einem bestimmten Wertebereich bewegt zu werden), wobei die Diskrepanz zwischen den aufgenommenen Messdaten und den erwarteten Daten als Indiz für die Unzuverlässigkeit bzw. Unsicherheit des Robotersystems verwendet wer- den kann. Folglich kann der Unsicherheitsparameter U auf einen relativ hohen Wert festgelegt werden. Die Stärke etwaiger Ausreißer kann beispielsweise durch Berechnung der Varianz der Messdaten bewertet werden. Sofern viele Ausreißer detektiert werden oder aber weniger Ausreißer, die eine starke Abwei- chung von erwarteten Werten aufweisen, so kann der Unsicherheitsparameter einen vergleichsweise hohen Wert annehmen. Falls eine hohe Unsicherheit (de- finiert durch einen hohen Wert des Unsicherheitsparameters U) im Robotersys- tem festgestellt wird, kann der Autonomiegrad reduziert werden, sodass der Benutzer einen stärkeren Einfluss auf den Steuerprozess erhält. Dies kann durch eine Variation des Autonomie-Parameters erfolgen. Alternativ hierzu kann von dem dritten Betriebsmodus (autonomer Modus) in den zweiten Betriebsmodus (geteilte Steuerung) oder von dem zweiten Betriebsmodus in den ersten Be- triebsmodus (manueller Modus) umgeschaltet werden. Fällt der Wert des Unsi- cherheitsparameters U nach einer bestimmten Zeit wieder ab, kann der
22. August 2024 Autonomiegrad entsprechend wieder erhöht werden, indem der Autonomie-Pa- rameter angepasst wird, sodass eine weitgehend autonome Steuerung des Ro- botersystems gewährleistet wird, ohne dass das Risiko einer fehlerhaften Steu- erung erhöht wird. Alternativ kann von dem ersten Betriebsmodus in den zwei- ten Betriebsmodus oder von dem zweiten Betriebsmodus in den dritten Be- triebsmodus umgeschaltet werden. Auf diese Weise kann, in Abhängigkeit von dem Unsicherheitsparameter U, eine vollautomatische Einstellung des Autono- miegrades und/oder des Betriebsmodus bereitgestellt werden, die für das je- weils aktuelle Anwendungsszenario optimiert ist. Gemäß einer bevorzugten Ausführungsform des erfindungsgemäßen Roboter- systems kann es ferner vorgesehen sein, dass die Steuereinrichtung dazu ein- gerichtet ist, den Betriebsmodus in Abhängigkeit von dem ermittelten Unsi- cherheitsparameter U festzulegen, wobei die Steuereinrichtung dazu ausgelegt ist: - den ersten Betriebsmodus auszuwählen, sofern der Unsicherheitsparameter U einen ersten Schwellwert U1 überschreitet; - den zweiten Betriebsmodus auszuwählen, sofern der Unsicherheitsparame- ter U zwischen dem ersten Schwellwert U1 und einem zweiten Schwellwert U2 liegt, wobei U1 größer ist U2 gilt; und - den dritten Betriebsmodus auszuwählen, sofern der ermittelte Unsicherheits- parameter U den zweiten Schwellwert U2 unterschreitet. Dadurch wird ein automatisches Umschalten zwischen den Betriebsmoden er- möglicht, und zwar abhängig davon, wie die Zuverlässigkeit der ermittelten Messdaten bewertet wird. Auf diese Weise wird stets ein optimaler Betriebsmo- dus und somit eine optimale Autonomiestufe (LoA) in jeder Situation bereitge- stellt. Gemäß einer bevorzugten Ausführungsform des erfindungsgemäßen Roboter- systems kann vorgesehen sein, dass die Virtuelle Halterung durch einen Zylinder definiert ist, der einen Zylinderradius ^^ aufweist, wobei der Zylinderradius ^^ in
22. August 2024 dem zweiten Betriebsmodus als eine von einem zuvor ermittelten Unsicherheits- parameter U abhängige Funktion ^^ = ^(^) definiert werden kann. Die Funktion ^(^) kann dabei als insbesondere als eine lineare Funktion, eine Exponentialfunktion oder eine Polynomfunktion n-ter Ord- nung ausgeführt sein. Die die Funktion ^(^) kann das Verhalten des Zylinderra- dius ^^ in Abhängigkeit von dem Unsicherheitsparameter eingestellt werden kann. Gemäß einer Ausführungsform kann die Funktion ^(^) als eine lineare Funktion ausgeführt sein, sodass der Zylinderradius ^^ gemäß ^^ = ^^ ^ definiert werden kann. Dabei bezeichnet ^^ einen Gewichtungsfaktor .Dadurch kann eine einfache und effiziente Einstellung der Virtuellen Halterung in direkter Abhängigkeit des ermittelten Unsicherheitsparameters U bereitgestellt werden, wodurch eine automatische Einstellung des Autonomiegrades innerhalb des zweiten Betriebsmodus in Abhängigkeit von den aufgenommenen Messdaten gewährleistet wird. Zudem kann bei dem erfindungsgemäßen Robotersystem vorgesehen sein, dass die Steuereinheit dazu eingerichtet ist, von dem dritten Betriebsmodus in den zweiten Betriebsmodus umzuschalten, sofern die Steuereinheit eine von dem Benutzer über ein Eingabegerät ausgeübte Kraft detektiert, die einen vorgege- benen Kraft-Schwellwert überschreitet. Dadurch wird es dem Benutzer ermög- licht, auch im autonomen Betriebsmodus (= dritter Betriebsmodus) in die Steu- erung des Robotersystems einzugreifen, und zwar insbesondere dann, wenn ein unzuverlässiger Betrieb festgestellt wird und die aktuelle Steuerung des Robo- tersystems nicht den Anforderungen des Benutzers genügt. Dieser Mechanis- mus, der das Eingreifen des Benutzers auch im autonomen Betriebsmodus er- möglicht, ist insbesondere in chirurgischen Anwendungen von Vorteil, da der Benutzer des Robotersystems (in der Regel ein Chirurg) jederzeit die Möglichkeit
22. August 2024 hat, in den Operationsprozess einzugreifen und so im Falle von Komplikationen die Steuerung (zumindest teilweise) übernehmen kann. Ferner kann bei dem erfindungsgemäßen Robotersystem vorgesehen sein, dass die Steuereinheit dazu eingerichtet ist, das Robotersystem in einem dritten Be- triebsmodus derart zu steuern, dass eine Komponente des Robotersystems ge- mäß einem vorgegebenen Bewegungsablauf bewegt wird, wobei die Geschwin- digkeit der Bewegung in Abhängigkeit von einer Benutzereingabe einstellbar ist. Während bei den aus dem Stand der Technik bekannten Verfahren Eingaben des Benutzers in einem autonomen Betriebsmodus völlig unberücksichtigt bleiben, erhält der Benutzer bei dieser Ausführungsform der Erfindung die erweiterte Möglichkeit, den durch das Robotersystem durchgeführten Prozess hinsichtlich der Geschwindigkeit zu beeinflussen, während die Bewegungstrajektorie und/oder ein Rotationswinkel gegenüber dem vorgegebenen Bewegungsablauf unverändert bleiben. Somit wird einerseits sichergestellt, dass der vorgegebene Bewegungsablauf erhalten bleibt und andererseits dem Benutzer die Option be- reitstellt, den Prozess beispielsweise dann zu verlangsamen, wenn eine gewisse Unsicherheit bei der Steuerung des Robotersystems erwartet wird und den Pro- zess dann zu beschleunigen, wenn die Steuerung des Robotersystems als zu- verlässig angesehen wird. Gemäß einer bevorzugten Ausführungsform des erfindungsgemäßen Roboter- systems kann zudem vorgesehen sein, dass das Robotersystem eine Eingabe- vorrichtung aufweist, die dazu ausgelegt ist, eine Eingabe des Benutzers zu er- fassen und in Reaktion auf die Eingabe des Benutzers ein der Eingabe entspre- chendes Eingabesignal zu generieren und das Eingabesignal an die Steuerein- heit zu übertragen. Die Eingabevorrichtung kann insbesondere als ein hapti- sches Eingabegerät ausgeführt sein. Derartige Eingabegeräte ermöglichen eine Interaktion zwischen einem Benutzer und dem Robotersystem durch Berüh- rungssensoren sowie taktile Rückmeldungen. Haptische Eingabegeräte erlauben es, dem Benutzer ein taktiles Feedback zu geben, wodurch der Benutzer bei- spielsweise gemäß einem vorgegebenen Bewegungsablauf geführt werden kann und/oder davon abgehalten werden kann, bestimmte Steuersignale zu
22. August 2024 erzeugen. Die Virtuelle Halterung kann in diesem Fall dazu eingesetzt werden, den Benutzer an der Durchführung unerwünschter Bewegungsabläufe zu hin- dern und/oder einen gewünschten Bewegungsablauf zu fördern, indem die Ein- gabe des Benutzers gemäß einem vorgegebenen Bewegungsablauf und einer zulässigen Toleranz, welche durch die Parameter der Virtuellen Halterung ein- stellbar ist, geführt wird. Gemäß einigen Ausführungsformen des erfindungsgemäßen Robotersystems kann vorgesehen sein, dass die Steuerung ohne separate Eingabeeinrichtung erfolgt. Beispielsweise kann vorgesehen sein, dass die Steuersignale, die durch eine Eingabe des Benutzers erzeugt werden, durch Kraft-, und/oder Drehmo- mentsensoren erzeugt werden, die an oder in dem Robotersystem angebracht sind. Dadurch kann der Benutzer durch eine Veränderung der Position bzw. der Neigung des Robotersystems die gewünschten Steuersignale erzeugen. Dies kann insbesondere bei kompakten und tragbaren Robotersystemen bevorzugt sein. Zudem wird zur Lösung der eingangs beschriebenen Aufgabe mit der vorliegen- den Erfindung ein Verfahren zur Steuerung eines Robotersystems umfassend mindestens einen Roboterarm und eine Steuereinheit vorgeschlagen, wobei das Verfahren die nachfolgenden Schritte aufweist: - Steuern des Robotersystems in einem ersten Betriebsmodus, einem zwei- ten Betriebsmodus und einem dritten Betriebsmodus, wobei zwischen den Betriebsmodi umgeschaltet werden kann; - Bestimmen eines Autonomie-Parameters, der graduell einstellbar ist und den Autonomiegrad der Steuerung des Robotersystems während eines Be- triebsmodus definiert; - Steuern des Robotersystems in dem ersten Betriebsmodus in Abhängigkeit von einer Eingabe eines Benutzers, sofern der erste Betriebsmodus ausge- wählt ist; - Steuern des Robotersystems in dem zweiten Betriebsmodus in Abhängig- keit von einer Eingabe eines Benutzers, einem vorgegebenen
22. August 2024 Bewegungsablauf und dem Autonomie-Parameter, sofern der zweite Be- triebsmodus ausgewählt ist; - Steuern des Robotersystems in dem dritten Betriebsmodus in Abhängigkeit von einem vorgegebenen Bewegungsablauf, sofern der dritte Betriebsmo- dus ausgewählt ist; - wobei der Autonomiegrad der Steuerung des Robotersystems in dem zwei- ten Betriebsmodus unter Verwendung einer Virtuellen Halterung und durch Variation der Parameter der Virtuellen Halterung eingestellt wird. Bei dem erfindungsgemäßen Verfahren können dieselben Merkmale implemen- tiert sein, die vorstehend im Zusammenhang mit dem erfindungsgemäßen Ro- botersystem beschrieben wurden. Insbesondere kann bei dem erfindungsgemäßen Verfahren vorgesehen sein, dass die Steuereinheit ein Steuersignal erzeugt, dass ein Umschalten zwischen den Betriebsmodi bewirkt. Das Steuersignal kann als Antwort auf eine Benutze- reingabe oder aber auch automatische erzeugt werden. Im Falle einer automa- tischen Erzeugung des Steuersignals kann es vorgesehen dass, dass Kontextin- formationen erfasst werden und dass das Steuersignal in Abhängigkeit der Kon- textinformationen erzeugt wird. Zudem kann das erfindungsgemäße Verfahren bevorzugt die nachfolgenden Verfahrensschritte aufweisen: - Generieren von Kontextinformationen, die Daten betreffend das Roboter- system oder dessen Umgebung aufweisen; - Bestimmen eines Unsicherheitsparameters U in Abhängigkeit von den ge- nerierten Kontextinformationen, wobei der Unsicherheitsparameter U die Unzuverlässigkeit von durch das Robotersystem aufgenommenen Messda- ten wiedergibt; und - Variation der Parameter der Virtuellen Halterung in Abhängigkeit von dem bestimmten Unsicherheitsparameter U.
22. August 2024 Die vorliegende Erfindung wird nachfolgend anhand weiterer bevorzugter Aus- führungsformen näher erläutert, wobei die Erfindung zur Veranschaulichung an- hand von Anwendungsbeispielen betreffend ein chirurgisches Robotersystem er- läutert wird. Für den Fachmann ist es jedoch ersichtlich, dass die nachfolgend beschriebenen technische Merkmale ebenso bei anderen Robotersystemen ein- gesetzt werden können. Vorwort zu den bevorzugten Ausführungsformen der Erfindung Heutzutage sind Telemanipulationsrobotersysteme in vielen Operationssälen zu finden. Die Nutzung der Autonomie für minimal-invasive robotergestützte Chi- rurgie (auch als minimally invasive robotic surgery oder MIRS bezeichnet) bleibt ein offenes Forschungsfeld, da es nicht trivial ist, sinnvolle Unterstützung bei der Steuerung zu bieten und gleichzeitig sichere Übergänge zwischen der Steu- erung durch das Robotersystem und den Chirurgen zu gewährleisten. Bei der vorliegenden Erfindung wird eine neuartige Virtuelle Halterung (auch als Virtual Fixture oder VF bezeichnet) vorgestellt, die bevorzugt eine haptische Unterstüt- zung für die geteilte Steuerung und die Autonomie auf Aufgabenebene bietet. Zudem können bei der vorliegenden Erfindung Unsicherheitsmessungen von Schätzern für das Robotersystems und dessen Umgebung die aktuelle Autono- miestufe beeinflussen. Die vorgeschlagene Virtuelle Halterung gewährleistet si- chere Übergänge zwischen der Steuerung durch das Robotersystem und den Chirurgen. Die vorgeschlagene Methode wird anhand von Experimenten evalu- iert, die den erfolgreichen Abschluss einer Chirurgen-Trainingsaufgabe unter Ausnutzung der geteilten Steuerung und der Autonomie auf Aufgabenebene zei- gen. I. Einführung Die minimal-invasive robotergestützte Chirurgie (MIRS) ist weit verbreitet und hat sich bereits in vielen Operationssälen etabliert. Sie bietet den Patienten ähn- liche Vorteile wie die minimalinvasive Chirurgie: kürzere Erholungszeit und mi- nimale Narbenbildung durch kleine Schnitte. Gleichzeitig bietet MIRS dem
22. August 2024 Chirurgen mehr Ergonomie und eine verbesserte Hand-Augen-Koordination. Kommerziell erhältliche chirurgische Roboter für MIRS sind häufig als Telema- nipulationssysteme ausgebildet. Sie fungieren als Hände und Augen des Chirur- gen im Körper des Patienten. Das bedeutet, dass der Chirurg die Bewegung des Telemanipulationssystems in allen verfügbaren, meist sechs Freiheitsgraden (auch als degree of freedom oder DoF bezeichnet) direkt steuert. Neuere wissenschaftliche Ansätze zielen darauf ab, die Autonomie von Telema- nipulationssystemen zu erhöhen. Autonomiestufen (Levels of Autonomy, LoA) klassifizieren sowohl die Erstellung und Auswahl eines Operationsplans als auch die Ausführung und Überwachung dieses Plans. Sie reichen von niedriger Auto- nomie (L0) über Roboterassistenz (L1), aufgabenbezogene Autonomie (L2), überwachte Autonomie (L3) und hochgradige Autonomie (L4) bis hin zu voll- ständiger Autonomie (L5) (siehe [1],[2],[3]). Diese vorliegende Erfindung fo- kussiert sich insbesondere dabei auf die folgenden LoAs: L0: Der Chirurg kann die Instrumentenspitze innerhalb des ihm innewoh- nenden Arbeitsbereichs frei telemanipulieren. L1: Das Robotersystem unterstützt den Chirurgen während der geteilten Steuerung durch haptische Augmentation. L2: Das Robotersystem steuert alle Freiheitsgrade, um eine zuvor definierte Aufgabe zu erfüllen. Zu diesem Zweck wird vorliegend eine neuartige Feed Forward Virtual Fixture (ffVF) vorgestellt, die einen wrench (auch als Schraubenschlüssel bezeichnet) implementiert, der auf die Pose und die Totzone einer anziehenden Virtual Fix- ture (attractive VF oder aVF) einwirkt. Eine Totzone ermöglicht es dem Benut- zer, Ungenauigkeiten des Robotersystems zu kompensieren. Die ffVF wirkt auf die Parameter der Totzone, um diese schrittweise zu skalieren. Wenn die ffVF auf die Pose (Position + Orientierung) einwirkt, kann eine inter- aktive Autonomie auf Aufgabenebene erreicht werden, bei der der Benutzer die Feinabstimmung der resultierenden Bewegung durch Interaktion mit einem
22. August 2024 Eingabegerät vornehmen kann. In ähnlicher Weise ist die ffVF mit anderen Vir- tual Fixtures (VFs) kompatibel, insbesondere mit repulsiven VFs (rVFs). Bei der Chirurgie entstehen dynamische Umgebungen mit unvorhersehbaren Umständen. Daher sind kontinuierliche und schnelle Übergänge der Steuerung erforderlich, insbesondere von der Steuerung durch das Robotersystem (L2 oder L1) zur Steuerung durch den Chirurgen (L0) zu jeder beliebigen Zeit (siehe [4],[5]). Die vorliegende Erfindung erlaubt kontinuierliche Übergänge zwischen allen genannten LoAs, die optional durch die Einführung einer Autonomy and Shared Control Parameterization Engine (ASCOPE) implementiert werden kann. ASCOPE kann die geeigneten LoAs bestimmen und die Parameter der ffVF ent- sprechend anpassen. Dies kann bevorzugt auf Unsicherheitsmessungen basie- ren, und zwar besonders bevorzugt auf Grundlage von Kontextinformationen des Robotersystems und seiner Umgebung sowie dem aktuellen Zustand einer Aufgabe. Einige besonders bevorzugte Aspekte der vorliegenden Erfindung sind nachfol- gend aufgelistet: ^ ASCOPE zur kontinuierlichen Anpassung der LoAs in Abhängigkeit von Kon- textinformationen über das Robotersystem und seine Umgebung, gepaart mit einem Unsicherheitsparameter ^ die Bestimmung der Parametrisierung der neuartigen ffVF auf der Grundlage des LoAs und des aktuellen Aufgabenzustands ^ ffVF auf der Grundlage eines Feed-Forward-Wrenchs, der einer interaktive Autonomie auf Aufgabenebene sowie sanfte Übergänge zwischen allen rele- vanten LoAs ermöglicht. Nach einer Erörterung des Stands der Technik im Vergleich zum Beitrag der vorliegenden Erfindung in Abschnitt II bietet der nachfolgende Abschnitt III de- taillierte Einblicke in die vorgeschlagenen Methoden, die dann in Abschnitt IV bewertet werden. Abschnitt V erörtert schließlich die vorgeschlagenen Metho- den.
22. August 2024 II. Stand der Technik Dieser Abschnitt gibt einen Überblick über verwandte Arbeiten. Der erste Teil konzentriert sich auf L2 und L1, während der zweite Teil die Übergänge zwischen verschiedenen LoAs diskutiert. Verschiedene Ansätze befassen sich mit L2. Hwang et al., Rosen et al. und Rahman et al. führen Autonomie auf Aufgabenebene für einen chirurgischen Stifttransfer ein und vergleichen die Ergebnisse der autonomen Ausführung mit der menschlichen Leistung in einer Telemanipulationsumgebung (siehe [7], [8] und [9]). In [10], [11] und [12] werden Ansätze zur autonomen Platzierung von Nahtmaterial vorgestellt. Kam et al. stellen eine Methode für Nahtversuche an synthetischen Vaginalmanschettengeweben vor (siehe [13]). Die Ausführung der Nähte erfolgt dabei selbstständig. Saedi et al. führen eine autonome Darm- anastomose mit dem STAR-System durch (siehe [14]). Diese Arbeiten stellen Systeme für aufgabenbezogene Autonomie (L2) vor, ohne sich auf Übergänge zu L1 oder L0 zu konzentrieren. Benutzerinteraktionen mit einem haptischen Eingabegerät sind während des autonomen Betriebes in der Autonomiestufe L2 nicht möglich. In L1 bietet das Robotersystem dem Benutzer Unterstützung bei der Ausführung der Aufgabe. Bei Telemanipulationssystemen ist eine Art der Unterstützung die automatische Skalierung der Benutzereingabe im Vergleich zur Bewegung der Instrumentenspitze (siehe [15]). Eine andere Art der Unterstützung sind VFs, die eine haptische Augmentation ermöglichen (siehe [16], [17] und [18]). An- ziehende bzw. attraktive VFs führen den Benutzer haptisch zu einer Zielstruktur, wie dies in der [19] beschrieben ist. Abstoßende VFs schützen den Benutzer davor, eine verbotene Zone zu betreten. Geometrische Primitive sowie Meshes (siehe [20]) und visuelle Servo-Informationen (siehe [21]) können die Form eines VFs bestimmen. In [22] werden Unsicherheiten der visuellen Posenerken- nung zur Parametrisierung einer visuellen Servo-VF verwendet. Bei dem in [19] beschriebenen Verfahren ist der Benutzer in der Lage, attraktive VF zu erzeugen und ihre Geometrie und Position durch einen Human-in-the-Loop-Ansatz
22. August 2024 anzupassen. Diese Arbeiten bieten eine Unterstützung in L1 ohne die Möglich- keit, zu L2 zu wechseln. Fontanelli et al. Haben einen Zustandsautomaten für das Einsetzen und Heraus- ziehen von Nadeln entworfen (siehe [23]). Die Übergänge basieren auf vordefi- nierten Gesten, die der Benutzer ausführt, um durch die verschiedenen Zu- stände zu iterieren. Der Steuerungsmodus bzw. der Betriebsmodus L0, L1 oder L2, wird vorgewählt und während der Ausführung einer Aufgabe nicht geändert. Einige Arbeiten diskutieren Übergänge zwischen verschiedenen LoAs. In [24] verlagert eine vertrauensbasierte überwachte autonome Kontrollstrategie die Kontrolle zwischen dem Benutzer bei der Telemanipulation und einem Autono- miemodul, das einen gemeinsamen Rauminterpolator verwendet. Die Autoren stellen hierbei fest, dass ein plötzlicher Übergang von Autonomie zu Telemani- pulation zu einer erhöhten Fehlerquote des Bedieners führen kann, da der Be- nutzer kein Situationsbewusstsein hat. Ferraguti et al. sorgen für einen schnel- len und stabilen Wechsel von L2 zu L0, indem sie den Pose-Offset zwischen Leader und Follower kompensieren (siehe [25]). Shamaei et al. führen einen Dominanzfaktor ein, der den kontinuierlichen Wechsel der Autorität zwischen einem beliebigen autonomen Agenten und der Telemanipulation durch einen Benutzer ermöglicht. Zusätzlich legt ein Aggressivitätsfaktor das erlaubte Tempo des autonomen Agenten fest (siehe [26]). In [27] verteilt das Roboter- system autonom die Autorität zwischen dem menschlichen Bediener und sich selbst zur geteilten Steuerung. In [28] autorisiert der Benutzer den Wechsel von L1 zu L2 per Tastendruck, aber nicht umgekehrt. Diese Arbeiten gewährleisten den Wechsel entweder zwischen L2 und L0 oder zwischen L1 und L2. Auch wenn die aus dem Stand der Technik bekannten Verfahren einige vielver- sprechende Ansätze bieten, bieten diese weiterhin kein sicheres und komfor- tables Umschalten zwischen den einzelnen Betriebsmoden an. Zudem erlauben die aus dem Stand der Technik bekannten Verfahren keine graduelle Einstellung des Autonomiegrades während der geteilten Steuerung. III. Methoden
22. August 2024 Die in diesem Abschnitt erläuterten Methoden, die bevorzugte Ausführungsfor- men der Erfindung beschreiben, werden am Beispiel einer sogenannten "Pick- a-Ring-Aufgabe" mit einem chirurgischen Instrument veranschaulicht. Die Be- stimmung der geeigneten LoA basiert auf Schätzern für das Robotersystems und dessen Umgebung, wie diese in Abschnitt III-A beschrieben und in Fig. 2a dar- gestellt ist. Abschnitt III-B beschreibt die Details der Autonomy and Shared Control Parametrization Engine (ASCOPE), die in Fig. 2b dargestellt ist. Die neu- artige Feed Forward VF (ffVF) wird in Abschnitt III-C vorgestellt und in Fig. 2c grafisch dargestellt. Wie in der Fig. 2 dargestellt, liefern Schätzer (wie in [6]) Kontextinformationen C. Wenn die Kontextinformationen C mit einer entspre- chenden Unsicherheitsabschätzung U gepaart sind, kann ASCOPE den aktuellen Zustand der Aufgabe und den dazu passenden LoA bestimmen und die entspre- chenden Parameter P und die LoA-spezifischen Parameter Ploa zur Parametrisie- rung von VF auswählen. Die pick-Aufgabe dient als Beispiel für eine beliebige Aufgabe, die durch das Robotersystem ausgeführt werden kann. A. Auswahl des geeigneten LoAs Um die geeignete LoA für eine bestimmte Aufgabe auszuwählen, können Kon- textinformationen über die Umgebung verwendet werden. Dabei kann vorgese- hen sein, dass jeder Schätzer i Kontextinformationen Ci liefert, die den aktuellen Zustand des Roboters und seiner Umgebung beschreiben. Ci kann mit einer Un- sicherheitsabschätzung Ui kombiniert werden. Für die autonome Durchführung der Aufgabe pick (vordefinierte Aufgabe zum Greifen eines Objektes) ist eine hohe Genauigkeit der Gerätepose (auch als Gerätehaltung bezeichnet) x in Be- zug auf den Ring eine wichtige Voraussetzung und wird daher als Beispiel für einen Umgebungsschätzer genommen. Dementsprechend stellt Ui die Unsicher- heit der in Ci enthaltenen geschätzten Pose dar. Daraus kann die kombinierte Unsicherheit U
22. August 2024 berechnet werden, die die maximale Unsicherheit aller Schätzer mit ki, einem zuvor festgelegten Gewichtungsfaktor beschreibt. Der angemessene LoA wird bestimmt durch
wobei Um2 die maximale Unsicherheit für L2 und Um1 die maximale Unsicherheit für L1 definiert. Wenn zum Beispiel U < Um2 für die Aufgabe pick ist, weist das System eine sehr gute Schätzung auf. Die Unsicherheit des Robotersystems kann als relativ ge- ring angesehen werden. Die Aufgabe kann folglich autonom erledigt werden, weshalb L2 gewählt wird. Wenn U > Um1 ist, dann kann die Unsicherheit der Schätzung als sehr hoch angesehen werden. In diesem Fall wird L0 gewählt, da voraussichtlich keine angemessene Führung erreicht werden kann. L1 bietet dem Benutzer ein kontinuierliches Maß zur Einstellung der geteilten Steuerung, das in Abhängigkeit von U ausgewählt werden kann. Dies wird in Abschnitt III- C diskutiert. B. Autonomie und Parameter zur geteilten Steuerung Abhängig vom entsprechenden LoA kann ASCOPE die geteilte Steuerung ent- sprechend dem Fortschritt einer Aufgabe parametrisieren. Eine Aufgabe defi- niert die Interaktion eines Referenzobjekts Oref mit einem Zielobjekt Otar. Im Beispiel des Ringgreifens dient der Ring als Otar und das chirurgische Instrument als Oref. Eine Aufgabe setzt sich aus verschiedenen Teilaufgaben zusammen. Die in [29] eingeführten Shared Control Templates (SCTs) modellieren die verschie- denen Teilaufgaben als Zustände eines Zustandsautomaten. Fig. 2b zeigt das pick-SCT mit den Zuständen 'approach' und 'close'. Der Zustand picked (= ent- nommen) ist der Zielzustand stateg.
22. August 2024 Bedingungen, die auf Schraubenschlüsseln (wrenches) w, Posen x und Entfer- nungen zwischen Oref und Otar basieren, ermöglichen den Übergang von einem Zustand zum anderen. Ein Schraubenschlüssel setzt sich aus Kräften und Drehmomenten zusammen. Die Pose x bezieht sich auf die Rotation und die Position einer homogenen Transformationsmatrix . In [30] wurde eine SCOPE vorgestellt als eine Methode zur Erweiterung von SCTs. Bei SCOPE werden in jedem Zustand eine Reihe von Parametern P ko- diert, die zur Parametrisierung von VFs verwendet werden und die eine gemein- same Steuerung in Abhängigkeit vom aktuellen Zustand der Aufgabe ermögli- chen. ASCOPE fügt die Definition von LoA-spezifischen Parametern Ploa zu jedem Zustand hinzu. Dies ermöglicht nicht nur die Parametrisierung von VFs in Ab- hängigkeit vom aktuellen Zustand der Aufgabe, sondern auch in Abhängigkeit von der entsprechenden LoA. Algorithmus 1: Pseudocode der ASCOPE-Hauptschleife zum Parsen von SCTs, Auswählen der geeigneten LoA und Parametrisieren von VFs. Die Erweiterungen von SCOPE gegenüber ASCOPE sind mit * gekennzeichnet. Eingabe: Der SCT, der die aktuelle Aufgabe kodiert Ausgabe: Der Algorithmus endet nominal, wenn alle Zustände des SGT abge- arbeitet sind.
22. August 2024
Algorithmus 1 beschreibt ASCOPE. Die Ausführung beginnt mit dem ersten im SCT definierten Zustand und stoppt, wenn der Zielzustand stateg erreicht ist, der mit getGoal aus dem SCT ermittelt wurde. getReferenceandTarget bestimmt Oref und Otar auf der Grundlage der aktuellen Aufgabe. Die Schätzer bieten die Funktion getContextInformation, die C auf der Grundlage von Oref und Otar ab- ruft. Dies ermöglicht die Bestimmung von stateid durch getCurrentState, um mögliche Übergänge in nachfolgende Zustände zu gewährleisten. Entsprechend der stateid bietet das SCT mit getParameter den entsprechenden P an. Als Er- weiterung zu dem zuvor vorgestellten SCOPE führt ASCOPE die Funktionen ge- tUncertaintyEstimation ein, die U gemäß Gleichung (1) ermittelt, sowie get- UMax, das Um1 und Um2 abfragt, die durch jeden Zustand im SCT definiert sind. Mit getCurrentLoA bestimmt ASCOPE den adäquaten LoA gemäß Gl. (2) auf der Grundlage von U, Um1 und Um2. getParameter ruft Ploa aus dem SCT auf der Grundlage von stateid und loaid ab. Ploa und P aktualisieren die entsprechende VF durch parameterizeVF. C. Interaktive Vorwärtskopplung VF (feed forward VF) für L2, L1 und L0
22. August 2024 VFs implementieren ein virtuelles Feder-Dämpfer-System (auch als Spring- Damper System oder SDS bezeichnet) zwischen dem Instrument TCP x und einem virtuellen Proxy. Die Auslenkung des SDS erzeugt virtuelle Schrauben- schlüssel (wrenches) w. In einem Telemanipulationsaufbau können diese auf haptische Eingabegeräte projiziert werden. Eine attraktive VF (aVF) leitet den Benutzer haptisch an, um beispielsweise die Pose (Position + Rotationswinkel) des Instruments TCP mit einer gewünschten Pose abzugleichen. In [30] wird eine zylindrisch geformte Pfad-folgende aVF (auch als path follo- wing aVF oder paVF bezeichnet), wie in der Fig. 3a abgebildet, entlang eines generierten Splines s vorgeschlagen. Der Radius r und die Länge l definieren ihre Form. Ihre Pose xa liegt immer auf s und die Längsachse ist entlang s aus- gerichtet. r und l dienen als translatorische Totzonen. ^ definiert eine rotatori- sche Totzone. x bewegt sich frei innerhalb der Totzonen. Wenn ein Schrauben- schlüssel we (z. B. eine Benutzereingabe am haptischen Eingabegerät) dazu führt, dass x den Zylinder verlässt, bleibt der virtuelle Stellvertreter (auch als virtual proxy bezeichnet) mit der Pose xp an der Zylinderwand. Die SDS zwi- schen xp und x wird abgelenkt und verursacht w, das auf x wirkt und auf das haptische Eingabegerät projiziert wird. wa = [fa, ^a] wirkt auf xp und hat den gleichen Betrag wie w, aber die entgegengesetzte Richtung. Bei der vorliegenden Erfindung wird die paVF bevorzugt um ein Feed-Forward- Verhalten erweitert, um verschiedene LoAs zu kodieren und gleichzeitig Benut- zerinteraktionen zu ermöglichen, und wird dann Feed-Forward-VF (ffVF) ge- nannt. Es werden bevorzugt Splines definiert, um die jeweilige Aufgabe zu re- präsentieren. Im Folgenden werden die vorgestellten ffVF für L2 in Abschnitt III-C.1, L1 in Abschnitt IIIC.2 und L0 in Abschnitt III-C.3 beschrieben. Die Über- gänge werden in Abschnitt III-D erläutert. Tabelle I gibt einen Überblick über die LoA-spezifischen Parameter Ploa, die in diesem Abschnitt vorgestellt werden. 1) L2 - Autonomie auf Aufgabenebene:
22. August 2024 L2 erfordert eine präzise autonome Führung entlang eines beliebigen Splines. Die Totzonen r = l = ^ = 0 umschließen den virtuellen Stellvertreter xa mit der Position pa und erzwingen eine präzise Führung durch xp = xa. Für eine auto- nome Führung entlang eines beliebigen Splines s muss sich xa entlang s bewe- gen. Eine Kraft könnte diese Bewegung verursachen. Daher wird ein virtueller Massepunkt mit der Masse M und dem Dämpfungsfaktor D bei xa eingeführt. Es gilt die Bewegungsgleichung kann als konstante Kraft entlang s gewählt werden, die eine kontinuierli- che Bewegung verursacht. xp ist mit x durch ein SDS verbunden und führt daher zu einer autonomen Führung. Benutzerinteraktionen sind eine Kernkomponente von ffVF. fe enthält die Summe der Benutzerkräfte auf das Eingabegerät und der Widerstandskräfte, bestehend aus anderen VFs, Reibung und Dämpfung. fe wirkt auf x. Es verur- sacht die Auslenkung des SDS zwischen x und xp, was zu fa führt. ist die Komponente von fa entlang s. als zu wählen stellt sicher, dass der Benutzer mit dem ffVF interagieren kann, indem er es beschleunigt oder abbremst, und gewährleistet die Übereinstimmung mit anderen VFs. 2) L1 - Roboterassistenz: Bei L1 unterstützt der Roboter den Benutzer durch eine geteilte Steuerung (auch als gemeinsame Steuerung bezeichnet). Der Benutzer steuert die Bewegung von x entlang des Splines und erhält eine haptische Unterstützung in den übri- gen DoFs.
22. August 2024 Der Grad der geteilten Steuerung (Degree of Shared Control, DoSC) beschreibt eine graduelle Einstellung des Unterstützungsgrades. Eine starke Unterstützung gewährleistet eine sehr präzise Führung in Richtung s durch Festlegung einer kleinen gewünschten radialen Totzone rd und einer kleinen gewünschten rota- torischen Totzone ^d. Bei geringer Unterstützung bleibt x innerhalb eines Inte- ressenbereichs (auch als region of interest oder ROI bezeichnet), der durch ein größeres rd und ^d definiert ist, während der Benutzer eine Feinmanipulation vornehmen kann. Bei einigen bevorzugten Ausführungsformen der vorliegenden Erfindung wird die DoSC durch Variation von rd und ^d kontinuierlich angepasst. Wenn die Schätzer Kontextinformationen C mit einer hohen Unsicherheit U liefern, kann die DoSC klein gewählt werden, und insbesondere wie folgt gewählt werden wobei kr ein Gewichtungsfaktor ist. Wenn rd verändert wird, sollte der aktuelle Radius r dieser Veränderung folgen. Auch hier ermöglicht eine zu s orthogonale Kraft eine sanfte und sichere Änderung von r. Es wird ein virtueller Massepunkt mit der Masse Mr und dem Dämpfungsfaktor Dr eingeführt, dessen Position r darstellt.
Wenn so gewählt wird, dass es einer konstanten Kraft entspricht, er- möglicht dies die Abnahme und Zunahme von r um
22. August 2024
Die Kraft, die der Benutzer auf das Eingabegerät ausübt, sowie die Widerstands- kräfte, die sich aus anderen VFs, Reibung und Dämpfung zusammensetzen, sind in fe enthalten, das auf x einwirkt. Es bewirkt die Auslenkung des SDS zwischen x und xp, was zu fa führt, mit als deren Komponente orthogonal zu s. Die Wahl von folgt gemäß
Wenn r = rd gilt, wird auf 0 gesetzt, um die gewünschte haptische Führung zu gewährleisten. Die Abnahme von r ist in Fig. 3c dargestellt. Die gleiche Me- thode wird für ^d in Abhängigkeit von U angewendet. Bewegt der Benutzer das Eingabegerät entlang von s, so gehen die entspre- chenden Kräfte in die Komponente von fe entlang von s und damit bei l = 0 in ein. Gemäß Gleichung (4) ist in integriert, was zu einer Aktualisierung von pa führt, wie in Gl. (3). Insgesamt ist in der Fig. 3 eine ffVF gezeigt, die an xa auf s angebracht (siehe Abb. (a), und für L2 (siehe Abb. (b)) und L1 (siehe Abb. (c)) angepasst ist. r und l sind in den Abbildungen gekennzeichnet. s ist in den obigen Abbildungen als Kurve und in den unteren Abbildungen als horizontal verlaufende Linie dar- gestellt. fe (helle Pfeile) kombiniert die Summe der Benutzerkräfte auf das Ein- gabegerät und andere entgegenwirkende Kräfte, d.h. VF und andere dynami- sche Effekte des Eingabegeräts, wie Trägheit und Reibung. fe lenkt das SDS zwischen xp und x aus. Dies erzeugt eine Kraft f, die bewirkt, dass x xp folgt. Die dunklen Kreise stellen die Massepunkte dar. Abbildung 3a zeigt, wie xp an
22. August 2024 der Zylinderwand bleibt, wenn fe bewirkt, dass x den Zylinder verlässt und f und fa erzeugt. r und l bestimmen die Länge und den Radius des Zylinders. Abbildung 3b zeigt, dass r = l = 0 in L2 zu xa = xp führt. , das von durch beeinflusst wird, wirkt auf xa und verursacht dessen Bewegung. Schließlich zeigt die Abbil- dung 3c, dass in L1 DoSC rd bestimmt. Wenn rd ≠ r ist, wirkt auf einen gedämpften Massepunkt bei xr, wodurch r abnimmt. xp bleibt auf r. 3) L0 - keine Autonomie: Während L0 kann der Benutzer das Instrument TCP innerhalb seines Arbeitsbe- reichs frei telemanipulieren. Durch ständiges Anpassen der gewünschten Totzo- nen rd und ^d an x und damit auch r und ^, so dass x immer innerhalb des Zylinders bleibt, wird das gewünschte Verhalten erreicht. l = 0 bewirkt eine Aktualisierung der Bewegung von pa, wie im vorigen Absatz erläutert. Die kon- tinuierliche Aktualisierung von rd, ^d, r, ^ sowie pa ermöglicht den kontinuierli- chen Wechsel zu L1 und L2. D. Übergänge zwischen den LoAs
In der Tabelle I ist ein Überblick über die erforderlichen Ploa, die in Abschnitt III- C ausführlich beschrieben werden, gegeben. In L1 wird r gemäß Gl. (6) variiert,
22. August 2024 bis die gewünschte radiale Totzone rd erreicht ist. ^ wird entsprechend behan- delt. Die vorgestellte ffVF kodiert L0, L1 und L2 durch die Einführung eines Feed- Forward-Verhaltens, das durch dargestellt wird, und die Variation der Totzo- nen rd und ^d. Die Variation von , rd und ^d ermöglicht zusätzlich Übergänge zwischen verschiedenen LoAs. Tabelle I gibt einen Überblick über diese Parame- ter für die verschiedenen LoAs. Für Übergänge von L0 nach L1 werden ^d und rd entsprechend der aktuellen DoSC und Gleichung (5) eingestellt. Bei
oder kann die entsprechende Totzone wie in Abschnitt III-C.2 erläutert variiert werden. Auf diese Weise wird dem Benutzer so viel Orientierung gebo- ten, wie es die Unsicherheit der Schätzer zulässt. Der Wechsel von L1 zu L0 wird durch kontinuierliche Anpassung von ^d und rd an x und damit auch von r und ^ ermöglicht, so dass x innerhalb der zylindrischen VF bleibt. Für einen Übergang von L1 nach L2 sind minimale Totzonen erforderlich, was zu rd = ^d = 0 führt. rd und ^d werden durch Anwendung von gemäß Gl. (6) verringert. führt zu einer allmählich zunehmenden Beschleunigung von xa, was zu einer autonomen Bewegung von x entlang s führt. Für den Über- gang von L2 nach L1 ergibt sich durch keine autonome Bewegung von xa mehr. rd und ^d werden entsprechend dem aktuellen DoSC angepasst. IV. Auswertung In diesem Abschnitt werden Experimente zur Bewertung der vorgeschlagenen Methoden vorgestellt. Sie werden auf der DLR-Forschungsplattform für chirur- gische Roboter MiroSurge durchgeführt, die in Fig. 1 dargestellt ist. In der Fig. 1 zeigt die Abbildung (a) die Chirurgenkonsole mit einem haptischen Eingabe- gerät. Diese steuert das chirurgische Instrument und das Endoskop, die jeweils an den in der Abbildung (b) dargestellten MIRO-Roboterarmen befestigt sind. Die Abbildung (c) zeigt das Endoskopbild, das Aufschluss über die in Abschnitt
22. August 2024 IV-C durchgeführte Bewertungsaufgabe gibt. Ein 7-DoF-Leichtbau-Roboterarm MIRO ist an der linken Seitenschiene eines OP-Tisches montiert. Am MIRO ist eine MICA-Antriebseinheit angebracht, die ein am Handgelenk getragenes chi- rurgisches Instrument mit zusätzlichen 2 DoFs betätigt. Ein Force Dimension sigma.7 steuert die Pose des Instruments TCP x. Der sigma.7 ist ein 6 DoF Eingabegerät mit einem zusätzlichen Greif-DoF. Es ermöglicht die Darstellung von Schraubenschlüsseln in 7 DoFs. Ein zweiter MIRO, der ein Endoskop trägt, ist auf dem OP-Tisch montiert. Eine Softwareschicht verwendet einen Positions- regler, um die Bewegung von bis zu zwei Eingabegeräten auf x und das Endo- skop TCP mehrerer Avatar-Roboter abzubilden, wobei eine inverse Kinematik verwendet wird, die die Bewegungseinschränkungen am Einschnittpunkt beibe- hält (siehe [31] und [32]). In allen Experimenten werden M = 0,01 kg und D = 10 Ns/m gesetzt. Die in Abschnitt IV-A und Abschnitt IV-B beschriebenen Expe- rimente verwenden eine simulierte MICA und MIROs wie in Kapitel 8 von [33] beschrieben. Das in Abschnitt IV-C vorgestellte Experiment wird mit der realen MICA und den MIROs durchgeführt. In diesen Experimenten wird ein haptisches Eingabegerät von sigma.7 verwendet. A. Interaktive Autonomie auf Aufgabenebene L2 In diesem Experiment wird das nachgiebige Verhalten von ffVF gegenüber an- deren VFs bewertet. Dazu wird eine virtuelle Wand implementiert, um die Ge- lenkgrenzen des sigma.7 zu vermeiden, wie in [30] beschrieben. Das Erreichen der virtuellen Wand bewirkt die gegenläufigen virtuellen Schraubenschlüssel
, die auf das Eingabegerät projiziert werden. ww beeinflusst die Bewegung von ffVF. Für diese Erfahrung folgt x einem vordefinierten Spline ohne Benutzerinteraktionen am Eingabegerät. Die Unsicherheiten der Schätzer sind so voreingestellt, dass L2 gewährleistet ist. Hypothese: Bevor x die Wand erreicht hat, folgt es xp. Wenn x mit der virtuellen Wand in Berührung kommt, wird die Bewegung von xp = xa abgebremst und schließlich entsprechend der Bewegung von x gestoppt.
22. August 2024 Versuchsaufbau: Es wird ein SCT mit einem Zustand verwendet, der einen line- aren Spline s zwischen pref, der Position von Oref, und ptar, der Position von Otar, definiert. L2 wird während des gesamten Experiments mit und rd = ^d = 0 gesetzt. Es gibt keine Benutzerinteraktionen mit dem sigma.7. Ergebnis: Fig. 4 zeigt, dass die Bewegung von x abgebremst wird, wenn es die virtuelle Wand erreicht. Dabei wird die Bewegung von xp abgebremst und bleibt im Gleichgewicht von und , d.h.
stehen. Abb. 4a zeigt die Positio- nen von x und xp in axialer Richtung auf s (siehe 2. Kurve von oben), sowie ihren Abstand d (siehe erste Kurve von oben). Außerdem ist in (a) die zeitliche Entwicklung von (dritte Kurve von oben), (untere Kurve) und (zweite Kurve von unten) dargestellt. Bei t = 0s beginnen x und xp sich zu bewegen, wie in Abb. 4c dargestellt ist, leicht gestört durch die dynamischen Effekte des Eingabegeräts. Bei t = 2,2s trifft x auf die in Abb. 4d gezeigte virtuelle Wand. Mit zunehmendem verlangsamt sich die Bewegung von x und sein Abstand zu xp nimmt zu (siehe Abb. 4b). Dadurch erhöht sich . Dementsprechend wird die Bewegung von xp abgebremst, bis sie im Gleichgewicht von und zum Stillstand kommt, d. h. = 0 (siehe Abb. 4e). Diskussion: Dieses Experiment zeigt, wie durch ffVF eine interaktive Autonomie auf Aufgabenebene erreicht werden kann. Das interaktive Verhalten in Gegen- wart einer abstoßenden VF zeigt, dass ffVF mit anderen VFs zusammenarbeitet. Der gleiche Ansatz erlaubt Benutzerinteraktionen wie Beschleunigung oder Ver- langsamung während L2. B. Übergänge zwischen den LoAs Im folgenden Experiment werden die Übergänge zwischen L2 und L1 im Detail untersucht, indem U künstlich variiert wird, während x entlang s auf xp folgt.
22. August 2024 Hypothese: Wenn U variiert wird, ändert sich der adäquate LoA entsprechend, was zu Übergängen zwischen L2 und L1 und kontinuierlichen Anpassungen von DoSC führt. Diese Übergänge und Anpassungen führen zu glatten Trajektorien von x. Versuchsaufbau: Das gleiche SCT wie in Abschnitt IV-A erzeugt s. Künstliche Änderungen in U werden gemäß Fig. 5b ausgelöst. Während L1 telemanipuliert der Benutzer die DoF entlang s, während alle anderen DoFs durch ffVF einge- schränkt werden. In L2 gibt es keine Benutzerinteraktionen mit dem sigma.7. Ergebnis: Fig. 5 zeigt die Bewegung von x (siehe entlang von (A), (C) und (D) verlaufende Kurve) während L1 und L2. Der Benutzer erfährt sowohl uneinge- schränkte Bewegungen innerhalb der radialen Totzone als auch Verrenkungen, wenn x die Totzone verlässt. Die Variation von U führt zu Variationen von rd und damit zu einer Zunahme oder Abnahme von r. x folgt der Bewegung des Zylin- ders mit einer glatten Trajektorie. Wie in der Fig. 5 gezeigt ist, bewegt sich x (entlang von (A), (B), (C) und (D) verlaufende Kurve) entlang s (linear verlau- fende Kurve), wie dies in den Abb. 5a und 5c gezeigt ist. Abb. 5b zeigt die Variation von U, die eine Variation von LoA, fc und rd verursacht. (A) Die Über- gabe von L2 an L1 verursacht = 0N, daher bewegt sich xp nicht autonom entlang s. Der Benutzer übernimmt und bewegt x frei innerhalb des Zylinders. Da sich x innerhalb des Zylinders befindet, gibt es keine virtuellen Schraub- schlüssel (wrenches), die von der ffVF erzeugt werden. (B) U wird weiter erhöht, was zu einer Erhöhung von rd führt. (C) rd wird schrittweise entsprechend U verringert. Der Benutzer bewegt sich entlang der Spline, während die ffVF die verbleibenden kartisischen DoF kontrolliert. (D) U = 0, L2 übernimmt, der Be- nutzer nimmt die Hand vom Eingabegerät. Diskussion: Das evaluierte Konzept von ffVF und ASCOPE ermöglicht Übergänge zwischen den dargestellten LoA und gewährleistet gleichzeitig weiche Trajekto- rien von x. Bleibt x innerhalb des zylindrischen ffVF bei L1, kann der Benutzer ohne virtuelle Schraubenschlüssel manipulieren, was zu einer Bewegung wie in
22. August 2024 L0 führt. Beim Erreichen des seitlichen Bereichs des Zylinders gibt es Unterstüt- zung in Form von haptischer Führung. C. Umschalten zwischen verschiedenen SCTs Nach Nagy et al. werden in der Chirurgie benötigte Grundprinzipien durch Stift- transferaufgaben (auch als peg transfer tasks bezeichnet) erarbeitet [5]. Daher wurde in diesem Experiment eine Stifttransferaufgabe auf den realen MICA und MIROs implementiert, die in Fig. 1 dargestellt ist. Die SCT-Aufnahme (darge- stellt in Fig. 2b), der Übergang und die Platzierung werden nacheinander aus- geführt. Die Kontrolle über das Öffnen und Schließen der Greifer-DoF verbleibt dabei stets beim Benutzer. Hypothese: Wenn SCT Pick, Transition und Place nacheinander ausgeführt werden, wird der Ring unter Ausnutzung der Über- gänge zwischen L2 und L1 und umgekehrt erfolgreich von xs nach xg transfe- riert. Versuchsaufbau: Die SCT pick, transition und place arbeiten mit Oref = x. pick setzt Otar = xs, während transition und place xg als Otar verwenden. Sobald der Zustand des gerade aktiven SCTs erreicht ist, wird der Zustand state0 des nach- folgenden SCTs aktiviert. Während des Experiments wird U künstlich variiert, wobei eine Verdeckung der Sichtlinie des Tracking-Moduls berücksichtigt wird. Die Variation von U gemäß Fig. 5b führt zu unterschiedlichen LoA, was zu einer Variation von rd führt, während ^d = 0 gesetzt wird. Während L1 kontrolliert der Benutzer die DoF entlang des Splines und die Bewegung innerhalb der Totzonen. Während L2 entfernt der Benutzer entweder die Hand vom Eingabegerät oder interagiert mit L2, um die Geschwindigkeit der Aufgabenausführung anzupas- sen. Ergebnis: Der Ring wird erfolgreich von xs nach xg transferiert. Fig. 6 zeigt die Bewegung von x und den verschiedenen r während des Versuchs. Wie in der Fig. 6 gezeigt, bewegt sich x (Kurven innerhalb der Zylinder, die um den vor- gegebenen Bewegungspfad herum verlaufen) entlang verschiedener s (vorge- gebener Bewegungspfad innerhalb der Zylinder), um den Ring bei xs
22. August 2024 aufzunehmen und bei xg zu platzieren. U wird gemäß Abb. 5b moduliert, die auch die Legende enthält. Diskussion: Die Änderungen in U verursachen Änderungen in DoSC. Während L2 interagiert der Benutzer mit dem Eingabegerät. Daher zeigt dieses Experi- ment die Kombination der Experimente in Abschnitt IV-A und Abschnitt IV-B, die zum erfolgreichen Abschluss einer sinnvollen Aufgabe beim Chirurgentrai- ning führt. V. Diskussion und Schlussfolgerung Mit der vorliegenden Arbeit wird ein neuartiges Verfahren vorgestellt, die insbe- sondere für Anwendungen zur Teleoperation eingesetzt werden kann, wobei das Verfahren dem Benutzer während L1 und L2 eine haptische Augmentation bieten und gleichzeitig kontinuierliche Übergänge zwischen L0, L1, L2 und umgekehrt ermöglichen kann. Darüber hinaus ermöglicht das erfindungsgemäße Verfahren gemäß einigen bevorzugten Ausführungsformen auch Benutzerinteraktionen in L2. Schätzer können dabei bevorzugt Kontextinformationen sowie einen aus den Kontextinformationen ermittelten Unsicherheitsparameter bereitstellen, auf Grundlage dessen ein für die aktuelle Situation angemessener LoA ausgewählt werden kann. Während der Ausführung eines SCT kann ASCOPE die VFs basie- rend auf dem adäquaten LoA und die aktuellen Kontextinformationen paramet- risieren. Die vorgestellte ffVF ermöglicht sowohl haptische Augmentation wäh- rend L1 als auch autonome Bewegungen während L2. Das Design der ffVF be- rücksichtigt die auf das Eingabegerät ausgeübten Kräfte, was Benutzerinterak- tionen wie Beschleunigung und Abbremsung in L2 ermöglicht. Zusätzlich wird sichergestellt, dass die ffVF anderen VFs wie dem in [30] vorgestellten System rVF gehorcht. Außerdem folgt die ffVF Splines, was eine Verallgemeinerung auf verschiedene Aufgaben ermöglicht. Weitere bevorzugte Ausgestaltungen der Erfindung
22. August 2024 Nachfolgend werden weitere bevorzugte Ausgestaltungen der Erfindung zusam- mengefasst Bei der vorlegenden Erfindung können bevorzugt die nachfolgenden Merkmale vorgesehen sein: 0.1 Ein Robotersystem, das entweder HandsOn (drehmoment- bzw. kartesisch impedanzgeregelter (Leichtbau-) Roboter) oder mittels Telemanipulation gesteuert werden kann. 0.2 Im Fall der Telemanipulation, ein haptisches Eingabegerät, bei dem Kräfte und Drehmomente in mindestens einem, bestenfalls alles Freiheitsgraden gestellt werden können. 0.3 Verwendung von Virtual Fixtures mit Totzonen. 1.1 Die Kraft kann so bestimmt werden, dass Nutzerinteraktionen am Einga- begerät zu jeder Zeit Einfluss auf die Position des VF nehmen können. Dadurch wird das VF interaktiv für den Nutzer zu jeder Zeit. 1.2 Zusätzlich kann die Kraft so definiert werden, dass andere VFs eingehalten werden können, die zum Beispiel die Systemgrenzen des Roboters darstel- len. 1.3 Diese Kraft setzt an einem virtuellen Massepunkt an, der an dem Ursprung des VF eingeführt wird. 1.4 Dieser Massepunkt erhält eine Dämpfung. 1.5 Die Kraft wirkt in eine bestimmte Richtung, z.B. entlang einer Spline. Somit kann das VF entlang einer Spline bewegt werden. 2 Die Totzone (translatorisch und rotatorisch) kann zur Laufzeit vergrößert und verkleinert werden. 2.1 Die Vergrößerung/Verkleinerung der Totzone wird durch eine Kraft ausge- löst. 2.2 Die Kraft kann so bestimmt werden, dass Nutzerinteraktionen am Einga- begerät zu jeder Zeit Einfluss auf die Position des VF nehmen. Dadurch wird das VF interaktiv für den Nutzer zu jeder Zeit.
22. August 2024 2.3 Zusätzlich kann die Kraft so definiert werden, dass andere VFs eingehalten werden, die zum Beispiel die Systemgrenzen des Roboters darstellen. 2.4 Diese Kraft setzt an einem virtuellen Massepunkt an, der an der Position der aktuellen Totzone eingeführt wird. 2.5 Der Massepunkt erhält eine Dämpfung. 2.6 Die Vergrößerung/Verkleinerung der Totzone hat Einfluss auf die Präzision der haptischen Augmentierung. 3 Mit Hilfe der Merkmalsgruppen 1 und 2 können verschiedene Autonomie- stufen realisiert werden. 3.1 Autonomie auf Aufgabenebene: Die Kraft gemäß Merkmalsgruppe 1 wird entlang einer Trajektorie definiert. Dies bewirkt, dass der IP (Interest Point) dieser Trajektorie autonom folgt. 3.2 Geteilte Kontrolle: 3.2.1 Die Kraft gemäß Merkmalsgruppe 1 kann so gesetzt werden, dass keine autonomen Bewegungen des IP daraus resultieren. 3.2.2 Die Totzonen können mit der Merkmalsgruppe 2 so angepasst werden, dass die Ungenauigkeiten des Systems vom Benutzer angepasst werden können. 3.3 Direkte Steuerung (HandsOn, Telemanipulation): Die Totzonen können so angepasst werden, dass der Nutzer keine haptische Augmentierung spürt. 3.4 Für den Übergang zwischen Autonomie auf Aufgabenebene und geteilter Kontrolle kann die Kraft gemäß Merkmalsgruppe 1 angepasst werden. 3.5 Für den Übergang zwischen geteilter Kontrolle und Telemanipulation kön- nen die Totzonen gemäß Merkmalsgruppe 2 angepasst werden.
22. August 2024 Literaturverzeichnis [1] T. Haidegger, “Autonomy for Surgical Robots: Concepts and Paradigms,” IEEE Trans. Med. Robot. Bionics, vol. 1, no. 2, pp. 65–76, Mai 2019. [2] A. Attanasio, B. Scaglioni, M. Leonetti, A. F. Frangi, W. Cross, C. S. Bi- yani, und P. Valdastri, “Autonomous Tissue Retraction in Robotic As- sisted Minimally Invasive Surgery – A Feasibility Study,” IEEE Robot. Autom. Lett., Vol. 5, No. 4, pp. 6528–6535, Oktober 2020. [3] P. Fiorini, K. Y. Goldberg, Y. Liu, und R. H. Taylor, “Concepts and Trends in Autonomy for Robot-Assisted Surgery,” Proc. IEEE, Vol. 110, No. 7, pp. 993–1011, Juli 2022. [4] T. D. Nagy und T. Haidegger, “Performance and Capability Assessment in Surgical Subtask Automation,” Sensors, Vol. 22, No. 7, p. 2501, März 2022, Number: 7. [5] T. D. Nagy und T. P. Haidegger, “Towards Standard Approaches for the Evaluation of Autonomous Surgical Subtask Execution,” in 2021 IEEE 25th International Conference on Intelligent Engineering Systems (INES). Budapest, Hungary: IEEE, Juli 2021, pp. 000067–000074. [6] M. Stoiber, M. Sundermeyer, und R. Triebel, “Iterative corresponding geometry: Fusing region and depth for highly efficient 3d tracking of textureless objects,” in Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), Juni 2022, pp. 6855– 6865. [7] M. Hwang, J. Ichnowski, B. Thananjeyan, D. Seita, S. Paradis, D. Fer, T. Low, und K. Goldberg, “Automating Surgical Peg Transfer: Calibration With Deep Learning Can Exceed Speed, Accuracy, and Consistency of Humans,” IEEE Trans. Automat. Sci. Eng., pp. 1–14, 2022. [8] J. Rosen und J. Ma, “Autonomous Operation in Surgical Robotics,” Me- chanical Engineering, Vol. 137, No. 09, pp. S15–S18, September 2015. [9] M. M. Rahman, M. V. Balakuntala, G. Gonzalez, M. Agarwal, U. Kaur, V. L. N. Venkatesh, N. Sanchez-Tamayo, Y. Xue, R. M. Voyles, V. Ag- garwal, und J. Wachs, “SARTRES: a semi-autonomous robot teleopera- tion environment for surgery,” Computer Methods in Biomechanics and
22. August 2024 Biomedical Engineering: Imaging & Visualization, Vol. 9, No. 4, pp. 376– 383, Juli 2021. [10] S. Sen, A. Garg, D. V. Gealy, S. McKinley, Y. Jen, und K. Goldberg, “Au- tomating multi-throw multilateral surgical suturing with a mechanical needle guide and sequential convex optimization,” in 2016 IEEE Interna- tional Conference on Robotics and Automation (ICRA). Stockholm, Schweden: IEEE, Mai 2016, pp. 4178–4185. [11] Hyosig Kang und J. Wen, “Autonomous suturing using minimally inva- sive surgical robots,” in Proceedings of the 2000. IEEE International Conference on Control Applications. Conference Proceedings (Cat. No.00CH37162). Anchorage, AK, USA: IEEE, 2000, pp. 742–747. [12] S. A. Pedram, C. Shin, P. W. Ferguson, J. Ma, E. P. Dutson, und J. Rosen, “Autonomous Suturing Framework and Quantification Using a Cable-Driven Surgical Robot,” IEEE Trans. Robot., vol. 37, no. 2, pp. 404–417, April 2021. [13] M. Kam, H. Saeidi, M. H. Hsieh, J. U. Kang, und A. Krieger, “A Confi- dence-Based Supervised-Autonomous Control Strategy for Robotic Vagi- nal Cuff Closure,” in 2021 IEEE International Conference on Robotics and Automation (ICRA). Xi’an, China: IEEE, Mai 2021, pp. 12261–12 267. [14] H. Saeidi, J. D. Opfermann, M. Kam, S. Wei, S. Leonard, M. H. Hsieh, J. U. Kang, und A. Krieger, “Autonomous robotic laparoscopic surgery for intestinal anastomosis,” Sci. Robot., vol. 7, no. 62, p. eabj2908, Januar 2022. [15] D. Zhang, B. Xiao, B. Huang, L. Zhang, J. Liu, und G.-Z. Yang, “A Self- Adaptive Motion Scaling Framework for Surgical Robot Remote Control,” IEEE Robot. Autom. Lett., vol. 4, no. 2, pp. 359–366, April 2019. [16] L. Rosenberg, “Virtual fixtures: Perceptual tools for telerobotic manipu- lation,” in Proceedings of IEEE Virtual Reality Annual International Sym- posium. Seattle, WA, USA: IEEE, 1993, pp. 76–82. [17] J. J. Abbott, P. Marayong, und A. M. Okamura, “Haptic Virtual Fixtures for Robot-Assisted Manipulation,” in Robotics Research, S. Thrun, R. Brooks, and H. Durrant-Whyte, Eds. Berlin, Heidelberg: Springer Berlin
22. August 2024 Heidelberg, 2007, vol. 28, pp. 49–64, series Title: Springer Tracts in Ad- vanced Robotics. [18] S. A. Bowyer, B. L. Davies, und F. Rodriguez y Baena, “Active Con- straints/Virtual Fixtures: A Survey,” IEEE Trans. Robot., vol. 30, no. 1, pp. 138–157, Februar 2014. [19] M. Selvaggio, G. A. Fontanelli, F. Ficuciello, L. Villani, und B. Siciliano, “Passive Virtual Fixtures Adaptation in Minimally Invasive Robotic Sur- gery,” IEEE Robot. Autom. Lett., vol. 3, no. 4, pp. 3129–3136, Oktober 2018, Nummer: 4. [20] Z. Li, A. Gordon, T. Looi, J. Drake, C. Forrest, und R. H. Taylor, “Ana- tomical Mesh-Based Virtual Fixtures for Surgical Robots,” arXiv:2006.02415 [cs, eess], Juli 2020, arXiv: 2006.02415. [21] M. Muhlbauer, F. Steinmetz, F. Stulp, T. Hulin, und A. Albu-Schaffer, “Multi-Phase Multi-Modal Haptic Teleoperation,” in 2022 IEEE/RSJ Inter- national Conference on Intelligent Robots and Systems (IROS). Kyoto, Japan: IEEE, Oktober 2022, pp. 7734–7741. [22] M. Muhlbauer, F. Stulp, A. Albu-Schaffer, und J. Silverio, “Mixture of ex- perts on Riemannian manifolds for visual-servoing fixtures.” [23] G. A. Fontanelli, G.-Z. Yang, und B. Siciliano, “A Comparison of Assistive Methods for Suturing in MIRS,” in 2018 IEEE/RSJ International Confer- ence on Intelligent Robots and Systems (IROS). Madrid: IEEE, Oct. 2018, pp. 4389–4395. [24] H. Saeidi, J. D. Opfermann, M. Kam, S. Raghunathan, S. Leonard, und A. Krieger, “A Confidence-Based Shared Control Strategy for the Smart Tissue Autonomous Robot (STAR),” in 2018 IEEE/RSJ International Con- ference on Intelligent Robots and Systems (IROS), Oktober 2018, pp. 1268–1275, iSSN: 2153-0866. [25] F. Ferraguti, N. Preda, G. De Rossi, M. Bonfe, R. Muradore, P. Fiorini, und C. Secchi, “A two-layer approach for shared control in semiautono- mous robotic surgery,” in 2015 European Control Conference (ECC). Linz, Austria: IEEE, Jul. 2015, pp. 747–752. [26] K. Shamaei, Y. Che, A. Murali, S. Sen, S. Patil, K. Goldberg, und A. M. Okamura, “A paced shared-control teleoperated architecture for
22. August 2024 supervised automation of multilateral surgical tasks,” in 2015 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS). Hamburg, Germany: IEEE, September 2015, pp. 1434–1439. [27] R. Balachandran, H. Mishra, M. Cappelli, B. Weber, C. Secchi, C. Ott, und A. Albu-Schaeffer, “Adaptive authority allocation in shared control of robots using bayesian filters,” in 2021 IEEE International Conference on Robotics and Automation (ICRA), 2020, pp. 11298–11304. [28] S. Bustamante, G. Quere, K. Hagmann, X. Wu, P. Schmaus, J. Vogel, F. Stulp, und D. Leidner, “Toward Seamless Transitions Between Shared Control and Supervised Autonomy in Robotic Assistance,” IEEE Robot. Autom. Lett., vol. 6, no. 2, pp. 3833–3840, April 2021. [29] G. Quere, A. Hagengruber, M. Iskandar, S. Bustamante, D. Leidner, F. Stulp, and J. Vogel, “Shared Control Templates for Assistive Robotics,” in 2020 IEEE International Conference on Robotics and Automation (ICRA), Mai 2020, pp. 1956–1962, iSSN: 2577-087X. [30] K. Hagmann, A. Hellings-Kuß, J. Klodmann, R. Richter, F. Stulp, and D. Leidner, “A Digital Twin Approach for Contextual Assistance for Sur- geons During Surgical Robotics Training,” Front. Robot. AI, vol. 8, p. 735566, September 2021. [31] C. Schlenk, T. Bahls, S. Tarassenko, J. Klodmann, M. Bihler, and T. Wuesthoff, “Robot Integrated User Interface for Physical Interaction with the DLR MIRO in Versatile Medical Procedures,” J. Med. Robot. Res., vol. 03, no. 02, p. 1840006, Juni 2018, Nummer: 02. [32] U. Seibold, K. Bernhard, T. Bahls, R. Haslinger, und F. Steidle, “THE DLR MIROSURGE SURGICAL ROBOTIC DEMONSTRATOR,” in The Encyclope- dia of Medical Robotics. Patel R, 2018, vol. Volume 1: Minimally Inva- sive Surgical RoboticsVolume, pp. 111–142. [33] L. Grespan, P. Fiorini, und G. Colucci, The Route to Patient Safety in Ro- botic Surgery, ser. Springer Tracts in Advanced Robotics. Cham: Springer International Publishing, 2019, vol. 126. [34] G. Quere, S. Bustamante, A. Hagengruber, J. Vogel, F. Steinmetz, und F. Stulp, “Learning and Interactive Design of Shared Control Tem- plates,” in 2021 IEEE/RSJ International Conference on Intelligent
22. August 2024 Robots and Systems (IROS). Prague, Czech Republic: IEEE, September 2021, pp. 1887–1894.
Claims
22. August 2024 Patentansprüche 1. Robotersystem umfassend mindestens einen Roboterarm und eine Steuer- einheit, wobei die Steuereinheit dazu eingerichtet ist: - das Robotersystem in einem ersten Betriebsmodus, einem zweiten Be- triebsmodus und einem dritten Betriebsmodus zu betreiben und zwi- schen den einzelnen Betriebsmodi umzuschalten; - einen Autonomie-Parameter zu bestimmen, der einen graduell einstell- baren Autonomiegrad für die Steuerung des Robotersystems innerhalb des zweiten Betriebsmodus definiert, - das Robotersystem in dem ersten Betriebsmodus in Abhängigkeit von einer Eingabe eines Benutzers zu steuern; - das Robotersystem in dem zweiten Betriebsmodus in Abhängigkeit von einer Eingabe eines Benutzers, einem vorgegebenen Bewegungsablauf sowie dem Autonomie-Parameter zu steuern; und - das Robotersystem in dem dritten Betriebsmodus in Abhängigkeit von einem vorgegebenen Bewegungsablauf zu steuern; wobei - die Steuereinheit dazu eingerichtet ist, in dem zweiten Betriebsmodus den durch den Autonomie-Parameter definierten Autonomiegrad der Steuerung unter Verwendung einer Virtuellen Halterung und durch Va- riation der Parameter der Virtuellen Halterung einzustellen. 2. Robotersystem nach Anspruch 1, dadurch gekennzeichnet, dass die Virtu- elle Halterung durch einen geometrischen Körper und durch geometrische Parameter, die den geometrischen Körper beschreiben, definiert ist, wobei im Innenraum des geometrischen Körpers eine Totzone definiert ist, inner- halb derer Eingaben eines Benutzers zur Steuerung des Robotersystems uneingeschränkt umgesetzt werden, wobei die Virtuelle Halterung bevor- zugt durch einen Zylinder, ein Ellipsoid oder einen Quader definiert ist. 3. Robotersystem nach Anspruch 1 oder 2, dadurch gekennzeichnet, dass die Steuereinheit dazu konfiguriert ist, den Betriebsmodus und/oder den Auto- nomiegrad in Abhängigkeit von einer Benutzereingabe umzuschalten.
22. August 2024 4. Robotersystem nach Anspruch 1 oder 2, dadurch gekennzeichnet, dass die Steuereinheit dazu konfiguriert ist, den Betriebsmodus und/oder den Auto- nomiegrad automatisch und in Abhängigkeit von zuvor ermittelten Kontex- tinformationen einzustellen. 5. Robotersystem nach Anspruch 4, dadurch gekennzeichnet, dass die Steu- ereinheit dazu konfiguriert ist, zum automatischen Einstellen des Betriebs- modus und/oder des Autonomiegrades einen Unsicherheitsparameter U zu ermitteln, wobei der Unsicherheitsparameter U die Unzuverlässigkeit von innerhalb des Robotersystems aufgenommenen Messdaten wiedergibt. 6. Robotersystem nach Anspruch 5, dadurch gekennzeichnet, dass die Steu- ereinrichtung dazu eingerichtet ist, den Betriebsmodus in Abhängigkeit von dem ermittelten Unsicherheitsparameter U festzulegen, wobei die Steuer- einrichtung dazu ausgelegt ist: - den ersten Betriebsmodus auszuwählen, sofern der Unsicherheitspara- meter U einen ersten Schwellwert U1 überschreitet; - den zweiten Betriebsmodus auszuwählen, sofern der Unsicherheitspa- rameter U zwischen dem ersten Schwellwert und einem zweiten Schwellwert U2 liegt, wobei U1 größer ist U2 gilt; und - den dritten Betriebsmodus auszuwählen, sofern der ermittelte Unsi- cherheitsparameter U den zweiten Schwellwert U2 unterschreitet. 7. Robotersystem nach einem der Ansprüche 5 bis 6, dadurch gekennzeich- net, dass die Virtuelle Halterung durch einen Zylinder definiert ist, der ei- nen Zylinderradius ^^ aufweist, wobei der Zylinderradius ^^ in dem zweiten Betriebsmodus gemäß ^^ = ^^ ^ in Abhängigkeit von einem zuvor ermittelten Unsicherheitsparameter U ein- gestellt wird, wobei ^^ einen Gewichtungsfaktor beschreibt.
22. August 2024 8. Robotersystem nach einem der Ansprüche 1 bis 7, dadurch gekennzeich- net, dass die Steuereinheit dazu eingerichtet ist, von dem dritten Betriebs- modus in den zweiten Betriebsmodus umzuschalten, sofern die Steuerein- heit eine von dem Benutzer über ein Eingabegerät ausgeübte Kraft detek- tiert, die einen vorgegebenen Kraft-Schwellwert überschreitet. 9. Robotersystem nach einem der Ansprüche 1 bis 8, dadurch gekennzeich- net, dass die Steuereinheit dazu eingerichtet ist, das Robotersystem in ei- nem dritten Betriebsmodus derart zu steuern, dass eine Komponente des Robotersystems gemäß einem vorgegebenen Bewegungsablauf bewegt wird, wobei die Geschwindigkeit der Bewegung in Abhängigkeit von einer Benutzereingabe einstellbar ist. 10. Robotersystem nach einem der Ansprüche 1 bis 9, gekennzeichnet durch eine Eingabevorrichtung, die dazu ausgelegt ist, eine Eingabe des Benut- zers zu erfassen und in Reaktion auf die Eingabe des Benutzers ein der Eingabe entsprechendes Eingabesignal zu generieren und das Eingabesig- nal an die Steuereinheit zu übertragen. 11. Verfahren zur Steuerung eines Robotersystems umfassend einen Roboter- arm und eine Steuereinheit, wobei das Verfahren die nachfolgenden Schritte aufweist: - Steuern des Robotersystems in einem ersten Betriebsmodus, einem zweiten Betriebsmodus und einem dritten Betriebsmodus, wobei zwi- schen den Betriebsmodi umgeschaltet werden kann; - Bestimmen eines Autonomie-Parameters, der graduell einstellbar ist und den Autonomiegrad der Steuerung des Robotersystems während des zweiten Betriebsmodus definiert; - Steuern des Robotersystems in dem ersten Betriebsmodus in Abhän- gigkeit von einer Eingabe eines Benutzers, sofern der erste Betriebs- modus ausgewählt ist;
22. August 2024 - Steuern des Robotersystems in dem zweiten Betriebsmodus in Abhän- gigkeit von einer Eingabe eines Benutzers, einem vorgegebenen Bewe- gungsablauf und dem Autonomie-Parameter, sofern der zweite Be- triebsmodus ausgewählt ist; und - Steuern des Robotersystems in dem dritten Betriebsmodus in Abhän- gigkeit von einem vorgegebenen Bewegungsablauf, sofern der dritte Betriebsmodus ausgewählt ist; - wobei der Autonomiegrad der Steuerung des Robotersystems in dem zweiten Betriebsmodus unter Verwendung einer Virtuellen Halterung und durch Variation der Parameter der Virtuellen Halterung eingestellt wird.
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| DE102023124155.9A DE102023124155A1 (de) | 2023-09-07 | 2023-09-07 | Robotersystem und Verfahren zur Steuerung eines Robotersystems |
| PCT/EP2024/074723 WO2025051800A1 (de) | 2023-09-07 | 2024-09-04 | Robotersystem und verfahren zur steuerung eines robotersystems |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| EP4774108A1 true EP4774108A1 (de) | 2026-07-15 |
Family
ID=92708919
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| EP24768027.5A Pending EP4774108A1 (de) | 2023-09-07 | 2024-09-04 | Robotersystem und verfahren zur steuerung eines robotersystems |
Country Status (3)
| Country | Link |
|---|---|
| EP (1) | EP4774108A1 (de) |
| DE (1) | DE102023124155A1 (de) |
| WO (1) | WO2025051800A1 (de) |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9333650B2 (en) * | 2012-05-11 | 2016-05-10 | Vanderbilt University | Method and system for contact detection and contact localization along continuum robots |
| WO2015134391A1 (en) * | 2014-03-03 | 2015-09-11 | University Of Washington | Haptic virtual fixture tools |
| US11135015B2 (en) * | 2017-07-21 | 2021-10-05 | Globus Medical, Inc. | Robot surgical platform |
| DE102020121561B3 (de) * | 2020-08-17 | 2021-11-25 | Deutsches Zentrum für Luft- und Raumfahrt e.V. | Steuerungsverfahren für ein bilaterales Teleoperationssystem, Controller, Teleoperationssystem und Verwendung des Controllers und/oder des Teleoperationssystems |
| DE102021104883B3 (de) * | 2021-03-01 | 2022-06-15 | Deutsches Zentrum für Luft- und Raumfahrt e.V. | Verfahren zum roboterunterstützten Ausführen von Aufgaben, Roboter zum Unterstützen eines Benutzers beim Ausführen von Aufgaben und Computerprogrammprodukt |
| DE102022104525B4 (de) * | 2022-02-25 | 2024-11-07 | Deutsches Zentrum für Luft- und Raumfahrt e.V. | Verfahren und Roboter zum Ausführen von Aufgaben und Computerprogramm |
-
2023
- 2023-09-07 DE DE102023124155.9A patent/DE102023124155A1/de active Pending
-
2024
- 2024-09-04 EP EP24768027.5A patent/EP4774108A1/de active Pending
- 2024-09-04 WO PCT/EP2024/074723 patent/WO2025051800A1/de not_active Ceased
Also Published As
| Publication number | Publication date |
|---|---|
| DE102023124155A1 (de) | 2025-03-13 |
| WO2025051800A1 (de) | 2025-03-13 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: UNKNOWN |
|
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: THE INTERNATIONAL PUBLICATION HAS BEEN MADE |
|
| PUAI | Public reference made under article 153(3) epc to a published international application that has entered the european phase |
Free format text: ORIGINAL CODE: 0009012 |
|
| STAA | Information on the status of an ep patent application or granted ep patent |
Free format text: STATUS: REQUEST FOR EXAMINATION WAS MADE |
|
| 17P | Request for examination filed |
Effective date: 20251208 |
|
| AK | Designated contracting states |
Kind code of ref document: A1 Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC ME MK MT NL NO PL PT RO RS SE SI SK SM TR |