WO2018007102A1 - Verfahren zur interaktion eines bedieners mit einem modell eines technischen systems - Google Patents

Verfahren zur interaktion eines bedieners mit einem modell eines technischen systems Download PDF

Info

Publication number
WO2018007102A1
WO2018007102A1 PCT/EP2017/064249 EP2017064249W WO2018007102A1 WO 2018007102 A1 WO2018007102 A1 WO 2018007102A1 EP 2017064249 W EP2017064249 W EP 2017064249W WO 2018007102 A1 WO2018007102 A1 WO 2018007102A1
Authority
WO
WIPO (PCT)
Prior art keywords
mark
processing
operator
hnd1
handling
Prior art date
Application number
PCT/EP2017/064249
Other languages
English (en)
French (fr)
Inventor
Asa Macwilliams
Markus Sauer
Original Assignee
Siemens Aktiengesellschaft
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens Aktiengesellschaft filed Critical Siemens Aktiengesellschaft
Priority to US16/315,231 priority Critical patent/US10642377B2/en
Priority to EP17730452.4A priority patent/EP3465385A1/de
Priority to CN201780041831.5A priority patent/CN109416587A/zh
Publication of WO2018007102A1 publication Critical patent/WO2018007102A1/de

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842—Selection of displayed objects or displayed text elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04847—Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts

Definitions

  • the invention relates to a method for the interaction of an operator with a model of a technical system.
  • Such a method is used, for example, in the field of automation technology, in production or convincedma ⁇ machines, in diagnostic or service support systems and in the operation and maintenance of complex components, devices and systems, especially industrial or medical ⁇ shear systems used.
  • Interaction systems are known in the prior art which assist a user of technical installations with the aid of an enriched situation presentation while managing set-up and maintenance work.
  • An enriched presentation of the situation is also known in the art as "Augmented Reality".
  • a perceptible by the operator situation with computer-generated Rajinforma ⁇ tions or virtual objects is supplemented or replaced by overlay or overlay.
  • virtual action marks are an in ⁇ dustrieroboters known for the purpose of collision analysis, which superimpose a real industrial environment in the field of view of an Since ⁇ tenbrille to allow the operator an intuitive Göprü- Fung, if the industrial robot of its dimensions or its radius of action at a intended location can be positioned in the intended environment.
  • a selection of virtual objects as well as a retrieval of additional information requires the acquisition of commands by the operator.
  • input devices such as keyboard, touch screen, Gra ⁇ phiktablett, trackpad or mouse, which for a seated working are beitsposition an operator in an office environment zugeschnit ⁇ th, from already due to the usually stationary Ar ⁇ beitsposition.
  • a known optical detection of gestures takes place in ⁇ example using Microsoft Kinect, Leap Moti ⁇ on or Microsoft HoloLens.
  • One or more optical detection devices detect the posture of the operator in three dimensions, for example using time of flight or striped light topometry
  • the object of the present invention is to provide an interaction system with an intuitive and non-contact detection of processing operations, which makes handling of input devices unnecessary.
  • the inventive method for interaction of a Bedie ⁇ ners with a model of a technical system provides a correct position visualization of objects of the model in a virtual scene and a correct position visualization min ⁇ least a handling mark.
  • a plurality of local parameters are detected which are associated with one or both forearms of the operator.
  • One or more processing marks generated from the local parameters are visualized in the virtual scene.
  • the operator first activates one or more processing marks as a first processing mark associated with a first handling mark. tion or plurality of first processing marks.
  • machining operations are carried out on the first handling mark as a function of a change of the lower arm of traceable local parameters associated with a change in position of a lower arm assigned to the first processing mark.
  • the forearm of the operator experiences a rotary or linear position change, or ei ⁇ ne combination of a translational and a rotational change in position.
  • a particular advantage of the invention over conventional methods is the activation and release of a machining operation by the operator.
  • Known conventional methods for interaction of a Bedie ⁇ listeners with a model of a technical system provide übli ⁇ chzel gesture control method, which hasten the problem of a non-contact interaction with two- or three-dimensional objects by means of a controller via a virtual cursor or similar with a mouse pointer input control to solve.
  • the question arises as to how the activation and release of a processing is to be solved, which takes place in the case of a conventional mouse control over a mouse click.
  • the invention solves this problem by activating and / or releasing a machining operation by means of a rotation of a forearm of the operator.
  • a rotati- Onshog for example, a pronation or supination of the forearm
  • a particular advantage of the invention is that biomechanical conditions of a human arm are advantageously used: An operator can initiate a rotation of the hand joint independently of a pointing direction of the forearm. In this way, an operator can use joint movements, particularly shoulder rotation and elbow flexion, to change the position of the forearm to change local parameters for a processing mark, while enabling and / or activating processing operations can be caused by independent rotation of the forearm.
  • a further advantage of the method according to the invention can be seen in the fact that the means necessary for exercising the gesture control do not require any special devices. In particular, no finger gesture or electromyographic means are required.
  • the method according to the invention allows finely granular control of various and easily distinguishable parameters of a visualized model for controlling a technical system. To visualize a virtual scenery - that is, various objects and associated handling marks - of this model, a simple screen is sufficient.
  • Another advantage of the invention is that the operator must use and learn only a small number of gestures to control the interaction system. These include, in particular, activation, movement and release of processing marks with the aid of a handle. marking. The release of an assignment of the processing mark to a processing mark is intuitively carried out with a rotational movement of the forearm.
  • Another advantage of the interaction method according to the invention is that the type of operation provides the greatest possible protection against accidental release of the release. The design of the handling marks can be made so that the operator does not cause erroneous release during control of the processing marks with changes in position.
  • the work carried out in the model of the technical system ⁇ machining processing operations are implemented in control operations on the technical system. This measure allows beyond a simple simulation control of the technical system.
  • the handling mark is assigned to at least one object or at least one area of the virtual scene.
  • a local distance between a processing mark and the at least first handling mark is determined.
  • an activation of a processing marking whose local distance to the first handling mark is below a predefinable first threshold value takes place as a first processing mark assigned to the first handling mark.
  • a marking of a bear tion mark whose local distance to a first handling mark is below a specifiable first threshold value, as a first processing mark which can be assigned to the first handling mark.
  • an activation of the assignable first processing mark takes place as a first processing mark assigned to a first handling mark as a function of a change of local parameters which are traceable to a rotational movement of a lower arm assigned to the first processing mark.
  • Said change in the local parameters which can be traced back to a rotational movement is also to be understood in such a way that the operator has already turned the forearm into a planned position - and thus has previously caused the rotational movement - before the processing marking of the handling marking is approached, so that as well in this case - ie without an over the previous hin ⁇ outgoing, additional rotational movement - an activation of the handling mark takes place.
  • the first embodiment has the advantage of easy activation by mere approximation of the forearm controlled handling mark to a processing mark.
  • the second embodiment provides for an explicit arm rotation for the final selection of the processing marking.
  • This second embodiment is advantageous if an additional confirmation of the activation by a rotational movement is desired, in particular for reasons of safe operation.
  • a feedback message is output to the operator. The feedback indicates to the user a prominent activation of the processing mark. This feedback is preferably haptic, audible or visual.
  • An acoustic or a haptic feedback could, for example, by an execution of a Gesture detection unit as a smart watch done, which has üb ⁇ Licher way corresponding actuators for the output of such feedback.
  • the second threshold value of the local distance is preferential ⁇ , above the first threshold value, so that the dung vommel ⁇ an impending activation prior to the actual activation occurs.
  • the operator can decide for triggering the feedback on whether he continues the processed mark towards the to be activated handling mark, or, - in the event that the chosen for the machining ⁇ tung mark rate should not be delivering an activation of the approximate handling mark - the Change course accordingly.
  • Fig. 1 a schematic structural representation of an interaction system with a controlling operator
  • FIG. 2 shows a schematic representation of an interaction of an operator with a model of a technical
  • FIG. 1 shows an operator USR shown in a plan view, whose gestures formed by one or both forearms are detected by means of at least one gesture detection unit GS.
  • the gesture detection unit is adapted to be worn on the human body and comprises at least one mounted in a forearm of the operator USR Gestenerfas ⁇ sungsech GS with a plurality of inertial sensors for detecting the forearm of the operator USR associated plurality of local parameters, in particular Parameters which are formed by a movement, rotation and / or position of the arms of the operator USR.
  • a - for example optical - tracking system is used.
  • infrared cameras capture the local parameters based Minim ⁇ least one optical marker and enter this unit to a control on.
  • the local parameters include at least two, preferably associated with three degrees of freedom, of which at least a local Para ⁇ meter of a rotational movement, ie a pronation relate hung as supination of the forearm.
  • a gesture detection unit GS a so-called watch with integrated Bevantungssenso ⁇ reindeer, magnetic sensors and gyroscopic sensors is for example used. By evaluating these sensors, an orientation determination with three degrees of freedom is possible. With a corresponding calibration of these sensors and an at least temporarily stationary position of the user USR, a secure detection of three local parameters considered in more detail below is made possible:
  • a forearm rotation that is, a pronation or supination of the forearm, that is, executed with the help of the wrist rotation of the forearm about its major axis.
  • a triplet (sr, ef, fp) is continued from the above parameters, consisting of a parameter sr for shoulder rotation, a parameter ef for elbow flexion ef, and a parameter fp for forearm rotation or forearm pronation.
  • Each local parameters of this triplet represents an angle in Real ⁇ tion to a defined start orientation, for example egg A north-facing arm in a horizontal direction with an upward thumb.
  • a visualization device SCN designed here as a screen, is provided.
  • a correct position visualization of a processing mark HND which is visualized in this embodiment as a circular structure CR with a representation of the thumb direction TP.
  • Embodiments for the visualization device SCN also include a large-screen in an operating room, data glasses or home or "head mounted display", a projector for projecting a scene - in particular a positionally correct projection of anatomical image or structure data - onto a body of a patient.
  • a visualization device SCN can be partially dispensed with, in that the positionally correct visualization of objects of the model in the virtual scene does not take place through virtual but through real objects, for example during movement control or programming of robot arms.
  • the correct position visualization of the real objects associated handling marks and the processing mark would in such a case with an enriched situation presentation or augmented reality, for example by Pro ⁇ jection of handling marks on the real objects or in the field of view of the operator, such as a Da ⁇ tenbrille, done.
  • a - not shown - control unit is provided for Ansteu ⁇ ern visualization unit SCN.
  • the Steue ⁇ approximation unit a detection of the detected from the Gestenerfas ⁇ sungsappel GS gestures and a processing to be triggered by the gestures of the operator's interaction with a USR displayed on the visualization unit SCN scene takes place.
  • the scenery comprises or represents a model of a technical system which the operator USR can control, configure and operate in the exercise of the interaction procedure.
  • processing marks HND The interaction takes place by influencing processing marks HND.
  • Each processing marking HND is shown controlled by the above-mentioned triple local parameters Bezie ⁇ hung example.
  • a movement in the horizontal direction XD or a movement in the vertical direction YD by an appropriate combination of school ⁇ terrotation and elbow flexion is formed.
  • the movement in the horizontal or vertical direction XD, YD is effected intuitively by a corresponding movement of a visual projection of the operator USR in the horizontal or vertical direction XD, YD.
  • the visual projection of the operator USR corresponds to an extension of the lower arm axis of the operator USR shown in phantom in the drawing.
  • the processed mark HND is a visual representa ⁇ tion of a gesture on the display unit SCN.
  • This visual representation is generated by an assignment function which assigns the visual parameter acquired from the gesture detection unit GS to the local representation.
  • the machining ⁇ tung mark HND moved in the corresponding manner.
  • FIG. 2 shows a schematic representation of a scene consisting of an exemplary image of a plurality of berries and a plurality of handling markers HND2, HND3, HND4, HND5.
  • the operator USR have comprehensive range to define the illustrated embodiment, the task of a rectangular section of the image, such as a merely a berry Be ⁇ .
  • the processing mark HND1 is within the rectangular section due to the current arm position of the operator USR.
  • the thumb position of the operator is currently directed in an 8 o'clock direction.
  • the operator USR can now assign the next third handling mark HND3 to the processing mark HND1 and thus activate the handling mark HND3 for processing. It can then carry out machining operations on the third handling mark HND3 as a function of a change in a forearm assigned to a change in position of a forearm assigned to the processing mark HND1-for example the right forearm of FIG. 1-of traceable local parameters.
  • a translational position change comprises a change of the first two local parameters of the triple (sr, ef, fp).
  • the operator USR causes a release of the assignment of the machining mark HND1 to the third handler HND3 by changing the forearm of traceable local parameters associated with a rotational movement of the machining mark HNDl, in other words the local parameter fp in the triple (sr, ef , fp).
  • the operator can machining mark HNDL then for another alternative machining ⁇ processing operations use.
  • a confirmation operation can be provided, which causes the work carried out in the model of the technical system pressesoperatio ⁇ NEN advertising converted into control operations on the technical system. Alternatively, the conversion in control operations can take place directly or in situ.
  • the inventive method provides an abstract He ⁇ a plurality of local parameters, which are associated with one or both forearms of an operator. Processing marks generated from the local parameters are visualized in a virtual scene.
  • the operator activates machining marks and leads enrichsope ⁇ rations by a change of position of his or his forearms by.
  • the operator Upon completion of the machining operations, the operator initiates release of the association between the machining mark and the operation mark by rotating a forearm.
  • a particular advantage of the invention over conventional methods lies in the activation and the release by means of a rotation of a forearm of the operator. A rotation of the wrist can be caused largely independent of a pointing ⁇ direction of the forearm. In this way, the operator can use shoulder rotation and elbow flexion for a change in position of the forearm in order to change local parameters for a processing mark, while enabling and / or activation of machining operations can be caused by independent rotation of the forearm.
  • the inventive method is particularly advantageous in a definition of a to be delimited, for example, an X-ray examination region ⁇ shot by medical support staff ULTRASONIC to a body of a patient.
  • ⁇ ter syndrome include in particular the selection of the sept ⁇ monitoring range, further comprising a setting of investigation Parameters such as radiation intensity and contrast, as well as the definition and initiation of the imaging sequence.
  • a positionally correct, also temporally staggered projection of already recorded X-ray images on the body of the patient can support a diagnosis of a doctor.

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Architecture (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

Das erfindungsgemäße Verfahren sieht eine Erfassung einer Mehrzahl örtlicher Parameter vor, welche einem oder beiden Unterarmen eines Bedieners zugeordnet sind. Aus den örtlichen Parametern erzeugte Bearbeitungsmarkierungen werden in einer virtuellen Szene visualisiert. Der Bediener aktiviert Bearbeitungsmarkierungen und führt Bearbeitungsoperationen durch eine Lageänderung seines oder seiner Unterarme durch. Nach Abschluss der Bearbeitungsoperationen führt der Bediener eine Freigabe der Zuordnung zwischen Bearbeitungsmarkierung und Handhabungsmarkierung durch Rotation eines Unterarms herbei. Ein besonderer Vorteil der Erfindung gegenüber herkömmlichen Verfahren liegt in der Aktivierung und der Freigabe mit Hilfe einer Rotation eines Unterarms des Bedieners. Eine Rotation des Handgelenks kann weitgehend unabhängig von einer Zeigerichtung des Unterarms veranlasst werden. Auf diese Weise kann der Bediener Schulterrotation und Ellbogenflexion für eine Lageänderung des Unterarms einsetzen, um örtliche Parameter für eine Bearbeitungsmarkierung zu verändern, während Freigabe und/oder Aktivierung von Bearbeitungsoperationen durch eine davon unabhängige Rotation des Unterarms veranlasst werden können.

Description

Beschreibung
Verfahren zur Interaktion eines Bedieners mit einem Modell eines technischen Systems
Die Erfindung betrifft ein Verfahren zur Interaktion eines Bedieners mit einem Modell eines technischen Systems.
Ein derartiges Verfahren kommt beispielsweise im Bereich der Automatisierungstechnik, bei Produktions- oder Werkzeugma¬ schinen, bei Diagnose- oder Serviceunterstützungssystemen sowie bei einer Bedienung und Wartung komplexer Komponenten, Geräte und Systeme, insbesondere industrieller oder medizini¬ scher Anlagen zum Einsatz.
Im Stand der Technik sind Interaktionssysteme bekannt, welche einen Bediener technischer Anlagen mit Hilfe einer angereicherten Situationsdarstellung bei einer Bewältigung von Ein- richtungs- und Wartungsarbeiten unterstützen. Eine angerei- cherte Situationsdarstellung ist in der Fachwelt auch als »Augmented Reality« bekannt. Dabei wird eine vom Bediener wahrnehmbare Situation mit computergenerierten Zusatzinforma¬ tionen oder virtuellen Objekten mittels Einblendung oder Überlagerung ergänzt oder ersetzt.
Beispielsweise sind virtuelle Aktionsmarkierungen eines In¬ dustrieroboters zum Zweck einer Kollisionsanalyse bekannt, welche ein reales industrielles Umfeld im Blickfeld einer Da¬ tenbrille überlagern, um dem Bediener eine intuitive Überprü- fung zu gewähren, ob der Industrieroboter von seinen Abmessungen oder von seinem Aktionsradius an einer vorgesehenen Stelle in der vorgesehenen Umgebung positioniert werden kann.
Eine Auswahl von virtuellen Objekten sowie ein Abruf von Zu- satzinformationen erfordert eine Erfassung von Befehlen seitens des Bedieners. In einem industriellen Umfeld scheiden bekannte Eingabegeräte wie z.B. Tastatur, Touchscreen, Gra¬ phiktablett, Trackpad oder Maus, welche für eine sitzende Ar- beitsposition eines Bedieners in einem Büroumfeld zugeschnit¬ ten sind, bereits aufgrund der üblicherweise stehenden Ar¬ beitsposition aus. Eine bekannte optische Detektion von Gesten erfolgt bei¬ spielsweise unter Verwendung von Microsoft Kinect, Leap Moti¬ on oder Microsoft HoloLens. Eine oder mehrere optischen Er¬ fassungseinrichtungen erfassen die Körperhaltung des Bediener dreidimensional, beispielsweise unter Anwendung von Laufzeit- verfahren (Time of Flight) oder Streifenlichttopometrie
(Structured-light ) .
Zusammenfassend erfolgen heute bekannte Maßnahmen zur Inter¬ aktion nicht berührungslos, unsicher oder mit einem arbeits- situativ unpassenden Einsatz von Eingabegeräten zur
Gestenerfassung .
Die vorliegende Erfindung ist demgegenüber vor die Aufgabe gestellt, ein Interaktionssystem mit einer intuitiven und be- rührungslosen Erfassung von Bearbeitungsoperationen bereitzustellen, welches eine Handhabung von Eingabegeräten entbehrlich macht.
Die Aufgabe wird durch ein Verfahren mit den Merkmalen des Patentanspruchs 1 gelöst.
Das erfindungsgemäße Verfahren zur Interaktion eines Bedie¬ ners mit einem Modell eines technischen Systems sieht eine lagerichtige Visualisierung von Objekten des Modells in einer virtuellen Szene sowie eine lagerichtige Visualisierung min¬ destens einer Handhabungsmarkierung vor. Bei Bedienung eines Interaktionssystems wird eine Mehrzahl örtlicher Parameter erfasst, welche einem oder beiden Unterarmen des Bedieners zugeordnet sind. Eine oder mehrere aus den örtlichen Parame- tern erzeugte Bearbeitungsmarkierungen werden in der virtuellen Szene visualisiert . Der Bediener aktiviert zunächst eine oder mehrere Bearbeitungsmarkierungen als eine einer ersten Handhabungsmarkierung zugeordnete erste Bearbeitungsmarkie- rung bzw. Mehrzahl erster Bearbeitungsmarkierungen. Anschließend erfolgt eine Durchführung von Bearbeitungsoperationen an der ersten Handhabungsmarkierung in Abhängigkeit einer Veränderung von auf eine Lageänderung eines der ersten Bearbei- tungsmarkierung zugeordneten Unterarms rückführbarer örtlicher Parameter. Der Unterarm des Bedieners erfährt dabei eine rotatorische oder translatorische Lageänderung, oder auch ei¬ ne Kombination aus einer translatorischen und einer rotatorischen Lageänderung. Nach Abschluss der Bearbeitungsoperati- onen führt der Bediener eine Freigabe der Zuordnung der ersten Bearbeitungsmarkierung zur ersten Handhabungsmarkierung herbei, indem er eine Veränderung von auf eine Rotationsbewe¬ gung eines der ersten Bearbeitungsmarkierung zugeordneten Unterarms rückführbarer örtlicher Parameter veranlasst.
Ein besonderer Vorteil der Erfindung gegenüber herkömmlichen Verfahren liegt in der Aktivierung und der Freigabe einer Bearbeitungsoperation durch den Bediener. Bekannte herkömmliche Verfahren zur Interaktion eines Bedie¬ ners mit einem Modell eines technischen Systems sehen übli¬ cherweise Gestensteuerungsverfahren vor, welche das Problem einer berührungslosen Interaktion mit zwei- oder dreidimensionalen Objekten mithilfe einer Steuerung über einen virtu- eilen Mauszeiger oder einer mit einer Mauszeigereingabe ähnlichen Steuerung lösen. Dabei stellt sich grundsätzlich die Frage, wie die Aktivierung und Freigabe einer Bearbeitung zu lösen ist, welche im Fall einer herkömmlichen Maussteuerung über einen Mausklick erfolgt. Die Abbildung dieses Mausklicks auf eine berührungslose Interaktion eines üblicherweise ste¬ henden Bedieners gestaltet sich meist als unhandlich, insbe¬ sondere aufgrund der Tatsache, dass eine Erfassung eines ein¬ zelnen Fingers ohne eine entsprechende Sensorik für eine Gestensteuerungserfassung schwierig ist.
Die Erfindung löst dieses Problem durch eine Aktivierung und/oder Freigabe einer Bearbeitungsoperation mit Hilfe einer Rotation eines Unterarms des Bedieners. Eine solche Rotati- onsbewegung, beispielsweise eine Pronation oder Supination des Unterarms, ist mit herkömmlichen, im Unterarmbereich des Bedieners vorgesehenen Trägheitssensoren oder auch mit einer optischen Erfassung einer Armrotationsgeste wesentlich einfa- eher als eine Erfassung einer Fingergeste.
Ein besonderer Vorteil der Erfindung besteht darin, dass biomechanische Gegebenheiten eines menschlichen Arms vorteilhaft genutzt werden: Ein Bediener kann eine Rotation des Handge- lenks unabhängig von einer Zeigerichtung des Unterarms veranlassen. Auf diese Weise kann ein Bediener Gelenkbewegungen, insbesondere Schulterrotation und Ellbogenflexion, für eine Lageänderung des Unterarms einsetzen, um örtliche Parameter für eine Bearbeitungsmarkierung zu verändern, während Freiga- be und/oder Aktivierung von Bearbeitungsoperationen durch eine davon unabhängige Rotation des Unterarms veranlasst werden können .
Ein weiterer Vorteil des erfindungsgemäßen Verfahrens ist da- rin zu sehen, dass die zur Ausübung der Gestensteuerung notwendigen Mittel keine speziellen Vorrichtungen erfordern. Insbesondere sind keine Fingergestenerfassungsmittel oder elektromyographischen Mittel erforderlich. Im Gegensatz zu herkömmlichen Gestenerfassungsverfahren gestattet das erfindungsgemäße Verfahren eine feingranulare Steuerung verschiedener und leicht unterscheidbarer Parameter eines visualisierten Modells zur Steuerung eines technischen Systems. Zur Visualisierung einer virtuellen Szenerie - das heißt verschiedener Objekte und zugehöriger Handhabungsmarkierungen - dieses Modells ist ein einfacher Bildschirm ausreichend .
Ein weiterer Vorteil der Erfindung besteht darin, dass der Bediener lediglich eine geringe Anzahl an Gesten zur Steuerung des Interaktionssystems verwenden und lernen muss. Diese umfassen insbesondere eine Aktivierung, ein Bewegen und eine Freigabe von Bearbeitungsmarkierungen mit Hilfe einer Handha- bungsmarkierung . Die Freigabe einer Zuordnung der Bearbeitungsmarkierung zu einer Bearbeitungsmarkierung ist intuitiv mit einer Rotationsbewegung des Unterarms durchführbar. Ein weiterer Vorteil des erfindungsgemäßen Interaktionsverfahrens besteht darin, dass die Art der Bedienung einen größtmöglichen Schutz gegen eine versehentliche Auslösung der Freigabe bietet. Die Gestaltung der Handhabungsmarkierungen kann so erfolgen, dass der Bediener während einer Steuerung der Bearbeitungsmarkierungen mit Lageänderungen keine irrtümliche Freigabe veranlasst.
Weitere Ausgestaltungen der Erfindung sind Gegenstand der abhängigen Patentansprüche.
Gemäß einer vorteilhaften Weiterbildung ist vorgesehen, dass die im Modell des technischen Systems durchgeführten Bearbei¬ tungsoperationen in Steueroperationen am technischen System umgesetzt werden. Diese Maßnahme gestattet eine über eine schlichte Simulation hinausgehende Steuerung des technischen Systems .
Gemäß einer vorteilhaften Weiterbildung ist vorgesehen, dass die Handhabungsmarkierung mindestens einem Objekt oder min- destens einem Bereich der virtuellen Szene zugeordnet ist.
Eine Obj ektZuordnung ermöglicht eine Einflussnahme auf dieses Objekt, während eine Bereichszuordnung Bereichsauswahl und/oder eine Beeinflussung mehrerer Objekte ermöglicht. Zur Aktivierung der ersten Bearbeitungsmarkierung wird eine örtliche Distanz zwischen einer Bearbeitungsmarkierung und der mindestens ersten Handhabungsmarkierung bestimmt. Gemäß einer ersten Ausführungsform erfolgt eine Aktivierung einer Bearbeitungsmarkierung, deren örtliche Distanz zu der ersten Handhabungsmarkierung einen vorgebbaren ersten Schwellwert unterschreit, als eine der ersten Handhabungsmarkierung zugeordnete erste Bearbeitungsmarkierung. Gemäß einer zweiten Ausführungsform erfolgt zunächst eine Markierung einer Bear- beitungsmarkierung, deren örtliche Distanz zu einer ersten Handhabungsmarkierung einen vorgebbaren ersten Schwellwert unterschreit, als eine der ersten Handhabungsmarkierung zuor- denbare erste Bearbeitungsmarkierung. Im Anschluss erfolgt eine Aktivierung der zuordenbaren ersten Bearbeitungsmarkierung als eine einer ersten Handhabungsmarkierung zugeordnete erste Bearbeitungsmarkierung in Abhängigkeit einer Veränderung von auf eine Rotationsbewegung eines der ersten Bearbeitungsmarkierung zugeordneten Unterarms rückführbarer örtli- eher Parameter. Die besagte Veränderung der auf eine Rotationsbewegung rückführbaren örtlichen Parameter ist auch so zu verstehen, dass der Bediener den Unterarm schon in eine vorgesehene Position gedreht hat - mithin die Rotationsbewegung schon vorher veranlasst hat - bevor die Bearbeitungsmarkie- rung der Handhabungsmarkierung angenähert wird, so dass auch in diesem Fall - also ohne eine über die vorhergehende hin¬ ausgehende, zusätzliche Rotationsbewegung - eine Aktivierung der Handhabungsmarkierung erfolgt. Die erste Ausführungsform hat den Vorteil einer einfachen Aktivierung durch bloße Annäherung der durch den Unterarm gesteuerten Handhabungsmarkierung an eine Bearbeitungsmarkierung. Die zweite Ausführungsform sieht dagegen eine explizite Armrotation zur endgültigen Auswahl der Bearbeitungsmarkie- rung vor. Diese zweite Ausführungsform ist von Vorteil, wenn eine zusätzliche Bestätigung der Aktivierung durch eine Rotationsbewegung erwünscht ist, insbesondere aus Gründen einer sicheren Bedienung. Gemäß einer vorteilhaften Weiterbildung ist vorgesehen, dass bei Unterschreitung eines zweiten Schwellwerts einer örtlichen Distanz zwischen der Bearbeitungsmarkierung und der ersten Handhabungsmarkierung eine Rückmeldung an den Bediener ausgegeben wird. Die Rückmeldung zeigt dem Benutzer eine be- vorstehende Aktivierung der Bearbeitungsmarkierung an. Diese Rückmeldung erfolgt vorzugsweise haptisch, akustisch oder optisch. Eine akustische oder eine haptische Rückmeldung könnte beispielsweise durch eine Ausführung einer Gestenerfassungseinheit als Smart Watch erfolgen, welche üb¬ licherweise über entsprechende Aktoren zur Ausgabe solcher Rückmeldungen verfügt. Der zweite Schwellwert der örtlichen Distanz liegt vorzugs¬ weise oberhalb des ersten Schwellwerts, so dass die Rückmel¬ dung einer bevorstehenden Aktivierung vor der eigentlichen Aktivierung erfolgt. Der Bediener kann bei Auslösen der Rückmeldung entscheiden, ob er die Bearbeitungsmarkierung weiter in Richtung auf die zu aktivierende Handhabungsmarkierung führt, oder aber, - für den Fall, dass der für die Bearbei¬ tungsmarkierung eingeschlagene Kurs nicht eine Aktivierung der angenäherten Handhabungsmarkierung erzielen sollte - den Kurs entsprechend ändern.
Fig. 1: eine schematische Strukturdarstellung eines Interaktionssystems mit einem steuernden Bediener; und;
Fig. 2: eine schematische Darstellung einer Interaktion ei- nes Bedieners mit einem Modell eines technischen
Systems .
Figur 1 zeigt einen in einer Draufsicht dargestellten Bediener USR, dessen durch einen oder beide Unterarmen gebildete Gesten mit Hilfe mindestens einer Gestenerfassungseinheit GS erfasst werden.
Bei dem in der Zeichnung dargestellten Ausführungsbeispiel ist die Gestenerfassungseinheit ausgebildet zum Tragen am menschlichen Körper und umfasst mindestens eine in einem Unterarmbereich des Bedieners USR angebrachte Gestenerfas¬ sungseinheit GS mit einer Mehrzahl von Trägheitssensoren zur Erfassung einer dem Unterarm des Bedieners USR zugeordneten Mehrzahl örtlicher Parameter, insbesondere Parameter, welche von einer Bewegung, Drehung und/oder Stellung der Arme des Bedieners USR gebildet werden. Alternativ wird ein - beispielsweise optisches - Trackingsys- tem eingesetzt. In einem solchen optischen Trackingsystem erfassen Infrarotkameras die örtlichen Parameter anhand mindes¬ tens einen optischen Markers und geben diese an eine Steuer- einheit weiter.
Die örtlichen Parameter umfassen zumindest zwei, vorzugsweise drei Freiheitsgrade, von denen zumindest ein örtlicher Para¬ meter einer Rotationsbewegung, also einer Pronation bezie- hungsweise Supination, des Unterarms zugeordnet ist.
Als Gestenerfassungseinheit GS kommt beispielsweise eine so genannte Smart Watch mit integrierten Beschleunigungssenso¬ ren, magnetischen Sensoren und gyroskopischen Sensoren zum Einsatz. Mit Auswertung dieser Sensoren ist eine Orientierungsbestimmung mit drei Freiheitsgraden möglich. Bei einer entsprechenden Kalibrierung dieser Sensoren und einer zumindest vorübergehend stillstehenden Position des Benutzers USR wird eine sichere Erfassung von im Folgenden näher betrachte- ten drei örtlichen Parameter ermöglicht:
eine Außen- oder Innenrotation der Schulter des Bedieners USR, insbesondere zur Veranlassung einer links/rechts- Bewegung des Unterarms;
eine Beugung oder Streckung des Ellbogens, insbesondere zur Veranlassung einer auf/ab-Bewegung des Unterarms um das Ellbogengelenk; und;
eine Unterarmrotation, also eine Pronation oder Supination des Unterarms, also eine mit Hilfe des Handgelenks ausgeführte Rotation des Unterarms um dessen Hauptachse.
In der weiteren Beschreibung wird für die dem Unterarm zugeordneten Mehrzahl örtlicher Parameter ein Tripel (sr,ef,fp) aus den oben genannten Parametern fortgeführt, bestehend aus einem Parameter sr für die Schulterrotation, einem Parameter ef für die Ellbogenflexion ef sowie einem Parameter fp für die Unterarmrotation bzw. »Forearm Pronation«. Jeder örtliche Parameter dieses Tripels repräsentiert einen Winkel in Rela¬ tion zu einer definierten Startorientierung, zum Beispiel ei- nen in Richtung Norden weisenden Arm in horizontaler Richtung mit einem aufwärts gerichteten Daumen.
In Blickkontakt zum Bediener USR ist eine Visualisierungsein- richtung SCN, hier als Bildschirm ausgeführt, vorgesehen. Auf der Visualisierungseinrichtung SCN erfolgt eine lagerichtige Visualisierung einer Bearbeitungsmarkierung HND, welche in diesem Ausführungsbeispiel als ein kreisrundes Gebilde CR mit einer Darstellung der Daumenrichtung TP visualisiert wird. Ausführungsbeispiele für die Visualisierungseinrichtung SCN umfassen ferner einen Großbildschirm in einem Operationssaal, Datenbrille oder -heim bzw. »Head Mounted Display«, einen Projektor zur Projektion einer Szenerie - insbesondere einer lagerichtigen Projektion anatomischer Bild- oder Strukturda- ten - auf einen Körper eines Patienten.
Gemäß einer weiteren Ausgestaltung kann auf eine Visualisierungseinrichtung SCN teilweise verzichtet werden, indem die lagerichtige Visualisierung von Objekten des Modells in der virtuellen Szene nicht durch virtuelle sondern durch reale Objekte erfolgt, beispielsweise bei einer Bewegungsteuerung oder -Programmierung von Roboterarmen. Die lagerichtige Visualisierung von den realen Objekten zugeordneten Handhabungsmarkierungen sowie der Bearbeitungsmarkierung würde in einem solchen Fall mit einer angereicherten Situationsdarstellung oder »Augmented Reality«, beispielsweise durch Pro¬ jektion der Handhabungsmarkierungen auf die realen Objekte oder auch in das Sichtfeld des Bedieners, etwa mit einer Da¬ tenbrille, erfolgen.
Eine - nicht dargestellte - Steuerungseinheit ist zum Ansteu¬ ern der Visualisierungseinheit SCN vorgesehen. In der Steue¬ rungseinheit erfolgt eine Erkennung der von der Gestenerfas¬ sungseinheit GS erfassten Gesten und eine Verarbeitung der durch die Gesten des Bedieners USR auszulösenden Interaktion mit einer auf der Visualisierungseinheit SCN dargestellten Szenerie . Aus Übersichtlichkeitsgründen ist die zeichnerisch dargestellte Szenerie gemäß Fig. 1 auf eine Darstellung der Bear¬ beitungsmarkierung HND beschränkt. Die Szenerie wiederum um- fasst oder stellt ein Modell eines technischen Systems dar, welches der Bediener USR in Ausübung des Interaktionsverfahrens steuern, konfigurieren und betreiben kann.
Die Interaktion erfolgt durch Beeinflussung von Bearbeitungsmarkierungen HND. Jede Bearbeitungsmarkierung HND wird über das oben genannte Tripel örtlicher Parameter gesteuert bezie¬ hungsweise dargestellt. Beispielsweise wird eine Bewegung in horizontaler Richtung XD oder eine Bewegung in vertikaler Richtung YD durch eine entsprechende Kombination aus Schul¬ terrotation und Ellbogenflexion gebildet. Die Bewegung in ho- rizontaler oder vertikaler Richtung XD,YD erfolgt intuitiv durch eine entsprechende Bewegung einer visuelle Projektion des Bedieners USR in horizontaler oder vertikaler Richtung XD,YD. Die visuelle Projektion des Bedieners USR entspricht einer in der Zeichnung strichpunktiert dargestellte Verlänge- rung der Unterarmachse des Bedieners USR.
Die Bearbeitungsmarkierung HND ist eine visuelle Repräsenta¬ tion einer Geste auf der Visualisierungseinheit SCN. Diese visuelle Repräsentation wird durch eine Zuordnungsfunktion erzeugt, welche aus dem von der Gestenerfassungseinheit GS erfassten örtlichen Parameter der visuellen Darstellung zuordnet. Durch Bewegung des Unterarms bewegt sich die Bearbei¬ tungsmarkierung HND in der entsprechenden Weise. In Figur 2 ist eine schematische Darstellung einer Szenerie, bestehend aus einer beispielhaften Abbildung mehrerer Beeren, sowie mehreren Handhabungsmarkierungen HND2 , HND3 , HND4 , HND5 dargestellt . Der Bediener USR habe im dargestellten Ausführungsbeispiel die Aufgabe, einen rechteckförmigen Ausschnitt der Abbildung, beispielsweise einen lediglich eine Beere umfassenden Be¬ reich, zu definieren. Dabei muss er den rechteckförmigen Aus- schnitt selbst beziehungsweise einzelne Ecken dieses Aus¬ schnittes so justieren, dass der gewünschte Ausschnitt mit dem in der Szenerie dargestellten Ausschnitt übereinstimmt. Die vier Handhabungsmarkierungen HND2 , HND3 , HND4 , HND5 sind im Ausführungsbeispiel in einer jeweiligen Ecke dieses Aus¬ schnitts visualisiert .
Die Bearbeitungsmarkierung HNDl befindet sich aufgrund der derzeitigen Armbestellung des Bedieners USR innerhalb des rechteckförmigen Ausschnitts. Gemäß dem die Daumenrichtung des Bedieners USR repräsentierenden Zeiger im Innenbereich der Handhabungsmarkierung HNDl ist die Daumenstellung des Bedieners derzeit in eine 8-Uhr-Richtung gerichtet. Der Bediener USR kann nun der Bearbeitungsmarkierung HNDl die nächstgelegene dritte Handhabungsmarkierung HND3 zuordnen und die Handhabungsmarkierung HND3 somit zur Bearbeitung aktivieren. Anschließend kann er Bearbeitungsoperationen an der dritten Handhabungsmarkierung HND3 in Abhängigkeit einer Ver- änderung von auf eine Lageänderung eines der Bearbeitungsmarkierung HNDl zugeordneten Unterarms - beispielsweise des rechten Unterarms gemäß Fig. 1 - rückführbarer örtlicher Parameter durchführen. Im Ausführungsbeispiel könnte er die La¬ ge der dritten Handhabungsmarkierung HND3 durch eine transla- torische Lageänderung der Bearbeitungsmarkierung HNDl verändern. Eine translatorische Lageänderung umfasst eine Änderung der ersten beiden örtlichen Parameter des Tripels (sr,ef,fp). Nach Abschluss der Bearbeitungsoperationen veranlasst der Bediener USR eine Freigabe der Zuordnung der Bearbeitungsmar- kierung HNDl zur dritten Handhabungsmarkierung HND3 durch eine Veränderung des auf eine Rotationsbewegung der Bearbeitungsmarkierung HNDl zugeordneten Unterarms rückführbarer örtlicher Parameter, mit anderen Worten des örtlichen Parameters fp im Tripel (sr,ef,fp) . Der Bediener kann die Bearbei- tungsmarkierung HNDl sodann für weitere alternative Bearbei¬ tungsoperationen einsetzen. Nach mehreren Bearbeitungsoperationen kann eine Bestätigungsoperation vorgesehen sein, welche bewirkt, dass die im Modell des technischen Systems durchgeführten Bearbeitungsoperatio¬ nen in Steueroperationen am technischen System umgesetzt wer- den. Alternativ dazu kann die Umsetzung in Steueroperationen unmittelbar bzw. in-situ erfolgen.
Zusammenfassend sieht das erfindungsgemäße Verfahren eine Er¬ fassung einer Mehrzahl örtlicher Parameter vor, welche einem oder beiden Unterarmen eines Bedieners zugeordnet sind. Aus den örtlichen Parametern erzeugte Bearbeitungsmarkierungen werden in einer virtuellen Szene visualisiert . Der Bediener aktiviert Bearbeitungsmarkierungen und führt Bearbeitungsope¬ rationen durch eine Lageänderung seines oder seiner Unterarme durch. Nach Abschluss der Bearbeitungsoperationen führt der Bediener eine Freigabe der Zuordnung zwischen Bearbeitungsmarkierung und Handhabungsmarkierung durch Rotation eines Unterarms herbei. Ein besonderer Vorteil der Erfindung gegenüber herkömmlichen Verfahren liegt in der Aktivierung und der Freigabe mit Hilfe einer Rotation eines Unterarms des Bedieners. Eine Rotation des Handgelenks kann weitgehend unabhängig von einer Zeige¬ richtung des Unterarms veranlasst werden. Auf diese Weise kann der Bediener Schulterrotation und Ellbogenflexion für eine Lageänderung des Unterarms einsetzen, um örtliche Para¬ meter für eine Bearbeitungsmarkierung zu verändern, während Freigabe und/oder Aktivierung von Bearbeitungsoperationen durch eine davon unabhängige Rotation des Unterarms veran- lasst werden können.
Das erfindungsgemäße Verfahren ist insbesondere von Vorteil bei einer Definition eines beispielsweise für eine Röntgen¬ aufnahme abzugrenzenden Untersuchungsbereichs durch medizini- sches Hilfspersonal an einem Körper eines Patienten. Die In¬ teraktionen umfassen insbesondere die Auswahl des Untersu¬ chungsbereichs, weiterhin eine Einstellung von Untersuchungs- Parametern wie Strahlungsintensität und Kontrast, sowie die Definition und Initiierung der Bildgebungssequenz.
Weiterhin kann in vorteilhafter Weise eine lagerichtige, auch zeitlich gestaffelte Projektion bereits aufgenommener Röntgenaufnahmen am Körper des Patienten eine Diagnose eines Arztes unterstützen.

Claims

Patentansprüche
1. Verfahren zur Interaktion eines Bedieners mit einem Modell eines technischen Systems, umfassend folgende Schritte:
- lagerichtige Visualisierung von Objekten des Modells in einer virtuellen Szene;
lagerichtige Visualisierung mindestens einer Handhabungs¬ markierung (HND2 , HND5 ) ;
Erfassen einer mindestens einem Unterarm des Bedieners (USR) zugeordneter Mehrzahl örtlicher Parameter und lagerichtige Visualisierung mindestens einer aus den örtli¬ chen Parametern erzeugten Bearbeitungsmarkierung (HND1) in der virtuellen Szene;
Aktivierung mindestens einer Bearbeitungsmarkierung
(HND1) als eine einer ersten Handhabungsmarkierung (HND3) zugeordnete erste Bearbeitungsmarkierung (HND1),
Durchführung von Bearbeitungsoperationen an der ersten Handhabungsmarkierung (HND3) in Abhängigkeit einer Veränderung von auf eine Lageänderung eines der ersten Bear- beitungsmarkierung (HND1) zugeordneten Unterarms rück- führbarer örtlicher Parameter;
Freigabe der Zuordnung der ersten Bearbeitungsmarkierung (HND1) zur ersten Handhabungsmarkierung (HND3) in Abhängigkeit einer Veränderung von auf eine Rotationsbewegung eines der ersten Bearbeitungsmarkierung (HND1) zugeordneten Unterarms rückführbarer örtlicher Parameter.
2. Verfahren nach Patentanspruch 1, dadurch gekennzeichnet, dass die im Modell des technischen Systems durchgeführten Be- arbeitungsoperationen in Steueroperationen am technischen System umgesetzt werden.
3. Verfahren nach einem der vorgenannten Patentansprüche, dadurch gekennzeichnet, dass die Handhabungsmarkierung
(HND2 , HND5 ) mindestens einem Objekt oder mindestens einem Bereich der virtuellen Szene zugeordnet ist.
4. Verfahren nach einem der vorgenannten Patentansprüche, die Aktivierung der ersten Bearbeitungsmarkierung umfassend folgende Schritte:
Erfassen einer örtlichen Distanz zwischen der mindestens einen Bearbeitungsmarkierung (HND1) und der mindestens ersten Handhabungsmarkierung (HND3) ;
Aktivierung einer Bearbeitungsmarkierung (HND1), deren örtliche Distanz zu der ersten Handhabungsmarkierung (HND3) einen vorgebbaren ersten Schwellwert unterschreit, als eine der ersten Handhabungsmarkierung (HND3) zugeordnete erste Bearbeitungsmarkierung (HND1).
5. Verfahren nach einem der vorgenannten Patentansprüche 1 bis 3, die Aktivierung der ersten Bearbeitungsmarkierung um- fassend folgende Schritte:
Erfassen einer örtlichen Distanz zwischen der mindestens einen Bearbeitungsmarkierung (HND1) und der mindestens ersten Handhabungsmarkierung (HND3) ;
Markierung einer Bearbeitungsmarkierung (HND1), deren örtliche Distanz zu einer ersten Handhabungsmarkierung
(HND3) einen vorgebbaren ersten Schwellwert unterschreit, als eine der ersten Handhabungsmarkierung (HND3) zuorden- bare erste Bearbeitungsmarkierung (HND1);
Aktivierung der zuordenbaren ersten Bearbeitungsmarkie- rung (HND1) als eine einer ersten Handhabungsmarkierung
(HND3) zugeordnete erste Bearbeitungsmarkierung (HND1) in Abhängigkeit einer Veränderung von auf eine Rotationsbe¬ wegung eines der ersten Bearbeitungsmarkierung zugeordneten Unterarms rückführbarer örtlicher Parameter.
6. Verfahren nach einem der vorgenannten Patentansprüche 4 und 5, wobei bei Unterschreitung eines zweiten Schwellwerts einer örtlichen Distanz zwischen der Bearbeitungsmarkierung (HND1) und der ersten Handhabungsmarkierung (HND3) eine Rück- meidung an den Bediener (USR) ausgegeben wird.
7. Verfahren nach einem der vorgenannten Patentansprüche, dadurch gekennzeichnet, dass die Rotationsbewegung eine Prona- tion oder Supination mindestens eines Unterarms des Bedieners (USR) ist.
8. Verfahren nach einem der vorgenannten Patentansprüche, dadurch gekennzeichnet, dass die Mehrzahl örtlicher Parameter mindestens umfasst:
einen Parameter für eine Schulterrotation des Bedieners USR;
einen Parameter für eine Ellbogenflexion des Bedieners USR; und;
einen Parameter für eine Unterarmrotation des Bedieners USR.
9. Verwendung eines Verfahrens gemäß einem der vorgenannten Patentansprüche zur medizinischen Behandlung oder zur Maschinenbedienung in einem industriellen Prozess.
PCT/EP2017/064249 2016-07-05 2017-06-12 Verfahren zur interaktion eines bedieners mit einem modell eines technischen systems WO2018007102A1 (de)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US16/315,231 US10642377B2 (en) 2016-07-05 2017-06-12 Method for the interaction of an operator with a model of a technical system
EP17730452.4A EP3465385A1 (de) 2016-07-05 2017-06-12 Verfahren zur interaktion eines bedieners mit einem modell eines technischen systems
CN201780041831.5A CN109416587A (zh) 2016-07-05 2017-06-12 用于操作者与技术系统的模型交互的方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102016212240.1A DE102016212240A1 (de) 2016-07-05 2016-07-05 Verfahren zur Interaktion eines Bedieners mit einem Modell eines technischen Systems
DE102016212240.1 2016-07-05

Publications (1)

Publication Number Publication Date
WO2018007102A1 true WO2018007102A1 (de) 2018-01-11

Family

ID=59067652

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/EP2017/064249 WO2018007102A1 (de) 2016-07-05 2017-06-12 Verfahren zur interaktion eines bedieners mit einem modell eines technischen systems

Country Status (5)

Country Link
US (1) US10642377B2 (de)
EP (1) EP3465385A1 (de)
CN (1) CN109416587A (de)
DE (1) DE102016212240A1 (de)
WO (1) WO2018007102A1 (de)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10739971B2 (en) * 2015-06-05 2020-08-11 Apple Inc. Accessing and displaying information corresponding to past times and future times

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5594469A (en) * 1995-02-21 1997-01-14 Mitsubishi Electric Information Technology Center America Inc. Hand gesture machine control system
US20130342572A1 (en) * 2012-06-26 2013-12-26 Adam G. Poulos Control of displayed content in virtual environments
US20140201674A1 (en) * 2013-01-15 2014-07-17 Leap Motion, Inc. Dynamic user interactions for display control and identifying dominant gestures
US9211644B1 (en) * 2013-10-25 2015-12-15 Vecna Technologies, Inc. System and method for instructing a device
WO2016001089A1 (de) * 2014-06-30 2016-01-07 Trumpf Medizin Systeme Gmbh + Co. Kg Steuerungsvorrichtung für ein medizingerät

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030048280A1 (en) * 2001-09-12 2003-03-13 Russell Ryan S. Interactive environment using computer vision and touchscreens
US20080036737A1 (en) * 2006-08-13 2008-02-14 Hernandez-Rebollar Jose L Arm Skeleton for Capturing Arm Position and Movement
US20110109617A1 (en) * 2009-11-12 2011-05-12 Microsoft Corporation Visualizing Depth
KR101302138B1 (ko) * 2009-12-18 2013-08-30 한국전자통신연구원 착용형 컴퓨팅 환경 기반의 사용자 인터페이스 장치 및 그 방법
BR112013014287B1 (pt) * 2010-12-30 2020-12-29 Interdigital Ce Patent Holdings Método e aparelho para reconhecimento de gesto
CN102681774B (zh) * 2012-04-06 2015-02-18 优视科技有限公司 通过手势控制应用界面的方法、装置和移动终端
US9170674B2 (en) * 2012-04-09 2015-10-27 Qualcomm Incorporated Gesture-based device control using pressure-sensitive sensors
EP3617843A1 (de) * 2012-12-10 2020-03-04 Samsung Electronics Co., Ltd. Mobile vorrichtung, steuerverfahren dafür und benutzeroberflächenanzeigeverfahren
US20140173524A1 (en) * 2012-12-14 2014-06-19 Microsoft Corporation Target and press natural user input
US20140198034A1 (en) * 2013-01-14 2014-07-17 Thalmic Labs Inc. Muscle interface device and method for interacting with content displayed on wearable head mounted displays
DE102013207528A1 (de) * 2013-04-25 2014-10-30 Bayerische Motoren Werke Aktiengesellschaft Verfahren zum Interagieren mit einem auf einer Datenbrille angezeigten Objekt
US10467752B2 (en) * 2013-06-11 2019-11-05 Atsushi Tanji Bone cutting support system, information processing apparatus, image processing method, and image processing program
US20160299570A1 (en) * 2013-10-24 2016-10-13 Apple Inc. Wristband device input using wrist movement
US20160313806A1 (en) * 2013-12-06 2016-10-27 Nokia Technologies Oy Apparatus and method for user input
US9996160B2 (en) * 2014-02-18 2018-06-12 Sony Corporation Method and apparatus for gesture detection and display control
US20150261659A1 (en) * 2014-03-12 2015-09-17 Bjoern BADER Usability testing of applications by assessing gesture inputs
US20160070439A1 (en) * 2014-09-04 2016-03-10 International Business Machines Corporation Electronic commerce using augmented reality glasses and a smart watch
CN104345887B (zh) * 2014-10-31 2018-01-23 广东欧珀移动通信有限公司 桌面图标的位置调整方法与装置
JP2016107379A (ja) * 2014-12-08 2016-06-20 ファナック株式会社 拡張現実対応ディスプレイを備えたロボットシステム
JP2019537084A (ja) * 2016-09-16 2019-12-19 タクチュアル ラブズ シーオー． タッチセンサ式キーボード
US20180228430A1 (en) * 2017-02-10 2018-08-16 Mindmaze Holding Sa System, method and apparatus for rehabilitation with tracking

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5594469A (en) * 1995-02-21 1997-01-14 Mitsubishi Electric Information Technology Center America Inc. Hand gesture machine control system
US20130342572A1 (en) * 2012-06-26 2013-12-26 Adam G. Poulos Control of displayed content in virtual environments
US20140201674A1 (en) * 2013-01-15 2014-07-17 Leap Motion, Inc. Dynamic user interactions for display control and identifying dominant gestures
US9211644B1 (en) * 2013-10-25 2015-12-15 Vecna Technologies, Inc. System and method for instructing a device
WO2016001089A1 (de) * 2014-06-30 2016-01-07 Trumpf Medizin Systeme Gmbh + Co. Kg Steuerungsvorrichtung für ein medizingerät

Also Published As

Publication number Publication date
DE102016212240A1 (de) 2018-01-11
EP3465385A1 (de) 2019-04-10
CN109416587A (zh) 2019-03-01
US10642377B2 (en) 2020-05-05
US20190163287A1 (en) 2019-05-30

Similar Documents

Publication Publication Date Title
DE102019009313B4 (de) Robotersteuerung, Verfahren und Computerprogramm unter Verwendung von erweiterter Realität und gemischter Realität
DE102015011830C5 (de) Robotersystem zum Einstellen eines Bewegungsüberwachungsbereichs eines Roboters
EP1447770B1 (de) Verfahren und Vorrichtung zur Visualisierung rechnergestützter Informationen
DE102016212236A1 (de) Interaktionssystem und -verfahren
DE102016224774B3 (de) Verfahren zur Programmierung eines Messroboters und Programmiersystem
DE102014101545A1 (de) System zur Druckmaschinenbedienung
EP3374135B1 (de) Verfahren zum vereinfachten ändern von applikationsprogrammen zur steuerung einer industrieanlage
DE102007061537A1 (de) Umschaltvorrichtung, Verfahren und System zum Wirksamschalten mindestens einer Eingabevorrichtung für mindestens zwei Rechnereinheiten
EP3990231B1 (de) System zum vornehmen einer eingabe an einem robotermanipulator
WO2018007102A1 (de) Verfahren zur interaktion eines bedieners mit einem modell eines technischen systems
EP1700175A1 (de) Vorrichtung und verfahren zum programmieren eines industrieroboters
EP4016061B1 (de) Verfahren zur bedienung eines röntgen-systems
DE20117645U1 (de) Bedieneinrichtung
EP3640767B1 (de) Verfahren zum bestimmen mindestens eines bereichs in mindestens einem eingabemodell für mindestens ein zu platzierendes element
DE102016214391B4 (de) Verfahren zum Steuern eines Betriebes eines Koordinatenmessgerätes und Koordinatenmessgerät mit Steuerung
DE102016217204A1 (de) Verfahren zu einem Planen und/oder Steuern einer medizinischen Bildgebungsuntersuchung mittels eines mobilen Endgeräts
DE102015205285B4 (de) Verfahren zum Betrieb eines medizinischen Geräts und medizinisches Gerät
DE102004032996A1 (de) Einfache Roboterprogrammierung
EP3809094B1 (de) Verfahren und anordnung zum visualisieren von sensorsignalen eines optischen sensors eines koordinatenmessgeräts sowie verfahren und anordnung zum visualisieren eines sensors eines koordinatenmessgeräts
DE102019117219B4 (de) System zum Bedienen einer grafischen Benutzeroberfläche
DE102011075877A1 (de) Auswertungsverfahren für eine Folge von zeitlich aufeinander folgenden Tiefenbildern
WO2022242863A1 (de) Computergestütztes verfahren zum bewegten darstellen eines bildes eines realen umfeldes und mindestens zweier virtueller objekte auf einem bildschirm
DE102013206569B4 (de) Gestensteuerung mit automatisierter Kalibrierung
WO2018007247A1 (de) Verfahren zur interaktion eines bedieners mit einem technischen objekt
WO2023110993A1 (de) Erstellen einer arbeitsanleitung

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17730452

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2017730452

Country of ref document: EP

Effective date: 20190107