DE10215167C1 - Command apparatus for semiautonomous system such as remote-controlled mobile robot detects beams from visible and infrared laser pointer held in operator's hand - Google Patents

Command apparatus for semiautonomous system such as remote-controlled mobile robot detects beams from visible and infrared laser pointer held in operator's hand

Info

Publication number
DE10215167C1
DE10215167C1 DE2002115167 DE10215167A DE10215167C1 DE 10215167 C1 DE10215167 C1 DE 10215167C1 DE 2002115167 DE2002115167 DE 2002115167 DE 10215167 A DE10215167 A DE 10215167A DE 10215167 C1 DE10215167 C1 DE 10215167C1
Authority
DE
Germany
Prior art keywords
laser pointer
laser
operator
arrangement
hand
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
DE2002115167
Other languages
German (de)
Inventor
Sven Horstmann
Steen Kristensen
Christopher Priem
Andreas Stopp
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Stopp Andreas Dr 15366 Neuenhagen De
Original Assignee
DaimlerChrysler AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by DaimlerChrysler AG filed Critical DaimlerChrysler AG
Priority to DE2002115167 priority Critical patent/DE10215167C1/en
Application granted granted Critical
Publication of DE10215167C1 publication Critical patent/DE10215167C1/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40103Show object with laser pointer, give oral command for action on, with object
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40607Fixed camera to observe workspace, object, workpiece, global
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40609Camera to monitor end effector as well as object to be handled

Abstract

Output data from a camera (11) are fed to the autonomous system, such as an industrial robot. A hand-held laser pointer (8) is provided for marking object points in the working area. The laser pointer emits radiation at at least two different frequencies. The first frequency may be visible, while the second frequency is infrared, the two beams being colinear. The camera is provided with a filter (22) that is transparent for at least one of these frequencies. The hand-held input unit may be provided for inputting commands to the robot.

Description

Die Erfindung betrifft eine Anordnung zur Kommandierung eines semiautonomen Systems nach dem Oberbegriff des Anspruchs 1, wie sie beispielsweise aus der Veröffentlichung "Integrating a Mul­ timodal Human-Robot Interaction Method Into a Multi-Robot Control Station" (IEEE International Workshop on Robot and Hu­ man Interactive Communication, 2001 IEEE) als bekannt hervor­ geht. Die Erfindung betrifft weiterhin einen Laserpointer zur Kommandierung eines semiautonomen Systems.The invention relates to an arrangement for commanding a Semiautonomous system according to the preamble of claim 1, such for example, from the publication "Integrating a Mul timodal Human-Robot Interaction Method Into a Multi-Robot Control Station "(IEEE International Workshop on Robot and Hu man Interactive Communication, 2001 IEEE) as known goes. The invention further relates to a laser pointer for Commanding a semiautonomous system.

Bei Arbeiten in gefährlicher oder gesundheitsschädlicher Umge­ bung werden vielfach semiautonome Systeme (z. B. ferngesteuerte mobile Roboter) eingesetzt, welche bedienergeführt bestimmte Aufgaben ausführen. Die Führung eines solchen semiautonomen Systems kann einerseits mit Hilfe eines Arbeitsprogramms erfol­ gen, das in einer Kontrollstation erstellt wird und dessen Ab­ arbeitung durch den Roboter mit Hilfe der Kontrollstation über­ wacht wird. Andererseits besteht oft - insbesondere bei Arbei­ ten in einem komplexen Arbeitsumfeld - das Interesse, die voll­ automatischen Führung des Roboters zu ersetzen bzw. zu ergänzen durch eine interaktive Steuerung, mit Hilfe derer ein Bediener den Roboter interaktiv durch ein Arbeitsumfeld führt und bei der Bearbeitung der auszuführenden Aufgaben instruiert. Dies hat den Vorteil, daß der Bediener die durch die Kontrollstation einprogrammierten Handlungen durch seine persönliche Umfeldin­ terpretation variieren und/oder ergänzen kann. So kann der Be­ diener beispielsweise bei Aufgaben komplexer Objekt- und Hin­ derniserkennung, bei Entscheidungen oder bei Kontrollaufgaben interaktiv auf den Roboter einwirken, so daß der Roboter die Rolle eines intelligenten Assistenten des Bedieners übernimmt. Hierfür ist eine Gesamtanordnung vonnöten, die eine schnelle und fehlerfreie Interaktion zwischen dem Bediener und dem Robo­ ter ermöglicht. - Ein Beispiel einer solchen Gesamtanordnung zur interaktiven Kommandierung eines Roboters ist in der Veröf­ fentlichung "Integrating a Multimodal Human-Robot Interaction Method Into a Multi-Robot Control Station" (IEEE International Workshop on Robot and Human Interactive Communication, 2001 IEEE, Seiten 468-472) beschrieben: Hierbei kommt ein Laserpoin­ ter zum Einsatz, mit Hilfe dessen der Bediener räumliche Infor­ mationen an den Roboter überträgt. Mit Hilfe des Laserpointers kann der Roboter beispielsweise auf einem durch den Laserpoin­ ter angedeuteten Weg durch einen Arbeitsraum geleitet werden; alternativ kann ein vom semiautonomen System zu transportieren­ der Gegenstand und/oder ein Ablageort für diesen Gegenstand vom Bediener markiert werden etc. Weiterhin ist in der Gesamtanord­ nung ein Spracherkennungssystem vorgesehen, mit Hilfe derer vom Bediener gesprochene Anweisungen in vom Roboter interpretierba­ re Befehle übersetzt werden.When working in dangerous or harmful environments Semiautonomous systems (eg remote-controlled systems) are often used mobile robots), which determined by the operator certain Perform tasks. The leadership of such a semi-autonomous Systems can on the one hand with the help of a work program suc which is created in a control station and whose Ab working through the robot using the control station over wakes up. On the other hand, there is often - especially at work in a complex work environment - the interest that is full to replace or supplement automatic guidance of the robot through an interactive control, with the help of which an operator interactively guide the robot through a work environment instructed to process the tasks to be performed. This has the advantage that the operator through the control station programmed actions through his personal environment vary and / or supplement interpretation. So the Be Servants, for example, in tasks of complex Object and Hin identity recognition, decisions or control tasks act interactively on the robot, so that the robot  Role of a smart assistant of the operator takes over. For this, an overall arrangement is needed, which is a fast and error-free interaction between the operator and the robo ter. - An example of such an overall arrangement for the interactive commanding of a robot is in the Veröf "Integrating a Multimodal Human-Robot Interaction Method Into a Multi-Robot Control Station "(IEEE International Workshop on Robot and Human Interactive Communication, 2001 IEEE, pages 468-472): Here comes a Laserpoin which the operator uses to provide spatial information transmits information to the robot. With the help of the laser pointer For example, the robot can move on through the laser pointer be led through a working space indicated ter way; alternatively, one can be transported by the semiautonomous system the object and / or a storage location for this item from Operator are marked etc. Furthermore, in the Gesamtanord provided a voice recognition system, with the help of which Operator's spoken instructions in from the robot interpreterba re commands are translated.

Die aus dieser Veröffentlichung bekannte Gesamtanordnung soll die räumliche Kommandierung eines semiautonomen Systems in ei­ nem Arbeitsraum ermöglichen. Dabei soll der Laserpointer so klein und leicht sein, daß er vom Bediener mühelos mit einer Hand gehalten und bedient werden kann. Weiterhin soll der vom Laserpointer ausgesendete Lichtpunkt für den Benutzer leicht sichtbar und für eine mit dem semiautonomen System verbundenen Kamera leicht detektierbar sein.The overall arrangement known from this publication is intended the spatial command of a semiautonomous system in ei enable a working space. The laser pointer should do so be small and light, that it is effortless with the operator Hand held and operated. Furthermore, should the from Laser pointer emitted light spot for the user easily visible and for one connected to the semiautonomous system Camera easily detectable.

Schwierigkeiten treten allerdings dann auf, wenn die Kommandie­ rung des semiautonomen Systems bei Tageslicht oder in einem hell beleuchteten Umfeld stattfinden soll. In einem solchen Fall kann der Lichtpunkt des Laserpointers nur dann prozeßsi­ cher von der Kamera des semiautonomen Systems erkannt werden, wenn die Intensität des Lichtpunkts wesentlich höher ist als das Umgebungs-Streulicht. Dies bedeutet, daß die Laserleistung - in Abhängigkeit von der Intensität des Umgebungs-Streulichts - ggf. sehr hoch gewählt werden muß. Dies wiederum hat zur Fol­ ge, daß der Leistungsverbrauch des Laserpointers sehr hoch ist, so daß entweder (bei Verwendung kleiner Batterien) die Nut­ zungsdauer des Systems sehr kurz ist, oder aber (bei Verwendung größerer, langlebigerer Batterien) der Laserpointer für ein handgehaltenes Gerät zu groß und unhandlich wird. Übersteigt die Intensität der Laserleistung einen bestimmten Wert, so darf weiterhin ein solcher Laserpointer nicht mehr in einem von Per­ sonen begehbaren Arbeitsumfeld genutzt werden. Somit ist der aus der oben genannten Veröffentlichtung bekannte Gesamtanord­ nung nicht geeignet, ein semiautonomes System in einem von Men­ schen begehbaren Arbeitsumfeld prozeßsicher im Dauerbetrieb zu kommandieren.However, difficulties arise when the command tion of the semi-autonomous system in daylight or in one brightly lit environment should take place. In such a In this case, the light spot of the laser pointer can only be processed be recognized by the camera of the semi-autonomous system, when the intensity of the light spot is much higher than the ambient scattered light. This means that the laser power - Depending on the intensity of the ambient light  - If necessary, must be very high. This in turn has to follow ge that the power consumption of the laser pointer is very high, so that either (when using small batteries) the groove duration of the system is very short, or (if used larger, more durable batteries) the laser pointer for a hand-held device is too big and unwieldy. exceeds the intensity of the laser power a certain value, so may Furthermore, such a laser pointer no longer in one of Per be used in a walk-in working environment. Thus, the from the above-mentioned publication known Gesamtanord not suitable, a semi-autonomous system in one of Men safe and secure work environment in continuous operation command.

Der Erfindung liegt daher die Aufgabe zugrunde, eine Gesamtan­ ordnung zur Verfügung zu stellen, mit Hilfe derer ein semiauto­ nomes System in einem von Menschen begehbaren Arbeitsumfeld prozeßsicher kommandiert werden kann. Weiterhin liegt der Er­ findung die Aufgabe zugrunde, einen aus dem Stand der Technik bekannten Laserpointer in einer solchen Weise weiterzuentwi­ ckeln, daß er sich zur Kommandierung eines semiautonomen Sys­ tems in einem von Menschen begehbaren Arbeitsumfeld eignet.The invention is therefore based on the object, a Gesamtan order, with the help of which a semiauto nomes system in a work-walkable environment can be commanded process-safe. He continues to lie the task is based, one of the prior art known laser pointer in such a way weiterzuentwi that he is in command of a semiautonomous system tems in a work-walkable environment.

Die Aufgabe wird erfindungsgemäß durch die Merkmale der Ansprü­ che 1 und 5 gelöst.The object is achieved by the features of Ansprü che 1 and 5 solved.

Danach kommt zur Kommandierung des semiautonomen Systems ein multichromatischer Laserpointer zum Einsatz, der simultan min­ destens zwei Lichtstrahlen unterschiedlicher Frequenzen aussen­ det, wobei die Lichtstrahlen kollinear zueinander ausgesandt werden. Weiterhin ist das semiautonome System an eine Kamera gekoppelt, mit Hilfe derer der Lichtpunkt des Laserpointers de­ tektiert wird und die mit einem Filter versehen ist, das für mindestens eine der Abstrahlfrequenzen des Laserpointers durch­ lässig ist. Then comes the command of the semiautonomous system multichromatic laser pointer used simultaneously with min at least two light beams of different frequencies outside det, wherein the light rays emitted collinear to each other become. Furthermore, the semi-autonomous system is to a camera coupled with the help of which the light spot of the laser pointer de tektiert and which is provided with a filter for at least one of the emission frequencies of the laser pointer by is casual.  

Die erste Abstrahlfrequenz des Laserpointers liegt vorteilhaft­ erweise im sichtbaren Spektralbereich; selbst wenn die Intensi­ tät dieses Strahls vergleichsweise gering ist, ist ein auf die­ ser sichtbaren Frequenz erzeugter Laserpunkt für den Bediener - auch bei hohem Streulichtanteil - gut erkennbar, weil der Be­ diener den Laserpointers in seiner Hand ausrichtet und daher eine gute Vorinformation bezüglich der zu erwartenden Auftreff­ stelle des Laserpunkts hat. Die zweite Abstrahlfrequenz wird - in Abhähgigkeit von dem jeweiligen Arbeitsumfeld - zweckmäßi­ gerweise in einem Frequenzbereich gewählt, in dem nur wenig Um­ feld-Streulicht vorliegt; das Filter der Kamera wird entspre­ chend dieser zweiten Abstrahlfrequenz so gewählt, daß es einer­ seits transparent ist für Strahlung im Bereich der zweiten Ab­ strahlfrequenz, andererseits aber das Umfeld-Streulicht weitge­ hend absorbiert. Da das Fremdlicht stark unterdrückt wird, kann der Lichtpunkt, den der Laserpointer auf der zweiten Abstrahl­ frequenz erzeugt, prozeßsicher von der Kamera detektiert wer­ den, auch wenn der Laserpointer auf dieser Abstrahlfrequenz nur eine geringe Strahlungsintensität aufweist. Da die beiden Fre­ quenzen kollinear vom Laserpointer abgestrahlt werden, stimmen die Orte der beiden auf diesen Frequenzen erzeugten Laserpunkte überein, so daß der sichtbare Laserfleck unmittelbar Aufschluß gibt über den Ort des auf der zweiten Abstrahlfrequenz erzeug­ ten Laserflecks.The first emission frequency of the laser pointer is advantageous in the visible spectral range; even if the Intensi This beam is comparatively low, one is on the the visible frequency generated laser spot for the operator - even with high proportion of stray light - easily recognizable because of the Be Servant aligns the laser pointers in his hand and therefore a good advance information regarding the expected impact has the point of the laser point. The second radiation frequency is - in dependence on the respective working environment - zweckmäßi are selected in a frequency range in which only a few Um field scattered light is present; the filter of the camera is corre sponding Chend this second radiation frequency chosen so that there is a On the other hand, it is transparent for radiation in the area of the second Ab beam frequency, on the other hand, however, the ambient stray light weitge absorbed. Since the ambient light is strongly suppressed, can the point of light emitted by the laser pointer on the second beam generates frequency, reliably detected by the camera who even if the laser pointer on this radiation frequency only has a low radiation intensity. Since the two Fre frequencies collinear from the laser pointer are correct the locations of the two laser spots generated on these frequencies match, so that the visible laser spot immediately digestion gives over the location of the generated on the second radiation frequency th laser spot.

Alternativ zu der oben beschriebenen Wahl der ersten Abstrahl­ frequenz im sichtbaren Bereich kann die erste Abstrahlfrequenz auch in einem anderen Frequenzbereich gewählt werden, wenn bei­ spielsweise der Arbeitsbereich (zumindest lokal) mit einer flu­ oreszierenden Beschichtung versehen ist, welche durch den ein­ fallenden ersten Laserstrahl aktiviert wird; auch dann ist die Auftreffstelle des ersten Laserstrahls nämlich für den Bediener leicht sichtbar.Alternatively to the above-described choice of the first emission Frequency in the visible range can be the first emission frequency also be selected in a different frequency range, if at For example, the work area (at least locally) with a flu oreszierenden coating is provided, which by the one falling first laser beam is activated; even then that is Impact of the first laser beam namely for the operator easily visible.

Die erfindungsgemäße Anordnung, welche einerseits einen multi­ chromatischen Laserpointer, andererseits eine (mittels eines Filters) auf eine spezifische Abstrahlfrequenz des Laserpoin­ ters eingestellte Kamera umfaßt, ermöglicht eine prozeßsichere Kommandierung des semiautonomen Systems in einem für Personen begehbaren Arbeitsumfeld: Aufgrund der spezifischen Eigenschaf­ ten der beiden Abstrahlfrequenzen kann die Strahlungsleistung des Laserpointers nämlich - wie oben erläutert - auf beiden Frequenzen so gering gewählt werden, daß die Laser- Sicherheitsvorschriften gemäß DIN problemlos erfüllt werden können. Durch geeignete konstruktive Maßnahmen kann der multi­ chromatische Laserpointer so klein und leicht gestaltet werden, daß er vom Bediener in einer Hand gehalten und geführt werden kann. Der Laserpointer weist aufgrund seines kollimierten Strahlengangs auch über große Distanzen hinweg eine hohe Genau­ igkeit auf. Weiterhin kann der Lichtfleck des Laserpointers auch von mehreren Robotern gleichzeitig detektiert werden, so daß sich die erfindungsgemäße Anordnung zur simultanen Komman­ dierung mehrerer semiautonomer Systeme eignet.The arrangement according to the invention, which on the one hand a multi chromatic laser pointer, on the other hand a (by means of a Filters) to a specific radiation frequency of the laser pointer  ters set camera allows a process-safe Commanding the semiautonomous system in one for persons Walk-in work environment: Due to the specific nature th the two radiation frequencies, the radiation power the laser pointer namely - as explained above - on both Frequencies are chosen so low that the laser Safety regulations according to DIN are easily met can. By appropriate design measures, the multi chromatic laser pointers are made so small and lightweight, that it is held and guided by the operator in one hand can. The laser pointer points due to its collimated Beam path also over long distances a high accuracy on. Furthermore, the light spot of the laser pointer also be detected by several robots simultaneously, so that the inventive arrangement for simultaneous Komman tion of several semiautonomer systems.

Erfindungsgemäß liegt der zweite Strahl des Laserpointers auf einer Wellenlänge im infraroten (IR-)Spektralbereich, welche der doppelten Wellenlänge des sichtbaren ersten Strahls ent­ spricht (siehe Anspruch 5). Dies hat den Vorteil, daß der erste Strahl des Laserpointers durch Frequenzverdopplung des zweiten Strahls erzeugt werden kann. Der Aufbau des Laserpointers ges­ taltet sich daher besonders einfach: In der Kavität des Laser­ pointers ist neben dem auf der IR-Frequenz abstrahlenden Laser­ medium ein frequenzverdoppelnder Kristall angeordnet, so daß in der Kavität neben dem IR-Strahl ein kollinear mit diesem ver­ laufender frequenzverdoppelter Strahl vorliegt. Die Austritts­ optik des Laserpointers ist so gestaltet, daß sowohl der erste (sichtbare) und der zweite (IR-)Strahl in einer gewünschten, mit den Sicherheitsvorschriften vereinbaren, Intensität austre­ ten.According to the invention, the second beam of the laser pointer lies on a wavelength in the infrared (IR) spectral range, which twice the wavelength of the visible first beam ent speaks (see claim 5). This has the advantage that the first Beam of the laser pointer by frequency doubling of the second Beam can be generated. The structure of the laser pointer ges Therefore, it turns out to be particularly easy: in the cavity of the laser pointers is next to the emitting on the IR frequency laser medium a frequency doubling crystal arranged so that in the cavity next to the IR beam a collinear with this ver current frequency doubled beam is present. The exits optics of the laser pointer is designed so that both the first (visible) and the second (IR) beam in a desired, Comply with safety regulations, replace intensity th.

In einer vorteilhaften Ausgestaltung der Erfindung enthält der Laserpointer als Lasermedium einen Nd:YVO4-Kristall, dessen La­ serwellenlänge (1064 nm) im Nah-IR-Bereich liegt und der mit Hilfe eines Laserdiode (mit Wellenlänge 808 nm) gepumpt wird. In an advantageous embodiment of the invention contains the Laser pointer as a laser medium a Nd: YVO4 crystal whose La serwellenlänge (1064 nm) in the near-IR range and the with Help of a laser diode (with wavelength 808 nm) is pumped.  

Als Frequenzverdoppler wird ein KTP-Kristall verwendet, der ei­ ne effiziente Frequenzverdopplung der IR-Laserwellenlänge auf eine sichtbare Wellenlänge von 532 nm (d. h. im grünen Spektral­ bereich) ermöglicht (siehe Anspruch 6). In einem industriellen Arbeitsumfeld ist ein solcher grüner Laserfleck - auch in ge­ ringer Intensität - für den Bediener leicht erkennbar.As frequency doubling a KTP crystal is used, the egg ne efficient frequency doubling of the IR laser wavelength on a visible wavelength of 532 nm (i.e., in the green spectral range) (see claim 6). In an industrial Working environment is such a green laser spot - also in ge ringer intensity - easily recognizable to the operator.

Die erfindungsgemäße Anordnung zur Kommandierung eines semiau­ tonomen Systems mit Hilfe eines multichromatischen Laserpoin­ ters kann insbesondere zur Steuerung eines Industrieroboters in einem industriellen Arbeitsumfeld eingesetzt werden (siehe An­ spruch 2).The inventive arrangement for commanding a semiau tonom system using a multichromatic laser pointer ters can in particular for controlling an industrial robot in industrial working environment (see An award 2).

Zweckmäßigerweise umfaßt die Kommandieranordnung - neben dem Laserpointer zur Übermittlung räumlicher Informationen an das semiautonome System - weitere Hilfsmittel zur Interaktion zwi­ schen Bediener und semiautonomem System. So ist es vorteilhaft, den Laserpointer mit einem Funkwellensender zu versehen, mit Hilfe dessen Signale an einen mit dem semiautonomen System ge­ koppelten Funkwellenempfänger gesendet werden können (siehe An­ spruch 3). Mit Hilfe dieses Funkwellensenders kann der Bediener dem semiautonomen System signalisieren, daß der Laserpointer nun auf einen Bereich im Arbeitsraum gerichtet ist, an dem das semiautonome System eine bestimmte Handlung durchführen soll. Das entsprechende Funkwellensignal triggert die Aufnahme eines Bildes des Arbeitsraums durch die Kamera; aus diesem Bild wird dann mit Hilfe eines Bildverarbeitungsprogramms der Laserpunkt identifiziert, dessen Ortskoordinaten an das semiautonome Sys­ tem weitergegeben werden, das dann die geforderte Handlung vollführt.Conveniently, the Kommandieranordnung - in addition to the Laser pointer for the transmission of spatial information to the semiautonomous system - additional tools for interaction between operator and semi-autonomous system. So it is beneficial to provide the laser pointer with a radio wave transmitter, with Help its signals to a ge with the semiautonomous system paired radio wave receivers can be sent (see award 3). With the help of this radio wave transmitter, the operator signal the semiautonomous system that the laser pointer now directed to an area in the workspace where the semiautonomous system should perform a specific action. The corresponding radio wave signal triggers the recording of a Image of the workspace by the camera; out of this picture then with the help of an image processing program the laser point whose location coordinates to the semiautonomous Sys be passed on, then the required action performs.

Weiterhin umfaßt die Anordnung zweckmäßigerweise eine tragbare Eingabeeinheit, mit Hilfe derer der Bediener Befehle an das se­ miautonome System absetzen kann (siehe Anspruch 4). Diese Ein­ gabeeinheit kann insbesondere ein handgehaltener Computer mit Touchscreen sein, auf dem der Bediener den gewünschten Befehl anwählen kann. Ein diesem Befehl entsprechendes Signal wird dann vom Computer (über Funk, oder über Datenleitung) an das semiautonome System übermittelt.Furthermore, the arrangement expediently comprises a portable Input unit, with the help of which the operator commands to se may discontinue miautonomous system (see claim 4). This one In particular, a handheld computer can be used with Touchscreen on which the operator the desired command can dial. A signal corresponding to this command becomes  then from the computer (via radio, or via data line) to the Semiautonomous system transmitted.

Im folgenden wird die Erfindung anhand eines in den Zeichnungen dargestellten Ausführungsbeispiels näher erläutert; dabei zei­ gen:In the following the invention with reference to a in the drawings illustrated embodiment illustrated in more detail; thereby zei gene:

Fig. 1 eine schematische Darstellung einer erfindungsgemäßen Anordnung zur Kommandierung eines semiautonomen Sys­ tems in einem Arbeitsraum; Figure 1 is a schematic representation of an inventive arrangement for commanding a semiautonomous system in a working space.

Fig. 2 eine schematische Darstellung eines erfindungsgemäßen multichromatischen Laserpointers. Fig. 2 is a schematic representation of a multichromatic laser pointer according to the invention.

Fig. 1 zeigt in einer schematischen Darstellung ein semiauto­ nomes System 1, welches von einem Bediener 2 in einem Arbeits­ raum 3 kommandiert wird. Dieser Arbeitsraum 3 kann z. B. eine Arbeitszelle in einem Produktionsumfeld, eine Ent- bzw. Bela­ destation eines Transportsystems oder auch eine Gefahrenumge­ bung (wie z. B. ein chemisch verseuchtes Gelände) sein. Unter einem "semiautonomen System" 1 soll im folgenden ein Manipula­ tor, insbesondere ein Roboter 1', verstanden werden, welcher Befehle von einer Bedienperson 2 empfängt und - entsprechend dieser Befehle - bestimmte Handlungen durchführt. Zur Interpre­ tation der Bedienerbefehle und zur Steuerung/Regelung der die­ sen Befehlen entsprechenden Roboterbewegungen ist das semiauto­ nome System 1 mit einer Rechnereinheit 4 versehen. Die interak­ tive Steuerung des semiautonomen Systems 1 durch den Bediener 2 erfolgt mit Hilfe einer in Fig. 1 schematisch dargestellten Kommandier-Anordnung 5; diese Anordnung 5 besteht aus mehreren Komponenten, die im folgenden beschrieben werden:
Zur Übermittlung von Befehlen des Bedieners 2 an das semiauto­ nome System 1 umfaßt die Anordnung 5 eine tragbare Eingabeein­ heit 6. Im vorliegenden Beispiel ist diese Eingabeeinheit 6 durch einen handgehaltenen Computer 6' mit Touchscreen gebil­ det, auf dem der Bediener 2 gewisse (voreingestellte) Befehle auswählen kann; die Eingabeeinheit 6 ist mit einem Funksender 7 versehen, mit Hilfe dessen der jeweils angewählte Befehl an ei­ nen Funkempfänger 30 übertragen wird, welcher an die Rechenein­ heit 4 des semiautonomen Systems 1 gekoppelt ist. Die Rechen­ einheit 4 interpretiert das empfangene Funksignal und initiiert bzw. steuert die Abarbeitung des entsprechenden Befehls durch das semiautonome System 1.
Fig. 1 shows a schematic representation of a semiauto nomes system 1 , which is commanded by an operator 2 in a working space 3 . This working space 3 can z. B. a work cell in a production environment, a de- or Bela destation a transport system or even a hazardous environment environment (such as a chemically contaminated terrain). A "semi-autonomous system" 1 is to be understood below as meaning a manipulator, in particular a robot 1 ', which receives commands from an operator 2 and, in accordance with these commands, performs specific actions. For interpre tation of the operator commands and for controlling / regulating the sen commands corresponding robot movements semiauto nome system 1 is provided with a computer unit 4 . The interactive control of the semi-autonomous system 1 by the operator 2 takes place with the aid of a commanding arrangement 5 shown schematically in FIG. 1; This arrangement 5 consists of several components, which are described below:
For the transmission of commands from the operator 2 to the semiauto nome system 1, the arrangement 5 comprises a portable input unit 6th In the present example, this input unit 6 is formed by a hand-held computer 6 'with touch screen, on which the operator 2 can select certain (preset) commands; the input unit 6 is provided with a radio transmitter 7 , by means of which the respectively selected command is transmitted to egg NEN radio receiver 30 which is coupled to the Rechenein unit 4 of the semi-automatic system 1 . The computing unit 4 interprets the received radio signal and initiates or controls the execution of the corresponding command by the semi-autonomous system 1 .

Alternativ zu der in Fig. 1 gezeigten Eingabeeinheit 6 in Form eines Computers 6' mit Touchscreen kann die Befehligung des se­ miautonomen Systems 1 beispielsweise akustisch erfolgen: In diesem Fall werden die Befehle durch den Bediener 2 gesprochen; das semiautonome System 1 ist in diesem Fall mit einem Mikro­ phon und einem Spracherkennungssystem versehen, das die gespro­ chene Information in das entsprechende Befehlssignal übersetzt.As an alternative to the input unit 6 in the form of a computer 6 'with touchscreen shown in FIG. 1, the command of the se mechatronic system 1 can be carried out acoustically: in this case, the commands are spoken by the operator 2 ; the semiautonomous system 1 is in this case provided with a microphone and a voice recognition system which translates the spoken information into the corresponding command signal.

Zur Übermittlung räumlicher Informationen vom Bediener 2 an das semiautonome System 1 umfaßt die erfindungsgemäße Anordnung 5 einen handgehaltenen Laserpointer 8. Mit Hilfe dieses Laser­ pointers 8 kann der Bediener 2 Objektpunkte 9 im Arbeitsraum 3 markieren; zur Erkennung der durch den Laserpointer 8 erzeugten Lichtpunkte 10 im Arbeitsraum 3 ist eine Kamera 11 vorgesehen, mit Hilfe derer der Arbeitsraum 3 (bzw. ein ausgewählter Aus­ schnitt dieses Arbeitsraums 3) überwacht wird. Im Ausführungs­ beispiel der Fig. 1 ist diese Kamera 11 raumfest stationiert. Alternativ zu dieser raumfesten Stationierung der Kamera 11 kann die Kamera auf dem semiautonomen System 1 montiert sein und sich - bei Bewegungen des semiautonomen Systems 1 - gemein­ sam mit diesem bewegen.For transmitting spatial information from the operator 2 to the semi-autonomous system 1, the arrangement 5 according to the invention comprises a hand-held laser pointer 8 . With the help of this laser pointers 8 , the operator can mark 2 object points 9 in the working space 3 ; to detect the light spots 10 generated by the laser pointer 8 in the working space 3 , a camera 11 is provided by means of which the working space 3 (or a selected cut from this working space 3 ) is monitored. In the embodiment of FIG. 1, for example, this camera 11 is stationary in space. As an alternative to this space-fixed stationing of the camera 11 , the camera can be mounted on the semi-autonomous system 1 and move together with it during movements of the semi-autonomous system 1 .

Die Meßdaten der Kamera 11 werden über ein Kabel 12 oder berüh­ rungsfrei (z. B. über Funk) an die Steuereinheit 4 des semiauto­ nomen Systems 1 übermittelt. Die Steuereinheit 4 enthält ein Bildverarbeitungssystem, mit Hilfe dessen die Kameradaten aus­ gewertet bzw. interpretiert werden. The measurement data of the camera 11 are transmitted to the control unit 4 of the semiauto nomen system 1 via a cable 12 or berüh free (eg., Via radio). The control unit 4 contains an image processing system by means of which the camera data is evaluated or interpreted.

Erfindungsgemäß ist der Laserpointer 8 multichromatisch, d. h. er gibt elektromagnetische Strahlung mehrerer verschiedener Wellenlängen ab. Der Aufbau eines erfindungsgemäßen Laserpoin­ ters 8, der auf zwei unterschiedlichen Wellenlängen - einer sichtbaren und einer infraroten - abstrahlt, ist in Fig. 2 schematisch dargestellt (wobei die bekannten, zur Strahlführung und -formung notwendigen optischen Elemente wie Linsen etc. aus Gründen der Übersichtlichkeit weggelassen sind). Der Laserpoin­ ter 8 umfaßt eine Laserkavität 13, in der ein Laserkristall 16 (im vorliegenden Ausführungsbeispiel einen Nd:YVO4-Stab mit La­ serwellenlänge 1064 nm) angeordnet ist. Als Pumplaser 17 ist eine Laserdiode vorgesehen. Neben dem Laserkristall 16 befindet sich in der Laserkavität 13 weiterhin ein Frequenzverdoppler 18. Im vorliegenden Ausführungsbeispiel ist dies einen KTP- Kristall, durch den eine Frequenzverdopplung der IR-Laser­ wellenlänge von 1064 nm auf eine sichtbare Wellenlänge von 532 nm (d. h. im grünen Spektralbereich) erfolgt; in der Laserkavi­ tät 13 liegt somit sowohl die ursprüngliche (IR-)Laserstrah­ lung als auch die frequenzverdoppelte sichtbare Laserstrahlung vor. Die Laserkavität 13 ist beidseitig durch Spiegel 14, 15 be­ grenzt, wobei der Austrittsspiegel 15 sowohl für die IR- Laserstrahl 19 (der in Fig. 1 und 2 gepunktet dargestellt ist) als auch für den sichtbaren Strahl 20 halbdurchlässig ist. Neben einer (herkömmlichen) Fokussieroptik ist außerhalb der Laserkavität 13 im Strahlengang ein Austrittsfilter 21 vorgese­ hen, das als optisches Bandfilter ausgestaltet ist. Austritts­ spiegel 15 und Austrittsfilter 21 sind so aufeinander abge­ stimmt, daß nur gewisse Anteile des IR-Laserstrahls 19 und des sichtbaren Strahls 20 durchgelassen werden; die transmittierten Intensitäten werden so eingestellt, daß die DIN-Anforderungen in bezug auf Lasersicherheit in beiden Frequenzbereichen er­ füllt sind. Für die Anwendung des Laserpointers 8 zur Komman­ dierung eines Industrieroboters 1' in einem industriellen Um­ feld hat es sich als vorteilhaft herausgestellt, die Intensitä­ ten der ausgekoppelten Strahlen 19, 20 so einzustellen, daß bei­ de Strahlen 19, 20 je eine Intensität von 1 mW haben. Der sichtbare (grüne) Laserstrahl 20 entspricht somit Laserklasse 2. Ein mit diesem Laserpointer 8 markierter Objektpunkt 9 im Arbeitsraum 3 ist dann - auch bei hellem Umgebungslicht - für das menschliche Auge gut erkennbar. Da der sichtbare Strahl 20 kollinear zu dem infraroten Strahl 19 verläuft, erfolgt bei ei­ nem (versehentlichen) Auftreffen des Laserstrahls 19, 20 auf ein menschliches Gesicht sofort ein Lidschutzreflex, so daß eine Schädigung des Auges aufgrund der IR-Strahlung 19 vermieden wird. Da die beiden Strahlen 19, 20 von derselben Quelle 17 er­ zeugt werden und der sichtbare Strahl 20 über die Frequenzver­ dopplung unmittelbar an den IR-Strahl 19 gekoppelt ist, ist dieser Sicherungsmechanismus zu allen Zeiten gewährleistet: Wennimmer der Laserpointer einen IR-Strahl 19 abstrahlt, wird auch ein kollinear mit diesem verlaufender sichtbarer Strahl 20 abgestrahlt.According to the invention, the laser pointer 8 is multichromatic, ie it emits electromagnetic radiation of several different wavelengths. The construction of a Laserpoin age 8 according to the invention, which radiates at two different wavelengths - one visible and one infrared - is shown schematically in Fig. 2 (wherein the known, necessary for beam guidance and shaping optical elements such as lenses, etc. for reasons of clarity are omitted). The Laserpoin ter 8 includes a laser cavity 13 , in which a laser crystal 16 (in the present embodiment, a Nd: YVO4 rod with La serwellenlänge 1064 nm) is arranged. As a pump laser 17 , a laser diode is provided. In addition to the laser crystal 16 , a frequency doubler 18 is furthermore located in the laser cavity 13 . In the present embodiment, this is a KTP crystal through which a frequency doubling of the IR laser wavelength of 1064 nm to a visible wavelength of 532 nm (ie in the green spectral range) takes place; Thus, both the original (IR) laser radiation and the frequency-doubled visible laser radiation are present in the laser cavity 13 . The laser cavity 13 on both sides be by mirrors 14, 15 is adjacent, wherein the output mirror 15 to both the IR laser beam (the shown dotted in Fig. 1 and 2) 19 and is semi-transparent for the visible beam 20. In addition to a (conventional) focusing optics outside the laser cavity 13 in the beam path vorgese hen an outlet filter 21 , which is designed as an optical bandpass filter. Outlet mirror 15 and outlet filter 21 are coordinated so abge that only certain portions of the IR laser beam 19 and the visible beam 20 are transmitted; the transmitted intensities are adjusted so that the DIN requirements with respect to laser safety in both frequency ranges he filled. For the application of the laser pointer 8 to Komman tion of an industrial robot 1 'in an industrial field, it has been found to be advantageous, the Intensitä th the decoupled beams 19 , 20 set so that at de rays 19 , 20 each have an intensity of 1 mW to have. The visible (green) laser beam 20 thus corresponds to laser class 2 . A marked with this laser pointer 8 object point 9 in the working space 3 is then - even in bright ambient light - easily visible to the human eye. Since the visible beam 20 is collinear with the infrared beam 19 , an eyelid protection reflex occurs immediately when the laser beam 19 , 20 hits a human face, so that damage to the eye due to the IR radiation 19 is avoided. Since the two beams 19 , 20 are generated by the same source 17 and the visible beam 20 is coupled directly to the IR beam 19 via the frequency duplication, this securing mechanism is ensured at all times: whenever the laser pointer emits an IR beam 19 Also, a collinear visible beam 20 is radiated therewith.

Aufgrund der Anordnung des Laserkristalls 16 und des Frequenz­ verdopplers 18 in der Laserkavität 13 verlaufen IR-Laserstrahl 19 und sichtbarer Strahl 20 kollinear, so daß der für den Be­ diener 2 sichtbare Laserfleck 10 exakt dem IR-Laserfleck 10' entspricht. Die Abstrahlfrequenz des Laserpointers 8 im sicht­ baren Teil des Spektrums ermöglicht dem Bediener 2 einerseits, den jeweils markierten Objektpunkt 9 jederzeit zu erkennen; an­ dererseits ermöglicht der kollinear zum sichtbaren Strahl 20 ausgesandte IR-Strahl 19 eine simultane Markierung des Objekt­ punkts 9 im IR-Bereich.Due to the arrangement of the laser crystal 16 and the frequency doubler 18 in the laser cavity 13 IR laser beam 19 and visible beam 20 are collinear, so that the operator for the Be 2 visible laser spot 10 exactly corresponds to the IR laser spot 10 '. The emission frequency of the laser pointer 8 in the visible portion of the spectrum allows the operator 2, on the one hand, to recognize the respectively marked object point 9 at any time; on the other hand allows the collinear to the visible beam 20 emitted IR beam 19 simultaneous marking of the object point 9 in the IR range.

Befindet sich der Arbeitsraum 3 in einem hell ausgestrahlten Umfeld, so ist dem Strahl 19, 20 des Laserpointers 8 ein hoher Anteil an Störstrahlung überlagert. Um dennoch eine gute Er­ kennbarkeit des durch den Laserpointer 8 markierten Objekt­ punkts 9 sicherzustellen, ist die Kamera 11 mit einem Filter 22 versehen, welches transparent ist für die Wellenlänge des IR- Laserstrahls 19, aber störendes Umgebungslicht ausfiltert. Die­ ses Filter 22 ist vorteilhafterweise speziell auf die IR- Frequenz des Laserpointers 8 abgestimmt, so daß der IR- Laserfleck 10' mit hoher Prozeßsicherheit aus dem Umgebungs- Licht herausgefiltert wird. Die Kamera 11 ist an ein (in der Rechnereinheit 4 integriertes) Bildverarbeitungssystem ange­ schlossen, mit Hilfe dessen die Position des Laserflecks auf dem Kamerabild schnell, einfach und prozeßsicher ermittelt wer­ den kann.If the working space 3 is in a brightly radiated environment, the beam 19 , 20 of the laser pointer 8 is overlaid with a high proportion of interfering radiation. In order nevertheless to ensure a good legibility of the object 9 marked by the laser pointer 8 , the camera 11 is provided with a filter 22 which is transparent to the wavelength of the IR laser beam 19 but filters out interfering ambient light. The filter 22 is advantageously matched specifically to the IR frequency of the laser pointer 8 , so that the IR laser spot 10 'is filtered out of the ambient light with high process reliability. The camera 11 is connected to a (integrated in the computer unit 4 ) image processing system is connected, with the help of which the position of the laser spot on the camera image quickly, easily and reliably determines who can.

Der Laserpointer 8 hat etwa die Größe eine Füllfederhalters, hat ein geringes Gewicht und kann daher vom Bediener 2 leicht auf beliebige Raumpunkte ausrichtet werden. Neben dem bisher beschriebenen Ausführungsbeispiel des multichromatischer Laser­ pointers 8 mit zwei Abstrahlfrequenzen kann der Laserpointer auch so gestaltet sein, daß er auf drei (oder noch mehr) unter­ schiedlichen Frequenzen abstrahlt.The laser pointer 8 is about the size of a fountain pen, has a low weight and therefore can be easily aligned by the operator 2 to any space points. In addition to the previously described embodiment of the multichromatic laser pointers 8 with two emission frequencies, the laser pointer can also be designed so that it radiates to three (or even more) under different frequencies.

Der Laserpointer 8 der Fig. 1 ist zusätzlich mit einem Funk­ sender 23 versehen, mit Hilfe dessen ein digitales Funksignal an den mit dem semiautonomen System 1 gekoppelten Funkempfänger 30 übersandt werden kann. Dies dient zur Triggerung der Bild­ aufnahme durch die Kamera 11.The laser pointer 8 of Fig. 1 is additionally provided with a radio transmitter 23 , by means of which a digital radio signal to the semi-autonomous system 1 coupled radio receiver 30 can be sent. This is used to trigger the image acquisition by the camera 11 .

Im folgenden wird die Bedienung der erfindungsgemäßen Anordnung 5 zur Kommandierung des semiautonomen Systems 1 anhand des schematischen Beispiels der Fig. 1 beschrieben:
Fig. 1 zeigt als konkretes Beispiel des semiautonomen Systems 1 einen Industrieroboter 1', welcher einen Manipulatorarm 24 aufweist. Im Wirkungsbereich des Manipulatorarms 24 befindet sich eine Gitterbox 25, in der mehrere Gegenstände 26 abgelegt sind. Weiterhin befindet sich im Wirkungsbereich des Manipula­ torarms 24 ein Ablagebereich 27, auf dem der Manipulatorarm 24 die aus der Gitterbox 25 entnommenen Gegenstände 26 ablegen soll. Die Aufgabe besteht nun darin, den Manipulatorarm 24 auf eine solche Art interaktiv zu kommandieren, daß der Manipula­ torarm 24 einen Gegenstand 26 aus der Gitterbox 25 nimmt und an einer bedienergewählten Stelle 28 im Ablagebereich 27 ablegt.
The operation of the arrangement 5 according to the invention for commanding the semi-autonomous system 1 will now be described with reference to the schematic example of FIG. 1:
As a concrete example of the semi-autonomous system 1, FIG. 1 shows an industrial robot 1 'which has a manipulator arm 24 . In the area of action of the manipulator arm 24 is a grid box 25 in which a plurality of objects 26 are stored. Further, 24 of the Manipula door arm is located in an area where a storage area 27, on which the manipulator 24 is to store the extracted from the box pallet 25 Objects 26th The task now is to command the manipulator 24 interactively in such a way that the manipula torarm 24 takes an object 26 from the grid box 25 and stores at a user-selected point 28 in the storage area 27 .

Der Bediener 2 hält hierfür in seiner einen Hand den handgehal­ tenen Computer 6' mit Touchscreen, der über Funk mit dem an die Recheneinheit 4 gekoppelten Funkwellenempfänger 30 verbunden ist. In der anderen Hand hält der Bediener 2 den multichromati­ schen Laserpointer 8.The operator 2 holds this in his hand, hand-held computer 6 'with touch screen, which is connected via radio to the coupled to the arithmetic unit 4 radio wave receiver 30 . In the other hand, the operator 2 holds the multichromatic laser pointer 8 .

Zur Kommandierung des Roboters 1' setzt der Bediener 2 zunächst mit Hilfe des Computers 6' einen Befehl an den Roboter 1' ab (z. B.: "Greife einen Gegenstand aus der Gitterbox und lege den Gegenstand an der markierten Stelle ab!"); anschließend bzw. gleichzeitig richtet der Bediener 2 den Laserpointer 8 auf die ausgewählte Stelle 28 im Ablagebereich 27, wobei der sichtbare Strahl 20 des Laserpointers 8 dem Bediener 2 genau den Raum­ punkt 9 anzeigt, auf den der Laserpointer 8 gerichtet ist. Hat er den Laserpointer 8 auf die gewünschte Stelle 28 ausgerich­ tet, so drückt der Bediener 2 auf einen Auslöseknopf 29 auf dem Laserpointer 8, wodurch der auf dem Laserpointer 8 angeordnete Funksender 23 ein Funksignal aussendet; dieses Funksignal wird durch den mit der Rechnereinheit 4 des Roboters 1' verbundenen Funkempfänger 30 aufgenommen und triggert eine Bildaufnahme durch die (auf den Ablagebereich 27 gerichtete) Kamera 11. Zweckmäßigerweise erhält der Bediener 2 ein akustisches Feed­ back, wenn der Laserpunkt erkannt wurde. Weiterhin erhält der Bediener 2 eine Rückmeldung darüber, wenn eine Bildaufnahme ge­ triggert wurde, aber kein Laserpunkt von der Kamera 11 erkannt werden konnte (was darauf hindeutet, daß der Laserpunkt außer­ halb des Sichtbereichs der Kamera 11 war). Der Bediener 11 kann dann zur Korrektur bzw. Wiederholung der Markierung des ge­ wünschten Ortes aufgefordert werden. Weiterhin ist es vorteil­ haft, in der Rechnereinheit 4 eine Überprüfung dahingehend vor­ zunehmen, ob der gewünschte Ablageort, eine markierte Raumzone etc. zulässig sind und ggf. eine Fehlermeldung für den Bediener 2 auszugeben.In order to command the robot 1 ', the operator 2 first issues a command to the robot 1 ' with the aid of the computer 6 '(eg: "Grab an item from the grid box and place the item at the marked position!") ; Subsequently or simultaneously, the operator 2 directs the laser pointer 8 on the selected location 28 in the storage area 27 , wherein the visible beam 20 of the laser pointer 8 to the operator 2 exactly the space point 9 indicates, to which the laser pointer 8 is directed. If he has the laser pointer 8 aligned to the desired location 28 , the operator 2 presses on a release button 29 on the laser pointer 8 , whereby the arranged on the laser pointer 8 radio transmitter 23 emits a radio signal; This radio signal is picked up by the radio receiver 30 connected to the computer unit 4 of the robot 1 'and triggers an image acquisition by the camera 11 (directed onto the storage area 27 ). Conveniently, the operator 2 receives an acoustic feedback when the laser spot has been detected. Furthermore, the operator 2 receives feedback about when an image acquisition was triggered, but no laser spot could be detected by the camera 11 (indicating that the laser spot was out of the field of view of the camera 11 ). The operator 11 may then be requested to correct or repeat the marking of the desired location. Furthermore, it is advantageous to increase in the computer unit 4 a check to the extent before, whether the desired storage location, a marked room zone, etc. are permitted and possibly issue an error message for the operator 2 .

Da die Kamera 11 - wie oben beschrieben - mit einem IR-Filter 22 versehen ist, wird bei der Bildaufnahme das Umgebungslicht stark unterdrückt, während der durch den IR-Strahl 19 des La­ serpointers 8 erzeugte Laserpunkt 10' nahezu ungeschwächt transmittiert wird und daher auf dem Bild klar erkennbar ist. Since the camera 11 - as described above - is provided with an IR filter 22 , the ambient light is strongly suppressed during image acquisition, while the generated by the IR beam 19 of the La serpointers 8 laser point 10 'is transmitted almost unimpaired and therefore on the picture is clearly visible.

Somit kann die Detektion des Laserpunkts 10' auf dem Kamerabild mit Hilfe herkömmlicher Bildverarbeitungsalgorithmen in der Rechnereinheit erfolgen. Daraus wird der diesem Bildpunkt ent­ sprechende Raumpunkt berechnet. Somit sind alle dem Bedienerbe­ fehl entsprechenden Prozeßschritte bestimmt: der Manipulatorarm 24 greift nun einen Gegenstand 26 aus der Gitterbox 25 und legt den Gegenstand 26 an der gewünschten Stelle 28 des Ablagebe­ reichs 27 ab.Thus, the detection of the laser spot 10 'on the camera image can be done using conventional image processing algorithms in the computer unit. From this, the point of the room corresponding to this pixel is calculated. Thus, all the operator error corresponding process steps are determined: the manipulator arm 24 now takes an object 26 from the grid box 25 and places the article 26 at the desired location 28 of the Ablagebe range 27 from.

Die Berechnung des Raumpunkts 28, an dem der Gegenstand 26 ab­ gelegt werden soll, aus der Bildinformation der Kamera 11 setzt voraus, daß ein eindeutiger Bezug zwischen dem Kamerabild und dem durch die Kamera 11 überblickten Arbeitsraum 3 besteht. Dieser Bezug kann beispielsweise durch eine sogenannte Hand- Eye-Kalibrierung hergestellt werden; bezüglich dieser Art der Kalibrierung wird verwiesen auf die Veröffentlichung "Hand-Eye Calibration Using Dual Quarternions" (K. Daniilidis, Internati­ onal Journal of Robotics Research, Vol. 18, 1999, Seiten 286-­ 298), deren Inhalt hiermit in diese Anmeldung übernommen wird. Alternativ kann der Bezug beispielsweise über das sogenannte "Visual Servoing" hergestellt werden. Diese Methode ist z. B. dargestellt in der Veröffentlichung "A Tutorial on Visual Servo Control" (S. Hutchinson, G. D. Hager, P. I. Corke, IEEE Transac­ tions on Robotics and Automation, Vol. 12, No. 5, 1996, Seiten 651-670), deren Inhalt ebenfalls in diese Anmeldung übernommen wird.The calculation of the point of space 28 at which the object 26 is to be placed from the image information of the camera 11 assumes that there is a clear relationship between the camera image and the working space 3 covered by the camera 11 . This reference can be made for example by a so-called hand-eye calibration; With respect to this type of calibration, reference is made to the publication "Hand-Eye Calibration Using Dual Quaternions" (K. Daniilidis, International Journal of Robotics Research, Vol. 18, 1999, pages 286-298), the contents of which are hereby incorporated by reference becomes. Alternatively, the reference can be made for example via the so-called "visual servoing". This method is z. As shown in the publication "A Tutorial on Visual Servo Control" (S.Hutchinson, GD Hager, PI Corke, IEEE Transactions Robotics and Automation, Vol. 12, No. 5, 1996, pages 651-670), whose Content is also included in this application.

Ist der Roboter 1' - wie oben beschrieben - auf einen bestimm­ ten Befehl interaktiv eingelernt worden, so kann der Roboter 1' diesen Vorgang beliebig oft autonom wiederholen. Somit eröffnet die erfindungsgemäße Kommandieranordnung 5 die Möglichkeit, den Roboter 1' von einem Bediener 2 einzulernen, ohne daß der Be­ diener 2 in den Arbeitsbereich 3 (= Gefahrenbereich) des Robo­ ters 1' hineinreichen bzw. hineintreten muß.If the robot 1 'has been taught in interactively to a specific command, as described above, then the robot 1 ' can repeat this process autonomously as often as desired. Thus, the Kommandieranordnung 5 according to the invention opens the possibility to teach the robot 1 'by an operator 2 , without the Be servant 2 in the work area 3 (= danger area) of Robo age 1 ' extend or must enter.

Mit Hilfe des Laserpointers 8 können einerseits einzelne Ob­ jektpunkte 9 im Arbeitsraum 3 markiert werden; dadurch können z. B. Objekte gekennzeichnet werden, welche mit Hilfe des semi­ autonomen Systems 1 bewegt, bearbeitet etc. werden sollen. Ne­ ben dieser der Markierung einzelner Raumpunkte 9 kann der La­ serpointer 8 auch zur Markierung ausgewählter Wege, Bereiche etc. im Arbeitsraum 3 verwendet werden. Unterschiedliche Arten der räumlichen Informationsübertragung anhand eines Laserpoin­ ters 8 sind beispielsweise in der Veröffentlichung "Integrating a Multimodal Human-Robot Interaction Method Into a Multi-Robot Control Station" (IEEE International Workshop on Robot and Hu­ man Interactive Communication, 2001 IEEE) dargestellt, deren Inhalt hiermit in diese Anmeldung aufgenommen wird.With the help of the laser pointer 8 , on the one hand individual object points 9 can be marked in the working space 3 ; thereby z. B. objects are marked, which are moved by means of the semi-autonomous system 1 , edited, etc. to be. Ne ben this of the marking of individual points in space 9 , the La serpointer 8 can also be used to mark selected paths, areas, etc. in the working space 3 . Different types of spatial information transmission using a Laserpoin age 8 are shown for example in the publication "Integrating a Multimodal Human-Robot Interaction Method Into a Multi-Robot Control Station" (IEEE International Workshop on Robot and Hu man Interactive Communication, 2001 IEEE) whose Content is hereby incorporated into this application.

Weiterhin ist es möglich, mit Hilfe des Laserpointers 8 Griff­ positionen an dem zu manipulierenden Gegenstand 26 zu markie­ ren. Alternativ bzw. zusätzlich können - z. B. durch Markierung mehrerer Punkte im Raum - auch Vektoren (z. B. Griffrichtungen) angezeigt werden.Furthermore, it is possible with the help of the laser pointer 8 handle positions on the object to be manipulated 26 mark ren. Alternatively or additionally -. B. by marking several points in the room - also vectors (eg Griffrichtungen) are displayed.

Bisher wurde eine Anordnung 5 beschrieben, in der Bedienerbe­ fehle mit Hilfe von Funksignalen übertragen werden. Alternativ bzw. zusätzlich kann die Befehligung auch durch die menschliche Stimme erfolgen (wobei dies voraussetzt, daß ein System zur Spracherkennung vorgesehen ist).So far, an arrangement 5 has been described, in the operator error is transmitted by means of wireless signals. Alternatively, or in addition, the command can also be done by the human voice (this assumes that a system for speech recognition is provided).

Neben der oben beschriebenen Kommandierung des semiautonomen Systems 1, bei der dieses System 1 interaktiv durch den Bedie­ ner 2 geführt wird, der dem System 1 - in Abhängigkeit von den jeweils zu bearbeitenden Aufgaben - interaktiv Befehle gibt, kann das semiautonome System 1 auch in einem rechnergestützten Modus betrieben werden. In diesem rechnergestützten Modus emp­ fängt das semiautonome System seine Befehle von einer (in Fig. 1 nicht gezeigten) Kontrollstation, in der ein (fest vorgegebe­ nes) Arbeitsprogramm für das semiautonome System 1 abgelegt ist, welches dann von dem System 1 sequentiell abgearbeitet wird. Neben der rein bedienergesteuerten Kommandierung des se­ miautonomen Systems 1 und dem rechnergestützten Modus sind Fischformen der Kommandierung möglich, bei denen bestimmte Ar­ beiten vollautomatisch durchgeführt werden, andere jedoch in­ teraktiv kommandiert werden.In addition to the above-described commanding of the semiautonomous system 1 , in which this system 1 is interactively guided by the operator 2 , which gives the system 1 - depending on the respective tasks to be processed - interactive commands, the semi-autonomous system 1 in a computer-aided mode. In this computerized mode, the semi-autonomous system receives its commands from a control station (not shown in FIG. 1) in which a (fixed) work program is stored for the semi-autonomous system 1 , which is then sequentially executed by the system 1 . In addition to the purely operator-controlled commanding of the se mechatronic system 1 and the computer-aided mode, commanding fish forms are possible in which certain work is carried out fully automatically, but others are commanded to be active.

Claims (6)

1. Anordnung zur Kommandierung eines semiautonomen Systems in einem Arbeitsfeld,
wobei die Anordnung eine Kamera zur Überwachung des Ar­ beitsfelds umfaßt, deren Ausgangsdaten dem autonomen Sys­ tem zuleitbar sind,
und wobei die Anordnung einen handgehaltenen Laserpointer zur Markierung von Objektpunkten im Arbeitsfeld umfaßt,
dadurch gekennzeichnet,
daß der Laserpointer (8) Strahlung auf mindestens zwei unterschiedlichen Abstrahlfrequenzen abstrahlt,
und daß die Kamera (11) mit einem Filter (22) versehen ist, das für mindestens eine der Abstrahlfrequenzen des Laserpointers (8) durchlässig ist.
1. arrangement for commanding a semi-autonomous system in a working field,
the arrangement comprising a camera for monitoring the work field whose output data can be supplied to the autonomous system,
and wherein the arrangement comprises a hand-held laser pointer for marking object points in the working field,
characterized
the laser pointer ( 8 ) emits radiation at at least two different emission frequencies,
and that the camera ( 11 ) is provided with a filter ( 22 ) which is transparent to at least one of the emission frequencies of the laser pointer ( 8 ).
2. Anordnung nach Anspruch 1, dadurch gekennzeichnet, daß das semiautonome System (1) ein Industrieroboter (1') ist.2. Arrangement according to claim 1, characterized in that the semi-autonomous system ( 1 ) is an industrial robot ( 1 '). 3. Anordnung nach Anspruch 1 oder 2, dadurch gekennzeichnet,
daß die Anordnung (5) einen Funkwellenempfänger (30) um­ faßt, dessen Ausgangsdaten dem semiautonomen System (1, 1') zuleitbar sind,
und daß die Anordnung (5) einen bedienergesteuerten, auf dem Laserpointer (8) angeordneten Funkwellensender (23) umfaßt.
3. Arrangement according to claim 1 or 2, characterized
in that the arrangement ( 5 ) comprises a radio-wave receiver ( 30 ) whose output data can be fed to the semi-autonomous system ( 1 , 1 '),
and in that the arrangement ( 5 ) comprises a user-controlled radio wave transmitter ( 23 ) arranged on the laser pointer ( 8 ).
4. Anordnung nach einem der vorangehenden Ansprüche, dadurch gekennzeichnet, daß die Anordnung (5) eine handgehaltene Eingabeeinheit (6, 6') zur Eingabe von Befehlen an das semiautonome System (1, 1') umfaßt.4. Arrangement according to one of the preceding claims, characterized in that the arrangement ( 5 ) comprises a hand-held input unit ( 6 , 6 ') for inputting commands to the semi-autonomous system ( 1 , 1 '). 5. Laserpointer (8) zur Kommandierung eines semiautonomen Sys­ tems (1, 1') in einem Arbeitsfeld (3),
welcher einen ersten Strahl (20) auf einer sichtbaren Wellenlänge aussendet,
und einen zweiten Strahl (19) auf einer infraroten (IR-) Wellenlänge aussendet, welche der doppelten Wellenlänge des ersten Strahls (29) entspricht,
wobei erster und zweiter Strahl (19, 20) kollinear zuein­ ander sind.
5. laser pointer ( 8 ) for commanding a semiautonomous system ( 1 , 1 ') in a working field ( 3 ),
which emits a first beam ( 20 ) at a visible wavelength,
and emitting a second beam ( 19 ) at an infrared (IR) wavelength which is twice the wavelength of the first beam ( 29 ),
wherein first and second beams ( 19 , 20 ) are collinear to one another.
6. Laserpointer nach Anspruch 5, dadurch gekennzeichnet,
daß der Laserpointer (8) zur Erzeugung des zweiten Strahls (19) einen Festkörper-Laserkristall (16), insbe­ sondere Nd:YVO4, enthält,
und zur Erzeugung des ersten Strahls (20) einen in der Laserkavität (13) angeordneten Frequenzverdoppler (18), insbesondere einen KTP-Kristall, enthält.
6. Laser pointer according to claim 5, characterized in that
in that the laser pointer ( 8 ) for generating the second beam ( 19 ) contains a solid-state laser crystal ( 16 ), in particular Nd: YVO4,
and for generating the first beam ( 20 ), a frequency doubler ( 18 ), in particular a KTP crystal, arranged in the laser cavity ( 13 ).
DE2002115167 2002-04-05 2002-04-05 Command apparatus for semiautonomous system such as remote-controlled mobile robot detects beams from visible and infrared laser pointer held in operator's hand Expired - Fee Related DE10215167C1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE2002115167 DE10215167C1 (en) 2002-04-05 2002-04-05 Command apparatus for semiautonomous system such as remote-controlled mobile robot detects beams from visible and infrared laser pointer held in operator's hand

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE2002115167 DE10215167C1 (en) 2002-04-05 2002-04-05 Command apparatus for semiautonomous system such as remote-controlled mobile robot detects beams from visible and infrared laser pointer held in operator's hand

Publications (1)

Publication Number Publication Date
DE10215167C1 true DE10215167C1 (en) 2003-06-18

Family

ID=7714301

Family Applications (1)

Application Number Title Priority Date Filing Date
DE2002115167 Expired - Fee Related DE10215167C1 (en) 2002-04-05 2002-04-05 Command apparatus for semiautonomous system such as remote-controlled mobile robot detects beams from visible and infrared laser pointer held in operator's hand

Country Status (1)

Country Link
DE (1) DE10215167C1 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1515210A2 (en) * 2003-08-01 2005-03-16 Samsung Electronics Co., Ltd. Robot system and control method thereof
DE102005048812A1 (en) * 2005-10-10 2007-04-19 Universität Stuttgart Control of workpiece-processing machines
DE102008054863A1 (en) 2008-12-18 2010-07-01 Ifm Electronic Gmbh System for controlling robot based on light spots for sorting luggage pieces, has camera for detection of light spots, and light source designed such that light spots with less than or equal to half refresh rate of camera appear bright
US9440351B2 (en) 2014-10-30 2016-09-13 International Business Machines Corporation Controlling the operations of a robotic device
DE102016224693A1 (en) * 2016-12-12 2018-06-14 Kuka Roboter Gmbh Apparatus and method for coupling a portable handheld with a manipulator
DE102018125266B3 (en) * 2018-10-12 2019-11-28 Fachhochschule Bielefeld Method and robot system for entering a workspace

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"Integrating a Multimodal Human-Robot Interaction Method Into a Multi-Robot Control Station" (IEEE International Workshop on Robot and Human Interactive Communication, 2001 IEEE, S.468-475) US 2002/0011367 A1 *

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1515210A2 (en) * 2003-08-01 2005-03-16 Samsung Electronics Co., Ltd. Robot system and control method thereof
EP1515210A3 (en) * 2003-08-01 2005-11-30 Samsung Electronics Co., Ltd. Robot system and control method thereof
CN100349079C (en) * 2003-08-01 2007-11-14 三星电子株式会社 Robot system and control method thereof
DE102005048812A1 (en) * 2005-10-10 2007-04-19 Universität Stuttgart Control of workpiece-processing machines
DE102005048812B4 (en) * 2005-10-10 2011-02-10 Universität Stuttgart Control of workpiece-processing machines
DE102008054863A1 (en) 2008-12-18 2010-07-01 Ifm Electronic Gmbh System for controlling robot based on light spots for sorting luggage pieces, has camera for detection of light spots, and light source designed such that light spots with less than or equal to half refresh rate of camera appear bright
US9440351B2 (en) 2014-10-30 2016-09-13 International Business Machines Corporation Controlling the operations of a robotic device
US9662784B2 (en) 2014-10-30 2017-05-30 International Business Machines Corporation Controlling the operations of a robotic device
US9829890B2 (en) 2014-10-30 2017-11-28 International Business Machines Corporation Controlling the operations of a robotic device
DE102016224693A1 (en) * 2016-12-12 2018-06-14 Kuka Roboter Gmbh Apparatus and method for coupling a portable handheld with a manipulator
DE102016224693B4 (en) * 2016-12-12 2018-11-08 Kuka Roboter Gmbh Apparatus and method for coupling a portable handheld with a manipulator
DE102018125266B3 (en) * 2018-10-12 2019-11-28 Fachhochschule Bielefeld Method and robot system for entering a workspace
WO2020074722A1 (en) 2018-10-12 2020-04-16 Robert Bosch Gmbh Method and robot system for inputting a work area

Similar Documents

Publication Publication Date Title
DE102017128543B4 (en) NOISE ZONE ADJUSTMENT DEVICE FOR A MOBILE ROBOT
DE102017011251B4 (en) Robot controller with function that simplifies learning and robot control method
DE102019006800A1 (en) Robot controller and display device using augmented reality and mixed reality
EP2886239B1 (en) Method and device for monitoring and controlling the processing path of a laser joining process
DE102014217568A1 (en) Arrangement and method for monitoring a position of a hand tool
DE212014000078U1 (en) System for receiving or using data from external sources for a welding sequence
EP1447770A2 (en) Method and apparatus for visualization of computer-based information
DE102010007025A1 (en) Method for monitoring manipulator area, particularly for robot, involves presetting geometric limit of area to be monitored and monitoring object within predetermined limit by environment sensing unit
DE102011079117A1 (en) Method for programming a robot
EP2298487A2 (en) Method and device for operating an additional tool axis of a tool controlled by a manipulator
DE102017114880A1 (en) Laser processing robotic system for performing laser beam propagation using a robot
DE102016220015A1 (en) Manual workstation, off-line data processing device, manual workstation system, manual workstation operating method, and manual workstation deployment method
DE212014000077U1 (en) Systems for exporting or using welding sequencer data for external systems
DE10215167C1 (en) Command apparatus for semiautonomous system such as remote-controlled mobile robot detects beams from visible and infrared laser pointer held in operator's hand
DE212014000074U1 (en) System for receiving or using data from external sources for a welding sequence
DE212014000071U1 (en) Systems for exporting or using welding sequencer data for external systems
DE102020002263A1 (en) An apparatus and method for learning a focus position shift of a laser processing apparatus and a laser processing system that corrects a focus position shift
WO2019096479A1 (en) Method and means for operating a robot assembly
DE102016222245A1 (en) Device and method for acting on objects
WO2020074722A1 (en) Method and robot system for inputting a work area
DE112011100192T5 (en) Method for machining workpieces by means of a cognitive machining head and a machining head using this
DE102010047641B4 (en) control of a robot
DE102016221861B4 (en) Device and method for influencing objects
EP3838504A1 (en) Method and device for monitoring a machining process and machine tool with such a device
EP2359202A1 (en) Method and device for selecting a stored position of a working point of a manipulator

Legal Events

Date Code Title Description
8100 Publication of the examined application without publication of unexamined application
8304 Grant after examination procedure
8364 No opposition during term of opposition
8327 Change in the person/name/address of the patent owner

Owner name: DAIMLERCHRYSLER AG, 70327 STUTTGART, DE

8327 Change in the person/name/address of the patent owner

Owner name: DAIMLER AG, 70327 STUTTGART, DE

8320 Willingness to grant licenses declared (paragraph 23)
8327 Change in the person/name/address of the patent owner

Owner name: STOPP, ANDREAS, DR., 15366 NEUENHAGEN, DE

R119 Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee

Effective date: 20111101