DE102018201801A1 - Area sensing device, method of operating a device, and computer program product - Google Patents
Area sensing device, method of operating a device, and computer program product Download PDFInfo
- Publication number
- DE102018201801A1 DE102018201801A1 DE102018201801.4A DE102018201801A DE102018201801A1 DE 102018201801 A1 DE102018201801 A1 DE 102018201801A1 DE 102018201801 A DE102018201801 A DE 102018201801A DE 102018201801 A1 DE102018201801 A1 DE 102018201801A1
- Authority
- DE
- Germany
- Prior art keywords
- area
- world model
- objects
- sensor data
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 16
- 238000004590 computer program Methods 0.000 title claims abstract description 11
- 238000011156 evaluation Methods 0.000 claims abstract description 65
- 238000004422 calculation algorithm Methods 0.000 claims description 22
- 238000009826 distribution Methods 0.000 claims description 17
- 238000011161 development Methods 0.000 claims description 11
- 238000004891 communication Methods 0.000 claims description 10
- 238000013499 data model Methods 0.000 claims description 4
- 238000001514 detection method Methods 0.000 claims description 3
- 230000008447 perception Effects 0.000 abstract description 51
- 230000010391 action planning Effects 0.000 abstract description 6
- 230000008569 process Effects 0.000 abstract description 5
- 230000008901 benefit Effects 0.000 abstract description 3
- 230000006870 function Effects 0.000 description 20
- 238000005259 measurement Methods 0.000 description 19
- 238000010586 diagram Methods 0.000 description 6
- 230000009471 action Effects 0.000 description 5
- 238000004088 simulation Methods 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- 235000013361 beverage Nutrition 0.000 description 3
- 239000011521 glass Substances 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 230000035622 drinking Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000005315 distribution function Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
- G05D1/0274—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/881—Radar or analogous systems specially adapted for specific applications for robotics
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
Abstract
Es wird eine Vorrichtung zur Wahrnehmung eines Bereichs für ein autonomes System vorgeschlagen, mit:einer Modellierungseinheit zum Modellieren eines Weltmodells,einer Planungseinheit zum Planen eines Erfassens von Sensordaten des Bereichs,einem Sensor zum Erfassen der Sensordaten des Bereichs,einer Auswerteeinheit zum Ermitteln einer aktuellen Information für das Weltmodell in Abhängigkeit von den erfassten Sensordaten des Bereichs,einer Bestimmungseinheit zum Bestimmen eines Ist-Zustands des Weltmodells, undeiner Evaluierungseinheit zum Evaluieren eines zukünftigen Zustands des Weltmodells.Eine solche Vorrichtung weist den Vorteil auf, dass sie die Wahrnehmung als eigenständiger Prozess durchführt, eine durchgängige Repräsentation des Weltmodells bereitstellt und bereits frühzeitig und in Abhängigkeit der Genauigkeit der vorhandenen Informationen das Erfassen neuer Sensordaten planen kann. Damit kann eine Aktionsplanung des autonomen Systems schneller durchgeführt werden.Ferner werden ein Verfahren zum Betreiben einer solchen Vorrichtung sowie ein Computerprogrammprodukt vorgeschlagen.A device for sensing an area for an autonomous system is proposed, comprising: a modeling unit for modeling a world model, a planning unit for scheduling acquisition of sensor data of the area, a sensor for acquiring the sensor data of the area, an evaluation unit for acquiring current information for the world model depending on the detected sensor data of the area, a determination unit for determining an actual state of the world model, and an evaluation unit for evaluating a future state of the world model. Such a device has the advantage that it performs the perception as a standalone process, provides a consistent representation of the world model and can plan the acquisition of new sensor data early on and depending on the accuracy of the existing information. Thus, an action planning of the autonomous system can be performed faster. Furthermore, a method for operating such a device as well as a computer program product are proposed.
Description
Die vorliegende Erfindung betrifft eine Vorrichtung zur Wahrnehmung eines Bereichs, ein Verfahren zum Betreiben einer solchen Vorrichtung und ein Computerprogrammprodukt.The present invention relates to a device for sensing a region, a method for operating such a device and a computer program product.
Autonome Systeme in der Fertigung, im Verkehr und/oder im Haushalt, wie z.B. Roboter oder selbstfahrende Züge und Autos, benötigen für ihre Aktionsplanungen ein möglichst genaues Modell von sich selbst und von ihrer Umgebung. Dieses Modell beinhaltet beispielsweise die Position, Orientierung und gegebenenfalls weitere Zustandsinformationen aller relevanten Gegenstände. Hierzu gehören auch die Bestandteile der Vorrichtung und des autonomen Systems selbst.Autonomous systems in manufacturing, in traffic and / or in the home, such as Robots or self-propelled trains and cars need the most accurate model of themselves and their environment for their action planning. This model includes, for example, the position, orientation and possibly other status information of all relevant items. This includes the components of the device and the autonomous system itself.
Je nach Aufgabe, die das autonome System zu erfüllen hat, werden für einzelne Objekte sehr akkurate Angaben benötigt. Für ein Aufnehmen eines Trinkglases muss beispielsweise eine relative Position von Greifwerkzeug zu Trinkglas mit einer Genauigkeit von wenigen Millimetern Unsicherheit bekannt sein.Depending on the task that the autonomous system has to fulfill, very accurate information is required for individual objects. For picking up a drinking glass, for example, a relative position of picking tool to drinking glass must be known with an accuracy of a few millimeters uncertainty.
Insbesondere in Umgebungen, die zeitlich veränderlich sind, kann es wichtig sein, Unsicherheiten bezüglich der Genauigkeit von Informationen zu den Objekten zu berücksichtigen, um beispielsweise eine Kollision vermeiden zu können. Hier muss ferner auch eine zeitliche Entwicklung der Unsicherheit berücksichtigt werden.In particular, in environments that are time-varying, it may be important to consider uncertainties regarding the accuracy of information about the objects, for example to avoid a collision. Furthermore, a temporal development of the uncertainty must also be taken into account here.
Vor diesem Hintergrund besteht eine Aufgabe der vorliegenden Erfindung darin, ein verbessertes Wahrnehmungssystem für ein autonomes System bereitzustellen.Against this background, an object of the present invention is to provide an improved sensing system for an autonomous system.
Gemäß einem ersten Aspekt wird eine Vorrichtung zur Wahrnehmung eines Bereichs für ein autonomes System vorgeschlagen.According to a first aspect, an apparatus for sensing an area for an autonomous system is proposed.
Das autonome System ist dem Bereich mit darin anordenbaren Gegenständen angeordnet. Die Vorrichtung weist eine Modellierungseinheit zum Modellieren eines Weltmodells auf. Das Weltmodell umfasst eine Beschreibung des Bereichs, der in dem Bereich angeordneten Gegenstände und des autonomen Systems mittels Objekten. Jedem der Objekte ist zumindest ein Parameter zugeordnet. Weiterhin weist die Vorrichtung eine Planungseinheit zum Planen eines Erfassens von Sensordaten des Bereichs und einen Sensor zum Erfassen der Sensordaten des Bereichs auf. Ferner weist die Vorrichtung eine Auswerteeinheit zum Ermitteln einer aktuellen Information für das Weltmodell in Abhängigkeit von den erfassten Sensordaten des Bereichs und eine Bestimmungseinheit zum Bestimmen eines Ist-Zustands des Weltmodells in Abhängigkeit einer vorbestimmten Information, einer vorbekannten Information und/oder der ermittelten aktuellen Information auf. Der Ist-Zustand des Weltmodells weist einen Parameterwert für zumindest einen der Parameter auf. Außerdem weist die Vorrichtung eine Evaluierungseinheit zum Evaluieren eines zukünftigen Zustands des Weltmodells in Abhängigkeit des Ist-Zustands des Weltmodells, einer Entwicklungsfunktion für jeden der in dem Ist-Zustand einen Parameterwert aufweisenden Parameter, einer Relation zwischen zumindest zwei Parametern und/oder einer Relation zwischen zumindest zwei Objekten auf.The autonomous system is arranged in the area with objects that can be arranged therein. The device has a modeling unit for modeling a world model. The world model includes a description of the area, the objects arranged in the area and the autonomous system by means of objects. Each of the objects is assigned at least one parameter. Furthermore, the apparatus has a planning unit for planning acquisition of sensor data of the area and a sensor for acquiring the sensor data of the area. Furthermore, the device has an evaluation unit for determining a current information for the world model as a function of the detected sensor data of the area and a determination unit for determining an actual state of the world model in dependence of a predetermined information, a known information and / or the determined current information , The actual state of the world model has a parameter value for at least one of the parameters. In addition, the device has an evaluation unit for evaluating a future state of the world model as a function of the actual state of the world model, a development function for each of the parameters having a parameter value in the actual state, a relation between at least two parameters and / or a relation between at least two objects on.
Die vorgeschlagene Vorrichtung kann auch als Wahrnehmungssystem bezeichnet werden und umfasst insbesondere alle Komponenten, die zum Erreichen eines Wahrnehmungsziels notwendig sind. Das Wahrnehmungsziel kann beispielsweise umfassen, dass ein Parameterwert eines Parameters eines Objekts mit einer bestimmten Genauigkeit ermittelt wird.The proposed device may also be referred to as a perception system and in particular includes all components that are necessary to achieve a perception goal. The perception objective may include, for example, that a parameter value of a parameter of an object is determined with a certain accuracy.
Das vorgeschlagene System weist insbesondere die nachfolgend aufgeführten Vorteile auf.The proposed system has in particular the advantages listed below.
Erstens erfolgt die Wahrnehmung des Bereichs mittels des Wahrnehmungssystems als eigenständiger Prozess, insbesondere unabhängig von dem autonomen System und/oder Aktionen, die das autonome System durchführt. Dadurch ist im Wesentlichen jederzeit eine hinreichend genaue Schätzung des Ist-Zustands des Weltmodells als auch eines zukünftigen Zustands des Weltmodells für eine Aktionsplanung des autonomen Systems verfügbar. Eine Zeitdauer, die die Aktionsplanung erfordert, kann damit erheblich verkürzt werden, weil nicht immer vorab eine Wahrnehmungsaktion durchgeführt werden muss.First, the perception of the domain by means of the perceptual system is an independent process, in particular independent of the autonomous system and / or actions performed by the autonomous system. As a result, a sufficiently accurate estimation of the actual state of the world model as well as of a future state of the world model for action planning of the autonomous system is essentially available at all times. A period of time that requires action planning can thus be considerably shortened, because a perceptual action does not always have to be carried out in advance.
Zweitens steht durch das Wahrnehmungssystem eine durchgängige Repräsentation von bestehenden Unsicherheiten zur Verfügung. Das autonome System ist dadurch in der Lage, optimierte Aktionssequenzen zu planen, die beispielsweise eine Kollisionswahrscheinlichkeit oder eine Ausführungsdauer minimieren.Second, the perception system provides a consistent representation of existing uncertainties. The autonomous system is thus able to plan optimized action sequences that minimize, for example, a probability of collision or a duration of execution.
Drittens ist das Wahrnehmungssystem dazu eingerichtet, das Weltmodell in Abhängigkeit der aktuellen Information und/oder vorbekannten Informationen laufend zu aktualisieren. Mit anderen Worten kalibriert bzw. parametriert es sich eigenständig. Das heißt, dass es die Parameter von Objekten und eine Unsicherheit von Messungen, das heißt von erfassten Sensordaten, durch einen Lernprozess selbst erkennen und verwalten kann. Damit wird ein Engineering-Aufwand für das Wahrnehmungssystem reduziert.Third, the perception system is set up to continuously update the world model depending on the current information and / or previously known information. In other words, it calibrates or parametrizes independently. This means that it can recognize and manage the parameters of objects and an uncertainty of measurements, ie of acquired sensor data, by a learning process itself. This reduces engineering effort for the perception system.
Viertens ist das Wahrnehmungssystem dazu eingerichtet, durch das Erkennen von sich wiederholenden Vorgängen, wie beispielsweise einer Bewegung eines Gegenstands, die Wahrnehmungsplanung flexibel und proaktiv durchzuführen. Fourth, the perception system is set up to perform perceptual planning flexibly and proactively by detecting repetitive processes, such as a movement of an object.
Unter einem Bereich wird vorliegend beispielsweise der wahrnehmbare Bereich des Wahrnehmungssystems verstanden. Dieser kann insbesondere von den zur Verfügung stehenden Sensoren zur Wahrnehmung abhängen. Bei kurzreichweitigen Sensoren ist der Bereich entsprechend kleiner als bei langreichweitigen Sensoren. Zu dem Bereich gehört insbesondere das autonome System selbst, als auch eine Umgebung des autonomen Systems mit darin angeordneten Gegenständen.In the present case, an area is understood, for example, as the perceptible area of the perception system. This can depend in particular on the available sensors for the perception. For short-range sensors, the range is correspondingly smaller than for long-range sensors. The area includes, in particular, the autonomous system itself as well as an environment of the autonomous system with objects arranged therein.
Das autonome System ist beispielsweise ein Roboter, insbesondere ein Industrieroboter und/oder Haushaltsroboter, und/oder ein Fahrzeug.The autonomous system is for example a robot, in particular an industrial robot and / or household robot, and / or a vehicle.
Beispiele für in dem Bereich angeordnete Gegenstände sind ein Stuhl, ein Tisch, ein Fahrzeug, ein Mensch, eine Wand, ein Boden, eine Treppe und so weiter.Examples of objects arranged in the area are a chair, a table, a vehicle, a human, a wall, a floor, a staircase and so on.
Die Modellierungseinheit, die Planungseinheit, die Auswerteeinheit, die Bestimmungseinheit und/oder die Evaluierungseinheit können hardwaretechnisch und/oder auch softwaretechnisch implementiert sein. Bei einer hardwaretechnischen Implementierung kann die jeweilige Einheit zum Beispiel als Computer oder als Mikroprozessor ausgebildet sein. Bei einer softwaretechnischen Implementierung kann die jeweilige Einheit als Computerprogrammprodukt, als eine Funktion, als eine Routine, als Teil eines Programmcodes oder als ausführbares Objekt ausgebildet sein. Insbesondere können mehrere oder auch alle Einheiten gemeinsam in einer Steuerungsvorrichtung integriert und/oder in einem Computerprogrammprodukt zusammengefasst sein.The modeling unit, the planning unit, the evaluation unit, the determination unit and / or the evaluation unit can be implemented in hardware and / or software technology. In a hardware implementation, the respective unit can be designed, for example, as a computer or as a microprocessor. In a software implementation, the respective unit may be designed as a computer program product, as a function, as a routine, as part of a program code or as an executable object. In particular, several or even all units can be integrated together in a control device and / or combined in a computer program product.
Die Modellierungseinheit ist zum Modellieren des Weltmodells eingerichtet. Unter dem Weltmodell wird ein Modell verstanden, das alle möglichen Gegenstände, Beziehungen zwischen Gegenständen und mögliche Parameter für einzelne Gegenstände in Form von Objekten umfasst. Mit anderen Worten stellt das Weltmodell eine Bibliothek der Objekte bereit. Das Weltmodell ist insbesondere dynamisch durch das Wahrnehmungssystem selbst anpassbar, wenn dieses beispielsweise neue Zusammenhänge lernt und/oder zuvor unbekannte Gegenstände erkennt. Insbesondere enthält das Weltmodell eine Beschreibung des Bereichs mit allen darin angeordneten Gegenständen sowie dem autonomen System selbst mittels der Objekte.The modeling unit is set up to model the world model. The world model is understood as a model that encompasses all possible objects, relationships between objects and possible parameters for individual objects in the form of objects. In other words, the world model provides a library of objects. In particular, the world model is dynamically adaptable by the perception system itself, for example, when it learns new relationships and / or recognizes previously unknown objects. In particular, the world model contains a description of the area with all the objects arranged therein as well as the autonomous system itself by means of the objects.
Ein jeweiliges Objekt weist zumindest einen zugeordneten Parameter auf. Beispielsweise kann einem Objekt, das den Gegenstand „Tisch“ beschreibt, eine Vielzahl unterschiedlicher Parameter zugeordnet sein. Beispiele hierfür sind ein geometrisches Maß, eine geometrische Form, ein Material, eine Farbe, eine Position und/oder ein Gewicht. Insbesondere bei beweglichen Gegenständen kann der Parameter auch eine Geschwindigkeit und/oder eine Richtung umfassen.A respective object has at least one associated parameter. For example, an object describing the subject "table" may be associated with a variety of different parameters. Examples include a geometric dimension, a geometric shape, a material, a color, a position and / or a weight. Particularly in the case of movable objects, the parameter may also include a speed and / or a direction.
Das Weltmodell kann bei einem neu initialisierten Wahrnehmungssystem, das noch nie oder noch nicht lange betrieben wurde, nur wenige Objekte umfassen. Beispielsweise kann es ausreichen, ein Weltmodell mit gewissen Grundfunktionen oder Grundeigenschaften des Wahrnehmungssystems bereitzustellen. Eine derart bereitgestellte Information entspricht beispielsweise einer vorbestimmten Information. Beispielsweise umfasst das Weltmodell lediglich ein Objekt „Kamera“, ein Objekt „Bildaufnahme“, ein Objekt „Bilddatensatz“ und ein Objekt „Formerkennung“, wobei diese Objekte beispielsweise durch Relationen miteinander verknüpft sind. Beispielsweise ist das Objekt „Bildaufnahme“ als ein Konzept des Objekts „Kamera“ gekennzeichnet, wobei das Objekt „Bildaufnahme“ als Ausgangsparameter das Objekt „Bilddatensatz“ aufweist. Das Objekt „Formerkennung“ weist als Eingangsparameter das Objekt „Bilddatensatz“ und als Ausgangsparameter wenigstens eine Form auf.The world model can contain only a few objects in a newly initialized perception system that has never or never been operated for a long time. For example, it may be sufficient to provide a world model with certain basic functions or basic features of the perception system. Such information provided corresponds for example to a predetermined information. For example, the world model comprises only one object "camera", one object "image capture", one object "image data set" and one object "shape recognition", these objects being linked to each other, for example by relations. For example, the object "image acquisition" is characterized as a concept of the object "camera", whereby the object "image acquisition" has the object "image data set" as output parameter. The object "shape recognition" has the object "image data set" as input parameter and at least one shape as output parameter.
Die Planungseinheit ist insbesondere dazu eingerichtet, ein Erfassen von Sensordaten des Bereichs zu planen. Hierunter wird beispielsweise verstanden, dass die Planungseinheit, insbesondere in Abhängigkeit eines Wahrnehmungsziels, eine Ausführung der in dem Weltmodell zur Verfügung stehenden Objekte oder Konzepte, die als Ausgangsparameter Sensordaten aufweisen, plant. Unter Planen ist beispielsweise zu verstehen, dass die Ausführung sofort, zu einem vorbestimmten Zeitpunkt und/oder in Abhängigkeit unterschiedlicher weiterer Faktoren durchgeführt wird.In particular, the planning unit is set up to plan acquisition of sensor data of the area. This is understood to mean, for example, that the planning unit, in particular as a function of a perceptual target, plans an execution of the objects or concepts available in the world model which have sensor data as output parameters. By planning is meant, for example, that the execution is carried out immediately, at a predetermined time and / or as a function of various other factors.
Dabei ist die Planungseinheit insbesondere dazu eingerichtet, unterschiedliche Eigenschaften der zur Verfügung stehenden Objekte zu berücksichtigen, so dass das Wahrnehmungsziel möglichst effizient, beispielsweise in möglichst kurzer Zeit und/oder mit einem möglichst geringen Energieverbrauch, erreicht wird. Beispielsweise wird die Planungseinheit den Einsatz eines dedizierten Entfernungsmessers einer Kamera bevorzugen, wenn das Wahrnehmungsziel lautet, die Entfernung zu einem bestimmten Gegenstand in dem Bereich mit hoher Genauigkeit zu ermitteln.In this case, the planning unit is set up, in particular, to take account of different properties of the available objects, so that the perception goal is achieved as efficiently as possible, for example in the shortest possible time and / or with the lowest possible energy consumption. For example, the planning engine will prefer to use a dedicated rangefinder of a camera if the perceptual goal is to determine the distance to a particular object in the high accuracy area.
Der Sensor ist insbesondere dazu eingerichtet, Sensordaten des Bereichs zu erfassen. Dabei kann vorgesehen sein, dass der Sensor die erfassten Sensordaten in einer bestimmten Form ausgibt, beispielsweise normiert auf einen vorbestimmten Wert, als digitale Daten und/oder als analoges Signal. Falls der Sensor ein analoges Signal bereitstellt, kann ein Analog/Digital-Wandler vorgesehen sein, um das analoge Signal in ein digitales Datensignal umzusetzen.The sensor is in particular configured to record sensor data of the area. It can be provided that the sensor outputs the detected sensor data in a specific form, for example normalized to a predetermined value, as digital data and / or as an analog signal. If the sensor provides an analog signal, an analog-to-digital converter may be provided to convert the analog signal into a digital data signal.
Vorzugsweise umfasst das Wahrnehmungssystem mehrere Sensoren, wobei für jeden Sensor ein entsprechendes Objekt in dem Weltmodell vorhanden ist. Das Objekt eines Sensors umfasst insbesondere Parameter, die bestimmen, wie der Sensor anzusteuern ist, welche Art von Sensordaten der Sensor zu erfassen imstande ist, welche Auswerteroutinen auf die Sensordaten anwendbar sind und so weiter.The perception system preferably comprises a plurality of sensors, with a corresponding object being present in the world model for each sensor. In particular, the object of a sensor comprises parameters which determine how the sensor is to be controlled, what kind of sensor data the sensor is able to detect, which evaluation routines are applicable to the sensor data, and so on.
Die Sensordaten können auch als Messdaten bezeichnet werden. In Abhängigkeit des Sensortyps weisen die Messdaten eine bestimmte Unsicherheit auf, die auch als Messfehler bezeichnet werden kann.The sensor data can also be referred to as measurement data. Depending on the type of sensor, the measurement data has a certain uncertainty, which can also be referred to as measurement error.
Die Auswerteeinheit ist insbesondere dazu eingerichtet, einen Auswertealgorithmus oder eine Auswerteroutine auf die erfassten Sensordaten anzuwenden. Man kann auch sagen, dass die Auswerteinheit die Sensordaten auswertet, analysiert, verarbeitet und dergleichen. Hierdurch ermittelt die Auswerteeinheit die aktuelle Information für das Weltmodell in Abhängigkeit von den erfassten Sensordaten des Bereichs. Insbesondere wendet die Auswerteeinheit den Auswertealgorithmus sofort, nachdem die Sensordaten erfasst wurden, auf die Sensordaten an. Die aktuelle Information betrifft somit einen aktuellen oder momentanen Zustand des Bereichs. Die aktuelle Information betrifft insbesondere einen der Parameter eines der Objekte und kann insbesondere auch als aktueller Messwert bezeichnet werden.The evaluation unit is in particular configured to apply an evaluation algorithm or an evaluation routine to the acquired sensor data. It can also be said that the evaluation unit evaluates, analyzes, processes and the like the sensor data. As a result, the evaluation unit determines the current information for the world model as a function of the detected sensor data of the area. In particular, the evaluation unit applies the evaluation algorithm to the sensor data immediately after the sensor data has been acquired. The current information thus relates to a current or current state of the area. In particular, the current information relates to one of the parameters of one of the objects and, in particular, can also be referred to as the current measured value.
Beispielsweise kann die aktuelle Information einen Abstand zwischen zwei Tischen in dem Bereich oder auch einen Abstand des autonomen Systems zu einer Wand umfassen. Aufgrund des Messfehlers und/oder einer durch den Auswertealgorithmus bedingten Unsicherheit ist die aktuelle Information mit einer Unsicherheit behaftet. Beispielsweise gibt die Auswerteeinheit die aktuelle Information als eine Wahrscheinlichkeitsverteilung an, in welcher diese Unsicherheit berücksichtigt ist. Die Wahrscheinlichkeitsverteilung kann beispielsweise bei kontinuierlichen Parametern eine kontinuierliche Verteilungsfunktion, wie beispielsweise eine Gauß-Verteilung, und bei diskreten Parametern eine diskrete Verteilung umfassen. Der Abstand ist beispielsweise ein kontinuierlicher Parameter und die Farbe ist ein diskreter Parameter.For example, the current information may include a distance between two tables in the area or also a distance of the autonomous system to a wall. Due to the measurement error and / or an uncertainty caused by the evaluation algorithm, the current information is subject to uncertainty. For example, the evaluation unit indicates the current information as a probability distribution in which this uncertainty is taken into account. For example, the probability distribution may comprise a continuous distribution function, such as a Gaussian distribution, for continuous parameters, and a discrete distribution for discrete parameters. For example, the distance is a continuous parameter and the color is a discrete parameter.
Die Bestimmungseinheit bestimmt den Ist-Zustand des Weltmodells. Unter dem Ist-Zustand des Weltmodells ist insbesondere der momentane Zustand des Weltmodells zu verstehen, wobei dieser einen Parameterwert für zumindest einen Parameter aufweist. Der Ist-Zustand umfasst alle zu dem Zeitpunkt bekannten Informationen betreffend das Weltmodell. Diese Informationen lassen sich in die vorbestimmten Informationen, vorbekannte Informationen sowie die aktuellen Informationen einteilen. Der Ist-Zustand ist insbesondere durch den wahrscheinlichsten Zustand für jedes Objekt des Weltmodells gegeben. Vorteilhaft umfasst der Ist-Zustand ferner eine Unsicherheit für den wahrscheinlichsten Zustand und/oder mehrere wahrscheinliche Zustände für ein Objekt.The determination unit determines the actual state of the world model. The actual state of the world model is to be understood in particular as meaning the instantaneous state of the world model, which has a parameter value for at least one parameter. The actual state comprises all information known at the time concerning the world model. This information can be divided into the predetermined information, previously known information and the current information. The actual state is in particular given by the most probable state for each object of the world model. Advantageously, the actual state further comprises an uncertainty for the most probable state and / or several probable states for an object.
Wenn das Wahrnehmungssystem initialisiert wird, kann der Ist-Zustand des Weltmodells beispielsweise unbestimmt oder lediglich durch die vorbestimmte oder die vorbestimmten Informationen gegeben sein. Eine vorbestimmte Information umfasst insbesondere Parameterwerte für Parameter von Objekten, die das Wahrnehmungssystem und/oder das autonome System betreffen. Beispielsweise handelt es sich dabei um Kalibrierdaten. Beispielsweise kann bei einem Roboter mit einem Greifarm vorgesehen sein, dass der Greifarm bei der Initialisierung angelegt ist, womit eine relative Lageinformation zwischen dem beweglichen Greifarm und dem Körper des Roboters vorbestimmt ist. Wird das autonome System lediglich in einem vorbestimmten Bereich, beispielsweise einer Fabrikhalle, eingesetzt, können vorbestimmte Informationen auch ein Grundriss und eine Anordnung von Regalen und dergleichen umfassen.For example, when the perception system is initialized, the current state of the world model may be indefinite or given only by the predetermined or predetermined information. In particular, predetermined information includes parameter values for parameters of objects relating to the perception system and / or the autonomous system. For example, these are calibration data. For example, it may be provided in a robot with a gripping arm that the gripping arm is applied during initialization, whereby a relative position information between the movable gripper arm and the body of the robot is predetermined. When the autonomous system is used only in a predetermined area such as a factory floor, predetermined information may include a floor plan and an arrangement of shelves and the like.
Ein unbestimmter Ist-Zustand kann insbesondere nach einer Initialisierung auftreten, wenn keine vorbestimmte Information verfügbar ist, und/oder in dynamischen Bereichen, wenn für längere Zeit keine Wahrnehmung mehr stattgefunden hat, da dann die Unsicherheiten zu groß werden.An undetermined actual state can occur, in particular, after an initialization when no predetermined information is available, and / or in dynamic areas when no longer perception has taken place, because then the uncertainties become too great.
Nach der Initialisierung kann der Ist-Zustand des Weltmodells durch Wahrnehmung mittels des Sensors erweitert oder präzisiert werden. Beispielsweise plant die Planungseinheit den Einsatz einer Kamera, die Kamera nimmt ein Bild auf und die Auswerteeinheit ermittelt als die aktuelle Information, dass vor dem autonomen System ein Tisch mit zwei Getränkedosen darauf positioniert ist. Die Bestimmungseinheit bestimmt dann den Ist-Zustand des Weltmodell, welcher nunmehr den Tisch mit den beiden Getränkedosen umfasst. Auf diese Weise kann der Ist-Zustand des Weltmodells erweitert werden.After initialization, the actual state of the world model can be expanded or specified by perception using the sensor. For example, the planning unit plans to use a camera, the camera takes a picture and the evaluation unit determines, as the current information, that a table with two beverage cans is positioned in front of the autonomous system. The determination unit then determines the actual state of the world model, which now includes the table with the two beverage cans. In this way, the actual state of the world model can be extended.
Durch Zeitablauf kann aus einer aktuellen Information eine vorbekannte Information werden. Insbesondere bei unbeweglichen Gegenständen wird eine aktuelle Information betreffend die Position des Gegenstands zu einer vorbekannten Information. Beispielsweise dreht sich das autonome System, um ein Kamerabild einer anderen Richtung zu erfassen und so eine aktuelle Information zu ermitteln. Bei der nächsten Iteration umfasst der Ist-Zustand dann neben der neu hinzugefügten aktuellen Information die nunmehr vorbekannte Information, dass der Tisch mit zwei Getränkedosen in der Nähe ist.Through the passage of time, current information can become known information. In particular, in immovable objects is a current information regarding the position of the object to a previously known information. For example, the autonomous system rotates to capture a camera image of a different direction and to get up-to-date information. At the next iteration, the actual state then includes, in addition to the newly added current information, the now known information that the table with two beverage cans is nearby.
Insofern wird unter einer aktuellen Information insbesondere eine Information verstanden, die sich beispielsweise durch eine entsprechende Auswertung einer aktuellen Messung eines Sensors ergibt. Man kann auch sagen, dass eine aktuelle Information zeitlich betrachtet nicht alt ist, das heißt, dass sie insbesondere den Zustand des Bereichs in einem bestimmten vergangenen Zeitintervall, beispielsweise 1 Sekunde, 10 Sekunden oder auch 1 Minute, betrifft. Die Länge des Zeitintervalls hängt beispielsweise von dem Einsatzzweck ab. So ist im Straßenverkehr beispielsweise eine Information möglicherweise schon nach 1 Sekunde nicht mehr aktuell, da hier schnelle Veränderungen des tatsächlichen Zustands stattfinden.In this respect, a current information is understood in particular to be an information which results for example from a corresponding evaluation of a current measurement of a sensor. It can also be said that current information is not old in terms of time, that is to say that it relates, in particular, to the state of the area in a certain past time interval, for example 1 second, 10 seconds or even 1 minute. The length of the time interval depends, for example, on the intended use. For example, in road traffic, information may not be up to date after just 1 second, because this is where rapid changes to the actual state take place.
Unter der vorbekannten Information wird insbesondere eine Information verstanden, die aus einer früheren Messung bekannt ist und/oder aus einer großen Anzahl von Messungen abgeleitet wurde. Man kann hierbei auch von „Erfahrung“ sprechen.The previously known information is understood in particular to be an information that is known from an earlier measurement and / or derived from a large number of measurements. One can also speak of "experience" here.
Unter der vorbestimmten Information wird insbesondere eine Information verstanden, die beispielsweise durch den Benutzer, der das Wahrnehmungssystem konfiguriert, vorgegeben ist. Die vorbestimmte Information kann fest vorbestimmt sein. Alternativ hierzu kann die vorbestimmte Information auch durch das Wahrnehmungssystem aktualisierbar sein. Beispielsweise kann eine vorbestimmte Information eine Auflösung eines Bildsensors betreffen. Sollte sich die Auflösung aufgrund eines Ausfalls von Pixeln beim Betrieb reduzieren, so kann das Wahrnehmungssystem dies beispielsweise berücksichtigen, indem die vorbestimmte Information angepasst wird.The predetermined information is understood in particular to be an information that is predetermined, for example, by the user who configures the perception system. The predetermined information may be fixed. Alternatively, the predetermined information may also be updatable by the perception system. For example, a predetermined information may relate to a resolution of an image sensor. Should the resolution be reduced due to a loss of pixels during operation, the perception system may, for example, take this into account by adjusting the predetermined information.
Außerdem weist die Vorrichtung eine Evaluierungseinheit zum Evaluieren eines zukünftigen Zustands des Weltmodells auf. Die Evaluierungseinheit legt beispielsweise den Ist-Zustand zugrunde und entwickelt diesen zeitlich bis zu dem zukünftigen Zeitpunkt.In addition, the apparatus has an evaluation unit for evaluating a future state of the world model. For example, the evaluation unit uses the actual state and develops it up to the future point in time.
Die zeitliche Entwicklung des Ist-Zustands hängt dabei insbesondere von Entwicklungsfunktionen für die Parameter ab, die für jedes Objekt und jeden Parameter unterschiedlich sein können. Beispielsweise ist die Entwicklungsfunktion für den Parameter „Position“ eines Objekts, das ein Fahrzeug beschreibt, welches sich linear und kraftfrei bewegt, durch eine momentane Position, eine momentane Richtung und eine momentane Geschwindigkeit festgelegt. Allerdings tritt bei der Bestimmung der momentanen Parameterwerte beispielsweise ein Messfehler auf, so dass eine zukünftige Position mit zunehmendem zeitlichen Abstand immer ungenauer wird.The development over time of the actual state depends in particular on development functions for the parameters, which can be different for each object and each parameter. For example, the development function for the "position" parameter of an object describing a vehicle that moves linearly and forcelessly is determined by a current position, a current direction, and an instantaneous speed. However, when determining the instantaneous parameter values, for example, a measurement error occurs, so that a future position becomes increasingly inaccurate with increasing time interval.
Eine Relation zwischen zwei Parametern kann ebenfalls berücksichtigt werden. Wenn das Fahrzeug in dem genannten Beispiel beschleunigt, so wirkt sich dies beispielsweise auf die Geschwindigkeit und/oder die Richtung des Fahrzeugs aus, da diese Parameter verknüpft sind. Derartige Relationen lassen sich beispielsweise mittels physikalischen Zusammenhängen modellieren.A relation between two parameters can also be taken into account. If the vehicle accelerates in the example mentioned, this has an effect, for example, on the speed and / or direction of the vehicle, since these parameters are linked. Such relations can be modeled, for example, by means of physical relationships.
Eine Relation zwischen zwei Objekten ist beispielsweise ein relativer Abstand zweier Gegenstände. Wenn das Fahrzeug zum Beispiel mit einem weiteren Gegenstand kollidiert, wirkt sich dies auf die weitere Entwicklung des Weltmodells aus, da das Fahrzeug durch die Kollision beispielsweise zum Stehen kommt.For example, a relation between two objects is a relative distance between two objects. For example, if the vehicle collides with another object, it will affect the further development of the world model, for example, as the vehicle comes to a halt due to the collision.
Mit anderen Worten lässt sich die beschriebene Vorrichtung insbesondere zur Wahrnehmung für autonome Systeme in der Fertigung, im Haushalt und im Verkehr, wie beispielsweise Roboter, selbstfahrende Züge und/oder selbstfahrende Autos einsetzen. Das Wahrnehmungssystem stellt dem autonomen System ein möglichst genaues Weltmodell bereit. Dieses Weltmodell umfasst insbesondere die Position, Orientierung und/oder weitere Zustandsinformationen von Gegenständen in einem bestimmten Bereich, insbesondere in einer Umgebung des autonomen Systems. Das Weltmodell umfasst beispielsweise auch Informationen über die Unsicherheiten der einzelnen Angaben. Das Weltmodell wird für die Aktionsplanung des autonomen Systems verwendet. Je nach Aufgabe, die das autonome System zu erfüllen hat, werden für einzelne Gegenstände sehr exakte Angaben benötigt. Für eine vorausschauende Aktionsplanung umfasst das Weltmodell auch die Dynamik einzelner Gegenstände, zumindest für einen geeigneten Prognosezeitraum. Auch hier sind Angaben über die zeitliche Entwicklung der Unsicherheiten der einzelnen Angaben hilfreich.In other words, the device described can be used in particular for the perception of autonomous systems in production, in the home and in traffic, such as robots, self-propelled trains and / or self-driving cars. The perception system provides the autonomous system with a world model that is as accurate as possible. In particular, this world model comprises the position, orientation and / or further state information of objects in a specific area, in particular in an environment of the autonomous system. For example, the world model also includes information about the uncertainty of the individual information. The world model is used for the action planning of the autonomous system. Depending on the task which the autonomous system has to fulfill, very exact details are required for individual objects. For a forward-looking action planning, the world model also includes the dynamics of individual objects, at least for a suitable forecast period. Here, too, information about the temporal development of the uncertainties of the individual information is helpful.
Gemäß einer Ausführungsform der Vorrichtung ist die Auswerteeinheit dazu eingerichtet, die aktuelle Information als eine Wahrscheinlichkeitsverteilung für zumindest einen der Parameter und/oder als ein Wert mit einer Unsicherheit für zumindest einen der Parameter zu ermitteln.According to one embodiment of the device, the evaluation unit is configured to determine the current information as a probability distribution for at least one of the parameters and / or as a value with an uncertainty for at least one of the parameters.
Diese Ausführungsform weist den Vorteil auf, dass Messfehler, die auf den Sensor an sich, auf äußere Bedingungen und/oder auf Auswertealgorithmen zurückzuführen sind, berücksichtigt werden können. Ein Beispiel für äußere Bedingungen ist, wenn ein Kamerabild mit direkter Sonneneinstrahlung aufgenommen wird. Dann können beispielsweise Kontraste zwischen zwei Gegenständen in dem Kamerabild schlechter sein, was sich auf eine Bildanalyse auswirken kann.This embodiment has the advantage that measurement errors attributable to the sensor per se, external conditions and / or evaluation algorithms can be taken into account. An example of external conditions is when a camera image is taken with direct sunlight. Then, for example Contrast between two objects in the camera image may be worse, which may affect an image analysis.
Insbesondere bei komplexen Wahrnehmungsaufgaben, bei denen das Wahrnehmungsziel einen Parameter betrifft, der lediglich indirekt und mittels eines Verknüpfens von unterschiedlichen Sensordaten ermittelbar ist, können bereits kleine Messfehler zu größeren Unsicherheiten bei dem bestimmten Parameterwert führen. Ein Beispiel hierfür ist eine Bestimmung eines Gewichts einer komplexen Form, wie beispielsweise einer Tasse.Particularly in the case of complex perception tasks in which the perception target relates to a parameter that can be determined only indirectly and by means of a combination of different sensor data, even small measurement errors can lead to greater uncertainties in the specific parameter value. An example of this is a determination of a weight of a complex shape, such as a cup.
Gemäß einer weiteren Ausführungsform der Vorrichtung ist die Auswerteeinheit dazu eingerichtet, in Abhängigkeit der erfassten Sensordaten des Bereichs einen Auswertealgorithmus aus einer Anzahl von Auswertealgorithmen auszuwählen und die aktuelle Information mittels des ausgewählten Auswertealgorithmus zu ermitteln.According to a further embodiment of the device, the evaluation unit is set up to select an evaluation algorithm from a number of evaluation algorithms as a function of the detected sensor data of the area and to determine the current information by means of the selected evaluation algorithm.
Das Weltmodell kann eine Vielzahl an Auswertealgorithmen umfassen. Beispielsweise kann zur Geschwindigkeitsbestimmung aus einem Kamerabild eine Bewegungsunschärfe eines Gegenstands ermittelt werden, wobei eine Belichtungszeit des Kamerabilds herangezogen wird. Ferner kann zur Geschwindigkeitsbestimmung aus zwei Kamerabildern, die zu unterschiedlichen, insbesondere kurz aufeinanderfolgenden, Zeitpunkten aufgenommen wurden, eine Fortbewegung einzelner Gegenstände ermittelt werden, wobei die Zeitdifferenz zwischen den Aufnahmen herangezogen wird. Je nachdem, welche Sensordaten vorliegen, also ein einzelnes Kamerabild mit Bewegungsunschärfe oder zwei Kamerabilder unterschiedlicher Zeitpunkte, wählt die Auswerteeinheit den geeigneten Auswertealgorithmus aus.The world model can include a variety of evaluation algorithms. For example, to determine the speed from a camera image, a motion blur of an object can be determined, wherein an exposure time of the camera image is used. Furthermore, a movement of individual objects can be determined for speed determination from two camera images which were recorded at different, in particular short successive, times, wherein the time difference between the recordings is used. Depending on which sensor data are present, ie a single camera image with motion blur or two camera images of different times, the evaluation unit selects the appropriate evaluation algorithm.
Insbesondere plant die Planungseinheit das Erfassen der Sensordaten auch im Hinblick auf zur Verfügung stehende Auswertealgorithmen. Das heißt, dass die Planungseinheit ein Aufnehmen zweier Kamerabilder mit kurzem zeitlichen Abstand nur dann plant, wenn ein Auswertealgorithmus vorhanden ist, der dazu eingerichtet ist, hieraus eine aktuelle Information zu ermitteln.In particular, the planning unit plans the acquisition of the sensor data also with regard to available evaluation algorithms. This means that the planning unit only plans to record two camera images at a short time interval if an evaluation algorithm is provided which is set up to ascertain current information therefrom.
Gemäß einer weiteren Ausführungsform der Vorrichtung ist die Modellierungseinheit dazu eingerichtet, in Abhängigkeit der aktuellen Information und/oder der vorbekannten Information das Weltmodell anzupassen.According to a further embodiment of the device, the modeling unit is set up to adapt the world model depending on the current information and / or the previously known information.
Hierunter wird insbesondere ein Hinzufügen von Objekten sowie ein Hinzufügen und/oder Entfernen von Parametern zu einzelnen Objekten, von Relationen zwischen Parametern und/oder Objekten, von Entwicklungsfunktionen für Parameter und/oder Relationen verstanden.This is understood to mean, in particular, adding objects and adding and / or removing parameters to individual objects, relations between parameters and / or objects, development functions for parameters and / or relationships.
Beispielsweise weisen unterschiedliche Gegenstände verschiedene Farben auf, aber den entsprechenden Objekten in dem Weltmodell ist noch nicht der Parameter „Farbe“ zugeordnet oder der Parameter weist einen unbestimmten Wert auf, da beispielsweise bisher lediglich eine Radarmessung stattgefunden hat. Später wird eine Aufnahme mit einer Farbkamera gemacht und ausgewertet. Dabei wird der Parameter „Farbe“ den Objekten hinzugefügt oder der Parameterwert wird festgelegt.For example, different objects have different colors, but the corresponding objects in the world model are not yet assigned the parameter "color" or the parameter has an indefinite value, since, for example, so far only one radar measurement has taken place. Later, a shot is taken with a color camera and evaluated. The parameter "Color" is added to the objects or the parameter value is determined.
Ferner kann ein Lernen vorgesehen sein. Hierunter wird beispielsweise verstanden, dass dem Weltmodell auch neue Objekte, die beispielsweise Konzepte und/oder Algorithmen sind, hinzugefügt werden.Furthermore, learning can be provided. By this is meant, for example, that new objects, for example concepts and / or algorithms, are also added to the world model.
Beispielsweise werden Radaraufnahmen zur Ermittlung von Abständen und/oder Geometrien verwendet und parallel dazu werden Geschwindigkeiten von Gegenständen mittels einer bildbasierten Methode ermittelt. Die Modellierungseinheit erkennt beispielsweise eine Korrelation in den Messdaten, da die Radarsignale in Abhängigkeit einer Relativgeschwindigkeit entsprechend dopplerverschoben sind. Hieraus kann die Modellierungseinheit einen neuen Algorithmus zur Relativgeschwindigkeitsbestimmung ableiten und diesen als ein Objekt dem Weltmodell hinzufügen.For example, radar images are used to determine distances and / or geometries, and in parallel, speeds of objects are determined by an image-based method. The modeling unit detects, for example, a correlation in the measured data, since the radar signals are Doppler-shifted in dependence on a relative speed. From this, the modeling unit can derive a new relative velocity algorithm and add it as an object to the world model.
Gemäß einer weiteren Ausführungsform der Vorrichtung ist die Planungseinheit dazu eingerichtet, das Erfassen von Sensordaten des Bereichs in Abhängigkeit eines bestimmten Wahrnehmungsziels, eines bestimmten Zeitintervalls, eines Erreichens eines Schwellwerts zumindest eines Parameters, eines Erreichens eines Schwellwerts einer Unsicherheit zumindest eines Parameters, eines Erreichens eines Schwellwerts für eine Relation zwischen zumindest zwei Parametern und/oder eine Relation zwischen zumindest zwei Objekten zu planen.According to a further embodiment of the device, the planning unit is set up to acquire sensor data of the area as a function of a specific perception target, a specific time interval, reaching a threshold value of at least one parameter, reaching a threshold value of an uncertainty of at least one parameter, reaching a threshold value to plan for a relation between at least two parameters and / or a relation between at least two objects.
Diese Ausführungsform ist besonders vorteilhaft, da für jeden Parameter ein oberer und/oder ein unterer Schwellwert oder Grenzwert vorgegeben werden kann, wobei, wenn der Parameterwert einen Schwellwert über- oder unterschreitet, eine Wahrnehmungsaktion geplant wird. Dies ist insbesondere bei solchen Parametern, deren Unsicherheit mit der Zeit zunimmt, vorteilhaft, da hierdurch sichergestellt wird, dass der Ist-Zustand des Weltmodells den tatsächlichen Zustand mit einer vorbestimmbaren Genauigkeit beschreibt.This embodiment is particularly advantageous since an upper and / or a lower threshold or limit value can be specified for each parameter, wherein, if the parameter value exceeds or falls below a threshold value, a perceptual action is planned. This is particularly advantageous in the case of parameters whose uncertainty increases over time, since this ensures that the actual state of the world model describes the actual state with a predeterminable accuracy.
Gemäß einer weiteren Ausführungsform der Vorrichtung sind wenigstens zwei Sensoren zum Erfassen von Sensordaten des Bereichs vorgesehen, wobei die Planungseinheit dazu eingerichtet ist, das Erfassen von Sensordaten des Bereichs in Abhängigkeit des bestimmten Wahrnehmungsziels mit demjenigen der zwei Sensoren zu planen, mit welchem der größere Informationszugewinn erzielbar ist.In accordance with a further embodiment of the device, at least two sensors for detecting sensor data of the area are provided, wherein the planning unit is set up to include the acquisition of sensor data of the area as a function of the determined perceptual target to plan that of the two sensors, with which the greater information gain can be achieved.
Hierdurch wird eine Effizienz des Wahrnehmungssystems gesteigert, da dieses selektiv die Sensoren einsetzt, welche den größeren Informationszugewinn versprechen. Wenn beispielsweise die Farbe eines Gegenstands bestimmt werden soll, wird der Einsatz einer Farbkamera geplant, anstelle einer Schwarz-Weiß-Kamera.As a result, an efficiency of the perception system is increased, as this selectively uses the sensors, which promise the greater information gain. For example, if the color of an item is to be determined, the use of a color camera is planned instead of a black-and-white camera.
Gemäß einer weiteren Ausführungsform der Vorrichtung ist die Evaluierungseinheit zum Evaluieren einer zeitlichen Folge von zukünftigen Zuständen eingerichtet.According to a further embodiment of the device, the evaluation unit is set up to evaluate a time sequence of future states.
Dies ist vorteilhaft, da beispielsweise die Planungseinheit die Wahrnehmungsplanung verbessern kann. Ferner lässt sich auch eine Aktionsplanung des autonomen Systems hierdurch verbessern.This is advantageous since, for example, the planning unit can improve perceptual planning. Furthermore, an action plan of the autonomous system can be improved.
Gemäß einer weiteren Ausführungsform der Vorrichtung ist eine Kommunikationsvorrichtung vorgesehen, welche dazu eingerichtet ist, eine Kommunikationsverbindung mit einer zu der Vorrichtung externen Einrichtung herzustellen.According to a further embodiment of the device, a communication device is provided, which is set up to establish a communication connection with a device external to the device.
Dies kann vorteilhaft sein, da insbesondere bei einem komplexen Weltmodell ein Rechenaufwand für die verschiedenen Einheiten groß sein kann. Dann können die Einheiten dazu eingerichtet sein, einzelne Berechnungen auf einem externen Server oder Backend durchführen zu lassen, wobei sie die Kommunikationsverbindung zum Übertragen der Daten nutzen.This can be advantageous since, especially in the case of a complex world model, a computational effort for the various units can be large. Then, the units may be arranged to have individual calculations performed on an external server or backend, using the communication link to transmit the data.
Gemäß einer weiteren Ausführungsform der Vorrichtung ist die Kommunikationsvorrichtung über die Kommunikationsverbindung zum Empfangen von Daten von der externen Einrichtung und zum Senden von Steuerbefehlen an die externe Einrichtung eingerichtet.According to another embodiment of the device, the communication device is configured via the communication link to receive data from the external device and to send control commands to the external device.
Vorteilhaft lassen sich in dieser Ausführungsform insbesondere externe Sensoren, wie beispielsweise Überwachungskameras, Lichtschranken, Bewegungsmelder und dergleichen verwenden, um den Ist-Zustand des Weltmodells zu erweitern.Advantageously, in this embodiment, in particular external sensors, such as surveillance cameras, photoelectric sensors, motion detectors and the like can be used to expand the current state of the world model.
Ferner lassen sich beispielsweise eine Mehrzahl an Wahrnehmungssystemen koppeln. Dadurch kann eine Unsicherheit des Ist-Zustands und von zukünftigen Zuständen weiter reduziert werden, wodurch sich kritische Situationen des autonomen Systems zuverlässiger vermeiden lassen.Furthermore, for example, a plurality of perception systems can be coupled. As a result, an uncertainty of the actual state and of future states can be further reduced, whereby critical situations of the autonomous system can be avoided more reliably.
Gemäß einer weiteren Ausführungsform der Vorrichtung umfassen den Objekten zugeordnete Parameter eine geometrische Form, eine absolute und/oder relative Position, eine Ausrichtung, einen Bewegungszustand, wie beispielsweise in Ruhe oder in Bewegung, eine Farbe, eine Funktion des Objekts, einen weiteren Zustand und/oder eine weitere Eigenschaft sowie leer oder gefüllt, und/oder weitere Eigenschaften, wie beispielsweise ein Gewicht, ein Material, eine Eignung und dergleichen.According to a further embodiment of the device, parameters associated with the objects include a geometric shape, an absolute and / or relative position, an orientation, a motion state, such as at rest or in motion, a color, a function of the object, another state, and / or another property as well as empty or filled, and / or other properties such as weight, material, suitability, and the like.
Gemäß einer weiteren Ausführungsform der Vorrichtung umfasst das Weltmodell ein semantisches Datenmodell.According to a further embodiment of the device, the world model comprises a semantic data model.
Das semantische Datenmodell umfasst insbesondere ein Entity-Relationship-Modell. Es kann auch als konzeptionelles Datenmodell bezeichnet werden.The semantic data model includes in particular an entity relationship model. It can also be called a conceptual data model.
Gemäß einer weiteren Ausführungsform der Vorrichtung sind die Modellierungseinheit, die Planungseinheit, die Auswerteeinheit, die Bestimmungseinheit und/oder die Evaluierungseinheit in einer Steuerungsvorrichtung integriert.According to a further embodiment of the device, the modeling unit, the planning unit, the evaluation unit, the determination unit and / or the evaluation unit are integrated in a control device.
Die Steuerungsvorrichtung umfasst insbesondere einen Mikroprozessor oder eine CPU und kann ferner weitere Einheiten umfassen, wie beispielsweise eine Speichervorrichtung.In particular, the control device comprises a microprocessor or a CPU and may further comprise further units, such as a memory device.
Gemäß einem zweiten Aspekt wird ein autonomes System mit der Vorrichtung zur Wahrnehmung eines Bereichs gemäß des ersten Aspekts oder einer der Ausführungsformen des ersten Aspekts vorgeschlagen.According to a second aspect, an autonomous system with the device for sensing a region according to the first aspect or one of the embodiments of the first aspect is proposed.
Das autonome System ist beispielsweise ein Roboter, insbesondere ein Haushalts-Roboter oder ein Industrie-Roboter, und/oder ein autonomes Fahrzeug, wie ein Auto, ein Zug, ein Schiff oder ein Flugzeug.The autonomous system is, for example, a robot, in particular a household robot or an industrial robot, and / or an autonomous vehicle, such as a car, a train, a ship or an aircraft.
Gemäß einem dritten Aspekt wird ein Verfahren zum Betreiben einer Vorrichtung zur Wahrnehmung eines Bereichs für ein autonomes System, welches in dem Bereich mit darin anordenbaren Gegenständen angeordnet ist, vorgeschlagen. In einem ersten Schritt wird ein Weltmodell, welches eine Beschreibung des Bereichs, der in dem Bereich angeordneten Gegenstände und des autonomen Systems mittels Objekten umfasst, wobei jedem der Objekte zumindest ein Parameter zugeordnet ist, modelliert. In einem zweiten Schritt wird ein Erfassen von Sensordaten des Bereichs geplant. Mit anderen Worten wird der Einsatz eines Sensors geplant. In einem dritten Schritt werden die Sensordaten des Bereichs erfasst. Beispielsweise wird der entsprechende Sensor angesteuert, woraufhin dieser ein Sensorsignal erfasst und als Sensordaten ausgibt. In einem vierten Schritt wird eine aktuelle Information für das Weltmodell in Abhängigkeit von den erfassten Sensordaten des Bereichs ermittelt. Insbesondere werden die Sensordaten hierfür ausgewertet, analysiert, verarbeitet und dergleichen. In einem fünften Schritt wird ein Ist-Zustand des Weltmodells in Abhängigkeit einer vorbestimmten Information, einer vorbekannten Information und/oder der ermittelten aktuellen Information ermittelt, wobei der Ist-Zustand des Weltmodells einen Parameterwert für zumindest einen der Parameter aufweist. In einem sechsten Schritt wird ein zukünftiger Zustand des Weltmodells in Abhängigkeit des Ist-Zustands des Weltmodells, einer Entwicklungsfunktion für jeden der in dem Ist-Zustand einen Parameterwert aufweisenden Parameter, einer Relation zwischen zumindest zwei Parametern und/oder einer Relation zwischen zumindest zwei Objekten evaluiert.According to a third aspect, a method for operating a device for sensing an area for an autonomous system, which is arranged in the area with objects that can be arranged therein, is proposed. In a first step, a world model comprising a description of the region comprising objects arranged in the region and the autonomous system by means of objects, wherein at least one parameter is assigned to each of the objects, is modeled. In a second step, a collection of sensor data of the area is planned. In other words, the use of a sensor is planned. In a third step, the sensor data of the area are recorded. For example, the corresponding sensor is actuated, whereupon it detects a sensor signal and outputs it as sensor data. In a fourth step, a current information for the world model is determined as a function of the detected sensor data of the area. In particular, the sensor data for this purpose are evaluated, analyzed, processed and the like. In a fifth step, an actual state of the world model is determined as a function of a predetermined information, a previously known information and / or the ascertained current information, the actual state of the world model having a parameter value for at least one of the parameters. In a sixth step, a future state of the world model is evaluated as a function of the actual state of the world model, a development function for each parameter having a parameter value in the actual state, a relation between at least two parameters and / or a relation between at least two objects ,
Dieses Verfahren eignet sich insbesondere zur Verwendung mit der Vorrichtung oder dem Wahrnehmungssystem gemäß des ersten Aspekts oder einer der Ausführungsformen des ersten Aspekts.This method is particularly suitable for use with the device or the perception system according to the first aspect or one of the embodiments of the first aspect.
Die für die vorgeschlagene Vorrichtung beschriebenen Ausführungsformen und Merkmale gelten für das vorgeschlagene Verfahren entsprechend.The embodiments and features described for the proposed device apply accordingly to the proposed method.
Weiterhin wird ein Computerprogrammprodukt vorgeschlagen, welches auf einer programmgesteuerten Einrichtung die Durchführung des wie oben erläuterten Verfahrens veranlasst.Furthermore, a computer program product is proposed, which causes the execution of the method as explained above on a program-controlled device.
Ein Computerprogrammprodukt, wie z.B. ein Computerprogramm-Mittel, kann beispielsweise als Speichermedium, wie z.B. Speicherkarte, USB-Stick, CD-ROM, DVD, oder auch in Form einer herunterladbaren Datei von einem Server in einem Netzwerk bereitgestellt oder geliefert werden. Dies kann zum Beispiel in einem drahtlosen Kommunikationsnetzwerk durch die Übertragung einer entsprechenden Datei mit dem Computerprogrammprodukt oder dem Computerprogramm-Mittel erfolgen.A computer program product, such as a computer program means may, for example, be used as a storage medium, e.g. Memory card, USB stick, CD-ROM, DVD, or even in the form of a downloadable file provided by a server in a network or delivered. This can be done, for example, in a wireless communication network by transmitting a corresponding file with the computer program product or the computer program means.
Weitere mögliche Implementierungen der Erfindung umfassen auch nicht explizit genannte Kombinationen von zuvor oder im Folgenden bezüglich der Ausführungsbeispiele beschriebenen Merkmale oder Ausführungsformen. Dabei wird der Fachmann auch Einzelaspekte als Verbesserungen oder Ergänzungen zu der jeweiligen Grundform der Erfindung hinzufügen.Further possible implementations of the invention also include not explicitly mentioned combinations of features or embodiments described above or below with regard to the exemplary embodiments. The skilled person will also add individual aspects as improvements or additions to the respective basic form of the invention.
Weitere vorteilhafte Ausgestaltungen und Aspekte der Erfindung sind Gegenstand der Unteransprüche sowie der im Folgenden beschriebenen Ausführungsbeispiele der Erfindung. Im Weiteren wird die Erfindung anhand von bevorzugten Ausführungsformen unter Bezugnahme auf die beigelegten Figuren näher erläutert.
-
1 zeigt ein schematisches Blockschaltbild eines Ausführungsbeispiels einer Vorrichtung zur Wahrnehmung eines Bereichs; -
2 zeigt eine schematische Darstellung eines Ausführungsbeispiels eines Weltmodells, eines Ist-Zustands des Weltmodells und eines zukünftigen Zustands des Weltmodells; -
3 zeigt eine schematische Darstellung eines Ausführungsbeispiels eines Weltmodells, eines Ist-Zustands des Weltmodells und eines zukünftigen Zustands des Weltmodells; -
4 zeigt in zwei Diagrammen eine zeitliche Entwicklung einer Wahrscheinlichkeitsverteilung; und -
5 zeigt ein schematisches Blockschaltbild eines Ausführungsbeispiels eines Verfahrens zum Betreiben einer Vorrichtung zur Wahrnehmung eines Bereichs.
-
1 shows a schematic block diagram of an embodiment of a device for sensing a region; -
2 shows a schematic representation of an embodiment of a world model, an actual state of the world model and a future state of the world model; -
3 shows a schematic representation of an embodiment of a world model, an actual state of the world model and a future state of the world model; -
4 shows in two diagrams a temporal evolution of a probability distribution; and -
5 shows a schematic block diagram of an embodiment of a method for operating a device for detecting a region.
In den Figuren sind gleiche oder funktionsgleiche Elemente mit denselben Bezugszeichen versehen worden, sofern nichts anderes angegeben ist.In the figures, the same or functionally identical elements have been given the same reference numerals, unless stated otherwise.
Das Wahrnehmungssystem
Das Wahrnehmungssystem
Im oberen Bereich der
In der Mitte der
Der aktuelle Zustand
Unter dem aktuellen Zustand
Beispielsweise plant die Planungseinheit
Die Auswerteeinheit
Der aktuelle Zustand
Unter dem aktuellen Zustand
Beispielsweise kann der aktuelle Zustand
Insbesondere ist die Planungseinheit
Zu dem Zeitpunkt t0 hat die Messung gerade stattgefunden. Beispielsweise unterliegt die Positionsbestimmung einer Unsicherheit, die sich durch eine Gaußverteilung beschreiben lässt. Direkt nach der Messung, das heißt zum Zeitpunkt t0, ist die Wahrscheinlichkeitsverteilung WV relativ schmal um den wahrscheinlichsten Ort x0 verteilt. Die Position ist also recht genau bekannt.At the time t 0 , the measurement has just taken place. For example, the position determination is subject to an uncertainty that can be described by a Gaussian distribution. Immediately after the measurement, that is to say at time t 0 , the probability distribution WV is distributed relatively narrowly around the most probable location x 0 . So the position is pretty well known.
Nach einer gewissen Zeit, zu einem Zeitpunkt t1, hat sich der Ball
Durch weiteren Zeitablauf würde die Wahrscheinlichkeitsverteilung WV für die Position in diesem Beispiel immer flacher werden und letztendlich eine Gleichverteilung in dem zulässigen Bereich, der hierbei beispielsweise durch raumbegrenzende Wände gegeben ist, annehmen. Für andere Parameter sind andere Wahrscheinlichkeitsverteilungen als eine Gaußverteilung möglich. Insbesondere kann ein Parameter auch eine diskrete Verteilung aufweisen, beispielsweise der Parameter Farbe.As time goes on, the probability distribution WV for the position in this example would become ever flatter, and ultimately assume an equal distribution in the permissible range, which is given here for example by space-limiting walls. For other parameters, other probability distributions than a Gaussian distribution are possible. In particular, a parameter can also have a discrete distribution, for example the parameter color.
In einem ersten Schritt
Obwohl die vorliegende Erfindung anhand von Ausführungsbeispielen beschrieben wurde, ist sie vielfältig modifizierbar. Insbesondere ist eine Vielzahl an Einsatzmöglichkeiten für das Wahrnehmungssystem denkbar. Als Beispiele seien ein Verkehrsleitungssystem, eine Sortiermaschine, ein einen Operator unterstützendes System, insbesondere im Bereich der Mobilität, der Medizin und/oder der Fertigung, sowie Systeme im industriellen Fertigungsbereich, wie beispielsweise ein Montageroboter, genannt.Although the present invention has been described with reference to embodiments, it is variously modifiable. In particular, a variety of uses for the perception system is conceivable. Examples include a traffic management system, a sorting machine, an operator-assisting system, in particular in the field of mobility, medicine and / or manufacturing, and systems in the industrial manufacturing sector, such as a mounting robot called.
Claims (15)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102018201801.4A DE102018201801A1 (en) | 2018-02-06 | 2018-02-06 | Area sensing device, method of operating a device, and computer program product |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102018201801.4A DE102018201801A1 (en) | 2018-02-06 | 2018-02-06 | Area sensing device, method of operating a device, and computer program product |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102018201801A1 true DE102018201801A1 (en) | 2019-08-08 |
Family
ID=67308407
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102018201801.4A Pending DE102018201801A1 (en) | 2018-02-06 | 2018-02-06 | Area sensing device, method of operating a device, and computer program product |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102018201801A1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
LU500260B1 (en) * | 2021-06-09 | 2022-12-13 | Phoenix Contact Gmbh & Co | Self-propelled device for use in an industrial environment |
-
2018
- 2018-02-06 DE DE102018201801.4A patent/DE102018201801A1/en active Pending
Non-Patent Citations (4)
Title |
---|
CHRISTENSEN, H. I. [et al.]: Sensing and Estimation. Chapter 4 from Springer Handbook of Robotics, Januar 2008, S. 87-107, im Internet am 6.2.2019 verfügbar unterhttps://www.researchgate.net/publication/225848629_Sensing_and_Estimation. * |
HU, H. [et al.]: Internet-based robotic systems for teleoperation. Assembly Automation, Vol. 21, 2001, S. 143-151. * |
MEISEL, A.: Feature based Sensor Fusion for Victim Detection in the Rescue Robotics Domain. Master’s Thesis, Graz University of Technology, Mai 2014, 90 Seiten. * |
THOMAIDIS, G. [et al.]: Multi-sensor tracking and lane estimation in highly automated vehicles. IET Intelligent Transport Systems, Vol. 7, 2013, S. 160-169. * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
LU500260B1 (en) * | 2021-06-09 | 2022-12-13 | Phoenix Contact Gmbh & Co | Self-propelled device for use in an industrial environment |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE102017008475B4 (en) | MACHINE LEARNING DEVICE, ROBOT SYSTEM AND MACHINE LEARNING METHOD FOR LEARNING A ROBOT OPERATING PROGRAM | |
EP3695244B1 (en) | Method and device for creating an inverse sensor model and method for detecting obstacles | |
EP2676240A1 (en) | Method for detecting target objects in a surveillance region | |
EP3017319B1 (en) | Method for determining trajectories of moving physical objects in a space on the basis of sensor data of a plurality of sensors | |
DE102016215143A1 (en) | Motion compensation for on-board vehicle sensors | |
WO2018019466A1 (en) | Method and system for detecting landmarks in a traffic environment of a mobile unit | |
EP3156820A1 (en) | Method for detecting a dynamic object in a region surrounding a motor vehicle based on information in a vehicle-side ultrasound detection device, driver assistance system, and motor vehicle | |
WO2020016385A1 (en) | Method and system for determining a position of a vehicle | |
DE102016225595A1 (en) | Method and arrangement for calibrating at least one sensor of a rail vehicle | |
DE10133962A1 (en) | Synchronization method and device | |
DE102020200911B3 (en) | Method for recognizing objects in the surroundings of a vehicle | |
DE102016206781A1 (en) | A method of controlling a plurality of mobile driverless manipulator systems | |
DE102017108107A1 (en) | METHOD, DEVICE AND COMPUTER READABLE STORAGE MEDIUM WITH INSTRUCTIONS FOR ESTIMATING A POSE OF A MOTOR VEHICLE | |
WO2019149664A1 (en) | Method for ascertaining a time characteristic of a measured variable, prediction system, actuator control system, method for training the actuator control system, training system, computer program and machine-readable storage medium | |
DE102018201801A1 (en) | Area sensing device, method of operating a device, and computer program product | |
DE102009028742A1 (en) | Method and control device for determining a movement information of an object | |
DE102007037178A1 (en) | Method for quantifying environmental sensor of vehicle to recognize object, involves allocating radio positioning system, where measuring field is defined by three transmitting or receiving computer units | |
EP3663881A1 (en) | Method for controlling an autonomous vehicle on the basis of estimated movement vectors | |
DE102016223072B4 (en) | Determination of a vehicle's own movement on the basis of stationary objects | |
DE102020208378B3 (en) | Traffic light lane assignment from swarm data | |
EP3663800B1 (en) | Method for detecting objects using a 3d camera | |
DE102021204372A1 (en) | Orientation-based position determination of rail vehicles | |
DE102018130745A1 (en) | Method for controlling an autonomous vehicle | |
WO2015110331A1 (en) | Method for detecting a movement path of at least one moving object within a detection region, method for detecting gestures while using such a detection method, and device for carrying out such a detection method | |
EP3686705A1 (en) | Robot and method for controlling a mobile robot in a room |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R012 | Request for examination validly filed | ||
R079 | Amendment of ipc main class |
Free format text: PREVIOUS MAIN CLASS: G06F0019000000 Ipc: G16Z0099000000 |
|
R016 | Response to examination communication | ||
R081 | Change of applicant/patentee |
Owner name: ROBERT BOSCH GMBH, DE Free format text: FORMER OWNER: SIEMENS AKTIENGESELLSCHAFT, 80333 MUENCHEN, DE Owner name: SIEMENS MOBILITY GMBH, DE Free format text: FORMER OWNER: SIEMENS AKTIENGESELLSCHAFT, 80333 MUENCHEN, DE |
|
R081 | Change of applicant/patentee |
Owner name: ROBERT BOSCH GMBH, DE Free format text: FORMER OWNER: SIEMENS MOBILITY GMBH, 81739 MUENCHEN, DE |