DE102005058240A1 - Tracking system and method for determining poses - Google Patents
Tracking system and method for determining poses Download PDFInfo
- Publication number
- DE102005058240A1 DE102005058240A1 DE102005058240A DE102005058240A DE102005058240A1 DE 102005058240 A1 DE102005058240 A1 DE 102005058240A1 DE 102005058240 A DE102005058240 A DE 102005058240A DE 102005058240 A DE102005058240 A DE 102005058240A DE 102005058240 A1 DE102005058240 A1 DE 102005058240A1
- Authority
- DE
- Germany
- Prior art keywords
- tracking
- determining
- data set
- configuration data
- appropriate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
Abstract
Die Erfindung betrifft ein Trackingsystem und ein Verfahren zur Posenbestimmung eines Anwenders oder einer beweglichen Vorrichtung sowie ein Augmented Reality System, aufweisend ein derartiges Trackingsystem. Um ein im Hinblick auf die Umgebungsverhältnisse eines Anwenders adaptives Tracking zu ermöglichen, werden die Umgebungsverhältnisse des Anwenders mit einem hierfür geeigneten Sensor erfasst und in Abhängigkeit dieser automatisch ein geeignetes Trackingverfahren und ein Konfigurationsdatensatz zu dessen Konfiguration bestimmt.The invention relates to a tracking system and a method for determining the poses of a user or a movable device and an augmented reality system having such a tracking system. In order to enable adaptive tracking with regard to the environmental conditions of a user, the environmental conditions of the user are recorded with a suitable sensor and a suitable tracking method and a configuration data set for its configuration are automatically determined as a function of this.
Description
Die Erfindung betrifft ein Trackingsystem und ein Verfahren zur Polenbestimmung eines Anwenders oder einer beweglichen Vorrichtung sowie ein Augmented Reality System aufweisend ein derartiges Trackingsystem.The The invention relates to a tracking system and a method for determining poles a user or a mobile device as well as an augmented Reality system comprising such a tracking system.
Augmented Reality, erweiterte Realität, beschreibt eine Form der Mensch-Technik Interaktion, bei der einem Anwender z.B. über eine Datenbrille Informationen in sein Sichtfeld eingeblendet werden, um die von ihm wahrgenommene Realität zu erweitern. Anwendungen findet diese Technologie beispielsweise in den Bereichen Industrie, Medizin und Konsumer.Augmented Reality, augmented reality, describes a form of human-technology interaction in which one User e.g. above a data goggle information is faded in to his field of view the reality perceived by him to expand. Applications find this technology, for example in the fields of industry, medicine and consumers.
Bei der virtuellen Erweiterung des Blickfeldes des Anwenders sollen die virtuellen Informationen in der Regel in einem bestimmten räumlichen Bezug zu den realen Elementen im Blickfeld des Anwenders positioniert werden. Um diese virtuelle Erweiterung des realen Blickfeldes positionsgenau zu erreichen, werden so genannte Trackingverfahren eingesetzt. Die Trackingverfahren dienen dazu, eine Pose zu Bestimmen. Unter der Pose oder unter so genannten Poseninformationen wird hier sowie im gesamten Dokument eine Informationsmenge verstanden, anhand der sich die Blickrichtung des Anwenders ableiten lässt. Die Poseninformationen beschreiben somit die Position und die Lage des Anwenders oder auch einer beweglichen Vorrichtung in Bezug auf die reale Umgebung. Über die Pose kann somit zu jedem Zeitpunkt auf das reale Blickfeld des Anwenders geschlossen werden. Dies ist Voraussetzung dafür, dass die virtuelle Erweiterung des realen Blickfeldes positionsgenau durchgeführt werden kann.at the virtual extension of the field of view of the user the virtual information usually in a specific spatial reference positioned to the real elements in the field of vision of the user become. To this virtual extension of the real field of view positionally accurate To achieve so-called tracking methods are used. The Tracking methods are used to determine a pose. Under the Pose or under so-called pose information will be here as well understood throughout the document an amount of information, based on the the line of sight of the user can be deduced. The pose information thus describe the position and location of the user or even a movable device in relation to the real environment. About the Pose can therefore at any time on the real field of vision of the user getting closed. This is a prerequisite for the virtual extension the real field of view can be performed positionally accurate.
Die Umsetzung der Trackingverfahren kann sowohl hardware- als auch softwaretechnisch geschehen. Hierbei kommen optische, inertiale, akustische, magnetische etc. Verfahren zum Ein satz. Die einzelnen Verfahren setzen dabei auf unterschiedliche Algorithmen und Technologien auf, die alle eine mehr oder minder genaue Aussage über die Pose des Benutzers liefern.The Implementation of the tracking method can be hardware as well as software happen. Here come optical, inertial, acoustic, magnetic etc. method for a sentence. The individual procedures set thereby on different algorithms and technologies, all a more or less accurate statement about the pose of the user deliver.
Die einzelnen Verfahren müssen zur Bestimmung der Benutzerposition und -lage mit Informationen versorgt werden. Diese Informationen können z.B. dreidimensionale Modelle der betrachteten Umgebung, Bilder betrachteter Objekte aus verschiedenen Positionen, erkannte markante Punkte, Linien, Farbverläufe usw. oder speziell angebrachte, codierte Marker sein. Diese für das Tracking notwendigen Informationen werden dem Verfahren in der Regel initial zugeführt.The individual procedures must to determine user position and location with information be supplied. This information may e.g. three-dimensional Models of the environment under consideration, images of objects viewed different positions, recognized prominent points, lines, gradients, etc. or specially attached coded markers. This for tracking necessary information is usually initial to the procedure fed.
Die Eignung der verschiedenen zur Verfügung stehenden Trackingverfahren hängt insbesondere von den Umgebungsverhältnissen des Anwenders ab. Optische Verfahren, bei denen die Umgebung mit einer Kamera analysiert wird und aus den aufgenommenen Bildern die Position und die Lage des Anwenders bestimmt wird, sind für viele Anwendungsbereiche geeignet. Grund hierfür ist, dass die Verfahren ohne zusätzliche Instrumentierungen wie z.B. an den Objekten angebrachte Marker auskommen. Im Bereich der optischen Verfahren existieren unterschiedliche Ansätze, wie z.B. kanten-, punkt- oder regionenbasierte Verfahren. Diese Verfahren sind in unterschiedlichen Anwendungsfällen mehr oder minder geeignet. Beispielsweise sind in einem Motorraum eines Fahrzeugs für ein regionenbasiertes Verfahren in der Regel zu wenig verwertbare Regionen zu finden, so dass ein solches Verfahren für einen derartigen Anwendungsfall schlechte Ergebnisse liefert. In einem Schaltschrank befinden sich meist rechteckige Elemente, die viele Kanten aufweisen. Hier sind folglich kantenbasierte Verfahren besonders geeignet. Ein allgemein gültiges Verfahren für alle Anwendungen in den Bereichen Industrie, Medizin und Konsumer ist jedoch aufgrund der unterschiedlichen Umgebungsbedingungen schwer realisierbar. Insbesondere müssen hier die Randbedingungen in Bezug auf Peformance und Stabilität beachtet werden, da diese für die Qualität des Tracking entscheidend sind und somit wiederum stark die Qualität des gesamten Augmented Reality Systems beeinflussen. Die Qualität des Trackings kann also bei einem gewählten Verfahren mit den dazugehörigen Konfigurationen in einer Situation genügen, aber in einer anderen Anwendungsdomäne vollkommen versagen.The Suitability of the different tracking methods available depends in particular from the environmental conditions of the user. Optical procedures involving the environment with a camera is analyzed and from the images taken the Position and location of the user is determined for many Applications suitable. The reason for this is that the procedures without additional Instrumentations such as e.g. get on the objects attached markers. In the field of optical methods, there are different approaches, such as e.g. Edge, point or region based methods. These procedures are in different applications more or less suitable. For example, in an engine compartment a vehicle for a region-based process is generally under-exploitable To find regions, so that such a procedure for one such application gives bad results. In one Control cabinets are usually rectangular elements, many of them Have edges. Here, edge-based methods are therefore especially suitable. A universal one Procedure for all applications in industry, medicine and consumer However, it is difficult due to the different environmental conditions realizable. In particular, need Here the boundary conditions with respect to Peformance and stability are considered as these are for the quality of the tracking are crucial and thus again the quality of the whole Influence augmented reality systems. The quality of the tracking So can with a selected Procedure with the associated Configurations in one situation are enough, but in another application domain completely fail.
Als Alternative zu optischen Verfahren, die in der Regel auch sehr viel Rechenleistung beanspruchen, sind inertiale Systeme bzw. Verfahren bekannt. Diese verfügen über sehr gute Echtzeitfähigkeit. Mit ihnen können jedoch nur relative Bewegungen des Benutzers erfasst werden.When Alternative to optical methods, which usually also very much Compute computing power, inertial systems or procedures known. These have a lot good real-time capability. With them you can however, only relative movements of the user are detected.
Weiterhin existieren magnetische Verfahren, die jedoch sehr anfällig gegenüber Umgebungen mit starken magnetischen Feldern sind, wie sie beispielsweise in industriellen Umgebungen aufgrund der vorhandenen Maschinen und der elektrischen Antriebe zu finden sind. Die Verfahren können hierdurch leicht gestört werden.Farther There are magnetic methods that are very vulnerable to environments with strong magnetic fields, such as those in industrial environments due to the existing machinery and the electric drives are to be found. The methods can thereby slightly disturbed become.
Auch bekannte akustische Verfahren können aufgrund der Geräuschkulisse in einer industriellen Produktionsumgebung nur sehr bedingt zum Einsatz kommen.Also known acoustic methods can due to the background noise in an industrial production environment only to a very limited extent Use come.
Insbesondere aufgrund der Algorithmik, die zur Durchführung eines Trackingverfahrens Anwendung findet, werden Konfigurationsparameter benötigt, die ebenfalls Einfluss auf die Qualität und Stabilität des Tracking haben. Für verschiedene Anwendungen werden somit unterschiedliche Verfahren mit unterschiedlichen Konfigurationen benötigt, die in Abhängigkeit der Umgebungsverhältnisse des Anwenders von einem Experten ausgewählt und manuell optimiert werden müssen. Unter Umgebungsverhältnisse werden in diesem Zusammenhang sowohl die betrachteten Objekte als solche verstanden als auch beispielsweise die Lichtverhältnisse in der Umgebung dieser Objekte, die ebenfalls entscheidenden Einfluss auf die Stabilität des Tracking haben.In particular due to the algorithms used to perform a tracking method, configuration parameters are needed that also affect quality and stability have the quality of tracking. Different applications with different configurations are therefore required for different applications, which must be selected by an expert and manually optimized depending on the environmental conditions of the user. Under environmental conditions in this context, both the objects considered as such understood as well as, for example, the lighting conditions in the environment of these objects, which also have a decisive influence on the stability of the tracking.
Die genannten unterschiedlichen Trackingverfahren werden bisher fast ausschließlich für sich alleine betrachtet.The So far, these different tracking methods are almost exclusively for yourself considered.
Der Erfindung liegt die Aufgabe zugrunde, ein im Hinblick auf die Umgebungsverhältnisse eines Anwenders adaptives Tracking zu ermöglichen.Of the Invention is based on the object, with regard to the environmental conditions to allow a user adaptive tracking.
Diese Aufgabe wird durch ein Trackingsystem zur Posenbestimmung eines Anwenders oder einer beweglichen Vorrichtung gelöst, wobei das Trackingsystem umfasst:
- – mindestens einen Sensor zur Erfassung von Umgebungsinformationen, die die Umgebungsverhältnisse des Anwenders oder der beweglichen Vorrichtung beschreiben,
- – einen ersten Speicherbereich für zur Durchführung verschiedener Trackingverfahren vorgesehene Trackingalgorithmen,
- – einen zweiten Speicherbereich für zur Konfiguration der verschiedenen Trackingverfahren vorgesehene Konfigurationsdatensätze,
- – Auswahlmittel zur Auswahl eines zur Posenbestimmung geeigneten Trackingverfahrens aus der Menge der verschiedenen Trackingverfahren,
- – Bestimmungsmittel zur Bestimmung eines zur Posenbestimmung geeigneten Konfigurationsdatensatzes auf Basis der Umgebungsinformationen,
- – Konfigurationsmittel zur Konfiguration des geeigneten Trackingverfahrens mit dem geeigneten Konfigurationsdatensatz und
- – Ausführungsmittel zur Ausführung des zur Durchführung des konfigurierten Trackingverfahrens vorgesehenen Trackingalgorithmus.
- At least one sensor for acquiring environmental information describing the environmental conditions of the user or the mobile device,
- A first storage area for tracking algorithms provided for carrying out different tracking methods,
- A second memory area for configuration data records provided for configuring the various tracking methods,
- Selection means for selecting a tracking method suitable for determining poses from the set of different tracking methods,
- Determining means for determining a pose determination suitable configuration record based on the environment information,
- Configuration means for configuring the appropriate tracking method with the appropriate configuration data set and
- - Execution means for execution of the provided for performing the configured tracking method tracking algorithm.
Ferner wird die Aufgabe durch ein Verfahren zur Posenbestimmung eines Anwenders oder einer beweglichen Vorrichtung gelöst mit folgenden Verfahrensschritten:
- – Erfassen von Umgebungsinformationen mit mindestens einem Sensor, wobei die Umgebungsinformationen die Umgebungs verhältnisse des Anwenders oder der beweglichen Vorrichtung beschreiben,
- – Auswählen eines zur Posenbestimmung geeigneten Trackingverfahrens aus einer Menge verschiedener Trackingverfahren, zu deren Durchführung vorgesehene Trackingalgorithmen in einem ersten Speicherbereich abgelegt sind, wobei das Auswählen auf Basis der Umgebungsinformationen geschieht,
- – Bestimmen eines zur Posenbestimmung geeigneten Konfigurationsdatensatzes auf Basis der Umgebungsinformationen,
- – Konfigurieren des bekannten Trackingverfahrens mit dem geeigneten Konfigurationsdatensatz und
- – Ausführen des zur Durchführung des konfigurierten Verfahrens vorgesehenen Trackingalgorithmus.
- Acquiring environmental information with at least one sensor, the environmental information describing the environmental conditions of the user or the mobile device,
- Selecting a tracking method suitable for determining a pose from a set of different tracking methods, for the implementation of which provided tracking algorithms are stored in a first memory area, wherein the selection is based on the surrounding information,
- Determining a configuration-appropriate set of poses based on the environment information,
- Configuring the known tracking method with the appropriate configuration data record and
- Execute the tracking algorithm provided for carrying out the configured method.
Der Erfindung liegt die Erkenntnis zugrunde, dass das Tracking insbesondere im Hinblick auf die Umgebungsverhältnisse im Vergleich zum Stand der Technik deutlich verbessert werden kann, wenn ein Trackingsystem zur Verfügung steht, welches Mittel zur Auswahl eines geeigneten Trackingverfahrens und dessen Konfiguration in Abhängigkeit der Umgebungsverhältnisse aufweist. Um dies zu realisieren, weist das erfindungsgemäße Trackingsystem mindestens einen Sensor auf, mit dem zunächst die Umgebungsverhältnisse des Anwenders bzw. der beweglichen Vorrichtung erfasst werden können. Bei dem Sensor kann es sich um einen optischen, inertialen, magnetischen oder auch akustischen Sensor handeln. Selbstverständlich können auch verschiedene Sensorarten zur Erfassung der Umgebungsinformationen kombiniert werden, um so möglichst vielschichtige Umgebungsinformationen zu erlangen.Of the Invention is based on the finding that the tracking in particular in terms of environmental conditions compared to the state The technique can be significantly improved if a tracking system to disposal what means to choose a suitable tracking method and its configuration depending the environmental conditions having. To realize this, has the tracking system according to the invention at least one sensor with which initially the environmental conditions the user or the movable device can be detected. In which Sensor can be an optical, inertial, magnetic or act as an acoustic sensor. Of course you can too different types of sensors to capture environmental information be combined as possible to obtain multi-layered environmental information.
Das erfindungsgemäße Trackingsystem ist in der Lage, verschiedene Trackingverfahren auszuführen. Hierzu weist das Trackingsystem den ersten Speicherbereich auf, in dem die zur Durchführung der verschiedenen Trackingverfahren geeigneten Trackingalgorithmen abgelegt sind. Wird also im Hinblick auf die aktuellen Umgebungsverhältnisse des Anwenders bzw. der beweglichen Vorrichtung ein bestimmtes Trackingverfahren ausgewählt, so kann das Trackingsystem den entsprechenden Trackingalgorithmus aus dem ersten Speicherbereich laden und mit Hilfe der Ausführungsmittel ausführen. Es ist hierbei auch denkbar, dass mehrere Trackingverfahren und zugehörige Algorithmen miteinander kombiniert werden, um die Pose zu bestimmen.The Tracking system according to the invention is able to perform different tracking methods. For this the tracking system has the first memory area in which to carry out the various tracking methods suitable tracking algorithms filed are. So in terms of the current environmental conditions the user or the movable device, a specific tracking method selected, so the tracking system can use the appropriate tracking algorithm load from the first memory area and using the execution means To run. It is also conceivable that several tracking methods and associated Algorithms are combined together to determine the pose.
Ein bestimmtes Trackingverfahren kann mit verschiedenen Konfigurationsdatensätzen konfiguriert werden, wobei der optimale Konfigurationsdatensatz eines gewählten Trackingverfahrens wiederum von den Umgebungsverhältnissen des Anwenders bzw. der beweglichen Vorrichtung abhängt. Bei den Konfigurationsdatensätzen handelt es sich beispielsweise um mathematische Parameter, mit deren Hilfe die im ersten Speicherbereich abgelegten Trackingalgorithmen parametriert werden können. Weiterhin können die Konfigurationsdatensätze aber auch Parameter für im System eingesetzte Komponenten enthalten. Beispielsweise könnte ein Parameter die Belichtungszeit einer für ein optisches Tracking eingesetzten Kamera definieren. Ein solcher Parameter würde beispielsweise in Abhängigkeit der Lichtverhältnisse des Anwenders bzw. der beweglichen Vorrichtung mit Hilfe der Bestimmungsmittel bestimmt.A particular tracking method may be configured with a variety of configuration records, wherein the optimal configuration record of a selected tracking method in turn depends on the environmental conditions of the user or the moving device. The configuration data sets are, for example, mathematical parameters with the aid of which the tracking algorithms stored in the first memory area can be parameterized. Furthermore, the configuration data sets but also contain parameters for components used in the system. For example, one parameter could define the exposure time of a camera used for optical tracking. Such a parameter would be determined, for example, as a function of the light conditions of the user or of the movable device with the aid of the determination means.
Sind nun mit Hilfe des Systems sowohl ein geeignetes Trackingverfahren als auch ein zu dessen Konfiguration geeigneter Konfigurationsdatensatz unter Berücksichtigung der Umgebungsinformationen bestimmt, so wird das geeignete Trackingverfahren zunächst mit Hilfe Konfigurationsmittel mit dem geeigneten Konfigurationsdatensatz konfiguriert und anschließend ausgeführt. Hierzu wird ein entsprechender Trackingalgorithmus aus dem ersten Speicherbereich geladen und nach einer Parametrisierung mit den im Konfigurationsdatensatz enthaltenen Parametern mittels der Ausführungsmittel ausgeführt.are now with the help of the system both a suitable tracking method as well as a configuration data set suitable for its configuration consideration determines the environment information, then the appropriate tracking method first using configuration means with the appropriate configuration record configured and then executed. For this purpose, a corresponding tracking algorithm from the first memory area loaded and after a parameterization with those in the configuration data set contained parameters carried out by the execution means.
Die erfindungsgemäßen Auswahl-, Bestimmungs-, Konfigurations- und Ausführungsmittel können durch separate intelligente Bau teile wie Digitale Signalprozessoren oder Mikrocontroller realisiert werden. Alternativ können alle oder auch beliebige Kombinationen der genannten Mittel gemeinsam auf einem derartigen intelligenten Bauteil realisiert werden.The according to the invention Determination, configuration and execution means can through separate intelligent components such as digital signal processors or microcontroller can be realized. Alternatively, all or any combinations of said agents in common be realized on such an intelligent component.
Ebenso können der erste und der zweite Speicherbereich auf einem gemeinsamen oder auf zwei getrennten Speicherbausteine realisiert sein.As well can the first and the second memory area on a common or be realized on two separate memory blocks.
Das erfindungsgemäße Trackingsystem hat gegenüber heutigen Systemen den entscheidenden Vorteil, dass mit diesem Trackingsystem eine breitere Palette von Anwendungsdomänen bedient werden kann. Durch die beschriebenen Möglichkeiten des Systems kann insgesamt ein besseres Ergebnis für Augmented Reality Anwendungen in den Bereichen Industrie, Medizin und Konsumer erzielt werden.The Tracking system according to the invention has opposite Today's systems have the distinct advantage of having this tracking system a wider range of application domains can be served. By the possibilities described Overall, the system can get a better result for augmented Reality applications in industry, medicine and consumer be achieved.
Bei einer vorteilhaften Ausführungsform der Erfindung sind die Bestimmungsmittel zur Bestimmung des geeigneten Konfigurationsdatensatzes aus einem der im zweiten Speicherbereich gespeicherten Konfigurationsdatensätze vorgesehen. Im zweiten Speicherbereich stehen verschiedene Konfigurationsdatensätze zur Verfügung, die für verschiedene Umgebungsverhältnisse des Anwenders bzw. der beweglichen Vorrichtung geeignet sind. Nach dem mit Hilfe des Sensors die Umgebungsverhältnisse erfasst wurden, kann also ein geeigneter Konfigurationsdatensatz einfach aus dem zweiten Speicherbereich ausgewählt werden und zur Konfiguration des geeigneten Trackingverfahrens mit den Konfigurationsmitteln verwendet werden.at an advantageous embodiment the invention are the determining means for determining the appropriate Configuration record from one of the second memory area stored configuration records provided. In the second Memory area are various configuration records to available the for different environmental conditions the user or the movable device are suitable. After this can be detected with the help of the sensor, the environmental conditions So a suitable configuration record simply from the second Memory area selected and to configure the appropriate tracking method the configuration means are used.
In weiterer vorteilhafter Ausgestaltung der Erfindung sind die Bestimmungsmittel zur Generierung neuer, noch nicht im zweiten Speicherbereich abgelegter Konfigurationsdatensätze vorgesehen. Kann also beispielsweise kein geeigneter Konfigurationsdatensatz im zweiten Speicherbereich für die aktuellen Umgebungsverhältnisse gefunden werden, so besteht durch diese weitere Ausgestaltungsform der Erfindung die Möglichkeit, während des Trackingbetriebes neue Konfigurationsdatensätze zu generieren, insbesondere indem bestehende Konfigurationsdatensätze auf die Umgebungsverhältnisse angepasst werden. Auf diese Art und Weise kann sichergestellt werden, dass immer eine optimierte Konfiguration für das gewählte Trackingverfahren zur Verfügung gestellt werden kann, auch wenn diese noch nicht im zweiten Speicherbereich liegen sollte. Lernfähig wird eine derartige Ausführung des erfindungsgemäßen Trackingsystems, indem die neuen Konfigurationsdatensätze zusammen mit den entsprechenden Umgebungsverhältnissen im Anschluss an ihre Generierung im zweiten Speicherbereich abgelegt werden.In Another advantageous embodiment of the invention are the determining means to generate new, not yet stored in the second memory area Configuration records intended. Can not, for example, a suitable configuration record in the second memory area for the current environmental conditions be found, it is through this further embodiment of the Invention the possibility during the Tracking operation to generate new configuration records, in particular by adding existing configuration records to the environmental conditions be adjusted. In this way, it can be ensured that always an optimized configuration for the selected tracking method for disposal can be made, even if they are not in the second memory area should lie. teachable becomes such an embodiment the tracking system according to the invention, by adding the new configuration records along with the corresponding ones environmental conditions stored in the second memory area following their generation become.
Während des Betriebes des Trackingsystems können sich die Umgebungsverhältnisse des Anwenders bzw. der beweglichen Vorrichtung ändern. Daher weist das Trackingsystem in besonders vorteilhafter Ausgestaltungsform der Erfindung Analysemittel zur Bestimmung der Güte eines laufenden Trackingverfahrens während der Posenbestimmung auf. Auf diese Art und Weise können Trackingverfahren und/oder gewählte Konfigurationsdatensätze frühzeitig ausgetauscht werden, wenn diese im Hinblick auf die Umgebungsverhältnisse nicht mehr optimal arbeiten.During the Operation of the tracking system can the environmental conditions change the user or the movable device. Therefore, the tracking system points in a particularly advantageous embodiment of the invention analysis means for determining the quality an ongoing tracking process during pose determination. In this way you can Tracking method and / or selected Configuration records early be replaced if this in terms of environmental conditions no longer working optimally.
In weiterer vorteilhafter Ausgestaltung der Erfindung sind Analysemittel zur Bestimmung der Güte auf Basis einer Bewertung des Laufzeitverhaltens und/oder der Störempfindlichkeit und/oder der Anzahl notwendiger Reinitialisierungen des laufenden Trackingverfahrens vorgesehen. Anhand der genannten Größen kann die Qualität und die Stabilität des aktuell laufenden Trackingverfahrens sehr gut kontrolliert werden.In Another advantageous embodiment of the invention are analysis means for determining the quality based on an assessment of the runtime behavior and / or susceptibility to interference and / or the number of necessary reinitializations of the current one Tracking method provided. On the basis of the sizes mentioned the quality and the stability of the currently running tracking process are very well controlled.
In weiterer vorteilhafter Ausgestaltung ist das Trackingsystem derart gestaltet, dass die Auswahl des geeigneten Trackingverfahrens und die Bestimmung des geeigneten Konfigurationsdatensatzes, die Konfiguration des geeigneten Trackingverfahrens mit dem geeigneten Konfigurationsdatensatz und die Ausführung des zur Durchführung des konfigurierten Tracking verfahrens vorgesehenen Trackingalgorithmus automatisch bei mangelnder Güte des laufenden Trackingverfahrens initiiert werden. Bei einer derartigen Ausführungsform der Erfindung werden also ein neues Trackingverfahren und/oder ein neuer Konfigurationsdatensatz gewählt, sobald mit Hilfe der Analysemittel eine unzureichende Güte des laufenden Trackingverfahren festgestellt wird. Auf diese Art und Weise kann schon im Vorfeld ein Trackingverlust vermieden werden, so dass ein Anwender, der das Trackingsystem unter sich ändernden Umgebungseinflüssen verwendet, stets optimale Trackingergebnisse erhält. Im Idealfall wird der Wechsel des Trackingverfahrens bzw. des Konfigurationsdatensatzes derart vollzogen, dass der Anwender hiervon überhaupt nichts spürt.In a further advantageous embodiment, the tracking system is designed such that the selection of the appropriate tracking method and the determination of the appropriate configuration data set, the configuration of the appropriate tracking method with the appropriate configuration record and the execution of the procedure for implementing the configured tracking method tracking algorithm automatically with lack of quality of current Tracking procedure to be initiated. In such an embodiment of the invention, therefore, a new tracking method and / or a new configuration data set are selected as soon as with the aid of Analysis means an insufficient quality of the current tracking method is detected. In this way, a tracking loss can be avoided in advance, so that a user who uses the tracking system under changing environmental conditions, always receives optimal tracking results. Ideally, the change of the tracking method or the configuration data set is performed in such a way that the user does not feel anything at all.
In weiterer vorteilhafter Ausgestaltung der Erfindung weist das System Archivierungsmittel zum Generieren und Archivieren eines Bewertungsdatensatzes auf, der die Güte des laufenden Trackingverfahrens in Abhängigkeit des während der Laufzeit des laufenden Trackingverfahrens zugeordneten Konfigurationsdatensatzes und der während der Laufzeit existierenden Umgebungsverhältnisse beschreibt. Bei einer solchen Ausführungsform der Erfindung wird also eine Art Wissensbasis angelegt, die bei der Auswahl des Trackingverfahrens bzw. eines geeigneten Konfigurationsdatensatzes unter Berücksichtigung der existierenden Umgebungsverhältnisse herangezogen werden kann. Auf diese Art und Weise ist das Trackingsystem lernfähig. Werden z.B. neue Konfigurationsdaten generiert, so können für diesen neu generierten Konfigurationsdatensatz und das hiermit konfigurierte Trackingverfahren Einträge im Bewertungsdatensatz stattfinden, aus denen die Güte bei bestimmten Umgebungsverhältnissen in späteren Anwendungen ableitbar ist.In Another advantageous embodiment of the invention, the system Archiving agent for generating and archiving a valuation data record on, the goodness the current tracking method depending on the during the Running time of the current tracking method associated configuration data set and the while describes the runtime existing environmental conditions. At a such embodiment The invention thus creates a kind of knowledge base, which in the selection of the tracking method or a suitable configuration data set considering the existing environmental conditions used can be. In this way, the tracking system is capable of learning. Become e.g. new configuration data can be generated for this newly generated configuration record and the tracking method configured with it entries in the rating record take place, from which the goodness in certain environmental conditions in later Applications is derivable.
Bei einer Existenz eines derartigen Bewertungsdatensatzes ist eine weitere Ausgestaltung der Erfindung vorteilhaft, bei der die Auswahlmittel zur Auswahl des geeigneten Trackingverfahrens auf Basis des Bewertungsdatensatzes vorgesehen sind und/oder die Bestimmungsmittel zur Bestimmung des geeigneten Konfigurationsdatensatzes auf Basis des Bewertungsdatensatzes vorgesehen sind. Auf diese Art und Weise kann der im laufenden Betrieb generierte Bewertungsdatensatz herangezogen werden, um noch schneller das optimale Trackingverfahren und den optimalen Konfigurationsdatensatz unter bestimmten Umgebungsverhältnissen zu bestimmen. Das System profitiert hierbei von seiner Lernfähigkeit und kann ein noch leistungsfähigeres Tracking leisten.at an existence of such a rating data set is another Embodiment of the invention advantageous in which the selection means to select the appropriate tracking method based on the rating data set are provided and / or the determination means for determining the suitable configuration data record based on the evaluation data record are provided. In this way, the generated during operation Evaluation data set are used to even faster the optimal Tracking method and the optimal configuration record under certain environmental conditions to determine. The system benefits from its ability to learn and can be an even more powerful one Make tracking.
Für den verwendeten Sensor kommen verschiedenste Ausführungsformen in Frage, die ihrerseits auch die verschiedenen zur Verfügung stehenden Trackingverfahren bestimmen.For the used Sensor come in various embodiments in question, the in turn, the various available tracking methods determine.
Bei einer vorteilhaften Ausführungsform der Erfindung ist der Sensor als Kamera ausgeführt. Mit der Kamera können die Umgebungsverhältnisse des Anwender bzw. der mobilen Vorrichtung erfasst werden, um die entsprechenden Umgebungsinformationen zu generieren. Darüber hinaus kann die Kamera auch direkt für optische Trackingverfahren verwendet werden, bei denen die Pose anhand von Bildinformationen berechnet wird.at an advantageous embodiment According to the invention, the sensor is designed as a camera. With the camera, the environmental conditions the user or the mobile device are detected to the generate corresponding environment information. Furthermore the camera can synonymous directly for Optical tracking methods are used that pose the pose is calculated on the basis of image information.
Alternativ kann der Sensor auch als magnetischer, interialer oder akustischer Sensor in einer weiteren Ausgestaltungsform der Erfindung ausgeführt sein. Ferner ist auch eine Verwendung einer Kamera in Kombination mit einem akustischen und/oder magnetischen Sensor zum Erfassen der Umgebungsinformationen denkbar und von der Erfindung umfasst.alternative The sensor can also be called magnetic, interial or acoustic Sensor be executed in a further embodiment of the invention. Furthermore, a use of a camera in combination with an acoustic and / or magnetic sensor for detecting the Environmental information conceivable and encompassed by the invention.
Selbstverständlich ist das Trackingsystem auch mit mehreren Sensoren ausführbar. Wird das Trackingsystem beispielsweise sowohl mit einem Inertialsensor als auch mit einer Kamera ausgeführt, so können sowohl optische als auch inertiale Trackingverfahren zur Posenbestimmung eingesetzt werden und so noch besser auf die verschiedenen Umgebungsverhältnisse des Anwenders bzw. der beweglichen Vorrichtung reagiert werden.Of course it is The tracking system can also be executed with several sensors. Becomes the tracking system, for example, both with an inertial sensor as well as with a camera, so can both optical and inertial tracking methods for pose determination be used and so even better on the different environmental conditions the user or the moving device are reacted.
In weiterer vorteilhafter Ausgestaltung der Erfindung ist der Sensor zur Erfassung von zur Posenbestimmung benötigten Trackinginformationen bei der Ausführung des geeigneten Trackingverfahrens vorgesehen. In diesem Fall wird der Sensor, z.B. eine Kamera, zunächst zur Erfassung der Umgebungsinformationen verwendet, um die Auswahl des geeigneten Trackingverfahrens und die Bestimmung des Konfigurationsdatensatzes zu ermöglichen. Bei der Ausführung wird derselbe Sensor schließlich für die kontinuierliche Verfolgung der Pose verwendet, d.h. insbesondere zur kontinuierlichen Erfassung der Position und des Blickwinkels des Anwenders.In Another advantageous embodiment of the invention is the sensor to capture tracking information needed to determine poses the execution the appropriate tracking method provided. In this case will the sensor, e.g. a camera, first to capture the environmental information used to select the appropriate tracking method and to allow the determination of the configuration data set. In the execution becomes the same sensor eventually for the continuous tracking of the pose, i. especially for continuous detection of position and angle of view of the user.
Um virtuelle Informationen unter verschiedenen Umgebungseinflüssen möglichst positionsgenau und zuverlässig in das Blickfeld eines Anwenders einblenden zu können, ist ein Augmented Reality System mit einem Trackingsystem zur Posenbestimmung eines Anwenders oder einer beweglichen Vorrichtung nach einer der zuvor genannten Ausführungsformen der Erfindung vorteilhaft.Around virtual information under different environmental influences as possible accurate and reliable Being able to fade into the field of view of a user is an augmented reality system with a tracking system for determining the pose of a user or a movable device according to one of the aforementioned embodiments advantageous to the invention.
Im Folgenden wird die Erfindung anhand des in der Figur dargestellten Ausführungsbeispiels näher beschrieben und erläutert.in the The invention will be described below with reference to the FIG embodiment described in more detail and explained.
Die Figur zeigt ein Verfahren zur Posenbestimmung eines Anwenders oder einer beweglichen Vorrichtung mit Hilfe eines Trackingsystems gemäß einer Ausführung der Erfindung.The FIG. 1 shows a method for determining the pose of a user or a movable device by means of a tracking system according to a execution the invention.
Das
dargestellte Trackingsystem ist Bestandteil eines Augmented Reality
Systems, bei dem virtuelle Informationen positionsgenau in das Blickfeld
eines Anwenders
Das
System besteht zum einen aus einer Datenverarbeitungseinrichtung
Zum
anderen sollen unter Umgebungsverhältnissen auch die Bedingung
verstanden werden, unter denen der Anwender eben diese Objekte betrachtet.
Hiermit sind beispielsweise die Lichtverhältnisse in der Umgebung des
Anwenders
Die
Umgebungsverhältnisse
werden mit einer am Kopf des Anwenders
Ziel
des dargestellten Trackingsystems ist die Auswahl eines optimalen
Trackingverfahrens und einer hierfür optimalen Konfiguration unter
Berücksichtigung
der Umgebungsverhältnisse
des Anwenders
Nach
der Auswahl des am besten geeigneten Trackingverfahrens bzw. des
zu dessen Ausführung
vorgesehenen Algorithmus
Der
ausgewählte
geeignete Konfigurationsdatensatz
Das
dargestellte System umfasst darüber
hinaus Ausführungsmittel
Um
auch bei veränderlichen
Umgebungsbedingungen stets das optimale Trackingverfahren und den
am besten geeigneten Konfigurationsdatensatz
Darüber hinaus
wird mit Hilfe der Datenverarbeitungseinheit
Auf
Grund dieser mit Hilfe der Archivierungsmittel
In
dem dargestellten Ausführungsbeispiel
sei angenommen, dass die Auswahlmittel
Das System eignet sich nicht nur zur Posenbestimmung eines Anwenders. Es kann darüber hinaus auch mit einer wie auch immer gearteten beweglichen Vorrichtung, z.B. eines beweglichen Roboters, verwendet werden. Beispielsweise kann ein solcher Roboter seine reale Umgebung mit einer Kamera aufnehmen. Die Bildinformationen werden online an eine Remotestation übertragen, an der sie von einem Benutzer zusammen mit den positionsgenau eingeblendeten virtuellen Informationen sichtbar gemacht werden. Ein derartiges System kann beispielsweise dann sinnvoll sein, wenn eine für den Menschen gefährliche Umgebung mit Hilfe des Roboters untersucht werden soll, wobei die Augmentierung weiterer Informationen für den Benutzer gewünscht wird.The System is not only suitable for determining the poses of a user. It can about that in addition to any kind of movable device, e.g. a mobile robot. For example Such a robot can record its real environment with a camera. The image information is transferred online to a remote station, They are displayed by a user together with the exact position virtual information is made visible. Such a thing System can be useful, for example, if one for humans dangerous Environment with the help of the robot should be examined, the Augmenting further information for the user is desired.
Zusammenfassend betrifft die Erfindung ein Trackingsystem und ein Verfahren zur Posenbestimmung eines Anwenders oder einer beweglichen Vorrichtung sowie ein Augmented Reality System aufweisend ein derartiges Trackingsystem. Um ein im Hinblick auf die Umgebungsverhältnisse eines Anwenders adaptives Tracking zu ermöglichen, werden die Umgebungsverhältnisse des Anwenders mit einem hierfür geeigneten Sensor erfasst und in Abhängigkeit dieser automatisch ein geeignetes Trackingverfahren und ein Konfigurationsdatensatz zu dessen Konfiguration bestimmt. In summary The invention relates to a tracking system and a method for Pose determination of a user or a mobile device and an augmented reality system comprising such a tracking system. To be adaptive in view of the environmental conditions of a user To enable tracking become the environmental conditions of the user with one for this suitable sensor detected and depending on this automatically a suitable tracking method and a configuration data set determined for its configuration.
Claims (23)
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102005058240A DE102005058240A1 (en) | 2005-12-06 | 2005-12-06 | Tracking system and method for determining poses |
PCT/EP2006/067240 WO2007065750A1 (en) | 2005-12-06 | 2006-10-10 | Tracking system and method for determining pose |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102005058240A DE102005058240A1 (en) | 2005-12-06 | 2005-12-06 | Tracking system and method for determining poses |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102005058240A1 true DE102005058240A1 (en) | 2007-06-14 |
Family
ID=37730058
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102005058240A Ceased DE102005058240A1 (en) | 2005-12-06 | 2005-12-06 | Tracking system and method for determining poses |
Country Status (2)
Country | Link |
---|---|
DE (1) | DE102005058240A1 (en) |
WO (1) | WO2007065750A1 (en) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102008005761A1 (en) | 2008-01-24 | 2009-07-30 | Volkswagen Ag | Method for work planning by human movement modeling device, involves performing real human movement, where image of real human movement is determined, and image is transferred in motion simulation model |
DE102010012340A1 (en) | 2010-02-27 | 2011-09-01 | Volkswagen Ag | Method for detecting motion of human during manufacturing process for motor vehicle utilized in traffic, involves forming output signal, and forming position of inertial sensors based on inertial sensor output signal of inertial sensors |
US8657809B2 (en) | 2010-09-29 | 2014-02-25 | Stryker Leibinger Gmbh & Co., Kg | Surgical navigation system |
DE102014206623A1 (en) * | 2014-04-07 | 2015-10-08 | Bayerische Motoren Werke Aktiengesellschaft | Localization of a head-mounted display (HMD) in the vehicle |
US9248000B2 (en) | 2008-08-15 | 2016-02-02 | Stryker European Holdings I, Llc | System for and method of visualizing an interior of body |
DE102016006855A1 (en) | 2016-06-04 | 2017-12-07 | Audi Ag | A method of operating a display system and display system |
WO2018022252A1 (en) * | 2016-07-27 | 2018-02-01 | Google Inc. | Low-power mode feature identification at a head mounted display |
US10969579B2 (en) | 2017-08-30 | 2021-04-06 | Volkswagen Aktiengesellschaft | Augmented reality glasses, method for determining a pose of augmented reality glasses, and transportation vehicle suitable for using the augmented reality glasses or the method |
US11270463B2 (en) | 2019-05-29 | 2022-03-08 | Infineon Technologies Ag | Dynamic three-dimensional imaging distance safeguard |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI385559B (en) * | 2008-10-21 | 2013-02-11 | Univ Ishou | Expand the real world system and its user interface method |
TWI475474B (en) * | 2012-07-30 | 2015-03-01 | Mitac Int Corp | Gesture combined with the implementation of the icon control method |
US9674419B2 (en) | 2012-07-31 | 2017-06-06 | Hewlett-Packard Development Company, L.P. | Web-linked camera device with unique association for augmented reality |
TWI471733B (en) * | 2012-10-31 | 2015-02-01 | Univ Nat Chiao Tung | A method for providing information interaction by using mobile computing device and the system thereof |
TWI494844B (en) * | 2013-10-02 | 2015-08-01 | Realtek Semiconductor Corp | Image sharing system and related computer program product |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060166620A1 (en) * | 2002-11-07 | 2006-07-27 | Sorensen Christopher D | Control system including an adaptive motion detector |
-
2005
- 2005-12-06 DE DE102005058240A patent/DE102005058240A1/en not_active Ceased
-
2006
- 2006-10-10 WO PCT/EP2006/067240 patent/WO2007065750A1/en active Application Filing
Non-Patent Citations (4)
Title |
---|
COMPORT, Andrew L.; MARCHAND, Eric; CHAUMETTE, François: "A real-time tracker for markerless augmented reality", 2003, IEEE and ACM Symposium on Mixed and Augmented Reality (ISMAR'03) * |
JIANG, Bolan; NEUMANN, Ulrich; YOU, Suya: "A Robust Hybrid Tracking System for Outdoor Augmen- ted Reality", 2004, IEEE Virtual Reality (VR'04), S. 3-10 und 275 |
JIANG, Bolan; NEUMANN, Ulrich; YOU, Suya: "A Robust Hybrid Tracking System for Outdoor Augmented Reality", 2004, IEEE Virtual Reality (VR'04), S. 3-10 und 275 * |
WAGNER, Martin; LOEW, Felix: >>Configuration Strategies of an AR Toolkit-based Wide Area Tracker<<, 2003, IEEE AR Toolkit Workshop, S. 62-68, DOI: 10.1109/ART.2003.1320429 * |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102008005761A1 (en) | 2008-01-24 | 2009-07-30 | Volkswagen Ag | Method for work planning by human movement modeling device, involves performing real human movement, where image of real human movement is determined, and image is transferred in motion simulation model |
US9248000B2 (en) | 2008-08-15 | 2016-02-02 | Stryker European Holdings I, Llc | System for and method of visualizing an interior of body |
DE102010012340A1 (en) | 2010-02-27 | 2011-09-01 | Volkswagen Ag | Method for detecting motion of human during manufacturing process for motor vehicle utilized in traffic, involves forming output signal, and forming position of inertial sensors based on inertial sensor output signal of inertial sensors |
DE102010012340B4 (en) | 2010-02-27 | 2023-10-19 | Volkswagen Ag | Method for detecting the movement of a human in a manufacturing process, in particular in a manufacturing process for a motor vehicle |
US8657809B2 (en) | 2010-09-29 | 2014-02-25 | Stryker Leibinger Gmbh & Co., Kg | Surgical navigation system |
US10165981B2 (en) | 2010-09-29 | 2019-01-01 | Stryker European Holdings I, Llc | Surgical navigation method |
DE102014206623A1 (en) * | 2014-04-07 | 2015-10-08 | Bayerische Motoren Werke Aktiengesellschaft | Localization of a head-mounted display (HMD) in the vehicle |
DE102016006855A1 (en) | 2016-06-04 | 2017-12-07 | Audi Ag | A method of operating a display system and display system |
WO2018022252A1 (en) * | 2016-07-27 | 2018-02-01 | Google Inc. | Low-power mode feature identification at a head mounted display |
US10529135B2 (en) | 2016-07-27 | 2020-01-07 | Google Llc | Low-power mode feature identification at a head mounted display |
US10969579B2 (en) | 2017-08-30 | 2021-04-06 | Volkswagen Aktiengesellschaft | Augmented reality glasses, method for determining a pose of augmented reality glasses, and transportation vehicle suitable for using the augmented reality glasses or the method |
US11270463B2 (en) | 2019-05-29 | 2022-03-08 | Infineon Technologies Ag | Dynamic three-dimensional imaging distance safeguard |
Also Published As
Publication number | Publication date |
---|---|
WO2007065750A1 (en) | 2007-06-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE102005058240A1 (en) | Tracking system and method for determining poses | |
DE102018206208A1 (en) | Method, device, product and computer program for operating a technical system | |
EP2034461B1 (en) | Method for detecting and/or tracking moved objects in a monitoring zone with stoppers, device and computer program | |
EP1836681B1 (en) | Method for determining the displacement of a vehicle | |
DE102005034597A1 (en) | Method and device for generating a depth map | |
DE102011113154B4 (en) | Machine learning method for machine learning of manifestations of objects in images | |
DE102019116834B4 (en) | Augmented photo capture | |
DE112017007923T5 (en) | Display control device, display control method and display system | |
DE102014010638A1 (en) | Method and device for controlling a robot | |
DE102014007565A1 (en) | Method for determining a respective boundary of at least one object, sensor device, driver assistance device and motor vehicle | |
DE102013013698A1 (en) | Method for operating electronic data glasses and electronic data glasses | |
DE102022201279B3 (en) | Method for capturing an environment of a vehicle, camera device and vehicle | |
DE102018212944A1 (en) | Procedure to support collaboration between humans and robots using data glasses | |
EP3576013A1 (en) | Estimation of a path of a rail path | |
DE19612465C2 (en) | Automatic optimization of object detection systems | |
DE102020208080A1 (en) | Detection of objects in images under equivariance or invariance with respect to the object size | |
DE102007041482A1 (en) | Method for automatic recognition of at least the type and / or the position of a gesture formed with a limb, in particular a hand gesture | |
WO2017198331A1 (en) | Method and system for aligning a virtual model with a real object | |
DE102020006160A1 (en) | Method for detecting the position of an object by means of a position detection system, method for processing an object and position detection system | |
DE102020109789A1 (en) | Method for performing self-localization of a vehicle on the basis of a reduced digital map of the surroundings, computer program product and a self-localization system | |
DE4339161C2 (en) | Method for tracking movements of a human hand in a chronological sequence of digital color images | |
DE102005041633B4 (en) | Method and device for determining the position and similarity of object points in images | |
DE102005002636A1 (en) | Video data processing method for camera system, involves applying coordinate transformation to camera image for obtaining transformed camera image, where transformation transfers camera coordinate system to destination coordinate system | |
DE102019106297A1 (en) | Vehicle environment display system and display controller | |
DE10140393A1 (en) | Method for providing position-sensitive information about an object |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
OP8 | Request for examination as to paragraph 44 patent law | ||
R002 | Refusal decision in examination/registration proceedings | ||
R003 | Refusal decision now final |
Effective date: 20130423 |