DE102012014995A1 - Verfahren zum Betrieb eines Augmented-Reality-Systems - Google Patents

Verfahren zum Betrieb eines Augmented-Reality-Systems Download PDF

Info

Publication number
DE102012014995A1
DE102012014995A1 DE201210014995 DE102012014995A DE102012014995A1 DE 102012014995 A1 DE102012014995 A1 DE 102012014995A1 DE 201210014995 DE201210014995 DE 201210014995 DE 102012014995 A DE102012014995 A DE 102012014995A DE 102012014995 A1 DE102012014995 A1 DE 102012014995A1
Authority
DE
Germany
Prior art keywords
image
component
motor vehicle
real
feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE201210014995
Other languages
English (en)
Inventor
Johannes Tümler
Wilm Tomaszek-Staude
Werner Schreiber
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Volkswagen AG
Original Assignee
Volkswagen AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Volkswagen AG filed Critical Volkswagen AG
Priority to DE201210014995 priority Critical patent/DE102012014995A1/de
Publication of DE102012014995A1 publication Critical patent/DE102012014995A1/de
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Human Computer Interaction (AREA)
  • Evolutionary Computation (AREA)
  • Geometry (AREA)
  • Processing Or Creating Images (AREA)

Abstract

Die Erfindung betrifft ein Verfahren zum Erzeugen eines Augmented-Reality-Bildes (ARB), wobei ein reales Bild (RB) einer realen Umgebung mittels einer realen Kamera aufgenommen wird, wobei die Position eines virtuellen Bildbestandteils (VIRT) zu dem mittels der realen Kamera aufgenommenen realen Bild (RB) mittels eines Merkmalsbildes (MB) bestimmt wird, und wobei der virtuelle Bildbestandteil (VIRT) mit zumindest einem Teil des realen Bildes (RB) zu einem Augmented-Reality-Bild (ARB) kombiniert wird, mittels CAD-Daten ein künstliches Bild zumindest eines Gegenstandes aus der aufzunehmenden Umgebung erzeugt wird, das vorteilhafterweise Materialeigenschaften von Oberflächen des Gegenstandes abbildet, wobei in Abhängigkeit des künstlichen Bildes das Merkmalsbild (MB) erzeugt wird.

Description

  • Die Erfindung betrifft ein Verfahren zum Erzeugen eines Augmented-Reality-Bildes, ein Verfahren zum Erzeugen eines Augmented-Reality-Bildes bzw. zur Darstellung eines virtuellen Bildbestandteils auf einem transparenten Display.
  • Gemäß der WO 01/96829 A1 ist der Begriff Augmented-Reality als Überlagerung einer realen Umgebung mit einer rechnergenerierten Umgebung, d. h. einer virtuellen Welt, definiert. Augmented-Reality ist somit eine Art der Mensch-Technik-Interaktion, die dem Anwender Informationen in sein Sichtfeld einblendet und so seine Wahrnehmung erweitert.
  • Die DE 10 2006 005 044 B4 offenbart ein Verfahren zur Bestimmung eines Datenmodells einer virtuellen Information, das bestimmt ist, in einem Verfahren zur Objektverfolgung mit einem Abbild eines realen Objekts überlagert zu werden, wobei ein dreidimensionales CAD-Modell zur Nachbildung des realen Objekts vorgesehen ist. Dabei werden unterschiedliche synthetische zweidimensionale Ansichten des CAD-Modells generiert und jede generierte Ansicht einer Kantenextraktion zur Bestimmung wenigstens einer extrahierten Kante unterzogen.
  • Die DE 10 2006 004 731 A1 offenbart ein Verfahren zur Bestimmung der Position oder Orientierung einer Kamera bezüglich eines realen Objekts, wobei durch die Kamera ein Real-Bildobjekt des realen Objektes erfasst wird, wobei Referenzbildobjekte eines virtuellen Objektes, das dem realen Objekt entspricht, abgespeichert sind, und wobei auf der Basis von einem Referenzbildobjekt und dem Real-Bildobjekt die Position oder Orientierung der Kamera bezüglich des realen Objekts bestimmt wird.
  • Die DE 10 2005 039 703 A1 offenbart ein Verfahren zum Aufbau einer Merkmalsdatenbank für eine bildverarbeitungsgeschützte Erkennung eines markerlosen Objektes, in welchem zur Bestimmung von Merkmalen des Objektes ein dreidimensionales Modell des Objekts zur Verfügung steht. Dabei wird zur Bestimmung der Merkmale zumindest ein auf einen bestimmten Blickwinkel bezogenes zweidimensionales Projektionsbild des opaken texturfreien dreidimensionalen geometrischen Modells erzeugt.
  • Die WO 01/96829 A1 offenbart ein Verfahren zur Automobilproduktion, wobei ein Prüfer bei der Durchführung einer Prüfung im Hinblick auf Qualitätsmängel eines Kraftfahrzeugs oder einer Kraftfahrzeug-Komponente durch ein Augmented-Reality-System (Augmented-Reality = AR) unterstützt wird, welches prüfungsrelevante Daten aufnimmt und/oder an den Prüfer ausgibt, wobei die Prüfung im Rahmen der Fertigung des Kraftfahrzeugs oder der Kraftfahrzeug-Komponente zum Feststellen von Qualitätsmängeln bei dem Kraftfahrzeug oder der Kraftfahrzeug-Komponente in zumindest einem vorbestimmten Fertigungszustand erfolgt, wobei einem Werker bei der Durchführung einzelner, der Prüfung vorgelagerter Fertigungsschritte zur Fertigung weiterer Kraftfahrzeuge oder Kraftfahrzeug-Komponenten über das Augmented-Reality-System ein auf zumindest einem der festgestellten Qualitätsmängel basierender Vorsichtshinweis zugeführt wird, und wobei einem Nachbearbeiter bei der Durchführung einer der Prüfung nachgeschalteten Nachbearbeitung eines mangelbehafteten Kraftfahrzeugs oder einer mangelbehafteten Kraftfahrzeug-Komponente eine auf den jeweils festgestellten Qualitätsmängeln basierende Fehlerinformation über das Augmented-Reality-System zugeführt wird.
  • Weitere Augmented-Reality-Anwendungen offenbaren z. B. die EP 0 949 513 A2 , die DE 10 2005 045 973 A1 und die EP 1 507 235 A1 .
  • Es ist Aufgabe der Erfindung, ein Augmented-Reality-System zu verbessern bzw. verbessert zu betreiben.
  • Vorgenannte Aufgabe wird durch ein Verfahren zum Erzeugen eines Augmented-Reality-Bildes gelöst, wobei ein reales Bild einer realen Umgebung mittels einer realen Kamera aufgenommen wird, wobei die Position eines virtuellen Bildbestandteils zu dem mittels der realen Kamera aufgenommenen realen Bild mittels eines Merkmalsbildes bestimmt wird, und wobei der virtuelle Bildbestandteil mit zumindest einem Teil des realen Bildes zu einem Augmented-Reality-Bild kombiniert wird, wobei mittels CAD-Daten ein künstliches (bzw. synthetisches) Bild zumindest eines Gegenstandes aus der aufzunehmenden Umgebung erzeugt wird, das vorteilhafterweise Materialeigenschaften von Oberflächen des Gegenstandes abbildet bzw. darstellt bzw. umfasst, und wobei in Abhängigkeit des künstlichen Bildes das Merkmalsbild erzeugt bzw. generiert wird. Dabei ist insbesondere vorgesehen, dass das Merkmalsbild in Abhängigkeit einer Vielzahl künstlicher (bzw. synthetischer) Bilder des Gegenstands erzeugt bzw. generiert wird.
  • Beispiele für Merkmalsbilder im Sinne der Erfindung zeigen zum Beispiel 3 sowie der Artikel Georg Klein, David Murrayt: "Parallel Tracking and Mapping for Small AR Workspaces", ISMAR 2007. Ein Merkmalsbild im Sinne der Erfindung umfasst insbesondere eines oder mehrere Merkmale. Ein Merkmal im Sinne der Erfindung ist insbesondere eine Kante, ein Übergang von Flächen mit unterschiedlicher Oberflächenbeschaffenheit, eine Ecke und/oder der Abstand zweier (insbesondere charakteristischer) Punkte im künstlichen Bild.
  • Es ist insbesondere vorgesehen, dass bei der Erzeugung bzw. Generierung des künstlichen Bildes von einer virtuellen Kamera ausgegangen wird, und dass deren Eigenschaften vorteilhafterweise bei der Erzeugung bzw. Generierung des Merkmalsbildes berücksichtigt werden, bzw. dass die Erzeugung bzw. Generierung des Merkmalsbildes in Abhängigkeit dieser Eigenschaften erfolgt. Eigenschaften einer virtuellen Kamera im Sinne der Erfindung sind insbesondere Auflösung, Brennweite, Bildhauptpunkt und/oder Verzeichnung.
  • CAD-Daten im Sinne der Erfindung sind insbesondere ein, insbesondere dreidimensionales, CAD-Modell des Gegenstandes aus der aufzunehmenden Umgebung.
  • Materialeigenschaften von Oberflächen des Gegenstandes im Sinne der Erfindung sind insbesondere Textur, Farbe, Reflexionsvermögen, Reflexionseigenschaften, Rauigkeit, Rauigkeit in RMS und/oder von diesen Größen abgeleitete oder zu diesen Größen analoge Größen.
  • Ein Merkmalsbild im Sinne der Erfindung ist insbesondere eine Merkmalskarte.
  • Vorgenannte Aufgabe wird zudem durch ein Verfahren zur Darstellung eines virtuellen Bildbestandteils auf einem transparenten Display, wobei mittels einer realen Kamera ein reales Bild aufgenommen wird, das eine Umgebung des Displays abbildet, die ein Betrachter bei Durchsicht durch das Display sieht, wobei das die Position eines virtuellen Bildbestandteils zu dem mittels der realen Kamera aufgenommenen realen Bild mittels eines Merkmalsbildes bestimmt wird, und wobei der virtuelle Bildbestandteil mittels des transparenten Displays dargestellt wird, wobei mittels CAD-Daten ein künstliches (bzw. synthetisches) Bild zumindest eines Gegenstandes aus der aufzunehmenden Umgebung erzeugt wird, das vorteilhafterweise Materialeigenschaften von Oberflächen des Gegenstandes abbildet bzw. darstellt bzw. umfasst, und wobei in Abhängigkeit des künstlichen Bildes das Merkmalsbild erzeugt bzw. generiert wird. Dabei ist insbesondere vorgesehen, dass das Merkmalsbild in Abhängigkeit einer Vielzahl künstlicher (bzw. synthetischer) Bilder des Gegenstands erzeugt bzw. generiert wird.
  • In vorteilhafter Ausgestaltung der Erfindung(en) erfolgt die Erzeugung des Merkmalsbildes in Abhängigkeit des künstlichen Bildes so, als ob das künstliche Bild ein reales Bild wäre. Es werden somit insbesondere Algorithmen verwendet, die zur Erzeugung eines Merkmalsbildes in Abhängigkeit eines realen Bildes eingesetzt werden. Verwendbare Algorithmen sind zum Beispiel, SLAM und PTAM (vgl. z. B. den Artikel Georg Klein, David Murrayt: "Parallel Tracking and Mapping for Small AR Workspaces", ISMAR 2007).
  • In weiterhin vorteilhafter Ausgestaltung der Erfindung(en) erfolgt die Erzeugung des künstlichen Bildes des zumindest einen Gegenstandes aus der aufzunehmenden Umgebung mittels CAD-Daten vorab, insbesondere in einem Initialisierungs- bzw. Vorbereitungsschritt. In weiterhin vorteilhafter Ausgestaltung der Erfindung(en) erfolgt die Erzeugung des Merkmalsbildes vorab, insbesondere in dem Initialisierungs- bzw. Vorbereitungsschritt. Dabei ist insbesondere vorgesehen, dass ein erzeugtes Merkmalsbild für mehrere unterschiedliche virtuelle Bilder/Bildbestandteile, insbesondere für nacheinander verwendete virtuelle Bilder/Bildbestandteile, verwendet wird.
  • In weiterhin vorteilhafter Ausgestaltung der Erfindung(en) erfolgt die Positionierung des virtuellen Bildbestandteils durch markerloses Tracking. Beim markerlosen Tracking ist insbesondere vorgesehen, dass die Positionierung des virtuellen Bildbestandteils nicht in Abhängigkeit der Position eines Markers erfolgt, sondern in Abhängigkeit eines Merkmals, wie etwa einer Kante, im realen Bild.
  • In weiterhin vorteilhafter Ausgestaltung der Erfindung(en) wird in Abhängigkeit des realen Bildes zumindest ein weiteres Merkmal (des Gegenstandes) erzeugt. Verwendbare Algorithmen sind zum Beispiel SLAM und PTAM (vgl. z. B. den Artikel Georg Klein, David Murrayt: "Parallel Tracking and Mapping for Small AR Workspaces", ISMAR 2007). In weiterhin vorteilhafter Ausgestaltung der Erfindung(en) wird das zumindest weitere Merkmal den CAD-Daten hinzugefügt.
  • In weiterhin vorteilhafter Ausgestaltung der Erfindung wird das zumindest weitere Merkmal dem Merkmalsbild hinzugefügt. In weiterhin vorteilhafter Ausgestaltung der Erfindung ist vorgesehen, dass ein Merkmal des Merkmalsbildes aus dem Merkmalsbild entfernt wird, wenn kein korrespondierendes Merkmal in dem realen Bild identifiziert oder erzeugt werden kann.
  • Vorgenannte Aufgabe wird – insbesondere in Verbindung mit vorgenannten Merkmalen – zudem durch ein Verfahren zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente, gelöst, wobei ein zu montierendes Bauteil mittels des virtuellen Bildbestandteils gemäß dem vorgehend beschriebenen Verfahren markiert oder gekennzeichnet wird, und wobei das zu montierende Bauteil in der technischen Komponente, in dem Kraftfahrzeug oder in der Kraftfahrzeugkomponente montiert wird.
  • Vorgenannte Aufgabe wird – insbesondere in Verbindung mit vorgenannten Merkmalen – zudem durch ein Verfahren zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente, gelöst, wobei der Montageort eines zu montierenden Bauteils mittels des virtuellen Bildbestandteils gemäß dem vorgehend beschriebenen Verfahren markiert oder gekennzeichnet wird, und wobei das zu montierende Bauteil in der technischen Komponente, in dem Kraftfahrzeug oder in der Kraftfahrzeugkomponente am Montageort montiert wird.
  • Vorgenannte Aufgabe wird – insbesondere in Verbindung mit vorgenannten Merkmalen – zudem durch ein Verfahren zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente, gelöst, wobei ein Montageablauf zum Montieren eines zu montierenden Bauteils mittels des virtuellen Bildbestandteils gemäß dem vorgehend beschriebenen Verfahren ermittelt oder verifiziert wird, und wobei das zu montierende Bauteil in der technischen Komponente, in dem Kraftfahrzeug oder in der Kraftfahrzeugkomponente entsprechend dem Montageablauf montiert wird.
  • Ein virtueller Bildbestandteil im Sinne der Erfindung(en) kann alphanumerische Zeichen umfassen oder aus solchen bestehen. Ein virtueller Bildbestandteil im Sinne der Erfindungen) kann alphanumerische Zeichen sowie einen farblichen Hintergrund für diese Zeichen umfassen. Ein virtueller Bildbestandteil im Sinne der Erfindung(en) kann auf alphanumerische Zeichen in Verbindung mit einem farblichen Hintergrund für diese Zeichen bestehen.
  • Kraftfahrzeug im Sinne der Erfindung ist insbesondere ein individuell im Straßenverkehr benutzbares Landfahrzeug. Kraftfahrzeuge im Sinne der Erfindung sind insbesondere nicht auf Landfahrzeuge mit Verbrennungsmotor beschränkt.
  • Weitere Vorteile und Einzelheiten ergeben sich aus der nachfolgenden Beschreibung von Ausführungsbeispielen. Dabei zeigen:
  • 1 ein Ausführungsbeispiel eines Systems zur Darstellung eines Augmented-Reality-Bildes,
  • 2 ein Ausführungsbeispiel eines künstlichen Bildes zumindest eines Fahrzeuginnenraumes, das vorteilhafterweise Materialeigenschaften von Oberflächen des Fahrzeuginnenraumes abbildet,
  • 3 ein Ausführungsbeispiel eines aus künstlichen Bildern gemäß 2 erzeugten Merkmalsbildes,
  • 4 ein Ausführungsbeispiel für ein virtuelles Bild, das mittels eines als transparentes Display ausgestalteten Displays dargestellt wird,
  • 5 ein Ausführungsbeispiel eines Verfahrens zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente,
  • 6 ein weiteres Ausführungsbeispiel eines Verfahrens zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente,
  • 7 ein weiteres Ausführungsbeispiel eines Verfahrens zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente und
  • 8 ein Ausführungsbeispiel für eine weitere Anwendung des Systems zur Darstellung eines Augmented-Reality-Bildes gemäß 1.
  • 1 zeigt ein System zur Darstellung eines Augmented-Reality-Bildes ARB. Das System umfasst ein von einem Benutzer 1 getragenes Headset 10 mit einem Display 11 zur Darstellung des Augmented-Reality-Bildes ARB. In das Headset 10 ist eine dem Display 11 zugeordnete Kamera zur Aufnahme eines realen Bildes, der von dem Benutzer 1 gesehenen Umgebung bzw. eines Teils dieser Umgebung, montiert. Das von der Kamera ausgegebene reale Bild RB ist Eingangssignal in ein markerloses Trackingsystem 12, das die Ausrichtung (Position/Positionssignal) POS des realen Bildes RB in Abhängigkeit eines (gespeicherten) Merkmalsbildes MB bestimmt. Die Ausrichtung (Position/Positionssignal) POS des realen Bildes RB sowie optional (siehe unten) das reale Bild RB sind Ausgangssignal des Trackingsystems 12 und Eingangssignal in einen Szenengenerator 13.
  • Das System zur Darstellung eines Augmented-Reality-Bildes ARB umfasst zudem eine Datenbasis 14 mit virtuellen Bildbestandteilen oder eine sonstige Quelle virtueller Bildbestandteile. Aus dieser Datenbasis 14 bzw. der sonstigen Quelle wird dem Szenengenerator 13 ein virtueller Bildbestandteil VIRT zugeführt. Der Szenengenerator 13 kombiniert diesen mit dem realen Bild RB zu einem Augmented-Reality-Bild ARB, das mittels des Displays 11 dargestellt wird. Es kann vorgesehen sein, dass das Display 11 als transparentes Display ausgestaltet ist. In diesem Falle ist das Augmented-Reality-Bild ARB keine Überlagerung des realen Bildes RB mit virtuellen Bildbestandteil VIRT, sondern der virtuelle Bildbestandteil VIRT, der an einer bestimmten Stelle positioniert wird, so dass er an dieser Stelle mittels des transparenten Displays anzeigbar ist. Die Überlagerung zwischen Realität und virtuellem Bildbestandteil erfolgt dabei im Auge des Benutzers 1. 4 zeigt ein Ausführungsbeispiel für ein virtuelles Bild VIRT, das mittels des als transparentes Display ausgestalteten Displays 11 dargestellt wird. Dabei ist in dem Ausführungsbeispiel das reale Objekt, dem das virtuelle Bild VIRT zugeordnet ist, ein Kraftfahrzeug 25.
  • Das System zur Darstellung eines Augmented-Reality-Bildes ARB umfasst zudem ein Modul 120 zur Erzeugung des Merkmalsbildes MB. Dazu werden aus aus einer CAD-Datenbasis 121 entnommenen CAD-Daten des Gegenstandes, von dem das reale Bild RB aufgenommen wird oder werden wird, mittels eines Bildgenerators 122 künstliche Bilder RBCAD (die Materialeigenschaften von Oberflächen des Gegenstandes abbilden) dieses Gegenstandes generiert, wie eines z. B. in 2 dargestellt ist. Aus diesen künstlichen Bildern RBCAD erzeugt ein Merkmalsgenerator 123 das Merkmalsbild MB, wie es z. B. in 3 dargestellt ist. Der Merkmalsgenerator 123 ist ein üblicher Merkmalsgenerator, wie er üblicherweise zur Erzeugung von Merkmalsbildern aus realen Bildern verwendet wird.
  • In einer optionalen Ausgestaltung kann vorgesehen sein, dass mittels eines weiteren Merkmalsgenerators 123' aus dem realen Bild RB Merkmale M' erkannt werden und der CAD-Datenbasis 121 zugeführt bzw. in diese aufgenommen werden. Der Merkmalsgenerator 123' kann Teil des Trackingsystems 12 sein. Es ist insbesondere vorgesehen, dass das Trackingsystem 12 einen Merkmalsgenerator zur Erzeugung von Merkmalen aus dem realen Bild RB umfasst. In einer weiteren optionalen Ausgestaltung kann vorgesehen sein, dass Merkmale des Merkmalsbildes MB, die der Merkmalsgenerator des Trackingsystems 12 im realen Bild RB nicht findet bzw. nicht identifizieren kann, entfernt werden. In einer weiteren optionalen Ausgestaltung kann vorgesehen sein, dass zusätzliche Merkmale, die der Merkmalsgenerator des Trackingsystems 12 im realen Bild RB findet bzw. identifizieren kann, dem Merkmalsbild MB hinzugefügt werden.
  • 5 zeigt ein Ausführungsbeispiel eines Verfahrens zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente, wobei in einem Schritt 41 ein zu montierendes Bauteil mittels des virtuellen Bildbestandteils gemäß dem vorgehend beschriebenen Verfahren markiert oder gekennzeichnet wird, und wobei in einem Schritt 42 das zu montierende Bauteil in der technischen Komponente, in dem Kraftfahrzeug oder in der Kraftfahrzeugkomponente montiert wird.
  • 6 zeigt ein Ausführungsbeispiel eines Verfahrens zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente, wobei in einem Schritt 51 der Montageort eines zu montierenden Bauteils mittels des virtuellen Bildbestandteils gemäß dem vorgehend beschriebenen Verfahren markiert oder gekennzeichnet wird, und wobei in einem Schritt 52 das zu montierende Bauteil in der technischen Komponente, in dem Kraftfahrzeug oder in der Kraftfahrzeugkomponente am Montageort montiert wird.
  • 7 zeigt ein Ausführungsbeispiel eines Verfahrens zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente, wobei in einem Schritt 61 ein Montageablauf zum Montieren eines zu montierenden Bauteils mittels des virtuellen Bildbestandteils gemäß dem vorgehend beschriebenen Verfahren ermittelt oder verifiziert wird, und wobei in einem Schritt 62 das zu montierende Bauteil in der technischen Komponente, in dem Kraftfahrzeug oder in der Kraftfahrzeugkomponente entsprechend dem Montageablauf montiert wird.
  • 8 zeigt ein Ausführungsbeispiel für eine weitere Anwendung des Systems zur Darstellung eines Augmented-Reality-Bildes gemäß 1. Dabei wird mittels eines virtuellen Bestandteils VIRT einem Prototypen eines Innenraums eines Kraftfahrzeugs der aktuelle Stand der Produktentwicklung für den Benutzer in einem als transparentes Display ausgestalteten Display 11 angezeigt.
  • Mittels der Erfindung kann ein langwieriges manuelles Kalibrieren der realen Kamera eingespart werden. Zudem kann aufgrund der Erfindung auf ein langwieriges manuelles Einstellen von realen Fotos bzw. Videos verzichtet werden. Darüber hinaus bietet die Erfindung ein besonders robustes Tracking mit schneller Positionserfassung.
  • ZITATE ENTHALTEN IN DER BESCHREIBUNG
  • Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
  • Zitierte Patentliteratur
    • WO 01/96829 A1 [0002, 0006]
    • DE 102006005044 B4 [0003]
    • DE 102006004731 A1 [0004]
    • DE 102005039703 A1 [0005]
    • EP 0949513 A2 [0007]
    • DE 102005045973 A1 [0007]
    • EP 1507235 A1 [0007]
  • Zitierte Nicht-Patentliteratur
    • Georg Klein, David Murrayt: ”Parallel Tracking and Mapping for Small AR Workspaces”, ISMAR 2007 [0010]
    • Georg Klein, David Murrayt: ”Parallel Tracking and Mapping for Small AR Workspaces”, ISMAR 2007 [0016]
    • Georg Klein, David Murrayt: ”Parallel Tracking and Mapping for Small AR Workspaces”, ISMAR 2007 [0019]

Claims (10)

  1. Verfahren zum Erzeugen eines Augmented-Reality-Bildes (ARB), wobei ein reales Bild (RB) einer realen Umgebung mittels einer realen Kamera aufgenommen wird, wobei die Position eines virtuellen Bildbestandteils (VIRT) zu dem mittels der realen Kamera aufgenommenen realen Bild (RB) mittels eines Merkmalsbildes (MB) bestimmt wird, und wobei der virtuelle Bildbestandteil (VIRT) mit zumindest einem Teil des realen Bildes (RB) zu einem Augmented-Reality-Bild (ARB) kombiniert wird, dadurch gekennzeichnet, dass mittels CAD-Daten ein künstliches Bild zumindest eines Gegenstandes aus der aufzunehmenden Umgebung erzeugt wird, das vorteilhafterweise Materialeigenschaften von Oberflächen des Gegenstandes abbildet, wobei in Abhängigkeit des künstlichen Bildes das Merkmalsbild (MB) erzeugt wird.
  2. Verfahren zur Darstellung eines virtuellen Bildbestandteils (ARB, VIRT) auf einem transparenten Display (11), wobei mittels einer realen Kamera ein reales Bild (RB) aufgenommen wird, das eine Umgebung des Displays (11) abbildet, die ein Betrachter bei Durchsicht durch das Display (11) sieht, wobei das die Position eines virtuellen Bildbestandteils (VIRT) zu dem mittels der realen Kamera aufgenommenen realen Bild (RB) mittels eines Merkmalsbildes (MB) bestimmt wird, und wobei der virtuelle Bildbestandteil (VIRT) mittels des transparenten Displays (11) dargestellt wird, dadurch gekennzeichnet, dass mittels CAD-Daten ein künstliches Bild zumindest eines Gegenstandes aus der aufzunehmenden Umgebung erzeugt wird, das vorteilhafterweise Materialeigenschaften von Oberflächen des Gegenstandes abbildet, wobei in Abhängigkeit des künstlichen Bildes das Merkmalsbild (MB) erzeugt wird.
  3. Verfahren nach Anspruch 1 oder 2, dadurch gekennzeichnet, dass die Erzeugung des künstliches Bildes des zumindest einen Gegenstandes aus der aufzunehmenden Umgebung mittels CAD-Daten vorab, insbesondere in einem Initialisierungs- bzw. Vorbereitungsschritt, erfolgt.
  4. Verfahren nach Anspruch 1, 2 oder 3, dadurch gekennzeichnet, dass die Erzeugung des Merkmalsbildes (MB) vorab, insbesondere in dem Initialisierungs- bzw. Vorbereitungsschritt, erfolgt.
  5. Verfahren nach einem der Ansprüche 1 bis 4, dadurch gekennzeichnet, dass die Positionierung des virtuellen Bildbestandteils (VIRT) durch markerloses Tracking erfolgt.
  6. Verfahren nach einem der Ansprüche 1 bis 5, dadurch gekennzeichnet, dass in Abhängigkeit des realen Bildes zumindest ein weiteres Merkmal erzeugt wird.
  7. Verfahren nach einem der Ansprüche 6, dadurch gekennzeichnet, dass das zumindest weitere Merkmal den CAD-Daten hinzugefügt wird.
  8. Verfahren zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente, dadurch gekennzeichnet, dass ein zu montierendes Bauteil mittels des virtuellen Bildbestandteils (VIRT) gemäß einem Verfahren nach einem der vorhergehenden Ansprüche markiert oder gekennzeichnet wird, und dass das zu montierende Bauteil in der technischen Komponente, in dem Kraftfahrzeug oder in der Kraftfahrzeugkomponente montiert wird.
  9. Verfahren zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente, insbesondere Verfahren nach Anspruch 12, dadurch gekennzeichnet, dass der Montageort eines zu montierenden Bauteils mittels des virtuellen Bildbestandteils (VIRT) gemäß einem Verfahren nach einem der Ansprüche 1 bis 7 markiert oder gekennzeichnet wird, und dass das zu montierende Bauteil in der technischen Komponente, in dem Kraftfahrzeug oder in der Kraftfahrzeugkomponente am Montageort montiert wird.
  10. Verfahren zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente, insbesondere Verfahren nach Anspruch 8 oder 9, dadurch gekennzeichnet, dass ein Montageablauf zum Montieren eines zu montierenden Bauteils mittels des virtuellen Bildbestandteils (VIRT) gemäß einem Verfahren nach einem der Ansprüche 1 bis 7 ermittelt oder verifiziert wird, und dass das zu montierende Bauteil in der technischen Komponente, in dem Kraftfahrzeug oder in der Kraftfahrzeugkomponente entsprechend dem Montageablauf montiert wird.
DE201210014995 2012-07-28 2012-07-28 Verfahren zum Betrieb eines Augmented-Reality-Systems Pending DE102012014995A1 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE201210014995 DE102012014995A1 (de) 2012-07-28 2012-07-28 Verfahren zum Betrieb eines Augmented-Reality-Systems

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE201210014995 DE102012014995A1 (de) 2012-07-28 2012-07-28 Verfahren zum Betrieb eines Augmented-Reality-Systems

Publications (1)

Publication Number Publication Date
DE102012014995A1 true DE102012014995A1 (de) 2014-01-30

Family

ID=49912055

Family Applications (1)

Application Number Title Priority Date Filing Date
DE201210014995 Pending DE102012014995A1 (de) 2012-07-28 2012-07-28 Verfahren zum Betrieb eines Augmented-Reality-Systems

Country Status (1)

Country Link
DE (1) DE102012014995A1 (de)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102014217718A1 (de) 2014-09-04 2016-03-10 Volkswagen Aktiengesellschaft Verfahren zum Betrieb eines Augmented-Reality-Systems
WO2016165799A1 (de) * 2015-04-11 2016-10-20 Audi Ag Verfahren zum betreiben einer virtual-reality-brille und system mit einer virtual-reality-brille
WO2016188627A1 (de) * 2015-05-22 2016-12-01 Giesecke & Devrient Gmbh System und verfahren zur bearbeitung von wertdokumenten
DE102015215613A1 (de) 2015-08-17 2017-03-09 Volkswagen Aktiengesellschaft Verfahren zum Betrieb eines Augmented-Reality-Systems
DE102015221181A1 (de) 2015-10-29 2017-05-04 Volkswagen Aktiengesellschaft Datenbrille
DE102017201502A1 (de) 2017-01-31 2018-08-02 Volkswagen Aktiengesellschaft Datenbrille
WO2018223038A1 (en) * 2017-06-01 2018-12-06 Tesla, Inc. Augmented reality application for manufacturing
EP3578321A1 (de) * 2018-06-05 2019-12-11 Gestalt Robotics GmbH Verfahren zum verwenden mit einer maschine zum erstellen einer erweiterte-realität-anzeigeumgebung
DE102018004618A1 (de) * 2018-06-09 2019-12-12 Linde Aktiengesellschaft Verfahren zur Fertigung im Apparate- und Anlagenbau
DE102019209101B4 (de) 2019-06-24 2024-04-18 Geze Gmbh Verfahren und system zur erleichterung der montage und/oder einstellung eines antriebs zur betätigung eines be-weglichen tür- oder fensterflügels

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0949513A2 (de) 1998-04-08 1999-10-13 Trisen Systems Inc. Technik zur virtuellen Realität
WO2001096829A1 (de) 2000-06-13 2001-12-20 Volkswagen Aktiengesellschaft Verfahren zur prüfung eines produktes im hinblick auf qualitätsmängel und system zur durchführung des verfahrens
EP1507235A1 (de) 2003-08-15 2005-02-16 Werner G. Lonsing Verfahren und Vorrichtung zur Erzeugung von zusammengesetzten Bildern, die virtuelle Objekte enthalten
DE102004061841A1 (de) * 2003-12-22 2005-07-14 Augmented Solutions Gmbh Markerloses Tracking System für Augmented Reality Anwendungen
DE102005039703A1 (de) 2005-08-23 2007-03-01 Bayerische Motoren Werke Ag Verfahren zum Aufbau einer Merkmalsdatenbank
DE102005045973A1 (de) 2005-09-26 2007-04-05 Siemens Ag Vorrichtung, System und Verfahren für ein kamerabasiertes Tracking
DE102006004731A1 (de) 2006-02-02 2007-08-09 Bayerische Motoren Werke Ag Verfahren und Einrichtung zur Bestimmung der Position und/oder Orientierung einer Kamera bezüglich eines realen Objektes
DE102005025470B4 (de) * 2005-06-02 2007-12-20 Metaio Gmbh Verfahren und System zur Ermittlung der Position und Orientierung einer Kamera relativ zu einem realen Objekt
DE102006055893A1 (de) * 2006-02-03 2008-05-29 Metaio Gmbh Verfahren und System zur Bestimmung eines Datenmodells zur Überlagerung mit einem realen Objekt in einem Verfahren zur Objektverfolgung
US20090110241A1 (en) * 2007-10-30 2009-04-30 Canon Kabushiki Kaisha Image processing apparatus and method for obtaining position and orientation of imaging apparatus
US20100073366A1 (en) * 2008-09-24 2010-03-25 Canon Kabushiki Kaisha Model generation apparatus and method
DE102009008039A1 (de) * 2008-12-23 2010-07-01 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeugs oder einer Kraftfahrzeugkomponente
US20100259537A1 (en) * 2007-10-12 2010-10-14 Mvtec Software Gmbh Computer vision cad models
DE102009040848A1 (de) * 2009-10-05 2011-04-07 Volkswagen Ag Verfahren zum Betrieb eines Augmented-Reality-Systems
WO2011105522A1 (en) * 2010-02-24 2011-09-01 Canon Kabushiki Kaisha Three-dimensional measurement apparatus, processing method, and non-transitory computer-readable storage medium

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0949513A2 (de) 1998-04-08 1999-10-13 Trisen Systems Inc. Technik zur virtuellen Realität
WO2001096829A1 (de) 2000-06-13 2001-12-20 Volkswagen Aktiengesellschaft Verfahren zur prüfung eines produktes im hinblick auf qualitätsmängel und system zur durchführung des verfahrens
EP1507235A1 (de) 2003-08-15 2005-02-16 Werner G. Lonsing Verfahren und Vorrichtung zur Erzeugung von zusammengesetzten Bildern, die virtuelle Objekte enthalten
DE102004061841A1 (de) * 2003-12-22 2005-07-14 Augmented Solutions Gmbh Markerloses Tracking System für Augmented Reality Anwendungen
DE102005025470B4 (de) * 2005-06-02 2007-12-20 Metaio Gmbh Verfahren und System zur Ermittlung der Position und Orientierung einer Kamera relativ zu einem realen Objekt
DE102005039703A1 (de) 2005-08-23 2007-03-01 Bayerische Motoren Werke Ag Verfahren zum Aufbau einer Merkmalsdatenbank
DE102005045973A1 (de) 2005-09-26 2007-04-05 Siemens Ag Vorrichtung, System und Verfahren für ein kamerabasiertes Tracking
DE102006004731A1 (de) 2006-02-02 2007-08-09 Bayerische Motoren Werke Ag Verfahren und Einrichtung zur Bestimmung der Position und/oder Orientierung einer Kamera bezüglich eines realen Objektes
DE102006055893A1 (de) * 2006-02-03 2008-05-29 Metaio Gmbh Verfahren und System zur Bestimmung eines Datenmodells zur Überlagerung mit einem realen Objekt in einem Verfahren zur Objektverfolgung
DE102006005044B4 (de) 2006-02-03 2011-01-27 Metaio Gmbh Verfahren und System zur Bestimmung eines Datenmodells zur Überlagerung mit einem realen Objekt in einem Verfahren zur Objektverfolgung
US20100259537A1 (en) * 2007-10-12 2010-10-14 Mvtec Software Gmbh Computer vision cad models
US20090110241A1 (en) * 2007-10-30 2009-04-30 Canon Kabushiki Kaisha Image processing apparatus and method for obtaining position and orientation of imaging apparatus
US20100073366A1 (en) * 2008-09-24 2010-03-25 Canon Kabushiki Kaisha Model generation apparatus and method
DE102009008039A1 (de) * 2008-12-23 2010-07-01 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeugs oder einer Kraftfahrzeugkomponente
DE102009040848A1 (de) * 2009-10-05 2011-04-07 Volkswagen Ag Verfahren zum Betrieb eines Augmented-Reality-Systems
WO2011105522A1 (en) * 2010-02-24 2011-09-01 Canon Kabushiki Kaisha Three-dimensional measurement apparatus, processing method, and non-transitory computer-readable storage medium

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Georg Klein, David Murrayt: "Parallel Tracking and Mapping for Small AR Workspaces", ISMAR 2007

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102014217718B4 (de) 2014-09-04 2021-12-02 Volkswagen Aktiengesellschaft Verfahren zum Betrieb eines Augmented-Reality-Systems
DE102014217718A1 (de) 2014-09-04 2016-03-10 Volkswagen Aktiengesellschaft Verfahren zum Betrieb eines Augmented-Reality-Systems
WO2016165799A1 (de) * 2015-04-11 2016-10-20 Audi Ag Verfahren zum betreiben einer virtual-reality-brille und system mit einer virtual-reality-brille
WO2016188627A1 (de) * 2015-05-22 2016-12-01 Giesecke & Devrient Gmbh System und verfahren zur bearbeitung von wertdokumenten
US10496179B2 (en) 2015-05-22 2019-12-03 Giesecke+Devrient Currency Technology Gmbh System and method for processing value documents
DE102015215613A1 (de) 2015-08-17 2017-03-09 Volkswagen Aktiengesellschaft Verfahren zum Betrieb eines Augmented-Reality-Systems
DE102015221181A1 (de) 2015-10-29 2017-05-04 Volkswagen Aktiengesellschaft Datenbrille
DE102015221181B4 (de) 2015-10-29 2022-03-03 Volkswagen Aktiengesellschaft Datenbrille und Verfahren zur Darstellung eines virtuellen Bildbestandteils sowie Verfahren zur Wartung, Instandhaltung, Reparatur oder Herstellung eines Kraftfahrzeugs
DE102017201502A1 (de) 2017-01-31 2018-08-02 Volkswagen Aktiengesellschaft Datenbrille
DE102017201502B4 (de) 2017-01-31 2022-10-13 Volkswagen Aktiengesellschaft Datenbrille und Verfahren zur Wartung, Instandhaltung, Reparatur oder Herstellung eines Kraftfahrzeugs
WO2018223038A1 (en) * 2017-06-01 2018-12-06 Tesla, Inc. Augmented reality application for manufacturing
EP3578321A1 (de) * 2018-06-05 2019-12-11 Gestalt Robotics GmbH Verfahren zum verwenden mit einer maschine zum erstellen einer erweiterte-realität-anzeigeumgebung
DE102018004618A1 (de) * 2018-06-09 2019-12-12 Linde Aktiengesellschaft Verfahren zur Fertigung im Apparate- und Anlagenbau
DE102019209101B4 (de) 2019-06-24 2024-04-18 Geze Gmbh Verfahren und system zur erleichterung der montage und/oder einstellung eines antriebs zur betätigung eines be-weglichen tür- oder fensterflügels

Similar Documents

Publication Publication Date Title
DE102012014995A1 (de) Verfahren zum Betrieb eines Augmented-Reality-Systems
DE102013223039B4 (de) Vorrichtung und Verfahren zum Bereitstellen eines AVM-Bildes
DE102014222617B4 (de) Fahrzeugerfassungsverfahren und Fahrzeugerfassungssytem
DE102009008039A1 (de) Verfahren zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeugs oder einer Kraftfahrzeugkomponente
WO2013053438A2 (de) Verfahren zur integration von virtuellen objekten in fahrzeuganzeigen
DE102018203405A1 (de) Visuelles Surround-View-System zur Überwachung des Fahrzeuginneren
DE112018000862T5 (de) Vorrichtung und Verfahren zur Anzeige von Informationen
DE102009050368A1 (de) Verfahren zum automatischen Kalibrieren einer virtuellen Kamera
DE102011084554A1 (de) Verfahren zur Darstellung eines Fahrzeugumfeldes
WO2019170202A1 (de) Surroundview-system mit angepasster projektionsfläche
DE102013206435A1 (de) Visualisierungssystem und Vorrichtung zur Generierung und Anzeige eines virtuellen Abbilds einer Fahrzeugumgebung
DE102010042026B4 (de) Verfahren zum Erzeugen eines Abbildes mindestens eines Objekts in einer Umgebung eines Fahrzeugs
DE102011122206A1 (de) Verfahren zum Betrieb eines Augmented-Reality-Systems
EP2888623B1 (de) Betreiben eines head-up-displays eines fahrzeugs und bildermittlungssystem für das head-up-display
DE102009040848A1 (de) Verfahren zum Betrieb eines Augmented-Reality-Systems
WO2020164671A1 (de) Modulares inpainting verfahren
DE102014012250A1 (de) Verfahren zur Bilderverarbeitung und -darstellung
DE102013016241A1 (de) Verfahren und Vorrichtung zur augmentierten Darstellung
DE102015215613A1 (de) Verfahren zum Betrieb eines Augmented-Reality-Systems
DE102011082881A1 (de) Darstellung der Umgebung eines Kraftfahrzeugs in einer bestimmten Ansicht unter Verwendung räumlicher Information
DE102011121473A1 (de) Verfahren zum Anzeigen von Bildern auf einer Anzeigeeinrichtung eines Kraftfahrzeugs,Fahrerassistenzeinrichtung, Kraftfahrzeug und Computerprogramm
DE102009056013A1 (de) Verfahren zum Erzeugen eines Augmented-Reality-Bildes
DE102006048869B4 (de) Projektionsanordnung und Verfahren zur Darstellung eines Designs auf einer Oberfläche eines Kraftfahrzeuges
DE102014018419A1 (de) Verfahren zur Erzeugung eines Tiefenbildes
DE102020126954A1 (de) System und Verfahren zum Erfassen einer räumlichen Orientierung einer tragbaren Vorrichtung

Legal Events

Date Code Title Description
R163 Identified publications notified
R012 Request for examination validly filed