-
Die Erfindung betrifft ein Verfahren zum Erzeugen eines Augmented-Reality-Bildes, ein Verfahren zum Erzeugen eines Augmented-Reality-Bildes bzw. zur Darstellung eines virtuellen Bildbestandteils auf einem transparenten Display.
-
Gemäß der
WO 01/96829 A1 ist der Begriff Augmented-Reality als Überlagerung einer realen Umgebung mit einer rechnergenerierten Umgebung, d. h. einer virtuellen Welt, definiert. Augmented-Reality ist somit eine Art der Mensch-Technik-Interaktion, die dem Anwender Informationen in sein Sichtfeld einblendet und so seine Wahrnehmung erweitert.
-
Die
DE 10 2006 005 044 B4 offenbart ein Verfahren zur Bestimmung eines Datenmodells einer virtuellen Information, das bestimmt ist, in einem Verfahren zur Objektverfolgung mit einem Abbild eines realen Objekts überlagert zu werden, wobei ein dreidimensionales CAD-Modell zur Nachbildung des realen Objekts vorgesehen ist. Dabei werden unterschiedliche synthetische zweidimensionale Ansichten des CAD-Modells generiert und jede generierte Ansicht einer Kantenextraktion zur Bestimmung wenigstens einer extrahierten Kante unterzogen.
-
Die
DE 10 2006 004 731 A1 offenbart ein Verfahren zur Bestimmung der Position oder Orientierung einer Kamera bezüglich eines realen Objekts, wobei durch die Kamera ein Real-Bildobjekt des realen Objektes erfasst wird, wobei Referenzbildobjekte eines virtuellen Objektes, das dem realen Objekt entspricht, abgespeichert sind, und wobei auf der Basis von einem Referenzbildobjekt und dem Real-Bildobjekt die Position oder Orientierung der Kamera bezüglich des realen Objekts bestimmt wird.
-
Die
DE 10 2005 039 703 A1 offenbart ein Verfahren zum Aufbau einer Merkmalsdatenbank für eine bildverarbeitungsgeschützte Erkennung eines markerlosen Objektes, in welchem zur Bestimmung von Merkmalen des Objektes ein dreidimensionales Modell des Objekts zur Verfügung steht. Dabei wird zur Bestimmung der Merkmale zumindest ein auf einen bestimmten Blickwinkel bezogenes zweidimensionales Projektionsbild des opaken texturfreien dreidimensionalen geometrischen Modells erzeugt.
-
Die
WO 01/96829 A1 offenbart ein Verfahren zur Automobilproduktion, wobei ein Prüfer bei der Durchführung einer Prüfung im Hinblick auf Qualitätsmängel eines Kraftfahrzeugs oder einer Kraftfahrzeug-Komponente durch ein Augmented-Reality-System (Augmented-Reality = AR) unterstützt wird, welches prüfungsrelevante Daten aufnimmt und/oder an den Prüfer ausgibt, wobei die Prüfung im Rahmen der Fertigung des Kraftfahrzeugs oder der Kraftfahrzeug-Komponente zum Feststellen von Qualitätsmängeln bei dem Kraftfahrzeug oder der Kraftfahrzeug-Komponente in zumindest einem vorbestimmten Fertigungszustand erfolgt, wobei einem Werker bei der Durchführung einzelner, der Prüfung vorgelagerter Fertigungsschritte zur Fertigung weiterer Kraftfahrzeuge oder Kraftfahrzeug-Komponenten über das Augmented-Reality-System ein auf zumindest einem der festgestellten Qualitätsmängel basierender Vorsichtshinweis zugeführt wird, und wobei einem Nachbearbeiter bei der Durchführung einer der Prüfung nachgeschalteten Nachbearbeitung eines mangelbehafteten Kraftfahrzeugs oder einer mangelbehafteten Kraftfahrzeug-Komponente eine auf den jeweils festgestellten Qualitätsmängeln basierende Fehlerinformation über das Augmented-Reality-System zugeführt wird.
-
-
Es ist Aufgabe der Erfindung, ein Augmented-Reality-System zu verbessern bzw. verbessert zu betreiben.
-
Vorgenannte Aufgabe wird durch ein Verfahren zum Erzeugen eines Augmented-Reality-Bildes gelöst, wobei ein reales Bild einer realen Umgebung mittels einer realen Kamera aufgenommen wird, wobei die Position eines virtuellen Bildbestandteils zu dem mittels der realen Kamera aufgenommenen realen Bild mittels eines Merkmalsbildes bestimmt wird, und wobei der virtuelle Bildbestandteil mit zumindest einem Teil des realen Bildes zu einem Augmented-Reality-Bild kombiniert wird, wobei mittels CAD-Daten ein künstliches (bzw. synthetisches) Bild zumindest eines Gegenstandes aus der aufzunehmenden Umgebung erzeugt wird, das vorteilhafterweise Materialeigenschaften von Oberflächen des Gegenstandes abbildet bzw. darstellt bzw. umfasst, und wobei in Abhängigkeit des künstlichen Bildes das Merkmalsbild erzeugt bzw. generiert wird. Dabei ist insbesondere vorgesehen, dass das Merkmalsbild in Abhängigkeit einer Vielzahl künstlicher (bzw. synthetischer) Bilder des Gegenstands erzeugt bzw. generiert wird.
-
Beispiele für Merkmalsbilder im Sinne der Erfindung zeigen zum Beispiel
3 sowie der Artikel
Georg Klein, David Murrayt: "Parallel Tracking and Mapping for Small AR Workspaces", ISMAR 2007. Ein Merkmalsbild im Sinne der Erfindung umfasst insbesondere eines oder mehrere Merkmale. Ein Merkmal im Sinne der Erfindung ist insbesondere eine Kante, ein Übergang von Flächen mit unterschiedlicher Oberflächenbeschaffenheit, eine Ecke und/oder der Abstand zweier (insbesondere charakteristischer) Punkte im künstlichen Bild.
-
Es ist insbesondere vorgesehen, dass bei der Erzeugung bzw. Generierung des künstlichen Bildes von einer virtuellen Kamera ausgegangen wird, und dass deren Eigenschaften vorteilhafterweise bei der Erzeugung bzw. Generierung des Merkmalsbildes berücksichtigt werden, bzw. dass die Erzeugung bzw. Generierung des Merkmalsbildes in Abhängigkeit dieser Eigenschaften erfolgt. Eigenschaften einer virtuellen Kamera im Sinne der Erfindung sind insbesondere Auflösung, Brennweite, Bildhauptpunkt und/oder Verzeichnung.
-
CAD-Daten im Sinne der Erfindung sind insbesondere ein, insbesondere dreidimensionales, CAD-Modell des Gegenstandes aus der aufzunehmenden Umgebung.
-
Materialeigenschaften von Oberflächen des Gegenstandes im Sinne der Erfindung sind insbesondere Textur, Farbe, Reflexionsvermögen, Reflexionseigenschaften, Rauigkeit, Rauigkeit in RMS und/oder von diesen Größen abgeleitete oder zu diesen Größen analoge Größen.
-
Ein Merkmalsbild im Sinne der Erfindung ist insbesondere eine Merkmalskarte.
-
Vorgenannte Aufgabe wird zudem durch ein Verfahren zur Darstellung eines virtuellen Bildbestandteils auf einem transparenten Display, wobei mittels einer realen Kamera ein reales Bild aufgenommen wird, das eine Umgebung des Displays abbildet, die ein Betrachter bei Durchsicht durch das Display sieht, wobei das die Position eines virtuellen Bildbestandteils zu dem mittels der realen Kamera aufgenommenen realen Bild mittels eines Merkmalsbildes bestimmt wird, und wobei der virtuelle Bildbestandteil mittels des transparenten Displays dargestellt wird, wobei mittels CAD-Daten ein künstliches (bzw. synthetisches) Bild zumindest eines Gegenstandes aus der aufzunehmenden Umgebung erzeugt wird, das vorteilhafterweise Materialeigenschaften von Oberflächen des Gegenstandes abbildet bzw. darstellt bzw. umfasst, und wobei in Abhängigkeit des künstlichen Bildes das Merkmalsbild erzeugt bzw. generiert wird. Dabei ist insbesondere vorgesehen, dass das Merkmalsbild in Abhängigkeit einer Vielzahl künstlicher (bzw. synthetischer) Bilder des Gegenstands erzeugt bzw. generiert wird.
-
In vorteilhafter Ausgestaltung der Erfindung(en) erfolgt die Erzeugung des Merkmalsbildes in Abhängigkeit des künstlichen Bildes so, als ob das künstliche Bild ein reales Bild wäre. Es werden somit insbesondere Algorithmen verwendet, die zur Erzeugung eines Merkmalsbildes in Abhängigkeit eines realen Bildes eingesetzt werden. Verwendbare Algorithmen sind zum Beispiel, SLAM und PTAM (vgl. z. B. den Artikel
Georg Klein, David Murrayt: "Parallel Tracking and Mapping for Small AR Workspaces", ISMAR 2007).
-
In weiterhin vorteilhafter Ausgestaltung der Erfindung(en) erfolgt die Erzeugung des künstlichen Bildes des zumindest einen Gegenstandes aus der aufzunehmenden Umgebung mittels CAD-Daten vorab, insbesondere in einem Initialisierungs- bzw. Vorbereitungsschritt. In weiterhin vorteilhafter Ausgestaltung der Erfindung(en) erfolgt die Erzeugung des Merkmalsbildes vorab, insbesondere in dem Initialisierungs- bzw. Vorbereitungsschritt. Dabei ist insbesondere vorgesehen, dass ein erzeugtes Merkmalsbild für mehrere unterschiedliche virtuelle Bilder/Bildbestandteile, insbesondere für nacheinander verwendete virtuelle Bilder/Bildbestandteile, verwendet wird.
-
In weiterhin vorteilhafter Ausgestaltung der Erfindung(en) erfolgt die Positionierung des virtuellen Bildbestandteils durch markerloses Tracking. Beim markerlosen Tracking ist insbesondere vorgesehen, dass die Positionierung des virtuellen Bildbestandteils nicht in Abhängigkeit der Position eines Markers erfolgt, sondern in Abhängigkeit eines Merkmals, wie etwa einer Kante, im realen Bild.
-
In weiterhin vorteilhafter Ausgestaltung der Erfindung(en) wird in Abhängigkeit des realen Bildes zumindest ein weiteres Merkmal (des Gegenstandes) erzeugt. Verwendbare Algorithmen sind zum Beispiel SLAM und PTAM (vgl. z. B. den Artikel
Georg Klein, David Murrayt: "Parallel Tracking and Mapping for Small AR Workspaces", ISMAR 2007). In weiterhin vorteilhafter Ausgestaltung der Erfindung(en) wird das zumindest weitere Merkmal den CAD-Daten hinzugefügt.
-
In weiterhin vorteilhafter Ausgestaltung der Erfindung wird das zumindest weitere Merkmal dem Merkmalsbild hinzugefügt. In weiterhin vorteilhafter Ausgestaltung der Erfindung ist vorgesehen, dass ein Merkmal des Merkmalsbildes aus dem Merkmalsbild entfernt wird, wenn kein korrespondierendes Merkmal in dem realen Bild identifiziert oder erzeugt werden kann.
-
Vorgenannte Aufgabe wird – insbesondere in Verbindung mit vorgenannten Merkmalen – zudem durch ein Verfahren zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente, gelöst, wobei ein zu montierendes Bauteil mittels des virtuellen Bildbestandteils gemäß dem vorgehend beschriebenen Verfahren markiert oder gekennzeichnet wird, und wobei das zu montierende Bauteil in der technischen Komponente, in dem Kraftfahrzeug oder in der Kraftfahrzeugkomponente montiert wird.
-
Vorgenannte Aufgabe wird – insbesondere in Verbindung mit vorgenannten Merkmalen – zudem durch ein Verfahren zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente, gelöst, wobei der Montageort eines zu montierenden Bauteils mittels des virtuellen Bildbestandteils gemäß dem vorgehend beschriebenen Verfahren markiert oder gekennzeichnet wird, und wobei das zu montierende Bauteil in der technischen Komponente, in dem Kraftfahrzeug oder in der Kraftfahrzeugkomponente am Montageort montiert wird.
-
Vorgenannte Aufgabe wird – insbesondere in Verbindung mit vorgenannten Merkmalen – zudem durch ein Verfahren zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente, gelöst, wobei ein Montageablauf zum Montieren eines zu montierenden Bauteils mittels des virtuellen Bildbestandteils gemäß dem vorgehend beschriebenen Verfahren ermittelt oder verifiziert wird, und wobei das zu montierende Bauteil in der technischen Komponente, in dem Kraftfahrzeug oder in der Kraftfahrzeugkomponente entsprechend dem Montageablauf montiert wird.
-
Ein virtueller Bildbestandteil im Sinne der Erfindung(en) kann alphanumerische Zeichen umfassen oder aus solchen bestehen. Ein virtueller Bildbestandteil im Sinne der Erfindungen) kann alphanumerische Zeichen sowie einen farblichen Hintergrund für diese Zeichen umfassen. Ein virtueller Bildbestandteil im Sinne der Erfindung(en) kann auf alphanumerische Zeichen in Verbindung mit einem farblichen Hintergrund für diese Zeichen bestehen.
-
Kraftfahrzeug im Sinne der Erfindung ist insbesondere ein individuell im Straßenverkehr benutzbares Landfahrzeug. Kraftfahrzeuge im Sinne der Erfindung sind insbesondere nicht auf Landfahrzeuge mit Verbrennungsmotor beschränkt.
-
Weitere Vorteile und Einzelheiten ergeben sich aus der nachfolgenden Beschreibung von Ausführungsbeispielen. Dabei zeigen:
-
1 ein Ausführungsbeispiel eines Systems zur Darstellung eines Augmented-Reality-Bildes,
-
2 ein Ausführungsbeispiel eines künstlichen Bildes zumindest eines Fahrzeuginnenraumes, das vorteilhafterweise Materialeigenschaften von Oberflächen des Fahrzeuginnenraumes abbildet,
-
3 ein Ausführungsbeispiel eines aus künstlichen Bildern gemäß 2 erzeugten Merkmalsbildes,
-
4 ein Ausführungsbeispiel für ein virtuelles Bild, das mittels eines als transparentes Display ausgestalteten Displays dargestellt wird,
-
5 ein Ausführungsbeispiel eines Verfahrens zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente,
-
6 ein weiteres Ausführungsbeispiel eines Verfahrens zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente,
-
7 ein weiteres Ausführungsbeispiel eines Verfahrens zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente und
-
8 ein Ausführungsbeispiel für eine weitere Anwendung des Systems zur Darstellung eines Augmented-Reality-Bildes gemäß 1.
-
1 zeigt ein System zur Darstellung eines Augmented-Reality-Bildes ARB. Das System umfasst ein von einem Benutzer 1 getragenes Headset 10 mit einem Display 11 zur Darstellung des Augmented-Reality-Bildes ARB. In das Headset 10 ist eine dem Display 11 zugeordnete Kamera zur Aufnahme eines realen Bildes, der von dem Benutzer 1 gesehenen Umgebung bzw. eines Teils dieser Umgebung, montiert. Das von der Kamera ausgegebene reale Bild RB ist Eingangssignal in ein markerloses Trackingsystem 12, das die Ausrichtung (Position/Positionssignal) POS des realen Bildes RB in Abhängigkeit eines (gespeicherten) Merkmalsbildes MB bestimmt. Die Ausrichtung (Position/Positionssignal) POS des realen Bildes RB sowie optional (siehe unten) das reale Bild RB sind Ausgangssignal des Trackingsystems 12 und Eingangssignal in einen Szenengenerator 13.
-
Das System zur Darstellung eines Augmented-Reality-Bildes ARB umfasst zudem eine Datenbasis 14 mit virtuellen Bildbestandteilen oder eine sonstige Quelle virtueller Bildbestandteile. Aus dieser Datenbasis 14 bzw. der sonstigen Quelle wird dem Szenengenerator 13 ein virtueller Bildbestandteil VIRT zugeführt. Der Szenengenerator 13 kombiniert diesen mit dem realen Bild RB zu einem Augmented-Reality-Bild ARB, das mittels des Displays 11 dargestellt wird. Es kann vorgesehen sein, dass das Display 11 als transparentes Display ausgestaltet ist. In diesem Falle ist das Augmented-Reality-Bild ARB keine Überlagerung des realen Bildes RB mit virtuellen Bildbestandteil VIRT, sondern der virtuelle Bildbestandteil VIRT, der an einer bestimmten Stelle positioniert wird, so dass er an dieser Stelle mittels des transparenten Displays anzeigbar ist. Die Überlagerung zwischen Realität und virtuellem Bildbestandteil erfolgt dabei im Auge des Benutzers 1. 4 zeigt ein Ausführungsbeispiel für ein virtuelles Bild VIRT, das mittels des als transparentes Display ausgestalteten Displays 11 dargestellt wird. Dabei ist in dem Ausführungsbeispiel das reale Objekt, dem das virtuelle Bild VIRT zugeordnet ist, ein Kraftfahrzeug 25.
-
Das System zur Darstellung eines Augmented-Reality-Bildes ARB umfasst zudem ein Modul 120 zur Erzeugung des Merkmalsbildes MB. Dazu werden aus aus einer CAD-Datenbasis 121 entnommenen CAD-Daten des Gegenstandes, von dem das reale Bild RB aufgenommen wird oder werden wird, mittels eines Bildgenerators 122 künstliche Bilder RBCAD (die Materialeigenschaften von Oberflächen des Gegenstandes abbilden) dieses Gegenstandes generiert, wie eines z. B. in 2 dargestellt ist. Aus diesen künstlichen Bildern RBCAD erzeugt ein Merkmalsgenerator 123 das Merkmalsbild MB, wie es z. B. in 3 dargestellt ist. Der Merkmalsgenerator 123 ist ein üblicher Merkmalsgenerator, wie er üblicherweise zur Erzeugung von Merkmalsbildern aus realen Bildern verwendet wird.
-
In einer optionalen Ausgestaltung kann vorgesehen sein, dass mittels eines weiteren Merkmalsgenerators 123' aus dem realen Bild RB Merkmale M' erkannt werden und der CAD-Datenbasis 121 zugeführt bzw. in diese aufgenommen werden. Der Merkmalsgenerator 123' kann Teil des Trackingsystems 12 sein. Es ist insbesondere vorgesehen, dass das Trackingsystem 12 einen Merkmalsgenerator zur Erzeugung von Merkmalen aus dem realen Bild RB umfasst. In einer weiteren optionalen Ausgestaltung kann vorgesehen sein, dass Merkmale des Merkmalsbildes MB, die der Merkmalsgenerator des Trackingsystems 12 im realen Bild RB nicht findet bzw. nicht identifizieren kann, entfernt werden. In einer weiteren optionalen Ausgestaltung kann vorgesehen sein, dass zusätzliche Merkmale, die der Merkmalsgenerator des Trackingsystems 12 im realen Bild RB findet bzw. identifizieren kann, dem Merkmalsbild MB hinzugefügt werden.
-
5 zeigt ein Ausführungsbeispiel eines Verfahrens zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente, wobei in einem Schritt 41 ein zu montierendes Bauteil mittels des virtuellen Bildbestandteils gemäß dem vorgehend beschriebenen Verfahren markiert oder gekennzeichnet wird, und wobei in einem Schritt 42 das zu montierende Bauteil in der technischen Komponente, in dem Kraftfahrzeug oder in der Kraftfahrzeugkomponente montiert wird.
-
6 zeigt ein Ausführungsbeispiel eines Verfahrens zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente, wobei in einem Schritt 51 der Montageort eines zu montierenden Bauteils mittels des virtuellen Bildbestandteils gemäß dem vorgehend beschriebenen Verfahren markiert oder gekennzeichnet wird, und wobei in einem Schritt 52 das zu montierende Bauteil in der technischen Komponente, in dem Kraftfahrzeug oder in der Kraftfahrzeugkomponente am Montageort montiert wird.
-
7 zeigt ein Ausführungsbeispiel eines Verfahrens zum Herstellen einer technischen Komponente, insbesondere eines Kraftfahrzeuges oder einer Kraftfahrzeugkomponente, wobei in einem Schritt 61 ein Montageablauf zum Montieren eines zu montierenden Bauteils mittels des virtuellen Bildbestandteils gemäß dem vorgehend beschriebenen Verfahren ermittelt oder verifiziert wird, und wobei in einem Schritt 62 das zu montierende Bauteil in der technischen Komponente, in dem Kraftfahrzeug oder in der Kraftfahrzeugkomponente entsprechend dem Montageablauf montiert wird.
-
8 zeigt ein Ausführungsbeispiel für eine weitere Anwendung des Systems zur Darstellung eines Augmented-Reality-Bildes gemäß 1. Dabei wird mittels eines virtuellen Bestandteils VIRT einem Prototypen eines Innenraums eines Kraftfahrzeugs der aktuelle Stand der Produktentwicklung für den Benutzer in einem als transparentes Display ausgestalteten Display 11 angezeigt.
-
Mittels der Erfindung kann ein langwieriges manuelles Kalibrieren der realen Kamera eingespart werden. Zudem kann aufgrund der Erfindung auf ein langwieriges manuelles Einstellen von realen Fotos bzw. Videos verzichtet werden. Darüber hinaus bietet die Erfindung ein besonders robustes Tracking mit schneller Positionserfassung.
-
ZITATE ENTHALTEN IN DER BESCHREIBUNG
-
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
-
Zitierte Patentliteratur
-
- WO 01/96829 A1 [0002, 0006]
- DE 102006005044 B4 [0003]
- DE 102006004731 A1 [0004]
- DE 102005039703 A1 [0005]
- EP 0949513 A2 [0007]
- DE 102005045973 A1 [0007]
- EP 1507235 A1 [0007]
-
Zitierte Nicht-Patentliteratur
-
- Georg Klein, David Murrayt: ”Parallel Tracking and Mapping for Small AR Workspaces”, ISMAR 2007 [0010]
- Georg Klein, David Murrayt: ”Parallel Tracking and Mapping for Small AR Workspaces”, ISMAR 2007 [0016]
- Georg Klein, David Murrayt: ”Parallel Tracking and Mapping for Small AR Workspaces”, ISMAR 2007 [0019]