-
TECHNISCHES GEBIET
-
Die vorliegende Offenbarung betrifft ein virtuelles Überlagerungssystem und Verfahren für verdeckte Objekte und insbesondere, aber nicht ausschließlich, ein System und Verfahren zum Überlagern eines virtuellen Verkehrsschildes für den Fahrer eines Fahrzeugs. Erfindungsgemäße Aspekte betreffen ein Verfahren zur Anzeige einer Darstellung eines Verkehrsschildes, ein nicht-transientes computerlesbares Speichermedium, ein System zur Anzeige einer Darstellung eines Verkehrsschildes, einen Prozessor und ein Fahrzeug.
-
STAND DER TECHNIK
-
Fahrer eines Fahrzeugs verlassen sich häufig auf Verkehrsschilder, die Informationen, Warnungen und/oder Anweisungen, wie z. B. Geschwindigkeitsbegrenzungen, Richtungen, Straßenführungsdiagramme, Höhenbegrenzungen usw., bereitstellen. Allerdings können übergroße Bäume und Sträucher Verkehrsschilder manchmal verdecken und/oder verdunkeln und damit verhindern, dass der Fahrer eines Fahrzeugs die Verkehrsschilder liest.
-
Ein weiteres Szenario, das ggf. das Lesen von Verkehrsschildern verhindert, wird in Bezug auf die 1(a) und (b) behandelt. 1(a) zeigt ein Straßensystem 100, das zwei parallele Fahrspuren (eine erste Spur 102a und eine zweite Spur 102b) und ein Verkehrsschild 104 umfasst. Fahrzeuge in den beiden Fahrspuren fahren in derselben Richtung. Ein Fahrzeug 106 wird dargestellt, wie es im Straßensystem 100 in der zweiten Spur 102b fährt. Ein Fahrer des Fahrzeugs 106 verfügt über einen Sichtbereich, der durch die Linien 108 abgebildet ist. Das Verkehrsschild 104 befindet sich vor dem Fahrzeug 106 und damit im Sichtbereich 108 des Fahrers.
-
1(b) zeigt das Straßensystem 100 mit dem Fahrzeug 106 und einem Lastkraftwagen 110. Der Lastkraftwagen 110 ist dargestellt, wie er parallel zum Fahrzeug 106 in der ersten Fahrspur 102a fährt. Das Vorhandensein des Lastkraftwagens 110 beeinträchtigt den Sichtbereich des Fahrers eines Fahrzeugs, der als die Linien 112 dargestellt ist. Insbesondere hält der Lastkraftwagen den Fahrer des Fahrzeugs 106 vom Lesen des Verkehrsschildes 104 ab.
-
Im Szenario von 1(b) kann das Verkehrsschild 104 für den Fahrer des Fahrzeugs 106 sichtbar sein, bevor die Sicht auf das Verkehrsschild 104 durch den Lastkraftwagen 110 versperrt wird. Allerdings ist diese Zeitspanne evtl. nicht lang genug, als dass der Fahrer das Verkehrsschild 104 lesen könnte.
-
Das Unvermögen der Fahrer, Verkehrsschilder zu lesen, um relevante Informationen zu erhalten, stellt ein Sicherheitsrisiko dar, wenn z. B. ein Fahrer eines hohen Fahrzeugs eine Höhenbegrenzung durch eine niedrige Brücke nicht wahrnimmt. Darüber hinaus versuchen evtl. einige Fahrer, das Problem, dass die Sicht auf ein Verkehrsschild durch ein parallel fahrendes Fahrzeug versperrt wird, zu entschärfen, indem sie die Geschwindigkeit ihres Fahrzeugs verändern (langsamer oder schneller fahren), um freie Sicht auf das Verkehrsschild zu behalten. Allerdings kann diese inkonsequente Fahrgeschwindigkeit andere Verkehrsteilnehmer gefährden.
-
Die vorliegende Erfindung wurde dazu entwickelt, mindestens einige der vorstehend genannten Probleme zu entschärfen oder zu überwinden.
-
KURZDARSTELLUNG DER ERFINDUNG
-
Aspekte und Ausführungsformen der Erfindung stellen ein Verfahren, ein nicht-transientes computerlesbares Speichermedium, ein System, einen Prozessor und ein Fahrzeug nach den beigefügten Ansprüchen bereit.
-
Nach einem Aspekt der vorliegenden Erfindung wird ein Verfahren bereitgestellt, um eine Darstellung eines Verkehrsschildes anzuzeigen, wobei das Verfahren Folgendes umfasst: Empfangen von mit dem Verkehrsschild verbundenen Informationen, wobei die mit dem Verkehrsschild verbundenen Informationen eine Vorderseite des Verkehrsschildes und einen Standort des Verkehrsschildes in einem Straßensystem umfassen; Empfangen eines Bildes von einer Kamera, wobei sich das Verkehrsschild im Sichtbereich der Kamera befindet; Bestimmen eines Umfangs des Verkehrsschildes, der überdeckt ist, mittels des Bildes; Generieren der Darstellung des Verkehrsschildes mittels der mit dem Verkehrsschild verbundenen Informationen in Abhängigkeit von dem überdeckten Umfang; und Ausgeben der Darstellung des Verkehrsschildes zur Anzeige.
-
Ein Vorteil des Verfahrens besteht darin, dass - wenn ein Verkehrsschild teilweise oder ganz für den Sichtbereich der Kamera überdeckt ist - eine Darstellung des Verkehrsschildes zur Anzeige ausgegeben wird, z. B. an einen Benutzer, um dem Benutzer das Lesen des Verkehrsschildes zu ermöglichen, selbst wenn es teilweise oder ganz für den Benutzer überdeckt ist.
-
In dem von der Kamera empfangenen Bild kann das Verkehrsschild durch die Kamera direkt im Sichtbereich sichtbar sein, oder das Verkehrsschild kann sich im Sichtbereich befinden, aber in dem von der Kamera empfangenen Bild teilweise oder vollständig verdunkelt sein.
-
Die mit dem Verkehrsschild verbundenen Informationen können von der Kamera empfangen werden, und die Darstellung wird basierend auf dem Bild und dem Standort von der Kamera generiert. Der Standort des Verkehrsschildes kann mühelos aus den von der Kamera empfangenen Bildern bestimmt werden.
-
Optional sind die mit dem Verkehrsschild verbundenen Informationen in einem Speicher gespeichert und die Darstellung wird basierend in Abhängigkeit von den Informationen im Speicher generiert.
-
Optional werden die mit dem Verkehrsschild verbundenen Informationen von einem externen Server empfangen und in einer Datenbank gespeichert, und die Darstellung wird basierend in Abhängigkeit von den Informationen in der Datenbank generiert. Dies bietet den Vorteil, dass das Verkehrsschild, wenn es nie für die Kamera sichtbar ist, trotzdem angezeigt werden kann. Wenn die mit dem Verkehrsschild verbundenen Informationen von einem externen Server empfangen werden, kann der Standort des Fahrzeugs mühelos von einer Standortbestimmungseinrichtung (wie z. B. einer GPS-Einheit) im Fahrzeug bestimmt werden. Der Standort des Fahrzeugs kann mittels der Standortbestimmungseinrichtung bestimmt werden und entsprechend die Verkehrsschilder, die sich im Sichtbereich der Kamera befinden sollten.
-
Optional umfasst das Verfahren das Ausgeben der Darstellung des Verkehrsschildes an ein Frontscheiben-Display.
-
Optional umfasst das Verfahren das Ausgeben der Verkehrsschild-Darstellung , die die Position des Verkehrsschildes im Sichtbereich eines Benutzers überlagern soll, auf das Frontscheiben- Display.
-
Optional umfasst die Kamera ein Weitwinkelobjektiv.
-
Ein nicht-transientes computerlesbares Speichermedium kann computerlesbare Anweisungen für den Prozessor eines Computers umfassen, um das vorstehend genannte Verfahren auszuführen.
-
Nach einem weiteren Aspekt der vorliegenden Erfindung wird ein System bereitgestellt, um eine Darstellung eines Verkehrsschildes anzuzeigen, wobei das System Folgendes umfasst: einen Eingang, der dazu angeordnet ist, mit dem Verkehrsschild verbundene Informationen zu empfangen, wobei die mit dem Verkehrsschild verbundenen Informationen eine Vorderseite des Verkehrsschildes und einen Standort des Verkehrsschildes in einem Straßensystem umfassen; und ein Bild von einer Kamera, wobei sich das Verkehrsschild im Sichtbereich der Kamera befindet; einen Prozessor, der dazu angeordnet ist, mittels des Bildes einen Umfang des Verkehrsschildes zu bestimmen, der überdeckt ist; in Abhängigkeit von dem überdeckten Umfang, die Darstellung des Verkehrsschildes mittels der mit dem Verkehrsschild verbundenen Informationen zu generieren; und einen Ausgang, der dazu angeordnet ist, die Darstellung des Verkehrsschildes zur Anzeige auszugeben.
-
Optional werden die mit dem Verkehrsschild verbundenen Informationen von der Kamera empfangen, und die Darstellung wird basierend auf dem Bild und dem Standort von der Kamera generiert. Der Standort des Verkehrsschildes kann mühelos aus den von der Kamera empfangenen Bildern bestimmt werden.
-
Optional werden die mit dem Verkehrsschild verbundenen Informationen von einem externen Server empfangen und in einer Datenbank gespeichert, und die Darstellung ist dazu angeordnet, basierend auf den Informationen in der Datenbank generiert zu werden. Wenn die mit dem Verkehrsschild verbundenen Informationen von einem externen Server empfangen werden, kann der Standort des Fahrzeugs mühelos von einer Standortbestimmungseinrichtung (wie z. B. einer GPS-Einheit) im Fahrzeug bestimmt werden. Der Standort des Fahrzeugs kann mittels der Standortbestimmungseinrichtung bestimmt werden und entsprechend die Verkehrsschilder, die sich im Sichtbereich der Kamera befinden sollten.
-
Optional ist die Darstellung des Verkehrsschildes dazu angeordnet, an ein Frontscheiben-Display ausgegeben zu werden.
-
Optional ist die Darstellung des Verkehrsschildes auf dem Frontscheiben-Display dazu angeordnet, an ein Frontscheiben-Display ausgegeben zu werden, das die Position des Verkehrsschildes im Sichtbereich eines Benutzers überlagern soll.
-
Optional umfasst die Kamera ein Weitwinkelobjektiv.
-
Nach einem weiteren Aspekt der vorliegenden Erfindung wird ein Prozessor bereitgestellt, der konfiguriert ist zum Empfangen von mit dem Verkehrsschild verbundenen Informationen, wobei die mit dem Verkehrsschild verbundenen Informationen eine Vorderseite des Verkehrsschildes und einen Standort des Verkehrsschildes in einem Straßensystem umfassen; Empfangen eines Bildes von einer Kamera, wobei sich das Verkehrsschild im Sichtbereich der Kamera befindet; Bestimmen eines Umfangs des Verkehrsschildes, der überdeckt ist, mittels des Bildes; Generieren der Darstellung des Verkehrsschildes mittels der mit dem Verkehrsschild verbundenen Informationen in Abhängigkeit von dem Umfang, der überdeckt ist; und Ausgeben der Darstellung des Verkehrsschildes zur Anzeige.
-
Ein Fahrzeug kann das vorstehend beschriebene System und/oder den vorstehend beschriebenen Prozessor umfassen.
-
Nach einem weiteren erfindungsgemäßen Aspekt wird ein Verfahren bereitgestellt, um eine Darstellung eines Verkehrsschildes anzuzeigen, wobei das Verfahren Folgendes umfasst: an einem Überlagerungssystem, Empfangen von mit dem Verkehrsschild verbundenen Informationen, wobei die mit dem Verkehrsschild verbundenen Informationen eine Vorderseite des Verkehrsschildes und einen Standort des Verkehrsschildes in einem Straßensystem umfassen; an einem Kameraeingangsmodul des Überlagerungssystems, Empfangen eines Bildes von einer Kamera, wobei sich das Verkehrsschild im Sichtbereich der Kamera befindet; mittels des Bildes, in einem Schilderkennungsmodul des Überlagerungssystems, Bestimmen eines Umfangs des Verkehrsschildes, der überdeckt ist; in einem Verdeckungserkennungsmodul des Überlagerungssystems, in Abhängigkeit von dem überdeckten Umfang, Generieren der Darstellung des Verkehrsschildes mittels der mit dem Verkehrsschild verbundenen Informationen; und Ausgeben der Darstellung des Verkehrsschildes aus dem Überlagerungssystem an ein Display zur Anzeige.
-
Das Überlagerungssystem kann einen elektronischen Prozessor umfassen, der einen elektrischen Eingang aufweist, um Signale zu empfangen, die die mit dem Verkehrsschild verbundenen Informationen und das Bild von der Kamera umfassen. Das Überzahlungs-System kann ferner eine elektronische Speichervorrichtung umfassen, die elektrisch mit dem elektronischen Prozessor gekoppelt ist und in der Anweisungen gespeichert sind. Die Schritte des Bestimmens, Generierens und Ausgebens können umfassen, dass der Prozessor dazu konfiguriert ist, auf die Speichervorrichtung zuzugreifen und darin gespeicherte Anweisungen auszuführen, so dass er dazu betrieben werden kann, die Schritte des Verfahrens zum Anzeigen einer Darstellung eines Verkehrsschildes auszuführen.
-
Das Schilderkennungsmodul, Verdeckungserkennungsmodul und Kameraeingangsmodul können eine Mehrzahl von Verarbeitungsanordnungen im Prozessor umfassen. Alternativ können das Schilderkennungsmodul, Verdeckungserkennungsmodul und Kameraeingangsmodul jeweils in ihrem eigenen Prozessor angeordnet sein, so dass das Überlagerungssystem eine Mehrzahl von Prozessoren umfasst, von denen jeder mit der elektronischen Speichervorrichtung gekoppelt ist.
-
Innerhalb des Umfangs dieser Anmeldung wird ausdrücklich beabsichtigt, dass die verschiedenen Aspekte, Ausführungsformen, Beispiele und Alternativen, die in den vorhergehenden Absätzen, in den Ansprüchen und/oder in der folgenden Beschreibung und den Zeichnungen dargestellt werden, und insbesondere deren individuellen Merkmale, unabhängig voneinander oder in einer beliebigen Kombination berücksichtigt werden können. Dies bedeutet, dass alle Ausführungsformen und/oder Merkmale einer beliebigen Ausführungsform auf beliebige Weise und/oder Kombination kombiniert werden können, sofern diese Merkmale nicht inkompatibel sind. Der Anmelder behält sich das Recht vor, jeden beliebigen ursprünglich eingereichten Patentanspruch zu ändern oder jeden neuen Patentanspruch entsprechend einzureichen, einschließlich des Rechts, jeden beliebigen ursprünglich eingereichten Patentanspruch zu verändern, um von einem beliebigen Merkmal eines beliebigen anderen Anspruchs abzuhängen und/oder dieses zu integrieren, obwohl es auf diese Art und Weise zuvor nicht beansprucht wurde.
-
Figurenliste
-
Die 1(a) und (b) wurden bereits vorstehend unter dem Stand der Technik beschrieben, wobei:
- 1(a) eine schematische Draufsicht eines Straßensystems mit einem Verkehrsschild und einem Fahrzeug darstellt; und
- 1(b) eine schematische Draufsicht des Straßensystems von 1(a) mit einem Lastkraftwagen darstellt, der parallel zu dem Fahrzeug fährt.
Eine oder mehrere erfindungsgemäße Ausführungsformen werden nun nur beispielhalber unter Bezugnahme auf die beiliegenden Zeichnungen beschrieben, hierbei zeigen:
- 2(a) eine schematische Draufsicht eines Straßensystems mit einem Verkehrsschild und einem Fahrzeug, das ein Überlagerungssystem nach einer Ausführungsform der vorliegenden Erfindung umfasst;
- 2(b) eine schematische Frontansicht des Verkehrsschildes, wie es für das Überlagerungssystem von 2(a) sichtbar ist;
- 3(a) eine schematische Draufsicht des Straßensystems von 2(a) mit einem Lastkraftwagen, der parallel zum Fahrzeug fährt;
- 3(b) eine schematische Frontansicht des Verkehrsschildes, wie es für das Überlagerungssystem von 3(a) sichtbar ist;
- 3(c) eine schematische Frontansicht des Verkehrsschildes mit teilweiser Überlagerung;
- 4(a) eine schematische Draufsicht des Straßensystems von 2(a) mit einem Lastkraftwagen, der parallel zum Fahrzeug fährt;
- 4(b) eine schematische Frontansicht des Verkehrsschildes, wie es für das Überlagerungssystem von 4(a) sichtbar ist;
- 4(c) eine schematische Frontansicht des Verkehrsschildes mit vollständiger Überlagerung;
- 5 ein Flussdiagramm eines Prozesses, der durch das Überlagerungssystem von 2 ausgeführt wird;
- 6 ein schematisches Blockdiagramm des Überlagerungssystems von 2;
- 7 ein schematisches Blockdiagramm eines Überlagerungssystems nach einer Ausführungsform der vorliegenden Erfindung; und
- 8 ein Flussdiagramm eines Prozesses, der durch das Überlagerungssystem von 7 ausgeführt wird.
-
DETAILLIERTE BESCHREIBUNG
-
2(a) zeigt ein Straßensystem 200, das zwei parallele Fahrspuren (eine erste Spur 202a und eine zweite Spur 202b) und ein Verkehrsschild 204 umfasst. Fahrzeuge in den beiden Fahrspuren fahren in derselben Richtung. Ein Fahrzeug 206 wird dargestellt, wie es im Straßensystem 200 in der zweiten Spur 202b fährt. Das Fahrzeug 206 umfasst eine Kamera 208, ein Überlagerungssystem 210 und ein Display 212. In anderen Ausführungsformen kann das Verkehrsschild auf einer Schilderbrücke über den Spuren 202a, 202b angeordnet sein.
-
Die Kamera 208 und das Display 212 sind jeweils funktional mit dem Überlagerungssystem 210 verbunden. Das Display 212 ist ein Frontscheiben-Display. In anderen Ausführungsformen sind die Kamera 208 und/oder das Display 212 drahtlos mit dem Überlagerungssystem 210 verbunden.
-
Die Kamera 208 weist einen Sichtbereich auf, der durch die Linien 214 dargestellt wird, der im Wesentlichen derselbe ist wie der Sichtbereich wie der Fahrer. Das Verkehrsschild 204 befindet sich vor dem Fahrzeug 206 und damit im Sichtbereich 214 der Kamera 208. 2(b) zeigt eine Vorderseite 216 des Verkehrsschildes 204, das für die Kamera 208 sichtbar ist. Die Vorderseite 216 liefert Informationen über eine bevorstehende Straßenführung des Straßensystems 200. Die gesamte Vorderseite 216 ist für die Kamera 208 und somit auch für den Fahrer des Fahrzeugs 206 sichtbar.
-
Das Überlagerungssystem 210 ist dazu angeordnet, das Straßensystem 200 mittels der Kamera 208 ständig zu überwachen, um Verkehrsschilder zu erkennen. Wenn Verkehrsschilder (z. B. Verkehrsschild 204) erkannt werden, werden die mit den Verkehrsschildern verbundenen Informationen in der Schilderdatenbank 256 (wie in 5 dargestellt) gespeichert. Die mit den Verkehrsschildern verbundenen Informationen beinhalten die Vorderseite 216 der Verkehrsschilder und den Standort des Verkehrsschildes in einem Straßensystem 200. Wenn anschließend die Sicht der Kamera auf eines der gespeicherten Verkehrsschilder versperrt wird, ist das Überlagerungssystem 210 dazu angeordnet, den Umfang der Sichtbehinderung (d. h. wie viel von dem Verkehrsschild nicht sichtbar ist) zu bestimmen, das gespeicherte Verkehrsschild abzurufen und den versperrten Abschnitt auf das Display 212 auszugeben.
-
3(a) zeigt das Straßensystem 200 mit dem Fahrzeug 206 und einem Lastkraftwagen 220. Der Lastkraftwagen 220 ist dargestellt, wie er parallel zum Fahrzeug 206 in der ersten Fahrspur 202a fährt. Das Vorhandensein des Lastkraftwagens 220 beeinträchtigt den Sichtbereich der Kamera 208, dargestellt als die Linien 222. Insbesondere versperrt der Lastkraftwagen 220 einen Teil der Vorderseite 216 des Verkehrsschildes 204, so dass nur ein Abschnitt 224 des Verkehrsschildes für die Kamera 208 sichtbar ist.
-
3(b) zeigt den Abschnitt 224 der Vorderseite 216 des Verkehrsschildes 204, das für den Fahrer eines Fahrzeugs aufgrund der Überdeckung durch die Seite des Lastkraftwagens 220 sichtbar wäre. Da der Sichtbereich des Fahrers im Wesentlichen derselbe ist wie der der Kamera 208, ist der sichtbare Abschnitt 224 im Wesentlichen derselbe. Allerdings bestimmt in der vorliegenden Ausführungsform das Überlagerungssystem 210, dass das Verkehrsschild 204 durch das gute Fahrzeug 220 aus der Sicht des Fahrers teilweise überdeckt wäre, und als Reaktion gibt das Überlagerungssystem 210 den überdeckten Abschnitt des Verkehrsschildes an das Display 212 aus.
-
3(c) zeigt eine Sicht des Fahrers eines Fahrzeugs durch das Frontscheiben-Display, wobei der überdeckte Abschnitt 226 des Verkehrsschildes so angezeigt wird, dass er die Vorderseite 216 des Verkehrsschildes 204 ergänzt.
-
4(a) zeigt das Straßensystem 200 mit dem Fahrzeug 206 und einem Lastkraftwagen 230. Der Lastkraftwagen 230 ist dargestellt, wie er parallel zum Fahrzeug 206 in der ersten Fahrspur 202a fährt. Das Vorhandensein des Lastkraftwagens 230 beeinträchtigt den Sichtbereich der Kamera 208, dargestellt als die Linien 232. Insbesondere versperrt der Lastkraftwagen 230 die gesamte Vorderseite 216 des Verkehrsschildes 204, so dass von dem Verkehrsschild nichts für die Kamera 208 sichtbar ist.
-
4(b) zeigt die Sicht, die für den Fahrer eines Fahrzeugs aufgrund der Überdeckung durch das gute Fahrzeug 230 sichtbar wäre. Da der Sichtbereich des Fahrers im Wesentlichen derselbe ist wie der der Kamera 208, ist das Verkehrsschild aus der Sicht des Fahrers vollständig überdeckt. Allerdings bestimmt in der vorliegenden Ausführungsform das Überlagerungssystem 210, dass das Verkehrsschild 204 durch das gute Fahrzeug 410 aus der Sicht des Fahrers vollständig überdeckt wäre, und als Reaktion gibt das Überlagerungssystem 210 den überdeckten Abschnitt des Verkehrsschildes an das Display 212 aus.
-
4(c) zeigt eine Sicht des Fahrers eines Fahrzeugs durch das Frontscheiben-Display, wobei das überdeckte Verkehrsschild 234 so angezeigt wird, dass es die Vorderseite 216 des Verkehrsschildes 204 ergänzt.
-
5 zeigt detaillierter eine Ausführungsform des Überlagerungssystems 210. Das Überlagerungssystem 210 umfasst eine Steuerungsvorrichtung 250, ein Kameraeingangsmodul 252, ein Schilderkennungsmodul 254, einen Speicher 256, ein Verdeckungserkennungsmodul 258 und ein Überlagerungsausgangsmodul 260. Das Kameraeingangsmodul 252, das Schilderkennungsmodul 254, der Speicher 256, das Verdeckungserkennungsmodul 258 und das Überlagerungsausgangsmodul 260 sind jeweils funktional mit der Steuerungsvorrichtung 250 verbunden.
-
Das Kameraeingangsmodul 252 ist dazu angeordnet, Eingang von der Kamera 208 zu empfangen. Die Kamera 208 ist dazu angeordnet, Bilder des Straßensystems 200 mit 24 bis 240 Frames pro Sekunde zu erfassen. Die Kamera 208 kann eine Stereokamera sein.
-
Das Schilderkennungsmodul 254 ist dazu angeordnet, eine Objekterkennungsanalyse an den von der Kamera 208 empfangenen Bildern durchzuführen, um das Vorhandensein von Verkehrsschildern in den Bildern zu bestimmen. Beispielsweise kann das Schilderkennungsmodul 254 dazu konfiguriert sein, Verkehrsschilder nach der Form (z. B. kreisförmig, dreieckig oder rechteckig); der vorherrschenden Farbe (z. B. gelb, grün, blau oder braun); und/oder der Randfarbe (z. B. rot oder weiß) zu erkennen.
-
Das Schilderkennungsmodul 254 ist ferner dazu angeordnet, den Standort und die Ausrichtung von erkannten Verkehrsschildern relativ zum Fahrzeug 206 zu bestimmen.
-
In einer weiteren Ausführungsform ist die Kamera 208 dazu angeordnet, die Funktionalität des Schilderkennungsmoduls 254 auszuführen. In einer derartigen Ausführungsform ist die Kamera 208 dazu angeordnet, eine Objekterkennungsanalyse am erfassten Bild durchzuführen, um das Vorhandensein von Verkehrsschildern in den Bildern zu bestimmen. Die Kamera 208 ist ferner dazu angeordnet, den Standort und/oder die Ausrichtung von erkannten Verkehrsschildern relativ zum Fahrzeug 206 zu bestimmen. Der Ausgang der Kamera 208 umfasst eines oder mehrere von: den Bilddaten, den Standortdaten und den Ausrichtungsdaten.
-
Jedes im Straßensystem 200 erkannte Verkehrsschild, z. B. das Verkehrsschild 204, stellt Ausschnitte vom Kamerabild dar und wird im Speicher 256 gespeichert. Das Ausschnittsbild umfasst die Vorderseite des Verkehrsschildes 204. Die Verkehrsschilder werden nach einer vorgegebenen Zeitdauer oder wenn der Speicherplatz für den Speicher 256 erschöpft ist, aus dem Speicher 256 entfernt. Eine Darstellung der Vorderseite des Verkehrsschildes 204 kann aus dem Ausschnittsbild des Verkehrsschildes 204 hergestellt werden. Dann kann der Speicher eine Darstellung der Vorderseite des Verkehrsschildes 204, die Standort- und/oder Ausrichtungsdaten in Verbindung mit dem Verkehrsschild 204 speichern.
-
Das Verdeckungserkennungsmodul 258 ist dazu angeordnet, sequentiell Bilder von der Kamera 208 zu vergleichen, von denen ermittelt wurde, dass sie ein Verkehrsschild umfassen, um zu bestimmen, ob in nachfolgenden Bildern weniger von dem Verkehrsschild zu sehen ist.
-
Das Überlagerungsausgangsmodul 260 ist dazu angeordnet, Darstellungen von Schildern, die im Speicher 256 gespeichert sind, zu bestimmen und an das Display 212 auszugeben. Das Überlagerungsausgangsmodul 260 kann dazu angeordnet sein, die Darstellung basierend auf dem bestimmten Standort und der Ausrichtung des angezeigten Verkehrsschildes auszugeben.
-
6 zeigt einen Prozess 300, der durch eine Ausführungsform des Überlagerungssystems 210 ausgeführt wird. Der Prozess 300 beginnt damit, dass das Kameraeingangsmodul 252 in Schritt 302 ein Bild (d. h. einen Video-Frame) von der Kamera 208 empfängt. Dann erkennt das Schilderkennungsmodul 254 in Schritt 304 eventuelle Verkehrsschilder, die im Kamerabild vorhanden sind, sowie die Standorte von Verkehrsschildern relativ zum Fahrzeug 206.
-
Das Schilderkennungsmodul 254 prüft in Schritt 306, ob im Bild eventuelle Verkehrsschilder erkannt wurden. Wenn ein oder mehrere Verkehrsschilder erkannt werden, prüft das Verdeckungserkennungsmodul 258 in Schritt 308, ob Verkehrsschilder im vorherigen von der Kamera 208 empfangenen Bild erkannt wurden. Wenn vorher keine Verkehrsschilder erkannt wurden, extrahiert das Schilderkennungsmodul 254 (d. h. erstellt Ausschnitte aus) eventuelle(n) Verkehrsschilder(n) aus dem aktuellen Bild und speichert in Schritt 310 eventuell extrahierte Verkehrsschilder im Speicher 256. Daraufhin kehrt der Prozess 300 zu Schritt 302 zurück.
-
Wenn im Anschluss an die Überprüfung in Schritt 306, ob eventuelle Verkehrsschilder im Bild erkannt wurden, keine Verkehrsschilder erkannt werden, dann prüft das Verdeckungserkennungsmodul 258 in Schritt 312, ob Verkehrsschilder im vorherigen von der Kamera 208 empfangenen Bild erkannt wurden. Das Verdeckungserkennungsmodul 258 berücksichtigt die Bewegung des Fahrzeugs 206 (vorwärts und seitlich) und die Standorte von jedem in Schritt 304 bestimmten Verkehrsschild relativ zum Fahrzeug 206, um zu bestimmen, ob sich das Fahrzeug 206 am Standort des Schildes vorbei bewegt hat. Mit anderen Worten: Das Verdeckungserkennungsmodul 258 prüft, ob vom Verkehrsschild nicht mehr erwartet wird, dass es im Sichtbereich der Kamera 208 ist.
-
Wenn im Anschluss an die Überprüfung in Schritt 312 keine Verkehrsschilder zuvor erkannt wurden, kehrt der Prozess 300 zu Schritt 302 zurück. Wenn allerdings im Anschluss an die Überprüfung in Schritt 312 Verkehrsschilder zuvor erkannt wurden und das Fahrzeug 206 nicht am Verkehrsschild vorbei gefahren ist, bedeutet dies, dass das Verkehrsschild nun aus dem Sichtfeld der Kamera 208 überdeckt wurde. Entsprechend ruft das Überlagerungsausgangsmodul 260 in Schritt 314 die zuvor erkannten Verkehrsschilder aus dem Speicher 256 ab. Dann bestimmt das Überlagerungsausgangsmodul 260 die Größe, Ausrichtung und den Standort der Stelle, wo das Schild erwartet wird. Das Überlagerungsausgangsmodul 260 bestimmt auch eine Darstellung des Verkehrsschildes entsprechend der erwarteten Größe, Ausrichtung und dem Standort des Verkehrsschildes, und gibt in Schritt 316 die Darstellung des Verkehrsschildes zur Anzeige auf dem Display 212 aus. Daraufhin kehrt der Prozess 300 zu Schritt 302 zurück. Dies bewirkt, dass bei Annäherung des Fahrzeugs 206 an den Standort des Verkehrsschildes 204 die Darstellung des Verkehrsschildes größer wird.
-
Wenn - zurückkehrend zur Überprüfung in Schritt 308 - das Ergebnis der Überprüfung lautet, dass ein oder mehrere Verkehrsschilder im vorherigen, von der Kamera 208 empfangenen Bild erkannt wurden, dann bestimmt das Verdeckungserkennungsmodul 258 in Schritt 318, ob die vollständige Vorderseite des Verkehrsschildes sichtbar ist, oder ob nur ein Teil des Verkehrsschildes sichtbar ist. Das Verdeckungserkennungsmodul 258 berücksichtigt die Bewegung des Fahrzeugs 206 (vorwärts und seitlich) und die Standorte von jedem Verkehrsschild das in Schritt 304 bestimmt wurde, relativ zum Fahrzeug 206, um zu bestimmen, ob das Fahrzeug 206 begonnen hat, sich am Standort des Schildes vorbei zu bewegen. Mit anderen Worten: Das Verdeckungserkennungsmodul 258 prüft, ob von der vollständigen Vorderseite des Verkehrsschildes nicht mehr erwartet wird, dass sie im Sichtbereich der Kamera 208 ist.
-
Wenn im Anschluss an die Überprüfung in Schritt 318 die vollständige Vorderseite des Verkehrsschildes sichtbar ist, dann liegt keine Verdeckung oder Überdeckung vor und der Prozess 300 kehrt zu Schritt 302 zurück.
-
Wenn allerdings im Anschluss an die Überprüfung in Schritt 318 nur ein Teil des Verkehrsschildes sichtbar ist, weist dies daraufhin, dass die Sicht auf das Verkehrsschild teilweise aus dem Sichtbereich der Kamera 208 versperrt ist. Entsprechend ruft das Überlagerungsausgangsmodul 260 in Schritt 320 die zuvor erkannten Verkehrsschilder aus dem Speicher 256 ab. Dann bestimmt das Überlagerungsausgangsmodul 260 Größe, Abschnitt, Ausrichtung und Standort der Stelle, wo das Schild erwartet wird. Das Überlagerungsausgangsmodul 260 bestimmt auch eine Darstellung des Verkehrsschildes entsprechend der erwarteten Größe, des Abschnitts, der Ausrichtung und des Standorts des Verkehrsschildes, und gibt in Schritt 322 die Darstellung des Verkehrsschildes zur Anzeige auf dem Display 212 aus. Daraufhin kehrt der Prozess 300 zu Schritt 302 zurück.
-
In einer alternativen Ausführungsform umfasst ein Überlagerungssystem Standortbestimmungseinrichtungen (z. B. einen GPS-Empfänger) und eine Datenbank, die Informationen in Verbindung mit einem Satz von Verkehrsschildern speichert (die mit den Verkehrsschildern verbundenen Informationen beinhalten die Vorderseite 216 des Verkehrsschildes und den Standort des Verkehrsschildes in einem Straßensystem 200). Das Überlagerungssystem ist dazu angeordnet, den Standort des Fahrzeugs mittels der Standortbestimmungseinrichtung zu bestimmen und entsprechend die Verkehrsschilder, die sich im Sichtbereich der Kamera 208 befinden sollten. Das Überlagerungssystem ist dazu angeordnet, zu bestimmen, ob die Sicht auf die Verkehrsschilder, die sich im Sichtbereich der Kamera 208 befinden sollten, versperrt ist, und gibt als Reaktion eine Darstellung des Verkehrsschildes aus.
-
7 zeigt die alternative Ausführungsform des Überlagerungssystems 400. Das Überlagerungssystem 400 umfasst eine Steuerungsvorrichtung 402, ein Kameraeingangsmodul 404, ein Schilderkennungsmodul 406, eine Schilderdatenbank 408, ein Überlagerungsausgangsmodul 410, einen GPS-Empfänger 412, ein Verdeckungserkennungsmodul 414 und ein Blickerkennungsmodul 416. Das Kameraeingangsmodul 404, das Schilderkennungsmodul 406, die Schilderdatenbank 408, das Überlagerungsausgangsmodul 410, der GPS-Empfänger 412, das Verdeckungserkennungsmodul 414 und das Blickerkennungsmodul 416 sind jeweils funktional mit der Steuerungsvorrichtung 402 verbunden.
-
Das Kameraeingangsmodul 404 ist dazu angeordnet, Eingang von der Kamera 208 zu empfangen. Das Fahrzeug 206 umfasst ferner eine interne Kamera 418, die mit dem Kameraeingangsmodul 404 verbunden ist. Die interne Kamera 418 ist auf den Fahrer des Fahrzeugs gerichtet und kann auf das Gesicht des Fahrers fokussiert sein.
-
Die Schilderdatenbank 408 umfasst Informationen, die mit einem Satz von Verkehrsschildern verbunden sind (die mit den Verkehrsschildern verbundenen Informationen beinhalten die Vorderseite 216 des Verkehrsschildes und den Standort des Verkehrsschildes in einem Straßensystem 200). Der Satz von Verkehrsschildern kann aus allen Verkehrsschildern in einem geografischen Gebiet bestehen, oder den Verkehrsschildern entlang einer Route, die das Fahrzeug zurücklegt. Wie aus 7 ersichtlich, ist die Schilderdatenbank 408 lokal am Fahrzeug 206 angeordnet. Die Schilderdatenbank kann mit Verkehrsschildern verbundene Informationen von einem externen Server empfangen. In einer alternativen Anordnung kann das Überlagerungssystem 400 mit einer externen Datenbank 408 in Kommunikation stehen. Beispielsweise kann die externe Datenbank 408 in einem anderen Fahrzeug oder einer Cloud oder einem Bauwerk/Gebäude in Straßennähe angeordnet sein. Wenn sich das Fahrzeug auf einer geführten Route befindet, haben die mit einem Satz von Verkehrsschildern in Bezug auf eine geführte Route verbundenen Informationen Vorrang in der Kommunikation mit einer externen Datenbank 408.
-
Der GPS-Empfänger 412 ist dazu angeordnet, den Standort des Fahrzeugs 206 zu bestimmen, indem er Zeitinformationen von GPS-Satelliten empfängt, wie in der Technik bekannt ist. In weiteren Ausführungsformen kann der Standort des Fahrzeugs durch andere Einrichtungen wie z. B. Multilateration mit zellularen Netzen, wie sie in der Technik bekannt ist, bestimmt werden.
-
Das Schilderkennungsmodul 406 ist im Wesentlichen dasselbe wie das Schilderkennungsmodul 254 und ist dazu angeordnet, Objekterkennungsanalyse an den von der Kamera 208 empfangenen Bildern durchzuführen, um das Vorhandensein von Verkehrsschildern in den Bildern zu bestimmen. Das Schilderkennungsmodul 406 ist ferner dazu angeordnet, den Standort eines erkannten Verkehrsschildes relativ zum Fahrzeug 206 mit Informationen vom GPS-Empfänger 412 zu bestimmen, um Verkehrsschilder zu bestimmen, von denen erwartet wird, dass sie sich im Sichtbereich der Kamera 208 befinden.
-
Das Verdeckungserkennungsmodul 414 ist im Wesentlichen dasselbe wie das Verdeckungserkennungsmodul 258 und ist dazu angeordnet, sequentiell Bilder von der Kamera 208 zu vergleichen, von denen ermittelt wurde, dass sie ein Verkehrsschild umfassen, um zu bestimmen, ob in nachfolgenden Bildern weniger von dem Verkehrsschild zu sehen ist.
-
Das Überlagerungserkennungsmodul 410 ist im Wesentlichen dasselbe wie das Überlagerungserkennungsmodul 260 und ist dazu angeordnet, Darstellungen von Schildern, die in der Schilderdatenbank 408 gespeichert sind, zu bestimmen und an das Display 212 auszugeben.
-
Das Blickerkennungsmodul 416 ist dazu angeordnet, zu bestimmen, wohin der Fahrer blickt und was der Fahrer anschaut. Nehmen wir die folgenden 3D-Koordinaten als Beispiel:
- Vom Fahrer gesehenes Objekt (z. B. ein Verkehrsschild) : O = [xo,yo,zo]
- Kopf des Fahrers: D = [xD,yD,zD]
- Nach vorne gerichtete Kamera: C = [xC,yC,zC]
-
Und die folgenden Vektoren:
-
Bestimmen des Blickvektors der Augen für den Fahrer über die interne Kamera
418 basierend auf der Blickrichtung der Augen und der Kopfhaltung.
-
Der Kopf des Fahrers und die Kamera
208 befinden sich in demselben Koordinatensystem.
-
Dieser Vektor zeigt den Pfad zwischen der Kamera 208 und dem vom Fahrer gesehenen Objekt. DO→ wird durch die interne Kamera 418 ausgegeben und die Kamera 208 ist in der Lage, dies in ihrem 3D-Modell zu positionieren.
-
Um den Abstand zum Objekt zu bestimmen, nutzt die interne Kamera 418 Vergenz der Augen, um den Abstand abzuschätzen. Die Kamera 208 ist stereoskopisch, um die Entfernung zum Ziel zu schätzen, und wird für die höchste Übereinstimmung mit der Vergenz der Augen verwendet. Das von der Kamera 208 erkannte Objekt, das erfasst wird oder sich am nächsten beim Blickvektor befindet, wird als das visuell interessierende Objekt betrachtet.
-
Bei einer Kopfbewegung des Fahrers berechnet die interne Kamera 418 die neuen Koordinaten der Augenposition neu (da die Kamera 208 und die interne Kamera 418 fest positioniert sind). Während sich das Fahrzeug bewegt, verändert sich auch die relative Position des Objekts. Das Blickerkennungsmodul 416 verfolgt die neuen Koordinaten, während sich das Fahrzeug bewegt. Das Blickerkennungsmodul 416 kann die räumlichen Koordinaten des Objekts (z. B. Verkehrsschild), das vom Blickvektor erfasst wird, berechnen.
-
8 zeigt einen Prozess 450, der durch das Überlagerungssystem 400 ausgeführt wird. Der Prozess 450 beginnt damit, dass der GPS-Empfänger 412 in Schritt 452 den Standort des Fahrzeugs 206 empfängt. Basierend auf dem empfangenen Standort bestimmt das Schilderkennungsmodul 406 in Schritt 454 mittels Informationen von der Schilderdatenbank 408, ob es Schilder gibt, von denen erwartet wird, dass sie sich im Sichtbereich der Kamera 208 befinden. Wenn nicht, kehrt der Prozess 450 zu Schritt 452 zurück.
-
Wenn im Anschluss an die Überprüfung in Schritt 454 erwartet wird, dass sich Verkehrsschilder im Sichtbereich der Kamera 208 befinden, empfängt das Kameraeingangsmodul 404 in Schritt 456 ein Bild (d. h. einen Video-Frame) von der Kamera 208. Das Verdeckungserkennungsmodul 414 bestimmt in Schritt 458, ob die Verkehrsschilder sichtbar sind, von denen erwartet wird, dass sie sich im Sichtbereich der Kamera 208 befinden. Das Verdeckungserkennungsmodul 414 prüft in Schritt 460, ob die vollständige Vorderseite des Verkehrsschildes sichtbar ist, oder ob kein oder nur ein Teil des Verkehrsschildes sichtbar ist. Wenn die vollständige Vorderseite des Verkehrsschildes sichtbar ist, dann kehrt der Prozess 450 zu Schritt 452 zurück.
-
Wenn allerdings im Anschluss an die Überprüfung in Schritt 460 kein oder nur ein Teil des Verkehrsschildes für die Kamera 208 sichtbar ist, dann ruft das Überlagerungsausgangsmodul 410 in Schritt 462 das Verkehrsschild aus der Schilderdatenbank 408 ab. Dann bestimmt das Überlagerungsausgangsmodul 410 Größe, Abschnitt, Ausrichtung und Standort der Stelle, wo das Schild erwartet wird. Das Überlagerungsausgangsmodul 410 bestimmt auch eine Darstellung des Verkehrsschildes entsprechend der erwarteten Größe, des Abschnitts, der Ausrichtung und des Standorts des Verkehrsschildes, und gibt in Schritt 464 die Darstellung des Verkehrsschildes zur Anzeige auf dem Display 212 aus. Daraufhin kehrt der Prozess 450 zu Schritt 452 zurück.
-
Es versteht sich, dass die Funktionalität des Kameraeingangsmoduls 252, 404; des Schilderkennungsmoduls 254, 406; des Überlagerungsausgangsmoduls 260, 410; des Verdeckungserkennungsmoduls 258, 414 und des Blickerkennungsmoduls 416 durch einen oder mehrere Prozessoren ausgeführt werden kann. Wenn sie durch mehrere Prozessoren ausgeführt wird, können die Prozessoren unabhängig voneinander angeordnet sein.
-
Es versteht sich, dass das Verkehrsschild statische Schilder und aktive Schilder mit veränderbarem Inhalt umfasst, deren Inhalt im Verlauf der Zeit verändert werden kann. Aktive Schilder können Schilder mit Parkinformationen für PKWs, Baustellen und Verkehrsinformationen sein.
-
Viele Änderungen können an den vorhergehenden Beispielen vorgenommen werden, ohne vom Umfang der vorliegenden Erfindung nach der Definition in den beigefügten Patentansprüchen abzuweichen.
-
Wenn beispielsweise ein Verkehrsschild vollständig überdeckt ist, kann die Darstellung des Verkehrsschildes auf dem Display 212 eine beliebige Ausrichtung und Stelle aufweisen, und muss nicht zwangsläufig der tatsächlichen Ausrichtung und dem Standort des Verkehrsschildes entsprechen.
-
In weiteren Ausführungsformen kann das Display 212 ein Display in einer Mittelkonsole des Fahrzeugs oder ein Display im Armaturenbrett des Fahrzeugs sein.
-
Zum Erkennen von Wörtern und Ortsnamen von den Schildern kann optische Zeichenerkennung zur Anwendung kommen.