-
TECHNISCHES GEBIET
-
Die vorliegende Offenbarung bezieht sich auf ein Verfahren und ein System zur globalen Lokalisierung eines Fahrzeugs. Die vorliegende Offenbarung bezieht sich konkret auf ein Verfahren und ein System zur globalen Lokalisierung eines Fahrzeugs unter Verwendung einer Sensorbewegungsbahn, die von einem generischen, mit einer Karte abgestimmten Sensor erhalten wird.
-
HINTERGRUND
-
Die genaue Kenntnis der Egoposition eines Fahrzeugs ist eine wesentliche Voraussetzung für autonomes Fahren. Zahlreiche Verfahren wurden entwickelt, wie z. B. die Verwendung von DVB-T-Sendern mit bekannter Position oder die Verwendung von mindestens drei Basisstationen eines zellularen Kommunikationsnetzwerks zur Triangulation. Außerdem wurden Verfahren zur kamerabasierten Lokalisierung offenbart. Merkmale in Kamerabildern entlang der Strecke können markiert werden, um eine visuelle Karte zu erstellen. Während der Fahrt wird ein Abgleichen der aktuellen Bilder mit diesen Merkmalen verwendet, um eine Schätzung der aktuellen Fahrzeugposition zu erhalten. Diese kann mit GPS (Global Positioning System)-Daten und Fahrzeugsensoren verschmolzen werden, um eine maximale Verfügbarkeit und Genauigkeit der Lokalisierung zu erreichen. Die Lokalisierung anhand von Orientierungspunkten kann mit visueller Odometrie kombiniert werden. Die visuelle Odometrie liefert örtlich präzise und hochgradig häufige Aktualisierungen der Relativbewegung. Da dieser Ansatz jedoch auf spezialisierte Offline-Karten angewiesen ist, ist ein erheblicher Aufwand erforderlich. Außerdem sind einige Merkmale möglicherweise nicht statisch und daher unbrauchbar. Fernerhin kann eine aus der visuellen Odometrie gewonnene lokale Bewegungsbahn ohne zusätzliche Kenntnisse mittels Optimierungsverfahren auf eine Karte abgebildet werden, z. B. können iterative Verfahren des nächstliegenden Punktes angewendet werden. Diese funktionieren jedoch nicht gut in Manhattan-ähnlichen Topologien aufgrund der Mehrdeutigkeit der Straßen auf der Karte. Nicht zuletzt sind diese Ansätze rechnerisch aufwendig und bieten möglicherweise keine eindeutige Lösung.
-
OFFENBARUNG DER ERFINDUNG
-
Es ist daher ein Ziel der vorliegenden Offenbarung, die oben genannten Fragen anzusprechen und ein Verfahren und ein System für die globale Lokalisierung bereitzustellen.
-
Dieses Ziel wird durch ein Verfahren nach dem unabhängigen Verfahrensanspruch und ein System nach dem unabhängigen Systemanspruch erreicht. Abhängige Ansprüche beziehen sich auf weitere Aspekte der vorliegenden Offenbarung.
-
Die vorliegende Offenbarung bezieht sich auf ein Verfahren zur globalen Lokalisierung. Das Verfahren basiert auf der Abstimmung einer Bewegungsbahn eines Fahrzeugs mit einer Karte, um die globale geografische Position eines Fahrzeugs zu bestimmen. Das Verfahren umfasst das Erfassen einer Bewegungsbahn eines Fahrzeugs und das gleichzeitige Suchen nach Straßenschildern. Die Bewegungsbahn kann durch Anwenden von Odometrie erfasst werden. Die Suche nach Straßenschildern kann das Versuchen, die Form eines Straßenschildes und den Straßennamen auf dem Straßenschild zu erkennen aufweisen. Das Verfahren weist bei der Erkennung eines ersten Straßenschildes das Speichern des Erkennungszeitpunkts und eines ersten Punktes auf der Bewegungsbahn im Zusammenhang mit einer ersten, dem ersten Straßenschild entsprechenden Straße auf und weist ferner bei der Erkennung eines zweiten Straßenschildes das Speichern des Erkennungszeitpunkts und eines zweiten Punktes auf der Bewegungsbahn im Zusammenhang mit einer zweiten, dem zweiten Straßenschild entsprechenden Straße auf. Die beiden Punkte auf der Bewegungsbahn mit den entsprechenden Straßennamen können zur Vorauswahl eines Ausschnitts auf einer Karte, mit dem die Bewegungsbahn abgeglichen werden soll, verwendet werden.
-
Der erste Punkt und der zweite Punkt müssen nicht unbedingt auf der Bewegungsbahn liegen. Der erste Punkt und der zweite Punkt können relativ zur Bewegungsbahn liegen. Solange eine Straße und eine entsprechende Straße durch das Fahrzeug beobachtet und identifiziert werden können, können sie zur Lokalisierung des Fahrzeugs verwendet werden, wie später ausführlicher erläutert wird. In der gesamten Beschreibung kann der Begriff „auf der Bewegungsbahn“ austauschbar mit dem Begriff „auf der oder relativ zur Bewegungsbahn“ verwendet werden.
-
Das Verfahren fährt fort durch Bestimmen eines Referenzabstands zwischen dem ersten Punkt auf der Bewegungsbahn im Zusammenhang mit der ersten Straße und dem zweiten Punkt auf der Bewegungsbahn im Zusammenhang mit der zweiten Straße und Bestimmen mindestens eines Referenzortes auf einer Karte auf der ersten, dem ersten Straßenschild entsprechenden Straße, der den Referenzabstand von der zweiten, dem zweiten Straßenschild entsprechenden Straße aufweist. Der Referenzabstand dient dazu, einen beliebigen Ort auf der ersten Straße auf der Karte zu finden, der um den Referenzabstand von einem anderen Ort auf der zweiten Straße auf der Karte entfernt ist. Die Bewegungsbahn kann dann auf den beliebigen Punkt auf der ersten Straße abgebildet werden.
-
Daher umfasst das Verfahren ferner das Abbilden der Bewegungsbahn auf der Karte, sodass der erste Punkt auf der Bewegungsbahn im Zusammenhang mit der ersten Straße mit dem mindestens einen Referenzort auf der Karte übereinstimmt. Der erste Punkt auf der Bewegungsbahn, der auf den mindestens einen Referenzort abgebildet ist, kann als Nullpunkt eines lokalen Koordinatensystems der Bewegungsbahn angesehen werden. Dieser Nullpunkt dient als Drehmittelpunkt beim Drehen der Bewegungsbahn.
-
Das Verfahren umfasst ferner das Optimieren der Position der Bewegungsbahn auf der Karte gemäß einem Optimierungskriterium durch Verschieben des ersten Punktes auf der Bewegungsbahn entlang der ersten Straße auf der Karte und gleichzeitiges Drehen der Bewegungsbahn auf der Karte unter der Randbedingung, dass der zweite Punkt auf der Bewegungsbahn entsprechend der zweiten Straße mit einem anderen Ort der zweiten Straße auf der Karte oder einem anderen Ort mit einem Mindestabstand von der zweiten Straße auf der Karte übereinstimmt, wobei der andere Ort den Referenzabstand von einem Ort auf der ersten Straße auf der Karte aufweist, der mit dem ersten Punkt auf der Bewegungsbahn übereinstimmt.
-
Dementsprechend wird die Bewegungsbahn nur entlang der ersten Straße verschoben und gleichzeitig gedreht, um die Randbedingung des Referenzabstands zu erfüllen. Konkret kann das Optimieren der Position der Bewegungsbahn das Optimieren eines Ortes auf der ersten Straße durch Verschieben des ersten Punktes auf der Bewegungsbahn zwischen dem Anfang und dem Ende der ersten Straße auf der Karte und gleichzeitiges Drehen der Bewegungsbahn umfassen, sodass der Referenzort ein Drehmittelpunkt ist.
-
Im Gegensatz zu den iterativen Verfahren zum Abbilden des nächstliegenden Punktes, bei denen die x,y-Koordinate des Bahnnullpunkts und der Bahnwinkel so optimiert werden, dass die Bewegungsbahn am besten mit der Karte übereinstimmt, bleibt bei dem oben beschriebenen Verfahren nur ein Optimierungsparameter übrig, nämlich der Ort auf der ersten Straße, der mit dem ersten Punkt der Bewegungsbahn übereinstimmt. Der Ort auf der ersten Straße kann parametrisiert werden, wobei der Optimierungsparameter zwischen dem Anfang der Straße und dem Ende der Straße verläuft. Beispielsweise kann der Optimierungsparameter so normiert werden, dass er zwischen null und eins läuft, wobei null dem Anfang der ersten Straße und eins dem Ende der ersten Straße entspricht. Der Drehwinkel muss nicht explizit optimiert werden. Der Drehwinkel entsteht durch das Verschieben unter der Randbedingung des Referenzabstands, d. h. ein Drehwinkel, bei dem der Ort auf der ersten Straße auf der Karte, der mit dem ersten Punkt auf der Bewegungsbahn übereinstimmt, um den Referenzabstand von einem anderen Ort auf der zweiten Straße entfernt ist, der mit dem zweiten Punkt auf der Bewegungsbahn übereinstimmt. Der erste Punkt auf der Bewegungsbahn kann um den Referenzabstand von einem anderen Ort mit einem Mindestabstand zur zweiten Straße entfernt sein, während der andere Ort mit dem zweiten Punkt auf der Bewegungsbahn übereinstimmt.
-
Dementsprechend transformiert das Verfahren ein Optimierungsproblem mit drei Optimierungsparametern in ein Optimierungsproblem mit nur einem Parameter. Abhängig vom Optimierungskriterium hat ein Kostenfunktional mit einem Parameterraum von drei Optimierungsparametern im Allgemeinen mehr lokale Maxima und Minima als ein Kostenfunktional mit nur einem Optimierungsparameter. Das oben beschriebene Verfahren transformiert also eine dreidimensionale Abbildung in ein eindimensionales Abbildungsproblem durch Integrieren eines zu einem bestimmten Zeitpunkt erkannten Straßenschildes in das Kostenfunktional des dreidimensionalen Abbildungsproblems. Das eindimensionale Abbildungsproblem ist weniger ungünstig aufgestellt als das entsprechende dreidimensionale Abbildungsproblem. Eine korrekte Abbildung kann somit zuverlässiger und weniger rechenaufwendig erreicht werden.
-
Ein Aspekt des Verfahrens bezieht sich auf das Optimierungskriterium. Das Optimierungskriterium kann eine Abweichung zwischen der Bewegungsbahn und einer Vielzahl von Straßen auf der Karte sein, wie z. B. ein mittlerer quadratischer Fehler. Alternativ kann das Optimieren der Position der Bewegungsbahn auf der Karte das Anwenden eines iterativen Verfahrens des nächstliegenden Punktes in Bezug auf die Bewegungsbahn und eine Vielzahl von nächstliegenden Straßen auf der Karte aufweisen.
-
Das Kostenfunktional, d. h. das Optimierungskriterium, als eine Funktion des Parameterraumes kann, auch wenn es auf den einzigen Optimierungsparameter reduziert ist, immer noch multimodal sein. Zur Lösung dieses Problems kann das Intervall des Optimierungsparameters zwischen dem Anfang der ersten Straße und dem Ende der ersten Straße in eine Vielzahl von Intervallen unterteilt werden. Für jedes Intervall der Vielzahl von Intervallen kann das Verfahren das Optimieren des Ortes auf der ersten Straße durch Verschieben des ersten Punktes auf der Bewegungsbahn zwischen dem Anfang und dem Ende des Intervalls und gleichzeitiges Drehen der Bewegungsbahn aufweisen, sodass der Referenzort ein Drehmittelpunkt ist. Der Endwert des Kostenfunktionals eines Intervalls kann mit den Endwerten des Kostenfunktionals der anderen Intervalle der Vielzahl von Intervallen verglichen werden, um das Intervall und seine entsprechende Bewegungsbahn zu finden, die die Optimierungskriterien am besten erfüllt. Das Verfahren kann daher auch das Auswählen der Position der Bewegungsbahn entsprechend dem Intervall der Vielzahl von Intervallen aufweisen, das die Optimierungskriterien am besten erfüllt. Auf diese Weise kann das multimodale Optimierungsproblem in eine Vielzahl von monomodalen Optimierungsproblemen transformiert werden. So kann das globale Minimum des Kostenfunktionals sogar durch ein lokales Optimierungsverfahren gefunden werden, das in einem lokalen Minimum des Kostenfunktionals stecken bleiben könnte, wenn es auf den gesamten Parameterraum des Optimierungsparameters, d. h. die gesamte erste Straße, angewendet würde.
-
Ein Aspekt des Verfahrens bezieht sich auf das Bestimmen mindestens eines weiteren Referenzortes. Das Bestimmen des Referenzortes kann unter Umständen nicht eindeutig sein, d. h. es könnte zwei Referenzorte geben. Wenn die Optimierung kein ausreichend gutes Endergebnis liefert, kann die Optimierung für einen anderen Referenzort wiederholt werden. Das Verfahren kann ferner aufweisen: das Bestimmen mindestens eines weiteren Referenzortes auf einer Karte auf der ersten, dem ersten Straßenschild entsprechenden Straße, der den Referenzabstand von der zweiten, dem zweiten Straßenschild entsprechenden Straße aufweist;
das Abbilden der Bewegungsbahn auf der Karte, sodass der erste Punkt auf der Bewegungsbahn im Zusammenhang mit der ersten Straße mit dem mindestens einen anderen Referenzort auf der Karte übereinstimmt;
das Optimieren der Position der Bewegungsbahn auf der Karte gemäß einem Optimierungskriterium durch Verschieben des ersten Punktes auf der Bewegungsbahn entlang der ersten Straße auf der Karte und gleichzeitiges Drehen der Bewegungsbahn auf der Karte unter der Randbedingung, dass der zweite Punkt auf der Bewegungsbahn entsprechend der zweiten Straße mit einem anderen Ort der zweiten Straße auf der Karte übereinstimmt, der den Referenzabstand von einem Ort auf der ersten Straße auf der Karte aufweist, der mit dem ersten Punkt auf der Bewegungsbahn übereinstimmt.
-
Ein Aspekt des Verfahrens bezieht sich auf die Auswahl eines anfänglichen Kartenausschnitts. Der anfängliche Kartenausschnitt, in dem nach der ersten und zweiten Straße gesucht wird, kann basierend auf der GPS-Position des Fahrzeugs ausgewählt werden. Das Verfahren kann daher das Auswählen eines Kartenausschnitts basierend auf einer GPS-Position des Fahrzeugs und das Beschränken des Bestimmens auf einer Karte mindestens eines Referenzortes auf der ersten, dem ersten Straßenschild entsprechenden Straße, der den Referenzabstand von der zweiten, dem zweiten Straßenschild entsprechenden Straße aufweist, auf den Kartenausschnitt aufweisen.
-
Falls entlang eines wesentlichen Abschnitts der Bewegungsbahn keine Straßenschilder erkannt werden können, kann das Verfahren auf den standardmäßigen iterativen nächstliegenden Punkt, d. h. auf die Optimierung dreier Parameter, zurückgreifen. Das Ende der letzten Teilbewegungsbahn, die mit dem oben beschriebenen Verfahren abgeglichen wurde, kann jedoch als anfänglicher Ausgangspunkt einer aktuellen Teilbewegungsbahn herangezogen werden, die lediglich durch Anwenden eines iterativen nächstliegenden Punktes mit drei Dimensionen abzugleichen ist. Dementsprechend kann das Verfahren aufweisen: das Unterteilen der Bewegungsbahn in eine Vielzahl von Teilbewegungsbahnen, die eine erste Teilbewegungsbahn mit mindestens zwei erkannten Straßenschildern und eine zweite Teilbewegungsbahn mit weniger als zwei erkannten Straßenschildern aufweisen;
Anwenden eines iterativen Verfahrens des nächstliegenden Punktes zum Optimieren der vertikalen Position, der horizontalen Position und des Winkels der zweiten Teilbewegungsbahn durch Verwenden des Endes der ersten Teilbewegungsbahn als anfänglichen Ausgangspunkt, nachdem diese auf der Karte abgebildet wurde.
-
Ein Aspekt der vorliegenden Offenbarung bezieht sich auf ein System. Das System kann Mittel zum Erfassen einer Bewegungsbahn eines Fahrzeugs und Mittel zum gleichzeitigen Suchen nach Straßenschildern aufweisen. Das System kann einen Speicher aufweisen, der ausgebildet ist zum Speichern, bei Erkennung eines ersten Straßenschildes, des Erkennungszeitpunkts und eines ersten Punkts auf der Bewegungsbahn im Zusammenhang mit einer ersten, dem ersten Straßenschild entsprechenden Straße, und kann ferner ausgebildet sein zum Speichern, bei Erkennung eines zweiten Straßenschildes, des Erkennungszeitpunkts und eines zweiten Punkts auf der Bewegungsbahn im Zusammenhang mit einer zweiten, dem zweiten Straßenschild entsprechenden Straße. Das System kann sogar einen oder mehrere Prozessoren aufweisen, die ausgebildet sind zum
Bestimmen eines Referenzabstands zwischen dem ersten Punkt auf der Bewegungsbahn im Zusammenhang mit der ersten Straße und dem zweiten Punkt auf der Bewegungsbahn im Zusammenhang mit der zweiten Straße;
Bestimmen auf einer Karte mindestens eines Referenzorts auf der ersten, dem ersten Straßenschild entsprechenden Straße, der den Referenzabstand von der zweiten, dem zweiten Straßenschild entsprechenden Straße aufweist; Abbilden der Bewegungsbahn auf der Karte so, dass der erste Punkt auf der Bewegungsbahn im Zusammenhang mit der ersten Straße mit dem mindestens einen Referenzort auf der Karte übereinstimmt; Optimieren der Position der Bewegungsbahn auf der Karte gemäß einem Optimierungskriterium durch Verschieben des ersten Punktes auf der Bewegungsbahn entlang der ersten Straße auf der Karte und gleichzeitiges Drehen der Bewegungsbahn auf der Karte unter der Randbedingung, dass der zweite Punkt auf der Bewegungsbahn entsprechend der zweiten Straße mit einem anderen Ort der zweiten Straße auf der Karte oder einem anderen Ort mit einem Mindestabstand von der zweiten Straße auf der Karte übereinstimmt, wobei der andere Ort den Referenzabstand von einem Ort auf der ersten Straße auf der Karte aufweist, der mit dem ersten Punkt auf der Bewegungsbahn übereinstimmt.
-
Das Mittel zum Erfassen der Bewegungsbahn eines Fahrzeugs und das Mittel zum gleichzeitigen Suchen nach Straßenschildern kann ein Mittel zur Odometrie, z. B. eine Stereokamera, aufweisen. Der eine oder die mehreren Prozessoren können in einer Rechenvorrichtung enthalten sein, die mit dem Mittel zur Odometrie und dem Speicher gekoppelt ist, und wobei die Rechenvorrichtung in einer Backend-Vorrichtung oder in einer Mobilvorrichtung oder direkt im Fahrzeug enthalten sein kann. Die Kopplung kann drahtgebunden oder im Falle der Backend-Vorrichtung oder der Mobilvorrichtung drahtlos erfolgen.
-
Die vorliegende Offenbarung bezieht sich ferner auf ein Computerprodukt, das Anweisungen enthält, die bei der Ausführung des Programms durch einen Computer den Computer veranlassen, ein Verfahren zur globalen Lokalisierung durch Empfangen einer Bewegungsbahn eines Fahrzeugs durchzuführen, wobei die Bewegungsbahn einen ersten Punkt aufweist, der einem ersten erkannten Straßenschild entspricht, wobei der erste Punkt mit einem Erkennungszeitpunkt und dem Straßennamen der ersten Straße verknüpft ist, wobei die Bewegungsbahn ferner einen zweiten Punkt aufweist, der einem zweiten erkannten Straßenschild entspricht, wobei der zweite Punkt mit einem Erfassungszeitpunkt und dem Straßennamen der zweiten Straße verknüpft ist; Bestimmen eines Referenzabstands zwischen dem ersten Punkt auf der Bewegungsbahn im Zusammenhang mit der ersten Straße und dem zweiten Punkt auf der Bewegungsbahn im Zusammenhang mit der zweiten Straße; Bestimmen mindestens eines Referenzortes auf einer Karte auf der ersten, dem ersten Straßenschild entsprechenden Straße, der den Referenzabstand von der zweiten, dem zweiten Straßenschild entsprechenden Straße aufweist; Abbilden der Bewegungsbahn auf der Karte, sodass der erste Punkt auf der Bewegungsbahn im Zusammenhang mit der ersten Straße mit dem mindestens einen Referenzort auf der Karte übereinstimmt; Optimieren der Position der Bewegungsbahn auf der Karte gemäß einem Optimierungskriterium durch Verschieben des ersten Punktes auf der Bewegungsbahn entlang der ersten Straße auf der Karte und gleichzeitiges Drehen der Bewegungsbahn auf der Karte unter der Randbedingung, dass der zweite Punkt auf der Bewegungsbahn entsprechend der zweiten Straße mit einem anderen Ort der zweiten Straße auf der Karte oder einem anderen Ort mit einem Mindestabstand von der zweiten Straße auf der Karte übereinstimmt, wobei der andere Ort den Referenzabstand von einem Ort auf der ersten Straße auf der Karte aufweist, der mit dem ersten Punkt auf der Bewegungsbahn übereinstimmt.
-
Wie oben beschrieben, kann die Egoposition eines Fahrzeugs mithilfe einer Stereokamera als einzigem Sensor und Offline-Kartendaten für die globale Registrierung wiederhergestellt werden. Daher erfordert das Wiederherstellen der Egoposition weder globale Sensoren wie GPS noch eine grobe anfängliche Schätzung.
-
Figurenliste
-
Verschiedene Ausführungen der vorliegenden Erfindung sind in den Zeichnungen dargestellt und werden im Folgenden beschrieben und besprochen. Dabei
- zeigt 1 eine aufgezeichnete Bewegungsbahn, die durch visuelle Odometrie auf einer Karte erhalten wurde;
- zeigen 2a und 2b jeweils eine Karte mit zwei beobachteten Straßen für eine anfängliche Abbildung;
- zeigt 3 einen Drehkreis;
- zeigen 4a, 4b, 4c einen Anfangs-, Zwischen- bzw. Endzustand des Optimierungsprozesses, und
- zeigt 5 ein Diagramm, das die Kostenfunktion im Vergleich zum Optimierungsparameter darstellt.
-
DETAILLIERTE BESCHREIBUNG
-
Visuelle Odometrie beschreibt die Rekonstruktion von Rotation
Rv und Translation
TV eines an einer mobilen Plattform befestigten Kamerasystems anhand visueller Daten. Basierend auf der Differenz zwischen dem optischen Fluss von allen Merkmalen
mit dem Index n zum Zeitpunkt t — 1 bis zu den entsprechenden Merkmalen des nachfolgenden Bildes
und den modellierten Flüssen gemäß der Bewegungshypothese als:
bezeichnet
das entsprechende Paar von euklidischen Koordinaten für das Merkmal „
n“ zum Zeitpunkt „
t“
und die 3D-Koordinate
Das jeweilige Bild von Koordinaten mit Brennweite / und Hauptpunkt o = [o
x,o
y]
T zum Zeitpunkt t kann als
geschrieben werden. Die Planarprojektion π bildet 3D-Punkte auf Pixelkoordinaten als
ab.
beschreiben somit den Prozess des Erfassens der Bewegungsbahn eines Fahrzeugs. Die erfasste Bewegungsbahn muss anschließend mit einer Offline-Karte abgeglichen werden, z. B. durch Verwendung eines optimierungsbasierten Ansatzes.
-
Iterative Verfahren des nächstliegenden Punktes können zum Optimieren der Bewegungsbahn auf der Offline-Karte durch Verschieben und Drehen der Bewegungsbahn angewendet werden. In Manhattan-ähnlichen Topologien scheitert das iterative Verfahren des nächstliegenden Punktes jedoch in der Regel an der Mehrdeutigkeit der Straßenanordnung. Dies liegt daran, dass die entsprechende Kostenfunktion multimodal ist.
-
Zur Bewältigung dieses Problems können gemäß dem Verfahren Informationen über erkannte Straßenschilder in dieses Problem integriert werden. Dementsprechend weist das Verfahren neben dem Erfassen der Bewegungsbahn des Fahrzeugs auch das gleichzeitige Suchen nach Straßenschildern auf.
1 zeigt eine Karte
100 mit einer Bewegungsbahn
102, die durch visuelle Odometrie rekonstruiert wurde. Die Kreuze
104 markieren die Beobachtungen von gut sichtbaren Straßenschildern an einem bestimmten Punkt der Bewegungsbahn. Ein beobachtetes Straßenschild kann mit einer Straße verknüpft sein, die Teil der Bewegungsbahn ist, oder mit einer Straße, die lediglich mit der Bewegungsbahn in Beziehung steht, d. h. eine definierte Beziehung zur Bewegungsbahn aufweist, aber nicht Teil von ihr ist. Die beobachteten Straßenschilder können dazu verwendet werden, die lokale, relative Bewegungsbahn auf der Karte global zu registrieren, d. h. eine Anfangsposition der Bewegungsbahn auf der Karte zu liefern. Daher kann die Anfangsposition durch Verschmelzen der Bewegungsbahn aus Odometrie, Offline-Kartendaten und den Informationen über erkannte Schilder bestimmt werden. Die Offline-Karte Ω kann aus J Straßen, Ω = [ω
1,...,ω
J] bestehen, wobei jede Straße
ωJ aus
PJ Knotenpunkten,
bestehen kann.
bezeichnet eine Liste von Straßen mit den Namen der ersten/zweiten beobachteten Straße zum Erkennungszeitpunkt
und
als entsprechenden Ort auf der beobachteten Fahrzeugbewegungsbahn. Eine Kombination von Orten auf den Straßen ω
A,c A (λ
A) und ω
B,c B (λ
B), wobei λ
A/B, 0 ≤ λ
A/B ≤ 1 die Position der Bewegungsbahn auf der Straße eindeutig parametrisiert, kann untersucht werden, um eine anfängliche Abbildungsposition zu finden. Dies kann durch Iterieren über die Kandidatenindizes
ca für die erste und
cb für die zweite beobachtete Straße erfolgen, bis die folgende Bedingung erfüllt ist:
(2) kann durch einen die erste Bewegungsbahn darstellenden Begrenzungsrahmen approximiert werden. Dieser Begrenzungsrahmen kann in Richtung ±x und ±y um ∥τ
A - τ
B∥
2 erweitert werden. Wenn sich ein Element der zweiten Straße in diesem Rahmen befindet, ist Gl. 2 erfüllt, wie mit Bezug auf
2 erläutert wird, die ein Beispiel für die Initialisierung nur mit Kamera- und Karteninformationen zeigt.
2a zeigt einen Auszug aus einer Karte
200 einer Stadt. Die erste Straße
202, die einem ersten Straßenschild entspricht, und die zweite Straße
204, die einem zweiten Straßenschild entspricht, sind jeweils durch eine gepunktete Linie gekennzeichnet. Durch Auswerten der Bewegungsbahn aus der visuellen Odometrie kann der Abstand zwischen den relativen Positionen zu den Erkennungszeitpunkten der ersten und zweiten Straße bestimmt werden. Durch Erweitern des volllinigen Begrenzungsrahmens
206 um diesen Referenzabstand wird ein weiterer, gepunkteter Begrenzungsrahmen
208 erzeugt. Mindestens ein Element der zweiten Straße muss sich innerhalb des Begrenzungsrahmens
208 befinden, wenn die Kartentopologie zur gemessenen Bewegungsbahn passt. Wie zu sehen ist, ist dies nicht der Fall. Daher ist die Karte
200 kein möglicher Kartenausschnitt.
2b zeigt eine Karte
210 einer anderen Stadt. Die erste Straße
212, die einem ersten Straßenschild entspricht, und die zweite Straße
214, die einem zweiten Straßenschild entspricht, sind jeweils durch eine gepunktete Linie gekennzeichnet. Die zweite Straße
214 ist, im Gegensatz zur Karte
200, wie in
2a dargestellt, im gepunktet eingezeichneten Begrenzungsrahmen
218 enthalten. Daher ist die Karte
210 ein möglicher Kartenausschnitt. Diese Auswertung kann für alle möglichen Kandidaten durchgeführt werden. Wenn nur noch ein Kartenausschnitt übrig bleibt, ist eine Initialisierung gefunden. Wenn nicht, können weitere Straßenschilder auf die gleiche Weise ausgewertet werden, um eine eindeutige Initialisierung zu erhalten. Alternativ können die Kandidaten weiter bearbeitet werden, um eine eindeutige Lösung zu finden, bei der der durchschnittliche iterative Fehler des nächstliegenden Punktes unter einem Schwellenwert liegt.
-
Das Verfahren basiert auf Parameterraumreduktion, wie durch Vergleichen mit iterativen Standardverfahren zur Bestimmung des nächstliegenden Punktes erläutert wird. Da die Offline-Karte aus Open Street Map (OSM)-Daten generiert werden kann, muss nur der Ebenenabgleich durchgeführt werden. Damit ergibt sich die Rotationsmatrix R mit Drehung α um die Achse [0,0]
T und normal zur Kartenebene als
-
Die Verschiebung der Bewegungsbahn innerhalb der Karte kann mit dem Zusatz von T = [t
x,t
y]
T durchgeführt werden. Durch Drehen und Verschieben der Bewegungsbahn τ ergeben sich also drei Parameter {t
x, t
y, α}, die geschätzt werden müssen. Das daraus resultierende Optimierungsproblem kann folgendermaßen formuliert werden:
mit
-
Durch Kombinieren der Rekonstruktion einer Bewegungsbahn eines Fahrzeugs in einer visuellen Odometriepipeline mit gleichzeitiger Erkennung von Straßenschildern lässt sich jedoch die Optimierungsparameterraumdimension von ℝ3 auf ℝ1 reduzieren. Zusammen ergibt sich die Randbedingung aus einem Straßenschild, das zu einem bestimmten Zeitpunkt beobachtet wird und in die Kostenfunktion integriert ist.
-
Der Optimierungsparameter 0 ≤ λ ≤ 1 mit λ ∈ ℝ wird eingeführt. Er beschreibt einen beliebigen Ort auf der ersten Straße, der mit dem ersten Punkt auf der Bewegungsbahn übereinstimmt, wobei A = 0 für den Anfang der Straße und λ = 1 für das Ende der ersten Straße steht. Dieser Ort kann dazu verwendet werden, die Bewegungsbahn so zu verschieben, dass die Bewegungsbahn zum Zeitpunkt
tA der Beobachtung der ersten Straße am Nullpunkt ihres Koordinatensystems liegt und somit ein Drehmittelpunkt ist:
-
Straßen können als Sammlungen von geordneten Knotenpunkten gespeichert werden. Das Verbinden dieser geordneten Knoten mit geraden Linien von einem
zum nächsten Knoten
stellt die Form der Straße wieder her. Dies führt zu einer spärlichen Darstellung der Informationen, muss aber berücksichtigt werden. Für einen gegebenen Parameter λ, die entsprechende kontinuierliche Koordinate auf der Straße
j, kann ω
j(λ) als Interpolation zwischen der Knotennummer
p0 und p
0+1 berechnet werden als
-
Der Index
p0 wird mit der kumulierten Straßenlänge
und der Gesamtlänge
der Straße
j wie folgt bestimmt:
- p0 ist der höchste Index, der
erfüllt.
-
Damit wird sichergestellt, dass der Punkt der Bewegungsbahn zum Beobachtungszeitpunkt tA der ersten Straße kontinuierlich verschoben werden kann und immer auf der ersten Straße innerhalb der Karte liegt.
-
Nun können (6) und (7) verwendet werden, um die Verschiebung [tx,ty] T durch T(λ) zu ersetzen, was zu einer Reduzierung des Optimierungsparameters um eins führt. Der Drehwinkel α kann wie folgt abgeleitet werden:
-
Da die Beobachtungszeitpunkte der ersten Straße
tA und
tB bekannt sind, kann auch der metrische Abstand, d. h. ein Referenzabstand, zwischen diesen Punkten in der Karte d(
ωA (λ),
ωB (λ)) berechnet werden als
-
Als Nächstes kann der Kreuzungspunkt zwischen einem Kreis mit dem Radius
r = (
ωA (λ),ω
B(λ)) um einen durch λ bestimmten Punkt auf der ersten Straße
ωA (λ) und der zweiten beobachteten Straße berechnet werden als:
-
Aufgrund der spärlichen Darstellung der Kartendaten muss
ωB (λ
B) durch Iterieren durch alle Linien, die durch
bis
gebildet werden, gefunden werden, bis der Kreuzungspunkt gefunden ist. Wenn keine eindeutige Lösung identifiziert werden kann, können beide resultierenden Lösungen parallel verwendet und ausgewertet werden. Es kann dann die Konfiguration mit dem geringeren Fehler gemäß (4) gewählt werden.
-
Mit dem ermittelten Kreuzungspunkt
ωB (λ
B) und den vertikalen und horizontalen Straßenkomponenten ω
A,x(λ) und ω
A,y(λ) kann der Drehwinkel α in Abhängigkeit von λ folgendermaßen bestimmt werden:
-
Das Prinzip der Rotations-Teilstation ist in 3 dargestellt.
-
Die Linie 302, die durch drei Kreuze aus den Kartendaten gebildet wird, ist die erste beobachtete Straße ωA . Die Linie 304, die durch fünf Kreuze aus den Kartendaten gebildet wird, ist die zweite beobachtete Straße ωB . Mit λ = 0.6 wird durch Anwenden von (7) die Position ωA (λ) des Kreuzes 308 bestimmt. Der Kreis 300 mit dem Radius kann durch Anwenden von (8) berechnet werden. Der Schnittpunkt mit der zweiten beobachteten Straße ωB , die durch das Kreuz 310 visualisiert wird, kann durch Anwenden von (9) bestimmt werden. Die Linie 306, die das Kreuz 308 und das Kreuz 310 verbindet, kann nun durch Anwenden von (10) zum Berechnen des kartenbasierten Drehwinkels verwendet werden, der dem ersten von (10) entspricht.
-
Unter Bezugnahme auf 2 und wie oben, kann das Verfahren das Bestimmen eines Referenzabstands zwischen dem ersten Punkt auf der Bewegungsbahn im Zusammenhang mit der ersten Straße 212 und dem zweiten Punkt auf der Bewegungsbahn im Zusammenhang mit der zweiten Straße 214 und das Bestimmen mindestens eines Referenzortes auf der ersten, dem ersten Straßenschild entsprechenden Straße 212, die den Referenzabstand von der zweiten, dem zweiten Straßenschild entsprechenden Straße 214 aufweist, auf einer Karte aufweisen. Der Referenzabstand dient dazu, einen Referenzort auf der ersten Straße 212 auf der Karte zu finden, der um den Referenzabstand von einem anderen Ort auf der zweiten Straße 214 auf der Karte entfernt ist. Das Verfahren kann ferner das Abbilden der Bewegungsbahn auf der Karte aufweisen, sodass der erste Punkt auf der oder relativ zur Bewegungsbahn im Zusammenhang mit der ersten Straße 212 mit dem mindestens einen Referenzort auf der Karte übereinstimmt. Von dieser anfänglichen Abbildung aus kann die Bewegungsbahn dann weiter mit der Karte abgeglichen werden.
-
Darüber hinaus kann das Verfahren das Optimieren der Position der Bewegungsbahn auf der Karte nach einem Optimierungskriterium aufweisen, indem der erste Punkt auf der oder relativ zur Bewegungsbahn zwischen dem Anfang und dem Ende der ersten Straße verschoben wird und gleichzeitig die Bewegungsbahn auf der Karte unter der Randbedingung gedreht wird, dass der zweite Punkt auf der oder relativ zur Bewegungsbahn entsprechend der zweiten Straße mit einem anderen Ort der zweiten Straße auf der Karte übereinstimmt, der den Referenzabstand von einem Ort auf der ersten Straße auf der Karte aufweist, der mit dem ersten Punkt auf der oder relativ zur Bewegungsbahn übereinstimmt, d. h. so, dass der Referenzort ein Drehmittelpunkt ist, siehe 3.
-
4a - 4c zeigen ein Beispiel für den Optimierungsprozess, wobei 4a den Anfangszustand, 4b einen Zwischenzustand und 4c den Endzustand darstellt.
-
4a zeigt den Anfangszustand des Optimierungsprozesses nach dem Abbilden der Bewegungsbahn 406 auf der Karte 400 am Referenzort 408, wobei die Referenzdifferenz, d. h. der Abstand zwischen einem ersten Punkt τA auf der Bewegungsbahn 406 im Zusammenhang mit der ersten, durch die Linie 402 dargestellten Straße ωA entsprechend einem ersten erkannten, zum Erkennungszeitpunkt tA beobachteten Straßenschild und einem zweiten Punkt τB auf der Bewegungsbahn 406 im Zusammenhang mit der zweiten, durch die Linie 404 dargestellten Straße ωB entsprechend einem zweiten erkannten, zum Erkennungszeitpunkt tB beobachteten Straßenschild, gleich der Differenz zwischen dem Referenzort 408 auf der ersten Straße ωA und einem entsprechenden Ort auf der Straße ωB ist. Nach der anfänglichen Abbildung wird die Bewegungsbahn 406 entlang der ersten Straße ωA verschoben und gedreht, um die Abweichung zwischen der Bewegungsbahn 406 und den nächstliegenden Straßen zu minimieren, die durch die dünnen parallelen Linien rechtwinklig zu der Straße, auf die sich die Abweichung bezieht, angezeigt wird. 4 b zeigt einen Zwischenzustand des Optimierungsprozesses, in dem zu beobachten ist, dass die Abweichung im Vergleich zum Ausgangszustand kleiner geworden ist. 4 c zeigt den Endzustand des Optimierungsprozesses, wobei zu beobachten ist, dass die Bewegungsbahn 406 eine nahezu perfekte Übereinstimmung mit den nächstliegenden Straßen aufweist. Konkret ist die Bewegungsbahn 406 exakt auf eine Vielzahl von Straßen abgebildet.
-
5 zeigt den Wert der Kostenfunktion, d. h. die mittlere Abweichung gegenüber dem Optimierungsparameter A. Es ist zu beobachten, dass die Kostenfunktion ein globales Minimum bei λ = 0.97 entsprechend dem Endzustand wie in 4c dargestellt, aber auch mehrere lokale Minima aufweist. Somit könnte ein gradientenbasierter Optimierer in einem lokalen Minimum stecken bleiben. Daher wird der Parameterraum von λ gerastert, d. h. in eine Vielzahl von Intervallen unterteilt, die durch die gestrichelte Linie angezeigt werden. Die Optimierung wird für jedes der Vielzahl von Intervallen durchgeführt. Innerhalb jedes Intervalls kann die Kostenfunktion als unimodal betrachtet werden. Daher besteht in jedem der Vielzahl von Intervallen ein eindeutiges Minimum. Das Intervall mit der kleinsten Abweichung wird als die endgültige Lösung übernommen.