-
VERWEIS AUF VERWANDTE ANWENDUNG
-
Diese Anmeldung basiert auf der
JP 2018-016 396 A , die am 1. Februar 2018 eingereicht wurde und deren Inhalt hier durch Verweis aufgenommen wird.
-
TECHNISCHES GEBIET
-
Die vorliegende Offenbarung bezieht sich auf eine Vorrichtung zum Erzeugen von Bilddaten für ein Fahrzeug, ein System zum Erzeugen von Fahrtrajektoriendaten, ein Programm zum Erzeugen von Segmentbilddaten und ein Speichermedium.
-
STAND DER TECHNIK
-
Der Server stellt einen Aufbau für die Erkennung von Bildern aus Basiskartendaten, Luftbilddaten, Kartendaten für die Navigation und dergleichen sowie für die Erzeugung von Fahrtrajektoriendaten für das autonome Fahren bereit. Im vorstehend erwähnten Aufbau zur Erkennung von Bildern aus verschiedenen Daten kann es jedoch schwierig sein, Grenzlinien zu erkennen, z.B. in einem Abschnitt unter einer Überführung, einem Tunnelabschnitt, einem Abschnitt, in dem ein Fahrzeug parkt und/oder stoppt, so dass es schwierig sein kann, die Fahrtrajektoriendaten zu erzeugen. Unter solchen Umständen werden auf Seiten des Fahrzeugs die von der fahrzeugseitigen Kamera erzeugten Bilddaten an den Server übertragen. Im Server werden zusätzlich zur Bilderkennung der vorstehend beschriebenen Basiskartendaten und dergleichen auch die fahrzeugseitig empfangenen Bilddaten durch eine Bilderkennung verarbeitet, und es ist vorstellbar, die Daten für die Fahrtrajektorie bzw. Fahrtrichtung zu erzeugen, indem der Bereich, in dem die Grenzlinien aus den Basiskartendaten und dgl. schwer erkennbar sind, durch die vom Fahrzeug empfangenen Bilddaten ergänzt wird. In der Patentschrift 1 wird z.B. ein Aufbau offenbart, in dem eine Fahrzeugkamera ein Bild vor einem Fahrzeug aufnimmt und daraus Bilddaten vor dem Fahrzeug erzeugt.
-
LITERATUR ZUM STAND DER TECHNIK
-
PATENTLITERATUR
-
Patentschrift 1:
JP 2017-78607-A
-
ZUSAMMENFASSUNG DER ERFINDUNG
-
Wenn die von der fahrzeuginternen Kamera erzeugten Bilddaten unverändert an den Server übertragen werden, kann die Schwierigkeit auftreten, dass die an den Server zu übertragende Datenmenge sehr groß sein kann. Wenn außerdem ein Abrechnungssystem für Geldbeträge eingesetzt wird, bei dem die Kommunikationskosten von der Datenmenge abhängen, kann die weitere Schwierigkeit auftreten, dass die Kommunikationskosten mit der sehr großen Datenmenge steigen können.
-
Es ist eine Aufgabe der vorliegenden Offenbarung, eine Vorrichtung zum Erzeugen von Bilddaten für ein Fahrzeug, ein System zum Erzeugen von Fahrtrajektoriendaten, ein Programm zum Erzeugen von Segmentbilddaten und ein Speichermedium zur geeigneten Übertragung von Daten bereitzustellen, die zum Erzeugn der Fahrtrajektoriendaten für autonomes Fahren zur Verfügung stehen, und dabei verschiedene Schwierigkeiten zu vermeiden, die mit einer Erhöhung der Datenmenge verknüpft sind, indem die seitens des Fahrzeugs an einen Server übertragene Datenmenge verringert wird, der die Fahrtrajektoriendaten für autonomes Fahren erzeugt.
-
Nach einem Aspekt der vorliegenden Offenbarung werden zumindest entweder die Basiskartendaten, die Luftbilddaten oder die Kartendaten für die Navigation durch Bilderkennung verarbeitet, und die von der fahrzeuginternen Kamera erzeugten Bilddaten werden durch Bilderkennung verarbeitet, und die Ergebnisdaten werden einem Server mitgeteilt, der die Fahrtrajektoriendaten für das autonome Fahren erzeugt. Die Einheit zum Erzeugen von Segmentbilddaten erzeugt Bilddaten für jedes Segment als Segmentbilddaten basierend auf den von der fahrzeuginternen Kamera erzeugten Bilddaten. Die Datenübertragungseinheit überträgt die von der Einheit zum Erzeugen von Segmentbilddaten erzeugten Segmentbilddaten an den Server.
-
Anstatt die von der Fahrzeugkamera erzeugten Bilddaten unverändert an den Server zu übertragen, werden die Segmentbilddaten für jedes Segment aus den Bilddaten erzeugt und die erzeugten Segmentbilddaten an den Server übertragen. Dadurch ist es möglich, unter Verringerung der Datenmenge, die seitens des Fahrzeugs an den Server übertragen wird, der die Fahrtrajektoriendaten für das autonome Fahren erzeugt, und unter geeigneter Vermeidung verschiedener Schwierigkeiten, die aufgrund einer Zunahme der Datenmenge auftreten können, geeignet Daten an den Server zu übertragen, die für die Erzeugung der Fahrtrajektoriendaten nützlich sind.
-
Figurenliste
-
Die vorstehend genannten und andere Aufgaben, Merkmale und Vorteile der vorliegenden Offenbarung werden in der nachfolgenden genauen Beschreibung deutlich, die anhand der beigefügten Figuren erstellt wurde. In den Figuren sind:
- 1 ein funktionales Blockschaubild, das den Gesamtaufbau einer Ausführungsform zeigt;
- 2 ein funktionales Blockschaubild, das einen Aufbau eines Servers zeigt;
- 3 ein Ablaufplan, der den Prozess der Erzeugung von Segmentbilddaten zeigt;
- 4 ein Schaubild, das Bilddaten zeigt;
- 5 ein Schaubild, das gekoppelte Bilddaten zeigt;
- 6 ein Schaubild, das Segmentbilddaten zeigt;
- 7 ein Schaubild, das einen Modus zum Eliminieren eines unnötigen Objekts aus Segmentbilddaten veranschaulicht;
- 8 ein Schaubild, das einen Modus zum Erkennen einer Spurbegrenzungslinie in Segmentbilddaten veranschaulicht;
- 9 ein Schaubild, das einen Modus zum Spezifizieren einer Fahrspurmittellinie in Segmentbilddaten veranschaulicht;
- 10 ein Schaubild, das einen Modus zum Spezifizieren einer vorläufigen Position einer Fahrbahnmittellinie veranschaulicht;
- 11 ein Schaubild, das eine dreispurige Straße zeigt;
- 12 ein Schaubild, das Fahrbahnattribute zeigt;
- 13 ein Schaubild, das einen Modus zum Spezifizieren einer absoluten Position der Fahrbahnmittellinie veranschaulicht;
- 14 ein Schaubild, das Straßeninformationsdaten zeigt;
- 15 ein Schaubild, das Originalbilddaten als Quelle von Segmentbilddaten zeigt; und
- 16 ein Schaubild, das Segmentbilddaten zeigt.
-
AUSFÜHRUNGSFORMEN ZUR DURCHFÜHRUNG DER ERFINDUNG
-
Nachstehend wird eine Ausführungsform anhand der Figuren beschrieben. Wie in 1 dargestellt ist, umfasst das System 1 zum Erzeugen von Fahrtrajektoriendaten eine in einem Fahrzeug montierte Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug und einen Server 3, und die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug und der Server 3 kommunizieren über ein Kommunikationsnetz miteinander. Das Kommunikationsnetz ist zum Beispiel ein Fernbereichskommunikationsnetz bzw. Mobilfunknetz.
-
Wie in 2 dargestellt ist, führt der Server 3 eine Bilderkennung z.B. anhand von grundlegenden Kartendaten durch, die das Geographical Survey Institute of Japan bereitgestellt hat, von Luftbilddaten, die ein Flugzeug am Himmel aufgenommen hat, von Navigationskartendaten, die für Navigationszwecke verwendet werden, und dergleichen, und arbeitet, um Fahrtrajektoriendaten für autonomes Fahren zu erzeugen. Der Server 3 umfasst eine Bilderkennungseinheit 4, eine Einheit 5 zum Erzeugen von Spurnetzwerkdaten zwischen Kreuzungen, eine Einheit 6 zum Verarbeiten von Spurnetzwerkdaten zwischen Kreuzungen, eine Einheit 7 zum Erzeugen von Spurnetzwerkdaten in Kreuzungen, eine Einheit 8 zum Korrigieren von Spurnetzwerkdaten in Kreuzungen, eine Einheit 9 zum Angeben von Bildwechselpunkten und eine Einheit 10 zum Wiedergeben von Änderungspunktinformationen.
-
Wenn die Basiskartendaten, die Luftbilddaten und die Kartendaten für die Navigation eingegeben werden oder wenn die vom Fahrzeug übertragenen Segmentbilddaten eingegeben werden, führt die Bilderkennungseinheit 4 eine Bilderkennung der eingegebenen verschiedenen Daten durch und erzeugt die Spurliniendaten zwischen den Kreuzungen, die die Spurlinie zwischen den Kreuzungen anzeigen, und Farbdaten auf einer Kreuzung, die die Farbe auf der Kreuzung anzeigen, und erzeugt außerdem Daten zur Information über nicht erkannte Segmente, die das Segment anzeigen, in dem die Erkennung deaktiviert ist. Bei den Daten zur Information über nicht erkannte Segmente handelt es sich um einen Abschnitt unter einer Überführung, einen Tunnelabschnitt, einen Abschnitt, auf dem Fahrzeuge parken und halten, und dergleichen, so dass es schwierig ist, eine Markierungs- bzw. Begrenzungslinie im Abschnitt zu erkennen.
-
Bei der Eingabe der Kartendaten für die Navigation erzeugt die Einheit 5 zur Datenerzeugung für Spurnetzwerke zwischen Kreuzungen basierend auf den eingegebenen Navigationskartendaten weiträumig Spurnetzwerkdaten für das weite Umfeld zwischen Kreuzungen. Das weite Umfeld ist z.B. ein Bereich mit überörtlichen bzw. nationalen Straßen. Bei der Eingabe der Spurnetzwerkdaten zwischen Kreuzungen im weiten Umfeld und der Spurbegrenzungsliniendaten zwischen Kreuzungen in die Datenverarbeitungseinheit 6 für die Spurnetzwerke zwischen Kreuzungen passt die Einheit 6 die Position in den Spurnetzwerkdaten für das weite Umfeld zwischen Kreuzungen an und setzt die Attribute der Spurnetzwerkdaten für das weite Umfeld zwischen Kreuzungen, so dass die Einheit 6 die endgültige Version der Spurnetzwerkdaten zwischen Kreuzungen im weiten Umfeld erzeugt. Die Attribute sind z.B. Art und Farbe der Begrenzungslinie.
-
Bei der Eingabe der endgültigen Version der Spurnetzwerkdaten zwischen Kreuzungen im weiten Umfeld in die Einheit 7 zum Erzeugen von Spurnetzwerkdaten in der Kreuzung generiert die Einheit 7 die Spurnetzwerkdaten zwischen Kreuzungen im weiten Umfeld mit Daten innerhalb der Kreuzung als vorläufige Daten mittels eines maschinellen Lernmodellverfahrens oder dergleichen, das auf der eingegebenen endgültigen Version der Spurnetzwerkdaten zwischen Kreuzungen im weiten Umfeld basiert. Bei der Eingabe der Spurnetzwerkdaten im weitem Umfeld, wobei Daten innerhalb der Kreuzung als vorläufige Daten genutzt werden, und der Farbdaten innerhalb der Kreuzung in die Korrektureinheit 8 für Spurnetzwerkdaten in Kreuzungen korrigiert die Einheit 8 die Spurnetzwerkdaten innerhalb der Kreuzung abhängig von verschiedenen Eingangsdaten und erzeugt die endgültige Version der weiträumigen Spurnetzwerkdaten zwischen den Kreuzungen und innerhalb der Kreuzung als ein Objekt.
-
Bei der Eingabe der Segmentbilddaten, der endgültigen Version der Spurnetzwerkdaten im weiten Umfeld und der Straßeninformationsdaten spezifiziert die Einheit 9 zum Festlegen des Bildänderungspunkts einen Änderungspunkt eines Segments, der sich gegenüber vorherigen Segmentbilddaten desselben Segments ändert, als Änderungspunktinformation aufgrund von verschiedenen Eingangsdaten und erzeugt die Änderungspunktinformationsdaten. Bei der Eingabe der Änderungspunktinformationsdaten gibt die Einheit 10 zur Wiedergabe der Änderungspunktinformation die eingegangenen Änderungspunktinformationsdaten in der endgültigen Version der Spurnetzwerkdaten im weiten Umfeld wieder.
-
Die Bilddatenerzeugungsvorrichtung 2 für Fahrzeuge umfasst eine Einheit 11 zum Erzeugen von Segmentbilddaten, eine Einheit 12 zum Löschen unnötiger Objekte 12, eine Spurlinienerkennungseinheit 13, eine Einheit 14 zum Festlegen der Spurmittellinie, eine Einheit 15 zum Festlegen einer vorläufigen Position 15, eine Einheit 16 zum Festlegen einer absoluten Position, eine Zuordnungseinheit 17 für Evaluierungsergebnisse, eine Speichereinheit bzw. einen Speicher 18 für Segmentbilddaten, eine Einheit 19 zum Festlegen von Änderungspunktinformationen, eine Datenerzeugungseinheit 20 für Straßeninformation und eine Datenübertragungseinheit 21. Diese Funktionsblöcke werden von einem Mikrocomputer mit einer CPU (Central Processing Unit, Hauptprozessor), einem ROM (Read Only Memory, Nur-Lese-Speicher), einem RAM (Random Access Memory, Speicher mit wahlfreiem Zugriff) und einer I-O- (Input-Output, Ein-/ Ausgabe-) Vorrichtung bereitgestellt. Der Mikrocomputer führt einen Ablauf basierend auf dem Computerprogramm aus, indem er das in dem nichtflüchtigen Speichermedium gespeicherte Computerprogramm ausführt, und steuert die Gesamtvorgänge der Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug. Die vom Mikrocomputer ausgeführten Computerprogramme umfassen ein Programm zum Erzeugen von Segmentbilddaten.
-
Die fahrzeuginterne Kamera 22 ist am Fahrzeug so montiert, dass sie einen Bereich vor dem Fahrzeug abbildet, der die Straßenoberfläche umfasst, erzeugt Bilddaten, indem sie einen Bereich fotografiert, der die Straßenoberfläche vor dem Fahrzeug umfasst, und überträgt die erzeugten Bilddaten an die Bilddatenerzeugungsvorrichtung 2 für das Fahrzeug. Der GPS (also Global Positioning System)-Empfänger 23 empfängt GPS-Signale, die von zahlreichen GPS-Satelliten gesendet werden, die die Erde umkreisen, berechnet die in den empfangenen GPS-Signalen gespeicherten Parameter, spezifiziert die GPS-Trajektorie des Fahrzeugs und gibt die spezifizierte GPS-Trajektorie an die Bilddatenerzeugungsvorrichtung 2 für das Fahrzeug aus. Die GPS-Trajektorie ist eine absolute Trajektorie, die einen verfolgten Fahrweg absolut angibt. Der Kreiselsensor bzw. Gyrosensor 24 berechnet die Stellung der Fahrzeugkarosserie aus der auf die Fahrzeugkarosserie wirkenden Winkelgeschwindigkeit, um die abgeschätzte bzw. vorläufige Trajektorie des Fahrzeugs festzulegen, und gibt die festgelegte vorläufige Trajektorie des Fahrzeugs an die Bilddatenerzeugungsvorrichtung 2 für das Fahrzeug aus. Der Fahrzeuggeschwindigkeitssensor 22 erfasst die Fahrzeuggeschwindigkeit aus den Pulsen der Fahrzeuggeschwindigkeit und gibt die erfasste Fahrzeuggeschwindigkeit an die Bilddatenerzeugungsvorrichtung 2 für das Fahrzeug aus.
-
Die Bilddatenerzeugungsvorrichtung 2 für das Fahrzeug erzeugt Bilddaten für jedes Segment als Segmentbilddaten anhand von Bilddaten, die von der fahrzeuginternen Kamera 22 eingehen, der GPS-Trajektorie des Fahrzeugs, die vom GPS-Empfänger 23 eingeht, der geschätzten bzw. vorläufigen Trajektorie des Fahrzeugs, die vom Gyrosensor 24 eingeht, der Fahrzeuggeschwindigkeit, die vom Fahrzeuggeschwindigkeitssensor 25 eingeht, und von Kartendaten für die Navigation. Die Vorrichtung 2 gibt die erzeugten Segmentbilddaten an den Server 3 weiter.
-
Die Einheit 11 zur Segmentbilddatenerzeugung umfasst eine Bilddatenanordnungseinheit 11a, eine Bilddatenkopplungseinheit 11b und eine Bilddatenaufteilungseinheit 11c. Die Bilddatenanordnungseinheit 11a ordnet zahlreiche Bilddaten, die von der fahrzeuginternen Kamera 22 erzeugt werden, in chronologischer Reihenfolge passend zu den Koordinatenpunkten der vorläufigen Trajektorie des Fahrzeugs an. Die Bilddatenkopplungseinheit 11b koppelt die zahlreichen von der Bilddatenanordnungseinheit 11a angeordneten Bilddaten passend zur Farbe auf der Straßenoberfläche, um die gekoppelten Bilddaten zu erzeugen. Die Bilddatenaufteilungseinheit 11 c teilt die von der Bilddatenkopplungseinheit 11b erzeugten gekoppelten Bilddaten in jeweilige Segmente passend zur Farbe auf der Straßenoberfläche oder den Navigationskartendaten, um Segmentbilddaten zu erzeugen.
-
Die Einheit 12 zum Löschen unnötiger Objekte passt die Helligkeit eines Schattens in den Segmentbilddaten an, die von der Einheit 11 zur Segmentbilddatenerzeugung erzeugt werden, und eliminiert bzw. löscht unnötige Objekte aus den Segmentbilddaten. Die Fahrspurlinien-Erkennungseinheit 13 erkennt eine Fahrspurlinie in den von der Einheit 11 zur Segmentbilddatenerzeugung erzeugten Segmentbilddaten.
-
Die Einheit 14 zum Festlegen der Spurmittellinie legt die Spurmittellinie in den Segmentbilddaten aus dem Ergebnis der Erfassung der Spurlinie durch die Spurlinienerkennungseinheit 13 fest. Die Einheit 15 zum Festlegen der vorläufigen Position legt die Fahrtrichtung des Fahrzeugs mittels der GPS-Trajektorie des Fahrzeugs fest, vergleicht die Fahrtrichtung des Fahrzeugs zumindest mit entweder der Straßenmittellinie in den Navigationskartendaten oder der Fahrtrajektorie des Fahrzeugs und legt die vorläufige Position der Fahrspurmittellinie in den Segmentbilddaten fest, die durch die Einheit 14 zum Festlegen der Spurmittellinie angegeben werden. Die Einheit 16 zum Festlegen der absoluten Position vergleicht die Navigationskartendaten mit dem Ergebnis der Erkennung der Fahrspurlinie durch die Spurlinienerkennungseinheit 13, und gibt in den Segmentbilddaten die absolute Position der Spurmittellinie an, deren vorläufige Position festgelegt wurde.
-
Die Zuordnungseinheit 17 für Evaluierungsergebnisse ordnet den von der Einheit 11 zur Segmentbilddatenerzeugung erzeugten Segmentbilddaten ein Auswertungs- bzw. Evaluierungsergebnis zu. Das Evaluierungsergebnis ist ein Index, der durch Digitalisierung z.B. der Helligkeit des Bildes, der Rauschunterdrückungsrate in den Segmentbilddaten, der Spurlinienerkennungsrate und dergleichen erzeugt wird. Je höher der numerische Wert des Index ist, desto besser ist das Evaluierungsergebnis, und je niedriger der numerische Wert des Index ist, desto schlechter ist das Evaluierungsergebnis. Die Speichereinheit 18 für Segmentbilddaten speichert die Segmentbilddaten, die von der Einheit 11 zur Segmentbilddatenerzeugung erzeugt wurden, und das Evaluierungsergebnis, das von der Zuordnungseinheit 17 für Evaluierungsergebnisse zu den Segmentbilddaten zugeordnet wurde, miteinander verknüpft.
-
Die Einheit 19 zum Festlegen von Änderungspunktinformation legt als Änderungspunktinformation einen Änderungspunkt der Segmentbilddaten fest, die von der Einheit 11 zur Segmentbilddatenerzeugung erzeugt werden, der sich von den vorhergehenden Segmentbilddaten desselben Segments unterscheidet. Bei der Änderungspunktinformation handelt es sich um eine Erhöhung oder Verringerung der Zahl der Fahrspuren, eine Änderung der Farbe auf der Straßenoberfläche oder dergleichen.
-
Die Datenerzeugungseinheit 20 für Straßeninformation erzeugt Straßeninformationsdaten aus den von der fahrzeuginternen Kamera 22 erzeugten Bilddaten und verbindet die erzeugten Straßeninformationsdaten mit den Segmentbilddaten. Die Straßeninformationsdaten sind Informationen über die Objekte auf der Straße in den Segmentbilddaten und umfassen die Koordinatenpositionen von Fahrbahnmarkierungen wie einem Fußgängerüberweg, einer Haltelinie oder einer Rautenfigur inmitten einer Kreuzung, die relative Position eines Straßenschildes und einer Ampel zur Mittellinie einer Fahrspur und deren Höhe über der Straßenoberfläche.
-
Die Datenübertragungseinheit 21 überträgt die Segmentbilddaten, die in der Speichereinheit 18 für Segmentbilddaten gespeichert sind, an den Server 3. Bei der Übertragung der Segmentbilddaten an den Server 3 überträgt die Datenübertragungseinheit 21 das Ergebnis der Erkennung der Fahrspurabgrenzung in den Segmentbilddaten, die von der Spurlinienerkennungseinheit 13 erkannt wurde, die absolute Position der Fahrspurmittellinie in den Segmentbilddaten, die durch die Einheit 16 zum Festlegen der absoluten Position festgelegt wurde, das Evaluierungsergebnis, das durch die Zuordnungseinheit 17 für Evaluierungsergebnisse zugeordnet wurde, und die Änderungspunktinformation, die die Einheit 19 zum Festlegen der Änderungspunktinformation festgelegt hat, an den Server 3. Zudem überträgt die Datenübertragungseinheit 21 die von der Datenerzeugungseinheit 20 für Straßeninformationsdaten erzeugten Straßeninformationsdaten an den Server 3.
-
Als Nächstes wird die Funktionsweise des vorstehend beschriebenen Aufbaus anhand der 3 bis 16 beschrieben.
Die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug führt einen Vorgang zum Erzeugen von Segmentbilddaten durch, indem sie ein Programm zum Erzeugen von Segmentbilddaten ausführt. Wenn das den Vorgang zum Erzeugen von Segmentbilddaten auslösende Ereignis festgestellt wird, startet die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug (in S1) den Vorgang zum Erzeugen von Segmentbilddaten und ordnet zahlreiche Bilddaten, die von der fahrzeuginternen Kamera 22 erzeugt werden, in einer chronologischen Reihenfolge passend zu den Koordinatenpunkten der vorläufigen bzw. abgeschätzten Trajektorie des Fahrzeugs an. Wie in 4 dargestellt ist, ordnet die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug durch Ausführen einer Orthotransformation bzw. winkeltreuen Transformation der von der fahrzeuginternen Kamera 22 erzeugten Bilddaten zahlreiche Bilddaten passend zu den in regelmäßigen Zeitintervallen erhaltenen Koordinatenpunkten der geschätzten Trajektorie des Fahrzeugs an. In diesem Fall ordnet die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug zahlreiche Bilddaten an, wobei die Fahrtrichtung des Fahrzeugs beispielsweise [in der Figur] nach oben festgelegt wird.
-
Als Nächstes fügt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug (in S2) die zahlreichen angeordneten Bilddaten anhand der Farbe der Straßenoberfläche zusammen und erzeugt zusammengefügte Bilddaten. Wie in 5 dargestellt wird, koppelt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug zahlreiche Bilddaten bzw. fügt sie so zusammen, dass z.B. durchgezogene Fahrspurbegrenzungen bzw. Fahrbahnmarkierungen und unterbrochene Fahrspurbegrenzungen ausgerichtet sind, und erzeugt zusammengefügte Bilddaten. Man bemerke, dass die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug die zusammengefügten Bilddaten erzeugen kann, indem sie zahlreiche Bilddaten anhand einer anderen Farbanzeige auf der Straßenoberfläche als der Fahrspurbegrenzung verbindet.
-
Als Nächstes teilt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug (in S3) die erzeugten zusammengefügten Bilddaten für jedes Segment anhand der Farbe auf der Straßenoberfläche oder den Navigationskartendaten auf, um die Segmentbilddaten zu erzeugen. Wie in 6 dargestellt ist, teilt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug die erzeugten zusammengefügten Bilddaten für jedes Segment auf, beispielsweise basierend auf Informationen über eine Lücke in einer Fahrspurbegrenzung, eine Knotenposition in den Navigationskartendaten oder über eine Änderung der Fahrspuren, und erzeugt die Segmentbilddaten. Man beachte, dass die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug die Segmentbilddaten erzeugen kann, indem sie die zusammengefügten Bilddaten für jedes Segment anhand einer anderen Farbanzeige der Straßenoberflächen als der Lücke in einer Fahrspurbegrenzung unterteilt. Die Schritte S1 bis S3 entsprechen einem Verfahren zum Erzeugen von Segmentbilddaten.
-
Als Nächstes passt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug (in S4) die Helligkeit des Schattens in den erzeugten Segmentbilddaten an und löscht unnötige Objekte aus den Segmentbilddaten. Wie in 7 gezeigt wird, erzeugt die Vorrichtung 2 zur Bilddatenerzeugung für ein Fahrzeug, wenn beispielsweise ein Fahrzeug in den Segmentbilddaten A parkt und/oder stoppt, zahlreiche Segmentbilddaten B und C im gleichen Segment wie die Segmentbilddaten A und führt die Bildverarbeitung durch, indem sie die Segmentbilddaten A bis C überlappt, wodurch das Fahrzeug aus den Segmentbilddaten A eliminiert und die Segmentbilddaten X erzeugt werden, aus denen das Fahrzeug eliminiert wurde.
-
Als Nächstes erkennt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug (in S5) eine Spurbegrenzungslinie in den erzeugten Segmentbilddaten. Wie in 8 dargestellt ist, erkennt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug beispielsweise, dass die Begrenzungslinie auf der rechten Seite relativ zur Fahrtrichtung des Fahrzeugs eine unterbrochene Spurbegrenzung bzw. Fahrspurmarkierung ist und dass die Begrenzungslinie auf der linken Seite eine durchgezogene Spurbegrenzung ist.
-
Als Nächstes legt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug (in S6) die Fahrspurmittellinie in den Segmentbilddaten basierend auf dem Erfassungsergebnis für die Fahrspurlinie in den Segmentbilddaten fest. Wie in 9 dargestellt wird, legt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug die Fahrspurmittellinie an einer mittleren Position zwischen der gestrichelten Fahrspurbegrenzungslinie und der durchgezogenen Fahrspurbegrenzungslinie in den Segmentbilddaten fest.
-
Als Nächstes legt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug (in S7) die Fahrtrichtung des Fahrzeugs mittels der GPS-Trajektorie des Fahrzeugs fest und vergleicht zumindest entweder die Straßenmittellinie oder die Fahrtrajektorie des Fahrzeugs in den Navigationskartendaten mit der Fahrtrichtung des Fahrzeugs, so dass die vorläufige Position der Fahrbahnmittellinie in den festgelegten Segmentbilddaten bestimmt wird. Wie in 10 dargestellt ist, bestimmt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug die vorläufige Position der Fahrspurmittellinie derart, dass die Straßenmittellinie relativ zur Fahrtrichtung des Fahrzeugs auf der rechten Seite angeordnet wird, wenn in einem Gebiet ein System mit Linksverkehr vorliegt. Wenn z.B. die Straßenmittellinie der Navigationskartendaten so eingestellt ist, dass sie von Nordost nach Südwest verläuft, bestimmt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug die vorläufige Position der Fahrspurmittellinie, um in ähnlicher Weise die Richtungen nach Nordost und Südwest zu verbinden. Die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug bestimmt die vorläufige Position der Fahrspurmittellinie derart, dass die Straßenmittellinie relativ zur Fahrtrichtung des Fahrzeugs auf der linken Seite liegt, wenn in einem Gebiet ein System mit Rechtsverkehr vorliegt.
-
Als Nächstes vergleicht die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug (in S8) die Navigationskartendaten mit dem Erfassungsergebnis der Fahrspurbegrenzung durch die Spurlinienerkennungseinheit 13 und legt die absolute Position der Fahrspurmittellinie in den Segmentbilddaten fest, deren vorläufige Position festgelegt ist. Wenn beispielsweise ein Attribut jeder Spur wie in den 11 bis 13 dargestellt auf einer dreispurigen Straße definiert ist, ordnet die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug die Spur passend zum definierten Attribut zu. Das heißt, die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug bestimmt anhand der Navigationskartendaten, dass die Gesamtzahl der Fahrspuren „3“ beträgt, und dass die Begrenzungslinie auf der linken Seite eine „durchgezogene Fahrspurlinie“ und die Begrenzungslinie auf der rechten Seite eine „unterbrochene Fahrspurlinie“ ist. In diesem Fall wird die absolute Position der Fahrspurmittellinie innerhalb der „Fahrspur Nr. 1“ festgelegt, die die linke der drei Fahrspuren ist. In ähnlicher Weise bestimmt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug anhand der Daten der Navigationskarte, dass die Gesamtzahl der Fahrspuren „3“ beträgt, die Grenzlinie auf der linken Seite eine „gestrichelte Fahrspurbegrenzung“ und die Grenzlinie auf der rechten Seite eine „gestrichelte Fahrspurbegrenzung“ ist. In diesem Fall wird die absolute Position der Mittellinie der Fahrspur innerhalb der „Fahrspur Nr. 2“ angegeben, die die mittlere der drei Fahrspuren ist. Ferner bestimmt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug anhand der Navigationskartendaten, dass die Gesamtzahl der Fahrspuren „3“ beträgt, und die Grenzlinie auf der linken Seite eine „gestrichelte Fahrspurlinie“ und die Grenzlinie auf der rechten Seite eine „durchgezogene Fahrspurlinie“ ist. In diesem Fall wird die absolute Position der Fahrspurmittellinie innerhalb der „Fahrspur Nr. 3“ angegeben, die die rechte der drei Fahrspuren ist.
-
Als Nächstes ordnet die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug den erzeugten Segmentbilddaten (in S9) ein Evaluierungsergebnis zu und verbindet und speichert die erzeugten Segmentbilddaten mit dem zugeordneten Evaluierungsergebnis (bei S10). Wenn die Segmentbilddaten desselben Segments wie die zu speichernden Segmentbilddaten bereits gespeichert wurden, vergleicht die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug das den zu speichernden Segmentbilddaten zugeordnete Evaluierungsergebnis mit dem Evaluierungsergebnis, das den bereits gespeicherten Segmentbilddaten zugeordnet ist, und speichert nur dasjenige mit dem höheren Evalu ierungsergebn is.
-
Als Nächstes spezifiziert die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug (in S11) einen Änderungspunkt der Segmentbilddaten aus den vorherigen Segmentbilddaten desselben Segments als Änderungspunktinformation. Als Nächstes erzeugt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug (in S12) Straßeninformationsdaten aus den von der fahrzeuginternen Kamera 22 erzeugten Bilddaten und ordnet die erzeugten Straßeninformationsdaten den Segmentbilddaten zu. Wie in 14 dargestellt ist, erzeugt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug als Straßeninformationsdaten die Koordinatenposition des Fußgängerüberwegs bzw. Zebrastreifens, der Haltelinie und dergleichen, die relative Position des Straßenschildes, der Ampel und dergleichen gegenüber der Mittellinie der Fahrspur und deren Höhe über der Straßenoberfläche in den Segmentbilddaten. Außerdem verbindet die Vorrichtung 2 die erzeugten Straßeninformationsdaten mit den Segmentbilddaten. Im Beispiel von 14 legt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug z.B. den Randpunkt der Segmentbilddaten oben links als Referenzkoordinaten von (0, 0) fest und legt die Koordinatenposition, die den Bereich angibt, in dem der Fußgängerüberweg und die Stopplinie angebracht sind, als Straßeninformation fest. Darüber hinaus legt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug beispielsweise die relative Position, die den Punkt (d.h. P1) angibt, an dem das Straßenschild mit der Geschwindigkeitsbegrenzung von 40 km/h von der Mittellinie der Fahrspur entfernt steht, und die Höhe des Straßenschilds über der Straßenoberfläche als Straßeninformationsdaten fest. Im Beispiel von 14 gibt es den Fall, dass der Punkt (P1) des Straßenschildes mit der Geschwindigkeitsbegrenzung von 40 km/h in den Segmentbilddaten vorhanden ist. Alternativ dazu legt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug die relative Position die den Punkt (P2) angibt, an dem die Ampel steht, aus der Fahrspurmittellinie und der Höhe der Ampel über der Straßenoberfläche als Straßeninformationsdaten fest, wenn der Punkt (P2) der Ampel in den Segmentbilddaten vorhanden ist.
-
Dann überträgt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug die gespeicherten Segmentbilddaten an den Server 3 (in S13, der einem Übertragungsvorgang für Segmentbilddaten entspricht). Zu diesem Zeitpunkt überträgt die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug zusätzlich zu den Segmentbilddaten das Erfassungsergebnis der Fahrspurbegrenzung in den von der Spurlinienerkennungseinheit 13 erkannten Segmentbilddaten, die Absolutposition der Fahrspurmittellinie in den durch die Einheit 16 zum Festlegen der absoluten Position festgelegten Segmentbilddaten, das durch die Zuordnungseinheit 17 für Evaluierungsergebnisse zugeordnete Evaluierungsergebnis und die durch die Einheit 19 zum Festlegen von Änderungspunktinformation festgelegte Änderungspunktinformation an den Server 3.
-
Obwohl die linke Bahn aus den drei Bahnen vorstehend als die Einheit der Segmentbilddaten beschrieben wurde, kann die Einheit der Segmentbilddaten jede beliebige Einheit sein. Das heißt, dass die mittlere Spur oder die rechte Spur der drei Spuren genutzt werden kann, wie in 15 und 16 gezeigt ist, oder die Spuren in den Kreuzungen genutzt werden können.
-
Die vorstehend beschriebene Ausführungsform kann sich wie folgt auswirken. In der Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug werden, anstatt die von der fahrzeuginternen Kamera 22 erzeugten Bilddaten unverändert an den Server 3 zu übertragen, die Segmentbilddaten für jedes Segment aus den Bilddaten erzeugt, und die erzeugten Segmentbilddaten werden an den Server 3 übertragen. Folglich ist es möglich, unter Verringerung der Datenmenge, die seitens des Fahrzeugs an den Server übertragen wird, der die Fahrtrajektoriendaten für das autonome Fahren erzeugt, und unter angemessener Vermeidung verschiedener Schwierigkeiten, die durch eine Erhöhung der Datenmenge hervorgerufen werden, Daten geeignet an den Server zu übertragen, die für die Erzeugung der Fahrtrajektoriendaten für das autonome Fahren nützlich sind.
-
Das heißt, der Server 3 erkennt nicht nur die Basiskartendaten, die Luftbilddaten und die Navigationskartendaten, sondern erkennt auch Bilder der Segmentbilddaten, die von der Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug empfangen werden, es ist möglich, Fahrtrajektoriendaten zu erzeugen, indem der Bereich, in dem es schwierig ist, Fahrspurmarkierungen auf der Grundlage der Basiskartendaten und dergleichen zu erkennen, durch die von der Fahrzeugseite empfangenen Segmentbilddaten ergänzt wird, und geeignet Fahrtrajektoriendaten für das autonome Fahren zu erzeugen.
-
Weiterhin wird die Helligkeit des Schattens in den Segmentbilddaten angepasst, um unnötige Objekte in den Segmentbilddaten zu entfernen. Dadurch können die SegmentBilddaten, aus denen die unnötigen Objekte entfernt wurden, an den Server 3 übertragen werden, und die Belastung des Servers 3 kann reduziert werden, ohne den Vorgang des Entfernens des unnötigen Objekts auf dem Server 3 zu belasten.
-
Zudem wird bei der Erkennung der Spurbegrenzungslinie in den Segmentbilddaten und der Übertragung der Segmentbilddaten an den Server 3 das Erfassungsergebnis der Spurbegrenzung in den Segmentbilddaten an den Server 3 übertragen. Dadurch kann das Evaluierungsergebnis der Fahrspurlinie in den Segmentbilddaten an den Server 3 übertragen werden, der Vorgang der Erkennung der Fahrspurlinie in den Segmentbilddaten belastet den Server 3 nicht, und die Belastung des Servers 3 wird verringert.
-
Wenn die Spurmittellinie in den Segmentbilddaten angegeben wird, die vorläufige Position der Spurmittellinie angegeben wird, die absolute Position der Bahnmittellinie angegeben wird, und die Segmentbilddaten an den Server 3 übertragen werden, wird die absolute Position der Spurmittellinie in den Segmentbilddaten an den Server 3 übertragen. Dadurch kann die absolute Position der Spurmittellinie in den Segmentbilddaten an den Server 3 übertragen werden, und der Vorgang zum Festlegen der Spurmittellinie in den Segmentbilddaten, der Vorgang zum Festlegen der vorläufigen Position der Spurmittellinie und der Vorgang zum Festlegen der absoluten Position der Spurmittellinie belasten den Server 3 nicht, so dass es möglich ist, die Belastung des Servers 3 zu reduzieren.
-
Zusätzlich wird das Evaluierungsergebnis zu den Segmentbilddaten hinzugefügt, und bei der Übertragung der Segmentbilddaten an den Server 3 wird das Evaluierungsergebnis an den Server 3 übertragen. Dadurch kann das Evaluierungsergebnis an den Server 3 übertragen werden, und die Belastung des Servers 3 kann reduziert werden, ohne den Server 3 mit der Zuordnung des Evaluierungsergebnisses zu den Schnitt- bzw. Segmentbilddaten zu belasten.
-
Wenn die Änderungspunktinformation spezifiziert und die Segmentbilddaten an den Server 3 übertragen werden, wird zudem die Änderungspunktinformation an den Server 3 übertragen. Folglich kann die Änderungspunktinformation an den Server 3 übertragen werden, und die Belastung des Servers 3 kann verringert werden, ohne den Server 3 mit dem Prozess der Spezifikation der Änderungspunktinformation zu belasten.
-
Weiterhin werden die Straßeninformationsdaten erzeugt und die erzeugten Straßeninformationsdaten werden an den Server 3 übertragen. Dadurch können die Segmentbilddaten und die Straßeninformationsdaten miteinander verknüpft an den Server 3 übertragen werden. Das bedeutet, dass der Server 3 die von der Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug empfangenen Segmentbilddaten und die Straßeninformationsdaten miteinander verknüpft verwalten kann, und der Server 3 durch Nutzung der Straßeninformationsdaten den Fahrtrajektoriendaten für autonomes Fahren die zusätzlichen wertvollen Informationen hinzufügen kann.
-
Obwohl die vorliegende Offenbarung anhand der Beispiele beschrieben wurde, versteht es sich, dass die vorliegende Offenbarung nicht auf derartige Beispiele oder Aufbauten beschränkt ist. Die vorliegende Offenbarung umfasst diverse Modifikationsbeispiele und äquivalente Anordnungen. Darüber hinaus fallen verschiedene Kombinationen und Aufbauten sowie andere Kombinationen und Aufbauten, die nur ein oder mehr oder weniger Elemente enthalten, in das Gebiet und den Kern der vorliegenden Offenbarung.
-
Ein Ablauf zum Entfernen unnötiger Objekte aus Segmentbilddaten, ein Ablauf zum Erkennen von Spurbegrenzungslinien in Segmentbilddaten, ein Ablauf zum Identifizieren von Fahrspurmittellinien in Segmentbilddaten, ein Ablauf zum Identifizieren vorläufiger Positionen von Fahrspurmittellinien, ein Ablauf zum Festlegen absoluter Positionen von Fahrspurmittellinien, ein Ablauf zum Bereitstellen von Evaluierungsergebnissen für Segmentbilddaten und ein Ablauf zum Festlegen von Änderungspunktinformationen werden durch die Bilddatenerzeugungsvorrichtung 2 für ein Fahrzeug ausgeführt. Alternativ können diese Abläufe vom Server 3 durchgeführt werden. Das bedeutet, dass der Aufbau so gewählt werden kann, dass diese Abläufe gegebenenfalls von der Bilddatenerzeugungsvorrichtung 2 für das Fahrzeug und vom Server 3 gemeinsam genutzt und durchgeführt werden.
-
ZITATE ENTHALTEN IN DER BESCHREIBUNG
-
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
-
Zitierte Patentliteratur
-
- JP 2018016396 A [0001]
- JP 2017078607 A [0004]