-
Die Erfindung bezieht sich auf eine Cloud-Plattform für automatisierte Mobilität und ein computerimplementiertes Verfahren zur Bereitstellung einer Cloud basierten Datenanreicherung an die automatisierte Mobilität.
-
Die
EP 2 818 922 B1 offenbart ein Verkehrsüberwachungsgerät. Derartige Verkehrsüberwachungsgeräte, auch als PoliScan Speed bekannt, sind insbesondere Systeme zur Geschwindigkeitsüberwachung.
-
Die
DE 10 2019 210 933.0 offenbart eine Umwelterfassungsvorrichtung für automatisierte Mobilität umfassend ein Gehäuse, in dem Gehäuse angeordnete Sensoren, wobei das Gehäuse Öffnungen für die Sensoren umfasst zur Erfassung der Umwelt, eine in dem Gehäuse angeordnete, mit den Sensoren Signal übertragend verbundene Auswerteeinrichtung, die Auswerteeinrichtung umfassend einen Arbeitsspeicher zur Ausführung eines Computerprogramms zur Klassifizierung, Lokalisierung und/oder Verfolgung von Objekten in der Umwelt, wobei das Computerprogramm Befehle umfasst, die bewirken, dass die Auswerteeinrichtung aus den Signalen der Sensoren die Objekte und deren jeweiligen Bewegungszustand erhält, wenn das Computerprogramm auf der Auswerteeinrichtung läuft, und eine Schnittstelle, um die Objekte und deren Bewegungszustand der automatisierten Mobilität bereitzustellen. Ferner bezieht sich die Erfindung auf ein System umfassend die Umwelterfassungsvorrichtungen.
-
In der automatisierten Mobilität können durch Verdeckungen und/oder komplexe Verkehrssituationen riskante Gefahrenbereiche entstehen, in denen nicht alle gefährdeten Verkehrsteilnehmer mit 100% Sicherheit vom Sensorset eines autonomen Fahrzeugs erfasst werden können. Das zugrundeliegende Problem ist, dass die Umwelterfassung, vor allem von Objekten (statisch und dynamisch), im Umfeld eines autonomen Fahrzeugs in gewissen Situationen nicht eine Sicherheit von 100% gewährleisten kann. Diese Situationen können folgende sein:
- • nicht einsichtige Kreuzung muss mit autonomem Fahrzeug befahren werden (Stadtfahrten, Universitätsbereiche auf Campus);
- • nicht einzuschätzende Risiken müssen abgedeckt werden: Personenbeförderung in Situationen mit erhöhter Anzahl an Personen / alkoholisierten Personen, z.B. an Stadtfesten;
- • Sicherung der autonomen Fahrzeuge in Wohngebieten mit riskanten Spielstraßen;
- • nicht rational handelnde Fußgänger und Fahrradfahrer, z.B. Fußgängerüberweg Tokio, Fahrradkuriere in New York;
- • Baustellen: Verkehrsführung ist verändert und es befinden sich spezielle Hindernisse in der Fahrspur. Es können sich nicht bekannte Fahrzeuge, wie Bagger, und sonstige Baustellenfahrzeuge in der Fahrspur befinden. Bauarbeiter können nahe oder auf der Fahrspur stehen, in Bereichen, in denen normal 50-100km/h zulässig sind.
-
Ein weiteres Problem ist, dass vermutlich zur vollen Einführung von Level 5 fahrenden Fahrzeugen zuerst alle anderen Verkehrsteilnehmer in die automatisierte Mobilität/autonome Welt integriert werden müssen.
-
Ferner ist in schwierigen Situationen, unter anderem Fahrten in Häuserschluchten, die Lokalisierung von Fahrzeugen erschwert.
-
Eine Aufgabe der vorliegenden Erfindung war es, eine Lösung für die oben genannten Probleme bereitzustellen.
-
Die Erfindung löst diese Aufgabe durch eine Cloud basierte Rechnerplattform. Erfindungsgemäß werden stationär angeordnete oder mobil einsetzbare Perzeptionsmodule, auch Umwelterfassungsvorrichtungen genannt, miteinander vernetzt. Die Umwelterfassungsvorrichtungen erkennen, klassifizieren, lokalisieren und/oder verfolgen, auch tracken genannt, Verkehrsteilnehmer, beispielsweise Fußgänger, Fahrzeuge, kommerzielle Fahrzeuge, Fahrräder, und Umweltobjekte, beispielsweise Fahrbahnmarkierungen, Bäume, Fahrbahnbegrenzungen oder Baustellen, mittels Radar, Lidar, Kamera, Ultraschall, Infrarot oder Akustiksensoren. Durch Vernetzung über die Cloud werden ADAS/AD Systemen oder Kartenanbietern verbesserte Informationen bezüglich zu erwarteten Verkehrssituationen bereitgestellt. Insbesondere werden Informationen zu Situationen bereitgestellt, die ein Risiko für einen Fahrer darstellen.
-
Gemäß einem Aspekt stellt die Erfindung eine Cloud-Plattform für automatisierte Mobilität bereit. Die Cloud-Plattform umfasst ein Rechnernetz von Umwelterfassungsvorrichtungen. Die Umwelterfassungsvorrichtungen umfassen jeweils ein Gehäuse, und in dem Gehäuse angeordnete Sensoren. Das Gehäuse umfasst Öffnungen für die Sensoren zur Erfassung der Umwelt. Ferner umfassen die Umwelterfassungsvorrichtungen einen in dem Gehäuse angeordneten, mit den Sensoren Signal übertragend verbundenen Rechner und eine erste Schnittstelle zu der Cloud-Plattform. Die Cloud-Plattform umfasst ferner einen Hauptrechner und einen Speicher. In dem Speicher sind erste Befehle eines ersten Computerprogramms gespeichert. Die ersten Befehle bewirken, dass die Rechner der Umwelterfassungsvorrichtungen ausgehend von den Signalen der Sensoren Objekte aus dem jeweiligen Umfeld erkennen, klassifizieren, lokalisieren und/oder verfolgen und die Rechner über die jeweiligen ersten Schnittstellen die Erkennungen, Lokalisierungen und/oder Verfolgungen dem Hauptrechner als Daten bereitstellen, wenn das erste Computerprogramm auf den Rechnern läuft. Ferner sind in dem Speicher zweite Befehle eines zweiten Computerprogramms gespeichert. Die zweiten Befehle bewirken, dass der Hauptrechner die Daten der Rechner der Umwelterfassungsvorrichtungen synchronisiert und/oder kombiniert und aus einzelnen Erfassungen der jeweiligen Umwelterfassungsvorrichtungen eine Datenanreicherung zur zweiten Umwelterfassung erhält, wenn das zweite Computerprogramm auf dem Hauptrechner läuft. Die Cloud-Plattform umfasst außerdem eine zweite Schnittstelle, um die zweite Umwelterfassung der automatisierten Mobilität bereitzustellen.
-
Gemäß einem weiteren Aspekt stellt die Erfindung ein computerimplementiertes Verfahren bereit zur Bereitstellung einer Cloud basierten Datenanreicherung zur verbesserten Umwelterfassung an eine automatisierte Mobilität. Das Verfahren umfasst die Schritte
- • Erkennen, Klassifizieren, Lokalisieren und/oder Verfolgen von Objekten in jeweiligen Umfeldern von in einer Verkehrsinfrastruktur verteilt angeordneten Umwelterfassungsvorrichtungen,
- • Bereitstellen der erhaltenen Daten an einen Hauptrechner einer Cloud-Plattform,
- • Synchronisieren und/oder Kombinieren der Daten in dem Hauptrechner,
- • Erhalten einer zweiten Umwelterfassung aus den einzelnen Erfassungen der jeweiligen Umwelterfassungsvorrichtungen und
- • Bereitstellen der zweiten Umwelterfassung an die automatisierte Mobilität.
-
Die Verkehrsinfrastruktur umfasst eine Länder regionale Verkehrsinfrastruktur oder eine globale Verkehrsinfrastruktur. Hinsichtlich der globalen Verkehrsinfrastruktur sind die Umwelterfassungsvorrichtungen nicht nur in einem Land, sondern über die Länder der Welt verteilt angeordnet. Damit wird eine global operierende Cloud-Plattform realisiert.
-
Nach einem Aspekt der Erfindung wird zur Durchführung des Verfahrens eine erfindungsgemäße Cloud-Plattform verwendet.
-
Vorteilhafte Ausgestaltungen der Erfindung ergeben sich aus den Unteransprüchen, der Zeichnung und der Beschreibung bevorzugter Ausführungsbeispiele.
-
Automatisierte Mobilität umfasst das Ökosystem des automatisierten Fahrens von Teilautomatisierung, beispielsweise Fahren mit Fahrerassistenzsystemen, bis hin zur Vollautomatisierung, das heißt fahrerloses Fahren. Teilnehmer der automatisierten Mobilität sind Fahrzeuge jeglicher Art, insbesondere Straßenfahrzeuge, Personentransportsysteme, beispielsweise Robotertaxis, Passagierdrohnen, automatische people mover, automatische Transitnetzwerke, beispielsweise personal/group rapid transit systems, Fahrer, Fahrgäste, nicht mobilisierte Verkehrsteilnehmer, beispielsweise Fußgänger und Fahrradfahrer, und Elemente der Infrastruktur, beispielsweise die Umwelterfassungsvorrichtungen oder intelligente Verkehrsleitsysteme. Die intelligenten Verkehrsleitsysteme umfassen Lichtanlagen, beispielsweise Ampeln, und kommunizieren mit der Cloud-Plattform, beispielsweise den Umwelterfassungsvorrichtungen und/oder dem Hauptrechner, beispielsweise über V2X-Technologie.
-
Über die Cloud-Plattform wird Speicherplatz, Rechenleistung und/oder Computerprogramme als Dienstleistung bereitgestellt. Die Computerprogramme werden dem Rechnernetz zur Verfügung gestellt, ohne dass diese auf den lokalen Rechnern der Umwelterfassungsvorrichtungen installiert sein müssen.
-
Das Rechnernetz ist ein Zusammenschluss der Umwelterfassungsvorrichtungen und des Hauptrechners der Cloud-Plattform. In dem Rechnernetz sind die Umwelterfassungsvorrichtungen untereinander und mit dem Hauptrechner Daten übertragend verbunden. Das Rechnernetz besitzt beispielsweise eine Stern-Topologie mit dem Hauptrechner als zentralen Verteilungspunkt. Das Rechnernetz ist beispielsweise ein Funknetz, beispielsweise ein Ad-hoc-Netz, oder ein PowerLAN-Netz, in dem über ein vorhandenes Stromnetz das Rechnernetz aufgebaut wird.
-
Da die Umwelterfassungsvorrichtungen verteilt in der Verkehrsinfrastruktur angeordnet sind, erfasst jede der Umwelterfassungsvorrichtungen Daten aus einer bestimmten Position, an der die jeweilige Umwelterfassungsvorrichtung beispielsweise stationär angeordnet ist. Damit gehen in die zweite Umwelterfassung vorteilhafterweise Daten aus mehreren, verschiedenen Sichtfeldern der Umwelterfassungsvorrichtungen ein.
-
Der Hauptrechner stellt der automatisierten Mobilität, beispielsweise Fahrzeugen, Fußgängern, Fahrradfahrern, Passagieren in Personenbeförderungsfahrzeugen und weiteren Teilnehmern, die zweite Umwelterfassung, die eine verbesserte Umwelterfassung basierend auf den einzelnen Erfassungen der Umwelterfassungsvorrichtungen, bereit.
-
Nach einem Aspekt der Erfindung stellt der Hauptrechner die zweite Umwelterfassung den einzelnen Umwelterfassungsvorrichtungen bereit, die dann weiter mit Teilnehmern der automatisierten Mobilität kommunizieren. Nach einem weiteren Aspekt der Erfindung stellt der Hauptrechner die zweite Umwelterfassung den Teilnehmern der automatisierten Mobilität bereit.
-
Das Gehäuse der Umweltvorrichtung schützt die Sensoren, die Auswerteeinrichtung, die Schnittstellen und weitere elektronische Komponenten, beispielsweise zur Spannungsversorgung, gegen Eindringen von Fremdkörpern, Staub und/oder Flüssigkeiten. Beispielsweise ist das Gehäuse nach außen hin abgekapselt und abgedichtet.
-
Die Sensoren umfassen optische Kamera, Infrarotkamera, time-of-flight-Sensoren oder Lidar, akustische Sensoren wie Mikrofone, Radarsensoren und Ultraschallsensoren.
-
Der Hauptrechner und die Rechner umfassen beispielsweise Prozessoren (CPUs, GPUs), ICs, ASCIs, FGPAs und weitere Logikbausteine, um das erste und zweite Computerprogramm auszuführen. Die Hardware-/Mikroarchitektur des Hauptrechners und/oder der Rechner ist ausgelegt für eine Rechenleistung von mehreren 100 Tera-OPS. Ferner umfassen die Rechner beispielsweise Schnittstellen zu den Sensoren, beispielsweise FPD-Link oder GMSL-Link Schnittstellen.
-
Die ersten, zweiten und weiteren Befehle des ersten und zweiten Computerprogramms sind Softwarecodeabschnitte, die beispielsweise in der Programmiersprache C++, Java oder Python geschrieben sind.
-
Durch die Klassifizierung, Lokalisierung und/oder Verfolgung von Objekten wird eine Perzeption des jeweiligen Umfeldes einer Umwelterfassungsvorrichtung erhalten. Allgemein umfasst die Perzeption nach einem Aspekt der Erfindung die folgende Struktur: Zunächst werden die verschiedenen Sensorsignale oder Sensordaten synchronisiert, beispielsweise dreidimensionale Lidar- und/oder Radarpunktwolken mit zweidimensionalen Pixelaufnahmen einer Kamera. In jedem Datenset eines der Sensoren oder in einem kombinierten Datenset aller Sensoren werden anschließend Objektmerkmale bestimmt, beispielsweise mittels Maschinenlernverfahren, beispielsweise mittels Faltungsnetzwerken, die auf Bildsegmentierung und/oder Objekterkennung trainiert sind, und/oder klassischen Bildverarbeitungsalgorithmen, beispielsweise Farbschwellwertbestimmung, Gradientendetektion oder Sobelfiltern. Objektmerkmale umfassen geometrische Merkmale zur Objektbeschreibung, beispielsweise Begrenzungshüllen der Objekte, auch bounding boxes genannt, L- Formen zur Beschreibung von Fahrzeugen, Ellipsoide und Cluster. Die detektierten Merkmale werden in einer weiteren Stufe fusioniert und über die Zeit verfolgt, das heißt getrackt mittels bekannten Trackingalgorithmen, beispielsweise dem Joint-Integrated-Probabilistic-Data-Association-, abgekürzt JIPDA-, Algorithmus, siehe https://ieeexplore.ieee.org/document/1020938, dem Gaussian-Mixture-Probability-Hypothesis-Density-Filter-, abgekürzt PHD-, Algorithmus, siehe https://ieeexplore.ieee.org/document/1710358, oder das in http://openaccess.thecvf.com/content_cvpr_2018/papers/Luo_Fast_and_Furious_CVPR_2018_paper.pdf offenbarte Faltungsnetzwerk zur dreidimensionalen Objekterkennung, Tracking und Bewegungsprädiktion. Die Trackingergebnisse werden mit detektierten Merkmalen des statischen Umfeldes, beispielsweise Fahrbahnlinien, Hindernisse, Fahrbahnbegrenzungen oder Baustellenzonen, zusammengefügt, um eine Beschreibung der Szenerie zu erhalten, die dann die Umfeldperzeption darstellt.
-
Zur Klassifizierung, Lokalisierung und/oder Verfolgung von Objekten führt das erste Computerprogramm beispielsweise einen Algorithmus aus, der aus Rohdaten oder Einzelaufnahmen der Sensoren Objektmerkmale erzeugt. Verschiedene Merkmale werden fusioniert und über die Zeit verfolgt, das heißt Tracking. Ferner umfassen nach einem Aspekt der Erfindung die ersten Befehle Anweisungen für die Rechner, die von den Sensoren erkannten Objekte aus dem Koordinatensystem des jeweiligen Sensors in das Weltkoordinatensystem zu transformieren. Dadurch verstehen die Umwelterfassungsvorrichtungen eine Szenerie der Umwelt und nehmen diese wahr.
-
Die Umwelterfassungsvorrichtungen ermöglichen damit eine Echtzeitverarbeitung der Sensorsignale.
-
Die Objekte und deren Bewegungszustand werden beispielsweise mittels Objektlisten bereitgestellt. Beispielsweise wird zu jedem Objekt bezogen auf ein Weltkoordinatensystem dessen kartesische Koordinaten x, y, z, Geschwindigkeitskomponenten v_x, v_y, v_z, Komponenten der Drehgeschwindigkeit ω_x, ω_y, ω_z, Azimutwinkel φ und Elevationswinkel θ bereitgestellt. Mittels des bereitgestellten Bewegungszustandes werden die Objekte in dynamische und statische Objekte unterteilt.
-
Nach einem weiteren Aspekt der Erfindung umfasst das zweite Computerprogramm Befehle, die bewirken, dass der Hauptrechner anhand der Daten der Rechner der Umwelterfassungsvorrichtungen Prognosen umfassend Prognosen von Bewegungsmustern von Teilnehmern der automatisierten Mobilität und von Verkehrsereignissen erstellt, wenn das zweite Computerprogramm auf dem Hauptrechner läuft. Da die Umwelterfassungsvorrichtungen verteilt in der Verkehrsinfrastruktur angeordnet sind, erfasst jede der Umwelterfassungsvorrichtungen Daten aus einer bestimmten Position, an der die jeweilige Umwelterfassungsvorrichtung beispielsweise stationär angeordnet ist. Damit gehen in die Prognosen vorteilhafterweise Daten aus mehreren, verschiedenen Sichtfeldern der Umwelterfassungsvorrichtungen ein.
-
Nach einem Aspekt der Erfindung sind die Prognosen langfristige Prognosen. In dem Speicher der Cloud-Plattform werden die Daten der Rechner der Umwelterfassungsvorrichtungen über langfristige Zeiträume, beispielsweise über Jahre oder Jahrzehnte, gesammelt und gespeichert. Der Hauptrechner wertet diese Langzeitdaten aus, um die langfristigen Prognosen von Bewegungsmustern von Teilnehmern der automatisierten Mobilität und von Verkehrsereignissen zu erstellen.
-
Nach einem Aspekt der Erfindung umfasst das zweite Computerprogramm Befehle, die bewirken, dass der Hauptrechner die Langzeitdaten beispielsweise mittels exponentieller Glättung, Trendprognose, gleitenden Durchschnittswerten, Extrapolation oder Regression auswertet, um die Prognosen zu erhalten.
-
Der Hauptrechner wertet die Langzeitdaten beispielsweise heuristisch, deterministisch oder mittels Maschinenlernalgorithmen umfassend Entscheidungsbäume oder rekurrente künstliche neuronale Netzwerke aus.
-
Damit lernt die Cloud-Plattform beispielsweise, dass an besonderen Ereignissen ein hohes Verkehrsaufkommen entsteht. Dieses zukünftige Wissen stellt die Cloud-Plattform den Teilnehmern der automatisierten Mobilität bereit, die sich damit besser auf den Verkehr vorbereiten können. Besondere Ereignisse umfassen gesetzliche Feiertage, Messen oder Ausstellungen, Sportereignisse, Ferienbeginn und/oder Ferienende. Ferner lernt damit die Cloud-Plattform, wie einzelne Teilnehmer und/oder Gruppen von Teilnehmern der automatisierten Mobilität, beispielsweise Fußgängergruppen oder Autofahrer, sich in besonderen Szenarien verhalten. Ein besonderes Szenario ist beispielsweise ein Annähern eines Einsatzwagens mit Sirenenalarmierung. Die Cloud-Plattform hat durch die Langzeitprognosen gelernt, dass Fahrzeuge in einem solchen Szenario eine Rettungsgasse bilden. Aus Langzeitprognosen lernt die Cloud-Plattform beispielsweise auch, dass an jedem zweiten Montag eines Monats oder an einem anderen bestimmten Zeitpunkt ein Fahrradfahrer A in einen Kreisverkehr B einfährt. Diese Information wird Fahrzeugen C, die sich zu diesen Zeiten dem Kreisverkehr B nähern, bereitgestellt, damit die Fahrzeuge C beim Einfahren in den Kreisverkehr B entsprechend reagieren können, beispielsweise bestimmte Bremsmanöver manuell oder automatisiert/autonom einleiten.
-
In einer weiteren Ausgestaltung der Erfindung sind Umwelterfassungsvorrichtungen der Cloud-Plattform auch an Schulen positioniert. Aus den Prognosen, beispielsweise ausgehend von Aufnahmen von in den Umwelterfassungseinrichtungen angeordneten Kameras, lernt die Cloud-Plattform beispielsweise, dass zu einer bestimmten Uhrzeit an Wochentagen, beispielsweise 13 Uhr, Schulkinder die Schule verlassen und sich in Richtung einer nahegelegenen Bushaltestelle bewegen. Diese Information wird beispielsweise herannahenden Fahrzeugen beispielsweise mittels V2X-Kommunikation bereitgestellt, die dann schon vorab wissen, dass um die betroffene Bushaltestelle herum ein erhöhtes Aufkommen an Schulkindern besteht. Die Fahrzeuge, das heißt menschliche Fahrer oder ADAS/AD Systeme, die die Fahraufgabe assistieren oder automatisiert/autonom ausführen, haben damit das zukünftige Wissen, dass an der betroffenen Position die Fahrweise entsprechend aufmerksam, langsam und/oder mit hohem Reaktionsvermögen einzustellen ist.
-
Nach einem weiteren Aspekt der Erfindung umfasst das zweite Computerprogramm Befehle, die bewirken, dass der Hauptrechner anhand der Daten der Rechner der Umwelterfassungsvorrichtungen Risikomodelle für die automatisierte Mobilität erstellt, wenn das zweite Computerprogramm auf dem Hauptrechner läuft. Risikomodelle modellieren Situationen und entsprechende Reaktionen auf kritische Zustände. Mittels Risikomodellen warnt die Cloud-Plattform die die Teilnehmer der automatisierten Mobilität vor bevorstehenden möglichen kritischen Situationen. Die Teilnehmer können damit besser in derartigen Situationen reagieren. Damit wird die Sicherheit in der automatisierten Mobilität erhöht.
-
Nach einem Aspekt der Erfindung werden die Risikomodelle ausgehend von den Prognosen erstellt.
-
Beispielsweise erstellt der Hauptrechner für Sensordaten der Umwelterfassungsvorrichtungen statistische Verteilungen, beispielsweise für Fußgänger- und/oder Fahrradfahrer-Aufkommen zu bestimmten Zeiten an bestimmten Positionen, um Gefährdungspotentiale abzuleiten. Beispielsweise bestimmt der Hauptrechner aus den Daten der Umwelterfassungsvorrichtungen, wie wahrscheinlich es ist, dass ein Fußgänger an einer bestimmten Position eine Fahrbahn überquert, beispielsweise die Wahrscheinlichkeit dafür, dass ein Fußgänger eine Straße an einer Fußgängerquerung mit Ampel überquert, obwohl das Lichtsignal der Ampel rot ist. Diese Information stellt die Cloud-Plattform beispielsweise Fahrzeugen, die sich dieser Fußgängerquerung nähern, bereit, um die Fahrzeuge davor zu warnen, dass eine erhebliche Wahrscheinlichkeit dafür besteht, dass ein Fußgänger die Straße überquert, obwohl das Lichtsignal der Ampel für das Fahrzeug grün ist. Entsprechend stellt die Cloud-Plattform auch Fußgängern, die eine Ampelanlage bei grün zu überqueren beabsichtigen, die Wahrscheinlichkeit dafür bereit, dass ein herannahendes Fahrzeug die Überquerung aus Sicht des Fahrzeuges bei rot überfährt. Weitere Verstöße gegen Straßenverkehrsordnungen werden ebenfalls in den Risikomodellen abgebildet. Nach einem weiteren Aspekt der Erfindung bestimmt der Hauptrechner die Wahrscheinlichkeit dafür, dass zu einem bestimmten Zeitpunkt an einer bestimmten Position ein Fahrzeug mit einem Fußgänger oder Fahrradfahrer kollidieren kann, und warnt mittels dieser Information die betroffenen Fahrzeuge schon vorab.
-
Nach einem weiteren Aspekt der Erfindung werden durch das erfindungsgemäße Verfahren die Prognosen, beispielsweise die langfristigen Prognosen, und/oder die Risikomodelle bereitgestellt.
-
Nach einem weiteren Aspekt der Erfindung sind die Rechner der Umwelterfassungsvorrichtungen ausgeführt, die Signale der Sensoren zu fusionieren und/oder untereinander zu plausibilisieren. Durch die Fusion der einzelnen Sensordaten entsteht eine detaillierte und höherwertige Erfassung der Umwelt im Vergleich zu einzelnen Sensordaten. Während der Entwicklung der Umwelterfassungsvorrichtung hat sich überraschenderweise gezeigt, dass eine Fusion von Daten eines 360° Lidarscanners mit Kamera-Objekt-Detektionen die besten Ergebnisse liefert. Eine kostengünstigere Variante ist ein Sensorset aus Ultraschallsensoren, Radarsensoren und Kamerasensoren. Durch das Plausibilisieren ist die Umwelterfassungsvorrichtung mehrfach redundant.
-
Nach einem weiteren Aspekt der Erfindung umfasst das erste Computerprogramm einen ersten Maschinenlernalgorithmus und die Rechner der Umwelterfassungsvorrichtungen führen den ersten Maschinenlernalgorithmus aus zur Klassifikation, Lokalisierung und/oder Verfolgung der Objekte, wenn das erste Computerprogramm auf den Rechnern läuft. Zusätzlich oder alternativ umfasst das zweite Computerprogramm einen zweiten Maschinenlernalgorithmus und der Hauptrechner führt den zweiten Maschinenlernalgorithmus aus zur Synchronisation und/oder Kombination der Daten der Rechner, wenn das zweite Computerprogramm auf dem Hauptrechner läuft.
-
Maschinelles Lernen ist eine Technologie, die Computern und anderen Datenverarbeitungsvorrichtungen die Ausführung von Aufgaben durch Lernen aus Daten lehrt, anstatt für die Aufgaben programmiert zu werden. Der Maschinenlernalgorithmus ist beispielsweise ein Faltungsnetzwerk, auch konvolutionales neuronales Netzwerk genannt, das auf semantische Bilderkennung trainiert ist. Hinsichtlich Tracking von Objekten ist das Faltungsnetzwerk vorteilhafterweise ein rekurrentes Faltungsnetzwerk, das heißt ein Faltungsnetzwerk mit rekurrenten Schichten, beispielsweise LSTM-Einheiten, das sind Long Short-Term Memory Einheiten.
-
Erfindungsgemäß umfassen die Umwelterfassungsvorrichtungen optische Sensoren, Schallsensoren, Radarsensoren oder eine Kombination der voran genannten Sensoren. Mittels der optischen Sensoren werden Bildaufnahmen der Umwelt erhalten. Mittels den Schallsensoren werden zusätzlich oder alternativ Geräusche aus der Umwelt, zum Beispiel Sirenen von Einsatzfahrzeugen, Kinderschreie, Fahrradklingeln oder Fahrgeräusche von weiteren Fahrzeugen, erfasst. Dies ist insbesondere an urbanen Kreuzungen und/oder in Wohngebieten mit Spielstraßen von Vorteil. Die Erfassung von Geräuschen ist auch in einer elektrifizierten automatisierten Mobilität von Vorteil, die relativ zu einer automatisierten Mobilität basieren auf Verbrennungsmaschinen leiser ist. Mittels Radarsensoren können die Objekte in der Umwelt auch bei schlechter optischer Sicht, beispielsweise bei Regen oder Schnee, erfasst werden.
-
Nach einem weiteren Aspekt der Erfindung umfassen die Umwelterfassungsvorrichtungen wenigstens einen Kamerasensor, Lidarsensor, Radarsensor, Ultraschallsensor und/oder Akustiksensor. Der Kamerasensor ist beispielsweise ein Sensor einer Mono- oder Stereokamera oder ein Lichtlaufzeitsensor, auch time-of-flight-Sensor genannt. Der Lidarsensor ist beispielsweise ein 360° Halbleiter-Laserscanner. Der Akustiksensor ist beispielsweise ein Mikrofon. Mit dem Kamerasensor wird die Umwelt und die Objekte in der Umwelt fotographisch erfasst. Eine Stereokamera oder ein Lichtlaufzeitsensor stellen Tiefeninformationen bereit. Der Lidarsensor zeichnet sich durch seine relativ gute Auflösung aus. Der erste Maschinenlernalgorithmus, beispielsweise ein Faltungsnetzwerk, ist in einer Ausgestaltung der Erfindung auf semantische Bilderkennung basierend auf den Signalen des Kamerasensors, Lidarsensors und/oder Radarsensors trainiert. Mittels des Akustiksensors werden Teilnehmer der automatisierten Mobilität an nicht einsehbaren Stellen, beispielsweise Kreuzungen, detektiert.
-
Nach einem weiteren Aspekt der Erfindung veranlasst das erste Computerprogramm die Rechner, aus Bildern und/oder Punktwolken der Sensoren die Objekte zu bündeln, assoziieren, zeitlich zu verfolgen (tracken) und/oder die Bilder und/oder Punktwolken zu prozessieren. Beispielsweise werden die Bilder und/oder Punktwolken mittels Sensorfusions-Methoden prozessiert, zum Beispiel Track-to-Track Fusion basierend auf normalisierten Kovarianzmatrizen. Für jeden Sensor werden Tracks separat getrackt. Diese Tracks werden zu Systemtracks fusioniert. Damit wird die Objekterkennung verbessert. Eine Punktwolke umfasst Raumkoordinaten von Punkten. 3D Radar- oder Lidardaten sind in der Regel 3D Punktwolken.
-
Nach einem weiteren Aspekt der Erfindung ist die zweite Schnittstelle eine Funkschnittstelle, mittels der die Cloud-Plattform mit automatisiert betreibbaren Fahrzeugen und/oder einer Infrastruktur der automatisierten Mobilität, beispielsweise den Umwelterfassungsvorrichtungen, kommuniziert. Beispielsweise ist die zweite Schnittstelle eine V2X Schnittstelle. Nach einem weiteren Aspekt der Erfindung umfassen die Umwelterfassungsvorrichtungen ein V2X Steuergerät und die Funkschnittstelle. Die Funkschnittstelle ist beispielsweise für 5G Funktechnologie ausgelegt. Beispielsweise lokalisieren die Umwelterfassungsvorrichtungen ein autonomes Fahrzeug. Das autonome Fahrzeug empfängt über die Funkschnittstelle seine eigene absolute, mit den Umwelterfassungsvorrichtungen bestimmten Position, und hat damit eine ground-truth-Information. Das autonome Fahrzeug hat ebenso ein V2X Kommunikationsmodul, um mit den Umwelterfassungsvorrichtungen zu kommunizieren. Das autonome Fahrzeug hat so abhängig von der Reichweite der V2X Kommunikation schon eine Objektliste der vorhandenen Objekte in riskanten Gefahrenbereichen (Kreuzungen, Spielstraßen, Baustellen, etc.). Die Fahrzeuge erhalten von der Cloud-Plattform eine Objektliste von allen sich im Umfeld bewegenden und statischen Objekten. Die V2X Kommunikation kann beispielsweise durch Bluetooth oder WLAN erfolgen.
-
Nach einem weiteren Aspekt der Erfindung sind die Umwelterfassungsvorrichtungen auf Universitäts-, Messe-, Flughafen-, urbanen Gelände, an Kreuzungen, an Kreisverkehranlagen, an Querungsanlagen auf Straßen, an Schulen, in Wohngebieten und/oder an Baustellen angeordnet, um automatisiert betreibbaren Fahrzeugen über die Cloud-Plattform eine Liste von Objekten umfassend deren Bewegungszustand bereitzustellen, bevor die automatisiert betreibbaren Fahrzeuge die Umwelterfassungsvorrichtungen erreichen. Damit sind die Umwelterfassungsvorrichtungen insbesondere an kritischen Stellen angeordnet, beispielsweise an kritischen Kreuzungen oder Kreisverkehrsanlagen, und erfassen kritische Situationen. Kritische Situationen sind beispielsweise ein von einem Fahrzeug verdeckter Fußgänger, der beabsichtigt, über einen Zebrastreifen zu gehen, oder ein Fahrradfahrer, der an einer Kreuzung von anderen Fahrzeugen verdeckt ist, oder komplexe Kreuzungen und komplexe Kreisverkehrsanlagen. Kritische Stellen und kritische Situationen fordern ADAS und AD Systeme, weil derartige Stellen nicht vollständig einsehbar sind von dem ADAS und AD System. Durch die zweite, von der Cloud-Plattform bereitgestellte Umwelterfassung an ADAS und AD Systeme erhalten diese Systeme eine verbesserte Perspektive auf die kritischen Stellen und können damit besser in Gefahrensituationen reagieren. Damit wird die Sicherheit der automatisierten Mobilität erhöht.
-
Nach einem weiteren Aspekt der Erfindung umfassen die Umwelterfassungsvorrichtungen eine Kühlvorrichtung zum Leiten eines Kühlmediums in dem Gehäuse. Das Kühlmedium ist flüssig, zum Beispiel Wasser, oder ein Gas, zum Beispiel Luft. Die Kühlvorrichtung ist beispielsweise eine Pumpe oder ein Lüfter. Nach einem Aspekt der Erfindung erfolgt die Kühlung mit aktiven und/oder passiven Kühlungsmethoden. Damit wird beispielsweise die Zuverlässigkeit der Sensoren bei heißem Wetter verstärkt.
-
Nach einem weiteren Aspekt der Erfindung umfassen die Umwelterfassungsvorrichtungen in die Umwelterfassungsvorrichtungen integrierte Reinigungsvorrichtungen für die Sensoren und/oder die Rechner. Damit können Verschmutzungen beseitigt werden. Alternativ oder zusätzlich können Verschmutzungen von Servicemitarbeitern beseitigt werden.
-
Nach einem weiteren Aspekt der Erfindung umfassen die Umwelterfassungsvorrichtung Mittel zur online-Kalibrierung. Beispielsweise werden die Sensoren, Sensorparameter und/oder die Rechner online kalibriert. Online-Kalibrierung bedeutet, dass Komponenten und/oder Parameter der Umwelterfassungsvorrichtungen kontinuierlich, insbesondere während dem Betrieb der Umwelterfassungsvorrichtungen, überprüft werden. Nach einem Aspekt der Erfindung umfassen die Umwelterfassungsvorrichtungen eine Schnittstelle, beispielsweise eine Funkschnittstelle, zu einer Kalibrierungsvorrichtung, die die Kalibrierung durchführt.
-
Nach einem weiteren Aspekt der Erfindung besitzen die Umwelterfassungsvorrichtungen die Form eines Zylinders. Beispielsweise sind die Umwelterfassungsvorrichtungen Säulen förmig. Beispielsweise sind die Umwelterfassungssäulen in der Form, Geometrie und im Aufbau ähnlich oder entsprechend dem Verkehrsüberwachungsgerät wie in der
EP 2 818 922 B1 offenbart oder ähnlich oder entsprechend Blitzersäulen.
-
Nach einem weiteren Aspekt der Erfindung sind die Umwelterfassungsvorrichtung für einen stationären oder mobilen Betrieb ausgelegt. Beispielsweise sind die Umwelterfassungsvorrichtungen auf einem Anhänger anordenbar.
-
Nach einem weiteren Aspekt des erfindungsgemäßen Verfahrens führt der Hauptrechner das zweite Computerprogramm aus. Das zweite Computerprogramm umfasst den zweiten Maschinenlernalgorithmus. Der zweite Maschinenlernalgorithmus bewirkt, dass der Hauptrechner die von den Umwelterfassungsvorrichtungen erhaltenen Daten synchronisiert und/oder kombiniert zum Erstellen von Prognosen umfassend Prognosen von Bewegungsmustern von Teilnehmern der automatisierten Mobilität und von Verkehrsereignissen und/oder zum Erstellen von Risikomodellen, wenn das zweite Computerprogramm auf dem Hauptrechner läuft. Dabei wird der zweite Maschinenlernalgorithmus auf den von den Umwelterfassungsvorrichtungen erhaltenen Daten in der Cloud trainiert.
-
In dem Training stellt der zweite Maschinenlernalgorithmus seine Architektur derart ein, dass der zweite Maschinenlernalgorithmus eine für das Training und die Daten spezifische Kostenfunktion minimiert. Damit wird die Inferenz des zweiten Maschinenlernalgorithmus optimiert. Beispielsweise ist der zweite Maschinenlernalgorithmus ein künstliches neuronales Netzwerk, das in einem überwachten Lernprozess, auch supervised learning genannt, Gewichte von Neuronenverbindungen Gradienten basiert in Vorwärts- und Rückwärtsspeisungen anpasst.
-
Das Training auf den von den Umwelterfassungsvorrichtungen erhaltenen Daten hat den Vorteil, dass der zweite Maschinenlernalgorithmus auf einer Vielzahl von Daten trainiert wird, insbesondere auf Langzeitdaten. Dabei bilden die Daten der einzelnen Umwelterfassungsvorrichtungen ein jeweiliges, beispielsweise stationäres, Sichtfeld auf die automatisierte Mobilität ab, und sammeln Daten über lange Zeiträume. Damit werden verbessert räumliche und/oder zeitliche Zusammenhänge gelernt. Das Training in der Cloud hat den Vorteil, dass außer dem durch die Cloud-Plattform bereitgestelltem Rechnernetz umfassend die Rechner der einzelnen Umwelterfassungsvorrichtungen und den Hauptrechner keine weitere Hardware bereitgestellt werden muss für die Datensammlung, Datenaufbereitung und Datenauswertung.
-
Die Erfindung wird anhand der in den Figuren
- 1: Ausführungsbeispiel einer erfindungsgemäßen Cloud-Plattform,
- 2: Ausführungsbeispiel einer kritischen Situation,
- 3: weiteres Ausführungsbeispiel einer erfindungsgemäßen Cloud-Plattform,
- 4: Ausführungsbeispiel für eine Umweltperzeption und
- 5: schematische Darstellung eines erfindungsgemäßen Verfahrens gezeigten Beispiele erläutert.
-
In den Figuren bezeichnen gleiche Bezugszeichen gleiche oder funktionsähnliche Bezugsteile. In den Figuren werden nur die für das jeweilige Verständnis relevanten Bezugsteile angegeben.
-
Die in 1 gezeigten Umwelterfassungsvorrichtungen 10 sind als Umwelterfassungssäulen ausgebildet. In einem Gehäuse 11 der Umwelterfassungsvorrichtungen 10 ist jeweils ein Sensorset zur Erfassung der Umwelt angeordnet. Das Sensorset umfasst beispielsweise Kamerasensoren 12 und Lidarsensoren 13. Die Sensoren 12 und 13 sind hinter Öffnungen 14 des Gehäuses 11 angeordnet zur Erfassung der Umwelt. Ein Rechner 15 erhält als Eingang die Signale der Sensoren 12 und 13. Als Ausgang stellt der Rechner 15 Listen von erfassten Objekten 16 mit deren jeweiligen Bewegungszuständen einem Hauptrechner 21 einer Cloud-Plattform 20 bereit. Die Umwelterfassungsvorrichtungen 10 umfassen eine Schnittstelle 17, über die die Listen der erfassten Objekte 16 dem Hauptrechner 21 bereitgestellt werden. Die Schnittstelle 17 ist beispielsweise eine Funkschnittstelle. Über die Schnittstelle 17 können die Umwelterfassungssäulen 10 auch direkt mit Teilnehmern der automatisierten Mobilität, beispielsweise Fahrzeugen 18, kommunizieren, zum Beispiel über V2V oder V2X Kommunikation. Die Cloud-Plattform 20 umfasst eine Schnittstelle 17a, um die Daten von den Umwelterfassungsvorrichtungen 10 zu erhalten.
-
Die Cloud- Plattform umfasst mehrere Umwelterfassungsvorrichtungen 10, die in einer Verkehrsinfrastruktur verteilt, stationär oder mobil, angeordnet sind. Die Umwelterfassungsvorrichtungen 10 sind beispielsweise an kritischen Stellen angeordnet, beispielsweise an komplexen Kreuzungen wie in 3 dargestellt. Ferner umfasst die Cloud-Plattform 20 den Hauptrechner 21, einen Cloud-basierten Speicher 22. Die Rechner 15 der Umwelterfassungsvorrichtungen 10 bilden mit dem Hauptrechner 21 ein Cloud-basiertes Rechnernetz.
-
Der Speicher 22 der Cloud-Plattform 20 umfasst Programminstruktionen, die bewirken, dass die Rechner 15 ausgehend von den Signalen der Sensoren 12, 13 die Objekte 16 erkennen, klassifizieren, lokalisieren und/oder verfolgen und die Erkennungen, Lokalisierungen und/oder Verfolgungen dem Hauptrechner 21 als Daten bereitstellen. Der Speicher 22 umfasst ferner Programminstruktionen, die bewirken, dass der Hauptrechner 21 die Daten der Rechner 15 synchronisiert und/oder kombiniert und aus einzelnen Erfassungen der jeweiligen Umwelterfassungsvorrichtungen 10 eine Datenanreicherung zur zweiten Umwelterfassung erhält.
-
Die Cloud-Plattform 20 umfasst außerdem eine zweite Schnittstelle 23. Über die zweite Schnittstelle 23 stellt die Cloud-Plattform 20 die zweite Umwelterfassung den Teilnehmern der automatisierten Mobilität, beispielsweise Fahrzeugen 18, bereit. Die zweite Schnittstelle 23 ist beispielsweise eine Funkschnittstelle und für V2V oder V2X Kommunikation ausgelegt. Das heißt, die Cloud-Plattform 20 übertragt Daten nach einem Protokoll für V2V oder V2X Kommunikation.
-
2 zeigt ein Beispiel einer kritischen Situation. Der Fußgänger 19 beabsichtigt, eine Fahrbahn zu überqueren. Der Fußgänger 19 ist aus Sicht des heranfahrenden Fahrzeuges 18 von dem unmittelbar neben dem Fußgänger 19 parkenden Fahrzeug verdeckt. Der Fahrer des Fahrzeuges 18 sieht den Fußgänger 19 nicht. Der Fußgänger ist auch nicht erfassbar von ADAS oder AD Sensoren des Fahrzeuges 18. Erfindungsgemäß wird der Fußgänger 19 von einer an dem Zebrastreifen angeordneten Umwelterfassungsvorrichtung 10 detektiert. Über die Cloud-Plattform 20 erhält das Fahrzeug 18 die Information, dass sich hinter dem parkenden Fahrzeug der Fußgänger 19 befindet, der über die Fahrbahn gehen könnte.
-
Bei der in 3 gezeigten Cloud-Plattform 20 für automatisierte Mobilität sind beispielsweise vier Umwelterfassungsvorrichtungen 10 an einer urbanen Kreuzung mit mehreren Fußgängerüberwegen angeordnet. Die Daten der Umwelterfassungsvorrichtungen 10 werden in dem Hauptrechner 21 fusioniert. Über die zweite Schnittstellen 23 kommuniziert die Cloud-Plattform 20 mit autonomen Fahrzeugen 18 und mit Fußgängern 19. Die autonome Fahrzeuge 18 umfassen V2X-Steuergeräte und entsprechende Schnittstellen, um mit der Cloud-Plattform 20 und/oder den Umwelterfassungsvorrichtungen 10 zu kommunizieren. Damit erhalten die autonomen Fahrzeuge 18 von allen sich im Umfeld bewegenden und statischen Objekten 16 Informationen über die jeweiligen Bewegungszustände dieser Objekte 16 aus erweiterten Sichtfeldern.
-
4 zeigt eine Umweltperzeption einer Umwelterfassungsvorrichtung 10, die an die Cloud-Plattform 20 übertragen wird, um mit Umweltperzeptionen weiterer Umwelterfassungsvorrichtungen 10 eine verbesserte Umweltperzeption bereitzustellen. Verschiedene Objekte wurden als bestimmte Objektklassen klassifiziert. Beispielsweise wurden Fahrzeuge, Fußgänger, Fahrradfahrer, Schilder, Bäume, Fahrbahn, Fußweg und Fahrbahnmarkierungen erkannt.
-
Die Verfahrensschritte V1, nämlich Erkennen, Klassifizieren, Lokalisieren und/oder Verfolgen von Objekten in jeweiligen Umfeldern von in einer Verkehrsinfrastruktur verteilt angeordneten Umwelterfassungsvorrichtungen 10, V2, nämlich Bereitstellen der erhaltenen Daten an den Hauptrechner 21 der Cloud-Plattform 20, V3, nämlich Synchronisieren und/oder Kombinieren der Daten in dem Hauptrechner 21, V4, nämlich Erhalten einer zweiten Umwelterfassung aus den einzelnen Erfassungen der jeweiligen Umwelterfassungsvorrichtungen und V5, nämlich Bereitstellen der zweiten Umwelterfassung an die automatisierte Mobilität sind in einem Verfahrensablauf in 5 gezeigt.
-
Bezugszeichenliste
-
- 10
- Umwelterfassungsvorrichtung
- 11
- Gehäuse
- 12
- Sensor
- 13
- Sensor
- 14
- Öffnungen
- 15
- Rechner
- 16
- Objekt
- 17
- Schnittstelle
- 17a
- Schnittstelle
- 18
- Fahrzeug
- 19
- Fußgänger
- 20
- Cloud-Plattform
- 21
- Hauptrechner
- 22
- Speicher
- 23
- zweite Schnittstelle
-
ZITATE ENTHALTEN IN DER BESCHREIBUNG
-
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
-
Zitierte Patentliteratur
-
- EP 2818922 B1 [0002, 0049]
- DE 102019210933 [0003]