-
Die Erfindung betrifft ein Verfahren sowie ein System zur Klassifikation von Verkehrsteilnehmern.
-
Autonom fahrende Kraftfahrzeuge benötigen Fähigkeiten, um andere Verkehrsteilnehmer zu erkennen und diese klassifizieren zu können. Als Sensoren, die Informationen für die Verkehrsteilnehmerklassifizierung liefern, werden hierbei insbesondere Radarsensoren verwendet. Bei der Auswertung der vom Radarsensor bereitgestellten Informationen werden heuristische Verfahren verwendet, die eine Klassifikation basierend auf der Intensität und Streuung der Radarreflektionen bzw. der aus der Dopplerverschiebung abgeleiteten Geschwindigkeit vornehmen.
-
Nachteilig an den bisher verwendeten heuristischen Verfahren ist, dass diese nicht sensorunabhängig sind und daher die Verfahren stets abhängig vom verwendeten Radarsensor angepasst werden müssen.
-
Dies erfordert einen hohen Zeit- und Kostenaufwand bei der Entwicklung derartiger Klassifizierungssysteme.
-
Aus der
DE 196 49 618 A1 ist ein Verfahren sowie eine Vorrichtung zur automatischen Klassifikation von Objekten mittels Doppler-verbreiteter Radarecho-Signale unter Verwendung eines neuronalen Netzes bekannt.
-
Ferner beschreibt die
US 2017/0060254 A1 eine Vorrichtung sowie ein Verfahren zur Gestenerkennung. Die Vorrichtung umfasst hierzu einen Radarsensor, einen Tiefensensor und einen optischen Sensor, welche mit einem Verarbeitungselement gekoppelt sind, derart, dass das Verarbeitungselement eine Handbewegung basierend auf den Daten der Sensoren erfassen kann.
-
Ausgehend hiervon ist es Aufgabe der Erfindung, ein Verfahren anzugeben, mittels dem eine sensorunabhängige Klassifikation von Verkehrsteilnehmern möglich wird.
-
Die Aufgabe wird durch ein Verfahren mit den Merkmalen des unabhängigen Patentanspruchs 1 gelöst. Bevorzugte Ausführungsformen sind Gegenstand der Unteransprüche. Ein System zur Klassifikation von Verkehrsteilnehmern ist Gegenstand des nebengeordneten Patentanspruchs 16.
-
Gemäß einem ersten Aspekt bezieht sich die Erfindung auf ein Verfahren zur Klassifikation von Verkehrsteilnehmern mittels eines Radarsensors. Das Verfahren umfasst dabei folgende Schritte:
-
Zunächst werden erste diskrete Radarinformationen von einem Radarsensor empfangen. Diese ersten diskreten Radarinformationen weisen eine oder mehrere einem Objekt zugeordnete Detektionen auf. Die ersten diskreten Radarinformationen umfassen mehrere erste Radarteilinformationen, die sich auf unterschiedliche Objektcharakteristika beziehen. Die ersten diskreten Radarinformationen sind beispielsweise ortsverteilte Informationen, d.h. sie weisen eine Vielzahl von Werten auf, die angeben, wie groß eine das Objekt charakterisierende Größe (z.B. die reflektierte Intensität, die Geschwindigkeit, die relative Geschwindigkeit etc.) an einem bestimmten Ort im Erfassungsbereich des Radarsensors ist. Die ersten Radarteilinformationen können insbesondere in einem zweidimensionalen Raster (z.B. horizontale x-y-Ebene, x-z-Ebene) oder einem dreidimensionalen Raster dargestellte oder darstellbare Informationen sein. Auch können auf zumindest einer Achse des mehrdimensionalen Rasters Informationen bezüglich der Dopplergeschwindigkeit, insbesondere der relativen Dopplergeschwindigkeit aufgetragen sein.
-
Anschließend werden die ersten diskreten Radarinformationen interpoliert, um interpolierte Radarinformationen zu erhalten, wobei die interpolierten Radarinformationen mehrere interpolierte Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen. In anderen Worten wird also jeweils eine erste Radarteilinformation in eine interpolierte Radarteilinformation überführt, und zwar dadurch, dass die in den ersten Radarteilinformationen enthaltenen Werte im Ortsbereich bzw. Dopplerbereich und vorzugsweise auch bezüglich deren Werte interpoliert werden, so dass die interpolierten Radarteilinformationen orts- bzw. im Dopplerbereich kontinuierliche und vorzugsweise auch wertkontinuierliche Informationen sind. Dadurch kann die sensorspezifische Diskretisierung aufgehoben werden, was zu der sensorunabhängigen Auswertung der gewonnenen Informationen zur Verkehrsteilnehmerklassifizierung beiträgt.
-
Anschließend werden zweite diskrete Radarinformationen generiert, indem die interpolierten Radarinformationen erneut vorzugsweise örtlich diskretisiert werden. Die zweiten diskreten Radarinformationen sind auf ein Objekt bezogene Informationen und umfassen mehrere zweite Radarteilinformationen, die sich auf unterschiedliche Objektcharakteristika beziehen. So können die zweiten diskreten Radarinformationen einen Satz von Radarteilinformationen umfassen, wobei eine erste Radarteilinformation dieses Satzes sich beispielsweise auf die reflektierte Intensität und ein zweiter Satz sich beispielsweise auf die relative oder absolute Geschwindigkeit des detektierten Objekts bezieht. In anderen Worten korrespondiert der Satz von ersten Radarteilinformationen und der Satz von zweiten Radarteilinformationen dahingehend, dass der Satz von zweiten Radarteilinformationen durch Interpolation und vorzugsweise durch Extraktion von lokalen Maximalwerten aus dem Satz von ersten Radarteilinformationen erzeugt wird.
-
Anschließend werden mehrere in unterschiedlichen Radarzyklen generierte, zweite diskrete Radarinformationen überlagert, um dadurch überlagerte diskrete Radarinformationen zu bilden. Dabei werden jeweils diskrete Radarteilinformationen überlagert, die sich auf gleiche Objektcharakteristika beziehen. Mehr im Detail werden vorzugsweise jeweils mehrere zweite Radarteilinformationen, die in unterschiedlichen Radarzyklen erhalten wurden und sich auf ein gleiches Objektcharakteristikum (z.B. die reflektierte Intensität, die Geschwindigkeit, die relative Geschwindigkeit etc.) beziehen, lagegenau überlagert. Dadurch entstehen mehrere überlagerte Radarteilinformationen, die zusammen die überlagerten diskreten Radarinformationen bilden.
-
Abschließend werden die überlagerten diskreten Radarinformationen beurteilt, um basierend auf dem Beurteilungsergebnis die Verkehrsteilnehmer zu klassifizieren.
-
Der wesentliche Vorteil des erfindungsgemäßen Verfahrens besteht darin, dass die überlagerten diskreten Radarinformationen sensorunabhängig oder im Wesentlichen sensorunabhängig sind, so dass keine oder nur eine sehr begrenzte Anpassung des Auswertealgorithmus an den jeweils verwendeten Radarsensor nötig ist.
-
Gemäß einem Ausführungsbeispiel erfolgt die Beurteilung der überlagerten Radarteilinformationen mittels eines selbstlernenden Algorithmus. Dieser verwendet beispielsweise antrainierte bzw. aus bisherigen Erfassungen ermittelte Informationen zur Beurteilung bzw. Analyse der überlagerten Radarteilinformationen und zur Verkehrsteilnehmerklassifikation.
-
Gemäß einem Ausführungsbeispiel erfolgt die Beurteilung der überlagerten Radarteilinformationen mittels eines neuronalen Netzes, insbesondere eines Convolutional Neural Network. Insbesondere wird ein neuronales Netz verwendet, das als Eingangskanäle RGB-Farbkanäle aufweist, d.h. für die digitale Bildverarbeitung ausgebildet ist. Dadurch kann eine sehr hohe Klassifikationsgenauigkeit erreicht werden.
-
Gemäß einem Ausführungsbeispiel werden durch den Radarsensor auf jeweils ein erkanntes Objekt bezogene erste diskrete Radarinformationen bereitgestellt. In anderen Worten erfolgt im Radarsensor eine Objekterkennung und die ersten diskreten Radarinformationen weisen lediglich Informationen auf, die aufgrund von Detektionen an einem bestimmten erkannten Objekt entstanden sind. Dadurch kann eine nach erkannten Objekten getrennte Auswertung der Radarinformationen erfolgen.
-
Alternativ kann die Objekterkennung auch erst in einem späteren Verarbeitungsschritt vollzogen werden, beispielsweise in einer vom Radarsensor getrennten Recheneinheit, in der die interpolierten Radarinformationen oder die zweiten diskreten Radarinformationen berechnet werden.
-
Gemäß einem Ausführungsbeispiel können für die Detektionen einem Objekt zugeordnet werden, indem Detektionen in einem bestimmten örtlich begrenzten Bereich einem Objekt (z.B. Radfahrer, Auto, LKW etc.) zugewiesen werden. Vorteilhafterweise werden für die Objektzuordnung auch die in einem bestimmten Abschnitt des Erfassungsbereichs des Radarsensors gemessenen Dopplerinformationen zur Objektzuordnung bzw. Objekttrennung herangezogen. So können beispielsweise zwei Objekte, die im Wesentlichen im gleichen örtlichen Bereich vorhanden sind, dadurch voneinander getrennt werden, dass diese unterschiedlich hohe Geschwindigkeiten aufweisen und damit die durch den Radarsensor erfassten Dopplerinformationen unterschiedlich sind. In anderen Worten erfolgt eine Objekttrennung vorzugsweise sowohl basierend auf der räumlichen Verteilung von Reflexionsintensitätswerten als auch basierend auf Doppler-Geschwindigkeitsinformationen, um eine verbessertes Objekttracking zu gewährleisten. So werden beispielsweise alle Detektionen einem Objekt zugeordnet, deren Reflexionsintensitätswerte in einem bestimmten örtlichen Bereich (z.B. +/- 2 Meter) liegen und deren Dopplergeschwindigkeitswerte in einem bestimmten Bereich (z.B. +/- 2 m/s) um eine mittlere Objektgeschwindigkeit herum liegen.
-
Ein Hinweis darauf, dass sich in einem bestimmten Raumbereich im Erfassungsbereich des Radarsensors ein Objekt befindet, kann auch von einem externen, vom Radarsensor verschiedenen Sensor (beispielsweise einer Kamera) bereitgestellt werden. Dieser Hinweis kann dann eine Objekterkennungsroutine basierend auf den vom Radarsensor bereitgestellten Informationen auslösen.
-
Gemäß einem Ausführungsbeispiel sind die zweiten Radarteilinformationen auf ein detektiertes Objekt örtlich zentriert, insbesondere örtlich zentriert auf einen Objektmittelpunkt. Vorzugsweise umfassen die zweiten Radarteilinformationen lediglich einen räumlichen Bereich um ein erkanntes Objekt herum, beispielsweise einen Bereich von ± 2m um den Objektmittelpunkt herum. Dadurch werden lediglich auf ein erkanntes Objekt begrenzte Radarinformationen zur Klassifikation der Verkehrsteilnehmer verwendet.
-
Gemäß einem Ausführungsbeispiel erfolgt das Generieren der zweiten diskreten Radarinformationen durch Ermitteln eines oder mehrerer lokaler Maximalwerte in den interpolierten Radarinformationen und durch lagemäßig richtiges Übertragen der ermittelten lokalen Maximalwerte in ein den zweiten diskreten Radarinformationen zugrundeliegendes Raster. Mehr im Detail erfolgt das Generieren von zweiten Radarteilinformationen durch das Ermitteln eines oder mehrerer lokaler Maximalwerte in den interpolierten Radarteilinformationen und durch lagemäßig richtiges Übertragen der ermittelten lokalen Maximalwerte in ein den zweiten Radarteilinformationen zugrundeliegendes Raster. „Lagemäßig richtiges Übertragen“ bedeutet dabei insbesondere, dass der Übertrag unter Wahrung eines lagemäßigen Bezuges zum Objekt, insbesondere dessen geschätzten Objektmittelpunkt erfolgt. Durch die Extraktion der Maximalwerte und deren Übertrag in die zweiten diskreten Radarinformationen kann deren örtliche und betragsmäßige Änderung über der Zeit leichter verfolgt werden.
-
Gemäß einem Ausführungsbeispiel werden die zweiten diskreten Radarinformationen vor dem Überlagern durch Filtern oder eine Faltoperation aufgeweitet oder gespreizt. Durch das ledigliche Übertragen von lokalen Maxima der interpolierten Radarteilinformationen in die zweiten Radarteilinformationen entstehen häufig sehr dünn besetzte Raster bzw. Matrizen, was nachteilig für die Auswertung durch selbstlernende Algorithmen, insbesondere durch neuronale Netzwerke der digitalen Bildverarbeitung ist. Durch das Filtern bzw. Falten kann eine dichtere Besetzung der Matrizen erreicht werden, so dass eine verbesserte Auswertung möglich ist.
-
Gemäß einem Ausführungsbeispiel wird beim Überlagern von mehreren zweiten Radarteilinformationen jeweils der Maximalwert oder der Mittelwert aus allen korrespondierenden Rasterbereichen der zweiten Radarteilinformationen bestimmt und dieser Maximalwert bzw. Mittelwert in ein den überlagerten Radarteilinformationen zugrundeliegendes Raster eingetragen. Mehr im Detail weisen die überlagerten Radarteilinformationen ebenfalls ein Raster bzw. Grid auf, das dem Raster der zweiten Radarteilinformationen entspricht. Für den Fall, dass bei den zu überlagernden zweiten Radarteilinformationen, die aus unterschiedlichen Radarzyklen stammen, ein bestimmter Rasterbereich (beispielsweise Rasterbereich (10,10)) in mehreren oder allen Radarzyklen besetzt ist, wird das Maximum oder alternativ der Mittelwert aller Werte bestimmt und dieser Maximalwert bzw. Mittelwert in den korrespondierenden Rasterbereich der überlagerten Radarteilinformationen übertragen.
-
Gemäß einem Ausführungsbeispiel ist das Raster, in das die jeweiligen Maximalwerte bzw. Mittelwerte eingetragen werden, auf ein Objekt, insbesondere auf einen Mittelpunkt eines Objekts zentriert. Damit kann erreicht werden, dass trotz Bewegung des Objekts die überlagerten diskreten Radarinformationen örtlich auf das Objekt fokussiert bleiben.
-
Gemäß einem Ausführungsbeispiel enthalten die überlagerten diskreten Radarinformationen Zeitinformationen, die den Radarzyklus charakterisieren, in dem die jeweilige einem Rasterbereich zugeordnete Information bzw. der Wert erhalten wurde. Die Zeitinformationen können dem auswertenden Algorithmus in Form einer Zeitinformationsmatrix übergeben werden, wobei die Zeilen und Spalten der Zeitinformationsmatrix mit den Zeilen und Spalten des Rasters korrespondiert, das den überlagerten Radarteilinformationen zugrunde liegt. Damit gibt beispielsweise eine in einem Rasterbereich der Zeitinformationsmatrix enthaltene Zeitinformation an, in welchem Radarzyklus ein Wert erhalten wurde, der in dem korrespondierenden Rasterbereich der überlagerten Radarteilinformation enthalten ist. Dadurch kann eine Analyse der überlagerten diskreten Radarinformationen unter Berücksichtigung der zeitlichen Veränderung der Radarinformationen über mehrere Radarzyklen hinweg erfolgen.
-
Gemäß einem Ausführungsbeispiel sind die Objektcharakteristika die Reflexionsintensität eines Bereichs des detektierten Objekts, eine Geschwindigkeitsinformation des detektierten Objekts, insbesondere die relative Geschwindigkeit oder aus der Geschwindigkeit des Objekts abgeleitete Größen.
-
Gemäß einem Ausführungsbeispiel werden beim Beurteilen der überlagerten diskreten Radarinformationen mehrere unterschiedliche überlagerte Radarteilinformationen herangezogen, die jeweils durch Überlagerung von mehreren zweiten Radarteilinformationen aus unterschiedlichen Radarzyklen entstehen. Dabei werden jeweils solche zweite Radarteilinformationen überlagert, die sich auf ein bestimmtes detektiertes Objekt und eine das detektierte Objekt charakterisierende Größe (Reflexionsintensität, relative Geschwindigkeit, absolute Geschwindigkeit etc.) beziehen. Beispielsweise werden bei dem Beurteilen eine erste überlagerte Radarteilinformation, die Informationen bezüglich der Reflexionsintensität aufweist, und eine zweite überlagerte Radarteilinformation, die die Informationen bezüglich der relativen Geschwindigkeit des Objekts aufweist, herangezogen. Die Informationen bezüglich der relativen Geschwindigkeit des Objekts können ortsaufgelöste Informationen sein, die angeben, wie hoch die relative Geschwindigkeit des Objekts in einem gewissen örtlichen Bereich des Objekts ist. Bei der Beurteilung kann dabei insbesondere der sog. Mikro-Dopplereffekt ausgenutzt werden.
-
Gemäß einem Ausführungsbeispiel werden zum Beurteilen der überlagerten diskreten Radarinformationen maximal drei überlagerte diskrete Radarteilinformationen herangezogen. Dadurch ist es möglich einen selbstlernenden Algorithmus aus der digitalen Bildverarbeitung zu verwenden, der häufig drei Eingangskanäle (RGB-Farbkanäle) aufweist.
-
Gemäß einem Ausführungsbeispiel wird zum Beurteilen der überlagerten diskreten Radarinformationen ein für die Bildverarbeitung ausgebildeter selbstlernender Algorithmus verwendet, wobei dem Algorithmus die überlagerten diskreten Radarteilinformationen über dessen RGB-Kanäle zugeführt. Dadurch können optimierte Algorithmen der digitalen Bildverarbeitung für die Klassifikation von Verkehrsteilnehmern verwendet werden.
-
Gemäß einem weiteren Aspekt betrifft die Erfindung ein Computerprogrammprodukt zur Klassifikation von Verkehrsteilnehmern, wobei das Computerprogrammprodukt ein computerlesbares Speichermedium mit Programmanweisungen umfasst, wobei die Programmanweisungen durch einen Prozessor ausführbar sind, um den Prozessor dazu zu veranlassen, ein Verfahren gemäß einem der vorhergehenden Ausführungsbeispiele auszuführen.
-
Gemäß einem weiteren Aspekt betrifft die Erfindung ein System zur Klassifikation von Verkehrsteilnehmern umfassend einen Radarsensor und eine Rechnereinheit oder eine miteinander interagierende Gruppe von Rechnereinheiten, wobei die Rechnereinheit oder die miteinander interagierende Gruppe von Rechnereinheiten dazu ausgebildet ist:
- - erste diskrete Radarinformationen von einem Radarsensor zu empfangen, wobei die ersten diskreten Radarinformationen eine oder mehrere einem Objekt zugeordnete Detektionen enthalten und wobei die ersten diskreten Radarinformationen mehrere erste Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen;
- - die ersten diskreten Radarinformationen zu interpolieren, um interpolierte Radarinformationen zu erhalten, wobei die interpolierten Radarinformationen mehrere interpolierte Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen;
- - zweite diskrete Radarinformationen durch Diskretisieren der interpolierten Radarinformationen zu generieren, wobei die zweiten diskreten Radarinformationen auf ein Objekt bezogene Informationen sind und mehrere zweite Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen;
- - mehrere in unterschiedlichen Radarzyklen generierte zweite diskrete Radarinformationen zu überlagern, um überlagerte diskrete Radarinformationen zu erzeugen, wobei die überlagerten diskreten Radarinformationen mehrere überlagerte Radarteilinformationen umfassen, wobei zur Bildung einer überlagerten Radarteilinformation jeweils mehrere zweite Radarteilinformationen überlagert werden, die sich auf gleiche Objektcharakteristika beziehen;
- - die überlagerten Radarteilinformationen zu beurteilen und die Verkehrsteilnehmer basierend auf dem Beurteilungsergebnis zu klassifizieren.
-
Unter „Radarteilinformationen“ im Sinne der vorliegenden Erfindung wird ein Teil eines Satzes von Radarinformationen verstanden, die in Bezug auf ein detektiertes Objekt ermittelt werden. Eine Radarteilinformation kann sich beispielsweise auf ein erstes Objektcharakteristikum beziehen, beispielsweise die Reflexionsintensität, und eine weitere Radarteilinformation kann sich auf ein anderes Objektcharakteristikum beziehen, beispielsweise die relative Geschwindigkeit des Objekts. Radarteilinformationen sind vorzugsweise ortsabhängige Informationen, d.h. sie weisen eine Vielzahl von Werten auf, deren Betrag jeweils die Größe des Objektcharakteristikums an einem bestimmten Ort im Erfassungsbereich des Radarsensors repräsentiert.
-
Unter „auf ein Objekt bezogene Radarinformationen“ im Sinne der vorliegenden Erfindung bedeutet, dass die Radarinformationen auf ein Objekt getrackt sind und nur oder im Wesentlichen nur Informationen zu diesem Objekt enthalten. So werden beispielsweise erfasste Radarinformationen, in denen mehrere detektierte Objekte enthalten sind, in mehrere Bereiche aufgetrennt, so dass in einem Bereich lediglich Detektionen zu einem Objekt enthalten sind.
-
Unter „Überlagerung von Radarteilinformationen, die sich auf gleiche Objektcharakteristika beziehen“ bedeutet im Sinne der vorliegenden Erfindung, dass Radarteilinformationen kombiniert bzw. verschmolzen werden, die Werte über ein bestimmtes Objektcharakteristikum enthalten, beispielsweise die Reflexionsintensität oder die relative Geschwindigkeit.
-
Die Ausdrücke „näherungsweise“, „im Wesentlichen“ oder „etwa“ bedeuten im Sinne der Erfindung Abweichungen vom jeweils exakten Wert um +/- 10%, bevorzugt um +/- 5% und/oder Abweichungen in Form von für die Funktion unbedeutenden Änderungen.
-
Weiterbildungen, Vorteile und Anwendungsmöglichkeiten der Erfindung ergeben sich auch aus der nachfolgenden Beschreibung von Ausführungsbeispielen und aus den Figuren. Dabei sind alle beschriebenen und/oder bildlich dargestellten Merkmale für sich oder in beliebiger Kombination grundsätzlich Gegenstand der Erfindung, unabhängig von ihrer Zusammenfassung in den Ansprüchen oder deren Rückbeziehung. Auch wird der Inhalt der Ansprüche zu einem Bestandteil der Beschreibung gemacht.
-
Die Erfindung wird im Folgenden anhand der Figuren an Ausführungsbeispielen näher erläutert. Es zeigen:
- 1 beispielhaft und grob schematisch ein System zur Klassifizierung von Verkehrsteilnehmern;
- 2a beispielhaft diskrete Werte einer Radarteilinformation der ersten diskrete Radarinformation (beispielsweise die Reflexionsintensität) aufgetragen über dem Ort (beispielhaft in Azimut-Richtung);
- 2b beispielhaft durch Interpolation der Radarteilinformation aus 2a erhaltene Werte (geschwungene Linie) und lokale Maxima dieser interpolierten Radarteilinformation (Punkte in den Maxima);
- 2c beispielhaft die im Erfassungsbereich eines Radarsensors in einer Draufsichtdarstellung eingetragenen Detektionen als zweite diskrete Radarinformationen, die lokale Maxima gemäß 2b bilden;
- 2d beispielhaft die Detektionen gemäß 2c, nach einem Objekterkennungszyklus, wobei die erkannten Objekte durch mehrere Detektionen umschließende Kreise dargestellt sind;
- 2e beispielhaft ein auf den Mittelpunkt eines Objekts bezogenes Raster, in das mehrere Detektionen eingetragen sind;
- 3 beispielhaft und schematisch die Überlagerung mehrerer zweiter Radarinformationen und zwar getrennt nach Radarteilinformationen (RCS, Geschwindigkeit und Zeitinformation), die aus unterschiedlichen Radarzyklen erhalten wurden; und
- 4 beispielhaft und schematisch die Kombination von drei überlagerten Radarteilinformationen über RGB-Kanäle eines neuronalen Netzwerks zur Gewinnung von Merkmalen bzw. Beurteilungsergebnissen.
-
1 zeigt exemplarisch und grob schematisch ein System 1 zur Klassifizierung von Verkehrsteilnehmern und vorzugsweise deren aktuelle und/oder unmittelbar bevorstehende Handlungen (sog. Intent Related Features). Derartige „Intent Related Features“ können beispielsweise eine Unterscheidung dahingehend sein, ob ein Fahrradfahrer pedaliert oder nicht. Ein auf zukünftige Handlungen hinweisendes „Intent Related Feature“ kann beispielsweise ein Verlangsamen der Tretbewegung kurz vor dem Anhalten sein, so dass aus einer Verlangsamung der Tretbewegung rückgeschlossen werden kann, dass der Fahrradfahrer möglicherweise bald anhält.
-
Das System 1, das insbesondere in einem Kraftfahrzeug verbaut sein kann, umfasst einen Radarsensor 2, der zur Bereitstellung von Radarinformationen ausgebildet ist. Diese werden nachfolgend als erste diskrete Radarinformationen bezeichnet. Die ersten, diskreten Radarinformationen umfassen mehrere Radarteilinformationen. Die Radarteilinformationen der ersten diskreten Radarinformationen werden durch diskrete Werte repräsentiert, die in einem Raster örtlich oder im Geschwindigkeitsbereich (Doppler) diskretisiert (2D oder 3D) bereitgestellt werden. Das Raster, basierend auf dem die örtliche oder auf die Geschwindigkeit bezogene Diskretisierung erfolgt, wird auch als Radargrid bezeichnet. Es enthält eine Vielzahl von räumlich oder im Geschwindigkeitsbereich verteilt angeordnete Rasterbereiche, die kodierte Werte enthalten können. Diese kodierten Werte der Radarteilinformationen der ersten diskreten Radarinformationen beziehen sich beispielsweise auf durch den Radarsensor ermittelte charakteristische Größen eines Objekts, nachfolgend auch Objektcharakteristika bezeichnet. Diese Objektcharakteristika können beispielsweise die Reflexionsintensität an einem bestimmten Ort, die Geschwindigkeit, insbesondere die relative Geschwindigkeit in Bezug auf das Fahrzeug, in dem der Radarsensor 2 verbaut ist oder andere abgeleitete Größen sein.
-
In anderen Worten betrifft eine erste, vom Radarsensor 2 bereitgestellte Radarteilinformation beispielsweise die ortsverteilte Reflexionsintensität und eine zweite, vom Radarsensor 2 bereitgestellte Radarteilinformation beispielsweise eine ortsverteilte Geschwindigkeitsinformation, die angibt, welche Geschwindigkeit ein an einem gewissen örtlichen Bereich befindliches Objekt, an dem die jeweilige Reflexion aufgetreten ist, aufweist.
-
Die örtliche Diskretisierung der jeweiligen Radarteilinformation (d.h. das Radargrid) ist sensorabhängig. So kann ein Rasterbereich bzw. eine Zelle des Radargrids je nach Auflösung des Radarsensors 2 beispielsweise eine Länge und/oder Breite im Bereich von einigen cm bis mehreren Metern haben.
-
Das System 1 umfasst des Weiteren eine Rechnereinheit 3. Die Rechnereinheit 3 ist mit dem Radarsensor 2 über eine geeignete Kommunikationsverbindung gekoppelt, so dass eine Datenübertragung zwischen dem Radarsensor 2 und der Rechnereinheit 3 erfolgen kann. Diese Datenverbindung kann unidirektional oder bidirektional ausgebildet sein. Insbesondere werden vorgenannte erste diskrete Radarinformationen an die Rechnereinheit 3 übertragen, so dass die Rechnereinheit 3 diese weiterverarbeiten kann.
-
Die Rechnereinheit 3 kann eine dem Radarsensor 2 nachgeschaltete Rechnereinheit sein, die ausschließlich für die Verarbeitung der Radarinformationen vorgesehen ist. Alternativ kann die Rechnereinheit 3 eine zentrale Rechnereinheit des Fahrzeugs sein, die eine Vielzahl von Aufgaben hat, u.a. die Weiterverarbeitung und Auswertung der vom Radarsensor 2 bereitgestellten Radarinformationen. Auch kann eine Gruppe von Rechnereinheiten vorgesehen sein, wobei die Rechnereinheiten der Gruppe derart miteinander agieren, dass eine Verarbeitung der Radarinformationen durch die Gruppe von Rechnereinheiten erfolgt.
-
Wie vorher dargelegt, sind die ersten diskreten Radarinformationen sensorabhängig. Um eine sensorunabhängige Auswertung und Beurteilung der Radarinformationen zur Klassifizierung der Verkehrsteilnehmer vornehmen zu können, werden die ersten diskreten Radarinformationen in der Rechnereinheit 3 interpoliert. Die Rechnereinheit 3 kann dabei integraler Bestandteil des Radarsensors 2 sein oder aber eine vom Radarsensor 2 abgesetzte Rechnereinheit 3 sein. Bei der Interpolation werden insbesondere die einzelnen Radarteilinformationen der ersten diskreten Radarinformationen getrennt voneinander interpoliert, d.h. die diskreten Radarteilinformationen, die beispielsweise Informationen bezüglich der ortsverteilten Reflexionsintensität umfassen, werden getrennt von den Radarteilinformationen, die ortsverteilte Geschwindigkeitsinformationen enthalten, behandelt. Durch die Interpolation werden beispielsweise aus dem diskreten Ortsbereich und dem diskreten Wertebereich der Radarteilinformationen kontinuierliche Bereiche. Dadurch wird die sensorabhängige Diskretisierung aufgehoben und eine Unabhängigkeit von dem Radarsensortyp erreicht, der die Radarinformationen bereitstellt.
-
2a zeigt beispielhaft Radarteilinformationen der ersten diskreten Radarinformationen, die die Reflexionsintensität über dem Ort, beispielsweise in Azimut-Richtung angeben.
-
2b zeigt interpolierte Radarteilinformationen, die durch Interpolation der in 2a gezeigten diskreten Radarteilinformationen erhalten werden. Durch die Interpolation wird eine Vielzahl von Zwischenwerte generiert, veranschaulicht durch den stetigen Graphen in 2b.
-
Um die in den interpolierten Radarinformationen enthaltenen Informationen mit Mitteln der digitalen Signalverarbeitung, insbesondere selbstlernenden Algorithmen, besonders bevorzugt neuronalen Netzen oder convolutional neuronal networks (CNN) bearbeiten zu können, werden die interpolierten Radarinformationen erneut in diskrete Radarinformationen umgewandelt, nachfolgend zweite diskrete Radarinformationen genannt.
-
Die zweiten diskreten Radarinformationen enthalten ebenfalls wieder mehrere Radarteilinformationen, und zwar in der Form, dass die kodierten Werte der Radarteilinformationen der zweiten diskreten Radarinformationen sich beispielsweise auf durch den Radarsensor ermittelte charakteristische Größen eines Objekts, nachfolgend auch Objektcharakteristika bezeichnet, beziehen. Diese Objektcharakteristika können beispielsweise die Reflexionsintensität an einem bestimmten Ort, die Geschwindigkeit, insbesondere die relative Geschwindigkeit in Bezug auf das Fahrzeug, in dem der Radarsensor 2 verbaut ist oder andere abgeleitete Größen sein.
-
So werden beispielsweise die sich auf die Reflexionsintensität beziehenden Radarteilinformationen der zweiten diskreten Radarinformationen durch Interpolation von Radarteilinformationen der ersten diskreten Radarinformationen, die sich ebenfalls auf die Reflexionsintensität beziehen, und erneuter Diskretisierung dieser interpolierten Radarteilinformationen erhalten. Gleiches gilt für die Radarteilinformationen, die sich auf die Geschwindigkeit bzw. die relative Geschwindigkeit beziehen.
-
Des Weiteren können die zweiten diskreten Radarinformationen weitere Radarteilinformationen enthalten, die rechnerisch aus den vorgenannten, sich auf Geschwindigkeit bzw. Reflexionsintensität beziehenden Radarteilinformationen abgeleitet werden können. Das können beispielsweise Radarteilinformationen zum Mittelwert und zur Standardabweichung der Absolutgeschwindigkeit des bewegten Objekts sein.
-
Vorzugsweise werden die Radarteilinformationen der zweiten diskreten Radarinformationen dadurch erhalten, dass lediglich die örtlichen Maxima der interpolierten Radarteilinformationen in die jeweiligen Radarteilinformationen der zweiten diskreten Radarinformationen übernommen werden. 2b zeigt lokale Maxima in Form von drei Punkten auf dem stetigen Graphen, die anschließend zur Bildung der zweiten diskreten Radarinformationen herangezogen werden.
-
2c zeigt beispielhaft den Erfassungsbereich des Radarsensors 2 in einer Draufsichtdarstellung (x-y-Bereich bzw. Azimut-Abstand-Bereich), in den die zweiten Radarinformationen eingetragen sind.
-
Vorzugsweise wird von dem Radarsensor 2 oder ggf. erst der Recheneinheit 3 ein sog. Objekttracking vollzogen, d.h. in aufeinanderfolgenden Radarzyklen erkannte Detektionen werden einem oder mehreren Objekten zugeordnet. Zudem kann der Bewegungsverlauf der Objekte über mehrere Radarzyklen hinweg nachvollzogen werden.
-
2d zeigt die zweiten Radarinformationen gemäß 2c, in denen ein Teil der Detektionen zwei Objekten (gekennzeichnet durch Kreise) zugeordnet sind.
-
Die Radarteilinformationen der zweiten diskreten Radarinformationen können jeweils auf ein Objekt bezogen sein und decken damit vorzugsweise einen örtlichen Bereich ab, an dem sich das Objekt im jeweiligen Radarzyklus befindet. Weiterhin vorzugsweise sind die Radarteilinformationen der zweiten diskreten Radarinformationen auf den Mittelpunkt des jeweils detektierten Objekts zentriert. Damit decken die Radarteilinformationen der zweiten diskreten Radarinformationen beispielsweise lediglich einen bestimmten Ortsbereich des gesamten Erfassungsbereichs des Radarsensors ab.
-
Vorzugsweise werden die zweiten diskreten Radarinformationen in ein Raster bzw. eine Matrix eingetragen, das/die auf einen Objektmittelpunkt zentriert ist und eine im Vergleich zum Radarsensor 2 feinere Diskretisierung aufweist.
-
2e zeigt ein derartiges Raster, das objektzentriert ist und in dem die Detektionen als Punkte eingetragen sind. Es sei darauf hingewiesen, dass in den Rasterbereichen keine binären Informationen sondern die tatsächlichen Werte (RCS-Wert, Geschwindigkeitswert etc.) eingetragen werden. Die Rasterbereiche des Rasters beziehen sich auf Ortsbereiche im Erfassungsbereich des Radarsensors und damit auf einen Flächenbereich beispielsweise im x-y-Bereich bzw. Azimut-Abstand-Bereich.
-
Die Radarteilinformationen der zweiten diskreten Radarinformationen weisen vorzugsweise eine feinere Diskretisierung des Ortsbereichs auf als die ersten diskreten Radarinformationen. Dadurch ergeben sich sehr dünn besetzte diskrete Wertebereiche bzw. Matrizen, wie in 2c gezeigt.
-
Um die Radarteilinformationen der zweiten diskreten Radarinformationen, die, wie voranstehend beschrieben, sehr dünn besetzte Matrizen sind, in einem selbstlernenden Algorithmus, insbesondere einem CNN verwenden zu können, können die in den Radarteilinformationen der zweiten diskreten Radarinformationen enthaltenen Werte aufgeweitet bzw. gespreizt werden. Dies kann beispielsweise mittels eines Faltungs- und/oder Filteralgorithmus erfolgen.
-
Um Bewegungsmuster der Verkehrsteilnehmer, die sich durch den Mikro-Dopplereffekt in den Radarinformationen wiederspiegeln und/oder Parametervariationen der Reflexionsintensität besser erkennen zu können, werden mehrere Radarteilinformationen der zweiten diskreten Radarinformationen, die aus unterschiedlichen, vorzugsweise direkt aufeinanderfolgenden Radarzyklen stammen, überlagert. Die Überlagerung erfolgt insbesondere derart, dass Radarteilinformationen, die sich auf dasselbe Objektcharakteristikum (Rückstrahlintensität, Geschwindigkeit, etc.) beziehen, lagegerecht überlagert werden. Hierbei bedeutet lagegerecht insbesondere, dass die Radarteilinformationen jeweils bezogen auf den Objektmittelpunkt ausgerichtet und bezogen auf diesen überlagert werden.
-
3 zeigt beispielhaft die Überlagerung mehrerer Radarteilinformationen der zweiten diskreten Radarinformationen, die Werte hinsichtlich der Reflexionsintensität beinhalten und aus unterschiedlichen Radarzyklen stammen (t0, t-n+2, t-n+1) stammen.
-
Für den Fall, dass an einem bestimmten Rasterbereich der diskreten, aus unterschiedlichen Radarzyklen erhaltenen Radarteilinformationen (d.h. beispielsweise gleiche Zeile und Spalte in einer Matrix) jeweils Werte vorhanden sind, wird beispielsweise aus diesen Werten der Maximalwert oder der Mittelwert bestimmt und dieser Maximalwert/Mittelwert in die überlagerten diskreten Radarinformationen übernommen.
-
Um zu verhindern, dass nach der Überlagerung von Radarteilinformationen, die unterschiedlichen Radarzyklen zugeordnet sind, die Information verloren geht, aus welchem Radarzyklus ein einem Rasterbereich zugeordneter Wert stammt, kann eine Datenstruktur generiert werden, die Zeitinformationen beinhaltet. Diese Zeitinformation gibt insbesondere an, aus welchem Radarzyklus ein einem Rasterbereich zugeordneter Wert der überlagerten diskreten Radarinformationen stammt. Dadurch kann bei der Auswertung der überlagerten diskreten Radarinformationen die Änderung der Radarteilinformationen über der Zeit berücksichtigt werden, aus der sich vorteilhafterweise Rückschlüsse auf das zukünftige Verhalten eines Verkehrsteilnehmers ziehen lassen. Die Zeitinformation ist in 3 als Zeitstempelmatrix bezeichnet.
-
Die Datenstruktur, in der die Zeitinformation beinhaltet ist, kann vorzugsweise eine matrixartige Datenstruktur sein. Insbesondere kann die Anzahl der Zeilen und Spalten dieser Datenstruktur gleich zu der Anzahl von Zeilen und Spalten sein, die das Raster der überlagerten diskreten Radarinformationen hat. Dadurch kann über die Zeilen- und Spaltennummer eine Zuordnung einer Zeitinformation zu einem Wert der überlagerten diskreten Radarinformationen erfolgen.
-
Wie vorher bereits beschrieben, können die überlagerten diskreten Radarinformationen mehrere Radarteilinformationen enthalten, die jeweils aus der Überlagerung diskreter zweiter Radarteilinformationen entstehen, die sich auf gleiche Objektcharakteristika beziehen (beispielsweise die relative Geschwindigkeit an mehreren örtlichen Bereichen des Objekts oder die ortsverteilte Reflexionsintensität des Objekts). Die Radarteilinformationen der überlagerten diskreten Radarinformationensind in 3 in der letzten Spalte gezeigt. In anderen Worten enthält also eine erste Radarteilinformation der überlagerten diskreten Radarinformationen beispielsweise Informationen, wie sich die ortsverteilte Reflexionsintensität des Objekts über mehrere Radarzyklen hinweg verändert hat. Eine zweite Radarteilinformation der überlagerten diskreten Radarinformationen trägt beispielsweise Informationen, wie sich die relative Geschwindigkeit unterschiedlicher örtlicher Bereiche des Objekts über mehrere Radarzyklen hinweg verändert hat.
-
Diese überlagerten diskreten Radarinformationen werden anschließend durch einen selbstlernenden Algorithmus, insbesondere ein neuronales Netz, besonders bevorzugt ein convolutional neuronal network verarbeitet. Dabei werden dem Algorithmus die in den überlagerten diskreten Radarinformationen enthaltenen Radarteilinformationen getrennt voneinander zugeführt.
-
Vorzugsweise wird ein Algorithmus aus der Bildverarbeitung verwendet, der drei Eingangskanäle in Form von RGB-Kanälen (RGB: Rot-Grün-Blau) aufweist. Dies ist schematisch in 4 veranschaulicht. Jedem Eingangskanal wird jeweils eine Radarteilinformation der überlagerten diskreten Radarinformationen zugeführt. So empfängt beispielsweise der erste Eingangskanal Radarteilinformationen, die die ortsverteilte Reflexionsintensität des Objekts über mehrere Radarzyklen angeben, der zweite Eingangskanal Radarteilinformationen, die die relative Geschwindigkeit unterschiedlicher örtlicher Bereiche des Objekts über mehrere Radarzyklen hinweg angibt und der dritte Eingangskanal beispielsweise vorgenannte Zeitinformationen oder andere Informationen (beispielsweise Mittelwert und Standardabweichung der ortsverteilten absoluten Geschwindigkeit des Objekts). Dadurch können hochoptimierte Algorithmen bzw. neuronale Netze der Bildverarbeitung zur Analyse der überlagerten diskreten Radarinformationen verwendet werden.
-
Der Algorithmus wertet vorzugsweise die empfangenen überlagerten diskreten Radarinformationen aus, insbesondere basierend auf Informationen, die während einer Lernphase gewonnen wurden. Als Ergebnis der Auswertung kann eine Klassifikation der Verkehrsteilnehmer nach dessen Art (Fußgänger, Radfahrer, PKW, LKW etc.) oder sonstigen Eigenschaften (Radfahrer pedaliert oder nicht, Radfahrer bremst, Radfahrer bewegt sich auf dem Fahrrad etc.) vorgenommen werden. Der Ausgang des Algorithmus kann eine digitale Information sein, die angibt, in welche Klasse ein erkannter Verkehrsteilnehmer einzuordnen ist (beispielsweise Fußgänger: 00, Radfahrer: 01, PKW: 10, LKW: 11). Alternativ oder zusätzlich können auch Wahrscheinlichkeitswerte ausgegeben werden, die angeben, mit welcher Wahrscheinlichkeit ein detektiertes Objekt in eine bestimmte Klasse einzuordnen ist.
-
Die Erfindung wurde voranstehend an Ausführungsbeispielen beschrieben. Es versteht sich, dass zahlreiche Änderungen sowie Abwandlungen möglich sind, ohne dass dadurch der durch die Patentansprüche definierte Schutzbereich verlassen wird.
-
Bezugszeichenliste
-
- 1
- System
- 2
- Radarsensor
- 3
- Rechnereinheit