DE102018203591B3 - Verfahren und System zur Klassifikation von Verkehrsteilnehmern - Google Patents

Verfahren und System zur Klassifikation von Verkehrsteilnehmern Download PDF

Info

Publication number
DE102018203591B3
DE102018203591B3 DE102018203591.1A DE102018203591A DE102018203591B3 DE 102018203591 B3 DE102018203591 B3 DE 102018203591B3 DE 102018203591 A DE102018203591 A DE 102018203591A DE 102018203591 B3 DE102018203591 B3 DE 102018203591B3
Authority
DE
Germany
Prior art keywords
radar
information
discrete
superimposed
sub
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
DE102018203591.1A
Other languages
English (en)
Inventor
Andreas Koch
Sachin Kashyap Bukkambudhi Satyanarayana
Dennis Kinder
Jonathan Wache
Stefan Heinrich
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Continental Autonomous Mobility Germany GmbH
Original Assignee
Conti Temic Microelectronic GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Conti Temic Microelectronic GmbH filed Critical Conti Temic Microelectronic GmbH
Priority to DE102018203591.1A priority Critical patent/DE102018203591B3/de
Application granted granted Critical
Publication of DE102018203591B3 publication Critical patent/DE102018203591B3/de
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/015Detecting movement of traffic to be counted or controlled with provision for distinguishing between two or more types of vehicles, e.g. between motor-cars and cycles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/02Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
    • G01S13/06Systems determining position data of a target
    • G01S13/42Simultaneous measurement of distance and other co-ordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/02Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
    • G01S13/50Systems of measurement based on relative movement of target
    • G01S13/58Velocity or trajectory determination systems; Sense-of-movement determination systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/28Details of pulse systems
    • G01S7/285Receivers
    • G01S7/292Extracting wanted echo-signals
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/28Details of pulse systems
    • G01S7/285Receivers
    • G01S7/292Extracting wanted echo-signals
    • G01S7/2923Extracting wanted echo-signals based on data belonging to a number of consecutive radar periods
    • G01S7/2926Extracting wanted echo-signals based on data belonging to a number of consecutive radar periods by integration
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/28Details of pulse systems
    • G01S7/285Receivers
    • G01S7/295Means for transforming co-ordinates or for evaluating data, e.g. using computers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/35Details of non-pulse systems
    • G01S7/352Receivers
    • G01S7/354Extracting wanted echo-signals
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/41Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • G01S7/411Identification of targets based on measurements of radar reflectivity
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/41Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • G01S7/415Identification of targets based on measurements of movement associated with the target
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/41Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • G01S7/417Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section involving the use of neural networks
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/66Radar-tracking systems; Analogous systems
    • G01S13/72Radar-tracking systems; Analogous systems for two-dimensional tracking, e.g. combination of angle and range tracking, track-while-scan radar
    • G01S13/723Radar-tracking systems; Analogous systems for two-dimensional tracking, e.g. combination of angle and range tracking, track-while-scan radar by using numerical data
    • G01S13/726Multiple target tracking

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Electromagnetism (AREA)
  • Traffic Control Systems (AREA)

Abstract

Die Erfindung bezieht sich auf ein Verfahren zur Klassifikation von Verkehrsteilnehmern mittels eines Radarsensors mit folgenden Schritten:-Empfangen von ersten diskreten Radarinformationen von einem Radarsensor, wobei die ersten diskreten Radarinformationen eine oder mehrere einem Objekt zugeordnete oder zuordenbare Detektionen enthalten und wobei die ersten diskreten Radarinformationen mehrere erste Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen;-Interpolieren der ersten diskreten Radarinformationen, um interpolierte Radarinformationen zu erhalten, wobei die interpolierten Radarinformationen mehrere interpolierte Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen;-Generieren von zweiten diskreten Radarinformationen durch Diskretisieren der interpolierten Radarinformationen, wobei die zweiten diskreten Radarinformationen auf ein Objekt bezogene Informationen sind und mehrere zweite Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen;-Überlagern mehrerer in unterschiedlichen Radarzyklen generierter zweiter diskreter Radarinformationen zur Erzeugung von überlagerten diskreten Radarinformationen, wobei die überlagerten diskreten Radarinformationen mehrere überlagerte Radarteilinformationen umfassen, wobei zur Bildung einer überlagerten Radarteilinformation jeweils mehrere zweite Radarteilinformationen überlagert werden, die sich auf gleiche Objektcharakteristika beziehen;-Beurteilen der überlagerten Radarteilinformationen und Klassifizieren der Verkehrsteilnehmer basierend auf dem Beurteilungsergebnis.

Description

  • Die Erfindung betrifft ein Verfahren sowie ein System zur Klassifikation von Verkehrsteilnehmern.
  • Autonom fahrende Kraftfahrzeuge benötigen Fähigkeiten, um andere Verkehrsteilnehmer zu erkennen und diese klassifizieren zu können. Als Sensoren, die Informationen für die Verkehrsteilnehmerklassifizierung liefern, werden hierbei insbesondere Radarsensoren verwendet. Bei der Auswertung der vom Radarsensor bereitgestellten Informationen werden heuristische Verfahren verwendet, die eine Klassifikation basierend auf der Intensität und Streuung der Radarreflektionen bzw. der aus der Dopplerverschiebung abgeleiteten Geschwindigkeit vornehmen.
  • Nachteilig an den bisher verwendeten heuristischen Verfahren ist, dass diese nicht sensorunabhängig sind und daher die Verfahren stets abhängig vom verwendeten Radarsensor angepasst werden müssen.
  • Dies erfordert einen hohen Zeit- und Kostenaufwand bei der Entwicklung derartiger Klassifizierungssysteme.
  • Aus der DE 196 49 618 A1 ist ein Verfahren sowie eine Vorrichtung zur automatischen Klassifikation von Objekten mittels Doppler-verbreiteter Radarecho-Signale unter Verwendung eines neuronalen Netzes bekannt.
  • Ferner beschreibt die US 2017/0060254 A1 eine Vorrichtung sowie ein Verfahren zur Gestenerkennung. Die Vorrichtung umfasst hierzu einen Radarsensor, einen Tiefensensor und einen optischen Sensor, welche mit einem Verarbeitungselement gekoppelt sind, derart, dass das Verarbeitungselement eine Handbewegung basierend auf den Daten der Sensoren erfassen kann.
  • Ausgehend hiervon ist es Aufgabe der Erfindung, ein Verfahren anzugeben, mittels dem eine sensorunabhängige Klassifikation von Verkehrsteilnehmern möglich wird.
  • Die Aufgabe wird durch ein Verfahren mit den Merkmalen des unabhängigen Patentanspruchs 1 gelöst. Bevorzugte Ausführungsformen sind Gegenstand der Unteransprüche. Ein System zur Klassifikation von Verkehrsteilnehmern ist Gegenstand des nebengeordneten Patentanspruchs 16.
  • Gemäß einem ersten Aspekt bezieht sich die Erfindung auf ein Verfahren zur Klassifikation von Verkehrsteilnehmern mittels eines Radarsensors. Das Verfahren umfasst dabei folgende Schritte:
  • Zunächst werden erste diskrete Radarinformationen von einem Radarsensor empfangen. Diese ersten diskreten Radarinformationen weisen eine oder mehrere einem Objekt zugeordnete Detektionen auf. Die ersten diskreten Radarinformationen umfassen mehrere erste Radarteilinformationen, die sich auf unterschiedliche Objektcharakteristika beziehen. Die ersten diskreten Radarinformationen sind beispielsweise ortsverteilte Informationen, d.h. sie weisen eine Vielzahl von Werten auf, die angeben, wie groß eine das Objekt charakterisierende Größe (z.B. die reflektierte Intensität, die Geschwindigkeit, die relative Geschwindigkeit etc.) an einem bestimmten Ort im Erfassungsbereich des Radarsensors ist. Die ersten Radarteilinformationen können insbesondere in einem zweidimensionalen Raster (z.B. horizontale x-y-Ebene, x-z-Ebene) oder einem dreidimensionalen Raster dargestellte oder darstellbare Informationen sein. Auch können auf zumindest einer Achse des mehrdimensionalen Rasters Informationen bezüglich der Dopplergeschwindigkeit, insbesondere der relativen Dopplergeschwindigkeit aufgetragen sein.
  • Anschließend werden die ersten diskreten Radarinformationen interpoliert, um interpolierte Radarinformationen zu erhalten, wobei die interpolierten Radarinformationen mehrere interpolierte Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen. In anderen Worten wird also jeweils eine erste Radarteilinformation in eine interpolierte Radarteilinformation überführt, und zwar dadurch, dass die in den ersten Radarteilinformationen enthaltenen Werte im Ortsbereich bzw. Dopplerbereich und vorzugsweise auch bezüglich deren Werte interpoliert werden, so dass die interpolierten Radarteilinformationen orts- bzw. im Dopplerbereich kontinuierliche und vorzugsweise auch wertkontinuierliche Informationen sind. Dadurch kann die sensorspezifische Diskretisierung aufgehoben werden, was zu der sensorunabhängigen Auswertung der gewonnenen Informationen zur Verkehrsteilnehmerklassifizierung beiträgt.
  • Anschließend werden zweite diskrete Radarinformationen generiert, indem die interpolierten Radarinformationen erneut vorzugsweise örtlich diskretisiert werden. Die zweiten diskreten Radarinformationen sind auf ein Objekt bezogene Informationen und umfassen mehrere zweite Radarteilinformationen, die sich auf unterschiedliche Objektcharakteristika beziehen. So können die zweiten diskreten Radarinformationen einen Satz von Radarteilinformationen umfassen, wobei eine erste Radarteilinformation dieses Satzes sich beispielsweise auf die reflektierte Intensität und ein zweiter Satz sich beispielsweise auf die relative oder absolute Geschwindigkeit des detektierten Objekts bezieht. In anderen Worten korrespondiert der Satz von ersten Radarteilinformationen und der Satz von zweiten Radarteilinformationen dahingehend, dass der Satz von zweiten Radarteilinformationen durch Interpolation und vorzugsweise durch Extraktion von lokalen Maximalwerten aus dem Satz von ersten Radarteilinformationen erzeugt wird.
  • Anschließend werden mehrere in unterschiedlichen Radarzyklen generierte, zweite diskrete Radarinformationen überlagert, um dadurch überlagerte diskrete Radarinformationen zu bilden. Dabei werden jeweils diskrete Radarteilinformationen überlagert, die sich auf gleiche Objektcharakteristika beziehen. Mehr im Detail werden vorzugsweise jeweils mehrere zweite Radarteilinformationen, die in unterschiedlichen Radarzyklen erhalten wurden und sich auf ein gleiches Objektcharakteristikum (z.B. die reflektierte Intensität, die Geschwindigkeit, die relative Geschwindigkeit etc.) beziehen, lagegenau überlagert. Dadurch entstehen mehrere überlagerte Radarteilinformationen, die zusammen die überlagerten diskreten Radarinformationen bilden.
  • Abschließend werden die überlagerten diskreten Radarinformationen beurteilt, um basierend auf dem Beurteilungsergebnis die Verkehrsteilnehmer zu klassifizieren.
  • Der wesentliche Vorteil des erfindungsgemäßen Verfahrens besteht darin, dass die überlagerten diskreten Radarinformationen sensorunabhängig oder im Wesentlichen sensorunabhängig sind, so dass keine oder nur eine sehr begrenzte Anpassung des Auswertealgorithmus an den jeweils verwendeten Radarsensor nötig ist.
  • Gemäß einem Ausführungsbeispiel erfolgt die Beurteilung der überlagerten Radarteilinformationen mittels eines selbstlernenden Algorithmus. Dieser verwendet beispielsweise antrainierte bzw. aus bisherigen Erfassungen ermittelte Informationen zur Beurteilung bzw. Analyse der überlagerten Radarteilinformationen und zur Verkehrsteilnehmerklassifikation.
  • Gemäß einem Ausführungsbeispiel erfolgt die Beurteilung der überlagerten Radarteilinformationen mittels eines neuronalen Netzes, insbesondere eines Convolutional Neural Network. Insbesondere wird ein neuronales Netz verwendet, das als Eingangskanäle RGB-Farbkanäle aufweist, d.h. für die digitale Bildverarbeitung ausgebildet ist. Dadurch kann eine sehr hohe Klassifikationsgenauigkeit erreicht werden.
  • Gemäß einem Ausführungsbeispiel werden durch den Radarsensor auf jeweils ein erkanntes Objekt bezogene erste diskrete Radarinformationen bereitgestellt. In anderen Worten erfolgt im Radarsensor eine Objekterkennung und die ersten diskreten Radarinformationen weisen lediglich Informationen auf, die aufgrund von Detektionen an einem bestimmten erkannten Objekt entstanden sind. Dadurch kann eine nach erkannten Objekten getrennte Auswertung der Radarinformationen erfolgen.
  • Alternativ kann die Objekterkennung auch erst in einem späteren Verarbeitungsschritt vollzogen werden, beispielsweise in einer vom Radarsensor getrennten Recheneinheit, in der die interpolierten Radarinformationen oder die zweiten diskreten Radarinformationen berechnet werden.
  • Gemäß einem Ausführungsbeispiel können für die Detektionen einem Objekt zugeordnet werden, indem Detektionen in einem bestimmten örtlich begrenzten Bereich einem Objekt (z.B. Radfahrer, Auto, LKW etc.) zugewiesen werden. Vorteilhafterweise werden für die Objektzuordnung auch die in einem bestimmten Abschnitt des Erfassungsbereichs des Radarsensors gemessenen Dopplerinformationen zur Objektzuordnung bzw. Objekttrennung herangezogen. So können beispielsweise zwei Objekte, die im Wesentlichen im gleichen örtlichen Bereich vorhanden sind, dadurch voneinander getrennt werden, dass diese unterschiedlich hohe Geschwindigkeiten aufweisen und damit die durch den Radarsensor erfassten Dopplerinformationen unterschiedlich sind. In anderen Worten erfolgt eine Objekttrennung vorzugsweise sowohl basierend auf der räumlichen Verteilung von Reflexionsintensitätswerten als auch basierend auf Doppler-Geschwindigkeitsinformationen, um eine verbessertes Objekttracking zu gewährleisten. So werden beispielsweise alle Detektionen einem Objekt zugeordnet, deren Reflexionsintensitätswerte in einem bestimmten örtlichen Bereich (z.B. +/- 2 Meter) liegen und deren Dopplergeschwindigkeitswerte in einem bestimmten Bereich (z.B. +/- 2 m/s) um eine mittlere Objektgeschwindigkeit herum liegen.
  • Ein Hinweis darauf, dass sich in einem bestimmten Raumbereich im Erfassungsbereich des Radarsensors ein Objekt befindet, kann auch von einem externen, vom Radarsensor verschiedenen Sensor (beispielsweise einer Kamera) bereitgestellt werden. Dieser Hinweis kann dann eine Objekterkennungsroutine basierend auf den vom Radarsensor bereitgestellten Informationen auslösen.
  • Gemäß einem Ausführungsbeispiel sind die zweiten Radarteilinformationen auf ein detektiertes Objekt örtlich zentriert, insbesondere örtlich zentriert auf einen Objektmittelpunkt. Vorzugsweise umfassen die zweiten Radarteilinformationen lediglich einen räumlichen Bereich um ein erkanntes Objekt herum, beispielsweise einen Bereich von ± 2m um den Objektmittelpunkt herum. Dadurch werden lediglich auf ein erkanntes Objekt begrenzte Radarinformationen zur Klassifikation der Verkehrsteilnehmer verwendet.
  • Gemäß einem Ausführungsbeispiel erfolgt das Generieren der zweiten diskreten Radarinformationen durch Ermitteln eines oder mehrerer lokaler Maximalwerte in den interpolierten Radarinformationen und durch lagemäßig richtiges Übertragen der ermittelten lokalen Maximalwerte in ein den zweiten diskreten Radarinformationen zugrundeliegendes Raster. Mehr im Detail erfolgt das Generieren von zweiten Radarteilinformationen durch das Ermitteln eines oder mehrerer lokaler Maximalwerte in den interpolierten Radarteilinformationen und durch lagemäßig richtiges Übertragen der ermittelten lokalen Maximalwerte in ein den zweiten Radarteilinformationen zugrundeliegendes Raster. „Lagemäßig richtiges Übertragen“ bedeutet dabei insbesondere, dass der Übertrag unter Wahrung eines lagemäßigen Bezuges zum Objekt, insbesondere dessen geschätzten Objektmittelpunkt erfolgt. Durch die Extraktion der Maximalwerte und deren Übertrag in die zweiten diskreten Radarinformationen kann deren örtliche und betragsmäßige Änderung über der Zeit leichter verfolgt werden.
  • Gemäß einem Ausführungsbeispiel werden die zweiten diskreten Radarinformationen vor dem Überlagern durch Filtern oder eine Faltoperation aufgeweitet oder gespreizt. Durch das ledigliche Übertragen von lokalen Maxima der interpolierten Radarteilinformationen in die zweiten Radarteilinformationen entstehen häufig sehr dünn besetzte Raster bzw. Matrizen, was nachteilig für die Auswertung durch selbstlernende Algorithmen, insbesondere durch neuronale Netzwerke der digitalen Bildverarbeitung ist. Durch das Filtern bzw. Falten kann eine dichtere Besetzung der Matrizen erreicht werden, so dass eine verbesserte Auswertung möglich ist.
  • Gemäß einem Ausführungsbeispiel wird beim Überlagern von mehreren zweiten Radarteilinformationen jeweils der Maximalwert oder der Mittelwert aus allen korrespondierenden Rasterbereichen der zweiten Radarteilinformationen bestimmt und dieser Maximalwert bzw. Mittelwert in ein den überlagerten Radarteilinformationen zugrundeliegendes Raster eingetragen. Mehr im Detail weisen die überlagerten Radarteilinformationen ebenfalls ein Raster bzw. Grid auf, das dem Raster der zweiten Radarteilinformationen entspricht. Für den Fall, dass bei den zu überlagernden zweiten Radarteilinformationen, die aus unterschiedlichen Radarzyklen stammen, ein bestimmter Rasterbereich (beispielsweise Rasterbereich (10,10)) in mehreren oder allen Radarzyklen besetzt ist, wird das Maximum oder alternativ der Mittelwert aller Werte bestimmt und dieser Maximalwert bzw. Mittelwert in den korrespondierenden Rasterbereich der überlagerten Radarteilinformationen übertragen.
  • Gemäß einem Ausführungsbeispiel ist das Raster, in das die jeweiligen Maximalwerte bzw. Mittelwerte eingetragen werden, auf ein Objekt, insbesondere auf einen Mittelpunkt eines Objekts zentriert. Damit kann erreicht werden, dass trotz Bewegung des Objekts die überlagerten diskreten Radarinformationen örtlich auf das Objekt fokussiert bleiben.
  • Gemäß einem Ausführungsbeispiel enthalten die überlagerten diskreten Radarinformationen Zeitinformationen, die den Radarzyklus charakterisieren, in dem die jeweilige einem Rasterbereich zugeordnete Information bzw. der Wert erhalten wurde. Die Zeitinformationen können dem auswertenden Algorithmus in Form einer Zeitinformationsmatrix übergeben werden, wobei die Zeilen und Spalten der Zeitinformationsmatrix mit den Zeilen und Spalten des Rasters korrespondiert, das den überlagerten Radarteilinformationen zugrunde liegt. Damit gibt beispielsweise eine in einem Rasterbereich der Zeitinformationsmatrix enthaltene Zeitinformation an, in welchem Radarzyklus ein Wert erhalten wurde, der in dem korrespondierenden Rasterbereich der überlagerten Radarteilinformation enthalten ist. Dadurch kann eine Analyse der überlagerten diskreten Radarinformationen unter Berücksichtigung der zeitlichen Veränderung der Radarinformationen über mehrere Radarzyklen hinweg erfolgen.
  • Gemäß einem Ausführungsbeispiel sind die Objektcharakteristika die Reflexionsintensität eines Bereichs des detektierten Objekts, eine Geschwindigkeitsinformation des detektierten Objekts, insbesondere die relative Geschwindigkeit oder aus der Geschwindigkeit des Objekts abgeleitete Größen.
  • Gemäß einem Ausführungsbeispiel werden beim Beurteilen der überlagerten diskreten Radarinformationen mehrere unterschiedliche überlagerte Radarteilinformationen herangezogen, die jeweils durch Überlagerung von mehreren zweiten Radarteilinformationen aus unterschiedlichen Radarzyklen entstehen. Dabei werden jeweils solche zweite Radarteilinformationen überlagert, die sich auf ein bestimmtes detektiertes Objekt und eine das detektierte Objekt charakterisierende Größe (Reflexionsintensität, relative Geschwindigkeit, absolute Geschwindigkeit etc.) beziehen. Beispielsweise werden bei dem Beurteilen eine erste überlagerte Radarteilinformation, die Informationen bezüglich der Reflexionsintensität aufweist, und eine zweite überlagerte Radarteilinformation, die die Informationen bezüglich der relativen Geschwindigkeit des Objekts aufweist, herangezogen. Die Informationen bezüglich der relativen Geschwindigkeit des Objekts können ortsaufgelöste Informationen sein, die angeben, wie hoch die relative Geschwindigkeit des Objekts in einem gewissen örtlichen Bereich des Objekts ist. Bei der Beurteilung kann dabei insbesondere der sog. Mikro-Dopplereffekt ausgenutzt werden.
  • Gemäß einem Ausführungsbeispiel werden zum Beurteilen der überlagerten diskreten Radarinformationen maximal drei überlagerte diskrete Radarteilinformationen herangezogen. Dadurch ist es möglich einen selbstlernenden Algorithmus aus der digitalen Bildverarbeitung zu verwenden, der häufig drei Eingangskanäle (RGB-Farbkanäle) aufweist.
  • Gemäß einem Ausführungsbeispiel wird zum Beurteilen der überlagerten diskreten Radarinformationen ein für die Bildverarbeitung ausgebildeter selbstlernender Algorithmus verwendet, wobei dem Algorithmus die überlagerten diskreten Radarteilinformationen über dessen RGB-Kanäle zugeführt. Dadurch können optimierte Algorithmen der digitalen Bildverarbeitung für die Klassifikation von Verkehrsteilnehmern verwendet werden.
  • Gemäß einem weiteren Aspekt betrifft die Erfindung ein Computerprogrammprodukt zur Klassifikation von Verkehrsteilnehmern, wobei das Computerprogrammprodukt ein computerlesbares Speichermedium mit Programmanweisungen umfasst, wobei die Programmanweisungen durch einen Prozessor ausführbar sind, um den Prozessor dazu zu veranlassen, ein Verfahren gemäß einem der vorhergehenden Ausführungsbeispiele auszuführen.
  • Gemäß einem weiteren Aspekt betrifft die Erfindung ein System zur Klassifikation von Verkehrsteilnehmern umfassend einen Radarsensor und eine Rechnereinheit oder eine miteinander interagierende Gruppe von Rechnereinheiten, wobei die Rechnereinheit oder die miteinander interagierende Gruppe von Rechnereinheiten dazu ausgebildet ist:
    • - erste diskrete Radarinformationen von einem Radarsensor zu empfangen, wobei die ersten diskreten Radarinformationen eine oder mehrere einem Objekt zugeordnete Detektionen enthalten und wobei die ersten diskreten Radarinformationen mehrere erste Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen;
    • - die ersten diskreten Radarinformationen zu interpolieren, um interpolierte Radarinformationen zu erhalten, wobei die interpolierten Radarinformationen mehrere interpolierte Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen;
    • - zweite diskrete Radarinformationen durch Diskretisieren der interpolierten Radarinformationen zu generieren, wobei die zweiten diskreten Radarinformationen auf ein Objekt bezogene Informationen sind und mehrere zweite Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen;
    • - mehrere in unterschiedlichen Radarzyklen generierte zweite diskrete Radarinformationen zu überlagern, um überlagerte diskrete Radarinformationen zu erzeugen, wobei die überlagerten diskreten Radarinformationen mehrere überlagerte Radarteilinformationen umfassen, wobei zur Bildung einer überlagerten Radarteilinformation jeweils mehrere zweite Radarteilinformationen überlagert werden, die sich auf gleiche Objektcharakteristika beziehen;
    • - die überlagerten Radarteilinformationen zu beurteilen und die Verkehrsteilnehmer basierend auf dem Beurteilungsergebnis zu klassifizieren.
  • Unter „Radarteilinformationen“ im Sinne der vorliegenden Erfindung wird ein Teil eines Satzes von Radarinformationen verstanden, die in Bezug auf ein detektiertes Objekt ermittelt werden. Eine Radarteilinformation kann sich beispielsweise auf ein erstes Objektcharakteristikum beziehen, beispielsweise die Reflexionsintensität, und eine weitere Radarteilinformation kann sich auf ein anderes Objektcharakteristikum beziehen, beispielsweise die relative Geschwindigkeit des Objekts. Radarteilinformationen sind vorzugsweise ortsabhängige Informationen, d.h. sie weisen eine Vielzahl von Werten auf, deren Betrag jeweils die Größe des Objektcharakteristikums an einem bestimmten Ort im Erfassungsbereich des Radarsensors repräsentiert.
  • Unter „auf ein Objekt bezogene Radarinformationen“ im Sinne der vorliegenden Erfindung bedeutet, dass die Radarinformationen auf ein Objekt getrackt sind und nur oder im Wesentlichen nur Informationen zu diesem Objekt enthalten. So werden beispielsweise erfasste Radarinformationen, in denen mehrere detektierte Objekte enthalten sind, in mehrere Bereiche aufgetrennt, so dass in einem Bereich lediglich Detektionen zu einem Objekt enthalten sind.
  • Unter „Überlagerung von Radarteilinformationen, die sich auf gleiche Objektcharakteristika beziehen“ bedeutet im Sinne der vorliegenden Erfindung, dass Radarteilinformationen kombiniert bzw. verschmolzen werden, die Werte über ein bestimmtes Objektcharakteristikum enthalten, beispielsweise die Reflexionsintensität oder die relative Geschwindigkeit.
  • Die Ausdrücke „näherungsweise“, „im Wesentlichen“ oder „etwa“ bedeuten im Sinne der Erfindung Abweichungen vom jeweils exakten Wert um +/- 10%, bevorzugt um +/- 5% und/oder Abweichungen in Form von für die Funktion unbedeutenden Änderungen.
  • Weiterbildungen, Vorteile und Anwendungsmöglichkeiten der Erfindung ergeben sich auch aus der nachfolgenden Beschreibung von Ausführungsbeispielen und aus den Figuren. Dabei sind alle beschriebenen und/oder bildlich dargestellten Merkmale für sich oder in beliebiger Kombination grundsätzlich Gegenstand der Erfindung, unabhängig von ihrer Zusammenfassung in den Ansprüchen oder deren Rückbeziehung. Auch wird der Inhalt der Ansprüche zu einem Bestandteil der Beschreibung gemacht.
  • Die Erfindung wird im Folgenden anhand der Figuren an Ausführungsbeispielen näher erläutert. Es zeigen:
    • 1 beispielhaft und grob schematisch ein System zur Klassifizierung von Verkehrsteilnehmern;
    • 2a beispielhaft diskrete Werte einer Radarteilinformation der ersten diskrete Radarinformation (beispielsweise die Reflexionsintensität) aufgetragen über dem Ort (beispielhaft in Azimut-Richtung);
    • 2b beispielhaft durch Interpolation der Radarteilinformation aus 2a erhaltene Werte (geschwungene Linie) und lokale Maxima dieser interpolierten Radarteilinformation (Punkte in den Maxima);
    • 2c beispielhaft die im Erfassungsbereich eines Radarsensors in einer Draufsichtdarstellung eingetragenen Detektionen als zweite diskrete Radarinformationen, die lokale Maxima gemäß 2b bilden;
    • 2d beispielhaft die Detektionen gemäß 2c, nach einem Objekterkennungszyklus, wobei die erkannten Objekte durch mehrere Detektionen umschließende Kreise dargestellt sind;
    • 2e beispielhaft ein auf den Mittelpunkt eines Objekts bezogenes Raster, in das mehrere Detektionen eingetragen sind;
    • 3 beispielhaft und schematisch die Überlagerung mehrerer zweiter Radarinformationen und zwar getrennt nach Radarteilinformationen (RCS, Geschwindigkeit und Zeitinformation), die aus unterschiedlichen Radarzyklen erhalten wurden; und
    • 4 beispielhaft und schematisch die Kombination von drei überlagerten Radarteilinformationen über RGB-Kanäle eines neuronalen Netzwerks zur Gewinnung von Merkmalen bzw. Beurteilungsergebnissen.
  • 1 zeigt exemplarisch und grob schematisch ein System 1 zur Klassifizierung von Verkehrsteilnehmern und vorzugsweise deren aktuelle und/oder unmittelbar bevorstehende Handlungen (sog. Intent Related Features). Derartige „Intent Related Features“ können beispielsweise eine Unterscheidung dahingehend sein, ob ein Fahrradfahrer pedaliert oder nicht. Ein auf zukünftige Handlungen hinweisendes „Intent Related Feature“ kann beispielsweise ein Verlangsamen der Tretbewegung kurz vor dem Anhalten sein, so dass aus einer Verlangsamung der Tretbewegung rückgeschlossen werden kann, dass der Fahrradfahrer möglicherweise bald anhält.
  • Das System 1, das insbesondere in einem Kraftfahrzeug verbaut sein kann, umfasst einen Radarsensor 2, der zur Bereitstellung von Radarinformationen ausgebildet ist. Diese werden nachfolgend als erste diskrete Radarinformationen bezeichnet. Die ersten, diskreten Radarinformationen umfassen mehrere Radarteilinformationen. Die Radarteilinformationen der ersten diskreten Radarinformationen werden durch diskrete Werte repräsentiert, die in einem Raster örtlich oder im Geschwindigkeitsbereich (Doppler) diskretisiert (2D oder 3D) bereitgestellt werden. Das Raster, basierend auf dem die örtliche oder auf die Geschwindigkeit bezogene Diskretisierung erfolgt, wird auch als Radargrid bezeichnet. Es enthält eine Vielzahl von räumlich oder im Geschwindigkeitsbereich verteilt angeordnete Rasterbereiche, die kodierte Werte enthalten können. Diese kodierten Werte der Radarteilinformationen der ersten diskreten Radarinformationen beziehen sich beispielsweise auf durch den Radarsensor ermittelte charakteristische Größen eines Objekts, nachfolgend auch Objektcharakteristika bezeichnet. Diese Objektcharakteristika können beispielsweise die Reflexionsintensität an einem bestimmten Ort, die Geschwindigkeit, insbesondere die relative Geschwindigkeit in Bezug auf das Fahrzeug, in dem der Radarsensor 2 verbaut ist oder andere abgeleitete Größen sein.
  • In anderen Worten betrifft eine erste, vom Radarsensor 2 bereitgestellte Radarteilinformation beispielsweise die ortsverteilte Reflexionsintensität und eine zweite, vom Radarsensor 2 bereitgestellte Radarteilinformation beispielsweise eine ortsverteilte Geschwindigkeitsinformation, die angibt, welche Geschwindigkeit ein an einem gewissen örtlichen Bereich befindliches Objekt, an dem die jeweilige Reflexion aufgetreten ist, aufweist.
  • Die örtliche Diskretisierung der jeweiligen Radarteilinformation (d.h. das Radargrid) ist sensorabhängig. So kann ein Rasterbereich bzw. eine Zelle des Radargrids je nach Auflösung des Radarsensors 2 beispielsweise eine Länge und/oder Breite im Bereich von einigen cm bis mehreren Metern haben.
  • Das System 1 umfasst des Weiteren eine Rechnereinheit 3. Die Rechnereinheit 3 ist mit dem Radarsensor 2 über eine geeignete Kommunikationsverbindung gekoppelt, so dass eine Datenübertragung zwischen dem Radarsensor 2 und der Rechnereinheit 3 erfolgen kann. Diese Datenverbindung kann unidirektional oder bidirektional ausgebildet sein. Insbesondere werden vorgenannte erste diskrete Radarinformationen an die Rechnereinheit 3 übertragen, so dass die Rechnereinheit 3 diese weiterverarbeiten kann.
  • Die Rechnereinheit 3 kann eine dem Radarsensor 2 nachgeschaltete Rechnereinheit sein, die ausschließlich für die Verarbeitung der Radarinformationen vorgesehen ist. Alternativ kann die Rechnereinheit 3 eine zentrale Rechnereinheit des Fahrzeugs sein, die eine Vielzahl von Aufgaben hat, u.a. die Weiterverarbeitung und Auswertung der vom Radarsensor 2 bereitgestellten Radarinformationen. Auch kann eine Gruppe von Rechnereinheiten vorgesehen sein, wobei die Rechnereinheiten der Gruppe derart miteinander agieren, dass eine Verarbeitung der Radarinformationen durch die Gruppe von Rechnereinheiten erfolgt.
  • Wie vorher dargelegt, sind die ersten diskreten Radarinformationen sensorabhängig. Um eine sensorunabhängige Auswertung und Beurteilung der Radarinformationen zur Klassifizierung der Verkehrsteilnehmer vornehmen zu können, werden die ersten diskreten Radarinformationen in der Rechnereinheit 3 interpoliert. Die Rechnereinheit 3 kann dabei integraler Bestandteil des Radarsensors 2 sein oder aber eine vom Radarsensor 2 abgesetzte Rechnereinheit 3 sein. Bei der Interpolation werden insbesondere die einzelnen Radarteilinformationen der ersten diskreten Radarinformationen getrennt voneinander interpoliert, d.h. die diskreten Radarteilinformationen, die beispielsweise Informationen bezüglich der ortsverteilten Reflexionsintensität umfassen, werden getrennt von den Radarteilinformationen, die ortsverteilte Geschwindigkeitsinformationen enthalten, behandelt. Durch die Interpolation werden beispielsweise aus dem diskreten Ortsbereich und dem diskreten Wertebereich der Radarteilinformationen kontinuierliche Bereiche. Dadurch wird die sensorabhängige Diskretisierung aufgehoben und eine Unabhängigkeit von dem Radarsensortyp erreicht, der die Radarinformationen bereitstellt.
  • 2a zeigt beispielhaft Radarteilinformationen der ersten diskreten Radarinformationen, die die Reflexionsintensität über dem Ort, beispielsweise in Azimut-Richtung angeben.
  • 2b zeigt interpolierte Radarteilinformationen, die durch Interpolation der in 2a gezeigten diskreten Radarteilinformationen erhalten werden. Durch die Interpolation wird eine Vielzahl von Zwischenwerte generiert, veranschaulicht durch den stetigen Graphen in 2b.
  • Um die in den interpolierten Radarinformationen enthaltenen Informationen mit Mitteln der digitalen Signalverarbeitung, insbesondere selbstlernenden Algorithmen, besonders bevorzugt neuronalen Netzen oder convolutional neuronal networks (CNN) bearbeiten zu können, werden die interpolierten Radarinformationen erneut in diskrete Radarinformationen umgewandelt, nachfolgend zweite diskrete Radarinformationen genannt.
  • Die zweiten diskreten Radarinformationen enthalten ebenfalls wieder mehrere Radarteilinformationen, und zwar in der Form, dass die kodierten Werte der Radarteilinformationen der zweiten diskreten Radarinformationen sich beispielsweise auf durch den Radarsensor ermittelte charakteristische Größen eines Objekts, nachfolgend auch Objektcharakteristika bezeichnet, beziehen. Diese Objektcharakteristika können beispielsweise die Reflexionsintensität an einem bestimmten Ort, die Geschwindigkeit, insbesondere die relative Geschwindigkeit in Bezug auf das Fahrzeug, in dem der Radarsensor 2 verbaut ist oder andere abgeleitete Größen sein.
  • So werden beispielsweise die sich auf die Reflexionsintensität beziehenden Radarteilinformationen der zweiten diskreten Radarinformationen durch Interpolation von Radarteilinformationen der ersten diskreten Radarinformationen, die sich ebenfalls auf die Reflexionsintensität beziehen, und erneuter Diskretisierung dieser interpolierten Radarteilinformationen erhalten. Gleiches gilt für die Radarteilinformationen, die sich auf die Geschwindigkeit bzw. die relative Geschwindigkeit beziehen.
  • Des Weiteren können die zweiten diskreten Radarinformationen weitere Radarteilinformationen enthalten, die rechnerisch aus den vorgenannten, sich auf Geschwindigkeit bzw. Reflexionsintensität beziehenden Radarteilinformationen abgeleitet werden können. Das können beispielsweise Radarteilinformationen zum Mittelwert und zur Standardabweichung der Absolutgeschwindigkeit des bewegten Objekts sein.
  • Vorzugsweise werden die Radarteilinformationen der zweiten diskreten Radarinformationen dadurch erhalten, dass lediglich die örtlichen Maxima der interpolierten Radarteilinformationen in die jeweiligen Radarteilinformationen der zweiten diskreten Radarinformationen übernommen werden. 2b zeigt lokale Maxima in Form von drei Punkten auf dem stetigen Graphen, die anschließend zur Bildung der zweiten diskreten Radarinformationen herangezogen werden.
  • 2c zeigt beispielhaft den Erfassungsbereich des Radarsensors 2 in einer Draufsichtdarstellung (x-y-Bereich bzw. Azimut-Abstand-Bereich), in den die zweiten Radarinformationen eingetragen sind.
  • Vorzugsweise wird von dem Radarsensor 2 oder ggf. erst der Recheneinheit 3 ein sog. Objekttracking vollzogen, d.h. in aufeinanderfolgenden Radarzyklen erkannte Detektionen werden einem oder mehreren Objekten zugeordnet. Zudem kann der Bewegungsverlauf der Objekte über mehrere Radarzyklen hinweg nachvollzogen werden.
  • 2d zeigt die zweiten Radarinformationen gemäß 2c, in denen ein Teil der Detektionen zwei Objekten (gekennzeichnet durch Kreise) zugeordnet sind.
  • Die Radarteilinformationen der zweiten diskreten Radarinformationen können jeweils auf ein Objekt bezogen sein und decken damit vorzugsweise einen örtlichen Bereich ab, an dem sich das Objekt im jeweiligen Radarzyklus befindet. Weiterhin vorzugsweise sind die Radarteilinformationen der zweiten diskreten Radarinformationen auf den Mittelpunkt des jeweils detektierten Objekts zentriert. Damit decken die Radarteilinformationen der zweiten diskreten Radarinformationen beispielsweise lediglich einen bestimmten Ortsbereich des gesamten Erfassungsbereichs des Radarsensors ab.
  • Vorzugsweise werden die zweiten diskreten Radarinformationen in ein Raster bzw. eine Matrix eingetragen, das/die auf einen Objektmittelpunkt zentriert ist und eine im Vergleich zum Radarsensor 2 feinere Diskretisierung aufweist.
  • 2e zeigt ein derartiges Raster, das objektzentriert ist und in dem die Detektionen als Punkte eingetragen sind. Es sei darauf hingewiesen, dass in den Rasterbereichen keine binären Informationen sondern die tatsächlichen Werte (RCS-Wert, Geschwindigkeitswert etc.) eingetragen werden. Die Rasterbereiche des Rasters beziehen sich auf Ortsbereiche im Erfassungsbereich des Radarsensors und damit auf einen Flächenbereich beispielsweise im x-y-Bereich bzw. Azimut-Abstand-Bereich.
  • Die Radarteilinformationen der zweiten diskreten Radarinformationen weisen vorzugsweise eine feinere Diskretisierung des Ortsbereichs auf als die ersten diskreten Radarinformationen. Dadurch ergeben sich sehr dünn besetzte diskrete Wertebereiche bzw. Matrizen, wie in 2c gezeigt.
  • Um die Radarteilinformationen der zweiten diskreten Radarinformationen, die, wie voranstehend beschrieben, sehr dünn besetzte Matrizen sind, in einem selbstlernenden Algorithmus, insbesondere einem CNN verwenden zu können, können die in den Radarteilinformationen der zweiten diskreten Radarinformationen enthaltenen Werte aufgeweitet bzw. gespreizt werden. Dies kann beispielsweise mittels eines Faltungs- und/oder Filteralgorithmus erfolgen.
  • Um Bewegungsmuster der Verkehrsteilnehmer, die sich durch den Mikro-Dopplereffekt in den Radarinformationen wiederspiegeln und/oder Parametervariationen der Reflexionsintensität besser erkennen zu können, werden mehrere Radarteilinformationen der zweiten diskreten Radarinformationen, die aus unterschiedlichen, vorzugsweise direkt aufeinanderfolgenden Radarzyklen stammen, überlagert. Die Überlagerung erfolgt insbesondere derart, dass Radarteilinformationen, die sich auf dasselbe Objektcharakteristikum (Rückstrahlintensität, Geschwindigkeit, etc.) beziehen, lagegerecht überlagert werden. Hierbei bedeutet lagegerecht insbesondere, dass die Radarteilinformationen jeweils bezogen auf den Objektmittelpunkt ausgerichtet und bezogen auf diesen überlagert werden.
  • 3 zeigt beispielhaft die Überlagerung mehrerer Radarteilinformationen der zweiten diskreten Radarinformationen, die Werte hinsichtlich der Reflexionsintensität beinhalten und aus unterschiedlichen Radarzyklen stammen (t0, t-n+2, t-n+1) stammen.
  • Für den Fall, dass an einem bestimmten Rasterbereich der diskreten, aus unterschiedlichen Radarzyklen erhaltenen Radarteilinformationen (d.h. beispielsweise gleiche Zeile und Spalte in einer Matrix) jeweils Werte vorhanden sind, wird beispielsweise aus diesen Werten der Maximalwert oder der Mittelwert bestimmt und dieser Maximalwert/Mittelwert in die überlagerten diskreten Radarinformationen übernommen.
  • Um zu verhindern, dass nach der Überlagerung von Radarteilinformationen, die unterschiedlichen Radarzyklen zugeordnet sind, die Information verloren geht, aus welchem Radarzyklus ein einem Rasterbereich zugeordneter Wert stammt, kann eine Datenstruktur generiert werden, die Zeitinformationen beinhaltet. Diese Zeitinformation gibt insbesondere an, aus welchem Radarzyklus ein einem Rasterbereich zugeordneter Wert der überlagerten diskreten Radarinformationen stammt. Dadurch kann bei der Auswertung der überlagerten diskreten Radarinformationen die Änderung der Radarteilinformationen über der Zeit berücksichtigt werden, aus der sich vorteilhafterweise Rückschlüsse auf das zukünftige Verhalten eines Verkehrsteilnehmers ziehen lassen. Die Zeitinformation ist in 3 als Zeitstempelmatrix bezeichnet.
  • Die Datenstruktur, in der die Zeitinformation beinhaltet ist, kann vorzugsweise eine matrixartige Datenstruktur sein. Insbesondere kann die Anzahl der Zeilen und Spalten dieser Datenstruktur gleich zu der Anzahl von Zeilen und Spalten sein, die das Raster der überlagerten diskreten Radarinformationen hat. Dadurch kann über die Zeilen- und Spaltennummer eine Zuordnung einer Zeitinformation zu einem Wert der überlagerten diskreten Radarinformationen erfolgen.
  • Wie vorher bereits beschrieben, können die überlagerten diskreten Radarinformationen mehrere Radarteilinformationen enthalten, die jeweils aus der Überlagerung diskreter zweiter Radarteilinformationen entstehen, die sich auf gleiche Objektcharakteristika beziehen (beispielsweise die relative Geschwindigkeit an mehreren örtlichen Bereichen des Objekts oder die ortsverteilte Reflexionsintensität des Objekts). Die Radarteilinformationen der überlagerten diskreten Radarinformationensind in 3 in der letzten Spalte gezeigt. In anderen Worten enthält also eine erste Radarteilinformation der überlagerten diskreten Radarinformationen beispielsweise Informationen, wie sich die ortsverteilte Reflexionsintensität des Objekts über mehrere Radarzyklen hinweg verändert hat. Eine zweite Radarteilinformation der überlagerten diskreten Radarinformationen trägt beispielsweise Informationen, wie sich die relative Geschwindigkeit unterschiedlicher örtlicher Bereiche des Objekts über mehrere Radarzyklen hinweg verändert hat.
  • Diese überlagerten diskreten Radarinformationen werden anschließend durch einen selbstlernenden Algorithmus, insbesondere ein neuronales Netz, besonders bevorzugt ein convolutional neuronal network verarbeitet. Dabei werden dem Algorithmus die in den überlagerten diskreten Radarinformationen enthaltenen Radarteilinformationen getrennt voneinander zugeführt.
  • Vorzugsweise wird ein Algorithmus aus der Bildverarbeitung verwendet, der drei Eingangskanäle in Form von RGB-Kanälen (RGB: Rot-Grün-Blau) aufweist. Dies ist schematisch in 4 veranschaulicht. Jedem Eingangskanal wird jeweils eine Radarteilinformation der überlagerten diskreten Radarinformationen zugeführt. So empfängt beispielsweise der erste Eingangskanal Radarteilinformationen, die die ortsverteilte Reflexionsintensität des Objekts über mehrere Radarzyklen angeben, der zweite Eingangskanal Radarteilinformationen, die die relative Geschwindigkeit unterschiedlicher örtlicher Bereiche des Objekts über mehrere Radarzyklen hinweg angibt und der dritte Eingangskanal beispielsweise vorgenannte Zeitinformationen oder andere Informationen (beispielsweise Mittelwert und Standardabweichung der ortsverteilten absoluten Geschwindigkeit des Objekts). Dadurch können hochoptimierte Algorithmen bzw. neuronale Netze der Bildverarbeitung zur Analyse der überlagerten diskreten Radarinformationen verwendet werden.
  • Der Algorithmus wertet vorzugsweise die empfangenen überlagerten diskreten Radarinformationen aus, insbesondere basierend auf Informationen, die während einer Lernphase gewonnen wurden. Als Ergebnis der Auswertung kann eine Klassifikation der Verkehrsteilnehmer nach dessen Art (Fußgänger, Radfahrer, PKW, LKW etc.) oder sonstigen Eigenschaften (Radfahrer pedaliert oder nicht, Radfahrer bremst, Radfahrer bewegt sich auf dem Fahrrad etc.) vorgenommen werden. Der Ausgang des Algorithmus kann eine digitale Information sein, die angibt, in welche Klasse ein erkannter Verkehrsteilnehmer einzuordnen ist (beispielsweise Fußgänger: 00, Radfahrer: 01, PKW: 10, LKW: 11). Alternativ oder zusätzlich können auch Wahrscheinlichkeitswerte ausgegeben werden, die angeben, mit welcher Wahrscheinlichkeit ein detektiertes Objekt in eine bestimmte Klasse einzuordnen ist.
  • Die Erfindung wurde voranstehend an Ausführungsbeispielen beschrieben. Es versteht sich, dass zahlreiche Änderungen sowie Abwandlungen möglich sind, ohne dass dadurch der durch die Patentansprüche definierte Schutzbereich verlassen wird.
  • Bezugszeichenliste
  • 1
    System
    2
    Radarsensor
    3
    Rechnereinheit

Claims (16)

  1. Verfahren zur Klassifikation von Verkehrsteilnehmern mittels eines Radarsensors (2), umfassend folgende Schritte: - Empfangen von ersten diskreten Radarinformationen von einem Radarsensor, wobei die ersten diskreten Radarinformationen eine oder mehrere einem Objekt zugeordnete oder zuordenbare Detektionen enthalten und wobei die ersten diskreten Radarinformationen mehrere erste Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen; - Interpolieren der ersten diskreten Radarinformationen, um interpolierte Radarinformationen zu erhalten, wobei die interpolierten Radarinformationen mehrere interpolierte Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen; - Generieren von zweiten diskreten Radarinformationen durch Diskretisieren der interpolierten Radarinformationen, wobei die zweiten diskreten Radarinformationen auf ein Objekt bezogene Informationen sind und mehrere zweite Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen; - Überlagern mehrerer in unterschiedlichen Radarzyklen generierter zweiter diskreter Radarinformationen zur Erzeugung von überlagerten diskreten Radarinformationen, wobei die überlagerten diskreten Radarinformationen mehrere überlagerte Radarteilinformationen umfassen, wobei zur Bildung einer überlagerten Radarteilinformation jeweils mehrere zweite Radarteilinformationen überlagert werden, die sich auf gleiche Objektcharakteristika beziehen; - Beurteilen der überlagerten Radarteilinformationen und Klassifizieren der Verkehrsteilnehmer basierend auf dem Beurtei lungsergebn is.
  2. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass die Beurteilung der überlagerten Radarteilinformationen mittels eines selbstlernenden Algorithmus erfolgt.
  3. Verfahren nach Anspruch 1 oder 2, dadurch gekennzeichnet, dass die Beurteilung der überlagerten Radarteilinformationen mittels eines neuronalen Netzes, insbesondere eines Convolutional Neural Network erfolgt.
  4. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass durch den Radarsensor auf jeweils ein erkanntes Objekt bezogene erste diskrete Radarinformationen bereitgestellt werden.
  5. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die zweiten Radarteilinformationen auf ein detektiertes Objekt örtlich zentriert sind, insbesondere örtlich zentriert auf einen Objektmittelpunkt.
  6. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass das Generieren der zweiten diskreten Radarinformationen durch Ermitteln eines oder mehrerer lokaler Maximalwerte in den interpolierten Radarinformationen und durch lagemäßig richtiges Übertragen der ermittelten lokalen Maximalwerte in ein den zweiten diskreten Radarinformationen zugrundeliegendes Raster erfolgt.
  7. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die zweiten diskreten Radarinformationen vor dem Überlagern durch Filtern oder eine Faltoperation aufgeweitet oder gespreizt werden.
  8. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass beim Überlagern von mehreren zweiten Radarteilinformationen jeweils der Maximalwert oder der Mittelwert aus allen korrespondierenden Rasterbereichen der zweiten Radarteilinformationen bestimmt wird und dieser Maximalwert oder Mittelwert in ein Raster eingetragen wird.
  9. Verfahren nach Anspruch 8, dadurch gekennzeichnet, dass das Raster, in das die jeweiligen Maximalwerte oder Mittelwerte eingetragen werden, auf ein Objekt, insbesondere auf einen Mittelpunkt eines Objekts zentriert ist.
  10. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die überlagerten diskreten Radarinformationen Zeitinformationen enthalten, die den Radarzyklus charakterisieren, in dem die jeweilige einem Rasterbereich zugeordnete Information erhalten wurde.
  11. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Objektcharakteristika die Reflexionsintensität eines Bereichs des detektierten Objekts, eine Geschwindigkeitsinformation des detektierten Objekts, insbesondere die relative Geschwindigkeit oder aus der Geschwindigkeit des Objekts abgeleitete Größen sind.
  12. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass beim Beurteilen der überlagerten diskreten Radarinformationen mehrere unterschiedliche Informationen herangezogen werden, die jeweils durch Überlagerung von mehreren zweiten Radarteilinformationen aus unterschiedlichen Radarzyklen entstehen, wobei jeweils solche zweite Radarteilinformationen überlagert werden, die sich auf ein bestimmtes detektiertes Objekt und eine das detektierte Objekt charakterisierende Größe beziehen.
  13. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass zum Beurteilen der überlagerten diskreten Radarinformationen maximal drei überlagerte diskrete Radarteilinformationen herangezogen werden.
  14. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass zum Beurteilen der überlagerten diskreten Radarinformationen ein für die Bildverarbeitung ausgebildeter selbstlernender Algorithmus verwendet wird, wobei dem Algorithmus die überlagerten diskreten Radarteilinformationen über dessen RGB-Kanäle zugeführt werden.
  15. Computerprogrammprodukt zur Klassifikation von Verkehrsteilnehmern mittels eines Radarsensors, wobei das Computerprogrammprodukt ein computerlesbares Speichermedium mit Programmanweisungen umfasst, wobei die Programmanweisungen durch einen Prozessor ausführbar sind, um den Prozessor dazu zu veranlassen, ein Verfahren gemäß einem der vorhergehenden Patentansprüche auszuführen.
  16. System zur Klassifikation von Verkehrsteilnehmern umfassend einen Radarsensor (2) und eine Rechnereinheit (3) oder eine miteinander interagierende Gruppe von Rechnereinheiten, wobei die Rechnereinheit (3) oder die miteinander interagierende Gruppe von Rechnereinheiten dazu ausgebildet ist: - erste diskrete Radarinformationen von einem Radarsensor zu empfangen, wobei die ersten diskreten Radarinformationen eine oder mehrere einem Objekt zugeordnete oder zuordenbare Detektionen enthalten und wobei die ersten diskreten Radarinformationen mehrere erste Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen; - die ersten diskreten Radarinformationen zu interpolieren, um interpolierte Radarinformationen zu erhalten, wobei die interpolierten Radarinformationen mehrere interpolierte Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen; - zweite diskrete Radarinformationen durch Diskretisieren der interpolierten Radarinformationen zu generieren, wobei die zweiten diskreten Radarinformationen auf ein Objekt bezogene Informationen sind und mehrere zweite Radarteilinformationen umfassen, die sich auf unterschiedliche Objektcharakteristika beziehen; - mehrere in unterschiedlichen Radarzyklen generierte zweite diskrete Radarinformationen zu überlagern, um überlagerte diskrete Radarinformationen zu erzeugen, wobei die überlagerten diskreten Radarinformationen mehrere überlagerte Radarteilinformationen umfassen, wobei zur Bildung einer überlagerten Radarteilinformation jeweils mehrere zweite Radarteilinformationen überlagert werden, die sich auf gleiche Objektcharakteristika beziehen; - die überlagerten Radarteilinformationen zu beurteilen und die Verkehrsteilnehmer basierend auf dem Beurteilungsergebnis zu klassifizieren.
DE102018203591.1A 2018-03-09 2018-03-09 Verfahren und System zur Klassifikation von Verkehrsteilnehmern Active DE102018203591B3 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102018203591.1A DE102018203591B3 (de) 2018-03-09 2018-03-09 Verfahren und System zur Klassifikation von Verkehrsteilnehmern

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102018203591.1A DE102018203591B3 (de) 2018-03-09 2018-03-09 Verfahren und System zur Klassifikation von Verkehrsteilnehmern

Publications (1)

Publication Number Publication Date
DE102018203591B3 true DE102018203591B3 (de) 2019-07-04

Family

ID=66816821

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102018203591.1A Active DE102018203591B3 (de) 2018-03-09 2018-03-09 Verfahren und System zur Klassifikation von Verkehrsteilnehmern

Country Status (1)

Country Link
DE (1) DE102018203591B3 (de)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112241008A (zh) * 2019-07-18 2021-01-19 Aptiv技术有限公司 用于对象检测的方法和系统
CN112240999A (zh) * 2019-07-19 2021-01-19 Aptiv技术有限公司 处理雷达反射的方法和系统
EP3835813A1 (de) * 2019-12-11 2021-06-16 Samsung Electronics Co., Ltd. Verfahren und vorrichtung zur radardatenerkennung
CN113033586A (zh) * 2019-12-24 2021-06-25 深圳市大富科技股份有限公司 目标识别方法及设备
CN113138386A (zh) * 2020-01-16 2021-07-20 为昇科科技股份有限公司 生命体雷达检测系统及其判断方法、特征数据库建立方法
EP3882654A1 (de) * 2020-03-20 2021-09-22 Aptiv Technologies Limited Objektklassifizierung aus nicht bearbeiteten radardaten
US11698437B2 (en) 2020-09-01 2023-07-11 Ford Global Technologies, Llc Segmentation and classification of point cloud data
EP4365624A1 (de) * 2022-11-04 2024-05-08 Magna Electronics Sweden AB Detektion und klassifizierung von sich bewegenden objekten in radardaten mittels tiefenlernen
DE102022211463A1 (de) 2022-10-28 2024-05-08 Robert Bosch Gesellschaft mit beschränkter Haftung Computerimplementiertes Verfahren und Vorrichtung zur Bestimmung einer Klassifikation für ein Objekt

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19649618A1 (de) 1996-11-29 1998-06-04 Alsthom Cge Alcatel Verfahren und Vorrichtung zur automatischen Klassifikation von Objekten
US20170060254A1 (en) 2015-03-03 2017-03-02 Nvidia Corporation Multi-sensor based user interface

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19649618A1 (de) 1996-11-29 1998-06-04 Alsthom Cge Alcatel Verfahren und Vorrichtung zur automatischen Klassifikation von Objekten
US20170060254A1 (en) 2015-03-03 2017-03-02 Nvidia Corporation Multi-sensor based user interface

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11604272B2 (en) 2019-07-18 2023-03-14 Aptiv Technologies Limited Methods and systems for object detection
EP3767332A1 (de) * 2019-07-18 2021-01-20 Aptiv Technologies Limited Verfahren und systeme zur radar-objektdetektion
CN112241008B (zh) * 2019-07-18 2024-04-16 Aptiv技术股份公司 用于对象检测的方法和系统
CN112241008A (zh) * 2019-07-18 2021-01-19 Aptiv技术有限公司 用于对象检测的方法和系统
CN112240999A (zh) * 2019-07-19 2021-01-19 Aptiv技术有限公司 处理雷达反射的方法和系统
EP3767325A1 (de) * 2019-07-19 2021-01-20 Aptiv Technologies Limited Verfahren und systeme zur verarbeitung von radarreflektionen
US20210018593A1 (en) * 2019-07-19 2021-01-21 Aptiv Technologies Limited Methods and systems for processing radar reflections
US11747442B2 (en) 2019-12-11 2023-09-05 Samsung Electronics Co., Ltd. Method and apparatus with radar data recognition
EP3835813A1 (de) * 2019-12-11 2021-06-16 Samsung Electronics Co., Ltd. Verfahren und vorrichtung zur radardatenerkennung
CN113033586A (zh) * 2019-12-24 2021-06-25 深圳市大富科技股份有限公司 目标识别方法及设备
CN113033586B (zh) * 2019-12-24 2024-04-16 大富科技(安徽)股份有限公司 目标识别方法及设备
CN113138386A (zh) * 2020-01-16 2021-07-20 为昇科科技股份有限公司 生命体雷达检测系统及其判断方法、特征数据库建立方法
EP3851871B1 (de) * 2020-01-16 2024-04-17 Cubtek Inc. Radarsystem für lebende körper, identifizierungsverfahren und merkmalsdatenbankerstellungsverfahren
EP3882654A1 (de) * 2020-03-20 2021-09-22 Aptiv Technologies Limited Objektklassifizierung aus nicht bearbeiteten radardaten
US11415670B2 (en) 2020-03-20 2022-08-16 Aptiv Technologies Limited Object classification using low-level radar data
US11698437B2 (en) 2020-09-01 2023-07-11 Ford Global Technologies, Llc Segmentation and classification of point cloud data
DE102022211463A1 (de) 2022-10-28 2024-05-08 Robert Bosch Gesellschaft mit beschränkter Haftung Computerimplementiertes Verfahren und Vorrichtung zur Bestimmung einer Klassifikation für ein Objekt
EP4365624A1 (de) * 2022-11-04 2024-05-08 Magna Electronics Sweden AB Detektion und klassifizierung von sich bewegenden objekten in radardaten mittels tiefenlernen

Similar Documents

Publication Publication Date Title
DE102018203591B3 (de) Verfahren und System zur Klassifikation von Verkehrsteilnehmern
AT521607B1 (de) Verfahren und Vorrichtung zum Testen eines Fahrerassistenzsystem
DE102005002760B4 (de) Vorrichtung und Verfahren zur Unfallvermeidung bei Kraftfahrzeugen
DE102017203838A1 (de) Verfahren und System zur Umfelderfassung
DE112018000479T5 (de) Ereignisvorhersagesystem, Ereignisvorhersageverfahren, Aufzeichnungsmedium und sich bewegender Körper
EP3044727B1 (de) Verfahren und vorrichtung zur objekterkennung aus tiefenaufgelösten bilddaten
DE102011101246A1 (de) Redudante objektdetektion für fahrerassistenzsysteme
DE102020212799A1 (de) Durchführen von objekt- und aktivitätserkennung auf der grundlage von daten von einer kamera und einem radarsensor
DE102015208599A1 (de) Objekterkennungsvorrichtung
WO2018202552A1 (de) Verfahren und vorrichtung zum klassifizieren von objekten im umfeld eines kraftfahrzeuges
AT521647B1 (de) Verfahren und System zur Datenaufbereitung, zum Trainieren eines künstlichen neuronalen Netzes und zum Analysieren von Sensordaten
DE102008027588A1 (de) Vorrichtung zur Erfassung von Fußgängern
DE102020206659A1 (de) Multi-hypothesen-objektverfologung für automatisierte fahrsysteme
WO2020048669A1 (de) Verfahren zum bestimmen einer spurwechselangabe eines fahrzeugs, ein computerlesbares speichermedium und ein fahrzeug
DE102019200141A1 (de) Verfahren zum Erfassen von Teilbereichen eines Objekts
DE102019127283A1 (de) System und Verfahren zum Erfassen eines Objekts in einer dreidimensionalen Umgebung eines Trägerfahrzeugs
DE102019217723A1 (de) Fahrsicherheits-steuersystem unter verwendung von umgebungsgeräuschen und steuerverfahren dafür
DE102019216805A1 (de) Verfahren zum Verfolgen eines entfernten Zielfahrzeugs in einem Umgebungsbereich eines Kraftfahrzeugs mittels einer Kollisionserkennungsvorrichtung
DE102016220450A1 (de) Vorrichtung, Fortbewegungsmittel und Verfahren zur Abschätzung einer Kollisionswahrscheinlichkeit zwischen einem Fortbewegungsmittel und einem Umgebungsobjekt
WO2019120709A1 (de) Verfahren und steuereinheit zur steuerung einer funktion eines zumindest teilweise automatisiert fahrenden fahrzeugs
DE102018121158A1 (de) Verfahren zum Erfassen von Bodenabtastpunkten und Fahrerunterstützungssystem, das dafür konfiguriert ist, ein derartiges Verfahren auszuführen
DE102020200875A1 (de) Verfahren zum Bereitstellen von Sensordaten durch eine Sensorik eines Fahrzeugs
EP4248418A2 (de) Verfahren und system zur annotation von sensordaten
DE102020200876B4 (de) Verfahren zum Verarbeiten von Sensordaten einer Sensorik eines Fahrzeugs
DE102017119317A1 (de) Klassifizierung von Umgebungs-Fahrzeugen für eine Abstandsregeltempomat-Vorrichtung in einem Kraftfahrzeug

Legal Events

Date Code Title Description
R163 Identified publications notified
R012 Request for examination validly filed
R016 Response to examination communication
R018 Grant decision by examination section/examining division
R020 Patent grant now final
R081 Change of applicant/patentee

Owner name: CONTINENTAL AUTONOMOUS MOBILITY GERMANY GMBH, DE

Free format text: FORMER OWNER: CONTI TEMIC MICROELECTRONIC GMBH, 90411 NUERNBERG, DE