WO2020160797A1 - Verfahren und eine vorrichtung zur sensordatenfusion für ein fahrzeug - Google Patents
Verfahren und eine vorrichtung zur sensordatenfusion für ein fahrzeug Download PDFInfo
- Publication number
- WO2020160797A1 WO2020160797A1 PCT/EP2019/079224 EP2019079224W WO2020160797A1 WO 2020160797 A1 WO2020160797 A1 WO 2020160797A1 EP 2019079224 W EP2019079224 W EP 2019079224W WO 2020160797 A1 WO2020160797 A1 WO 2020160797A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- fusion
- sensor
- data
- determined
- innovated
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
- G01S7/28—Details of pulse systems
- G01S7/285—Receivers
- G01S7/295—Means for transforming co-ordinates or for evaluating data, e.g. using computers
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/66—Radar-tracking systems; Analogous systems
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/66—Radar-tracking systems; Analogous systems
- G01S13/72—Radar-tracking systems; Analogous systems for two-dimensional [2D] tracking, e.g. combination of angle and range tracking, track-while-scan radar
- G01S13/723—Radar-tracking systems; Analogous systems for two-dimensional [2D] tracking, e.g. combination of angle and range tracking, track-while-scan radar by using numerical data
- G01S13/726—Multiple target tracking
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/862—Combination of radar systems with sonar systems
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/865—Combination of radar systems with lidar systems
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/867—Combination of radar systems with cameras
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/87—Combinations of radar systems, e.g. primary radar and secondary radar
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
- G01S15/86—Combinations of sonar systems with lidar systems; Combinations of sonar systems with systems not using wave reflection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
- G01S15/87—Combinations of sonar systems
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
- G01S15/88—Sonar systems specially adapted for specific applications
- G01S15/93—Sonar systems specially adapted for specific applications for anti-collision purposes
- G01S15/931—Sonar systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
- G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/4808—Evaluating distance, position or velocity data
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/52—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00
- G01S7/523—Details of pulse systems
- G01S7/526—Receivers
- G01S7/53—Means for transforming coordinates or for evaluating data, e.g. using computers
Definitions
- the invention relates to a method and a device for sensor data fusion for a vehicle.
- the invention also relates to a computer program and a computer-readable storage medium.
- Heterogeneous sensor devices are often used to detect objects in the vicinity of a vehicle, in particular to detect other road users and their relevant properties. Detected objects in
- Vehicle environment can be used to safely implement
- Assistance functions are used, in particular for longitudinally regulating functions such as active cruise control or an intersection assistant and for lateral regulating functions such as lateral collision avoidance, steering and lane guidance assistant.
- used sensor devices can by the
- Sensor devices recorded information about the objects to be different. Due to the limited computing power in vehicles, the sensor devices
- the information provided is usually fused at a high level. This means that the sensor devices each recognize objects separately on the basis of the recorded information and provide them as information in an abstract, sensor-independent object representation
- Sensor data fusion unit to one at a time Object representation for each actual object merged or fused (so-called "fusion objects").
- “smart" sensor devices are installed for this, whose detection performance is based not only on the physical measurement of the environment but also on downstream, internal information processing.
- An essential part of this information processing are recursive estimation processes that can also observe object properties over time that are not directly derived from a a single measurement besides an estimate of the
- the recursive estimation process can also provide a measure of other road users' object properties
- the sensor object data supplied by the sensor devices may not be statistically independent of the
- Receiving input data for example on the movement of one's own vehicle, it may be that the sensor object data of various sensor devices are not statistically either
- IMF information matrix fusion algorithm
- the IMF algorithm in the theoretical "worst case" requires an infinitely long history of all sensor object data, which is not available on embedded systems used in vehicles, particularly due to limited memory resources.
- Another disadvantage of the IMF algorithm is the sensor object data underlying assumptions, especially with regard to the reported uncertainties, which are often violated in practice. The IMF algorithm then delivers partly inconsistent estimates with gross
- the object on which the invention is based is to create a method for sensor data fusion for a vehicle and a corresponding device, a computer program and computer-readable storage medium that contributes to a reliable assignment of sensor and fusion objects and enables reliable sensor data fusion.
- the invention relates to a
- a sensor device is assigned to the vehicle.
- Current sensor object data are provided in the method.
- the current sensor object data is
- the fusion object record includes
- Fusion objects are each to
- a sensor object data record is also used
- the sensor object data set is provided.
- H includes historical sensor object data, each
- a reduced sensor object data set is obtained depending on the sensor object data set H
- Fusion object associated sensor object
- the sensor device is designed to detect the surroundings of the vehicle and to determine a sensor object in the surroundings of the vehicle.
- the vehicle is designed to detect the surroundings of the vehicle and to determine a sensor object in the surroundings of the vehicle.
- Sensor device can be designed to detect a lateral extent and / or orientation of an object.
- the sensor device is, for example, one
- Camera LiDAR, Light Detection And Ranging, LaDAR, Laser Detection And Ranging, RaDAR, Radio Detection And Ranging, ultrasound, point laser or an infrared sensor.
- the sensor object data set H includes historical
- Vehicle m> 1 sensor devices are assigned, the few can consequently each last to the respective
- Fusion object associated and an innovated fusion object is determined, can for example correspond to the IMF algorithm, whereby instead of an infinitely long or
- the sensor object s t becomes one by means of the IMF, Information Matrix Fusion, algorithm
- the reduced sensor object data set H ' is assigned to the fusion objects and stored in the
- the sensor object s t is associated with a fusion object and that
- the sensor object s t can therefore, in particular, be dependent on the respective fusion objects
- Fusion object associated and the innovated fusion object determined accordingly.
- Sensor object data set H 'at no previous point in time t — k, k 1 ... n, includes an associated sensor object
- cross covariance algorithm please refer to the explanations of S. Matzka and R. Altendorfer in "A comparison of track-to-track fusion algorithms for automotive sensor fusion", 2008 IEEE International Conference on Multisensor Fusion and
- an alternative fusion method can be used instead of the IMF algorithm.
- the sensor object s t-1 , s t are feature data
- the feature data is
- Indicator data are representative of a
- the merged object is feature data
- the feature data is
- Indicator data are representative of a
- the procedure depends on the feature data
- a feature fusion state is determined.
- Feature fusion state is representative of the
- Feature fusion state is representative of the lateral
- the innovated fusion object is determined depending on the innovated feature state. Otherwise it will
- Feature fusion state is particularly representative of a result of a fusion of fusion object and sensor object according to the IMF algorithm, temporarily stored for checking.
- the equation is particularly representative of the fact that the updated properties after the fusion lie between the original properties and the properties of the merged sensor object, is violated. If the equation is violated, the temporarily stored result is discarded.
- the corresponding feature data can also include further properties of the object, such as its speed and acceleration components as well
- the lateral extension is understood to mean an extension of the object parallel to and transversely to the measurement or travel direction or longitudinal axis of the vehicle.
- the orientation denotes in particular an angle which a longitudinal axis of the object includes with respect to the measurement or direction of travel or the longitudinal axis of the vehicle.
- the object can, for example, designate a reference point of the object, with respect to which the further properties of the object are specified.
- the invention in a second aspect, relates to a
- the device is designed to carry out a method according to the first aspect.
- the device can also be used as a
- the invention relates to a
- Computer program for sensor data fusion for a vehicle comprises commands which, when the program is executed by a computer, cause the computer to execute the
- the invention relates to a computer-readable storage medium on which the computer program according to the fourth aspect is stored.
- FIG. 1 shows an exemplary vehicle with a device for sensor data fusion
- FIG. 2 shows an exemplary flow chart of a method for sensor data fusion
- Figure 3 shows an exemplary assignment of a respective
- FIG. 1 is an inventive Vehicle F shown with a device V for sensor data fusion and a sensor device S1, which for
- Road users and relevant properties thereof and is set up to determine a corresponding sensor object s t .
- This can be, for example, a camera, LiDAR, light detection and ranging, LaDAR, laser detection and ranging, RaDAR, radio detection and ranging, ultrasonic point laser, or an infrared sensor. Regardless of the method used for high-level object fusion, object fusion is the result in the automotive sector
- a reference point A for example a reference point A, a length and width with respect to the reference point A, an orientation a f des
- Fusion object to be associated with indicator data that
- FIG. 1 also shows a sensor object s t determined by the sensor device S1.
- the vehicle F also has another example
- Sensor devices S1, S2 are coupled with the device V for sensor data fusion for signaling purposes. Through the Sensor object data provided to sensor devices S1, S2 can be provided by device V according to any desired
- Process for high-level object fusion are merged and stored in a fusion object data set.
- the method for high-level object fusion can be a recursive estimation process based on the Information Matrix Fusion Algorithm (IMF).
- IMF Information Matrix Fusion Algorithm
- the device V is in particular assigned a data and program memory in which a
- Computer program is stored based on the
- Sensor object data are provided which are representative of a sensor object s t determined by the sensor device S1 in the vicinity of the vehicle F at a point in time t .
- Sensor object data are provided which are representative of a sensor object s t determined by the sensor device S1 in the vicinity of the vehicle F at a point in time t .
- current sensor object data of the further sensor device S2 are also provided in the first step P10.
- the program continues in a step P20 in which a fusion object data record is provided.
- Fusion objects determined around the vehicle F which are each provided for the sensor data fusion at time t.
- the fusion object data set is stored in a data memory of the device V and was determined from the sensor object data of the sensor devices S1, S2 in a previous fusion method.
- the sensor object data set H includes historical
- the sensor object data set H can also be used as a
- Association history can be recorded. For each sensor device S1, S2, a separate association history can be used independently of the association histories of others
- step P40 in which, depending on the
- Sensor object data set is determined, wherein a sensor object associated with a fusion object f t at time t denotes.
- the reduced sensor object data set is determined, wherein a sensor object associated with a fusion object f t at time t denotes.
- ambiguous object formations can occur, with a actual object in the environment leads to the formation of several (spatially or temporally separated) sensor objects.
- a maximum of one object of sensor device S1 is associated with the same fusion object at any point in time.
- a reduced sensor object data set H ' S1 is assigned to the sensor device S1 and a reduced sensor object data set H' S2 is assigned to the further sensor device S2.
- Sensor object data set H ' S1 includes the to the
- Sensor device S2 comprises.
- the sensor object s t becomes a fusion object associated and an innovated one
- the sensor object includes associated sensor object, the sensor object
- fused sensor object are found, for example when the sensor object is fused for the first time or because the choice of q cannot resolve the ambiguity of the sensor device, the fusion is only used with approximate consideration of any correlations using the "use of cross covariance" method.
- the program is then ended or, if necessary, continued with the updated object data record in step P10 after a predetermined interruption.
- step P70 is supplemented by a plausibility check of the innovated fusion object.
- an error can occur that leads to the determination of merged properties that differ roughly from the properties reported by the corresponding sensor device.
- the respective sensor object s t-1 , s t are representative of the properties reported by the sensor device, such as a lateral extent, position and orientation of the sensor object s t-1 , s t .
- the respective sensor object s t-1 , s t are representative of the properties reported by the sensor device, such as a lateral extent, position and orientation of the sensor object s t-1 , s t .
- step P72 following step P50, depending on the feature data, a
- step P76 it is checked whether the intuitive assumption that the updated properties after the fusion lie between the original properties and the properties of the merged sensor object is violated.
- the IMF fusion of the fusion object and the sensor object is carried out as usual, and the result is temporary for checking
Landscapes
- Engineering & Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- General Physics & Mathematics (AREA)
- Electromagnetism (AREA)
- Acoustics & Sound (AREA)
- Traffic Control Systems (AREA)
Abstract
Es werden ein Verfahren und eine Vorrichtung zur Sensordatenfusion für ein Fahrzeug sowie ein Computerprogramm sowie ein Computerlesbares Speichermedium angegeben. Dem Fahrzeug (F) ist wenigstens eine Sensorvorrichtung (Sl) zugeordnet, und bei dem Verfahren werden: aktuelle Sensorobjektdaten bereitgestellt, die repräsentativ sind für ein zum Zeitpunkt t ermitteltes Sensorobjekt s
t
; Fusionsobjektdaten bereitgestellt, die repräsentativ sind für Fusionsobjekte f
t
j
' die zur Sensordatenfusion zu dem Zeitpunkt tvorgesehen sind; ein Sensorobjektdatensatz H umfassend historische Sensorobjektdaten bereitgestellt, die repräsentativ sind für ein zu einem vorangegangen Zeitpunkt t—k ermitteltes Sensorobjekt s t
i
—k; abhängig von dem Sensorobjektdatensatz H ein reduzierter Sensorobjektdatensatz H' = {S
t-k
α
t-k | k= 1...n} ermittelt wird, wobei s
t
α
t ein zum Zeitpunkt t zu einem Fusionsobjekt f
t assoziiertes Sensorobjekt bezeichnet; und abhängig von dem reduzierten Sensorobjektdatensatz H' das Sensorobjekt s
t
zu einem Fusionsobjekt f
t
j
assoziiert und ein innoviertes Fusionsobjekt ermittelt wird.
Description
Beschreibung
Verfahren und eine Vorrichtung zur Sensordatenfusion für ein Fahrzeug
Die Erfindung betrifft ein Verfahren und eine Vorrichtung zur Sensordatenfusion für ein Fahrzeug. Darüber hinaus betrifft die Erfindung ein Computerprogramm sowie ein computerlesbares Speichermedium.
Zur Erkennung von Objekten in Umgebung eines Fahrzeugs, insbesondere zur Erkennung anderer Verkehrsteilnehmer und relevanter Eigenschaften derer werden oftmals heterogene Sensorvorrichtungen eingesetzt. Erkannte Objekte im
Fahrzeugumfeld können zur sicheren Umsetzung von
Assistenzfunktionen herangezogen werden, insbesondere für längs regelnde Funktionen wie Active Cruise Control oder einen Kreuzungsassistent und für querregelnde Funktionen wie Lateral Collision Avoidance, Lenk- und Spurführungsassistent.
Bedingt durch unterschiedliche Messprinzipien der
eingesetzten Sensorvorrichtungen können die durch die
Sensorvorrichtungen erfassten Informationen über die Objekte unterschiedlich sein. Aufgrund beschränkter Rechenleistung in Fahrzeugen werden die durch die Sensorvorrichtungen
bereitgestellten Informationen üblicherweise auf High-Level- Ebene fusioniert. Das bedeutet, dass die Sensorvorrichtungen jeweils anhand der erfassten Informationen separat Objekte erkennen und diese in einer abstrakten, sensorunabhängigen Objektrepräsentation als Informationen bereitstellen
(sogenannte „Sensorobjekte") ; die bereitgestellten
Informationen werden dann durch eine separate
Sensordatenfusionseinheit zu jeweils einer
Objektrepräsentation je tatsächlichem Objekt zusammengeführt bzw. fusioniert (sogenannte „Fusionsobjekte") .
Typischerweise werden hierzu „smarte" Sensorvorrichtungen verbaut, deren Erkennungsleistung neben der physikalischen Vermessung der Umgebung auch auf einer nachgelagerten, internen Informationsverarbeitung beruht. Ein wesentlicher Bestandteil dieser Informationsverarbeitung sind rekursive Schätzprozesse, die auch Objekteigenschaften über die Zeit beobachten können, die sich nicht direkt aus einer einzigen Messung bestimmen lassen. Neben einer Schätzung der
Objekteigenschaften anderer Verkehrsteilnehmer kann der rekursive Schätzprozess zudem auch ein Maß für deren
Unsicherheit liefern.
Aufgrund der rekursiven Formulierung des Schätzprozesses sind die von den Sensorvorrichtungen gelieferten Sensorobjektdaten eventuell statistisch nicht unabhängig von den
Sensorobjektdaten zu einem früheren Zeitpunkt. Da
verschiedene Sensorvorrichtungen zudem oft auf ähnlichen Schätzprozessen beruhen und teilweise sogar gleiche
Eingangsdaten, etwa zur Bewegung des eigenen Fahrzeugs, erhalten, kann es sein, dass auch die Sensorobjektdaten verschiedener Sensorvorrichtungen statistisch nicht
unabhängig voneinander sind. Zur Fusion derart korrelierter Sensorobjektdaten kann ein sogenannter Information Matrix Fusion-Algorithmus (IMF) eingesetzt werden, bei dem der rekursive Schätzprozess um eine Dekorrelation der
Sensorobjektdaten erweitert ist. In diesem Zusammenhang wird auf die Ausführungen von Aeberhard, M., Rauch, A., Rabiega, M., Kaempchen, N., & Bertram, T. (2012, June) in „Track-to- track fusion with asynchronous sensors and out-of-sequence tracks using Information matrix fusion for advanced driver
assistance Systems", Intelligent Vehicles Symposium (IV) ,
2012 IEEE (pp. 1-6) verwiesen.
Zur Dekorrelation der Sensorobjektdaten erfordert der IMF- Algorithmus im theoretischen „worst case" allerdings eine unendlich lange Historie aller Sensorobjektdaten, die insbesondere aufgrund begrenzter Speicherressourcen auf in Fahrzeugen eingesetzten, eingebetteten Systemen nicht zur Verfügung steht. Ein weiterer Nachteil des IMF-Algorithmus sind den Sensorobjektdaten zugrunde liegende Annahmen, insbesondere hinsichtlich der berichteten Unsicherheiten, die in der Praxis oft verletzt werden. Der IMF-Algorithmus liefert dann teils inkonsistente Schätzungen mit grob
fehlerhaften Objekteigenschaften, wobei sich der Fehler nicht entsprechend in der bestimmten Unsicherheit widerspiegelt und hingegen zu kleine Unsicherheiten ausgegeben werden. Dies kann zu einem groben Fehlverhalten in den der Fusion
nachgelagerten Assistenzfunktionen führen.
Die Aufgabe, die der Erfindung zugrunde liegt, ist es, ein Verfahren zur Sensordatenfusion für ein Fahrzeug sowie eine entsprechende Vorrichtung, ein Computerprogramm sowie computerlesbares Speichermedium zu schaffen, das zu einer sicheren Zuordnung von Sensor- und Fusionsobjekten beiträgt und eine zuverlässige Sensordatenfusion ermöglicht.
Die Aufgabe wird gelöst durch die unabhängigen
Patentansprüche. Vorteilhafte Ausgestaltungen sind in den Unteransprüchen gekennzeichnet .
Gemäß einem ersten Aspekt betrifft die Erfindung ein
Verfahren zur Sensordatenfusion für ein Fahrzeug. Dem
Fahrzeug ist eine Sensorvorrichtung zugeordnet.
Bei dem Verfahren werden aktuelle Sensorobjektdaten bereitgestellt. Die aktuellen Sensorobjektdaten sind
repräsentativ für ein durch die Sensorvorrichtung in einer Umgebung des Fahrzeugs zu einem Zeitpunkt t ermitteltes
Sensorobjekt st .
Darüber hinaus wird ein Fusionsobjektdatensatz
bereitgestellt. Der Fusionsobjektdatensatz umfasst
Fusionsobjektdaten, die jeweils repräsentativ sind für eines aus j = 1...p in der Umgebung des Fahrzeugs ermittelte
Fusionsobjekte . Die Fusionsobjekte sind jeweils zur
Sensordatenfusion zu dem Zeitpunkt t vorgesehen.
H umfasst historische Sensorobjektdaten, die jeweils
repräsentativ sind für eines aus i = 1...q durch die
Sensorvorrichtung in der Umgebung des Fahrzeugs zu einem vorangegangen Zeitpunkt t— k ermittelte Sensorobjekte
Bei dem Verfahren wird abhängig von dem Sensorobjektdatensatz H ein reduzierter Sensorobjektdatensatz
Fusionsobjekt assoziiertes Sensorobjekt.
Ferner wird abhängig von dem reduzierten
Sensorobjektdatensatz H' das Sensorobjekt st zu einem
ermittelt .
In vorteilhafter Weise ermöglicht das vorgeschlagene
Verfahren eine sichere und effiziente Zuordnung von Sensor- und Fusionsobjekten. Insbesondere trägt das Verfahren zu einer zuverlässigen Fusion korrelierter Sensorobjektdaten bei .
Die Sensorvorrichtung ist dazu ausgebildet, die Umgebung des Fahrzeugs zu erfassen und ein Sensorobjekt in der Umgebung des Fahrzeugs zu ermitteln. Insbesondere kann die
Sensorvorrichtung ausgebildet sein, eine laterale Erstreckung und/oder Orientierung eines Objekts zu erfassen. Bei der Sensorvorrichtung handelt es sich beispielhaft um einen
Kamera-, LiDAR-, Light Detection And Ranging, LaDAR-, Laser Detection And Ranging, RaDAR, Radio Detection And Ranging, Ultraschall-, Punktlaser-, oder einen Infrarotsensor.
Der Sensorobjektdatensatz H umfasst historische
Sensorobjektdaten derselben Sensorvorrichtung. Im Falle, dass dem Fahrzeug m > 1 verschiedene Sensorvorrichtungen
zugeordnet sind, wird je Sensorvorrichtung ein
SensorobjektdatensatzH1... Hm bereitgestellt und die
entsprechenden Schritte des Verfahrens je Sensorvorrichtung einmal durchgeführt.
Der reduzierte Sensorobjektdatensatz
Sensorobjektdatensatzes H, die zuvor, zum entsprechenden Zeitpunkt t— k zu einem beliebigen Fusionsobjekt
assoziiert wurden. In vorteilhafter Weise werden so, statt alle q von der Sensorvorrichtung zum Zeitpunkt t ermittelten Sensorobjekte i = 1...q aufzuzeichnen, nur die p £ q
tatsächlich zu einem Fusions-Objekt assoziierten Objekte
ί = 1...r in die Assoziationshistorie
aufgenommen. Dabei kann für jede Sensorvorrichtung eine eigene Assoziationshistorie unabhängig von den
Assoziationshistorien anderer Sensorvorrichtungen
aufgezeichnet werden.
Üblicherweise wird zu jedem Zeitpunkt t ferner maximal ein Sensorobjekt
i = 1...p jeder Sensorvorrichtung zu demselben Fusionsobjekt
assoziiert. Dann genügt es, dem jeweiligen Fusionsobjekt
für jeden Zeitpunkt t je Sensorvorrichtung lediglich ein Sensorobjekt k = 1...n als reduzierten
Sensorobjektdatensatz H' zuzuordnen. Im Falle, dass dem
Fahrzeug m > 1 Sensorvorrichtungen zugeordnet sind, können folglich die wenigen jeweils zuletzt zu dem jeweiligen
Fusionsobjekt assoziierten Sensorobjekte
Fusionsobjekt vermerkt werden.
Der Schritt, in dem abhängig von dem reduzierten
Sensorobjektdatensatz H' das Sensorobjekt st zu einem
Fusionsobjekt
assoziiert und ein innoviertes Fusionsobjekt ermittelt wird, kann beispielhaft dem IMF-Algorithmus entsprechen, wobei statt auf eine unendlich lange bzw.
vollständige Historie auf den reduzierten
Sensorobjektdatensatz H' zurückgegriffen wird.
In einer vorteilhaften Ausgestaltung gemäß dem ersten Aspekt gilt: 1 £ n £ 5, bevorzugt n = 2.
In vorteilhafter Weise können so einmalige Mehrdeutigkeiten gehandhabt werden. Zugleich wird ein effizienter Einsatz auf Ressourcenbeschränkter Hardware ermöglicht.
In einer weiteren vorteilhaften Ausgestaltung gemäß dem ersten Aspekt wird das Sensorobjekt st mittels des IMF, Information Matrix Fusion, -Algorithmus zu einem
ermittelt .
In einer weiteren vorteilhaften Ausgestaltung gemäß dem ersten Aspekt wird der reduzierte Sensorobjektdatensatz H' jeweils den Fusionsobjekten zugeordnet und in den
Fusionsobjektdaten hinterlegt.
Daraufhin wird abhängig von dem Fusionsobjektdatensatz das Sensorobjekt st zu einem Fusionsobjekt assoziiert und das
innovierte Fusionsobjekt ermittelt.
Das Sensorobjekt st kann in dieser Ausgestaltung also insbesondere abhängig von den den Fusionsobjekten jeweils
zugeordneten reduzierten Sensorobjektdatensätzen H' zu einem
In einer weiteren vorteilhaften Ausgestaltung gemäß dem ersten Aspekt wird im Falle, dass der einem jeweiligen
Fusionsobjekt zugeordnete, reduzierte
Sensorobjektdatensatz H' zu keinem vorangegangenen Zeitpunkt t—k, k = 1...n, ein assoziiertes Sensorobjekt umfasst,
das Sensorobjekt st mittels des use of cross covariance -
Algorithmus zu einem Fusionsobjekt assoziiert und das innovierte Fusionsobjekt ermittelt. Bezüglich des use of cross covariance - Algorithmus wird auf die Ausführungen von
S. Matzka und R. Altendorfer in "A comparison of track-to- track fusion algorithms for automotive sensor fusion", 2008 IEEE International Conference on Multisensor Fusion and
Integration for Intelligent Systems, Seoul, 2008, pp. 189-194 verwiesen. In anderen Worten kann im Falle einer
unzulänglichen Historie auf ein alternatives Fusionsverfahren statt des IMF-Algorithmus zurückgegriffen werden.
Insbesondere wird die Fusion dabei nur mit approximativer Berücksichtigung etwaiger Korrelationen durchgeführt.
In einer weiteren vorteilhaften Ausgestaltung gemäß dem ersten Aspekt sind dem Sensorobjekt st-1 , st Merkmalsdaten
zugeordnet. Die Merkmalsdaten sind
repräsentativ für eine laterale Erstreckung, Position und Orientierung des Sensorobjekts st-1 , st . Ferner sind dem
Unsicherheit bei der Ermittlung der lateralen Erstreckung, Position bzw. Orientierung.
Des Weiteren sind dem Fusionsobjekt Merkmalsdaten
zugeordnet. Die Merkmalsdaten sind
repräsentativ für eine laterale Erstreckung, Position und Orientierung des Fusionsobjekts
. Ferner sind dem
Indikatordaten sind repräsentativ für eine
Unsicherheit bei der Ermittlung der lateralen Erstreckung, Position bzw. Orientierung.
ein Merkmalsfusionszustand ermittelt. Der
laterale Erstreckung, Position und Orientierung des
mit .
Darüber hinaus wird abhängig von den Merkmalsdaten
und von den Indikatordaten ein innovierter
Merkmalsfusionszustand ermittelt. Der innovierte
Erstreckung, Position und Orientierung des Fusionsobjekts
zu dem Zeitpunkt t nach Sensordatenfusion mit
.
Hierauf wird abhängig von dem Merkmalsfusionszustand
Merkmalsdaten geprüft, ob der innovierte
Merkmalsfusionszustand die Gleichung
ist, wird das innovierte Fusionsobjekt abhängig von dem innovierten Merkmalszustand ermittelt. Anderenfalls wird
das Sensorobjekt st mittels des use of cross covariance -
Algorithmus zu einem Fusionsobjekt assoziiert und das
innovierte Fusionsobjekt ermittelt.
In vorteilhafter Weise können so insbesondere für den IMF- Algorithmus typische Fehlerfälle vermieden werden, bei denen die Merkmalsdaten
des Fusionsobjekts
grob von den Merkmalsdaten
des Sensorobjekts st abweichen. In diesem Fall kann wiederum auf ein alternatives Fusionsverfahren statt des IMF-Algorithmus zurückgegriffen werden.
Der Merkmalsfusionszustand sowie der innovierte
Merkmalsfusionszustand
ist insbesondere repräsentativ für ein zur Überprüfung temporär zwischengespeichertes Ergebnis einer Fusion von Fusionsobjekt und Sensorobjekt gemäß dem IMF-Algorithmus .
Die Gleichung ist insbesondere repräsentativ dafür, dass die aktualisierten Eigenschaften nach der Fusion zwischen den ursprünglichen Eigenschaften und den Eigenschaften des fusionierten Sensorobjekts liegen, verletzt ist. Wird die Gleichung verletzt, so wird das temporär zwischengespeicherte Ergebnis verworfen.
Die entsprechenden Merkmalsdaten können neben der lateralen Erstreckung, Position und Orientierung des jeweiligen Objekts auch weitere Eigenschaften des Objekts umfassen, wie dessen Geschwindigkeits- und Beschleunigungskomponenten sowie
Gierrate. Unter der lateralen Erstreckung wird dabei eine Ausdehnung des Objekts parallel sowie quer zur Mess- oder Fahrtrichtung bzw. Längsachse des Fahrzeugs verstanden. Die Orientierung bezeichnet insbesondere einen Winkel, den eine Längsachse des Objekts zu der Mess- oder Fahrtrichtung bzw. Längsachse des Fahrzeugs einschließt. Die Position des
Objekts kann beispielhaft einen Referenzpunkt des Objekts bezeichnen, bezüglich dem die weiteren Eigenschaften des Objekts angegeben werden.
Gemäß einem zweiten Aspekt betrifft die Erfindung eine
Vorrichtung zur Sensordatenfusion für ein Fahrzeug. Die
Vorrichtung ist ausgebildet, ein Verfahren gemäß dem ersten Aspekt auszuführen. Die Vorrichtung kann auch als
Sensordatenfusionseinheit bezeichnet werden.
Gemäß einem dritten Aspekt betrifft die Erfindung ein
Computerprogramm zur Sensordatenfusion für ein Fahrzeug. Das Computerprogramm umfasst Befehle, die bei der Ausführung des Programms durch einen Computer diesen veranlassen, das
Verfahren gemäß dem ersten Aspekt auszuführen.
Gemäß einem vierten Aspekt betrifft die Erfindung ein computerlesbares Speichermedium, auf dem das Computerprogramm gemäß dem vierten Aspekt gespeichert ist.
Ausführungsbeispiele der Erfindung sind im Folgenden anhand der schematischen Zeichnungen näher erläutert.
Es zeigen:
Figur 1 ein beispielhaftes Fahrzeug mit einer Vorrichtung zur Sensordatenfusion;
Figur 2 ein beispielhaftes Ablaufdiagramm eines Verfahrens zur Sensordatenfusion; und
Figur 3 eine beispielhafte Zuordnung eines jeweiligen
reduzierten Sensorobjektdatensatzes zu
Fusionsobjekten.
Elemente gleicher Konstruktion oder Funktion sind
figurenübergreifend mit den gleichen Bezugszeichen versehen.
Im Folgenden wird ein Verfahren zur High-Level-Objektfusion auf Basis des Information Matrix Fusion-Algorithmus (IMF) vorgeschlagen, das einen zuverlässigen Einsatz auf
eingebetteten Systemen erlaubt. Anhand des
Ausführungsbeispiels der Figur 1 ist ein erfindungsgemäßes
Fahrzeug F mit einer Vorrichtung V zur Sensordatenfusion sowie einer Sensorvorrichtung S1 dargestellt, die zur
Erfassung von Objekten, insbesondere anderer
Verkehrsteilnehmer und relevanter Eigenschaften derer, und zur Ermittlung eines entsprechenden Sensorobjekts st eingerichtet ist. Dabei kann es sich z.B. um einen Kamera-, LiDAR-, Light Detection And Ranging, LaDAR-, Laser Detection And Ranging, RaDAR, Radio Detection And Ranging, Ultraschall- Punktlaser-, oder einen Infrarotsensor handeln. Unabhängig von der verwendeten Methode zur High-Level-Objektfusion wird im Automobilbereich als Ergebnis der Objektfusion
üblicherweise eine Liste von Rechtecken bzw. Quadern als Objektrepräsentation ausgegeben, welche erkannte,
insbesondere bewegliche, Objekte in der Umgebung des
Fahrzeugs F repräsentieren. Figur 1 zeigt ein solches
Fusionsobjekt , dem als relevante Eigenschaften
beispielhaft ein Referenzpunkt A, eine Länge und Breite bezüglich des Referenzpunkts A, eine Orientierung af des
R des Fahrzeugs F zugeordnet sind. Zudem können dem
Fusionsobjekt Indikatordaten zugeordnet sein, die
repräsentativ sind für eine Unsicherheit bei der Ermittlung der Länge, Breite und Orientierung as . Die Unsicherheit kann beispielsweise durch eine Varianz ausgedrückt sein. Figur 1 zeigt ferner ein durch die Sensorvorrichtung S1 ermitteltes Sensorobjekt st .
Das Fahrzeug F weist ferner beispielhaft eine weitere
Sensorvorrichtung S2 auf, die ebenfalls zur Erfassung der Umgebung des Fahrzeugs F eingerichtet ist. Die
Sensorvorrichtungen S1, S2 sind mit der Vorrichtung V zur Sensordatenfusion signaltechnisch gekoppelt. Durch die
Sensorvorrichtungen S1, S2 bereitgestellte Sensorobjektdaten können durch die Vorrichtung V nach einem beliebigen
Verfahren zur High-Level-Objektfusion fusioniert und in einem Fusionsobjektdatensatz gespeichert werden.
Bei dem Verfahren zur High-Level-Objektfusion kann es sich um einen rekursiven Schätzprozess auf Basis des Information Matrix Fusion-Algorithmus (IMF) handeln.
Aus der formalen Beschreibung des IMF-Algorithmus ergibt sich, dass zu jedem Sensorobjekt mit Eigenschaften
und deren Unsicherheiten
, das zum Zeitpunkt t zu einem aus j = 1...p Fusionsobjekten fusioniert werden soll, der
Zustand des Sensorobjekts st-k zum letzten Fusionszeitpunkt bekannt sein muss. Da theoretisch sehr große k»1 möglich sind, ist es auf einem eingebetteten System mit geringen Speicherressourcen nicht ohne weiteres möglich, alle
benötigten Informationen für den IMF-Algorithmus zur
Verfügung zu stellen.
Der Vorrichtung V ist in diesem Zusammenhang insbesondere ein Daten- und Programmspeicher zugeordnet, in dem ein
Computerprogramm gespeichert ist, das anhand des
Ablaufdiagramms der Figur 2 im Folgenden näher erläutert wird .
In einem ersten Schritt P10 werden ein aktuelle
Sensorobjektdaten bereitgestellt, die repräsentativ sind für ein durch die Sensorvorrichtung S1 in einer Umgebung des Fahrzeugs F zu einem Zeitpunkt t ermitteltes Sensorobjekt st . Insbesondere können in diesem Schritt mehrere
Sensorobjektdaten durch die Sensorvorrichtung S1 ermittelt
werden, sodass insgesamt q > 1 verschiedene, durch die
Sensorvorrichtung S1 ermittelte Sensorobjekte
, i = 1...q bereitgestellt werden. Beispielsweise werden in dem ersten Schritt P10 darüber hinaus auch aktuelle Sensorobjektdaten der weiteren Sensorvorrichtung S2 bereitgestellt.
Das Programm wird in einem Schritt P20 fortgesetzt, in dem ein Fusionsobjektdatensatz bereitgestellt wird. Der
Fusionsobjektdatensatz umfasst Fusionsobjektdaten, die jeweils repräsentativ sind für eines aus j = 1...p in der
Umgebung des Fahrzeugs F ermittelte Fusionsobjekte
, die jeweils zur Sensordatenfusion zu dem Zeitpunkt t vorgesehen sind. Beispielsweise ist der Fusionsobjektdatensatz in einem Datenspeicher der Vorrichtung V hinterlegt und wurde in einem vorangegangenen Fusionsverfahren aus den Sensorobjektdaten der Sensorvorrichtungen S1, S2 ermittelt.
In einem darauffolgenden Schritt P30 wird ein
Sensorobjektdatensatz bereitgestellt.
Der Sensorobjektdatensatz H umfasst historische
Sensorobjektdaten, die jeweils repräsentativ sind für eines aus i = 1...m durch die Sensorvorrichtung Sl in der Umgebung des Fahrzeugs F zu einem vorangegangen Zeitpunkt t— k
ermittelte Sensorobjekte
, wobei n,m ³1. Beispielsweise wird in dem ersten Schritt P30 darüber hinaus auch ein
Sensorobjektdatensatz der weiteren Sensorvorrichtung S2 bereitgestellt .
Der Sensorobjektdatensatz H kann auch als
Assoziationshistorie bezeichnet werden. Eine Fusion ergibt sich erst aus zuvor erfolgter Assoziation von Sensor- und Fusionsobjekt. Statt also alle q von der Sensorvorrichtung S1
zu dem Zeitpunkt t erkannten Sensorobjekte
, i = 1...q
aufzuzeichnen, genügt es, nur die p £ q tatsächlich zu einem Fusionsobjekt assoziierten Sensorobjekte
, i = 1...p in die Assoziationshistorie aufzunehmen. In anderen Worten kann in einem dem Schritt P30 vorausgehenden und einem dem Schritt P10, in dem die aktuellen Sensordaten ermittelt werden, nachfolgenden Schritt jeweils eine Auswahl getroffen werden, welche der ermittelten aktuellen Sensordaten in die
Assoziationshistorie aufgenommen werden. Dabei kann für jede Sensorvorrichtung S1, S2 eine eigene Assoziationshistorie unabhängig von den Assoziationshistorien anderer
Sensorvorrichtungen im Fusionssystem aufgezeichnet werden. Im Folgenden wird daher nur die Assoziationshistorie der
Sensorvorrichtung S1 betrachtet.
Das Verfahren wird im Anschluss an den Schritt P30 in einem Schritt P40 fortgesetzt, in dem abhängig von dem
Sensorobjektdatensatz H ein reduzierter
Sensorobjektdatensatz
ermittelt wird, wobei ein zum Zeitpunkt t zu einem Fusionsobjekt ft assoziiertes Sensorobjekt bezeichnet. Der reduzierte Sensorobjektdatensatz
den Fusionsobjektdaten hinterlegt.
Für den Sensorobjektdatensatz H ergibt sich die
Notwendigkeit von n > 1 erst aus einer möglichen Assoziation unterschiedlicher Sensorobjekte zu unterschiedlichen
Zeitpunkten zum selben Fusionsobjekt. In der Regel kann aber davon ausgegangen werden, dass die Sensorvorrichtung S1 die Objekte in der Umgebung des Fahrzeugs F durchgehend verfolgt und es allenfalls in dichten Verkehrssituationen zu
mehrdeutigen Objektbildungen kommen kann, wobei ein
tatsächliches Objekt in der Umgebung zur Bildung mehrerer (räumlich oder zeitlich getrennter) Sensorobjekte führt.
Außerdem wird zu jedem Zeitpunkt maximal ein Objekt der Sensorvorrichtung S1 zu demselben Fusionsobjekt assoziiert.
Daher genügt es, die wenigen jeweils zuletzt zu einem
Fusionsobjekt zu vermerken. Die Historie enthält so nun unterschiedliche Sensorobjekte zu unterschiedlichen
Wert von n = 2 bewährt, sodass einmalige Mehrdeutigkeiten gehandhabt werden können. Das resultierende Modell bei n = 2 für die Realisierung der Assoziationshistorie ist in Figur 3 gezeigt. Dabei ist jedem Fusionsobjekt jeweils ein
reduzierter Sensorobjektdatensatz H'S1 der Sensorvorrichtung S1 und ein reduzierter Sensorobjektdatensatz H'S2 der weiteren Sensorvorrichtung S2 zugeordnet. Der reduzierte
Sensorobjektdatensatz H'S1 umfasst dabei die zu den
der Sensorvorrichtung Sl, während der reduzierte
Sensorobjektdatensatz H'S2 die zu den Zeitpunkten t— 1 und t—
2 assoziierten Sensorobjekte und der weiteren
Sensorvorrichtung S2 umfasst.
In einem darauffolgenden Schritt P50 wird abhängig von dem reduzierten Sensorobjektdatensatz H' das Sensorobjekt st zu einem Fusionsobjekt
assoziiert und ein innoviertes
Fusionsobjekt ermittelt.
Hierzu wird zunächst geprüft, ob der dem jeweiligen
Fusionsobjekt zugeordnete, reduzierte
Sensorobjektdatensatz H' ein zu einem früheren Zeitpunkt t— k, k = 1...n, assoziiertes Sensorobjekt umfasst.
Im Falle, dass der reduzierte Sensorobjektdatensatz H' zu keinem vorangegangenen Zeitpunkt t— k, k = 1...n, ein
st in einem Schritt P60 mittels des use of cross covariance -
Algorithmus zu einem Fusionsobjekt assoziiert und das
innovierte Fusionsobjekt ermittelt. Anderenfalls wird das Sensorobjekt st in einem Schritt P70 mittels des IMF,
Information Matrix Fusion, -Algorithmus basierend auf dem reduzierten Sensorobjektdatensatz H' zu einem Fusionsobjekt assoziiert und ein innoviertes Fusionsobjekt ermittelt.
Kann aus der wie oben erläutert begrenzten
Assoziationshistorie kein zu einem früheren Zeitpunkt
fusioniertes Sensorobjekt gefunden werden, beispielsweise bei erstmaliger Fusion des Sensorobjekts oder weil die Wahl von q die Mehrdeutigkeit der Sensorvorrichtung nicht auflösen kann, so findet die Fusion nur mit approximativer Berücksichtigung etwaiger Korrelationen unter Verwendung der „use of cross covariance"-Methode Anwendung.
Das Programm wird anschließend beendet oder gegebenenfalls nach einer vorgegebenen Unterbrechung in dem Schritt P10 mit aktualisiertem Objektdatensatz fortgesetzt.
In einer alternativen Ausführungsvariante ist der Schritt P70 um eine Plausibilisierung des innovierten Fusionsobjekts ergänzt .
In der praktischen Anwendung des IMF Algorithmus zur Fusion der Sensorobjektdaten mehrerer Sensorvorrichtungen auf einem eingebetteten System kann es zu einem Fehlerfall kommen, der zur Bestimmung fusionierter Eigenschaften führt, die grob von den von der entsprechenden Sensorvorrichtung berichteten Eigenschaften abweichen.
Dem jeweiligen Sensorobjekt st-1 , st sind in dieser
Ausführungsvariante Merkmalsdaten zugeordnet, die
repräsentativ sind für die durch die Sensorvorrichtung berichteten Eigenschaften wie einer lateralen Erstreckung, Position und Orientierung des Sensorobjekts st-1 , st . Darüber hinaus sind dem jeweiligen Sensorobjekt st-1 , st
für eine Unsicherheit bei der Ermittlung der Eigenschaften.
Ebenso sind dem jeweiligen Fusionsobjekt
Merkmalsdaten , die repräsentativ sind für
Indikatordaten , die repräsentativ sind für eine
Unsicherheit bei der Ermittlung der Eigenschaften,
zugeordnet .
In einem dem Schritt P50 nachfolgenden Schritt P72 wird abhängig von den Merkmalsdaten ein
t nach Sensordatenfusion mit ·
Daraufhin wird in einem Schritt P74 abhängig von den
Merkmalsdaten und von den Indikatordaten
repräsentativ ist für die Eigenschaften des Fusionsobjekts
zu dem Zeitpunkt t nach der Sensordatenfusion mit
.
Schließlich wird in einem Schritt P76 abhängig von dem
Merkmalsfusionszustand dem innovierten
Merkmalsfusionszustand
und den Merkmalsdaten
geprüft, ob der innovierte Merkmalsfusionszustand die Gleichung
in dem Schritt P76 geprüft, ob die intuitive Annahme, dass die aktualisierten Eigenschaften nach der Fusion zwischen den ursprünglichen Eigenschaften und den Eigenschaften des fusionierten Sensor-Objekts liegen, verletzt ist.
Im Falle, dass die Gleichung erfüllt ist, wird das innovierte Fusionsobjekt in dem Schritt P70 abhängig von dem innovierten
Merkmalszustand ermittelt. Anderenfalls wird das
Sensorobjekt st in dem Schritt P60 mittels des use of cross covariance -Algorithmus zu einem Fusionsobjekt assoziiert
und das innovierte Fusionsobjekt ermittelt.
Zur Behandlung dieses Fehlerfalls wird die IMF-Fusion von Fusions- und Sensor-Objekt insbesondere wie gehabt ausgeführt und das Ergebnis zur Überprüfung temporär
zwischengespeichert. Verletzt das Ergebnis die oben
beschriebene intuitive Annahme, so wird das temporäre
Ergebnis verworfen. Es findet stattdessen eine Fusion nur mit approximativer Berücksichtigung etwaiger Korrelationen unter Verwendung der „use of cross covariance"-Methode statt.
Claims
1. Verfahren zur Sensordatenfusion für ein Fahrzeug (F) , wobei dem Fahrzeug (F) eine Sensorvorrichtung (S1) zugeordnet ist, und bei dem Verfahren
- aktuelle Sensorobjektdaten bereitgestellt werden, die
repräsentativ sind für ein durch die Sensorvorrichtung (S1) in einer Umgebung des Fahrzeugs (F) zu einem
Zeitpunkt t ermitteltes Sensorobjekt st;
- ein Fusionsobjektdatensatz bereitgestellt wird, umfassend
Fusionsobjektdaten, die jeweils repräsentativ sind für eines aus j = 1...p in der Umgebung des Fahrzeugs (F) ermittelte Fusionsobjekte
, die jeweils zur
Sensordatenfusion zu dem Zeitpunkt t vorgesehen sind;
- ein Sensorobjektdatensatz
bereitgestellt wird, umfassend historische
Sensorobjektdaten, die jeweils repräsentativ sind für eines aus i = 1...m durch die Sensorvorrichtung (Sl) in der Umgebung des Fahrzeugs (F) zu einem vorangegangen Zeitpunkt t— k ermittelte Sensorobjekte , wobei n,m ³
1;
- abhängig von dem Sensorobjektdatensatz H ein reduzierter
- abhängig von dem reduzierten Sensorobjektdatensatz H' das
2. Verfahren nach Anspruch 1, bei dem gilt: 1£n £5,
bevorzugt n = 2.
3. Verfahren nach einem der vorstehenden Ansprüche, bei dem
- das Sensorobjekt st mittels des IMF, Information Matrix
Fusion, -Algorithmus zu einem Fusionsobjekt
assoziiert und das innovierte Fusionsobjekt ermittelt wird .
4. Verfahren nach einem der vorstehenden Ansprüche, bei dem
- der reduzierte Sensorobjektdatensatz H' jeweils den
Fusionsobjekten zugeordnet und in den
Fusionsobjektdaten hinterlegt wird, und
- abhängig von dem Fusionsobjektdatensatz das Sensorobjekt st zu einem Fusionsobjekt assoziiert und das innovierte
Fusionsobjekt ermittelt wird.
5. Verfahren nach Anspruch 4, bei dem
6. Verfahren nach einem der vorstehenden Ansprüche, bei dem
repräsentativ sind für eine laterale Erstreckung,
Position und Orientierung des Sensorobjekts st-1, st und Indikatordaten , die repräsentativ sind für eine
Unsicherheit bei der Ermittlung der lateralen
Erstreckung, Position bzw. Orientierung, zugeordnet sind;
- dem Fusionsobjekt Merkmalsdaten , die
repräsentativ sind für eine laterale Erstreckung,
Unsicherheit bei der Ermittlung der lateralen
Erstreckung, Position bzw. Orientierung, zugeordnet sind;
- abhängig von den Merkmalsdaten ein
Merkmalsfusionszustand ermittelt wird, der
repräsentativ ist für die laterale Erstreckung, Position und Orientierung des Fusionsobjekts zu dem Zeitpunkt
- abhängig von den Merkmalsdaten und von den
Indikatordaten ein innovierter
Merkmalsfusionszustand ermittelt wird, der
repräsentativ ist für die laterale Erstreckung, Position und Orientierung des Fusionsobjekts
zu dem Zeitpunkt t nach Sensordatenfusion mit
- abhängig von dem Merkmalsfusionszustand , dem
innovierten Merkmalsfusionszustand und den
Merkmalsfusionszustand die Gleichung
Gleichung erfüllt ist, das innovierte Fusionsobjekt abhängig von dem innovierten Merkmalszustand
ermittelt wird, und anderenfalls, das Sensorobjekt st mittels des use of cross covariance -Algorithmus zu einem Fusionsobjekt assoziiert und das innovierte
Fusionsobjekt ermittelt wird.
7. Vorrichtung (V) zur Sensordatenfusion für ein Fahrzeug (F) , wobei die Vorrichtung (V) ausgebildet ist, ein Verfahren nach einem der vorstehenden Ansprüche 1 bis 6 auszuführen .
8. Computerprogramm zur Sensordatenfusion für ein Fahrzeug (F) , umfassend Befehle, die bei der Ausführung des Computerprogramms durch einen Computer diesen
veranlassen, das Verfahren nach einem der Ansprüche 1 bis 6 auszuführen.
9. Computerlesbares Speichermedium, auf dem das
Computerprogramm nach Anspruch 8 gespeichert ist.
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US17/427,986 US20220128680A1 (en) | 2019-02-06 | 2019-10-25 | Method and Apparatus for Sensor Data Fusion for a Vehicle |
| CN201980076366.8A CN113167892B (zh) | 2019-02-06 | 2019-10-25 | 用于车辆的传感器数据融合的方法和装置 |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| DE102019102920.1A DE102019102920A1 (de) | 2019-02-06 | 2019-02-06 | Verfahren und eine Vorrichtung zur Sensordatenfusion für ein Fahrzeug |
| DE102019102920.1 | 2019-02-06 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2020160797A1 true WO2020160797A1 (de) | 2020-08-13 |
Family
ID=68344880
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/EP2019/079224 Ceased WO2020160797A1 (de) | 2019-02-06 | 2019-10-25 | Verfahren und eine vorrichtung zur sensordatenfusion für ein fahrzeug |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US20220128680A1 (de) |
| CN (1) | CN113167892B (de) |
| DE (1) | DE102019102920A1 (de) |
| WO (1) | WO2020160797A1 (de) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20230123073A (ko) * | 2022-02-15 | 2023-08-23 | 현대자동차주식회사 | 센서 정보 퓨전 방법 및 장치 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2003008995A1 (de) * | 2001-07-17 | 2003-01-30 | Robert Bosch Gmbh | Verfahren und vorrichtung zum austausch und zur verarbeitung von daten |
| US20080300787A1 (en) * | 2006-02-03 | 2008-12-04 | Gm Global Technology Operations, Inc. | Method and apparatus for on-vehicle calibration and orientation of object-tracking systems |
| DE102008001672A1 (de) * | 2008-05-09 | 2009-11-12 | Robert Bosch Gmbh | Verfahren zur Fusion von Zustandsdaten erfasster Sensorobjekte |
Family Cites Families (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7719461B1 (en) * | 2008-08-05 | 2010-05-18 | Lockheed Martin Corporation | Track fusion by optimal reduced state estimation in multi-sensor environment with limited-bandwidth communication path |
| US20150102955A1 (en) * | 2013-10-14 | 2015-04-16 | GM Global Technology Operations LLC | Measurement association in vehicles |
| US9563808B2 (en) * | 2015-01-14 | 2017-02-07 | GM Global Technology Operations LLC | Target grouping techniques for object fusion |
| DE102015202099A1 (de) * | 2015-02-06 | 2016-08-11 | Bayerische Motoren Werke Aktiengesellschaft | Verarbeiten von Sensordaten für ein Fahrerassistenzsystem |
| CA2977730C (en) * | 2015-03-05 | 2018-04-03 | Thales Canada Inc. | Guideway mounted vehicle localization system |
| CN104729506B (zh) * | 2015-03-27 | 2017-11-14 | 北京航空航天大学 | 一种视觉信息辅助的无人机自主导航定位方法 |
| DE102015107392A1 (de) * | 2015-05-12 | 2016-11-17 | Valeo Schalter Und Sensoren Gmbh | Verfahren zum Erfassen eines Objekts in einer Umgebung eines Kraftfahrzeugs anhand von fusionierten Sensordaten, Steuereinrichtung, Fahrerassistenzsystem sowie Kraftfahrzeug |
| SE1650719A1 (en) * | 2016-05-25 | 2017-11-26 | Scania Cv Ab | Method for decentralized sensor fusion in a vehicle and sensor fusion system |
| WO2018063241A1 (en) * | 2016-09-29 | 2018-04-05 | The Charles Stark Draper Laboratory, Inc. | Autonomous vehicle: object-level fusion |
-
2019
- 2019-02-06 DE DE102019102920.1A patent/DE102019102920A1/de active Pending
- 2019-10-25 WO PCT/EP2019/079224 patent/WO2020160797A1/de not_active Ceased
- 2019-10-25 US US17/427,986 patent/US20220128680A1/en not_active Abandoned
- 2019-10-25 CN CN201980076366.8A patent/CN113167892B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2003008995A1 (de) * | 2001-07-17 | 2003-01-30 | Robert Bosch Gmbh | Verfahren und vorrichtung zum austausch und zur verarbeitung von daten |
| US20080300787A1 (en) * | 2006-02-03 | 2008-12-04 | Gm Global Technology Operations, Inc. | Method and apparatus for on-vehicle calibration and orientation of object-tracking systems |
| DE102008001672A1 (de) * | 2008-05-09 | 2009-11-12 | Robert Bosch Gmbh | Verfahren zur Fusion von Zustandsdaten erfasster Sensorobjekte |
Non-Patent Citations (2)
| Title |
|---|
| AEBERHARD, M.RAUCH, A.RABIEGA, M.KAEMPCHEN, N.BERTRAM, T.: "Intelligent Vehicles Symposium (IV", June 2012, IEEE, article "Track-to-track fusion with asynchronous sensors and out-of-sequence tracks using information matrix fusion for advanced driver assistance systems", pages: 1 - 6 |
| S. MATZKAR. ALTENDORFER: "A comparison of track-totrack fusion algorithms for automotive sensor fusion", 2008 IEEE INTERNATIONAL CONFERENCE ON MULTISENSOR FUSION AND INTEGRATION FOR INTELLIGENT SYSTEMS, SEOUL, 2008, pages 189 - 194, XP031346269 |
Also Published As
| Publication number | Publication date |
|---|---|
| US20220128680A1 (en) | 2022-04-28 |
| DE102019102920A1 (de) | 2020-08-06 |
| CN113167892A (zh) | 2021-07-23 |
| CN113167892B (zh) | 2024-08-27 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP3743318B1 (de) | Korrigieren einer position eines fahrzeugs mit slam | |
| DE102017217972A1 (de) | Verfahren und Vorrichtung zum Erzeugen eines inversen Sensormodells und Verfahren zum Erkennen von Hindernissen | |
| EP3254136B1 (de) | Verarbeitung von sensormessungen eines fahrzeugumfeldes bei geringer querauflösung | |
| EP3465088B1 (de) | Verfahren, vorrichtung und computerlesbares speichermedium mit instruktionen zur bestimmung der lateralen position eines fahrzeuges relativ zu den fahrstreifen einer fahrbahn | |
| DE10133945A1 (de) | Verfahren und Vorrichtung zum Austausch und zur Verarbeitung von Daten | |
| DE102019112413A1 (de) | Verfahren und vorrichtung zur multi-sensor-datenfusion für automatisierte und autonome fahrzeuge | |
| DE102020105619A1 (de) | System und verfahren zur bestimmung der fahrzeugposition | |
| EP3430423B1 (de) | Verfahren zur verbesserung einer erfassung zumindest eines objekts in einer umgebung eines kraftfahrzeugs durch eine indirekte messung mit sensoren, steuereinrichtung, fahrerassistenzsystem sowie kraftfahrzeug | |
| DE102019115330A1 (de) | Echtzeit-Sicherheitspfaderzeugung für hochautomatisiertes Fahrzeugrückfallmanöver | |
| AT521724A1 (de) | Verfahren und Vorrichtung zur Analyse eines Sensordatenstroms sowie Verfahren zum Führen eines Fahrzeugs | |
| WO2022002564A1 (de) | Ermitteln einer ausgangsposition eines fahrzeugs für eine lokalisierung | |
| WO2020160795A1 (de) | Verfahren und eine vorrichtung zur sensordatenfusion für ein fahrzeug | |
| DE102013201935A1 (de) | Verfahren und Vorrichtung zum Ermitteln von kollisionsfreien Pfaden | |
| DE102008063033A1 (de) | Vorrichtung und Verfahren zur Erkennung von Kollisionen mit erhöhter funktionaler Sicherheit | |
| WO2020160798A1 (de) | Verfahren und eine vorrichtung zur sensordatenfusion für ein fahrzeug | |
| DE102019102922A1 (de) | Verfahren und Vorrichtung zur Multi-Sensor-Datenfusion für automatisierte und autonome Fahrzeuge | |
| DE112017008095T5 (de) | Objekterkennungsvorrichtung und Objekterkennungsverfahren | |
| WO2020160797A1 (de) | Verfahren und eine vorrichtung zur sensordatenfusion für ein fahrzeug | |
| DE102021214763A1 (de) | Verfahren und Steuervorrichtung zum Steuern eines automatisierten Fahrzeugs | |
| DE102024203831A1 (de) | Fahrzeugsteuerungsvorrichtung und steuerungsverfahren | |
| DE102020119498A1 (de) | Verfahren zum Schätzen einer Eigenbewegung eines Fahrzeugs anhand von Messungen eines Lidar-Sensors sowie Recheneinrichtung | |
| WO2020233955A1 (de) | Verfahren und vorrichtung zum verarbeiten von sensordaten | |
| DE102019122249A1 (de) | Verfahren zum Ermitteln eines Fahrspurwechsels, Fahrassistenzsystem und Fahrzeug | |
| DE102023001648A1 (de) | Verfahren zur Fahrspurlokalisierung eines Fahrzeugs | |
| DE102020116225B3 (de) | Verfahren zum radarbasierten Nachverfolgen von fahrzeugexternen Objekten, Objektnachverfolgungseinrichtung und Kraftfahrzeug |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 19794547 Country of ref document: EP Kind code of ref document: A1 |
|
| NENP | Non-entry into the national phase |
Ref country code: DE |
|
| 122 | Ep: pct application non-entry in european phase |
Ref document number: 19794547 Country of ref document: EP Kind code of ref document: A1 |
