DE102019214142A1 - Procedure for warning of mass movements on sloping terrain - Google Patents
Procedure for warning of mass movements on sloping terrain Download PDFInfo
- Publication number
- DE102019214142A1 DE102019214142A1 DE102019214142.0A DE102019214142A DE102019214142A1 DE 102019214142 A1 DE102019214142 A1 DE 102019214142A1 DE 102019214142 A DE102019214142 A DE 102019214142A DE 102019214142 A1 DE102019214142 A1 DE 102019214142A1
- Authority
- DE
- Germany
- Prior art keywords
- vehicle
- control device
- camera
- image data
- trajectory
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000033001 locomotion Effects 0.000 title claims abstract description 33
- 238000000034 method Methods 0.000 title claims abstract description 25
- 230000003287 optical effect Effects 0.000 claims abstract description 28
- 230000001133 acceleration Effects 0.000 claims description 15
- 238000004590 computer program Methods 0.000 claims description 6
- 230000003068 static effect Effects 0.000 description 13
- 239000011435 rock Substances 0.000 description 8
- 238000013519 translation Methods 0.000 description 5
- 239000013598 vector Substances 0.000 description 4
- 238000011161 development Methods 0.000 description 3
- 230000018109 developmental process Effects 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000002349 favourable effect Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000035484 reaction time Effects 0.000 description 2
- 238000005096 rolling process Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 238000007596 consolidation process Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002996 emotional effect Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 239000004576 sand Substances 0.000 description 1
- 239000004575 stone Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/165—Anti-collision systems for passive traffic, e.g. including static obstacles, trees
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
- B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
- B60W30/09—Taking automatic action to avoid collision, e.g. braking and steering
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
- B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
- B60W30/095—Predicting travel path or likelihood of collision
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/166—Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
- B60W2420/40—Photo or light sensitive means, e.g. infrared sensors
- B60W2420/403—Image sensing, e.g. optical camera
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2554/00—Input parameters relating to objects
- B60W2554/40—Dynamic objects, e.g. animals, windblown objects
Abstract
Bei einem Verfahren (V) zur Warnung vor Massenbewegungen an einem abfallenden Gelände (2) für ein Fahrzeug (1), wird das abfallende Gelände (2) mittels wenigstens einer Kamera (3) erfasst, so dass Bilddaten (B) generiert werden. Eine Fahrdynamik (F) des Fahrzeugs (1) wird ermittelt. Aus den Bilddaten (B) wird ein optischer Fluss (5) wenigstens eines Objekts (4; 4*), welches sich an dem abfallenden Gelände (2) befindet, ermittelt. Es wird ausgewertet, ob das wenigstens eine Objekt (4; 4*) eine Epipolar-Bedingung (E) erfüllt. Es erfolgt eine Markierung des wenigstens einen Objekts (4; 4*) als kritisches Objekt in den Bilddaten, wenn das wenigstens eine Objekt (4; 4*) die Epipolar-Bedingung (E) nicht erfüllt. Aus der Fahrdynamik (F) wird eine Trajektorie (I) des Fahrzeugs (1) ermittelt. Ausgehend von den Bilddaten (B) wird eine Trajektorie (II) des wenigstens einen kritischen Objekts (4; 4*) ermittelt. Ausgehend von der Trajektorie (I) des Fahrzeugs (1) und der Trajektorie (II) des wenigstens einen kritischen Objekts (4; 4*) wird eine Kollisionswahrscheinlichkeit (K) zwischen dem Fahrzeug (1) und dem wenigstens einen kritischen Objekt (4; 4*) berechnet. Eine Warnung (W) wird ausgegeben, wenn die Kollisionswahrscheinlichkeit (K) einen Schwellenwert (S) erreicht oder überschreitet.In a method (V) for warning of mass movements on sloping terrain (2) for a vehicle (1), the sloping terrain (2) is recorded by means of at least one camera (3) so that image data (B) are generated. Driving dynamics (F) of the vehicle (1) are determined. An optical flow (5) of at least one object (4; 4 *) located on the sloping terrain (2) is determined from the image data (B). It is evaluated whether the at least one object (4; 4 *) fulfills an epipolar condition (E). The at least one object (4; 4 *) is marked as a critical object in the image data if the at least one object (4; 4 *) does not meet the epipolar condition (E). A trajectory (I) of the vehicle (1) is determined from the driving dynamics (F). A trajectory (II) of the at least one critical object (4; 4 *) is determined on the basis of the image data (B). Based on the trajectory (I) of the vehicle (1) and the trajectory (II) of the at least one critical object (4; 4 *), a collision probability (K) between the vehicle (1) and the at least one critical object (4; 4 *) calculated. A warning (W) is issued when the collision probability (K) reaches or exceeds a threshold value (S).
Description
Die vorliegende Erfindung betrifft ein Verfahren zur Warnung vor Massenbewegungen an einem abfallenden Gelände für ein Fahrzeug mit den Merkmalen nach Anspruch 1, eine Steuereinrichtung mit den Merkmalen nach Anspruch 6, ein Computerprogrammprodukt mit den Merkmalen nach Anspruch 7, und ein Fahrzeug mit den Merkmalen nach Anspruch 8.The present invention relates to a method for warning of mass movements on sloping terrain for a vehicle with the features according to
Fahrzeuge, die sich z. B. im Gebirge bewegen, sind der Gefahr von Felsbruch oder Schuttstürzen ausgesetzt. Dabei kann sich ein Felsen an einem abfallenden Gelände lösen, beispielsweise an einem Hang, und kann auf die Fahrbahn stürzen, entlang welcher sich das Fahrzeug bewegt. Dies stellt eine Kollisionsgefahr für das Fahrzeug dar, wenn die Gefahr nicht frühzeitig erkannt wird.Vehicles that are z. B. move in the mountains, are exposed to the risk of rock failure or falling debris. A rock can come loose on sloping terrain, for example on a slope, and can fall onto the roadway along which the vehicle is moving. This represents a risk of collision for the vehicle if the danger is not recognized early.
Aus der Veröffentlichung von Pieri, Gabriele & Magrini, M & Moroni, Davide & Salvetti, Ovidio & Fantini, Andrea & Martino, Salvatore und Prestininzi, A. „Experimenting an embedded-sensor network for early warning of natural risks due to fast failures along railways“ aus dem Jahr 2015 ist ein Projekt zur Echtzeitüberwachung von Eisenbahngleisen zur Erkennung von Ereignissen die den Zugverkehr gefährden können bekannt. Diese Ereignisse können beispielsweise durch Felsbruch oder Schuttstürze ausgebildet sein.From the publication by Pieri, Gabriele & Magrini, M & Moroni, Davide & Salvetti, Ovidio & Fantini, Andrea & Martino, Salvatore and Prestininzi, A. "Experimenting an embedded sensor network for early warning of natural risks due to fast failures along railways "from 2015 is a project for real-time monitoring of railway tracks to detect events that can endanger train traffic. These events can be caused, for example, by rock fractures or falling debris.
Der vorliegenden Erfindung liegt ausgehend vom Stand der Technik die Aufgabe zu Grunde, eine Methode vorzuschlagen, mittels welcher Felsbruch oder andere Massenbewegungen frühzeitig erkannt werden können, um einen Fahrer eines Fahrzeugs zu warnen.On the basis of the prior art, the present invention is based on the object of proposing a method by means of which rock fractures or other mass movements can be detected early in order to warn a driver of a vehicle.
Die vorliegende Erfindung schlägt ausgehend von der vorgenannten Aufgabe ein Verfahren zur Warnung vor Massenbewegungen an einem abfallenden Gelände für ein Fahrzeug nach Anspruch 1, eine Steuereinrichtung nach Anspruch 6, ein Computerprogrammprodukt nach Anspruch 7, und ein Fahrzeug nach Anspruch 8 vor. Weitere vorteilhafte Ausgestaltungen und Weiterbildungen gehen aus den Unteransprüchen hervor.Based on the aforementioned object, the present invention proposes a method for warning of mass movements on sloping terrain for a vehicle according to
Bei einem Verfahren zur Warnung vor Massenbewegungen an einem abfallenden Gelände für ein Fahrzeug, wird das abfallende Gelände mittels wenigstens einer Kamera erfasst, so dass Bilddaten generiert werden. Eine Fahrdynamik des Fahrzeugs wird ermittelt. Aus den Bilddaten wird ein optischer Fluss wenigstens eines Objekts, welches sich an dem abfallenden Gelände befindet, ermittelt. Es wird ausgewertet, ob das wenigstens eine Objekt eine Epipolar-Bedingung erfüllt. Es erfolgt eine Markierung des wenigstens einen Objekts als kritisches Objekt in den Bilddaten, wenn das wenigstens eine Objekt die Epipolar-Bedingung nicht erfüllt. Aus der Fahrdynamik wird eine Trajektorie des Fahrzeugs ermittelt. Ausgehend von den Bilddaten wird eine Trajektorie des wenigstens einen kritischen Objekts ermittelt. Ausgehend von der Trajektorie des Fahrzeugs und der Trajektorie des wenigstens einen kritischen Objekts wird eine Kollisionswahrscheinlichkeit zwischen dem Fahrzeug und dem wenigstens einen kritischen Objekt berechnet. Eine Warnung wird ausgegeben, wenn die Kollisionswahrscheinlichkeit einen Schwellenwert erreicht oder überschreitet.In a method for warning of mass movements on sloping terrain for a vehicle, the sloping terrain is recorded by means of at least one camera, so that image data are generated. Driving dynamics of the vehicle are determined. An optical flow of at least one object located on the sloping terrain is determined from the image data. It is evaluated whether the at least one object fulfills an epipolar condition. The at least one object is marked as a critical object in the image data if the at least one object does not meet the epipolar condition. A trajectory of the vehicle is determined from the driving dynamics. A trajectory of the at least one critical object is determined on the basis of the image data. A collision probability between the vehicle and the at least one critical object is calculated on the basis of the trajectory of the vehicle and the trajectory of the at least one critical object. A warning is issued when the probability of a collision reaches or exceeds a threshold value.
Das Fahrzeug ist ein Landfahrzeug und kann hierbei ein PKW oder ein Nutzfahrzeug (NKW), z. B. ein LKW, ein landwirtschaftliches oder forstwirtschaftliches Fahrzeug, nämlich eine Landmaschine, oder eine Baumaschine, ein Flurförderfahrzeug, ein Pistenfahrzeug, ein Bergbaufahrzeug, eine Reinigungsmaschine, oder ein anderes Nutzfahrzeug sein. Das Fahrzeug kann dabei derart ausgeformt sein, dass es automatisierte Fahrfunktionen ab Level 2 der SAE J3016 Autonomiestufen durchführen kann.The vehicle is a land vehicle and can be a car or a commercial vehicle (commercial vehicle), e.g. B. a truck, an agricultural or forestry vehicle, namely an agricultural machine, or a construction machine, an industrial truck, a snow groomer, a mining vehicle, a cleaning machine, or another commercial vehicle. The vehicle can be designed in such a way that it can carry out automated driving functions from
Ein abfallendes Gelände ist beispielsweise ein Abhang, eine Böschung, eine Felswand o. ä. Eine Massenbewegung ist definiert als jegliche Bewegung eines oder mehrerer Objekte von einem Ausgangspunkt zu einem Endpunkt, wobei die Bewegung nicht durch eine Antriebsvorrichtung hervorgerufen wird. Eine Massenbewegung an einem abfallenden Gelände stellen beispielsweise Felsbruch, Schuttsturz, Steinschlag, Lawinen, Lavaströme o. ä. dar. Dabei bewegt sich ein Objekt oder mehrere Objekte aufgrund der Einwirkungen der Gravitation in Richtung einer Boden-Ebene. Dieses Objekt oder diese Objekte stürzen oder fallen also in Richtung der Boden-Ebene.A sloping terrain is, for example, a slope, an embankment, a rock wall or the like. A mass movement is defined as any movement of one or more objects from a starting point to an end point, the movement not being caused by a drive device. A mass movement on sloping terrain is represented, for example, by rock fractures, rubble, falling rocks, avalanches, lava flows or the like. An object or several objects move in the direction of a ground plane due to the effects of gravity. This object or these objects topple or fall in the direction of the ground plane.
Das abfallende Gelände wird mittels der wenigstens einen Kamera erfasst, so dass Bilddaten generiert werden. Das Fahrzeug weist somit die wenigstens eine Kamera auf. Selbstverständlich kann das Fahrzeug mehr als eine Kamera aufweisen. Die wenigstens eine Kamera kann als Mono-Kamera oder als Stereo-Kamera ausgebildet sein. Die wenigstens eine Kamera ist derart an dem Fahrzeug angeordnet, dass diese einen Bereich in Fahrtrichtung vor dem Fahrzeug erfassen kann Zudem ist die wenigstens eine Kamera ausreichend über den Horizont gerichtet. Die wenigstens eine Kamera erfasst somit das abfallende Gelände in einem Bereich vor dem Fahrzeug kontinuierlich. Dadurch werden kontinuierlich Bilddaten generiert.The sloping terrain is recorded by means of the at least one camera, so that image data are generated. The vehicle thus has the at least one camera. Of course, the vehicle can have more than one camera. The at least one camera can be designed as a mono camera or as a stereo camera. The at least one camera is arranged on the vehicle in such a way that it can capture an area in the direction of travel in front of the vehicle. In addition, the at least one camera is sufficiently directed over the horizon. The at least one camera thus continuously records the sloping terrain in an area in front of the vehicle. As a result, image data are continuously generated.
Des Weiteren wird eine Fahrdynamik des Fahrzeugs ermittelt. Die Fahrdynamik setzt sich aus einer Längsdynamik, einer Querdynamik, einer Hubbewegung, einer Gierbewegung, einer Nickbewegung, einer Wankbewegung und Schwingungen zusammen. Diese Ermittlung erfolgt mittels fahrzeugeigener Sensoren, welche aus dem Stand der Technik bekannt sind. Beispielsweise kann das Fahrzeug als Fahrdynamik-Sensoren handelsübliche Beschleunigungssensoren, Gierratensensoren, Schwingungssensoren, Lenkwinkelsensoren etc. aufweisen. Die Fahrdynamik wird dabei kontinuierlich ermittelt.Driving dynamics of the vehicle are also determined. The driving dynamics are made up of longitudinal dynamics, transverse dynamics, lifting movement, yawing movement, pitching movement, rolling movement and vibrations together. This determination takes place by means of the vehicle's own sensors, which are known from the prior art. For example, the vehicle can have commercially available acceleration sensors, yaw rate sensors, vibration sensors, steering angle sensors, etc. as driving dynamics sensors. The driving dynamics are continuously determined.
Aus den Bilddaten wird ein optischer Fluss wenigstens eines Objekts, welches sich an dem abfallenden Gelände befindet, ermittelt. Das wenigstens eine Objekt ist zu Beginn der Erzeugung der Bilddaten an dem abfallenden Gelände angeordnet. Das wenigstens eine Objekt kann ein beliebiges Objekt sein, das sich an einem Punkt an dem abfallenden Gelände befindet. Das wenigstens eine Objekt kann z. B. ein Felsen, ein Stein, ein Baum, ein Ast o. ä. sein. Selbstverständlich können sich mehrere Objekte an dem abfallenden Gelände befinden, beispielsweise eine Ansammlung von Objekten, z. B. Schnee, Schlamm, Sand, Geröll, Lava, Schotter o. ä.An optical flow of at least one object located on the sloping terrain is determined from the image data. The at least one object is arranged on the sloping terrain at the beginning of the generation of the image data. The at least one object can be any object located at a point on the sloping terrain. The at least one object can, for. B. a rock, a stone, a tree, a branch o. Ä. Be. Of course, there can be several objects on the sloping terrain, for example a collection of objects, e.g. B. snow, mud, sand, rubble, lava, gravel or the like.
Die Ermittlung des optischen Flusses stellt eine Methodik dar, um die Bewegung eines Punktes von einer ersten Aufnahme zu einer zweiten Aufnahme und im Anschluss zu weiteren Aufnahmen zu verfolgen. Hier wird das wenigstens eine Objekt ausgehend von den Bilddaten der Kamera verfolgt. In anderen Worten stellt der optische Fluss eine Gruppe von Bewegungsvektoren des wenigstens einen Objekts dar. Weist das Fahrzeug eine Stereo-Kamera auf, die in der Lage ist, zwei Aufnahmen desselben Bereichs zum gleichen Zeitpunkt zu erstellen, kann der optische Fluss des wenigstens einen Objekts unmittelbar bestimmt werden. Dies trifft auch bei der Verwendung von zwei oder mehr Mono-Kameras, die zeitlich synchronisiert sind, zu.The determination of the optical flow is a method for tracking the movement of a point from a first recording to a second recording and then to further recordings. Here the at least one object is tracked based on the image data from the camera. In other words, the optical flow represents a group of motion vectors of the at least one object. If the vehicle has a stereo camera that is able to take two recordings of the same area at the same time, the optical flow of the at least one object can can be determined immediately. This also applies when using two or more mono cameras that are synchronized in time.
Weist das Fahrzeug allerdings nur eine Mono-Kamera auf, wird der optische Fluss mittels Aufnahmen ermittelt, die zu zwei verschiedenen Zeitpunkten nacheinander erzeugt wurden. Dazu ist es nötig, dass zusätzlich zu den Bilddaten die Fahrdynamik in die Ermittlung des optischen Flusses einbezogen werden. Aus der Fahrdynamik wird eine Translation und eine Rotation des Fahrzeugs ermittelt, die zwischen der Erzeugung der Aufnahmen zu den zwei verschiedenen Zeitpunkten vorgelegen haben. Wenn die Translation und die Rotation des Fahrzeugs zwischen zwei Zeitpunkten sowie die Einbaulage der wenigstens einen Kamera bekannt sind, kann die Translation und die Rotation der wenigstens einen Kamera ausgerechnet werden. Die Bewegung des Fahrzeugs kann in anderen Worten auf die Bilddaten bezogen werden. Dadurch kann der optische Fluss zwischen den beiden Aufnahmen zu diesen Zeitpunkten ermittelt werden. Durch die Epipolar-Geometrie, insbesondere die Berechnung und Auswertung der Fundamental-Matrix, kann die Bewegung des Fahrzeugs und der Kamera auf die Bilddaten bezogen werden.However, if the vehicle only has a mono camera, the optical flow is determined using recordings that were generated at two different points in time. For this it is necessary that, in addition to the image data, the driving dynamics are included in the determination of the optical flow. A translation and a rotation of the vehicle that existed between the generation of the recordings at the two different points in time are determined from the driving dynamics. If the translation and the rotation of the vehicle between two points in time and the installation position of the at least one camera are known, the translation and the rotation of the at least one camera can be calculated. In other words, the movement of the vehicle can be related to the image data. This allows the optical flow between the two recordings to be determined at these points in time. Due to the epipolar geometry, in particular the calculation and evaluation of the fundamental matrix, the movement of the vehicle and the camera can be related to the image data.
Es wird ausgehend von dem optischen Fluss ausgewertet, ob das wenigstens eine Objekt eine Epipolar-Bedingung erfüllt. Die Auswertung erfolgt mittels einer Steuereinrichtung, die das Fahrzeug aufweist. Die Steuereinrichtung ist mit der wenigstens einen Kamera verbunden, so dass ein Daten- und Signalaustausch erfolgen kann. Die Verbindung kann kabelgebunden oder drahtlos ausgebildet sein. Die Steuereinrichtung kann eine Speichereinrichtung aufweisen, in welcher Daten abgespeichert werden können. Des Weiteren kann die Steuereinrichtung mit den Sensoren verbunden sein, die die Fahrdynamik ermitteln.On the basis of the optical flow, it is evaluated whether the at least one object fulfills an epipolar condition. The evaluation is carried out by means of a control device which the vehicle has. The control device is connected to the at least one camera so that data and signals can be exchanged. The connection can be wired or wireless. The control device can have a memory device in which data can be stored. Furthermore, the control device can be connected to the sensors that determine the driving dynamics.
Die Epipolar-Bedingung wird mittels der Epipolar-Geometrie vorgegeben. Mittels der Epipolar-Geometrie lassen sich aus zwei Aufnahmen die Koordinaten eines Objekts berechnen, wenn die Orientierung der Kamera oder Kameras bekannt ist. Die Projektionszentren der Kameras bzw. der Kamera, je nach Ausformung der Kamera, und das aufgenommene Objekt spannen eine Epipolarebene auf. Die Epipolarebene schneidet die beiden Aufnahmen in jeweils einer Geraden. Eine weitere Gerade, die die beiden Projektionszentren verbindet, durchstößt eine Bildebene der jeweiligen Aufnahme in einem Punkt, welcher als Epipol bezeichnet wird. Die Epipolar-Bedingung besagt, dass der optische Fluss jedes statischen Objekts durch den Epipol verläuft. Dabei sind selbstverständlich Messungenauigkeiten zu beachten. Das heißt, die Epipolar-Bedingung ist für das wenigstens eine Objekt erfüllt, wenn der optische Fluss des wenigstens einen Objekts durch den Epipol verläuft.The epipolar condition is specified by means of the epipolar geometry. Using the epipolar geometry, the coordinates of an object can be calculated from two recordings if the orientation of the camera or cameras is known. The projection centers of the cameras or the camera, depending on the shape of the camera, and the recorded object span an epipolar plane. The epipolar plane intersects the two recordings in a straight line. Another straight line, which connects the two projection centers, penetrates an image plane of the respective recording at a point which is referred to as the epipole. The epipolar condition states that the optical flow of any static object is through the epipole. Measurement inaccuracies must of course be taken into account. That is to say that the epipolar condition is fulfilled for the at least one object when the optical flow of the at least one object runs through the epipole.
Wenn der optische Fluss des wenigstens einen Objekts bei Beachtung der Messungenauigkeiten allerdings nicht durch den Epipol verläuft, ist das wenigstens eine Objekt nicht statisch, sondern dynamisch. Das heißt, dass das wenigstens eine Objekt eine Bewegung durchführt, welche von der wenigstens einen Kamera erfasst wird. Dies stellt eine Massenbewegung dar. Das wenigstens eine Objekt wird daher im Anschluss in den Bilddaten als kritisches Objekt markiert. Diese Markierung kann entweder nur systemintern sein, oder an einen Fahrer des Fahrzeugs ausgegeben werden mittels einer Ausgabevorrichtung. Eine systeminterne Markierung bedeutet, dass, wenn festgestellt wird, dass es sich um ein kritisches Objekt handelt, das Objekt weiter beobachtet wird.If, however, the optical flow of the at least one object does not run through the epipole, taking into account the measurement inaccuracies, the at least one object is not static but dynamic. This means that the at least one object performs a movement which is recorded by the at least one camera. This represents a mass movement. The at least one object is therefore subsequently marked as a critical object in the image data. This marking can either only be internal to the system or can be output to a driver of the vehicle by means of an output device. A system-internal marking means that if it is determined that it is a critical object, the object will continue to be observed.
Die Bewegungsvektoren des optischen Flusses, die die Epipolar-Bedingung nicht erfüllen, können zu Gruppen gruppiert werden. Das wenigstens eine Objekt kann durch ein oder mehrere Gruppen von Bewegungsvektoren repräsentiert werden.The motion vectors of the optical flow that do not meet the epipolar condition can be grouped into groups. The at least one object can be represented by one or more groups of motion vectors.
Wird die Markierung des kritischen Objekts ausgegeben, kann dies beispielsweise mittels einer farblichen Hervorhebung erfolgen, die durch die Ausgabevorrichtung angezeigt wird. Die Ausgabevorrichtung kann beispielsweise als Display ausgebildet sein. Das Fahrzeug weist somit eine Ausgabevorrichtung auf. Die Ausgabevorrichtung ist mit der wenigstens einen Kamera verbunden. Diese Verbindung ist derart, dass ein Daten- und Signalaustausch erfolgen kann. Die Ausgabevorrichtung kann über die Steuereinrichtung mit der wenigstens einen Kamera verbunden sein, oder kann direkt mit der wenigstens einen Steuereinrichtung verbunden sein. Beispielsweise können die Bilddaten, die von der wenigstens einen Kamera generiert werden, mittels der Ausgabevorrichtung z. B. an einen Fahrer des Fahrzeugs ausgegeben werden.If the marking of the critical object is output, this can be done, for example, by means of a colored highlighting, which is displayed by the output device. The output device can be designed as a display, for example. The vehicle thus has an output device. The output device is connected to the at least one camera. This connection is such that data and signals can be exchanged. The output device can be connected to the at least one camera via the control device, or can be connected directly to the at least one control device. For example, the image data that are generated by the at least one camera can, by means of the output device, for. B. be issued to a driver of the vehicle.
Aus der Fahrdynamik wird anschließend die Trajektorie des Fahrzeugs ermittelt. Dadurch sind z. B. die Bewegungsrichtung, die Geschwindigkeit und die Beschleunigung des Fahrzeugs bekannt. Ausgehend von den Bilddaten wird die Trajektorie des wenigstens einen kritischen Objekts ermittelt. Dies erfolgt beispielsweise unter Einbeziehung des bereits ermittelten optischen Flusses. Dadurch sind z. B. die Bewegungsrichtung, die Geschwindigkeit und die Beschleunigung des wenigstens einen kritischen Objekts bekannt.The trajectory of the vehicle is then determined from the driving dynamics. This z. B. the direction of movement, the speed and the acceleration of the vehicle are known. The trajectory of the at least one critical object is determined on the basis of the image data. This takes place, for example, taking into account the optical flow that has already been determined. This z. B. the direction of movement, the speed and the acceleration of the at least one critical object is known.
Ausgehend von der Trajektorie des Fahrzeugs und der Trajektorie des wenigstens einen kritischen Objekts wird eine Kollisionswahrscheinlichkeit zwischen dem Fahrzeug und dem wenigstens einen kritischen Objekt berechnet. Diese Berechnung wird mittels der Steuereinrichtung durchgeführt. Die Kollisionswahrscheinlichkeit gibt an, ob und wie hoch die Wahrscheinlichkeit ist, dass bei unveränderter Weiterfahrt des Fahrzeugs eine Kollision mit dem wenigstens einen kritischen Objekt erfolgt. Dabei können Zusatzfaktoren beachtet werden wie beispielsweise ein Bremsweg des Fahrzeugs, einzuhaltende Sicherheitsabstände, Fahrbahnbeschaffenheit bezüglich Haftreibung, Reaktionszeiten des Fahrers des Fahrzeugs, Reaktionszeiten oder Stellgrenzen einer Aktuatorik des Fahrzeugs o. ä.A collision probability between the vehicle and the at least one critical object is calculated on the basis of the trajectory of the vehicle and the trajectory of the at least one critical object. This calculation is carried out by means of the control device. The collision probability indicates whether and how high the probability is that a collision with the at least one critical object will occur if the vehicle continues to travel unchanged. Additional factors can be taken into account, such as a braking distance of the vehicle, safety distances to be observed, road surface conditions with regard to static friction, reaction times of the driver of the vehicle, reaction times or control limits of an actuator system of the vehicle, or the like.
Wenn die Kollisionswahrscheinlichkeit einen Schwellenwert erreicht oder überschreitet, wird eine Warnung ausgeben, z. B. mittels der Ausgabevorrichtung oder einer anderen Warneinrichtung. Die Warnung kann akustisch, visuell, haptisch oder durch eine Kombination dieser Möglichkeiten erfolgen.If the likelihood of a collision reaches or exceeds a threshold value, a warning is issued, e.g. B. by means of the output device or another warning device. The warning can be acoustic, visual, haptic or a combination of these options.
Der Schwellenwert stellt keine maximale oder minimale Kollisionswahrscheinlichkeit dar. Der Schwellenwert ist beispielsweise werksseitig festgelegt und in der Speichereinrichtung der Steuereinrichtung gespeichert. Alternativ dazu kann der Schwellenwert je nach aktueller Situation mittels der Steuereinrichtung automatisch festgelegt werden. Beispielsweise kann dieser Schwellenwert bei ungünstigen Fahrbahnverhältnissen, beispielsweise Glätte, Nässe, verschmutze Fahrbahn, welche zu einer niedrigen Haftreibungszahl führen, niedriger gewählt werden als bei günstigen Fahrbahnverhältnissen (z. B. trockene Fahrbahn).The threshold value does not represent a maximum or minimum probability of collision. The threshold value is, for example, set at the factory and stored in the storage device of the control device. As an alternative to this, the threshold value can be determined automatically by means of the control device, depending on the current situation. For example, this threshold value can be selected to be lower in the case of unfavorable road conditions, for example slippery, wet, dirty road, which lead to a low coefficient of static friction than in favorable road conditions (e.g. dry road).
Vorteilhaft ist, dass eine frühzeitige Warnung des Fahrers erfolgen kann, sobald ein kritisches Objekt und somit eine Massenbewegung am abfallenden Gelände erkannt wird. Dadurch ist es möglich, eine Kollision zwischen dem Fahrzeug und dem kritischen Objekt zu vermeiden. Der Fahrer ist zudem nicht gezwungen seine Fahrstrecke, die er entlang dem abfallenden Gelände zurücklegt, permanent zu beobachten, um selbst eine Massenbewegung zu identifizieren. Dadurch wird die Sicherheit des Fahrers erhöht.It is advantageous that the driver can be warned at an early stage as soon as a critical object and thus a mass movement on the sloping terrain is detected. This makes it possible to avoid a collision between the vehicle and the critical object. In addition, the driver is not forced to constantly observe the route he is driving along the sloping terrain in order to identify a mass movement himself. This increases the safety of the driver.
Nach einer weiterbildenden Ausführungsform erfolgt zusätzlich ein Eingriff in die Längsdynamik des Fahrzeugs, so dass eine Kollision zwischen dem Fahrzeug und dem kritischen Objekt vermieden wird. Nach einer Weiterbildung ist der Eingriff in die Längsdynamik ausgebildet ist als ein Beschleunigungseingriff und/oder als ein Bremseingriff und/oder ein Lenkeingriff.According to a further development, there is also an intervention in the longitudinal dynamics of the vehicle, so that a collision between the vehicle and the critical object is avoided. According to a further development, the intervention in the longitudinal dynamics is designed as an acceleration intervention and / or as a braking intervention and / or a steering intervention.
In anderen Worten wird, sobald die Kollisionswahrscheinlichkeit den Schwellenwert erreicht oder überschritten hat, ein Manöver zur Kollisionsvermeidung durchgeführt. Zu diesem Zweck steuert die Steuereinrichtung z. B. ein Bremssystem des Fahrzeugs an, so dass ein Bremsmanöver durchgeführt wird, um die Kollision zu vermeiden. Dies stellt den Bremseingriff dar. Die Steuereinrichtung ist daher mit dem Bremssystem des Fahrzeugs verbunden, so dass ein Daten- und Signalaustausch erfolgen kann. Das Fahrzeug wird durch den Bremseingriff abgebremst, wodurch die Trajektorie und somit die Längsdynamik des Fahrzeugs geändert wird. Der Bremseingriff kann so ausgebildet sein, dass das Fahrzeug nach dem Bremseingriff zum Stillstand kommt. Alternativ kann der Bremseingriff so ausgebildet sein, dass das Fahrzeug seine Geschwindigkeit verringert, sich aber dennoch fortbewegt. Dadurch wird die Kollisionswahrscheinlichkeit verringert, so dass diese unterhalb des Schwellenwerts liegt.In other words, as soon as the collision probability has reached or exceeded the threshold value, a collision avoidance maneuver is carried out. For this purpose, the control device controls z. B. a braking system of the vehicle, so that a braking maneuver is carried out to avoid the collision. This represents the braking intervention. The control device is therefore connected to the braking system of the vehicle so that data and signals can be exchanged. The vehicle is braked by the braking intervention, which changes the trajectory and thus the longitudinal dynamics of the vehicle. The braking intervention can be designed such that the vehicle comes to a standstill after the braking intervention. Alternatively, the braking intervention can be designed in such a way that the vehicle reduces its speed but still moves. This reduces the likelihood of a collision so that it is below the threshold value.
Alternativ oder zusätzlich dazu kann die Steuereinrichtung ein Antriebssystem des Fahrzeugs ansteuern, so dass eine Beschleunigung durchgeführt wird, um die Kollision zu vermeiden. Dies stellt den Beschleunigungseingriff dar. Die Steuereinrichtung ist daher mit dem Antriebssystem des Fahrzeugs verbunden, so dass ein Daten- und Signalaustausch erfolgen kann. Das Antriebssystem des Fahrzeugs stellt dabei Antriebsenergie bereit, um das Fahrzeug anzutreiben. Das Fahrzeug wird durch den Beschleunigungseingriff beschleunigt, wodurch die Trajektorie und somit die Längsdynamik des Fahrzeugs geändert wird. Dadurch wird die Kollisionswahrscheinlichkeit verringert. Entweder kann nur der Beschleunigungseingriff durchgeführt werden, oder dieser kann mit dem Bremseingriff kombiniert werden. Beispielsweise kann zunächst ein Beschleunigungseingriff erfolgen, um dem wenigstens einen kritischen Objekt auszuweichen und anschließend kann ein Bremseingriff erfolgen, um die Geschwindigkeit des Fahrzeugs wieder zu reduzieren. Beispielsweise kann zunächst ein Bremseingriff erfolgen und anschließend ein Beschleunigungseingriff, wenn der Bremseingriff nicht ausreichend ist, um die Kollisionswahrscheinlichkeit derart abzusenken, dass diese unterhalb des Schwellenwerts liegt.As an alternative or in addition to this, the control device can control a drive system of the vehicle so that acceleration is carried out in order to avoid the collision. This represents the acceleration intervention. The control device is therefore connected to the drive system of the vehicle so that data and signals can be exchanged. The drive system of the vehicle provides drive energy to propel the vehicle. The vehicle is accelerated by the acceleration intervention, which reduces the trajectory and thus the longitudinal dynamics of the vehicle will be changed. This reduces the likelihood of a collision. Either only the acceleration intervention can be carried out, or this can be combined with the braking intervention. For example, an acceleration intervention can first take place in order to avoid the at least one critical object and then a braking intervention can take place in order to reduce the speed of the vehicle again. For example, a braking intervention can first take place and then an acceleration intervention if the braking intervention is not sufficient to lower the probability of a collision in such a way that it is below the threshold value.
Alternativ oder zusätzlich dazu kann die Steuereinrichtung ein Lenksystem des Fahrzeugs ansteuern, so dass ein Lenkmanöver durchgeführt wird, um die Kollision zu vermeiden. Dies stellt den Lenkeingriff dar. Die Steuereinrichtung ist daher mit dem Lenksystem des Fahrzeugs verbunden, so dass ein Daten- und Signalaustausch erfolgen kann. Durch den Lenkeingriff wird an den lenkbaren Rädern des Fahrzeugs ein Lenkwinkel eingestellt, so dass dem wenigstens einen kritischen Objekt ausgewichen werden kann. Das wenigstens eine kritische Objekt wird somit umfahren. In anderen Worten wird die Trajektorie und somit die Längsdynamik des Fahrzeugs angepasst. Dadurch wird die Kollisionswahrscheinlichkeit verringert, so dass diese unterhalb des Schwellenwerts liegt. Der Lenkeingriff kann kombiniert werden mit dem Bremseingriff oder mit dem Beschleunigungseingriff. Beispielsweise kann das Fahrzeug zuerst abgebremst werden, um anschließend einen Lenkeingriff durchzuführen und beschleunigt zu werden. Beispielsweise kann das Fahrzeug abgebremst oder beschleunigt und gleichzeitig ein Lenkwinkel eingestellt werden.As an alternative or in addition to this, the control device can control a steering system of the vehicle so that a steering maneuver is carried out in order to avoid the collision. This represents the steering intervention. The control device is therefore connected to the steering system of the vehicle so that data and signals can be exchanged. As a result of the steering intervention, a steering angle is set on the steerable wheels of the vehicle, so that the at least one critical object can be avoided. The at least one critical object is thus bypassed. In other words, the trajectory and thus the longitudinal dynamics of the vehicle are adapted. This reduces the likelihood of a collision so that it is below the threshold value. The steering intervention can be combined with the braking intervention or with the acceleration intervention. For example, the vehicle can first be braked in order to then carry out a steering intervention and be accelerated. For example, the vehicle can be braked or accelerated and a steering angle can be set at the same time.
Nach einer weiterbildenden Ausführungsform wird zusätzlich ein Bereich, in welchem sich das wenigstens eine kritische Objekt bewegen wird, markiert und ausgegeben. Die erfolgt mittels der Ausgabevorrichtung. Beispielsweise werden die Bilddaten, die von der wenigstens einen Kamera generiert werden, mittels der Ausgabevorrichtung dem Fahrer angezeigt. Zusätzlich wird ausgehend von der Trajektorie, die für das wenigstens eine kritische Objekt ermittelt wurde, ein Bereich in dem ausgegebenen Bild markiert, in welchen sich das wenigstens eine kritische Objekt bewegen wird. Die Markierung kann beispielsweise eine farbliche Hervorhebung des betroffenen Bereichs oder ein „Ausgrauen“ des nicht betroffenen Bereichs sein. Dadurch kann dem Fahrer des Fahrzeugs eine Zone angezeigt werden, in welcher die Kollisionswahrscheinlichkeit erhöht ist und die daher vermieden werden sollte.According to a further-developing embodiment, an area in which the at least one critical object will move is additionally marked and output. This is done by means of the output device. For example, the image data that are generated by the at least one camera are displayed to the driver by means of the output device. In addition, starting from the trajectory that was determined for the at least one critical object, an area in which the at least one critical object will move is marked in the output image. The marking can, for example, be a colored highlighting of the affected area or a "graying out" of the unaffected area. As a result, the driver of the vehicle can be shown a zone in which the probability of a collision is increased and which should therefore be avoided.
Nach einer weiterbildenden Ausführungsform wird das wenigstens eine kritische Objekt zur Plausibilisierung zusätzlich über eine Zeitspanne beobachtet, wobei ausgewertet wird, ob das wenigstens eine kritische Objekt die Epipolar-Bedingung über die gesamte Zeitspanne nicht erfüllt. Sobald ein kritisches Objekt identifiziert wurde, wird dieses über eine vorher festgelegte Zeitspanne beobachtet. Die Zeitspanne kann beispielsweise werksseitig festgelegt und in der Speichereinrichtung der Steuereinrichtung abgelegt sein. Beispielsweise kann die Zeitpanne eine oder mehrere Sekunden, beispielsweise 2s, 5s,10s, 20s, 30s, 40s, 50s oder 60s, oder mehrere Minuten betragen, z. B. 2 min, 3min oder 4min. In anderen Worten wird das Erfüllen der Epipolar-Bedingung über mehrere Aufnahmen der wenigstens einen Kamera geprüft und dadurch verifiziert.According to a further developing embodiment, the at least one critical object is additionally observed over a period of time for plausibility checking, it being evaluated whether the at least one critical object does not meet the epipolar condition over the entire period of time. As soon as a critical object has been identified, it is observed over a predetermined period of time. The time span can, for example, be set at the factory and stored in the memory device of the control device. For example, the period of time can be one or more seconds, for example 2s, 5s, 10s, 20s, 30s, 40s, 50s or 60s, or several minutes, e.g. B. 2 min, 3 min or 4 min. In other words, the fulfillment of the epipolar condition is checked over several recordings of the at least one camera and is thereby verified.
Eine übliche Mindestanforderungen zum Verarbeiten der Bilddaten liegt dabei bei zwei konsekutiven Frames, d. h. die Verarbeitungsrate ist 1s pro Anzahl aufgenommener Frames pro Sekunde der wenigstens einen Kamera. Je langsamer sich das Fahrzeug bewegt, desto länger muss die Zeit zwischen den verarbeiteten Frames sein, so, dass ausreichende Änderungen von einer Aufnahme zur anderen Aufnahme bemerkbar sind. Die Zeitspanne kann also auch unter 1s betragen, beispielweise die Zeit zwischen Anzahl Frames pro Sekunde der wenigstens einen Kamera.A common minimum requirement for processing the image data is two consecutive frames, i.e. H. the processing rate is 1s per number of recorded frames per second of the at least one camera. The slower the vehicle moves, the longer the time between the processed frames must be so that sufficient changes are noticeable from one recording to the other. The time span can therefore also be less than 1s, for example the time between the number of frames per second of the at least one camera.
Wenn das wenigstens eine kritische Objekt über diese Zeitspanne stets die Epipolar-Bedingung nicht erfüllt, handelt es sich um ein plausibilisiertes kritisches Objekt. Wenn das wenigstens eine kritische Objekt über diese Zeitspanne die Epipolar-Bedingung zunächst nicht erfüllt und anschließend wieder erfüllt, kann davon ausgegangen werden, dass es sich nicht um ein kritisches Objekt handelt. Beispielsweise kann die Bewegung des wenigstens einen kritischen Objekts gestoppt worden sein. Wiederum beispielsweise kann es sich um einen Fehler in den Bilddaten, die mittels der wenigstens einen Kamera generiert wurden, handeln.If the at least one critical object does not always meet the epipolar condition over this period of time, it is a plausibility-checked critical object. If the at least one critical object initially does not meet the epipolar condition over this period of time and then fulfills it again, it can be assumed that it is not a critical object. For example, the movement of the at least one critical object can have been stopped. Again, for example, it can be an error in the image data that was generated by means of the at least one camera.
Die Plausibilisierung enthält somit eine Konsolidierung über die Zeitspanne. Zudem kann die Plausibilisierung auch eine Prüfung enthalten, dass das kritische Objekt sich tatsächlich der Boden-Ebene nähert, d. h. ob es fällt.The plausibility check thus includes a consolidation over the period. In addition, the plausibility check can also include a check that the critical object is actually approaching the ground level, i.e. H. whether it falls.
Wenn die Plausibilisierung also ergibt, dass das wenigstens eine kritische Objekt ein plausibilisiertes kritisches Objekt darstellt, werden die oben beschriebenen Verfahrensschritte eingeleitet und durchgeführt. Wenn die Plausibilisierung aber ergibt, dass das wenigstens eine kritische Objekt kein plausibilisiertes kritisches Objekt darstellt, werden die oben beschriebenen Verfahrensschritte nicht eingeleitet.If the plausibility check thus shows that the at least one critical object represents a critical object checked for plausibility, the method steps described above are initiated and carried out. However, if the plausibility check shows that the at least one critical object does not represent a critical object that has been checked for plausibility, the method steps described above are not initiated.
Die Steuereinrichtung ist mit wenigstens einer Kamera des Fahrzeugs und mit einer Ausgabevorrichtung des Fahrzeugs verbindbar, wobei die Steuereinrichtung Mittel aufweist, die das Verfahren ausführen, das bereits in der vorherigen Beschreibung beschrieben wurde. Verbindbar bedeutet, dass die Steuereinrichtung mit der wenigstens einen Kamera des Fahrzeugs und mit der wenigstens einen Ausgabevorrichtung des Fahrzeugs verbunden wird, wenn die Steuereinrichtung in dem Fahrzeug verwendet wird. Die Steuereinrichtung weist daher Schnittstellen auf, mittels welchen diese Verbindungen hergestellt werden können. Die Schnittstellen sind derart ausgeformt, dass über diese ein Daten- und Signalaustausch erfolgen kann. Die Steuereinrichtung kann zudem mit einem Antriebssystem des Fahrzeugs, mit einem Bremssystem des Fahrzeugs, mit einem Lenksystem des Fahrzeugs, mit Sensoren zur Erfassung der Fahrdynamik des Fahrzeugs, mit einer Warneinrichtung des Fahrzeugs und/oder mit weiteren Fahrzeugsystem verbindbar sein. Die Steuereinrichtung kann z. B. als ECU oder Domain-ECU ausgebildet sein.The control device can be connected to at least one camera of the vehicle and to an output device of the vehicle, the control device having means that carry out the method that has already been described in the previous description. Connectable means that the control device is connected to the at least one camera of the vehicle and to the at least one output device of the vehicle when the control device is used in the vehicle. The control device therefore has interfaces by means of which these connections can be established. The interfaces are designed in such a way that data and signals can be exchanged via them. The control device can also be connectable to a drive system of the vehicle, to a braking system of the vehicle, to a steering system of the vehicle, to sensors for detecting the driving dynamics of the vehicle, to a warning device of the vehicle and / or to other vehicle systems. The control device can, for. B. be designed as an ECU or domain ECU.
Die Steuereinrichtung weist Mittel auf, die das Verfahren ausführen, das bereits in der vorherigen Beschreibung beschrieben wurde. Diese Mittel können beispielsweise als Computerprogrammprodukt ausgeführt sein, das auf der Steuereinrichtung abläuft. Die Steuereinrichtung steuert ausgehend von der errechneten Kollisionswahrscheinlichkeit zwischen dem Fahrzeug und dem wenigstens einen kritischen Objekt die Ausgabevorrichtung an, damit die Warnung ausgegeben wird. Dieses Ansteuern erfolgt dann, wenn die Kollisionswahrscheinlichkeit den Schwellenwert erreicht oder überschreitet, wie ebenfalls bereits beschrieben.The control device has means that carry out the method that has already been described in the previous description. These means can be implemented, for example, as a computer program product that runs on the control device. On the basis of the calculated probability of a collision between the vehicle and the at least one critical object, the control device controls the output device so that the warning is output. This activation takes place when the probability of a collision reaches or exceeds the threshold value, as also already described.
Das Computerprogrammprodukt umfasst Befehle, die bei einer Ausführung des Programms durch die bereits beschriebene Steuereinrichtung, das Verfahren ausführen, das ebenfalls bereits beschrieben worden ist. Das Computerprogrammprodukt kann einen Programmcode umfassen, der diese Befehle enthält. Der Programmcode kann beispielsweise auf einem Datenträger oder als ein herunterladbarer Datenstrom verkörpert sein.The computer program product comprises instructions which, when the program is executed by the control device already described, execute the method which has also already been described. The computer program product can comprise a program code that contains these commands. The program code can be embodied, for example, on a data carrier or as a downloadable data stream.
Das Fahrzeug weist die Steuereinrichtung auf, die bereits beschrieben wurde. Zudem weist das Fahrzeug die Ausgabevorrichtung und die wenigstens eine Kamera auf, wobei die Steuereinrichtung mit der Kamera und mit der Ausgabevorrichtung verbunden ist. Dies wurde ebenfalls bereits beschrieben. Das Fahrzeug ist dazu eingerichtet, automatisierte Fahrfunktionen durchzuführen. Dies wurde bereits in der vorherigen Beschreibung beschrieben.The vehicle has the control device that has already been described. In addition, the vehicle has the output device and the at least one camera, the control device being connected to the camera and to the output device. This has also already been described. The vehicle is set up to carry out automated driving functions. This has already been described in the previous description.
Anhand der im Folgenden erläuterten Figuren werden verschiedene Ausführungsbeispiele und Details der Erfindung näher beschrieben. Es zeigen:
-
1 eine schematische Darstellung eines Fahrzeugs neben einem abfallenden Gelände nach einem Ausführungsbeispiel, -
2 eine weitere schematische Darstellung desFahrzeugs aus 1 , -
3 eine schematische Darstellung eines Verfahrens fürdas Fahrzeug aus 1 und aus 2 .
-
1 a schematic representation of a vehicle next to a sloping terrain according to an embodiment, -
2 a further schematic representation of thevehicle 1 , -
3 a schematic representation of a method for thevehicle 1 and from2 .
Das Fahrzeug
Das Fahrzeug
Das Fahrzeug
An dem abfallenden Gelände
Im Gegensatz zu den statischen Objekten
In einem zweiten Schritt
In einem dritten Schritt
In einem vierten Schritt
Wenn die Epipolar-Bedingung
In einem sechsten Schritt
In einem siebten Schritt
In einem achten Schritt
Ist die Kollisionswahrscheinlichkeit
Erreicht oder überschreitet die Kollisionswahrscheinlichkeit
Die hier dargestellten Beispiele sind nur beispielhaft gewählt. Beispielsweise kann zusätzlich zur Warnung mittels der Steuereinrichtung eine Anpassung der Längsdynamik des Fahrzeugs erfolgen. Beispielsweise kann ein Bremseingriff, ein Lenkeingriff und/oder ein Beschleunigungseingriff erfolgen. Dadurch wird die Trajektorie des Fahrzeugs derart angepasst, dass die Kollisionswahrscheinlichkeit verringert wird und unterhalb des Schwellenwerts liegt.The examples shown here are only selected as examples. For example, in addition to the warning, the control device can be used to adapt the longitudinal dynamics of the vehicle. For example, a braking intervention, a steering intervention and / or an acceleration intervention can take place. As a result, the trajectory of the vehicle is adapted in such a way that the collision probability is reduced and is below the threshold value.
BezugszeichenlisteList of reference symbols
- 11
- Fahrzeugvehicle
- 22
- abfallendes Geländesloping terrain
- 33
- Kameracamera
- 44th
-
Objekt (
1 . Aufnahme)Object (1 . Admission) - 4*4 *
-
Objekt (
2 . Aufnahme)Object (2 . Admission) - 55
- Optischer FlussOptical flow
- 66th
- SichtfeldField of view
- 77th
- AusgabevorrichtungDispenser
- 88th
- SteuereinrichtungControl device
- 99
- statisches Objekt static object
- 101101
- erster Schrittfirst step
- 102102
- zweiter Schrittsecond step
- 103103
- dritter SchrittThird step
- 104104
- vierter Schrittfourth step
- 105105
- fünfter Schrittfifth step
- 106106
- sechster Schrittsixth step
- 107107
- siebter Schrittseventh step
- 108108
- achter Schritteighth step
- 109109
- neunter Schritt ninth step
- BB.
- BilddatenImage data
- EE.
- Epipolar-BedingungEpipolar condition
- KK
- KollisionswahrscheinlichkeitProbability of collision
- SS.
- SchwellenwertThreshold
- VV
- VerfahrenProcedure
- WW.
- Warnung warning
- II.
- Trajektorie des FahrzeugsVehicle trajectory
- IIII
- Trajektorie des ObjektsTrajectory of the object
Claims (8)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102019214142.0A DE102019214142A1 (en) | 2019-09-17 | 2019-09-17 | Procedure for warning of mass movements on sloping terrain |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102019214142.0A DE102019214142A1 (en) | 2019-09-17 | 2019-09-17 | Procedure for warning of mass movements on sloping terrain |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102019214142A1 true DE102019214142A1 (en) | 2021-03-18 |
Family
ID=74686256
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102019214142.0A Pending DE102019214142A1 (en) | 2019-09-17 | 2019-09-17 | Procedure for warning of mass movements on sloping terrain |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102019214142A1 (en) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102014210259A1 (en) * | 2014-05-28 | 2015-12-03 | Bayerische Motoren Werke Aktiengesellschaft | Assistant for the detection of falling objects |
DE102014117708A1 (en) * | 2014-12-02 | 2016-06-02 | Connaught Electronics Ltd. | Method for classifying a flow vector, driver assistance system and motor vehicle |
DE102017123228A1 (en) * | 2017-10-06 | 2019-04-11 | Connaught Electronics Ltd. | Method for classifying an object point as static or dynamic, driver assistance system and motor vehicle |
-
2019
- 2019-09-17 DE DE102019214142.0A patent/DE102019214142A1/en active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102014210259A1 (en) * | 2014-05-28 | 2015-12-03 | Bayerische Motoren Werke Aktiengesellschaft | Assistant for the detection of falling objects |
DE102014117708A1 (en) * | 2014-12-02 | 2016-06-02 | Connaught Electronics Ltd. | Method for classifying a flow vector, driver assistance system and motor vehicle |
DE102017123228A1 (en) * | 2017-10-06 | 2019-04-11 | Connaught Electronics Ltd. | Method for classifying an object point as static or dynamic, driver assistance system and motor vehicle |
Non-Patent Citations (2)
Title |
---|
FANTINI, Andrea [u.a.]: Experimenting an embedded-sensor network for early warning of natural risks due to fast failures along railways. In: Proceedings of the 5th International Workshop on Image Mining, Theory and Applications (IMTA-5-2015). 2015, S. 85-91. ISBN 978-989-758-094-9. DOI: 10.5220/0005462200850091. URL: https://www.researchgate.net/profile/Davide_Moroni/publication/274042301_Experimenting_an_embedded-sensor_network_for_early_warning_of_natural_risks_due_to_fast_failures_along_railways/links/59db2950458515a5bc2d6fab/Experimenting-an-embedded-sensor-network-for-early-warning-of-natural-risks-due-to-fast-failures-along-railways.pdf [abgerufen am 22.10.2019]. * |
Norm SAE J 3016 2016-09-00. Surface vehicle recommended practice: (R) Taxonomy and definitions for terms related to driving automation systems for on-road motor vehicles. S. 1-30. * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE102014206473A1 (en) | Automatic assistance to a driver of a lane-bound vehicle, in particular a rail vehicle | |
DE102005009814A1 (en) | Vehicle condition detection system and method | |
DE102013016974A1 (en) | Method for detecting road ahead level profile of vehicle, involves storing information about street height profile used for detecting road ahead level profile for vehicle-traveled lane, in storage units | |
DE102014219691A1 (en) | Method for monitoring a rail track environment and monitoring system | |
DE102013019145B4 (en) | Method for operating a motor vehicle with environmental sensors and motor vehicle | |
DE102015213743A1 (en) | Method and system for automatically controlling at least one follower vehicle with a scout vehicle | |
WO2017194457A1 (en) | Method for detecting traffic signs | |
DE102015116268A1 (en) | Track boundary line information acquisition device | |
DE102011007608A1 (en) | Method for active chassis controlling of vehicle i.e. car, involves determining gear control information for regulating wheel suspension system, and performing active controlling of suspension system based on regulated control information | |
DE102013007716A1 (en) | Method for operating a vehicle | |
DE102019202026A1 (en) | Method and control device for vehicle collision avoidance | |
DE102006052469A1 (en) | Driver assistance system | |
DE102016203833A1 (en) | Speed adjustment for autonomous driving | |
DE69811842T2 (en) | Control system for intelligent steering of a motor vehicle | |
DE102018111984A1 (en) | Collision avoidance for a vehicle and method for this | |
DE102019216147B3 (en) | Method for determining the drivability of an area of a site for a vehicle | |
DE102019214142A1 (en) | Procedure for warning of mass movements on sloping terrain | |
DE102019206847A1 (en) | Method and device for operating an automated vehicle | |
WO2022200020A1 (en) | Obstacle detection for a rail vehicle | |
DE102004050690A1 (en) | Procedure, computer program with program code means, computer program product and device for modeling the environment of an autonomous mobile system | |
DE102017111882A1 (en) | Unparking from a curb level | |
DE102020004689A1 (en) | Method for determining an inclination of a road surface for a vehicle | |
DE102020214514A1 (en) | Method for controlling a motor vehicle and control device | |
DE102011001903A1 (en) | Method for operating image-based driver assistance system in motorcycle, involves utilizing connection plane between central vertical axis of pickup unit and alignment axis as x-z-plane to determine data of vehicle | |
DE102019110942A1 (en) | Automatic control of a path of a motor vehicle with respect to a lane |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R163 | Identified publications notified | ||
R012 | Request for examination validly filed |