DE102013002889A1 - Method for modeling road edge of road for vehicle, involves determining road curvature using two curvature corrected inspection of search area in image, where inspection is corrected according to two different road curvature hypotheses - Google Patents
Method for modeling road edge of road for vehicle, involves determining road curvature using two curvature corrected inspection of search area in image, where inspection is corrected according to two different road curvature hypotheses Download PDFInfo
- Publication number
- DE102013002889A1 DE102013002889A1 DE201310002889 DE102013002889A DE102013002889A1 DE 102013002889 A1 DE102013002889 A1 DE 102013002889A1 DE 201310002889 DE201310002889 DE 201310002889 DE 102013002889 A DE102013002889 A DE 102013002889A DE 102013002889 A1 DE102013002889 A1 DE 102013002889A1
- Authority
- DE
- Germany
- Prior art keywords
- curvature
- corrected
- yaw angle
- angle difference
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
- 238000000034 method Methods 0.000 title claims abstract description 32
- 238000007689 inspection Methods 0.000 title abstract 6
- 239000013598 vector Substances 0.000 claims description 39
- 239000003550 marker Substances 0.000 claims description 17
- 238000012937 correction Methods 0.000 claims description 11
- 238000009499 grossing Methods 0.000 claims description 6
- 230000001133 acceleration Effects 0.000 claims description 4
- 238000000151 deposition Methods 0.000 claims description 4
- 238000009826 distribution Methods 0.000 claims description 4
- 230000008021 deposition Effects 0.000 abstract description 3
- 238000001914 filtration Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 238000003708 edge detection Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- BUHVIAUBTBOHAG-FOYDDCNASA-N (2r,3r,4s,5r)-2-[6-[[2-(3,5-dimethoxyphenyl)-2-(2-methylphenyl)ethyl]amino]purin-9-yl]-5-(hydroxymethyl)oxolane-3,4-diol Chemical compound COC1=CC(OC)=CC(C(CNC=2C=3N=CN(C=3N=CN=2)[C@H]2[C@@H]([C@H](O)[C@@H](CO)O2)O)C=2C(=CC=CC=2)C)=C1 BUHVIAUBTBOHAG-FOYDDCNASA-N 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000012876 topography Methods 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
- B60W40/06—Road conditions
- B60W40/072—Curvature of the road
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
- B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
- B60W2420/403—Image sensing, e.g. optical camera
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2520/00—Input parameters relating to overall vehicle dynamics
- B60W2520/14—Yaw
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
- B60W30/10—Path keeping
- B60W30/12—Lane keeping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30256—Lane; Road marking
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Physics (AREA)
- Mechanical Engineering (AREA)
- Transportation (AREA)
- Multimedia (AREA)
- Automation & Control Theory (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
Description
Die Erfindung betrifft ein Verfahren und eine Vorrichtung zur Modellierung eines Fahrbahnrandes sowie ein Fahrzeug mit einer Vorrichtung zur Modellierung eines Fahrbahnrandes.The invention relates to a method and a device for modeling a roadway edge and to a vehicle having a device for modeling a roadway edge.
Für Spurhalte- oder -assistenzsysteme für Fahrzeuge und andere Anwendungen kann es sinnvoll sein, einen Fahrbahnrand eines vor dem Fahrzeug liegenden Fahrbahnbereichs sicher zu detektieren, insbesondere wenn dieser der Begrenzung der einzuhaltenden Fahrspur entspricht.For lane keeping or assistance systems for vehicles and other applications, it can be useful to reliably detect a roadway edge of a roadway area ahead of the vehicle, in particular if this corresponds to the limit of the lane to be maintained.
Eine Vielzahl von Sensoren kann dabei einzeln oder kombiniert verwendet werden. Typischerweise wird zumindest eine Kamera verwendet, wobei Graustufenkameras wegen des besseren Dynamikumfangs und/oder aus Kostengründen bevorzugt werden. Insbesondere bei ungünstigen Lichtverhältnissen sind Gaubildkameras Farbkameras überlegen.A variety of sensors can be used individually or in combination. Typically, at least one camera is used, with grayscale cameras being preferred for better dynamic range and / or cost reasons. Especially in unfavorable light conditions Gaubildkameras are superior to color cameras.
Eine ausschließlich kamerabasierte Fahrbahnranddetektierung erfolgt nach dem Stand der Technik anhand einer Fahrbahnrandmarkierung. Fehlt die Markierung teilweise, kann der Fahrbahnrand auf Basis der vorhandenen Markierung im Bereich der fehlenden Markierung extrapoliert werden. Ist jedoch über längere Strecken keine Markierung vorhanden, so sind nach dem Stand der Technik weitere oder eine andere Sensorik zur sicheren Detektierung des Fahrbahnrandes notwendig.An exclusively camera-based lane edge detection is carried out according to the prior art by means of a lane edge marking. If the marking is missing in part, the roadside edge can be extrapolated on the basis of the existing marking in the area of the missing marking. However, if there is no marking over longer distances, further or different sensor systems for reliable detection of the roadway edge are necessary according to the prior art.
Eine Fahrbahnranddetektierung kann insbesondere auch modellbasiert erfolgen. Unter Ausnutzung der Tatsache, dass Fahrbahnen als Klothoiden dargestellt werden, lässt sich, wie in
Eine Gierwinkeldifferenz zwischen einer Fahrzeugslängsachse und einer Fahrspurlängsachse entspricht der Änderung der lateralen Ablage und lässt sich daher wie folgt modellieren:
Eine Fahrbahnkrümmung entspricht der Änderung der Gierwinkeldifferenz und lässt sich daher wie folgt modellieren:
Die Krümmungsänderung lässt sich schließlich unabhängig von x als Konstante modellieren:
Der Erfindung liegt nun die Aufgabe zugrunde, ein Verfahren und eine Vorrichtung anzugeben, die erlauben, einen Fahrbahnrand einzig mittels einer Graustufenkamera auch dann zu detektieren, wenn der Fahrbahnrand über längere Strecken nicht markiert ist.The invention is based on the object of specifying a method and a device which make it possible to detect a roadway edge only by means of a grayscale camera even when the roadway edge is not marked over longer distances.
In bevorzugter Ausgestaltung der Erfindung ist vorgesehen, dass der Fahrbahnrand mit einem Verfahren nach Anspruch 1 modelliert wird. Dabei wird der Fahrbahnrand als ein Polynom mindestens zweiter Ordnung unter Verwendung eines Graustufenbildes modelliert, welches einen in Fahrtrichtung vor einem Fahrzeug liegenden Bereich darstellt und mittels einer geometrisch kalibrierten Kamera erfasst ist.In a preferred embodiment of the invention it is provided that the roadway edge is modeled by a method according to
Das Verfahren ist dadurch gekennzeichnet, dass es folgende Schritte umfasst:
- – Bestimmen einer Fahrbahnkrümmung, einer lateralen Ablage und einer Gierwinkeldifferenz, und
- – Bestimmen eines Absolutglieds des Polynoms unter Verwendung der lateralen Ablage, eines linearen Glieds des Polynoms unter Verwendung der Gierwinkeldifferenz und eines quadratischen Glieds des Polynoms unter Verwendung der Krümmung.
- Determining a roadway curvature, a lateral shelf and a yaw angle difference, and
- - Determining an absolute term of the polynomial using the lateral shelf, a linear term of the polynomial using the yaw rate difference and a quadratic term of the polynomial using the curvature.
Die Fahrbahnkrümmung wird unter Verwendung mindestens zweier krümmungskorrigierter Aufsichten eines Suchbereichs im Bild bestimmt. Die laterale Ablage wird unter Verwendung des Suchbereichs im Bild und der bestimmten Fahrbahnkrümmung bestimmt. Und die Gierwinkeldifferenz wird unter Verwendung mindestens zweier gierwinkeldifferenzkorrigierter Aufsichten eines anderen, kleineren Suchbereichs im Bild bestimmt. Dabei sind die krümmungskorrigierten Aufsichten gemäß mindestens zwei unterschiedlichen Fahrbahnkrümmungshypothesen korrigiert und die gierwinkeldifferenzkorrigierten Aufsichten sind gemäß mindestens zwei unterschiedlichen Gierwinkeldifferenzhypothesen korrigiert.The road curvature is determined using at least two curvature-corrected views of a search area in the image. The lateral tray is determined using the search area in the image and the determined road curvature. And, the yaw angle difference is determined using at least two yaw angle difference corrected corrections of another, smaller search area in the image. The curvature-corrected surveys are according to at least two different Lane curvature hypotheses are corrected and the yaw angle difference corrected corrections are corrected according to at least two different yaw angle difference hypotheses.
Dies hat den Vorteil, dass lediglich eine Graustufenkamera erforderlich ist, um einen Fahrbahnrand in Echtzeit auch dann noch sicher zu erkennen, wenn der Fahrbahnrand nicht markiert ist. Weiterhin erlaubt das Verfahren den Verzicht auf eine Modellierung der Krümmungsänderung, die die Robustheit der Modellierung beeinträchtigen könnte und sich in Experimenten für Spurhalteverfahren als nur in wenigen Szenarien und dann auch nur als eher wenig vorteilhaft herausgestellt hat.This has the advantage that only a grayscale camera is required in order to reliably detect a roadway edge in real time even when the roadside edge is not marked. Further, the method allows for the elimination of curvature change modeling, which could compromise the robustness of the modeling, and has been found to be of little benefit in experiments for lane keeping methods in only a few scenarios and then only a little.
In weiterer bevorzugter Ausgestaltung der Erfindung ist vorgesehen, dass die Kamera Bilder mit einer Bildrate erfasst und das Verfahren weiterhin folgende Schritte umfasst:
- – Glätten der lateralen Ablage, der Gierwinkeldifferenz und der Krümmung unter Verwendung einer lateralen Ablage, einer Gierwinkeldifferenz und einer Krümmung, die unter Verwendung eines unmittelbar zuvor erfassten Bildes bestimmt wurden, und
- – Bestimmen einer korrigierten lateralen Ablage unter Verwendung der geglätteten lateralen Ablage, der Bildrate und eines Querbeschleunigungsmaximalwerts, wobei
- – das Absolutglied unter Verwendung der korrigierten lateralen Ablage, das lineare Glied unter Verwendung der geglätteten Gierwinkeldifferenz und das quadratische Glied unter Verwendung der geglätteten Krümmung bestimmt wird.
- Smoothing the lateral shelf, the yaw angle difference and the curvature using a lateral shelf, a yaw angle difference and a curvature determined using an image captured immediately before, and
- Determining a corrected lateral offset using the smoothed lateral offset, the frame rate and a lateral acceleration maximum value, wherein
- The absolute term is determined using the corrected lateral offset, the linear term using the smoothed yaw rate difference and the square term using the smoothed curve.
Das Glätten der lateralen Ablage kann dabei die folgenden Schritte umfassen:
- – Bestimmen einer Spurbreite unter Verwendung der lateralen Ablage und Informationen zur lateralen Ablage einer Fahrspurbegrenzungsmarkierung, Glätten der Spurbreite und Bestimmen einer geglätteten lateralen Ablage unter Verwendung der geglätteten Spurbreite.
- Determining a track width using the lateral tray and information for later depositing a lane boundary marker, smoothing the track width and determining a smoothed lateral tray using the smoothed track width.
Das Bestimmen der Fahrbahnkrümmung kann insbesondere folgende Schritte umfassen:
- – Erzeugen von mindestens zwei Spaltensummenvektoren durch Aufsummieren von Spalten der mindestens zwei krümmungskorrigierten Aufsichten und Bestimmen der Fahrbahnkrümmung unter Verwendung der Spaltensummenvektoren.
- Generating at least two column sum vectors by summing columns of the at least two curvature-corrected planets and determining the roadway curvature using the column sum vectors.
Das Bestimmen der Gierwinkeldifferenz kann insbesondere folgende Schritte umfassen:
- – Erzeugen von mindestens zwei anderen Spaltensummenvektoren durch Aufsummieren von Spalten der mindestens zwei gierwinkeldifferenzkorrigierten Aufsichten und
- – Bestimmen einer Gierwinkeldifferenz unter Verwendung der Spaltensummenvektoren.
- Generating at least two other column sum vectors by summing columns of the at least two yaw angle difference corrected planets and
- Determining a yaw angle difference using the column sum vectors.
Das Bestimmen der lateralen Ablage kann insbesondere folgende Schritte umfassen:
- – Erzeugen einer weiteren, gemäß der bestimmten Fahrbahnkrümmung krümmungskorrigierten Aufsicht des Suchbereichs,
- – Erzeugen eines weiteren Spaltensummenvektors durch Aufsummieren der Spalten der weiteren, krümmungskorrigierten Aufsicht,
- – Erzeugen noch eines weiteren Spaltensummenvektors durch Zuordnen, zu jedem Pixel der weiteren, krümmungskorrigierten Aufsicht, eines Wertes entsprechend einer Gradientenverteilung in einer Nachbarschaft des jeweiligen Pixels und spaltenweise Aufsummieren der zugeordneten Werte,
- – Bestimmen eines Suchintervalls innerhalb des weiteren Spaltensummenvektors unter Verwendung des noch einen weiteren Spaltensummenvektors,
- – Bestimmen eines Maximums innerhalb des Suchbereichs und
- – Bestimmen der lateralen Ablage unter Verwendung des bestimmten Maximums.
- Generating a further, according to the determined road curvature curvature-corrected supervision of the search area,
- Generating a further column sum vector by summing up the columns of the further, curvature-corrected plan view,
- Generating yet another column sum vector by assigning, to each pixel of the further, curvature-corrected plan view, a value corresponding to a gradient distribution in a neighborhood of the respective pixel and adding the assigned values column by column,
- Determining a search interval within the further column sum vector using the still further column sum vector,
- Determining a maximum within the search range and
- Determining the lateral shelf using the determined maximum.
Die Modellierung ist dann besonders gut, wenn die weitere, krümmungskorrigierte Aufsicht eine höhere Auflösung hat als die mindestens zwei krümmungskorrigierten Aufsichten.The modeling is particularly good if the other, curvature-corrected supervision has a higher resolution than the at least two curvature-corrected views.
Es hat sich insbesondere gezeigt, dass der Fahrbahnrand bereits dann stabil und verlässlich modelliert werden kann, wenn der Suchbereich einen vor dem Fahrzeug liegenden Bereich mit einer geringen Tiefe umfasst und der weitere, kleinere Suchbereich einen vor dem Fahrzeug liegenden weiteren Bereich mit nur halb so großer Tiefe umfasst.It has been shown, in particular, that the roadway edge can already be stably and reliably modeled when the search area comprises an area in front of the vehicle with a small depth, and the further, smaller search area comprises a further area in front of the vehicle with only half as much Depth includes.
Um unter Echtzeitbedingungen die Fahrbahnkrümmung verlässlich zu bestimmen, ist es vorteilhaft, wenn die mindestens zwei unterschiedlichen Fahrbahnkrümmungshypothesen aus einem Intervall unter Verwendung einer variablen Schrittweite ausgewählt werden. Dabei kann eine Information zu einer Fahrspurbegrenzungsmarkierungskrümmung verwendet werden, um das Intervall zu bestimmen.In order to reliably determine the road curvature under real-time conditions, it is advantageous if the at least two different road curvature hypotheses are selected from one interval using a variable step size. In this case, information about a lane boundary marking curvature may be used to determine the interval.
Um unter Echtzeitbedingungen die Gierwinkeldifferenz verlässlich zu bestimmen, ist es vorteilhaft, wenn die mindestens zwei unterschiedlichen Gierwinkeldifferenzhypothesen aus einem weiteren Intervall ausgewählt werden. Dabei kann eine Information zu einer Fahrspurbegrenzungsmarkierungsgierwinkeldifferenz verwendet werden, um das weitere Intervall zu bestimmen.In order to reliably determine the yaw angle difference under real-time conditions, it is advantageous if the at least two different yaw angle difference hypotheses are selected from a further interval. It can be an information to a Lane boundary marker yaw angle difference used to determine the further interval.
Erfindungsgemäß wird weiterhin eine Vorrichtung zur Modellierung eines Fahrbahnrandes mit den Merkmalen nach Anspruch 10 vorgeschlagen. Dabei umfasst die Vorrichtung eine geometrisch kalibrierte Kamera, die so in einem Fahrzeug angeordnet werden kann, dass sie Graustufenbilder eines in Fahrtrichtung vor dem Fahrzeug liegenden Bereiches erfassen kann. Die Vorrichtung ist zur Modellierung des Fahrbahnrandes als ein Polynom mindestens zweiter Ordnung ausgebildet. Die Vorrichtung ist dadurch gekennzeichnet, dass sie Mittel umfasst, die geeignet sind, eine Fahrbahnkrümmung, eine laterale Ablage und eine Gierwinkeldifferenz zu bestimmen, und Mittel, die geeignet sind, ein Absolutglied des Polynoms unter Verwendung der lateralen Ablage, ein lineares Glied des Polynoms unter Verwendung der Gierwinkeldifferenz und ein quadratisches Glied des Polynoms unter Verwendung der Krümmung zu bestimmen.According to the invention, a device for modeling a roadway edge with the features of
Dabei ist die Vorrichtung ausgebildet, die Fahrbahnkrümmung unter Verwendung mindestens zweier krümmungskorrigierter Aufsichten eines Suchbereichs im Bild zu bestimmen. Dabei sind die krümmungskorrigierten Aufsichten gemäß mindestens zweier unterschiedlicher Fahrbahnkrümmungshypothesen korrigiert.In this case, the device is designed to determine the roadway curvature using at least two curvature-corrected views of a search area in the image. The curvature-corrected topographies are corrected according to at least two different roadway curvature hypotheses.
Die Vorrichtung ist weiterhin ausgebildet, die laterale Ablage unter Verwendung des Suchbereichs im Bild und der bestimmten Fahrbahnkrümmung zu bestimmen.The apparatus is further configured to determine the lateral tray using the search area in the image and the determined roadway curvature.
Schließlich ist die Vorrichtung auch ausgebildet, die Gierwinkeldifferenz unter Verwendung mindestens zweier gierwinkeldifferenzkorrigierter Aufsichten eines anderen, kleineren Suchbereichs im Bild zu bestimmen, wobei gierwinkeldifferenzkorrigierte Aufsichten gemäß mindestens zweier unterschiedlicher Gierwinkeldifferenzhypothesen korrigiert sind.Finally, the device is also designed to determine the yaw angle difference using at least two yaw angle difference corrected planets of another, smaller search area in the image, correcting yaw angle difference corrected planets according to at least two different yaw angle difference hypotheses.
Erfindungsgemäß wird weiterhin ein Fahrzeug mit den Merkmalen nach Anspruch 11 vorgeschlagen. Das erfindungsgemäße Fahrzeug umfasst die erfindungsgemäße Vorrichtung.According to the invention, a vehicle with the features of
Weitere bevorzugte Ausgestaltungen der Erfindung ergeben sich aus den übrigen, in den Unteransprüchen genannten Merkmalen.Further preferred embodiments of the invention will become apparent from the remaining, mentioned in the dependent claims characteristics.
Die Erfindung wird nachfolgend in Ausführungsbeispielen anhand der zugehörigen Zeichnungen erläutert. Es zeigen:The invention will be explained below in embodiments with reference to the accompanying drawings. Show it:
Das beispielhafte Kamerabild
Das Verfahren umfasst dabei zwei unabhängig voneinander auf diese Einflussgrößen zurückgreifende Bildverarbeitungen
Die von den Bildverarbeitungen
Die erste Bildverarbeitung
In
Der ermittelte Gütevektor ordnet jedem Paar benachbarter Bildspalten ein Gütemaß zu, welches von den Grauwerten und Anzahl der Pixel in jeder der benachbarten Spalten abhängt.The determined quality vector assigns a quality measure to each pair of adjacent image columns, which depends on the gray values and number of pixels in each of the adjacent columns.
Die jeweils größte Komponente des Gütevektors ist dann das Gütemaß, welches der jeweiligen Korrektur zugeordnet ist.The largest component of the quality vector is then the quality measure, which is assigned to the respective correction.
Anschließend wird eine höher aufgelöste Aufsicht auf den Suchbereich mittels der bestimmten Fahrbahnkrümmung krümmungskorrigiert. Dies erfolgt in Schritt
Innerhalb des weiteren Gütevektors wird in Schritt
Dieser noch eine weitere Gütevektor kann, so er Verwendung findet, in Schritt
Die Genauigkeit, mit der die laterale Ablage vom Fahrbahnrand bestimmbar ist, hängt dabei direkt von der Auflösung der höher aufgelösten Aufsicht ab. Experimente haben gezeigt, dass eine Auflösung, die die Ausführung der Schritte in Echtzeit ermöglicht, gleichzeitig gute Näherungen der tatsächlichen lateralen Ablage bestimmt.The accuracy with which the lateral support can be determined from the edge of the road depends directly on the resolution of the higher resolution supervision. Experiments have shown that a resolution that allows the execution of the steps in real time, at the same time determines good approximations of the actual lateral storage.
Die zweite Bildverarbeitung
Zu jeder Korrektur wird ein Gütevektor erstellt und eine größte Komponente des Vektors bestimmt, die der Korrektur als Gütemaß zugeordnet wird. Die Korrektur, der das größte Gütemaß zugeordnet wurde, wird dann als betragsmäßig gleich der zu bestimmenden Gierwinkeldifferenz bestimmt. Dies erfolgt in Schritt
Die in Schritt
Anschließend wird in Schritt
Dabei kann berücksichtigt werden, dass die aktuelle geglättete laterale Ablage nur innerhalb eines durch die Fahrphysik bestimmten Intervalls von einer zuvor bestimmten geglätteten lateralen Ablage abweichen kann. Bei einer Maximalquerbeschleunigung a und einer Zeitdauer t zwischen der zuvor bestimmten und der aktuell bestimmten lateralen Ablage kann die Abweichung maximal s = 0,5·a·t2 betragen. Wird beispielsweise bei einer Bildrate von 15 Bildern pro Sekunde Bezug auf eine auf Basis des unmittelbar vorhergehenden Bildes bestimmte laterale Ablage genommen, so beträgt t = 0,067 Sekunden.It can be taken into account here that the current smoothed lateral deposit can deviate from a previously determined, smoothed lateral deposit only within an interval determined by the driving physics. In the case of a maximum lateral acceleration a and a time duration t between the previously determined and the currently determined lateral deposit, the deviation can amount to a maximum of s = 0.5 · a · t 2 . If, for example, at a frame rate of 15 frames per second, reference is made to a lateral offset determined on the basis of the immediately preceding image, then t = 0.067 seconds.
Schließlich wird ein Absolutglied eines Polynoms unter Verwendung der geglätteten lateralen Ablage, ein lineares Glied des Polynoms unter Verwendung der geglätteten Gierwinkeldifferenz und ein quadratisches Glied des Polynoms unter Verwendung der geglätteten Krümmung bestimmt. Im Rahmen des beschriebenen Ausführungsbeispiels wird die Krümmungsänderung bildunabhängig gleich Null gesetzt. Da die für die Polynomglieder-Bestimmung verwendete laterale Ablage α und die verwendete Gierwinkeldifferenz β für eine longitudinale Distanz x0 vom Fahrzeug bestimmt sind, die dem longitudinalem Beginn der Suchbereiche entspricht, ergibt sich die laterale Ablage des Fahrbahnrands von der Fahrzeuglängsachse in Abhängigkeit von der Entfernung x vom Ursprung des vom Fahrzeug mitgeführten und im Fahrzeug zentrierten Koordinatensystems und der geglätteten Krümmung γ als:
Die Gierwinkeldifferenz entspricht der Änderung der lateralen Ablage und ergibt sich dann als:
Und die Fahrbahnkrümmung ergibt sich als:
Es ist aber auch möglich, die Krümmungsänderung ebenfalls zu modellieren, etwa auf Basis des die Fahrspurbegrenzungsmarkierung modellierenden Polynoms.However, it is also possible to also model the change in curvature, for example on the basis of the polynomial modeling the lane boundary marking.
Das Polynom mit diesen Gliedern stellt dann die gemäß diesem Ausführungsbeispiel bestimmte Modellierung des Fahrbahnrandes dar.
In einem Ausführungsbeispiel des Verfahren zur Modellierung eines Fahrbahnrandes unter Verwendung eines Bildes werden also mindestens zwei Spaltensummenvektoren erzeugt durch Aufsummieren von Spalten von mindestens zwei gering aufgelösten, krümmungskorrigierten Aufsichten eines Suchbereichs im Bild. Dabei sind die gering aufgelösten krümmungskorrigierten Aufsichten gemäß mindestens zwei unterschiedlichen Fahrbahnkrümmungen korrigiert. Dann wird eine Fahrbahnkrümmung unter Verwendung der Spaltensummenvektoren geschätzt und ein weiterer Spaltensummenvektor erzeugt durch Aufsummieren der Spalten einer hoch aufgelösten, krümmungskorrigierten Aufsicht des Suchbereichs. Dabei ist die hoch aufgelöste krümmungskorrigierte Aufsicht gemäß der geschätzten Fahrbahnkrümmung korrigiert. Nun wird eine laterale Ablage zur Fahrspurbegrenzungsmarkierung unter Verwendung der Information zur Fahrspurbegrenzungsmarkierung und ein Suchfenster innerhalb des weiteren Spaltensummenvektors unter Verwendung der Information zur Fahrspurbegrenzungsmarkierung bestimmt. Dann wird noch ein weiterer Spaltensummenvektor erzeugt durch Zuordnen, zu jedem Pixel der hoch aufgelösten, krümmungskorrigierten Aufsicht, eines Wertes entsprechend seiner Gradientenverteilung in einer Nachbarschaft des jeweiligen Pixels und spaltenweises Aufsummieren der zugeordneten Werte. Eine Anfangvektorkomponente des Suchfensters innerhalb des weiteren Spaltensummenvektors wird unter Verwendung von Schwellwerten und von dem noch einen weiteren Spaltensummenvektor korrigiert. Innerhalb des korrigierten Suchfensters wird ein Maximum bestimmt. Eine laterale Ablage zum Fahrbahnrand wird dann unter Verwendung des bestimmten Maximums bestimmt. Weiterhin werden mindestens zwei andere Spaltensummenvektoren erzeugt durch Aufsummieren von Spalten von mindestens zwei gering aufgelösten, gierwinkeldifferenzkorrigierten Aufsichten eines anderen, kleineren Suchbereichs im Bild. Dabei sind die gering aufgelösten, gierwinkeldifferenzkorrigierten Aufsichten gemäß mindestens zweier unterschiedlicher Gierwinkeldifferenzen korrigiert. Unter Verwendung der anderen Spaltensummenvektoren wird eine Gierwinkeldifferenz bestimmt und unter Verwendung der lateralen Ablagen zur Fahrspurbegrenzungsmarkierung und zum Fahrbahnrand wird eine Fahrspurbreite bestimmt. Die bestimmte Fahrspurbreite, die bestimmte Gierwinkeldifferenz und die bestimmte Krümmung werden geglättet und unter Verwendung der geglätteten Spurbreite, einer Bildrate und eines Querbeschleunigungsmaximalwerts wird eine korrigierte laterale Ablage zum Fahrbahnrand bestimmt. Schließlich werden Absolutglied, lineares Glied und quadratisches Glied des Polynoms bestimmt, wobei das Absolutglied des Polynoms unter Verwendung der korrigierten lateralen Ablage, das lineare Glied des Polynoms unter Verwendung der geglätteten Gierwinkeldifferenz und das quadratische Glied des Polynoms unter Verwendung der geglätteten Krümmung bestimmt wird.Thus, in one embodiment of the method of modeling a lane boundary using an image, at least two column sum vectors are generated by summing columns of at least two low-resolution, curvature-corrected planets of a search area in the image. The low-resolution curvature-corrected views are corrected according to at least two different road curvatures. Then, a lane curvature is estimated using the column sum vectors, and another column sum vector is generated by summing the columns of a high-resolution, curvature-corrected plan view of the search area. The high-resolution curvature-corrected top view is corrected according to the estimated road curvature. Now, a lateral deviation lane marker is determined using the lane boundary marker information and a search window within the further column header vector using the lane boundary marker information. Then, another column sum vector is generated by assigning, to each pixel, the high resolution, curvature corrected plan, a value corresponding to its gradient distribution in a neighborhood of the respective pixel, and adding the assigned values column by column. A beginning vector component of the search window within the further column sum vector is corrected using threshold values and from still another column sum vector. Within the corrected search window a maximum is determined. A lateral deposit to the lane edge is then determined using the determined maximum. Furthermore, at least two other column sum vectors are generated by summing columns of at least two low resolution, yaw angle difference corrected, planets of another, smaller search area in the image. In this case, the low-resolution, yaw angle-difference-corrected planets are corrected according to at least two different yaw angle differences. Using the other column sum vectors, a yaw rate difference is determined, and a lane width is determined using the lateral lane mark and lane edge shelves. The determined lane width, the determined yaw angle difference, and the determined curvature are smoothed, and using the smoothed track width, a frame rate and a lateral acceleration maximum value, a corrected lateral offset to the roadway edge is determined. Finally, the absolute term, linear and quadratic term of the polynomial are determined, the absolute term of the polynomial being determined using the corrected lateral offset, the linear term of the polynomial using the smoothed yaw rate difference, and the quadratic term of the polynomial using the smoothed curve.
Die unterschiedlichen verwendeten Krümmungshypothesen können in einem Ausführungsbeispiel aus einer Menge von Krümmungen ausgewählt sein, die Radien entsprechen, die von einem Referenzradius höchstens um eine Maximalradiusdifferenz abweichen. Dabei ist der Referenzradius anhand einer in der Information
Die unterschiedlichen verwendeten Gierwinkeldifferenzhypothesen können in einem Ausführungsbeispiel aus einer Menge von Gierwinkeldifferenzen ausgewählt sein, die von einer Referenzgierwinkeldifferenz um höchstens um eine Maximalgierwinkeldifferenz abweichen. Dabei ist die Referenzgierwinkeldifferenz anhand einer in der Information zur Fahrspurbegrenzungsmarkierung
Andere Ausführungsbeispiele kommen entweder ohne Bestimmung der Gierwinkeldifferenz oder ohne Bestimmung der Krümmung aus und nehmen die jeweilig nicht bestimmte Größe gleich Null an. Es ist auch möglich, mehrere Bilderverarbeitungen
Die beschriebene Erfindung eignet sich zur Modellierung eines rechten Fahrbahnrandes ebenso wie zur Modellierung eines linken Fahrbahnrandes. Die beschriebene Erfindung eignet sich auch zur Unterstützung der Detektierung einer Fahrbahnrandmarkierung. Die beschriebene Erfindung eignet sich auch zur selektiven Bestimmung einer einzelnen oder lediglich zweier Komponenten des Randpolynoms. Die Ergebnisse der beschriebenen Erfindung können in vorteilhafter Weise noch verbessert werden, wenn Information zu einer Fahrspurbegrenzungsmarkierung und/oder zu einer Fahrbahnrandmarkierung verwendet wird. Dabei kann beispielsweise die Modellierung eines Fahrbahnrandes auf Basis einer Fahrbahnmarkierung auf diesem einen Fahrbahnrand und/oder einer Fahrbahnmarkierung auf dem anderen Fahrbahnrand erfolgen.The described invention is suitable for modeling a right-hand roadside edge as well as for modeling a left-hand roadway edge. The described invention is also suitable for assisting the detection of a lane edge marking. The invention described is also suitable for the selective determination of a single or only two components of the edge polynomial. The results of the described invention can advantageously be further improved if information is used on a lane boundary marker and / or on a lane edge marker. In this case, for example, the modeling of a lane boundary on the basis of a lane marking on this one lane edge and / or a lane marking on the other lane edge done.
BezugszeichenlisteLIST OF REFERENCE NUMBERS
- 11
- Kamerabildcamera image
- 22
- Kalibrierungsdatencalibration data
- 33
- Information zu einer FahrzeugeigenbewegungInformation about a vehicle's own movement
- 44
- optionale Information zu einer Fahrspurbegrenzungsmarkierungoptional information about a lane boundary marker
- 55
- Bildverarbeitung zur Bestimmung von einer Krümmung und einer lateralen AblageImage processing for determining a curvature and a lateral deposit
- 66
- Bildverarbeitung zur Bestimmung von einer GierwinkeldifferenzImage processing for determining a yaw angle difference
- 77
- Modellgenerierungmodel generation
- 88th
- Festlegen eines SuchbereichsSet a search scope
- 99
- Erzeugen einer gering aufgelösten Aufsicht des SuchbereichsGenerate a low-resolution view of the search area
- 1010
- Bestimmen einer FahrbahnkrümmungDetermining a roadway curvature
- 1111
- Erzeugen einer höher aufgelösten, krümmungskorrigierten Aufsicht des SuchbereichsCreate a higher-resolution, curvature-corrected view of the search area
- 1212
- Erzeugen eines GütevektorsGenerating a quality vector
- 1313
- Bestimmen der Fahrspurbegrenzungsmarkierung innerhalb des GütevektorsDetermining the lane boundary marker within the quality vector
- 1414
- optionales Erzeugen eines weiteren Gütevektorsoptionally generating another quality vector
- 1515
- Bestimmen eines Suchbereichs im GütevektorDetermining a search area in the quality vector
- 1616
- Bestimmen der lateralen AblageDetermine the lateral shelf
- 1717
- Festlegen eines anderen, kleineren SuchbereichsSet a different, smaller search range
- 1818
- Erzeugen einer gering aufgelösten Aufsicht auf den weiteren SuchbereichGenerating a low-resolution view of the further search area
- 1919
- Bestimmen der GierwinkeldifferenzDetermining the yaw angle difference
- 2020
- Umrechnen in ein FahrzeugkoordinatensystemConvert to a vehicle coordinate system
- 2121
- Berechnung einer SpurbreiteCalculation of a track width
- 2222
- Tiefpassfilterung der Spurbreite, der Gierwinkeldifferenz und der KrümmungLow pass filtering of track width, yaw angle difference and curvature
- 2323
- Berechnung einer geglätteten lateralen AblageCalculation of a smoothed lateral deposit
- 2424
- Modellierung des Fahrbahnrandes als PolynomModeling the roadside as a polynomial
- 100100
- Begrenzung der SuchbereicheLimitation of search areas
- 200200
- Begrenzung der SuchbereicheLimitation of search areas
- 300300
- Begrenzung der SuchbereicheLimitation of search areas
- 400400
- Begrenzung der SuchbereicheLimitation of search areas
- 500500
- Begrenzung der SuchbereicheLimitation of search areas
- 600600
- Begrenzung der SuchbereicheLimitation of search areas
- 999999
- Polynompolynomial
ZITATE ENTHALTEN IN DER BESCHREIBUNG QUOTES INCLUDE IN THE DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant has been generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte Nicht-PatentliteraturCited non-patent literature
- DIN70000 [0005] DIN 70000 [0005]
- Dean Pomerleau beschreibt in „RALPH: Rapidly Adapting Lateral Position Handler” [0009] Dean Pomerleau describes in "RALPH: Rapidly Adapting Lateral Position Handlers" [0009]
Claims (11)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE201310002889 DE102013002889A1 (en) | 2013-02-19 | 2013-02-19 | Method for modeling road edge of road for vehicle, involves determining road curvature using two curvature corrected inspection of search area in image, where inspection is corrected according to two different road curvature hypotheses |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE201310002889 DE102013002889A1 (en) | 2013-02-19 | 2013-02-19 | Method for modeling road edge of road for vehicle, involves determining road curvature using two curvature corrected inspection of search area in image, where inspection is corrected according to two different road curvature hypotheses |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102013002889A1 true DE102013002889A1 (en) | 2014-08-21 |
Family
ID=51263679
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE201310002889 Ceased DE102013002889A1 (en) | 2013-02-19 | 2013-02-19 | Method for modeling road edge of road for vehicle, involves determining road curvature using two curvature corrected inspection of search area in image, where inspection is corrected according to two different road curvature hypotheses |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102013002889A1 (en) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR3058106A1 (en) * | 2016-10-28 | 2018-05-04 | Valeo Vision | ADAPTING THE LIGHTING OF A VEHICLE TO MATERIALIZE A MARKING |
FR3077549A1 (en) * | 2018-02-08 | 2019-08-09 | Psa Automobiles Sa | METHOD FOR DETERMINING THE TRACK OF A MOTOR VEHICLE IN ABSENCE OF GROUND MARKING |
CN110406533A (en) * | 2018-04-27 | 2019-11-05 | 株式会社万都 | The lane for improving the longitudinally controlled safety of front vehicles follower keeps auxiliary system and method |
DE102019102922A1 (en) * | 2019-02-06 | 2020-08-06 | Bayerische Motoren Werke Aktiengesellschaft | Method and device for multi-sensor data fusion for automated and autonomous vehicles |
US10875531B2 (en) | 2018-08-08 | 2020-12-29 | Ford Global Technologies, Llc | Vehicle lateral motion control |
US20220221291A1 (en) * | 2019-05-08 | 2022-07-14 | Daimler Ag | Method and device for locating a vehicle |
-
2013
- 2013-02-19 DE DE201310002889 patent/DE102013002889A1/en not_active Ceased
Non-Patent Citations (4)
Title |
---|
D. Pomerleau: "Ralph: rapidly adapting lateral position handler" Proceedings of IEEE Intelligent Vehicles’95, Detroit, MI (1995), pp. 506–511 |
Dean Pomerleau beschreibt in "RALPH: Rapidly Adapting Lateral Position Handler" |
DIN70000 |
MASSIMO BERTOZZI et al.: "Artificial Vision in Road Vehicles"; PROCEEDINGS OF THE IEEE, VOL. 90, NO. 7, JULY 2002, pp. 1258 - 1271 |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR3058106A1 (en) * | 2016-10-28 | 2018-05-04 | Valeo Vision | ADAPTING THE LIGHTING OF A VEHICLE TO MATERIALIZE A MARKING |
FR3077549A1 (en) * | 2018-02-08 | 2019-08-09 | Psa Automobiles Sa | METHOD FOR DETERMINING THE TRACK OF A MOTOR VEHICLE IN ABSENCE OF GROUND MARKING |
WO2019155134A1 (en) * | 2018-02-08 | 2019-08-15 | Psa Automobiles Sa | Method of determining the trajectory of a motor vehicle in the absence of ground markings |
CN110406533A (en) * | 2018-04-27 | 2019-11-05 | 株式会社万都 | The lane for improving the longitudinally controlled safety of front vehicles follower keeps auxiliary system and method |
EP3581451A1 (en) * | 2018-04-27 | 2019-12-18 | Mando Corporation | Lane keeping assist system and method for improving safety in preceding vehicle follower longitudinal control |
US11001258B2 (en) | 2018-04-27 | 2021-05-11 | Mando Corporation | Lane keeping assist system and method for improving safety in preceding vehicle follower longitudinal control |
US11097726B2 (en) | 2018-04-27 | 2021-08-24 | Mando Corporation | Lane keeping assist system and method for improving safety in preceding vehicle follower longitudinal control |
US10875531B2 (en) | 2018-08-08 | 2020-12-29 | Ford Global Technologies, Llc | Vehicle lateral motion control |
DE102019102922A1 (en) * | 2019-02-06 | 2020-08-06 | Bayerische Motoren Werke Aktiengesellschaft | Method and device for multi-sensor data fusion for automated and autonomous vehicles |
US20220221291A1 (en) * | 2019-05-08 | 2022-07-14 | Daimler Ag | Method and device for locating a vehicle |
US11851069B2 (en) * | 2019-05-08 | 2023-12-26 | Mercedes-Benz Group AG | Method and device for locating a vehicle |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE102014209137B4 (en) | Method and device for calibrating a camera system of a motor vehicle | |
DE102013002889A1 (en) | Method for modeling road edge of road for vehicle, involves determining road curvature using two curvature corrected inspection of search area in image, where inspection is corrected according to two different road curvature hypotheses | |
DE102015205244B3 (en) | Method for providing obstacle cards for vehicles | |
DE112018000107T5 (en) | Vehicle camera calibration apparatus and method | |
WO2015110207A1 (en) | Method and control unit for detecting a change of a relative heading angle within a stereo-video system for a vehicle | |
DE102013205854B4 (en) | Method for detecting a free path using temporary coherence | |
DE102018204451A1 (en) | Method and device for auto-calibration of a vehicle camera system | |
DE102016105238A1 (en) | VEHICLE AND VEHICLE PARKING SYSTEM | |
DE102014114221A1 (en) | Method for detecting an object in a surrounding area of a motor vehicle, driver assistance system and motor vehicle | |
DE102012023030A1 (en) | Method for determining the movement of a motor vehicle | |
WO2014009406A1 (en) | Method and device for calculating a change in an image scale of an object | |
DE102014219423B4 (en) | Dynamic model to compensate for windshield distortion | |
DE102015009657A1 (en) | Calibration method and method for adjusting a camera mounted on a vehicle | |
DE102017208994A1 (en) | Method for determining result image data | |
EP3704631A2 (en) | Method for determining a distance between a motor vehicle and an object | |
DE102010021221A1 (en) | Camera direction determining method for use in vehicle, involves reconstructing vehicle coordination system from points, and determining camera direction from rotation of camera-coordination system relative to vehicle coordination system | |
DE102014219428A1 (en) | Self-calibration of a stereo camera system in the car | |
DE102018112171A1 (en) | Method for assessing objects in an environment of a motor vehicle using a three-dimensional fusion card, control device; Driver assistance system, computer program product | |
DE102017221381A1 (en) | Method, apparatus and computer program for determining a distance to an object | |
DE102019003238B4 (en) | Vehicle location by map comparison taking into account a street profile | |
DE102011111856B4 (en) | Method and device for detecting at least one lane in a vehicle environment | |
DE102010009620B4 (en) | Method and device for detecting at least one obstacle in a vehicle environment | |
EP3644280A1 (en) | Method for aligning a camera according to extrinsic parameters | |
DE102018208604A1 (en) | Determining a recording behavior of a recording unit | |
DE102012025463A1 (en) | Method for determining e.g. pitch angle change of passenger car to determine proper motion of car in six different degrees of freedom, involves determining parameter based on pair of image features and associated image features of images |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R163 | Identified publications notified | ||
R012 | Request for examination validly filed | ||
R016 | Response to examination communication | ||
R002 | Refusal decision in examination/registration proceedings | ||
R003 | Refusal decision now final |