DE102010048760A1 - Verfahren zur Erzeugung eines Straßenmodells - Google Patents

Verfahren zur Erzeugung eines Straßenmodells Download PDF

Info

Publication number
DE102010048760A1
DE102010048760A1 DE102010048760A DE102010048760A DE102010048760A1 DE 102010048760 A1 DE102010048760 A1 DE 102010048760A1 DE 102010048760 A DE102010048760 A DE 102010048760A DE 102010048760 A DE102010048760 A DE 102010048760A DE 102010048760 A1 DE102010048760 A1 DE 102010048760A1
Authority
DE
Germany
Prior art keywords
road
model
vehicle
spline
clothoid
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
DE102010048760A
Other languages
English (en)
Inventor
Uwe Dr.-Ing. 73066 Franke
Heidi Dipl.-Inf. 71083 Loose
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mercedes Benz Group AG
Original Assignee
Daimler AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daimler AG filed Critical Daimler AG
Priority to DE102010048760A priority Critical patent/DE102010048760A1/de
Publication of DE102010048760A1 publication Critical patent/DE102010048760A1/de
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/30Polynomial surface description
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/10Path keeping
    • B60W30/12Lane keeping

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Mathematical Analysis (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Mathematical Optimization (AREA)
  • Algebra (AREA)
  • Remote Sensing (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Abstract

Die Erfindung betrifft ein Verfahren zur Erzeugung eines Straßenmodells. Erfindungsgemäß wird ein Straßenverlauf (SV) durch Kombination eines Klothoiden-Modells und eines B-Spline-Modells modelliert.

Description

  • Die Erfindung betrifft ein Verfahren zur Erzeugung eines Straßenmodells.
  • Aus dem Stand der Technik sind verschiedene Verfahren zur Erzeugung eines Straßenmodells bekannt, wobei das Straßenmodell aus einem so genannten Klothoiden-Modell ermittelt wird. Der Straßenverlauf wird dabei mittels Klothoiden modelliert.
  • Der Erfindung liegt die Aufgabe zugrunde, ein gegenüber dem Stand der Technik verbessertes Verfahren zur Erzeugung eines Straßenmodells anzugeben.
  • Die Aufgabe wird erfindungsgemäß mit einem Verfahren gelöst, welches die im Anspruch 1 angegebenen Merkmale aufweist.
  • Vorteilhafte Ausgestaltungen der Erfindung sind Gegenstand der Unteransprüche.
  • In einem Verfahren zur Erzeugung eines Straßenmodells wird erfindungsgemäß ein Straßenverlauf durch Kombination eines Klothoiden-Modells und eines B-Spline-Modells modelliert.
  • Klothoiden stellen dabei spezielle ebene Kurven dar. Klothoiden werden auch als Spinnkurven bezeichnet, da der Graph, der von einem Konvergenzpunkt zum anderen läuft, einer Garnrolle ähnelt, die „umgesponnen” wird. Unter Splines werden Funktionen, die stückweise aus Polynomen mit einem maximalem Grad „n” zusammengesetzt sind, verstanden. Unter B-Splines werden derartige Funktionen verstanden, welche so genannte B-Spline-Basisfunktionen aufweisen. Diese B-Spline-Basisfunktionen haben einen kompakten Träger, d. h. sie sind nur auf einem kleinen Intervall von Null verschieden. Änderungen der Koeffizienten wirken sich also nur lokal aus. Splines, die in dieser Basis dargestellt werden, sind B-Splines.
  • Durch die Erweiterung des Klothoiden-Modells mit dem B-Spline-Modell zur Erzeugung eines Straßenmodells sind eine signifikant präzisere Modellierung eines dreidimensionalen Straßenverlaufs und somit ein robusteres Tracken des Straßenverlaufs möglich. Bei einer Verwendung des Verfahrens zum Betrieb eines Fahrerassistenzsystems in einem Fahrzeug, beispielsweise zur Unterstützung des Fahrers bei einer Querregelung des Fahrzeugs, ist eine sehr exakte Querführung des Fahrzeugs, insbesondere in engen Kurven, möglich.
  • Ausführungsbeispiele der Erfindung werden im Folgenden anhand von Zeichnungen näher erläutert.
  • Dabei zeigen:
  • 1 schematisch ein Bild einer Umgebung eines Fahrzeug mit einem Straßenverlauf,
  • 2 schematisch einen Querschnitt einer Straße,
  • 3 schematisch ein erstes Höhenprofil einer Straße,
  • 4 schematisch ein zweites Höhenprofil einer Straße und
  • 5 schematisch ein drittes Höhenprofil einer Straße.
  • Einander entsprechende Teile sind in allen Figuren mit den gleichen Bezugszeichen versehen.
  • In 1 ist ein mittels einer nicht näher dargestellten, am Fahrzeug angeordneten Kamera erfasstes Bild B einer Umgebung eines Fahrzeugs dargestellt. Das Bild B zeigt die Umgebung vor dem Fahrzeug mit einem Straßenverlauf SV in einer Baustellenumgebung auf einer Straße S.
  • Der Straßenverlauf SV wird erfindungsgemäß durch Kombination eines Klothoiden-Modells und eines B-Spline-Modells modelliert.
  • Das Klothoiden-Modell gleicht eine Klothoide durch ein Polygon dritten Grades an. Die laterale Position X(L) einer Fahrspurmitte bei einem Abstand von L wird vom lateralen Offset eines Ego-Fahrzeugs xOffset bei L = 0, dem Gierwinkel Δψ, der Krümmung c0 und dem Klothoidenparameter c1, welcher die Veränderung der Krümmung über die Distanz beschreibt, gemäß X(L) = –xoffset – Δψ/L + 1 / 2c0L2 + 1 / 6c1L3 [1] berechnet.
  • Bei konstanter Spurbreite b werden die parallele rechte und linke Straßenbegrenzung definiert. Eine akkurate Darstellung der Welt in einem Bildkoordinatensystem erfordert die exakte Kenntnis des Neigungswinkels α und der Kamerahöhe h am Fahrzeug. Bei der Kamera handelt es sich insbesondere um eine Stereokamera.
  • Da sich der Steigungswinkel der Kamera und damit die Kamerahöhe rapide ändert, wird der Steigungswinkel α anhand eines Histogramm-Ansatzes über Stereomessungen in naher Entfernung berechnet und die Kamerahöhe wird hauptsächlich als die Höhe der eingebauten Kamera angenommen. Es werden lediglich ein Offset in der Kamerahöhe hoffset und ein Delta zum Neigungswinkel Δα geschätzt, um den Einfluss von Kalibrierungsfehlern auf die Bewertung des Straßenverlaufs SV zu reduzieren. Geringe Kalibrierungsfehler führen zu einer Verzerrung in der Steigungswinkelkalkulierung, was durch den geschätzten Δα kompensiert wird.
  • Ein Zustandsvektor st zur Zeit t wird anhand folgender Parameter konstruiert: st = (bxoffsetΔψc0c1Δαhoffset)T. [2]
  • Im Modell wird eine ebene Straße angenommen. Das Modell kann gerade Straßen, Kurven und eine konstante Veränderung der Krümmung darstellen. Die ebene und klothoidale Annahme wird in Baustellenabschnitten und auf Landstraßen typischerweise nicht erfüllt. Um das Höhenprofil der Straße S und Veränderungen des Klothoidenparameters c1 als Modell darzustellen, wird dieses Modell erfindungsgemäß durch eine B-Spline-Kurve erweitert. Die Höheninformationen werden dabei mittels einer Stereokamera, eines Lidar-Scanners, eines Radar-Scanners, eines Laser-Scanners oder mittels anderer Sensoren erfasst.
  • Oberflächen werden in Computergrafiken oftmals unter Verwendung von B-Splines als Modell dargestellt. Eine Spline-Kurve s(L) wird durch Polynome des Grades d stückweise beschrieben. An den Verbindungsstellen, wo ein Polynom einem anderen die Position hinzufügt, muss die erste und zweite Ableitung der beiden Polynome gleich sein. Eine B-Spline-Kurve B(L) ist ein angleichender Spline, der durch n Kontrollpunkte P0...n-1 und Basisfunktionen Ni,d mit dem Grad wie folgt definiert wird:
    Figure 00040001
  • Die Kontrollpunkte sind nicht Teil der Kurve, sondern definieren eine konvexe Hülle, innerhalb derer die Kurve definiert wird. Eine offene B-Spline-Kurve beginnt im ersten Kontrollpunkt und endet im letzten. Man nennt diese uniform, wenn die Verbindungsstellen gleichmäßig im Abstand L beabstandet sind.
  • Das hier dargestellte Straßenmodell wendet einen offenen uniformen B-Spline an, was zu einer überschaubaren Modelldarstellung an der Position des Fahrzeugs bzw. Ego-Fahrzeugs und zu einer effizienten Kalkulierung der Massen Ni,d(L) führt.
  • Der erste Kontrollpunkt wird längs an der hinteren Achse des Ego-Fahrzeugs platziert. Die Position und Ableitungen an diesem Kontrollpunkt definieren den lateralen Offset und die Ausrichtung des Ego-Fahrzeugs in Bezug auf die bewertete Route.
  • Die gleichmäßig beabstandete Positionierung der Verbindungsstellen führt zu Basisfunktionen derselben, nur übertragenen Form. Eine Ermittlung der Massen Ni,d(L) erfolgt vorzugsweise gemäß „L. Biagiotti, C. Melchiorri: Trajectory Planing for Automatic Machines and Robots; Springer Verlag Berlin Heidelberg, 2009”.
  • Der vorgestellte B-Spline ist für eine Modelldarstellung eines komplexen Straßenverlaufs geeignet. Dennoch ist das Klothoiden-Modell für Nah-Entfernungs-Szenarios bewährt. Die Eigenschaften und Robustheit dieses Modells an der lokalen Position des Ego-Fahrzeugs sind für Fahrerassistenzsysteme fundamental. Um diese Eigenschaften zu bewahren, wird das Klothoiden-Modell anhand einer Spline-Kurve BX(L), die den Klothoidenparamter c1 durch eine B-Spline-Kurve ersetzt, erweitert.
  • Somit wird die laterale Position einer Fahrspurmitte bei einem Abstand L aus dem lateralen Offset des Fahrzeugs xoffset, dem Gierwinkel Δψ des Fahrzeugs, der Krümmung des Straßenverlaufs c0 und der Änderung der Krümmung des Straßenverlaufs ermittelt, wobei die Änderung der Krümmung mittels eines B-Splines B(I) modelliert wird.
  • Die Ermittlung erfolgt gemäß folgender Gleichung: X(L) = –xoffset – ΔψL + 1 / 2c0L2 + Bx(L). [4]
  • Am Startpunkt der Kurve ist der Einfluss des B-Splines durch Beschränkungen, die im weiteren Verlauf beschrieben werden, eingeschränkt und die Straße wird primär durch xoffset, Δψ und c0 als Modell dargestellt.
  • In vertikaler Richtung wird die Straßenoberfläche durch separate B-Splines für den Verlauf eines rechten Fahrbahnrands und den Verlauf eines linken Fahrbahnrands getrennt modelliert.
  • Dabei wird eine Höhe für jede Seite, d. h. für jeden Fahrbahnrand, gemäß: Y(L) = BY(L)cos(α) + sin(α)L + hoffset [5] ermittelt.
  • Für einen kleinen Steigungswinkel α wird angenommen, dass cos(α) ≈ 1 und sin(α) ≈ α, was die Gleichung [5] auf Y(L) = BY(L) + αL + hoffset [6] reduziert.
  • Da die Basisfunktionen konstant bleiben, wird die B-Spline-Kurve nur von den Kontrollpunkten beeinflusst. Der Zustandsvektor s wird mit den Kontrollpunkten des lateralen B-Splines PXi und des vertikalen B-Splines für die linke und rechte Straßenseite PYli und PYri wie folgt erweitert:
    Figure 00060001
  • Die Anzahl der genutzten Kontrollpunkte beeinflusst die Eigenschaften der B-Spline-Kurve. Um einen komplexen Straßenverlauf mittels eines linearen Splines als Modell darzustellen, ist eine Anzahl von Kontrollpunkten für eine gute Angleichung des Verlaufs notwendig. Nutzt man einen höheren Grad, wird für eine adäquate Darstellung des tatsächlichen Straßenverlaufs eine geringere Anzahl an Kontrollpunkten benötigt. Um die glättende Eigenschaft eines Splines zu nutzen, sind eine geringe Anzahl an Kontrollpunkten und ein hoher Grad vernünftig. Zu wenige Kontrollpunkte unterdrücken die Flexibilität.
  • Vorliegend bietet ein kubischer B-Spline mit Grad drei und sechs bis zehn Kontrollpunkten in einem Intervall von 7 Meter bis 10 Meter einen guten Ausgleich zwischen Gleichmäßigkeit und Flexibilität. Die Nutzung eines kubischen Splines führt zu zwei weiteren Vorteilen. Es ist konform mit einem Klothoiden-Modell, da die Klothoide durch ein Polygon dritten Grades angeglichen wird, und ein im Weiteren dargestelltes Resampling ist überschaubar realisierbar.
  • Da das Klothoiden-Modell zur Darstellung eines Straßenverlaufs in naher Entfernung gebraucht wird, sind mehrere Einschränkungen zu berücksichtigen, die den B-Spline beschränken. Der laterale Offset und der Gierwinkel können als Modell dargestellt werden, indem die Spline-Kurve verschoben und rotiert wird. Die lokale Krümmung wird durch einen Spline selbst dargestellt. Daher werden zusätzliche Startpunktbedingungen gestellt. Die Spline-Kurvenmodelle und die Straße selbst werden berücksichtigt. Ein lateraler Offset zwischen der Straßenmitte und dem Spline darf nicht vorhanden sein, so dass Positionseinschränkungen gesetzt werden. Eine Winkelabweichung und die Krümmung der Spline-Kurve an der aktuellen Fahrzeugposition sind Null, ein Orientierungswinkel und eine Krümmungseinschränkung sind vorgegeben. Positionseinschränkung: BX(0) = 0. [8] Orientierungswinkel-einschränkung: B'X(0) = 0. [9] Krümmungseinschränkung: B''X(0) = 0. [10]
  • Der Steigungswinkel und die Kamerahöhe werden zusätzlich in vertikaler Richtung bewertet und zwei weitere Einschränkungen gemäß „A. Wedel u. a.: B-spline modeling of road surfaces with an application to free-space estimation; In: Transactions an intelligent Transportation Systems, Vol. 10, 2009, Seiten 572 bis 583” sind vorgegeben. Die Einschränkungen beinhalten, dass das Fahrzeug Bodenkontakt haben muss und dass das Gefälle an der momentanen Fahrzeugposition Null beträgt.
  • Jedoch wird im Gegensatz zu dem in „A. Wedel u. a.: B-spline modeling of road surfaces with an application to free-space estimation; In: Transactions an intelligent Transportation Systems, Vol. 10, 2009, Seiten 572 bis 583” dargestellten Versuch nicht nur das Einzelhöhenprofil der Straße als Abstandsfunktion bewertet, sondern die Höhe der linken und rechten Straßenbegrenzung, d. h. des rechten und linken Fahrbahnrands. Dadurch wird der Rollwinkel an der Position des Ego-Fahrzeugs berücksichtigt und die Verdrehung der Straße modelliert.
  • 2 zeigt einen Querschnitt der Straße beim Abstand 0. Die Höhe der Straße bei der Position des Fahrzeugs Yvehicle wird durch die Breite der Fahrspur b, den lateralen Offset des Fahrzeugs zur Mitte der Straße xoffset und die Höhe PYli, PYre der linken und rechten Straßenbegrenzung berechnet. Um sicherzustellen, dass das Fahrzeug Bodenhaftung hat, muss Yvehicle gleich Null sein. Berührungsbeschränkung: Yvehicle = 0. [11] Steigungs- oder Gefälleeinschränkung: B'Yli(0) = B'Yre(0) = 0. [12]
  • Die hohe Flexibilität des Splines führt zu Problemen im Falle von Ausreißern (outliers) oder einer ungenügenden Anzahl von Messungen, besonders bei weiten Entfernungen. Da es für Straßenkrümmungen und -neigungen natürliche Einschränkungen gibt, ist der Spline gezwungen, glatt zu sein, indem er große Werte der Summen,
    Figure 00080001
    bestraft.
  • Größere Abstände führen zu einer höheren Tiefenunbestimmtheit. Diese Beziehung wird anhand einer linearen Massefunktion betrachtet. Folglich sind Kontrollpunkte bei größeren Abständen von diesen Einschränkungen der Glattheit mehr betroffen als bei näheren Abständen. Diese sowohl in horizontaler als auch in vertikaler Richtung auftretenden Einschränkungen und die Kontrollpunkte PXi, PYli, und PYri werden zu Pi in den Gleichungen [13] und [14] zusammengefasst.
  • Die Integrale werden vorberechnet, da die Basisfunktionen konstant bleiben.
  • Da das Ego-Fahrzeug auf der Straße fährt, deren Verlauf bewertet wird, ist das System dynamisch. Der in Gleichung [7] beschriebene Zustandsvektor verändert sich über die Zeit, abhängig von der Bewegung des Fahrzeugs.
  • Es wird ein Kalmanfilter eingesetzt, um über die Zeit Gleichmäßigkeit durch das Filtern von Zustandsparametern zu erzielen. Im Filterprozess werden die dynamischen Abhängigkeiten zwischen den Zustandsparametern berücksichtigt. Dabei wird die Kenntnis eines zu einem früheren Zeitpunkt bewerteten Routenverlaufs zusammen mit der Bewegungsinformation genutzt, um einen aktuellen Zustand der den Straßenverlauf beschreibenden Parameter vorherzusagen. Der vorhergesagte Zustand wird durch Messungen zu Aktualisierungszwecken korrigiert.
  • Zur Korrektur des vorhergesagten Straßenverlaufs ist es zunächst erforderlich, einen Zustandsvektor vorherzusagen und Messungen durchzuführen, die genutzt werden, um den vorhergesagten Straßenverlauf zu korrigieren.
  • Dabei wird die Vorhersage des Zustandsvektors st-1, von der Zeit t – 1 zur Zeit t ermittelt, indem die Ego-Bewegung auf das Fahrzeug angewendet wird. Mittels Trägheitssensoren wird die Gierrate ψ .vehicle und die Geschwindigkeit v ermittelt.
  • Die Fahrspurbreite b wird gemäß b . = 0 [15] als sich nur langsam ändernd angenommen.
  • Der laterale Offset des Fahrzeugs zur Straßenmitte xoffset und der Gierwinkel ΔΨ verändern sich über die Zeit, wie in „E. Dickmanns, A. Zapp: A curvature-based scheme for improving road vehicle guidance by computer vision; In: SPIE, Vol. 727, Oktober 1986, Seiten 161 bis 168” und „A. Gern u. a.: Vision-based Jane recognition under adverse weather conditions using optical flow; In: Proceedings of the IEEE Intelligent Vehicles Symposium, 2007”, gemäß: offset = Δψ·v + vx, [16] Δψ . = ψ .vehicle – c0·v. [17]
  • Ein möglicher Schlupfwinkel verursacht eine laterale Geschwindigkeit vx. Die Veränderung der lokalen Krümmung hängt von der Spline-Kurve ab: c .0 = B ''' / x(0)·v. [18]
  • Der Steigungswinkel wird außerhalb des Kalmanfilters berechnet und der Korrekturterm Δα ist über die Zeit, wie auch der Offset zur eingebauten Kamerahöhe hoffset, konstant: Δα . = 0, [19] Δhoffset = 0. [20]
  • Da sich die Straße S über die Zeit nicht verändert, ändern sich auch die Kontrollpunkte nicht. Daher ist: P .i = 0. [21]
  • Jedoch bewegt sich die Welt in Bezug auf das Fahrzeug durch das Positionieren des Koordinatensystems in der Mitte der Hinterachse des Fahrzeugs. Die Kontrollpunkte müssen gemäß den Trägheitssensordaten verschoben werden. Dies kann durch zwei unterschiedliche Methoden geschehen. Die erste Methode ist, hinter dem Fahrzeug befindliche Kontrollpunkte zu entfernen und gleichzeitig neue Kontrollpunkte weit vor dem Fahrzeug zu setzen. Die zweite Methode ist, das Resamplen der vorhergesagten Kurve, um die Kontrollpunkte in gleicher Entfernung vor dem Fahrzeug zu bewahren. Da das Setzen neuer Kontrollpunkte in großer Entfernung zu hoher Unsicherheit führt, wird die zweite Methode bevorzugt. Das Resamplen wird hier wie folgt bei einem kubischen B-Splines vollzogen
  • Dabei werden Punkte dort bestimmt, wo zwei Polynomsegmente angrenzen. Die Verbindungsstellen Ki der Spline-Kurve werden durch Ki = Bx(i·m); i = 0...n – 3 [22] mit
    Figure 00100001
    ermittelt.
  • Die Verbindungsstellen auf der Kurve werden in Abhängigkeit der gefahrenen Distanz v·Δt vorhergesagt: K ^i = Bx(i·m + v·Δt) [24]
  • Die letzte Verbindungsstelle, die das Ende der Kurve markiert, wird anhand von Derivationen an diesem Punkt vorhergesagt.
  • Dabei werden vorhergesagte Kontrollpunkte P basierend auf vorhergesagten Verbindungsstellen K ^i ermittelt. Da es zwei Kontrollpunkte mehr gibt als Verbindungen, sind zwei weitere Einschränkungen notwendig. Diese werden aus jeweils einem Tangentenvektor T0 und Tn-1 an der ersten und letzten Verbindungsstelle gemäß
    Figure 00100002
    Figure 00110001
    ermittelt.
  • Die folgenden Gleichungen [28] bis [30] stellen die zuvor beschriebenen Gleichungen [25] bis [27] in Matrix-Schreibweise dar: k = [T0 K ^0...K ^n-3 Tn-1]T, [28] p = [P0...Pn-1]T, [29] p ^ = [P ^0...Pn-1]T, [30] k = Mp. [31]
  • Die Einträge der Matrix M verändern sich über die Zeit nicht und werden im Voraus berechnet. Dies führt zu der folgenden Matrix M:
    Figure 00110002
  • Die Kontrollpunkte P ^i werden durch p ^ = M–1k ermittelt. Da sich die Matrix M über die Zeit nicht verändert, wird die Matrix M–1 zuvor berechnet. Im Aktualisierungsschritt wird der resultierende Zustandsvektor durch Messungen der Straßenbegrenzungen und -höhe korrigiert.
  • Der in der Vorhersage des vorherigen Zustands kalkulierte Zustandsvektor wird im aktuellen Zeitschritt korrigiert und dem gemessenen Straßenverlauf SV angepasst. Um den Straßenverlauf SV in horizontaler Richtung zu korrigieren, muss die Straßenbegrenzung erkannt werden. Zusätzlich werden Stereomessungen für die Aktualisierung der vertikalen Straßenprofile genutzt. Diese Stereomessungen werden mittels einer Stereokamera, eines Lidar-Scanners, eines Radar-Scanners, eines Laser-Scanners oder mittels anderer Sensoren durchgeführt.
  • In einer nicht gezeigten Weiterbildung werden bei der Ermittlung des Straßenmodells Messungen von nichtmarkierten Straßen einbezogen. Diese Einbeziehung erfolgt vorzugsweise gemäß „U. Franke u. a.: Lane recognition an country roads; In: Proceedings of the IEEE Intelligent Vehicles Symposium, 2007”.
  • Die Messungen von Straßenmarkierungen erfolgt vorzugsweise wie in „A. Gern u. a.: Vision-based Jane recognition under adverse weather conditions using optical flow; In: Proceedings of the IEEE Intelligent Vehicles Symposium, 2007” beschrieben. Die kalkulierte Weltposition des vorhergesagten dreidimensionalen Straßenverlaufs anhand von den Gleichungen [4] und [6] wird auf die Kamerabildebene projiziert, um die Position und Richtung der Straßenbegrenzung als Bildkoordinaten darzustellen. Unter Gebrauch dieser Werte wird ein Parallelogrammformbereich definiert, dessen Größe vom 3σ-Bereich unter der Annahme eines Gauß-Geräuschs abhängt. Beim Einbeziehen innerhalb dieses Bereichs erhält man eindimensionale Signale.
  • Der gemessene Bildpunkt (u, v) der ermittelten Straßenbegrenzung wird in Verbindung mit der Disparität in Weltkoordinaten (X, Y, Z) übertragen. Dies führt zu der Höhenmessung Y und dem Abstand Z. Messungen, die in Abstand oder Höhe nicht innerhalb des 3σ-Bereichs liegen, werden als Ausreißer (outliers) angesehen und verworfen. Die Gleichung [6] wird als Messgleichung für eine Filteraktualisierung genutzt. Die Stereomessungen werden mittels eines dichten Stereoalgorithmus, insbesondere eines Semi-Global Matching (SGM) durchgeführt. Diese Stereomessungen erfolgen insbesondere wie in „H. Hirschmüller: Accurate and efficient stereo processung by semiglobal matching an mutual information; In: IEEE Conference an Computer Vision and Pattern Recognition, 2005”. Hierbei werden innerhalb der Disparitäten Höhen- und Abstandswerte eines Landstraßenszenarios ermittelt.
  • Um ungeeignete Messungen an Fahrzeugen, Leitpfosten und weiteren Objekte über dem Boden zu vermeiden, wird zusätzlich ein Freiraum-Algorithmus nach „H. Badino u. a.: Free space computation using stochastic occupancy grids and dynamic programming; In: Workshop an Dynamical Vision, ICCV, 2007” genutzt.
  • Anhand der Stereomessungen in Verbindung mit ihrer Unbestimmtheit wird ein Stereobelegungs-Gitternetzplan erzeugt. Im ursprünglichen Algorithmus wird eine ebene Bodenoberfläche angenommen, was im Falle von Senken und Hügeln zu einer falschen Interpretation der Umwelt führt. Der Algorithmus wird angepasst, indem das geschätzte Höhenprofil berücksichtigt wird. Dies führt über die Zeit zu einer iterativen Korrektur des Stereobelegungs-Gitternetzes sowie zu einer Verbesserung des berechneten Freiraums.
  • Zusätzlich zu den lateralen und vertikalen Messungen werden die in den Gleichungen [8] bis [14] definierten Einschränkungen als Messwerte hinzugefügt. Sie werden durch eine Ableitung von Null für diese Werte als Messwerte in den Kalman-Filter integriert.
  • Die in der Anwendung dieses dreidimensionalen Straßenmodells im Vergleich zum Gebrauch des Klothoiden-Modells ermittelten Ergebnisse werden im folgenden Abschnitt vorgestellt.
  • Um die Effektivität des neuen dreidimensionalen Straßenmodells zu überprüfen, werden Ergebnisse von simulierten und realen Daten vorgestellt. Diese werden mit den Ergebnissen des zweidimensionalen Klothoiden-Modells verglichen, um die Notwendigkeit eines dreidimensionalen Modells zu illustrieren.
  • Um die Probleme eines gebräuchlichen Klothoiden-Modells unter der Annahme einer ebenen Straße klar zu zeigen, werden simulierte Daten einer Landstraße mit einer Senke und einem Hügel genutzt. Die Stereomessungen sind begründete, wahre Daten (ground truth data), die ausgehend von der bekannten dreidimensionalen Geometrie der Straße und den Kameradaten ermittelt wurden. Daher sind die Messungen korrekt.
  • Weiterhin wird das Straßenmodell für eine dreidimensionale Straßenkonstruktion genutzt. Die Straße wird gerade und bis zu einer Entfernung von beispielsweise jeweils 82 m und 88 m geschätzt. Die geschätzten Straßenprofile passen ziemlich gut zu den begründeten, wahren Stereomessungen.
  • Die Ergebnisse des ebenen Klothoiden-Modells zeigen die Unfähigkeit, mittels eines Klothoiden-Modells ein Höhenprofil zu schätzen. Dies ist der Grund dafür, dass die Straßenbegrenzungen nicht ermittelt werden können, wenn sich die Straße senkt. Straßenbegrenzungs-Messungen werden in dem 3σ-Bereich um die geschätzte Begrenzung herum erreicht. Wenn sich die Annahme einer ebenen Straße nicht bewahrheitet, beträgt die Differenz zwischen der Position der geschätzten und der eigentlichen Straßenbegrenzung mehr als 3σ, woraus keine oder fehlerhafte Messungen resultieren.
  • Die Ergebnisse der simulierten Daten zeigen weiterhin, dass das B-Spline-Modell in der Lage ist, prinzipiell einen dreidimensionalen Straßenverlauf darzustellen. Reale Daten entstammen selten so guten Situationen ohne atmosphärische Opazität und perfekte Straßenbedingungen. Eine nahezu optimale Situation für eine dreidimensionale Straßenkonstruktion ist, wenn die Straße in großem Abstand zu sehen ist und nicht durch eine Kurve oder einen Hügel verdeckt wird.
  • 3 zeigt ein Höhenprofil einer typischen Kurve auf einer Landstraße. Dabei liegt eine innere Straßenseite ungefähr 0,35 m unterhalb der äußeren Straßenseite. Bei Berücksichtigung der 3-Dimensionalität der Straße S wird diese Neigung der Kurve repräsentiert. Ohne die dreidimensionale Modelldarstellung würden die unterschiedlichen Höhen der linken und rechten Fahrspurbegrenzung zu einer falsch beurteilten Fahrbahnbreite führen. Das Klothoiden-Modell ist nicht in der Lage, die bevorstehende Kurve darzustellen und die Veränderung der Krümmung wird nicht ermittelt. Durch Erweiterung des Klothoiden-Modells mit dem B-Spline ist es möglich, eine Krümmungsveränderung darzustellen.
  • Dasselbe Problem tritt am Ende einer Kurve auf, was in 4 dargestellt ist. Anhand des Klothoiden-Modells wird das Ende einer Kurve wiederum nicht ermittelt, da es nicht in der Lage ist, diesen Straßenverlauf darzustellen. Unter Verwendung des neuen Straßenmodells wird die Kurve dargestellt und korrekt ermittelt.
  • 5 illustriert ein Höhenprofil, welches anhand des erfindungsgemäßen dreidimensionalen Straßenmodells für die Fahrspurerkennung auf einer ansteigenden Straße ermittelt wurde. Das Klothoiden-Modell bewertet unter der ebenen Annahme die richtige Biegung, aber das Höhenprofil illustriert den Fehler, welcher durch Bereinigung akzeptiert wird, um eine ebene Straßenannahme zu nutzen.
  • Mittels des Klothoiden-Modells sind sich verändernde Krümmungen nicht darstellbar und der bewertete Straßenverlauf SV endet in konkreten Barrieren, wohingegen mittels des erfindungsgemäßen Verfahrens anhand des B-Spline-basierten Modells eine Bewertung des korrekten Straßenverlauf SV möglich ist.
  • Die beschriebenen Situationen zeigen, dass das ebene Klothoiden-Modell nicht für komplexe Szenarien, wie Landstraßen oder Baustellen auf Straßen, geeignet ist. Am Anfang und Ende von engen Kurven ist das Klothoiden-Modell nicht in der Lage, die Abzweigung zweier Straßensegmente als Modell darzustellen. Mittels des erfindungsgemäßen Verfahrens und dessen Ausgestaltungen ist dies jedoch anhand des B-Splines möglich. Die dargestellten Höhenprofile in den 3 bis 5 stellen klar, dass das dreidimensionale Klothoiden-Modell nicht hinreichend ist, um ein komplexes Höhenprofil einer Straße S darzustellen.
  • Weiterhin werden, wie bereits erwähnt, normalerweise ein kubischer B-Spline mit sechs bis zehn Kontrollpunkten und ein Abstand zwischen diesen Punkten von 7 Meter bis 10 Meter angewendet. Die Bildverarbeitung erfolgt mittels einer Datenverarbeitungseinheit. Da das Kamerasystem insbesondere alle 40 ms ein neues Stereobildpaar liefert, wird jede Sekunde, wenn der dreidimensionale Straßenverlauf SV mit zusätzlicher Freiraumberechnung bewertet wird, ein Bild verarbeitet. Die Straßenverlauf-Bewertung wird vorzugsweise anhand von acht Kontrollpunkten mit einem maximalen Sichtbereich von 80 Meter in weniger als 55 ms pro Frame berechnet.
  • In einem weiteren Ausführungsbeispiel des erfindungsgemäßen Verfahrens wird der Kalmanfilter durch eine Kombination eines Kalmanfilters und eines Partikelfilters ersetzt, da der Kalmanfilter klare Messungen von Straßenbegrenzungen benötigt. Somit wird bei alleiniger Verwendung des Kalmanfilters ein Straßenverlauf in großer Distanz nur dann bewertet, wenn die Straßenbegrenzungen sehr exakt ermittelt wurden.
  • Durch die Kombination des Kalmanfilters mit dem Partikelfilter werden schwache Straßenhinweise sowie klare Messungen selbst bei weiteren Entfernungen für eine stabile Straßenverlauf-Bewertung genutzt. Somit wird das dreidimensionale B-Spline-basierende Straßenmodell gemäß einer Weiterbildung in Kombination mit einem Kalmanpartikelfilter genutzt, welcher wie mehrere Kalmanfilter arbeitet, um einen wahrscheinlichkeitsbasierten Fahrspurerkennungsansatz zu erhalten. Dadurch wird der Straßenverlauf selbst dann ermittelt, wenn die Straße nicht markiert und die Begrenzung der Straßenoberfläche nicht eindeutig ist.
  • Zusammenfassend ist es mittels des erfindungsgemäßen Verfahrens möglich, ein Straßenmodell zu erzeugen, welches über die Fähigkeit verfügt, komplexe dreidimensionale Straßenverläufe SV als Modell darzustellen. Das Modell basiert auf dem bewährten Klothoiden-Modell und profitiert von seiner Robustheit in naher Entfernung. Dieses Klothoiden-Modell ist um das B-Spline-Modell erweitert, um eine höhere Flexibilität zu erzielen und um komplexe Straßenverläufe SV zu beschreiben.
  • Bezugszeichenliste
  • B
    Bild
    b
    Breite
    PYli
    Höhe
    PYre
    Höhe
    S
    Straße
    SV
    Straßenverlauf
    Xvehicle
    Position des Fahrzeugs (Koordinate)
    xoffset
    lateraler Offset des Fahrzeugs
    Yvehicle
    Position des Fahrzeugs (Koordinate)
  • ZITATE ENTHALTEN IN DER BESCHREIBUNG
  • Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
  • Zitierte Nicht-Patentliteratur
    • L. Biagiotti, C. Melchiorri: Trajectory Planing for Automatic Machines and Robots; Springer Verlag Berlin Heidelberg, 2009 [0028]
    • A. Wedel u. a.: B-spline modeling of road surfaces with an application to free-space estimation; In: Transactions an intelligent Transportation Systems, Vol. 10, 2009, Seiten 572 bis 583 [0040]
    • A. Wedel u. a.: B-spline modeling of road surfaces with an application to free-space estimation; In: Transactions an intelligent Transportation Systems, Vol. 10, 2009, Seiten 572 bis 583 [0041]
    • E. Dickmanns, A. Zapp: A curvature-based scheme for improving road vehicle guidance by computer vision; In: SPIE, Vol. 727, Oktober 1986, Seiten 161 bis 168 [0051]
    • A. Gern u. a.: Vision-based Jane recognition under adverse weather conditions using optical flow; In: Proceedings of the IEEE Intelligent Vehicles Symposium, 2007 [0051]
    • U. Franke u. a.: Lane recognition an country roads; In: Proceedings of the IEEE Intelligent Vehicles Symposium, 2007 [0064]
    • A. Gern u. a.: Vision-based Jane recognition under adverse weather conditions using optical flow; In: Proceedings of the IEEE Intelligent Vehicles Symposium, 2007 [0065]
    • H. Hirschmüller: Accurate and efficient stereo processung by semiglobal matching an mutual information; In: IEEE Conference an Computer Vision and Pattern Recognition, 2005 [0066]
    • H. Badino u. a.: Free space computation using stochastic occupancy grids and dynamic programming; In: Workshop an Dynamical Vision, ICCV, 2007 [0067]

Claims (7)

  1. Verfahren zur Erzeugung eines Straßenmodells, dadurch gekennzeichnet, dass ein Straßenverlauf (SV) durch Kombination eines Klothoiden-Modells und eines B-Spline-Modells modelliert wird.
  2. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass eine laterale Position einer Fahrspurmitte bei einem Abstand aus einem lateralen Offset eines Fahrzeugs, einem Gierwinkel des Fahrzeugs, einer Krümmung des Straßenverlaufs und einer Änderung der Krümmung des Straßenverlaufs ermittelt wird, wobei die Änderung der Krümmung mittels eines B-Splines modelliert wird.
  3. Verfahren nach Anspruch 1 oder 2, dadurch gekennzeichnet, dass ein vertikaler Verlauf eines linken Fahrbahnrands und ein vertikaler Verlauf eines rechten Fahrbahnrands mittels separaten B-Splines getrennt modelliert werden.
  4. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass ein horizontaler Spurverlauf (SV) mittels Klothoiden im Klothoiden-Modell modelliert wird.
  5. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass ein dreidimensionales Straßenmodell erzeugt wird.
  6. Verfahren nach Anspruch 5, dadurch gekennzeichnet, dass zur Erzeugung des dreidimensionalen Straßenmodells Höheninformationen einer Straßenoberfläche ermittelt werden.
  7. Verfahren nach Anspruch 6, dadurch gekennzeichnet, dass die Höheninformationen mittels einer Stereokamera, eines Lidar-Scanners, eines Radar-Scanners und/oder eines Laser-Scanners ermittelt werden.
DE102010048760A 2010-09-17 2010-10-16 Verfahren zur Erzeugung eines Straßenmodells Withdrawn DE102010048760A1 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102010048760A DE102010048760A1 (de) 2010-09-17 2010-10-16 Verfahren zur Erzeugung eines Straßenmodells

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102010045676.4 2010-09-17
DE102010045676 2010-09-17
DE102010048760A DE102010048760A1 (de) 2010-09-17 2010-10-16 Verfahren zur Erzeugung eines Straßenmodells

Publications (1)

Publication Number Publication Date
DE102010048760A1 true DE102010048760A1 (de) 2011-07-28

Family

ID=44315631

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102010048760A Withdrawn DE102010048760A1 (de) 2010-09-17 2010-10-16 Verfahren zur Erzeugung eines Straßenmodells

Country Status (1)

Country Link
DE (1) DE102010048760A1 (de)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102011080720A1 (de) * 2011-08-10 2013-02-14 Robert Bosch Gmbh Visualisierung einer Rampenabfahrt
DE102012007127A1 (de) * 2011-09-24 2013-03-28 Volkswagen Aktiengesellschaft Verfahren zum Bestimmen einer Bewegungsbahn für ein Fahrzeug
US9483872B2 (en) 2014-05-27 2016-11-01 Elektrobit Automotive Gmbh Graphical representation of roads and routes using hardware tessellation
DE102017208509A1 (de) 2017-05-19 2018-11-22 Bayerische Motoren Werke Aktiengesellschaft Verfahren zum Erzeugen eines Straßenmodells während einer Fahrt eines Kraftfahrzeugs sowie Steuervorrichtung und Kraftfahrzeug
CN109074741A (zh) * 2016-03-24 2018-12-21 日产自动车株式会社 行进路检测方法及行进路检测装置
CN110968091A (zh) * 2018-09-28 2020-04-07 通用汽车环球科技运作有限责任公司 用于自动控制车辆的系统和方法
WO2021001018A1 (en) * 2019-07-01 2021-01-07 Zenuity Ab Sourced lateral offset for adas or ad features
CN113537606A (zh) * 2021-07-22 2021-10-22 上汽通用五菱汽车股份有限公司 事故预测方法、装置及计算机可读存储介质
DE102022209713A1 (de) 2022-09-15 2024-03-21 Continental Autonomous Mobility Germany GmbH Verfahren zum Erstellen eines Fahrspurmodells

Non-Patent Citations (7)

* Cited by examiner, † Cited by third party
Title
A. Gern u. a.: Vision-based Jane recognition under adverse weather conditions using optical flow; In: Proceedings of the IEEE Intelligent Vehicles Symposium, 2007
A. Wedel u. a.: B-spline modeling of road surfaces with an application to free-space estimation; In: Transactions an intelligent Transportation Systems, Vol. 10, 2009, Seiten 572 bis 583
E. Dickmanns, A. Zapp: A curvature-based scheme for improving road vehicle guidance by computer vision; In: SPIE, Vol. 727, Oktober 1986, Seiten 161 bis 168
H. Badino u. a.: Free space computation using stochastic occupancy grids and dynamic programming; In: Workshop an Dynamical Vision, ICCV, 2007
H. Hirschmüller: Accurate and efficient stereo processung by semiglobal matching an mutual information; In: IEEE Conference an Computer Vision and Pattern Recognition, 2005
L. Biagiotti, C. Melchiorri: Trajectory Planing for Automatic Machines and Robots; Springer Verlag Berlin Heidelberg, 2009
U. Franke u. a.: Lane recognition an country roads; In: Proceedings of the IEEE Intelligent Vehicles Symposium, 2007

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102011080720A1 (de) * 2011-08-10 2013-02-14 Robert Bosch Gmbh Visualisierung einer Rampenabfahrt
DE102012007127A1 (de) * 2011-09-24 2013-03-28 Volkswagen Aktiengesellschaft Verfahren zum Bestimmen einer Bewegungsbahn für ein Fahrzeug
US9483872B2 (en) 2014-05-27 2016-11-01 Elektrobit Automotive Gmbh Graphical representation of roads and routes using hardware tessellation
CN109074741A (zh) * 2016-03-24 2018-12-21 日产自动车株式会社 行进路检测方法及行进路检测装置
CN109074741B (zh) * 2016-03-24 2021-08-10 日产自动车株式会社 行进路检测方法及行进路检测装置
DE102017208509A1 (de) 2017-05-19 2018-11-22 Bayerische Motoren Werke Aktiengesellschaft Verfahren zum Erzeugen eines Straßenmodells während einer Fahrt eines Kraftfahrzeugs sowie Steuervorrichtung und Kraftfahrzeug
CN110968091A (zh) * 2018-09-28 2020-04-07 通用汽车环球科技运作有限责任公司 用于自动控制车辆的系统和方法
WO2021001018A1 (en) * 2019-07-01 2021-01-07 Zenuity Ab Sourced lateral offset for adas or ad features
CN113537606A (zh) * 2021-07-22 2021-10-22 上汽通用五菱汽车股份有限公司 事故预测方法、装置及计算机可读存储介质
CN113537606B (zh) * 2021-07-22 2023-05-30 上汽通用五菱汽车股份有限公司 事故预测方法、装置及计算机可读存储介质
DE102022209713A1 (de) 2022-09-15 2024-03-21 Continental Autonomous Mobility Germany GmbH Verfahren zum Erstellen eines Fahrspurmodells

Similar Documents

Publication Publication Date Title
DE102010048760A1 (de) Verfahren zur Erzeugung eines Straßenmodells
EP2561419B1 (de) Verfahren zur bestimmung des fahrbahnverlaufes für ein kraftfahrzeug
DE112009001197B4 (de) Selbstkalibrierung von extrinsischen Kameraparametern für eine Fahrzeugkamera
DE69635569T2 (de) Vorrichtung zum Bestimmen der lokalen Position eines Autos auf einer Strasse
DE112014000532B4 (de) Kurvenmodelliervorrichtung, Kurvenmodellierverfahren und Fahrzeugnavigationsvorrichtung
EP3055179B1 (de) Verfahren zum ermitteln einer relativen fahrbahnsteigung
DE102017209346A1 (de) Verfahren und Vorrichtung zur Erstellung einer fahrspurgenauen Straßenkarte
WO2020229002A1 (de) Verfahren und vorrichtung zur multi-sensor-datenfusion für automatisierte und autonome fahrzeuge
DE102016107705A1 (de) Reaktive Pfadplanung für autonomes Fahren
DE112017007327T5 (de) Fahrzeugpositions-schätzvorrichtung
DE102018215448B3 (de) Verfahren zur Schätzung der Geometrie eines Bewegungsweges
EP2888604A1 (de) Verfahren zur bestimmung eines fahrspurverlaufs für ein fahrzeug
DE102019115240A1 (de) Systeme und verfahren für die anwendung von landkarten zur verbesserung von objektverfolgung, fahrstreifenzuordnung und klassifizierung
DE102008041679A1 (de) Vorrichtung und Verfahren zur erinnerungsbasierten Umfelderkennung
DE102016202594A1 (de) Verfahren und Vorrichtung zum Interpretieren einer Fahrzeugumgebung eines Fahrzeugs sowie Fahrzeug
DE102016208025A1 (de) Verfahren zur Erfassung von Verkehrszeichen
DE112017007347T5 (de) Objekterkennungsvorrichtung und fahrzeug
DE102016213817A1 (de) Verfahren, Vorrichtung und computerlesbares Speichermedium mit Instruktionen zur Bestimmung der lateralen Position eines Fahrzeuges relativ zu den Fahrstreifen einer Fahrbahn
DE102018124979A1 (de) Fahrerassistenzsystem zur Bestimmung einer Entfernung zwischen zwei Fahrzeugen mit einer Kamera
DE102017205973A1 (de) Verfahren zum Ermitteln eines in einem Gierratensignal eines Gierratensensors eines Kraftfahrzeugs enthaltenen Versatzes sowie Steuervorrichtung und Kraftfahrzeug
DE102019132150A1 (de) Verfahren zum automatischen Kalibrieren eines Umfeldsensors, insbesondere eines Lidar-Sensors, eines Fahrzeugs auf Grundlage von Belegungskarten sowie Recheneinrichtung
DE112018008111T5 (de) Zielspurerzeugungsvorrichtung, Fahrzeugsteuerungsvorrichtung, Zielspurerzeugungsverfahren und Fahrzeugsteuerungsverfahren
DE102016207181B4 (de) Verfahren und System zum Bestimmen einer Position eines Fahrzeugs auf einer Fahrbahn
DE102020215420A1 (de) Verfahren zum Kalibrieren mindestens einer Kamera
WO2020160796A1 (de) Verfahren und vorrichtung zur multi-sensor-datenfusion für automatisierte und autonome fahrzeuge

Legal Events

Date Code Title Description
R230 Request for early publication
R119 Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee