DE102016213783A1 - A method, apparatus and computer readable storage medium having instructions for determining the lateral position of a vehicle relative to the lanes of a lane - Google Patents
A method, apparatus and computer readable storage medium having instructions for determining the lateral position of a vehicle relative to the lanes of a lane Download PDFInfo
- Publication number
- DE102016213783A1 DE102016213783A1 DE102016213783.2A DE102016213783A DE102016213783A1 DE 102016213783 A1 DE102016213783 A1 DE 102016213783A1 DE 102016213783 A DE102016213783 A DE 102016213783A DE 102016213783 A1 DE102016213783 A1 DE 102016213783A1
- Authority
- DE
- Germany
- Prior art keywords
- lane
- vehicle
- detected
- determining
- intersections
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
- B60W30/10—Path keeping
- B60W30/12—Lane keeping
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W60/00—Drive control systems specially adapted for autonomous road vehicles
- B60W60/001—Planning or execution of driving tasks
- B60W60/0011—Planning or execution of driving tasks involving control alternatives for a single driving scenario, e.g. planning several paths to avoid obstacles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2555/00—Input parameters relating to exterior conditions, not covered by groups B60W2552/00, B60W2554/00
- B60W2555/60—Traffic rules, e.g. speed limits or right of way
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2556/00—Input parameters relating to data
- B60W2556/20—Data confidence level
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2556/00—Input parameters relating to data
- B60W2556/45—External transmission of data to or from the vehicle
- B60W2556/50—External transmission of data to or from the vehicle for navigation systems
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2754/00—Output or target parameters relating to objects
- B60W2754/10—Spatial relation or speed relative to objects
- B60W2754/20—Lateral distance
Abstract
Ein Verfahren, eine Vorrichtung (20, 30) und ein computerlesbares Speichermedium mit Instruktionen zur Bestimmung der lateralen Position eines Fahrzeugs relativ zu den Fahrstreifen einer Fahrbahn. Eine Bildverarbeitungseinheit (22) detektiert (10) Fahrbahnmarkierungen. Eine Positionsbestimmungseinheit (23) bestimmt (11) eine Ausgangsposition für das Fahrzeug. Eine Auswerteeinheit (24) ermittelt (12) mögliche laterale Positionen des Fahrzeugs durch Vergleichen der detektierten Fahrbahnmarkierungen mit Fahrbahnmarkierungsinformationen aus einer Fahrstreifengeometriekarte für die für das Fahrzeug bestimmte Ausgangsposition. Dabei werden zumindest eine erste Menge von möglichen lateralen Positionen für eine erste detektierte Fahrbahnmarkierung und eine zweite Menge von möglichen lateralen Positionen für eine zweite detektierte Fahrbahnmarkierung ermittelt. Weiterhin bestimmt (13) die Auswerteeinheit (24) eine abschließende laterale Position des Fahrzeugs durch Anwendung zumindest einer Bewertungsfunktion auf die möglichen lateralen Positionen.A method, apparatus (20, 30), and computer readable storage medium having instructions for determining the lateral position of a vehicle relative to the lanes of a lane. An image processing unit (22) detects (10) lane markings. A position determining unit (23) determines (11) a home position for the vehicle. An evaluation unit (24) determines (12) possible lateral positions of the vehicle by comparing the detected lane markings with lane marking information from a lane geometry map for the starting position determined for the vehicle. In this case, at least a first set of possible lateral positions for a first detected lane marking and a second set of possible lateral positions for a second detected lane marking are determined. Furthermore, the evaluation unit () determines (13) a final lateral position of the vehicle by applying at least one evaluation function to the possible lateral positions.
Description
Gebiet der ErfindungField of the invention
Die vorliegende Erfindung betrifft ein Verfahren, eine Vorrichtung und ein computerlesbares Speichermedium mit Instruktionen zur Bestimmung der lateralen Position eines Fahrzeugs relativ zu den Fahrstreifen einer Fahrbahn, und insbesondere zur Bestimmung einer relativen lateralen Position mit Sub-Fahrstreifengenauigkeit. Die vorliegende Erfindung betrifft weiterhin ein Fahrzeug mit einer solchen Vorrichtung.The present invention relates to a method, an apparatus and a computer-readable storage medium having instructions for determining the lateral position of a vehicle relative to the lanes of a lane, and in particular for determining a relative lateral position with sub-lane accuracy. The present invention further relates to a vehicle with such a device.
Hintergrund der ErfindungBackground of the invention
Moderne Fahrzeuge werden zunehmend autonomer, d.h. die Fahrzeuge stellen dem Fahrer mehr und mehr Funktionen und Systeme zur Verfügung, die ihn bei der Kontrolle des Fahrzeugs durch Hinweise unterstützen oder Teile der Fahrzeugkontrolle übernehmen. Für derartige Funktionen und Systeme wird eine Vielzahl von Information über das Fahrzeug und seine Umgebung benötigt.Modern vehicles are becoming increasingly autonomous, i. The vehicles provide the driver with more and more functions and systems that assist him with control of the vehicle by indicating or taking over parts of the vehicle control. Such functions and systems require a great deal of information about the vehicle and its surroundings.
Für die Funktion „fahrstreifengenaue Navigation“ wird beispielsweise die Kenntnis über den Fahrstreifen benötigt, auf dem sich das zu navigierende Fahrzeug, das „Ego-Fahrzeug“, befindet. Dieser Fahrstreifen wird auch als „Ego-Fahrstreifen“ bezeichnet. Weiterhin werden für das automatische Fahren und Car-to-Car-basierte Anwendungen neben der Kenntnis des Ego-Fahrstreifens auch genauere Informationen hinsichtlich der Querablage des Ego-Fahrzeugs relativ zum Ego-Fahrstreifen benötigt. Es muss zu jeder Zeit mit Sub-Fahrstreifengenauigkeit bekannt sein, wo sich das Ego-Fahrzeug lateral in Bezug auf die Fahrbahn befindet.For example, the function "lane-exact navigation" requires knowledge of the lane on which the vehicle to be navigated, the "ego vehicle", is located. This lane is also referred to as "ego lane". Furthermore, for the automatic driving and car-to-car-based applications in addition to the knowledge of the ego lane also more detailed information regarding the cross-placement of the ego vehicle relative to the ego lane needed. It must be known at all times with sub-lane accuracy where the ego vehicle is laterally in relation to the lane.
Die Druckschrift
Die Druckschrift
Die Druckschrift
Zusammenfassend werden zur Zeit im Wesentlichen drei Lösungsansätze für die Bestimmung der lateralen Position eines Fahrzeugs relativ zu einer Fahrbahn verfolgt.In summary, essentially three approaches to the determination of the lateral position of a vehicle relative to a roadway are currently being pursued.
Ein erster Ansatz besteht in der Verwendung einer hochgenau eingemessenen digitalen Fahrstreifengeometriekarte mit einer absoluten Genauigkeit im Zentimeterbereich in Verbindung mit einem hochgenauen Zweifrequenz-GPS-System. Hierbei wird die Position in der Karte mit Hilfe des GPS-Sensors ohne weitere bildgebende Sensorik bestimmt. Durch GPS- und Kartenungenauigkeiten bezüglich der absoluten Position ist allerdings oftmals keine Zuordnung des Ego-Fahrzeugs zum richtigen Fahrstreifen möglich. Zudem ist eine Lösung mit einer hochgenauen Karte und hochgenauem GPS sehr kostenintensiv.A first approach is to use a highly accurate digital lane geometry map with absolute centimeter accuracy combined with a high accuracy dual frequency GPS system. Here, the position in the map with the help of the GPS sensor is determined without further imaging sensors. Due to GPS and map inaccuracies regarding the absolute position, however, it is often impossible to associate the ego vehicle with the correct lane. In addition, a solution with a high-precision map and high-precision GPS is very cost-intensive.
Ein weiterer Ansatz besteht in der Nutzung bildgebender Sensoren, z.B. eines Kamerasystems. Hierdurch wird die Zuordnung des Ego-Fahrzeugs zu Fahrstreifen bezogen auf von der Sensorik ermittelte Fahrstreifen ermöglicht. Die Nutzung von bildgebenden Sensoren ohne die gleichzeitige Verwendung einer digitalen Karte führt allerdings dazu, dass häufig nur ein oder zwei Fahrstreifen durch die Sensorik erkannt werden. Die Positionierung des Ego-Fahrzeugs kann dann nur relativ zu den erkannten Fahrstreifen erfolgen, nicht aber relativ zu allen Fahrstreifen.Another approach is to use imaging sensors, e.g. a camera system. In this way, the assignment of the ego vehicle to lanes is made possible based on lanes determined by the sensor system. The use of imaging sensors without the simultaneous use of a digital map, however, means that often only one or two lanes are detected by the sensors. The positioning of the ego vehicle can then take place only relative to the recognized lanes, but not relative to all lanes.
Ein dritter Ansatz kombiniert bildgebende Sensorik mit Karteninformationen bezüglich Anzahl und Markierungstyp der Fahrstreifen. Durch die Nutzung bildgebender Sensoren und der Information aus einer digitalen Karte, wie viele Fahrstreifen vorhanden sind und mit welcher Randmarkierung diese vorliegen (gestrichelt, durchgezogen, ...), kann das Ego-Fahrzeug zu allen Fahrstreifen zugeordnet werden. Aufgrund von Abstandsfehlern der durch die Sensoren erfassten Fahrstreifenmarkierungen relativ zum Ego-Fahrzeug ist jedoch die Genauigkeit der Querablage bezüglich des entsprechenden Fahrstreifens für die oben genannten Anwendungen nicht ausreichend.A third approach combines imaging sensors with map information regarding the number and type of lane marking. By using imaging sensors and the information from a digital map, how many lanes are present and with which edge marking they are present (dashed, solid, ...), the ego vehicle can be assigned to all lanes. Due to distance errors of the lane markings detected by the sensors relative to the ego vehicle, however, the accuracy of the cross-placement with respect to the corresponding lane is not sufficient for the above-mentioned applications.
Zusammenfassung der Erfindung Summary of the invention
Es ist eine Aufgabe der Erfindung, ein Verfahren und eine Vorrichtung zur Bestimmung einer lateralen Position eines Fahrzeugs relativ zu den Fahrstreifen einer Fahrbahn zur Verfügung zu stellen, die eine Bestimmung der relativen lateralen Position mit Sub-Fahrstreifengenauigkeit ermöglichen.It is an object of the invention to provide a method and apparatus for determining a lateral position of a vehicle relative to the lanes of a lane, which allow determination of the relative lateral position with sub-lane accuracy.
Diese Aufgabe wird durch ein Verfahren mit den Merkmalen des Anspruchs 1, durch eine Vorrichtung mit den Merkmalen des Anspruchs 10, sowie durch ein computerlesbares Speichermedium mit Instruktionen gemäß Anspruch 11 gelöst. Bevorzugte Ausgestaltungen der Erfindung sind Gegenstand der abhängigen Ansprüche.This object is achieved by a method having the features of
Gemäß einem ersten Aspekt der Erfindung umfasst ein Verfahren zur Bestimmung einer lateralen Position eines Fahrzeugs relativ zu den Fahrstreifen einer Fahrbahn die Schritte:
- – Detektieren von Fahrbahnmarkierungen;
- – Bestimmen einer Ausgangsposition für das Fahrzeug;
- – Ermitteln von möglichen lateralen Positionen des Fahrzeugs durch Vergleichen der detektierten Fahrbahnmarkierungen mit Fahrbahnmarkierungsinformationen aus einer Fahrstreifengeometriekarte für die für das Fahrzeug bestimmte Ausgangsposition, wobei zumindest eine erste Menge von möglichen lateralen Positionen für eine erste detektierte Fahrbahnmarkierung und eine zweite Menge von möglichen lateralen Positionen für eine zweite detektierte Fahrbahnmarkierung ermittelt werden; und
- – Bestimmen einer abschließenden lateralen Position des Fahrzeugs durch Anwendung zumindest einer Bewertungsfunktion auf die möglichen lateralen Positionen.
- - detecting lane markings;
- Determining a starting position for the vehicle;
- Determining possible lateral positions of the vehicle by comparing the detected lane markings with lane marking information from a lane geometry map for the vehicle determined starting position, wherein at least a first set of possible lateral positions for a first detected lane marker and a second set of possible lateral positions for a detected second detected lane marking; and
- Determining a final lateral position of the vehicle by applying at least one evaluation function to the possible lateral positions.
Gemäß einem weiteren Aspekt der Erfindung weist eine Vorrichtung zur Bestimmung einer lateralen Position eines Fahrzeugs relativ zu den Fahrstreifen einer Fahrbahn auf:
- – Eine Bildverarbeitungseinheit zum Detektieren von Fahrbahnmarkierungen;
- – Eine Positionsbestimmungseinheit zum Bestimmen einer Ausgangsposition für das Fahrzeug; und
- – Eine Auswerteeinheit zum Ermitteln von möglichen lateralen Positionen des Fahrzeugs durch Vergleichen der detektierten Fahrbahnmarkierungen mit Fahrbahnmarkierungsinformationen aus einer Fahrstreifengeometriekarte für die für das Fahrzeug bestimmte Ausgangsposition und zum Bestimmen einer abschließenden lateralen Position des Fahrzeugs durch Anwendung zumindest einer Bewertungsfunktion auf die möglichen lateralen Positionen; wobei die Auswerteeinheit eingerichtet ist, für das Ermitteln von möglichen lateralen Positionen des Fahrzeugs zumindest eine erste Menge von möglichen lateralen Positionen für eine erste detektierte Fahrbahnmarkierung und eine zweite Menge von möglichen lateralen Positionen für eine zweite detektierte Fahrbahnmarkierung zu bestimmen.
- An image processing unit for detecting lane markings;
- A position determination unit for determining a starting position for the vehicle; and
- An evaluation unit for determining possible lateral positions of the vehicle by comparing the detected lane markings with lane marking information from a lane geometry map for the starting position determined for the vehicle and determining a final lateral position of the vehicle by applying at least one evaluation function to the possible lateral positions; wherein the evaluation unit is set up to determine at least a first set of possible lateral positions for a first detected lane marking and a second set of possible lateral positions for a second detected lane marking for determining possible lateral positions of the vehicle.
Gemäß einem weiteren Aspekt der Erfindung enthält ein computerlesbares Speichermedium Instruktionen, die bei Ausführung durch einen Computer den Computer zur Ausführung der folgende Schritte veranlassen:
- – Detektieren von Fahrbahnmarkierungen;
- – Bestimmen einer Ausgangsposition für das Fahrzeug;
- – Ermitteln von möglichen lateralen Positionen des Fahrzeugs durch Vergleichen der detektierten Fahrbahnmarkierungen mit Fahrbahnmarkierungsinformationen aus einer Fahrstreifengeometriekarte für die für das Fahrzeug bestimmte Ausgangsposition, wobei zumindest eine erste Menge von möglichen lateralen Positionen für eine erste detektierte Fahrbahnmarkierung und eine zweite Menge von möglichen lateralen Positionen für eine zweite detektierte Fahrbahnmarkierung ermittelt werden; und
- – Bestimmen einer abschließenden lateralen Position des Fahrzeugs durch Anwendung zumindest einer Bewertungsfunktion auf die möglichen lateralen Positionen.
- - detecting lane markings;
- Determining a starting position for the vehicle;
- Determining possible lateral positions of the vehicle by comparing the detected lane markings with lane marking information from a lane geometry map for the vehicle determined starting position, wherein at least a first set of possible lateral positions for a first detected lane marker and a second set of possible lateral positions for a detected second detected lane marking; and
- Determining a final lateral position of the vehicle by applying at least one evaluation function to the possible lateral positions.
Die sub-fahrstreifengenauen Bestimmung der lateralen Fahrzeugposition bezogen auf die Fahrbahn basiert auf dem Abgleich von Fahrbahnmarkierungen, die durch ein bildgebendes Sensorsystem erkannt wurden, mit Fahrbahnmarkierungsgeometrien aus einer digitalen Fahrstreifengeometriekarte. Diese unterliegt keinen besonderen Anforderungen bezüglich der absoluten Genauigkeit, enthält aber die Fahrstreifenmittengeometrien und Fahrstreifenrandgeometrien mit hoher Genauigkeit zueinander. Basierend auf dem Vergleich werden mögliche laterale Positionen des Fahrzeugs ermittelt. Durch Anwendung zumindest einer Bewertungsfunktion auf die ermittelten möglichen lateralen Positionen wird eine abschließende laterale Position bestimmt, d.h. die wahrscheinlichste oder bestmögliche Position. Für das Ermitteln der möglichen lateralen Positionen werden mehrere detektierte Fahrbahnmarkierungen, vorzugsweise zwei Fahrbahnmarkierungen, herangezogen. Für jede dieser Fahrbahnmarkierungen wird versucht, eine Menge von möglichen lateralen Positionen zu ermitteln. Die resultierenden Mengen werden nachfolgend vereinigt. The sub-lane-specific determination of the lateral vehicle position relative to the roadway is based on the alignment of lane markings, which were detected by an imaging sensor system, with lane marker geometries from a digital lane geometry map. This is not subject to any special requirements for absolute accuracy, but contains the lane center geometries and lane edge geometries with high accuracy to each other. Based on the comparison, possible lateral positions of the vehicle are determined. By applying at least one weighting function to the determined possible lateral positions, a final lateral position is determined, i. the most likely or best possible position. For determining the possible lateral positions, a plurality of detected lane markings, preferably two lane markings, are used. For each of these lane markings, an attempt is made to determine a set of possible lateral positions. The resulting quantities are subsequently combined.
Auf diese Weise wird verhindert, dass aufgrund einer falsch detektierten Fahrbahnmarkierung ausschließlich schlecht positionierte mögliche laterale Positionen ermittelt werden. Beispielsweise könnte eine Teernaht irrtümlich als Fahrbahnmarkierung erkannt werden. Erfolgte die Bestimmung der lateralen Position ausschließlich basierend auf dieser vermeintlichen Fahrbahnmarkierung, wäre ein fehlerhaftes Ergebnis zu erwarten. In this way it is prevented that only poorly positioned possible lateral positions are determined due to an incorrectly detected lane marking. For example A tarmac could be erroneously recognized as a road marking. If the determination of the lateral position was based solely on this supposed lane marking, a faulty result would be expected.
Vorzugsweise sind die erste detektierte Fahrbahnmarkierung und die zweite detektierte Fahrbahnmarkierung diejenigen Fahrbahnmarkierungen, die den geringsten lateralen Abstand zur Ausgangsposition des Fahrzeugs aufweisen. Die laterale Genauigkeit der von der Kamera erkannten Geometrien nimmt tendenziell mit größerer lateraler Entfernung von der Kamera deutlich ab. Durch Betrachtung der detektierten Fahrbahnmarkierungen mit der kleinsten lateralen Entfernung zum Fahrzeug werden somit die Fahrbahnmarkierungen mit voraussichtlich größter Genauigkeit bzgl. dieser Entfernungsmessung ausgewählt.Preferably, the first detected lane marking and the second detected lane marking are those lane markings which have the smallest lateral distance to the starting position of the vehicle. The lateral accuracy of the geometries detected by the camera tends to decrease significantly with greater lateral distance from the camera. By looking at the detected lane markings with the smallest lateral distance to the vehicle, the lane markings are thus selected with presumably the greatest accuracy with respect to this distance measurement.
Gemäß einem Aspekt der Erfindung wird für das Ermitteln einer Menge von möglichen lateralen Positionen für eine ausgewählte detektierte Fahrbahnmarkierung diese Fahrbahnmarkierung sukzessive verschiedenen Fahrbahnmarkierungen der Fahrstreifengeometriekarte zugeordnet. Es wird dann versucht, für jede dieser Zuordnungen eine mögliche laterale Position zu bestimmen. Anschaulich wird hierbei angenommen, die ausgewählte detektierte Fahrbahnmarkierung entspräche der jeweiligen Fahrbahnmarkierung der Fahrstreifengeometriekarte. Auf diese Weise können aus dem Vergleich der detektierten Fahrbahnmarkierungen mit den Fahrbahnmarkierungen der Fahrstreifengeometriekarte zuverlässig mehrere mögliche laterale Fahrzeugpositionen bestimmt werden. According to one aspect of the invention, for determining a set of possible lateral positions for a selected detected lane marker, this lane marker is successively assigned to different lane markers of the lane geometry map. An attempt is then made to determine a possible lateral position for each of these assignments. Clearly, it is assumed here that the selected detected lane marking would correspond to the respective lane marking of the lane geometry map. In this way, it is possible to reliably determine a plurality of possible lateral vehicle positions from the comparison of the detected lane markings with the lane markings of the lane geometry map.
Gemäß einem Aspekt der Erfindung werden für das Zuordnen einer ausgewählten detektierten Fahrbahnmarkierung zu einer ausgewählten Fahrbahnmarkierung der Fahrstreifengeometriekarte Schnittpunkte einer zur Fahrzeugbewegung orthogonalen Linie mit den detektierten Fahrbahnmarkierungen ermittelt. Genauso werden Schnittpunkte der orthogonalen Linie mit den Fahrbahnmarkierungen der Fahrstreifengeometriekarte ermittelt. Die für die detektierten Fahrbahnmarkierungen bestimmten Schnittpunkte werden dann derart entlang der orthogonalen Linie verschoben, dass der Schnittpunkt der ausgewählten detektierten Fahrbahnmarkierung auf dem Schnittpunkt der ausgewählten Fahrbahnmarkierung der Fahrstreifengeometriekarte zu liegen kommt und die relativen Abstände der detektierten Fahrbahnmarkierungen erhalten bleiben. Durch die Reduzierung der Situationsbetrachtung auf Schnittpunkte lässt sich der zur Umsetzung der erfindungsgemäßen Lösung erforderliche Rechenaufwand erheblich verringern. According to one aspect of the invention, intersections of a line orthogonal to the vehicle movement with the detected lane markings are determined for assigning a selected detected lane marker to a selected lane marker of the lane geometry map. Likewise, intersections of the orthogonal line are determined with the lane markings of the lane geometry map. The intersection points determined for the detected lane markings are then shifted along the orthogonal line such that the intersection of the selected detected lane marker comes to rest on the intersection of the selected lane marker of the lane geometry map and the relative distances of the detected lane markings are preserved. By reducing the situation analysis to intersections, the computational effort required to implement the solution according to the invention can be significantly reduced.
Gemäß einem Aspekt der Erfindung wird der verschobene Schnittpunkt zumindest einer weiteren detektierten Fahrbahnmarkierung mit den zu seiner Position nächstgelegenen Schnittpunkten der Fahrbahnmarkierungen der Fahrstreifengeometriekarte verglichen und eine Ähnlichkeit der Schnittpunkte bewertet. Die weitere Fahrbahnmarkierung wird dann zur Fahrbahnmarkierung der Fahrstreifengeometriekarte mit der bestbewerteten Ähnlichkeit der Schnittpunkte zugeordnet. Nach der Zuordnung der ausgewählten detektierten Fahrbahnmarkierung zur ausgewählten Fahrbahnmarkierung der Fahrstreifengeometriekarte wird versucht, Zuordnungen zwischen den weiteren detektierten Fahrbahnmarkierungen und den weiteren Fahrbahnmarkierungen der Fahrstreifengeometriekarte zu ermitteln. Die jeweiligen Zuordnungen werden vorzugsweise einzeln bewertet. Aus der Gesamtheit der Bewertungen aller Zuordnungen kann dann eine Bewertung für die betrachtete Zuordnung der ausgewählten detektierten Fahrbahnmarkierung zur ausgewählten Fahrbahnmarkierung der Fahrstreifengeometriekarte abgeleitet werden. Diese kann zudem zur Bewertung der gegebenenfalls ermittelten möglichen lateralen Position genutzt werden.According to one aspect of the invention, the shifted intersection point of at least one further detected lane marking is compared with the intersection points of the lane markings of the lane geometry map nearest to its position, and a similarity of the intersections is assessed. The further lane marking is then assigned to the lane marking of the lane geometry map with the best rated similarity of the intersections. After the assignment of the selected detected pavement marker to the selected pavement marker of the lane geometry map, an attempt is made to determine associations between the further detected pavement markings and the further lane markings of the lane geometry map. The respective assignments are preferably evaluated individually. From the totality of the evaluations of all assignments, a rating for the considered assignment of the selected detected roadway marking to the selected roadway marking of the lane geometry map can then be derived. This can also be used to evaluate the possibly determined possible lateral position.
Gemäß einem Aspekt der Erfindung wird für das Bewerten der Ähnlichkeit der Schnittpunkte zumindest einer der folgenden Aspekte betrachtet: Wurde die Fahrbahnmarkierung der Fahrstreifengeometriekarte bereits einer anderen detektierten Fahrbahnmarkierung zugeordnet, wird die Reihenfolge der Fahrbahnmarkierungen beibehalten, wie groß ist die geometrische Distanz der Schnittpunkte, stimmt der Linientyp der Fahrbahnmarkierungen überein, stimmt die Linienrichtung der zugehörigen Fahrbahnmarkierungen überein? Jeder dieser Aspekte erlaubt Rückschlüsse, ob eine Übereinstimmung der Schnittpunkte plausibel und wahrscheinlich ist. Zugleich lassen sich die einzelnen Aspekte ohne größeren Rechenaufwand überprüfen, so dass der Vergleich der Schnittpunkte quasi in Echtzeit erfolgen kann. Vorzugsweise werden mehrere Aspekte betrachtet und die resultierenden Bewertungen kombiniert.According to one aspect of the invention, for evaluating the similarity of the intersections, at least one of the following aspects is considered: If the lane marker of the lane geometry map has already been assigned to another detected lane marker, the order of the lane markers is maintained, what is the geometric distance of the intersections, is that correct Line type of the lane markings match, does the line direction of the associated lane markings match? Each of these aspects allows conclusions as to whether a match of the points of intersection is plausible and probable. At the same time, the individual aspects can be checked without much computational effort, so that the comparison of the intersections can take place virtually in real time. Preferably, several aspects are considered and the resulting ratings combined.
Gemäß einem Aspekt der Erfindung wird für jede Zuordnung der ausgewählten detektierten Fahrbahnmarkierung zu einer ausgewählten Fahrbahnmarkierung der Fahrstreifengeometriekarte eine Gesamtbewertung auf Grundlage der Bewertungen der Schnittpunkte ermittelt Eine Zuordnung wird dabei verworfen, falls die zugehörige Gesamtbewertung ein Gütemaß unterschreitet. Der Vergleich der Gesamtbewertung mit einem Gütemaß erlaubt es, offensichtlich unplausible Zuordnungen zu verwerfen und nicht in die weitere Auswertung einfließen zu lassen. Das Gütemaß wird insbesondere unterschritten, wenn einem größeren Anteil der detektierten Fahrbahnmarkierungen keine Fahrbahnmarkierungen der digitalen Karte zugeordnet werden konnten. According to one aspect of the invention, for each assignment of the selected detected lane marker to a selected lane marker of the lane geometry map, an overall score is determined based on the scores of the intersections. An assignment is discarded if the associated overall score falls below a quality measure. The comparison of the overall rating with a quality measure makes it possible to discard obviously implausible allocations and not to be included in the further evaluation. The quality measure is in particular undershot, if a larger proportion of the detected lane markings no lane markings of the digital map could be assigned.
Gemäß einem Aspekt der Erfindung wird eine vorläufige mögliche laterale Position des Fahrzeugs bestimmt, indem die für das Fahrzeug bestimmte Ausgangsposition entsprechend der Verschiebung der Schnittpunkte parallel zur orthogonalen Linie verschoben wird. Mit diesem Ansatz kann mit geringem Aufwand eine vorläufige mögliche laterale Position bestimmt werden, die als Grundlage für eine spätere Optimierung dienen kann.According to one aspect of the invention, a provisional possible lateral position of the vehicle is determined by shifting the home position determined by the displacement of the points of intersection parallel to the orthogonal line. With this approach, a preliminary possible lateral position can be determined with little effort, which can serve as a basis for a later optimization.
Gemäß einem Aspekt der Erfindung wird eine Bewertungsfunktion für die vorläufige mögliche laterale Position bestimmt, die auf gewichteten Distanzen zwischen den Schnittpunkten der weiteren detektierten Fahrbahnmarkierungen und den Schnittpunkten der jeweiligen zugeordneten Fahrbahnmarkierungen der Fahrstreifengeometriekarte basiert. Die vorläufige mögliche laterale Position wird dann parallel zur orthogonalen Linie derart verschoben, dass die Bewertungsfunktion ein Funktionsminimum hat. Die resultierende verschobene vorläufige mögliche laterale Position wird schließlich als mögliche laterale Position der Zuordnung festgelegt. Auf diese Weise wird auf Grundlage der vorläufigen möglichen lateralen Position eine optimierte laterale Position bestimmt, die die Ergebnisse der Zuordnungen der detektierten Fahrbahnmarkierungen zu den Fahrbahnmarkierungen der Fahrstreifengeometriekarte berücksichtigt.In accordance with one aspect of the invention, a provisional possible lateral position score function is determined based on weighted distances between the intersections of the further detected lane markers and the intersections of the respective lane geometry map associated lane markers. The provisional possible lateral position is then shifted parallel to the orthogonal line such that the evaluation function has a functional minimum. The resulting shifted provisional possible lateral position is finally determined as a possible lateral position of the assignment. In this way, on the basis of the provisional possible lateral position, an optimized lateral position is determined, which takes into account the results of the associations of the detected lane markings to the lane markings of the lane geometry map.
Vorzugsweise werden ein erfindungsgemäßes Verfahren oder eine erfindungsgemäße Vorrichtung in einem autonom oder manuell gesteuerten Fahrzeug, insbesondere einem Kraftfahrzeug, eingesetzt.Preferably, a method according to the invention or a device according to the invention are used in an autonomously or manually controlled vehicle, in particular a motor vehicle.
Weitere Merkmale der vorliegenden Erfindung werden aus der nachfolgenden Beschreibung und den angehängten Ansprüchen in Verbindung mit den Figuren ersichtlich.Further features of the present invention will become apparent from the following description and the appended claims, taken in conjunction with the figures.
Kurze Beschreibung der FigurenBrief description of the figures
Detaillierte Beschreibung der AusführungsformenDetailed description of the embodiments
Zum besseren Verständnis der Prinzipien der vorliegenden Erfindung werden nachfolgend Ausführungsformen der Erfindung anhand der Figuren detaillierter erläutert. Es versteht sich, dass sich die Erfindung nicht auf diese Ausführungsformen beschränkt und dass die beschriebenen Merkmale auch kombiniert oder modifiziert werden können, ohne den Schutzbereich der Erfindung zu verlassen, wie er in den angehängten Ansprüchen definiert ist.For a better understanding of the principles of the present invention, embodiments of the invention will be explained in more detail below with reference to the figures. It is understood that the invention is not limited to these embodiments, and that the features described can also be combined or modified without departing from the scope of the invention as defined in the appended claims.
Beispielsweise sind die erste detektierte Fahrbahnmarkierung und die zweite detektierte Fahrbahnmarkierung diejenigen Fahrbahnmarkierungen, die den geringsten lateralen Abstand zur Ausgangsposition des Fahrzeugs aufweisen. Eine abschließende laterale Position des Fahrzeugs wird dann durch Anwendung zumindest einer Bewertungsfunktion auf die möglichen lateralen Positionen bestimmt
Eine Auswerteeinheit
Die von der Auswerteeinheit
Die Bildverarbeitungseinheit
Der Prozessor
Die Speicher
Für das Ermitteln einer Menge von möglichen lateralen Positionen für eine ausgewählte detektierte Fahrbahnmarkierung kann diese Fahrbahnmarkierung sukzessive verschiedenen Fahrbahnmarkierungen der Fahrstreifengeometriekarte zugeordnet werden. Es wird dann versucht, für jede dieser Zuordnungen eine mögliche laterale Position zu bestimmen.
Die für die detektierten Fahrbahnmarkierungen bestimmten Schnittpunkte werden dann derart entlang der orthogonalen Linie verschoben
Für die Bestimmung einer mögliche lateralen Position für eine Zuordnung werden vorzugsweise weitere detektierte Fahrbahnmarkierungen zugeordnet. Einen Ansatz dafür zeigt
Beschreibung einer bevorzugten AusführungsformDescription of a preferred embodiment
Nachfolgend soll eine bevorzugte Ausführungsform der Erfindung im Detail beschrieben werden. Das Verfahren basiert auf einer Reihe von Eingangsdaten. Benötigt werden zunächst die von dem bildgebenden Sensorsystem ermittelten Geometrie- und Eigenschaftsinformationen der sichtbaren Fahrbahnmarkierungen. Im Folgenden werden diese als BV-Linien bezeichnet (BV für Bildverarbeitung). Ebenfalls benötigt wird eine absolute Positionsinformation mit Richtungs- und Geschwindigkeitsangabe. Diese kann beispielsweise vom Fahrzeug-GPS zur Verfügung gestellt werden. Für die absoluten Positionsinformationen ist in der vorliegenden Ausführungsform eine Unterscheidung vorgesehen zwischen absoluten Positionsinformationen, die das direkte Ergebnis einer Ortung durch ein GNSS-System (GNSS: Global Navigation Satellite System) repräsentieren (GNSS Positionsdaten), und solchen, die basierend auf einer zurückliegenden GNSS-Ortung durch Dead-Reckoning (Koppelnavigation) interpoliert wurden (Absolute Positionsdaten). Optional kann auch eine relative, sprungfreie Positionsinformation genutzt werden, die z.B. mittels Bewegungsschätzung ermittelt wird. Zusätzlich werden Kartendaten mit hoher relativer Genauigkeit bezüglich Fahrstreifen und Fahrbahnmarkierungen verwendet. Hereinafter, a preferred embodiment of the invention will be described in detail. The method is based on a series of input data. What is needed first are the geometry and property information of the visible lane markings determined by the imaging sensor system. These are referred to below as BV lines (BV for image processing). Also required is absolute position information with direction and speed information. This can be provided for example by the vehicle GPS. For the absolute position information, in the present embodiment, a distinction is made between absolute position information representing the direct result of GNSS (GNSS) position finding (GNSS position data) and those based on past GNSS Location were interpolated by dead-reckoning (absolute position data). Optionally, relative, jump-free position information can also be used, e.g. is determined by motion estimation. In addition, map data with high relative accuracy regarding lanes and lane markings are used.
Diese werden beispielsweise durch einen Kartendaten-Server
Der prinzipielle Ablauf des Verfahrens gliedert sich in mehrere Teile, die in
Im Rahmen einer Aufbereitung
Die Geometrien der durch das Kamerasystem detektierten Fahrbahnmarkierungen werden typischerweise durch Klothoiden in einem fahrzeugrelativen, kartesische Koordinatensystem beschrieben. Die Klothoidenbeschreibungen werden überführt in Polylines, die die Klothoidengeometrien in guter Näherung nachbilden. Die Umwandlung in Polylines wird durchgeführt, da die nachfolgend auf den Fahrbahnmarkierungsgeometrien operierenden Algorithmen so deutlich einfacher zu implementieren sind. In der vorliegenden Ausführungsform werden die Koordinaten der Polylines aus dem fahrzeugrelativen, kartesischen Koordinatensystem in das WGS84-Koordinatensystem überführt
Die Geometrien der durch das Kamerasystem erkannten Fahrbahnmarkierungen beginnen stets kurz vor dem Fahrzeug und haben eine Ausdehnung von einigen Metern ungefähr in Fahrtrichtung/Kamerablickrichtung. Gelegentlich werden durch das Kamerasystem Fahrbahnmarkierungen zunächst korrekt erkannt und übermittelt, jedoch kurz darauf nicht mehr detektiert. Die bei einer Algorithmusiteration vorhandenen BV-Linien werden darum stets zwischengespeichert und bei der nächsten Iteration mit den neu durch das Kamerasystem übermittelten Geometrien abgeglichen
Nachfolgend werden wesentliche Geometrieaspekte extrahiert
Dazu wird zunächst eine Orthogonallinie einer konfigurierbaren Länge in einem konfigurierbaren Abstand von der ungefähren Fahrzeugposition konstruiert
Sind ausreichend aussagekräftige Informationen zu BV-Linien vorhanden, so wird nachfolgend eine Menge von möglichen Fahrzeugpositionen ermittelt
Zur Ermittlung der Menge der möglichen Fahrzeugpositionen wird eine konfigurierbare Anzahl der BV-Linien herangezogen, beispielsweise zwei BV-Linien. Dazu wird der nachfolgend beschriebene Prozess zur Ermittlung einer Anzahl möglicher Fahrzeugpositionen auf Grundlage einer ausgewählten BV-Linie mehrfach nacheinander durchgeführt, wobei immer eine andere aus der Anzahl der BV-Linien der Ermittlung zugrunde gelegt wird. Vorzugsweise werden diejenigen BV-Linien herangezogen, die den geringsten Abstand zwischen der Fahrzeugposition und ihrem zugehörigen Schnittpunkt mit der Orthogonallinie aufweisen und zugleich eine Existenzwahrscheinlichkeit oberhalb eines konfigurierbaren Schwellwertes haben. Die jeweils zugrunde gelegte BV-Linie wird im Folgenden als Leit-BV-Linie bezeichnet.To determine the quantity of possible vehicle positions, a configurable number of BV lines is used, for example two BV lines. For this purpose, the process described below for determining a number of possible vehicle positions based on a selected BV line is carried out several times in succession, always based on a different number of BV lines of the determination. Preferably, those BV lines are used which have the smallest distance between the vehicle position and its associated intersection with the orthogonal line and at the same time have a probability of existence above a configurable threshold value. The underlying BV line is referred to below as the lead BV line.
Zur Generierung von möglichen Fahrzeugpositionen auf Grundlage einer Leit-BV-Linie wird versucht, eine mögliche Fahrzeugposition zu jedem Schnittpunkt mit einem DLM-Lanemarking zu generieren. Anschaulich wird hierbei angenommen, die Leit-BV-Linie entspräche dem zum jeweiligen Marking-Schnittpunkt gehörigen DLM-Lanemarking. Die jeweils mit der Leit-BV-Linie identifizierte Fahrbahnmarkierung wird im Folgenden als Leit-Markierung bezeichnet.To generate possible vehicle positions based on a lead BV line, an attempt is made to generate a possible vehicle position at each intersection with a DLM Lanemarking. It is intuitively assumed that the lead BV line corresponds to the DLM Lanemarking belonging to the respective marking intersection. The lane marking identified in each case with the guide BV line is referred to below as the guide mark.
Das Verfahren betrachtet also nacheinander jede herangezogene BV-Linie als Leit-BV-Linie und für jede dieser Leit-BV-Linien das DLM-Lanemarking jedes vorhandenen Marking-Schnittpunktes als Leit-Markierung.Thus, the procedure considers in turn each BV-line used as the lead BV line and for each of these lead BV-lines the DLM-Lanemarking of each existing marking-intersection as a guide marker.
Die jeweils aktuell betrachtete Zuweisung der Rollen der Leit-BV-Linie und der Leit-Markierung wird im Folgenden als Leit-Zuordnung bezeichnet. Für jede einzelne Leit-Zuordnung wird versucht, nach dem im Folgenden beschriebenen Verfahren eine mögliche Fahrzeugposition zu bestimmen. Dabei ist nicht sicher, dass diese Bestimmung erfolgreich ist. Es wird also für jede Leit-Zuordnung höchstens genau eine mögliche Fahrzeugposition bestimmt.The currently considered assignment of the roles of the leading BV line and the guide marking is referred to below as a guide assignment. For each individual routing assignment, an attempt is made to determine a possible vehicle position according to the method described below. It is not certain that this provision is successful. Thus, at most exactly one possible vehicle position is determined for each guidance assignment.
Für jede Leit-Zuordnung werden die BV-Linienschnittpunkte auf der orthogonalen Strecke so angeordnet, dass der Schnittpunkt der Leit-BV-Linie auf dem der Leit-Markierung zu liegen kommt und die Abstände aller BV-Linien zueinander erhalten bleiben.For each routing assignment, the BV line intersections are placed on the orthogonal path so that the intersection of the guidance BV line is on the guide marker and the distances of all BV lines to each other are maintained.
Die Fahrzeugposition kann entsprechend parallel zur orthogonalen Strecke verschoben werden, sodass die relativen Positionen der BV-Linien zur Fahrzeugposition erhalten bleiben. Die so verschobene Fahrzeugposition wird im Folgenden als Leit-Fahrzeugposition bezeichnet. Ein Beispiel verschiedener Leit-Zuordnungen und Leit-Fahrzeugpositionen LFP ist in
Die Leit-Fahrzeugposition entspricht der vorläufig für die zu ermittelnde mögliche Fahrzeugposition angenommenen Position. Die endgültige Position der möglichen Fahrzeugposition wird jedoch erst in einem späteren Schritt bestimmt.The lead vehicle position corresponds to the position provisionally assumed for the possible vehicle position to be determined. However, the final position of the possible vehicle position is determined only in a later step.
Als nächstes werden Zuordnungen zwischen BV-Linien und DLM-Lanemarkings ermittelt. Die jeweiligen Zuordnungen werden einzeln bewertet. Aus der Gesamtheit der Bewertungen aller Zuordnungen ergibt sich eine Bewertung für die betrachtete Leit-Zuordnung und die ggf. daraus resultierende mögliche Fahrzeugposition. Next, assignments between BV lines and DLM Lanemarkings are determined. The respective assignments are evaluated individually. From the totality of the evaluations of all assignments, an evaluation results for the considered guide assignment and the possibly resulting possible vehicle position.
Zunächst wird die Leit-BV-Linie der Leit-Markierung zugeordnet. Danach werden die weiteren BV-Linien betrachtet und ggf. zugeordnet, beispielsweise in der Reihenfolge steigender Entfernung ihrer Schnittpunkte mit der Orthogonalen von der Fahrzeugposition. Dabei wird jeder BV-Linienschnittpunkt mit den zu seiner Position nächstgelegenen Marking-Schnittpunkten verglichen, die Ähnlichkeit der Schnittpunkte bewertet und eine Zuordnung der BV-Linie zum DLM-Lanemarking des bestbewerteten Schnittpunktes erstellt.First, the lead BV line is assigned to the lead mark. Thereafter, the other BV lines are considered and possibly assigned, for example in the order of increasing distance of their intersections with the orthogonal of the vehicle position. Each BV line intersection is compared with the nearest to its position marking intersections, the similarity of the intersections evaluated and created an association of the BV line to DLM Lanemarking the best rated intersection.
Bei der Bestimmung der Ähnlichkeit von BV-Linienschnittpunkten und Marking-Schnittpunkten können beispielsweise die nachfolgend beschriebenen Kriterien betrachtet werden. Vorzugsweise sind die konkreten Zahlenwerte und Gewichtungen der einzelnen Kriterien konfigurierbar.In determining the similarity of BV line intersections and marking intersections, for example, the criteria described below may be considered. The concrete numerical values and weightings of the individual criteria are preferably configurable.
DLM-Lanemarking unbelegt: Ein erstes Kriterium ist die Frage, ob das DLM-Lanemarking unbelegt ist. Ist das DLM-Lanemarking bereits mit einer anderen BV-Linie verknüpft, so folgt daraus eine schlechte Bewertung der Ähnlichkeit.DLM Lanemarking unoccupied: A first criterion is the question of whether the DLM Lanemarking is unoccupied. If the DLM Lanemarking is already linked to another BV line, the result is a poor evaluation of the similarity.
Erhalt der Reihenfolge: Ein zweites DLM-Lanemarking links eines ersten DLM-Lanemarkings, dem bereits eine BV-Linie zugeordnet ist, soll nicht einer BV-Linie rechts dieser zugeordneten BV-Linie zugeordnet werden. Ist dies doch der Fall, folgt hieraus eine schlechte Bewertung der Ähnlichkeit.Preservation of order: A second DLM Lanemarking on the left of a first DLM Lanemarkings, to which a BV line is already assigned, should not be assigned to a BV line on the right of this assigned BV line. If this is the case, this results in a poor evaluation of similarity.
Distanz der Schnittpunkte: Wie weit liegen die Schnittpunkte voneinander entfernt? Eine größere Entfernung führt dabei zu einer schlechteren Bewertung. Für größere laterale Entfernungen der betrachteten Schnittpunkte zur Leit-Fahrzeugposition kann allerdings eine größere Ungenauigkeit des Kamerasystems in Bezug auf die Abschätzung der lateralen Position der BV-Linien angenommen werden. Entsprechend sind Entfernungen der Schnittpunkte zueinander mit steigender Entfernung der Schnittpunkte zur Leit-Fahrzeugposition weniger stark schlecht zu bewerten.Distance of the intersections: How far are the intersection points apart? A larger distance leads to a worse rating. However, for larger lateral distances of the considered intersections to the lead vehicle position, a greater inaccuracy of the camera system with respect to the estimation of the lateral position of the BV lines may be assumed. Correspondingly, distances of the intersections to one another are less badly evaluated with increasing distance of the intersections to the lead vehicle position.
Linientyp der Fahrbahnmarkierung: Passt die Art der Fahrbahnmarkierung (Linie gestrichelt/durchgezogen, Leitplanke, Fahrbahnrand, ...) gemäß DLM-Lanemarking und BV-Linie zusammen? Für diese Bewertung ist vorzugsweise eine konfigurierbare Matrix vorgesehen, die für jede Kombination aus BV-Line- und Kartenfahrbahnmarkierungstyp einen spezifischen Wert zuordnet. So können häufig vorkommende Fehlzuordnungen der Kamera, z.B. die Erkennung einer durchgezogenen als gestrichelte Linie, mit einer nur geringfügig schlechten Bewertung, unwahrscheinliche Fehlzuordnungen der Kamera, z.B. die Erkennung von Fahrbahnrand als Leitplanke, mit einer deutlich schlechten Bewertung assoziiert werden.Line type of lane marking: Does the type of lane marking (dashed / solid line, guardrail, roadway edge, ...) fit together in accordance with DLM Lanemarking and BV Line? For this evaluation, a configurable matrix is preferably provided which assigns a specific value for each combination of the BV-line and the ticket-lane marking type. Thus, common misallocations of the camera, e.g. the detection of a solid as a dashed line, with only a slightly poor rating, improbable misallocations of the camera, e.g. the detection of lane edge as a guardrail, associated with a significantly poor rating.
Linienrichtung: Passt die Richtung der BV-Linie (im Schnittpunkt mit der Orthogonalen) zur Richtung des DLM-Lanemarking (im Schnittpunkt mit der Orthogonalen)? Hierbei ist zu beachten, dass die Linien sich geometrisch ähnlich sein sollen, eine implizite Richtung ist jedoch irrelevant. Line direction: Does the direction of the BV line (at the intersection with the orthogonal line) match the direction of the DLM Lanemarking (at the intersection with the orthogonal)? It should be noted that the lines should be geometrically similar, but an implicit direction is irrelevant.
Lückenfreie Erkennung: Gibt es laut Karte Fahrbahnmarkierungen, d.h. Marking-Schnittpunkte, zwischen dem zu bewertenden Marking-Schnittpunkt und dem nächstgelegenen Marking-Schnittpunkt, dessen DLM-Lanemarking bereits einer BV-Linie zugeordnet ist? Jedes solche unzugeordnete DLM-Lanemarking verschlechtert die Bewertung.Gap-free detection: According to the map, there are lane markings, i. Marking intersections, between the marking point to be evaluated and the nearest marking intersection, whose DLM Lanemarking is already assigned to a BV line? Any such unassigned DLM Lanemarking degrades the rating.
Hierbei kann eine Ausnahme vorgesehen werden für den Fall, dass der Abstand des zu bewertenden Marking-Schnittpunktes zum Schnittpunkt des unzugeordneten DLM-Lanemarking unterhalb eines konfigurierbaren Schwellwertes liegt. Zwei nah beieinanderliegende DLM-Lanemarkings, z.B. eine durchgezogene neben einer gestrichelten Linie, werden durch die Kamera u.U. nur als eine einzelne Linie erkannt. Zwar sind solche Linien meist auch im DLM-Datensatz als nur eine Linie mit dem Typ gestrichelt-und-durchgezogen (o.ä.) hinterlegt, dies ist aber nicht immer der Fall. Ebenso können beispielsweise zwei zusammenlaufende Linien zwei nah beieinanderliegende Marking-Schnittpunkte erzeugen, die Kamera wird aber mit großer Wahrscheinlichkeit ab einem gewissen Zeitpunkt nur noch eine Linie detektieren. Durch die vorgesehene Ausnahme werden solche Situationen berücksichtigt.In this case, an exception may be provided in the event that the distance of the marking point to be evaluated from the point of intersection of the unassigned DLM Lanemarking is below a configurable threshold value. Two closely spaced DLM Lanemarkings, e.g. a solid next to a dashed line, are u.U. only recognized as a single line. Although such lines are usually also in the DLM data set as only a line with the type dashed-and-drawn (or similar) deposited, but this is not always the case. Likewise, for example, two converging lines may produce two closely spaced marking intersections, but the camera will most likely only detect one line at some point in time. The proposed exception takes into account such situations.
Eine weitere Ausnahme kann vorgesehen werden für den Fall, dass der Abstand des zu bewertenden Marking-Schnittpunktes zur Leit-Fahrzeugposition unterhalb eines konfigurierbaren Schwellwertes liegt. Manche Kamerasysteme detektieren Fahrbahnmarkierung oft dann nicht (mehr), wenn das Fahrzeug diese überquert. A further exception can be provided for the case in which the distance of the marking intersection point to be evaluated from the guide vehicle position is below a configurable threshold value. Some camera systems often do not detect lane marking (anymore) when the vehicle crosses it.
BV-Linien mit großer lateraler Nähe zur Kamera/zum Fahrzeug werden durch die Konfiguration des Kamerasystems bewusst ignoriert, beispielsweise um BV-Linien von möglicherweise fälschlich als Fahrbahnmarkierung erkannten Teernähten der Fahrbahn herauszufiltern. Die Berücksichtigung der Ausnahmeregelung bei Nähe zur Leit-Fahrzeugposition ist vorzugsweise konfigurierbar zu- und abschaltbar. Auf diese Weise ist das Verfahren anpassbar sowohl an Kamerasysteme, die eine Filterung fahrzeugnaher BV-Linien vornehmen, und an solche, die dies nicht tun.BV lines with large lateral proximity to the camera / vehicle are deliberately ignored by the configuration of the camera system, for example, to filter out BV lines from road surface tread seams which may be falsely recognized as lane markers. The consideration of the exception regulation in the vicinity of the lead vehicle position is preferably configurable switched on and off. In this way, the method is adaptable to both camera systems requiring filtering vehicle-related BV lines and to those who do not.
Statt der Bewertung abhängig von der Überschreitung eines Schwellwertes kann auch ein als Funktion des Abstandes berechneter Wert oder eine Kombination aus beidem zur Bewertung herangezogen werden.Instead of the evaluation depending on the exceeding of a threshold value, a value calculated as a function of the distance or a combination of the two can also be used for the evaluation.
Die eingesetzten Kamerasysteme erkennen gelegentlich fälschlich BV-Linien, obwohl tatsächlich an den ermittelten Positionen gar keine Fahrbahnmarkierungen vorhanden sind. Wird bei der Suche eines DLM-Lanemarkings zur Zuordnung zu einer BV-Linie bei gegebener Leit-BV-Linie und gegebener Leit-Markierung kein DLM-Lanemarking gefunden, sodass die Bewertung einer entsprechenden Zuordnung einen konfigurierbaren Gütewert erreicht oder überschreitet, so wird angenommen, dass es sich bei dieser BV-Linie um eine von der Kamera fälschlich erkannte Linie handelt und es wird keine Zuordnung vorgenommen.Occasionally, the camera systems used incorrectly detect BV lines, although in fact there are no road markings at the positions determined. If no DLM Lanemarking is found in the search of a DLM Lanemarking for assignment to a BV line for a given BV line and given Leit marker, so that the evaluation of a corresponding assignment reaches or exceeds a configurable quality value, it is assumed that this BV line is a wrongly recognized line by the camera and no assignment is made.
Für jede BV-Linie, der kein DLM-Lanemarking mit hinreichender Güte zugeordnet werden kann, verschlechtert sich die Gesamtbewertung der Leit-Zuordnung. Eine passende Zuordnung sollte stets zu einer besseren Gesamtbewertung der Leit-Zuordnung führen als dies ein Nicht-Zuordnen der BV-Linie täte.For any BV line that can not be assigned DLM Lanemarking with sufficient quality, the overall rating of the lead assignment deteriorates. An appropriate allocation should always lead to a better overall rating of the lead allocation than would a non-assignment of the BV line.
Ist die Zuordnung von DLM-Lanemarkings zu allen BV-Linien abgeschlossen wird vorzugsweise geprüft, ob die Gesamtbewertung der Leit-Zuordnung ein konfigurierbares Gütemaß unterschreitet. Ist dies der Fall, so wird die Leit-Zuordnung als unplausible Annahme verworfen und hierzu keine mögliche Fahrzeugposition ausgegeben. Die weitere Behandlung der Leit-Zuordnung entfällt und das Verfahren setzt unmittelbar mit der nächsten Leit-Zuordnung fort. Das Gütemaß wird insbesondere unterschritten, wenn einem größeren Anteil der BV-Linien keine DLM-Lanemarkings zugeordnet werden konnten.If the assignment of DLM Lanemarkings to all BV lines is completed, it is preferably checked whether the overall rating of the guide assignment falls below a configurable quality measure. If this is the case, the lead assignment is discarded as an implausible assumption and for this purpose no possible vehicle position is output. The further treatment of the lead assignment is dispensed with and the method continues immediately with the next lead assignment. In particular, the quality standard is undercut if a larger proportion of BV lines could not be assigned DLM Lanemarkings.
Wie oben beschrieben wurde die Leit-Fahrzeugposition entsprechend der Zuordnung der Leit-Markierung zur Leit-BV-Linie anhand der relativen Position der Leit-BV-Linie zum Fahrzeug bestimmt. As described above, the guidance vehicle position has been determined according to the assignment of the guidance mark to the guidance BV line based on the relative position of the guidance BV line to the vehicle.
Die Lage der möglichen Fahrzeugposition soll zusätzlich auch die Zuordnungen von DLM-Lanemarkings zu den anderen BV-Linien berücksichtigen. Dazu werden beispielsweise die Quadrate der Abstände der BV-Linienschnittpunkte zu den jeweils zugeordneten Marking-Schnittpunkten entsprechend ihrer Entfernung zur Fahrzeugposition gewichtet aufsummiert. Dabei erfolgt eine kleinere Gewichtung bei größerer Entfernung, z.B. eine Gewichtung mit dem Kehrwert der quadrierten Entfernung. Die resultierende Summe wird als Funktion einer Verschiebung aller BV-Linienschnittpunkte entlang der Orthogonalen betrachtet und das Funktionsminimum bestimmt.The location of the possible vehicle position should also take into account the assignments of DLM Lanemarkings to the other BV lines. For this purpose, for example, the squares of the distances of the BV line intersections to the respectively assigned marking intersection points are summed up according to their distance to the vehicle position. There is a smaller weighting at greater distance, e.g. a weight with the inverse of the squared distance. The resulting sum is considered as a function of a shift of all BV line intersections along the orthogonal and determines the functional minimum.
Das Funktionsminimum stellt sich ein bei einer Verschiebung der BV-Linienschnittpunkte um den gewichteten arithmetischen Mittelwert der Abstände zwischen den BV-Linienschnittpunkten und den jeweiligen Marking-Schnittpunkten.The functional minimum occurs when the BV line intersections are shifted by the weighted arithmetic mean of the distances between the BV line intersections and the respective marking intersections.
Die Position, die sich durch verschieben der Leit-Fahrzeugposition um den Wert des Funktionsminimums ergibt, ist die endgültige, aus dieser Kombination aus Leit-BV-Linie und Leit-Marking ermittelte mögliche Fahrzeugposition.The position resulting from shifting the master vehicle position by the value of the functional minimum is the final vehicle position determined from that combination of master BV line and lead mark.
Die insgesamt ermittelten möglichen Fahrzeugpositionen werden nachfolgend durch eine Sequenz entsprechender Bewertungsfunktionen bewertet
Während des Ablaufs des Verfahrens kann es an diversen Stellen vorkommen, dass aufgrund des Fehlens von Eingangsdaten oder einer unzureichenden Qualität der Eingangsdaten eine Positionsbestimmung nicht möglich ist und der Ablauf nicht fortgesetzt werden kann. Für solche Fälle ist es möglich, den modularen Ablauf an der entsprechenden Stelle zu verlassen und eine Fehlerbehandlung
Beispielsweise wird bei Nichtverfügbarkeit von Kartendaten für die aktuelle Fahrzeugposition gemäß absoluter Positionsinformation keine Ermittlung der möglichen Fahrzeugpositionen durchgeführt. Bei Ausbleiben absoluter Positionsinformationen (z.B. kein GNSS-Empfang durch Bauwerke) kann bei Verfügbarkeit relativer Positionsinformationen die absolute Positionsinformation durch eine frühere absolute Positionsinformation und relative Positionsinformationen ersetzt werden. Stehen keine relativen Positionsinformationen zur Verfügung, wird bei Ausbleiben absoluter Positionsinformationen keine Ermittlung der möglichen Fahrzeugpositionen durchgeführt. In solchen Fällen wird ein entsprechender Fehlerzustand ausgegeben
BezugszeichenlisteLIST OF REFERENCE NUMBERS
- 1010
- Detektieren von Fahrbahnmarkierungen Detecting road markings
- 1111
- Bestimmen einer Ausgangsposition für das Fahrzeug Determining a starting position for the vehicle
- 1212
- Ermitteln von möglichen lateralen Fahrzeugpositionen durch Vergleich mit Fahrstreifengeometriekarte Determining possible lateral vehicle positions by comparison with lane geometry map
- 1313
- Bestimmen einer abschließenden lateralen Fahrzeugposition durch Anwendung von Bewertungsfunktion Determine a final lateral vehicle position by using evaluation function
- 1414
- Ermitteln von Schnittpunkten für detektierte Fahrbahnmarkierungen Determining intersections for detected lane markings
- 1515
- Ermitteln von Schnittpunkten für Fahrbahnmarkierungen der Fahrstreifengeometriekarte Determining intersections for lane markings of the lane geometry map
- 1616
- Verschieben der Schnittpunkte der detektierten Fahrbahnmarkierungen orthogonal zur Fahrzeugbewegung Moving the intersections of the detected lane markings orthogonal to the vehicle movement
- 1717
- Vergleichen eines verschobenen Schnittpunktes mit nächstgelegenen Schnittpunkten Compare a shifted intersection with nearest intersections
- 1818
- Bewerten einer Ähnlichkeit der Schnittpunkte Evaluate a similarity of intersections
- 1919
- Zuordnen einer Fahrbahnmarkierung entsprechend der Ähnlichkeit der Schnittpunkte Assigning a lane marking according to the similarity of the intersections
- 2020
- Vorrichtung contraption
- 2121
- Eingang entrance
- 2222
- Bildverarbeitungseinheit Image processing unit
- 2323
- Positionsbestimmungseinheit Position Determination Entity
- 2424
- Auswerteeinheit evaluation
- 2525
- Kameraeinheit camera unit
- 2626
- GPS-Empfänger GPS receiver
- 2727
- Ausgang output
- 2828
- Speicher Storage
- 3030
- Vorrichtung contraption
- 3131
- Speicher Storage
- 3232
- Prozessor processor
- 3333
- Eingang entrance
- 3434
- Ausgang output
- 4040
- Aufbereitung der Eingangsdaten Preparation of the input data
- 4141
- Bestimmen einer ungefähren Fahrzeugposition Determining an approximate vehicle position
- 4242
- Überführen in WGS84-Koordinatensystem Transfer to WGS84 coordinate system
- 4343
- Abgleich der neu übermittelten Geometrien Adjustment of newly transmitted geometries
- 5050
- Extrahieren von Geometrieaspekten Extract geometry aspects
- 5151
- Konstruieren einer Orthogonallinie Construct an orthogonal line
- 5252
- Ermitteln von Kartenschnittpunkten Determine map intersections
- 5353
- Ermitteln von Schnittpunkten mit BV-Linien Determining points of intersection with BV lines
- 6060
- Ermitteln von möglichen Fahrzeugpositionen Determining possible vehicle positions
- 7070
- Bewerten der möglichen Fahrzeugpositionen Evaluate the possible vehicle positions
- 7171
- Erste Bewertungsfunktion First evaluation function
- 7272
- Zweite Bewertungsfunktion Second evaluation function
- 7373
- Dritte Bewertungsfunktion Third valuation function
- 8080
- Selektion der bestbewerteten Fahrzeugposition Selection of the best rated vehicle position
- 9090
- Fehlerbehandlung error handling
- 9191
- Ausgeben eines Fehlerzustands Issue an error condition
- 9292
- Kartenbasiertes Verfahren Card-based procedure
- 100100
- Aufbereiten der Ergebnisse Processing the results
- 110110
- Kartendaten-Server Map data server
- FBFB
- Fahrbahn roadway
- FSFS
- Fahrspur lane
- FSMFSM
- Fahrspurmitte lane center
- FBMFBM
- Fahrbahnmarkierung road marking
- OLOIL
- Orthogonallinie orthogonal line
- SPMSPM
- Marking-Schnittpunk Marking cut Punk
- SPLSPL
- Lane-Schnittpunkt Lane intersection
- APAP
- Ausgangsposition starting position
- BVLBVL
- BV-Linie BV line
- BVSBVS
- Schnittpunkt mit BV-Linie Intersection with BV line
- LBLLBL
- Leit-BV-Linie Leit-BV line
- LMLM
- Leit-Markierung Routing label
- LFPLFP
- Leit-Fahrzeugposition Leit-vehicle position
ZITATE ENTHALTEN IN DER BESCHREIBUNG QUOTES INCLUDE IN THE DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant has been generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte PatentliteraturCited patent literature
- US 2014/0358321 A1 [0004] US 2014/0358321 A1 [0004]
- EP 2899669 A1 [0005] EP 2899669 A1 [0005]
- DE 102012104786 A1 [0006] DE 102012104786 A1 [0006]
Claims (12)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102016213783.2A DE102016213783A1 (en) | 2016-07-27 | 2016-07-27 | A method, apparatus and computer readable storage medium having instructions for determining the lateral position of a vehicle relative to the lanes of a lane |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102016213783.2A DE102016213783A1 (en) | 2016-07-27 | 2016-07-27 | A method, apparatus and computer readable storage medium having instructions for determining the lateral position of a vehicle relative to the lanes of a lane |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102016213783A1 true DE102016213783A1 (en) | 2018-02-01 |
Family
ID=60950888
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102016213783.2A Pending DE102016213783A1 (en) | 2016-07-27 | 2016-07-27 | A method, apparatus and computer readable storage medium having instructions for determining the lateral position of a vehicle relative to the lanes of a lane |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102016213783A1 (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102018221864A1 (en) | 2018-12-17 | 2020-06-18 | Volkswagen Aktiengesellschaft | Method and system for determining a trajectory of a vehicle |
CN113924240A (en) * | 2019-06-06 | 2022-01-11 | 雷诺股份公司 | Method for calculating the lateral position of a motor vehicle |
DE102020216496A1 (en) | 2020-12-22 | 2022-06-23 | Robert Bosch Gesellschaft mit beschränkter Haftung | Method for operating an at least partially automated vehicle |
DE102022004774A1 (en) | 2021-12-21 | 2023-06-22 | Mercedes-Benz Group AG | System for lane determination of an ego vehicle using lane attributes and method thereof |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102012104786A1 (en) | 2011-06-09 | 2012-12-13 | Gm Global Technology Operations, Llc | Tracking enhancement using object vehicle information for lane centering / attitude |
US20140358321A1 (en) | 2013-06-01 | 2014-12-04 | Faroog Ibrahim | System and method for lane boundary estimation and host vehicle position and orientation |
EP2899669A1 (en) | 2014-01-22 | 2015-07-29 | Honda Research Institute Europe GmbH | Lane relative position estimation method and system for driver assistance systems |
-
2016
- 2016-07-27 DE DE102016213783.2A patent/DE102016213783A1/en active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102012104786A1 (en) | 2011-06-09 | 2012-12-13 | Gm Global Technology Operations, Llc | Tracking enhancement using object vehicle information for lane centering / attitude |
US20140358321A1 (en) | 2013-06-01 | 2014-12-04 | Faroog Ibrahim | System and method for lane boundary estimation and host vehicle position and orientation |
EP2899669A1 (en) | 2014-01-22 | 2015-07-29 | Honda Research Institute Europe GmbH | Lane relative position estimation method and system for driver assistance systems |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102018221864A1 (en) | 2018-12-17 | 2020-06-18 | Volkswagen Aktiengesellschaft | Method and system for determining a trajectory of a vehicle |
WO2020126338A1 (en) | 2018-12-17 | 2020-06-25 | Volkswagen Aktiengesellschaft | Method and system for determining a corrected trajectory of a vehicle |
CN113924240A (en) * | 2019-06-06 | 2022-01-11 | 雷诺股份公司 | Method for calculating the lateral position of a motor vehicle |
DE102020216496A1 (en) | 2020-12-22 | 2022-06-23 | Robert Bosch Gesellschaft mit beschränkter Haftung | Method for operating an at least partially automated vehicle |
DE102022004774A1 (en) | 2021-12-21 | 2023-06-22 | Mercedes-Benz Group AG | System for lane determination of an ego vehicle using lane attributes and method thereof |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3584663B1 (en) | Method for automatic transverse guidance of a follow vehicle in a vehicle platoon | |
DE102016213782A1 (en) | A method, apparatus and computer readable storage medium having instructions for determining the lateral position of a vehicle relative to the lanes of a lane | |
DE102016209232B4 (en) | Method, device and computer-readable storage medium with instructions for determining the lateral position of a vehicle relative to the lanes of a roadway | |
DE102017009435B4 (en) | Evaluation of components of automatic driving functions and lane recognition at different processing levels | |
DE102015214338A1 (en) | Determining an arrangement information for a vehicle | |
DE102010006828A1 (en) | Method for creating model of surrounding of vehicle, involves detecting surrounding of vehicle with help of sensor, where two surrounding models are produced automatically on basis of sensor data | |
DE102016213817A1 (en) | A method, apparatus and computer readable storage medium having instructions for determining the lateral position of a vehicle relative to the lanes of a lane | |
EP3161808B1 (en) | Method for processing measurement data of a vehicle in order to determine the start of a search for a parking space and computer program product | |
DE102010007091A1 (en) | Method for determining the position of a motor vehicle | |
DE102016213783A1 (en) | A method, apparatus and computer readable storage medium having instructions for determining the lateral position of a vehicle relative to the lanes of a lane | |
WO2013174732A1 (en) | Carriageway recognition | |
DE102016217718A1 (en) | METHOD, DEVICE AND COMPUTER READABLE STORAGE MEDIUM WITH INSTRUCTIONS FOR DETERMINING A POSITION OF A VEHICLE WITHIN A PARK SURFACE | |
DE102018209607A1 (en) | Method and device for determining a position of a motor vehicle | |
DE102020210515A1 (en) | Method for checking detected changes for an environment model of a digital environment map | |
WO2017102192A1 (en) | Improved method for determining the roadside development of a road for locating motor vehicles | |
WO2021139974A1 (en) | Method for combining a plurality of data sets for generating a current lane model of a road and device for data processing | |
DE102017108107A1 (en) | METHOD, DEVICE AND COMPUTER READABLE STORAGE MEDIUM WITH INSTRUCTIONS FOR ESTIMATING A POSE OF A MOTOR VEHICLE | |
DE102019217144B4 (en) | Traffic light lane assignment from swarm data | |
DE102017207544A1 (en) | METHOD, DEVICES AND COMPUTER READABLE STORAGE MEDIUM WITH INSTRUCTIONS FOR LOCATING A DATE MENTIONED BY A MOTOR VEHICLE | |
EP3669341A1 (en) | Method, device and computer-readable storage medium with instructions for processing data in a motor vehicle for transmission to a back end | |
DE102013217060B4 (en) | Accurate positioning of a vehicle | |
WO2019063208A1 (en) | Method for automatically identifying parking areas and/or non-parking areas | |
DE102020211331A1 (en) | Allocation of traffic lights to associated lanes | |
DE102015211150A1 (en) | Method, driver assistance system and vehicle for learning a trajectory of a road section | |
DE102013217061A1 (en) | Accurate positioning of a vehicle |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R012 | Request for examination validly filed | ||
R016 | Response to examination communication | ||
R079 | Amendment of ipc main class |
Free format text: PREVIOUS MAIN CLASS: G06K0009620000 Ipc: G06V0030190000 |
|
R016 | Response to examination communication |