DE102009048066A1 - Verfahren zur Verkehrszeichenerkennung - Google Patents

Verfahren zur Verkehrszeichenerkennung Download PDF

Info

Publication number
DE102009048066A1
DE102009048066A1 DE102009048066A DE102009048066A DE102009048066A1 DE 102009048066 A1 DE102009048066 A1 DE 102009048066A1 DE 102009048066 A DE102009048066 A DE 102009048066A DE 102009048066 A DE102009048066 A DE 102009048066A DE 102009048066 A1 DE102009048066 A1 DE 102009048066A1
Authority
DE
Germany
Prior art keywords
image
class
specific feature
image section
traffic sign
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
DE102009048066A
Other languages
English (en)
Inventor
Matthias Dr. Zobel
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Conti Temic Microelectronic GmbH
Original Assignee
Conti Temic Microelectronic GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Conti Temic Microelectronic GmbH filed Critical Conti Temic Microelectronic GmbH
Priority to DE102009048066A priority Critical patent/DE102009048066A1/de
Priority to US13/388,095 priority patent/US9418303B2/en
Priority to DE112010001500T priority patent/DE112010001500A5/de
Priority to PCT/DE2010/001123 priority patent/WO2011038714A1/de
Priority to JP2012531237A priority patent/JP5657677B2/ja
Priority to EP10776537.2A priority patent/EP2483836B1/de
Publication of DE102009048066A1 publication Critical patent/DE102009048066A1/de
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/582Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/32Normalisation of the pattern dimensions

Abstract

Die Erfindung betrifft ein Verfahren zur Verkehrszeichenerkennung, welches die Bilddaten eines Sensors (1) in einer Informationsverarbeitungseinheit analysiert und klassifiziert, wobei - in einem ersten Verfahrensschritt auf der Grundlage der Ergebnisse einer Analyse wenigstens ein Bildausschnitt (10) ermittelt wird, der mit hinreichender Wahrscheinlichkeit ein Objekt enthält, das ein Verkehrszeichen einer bestimmten Klasse von Verkehrszeichen ist, und - in einem zweiten Verfahrensschritt dieser Bildausschnitt (10) einem Klassifikator (5) zugeführt wird, der auf der Basis des ausgewählten Bildausschnittes (10) mittels eines lernbasierten Algorithmus ein Verkehrszeichen aus der bestimmten Klasse erkennt; erfindungsgemäß wird - im ersten Verfahrensschritt ein klassenspezifisches Merkmal (11) in dem Bildausschnitt (10) identifiziert, - ein modifizierter Bildausschnitt (12) mit dem klassenspezifischen Merkmal (11) in dessen Bildzentrum erzeugt, wobei die durch das Verschieben des klassenspezifischen Merkmals (11) in das Bildzentrum entstehenden Bildbereiche (13, 14, 15) mit geeigneten Bildpunkten aufgefüllt werden, und - der modifizierte Bildausschnitt (12) dem Klassifikator (5) zugeführt.

Description

  • Die Erfindung betrifft ein Verfahren zur Verkehrszeichenerkennung gemäß Oberbegriff des Patentanspruchs 1.
  • Zunehmend werden moderne Fahrerassistenzsysteme mit einem elektronischen Verkehrszeichenerkennungssystem ausgerüstet, um bspw. den Fahrer bei einer Geschwindigkeitsüberschreitung zu warnen. Hierzu nimmt eine Kamera die Umgebung vor dem Fahrzeug auf und liefert entsprechende Bilddaten an einen Bordcomputer, der mittels eines Algorithmus die Bilddaten analysiert und klassifiziert, um hieraus ein Verkehrszeichen zu identifizieren.
  • Ein solches Verfahren ist bspw. aus der DE 198 52 631 A1 bekannt.
  • Das Ziel solcher Verfahren zur Verkehrszeichenerkennung besteht darin, die Ablehnungsquote, also den Anteil der nicht oder falsch erkannter Zeichen zu minimieren. Dabei wäre von Vorteil, wenn alle Verkehrszeichen hinsichtlich ihrer Bauform einer Norm unterliegen würden, wodurch die Vielfalt unterschiedlicher Verkehrszeichen, vor allem hinsichtlich des ausländischen Straßenverkehrs, reduziert wäre. So einigten sich im Wiener Übereinkommen über Straßenverkehrszeichen mehrere europäische Länder teilweise auf eine Vereinheitlichung der Verkehrszeichen, so dass bspw. ein Tempolimit-Hinweis charakteristisch aus einem runden Schild mit rotem Außenring und einer Zahl für die Geschwindigkeitsbegrenzung bestehen soll.
  • Verfahren zur Verkehrszeichenerkennung arbeiten nach dem Schema, wonach in einer Detektionsphase im Kamerabild Bildregionen identifiziert werden, die potentielle Verkehrszeichen enthalten können. Diese Zeichenhypothesen werden in einem zweiten Verfahrensschritt anschließend einem Klassifikator vorgelegt, der entscheidet, ob sich in der Bildregion ein Verkehrszeichen befindet und um welches Verkehrszeichen es sich handelt.
  • 1 zeigt in einem schematischen Blockschaltbild ein rechnerbasiertes Verkehrs zeichenerkennungssystem, das nach einem solchen Verfahren arbeitet. Hiernach wird mit einer Kamera 1 die Umgebung aufgenommen und die entsprechenden Bilddaten in einer Speichereinheit 3 einer Informationsverarbeitungseinheit 2 gespeichert, die zusätzlich eine Detektionseinheit 4, eine Klassifikationseinheit 5, einen Ausgabespeicher 6 und eine Ausgabeeinheit 7 umfasst. In der Detektionseinheit 4 werden diejenigen Bildregionen identifiziert, also die Zeichenhypothesen, die anschließend der Klassifikationseinheit 5 weitergeleitet werden. Die erkannten Verkehrszeichen werden in dem Ausgabespeicher 6 abgelegt und stehen dann der Ausgabeeinheit 7, bspw. einem Zentral-Display oder einer Anzeige eines Kombiinstruments zur Anzeige für den Fahrer zur Verfügung.
  • Der Klassifikator bzw. die Klassifikationseinheit 5 kann lernbasiert arbeiten, wie bspw. aus der DE 10 2005 062 154 A1 bekannt ist, d. h. er wird vorab über eine Menge von Lernbeispielen entsprechend trainiert, deren Ausprägungen von dem gewählten Detektionsverfahren abhängen. Bspw. ist es zur Erkennung von Geschwindigkeitsbeschränkungen bekannt, in der Detektionsphase mittels Bildverarbeitungsphasen Kreise im Kamerabild zu suchen und das umgebende Rechteck als Ausschnitt dem Klassifikator vorzulegen, wobei dieses Merkmal „Kreise” eine bestimmte Klasse von Verkehrszeichen definiert.
  • Ein Verfahren zur Erkennung von kreisförmigen Objekten in Bilddaten eines Bildsensors ist z. Bsp. aus der DE 10 2005 017 541 A1 bekannt.
  • Wie oben bereits ausgeführt sind Verkehrszeichen für Geschwindigkeitsbegrenzungen in den meisten Länder einheitlich entsprechend der Wiener Konvention gestaltet und derart charakterisiert, dass der Ziffernblock, der den Geschwindigkeitswert anzeigt, alleine und zentriert im Verkehrszeichen eingebettet ist, wie dies in 2 gezeigt ist und die üblicherweise anzutreffende Bauform darstellt.
  • Es gibt jedoch neben dieser vereinheitlichten Darstellung von Geschwindigkeitsbegrenzungen auch davon abweichende Zeichenausprägungen, bspw. in Österreich oder Belgien, bei denen der relevante Ziffernblock durch eine kleinere Textangabe, z. Bsp. „km” ergänzt ist, wie die Darstellungen gemäß 3 zeigen, oder der relevante Ziffernblock gemäß 4 außermittig angeordnet ist, oft mit der Folge, dass auch die Größe des Ziffernblocks eine andere, zumeist kleinere Größe im Vergleich zu der vereinheitlichten Bauform gemäß 2 aufweist. Manchmal entsteht ein Verkehrszeichen gemäß 4 auch als Folge eines Überklebens oder Übermalens eines vorhandenen Textzusatzes auf dem Verkehrszeichen.
  • Für einen Klassifikator, der lernbasiert arbeitet, bedeutet dies, dass für diese Abweichungen von der üblicherweise benutzten Bauform für eine Geschwindigkeitsbegrenzung, bei der der Ziffernblock zentral im Zeichen angeordnet ist, die Variabilität stark zunimmt, da für diese Variationen ebenfalls Lern- bzw. Trainingsbeispiele erzeugt und zur Verfügung gestellt werden müssen. Ferner wird aufgrund der erhöhten Variabilität ein solcher Klassifikator mehr Zeichenhypothesen passieren lassen, wodurch die Gefahr besteht, dass sich die Falschalarm-Rate (False Positives) erhöht.
  • Aufgabe der Erfindung ist es daher, ein Verfahren zur Verkehrszeichenerkennung der eingangs genannten Art anzugeben, bei dem die Anzahl der erforderlichen Variationen an Lern- und Trainingsbeispielen für den Klassifikator beschränkt ist, jedoch ohne dass die Erkennungsrate sinkt oder die Echtzeitanforderung in Gefahr sind.
  • Diese Aufgabe wird gelöst durch ein Verfahren mit den Merkmalen des Patentanspruchs 1.
  • Bei diesem Verfahren, bei welchem die Bilddaten eines Sensors in einer Informationsverarbeitungseinheit analysiert und klassifiziert werden, wobei
    • – in einem ersten Verfahrensschritt auf der Grundlage der Ergebnisse einer Analyse wenigstens ein Bildausschnitt ermittelt wird, der mit hinreichender Wahrscheinlichkeit ein Objekt enthält, das ein Verkehrszeichen einer bestimmten Klasse von Verkehrszeichen ist, und
    • – in einem zweiten Verfahrensschritt dieser Bildausschnitt einem Klassifikator zugeführt wird, der auf der Basis des ausgewählten Bildausschnittes mittels eines lernbasierten Algorithmus ein Verkehrszeichen aus der bestimmten Klasse erkennt, wird erfindungsgemäß
    • – im ersten Verfahrensschritt ein klassenspezifisches Merkmal in dem Bildausschnitt identifiziert,
    • – ein modifizierter Bildausschnitt mit dem klassenspezifischen Merkmal in dessen Bildzentrum erzeugt, wobei die durch das Verschieben des klassenspezifischen Merkmals in das Bildzentrum entstehenden Bildbereiche mit geeigneten Bildpunkten aufgefüllt werden, und
    • – der modifizierte Bildausschnitt dem Klassifikator zugeführt.
  • Wenn nun ein klassenspezifisches Merkmal einer bestimmten Klasse von Verkehrszeichen, bspw. der Klasse der runden Verkehrszeichen mit Geschwindigkeitsbegrenzungen von der vereinheitlichten Norm abweicht, also wenn bspw. bei solchen Verkehrszeichen für eine Geschwindigkeitsbegrenzung der Zeichenblock nicht mittig im Verkehrszeichen angeordnet ist, wird der Bildausschnitt, bevor dieser dem Klassifikator zugeführt wird, dahingehend modifiziert, dass das klassenspezifische Merkmal, also dieser Ziffernblock in das Bildzentrum des Bildausschnittes verschoben wird. Anhand dieses modifizierten Bildausschnittes führt der Klassifikator die Klassifikation durch. Damit braucht der Klassifikator nur noch auf Verkehrszeichen trainiert werden, die das klassenspezifische Merkmal im Zentrum des vorgelegten Bildausschnittes aufweisen, wodurch die Variation der zum Training des Klassifikators erforderlichen Lernbeispiele geringer ausfällt und damit auch die Menge an bereitzustellenden Trainingsbeispielen reduziert werden kann.
  • Durch diese Einschränkung, dass also der Klassifikator nur noch klassenspezifische Merkmale klassifizieren muss, die im Zentrum des zu verarbeitenden Bildausschnittes liegen und deshalb auch die Anzahl der Trainingsbeispiele reduziert ist, kann das Klassifikationsverfahren robust gestaltet werden.
  • Bei einer besonders vorteilhaften Weiterbildung der Erfindung wird der modifizierte Bildausschnitt dadurch erzeugt, dass das klassenspezifische Merkmal in die Repräsentation eines in einer Datenbank gespeicherten Verkehrszeichens der bestimmten Klasse von Verkehrszeichen eingesetzt wird. Dies bedeutet, dass anstelle des realen Bildausschnittes ein künstliches Verkehrszeichen der bestimmten Klasse, das jedoch das klassenspezifische Merkmal nicht aufweist und in einer Datenbank gespeichert ist, verwendet wird und in das das zu klassifizierende klassenspezifische Merkmal eingesetzt wird. Der in dieser Weise erzeugte modifizierte Bildausschnitt wird anschließend zur Klassifikation dem Klassifikator vorgelegt. Auch damit lässt sich die Variabilität der Trainingsbeispiel vorteilhaft reduzieren, mit der Folge dass die Erkennungsrate steigt.
  • Gemäß einer vorteilhaften Weiterbildung der Erfindung kann nicht nur eine Lagenormierung hinsichtlich des klassenspezifischen Merkmals vorgenommen werden, sondern zusätzlich auch eine Größennormierung, indem in dem modifizierten Bildausschnitt das klassenspezifische Merkmal auf eine vorgegebene Bildgröße gesetzt wird. Somit kann durch diese Maßnahme die Anzahl der bereitzustellenden Trainingsbeispiele für den Klassifikator nochmals reduziert werden, wodurch eine weitere Verbesserung der Robustheit des Klassifikationsverfahrens erzielbar ist.
  • Bei einer bevorzugten Weiterbildung der Erfindung wird eine Lage- und/oder Größennormierung nur durchgeführt, wenn der zu verarbeitende Bildausschnitt eine bestimmte Größe aufweist. Somit kann verhindert werden, dass Objekte mit einer dem klassenspezifischen Merkmal ähnlichen Struktur als mögliches Verkehrszeichen identifiziert werden oder Objekte, die zu weit vom Fahrzeug entfernt sind oder einer benachbarten Fahrspur zugeordnet sind aussortiert werden.
  • Ferner wird in vorteilhafter Weise bei einer weiteren Fortbildung des erfindungsgemäßen Verfahrens ein modifizierter Bildausschnitt nur dann erzeugt, wenn wenigstens eine Klassifikation der Bilddaten, vorzugsweise eine vorgegebene Anzahl von Bildzyklen erfolglos ist. Dies führt zu vorteilhaftem Verhalten des Klassifikationsverfahrens hinsichtlich der Echtzeitanforderungen an das Erkennungsverfahren.
  • Besonders vorteilhaft ist es hinsichtlich des Klassifikationsverfahrens, wenn die durch das Verschieben des klassenspezifischen Merkmals in das Bildzentrum entstehenden Bildbereiche mit Bildpunkten entsprechend den Bildpunkten der Umgebung des klassenspezifischen Merkmals aufgefüllt werden. Dies führt zu einer Erhöhung der Erkennungsrate. Vorzugsweise können diese Bildbereiche auch mit Bildpunkten einer bestimmten Farbe aufgefüllt werden, mit Bildpunkten, die aus den Bildpunkten der Umgebung des modifizierten Bildausschnittes berechnet werden, z. Bsp. als Mittelwert hinsichtlich einer mittleren Helligkeit oder als konstante Farbe, z. Bsp. der Hintergrundfarbe des Verkehrsschildes mit dem Ziel, eine Darstellung für den Klassifikator zu erreichen, die den Trainingsbeispielen entspricht.
  • Besonders vorteilhaft lässt sich das erfindungsgemäße Verfahren auf eine Klasse von kreisrunden Verkehrszeichen anwenden, und innerhalb dieser Verkehrszeichenklasse auf solche Verkehrszeichen mit einem Ziffernblock, also bspw. Verkehrszeichen mit Geschwindigkeitsbegrenzungen.
  • Die Erfindung wird nachfolgend unter Bezugnahme auf die Zeichnungen näher erläutert. Es zeigen:
  • 1 ein schematisches Blockschaltbild einer Schaltungsanordnung zur Erläuterung eines bekannten Verkehrszeichenerkennungsverfahrens,
  • 2 eine Darstellung eines gemäß der Wiener Konvention normierten Verkehrszeichens mit einer Geschwindigkeitsbegrenzung,
  • 3 Darstellung von Verkehrszeichen, die von der Bauform gemäß des Verkehrszeichens nach 2 abweichen,
  • 4 eine weitere Darstellung eines Verkehrszeichens mit von der Bauform gemäß des Verkehrszeichens nach 2 abweichender Bauform,
  • 5 ein schematisches Blockschaltbild einer Schaltungsanordnung zur Erläuterung des erfindungsgemäßen Verkehrszeichenerkennungsverfahrens,
  • 6 Darstellungen eines Verkehrszeichens zur Erläuterung des erfindungsgemäßen Verkehrszeichenerkennungsverfahrens, und
  • 7 eine weitere Darstellung eines Verkehrszeichens zur Erläuterung des erfindungsgemäßen Verkehrszeichenerkennungsverfahrens.
  • Das Blockschaltbild einer Schaltungsanordnung gemäß 5 entspricht in seinem strukturellen Aufbau demjenigen nach 1. Gegenüber dieser Schaltungsanordnung nach 1 weist die Schaltungsanordnung nach 5 neben der Kamera 1, der Speichereinheit 3, der Detektionseinheit 4, der Klassifikationseinheit 5, dem Ausgabespeicher 6 und der Ausgabeeinheit 7 zusätzlich erfindungsgemäß eine Zentrierungseinheit 8 auf, wobei die Zentrierungseinheit 8 noch durch eine Größennormierungseinheit 9 ergänzt werden kann.
  • Die von der Kamera 1 aufgenommenen Bilddaten von Bildzyklen werden in der Speichereinheit 3 gespeichert und der Detektionseinheit 4 zur Detektion von relevanten Bildausschnitten zugeführt. Relevante Bildausschnitte sind solche Bilddaten, die mit hinreichender Wahrscheinlichkeit ein Verkehrszeichen einer bestimmten Klasse enthalten, bspw. ein kreisrundes Verkehrszeichen. Weiterhin wird für diese bestimmte Klasse von Verkehrszeichen ein klassenspezifisches Merkmal detektiert, das bspw. ein Ziffernblock eines Geschwindigkeitsbeschränkungs-Verkehrszeichens sein kann.
  • 6a zeigt einen solchen relevanten Bildausschnitt 10, der ein kreisrundes Verkehrszeichen mit einem Ziffernblock 11 als klassenspezifisches Merkmal enthält, wobei dieser Ziffernblock 11 eine Geschwindigkeitsbegrenzung von „60” anzeigt. Dieser Ziffernblock 11 liegt außerhalb des Zentrums des Bildausschnittes 10, wie anhand des in 6a eingezeichneten Fadenkreuzes zu erkennen ist.
  • Dieser Bildausschnitt 10 gemäß 6a wird im nächsten Verfahrensschritt an die Zentrierungseinheit 8 weitergeleitet, die aus diesem Bildausschnitt 10 einen modifizierten Bildausschnitt 12 erzeugt, der in 6b dargestellt ist. Hierbei wird der Ziffernblock 11 im Zentrum des Bildausschnittes 10 erzeugt, so dass ein modifizierter Bildausschnitt 12 gemäß 6b entsteht, wobei die Zentrierung des Ziffernblocks 11 anhand des eingezeichneten Fadenkreuzes eindeutig erkennbar ist. Durch das Erzeugen bzw. Verschieben des Ziffernblocks 11 in das Zentrum des Bildausschnitts 12, entsteht ein Bildbereich 13 der ursprünglichen Lage des Ziffernblocks 11, der einen Teil der Struktur der Ziffer „6” des Ziffernblocks 11 zeigt. Dieser Bildbereich 13 wird ersetzt bzw. mit geeigneten Bildpunkten überschrieben. So kann bspw. dieser Bildbereich 13 mit Bildpunkten entsprechend den Bildpunkten der Umgebung des Ziffernblocks 11 ersetzt werden, oder auch mit Bildpunkten einer bestimmten Farbe, oder mit Bildpunkten, die dem Mittelwert der Bildpunkte des modifizierten Bildausschnittes 12 entsprechen. Ferner besteht die Möglichkeit den Bildbereich 13 mit Bildpunkten entsprechend dem Hintergrund des Bildausschnittes 10 aufzufüllen.
  • Das mit dem modifizierten Bildausschnitt 12 erzeugte Bild entspricht damit dem normierten Verkehrszeichen gemäß 2.
  • Der modifizierte Bildausschnitt 12 wird nun der Klassifikationseinheit 5 zugeführt, die das Verkehrszeichen gemäß 2 mit der Geschwindigkeitsangabe „60” aus dem Bildausschnitt 12 identifiziert und in den Ausgangsspeicher 6 abgelegt. Von dort kann es für den Fahrer bspw. als aktuell zulässige Höchstgeschwindigkeit im Kombiinstrument seines Fahrzeugs angezeigt werden.
  • Ein weiteres Beispiel zur Erkennung eines Verkehrszeichens mit dem erfindungsgemäßen Verfahren wird anhand der 7a und 7b erläutert. Hiernach wird gemäß 7a ein Bildausschnitt 10 detektiert, der neben einem Ziffernblock 11 als klassenspezifisches Merkmal auch einen Zusatz „km” enthält. Auch in diesem Bildausschnitt 10 liegt der Ziffernblock 11 außerhalb der Bildmitte, was wiederum anhand des gezeichneten Fadenkreuzes erkennbar ist.
  • Bevor dieser Bildausschnitt 10 klassifiziert wird, erfolgt mittels der Zentrierungseinheit 8, wie bereits im Zusammenhang mit der Beschreibung der 6 erläutert wurde, eine Zentrierung dieses Ziffernblocks 11 in das Zentrum des Bildausschnittes 10, so dass ein modifizierter Bildausschnitt 12 gemäß 7b entsteht.
  • Auch entstehen bei der Erzeugung dieses modifizierten Bildausschnittes 12 mit der zentralen Anordnung des Ziffernblocks 11 Bildbereiche 14 und 15 aus der ursprünglichen Lage des Ziffernblocks 11 in dem Bildausschnitt 10, die einen Teil der Struktur der Ziffer „6” des Ziffernblocks 11 bzw. einen Teil der Struktur des Zusatzes „km” zeigen. Entsprechend wie in dem letzten Beispiel i. Z. mit der 6b beschrieben, werden diese Bildbereiche 14 und 15 mit geeigneten Bildpunkten ersetzt bzw. überschrieben, so dass die Klassifikationseinheit 5 eine Identifikation eines Verkehrszeichens anhand eines modifizierten Bildausschnittes 12 durchführen kann, das der normierten Bauform eines Verkehrszeichens gemäß 2 entspricht.
  • Der modifizierte Bildausschnitt 12 kann auch derart erzeugt werden, dass hierzu in einem Datenspeicher der Detektionseinheit 4 abgelegte künstliche Verkehrszeichen der bestimmten Klasse verwendet werden, die jedoch das klassenspezifische Merkmal nicht aufweisen. Eine Repräsentation eines solchen Verkehrszeichens entspricht einem wie in 2 dargestellten runden Verkehrszeichen mit rotem Rand, jedoch ohne den Ziffernblock mit der Geschwindigkeitsangabe „60”. Der von der Detektionseinheit 4 aus dem realen Bildausschnitt 10 detektierte Ziffernblock 11 wird in ein solches künstliches Verkehrszeichen eingesetzt und als modifizierter Bildausschnitt 12 der Klassifikationseinheit 5 weitergeleitet.
  • Neben der Lagenormierung eines Ziffernblocks 11 in einem Bildausschnitt 10 kann auch zusätzlich eine Größennormierung des erkannten Ziffernblocks 11 durchgeführt werden. Hierzu zeigt die Schaltungsanordnung gemäß 5 zusätzlich eine Größennormierungseinheit 9, der zunächst ein Bildausschnitt 10 zugeführt wird, um den darin erkannten Ziffernblock 11 hinsichtlich dessen Größe auf ein vorgegebenes Maß zu ändern, also zu normieren. Der derart modifizierte Bildausschnitt wird jetzt der Zentrierungseinheit 8 zugeführt, damit aus dem vor der Größennormierungseinheit 9 modifizierten Bildausschnitt ein weiter modifizierter Bildausschnitt 12 gemäß 6b oder 7b mit zentriertem Ziffernblock 11 erzeugt wird.
  • Auch kann das erfindungsgemäße Verkehrszeichenerkennungsverfahren dahingehend modifiziert werden, dass vor der Zentrierung und/oder Größennormierung bestimmte Bedingungen hinsichtlich des Bildausschnittes 10 erfüllt sein müssen.
  • So kann zunächst eine Klassifikation des Bildausschnittes 10 durch die Klassifikationseinheit 5 durchgeführt werden, also zunächst der in der Detektionseinheit 4 erzeugte Bildausschnitt 10 der Klassifikationseinheit 5 zugeführt werden, und erst, wenn nach einer bestimmten Anzahl von Bildzyklen eine erfolgreiche Klassifikation nicht durchgeführt werden kann, wird dieser Bildausschnitt 10 zurück zur Detektionseinheit 4 und dann der Zentrierungseinheit 8 oder der Größennormierungseinheit 9 zugeführt.
  • Des Weiteren kann eine solche Bedingung auch darin bestehen, dass Bildausschnitte 10 eine bestimmte Größe aufweisen müssen. Damit werden Objekte aussortiert, die entweder zu weit vom Fahrzeug entfernt sind, kein Verkehrszeichen darstellen oder Verkehrszeichen von benachbarten Fahrspuren sind.
  • Bezugszeichenliste
  • 1
    Kamera
    2
    Informationsverarbeitungseinheit
    3
    Speichereinheit für Bilddaten
    4
    Detektionseinheit
    5
    Klassifikationseinheit
    6
    Ausgabespeicher
    7
    Ausgabeeinheit
    8
    Zentrierungseinheit
    9
    Größennormierungseinheit
    10
    Bildausschnitt
    11
    klassenspezifisches Merkmal, Ziffernblock
    12
    modifizierter Bildausschnitt
    13
    Bildbereich
    14
    Bildbereich
    15
    Bildbereich
  • ZITATE ENTHALTEN IN DER BESCHREIBUNG
  • Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
  • Zitierte Patentliteratur
    • DE 19852631 A1 [0003]
    • DE 102005062154 A1 [0007]
    • DE 102005017541 A1 [0008]

Claims (9)

  1. Verfahren zur Verkehrszeichenerkennung, welches die Bilddaten eines Sensors (1) in einer Informationsverarbeitungseinheit analysiert und klassifiziert, wobei – in einem ersten Verfahrensschritt auf der Grundlage der Ergebnisse einer Analyse wenigstens ein Bildausschnitt (10) ermittelt wird, der mit hinreichender Wahrscheinlichkeit ein Objekt enthält, das ein Verkehrszeichen einer bestimmten Klasse von Verkehrszeichen ist, und – in einem zweiten Verfahrensschritt dieser Bildausschnitt (10) einem Klassifikator (5) zugeführt wird, der auf der Basis des ausgewählten Bildausschnittes (10) mittels eines lernbasierten Algorithmus ein Verkehrszeichen aus der bestimmten Klasse erkennt, dadurch gekennzeichnet, dass – im ersten Verfahrensschritt ein klassenspezifisches Merkmal (11) in dem Bildausschnitt (10) identifiziert wird, – ein modifizierter Bildausschnitt (12) mit dem klassenspezifischen Merkmal (11) in dessen Bildzentrum erzeugt wird, wobei die durch das Verschieben des klassenspezifischen Merkmals (11) in das Bildzentrum entstehenden Bildbereiche (13, 14, 15) mit geeigneten Bildpunkten aufgefüllt werden, und – der modifizierte Bildausschnitt (12) dem Klassifikator (5) zugeführt wird.
  2. Verfahren nach Anspruch 1 dadurch gekennzeichnet, dass der modifizierte Bildausschnitt dadurch erzeugt wird, dass das klassenspezifische Merkmal in die Repräsentation eines in einer Datenbank gespeicherten Verkehrszeichens der bestimmten Klasse von Verkehrszeichen eingesetzt wird.
  3. Verfahren nach Anspruch 1 oder 2, dadurch gekennzeichnet, dass in dem modifizierten Bildausschnitt (12) das klassenspezifische Merkmal (11) auf eine vorgegebene Bildgröße gesetzt.
  4. Verfahren nach Anspruch 1, 2 oder 3, dadurch gekennzeichnet, dass ein modifizierter Bildausschnitt (12) nur dann erzeugt wird, wenn der Bildausschnitt (10) ein vorgegebene Größe aufweist.
  5. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass ein modifizierter Bildausschnitt (12) nur dann erzeugt wird, wenn wenigstens eine Klassifikation der Bilddaten erfolglos ist.
  6. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die durch das Verschieben des klassenspezifischen Merkmals (11) in das Bildzentrum entstehenden Bildbereiche (13, 14, 15) mit Bildpunkten entsprechend den Bildpunkten der Umgebung des klassenspezifischen Merkmals (11) aufgefüllt werden.
  7. Verfahren nach einem der vorhergehenden Ansprüche 1 bis 4, dadurch gekennzeichnet, dass die durch das Verschieben des klassenspezifischen Merkmals (11) in das Bildzentrum entstehenden Bildbereiche (13, 14, 15) mit Bildpunkten aufgefüllt werden, die aus den Bildpunkten der Umgebung des klassenspezifischen Merkmals (11) berechnet werden.
  8. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die bestimmte Klasse von Verkehrszeichen kreisrunde Verkehrszeichen umfasst.
  9. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die bestimmte Verkehrszeichenklasse Verkehrszeichen mit einem Ziffernblock umfassen.
DE102009048066A 2009-10-01 2009-10-01 Verfahren zur Verkehrszeichenerkennung Withdrawn DE102009048066A1 (de)

Priority Applications (6)

Application Number Priority Date Filing Date Title
DE102009048066A DE102009048066A1 (de) 2009-10-01 2009-10-01 Verfahren zur Verkehrszeichenerkennung
US13/388,095 US9418303B2 (en) 2009-10-01 2010-09-24 Method for traffic sign recognition
DE112010001500T DE112010001500A5 (de) 2009-10-01 2010-09-24 Verfahren zur verkehrszeichenerkennung
PCT/DE2010/001123 WO2011038714A1 (de) 2009-10-01 2010-09-24 Verfahren zur verkehrszeichenerkennung
JP2012531237A JP5657677B2 (ja) 2009-10-01 2010-09-24 交通標識の識別方法
EP10776537.2A EP2483836B1 (de) 2009-10-01 2010-09-24 Verfahren zur verkehrszeichenerkennung

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102009048066A DE102009048066A1 (de) 2009-10-01 2009-10-01 Verfahren zur Verkehrszeichenerkennung

Publications (1)

Publication Number Publication Date
DE102009048066A1 true DE102009048066A1 (de) 2011-04-07

Family

ID=43357950

Family Applications (2)

Application Number Title Priority Date Filing Date
DE102009048066A Withdrawn DE102009048066A1 (de) 2009-10-01 2009-10-01 Verfahren zur Verkehrszeichenerkennung
DE112010001500T Withdrawn DE112010001500A5 (de) 2009-10-01 2010-09-24 Verfahren zur verkehrszeichenerkennung

Family Applications After (1)

Application Number Title Priority Date Filing Date
DE112010001500T Withdrawn DE112010001500A5 (de) 2009-10-01 2010-09-24 Verfahren zur verkehrszeichenerkennung

Country Status (5)

Country Link
US (1) US9418303B2 (de)
EP (1) EP2483836B1 (de)
JP (1) JP5657677B2 (de)
DE (2) DE102009048066A1 (de)
WO (1) WO2011038714A1 (de)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102012023022A1 (de) 2012-11-26 2014-05-28 GM Global Technology Operations LLC (n. d. Ges. d. Staates Delaware) Verfahren und Vorrichtung zur Verkehrszeichenerkennung

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102011109387A1 (de) 2011-08-04 2013-02-07 Conti Temic Microelectronic Gmbh Verfahren zur Erkennung von Verkehrszeichen
DE102012206037A1 (de) 2012-04-13 2013-10-17 Robert Bosch Gmbh Lernverfahren zur automatisierten Erkennung von Verkehrszeichen, Verfahren zur Bestimmung eines aktualisierten Parametersatzes für eine Klassifikation von einem Verkehrszeichen und Verkehrszeichenerkennungssystem
US9092696B2 (en) * 2013-03-26 2015-07-28 Hewlett-Packard Development Company, L.P. Image sign classifier
DE102013219909A1 (de) 2013-10-01 2015-04-02 Conti Temic Microelectronic Gmbh Verfahren und Vorrichtung zur Erkennung von Verkehrszeichen
DE102014204002A1 (de) * 2014-03-05 2015-09-10 Conti Temic Microelectronic Gmbh Verfahren zur Identifikation eines projizierten Symbols auf einer Straße in einem Fahrzeug, Vorrichtung und Fahrzeug
FR3027721B1 (fr) * 2014-10-24 2020-08-07 Peugeot Citroen Automobiles Sa Procede et systeme de visualisation augmentee de panneaux routiers
EP3029628A1 (de) * 2014-12-05 2016-06-08 Delphi Technologies, Inc. Verfahren zum Erzeugen eines Trainingsbildes
US9536315B2 (en) 2015-01-13 2017-01-03 Xerox Corporation Annotation free license plate recognition method and system
US9610893B2 (en) 2015-03-18 2017-04-04 Car1St Technologies, Llc Methods and systems for providing alerts to a driver of a vehicle via condition detection and wireless communications
US10328855B2 (en) 2015-03-18 2019-06-25 Uber Technologies, Inc. Methods and systems for providing alerts to a connected vehicle driver and/or a passenger via condition detection and wireless communications
JP6540482B2 (ja) * 2015-12-04 2019-07-10 株式会社デンソー 情報処理システム、情報処理装置及び出力制御方法
US10255511B2 (en) * 2016-01-04 2019-04-09 Texas Instruments Incorporated Real time traffic sign recognition
DE102016118538A1 (de) * 2016-09-29 2018-03-29 Valeo Schalter Und Sensoren Gmbh Verfahren zum Klassifizieren eines Verkehrszeichens in einem Umgebungsbereich eines Kraftfahrzeugs, Rechenvorrichtung, Fahrerassistenzsystem sowie Kraftfahrzeug
DE102017007055A1 (de) * 2017-07-26 2019-01-31 Trw Automotive Gmbh System und Verfahren zur Unterstützung eines Fahrers eines Kraftfahrzeuges bei der Erkennung von Verkehrszeichen
US10552692B2 (en) * 2017-09-19 2020-02-04 Ford Global Technologies, Llc Color learning
CN109263659A (zh) * 2018-07-28 2019-01-25 上海商汤智能科技有限公司 智能驾驶控制方法和装置、车辆、电子设备、介质、产品
JP7088136B2 (ja) * 2018-08-31 2022-06-21 株式会社デンソー 標示物認識システム及び標示物認識方法
WO2020090428A1 (ja) 2018-10-30 2020-05-07 三菱電機株式会社 地物検出装置、地物検出方法および地物検出プログラム
US10928828B2 (en) * 2018-12-14 2021-02-23 Waymo Llc Detecting unfamiliar signs
WO2021087334A1 (en) * 2019-11-01 2021-05-06 Vannevar Labs, Inc. Neural network-based optical character recognition
US11380110B1 (en) * 2020-12-17 2022-07-05 GM Global Technology Operations LLC Three dimensional traffic sign detection

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19852631A1 (de) 1998-11-14 2000-05-25 Daimler Chrysler Ag Vorrichtung und Verfahren zur Verkehrszeichenerkennung
DE19938256A1 (de) * 1999-08-12 2001-02-15 Volkswagen Ag Verfahren und Einrichtung zur elektronischen Erkennung von Verkehrszeichen
DE102005017541A1 (de) 2005-04-16 2006-10-19 Adc Automotive Distance Control Systems Gmbh Verfahren zur Erkennung von kreisförmigen Objekten
DE102005062154A1 (de) 2005-12-22 2007-07-05 Daimlerchrysler Ag Erzeugung großer realistischer Trainingsproben für Klassifikatoren aus wenigen Beispielen
DE102006059663A1 (de) * 2006-12-18 2008-06-19 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Verfahren und Computerprogramm zum Identifizieren eines Verkehrszeichens in einem Bild
EP2048597A1 (de) * 2007-10-10 2009-04-15 Delphi Technologies, Inc. Verfahren zur Objekterfassung

Family Cites Families (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5930179A (ja) 1982-08-10 1984-02-17 Agency Of Ind Science & Technol パタ−ンの線分近似方式
DE3587220T2 (de) 1984-01-13 1993-07-08 Komatsu Mfg Co Ltd Identifizierungsverfahren von konturlinien.
US4901362A (en) 1988-08-08 1990-02-13 Raytheon Company Method of recognizing patterns
US5054094A (en) 1990-05-07 1991-10-01 Eastman Kodak Company Rotationally impervious feature extraction for optical character recognition
US5740274A (en) * 1991-09-12 1998-04-14 Fuji Photo Film Co., Ltd. Method for recognizing object images and learning method for neural networks
US5594806A (en) 1994-06-20 1997-01-14 Personnel Identification & Entry Access Control, Inc. Knuckle profile indentity verification system
US6408109B1 (en) 1996-10-07 2002-06-18 Cognex Corporation Apparatus and method for detecting and sub-pixel location of edges in a digital image
US7034848B2 (en) * 2001-01-05 2006-04-25 Hewlett-Packard Development Company, L.P. System and method for automatically cropping graphical images
US6937747B2 (en) 2001-09-24 2005-08-30 Hewlett Packard Development Company, L.P. System and method for capturing non-audible information for processing
US6888892B2 (en) * 2001-12-10 2005-05-03 University Of Washington Method for padding macroblocks
US6842177B2 (en) * 2001-12-14 2005-01-11 University Of Washington Macroblock padding
US20030202683A1 (en) 2002-04-30 2003-10-30 Yue Ma Vehicle navigation system that automatically translates roadside signs and objects
EP1507129B1 (de) 2003-08-14 2008-01-02 Harman/Becker Automotive Systems GmbH Computergestütztes System und Verfahren zur Informationsausgabe an einen Fahrer eines Fahrzeuges
DE10338455A1 (de) 2003-08-21 2005-04-14 Robert Bosch Gmbh Fahrerinformationsvorrichtung
JP3922245B2 (ja) 2003-11-20 2007-05-30 日産自動車株式会社 車両周辺監視装置および方法
US7526103B2 (en) 2004-04-15 2009-04-28 Donnelly Corporation Imaging system for vehicle
US7466841B2 (en) 2004-08-16 2008-12-16 Siemens Corporate Research, Inc. Method for traffic sign detection
US20060098877A1 (en) 2004-11-09 2006-05-11 Nick Barnes Detecting shapes in image data
US20070081739A1 (en) * 2005-10-11 2007-04-12 International Business Machines Corporation Modifying text or images when defect pixels are found on a display
US7831098B2 (en) 2006-11-07 2010-11-09 Recognition Robotics System and method for visual searching of objects using lines
DE102006053289A1 (de) 2006-11-13 2008-05-15 Robert Bosch Gmbh Verfahren und Vorrichtung zur Bestimmung einer Durchfahrmöglichkeit in einem Fahrzeug
EP2383713B1 (de) * 2006-12-06 2013-05-29 Mobileye Technologies Limited Detektion und Erkennung von Verkehrszeichen
JP2008203992A (ja) 2007-02-16 2008-09-04 Omron Corp 検出装置および方法、並びに、プログラム
US8452524B2 (en) 2007-05-25 2013-05-28 Continental Teves Ag & Co. Ohg Method and device for identifying traffic-relevant information
EP2026313B1 (de) 2007-08-17 2011-02-23 Magneti Marelli S.p.A. Verfahren und System zur Erkennung von Verkehrszeichen mit Zusatztafeln
US8233670B2 (en) * 2007-09-13 2012-07-31 Cognex Corporation System and method for traffic sign recognition
ATE452379T1 (de) * 2007-10-11 2010-01-15 Mvtec Software Gmbh System und verfahren zur 3d-objekterkennung
US8370755B2 (en) * 2007-12-27 2013-02-05 Core Wireless Licensing S.A.R.L. User interface controlled by environmental cues
DE102008057675A1 (de) 2008-11-17 2009-07-02 Daimler Ag Verfahren zur Verkehrszeichenerkennung
CN101482920B (zh) * 2008-12-30 2010-12-22 广东国笔科技股份有限公司 一种手写字符识别方法及系统
US8374390B2 (en) 2009-06-24 2013-02-12 Navteq B.V. Generating a graphic model of a geographic object and systems thereof
EP2293247B1 (de) * 2009-07-29 2012-09-05 Harman Becker Automotive Systems GmbH Randerkennung mit einstellbarer Schwelle
US8340420B2 (en) * 2009-10-05 2012-12-25 National Taiwan University Method for recognizing objects in images
US8509526B2 (en) 2010-04-13 2013-08-13 International Business Machines Corporation Detection of objects in digital images
DE102010020330A1 (de) * 2010-05-14 2011-11-17 Conti Temic Microelectronic Gmbh Verfahren zur Erkennung von Verkehrszeichen
DE102011109387A1 (de) 2011-08-04 2013-02-07 Conti Temic Microelectronic Gmbh Verfahren zur Erkennung von Verkehrszeichen
US9160993B1 (en) * 2013-07-18 2015-10-13 Amazon Technologies, Inc. Using projection for visual recognition

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19852631A1 (de) 1998-11-14 2000-05-25 Daimler Chrysler Ag Vorrichtung und Verfahren zur Verkehrszeichenerkennung
DE19938256A1 (de) * 1999-08-12 2001-02-15 Volkswagen Ag Verfahren und Einrichtung zur elektronischen Erkennung von Verkehrszeichen
DE102005017541A1 (de) 2005-04-16 2006-10-19 Adc Automotive Distance Control Systems Gmbh Verfahren zur Erkennung von kreisförmigen Objekten
DE102005062154A1 (de) 2005-12-22 2007-07-05 Daimlerchrysler Ag Erzeugung großer realistischer Trainingsproben für Klassifikatoren aus wenigen Beispielen
DE102006059663A1 (de) * 2006-12-18 2008-06-19 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Verfahren und Computerprogramm zum Identifizieren eines Verkehrszeichens in einem Bild
EP2048597A1 (de) * 2007-10-10 2009-04-15 Delphi Technologies, Inc. Verfahren zur Objekterfassung

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102012023022A1 (de) 2012-11-26 2014-05-28 GM Global Technology Operations LLC (n. d. Ges. d. Staates Delaware) Verfahren und Vorrichtung zur Verkehrszeichenerkennung

Also Published As

Publication number Publication date
US9418303B2 (en) 2016-08-16
US20120128210A1 (en) 2012-05-24
WO2011038714A1 (de) 2011-04-07
DE112010001500A5 (de) 2012-05-31
EP2483836A1 (de) 2012-08-08
JP5657677B2 (ja) 2015-01-21
JP2013506214A (ja) 2013-02-21
EP2483836B1 (de) 2016-05-25

Similar Documents

Publication Publication Date Title
EP2483836B1 (de) Verfahren zur verkehrszeichenerkennung
EP2569731B1 (de) Verfahren zur erkennung von verkehrszeichen
EP1145186B1 (de) Verfahren und vorrichtung zur leistungssteigerung eines verkehrszeichenerkennungssystems
DE102007034505A1 (de) Verfahren und Vorrichtung zur Verkehrszeichenerkennung
DE102008057675A1 (de) Verfahren zur Verkehrszeichenerkennung
DE102014106506A1 (de) Verfahren zum Durchführen einer Diagnose eines Kamerasystems eines Kraftfahrzeugs, Kamerasystem und Kraftfahrzeug
DE102016003424A1 (de) Verfahren und Vorrichtung zum Erkennen von Verkehrszeichen
DE102017006155A1 (de) Verfahren zum Betreiben eines Sensorsystems eines Fahrzeugs
DE102019103963A1 (de) Ildgebungsvorrichtung
DE102017209262A1 (de) Verfahren und Vorrichtung zur automatischen Gestenerkennung
EP2320384B1 (de) Verfahren zur Kennzeichenerkennung und Mautkategorisierung von Fahrzeugen
DE102016008218A1 (de) Verfahren zum verbesserten Erkennen von Objekten durch ein Fahrerassistenzsystem
DE102017124600A1 (de) Semantische Segmentierung eines Objekts in einem Bild
DE102017010832A1 (de) Verfahren zur Bewertung einer erkannten Geschwindigkeitsbegrenzung
DE4407998C2 (de) Verfahren und Vorrichtung zur Erkennung eines Musters auf einem Beleg
EP1906374A2 (de) Ortungseinrichtung für ein Kraftfahrzeug
DE102022003968A1 (de) Verfahren zum Erkennen eines Schlaganfalles eines Insassen in einem Fahrzeug
EP2259210A2 (de) Verfahren und Vorrichtung zur Analyse einer Datenbank
EP3772017A1 (de) Bahnsignalerkennung für autonome schienenfahrzeuge
DE102007021579A1 (de) Verfahren und Vorrichtung zur Klassifikation mindestens eines Verkehrszeichens
DE102016103037A1 (de) Verfahren zum Überprüfen einer Funktionstüchtigkeit eines Kamera-Monitor-Systems, Kamera-Monitor-System sowie Kraftfahrzeug
DE69928320T2 (de) Verfahren und Vorrichtung zur Erkennung eines Musters auf einem präsentierten Gegenstand
DE102021001677A1 (de) Verfahren zum Erkennen von Beschädigungen eines Objekts, Steuervorrichtung zur Durchführung eines solchen Verfahrens, Detektionsvorrichtung mit einer solchen Steuervorrichtung und Kraftfahrzeug mit einer solchen Detektionsvorrichtung
DE102021213097B3 (de) Verfahren zum Klassifizieren von Objekten in einem Bild, welches die Fahrbahn im Vorfeld eines Kraftfahrzeugs zeigt
DE102019008438A1 (de) Vorrichtung und Verfahren zur Erkennung von Objekten

Legal Events

Date Code Title Description
OM8 Search report available as to paragraph 43 lit. 1 sentence 1 patent law
R118 Application deemed withdrawn due to claim for domestic priority

Effective date: 20111108