DE102018100738A1 - Selektive Merkmalsextraktion - Google Patents

Selektive Merkmalsextraktion Download PDF

Info

Publication number
DE102018100738A1
DE102018100738A1 DE102018100738.8A DE102018100738A DE102018100738A1 DE 102018100738 A1 DE102018100738 A1 DE 102018100738A1 DE 102018100738 A DE102018100738 A DE 102018100738A DE 102018100738 A1 DE102018100738 A1 DE 102018100738A1
Authority
DE
Germany
Prior art keywords
image
processing unit
feature
secondary processing
pixel position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE102018100738.8A
Other languages
English (en)
Inventor
Christian Schneider
Tim Kunz
Constantin Haas
Muhammad Umair Akmal
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dr Ing HCF Porsche AG
Original Assignee
Dr Ing HCF Porsche AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dr Ing HCF Porsche AG filed Critical Dr Ing HCF Porsche AG
Priority to DE102018100738.8A priority Critical patent/DE102018100738A1/de
Publication of DE102018100738A1 publication Critical patent/DE102018100738A1/de
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/145Illumination specially adapted for pattern recognition, e.g. using gratings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Abstract

Die vorliegende Erfindung betrifft ein Verfahren und ein System zu einer selektiven Merkmalsextraktion aus einer Musterprojektion in ein Fahrzeugvorfeld (11), bei dem durch mindestens einen Scheinwerfer eines Fahrzeugs ein Muster (12) projiziert wird und von einer Kamera am Fahrzeug in kontinuierlicher Abfolge Bilder (10) in Form von Pixeln aufgenommen werden und an eine Bildverarbeitungseinheit, die mindestens eine Primärverarbeitungseinheit und eine Sekundärverarbeitungseinheit umfasst, weitergeleitet werden, bei dem von einer Primärverarbeitungseinheit in einem ersten Bild (10) nach mindestens einem charakteristischen Merkmal (14, 43) gesucht wird und dessen jeweilige Pixelposition an die Sekundärverarbeitungseinheit weitergegeben wird, bei dem von der Sekundärverarbeitungseinheit in dem ersten Bild (10) in einer mehrere Pixel umfassenden Umgebung dieser jeweiligen Pixelposition mindestens ein Umgebungsmerkmal (45, 46) feststellt und mit dieser jeweiligen Pixelposition identifiziert wird, bei dem von der Sekundärverarbeitungseinheit anhand des mindestens einen Umgebungsmerkmals (45, 46) der jeweiligen Pixelposition das ursprünglich mit der jeweiligen Pixelposition verbundene charakteristische Merkmal (14, 43) in jedem auf das erste Bild (10) folgenden Bild (10) verfolgt wird und jedes weitere von der Primärverarbeitung analysierte Bild (10) für die Sekundärverarbeitung als ein erstes Bild (10) gesetzt wird.

Description

  • Die vorliegende Erfindung betrifft ein Verfahren und ein System zu einer selektiven Merkmalsextraktion aus einer Musterprojektion in ein Fahrzeugvorfeld.
  • Eine 3D Rekonstruktion eines vor einem optischen System befindlichen Raumes bildet die Basis für eine rechnergesteuerte Bildanalyse und ist von essentieller Bedeutung für sich autonom bewegende Systeme, deren umliegender Raum erkundet werden muss. Ein Standardverfahren der 3D Rekonstruktion ist eine Triangulation, d.h. eine Abstandsmessung durch genaue Winkelbestimmung innerhalb eines Dreiecks, welches zwei Punkte des optischen Systems mit einem jeweiligen Punkt eines Objekts im Raum bilden.
  • Ein die Triangulation verwendendes Verfahren zu einer bildbasierten Positionsbestimmung findet sich bspw. in der Druckschrift DE 11 2011 102 132 T5 . Unter Verwendung eines kombinierten merkmalbasierten Prozesses wird eine Vielzahl von Bildern verarbeitet, um einen Gegenstand bzw. dessen Oberfläche, zu erfassen.
  • Man unterscheidet zwischen passiver und aktiver Triangulation. Bei der passiven Triangulation befindet sich an zwei Punkten des optischen Systems jeweils ein Beobachter, was beispielsweise in einer Stereokamera Anwendung findet, die ein Objekt im Raum unter verschiedenen Winkeln aufnimmt. Demgegenüber wird bei der aktiven Triangulation, welche ein häufig in der optischen Abstandsmessung eingesetztes Messprinzip darstellt, ein Beobachtungspunkt durch eine Lichtquelle ersetzt, das Dreieck also aus Lichtstrahl, angestrahltem Objekt und Kamera gebildet.
  • Die Druckschrift DE 10 2009 040 991 B4 offenbart eine Messanordnung und ein Verfahren zum Vermessen einer Oberfläche. Die mittels einer Projektionseinrichtung auf ein Objekt abgestrahlten Muster werden von einer Kamera aufgenommen und an eine Bildauswertung weitergeleitet. Auch eine zusätzliche Lichtquelle, die gepulste Lichtsignale aussendet, findet Verwendung.
  • In der Druckschrift DE 10 2006 061 712 A1 wird eine Szene mit einem modulierten Zufalls- oder Pseudomuster, was ein schräges Streifenmuster sein kann, beleuchtet und die Szene relativ zu diesem Muster bewegt. Zwei Kameras nehmen in verschiedenen Relativpositionen je mindestens zwei Bilder auf, wobei eine Korrespondenz von Pixeln auf der Basis eines Vergleichs von Modulationsmerkmalen bestimmt wird.
  • Bei einem Kraftfahrzeug ist die Lichtquelle vorteilhaft bereits durch einen Scheinwerfer gegeben, der zusammen mit einer im Frontbereich verbauten Kamera das optische System bildet. Für die Qualität der Bildverarbeitung ist dabei die genaue Kenntnis einer fahrzeugspezifischen Lichtverteilung und der Position des Scheinwerfers relativ zur Kamera von großer Bedeutung, weshalb eine Kalibrierung eines Scheinwerfer-Kamera-Systems erfolgt. Mittels des Scheinwerfers lässt sich dann ein Muster in ein Fahrzeugvorfeld projizieren, welches abhängig von einer Oberflächenstruktur im Fahrzeugvorfeld oder von sich dort befindlichen Objekten verformt von der Kamera aufgenommen wird. Um unter Verwendung der aktiven Triangulation eine Tiefenmap des vor dem Fahrzeug befindlichen Bereichs zu erstellen, durchläuft ein Bildverarbeitungssystem einen als Bildverarbeitungskaskade bezeichneten Ablauf: Zuerst wird eine Merkmalssuche durchgeführt, bspw. eine sogenannte Musterfrequenz, also mehrere charakteristische Wechsel von Hell-Dunkel-Grenzen innerhalb des projizierten Musters, identifiziert. Als zweiter Schritt erfolgt eine Adaption eines Bildverarbeitungskernels entsprechend der identifizierten Musterfrequenz, dann die Faltung des Kamerabildes mit dem Bildverarbeitungskernel, und schließlich eine Extraktion der Merkmale basierend auf einer nachgeschalteten Kanten- bzw. Eckpunktdetektion. Final werden die detektierten charakteristischen Merkmale dem das Muster projizierenden Scheinwerfer zugeordnet und basierend auf dessen Lichtverteilung eine Tiefenmap erstellt.
  • Ein Problem dabei ist jedoch, dass die aus dem Stand der Technik bekannten Methoden, um die einzelnen Schritte der Bildverarbeitung durchzuführen, zwar präzise die Merkmale extrahieren, die Zahl der dafür notwendigen Rechenschritte jedoch zu zeitaufwändig ist, um die Erstellung der Tiefenmap zusammen mit einer darauf basierenden Entscheidung, bspw. ein Ausweichen auf Grund eines im Fahrzeugvorfeld auftauchenden Hindernisses, in Echtzeit zu bewältigen.
  • Vor diesem Hintergrund ist es eine Aufgabe der vorliegenden Erfindung, ein Verfahren für eine Merkmalsextraktion bereitzustellen, welches eine Bildverarbeitung in Echtzeit ermöglicht. Ferner ist es eine Aufgabe der vorliegenden Erfindung, ein entsprechendes System zur Durchführung eines solchen Verfahrens bereitzustellen.
  • Zur Lösung der voranstehend genannten Aufgabe wird ein Verfahren zu einer selektiven Merkmalsextraktion vorgeschlagen, bei dem ein Fahrzeug im Frontbereich mindestens einen Scheinwerfer und mindestens eine Kamera aufweist und bei dem durch den mindestens einen Scheinwerfer ein Muster in ein Fahrzeugvorfeld projiziert wird. Das Muster kann dabei bspw. aus abwechselnd hellen und dunklen Flächen bestehen, wobei bei einer Bildanalyse, etwa durch eine Fouriertransformation, sich kontinuierlich abwechselnde helle und dunklen Flächen als Signal in einem Frequenzraum identifizierbar werden. Das in das Fahrzeugvorfeld projizierte Muster wird abhängig von einer Oberflächenstruktur einer bestrahlten Szene verformt. Dies nimmt die mindestens eine Kamera in kontinuierlicher Abfolge als ein Bild in Form von Pixeln auf und leitet jedes dieser Bilder an eine Bildverarbeitungseinheit, die mindestens eine Primärverarbeitungseinheit und eine Sekundärverarbeitungseinheit umfasst, weiter. Vorteilhaft kann eine Primärverarbeitung und eine Sekundärverarbeitung zeitlich parallel ablaufen. Eine Primärverarbeitung eines Bildes zu einer Detektion charakteristischer Merkmale, etwa eine vorgegebene Abfolge benachbarter Hell-Dunkel-Flächen, ist dabei präziser, aber auch zeitaufwändiger als eine Sekundärverarbeitung, die ein rechentechnisch schneller zu identifizierendes Umgebungsmerkmal um ein charakteristisches Merkmal herum verfolgt. Ein solches Umgebungsmerkmal kann bspw. eine mehrere Pixel umfassende rechteckige Fläche mit ein und demselben oder einem ähnlichen Helligkeitswert sein. Während die Primärverarbeitungseinheit ein einzelnes Bild hinsichtlich charakteristischer Merkmale untersucht und zwischenzeitlich von der mindestens einen Kamera eine Anzahl N weiterer Bilder aufgenommen werden, ist die Sekundärverarbeitungseinheit in der Lage, diese in kontinuierlicher Abfolge übermittelten Bilder in Echtzeit zu verarbeiten. Bei einem Initialisierungsprozess detektiert nun die Primärverarbeitungseinheit in einem ersten Bild mindestens ein charakteristisches Merkmal und gibt die Pixelposition des das jeweilige charakteristische Merkmal enthaltenden Pixels an eine Sekundärverarbeitungseinheit weiter. Die Sekundärverarbeitungseinheit stellt in dem ersten Bild in einer mehrere Pixel umfassenden Umgebung dieser jeweiligen Pixelposition des mindestens einen charakteristischen Merkmals mindestens ein Umgebungsmerkmal fest und identifiziert dieses mit der jeweiligen Pixelposition, d.h. ordnet dieses mindestens eine Umgebungsmerkmal der jeweiligen Pixelposition des mindestens einen charakteristischen Merkmals zu. Die Sekundärverarbeitungseinheit verfolgt dann anhand des jeweiligen Umgebungsmerkmals das ursprünglich mit der jeweiligen Pixelposition verbundene charakteristische Merkmal in jedem auf das erste Bild folgenden Bild, bis die Primärverarbeitungseinheit ein weiteres Bild untersucht hat und eine jeweilige Pixelposition des mindestens einen festgestellten charakteristischen Merkmals an die Sekundärverarbeitungseinheit übermittelt. Gleichzeitig wird das zugehörige von der Primärverarbeitung analysierte erste Bild für die Sekundärverarbeitungseinheit als ein erstes Bild gesetzt. Die Sekundärverarbeitungseinheit stellt dann in dem zweiten von der Primärverarbeitungseinheit analysierten Bild wiederum in einer mehrere Pixel umfassenden Umgebung der jeweiligen neu übermittelten Pixelposition des mindestens einen charakteristischen Merkmals mindestens ein Umgebungsmerkmal fest und verfolgt dieses in den darauffolgenden von der mindestens einen Kamera kommenden Bilder. Vorteilhaft führt die Sekundäreinheit einen Abgleich der jeweiligen Pixelpositionen zwischen dem von ihr anhand des mindestens einen Umgebungsmerkmals verfolgten charakteristischen Merkmal und der jeweiligen von der Primärverarbeitungseinheit neu festgestellten Pixelposition durch und korrigiert mit dem Ergebnis seine vorangegangenen jeweilig festgestellten Pixelpositionen des charakteristischen Merkmals.
  • Ein zeitlicher Ablauf des erfindungsgemäßen Verfahrens ist demnach wie folgt denkbar. Als zeitliche Einheit sei die Zählung der in kontinuierlicher Abfolge von der mindestens einen Kamera aufgenommenen Bilder gewählt, mit dem zeitlichen Abstand zwischen zwei Bildern als Zeittakt. Die Primärverarbeitungseinheit erhält initial zum Zeitpunkt 0 ein erstes Bild und benötigt den Zeitablauf von N Zeittakten, in dem N weitere Bilder entstehen, zur Analyse. Damit erhält die Sekundärverarbeitungseinheit zu einem Zeitpunkt N eine jeweilige exakte Pixelposition mindestens eines charakteristischen Merkmals zu dem Bild zum Zeitpunkt 0. Die Sekundärverarbeitungseinheit identifiziert nun in dem initialen Bild zum Zeitpunkt 0 zu einer jeweiligen exakten Pixelpostion des mindestens einen charakteristischen Merkmals ein jeweiligens Umgebungsmerkmal und verfolgt dieses in allen weiteren Bildern. Aufgrund des im Vergleich mit der Primäverarbeitung wesentlich geringeren rechentechnischen Aufwands, ein jeweiliges Umgebungsmerkmal zu verfolgen, bewältigt die Sekundärverarbeitungseinheit diese Aufgabe dabei in kürzerer Zeit als ein Zeittakt dauert. Es ist denkbar, dass die Sekundärverarbeitungseinheit die N bereits vorliegenden Bilder abgearbeitet hat, bis ein N + 1tes Bild von der mindestens einen Kamera übermittelt wird und somit die Sekundärverarbeitungseinheit in Echtzeit für jedes weitere Bild ab dem Zeitpunkt N + 1 anhand eines jeweiligen Umgebungsmerkmals das mindestens eine charakteristische Merkmal verfolgt. Währenddessen analysiert die Primärverarbeitungseinheit das zum Zeitpunkt N von der Kamera aufgenommene Bild, benötigt dafür weitere N Zeittakte und übermittelt zum Zeitpunkt 2 * N eine jeweilige Pixelposition zu dem mindestens einen charakteristischen Merkmal an die Sekundärverarbeitungseinheit. Die Sekundärverarbeitungseinheit gleicht zum Zeitpunkt 2 * N die jeweilige neu übermittelte Pixelposition zu dem mindestens einen charakteristischen Merkmal mit der aus der Verfolgung eines jeweiligen Umgebungsmerkmals zu dem mindestens einen charakteristischen Merkmal abgespeicherten Pixelposition für das Bild zum Zeitpunkt N ab und führt gegebenenfalls eine Korrektur der jeweiligen Pixelposition des mindestens einen charakteristischen Merkmals durch. Von dieser jeweiligen gegebenenfalls korrigierten Pixelposition des mindestens einen mit dem jeweiligen Umgebungsmerkmal identifizierten charakteristischen Merkmals verfolgt die Sekundärverarbeitungseinheit das jeweilige Umgebungsmerkmal für die Bilder zu den Zeitpunkten N + 1 bis 2 * N, um dann für das 2 * N + 1te Bild in Echtzeit aus einem gefundenen jeweiligen Umgebungsmerkmal eine jeweilige Pixelposition des mindestens einen charakteristischen Merkmals bereitstellen zu können. Dieser Vorgang wiederholt sich jeweilig alle N weiteren Zeittakte für das jeweilig N Zeittakte in der Vergangenheit vorliegende Bild.
  • In einer Ausführungsform des erfindungsgemäßen Verfahrens wird aus dem mindestens einen durch die Primärverarbeitungseinheit festgestellten charakteristischen Merkmal mittels aktiver Triangulation eine Tiefenmap erstellt. Zur rechentechnischen Umsetzung wird die Pixelposition des jeweiligen charakteristischen Merkmals auf einer bildaufnehmenden Einheit in der mindestens einen Kamera benötigt.
  • In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens wird aus dem mindestens einen durch die Sekundärverarbeitungseinheit festgestellten Umgebungsmerkmal mittels aktiver Triangulation eine Tiefenmap erstellt. Mit dem jeweiligen Umgebungsmerkmal ist eine Pixelposition des zugehörigen charakteristischen Merkmals bekannt. Dies wird für die aktive Triangulation benötigt.
  • In einer Ausführungsform des erfindungsgemäßen Verfahrens wird das charakteristische Merkmal durch Hell-Dunkel-Übergänge mit einer vorgegebenen Musterfrequenz gebildet. Bspw. wird ein charakteristisches Merkmal aus einem Bildpunkt gewählt, der in Pixeln in seiner unmittelbaren Nachbarschaft in einer Reihenfolge von links oben nach rechts oben nach rechts unten nach links unten nach links oben zwei Übergänge von hell nach dunkel aufweist.
  • In einer Ausführungsform des erfindungsgemäßen Verfahrens wird von der Primärverarbeitungseinheit zu einer Bildanalyse ein Gabor Filter eingesetzt. Diese numerische Methode ermöglicht vorteilhaft eine schnelle rechentechnische Ermittlung von sich abwechselnden Hell-Dunkel-Flächen, insbesondere die Suche nach einer vorgegebenen Musterfrequenz.
  • In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens wird von der Sekundärverarbeitungseinheit aus der Verfolgung des mindestens einen Umgebungsmerkmals über mindestens zwei Bilder eine jeweilige Bewegungsänderung des mindestens einen Umgebungsmerkmals relativ zur jeweiligen Pixelposition im ersten Bild festgestellt und zur Verfolgung des Umgebungsmerkmals in den folgenden Bildern auf die jeweilige weitere Bewegungsänderung extrapoliert. Dieses Vorgehen unterstützt die Verfolgung des jeweiligen Umgebungsmerkmals.
  • In einer Ausführungsform des erfindungsgemäßen Verfahrens wird von der Sekundärverarbeitungseinheit aus einer Differenz zwischen der von der Primärverarbeitungseinheit für das erste Bild gelieferten jeweiligen Pixelposition des mindestens einen charakteristischen Merkmals und einer jeweiligen nach dem ersten Bild als nächstes verarbeiteten Bildes gelieferten Pixelposition des gleichen mindestens einen charakteristischen Merkmals eine Korrektur für die weitere Extrapolation vorgenommen. Dadurch kann die Sekundärverarbeitungseinheit eine Kalibrierung von Pixelpositionen der anhand von jeweiligen Umgebungsmerkmalen verfolgten charakteristischen Merkmale durchführen.
  • In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens wird aus einer Berechnung von Grauwertveränderungen in einem von der Kamera aufgenommenen Bild auf eine Anzahl M an aufeinanderfolgenden Bildern geschlossen, über die allein mittels der Sekundärverarbeitung eine Tiefenmap erstellt wird. Eine Grauwertveränderung bedeutet dabei, dass sich ein von einem Pixel dargestellter Helligkeitswert verändert. Ist die Zahl der Pixel, bei denen eine Grauwertveränderung stattfindet, hoch, so liegt eine dynamische Szene vor, etwa ein sich bewegendes Objekt im Fahrzeugvorfeld. Bei einer statischen Szene werden hingegen kaum Grauwertveränderungen registriert. Je stärker Grauwertveränderungen stattfinden, umso ungenauer fällt eine mittels der Sekundärverarbeitung durch Verfolgung von jeweiligen Umgebungsmerkmalen festgestellte Pixelposition eines jeweiligen charakteristischen Merkmals aus. Daher wird aus einem Maß für Grauwertveränderungen, bspw. einer Gesamtzahl an Pixeln mit einem sich ändernden Helligkeitswert zwischen zwei aufeinanderfolgenden Bildern, auf die Anzahl M an aufeinanderfolgenden Bildern, mit denen zur Erstellung einer Tiefenmap von einer Sekundärverarbeitungseinheit Pixelpositionen charakteristischer Merkmale durch Verfolgung von zugehörigen Umgebungsmerkmalen bereitgestellt werden, geschlossen. Ist die Anzahl M kleiner als die Anzahl N von Bildern, während deren Abfolge die Primärverarbeitung stattfindet, so kann das erfindungsgemäße Verfahren nicht mehr in Echtzeit ausgeführt werden.
  • Ferner wird ein System zu einer selektiven Merkmalsextraktion beansprucht, welches mindestens einen im Frontbereich eines Fahrzeugs verbaubaren Scheinwerfer und mindestens eine Kamera aufweist, und weiter eine Recheneinheit mit einer Speichereinheit und einer Bildverarbeitungssoftware umfasst, mit der sich eine Bildverarbeitungseinheit, die mindestens eine Primärverarbeitungseinheit und eine Sekundärverarbeitungseinheit umfasst, zur Ausführung eines voranstehend beschriebenen Verfahrens realisieren lässt.
  • In einer Ausgestaltung des erfindungsgemäßen Systems umfasst die Recheneinheit Mittel zu einem parallelen Ablauf von Primärverarbeitung und Sekundärverarbeitung eines jeweiligen von der Kamera aufgenommenen Bildes.
  • Weitere Vorteile und Ausgestaltungen der Erfindung ergeben sich aus der Beschreibung und den beiliegenden Zeichnungen.
  • Es versteht sich, dass die voranstehend genannten und die nachstehend noch zu erläuternden Merkmale nicht nur in der jeweils angegebenen Kombination, sondern auch in anderen Kombinationen oder in Alleinstellung verwendbar sind, ohne den Rahmen der vorliegenden Erfindung zu verlassen.
  • Die Figuren werden zusammenhängend und übergreifend beschrieben, gleichen Komponenten sind dieselben Bezugszeichen zugeordnet.
    • 1 zeigt in schematischer Darstellung ein von einer Kamera aufgenommenes Bild mit einem in ein Fahrzeugvorfeld projiziertes Muster und detektierten charakteristischen Merkmalen gemäß einer Ausführungsform des erfindungsgemäßen Verfahrens.
    • 2 zeigt in schematischer Darstellung ein von einer Kamera aufgenommenes Bild mit einem in ein Fahrzeugvorfeld projiziertes Muster und detektierten charakteristischen Merkmalen nach einem ersten Zeittakt gemäß einer Ausführungsform des erfindungsgemäßen Verfahrens.
    • 3 zeigt in schematischer Darstellung ein von einer Kamera aufgenommenes Bild mit einem in ein Fahrzeugvorfeld projiziertes Muster und detektierten charakteristischen Merkmalen nach N Zeittakten gemäß einer Ausführungsform des erfindungsgemäßen Verfahrens.
    • 4 zeigt in schematischer Darstellung ein von einer Kamera aufgenommenes Bild mit einem in ein Fahrzeugvorfeld projizierten Muster und detektierten charakteristischen Merkmalen nach 2* N Zeittakten gemäß einer Ausführungsform des erfindungsgemäßen Verfahrens.
    • 5 zeigt zwei Graphen einer jeweiligen Grauwerteverteilung zweier von einer Kamera aufgenommener Bilder eines in ein Fahrzeugvorfeld projizierten Musters gemäß einer Ausführungsform des erfindungsgemäßen Verfahrens.
  • In 1 wird in schematischer Darstellung ein von einer Kamera aufgenommenes Bild 10 mit einem in ein durch einen Scheinwerfer ausgeleuchtetes Fahrzeugvorfeld 11 projizierten Muster 12 und detektierten charakteristischen Merkmalen 13 und 14 gemäß einer Ausführungsform des erfindungsgemäßen Verfahrens gezeigt. Ein jeweiliges charakteristisches Merkmal 13 wurde innerhalb eines Rahmens 15, bzw. alle umfassend durch Bezugszeichen 14 bezeichnet, von einer Primärverarbeitungseinheit bspw. mittels eines Gabor Filters ermittelt und dient in der weiteren Bildanalyse der Erstellung einer Tiefenmap. Zu einer Beobachtung von im Fahrzeugvorfeld sich bewegenden Objekten, insbesondere von einem sich dem Fahrzeug nähernden Objekt, ist eine stetige Verfolgung dieses Objektes bzw. eines im darauf projizierten Muster detektierten charakteristischen Merkmals unabdingbar. Da jedoch während einer Detektion von charakteristischen Merkmalen in einem Bild durch eine Primärverarbeitungseinheit mehrere weitere Bilder von mindestens einer Kamera zur Verfügungen gestellt werden, in denen sich ein zu beobachtendes Objekt weiter bewegt, d.h. eine Positionsänderung auf dem jeweiligen Bild einnimmt, wird erfindungsgemäß ein schnelleres, echtzeitfähiges Auswerteverfahren durch eine Sekundärverarbeitungseinheit durchgeführt. Hierbei wird von der Primärverarbeitungseinheit mit einem jeweiligen detektierten charakteristischen Merkmal 13 bzw. 14 eine Pixelposition identifiziert und einer Sekundärverarbeitungseinheit übermittelt. Die Sekundärverarbeitungseinheit ermittelt dann in der Umgebung dieser Pixelposition ein Umgebungsmerkmal, dargestellt durch den Rahmen 16 und identifiziert mit innerhalb dieses Rahmens 16 liegenden Pixeln einer gewissen Farbe oder Helligkeit die Pixelposition des jeweiligen charakteristischen Merkmals. Dabei sind die Pixelpositionen des jeweiligen charakteristischen Merkmals und des jeweiligen mit einem Umgebungsmerkmal identifizierten charakteristischen Merkmals identisch. In den darauffolgenden Bildern sucht die Sekundärverarbeitungseinheit nach einer bspw. innerhalb des Rahmens 16 dargestellten Helligkeitsstruktur, die sich innerhalb eines gewissen flächigen Bereichs, ggf. eingegrenzt durch eine Abschätzung einer Verschiebung des projizierten Musters 12 auf den darauffolgenden Bilder finden lassen muss.
  • In 2 wird in schematischer Darstellung ein von einer Kamera aufgenommenes Bild mit einem in ein Fahrzeugvorfeld projizierte Muster und detektierten charakteristischen Merkmalen nach einem ersten Zeittakt gemäß einer Ausführungsform des erfindungsgemäßen Verfahrens gezeigt. Das projizierte Muster 12 hat sich gegenüber der in 1 eingenommenen Position um eine Bewegungsänderung 27 verschoben. Von der Sekundärverarbeitungseinheit wird das gleiche Umgebungsmerkmal 26 wie in dem Rahmen 16 in 1 verfolgt und eine damit verknüpfte Pixelposition des charakteristischen Merkmals 23 zu einer Erstellung einer Tiefenmap weitergegeben. Der Rahmen 15 zeigt die ursprüngliche Pixelposition des charakteristischen Merkmals 13 von 1.
  • In 3 wird in schematischer Darstellung ein von einer Kamera aufgenommenes Bild mit einem in ein Fahrzeugvorfeld projiziertes Muster und detektierten charakteristischen Merkmalen nach N Zeittakten gemäß einer Ausführungsform des erfindungsgemäßen Verfahrens gezeigt. Das projizierte Muster 12 hat sich gegenüber der in 1 eingenommenen Position noch weiter um eine Bewegungsänderung 37 verschoben. Von der Sekundärverarbeitungseinheit wird das gleiche Umgebungsmerkmal 36 wie in dem Rahmen 16 in 1 verfolgt und eine damit verknüpfte Pixelposition des charakteristischen Merkmals 33 zu einer Erstellung einer Tiefenmap weitergegeben. Der Rahmen 15 ist an der Pixelposition des ursprünglich detektierten charakteristischen Merkmals 13 dargestellt. Das von der Kamera aufgenommene Bild 10 wird der Primärverarbeitungseinheit zu einer erneuten Auswertung hinsichtlich charakteristischer Merkmale übermittelt.
  • In 4 wird in schematischer Darstellung ein von einer Kamera aufgenommenes Bild mit einem in ein Fahrzeugvorfeld projizierten Muster und detektierten charakteristischen Merkmalen nach 2* N Zeittakten gemäß einer Ausführungsform des erfindungsgemäßen Verfahrens gezeigt. Das projizierte Muster 12 hat sich gegenüber der in 1 eingenommenen Position noch weiter verschoben, und zwar um mehr als durch eine Bewegungsänderung 47 dargestellte Verschiebung. Allerdings hat die Sekundärverarbeitungseinheit fälschlicherweise ein von dem Rahmen 46 dargestelltes Umgebungsmerkmal verfolgt, welcher sich gegenüber der in 1 eingenommen Position des Rahmens 16 eines Umgebungsmerkmals um die Bewegungsänderung 47 verschoben hat und würde nun eine damit verknüpft falsche Pixelposition zu einem charakteristischen Merkmal 48 ermitteln. Durch die Primärverarbeitungseinheit werden nun an die Sekundärverarbeitungseinheit die Pixelpositionen zu den detektierten charakteristischen Merkmalen nach N Zeittakten übermittelt, wodurch die Sekundärverarbeitungseinheit die mit den jeweiligen Umgebungsmerkmalen verknüpften Pixelpositionen korrigieren kann und ein neu festgestelltes Umgebungsmerkmal, dargestellt durch den Rahmen 45 und mit dem charakteristischen Merkmal 43 identifiziert, verfolgt.
  • In 5 werden zwei Graphen 51 und 52 einer jeweiligen Grauwerteveränderung zweier von einer Kamera aufgenommener Bilder eines in ein Fahrzeugvorfeld projizierten Musters gemäß einer Ausführungsform des erfindungsgemäßen Verfahrens dargestellt. Eine horizontale Achse 53 zeigt eine Änderung eines Grauwertes des gleichen Pixels aus zwei zeitlich aufeinanderfolgenden Bildern, eine vertikale Achse 54 einen der Zahl der Pixel mit der jeweiligen Grauwertveränderung entsprechenden Wert. Sind, wie in Graph 51, die Grauwertveränderungen hoch, liegt eine dynamische Szene vor, d.h. mindestens ein Objekt im Fahrzeugvorfeld bewegt sich. Durch die relativ großen Grauwertveränderungen ist die Sekundärverarbeitung stärker fehlerbehaftet und die notwendige Zeit bis zu einer neuen Primärverarbeitung gering. In Graph 52 sind die Grauwertveränderungen niedrig. Es liegt eine statische Szene vor. Der Sekundärverarbeitungseinheit kann über mehr Zeittakte M vertraut werden.
  • ZITATE ENTHALTEN IN DER BESCHREIBUNG
  • Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
  • Zitierte Patentliteratur
    • DE 112011102132 T5 [0003]
    • DE 102009040991 B4 [0005]
    • DE 102006061712 A1 [0006]

Claims (10)

  1. Verfahren zu einer selektiven Merkmalsextraktion, bei dem ein Fahrzeug im Frontbereich mindestens einen Scheinwerfer und mindestens eine Kamera aufweist, bei dem durch den mindestens einen Scheinwerfer ein Muster (12) in ein Fahrzeugvorfeld (11) projiziert wird und von der mindestens einen Kamera in kontinuierlicher Abfolge Bilder (10) in Form von Pixeln aufgenommen werden und an eine Bildverarbeitungseinheit, die mindestens eine Primärverarbeitungseinheit und eine Sekundärverarbeitungseinheit umfasst, weitergeleitet werden, bei dem während einer Primärverarbeitung eines einzelnen Bildes (10) eine Anzahl N weitere Bilder (10) von der Kamera aufgenommen werden und an die Sekundärverarbeitungseinheit weitergeleitet werden, bei dem von einer Primärverarbeitungseinheit in einem ersten Bild (10) nach mindestens einem charakteristischen Merkmal (13, 14, 43) gesucht wird, bei dem eine jeweilige Pixelposition des das jeweilige charakteristische Merkmal (13, 14, 43) enthaltenden Pixels an die Sekundärverarbeitungseinheit weitergegeben wird, bei dem von der Sekundärverarbeitungseinheit in dem ersten Bild (10) in einer mehrere Pixel umfassenden Umgebung dieser jeweiligen Pixelposition mindestens ein Umgebungsmerkmal (16) feststellt und mit dieser jeweiligen Pixelposition identifiziert wird, bei dem von der Sekundärverarbeitungseinheit anhand des mindestens einen Umgebungsmerkmals (16) der jeweiligen Pixelposition das ursprünglich mit der jeweiligen Pixelposition verbundene charakteristische Merkmal (13, 14, 43) in jedem auf das erste Bild (10) folgenden Bild (10) verfolgt wird, bei dem mit jedem weiteren durch die Primärverarbeitungseinheit analysierten Bild (10) das mindestens eine charakteristische Merkmal (13, 14) festgestellt wird und eine jeweilige Pixelposition des das mindestens eine charakteristische Merkmal (13, 14, 43) enthaltenden Pixels der Sekundärverarbeitungseinheit übermittelt wird und das zugehörige von der Primärverarbeitung analysierte Bild (10) für die Sekundärverarbeitung als ein erstes Bild (10) gesetzt wird.
  2. Verfahren nach einem der voranstehenden Ansprüche, bei dem aus dem mindestens einen durch die Primärverarbeitungseinheit festgestellten charakteristischen Merkmal (13, 14, 43) mittels aktiver Triangulation eine Tiefenmap erstellt wird.
  3. Verfahren nach einem der voranstehenden Ansprüche, bei dem aus dem mindestens einen durch die Sekundärverarbeitungseinheit festgestellten Umgebungsmerkmal (16, 26, 36, 45) mittels aktiver Triangulation eine Tiefenmap erstellt wird.
  4. Verfahren nach einem der voranstehenden Ansprüche, bei dem das charakteristische Merkmal (13, 14, 43) durch Hell-Dunkel-Übergänge mit einer vorgegebenen Musterfrequenz gebildet wird.
  5. Verfahren nach einem der voranstehenden Ansprüche, bei dem von der Primärverarbeitungseinheit ein Gabor Filter verwendet wird.
  6. Verfahren nach einem der voranstehenden Ansprüche, bei dem von der Sekundärverarbeitungseinheit aus der Verfolgung des mindestens einen Umgebungsmerkmals (16, 26, 36, 48) über mindestens zwei Bilder (10) eine jeweilige Bewegungsänderung (27) des mindestens einen Umgebungsmerkmals relativ zur jeweiligen Pixelposition im ersten Bild (10) festgestellt und zur Verfolgung des mindestens einen Umgebungsmerkmals (16, 26, 36, 48) in den folgenden Bildern (10) auf die jeweilige weitere Bewegungsänderung (37, 47) extrapoliert wird.
  7. Verfahren nach einem der voranstehenden Ansprüche, bei dem die Sekundärverarbeitung aus einer Differenz zwischen der von der Primärverarbeitung für das erste Bild (10) gelieferten jeweiligen Pixelposition des mindestens einen charakteristischen Merkmals (13) und einer jeweiligen nach dem ersten Bild (10) als nächstes verarbeiteten Bildes (10) gelieferten Pixelposition des gleichen mindestens einen charakteristischen Merkmals (43) eine Korrektur für die weitere Extrapolation vornimmt.
  8. Verfahren nach einem der voranstehenden Ansprüche, bei dem aus einer Berechnung von Grauwertveränderungen (51, 52) in einem von der Kamera aufgenommenen Bild (10) auf eine Anzahl M an aufeinanderfolgenden Bildern geschlossen wird, über die allein mittels der Sekundärverarbeitung eine Tiefenmap erstellt wird.
  9. System zu einer selektiven Merkmalsextraktion, welches mindestens einen im Frontbereich eines Fahrzeugs verbaubaren Scheinwerfer und mindestens eine Kamera aufweist, und weiter eine Recheneinheit mit einer Speichereinheit und einer Bildverarbeitungssoftware umfasst, mit der sich eine Bildverarbeitungseinheit, die mindestens eine Primärverarbeitungseinheit und eine Sekundärverarbeitungseinheit umfasst, zur Durchführung eines Verfahrens nach einem der voranstehenden Ansprüche realisieren lässt.
  10. System nach Anspruch 9, wobei die Recheneinheit Mittel zu einem parallelen Ablauf von Primärverarbeitung und Sekundärverarbeitung eines jeweiligen von der Kamera aufgenommenen Bildes (10) umfasst.
DE102018100738.8A 2018-01-15 2018-01-15 Selektive Merkmalsextraktion Pending DE102018100738A1 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102018100738.8A DE102018100738A1 (de) 2018-01-15 2018-01-15 Selektive Merkmalsextraktion

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102018100738.8A DE102018100738A1 (de) 2018-01-15 2018-01-15 Selektive Merkmalsextraktion

Publications (1)

Publication Number Publication Date
DE102018100738A1 true DE102018100738A1 (de) 2019-07-18

Family

ID=67068636

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102018100738.8A Pending DE102018100738A1 (de) 2018-01-15 2018-01-15 Selektive Merkmalsextraktion

Country Status (1)

Country Link
DE (1) DE102018100738A1 (de)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102021002775B3 (de) 2021-05-28 2022-08-04 Mercedes-Benz Group AG Verfahren zur Anpassung eines Scheinwerfersystems
DE102022001653B4 (de) 2022-05-10 2023-09-21 Mercedes-Benz Group AG Computer-implementiertes Verfahren zur Bestimmung einer Umfeld-Rekonstruktion, Computerprogramm zur Durchführung eines solchen Verfahrens, Rechenvorrichtung zur Durchführung eines solchen Verfahrens, Analysevorrichtung mit einer solchen Rechenvorrichtung und computer-implementiertes Verfahren zum Trainieren eines computer-implementierten Algorithmus zur Ermittlung einer Tiefeninformation

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6754370B1 (en) * 2000-08-14 2004-06-22 The Board Of Trustees Of The Leland Stanford Junior University Real-time structured light range scanning of moving scenes
US6970591B1 (en) * 1999-11-25 2005-11-29 Canon Kabushiki Kaisha Image processing apparatus
DE102006061712A1 (de) 2006-12-28 2008-07-03 Tropf, Hermann Erstellung eines Abstandsbildes
US20100191391A1 (en) * 2009-01-26 2010-07-29 Gm Global Technology Operations, Inc. multiobject fusion module for collision preparation system
DE102009040991B4 (de) 2009-09-10 2012-11-08 Carl Zeiss Ag Messanordnung und Verfahren zum Vermessen einer Oberfläche
DE112011102132T5 (de) 2010-06-25 2013-05-23 Trimble Navigation Ltd. Verfahren und Vorrichtung für eine imagebasierte Positionierung
DE102015122172A1 (de) * 2015-12-18 2017-06-22 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Scheinwerferbasierte Projetion von Mustern zur Vermessung räumlicher Eigenschaften einer Fahrzeugumgebung

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6970591B1 (en) * 1999-11-25 2005-11-29 Canon Kabushiki Kaisha Image processing apparatus
US6754370B1 (en) * 2000-08-14 2004-06-22 The Board Of Trustees Of The Leland Stanford Junior University Real-time structured light range scanning of moving scenes
DE102006061712A1 (de) 2006-12-28 2008-07-03 Tropf, Hermann Erstellung eines Abstandsbildes
US20100191391A1 (en) * 2009-01-26 2010-07-29 Gm Global Technology Operations, Inc. multiobject fusion module for collision preparation system
DE102009040991B4 (de) 2009-09-10 2012-11-08 Carl Zeiss Ag Messanordnung und Verfahren zum Vermessen einer Oberfläche
DE112011102132T5 (de) 2010-06-25 2013-05-23 Trimble Navigation Ltd. Verfahren und Vorrichtung für eine imagebasierte Positionierung
DE102015122172A1 (de) * 2015-12-18 2017-06-22 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Scheinwerferbasierte Projetion von Mustern zur Vermessung räumlicher Eigenschaften einer Fahrzeugumgebung

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102021002775B3 (de) 2021-05-28 2022-08-04 Mercedes-Benz Group AG Verfahren zur Anpassung eines Scheinwerfersystems
WO2022248105A1 (de) 2021-05-28 2022-12-01 Mercedes-Benz Group AG Verfahren zur anpassung eines scheinwerfersystems
DE102022001653B4 (de) 2022-05-10 2023-09-21 Mercedes-Benz Group AG Computer-implementiertes Verfahren zur Bestimmung einer Umfeld-Rekonstruktion, Computerprogramm zur Durchführung eines solchen Verfahrens, Rechenvorrichtung zur Durchführung eines solchen Verfahrens, Analysevorrichtung mit einer solchen Rechenvorrichtung und computer-implementiertes Verfahren zum Trainieren eines computer-implementierten Algorithmus zur Ermittlung einer Tiefeninformation

Similar Documents

Publication Publication Date Title
WO2005048195A2 (de) Verfahren zur korrespondenzanalyse in bilddatensätzen
DE112013004103T5 (de) Verfahren und Vorrichtung zum Erzeugen einer Disparitätskarte
DE102010062496A1 (de) Verfahren und Vorrichtung zum Verarbeiten von Bildinformationen zweier zur Bilderfassung geeigneter Sensoren eines Stereo-Sensor-Systems
EP2791896B1 (de) Verfahren zur erzeugung von superaufgelösten bildern mit verbesserter bildauflösung und messvorrichtung
EP3782117A1 (de) Verfahren, vorrichtung und computerlesbares speichermedium mit instruktionen zur verarbeitung von sensordaten
DE102011107458A1 (de) Verfahren zum Evaluieren einer Objekterkennungseinrichtung eines Kraftfahrzeugs
DE102015122172A1 (de) Scheinwerferbasierte Projetion von Mustern zur Vermessung räumlicher Eigenschaften einer Fahrzeugumgebung
DE102014006717A1 (de) Verfahren zur Erzeugung einer dreidimensionalen Information eines Objektes mit einem Digitalmikroskop und Datenverarbeitungsprogramm zur Abarbeitung des Verfahrens
EP3089106A1 (de) Verfahren zur reflexionskorrektur von abbildungen und diesbezügliche vorrichtungen
DE102018116511B3 (de) Verfahren zur Tiefenwahrnehmung basierend auf beidseitig angeordneten Scheinwerfern eines Fahrzeugs
DE102018100738A1 (de) Selektive Merkmalsextraktion
DE102014113372A1 (de) Filtervorrichtung
DE102012211961A1 (de) Verfahren und Vorrichtung zum Berechnen einer Veränderung eines Abbildungsmaßstabs eines Objekts
DE102017117211B3 (de) Verfahren zur trajektorienbasierten Merkmalszuordnung in einem von einer Bilderfassungseinheit eines Fahrzeugs erfassten Bild
WO2015106829A1 (de) Bildaufnahmesimulation in einem koordinatenmessgerät
DE102013012778A1 (de) Verfahren zum Detektieren eines sich bewegenden Fußgängers anhand von charakteristischen Merkmalen und optischen Flussvektoren eines Bilds, Kamerasystem und Kraftfahrzeug
DE102011013776A1 (de) Verfahren zur Erfassung und/oder Verfolgung von Objekten
DE102019129029A1 (de) System und verfahren zur objektdetektion
DE102017105910A1 (de) Frequenzbasierte Projektions-Segmentierung
DE102017117594A1 (de) Automatisierte Erkennung einer Scheinwerferfehlstellung
DE102008059551A1 (de) Verfahren zum Ermitteln der Lageänderung eines Kamerasystems und Vorrichtung zum Erfassen und Verarbeiten von Bildern
DE10123365A1 (de) Verfahren und Vorrichtung zum Ermitteln von Bewegung in mindestens zwei zeitlich aufeinander folgenden digitalen Bildern, Computerlesbares Speichermedium und Computerprogramm-Element
DE102020212081A1 (de) Vorrichtung und Verfahren zur Erstellung von Trainingsdaten für zweidimensionale Scans eines Bodenradar-Systems
DE102008026657A1 (de) Verfahren und Vorrichtung zur bildgebenden Darstellung von akustischen Objekten
DE102010018142A1 (de) Verfahren zur Aufnahme eines Bildes

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R016 Response to examination communication
R002 Refusal decision in examination/registration proceedings
R006 Appeal filed