DE19630194B4 - Verfahren zur Detektion von Objekten - Google Patents

Verfahren zur Detektion von Objekten Download PDF

Info

Publication number
DE19630194B4
DE19630194B4 DE19630194A DE19630194A DE19630194B4 DE 19630194 B4 DE19630194 B4 DE 19630194B4 DE 19630194 A DE19630194 A DE 19630194A DE 19630194 A DE19630194 A DE 19630194A DE 19630194 B4 DE19630194 B4 DE 19630194B4
Authority
DE
Germany
Prior art keywords
image
vector
moving objects
displacement
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
DE19630194A
Other languages
English (en)
Other versions
DE19630194A1 (de
Inventor
Roland Herrmann
Christoph Rössig
Rudolf Dr. Mester
Michael Dr. Hoetter
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Priority to DE19630194A priority Critical patent/DE19630194B4/de
Publication of DE19630194A1 publication Critical patent/DE19630194A1/de
Application granted granted Critical
Publication of DE19630194B4 publication Critical patent/DE19630194B4/de
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30236Traffic on road, railway or crossing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0092Image segmentation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

Verfahren zur Detektion von Objekten auf ebenen Flächen, insbesondere Straßen, mit einer Stereokameranordnung, wobei die beiden Bilder der Stereokamera miteinander über eine Recheneinheit blockweise verglichen werden, um ein Objekt durch eine Disparität zwischen den Bildblöcke zu erkennen, wobei die Abbildung der Ebene zwischen den Bildern der Kameras von Modellparametern a →i, die aus dem dreidimensionalen Ebenenvektor n → und den geometrischen Verhältnissen der Kameras zueinander abgeleitet werden, beschrieben wird, dadurch gekennzeichnet, daß ein zweidimensionaler Verschiebungsvektor D → geschätzt wird, der die relative Verschiebung eines Bildblocks der Kamera 2 zu demselben Bildblock der Kamera 1 quantitativ beschreibt, und daß aus dem Verschiebungsvektor D → der Ebenenvektor n → berechnet wird.

Description

  • Die Erfindung geht aus von einem Verfahren zur Detektion von Objekten auf ebenen Flächen, insbesondere Straßen, nach der Gattung des Hauptanspruchs. Es ist aus der Literatur bereits ein solches Verfahren zur Hinderniserkennung mithilfe einer Sterokameraanordnung bekannt (Proceedings of the 5th ICCV, June 1995 „An integrated stereo-based approach to automatic vehicle guidance", Luong, Weber, Koller und Malik). Diese Veröffentlichung beschreibt ein Verfahren zur videogestützten automatischen Fahrzeugführung. Dabei wird die Straße mit einer Stereokameraanordnung beobachtet und Hindernisse, wie z.B. vorausfahrende Fahrzeuge mit der Stereokamera erkannt und verfolgt. Zur Erkennung möglicher Hindernisse wird die Disparität zwischen den vorverarbeiteten Stereobildern bestimmt. Bildpunkte mit der Disparität Null werden als zur Straße zugehörig angenommen und für die Hinderniserkennung nicht weiter betrachtet. Die Straße wird dabei als Ebene angesehen. Objekten oberhalb der Straßenebene sind Bildpunkte mit von Null verschiedenen Disparitäten zugeordnet. Es werden Bildpunkte mit Disparitäten größer einem bestimmten Schwellwert gesucht und in einen Objektmaske eingetragen. Um die beiden Bilder der Straßenebene in Bezug auf die unterscheidlichen Perspektiven der Stereokameras zur Deckung zu bringen, wird nach dem Stand der Technik eine Helmholtz-Scherung durchgeführt.
  • Dabei wird davon ausgegangen, daß die beiden Blickrichtungen keine Rotation zueinander aufweisen. Ferner wird davon ausgegangen, daß die x-Komponente des Ebenenvektors Null ist, d. h. ein Wanken der Stereokameraanordnung wird nicht berücksichtigt. Durch den vereinfachten Ansatz müssen lediglich zwei geometrische Parameter bestimmt werden. Bei einem Wanken der Anordnung gegenüber der Straße können fälschlicherweise Teile der Straße bereits als Objekte erkannt werden. Zur Bestimmung der Stereodisparität wird ein Korrelationsverfahren verwendet.
  • Aus Faugeras, Lustman, „Motion and Structure from motion in a piecewise planar environment", Int. J. of Pattern Recognition and Artifical Intelligence, Vol 2, No. 3, 1988, p 485ff ist ein Ebenen-Abbildungs-Modell bekannt. Die deutsche Offenlegungsschrift DE 43 11 972 offenbart ein Verfahren zur Detektion von Änderungen in Bewegtbildern. Ein Verfahren zur Ermittlung von Verschiebungsvektoren ist aus der Veröffentlichung "Zuverlässigkeit und Effizienz von Verfahren zur Verschiebungsvektorschätzung" (DAGM 95, Bielefeld, Mester, Hötter) bekannt.
  • Die deutsche Offenlegungsschrift DE 40 15 959 A1 offenbart eine Anordnung zur Erkennung von Hindernissen, wobei zwei im Abstand angeordnete Videokameras Videosignale erzeugen.
  • Der Erfindung liegt die Aufgabe zugrunde, Objekte genauer zu detektieren und Fehldetektionen zu reduzieren.
  • Vorteile der Erfindung
  • Das erfindungsgemäße Verfahren mit den kennzeichnenden Merkmalen des Hauptanspruchs hat demgegenüber den Vorteil, daß der vollständige, dreidimensionale Ebenenvektor n → bestimmt wird und damit ein Wanken in der Stereokameraanordnung berücksichtigt wird, wodurch Objekte genauer detektiert und Fehldetektionen reduziert werden. Das erfindungsgemäße Verfahren hat weiterhin den Vorteil, daß die beiden Blickrichtungen der Kameras einen Rotation zueinander aufweisen können. Besonders vorteilhaft ist es, daß die Ebenenparameter der Straße über Verschiebungsvektoren zwischen den Bildbereichen zweier Videoaufnahmen berechnet werden. Vorteilhafterweise kann aus den geschätzten Verschiebungsvektoren, die zweidimensionale Vektoren sind, der dreidimensionale Ebenenvektor abgeleitet werden. Dadurch erhält man eine Schätzung des Ebenenvektors n →. Der Ebenenvektor n → wird zusammen mit geometrischen Größen der Stereokameraanordnung zur Bestimmung der Modellparameter a → benutzt. Die Modellparamater a → beschreiben die Abbildung der Ebene zwischen den Bildern der Stereokameranordnung. Das Verfahren, einer Schätzung des Ebenenvektors ist gegenüber einer Schätzung der gesamten
  • Modellparameter a →i robuster, da weniger Parameter berechnet werden und der Einfluß von Störgrößen geringer wird. Der Ebenenvektor erlaubt auch im Gegensatz zu den Modellparametern a → eine direkte physikalische Interpretation und Beurteilung.
  • Durch die in den Unteransprüchen aufgeführten Maßnahmen ist eine vorteilhafte Weiterbildung und Verbesserung des im Hauptanspruchs angegebenen Verfahrens möglich.
  • Vorteilhafterweise werden zur Reduzierung des Rechenaufwands nur solche Bildbereiche ausgewertet, die für die Objekterkennung in der Straßenszene relevant sind. Der zu bearbeitende Bildbereich wird dabei auf die Fahrbahn eingegrenzt. Dadurch wird die rechenzeitintensive Messung der Verschiebungsvektoren auf im Vergleich zur gesamten Bildfläche prozentual kleine Bildbereiche beschränkt. Die Berücksichtigung der örtlichen Verteilung verhindert eine Verfälschung des Regressionsergebnisses.
  • Vorteilhafterweise wird der Verschiebungsvektor in einem zweidimensionalen Suchbereich geschätzt.
  • Darüberhinaus hat das Verfahren den Vorteil, daß zur Bestimmung der Dispärität ein statistischer Ansatz verwendet wird, der eine Zuverlässigkeit bestimmter Disparitäten berücksichtigt.
  • Es ist dabei von Vorteil, die Verschiebungsvektoren auf ihre Zuverlässigkeit zu überprüfen und damit der Schätzung eine gewisse Gewichtung zu verleihen. Dabei werden Punktmessungen und Linienmessungen unterschieden.
  • Der erfindungsgemäße Verfahrensablauf der Objektdetektion weist mehrere Vorteile auf. Zur Stabilisierung der Ebenenvektorbestimmung wird die Zuverlässigkeit der in die Regression eingehenden Verschiebungsvektoren berücksichtigt. Zudem wird die Schätzgenauigkeit bei der Ermittlung des Ebenenvektors ausgewertet. Bei geringer Schätzgenauigkeit werden die im vorhergehenden Zeitpunkt bestimmten Ebenenvektoren zur Berechnung des aktuellen Ebenenvektors stärker berücksichtigt. Es wird eine Vorkompensation der Straßenebene mit den Kompensationsparametern a →, die aus dem vorhergehenden Durchlauf des Verfahrens stammt, vorgenommen. Dadurch ist bereits eine Anpassung an den aktuellen Straßenzustand erreicht. Die vorzunehmende Helligkeitsanpassung der beiden Bilder der Stereokameraanordnung vermeidet systematische Fehler beim Vergleich von Grauwerten zwischen den beiden Bildern aufgrund von unterschiedlichen Helligkeitsparametern der beiden Kameras.
  • Bei der Umrechnung eines Bildes einer Kamera der Sterokameraanordnung in die Perspektive der anderen Kamera wird vorteilhafterweise ein auf Geradenschnittpunkten basierendes Verfahren verwendet, welches gegenüber der Umrechung jedes einzelnen Pixels unter Anwendung der Modellparameter-Abbildungsgleichungen rechenzeiteffizienter ist.
  • Vorteilhafterweise sind die Kameras horizontal oder vertikal linear angeordnet, so daß nur ein eindimensionaler Verschiebungsvektor in horizontaler oder vertikaler Richtung geschätzt werden muß, was eine zusätzliche Stabilisierung und eine Reduzierung der Rechenzeit bewirkt.
  • Zeichnung
  • Ein Ausführungsbeispiel der Erfindung ist in der Zeichnung dargestellt und in der nachfolgenden Beschreibung näher erläutert. Es zeigen 1 ein Ablaufdiagramm zum Ausführungsbeispiel, 2 ein Ablaufdiagramm zur Bestimmung der neuen Kompensationsparameter, 3 ein Ablaufdiagramm zur Auswahl relevanter Bildbereiche, 4 ein Ablaufdiagramm zur Bestimmung der Ebenenparameter und 5 eine Vorrichtung zur Durchführung des Verfahrens. 6 zeigt schematisch die geometrische Anordnung der Bildaufnahmeeinheiten.
  • Beschreibung des Ausführungsbeispiels
  • 5 zeigt eine Vorrichtung zur Objektdetektion aus Stereobildfolgen bewegter Kameras. Die Stereokameraanordnung 1 ist über eine Datenleitung mit der Recheneinheit 2 verbunden und besteht aus einer rechten und einer linken Bildaufnahmeeinheit, die aus unterschiedlichen Blickwinkeln dieselbe Straßenszene beobachten. Die Recheneinheit 2 ist über weitere Datenleitungen 6 mit einer Eingabeeinheit 3, einen Speicher 4 und einem Bildschirm 5 verbunden.
  • Die geometrische Anordnung der Bildaufnahmeeinheiten ist in 6 schematisch dargestellt. In jeder Bilddaufnahmeeinheit liegt ein Koordinatensystem, wobei die x-Achse parallel zur horizontalen Achse des Bildes, die y-Achse parallel zur vertikalen Achse des Bildes und die z-Achse senkrecht auf beiden in Blickrichtungen der Bildaufnahmeeinheit liegt. Der Ursprung des t → Koordinatensystems der rechten Bildaufnahmeeinheit ist gegenüber dem Ursprung des Koordinatensystems der linken Bildaufnahmeeinheit um den Translationsvektor t → = (tx ty tz)T verschoben. Weiterhin können beide Bildaufnahmeeinheiten beliebig gegeneinander verdreht sein, was durch die Rotationsmatrix R beschreiben wird. Voraussetzung ist lediglich, daß sie noch dieselbe Straßenszene aufzeichnen.
  • 1 bis 4 zeigen Ablaufdiagramme, die einen Verfahrensablauf beschreiben, welcher im Ausführungsbeispiel realisiert ist. Das Programm für den Verfahrensablauf ist auf dem Speicher 4 abgelegt und wird von der Recheneinheit 2 ausgeführt. Ergebnisse, die aus dem Programmablauf erzielt werden, werden auf dem Bildschirm 5 dargestellt. Über die Eingabeeinheit 3 kann das Programm in seinem Ablauf beeinflußt werden. Die Stereokameraanordnung 1 liefert die Fernsehbildfolgen einer Straßenszene. Eingang in die weiteren Berechnungen nimmt ein Ebenen-Abbildungs-Modell, das aus der Literatur hinlänglich bekannt ist und nicht weiter beschrieben werden muß (Faugeras, Lustman, „Motion and Structure from motion in a piecewise planar environment", Int. J. of Pattern Recognition and Artifical Intelligence, Vol 2, No. 3, 1988, p 485ff).
  • In 1 wird schematisch der Programmablauf zur Objektdetektion aus Stereobildfolgen bewegter Kameras dargestellt. Eingangssignale zum Zeitpunkt i sind das Bild links Sl,i und das Bild rechts Sr,i. Dies sind zwei Bilder, die eine identische Straßenszene zum selben Zeitpunkt i aus unterschiedlichen Perspektiven abbilden.
  • Das Bild rechts wird, um Helligkeitsunterschiede zwischen den Bildern auszugleichen, die durch unterschiedliche Eigenschaften der Bildaufnahmeeinheiten (Blende, Verstärkung, etc.) oder die unterschiedlichen Perspektiven verursacht werden, zuerst mit dem Parametersatz h →i–1 = (h1,i–1 h2,i–1)T an die Helligkeit des linken Bildes angeglichen 7. Bei dieser Helligkeitsadaption ergibt sich für die Helligkeit aller Bildpunkte sr,i des Bildes rechts Sr,i eine neue Helligkeit srh,i im angepaßten Bild Srh,i durch die Zuweisungsvorschrift:
    Figure 00080001
  • Der Parametersatz h →i–1 wird aus dem vorhergehenden Schleifendurchlauf zum Zeitpunkt i – 1 übernommen. Handelt es sich um den ersten Durchlauf zum Zeitpunkt i = 0, so werden initiale werte vorgegeben.
  • Da die Straße als Ebene approximiert wird, wird im nächsten Schritt das Bild rechts über das Ebenen-Abbildungs-Modell in das Bild links projiziert, d. h. im projizierten rechten Bild Srv,i erscheint die Straßenebene aus der Perspektive der linken Bildaufnahmeeinheit. Für diese Vorkompensation 8 werden die alten Parameter a →i–1 des Straßenmodells aus dem vorhergehenden Schleifendurchlauf zum Zeitpunkt i – 1 übernommen. Handelt es sich um den ersten Durchlauf zum Zeitpunkt i = 0, so werden initiale Werte vorgegeben. Diese Vorkompensation wird nicht auf dem gesamten Bild ausgeführt, sondern, um Rechenzeit zu sparen, nur auf relevanten Teilbereichen des Bildes.
  • Die Abbildungsvorschriften für die Kompensation bestehen aus zwei gebrochen rationalen Funktionen. Ein Punkt P1 = (x1 y1)T im unkompensierten Bild wird abgebildet in einen Punkt P2 = (x2 y2)T = f →(P1) im kompensierten Bild, wobei f → aus den zwei skalaren gebrochen rationalen Funktionen besteht. Zur Reduzierung der Rechenzeit wird ein Verfahren verwendet, welches die Eigenschaft der Kompensation berücksichtigt, daß Geraden wieder in Geraden abgebildet werden. Jeder Punkt P1 wird aufgefaßt als Schnittpunkt der horizontalen Geraden, die durch y1 verläuft, und der vertikalen Geraden, die durch x1 verläuft. Jetzt muß nur für die Geraden eine gebrochen rationale Funktion berechnet werden, und jeder einzelne Punkt P2 ergibt sich aus einer einfachen Schnittpunktberechnung, die schneller als die direkte Berechnung auszuführen ist.
  • Aufgrund der Bewegung der Stereokameraanordnung gegenüber dem vorhergehenden Schleifendurchlauf müssen die Vorkompensationsparameter a →i–1 nachgeführt werden. Dies wird im Schritt Bestimmung der neuen Kompensationsparameter 9 durchgeführt. Die Beschreibung dieses Schrittes erfolgt in 2. Er liefert die neuen Kompensationsparameter a →i. In diesen neuen Kompensationsparametern ist eine Veränderung, verursacht durch die Bewegung der Stereokameraanordnung, berücksichtigt. Sie beschreiben die aktuelle Abbildung von der rechten zu linken Kamera unter Berücksichtigung der aktuellen Lage der Stereokameraanordnung zur Straße.
  • Mit den neuen Kompensationsparametern a →i wird eine endgültige Kompensation des rechten helligkeitsadaptierten Bildes Srh,i in das rechte kompensierte Bild Srk,i vorgenommen. Diese Kompensation 10 verläuft nach demselben Prinzip wie die Vorkompensation. Auch hier wird die Kompensation auf Teilbereiche des Bildes beschränkt. Es wird nur dort kompensiert, wo Objekte auftreten können und weiterhin diese Objekte in einem Bildbereich liegen, der für das Gesamtverfahren relevant ist.
  • Im Schritt der Objektdetektion 11 werden das Bild links Sl,i und das rechte kompensierte Bild Srk,i verglichen. Da das Bild rechts mit einem Ebenen-Abbildungs-Modell kompensiert wurde, sind beide vorliegenden Bilder in der Straßenebene näherungsweise identisch. Signifikante Unterschiede in den Bildern werden deshalb darauf zurückgeführt, daß Abweichungen zur Straßenebene vorliegen. Diese Abweichungen werden in der Objektmaske So,i als Objekte eingetragen. Für die Änderungsdetektion wird ein pixelgenaues Verfahren, die 13-Schwellen-Methode, verwendet, wobei der Detektionsbereich auf denselben Bereich eingeschränkt wird, der auch schon bei der vorhergehenden Kompensation verwendet wurde. Dieses Verfahren wird in der DE 43 11 972 bereits beschrieben. Die entstandene Objektmaske bildet das Ergebnis des Verfahrens und enthält alle Objekte der Straßenszene.
  • Im letzten Schritt werden die Parameter zur Helligkeitsadaption h →i 12 bestimmt, die im nächsten Schleifendurchlauf zur Helligkeitsadaption verwendet werden. Hierbei werde Bereiche, die nicht in der Objektmaske markiert wurden, in dem Bild links Sl,i und dem rechten kompensierten Bild Srk,i verglichen. Aus diesem Vergleich wird dann der Parametersatz h →i berechnet. Grundlage für diese Berechnung ist wahlweise eine Histogrammauswertung der Helligkeitsverteilung in beiden Bildern, oder der Vergleich von einzelnen einander zugehörigen Pixeln aus beiden Bildern, wobei die Parameter h →i dann durch eine lineare Regression ermittelt und gespeichert 13 werden.
  • Hiermit ist ein Schleifendurchlauf beendet, und der nächste Schleifendurchlauf beginnt, wobei ein neues Bildpaar Bild links Sl,i+1 und Bild rechts Sr,i+1 von der Stereokameraanordnung verwendet wird.
  • In 2 wird die Bestimmung der neuen Kompensationsparameter näher erläutert. Eingänge der Berechnung sind das Bild links Sl,i, das rechte vorkompensierte Bild Srv,i und die Vorkompensationsparamter a →i–1 aus dem letzten Schleifendurchlauf zum Zeitpunkt i – 1. Zuerst werden aus dem Bild links Sl,i und dem rechten vorkompensierten Bild Srv,i relevante Bildbereiche B →i ausgewählt 14, die nach ihrem Informationsgehalt geordnet sind. Die Auswahl der Bereiche wird in 3 näher erläutert.
  • In diesen Bildbereichen werden dann blockweise Verschiebungsvektoren D →M,i ermittelt 15, die eine Verschiebung zwischen dem Bild links Sl,i und dem rechten vorkompensierten Bild Srv,i angeben. Dazu wird das in der Veröffentlichung „Zuverlässigkeit und Effizienz von Verfahren zur Verschiebungsvektorschätzung" (DAGM 95, Bielefeld, Mester, Hötter) beschriebene Verfahren verwendet. Da die Bildbereiche nach abnehmendem Informationsgehalt geordnet sind, kann eine beliebige Anzahl an Blöcken vorgegeben werden, an denen eine Verschiebungsvektorschätzung erfolgen soll. Diese Anzahl darf natürlich die maximale Anzahl an gefundenen relevanten Blöcken nicht überschreiten. Die Blöcke werden dem Informationsgehalt nach abgearbeitet. In dem verwendeten Displacementschätzverfahren werden dabei über ein stochastisches Modell den Verschiebungsvektoren Zuverlässigkeiten zugeordnet, die für die Beurteilung der Vektoren verwendet werden. Die Schätzung findet in zwei Dimensionen statt, wobei der Suchbereich für mögliche Vektoren in horizontaler und vertikaler Richtung frei vorgegeben werden kann. Allgemein sind drei Fälle zu unterscheiden.
    • 1. Die Schätzung ist eine Punktmessung, d. h. es wird für den betrachteten Block ein Verschiebungsvektor geschätzt, dessen Wahrscheinlichkeit im Vergleich zu den anderen möglichen Vektoren sehr hoch und dessen Zuverlässigkeit damit sehr groß ist.
    • 2. Die Schätzung ist eine Linienmessung. In diesem Fall ist die Wahrscheinlichkeit Für viele verschiedene Vektoren gleich groß, wobei die Abhängigkeit zwischen den x- und y- Komponenten dieser Vektoren durch einen linearen Zusammenhang beschrieben werden kann.
    • 3. Die Schätzung ist unzuverlässig und wird verworfen. In diesem Fall ist die Wahrscheinlichkeit für viele verschiedene Vektoren gleich groß, ohne daß die Abhängigkeit zwischen deren Komponenten durch einen linearen Zusammenhang beschrieben werden kann.
  • Wird eine unzuverlässige Schätzung ermittelt, so kann aus der Blockliste ein weiterer Block zur Schätzung herangezogen werden, damit die Anzahl an zuverlässig gemessenen Verschiebungsvektoren, seien es Punkt- oder Linienmessungen, erreicht wird.
  • Als nächstes werden die Verschiebungsvektoren an die beiden unkompensierten Bilder angepaßt. D. h., es werden mit den Vorkompensationsparamtern a →i–1 und den Verschiebungsvektoren D →M,i neue Verschiebungsvektoren D →i derart berechnet 16, daß diese neuen Verschiebungsvektoren D →i die Verschiebung der Blöcke von Bild links Sl,i nach dem rechten helligkeitsadaptierten Bild Srh,i angeben.
  • Aus den Verschiebungsvektoren D →i, die aus einer Punkt- oder Linienmessung stammen, werden dann drei Ebenenparamter n →i ermittelt 17, welche die Lage der Straße in Bezug zu der Stereokameraanordnung beschreiben. Näheres hierzu beschreibt 4. Aus diesen Ebenenparametern n →i und den relativ zueinander bekannten Perspektiven der beiden Bildaufnahmeeinheiten der Stereokameraanordnung können die erforderlichen aktuellen Kompensationsparameter a →i berechnet werden 18.
  • In 3 wird dargestellt, wie aus dem Bild links Sl,i und dem rechten vorkompensierten Bild Srv,i relevante Bildbereiche ausgewählt werden. zuerst werden aus dem Bild links Sl,i und dem rechten vorkompensierten Bild Srv,i Bildbereiche ermittelt 19, die zu der Straßenebene gehören. Diese Bereiche werden dann in rechteckige Teilbereiche fester Größe (im weiteren kurz Blöcke genannte) Gi eingeteilt, die sich überlappen dürfen. Für jeden dieser Blöcke Gi wird dann im Bild links Sl,i ein Texturmaß Ti bestimmt 20. Dieses Texturmaß wird aus den Gradienten des Bildsignals innerhalb eines Blockes in horizontaler und vertikaler Richtung berechnet.
  • Um den Aufwand für eine Verschiebungsvektorenschätzung zu minimieren, werden die Blöcke nach ihrem Informationsgehalt geordnet 21. Hierbei wird sowohl die Textur des jeweiligen Blockes, als auch die örtliche Verteilung der ausgewählten Blöcke berücksichtigt. Hierdurch wird sichergestellt, daß die Blöcke, für die jeweils eine Verschiebungsvektorschätzung durchgeführt wird, einerseits genügend Textur besitzen, um eine sinnvolle Schätzung durchführen zu können, und andererseits eine gute örtliche Verteilung über das Bild aufweisen, so daß die Verschiebungsvektoren repräsentativ für das gesamte Bild sind. Hiermit sind die relevanten Bildbereiche B →i ihrem Informationsgehalt nach geordnet und für die Verschiebungsvektorschätung bekannt.
  • 4 beschreibt, wie aus den ermittelten Verschiebungsvektoren D →i die Ebenenparameter n →i bestimmt werden. Zu Beginn werden die Modellparameter n →m,i und deren Zuverlässigkeit σ →n,i aus den Verschiebungsvektoren D →i in einer linearen Regression berechnet 22. Hierbei werden sowohl die Vektoren aus Punktmessungen als auch die Vektoren aus Linienmessungen verwendet. Unzuverlässig geschätzte Vektoren hingegen werden verworfen. Um die lineare Regression durchführen zu können, müssen mindestens entweder zwei Punkt- oder drei Linienmessungen vorliegen.
  • Unterschreitet die Zuverlässigkeit der linearen Regression einen gewissen Wert, so wird mit den neuen Modellparametern bei jedem Verschiebungsvektor überprüft, wie weit dieser vom neuen Modell abweicht. Danach wird eine erneute lineare Regression durchgeführt, wobei der Verschiebungsvektor, der die größte Abweichung vom Modell zeigte, nicht mehr berücksichtigt wird. Dieser Vorgang wird solange wiederholt, bis die gewünschte Zuverlässigkeit erreicht wird, oder die minimal benötigte Anzahl an Verschiebungsvektoren erreicht wurde, oder aber die Zuverlässigkeit der neuen linearen Regression schlechter wurde. Die endgültigen Ergebnisse dieser Berechnung und der alte Ebenenparamtervektor n →i–1 aus dem letzten Schleifendurchlauf werden in einem Filter ausgewertet 23. Hierbei handelt es sich um ein rekursives Filter, bei dem eine Gewichtung in Abhängigkeit von der Zuverlässigkeit der Messung vorgenommen wird. Je unzuverlässiger eine Messung ermittelt wird, desto stärker geht der vorhergehende Meßwert in das Ergebnis ein. Am Ausgang dieses Filters liegen dann die neuen Ebenenparameter n →i, welche die Lage der Straßenebene in Bezug zu der Stereokameraanordnung beschreiben.
  • Im folgenden werden einige Vereinfachungen des Verfahrens erläutert, die sich durch eine spezielle Anordnung der Bildaufnahmeeinheiten ergeben. Hierbei darf die linke Bildaufnahmeeinheit gegenüber der rechten nur horizontal verschoben sein, d.h. die vertikale und die Verschiebung in Richtung der optischen Achse müssen Null sein. (Ein ähnlicher Sachverhalt ergibt sich für eine rein vertikale Anordnung. Dieser Fall wird aber nicht näher erläutert).
  • Bei der Kompensation der Kameraverschiebung kann für die Berechnung der y-Koordinate y2 des kompensierten Punktes P2 ein look-up-table zur Rechenzeitreduzierung verwendet werden, da dieser Wert nur von der geometrischen Anordnung der Bildaufnahmeeinheiten und dem Punkt P1 abhängt. Das look-up-table wird einmal zu Beginn des Programms während der Initialisierung erzeugt, und steht dann in jedem Schleifendurchlauf zur Verfügung. Der entsprechende x-Wert x2 ist entsprechend zu berechnen.
  • Die Messung der Verschiebungsvektoren kann einfacher und schneller durchgeführt werden, da zu jedem Punkt P1 im unkompensierten Bild die Verschiebung in y-Richtung bereits bekannt ist (vgl. look-up-table). Eine Schätzung in horizontaler Richtung ist also zur exakten Bestimmung des gesamten Verschiebungsvektors ausreichend. Da die Verschiebungsvektorschätzung nur in einer Dimension stattfindet, entfällt die Möglichkeit einer Linienmessung. Entweder ergibt sich eine Punktmessung, oder die Messung ist unzuverlässig und wird deshalb verworfen.
  • Das Texturmaß wird bei dieser speziellen Anordnung nur aus dem Gradienten in horizontaler Richtung berechnet, da Gradienten in vertikaler Richtung für eine horizontale Schätzung völlig ohne Bedeutung sind.
  • Durch die vereinfachte Anordnung der Bildaufnahmeeinheiten wird das Verfahren also zum einen schneller in der Rechenzeit als auch robuster in der Ermittlung der Ebeneparameter. Hierdurch wird die Stabilität des Gesamtverfahrens deutlich erhöht.

Claims (12)

  1. Verfahren zur Detektion von Objekten auf ebenen Flächen, insbesondere Straßen, mit einer Stereokameranordnung, wobei die beiden Bilder der Stereokamera miteinander über eine Recheneinheit blockweise verglichen werden, um ein Objekt durch eine Disparität zwischen den Bildblöcke zu erkennen, wobei die Abbildung der Ebene zwischen den Bildern der Kameras von Modellparametern a →i, die aus dem dreidimensionalen Ebenenvektor n → und den geometrischen Verhältnissen der Kameras zueinander abgeleitet werden, beschrieben wird, dadurch gekennzeichnet, daß ein zweidimensionaler Verschiebungsvektor D → geschätzt wird, der die relative Verschiebung eines Bildblocks der Kamera 2 zu demselben Bildblock der Kamera 1 quantitativ beschreibt, und daß aus dem Verschiebungsvektor D → der Ebenenvektor n → berechnet wird.
  2. Verfahren zur Detektion von bewegten Objekten nach Anspruch 1, dadurch gekennzeichnet, daß die Verschiebungsvektoren D → für Bildblöcke geschätzt werden, die für die Objekterkennung relevant sind und deren Textur einen vorgegebenen Schwellenwert übersteigt und eine örtliche Verteilung aufweist, wobei die Bildblöcke nach ihrem Informationsgehalt geordnet sind.
  3. Verfahren zur Detektion von bewegten Objekten nach Anspruch 1 oder 2, dadurch gekennzeichnet, daß die Verschiebungsvektoren D → über eine Schätzung innerhalb eines Blocks ermittelt werden, wobei der Suchbereich für mögliche Vektoren zweidimensional ist.
  4. Verfahren zur Detektion von bewegten Objekten nach Anspruch 1 bis 3, dadurch gekennzeichnet, daß die Schätzung des Verschiebungsvektors D → über ein stochastisches Modell auf ihre Zuverlässigkeit beurteilt werden.
  5. Verfahren zur Detektion von bewegten Objekten nach Anspruch 1 bis 4, dadurch gekennzeichnet, daß die Schätzung eine Punktmessung ist, durch die ein einziger Verschiebungsvektor D → mit hoher Zuverlässigkeit ermittelt wird.
  6. Verfahren zur Detektion von bewegten Objekten nach Anspruch 1 bis 5, dadurch gekennzeichnet, daß die Schätzung eine Linienmessung ist, wobei Verschiebungsvektoren D → mit gleicher Zuverlässigkeit vorliegen und die x- und y-Komponenten der Vektoren einen linearen Zusammenhang aufweisen.
  7. Verfahren zur Detektion von bewegten Objekten nach Anspruch 1 bis 6, dadurch gekennzeichnet, daß aus den Ebenenparametern n →i und den bekannten Positionen der Bildebenen der Kameras eine Abbildungsvorschrift mit den Kompensationsparametern a →i ermittelt werden.
  8. Verfahren zur Detektion von bewegten Objekten nach Anspruch 1 bis 7, dadurch gekennzeichnet, daß die Schätzgenauigkeit eine Wichtung der Ebenenvektoren n →i erlaubt und bei geringer Schätzgenauigkeit des aktuell ermittelten Vektors, der vorhergehend bestimmte Vektor stärker gewichtet wird.
  9. Verfahren zur Detektion von bewegten Objekten nach Anspruch 1 bis 8, dadurch gekennzeichnet, daß im Fall einer horizontalen oder vertikalen Kameraanordnung nur noch eine von zwei Vektorkomponenten des Verschiebungsvektors D → geschätzt werden müssen.
  10. Verfahren zur Detektion von bewegten Objekten nach Anspruch 1 bis 9, dadurch gekennzeichnet, daß zur Umrechnung des Bildes einer Kamera in die Perspektive der anderen Kamera ein auf Geradenschnittpunkten basierendes Verfahren eingesetzt wird.
  11. Verfahren zur Detektion von bewegten Objekten nach Anspruch 1 bis 10, dadurch gekennzeichnet, daß zur Detektion der Objekte ein Änderungsdetektion der Bildblöcke eingesetzt wird.
  12. Verfahren zur Detektion von bewegten Objekten nach Anspruch 1 bis 11, dadurch gekennzeichnet, daß für die Objektdetektion folgender Verfahrensablauf nötig ist: a) Bild links bleibt unberührt, Korrektur der Helligkeit des Bildes rechts mit den Korrekturfaktoren h1 und h2 b) Vorkompensation der unterschiedlichen Kameraebenen mit vorläufigen Kompensationsfaktoren a →i–1 des rechten Bildes aus dem vorhergehenden Durchlauf c) Bestimmung neuer Kompensationsparameter a →i durch Vergleich mit linkem Bild d) Kompensation des rechten Kamerabildes mit den neuen Kompensationsparametern a →i e) Objektdetektion durch Vergleich des kompensierten rechten und des urspünglichen linken Bildes f) Bestimmung neuer Parameter für die Helligkeitsadaption für den nächsten Durchlauf
DE19630194A 1996-07-26 1996-07-26 Verfahren zur Detektion von Objekten Expired - Fee Related DE19630194B4 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE19630194A DE19630194B4 (de) 1996-07-26 1996-07-26 Verfahren zur Detektion von Objekten

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE19630194A DE19630194B4 (de) 1996-07-26 1996-07-26 Verfahren zur Detektion von Objekten

Publications (2)

Publication Number Publication Date
DE19630194A1 DE19630194A1 (de) 1998-01-29
DE19630194B4 true DE19630194B4 (de) 2006-06-01

Family

ID=7800923

Family Applications (1)

Application Number Title Priority Date Filing Date
DE19630194A Expired - Fee Related DE19630194B4 (de) 1996-07-26 1996-07-26 Verfahren zur Detektion von Objekten

Country Status (1)

Country Link
DE (1) DE19630194B4 (de)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102006062061B4 (de) 2006-12-29 2010-06-10 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Verfahren und Computerprogramm zum Bestimmen einer Position basierend auf einem Kamerabild von einer Kamera

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE4015959A1 (de) * 1990-05-18 1991-11-21 Bosch Gmbh Robert Anordnung zur erkennung von hindernissen
DE4311972A1 (de) * 1993-04-10 1994-10-13 Bosch Gmbh Robert Verfahren zur Detektion von Änderungen in Bewegtbildern

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE4015959A1 (de) * 1990-05-18 1991-11-21 Bosch Gmbh Robert Anordnung zur erkennung von hindernissen
DE4311972A1 (de) * 1993-04-10 1994-10-13 Bosch Gmbh Robert Verfahren zur Detektion von Änderungen in Bewegtbildern

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
O. Faugeras; F. Lustman: "Motion and structure from motion in a piecewise planar environment". Intl. Journal of Pattern Recognition and Arti- ficial Intelligence, 2(3): 485-508, 1988 *
Q.-T. Luong u.a.: "An integrated stereo-based approach to automatic vehicle guidance". Proceedings of the 5th ICCV, June 1995 *
Q.-T. Luong; J. Weber; D. Koller; J. Malik: "An integrated stereo-based approach to automatic vehicle guidance". Proceedings of the 5th ICCV, June 1995
R. Mester; M. Hötter: "Zuverlässigkeit und Effi- zienz von Verfahren zur Verschiebungsvektor- schätzung". 17. DAGM-Symposium Bielefeeld, 13.-15.09.1995, Mustererkennung 1995, S. 285-294, Springer-Verlag *

Also Published As

Publication number Publication date
DE19630194A1 (de) 1998-01-29

Similar Documents

Publication Publication Date Title
DE69635980T2 (de) Verfahren und vorrichtung zur detektierung von objektbewegung in einer bilderfolge
DE69627138T2 (de) Verfahren zum abschätzen der lage einer bild-zielregion aus mehreren regionen mitverfolgter landmarken
DE102014209137B4 (de) Verfahren und Vorrichtung zur Kalibrierung eines Kamerasystems eines Kraftfahrzeugs
DE112018000107T5 (de) Fahrzeugkamerakalibrierungsvorrichtung und -Verfahren
DE102006055758B4 (de) Verfahren zur Kalibrierung von Kameras und Projektoren
DE102014117888A1 (de) Online-Kalibrierung eines Kraftfahrzeug-Kamerasystems
DE102004049676A1 (de) Verfahren zur rechnergestützten Bewegungsschätzung in einer Vielzahl von zeitlich aufeinander folgenden digitalen Bildern, Anordnung zur rechnergestützten Bewegungsschätzung, Computerprogramm-Element und computerlesbares Speichermedium
DE102009005861A1 (de) Fahrzeugumgebungs-Erkennungssystem
DE102013205854B4 (de) Verfahren zum Detektieren eines freien Pfads mittels temporärer Koherenz
EP2791896B1 (de) Verfahren zur erzeugung von superaufgelösten bildern mit verbesserter bildauflösung und messvorrichtung
DE102018113992A1 (de) Verfahren und Gerät zum Erfassen einer Fahrspur
DE112014003818T5 (de) Objektschätzvorrichtung und Objektschätzverfahren
DE102016208056A1 (de) Verfahren und Vorrichtung zur Verarbeitung von Bilddaten und Fahrerassistenzsystem für ein Fahrzeug
DE112014006493T5 (de) Bestimmen eines Massstabs dreidimensonaler Informationen
DE102012211961A1 (de) Verfahren und Vorrichtung zum Berechnen einer Veränderung eines Abbildungsmaßstabs eines Objekts
DE102004026782A1 (de) Verfahren und Vorrichtung zur rechnergestützten Bewegungsschätzung in mindestens zwei zeitlich aufeinander folgenden digitalen Bildern, computerlesbares Speichermedium und Computerprogramm-Element
DE102018104913A1 (de) Schwingungsüberwachung eines Objekts mittels Videokamera
DE102017010683A1 (de) Verfahren zur automatischen Wiederherstellung eines eingemessenen Zustands eines Projektionssystems
DE10145608B4 (de) Modellbasierte Objektklassifikation und Zielerkennung
DE19630194B4 (de) Verfahren zur Detektion von Objekten
DE102015120967A1 (de) Verfahren und Vorrichtung zur Bildkorrektur
DE102018112171A1 (de) Verfahren zum Beurteilen von Objekten in einer Umgebung eines Kraftfahrzeugs anhand einer dreidimensionalen Fusionskarte, Steuereinrichtung; Fahrerassistenzsystem, Computerprogrammprodukt
DE102014219418A1 (de) Verfahren zur Stereorektifizierung von Stereokamerabildern
DE102014206246A1 (de) Verfahren und Vorrichtung zum Anpassen einer dreidimensionalen Projektionsfläche zum Projizieren einer Mehrzahl benachbarter Kamerabilder
DE102017000908A1 (de) Verfahren zum Bestimmen der Belichtungszeit für eine 3D-Aufnahme

Legal Events

Date Code Title Description
8110 Request for examination paragraph 44
8364 No opposition during term of opposition
8339 Ceased/non-payment of the annual fee