DE102022204882A1 - Verfahren und Vorrichtung zum Bereitstellen von Betriebsdaten zum Betreiben mindestens einer Assistenzeinrichtung eines Fahrzeugs - Google Patents

Verfahren und Vorrichtung zum Bereitstellen von Betriebsdaten zum Betreiben mindestens einer Assistenzeinrichtung eines Fahrzeugs Download PDF

Info

Publication number
DE102022204882A1
DE102022204882A1 DE102022204882.2A DE102022204882A DE102022204882A1 DE 102022204882 A1 DE102022204882 A1 DE 102022204882A1 DE 102022204882 A DE102022204882 A DE 102022204882A DE 102022204882 A1 DE102022204882 A1 DE 102022204882A1
Authority
DE
Germany
Prior art keywords
image data
vehicle
areas
segmentation
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE102022204882.2A
Other languages
English (en)
Inventor
Alexandra Chiorean
Sergiu-Alin Nasca
Marius Drulea
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Priority to DE102022204882.2A priority Critical patent/DE102022204882A1/de
Publication of DE102022204882A1 publication Critical patent/DE102022204882A1/de
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W20/00Control systems specially adapted for hybrid vehicles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/187Segmentation; Edge detection involving region growing; involving region merging; involving connected component labelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Image Processing (AREA)

Abstract

Die Erfindung betrifft ein Verfahren zum Bereitstellen von Betriebsdaten zum Betreiben mindestens einer Assistenzeinrichtung eines Fahrzeugs. Es werden Bilddaten (104) von einer Schnittstelle (111) zu mindestens einer Umfelderfassungseinrichtung (102) des Fahrzeugs (100) eingelesen. Die Bilddaten (104) umfassen ein Bild eines Umfelds des Fahrzeugs (100) und eine Tiefeninformation für eine Mehrzahl von Pixeln des Bildes. Ferner wird eine zweidimensionale Segmentierung der Bilddaten (104) unter Verwendung eines Segmentierungsalgorithmus durchgeführt, um segmentierte Bilddaten (115) zu generieren. Dabei wird unter Verwendung der Tiefeninformation eine Mehrzahl von jeweils mehrere Pixel umfassenden initialen Flächen erzeugt. Für jede initiale Fläche werden Verbindungskosten eines Verbindens der initialen Fläche mit ihren benachbarten initialen Flächen ermittelt. In mehreren Iterationen des Segmentierungsalgorithmus werden Flächen mit minimalen Verbindungskosten miteinander verbunden und werden die Verbindungskosten aktualisiert, bis eine vordefinierte Anzahl von Flächen erreicht ist. Es wird eine Iteration aus den mehreren Iterationen unter Verwendung mindestens eines Auswahlkriteriums ausgewählt, um aus den bei der ausgewählten Iteration vorliegenden Flächen die segmentierten Bilddaten (115) zu erhalten. Ferner werden die Betriebsdaten (117) unter Verwendung der segmentierten Bilddaten (115) erzeugt.

Description

  • Stand der Technik
  • Die Erfindung geht von einer Vorrichtung oder einem Verfahren nach Gattung der unabhängigen Ansprüche aus. Gegenstand der vorliegenden Erfindung ist auch ein Computerprogramm.
  • Bekannt ist beispielsweise eine eindimensionale Zeitreihensegmentierung. Bei einer gegebenen Reihe von Informationen, wie zum Beispiel einem Elektrokardiogramm, Temperaturänderungen über der Zeit, Weizenpreis über der Zeit etc., kann die Reihe als eine Sammlung von Linien angenähert werden. Auf diese Weise können kleine verrauschte Variationen beseitigt und die hauptsächlichen Trends extrahiert werden. Auch bekannt ist eine spaltenweise Tiefenbildsegmentierung, wobei jede Spalte einzeln in mehrere „Stixel“ segmentiert und ein dynamisch programmierter Algorithmus verwendet werden kann, um die Segmentierung einer gegebenen Spalte zu erzeugen.
  • Offenbarung der Erfindung
  • Vor diesem Hintergrund werden mit dem hier vorgestellten Ansatz ein Verfahren, weiterhin eine Vorrichtung, welche dieses Verfahren verwendet, sowie schließlich ein entsprechendes Computerprogramm gemäß den Hauptansprüchen vorgestellt. Durch die in den abhängigen Ansprüchen aufgeführten Maßnahmen sind vorteilhafte Weiterbildungen und Verbesserungen der im unabhängigen Anspruch angegebenen Vorrichtung möglich.
  • Gemäß Ausführungsformen kann insbesondere eine zweidimensionale Zeitreihensegmentierung von Bilddaten einer Fahrzeugkamera zur Verwendung für einen Betrieb mindestens einer Assistenzeinrichtung eines Fahrzeugs bereitgestellt werden. Ein gegebenes Bild, das Tiefeninformationen umfasst, wie beispielsweise Tiefe, inverse Tiefe, Stereo-Deviation bzw. Stereo-Disparität oder dergleichen, kann in eine Sammlung bzw. Menge von planaren Oberflächen segmentiert werden. Verglichen mit einer herkömmlichen Herangehensweise der Bildverarbeitung mit einer spaltenweisen Bildsegmentierung von 3-D-Daten wird gemäß Ausführungsformen eine bildweise Segmentierung bereitgestellt. Anstatt jede Spalte einzeln zu segmentieren, kann insbesondere Szene als Ganzes genommen werden. Somit kann beispielsweise eine genaue und realitätsnahe Segmentierung von Bilddaten erreicht werden, wobei zumindest ein spaltenübergreifender Teilabschnitt eines Bilds gemeinschaftlich betrachtet zur Segmentierung herangezogen wird. Es kann auf diese Weise ein besonders sicherer und zuverlässiger Betrieb der mindestens einen Assistenzeinrichtung des Fahrzeugs erreicht werden.
  • Es wird ein Verfahren zum Bereitstellen von Betriebsdaten zum Betreiben mindestens einer Assistenzeinrichtung eines Fahrzeugs vorgestellt, wobei das Verfahren folgende Schritte aufweist:
    • Einlesen von Bilddaten von einer Schnittstelle zu mindestens einer Umfelderfassungseinrichtung des Fahrzeugs, wobei die Bilddaten ein Bild eines Umfelds des Fahrzeugs und eine Tiefeninformation für eine Mehrzahl von Pixeln des Bildes aufweisen, wobei die Tiefeninformation einen Abstand zwischen der mindestens einen Umfelderfassungseinrichtung und einem durch das jeweilige Pixel dargestellten Abschnitt eines Objekts in dem Umfeld repräsentiert;
  • Durchführen einer zweidimensionalen Segmentierung der Bilddaten unter Verwendung eines Segmentierungsalgorithmus, um segmentierte Bilddaten zu generieren, wobei unter Verwendung der Tiefeninformation eine Mehrzahl von jeweils mehrere Pixel umfassenden initialen Flächen erzeugt wird, wobei für jede initiale Fläche Verbindungskosten eines Verbindens der initialen Fläche mit ihren benachbarten initialen Flächen ermittelt werden, wobei in mehreren Iterationen des Segmentierungsalgorithmus Flächen mit minimalen Verbindungskosten miteinander verbunden werden und die Verbindungskosten aktualisiert werden, bis eine vordefinierte Anzahl von Flächen erreicht ist, wobei eine Iteration aus den mehreren Iterationen unter Verwendung mindestens eines Auswahlkriteriums ausgewählt wird, um aus den bei der ausgewählten Iteration vorliegenden Flächen die segmentierten Bilddaten zu erhalten; und
    Erzeugen der Betriebsdaten unter Verwendung der segmentierten Bilddaten.
  • Die mindestens eine Assistenzeinrichtung kann ausgebildet sein, um eine Spurhaltefunktion, eine Notbremsfunktion oder dergleichen für das Fahrzeug umzusetzen. Die Ausgabe der Segmentierung, d.h. Betriebsdaten, kann für Spurhalteassistenzfunktionen, zum Beispiel Leitplankenführung, und automatische Notbremsfunktionen oder dergleichen verwendet werden. Die mindestens eine Umfelderfassungseinrichtung kann mindestens eine Fahrzeugkamera, eine Stereo-Kamera ein Lidar-Gerät oder dergleichen sein. Die Tiefeninformation kann als Tiefe, inverse Tiefe, Stereo-Deviation bzw. Stereo-Disparität oder dergleichen realisiert sein. Unter Verbindungskosten kann ein Gewichtungswert verstanden werden, der dem Verbinden einer Fläche mit einer benachbarten Fläche zugeordnet ist.
  • Gemäß einer Ausführungsform kann im Schritt des Durchführens die zweidimensionale Segmentierung über einen mehrere Pixelspalten umfassenden Abschnitt des Bildes durchgeführt werden. Somit kann insbesondere eine gesamte in dem Bild dargestellte Szene durch die Segmentierung erfasst werden, indem eine auf einzelne Spalten von Pixeln bezogene Begrenzung der Segmentierung beseitigt wird.
  • Insbesondere kann im Schritt des Durchführens die zweidimensionale Segmentierung unter Verwendung eines rekursiven Bottom-up-Segmentierungsalgorithmus durchgeführt werden. Eine solche Ausführungsform bietet den Vorteil, dass die Segmentierung schnell und exakt durchgeführt werden kann, wobei eine Auswahl einer geeigneten Iteration mit optimalen Flächen erleichtert werden kann.
  • Auch können im Schritt des Durchführens zwei mal zwei Pixel umfassende initiale Flächen erzeugt werden. Eine solche Ausführungsform bietet den Vorteil, dass eine sichere und genaue Grundlage für nachfolgenden Iterationen geschaffen werden kann. Eine solche Größe der initialen Flächen kann einen optimalen Ausgleich zwischen Genauigkeit und Ausführungsgeschwindigkeit darstellen.
  • Ferner können im Schritt des Durchführens die Verbindungskosten unter Verwendung eines mittleren quadratischen Fehlers von jeweils zwei betrachteten Flächen ermittelt werden. Auf diese Weise kann einfach und präzise ermittelt werden, welche Flächen miteinander zu verbinden sind.
  • Zudem kann im Schritt des Durchführens die Iteration aus den mehreren Iterationen unter Verwendung einer Größe und zusätzlich oder alternativ einer Anzahl von Sprüngen in den minimalen Verbindungskosten über die Iterationen hinweg als das mindestens eine Auswahlkriterium ausgewählt werden. Das mindestens eine Auswahlkriterium kann somit von einer in dem Bild dargestellten Szene abhängig sein. Eine solche Ausführungsform bietet den Vorteil, dass die Iteration mit optimaler Segmentierung zuverlässig ausgewählt werden kann.
  • Das Verfahren kann auch einen Schritt des Ausgebens der Betriebsdaten an eine Schnittstelle zu der mindestens einen Assistenzeinrichtung aufweisen, um die mindestens eine Assistenzeinrichtung unter Verwendung der Betriebsdaten anzusteuern. Die Betriebsdaten können hierbei als Steuersignal, Steuerparameter oder dergleichen zum Ansteuern der mindestens einen Assistenzeinrichtung fungieren. Somit kann ein sicherer und zuverlässiger Betrieb der mindestens einen Assistenzeinrichtung ermöglicht oder bewirkt werden.
  • Dieses Verfahren kann beispielsweise in Software oder Hardware oder in einer Mischform aus Software und Hardware beispielsweise in einem Steuergerät implementiert sein.
  • Der hier vorgestellte Ansatz schafft ferner eine Vorrichtung, die ausgebildet ist, um die Schritte einer Variante eines hier vorgestellten Verfahrens in entsprechenden Einrichtungen durchzuführen, anzusteuern bzw. umzusetzen. Auch durch diese Ausführungsvariante der Erfindung in Form einer Vorrichtung kann die der Erfindung zugrunde liegende Aufgabe schnell und effizient gelöst werden.
  • Hierzu kann die Vorrichtung zumindest eine Recheneinheit zum Verarbeiten von Signalen oder Daten, zumindest eine Speichereinheit zum Speichern von Signalen oder Daten, zumindest eine Schnittstelle zu einem Sensor oder einem Aktor zum Einlesen von Sensorsignalen von dem Sensor oder zum Ausgeben von Daten- oder Steuersignalen an den Aktor und/oder zumindest eine Kommunikationsschnittstelle zum Einlesen oder Ausgeben von Daten aufweisen, die in ein Kommunikationsprotokoll eingebettet sind. Die Recheneinheit kann beispielsweise ein Signalprozessor, ein Mikrocontroller oder dergleichen sein, wobei die Speichereinheit ein Flash-Speicher, ein EEPROM oder eine magnetische Speichereinheit sein kann. Die Kommunikationsschnittstelle kann ausgebildet sein, um Daten drahtlos und/oder leitungsgebunden einzulesen oder auszugeben, wobei eine Kommunikationsschnittstelle, die leitungsgebundene Daten einlesen oder ausgeben kann, diese Daten beispielsweise elektrisch oder optisch aus einer entsprechenden Datenübertragungsleitung einlesen oder in eine entsprechende Datenübertragungsleitung ausgeben kann.
  • Unter einer Vorrichtung kann vorliegend ein elektrisches Gerät verstanden werden, das Sensorsignale verarbeitet und in Abhängigkeit davon Steuer- und/oder Datensignale ausgibt. Die Vorrichtung kann eine Schnittstelle aufweisen, die hard- und/oder softwaremäßig ausgebildet sein kann. Bei einer hardwaremäßigen Ausbildung können die Schnittstellen beispielsweise Teil eines sogenannten System-ASICs sein, der verschiedenste Funktionen der Vorrichtung beinhaltet. Es ist jedoch auch möglich, dass die Schnittstellen eigene, integrierte Schaltkreise sind oder zumindest teilweise aus diskreten Bauelementen bestehen. Bei einer softwaremäßigen Ausbildung können die Schnittstellen Softwaremodule sein, die beispielsweise auf einem Mikrocontroller neben anderen Softwaremodulen vorhanden sind.
  • Von Vorteil ist auch ein Computerprogrammprodukt oder Computerprogramm mit Programmcode, der auf einem maschinenlesbaren Träger oder Speichermedium wie einem Halbleiterspeicher, einem Festplattenspeicher oder einem optischen Speicher gespeichert sein kann und zur Durchführung, Umsetzung und/oder Ansteuerung der Schritte des Verfahrens nach einer der vorstehend beschriebenen Ausführungsformen verwendet wird, insbesondere wenn das Programmprodukt oder Programm auf einem Computer oder einer Vorrichtung ausgeführt wird.
  • Ausführungsbeispiele des hier vorgestellten Ansatzes sind in den Zeichnungen dargestellt und in der nachfolgenden Beschreibung näher erläutert. Es zeigt:
    • 1 eine schematische Darstellung eines Ausführungsbeispiels einer Vorrichtung zum Bereitstellen von Betriebsdaten zum Betreiben mindestens einer Assistenzeinrichtung eines Fahrzeugs;
    • 2 ein Ablaufdiagramm eines Ausführungsbeispiels eines Verfahrens zum Bereitstellen von Betriebsdaten zum Betreiben mindestens einer Assistenzeinrichtung eines Fahrzeugs;
    • 3 eine schematische Darstellung von Bilddaten gemäß einem Ausführungsbeispiel;
    • 4 eine schematische Darstellung von segmentierten Bilddaten gemäß einem Ausführungsbeispiel;
    • 5 eine schematische Darstellung von spaltenweise segmentierten Bilddaten;
    • 6 eine schematische Darstellung eine schematische Darstellung von segmentierten Bilddaten gemäß einem Ausführungsbeispiel; und
    • 7 ein schematisches Diagramm von Verbindungskosten über mehrere Iterationen eines Segmentierungsalgorithmus gemäß einem Ausführungsbeispiel.
  • In der nachfolgenden Beschreibung günstiger Ausführungsbeispiele der vorliegenden Erfindung werden für die in den verschiedenen Figuren dargestellten und ähnlich wirkenden Elemente gleiche oder ähnliche Bezugszeichen verwendet, wobei auf eine wiederholte Beschreibung dieser Elemente verzichtet wird.
  • 1 zeigt eine schematische Darstellung eines Ausführungsbeispiels einer Vorrichtung 110 zum Bereitstellen von Betriebsdaten 117 zum Betreiben mindestens einer Assistenzeinrichtung 106 eines Fahrzeugs 100. Bei dem Fahrzeug 100 handelt es sich um ein Kraftfahrzeug, wie beispielsweise einen Personenkraftwagen, einen Lastkraftwagen, ein Motorrad oder ein Nutzfahrzeug.
  • Von dem Fahrzeug 100 sind in der Darstellung von 1 beispielhaft lediglich eine Umfelderfassungseinrichtung 102 und eine Assistenzeinrichtung 106 gezeigt. Ferner ist in dem Fahrzeug 100 die Vorrichtung 110 angeordnet oder weist das Fahrzeug 100 die Vorrichtung 110 auf. Die Vorrichtung 110 ist datenübertragungsfähig bzw. signalübertragungsfähig mit der mindestens einen Umfelderfassungseinrichtung 102 und mit der mindestens einen Assistenzeinrichtung 106 verbunden. Die mindestens eine Assistenzeinrichtung 106 ist ausgebildet, um für das Fahrzeug 100 eine Spurhaltefunktion, eine Notbremsfunktion oder dergleichen auszuführen bzw. umzusetzen. Hierzu kann die mindestens eine Assistenzeinrichtung 106 ausgebildet sein, um mindestens einen Aktor des Fahrzeugs 100 zu steuern.
  • Die mindestens eine Umfelderfassungseinrichtung 102 ist ausgebildet, um ein Umfeld des Fahrzeugs 100 zu erfassen. Genauer gesagt ist die Umfelderfassungseinrichtung 102 ausgebildet, um das Umfeld optisch zu erfassen. Beispielsweise ist die mindestens eine Umfelderfassungseinrichtung 102 als eine Fahrzeugkamera, insbesondere eine Stereo-Kamera, ein Lidar-Gerät und/oder eine andere Art von optischem Sensor ausgeführt. Die mindestens eine Umfelderfassungseinrichtung 102 ist ausgebildet, um Bilddaten 104 auszugeben oder zur Ausgabe bereitzustellen. Die Bilddaten 104 umfassen ein Bild des erfassten Umfelds des Fahrzeugs 100 und eine Tiefeninformation für eine Mehrzahl von Pixeln des Bildes. Die Tiefeninformation wiederum repräsentiert einen Abstand zwischen der mindestens einen Umfelderfassungseinrichtung 102 und einem durch das jeweilige Pixel dargestellten Abschnitt eines Objekts in dem Umfeld.
  • Die Vorrichtung 110 zum Bereitstellen bzw. Bereitstellungsvorrichtung umfasst eine Einleseeinrichtung 112, eine Durchführungseinrichtung 114 und eine Erzeugungseinrichtung 116. ferner umfasst die Vorrichtung 110 eine Eingangsschnittstelle 111 und eine Ausgangsschnittstelle 119. Die Einleseeinrichtung 112 der Vorrichtung 110 ist ausgebildet, um die Bilddaten 104 von der Eingangsschnittstelle 111 einzulesen, über die die Vorrichtung 110 mit der mindestens einen Umfelderfassungseinrichtung 102 des Fahrzeugs 100 verbunden ist. Ferner ist die Einleseeinrichtung 112 ausgebildet, um die Bilddaten 104 an die Durchführungseinrichtung 114 weiterzugeben.
  • Die Durchführungseinrichtung 114 der Vorrichtung 110 ist ausgebildet, um unter Verwendung eines Segmentierungsalgorithmus eine zweidimensionale bzw. bidimensionale Segmentierung der Bilddaten 104 durchzuführen, um segmentierte Bilddaten 115 zu generieren. Dabei ist die Durchführungseinrichtung 114 ausgebildet, um unter Verwendung der Tiefeninformation eine Mehrzahl von jeweils mehrere Pixel umfassenden initialen Flächen zu erzeugen und für jede initiale Fläche Verbindungskosten eines Verbindens der initialen Fläche mit ihren benachbarten initialen Flächen zu ermitteln. Die Durchführungseinrichtung 114 ist auch ausgebildet, um in mehreren Iterationen des Segmentierungsalgorithmus Flächen mit minimalen Verbindungskosten miteinander zu verbinden und die Verbindungskosten zu aktualisieren, bis eine vordefinierte Anzahl von Flächen in dem Bild erreicht ist. Ferner ist die Durchführungseinrichtung 114 ausgebildet, um unter Verwendung mindestens eines Auswahlkriteriums eine Iteration aus den mehreren Iterationen auszuwählen, um aus den bei der ausgewählten Iteration vorliegenden Flächen die segmentierten Bilddaten 115 zu erhalten.
  • Die Erzeugungseinrichtung 116 der Vorrichtung 110 ist ausgebildet, um unter Verwendung der segmentieren Bilddaten 115 von der Durchführungseinrichtung 114 die Betriebsdaten 117 zu erzeugen. Insbesondere ist die Vorrichtung 110 auch ausgebildet, um die Betriebsdaten 117 an die Ausgangsschnittstelle 119 zu der mindestens einen Assistenzeinrichtung 106 auszugeben, um die mindestens eine Assistenzeinrichtung 106 unter Verwendung der Betriebsdaten 117 anzusteuern.
  • Gemäß einem Ausführungsbeispiel ist die Durchführungseinrichtung 114 ausgebildet, um die zweidimensionale Segmentierung über einen mehrere Pixelspalten umfassenden Abschnitt des Bildes, oder anders ausgedrückt spaltenübergreifend in dem Bild, durchzuführen. Beispielsweise ist die Durchführungseinrichtung 114 auch ausgebildet, um die zweidimensionale Segmentierung unter Verwendung eines rekursiven Bottom-up-Segmentierungsalgorithmus durchzuführen. Insbesondere ist die Durchführungseinrichtung 114 ausgebildet, um im Rahmen des Segmentierungsalgorithmus zwei mal zwei Pixel umfassende initiale Flächen zu erzeugen und/oder die Verbindungskosten unter Verwendung eines mittleren quadratischen Fehlers von jeweils zwei betrachteten Flächen zu ermitteln. Ferner ist die Durchführungseinrichtung 114 ausgebildet, um unter Verwendung einer Größe und/oder einer Anzahl von Sprüngen in den minimalen Verbindungskosten über die Iterationen hinweg als das mindestens eine Auswahlkriterium die Iteration aus den mehreren Iterationen auszuwählen.
  • 2 zeigt ein Ablaufdiagramm eines Ausführungsbeispiels eines Verfahrens 200 zum Bereitstellen von Betriebsdaten zum Betreiben mindestens einer Assistenzeinrichtung eines Fahrzeugs. Das Verfahren 200 zum Bereitstellen ist hierbei mittels der Vorrichtung aus 1 oder einer ähnlichen Vorrichtung ausführbar. Dabei umfasst das Verfahren 200 zum Bereitstellen einen Schritt 210 des Einlesens, einen Schritt 220 des Durchführens und einen Schritt 230 des Erzeugens.
  • In dem Schritt 210 des Einlesens werden Bilddaten von einer Schnittstelle zu mindestens einer Umfelderfassungseinrichtung des Fahrzeugs eingelesen. Die Bilddaten umfassen ein Bild eines Umfelds des Fahrzeugs und eine Tiefeninformation für eine Mehrzahl von Pixeln des Bildes. Die Tiefeninformation repräsentiert einen Abstand zwischen der mindestens einen Umfelderfassungseinrichtung und einem durch das jeweilige Pixel dargestellten Abschnitt eines Objekts in dem Umfelds.
  • Nachfolgend wird in dem Schritt 220 des Durchführens unter Verwendung eines Segmentierungsalgorithmus eine zweidimensionale Segmentierung der Bilddaten durchgeführt, um segmentierte Bilddaten zu generieren. Hierbei wird unter Verwendung der Tiefeninformation eine Mehrzahl von jeweils mehrere Pixel umfassenden initialen Flächen erzeugt. Für jede initiale Fläche werden Verbindungskosten eines Verbindens der initialen Fläche mit ihren benachbarten initialen Flächen ermittelt. In mehreren Iterationen des Segmentierungsalgorithmus werden dann Flächen mit minimalen Verbindungskosten miteinander verbunden und die Verbindungskosten aktualisiert, bis eine vordefinierte Anzahl von Flächen erreicht ist. Schließlich wird eine Iteration aus den mehreren Iterationen unter Verwendung mindestens eines Auswahlkriteriums ausgewählt, um aus den bei der ausgewählten Iteration vorliegenden Flächen die segmentierten Bilddaten zu erhalten.
  • Wiederum nachfolgend werden in dem Schritt 230 des Erzeugens unter Verwendung der segmentierten Bilddaten die Betriebsdaten erzeugt. Gemäß einem Ausführungsbeispiel umfasst das Verfahren 200 ferner einen Schritt 240 des Ausgebens der Betriebsdaten an eine Schnittstelle zu der mindestens einen Assistenzeinrichtung, um die mindestens eine Assistenzeinrichtung unter Verwendung der Betriebsdaten anzusteuern bzw. einen Betrieb derselben zu steuern.
  • 3 zeigt eine schematische Darstellung von Bilddaten 104 gemäß einem Ausführungsbeispiel. Die Bilddaten 104 entsprechen oder ähneln hierbei den Bilddaten aus einer der vorstehend beschriebenen Figuren. Genauer gesagt umfassen die Bilddaten 104 ein Bild 303 eines Umfelds des Fahrzeugs und eine Tiefeninformation 305 für eine Mehrzahl von Pixeln des Bildes 303. Die Bilddaten 104 repräsentieren eine Eingabe für den hierin erwähnten Segmentierungsalgorithmus. Bei dem Bild 303 handelt es sich um ein inverses Tiefenbild, welches über ein Kamerabild, bei dem sich beispielsweise um ein Farbbild handeln kann, gelegt ist.
  • 4 zeigt eine schematische Darstellung von segmentierten Bilddaten 115 gemäß einem Ausführungsbeispiel. Die segmentierten Bilddaten 115 entsprechen oder ähneln hierbei den segmentierten Bilddaten aus einer der vorstehend beschriebenen Figuren. Die segmentierten Bilddaten 115 umfassen das Bild 303 aus 3 und eine Mehrzahl von Flächen 415, die durch den hierin erwähnten Segmentierungsalgorithmus erzeugt sind. Die segmentierten Bilddaten 115 repräsentieren somit eine Ausgabe des Segmentierungsalgorithmus bzw. eine Segmentierung einer Szene in planare Oberflächen beziehungsweise Flächen 415, über das Kamerabild bzw. Farbbild gelegt, von denen lediglich einige in der Darstellung von 4 explizit bezeichnet sind.
  • 5 zeigt eine schematische Darstellung von spaltenweise segmentierten Bilddaten 500. Die spaltenweise segmentierten Bilddaten 500 sind mittels eines herkömmlichen Segmentierungsalgorithmus beispielsweise aus Bilddaten ähnlich den Bilddaten aus 3 erzeugt. Die spaltenweise segmentierten Bilddaten 500 umfassen ein Kamerabild 503 und eine Mehrzahl von sogenannten Stixel-Segmenten 515. Es gibt wenige Daten über eine Leitplanke in dem Kamerabild 503 und es ist unter Umständen schwierig, zwischen Rauschen und guten Daten zu unterscheiden. Daten werden eventuell durch herkömmliche Segmentierungsalgorithmen verworfen, um Fehler zu vermeiden.
  • 6 zeigt eine schematische Darstellung von segmentierten Bilddaten 115 gemäß einem Ausführungsbeispiel. Die Darstellung in 6 entspricht hierbei der Darstellung aus 4 mit Ausnahme dessen, dass sich das Bild 303 und die Flächen 415 von ihnen in 4 unterscheiden, da eine andere Szene dargestellt ist. Somit ist in 6 ein Ergebnis einer zweidimensionalen Segmentierung gemäß einem Ausführungsbeispiel gezeigt, wobei mehrere Spalten von Pixeln betrachtet werden. Somit sind verglichen mit 5 die spärlichen Messwerte bezüglich der Leitplanke ordentlich in eine Fläche 415 gruppiert.
  • 7 zeigt ein schematisches Diagramm 700 von Verbindungskosten 722 über mehrere Iterationen 721 eines Segmentierungsalgorithmus gemäß einem Ausführungsbeispiel. In Verbindung mit der Vorrichtung aus 1 und/oder dem Verfahren aus 2 betrachtet ist in 7 somit dargestellt, wie eine Iteration mit der besten Segmentierung aus der Mehrzahl von Iterationen 721 ausgewählt wird. In dem Diagramm 700 sind die minimalen Verbindungskosten 722 für jede einer Mehrzahl von Iterationen 721 in Gestalt von Messwerten 723 gezeigt. In den Messwerten 723 zeigen sich mehrere Sprünge 725 bzw. Lücken. Im Bereich der Sprünge 725 steigen die Verbindungskosten 722 verglichen mit der Historie sprunghaft bzw. plötzlich an, was darauf hindeutet, dass der Segmentierungsalgorithmus dort eine Verbindung von Flächen bewirkt hat. Der Segmentierungsalgorithmus wird ausgeführt, bis die in dem Bild dargestellte Szene mit einer geringen Menge von Flächen bedeckt ist, beispielsweise 50. Einer der Sprünge 725 wird als Iteration mit der besten Segmentierung ausgewählt. Die Kriterien für die Auswahl umfassen insbesondere die Größen der Sprünge 725 und die Anzahl der Sprünge 725. Die betroffenen Parameter sind auch von der Szene abhängig.
  • Unter Bezugnahme auf die vorstehend beschriebenen Figuren werden nachfolgend Ausführungsbeispiele nochmals zusammenfassend und mit anderen Worten kurz erläutert.
  • Ein Ablauf zum Bereitstellen der Betriebsdaten 117 unter Verwendung der Vorrichtung 110 und/oder durch Ausführen des Verfahrens 200 lässt sich wie folgt darstellen: Zweidimensionale initiale Flächen unter Verwendung inverser Tiefeninformationen 305 erzeugen, wobei eine solche Fläche beispielsweise aus drei oder vier Gitterzellen erzeugt wird. Rekursiven Bottom-up-Segmentierungsalgorithmus können angewendet werden, wobei ein Flächen-Fitting vorgenommen wird, wobei Verbindungskriterien wie zum Beispiel ein mittlerer quadratischer Fehler beider jeweils zu verbindende Flächen 415 und Abbruchkriterien, beispielsweise wenn eine Mindestanzahl von Flächen 415 erreicht wurde, zur Anwendung kommen. Eine der Iterationen 721 wird für eine erfolgreiche Segmentierung ausgewählt.
  • Zur anfänglichen Gruppierung von Flächen 415 werden bei gegebenem inversen Tiefenbild bzw. bei gegebenen Bilddaten 104 anfangs 2x2 Pixel zu einer initialen Fläche gruppiert und werden die Summen berechnet, die der Fläche zugeordnet sind, die zu diesen inversen Tiefenpixeln passt. Für jede initiale Fläche werden die Verbindungskosten 722 einer Verbindung mit ihren benachbarten anfänglichen Flächen berechnet. Solange die Abbruchkriterien nicht erfüllt sind, werden eine erste Fläche A und eine zweite Fläche B mit den minimalen Verbindungskosten 722 ausgewählt, wird die zweite Fläche B mit der ersten Fläche A verbunden, werden die Summen der zweiten Fläche B zu den Flächensummen der ersten Fläche A addiert und werden die Nachbarn der zweiten Fläche B an die erste Fläche A angehängt und deren Verbindungskosten 722 werden aktualisiert.
  • Auch wenn der hierin genannte Segmentierungsalgorithmus im Zusammenhang mit einer Bildsegmentierung unter Verwendung inverser Tiefe vorgestellt ist, kann derselbe ohne weiteres auf Lidar-Daten oder zum Segmentieren von Graustufenbildern angewandt werden.
  • Umfasst ein Ausführungsbeispiel eine „und/oder“-Verknüpfung zwischen einem ersten Merkmal und einem zweiten Merkmal, so ist dies so zu lesen, dass das Ausführungsbeispiel gemäß einer Ausführungsform sowohl das erste Merkmal als auch das zweite Merkmal und gemäß einer weiteren Ausführungsform entweder nur das erste Merkmal oder nur das zweite Merkmal aufweist.

Claims (10)

  1. Verfahren (200) zum Bereitstellen von Betriebsdaten (117) zum Betreiben mindestens einer Assistenzeinrichtung (106) eines Fahrzeugs (100), wobei das Verfahren (200) folgende Schritte aufweist: Einlesen (210) von Bilddaten (104) von einer Schnittstelle (111) zu mindestens einer Umfelderfassungseinrichtung (102) des Fahrzeugs (100), wobei die Bilddaten (104) ein Bild (303) eines Umfelds des Fahrzeugs (100) und eine Tiefeninformation (305) für eine Mehrzahl von Pixeln des Bildes (303) aufweisen, wobei die Tiefeninformation (305) einen Abstand zwischen der mindestens einen Umfelderfassungseinrichtung (102) und einem durch das jeweilige Pixel dargestellten Abschnitt eines Objekts in dem Umfeld repräsentiert; Durchführen (220) einer zweidimensionalen Segmentierung der Bilddaten (104) unter Verwendung eines Segmentierungsalgorithmus, um segmentierte Bilddaten (115) zu generieren, wobei unter Verwendung der Tiefeninformation (305) eine Mehrzahl von jeweils mehrere Pixel umfassenden initialen Flächen erzeugt wird, wobei für jede initiale Fläche Verbindungskosten (722) eines Verbindens der initialen Fläche mit ihren benachbarten initialen Flächen ermittelt werden, wobei in mehreren Iterationen (721) des Segmentierungsalgorithmus Flächen (415) mit minimalen Verbindungskosten (722) miteinander verbunden werden und die Verbindungskosten (722) aktualisiert werden, bis eine vordefinierte Anzahl von Flächen (415) erreicht ist, wobei eine Iteration aus den mehreren Iterationen (721) unter Verwendung mindestens eines Auswahlkriteriums ausgewählt wird, um aus den bei der ausgewählten Iteration vorliegenden Flächen (415) die segmentierten Bilddaten (115) zu erhalten; und Erzeugen (230) der Betriebsdaten (117) unter Verwendung der segmentierten Bilddaten (115).
  2. Verfahren (200) gemäß Anspruch 1, dadurch gekennzeichnet, dass im Schritt (220) des Durchführens die zweidimensionale Segmentierung über einen mehrere Pixelspalten umfassenden Abschnitt des Bildes (303) durchgeführt wird.
  3. Verfahren (200) gemäß einem der vorangegangenen Ansprüche, dadurch gekennzeichnet, dass im Schritt (220) des Durchführens die zweidimensionale Segmentierung unter Verwendung eines rekursiven Bottom-up-Segmentierungsalgorithmus durchgeführt wird.
  4. Verfahren (200) gemäß einem der vorangegangenen Ansprüche, dadurch gekennzeichnet, dass im Schritt (220) des Durchführens zwei mal zwei Pixel umfassende initiale Flächen erzeugt werden.
  5. Verfahren (200) gemäß einem der vorangegangenen Ansprüche, dadurch gekennzeichnet, dass im Schritt (220) des Durchführens die Verbindungskosten (722) unter Verwendung eines mittleren quadratischen Fehlers von jeweils zwei betrachteten Flächen (415) ermittelt werden.
  6. Verfahren (200) gemäß einem der vorangegangenen Ansprüche, dadurch gekennzeichnet, dass im Schritt (220) des Durchführens die Iteration aus den mehreren Iterationen (721) unter Verwendung einer Größe und/oder einer Anzahl von Sprüngen (725) in den minimalen Verbindungskosten (722) über die Iterationen (721) hinweg als das mindestens eine Auswahlkriterium ausgewählt wird.
  7. Verfahren (200) gemäß einem der vorangegangenen Ansprüche, gekennzeichnet durch einen Schritt (240) des Ausgebens der Betriebsdaten (117) an eine Schnittstelle (119) zu der mindestens einen Assistenzeinrichtung (106), um die mindestens eine Assistenzeinrichtung (106) unter Verwendung der Betriebsdaten (117) anzusteuern.
  8. Vorrichtung (110), die eingerichtet ist, um die Schritte des Verfahrens (200) gemäß einem der vorangegangenen Ansprüche in entsprechenden Einheiten (112, 114, 116) auszuführen und/oder anzusteuern.
  9. Computerprogramm, das dazu eingerichtet ist, die Schritte des Verfahrens (200) gemäß einem der vorangegangenen Ansprüche auszuführen und/oder anzusteuern.
  10. Maschinenlesbares Speichermedium, auf dem das Computerprogramm nach Anspruch 9 gespeichert ist.
DE102022204882.2A 2022-05-17 2022-05-17 Verfahren und Vorrichtung zum Bereitstellen von Betriebsdaten zum Betreiben mindestens einer Assistenzeinrichtung eines Fahrzeugs Pending DE102022204882A1 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102022204882.2A DE102022204882A1 (de) 2022-05-17 2022-05-17 Verfahren und Vorrichtung zum Bereitstellen von Betriebsdaten zum Betreiben mindestens einer Assistenzeinrichtung eines Fahrzeugs

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102022204882.2A DE102022204882A1 (de) 2022-05-17 2022-05-17 Verfahren und Vorrichtung zum Bereitstellen von Betriebsdaten zum Betreiben mindestens einer Assistenzeinrichtung eines Fahrzeugs

Publications (1)

Publication Number Publication Date
DE102022204882A1 true DE102022204882A1 (de) 2023-11-23

Family

ID=88599688

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102022204882.2A Pending DE102022204882A1 (de) 2022-05-17 2022-05-17 Verfahren und Vorrichtung zum Bereitstellen von Betriebsdaten zum Betreiben mindestens einer Assistenzeinrichtung eines Fahrzeugs

Country Status (1)

Country Link
DE (1) DE102022204882A1 (de)

Similar Documents

Publication Publication Date Title
DE102019100575A1 (de) Verfahren und system zum erzeugen eines bereichsbildes unter verwendung von daten mit geringer tiefe
WO2015173092A1 (de) Verfahren und vorrichtung zur kalibrierung eines kamerasystems eines kraftfahrzeugs
DE102010004165A1 (de) Verfahren und Systeme zum Kalibrieren von Fahrzeugsichtsystemen
DE102012101014A1 (de) Fahrzeugdetektionsvorrichtung
DE102017213247A1 (de) Wissenstransfer zwischen verschiedenen Deep-Learning Architekturen
DE102020105642A1 (de) Entwerfen von und verarbeiten mit antennenarrays zur beseitigung von fehldetektionen in einem radarsystem
DE102012209316A1 (de) Verfahren und Vorrichtung zum Verarbeiten von Sensordaten eines Stereosensorsystems
DE102019131100A1 (de) Vorrichtung und verfahren zum erkennen eines objektes unter verwendung eines bildes
DE102019101482A1 (de) Erkennungsvorrichtung für die äussere umgebung eines fahrzeugs
DE69813931T2 (de) Filterverfahren zur Fokussierung von Bildern
EP3278318A1 (de) Verfahren zum bereitstellen von höheninformationen eines objekts in einem umgebungsbereich eines kraftfahrzeugs an einer kommunikationsschnittstelle, sensoreinrichtung, verarbeitungseinrichtung und kraftfahrzeug
DE102022204882A1 (de) Verfahren und Vorrichtung zum Bereitstellen von Betriebsdaten zum Betreiben mindestens einer Assistenzeinrichtung eines Fahrzeugs
DE102020103575A1 (de) Merkmalspunktdetektionsvorrichtung und -verfahren zur Detektion von Merkmalspunkten in Bilddaten
DE102008046505B4 (de) Verfahren zur Bildverarbeitung von Stereobildern
EP3903478A2 (de) Verfahren und verarbeitungseinrichtung zum verarbeiten von messdaten eines bildsensors
DE102019218479A1 (de) Verfahren und Vorrichtung zur Klassifikation von Objekten auf einer Fahrbahn in einem Umfeld eines Fahrzeugs
DE102022201279B3 (de) Verfahren zum Erfassen einer Umgebung eines Fahrzeugs, Kameravorrichtung und Fahrzeug
EP2192550A1 (de) Verfahren zum Ermitteln der Lageänderung eines Kamerasystems und Vorrichtung zum Erfassen und Verarbeiten von Bildern
DE102019102672A1 (de) Intersensorisches lernen
EP3073446A1 (de) Verfahren zum darstellen einer fahrzeugumgebung eines fahrzeuges
DE102018209898A1 (de) Verfahren zur Bestimmung von zueinander korrespondierenden Bildpunkten, SoC zur Durchführung des Verfahrens, Kamerasystem mit dem SoC, Steuergerät und Fahrzeug
DE102021131164A1 (de) Tiefenbilderzeugungskamera mit polarisationscodierter Apertur
DE102019008531A1 (de) Verfahren zur bildbasierten Objekterkennung mittels Bounding-Boxes und Non-Maximum Suppression (NMS) in Straßenverkehrsszenen
DE102019127322A1 (de) Verfahren zur Erfassung von Objekten in einer Fahrzeugumgebung, Vorrichtung zur Datenverarbeitung, Computerprogrammprodukt und computerlesbarer Datenträger
DE102017217156B4 (de) Verfahren und Vorrichtung zur Ansteuerung eines Fahrerassistenzsystems unter Verwendung eines Stereokamerasystems mit einer ersten und einer zweiten Kamera