DE102019003562A1 - Verfahren zur Auswertung von mittels einer Kamera eines Fahrzeugs erfassten Bildern - Google Patents

Verfahren zur Auswertung von mittels einer Kamera eines Fahrzeugs erfassten Bildern Download PDF

Info

Publication number
DE102019003562A1
DE102019003562A1 DE102019003562.3A DE102019003562A DE102019003562A1 DE 102019003562 A1 DE102019003562 A1 DE 102019003562A1 DE 102019003562 A DE102019003562 A DE 102019003562A DE 102019003562 A1 DE102019003562 A1 DE 102019003562A1
Authority
DE
Germany
Prior art keywords
camera
lens
images captured
captured
fogging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
DE102019003562.3A
Other languages
English (en)
Inventor
Florian Frey
Christopher Pangerl
Reinhard Janssen
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mercedes Benz Group AG
Original Assignee
Daimler AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daimler AG filed Critical Daimler AG
Priority to DE102019003562.3A priority Critical patent/DE102019003562A1/de
Publication of DE102019003562A1 publication Critical patent/DE102019003562A1/de
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • G06V10/431Frequency domain transformation; Autocorrelation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/48Extraction of image or video features by mapping characteristic values of the pattern into a parameter space, e.g. Hough transformation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

Die Erfindung betrifft ein Verfahren zur Auswertung von mittels einer Kamera (2) eines Fahrzeugs (1) erfassten Bildern.Erfindungsgemäß wird zumindest in den bei einer niedrigen Fahrzeuggeschwindigkeit mittels der Kamera (2) erfassten Bildern eine räumliche Frequenzanalyse durchgeführt und es wird ein Beschlag auf mindestens einer Linse der Kamera (2) detektiert, wenn in diesen bei der niedrigen Fahrzeuggeschwindigkeit mittels der Kamera (2) erfassten Bildern keine hochfrequenten Bildanteile vorhanden sind.

Description

  • Die Erfindung betrifft ein Verfahren zur Auswertung von mittels einer Kamera eines Fahrzeugs erfassten Bildern.
  • Aus dem Stand der Technik ist, wie in der DE 10 2010 023 591 A1 beschrieben, ein Stereokamerasystem bekannt. Bei dem Stereokamerasystem, das zum Einsatz in Kraftfahrzeugen hinter einer geneigten Windschutzscheibe ausgebildet ist, weist mindestens eines der mindestens zwei Kameramodule des Systems ein zusätzliches partiell angeordnetes, zeitweise zugeführtes oder als Strahlteiler wirkendes optisches Element auf und kann dadurch als mindestens bifokales optisches Kameramodul mit mindestens zwei unterschiedlichen Schärfentiefenbereichen auf einem Bildsensor verwendet werden. Der Bildsensor beinhaltet dadurch mindestens zwei Teilbereiche mit unterschiedlichen optischen Objektweiten, wobei eine optische Objektweite zur Erfassung eines Objekts im Nahbereich, das zum Ausrichten der Stereokameraanordnung dient, vorgesehen ist.
  • Der Erfindung liegt die Aufgabe zu Grunde, ein gegenüber dem Stand der Technik verbessertes Verfahren zur Auswertung von mittels einer Kamera eines Fahrzeugs erfassten Bildern anzugeben.
  • Die Aufgabe wird erfindungsgemäß gelöst durch ein Verfahren zur Auswertung von mittels einer Kamera eines Fahrzeugs erfassten Bildern mit den Merkmalen des Anspruchs 1.
  • Vorteilhafte Ausgestaltungen der Erfindung sind Gegenstand der Unteransprüche.
  • In einem erfindungsgemäßen Verfahren zur Auswertung von mittels einer Kamera eines Fahrzeugs erfassten Bildern, insbesondere zur Detektion von Beschlag, d. h. von Feuchtigkeitsbeschlag, auf mindestens einer Linse der Kamera, wird zumindest in den bei einer niedrigen Fahrzeuggeschwindigkeit mittels der Kamera erfassten Bildern eine räumliche Frequenzanalyse, beispielsweise eine Hough-Transformation und/oder Fourier-Transformation, durchgeführt und es wird ein Beschlag auf der mindestens einen Linse der Kamera detektiert, wenn in diesen bei der niedrigen Fahrzeuggeschwindigkeit mittels der Kamera erfassten Bildern keine hochfrequenten Bildanteile vorhanden sind.
  • Die räumliche Frequenzanalyse ist im Allgemeinen eine mehrdimensionale räumliche Frequenzanalyse. Im hier geschilderten Fall sind die zwei Dimensionen des jeweiligen mittels der Kamera erfassten Bildes gemeint. Es handelt sich hier bei der räumlichen Frequenzanalyse somit insbesondere um eine zweidimensionale räumliche Frequenzanalyse.
  • In diesem Verfahren wird somit vorteilhafterweise auf das jeweilige mittels der Kamera erfasste Bild eine Frequenzanalyse, zum Beispiel mittels der Fourier-Transformation und/oder Hough-Transformation, angewandt, so dass das Bild auf diese Weise in den Frequenzraum transformiert bzw. überführt wird. In diesem Frequenzraum können Bereiche mit hohen Frequenzen durch hohe Amplituden detektiert werden. Typischerweise sind statische Objekte, beispielsweise Schmutz auf der mindestens einen Linse der Kamera, dadurch gekennzeichnet, dass sie hochfrequent sind und ein dynamischer Hintergrund durch Motion Blur Effekte, d. h. durch Bewegungsunschärfeeffekte, niederfrequent ist. Ist die mindestens eine Linse der Kamera beschlagen, so weist das jeweilige mittels der Kamera erfasste Bild im Frequenzraum keine hochfrequenten Bildanteile auf, d. h. es gibt keine erkennbaren scharfen Kanten im Originalbild, da aufgrund des Beschlags alles milchig, d. h. trüb und verschwommen, aussieht. Mit dem erfindungsgemäßen Verfahren kann somit eine beschlagene Linse von verdreckten und sauberen Linsen unterschieden werden.
  • Das erfindungsgemäße Verfahren ist insbesondere für den Betrieb eines oder mehrerer Assistenzsysteme des Fahrzeugs vorteilhaft, welche die Kamera, insbesondere deren erfasste Bilder, verwenden. Diese Assistenzsysteme sind auf die Funktionsfähigkeit der Kamera angewiesen. Durch Beschlag, insbesondere Feuchtigkeitsbeschlag, auf der mindestens einen Linse der Kamera kann diese Funktionsfähigkeit jedoch beeinträchtigt sein, da eine Bildqualität der erfassten Bilder durch den Beschlag beeinträchtigt ist.
  • Mit bisher verwendeten Algorithmen ist das Detektieren von Beschlag nicht oder zumindest nicht zuverlässig möglich, da im jeweiligen erfassten Bild nicht die hierfür benötigten oder nicht ausreichend Informationen vorhanden sind. So erfolgt beispielsweise eine Detektion von Verschmutzungen durch die Erkennung statischer Bereiche in den erfassten Bildern. Beschlag ist auf diese Weise jedoch nicht oder zumindest nicht zuverlässig detektierbar.
  • Das erfindungsgemäße Verfahren ermöglicht im Gegensatz dazu eine erheblich verbesserte Detektion des Beschlags, basierend auf der räumlichen Frequenzanalyse im jeweiligen erfassten Bild. Das durch die beschlagene Linse erfasste Bild ist im Gegensatz zu einem durch eine saubere Linse oder auch durch eine verschmutzte Linse erfassten Bild frei, zumindest im Wesentlichen frei, von hochfrequenten Bildanteilen. Dieses Fehlen von hochfrequenten Bildanteilen, insbesondere in niedrigen Fahrzeuggeschwindigkeitsbereichen, wird mittels des erfindungsgemäßen Verfahrens zur Detektion der beschlagenen Linse der Kamera, d. h. zur Detektion des Beschlags auf der Linse, verwendet.
  • Eine maximale Fahrzeuggeschwindigkeit, bis zu welcher das Verfahren sicher funktioniert und bis zu welcher das Verfahren daher zweckmäßigerweise durchgeführt wird, ist beispielsweise abhängig oder mindestens abhängig von einer Belichtungszeit der Kamera, von einem HDR-Bereich der Kamera, von einem HDR-Bereich einer nachgelagerten Bildverarbeitung (HDR=High Dynamic Range), von einer Art der Bildaufbereitung (zum Beispiel Tone Mapping), von einer Framerate der Kamera, von einer Umgebungsbeleuchtung, von nahen bzw. entfernten Objekten in der Umgebung, von einer Einbaulage der Kamera und/oder von einer Stärke des zu detektierenden Beschlags.
  • Es kann beispielsweise vorgesehen sein, dass das Verfahren insbesondere oder ausschließlich bei Fahrzeuggeschwindigkeiten durchgeführt wird, welche für einen Parkbetrieb und/oder erweiterten Manövrierbetrieb des Fahrzeugs und/oder für einen innerstädtischen Betrieb des Fahrzeugs vorgesehen sind und/oder das Verfahren wird beispielsweise nur auf innerstädtische Anwendungsbereiche begrenzt.
  • Mittels des erfindungsgemäßen Verfahrens können somit beschlagene Linsen von Kameras, die zu erheblichen funktionalen Einschränkungen führen, detektiert werden.
  • Dadurch werden beispielsweise Fehlfunktionen von die Bilder der jeweiligen Kamera nutzenden Assistenzsystemen vermieden.
  • Ausführungsbeispiele der Erfindung werden im Folgenden anhand einer Zeichnung näher erläutert.
    Dabei zeigt:
    • 1 schematisch ein Fahrzeug mit einer Kamera.
  • 1 zeigt eine schematische Darstellung eines Fahrzeugs 1, welches eine Kamera 2 aufweist. Von der Kamera 2 erfasste Bilder werden beispielsweise von mindestens einem Assistenzsystem des Fahrzeugs 1 verwendet. Dabei ist das Assistenzsystem auf die Funktionsfähigkeit der Kamera 2 angewiesen. Problematisch für diese Funktionsfähigkeit sind beispielsweise Schmutz oder Beschlag, insbesondere Feuchtigkeitsbeschlag, auf mindestens einer Linse der Kamera 2, d. h. die Funktionsfähigkeit der Kamera 2 kann dadurch beeinträchtigt sein.
  • Mit bisher verwendeten Algorithmen, welche insbesondere zum Detektieren von Verschmutzungen verwendet werden, ist das Detektieren von Beschlag nicht oder zumindest nicht zuverlässig möglich, da im jeweiligen erfassten Bild nicht die hierfür benötigten oder nicht ausreichend Informationen vorhanden sind. So erfolgt beispielsweise eine Detektion von Verschmutzungen durch die Erkennung statischer Bereiche in den erfassten Bildern. Beschlag ist auf diese Weise jedoch nicht oder zumindest nicht zuverlässig detektierbar.
  • Daher ist im hier beschriebenen Verfahren zur Auswertung von mittels der Kamera 2 des Fahrzeugs 1 erfassten Bildern, insbesondere zur Detektion von Beschlag, d. h. von Feuchtigkeitsbeschlag, auf mindestens einer Linse der Kamera 2, vorgesehen, dass in den mittels der Kamera 2 erfassten Bildern, zumindest in den bei einer niedrigen Fahrzeuggeschwindigkeit mittels der Kamera 2 erfassten Bildern, eine räumliche Frequenzanalyse, beispielsweise eine Hough-Transformation und/oder Fourier-Transformation, durchgeführt wird. Für den Fall, dass in den bei der niedrigen Fahrzeuggeschwindigkeit erfassten Bildern keine hochfrequenten Bildanteile vorhanden sind, befindet sich ein Beschlag auf der mindestens einen Linse, d. h. in diesem Fall wird der Beschlag detektiert.
  • In diesem Verfahren wird somit auf das jeweilige mittels der Kamera 2 erfasste Bild eine Frequenzanalyse, zum Beispiel mittels der Fourier-Transformation und/oder Hough-Transformation, angewandt, so dass das Bild auf diese Weise in den Frequenzraum transformiert bzw. überführt wird. In diesem Frequenzraum können Bereiche mit hohen Frequenzen durch hohe Amplituden detektiert werden. Typischerweise sind statische Objekte, beispielsweise Schmutz auf der mindestens einen Linse der Kamera 2, dadurch gekennzeichnet, dass sie hochfrequent sind und ein dynamischer Hintergrund durch Motion Blur Effekte, d. h. durch Bewegungsunschärfeeffekte, niederfrequent ist. Ist die mindestens eine Linse der Kamera 2 beschlagen, so weist das jeweilige mittels der Kamera 2 erfasste Bild im Frequenzraum keine hochfrequenten Bildanteile auf, d. h. es gibt keine erkennbaren scharfen Kanten im Originalbild, da aufgrund des Beschlags alles milchig, d. h. trüb und verschwommen, aussieht. Mit diesem Verfahren kann somit eine beschlagene Linse von verdreckten und sauberen Linsen unterschieden werden.
  • Das Verfahren ermöglicht somit eine erheblich verbesserte Detektion, vorteilhafterweise eine zuverlässige Detektion, des Beschlags, basierend auf der räumlichen Frequenzanalyse im jeweiligen erfassten Bild. Das durch die beschlagene Linse erfasste Bild ist im Gegensatz zu einem durch eine saubere Linse oder auch durch eine verschmutzte Linse erfassten Bild frei, zumindest im Wesentlichen frei, von hochfrequenten Bildanteilen. Dieses Fehlen von hochfrequenten Bildanteilen, insbesondere in niedrigen Fahrzeuggeschwindigkeitsbereichen, wird mittels des Verfahrens zur Detektion der beschlagenen Linse der Kamera 2, d. h. zur Detektion des Beschlags auf der Linse, verwendet.
  • Mittels des Verfahrens können somit beschlagene Linsen von Kameras 2, die zu erheblichen funktionalen Einschränkungen führen, detektiert werden. Dadurch werden beispielsweise Fehlfunktionen von die Bilder der jeweiligen Kamera 2 nutzenden Assistenzsystemen vermieden.
  • Bezugszeichenliste
  • 1
    Fahrzeug
    2
    Kamera
  • ZITATE ENTHALTEN IN DER BESCHREIBUNG
  • Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
  • Zitierte Patentliteratur
    • DE 102010023591 A1 [0002]

Claims (3)

  1. Verfahren zur Auswertung von mittels einer Kamera (2) eines Fahrzeugs (1) erfassten Bildern, dadurch gekennzeichnet, dass zumindest in den bei einer niedrigen Fahrzeuggeschwindigkeit mittels der Kamera (2) erfassten Bildern eine räumliche Frequenzanalyse durchgeführt wird und ein Beschlag auf mindestens einer Linse der Kamera (2) detektiert wird, wenn in diesen bei der niedrigen Fahrzeuggeschwindigkeit mittels der Kamera (2) erfassten Bildern keine hochfrequenten Bildanteile vorhanden sind.
  2. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass als räumliche Frequenzanalyse eine Hough-Transformation und/oder Fourier-Transformation durchgeführt wird.
  3. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die niedrige Fahrzeuggeschwindigkeit alle Geschwindigkeitswerte bis zu einem vorgegebenen Maximalwert von ... Km/h umfasst.
DE102019003562.3A 2019-05-21 2019-05-21 Verfahren zur Auswertung von mittels einer Kamera eines Fahrzeugs erfassten Bildern Withdrawn DE102019003562A1 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102019003562.3A DE102019003562A1 (de) 2019-05-21 2019-05-21 Verfahren zur Auswertung von mittels einer Kamera eines Fahrzeugs erfassten Bildern

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102019003562.3A DE102019003562A1 (de) 2019-05-21 2019-05-21 Verfahren zur Auswertung von mittels einer Kamera eines Fahrzeugs erfassten Bildern

Publications (1)

Publication Number Publication Date
DE102019003562A1 true DE102019003562A1 (de) 2020-01-02

Family

ID=68886214

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102019003562.3A Withdrawn DE102019003562A1 (de) 2019-05-21 2019-05-21 Verfahren zur Auswertung von mittels einer Kamera eines Fahrzeugs erfassten Bildern

Country Status (1)

Country Link
DE (1) DE102019003562A1 (de)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022008596A1 (en) * 2020-07-07 2022-01-13 Orlaco Products B.V. Operational design domain detection for advanced driver assistance systems

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102010023591A1 (de) 2010-06-12 2011-12-15 Conti Temic Microelectronic Gmbh Stereokamerasystem

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102010023591A1 (de) 2010-06-12 2011-12-15 Conti Temic Microelectronic Gmbh Stereokamerasystem

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022008596A1 (en) * 2020-07-07 2022-01-13 Orlaco Products B.V. Operational design domain detection for advanced driver assistance systems

Similar Documents

Publication Publication Date Title
DE102012222126B4 (de) Verfahren und Vorrichtung zum Ansteuern einer Reinigungsvorrichtung für eine Fahrzeugkamera, Verfahren zum Reinigen einer Fahrzeugkamera und Kamerasystem für ein Fahrzeug
DE19803694C1 (de) Verfahren zum Detektieren von auf einer lichtdurchlässigen Scheibe befindlichen Objekten sowie Vorrichtung
EP2384295B1 (de) Kameraanordnung und verfahren zur erfassung einer fahrzeugumgebung
DE112008001384T5 (de) Verfahren zur Verschmutzungserkennung bei einer TOF-Distanzbildkamera
DE102014209197A1 (de) Vorrichtung und Verfahren zum Erkennen von Niederschlag für ein Kraftfahrzeug
DE102015216908A1 (de) Verfahren zum Erkennen von Objekten auf einer Abstellfläche
DE102008043737A1 (de) Vorrichtung und Verfahren zur Detektion von Regentropfen auf einer Scheibe
DE102014201158A1 (de) Verfahren und Vorrichtung zum Überprüfen eines von einer Objekterkennung erkannten relevanten Objekts
DE102020215860A1 (de) Korrektur von Bildern eines Rundumsichtkamerasystems bei Regen, Lichteinfall und Verschmutzung
WO2018145680A1 (de) Kamerasystem für ein fahrzeug
DE10322087A1 (de) Verfahren zur Erkennung und Lokalisierung von Verschmutzungen auf der Optik eines Kamerasystems
DE102015007794A1 (de) Verfahren und Vorrichtung zur Erfassung von Feuchtigkeit und/oder einer Verschmutzung auf einer Außenseite einer Abdeckung eines Bildsensors
DE102012015282B4 (de) Verfahren zur Detektion eines verdeckten Zustands einer Bilderfassungseinrichtung eines Kraftfahrzeugs, Kamerasystem und Kraftfahrzeug
DE102019003562A1 (de) Verfahren zur Auswertung von mittels einer Kamera eines Fahrzeugs erfassten Bildern
DE102016104044A1 (de) Verfahren zum Erkennen einer Ablagerung auf einem optischen Element einer Kamera durch einen Merkmalsraum und eine Hyperebene, sowie Kamerasystem und Kraftfahrzeug
DE102015217265A1 (de) Stereokameravorrichtung zur Umgebungserfassung eines Kraftfahrzeugs, Kraftfahrzeug mit einer solchen Stereokameravorrichtung sowie ein Verfahren zur Erkennung von Regentropfen oder Ablagerungen
DE102021004337A1 (de) Vorrichtung und Verfahren zur Filterung von Spiegelungen in Bilddaten
DE102011083232A1 (de) Bilderfassungsvorrichtung für ein Fahrzeug
DE102017221381A1 (de) Verfahren, Vorrichtung und Computerprogramm zum Ermitteln eines Abstandes zu einem Objekt
DE102019001041A1 (de) Verfahren, sowie Vorrichtung zur Erkennung wenigstens eines manipulierten Verkehrszeichens mit einem Laserscanner
DE102010021221A1 (de) Verfahren zur Bestimmung einer Ausrichtung einer an einem Fahrzeug angeordneten Kamera
WO2022128013A1 (de) Korrektur von bildern einer kamera bei regen, lichteinfall und verschmutzung
DE102017005056A1 (de) Verfahren zum Betrieb eines Stereokamerasystems in einem Fahrzeug
DE102016109027A1 (de) Verfahren zur Lageüberprüfung charakteristischer Punkte in Lichtverteilungen
DE102015016943A1 (de) Verfahren zur Selbstlokalisation eines Fahrzeugs

Legal Events

Date Code Title Description
R230 Request for early publication
R081 Change of applicant/patentee

Owner name: DAIMLER AG, DE

Free format text: FORMER OWNER: DAIMLER AG, 70327 STUTTGART, DE

R119 Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee