DE102023112476B3 - Camera device for detecting the environment, vehicle with such a camera device and associated operating method - Google Patents
Camera device for detecting the environment, vehicle with such a camera device and associated operating method Download PDFInfo
- Publication number
- DE102023112476B3 DE102023112476B3 DE102023112476.5A DE102023112476A DE102023112476B3 DE 102023112476 B3 DE102023112476 B3 DE 102023112476B3 DE 102023112476 A DE102023112476 A DE 102023112476A DE 102023112476 B3 DE102023112476 B3 DE 102023112476B3
- Authority
- DE
- Germany
- Prior art keywords
- vehicle
- camera
- environment
- designed
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000011017 operating method Methods 0.000 title 1
- 238000011156 evaluation Methods 0.000 claims description 41
- 230000007613 environmental effect Effects 0.000 claims description 22
- 238000000034 method Methods 0.000 claims description 18
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 claims description 9
- 238000001514 detection method Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 10
- 238000011161 development Methods 0.000 description 7
- 230000018109 developmental process Effects 0.000 description 7
- 230000008447 perception Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 230000004438 eyesight Effects 0.000 description 5
- 230000016776 visual perception Effects 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 238000004026 adhesive bonding Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
- B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
- B60R1/27—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B17/00—Details of cameras or camera bodies; Accessories therefor
- G03B17/02—Bodies
- G03B17/17—Bodies with reflectors arranged in beam forming the photographic image, e.g. for reducing dimensions of camera
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B37/00—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
- G03B37/04—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with cameras or projectors providing touching or overlapping fields of view
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
- B60R2300/102—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using 360 degree surveillance camera system
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/303—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
- B60R2300/8053—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for bad weather conditions or night vision
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Mechanical Engineering (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
Abstract
Die Erfindung betrifft ein Fahrzeug (1) mit einer Kameravorrichtung (10) zur Umgebungserfassung. Die Kameravorrichtung (10) umfasst dazu zumindest eine Umgebungskamera (11), die in einem Fahrzeuginnenraum (I) angeordnet ist. Die Kameravorrichtung (10) umfasst auch eine Lichtumlenkeinrichtung (12) mit zumindest zwei Spiegelelementen (13). Diese sind an unterschiedlichen Positionen relativ zur Umgebungskamera (11) an dem Fahrzeug (1) angeordnet. Die Spiegelelemente (13) sind jeweils ausgebildet, Licht aus der Umgebung (U) des Fahrzeugs (1) zur Umgebungskamera (11) umzulenken. Die Umgebungskamera (11) ist ausgebildet, die vom jeweiligen Spiegelelement (13) umgelenkten Lichtanteile zu erfassen und aus den erfassten Lichtanteilen ein Abbild der Umgebung (U) zu erzeugen. So kann zum Beispiel eine Rundumsicht um das Fahrzeug realisiert werden, ohne dass mehrere Umgebungskameras am Fahrzeug verwendet werden zu brauchen.The invention relates to a vehicle (1) with a camera device (10) for detecting the environment. The camera device (10) comprises at least one environment camera (11) which is arranged in a vehicle interior (I). The camera device (10) also comprises a light deflection device (12) with at least two mirror elements (13). These are arranged at different positions relative to the environment camera (11) on the vehicle (1). The mirror elements (13) are each designed to deflect light from the environment (U) of the vehicle (1) to the environment camera (11). The environment camera (11) is designed to detect the light components deflected by the respective mirror element (13) and to generate an image of the environment (U) from the detected light components. In this way, for example, a panoramic view of the vehicle can be realized without having to use several environment cameras on the vehicle.
Description
Die Erfindung betrifft ein Fahrzeug mit einer Kameravorrichtung zur Umgebungserfassung. Die Kameravorrichtung umfasst dazu zumindest eine Umgebungskamera, die in einem Fahrzeuginnenraum angeordnet ist und die ausgebildet ist, eine Abbildung der Umgebung des Fahrzeugs zu erzeugen. Das heißt, mit der fahrzeuginternen Umgebungskamera kann die Umgebung des Fahrzeugs erfasst oder aufgenommen werden. Des Weiteren betrifft die Erfindung auch eine entsprechende Kameravorrichtung zur Umgebungserfassung für ein Fahrzeug. Die Erfindung betrifft außerdem ein Verfahren zum Betreiben einer entsprechenden Kameravorrichtung.The invention relates to a vehicle with a camera device for detecting the environment. The camera device comprises at least one environment camera that is arranged in a vehicle interior and is designed to generate an image of the environment of the vehicle. This means that the environment of the vehicle can be detected or recorded using the vehicle-internal environment camera. Furthermore, the invention also relates to a corresponding camera device for detecting the environment for a vehicle. The invention also relates to a method for operating a corresponding camera device.
In modernen Fahrzeugen gibt es die Möglichkeit, Kameras oder Kamerasysteme einzusetzen, um einen Fahrer bei der Fahraufgabe zu unterstützen. Zum Beispiel gibt es Kamerasysteme, die eine Innenraumüberwachung des Fahrzeugs ermöglichen. Dabei wird mittels einer Kamera zum Beispiel eine Fahrerkabine des Fahrzeugs erfasst und abhängig vom erfassten Zustand oder von erfassten Objekten eine entsprechende Assistenzfunktion eingeleitet.In modern vehicles, it is possible to use cameras or camera systems to assist a driver in their driving task. For example, there are camera systems that enable the interior of the vehicle to be monitored. A camera can be used to record, for example, a driver's cabin of the vehicle and, depending on the recorded state or objects, a corresponding assistance function is initiated.
Zum Beispiel offenbart die
Eine andere Möglichkeit besteht darin, ein Kamerasystem für die Umgebungsüberwachung oder Umgebungserfassung zu nutzen. Dazu kann beispielsweise ein sogenanntes Rundumkamerasystem oder 360-Grad-Kamerasystem genutzt werden, das auch als Top-View-Kamera (Draufsichtkamera) bezeichnet wird. Mittels eines solchen Kamerasystems soll dem Fahrer ein Rundumblick um das eigene Fahrzeug, ermöglicht werden. So kann der Fahrer zum Beispiel beim Einparken oder beim Manövrieren unterstützt werden.Another option is to use a camera system for environmental monitoring or environmental detection. For example, a so-called all-round camera system or 360-degree camera system can be used for this, which is also known as a top-view camera. Such a camera system is intended to give the driver a 360-degree view of their own vehicle. This can help the driver, for example, when parking or maneuvering.
Um die Rundumsicht zu ermöglichen, umfasst ein Rundumkamerasystem üblicherweise mehrere Umgebungskameras, die im Außenbereich am Fahrzeug montiert sind. Echtzeitbilder der Kameras werden zum Beispiel von einem Bordcomputer zu einer überlappenden Bildansicht zum Beispiel zu einer 360-Grad-Ansicht zusammengefügt. Die 360-Grad-Ansicht wird dem Fahrer zum Beispiel auf einem Bildschirm im Cockpit dargestellt. Auf dem Bildschirm ist üblicherweise der Umriss des Fahrzeugs und dessen unmittelbare Umgebung aus der Vogelperspektive oder Draufsicht schematisch gezeigt.To enable all-round visibility, an all-round camera system usually includes several surround cameras that are mounted on the outside of the vehicle. Real-time images from the cameras are combined by an on-board computer to form an overlapping image view, for example a 360-degree view. The 360-degree view is shown to the driver on a screen in the cockpit, for example. The screen usually shows a schematic of the outline of the vehicle and its immediate surroundings from a bird's eye view or from above.
Befindet sich in der Umgebung ein Hindernis für das Fahrzeug, wird dieses und dessen Entfernung zum Fahrzeug zum Beispiel durch eine spezielle Markierung angezeigt. Bevorzugt werden die Umgebungskameras in Kombination mit Umfeldsensoren, wie zum Beispiel Ultraschallsensoren, eingesetzt, sodass eine zusätzliche Möglichkeit zur Abstandsmessung gegeben ist. Abhängig von den resultierenden Sensorsignalen können akustische Signale für den Fahrer erzeugt werden, um beim Manövrieren zu unterstützen.If there is an obstacle in the vicinity for the vehicle, this and its distance from the vehicle are indicated, for example by a special marking. The environment cameras are preferably used in combination with environment sensors, such as ultrasonic sensors, so that an additional option for measuring distance is available. Depending on the resulting sensor signals, acoustic signals can be generated for the driver to assist with maneuvering.
Die
Die
Die bekannten Kamerasysteme, die eine Rundumsicht für den Fahrer ermöglichen, haben den Nachteil, dass mehrere Kameras benötigt werden, um einen entsprechenden Sichtbereich in der Umgebung abdecken zu können. Solche Kameras sind jedoch teuer und die Bildverarbeitung ist häufig aufwendig.The known camera systems that provide the driver with an all-round view have the disadvantage that several cameras are needed to cover a corresponding field of vision in the surrounding area. However, such cameras are expensive and image processing is often complex.
Die
Die
Die
Es ist die Aufgabe der vorliegenden Erfindung, möglichst kostengünstig eine Kameravorrichtung mit verbesserter Übersicht in der Umgebung bereitzustellen.It is the object of the present invention to provide a camera device with improved overview of the environment at the lowest possible cost.
Die Aufgabe wird durch die Gegenstände der unabhängigen Patentansprüche gelöst. Vorteilhafte Weiterbildungen der Erfindung sind durch die abhängigen Patentansprüche, die Beschreibung sowie die Figuren offenbart.The object is achieved by the subject matter of the independent patent claims. Advantageous developments of the invention are disclosed by the dependent patent claims, the description and the figures.
Gemäß einem Aspekt schlägt die Erfindung ein Fahrzeug mit einer Kameravorrichtung zur Umgebungserfassung vor. Die Kameravorrichtung umfasst zumindest eine Umgebungskamera. Vorzugsweise umfasst die Kameravorrichtung genau eine Umgebungskamera. Die Umgebungskamera ist in einem Fahrzeuginnenraum, also zum Beispiel einer Fahrerkabine, angeordnet oder angebracht oder befestigt. Die Umgebungskamera ist ausgebildet, ein Abbild der Umgebung des Fahrzeugs zu erzeugen. Das heißt, die Umgebungskamera kann die Umgebung aufnehmen oder erfassen und beispielsweise in Form eines Einzelbildes oder einer Bildsequenz abspeichern.According to one aspect, the invention proposes a vehicle with a camera device for detecting the environment. The camera device comprises at least one environment camera. Preferably, the camera device comprises exactly one environment camera. The environment camera is arranged or attached or fastened in a vehicle interior, for example a driver's cab. The environment camera is designed to generate an image of the environment of the vehicle. This means that the environment camera can record or capture the environment and save it, for example, in the form of a single image or an image sequence.
Die Kameravorrichtung umfasst auch eine Lichtumlenkeinrichtung mit zumindest zwei Spiegelelementen. Die Spiegelelemente sind an unterschiedlichen Positionen relativ zur Umgebungskamera an dem Fahrzeug angeordnet oder angebracht. Zum Beispiel können die Spiegelelemente im Fahrzeuginnenraum oder außen am Fahrzeug zum Beispiel an einer zur Umgebung gerichteten Oberfläche oder Außenhaut des Fahrzeugs befestigt sein. Die Spiegelelemente sind ausgebildet, Licht aus der Umgebung des Fahrzeugs zur Umgebungskamera umzulenken. Aufgrund ihrer unterschiedlichen Positionen können die Spiegelelemente insbesondere Licht aus verschiedenen Bereichen der Umgebung umlenken oder umleiten. Anders ausgedrückt, können die Spiegelelemente das Licht aus der Umgebung zur Umgebungskamera hin reflektieren.The camera device also comprises a light deflection device with at least two mirror elements. The mirror elements are arranged or attached to the vehicle at different positions relative to the surroundings camera. For example, the mirror elements can be attached in the vehicle interior or on the outside of the vehicle, for example to a surface or outer skin of the vehicle facing the surroundings. The mirror elements are designed to deflect light from the surroundings of the vehicle to the surroundings camera. Due to their different positions, the mirror elements can in particular deflect or redirect light from different areas of the surroundings. In other words, the mirror elements can reflect the light from the surroundings to the surroundings camera.
Die Umgebungskamera ist ausgebildet, die vom jeweiligen Spiegelelement umgelenkten Lichtanteile zu erfassen und aus den erfassten Lichtanteilen das Abbild der Umgebung zu erzeugen. Über die Spiegelelemente kann die Umgebungskamera somit eine Spiegelung oder ein Spiegelbild der jeweils von den Spiegelelementen erfassten Umgebungsbereichen der Umgebung aufnehmen. Diese Spiegelbilder kann die Umgebungskamera, insbesondere eine Recheneinrichtung der Umgebungskamera, dann zu dem Abbild zusammensetzen.The environment camera is designed to capture the light components deflected by the respective mirror element and to generate the image of the environment from the captured light components. The environment camera can thus use the mirror elements to capture a reflection or a mirror image of the surrounding areas captured by the mirror elements. The environment camera, in particular a computing device of the environment camera, can then assemble these mirror images to create the image.
Hierdurch ergibt sich der Vorteil, dass für die Überwachung oder Erfassung verschiedener Umgebungsbereiche vorzugsweise nur eine fahrzeugintern montierte Umgebungskamera verwendet zu werden braucht. Es kann auf mehrere Außenkameras, die teuer und aufwendig im Betrieb sind, verzichtet werden. So kann besonders kostengünstig ein möglichst großer Sichtbereich, wie zum Beispiel eine Rundumsicht um das Fahrzeug, ermöglicht werden. Indem eine Kamera im Innenraum statt einer Außenkamera verwendet wird, können zusätzlich Kosten eingespart werden, da die Kamera nicht für verschiedene Witterungseinflüsse, wie zum Beispiel Regen oder direkte Sonneneinstrahlung, resistent implementiert zu werden braucht.This has the advantage that only one environmental camera mounted inside the vehicle needs to be used to monitor or record various environmental areas. There is no need for multiple external cameras, which are expensive and difficult to operate. This makes it possible to achieve the largest possible field of vision, such as a panoramic view around the vehicle, particularly cost-effectively. By using a camera inside the vehicle instead of an external camera, additional costs can be saved, as the camera does not need to be implemented in a way that is resistant to various weather influences, such as rain or direct sunlight.
Die Kameravorrichtung umfasst bevorzugt zwei oder mehrere Spiegelelemente. Die Spiegelelemente können nach Art eines Spiegels eine reflektierende Oberfläche aufweisen, durch die ein Spiegelbild oder eine Spiegelung der Umgebung an die Umgebungskamera abgebildet werden kann. Vorzugsweise kann das jeweilige Spiegelelement als Planspiegel oder ebener Spiegel ausgebildet sein. Alternativ ist zum Beispiel die Umsetzung als Konvexspiegel oder als Konkavspiegel, insbesondere als Hohlspiegel, denkbar.The camera device preferably comprises two or more mirror elements. The mirror elements can have a reflective surface in the manner of a mirror, through which a mirror image or a reflection of the surroundings can be projected onto the surroundings camera. The respective mirror element can preferably be designed as a plane mirror or a flat mirror. Alternatively, for example, implementation as a convex mirror or as a concave mirror, in particular as a concave mirror, is conceivable.
Die Spiegelelemente sind vorzugsweise so geschickt am oder im Fahrzeug angeordnet, dass verschiedene oder unterschiedliche Umgebungsbereiche erfasst werden können. Die Umgebungskamera kann die Spiegelbilder der Spiegelelemente auslesen oder erfassen und anhand derer Positionen relativ zur Kamera auf das Abbild der Umgebung rückschließen. Insbesondere können in dem Abbild die Relationen, also Positionen und Abstände, von Objekten in den verschiedenen Umgebungsbereichen berücksichtigt sein.The mirror elements are preferably arranged on or in the vehicle in such a clever way that different or different environmental areas can be captured. The environmental camera can read or capture the mirror images of the mirror elements and use their positions relative to the camera to deduce the image of the environment. In particular, the image can take into account the relationships, i.e. positions and distances, of objects in the various environmental areas.
Die Umgebungskamera kann als Fotoapparat oder Videokamera ausgebildet sein. Das heißt, die Umgebungskamera kann das Abbild als Einzelbild oder Bildsequenz oder Video erfassen. Die Funktion und der Aufbau einer solchen Umgebungskamera ist an sich bekannt. Bevorzugt kann das Abbild in Form von Bilddaten in einer Speichereinrichtung der Umgebungskamera hinterlegt oder gespeichert sein. Die Speichereinrichtung kann zumindest ein computerlesbares Speichermedium umfassen. Das Speichermedium kann zumindest teilweise als ein nicht-flüchtiger Datenspeicher (z.B. als eine Flash-Speicher und/oder als SSD - solid state drive) und/oder zumindest teilweise als ein flüchtiger Datenspeicher (z.B. als ein RAM - random access memory) bereitgestellt sein.The environmental camera can be designed as a photo camera or video camera. This means that the environmental camera can capture the image as a single image or image sequence or video. The function and structure of such an environmental camera is known per se. The image can preferably be stored or saved in the form of image data in a storage device of the environmental camera. The storage device can comprise at least one computer-readable storage medium. The storage medium can be provided at least partially as a non-volatile data storage device (e.g. as a flash memory and/or as an SSD - solid state drive) and/or at least partially as a volatile data storage device (e.g. as a RAM - random access memory).
Zum Erzeugen des Abbilds kann die Umgebungskamera eine Recheneinrichtung umfassen. Die Recheneinrichtung kann die gespeicherten Bilddaten abrufen und in geeigneter Weise verarbeiten. Die entsprechende Verarbeitung zum Beispiel zum Zusammensetzen von Teilbildern (hier den Spiegelbildern) zu einem Gesamtbild (hier dem Abbild) ist an sich bekannt. Die Recheneinrichtung kann eine Datenverarbeitungseinrichtung oder eine Prozessoreinrichtung aufweisen. Die Prozessoreinrichtung kann hierzu zumindest einen Mikroprozessor und/oder zumindest einen Mikrocontroller und/oder zumindest einen FPGA (Field Programmable Gate Array) und/oder zumindest einen DSP (Digital Signal Processor) aufweisen. Die Prozessoreinrichtung kann z.B. auf zumindest einer Schaltungsplatine und/oder auf zumindest einem SoC (System on Chip) basieren.To generate the image, the environment camera can comprise a computing device. The computing device can process the stored image retrieve data and process it in a suitable manner. The corresponding processing, for example for assembling partial images (here the mirror images) to form an overall image (here the image), is known per se. The computing device can have a data processing device or a processor device. The processor device can have at least one microprocessor and/or at least one microcontroller and/or at least one FPGA (Field Programmable Gate Array) and/or at least one DSP (Digital Signal Processor). The processor device can be based on at least one circuit board and/or on at least one SoC (System on Chip).
Das Fahrzeug ist bevorzugt als Kraftfahrzeug, insbesondere als Kraftwagen, vorzugsweise als Personenkraftwagen oder Personenbus oder Motorrad ausgestaltet.The vehicle is preferably designed as a motor vehicle, in particular as a motor car, preferably as a passenger car or passenger bus or motorcycle.
Zu der Erfindung gehören Ausführungsformen, durch die sich zusätzliche Vorteile ergeben.The invention includes embodiments which provide additional advantages.
Gemäß einer Ausführungsform umfasst das Fahrzeug eine Auswerteelektronik, die zumindest ausgebildet ist, unter Anwenden eines Umgebungserkennungsalgorithmus ein Objekt in der Umgebung und/oder einen Zustand der Umgebung aus dem Abbild zu ermitteln. Die Auswerteelektronik ist weiterhin ausgebildet, in Abhängigkeit von dem erkannten Objekt und/oder Zustand zumindest ein Fahrerassistenzsystem, insbesondere einen Fahrzeugaktor des Fahrzeugs zum Ausführen einer vordefinierten Fahrerassistenzfunktion mit einem Steuersignal anzusteuern.According to one embodiment, the vehicle comprises evaluation electronics which are at least designed to determine an object in the environment and/or a state of the environment from the image using an environment recognition algorithm. The evaluation electronics are further designed to control at least one driver assistance system, in particular a vehicle actuator of the vehicle, with a control signal to carry out a predefined driver assistance function, depending on the recognized object and/or state.
Das heißt, das Abbild kann zur Unterstützung oder zum Assistieren eines Fahrers des Fahrzeugs verwendet werden. Dazu kann die Auswerteelektronik den Umgebungserkennungsalgorithmus auf die gespeicherten Bilddaten anwenden, also die Bilddaten in Abhängigkeit von dem Umgebungserkennungsalgorithmus auswerten. Das Ergebnis des Auswertens ist das Steuersignal, mit dem das Fahrerassistenzsystem beaufschlagt wird. Das Steuersignal kann zum Beispiel einen Befehl zum Aktivieren oder Deaktivieren eines Fahrzeugaktors oder Fahrzeugsensors und/oder eine vorbestimmte Fahrzeugeinstellung umfassen. Beim oder durch das Beaufschlagen mit dem Steuersignal führt das Fahrerassistenzsystem die Fahrerassistenzfunktion aus oder durch.This means that the image can be used to support or assist a driver of the vehicle. To do this, the evaluation electronics can apply the environment recognition algorithm to the stored image data, i.e. evaluate the image data depending on the environment recognition algorithm. The result of the evaluation is the control signal that is applied to the driver assistance system. The control signal can, for example, include a command to activate or deactivate a vehicle actuator or vehicle sensor and/or a predetermined vehicle setting. When or by applying the control signal, the driver assistance system executes or carries out the driver assistance function.
Bei dem Umgebungserkennungsalgorithmus handelt es sich zum Beispiel um einen Algorithmus zur automatischen visuellen Wahrnehmung (Computer-Vision-Algorithmus) oder einen Algorithmus zum maschinellen Sehen (Machine-Vision-Algorithmus). Beim Ausführen oder Anwenden des Algorithmus kann computerimplementiert automatisch eine visuelle Wahrnehmungsaufgabe durchgeführt oder ausgeführt werden. Es geht dabei insbesondere um die Extraktion von visuellen Informationen aus Bilddaten. Eine Unterstützung eines Menschen ist dazu nicht erforderlich. Der Umgebungserkennungsalgorithmus kann dazu bevorzugt einen Bildverarbeitungsalgorithmus oder einen Algorithmus zur Bildanalyse enthalten. Vorzugweise kann der Umgebungserkennungsalgorithmus durch maschinelles Lernen trainiert sein oder werden und kann beispielsweise auf einem künstlichen neuronalen Netz, insbesondere einem faltenden neuronalen Netz, basieren.The environment recognition algorithm is, for example, an algorithm for automatic visual perception (computer vision algorithm) or an algorithm for machine vision (machine vision algorithm). When executing or applying the algorithm, a visual perception task can be carried out or executed automatically by a computer. This particularly involves the extraction of visual information from image data. Human support is not required for this. The environment recognition algorithm can preferably contain an image processing algorithm or an algorithm for image analysis. The environment recognition algorithm can preferably be trained by machine learning and can be based, for example, on an artificial neural network, in particular a convolutional neural network.
Mit dem Umgebungserkennungsalgorithmus können verschiedenen Wahrnehmungsaufgaben automatisch realisiert oder umgesetzt werden. Dazu können zum Beispiel die Objekterkennung und/oder die Zustandserkennung zählen. Zusätzlich oder alternative Wahrnehmungsaufgaben können eine Hinderniserkennung, eine Objektverfolgung, eine Klassifizierung, eine semantischen Segmentierung, eine Abstandsermittlung und/oder eine Tiefenschätzung umfassen. Die Umsetzung und Ausführung von Algorithmen für die entsprechenden Wahrnehmungsaufgaben sind an sich bekannt.With the environment recognition algorithm, various perception tasks can be realized or implemented automatically. These can include, for example, object recognition and/or state recognition. Additional or alternative perception tasks can include obstacle detection, object tracking, classification, semantic segmentation, distance determination and/or depth estimation. The implementation and execution of algorithms for the corresponding perception tasks are known per se.
Das Ergebnis oder die Ausgabe eines Algorithmus zur automatischen Wahrnehmung ist abhängig von der spezifischen zugrundeliegenden Wahrnehmungsaufgabe. Beispielsweise kann die Ausgabe eines Objekterkennungsalgorithmus eine oder mehrere Begrenzungsboxen enthalten, die eine räumliche Position und optional eine Orientierung eines oder mehrerer entsprechender Objekte in der Umgebung und über entsprechende Objektklassen für das eine oder die mehreren Objekte definieren. Die Ausgabe eines Zustandserkennungsalgorithmus kann zum Beispiel ein Zustand oder eine Eigenschaft eines Objekts in der Umgebung oder der Umgebung selbst sein. Der Zustand kann zum Beispiel eine Witterungsbedingung, eine Helligkeit und/oder eine Temperatur sein.The result or output of an automatic perception algorithm depends on the specific underlying perception task. For example, the output of an object detection algorithm may include one or more bounding boxes defining a spatial position and optionally an orientation of one or more corresponding objects in the environment and, via corresponding object classes for the one or more objects. The output of a state detection algorithm may, for example, be a state or property of an object in the environment or of the environment itself. The state may, for example, be a weather condition, a brightness and/or a temperature.
Die jeweilige Ausgabe kann verwendet werden, um das Fahrerassistenzsystem des Fahrzeugs anzusteuern oder zu betreiben. Das Fahrerassistenzsystem kann zum Beispiel ein elektronisches Fahrzeugführungssystem sein, das insbesondere einen vollautomatischen oder vollautonomen Fahrmodus oder teilautomatischen oder teilautonomen Fahrmodus des Fahrzeugs nach Stufe 1 bis 5 der Klassifizierung gemäß SAE J3016 implementiert. Vorzugsweise kann das Fahrerassistenzsystem als Einparkhilfe oder Navigationshilfe realisiert sein. Die Assistenzfunktion kann zum Beispiel due Ausgabe eines akustischen und/oder optischen Warnsignals zur Abstandswarnung für den Fahrer enthalten. Beispielsweise kann einem Insassen des Fahrzeugs auf einem Display oder Bildschirm das Abbild angezeigt werden.The respective output can be used to control or operate the driver assistance system of the vehicle. The driver assistance system can be, for example, an electronic vehicle guidance system that implements in particular a fully automatic or fully autonomous driving mode or a partially automatic or partially autonomous driving mode of the vehicle according to level 1 to 5 of the classification according to SAE J3016. The driver assistance system can preferably be implemented as a parking aid or navigation aid. The assistance function can, for example, include the output of an acoustic and/or optical warning signal to warn the driver of the distance. For example, a vehicle occupant can be warned of The image can be shown on a display or screen.
Die Auswerteelektronik kann zum Beispiel eine Datenverarbeitungseinrichtung oder Prozessoreinrichtung aufweisen, wie sie zum Beispiel zuvor im Zusammenhang mit der Recheneinrichtung der Umgebungskamera beschrieben worden sind. Die Auswerteelektronik kann zum Beispiel von der Umgebungskamera, insbesondere der Recheneinrichtung, umfasst sein. Alternativ kann die Auswerteelektronik durch eine zu der Recheneinrichtung separate Prozessoreinrichtung realisiert sein.The evaluation electronics can, for example, have a data processing device or processor device, such as those described above in connection with the computing device of the environmental camera. The evaluation electronics can, for example, be included in the environmental camera, in particular the computing device. Alternatively, the evaluation electronics can be implemented by a processor device that is separate from the computing device.
Gemäß einer Ausführungsform ist die Auswerteelektronik unter Anwendung des Umgebungserkennungsalgorithmus dazu ausgebildet, einen Wetterzustand der Umgebung zu ermitteln und in Abhängigkeit von dem Wetterzustand einen Scheibenwischer und/oder eine Sonnenblende des Fahrzeugs mit dem Steuersignal anzusteuern. Zusätzlich oder alternativ ist die Auswerteelektronik ausgebildet, unter Anwendung des Umgebungserkennungsalgorithmus einen Helligkeitswert in der Umgebung zu ermitteln und in Abhängigkeit von dem Helligkeitswert eine Fahrzeugbeleuchtungseinrichtung mit dem Steuersignal anzusteuern.According to one embodiment, the evaluation electronics are designed to use the environment recognition algorithm to determine a weather condition in the environment and, depending on the weather condition, to control a windshield wiper and/or a sun visor of the vehicle with the control signal. Additionally or alternatively, the evaluation electronics are designed to use the environment recognition algorithm to determine a brightness value in the environment and, depending on the brightness value, to control a vehicle lighting device with the control signal.
Hierdurch ergibt sich der Vorteil, dass zum Beispiel auf zusätzliche Regensensoren oder Helligkeitssensoren am Fahrzeug für die Umgebungserfassung verzichtet werden kann. Stattdessen erfolgt die Zustandserfassung bezüglich des Wetters oder der Tageszeit mittels der Kameravorrichtung. Die entsprechenden Fahrzeugaktoren, wie zum Beispiel der Scheibenwischer, die Sonnenblende oder die Fahrzeugbeleuchtungseinrichtung können daraufhin automatisch aktiviert oder deaktiviert werden. Bei der Fahrzeugbeleuchtungseinrichtung kann es sich zum Beispiel um eine Fahrbahnbeleuchtung oder eine Innenraumbeleuchtung des Fahrzeugs handeln.This has the advantage that, for example, additional rain sensors or brightness sensors on the vehicle for environmental detection are not required. Instead, the status of the weather or the time of day is recorded using the camera device. The corresponding vehicle actuators, such as the windshield wiper, sun visor or vehicle lighting system, can then be automatically activated or deactivated. The vehicle lighting system can be, for example, road lighting or interior lighting in the vehicle.
Erfindungsgemäß umfasst die Lichtumlenkeinrichtung eine Vielzahl von Spiegelelementen. Das heißt, die Lichtumlenkeinrichtung umfasst zum Beispiel zwei oder mehr, insbesondere drei oder mehr, vorzugsweise fünf oder mehr Spiegelelemente. Die Vielzahl von Spiegelelementen ist relativ zu einer Fahrzeughochachse rundum an dem Fahrzeug angeordnet. Die Positionen der Spiegelelemente sind dabei derart gewählt, dass die Umgebungskamera ausgebildet ist, ein Abbild der Umgebung zu erfassen, das eine Rundumsicht um das Fahrzeug repräsentiert. Anders ausgedrückt, kann der Sichtbereich oder Erfassungsbereich der Kameravorrichtung somit zum Beispiel mindestens 270 Grad bis 360 Grad Rundumsicht um die Fahrzeughochachse des Fahrzeugs abdecken. So kann sichergestellt werden, dass relevante Objekte beim Durchführen von Fahrmanövern in der gesamten Umgebung des Fahrzeugs ausreichend erkannt werden.According to the invention, the light deflection device comprises a plurality of mirror elements. This means that the light deflection device comprises, for example, two or more, in particular three or more, preferably five or more mirror elements. The plurality of mirror elements is arranged all around the vehicle relative to a vehicle vertical axis. The positions of the mirror elements are selected such that the surroundings camera is designed to capture an image of the surroundings that represents an all-round view around the vehicle. In other words, the field of view or detection range of the camera device can thus cover, for example, at least 270 degrees to 360 degrees of all-round visibility around the vehicle's vertical axis. This ensures that relevant objects are adequately recognized in the entire area surrounding the vehicle when carrying out driving maneuvers.
Gemäß einer Ausführungsform ist die Auswerteelektronik ausgebildet, aus dem Abbild der Rundumsicht eine Repräsentation oder Darstellung des Fahrzeugs und eines vorgegebenen Umgebungsbereichs in der Umgebung aus einer Vogelperspektive, also ein Überkopfbild, zu ermitteln oder synthetisieren. Zudem ist die Auswerteelektronik ausgebildet, einen Abstand zu einem jeweiligen Objekt in dem Umgebungsbereich zu ermitteln und eine Anzeigeeinrichtung des Fahrzeugs zum Darstellen der Repräsentation mit dem Steuersignal anzusteuern. According to one embodiment, the evaluation electronics are designed to determine or synthesize a representation or image of the vehicle and a predetermined surrounding area in the environment from a bird's eye view, i.e. an overhead image, from the image of the all-round view. In addition, the evaluation electronics are designed to determine a distance to a respective object in the surrounding area and to control a display device of the vehicle to display the representation with the control signal.
Die Auswerteelektronik kann somit die Rundumsicht in eine Draufsicht auf das Fahrzeug in Richtung der Fahrzeughochachse transformieren. Es kann dadurch die Funktion der eingangs genannten Top-View-Kamera nachgebildet werden. Das Darstellen der Repräsentation, die zum Beispiel einen Umriss des Fahrzeugs mit dem Umgebungsbereich schematisch darstellt, kann zum Beispiel auf einem Bildschirm oder Display erfolgen. Bei dem Bildschirm kann es sich zum Beispiel um einen LCD-Bildschirm (Flüssigkristallbildschirm) oder einen OLED-Bildschirm handeln (OLED: Organic Light Emitting Diode, organische lichtemittierende Diode).The evaluation electronics can thus transform the all-round view into a top view of the vehicle in the direction of the vehicle's vertical axis. This can simulate the function of the top-view camera mentioned above. The representation, which schematically shows an outline of the vehicle with the surrounding area, can be shown on a screen or display, for example. The screen can be an LCD screen (liquid crystal screen) or an OLED screen (OLED: Organic Light Emitting Diode).
Erfindungsgemäß weisen die zumindest zwei Spiegelelemente eine kipp- und/oder schwenkbare Oberfläche auf. Zusätzlich oder alternativ ist die Umgebungskamera kipp- und/oder schwenkbaren implementiert. Die Lichtumlenkeinrichtung weist dazu eine Verstelleinheit zum Kippen und/oder Schwenken des jeweiligen Spiegelelements und/oder der Umgebungskamera auf. Die Verstelleinheit kann dazu zum Beispiel einen Elektromotor oder Schrittmotor umfassen.According to the invention, the at least two mirror elements have a tiltable and/or pivotable surface. Additionally or alternatively, the surrounding camera is implemented in a tiltable and/or pivotable manner. The light deflection device has an adjustment unit for tilting and/or pivoting the respective mirror element and/or the surrounding camera. The adjustment unit can comprise an electric motor or stepper motor, for example.
Hierdurch ergibt sich der Vorteil, dass die Umgebungskamera beziehungsweise die Spiegelelemente bei Bedarf ausgerichtet werden können, um einen gewünschten Umgebungsbereich zu erfassen. Durch das Bewegen, also das Kippen oder Schwenken, kann so zum Beispiel ein Sichtwinkel oder eine Perspektive der Umgebungskamera zum Erfassen der Umgebung angepasst werden. So kann das Sichtfeld oder der abbildbare Bereich der Abbildung erweitert oder verändert werden.This has the advantage that the environment camera or the mirror elements can be aligned as required to capture a desired area of the environment. By moving, i.e. tilting or swiveling, the viewing angle or perspective of the environment camera can be adjusted to capture the environment. In this way, the field of view or the area that can be captured can be expanded or changed.
Die Spiegelelemente können hierzu zum Beispiel als mikroelektromechanisches System (MEMS) ausgestaltet sein. Bevorzugt ist die Verstelleinheit ausgebildet, durch das Bewegen einen Erfassungsbereich der Umgebungskamera zum Erfassen des jeweiligen Lichtanteils auf eines oder mehrere der Spiegelelemente auszurichten. Vorzugsweise kann die Umgebungskamera so bewegt werden, dass die Lichtanteile der Spiegelelemente zeitlich nacheinander erfasst werden. So kann zum Beispiel die Auflösung des resultierenden Abbilds verbessert werden, da ein Bildsensor der Umgebungskamera zu jedem Zeitpunkt nur für das Spiegelbild eines der Spiegelelemente verwendet wird.For this purpose, the mirror elements can be designed as a microelectromechanical system (MEMS), for example. The adjustment unit is preferably designed to align a detection area of the environmental camera for detecting the respective light component onto one or more of the mirror elements by moving it. the environment camera can be moved in such a way that the light components of the mirror elements are recorded one after the other. For example, the resolution of the resulting image can be improved because an image sensor of the environment camera is only used for the mirror image of one of the mirror elements at any given time.
Gemäß einer Ausführungsform ist die Auswerteelektronik ausgebildet, die jeweilige Verstelleinheit, also die Verstelleinheit der Spiegelelemente oder die Verstelleinheit der Umgebungskamera, abhängig von dem erkannten Objekt und/oder Zustand und/oder einem Fahrmanöver des Fahrzeugs zum Erfassen eines vordefinierten Umgebungsabschnitts in der Umgebung anzusteuern. Es kann somit von einem aktuell sichtbaren Umgebungsbereich auf einen unterschiedlichen Umgebungsabschnitt oder Umgebungsbereich umgeschwenkt werden. Der Umgebungsabschnitt und der aktuelle Umgebungsbereich können sich vorzugsweise zumindest teilweise überlappen oder vollständig getrennte Abschnitte ausbilden.According to one embodiment, the evaluation electronics are designed to control the respective adjustment unit, i.e. the adjustment unit of the mirror elements or the adjustment unit of the surroundings camera, depending on the detected object and/or state and/or a driving maneuver of the vehicle in order to capture a predefined environmental section in the environment. It is thus possible to switch from a currently visible environmental area to a different environmental section or environmental area. The environmental section and the current environmental area can preferably overlap at least partially or form completely separate sections.
Das Bewegen kann zum Beispiel dann vorteilhaft sein, wenn das Objekt/der Zustand auf Basis des aktuell erfassten Umgebungsbereichs in der Umgebung nicht ausreichend klassifiziert oder bestimmt werden kann. Zusätzlich oder alternativ können für ein Fahrmanöver, wie zum Beispiel fürs Rückwärtsfahren, die Spiegel oder die Kamera so bewegt werden, dass zum Beispiel ein Fahrbahnrand oder ein Bordstein für den Fahrer sichtbar ist.For example, moving can be advantageous if the object/condition cannot be adequately classified or determined based on the currently detected area of the environment. Additionally or alternatively, for a driving maneuver, such as reversing, the mirrors or camera can be moved so that, for example, the edge of the road or a curb is visible to the driver.
Gemäß einer Ausführungsform ist die Umgebungskamera im Fahrzeuginnenraum an einem Fahrzeugdach angebracht. Das heißt, die Umgebungskamera kann am Fahrzeughimmel in der Fahrerkabine angeordnet oder befestigt sein. Vorzugsweise kann es sich bei der Umgebungskamera um eine 360-Grad-Kamera handeln. Das heißt, die Kamera kann einen 360-Grad-Sichtbereich, vorzugsweise um die Fahrzeughochachse, aufweisen.According to one embodiment, the surroundings camera is mounted on a vehicle roof in the vehicle interior. This means that the surroundings camera can be arranged or attached to the vehicle ceiling in the driver's cabin. The surroundings camera can preferably be a 360-degree camera. This means that the camera can have a 360-degree field of view, preferably around the vehicle's vertical axis.
Gemäß einem Aspekt betrifft die Erfindung auch eine entsprechende Kameravorrichtung zur Umgebungserfassung für ein Fahrzeug. Die Kameravorrichtung umfasst zumindest eine, vorzugsweise genau eine, Umgebungskamera, die zum Anordnen in einem Fahrzeuginnenraum ausgebildet ist. Die Umgebungskamera ist im angeordneten Zustand ausgebildet, ein Abbild der Umgebung des Fahrzeugs zu erfassen. Die Kameravorrichtung umfasst eine Lichtumlenkeinrichtung mit zumindest zwei Spiegelelementen. Die Spiegelelemente sind zum Anordnen an unterschiedlichen Positionen relativ zur Umgebungskamera an dem Fahrzeug ausgebildet. Die Spiegelelemente sind jeweils ausgebildet, im angeordneten Zustand Licht aus der Umgebung des Fahrzeugs zur Umgebungskamera umzulenken oder zu reflektieren. Die Umgebungskamera ist ausgebildet, die vom jeweiligen Spiegelelement umgelenkten Lichtanteile zu erfassen und aus den erfassten Lichtanteilen das Abbild der Umgebung zu erzeugen. Zum Anordnen oder Befestigen der Umgebungskamera und der Spiegelelemente können zum Beispiel geeignete Befestigungsmittel, wie zum Beispiel eine Verschraubung oder ein Verkleben, gewählt werden.According to one aspect, the invention also relates to a corresponding camera device for detecting the environment for a vehicle. The camera device comprises at least one, preferably exactly one, environment camera, which is designed to be arranged in a vehicle interior. The environment camera is designed in the arranged state to capture an image of the environment of the vehicle. The camera device comprises a light deflection device with at least two mirror elements. The mirror elements are designed to be arranged at different positions relative to the environment camera on the vehicle. The mirror elements are each designed to deflect or reflect light from the environment of the vehicle to the environment camera in the arranged state. The environment camera is designed to detect the light components deflected by the respective mirror element and to generate the image of the environment from the detected light components. Suitable fastening means, such as screwing or gluing, can be selected for arranging or fastening the environment camera and the mirror elements.
Gemäß einem Aspekt betrifft die Erfindung ein Verfahren zum Betreiben einer Kameravorrichtung für ein Fahrzeug, wie sie zuvor beschrieben wurde. Analog dazu kann auch ein Verfahren zum Betreiben eines Fahrzeugs mit einer entsprechenden Kameravorrichtung vorgesehen sein. Dabei wird in dem Verfahren mittels der zumindest zwei Spiegelelemente der Lichtumlenkeinrichtung im angeordneten Zustand Licht aus der Umgebung des Fahrzeugs zur Umgebungskamera umgelenkt. Die Umgebungskamera erfasst die von den jeweiligen Spiegelelementen umgelenkten Lichtanteile und erzeugt aus den erfassten Lichtanteilen das Abbild der Umgebung. Zu der Erfindung gehören auch Weiterbildungen des erfindungsgemäßen Verfahrens und der erfindungsgemäßen Kameravorrichtung, die Merkmale aufweisen, wie sie bereits im Zusammenhang mit den Weiterbildungen des erfindungsgemäßen Fahrzeugs beschrieben worden sind. Aus diesem Grund sind die entsprechenden Weiterbildungen des erfindungsgemäßen Verfahrens und der erfindungsgemäßen Kameravorrichtung hier nicht noch einmal beschrieben.According to one aspect, the invention relates to a method for operating a camera device for a vehicle, as described above. Analogously, a method for operating a vehicle with a corresponding camera device can also be provided. In the method, light from the surroundings of the vehicle is redirected to the surroundings camera by means of the at least two mirror elements of the light redirection device in the arranged state. The surroundings camera detects the light components redirected by the respective mirror elements and generates the image of the surroundings from the detected light components. The invention also includes further developments of the method according to the invention and the camera device according to the invention, which have features as have already been described in connection with the further developments of the vehicle according to the invention. For this reason, the corresponding further developments of the method according to the invention and the camera device according to the invention are not described again here.
Für Anwendungsfälle oder Anwendungssituationen, die sich bei dem Verfahren ergeben können und die hier nicht explizit beschrieben sind, kann vorgesehen sein, dass gemäß dem Verfahren eine Fehlermeldung und/oder eine Aufforderung zur Eingabe einer Nutzerrückmeldung ausgegeben und/oder eine Standardeinstellung und/oder ein vorbestimmter Initialzustand eingestellt wird. For use cases or application situations that may arise during the method and which are not explicitly described here, it may be provided that, in accordance with the method, an error message and/or a request to enter user feedback is issued and/or a default setting and/or a predetermined initial state is set.
Zu der Erfindung gehören auch Weiterbildungen des erfindungsgemäßen Verfahrens und der erfindungsgemäßen Kameravorrichtung, die Merkmale aufweisen, wie sie bereits im Zusammenhang mit den Weiterbildungen des erfindungsgemäßen Fahrzeugs beschrieben worden sind. Aus diesem Grund sind die entsprechenden Weiterbildungen des erfindungsgemäßen Verfahrens und der erfindungsgemäßen Kameravorrichtung hier nicht noch einmal beschrieben.The invention also includes further developments of the method according to the invention and the camera device according to the invention, which have features as have already been described in connection with the further developments of the vehicle according to the invention. For this reason, the corresponding further developments of the method according to the invention and the camera device according to the invention are not described again here.
Die Erfindung umfasst auch die Kombinationen der Merkmale der beschriebenen Ausführungsformen. Die Erfindung umfasst also auch Realisierungen, die jeweils eine Kombination der Merkmale mehrerer der beschriebenen Ausführungsformen aufweisen, sofern die Ausführungsformen nicht als sich gegenseitig ausschließend beschrieben wurden.The invention also includes the combinations of the features of the described embodiments. The invention therefore also includes implementations that each have a combination of the features of several of the described embodiments, provided that the embodiments are not were described as mutually exclusive.
Im Folgenden sind Ausführungsbeispiele der Erfindung beschrieben. Hierzu zeigt:
-
1 eine schematische Darstellung eines Fahrzeugs mit einer Kameravorrichtung zur Umgebungserfassung aus einer Seitansicht; -
2 eine schematische Darstellung des Fahrzeugs aus einer Vogelperspektive; und -
3 ein schematisches Verfahrensablaufdiagramm für ein Verfahren zum Betreiben der Kameravorrichtung.
-
1 a schematic representation of a vehicle with a camera device for detecting the environment from a side view; -
2 a schematic representation of the vehicle from a bird's eye view; and -
3 a schematic process flow diagram for a method for operating the camera device.
Bei den im Folgenden erläuterten Ausführungsbeispielen handelt es sich um bevorzugte Ausführungsformen der Erfindung. Bei den Ausführungsbeispielen stellen die beschriebenen Komponenten der Ausführungsformen jeweils einzelne, unabhängig voneinander zu betrachtende Merkmale der Erfindung dar, welche die Erfindung jeweils auch unabhängig voneinander weiterbilden. Daher soll die Offenbarung auch andere als die dargestellten Kombinationen der Merkmale der Ausführungsformen umfassen. Des Weiteren sind die beschriebenen Ausführungsformen auch durch weitere der bereits beschriebenen Merkmale der Erfindung ergänzbar.The exemplary embodiments explained below are preferred embodiments of the invention. In the exemplary embodiments, the components of the embodiments described each represent individual features of the invention that are to be considered independently of one another and which also develop the invention independently of one another. Therefore, the disclosure should also include combinations of the features of the embodiments other than those shown. Furthermore, the described embodiments can also be supplemented by other features of the invention already described.
In den Figuren bezeichnen gleiche Bezugszeichen jeweils funktionsgleiche Elemente.In the figures, identical reference symbols designate functionally identical elements.
Im Ausführungsbeispiel gemäß
Die Kameravorrichtung 10 umfasst auch eine Lichtumlenkeinrichtung 12. Die Lichtumlenkeinrichtung 12 umfasst zumindest zwei Spiegelelemente 13. Im Ausführungsbeispiel in
Die Spiegelelemente 13 sind an unterschiedlichen Positionen relativ zur Umgebungskamera 11 an dem Fahrzeug 1 angeordnet. Bei den Spiegelelementen 13 handelt es sich zum Beispiel um Planspiegel. Die Spiegelelemente 13 können im Fahrzeuginnenraum I oder außen am Fahrzeug 1, also zum Beispiel an einer Außenhaut oder Oberfläche des Fahrzeugs 1 befestigt sein. Im vorliegenden Ausführungsbeispiel sind die Spiegelelemente 13 zum Beispiel im Fahrzeuginnenraum I im unteren Randbereich der zwei in
Vorzugsweise weist die Umgebungskamera 11 hierfür eine Recheneinrichtung auf. Die Recheneinrichtung kann dazu zum Beispiel einen Mikroprozessor oder Mikrocontroller umfassen. Das heißt, die Recheneinrichtung kann die Spiegelbilder zu dem Abbild zusammensetzen oder zusammenfügen. Abhängig von den bekannten Positionen der Spiegelelemente 13 zu der Umgebungskamera 11 kann die Recheneinrichtung somit ein Abbild der Umgebung synthetisieren oder berechnen, das einen größeren oder weiteren Sichtbereich oder Erfassungsbereich der Umgebung U abdeckt, als zum Beispiel ein Sichtbereich oder Erfassungsbereich der Kamera alleine ist.The
Mit dem erfassten Abbild kann nun eine Fahrerassistenzfunktion für einen Insassen oder Fahrer des Fahrzeugs 1 umgesetzt werden. Dazu umfasst das Fahrzeug 1 eine Auswerteelektronik 20. Die Auswerteelektronik kann zum Beispiel einen Mikroprozessor oder Mikrocontroller umfassen. Die Auswerteelektronik 20 kann zum Beispiel von der Recheneinrichtung der Umgebungskamera 11 umfasst sein. Im vorliegenden Ausführungsbeispiel handelt es sich bei der Auswerteelektronik um eine separate Datenverarbeitungseinrichtung oder Prozessoreinrichtung zu der Recheneinrichtung. Zum Beispiel kann die Auswerteelektronik von einem zentralen Bordcomputer oder einer elektronischen Steuereinheit (ECU) des Fahrzeugs 1 umfasst sein.The captured image can now be used to implement a driver assistance function for an occupant or driver of the vehicle 1. For this purpose, the vehicle 1 comprises an
Die Auswerteelektronik 20 ist dazu ausgebildet, einen Umgebungserkennungsalgorithmus auf das Abbild der Umgebung U anzuwenden. Bei dem Umgebungserkennungsalgorithmus kann es sich zum Beispiel um eine Software oder um Programmcode handeln, bei dessen Ausführung durch einen Prozessor automatisch eine vorbestimmte visuelle Wahrnehmungsaufgabe durchgeführt wird. Dabei kann es sich zum Beispiel um eine Bildanalyse des Abbilds der Umgebung U handeln. Solche Algorithmen zur automatischen visuellen Wahrnehmung sind hinreichend bekannt.The
Die Ausgabe oder das Ergebnis des Algorithmus kann zum Beispiel die Klassifikation oder Identifikation eines Objekts in der Umgebung U sein. Im vorliegenden Ausführungsbeispiel handelt es sich bei der Ausgabe zum Beispiel um einen Zustand der Umgebung U. Das heißt, die Auswerteelektronik 20 unter Anwendung des Umgebungserkennungsalgorithmus einen Zustand der Umgebung U aus dem Abbild ermitteln.The output or result of the algorithm can be, for example, the classification or identification of an object in the environment U. In the present embodiment, the output is, for example, a state of the environment U. This means that the
Im vorliegenden Ausführungsbeispiel handelt es sich bei dem zu ermittelnden Zustand um eine Witterungsbedingung W oder ein Wettereinfluss. Im Ausführungsbeispiel regnet es zum Beispiel gerade. Die Wahrnehmungsaufgabe der Auswerteelektronik 20 besteht somit darin, das Vorhandensein von Regen zu erkennen. Dass es regnet, kann die Auswerteelektronik 20 aus dem Abbild zum Beispiel anhand von Lichtreflexionswerten oder Streulichtwerten ermitteln. Alternativ kann zum Beispiel eine Objekterkennung zum Erkennen von Regentropfen auf einer Fahrzeugscheibe oder in der Umgebung U durchgeführt werden.In the present exemplary embodiment, the state to be determined is a weather condition W or a weather influence. In the exemplary embodiment, for example, it is currently raining. The perception task of the
Abhängig vom erkannten Wetterzustand W, soll zumindest ein Fahrerassistenzsystem, insbesondere ein Fahrzeugaktor, des Fahrzeugs 1 zum Ausführen einer vordefinierten Fahrerassistenzfunktion mit einem Steuersignal S angesteuert werden. Durch das Ansteuern mit dem Steuersignal S kann das Fahrerassistenzsystem aktiviert oder deaktiviert werden oder eine Einstellung eines Fahrzeugparameters angepasst. Vorliegend handelt es sich bei dem Fahrerassistenzsystem, insbesondere bei dem Fahrzeugaktor, zum Beispiel um einen Scheibenwischer 21. Der Scheibenwischer 21 kann durch Beaufschlagen mit dem Steuersignal S aktiviert oder deaktiviert werden. Oder es kann als ein Einstellwert zum Beispiel eine Wischfrequenz angepasst werden.Depending on the detected weather condition W, at least one driver assistance system, in particular a vehicle actuator, of the vehicle 1 is to be controlled with a control signal S to carry out a predefined driver assistance function. By controlling with the control signal S, the driver assistance system can be activated or deactivated or a setting of a vehicle parameter can be adjusted. In the present case, the driver assistance system, in particular the vehicle actuator, is, for example, a
Erkennt die Auswerteelektronik nun zum Beispiel aus dem Abbild, dass es regnet, kann sie ein Steuersignal S an den Scheibenwischer 21 bereitstellen, der den Scheibenwischer aktiviert. Der Scheibenwischer 21 wird daraufhin die Scheibe wischen und so die Sicht für den Fahrer freihalten.If the evaluation electronics now recognizes from the image, for example, that it is raining, it can provide a control signal S to the
Als weiteren optionalen Fahrzeugaktor zeigt
Ein anderer steuerbarer Fahrzeugaktor kann zum Beispiel eine Sonnenblende sein, die auch Streulichtblende oder Gegenlichtblendegenannt wird. Diese könnte zum Beispiel angesteuert werden, wenn die Auswerteelektronik 20 beim Auswerten des Abbilds potentiell für den Fahrer blendenden Sonnenschein ermittelt.Another controllable vehicle actuator can be, for example, a sun visor, which is also called a lens hood or lens hood. This could be controlled, for example, if the
Ein weiteres Beispiel für ein steuerbares Fahrerassistenzsystem ist eine Anzeigeeinrichtung, mit der zum Beispiel eine Rundumsicht um das Fahrzeug 1 für den Fahrer dargestellt oder angezeigt werden kann. Die Anzeigeeinrichtung kann dabei zum Beispiel Teil eines Einparkassistenten für das Fahrzeug 1 sein. Ein Ausführungsbeispiel betreffend die Ansteuerung einer Anzeigeeinrichtung ist im späteren Verlauf anhand von
Zum Ausführen des Umgebungserkennungsalgorithmus kann die Auswerteelektronik 20 zum Beispiel als künstliche Intelligenz implementiert sein. Dazu kann die Auswerteelektronik 20 zum Beispiel ein künstliches neuronales Netzwerk, insbesondere ein faltendes neuronales Netzwerk, aufweisen, das mit entsprechenden Trainingsdaten trainiert wurde. Zum Erkennen von verschiedenen Witterungsbedingungen können zum Beispiel unterschiedliche Wetterszenarien als Trainingsdaten für das neuronale Netzwerk verwendet werden.To execute the environment detection algorithm, the
Wie in
Die Auswerteelektronik 2 kann das Abbild der Rundumsicht zum Beispiel nutzen, um eine Repräsentation oder Darstellung des Fahrzeugs und eines vorgegebenen Umgebungsbereichs in der Umgebung U aus einer Vogelperspektive, also der in
Vorzugsweise sind die Spiegelelemente 13 und/oder die Umgebungskamera 11 bewegbar, insbesondere kipp- oder schwenkbar, implementiert. Dazu kann eine entsprechende Verstelleinheit, zum Beispiel mit einem Elektromotor, mit der Umgebungskamera 11 oder mit dem jeweiligen Spiegelelement gekoppelt sein. Durch das bewegen oder verstellen können unterschiedliche Perspektiven der Umgebung U mittels jedes der Spiegelelemente 13 für die Umgebungskamera 11 erfasst werden. Dadurch kann zum Beispiel bei Bedarf durch das Verstellen ein Perspektivwechsel durchgeführt werden, sodass ein anderer oder interessanterer Umgebungsbereich erfasst wird. Das Verstellen kann zum Beispiel durch die Auswerteelektronik abhängig von dem erkannten Objekt oder Zustand in der Umgebung U oder von einem Fahrmanöver durchgeführt werden. Zum Beispiel können so die Spiegelelemente 13 beim Rückwärtsfahren zum Erfassen eines Bordsteins oder Fahrbahnrands nach unten, also in Richtung Fahrbahn, verstellt werden. So kann der Bordstein als Hindernis für das Fahrzeug 1 berücksichtigt werden.The
Insgesamt zeigen die Ausführungsbeispiele, wie eine Vogelperspektive oder Rundumsicht um ein Fahrzeug mit einer einzigen fahrzeuginternen Kamera realisiert werden kann.Overall, the examples show how a bird's eye view or all-round view around a vehicle can be realized with a single in-vehicle camera.
Claims (8)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102023112476.5A DE102023112476B3 (en) | 2023-05-11 | 2023-05-11 | Camera device for detecting the environment, vehicle with such a camera device and associated operating method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102023112476.5A DE102023112476B3 (en) | 2023-05-11 | 2023-05-11 | Camera device for detecting the environment, vehicle with such a camera device and associated operating method |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102023112476B3 true DE102023112476B3 (en) | 2024-04-18 |
Family
ID=90469070
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102023112476.5A Active DE102023112476B3 (en) | 2023-05-11 | 2023-05-11 | Camera device for detecting the environment, vehicle with such a camera device and associated operating method |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102023112476B3 (en) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE10323560A1 (en) | 2003-05-26 | 2004-12-23 | Robert Bosch Gmbh | Camera for detecting brightness around a motor vehicle has a video image sensor to pick up light reflected from a mirror |
DE102007017038A1 (en) | 2006-04-12 | 2007-10-18 | Toyota Jidosha Kabushiki Kaisha, Toyota | Vehicle surrounding monitoring system, has image synthesizing section reducing degree of visibility of display area, which belongs to previous image, in accordance with time after taking up of previous picture |
EP2303639B1 (en) | 2008-06-23 | 2011-10-19 | Nxp B.V. | Vehicle mirror adjustment method and system |
DE102010043479A1 (en) | 2010-11-05 | 2012-05-10 | Robert Bosch Gmbh | Camera arrangement and method for operating a camera arrangement for a motor vehicle |
DE102016014837A1 (en) | 2016-12-14 | 2017-07-06 | Daimler Ag | Environmental detection device for a vehicle |
US20170349099A1 (en) | 2016-06-02 | 2017-12-07 | Magna Electronics Inc. | Vehicle display system with user input display |
-
2023
- 2023-05-11 DE DE102023112476.5A patent/DE102023112476B3/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE10323560A1 (en) | 2003-05-26 | 2004-12-23 | Robert Bosch Gmbh | Camera for detecting brightness around a motor vehicle has a video image sensor to pick up light reflected from a mirror |
DE102007017038A1 (en) | 2006-04-12 | 2007-10-18 | Toyota Jidosha Kabushiki Kaisha, Toyota | Vehicle surrounding monitoring system, has image synthesizing section reducing degree of visibility of display area, which belongs to previous image, in accordance with time after taking up of previous picture |
EP2303639B1 (en) | 2008-06-23 | 2011-10-19 | Nxp B.V. | Vehicle mirror adjustment method and system |
DE102010043479A1 (en) | 2010-11-05 | 2012-05-10 | Robert Bosch Gmbh | Camera arrangement and method for operating a camera arrangement for a motor vehicle |
US20170349099A1 (en) | 2016-06-02 | 2017-12-07 | Magna Electronics Inc. | Vehicle display system with user input display |
DE102016014837A1 (en) | 2016-12-14 | 2017-07-06 | Daimler Ag | Environmental detection device for a vehicle |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2755859B1 (en) | Method and device for an assist system in a vehicle for carrying out an autonomous or semi-autonomous driving maneuver | |
EP3024700B1 (en) | Method and device for reproducing a lateral and/or rear surrounding area of a vehicle | |
DE102008028303A1 (en) | Display system and program | |
DE102012022336A1 (en) | Method for carrying out an at least semi-autonomous parking operation of a motor vehicle in a garage, parking assistance system and motor vehicle | |
DE102005045017A1 (en) | Method and driver assistance system for sensor-based approach control of a motor vehicle | |
DE19801884A1 (en) | CCTV monitoring system for blind spots around motor vehicle | |
DE102009010614A1 (en) | Vehicular display apparatus | |
EP3437929A1 (en) | Visual system with visual field/view area display depending on the driving situation | |
DE102009002979A1 (en) | Projection display device for vehicles, comprises sensor units formed to generate projection data from sensor values and location information, where control unit is formed to perform filtering of projection data | |
DE102018002955A1 (en) | PROCESS AND CONTROL ARRANGEMENT FOR ENVIRONMENTAL PERCEPTION | |
DE102017223160B4 (en) | Method for detecting at least one object lying on a motor vehicle and control device and motor vehicle | |
DE102012012501A1 (en) | Camera system for a motor vehicle | |
DE102007055182A1 (en) | Driver assistance system for e.g. sports vehicle, has cameras arranged in external area of vehicle e.g. sports vehicle, and monitor arranged in vehicle interior, where cameras are aligned with visual contact to side of vehicle | |
DE102014019420A1 (en) | Motor vehicle headlight system, motor vehicle, method for operating a motor vehicle headlight system and computer program product | |
EP2774815A1 (en) | Viewing system and vehicle equipped with it | |
DE102016223232A1 (en) | Motor vehicle with automatic driving light control | |
DE102007049877A1 (en) | Sensor module and operating method for this | |
DE102006037600A1 (en) | Method for resolution based representation of ambience of motor vehicle for use in parking system, involves capturing ambience information from ambience of motor vehicle by image sensor | |
DE102023112476B3 (en) | Camera device for detecting the environment, vehicle with such a camera device and associated operating method | |
DE102006056180A1 (en) | Image processing system calibrating method for motor vehicle, involves detecting and evaluating marking on vehicle pane using image sensor, where characteristics of vehicle pane are determined based on detected marking | |
DE102021205311A1 (en) | Motor vehicle with an assistance system | |
EP1642770A2 (en) | Method for directing a vehicle driver's attention to objects in an image | |
DE102014211869B4 (en) | Method and device as well as computer program and machine-readable storage medium for recognizing at least one object in an environment of a mobile unit | |
DE102013220839B4 (en) | A method of dynamically adjusting a brightness of an image of a rear view display device and a corresponding vehicle imaging system | |
EP3470272A1 (en) | Decorative trim for a vehicle and vehicle with decorative trim |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R012 | Request for examination validly filed | ||
R016 | Response to examination communication | ||
R079 | Amendment of ipc main class |
Free format text: PREVIOUS MAIN CLASS: B60R0001220000 Ipc: B60R0001270000 |
|
R018 | Grant decision by examination section/examining division |