EP1590697A1 - Verfahren und vorrichtung zur sichtbarmachung der umgebung eines fahrzeugs mit umgebungsabh ngiger fusion eines infrarot- und eines visuell-abbilds - Google Patents

Verfahren und vorrichtung zur sichtbarmachung der umgebung eines fahrzeugs mit umgebungsabh ngiger fusion eines infrarot- und eines visuell-abbilds

Info

Publication number
EP1590697A1
EP1590697A1 EP04706661A EP04706661A EP1590697A1 EP 1590697 A1 EP1590697 A1 EP 1590697A1 EP 04706661 A EP04706661 A EP 04706661A EP 04706661 A EP04706661 A EP 04706661A EP 1590697 A1 EP1590697 A1 EP 1590697A1
Authority
EP
European Patent Office
Prior art keywords
image
infrared
vehicle
visual
driving situation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
EP04706661A
Other languages
English (en)
French (fr)
Inventor
Wolfgang Hahn
Thomas Weidner
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bayerische Motoren Werke AG
Original Assignee
Bayerische Motoren Werke AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bayerische Motoren Werke AG filed Critical Bayerische Motoren Werke AG
Publication of EP1590697A1 publication Critical patent/EP1590697A1/de
Withdrawn legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00—Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/12—Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices with means for image conversion or intensification
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/20—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images

Definitions

  • the invention relates to a method and a device for visualizing the surroundings of a vehicle and a calibration device for calibrating the device according to the preamble of the relevant independent claim.
  • An inspection system for a vehicle is known from DE 695 06 174 T2.
  • the system has an infrared camera that generates an infrared image that shows the thermal radiation emanating from people and objects from a section of the surroundings of the vehicle.
  • the infrared image is projected onto the lower part of the windshield via a head-up display, making it visible to the driver.
  • the driver is responsible for assigning people and objects in the infrared image to the traffic situation in front of the driver that can be visually recognized by the windshield. This is difficult and often even impossible in the dark, for which the known system is intended, because the infrared image shows people and objects that the driver cannot visually recognize. A more precise determination of the position of the people and objects that can only be seen in the infrared image is therefore not regularly possible and distracts the driver in a dangerous manner.
  • the object of the invention is, in particular, to provide an improved method and a device for making the surroundings of a vehicle visible, such as, in particular, an improved night vision system.
  • a first essential aspect of the invention consists in the display or visualization of a combination or superimposition of a visual image, hereinafter referred to as a visual image, and an infrared image, hereinafter referred to as an infrared image, of the largely identical section of the surroundings of a vehicle.
  • a visual image hereinafter referred to as a visual image
  • an infrared image hereinafter referred to as an infrared image
  • a second essential aspect is to weight the two spectral components (visual component and infrared component) in relation to each other in the fusion of the respective visual image and the infrared image depending on the specific driving situation.
  • the image created by fusion largely has only the visual information, as a rule an overlay of visual and infrared information
  • the image created by fusion largely has only the infrared information.
  • this vehicle is compared to the fusion of the two spectral components. to highlight the driving environment so that it is compared to the environment stands out more clearly.
  • This can be done, for example, by weighting the two spectral components for the relevant range against the driving environment is changed; in this example, that image section of the fusion image that shows the vehicle immediately ahead.
  • the visual information the infrared information is weighted higher and is thus more clearly shown in the fusion image, whereas in the dark weighting is done the other way round.
  • the vehicle is traveling in a well-lit area, in another embodiment of the invention it is alternatively or additionally provided to compare the visual portion or the visual information.
  • the weighting is alternatively or additionally compared to made the other way around, so that the infrared information or the infrared portion in the fusion image compared. the visual part stands out more clearly.
  • the infrared information from further away objects on dark country roads and / or highways. to emphasize their visual information - in contrast to objects that are less distant from the vehicle - by their higher weighting during the merger.
  • the fusion image presented to the driver on a display may have a higher proportion of visual information in the near range and a higher proportion of infrared information in the far range.
  • the usability of the infrared channel or the infrared information is Normal conditions limited.
  • a rain sensor or a fog sensor can be provided on the vehicle to detect the aforementioned weather conditions. It is also possible to evaluate which vehicle lights are switched on, especially the fog lights.
  • this information can also be supplied by a dynamic navigation system provided in the vehicle, into which the dynamic traffic or weather conditions for the current location of the vehicle or, in particular, foresightedly for the planned travel route are transmitted. This transmission can take place via a mobile radio network or by vehicle-to-vehicle communication.
  • one embodiment of the invention provides that the driver manually set the weighting of the two spectral components to one another in the fusion image and thus to his needs and special circumstances can optimally adapt.
  • a continuous transition from the display of visual information to infrared information and vice versa is provided in one embodiment of the invention. This enables the driver to use the relationship between visual and infrared information and the influence on the fusion image of the driving environment through the shift between the spectral components more easily and quickly in the sense of a faster and more reliable detection of the traffic situation.
  • the driver is alternatively or additionally offered a large number of fusion images for the selection of a fusion image which seems suitable to him, the fusion images offered for selection differing in their ratio of the proportion of visual information to infrared information.
  • a different weighting from visual portion to infrared portion may have been made during the fusion.
  • the visual camera or the first sensor or its optics has a first optical axis and the infrared camera or the second optical sensor or its optics has a second optical axis which are spatially offset from one another. Therefore, the cameras or sensors capture at least partially different sections of the surroundings of the vehicle, i.e. a first and a second section. These are also dependent on the distance. It goes without saying that, according to the invention, more than two infrared cameras or infrared sensors, the sensitivity of which covers different wavelengths, can also be provided and the digital images provided by them can be overlaid or fused to the vehicle environment.
  • the first section and the second section provided are wholly or partially pixelated and / or by an overlay or fusion device be overlaid or merged in some areas.
  • the first section and / or the second section and / or the fusion image or whose immediate or edited digital data are adjusted by at least one adjustment parameter.
  • This or these distance-dependent parameters are preferably determined during the calibration of the camera or sensor system or night vision system according to the invention for at least two distance ranges or distance ranges between the cameras or sensors and a calibration device.
  • An essential goal is to set the adjustment parameter (s) in such a way that the fusion image of objects in the relevant distance range that is created when the images are superimposed or fused is largely free of distortion, in particular free of ghost or double images.
  • the adaptation parameter or parameters are in particular at least one registration or transformation parameter.
  • a similar parameter is e.g. known from the registration of a digital image processing system and thus made overlays of two images.
  • the adjustment parameter or parameters dependent on the driving situation or distance are preferably stored in a data memory in the vehicle during calibration.
  • a first distance range corresponds to a driving situation typical of a city trip, such as in particular a distance range of approximately 15 to 75 m.
  • a second distance range corresponds to a driving situation typical for a country road trip, such as in particular a distance range of approximately 30 to 150 m.
  • a third distance range corresponds to a driving situation typical for a motorway trip, such as in particular a distance range of approximately 50 to 250 m.
  • a further essential aspect of the invention consists in automatically determining the current driving situation of the vehicle and the adaptation parameter or parameters corresponding to the current driving situation or environmental situation, in particular obtained by calibration and stored in the vehicle, for use by the alignment device according to the invention or by to provide the superposition or fusion device.
  • the superimposition or fusion device carries out a pixel and / or area-wise superimposition or fusion of the visual image and the infrared image present in the form of digital data, one or more distance-dependent adaptation parameters of the infrared image and / or influence the visual image and / or the fusion image such that a largely distortion-free and / or ghost-free fusion image of the surroundings is preferably provided for the driver.
  • one embodiment of the invention provides that the driver selects adaptation parameters that appear suitable to him, in particular obtained by calibration and stored in the vehicle, for use by the alignment device according to the invention or by the superimposition or fusion device.
  • the driver or the adaptation parameters for a city trip, a country road trip, a highway trip typical driving situation and / or possibly for other driving situations can be offered for selection, for example in the form of a manual selection option or by voice input. This enables the driver to produce a largely distortion-free or double-image-free fusion image even without a vehicle navigation system in the vehicle. This also gives the driver the option of overriding an automatic selection if necessary.
  • the driver can be given the opportunity to select one or more adaptation parameters which present the immediate surroundings of his vehicle in the fusion image without distortion, for example distances up to 20 m from his vehicle.
  • This selection can be made by the driver, for example, when he approaches his garage in the dark and via the Wants to find out infrared information in the fusion image whether it is lurking behind a bush.
  • the current position of the vehicle is determined by a vehicle navigation system, in particular a satellite navigation system.
  • a vehicle navigation system in particular a satellite navigation system.
  • the corresponding road category or driving situation such as in particular city street, country road or motorway, is automatically determined by the navigation system in the vehicle by comparison with digital map data.
  • vehicle navigation systems are already present in numerous vehicles for the purpose of route guidance etc. and can be used without great effort for the aforementioned automatic, driving situation and environment-dependent optimization of the merged images of the surroundings of the vehicle.
  • the driving situation is based on at least one driving dynamic variable, such as in particular the vehicle speed and / or the operation of the dimming or High beam and / or vehicle acceleration and / or brightness and / or fog is determined.
  • driving dynamic variable such as in particular the vehicle speed and / or the operation of the dimming or High beam and / or vehicle acceleration and / or brightness and / or fog is determined.
  • this information can already be made available in whole or in part from their vehicle electrical system, without any major effort being required.
  • a colored visual image is fused or combined or overlaid with the infrared image.
  • a merged image is created that contains color information of the visual image, such as red brake lights of a vehicle in front, a red traffic light, a colored traffic sign or the like.
  • the color information in the merged image makes it easier for the driver appropriately equipped vehicle for quick orientation and detection of the traffic situation shown in the merged image.
  • the color information also reduces the risk that colored warnings (red traffic lights, etc.) are overlooked.
  • the images of the environment or scene for different spectral ranges are summarized by interferences, such as distortions of the infrared or visual image, especially due to aberrations of the optics used, etc., exempted.
  • interferences such as distortions of the infrared or visual image, especially due to aberrations of the optics used, etc.
  • This is preferably done in software by known measures for the preparation of digitized images.
  • the images, largely free of interference, or their digital image data are preferably aligned with one another or made to coincide with one another by digital image processing, so that image pairs from the infrared and visual image or from their digital data are present that are largely identical in time and location , This is done according to the invention using at least one distance-dependent and / or driving situation-dependent adaptation parameter for producing a distortion-free fusion image.
  • the software and hardware used for digital image processing preferably allows the images to be shifted, rotated and scaled relative to one another. With this preparation, the subsequent hardware expenditure for superimposing or fusing the images from the different spectral ranges can be minimized in a cost-effective manner - despite extensive real-time processing of image pairs of the same time and location.
  • the infrared images and the visual images are each generated with the same refresh rate, preferably by one or two cameras or sensors for these spectral ranges.
  • simultaneous image pairs can be generated from the infrared image and the visual image in a particularly simple manner, which considerably reduces the software and hardware outlay for the subsequent overlaying or fusion of the two images according to the invention — largely in real time.
  • the processing speed of the image pairs increases; the costs for semiconductor memory for intermediate storage of the images are minimized.
  • the infrared image shows the infrared radiation or heat radiation emitted by people and objects, which lies in the wavelength range from approximately 8 to 14 ⁇ m.
  • An IR camera or an IR sensor that is sensitive in the range of approximately 8 to 10 ⁇ m is preferably used. It is therefore advantageously possible to dispense with an infrared radiator or such illumination (typical wavelength range from approximately 800 nm to 2.5 ⁇ m) for the vehicle environment. A mutual glare of oncoming vehicles, each with an infrared Lighting is not provided.
  • the infrared image according to the invention is not limited to the range of infrared lighting.
  • FIG. 1 shows the block diagram of a device according to the invention for visualizing a section of the surroundings of a vehicle or a night vision system, on the basis of which the method for visualizing according to the invention is described.
  • the device according to the invention and the night vision system 100 shown as a block diagram in FIG. 1 has an electronic, so-called visual camera 101, z. B. a CCD sensor, in the infrared spectral range of about 8 to 10 microns sensitive electronic infrared camera 102, z. B. an IR sensor, a first normalization device 103, a second normalization device 104, an alignment device 105 and an overlay or fusion device 106.
  • the visual camera 101 provides a colored, visual image.
  • the optical axes of the cameras 101 and 102 are preferably aligned parallel to one another, as a result of which the parallax error can be minimized, and are preferably close to one another, as a result of which displacement errors are minimized.
  • the image planes of both cameras or sensors are preferably aligned parallel to one another and perpendicular to the optical axis and are close to one another.
  • the photosensitive sensor surfaces of both cameras or sensors are preferably neither rotated nor tilted relative to one another, but rather are arranged largely parallel to one another. Both cameras or sensors preferably also have the same aperture angle.
  • the cameras or sensors provide images of different spectral ranges, which largely show the same section of the surroundings and are not twisted relative to one another and to the actual situation.
  • the optical surfaces of the cameras are preferably coated hydrophobically and a high-pressure nozzle or the like is preferably provided for their cleaning, as is already customary for headlight cleaning. Both cameras are preferably installed in a common housing (easy to install, overall alignment to the vehicle axis, no shifting of the optical parameters of the cameras among each other).
  • Fastenings are preferably arranged on the housing of the cameras, which ensure low-vibration operation of the cameras on or in the vehicle. Connections for the operating voltage are provided for the operation of the cameras.
  • the operating voltage of the cameras should be flexible to the respective electrical system voltage, such as. B. 12 volts and / or 42 volts, be customizable.
  • an overload protection and reverse polarity protection are preferably incorporated in the operating voltage branch.
  • the output of the video signals generated by the cameras or sensors should be based on a standard (e.g. NTSC, PAL, SECAM or your own standard).
  • Existing semiconductor elements can be used as digital / analog converters.
  • the cameras or sensors can be installed in front of, behind and to the side of the vehicle to make the driving environment visible.
  • a calibration device (not shown) according to the invention is used for calibration.
  • This has several light bulbs, which are preferably arranged in a checkerboard fashion.
  • Incandescent lamps are characterized by the fact that they emit both heat radiation and visually visible radiation.
  • a plate or the like provided with a plurality of incandescent lamps is preferably arranged in succession in different spacing areas in front of the two cameras or sensors 101 and 102. The distance areas are typical distance areas depending on the situation or driving situation, which will be explained in more detail below.
  • the calibration device located in front of the cameras 101 and 102 which is preferably arranged in a dark environment and not in the vicinity of heat sources, generates a (so-called) visual image in the visual camera 101 that the Incandescent lamps arranged like a checkerboard show how they are seen by the human eye. Furthermore, the calibration device in the infrared camera 102 generates a thermal image which also shows the arrangement of the incandescent lamps. Typically, both the visual image and the so-called infrared image, particularly due to optical imaging errors etc., show distortions at the edges of the respective image. In a known manner, the distortions or imaging errors in the visual image are largely eliminated by a first normalization device 103.
  • the distortions or imaging errors in the infrared image are largely eliminated by a second normalization device 104.
  • the normalization or troubleshooting is preferably carried out by known software measures on the digital data of the images (digital image processing) using calibration parameters 107 for the visual image and calibration parameters 108 for the infrared image.
  • the normalized images or their digital data which are largely freed from interference etc., are aligned with one another by a registration process known per se in digital image processing, using an alignment device 105 using registration parameters 109.
  • one of the images preferably remains unchanged and serves as a reference for the other image.
  • the second image is changed in size and position in such a way that a largely object-like image is created relative to the first image.
  • the normalized images are thus aligned relative to one another in such a way that one and the same object appears in the merged image at largely the same location and in largely the same size. If this preprocessing step is not carried out, shadow or twin images are created due to different camera geometries and the camera offset. This means that an object appears in two locations and in different sizes in the merged image. The viewer is irritated by such a picture rather than being given orientation.
  • a first registration process is carried out for a driving situation typical of city driving.
  • the distance between the calibration device and the cameras 101 and 102 is, for example, in the range varies from approx. 15 to 75 m and the registration parameter or parameters suitable for this distance range are determined and stored.
  • a second registration process is carried out for a driving situation typical of country roads, ie, for example, a range of approximately 30 to 150 m.
  • a third registration process is carried out in a corresponding manner for a typical driving situation, that is to say, for example, in the range from approximately 50 to 250 m.
  • the system uses digital map data to determine the road category or driving situation corresponding to the position of the vehicle, such as, in particular, city street, country road or motorway.
  • the registration or adaptation parameters corresponding to the driving situation and stored in the vehicle during the calibration processes are used by the superimposition or alignment device 105 for the alignment of the images in accordance with the driving situation.
  • shadow or twin or ghost images are largely avoided in the merged image for the driving situation in question.
  • the current driving situation of the vehicle is determined on the basis of at least one driving dynamics variable.
  • the registration or adaptation parameters assigned to the one or more dynamic driving variables and stored in the vehicle are used by the superimposition or alignment device 105 for the alignment of the images in accordance with the driving situation. This measure also largely avoids, in particular, shadow or twin or ghost images in the merged image for the driving situation in question.
  • the driving dynamics of the vehicle are, in particular, its speed, the activation of the low or high beam or its positive or negative acceleration.
  • the mutually aligned images are software-superimposed or fused in a superimposition or fusion device 106 by processing their digital data.
  • a fused or overlaid image is generated from each pair of images of the visual image and the infrared image, which are the same or the same object, and which is preferably displayed to the driver of the vehicle on a color monitor in the vehicle.
  • the image pairs of the visual image and the infrared image are preferably merged on the basis of individual, mutually assigned pixel pairs from the two images or using a plurality of pixels from the two images. This can be based in particular on which resolution is desired and / or which computing power is available for digital image processing.
  • the images pre-processed as described are overlaid and displayed by digital processing of their image data. From the result, this process can be compared with the superimposition of foils or slides of the same scene or driving environment. Computationally or in digital image processing, this is achieved by averaging the pixel information, in particular taking into account their brightness in the respective images and the color information contained in the visual image and / or in the infrared image. This does not necessarily have to be done pixel by pixel, but can also be done by averaging for locally and simultaneously pixel areas in both images.
  • weight the pixel information in the infrared image may be useful to weight the pixel information in the infrared image differently from the pixel information in the visual image at the same time and location when averaging.
  • This different weighting can take place, for example, depending on daylight and / or weather and / or depending on the headlight of the motor vehicle and / or depending on the color in the visual image; In this way it can be achieved, for example, that a red traffic light in the fusion image which is clearly recognizable.
  • the weighting for partial areas of the fusion image for example difference between foreground and background, or the entire fusion image can be changed manually by the driver of the vehicle.
  • Individual image areas can be particularly emphasized by this procedure.
  • the immediate driving range of the vehicle can be emphasized more in order to achieve a certain guidance of the driver.
  • the weighting of the infrared information compared to increase the visual information when averaging With increasing darkness, the weighting of the infrared information compared to increase the visual information when averaging. If the low beam is switched on, the weighting of the infrared information compared to the visual information compared to the high beam switched on.
  • the information content of an area in the respective image could also determine the weighting. If the information content in a region of the visual image that is at the same time and location, for example, is significantly higher than in the same region of the infrared region, it may make sense to take this into account when averaging by weighting the visual information.
  • the software algorithm preferably accesses the sensor information of the cameras 101 and 102 pixel by pixel.
  • the devices for digital image processing shown in FIG. 1 are, in whole or in part, preferably one or more software-controlled digital processors which have preferably been optimized for digital image processing in real time.
  • one or more software-controlled PC processors in a cost-effective manner if their processing speed allows extensive real-time processing of the images to provide a fusion image with visual and infrared information.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Astronomy & Astrophysics (AREA)
  • Optics & Photonics (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)

Abstract

Die Erfindung betrifft insbesondere ein Verfahren zur Sichtbarmachung der Umgebung eines Fahrzeugs, insbesondere bei Dunkelheit. Zur Verbesserung bekannter Verfahren wird eine gewichtete Überlagerung zeit- und ortsgleicher Bildpaare aus einem Visuell-Abbild und einem Infrarot-Abbild zur Bildung eines Fusionsbilds vorgeschlagen. Zur weiteren Verbesserung ist vorgesehen, die Gewichtung umgebungsabhängig zu machen; so ist bei Dunkelheit eine höhere Gewichtung und damit Hervorhebung der infraroten Information ggü. der visuellen Information im Fusionsbild vorgesehen. Bei Nebel ist vorgesehen, die visuelle Information ggü. der infraroten Information deutlich höher zu gewichten, wodurch die bei Nebel oft wenig hilfreiche Infrarot-Information im Fusionsbild (weitgehend) unberücksichtigt bleibt. Zur Durchführung des Verfahrens wird eine Vorrichtung vorgeschlagen, die eine farb empfindliche Visuell-Kamera (101), eine Infrarot-Kamera (102) und eine Fusions-bzw. Überlagerungseinrichtung (106), die zeit- und ortsgleiche Bildpaare pixel- oder bereichsweise überlagert und/oder Mittelwerte bildet, aufweist.

Description

Verfahren und Vorrichtung zur Sichtbarmachung der Umgebung eines Fahrzeugs mit umqebunqsabhänqiqer Fusion eines Infrarot- und eines Visuell-Abbilds
Die Erfindung betrifft ein Verfahren und eine Vorrichtung zur Sichtbarmachung der Umgebung eines Fahrzeugs sowie eine Kalibriervorrichtung zur Kalibrierung der Vorrichtung nach dem Oberbegriff des betreffenden unabhängigen Patentanspruchs.
Aus der DE 695 06 174 T2 ist ein Nachsichtsystem für ein Fahrzeug bekannt. Das System weist eine Infrarot-Kamera auf, die ein Infrarot-Abbild erzeugt, das die von Personen und Gegenständen ausgehende Wärmestrahlung eines Ausschnitts der Umgebung des Fahrzeugs zeigt. Das Infrarot-Abbild wird über ein Head-up-Display auf den unteren Teil der Windschutzscheibe projiziert und damit dem Fahrer sichtbar gemacht.
Die Zuordnung von Personen und Objekten im Infrarot-Abbild zu der vor dem Fahrer liegenden, visuell durch die Windschutzscheibe erfassbaren Verkehrssituation ist vom Fahrer zu leisten. Dies ist insbesondere bei Dunkelheit, für die das bekannte System gedacht sein soll, schwierig und oft sogar unmöglich, weil das Infrarot- Abbild Personen und Objekte zeigt, die der Fahrer visuell nicht erkennen kann. Eine exaktere Positionsbestimmung der nur im Infrarot-Abbild erkennbaren Personen und Objekte ist daher regelmäßig nicht möglich und lenkt den Fahrer in gefährlicher Weise ab.
Die Aufgabe der Erfindung besteht insbesondere in der Angabe eines verbesserten Verfahrens und einer Vorrichtung zur Sichtbarmachung der Umgebung eines Fahrzeugs, wie insbesondere ein verbessertes Nachtsichtsystem.
Die Aufgabe der Erfindung wird durch den entsprechenden, unabhängigen Anspruch verfahrensmäßig bzw. vorrichtungsmäßig gelöst. Vorteilhafte Ausgestaltungen der Erfindung sind in den zugeordneten, abhängigen Patentansprüchen angegeben. Ein erster wesentlicher Aspekt der Erfindung besteht in der Anzeige bzw. Sichtbarmachung einer Kombination bzw. Überlagerung eines visuellen Abbilds, nachfolgend Visuell-Abbild genannt, und eines infraroten Abbilds, nachfolgend Infrarot- Abbild genannt, des weitgehend selben Ausschnitts der Umgebung eines Fahrzeugs. Durch diese Überlagerung oder Fusion der Abbilder unterschiedlicher Spektralbereiche derselben Szene, werden die vorstehend beschriebenen Nachteile des Stands der Technik weitgehend beseitigt.
Ein zweiter wesentlicher Aspekt besteht darin, die beiden spektralen Anteile (visueller Anteil und infraroter Anteil) bei der Fusion des jeweiligen visuellen Abbilds und des infraroten Abbilds in Abhängigkeit von der konkreten Fahrsituation im Verhältnis zueinander zu gewichten. Im ersten Extremfall der Gewichtung weist das durch Fusion entstandene Bild weitgehend lediglich die visuelle Information auf, im Regelfall eine Überlagerung aus visueller und infraroter Information und im zweiten Extremfall der Gewichtung weist das durch Fusion entstandene Bild weitgehend lediglich die infrarote Information auf.
Wird beispielsweise auf der Landstraße durch ein Abstandsmeßsystem ein voraus- fahrendes Fahrzeug erkannt, z.B. durch ein bekanntes radargestütztes ACC-System (Automatic Cruise Control), ist bei einer Ausführungsform der Erfindung vorgesehen, dieses Fahrzeug bei der Fusion der beiden spektralen Anteile ggü. der Fahrumgebung hervorzuheben, so dass es im Fusionsbild ggü. der Umgebung deutlicher hervortritt. Dies kann beispielsweise geschehen, indem die Gewichtung der beiden spektralen Anteile für den relevanten Bereich ggü. der Fahrumgebung verändert wird; in diesem Beispiel derjenige Bildausschnitt des Fusionsbilds, der das unmittelbar vorausfahrende Fahrzeug zeigt. Am Tage kann beispielsweise die visuelle Information ggü. der infraroten Information höher gewichtet und damit deutlicher im Fusionsbild zur Geltung gebracht werden, während bei Dunkelheit gerade an- dersherum gewichtet wird.
Fährt das Fahrzeug in einem gut ausgeleuchteten Gebiet, ist bei einer anderen Ausführungsform der Erfindung alternativ oder ergänzend vorgesehen, den visuellen Anteil bzw. die visuelle Information ggü. dem infraroten Anteil bzw. ggü. der infraro- ten Information höher zu gewichten. Auf dunkler Landstraße und/oder Autobahn wird die Gewichtung alternativ oder ergänzend ggü. der vorgenannten andersherum vorgenommen, so dass die infrarote Information bzw. der infrarote Anteil im Fusionsbild ggü. dem visuellen Anteil deutlicher hervortritt.
Alternativ oder ergänzend ist bei einer weiteren Ausführungsform der Erfindung vorgesehen, auf dunkler Landstraße und/oder Autobahn die infrarote Information von weiter entfernten Objekte ggü. deren visueller Information - im Unterschied zu weniger weit vom Fahrzeug entfernten Objekten - durch deren höhere Gewichtung bei der Fusion hervorzuheben. Ggf. kann das dem Fahrer auf einem Display dargebotene Fusionsbild im Nahbereich einen höheren Anteil an visueller Information und im Fernbereich einen höheren Anteil an infraroter Information aufweisen.
Bei Regen, Nebel oder nasser Fahrbahn ist die Nutzbarkeit des Infrarotkanals bzw. der Infrarot-Information ggü. Normalbedingungen beschränkt. Um einer Verschlechterung des Fusionsbilds durch die allenfalls beschränkt brauchbare Infrarotinformation bei solchen Witterungsverhältnissen entgegen zu wirken, ist alternativ oder ergänzend vorgesehen, den visuellen Anteil ggü. dem infraroten Anteil zu erhöhen, d.h. die Gewichtung der beiden Spektralanteile im Fusionsbild entsprechend in Richtung visueller Information zu verändern.
Zur Erkennung der vorgenannten Witterungsbedingungen kann insbesondere ein Regensensor oder ein Nebelsensor am Fahrzeug vorgesehen sein. Ebenso kann ausgewertet werden, welche Fahrzeugleuchten eingeschaltet sind, wie insbesonde- re die Nebelscheinwerfer. Diese Informationen können jedoch auch durch ein im Fahrzeug vorgesehenes dynamisches Navigationssystem geliefert werden, in das die dynamischen Verkehrs- bzw. Witterungsbedingungen für den gegenwärtigen Aufenthaltsort des Fahrzeugs oder insbesondere vorausschauend für die geplante Fahrtroute übertragen werden. Diese Übertragung kann über ein Mobilfunknetz oder durch eine Fahrzeug-Fahrzeug-Kommunikation erfolgen.
Alternativ oder ergänzend ist bei einer Ausführungsform der Erfindung vorgesehen, dass der Fahrer die Gewichtung der beiden spektralen Anteile zueinander im Fusionsbild manuell einstellen und damit an seine Bedürfnisse und speziellen Umstände optimal anpassen kann. Ein kontinuierlicher Übergang der Darstellung von visueller Information zu Infrarotinformation und umgekehrt ist bei einer Ausführungsform der Erfindung vorgesehen. Dies ermöglicht dem Fahrer, den Zusammenhang zwischen visueller und infraroter Information und den Einfluss auf das Fusionsbild der Fahr- Umgebung durch die Verschiebung zwischen den spektralen Anteilen leichter und schneller nutzbringend im Sinne einer schnelleren und zuverlässigeren Erfassung der Verkehrssituation anzuwenden.
Bei einer weiteren Ausführungsform wird dem Fahrer alternativ oder ergänzend eine Vielzahl von Fusionsbildern zur Auswahl eines ihm geeignet erscheinenden Fusionsbilds angeboten, wobei die zur Auswahl angebotenen Fusionsbilder sich in ihrem Verhältnis des Anteils von visueller Information zu Infrarot-Information unterscheiden. Insbesondere kann eine unterschiedliche Gewichtung von visuellem Anteil zu infrarotem Anteil bei der Fusion vorgenommen worden sein.
Bei einer konkreten Ausgestaltung des erfindungsgemäßen Nachtsichtsystems weist die Visuell-Kamera oder der erste Sensor bzw. deren Optik eine erste optische Achse und die Infrarot-Kamera oder der zweite optische Sensor bzw. deren Optik eine zweite optische Achse auf, die räumlich zueinander versetzt sind. Daher erfas- sen die Kameras bzw. Sensoren zumindest teilweise unterschiedliche Ausschnitte der Umgebung des Fahrzeugs, d.h. einen ersten und einen zweiten Ausschnitt. Diese sind zudem entfernungsabhängig. Es versteht sich, dass erfindungsgemäß auch mehr als zwei Infrarot-Kameras bzw. Infrarot-Sensoren, deren Empfindlichkeit unterschiedliche Wellenlängen abdeckt, vorgesehen und die von ihnen gelieferten digitalen Abbilder der Fahrzeug-Umgebung überlagert bzw. fusioniert werden können.
Um ein weitgehend verzerrungsfreies Fusions-Bild zur Darstellung für den Fahrer zu erhalten, ist bei einer Ausführungsform der Erfindung vorgesehen, dass der bereit gestellte erste Ausschnitt und der bereit gestellte zweite Ausschnitt ganz oder teilweise durch eine Überlagerungs- bzw. Fusionseinrichtung pixel- und/oder bereichsweise überlagert bzw. fusioniert werden. Zur Bereitstellung des Fusions-Bilds wird der erste Ausschnitt und/oder der zweite Ausschnitt und/oder das Fusions-Bild bzw. deren unmittelbare oder bearbeitete digitale Daten durch mindestens einen Anpassungsparameter angepasst.
Dieser oder diese entfernungsabhängigen Parameter werden bevorzugt bei der Ka- librierung des erfindungsgemäßen Kamera- oder Sensorsystems bzw. Nachtsichtsystems für mindestens zwei Entfernungsbereiche bzw. Abstandsbereiche zwischen den Kameras bzw. Sensoren und einer Kalibriervorrichtung ermittelt. Ein wesentliches Ziel ist es, den oder die Anpassungsparameter so einzustellen, dass das bei der Überlagerung bzw. Fusion der Abbilder entstehende Fusionsbild von Objekten im betreffenden Entfernungsbereich weitgehend verzerrungsfrei ist, wie insbesondere frei von Geister- bzw. Doppelbildern. Bei dem oder den Anpassungsparametern handelt es sich erfindungsgemäß insbesondere um mindestens einen Registrie- rungs- oder Transformationsparameter. Ein ähnlicher Parameter ist z.B. aus der Registrierung eines digitalen Bildverarbeitungssystems und damit vorgenommenen Überlagerungen von zwei Bildern bekannt. Der oder die fahrsituations- bzw. entfernungsabhängigen Anpassungsparameter werden bevorzugt bei der Kalibrierung in einem Datenspeicher im Fahrzeug gespeichert.
Bei einer bevorzugten Ausführungsform der Erfindung entspricht ein erster Entfer- nungsbereich einer für eine Stadtfahrt typischen Fahrsituation, wie insbesondere ein Entfernungsbereich von ca. 15 bis 75 m.
Alternativ oder ergänzend entspricht ein zweiter Entfernungsbereich einer für eine Landstrassenfahrt typischen Fahrsituation, wie insbesondere ein Entfernungsbe- reich von ca. 30 bis 150 m.
Alternativ oder ergänzend entspricht ein dritter Entfernungsbereich einer für eine Autobahnfahrt typischen Fahrsituation, wie insbesondere ein Entfernungsbereich von ca. 50 bis 250 m.
Es versteht sich, dass alternativ oder ergänzend zu den vorgenannten entfernungsabhängigen oder entfernungsbereichsabhängigen Anpassungsparametern auch andere fahrsituationsabhängige Anpassungsparameter insbesondere mit dem vorgenannten Ziel ermittelt werden können. Hierbei kann es sich beispielsweise um geeignete Anpassungsparameter für Fahrten bei tief stehender Sonne, im Nebel, bei einsetzender Dunkelheit oder bei Dunkelheit handeln.
Ein weiterer wesentlicher Aspekt der Erfindung besteht darin, die aktuelle Fahrsitua- tion des Fahrzeugs automatisch zu ermitteln und den oder die der aktuellen Fahrsituation bzw. Umgebungssituation entsprechenden, insbesondere durch Kalibrierung gewonnenen und im Fahrzeug gespeicherten Anpassungsparameter zur Verwendung durch die erfindungsgemäße Ausricht-Vorrichtung oder durch die Überlage- rungs- bzw. Fusionseinrichtung bereitzustellen. Die Überlagerungs- bzw. Fusions- einrichtung führt eine pixel- und/oder bereichsweise Überlagerung bzw. Fusionierung des in Form von digitalen Daten vorliegenden Visuell-Abbilds und des Infrarot- Abbilds durch, wobei ein oder mehrere entfernungsabhängige Anpassungsparameter das Infrarot-Abbild und/oder das Visuell-Abbild und/oder das Fusions-Bild derart beeinflussen, dass bevorzugt ein weitgehend verzerrungsfreies und/oder geisterbild- freies Fusions-Abbild der Umgebung für den Fahrer bereitgestellt wird.
Alternativ oder ergänzend zur vorgenannten automatischen Ermittlung, ist bei einer Ausführungsform der Erfindung vorgesehen, dass der Fahrer ihm geeignet erscheinende, insbesondere durch Kalibrierung gewonnene und im Fahrzeug gespeicherte Anpassungsparameter zur Verwendung durch die erfindungsgemäße Ausricht- Vorrichtung oder durch die Überlagerungs- bzw. Fusionseinrichtung auswählt. So können dem Fahrer beispielsweise der oder die Anpassungsparameter für eine Stadtfahrt typische, eine Landstrassenfahrt typische, eine Autobahnfahrt typische Fahrsituation und/oder ggf. für weitere Fahrsituationen zur Auswahl angeboten wer- den, z.B. in Form einer manuellen Auswahlmöglichkeit oder durch Spracheingabe. Hierdurch wird der Fahrer auch ohne im Fahrzeug befindliches Fahrzeug- Navigationssystem in die Lage versetzt, ein weitgehend verzerrungsfreies bzw. doppelbildfreies Fusions-Bild selbst herbeizuführen. Zudem wird dem Fahrer dadurch die Möglichkeit eröffnet, sich ggf. über eine automatische Auswahl hinwegzu- setzen. Ebenso kann dem Fahrer die Möglichkeit gegeben werden, einen oder mehrere Anpassungsparameter auszuwählen, die ihm die nähere Umgebung seines Fahrzeugs verzerrungsfrei im Fusions-Bild darstellen, z.B. Entfernungen bis zu 20 m von seinem Fahrzeug. Diese Auswahl kann vom Fahrer beispielsweise dann vorgenommen werden, wenn er im Dunkeln an seine Garage heranfährt und über die Infrarot-Information im Fusions-Bild in Erfahrung bringen will, ob ihm hinter einem Gebüsch aufgelauert wird.
Bei einer bevorzugten Ausführungsform der Erfindung, wird die aktuelle Position des Fahrzeugs von einem Fahrzeug-Navigationssystem, insbesondere ein Satelliten-Navigationssystem, bestimmt. Anhand der Position wird von dem im Fahrzeug befindlichen Navigationssystem durch Vergleich mit digitalen Kartendaten automatisch die entsprechende Straßenkategorie bzw. Fahrsituation, wie insbesondere Stadtstrasse, Landstrasse oder Autobahn, ermittelt. Solche Fahrzeug- Navigationssysteme sind bereits heute in zahlreichen Fahrzeugen zum Zweck der Routenführung etc. vorhanden und können ohne großen Aufwand zur vorgenanten automatischen, fahrsituations- und umgebungsabhängigen Optimierung der fusionierten Abbilder der Umgebung des Fahrzeugs genutzt werden.
Alternativ oder ergänzend ist bei einer weiteren Ausführungsform der Erfindung vorgesehen, dass die Fahrsituation anhand mindestens einer fahrdynamischen Größe, wie insbesondere die Fahrzeug-Geschwindigkeit und/oder der Betrieb des Abblendbzw. Fernlichts und/oder die Fahrzeug-Beschleunigung und/oder Helligkeit und/oder Nebel, ermittelt wird. Diese Informationen können bereits in heutigen Fahrzeugen ganz oder teilweise von deren Bordnetz zur Verfügung gestellt werden, ohne dass ein größerer Aufwand erforderlich ist.
Bei einer bevorzugten Ausführungsform der Erfindung wird ein farbiges visuelles Abbild mit dem Infrarot-Abbild fusioniert bzw. kombiniert oder überlagert. Im Unter- schied zu einem schwarzweißen Visuell-Abbild, entsteht ein fusioniertes Bild, das Farbinformationen des Visuell-Abbilds enthält, wie rote Bremsleuchten eines vorausfahrenden Fahrzeugs, eine rote Ampel, ein farbiges Verkehrsschild oder dgl. Die Farbinformation im fusionierten Bild erleichtert dem Fahrer eines entsprechend ausgestatteten Fahrzeugs die schnelle Orientierung und Erfassung der im fusionier- ten Bild dargestellten Verkehrssituation. Die Farbinformation verringert zudem die Gefahr, das farbige Warnhinweise (rote Ampel etc.) übersehen werden.
Zusammengefasst werden die Abbilder der Umgebung bzw. Szene für unterschiedliche Spektralbereiche jeweils von Störeinflüssen, wie Verzerrungen des Infrarot- bzw. Visuell-Abbilds, insbesondere aufgrund von Abbildungsfehlern der jeweils verwendeten Optik usw., befreit. Dies geschieht bevorzugt softwaremäßig durch bekannte Maßnahmen zur Aufbereitung von digitalisierten Bildern. Die von Störeinflüssen weitgehend befreiten Abbilder bzw. deren digitale Bild-Daten werden bevorzugt durch digitale Bildverarbeitung zueinander ausgerichtet bzw. zur Deckung gebracht, so dass weitgehend zeit- und ortsgleiche Bild-Paare aus Infrarot- und Visuell-Abbild bzw. von deren digitalen Daten vorliegen. Dies geschieht erfindungsgemäß unter Verwendung von mindestens einem entfernungsabhängigen und/oder fahrsituati- onsabhängigen Anpassungsparameter zur Herbeiführung eines verzerrungsfreien Fusions-Bildes. Die verwendete Software und Hardware zur digitalen Bildverarbeitung erlaubt vorzugsweise eine Verschiebung, Drehung und Skalierung der Abbilder relativ zueinander. Durch diese Aufbereitung kann der nachfolgende Hardwareaufwand zur Überlagerung bzw. Fusion der Abbilder aus den unterschiedlichen Spektralbereichen in kostengünstiger Weise - trotz weitgehender Echtzeit-Verarbeitung zeit- und ortsgleicher Bild-Paare - minimiert werden.
Gemäß einer bevorzugten Ausführungsform der Erfindung, werden die Infrarot- Abbilder und die Visuell-Abbilder mit jeweils gleicher Bildwiederholrate, bevorzugt von ein oder zwei Kameras oder Sensoren für diese Spektralbereiche, erzeugt. Hierdurch können in besonders einfacher Weise zeitgleiche Bild-Paare aus Infrarot- Abbild und Visuell-Abbild erzeugt werden, was den Software- und Hardware- Aufwand für die nachfolgende, erfindungsgemäße Überlagerung bzw. Fusion beider Abbilder - weitgehend in Echtzeit - erheblich vermindert. Die Verarbeitungsgeschwindigkeit der Bild-Paare steigt; die Kosten für Halbleiter-Speicher zur Zwi- schenspeicherung der Abbilder werden minimiert.
Bei einer bevorzugten Ausführungsform der Erfindung, zeigt das Infrarot-Abbild die von Personen und Objekten abgegebene Infrarot-Strahlung bzw. Wärmestrahlung, die im Wellenlängenbereich von ca. 8 bis 14 μm liegt. Bevorzugt wird eine IR- Kamera oder ein IR-Sensor verwendet, die oder der im Bereich von ca. 8 bis 10 μm empfindlich ist. Damit kann in vorteilhafter Weise auf einen Infrarot-Strahler bzw. eine solche Beleuchtung (typischer Wellenlängenbereich von ca. 800 nm bis 2,5 μm) für die Fahrzeugumgebung verzichtet werden. Eine wechselseitige Blendung entgegenkommender Fahrzeuge, die in bekannter Weise jeweils mit einer Infrarot- Beleuchtung versehen sind, tritt nicht auf. Ebenso ist das erfindungsgemäße Infrarot-Abbild nicht auf die Reichweite einer Infrarot-Beleuchtung beschränkt.
Die Erfindung wird nachfolgend anhand eines Ausführungsbeispiels näher erläutert. Es zeigt:
Fig. 1 das Blockschaltbild einer erfindungsgemäßen Vorrichtung zur Sichtbarmachung eines Ausschnitts der Umgebung eines Fahrzeugs bzw. ein Nachtsichtsystem, anhand dem das erfindungsgemäße Verfahren zur Sichtbarmachung beschrieben wird.
Die in Fig. 1 als Blockschaltbild dargestellte, erfindungsgemäße Vorrichtung bzw. das Nachtsichtsystem 100 weist eine im visuellen Spektralbereich aufnehmende elektronische, hier sogenannte Visuell-Kamera 101 , z. B. ein CCD-Sensor, eine im infraroten Spektralbereich von ca. 8 bis 10 μm empfindliche elektronische Infrarot- Kamera 102, z. B. ein IR-Sensor, eine erste Normalisierungsvorrichtung 103, eine zweite Normalisierungsvorrichtung 104, eine Ausricht-Vorrichtung 105 und eine Ü- berlagerungs- bzw. Fusionseinrichtung 106 auf. Die Visuell-Kamera 101 liefert ein farbiges, visuelles Abbild.
Die optischen Achsen der Kameras 101 und 102 sind bevorzugt parallel zueinander ausgerichtet, wodurch der Parallaxenfehler minimiert werden kann, und liegen bevorzugt nahe beieinander, wodurch Versetzungsfehler minimiert werden. Die Bildebenen beider Kameras oder Sensoren werden bevorzugt parallel zueinander und senkrecht zur optischen Achse ausgerichtet und liegen nahe beieinander. Die fotoempfindlichen Sensorflächen beider Kameras bzw. Sensoren sind bevorzugt relativ zueinander weder verdreht noch gekippt, sondern weitgehend parallel zueinander angeordnet. Beide Kameras oder Sensoren haben bevorzugt zudem denselben Öffnungswinkel. Durch diese Maßnahmen kann erreicht werden, das die Kameras oder Sensoren Abbilder unterschiedlicher Spektralbereiche liefern, die weitgehend denselben Ausschnitt der Umgebung zeigen und relativ zueinander und zur tatsächlichen Situation nicht verdreht sind. Hierdurch kann der Aufwand für eine Bearbeitung der Abbilder zur Bereitstellung eines fusionierten Bilds aus beiden Abbildern und damit der Hardware- und Software-Aufwand deutlich verringert werden. Die optischen Oberflächen der Kameras werden bevorzugt hydrophob beschichtet und bevorzugt ist zu ihrer Reinigung eine Hochdruckdüse oder dgl. vorgesehen, wie sie bereits zur Scheinwerfer-Reinigung üblich ist. Beide Kameras werden bevorzugt in einem gemeinsamen Gehäuse eingebaut (Montagefreundlichkeit, Gesamtausrichtung zur Fahrzeugachse, keine Verschiebung optischer Parameter der Kameras untereinander). Am Gehäuse der Kameras sind bevorzugt Befestigungen angeordnet, die einen vibrationsarmen Betrieb der Kameras am oder im Fahrzeug gewährleisten. Für den Betrieb der Kameras sind Anschlüsse für die Betriebsspannung vorgesehen. Die Betriebsspannung der Kameras sollte flexibel an die jeweilige Bordnetzspannung, wie z. B. 12 Volt und/oder 42 Volt, anpassbar sein. Um die E- lektronik und die Sensoren der Kameras vor Beschädigungen zu schützen, ist im Betriebsspannungszweig bevorzugt eine Überlastsicherung und ein Verpolungs- schutz eingebracht. Die Ausgabe der von den Kameras oder Sensoren generierten Videosignale (Spektralbereiche getrennt oder bereits fusioniert) sollte sich an einem Standard orientieren (z. B. NTSC, PAL, SECAM oder eigener Standard). Als Digital/Analogumsetzer können vorhandene Halbleiterelemente verwendet werden. Die Kameras oder Sensoren können zur Sichtbarmachung der Fahrumgebung vor, hinter und seitlich vom Fahrzeug angebracht werden.
Im Folgenden wird die Kalibrierung des Nachtsichtsystems bzw. der Vorrichtung 100 näher beschrieben. Zur Kalibrierung wird eine erfindungsgemäße Kalibriervorrichtung (nicht dargestellt) verwendet. Diese weist mehrere Glühlampen auf, die bevorzugt schachbrettartig angeordnet sind. Glühlampen zeichnen sich dadurch aus, dass sie sowohl Wärmestrahlung als auch visuell sichtbare Strahlung abgeben. Bevorzugt wird eine mit mehreren Glühlampen versehene Platte oder dgl. nacheinander in verschiedenen Abstandsbereichen vor den beiden Kameras bzw. Sensoren 101 und 102 angeordnet. Bei den Abstandsbereichen handelt es sich um typische ungebungs- oder fahrsituationsabhängige Abstandsbereiche, was nachfolgend nä- her erläutert werden wird.
Die vor den Kameras 101 und 102 befindliche Kalibriervorrichtung, die bevorzugt in dunkler Umgebung und nicht in der Nachbarschaft von Wärmequellen angeordnet ist, erzeugt in der Visuell-Kamera 101 ein (sogenanntes) Visuell-Abbild, das die schachbrettartig angeordneten Glühlampen zeigt, wie sie auch das menschliche Auge sieht. Ferner erzeugt die Kalibriervorrichtung in der Infrarot-Kamera 102 ein Wärmebild, das ebenfalls die Anordnung der Glühlampen zeigt. Typischerweise zeigt sowohl das Visuell-Abbild als auch das sog. Infrarot-Abbild, insbesondere aufgrund von optischen Abbildungsfehlern etc., Verzeichnungen an den Rändern des jeweiligen Abbilds. In bekannter Weise werden die Verzeichnungen bzw. Abbildungsfehler im Visuell-Abbild durch eine erste Normalisierungsvorrichtung 103 weitgehend beseitigt. In bekannter Weise werden die Verzeichnungen bzw. Abbildungsfehler im Infrarot-Abbild durch eine zweite Normalisierungsvorrichtung 104 weitge- hend beseitigt. Die Normalisierung bzw. Fehlerbeseitigung erfolgt bevorzugt durch bekannte, softwaremäßige Maßnahmen an den digitalen Daten der Abbilder (digitale Bildverarbeitung) unter Verwendung von Kalibrierungsparametern 107 für das Visuell-Abbild und Kalibrierungsparametern 108 für das Infrarot-Abbild.
Die normalisierten bzw. weitgehend von Störungen etc. befreiten Abbilder bzw. deren digitale Daten werden durch einen an sich in der digitalen Bildverarbeitung bekannten Registrierungsvorgang zueinander durch eine Ausricht-Vorrichtung 105 unter Verwendung von Registrierungsparametern 109 ausgerichtet. Bei dem Ausrichtvorgang bleibt bevorzugt eines der Abbilder unverändert und dient als Referenz für das andere Abbild. Das zweite Abbild wird in Größe und Lage so verändert, dass ein weitgehend objektgleiches Abbild relativ zum ersten Abbild entsteht.
Die normalisierten Abbilder werden also so relativ zueinander ausgerichtet, dass ein und dasselbe Objekt an weitgehend gleicher Stelle und in weitgehend gleicher Grö- ße im fusionierten Bild erscheint. Wird dieser Vorverarbeitungsschritt nicht ausgeführt, entstehen aufgrund unterschiedlicher Kamerageometrien und des Kameraversatzes Schatten- oder Zwillingsbilder. Das bedeutet, dass ein Objekt an zwei Orten und in unterschiedlichen Größen im fusionierten Bild erscheint. Der Betrachter wird von solch einem Bild eher irritiert, als dass ihm Orientierung gegeben wird.
Zur umgebungs- bzw. fahrsituationsabhängigen Optimierung der pixelgenauen oder bereichsgenauen Fusion, wird zunächst ein erster Registrierungsvorgang für eine stadtfahrt-typische Fahrsituation durchgeführt. Der Abstand zwischen der Kalibriervorrichtung und den Kameras 101 und 102 wird hierzu beispielsweise im Bereich von ca. 15 bis 75 m variiert und der oder die für diesen Abstandsbereich geeigneten Registrierungsparameter werden ermittelt und gespeichert. In entsprechender Weise wird ein zweiter Registrierungsvorgang für eine landstrassen-typische Fahrsituation, d.h. beispielsweise ein Bereich von ca. 30 bis 150 m, durchgeführt. Schließlich wird in entsprechender Weise ein dritter Registrierungsvorgang für eine autobahntypische Fahrsituation, d.h. beispielsweise im Bereich von ca. 50 bis 250 m, durchgeführt.
Unter Verwendung der von einem Fahrzeug-Navigationssystem (nicht dargestellt) bereitgestellten, aktuellen Positionsdaten wird von dem System anhand von digitalen Kartendaten die der Position des Fahrzeugs entsprechende Straßenkategorie bzw. Fahrsituation ermittelt, wie insbesondere Stadtstrasse, Landstrasse oder Autobahn. Insbesondere bei Dunkelheit, werden die der Fahrsituation entsprechenden und im Fahrzeug bei den Kalibriervorgängen gespeicherten Registrierungs- bzw. Anpassungsparameter von der Überlagerungs- bzw. Ausrichtvorrichtung 105 zur fahrsituationsgerechten Ausrichtung der Abbilder verwendet. So werden insbesondere Schatten- oder Zwillings- bzw. Geisterbilder im fusionierten Bild für die betreffende Fahrsituation weitgehend vermieden.
Alternativ oder ergänzend wird die aktuelle Fahrsituation des Fahrzeugs anhand mindestens einer fahrdynamischen Größe ermittelt. Die der oder den fahrdynamischen Größen zugeordneten und im Fahrzeug gespeicherten Registrierungs- bzw. Anpassungsparametern werden erfindungsgemäß von der Überlagerungs- bzw. Ausrichtvorrichtung 105 zur fahrsituationsgerechten Ausrichtung der Abbilder ver- wendet. Auch durch diese Maßnahme werden insbesondere Schatten- oder Zwillings- bzw. Geisterbilder im fusionierten Bild für die betreffende Fahrsituation weitgehend vermieden. Bei den fahrdynamischen Größen des Fahrzeugs handelt es sich insbesondere um dessen Geschwindigkeit, die Einschaltung des Abblend- oder Fernlichts oder um dessen positive oder negative Beschleunigung.
Die oben genannte Ausrichtung der normalisierten Abbilder kann in drei Schritte eingeteilt werden: Verschiebung, Drehung und Skalierung. In der Praxis stellte sich heraus, das die Reihenfolge Drehung, Skalierung und Verschiebung die qualitativ besten Resultate lieferte. Da die Reihenfolge dieser Schritte im Allgemeinen nicht kommutativ bzw. vertauschbar ist, sollte darauf geachtet werden, dass die Reihenfolge dieser Schritte bei der Kalibrierung und bei dem nachfolgenden Betrieb des erfindungsgemäßen Nachtsichtsystems dieselbe ist. Ggf. ist die Kalibrier- und/oder Betriebs-Software des Nachtsichtsystems entsprechend zu gestalten.
Die zueinander ausgerichteten Abbilder werden in einer Überlagerungs- bzw. Fusionseinrichtung 106 softwaremäßig durch die Bearbeitung von deren digitalen Daten überlagert bzw. fusioniert. Aus jedem zeit- und ortsgleichen bzw. objektgleichen Bild-Paar aus Visuell-Abbild und Infrarot-Abbild wird ein fusioniert.es oder überlager- tes Bild generiert, das dem Fahrer des Fahrzeugs bevorzugt auf einem Farb-Monitor im Fahrzeug dargestellt wird.
Bevorzugt erfolgt eine Fusion der zeit- und ortsgleichen Bildpaare aus Visuell-Abbild und Infrarot-Abbild auf der Basis einzelner, einander zugeordneter Pixel-Paare aus beiden Abbildern oder unter Verwendung von mehreren Pixeln aus den beiden Abbildern. Dies kann sich insbesondere daran orientieren, welche Auflösung gewünscht und/oder welche Rechenleistung für die digitale Bildverarbeitung zur Verfügung steht. Die wie beschrieben vorverarbeiteten Abbilder werden durch digitale Verarbeitung von deren Bild-Daten überlagert und angezeigt. Vom Ergebnis her, kann dieser Vorgang annähernd mit dem Ubereinanderlegen von Folien oder Dias derselben Szene oder Fahrumgebung verglichen werden. Rechentechnisch bzw. bei der digitalen Bildverarbeitung wird dies durch Mittelwertbildung der Pixelinformationen, wie insbesondere unter Berücksichtigung von deren Helligkeit in den jeweiligen Abbildern und der im Visuell-Abbild und/oder im Infrarot-Abbild enthaltenen Farbinformation, erreicht. Dies muss nicht notwendigerweise Pixel für Pixel erfolgen, sondern kann auch durch Mittelwertbildung für orts- und zeitgleiche Pixelbereiche in beiden Abbildern geschehen.
Ferner kann es sinnvoll sein, die Pixelinformation im Infrarot-Abbild bei der Mittel- wertbildung unterschiedlich zur zeit- und ortsgleichen Pixelinformation im Visuell- Abbild zu gewichten. Diese unterschiedliche Gewichtung kann bspw. tageslicht- und/oder witterungsabhängig und/oder in Abhängigkeit vom Scheinwerferlicht des Kraftfahrzeugs und/oder in Abhängigkeit von der Farbe im Visuell-Abbild erfolgen; hierdurch kann bspw. erreicht werden, dass eine rote Ampel im Fusionsbild beson- ders deutlich erkennbar ist. Ferner kann die Gewichtung für Teilbereiche des Fusionsbilds, z.B. Unterschied zwischen Vordergrund und Hintergrund, oder das gesamte Fusionsbild manuell durch den Fahrer des Fahrzeugs veränderbar sein.
Durch dieses Vorgehen können einzelne Bildbereiche besonders hervorgehoben werden. So kann beispielsweise der unmittelbare Fahrbereich des Fahrzeugs stärker betont werden, um eine gewisse Führung des Fahrers zu erreichen.
Bei zunehmender Dunkelheit könnte die Gewichtung der Infrarot-Information ggü. der visuellen Information bei der Mittelwertbildung zunehmen. Bei eingeschaltetem Abblendlicht könnte die Gewichtung der Infrarot-Information ggü. der visuellen Information im Vergleich zu eingeschaltetem Fernlicht erhöht sein.
Ebenso könnte der Informationsgehalt eines Bereichs in dem jeweiligen Abbild die Gewichtung mit bestimmen. Ist der Informationsgehalt in einem zeit- und ortsgleichen Bereich des Visuell-Abbilds bspw. deutlich höher als in demselben Bereich des Infrarot-Bereichs, so kann es sinnvoll sein, dies bei der Mittelwertbildung durch eine höhere Gewichtung der Visuell-Information zu berücksichtigen.
Wie bereits beschrieben, müssen die von den Kameras bzw. Sensoren generierten Abbilder vorverarbeitet werden, um entzerrt und objekttreu ausgerichtet zu sein. Um Speicher, der kostenintensiv ist, einzusparen, greift der Software-Algorithmus bevorzugt pixelweise auf die Sensorinformationen der Kameras 101 und 102 zu.
Bei den in Figur 1 dargestellten Vorrichtungen zur digitalen Bildverarbeitung handelt es sich ganz oder teilweise bevorzugt um ein oder mehrere softwaregesteuerte Digi- tal-Prozessoren, die vorzugsweise zur digitalen Bildverarbeitung in Echtzeit optimiert worden sind. Ebenso ist es aber auch denkbar, einen oder mehrere softwaregesteuerte PC-Prozessoren in kostengünstiger Weise zu verwenden, wenn deren Verarbeitungsgeschwindigkeit eine weitgehende Echtzeitverarbeitung der Abbilder zur Bereitstellung eines Fusions-Bildes mit Visuell- und Infrarot-Informationen gestattet.

Claims

Patentansprüche
1. Verfahren zur Sichtbarmachung der Umgebung eines Fahrzeugs, insbesondere bei Dunkelheit, gekennzeichnet durch
- die Bereitstellung eines Visuell-Abbilds bzw. von dessen digitalen Daten der Umgebung, bevorzugt eines farbigen Visuell-Abbilds, wobei das visuelle Abbild die visuell sichtbaren Objekte zeigt, und
- die Bereitstellung eines Infrarot-Abbilds bzw. von dessen digitalen Daten der Umgebung, wobei das Infrarot-Abbild die von den visuell sichtbaren und/oder weiteren Objekten ausgehende Infrarot-Strahlung zeigt.
2. Verfahren nach Anspruch 1 , dadurch gekennzeichnet, dass das Visuell- Abbild oder das normalisierte Visuell-Abbild ggü. dem Infrarot-Abbild oder dem normalisierten Infrarot-Abbild oder umgekehrt durch die Verarbeitung von digitalen Daten der Abbilder ausgerichtet wird, so dass weitgehend zeitgleiche und ortsgleiche Bild-Paare beider Spektralbereiche bereitgestellt werden.
3. Verfahren nach Anspruch 1 oder 2, dadurch gekennzeichnet, dass ortsgleiche Pixel oder Pixelbereiche der weitgehend zeit- und ortsgleichen Abbilder der unterschiedlichen Spektralbereiche durch Verarbeitung von de- ren digitalen Daten einander überlagert werden bzw. dass eine Mittelwertbildung vorgenommen wird und in einem fusionierten Bild dargestellt werden.
4. Verfahren nach Anspruch 3, dadurch gekennzeichnet, dass die Helligkeitswerte und/oder Farbwerte der Pixel oder Pixelbereiche überlagert bzw. für eine Mittelwertbildung herangezogen werden.
5. Verfahren nach einem der Ansprüche 3 oder 4, dadurch gekennzeichnet, dass eine gewichtete Überlagerung bzw. Mittelwertbildung für ein oder mehrere weitgehend ortsgleiche Pixel aus dem Visuell-Abbild und dem Infrarot- Abbild vorgenommen wird.
6. Verfahren nach einem der Ansprüche 3 bis 5, dadurch gekennzeichnet, dass die Gewichtung unter Berücksichtigung der Helligkeit und/oder der Sichtbedingungen der Umgebung des Fahrzeugs erfolgt.
7. Verfahren nach einem der Ansprüche 3 bis 6, dadurch gekennzeichnet, dass Infrarot-Pixel und Visuell-Pixel oder solche Pixel-Bereiche bei der Überlagerung bzw. Fusion einander zugeordneter Pixel oder Pixel-Bereiche unterschiedlich gewichtet werden.
8. Verfahren nach einem der Ansprüche 3 bis 7, dadurch gekennzeichnet, dass informationsreiche Gebiete ggü. informationsarmen Gebieten des Visuell-Abbilds und/oder des Infrarot-Abbilds bei der Überlagerung bzw. Mittelwertbildung höher gewichtet werden.
9. Verfahren nach einem der Ansprüche 3 bis 8, dadurch gekennzeichnet, dass die Gewichtung und/oder Überlagerung der spektralen Anteile vom Fahrer im fusionierten Bild umgebungs- bzw. fahrsituationsabhängig manuell eingestellt wird.
10. Verfahren nach einem der Ansprüche 3 bis 9, dadurch gekennzeichnet, dass die Gewichtung und/oder Überlagerung der spektralen Anteile durch eine Überlagerungs- bzw. Fusionseinrichtung (106) umgebungs- bzw. fahrsituationsabhängig eingestellt wird, die umgebungs- bzw. fahrsituationsabhän- gige Parameter bzw. Ausgangssignale von am Fahrzeug angeordneten Sen- soren berücksichtigt.
11. Verfahren nach einem der Ansprüche 3 bis 10, dadurch gekennzeichnet, dass die umgebungs- oder fahrsituationsabhängige Einstellung für das gesamte fusionierte Bild oder für einen Teilbereich des fusionierten Bilds vorgenommen wird.
12. Verfahren nach einem der Ansprüche 9 bis 11 , dadurch gekennzeichnet, dass die umgebungs- bzw. fahrsituationsabhängige Einstellung von der aktuellen Fahrumgebung abhängt, wie von der Wettersituation, z.B. Nebel und/oder Regen und/oder nasse bzw. spiegelnde Fahrbahn, Abstand zu ei- nem vorausfahrenden Fahrzeug, Stadtfahrt, Landfahrt oder Autobahnfahrt, wobei letztere Informationen beispielsweise anhand eines im Fahrzeug vorgesehenen Navigationssystems unter Verarbeitung von kartografischen Daten ermittelt werden.
13. Verfahren nach einem der Ansprüche 9 bis 12, dadurch gekennzeichnet, dass die umgebungs- bzw. fahrsituationsabhängige Einstellung von der aktuellen Umfeldhelligkeit des Fahrzeugs abhängt.
14. Verfahren nach einem der Ansprüche 9 bis 13, dadurch gekennzeichnet, dass die fahrsituationsabhängige Einstellung von den aktuellen fahrdynamischen Größen des Fahrzeugs abhängt, wie insbesondere dessen Geschwindigkeit und/oder dessen Beschleunigung und/oder dessen Lenkwinkel.
15. Verfahren nach Anspruch 1 , dadurch gekennzeichnet, dass das Visuell- Abbild bzw. dessen digitale Daten durch eine im visuellen Spektralbereich empfindliche Visuell-Kamera, bevorzugt eine farbempfindliche Visuell- Kamera, oder einen solchen ersten Sensor und das Infrarot-Abbild bzw. dessen digitale Daten durch eine im infraroten Spektralbereich empfindliche Inf- rarot-Kamera oder einen solchen zweiten Sensor bereitgestellt wird.
16. Verfahren nach Anspruch 15, dadurch gekennzeichnet, dass die Visuell- Kamera oder der erste Sensor bzw. deren Optik eine erste optische Achse und die Infrarot-Kamera oder der zweite optische Sensor bzw. deren Optik eine zweite optische Achse aufweist, die insbesondere parallel zueinander versetzt sind, so dass die Kameras bzw. Sensoren zumindest teilweise unterschiedliche Ausschnitte der Umgebung des Fahrzeugs, d.h. einen ersten und einen zweiten Ausschnitt, bereitstellen.
17. Verfahren nach Anspruch 16, dadurch gekennzeichnet, dass der bereitge- stellte erste Ausschnitt und der bereitgestellte zweite Ausschnitt ganz oder teilweise durch eine Überlagerungs- bzw. Fusionseinrichtung (106) pixel- und/oder bereichsweise überlagert bzw. fusioniert werden, bei der Fusion mindestens ein entfernungsabhängiger, bevorzugt bei einer Kalibrierung für unterschiedliche Entfernungen gewonnener Anpassungsparameter, wie ins- besondere mindestens ein Registrierungs- oder Transformationsparameter, berücksichtigt ist und der oder die Anpassungsparameter bevorzugt bei der Kalibrierung in einem Datenspeicher im Fahrzeug gespeichert werden.
18. Verfahren nach Anspruch 17, dadurch gekennzeichnet, dass der mindes- tens eine entfernungsabhängige Anpassungsparameter durch eine erste Kalibrierung für eine erste Entfernung oder einen ersten Entfernungsbereich und mindestens eine weitere Kalibrierung für mindestens eine weitere Ent-. fernung oder einen weiteren Entfernungsbereich gewonnen wird.
19. Verfahren nach Anspruch 18, dadurch gekennzeichnet, dass die erste Entfernung bzw. der erste Entfernungsbereich einer für eine Stadtfahrt typischen Fahrsituation entspricht, wie insbesondere ein Entfernungsbereich von ca. 15 bis 75 m.
20. Verfahren nach Anspruch 18 oder 19, dadurch gekennzeichnet, dass eine zweite Entfernung bzw. ein zweiter Entfernungsbereich einer für eine Landstrassenfahrt typischen Fahrsituation entspricht, wie insbesondere ein Entfernungsbereich von ca. 30 bis 150 m.
21. Verfahren nach einem der Ansprüche 18 bis 20, dadurch gekennzeichnet, dass eine dritte Entfernung bzw. ein dritter Entfernungsbereich einer für eine Autobahnfahrt typischen Fahrsituation entspricht, wie insbesondere ein Entfernungsbereich von ca. 50 bis 250 m.
22. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass die aktuelle Fahrsituation des Fahrzeugs automatisch ermittelt wird und/oder der Fahrer einen ihm geeignet erscheinenden Anpassungsparameter aus einer Mehrzahl von Anpassungsparametern auswählt und der der aktuellen Fahrsituation entsprechende oder ausgewählte, durch
Kalibrierung gewonnene und im Fahrzeug gespeicherte Anpassungsparameter bei der pixel- und/oder bereichsweisen Überlagerung bzw. Fusionierung des Visuell-Abbilds und des Infrarot-Abbilds von der digitalen Fusions- Bildverarbeitung berücksichtigt ist, wodurch bevorzugt ein weitgehend ver- zerrungsfreies und/oder geisterbildfreies Fusions-Abbild der Umgebung entsteht.
23. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass die aktuelle Position des Fahrzeugs automatisch von einem Fahrzeug-Navigationssystem, insbesondere ein Satelliten-
Navigationssystem, und die der Position entsprechende Straßenkategorie bzw. Fahrsituation, wie insbesondere Stadtstrasse, Landstrasse oder Autobahn, ermittelt wird.
24. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass die Fahrsituation automatisch anhand mindestens einer fahrdynamischen Größe, wie insbesondere die Fahrzeug-Geschwindigkeit und/oder der Betrieb des Abblend- bzw. Fernlichts und/oder die Fahrzeug- Beschleunigung, ermittelt wird.
25. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass die von den visuell sichtbaren Objekten und/oder den weiteren Objekten ausgehende und erfasste Infrarot-Strahlung eine Wellenlänge im Bereich von ca. 7 bis 14 μm, bevorzugt ca. 7,5 - 10,5 μm, aufweist.
26. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass die von den visuell sichtbaren Objekten und/oder den weiteren Objekten ausgehende und erfasste Infrarot-Strahlung eine Wellenlänge im Bereich von ca. 3 μm bis ca. 5 μm, aufweist.
27. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass die von den visuell sichtbaren Objekten und/oder den weiteren Objekten ausgehende und erfasste Infrarot-Strahlung eine Wellenlänge im Bereich von ca. 800 nm bis ca. 2,5 μm, aufweist.
28. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass das in Form von digitalen Daten vorliegende Visuell-Abbild der Umgebung des Fahrzeugs unter Verwendung einer Kalibriervorrichtung normalisiert wird.
29. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass das in Form von digitalen Daten vorliegende Infrarot-Abbild des Ausschnitts der Umgebung unter Verwendung der Kalibriervorrichtung normalisiert wird.
30. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass von der Kalibriervorrichtung visuell sichtbare Strahlung und Infrarot-Strahlung ausgesandt wird.
31. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass die Kalibriervorrichtung mindestens eine Glühlampe aufweist, die im Fall von mehreren Glühlampen vorzugsweise schachbrettartig angeordnet sind.
32. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass die digitalen Daten des Visuell-Abbilds und/oder des Infrarot- Abbilds in einem Bilddatenspeicher temporär gespeichert werden.
33. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass die Bildwiederholrate der Visuell-Kamera oder des ersten Sensors und der Infrarot-Kamera oder des zweiten Sensors zumindest weitgehend identisch sind.
34. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass ortsgleiche Pixel oder Pixelbereiche der weitgehend zeit- und ortsgleichen Abbilder der unterschiedlichen Spektralbereiche durch Verarbeitung von deren digitalen Daten einander überlagert werden bzw. dass eine Mittelwertbildung vorgenommen wird.
35. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass die Helligkeitswerte und/oder Farbwerte der Pixel oder Pixelbereiche überlagert bzw. für eine Mittelwertbildung herangezogen werden.
36. Verfahren nach einem der einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass eine gewichtete Überlagerung bzw. Mittelwertbildung für ein oder mehrere weitgehend ortsgleiche Pixel aus dem Visuell-Abbild und dem Infrarot-Abbild vorgenommen wird.
37. Vorrichtung (100) zur Sichtbarmachung der Umgebung eines Fahrzeugs, insbesondere während der Dunkelheit, dadurch gekennzeichnet, dass die Vorrichtung ein Verfahren nach einem der Ansprüche 1 bis 36 ausführt.
38. Vorrichtung nach Anspruch 37, gekennzeichnet durch eine Visuell-Kamera (101), bevorzugt eine farbempfindliche Visuell-Kamera, eine Infrarot-Kamera (102), eine erste Normalisierungsvorichtung (103) zur Normalisierung des von der Visuell-Kamera bereitgestellten, vorzugsweise farbigen visuellen Abbilds des Ausschnitts der Umgebung des Fahrzeugs, eine zweite Normali- sierungsvorrichtung (104) zur Normalisierung des von der Infrarot-Kamera
(102) bereitgestellten Infrarot-Abbilds des Ausschnitts der Umgebung des Fahrzeugs, eine Ausricht-Vorrichtung (105) zur Erzeugung von weitgehend zeit- und ortsgleichen Bildpaaren aus Visuell-Abbildern und Infrarot- Abbildern sowie eine Fusions- bzw. Überlagerungseinrichtung (106), die die weitgehend zeit- und ortsgleichen Bildpaare pixelweise oder bereichsweise überlagert und/oder Mittelwerte bildet.
39. Kalibriervorrichtung, dadurch gekennzeichnet, dass sie zur Kalibrierung einer Vorrichtung nach Anspruch 37 oder 38 dient und mindestens eine Strahlungsquelle aufweist, die sowohl visuell sichtbare Strahlung als auch Infrarot-Strahlung abgibt, wie insbesondere eine Glühlampe.
EP04706661A 2003-02-06 2004-01-30 Verfahren und vorrichtung zur sichtbarmachung der umgebung eines fahrzeugs mit umgebungsabh ngiger fusion eines infrarot- und eines visuell-abbilds Withdrawn EP1590697A1 (de)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE10304703.4A DE10304703B4 (de) 2003-02-06 2003-02-06 Verfahren und Vorrichtung zur Sichtbarmachung der Umgebung eines Fahrzeugs mit umgebungsabhängiger Fusion eines Infrarot- und eines Visuell-Abbilds
DE10304703 2003-02-06
PCT/EP2004/000848 WO2004070449A1 (de) 2003-02-06 2004-01-30 Verfahren und vorrichtung zur sichtbarmachung der umgebung eines fahrzeugs mit umgebungsabhängiger fusion eines infrarot- und eines visuell-abbilds

Publications (1)

Publication Number Publication Date
EP1590697A1 true EP1590697A1 (de) 2005-11-02

Family

ID=32730784

Family Applications (1)

Application Number Title Priority Date Filing Date
EP04706661A Withdrawn EP1590697A1 (de) 2003-02-06 2004-01-30 Verfahren und vorrichtung zur sichtbarmachung der umgebung eines fahrzeugs mit umgebungsabh ngiger fusion eines infrarot- und eines visuell-abbilds

Country Status (7)

Country Link
US (1) US7199366B2 (de)
EP (1) EP1590697A1 (de)
JP (1) JP4491453B2 (de)
KR (1) KR20050103194A (de)
CN (1) CN100401129C (de)
DE (1) DE10304703B4 (de)
WO (1) WO2004070449A1 (de)

Families Citing this family (138)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7834905B2 (en) * 2002-06-18 2010-11-16 Bayerische Motoren Werke Aktiengesellschaft Method and system for visualizing the environment of a vehicle with a distance-dependent merging of an infrared and a visual image
US7427758B2 (en) 2003-05-28 2008-09-23 Opto-Knowledge Systems, Inc. Cryogenically cooled adjustable apertures for infra-red cameras
DE10348109A1 (de) * 2003-10-16 2005-05-19 Bayerische Motoren Werke Ag Verfahren und Vorrichtung zur Sichtbarmachung einer Fahrzeugumgebung
WO2005072431A2 (en) * 2004-01-27 2005-08-11 Sarnoff Corporation A method and apparatus for combining a plurality of images
DE102004060461A1 (de) * 2004-12-16 2006-07-06 Daimlerchrysler Ag Verfahren zum Betreiben einer Leuchteinrichtung und Vorrichtung zum Betreiben einer Leuchteinrichtung
DE102004061831A1 (de) * 2004-12-22 2006-07-06 Hella Kgaa Hueck & Co. Verfahren und Vorrichtung zur kombinierten Auswertung der Signale eines Regensensors und einer Kamera
DE102005006290A1 (de) * 2005-02-11 2006-08-24 Bayerische Motoren Werke Ag Verfahren und Vorrichtung zur Sichtbarmachung der Umgebung eines Fahrzeugs durch Fusion eines Infrarot- und eines Visuell-Abbilds
US7340162B2 (en) * 2005-02-23 2008-03-04 Flir Systems, Inc. Infrared camera systems and methods
US8077995B1 (en) 2005-02-23 2011-12-13 Flir Systems, Inc. Infrared camera systems and methods using environmental information
US7419298B2 (en) * 2005-05-24 2008-09-02 United Technologies Corporation Thermal imaging method and apparatus
DE102005041241A1 (de) * 2005-08-31 2007-04-19 Valeo Schalter Und Sensoren Gmbh Verfahren und System zum Betreiben eines Kamerasystems eines Fahrzeugs
DE102006014504B3 (de) * 2006-03-23 2007-11-08 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Bilderfassungssystem für Kraft- und Schienenfahrzeuge sowie Verfahren zur elektronischen Bilderfassung
JP4793638B2 (ja) * 2006-03-27 2011-10-12 マツダ株式会社 車両用歩行者検出装置
US7885469B2 (en) * 2006-05-22 2011-02-08 Microsoft Corporation Encoded high dynamic range textures
US7786898B2 (en) 2006-05-31 2010-08-31 Mobileye Technologies Ltd. Fusion of far infrared and visible images in enhanced obstacle detection in automotive applications
US7636098B2 (en) 2006-09-28 2009-12-22 Microsoft Corporation Salience preserving image fusion
DE102006053109B3 (de) 2006-11-10 2008-06-12 Audi Ag Verfahren zur bildhaften Darstellung einer Fahrzeugumgebung und Bilderfassungssystem
DE102006055905B4 (de) * 2006-11-27 2020-01-30 Adc Automotive Distance Control Systems Gmbh Verfahren zur Fahrzeugumfelderkennung und Vorrichtung zur Umfelderkennung in einem Kraftfahrzeug
DE102006062061B4 (de) * 2006-12-29 2010-06-10 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Verfahren und Computerprogramm zum Bestimmen einer Position basierend auf einem Kamerabild von einer Kamera
DE102007021035A1 (de) * 2007-05-04 2008-11-13 Siemens Ag Bildverarbeitungs-, Bildvisualisierungs- und Bildarchivierungssystem zur kontrasterhaltenden Fusionierung und Visualisierung koregistrierter Bilddaten
JP2008306512A (ja) * 2007-06-08 2008-12-18 Nec Corp 情報提供システム
US8164813B1 (en) 2007-06-16 2012-04-24 Opto-Knowledge Systems, Inc. Non-circular continuous variable aperture or shutter for infrared cameras
US8368741B2 (en) * 2007-06-27 2013-02-05 General Instrument Corporation Apparatus and system for improving image quality
FR2922072B1 (fr) * 2007-10-03 2011-04-29 Latecoere Procede et systeme d'aide au roulage d'un aeronef
US8446470B2 (en) * 2007-10-04 2013-05-21 Magna Electronics, Inc. Combined RGB and IR imaging sensor
US10425595B2 (en) 2007-11-28 2019-09-24 Flir Systems, Inc. Modular camera systems and methods
WO2012116112A1 (en) * 2011-02-25 2012-08-30 Flir Systems, Inc. Modular infrared camera systems and methods
DE102008004370A1 (de) * 2008-01-15 2009-07-16 Robert Bosch Gmbh Bildjustageverfahren für ein Videobild
US8274226B1 (en) * 2008-10-06 2012-09-25 Tomar Electronics, Inc. System and method of integrating an LED spotlight
US7772539B2 (en) * 2008-10-10 2010-08-10 General Electric Company System and method for determining characteristic information of an object positioned adjacent to a route
US8840249B2 (en) 2008-10-31 2014-09-23 Christie Digital Systems, Inc. Method, system and apparatus for projecting visible and non-visible images
US8489353B2 (en) * 2009-01-13 2013-07-16 GM Global Technology Operations LLC Methods and systems for calibrating vehicle vision systems
US9473681B2 (en) 2011-06-10 2016-10-18 Flir Systems, Inc. Infrared camera system housing with metalized surface
US9948872B2 (en) 2009-03-02 2018-04-17 Flir Systems, Inc. Monitor and control systems and methods for occupant safety and energy efficiency of structures
US9843742B2 (en) 2009-03-02 2017-12-12 Flir Systems, Inc. Thermal image frame capture using de-aligned sensor array
US9674458B2 (en) 2009-06-03 2017-06-06 Flir Systems, Inc. Smart surveillance camera systems and methods
US9208542B2 (en) 2009-03-02 2015-12-08 Flir Systems, Inc. Pixel-wise noise reduction in thermal images
US9998697B2 (en) 2009-03-02 2018-06-12 Flir Systems, Inc. Systems and methods for monitoring vehicle occupants
US10757308B2 (en) 2009-03-02 2020-08-25 Flir Systems, Inc. Techniques for device attachment with dual band imaging sensor
US9235876B2 (en) 2009-03-02 2016-01-12 Flir Systems, Inc. Row and column noise reduction in thermal images
US9517679B2 (en) 2009-03-02 2016-12-13 Flir Systems, Inc. Systems and methods for monitoring vehicle occupants
USD765081S1 (en) 2012-05-25 2016-08-30 Flir Systems, Inc. Mobile communications device attachment with camera
US9986175B2 (en) 2009-03-02 2018-05-29 Flir Systems, Inc. Device attachment with infrared imaging sensor
US8749635B2 (en) 2009-06-03 2014-06-10 Flir Systems, Inc. Infrared camera systems and methods for dual sensor applications
US9635285B2 (en) 2009-03-02 2017-04-25 Flir Systems, Inc. Infrared imaging enhancement with fusion
US10244190B2 (en) * 2009-03-02 2019-03-26 Flir Systems, Inc. Compact multi-spectrum imaging with fusion
US9451183B2 (en) 2009-03-02 2016-09-20 Flir Systems, Inc. Time spaced infrared image enhancement
US9756264B2 (en) 2009-03-02 2017-09-05 Flir Systems, Inc. Anomalous pixel detection
EP2254091B1 (de) * 2009-05-19 2020-03-25 Veoneer Sweden AB Sichtsystem und -verfahren für ein Kraftfahrzeug
US9819880B2 (en) 2009-06-03 2017-11-14 Flir Systems, Inc. Systems and methods of suppressing sky regions in images
US10091439B2 (en) 2009-06-03 2018-10-02 Flir Systems, Inc. Imager with array of multiple infrared imaging modules
US9292909B2 (en) 2009-06-03 2016-03-22 Flir Systems, Inc. Selective image correction for infrared imaging devices
US9716843B2 (en) 2009-06-03 2017-07-25 Flir Systems, Inc. Measurement device for electrical installations and related methods
US9756262B2 (en) 2009-06-03 2017-09-05 Flir Systems, Inc. Systems and methods for monitoring power systems
US10044946B2 (en) 2009-06-03 2018-08-07 Flir Systems Ab Facilitating analysis and interpretation of associated visible light and infrared (IR) image information
US9843743B2 (en) 2009-06-03 2017-12-12 Flir Systems, Inc. Infant monitoring systems and methods using thermal imaging
US8599264B2 (en) * 2009-11-20 2013-12-03 Fluke Corporation Comparison of infrared images
US8279285B2 (en) 2010-04-14 2012-10-02 Canon Kabushiki Kaisha Hybrid imaging with visible and quantum entanglement images
US9207708B2 (en) 2010-04-23 2015-12-08 Flir Systems, Inc. Abnormal clock rate detection in imaging sensor arrays
US9848134B2 (en) 2010-04-23 2017-12-19 Flir Systems, Inc. Infrared imager with integrated metal layers
US9706138B2 (en) 2010-04-23 2017-07-11 Flir Systems, Inc. Hybrid infrared sensor array having heterogeneous infrared sensors
US8102306B2 (en) * 2010-05-13 2012-01-24 The United States Of America As Represented By The Secretary Of The Navy Active-radar-assisted passive composite imagery for aiding navigation or detecting threats
US8768101B1 (en) 2010-06-30 2014-07-01 The United States Of America As Represented By The Secretary Of The Air Force Target image registration and fusion
DE102010026223A1 (de) * 2010-07-06 2011-05-12 Daimler Ag Fahrzeug mit mehreren Bilderfassungseinheiten zur Erfassung eines seitlich neben und seitlich hinter dem Fahrzeug befindlichen Bereichs
JP2012027773A (ja) * 2010-07-26 2012-02-09 Toyota Central R&D Labs Inc 擬似濃淡画像生成装置及びプログラム
US8836793B1 (en) 2010-08-13 2014-09-16 Opto-Knowledge Systems, Inc. True color night vision (TCNV) fusion
US9143709B1 (en) 2011-05-09 2015-09-22 Exelis, Inc. Non-uniformity correction (NUC) gain damping
US9509924B2 (en) 2011-06-10 2016-11-29 Flir Systems, Inc. Wearable apparatus with integrated infrared imaging module
US9961277B2 (en) 2011-06-10 2018-05-01 Flir Systems, Inc. Infrared focal plane array heat spreaders
US9143703B2 (en) 2011-06-10 2015-09-22 Flir Systems, Inc. Infrared camera calibration techniques
US9900526B2 (en) 2011-06-10 2018-02-20 Flir Systems, Inc. Techniques to compensate for calibration drifts in infrared imaging devices
US9706137B2 (en) 2011-06-10 2017-07-11 Flir Systems, Inc. Electrical cabinet infrared monitor
US10169666B2 (en) 2011-06-10 2019-01-01 Flir Systems, Inc. Image-assisted remote control vehicle systems and methods
US9235023B2 (en) 2011-06-10 2016-01-12 Flir Systems, Inc. Variable lens sleeve spacer
US10079982B2 (en) 2011-06-10 2018-09-18 Flir Systems, Inc. Determination of an absolute radiometric value using blocked infrared sensors
CN103828343B (zh) 2011-06-10 2017-07-11 菲力尔系统公司 基于行的图像处理和柔性存储系统
US10841508B2 (en) 2011-06-10 2020-11-17 Flir Systems, Inc. Electrical cabinet infrared monitor systems and methods
US10389953B2 (en) 2011-06-10 2019-08-20 Flir Systems, Inc. Infrared imaging device having a shutter
EP2719167B1 (de) 2011-06-10 2018-08-08 Flir Systems, Inc. Infrarotabbildung mit geringem stromverbrauch und geringem formfaktor
US9058653B1 (en) 2011-06-10 2015-06-16 Flir Systems, Inc. Alignment of visible light sources based on thermal images
EP2719165B1 (de) 2011-06-10 2018-05-02 Flir Systems, Inc. Ungleichmässigkeitskorrekturverfahren für infrarot-bildgebungsvorrichtungen
US10051210B2 (en) 2011-06-10 2018-08-14 Flir Systems, Inc. Infrared detector array with selectable pixel binning systems and methods
CA2867895C (en) * 2012-03-19 2018-03-06 Flir Systems, Inc. Wearable apparatus with integrated infrared imaging module
US8824828B1 (en) * 2012-03-28 2014-09-02 Exelis, Inc. Thermal V-curve for fusion image declutter
US8994845B2 (en) * 2012-04-27 2015-03-31 Blackberry Limited System and method of adjusting a camera based on image data
US9811884B2 (en) 2012-07-16 2017-11-07 Flir Systems, Inc. Methods and systems for suppressing atmospheric turbulence in images
KR101858646B1 (ko) * 2012-12-14 2018-05-17 한화에어로스페이스 주식회사 영상 융합 장치 및 방법
DE102012025270A1 (de) 2012-12-21 2013-08-01 Daimler Ag Kamerasystem für einen Kraftwagen und Verfahren zum Mischen von zumindest zwei Bildsequenzen
US9580014B2 (en) * 2013-08-08 2017-02-28 Convoy Technologies Llc System, apparatus, and method of detecting and displaying obstacles and data associated with the obstacles
US9973692B2 (en) 2013-10-03 2018-05-15 Flir Systems, Inc. Situational awareness by compressed display of panoramic views
US11297264B2 (en) 2014-01-05 2022-04-05 Teledyne Fur, Llc Device attachment with dual band imaging sensor
US9990730B2 (en) 2014-03-21 2018-06-05 Fluke Corporation Visible light image with edge marking for enhancing IR imagery
US9996913B2 (en) 2014-04-07 2018-06-12 Bae Systems Information And Electronic Systems Integration Inc. Contrast based image fusion
BR112015030886B1 (pt) 2014-04-18 2022-09-27 Autonomous Solutions, Inc. Veículo, sistema de visão para uso por um veículo e método de direcionamento de um veículo com o uso de um sistema de visão
WO2015170869A1 (ko) * 2014-05-07 2015-11-12 서울대학교산학협력단 협력 통신을 이용하여 주변 이동체를 탐지하는 방법 및 시스템
KR101637374B1 (ko) * 2014-05-07 2016-07-07 서울대학교산학협력단 협력 통신을 이용하여 주변 이동체를 탐지하는 방법 및 시스템
KR101990367B1 (ko) * 2014-05-08 2019-06-18 한화테크윈 주식회사 영상 융합 방법
WO2015182135A1 (ja) * 2014-05-30 2015-12-03 パナソニックＩｐマネジメント株式会社 センシングシステム及び運転支援システム
US9628659B2 (en) * 2015-01-08 2017-04-18 GM Global Technology Operations LLC Method and apparatus for inspecting an object employing machine vision
WO2016122969A1 (en) * 2015-01-26 2016-08-04 Trw Automotive U.S. Llc Vehicle driver assist system
US10023118B2 (en) * 2015-03-23 2018-07-17 Magna Electronics Inc. Vehicle vision system with thermal sensor
EP3295376A4 (de) * 2015-05-15 2019-06-12 Airfusion, Inc. Tragbare vorrichtung und verfahren zur entscheidungsunterstützung für echtzeit-automatisierte multisensor-datenfusion und -analyse
US10152811B2 (en) 2015-08-27 2018-12-11 Fluke Corporation Edge enhancement for thermal-visible combined images and cameras
US9781361B2 (en) * 2015-09-01 2017-10-03 Delphi Technologies, Inc. Integrated camera, ambient light detection, and rain sensor assembly
KR102371589B1 (ko) * 2016-06-27 2022-03-07 현대자동차주식회사 전방 차량 검출 장치 및 방법
CN106127720B (zh) * 2016-06-29 2019-01-11 青岛海信移动通信技术股份有限公司 一种拍摄放大图像的方法和装置
US20190182930A1 (en) 2016-07-28 2019-06-13 Philips Lighting Holding B.V. Method for calibration of lighting system sensors
DE102016217081A1 (de) * 2016-09-08 2018-03-08 Robert Bosch Gmbh Verfahren und Vorrichtung zum Empfangen, Verarbeiten und Übertragen von Daten
US10929955B2 (en) 2017-06-05 2021-02-23 Adasky, Ltd. Scene-based nonuniformity correction using a convolutional recurrent neural network
US11012594B2 (en) 2017-06-05 2021-05-18 Adasky, Ltd. Techniques for correcting oversaturated pixels in shutterless FIR cameras
US10699386B2 (en) 2017-06-05 2020-06-30 Adasky, Ltd. Techniques for scene-based nonuniformity correction in shutterless FIR cameras
US10511793B2 (en) 2017-06-05 2019-12-17 Adasky, Ltd. Techniques for correcting fixed pattern noise in shutterless FIR cameras
WO2018226437A1 (en) * 2017-06-05 2018-12-13 Adasky, Ltd. Shutterless far infrared (fir) camera for automotive safety and driving systems
CN107230199A (zh) * 2017-06-23 2017-10-03 歌尔科技有限公司 图像处理方法、装置和增强现实设备
US20200172135A1 (en) * 2017-08-10 2020-06-04 Siemens Mobility GmbH Sensor-controlled adjustment of odometric measurement parameters to weather conditions
CN107566747B (zh) * 2017-09-22 2020-02-14 浙江大华技术股份有限公司 一种图像亮度增强方法及装置
KR102146837B1 (ko) * 2018-09-05 2020-08-21 주식회사 옵트론텍 이미지 통합 장치 및 이를 포함하는 운전 보조 시스템
US10698415B2 (en) 2018-10-31 2020-06-30 Trw Automotive U.S. Llc Vehicle assist system
WO2020111990A1 (en) * 2018-11-28 2020-06-04 Saab Ab A method, software product, device and system for integrating images
KR102235031B1 (ko) * 2019-01-24 2021-04-01 주식회사 아이에이 실시간 처리 가능 카메라 기반 주행 환경 탐지 차량 시스템
CN109733285B (zh) * 2019-02-27 2021-05-07 百度在线网络技术（北京）有限公司 车辆行驶状态显示方法、设备和系统
DE102019205009B4 (de) * 2019-04-08 2024-06-20 Zf Friedrichshafen Ag Verfahren, Steuergerät, Set und Computerprogrammprodukt zum Kalibrieren einer Kamera und Kalibrieren einer Fahrzeugkamera mit Nachtsichtfähigkeit
US11555743B2 (en) * 2019-07-01 2023-01-17 Snap-On Incorporated Method and system for calibrating imaging system
US11709099B2 (en) 2019-07-01 2023-07-25 Snap-On Incorporated Method and system for calibrating imaging system
CN110458877B (zh) * 2019-08-14 2023-02-24 湖南科华军融民科技研究院有限公司 基于仿生视觉的红外与可见光信息融合的导航方法
CN110889398B (zh) * 2019-12-19 2022-01-14 南通大学 一种基于相似度网络的多模态图像能见度检测方法
US11244500B2 (en) 2019-12-31 2022-02-08 Woven Planet North America, Inc. Map feature extraction using overhead view images
US11288522B2 (en) 2019-12-31 2022-03-29 Woven Planet North America, Inc. Generating training data from overhead view images
US11037328B1 (en) 2019-12-31 2021-06-15 Lyft, Inc. Overhead view image generation
US11623653B2 (en) 2020-01-23 2023-04-11 Toyota Motor Engineering & Manufacturing North America, Inc. Augmented reality assisted traffic infrastructure visualization
DE102020214781A1 (de) 2020-11-25 2022-05-25 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren und Vorrichtung zum Erzeugen eines fusionierten Kamerabilds für eine Fahrzeugkameraeinrichtung
DE102020214791A1 (de) 2020-11-25 2022-05-25 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren und Vorrichtung zum Erzeugen eines fusionierten Kamerabilds für eine Fahrzeugkameraeinrichtung
CN112991218B (zh) * 2021-03-23 2024-07-09 北京百度网讯科技有限公司 图像处理的方法、装置、设备以及存储介质
US12142020B2 (en) 2021-04-27 2024-11-12 Arete Associates Systems and methods for estimating visibility in a scene
EP4149106A1 (de) 2021-09-09 2023-03-15 Axis AB Bildstrom mit farbmetadaten
JP7830081B2 (ja) * 2021-11-15 2026-03-16 株式会社小松製作所 表示システム及び表示方法
US11722789B1 (en) * 2022-02-01 2023-08-08 Ford Global Technologies, Llc Multi-camera imaging system selecting between visible and infrared views in a vehicle
CN119058725B (zh) * 2023-05-31 2025-12-16 比亚迪股份有限公司 自适应感知融合行车方法、装置、存储介质和车辆

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5001558A (en) * 1985-06-11 1991-03-19 General Motors Corporation Night vision system with color video camera
JPH01296785A (ja) * 1988-05-24 1989-11-30 Fujitsu Ltd 画像重畳装置
US5140416A (en) 1990-09-18 1992-08-18 Texas Instruments Incorporated System and method for fusing video imagery from multiple sources in real time
FR2674198B1 (fr) * 1991-03-22 1993-05-28 Renault Procede et dispositif d'amelioration de la vision automobile de nuit.
FI96993C (fi) 1992-01-30 1996-09-25 Vaisala Oy Kalibrointimenetelmä kaasujen pitoisuuden mittausta varten
FR2687000A1 (fr) * 1992-01-31 1993-08-06 Renault Procede et dispositif de detection de vehicules et de marquages au sol.
US6150930A (en) * 1992-08-14 2000-11-21 Texas Instruments Incorporated Video equipment and method to assist motor vehicle operators
US5414439A (en) 1994-06-09 1995-05-09 Delco Electronics Corporation Head up display with night vision enhancement
DE19638140A1 (de) 1996-09-18 1998-03-19 Franz Huber Sichtabbildungsvorrichtung für Kraftfahrzeuge
WO1999036904A1 (en) 1998-01-16 1999-07-22 Thresholds Unlimited, Inc. Head up display and vision system
DE19801884A1 (de) 1998-01-20 1999-07-22 Mannesmann Vdo Ag Überwachungssystem für Fahrzeuge
JP3298851B2 (ja) * 1999-08-18 2002-07-08 松下電器産業株式会社 多機能車載カメラシステムと多機能車載カメラの画像表示方法
DE10016184C2 (de) 2000-03-31 2002-02-07 Audi Ag Vorrichtung zur Anzeige der Umgebung eines Fahrzeugs
EP1202214A3 (de) * 2000-10-31 2005-02-23 Matsushita Electric Industrial Co., Ltd. Verfahren und Gerät zur Erkennung von Gegenständen
DE10218175B4 (de) 2002-04-24 2011-10-27 Bayerische Motoren Werke Aktiengesellschaft Verfahren und Vorrichtung zur Sichtbarmachung der Umgebung eines Fahrzeugs mit fahrsituationsabhängiger Fusion eines Infrarot- und eines Visuell-Abbilds
DE10227171B4 (de) * 2002-06-18 2019-09-26 Bayerische Motoren Werke Aktiengesellschaft Verfahren und Vorrichtung zur Sichtbarmachung der Umgebung eines Fahrzeugs mit abstandsabhängiger Fusion eines Infrarot- und eines Visuell-Abbilds

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See references of WO2004070449A1 *

Also Published As

Publication number Publication date
US20050270784A1 (en) 2005-12-08
DE10304703A1 (de) 2004-08-19
JP2006516507A (ja) 2006-07-06
KR20050103194A (ko) 2005-10-27
CN100401129C (zh) 2008-07-09
JP4491453B2 (ja) 2010-06-30
CN1748167A (zh) 2006-03-15
US7199366B2 (en) 2007-04-03
DE10304703B4 (de) 2023-03-16
WO2004070449A1 (de) 2004-08-19

Similar Documents

Publication Publication Date Title
DE10304703B4 (de) Verfahren und Vorrichtung zur Sichtbarmachung der Umgebung eines Fahrzeugs mit umgebungsabhängiger Fusion eines Infrarot- und eines Visuell-Abbilds
DE69618192T2 (de) Fahrzeug-rückblicksystem mit panoramischer sicht
EP1504960B1 (de) Verfahren und Vorrichtung zur Verbesserung der Sicht in einem Kraftfahrzeug
DE69709810T2 (de) Rückblickeinrichtung mit Kamera für Kraftfahrzeug
EP2603402B1 (de) Verfahren zum anzeigen von bildern auf einer anzeigeeinrichtung und fahrerassistenzsystem
DE102012025322B4 (de) Kraftfahrzeug mit Kamera-Monitor-System
EP1846794A1 (de) Verfahren und vorrichtung zur sichtbarmachung der umgebung eines fahrzeugs durch fusion eines infrarot- und eines visuell-abbilds
DE10253510A1 (de) Vorrichtung und Verfahren zur Verbesserung der Sicht in einem Kraftfahrzeug
WO1999037503A1 (de) Überwachungssystem für fahrzeuge
EP3488607B1 (de) Kameravorrichtung zur aufnahme eines umgebungsbereichs eines eigenen fahrzeugs sowie verfahren zur bereitstellung einer fahrerassistenzfunktion
DE102019216348A1 (de) Fahrzeugunterstützungssystem
EP3434523A1 (de) Indirektes sichtsystem für ein fahrzeug
DE112009004861B4 (de) Spektrumsmessvorrichtung für einen beweglichen körper
EP1339228B1 (de) Verfahren und Vorrichtung zur Sichtbarmachung eines Ausschnitts der Umgebung eines Fahrzeugs sowie eine Kalibriereinheit zur Kalibrierung der Vorrichtung
DE10227171B4 (de) Verfahren und Vorrichtung zur Sichtbarmachung der Umgebung eines Fahrzeugs mit abstandsabhängiger Fusion eines Infrarot- und eines Visuell-Abbilds
DE10218175B4 (de) Verfahren und Vorrichtung zur Sichtbarmachung der Umgebung eines Fahrzeugs mit fahrsituationsabhängiger Fusion eines Infrarot- und eines Visuell-Abbilds
EP4536510B1 (de) Kamera-monitor-system für ein fahrzeug und verfahren zur steuerung eines solchen kamera-monitor-systems
DE10321228A1 (de) Optisches Erfassungssystem für Fahrzeuge
DE4304005A1 (de) Überwachungsvorrichtung für Fahrzeuge
DE102014224903A1 (de) Optischer Umfeldsensor für Fahrzeuge
DE102013220839B4 (de) Verfahren zum dynamischen Einstellen einer Helligkeit eines Bilds einer Rückansichts-Anzeigevorrichtung sowie entsprechendes Fahrzeugabbildungssystem
DE102020125232A1 (de) Verfahren zur Farbkorrektur für ein Kamerasystem sowie ein Kamerasystem
DE102006037600B4 (de) Verfahren zur auflösungsabhängigen Darstellung der Umgebung eines Kraftfahrzeugs
WO2019052936A1 (de) Dynamisch kolorierte anzeige eines fahrzeugs
DE102021202584A1 (de) Verfahren und Vorrichtung zum Erzeugen eines Lichtobjekts

Legal Events

Date Code Title Description
PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

17P Request for examination filed

Effective date: 20050618

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IT LI LU MC NL PT RO SE SI SK TR

AX Request for extension of the european patent

Extension state: AL LT LV MK

DAX Request for extension of the european patent (deleted)
RBV Designated contracting states (corrected)

Designated state(s): DE ES FR GB IT SE

RAP1 Party data changed (applicant data changed or rights of an application transferred)

Owner name: BAYERISCHE MOTOREN WERKE AKTIENGESELLSCHAFT

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE APPLICATION IS DEEMED TO BE WITHDRAWN

18D Application deemed to be withdrawn

Effective date: 20140923