DE102007058779B4 - Device of a motor vehicle for generating an image suitable for image analysis - Google Patents

Device of a motor vehicle for generating an image suitable for image analysis Download PDF

Info

Publication number
DE102007058779B4
DE102007058779B4 DE102007058779.3A DE102007058779A DE102007058779B4 DE 102007058779 B4 DE102007058779 B4 DE 102007058779B4 DE 102007058779 A DE102007058779 A DE 102007058779A DE 102007058779 B4 DE102007058779 B4 DE 102007058779B4
Authority
DE
Germany
Prior art keywords
video camera
image
scene
motor vehicle
hyper
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
DE102007058779.3A
Other languages
German (de)
Other versions
DE102007058779A1 (en
Inventor
Gerald Franz
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Priority to DE102007058779.3A priority Critical patent/DE102007058779B4/en
Publication of DE102007058779A1 publication Critical patent/DE102007058779A1/en
Application granted granted Critical
Publication of DE102007058779B4 publication Critical patent/DE102007058779B4/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01PMEASURING LINEAR OR ANGULAR SPEED, ACCELERATION, DECELERATION, OR SHOCK; INDICATING PRESENCE, ABSENCE, OR DIRECTION, OF MOVEMENT
    • G01P3/00Measuring linear or angular speed; Measuring differences of linear or angular speeds
    • G01P3/36Devices characterised by the use of optical means, e.g. using infrared, visible, or ultraviolet light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/22Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Abstract

Einrichtung eines Kraftfahrzeugs (1) zur Erzeugung eines für eine Bildanalyse geeigneten Bildes einer mindestens teilweise bewegten Szene, insbesondere einer Szene in der Umgebung eines Kraftfahrzeugs (1), wobei sich die Szene von einem Nahbereich bis zu einem Fernbereich erstreckt, wobei die Einrichtung mindestens eine auf die Szene gerichtete Videokamera (2) umfasst, dadurch gekennzeichnet, dass eine Fokussierung der Videokamera (2) derart eingestellt ist, dass Objekte im Nahbereich (N) unscharf aufgenommen werden, wobei die Einrichtung Mittel (11 bis 18) umfasst, welche die Schärfe von im Bild vorhandenen Kanten ermitteln und daraus eine Tiefeninformation gewinnen, und wobei die Mittel (11 bis 18), das Bild zweidimensional tiefpassfiltern, das tiefpassgefilterte Bild von dem aufgenommenen Bild subtrahieren und Kanten je nach Größe der Differenz vorgegebenen Tiefen zuordnen.Device of a motor vehicle (1) for generating an image suitable for image analysis of an at least partially moving scene, in particular a scene in the vicinity of a motor vehicle (1), the scene extending from a close range to a far range, the device at least one comprises video camera (2) directed at the scene, characterized in that a focusing of the video camera (2) is set in such a way that objects in the close-up range (N) are recorded out of focus, the device comprising means (11 to 18) for the sharpness determine of edges present in the image and obtain depth information therefrom, and wherein the means (11 to 18), two-dimensionally low-pass filtering the image, subtracting the low-pass filtered image from the recorded image and assigning edges to predetermined depths depending on the size of the difference.

Description

Stand der TechnikState of the art

Die Erfindung geht aus von einer Einrichtung eines Kraftfahrzeugs zur Erzeugung eines für eine Bildanalyse geeigneten Bildes einer mindestens teilweise bewegten Szene, wobei sich die Szene von einem Nahbereich bis zu einem Fernbereich erstreckt, wobei die Einrichtung mindestens eine auf die Szene gerichtete Videokamera umfasst.The invention is based on a device of a motor vehicle for generating an image suitable for image analysis of an at least partially moving scene, the scene extending from a close range to a far range, the device comprising at least one video camera directed at the scene.

Zur videobasierten Erkennung von Fahrbahnmarkierungen, Verkehrszeichen, Kraftfahrzeugen und anderen Verkehrsteilnehmern ist neben einer Muster- und Gestalterkennung auch die Verfolgung von wandernden Bildmerkmalen möglich, wie beispielsweise Kanten, Punkte extremer Helligkeit, Zentren von Flächen gleicher Farbe bzw. gleichem Grauwert. Diese Wanderung von Merkmalen im Bild wird als Bildfluss oder optischer Fluss bezeichnet. Aus der Fahrer-Perspektive im fahrenden Kraftfahrzeug können auf diese Weise die Fahrbahnmarkierungen und Verkehrszeichen von der umgebenden Szene und den vorausfahrenden und überholenden Kraftfahrzeugen unterschieden werden. Beispielsweise ist aus der deutschen Offenlegungsschrift DE 10 2005 027 887 A1 bekannt, dass ein Bildanalysemodul Bilder einer am Kraftfahrzeug angebrachten Videokamera analysiert und anhand der Form Verkehrszeichen selektiert. Ein auf dem optischen Fluss basierendes Verfahren zur Bestimmung der Eigenbewegung eines Kraftfahrzeugs ist beispielsweise in der deutschen Offenlegungsschrift DE 10 2005 000 651 A1 beschrieben.For video-based detection of lane markings, traffic signs, motor vehicles and other road users, in addition to pattern and design recognition, it is also possible to track moving image features, such as edges, points of extreme brightness, centers of areas of the same color or the same gray value. This migration of features in the image is known as image flow or optical flow. In this way, from the driver's perspective in the moving motor vehicle, the lane markings and traffic signs can be distinguished from the surrounding scene and the preceding and overtaking motor vehicles. For example, from the German Offenlegungsschrift DE 10 2005 027 887 A1 known that an image analysis module analyzes images from a video camera attached to the motor vehicle and selects traffic signs based on the shape. A method based on the optical flow for determining the proper movement of a motor vehicle is for example in the German Offenlegungsschrift DE 10 2005 000 651 A1 described.

Aus der DE 10 2004 037 871 A1 ist ein optisches Modul eines den Außenvorraum in Fahrtrichtung eines Kraftfahrzeuges erfassenden Assistenzsystems bekannt, mit einem Schaltungsträger; einem auf dem Schaltungsträger angeordneten Halbleiterelement und einer Linseneinheit zum Projizieren von elektromagnetischer Strahlung auf eine sensitive Fläche des Halbleiterelements. Sie zeichnet sich dadurch aus, dass die sensitive Fläche des Halbleiterelements eine Vielzahl lichtempfindlicher Zellen (Pixel) aufweist, welche zeitweise und/oder zumindest teilweise auch den Nahbereich der Windschutzscheibe des Kraftfahrzeuges erfassen.From the DE 10 2004 037 871 A1 an optical module of an assistance system which detects the outer vestibule in the direction of travel of a motor vehicle is known, with a circuit carrier; a semiconductor element arranged on the circuit carrier and a lens unit for projecting electromagnetic radiation onto a sensitive surface of the semiconductor element. It is characterized in that the sensitive surface of the semiconductor element has a large number of light-sensitive cells (pixels), which temporarily and / or at least partially also capture the close range of the windshield of the motor vehicle.

Aus der US 2006 / 0 088 191 AI sind Methoden und integrierte Systeme für die Analyse von Kamerabewegungen und bewegten Objekten sowie Methoden zum Extrahieren der Semantik hauptsächlich aus Kamerabewegungsparametern in Videos und Videosegmenten ohne Änderungen der Einstellungen bekannt. Die extrahierte Semantik kann direkt in einer Reihe von Anwendungen zum Verstehen und Verwalten von Videos / Bildern verwendet werden. Es werden auch automatische Verfahren zum Erfassen und Verfolgen von sich bewegenden Objekten beschrieben, die sich nicht auf die Kenntnis der Objekte von vornherein stützen. Die Methoden können in Echtzeit ausgeführt werden.From US 2006/0 088 191 AI methods and integrated systems for the analysis of camera movements and moving objects as well as methods for extracting the semantics mainly from camera movement parameters in videos and video segments without changing the settings are known. The extracted semantics can be used directly in a number of applications for understanding and managing videos / images. It also describes automatic methods for detecting and tracking moving objects that do not rely on a priori knowledge of the objects. The methods can be executed in real time.

Aus der WO 2007 / 063 478 A2 sind eine Vorrichtung und ein Verfahren bekannt, mittels denen 2D-Bilddaten in 3D-Bilddaten konvertiert werden. Das Bild wird auf der Basis von Fokussiereigenschaften in zwei oder mehr Regionen unterteilt, und es wird bestimmt, zu welcher Region eine Kante gehört, die zwei Regionen trennt. Die Regionen sind nach der Regel tiefengeordnet, dass die Regel, dass eine Region mit einer Kante näher am Betrachter liegt als eine benachbarte Region und den Regionen 3D-Tiefeninformationen zugeordnet sind, nach der festgelegten Tiefenreihenfolge der Regionen.From the WO 2007/063 478 A2 a device and a method are known by means of which 2D image data are converted into 3D image data. The image is divided into two or more regions based on focusing properties, and it is determined which region an edge that separates two regions belongs to. The regions are arranged in depth according to the rule that the rule that a region with one edge is closer to the viewer than an adjacent region and the regions are assigned 3D depth information according to the defined depth order of the regions.

Offenbarung der ErfindungDisclosure of the invention

Die erfindungsgemäße Einrichtung mit den Merkmalen des unabhängigen Anspruchs hat demgegenüber den Vorteil, dass diese Berechnungen leichter durchführbar sind. Vorteilhaft ist, dass die Fokussierung einer auf die Szene gerichteten Videokamera derart eingestellt ist, dass Objekte im Nahbereich unscharf aufgenommen werden. Ausgehend von der Definition der Hyper-Fokal-Entfernung erstreckt sich der Nahbereich N definitionsgemäß von der halben Hyper-Fokal-Entfernung bis zur Hyper-Fokal-Entfernung, während sich der Fernbereich von der Hyper-Fokal-Entfernung bis ins Unendliche erstreckt. Ein vorteilhafter Nahbereich ist beispielsweise 3m bis 10m vor dem Kraftfahrzeug.The device according to the invention with the features of the independent claim has the advantage that these calculations are easier to carry out. It is advantageous that the focusing of a video camera directed at the scene is set in such a way that objects in the close-up range are recorded out of focus. Based on the definition of the hyper-focal distance, the near area N extends by definition from half the hyper-focal distance to the hyper-focal distance, while the far area extends from the hyper-focal distance to infinity. An advantageous close range is, for example, 3 m to 10 m in front of the motor vehicle.

Um einen möglichst großen Tiefenschärfenbereich zu erhalten werden Videokameras auf die sogenannte Hyper-Fokal-Entfernung eingestellt, das heißt, der Tiefenschärfenbereich erstreckt sich von einem Nahpunkt bis zum Fernpunkt im Unendlichen. Bei der erfindungsgemäßen Einrichtung wird der Abstand zwischen Objektiv und Bildsensor verkleinert, so dass die Videokamera auf eine Entfernung fokussiert ist, die größer als die Hyper-Fokal-Entfernung der Videokamera ist. Somit werden weit entfernte Objekte etwas schärfer abgebildet, während die Objekte im Nahbereich abhängig von der Entfernung zumindest teilweise unscharf, das heißt detailärmer, abgebildet werden. Insgesamt wird damit der Nahbereich detailärmer abgebildet. Durch die damit verbundene Datenreduktion wird es bei entsprechender Anpassung des Such-Algorithmus einfacherer und sicherer, die Bildanalyse durchzuführen und/oder den Bildfluss zu bestimmen.In order to obtain the largest possible depth of field, video cameras are set to the so-called hyper-focal distance, that is, the depth of field extends from a near point to a far point at infinity. In the device according to the invention, the distance between the lens and the image sensor is reduced so that the video camera is focused on a distance that is greater than the hyper-focal distance of the video camera. Objects that are far away are thus imaged somewhat more sharply, while the objects in the near area are at least partially blurred, that is to say with less detail, depending on the distance. Overall, the near area is depicted with less detail. The associated data reduction makes it easier and more reliable to carry out the image analysis and / or to determine the image flow when the search algorithm is adapted accordingly.

Vorteilhaft ist, wenn die die Videokamera auf eine Entfernung zwischen der Hyper-Fokal-Entfernung der Videokamera und der doppelten Hyper-Fokal-Entfernung der Videokamera fokussiert ist, da dieser Bereich einen besonders günstigen Ausgleich zwischen gewollter Unschärfe im Nahbereich und gewünschter Schärfe im Fernbereich erzielt wird.It is advantageous if the video camera is focused on a distance between the hyper-focal distance of the video camera and twice the hyper-focal distance of the video camera, since this area provides a particularly favorable compensation between desired unsharpness in the close range and desired sharpness in the far range is achieved.

Die Fokussierung der Videokamera auf eine Entfernung, die größer als oder gleich der doppelten Hyper-Fokal-Entfernung der Videokamera ist, ist dann vorteilhaft, wenn ein besonders scharfes Bild im Fernbereich gewünscht wird und dabei eine große Unschärfe im Nah- und mittleren Bereich gewünscht wird oder tolerierbar ist.Focusing the video camera at a distance that is greater than or equal to twice the hyper-focal distance of the video camera is advantageous when a particularly sharp image is desired in the far range and a large amount of blurring in the near and medium range is desired or is tolerable.

Besonders vorteilhaft ist, wenn die Einrichtung eine Auswerteeinheit umfasst, die eine Bildanalyse von Bildern der Videokamera unter Berücksichtigung des Bildflusses durchführt, da die Datenreduktion von Bildinformationen im Nahbereich die Performance der Bildanalyseverfahren basierend auf dem optischen Fluss erhöht. Somit erleichtert das bewusste Defokussieren der Videokamera derart, dass die Videokamera auf eine Entfernung fokussiert ist, die größer als die Hyper-Fokal-Entfernung der Videokamera ist, in vorteilhafter Weise die Bestimmung des Bildflusses.It is particularly advantageous if the device comprises an evaluation unit which carries out an image analysis of images from the video camera taking into account the image flow, since the data reduction of image information in the close range increases the performance of the image analysis method based on the optical flow. The deliberate defocusing of the video camera in such a way that the video camera is focused at a distance which is greater than the hyper-focal distance of the video camera thus advantageously facilitates the determination of the image flow.

Vorteilhaft ist ferner, dass die entfernungsabhängige Unschärfe-Signatur von Kanten im nahen oder mittleren Entfernungsbereich als weitere Information für ein dreidimensionales Modell der aufgenommenen Szene genutzt werden, und dass erfindungsgemäß Mittel vorgesehen sind, welche die Schärfe von im Bild vorhandenen Kanten ermitteln und daraus eine Tiefeninformation gewinnen.It is also advantageous that the distance-dependent blurring signature of edges in the near or middle distance range is used as further information for a three-dimensional model of the recorded scene, and that according to the invention means are provided which determine the sharpness of edges present in the image and, from this, depth information win.

Erfindungsgemäß verfügt die Einrichtung über Mittel, die das Bild zweidimensional tiefpassfiltern, das tiefpassgefilterte Bild von dem aufgenommenen Bild subtrahieren und Kanten je nach Größe der Differenz vorgegebenen Tiefen zuordnen. Falls nur die Unterscheidung zwischen zwei Tiefenbereichen erforderlich ist, kann die Weiterbildung derart ausgeführt sein, dass bei einer Differenz, die kleiner als ein vorgegebener Wert ist, die Kanten einer vorgegebenen Tiefe zugeordnet werden.According to the invention, the device has means which two-dimensionally low-pass filter the image, subtract the low-pass filtered image from the recorded image and assign edges to predetermined depths depending on the size of the difference. If it is only necessary to differentiate between two depth regions, the further development can be implemented in such a way that, in the case of a difference that is smaller than a predetermined value, the edges are assigned to a predetermined depth.

Es kann jedoch zur Unterscheidung von mehreren Tiefenbereichen vorgesehen sein, dass Mittel zur Tiefpassfilterung mehrfach mit jeweils verschiedenen Fenstergrößen angewandt werden und die Ergebnisse jeweils von dem aufgenommenen Bild subtrahiert werden, wobei je Filtergröße mindestens ein Tiefenbereich ermittelt wird.To differentiate between several depth ranges, however, it can be provided that means for low-pass filtering are used several times with different window sizes each and the results are subtracted from the recorded image, with at least one depth range being determined for each filter size.

Bei der Anwendung im Kraftfahrzeug ist es besonders vorteilhaft, wenn die Videokamera in Fahrtrichtung auf ein Kraftfahrzeug montiert ist, da damit das Sichtfeld der Videokamera der bevorzugten Fahrersicht entspricht.When used in a motor vehicle, it is particularly advantageous if the video camera is mounted on a motor vehicle in the direction of travel, since the field of view of the video camera thus corresponds to the preferred driver's view.

Besonders vorteilhaft ist ferner, dass die Videokamera derart gestaltet ist, dass die Fokussierung der Videokamera fest eingestellt ist. Diese Videokameras sind einfach und robust aufgebaut, da keine mechanischen Elemente zum Einstellung der Fokussierung notwendig sind. Videokameras mit fester Fokussierung werden auch als Fix-Fokus-Videokameras bezeichnet. Diese Videokameras zeichnen sich dadurch aus, dass der Benutzer keine Einstellungsmöglichkeit der Fokussierung hat. Somit ist die Fokussierung im Betrieb der Videokamera unveränderbar.It is also particularly advantageous that the video camera is designed such that the focusing of the video camera is fixed. These video cameras have a simple and robust design, since no mechanical elements are required to adjust the focus. Fixed focus video cameras are also known as fixed focus video cameras. These video cameras are characterized by the fact that the user has no setting options for focusing. Thus, the focus cannot be changed when the video camera is in operation.

FigurenlisteFigure list

Ein Ausführungsbeispiel der Erfindung ist in der Zeichnung anhand mehrerer Figuren dargestellt und in der nachfolgenden Beschreibung näher erläutert. Es zeigt:

  • 1 ein Teil eines Kraftfahrzeugs mit einer auf die Fahrbahn gerichteten Videokamera und
  • 2 ein Blockschaltbild eines Ausführungsbeispiels.
An exemplary embodiment of the invention is shown in the drawing using several figures and explained in more detail in the following description. It shows:
  • 1 a part of a motor vehicle with a video camera aimed at the roadway and
  • 2 a block diagram of an embodiment.

Beschreibung des AusführungsbeispielsDescription of the embodiment

Nachfolgend wird eine Einrichtung eines Kraftfahrzeugs zur Erzeugung eines für eine Bildanalyse geeigneten Bildes einer mindestens teilweise bewegten Szene beschrieben, wobei sich die Szene von einem Nahbereich bis zu einem Fernbereich erstreckt, wobei die Einrichtung eine auf die Szene gerichtete Videokamera umfasst und wobei eine Fokussierung der Videokamera derart eingestellt ist, dass Objekte im Nahbereich unscharf aufgenommen werden. Die unscharfe Aufnahme der Objekte im Nahbereich wird vorzugsweise dadurch erreicht, dass die Videokamera auf eine Entfernung fokussiert ist, die größer als die Hyper-Fokal-Entfernung der Videokamera ist. Vorzugsweise ist die Fokussierung der Videokamera fest eingestellt. Ferner umfasst die Einrichtung vorzugsweise entweder eine Auswerteeinheit, die eine Bildanalyse von Bildern der Videokamera unter Berücksichtigung des Bildflusses durchführt, und/oder die Einrichtung umfasst Mittel, welche die Schärfe von im Bild vorhandenen Kanten ermitteln und daraus eine Tiefeninformation gewinnen.A device of a motor vehicle for generating an image suitable for image analysis of an at least partially moving scene is described below, the scene extending from a close range to a far range, the device comprising a video camera directed at the scene and focusing of the video camera is set in such a way that objects at close range are taken out of focus. The unsharp recording of the objects in the close range is preferably achieved in that the video camera is focused on a distance which is greater than the hyper-focal distance of the video camera. The focusing of the video camera is preferably fixed. Furthermore, the device preferably comprises either an evaluation unit which carries out an image analysis of images from the video camera taking into account the image flow, and / or the device comprises means which determine the sharpness of edges present in the image and obtain depth information therefrom.

Videokameras, deren Fokus fest eingestellt ist, werden als Fix-Fokus-Videokameras bezeichnet. Andererseits ist es in der Fotografie üblich, Kameras auf die sogenannte Hyper-Fokal-Entfernung zu fokussieren. Die Hyper-Fokal-Entfernung ist diejenige Gegenstandsweite, bei der im Unendlichen liegende Objekte gerade noch mit einer akzeptable Unschärfe abgebildet werden, so dass sich der Tiefenschärfebereich gerade noch ins unendliche erstreckt. Bei dieser Einstellung erstreckt sich der Tiefenschärfebereich des aufgenommenen Bildes von der halben Hyper-Fokal-Entfernung bis ins Unendliche. Die Hyper-Fokal-Entfernung sh hängt von der Brennweite f, dem Blendenwert N und dem Unschärfekreis-Durchmesser du ab und berechnet sich näherungsweise nach folgender Formel: S h = f 2 N d u

Figure DE102007058779B4_0001
Video cameras that have a fixed focus are called fixed focus video cameras. On the other hand, it is common in photography to focus cameras on what is known as the hyper-focal distance. The hyper-focal distance is the object distance at which objects lying at infinity are just imaged with an acceptable degree of blurring, so that the depth of field just extends into infinity. With this setting, the depth of field of the recorded image extends from half the hyper-focal distance to infinity. The hyper-focal distance s h depends on the focal length f, the aperture value N and the unsharp circle diameter d u and is approximately calculated using the following formula: S. H = f 2 N d u
Figure DE102007058779B4_0001

In der Digitalfotografie wird du als die ein- bis zweifache Pixelgröße (monochrom/Farbsensor) gewählt. Somit ist die Hyper-Fokal-Entfernung sh bei Fix-Fokus-Videokameras eine durch die Gestaltung der Videokamera hinsichtlich Brennweite und Blendenwert bedingte Größe.In digital photography, d u is chosen as one to two times the pixel size (monochrome / color sensor). The hyper-focal distance s h in fixed-focus video cameras is therefore a variable that is determined by the design of the video camera with regard to focal length and aperture value.

Der Erfindung liegt die Erkenntnis zugrunde, dass das unvermeidliche Rauschen sowie die hohe Bildinformation im Nahbereich des Tiefenschärfebereichs durch den dort vorhandenen Detailreichtum die Bildanalyse des erzeugten Bildes oder die Berechnung des Bildflusses erschweren.The invention is based on the knowledge that the inevitable noise and the high level of image information in the close range of the depth of field make the image analysis of the generated image or the calculation of the image flow more difficult due to the wealth of detail there.

Erfindungsgemäß ist vorgesehen, dass eine Fokussierung der Videokamera derart eingestellt ist, dass Objekte im Nahbereich N unscharf aufgenommen werden. Bevorzugt wird dies erreicht, indem die Videokamera auf eine Entfernung fokussiert ist, die größer als die Hyper-Fokal-Entfernung der Videokamera ist.According to the invention, it is provided that the video camera is focused in such a way that objects in close range N are recorded out of focus. This is preferably achieved in that the video camera is focused to a distance which is greater than the hyper-focal distance of the video camera.

1 zeigt ein Kraftfahrzeug 1, das in 1 teilweise geschnitten dargestellt ist, so dass der Bereich des Innenspiegels sichtbar ist, in welchem eine Videokamera 2 angeordnet ist. Das Blickfeld 3 der Videokamera 2 ist nach vorne gerichtet. Die Fokussierung der Videokamera 2 ist derart fest eingestellt, dass Objekte im Fernbereich F scharf und Objekte im Nahbereich N relativ unscharf abgebildet werden. 1 shows a motor vehicle 1 , this in 1 is shown partially cut, so that the area of the interior mirror is visible in which a video camera 2 is arranged. The field of vision 3 the video camera 2 is directed forward. The focusing of the video camera 2 is set in such a way that objects in the far area F are in focus and objects in the near area N are shown relatively blurred.

Das in 2 dargestellte Blockschaltbild zeigt ein erstes Ausführungsbeispiel bei dem die Signale der Videokamera 2 über je ein zweidimensionales Tiefpassfilter 11, 12 geleitet werden. Die Tiefpassfilter weisen eine Fenstergröße von drei und fünf Bildelementen auf. Bei 13 und 14 werden die zweidimensional tiefpassgefilterten Bilder von dem original aufgenommenen Bild subtrahiert. Die Differenz wird bei 15, 16 mit jeweils einer Schwelle verglichen, wobei jeweils ein Signal an den Ausgängen 17, 18 ansteht, wenn die Differenz unter einem vorgegebenen Schwellwert liegt, was auf die Zugehörigkeit des jeweiligen Bild-Details (Kante) zu einem Tiefenbereich hinweist. Die Auswertung gemäß 2 wird in diesem Ausführungsbeispiel von Mitteln durchgeführt, die in einer Auswerteeinheit realisiert sind.This in 2 The block diagram shown shows a first embodiment in which the signals from the video camera 2 each with a two-dimensional low-pass filter 11 , 12 be directed. The low-pass filters have a window size of three and five picture elements. At 13 and 14th the two-dimensionally low-pass filtered images are subtracted from the originally recorded image. The difference is compared at 15, 16 with a threshold each, with a signal at the outputs 17th , 18th occurs when the difference is below a specified threshold value, which indicates that the respective image detail (edge) belongs to a depth area. The evaluation according to 2 is carried out in this exemplary embodiment by means that are implemented in an evaluation unit.

In einem weiteren Ausführungsbeispiel ist die Videokamera gemäß 1 mit einer Auswerteeinheit verbunden. Die Fokussierung der Videokamera ist wiederum derart eingestellt, dass Objekte im Nahbereich (N) unscharf aufgenommen werden. In diesem Ausführungsbeispiel wird dies dadurch erreicht, dass die Videokamera auf eine Entfernung fokussiert ist, die größer als die Hyper-Fokal-Entfernung der Videokamera ist. Die Auswerteeinheit ist in diesem Ausführungsbeispiel derart gestaltet, dass die Auswerteeinheit eine Bildanalyse von Bildern der Videokamera unter Berücksichtigung des Bildflusses durchführt. Der Bildfluss stellt ein Vektorfeld dar, das die Bewegungsrichtung und/oder Bewegungsgeschwindigkeit von einzelnen oder allen Bildpunkten eines Bildes einer Bildsequenz beschreibt. Die Auswerteeinheit ermittelt aus einer Sequenz von Bildern für jedes Bild den optischen Fluss in Form eines Vektorfeldes. Basierend auf diesem, den optischen Fluss beschreibenden Vektorfeld werden durch die Auswerteeinheit weitere Auswerteschritte, wie Ermittlung von statischen Objekten, wie Leitpfosten oder Verkehrsschilder oder sich bewegende Objekte, wie seitlich ins Bild einlaufende Fußgänger, ermittelt. Die Auswerteeinheit stellt die so ermittelten Daten nachfolgenden System zur Verfügung.In a further embodiment the video camera is according to FIG 1 connected to an evaluation unit. The focusing of the video camera is set in such a way that objects in the close range (N) are recorded out of focus. In this exemplary embodiment, this is achieved in that the video camera is focused at a distance which is greater than the hyper-focal distance of the video camera. In this exemplary embodiment, the evaluation unit is designed in such a way that the evaluation unit carries out an image analysis of images from the video camera, taking into account the image flow. The image flow represents a vector field which describes the direction of movement and / or the speed of movement of individual or all image points of an image of an image sequence. The evaluation unit uses a sequence of images to determine the optical flow for each image in the form of a vector field. Based on this vector field describing the optical flow, the evaluation unit determines further evaluation steps, such as determining static objects such as delineator posts or traffic signs or moving objects such as pedestrians entering the image from the side. The evaluation unit makes the data determined in this way available to the following system.

Die Verwendung der Erfindung kann auf einfach Art nachgewiesen werden, in dem einer Einrichtung zur Erzeugung eines für eine Bildanalyse geeigneten Bildes, umfassend eine Videokamera, in mindestens zwei Objektentfernungen in jeweils einer Nah- und einer Fernposition streifenförmige Testfelder dargeboten werden. Die streifenförmigen Testfelder weisen schwarze Streifen auf weißem Hintergrund auf. Die Streifenbreiten der schwarzen Streifen sind dabei so gewählt, dass die Streifen für die gewählten Objektentfernungen die gleiche Winkelausdehnung aufweisen, so dass die Bilder der Testfelder die gleiche Breite auf dem Bildsensor aufweisen. Durch die geringe Auflösung im Nahbereich wird die Kantendetektion bei den Testfeldern in der Nahposition schon bei größeren Winkelausdehnungen versagen, während die Kantendetektion im Fernbereich möglich ist. Damit ist der Nachweis einer Defokussierung im Nahbereich erbracht.The use of the invention can be demonstrated in a simple manner in that strip-shaped test fields are presented to a device for generating an image suitable for image analysis, comprising a video camera, at at least two object distances in one near and one far position. The strip-shaped test fields have black stripes on a white background. The stripe widths of the black stripes are selected so that the stripes have the same angular extent for the selected object distances, so that the images of the test fields have the same width on the image sensor. Due to the low resolution in the near range, the edge detection in the test fields in the near position will fail even at larger angles, while edge detection is possible in the far range. This provides evidence of defocusing in the near range.

Claims (9)

Einrichtung eines Kraftfahrzeugs (1) zur Erzeugung eines für eine Bildanalyse geeigneten Bildes einer mindestens teilweise bewegten Szene, insbesondere einer Szene in der Umgebung eines Kraftfahrzeugs (1), wobei sich die Szene von einem Nahbereich bis zu einem Fernbereich erstreckt, wobei die Einrichtung mindestens eine auf die Szene gerichtete Videokamera (2) umfasst, dadurch gekennzeichnet, dass eine Fokussierung der Videokamera (2) derart eingestellt ist, dass Objekte im Nahbereich (N) unscharf aufgenommen werden, wobei die Einrichtung Mittel (11 bis 18) umfasst, welche die Schärfe von im Bild vorhandenen Kanten ermitteln und daraus eine Tiefeninformation gewinnen, und wobei die Mittel (11 bis 18), das Bild zweidimensional tiefpassfiltern, das tiefpassgefilterte Bild von dem aufgenommenen Bild subtrahieren und Kanten je nach Größe der Differenz vorgegebenen Tiefen zuordnen.Device of a motor vehicle (1) for generating an image suitable for image analysis of an at least partially moving scene, in particular a scene in the vicinity of a motor vehicle (1), the scene extending from a close range to a far range, the device at least one comprises video camera (2) directed at the scene, characterized in that a focusing of the video camera (2) is set in such a way that objects in the close-up range (N) are recorded out of focus, the device comprising means (11 to 18) for the sharpness determine the edges present in the image and obtain depth information therefrom, and the means (11 to 18), the image two-dimensionally low-pass filters, subtract the low-pass filtered image from the recorded image and assign edges to specified depths depending on the size of the difference. Einrichtung nach Anspruch 1, dadurch gekennzeichnet, dass die Videokamera (2) auf eine Entfernung fokussiert ist, die größer als die Hyper-Fokal-Entfernung der Videokamera (2) ist.Establishment according to Claim 1 , characterized in that the video camera (2) is focused to a distance which is greater than the hyper-focal distance of the video camera (2). Einrichtung nach einem der Ansprüche 1 oder 2, dadurch gekennzeichnet, dass die Videokamera (2) auf eine Entfernung zwischen der Hyper-Fokal-Entfernung der Videokamera (2) und der doppelten Hyper-Fokal-Entfernung der Videokamera (2) fokussiert ist.Setup according to one of the Claims 1 or 2 , characterized in that the video camera (2) is focused on a distance between the hyper-focal distance of the video camera (2) and twice the hyper-focal distance of the video camera (2). Einrichtung nach einem der vorhergehenden Ansprüche 1 oder 2, dadurch gekennzeichnet, dass die Videokamera (2) auf eine Entfernung fokussiert ist, die größer als oder gleich der doppelten Hyper-Fokal-Entfernung der Videokamera (2) ist.Device according to one of the preceding Claims 1 or 2 , characterized in that the video camera (2) is focused to a distance which is greater than or equal to twice the hyper-focal distance of the video camera (2). Einrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Einrichtung eine Auswerteeinheit umfasst, die eine Bildanalyse von Bildern der Videokamera (2) unter Berücksichtigung des Bildflusses durchführt.Device according to one of the preceding claims, characterized in that the device comprises an evaluation unit which carries out an image analysis of images from the video camera (2) taking into account the image flow. Einrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass bei einer Differenz, die kleiner als ein vorgegebener Wert ist, die Kanten einer vorgegebenen Tiefe zugeordnet werden.Device according to one of the preceding claims, characterized in that in the case of a difference which is smaller than a predetermined value, the edges are assigned to a predetermined depth. Einrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass Mittel zur Tiefpassfilterung (11, 12) mehrfach mit jeweils verschiedenen Fenstergrößen angewandt werden und die Ergebnisse jeweils von dem aufgenommenen Bild subtrahiert werden, wobei je Filtergröße mindestens ein Tiefenbereich ermittelt wird.Device according to one of the preceding claims, characterized in that means for low-pass filtering (11, 12) are used several times, each with different window sizes, and the results are subtracted from the recorded image, with at least one depth range being determined for each filter size. Einrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Videokamera (2) in Fahrtrichtung auf das Kraftfahrzeug (1) montiert ist.Device according to one of the preceding claims, characterized in that the video camera (2) is mounted on the motor vehicle (1) in the direction of travel. Einrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Videokamera (2) derart gestaltet ist, dass die Fokussierung der Videokamera (2) fest eingestellt ist.Device according to one of the preceding claims, characterized in that the video camera (2) is designed in such a way that the focusing of the video camera (2) is fixed.
DE102007058779.3A 2007-12-06 2007-12-06 Device of a motor vehicle for generating an image suitable for image analysis Expired - Fee Related DE102007058779B4 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102007058779.3A DE102007058779B4 (en) 2007-12-06 2007-12-06 Device of a motor vehicle for generating an image suitable for image analysis

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102007058779.3A DE102007058779B4 (en) 2007-12-06 2007-12-06 Device of a motor vehicle for generating an image suitable for image analysis

Publications (2)

Publication Number Publication Date
DE102007058779A1 DE102007058779A1 (en) 2009-06-10
DE102007058779B4 true DE102007058779B4 (en) 2021-01-14

Family

ID=40621133

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102007058779.3A Expired - Fee Related DE102007058779B4 (en) 2007-12-06 2007-12-06 Device of a motor vehicle for generating an image suitable for image analysis

Country Status (1)

Country Link
DE (1) DE102007058779B4 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11256931B2 (en) 2010-04-19 2022-02-22 SMR Patent S.à.r.l Rearview device simulation
DE102010044219A1 (en) * 2010-11-22 2012-05-24 Robert Bosch Gmbh Method for detecting the environment of a vehicle
CN103134429B (en) * 2013-03-19 2015-12-23 南京智真电子科技有限公司 A kind of truck combination straight-line travelling trajectory measurement method of view-based access control model
DE102013213549A1 (en) * 2013-07-11 2015-01-15 Conti Temic Microelectronic Gmbh Device and method for detecting objects in the vicinity for a motor vehicle, in particular rain sensor device
EP3726473A1 (en) 2019-04-18 2020-10-21 SMR Patents S.à.r.l. Method for rearview device simulation
DE102019206360A1 (en) * 2019-05-03 2020-11-05 Audi Ag Distance measuring device and method for determining distance data of an object by means of such a distance measuring device

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102004037871A1 (en) * 2004-08-04 2006-03-16 Siemens Ag Optical module for an outer vestibule in the direction of travel of a motor vehicle detecting assistance system
US20060088191A1 (en) * 2004-10-25 2006-04-27 Tong Zhang Video content understanding through real time video motion analysis
DE102005000651A1 (en) * 2005-01-04 2006-07-13 Robert Bosch Gmbh Method for determining the intrinsic motion of a vehicle
WO2007063478A2 (en) * 2005-12-02 2007-06-07 Koninklijke Philips Electronics N.V. Stereoscopic image display method and apparatus, method for generating 3d image data from a 2d image data input and an apparatus for generating 3d image data from a 2d image data input

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102005027887A1 (en) 2005-06-16 2006-12-28 Robert Bosch Gmbh Vehicle driver information method, involves detecting predetermined road signs by using camera, and adjusting vehicle light, if detected road signs necessitate adjustment of vehicle light

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102004037871A1 (en) * 2004-08-04 2006-03-16 Siemens Ag Optical module for an outer vestibule in the direction of travel of a motor vehicle detecting assistance system
US20060088191A1 (en) * 2004-10-25 2006-04-27 Tong Zhang Video content understanding through real time video motion analysis
DE102005000651A1 (en) * 2005-01-04 2006-07-13 Robert Bosch Gmbh Method for determining the intrinsic motion of a vehicle
WO2007063478A2 (en) * 2005-12-02 2007-06-07 Koninklijke Philips Electronics N.V. Stereoscopic image display method and apparatus, method for generating 3d image data from a 2d image data input and an apparatus for generating 3d image data from a 2d image data input

Also Published As

Publication number Publication date
DE102007058779A1 (en) 2009-06-10

Similar Documents

Publication Publication Date Title
DE112012002885B4 (en) Method and device for image-based vehicle detection and distance measurement
DE102011106050B4 (en) Shadow removal in an image captured by a vehicle-based camera for detection of a clear path
DE102007058779B4 (en) Device of a motor vehicle for generating an image suitable for image analysis
WO2016026568A1 (en) Method and axle-counting device for contact-free axle counting of a vehicle and axle-counting system for road traffic
DE102014117102B4 (en) Lane change warning system and method for controlling the lane change warning system
DE102005056647B4 (en) Vehicle environment monitoring device
DE102006010295B4 (en) Camera system with at least two image recorders
DE112010003914T5 (en) Method and device for detecting tiredness at the wheel and a vehicle
DE112011100180T5 (en) Lane keeping assistance apparatus, method for displaying a lane boundary line and program
EP1589484A1 (en) Method for detecting and/or tracking objects
WO2013072231A1 (en) Method for fog detection
DE102013114996A1 (en) Method for applying super-resolution to images detected by camera device of vehicle e.g. motor car, involves applying spatial super-resolution to area-of-interest within frame to increase the image sharpness within area-of-interest
DE102004037871A1 (en) Optical module for an outer vestibule in the direction of travel of a motor vehicle detecting assistance system
DE102013205854B4 (en) Method for detecting a free path using temporary coherence
DE102019133642A1 (en) DIGITAL IMAGING SYSTEM INCLUDING OPTICAL PLENOPTIC DEVICE AND IMAGE DATA PROCESSING METHOD FOR DETECTING VEHICLE OBSTACLES AND GESTURES
EP2289044A1 (en) Image data visualization
DE102018100909A1 (en) Method of reconstructing images of a scene taken by a multifocal camera system
DE102013012930A1 (en) Method for determining a current distance and / or a current speed of a target object from a reference point in a camera image, camera system and motor vehicle
DE102004046101A1 (en) Method for early detection of motor vehicle collision involves estimation of collision danger on the basis of determined time to collision and introducing collision reducing measures with exceeding of predetermined collision danger
DE102007025147A1 (en) Lane departure warning and/or lane keeping function providing system for motor vehicle i.e. car, has camera aligned perpendicularly downward to road surface and serving for recognition of lane marking provided on road surface
DE102012105436A1 (en) Camera system i.e. light field camera system, for use in e.g. speed assistant system of motor car to determine distance between car and e.g. object, has microlens arrangement formed and arranged in optical path of electromagnetic radiation
EP3655299B1 (en) Method and device for determining an optical flow on the basis of an image sequence captured by a camera of a vehicle
DE102006037600B4 (en) Method for the resolution-dependent representation of the environment of a motor vehicle
DE102013022076A1 (en) Method for determining a width of a target vehicle by means of a camera system of a motor vehicle, camera system and motor vehicle
DE102012015282B4 (en) Method for detecting a covered state of an image capturing device of a motor vehicle, camera system and motor vehicle

Legal Events

Date Code Title Description
R012 Request for examination validly filed

Effective date: 20140409

R084 Declaration of willingness to licence

Effective date: 20140410

R079 Amendment of ipc main class

Free format text: PREVIOUS MAIN CLASS: B60R0001100000

Ipc: B60R0001000000

R016 Response to examination communication
R016 Response to examination communication
R018 Grant decision by examination section/examining division
R020 Patent grant now final
R119 Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee