DE102016117500A1 - Calibration of a camera of a vehicle - Google Patents
Calibration of a camera of a vehicle Download PDFInfo
- Publication number
- DE102016117500A1 DE102016117500A1 DE102016117500.5A DE102016117500A DE102016117500A1 DE 102016117500 A1 DE102016117500 A1 DE 102016117500A1 DE 102016117500 A DE102016117500 A DE 102016117500A DE 102016117500 A1 DE102016117500 A1 DE 102016117500A1
- Authority
- DE
- Germany
- Prior art keywords
- camera
- vehicle
- computing device
- calibration
- dimension
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/32—Normalisation of the pattern dimensions
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Traffic Control Systems (AREA)
- Image Processing (AREA)
Abstract
Die Erfindung betrifft ein Verfahren zum Kalibrieren einer Kamera (3a, 3b, 3’) eines Fahrzeugs, mit den Verfahrensschritten Erfassen einer Bildinformation eines Objekts (9) einer Verkehrsinfrastruktur in einer Umgebung des Fahrzeugs durch die Kamera (3a, 3b, 3’) des Fahrzeugs Erkennen des Objekts (9) durch eine Recheneinrichtung (4, 4’), Extrahieren einer geometrischen Abmessung (10) des erkannten Objekts (9) der Verkehrsinfrastruktur durch die Recheneinrichtung (4, 4’), Vergleichen der extrahierten geometrischen Abmessung (10) mit einer in der Recheneinrichtung (4, 4’) hinterlegten Referenz-Abmessung (10) für das erkannte Objekt (9) der Verkehrsinfrastruktur durch die Recheneinrichtung (4, 4’), Kalibrieren der Kamera (3a, 3b, 3’) anhand eines Ergebnisses des Vergleichens durch die Recheneinrichtung (4, 4’), um das Kalibrieren der an dem Fahrzeug verbauten Kamera (3a, 3b, 3‘) zu vereinfachen.The invention relates to a method for calibrating a camera (3a, 3b, 3 ') of a vehicle, comprising the steps of detecting image information of an object (9) of a traffic infrastructure in an environment of the vehicle by the camera (3a, 3b, 3') of the vehicle Vehicle recognition of the object (9) by a computing device (4, 4 '), extraction of a geometric dimension (10) of the recognized object (9) of the traffic infrastructure by the computing device (4, 4'), comparison of the extracted geometric dimension (10) with a reference dimension (10) stored in the computing device (4, 4 ') for the detected object (9) of the traffic infrastructure by the computing device (4, 4'), calibrating the camera (3a, 3b, 3 ') on the basis of a Result of the comparison by the computing means (4, 4 ') to facilitate the calibration of the camera (3a, 3b, 3') installed on the vehicle.
Description
Die Erfindung betrifft ein Verfahren zum Kalibrieren einer Kamera eines Fahrzeugs, sowie eine Kameraeinrichtung für ein Fahrzeug, mit einer Kamera, die ausgelegt ist, eine Bildinformation eines Objekts einer Verkehrsinfrastruktur in einer Umgebung des Fahrzeugs zu erfassen, und mit einer Recheneinrichtung, die ausgelegt ist, das Objekt zu erkennen und eine geometrische Abmessung des erkannten Objekts zu extrahieren. The invention relates to a method for calibrating a camera of a vehicle, as well as a camera device for a vehicle, with a camera which is designed to detect image information of an object of a traffic infrastructure in an environment of the vehicle, and with a computing device which is designed to recognize the object and to extract a geometric dimension of the detected object.
In Kraftfahrzeugen und auch Anhängern kommen heutzutage in einer Vielzahl von Anwendungen Kameras zum Erfassen einer Bildinformation einer Umgebung des jeweiligen Fahrzeugs zum Einsatz. Dies wird durch die Verwendung von sogenannten Satellitenkameras, also Kameras, welche ohne bauliche Anpassung der Kamera selber an verschiedenen Positionen des jeweiligen Fahrzeugs angebracht und für unterschiedliche Funktionen genutzt werden können, noch verstärkt. Um aus der durch die Kamera erfassten Bildinformation zuverlässig und genau eine Information über die Umgebung des Fahrzeugs ableiten zu können, muss dabei eine Einbaulage, also eine Höhe der Kamera in einer Fahrzeughochrichtung des Fahrzeugs und eine Ausrichtung der Kamera bekannt sein. Zu diesem Zweck werden die Kameras kalibriert. Dies erfolgt üblicherweise indem die genannten Informationen entweder von vornherein fest in die Kamera und ein entsprechendes System einprogrammiert werden oder einprogrammierte Ausgangsdaten über die Einbaulage der Kamera nach dem Einbau in der Software nachjustiert werden, um Schwankungen in Fertigungstoleranzen auszugleichen. In motor vehicles and trailers, cameras for detecting image information of an environment of the respective vehicle are used today in a multiplicity of applications. This is reinforced by the use of so-called satellite cameras, so cameras that can be attached without structural adaptation of the camera itself at different positions of the respective vehicle and used for different functions. In order to reliably and accurately derive information about the surroundings of the vehicle from the image information acquired by the camera, an installation position, that is to say a height of the camera in a vehicle vertical direction of the vehicle and an orientation of the camera, must be known. For this purpose, the cameras are calibrated. This is usually done by the above information either from the outset firmly programmed into the camera and a corresponding system or programmed output data on the installation position of the camera after installation in the software are readjusted to compensate for variations in manufacturing tolerances.
Allgemein ist aus der
Es stellt sich die Aufgabe, das Kalibrieren einer an einem Fahrzeug verbauten Kamera zu vereinfachen. The object is to simplify the calibration of a camera installed on a vehicle.
Diese Aufgabe wird durch die Gegenstände der unabhängigen Patentansprüche gelöst. Vorteilhafte Ausführungsformen ergeben sich aus den abhängigen Patentansprüchen, der Beschreibung und den Figuren. This object is solved by the subject matters of the independent claims. Advantageous embodiments will become apparent from the dependent claims, the description and the figures.
Die Erfindung betrifft ein Verfahren zum Kalibrieren einer Kamera eines Fahrzeugs mit einer Reihe von Verfahrensschritten. Die Kamera ist dabei Teil des Fahrzeugs. The invention relates to a method for calibrating a camera of a vehicle with a series of method steps. The camera is part of the vehicle.
Insbesondere kann es sich bei dem Fahrzeug um ein Kraftfahrzeug oder einen Anhänger oder ein Gespann mit einem Kraftfahrzeug und einem angehängten Anhänger handeln. In particular, the vehicle may be a motor vehicle or a trailer or a trailer with a motor vehicle and an attached trailer.
Ein erster Verfahrensschritt ist hier ein Erfassen einer Bildinformation eines Objekts einer Verkehrsinfrastruktur in einer Umgebung des Fahrzeugs durch die Kamera des Fahrzeugs. Das Objekt kann beispielsweise ein Verkehrs- oder Straßenschild oder eine Straßenmarkierung umfassen. Ein weiterer Verfahrensschritt ist ein Erkennen des Objektes in der Bildinformation, beispielsweise einem Bild oder einer Folge von Einzelbildern oder einem Film, durch die Recheneinrichtung mittels eines Bilderkennungsalgorithmus. Es kann sich bei der Recheneinrichtung insbesondere um eine Recheneinrichtung des Fahrzeugs handeln. Das Erkennen des Objektes kann auch ein Klassifizieren des Objektes umfassen, also beispielsweise ein Erkennen einer Fahrspurbegrenzung als Fahrspurbegrenzung. Ein weiterer Verfahrensschritt ist ein Extrahieren zumindest einer geometrischen Abmessung des erkannten Objektes der Verkehrsinfrastruktur aus der erfassten Bildinformation durch die Recheneinrichtung. Es kann also beispielsweise eine Höhe und/oder eine Breite und/oder eine Länge des erkannten Objekts extrahiert werden. Das erkannte Objekt kann dabei auch insbesondere zwei oder mehr Einzelobjekte umfassen, deren Abstand ebenfalls eine geometrische Abmessung des erkannten übergeordneten Objektes darstellen kann. So kann beispielsweise ein Abstand von Linien einer Fahrbahnmarkierung eine geometrische Abmessung des erkannten Objekts darstellen. Ein darauffolgender Verfahrensschritt ist ein Vergleichen der extrahierten geometrischen Abmessung mit einer in der Recheneinrichtung hinterlegten Referenz-Abmessung für das erkannte Objekt der Verkehrsinfrastruktur durch die Recheneinrichtung. Beispielsweise kann somit ein Abstand zweier Linien einer Fahrspurbegrenzung als geometrische Abmessung des erkannten Objektes mit einem in der Recheneinrichtung hinterlegten Referenzabstand für Linien einer Fahrspurbegrenzung als Referenz-Abmessung verglichen werden. A first method step here is detecting image information of an object of a traffic infrastructure in an environment of the vehicle by the camera of the vehicle. The object may include, for example, a traffic or street sign or a road marking. A further method step is a recognition of the object in the image information, for example an image or a sequence of individual images or a film, by the computing device by means of an image recognition algorithm. In particular, the computing device may be a computing device of the vehicle. The recognition of the object may also include a classification of the object, that is, for example, recognition of a lane boundary as lane boundary. A further method step is an extraction of at least one geometric dimension of the detected object of the traffic infrastructure from the acquired image information by the computing device. Thus, for example, a height and / or a width and / or a length of the detected object can be extracted. The recognized object may also include in particular two or more individual objects whose distance may also represent a geometric dimension of the detected parent object. For example, a distance of lines of a lane marking may represent a geometric dimension of the detected object. A subsequent method step is a comparison of the extracted geometric dimension with a reference dimension stored in the computing device for the detected object of the traffic infrastructure by the computing device. For example, a distance between two lines of a lane boundary as a geometric dimension of the detected object can thus be compared with a stored in the computing device reference distance for lines of a lane boundary as a reference dimension.
Auf das Vergleichen folgt ein Kalibrieren der Kamera anhand eines Ergebnisses des Vergleichens durch die Recheneinrichtung, insbesondere ein automatisches Kalibrieren. Dabei kann beispielsweise anhand des Ergebnisses des Vergleichens eine Einbaulage der Kamera abgeschätzt oder berechnet werden. So erscheinen beispielsweise Linien einer Fahrspurbegrenzung, deren Abstand gemäß einschlägiger gesetzlicher Vorschriften normiert ist, bei einer höheren Anordnung der Kamera über der Fahrbahn mit der Fahrspurbegrenzung in einen geringeren Abstand, als wenn die Kamera näher an der Fahrbahn angeordnet ist, also in einer geringeren Höhe (in Fahrzeughochrichtung) an dem Fahrzeug angebracht ist. Auch führen unterschiedliche Ausrichtungen und somit Blickwinkel der Kamera zu Verzerrungen in der Bildinformation, so dass durch einen Vergleich der aus der Bildinformation extrahierten geometrischen Abmessung mit einer hinterlegten Referenz-Abmessung ein Rückschluss auf eine tatsächliche Einbaulage der Kamera gezogen werden kann. Diese Information kann dann als Kalibrierinformation in der Kamera oder der Recheneinrichtung hinterlegt werden. Ein weiterer Verfahrensschritt kann somit das Hinterlegen der Kalibrierinformation in der Kamera oder der Recheneinrichtung sein. The comparison is followed by calibration of the camera based on a result of the comparison by the computing device, in particular an automatic calibration. In this case, for example, based on the result of the comparison, an installation position of the camera can be estimated or calculated. Thus, for example, lines of a lane boundary, the distance of which is normalized according to pertinent statutory provisions, appear at a higher distance of the camera above the lane with the lane boundary at a smaller distance than when the camera is arranged closer to the lane, ie at a lower altitude ( in the vehicle vertical direction) is attached to the vehicle. Also lead to different orientations and thus the camera angle Distortions in the image information, so that a conclusion on an actual installation position of the camera can be drawn by comparing the extracted from the image information geometric dimension with a stored reference dimension. This information can then be stored as calibration information in the camera or the computing device. Another method step can thus be the storage of the calibration information in the camera or the computing device.
Das hat den Vorteil, dass mit dem beschriebenen Verfahren besonders große Abweichungen in der Einbaulage, welche beispielsweise über 100 mm in einer Hochrichtung betragen können und über 15°, beispiel sweise 20°, Abweichung in einem Blickwinkel auf zuverlässige Weise erkannt und durch das Kalibrieren kompensiert werden können. Damit ist das beschriebene Verfahren besonders zuverlässig und deutlich robuster als bekannte Verfahren. Da für das Kalibrieren Objekte der Verkehrsinfrastruktur in einer Umgebung des Fahrzeugs genutzt werden, sind auch für das Kalibrieren keine speziell gestalteten Referenz-Objekte oder keine spezielle Referenz-Umgebung erforderlich. Damit kann das Verfahren auch zum Nachkalibrieren der Kamera im laufenden Betrieb beziehungsweise während des gesamten Lebenszyklus‘ des Fahrzeugs genutzt werden. Somit kann auf einfache Weise auch ein automatisches Kalibrieren realisiert werden, beispielsweise nach einem Unfall. Dabei ist das beschriebene Verfahren auch ohne Probleme mit weiteren Kalibrierungsverfahren, beispielsweise sogenannten intrinsischen Kalibrierungsverfahren, bei welchen Linsenstörungen korrigiert werden, kombinierbar. Überdies erfordert das beschriebene Verfahren keine initiale Einstellung oder Vorgabe der Einbaulage, wie dies im Stand der Technik erforderlich ist. Insgesamt wird somit ein zuverlässiges und mit geringem Aufwand realisierbares, vereinfachtes Kalibrieren der Kamera ermöglicht. This has the advantage that with the method described particularly large deviations in the installation position, which may be, for example, about 100 mm in a vertical direction and over 15 °, for example, 20 °, deviation in a viewing angle reliably detected and compensated by calibrating can be. Thus, the method described is particularly reliable and much more robust than known methods. Since calibration objects use traffic infrastructure objects in an environment of the vehicle, no specially designed reference objects or special reference environment are required for calibration. Thus, the method can also be used to recalibrate the camera during operation or during the entire life cycle of the vehicle. Thus, an automatic calibration can be realized in a simple manner, for example after an accident. In this case, the described method can also be combined without problems with further calibration methods, for example so-called intrinsic calibration methods, in which lens disorders are corrected. Moreover, the method described requires no initial adjustment or specification of the mounting position, as required in the prior art. Overall, a reliable and with little effort feasible, simplified calibration of the camera is thus possible.
In einer vorteilhaften Ausführungsform ist vorgesehen, dass das Objekt eine Fahrbahnmarkierung umfasst oder ist. Eine Fahrbahnmarkierung kann beispielsweise auch neben den Linien einer Fahrspurbegrenzung auch Signalzeichen oder Schriftzeichen umfassen. Insbesondere umfasst oder ist das Objekt eine Fahrspurbegrenzung. Beispielsweise umfasst das Objekt eine oder mehrere durchgezogene oder gestrichelte Linien. In an advantageous embodiment it is provided that the object comprises or is a lane marking. For example, a road marking may also include signal signs or characters in addition to the lines of a lane boundary. In particular, the object comprises or is a lane boundary. For example, the object comprises one or more solid or dashed lines.
Da die Fahrbahnmarkierungen in praktisch allen Ländern standardisiert sind, hast das den Vorteil, dass sich aus den Fahrbahnmarkierungen besonders leicht eine geometrische Abmessung extrahieren lassen kann, welche sodann mit der für das jeweilige Land hinterlegten Referenz-Abmessung verglichen werden kann. So ist beispielsweise in Deutschland für Bundesstraßen eine Spurbreite von zumindest 3,5 m vorgeschrieben. Mit dieser Information als Referenzinformation oder Referenz-Abmessung kann so auf einfache Weise die Höhe der Kamera über der Fahrbahn mit der Fahrbahnmarkierung beziehungsweise der Fahrspurbegrenzung berechnet werden: Wie oben beschrieben, sind die Fahrspurbegrenzungen in der erfassten Bildinformation umso näher beieinander, desto höher die Kamera angeordnet ist. Überdies sind praktisch auf allen Fahrbahnen Fahrbahnmarkierungen, gerade Fahrspurbegrenzungen, vorhanden, so dass das Kalibrieren weitgehend unabhängig von der genauen Position des Fahrzeugs in einer Vielzahl von unterschiedlichen Umgebungen oder Fahrsituationen des Fahrzeugs durchgeführt werden kann. Since the lane markings are standardized in virtually all countries, this has the advantage that it is particularly easy to extract from the lane markings a geometric dimension which can then be compared with the reference dimension stored for the respective country. For example, in Germany a track width of at least 3.5 m is required for federal highways. With this information as reference information or reference dimension, the height of the camera above the roadway with the lane marking or the lane boundary can be calculated in a simple manner: As described above, the lane boundaries in the captured image information are closer to each other, the higher the camera is arranged is. Moreover, lane markings, straight lane boundaries, are present on virtually all lanes, so that calibration can be performed largely independently of the exact position of the vehicle in a variety of different environments or driving situations of the vehicle.
In einer besonders vorteilhaften Ausführungsform kann hier vorgesehen sein, dass das Extrahieren der geometrischen Abmessung in Abhängigkeit mehrerer unterschiedlicher Punktpaare erfolgt. Die jeweiligen Punkte der Punktpaare liegen dabei insbesondere auf unterschiedlichen Linien der Fahrbahnmarkierung, insbesondere der Fahrspurbegrenzung. In a particularly advantageous embodiment, it may be provided here that the extraction of the geometric dimension takes place as a function of a plurality of different pairs of points. The respective points of the pairs of points lie in particular on different lines of the lane marking, in particular the lane boundary.
Das hat den Vorteil, dass die geometrische Abmessung zuverlässig auch unter widrigen Bedingungen, beispielsweise bei einer gealterten und nur noch schlecht erkennbaren Fahrbahnmarkierung zuverlässig erfolgt. Damit kann die Genauigkeit des Kalibrierens aufrechterhalten werden. Auch weitere Unregelmäßigkeiten, wie beispielsweise eine Abweichung eines Abstandes von unterschiedlichen Linien einer Fahrspurbegrenzung, wie sie innerhalb gewisser Grenzen in realen Situationen vorkommen kann, führen so nicht zu unerwünschten Effekten bei dem Kalibrieren. This has the advantage that the geometric dimension is reliably reliable even under adverse conditions, for example, an aged and only poorly recognizable road marking. Thus, the accuracy of the calibration can be maintained. Other irregularities, such as a deviation of a distance from different lines of a lane boundary, as may occur within certain limits in real situations, so do not lead to undesirable effects in the calibration.
In einer weiteren vorteilhaften Ausführungsform ist dabei vorgesehen, dass die hinterlegte Referenz-Abmessung zumindest eine länderspezifische Referenz-Abmessung umfasst und insbesondere das Vergleichen in Abhängigkeit einer Länderinformation über ein Land erfolgt, in welchem das Fahrzeug sich befindet. Das hat den Vorteil, dass so unterschiedliche Verkehrsvorschriften, welche die Verkehrsinfrastruktur in einer für das beschriebene Verfahren relevanten Weise beeinflussen, jeweils berücksichtigt werden können. Damit wird eine fehlerhafte Kalibrierung der Kamera aufgrund unterschiedlicher oder sich ändernder nationaler Standards ausgeschlossen. So ist beispielsweise die minimale Fahrspurbreite eines Interstate Highway in den Vereinigten Staaten von Amerika mit 12 Fuß, also 3,7 m, festgelegt, was als Referenz-Abmessung zu einem anderen Kalibrieren führt als die aus Deutschland bekannten 3,5 m als Referenz-Abmessung. Es wird somit einerseits bei einem Fahrzeug, welches in unterschiedlichen Ländern unterwegs ist, eine fehlerhafte Kalibrierung vermieden und zugleich auch die Verwendung eines einheitlichen Kalibrierverfahrens für Fahrzeuge, die beispielsweise weltweit verkauft werden, ermöglicht. In a further advantageous embodiment, it is provided that the deposited reference dimension comprises at least one country-specific reference dimension and, in particular, the comparison takes place as a function of country information about a country in which the vehicle is located. This has the advantage that such different traffic regulations, which influence the traffic infrastructure in a manner relevant to the method described, can be taken into account in each case. This rules out incorrect calibration of the camera due to different or changing national standards. Thus, for example, the minimum lane width of an Interstate Highway in the United States of America is set at 12 feet, ie 3.7 m, which as a reference dimension leads to a different calibration than the 3.5 m from Germany known as a reference dimension , It is thus on the one hand in a vehicle that is traveling in different countries, a faulty calibration avoided and at the same time the use a standard calibration procedure for vehicles sold worldwide, for example.
In einer anderen vorteilhaften Ausführungsform ist vorgesehen, dass das Kalibrieren ein Berechnen einer Höhe der Kamera in einer Fahrzeughochrichtung des Fahrzeugs umfasst. Das hat den Vorteil, dass für unterschiedliche Fahrzeuggeometrien und damit unterschiedliche Einbaulagen der Kamera die jeweilige Einbauhöhe nun nicht mehr genau vorgegeben werden muss, sondern die Höhe der Kamera für eine Vielzahl von unterschiedlichen Fahrzeugtypen und unterschiedlichen Verbaupositionen einheitlich, beispielsweise automatisch, berechnet werden kann. In another advantageous embodiment, it is provided that the calibration comprises calculating a height of the camera in a vehicle vertical direction of the vehicle. This has the advantage that for different vehicle geometries and thus different mounting positions of the camera, the respective installation height now no longer has to be specified exactly, but the height of the camera for a variety of different vehicle types and different installation positions uniformly, for example automatically calculated.
In einer weiteren, besonders bevorzugten Ausführungsform ist vorgesehen, dass das Kalibrieren ein Berechnen einer Ausrichtung der Kamera umfasst. Insbesondere kann das Kalibrieren somit ein Berechnen eines Kippwinkels der Kamera um eine Fahrzeugquerachse und/oder eines Kippwinkels der Kamera um eine Fahrzeuglängsachse und/oder eines Kippwinkels der Kamera um eine Fahrzeughochachse umfassen. Der Kippwinkel kann dabei jeweils relativ zu einer horizontalen Fahrzeugebene oder einer in Fahrzeuglängsrichtung vertikalen Fahrzeugebene bestimmt werden. Fahrzeugquer-, Fahrzeuglängs- und Fahrzeughochachse entsprechen hier Fahrzeugquer-, Fahrzeuglängs- und Fahrzeughochachse bei bestimmungsgemäßem Gebrauch des Fahrzeugs. In a further, particularly preferred embodiment it is provided that the calibration comprises calculating an orientation of the camera. In particular, the calibration can thus include calculating a tilt angle of the camera about a vehicle transverse axis and / or a tilt angle of the camera about a vehicle longitudinal axis and / or a tilt angle of the camera about a vehicle vertical axis. The tilt angle can be determined in each case relative to a horizontal vehicle level or a vertical vehicle level in the vehicle longitudinal direction. Vehicle transverse, vehicle longitudinal and vehicle vertical axis here correspond to vehicle transverse, vehicle longitudinal and vehicle vertical axis when the vehicle is used as intended.
Das hat den Vorteil, dass, ähnlich wie im letzten Absatz beschrieben, mit äußerst geringem Aufwand die Kamera für eine Vielzahl von unterschiedlichen Fahrzeugtypen und Verbaupositionen kalibriert werden kann. Überdies kann so auch eine im Verlauf der Zeit über die Lebensdauer des Fahrzeugs hinweg unter Umständen auftretende Verschiebung der Kamera, welche beispielsweise durch fortgesetzte Vibrationen des Kraftfahrzeugs oder einen Unfall bedingt ist, im Fahrbetrieb kompensiert werden, ohne dass hierfür beispielsweise ein Werkstattbesuch zwingend notwendig sein muss. Damit wird auch die Funktionssicherheit weiterer Funktionen des Fahrzeugs, welche auf die Kamera zugreifen, erhöht. This has the advantage that, as described in the last paragraph, with very little effort, the camera can be calibrated for a variety of different vehicle types and installation positions. Moreover, as a result over time of the lifetime of the vehicle under circumstances possibly occurring displacement of the camera, which is caused for example by continued vibration of the motor vehicle or an accident, can be compensated for while driving, without this, for example, a visit to a garage must be mandatory , This also increases the reliability of other functions of the vehicle which access the camera.
In einer weiteren vorteilhaften Ausführungsform ist vorgesehen, dass mittels einer weiteren Sensoreinrichtung, beispielsweise einer weiteren Kamera, des Fahrzeugs eine Relativposition des Objekts der Verkehrsinfrastruktur zu dem Fahrzeug ermittelt wird und das Vergleichen in Abhängigkeit der ermittelten Relativposition erfolgt. Das hat den Vorteil, dass das Kalibrieren in seiner Genauigkeit erhöht werden kann. Überdies können so gerade Kippwinkel um eine Fahrzeuglängsachse besonders gut berechnet werden, da durch diese ein Abstand in einer Fahrzeugquerrichtung verzerrt wird. So erscheint beispielsweise bei einem Verkippen der Kamera um die Fahrzeuglängsachse entgegen dem Urzeigersinn eine Fahrbahnmarkierung links näher am Fahrzeug als dies eigentlich der Fall ist. Somit wird auch hier auf einfache Weise die Zuverlässigkeit des Kalibrierens erhöht. In a further advantageous embodiment, it is provided that by means of a further sensor device, for example a further camera, of the vehicle, a relative position of the object of the traffic infrastructure to the vehicle is determined and the comparison takes place as a function of the determined relative position. This has the advantage that the calibration can be increased in its accuracy. Moreover, tilt angles around a vehicle longitudinal axis can be calculated particularly well, since they distorts a distance in a vehicle transverse direction. Thus, for example, when tilting the camera about the vehicle longitudinal axis counterclockwise, a lane marking appears closer to the left of the vehicle than is actually the case. Thus, the reliability of the calibration is also increased in a simple manner here.
In einer weiteren vorteilhaften Ausführungsform ist vorgesehen, dass das Fahrzeug sich während zumindest eines Verfahrensschrittes in einer Fahrtbewegung befindet, insbesondere sich während aller Verfahrensschritte in einer Fahrtbewegung befindet. Das hat den Vorteil, dass das Kalibrieren immer dann erfolgen kann, wenn es besonders sinnvoll ist, beispielsweise am Beginn einer Fahrt. Überdies ist es somit auch wahrscheinlicher, dass eine für das Kalibrieren geeignete Umgebung vorhanden ist, beziehungsweise ein geeignetes Objekt der Verkehrsinfrastruktur für das Kalibrieren in der Umgebung des Fahrzeugs vorhanden ist. In a further advantageous embodiment, provision is made for the vehicle to be in a moving movement during at least one method step, in particular to be in a moving movement during all method steps. This has the advantage that the calibration can always take place when it makes sense, for example at the beginning of a journey. Moreover, it is thus also more likely that an environment suitable for the calibration is present, or that a suitable object of the traffic infrastructure is present for the calibration in the surroundings of the vehicle.
In besonders vorteilhafter Weise kann dabei vorgesehen sein, dass das Vergleichen in Abhängigkeit der Fahrtbewegung erfolgt. Insbesondere kann das Vergleichen in Abhängigkeit einer Richtung und/oder einer Geschwindigkeit der Fahrtbewegung erfolgen. Eine Information über Richtung und/oder Geschwindigkeit der Fahrtbewegung kann beispielsweise über das Netzwerk des Fahrzeugs wie CAN-Bus oder FlexRay bereitgestellt beziehungsweise abgerufen werden. In a particularly advantageous manner, it can be provided that the comparison takes place as a function of the travel movement. In particular, the comparison can take place as a function of a direction and / or a speed of the travel movement. Information about the direction and / or speed of the movement can, for example, be provided or called up via the network of the vehicle, such as CAN bus or FlexRay.
Auch mit dieser weiteren Information kann das Kalibrieren in einer größeren Genauigkeit erfolgen. Beispielsweise kann so besonders genau ein Kippwinkel der Kamera um eine Fahrzeughochachse berechnet werden, da somit beispielsweise Fahrbahnmarkierungen wie Fahrspurbegrenzungslinien, welche parallel zur Bewegung des Fahrzeugs verlaufen, von anderen Linien, also insbesondere Linien, welche nicht parallel zur Bewegung des Fahrzeugs verlaufen, unterschieden werden können. Also with this further information, the calibration can be done in a greater accuracy. For example, a tilt angle of the camera about a vehicle vertical axis can be calculated so precisely, since, for example, lane markings such as lane boundary lines, which run parallel to the movement of the vehicle, can be differentiated from other lines, ie in particular lines which do not run parallel to the movement of the vehicle ,
Die Erfindung betrifft auch eine Kameraeinrichtung für ein Fahrzeug mit einer Kamera, die ausgelegt ist, eine Bildinformation eines Objekts einer Verkehrsinfrastruktur in einer Umgebung des Fahrzeugs zu erfassen und mit einer Recheneinrichtung, die ausgelegt ist, das Objekt zu erkennen und eine geometrische Abmessung des erkannten Objektes zu extrahieren. Dabei ist die Recheneinrichtung ausgelegt, die extrahierte geometrische Abmessung mit einer in der Recheneinrichtung hinterlegten Referenz-Abmessung für das erkannte Objekt der Verkehrsinfrastruktur zu vergleichen und die Kamera anhand eines Ergebnisses des Vergleichens zu kalibrieren. The invention also relates to a camera device for a vehicle with a camera, which is designed to capture image information of an object of a traffic infrastructure in an environment of the vehicle and having a computing device which is designed to recognize the object and a geometric dimension of the detected object to extract. In this case, the computing device is designed to compare the extracted geometric dimension with a reference dimension stored in the computing device for the detected object of the traffic infrastructure and to calibrate the camera based on a result of the comparison.
Vorteile und vorteilhafte Ausführungsformen der Kameraeinrichtung entsprechen hier Vorteilen und vorteilhaften Ausführungsformen des beschriebenen Verfahrens. Advantages and advantageous embodiments of the camera device correspond here to advantages and advantageous embodiments of the described method.
Die Erfindung umfasst auch ein Kraftfahrzeug mit einer solchen Kameraeinrichtung sowie einen Anhänger mit einer solchen Kameraeinrichtung und ein Gespann mit einer solchen Kameraeinrichtung. The invention also includes a motor vehicle with such a camera device and a trailer with such a camera device and a trailer with such a camera device.
In jeweiligen besonders bevorzugten Ausführungsformen ist dabei vorgesehen, dass die Kamera frontseitig oder heckseitig an dem Kraftfahrzeug beziehungsweise an dem Anhänger oder dem Gespann angeordnet ist. Das hat den Vorteil, dass das Objekt der Verkehrsinfrastruktur besonders gut durch die Kamera abgebildet werden kann. Dies gilt gerade für Fahrbahnmarkierungen wie Fahrspurbegrenzungen. Somit kann das Kalibrieren in einer besonders genauen Weise erfolgen. In particular particularly preferred embodiments, it is provided that the camera is arranged on the front or rear side of the motor vehicle or on the trailer or the trailer. This has the advantage that the object of the traffic infrastructure can be imaged particularly well by the camera. This is especially true for lane markings such as lane boundaries. Thus, the calibration can be done in a particularly accurate manner.
Die vorstehend in der Beschreibung genannten Merkmale und Merkmalskombinationen, sowie die nachfolgend in der Figurenbeschreibung genannten und/oder in den Figuren alleine gezeigten Merkmale und Merkmalskombinationen sind nicht nur in der jeweils angegebenen Kombination, sondern auch in anderen Kombinationen verwendbar, ohne den Rahmen der Erfindung zu verlassen. Es sind somit auch Ausführungen von der Erfindung als umfasst und offenbart anzusehen, die in den Figuren nicht explizit gezeigt und erläutert sind, jedoch durch separierte Merkmalskombinationen aus den erläuterten Ausführungen hervorgehen und erzeugbar sind. Es sind auch Ausführungen und Merkmalskombinationen als offenbart anzusehen, die somit nicht alle Merkmale eines ursprünglich formulierten unabhängigen Anspruchs aufweisen. Es sind darüber hinaus Ausführungen und Merkmalskombinationen, insbesondere durch die oben dargelegten Ausführungen, als offenbart anzusehen, die über die in ihren Rückbezügen der Ansprüche dargelegten Merkmalskombinationen hinausgehen oder von diesen abweichen. The features and combinations of features mentioned above in the description, as well as the features and feature combinations mentioned below in the description of the figures and / or shown alone in the figures, can be used not only in the respectively indicated combination but also in other combinations without the scope of the invention leave. Thus, embodiments of the invention are to be regarded as encompassed and disclosed, which are not explicitly shown and explained in the figures, however, emerge and can be produced by separated combinations of features from the embodiments explained. Embodiments and combinations of features are also to be regarded as disclosed, which thus do not have all the features of an originally formulated independent claim. Moreover, embodiments and combinations of features, in particular by the embodiments set out above, are to be regarded as disclosed, which go beyond the feature combinations set forth in their back references of the claims or deviate therefrom.
Ausführungsbeispiele der Erfindung werden nachfolgend anhand schematischer Zeichnungen näher erläutert. Embodiments of the invention are explained in more detail below with reference to schematic drawings.
Dabei zeigen: Showing:
Gleiche oder funktionsgleiche Elemente werden in den Figuren und mit den gleichen Bezugszeichen versehen. Identical or functionally identical elements are provided in the figures and with the same reference numerals.
Vorliegend ist an das Kraftfahrzeug
Die jeweiligen Kameraeinrichtungen
Vorliegend befindet sich nun das Kraftfahrzeug
In einem Betrieb der Kameraeinrichtung
Im gezeigten Beispiel wird für ein verbessertes Vergleichen, welches weniger rauschanfällig ist und auch bei bereits gealterten Fahrbahnmarkierungen zuverlässig erfolgt, eine Vielzahl von jeweiligen Punktpaaren, deren jeweilige Punkte dabei vorliegend auf den beiden unterschiedlichen Linien
Durch die Recheneinrichtungen
Somit kann beispielsweise die Höhe der Kameras
Im gezeigten Beispiel ist nun überdies eine weitere Sensoreinrichtung
Eine Verkippung oder Drehung der Kameras
Insgesamt wird so vorliegend eine Kameraeinrichtung
Die beiden
In
Ist jedoch die Kamera
Ein Fehler in der hinterlegten Höhe oder Justierung Kamera
In
Die zweite Repräsentation
Noch gravierender würde die Abweichung zwischen den Repräsentation
In
ZITATE ENTHALTEN IN DER BESCHREIBUNG QUOTES INCLUDE IN THE DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant has been generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte PatentliteraturCited patent literature
- US 8639433 B2 [0003] US 8639433 B2 [0003]
Claims (14)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102016117500.5A DE102016117500A1 (en) | 2016-09-16 | 2016-09-16 | Calibration of a camera of a vehicle |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102016117500.5A DE102016117500A1 (en) | 2016-09-16 | 2016-09-16 | Calibration of a camera of a vehicle |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102016117500A1 true DE102016117500A1 (en) | 2018-03-22 |
Family
ID=61302121
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102016117500.5A Withdrawn DE102016117500A1 (en) | 2016-09-16 | 2016-09-16 | Calibration of a camera of a vehicle |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102016117500A1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11494939B2 (en) | 2019-12-02 | 2022-11-08 | Toyota Research Institute, Inc. | Sensor self-calibration in the wild by coupling object detection and analysis-by-synthesis |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1873716A1 (en) | 2006-06-29 | 2008-01-02 | Hitachi, Ltd. | Calibration apparatus of on-vehicle camera, program, and car navigation system |
DE102009057553A1 (en) | 2009-12-09 | 2011-06-16 | Conti Temic Microelectronic Gmbh | A method for assisting the driver of a road-bound vehicle in the vehicle guidance |
DE102013222268A1 (en) | 2013-10-31 | 2015-04-30 | Continental Automotive Gmbh | Automatic correction of the yaw orientation of a camera system for a vehicle |
-
2016
- 2016-09-16 DE DE102016117500.5A patent/DE102016117500A1/en not_active Withdrawn
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1873716A1 (en) | 2006-06-29 | 2008-01-02 | Hitachi, Ltd. | Calibration apparatus of on-vehicle camera, program, and car navigation system |
DE102009057553A1 (en) | 2009-12-09 | 2011-06-16 | Conti Temic Microelectronic Gmbh | A method for assisting the driver of a road-bound vehicle in the vehicle guidance |
US8639433B2 (en) | 2009-12-09 | 2014-01-28 | Conti Temic Microelectronic Gmbh | Method for supporting the driver of a road-bound vehicle in guiding the vehicle |
DE102013222268A1 (en) | 2013-10-31 | 2015-04-30 | Continental Automotive Gmbh | Automatic correction of the yaw orientation of a camera system for a vehicle |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11494939B2 (en) | 2019-12-02 | 2022-11-08 | Toyota Research Institute, Inc. | Sensor self-calibration in the wild by coupling object detection and analysis-by-synthesis |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2504209B1 (en) | Method to estimate the roll angle in a car | |
EP3046076B1 (en) | Method for calibrating an image capturing device | |
DE102015118874A1 (en) | Method for operating a sensor system of a motor vehicle, driver assistance system and system for calibrating a sensor system of a motor vehicle | |
WO2014032664A1 (en) | Method for determining the course of a lane for a vehicle | |
EP3488607B1 (en) | Camera device for recording an environmental area of a vehicle, and method for providing a driver assistance function | |
EP3052359B1 (en) | Method and device for monitoring the function of a driver assistance system | |
DE102008022856A1 (en) | Method and device for determining the course of the lane in the area in front of a vehicle | |
DE102020210515A1 (en) | Method for checking detected changes for an environment model of a digital environment map | |
DE102020007772A1 (en) | Procedure for in-service calibration of a lidar and vehicle | |
DE102008026876A1 (en) | Stereo camera system and method for determining at least one calibration error of a stereo camera system | |
DE102015010535A1 (en) | Camera-based environmental detection for commercial vehicles | |
DE102015009657A1 (en) | Calibration method and method for adjusting a camera mounted on a vehicle | |
DE102015006571A1 (en) | Device and method for determining a torsion of a body and / or a chassis | |
DE102016117500A1 (en) | Calibration of a camera of a vehicle | |
DE102019003238B4 (en) | Vehicle location by map comparison taking into account a street profile | |
DE102017205534A1 (en) | Method and device for recording traffic signs | |
DE102016118538A1 (en) | Method for classifying a traffic sign in a surrounding area of a motor vehicle, computing device, driver assistance system and motor vehicle | |
WO2013026599A1 (en) | Method and device for detecting disturbing objects in the surrounding air of a vehicle | |
DE102014016174A1 (en) | Headlight adjusting device and method for adjusting headlamps of a motor vehicle | |
DE102019220064A1 (en) | Method for calibrating at least one sensor, computing unit | |
DE102020115746A1 (en) | Method for assessing the accuracy of a position determination of a landmark, as well as an evaluation system | |
DE102014016342A1 (en) | Method for calibrating a squint angle of still camera of a stereo camera | |
DE102019210129A1 (en) | Method for checking a calibration of several sensors and a motor vehicle with several sensors | |
DE102017005464A1 (en) | Device for calibrating at least one camera of a vehicle | |
DE102019214345B4 (en) | Method for detecting misalignment of at least one sensor of a motor vehicle |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R163 | Identified publications notified | ||
R005 | Application deemed withdrawn due to failure to request examination |