-
HINTERGRUND
-
Technisches Gebiet
-
Beispielhafte Ausführungsformen der vorliegenden Offenbarung betreffen eine Vorrichtung und ein Verfahren zur Messung eines Objektabstands, insbesondere eine Vorrichtung und ein Verfahren zur Messung eines Objektabstands, die unzureichende Abstandsinformationen aufgrund eines Unterschieds in der Bildwiederholrate zwischen durch eine Kamera erfasste Bildinformationen und durch einen Lidarsensor erfasste LidarInformationen interpolieren kann, indem Fahrzeugbetriebsinformationen auf die Epipolargeometrie angewendet werden.
-
Stand der Technik
-
Mit der Entwicklung der Elektroniktechnologie, der Verschärfung verkehrssicherheitsrelevanter Vorschriften und dem Verlangen der Verbraucher nimmt die Anwendung intelligenter Systeme in Fahrzeugen schnell zu. Verschiedene Arten von ADASs (erweiterte Fahrerassistenzsysteme, Advanced Driver Assistance Systems) werden für die Sicherheit/de Komfort von Fahrern eingesetzt. Beispiele für ADAS umfassen ein Front-/Rückfahrkamerasystem zur einfachen Sicherung der Fahrtsicht, ein System zur Warnung beim Verlassen der Fahrspur und ein System zur automatischen Sicherung des Sicherheitsabstands zu einem vorausfahrenden Fahrzeug. Darüber hinaus kommt ein aktives Sicherheitssystem zum Einsatz, das automatisch eine Bremseinrichtung betätigt, um eine Frontalkollision zu verhindern oder Kollisionsschäden zu reduzieren, wenn die Wahrscheinlichkeit einer Frontalkollision besteht. Das aktive Sicherheitssystem basiert auf der schnellen Entwicklung der Sensorerkennungstechnologie. Darüber hinaus wird der Erkennungstechnologie aufgrund der autonomen Fahrtechnologie, die im Automobilbereich Aufmerksamkeit erregt, in letzter Zeit viel Aufmerksamkeit gewidmet.
-
Im Allgemeinen ist ein konventioneller Objektsensor als Ultraschallsensor ausgestaltet und in den vorderen und hinteren Stoßfängern eines Fahrzeugs montiert. Der Objektsensor kann ein Objekt innerhalb eines vorgegebenen Abstands erfassen und einen Warnton ausgeben, um eine Kollision zwischen Objekt und Fahrzeug zu verhindern.
-
Üblicherweise sind verschiedene Verfahren zur Messung des Abstands zwischen einem Fahrzeug und einem Objekt bekannt. Beispiele für die verschiedenen Verfahren können ein Verfahren zur Messung eines Abstands von einem Fahrzeug zu einem Objekt durch Verarbeitung von Bildern, die durch eine Stereokamera aufgenommen wurden, oder ein Verfahren zur Messung eines Abstands von einem Fahrzeug zu einem Objekt als Reaktion auf die Größe des Objekts in einem durch eine einzige Kamera aufgenommenen Bildes sein. Benutzer möchten jedoch nicht die teure und schwer zu wartende Stereokamera anbringen, um lediglich eine Entfernung zu messen. Um eine Entfernung als Reaktion auf die Größe eines Objekts zu messen, muss außerdem eine Datenbank mit großer Kapazität aufgebaut werden, damit das Objekt genau erkannt werden kann.
-
Daher besteht ein Bedarf an einer Technik, die in der Lage ist, mit einer einzigen Rückfahrkamera, die in den meisten Fahrzeugen installiert ist, komfortabel und kostengünstig eine Entfernung zu einem Objekt zu messen.
-
Der damit verbundene Stand der Technik der vorliegenden Offenbarung ist in der koreanischen Patentanmeldung Nr.
10-2018-0126224 offenbart, die am 27. November 2018 veröffentlicht wurde und den Titel „ Fahrzeughandhabungsverfahren und Vorrichtungen beim Fahren von Fahrzeugen“ trägt.
-
ZUSAMMENFASSUNG
-
Verschiedene Ausführungsformen sind auf eine Objektabstandsmessvorrichtung und ein Verfahren gerichtet, die unzureichende Abstandsinformationen aufgrund eines Unterschieds in der Bildwiederholrate zwischen Bildinformationen, die durch eine Kamera erfasst werden, und Lidarinformationen, die durch einen Lidarsensor erfasst werden, interpolieren kann, indem Fahrzeugbetriebsinformationen auf die Epipolargeometrie angewendet werden.
-
In einer Ausgestaltung kann eine Objektabstandsmessvorrichtung folgendes umfassen: eine Kamera, die eingerichtet ist, ein Bild eines Bereichs um ein Fahrzeug herum zu erfassen; einen Abstandssensor, der eingerichtet ist, einen Abstand zu einem Objekt durch Abtasten um das Fahrzeug herum zu erfassen; und eine Abstandsmesseinheit, die eingerichtet ist, einen Fahrzeugbewegungsabstand unter Verwendung von Fahrzeuginformationen zu erfassen, die durch den Betrieb des Fahrzeugs erzeugt werden, und den Abstand zum Objekt in Reaktion auf jedes der Einzelbilder zwischen Abtastperioden des Abstandssensors unter den Einzelbildern des Bildes auf der Grundlage des Fahrzeugbewegungsabstands und der Ortspixelkoordinaten des Objekts innerhalb des Bildes vor und nach der Bewegung des Fahrzeugs zu messen.
-
Die Objektabstandsmessvorrichtung kann ferner eine Bestimmungseinheit umfassen, die eingerichtet ist, eine Kamerafrequenz der Kamera und eine Abtastfrequenz des Abstandssensors zu vergleichen und zu bestimmen, ob der Abstand zum Objekt für jedes der Einzelbilder des Bildes interpoliert werden soll.
-
Die Fahrzeuginformationen können wenigstens eine Fahrzeugbewegungsdistanz, einen Lenkwinkel, eine Fahrzeuggeschwindigkeit und eine Fahrzeit umfassen.
-
Die Objektabstandsmessvorrichtung kann ferner eine Abbildungseinheit umfassen, die eingerichtet ist, den Abstand zum Objekt, der jedem der Einzelbilder zwischen den Abtastperioden des Abstandssensors unter den Einzelbildern des Bildes entspricht, auf jedes der Einzelbilder zwischen den Abtastperioden des Abstandssensors abzubilden.
-
Zur Berechnung des Abstands zum Objekt kann die Abstandsmesseinheit den Fahrzeugbewegungsabstand auf der Grundlage eines Bewegungsabstands, eines Lenkwinkels und eines Bewegungswinkels zwischen den Teilen der Fahrzeuginformationen berechnen, die von einer ESE (Elektronische Steuereinheit) des Fahrzeugs empfangen werden. Der Fahrzeugbewegungsabstand kann die Länge einer geraden Linie sein, die den Standort des Fahrzeugs vor Beginn der Bewegung des Fahrzeugs mit dem Standort des Fahrzeugs nach der vollständigen Bewegung des Fahrzeugs verbindet.
-
Zur Berechnung des Abstands zum Objekt kann die Abstandsmesseinheit ein erstes virtuelles Dreieck erzeugen, von dem eine Seite auf den berechneten Fahrzeugbewegungsabstand und eine andere Seite auf den Radius eines virtuellen Kreises eingestellt ist, der einem Kreisbogen entspricht, entlang dem sich das Fahrzeug bewegt. Der Bewegungswinkel kann in Abhängigkeit von der Länge und dem Radius des Kreisbogens, auf dem sich das Fahrzeug bewegt, bestimmt werden und der Radius kann in Abhängigkeit vom Lenkwinkel bestimmt warden und zuvor in Form einer Tabelle in einem internen Speicher gespeichert werden.
-
Das erste virtuelle Dreieck kann ein virtuelles Dreieck sein, dessen Scheitelpunkte auf den Standort der Kamera vor der Bewegung des Fahrzeugs, den Standort der Kamera nach der Bewegung des Fahrzeugs und den Standort eines Kontaktpunkts zwischen parallelen Linien, die eine Stoßstange des Fahrzeugs vor der Bewegung und die Stoßstange des Fahrzeugs nach der Bewegung tangieren, wenn die parallelen Linien zur Innenseite des Lenkwinkels hin verlängert werden, gesetzt werden, wobei die Innenseite des Lenkwinkels der Innenseite des virtuellen Kreises entspricht, wenn sich das Fahrzeug in Form eines Kreisbogens bewegt.
-
Wenn das erste virtuelle Dreieck erzeugt wird, kann die Abstandsmesseinheit ein zweites virtuelles Dreieck erzeugen, das sich eine Seite des ersten virtuellen Dreiecks teilt, um den Abstand zum Objekt auf der Grundlage der Informationen des ersten virtuellen Dreiecks zu berechnen.
-
Das zweite virtuelle Dreieck kann eine Seite, die einer geraden Linie entspricht, welche die Standorte der Kamera des Fahrzeugs vor und nach der Bewegung des Fahrzeugs verbindet, unter den drei Seiten teilen, die das erste virtuelle Dreieck bilden, und ein virtuelles Dreieck sein, dessen Scheitelpunkte auf den Standort der Kamera vor der Bewegung des Fahrzeugs, den Standort der Kamera nach der Bewegung des Fahrzeugs und den Mittelpunkt des Objekts, der einem Ziel der Abstandsmessung entspricht, gesetzt werden.
-
Die Abstandsmesseinheit kann die Längen der beiden Seiten, die das zweite virtuelle Dreieck bilden, berechnen, indem diese den Standort des Objekts in den Bildern, die von der Kamera vor und nach der Bewegung des Fahrzeugs erfasst werden, auf eine Epipolargeometrie anwendet, und als Abstand zum Objekt die Länge einer Seite berechnen, die einer geraden Linie entspricht, die den Mittelpunkt des Objekts mit dem Standort der Kamera nach der Bewegung des Fahrzeugs unter den drei Seiten verbindet, die das zweite virtuelle Dreieck bilden.
-
Der Abstandssensor kann ein Lidarsensor sein.
-
In einer Ausgestaltung kann ein Verfahren zum Messen eines Objektabstands folgendes umfassen: Erfassen eines Bildes eines Bereiches um ein Fahrzeug herum mit einer Kamera; Erfassen eines Abstandes zu einem Objekt durch Abtasten um das Fahrzeug herum mit einem Abstandssensor; und Erfassen eines Fahrzeugbewegungsabstandes durch eine Abstandsmesseinheit unter Verwendung von Fahrzeuginformationen, die durch den Betrieb des Fahrzeugs erzeugt werden, und Messen des Abstandes zu dem Objekt als Reaktion auf jedes der Einzelbilder zwischen Abtastperioden des Abstandssensors unter Einzelbildern des Bildes auf der Grundlage des Fahrzeugbewegungsabstands und der Ortspixelkoordinaten des Objektes innerhalb des Bildes vor und nach der Bewegung des Fahrzeugs.
-
Die Vorrichtung und das Verfahren zur Messung des Objektabstands gemäß der Ausgestaltung der vorliegenden Offenbarung können Fahrzeugbetriebsinformationen auf die Epipolargeometrie anwenden, um unzureichende Abstandsinformationen aufgrund eines Unterschieds in der Bildwiederholrate zwischen den durch die Kamera erfassten Bildinformationen und den durch den Lidarsensor erfassten Lidarinformationen zu interpolieren. Dadurch können die Vorrichtung und das Verfahren zur Messung des Objektabstands komfortabel und kostengünstig eine Entfernung zu einem Objekt messen und den Effekt einer Stereokamera mit einer Kamera erreichen.
-
Figurenliste
-
- 1 ist ein Blockdiagramm, das eine Objektabstandsmessvorrichtung gemäß einer Ausgestaltung der vorliegenden Offenbarung zeigt.
- 2 ist ein Diagramm, das ein Abtastverfahren eines Lidarsensors in einem Aufnahmebereich einer Kamera gemäß der Ausgestaltung der vorliegenden Offenbarung zeigt.
- 3 ist ein Diagramm, das eine unzureichende Abstandsinformation aufgrund eines Unterschieds in der Bildwiederholrate zwischen der Bildinformation und der durch den Lidarsensor erfassten Lidarinformation gemäß der Ausgestaltung der vorliegenden Offenbarung zeigt.
- 4 ist ein Diagramm zur Beschreibung eines Verfahrens zur Erzeugung eines ersten virtuellen Dreiecks durch Berechnung eines Fahrzeugbewegungsabstands gemäß der Ausgestaltung der vorliegenden Offenbarung.
- 5 ist ein Diagramm zur Beschreibung eines Verfahrens zur Erzeugung des ersten virtuellen Dreiecks unter Verwendung einer Lenkwinkel- und Radiusinformation gemäß der Ausgestaltung der vorliegenden Offenbarung.
- 6 ist ein Diagramm zur Beschreibung eines Verfahrens zur Erzeugung eines zweiten virtuellen Dreiecks zur Berechnung eines Abstands zu einem Objekt gemäß der Ausgestaltung der vorliegenden Offenbarung.
- 7 ist ein Diagramm zur Beschreibung eines Verfahrens zur Berechnung eines Abstands zu einem Objekt auf der Grundlage der Epipolargeometrie und des zweiten virtuellen Dreiecks gemäß der Ausgestaltung der vorliegenden Offenbarung.
- 8 ist ein Flussdiagramm, das ein Verfahren zur Messung des Abstands zu einem Objekt gemäß einer Ausgestaltung der vorliegenden Offenbarung zeigt.
-
DETAILIERTE BESCHREIBUNG DER DARGESTELLTEN AUSFÜHRUNGSFORMEN
-
Nachfolgend werden eine Objektabstandsmessvorrichtung und ein Verfahren anhand der begleitenden Abbildungen durch verschiedene exemplarische Ausführungsformen beschrieben.
-
Es ist zu beachten, dass die Abbildungen nicht maßstabsgerecht sind und dass die Dicke der Linien oder die Größe der Komponenten nur aus Gründen der Anschaulichkeit und Klarheit übertrieben sein können. Darüber hinaus werden die hier verwendeten Begriffe unter Berücksichtigung der Funktionen der Erfindung definiert und können je nach Gewohnheit oder Absicht der Benutzer oder Betreiber geändert werden. Daher sollte die Definition der Begriffe anhand den hier dargelegten allgemeinen Offenbarungen erfolgen.
-
Wie allgemein im Stand der Technik bekannt, können einige beispielhafte Ausführungsformen in den beiliegenden Abbildungen unter dem Gesichtspunkt von Funktionsblöcken, Einheiten und/oder Modulen dargestellt sein. Der Fachmann wird verstehen, dass solche Blöcke, Einheiten und/oder Module physikalisch durch elektronische (oder optische) Schaltungen wie Logikschaltungen, diskrete Komponenten, Prozessoren, fest verdrahtete Schaltungen, Speicherbausteine und Kabelverbindungen implementiert sind. Wenn die Blöcke, Einheiten und/oder Module durch Prozessoren oder andere ähnliche Hardware implementiert sind, können die Blöcke, Einheiten und Module durch Software (z.B. Codes) programmiert und gesteuert werden, um verschiedene in dieser Beschreibung diskutierte Funktionen auszuführen. Darüber hinaus kann jeder der Blöcke, Einheiten und/oder Module durch zugehörige Hardware oder eine Kombination aus zugehöriger Hardware zum Ausführen einiger Funktionen und einem Prozessor zur Ausführung einer anderen Funktion (z.B. ein oder mehrere programmierte Prozessoren und zugehörige Schaltungen) implementiert sein. In einigen beispielhaften Ausführungsformen kann jeder der Blöcke, Einheiten und/oder Module physisch in zwei oder mehr Blöcke, Einheiten und/oder Module unterteilt sein, die interaktiv und getrennt sind, ohne vom Umfang der Offenbarung abzuweichen. Darüber hinaus können Blöcke, Einheiten und/oder Module in einigen beispielhaften Ausführungsformen physisch zu einem komplexeren Block, einer komplexeren Einheit und/oder einem komplexeren Modul gekoppelt sein, ohne vom Umfang der Offenbarung abzuweichen.
-
1 ist ein Blockdiagramm, das eine Objektabstandsmessvorrichtung gemäß einer Ausgestaltung der vorliegenden Offenbarung zeigt, 2 ist ein Diagramm, das ein Abtastverfahren eines Lidarsensors in einem Aufnahmebereich einer Kamera gemäß der Ausgestaltung der vorliegenden Offenbarung zeigt, 3 ist ein Diagramm, das unzureichende Abstandsinformationen aufgrund eines Unterschieds in der Bildwiederholrate zwischen Bildinformationen und Lidarinformationen, die durch den Lidarsensor gemäß der Ausgestaltung der vorliegenden Offenbarung erfasst wurden, veranschaulicht, 4 ist ein Diagramm zur Beschreibung eines Verfahrens zur Erzeugung eines ersten virtuellen Dreiecks durch Berechnung eines Fahrzeugbewegungsabstands gemäß der Ausgestaltung der vorliegenden Offenbarung, 5 ist ein Diagramm zur Beschreibung eines Verfahrens zur Erzeugung des ersten virtuellen Dreiecks unter Verwendung einer Lenkwinkel- und Radiusinformation gemäß der Ausgestaltung der vorliegenden Offenbarung, 6 ist ein Diagramm zur Beschreibung eines Verfahrens zur Erzeugung eines zweiten virtuellen Dreiecks zur Berechnung eines Abstands zu einem Objekt gemäß der Ausgestaltung der vorliegenden Offenbarung und 7 ist ein Diagramm zur Beschreibung eines Verfahrens zur Berechnung eines Abstands zu einem Objekt auf der Grundlage der Epipolargeometrie und des zweiten virtuellen Dreiecks gemäß der Ausgestaltung der vorliegenden Offenbarung.
-
Unter Bezugnahme auf 1 umfasst die Objektabstandsmessvorrichtung gemäß der Ausgestaltung der vorliegenden Offenbarung eine Kamera 10, einen Lidarsensor 20, eine Bestimmungseinheit 30, eine Abstandsmesseinheit 40 und eine Abbildungseinheit 50.
-
Die Kamera 10 ist in einem Fahrzeug installiert, um ein Bild eines vorderen Bereichs des Fahrzeugs zu erfassen. Die Kamera 10 kann z.B. 60 Bilder pro Sekunde bei einer Kamerafrequenz von 60 Hz aufnehmen. Als Referenz wurde in der vorliegenden Ausgestaltung beschrieben, dass 60 Bilder bei einer Kamerafrequenz von 60 Hz erfasst werden, die vorliegende Offenbarung ist jedoch nicht darauf beschränkt. Beispielsweise kann eine Kamera mit einer Kamerafrequenz von 30 Hz als Kamera 10 verwendet werden.
-
Der Lidarsensor 20 misst einen Abstand zu einem Objekt, indem dieser einen Laser in den vorderen Bereich des Fahrzeugs emittiert und den vom Objekt reflektierten und zurückkehrenden Laser empfängt.
-
Der Lidarsensor 20 umfasst eine Sendeeinheit (nicht abgebildet) zum Emittieren von Laser in den vorderen Bereich des Fahrzeugs, eine Dreheinheit (nicht abgebildet) zum Drehen der Sendeeinheit um einen voreingestellten Winkel, eine Empfangseinheit (nicht abgebildet) zum Empfangen des vom Objekt reflektierten und zurückkehrenden Lasers, nachdem der Laser von der Sendeeinheit emittiert wurde, und einen Abstandsmesser (nicht abgebildet) zum Messen des Abstands zu dem Objekt vor dem Fahrzeug unter Verwendung einer Zeitdifferenz zwischen dem Zeitpunkt, zu dem der Laser von der Sendeeinheit emittiert wurde, und dem Zeitpunkt, zu dem der Laser von der Empfangseinheit empfangen wurde, wenn der Laser von der Empfangseinheit empfangen wird.
-
Der Lidarsensor 20 emittiert Laser in einen Aufnahmebereich, der von der Kamera 10 abgedeckt wird. Gemäß 2 kann der Lidarsensor 20 Laser in den Aufnahmebereich emittieren, in dem ein Bild von der Kamera 10 aufgenommen wird. In diesem Fall kann der Lidarsensor 20 um den voreingestellten Winkel in Bezug auf den Aufnahmebereich gedreht werden (①, ②, ③ und ④), um einen Abstand zu einem im Aufnahmebereich befindlichen Objekt zu messen. Der Lidarsensor 20 tastet das Objekt mit einer Abtastfrequenz von 10 Hz ab.
-
Wenn die Kamera 10 ein Bild mit einer Kamerafrequenz von 60 Hz aufnimmt und der Lidarsensor 20 ein Objekt mit einer Abtastfrequenz von 10 Hz abtastet, können ein erstes Einzelbild, siebtes Einzelbild, 13. Einzelbild, 19. Einzelbild, 25. Einzelbild, 31. Einzelbild, 37. Einzelbild, ein 43. Einzelbild und ein 55. Einzelbild unter den Bildern der Kamera 10 auf die Abtastdaten (Abstand zum Objekt) des Lidarsensors 20 abgebildet werden, jedoch können die anderen Einzelbilder nicht auf die Abtastdaten des Lidarsensors 20 abgebildet werden, wie in 3 dargestellt.
-
D.h. die Einzelbilder der Kamera 10 zwischen den Abtastperioden des Lidarsensors 20, d.h. das zweite bis sechste Einzelbild, achte bis zwölfte Einzelbild, 14te bis 18te Einzelbild, 20te bis 24te Einzelbild, 26te bis 30te Einzelbild, 32te bis 36te Einzelbild, 38te bis 42te Einzelbild, 44te bis 48te Einzelbild, 50te bis 54te Einzelbild und 56te bis 60te Einzelbild, können nicht auf die Abtastdaten abgebildet werden. Folglich haben die entsprechenden Einzelbilder keine Informationen über den Abstand zum Objekt.
-
Basierend auf einem Bewegungsabstand eines Fahrzeugs und den Ortspixelkoordinaten des Objekts in Bildern vor und nach der Bewegung des Fahrzeugs misst die Abstandsmesseinheit 40 daher den Abstand zum Objekt als Antwort auf jedes der Einzelbilder zwischen den Abtastperioden des Lidarsensors 20, das heißt das zweite bis sechste Einzelbild, das achte bis 12te Einzelbild, das 14te bis 18te Einzelbild, das 20te bis 24te Einzelbild, das 26te bis 30te Einzelbild, das 32te bis 36te Einzelbild, das 38te bis 42te Einzelbild, das 44te bis 48te Einzelbild, das 50te bis 54te Einzelbild und das 56te bis 60te Einzelbild unter den Einzelbildern des Bildes.
-
Vor der Abstandsmessung vergleicht die Bestimmungseinheit 30 die Kamerafrequenz der Kamera 10 und die Abtastfrequenz des Lidarsensors 20 und bestimmt, ob der Abstand zum Objekt für jedes Einzelbild des Bildes interpoliert werden soll.
-
Das heißt, wenn ein Bild von der Kamera 10 aufgenommen und das Objekt vom Lidarsensor 20 abgetastet wird, vergleicht die Bestimmungseinheit 30 die Kamerafrequenz der Kamera 10 und die Abtastfrequenz des Lidarsensors 20 und bestimmt, ob der Abstand zum Objekt je nachdem, ob die Kamerafrequenz der Kamera 10 und die Abtastfrequenz des Lidarsensors 20 übereinstimmen, interpoliert werden soll. Wenn sich beispielsweise die Kamerafrequenz der Kamera 10 und die Abtastfrequenz des Lidarsensors 20 voneinander unterscheiden, entscheidet die Bestimmungseinheit 30, den Abstand zum Objekt für jedes der Einzelbilder zwischen den Abtastperioden des Lidarsensors 20 unter den Einzelbildern des Bildes zu interpolieren.
-
Wenn die Bestimmungseinheit 30 entscheidet, den Abstand zum Objekt für jedes der Einzelbilder zwischen den Abtastperioden des Lidarsensors 20 unter den Einzelbildern des Bildes zu interpolieren, erfasst die Abstandsmesseinheit 40 einen Fahrzeugbewegungsabstand unter Verwendung von Fahrzeuginformationen, die durch den Betrieb des Fahrzeugs erzeugt werden, und misst den Abstand zum Objekt als Reaktion auf jedes der Einzelbilder zwischen den Abtastperioden des Lidarsensors 20 unter den Einzelbildern des Bildes, basierend auf dem Fahrzeugbewegungsabstand und den Ortspixelkoordinaten des Objekts im Bild vor und nach der Bewegung des Fahrzeugs.
-
Insbesondere wählt die Abstandsmesseinheit 40 die Ortspixelkoordinate des Objekts im Bild aus, um den Abstand zum Objekt im Bild zu messen, und das entsprechende Objekt kann ein vom Lidarsensor 20 abgemessener Bereich sein.
-
Wenn das Objekt ausgewählt wird, empfängt die Abstandsmesseinheit 40 Fahrzeuginformationen (z.B. Bewegungsabstand, Lenkwinkel, Fahrzeuggeschwindigkeit, Fahrzeit und dergleichen), die durch den Betrieb des Fahrzeugs erzeugt werden, durch Kommunikation mit einer ESE (Elektronische Steuereinheit) im Fahrzeug.
-
Die Abstandsmesseinheit 40 empfängt die Fahrzeuginformationen (z.B. Fahrweg- und Lenkwinkelinformationen) und erzeugt ein virtuelles Dreieck (erstes virtuelles Dreieck) zur Berechnung des Abstands zum Objekt, d.h. des Abstands von der Kamera 10 des Fahrzeugs zum Objekt, wie in 4 dargestellt.
-
Zu diesem Zeitpunkt kann die Länge r einer Seite zur Erzeugung des virtuellen Dreiecks (erstes virtuelles Dreieck) oder der Radius eines virtuellen Kreises, der einem Kreisbogen entspricht, auf dem sich das Fahrzeug entsprechend einem Lenkwinkel bewegt, entsprechend dem Lenkwinkel vorgegeben und in Form einer Tabelle in einem internen Speicher (nicht abgebildet) gespeichert werden. Wie in 5 dargestellt, wird ein Bewegungswinkel θ in Abhängigkeit von der Länge und dem Radius r des Kreisbogens, auf dem sich das Fahrzeug bewegt, bestimmt.
-
Wenn der Lenkwinkel erfasst wird, kann auch die Länge r einer Seite zur Erzeugung des virtuellen Dreiecks (erstes virtuelles Dreieck) oder der Radius des virtuellen Kreises, der dem Kreisbogen entspricht, auf dem sich das Fahrzeug entsprechend dem Lenkwinkel bewegt, durch eine voreingestellte spezifische Gleichung berechnet werden.
-
Daher werden die Scheitelpunkte des virtuellen Dreiecks (erstes virtuelles Dreieck) auf den Standort der Kamera 10 vor der Bewegung des Fahrzeugs, den Standort der Kamera 10 nach der Bewegung des Fahrzeugs und den Standort des Berührungspunkts zwischen parallelen Linien, die einen Stoßfänger des Fahrzeugs vor der Bewegung und den Stoßfänger des Fahrzeugs nach der Bewegung tangieren, wenn die parallelen Linien zur Innenseite des Lenkwinkels (d.h. zur Innenseite des Kreisbogens, auf dem sich das Fahrzeug bewegt) hin verlängert werden, gesetzt.
-
Die Abstandsmesseinheit 40 kann das virtuelle Dreieck (erstes virtuelles Dreieck) mit den drei Scheitelpunkten erzeugen und so die Längen der drei Seiten des virtuellen Dreiecks (erstes virtuelles Dreieck) berechnen. Insbesondere kann die Abstandsmesseinheit 40 die Länge einer Seite (② in 6) berechnen, die einer geraden Linie entspricht, die den Standort der Kamera 10 des Fahrzeugs vor der Bewegung mit dem Standort der Kamera 10 des Fahrzeugs nach der Bewegung verbindet, und ein weiteres virtuelles Dreieck (zweites virtuelles Dreieck) erzeugen, dessen eine Seite auf die Seite ((2) in 6) gesetzt wird, die der geraden Linie entspricht, die den Standort der Kamera 10 des Fahrzeugs vor der Bewegung mit dem Standort der Kamera 10 des Fahrzeugs nach der Bewegung verbindet.
-
Die Scheitelpunkte des anderen virtuellen Dreiecks (zweites virtuelles Dreieck) werden auf den Standort der Kamera 10 vor der Bewegung des Fahrzeugs, den Standort der Kamera 10 nach der Bewegung des Fahrzeugs und den Mittelpunkt des Objekts gesetzt (siehe 6B). Das heißt, das andere virtuelle Dreieck (zweites virtuelles Dreieck) wird von drei Seiten gebildet ((2), (3) und (6) von 6).
-
Von den drei Seiten (②, ③ und ⑥ in 6) des zweiten virtuellen Dreiecks wird die Länge einer Seite (③ in 6), die einer geraden Linie entspricht, die den Mittelpunkt des Objekts mit dem Standort der Kamera 10 verbindet, nachdem sich das Fahrzeug bewegt hat, der Abstand zum Objekt, d.h. der Abstand von der Kamera 10 des Fahrzeugs zum Objekt.
-
Zu diesem Zeitpunkt ist die Länge der Seite ((2) in 6) zwischen den drei Seiten ((2), (3) und (6) in 6) des zweiten virtuellen Dreiecks bereits bekannt, und die Längen der beiden anderen Seiten (③ und (6) in 6) können berechnet werden, indem die Positionen des Objekts in den Bildern, die von der Kamera 10 vor und nach der Bewegung des Fahrzeugs aufgenommen wurden, auf die Epipolargeometrie angewendet werden (siehe 7).
-
Da es sich bei der Epipolargeometrie um eine allgemein bekannte Technologie handelt, wird hier auf eine detaillierte Beschreibung verzichtet. Als Referenz steht in 7 OR für den Standort der Kamera 10 vor der Bewegung des Fahrzeugs, OL für den Standort der Kamera 10 nach der Bewegung des Fahrzeugs und X (oder X1 bis XL) für den Mittelpunkt des Objekts. Darüber hinaus stellt eine rechte Ansicht ein Bild dar, das von der Kamera 10 vor der Bewegung des Fahrzeugs aufgenommen wurde, und eine linke Ansicht ein Bild, das von der Kamera 10 nach der Bewegung des Fahrzeugs aufgenommen wurde.
-
In den 4 und 6 wird die Größe des Lenkwinkels, bei dem sich das Fahrzeug kreisbogenförmig bewegt, aus Gründen der Einfachheit der Beschreibung übertrieben dargestellt. Da ein Benutzer während der Rückwärtsfahrt kontinuierlich ein Lenkrad betätigt, wird der Lenkwinkel in Wirklichkeit während der Bewegung des Fahrzeugs kontinuierlich verändert. Daher sollte verstanden werden, dass die 4 und 6 auf der Annahme basieren, dass der Lenkwinkel nicht verändert, sondern beibehalten wird, während sich das Fahrzeug bewegt, um das Verständnis zu fördern.
-
Als solches wird der Prozess der Abstandsmessung zu einem Objekt für jedes Einzelbild durchgeführt. Wenn z.B. das zweite Einzelbild durch die Fahrzeuginformationen in einem Zustand erfasst wird, in dem das erste von der Kamera 10 erfasste Einzelbild und die ersten Abtastdaten erfasst werden, führt die Abstandsmesseinheit 40 den oben beschriebenen Prozess durch, um einen Abstand zum Objekt zu erfassen, der dem zweiten Einzelbild entspricht, basierend auf einem Fahrzeugbewegungsabstand. Durch wiederholtes Ausführen eines solchen Prozesses bis zur Erfassung der nächsten Abtastdaten erfasst die Abstandsmesseinheit 40 einen Abstand zum Objekt, der jedem der Einzelbilder zwischen den Abtastperioden entspricht, d.h. dem zweiten bis sechsten Einzelbild, dem achten bis 12ten Einzelbild, dem 14ten bis 18ten Einzelbild, dem 20ten bis 24ten Einzelbild, dem 26ten bis 30ten Einzelbild, dem 32ten bis 36ten Einzelbild, dem 38ten bis 42ten Einzelbild, dem 44ten bis 48ten Einzelbild, dem 50ten bis 54ten Einzelbild und dem 56ten bis 60ten Einzelbild.
-
Da die Abstandsmesseinheit 40 den Abstand zum Objekt als Reaktion auf jedes der Einzelbilder zwischen den Abtastperioden des Lidarsensors 20 unter den Einzelbildern des Bildes misst, bildet die Abbildungseinheit 50 den Abstand zum Objekt eins zu eins auf jedes der Einzelbilder zwischen den Abtastperioden des Lidarsensors 20 unter den Einzelbildern des Bildes ab.
-
Daher kann der Abstand zum Objekt für jedes der ersten bis 60. von der Kamera 10 erfassten Einzelbilder erfasst werden.
-
Im Folgenden wird eine Verfahren zur Messung des Objektabstandes in Übereinstimmung mit einer Ausgestaltung der vorliegenden Offenbarung unter Bezugnahme auf 8 ausführlich beschrieben.
-
8 ist ein Flussdiagramm, das ein Verfahren zur Messung das Objektabstands gemäß einer Ausgestaltung der vorliegenden Offenbarung darstellt.
-
Unter Bezugnahme auf 8 nimmt die Kamera 10 in Schritt S10 ein Bild von einem vorderen Bereich des Fahrzeugs auf. Die Kamera 10 kann z.B. 60 Bilder pro Sekunde bei einer Kamerafrequenz von 60 Hz aufnehmen.
-
In Schritt S20 misst der Lidarsensor 20 einen Abstand zu einem Objekt, indem dieser einen Laser in den vorderen Bereich des Fahrzeugs emittiert und den vom Objekt reflektierten und zurückkehrenden Laser empfängt.
-
Während das Bild von der Kamera 10 erfasst und der Abstand zum Objekt durch den Lidarsensor 20 gemessen wird, vergleicht die Bestimmungseinheit 30 die Kamerafrequenz der Kamera 10 mit der Abtastfrequenz des Lidarsensors 20 und bestimmt in Schritt S30, ob der Abstand zum Objekt für jedes Einzelbild des Bildes interpoliert werden soll.
-
In diesem Fall, wenn das Vergleichsergebnis anzeigt, dass die Kamerafrequenz der Kamera 10 und die Abtastfrequenz des Lidarsensors 20 voneinander verschieden sind, entscheidet die Bestimmungseinheit 30, den Abstand zum Objekt für jedes der Einzelbilder zwischen den Abtastperioden des Lidarsensors 20 unter den Einzelbildern des Bildes zu interpolieren.
-
Wenn die Bestimmungseinheit 30 entscheidet, den Abstand zum Objekt für jedes der Einzelbilder zwischen den Abtastperioden des Lidarsensors 20 unter den Einzelbildern des Bildes zu interpolieren, wählt die Abstandsmesseinheit 40 die Ortspixelkoordinate des Objekts innerhalb des Bildes aus, um den Abstand im Bild zu messen, und empfängt in Schritt S40 Fahrzeuginformationen (z.B. Bewegungsabstand, Lenkwinkel, Fahrzeuggeschwindigkeit und Fahrzeit), die durch den Betrieb des Fahrzeugs durch Kommunikation mit der ESE innerhalb des Fahrzeugs erzeugt werden.
-
Dann erzeugt die Abstandsmesseinheit 40, wie in 4 dargestellt, ein virtuelles Dreieck (erstes virtuelles Dreieck) zur Berechnung des Abstands zwischen dem Fahrzeug und dem Objekt (d.h. des Abstands von der Kamera 10 des Fahrzeugs zum Objekt) auf der Grundlage der empfangenen Fahrzeuginformationen (z.B. Bewegungsabstand und Lenkwinkelinformationen).
-
Zu diesem Zeitpunkt kann die Länge r einer Seite zur Erzeugung des virtuellen Dreiecks (erstes virtuelles Dreieck) oder der Radius eines virtuellen Kreises, der einem Kreisbogen entspricht, entlang dem sich das Fahrzeug entsprechend dem Lenkwinkel bewegt, entsprechend dem Lenkwinkel vorgegeben werden und in Form einer Tabelle im internen Speicher gespeichert werden (nicht abgebildet). Wie in 5 dargestellt, wird der Bewegungswinkel θ in Abhängigkeit von der Länge und dem Radius r des Kreisbogens, auf dem sich das Fahrzeug bewegt, bestimmt.
-
Wenn der Lenkwinkel erfasst wird, kann die Länge r einer Seite zur Erzeugung des virtuellen Dreiecks (erstes virtuelles Dreieck) oder der Radius des virtuellen Kreises, der dem Kreisbogen entspricht, auf dem sich das Fahrzeug entsprechend dem Lenkwinkel bewegt, auch durch eine voreingestellte spezifische Gleichung berechnet werden.
-
Daher werden die Scheitelpunkte des virtuellen Dreiecks (erstes virtuelles Dreieck) auf den Standort der Kamera 10 vor der Bewegung des Fahrzeugs, den Standort der Kamera 10 nach der Bewegung des Fahrzeugs und den Standort des Berührungspunkts zwischen parallelen Linien, die einen Stoßfänger des Fahrzeugs vor der Bewegung und den Stoßfänger des Fahrzeugs nach der Bewegung tangieren, wenn die parallelen Linien in Richtung der Innenseite des Lenkwinkels (d.h. der Innenseite des Kreisbogens, auf dem sich das Fahrzeug bewegt) verlängert werden, gesetzt.
-
Die Abstandsmesseinheit 40 kann das virtuelle Dreieck (erstes virtuelles Dreieck) mit den drei Scheitelpunkten erzeugen und so die Längen der drei Seiten des virtuellen Dreiecks (erstes virtuelles Dreieck) berechnen. Insbesondere kann die Entfernungsmesseinheit 40 die Länge einer Seite ((2) in 6) berechnen, die einer geraden Linie entspricht, die den Standort der Kamera 10 des Fahrzeugs vor der Bewegung mit dem Standort der Kamera 10 des Fahrzeugs nach der Bewegung verbindet, und ein weiteres virtuelles Dreieck (zweites virtuelles Dreieck) erzeugen, dessen eine Seite auf die Seite ((2) in 6) gesetzt wird, die der geraden Linie entspricht, die den Standort der Kamera 10 des Fahrzeugs vor der Bewegung mit dem Standort der Kamera 10 des Fahrzeugs nach der Bewegung verbindet.
-
Die Scheitelpunkte des anderen virtuellen Dreiecks (zweites virtuelles Dreieck) werden auf den Standort der Kamera 10 vor der Bewegung des Fahrzeugs, den Standort der Kamera 10 nach der Bewegung des Fahrzeugs und den Mittelpunkt des Objekts gesetzt (siehe 6B). Das heißt, das andere virtuelle Dreieck (zweites virtuelles Dreieck) wird durch drei Seiten gebildet ((2), (3) und (6) in 6).
-
Von den drei Seiten ((2), (3) und (6) in 6) des zweiten virtuellen Dreiecks wird die Länge einer Seite (③ in 6), die einer geraden Linie entspricht, die den Mittelpunkt des Objekts mit dem Standort der Kamera 10 verbindet, nachdem sich das Fahrzeug bewegt hat, zum Abstand zum Objekt, d.h. dem Abstand von der Kamera 10 des Fahrzeugs zum Objekt.
-
Zu diesem Zeitpunkt ist die Länge der Seite ((2) in 6) unter den drei Seiten ((2), (3) und (6) in 6) des zweiten virtuellen Dreiecks eine bereits bekannte Information, und die Längen der beiden anderen Seiten (③ und (6) in 6) können berechnet werden, indem die Positionen des Objekts in den Bildern, die von der Kamera 10 vor und nach der Bewegung des Fahrzeugs aufgenommen wurden, auf die epipolare Geometrie (siehe 7) im Schritt S50 angewendet werden (siehe 7).
-
Da es sich bei der Epipolargeometrie um eine allgemein bekannte Technologie handelt, wird auf eine detaillierte Beschreibung dieser Technologie hier verzichtet. Als Referenz stellt in 7 OR den Standort der Kamera 10 vor der Bewegung des Fahrzeugs, OL den Standort der Kamera 10 nach der Bewegung des Fahrzeugs und X (oder X1 bis XL) den Mittelpunkt des Objekts dar. Darüber hinaus stellt die rechte Ansicht ein Bild dar, das von der Kamera 10 vor der Bewegung des Fahrzeugs aufgenommen wurde, und die linke Ansicht ein Bild, das von der Kamera 10 nach der Bewegung des Fahrzeugs aufgenommen wurde.
-
In den 4 und 6 wird die Größe des Lenkwinkels, bei dem sich das Fahrzeug kreisbogenförmig bewegt, aus Gründen der Einfachheit der Beschreibung übertrieben dargestellt. Da ein Benutzer während der Rückwärtsfahrt kontinuierlich ein Lenkrad betätigt, wird der Lenkwinkel in Wirklichkeit während der Bewegung des Fahrzeugs kontinuierlich verändert. Daher sollte verstanden werden, dass die 4 und 6 auf der Annahme basieren, dass der Lenkwinkel nicht verändert, sondern beibehalten wird, während sich das Fahrzeug bewegt, um das Verständnis zu fördern.
-
Als solcher wird der Prozess der Abstandsmessung zu einem Objekt für jedes Einzelbild durchgeführt. Wenn z.B. das zweite Einzelbild durch die Fahrzeuginformationen in einem Zustand erfasst wird, in dem das erste von der Kamera 10 erfasste Einzelbild und die ersten Abtastdaten erfasst werden, führt die Abstandsmesseinheit 40 den oben beschriebenen Prozess durch, um einen Abstand zum Objekt zu erfassen, der dem zweiten Einzelbild entspricht, basierend auf einem Fahrzeugbewegungsabstand. Durch wiederholtes Ausführen eines solchen Prozesses bis zur Erfassung der nächsten Abtastdaten erfasst die Abstandsmesseinheit 40 einen Abstand zum Objekt, der jedem der Einzelbilder zwischen den Abtastperioden entspricht, d.h. den zweiten bis sechsten Einzelbildern, den achten bis 12ten Einzelbildern, den 14ten bis 18ten Einzelbildern, den 20ten bis 24ten Einzelbildern, den 26ten bis 30ten Einzelbildern, den 32ten bis 36ten Einzelbildern, den 38ten bis 42ten Einzelbildern, den 44ten bis 48ten Einzelbildern, den 50ten bis 54ten Einzelbildern und den 56ten bis 60ten Einzelbildern.
-
Da die Abstandsmesseinheit 40 den Abstand zum Objekt als Reaktion auf jedes der Einzelbilder zwischen den Abtastperioden des Lidarsensors 20 unter den Einzelbildern des Bildes misst, bildet die Abbildungseinheit 50 in Schritt S60 den Abstand zum Objekt eins zu eins auf jedes der Einzelbilder zwischen den Abtastperioden des Lidarsensors 20 unter den Einzelbildern des Bildes ab.
-
Daher kann der Abstand zum Objekt für jedes der ersten bis 60. von der Kamera 10 erfassten Einzelbilder erfasst werden.
-
Als solche können die Objektabstandsmessvorrichtung und das Verfahren gemäß der Ausgestaltung der vorliegenden Offenbarung die Fahrzeugbetriebsinformationen auf die Epipolargeometrie anwenden, um unzureichende Abstandsinformationen aufgrund eines Unterschieds in der Bildwiederholrate zwischen den durch die Kamera erfassten Bildinformationen und den durch den Lidarsensor erfassten Lidarinformationen zu interpolieren. Auf diese Weise können die Objektabstandsmessvorrichtung und das Verfahren komfortabel und kostengünstig eine Entfernung zu einem Objekt messen und den Effekt einer Stereokamera mit einer Kamera erreichen.
-
Obwohl zur Veranschaulichung beispielhafte Ausführungsformen der Offenbarung offenbart wurden, ist vom Fachmann zu würdigen, dass verschiedene Modifikationen, Ergänzungen und Substitutionen möglich sind, ohne vom Umfang und Gedanken der Offenbarung, wie in den begleitenden Ansprüchen definiert, abzuweichen. Daher sollte der technische Umfang der Offenbarung durch die folgenden Ansprüche definiert werden.
-
ZITATE ENTHALTEN IN DER BESCHREIBUNG
-
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
-
Zitierte Patentliteratur
-