DE112017001545T5 - Virtuelles überlagerungssystem und verfahren für verdeckte objekte - Google Patents

Virtuelles überlagerungssystem und verfahren für verdeckte objekte Download PDF

Info

Publication number
DE112017001545T5
DE112017001545T5 DE112017001545.6T DE112017001545T DE112017001545T5 DE 112017001545 T5 DE112017001545 T5 DE 112017001545T5 DE 112017001545 T DE112017001545 T DE 112017001545T DE 112017001545 T5 DE112017001545 T5 DE 112017001545T5
Authority
DE
Germany
Prior art keywords
sign
traffic sign
camera
road
traffic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE112017001545.6T
Other languages
English (en)
Inventor
Robert Hardy
Sebastian Paszkowicz
George Alexander
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jaguar Land Rover Ltd
Original Assignee
Jaguar Land Rover Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jaguar Land Rover Ltd filed Critical Jaguar Land Rover Ltd
Publication of DE112017001545T5 publication Critical patent/DE112017001545T5/de
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/09623Systems involving the acquisition of information from passive traffic signs by means mounted on the vehicle
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/582Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • G06V20/647Three-dimensional objects by matching two-dimensional images to three-dimensional objects
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/0967Systems involving transmission of highway information, e.g. weather, speed limits
    • G08G1/096708Systems involving transmission of highway information, e.g. weather, speed limits where the received information might be used to generate an automatic action on the vehicle control
    • G08G1/096716Systems involving transmission of highway information, e.g. weather, speed limits where the received information might be used to generate an automatic action on the vehicle control where the received information does not generate an automatic action on the vehicle control
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/0967Systems involving transmission of highway information, e.g. weather, speed limits
    • G08G1/096733Systems involving transmission of highway information, e.g. weather, speed limits where a selection of the information might take place
    • G08G1/09675Systems involving transmission of highway information, e.g. weather, speed limits where a selection of the information might take place where a selection from the received information takes place in the vehicle
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/0967Systems involving transmission of highway information, e.g. weather, speed limits
    • G08G1/096766Systems involving transmission of highway information, e.g. weather, speed limits where the system is characterised by the origin of the information transmission
    • G08G1/096775Systems involving transmission of highway information, e.g. weather, speed limits where the system is characterised by the origin of the information transmission where the origin of the information is a central station
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/205Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used using a head-up display
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/09626Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages where the origin of the information is within the own vehicle, e.g. a local storage device, digital map
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0261Improving the quality of display appearance in the context of movement of objects on the screen or movement of the observer relative to the screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/12Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/10Automotive applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Optics & Photonics (AREA)
  • Atmospheric Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Quality & Reliability (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Mechanical Engineering (AREA)

Abstract

Die vorliegende Erfindung stellt ein System und Verfahren zum Anzeigen einer Darstellung eines Verkehrsschildes bereit. Das Verfahren umfasst das Empfangen von mit dem Verkehrsschild verbundenen Informationen, wobei die mit dem Verkehrsschild verbundenen Informationen eine Vorderseite des Verkehrsschildes und einen Standort des Verkehrsschildes in einem Straßensystem umfassen; Empfangen eines Bildes von einer Kamera, wobei sich das Verkehrsschild im Sichtbereich der Kamera befindet; Bestimmen eines Umfangs des Verkehrsschildes, der überdeckt ist, mittels des Bildes; Generieren der Darstellung des Verkehrsschildes mittels der mit dem Verkehrsschild verbundenen Informationen in Abhängigkeit von dem Umfang, der überdeckt ist; und Ausgeben der Darstellung des Verkehrsschildes zur Anzeige.

Description

  • TECHNISCHES GEBIET
  • Die vorliegende Offenbarung betrifft ein virtuelles Überlagerungssystem und Verfahren für verdeckte Objekte und insbesondere, aber nicht ausschließlich, ein System und Verfahren zum Überlagern eines virtuellen Verkehrsschildes für den Fahrer eines Fahrzeugs. Erfindungsgemäße Aspekte betreffen ein Verfahren zur Anzeige einer Darstellung eines Verkehrsschildes, ein nicht-transientes computerlesbares Speichermedium, ein System zur Anzeige einer Darstellung eines Verkehrsschildes, einen Prozessor und ein Fahrzeug.
  • STAND DER TECHNIK
  • Fahrer eines Fahrzeugs verlassen sich häufig auf Verkehrsschilder, die Informationen, Warnungen und/oder Anweisungen, wie z. B. Geschwindigkeitsbegrenzungen, Richtungen, Straßenführungsdiagramme, Höhenbegrenzungen usw., bereitstellen. Allerdings können übergroße Bäume und Sträucher Verkehrsschilder manchmal verdecken und/oder verdunkeln und damit verhindern, dass der Fahrer eines Fahrzeugs die Verkehrsschilder liest.
  • Ein weiteres Szenario, das ggf. das Lesen von Verkehrsschildern verhindert, wird in Bezug auf die 1(a) und (b) behandelt. 1(a) zeigt ein Straßensystem 100, das zwei parallele Fahrspuren (eine erste Spur 102a und eine zweite Spur 102b) und ein Verkehrsschild 104 umfasst. Fahrzeuge in den beiden Fahrspuren fahren in derselben Richtung. Ein Fahrzeug 106 wird dargestellt, wie es im Straßensystem 100 in der zweiten Spur 102b fährt. Ein Fahrer des Fahrzeugs 106 verfügt über einen Sichtbereich, der durch die Linien 108 abgebildet ist. Das Verkehrsschild 104 befindet sich vor dem Fahrzeug 106 und damit im Sichtbereich 108 des Fahrers.
  • 1(b) zeigt das Straßensystem 100 mit dem Fahrzeug 106 und einem Lastkraftwagen 110. Der Lastkraftwagen 110 ist dargestellt, wie er parallel zum Fahrzeug 106 in der ersten Fahrspur 102a fährt. Das Vorhandensein des Lastkraftwagens 110 beeinträchtigt den Sichtbereich des Fahrers eines Fahrzeugs, der als die Linien 112 dargestellt ist. Insbesondere hält der Lastkraftwagen den Fahrer des Fahrzeugs 106 vom Lesen des Verkehrsschildes 104 ab.
  • Im Szenario von 1(b) kann das Verkehrsschild 104 für den Fahrer des Fahrzeugs 106 sichtbar sein, bevor die Sicht auf das Verkehrsschild 104 durch den Lastkraftwagen 110 versperrt wird. Allerdings ist diese Zeitspanne evtl. nicht lang genug, als dass der Fahrer das Verkehrsschild 104 lesen könnte.
  • Das Unvermögen der Fahrer, Verkehrsschilder zu lesen, um relevante Informationen zu erhalten, stellt ein Sicherheitsrisiko dar, wenn z. B. ein Fahrer eines hohen Fahrzeugs eine Höhenbegrenzung durch eine niedrige Brücke nicht wahrnimmt. Darüber hinaus versuchen evtl. einige Fahrer, das Problem, dass die Sicht auf ein Verkehrsschild durch ein parallel fahrendes Fahrzeug versperrt wird, zu entschärfen, indem sie die Geschwindigkeit ihres Fahrzeugs verändern (langsamer oder schneller fahren), um freie Sicht auf das Verkehrsschild zu behalten. Allerdings kann diese inkonsequente Fahrgeschwindigkeit andere Verkehrsteilnehmer gefährden.
  • Die vorliegende Erfindung wurde dazu entwickelt, mindestens einige der vorstehend genannten Probleme zu entschärfen oder zu überwinden.
  • KURZDARSTELLUNG DER ERFINDUNG
  • Aspekte und Ausführungsformen der Erfindung stellen ein Verfahren, ein nicht-transientes computerlesbares Speichermedium, ein System, einen Prozessor und ein Fahrzeug nach den beigefügten Ansprüchen bereit.
  • Nach einem Aspekt der vorliegenden Erfindung wird ein Verfahren bereitgestellt, um eine Darstellung eines Verkehrsschildes anzuzeigen, wobei das Verfahren Folgendes umfasst: Empfangen von mit dem Verkehrsschild verbundenen Informationen, wobei die mit dem Verkehrsschild verbundenen Informationen eine Vorderseite des Verkehrsschildes und einen Standort des Verkehrsschildes in einem Straßensystem umfassen; Empfangen eines Bildes von einer Kamera, wobei sich das Verkehrsschild im Sichtbereich der Kamera befindet; Bestimmen eines Umfangs des Verkehrsschildes, der überdeckt ist, mittels des Bildes; Generieren der Darstellung des Verkehrsschildes mittels der mit dem Verkehrsschild verbundenen Informationen in Abhängigkeit von dem überdeckten Umfang; und Ausgeben der Darstellung des Verkehrsschildes zur Anzeige.
  • Ein Vorteil des Verfahrens besteht darin, dass - wenn ein Verkehrsschild teilweise oder ganz für den Sichtbereich der Kamera überdeckt ist - eine Darstellung des Verkehrsschildes zur Anzeige ausgegeben wird, z. B. an einen Benutzer, um dem Benutzer das Lesen des Verkehrsschildes zu ermöglichen, selbst wenn es teilweise oder ganz für den Benutzer überdeckt ist.
  • In dem von der Kamera empfangenen Bild kann das Verkehrsschild durch die Kamera direkt im Sichtbereich sichtbar sein, oder das Verkehrsschild kann sich im Sichtbereich befinden, aber in dem von der Kamera empfangenen Bild teilweise oder vollständig verdunkelt sein.
  • Die mit dem Verkehrsschild verbundenen Informationen können von der Kamera empfangen werden, und die Darstellung wird basierend auf dem Bild und dem Standort von der Kamera generiert. Der Standort des Verkehrsschildes kann mühelos aus den von der Kamera empfangenen Bildern bestimmt werden.
  • Optional sind die mit dem Verkehrsschild verbundenen Informationen in einem Speicher gespeichert und die Darstellung wird basierend in Abhängigkeit von den Informationen im Speicher generiert.
  • Optional werden die mit dem Verkehrsschild verbundenen Informationen von einem externen Server empfangen und in einer Datenbank gespeichert, und die Darstellung wird basierend in Abhängigkeit von den Informationen in der Datenbank generiert. Dies bietet den Vorteil, dass das Verkehrsschild, wenn es nie für die Kamera sichtbar ist, trotzdem angezeigt werden kann. Wenn die mit dem Verkehrsschild verbundenen Informationen von einem externen Server empfangen werden, kann der Standort des Fahrzeugs mühelos von einer Standortbestimmungseinrichtung (wie z. B. einer GPS-Einheit) im Fahrzeug bestimmt werden. Der Standort des Fahrzeugs kann mittels der Standortbestimmungseinrichtung bestimmt werden und entsprechend die Verkehrsschilder, die sich im Sichtbereich der Kamera befinden sollten.
  • Optional umfasst das Verfahren das Ausgeben der Darstellung des Verkehrsschildes an ein Frontscheiben-Display.
  • Optional umfasst das Verfahren das Ausgeben der Verkehrsschild-Darstellung , die die Position des Verkehrsschildes im Sichtbereich eines Benutzers überlagern soll, auf das Frontscheiben- Display.
  • Optional umfasst die Kamera ein Weitwinkelobjektiv.
  • Ein nicht-transientes computerlesbares Speichermedium kann computerlesbare Anweisungen für den Prozessor eines Computers umfassen, um das vorstehend genannte Verfahren auszuführen.
  • Nach einem weiteren Aspekt der vorliegenden Erfindung wird ein System bereitgestellt, um eine Darstellung eines Verkehrsschildes anzuzeigen, wobei das System Folgendes umfasst: einen Eingang, der dazu angeordnet ist, mit dem Verkehrsschild verbundene Informationen zu empfangen, wobei die mit dem Verkehrsschild verbundenen Informationen eine Vorderseite des Verkehrsschildes und einen Standort des Verkehrsschildes in einem Straßensystem umfassen; und ein Bild von einer Kamera, wobei sich das Verkehrsschild im Sichtbereich der Kamera befindet; einen Prozessor, der dazu angeordnet ist, mittels des Bildes einen Umfang des Verkehrsschildes zu bestimmen, der überdeckt ist; in Abhängigkeit von dem überdeckten Umfang, die Darstellung des Verkehrsschildes mittels der mit dem Verkehrsschild verbundenen Informationen zu generieren; und einen Ausgang, der dazu angeordnet ist, die Darstellung des Verkehrsschildes zur Anzeige auszugeben.
  • Optional werden die mit dem Verkehrsschild verbundenen Informationen von der Kamera empfangen, und die Darstellung wird basierend auf dem Bild und dem Standort von der Kamera generiert. Der Standort des Verkehrsschildes kann mühelos aus den von der Kamera empfangenen Bildern bestimmt werden.
  • Optional werden die mit dem Verkehrsschild verbundenen Informationen von einem externen Server empfangen und in einer Datenbank gespeichert, und die Darstellung ist dazu angeordnet, basierend auf den Informationen in der Datenbank generiert zu werden. Wenn die mit dem Verkehrsschild verbundenen Informationen von einem externen Server empfangen werden, kann der Standort des Fahrzeugs mühelos von einer Standortbestimmungseinrichtung (wie z. B. einer GPS-Einheit) im Fahrzeug bestimmt werden. Der Standort des Fahrzeugs kann mittels der Standortbestimmungseinrichtung bestimmt werden und entsprechend die Verkehrsschilder, die sich im Sichtbereich der Kamera befinden sollten.
  • Optional ist die Darstellung des Verkehrsschildes dazu angeordnet, an ein Frontscheiben-Display ausgegeben zu werden.
  • Optional ist die Darstellung des Verkehrsschildes auf dem Frontscheiben-Display dazu angeordnet, an ein Frontscheiben-Display ausgegeben zu werden, das die Position des Verkehrsschildes im Sichtbereich eines Benutzers überlagern soll.
  • Optional umfasst die Kamera ein Weitwinkelobjektiv.
  • Nach einem weiteren Aspekt der vorliegenden Erfindung wird ein Prozessor bereitgestellt, der konfiguriert ist zum Empfangen von mit dem Verkehrsschild verbundenen Informationen, wobei die mit dem Verkehrsschild verbundenen Informationen eine Vorderseite des Verkehrsschildes und einen Standort des Verkehrsschildes in einem Straßensystem umfassen; Empfangen eines Bildes von einer Kamera, wobei sich das Verkehrsschild im Sichtbereich der Kamera befindet; Bestimmen eines Umfangs des Verkehrsschildes, der überdeckt ist, mittels des Bildes; Generieren der Darstellung des Verkehrsschildes mittels der mit dem Verkehrsschild verbundenen Informationen in Abhängigkeit von dem Umfang, der überdeckt ist; und Ausgeben der Darstellung des Verkehrsschildes zur Anzeige.
  • Ein Fahrzeug kann das vorstehend beschriebene System und/oder den vorstehend beschriebenen Prozessor umfassen.
  • Nach einem weiteren erfindungsgemäßen Aspekt wird ein Verfahren bereitgestellt, um eine Darstellung eines Verkehrsschildes anzuzeigen, wobei das Verfahren Folgendes umfasst: an einem Überlagerungssystem, Empfangen von mit dem Verkehrsschild verbundenen Informationen, wobei die mit dem Verkehrsschild verbundenen Informationen eine Vorderseite des Verkehrsschildes und einen Standort des Verkehrsschildes in einem Straßensystem umfassen; an einem Kameraeingangsmodul des Überlagerungssystems, Empfangen eines Bildes von einer Kamera, wobei sich das Verkehrsschild im Sichtbereich der Kamera befindet; mittels des Bildes, in einem Schilderkennungsmodul des Überlagerungssystems, Bestimmen eines Umfangs des Verkehrsschildes, der überdeckt ist; in einem Verdeckungserkennungsmodul des Überlagerungssystems, in Abhängigkeit von dem überdeckten Umfang, Generieren der Darstellung des Verkehrsschildes mittels der mit dem Verkehrsschild verbundenen Informationen; und Ausgeben der Darstellung des Verkehrsschildes aus dem Überlagerungssystem an ein Display zur Anzeige.
  • Das Überlagerungssystem kann einen elektronischen Prozessor umfassen, der einen elektrischen Eingang aufweist, um Signale zu empfangen, die die mit dem Verkehrsschild verbundenen Informationen und das Bild von der Kamera umfassen. Das Überzahlungs-System kann ferner eine elektronische Speichervorrichtung umfassen, die elektrisch mit dem elektronischen Prozessor gekoppelt ist und in der Anweisungen gespeichert sind. Die Schritte des Bestimmens, Generierens und Ausgebens können umfassen, dass der Prozessor dazu konfiguriert ist, auf die Speichervorrichtung zuzugreifen und darin gespeicherte Anweisungen auszuführen, so dass er dazu betrieben werden kann, die Schritte des Verfahrens zum Anzeigen einer Darstellung eines Verkehrsschildes auszuführen.
  • Das Schilderkennungsmodul, Verdeckungserkennungsmodul und Kameraeingangsmodul können eine Mehrzahl von Verarbeitungsanordnungen im Prozessor umfassen. Alternativ können das Schilderkennungsmodul, Verdeckungserkennungsmodul und Kameraeingangsmodul jeweils in ihrem eigenen Prozessor angeordnet sein, so dass das Überlagerungssystem eine Mehrzahl von Prozessoren umfasst, von denen jeder mit der elektronischen Speichervorrichtung gekoppelt ist.
  • Innerhalb des Umfangs dieser Anmeldung wird ausdrücklich beabsichtigt, dass die verschiedenen Aspekte, Ausführungsformen, Beispiele und Alternativen, die in den vorhergehenden Absätzen, in den Ansprüchen und/oder in der folgenden Beschreibung und den Zeichnungen dargestellt werden, und insbesondere deren individuellen Merkmale, unabhängig voneinander oder in einer beliebigen Kombination berücksichtigt werden können. Dies bedeutet, dass alle Ausführungsformen und/oder Merkmale einer beliebigen Ausführungsform auf beliebige Weise und/oder Kombination kombiniert werden können, sofern diese Merkmale nicht inkompatibel sind. Der Anmelder behält sich das Recht vor, jeden beliebigen ursprünglich eingereichten Patentanspruch zu ändern oder jeden neuen Patentanspruch entsprechend einzureichen, einschließlich des Rechts, jeden beliebigen ursprünglich eingereichten Patentanspruch zu verändern, um von einem beliebigen Merkmal eines beliebigen anderen Anspruchs abzuhängen und/oder dieses zu integrieren, obwohl es auf diese Art und Weise zuvor nicht beansprucht wurde.
  • Figurenliste
  • Die 1(a) und (b) wurden bereits vorstehend unter dem Stand der Technik beschrieben, wobei:
    • 1(a) eine schematische Draufsicht eines Straßensystems mit einem Verkehrsschild und einem Fahrzeug darstellt; und
    • 1(b) eine schematische Draufsicht des Straßensystems von 1(a) mit einem Lastkraftwagen darstellt, der parallel zu dem Fahrzeug fährt. Eine oder mehrere erfindungsgemäße Ausführungsformen werden nun nur beispielhalber unter Bezugnahme auf die beiliegenden Zeichnungen beschrieben, hierbei zeigen:
    • 2(a) eine schematische Draufsicht eines Straßensystems mit einem Verkehrsschild und einem Fahrzeug, das ein Überlagerungssystem nach einer Ausführungsform der vorliegenden Erfindung umfasst;
    • 2(b) eine schematische Frontansicht des Verkehrsschildes, wie es für das Überlagerungssystem von 2(a) sichtbar ist;
    • 3(a) eine schematische Draufsicht des Straßensystems von 2(a) mit einem Lastkraftwagen, der parallel zum Fahrzeug fährt;
    • 3(b) eine schematische Frontansicht des Verkehrsschildes, wie es für das Überlagerungssystem von 3(a) sichtbar ist;
    • 3(c) eine schematische Frontansicht des Verkehrsschildes mit teilweiser Überlagerung;
    • 4(a) eine schematische Draufsicht des Straßensystems von 2(a) mit einem Lastkraftwagen, der parallel zum Fahrzeug fährt;
    • 4(b) eine schematische Frontansicht des Verkehrsschildes, wie es für das Überlagerungssystem von 4(a) sichtbar ist;
    • 4(c) eine schematische Frontansicht des Verkehrsschildes mit vollständiger Überlagerung;
    • 5 ein Flussdiagramm eines Prozesses, der durch das Überlagerungssystem von 2 ausgeführt wird;
    • 6 ein schematisches Blockdiagramm des Überlagerungssystems von 2;
    • 7 ein schematisches Blockdiagramm eines Überlagerungssystems nach einer Ausführungsform der vorliegenden Erfindung; und
    • 8 ein Flussdiagramm eines Prozesses, der durch das Überlagerungssystem von 7 ausgeführt wird.
  • DETAILLIERTE BESCHREIBUNG
  • 2(a) zeigt ein Straßensystem 200, das zwei parallele Fahrspuren (eine erste Spur 202a und eine zweite Spur 202b) und ein Verkehrsschild 204 umfasst. Fahrzeuge in den beiden Fahrspuren fahren in derselben Richtung. Ein Fahrzeug 206 wird dargestellt, wie es im Straßensystem 200 in der zweiten Spur 202b fährt. Das Fahrzeug 206 umfasst eine Kamera 208, ein Überlagerungssystem 210 und ein Display 212. In anderen Ausführungsformen kann das Verkehrsschild auf einer Schilderbrücke über den Spuren 202a, 202b angeordnet sein.
  • Die Kamera 208 und das Display 212 sind jeweils funktional mit dem Überlagerungssystem 210 verbunden. Das Display 212 ist ein Frontscheiben-Display. In anderen Ausführungsformen sind die Kamera 208 und/oder das Display 212 drahtlos mit dem Überlagerungssystem 210 verbunden.
  • Die Kamera 208 weist einen Sichtbereich auf, der durch die Linien 214 dargestellt wird, der im Wesentlichen derselbe ist wie der Sichtbereich wie der Fahrer. Das Verkehrsschild 204 befindet sich vor dem Fahrzeug 206 und damit im Sichtbereich 214 der Kamera 208. 2(b) zeigt eine Vorderseite 216 des Verkehrsschildes 204, das für die Kamera 208 sichtbar ist. Die Vorderseite 216 liefert Informationen über eine bevorstehende Straßenführung des Straßensystems 200. Die gesamte Vorderseite 216 ist für die Kamera 208 und somit auch für den Fahrer des Fahrzeugs 206 sichtbar.
  • Das Überlagerungssystem 210 ist dazu angeordnet, das Straßensystem 200 mittels der Kamera 208 ständig zu überwachen, um Verkehrsschilder zu erkennen. Wenn Verkehrsschilder (z. B. Verkehrsschild 204) erkannt werden, werden die mit den Verkehrsschildern verbundenen Informationen in der Schilderdatenbank 256 (wie in 5 dargestellt) gespeichert. Die mit den Verkehrsschildern verbundenen Informationen beinhalten die Vorderseite 216 der Verkehrsschilder und den Standort des Verkehrsschildes in einem Straßensystem 200. Wenn anschließend die Sicht der Kamera auf eines der gespeicherten Verkehrsschilder versperrt wird, ist das Überlagerungssystem 210 dazu angeordnet, den Umfang der Sichtbehinderung (d. h. wie viel von dem Verkehrsschild nicht sichtbar ist) zu bestimmen, das gespeicherte Verkehrsschild abzurufen und den versperrten Abschnitt auf das Display 212 auszugeben.
  • 3(a) zeigt das Straßensystem 200 mit dem Fahrzeug 206 und einem Lastkraftwagen 220. Der Lastkraftwagen 220 ist dargestellt, wie er parallel zum Fahrzeug 206 in der ersten Fahrspur 202a fährt. Das Vorhandensein des Lastkraftwagens 220 beeinträchtigt den Sichtbereich der Kamera 208, dargestellt als die Linien 222. Insbesondere versperrt der Lastkraftwagen 220 einen Teil der Vorderseite 216 des Verkehrsschildes 204, so dass nur ein Abschnitt 224 des Verkehrsschildes für die Kamera 208 sichtbar ist.
  • 3(b) zeigt den Abschnitt 224 der Vorderseite 216 des Verkehrsschildes 204, das für den Fahrer eines Fahrzeugs aufgrund der Überdeckung durch die Seite des Lastkraftwagens 220 sichtbar wäre. Da der Sichtbereich des Fahrers im Wesentlichen derselbe ist wie der der Kamera 208, ist der sichtbare Abschnitt 224 im Wesentlichen derselbe. Allerdings bestimmt in der vorliegenden Ausführungsform das Überlagerungssystem 210, dass das Verkehrsschild 204 durch das gute Fahrzeug 220 aus der Sicht des Fahrers teilweise überdeckt wäre, und als Reaktion gibt das Überlagerungssystem 210 den überdeckten Abschnitt des Verkehrsschildes an das Display 212 aus.
  • 3(c) zeigt eine Sicht des Fahrers eines Fahrzeugs durch das Frontscheiben-Display, wobei der überdeckte Abschnitt 226 des Verkehrsschildes so angezeigt wird, dass er die Vorderseite 216 des Verkehrsschildes 204 ergänzt.
  • 4(a) zeigt das Straßensystem 200 mit dem Fahrzeug 206 und einem Lastkraftwagen 230. Der Lastkraftwagen 230 ist dargestellt, wie er parallel zum Fahrzeug 206 in der ersten Fahrspur 202a fährt. Das Vorhandensein des Lastkraftwagens 230 beeinträchtigt den Sichtbereich der Kamera 208, dargestellt als die Linien 232. Insbesondere versperrt der Lastkraftwagen 230 die gesamte Vorderseite 216 des Verkehrsschildes 204, so dass von dem Verkehrsschild nichts für die Kamera 208 sichtbar ist.
  • 4(b) zeigt die Sicht, die für den Fahrer eines Fahrzeugs aufgrund der Überdeckung durch das gute Fahrzeug 230 sichtbar wäre. Da der Sichtbereich des Fahrers im Wesentlichen derselbe ist wie der der Kamera 208, ist das Verkehrsschild aus der Sicht des Fahrers vollständig überdeckt. Allerdings bestimmt in der vorliegenden Ausführungsform das Überlagerungssystem 210, dass das Verkehrsschild 204 durch das gute Fahrzeug 410 aus der Sicht des Fahrers vollständig überdeckt wäre, und als Reaktion gibt das Überlagerungssystem 210 den überdeckten Abschnitt des Verkehrsschildes an das Display 212 aus.
  • 4(c) zeigt eine Sicht des Fahrers eines Fahrzeugs durch das Frontscheiben-Display, wobei das überdeckte Verkehrsschild 234 so angezeigt wird, dass es die Vorderseite 216 des Verkehrsschildes 204 ergänzt.
  • 5 zeigt detaillierter eine Ausführungsform des Überlagerungssystems 210. Das Überlagerungssystem 210 umfasst eine Steuerungsvorrichtung 250, ein Kameraeingangsmodul 252, ein Schilderkennungsmodul 254, einen Speicher 256, ein Verdeckungserkennungsmodul 258 und ein Überlagerungsausgangsmodul 260. Das Kameraeingangsmodul 252, das Schilderkennungsmodul 254, der Speicher 256, das Verdeckungserkennungsmodul 258 und das Überlagerungsausgangsmodul 260 sind jeweils funktional mit der Steuerungsvorrichtung 250 verbunden.
  • Das Kameraeingangsmodul 252 ist dazu angeordnet, Eingang von der Kamera 208 zu empfangen. Die Kamera 208 ist dazu angeordnet, Bilder des Straßensystems 200 mit 24 bis 240 Frames pro Sekunde zu erfassen. Die Kamera 208 kann eine Stereokamera sein.
  • Das Schilderkennungsmodul 254 ist dazu angeordnet, eine Objekterkennungsanalyse an den von der Kamera 208 empfangenen Bildern durchzuführen, um das Vorhandensein von Verkehrsschildern in den Bildern zu bestimmen. Beispielsweise kann das Schilderkennungsmodul 254 dazu konfiguriert sein, Verkehrsschilder nach der Form (z. B. kreisförmig, dreieckig oder rechteckig); der vorherrschenden Farbe (z. B. gelb, grün, blau oder braun); und/oder der Randfarbe (z. B. rot oder weiß) zu erkennen.
  • Das Schilderkennungsmodul 254 ist ferner dazu angeordnet, den Standort und die Ausrichtung von erkannten Verkehrsschildern relativ zum Fahrzeug 206 zu bestimmen.
  • In einer weiteren Ausführungsform ist die Kamera 208 dazu angeordnet, die Funktionalität des Schilderkennungsmoduls 254 auszuführen. In einer derartigen Ausführungsform ist die Kamera 208 dazu angeordnet, eine Objekterkennungsanalyse am erfassten Bild durchzuführen, um das Vorhandensein von Verkehrsschildern in den Bildern zu bestimmen. Die Kamera 208 ist ferner dazu angeordnet, den Standort und/oder die Ausrichtung von erkannten Verkehrsschildern relativ zum Fahrzeug 206 zu bestimmen. Der Ausgang der Kamera 208 umfasst eines oder mehrere von: den Bilddaten, den Standortdaten und den Ausrichtungsdaten.
  • Jedes im Straßensystem 200 erkannte Verkehrsschild, z. B. das Verkehrsschild 204, stellt Ausschnitte vom Kamerabild dar und wird im Speicher 256 gespeichert. Das Ausschnittsbild umfasst die Vorderseite des Verkehrsschildes 204. Die Verkehrsschilder werden nach einer vorgegebenen Zeitdauer oder wenn der Speicherplatz für den Speicher 256 erschöpft ist, aus dem Speicher 256 entfernt. Eine Darstellung der Vorderseite des Verkehrsschildes 204 kann aus dem Ausschnittsbild des Verkehrsschildes 204 hergestellt werden. Dann kann der Speicher eine Darstellung der Vorderseite des Verkehrsschildes 204, die Standort- und/oder Ausrichtungsdaten in Verbindung mit dem Verkehrsschild 204 speichern.
  • Das Verdeckungserkennungsmodul 258 ist dazu angeordnet, sequentiell Bilder von der Kamera 208 zu vergleichen, von denen ermittelt wurde, dass sie ein Verkehrsschild umfassen, um zu bestimmen, ob in nachfolgenden Bildern weniger von dem Verkehrsschild zu sehen ist.
  • Das Überlagerungsausgangsmodul 260 ist dazu angeordnet, Darstellungen von Schildern, die im Speicher 256 gespeichert sind, zu bestimmen und an das Display 212 auszugeben. Das Überlagerungsausgangsmodul 260 kann dazu angeordnet sein, die Darstellung basierend auf dem bestimmten Standort und der Ausrichtung des angezeigten Verkehrsschildes auszugeben.
  • 6 zeigt einen Prozess 300, der durch eine Ausführungsform des Überlagerungssystems 210 ausgeführt wird. Der Prozess 300 beginnt damit, dass das Kameraeingangsmodul 252 in Schritt 302 ein Bild (d. h. einen Video-Frame) von der Kamera 208 empfängt. Dann erkennt das Schilderkennungsmodul 254 in Schritt 304 eventuelle Verkehrsschilder, die im Kamerabild vorhanden sind, sowie die Standorte von Verkehrsschildern relativ zum Fahrzeug 206.
  • Das Schilderkennungsmodul 254 prüft in Schritt 306, ob im Bild eventuelle Verkehrsschilder erkannt wurden. Wenn ein oder mehrere Verkehrsschilder erkannt werden, prüft das Verdeckungserkennungsmodul 258 in Schritt 308, ob Verkehrsschilder im vorherigen von der Kamera 208 empfangenen Bild erkannt wurden. Wenn vorher keine Verkehrsschilder erkannt wurden, extrahiert das Schilderkennungsmodul 254 (d. h. erstellt Ausschnitte aus) eventuelle(n) Verkehrsschilder(n) aus dem aktuellen Bild und speichert in Schritt 310 eventuell extrahierte Verkehrsschilder im Speicher 256. Daraufhin kehrt der Prozess 300 zu Schritt 302 zurück.
  • Wenn im Anschluss an die Überprüfung in Schritt 306, ob eventuelle Verkehrsschilder im Bild erkannt wurden, keine Verkehrsschilder erkannt werden, dann prüft das Verdeckungserkennungsmodul 258 in Schritt 312, ob Verkehrsschilder im vorherigen von der Kamera 208 empfangenen Bild erkannt wurden. Das Verdeckungserkennungsmodul 258 berücksichtigt die Bewegung des Fahrzeugs 206 (vorwärts und seitlich) und die Standorte von jedem in Schritt 304 bestimmten Verkehrsschild relativ zum Fahrzeug 206, um zu bestimmen, ob sich das Fahrzeug 206 am Standort des Schildes vorbei bewegt hat. Mit anderen Worten: Das Verdeckungserkennungsmodul 258 prüft, ob vom Verkehrsschild nicht mehr erwartet wird, dass es im Sichtbereich der Kamera 208 ist.
  • Wenn im Anschluss an die Überprüfung in Schritt 312 keine Verkehrsschilder zuvor erkannt wurden, kehrt der Prozess 300 zu Schritt 302 zurück. Wenn allerdings im Anschluss an die Überprüfung in Schritt 312 Verkehrsschilder zuvor erkannt wurden und das Fahrzeug 206 nicht am Verkehrsschild vorbei gefahren ist, bedeutet dies, dass das Verkehrsschild nun aus dem Sichtfeld der Kamera 208 überdeckt wurde. Entsprechend ruft das Überlagerungsausgangsmodul 260 in Schritt 314 die zuvor erkannten Verkehrsschilder aus dem Speicher 256 ab. Dann bestimmt das Überlagerungsausgangsmodul 260 die Größe, Ausrichtung und den Standort der Stelle, wo das Schild erwartet wird. Das Überlagerungsausgangsmodul 260 bestimmt auch eine Darstellung des Verkehrsschildes entsprechend der erwarteten Größe, Ausrichtung und dem Standort des Verkehrsschildes, und gibt in Schritt 316 die Darstellung des Verkehrsschildes zur Anzeige auf dem Display 212 aus. Daraufhin kehrt der Prozess 300 zu Schritt 302 zurück. Dies bewirkt, dass bei Annäherung des Fahrzeugs 206 an den Standort des Verkehrsschildes 204 die Darstellung des Verkehrsschildes größer wird.
  • Wenn - zurückkehrend zur Überprüfung in Schritt 308 - das Ergebnis der Überprüfung lautet, dass ein oder mehrere Verkehrsschilder im vorherigen, von der Kamera 208 empfangenen Bild erkannt wurden, dann bestimmt das Verdeckungserkennungsmodul 258 in Schritt 318, ob die vollständige Vorderseite des Verkehrsschildes sichtbar ist, oder ob nur ein Teil des Verkehrsschildes sichtbar ist. Das Verdeckungserkennungsmodul 258 berücksichtigt die Bewegung des Fahrzeugs 206 (vorwärts und seitlich) und die Standorte von jedem Verkehrsschild das in Schritt 304 bestimmt wurde, relativ zum Fahrzeug 206, um zu bestimmen, ob das Fahrzeug 206 begonnen hat, sich am Standort des Schildes vorbei zu bewegen. Mit anderen Worten: Das Verdeckungserkennungsmodul 258 prüft, ob von der vollständigen Vorderseite des Verkehrsschildes nicht mehr erwartet wird, dass sie im Sichtbereich der Kamera 208 ist.
  • Wenn im Anschluss an die Überprüfung in Schritt 318 die vollständige Vorderseite des Verkehrsschildes sichtbar ist, dann liegt keine Verdeckung oder Überdeckung vor und der Prozess 300 kehrt zu Schritt 302 zurück.
  • Wenn allerdings im Anschluss an die Überprüfung in Schritt 318 nur ein Teil des Verkehrsschildes sichtbar ist, weist dies daraufhin, dass die Sicht auf das Verkehrsschild teilweise aus dem Sichtbereich der Kamera 208 versperrt ist. Entsprechend ruft das Überlagerungsausgangsmodul 260 in Schritt 320 die zuvor erkannten Verkehrsschilder aus dem Speicher 256 ab. Dann bestimmt das Überlagerungsausgangsmodul 260 Größe, Abschnitt, Ausrichtung und Standort der Stelle, wo das Schild erwartet wird. Das Überlagerungsausgangsmodul 260 bestimmt auch eine Darstellung des Verkehrsschildes entsprechend der erwarteten Größe, des Abschnitts, der Ausrichtung und des Standorts des Verkehrsschildes, und gibt in Schritt 322 die Darstellung des Verkehrsschildes zur Anzeige auf dem Display 212 aus. Daraufhin kehrt der Prozess 300 zu Schritt 302 zurück.
  • In einer alternativen Ausführungsform umfasst ein Überlagerungssystem Standortbestimmungseinrichtungen (z. B. einen GPS-Empfänger) und eine Datenbank, die Informationen in Verbindung mit einem Satz von Verkehrsschildern speichert (die mit den Verkehrsschildern verbundenen Informationen beinhalten die Vorderseite 216 des Verkehrsschildes und den Standort des Verkehrsschildes in einem Straßensystem 200). Das Überlagerungssystem ist dazu angeordnet, den Standort des Fahrzeugs mittels der Standortbestimmungseinrichtung zu bestimmen und entsprechend die Verkehrsschilder, die sich im Sichtbereich der Kamera 208 befinden sollten. Das Überlagerungssystem ist dazu angeordnet, zu bestimmen, ob die Sicht auf die Verkehrsschilder, die sich im Sichtbereich der Kamera 208 befinden sollten, versperrt ist, und gibt als Reaktion eine Darstellung des Verkehrsschildes aus.
  • 7 zeigt die alternative Ausführungsform des Überlagerungssystems 400. Das Überlagerungssystem 400 umfasst eine Steuerungsvorrichtung 402, ein Kameraeingangsmodul 404, ein Schilderkennungsmodul 406, eine Schilderdatenbank 408, ein Überlagerungsausgangsmodul 410, einen GPS-Empfänger 412, ein Verdeckungserkennungsmodul 414 und ein Blickerkennungsmodul 416. Das Kameraeingangsmodul 404, das Schilderkennungsmodul 406, die Schilderdatenbank 408, das Überlagerungsausgangsmodul 410, der GPS-Empfänger 412, das Verdeckungserkennungsmodul 414 und das Blickerkennungsmodul 416 sind jeweils funktional mit der Steuerungsvorrichtung 402 verbunden.
  • Das Kameraeingangsmodul 404 ist dazu angeordnet, Eingang von der Kamera 208 zu empfangen. Das Fahrzeug 206 umfasst ferner eine interne Kamera 418, die mit dem Kameraeingangsmodul 404 verbunden ist. Die interne Kamera 418 ist auf den Fahrer des Fahrzeugs gerichtet und kann auf das Gesicht des Fahrers fokussiert sein.
  • Die Schilderdatenbank 408 umfasst Informationen, die mit einem Satz von Verkehrsschildern verbunden sind (die mit den Verkehrsschildern verbundenen Informationen beinhalten die Vorderseite 216 des Verkehrsschildes und den Standort des Verkehrsschildes in einem Straßensystem 200). Der Satz von Verkehrsschildern kann aus allen Verkehrsschildern in einem geografischen Gebiet bestehen, oder den Verkehrsschildern entlang einer Route, die das Fahrzeug zurücklegt. Wie aus 7 ersichtlich, ist die Schilderdatenbank 408 lokal am Fahrzeug 206 angeordnet. Die Schilderdatenbank kann mit Verkehrsschildern verbundene Informationen von einem externen Server empfangen. In einer alternativen Anordnung kann das Überlagerungssystem 400 mit einer externen Datenbank 408 in Kommunikation stehen. Beispielsweise kann die externe Datenbank 408 in einem anderen Fahrzeug oder einer Cloud oder einem Bauwerk/Gebäude in Straßennähe angeordnet sein. Wenn sich das Fahrzeug auf einer geführten Route befindet, haben die mit einem Satz von Verkehrsschildern in Bezug auf eine geführte Route verbundenen Informationen Vorrang in der Kommunikation mit einer externen Datenbank 408.
  • Der GPS-Empfänger 412 ist dazu angeordnet, den Standort des Fahrzeugs 206 zu bestimmen, indem er Zeitinformationen von GPS-Satelliten empfängt, wie in der Technik bekannt ist. In weiteren Ausführungsformen kann der Standort des Fahrzeugs durch andere Einrichtungen wie z. B. Multilateration mit zellularen Netzen, wie sie in der Technik bekannt ist, bestimmt werden.
  • Das Schilderkennungsmodul 406 ist im Wesentlichen dasselbe wie das Schilderkennungsmodul 254 und ist dazu angeordnet, Objekterkennungsanalyse an den von der Kamera 208 empfangenen Bildern durchzuführen, um das Vorhandensein von Verkehrsschildern in den Bildern zu bestimmen. Das Schilderkennungsmodul 406 ist ferner dazu angeordnet, den Standort eines erkannten Verkehrsschildes relativ zum Fahrzeug 206 mit Informationen vom GPS-Empfänger 412 zu bestimmen, um Verkehrsschilder zu bestimmen, von denen erwartet wird, dass sie sich im Sichtbereich der Kamera 208 befinden.
  • Das Verdeckungserkennungsmodul 414 ist im Wesentlichen dasselbe wie das Verdeckungserkennungsmodul 258 und ist dazu angeordnet, sequentiell Bilder von der Kamera 208 zu vergleichen, von denen ermittelt wurde, dass sie ein Verkehrsschild umfassen, um zu bestimmen, ob in nachfolgenden Bildern weniger von dem Verkehrsschild zu sehen ist.
  • Das Überlagerungserkennungsmodul 410 ist im Wesentlichen dasselbe wie das Überlagerungserkennungsmodul 260 und ist dazu angeordnet, Darstellungen von Schildern, die in der Schilderdatenbank 408 gespeichert sind, zu bestimmen und an das Display 212 auszugeben.
  • Das Blickerkennungsmodul 416 ist dazu angeordnet, zu bestimmen, wohin der Fahrer blickt und was der Fahrer anschaut. Nehmen wir die folgenden 3D-Koordinaten als Beispiel:
    • Vom Fahrer gesehenes Objekt (z. B. ein Verkehrsschild) : O = [xo,yo,zo]
    • Kopf des Fahrers: D = [xD,yD,zD]
    • Nach vorne gerichtete Kamera: C = [xC,yC,zC]
  • Und die folgenden Vektoren: DO = [ O D ]
    Figure DE112017001545T5_0001
  • Bestimmen des Blickvektors der Augen für den Fahrer über die interne Kamera 418 basierend auf der Blickrichtung der Augen und der Kopfhaltung. DC = [ D C ]
    Figure DE112017001545T5_0002
  • Der Kopf des Fahrers und die Kamera 208 befinden sich in demselben Koordinatensystem. CO = [ O C ]
    Figure DE112017001545T5_0003
  • Dieser Vektor zeigt den Pfad zwischen der Kamera 208 und dem vom Fahrer gesehenen Objekt. DO→ wird durch die interne Kamera 418 ausgegeben und die Kamera 208 ist in der Lage, dies in ihrem 3D-Modell zu positionieren.
  • Um den Abstand zum Objekt zu bestimmen, nutzt die interne Kamera 418 Vergenz der Augen, um den Abstand abzuschätzen. Die Kamera 208 ist stereoskopisch, um die Entfernung zum Ziel zu schätzen, und wird für die höchste Übereinstimmung mit der Vergenz der Augen verwendet. Das von der Kamera 208 erkannte Objekt, das erfasst wird oder sich am nächsten beim Blickvektor befindet, wird als das visuell interessierende Objekt betrachtet.
  • Bei einer Kopfbewegung des Fahrers berechnet die interne Kamera 418 die neuen Koordinaten der Augenposition neu (da die Kamera 208 und die interne Kamera 418 fest positioniert sind). Während sich das Fahrzeug bewegt, verändert sich auch die relative Position des Objekts. Das Blickerkennungsmodul 416 verfolgt die neuen Koordinaten, während sich das Fahrzeug bewegt. Das Blickerkennungsmodul 416 kann die räumlichen Koordinaten des Objekts (z. B. Verkehrsschild), das vom Blickvektor erfasst wird, berechnen.
  • 8 zeigt einen Prozess 450, der durch das Überlagerungssystem 400 ausgeführt wird. Der Prozess 450 beginnt damit, dass der GPS-Empfänger 412 in Schritt 452 den Standort des Fahrzeugs 206 empfängt. Basierend auf dem empfangenen Standort bestimmt das Schilderkennungsmodul 406 in Schritt 454 mittels Informationen von der Schilderdatenbank 408, ob es Schilder gibt, von denen erwartet wird, dass sie sich im Sichtbereich der Kamera 208 befinden. Wenn nicht, kehrt der Prozess 450 zu Schritt 452 zurück.
  • Wenn im Anschluss an die Überprüfung in Schritt 454 erwartet wird, dass sich Verkehrsschilder im Sichtbereich der Kamera 208 befinden, empfängt das Kameraeingangsmodul 404 in Schritt 456 ein Bild (d. h. einen Video-Frame) von der Kamera 208. Das Verdeckungserkennungsmodul 414 bestimmt in Schritt 458, ob die Verkehrsschilder sichtbar sind, von denen erwartet wird, dass sie sich im Sichtbereich der Kamera 208 befinden. Das Verdeckungserkennungsmodul 414 prüft in Schritt 460, ob die vollständige Vorderseite des Verkehrsschildes sichtbar ist, oder ob kein oder nur ein Teil des Verkehrsschildes sichtbar ist. Wenn die vollständige Vorderseite des Verkehrsschildes sichtbar ist, dann kehrt der Prozess 450 zu Schritt 452 zurück.
  • Wenn allerdings im Anschluss an die Überprüfung in Schritt 460 kein oder nur ein Teil des Verkehrsschildes für die Kamera 208 sichtbar ist, dann ruft das Überlagerungsausgangsmodul 410 in Schritt 462 das Verkehrsschild aus der Schilderdatenbank 408 ab. Dann bestimmt das Überlagerungsausgangsmodul 410 Größe, Abschnitt, Ausrichtung und Standort der Stelle, wo das Schild erwartet wird. Das Überlagerungsausgangsmodul 410 bestimmt auch eine Darstellung des Verkehrsschildes entsprechend der erwarteten Größe, des Abschnitts, der Ausrichtung und des Standorts des Verkehrsschildes, und gibt in Schritt 464 die Darstellung des Verkehrsschildes zur Anzeige auf dem Display 212 aus. Daraufhin kehrt der Prozess 450 zu Schritt 452 zurück.
  • Es versteht sich, dass die Funktionalität des Kameraeingangsmoduls 252, 404; des Schilderkennungsmoduls 254, 406; des Überlagerungsausgangsmoduls 260, 410; des Verdeckungserkennungsmoduls 258, 414 und des Blickerkennungsmoduls 416 durch einen oder mehrere Prozessoren ausgeführt werden kann. Wenn sie durch mehrere Prozessoren ausgeführt wird, können die Prozessoren unabhängig voneinander angeordnet sein.
  • Es versteht sich, dass das Verkehrsschild statische Schilder und aktive Schilder mit veränderbarem Inhalt umfasst, deren Inhalt im Verlauf der Zeit verändert werden kann. Aktive Schilder können Schilder mit Parkinformationen für PKWs, Baustellen und Verkehrsinformationen sein.
  • Viele Änderungen können an den vorhergehenden Beispielen vorgenommen werden, ohne vom Umfang der vorliegenden Erfindung nach der Definition in den beigefügten Patentansprüchen abzuweichen.
  • Wenn beispielsweise ein Verkehrsschild vollständig überdeckt ist, kann die Darstellung des Verkehrsschildes auf dem Display 212 eine beliebige Ausrichtung und Stelle aufweisen, und muss nicht zwangsläufig der tatsächlichen Ausrichtung und dem Standort des Verkehrsschildes entsprechen.
  • In weiteren Ausführungsformen kann das Display 212 ein Display in einer Mittelkonsole des Fahrzeugs oder ein Display im Armaturenbrett des Fahrzeugs sein.
  • Zum Erkennen von Wörtern und Ortsnamen von den Schildern kann optische Zeichenerkennung zur Anwendung kommen.

Claims (15)

  1. Verfahren zum Anzeigen einer Darstellung eines Straßenschildes, wobei das Verfahren umfasst: Empfangen von mit dem Verkehrsschild verbundenen Informationen, wobei die mit dem Verkehrsschild verbundenen Informationen eine Vorderseite des Verkehrsschildes und einen Standort des Verkehrsschildes in einem Straßensystem umfassen; Empfangen eines Bildes von einer Kamera, wobei das Verkehrsschild sich im Sichtbereich der Kamera befindet; Bestimmen eines Umfangs des Verkehrsschildes, der überdeckt ist, mittels des Bildes; Generieren der Darstellung des Verkehrsschildes mittels der mit dem Verkehrsschild verbundenen Informationen in Abhängigkeit von dem Umfang, der überdeckt ist; und Ausgeben der Darstellung des Verkehrsschildes zur Anzeige.
  2. Verfahren nach Anspruch 1, wobei die mit dem Verkehrsschild verbundenen Informationen von der Kamera empfangen werden und die Darstellung basierend auf dem Bild und dem Standort von der Kamera generiert wird.
  3. Verfahren nach Anspruch 1, wobei die mit dem Verkehrsschild verbundenen Informationen von einem externen Server empfangen und in einer Datenbank gespeichert werden und die Darstellung basierend in Abhängigkeit von den Informationen in der Datenbank generiert wird.
  4. Verfahren nach einem der vorhergehenden Ansprüche, umfassend das Ausgeben der Darstellung des Verkehrsschildes an ein Frontscheiben-Display.
  5. Verfahren nach Anspruch 4, umfassend das Ausgeben der Verkehrsschild-Darstellung, die die Position des Verkehrsschildes im Sichtbereich eines Benutzers überlagern soll, an dem Frontscheiben-Display.
  6. Verfahren nach einem der vorhergehenden Ansprüche, wobei die Kamera ein Weitwinkelobjektiv umfasst.
  7. Nicht-transientes computerlesbares Speichermedium, umfassend computerlesbare Anweisungen für den Prozessor eines Computers, um das Verfahren nach einem der vorhergehenden Ansprüche auszuführen.
  8. System zum Anzeigen einer Darstellung eines Straßenschildes, wobei das System umfasst: einen Eingang, angeordnet zum Empfangen von: mit dem Verkehrsschild verbundenen Informationen, wobei die mit dem Verkehrsschild verbundenen Informationen eine Vorderseite des Verkehrsschildes und einen Standort des Verkehrsschildes in einem Straßensystem umfassen; und einem Bild von einer Kamera, wobei sich das Verkehrsschild im Sichtbereich der Kamera befindet; einem Prozessor, der dazu angeordnet ist, einen Umfang des Verkehrsschildes, der überdeckt ist, mittels des Bildes zu bestimmen; die Darstellung des Verkehrsschildes mittels der mit dem Verkehrsschild verbundenen Informationen in Abhängigkeit von dem Umfang, der überdeckt ist, zu generieren; und einen Ausgang, der dazu angeordnet ist, die Darstellung des Verkehrsschildes zur Anzeige auszugeben.
  9. System nach Anspruch 8, wobei die mit dem Verkehrsschild verbundenen Informationen von der Kamera empfangen werden und die Darstellung basierend auf dem Bild und dem Standort von der Kamera generiert wird.
  10. System nach Anspruch 8, wobei die mit dem Verkehrsschild verbundenen Informationen von einem externen Server empfangen und in einer Datenbank gespeichert werden und die Darstellung dazu angeordnet ist, basierend auf den Informationen in der Datenbank generiert zu werden.
  11. System nach einem der Ansprüche 8 bis 10, wobei die Darstellung des Verkehrsschildes dazu angeordnet ist, an ein Frontscheiben-Display ausgegeben zu werden.
  12. System nach Anspruch 11, wobei die Darstellung des Verkehrsschildes dazu angeordnet ist, auf dem Frontscheiben-Display, das die Position des Verkehrsschildes im Sichtbereich eines Benutzers überlagern soll, ausgegeben zu werden.
  13. System nach einem der Ansprüche 8 bis 12, wobei die Kamera ein Weitwinkelobjektiv umfasst.
  14. Prozessor, der konfiguriert ist zum: Empfangen von Informationen, die mit dem Verkehrsschild verbunden sind, wobei die mit dem Verkehrsschild verbundenen Informationen eine Vorderseite des Verkehrsschildes und einen Standort des Verkehrsschildes in einem Straßensystem umfassen; Empfangen eines Bildes von einer Kamera, wobei das Verkehrsschild sich im Sichtbereich der Kamera befindet; Bestimmen eines Umfangs des Verkehrsschildes, der überdeckt ist, mittels des Bildes; Generieren der Darstellung des Verkehrsschildes mittels der mit dem Verkehrsschild verbundenen Informationen in Abhängigkeit von dem Umfang, der überdeckt ist; und Ausgeben der Darstellung des Verkehrsschildes zur Anzeige.
  15. Fahrzeug, umfassend das System von einem der Ansprüche 8 bis 13 und/oder umfassend den Prozessor nach Anspruch 14.
DE112017001545.6T 2016-03-25 2017-03-23 Virtuelles überlagerungssystem und verfahren für verdeckte objekte Pending DE112017001545T5 (de)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
GBGB1605137.7A GB201605137D0 (en) 2016-03-25 2016-03-25 Virtual overlay system and method for occluded objects
GB1605137.7 2016-03-25
PCT/EP2017/057008 WO2017162832A1 (en) 2016-03-25 2017-03-23 Virtual overlay system and method for occluded objects

Publications (1)

Publication Number Publication Date
DE112017001545T5 true DE112017001545T5 (de) 2018-12-06

Family

ID=56027430

Family Applications (1)

Application Number Title Priority Date Filing Date
DE112017001545.6T Pending DE112017001545T5 (de) 2016-03-25 2017-03-23 Virtuelles überlagerungssystem und verfahren für verdeckte objekte

Country Status (4)

Country Link
US (1) US11288785B2 (de)
DE (1) DE112017001545T5 (de)
GB (2) GB201605137D0 (de)
WO (1) WO2017162832A1 (de)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115620545A (zh) * 2017-08-24 2023-01-17 北京三星通信技术研究有限公司 用于辅助驾驶的增强现实的方法及装置
US11767024B2 (en) 2018-10-25 2023-09-26 Samsung Electronics Co., Ltd. Augmented reality method and apparatus for driving assistance
DE102018130919A1 (de) 2018-12-05 2020-06-10 Valeo Schalter Und Sensoren Gmbh Verfahren zum Bestimmen einer gegenwärtigen Geschwindigkeitsbeschränkung auf einer Straße in Abhängigkeit von einer ersten Geschwindigkeitsbeschränkungsinformation und einer zweiten Geschwindigkeitsbeschränkungsinformation, Computerprogrammprodukt, elektronische Steuereinheit und elektronisches Fahrzeugführungssystem
US10870351B2 (en) * 2018-12-12 2020-12-22 Here Global B.V. Method and apparatus for augmented reality based on localization and environmental conditions
US11373527B2 (en) * 2019-03-25 2022-06-28 Micron Technology, Inc. Driver assistance for non-autonomous vehicle in an autonomous environment
US11125575B2 (en) * 2019-11-20 2021-09-21 Here Global B.V. Method and apparatus for estimating a location of a vehicle
CN112874527A (zh) * 2019-11-29 2021-06-01 奥迪股份公司 辅助驾驶装置、包括其的车辆及相应的方法和介质
GB202009562D0 (en) * 2020-06-23 2020-08-05 Univ Of Essex Enterprise Limited Visual assistance
US11295147B1 (en) 2020-11-27 2022-04-05 HCL Technologies Italy S.p.A. Method and system for detecting and managing obfuscation of a road sign
US20220176876A1 (en) * 2020-12-03 2022-06-09 Jaguar Land Rover Limited Apparatus and methods for parking assistance
US11887379B2 (en) * 2021-08-17 2024-01-30 Robert Bosch Gmbh Road sign content prediction and search in smart data management for training machine learning model

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4808259B2 (ja) * 2006-11-10 2011-11-02 三菱電機株式会社 ナビゲーション装置
DE102006059663B4 (de) 2006-12-18 2008-07-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Verfahren und Computerprogramm zum Identifizieren eines Verkehrszeichens in einem Bild
FR2919098B1 (fr) 2007-07-20 2010-06-11 Valeo Vision Procede de determination automatique des limitations de vitesse sur une route et systeme associe
JP5551236B2 (ja) * 2010-03-03 2014-07-16 パナソニック株式会社 道路状況管理システム及び道路状況管理方法
US8873813B2 (en) * 2012-09-17 2014-10-28 Z Advanced Computing, Inc. Application of Z-webs and Z-factors to analytics, search engine, learning, recognition, natural language, and other utilities
US8831849B2 (en) 2012-02-13 2014-09-09 Toyota Motor Engineering & Manufacturing North America, Inc. System and method for traffic signal recognition
DE102013210729A1 (de) * 2013-06-10 2014-12-11 Robert Bosch Gmbh Verfahren und Vorrichtung zum Signalisieren eines visuell zumindest teilweise verdeckten Verkehrsobjekts für einen Fahrer eines Fahrzeugs
US9866752B2 (en) * 2015-06-02 2018-01-09 Qualcomm Incorporated Systems and methods for producing a combined view from fisheye cameras
EP3358304B1 (de) * 2015-09-30 2019-05-01 Nissan Motor Co., Ltd. Fahrzeuganzeigevorrichtung

Also Published As

Publication number Publication date
US20200320676A1 (en) 2020-10-08
GB201704607D0 (en) 2017-05-10
US11288785B2 (en) 2022-03-29
GB2548718B (en) 2019-09-18
WO2017162832A1 (en) 2017-09-28
GB201605137D0 (en) 2016-05-11
GB2548718A (en) 2017-09-27

Similar Documents

Publication Publication Date Title
DE112017001545T5 (de) Virtuelles überlagerungssystem und verfahren für verdeckte objekte
DE102014107158B4 (de) Verbesserte Top-Down-Bilderzeugung in einem Frontbordstein-Visualisierungssystem
EP2805183B1 (de) Verfahren und vorrichtung zum visualisieren der umgebung eines fahrzeugs
EP2766879A2 (de) Verfahren zur integration von virtuellen objekten in fahrzeuganzeigen
DE102013222322B4 (de) Verfahren und Gerät für das Bereitstellen von Augmented Reality bzw. erweiterter Realität
DE112018004561T5 (de) Fahrzeugfahrunterstützungssystem, fahrzeugfahrunterstützungsverfharen und fahrzeugfahrunterstützungsprogramm
DE102016210254A9 (de) Fahrzeugortung an kreuzungen anhand von visuellen anhaltspunkte, stationären objekten und durch gps
DE102018215344A1 (de) System und verfahren für fahrzeugkonvois
DE102014107155A1 (de) Verbessertes Frontbordstein-Visualisierungssystem
DE102014107156A1 (de) Verbesserte perspektivische Bilderzeugung in einem Frontbordstein-Visualisierungssystem
DE112013007100B4 (de) Navigationsvorrichtung
DE112016001150T5 (de) Schätzung extrinsischer kameraparameter anhand von bildlinien
DE112018000862T5 (de) Vorrichtung und Verfahren zur Anzeige von Informationen
DE102020108343B4 (de) Anzeigesystem und Head-up Display
DE102010042026B4 (de) Verfahren zum Erzeugen eines Abbildes mindestens eines Objekts in einer Umgebung eines Fahrzeugs
DE102012212577A1 (de) System und verfahren für ein video mit verbesserter tiefenwahrnehmung
DE102014116199A1 (de) Bildverzerrungs-Kompensationsvorrichtung und Betriebsverfahren dafür
DE102013012930A1 (de) Verfahren zum Bestimmen eines aktuellen Abstands und/oder einer aktuellen Geschwindigkeit eines Zielobjekts anhand eines Referenzpunkts in einem Kamerabild, Kamerasystem und Kraftfahrzeug
DE102017216775A1 (de) Verfahren, Vorrichtung und computerlesbares Speichermedium mit Instruktionen zur Steuerung einer Anzeige einer Augmented-Reality-Head-Up-Display-Vorrichtung für ein Kraftfahrzeug
DE102019105630B4 (de) Anzeigesteuervorrichtung, Fahrzeugumgebungsanzeigesystem und Computerprogramm
DE102019212601A1 (de) Generieren einer Anzeige eines Augmented-Reality-Head-up-Displays für ein Kraftfahrzeug
DE102016114693A1 (de) Verfahren zum Unterstützen eines Fahrers eines Kraftfahrzeugs beim Führen des Kraftfahrzeugs, Fahrerassistenzsystem sowie Kraftfahrzeug
DE112019000329B4 (de) Anzeigesystem, bewegliches objekt und gestaltungsverfahren
DE102017209802A1 (de) Verfahren und Vorrichtung zum Betreiben eines Anzeigesystems mit einer Datenbrille
DE102016226299A1 (de) Verfahren und Vorrichtung zum Darstellen einer Umgebung eines Fahrzeuges

Legal Events

Date Code Title Description
R079 Amendment of ipc main class

Free format text: PREVIOUS MAIN CLASS: G06K0009000000

Ipc: G06V0010000000

R012 Request for examination validly filed