DE102019208338B4 - Rundumsicht-überwachungssystem und verfahren zum betrieb davon - Google Patents

Rundumsicht-überwachungssystem und verfahren zum betrieb davon Download PDF

Info

Publication number
DE102019208338B4
DE102019208338B4 DE102019208338.2A DE102019208338A DE102019208338B4 DE 102019208338 B4 DE102019208338 B4 DE 102019208338B4 DE 102019208338 A DE102019208338 A DE 102019208338A DE 102019208338 B4 DE102019208338 B4 DE 102019208338B4
Authority
DE
Germany
Prior art keywords
image
image data
area
display method
synthesized
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
DE102019208338.2A
Other languages
English (en)
Other versions
DE102019208338A1 (de
Inventor
Kee Beom KIM
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hyundai Mobis Co Ltd
Original Assignee
Hyundai Mobis Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hyundai Mobis Co Ltd filed Critical Hyundai Mobis Co Ltd
Publication of DE102019208338A1 publication Critical patent/DE102019208338A1/de
Application granted granted Critical
Publication of DE102019208338B4 publication Critical patent/DE102019208338B4/de
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/28Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with an adjustable field of view
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0025Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for optical correction, e.g. distorsion, aberration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/50Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the display information being shared, e.g. external display, data transfer to other traffic participants or centralised traffic controller
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views
    • B60R2300/8026Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views in addition to a rear-view mirror system
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8073Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for vehicle security, e.g. parked vehicle surveillance, burglar detection
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146Display means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Signal Processing (AREA)
  • Transportation (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • Mathematical Physics (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Geometry (AREA)

Abstract

Verfahren zum Betrieb eines Rundumsicht-Überwachungssystems (AVM-System) (10), wobei das Verfahren umfasst:Erhalten von Bilddaten von Bildsensoren (710), welche an unterschiedlichen Positionen eines Fahrzeugs angeordnet sind;Durchführen einer Bildverarbeitung der Bilddaten zur Verbesserung eines Bildes;Durchführen einer Linsenverzerrungskorrektur der verarbeiteten Bilddaten;Erfassen von Überlappungsbereichen aus den korrigierten Bilddaten;Auswählen eines Bildanzeigeverfahrens, um zu verhindern, dass ein erfasster Überlappungsbereich überlappt, wenn das Bild synthetisiert wird, und Synthetisieren der Bilddaten gemäß dem ausgewählten Bildanzeigeverfahren; undAusgeben der synthetisierten Bilddaten,wobei das Bildanzeigeverfahren auf Grundlage von Objektrichtungsinformationen ausgewählt wird, dadurch gekennzeichnet, dasswenn die Objektrichtungsinformationen darauf hinweisen, dass sich ein nächster Objektort in einer zentralen Richtung innerhalb eines erfassten Bereichs befindet, das Bildanzeigeverfahren zur Anzeige eines in einem mittleren Bereich zentrierten Bildes ausgewählt wird.

Description

  • TECHNISCHES GEBIET
  • Die vorliegende Erfindung betrifft ein Rundumsicht-Überwachungssystem und ein Verfahren zum Betrieb davon.
  • STAND DER TECHNIK
  • Im Zuge der Entwicklung von Technologien für elektronische Komponenten und Bildverarbeitungstechnologien für Fahrzeuge wurde zu einem fortschrittlichen Fahrerassistenzsystem (Advanced Driver Assistance System, ADAS) in jüngster Zeit aktiv Forschung betrieben. Seit Kurzem ist ein Rundumsicht-Überwachungssystem (Around View Monitoring (AVM) System), in welchem eine Vielzahl von Kameras im gesamten Fahrzeug verbaut sind, um omnidirektionale 360°-Bilder der Umgebung des Fahrzeugs anzuzeigen, auch in Fahrzeugen anwendbar. Das AVM-System kombiniert Bilder der Umgebung des Fahrzeugs, welche von der Vielzahl von Kameras aufgenommen wurden, welche die Umgebung des Fahrzeugs aufnehmen, und stellt eine Draufsicht von oben bereit, so als würde der Fahrer das Fahrzeug von oben betrachten, wodurch es dem Fahrer ermöglicht wird, Hindernisse rund um das Fahrzeugs auf einer Anzeige auszumachen.
  • Bisher bekannte Beispiele für Rundumsicht-Überwachungssysteme und Verfahren zum Betrieb davon gehen aus DE 10 2006 036 933 A1 , DE 10 2013 206 714 A1 , DE 10 2016 117 518 A1 sowie DE 10 2017 210 258 A1 hervor.
  • KURZDARSTELLUNG DER ERFINDUNG
  • Die vorliegende Erfindung erfolgte in dem Bestreben, ein Rundumsicht-Überwachungssystem, welches den toten Winkel besser ausgleicht, sowie ein Verfahren zum Betrieb davon bereitzustellen.
  • Diese Aufgabe wird durch ein Verfahren gemäß Anspruch 1 und/oder eine Vorrichtung gemäß Anspruch 7 gelöst.
  • Ein Ausführungsbeispiel der vorliegenden Erfindung stellt ein Verfahren zum Betrieb eines Rundumsicht-Überwachungssystems bereit, umfassend: Erhalten von Bilddaten von Bildsensoren, welche an unterschiedlichen Positionen eines Fahrzeugs angeordnet sind; Durchführen einer Bildverarbeitung der Bilddaten zur Verbesserung eines Bildes; Durchführen einer Linsenverzerrungskorrektur der verarbeiteten Bilddaten; Erfassen eines Überlappungsbereichs aus der korrigierten Bilddaten; Auswählen eines Bildanzeigeverfahrens, um zu verhindern, dass der erfasste Überlappungsbereich überlappt, wenn das Bild synthetisiert wird, und Synthetisieren der Bilddaten gemäß dem ausgewählten Bildanzeigeverfahren; und Ausgeben der synthetisierten Bilddaten.
  • Das Bildanzeigeverfahren wird auf Grundlage von Objektrichtungsinformationen ausgewählt.
  • Wenn die Objektrichtungsinformationen darauf hinweisen, dass sich ein nächster Objektort in einer zentralen Richtung innerhalb eines erfassten Bereichs befindet, wird das Bildanzeigeverfahren zur Anzeige eines in einem mittleren Bereich zentrierten Bildes ausgewählt.
  • Die unterschiedlichen Positionen des Fahrzeugs können eine Vorderseite, eine Rückseite, eine rechte Seite und eine linke Seite umfassen.
  • Das Durchführen der Linsenverzerrungskorrektur kann umfassen: Festlegen einer Bildmitte für die Bilddaten; Festlegen eines Koeffizienten einer Linsenverzerrungskorrekturratenfunktion; Durchführen horizontaler Bildinterpolation der Bilddaten gemäß einem variablen Übersetzungsverhältnis entsprechend dem festgelegten Koeffizienten; und Durchführen vertikaler Bildinterpolation der Bilddaten.
  • Gemäß der Auswahl des Bildanzeigeverfahrens kann bzw. können bei einem Blickwinkel einer einzelnen Kamera ein linker Bereich größer als ein rechter Bereich, ein rechter Bereich größer als ein linker Bereich oder ein rechter Bereich und ein linker Bereich gleich groß sein.
  • Das Synthetisieren der Bilddaten kann ein Synthetisieren der Bilddaten durch Einstellung einer Linsenverzerrungskorrekturrate für einen Grenzabschnitt zwischen den Bilddaten umfassen.
  • Wenn die Objektrichtungsinformationen darauf hinweisen, dass sich ein nächster Objektort in einer Außenumfangsrichtung innerhalb eines erfassten Bereichs befindet, kann das Bildanzeigeverfahren zur Anzeige eines in einem Außenumfang zentrierten Bildes ausgewählt werden.
  • Ein weiteres Ausführungsbeispiel der vorliegenden Erfindung sieht ein Rundumsicht-Überwachungssystem vor, welches aufweist: eine Vielzahl von Kameras, welche in einem Fahrzeug angeordnet sind und Bilddaten eines Umgebungsumfelds des Fahrzeugs erhalten; eine Bildsignalverarbeitungsvorrichtung, welche Bilddaten von der Vielzahl von Kameras empfängt, Bildverarbeitung der empfangenen Bilddaten zur Verbesserung eines Bildes durchführt; Linsenverzerrungskorrektur der verarbeiteten Bilddaten durchführt, einen Überlappungsbereich aus den korrigierten Bilddaten erfasst, ein Bildanzeigeverfahren auswählt, welches den Überlappungsbereich nicht überlappt, wenn das Bild synthetisiert wird, und die Bilddaten gemäß dem ausgewählten Bildanzeigeverfahren synthetisiert; und eine Anzeigevorrichtung, welche die von der Bildsignalverarbeitungsvorrichtung synthetisierten Bilddaten anzeigt.
  • Die Bildsignalverarbeitungsvorrichtung wählt das Bildanzeigeverfahren auf Grundlage von Objektrichtungsinformationen aus.
  • Wenn die Objektrichtungsinformationen darauf hinweisen, dass sich ein nächster Objektort in einer zentralen Richtung innerhalb eines erfassten Bereichs befindet, wählt die Bildverarbeitungsvorrichtung das Bildanzeigeverfahren zur Anzeige eines in einem mittleren Bereich zentrierten Bildes aus.
  • Die Bildsignalverarbeitungsvorrichtung kann eine Linsenverzerrungskorrekturrate einer synthetisierten Grenzfläche einstellen, wenn die Bilddaten synthetisiert werden.
  • Gemäß der Auswahl des Bildanzeigeverfahrens durch die Bildverarbeitungsvorrichtung kann bzw. können bei einem Blickwinkel einer einzelnen Kamera ein linker Bereich größer als ein rechter Bereich, ein rechter Bereich größer als ein linker Bereich oder ein rechter Bereich und ein linker Bereich gleich groß sein.
  • Wenn die Objektrichtungsinformationen darauf hinweisen, dass sich ein nächster Objektort in einer Außenumfangsrichtung innerhalb eines erfassten Bereichs befindet, kann die Bildverarbeitungsvorrichtung das Bildanzeigeverfahren zur Anzeige eines in einem Außenumfang zentrierten Bildes auswählen.
  • Das AVM-System gemäß dem Ausführungsbeispiel der vorliegenden Erfindung und das Verfahrens zum Betrieb davon synthetisieren ein Bild auf Grundlage eines einzelnen Blickwinkels, wodurch ein Phänomen, bei welchem ein Objekt in einem toten Winkel verschwindet, grundsätzlich verhindert wird.
  • Die vorhergehende Kurzdarstellung dient lediglich der Veranschaulichung und ist nicht dazu bestimmt, in irgendeiner Weise einschränkend zu sein. Zusätzlich zu den oben beschriebenen veranschaulichenden Aspekten, Ausführungsformen und Merkmalen werden weitere Aspekte, Ausführungsformen und Merkmale unter Bezugnahme auf die Zeichnungen und die nachfolgende ausführliche Beschreibung ersichtlich.
  • Figurenliste
  • Die nachstehenden beigefügten Zeichnungen dienen dem Verständnis des vorliegenden Ausführungsbeispiels und Ausführungsbeispiele sind zusammen mit der ausführlichen Beschreibung bereitgestellt. Eine technische Eigenschaft des vorliegenden Ausführungsbeispiels ist jedoch nicht auf eine spezifische Zeichnung beschränkt und die in den Zeichnungen offenbarten Eigenschaften können miteinander kombiniert werden, um als neue Ausführungsform eingerichtet zu sein.
    • 1 ist ein Schaubild zur Veranschaulichung eines Beispiels eines Rundumsicht-Überwachungssystems 10 gemäß einem Ausführungsbeispiel der vorliegenden Erfindung.
    • Die 2A und 2B sind Schaubilder zur konzeptionellen Veranschaulichung eines Verfahrens zur Anzeige eines AVM-Bildes auf Grundlage eines einzelnen Blickwinkels durch das AVM-System 10 gemäß dem Ausführungsbeispiel der vorliegenden Erfindung.
    • 3A ist ein Schaubild zur Veranschaulichung eines Beispiels für einen von Kameras aufgenommenen Abschnitt gemäß der verwandten Technik.
    • 3B ist ein Schaubild zur Veranschaulichung eines überlappenden Abschnitts in einem von einer Rückkamera aufgenommenen Bild und in einem von einer rechten Kamera aufgenommenen Bild in 3A.
    • 3C ist ein Schaubild zur Veranschaulichung eines Beispiels für Blickwinkel von Kameras, welche so eingestellt sind, dass sie einen toten Winkel eines Verbindungsbereichs vermeiden, welcher aufgrund eines Unterschieds in einem Blickwinkel in dem AVM-System 10 gemäß dem Ausführungsbeispiel der vorliegenden Erfindung entsteht.
    • 4A ist ein Schaubild zur Veranschaulichung verschiedener Beispiele für ein Verfahren zur Anzeige synthetisierter Bilder des AVM-Systems gemäß dem Ausführungsbeispiel der vorliegenden Erfindung.
    • 4B ist ein Schaubild zur Beschreibung eines Verfahrens zur Anzeige synthetisierter Bilder gemäß einer Veränderung des Lenkwinkels.
    • 4C ist ein Schaubild zur Beschreibung eines Verfahrens zur Anzeige synthetisierter Bilder gemäß Informationen über eine nächste Objektrichtung.
    • Die 5A bis 5C sind Schaubilder zur Veranschaulichung eines Beispiels für ein Verfahren zur Einstellung des Verzerrungskorrekturgrades eines überlappenden Verbindungsabschnitts in dem AVM-System 10 gemäß dem Ausführungsbeispiel der vorliegenden Erfindung, und 5A veranschaulicht ein Bild vor der Korrektur, 5B veranschaulicht ein Bild nach der Korrektur, und 5C veranschaulicht ein Bild, welches durch Anwendung einer Verzerrungskorrekturrate auf das Bild vor der Korrektur erhalten wurde.
    • 6 ist ein Schaubild zur Veranschaulichung eines Beispiels für ein Verfahren zur Verzerrungskorrektur mit variabler Rate gemäß einem Ausführungsbeispiel der vorliegenden Erfindung.
    • 7 zeigt ein Flussdiagramm zur Veranschaulichung eines Beispiels für ein Betriebsverfahren des AVM-Systems 10 gemäß einem Ausführungsbeispiel der vorliegenden Erfindung.
  • Es versteht sich, dass die beigefügten Zeichnungen nicht zwangsläufig maßstabsgetreu sind, sondern eine etwas vereinfachte Darstellung verschiedener Merkmale darlegen, welche die grundlegenden Prinzipien der Erfindung veranschaulichen. Die hier offenbarten spezifischen Konstruktionsmerkmale der vorliegenden Erfindung, wie z.B. spezifische Abmessungen, Ausrichtungen, Positionen und Formen werden teilweise durch die spezielle beabsichtigte Anwendung und Verwendungsumgebung bestimmt.
  • In den Figuren beziehen sich Bezugszeichen über mehrere Figuren der Zeichnung auf die gleichen oder gleichwertigen Teile der vorliegenden Erfindung.
  • AUSFÜHRLICHE BESCHREIBUNG
  • Im Folgenden werden die Inhalte der vorliegenden Erfindung unter Verwendung der Zeichnungen klar und ausführlich beschrieben, sodass ein Fachmann die vorliegende Erfindung auf einfache Weise realisieren kann.
  • Die vorliegende Erfindung kann auf unterschiedliche Weise verändert werden und verschiedene Formen aufweisen, weshalb spezifische Ausführungsbeispiele in den Zeichnungen beispielhaft dargestellt werden und in der nachstehenden Beschreibung ausführlich beschrieben werden. Dies zielt jedoch nicht darauf ab, die vorliegende Erfindung auf eine bestimmte Offenbarungsform zu beschränken und es versteht sich, dass die vorliegende Erfindung jegliche Modifikationen, gleichwertigen Elemente und Ersatzmittel umfasst, welche im Geist und technischen Schutzumfang der Erfindung enthalten sind. Die Begriffe „erste(-r/-s)“, „zweite(-r/-s)“ und dergleichen können zwar zur Beschreibung verschiedener Bestandteile verwendet werden, die Bestandteile sollten jedoch nicht auf die Begriffe beschränkt werden.
  • Die Begriffe werden lediglich dazu verwendet, einen Bestandteil vom anderen Bestandteil abzugrenzen. Beispielsweise kann ein erster Bestandteil als ein zweiter Bestandteil bezeichnet werden und ebenso kann ein zweiter Bestandteil als ein erster Bestandteil bezeichnet werden, ohne vom Rahmen der Erfindung abzuweichen. Es versteht sich, dass wenn ein Bestandteil als „gekoppelt mit“ oder „verbunden mit“ einem anderen Bestandteil beschrieben wird, ein Bestandteil direkt mit dem anderen Bestandteil gekoppelt oder verbunden sein kann, dazwischenliegende Elemente jedoch auch vorhanden sein können. Wenn ein Bestandteil hingegen als „direkt gekoppelt mit“ oder „direkt verbunden mit“ einem anderen Bestandteil beschrieben wird, so ist dies so zu verstehen, dass keine dazwischenliegenden Elemente vorhanden sind.
  • Andere Ausdrücke, d.h. „zwischen ~“ und „direkt zwischen ~“ oder „benachbart zu ~“ und „unmittelbar benachbart zu ~“, welche zur Erklärung eines Verhältnisses zwischen den Bestandteilen dienen, sollten in gleicher Weise interpretiert werden. Begriffe, welche in der vorliegenden Anmeldung verwendet werden, werden lediglich verwendet, um spezifische Ausführungsbeispiele zu beschreiben und dienen nicht dem Zweck, die vorliegende Erfindung zu beschränken. Hier verwendete Ausdrücke im Singular umfassen Ausdrücke im Plural, es sei denn, sie haben im Kontext zweifellos gegensätzliche Bedeutungen.
  • Es versteht sich, dass die Begriffe „umfassend“ und „aufweisend“ in der vorliegenden Anmeldung dem Zweck dienen, das Vorhandensein von Eigenschaften, Zahlen, Schritten, Operationen, Bestandteilen und Komponenten, welche in der Beschreibung beschrieben werden, oder einer Kombination davon zu kennzeichnen, und schließen die Möglichkeit des Vorhandenseins oder des Hinzufügens einer oder mehrerer Eigenschaften, Zahlen, Schritten, Operationen, Bestandeilen und Komponenten davon nicht von vornherein aus. Jegliche hier verwendeten Begriffe, u.a. technische oder wissenschaftliche Begriffe, haben dieselben Bedeutungen wie diejenigen Bedeutungen, welche im Allgemeinen von einem Fachmann verstanden wird, es sei denn, sie sind anders definiert. Begriffe, welche in einem allgemein verwendeten Wörterbuch definiert sind, sind so auszulegen, dass sie Bedeutungen haben, welche mit denen im Kontext einer verwandten Technik übereinstimmen, und sind nicht im Sinne ideeller oder unverhältnismäßig förmlicher Bedeutungen auszulegen, es sei denn, sie sind in der vorliegenden Anmeldung klar definiert.
  • 1 ist ein Schaubild zur Veranschaulichung eines Beispiels für ein Rundumsicht-Überwachungssystem 10 gemäß einem Ausführungsbeispiel der vorliegenden Erfindung. Unter Bezugnahme auf 1 kann das AVM-System 10 eine Vielzahl von Kameras 110, 120, 130 und 140, eine Bildsignalverarbeitungsvorrichtung 200 und eine Anzeigevorrichtung 300 aufweisen.
  • Jede der Vielzahl von Kameras 110, 120, 130 und 140 kann an einer vorbestimmten Position eines Fahrzeugs angeordnet sein und Bilddaten der Umgebung eines Fahrzeugs erlangen. In 1 können die Kameras 110, 120, 130 und 140 an einer Vorderseite, einer Rückseite, einer linken Seite bzw. einer rechten Seite angeordnet sein. Es versteht sich jedoch, dass die Anzahl und die Anordnung der Kameras der vorliegenden Erfindung nicht darauf beschränkt sind.
  • In dem Ausführungsbeispiel kann jede der Kameras 110, 120, 130 und 140 mit einer Weitwinkelkamera mit einem Blickwinkel von 180° oder mehr implementiert sein, um ein Umfeld einer Umgebung des Fahrzeugs aufzunehmen.
  • Die Bildsignalverarbeitungsvorrichtung 200 kann so implementiert sein, dass sie Bilddaten von der Vielzahl von Kameras 110, 120, 130 und 140 drahtgebunden oder drahtlos empfängt und die empfangenen Bilddaten zu Bilddaten zur Fahrerassistenz eines Fahrers (Nutzers) verarbeitet.
  • In dem Ausführungsbeispiel kann die Bildsignalverarbeitungsvorrichtung 200 verschiedene Verarbeitungsoperationen zur Verbesserung eines Bildes durchführen. Die Bildsignalverarbeitungsvorrichtung 200 kann z.B. Bayer-Bereiche von Rohbildern verarbeiten, welche von Bildsensoren der Kameras 110, 120, 130 und 140 ausgegeben werden.
  • Farbinformationskorrektur und Einstellungsregelung können in einem RGB-Bereich erfolgen. Bildverbesserung und -optimierung können in einem YUV-Bereich erfolgen. Ferner kann die Bildsignalverarbeitungsvorrichtung 200 eine Rausch-Reduzierung, Gleichrichtung, Kalibrierung, Farbverstärkung, Farbraumumwandlung (Color Space Conversion, CSC), Interpolation, Kameraverstärkungsregelung und dergleichen der Bilddaten durchführen.
  • In dem Ausführungsbeispiel kann die Bildsignalverarbeitungsvorrichtung 200 eine auf die Rückkamera (z.B. die Rückkamera 120) spezialisierte Technologie anwenden und Bilddaten verarbeiten. Hierbei kann die auf die Rückkamera spezialisierte Technologie Linsenverzerrungskorrektur (Lens Distorsion Correction, LDC), Zusammenfügen von Bildern (Stitching) und dergleichen umfassen.
  • In dem Ausführungsbeispiel kann die Bildsignalverarbeitungsvorrichtung 200 so implementiert sein, dass ein toter Winkel in einem Verbindungsbereich vermieden wird, welcher aufgrund einer Differenz in einem Blickwinkel zum Zeitpunkt einer Bildsynthese entsteht. Die Bildsignalverarbeitungsvorrichtung 200 kann z.B. Bilder auf Grundlage eines einzelnen Blickwinkels synthetisieren, ohne einen Blickwinkel eines spezifischen Bereichs zu überlappen, und den Verzerrungskorrekturgrad für einen Verbindungsbereich senken.
  • Die Anzeigevorrichtung 300 kann so implementiert sein, dass sie die von der Bildsignalverarbeitungsvorrichtung 200 verarbeiteten Bilddaten anzeigt oder steuert. In dem Ausführungsbeispiel kann die Anzeigevorrichtung 300 eine Navigationsvorrichtung aufweisen.
  • Ein allgemeines AVM-System kann ein Phänomen hervorrufen, bei welchem ein Objekt aufgrund eines Blickwinkels in einem toten Winkel verschwindet, wenn ein von der Vielzahl von Kameras empfangenes Bild synthetisiert wird. Im Gegensatz dazu kann ein AVM-System 10 gemäß dem Ausführungsbeispiel der vorliegenden Erfindung ein Bild auf Grundlage eines einzelnen Blickwinkels synthetisieren, wodurch das Phänomen, bei welchem ein Objekt in einem toten Winkel verschwindet, grundsätzlich verhindert wird.
  • Die 2A und 2B sind Schaubilder zur konzeptionellen Veranschaulichung eines Verfahrens zur Anzeige eines AVM-Bildes auf Grundlage eines einzelnen Blickwinkels durch das AVM-System 10 gemäß dem Ausführungsbeispiel der vorliegenden Erfindung.
  • Zuerst kann die Bildsignalverarbeitungsvorrichtung 200 Bilddaten von den vier Kameras 110, 120, 130 und 140 empfangen. Die Bildsignalverarbeitungsvorrichtung 200 kann eine Linsenverzerrungskorrektur (LDC) der empfangenen vier Bilder durchführen.
  • In den 2A und 2B sind von den Kameras aufgenommene Zonen (durch Vierecke geteilte Zonen) in der Umgebung des Fahrzeugs festgelegt und die Abschnitte (1), (2), (3) und (4) geben in dem Fall, in dem die Bilder gemäß der verwandten Technik synthetisiert werden, überlappbare Positionen an.
  • Die Abschnitte (1), (2), (3) und (4) können überlappen, um in dem Fall, in dem Bilder gemäß der verwandten Technik synthetisiert werden, tote Winkel zu bilden, doch wenn die von den Kameras aufgenommenen Zonen wie in den 2A und 2B veranschaulicht festgelegt sind, wird jeder der Abschnitte (1), (2), (3) und (4) lediglich von einer der Kameras aufgenommen, sodass kein toter Winkel entsteht.
  • Wie im Fall von 2A kann ein Blickwinkel eines linken Bereichs so festgelegt sein, dass er auf Grundlage einer einzelnen Kamera größer als der eines rechten Bereichs ist. Wie im Fall von 2B kann ein Blickwinkel eines rechten Bereichs so festgelegt sein, dass er auf Grundlage einer einzelnen Kamera größer als der eines linken Bereichs ist. Hierbei versteht es sich, dass ein Bildanzeigeverfahren für ein einzelnes Sichtfeld zur Entfernung eines Überlappungsbereichs nicht darauf beschränkt ist und ein Blickwinkel eines linken Bereichs auch so festgelegt werden kann, dass er auf Grundlage einer einzelnen Kamera gleich groß wie der eines rechten Bereichs ist.
  • Dies bedeutet, dass gemäß eines Bildanzeigeverfahrens ein Blickwinkel der einzelnen Kamera des linken Bereichs größer als der des rechten Bereichs sein kann, ein Blickwinkel der einzelnen Kamera des rechten Bereichs größer als der des linken Bereichs sein kann oder ein Blickwinkel der einzelnen Kamera des rechten Bereichs und der des linken Bereichs gleich groß sein können.
  • In dem Ausführungsbeispiel können im Fall der 2A die Überlappungsbereiche (2) an der Vorderseite, die Überlappungsbereiche (1) und (4) an den seitlichen Seiten und der Überlappungsbereich (3) an der Rückseite beseitigt werden. In einem anderen Ausführungsbeispiel können im Fall von 2B der Überlappungsbereich (1) an der Vorderseite, die Überlappungsbereiche (2) und (3) an den seitlichen Seiten und der Überlappungsbereich (4) an der Rückseite beseitigt werden.
  • Anschließend kann ein Bild von der Umgebung des Fahrzeugs durch Synthetisieren von vier Bilder erzeugt werden. In 2 kann das Bild von der Umgebung des Fahrzeugs auf Grundlage des Anzeigeverfahrens 1) oder des Anzeigeverfahrens 2) erzeugt werden. Zusätzlich kann ein AVM-Bildanzeigeverfahren auf Grundlage eines einzelnen Blickwinkels gemäß den Umfeld-Informationen, beispielsweise Lenkachseninformationen oder Objektrichtungsinformationen, auf unterschiedliche Weise geändert werden.
  • 3A ist ein Schaubild zur Veranschaulichung eines Beispiels für von Kameras aufgenommene Abschnitte gemäß der verwandten Technik, 3B ist ein Schaubild zur Veranschaulichung eines überlappenden Abschnitts in einem von einer Rückkamera aufgenommenen Bild und einem von einer rechten Kamera aufgenommenen Bild in 3A, und 3C ist ein Schaubild zur Veranschaulichung eines Beispiels für Blickwinkel von Kameras, welche so eingestellt sind, dass ein toter Winkel in einem Verbindungsbereich vermieden wird, welcher aufgrund einer Differenz in einem Blickwinkel in dem AVM-System 10 gemäß dem Ausführungsbeispiel der vorliegenden Erfindung entsteht.
  • Wenn von der Kamera aufgenommene Abschnitte (a), (b), (c) und (d) wie in 3A veranschaulicht festgelegt werden, kann ein toter Winkel in einem Verbindungsbereich (z.B. (e) der 3B) vorhanden sein, welcher aufgrund einer Differenz in einem Blickwinkel entsteht, wenn die Bilder der vier Kameras synthetisiert werden. In dem Fall, in dem ein Fahrer ein Auto parkt, während er die Anzeige mit dem synthetisierten Bild betrachtet, wenn sich ein Objekt (eine Person) in einem toten Winkel befindet, kann eine Gefahrensituation entstehen.
  • Hierbei legt das AVM-System 10 gemäß dem Ausführungsbeispiel der vorliegenden Erfindung wie in 3C veranschaulicht die Blickwinkel der Kameras so fest, dass ein toter Winkel in einem Verbindungsbereich wie in den Fällen der Beispiele 1 und 2 vermieden wird, sodass ein Synthetisieren der Bilder mit einem Blickwinkel ohne Überlappen eines Blickwinkels eines spezifischen Bereichs möglich ist. Hier kann der Verzerrungskorrekturgrad in dem Verbindungsabschnitt (dem Grenzabschnitt) eingestellt werden. Wenn die Bilder in dem AVM-System 10 der vorliegenden Erfindung synthetisiert werden, werden Daten über einen einzelnen Blickwinkel verwendet, sodass grundsätzlich kein toter Winkel entsteht.
  • 4A ist ein Schaubild zur Veranschaulichung verschiedener Beispiele für ein Verfahren zur Anzeige synthetisierter Bilder des AVM-Systems 10 gemäß dem Ausführungsbeispiel der vorliegenden Erfindung, 4B ist ein Schaubild zur Beschreibung eines Verfahrens zur Anzeige synthetisierter Bilder gemäß einer Änderung eines Lenkwinkels, und 4C zeigt ein Schaubild zur Beschreibung eines Verfahrens zur Anzeige synthetisierter Bilder gemäß Informationen über eine nächste Objektrichtung.
  • Das Verfahren zur Anzeige synthetisierter Bilder des AVM-Systems 10 gemäß dem Ausführungsbeispiel der vorliegenden Erfindung ist nicht auf die in 4A veranschaulichten Beispiele beschränkt und kann unterschiedlich festgelegt werden und ein geeignetes Anzeigeverfahren kann Lenkinformationen (Referenz 1) gemäß ausgewählt werden.
  • Fall 1 der 4B ist der Fall, in dem sich das Fahrzeug in Richtung der seitlichen Rückseite gemäß einem Lenkwinkel bewegt und das AVM-System 10 gemäß dem Anzeigeverfahren von Fall 1 der 4A ein synthetisiertes Bild anzeigen kann.
  • Fall 2 der 4B ist der Fall, in dem sich das Fahrzeug in Richtung der seitlichen Vorderseite gemäß einem Lenkwinkel bewegt und das AVM-System 10 gemäß dem Anzeigeverfahren von Fall 2 der 4A ein synthetisiertes Bild anzeigen kann.
  • Fall 3 der 4B ist der Fall, in dem sich das Fahrzeug in Richtung der Vorderseite gemäß einem Lenkwinkel bewegt und das AVM-System 10 gemäß dem Anzeigeverfahren von Fall 3 der 4A ein synthetisiertes Bild anzeigen kann.
  • Fall 4 der 4B ist der Fall, in dem sich das Fahrzeug in Richtung der Rückseite gemäß einem Lenkwinkel bewegt und das AVM-System 10 gemäß dem Anzeigeverfahren von Fall 4 der 4A ein synthetisiertes Bild anzeigen kann.
  • Wie oben beschrieben kann das AVM-System 10 gemäß einem geeigneten Verfahren zur Anzeige synthetisierter Bilder unter verschiedenen Verfahren zur Anzeige synthetisierter Bilder auf Grundlage von Lenkinformationen ein synthetisiertes Bild anzeigen.
  • In diesem Fall kann das AVM-System ausgelegt sein, um ein Verfahren zur Vergrößerung eines seitlich gerichteten außenseitigen Anzeigebereichs auswählen, wenn ein derzeitiger eingegebener Lenkwinkel größer oder gleich einem vorbestimmten Lenkwinkel (festgelegten Lenkwinkel) ist.
  • Hierbei kann das Verfahren zur Anzeige synthetisierter Bilder auch auf Grundlage von Informationen (Referenz 2) über eine nächste Objektrichtung festgelegt werden und die Informationen über eine nächste Objektrichtung sind die Informationen bezüglich einer Richtung, in welcher sich ein nächstes Objekt befindet, und können auf Grundlage eines Sende-Empfangs eines Ultraschallsignals erhalten werden.
  • Unter Bezugnahme auf Fall 1 der 4C, wenn erfasst wird, dass ein nächstes Objekt an der Rückseite in einer zentralen Richtung innerhalb eines Erfassungsbereichs vorhanden ist, während das AVM-System 10 auf Grundlage des Anzeigeverfahrens von Fall 1 der 4A gemäß der Bewegung des Fahrzeugs wie in Fall 1 (der Bewegung des Fahrzeugs in Richtung der Rückseite in einem Lenkwinkel, welcher größer oder gleich dem festgelegten Lenkwinkel ist) der 4B ein synthetisiertes Bild anzeigt, zeigt das AVM-System 10 auf Grundlage des Anzeigeverfahrens von Fall 4 der 4A ein synthetisiertes Bild an, um ein in einem mittleren Bereich zentriertes Bild anzuzeigen.
  • Unter Bezugnahme auf Fall 2 der 4C, wenn erfasst wird, dass ein nächstes Objekt an der Rückseite in einer Außenumfangsrichtung innerhalb eines Erfassungsbereichs vorhanden ist, während das AVM-System 10 auf Grundlage des Anzeigeverfahrens von Fall 4 der 4A gemäß der Bewegung des Fahrzeugs wie in Fall 4 (der geradlinigen Bewegung des Fahrzeugs in Richtung der Rückseite) der 4B ein synthetisiertes Bild anzeigt, zeigt das AVM-System 10 auf Grundlage des Anzeigeverfahrens von Fall 1 der 4A ein synthetisiertes Bild an, um ein in einem Außenumfangsbereich zentriertes Bild anzuzeigen.
  • Unter Bezugnahme auf Fall 3 der 4C, wenn erfasst wird, dass ein nächstes Objekt an der Vorderseite in einer zentralen Richtung innerhalb eines Erfassungsbereichs vorhanden ist, während das AVM-System 10 auf Grundlage des Anzeigeverfahrens von Fall 2 der 4A gemäß der Bewegung des Fahrzeugs wie in Fall 2 (der Vorwärtsbewegung des Fahrzeugs in einem Lenkwinkel, welcher größer oder gleich dem festgelegten Lenkwinkel ist) der 4B ein synthetisiertes Bild anzeigt, zeigt das AVM-System 10 auf Grundlage des Anzeigeverfahrens von Fall 3 der 4A ein synthetisiertes Bild an, um ein in einem mittleren Bereich zentriertes Bild anzuzeigen.
  • Unter Bezugnahme auf Fall 4 der 4C, wenn erfasst wird, dass ein nächstes Objekt an der Vorderseite in einer Außenumfangsrichtung innerhalb eines Erfassungsbereichs vorhanden ist, während das AVM-System 10 auf Grundlage des Anzeigeverfahrens von Fall 3 der 4A gemäß der Bewegung des Fahrzeugs wie in Fall 2 (der geradlinigen Bewegung des Fahrzeugs in Richtung der Vorderseite) der 4B ein synthetisiertes Bild anzeigt, zeigt das AVM-System 10 auf Grundlage des Anzeigeverfahrens von Fall 2 der 4A ein synthetisiertes Bild an, um ein in einem Außenumfangsbereich zentriertes Bild anzuzeigen.
  • Die 5A bis 5C sind Schaubilder zur Veranschaulichung eines Beispiels für ein Verfahren zur Einstellung des Verzerrungskorrekturgrades eines überlappenden Verbindungsabschnitts in dem AVM-System 10 gemäß dem Ausführungsbeispiel der vorliegenden Erfindung, und 5A veranschaulicht ein Bild vor der Korrektur, 5B veranschaulicht ein Bild nach der Korrektur, und 5C veranschaulicht ein Bild, welches durch Anwendung einer Verzerrungskorrekturrate auf das Bild vor der Korrektur erhalten wurde.
  • Unter Bezugnahme auf 5C ist ersichtlich, dass eine Vergrößerung und Verkleinerung von einer mittleren Bildteilungseinheit zu einer Außenumfangsseite wiederholt werden. Dementsprechend ist ersichtlich, dass in dem Bild (5B) nach der Korrektur ein Bild eines Außenumfangsabschnitts des Bildes (5A) vor der Korrektur belassen wird.
  • Wie oben beschrieben kann die Verzerrungskorrektur des überlappenden Verbindungsabschnitts durch eine variable Verzerrungskorrekturrate erfolgen.
  • 6 ist ein Schaubild zur Veranschaulichung eines Beispiels für ein Verfahren zur Verzerrungskorrektur mit variabler Rate gemäß einer Ausführungsform der vorliegenden Erfindung. Unter Bezugnahme auf 6 kann das Verfahren zur Verzerrungskorrektur mit variabler Rate für einen überlappenden Verbindungsabschnitt wie nachstehend beschrieben erfolgen. Zuerst kann eine Bildmitte für Bilddaten festgelegt werden (Operation 1). Die Bildmitte kann z.B. in dem Fall, in dem eine Kamera in einem Fahrzeug verbaut ist, festgelegt werden und von einem Nutzer neu festgelegt (zurückgesetzt) werden.
  • Anschließend können radiale Verzerrungskoeffizienten k1, k2, k3, k4, k5 und k6 in einer Linsenverzerrungskorrekturratenfunktion festgelegt werden (Operation 2). Der radiale Verzerrungskoeffizient kann während eines Festlegungsprozesses des AVM-Systems 10 festgelegt werden und kann durch die große Menge an Versuchsdaten entsprechend bestimmt werden.
  • In der Gleichung von 6 ist r eine Distanz von einem vorbestimmten Pixel zu einer Mitte, wenn keine Verzerrung vorhanden ist, x ein Wert einer x-Koordinate des vorbestimmten Pixels in einem Bild und y ein Wert einer y-Koordinate des vorbestimmten Pixels in dem Bild.
  • Die Gleichung von 6 ist als Linsenverzerrungskorrekturratenfunktion definiert und ein Ergebniswert der Gleichung ist eine Linsenkorrekturverzerrungsrate. Dementsprechend wird eine Linsenkorrekturrate in einem vorbestimmten Pixel innerhalb eines Bildes gemäß einem radialen Verzerrungskoeffizienten festgelegt, was bedeutet, dass eine Regelung einer Erhöhung/Verringerung einer Linsenverzerrungskorrekturrate für jeden Pixel durch einen radialen Verzerrungskoeffizienten möglich ist.
  • Im Anschluss kann eine horizontale Bildinterpolation der Bilddaten erfolgen (Operation 3). Im Anschluss kann eine vertikale Bildinterpolation der Bilddaten erfolgen (Operation 4). In den Operationen 3 und 4 stehen Zahlen an oberen Enden für Positionen der Pixel, und Zahlen an unteren Enden für Pixelwerte, und in den Fällen (a) und (b) wird ein Pixel durch ein variables Verhältnis verschoben und umgewandelt, und die Fälle (c) und (d) stellen Interpolationsräume durch eine variable Verhältnisumwandlung dar.
  • 7 ist ein Flussdiagramm zur Veranschaulichung eines Beispiels für ein Betriebsverfahren des AVM-Systems 10 gemäß einem Ausführungsbeispiel der vorliegenden Erfindung.
  • Unter Bezugnahme auf die 1 bis 7 kann das AVM-System 10 wie nachstehend beschrieben betrieben werden.
  • Ein Bildsensor 710 kann Bilddaten durch eine Linse 111, 121, 131 und 141 der Kameras 110, 120, 130 und 140 erhalten. Die erhaltenen Bilddaten können von einem entsprechenden Bildsignalprozessor (Image Signal Processor, ISP) 720 verarbeitet werden.
  • Die verarbeiteten Bilddaten können durch eine entsprechende Linsenverzerrungskorrektureinrichtung (Lens Distorsion Corrector, LDC) 730 verzerrungskorrigiert werden. Anschließend können entsprechende Überlappungsbereiche durch vier Einrichtungen 740 zur Erfassung von Bildüberlappungsbereichen erfasst werden.
  • Anschließend kann der Überlappungsbereich durch eine Einrichtung 750 zur Auswahl eines Bildanzeigeverfahrens beseitigt werden und ein Bildanzeigeverfahren gemäß einem einzelnen Blickwinkel ausgewählt werden. Ein gewünschtes Bildanzeigeverfahren für den erfassten Überlappungsbereich kann ausgewählt werden.
  • Anschließend können die vier Elemente ausgewählter Bilddaten von einem Bildsynthesizer 760 gemäß dem ausgewählten Bildanzeigeverfahren synthetisiert werden. In dem Ausführungsbeispiel, wenn die Bilder synthetisiert werden, können Grenzabschnitte zwischen unterschiedlichen Bildern durch Einstellung einer Linsenverzerrungskorrekturrate für das angezeigte Bild gemäß dem ausgewählten Bildanzeigeverfahren synthetisiert werden.
  • Hierbei kann die in 2 veranschaulichte Bildsignalverarbeitungsvorrichtung 200 den Bilddatenprozessor 720, die Linsenverzerrungskorrektureinrichtung 730, die Einrichtung 740 zur Erfassung von Bildüberlappungsbereichen, die Einrichtung 750 zur Auswahl eines Bildanzeigeverfahrens und den Bildsynthesizer 760 in Form von Software, Hardware oder Firmware aufweisen. Anschließend können die synthetisierten Daten schließlich an die Anzeigevorrichtung 300 ausgegeben werden. D.h. die endgültigen synthetisierten, den vier Elementen von Bilddaten entsprechenden Bilddaten können ausgegeben werden.
  • Die Schritte und/oder Operationen gemäß der vorliegenden Erfindung können in anderen Ausführungsbeispielen zugleich in einer anderen Reihenfolge, parallel oder für einen anderen Zeitraum vollzogen werden, was für einen Fachmann zu verstehen ist.
  • In Abhängigkeit von einem Ausführungsbeispiel können die Schritte und/oder Operationen teilweise oder in ihrer Gesamtheit unter Verwendung eines oder mehrerer Prozessoren, welche einen Befehl ansteuern, der in einer oder mehreren nichtflüchtigen computerlesbaren Medien, einem Programm, einer interaktiven Datenstruktur, einem Client und/oder einem Server gespeichert ist, implementiert oder ausgeführt werden. Ein Beispiel für die eine oder mehreren nichtflüchtigen computerlesbaren Medien kann Software, Firmware, Hardware und/oder jedwede Kombination davon sein.
  • Ein oder mehrere nichtflüchtige computerlesbare Medien und/oder Mittel zur Implementierung/Ausführung einer oder mehrerer Schritte/Operationen/Module der Ausführungsbeispiele der vorliegenden Erfindung können anwendungsspezifische integrierte Schaltkreise (Application-Specific Integrated Circuits, ASICs), standardmäßig integrierte Schaltkreise, einen Microcontroller, eine Steuerung, welche entsprechende Befehle ausführt, einen Embedded Controller, Field-Programmable Gate Arrays (FPGAs), Complex Programmable Logic Devices (CPLDs) und gleichwertige Elemente hierzu aufweisen, sind jedoch nicht darauf beschränkt.
  • Hierbei sind die Inhalte der vorliegenden Erfindung schlicht die konkreten Ausführungsbeispiele zur Realisierung der vorliegenden Erfindung. Die vorliegende Erfindung kann einen technischen Geist, welcher abstrakt und eine in Zukunft als Technologie nutzbare konzeptionelle Vorstellung ist, sowie konkrete und tatsächlich verwendbare Mittel selbst umfassen.
  • Wie oben beschrieben wurden die Ausführungsbeispiele in den Zeichnungen sowie der Beschreibung beschrieben und veranschaulicht. Die Ausführungsbeispiele wurden ausgesucht und beschrieben, um bestimmte Prinzipien der Erfindung und deren praktische Anwendung zu beschreiben, um dadurch andere Fachmänner in die Lage zu versetzen, verschiedene Ausführungsbeispiele der vorliegenden Erfindung sowie verschiedene Alternativen und Modifikationen davon herzustellen und zu benutzen. Aus der vorangehenden Beschreibung ist ersichtlich, dass bestimmte Aspekte der vorliegenden Erfindung nicht durch die konkreten Details der hier veranschaulichten Beispiele eingeschränkt sind, und es daher vorgesehen ist, dass andere Modifikationen und Anwendungsmöglichkeiten oder Äquivalente davon von Fachmännern erdacht werden. Zahlreiche Änderungen, Modifikationen, Variationen und andere Einsatz- und Anwendungsmöglichkeiten der vorliegenden Erfindung werden Fachmännern jedoch ersichtlich, nachdem sich diese mit der Beschreibung und den beigefügten Zeichnungen vertraut gemacht haben.

Claims (10)

  1. Verfahren zum Betrieb eines Rundumsicht-Überwachungssystems (AVM-System) (10), wobei das Verfahren umfasst: Erhalten von Bilddaten von Bildsensoren (710), welche an unterschiedlichen Positionen eines Fahrzeugs angeordnet sind; Durchführen einer Bildverarbeitung der Bilddaten zur Verbesserung eines Bildes; Durchführen einer Linsenverzerrungskorrektur der verarbeiteten Bilddaten; Erfassen von Überlappungsbereichen aus den korrigierten Bilddaten; Auswählen eines Bildanzeigeverfahrens, um zu verhindern, dass ein erfasster Überlappungsbereich überlappt, wenn das Bild synthetisiert wird, und Synthetisieren der Bilddaten gemäß dem ausgewählten Bildanzeigeverfahren; und Ausgeben der synthetisierten Bilddaten, wobei das Bildanzeigeverfahren auf Grundlage von Objektrichtungsinformationen ausgewählt wird, dadurch gekennzeichnet, dass wenn die Objektrichtungsinformationen darauf hinweisen, dass sich ein nächster Objektort in einer zentralen Richtung innerhalb eines erfassten Bereichs befindet, das Bildanzeigeverfahren zur Anzeige eines in einem mittleren Bereich zentrierten Bildes ausgewählt wird.
  2. Verfahren nach Anspruch 1, wobei die unterschiedlichen Positionen des Fahrzeugs eine Vorderseite, eine Rückseite, eine linke Seite und eine rechte Seite umfassen.
  3. Verfahren nach Anspruch 1, wobei das Durchführen der Linsenverzerrungskorrektur umfasst: Festlegen einer Bildmitte für die Bilddaten; Festlegen eines Koeffizienten einer Linsenverzerrungskorrekturratenfunktion; Durchführen einer horizontalen Bildinterpolation der Bilddaten gemäß einem variablen Verhältnis entsprechend dem festgelegten Koeffizienten; und Durchführen einer vertikalen Bildinterpolation der Bilddaten.
  4. Verfahren nach Anspruch 1, wobei die Bildsensoren Kameras sind, wobei bei einem Blickwinkel einer einzelnen Kamera gemäß der Auswahl des Bildanzeigeverfahrens ein linker Bereich größer als ein rechter Bereich ist, ein rechter Bereich größer als ein linker Bereich ist, oder ein rechter Bereich und ein linker Bereich gleich groß sind.
  5. Verfahren nach Anspruch 1, wobei das Synthetisieren der Bilddaten das Synthetisieren der Bilddaten durch Einstellen einer Linsenverzerrungskorrekturrate für einen Grenzabschnitt zwischen den Bilddaten umfasst.
  6. Verfahren nach einem der vorhergehenden Ansprüche, wobei wenn die Objektrichtungsinformationen darauf hinweisen, dass sich ein nächster Objektort in einer Außenumfangsrichtung innerhalb eines erfassten Bereichs befindet, das Bildanzeigeverfahren zur Anzeige eines in einem Außenumfang zentrierten Bildes ausgewählt wird.
  7. Rundumsicht-Überwachungssystem (AVM-System) (10), aufweisend: eine Vielzahl von Kameras (110, 120, 130, 140), welche in einem Fahrzeug angeordnet sind und Bilddaten von einem Umgebungsumfeld des Fahrzeugs erhalten; eine Bildsignalverarbeitungsvorrichtung (200), welche Bilddaten von der Vielzahl von Kameras empfängt, eine Bildverarbeitung der empfangenen Bilddaten zur Verbesserung eines Bildes durchführt; eine Linsenverzerrungskorrektur der verarbeiteten Bilddaten durchführt, einen Überlappungsbereich aus den korrigierten Bilddaten erfasst, ein Bildanzeigeverfahren auswählt, welches den Überlappungsbereich nicht überlappt, wenn das Bild synthetisiert wird, und die Bilddaten gemäß dem ausgewählten Bildanzeigeverfahren synthetisiert; und eine Anzeigevorrichtung (300), welche die von der Bildsignalverarbeitungsvorrichtung (200) synthetisierten Bilddaten anzeigt, wobei die Bildsignalverarbeitungsvorrichtung (200) das Bildanzeigeverfahren auf Grundlage von Objektrichtungsinformationen auswählt, dadurch gekennzeichnet, dass wenn die Objektrichtungsinformationen darauf hinweisen, dass sich ein nächster Objektort in einer zentralen Richtung innerhalb eines erfassten Bereichs befindet, die Bildsignalverarbeitungsvorrichtung (200) das Bildanzeigeverfahren zur Anzeige eines in einem mittleren Bereich zentrierten Bildes auswählt.
  8. AVM-System (10) nach Anspruch 7, wobei die Bildsignalverarbeitungsvorrichtung (200) eine Linsenverzerrungskorrekturrate einer synthetisierten Grenzfläche einstellt, wenn die Bilddaten synthetisiert werden.
  9. AVM-System (10) nach Anspruch 7 oder 8, wobei bei einem Blickwinkel einer einzelnen Kamera gemäß der Auswahl des Bildanzeigeverfahrens durch die Bildsignalverarbeitungsvorrichtung (200) ein linker Bereich größer als ein rechter Bereich ist, ein rechter Bereich größer als ein linker Bereich ist, oder ein rechter und ein linker Bereich gleich groß sind.
  10. AVM-System (10) nach einem der Ansprüche 7 bis 9, wobei wenn die Objektrichtungsinformationen darauf hinweisen, dass sich ein nächster Objektort in einer Außenumfangsrichtung innerhalb eines erfassten Bereichs befindet, die Bildsignalverarbeitungsvorrichtung (200) das Bildanzeigeverfahren zur Anzeige eines in einem Außenumfang zentrierten Bildes auswählt.
DE102019208338.2A 2018-06-07 2019-06-07 Rundumsicht-überwachungssystem und verfahren zum betrieb davon Active DE102019208338B4 (de)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020180065286A KR102053099B1 (ko) 2018-06-07 2018-06-07 어라운드 뷰 모니터링 시스템 및 그것의 동작 방법
KR10-2018-0065286 2018-06-07

Publications (2)

Publication Number Publication Date
DE102019208338A1 DE102019208338A1 (de) 2019-12-12
DE102019208338B4 true DE102019208338B4 (de) 2022-03-17

Family

ID=68651933

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102019208338.2A Active DE102019208338B4 (de) 2018-06-07 2019-06-07 Rundumsicht-überwachungssystem und verfahren zum betrieb davon

Country Status (4)

Country Link
US (1) US11021104B2 (de)
KR (1) KR102053099B1 (de)
CN (1) CN110576794B (de)
DE (1) DE102019208338B4 (de)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11034298B2 (en) * 2019-11-18 2021-06-15 Continental Automotive Systems, Inc. Vehicle surround view system for identifying unobservable regions while reversing a trailer
CN111767910B (zh) * 2020-06-15 2023-01-06 重庆长安汽车股份有限公司 基于场景识别的车辆自适应传感器系统
CN113242431B (zh) * 2021-05-13 2023-04-25 山西省智慧交通研究院有限公司 一种面向路侧感知的标注数据预处理方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102006036933A1 (de) 2006-08-08 2008-02-14 Bayerische Motoren Werke Ag Verfahren zur Erzeugung eines Gesamtbilds aus überlappenden Einzelbildern
DE102013206714A1 (de) 2012-08-06 2014-02-06 Hyundai Mobis Co., Ltd. Around View Monitor und Überwachungsverfahren
DE102017210258A1 (de) 2016-06-20 2017-12-21 Hyundai Autron Co., Ltd. Vorrichtung und Verfahren zum Kompensieren einer Bildstörung
DE102016117518A1 (de) 2016-09-16 2018-03-22 Connaught Electronics Ltd. Angepasstes Zusammenfügen von Einzelbildern zu einem Gesamtbild in einem Kamerasystem für ein Kraftfahrzeug

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100966288B1 (ko) * 2009-01-06 2010-06-28 주식회사 이미지넥스트 주변 영상 생성 방법 및 장치
JP5068779B2 (ja) * 2009-02-27 2012-11-07 現代自動車株式会社 車両周囲俯瞰画像表示装置及び方法
KR101249791B1 (ko) * 2011-05-23 2013-04-03 아진산업(주) 차량 어라운드 뷰 영상 생성 방법
CN104512328B (zh) * 2013-09-27 2016-11-09 比亚迪股份有限公司 汽车环视图像生成方法及汽车环视系统
CN103810686A (zh) * 2014-02-27 2014-05-21 苏州大学 无缝拼接全景辅助驾驶系统及方法
US9533618B2 (en) * 2014-03-07 2017-01-03 Texas Instruments Incorporated Method, apparatus and system for processing a display from a surround view camera solution
CN104786933A (zh) * 2015-03-04 2015-07-22 江苏大学 一种全景影像驾驶辅助装置及方法
KR101714213B1 (ko) 2015-09-09 2017-03-09 현대오트론 주식회사 렌즈 영상 왜곡 보정 장치
KR101693820B1 (ko) * 2016-01-13 2017-01-06 광운대학교 산학협력단 Avm 영상 보정 장치 및 방법
KR101795271B1 (ko) * 2016-06-10 2017-11-07 현대자동차주식회사 영상의 선명화를 위한 전처리를 수행하는 영상 처리 장치 및 방법
KR101764106B1 (ko) 2017-04-07 2017-08-03 (주)캠시스 Avm 시스템 및 사각지대 영상 합성 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102006036933A1 (de) 2006-08-08 2008-02-14 Bayerische Motoren Werke Ag Verfahren zur Erzeugung eines Gesamtbilds aus überlappenden Einzelbildern
DE102013206714A1 (de) 2012-08-06 2014-02-06 Hyundai Mobis Co., Ltd. Around View Monitor und Überwachungsverfahren
DE102017210258A1 (de) 2016-06-20 2017-12-21 Hyundai Autron Co., Ltd. Vorrichtung und Verfahren zum Kompensieren einer Bildstörung
DE102016117518A1 (de) 2016-09-16 2018-03-22 Connaught Electronics Ltd. Angepasstes Zusammenfügen von Einzelbildern zu einem Gesamtbild in einem Kamerasystem für ein Kraftfahrzeug

Also Published As

Publication number Publication date
DE102019208338A1 (de) 2019-12-12
CN110576794A (zh) 2019-12-17
US20190375330A1 (en) 2019-12-12
CN110576794B (zh) 2023-01-31
KR102053099B1 (ko) 2019-12-06
US11021104B2 (en) 2021-06-01

Similar Documents

Publication Publication Date Title
DE102012102508B4 (de) Justierverfahren und System einer intelligenten Fahrzeugbildgebungsvorrichtung
EP2623374B1 (de) Sichtsystem für Nutzfahrzeuge zur Darstellung von gesetzlich vorgeschriebenen Sichtfeldern eines Hauptspiegels und eines Weitwinkelspiegels
DE102019208338B4 (de) Rundumsicht-überwachungssystem und verfahren zum betrieb davon
DE102012025322B4 (de) Kraftfahrzeug mit Kamera-Monitor-System
EP3512739B1 (de) Verfahren zum bereitstellen einer rückspiegelansicht einer fahrzeugumgebung eines fahrzeugs
EP2483107B1 (de) Verfahren und vorrichtung zur kombinierten visuellen anzeige von video- und abstandsdaten einer verkehrssituation
WO2016162245A1 (de) Verfahren zur darstellung einer fahrzeugumgebung eines fahrzeuges
DE102009050368A1 (de) Verfahren zum automatischen Kalibrieren einer virtuellen Kamera
DE102014114565A1 (de) Vogelperspektiveansichtsbildgenerierungsvorrichtung
DE102010015079A1 (de) Verfahren zum Anzeigen eines Bildes auf einer Anzeigeeinrichtung in einem Fahrzeug. Fahrerassistenzsystem und Fahrzeug
DE102013220477B4 (de) Verfahren und Vorrichtung zur Korrektur einer bildlichen Darstellung einer Fahrzeugumgebung
DE102015202863A1 (de) Verfahren und Vorrichtung zum verzerrungsfreien Anzeigen einer Fahrzeugumgebung eines Fahrzeuges
DE102018214198A1 (de) System zum Bewerten eines Bildes, Betriebsassistenzverfahren und Steuereinheit für eine Arbeitsvorrichtung sowie Arbeitsvorrichtung
DE102017205630A1 (de) Kameravorrichtung und Verfahren zur Erfassung eines Umgebungsbereichs eines Fahrzeugs
DE102018108751A1 (de) Method, system and device of obtaining 3D-information of objects
EP3073446B1 (de) Verfahren zum darstellen einer fahrzeugumgebung eines fahrzeuges
EP3268928B1 (de) Verfahren zum zusammensetzen von zwei bildern einer fahrzeugumgebung eines fahrzeuges und entsprechende vorrichtung
DE102015208343B4 (de) Verfahren zum Erzeugen eines Gesamtbildes einer Fahrzeugumgebung eines Fahrzeuges und entsprechende Vorrichtung
EP3106349B1 (de) Sichtsystem für ein nutzfahrzeug zur darstellung von gesetzlich vorgeschriebenen sichtfeldern eines hauptspiegels und eines weitwinkelspiegels
EP3421674A1 (de) Vorrichtung und verfahren zum abbilden von bereichen
EP3797053B1 (de) Verfahren und vorrichtung zum anzeigen einer fahrzeugumgebung
DE102017104957A1 (de) Verfahren zum Bestimmen einer Bewegung von zueinander korrespondierenden Bildpunkten in einer Bildsequenz aus einem Umgebungsbereich eines Kraftfahrzeugs, Auswerteeinrichtung, Fahrerassistenzsystem sowie Kraftfahrzeug
DE102014225883A1 (de) Kamerasystem und Verfahren zum Visualisieren mindestens eines Fahrzeugumfeldbereiches einesFahrzeugumfeldes eines Fahrzeuges
DE102020106967A1 (de) Festlegen eines aktuellen Fokusbereichs eines Kamerabildes basierend auf der Position der Fahrzeugkamera an dem Fahrzeug und einem aktuellen Bewegungsparameter
DE102005002636A1 (de) Verfahren und System zur Verarbeitung von Videodaten eines Kamerasystems

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R081 Change of applicant/patentee

Owner name: HYUNDAI MOBIS CO., LTD., KR

Free format text: FORMER OWNER: HYUNDAI AUTRON CO., LTD., SEOUL, KR

R082 Change of representative

Representative=s name: HOFFMANN - EITLE PATENT- UND RECHTSANWAELTE PA, DE

R016 Response to examination communication
R018 Grant decision by examination section/examining division
R020 Patent grant now final