DE102022203889A1 - Method for adaptive video data compression in a vehicle and corresponding device - Google Patents

Method for adaptive video data compression in a vehicle and corresponding device Download PDF

Info

Publication number
DE102022203889A1
DE102022203889A1 DE102022203889.4A DE102022203889A DE102022203889A1 DE 102022203889 A1 DE102022203889 A1 DE 102022203889A1 DE 102022203889 A DE102022203889 A DE 102022203889A DE 102022203889 A1 DE102022203889 A1 DE 102022203889A1
Authority
DE
Germany
Prior art keywords
vehicle
image
video data
color space
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE102022203889.4A
Other languages
German (de)
Inventor
Andreas Udo Sass
Christopher Vox
Jan Piewek
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Volkswagen AG
Original Assignee
Volkswagen AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Volkswagen AG filed Critical Volkswagen AG
Priority to DE102022203889.4A priority Critical patent/DE102022203889A1/en
Priority to CN202310395354.XA priority patent/CN116916030A/en
Publication of DE102022203889A1 publication Critical patent/DE102022203889A1/en
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00Registering or indicating the working of vehicles
    • G07C5/008Registering or indicating the working of vehicles communicating information to a remotely located station
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L69/00Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
    • H04L69/04Protocols for data compression, e.g. ROHC
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/507Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction using conditional replenishment
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00Registering or indicating the working of vehicles
    • G07C5/08Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
    • G07C5/0841Registering performance data
    • G07C5/085Registering performance data using electronic data carriers
    • G07C5/0866Registering performance data using electronic data carriers the electronic data carrier being a digital video recorder in combination with video camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/12Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Security & Cryptography (AREA)
  • Medical Informatics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

Bei einem erfindungsgemäßen Verfahren zur adaptiven Videodatenkompression in einem Fahrzeug werden Videodaten aufeinanderfolgender Bilder (B-1, B0) mit einer vordefinierten Farbraumgütedurch einen Bildsensor des Fahrzeugs (F) erfasst (1). Es wird mindestens ein Parameter, der sich auf das Fahrzeug, die Fahrsituation, das Umfeld des Fahrzeugs und/oder die Anbindung des Fahrzeugs an ein externes Kommunikationsnetz bezieht, ermittelt (2). In Abhängigkeit von dem mindestens einen ermittelten Parameter wird die Videodatenkompression parametrisiert (3), wobei durch die Parametrisierung eine Reduktion der Farbraumgütedefiniert wird. Die Videodaten werden mittels der parametrisierten Videodatenkompression komprimiert (4), wobei für zwei aufeinanderfolgende Bilder die Farbraumgüteentsprechend der Parametrisierung reduziert (4-1) wird und über die zwei aufeinanderfolgenden Bilder mit reduzierter Farbraumgüte ein Differenzbild (Bo') berechnet (4-2) wird.In a method according to the invention for adaptive video data compression in a vehicle, video data of successive images (B-1, B0) with a predefined color space quality are captured (1) by an image sensor of the vehicle (F). At least one parameter that relates to the vehicle, the driving situation, the environment of the vehicle and/or the connection of the vehicle to an external communication network is determined (2). Depending on the at least one determined parameter, the video data compression is parameterized (3), with the parameterization defining a reduction in the color space quality. The video data is compressed using parameterized video data compression (4), whereby for two consecutive images the color space quality is reduced in accordance with the parameterization (4-1) and a difference image (Bo') is calculated (4-2) over the two successive images with reduced color space quality .

Description

Die vorliegende Erfindung betrifft ein Verfahren zur adaptiven Videodatenkompression in einem Fahrzeug, dass insbesondere bei einer Übertragung von mit einem Fahrzeugsensor aufgenommenen Videodaten eingesetzt werden kann. Die vorliegende Erfindung betrifft weiterhin eine entsprechende Vorrichtung.The present invention relates to a method for adaptive video data compression in a vehicle, which can be used in particular when transmitting video data recorded with a vehicle sensor. The present invention further relates to a corresponding device.

Mittlerweile werden in Kraftfahrzeugen eine Vielzahl von Sensoren eingesetzt. So werden beispielsweise häufig diverse Sensoren zur Überwachung des Fahrzeugumfelds verwendet, wobei die generierten Sensordaten Fahrerassistenzsystemen zur Verfügung gestellt werden, um für den Fahrer einen verbesserten Komfort und eine erhöhte Sicherheit bei dem Führen des Fahrzeugs im Straßenverkehr zu ermöglichen. So können in dem Fahrzeug beispielsweise ein oder mehrere Videokameras oder auch Sensoren auf Ultraschall-, Radar- oder Laserbasis, verbaut sein.A large number of sensors are now used in motor vehicles. For example, various sensors are often used to monitor the vehicle's surroundings, with the generated sensor data being made available to driver assistance systems in order to provide the driver with improved comfort and increased safety when driving the vehicle in traffic. For example, one or more video cameras or ultrasonic, radar or laser-based sensors can be installed in the vehicle.

Die erfassten Sensordaten können lokal im Fahrzeug verarbeitet und ausgewertet werden. Insbesondere bei komplexen Analysen von hochaufgelösten Sensordaten, wie insbesondere Bild- und Videodaten, kann es hierbei aber aufgrund der im Fahrzeug lokal vorhandenen begrenzten Rechenleistung von Vorteil sein, die erfassten Sensordaten über ein Kommunikationsnetz an eine zentrale Recheneinheit zu übermitteln, um dort die Analyse vorzunehmen. Ebenso ermöglicht dieses, bei der zentralen Recheneinheit Sensordaten von einer größeren Zahl von Fahrzeugen gemeinsam auszuwerten, beispielsweise um die übertragenen Daten zum Training von neuronalen Netzen in der Umfeldwahrnehmung für das automatisierte Fahren zu nutzen. Ferner ist es beispielsweise auch für das ferngesteuerte Lenken eines Fahrzeugs durch einen Operator, das sogenannte „Teleoperated Driving“ erforderlich, umfassende Sensordaten in Echtzeit von dem Fahrzeug an den Operator zu übertragen.The captured sensor data can be processed and evaluated locally in the vehicle. Particularly in the case of complex analyzes of high-resolution sensor data, such as image and video data, it can be advantageous due to the limited computing power available locally in the vehicle to transmit the recorded sensor data via a communication network to a central computing unit in order to carry out the analysis there. This also makes it possible for the central processing unit to evaluate sensor data from a larger number of vehicles together, for example in order to use the transmitted data to train neural networks in the perception of the environment for automated driving. Furthermore, for example, for remote-controlled steering of a vehicle by an operator, so-called “teleoperated driving”, it is necessary to transmit comprehensive sensor data from the vehicle to the operator in real time.

Dieses ist nur mit Mobilfunknetzen möglich, die einen hohen und stabilen Datendurchsatz, kurze Latenzzeiten und eine gleichmäßige Netzabdeckung bieten. In der Realität variieren jedoch die Parameter der Mobilfunkanbindung des jeweiligen Fahrzeugs, beispielsweise da die Fahrzeuge während der Fahrt durch Gebiete mit unterschiedlicher Mobilfunkabdeckung bewegt werden. So liegt in Städten häufig eine gute Netzabdeckung basierend auf aktuellen Mobilfunkstandards vor, so dass die genannten Anforderungen zur Datenübertragung erfüllt werden können. In Ortschaften und ländlichen Gebieten dagegen ist die Abdeckung basierend auf aktuellen Mobilfunkstandards häufig unvollständig, so das ggfs. auf ältere Mobilfunkstandards mit geringerer Datenrate zurückgegriffen werden muss oder kurzfristig überhaupt keine Datenübertragung per Mobilfunk möglich ist.This is only possible with mobile networks that offer high and stable data throughput, short latency times and consistent network coverage. In reality, however, the parameters of the mobile phone connection of the respective vehicle vary, for example because the vehicles are moved through areas with different mobile phone coverage while driving. Cities often have good network coverage based on current mobile communications standards, so that the data transmission requirements mentioned can be met. In towns and rural areas, however, coverage based on current mobile communications standards is often incomplete, meaning that older mobile communications standards with lower data rates may have to be used, or data transmission via mobile communications may not be possible at all in the short term.

Dieses ist insbesondere ein Problem bei der Übertragung hochaufgelöster Sensordaten, da diese eine hohe Datenrate mit sich bringen. Es gibt daher Ansätze, für solche Fälle die Datenmenge der Sensordaten zu reduzieren, beispielsweise, um eine Übertragung auch in mobilfunktechnisch schlecht ausgebauten Gebieten zu ermöglichen.This is particularly a problem when transmitting high-resolution sensor data, as this involves a high data rate. There are therefore approaches to reducing the amount of sensor data in such cases, for example to enable transmission even in areas with poor mobile communications technology.

Die DE 10 2018 215 151 A1 offenbart eine Radarsteuerungseinheit, bei der eine Filterung der Radardaten vorgenommen wird. Hierbei werden Teile der Radardaten, in denen kein potentielles Zielobjekt enthalten ist, eliminiert, um die Menge an Radardaten zu reduzieren. Die Radarsteuerungseinheit kann optional auch eine weitere verlustfreie Kompression durchführen. Die gefilterten und gegebenenfalls verlustfrei komprimierten Radarrohdaten werden einer Auswerteeinheit zugeführt, die sich im Fahrzeug oder auch außerhalb des Fahrzeugs befinden kann. In einem Ausführungsbeispiel können die Rohradardaten von dem Fahrzeug zu einem Server oder in ein Cloud-System übertragen werden, wo auf Grundlage der übermittelten Rohradardaten und eines geplanten Fahrmanövers eine optimale Fahrposition des Fahrzeugs ermittelt wird.The DE 10 2018 215 151 A1 discloses a radar control unit in which the radar data is filtered. Parts of the radar data that do not contain a potential target object are eliminated in order to reduce the amount of radar data. The radar control unit can optionally also carry out further lossless compression. The filtered and, if necessary, loss-free compressed raw radar data is fed to an evaluation unit, which can be located in the vehicle or outside the vehicle. In one embodiment, the raw radar data can be transmitted from the vehicle to a server or to a cloud system, where an optimal driving position of the vehicle is determined based on the transmitted raw radar data and a planned driving maneuver.

Die DE 10 2012 206 406 A1 beschreibt ein Verfahren zur Erzeugung eines Datenstroms zur Übertragung von Bilddaten, die mit einer digitalen Videokamera eines Fahrzeugs erfasst worden sind. Hierbei werden für Bildsegmente eines erfassten Videobilds intra-kodierte Bilddaten oder differenz-kodierte Bilddaten entsprechend bekannter Komprimierungsmethoden, wie dem MPEG-4-Standard zur Videokodierung, generiert und übertragen.The DE 10 2012 206 406 A1 describes a method for generating a data stream for transmitting image data that has been captured with a digital video camera of a vehicle. In this case, intra-coded image data or differential-coded image data are generated and transmitted for image segments of a captured video image in accordance with known compression methods, such as the MPEG-4 standard for video coding.

Es ist eine Aufgabe der Erfindung, ein Verfahren zur adaptiven Videodatenkompression und eine entsprechende Vorrichtung zur Verfügung zu stellen.It is an object of the invention to provide a method for adaptive video data compression and a corresponding device.

Diese Aufgabe wird durch die unabhängigen Ansprüche gelöst. Bevorzugte Ausgestaltungen der Erfindung sind Gegenstand der abhängigen Ansprüche.This task is solved by the independent claims. Preferred embodiments of the invention are the subject of the dependent claims.

Bei einem erfindungsgemäßen Verfahren zur adaptiven Videodatenkompression in einem Fahrzeug werden Videodaten aufeinanderfolgender Bilder mit einer vordefinierten Farbraumgüte durch einen Bildsensor des Fahrzeugs erfasst. Es wird mindestens ein Parameter, der sich auf das Fahrzeug, die Fahrsituation, das Umfeld des Fahrzeugs und/oder die Anbindung des Fahrzeugs an ein externes Kommunikationsnetz bezieht, ermittelt. In Abhängigkeit von dem mindestens einen ermittelten Parameter wird die Videodatenkompression parametrisiert, wobei durch die Parametrisierung eine Reduktion der Farbraumgüte definiert wird. Die Videodaten werden mittels der parametrisierten Videodatenkompression komprimiert, wobei für zwei aufeinanderfolgende Bilder die Farbraumgüte entsprechend der Parametrisierung reduziert wird und über die zwei aufeinanderfolgenden Bilder mit reduzierter Farbraumgüte ein Differenzbild berechnet wird.In a method according to the invention for adaptive video data compression in a vehicle, video data from successive images with a predefined color space quality are captured by an image sensor of the vehicle. At least one parameter that relates to the vehicle, the driving situation, the environment of the vehicle and/or the connection of the vehicle to an external communication network is determined. Depending on the at least one determined parameter, the video data compression is parameterized, with the parameterization defining a reduction in the color space quality. The video data is compressed using parameterized video data compression, whereby the color space quality is reduced for two consecutive images in accordance with the parameterization and a difference image is calculated over the two consecutive images with reduced color space quality.

Unter der Farbraumgüte werden hierbei beliebige Farbraummerkmale verstanden, mit welchen die Helligkeits- und/oder Farbwerte der erfassten Bildpunkte spezifiziert werden können. Insbesondere kann durch die vordefinierte Farbraumgüte angegeben werden, wie viele Farb- oder Grautöne die in den Videodaten enthaltenen Bildpunkte annehmen können.Color space quality is understood to mean any color space features with which the brightness and/or color values of the captured pixels can be specified. In particular, the predefined color space quality can be used to specify how many colors or gray tones the pixels contained in the video data can have.

Mit der Erfindung kann so auf effiziente Weise eine bedarfsgerechte Videokomprimierung erfolgen, die keinen erheblichen Rechenaufwand erfordert und damit schnell ausführbar ist. Daher kann die erfindungsgemäße Videodatenkompression als Echtzeitanwendung im Fahrzeug, beispielsweise in einem Steuergerät des Fahrzeugs, implementiert werden. Ferner kann auf diese Weise die benötigte Bandbreite für die Übertragung der Videodaten deutlich reduziert werden. Außerdem werden durch die erfindungsgemäße Videokomprimierung dynamische Bereiche der jeweiligen Videobilder hervorgehoben. Diese Hervorhebung ermöglicht beispielsweise künstlichen neuronalen Netzwerken und Algorithmen für das autonome Fahren die hervorgehobenen Bereiche des Bildes gezielt zu analysieren.With the invention, demand-based video compression can be carried out efficiently, which does not require significant computing effort and can therefore be carried out quickly. Therefore, the video data compression according to the invention can be implemented as a real-time application in the vehicle, for example in a control unit of the vehicle. Furthermore, the bandwidth required for transmitting the video data can be significantly reduced in this way. In addition, the video compression according to the invention highlights dynamic areas of the respective video images. This highlighting enables, for example, artificial neural networks and algorithms for autonomous driving to specifically analyze the highlighted areas of the image.

Gemäß einer Ausführungsform der Erfindung wird überprüft, ob für das aktuelle Bild eine Änderung des Bildinhalts gegenüber dem vorherigen Bild vorliegt, wobei ein Differenzbild weiterverarbeitet und übermittelt wird, wenn eine Änderung vorliegt, und wobei kein Differenzbild übermittelt wird, wenn zwischen zwei aufeinanderfolgenden Bildern keine Änderung ermittelt worden ist oder es sich um das erste Bild einer Videosequenz handelt. Indem ein Differenzbild nur genau dann gesendet wird, wenn eine Änderung vorhanden ist, sei es zu einem vorhergehenden Bild oder weil kein vorhergehendes Bild vorhanden ist, wird die Datenmenge der übertragenen Videodaten so weiter verringert.According to one embodiment of the invention, it is checked whether there is a change in the image content for the current image compared to the previous image, with a difference image being further processed and transmitted if there is a change, and no difference image being transmitted if there is no change between two successive images has been determined or it is the first image of a video sequence. By only sending a difference image when there is a change, be it to a previous image or because there is no previous image, the amount of data transmitted is further reduced.

Vorteilhafterweise wird zur Überprüfung einer Änderung des aktuellen Bildes zunächst ein quantisiertes Bild berechnet und für die jeweiligen Helligkeits- und/oder Farbwerte der Bildpunkte des aktuellen Bildes jeweils ein Differenzwert zu den entsprechenden Werten des vorhergehenden quantisierten Bildes berechnet.To check a change in the current image, a quantized image is advantageously first calculated and a difference value to the corresponding values of the previous quantized image is calculated for the respective brightness and/or color values of the pixels of the current image.

Insbesondere kann hierbei der Differenzwert mit einem zugehörigen Schwellenwert verglichen werden.In particular, the difference value can be compared with an associated threshold value.

Ebenso kann die Stärke der Quantisierung der Bilder vorteilhafterweise in Abhängigkeit von den aktuell ermittelten Parametern zum Fahrzeug, der Fahrsituation, dem Fahrzeugumfeld oder der Fahrzeuganbindung an das externe Kommunikationsnetz gewählt werden.Likewise, the strength of the quantization of the images can advantageously be selected depending on the currently determined parameters for the vehicle, the driving situation, the vehicle environment or the vehicle connection to the external communication network.

Gemäß einer Ausführungsform werden für sämtliche Bildpunkte Differenzwerte berechnet, komprimiert und übermittelt.According to one embodiment, difference values are calculated, compressed and transmitted for all pixels.

Gemäß einer weiteren Ausführungsform werden nur für einen Teilbereich des erfassten Bildes Differenzwerte berechnet, komprimiert und übermittelt, wobei eine Positionsangabe für diesen Teilbereich übermittelt wird.According to a further embodiment, difference values are calculated, compressed and transmitted for only a partial area of the captured image, with position information being transmitted for this partial area.

Vorteilhafterweise liegen die Helligkeits- und/oder Farbwerte der Bildpunkte in einer Binärdarstellung vor, wobei auf diese zur Reduktion der Farbraumgüte binäre Verschiebungen angewendet werden, und wobei die Parametrisierung der Videodatenkompression die Anzahl der binären Verschiebungen umfasst.Advantageously, the brightness and/or color values of the pixels are present in a binary representation, with binary shifts being applied to them to reduce the color space quality, and with the parameterization of the video data compression comprising the number of binary shifts.

Ebenso wird vorteilhafterweise nach der Berechnung des Differenzbilds eine Lauflängenkodierung auf die Helligkeits- und/oder Farbwerte der Bildpunkte angewendet, wobei für die Lauflängenkodierung eine Information, wie häufig der gleiche Helligkeits- und/oder Farbwert bei aufeinanderfolgenden Bildpunkten auftritt, in den durch die Verschiebungen freiwerdenden Bits abgelegt wird, und wobei den komprimierten Videodaten eine Information über die Anzahl der jeweils angewandten binären Verschiebungen zugeordnet wird, die für eine Rekonstruktion der Videodaten zusammen mit den komprimierten Videodaten abgespeichert oder übertragen wird.Likewise, after the difference image has been calculated, a run length coding is advantageously applied to the brightness and/or color values of the pixels, with the run length coding providing information about how often the same brightness and/or color value occurs in successive pixels in the values released by the shifts Bits are stored, and the compressed video data is assigned information about the number of binary shifts applied in each case, which is stored or transmitted together with the compressed video data for a reconstruction of the video data.

Auch können vorteilhafterweise nach der Berechnung des Differenzbilds die Differenzwerte für die einzelnen Bildpunkte zunächst binär klassifiziert werden und die binär klassifizierten Bildpunkte der Lauflängenkodierung zugeführt werden.Advantageously, after the difference image has been calculated, the difference values for the individual pixels can first be binary classified and the binary classified pixels can be fed to the run length coding.

Die erfindungsgemäße Vorrichtung zur adaptiven Videodatenkompression in einem Fahrzeug umfasst

  • - einen Bildsensor, der Videodaten aufeinanderfolgender Bilder mit einer vordefinierten Farbraumgüte erfasst;
  • - eine Auswerte- und Steuereinheit zum Ermitteln von mindestens einem Parameter, der sich auf das Fahrzeug, die Fahrsituation, das Umfeld des Fahrzeugs und/oder die Anbindung des Fahrzeugs an ein externes Kommunikationsnetz bezieht, und zur Parametrisierung der Videodatenkompression in Abhängigkeit von dem mindestens einen ermittelten Parameter, wobei durch die Parametrisierung eine Reduktion der Farbraumgüte definiert wird;
  • - eine Komprimierungseinheit, in der die Videodaten mittels der parametrisierten Videodatenkompression komprimiert werden, wobei für zwei aufeinanderfolgende Bilder die Farbraumgüte entsprechend der Parametrisierung reduziert wird und über die zwei aufeinanderfolgenden Bilder mit reduzierter Farbraumgüte ein Differenzbild berechnet wird; und
  • - eine Kommunikationseinheit zur Übertragung der komprimierten Videodaten.
The device according to the invention for adaptive video data compression in a vehicle comprises
  • - an image sensor that captures video data from successive images with a predefined color space quality;
  • - an evaluation and control unit for determining at least one parameter that relates to the vehicle, the driving situation, the environment of the vehicle and / or the connection of the vehicle to an external communication network, and for parameterizing the video data compression depending on the at least one determined parameters, whereby the parameterization defines a reduction in the color space quality;
  • - a compression unit in which the video data is compressed using the parameterized video data compression, the color space quality being reduced for two consecutive images in accordance with the parameterization and a difference image being calculated over the two successive images with reduced color space quality; and
  • - a communication unit for transmitting the compressed video data.

Ein erfindungsgemäßes Computerprogramm umfasst Instruktionen, die eine Vorrichtung zur Ausführung der Schritte des erfindungsgemäßen Verfahrens veranlassen.A computer program according to the invention comprises instructions that cause a device to carry out the steps of the method according to the invention.

Schließlich umfasst die Erfindung auch ein Kraftfahrzeug, das eingerichtet ist, ein erfindungsgemäßes Verfahren auszuführen oder eine erfindungsgemäße Vorrichtung aufweist.Finally, the invention also includes a motor vehicle that is set up to carry out a method according to the invention or has a device according to the invention.

Weitere Merkmale der vorliegenden Erfindung werden aus der nachfolgenden Beschreibung und den Ansprüchen in Verbindung mit den Figuren ersichtlich.

  • 1 zeigt ein Ablaufdiagramm, das die grundlegenden Schritte des erfindungsgemäßen Verfahrens zur adaptiven Videodatenkompression in einem Fahrzeug wiedergibt;
  • 2 zeigt mehrere Teilschritte zur erfindungsgemäßen Kompression der Videodaten;
  • 3 zeigt schematisch ein Beispiel für zwei zu aufeinanderfolgenden Zeitpunkten erfasste Videobilder, wobei von dem späteren Bild nur ein Teilbereich mit Bildänderungen übertragen und zur Rekonstruktion des erfassten Bildes verwendet wird; und
  • 4 zeigt schematisch ein Fahrzeug mit einer erfindungsgemäßen Vorrichtung und einen zentralen Server, an den komprimierte Videodaten übertragen werden.
Further features of the present invention will become apparent from the following description and the claims in conjunction with the figures.
  • 1 shows a flowchart that shows the basic steps of the method according to the invention for adaptive video data compression in a vehicle;
  • 2 shows several sub-steps for compressing the video data according to the invention;
  • 3 shows schematically an example of two video images captured at successive times, with only a partial area of the later image being transmitted with image changes and used to reconstruct the captured image; and
  • 4 shows schematically a vehicle with a device according to the invention and a central server to which compressed video data is transmitted.

Zum besseren Verständnis der Prinzipien der vorliegenden Erfindung werden nachfolgend Ausführungsformen der Erfindung anhand der Figuren detaillierter erläutert. Es versteht sich, dass sich die Erfindung nicht auf diese Ausführungsformen beschränkt und dass die beschriebenen Merkmale auch kombiniert oder modifiziert werden können, ohne den Schutzbereich der Erfindung, wie er in den Ansprüchen definiert ist, zu verlassen.For a better understanding of the principles of the present invention, embodiments of the invention are explained in more detail below with reference to the figures. It is understood that the invention is not limited to these embodiments and that the described features can also be combined or modified without departing from the scope of the invention as defined in the claims.

1 zeigt ein Ablaufdiagramm eines erfindungsgemäßen Verfahrens. In einem ersten Verfahrensschritt 1 werden durch einen oder mehrere Bildsensoren eines Fahrzeugs Videodaten erfasst. Bei den Bildsensoren kann es sich hierbei insbesondere um Außenkameras des Fahrzeugs handeln, mit denen Videoaufnahmen von zwei- oder dreidimensionalen Abbildern des Fahrzeugumfelds generiert werden. Hierbei erfolgt eine fortlaufende Erfassung von Videodaten aufeinanderfolgender Bilder, auch wenn von den Bildsensoren zu einem Zeitpunkt jeweils nur Bilddaten für einzelne Bilder erfasst werden. Die erfassten Videodaten können vor einer weiteren Verarbeitung zunächst zwischengespeichert werden, wobei als Metadaten für die Bilddaten zusätzlich Positions- und/oder Zeitdaten erfasst und abgelegt werden können. 1 shows a flowchart of a method according to the invention. In a first method step 1, video data is captured by one or more image sensors of a vehicle. The image sensors can in particular be external cameras of the vehicle, with which video recordings of two- or three-dimensional images of the vehicle's surroundings are generated. This involves continuous acquisition of video data from successive images, even if the image sensors only capture image data for individual images at a time. The captured video data can first be temporarily stored before further processing, with additional position and/or time data being captured and stored as metadata for the image data.

Die Helligkeits- und/oder Farbwerte der erfassten Bilddaten können hierbei durch verschiedene charakteristische Farbraummerkmale spezifiziert werden. So können diese in Abhängigkeit von einem Farbraum über die Farben, beispielsweise RGB oder CMYK, angegeben werden. Ebenso kann eine Spezifizierung über Leuchtdichte plus Farbigkeit, beispielsweise mit dem YCbCr-Modell, welches die Farbinformation in die Grundhelligkeit Y und die zwei Farbkomponenten Cb (Blue-Yellow Chrominance) und Cr (Red-Green Chrominance) aufteilt, erfolgen. Auch eine Beschreibung im HSL-Farbmodell, dass auf den Merkmalen Farbton (hue), Sättigung (saturation) und Helligkeit (lightness) beruht, erfolgen. Im Folgenden wird die Erfindung am Beispiel eines RGB-Farbraums erläutert, bei dem die Farben der einzelnen Bildpunkte durch das additive Mischen dreier Grundfarben Rot, Grün und Blau angegeben werden und die Farbraumgüte der Farbtiefe entspricht.The brightness and/or color values of the captured image data can be specified by various characteristic color space features. So these can depend on a color space can be specified via the colors, for example RGB or CMYK. Likewise, a specification can be made using luminance plus color, for example with the YCbCr model, which divides the color information into the basic brightness Y and the two color components Cb (Blue-Yellow Chrominance) and Cr (Red-Green Chrominance). There is also a description in the HSL color model, which is based on the characteristics of hue, saturation and lightness. The invention is explained below using the example of an RGB color space, in which the colors of the individual pixels are specified by the additive mixing of three primary colors red, green and blue and the color space quality corresponds to the color depth.

Aufgrund der Vielzahl der Bildpunkte in einem Bild und den üblichen Bildwiederholraten ergeben sich insbesondere bei einer hohen Farbtiefe große Datenmengen. Beispielsweise ergibt sich bei einem RGB-Videosignal mit einer Farbtiefe von 24 Bit im Full-HD-Format (1920 x 1080 Pixel) und einer Bildwiederholrate 30 Hz, pro Sekunde eine Datenmenge von 3 x 8 x 1920 x 1080 x 30 = 1492992000 Bit und damit eine Datenrate von ca. 178 MB/s.Due to the large number of pixels in an image and the usual refresh rates, large amounts of data arise, especially with a high color depth. For example, an RGB video signal with a color depth of 24 bits in full HD format (1920 x 1080 pixels) and a refresh rate of 30 Hz results in a data volume of 3 x 8 x 1920 x 1080 x 30 = 1492992000 bits per second thus a data rate of approx. 178 MB/s.

Die Farbtiefe gibt hierbei an, wie viele Farb- oder Grautöne die in den Bilddaten enthaltenen Bildpunkte annehmen können. So kann die Farbtiefe beispielsweise 24 Bit betragen, die beispielsweise bei Anwendung eines RGB-Farbraums gleichmäßig mit jeweils 8 Bit auf die Rot-, Grün- und Blauanteile verteilt werden. Ein Bitwert 0 bedeutet hierbei, dass der Farbanteil fehlt, ein Bitwert von 255, dass der Farbanteil in maximaler Intensität vorliegt. Durch die Mischung der drei Farbanteile lassen sich so insgesamt 256x256x256 = 16,77 Millionen Farben darstellen. Auf gleiche Weise lassen sich mit 8 Bit 256 verschiedene Grautöne angeben, die ausreichen, um einen stufenlos wahrgenommenen Verlauf von Schwarz nach Weiß darzustellen.The color depth indicates how many colors or gray tones the pixels contained in the image data can have. For example, the color depth can be 24 bits, which, for example, are distributed evenly with 8 bits each across the red, green and blue components when using an RGB color space. A bit value of 0 means that the color component is missing, a bit value of 255 means that the color component is present at maximum intensity. By mixing the three color components, a total of 256x256x256 = 16.77 million colors can be displayed. In the same way, 256 different gray tones can be specified with 8 bits, which are sufficient to display a seamless gradient from black to white.

In einem Verfahrensschritt 2 wird mindestens ein Parameter, der sich auf das Fahrzeug, die Fahrsituation, das Umfeld des Fahrzeugs und/oder die Anbindung des Fahrzeugs an ein externes Kommunikationsnetz bezieht, ermittelt. So kann beispielsweise die aktuelle Geschwindigkeit des Fahrzeugs bei Erfassung der Videodaten von einem Steuergerät des Fahrzeugs ausgelesen werden. Ebenso kann mit weiteren Fahrzeugsensoren das Fahrzeugumfeld erfasst werden oder eine Information über das Fahrzeugumfeld aus Kartendaten in Zusammenhang mit der mit einem Navigationssystem ermittelten aktuellen Position des Fahrzeugs ermittelt werden. Ebenso kann von einer im Fahrzeug befindlichen Mobilfunkeinheit die aktuell verfügbare Bandbreite für eine Datenübertragung abgefragt werden. Die so ermittelten Parameter ermöglichen eine situative Anpassung der nachfolgenden Kompression, beispielsweise, indem bei guten Empfangsbedingungen der Mobilfunkeinheit, und damit einer großen zur Verfügung stehenden Bandbreite der Anbindung des Fahrzeugs an das externe Kommunikationsnetz, eine geringere Kompression gewählt wird als bei schlechten Empfangsbedingungen. Insbesondere kann durch die Ermittlung der verfügbaren Bandbreite die Videodatenkompression so angepasst werden, dass über das externe Kommunikationsnetz eine unterbrechungsfreie Übertragung der komprimierten Videodaten erfolgen kann.In a method step 2, at least one parameter that relates to the vehicle, the driving situation, the environment of the vehicle and/or the connection of the vehicle to an external communication network is determined. For example, the current speed of the vehicle can be read by a vehicle control unit when the video data is recorded. Likewise, the vehicle surroundings can be recorded with additional vehicle sensors or information about the vehicle surroundings can be determined from map data in connection with the current position of the vehicle determined with a navigation system. The currently available bandwidth for data transmission can also be queried from a mobile radio unit located in the vehicle. The parameters determined in this way enable the subsequent compression to be adapted to the situation, for example by selecting a lower compression when the reception conditions of the mobile radio unit are good, and thus there is a large available bandwidth for the connection of the vehicle to the external communication network, than when reception conditions are poor. In particular, by determining the available bandwidth, the video data compression can be adjusted so that uninterrupted transmission of the compressed video data can take place via the external communication network.

In einem Verfahrensschritt 3 erfolgt dann eine Parametrisierung der nachfolgenden Kompression der Videodaten, wobei in Abhängigkeit von dem mindestens einen ermittelten Parameter durch die Parametrisierung eine Reduktion der Farbtiefe definiert wird. Hierbei macht sich die Erfindung zu Nutze, dass für Bildverarbeitungen und Bildanalysen die Farb- bzw. Grauverläufe eines Bildes nicht hochauflösend vorliegen müssen. Vielmehr werden durch eine Reduktion der Farbtiefe Kanten von Objekten innerhalb des Bildes geschärft, was vorteilhaft für solche Nachverarbeitungen ist.In a method step 3, the subsequent compression of the video data is then parameterized, with the parameterization defining a reduction in the color depth depending on the at least one determined parameter. The invention takes advantage of the fact that the color or gray gradients of an image do not have to be available in high resolution for image processing and image analysis. Rather, by reducing the color depth, edges of objects within the image are sharpened, which is advantageous for such post-processing.

In einem Verfahrensschritt 4 werden dann die Videodaten mittels der parametrisierten Videodatenkompression komprimiert, bevor die komprimierten Daten dann für weitere Bildverarbeitungen und Bildanalysen an einen zentralen Server übertragen werden. Der für die erfindungsgemäße Videodatenkompression verwendete Algorithmus wird im Folgenden beschrieben.In a method step 4, the video data is then compressed using the parameterized video data compression before the compressed data is then transmitted to a central server for further image processing and image analysis. The algorithm used for the video data compression according to the invention is described below.

Wie in 2 gezeigt, werden für die Videodatenkompression mehrere Teilschritte angewendet, wobei ein Teil dieser Schritte optional ist. Insbesondere liegt bei dem ersten Bild einer Videosequenz kein vorheriges Bild vor, so das auch kein Vergleich mit einem vorherigen Bild erfolgen und auch kein Differenzbild erzeugt werden kann. Für ein solches erstes Bild einer Videosequenz werden daher nur die Teilschritte 4-1, 4-5 und gegebenenfalls die auch in diesem Fall optionalen Teilschritte 4-6 und 4-7 durchgeführt. Die Teilschritte 4-2, 4-3 werden dagegen nur für Bilder in einer Videosequenz durchgeführt, für die bereits ein vorheriges Bild existiert, ebenso wie der gegebenenfalls optional durchgeführte Teilschritt 4-4.As in 2 shown, several sub-steps are applied for video data compression, some of these steps being optional. In particular, there is no previous image in the first image of a video sequence, so that no comparison can be made with a previous image and no difference image can be generated. For such a first image of a video sequence, only sub-steps 4-1, 4-5 and, if necessary, sub-steps 4-6 and 4-7, which are also optional in this case, are carried out. Sub-steps 4-2, 4-3, on the other hand, are only carried out for images in a video sequence for which a previous image already exists, as is sub-step 4-4, which may optionally be carried out.

In einem ersten Teilschritt 4-1 erfolgt hierbei zunächst eine Quantisierung des von dem Bildsensor erfassten Originalbilds. Hierbei werden auf die in Binärdarstellung vorliegenden Farbwerte der Bildpunkte binäre Verschiebungen bzw. Shiftoperationen angewendet, wobei die vorher erfolgte Parametrisierung der Videodatenkompression die Anzahl der binären Verschiebungen umfasst. Eine Information über die Anzahl der jeweils angewandten binären Verschiebungen wird hierbei den komprimierten Bilddaten zugeordnet und für eine später erfolgende Rekonstruktion der Bilddaten zusammen mit den komprimierten Bilddaten abgespeichert oder übertragen.In a first sub-step 4-1, the original image captured by the image sensor is first quantized. Here, binary shifts or shift operations are applied to the color values of the pixels in binary representation, whereby the previously carried out parameterization of the video data compression includes the number of binary shifts. Information about the number of binary shifts applied is assigned to the compressed image data and stored or transmitted together with the compressed image data for a later reconstruction of the image data.

Für die Farbanteile der Bildpunkte wird eine binäre Shiftoperation angewendet, sodass die maximal zur Verfügung stehenden Bitwerte und damit Farbwerte reduziert werden, ähnliche Farben werden dadurch einheitlich dargestellt. Dieses kann bei einer deutlichen Reduzierung der Farbtiefe beispielsweise zum Ergebnis haben, dass eine durch einen Bildsensor erfasste Straße einheitlich grau dargestellt wird oder der durch den Bildsensor erfasste Himmel einheitlich blau. Farbverläufe werden gröber oder werden ggfs. gar nicht mehr dargestellt, stattdessen wird ein Bild mit ausgeprägten Farbkontrasten erzeugt.A binary shift operation is used for the color components of the pixels, so that the maximum available bit values and thus color values are reduced, so that similar colors are displayed uniformly. If the color depth is significantly reduced, this can result, for example, in a street captured by an image sensor being displayed uniformly gray or the sky captured by the image sensor being uniformly blue. Color gradients become coarser or may no longer be displayed at all; instead, an image with pronounced color contrasts is created.

Hierbei kann insbesondere vorgesehen werden, dass für jeden Farbanteil und für jeden Bildpunkt die gleiche binäre Shiftoperation angewendet wird, beispielsweise, dass der Farbwert für den Rot-, Grün- und Blauanteil für jeden Bildpunkt um ein Bit oder mehrere Bits nach rechts verschoben wird. Es ist aber auch möglich, für die verschiedenen Farbanteile unterschiedlich starke Verschiebungen zu wählen, beispielsweise in Abhängigkeit davon, in welchem Umfang die verschiedenen Farbanteile im Bildsignal vorliegen. Ferner ist es auch möglich, für unterschiedliche Bildbereiche eine unterschiedlich starke Verschiebung zu wählen, beispielsweise am Bildrand eine größere Verschiebung als in der Bildmitte.In particular, it can be provided that the same binary shift operation is applied for each color component and for each pixel, for example that the color value for the red, green and blue components is shifted to the right by one bit or several bits for each pixel. However, it is also possible to select shifts of different magnitudes for the different color components, for example depending on the extent to which the different color components are present in the image signal. Furthermore, it is also possible to select a shift of different magnitudes for different image areas, for example a larger shift at the edge of the image than in the center of the image.

In den folgenden beiden Tabellen wird ein Beispiel für eine Kompression durch binäre Shiftoperationen sowie eine im Anschluss erfolgende optionale Rundung für fünf Farbwerte 30 bis 34 (dezimal) verdeutlicht. Aus Gründen der Übersichtlichkeit werden hierbei nur die fünf Bits mit den niedrigsten Stellenwerten („least significant bits“) wiedergegeben, bei einer Farbraumdarstellung mit 8 Bit pro Farbwert werden damit die führenden drei Bitwerte in der Tabelle nicht gezeigt. Aus den Originalwerten für die Farbwerte 30 bis 34 ergeben sich hierbei nach einer Verschiebung um 1, 2 oder 3 Bitstellen folgende Werte: Originalwert Shiftoperation (1 Bit) Shiftoperation (2Bit) Shiftoperation (3Bit) dezimal binär binär dezimal binär dezimal binär dezimal 34 100010 10001 17 1000 8 100 4 33 100001 10000 16 1000 8 100 4 32 100000 10000 16 1000 8 100 4 31 011111 01111 15 0111 7 011 3 30 011110 01111 15 0111 7 011 3 The following two tables show an example of compression using binary shift operations and subsequent optional rounding for five color values 30 to 34 (decimal). For reasons of clarity, only the five bits with the lowest significant bits are shown; in the case of a color space representation with 8 bits per color value, the leading three bit values are not shown in the table. The original values for color values 30 to 34 result in the following values after a shift of 1, 2 or 3 bit positions: Original value Shift operation (1 bit) Shift operation (2bit) Shift operation (3bit) decimal binary binary decimal binary decimal binary decimal 34 100010 10001 17 1000 8th 100 4 33 100001 10000 16 1000 8th 100 4 32 100000 10000 16 1000 8th 100 4 31 011111 01111 15 0111 7 011 3 30 011110 01111 15 0111 7 011 3

Wie ersichtlich, ergibt sich bei ursprünglich fünf unterschiedlichen Farbwerten 30 bis 34 (dezimal) bereits nach einer Verschiebung um 1 Bit eine Reduktion auf drei unterschiedliche Farbwerte und nach einer Verschiebung um 2 oder 3 Bit eine Reduktion auf nur noch zwei unterschiedliche Farbwerte.As can be seen, with originally five different color values 30 to 34 (decimal), after a shift of 1 bit there is a reduction to three different color values and after a shift of 2 or 3 bits there is a reduction to only two different color values.

Optional kann bei der Kompression mittels der binären Shiftoperationen auch eine Rundung erfolgen, bei welcher der verschobene Wert auf die nächsthöhere Quantisierungsstufe gerundet wird. Die Rundungsinformation wird hierbei den durch die Shiftoperationen weggelassenen Bits entnommen. Dieses wird in der folgenden Tabelle für das obige Beispiel der fünf Farbwerte 30 bis 34 verdeutlicht, wobei wieder nur fünf Binärwerte wiedergegeben werden. Aus den Originalwerten für die Farbwerte 30 bis 34 ergeben sich hierbei nach einer Verschiebung um 1, 2 oder 3 Bitstellen folgende Werte: Originalwert Shiftoperation (1 Bit) Shiftoperation (2Bit) Shiftoperation (3Bit) dezimal binär binär dezimal binär dezimal binär dezimal 34 100010 10001 17 1001 9 100 4 33 100001 10001 17 1000 8 100 4 32 100000 10000 16 1000 8 100 4 31 011111 10000 16 1000 8 100 4 30 011110 01111 15 1000 8 100 4 Optionally, rounding can also be carried out during compression using the binary shift operations, in which the shifted value is rounded to the next higher quantization level. The rounding information is taken from the bits omitted by the shift operations. This is illustrated in the following table for the above example of the five color values 30 to 34, where again only five binary values are reproduced. The original values for color values 30 to 34 result in the following values after a shift of 1, 2 or 3 bit positions: Original value Shift operation (1 bit) Shift operation (2bit) Shift operation (3bit) decimal binary binary decimal binary decimal binary decimal 34 100010 10001 17 1001 9 100 4 33 100001 10001 17 1000 8th 100 4 32 100000 10000 16 1000 8th 100 4 31 011111 10000 16 1000 8th 100 4 30 011110 01111 15 1000 8th 100 4

Auch hier ergibt sich bei den Farbwerten 30 bis 34 nach einer Verschiebung um 1 Bit mit zusätzlicher Rundung eine Reduktion auf drei Farbwerte, nach einer Verschiebung um 2 Bit mit zusätzlicher Rundung eine Reduktion auf zwei unterschiedliche Farbwerte und nach einer Verschiebung um 3 Bit mit zusätzlicher Rundung eine Reduktion auf nur noch einen Farbwert.Here too, for color values 30 to 34, after a shift of 1 bit with additional rounding there is a reduction to three color values, after a shift of 2 bits with additional rounding there is a reduction to two different color values and after a shift of 3 bits with additional rounding a reduction to just one color value.

Im darauffolgenden Teilschritt 4-2 erfolgt danach ein Vergleich des aktuellen quantisierten Bilds mit einem vorherigen quantisierten Bild und gegebenenfalls eine Berechnung eines vollständigen oder teilweisen Differenzbildes. Für den Vergleich kann insbesondere das unmittelbar vorhergehende Bild herangezogen werden, also beispielsweise bei einer Bildwiederholrate von 30 Hz das Bild, welches 33 ms früher erfasst worden ist. Es ist aber auch denkbar auf ein früheres Bild zurückzugreifen.In the subsequent sub-step 4-2, the current quantized image is compared with a previous quantized image and, if necessary, a complete or partial difference image is calculated. In particular, the immediately preceding image can be used for the comparison, for example with a refresh rate of 30 Hz the image that was captured 33 ms earlier. But it is also conceivable to go back to an earlier image.

Hierfür wird für jeden Bildpunkt des aktuellen Bilds zum Zeitpunkt to für die Farbwerte oder den Grauwert die Differenz zu den Farbwerten oder den Grauwert der Bildpunkte des vorherigen Bildes zum Zeitpunkt t-1 berechnet. Auf diese Weise erhält man ein Differenzbild, bei dem unveränderte Stellen des Bild den Wert „0“ für jeden der Farbwerte bzw. den Grauwert erhalten. Dieses kann beispielsweise für eine durch die Reduzierung der Farbtiefe einheitlich grau erscheinende Straßenfläche in Front des Fahrzeugs der Fall sein, solange in diesem Bereich keine merklichen Veränderungen, beispielsweise durch in dem erfassten Bildbereich auftauchende Gegenstände auf der Fahrbahn oder andere Verkehrsteilnehmer, erfolgen. Liegen dagegen in einem Bereich merkliche Veränderungen vor, so weisen dort die Bildpunkte die Werte auf, die sich bei der Differenzberechnung ergeben.For this purpose, the difference to the color values or the gray value of the pixels of the previous image at time t -1 is calculated for each pixel of the current image at time to for the color values or the gray value. In this way, a difference image is obtained in which unchanged parts of the image receive the value “0” for each of the color values or the gray value. This can be the case, for example, for a road surface in the front of the vehicle that appears uniformly gray due to the reduction in color depth, as long as there are no noticeable changes in this area, for example due to objects on the road or other road users appearing in the captured image area. If, on the other hand, there are noticeable changes in an area, the pixels there have the values that result from the difference calculation.

Der Vergleich bzw. die Berechnung des Referenzbildes erfolgt hierbei vorzugsweise basierend auf Schwellenwerten. Eine Änderung des Bildes bzw. Bildbereiches liegt dann vor, wenn für eine der Farbwerte oder den Grauwert nach der Differenzberechnung für einen Bildpunkt eine Überschreitung des Schwellenwertes erfasst wird. Die Schwellenwerte können bereits vorab definiert worden sein, beispielsweise in Abhängigkeit von der nachfolgenden Verarbeitung der Videodaten. Ebenso können die Schwellenwerte aber auch in Abhängigkeit von den in Verfahrensschritt 2 aktuell ermittelten Parametern zum Fahrzeug, der Fahrsituation, dem Fahrzeugumfeld oder der Fahrzeuganbindung an das externe Kommunikationsnetz, gewählt werden.The comparison or calculation of the reference image is preferably carried out based on threshold values. A change in the image or image area occurs when the threshold value is exceeded for one of the color values or the gray value after the difference calculation for an image point. The threshold values may have already been defined in advance, for example depending on the subsequent processing of the video data. Likewise, the threshold values can also be selected depending on the vehicle parameters currently determined in method step 2, the driving situation, the vehicle environment or the vehicle connection to the external communication network.

Im darauffolgenden Teilschritt 4-3 wird dann überprüft, ob für das aktuelle Bild eine Änderung des Bildinhalts gegenüber dem vorherigen Bild vorliegt. Wenn dies nicht der Fall ist, wird kein Differenzbild übermittelt und das Verfahren für das nächste Bild der Videosequenz in Teilschritt 4-1 fortgesetzt. Dieses kann der Fall sein, wenn zwischen zwei aufeinanderfolgenden Bildern keinerlei Änderung ermittelt worden ist oder es sich um das erste Bild der Videosequenz handelt, sodass keine Änderung zu einem vorhergehenden Bild vorliegen kann.In the following sub-step 4-3 it is then checked whether there is a change in the image content of the current image compared to the previous image. If this is not the case, no difference image is transmitted and the process continues in step 4-1 for the next image of the video sequence. This can be the case if no change has been detected between two consecutive images or if it is the first image of the video sequence, so there can be no change to a previous image.

Liegen dagegen Änderungen zwischen den beiden Bildern der Videosequenz vor, so wird das Komprimierungsverfahren in den Teilschritten 4-4 bis 4-7 fortgesetzt. Hierbei kommen zwei verschiedene Ausführungsform in Betracht. So können Differenzbilder einerseits zwar mit reduzierter Farbtiefe, aber dennoch mit unterschiedlichen farbenbezogenen Grautönen weiterverarbeitet und schließlich übertragen werden. Ebenso ist es aber auch möglich, für die Differenzbilder völlig auf unterschiedliche Farben bzw. Grautöne zu verzichten. In dem zweitgenannten Fall erfolgt zunächst in Teilschritt 4-4 eine Konvertierung des Differenzbildes in ein binäres Schwarzweiß-Bild, im erstgenannten Fall dagegen wird dieser Teilschritt 4-4 übersprungen.However, if there are changes between the two images of the video sequence, the compression process is continued in steps 4-4 to 4-7. Two different embodiments come into consideration here. On the one hand, difference images can be further processed and ultimately transmitted with reduced color depth, but still with different color-related gray tones. However, it is also possible to completely dispense with different colors or shades of gray for the difference images. In the second-mentioned case, the difference image is first converted into a binary black-and-white image in sub-step 4-4; in the first-mentioned case, however, this sub-step 4-4 is skipped.

Im darauffolgenden Teilschritt 4-5 wird dann für die Differenzbilder eine Lauflängenkodierung auf die Differenzwerte, bzw. bei Übertragung eines nicht differenz-kodierten Bildes auf die Farb-, Grau- bzw. Schwarzweiß-Werte der Bildpunkte, angewendet. So wird beispielsweise bei einer vierfach aufeinanderfolgenden Wiederholung des gleichen Differenz- bzw. Farbwertes dieser Wert nicht vierfach übertragen, sondern eine Information, dass in den Bilddaten vierfach ein bestimmter Differenz- bzw. Farbwert folgt. Hierbei führt zum einen die sich aus der Anwendung der binären Shiftoperationen ergebende Reduktion der auftretenden Farbwerte dazu, dass sich die Anzahl der gleichen Differenz- bzw. Farbwerte im Vergleich zum Originalbild vergrößert und damit die Wirksamkeit der anschließend angewandten Lauflängenkodierung erhöht wird. Zum anderen ergibt sich für Bereiche aufeinanderfolgender Bilder, in denen keine Veränderung vorliegen, selbst ohne die Reduktion der auftretenden Farbwerte, eine Vielzahl gleicher Differenzwerte.In the following substep 4-5, a run length coding is then applied to the difference values for the difference images, or to the color, gray or black and white values of the image points when a non-difference-coded image is transmitted. For example, if the same difference or color value is repeated four times in succession, this value is not transmitted four times, but rather information that a specific difference or color value follows four times in the image data. On the one hand, the reduction in the color values resulting from the use of the binary shift operations leads to the number of the same difference or color values increasing compared to the original image and thus increasing the effectiveness of the subsequently applied run length coding becomes. On the other hand, for areas of successive images in which there is no change, even without the reduction of the color values that occur, a large number of identical difference values result.

Optional kann dann in Teilschritt 4-6 für die Lauflängenkodierung eine Information, wie häufig der gleiche Differenz- bzw. Farbwert bei aufeinanderfolgenden Bildpunkten auftritt, in den durch die Verschiebungen freiwerdenden Bits abgelegt wird. Dieses sogenannte „Bitpacking“ soll im folgenden Beispiel für die Übertragung des Farbwertes „16“ (dezimal) bzw. „0001 0000“ (binär) bei dreifacher Verschiebung des Binärwertes verdeutlicht werden. Die dreifache Verschiebung des Binärwertes „0001 0000“ nach rechts ergibt „0000 0010“, entsprechend ergäbe eine Rekonstruktion durch eine Linksverschiebung um 3 Bits wieder den Binärwert „0001 0000“. Der nach der dreifachen Verschiebung nach rechts ungenutzte (unterstrichene) Bereich des Binärwertes „0000 0010“ kann nun verwendet werden, um die Anzahl der folgenden Farbwertwiederholung zu kennzeichnen. Für das oben genannte Beispiel einer vierfach aufeinanderfolgenden Wiederholung des gleichen Farbwertes ergibt sich damit „100 | 0 0010“ mit dem Format „Anzahl aufeinanderfolgende Werte | verschobener Wert“. Wahlweise ist aber auch eine umgekehrte Anordnung „00010 | 1100" mit dem Format „verschobener Wert | Anzahl aufeinanderfolgende Werte“ möglich.Optionally, in substeps 4-6 for run length coding, information about how often the same difference or color value occurs in successive pixels can be stored in the bits released by the shifts. This so-called “bit packing” will be illustrated in the following example for the transmission of the color value “16” (decimal) or “0001 0000” (binary) with a threefold shift of the binary value. Shifting the binary value “0001 0000” three times to the right results in “0000 0010”, correspondingly a reconstruction by shifting left by 3 bits would again result in the binary value “0001 0000”. The unused (underlined) area of the binary value “0000 0010” after the three-fold shift to the right can now be used to indicate the number of subsequent color value repetitions. For the above example of repeating the same color value four times in succession, this results in “100 | 0 0010” with the format “Number of consecutive values | shifted value”. Alternatively, a reverse arrangement “00010 | 1100" with the format "shifted value | number of consecutive values" possible.

Da für die Verarbeitung der Daten in den Teilschritten 4-1 bis 4-6 keine komplexen Berechnungen ausgeführt werden müssen, können diese in Echtzeit ausgeführt werden. Sollte auf eine Echtzeitverarbeitung verzichtet werden können, so ermöglicht dieses, einen erhöhten Rechenaufwand im Fahrzeug aufzuwenden. In diesem Fall kann in dem optionalen Teilschritt 4-7 eine Anwendung zusätzlicher, komplexerer Kompressionsverfahren erfolgen, um eine nochmals erhöhte Kompressionsrate zu erzielen.Since no complex calculations need to be carried out to process the data in substeps 4-1 to 4-6, these can be carried out in real time. If real-time processing can be dispensed with, this will allow increased computing effort to be used in the vehicle. In this case, additional, more complex compression methods can be used in the optional sub-steps 4-7 in order to achieve an even higher compression rate.

Nach der oben beschriebenen Komprimierung der Videodaten erfolgt dann in Verfahrensschritt 5 eine Übertragung der komprimierten Differenzbilder an einen Server. Durch diesen können dann die Differenzbilder dekomprimiert und aus den dekomprimierten Daten die ursprünglichen Bilder rekonstruiert werden. Die so übertragenen Videobilder können dann nach der Rekonstruktion beispielsweise zum Trainieren von künstlichen neuronalen Netzwerken für eine Umfelderkennung beim automatisierten Fahren genutzt werden. Hierbei können bei der sogenannten „Corner Case Detection“ dynamische Objekte auch in ungewöhnliche Situationen in Trainingsdaten detektiert werden, die beispielsweise im Bereich des autonomen Fahrens von hoher Bedeutung sind. Ebenso können die so übertragenen Videobilder für Verfahren zur vorausschauenden Instandhaltung, sogenannte „Predictive Services“, genutzt werden.After the compression of the video data described above, the compressed difference images are then transmitted to a server in method step 5. This can then be used to decompress the difference images and reconstruct the original images from the decompressed data. After reconstruction, the video images transmitted in this way can then be used, for example, to train artificial neural networks for environment recognition in automated driving. With so-called “Corner Case Detection”, dynamic objects can also be detected in training data in unusual situations, which are of great importance in the area of autonomous driving, for example. The video images transmitted in this way can also be used for predictive maintenance procedures, so-called “predictive services”.

Für die serverseitige Nutzung der so übertragenen Videodaten kann es vorgesehen werden, dass bei dem Server eine Datenbank vorgesehen wird, in der die empfangenen Differenzbilder auch nach der Verarbeitung und Auswertung weiter vorgehalten werden.For the server-side use of the video data transmitted in this way, it can be provided that a database is provided on the server in which the received difference images are retained even after processing and evaluation.

Die Übertragung der Differenzbilder kann einerseits in der Form erfolgen, dass für sämtliche Bildpunkte Differenzwerte berechnet, komprimiert und übertragen werden. Dieses ist insbesondere dann von Vorteil, wenn für einen deutlichen Teil der erfassten Bilder Änderungen vorliegen.On the one hand, the transmission of the difference images can take place in such a way that difference values are calculated, compressed and transmitted for all pixels. This is particularly advantageous if there are changes for a significant portion of the captured images.

Ebenso kann aber auch vorgesehen werden, dass nicht für das gesamte, d.h. für sämtliche Bildpunkte eine Übertragung und Verarbeitung der Differenzwerte erfolgt, sondern nur für einen Teilbereich des erfassten Bildes. Dieses ist insbesondere dann von Vorteil, wenn nur kleine Bereiche des gesamten Bildes verändert sind. In diesem Fall wird dann eine Positionsangabe für den geänderten Bereich übermittelt, beispielsweise durch eine Angabe zur Position innerhalb des Bildes und der Größe des Bereiches. So können beispielsweise für einen rechteckigen Teilbereich des Bildes Differenzwerte ermittelt werden, wobei der Teilbereich dann durch eine Positionsangabe für den oberen linken Bildpunkt dieses Teilbereiches und die Anzahl weiterer Bildpunkte in dem Teilbereich in horizontaler und vertikaler Richtung spezifiziert werden kann.However, it can also be provided that the difference values are not transmitted and processed for the entire, i.e. for all pixels, but only for a partial area of the captured image. This is particularly advantageous if only small areas of the entire image are changed. In this case, position information for the changed area is then transmitted, for example by indicating the position within the image and the size of the area. For example, difference values can be determined for a rectangular sub-area of the image, whereby the sub-area can then be specified by a position information for the upper left pixel of this sub-area and the number of further pixels in the sub-area in the horizontal and vertical directions.

Die Übertragung eines solchen Teilbereichs für ein zum Zeitpunkt t0 durch das Fahrzeug erfasstes Bild wird exemplarisch in 3 dargestellt. Hierbei wird zunächst zum Zeitpunkt t-1 durch ein Fahrzeug das Bild B-1 erfasst. Für dieses Bild B-1 soll im vorliegenden Beispiel kein vorhergehendes Bild existieren, sodass für sämtliche Bildpunkte komprimierte Bilddaten in Form des Bildes Bild B-1' an einen zentralen Server übertragen werden. Nach der Übertragung werden dann von dem Server die empfangenen Bilddaten dekomprimiert und ein Bild B-1" rekonstruiert, welches dem ursprünglichen Bild B-1 entspricht.The transmission of such a partial area for an image captured by the vehicle at time t 0 is exemplified in 3 shown. Here, image B -1 is first captured by a vehicle at time t -1 . In the present example, no previous image should exist for this image B -1 , so that compressed image data for all pixels is transmitted to a central server in the form of the image B -1 '. After transmission, the server then decompresses the received image data and reconstructs an image B -1 ", which corresponds to the original image B -1 .

Zu einem darauffolgenden Zeitpunkt to wird dann durch das Fahrzeug das Bild Bo erfasst. Die einzige Änderung gegenüber dem Bild B-1 ist hierbei, dass in der im Bild enthaltenen linken Ampel nicht länger die oben angeordnete rote Signallampe, sondern nun die unten angeordnete grüne Signallampe leuchtet. Da der Rest des Bildinhaltes gegenüber dem vorherigen Zeitpunkt t-1 unverändert ist, reicht es in diesem Fall aus, lediglich Bilddaten Bo', welche die Signallampen der Ampel zeigen, zu übertragen. Bei der serverseitigen Rekonstruktion des Bildes müssen nun lediglich diese Bildpunkte in dem Bereich der Signallampen in dem vorherigen Bild B-1 durch die Bildpunkte entsprechend der Bilddaten B0' ersetzt werden, um das rekonstruierte Bild Bo" zum Zeitpunkt to zu erhalten.At a subsequent time to, the image Bo is then captured by the vehicle. The only change compared to picture B -1 is that in the left traffic light contained in the picture, the red signal lamp at the top is no longer lit, but the green signal lamp at the bottom is now lit. There the rest of the image content is unchanged compared to the previous time t -1 , in this case it is sufficient to only transmit image data Bo', which shows the signal lamps of the traffic lights. During the server-side reconstruction of the image, only these pixels in the area of the signal lamps in the previous image B -1 have to be replaced by the pixels corresponding to the image data B 0 ' in order to obtain the reconstructed image Bo" at time to.

Für die Komprimierung der ursprünglichen Bilddaten im Fahrzeug, aber ebenso auch für die serverseitige Rekonstruktion der komprimierten Bilddaten, kann es auch vorgesehen werden, anstatt einer Anwendung der binären Shiftoperationen auf Tabellen zurückzugreifen, in denen für die verschiedenen Farbwerte und Shiftoperationen vorab berechnete Werte hinterlegt sind. In einer weiteren Ausführungsform kann auch vorgesehen werden, dass entsprechende Tabellen durch das Fahrzeug generiert werden und an den Server übertragen werden.For the compression of the original image data in the vehicle, but also for the server-side reconstruction of the compressed image data, it can also be provided that, instead of using binary shift operations, tables are used in which pre-calculated values for the various color values and shift operations are stored. In a further embodiment it can also be provided that corresponding tables are generated by the vehicle and transmitted to the server.

Die Übertragung der komprimierten Bilddaten durch das Fahrzeug kann in Form eines Push-Models erfolgen, bei dem das Fahrzeug die Bilddaten fortwährend oder beispielsweise immer dann, wenn für einen neuen Streckenabschnitt Videodaten generiert werden, überträgt. Ebenso kann die Übertragung auch in Form eines Pull-Models erfolgen, bei dem die erfassten Bilddaten zunächst in einem Speicher des Fahrzeugs abgelegt werden und erst bei Anforderung durch den Server von dem Fahrzeug übermittelt werden.The transmission of the compressed image data by the vehicle can take place in the form of a push model, in which the vehicle transmits the image data continuously or, for example, whenever video data is generated for a new section of route. Likewise, the transmission can also take place in the form of a pull model, in which the captured image data is first stored in a memory of the vehicle and is only transmitted by the vehicle when requested by the server.

In 4 ist schematisch ein Fahrzeug F mit einer erfindungsgemäßen Vorrichtung und ein zentraler Server S dargestellt. Dieser Server kann als Backend-Server für eine Vielzahl von Fahrzeugen in der Cloud bereitgestellt sein und Teil einer hier nicht weiter beschriebenen IT-Infrastruktur sein. Bei dem Fahrzeug F kann es sich insbesondere um einen Personenkraftwagen oder Lastkraftwagen handeln.In 4 A vehicle F with a device according to the invention and a central server S are shown schematically. This server can be provided as a backend server for a large number of vehicles in the cloud and be part of an IT infrastructure not described further here. The vehicle F can in particular be a passenger car or truck.

Das Fahrzeug weist für die Durchführung des erfindungsgemäßen Verfahrens verschiedene Einheiten auf. So ist insbesondere eine Auswerte- und Steuereinheit AS vorgesehen, die beispielsweise als Steuergerät des Fahrzeugs F ausgestaltet sein kann und einen oder mehrere Mikrocontroller oder Mikroprozessoren aufweisen kann.The vehicle has various units for carrying out the method according to the invention. In particular, an evaluation and control unit AS is provided, which can be designed, for example, as a control device of the vehicle F and can have one or more microcontrollers or microprocessors.

Ferner sind im dargestellten Beispiel jeweils ein nach vorne gerichteter und ein nach hinten gerichteter Bildsensor BS vorgesehen, mit denen das Fahrzeugumfeld vor und hinter dem Fahrzeug erfasst werden kann. Ebenso kann das Fahrzeug aber auch mit nur einem Bildsensor ausgestattet sein oder zusätzlich auch das seitliche Fahrzeugumfeld erfassende Bildsensoren aufweisen. Hierbei kann es sich insbesondere um eine oder mehrere Fahrzeugkameras handelt, die das Fahrzeugumfeld im sichtbaren oder nahinfraroten Spektralbereich erfassen.Furthermore, in the example shown, a forward-facing and a rear-facing image sensor BS are provided, with which the vehicle environment in front of and behind the vehicle can be detected. Likewise, the vehicle can also be equipped with just one image sensor or can also have image sensors that record the side surroundings of the vehicle. This can in particular be one or more vehicle cameras that record the vehicle surroundings in the visible or near-infrared spectral range.

Die von den Bildsensoren erzeugten Videodaten werden über einen digitalen Datenbus DB im Fahrzeug der Komprimierungseinheit K zugeführt, welche die Videodaten wie oben beschrieben komprimiert. Für die Parametrisierung der Videodatenkompression werden hierbei von der Auswerte- und Steuereinheit AS Parameter, der sich auf das Fahrzeug, die Fahrsituation, das Umfeld des Fahrzeugs und/oder die Anbindung des Fahrzeugs an ein externes Kommunikationsnetz beziehen, ausgewertet. In Abhängigkeit von dem Ergebnis dieser Auswertung steuert die Auswerte- und Steuereinheit AS dann die Komprimierungseinheit K zur Komprimierung der aktuell vorliegenden Videodaten an. Der Parametrisierung kann fortlaufend oder auch in regelmäßigen Abständen aktualisiert werden, um so jederzeit schnell auf die aktuell vorliegenden Parameter reagieren zu können.The video data generated by the image sensors is fed via a digital data bus DB in the vehicle to the compression unit K, which compresses the video data as described above. For the parameterization of the video data compression, the evaluation and control unit AS evaluates parameters that relate to the vehicle, the driving situation, the environment of the vehicle and/or the connection of the vehicle to an external communication network. Depending on the result of this evaluation, the evaluation and control unit AS then controls the compression unit K to compress the currently available video data. The parameterization can be updated continuously or at regular intervals in order to be able to react quickly to the current parameters at any time.

Das Fahrzeug weist außerdem eine Kommunikationseinheit C auf, mit der die komprimierten Videodaten an den Server S übertragen werden können. Hierbei kann die Übertragung beispielsweise mittels eines Mobilfunkstandards, wie 4G oder 5G, oder basierend auf einem drahtlosen lokalen Netzwerk, wie WLAN, erfolgen. Ebenso können die komprimierten Videodaten mittels der Kommunikationseinheit C aber auch an Fremdfahrzeuge über Car2Car-Verbindungen übertragen werden.The vehicle also has a communication unit C with which the compressed video data can be transmitted to the server S. The transmission can take place, for example, using a mobile communications standard such as 4G or 5G, or based on a wireless local network such as WLAN. The compressed video data can also be transmitted to third-party vehicles via Car2Car connections using the communication unit C.

Zusätzlich kann das Fahrzeug weitere, nicht dargestellte Komponenten aufweisen. So kann beispielsweise ein Speicher zur Speicherung der Videodaten vorgesehen sein. Der Speicher kann hierbei sowohl volatile als auch nichtvolatile Speicherbereiche aufweisen und unterschiedlichste Speichergeräte und Speichermedien umfassen. Weiterhin können in dem Speicher Instruktionen zur Durchführung eines Programms, welches das erfindungsgemäße Verfahren realisiert, abgelegt sein. Ebenso kann eine Lokalisierung des Fahrzeugs mit einer Positionserfassungseinheit, die beispielsweise GPS-Signale auswertet, erfolgen, um so den erfassten Videodaten Positionsdaten zuordnen zu können. Ferner kann der Zeitpunkt der Erfassung der Videodaten mittels einer Zeiteinheit ermittelt werden, um die Videodaten mit korrespondierenden Zeitstempeln zu versehen. Diese Komponenten können als separate Einheiten vorliegen und dann über den digitalen Datenbus DB die jeweilige Information den oben genannten Einheiten im Fahrzeug zur Verfügung stellen, oder aber auch in der Auswerte- und Steuereinheit AS, der Komprimierungseinheit K oder einer anderen Einheit integriert sein.In addition, the vehicle can have further components, not shown. For example, a memory can be provided for storing the video data. The memory can have both volatile and non-volatile memory areas and include a wide variety of storage devices and storage media. Furthermore, instructions for executing a program that implements the method according to the invention can be stored in the memory. Likewise, the vehicle can be localized using a position detection unit that evaluates GPS signals, for example, in order to be able to assign position data to the captured video data. Furthermore, the time at which the video data is captured can be determined using a time unit in order to record the video data with corresponding time frames to provide pelts. These components can be present as separate units and then make the respective information available to the above-mentioned units in the vehicle via the digital data bus DB, or can also be integrated in the evaluation and control unit AS, the compression unit K or another unit.

Die Erfindung kann in beliebigen Fahrzeugen angewendet werden, bei denen eine bildbasierte Umfeldwahrnehmung erfolgt, ist aber nicht darauf beschränkt.The invention can be used in any vehicle in which an image-based environment perception takes place, but is not limited to this.

BezugszeichenlisteReference symbol list

1 - 41-4
grundlegende Verfahrensschrittebasic procedural steps
4-1 - 4-74-1 - 4-7
Verfahrensschritte zur Videodatenkompression und RekonstruktionProcess steps for video data compression and reconstruction
55
Verfahrensschritt zur Übertragung der komprimierten VideodatenProcess step for transmitting the compressed video data
B-1, B-1', B-1"B-1, B-1', B-1"
zum Zeitpunkt t-1 erfasste Bilddaten, darauf basierende übertragene und rekonstruierte BilddatenImage data captured at time t -1 , transmitted and reconstructed image data based on this
B0, B0', B0"B0, B0', B0"
zum Zeitpunkt t0 erfasste Bilddaten, übertragenes Differenzbild und rekonstruierte BilddatenImage data captured at time t 0 , transmitted difference image and reconstructed image data
FF
Fahrzeugvehicle
SS
Serverserver
BSB.S
BildsensorImage sensor
ASAS
Auswerte- und SteuereinheitEvaluation and control unit
CC
KommunikationseinheitCommunication unit
DBDB
DatenbusData bus
KK
KomprimierungseinheitCompression unit

ZITATE ENTHALTEN IN DER BESCHREIBUNGQUOTES INCLUDED IN THE DESCRIPTION

Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of documents listed by the applicant was generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.

Zitierte PatentliteraturCited patent literature

  • DE 102018215151 A1 [0006]DE 102018215151 A1 [0006]
  • DE 102012206406 A1 [0007]DE 102012206406 A1 [0007]

Claims (11)

Verfahren zur adaptiven Videodatenkompression in einem Fahrzeug, bei dem - Videodaten aufeinanderfolgender Bilder (B-1, B0) mit einer vordefinierten Farbraumgüte durch einen Bildsensor des Fahrzeugs (F) erfasst (1) werden; - mindestens ein Parameter, der sich auf das Fahrzeug, die Fahrsituation, das Umfeld des Fahrzeugs und/oder die Anbindung des Fahrzeugs an ein externes Kommunikationsnetz bezieht, ermittelt (2) wird; - in Abhängigkeit von dem mindestens einen ermittelten Parameter die Videodatenkompression parametrisiert (3) wird, wobei durch die Parametrisierung eine Reduktion der Farbraumgüte definiert wird; - die Videodaten mittels der parametrisierten Videodatenkompression komprimiert (4) werden, wobei für zwei aufeinanderfolgende Bilder (B-1, B0) die Farbraumgüte entsprechend der Parametrisierung reduziert (4-1) wird und über die zwei aufeinanderfolgenden Bilder mit reduzierter Farbraumgüte ein Differenzbild (B0') berechnet (4-2) wird.Method for adaptive video data compression in a vehicle, in which - video data of successive images (B -1 , B 0 ) with a predefined color space quality are captured (1) by an image sensor of the vehicle (F); - at least one parameter that relates to the vehicle, the driving situation, the environment of the vehicle and/or the connection of the vehicle to an external communication network is determined (2); - the video data compression is parameterized (3) depending on the at least one determined parameter, the parameterization defining a reduction in the color space quality; - the video data is compressed (4) using the parameterized video data compression, the color space quality being reduced (4-1) for two successive images (B -1 , B 0 ) in accordance with the parameterization and a difference image (4-1) being created over the two successive images with reduced color space quality ( B 0 ') is calculated (4-2). Verfahren nach Anspruch 1, wobei überprüft (4-3) wird, ob für das aktuelle Bild (B0) eine Änderung des Bildinhalts gegenüber dem vorherigen Bild (B-1) vorliegt, und wobei ein Differenzbild (B0') weiterverarbeitet und übermittelt wird, wenn eine Änderung vorliegt, und wobei kein Differenzbild übermittelt wird, wenn zwischen zwei aufeinanderfolgenden Bildern keine Änderung ermittelt worden ist oder es sich um das erste Bild einer Videosequenz handelt.Procedure according to Claim 1 , whereby it is checked (4-3) whether there is a change in the image content for the current image (B 0 ) compared to the previous image (B -1 ), and a difference image (B 0 ') is further processed and transmitted if one There is a change, and no difference image is transmitted if no change has been detected between two consecutive images or if it is the first image of a video sequence. Verfahren nach Anspruch 2, wobei zur Überprüfung einer Änderung des aktuellen Bildes (Bo) zunächst ein quantisiertes Bild berechnet wird und für die jeweiligen Helligkeits- und/oder Farbwerte der Bildpunkte des aktuellen quantisierten Bildes jeweils ein Differenzwert zu den entsprechenden Werten des vorhergehenden quantisierten Bildes berechnet wird.Procedure according to Claim 2 , whereby to check a change in the current image (Bo), a quantized image is first calculated and a difference value to the corresponding values of the previous quantized image is calculated for the respective brightness and/or color values of the pixels of the current quantized image. Verfahren nach Anspruch 3, wobei der Differenzwert mit einem zugehörigen Schwellenwert verglichen wird.Procedure according to Claim 3 , whereby the difference value is compared with an associated threshold value. Verfahren nach Anspruch 4, wobei die Stärke der Quantisierung der Bilder in Abhängigkeit von den aktuell ermittelten Parametern zum Fahrzeug, der Fahrsituation, dem Fahrzeugumfeld oder der Fahrzeuganbindung an das externe Kommunikationsnetz gewählt werden.Procedure according to Claim 4 , whereby the strength of the quantization of the images is selected depending on the currently determined parameters for the vehicle, the driving situation, the vehicle environment or the vehicle connection to the external communication network. Verfahren nach einem der vorhergehenden Ansprüche, wobei für sämtliche Bildpunkte Differenzwerte berechnet, komprimiert und übermittelt werden.Method according to one of the preceding claims, wherein difference values are calculated, compressed and transmitted for all pixels. Verfahren nach einem der Ansprüche 1 bis 5, wobei nur für einen Teilbereich des erfassten Bildes Differenzwerte berechnet, komprimiert und übermittelt werden und eine Positionsangabe für diesen Teilbereich übermittelt wird.Procedure according to one of the Claims 1 until 5 , whereby difference values are calculated, compressed and transmitted for only a partial area of the captured image and a position information is transmitted for this partial area. Verfahren nach einem der vorhergehenden Ansprüche, wobei die Helligkeits- und/oder Farbwerte der Bildpunkte in einer Binärdarstellung vorliegen und auf diese zur Reduktion der Farbraumgüte binäre Verschiebungen angewendet werden, und wobei die Parametrisierung der Videodatenkompression die Anzahl der binären Verschiebungen umfasst.Method according to one of the preceding claims, wherein the brightness and/or color values of the pixels are present in a binary representation and binary shifts are applied to them to reduce the color space quality, and wherein the parameterization of the video data compression includes the number of binary shifts. Verfahren nach einem der vorhergehenden Ansprüche, wobei nach der Berechnung des Differenzbilds (Bo') eine Lauflängenkodierung auf die Helligkeits- und/oder Farbwerte der Bildpunkte angewendet (4-5) wird und für die Lauflängenkodierung eine Information, wie häufig der gleiche Helligkeits- und/oder Farbwert bei aufeinanderfolgenden Bildpunkten auftritt, in den durch die Verschiebungen freiwerdenden Bits abgelegt wird, und wobei den komprimierten Videodaten eine Information über die Anzahl der jeweils angewandten binären Verschiebungen zugeordnet wird, die für eine Rekonstruktion der Videodaten zusammen mit den komprimierten Videodaten abgespeichert oder übertragen wird.Method according to one of the preceding claims, wherein after the calculation of the difference image (Bo '), a run length coding is applied to the brightness and / or color values of the pixels (4-5) and for the run length coding information is provided, how often the same brightness and / or color value occurs in successive pixels, is stored in the bits released by the shifts, and the compressed video data is assigned information about the number of binary shifts applied in each case, which is stored or transmitted together with the compressed video data for a reconstruction of the video data becomes. Verfahren nach einem der vorhergehenden Ansprüche, wobei nach der Berechnung des Differenzbilds (Bo') die Differenzwerte für die einzelnen Bildpunkte zunächst binär klassifiziert (4-4) werden und die binär klassifizierten Bildpunkte der Lauflängenkodierung zugeführt werden.Method according to one of the preceding claims, wherein after the calculation of the difference image (Bo'), the difference values for the individual pixels are first binary classified (4-4) and the binary classified pixels are fed to the run length coding. Vorrichtung zur adaptiven Videodatenkompression in einem Fahrzeug, mit - einem Bildsensor (S), der Videodaten aufeinanderfolgender Bilder (B-1, B0) mit einer vordefinierten Farbraumgüteerfasst; - einer Auswerte- und Steuereinheit (AS) zum Ermitteln von mindestens einem Parameter, der sich auf das Fahrzeug, die Fahrsituation, das Umfeld des Fahrzeugs und/oder die Anbindung des Fahrzeugs an ein externes Kommunikationsnetz bezieht, und zur Parametrisierung der Videodatenkompression in Abhängigkeit von dem mindestens einen ermittelten Parameter, wobei durch die Parametrisierung eine Reduktion der Farbraumgütedefiniert wird; - einer Komprimierungseinheit (K), in der die Videodaten mittels der parametrisierten Videodatenkompression komprimiert werden, wobei für zwei aufeinanderfolgende Bilder (B-1, B0) die Farbraumgüteentsprechend der Parametrisierung reduziert wird und über die zwei aufeinanderfolgenden Bilder mit reduzierter Farbraumgüte ein Differenzbild (Bo') berechnet wird; und - einer Kommunikationseinheit (C) zur Übertragung der komprimierten Videodaten.Device for adaptive video data compression in a vehicle, with - an image sensor (S) which captures video data of successive images (B -1 , B 0 ) with a predefined color space quality; - an evaluation and control unit (AS) for determining at least one parameter that relates to the vehicle, the driving situation, the environment of the vehicle and / or the connection of the vehicle to an external communication network, and for parameterization of the video data compression depending on the at least one determined parameter, a reduction in the color space quality being defined by the parameterization; - a compression unit (K), in which the video data is compressed using the parameterized video data compression, the color space quality being reduced in accordance with the parameterization for two consecutive images (B -1 , B 0 ) and a difference image (Bo ') is calculated; and - a communication unit (C) for transmitting the compressed video data.
DE102022203889.4A 2022-04-20 2022-04-20 Method for adaptive video data compression in a vehicle and corresponding device Pending DE102022203889A1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
DE102022203889.4A DE102022203889A1 (en) 2022-04-20 2022-04-20 Method for adaptive video data compression in a vehicle and corresponding device
CN202310395354.XA CN116916030A (en) 2022-04-20 2023-04-13 Method for adaptive video data compression in a vehicle and corresponding device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102022203889.4A DE102022203889A1 (en) 2022-04-20 2022-04-20 Method for adaptive video data compression in a vehicle and corresponding device

Publications (1)

Publication Number Publication Date
DE102022203889A1 true DE102022203889A1 (en) 2023-10-26

Family

ID=88238557

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102022203889.4A Pending DE102022203889A1 (en) 2022-04-20 2022-04-20 Method for adaptive video data compression in a vehicle and corresponding device

Country Status (2)

Country Link
CN (1) CN116916030A (en)
DE (1) DE102022203889A1 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2375909A (en) 2001-05-25 2002-11-27 Digital Image Res Ltd Vehicle security system which transmits image and location data
DE102012206406A1 (en) 2012-04-18 2013-10-24 Bayerische Motoren Werke Aktiengesellschaft Method for generating data stream for transmission of image data, implemented in motor vehicle, involves determining data frames in dependence of determined intra-coded image data and difference-coded image data
DE102018215151A1 (en) 2018-09-06 2020-03-12 Zf Friedrichshafen Ag Method and control unit for a radar sensor architecture
US20200177885A1 (en) 2018-11-30 2020-06-04 Toyota Motor North America, Inc. Dynamic data compression systems and methods for use with vehicle data
EP3937491A1 (en) 2020-07-07 2022-01-12 Ree Technology GmbH Optimizing video encoding and/or transmission for remote driving applications

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2375909A (en) 2001-05-25 2002-11-27 Digital Image Res Ltd Vehicle security system which transmits image and location data
DE102012206406A1 (en) 2012-04-18 2013-10-24 Bayerische Motoren Werke Aktiengesellschaft Method for generating data stream for transmission of image data, implemented in motor vehicle, involves determining data frames in dependence of determined intra-coded image data and difference-coded image data
DE102018215151A1 (en) 2018-09-06 2020-03-12 Zf Friedrichshafen Ag Method and control unit for a radar sensor architecture
US20200177885A1 (en) 2018-11-30 2020-06-04 Toyota Motor North America, Inc. Dynamic data compression systems and methods for use with vehicle data
EP3937491A1 (en) 2020-07-07 2022-01-12 Ree Technology GmbH Optimizing video encoding and/or transmission for remote driving applications

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
WIEGAND, Thomas [et al.]: Overview of the H.264/AVC video coding standard. In: IEEE transactions on circuits and systems for video technology, Vol. 13, 2003, No. 7, S. 560-576. – ISSN 1051-8215

Also Published As

Publication number Publication date
CN116916030A (en) 2023-10-20

Similar Documents

Publication Publication Date Title
DE69225941T2 (en) Image encoding and / or decoding
DE68926802T2 (en) Video telecommunications system and method for the compression and decompression of digital color video data
DE69124536T2 (en) Image coding device
DE69320292T2 (en) Image signal encoding device for reducing the amount of data in the transmitted image by transmitting certain image regions
DE69937785T2 (en) Method of selecting color block points for block coding
DE3005775A1 (en) IMAGE ENCODING AND / OR DECODING DEVICE
DE60222728T2 (en) Method and system with improved coding efficiency of a picture encoder-decoder
DE112012006541B4 (en) Video compression method
DE102016121755A1 (en) Method for determining a composite image of a surrounding area of a motor vehicle with adaptation of brightness and / or color, camera system and power vehicle
DE10128858A1 (en) Process for creating trapping frames in a printed page
DE3785179T2 (en) CODING AND TRANSMISSION METHOD OF A DIGITAL SIGNAL BY TIME SELECTIVE REFRESHING OF A VECTORIAL QUANTIFICATOR.
DE69737711T2 (en) Method and device for coding an object contour using its time correlation
DE68923648T2 (en) Compression and decompression of digital, statistically coded color video data.
EP1941744B1 (en) Methods and devices for the determination and reconstruction of a predicted image area
DE102022203889A1 (en) Method for adaptive video data compression in a vehicle and corresponding device
DE69124823T2 (en) Processing of image signals
EP0042981A1 (en) Method of coding electrical signals obtained by scanning a representation containing both text and illustrations
DE102022200171A1 (en) Method for adaptive image data compression in a vehicle, corresponding device, computer program and motor vehicle
DE69032674T2 (en) Area and text encoding
EP0985317A1 (en) Method for coding and decoding a digitalized image
DE102021111881A1 (en) RATE ADAPTIVE ENCODING-DECODING SCHEME FOR PRIORIZED SEGMENTED DATA
DE68926760T2 (en) Method and system for compressing encoded color video data
DE102018206952A1 (en) Method and device for compressing image data
LU102424B1 (en) Method for playing a video stream by a client
EP1206123A2 (en) Method for image data acquisition

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R016 Response to examination communication