DE102022203889A1 - Method for adaptive video data compression in a vehicle and corresponding device - Google Patents
Method for adaptive video data compression in a vehicle and corresponding device Download PDFInfo
- Publication number
- DE102022203889A1 DE102022203889A1 DE102022203889.4A DE102022203889A DE102022203889A1 DE 102022203889 A1 DE102022203889 A1 DE 102022203889A1 DE 102022203889 A DE102022203889 A DE 102022203889A DE 102022203889 A1 DE102022203889 A1 DE 102022203889A1
- Authority
- DE
- Germany
- Prior art keywords
- vehicle
- image
- video data
- color space
- difference
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 35
- 238000013144 data compression Methods 0.000 title claims abstract description 29
- 230000003044 adaptive effect Effects 0.000 title claims abstract description 9
- 238000004891 communication Methods 0.000 claims abstract description 18
- 238000007906 compression Methods 0.000 claims description 20
- 230000006835 compression Effects 0.000 claims description 19
- 238000011156 evaluation Methods 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 6
- 238000013139 quantization Methods 0.000 claims description 3
- 230000005540 biological transmission Effects 0.000 description 12
- 239000003086 colorant Substances 0.000 description 8
- 238000012545 processing Methods 0.000 description 7
- 238000010295 mobile communication Methods 0.000 description 6
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 230000008447 perception Effects 0.000 description 2
- BUHVIAUBTBOHAG-FOYDDCNASA-N (2r,3r,4s,5r)-2-[6-[[2-(3,5-dimethoxyphenyl)-2-(2-methylphenyl)ethyl]amino]purin-9-yl]-5-(hydroxymethyl)oxolane-3,4-diol Chemical compound COC1=CC(OC)=CC(C(CNC=2C=3N=CN(C=3N=CN=2)[C@H]2[C@@H]([C@H](O)[C@@H](CO)O2)O)C=2C(=CC=CC=2)C)=C1 BUHVIAUBTBOHAG-FOYDDCNASA-N 0.000 description 1
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012856 packing Methods 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07C—TIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
- G07C5/00—Registering or indicating the working of vehicles
- G07C5/008—Registering or indicating the working of vehicles communicating information to a remotely located station
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/04—Protocols for data compression, e.g. ROHC
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/182—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/507—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction using conditional replenishment
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07C—TIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
- G07C5/00—Registering or indicating the working of vehicles
- G07C5/08—Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
- G07C5/0841—Registering performance data
- G07C5/085—Registering performance data using electronic data carriers
- G07C5/0866—Registering performance data using electronic data carriers the electronic data carrier being a digital video recorder in combination with video camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/124—Quantisation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Data Mining & Analysis (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computer Security & Cryptography (AREA)
- Medical Informatics (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
Bei einem erfindungsgemäßen Verfahren zur adaptiven Videodatenkompression in einem Fahrzeug werden Videodaten aufeinanderfolgender Bilder (B-1, B0) mit einer vordefinierten Farbraumgütedurch einen Bildsensor des Fahrzeugs (F) erfasst (1). Es wird mindestens ein Parameter, der sich auf das Fahrzeug, die Fahrsituation, das Umfeld des Fahrzeugs und/oder die Anbindung des Fahrzeugs an ein externes Kommunikationsnetz bezieht, ermittelt (2). In Abhängigkeit von dem mindestens einen ermittelten Parameter wird die Videodatenkompression parametrisiert (3), wobei durch die Parametrisierung eine Reduktion der Farbraumgütedefiniert wird. Die Videodaten werden mittels der parametrisierten Videodatenkompression komprimiert (4), wobei für zwei aufeinanderfolgende Bilder die Farbraumgüteentsprechend der Parametrisierung reduziert (4-1) wird und über die zwei aufeinanderfolgenden Bilder mit reduzierter Farbraumgüte ein Differenzbild (Bo') berechnet (4-2) wird.In a method according to the invention for adaptive video data compression in a vehicle, video data of successive images (B-1, B0) with a predefined color space quality are captured (1) by an image sensor of the vehicle (F). At least one parameter that relates to the vehicle, the driving situation, the environment of the vehicle and/or the connection of the vehicle to an external communication network is determined (2). Depending on the at least one determined parameter, the video data compression is parameterized (3), with the parameterization defining a reduction in the color space quality. The video data is compressed using parameterized video data compression (4), whereby for two consecutive images the color space quality is reduced in accordance with the parameterization (4-1) and a difference image (Bo') is calculated (4-2) over the two successive images with reduced color space quality .
Description
Die vorliegende Erfindung betrifft ein Verfahren zur adaptiven Videodatenkompression in einem Fahrzeug, dass insbesondere bei einer Übertragung von mit einem Fahrzeugsensor aufgenommenen Videodaten eingesetzt werden kann. Die vorliegende Erfindung betrifft weiterhin eine entsprechende Vorrichtung.The present invention relates to a method for adaptive video data compression in a vehicle, which can be used in particular when transmitting video data recorded with a vehicle sensor. The present invention further relates to a corresponding device.
Mittlerweile werden in Kraftfahrzeugen eine Vielzahl von Sensoren eingesetzt. So werden beispielsweise häufig diverse Sensoren zur Überwachung des Fahrzeugumfelds verwendet, wobei die generierten Sensordaten Fahrerassistenzsystemen zur Verfügung gestellt werden, um für den Fahrer einen verbesserten Komfort und eine erhöhte Sicherheit bei dem Führen des Fahrzeugs im Straßenverkehr zu ermöglichen. So können in dem Fahrzeug beispielsweise ein oder mehrere Videokameras oder auch Sensoren auf Ultraschall-, Radar- oder Laserbasis, verbaut sein.A large number of sensors are now used in motor vehicles. For example, various sensors are often used to monitor the vehicle's surroundings, with the generated sensor data being made available to driver assistance systems in order to provide the driver with improved comfort and increased safety when driving the vehicle in traffic. For example, one or more video cameras or ultrasonic, radar or laser-based sensors can be installed in the vehicle.
Die erfassten Sensordaten können lokal im Fahrzeug verarbeitet und ausgewertet werden. Insbesondere bei komplexen Analysen von hochaufgelösten Sensordaten, wie insbesondere Bild- und Videodaten, kann es hierbei aber aufgrund der im Fahrzeug lokal vorhandenen begrenzten Rechenleistung von Vorteil sein, die erfassten Sensordaten über ein Kommunikationsnetz an eine zentrale Recheneinheit zu übermitteln, um dort die Analyse vorzunehmen. Ebenso ermöglicht dieses, bei der zentralen Recheneinheit Sensordaten von einer größeren Zahl von Fahrzeugen gemeinsam auszuwerten, beispielsweise um die übertragenen Daten zum Training von neuronalen Netzen in der Umfeldwahrnehmung für das automatisierte Fahren zu nutzen. Ferner ist es beispielsweise auch für das ferngesteuerte Lenken eines Fahrzeugs durch einen Operator, das sogenannte „Teleoperated Driving“ erforderlich, umfassende Sensordaten in Echtzeit von dem Fahrzeug an den Operator zu übertragen.The captured sensor data can be processed and evaluated locally in the vehicle. Particularly in the case of complex analyzes of high-resolution sensor data, such as image and video data, it can be advantageous due to the limited computing power available locally in the vehicle to transmit the recorded sensor data via a communication network to a central computing unit in order to carry out the analysis there. This also makes it possible for the central processing unit to evaluate sensor data from a larger number of vehicles together, for example in order to use the transmitted data to train neural networks in the perception of the environment for automated driving. Furthermore, for example, for remote-controlled steering of a vehicle by an operator, so-called “teleoperated driving”, it is necessary to transmit comprehensive sensor data from the vehicle to the operator in real time.
Dieses ist nur mit Mobilfunknetzen möglich, die einen hohen und stabilen Datendurchsatz, kurze Latenzzeiten und eine gleichmäßige Netzabdeckung bieten. In der Realität variieren jedoch die Parameter der Mobilfunkanbindung des jeweiligen Fahrzeugs, beispielsweise da die Fahrzeuge während der Fahrt durch Gebiete mit unterschiedlicher Mobilfunkabdeckung bewegt werden. So liegt in Städten häufig eine gute Netzabdeckung basierend auf aktuellen Mobilfunkstandards vor, so dass die genannten Anforderungen zur Datenübertragung erfüllt werden können. In Ortschaften und ländlichen Gebieten dagegen ist die Abdeckung basierend auf aktuellen Mobilfunkstandards häufig unvollständig, so das ggfs. auf ältere Mobilfunkstandards mit geringerer Datenrate zurückgegriffen werden muss oder kurzfristig überhaupt keine Datenübertragung per Mobilfunk möglich ist.This is only possible with mobile networks that offer high and stable data throughput, short latency times and consistent network coverage. In reality, however, the parameters of the mobile phone connection of the respective vehicle vary, for example because the vehicles are moved through areas with different mobile phone coverage while driving. Cities often have good network coverage based on current mobile communications standards, so that the data transmission requirements mentioned can be met. In towns and rural areas, however, coverage based on current mobile communications standards is often incomplete, meaning that older mobile communications standards with lower data rates may have to be used, or data transmission via mobile communications may not be possible at all in the short term.
Dieses ist insbesondere ein Problem bei der Übertragung hochaufgelöster Sensordaten, da diese eine hohe Datenrate mit sich bringen. Es gibt daher Ansätze, für solche Fälle die Datenmenge der Sensordaten zu reduzieren, beispielsweise, um eine Übertragung auch in mobilfunktechnisch schlecht ausgebauten Gebieten zu ermöglichen.This is particularly a problem when transmitting high-resolution sensor data, as this involves a high data rate. There are therefore approaches to reducing the amount of sensor data in such cases, for example to enable transmission even in areas with poor mobile communications technology.
Die
Die
Es ist eine Aufgabe der Erfindung, ein Verfahren zur adaptiven Videodatenkompression und eine entsprechende Vorrichtung zur Verfügung zu stellen.It is an object of the invention to provide a method for adaptive video data compression and a corresponding device.
Diese Aufgabe wird durch die unabhängigen Ansprüche gelöst. Bevorzugte Ausgestaltungen der Erfindung sind Gegenstand der abhängigen Ansprüche.This task is solved by the independent claims. Preferred embodiments of the invention are the subject of the dependent claims.
Bei einem erfindungsgemäßen Verfahren zur adaptiven Videodatenkompression in einem Fahrzeug werden Videodaten aufeinanderfolgender Bilder mit einer vordefinierten Farbraumgüte durch einen Bildsensor des Fahrzeugs erfasst. Es wird mindestens ein Parameter, der sich auf das Fahrzeug, die Fahrsituation, das Umfeld des Fahrzeugs und/oder die Anbindung des Fahrzeugs an ein externes Kommunikationsnetz bezieht, ermittelt. In Abhängigkeit von dem mindestens einen ermittelten Parameter wird die Videodatenkompression parametrisiert, wobei durch die Parametrisierung eine Reduktion der Farbraumgüte definiert wird. Die Videodaten werden mittels der parametrisierten Videodatenkompression komprimiert, wobei für zwei aufeinanderfolgende Bilder die Farbraumgüte entsprechend der Parametrisierung reduziert wird und über die zwei aufeinanderfolgenden Bilder mit reduzierter Farbraumgüte ein Differenzbild berechnet wird.In a method according to the invention for adaptive video data compression in a vehicle, video data from successive images with a predefined color space quality are captured by an image sensor of the vehicle. At least one parameter that relates to the vehicle, the driving situation, the environment of the vehicle and/or the connection of the vehicle to an external communication network is determined. Depending on the at least one determined parameter, the video data compression is parameterized, with the parameterization defining a reduction in the color space quality. The video data is compressed using parameterized video data compression, whereby the color space quality is reduced for two consecutive images in accordance with the parameterization and a difference image is calculated over the two consecutive images with reduced color space quality.
Unter der Farbraumgüte werden hierbei beliebige Farbraummerkmale verstanden, mit welchen die Helligkeits- und/oder Farbwerte der erfassten Bildpunkte spezifiziert werden können. Insbesondere kann durch die vordefinierte Farbraumgüte angegeben werden, wie viele Farb- oder Grautöne die in den Videodaten enthaltenen Bildpunkte annehmen können.Color space quality is understood to mean any color space features with which the brightness and/or color values of the captured pixels can be specified. In particular, the predefined color space quality can be used to specify how many colors or gray tones the pixels contained in the video data can have.
Mit der Erfindung kann so auf effiziente Weise eine bedarfsgerechte Videokomprimierung erfolgen, die keinen erheblichen Rechenaufwand erfordert und damit schnell ausführbar ist. Daher kann die erfindungsgemäße Videodatenkompression als Echtzeitanwendung im Fahrzeug, beispielsweise in einem Steuergerät des Fahrzeugs, implementiert werden. Ferner kann auf diese Weise die benötigte Bandbreite für die Übertragung der Videodaten deutlich reduziert werden. Außerdem werden durch die erfindungsgemäße Videokomprimierung dynamische Bereiche der jeweiligen Videobilder hervorgehoben. Diese Hervorhebung ermöglicht beispielsweise künstlichen neuronalen Netzwerken und Algorithmen für das autonome Fahren die hervorgehobenen Bereiche des Bildes gezielt zu analysieren.With the invention, demand-based video compression can be carried out efficiently, which does not require significant computing effort and can therefore be carried out quickly. Therefore, the video data compression according to the invention can be implemented as a real-time application in the vehicle, for example in a control unit of the vehicle. Furthermore, the bandwidth required for transmitting the video data can be significantly reduced in this way. In addition, the video compression according to the invention highlights dynamic areas of the respective video images. This highlighting enables, for example, artificial neural networks and algorithms for autonomous driving to specifically analyze the highlighted areas of the image.
Gemäß einer Ausführungsform der Erfindung wird überprüft, ob für das aktuelle Bild eine Änderung des Bildinhalts gegenüber dem vorherigen Bild vorliegt, wobei ein Differenzbild weiterverarbeitet und übermittelt wird, wenn eine Änderung vorliegt, und wobei kein Differenzbild übermittelt wird, wenn zwischen zwei aufeinanderfolgenden Bildern keine Änderung ermittelt worden ist oder es sich um das erste Bild einer Videosequenz handelt. Indem ein Differenzbild nur genau dann gesendet wird, wenn eine Änderung vorhanden ist, sei es zu einem vorhergehenden Bild oder weil kein vorhergehendes Bild vorhanden ist, wird die Datenmenge der übertragenen Videodaten so weiter verringert.According to one embodiment of the invention, it is checked whether there is a change in the image content for the current image compared to the previous image, with a difference image being further processed and transmitted if there is a change, and no difference image being transmitted if there is no change between two successive images has been determined or it is the first image of a video sequence. By only sending a difference image when there is a change, be it to a previous image or because there is no previous image, the amount of data transmitted is further reduced.
Vorteilhafterweise wird zur Überprüfung einer Änderung des aktuellen Bildes zunächst ein quantisiertes Bild berechnet und für die jeweiligen Helligkeits- und/oder Farbwerte der Bildpunkte des aktuellen Bildes jeweils ein Differenzwert zu den entsprechenden Werten des vorhergehenden quantisierten Bildes berechnet.To check a change in the current image, a quantized image is advantageously first calculated and a difference value to the corresponding values of the previous quantized image is calculated for the respective brightness and/or color values of the pixels of the current image.
Insbesondere kann hierbei der Differenzwert mit einem zugehörigen Schwellenwert verglichen werden.In particular, the difference value can be compared with an associated threshold value.
Ebenso kann die Stärke der Quantisierung der Bilder vorteilhafterweise in Abhängigkeit von den aktuell ermittelten Parametern zum Fahrzeug, der Fahrsituation, dem Fahrzeugumfeld oder der Fahrzeuganbindung an das externe Kommunikationsnetz gewählt werden.Likewise, the strength of the quantization of the images can advantageously be selected depending on the currently determined parameters for the vehicle, the driving situation, the vehicle environment or the vehicle connection to the external communication network.
Gemäß einer Ausführungsform werden für sämtliche Bildpunkte Differenzwerte berechnet, komprimiert und übermittelt.According to one embodiment, difference values are calculated, compressed and transmitted for all pixels.
Gemäß einer weiteren Ausführungsform werden nur für einen Teilbereich des erfassten Bildes Differenzwerte berechnet, komprimiert und übermittelt, wobei eine Positionsangabe für diesen Teilbereich übermittelt wird.According to a further embodiment, difference values are calculated, compressed and transmitted for only a partial area of the captured image, with position information being transmitted for this partial area.
Vorteilhafterweise liegen die Helligkeits- und/oder Farbwerte der Bildpunkte in einer Binärdarstellung vor, wobei auf diese zur Reduktion der Farbraumgüte binäre Verschiebungen angewendet werden, und wobei die Parametrisierung der Videodatenkompression die Anzahl der binären Verschiebungen umfasst.Advantageously, the brightness and/or color values of the pixels are present in a binary representation, with binary shifts being applied to them to reduce the color space quality, and with the parameterization of the video data compression comprising the number of binary shifts.
Ebenso wird vorteilhafterweise nach der Berechnung des Differenzbilds eine Lauflängenkodierung auf die Helligkeits- und/oder Farbwerte der Bildpunkte angewendet, wobei für die Lauflängenkodierung eine Information, wie häufig der gleiche Helligkeits- und/oder Farbwert bei aufeinanderfolgenden Bildpunkten auftritt, in den durch die Verschiebungen freiwerdenden Bits abgelegt wird, und wobei den komprimierten Videodaten eine Information über die Anzahl der jeweils angewandten binären Verschiebungen zugeordnet wird, die für eine Rekonstruktion der Videodaten zusammen mit den komprimierten Videodaten abgespeichert oder übertragen wird.Likewise, after the difference image has been calculated, a run length coding is advantageously applied to the brightness and/or color values of the pixels, with the run length coding providing information about how often the same brightness and/or color value occurs in successive pixels in the values released by the shifts Bits are stored, and the compressed video data is assigned information about the number of binary shifts applied in each case, which is stored or transmitted together with the compressed video data for a reconstruction of the video data.
Auch können vorteilhafterweise nach der Berechnung des Differenzbilds die Differenzwerte für die einzelnen Bildpunkte zunächst binär klassifiziert werden und die binär klassifizierten Bildpunkte der Lauflängenkodierung zugeführt werden.Advantageously, after the difference image has been calculated, the difference values for the individual pixels can first be binary classified and the binary classified pixels can be fed to the run length coding.
Die erfindungsgemäße Vorrichtung zur adaptiven Videodatenkompression in einem Fahrzeug umfasst
- - einen Bildsensor, der Videodaten aufeinanderfolgender Bilder mit einer vordefinierten Farbraumgüte erfasst;
- - eine Auswerte- und Steuereinheit zum Ermitteln von mindestens einem Parameter, der sich auf das Fahrzeug, die Fahrsituation, das Umfeld des Fahrzeugs und/oder die Anbindung des Fahrzeugs an ein externes Kommunikationsnetz bezieht, und zur Parametrisierung der Videodatenkompression in Abhängigkeit von dem mindestens einen ermittelten Parameter, wobei durch die Parametrisierung eine Reduktion der Farbraumgüte definiert wird;
- - eine Komprimierungseinheit, in der die Videodaten mittels der parametrisierten Videodatenkompression komprimiert werden, wobei für zwei aufeinanderfolgende Bilder die Farbraumgüte entsprechend der Parametrisierung reduziert wird und über die zwei aufeinanderfolgenden Bilder mit reduzierter Farbraumgüte ein Differenzbild berechnet wird; und
- - eine Kommunikationseinheit zur Übertragung der komprimierten Videodaten.
- - an image sensor that captures video data from successive images with a predefined color space quality;
- - an evaluation and control unit for determining at least one parameter that relates to the vehicle, the driving situation, the environment of the vehicle and / or the connection of the vehicle to an external communication network, and for parameterizing the video data compression depending on the at least one determined parameters, whereby the parameterization defines a reduction in the color space quality;
- - a compression unit in which the video data is compressed using the parameterized video data compression, the color space quality being reduced for two consecutive images in accordance with the parameterization and a difference image being calculated over the two successive images with reduced color space quality; and
- - a communication unit for transmitting the compressed video data.
Ein erfindungsgemäßes Computerprogramm umfasst Instruktionen, die eine Vorrichtung zur Ausführung der Schritte des erfindungsgemäßen Verfahrens veranlassen.A computer program according to the invention comprises instructions that cause a device to carry out the steps of the method according to the invention.
Schließlich umfasst die Erfindung auch ein Kraftfahrzeug, das eingerichtet ist, ein erfindungsgemäßes Verfahren auszuführen oder eine erfindungsgemäße Vorrichtung aufweist.Finally, the invention also includes a motor vehicle that is set up to carry out a method according to the invention or has a device according to the invention.
Weitere Merkmale der vorliegenden Erfindung werden aus der nachfolgenden Beschreibung und den Ansprüchen in Verbindung mit den Figuren ersichtlich.
-
1 zeigt ein Ablaufdiagramm, das die grundlegenden Schritte des erfindungsgemäßen Verfahrens zur adaptiven Videodatenkompression in einem Fahrzeug wiedergibt; -
2 zeigt mehrere Teilschritte zur erfindungsgemäßen Kompression der Videodaten; -
3 zeigt schematisch ein Beispiel für zwei zu aufeinanderfolgenden Zeitpunkten erfasste Videobilder, wobei von dem späteren Bild nur ein Teilbereich mit Bildänderungen übertragen und zur Rekonstruktion des erfassten Bildes verwendet wird; und -
4 zeigt schematisch ein Fahrzeug mit einer erfindungsgemäßen Vorrichtung und einen zentralen Server, an den komprimierte Videodaten übertragen werden.
-
1 shows a flowchart that shows the basic steps of the method according to the invention for adaptive video data compression in a vehicle; -
2 shows several sub-steps for compressing the video data according to the invention; -
3 shows schematically an example of two video images captured at successive times, with only a partial area of the later image being transmitted with image changes and used to reconstruct the captured image; and -
4 shows schematically a vehicle with a device according to the invention and a central server to which compressed video data is transmitted.
Zum besseren Verständnis der Prinzipien der vorliegenden Erfindung werden nachfolgend Ausführungsformen der Erfindung anhand der Figuren detaillierter erläutert. Es versteht sich, dass sich die Erfindung nicht auf diese Ausführungsformen beschränkt und dass die beschriebenen Merkmale auch kombiniert oder modifiziert werden können, ohne den Schutzbereich der Erfindung, wie er in den Ansprüchen definiert ist, zu verlassen.For a better understanding of the principles of the present invention, embodiments of the invention are explained in more detail below with reference to the figures. It is understood that the invention is not limited to these embodiments and that the described features can also be combined or modified without departing from the scope of the invention as defined in the claims.
Die Helligkeits- und/oder Farbwerte der erfassten Bilddaten können hierbei durch verschiedene charakteristische Farbraummerkmale spezifiziert werden. So können diese in Abhängigkeit von einem Farbraum über die Farben, beispielsweise RGB oder CMYK, angegeben werden. Ebenso kann eine Spezifizierung über Leuchtdichte plus Farbigkeit, beispielsweise mit dem YCbCr-Modell, welches die Farbinformation in die Grundhelligkeit Y und die zwei Farbkomponenten Cb (Blue-Yellow Chrominance) und Cr (Red-Green Chrominance) aufteilt, erfolgen. Auch eine Beschreibung im HSL-Farbmodell, dass auf den Merkmalen Farbton (hue), Sättigung (saturation) und Helligkeit (lightness) beruht, erfolgen. Im Folgenden wird die Erfindung am Beispiel eines RGB-Farbraums erläutert, bei dem die Farben der einzelnen Bildpunkte durch das additive Mischen dreier Grundfarben Rot, Grün und Blau angegeben werden und die Farbraumgüte der Farbtiefe entspricht.The brightness and/or color values of the captured image data can be specified by various characteristic color space features. So these can depend on a color space can be specified via the colors, for example RGB or CMYK. Likewise, a specification can be made using luminance plus color, for example with the YCbCr model, which divides the color information into the basic brightness Y and the two color components Cb (Blue-Yellow Chrominance) and Cr (Red-Green Chrominance). There is also a description in the HSL color model, which is based on the characteristics of hue, saturation and lightness. The invention is explained below using the example of an RGB color space, in which the colors of the individual pixels are specified by the additive mixing of three primary colors red, green and blue and the color space quality corresponds to the color depth.
Aufgrund der Vielzahl der Bildpunkte in einem Bild und den üblichen Bildwiederholraten ergeben sich insbesondere bei einer hohen Farbtiefe große Datenmengen. Beispielsweise ergibt sich bei einem RGB-Videosignal mit einer Farbtiefe von 24 Bit im Full-HD-Format (1920 x 1080 Pixel) und einer Bildwiederholrate 30 Hz, pro Sekunde eine Datenmenge von 3 x 8 x 1920 x 1080 x 30 = 1492992000 Bit und damit eine Datenrate von ca. 178 MB/s.Due to the large number of pixels in an image and the usual refresh rates, large amounts of data arise, especially with a high color depth. For example, an RGB video signal with a color depth of 24 bits in full HD format (1920 x 1080 pixels) and a refresh rate of 30 Hz results in a data volume of 3 x 8 x 1920 x 1080 x 30 = 1492992000 bits per second thus a data rate of approx. 178 MB/s.
Die Farbtiefe gibt hierbei an, wie viele Farb- oder Grautöne die in den Bilddaten enthaltenen Bildpunkte annehmen können. So kann die Farbtiefe beispielsweise 24 Bit betragen, die beispielsweise bei Anwendung eines RGB-Farbraums gleichmäßig mit jeweils 8 Bit auf die Rot-, Grün- und Blauanteile verteilt werden. Ein Bitwert 0 bedeutet hierbei, dass der Farbanteil fehlt, ein Bitwert von 255, dass der Farbanteil in maximaler Intensität vorliegt. Durch die Mischung der drei Farbanteile lassen sich so insgesamt 256x256x256 = 16,77 Millionen Farben darstellen. Auf gleiche Weise lassen sich mit 8 Bit 256 verschiedene Grautöne angeben, die ausreichen, um einen stufenlos wahrgenommenen Verlauf von Schwarz nach Weiß darzustellen.The color depth indicates how many colors or gray tones the pixels contained in the image data can have. For example, the color depth can be 24 bits, which, for example, are distributed evenly with 8 bits each across the red, green and blue components when using an RGB color space. A bit value of 0 means that the color component is missing, a bit value of 255 means that the color component is present at maximum intensity. By mixing the three color components, a total of 256x256x256 = 16.77 million colors can be displayed. In the same way, 256 different gray tones can be specified with 8 bits, which are sufficient to display a seamless gradient from black to white.
In einem Verfahrensschritt 2 wird mindestens ein Parameter, der sich auf das Fahrzeug, die Fahrsituation, das Umfeld des Fahrzeugs und/oder die Anbindung des Fahrzeugs an ein externes Kommunikationsnetz bezieht, ermittelt. So kann beispielsweise die aktuelle Geschwindigkeit des Fahrzeugs bei Erfassung der Videodaten von einem Steuergerät des Fahrzeugs ausgelesen werden. Ebenso kann mit weiteren Fahrzeugsensoren das Fahrzeugumfeld erfasst werden oder eine Information über das Fahrzeugumfeld aus Kartendaten in Zusammenhang mit der mit einem Navigationssystem ermittelten aktuellen Position des Fahrzeugs ermittelt werden. Ebenso kann von einer im Fahrzeug befindlichen Mobilfunkeinheit die aktuell verfügbare Bandbreite für eine Datenübertragung abgefragt werden. Die so ermittelten Parameter ermöglichen eine situative Anpassung der nachfolgenden Kompression, beispielsweise, indem bei guten Empfangsbedingungen der Mobilfunkeinheit, und damit einer großen zur Verfügung stehenden Bandbreite der Anbindung des Fahrzeugs an das externe Kommunikationsnetz, eine geringere Kompression gewählt wird als bei schlechten Empfangsbedingungen. Insbesondere kann durch die Ermittlung der verfügbaren Bandbreite die Videodatenkompression so angepasst werden, dass über das externe Kommunikationsnetz eine unterbrechungsfreie Übertragung der komprimierten Videodaten erfolgen kann.In a
In einem Verfahrensschritt 3 erfolgt dann eine Parametrisierung der nachfolgenden Kompression der Videodaten, wobei in Abhängigkeit von dem mindestens einen ermittelten Parameter durch die Parametrisierung eine Reduktion der Farbtiefe definiert wird. Hierbei macht sich die Erfindung zu Nutze, dass für Bildverarbeitungen und Bildanalysen die Farb- bzw. Grauverläufe eines Bildes nicht hochauflösend vorliegen müssen. Vielmehr werden durch eine Reduktion der Farbtiefe Kanten von Objekten innerhalb des Bildes geschärft, was vorteilhaft für solche Nachverarbeitungen ist.In a
In einem Verfahrensschritt 4 werden dann die Videodaten mittels der parametrisierten Videodatenkompression komprimiert, bevor die komprimierten Daten dann für weitere Bildverarbeitungen und Bildanalysen an einen zentralen Server übertragen werden. Der für die erfindungsgemäße Videodatenkompression verwendete Algorithmus wird im Folgenden beschrieben.In a
Wie in
In einem ersten Teilschritt 4-1 erfolgt hierbei zunächst eine Quantisierung des von dem Bildsensor erfassten Originalbilds. Hierbei werden auf die in Binärdarstellung vorliegenden Farbwerte der Bildpunkte binäre Verschiebungen bzw. Shiftoperationen angewendet, wobei die vorher erfolgte Parametrisierung der Videodatenkompression die Anzahl der binären Verschiebungen umfasst. Eine Information über die Anzahl der jeweils angewandten binären Verschiebungen wird hierbei den komprimierten Bilddaten zugeordnet und für eine später erfolgende Rekonstruktion der Bilddaten zusammen mit den komprimierten Bilddaten abgespeichert oder übertragen.In a first sub-step 4-1, the original image captured by the image sensor is first quantized. Here, binary shifts or shift operations are applied to the color values of the pixels in binary representation, whereby the previously carried out parameterization of the video data compression includes the number of binary shifts. Information about the number of binary shifts applied is assigned to the compressed image data and stored or transmitted together with the compressed image data for a later reconstruction of the image data.
Für die Farbanteile der Bildpunkte wird eine binäre Shiftoperation angewendet, sodass die maximal zur Verfügung stehenden Bitwerte und damit Farbwerte reduziert werden, ähnliche Farben werden dadurch einheitlich dargestellt. Dieses kann bei einer deutlichen Reduzierung der Farbtiefe beispielsweise zum Ergebnis haben, dass eine durch einen Bildsensor erfasste Straße einheitlich grau dargestellt wird oder der durch den Bildsensor erfasste Himmel einheitlich blau. Farbverläufe werden gröber oder werden ggfs. gar nicht mehr dargestellt, stattdessen wird ein Bild mit ausgeprägten Farbkontrasten erzeugt.A binary shift operation is used for the color components of the pixels, so that the maximum available bit values and thus color values are reduced, so that similar colors are displayed uniformly. If the color depth is significantly reduced, this can result, for example, in a street captured by an image sensor being displayed uniformly gray or the sky captured by the image sensor being uniformly blue. Color gradients become coarser or may no longer be displayed at all; instead, an image with pronounced color contrasts is created.
Hierbei kann insbesondere vorgesehen werden, dass für jeden Farbanteil und für jeden Bildpunkt die gleiche binäre Shiftoperation angewendet wird, beispielsweise, dass der Farbwert für den Rot-, Grün- und Blauanteil für jeden Bildpunkt um ein Bit oder mehrere Bits nach rechts verschoben wird. Es ist aber auch möglich, für die verschiedenen Farbanteile unterschiedlich starke Verschiebungen zu wählen, beispielsweise in Abhängigkeit davon, in welchem Umfang die verschiedenen Farbanteile im Bildsignal vorliegen. Ferner ist es auch möglich, für unterschiedliche Bildbereiche eine unterschiedlich starke Verschiebung zu wählen, beispielsweise am Bildrand eine größere Verschiebung als in der Bildmitte.In particular, it can be provided that the same binary shift operation is applied for each color component and for each pixel, for example that the color value for the red, green and blue components is shifted to the right by one bit or several bits for each pixel. However, it is also possible to select shifts of different magnitudes for the different color components, for example depending on the extent to which the different color components are present in the image signal. Furthermore, it is also possible to select a shift of different magnitudes for different image areas, for example a larger shift at the edge of the image than in the center of the image.
In den folgenden beiden Tabellen wird ein Beispiel für eine Kompression durch binäre Shiftoperationen sowie eine im Anschluss erfolgende optionale Rundung für fünf Farbwerte 30 bis 34 (dezimal) verdeutlicht. Aus Gründen der Übersichtlichkeit werden hierbei nur die fünf Bits mit den niedrigsten Stellenwerten („least significant bits“) wiedergegeben, bei einer Farbraumdarstellung mit 8 Bit pro Farbwert werden damit die führenden drei Bitwerte in der Tabelle nicht gezeigt. Aus den Originalwerten für die Farbwerte 30 bis 34 ergeben sich hierbei nach einer Verschiebung um 1, 2 oder 3 Bitstellen folgende Werte:
Wie ersichtlich, ergibt sich bei ursprünglich fünf unterschiedlichen Farbwerten 30 bis 34 (dezimal) bereits nach einer Verschiebung um 1 Bit eine Reduktion auf drei unterschiedliche Farbwerte und nach einer Verschiebung um 2 oder 3 Bit eine Reduktion auf nur noch zwei unterschiedliche Farbwerte.As can be seen, with originally five different color values 30 to 34 (decimal), after a shift of 1 bit there is a reduction to three different color values and after a shift of 2 or 3 bits there is a reduction to only two different color values.
Optional kann bei der Kompression mittels der binären Shiftoperationen auch eine Rundung erfolgen, bei welcher der verschobene Wert auf die nächsthöhere Quantisierungsstufe gerundet wird. Die Rundungsinformation wird hierbei den durch die Shiftoperationen weggelassenen Bits entnommen. Dieses wird in der folgenden Tabelle für das obige Beispiel der fünf Farbwerte 30 bis 34 verdeutlicht, wobei wieder nur fünf Binärwerte wiedergegeben werden. Aus den Originalwerten für die Farbwerte 30 bis 34 ergeben sich hierbei nach einer Verschiebung um 1, 2 oder 3 Bitstellen folgende Werte:
Auch hier ergibt sich bei den Farbwerten 30 bis 34 nach einer Verschiebung um 1 Bit mit zusätzlicher Rundung eine Reduktion auf drei Farbwerte, nach einer Verschiebung um 2 Bit mit zusätzlicher Rundung eine Reduktion auf zwei unterschiedliche Farbwerte und nach einer Verschiebung um 3 Bit mit zusätzlicher Rundung eine Reduktion auf nur noch einen Farbwert.Here too, for color values 30 to 34, after a shift of 1 bit with additional rounding there is a reduction to three color values, after a shift of 2 bits with additional rounding there is a reduction to two different color values and after a shift of 3 bits with additional rounding a reduction to just one color value.
Im darauffolgenden Teilschritt 4-2 erfolgt danach ein Vergleich des aktuellen quantisierten Bilds mit einem vorherigen quantisierten Bild und gegebenenfalls eine Berechnung eines vollständigen oder teilweisen Differenzbildes. Für den Vergleich kann insbesondere das unmittelbar vorhergehende Bild herangezogen werden, also beispielsweise bei einer Bildwiederholrate von 30 Hz das Bild, welches 33 ms früher erfasst worden ist. Es ist aber auch denkbar auf ein früheres Bild zurückzugreifen.In the subsequent sub-step 4-2, the current quantized image is compared with a previous quantized image and, if necessary, a complete or partial difference image is calculated. In particular, the immediately preceding image can be used for the comparison, for example with a refresh rate of 30 Hz the image that was captured 33 ms earlier. But it is also conceivable to go back to an earlier image.
Hierfür wird für jeden Bildpunkt des aktuellen Bilds zum Zeitpunkt to für die Farbwerte oder den Grauwert die Differenz zu den Farbwerten oder den Grauwert der Bildpunkte des vorherigen Bildes zum Zeitpunkt t-1 berechnet. Auf diese Weise erhält man ein Differenzbild, bei dem unveränderte Stellen des Bild den Wert „0“ für jeden der Farbwerte bzw. den Grauwert erhalten. Dieses kann beispielsweise für eine durch die Reduzierung der Farbtiefe einheitlich grau erscheinende Straßenfläche in Front des Fahrzeugs der Fall sein, solange in diesem Bereich keine merklichen Veränderungen, beispielsweise durch in dem erfassten Bildbereich auftauchende Gegenstände auf der Fahrbahn oder andere Verkehrsteilnehmer, erfolgen. Liegen dagegen in einem Bereich merkliche Veränderungen vor, so weisen dort die Bildpunkte die Werte auf, die sich bei der Differenzberechnung ergeben.For this purpose, the difference to the color values or the gray value of the pixels of the previous image at time t -1 is calculated for each pixel of the current image at time to for the color values or the gray value. In this way, a difference image is obtained in which unchanged parts of the image receive the value “0” for each of the color values or the gray value. This can be the case, for example, for a road surface in the front of the vehicle that appears uniformly gray due to the reduction in color depth, as long as there are no noticeable changes in this area, for example due to objects on the road or other road users appearing in the captured image area. If, on the other hand, there are noticeable changes in an area, the pixels there have the values that result from the difference calculation.
Der Vergleich bzw. die Berechnung des Referenzbildes erfolgt hierbei vorzugsweise basierend auf Schwellenwerten. Eine Änderung des Bildes bzw. Bildbereiches liegt dann vor, wenn für eine der Farbwerte oder den Grauwert nach der Differenzberechnung für einen Bildpunkt eine Überschreitung des Schwellenwertes erfasst wird. Die Schwellenwerte können bereits vorab definiert worden sein, beispielsweise in Abhängigkeit von der nachfolgenden Verarbeitung der Videodaten. Ebenso können die Schwellenwerte aber auch in Abhängigkeit von den in Verfahrensschritt 2 aktuell ermittelten Parametern zum Fahrzeug, der Fahrsituation, dem Fahrzeugumfeld oder der Fahrzeuganbindung an das externe Kommunikationsnetz, gewählt werden.The comparison or calculation of the reference image is preferably carried out based on threshold values. A change in the image or image area occurs when the threshold value is exceeded for one of the color values or the gray value after the difference calculation for an image point. The threshold values may have already been defined in advance, for example depending on the subsequent processing of the video data. Likewise, the threshold values can also be selected depending on the vehicle parameters currently determined in
Im darauffolgenden Teilschritt 4-3 wird dann überprüft, ob für das aktuelle Bild eine Änderung des Bildinhalts gegenüber dem vorherigen Bild vorliegt. Wenn dies nicht der Fall ist, wird kein Differenzbild übermittelt und das Verfahren für das nächste Bild der Videosequenz in Teilschritt 4-1 fortgesetzt. Dieses kann der Fall sein, wenn zwischen zwei aufeinanderfolgenden Bildern keinerlei Änderung ermittelt worden ist oder es sich um das erste Bild der Videosequenz handelt, sodass keine Änderung zu einem vorhergehenden Bild vorliegen kann.In the following sub-step 4-3 it is then checked whether there is a change in the image content of the current image compared to the previous image. If this is not the case, no difference image is transmitted and the process continues in step 4-1 for the next image of the video sequence. This can be the case if no change has been detected between two consecutive images or if it is the first image of the video sequence, so there can be no change to a previous image.
Liegen dagegen Änderungen zwischen den beiden Bildern der Videosequenz vor, so wird das Komprimierungsverfahren in den Teilschritten 4-4 bis 4-7 fortgesetzt. Hierbei kommen zwei verschiedene Ausführungsform in Betracht. So können Differenzbilder einerseits zwar mit reduzierter Farbtiefe, aber dennoch mit unterschiedlichen farbenbezogenen Grautönen weiterverarbeitet und schließlich übertragen werden. Ebenso ist es aber auch möglich, für die Differenzbilder völlig auf unterschiedliche Farben bzw. Grautöne zu verzichten. In dem zweitgenannten Fall erfolgt zunächst in Teilschritt 4-4 eine Konvertierung des Differenzbildes in ein binäres Schwarzweiß-Bild, im erstgenannten Fall dagegen wird dieser Teilschritt 4-4 übersprungen.However, if there are changes between the two images of the video sequence, the compression process is continued in steps 4-4 to 4-7. Two different embodiments come into consideration here. On the one hand, difference images can be further processed and ultimately transmitted with reduced color depth, but still with different color-related gray tones. However, it is also possible to completely dispense with different colors or shades of gray for the difference images. In the second-mentioned case, the difference image is first converted into a binary black-and-white image in sub-step 4-4; in the first-mentioned case, however, this sub-step 4-4 is skipped.
Im darauffolgenden Teilschritt 4-5 wird dann für die Differenzbilder eine Lauflängenkodierung auf die Differenzwerte, bzw. bei Übertragung eines nicht differenz-kodierten Bildes auf die Farb-, Grau- bzw. Schwarzweiß-Werte der Bildpunkte, angewendet. So wird beispielsweise bei einer vierfach aufeinanderfolgenden Wiederholung des gleichen Differenz- bzw. Farbwertes dieser Wert nicht vierfach übertragen, sondern eine Information, dass in den Bilddaten vierfach ein bestimmter Differenz- bzw. Farbwert folgt. Hierbei führt zum einen die sich aus der Anwendung der binären Shiftoperationen ergebende Reduktion der auftretenden Farbwerte dazu, dass sich die Anzahl der gleichen Differenz- bzw. Farbwerte im Vergleich zum Originalbild vergrößert und damit die Wirksamkeit der anschließend angewandten Lauflängenkodierung erhöht wird. Zum anderen ergibt sich für Bereiche aufeinanderfolgender Bilder, in denen keine Veränderung vorliegen, selbst ohne die Reduktion der auftretenden Farbwerte, eine Vielzahl gleicher Differenzwerte.In the following substep 4-5, a run length coding is then applied to the difference values for the difference images, or to the color, gray or black and white values of the image points when a non-difference-coded image is transmitted. For example, if the same difference or color value is repeated four times in succession, this value is not transmitted four times, but rather information that a specific difference or color value follows four times in the image data. On the one hand, the reduction in the color values resulting from the use of the binary shift operations leads to the number of the same difference or color values increasing compared to the original image and thus increasing the effectiveness of the subsequently applied run length coding becomes. On the other hand, for areas of successive images in which there is no change, even without the reduction of the color values that occur, a large number of identical difference values result.
Optional kann dann in Teilschritt 4-6 für die Lauflängenkodierung eine Information, wie häufig der gleiche Differenz- bzw. Farbwert bei aufeinanderfolgenden Bildpunkten auftritt, in den durch die Verschiebungen freiwerdenden Bits abgelegt wird. Dieses sogenannte „Bitpacking“ soll im folgenden Beispiel für die Übertragung des Farbwertes „16“ (dezimal) bzw. „0001 0000“ (binär) bei dreifacher Verschiebung des Binärwertes verdeutlicht werden. Die dreifache Verschiebung des Binärwertes „0001 0000“ nach rechts ergibt „0000 0010“, entsprechend ergäbe eine Rekonstruktion durch eine Linksverschiebung um 3 Bits wieder den Binärwert „0001 0000“. Der nach der dreifachen Verschiebung nach rechts ungenutzte (unterstrichene) Bereich des Binärwertes „0000 0010“ kann nun verwendet werden, um die Anzahl der folgenden Farbwertwiederholung zu kennzeichnen. Für das oben genannte Beispiel einer vierfach aufeinanderfolgenden Wiederholung des gleichen Farbwertes ergibt sich damit „100 | 0 0010“ mit dem Format „Anzahl aufeinanderfolgende Werte | verschobener Wert“. Wahlweise ist aber auch eine umgekehrte Anordnung „00010 | 1100" mit dem Format „verschobener Wert | Anzahl aufeinanderfolgende Werte“ möglich.Optionally, in substeps 4-6 for run length coding, information about how often the same difference or color value occurs in successive pixels can be stored in the bits released by the shifts. This so-called “bit packing” will be illustrated in the following example for the transmission of the color value “16” (decimal) or “0001 0000” (binary) with a threefold shift of the binary value. Shifting the binary value “0001 0000” three times to the right results in “0000 0010”, correspondingly a reconstruction by shifting left by 3 bits would again result in the binary value “0001 0000”. The unused (underlined) area of the binary value “0000 0010” after the three-fold shift to the right can now be used to indicate the number of subsequent color value repetitions. For the above example of repeating the same color value four times in succession, this results in “100 | 0 0010” with the format “Number of consecutive values | shifted value”. Alternatively, a reverse arrangement “00010 | 1100" with the format "shifted value | number of consecutive values" possible.
Da für die Verarbeitung der Daten in den Teilschritten 4-1 bis 4-6 keine komplexen Berechnungen ausgeführt werden müssen, können diese in Echtzeit ausgeführt werden. Sollte auf eine Echtzeitverarbeitung verzichtet werden können, so ermöglicht dieses, einen erhöhten Rechenaufwand im Fahrzeug aufzuwenden. In diesem Fall kann in dem optionalen Teilschritt 4-7 eine Anwendung zusätzlicher, komplexerer Kompressionsverfahren erfolgen, um eine nochmals erhöhte Kompressionsrate zu erzielen.Since no complex calculations need to be carried out to process the data in substeps 4-1 to 4-6, these can be carried out in real time. If real-time processing can be dispensed with, this will allow increased computing effort to be used in the vehicle. In this case, additional, more complex compression methods can be used in the optional sub-steps 4-7 in order to achieve an even higher compression rate.
Nach der oben beschriebenen Komprimierung der Videodaten erfolgt dann in Verfahrensschritt 5 eine Übertragung der komprimierten Differenzbilder an einen Server. Durch diesen können dann die Differenzbilder dekomprimiert und aus den dekomprimierten Daten die ursprünglichen Bilder rekonstruiert werden. Die so übertragenen Videobilder können dann nach der Rekonstruktion beispielsweise zum Trainieren von künstlichen neuronalen Netzwerken für eine Umfelderkennung beim automatisierten Fahren genutzt werden. Hierbei können bei der sogenannten „Corner Case Detection“ dynamische Objekte auch in ungewöhnliche Situationen in Trainingsdaten detektiert werden, die beispielsweise im Bereich des autonomen Fahrens von hoher Bedeutung sind. Ebenso können die so übertragenen Videobilder für Verfahren zur vorausschauenden Instandhaltung, sogenannte „Predictive Services“, genutzt werden.After the compression of the video data described above, the compressed difference images are then transmitted to a server in
Für die serverseitige Nutzung der so übertragenen Videodaten kann es vorgesehen werden, dass bei dem Server eine Datenbank vorgesehen wird, in der die empfangenen Differenzbilder auch nach der Verarbeitung und Auswertung weiter vorgehalten werden.For the server-side use of the video data transmitted in this way, it can be provided that a database is provided on the server in which the received difference images are retained even after processing and evaluation.
Die Übertragung der Differenzbilder kann einerseits in der Form erfolgen, dass für sämtliche Bildpunkte Differenzwerte berechnet, komprimiert und übertragen werden. Dieses ist insbesondere dann von Vorteil, wenn für einen deutlichen Teil der erfassten Bilder Änderungen vorliegen.On the one hand, the transmission of the difference images can take place in such a way that difference values are calculated, compressed and transmitted for all pixels. This is particularly advantageous if there are changes for a significant portion of the captured images.
Ebenso kann aber auch vorgesehen werden, dass nicht für das gesamte, d.h. für sämtliche Bildpunkte eine Übertragung und Verarbeitung der Differenzwerte erfolgt, sondern nur für einen Teilbereich des erfassten Bildes. Dieses ist insbesondere dann von Vorteil, wenn nur kleine Bereiche des gesamten Bildes verändert sind. In diesem Fall wird dann eine Positionsangabe für den geänderten Bereich übermittelt, beispielsweise durch eine Angabe zur Position innerhalb des Bildes und der Größe des Bereiches. So können beispielsweise für einen rechteckigen Teilbereich des Bildes Differenzwerte ermittelt werden, wobei der Teilbereich dann durch eine Positionsangabe für den oberen linken Bildpunkt dieses Teilbereiches und die Anzahl weiterer Bildpunkte in dem Teilbereich in horizontaler und vertikaler Richtung spezifiziert werden kann.However, it can also be provided that the difference values are not transmitted and processed for the entire, i.e. for all pixels, but only for a partial area of the captured image. This is particularly advantageous if only small areas of the entire image are changed. In this case, position information for the changed area is then transmitted, for example by indicating the position within the image and the size of the area. For example, difference values can be determined for a rectangular sub-area of the image, whereby the sub-area can then be specified by a position information for the upper left pixel of this sub-area and the number of further pixels in the sub-area in the horizontal and vertical directions.
Die Übertragung eines solchen Teilbereichs für ein zum Zeitpunkt t0 durch das Fahrzeug erfasstes Bild wird exemplarisch in
Zu einem darauffolgenden Zeitpunkt to wird dann durch das Fahrzeug das Bild Bo erfasst. Die einzige Änderung gegenüber dem Bild B-1 ist hierbei, dass in der im Bild enthaltenen linken Ampel nicht länger die oben angeordnete rote Signallampe, sondern nun die unten angeordnete grüne Signallampe leuchtet. Da der Rest des Bildinhaltes gegenüber dem vorherigen Zeitpunkt t-1 unverändert ist, reicht es in diesem Fall aus, lediglich Bilddaten Bo', welche die Signallampen der Ampel zeigen, zu übertragen. Bei der serverseitigen Rekonstruktion des Bildes müssen nun lediglich diese Bildpunkte in dem Bereich der Signallampen in dem vorherigen Bild B-1 durch die Bildpunkte entsprechend der Bilddaten B0' ersetzt werden, um das rekonstruierte Bild Bo" zum Zeitpunkt to zu erhalten.At a subsequent time to, the image Bo is then captured by the vehicle. The only change compared to picture B -1 is that in the left traffic light contained in the picture, the red signal lamp at the top is no longer lit, but the green signal lamp at the bottom is now lit. There the rest of the image content is unchanged compared to the previous time t -1 , in this case it is sufficient to only transmit image data Bo', which shows the signal lamps of the traffic lights. During the server-side reconstruction of the image, only these pixels in the area of the signal lamps in the previous image B -1 have to be replaced by the pixels corresponding to the image data B 0 ' in order to obtain the reconstructed image Bo" at time to.
Für die Komprimierung der ursprünglichen Bilddaten im Fahrzeug, aber ebenso auch für die serverseitige Rekonstruktion der komprimierten Bilddaten, kann es auch vorgesehen werden, anstatt einer Anwendung der binären Shiftoperationen auf Tabellen zurückzugreifen, in denen für die verschiedenen Farbwerte und Shiftoperationen vorab berechnete Werte hinterlegt sind. In einer weiteren Ausführungsform kann auch vorgesehen werden, dass entsprechende Tabellen durch das Fahrzeug generiert werden und an den Server übertragen werden.For the compression of the original image data in the vehicle, but also for the server-side reconstruction of the compressed image data, it can also be provided that, instead of using binary shift operations, tables are used in which pre-calculated values for the various color values and shift operations are stored. In a further embodiment it can also be provided that corresponding tables are generated by the vehicle and transmitted to the server.
Die Übertragung der komprimierten Bilddaten durch das Fahrzeug kann in Form eines Push-Models erfolgen, bei dem das Fahrzeug die Bilddaten fortwährend oder beispielsweise immer dann, wenn für einen neuen Streckenabschnitt Videodaten generiert werden, überträgt. Ebenso kann die Übertragung auch in Form eines Pull-Models erfolgen, bei dem die erfassten Bilddaten zunächst in einem Speicher des Fahrzeugs abgelegt werden und erst bei Anforderung durch den Server von dem Fahrzeug übermittelt werden.The transmission of the compressed image data by the vehicle can take place in the form of a push model, in which the vehicle transmits the image data continuously or, for example, whenever video data is generated for a new section of route. Likewise, the transmission can also take place in the form of a pull model, in which the captured image data is first stored in a memory of the vehicle and is only transmitted by the vehicle when requested by the server.
In
Das Fahrzeug weist für die Durchführung des erfindungsgemäßen Verfahrens verschiedene Einheiten auf. So ist insbesondere eine Auswerte- und Steuereinheit AS vorgesehen, die beispielsweise als Steuergerät des Fahrzeugs F ausgestaltet sein kann und einen oder mehrere Mikrocontroller oder Mikroprozessoren aufweisen kann.The vehicle has various units for carrying out the method according to the invention. In particular, an evaluation and control unit AS is provided, which can be designed, for example, as a control device of the vehicle F and can have one or more microcontrollers or microprocessors.
Ferner sind im dargestellten Beispiel jeweils ein nach vorne gerichteter und ein nach hinten gerichteter Bildsensor BS vorgesehen, mit denen das Fahrzeugumfeld vor und hinter dem Fahrzeug erfasst werden kann. Ebenso kann das Fahrzeug aber auch mit nur einem Bildsensor ausgestattet sein oder zusätzlich auch das seitliche Fahrzeugumfeld erfassende Bildsensoren aufweisen. Hierbei kann es sich insbesondere um eine oder mehrere Fahrzeugkameras handelt, die das Fahrzeugumfeld im sichtbaren oder nahinfraroten Spektralbereich erfassen.Furthermore, in the example shown, a forward-facing and a rear-facing image sensor BS are provided, with which the vehicle environment in front of and behind the vehicle can be detected. Likewise, the vehicle can also be equipped with just one image sensor or can also have image sensors that record the side surroundings of the vehicle. This can in particular be one or more vehicle cameras that record the vehicle surroundings in the visible or near-infrared spectral range.
Die von den Bildsensoren erzeugten Videodaten werden über einen digitalen Datenbus DB im Fahrzeug der Komprimierungseinheit K zugeführt, welche die Videodaten wie oben beschrieben komprimiert. Für die Parametrisierung der Videodatenkompression werden hierbei von der Auswerte- und Steuereinheit AS Parameter, der sich auf das Fahrzeug, die Fahrsituation, das Umfeld des Fahrzeugs und/oder die Anbindung des Fahrzeugs an ein externes Kommunikationsnetz beziehen, ausgewertet. In Abhängigkeit von dem Ergebnis dieser Auswertung steuert die Auswerte- und Steuereinheit AS dann die Komprimierungseinheit K zur Komprimierung der aktuell vorliegenden Videodaten an. Der Parametrisierung kann fortlaufend oder auch in regelmäßigen Abständen aktualisiert werden, um so jederzeit schnell auf die aktuell vorliegenden Parameter reagieren zu können.The video data generated by the image sensors is fed via a digital data bus DB in the vehicle to the compression unit K, which compresses the video data as described above. For the parameterization of the video data compression, the evaluation and control unit AS evaluates parameters that relate to the vehicle, the driving situation, the environment of the vehicle and/or the connection of the vehicle to an external communication network. Depending on the result of this evaluation, the evaluation and control unit AS then controls the compression unit K to compress the currently available video data. The parameterization can be updated continuously or at regular intervals in order to be able to react quickly to the current parameters at any time.
Das Fahrzeug weist außerdem eine Kommunikationseinheit C auf, mit der die komprimierten Videodaten an den Server S übertragen werden können. Hierbei kann die Übertragung beispielsweise mittels eines Mobilfunkstandards, wie 4G oder 5G, oder basierend auf einem drahtlosen lokalen Netzwerk, wie WLAN, erfolgen. Ebenso können die komprimierten Videodaten mittels der Kommunikationseinheit C aber auch an Fremdfahrzeuge über Car2Car-Verbindungen übertragen werden.The vehicle also has a communication unit C with which the compressed video data can be transmitted to the server S. The transmission can take place, for example, using a mobile communications standard such as 4G or 5G, or based on a wireless local network such as WLAN. The compressed video data can also be transmitted to third-party vehicles via Car2Car connections using the communication unit C.
Zusätzlich kann das Fahrzeug weitere, nicht dargestellte Komponenten aufweisen. So kann beispielsweise ein Speicher zur Speicherung der Videodaten vorgesehen sein. Der Speicher kann hierbei sowohl volatile als auch nichtvolatile Speicherbereiche aufweisen und unterschiedlichste Speichergeräte und Speichermedien umfassen. Weiterhin können in dem Speicher Instruktionen zur Durchführung eines Programms, welches das erfindungsgemäße Verfahren realisiert, abgelegt sein. Ebenso kann eine Lokalisierung des Fahrzeugs mit einer Positionserfassungseinheit, die beispielsweise GPS-Signale auswertet, erfolgen, um so den erfassten Videodaten Positionsdaten zuordnen zu können. Ferner kann der Zeitpunkt der Erfassung der Videodaten mittels einer Zeiteinheit ermittelt werden, um die Videodaten mit korrespondierenden Zeitstempeln zu versehen. Diese Komponenten können als separate Einheiten vorliegen und dann über den digitalen Datenbus DB die jeweilige Information den oben genannten Einheiten im Fahrzeug zur Verfügung stellen, oder aber auch in der Auswerte- und Steuereinheit AS, der Komprimierungseinheit K oder einer anderen Einheit integriert sein.In addition, the vehicle can have further components, not shown. For example, a memory can be provided for storing the video data. The memory can have both volatile and non-volatile memory areas and include a wide variety of storage devices and storage media. Furthermore, instructions for executing a program that implements the method according to the invention can be stored in the memory. Likewise, the vehicle can be localized using a position detection unit that evaluates GPS signals, for example, in order to be able to assign position data to the captured video data. Furthermore, the time at which the video data is captured can be determined using a time unit in order to record the video data with corresponding time frames to provide pelts. These components can be present as separate units and then make the respective information available to the above-mentioned units in the vehicle via the digital data bus DB, or can also be integrated in the evaluation and control unit AS, the compression unit K or another unit.
Die Erfindung kann in beliebigen Fahrzeugen angewendet werden, bei denen eine bildbasierte Umfeldwahrnehmung erfolgt, ist aber nicht darauf beschränkt.The invention can be used in any vehicle in which an image-based environment perception takes place, but is not limited to this.
BezugszeichenlisteReference symbol list
- 1 - 41-4
- grundlegende Verfahrensschrittebasic procedural steps
- 4-1 - 4-74-1 - 4-7
- Verfahrensschritte zur Videodatenkompression und RekonstruktionProcess steps for video data compression and reconstruction
- 55
- Verfahrensschritt zur Übertragung der komprimierten VideodatenProcess step for transmitting the compressed video data
- B-1, B-1', B-1"B-1, B-1', B-1"
- zum Zeitpunkt t-1 erfasste Bilddaten, darauf basierende übertragene und rekonstruierte BilddatenImage data captured at time t -1 , transmitted and reconstructed image data based on this
- B0, B0', B0"B0, B0', B0"
- zum Zeitpunkt t0 erfasste Bilddaten, übertragenes Differenzbild und rekonstruierte BilddatenImage data captured at time t 0 , transmitted difference image and reconstructed image data
- FF
- Fahrzeugvehicle
- SS
- Serverserver
- BSB.S
- BildsensorImage sensor
- ASAS
- Auswerte- und SteuereinheitEvaluation and control unit
- CC
- KommunikationseinheitCommunication unit
- DBDB
- DatenbusData bus
- KK
- KomprimierungseinheitCompression unit
ZITATE ENTHALTEN IN DER BESCHREIBUNGQUOTES INCLUDED IN THE DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of documents listed by the applicant was generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte PatentliteraturCited patent literature
- DE 102018215151 A1 [0006]DE 102018215151 A1 [0006]
- DE 102012206406 A1 [0007]DE 102012206406 A1 [0007]
Claims (11)
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102022203889.4A DE102022203889A1 (en) | 2022-04-20 | 2022-04-20 | Method for adaptive video data compression in a vehicle and corresponding device |
CN202310395354.XA CN116916030A (en) | 2022-04-20 | 2023-04-13 | Method for adaptive video data compression in a vehicle and corresponding device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102022203889.4A DE102022203889A1 (en) | 2022-04-20 | 2022-04-20 | Method for adaptive video data compression in a vehicle and corresponding device |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102022203889A1 true DE102022203889A1 (en) | 2023-10-26 |
Family
ID=88238557
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102022203889.4A Pending DE102022203889A1 (en) | 2022-04-20 | 2022-04-20 | Method for adaptive video data compression in a vehicle and corresponding device |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN116916030A (en) |
DE (1) | DE102022203889A1 (en) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2375909A (en) | 2001-05-25 | 2002-11-27 | Digital Image Res Ltd | Vehicle security system which transmits image and location data |
DE102012206406A1 (en) | 2012-04-18 | 2013-10-24 | Bayerische Motoren Werke Aktiengesellschaft | Method for generating data stream for transmission of image data, implemented in motor vehicle, involves determining data frames in dependence of determined intra-coded image data and difference-coded image data |
DE102018215151A1 (en) | 2018-09-06 | 2020-03-12 | Zf Friedrichshafen Ag | Method and control unit for a radar sensor architecture |
US20200177885A1 (en) | 2018-11-30 | 2020-06-04 | Toyota Motor North America, Inc. | Dynamic data compression systems and methods for use with vehicle data |
EP3937491A1 (en) | 2020-07-07 | 2022-01-12 | Ree Technology GmbH | Optimizing video encoding and/or transmission for remote driving applications |
-
2022
- 2022-04-20 DE DE102022203889.4A patent/DE102022203889A1/en active Pending
-
2023
- 2023-04-13 CN CN202310395354.XA patent/CN116916030A/en active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2375909A (en) | 2001-05-25 | 2002-11-27 | Digital Image Res Ltd | Vehicle security system which transmits image and location data |
DE102012206406A1 (en) | 2012-04-18 | 2013-10-24 | Bayerische Motoren Werke Aktiengesellschaft | Method for generating data stream for transmission of image data, implemented in motor vehicle, involves determining data frames in dependence of determined intra-coded image data and difference-coded image data |
DE102018215151A1 (en) | 2018-09-06 | 2020-03-12 | Zf Friedrichshafen Ag | Method and control unit for a radar sensor architecture |
US20200177885A1 (en) | 2018-11-30 | 2020-06-04 | Toyota Motor North America, Inc. | Dynamic data compression systems and methods for use with vehicle data |
EP3937491A1 (en) | 2020-07-07 | 2022-01-12 | Ree Technology GmbH | Optimizing video encoding and/or transmission for remote driving applications |
Non-Patent Citations (1)
Title |
---|
WIEGAND, Thomas [et al.]: Overview of the H.264/AVC video coding standard. In: IEEE transactions on circuits and systems for video technology, Vol. 13, 2003, No. 7, S. 560-576. – ISSN 1051-8215 |
Also Published As
Publication number | Publication date |
---|---|
CN116916030A (en) | 2023-10-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE69225941T2 (en) | Image encoding and / or decoding | |
DE68926802T2 (en) | Video telecommunications system and method for the compression and decompression of digital color video data | |
DE69124536T2 (en) | Image coding device | |
DE69320292T2 (en) | Image signal encoding device for reducing the amount of data in the transmitted image by transmitting certain image regions | |
DE69937785T2 (en) | Method of selecting color block points for block coding | |
DE3005775A1 (en) | IMAGE ENCODING AND / OR DECODING DEVICE | |
DE60222728T2 (en) | Method and system with improved coding efficiency of a picture encoder-decoder | |
DE112012006541B4 (en) | Video compression method | |
DE102016121755A1 (en) | Method for determining a composite image of a surrounding area of a motor vehicle with adaptation of brightness and / or color, camera system and power vehicle | |
DE10128858A1 (en) | Process for creating trapping frames in a printed page | |
DE3785179T2 (en) | CODING AND TRANSMISSION METHOD OF A DIGITAL SIGNAL BY TIME SELECTIVE REFRESHING OF A VECTORIAL QUANTIFICATOR. | |
DE69737711T2 (en) | Method and device for coding an object contour using its time correlation | |
DE68923648T2 (en) | Compression and decompression of digital, statistically coded color video data. | |
EP1941744B1 (en) | Methods and devices for the determination and reconstruction of a predicted image area | |
DE102022203889A1 (en) | Method for adaptive video data compression in a vehicle and corresponding device | |
DE69124823T2 (en) | Processing of image signals | |
EP0042981A1 (en) | Method of coding electrical signals obtained by scanning a representation containing both text and illustrations | |
DE102022200171A1 (en) | Method for adaptive image data compression in a vehicle, corresponding device, computer program and motor vehicle | |
DE69032674T2 (en) | Area and text encoding | |
EP0985317A1 (en) | Method for coding and decoding a digitalized image | |
DE102021111881A1 (en) | RATE ADAPTIVE ENCODING-DECODING SCHEME FOR PRIORIZED SEGMENTED DATA | |
DE68926760T2 (en) | Method and system for compressing encoded color video data | |
DE102018206952A1 (en) | Method and device for compressing image data | |
LU102424B1 (en) | Method for playing a video stream by a client | |
EP1206123A2 (en) | Method for image data acquisition |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R012 | Request for examination validly filed | ||
R016 | Response to examination communication |