WO2020094551A1 - Method for operating a fisheye camera by use of a first compression algorithm and a second compression algorithm, electronic computing device, fisheye camera, and driver assistance system - Google Patents

Method for operating a fisheye camera by use of a first compression algorithm and a second compression algorithm, electronic computing device, fisheye camera, and driver assistance system Download PDF

Info

Publication number
WO2020094551A1
WO2020094551A1 PCT/EP2019/080061 EP2019080061W WO2020094551A1 WO 2020094551 A1 WO2020094551 A1 WO 2020094551A1 EP 2019080061 W EP2019080061 W EP 2019080061W WO 2020094551 A1 WO2020094551 A1 WO 2020094551A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
fisheye
compressed
image area
driver assistance
Prior art date
Application number
PCT/EP2019/080061
Other languages
German (de)
French (fr)
Inventor
Fabian BURGER
Original Assignee
Valeo Schalter Und Sensoren Gmbh
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Valeo Schalter Und Sensoren Gmbh filed Critical Valeo Schalter Und Sensoren Gmbh
Publication of WO2020094551A1 publication Critical patent/WO2020094551A1/en

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/12Panospheric to cylindrical image transformations

Definitions

  • the invention relates to a method for operating a fisheye camera for a driver assistance system of a motor vehicle, in which a fisheye image is captured by means of the fisheye camera and the fisheye image as a function of at least a first image area of the fisheye image and a second image area of the
  • the invention further relates to an electronic computing device, a fisheye camera and a
  • Motor vehicle cameras are used. These cameras are, in particular, due to the increased field of view (FOV), in particular as LOV
  • the fisheye cameras are of particular importance in the area of at least partially autonomous, in particular fully autonomous, driving.
  • the fisheye camera can be used to carry out an optical flow, a motor vehicle or pedestrian detection or a lane detection. Editing the corresponding
  • Fisheye image of the fisheye camera can, for example, by means of a
  • Computer vision algorithm and / or by means of learning processes of deep neural networks for example by means of a convoluted neural network
  • a plurality of such cameras is often arranged on the motor vehicle, for example in a front region, in a rear region and in the side region of the motor vehicle, an evaluation of this large number of carts then having to be carried out in particular simultaneously. Especially due to the limited
  • the fish-eye image shows the Fisheye distortion.
  • the distortion is particularly noticeable in vertical lines.
  • nearby objects are shown enlarged.
  • These fisheye images are corrected and straightened in particular, so that, for example, the computer vision algorithm can easily evaluate the corrected image.
  • these corrected images also continue to show certain distortions, particularly in the case of horizontal lines and in close-up areas.
  • the computer vision algorithm is then only used in the regions of interest.
  • regions of interest cannot recognize objects that are outside the boundary of the region of interest, for example. Further evaluations using regions of interest in particular show an increased computing effort, since it is possible, for example, that a partial area of the image occurs in a plurality of regions of interest and is therefore also evaluated several times.
  • the object of the present invention is a method, an electronic
  • a fisheye camera and a driver assistance system by means of which computing capacity can be saved.
  • This task is accomplished by a method, an electronic computing device, a fisheye camera and a driver assistance system according to the independent
  • One aspect of the invention relates to a method for operating a fisheye camera for a driver assistance system of a motor vehicle, in which the
  • Fisheye camera a fisheye image is captured and the fisheye image in Dependency of at least a first image area of the fisheye image and a second image area of the fisheye image for the driver assistance system is evaluated by means of an electronic computing device of the fisheye camera.
  • the first image area is specified by a first distance area from the fisheye camera and the second image area is specified by a second distance area from the fisheye camera that differs from the first distance area, and the first image area with a first compression algorithm and the second image area with a second compression algorithm that is different from the first compression algorithm be compressed and an image compressed as a function of the compressed first image area and the compressed second image area is generated by means of the electronic computing device and sent to the
  • the fisheye image is thus compressed as a function of the respective image area of the fisheye image, the image area being in particular dependent on the distance.
  • a close-up area of the fisheye camera which due to the arrangement on the motor vehicle is an area directly in front of the motor vehicle, is compressed correspondingly highly, since in particular little information is available here, and therefore a small one
  • Loss of information during compression takes place.
  • an area further away from the fisheye camera can be identified as an image area and this in turn can be correspondingly less compressed, in particular decompressed, that is to say a negative compression, so that a higher image area
  • Density of information can be generated.
  • these two compressed image areas are then combined into the common compressed image and transferred to the driver assistance system for transmission.
  • the driver assistance system can then use the computer vision algorithm, for example, to process the compressed image, which can save computing time.
  • the computing time is saved without significant
  • processors are used in the electronic computing device, which may have a lower computing power, as a result of which for example space or costs related to the electronic
  • Computing device can be saved.
  • the first compression algorithm and / or the second compression algorithm are used to compress the first image area and / or the second image area with respect to the data volume of the
  • the image can be compressed in particular with respect to, for example, the respective pixels in the first image area and / or in the second image area. A smaller amount of data is thus provided in the compressed image, which can then be transmitted to the driver assistance system.
  • the visually visible image can also be compressed in accordance with its size, as a result of which the amount of data which is transmitted to the driver assistance system is in turn compressed accordingly.
  • compression is carried out both in the vertical direction and in the horizontal direction.
  • a vanishing point of the fisheye image is used and depending on a relative position of the first image area and / or the second image area
  • Vanishing point the respective compression is performed.
  • no compression is carried out in the vanishing point, however, the further, viewed in both the vertical and horizontal directions, an image pixel from the
  • the fisheye image is divided into a plurality of image areas, in particular into individual pixels, and the plurality of different image areas are correspondingly different
  • a flowing compression can take place between the first image area and the second image area.
  • essentially the same compression takes place at least at a common border area of the first image area and the second image area.
  • linear compression is thus recorded in neighboring image areas, which is preferred.
  • the compressed image still has the same objects in the
  • the compressed image has a difference in the object size, in particular objects that are further away appear larger than objects that appear close, in particular the objects that are close are shown smaller, which is particularly for
  • Object detection can be advantageous.
  • fisheye correction is performed using the electronic one
  • the fisheye image is also corrected.
  • this is already carried out by means of the electronic computing device of the fisheye camera, so that the driver assistance system can be provided with a compressed and corrected image.
  • the driver assistance system can already evaluate the compressed and corrected image, so that a
  • computing capacity-saving and reliable evaluation of the fisheye image can be carried out by means of the driver assistance system.
  • the fisheye correction is carried out before the generation of the compressed image. This enables the image to be compressed only after the fisheye correction has been carried out. This enables an improved compression of the image.
  • the near range of the fisheye camera is specified and the second distance range is specified as the far range of the fisheye camera.
  • the first distance area can be located directly in front of the fisheye camera and the second
  • the distance range can be further away from the fisheye camera.
  • the first distance range can be defined by a distance of one meter to two meters, in particular one meter to three meters, in particular one meter to five meters.
  • the second distance range can be defined, for example, from two meters to 100 meters, in particular from three meters to 100 meters, in particular from five meters to 100 meters.
  • the first compression algorithm and / or the second compression algorithm can be applied to the first compression algorithm and / or the second compression algorithm.
  • Near area of the fisheye camera contains less environmental information than in the far area of the fisheye camera, it can thus be provided, for example, that the near area is compressed more than the far area.
  • the amount of data within the transmitted compressed image can be significantly reduced, so that the driver assistance system is confronted with fewer amounts of data for evaluation.
  • a compression of the near area is greater than a compression of the far area.
  • the far area can include the vanishing point of the fisheye camera.
  • the close-up and far-away areas preferably have a
  • the first image area and / or the second are made by means of a non-linear hyperbolic projection algorithm
  • Projection algorithm In particular, it can also be the second
  • Compression algorithm is a non-linear hyperbolic projection algorithm.
  • the compression is thus carried out non-linearly in the first image area and / or in the second image area.
  • the respective strength of the compression in particular pixel by pixel, can be realized and reproduced.
  • the non-linear hyperbolic projection algorithm can be a reliable one
  • Compression algorithm are provided, by means of which computing effort can be reduced and the compressed image can be evaluated by means of the driver assistance system.
  • Compression algorithm is compressed and one depending on the
  • the third image area can be a sky area in the captured fish-eye image.
  • the third image area is compressed very strongly, since the probability is high here that there is no essential environmental information for evaluation with the
  • Computing capacity can be saved and still reliable object detection in the relevant image areas or reliable evaluation can be carried out using the driver assistance system.
  • Compression algorithm for compressing the second image area can be selected by means of the electronic computing device. If, for example, the function of the driver assistance system is to recognize pedestrians, an area in front of the motor vehicle, in particular in the vicinity of the motor vehicle, is of particular interest, so that the compression algorithm is then selected such that only a small loss of information takes place in this area. If, for example, the function of the driver assistance system is such that motor vehicles are to be recognized by the fisheye image, this takes place in particular in the far area, so that compression of the far area is prevented
  • the near area can be compressed more, for example. So in particular the parameter of the first compression algorithm and / or the second
  • Compression algorithm is a parameter for the strength of the compression.
  • the fisheye image can be compressed accordingly and for evaluation for the driver assistance system
  • At least one extrinsic and / or intrinsic parameter of the fisheye camera is stored in a look-up table of the electronic computing device and fisheye correction is carried out as a function of the stored extrinsic and / or the stored intrinsic parameter.
  • the lookup table which
  • the fisheye correction can also be referred to in particular as a look-up table, in particular has a large number of extrinsic and / or intrinsic parameters of the fisheye camera, as a result of which a reliable correction of the image with respect to the fisheye distortion can be carried out.
  • the fisheye correction already takes place within the electronic computing device, so that time can still be saved by the driver assistance system when evaluating the received image.
  • fisheye correction is highly non-linear.
  • Look-up table for each pixel of the uncorrected image a corresponding pixel of the corrected image.
  • the look-up table is specified in particular, this being possible, for example, by means of corresponding reference measurements. This makes it possible that only the memory of the electronic computing device has to be used during the fisheye correction in order to carry out the corresponding fisheye correction. In particular, this saves computing time during the fisheye correction.
  • the first compression algorithm and / or the second compression algorithm are likewise stored in the look-up table with corresponding parameters, and the compression can also be carried out by means of the look-up table on the basis of the stored data in the look-up table. This makes it possible that no additional runtime or computing capacity is required to carry out the compression of the image.
  • the first image area and / or the second image area are determined as a function of a detection frequency of an occurrence of a specific object. For example, it can be provided that as certain object a pedestrian is specified. In particular are
  • the distance area for the first image area and / or for the second image area can thereby be made dependent on this object. If, for example, the object is specified as a motor vehicle, the respective distance range can be enlarged, since in particular the detection of motor vehicles in the immediate vicinity of the fisheye camera is of less importance than the detection of motor vehicles in a distant environment from the fisheye camera.
  • the definition of the first image area and in particular the associated distance area and / or the second image area and in particular the associated second distance area is thus defined by the respective object to be detected or by the function of the driver assistance system.
  • the frequency of detection is thus defined by the respective object to be detected or by the function of the driver assistance system.
  • the occurrence of a pedestrian in the near range is greater than in the far range, while, for example, the occurrence of the motor vehicle in the far range is higher than in the close range. This is a situation dependent
  • Compression algorithm for compressing the second image area by specifying an image size and / or a processing time of the compressed image for the driver assistance system can be specified by the driver assistance system.
  • the driver assistance system only requires an image size of a predetermined number of pixels for processing, in which case the compression of the first image area and the second image area can then be carried out as a function of this image size.
  • the driver assistance system only evaluates a predetermined processing time for evaluating the transmitted image and, depending on this, the corresponding data size is again calculated and the image is compressed accordingly in order to be able to achieve this processing time.
  • Compression algorithm and the second compression algorithm a compression of the fisheye image between 20% and 70%.
  • the compression can be carried out within this range of 20% and 70% of the original image size, the image size corresponding in particular to the original amount of data. This enables that depending on the one you want
  • a compression of 70% can be selected, so that the driver assistance system in particular can quickly evaluate the image accordingly. If, for example, the driver assistance system wishes that a high density of surrounding information is maintained, the image can only be compressed by 20%, so that the compressed image still has a high information density and can nevertheless be processed faster than the uncompressed image. This can depend on the situation and the function of the
  • Driver assistance system can be used to compress the image.
  • Another aspect of the invention relates to an electronic computing device which is designed to carry out the method according to the preceding aspect.
  • the method is carried out by means of the electronic computing device.
  • a still further aspect of the invention relates to a computer program product with program code means which are stored in a computer-readable medium in order to carry out the method for operating a fisheye camera according to the preceding aspect when the computer program product is processed on a processor of the electronic computing device.
  • Yet another aspect of the invention relates to a fisheye camera with an electronic computing device according to the previous aspect.
  • Yet another aspect of the invention relates to a driver assistance system with a fisheye camera.
  • the driver assistance system can also be referred to as an electronic vehicle guidance system.
  • Yet another aspect of the invention relates to a motor vehicle with a
  • the motor vehicle is designed in particular as a passenger car.
  • the electronic computing device, the fisheye camera and the driver assistance system have physical features which enable the method or an advantageous embodiment thereof to be carried out.
  • Fig. 1 is a schematic plan view of a motor vehicle with a
  • Fig. 2 is a schematic view of a captured image
  • FIG. 3 is a schematic block diagram of an embodiment of the
  • 5 shows a further schematic view of an embodiment of the method
  • 6 shows a further schematic view of a recording of an embodiment of a fisheye camera
  • FIG. 7 shows a schematic diagram to illustrate the method.
  • FIG. 1 shows a motor vehicle 1 in a top view. In the present case it is
  • Motor vehicle 1 designed as a passenger car.
  • the motor vehicle 1 comprises a camera system 2.
  • the camera system 2 in turn can be part of a
  • the camera system 2 comprises at least one fisheye camera 4. In the present embodiment, this includes
  • Camera system 2 for example, four fisheye cameras 4, which turn on
  • Fisheye cameras 4 are arranged in a respective lateral area 6, in particular in an area of the side mirrors of the motor vehicle 1.
  • the number and arrangement of the fisheye cameras 4 of the camera system 2 are to be understood purely as examples.
  • the fisheye camera 4 uses the fisheye camera 4 to produce a fisheye image 12 (FIG. 2) depending on at least a first image area 13 (FIG. 2) of the fisheye image 12 and a second image area 14 (Fig. 2) of the Fish eye image 12 for the driver assistance system 3 by means of the electronic
  • Computing device 1 1 of the fisheye camera 4 evaluated.
  • first image area 13 through a first distance area 15 (FIG. 2) to the fisheye camera 4 and the second image area 14 through a second distance area 16 different from the first distance area 15
  • Fisheye camera 4 are specified and the first image area 13 is compressed with a first compression algorithm 17 (FIG. 2) and the second image area 14 is compressed with a second compression algorithm 18 (FIG. 2) that is different from the first compression algorithm 17 and one as a function of the compressed first
  • Image area 13 and the compressed second image area 14 compressed image 19 is generated by means of the electronic computing device 11 and sent to the
  • Driver assistance system 3 is transmitted for evaluation.
  • compression 25 (FIG. 3) of the fisheye image 12 takes place as a function of the respective image area 13, 14 of the fisheye image 12, the image area 13, 14 being particularly dependent on the distance.
  • a close-up area of the fisheye camera 4 which is an area directly in front of the motor vehicle 1, in particular due to the arrangement on the motor vehicle 1, is compressed accordingly, since in particular little information is available here, and therefore a small loss of information during compression 25 takes place.
  • an area further away from the fisheye camera 4 can be identified as the image area 13, 14 and this in turn can be correspondingly less compressed, in particular decompressed, that is to say a negative compression 25, so that a higher information density can be generated in this image area 13, 14.
  • these two compressed image areas 13, 14 are then combined into the common compressed image 19 and to the
  • the driver assistance system 3 can then, for example, process the compressed image 19 by means of the computer vision algorithm, as a result of which computing time can be saved.
  • the computing time is saved without having to accept significant information losses. This enables a more efficient use of the electronic computing device of the driver assistance system 3.
  • processors are used in the electronic computing device which are smaller Can have computing power, which for example saves space or costs with respect to the electronic computing device.
  • the first compression algorithm 17 and / or the second compression algorithm 18 are used to compress the first image area 13 and / or the second image area 14 with respect to the amount of data in the fisheye image 12.
  • the image can be compressed in particular with respect to the respective pixels in the first image area 13 and / or in the second image area 14. A smaller amount of data is thus provided in the compressed image 19, which can then be transmitted to the driver assistance system 3.
  • the visually visible image can also be compressed in accordance with its size, as a result of which the amount of data which is transmitted to the driver assistance system 3 is in turn compressed accordingly.
  • a flowing compression 25 can take place between the first image area 13 and the second image area 14.
  • a flowing compression 25 can take place between the first image area 13 and the second image area 14.
  • Image area 14 essentially the same compression 25 instead.
  • linear compression 25 is thus recorded in adjacent image areas 13, 14, which is preferred.
  • the compressed image 19 also has the same objects 26, 27 (FIG.
  • the compressed image 19 has a difference in the object size, in particular objects 26, 27 which are further away appear larger than objects 26, 27 which appear close, in particular the objects 26, 27 which are close are shown smaller , which can be particularly advantageous for object detection.
  • a fisheye correction 20 (FIG. 3) is carried out by means of the electronic computing device 11.
  • the fisheye correction 20 is carried out before generating the compressed image 19.
  • the image 19 is also corrected Fisheye image 12 performed. In particular, this is already done using the
  • Driver assistance system 3 can already evaluate the compressed and corrected image 19, as a result of which a computational capacity-saving and reliable evaluation of the fisheye image 12 can be carried out by means of the driver assistance system 3.
  • FIG. 2 shows a schematic view of a recording of a fisheye camera 4.
  • the fisheye image 12 is shown, while in the part b) the compressed image 19 is shown.
  • the first distance range 15 is specified as the close range of the fisheye camera 4
  • the second distance range 16 is specified as the far range of the fisheye camera 4.
  • FIG. 2 shows that a compression 25 of the near range is greater than a compression 25 of the far range.
  • the far area is decompressed and the near area is compressed.
  • the far range may include a vanishing point 28 (FIG. 6) of the fisheye camera 4.
  • no compression 25 takes place in the vanishing point 28, while the compression 25 increases with a distance from the vanishing point 28.
  • a non-linear compression 25 is also carried out within the near range and / or the far range.
  • this prevents information losses from taking place in the long range, while the information density in the close range increases, for example, so that the surroundings 4 can still be reliably detected and, for example, object detection can be carried out using the driver assistance system 3.
  • the near area and the far area preferably have a common boundary in the fisheye image 12, so that a smooth transition from the far area to the
  • the fisheye image 12 only has the far and near range.
  • FIG. 2 shows that at least a third image area 21 of the fisheye image 12 is compressed by means of at least a third compression algorithm 22, which is different from the first compression algorithm 17 and the second compression algorithm 18, and one as a function of the compressed first image area 13, the compressed second Image area 14 and the at least third compressed Image area 21 compressed image 19 is generated by means of the electronic computing device 10 and is transmitted to the driver assistance system 3 for evaluation.
  • a third compression algorithm 22 which is different from the first compression algorithm 17 and the second compression algorithm 18, and one as a function of the compressed first image area 13, the compressed second Image area 14 and the at least third compressed Image area 21 compressed image 19 is generated by means of the electronic computing device 10 and is transmitted to the driver assistance system 3 for evaluation.
  • Compression algorithm 17 the second compression algorithm 18 and the third compression algorithm 22, the compressed image 19 is generated.
  • the far area has experienced no or a low compression 25, while the near area has experienced a strong compression 25.
  • the sky area of the third image area 21 has also received a strong compression 25.
  • the compressed image 19 is significantly reduced both in its data size and in its optical display size. In particular, this compressed image
  • Driver assistance subsystem 9 and / or is sent to the second driver assistance subsystem 10.
  • Fig. 3 shows a schematic block diagram of an embodiment of the
  • the fisheye image 12 is made available to the electronic computing device 11.
  • both compression 25 and fisheye correction 20 are carried out.
  • the electronic computing device 11 can have a look-up table 24.
  • the look-up table 24, which can also be referred to as a look-up table at least one extrinsic and / or intrinsic parameter of the fisheye camera 4 can be stored in the look-up table 24 of the electronic computing device 11 and the fisheye correction
  • the parameters of, in particular, can be used as input values for the look-up table 24
  • Fisheye correction 20 and parameters for the compression 25 are provided. After the fisheye correction 20 and the compression 25, the compressed image 19 is then sent to the driver assistance system 3, in particular to a first driver assistance subsystem 9 and a second driver assistance subsystem 10, here, for example, using a computer vision algorithm
  • compressed image 19 can be evaluated.
  • Object detection can be carried out by means of the first vehicle subsystem 9, for example, and a parking process can be supported by means of the second driver assistance subsystem 10.
  • a parking process can be supported by means of the second driver assistance subsystem 10.
  • it can be provided that, depending on a function of the
  • Driver assistance system 3 or the respective driver assistance subsystem 9, 10 a parameter of the first compression algorithm 17 for compressing 25 the first image area 13 and / or a parameter of the second compression algorithm 18 for compressing 25 the second image area 14 by means of the electronic
  • Computing device 1 1 is selected.
  • FIG. 4 shows a schematic view of an embodiment of the method. 4 shows that the fisheye image 12 can be compressed into different compressed images 19 ′′, 19 ′′, 19 ′′ by means of the compression 25. In particular, FIG. 4 shows that the fisheye image 12 can be compressed into a first compressed image 19 ′′ and / or into a second compressed image 19 ′′ and / or into a third compressed image 19 ′′ ”?
  • FIG. 4 shows that the first image area 13 and / or the second one, in particular by means of a non-linear hyperbolic projection algorithm 33 (FIG. 7)
  • Image area 14 can be compressed.
  • the first compression algorithm 17 is a non-linear hyperbolic
  • Projection algorithm In particular, it can also be the second
  • Projection algorithm 33 a reliable compression algorithm 17, 18, 22 can be provided, by means of which computing effort can be reduced and the compressed image 19 ′′, 19 “, 19 ′′” can be evaluated by means of the driver assistance system 3.
  • driver assistance system 3 furthermore shows that a parameter of the first compression algorithm 17 for compressing 25 the first image area 13 and / or a parameter of the second compression algorithm 18 for compressing 25 the second image area 14 by specifying an image size G and / or a processing time of the compressed image 19 ', 19 ", 19'" for driver assistance system 3 can be specified by driver assistance system 3.
  • the Driver assistance system 3 only requires an image size G of a predetermined number of pixels for processing, in which case the compression 25 of the first image area 13 and of the second image area 14 can then be carried out as a function of this image size G.
  • the driver assistance system 3 only evaluates a predetermined processing time for evaluating the transmitted image 19 ', 19 ", 19'” and, depending on this, the corresponding data size is again calculated and the fisheye image 12 is compressed accordingly by this processing time to be able to achieve. This makes it possible for the driver assistance system 3 to do this reliably and as a function of a desired processing time and / or a predetermined image size G
  • FIG. 4 further shows that the first compression algorithm 17 and the second compression algorithm 18 perform a compression 25 of the image 12 between 20% (first compressed image 19 ′′) and 70% (third compressed image 19 ′′ ”).
  • the second compressed image 19 “has undergone a compression 25 of 50%.
  • FIG. 5 shows a further schematic view of a fish eye image 12 in FIG.
  • the fisheye image 12 can be seen, which was recorded by the fisheye camera 4.
  • the second compressed image 19 " is shown with a compression 25 of 50%.
  • the third compressed image 19 " is shown with a compression 25 of 70%.
  • the first image area 13 and / or the second image area 14 is determined as a function of a detection frequency of an occurrence of the specific object 26, 27.
  • a pedestrian is specified as the specific object 26, 27.
  • pedestrians who are of importance for the driver assistance system 3 are in the vicinity 8 of the fisheye camera 4.
  • Dependency of this object 26, 27 can be made. If, for example, the object 26, 27 is specified as a motor vehicle, the respective distance range 15, 16 can be enlarged, since in particular the detection of motor vehicles in the
  • the immediate vicinity of the fisheye camera 4 is of less importance than the detection of motor vehicles in a distant environment 8
  • the definition of the first image area 13 and in particular the associated distance area 15 and / or the second image area 14 and in particular the associated second distance area 16 are defined by the respective objects 26, 27 to be detected or by the function of the driver assistance system 3 or the driver assistance subsystem 9, 10.
  • Fig. 6 shows a schematic view of another embodiment of the
  • Vanishing point 28 is shown in particular in fisheye image 12.
  • FIG. 6 shows that compression 25 can be carried out both in the horizontal direction and in the vertical direction.
  • a vertical compression 25 ′′ and a horizontal compression 25 ′′ can be carried out, which is shown by the arrows in the fisheye image 12 and in the compressed image 19.
  • the compression 25 follows a non-linear hyperbolic projection function.
  • FIG. 7 shows a schematic diagram of an embodiment of the method.
  • the graph 29 shows a compression 25 with 24%, the graph 30 a compression 25 with 32.5%, the graph 31 a compression 25 with 48.8% and the graph 32 a compression 25 with 72%.
  • the compressed image 19 is plotted on the ordinate O and the fisheye image 12 is plotted on the abscissa A. In particular, these are corresponding distances.
  • the invention shows a distance-dependent image region compression for efficient evaluation of an image 12.

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)

Abstract

The invention relates to a method for operating a fisheye camera (4) for a driver assistance system (3) of a motor vehicle (1), in which a fisheye image (12) is captured by means of the fisheye camera and the fisheye image (12) is analysed according to at least a first image region (13) and a second image region (14) for the driver assistance system (3) by means of an electronic computing device (11), the first image region (13) being predefined by a first distance range (15) from the fisheye camera (4) and the second image region (14) being predefined by a second distance range (16), different to the first distance range (15), from the fisheye camera (4), and the first image region (13) being compressed with a first compression algorithm (17) and the second image region (14) being compressed with a second compression algorithm (18), different to the first compression algorithm, and an image (19', 19'', 19''') compressed according to the compressed first image region (13) and the compressed second image region (14) being generated by means of the electronic computing device (11) and being transferred to the driver assistance system (3) for analysis.

Description

Verfahren zum Betreiben einer Fischaugenkamera durch Nutzung eines ersten Kompressionsalgorithmus und eines zweiten Kompressionsalgorithmus, elektronische Recheneinrichtung, Fischaugenkamera sowie Fahrerassistenzsystem  Method for operating a fisheye camera by using a first compression algorithm and a second compression algorithm, electronic computing device, fisheye camera and driver assistance system
Die Erfindung betrifft ein Verfahren zum Betreiben einer Fischaugenkamera für ein Fahrerassistenzsystem eines Kraftfahrzeugs, bei welchem mittels der Fischaugenkamera ein Fischaugenbild erfasst wird und das Fischaugenbild in Abhängigkeit zumindest eines ersten Bildbereichs des Fischaugenbilds und eines zweiten Bildbereichs des The invention relates to a method for operating a fisheye camera for a driver assistance system of a motor vehicle, in which a fisheye image is captured by means of the fisheye camera and the fisheye image as a function of at least a first image area of the fisheye image and a second image area of the
Fischaugenbilds für das Fahrerassistenzsystem mittels einer elektronischen Fish eye image for the driver assistance system using an electronic
Recheneinrichtung der Fischaugenkamera ausgewertet wird. Ferner betrifft die Erfindung eine elektronische Recheneinrichtung, eine Fischaugenkamera sowie ein  Computing device of the fisheye camera is evaluated. The invention further relates to an electronic computing device, a fisheye camera and a
Fahrerassistenzsystem. Aus dem Kraftfahrzeugbau ist bekannt, dass zur Erfassung der Umgebung des Driver assistance system. It is known from motor vehicle construction that to record the surroundings of the
Kraftfahrzeugs Kameras eingesetzt werden. Diese Kameras sind, insbesondere aufgrund der erhöhten Erfassungsbereichs (field of view - FOV), insbesondere als  Motor vehicle cameras are used. These cameras are, in particular, due to the increased field of view (FOV), in particular as
Fischaugenkameras ausgebildet. Insbesondere im Bereich des zumindest teilweise autonomen, insbesondere des vollautonomen, Fahrens kommt den Fischaugenkameras eine erhöhte Bedeutung zu. Beispielsweise kann mittels der Fischaugenkamera ein optischer Fluss, eine Kraftfahrzeug- beziehungsweise eine Fußgängerdetektion oder eine Fahrspurerkennung durchgeführt werden. Die Bearbeitung des entsprechenden Fisheye cameras trained. The fisheye cameras are of particular importance in the area of at least partially autonomous, in particular fully autonomous, driving. For example, the fisheye camera can be used to carry out an optical flow, a motor vehicle or pedestrian detection or a lane detection. Editing the corresponding
Fischaugenbilds der Fischaugenkamera kann beispielsweise mittels eines Fisheye image of the fisheye camera can, for example, by means of a
Computervision-Algorithmus und/oder mittels Lernverfahren tiefer neuronaler Netzwerke (Deep Learning), beispielsweise mittels eines konvoluten neuronalen Netzwerks Computer vision algorithm and / or by means of learning processes of deep neural networks (deep learning), for example by means of a convoluted neural network
(convolutional neural network - CNN) durchgeführt werden. Diese Auswertealgorithmen werden insbesondere auf speziell eingebetteten Plattformen oder auf so genannten digitalen Signalprozessoren (digital Signal processor - DSP) mit einer limitierten  (convolutional neural network - CNN). These evaluation algorithms are limited in particular on specially embedded platforms or on so-called digital signal processors (digital signal processors - DSP)
Rechenkapazität durchgeführt. Computing capacity carried out.
Oftmals ist am Kraftfahrzeug eine Mehrzahl von solchen Kameras, beispielsweise in einem Frontbereich, in einem Heckbereich und im Seitenbereich des Kraftfahrzeugs angeordnet, wobei dann eine Auswertung dieser Vielzahl von Karners insbesondere simultan durchgeführt werden muss. Insbesondere aufgrund der limitierten A plurality of such cameras is often arranged on the motor vehicle, for example in a front region, in a rear region and in the side region of the motor vehicle, an evaluation of this large number of carts then having to be carried out in particular simultaneously. Especially due to the limited
Rechenkapazität kann dies oftmals zu erheblichen Zeitverzögerungen bei der Auswertung der Fischaugenbilder kommen. Insbesondere bei der Nutzung der Fischaugenkamera bilden sich jedoch auch Nachteile aus. Beispielsweise weist das Fischaugenbild der Fischaugenkamera eine Verzerrung auf. Insbesondere ist die Verzerrung in vertikalen Linien zu verzeichnen. Des Weiteren werden nahe Objekte vergrößert dargestellt. Diese Fischaugenbilder werden insbesondere korrigiert und begradigt, sodass beispielsweise der Computervision-Algorithmus das korrigierte Bild einfach auswerten kann. Jedoch zeigen auch diese korrigierten Bilder weiterhin gewisse Verzerrungen, insbesondere bei horizontalen Linien sowie in Bereichen des Nahbereichs. Computing capacity, this can often lead to considerable time delays when evaluating the fisheye images. However, there are also disadvantages, particularly when using the fisheye camera. For example, the fish-eye image shows the Fisheye distortion. The distortion is particularly noticeable in vertical lines. Furthermore, nearby objects are shown enlarged. These fisheye images are corrected and straightened in particular, so that, for example, the computer vision algorithm can easily evaluate the corrected image. However, these corrected images also continue to show certain distortions, particularly in the case of horizontal lines and in close-up areas.
Es ist bekannt, um Rechenzeit einzusparen, dass normalerweise nicht das gesamte Bild der Fischaugenkamera ausgewertet wird. Aus dem Stand der Technik sind hierbei unterschiedliche Strategien bekannt, welche insbesondere eine so genannte Region von Interesse (region of interest - ROI) des Bildes entsprechend auswertet. Im Stand der Technik wird somit lediglich ein Teilbereich des Fischaugenbilds, in welchem sich insbesondere die wichtigen Teile für eine weitere Auswertung befinden, bearbeitet und die anderen Bildbereiche werden dabei nicht weiter ausgewertet, wobei dies In order to save computing time, it is known that normally the entire image of the fisheye camera is not evaluated. Different strategies are known from the prior art, which in particular evaluate a so-called region of interest (ROI) of the image accordingly. In the prior art, only a partial area of the fisheye image, in which the important parts for further evaluation are located in particular, is processed and the other image areas are not further evaluated, this being the case
insbesondere abhängig ist von der Aufgabe des Fahrerassistenzsystems. Insbesondere wird dann der Computervision-Algorithmus lediglich in den Regionen von Interesse angewendet. is particularly dependent on the task of the driver assistance system. In particular, the computer vision algorithm is then only used in the regions of interest.
Das Auswerten von Regionen von Interesse bringt auch Fehler mit sich, da Evaluating regions of interest also involves errors because
beispielsweise statische Regionen von Interesse Objekte nicht erkennen können welche sich beispielsweise außerhalb der Grenze der Region von Interesse befinden. Weitere Auswertungen mittels Regionen von Interesse zeigen insbesondere einen erhöhten Rechenaufwand, da es beispielsweise möglich ist, dass ein Teilbereich des Bildes in einer Vielzahl von Regionen von Interesse vorkommt und daher auch mehrfach ausgewertet wird. For example, static regions of interest cannot recognize objects that are outside the boundary of the region of interest, for example. Further evaluations using regions of interest in particular show an increased computing effort, since it is possible, for example, that a partial area of the image occurs in a plurality of regions of interest and is therefore also evaluated several times.
Aufgabe der vorliegenden Erfindung ist es, ein Verfahren, eine elektronische The object of the present invention is a method, an electronic
Recheneinrichtung, eine Fischaugenkamera sowie eine Fahrerassistenzsystem zu schaffen, mittels welchem Rechenkapazität eingespart werden kann. To create computing device, a fisheye camera and a driver assistance system, by means of which computing capacity can be saved.
Diese Aufgabe wird durch ein Verfahren, eine elektronische Recheneinrichtung, eine Fischaugenkamera sowie ein Fahrerassistenzsystem gemäß den unabhängigen This task is accomplished by a method, an electronic computing device, a fisheye camera and a driver assistance system according to the independent
Patentansprüchen gelöst. Claims resolved.
Ein Aspekt der Erfindung betrifft ein Verfahren zum Betreiben einer Fischaugenkamera für ein Fahrerassistenzsystem eines Kraftfahrzeugs, bei welchem mittels der One aspect of the invention relates to a method for operating a fisheye camera for a driver assistance system of a motor vehicle, in which the
Fischaugenkamera ein Fischaugenbild erfasst wird und das Fischaugenbild in Abhängigkeit zumindest eines ersten Bildbereichs des Fischaugenbilds und eines zweiten Bildbereichs des Fischaugenbilds für das Fahrerassistenzsystem mittels einer elektronischen Recheneinrichtung der Fischaugenkamera ausgewertet wird. Fisheye camera a fisheye image is captured and the fisheye image in Dependency of at least a first image area of the fisheye image and a second image area of the fisheye image for the driver assistance system is evaluated by means of an electronic computing device of the fisheye camera.
Es ist vorgesehen, dass der erste Bildbereich durch einen ersten Abstandsbereich zur Fischaugenkamera und der zweite Bildbereich durch einen zum ersten Abstandsbereich unterschiedlichen zweiten Abstandsbereich zur Fischaugenkamera vorgegeben werden und der erste Bildbereich mit einem ersten Kompressionsalgorithmus und der zweite Bildbereich mit einem zum ersten Kompressionsalgorithmus unterschiedlichen zweiten Kompressionsalgorithmus komprimiert werden und ein in Abhängigkeit des komprimierten ersten Bildbereichs und des komprimierten zweiten Bildbereichs komprimiertes Bild mittels der elektronischen Recheneinrichtung erzeugt wird und an das It is provided that the first image area is specified by a first distance area from the fisheye camera and the second image area is specified by a second distance area from the fisheye camera that differs from the first distance area, and the first image area with a first compression algorithm and the second image area with a second compression algorithm that is different from the first compression algorithm be compressed and an image compressed as a function of the compressed first image area and the compressed second image area is generated by means of the electronic computing device and sent to the
Fahrerassistenzsystem zum Auswerten übertragen wird. Driver assistance system for evaluation is transmitted.
Insbesondere findet somit eine Kompression des Fischaugenbilds in Abhängigkeit des jeweiligen Bildbereichs des Fischaugenbilds statt, wobei der Bildbereich insbesondere abstandsabhängig ist. Beispielsweise kann vorgesehen sein, dass ein Nahbereich der Fischaugenkamera, welcher insbesondere aufgrund der Anordnung am Kraftfahrzeug ein Bereich direkt vor dem Kraftfahrzeug ist, entsprechend hoch komprimiert wird, da insbesondere hier wenig Informationen vorhanden sind, und daher ein geringer In particular, the fisheye image is thus compressed as a function of the respective image area of the fisheye image, the image area being in particular dependent on the distance. For example, it can be provided that a close-up area of the fisheye camera, which due to the arrangement on the motor vehicle is an area directly in front of the motor vehicle, is compressed correspondingly highly, since in particular little information is available here, and therefore a small one
Informationsverlust bei der Kompression stattfindet. Insbesondere kann ein weiter entfernter Bereich zur Fischaugenkamera als Bildbereich identifiziert werden und dieser wiederum entsprechend weniger komprimiert werden, insbesondere dekomprimiert, also eine negative Kompression, werden, sodass bei diesem Bildbereich eine höhere Loss of information during compression takes place. In particular, an area further away from the fisheye camera can be identified as an image area and this in turn can be correspondingly less compressed, in particular decompressed, that is to say a negative compression, so that a higher image area
Informationsdichte erzeugt werden kann. Insbesondere werden dann diese beiden komprimierten Bildbereiche in das gemeinsame komprimierte Bild zusammengefasst und an das Fahrerassistenzsystem zum Übertragen übergeben. Density of information can be generated. In particular, these two compressed image areas are then combined into the common compressed image and transferred to the driver assistance system for transmission.
Das Fahrerassistenzsystem kann dann mittels des Computervision-Algorithmus beispielsweise das komprimierte Bild bearbeiten, wodurch Rechenzeit eingespart werden kann. Insbesondere wird dabei die Rechenzeit eingespart, ohne signifikante The driver assistance system can then use the computer vision algorithm, for example, to process the compressed image, which can save computing time. In particular, the computing time is saved without significant
Informationsverluste hinnehmen zu müssen. Dadurch ist eine effizientere Nutzung der elektronischen Recheneinrichtung ermöglicht. Insbesondere kann dadurch eine schnellere Auswertung des Fischaugenbilds durchgeführt werden. Ferner ist es ermöglicht, dass beispielsweise Prozessoren in der elektronischen Recheneinrichtung verwendet werden, welche eine geringere Rechenleistung aufweisen können, wodurch beispielsweise Raum beziehungsweise Kosten bezüglich der elektronischen Having to accept loss of information. This enables a more efficient use of the electronic computing device. In particular, this enables a faster evaluation of the fish eye image. Furthermore, it is possible that, for example, processors are used in the electronic computing device, which may have a lower computing power, as a result of which for example space or costs related to the electronic
Recheneinrichtung eingespart werden können. Computing device can be saved.
Insbesondere kann vorgesehen sein, dass mittels des ersten Kompressionsalgorithmus und/oder mittels des zweiten Kompressionsalgorithmus eine Kompression des ersten Bildbereichs und/oder des zweiten Bildbereichs bezüglich der Datenmenge des In particular, it can be provided that the first compression algorithm and / or the second compression algorithm are used to compress the first image area and / or the second image area with respect to the data volume of the
Fischaugenbilds stattfindet. Mit anderen Worten kann das Bild insbesondere bezüglich beispielsweise der jeweiligen Pixel im ersten Bildbereich und/oder im zweiten Bildbereich komprimiert werden. Somit wird eine geringere Datenmenge im komprimierten Bild bereitgestellt, welche dann an das Fahrerassistenzsystem übertragen werden kann. Fisheye picture takes place. In other words, the image can be compressed in particular with respect to, for example, the respective pixels in the first image area and / or in the second image area. A smaller amount of data is thus provided in the compressed image, which can then be transmitted to the driver assistance system.
Ferner kann vorgesehen sein, dass auch das visuell sichtbare Bild entsprechend seiner Größe komprimiert werden kann, wodurch dann wiederum ebenfalls die Datenmenge entsprechend komprimiert wird, welche an das Fahrerassistenzsystem übertragen wird. Furthermore, it can be provided that the visually visible image can also be compressed in accordance with its size, as a result of which the amount of data which is transmitted to the driver assistance system is in turn compressed accordingly.
Bevorzugt ist es dabei möglich, dass sowohl eine Kompression in vertikaler Richtung als auch in horizontaler Richtung durchgeführt wird. Beispielsweise kann hierzu vorgesehen sein, dass ein Fluchtpunkt des Fischaugenbilds genutzt wird und in Abhängigkeit einer Relativposition des ersten Bildbereichs und/oder des zweiten Bildbereichs zum It is preferably possible that compression is carried out both in the vertical direction and in the horizontal direction. For example, it can be provided that a vanishing point of the fisheye image is used and depending on a relative position of the first image area and / or the second image area
Fluchtpunkt die jeweilige Kompression durchgeführt wird. Insbesondere kann vorgesehen sein, dass im Fluchtpunkt keine Kompression durchgeführt wird, jedoch je weiter, sowohl in vertikaler als auch in horizontaler Richtung betrachtet, sich ein Bildpixel vom Vanishing point the respective compression is performed. In particular, it can be provided that no compression is carried out in the vanishing point, however, the further, viewed in both the vertical and horizontal directions, an image pixel from the
Fluchtpunkt im Fischaugenbild entfernt, desto größer eine entsprechende Kompression durchgeführt wird. Insbesondere kann vorgesehen sein, dass das Fischaugenbild in eine Vielzahl von Bildbereichen, insbesondere in einzelne Pixel, eingeteilt wird und die Vielzahl der unterschiedlichen Bildbereiche entsprechend mit unterschiedlichen Vanishing point in the fisheye image removed, the greater a corresponding compression is carried out. In particular, it can be provided that the fisheye image is divided into a plurality of image areas, in particular into individual pixels, and the plurality of different image areas are correspondingly different
Kompressionsalgorithmen komprimiert wird. Dadurch ist eine zuverlässige und Compression algorithms is compressed. This makes it reliable and
Informationserhaltende Kompression des Fischaugenbilds ermöglicht. Information-preserving compression of the fisheye image enables.
Insbesondere kann zwischen dem ersten Bildbereich und dem zweiten Bildbereich eine fließende Kompression stattfinden. Mit anderen Worten findet zumindest an einem gemeinsamen Grenzbereich des ersten Bildbereichs und des zweiten Bildbereichs im Wesentlichen die gleiche Kompression statt. Insbesondere ist somit in benachbarten Bildbereichen, was bevorzugt ist, eine lineare Kompression zu verzeichnen. In particular, a flowing compression can take place between the first image area and the second image area. In other words, essentially the same compression takes place at least at a common border area of the first image area and the second image area. In particular, linear compression is thus recorded in neighboring image areas, which is preferred.
Insbesondere weist das komprimierte Bild weiterhin die gleichen Objekte in der In particular, the compressed image still has the same objects in the
Umgebung der Fischaugenkamera auf, wie das aufgenommene Fischaugenbild, während das komprimierte Bild signifikant kleiner ausgebildet ist. Ferner weist das komprimierte Bild einen Unterschied in der Objektgröße auf, wobei insbesondere Objekte, welche weiter entfernt sind, größer erscheinen als Objekte welche nah erscheinen, insbesondere werden die Objekte, die nah sind, kleiner dargestellt, was insbesondere für eine Surround the fisheye camera on how the fisheye picture taken while the compressed image is made significantly smaller. Furthermore, the compressed image has a difference in the object size, in particular objects that are further away appear larger than objects that appear close, in particular the objects that are close are shown smaller, which is particularly for
Objektdetektion vorteilhaft sein kann. Object detection can be advantageous.
Gemäß einer vorteilhaften Ausgestaltungsform wird zusätzlich zum Erzeugen des komprimierten Bilds eine Fischaugenkorrektur mittels der elektronischen According to an advantageous embodiment, in addition to generating the compressed image, fisheye correction is performed using the electronic one
Recheneinrichtung durchgeführt. Mit anderen Worten wird neben der Kompression des ersten Bildbereichs und des zweiten Bildbereichs zum komprimierten Bild auch eine Korrektur des Fischaugenbilds durchgeführt. Insbesondere wird dies bereits mittels der elektronischen Recheneinrichtung der Fischaugenkamera durchgeführt, sodass dem Fahrerassistenzsystem ein komprimiertes und korrigiertes Bild zur Verfügung gestellt werden kann. Dies hat insbesondere den Vorteil, dass das Fahrerassistenzsystem bereits das komprimierte und korrigierte Bild auswerten kann, wodurch eine Computing device performed. In other words, in addition to the compression of the first image area and the second image area to the compressed image, the fisheye image is also corrected. In particular, this is already carried out by means of the electronic computing device of the fisheye camera, so that the driver assistance system can be provided with a compressed and corrected image. This has the particular advantage that the driver assistance system can already evaluate the compressed and corrected image, so that a
rechenkapazitätseinsparende und zuverlässige Auswertung des Fischaugenbilds mittels des Fahrerassistenzsystems durchgeführt werden kann. computing capacity-saving and reliable evaluation of the fisheye image can be carried out by means of the driver assistance system.
Ebenfalls vorteilhaft ist, wenn zeitlich vor dem Erzeugen des komprimierten Bilds die Fischaugenkorrektur durchgeführt wird. Dadurch ist es ermöglicht, dass die Kompression des Bilds erst dann durchgeführt wird, wenn die Fischaugenkorrektur durchgeführt wurde. Dadurch kann eine verbesserte Kompression des Bilds durchgeführt werden. It is also advantageous if the fisheye correction is carried out before the generation of the compressed image. This enables the image to be compressed only after the fisheye correction has been carried out. This enables an improved compression of the image.
Es hat sich weiterhin als vorteilhaft erwiesen, wenn der erste Abstandsbereich als It has also proven to be advantageous if the first distance range is
Nahbereich der Fischaugenkamera vorgegeben wird und der zweite Abstandsbereich als Fernbereich der Fischaugenkamera vorgegeben wird. Mit anderen Worten kann der erste Abstandsbereich sich direkt vor der Fischaugenkamera befinden und der zweite The near range of the fisheye camera is specified and the second distance range is specified as the far range of the fisheye camera. In other words, the first distance area can be located directly in front of the fisheye camera and the second
Abstandsbereich kann sich weiter entfernt von der Fischaugenkamera befinden. The distance range can be further away from the fisheye camera.
Beispielsweise kann der erste Abstandsbereich definiert sein durch einen Abstand von einem Meter bis zwei Meter, insbesondere von einem Meter bis drei Meter, insbesondere von einem Meter bis fünf Meter. Der zweite Abstandsbereich kann beispielsweise definiert sein von zwei Meter bis 100 Meter, insbesondere von drei Meter bis 100 Meter, insbesondere von fünf Meter bis 100 Meter. Die Aufzählung der Definition der For example, the first distance range can be defined by a distance of one meter to two meters, in particular one meter to three meters, in particular one meter to five meters. The second distance range can be defined, for example, from two meters to 100 meters, in particular from three meters to 100 meters, in particular from five meters to 100 meters. The enumeration of the definition of
Abstandsbereiche ist rein beispielhaft und keinesfalls als abschließend anzusehen. Distance ranges are purely exemplary and are in no way to be regarded as conclusive.
Insbesondere durch die Vorgabe der Abstandsbereiche kann entsprechend der ersten Kompressionsalgorithmus und/oder der zweite Kompressionsalgorithmus auf den In particular, by specifying the distance ranges, the first compression algorithm and / or the second compression algorithm can be applied to the
Nahbereich und/oder auf den Fernbereich angewendet werden. Insbesondere da sich im Nahbereich der Fischaugenkamera weniger Umgebungsinformationen befinden als im Fernbereich der Fischaugenkamera, kann somit beispielsweise vorgesehen sein, dass der Nahbereich stärker komprimiert wird als der Fernbereich. Insbesondere sind somit kaum Umgebungsinformationsverluste zu verzeichnen, jedoch kann die Datenmenge innerhalb des übertragenen komprimierten Bilds deutlich reduziert werden, sodass das Fahrerassistenzsystem mit weniger Datenmengen zur Auswertung konfrontiert wird.Close range and / or applied to the far range. Especially since Near area of the fisheye camera contains less environmental information than in the far area of the fisheye camera, it can thus be provided, for example, that the near area is compressed more than the far area. In particular, there is hardly any loss of information about the surroundings, but the amount of data within the transmitted compressed image can be significantly reduced, so that the driver assistance system is confronted with fewer amounts of data for evaluation.
Somit kann eine einfache und dennoch zuverlässige Kompression des Fischaugenbilds erfolgen. A simple, yet reliable compression of the fisheye image can thus take place.
Ferner hat es sich als vorteilhaft erweisen, wenn eine Kompression des Nahbereichs größer ist, als eine Kompression des Fernbereichs. Mit anderen Worten findet eine größere Kompression des Nahbereichs statt als im Fernbereich. Insbesondere kann beispielsweise der Fernbereich den Fluchtpunkt der Fischaugenkamera umfassen. Furthermore, it has proven to be advantageous if a compression of the near area is greater than a compression of the far area. In other words, there is greater compression in the near area than in the far area. In particular, for example, the far area can include the vanishing point of the fisheye camera.
Insbesondere findet im Fluchtpunkt keine Kompression statt, während sich bei einer Entfernung vom Fluchtpunkt die Kompression vergrößert. Mit anderen Worten ist insbesondere vorgesehen, dass auch innerhalb des Nahbereichs und/oder des In particular, no compression takes place in the vanishing point, while the compression increases with a distance from the vanishing point. In other words, it is particularly provided that within the close range and / or
Fernbereichs eine nicht-lineare Kompression durchgeführt wird. Insbesondere ist es dadurch verhindert, dass im Fernbereich Informationsverluste stattfinden, während die Informationsdichte im Nahbereich beispielsweise steigt, sodass dennoch zuverlässig die Umgebung erfasst werden kann und beispielsweise eine Objektdetektion mittels des Fahrerassistenzsystems durchgeführt werden kann. Long range non-linear compression is performed. In particular, this prevents information losses from taking place in the long range, while the information density in the close range increases, for example, so that the surroundings can still be reliably detected and, for example, object detection can be carried out using the driver assistance system.
Bevorzugt weist der Nahbereich und der Fernbereich im Fischaugenbild eine The close-up and far-away areas preferably have a
gemeinsame Grenze auf, so dass ein fließender Übergang vom Fernbereich zum common border on, so that a smooth transition from long range to
Nahbereich realisiert ist. Insbesondere weist das Bild nur den Fernbereich und den Nahbereich auf. Close range is realized. In particular, the image only has the far and near areas.
In einer weiteren vorteilhaften Ausgestaltungsform werden mittels eines nichtlinearen hyperbolischen Projektionsalgorithmus der erste Bildbereich und/oder der zweite In a further advantageous embodiment, the first image area and / or the second are made by means of a non-linear hyperbolic projection algorithm
Bildbereich komprimiert. Mit andern Worten handelt es sich bei dem ersten Image area compressed. In other words, it is the first
Kompressionsalgorithmus um einen nicht-linearen hyperbolischen Compression algorithm around a non-linear hyperbolic
Projektionsalgorithmus. Insbesondere kann es sich auch bei dem zweiten Projection algorithm. In particular, it can also be the second
Kompressionsalgorithmus um einen nicht-linearen hyperbolischen Projektionsalgorithmus handeln. Mit anderen Worten ist vorgesehen, dass somit nicht-linear die Kompression im ersten Bildbereich und/oder im zweiten Bildbereich durchgeführt wird. Mittels des nicht linearen hyperbolischen Projektionsalgorithmus kann somit die jeweilige Stärke der Kompression, insbesondere pixelweise, realisiert und nachvollzogen werden. Mittels des nicht-linearen hyperbolischen Projektionsalgorithmus kann ein zuverlässiger Compression algorithm is a non-linear hyperbolic projection algorithm. In other words, it is provided that the compression is thus carried out non-linearly in the first image area and / or in the second image area. By means of the non-linear hyperbolic projection algorithm, the respective strength of the compression, in particular pixel by pixel, can be realized and reproduced. By means of the non-linear hyperbolic projection algorithm can be a reliable one
Kompressionsalgorithmus bereitgestellt werden, mittels welchem Rechenaufwand reduziert werden kann und das komprimierte Bild mittels des Fahrerassistenzsystems ausgewertet werden kann. Compression algorithm are provided, by means of which computing effort can be reduced and the compressed image can be evaluated by means of the driver assistance system.
Es hat sich weiterhin als vorteilhaft erwiesen, wenn zumindest ein dritter Bildbereich des Fischaugenbildes mittels zumindest eines dritten Kompressionsalgorithmus, welcher unterschiedlich zum ersten Kompressionsalgorithmus und zum zweiten It has also proven to be advantageous if at least a third image area of the fisheye image by means of at least one third compression algorithm, which is different from the first compression algorithm and the second
Kompressionsalgorithmus ist, komprimiert wird und ein in Abhängigkeit des Compression algorithm is compressed and one depending on the
komprimierten ersten Bildbereichs, des komprimierten zweiten Bildbereichs und des zumindest komprimierten dritten Bildbereichs komprimiertes Bild mittels der compressed first image area, the compressed second image area and the at least compressed third image area compressed image by means of the
elektronischen Recheneinrichtung erzeugt wird und an das Fahrerassistenzsystem zum Auswerten übertragen wird. Beispielweise kann es sich bei dem dritten Bildbereich um einen Himmelbereich im erfassten Fischaugenbild handeln. Insbesondere, da zur Umgebungserfassung beziehungsweise zur Objektdetektion wenig Information in diesem Himmelbereich zu verzeichnen sind, kann beispielsweise vorgesehen sein, dass der dritte Bildbereich sehr stark komprimiert wird, da die Wahrscheinlichkeit hier groß ist, dass hier keine wesentlichen Umgebungsinformationen zur Auswertung mit dem electronic computing device is generated and transmitted to the driver assistance system for evaluation. For example, the third image area can be a sky area in the captured fish-eye image. In particular, since little information can be recorded in this sky area for the detection of the surroundings or for object detection, it can be provided, for example, that the third image area is compressed very strongly, since the probability is high here that there is no essential environmental information for evaluation with the
Fahrerassistenzsystem verloren gehen. Dadurch ist es ermöglicht, dass weiter Driver assistance system is lost. This enables it to continue
Rechenkapazität eingespart werden kann und dennoch eine zuverlässige Objektdetektion in den relevanten Bildbereichen beziehungsweise eine zuverlässige Auswertung mittels des Fahrerassistenzsystems durchgeführt werden kann. Computing capacity can be saved and still reliable object detection in the relevant image areas or reliable evaluation can be carried out using the driver assistance system.
Es hat sich weiterhin als vorteilhaft erwiesen, wenn in Abhängigkeit einer Funktion des Fahrerassistenzsystems ein Parameter des ersten Kompressionsalgorithmus zum Komprimieren des ersten Bildbereichs und/oder ein Parameter des zweiten It has also proven to be advantageous if, depending on a function of the driver assistance system, a parameter of the first compression algorithm for compressing the first image area and / or a parameter of the second
Kompressionsalgorithmus zum Komprimieren des zweiten Bildbereichs mittels der elektronischen Recheneinrichtung ausgewählt werden. Sollte beispielsweise die Funktion des Fahrerassistenzsystems ein Erkennen von Fußgängern sein, so ist insbesondere ein Bereich vor dem Kraftfahrzeug, insbesondere im Nahbereich des Kraftfahrzeugs interessant, sodass hier dann wiederum der Kompressionsalgorithmus derart gewählt wird, dass nur ein geringer Informationsverlust in diesem Bereich stattfindet. Sollte beispielsweise die Funktion des Fahrerassistenzsystems derart sein, dass durch das Fischaugenbild Kraftfahrzeuge erkannt werden sollen, so findet dies insbesondere im Fernbereich statt, sodass eine Kompression des Fernbereichs verhindert Compression algorithm for compressing the second image area can be selected by means of the electronic computing device. If, for example, the function of the driver assistance system is to recognize pedestrians, an area in front of the motor vehicle, in particular in the vicinity of the motor vehicle, is of particular interest, so that the compression algorithm is then selected such that only a small loss of information takes place in this area. If, for example, the function of the driver assistance system is such that motor vehicles are to be recognized by the fisheye image, this takes place in particular in the far area, so that compression of the far area is prevented
beziehungsweise eine DeKompression des Fernbereichs durchgeführt werden kann und der Nahbereich beispielsweise stärker komprimiert werden kann. Insbesondere ist somit der Parameter des ersten Kompressionsalgorithmus und/oder des zweiten or a decompression of the far area can be carried out and the near area can be compressed more, for example. So in particular the parameter of the first compression algorithm and / or the second
Kompressionsalgorithmus ein Parameter für die Stärke der Kompression. Dadurch kann in Abhängigkeit des Fahrerassistenzsystems das Fischaugenbild entsprechend komprimiert werden und zur Auswertung für das Fahrerassistenzsystem Compression algorithm is a parameter for the strength of the compression. Depending on the driver assistance system, the fisheye image can be compressed accordingly and for evaluation for the driver assistance system
rechenzeitsparend bereitgestellt werden. be provided in a time-saving manner.
Ferner hat es sich als vorteilhaft erwiesen, wenn zumindest ein extrinsischer und/oder ein intrinsischer Parameter der Fischaugenkamera in einer Nachschlagetabelle der elektronischen Recheneinrichtung abgespeichert werden und eine Fischaugenkorrektur in Abhängigkeit des abgespeicherten extrinsischen und/oder des abgespeicherten intrinsischen Parameters durchgeführt wird. Die Nachschlagetabelle, welche It has also proven to be advantageous if at least one extrinsic and / or intrinsic parameter of the fisheye camera is stored in a look-up table of the electronic computing device and fisheye correction is carried out as a function of the stored extrinsic and / or the stored intrinsic parameter. The lookup table which
insbesondere auch als Look-up-Tabelle bezeichnet werden kann, weist insbesondere eine Vielzahl von extrinsischen und/oder intrinsischen Parametern der Fischaugenkamera auf, wodurch eine zuverlässige Korrektur des Bilds bezüglich der Fischaugenverzerrung durchgeführt werden kann. Insbesondere findet die Fischaugenkorrektur bereits innerhalb der elektronischen Recheneinrichtung statt, sodass vom Fahrerassistenzsystem bei der Auswertung des empfangenen Bilds weiterhin Zeit eingespart werden kann. Insbesondere ist die Fischaugenkorrektur hochgradig nicht-linear. Insbesondere weist somit die can also be referred to in particular as a look-up table, in particular has a large number of extrinsic and / or intrinsic parameters of the fisheye camera, as a result of which a reliable correction of the image with respect to the fisheye distortion can be carried out. In particular, the fisheye correction already takes place within the electronic computing device, so that time can still be saved by the driver assistance system when evaluating the received image. In particular, fisheye correction is highly non-linear. In particular, the
Nachschlagetabelle für jeden Pixel des nicht korrigierten Bildes ein entsprechender Pixel des korrigierten Bildes auf. Die Nachschlagetabelle wird insbesondere vorgegeben, wobei dies beispielsweise durch entsprechende Referenzmessungen durchgeführt werden kann. Dadurch ist es ermöglicht, dass während der Fischaugenkorrektur lediglich auf den Speicher der elektronischen Recheneinrichtung zurückgegriffen werden muss, um die entsprechende Fischaugenkorrektur vorzunehmen. Dies spart insbesondere Rechenzeit während der Fischaugenkorrektur ein. Look-up table for each pixel of the uncorrected image a corresponding pixel of the corrected image. The look-up table is specified in particular, this being possible, for example, by means of corresponding reference measurements. This makes it possible that only the memory of the electronic computing device has to be used during the fisheye correction in order to carry out the corresponding fisheye correction. In particular, this saves computing time during the fisheye correction.
Insbesondere kann vorgesehen sein, dass der erste Kompressionsalgorithmus und/oder der zweite Kompressionsalgorithmus ebenfalls mit entsprechenden Parametern in der Nachschlagetabelle abgespeichert werden, und ebenfalls mittels der Nachschlagetabelle die Kompression auf Basis der abgespeicherten Daten in der Nachschlagetabelle durchgeführt werden kann. Dadurch ist es ermöglicht, dass keine zusätzliche Laufzeit beziehungsweise Rechenkapazität benötigt wird, um die Kompression des Bilds durchzuführen. In particular, it can be provided that the first compression algorithm and / or the second compression algorithm are likewise stored in the look-up table with corresponding parameters, and the compression can also be carried out by means of the look-up table on the basis of the stored data in the look-up table. This makes it possible that no additional runtime or computing capacity is required to carry out the compression of the image.
Ferner hat es sich als vorteilhaft erwiesen, wenn der erste Bildbereich und/oder der zweite Bildbereich in Abhängigkeit einer Detektionshäufigkeit eines Auftretens eines bestimmten Objekts bestimmt werden. Beispielsweise kann vorgesehen sein, dass als bestimmtes Objekt ein Fußgänger vorgegeben ist. Insbesondere befinden sich Furthermore, it has proven to be advantageous if the first image area and / or the second image area are determined as a function of a detection frequency of an occurrence of a specific object. For example, it can be provided that as certain object a pedestrian is specified. In particular are
Fußgänger, welche von Bedeutung für das Fahrerassistenzsystem sind, in der näheren Umgebung zur Fischaugenkamera. Insbesondere kann dadurch der Abstandsbereich für den ersten Bildbereich und/oder für den zweiten Bildbereich in Abhängigkeit dieses Objekts gemacht werden. Sollte beispielsweise das Objekt als Kraftfahrzeug vorgegeben werden, so kann der jeweilige Abstandsbereich vergrößert werden, da insbesondere die Detektion von Kraftfahrzeugen im unmittelbaren Nahbereich der Fischaugenkamera eine geringere Bedeutung aufweist, als das Erfassen von Kraftfahrzeugen in einer fernen Umgebung zur Fischaugenkamera. Insbesondere ist somit die Definition des ersten Bildbereichs und insbesondere der damit verbundene Abstandsbereich und/oder der zweite Bildbereich und insbesondere der damit verbundene zweite Abstandsbereich durch die jeweiligen zu erfassenden Objekt beziehungsweise durch die Funktion des Fahrerassistenzsystems definiert. Insbesondere ist als Detektionshäufigkeit Pedestrians, which are important for the driver assistance system, in the vicinity of the fisheye camera. In particular, the distance area for the first image area and / or for the second image area can thereby be made dependent on this object. If, for example, the object is specified as a motor vehicle, the respective distance range can be enlarged, since in particular the detection of motor vehicles in the immediate vicinity of the fisheye camera is of less importance than the detection of motor vehicles in a distant environment from the fisheye camera. In particular, the definition of the first image area and in particular the associated distance area and / or the second image area and in particular the associated second distance area is thus defined by the respective object to be detected or by the function of the driver assistance system. In particular, the frequency of detection
beispielsweise vorgesehen, dass das Auftreten eines Fußgängers im Nahbereich größer ist als im Fernbereich, während beispielsweise das Auftreten des Kraftfahrzeugs im Fernbereich höher ist als im Nahbereich. Dadurch ist ein situationsabhängiges For example, it is provided that the occurrence of a pedestrian in the near range is greater than in the far range, while, for example, the occurrence of the motor vehicle in the far range is higher than in the close range. This is a situation dependent
Komprimieren des Bilds ermöglicht. Compress the image.
Ebenfalls vorteilhaft ist, wenn ein Parameter des ersten Kompressionsalgorithmus zum Komprimieren des ersten Bildbereichs und/oder ein Parameter des zweiten It is also advantageous if a parameter of the first compression algorithm for compressing the first image area and / or a parameter of the second
Kompressionsalgorithmus zum Komprimieren des zweiten Bildbereichs durch Vorgabe einer Bildgröße und/oder einer Verarbeitungszeit des komprimierten Bilds für das Fahrerassistenzsystem vom Fahrerassistenzsystem vorgegeben werden. Mit anderen Worten kann beispielsweise vorgesehen sein, dass das Fahrerassistenzsystem lediglich eine Bildgröße von einer vorbestimmten Pixelanzahl für die Verarbeitung benötigt, wobei dann wiederum die Kompression des ersten Bildbereichs und des zweiten Bildbereichs in Abhängigkeit dieser Bildgröße durchgeführt werden kann. Ferner kann beispielsweise vorgesehen sein, dass das Fahrerassistenzsystem zum Auswerten des übertragenen Bildes lediglich eine vorgegebene Verarbeitungszeit einrechnet und in Abhängigkeit davon wiederum die entsprechende Datengröße ausgerechnet wird und das Bild entsprechend komprimiert wird, um diese Verarbeitungszeit erreichen zu können. Compression algorithm for compressing the second image area by specifying an image size and / or a processing time of the compressed image for the driver assistance system can be specified by the driver assistance system. In other words, it can be provided, for example, that the driver assistance system only requires an image size of a predetermined number of pixels for processing, in which case the compression of the first image area and the second image area can then be carried out as a function of this image size. Furthermore, it can be provided, for example, that the driver assistance system only evaluates a predetermined processing time for evaluating the transmitted image and, depending on this, the corresponding data size is again calculated and the image is compressed accordingly in order to be able to achieve this processing time.
Dadurch ist es ermöglicht, dass zuverlässig und in Abhängigkeit einer gewünschten Verarbeitungszeit und/oder einer vorgegebene Bildgröße des Fahrerassistenzsystems das komprimierte Bild angepasst werden kann. This makes it possible for the compressed image to be adapted reliably and as a function of a desired processing time and / or a predetermined image size of the driver assistance system.
In einer weiteren vorteilhaften Ausgestaltungsform wird mittels des ersten In a further advantageous embodiment, the first
Kompressionsalgorithmus und des zweiten Kompressionsalgorithmus eine Kompression des Fischaugenbilds zwischen 20% und 70% durchgeführt. Insbesondere kann innerhalb dieses Bereiches von 20% und 70% der ursprünglichen Bildgröße, wobei die Bildgröße insbesondere der ursprünglichen Datenmenge entspricht, die Kompression durchgeführt werden. Dadurch ist es ermöglicht, dass abhängig von der gewünschten Compression algorithm and the second compression algorithm a compression of the fisheye image between 20% and 70%. In particular, the compression can be carried out within this range of 20% and 70% of the original image size, the image size corresponding in particular to the original amount of data. This enables that depending on the one you want
Informationsdichte und/oder der gewünschten Verarbeitungszeit eine entsprechende Kompression des Bilds durchgeführt werden kann. Beispielsweise hat dies den Vorteil, sollte lediglich vom Fahrerassistenzsystem ein Bild benötigt werden mit wenig Information density and / or the desired processing time, a corresponding compression of the image can be carried out. This has the advantage, for example, if an image with little is only required by the driver assistance system
Umgebungsinformationen, so kann eine Kompression mit 70% gewählt werden, sodass insbesondere das Bild entsprechend vom Fahrerassistenzsystem schnell ausgewertet werden kann. Sollte beispielsweise vom Fahrerassistenzsystem gewünscht sein, dass eine hohe Umgebungsinformationsdichte weiterhin erhalten bleibt, so kann das Bild lediglich mit 20% komprimiert werden, sodass das komprimierte Bild weiterhin eine hohe Informationsdichte aufweist und dennoch schneller bearbeitet werden kann, als das nicht komprimierte Bild. Dadurch kann situationsabhängig und funktionsabhängig vom Surrounding information, a compression of 70% can be selected, so that the driver assistance system in particular can quickly evaluate the image accordingly. If, for example, the driver assistance system wishes that a high density of surrounding information is maintained, the image can only be compressed by 20%, so that the compressed image still has a high information density and can nevertheless be processed faster than the uncompressed image. This can depend on the situation and the function of the
Fahrerassistenzsystem die Kompression des Bilds durchgeführt werden. Driver assistance system can be used to compress the image.
Ein weiterer Aspekt der Erfindung betrifft eine elektronische Recheneinrichtung, welche zum Durchführen des Verfahrens nach dem vorhergehenden Aspekt ausgebildet ist. Insbesondere wird das Verfahren mittels der elektronischen Recheneinrichtung durchgeführt. Another aspect of the invention relates to an electronic computing device which is designed to carry out the method according to the preceding aspect. In particular, the method is carried out by means of the electronic computing device.
Ein nochmals weiterer Aspekt der Erfindung betrifft ein Computerprogrammprodukt mit Programmcodemitteln, welche in einem computerlesbaren Medium gespeichert sind um das Verfahren zum Betreiben einer Fischaugenkamera nach dem vorhergehenden Aspekt durchzuführen, wenn das Computerprogrammprodukt auf einem Prozessor der elektronischen Recheneinrichtung abgearbeitet wird. A still further aspect of the invention relates to a computer program product with program code means which are stored in a computer-readable medium in order to carry out the method for operating a fisheye camera according to the preceding aspect when the computer program product is processed on a processor of the electronic computing device.
Ein nochmals weiterer Aspekt der Erfindung betrifft eine Fischaugenkamera mit einer elektronischen Recheneinrichtung nach dem vorhergehenden Aspekt. Yet another aspect of the invention relates to a fisheye camera with an electronic computing device according to the previous aspect.
Ein nochmals weiterer Aspekt der Erfindung betrifft ein Fahrerassistenzsystem mit einer Fischaugenkamera. Bei einem teilweise autonomen Betrieb beziehungsweise bei einem vollautonomen Betrieb des Kraftfahrzeugs kann das Fahrerassistenzsystem auch als elektronisches Fahrzeugführungssystem bezeichnet werden. Ein nochmals weiterer Aspekt der Erfindung betrifft ein Kraftfahrzeug mit einem Yet another aspect of the invention relates to a driver assistance system with a fisheye camera. In the case of partially autonomous operation or fully autonomous operation of the motor vehicle, the driver assistance system can also be referred to as an electronic vehicle guidance system. Yet another aspect of the invention relates to a motor vehicle with a
Fahrerassistenzsystem nach dem vorhergehenden Aspekt. Das Kraftfahrzeug ist insbesondere als Personenkraftwagen ausgebildet. Driver assistance system according to the previous aspect. The motor vehicle is designed in particular as a passenger car.
Vorteilhafte Ausgestaltungsformen des Verfahrens sind als vorteilhafte Advantageous embodiments of the method are advantageous
Ausgestaltungsformen der elektronischen Recheneinrichtung, der Fischaugenkamera sowie des Fahrerassistenzsystems anzusehen. Die elektronische Recheneinrichtung, die Fischaugenkamera und das Fahrerassistenzsystem weisen dazu gegenständliche Merkmale auf, welche eine Durchführung des Verfahrens oder einer vorteilhaften Ausgestaltungsform davon ermöglichen. To see designs of the electronic computing device, the fisheye camera and the driver assistance system. For this purpose, the electronic computing device, the fisheye camera and the driver assistance system have physical features which enable the method or an advantageous embodiment thereof to be carried out.
Weitere Merkmale der Erfindung ergeben sich aus den Ansprüchen, den Figuren und der Figurenbeschreibung. Die vorstehend in der Beschreibung genannten Merkmale und Merkmalskombinationen sowie die nachfolgend in der Figurenbeschreibung genannten und/oder in den Figuren alleine gezeigten Merkmale und Merkmalskombinationen sind nicht nur in der jeweils angegebenen Kombination, sondern auch in anderen Kombinatio nen verwendbar, ohne den Rahmen der Erfindung zu verlassen. Es sind somit auch Aus führungen von der Erfindung als umfasst und offenbart anzusehen, die in den Figuren nicht explizit gezeigt und erläutert sind, jedoch durch separierte Merkmalskombinationen aus den erläuterten Ausführungen hervorgehen und erzeugbar sind. Es sind auch Aus führungen und Merkmalskombinationen als offenbart anzusehen, die somit nicht alle Merkmale eines ursprünglich formulierten unabhängigen Anspruchs aufweisen. Es sind darüber hinaus Ausführungen und Merkmalskombinationen, insbesondere durch die oben dargelegten Ausführungen, als offenbart anzusehen, die über die in den Rückbezügen der Ansprüche dargelegten Merkmalskombinationen hinausgehen oder abweichen. Further features of the invention result from the claims, the figures and the description of the figures. The features and combinations of features mentioned above in the description and the features and combinations of features mentioned below in the description of the figures and / or shown alone in the figures can be used not only in the combination indicated in each case, but also in other combinations, without the scope of the invention leave. There are thus also embodiments of the invention to be regarded as encompassed and disclosed, which are not explicitly shown and explained in the figures, but can be derived from the explanations given and can be generated by separate combinations of features. There are also designs and combinations of features to be regarded as disclosed, which therefore do not have all the features of an originally formulated independent claim. Furthermore, versions and combinations of features, in particular those explained above, are to be regarded as disclosed, which go beyond or differ from the combinations of features set out in the references of the claims.
Im Weiteren werden Ausführungsformen der Erfindung anhand schematischer In the following, embodiments of the invention are made more schematic
Zeichnungen näher erläutert: Drawings explained in more detail:
Dabei zeigen: Show:
Fig. 1 eine schematische Draufsicht auf ein Kraftfahrzeug mit einer Fig. 1 is a schematic plan view of a motor vehicle with a
Ausführungsform eines Fahrerassistenzsystems;  Embodiment of a driver assistance system;
Fig. 2 eine schematische Ansicht eines aufgenommenen Bilds einer Fig. 2 is a schematic view of a captured image
Ausführungsform einer Fischaugenkamera; Fig. 3 ein schematisches Blockschaltbild einer Ausführungsform des Embodiment of a fisheye camera; Fig. 3 is a schematic block diagram of an embodiment of the
erfindungsgemäßen Verfahrens;  method according to the invention;
Fig. 4 eine schematische Ansicht einer Ausführungsform des Verfahrens; 4 shows a schematic view of an embodiment of the method;
Fig. 5 eine weitere schematische Ansicht einer Ausführungsform des Verfahrens; Fig. 6 eine weitere schematische Ansicht einer Aufnahme einer Ausführungsform einer Fischaugenkamera; und 5 shows a further schematic view of an embodiment of the method; 6 shows a further schematic view of a recording of an embodiment of a fisheye camera; and
Fig. 7 ein schematisches Diagramm zur Veranschaulichung des Verfahrens. 7 shows a schematic diagram to illustrate the method.
In den Fig. sind gleiche oder funktionsgleiche Bauteile mit den gleichen Bezugszeichen versehen. Identical or functionally identical components are provided with the same reference symbols in the figures.
Fig. 1 zeigt ein Kraftfahrzeug 1 in einer Draufsicht. Im vorliegenden Fall ist das 1 shows a motor vehicle 1 in a top view. In the present case it is
Kraftfahrzeug 1 als Personenkraftwagen ausgebildet. Das Kraftfahrzeug 1 umfasst ein Kamerasystem 2. Das Kamerasystem 2 wiederum kann ein Teil eines Motor vehicle 1 designed as a passenger car. The motor vehicle 1 comprises a camera system 2. The camera system 2 in turn can be part of a
Fahrerassistenzsystems 3 sein. Des Weiteren umfasst das Kamerasystem 2 mindestens eine Fischaugenkamera 4. In der vorliegenden Ausführungsform umfasst das Driver assistance system 3. Furthermore, the camera system 2 comprises at least one fisheye camera 4. In the present embodiment, this includes
Kamerasystem 2 beispielsweise vier Fischaugenkameras 4, welche sich an Camera system 2, for example, four fisheye cameras 4, which turn on
verschiedenen Plätzen über das Kraftfahrzeug 1 verteilt befinden. Jedoch können zum Beispiel auch nur zwei Fischaugenkameras 4 oder drei Fischaugenkameras 4 oder auch mehr als vier Fischaugenkameras 4 vorgesehen sein. Vorliegend sind eine der different places are distributed over the motor vehicle 1. However, for example, only two fisheye cameras 4 or three fisheye cameras 4 or more than four fisheye cameras 4 can also be provided. These are one of the
Fischaugenkameras 4 in einem hinteren Bereich 5, eine der Fischaugenkameras 4 in einem vorderen Bereich 7 des Kraftfahrzeugs 1 und die verbleibenden zwei  Fisheye cameras 4 in a rear area 5, one of the fisheye cameras 4 in a front area 7 of the motor vehicle 1 and the remaining two
Fischaugenkameras 4 in einem jeweiligen seitlichen Bereich 6, insbesondere in einem Bereich der Seitenspiegel des Kraftfahrzeugs 1 angeordnet. Vorliegend sind Anzahl und Anordnung der Fischaugenkameras 4 des Kamerasystems 2 rein beispielhaft zu verstehen. Fisheye cameras 4 are arranged in a respective lateral area 6, in particular in an area of the side mirrors of the motor vehicle 1. In the present case, the number and arrangement of the fisheye cameras 4 of the camera system 2 are to be understood purely as examples.
Bei dem erfindungsgemäße Verfahren zum Betreiben der Fischaugenkamera 4 für das Fahrerassistenzsystem 3 des Kraftfahrzeugs 1 , wird mittels der Fischaugenkamera 4 ein Fischaugenbild 12 (Fig. 2) in Abhängigkeit zumindest eines ersten Bildbereichs 13 (Fig. 2) des Fischaugenbilds 12 und eines zweiten Bildbereichs 14 (Fig. 2) des Fischaugenbilds 12 für das Fahrerassistenzsystem 3 mittels der elektronischen In the method according to the invention for operating the fisheye camera 4 for the driver assistance system 3 of the motor vehicle 1, the fisheye camera 4 uses the fisheye camera 4 to produce a fisheye image 12 (FIG. 2) depending on at least a first image area 13 (FIG. 2) of the fisheye image 12 and a second image area 14 (Fig. 2) of the Fish eye image 12 for the driver assistance system 3 by means of the electronic
Recheneinrichtung 1 1 der Fischaugenkamera 4 ausgewertet. Computing device 1 1 of the fisheye camera 4 evaluated.
Es ist vorgesehen, dass der erste Bildbereich 13 durch einen ersten Abstandsbereich 15 (Fig. 2) zur Fischaugenkamera 4 und der zweite Bildbereich 14 durch einen zum ersten Abstandsbereich 15 unterschiedlichen zweiten Abstandsbereich 16 zur It is provided that the first image area 13 through a first distance area 15 (FIG. 2) to the fisheye camera 4 and the second image area 14 through a second distance area 16 different from the first distance area 15
Fischaugenkamera 4 vorgegeben werden und der ersten Bildbereich 13 mit einem erstem Kompressionsalgorithmus 17 (Fig. 2) und der zweite Bildbereich 14 mit einem zum ersten Kompressionsalgorithmus 17 unterschiedlichen zweiten Kompressionsalgorithmus 18 (Fig. 2) komprimiert werden und ein in Abhängigkeit des komprimierten ersten Fisheye camera 4 are specified and the first image area 13 is compressed with a first compression algorithm 17 (FIG. 2) and the second image area 14 is compressed with a second compression algorithm 18 (FIG. 2) that is different from the first compression algorithm 17 and one as a function of the compressed first
Bildbereichs 13 und des komprimierten zweiten Bildbereichs 14 komprimiertes Bild 19 mittels der elektronischen Recheneinrichtung 1 1 erzeugt wird und an das Image area 13 and the compressed second image area 14 compressed image 19 is generated by means of the electronic computing device 11 and sent to the
Fahrerassistenzsystem 3 zum Auswerten übertragen wird. Driver assistance system 3 is transmitted for evaluation.
Insbesondere findet somit eine Kompression 25 (Fig. 3) des Fischaugenbilds 12 in Abhängigkeit des jeweiligen Bildbereichs 13, 14 des Fischaugenbilds 12 statt, wobei der Bildbereich 13, 14 insbesondere abstandsabhängig ist. Beispielsweise kann vorgesehen sein, dass ein Nahbereich der Fischaugenkamera 4, welcher insbesondere aufgrund der Anordnung am Kraftfahrzeug 1 ein Bereich direkt vor dem Kraftfahrzeug 1 ist, entsprechend hoch komprimiert wird, da insbesondere hier wenig Informationen vorhanden sind, und daher ein geringer Informationsverlust bei der Kompression 25 stattfindet. Insbesondere kann ein weiter entfernter Bereich zur Fischaugenkamera 4 als Bildbereich 13, 14 identifiziert werden und dieser wiederum entsprechend weniger komprimiert werden, insbesondere dekomprimiert, also eine negative Kompression 25, werden, sodass bei diesem Bildbereich 13, 14 eine höhere Informationsdichte erzeugt werden kann. Insbesondere werden dann diese beiden komprimierten Bildbereiche 13, 14 in das gemeinsame komprimierte Bild 19 zusammengefasst und an das In particular, compression 25 (FIG. 3) of the fisheye image 12 takes place as a function of the respective image area 13, 14 of the fisheye image 12, the image area 13, 14 being particularly dependent on the distance. For example, it can be provided that a close-up area of the fisheye camera 4, which is an area directly in front of the motor vehicle 1, in particular due to the arrangement on the motor vehicle 1, is compressed accordingly, since in particular little information is available here, and therefore a small loss of information during compression 25 takes place. In particular, an area further away from the fisheye camera 4 can be identified as the image area 13, 14 and this in turn can be correspondingly less compressed, in particular decompressed, that is to say a negative compression 25, so that a higher information density can be generated in this image area 13, 14. In particular, these two compressed image areas 13, 14 are then combined into the common compressed image 19 and to the
Fahrerassistenzsystem 3 zum Übertragen übergeben. Hand over driver assistance system 3 for transmission.
Das Fahrerassistenzsystem 3 kann dann mittels des Computervision-Algorithmus beispielsweise das komprimierte Bild 19 bearbeiten, wodurch Rechenzeit eingespart werden kann. Insbesondere wird dabei die Rechenzeit eingespart, ohne signifikante Informationsverluste hinnehmen zu müssen. Dadurch ist eine effizientere Nutzung der elektronischen Recheneinrichtung des Fahrerassistenzsystems 3 ermöglicht. The driver assistance system 3 can then, for example, process the compressed image 19 by means of the computer vision algorithm, as a result of which computing time can be saved. In particular, the computing time is saved without having to accept significant information losses. This enables a more efficient use of the electronic computing device of the driver assistance system 3.
Insbesondere kann dadurch eine schnellere Auswertung des Fischaugenbilds 12 durchgeführt werden. Ferner ist es ermöglicht, dass beispielsweise Prozessoren in der elektronischen Recheneinrichtung verwendet werden, welche eine geringere Rechenleistung aufweisen können, wodurch beispielsweise Raum beziehungsweise Kosten bezüglich der elektronischen Recheneinrichtung eingespart werden können. In particular, a faster evaluation of the fisheye image 12 can thereby be carried out. Furthermore, it is possible that, for example, processors are used in the electronic computing device which are smaller Can have computing power, which for example saves space or costs with respect to the electronic computing device.
Insbesondere kann vorgesehen sein, dass mittels des ersten Kompressionsalgorithmus 17 und/oder mittels des zweiten Kompressionsalgorithmus 18 eine Kompression 25 des ersten Bildbereichs 13 und/oder des zweiten Bildbereichs 14 bezüglich der Datenmenge des Fischaugenbilds 12 stattfindet. Mit anderen Worten kann das Bild insbesondere bezüglich beispielsweise der jeweiligen Pixel im ersten Bildbereich 13 und/oder im zweiten Bildbereich 14 komprimiert werden. Somit wird eine geringere Datenmenge im komprimierten Bild 19 bereitgestellt, welche dann an das Fahrerassistenzsystem 3 übertragen werden kann. In particular, it can be provided that the first compression algorithm 17 and / or the second compression algorithm 18 are used to compress the first image area 13 and / or the second image area 14 with respect to the amount of data in the fisheye image 12. In other words, the image can be compressed in particular with respect to the respective pixels in the first image area 13 and / or in the second image area 14. A smaller amount of data is thus provided in the compressed image 19, which can then be transmitted to the driver assistance system 3.
Ferner kann vorgesehen sein, dass auch das visuell sichtbare Bild entsprechend seiner Größe komprimiert werden kann, wodurch dann wiederum ebenfalls die Datenmenge entsprechend komprimiert wird, welche an das Fahrerassistenzsystem 3 übertragen wird. Furthermore, it can be provided that the visually visible image can also be compressed in accordance with its size, as a result of which the amount of data which is transmitted to the driver assistance system 3 is in turn compressed accordingly.
Insbesondere kann zwischen dem ersten Bildbereich 13 und dem zweiten Bildbereich 14 eine fließende Kompression 25 stattfinden. Mit anderen Worten findet zumindest an einem gemeinsamen Grenzbereich des ersten Bildbereichsl 3 und des zweiten In particular, a flowing compression 25 can take place between the first image area 13 and the second image area 14. In other words, at least at a common border area of the first image area 13 and the second
Bildbereichs 14 im Wesentlichen die gleiche Kompression 25 statt. Insbesondere ist somit in benachbarten Bildbereichen 13, 14, was bevorzugt ist, eine lineare Kompression 25 zu verzeichnen. Image area 14 essentially the same compression 25 instead. In particular, linear compression 25 is thus recorded in adjacent image areas 13, 14, which is preferred.
Insbesondere weist das komprimierte Bild 19 weiterhin die gleichen Objekte 26, 27 (Fig.In particular, the compressed image 19 also has the same objects 26, 27 (FIG.
5) in der Umgebung 4 der Fischaugenkamera 4 auf, wie das aufgenommene 5) in the area 4 of the fisheye camera 4 on how the captured
Fischaugenbild 12, während das komprimierte Bild 19 signifikant kleiner ausgebildet ist. Ferner weist das komprimierte Bild 19 einen Unterschied in der Objektgröße auf, wobei insbesondere Objekte 26, 27, welche weiter entfernt sind, größer erscheinen als Objekte 26, 27 welche nah erscheinen, insbesondere werden die Objekte 26, 27, die nah sind, kleiner dargestellt, was insbesondere für eine Objektdetektion vorteilhaft sein kann. Fisheye image 12, while the compressed image 19 is significantly smaller. Furthermore, the compressed image 19 has a difference in the object size, in particular objects 26, 27 which are further away appear larger than objects 26, 27 which appear close, in particular the objects 26, 27 which are close are shown smaller , which can be particularly advantageous for object detection.
Es kann insbesondere vorgesehen sein, dass zusätzlich zum Erzeugen des In particular, it can be provided that, in addition to generating the
komprimierten Bilds 19 eine Fischaugenkorrektur 20 (Fig. 3) mittels der elektronischen Recheneinrichtung 1 1 durchgeführt wird. Insbesondere kann vorgesehen sein, dass vor dem Erzeugen des komprimierten Bilds 19 die Fischaugenkorrektur 20 durchgeführt wird. Mit anderen Worten wird neben der Kompression 25 des ersten Bildbereichs 13 und des zweiten Bildbereichs 14 zum komprimierten Bild 19 auch eine Korrektur des Fischaugenbilds 12 durchgeführt. Insbesondere wird dies bereits mittels der compressed image 19, a fisheye correction 20 (FIG. 3) is carried out by means of the electronic computing device 11. In particular, it can be provided that the fisheye correction 20 is carried out before generating the compressed image 19. In other words, in addition to the compression 25 of the first image area 13 and the second image area 14, the image 19 is also corrected Fisheye image 12 performed. In particular, this is already done using the
elektronischen Recheneinrichtung 1 1 der Fischaugenkamera 4 durchgeführt, sodass dem Fahrerassistenzsystem 3 ein komprimiertes und korrigiertes Bild 19 zur Verfügung gestellt werden kann. Dies hat insbesondere den Vorteil, dass das electronic computing device 11 of the fisheye camera 4, so that the driver assistance system 3 can be provided with a compressed and corrected image 19. This has the particular advantage that the
Fahrerassistenzsystem 3 bereits das komprimierte und korrigierte Bild 19 auswerten kann, wodurch eine rechenkapazitätseinsparende und zuverlässige Auswertung des Fischaugenbilds 12 mittels des Fahrerassistenzsystems 3 durchgeführt werden kann. Driver assistance system 3 can already evaluate the compressed and corrected image 19, as a result of which a computational capacity-saving and reliable evaluation of the fisheye image 12 can be carried out by means of the driver assistance system 3.
Fig. 2 zeigt in einer schematischen Ansicht eine Aufnahme einer Fischaugenkamera 4. Im Figurenteil a) ist das Fischaugenbild 12 gezeigt, während im Figurenteil b) das komprimierte Bild 19 gezeigt ist. Im Figurenteil a) ist ferner zu sehen, dass der ersten Abstandsbereich 15 als Nahbereich der Fischaugenkamera 4 vorgegeben wird und der zweite Abstandsbereich 16 als Fernbereich der Fischaugenkamera 4 vorgegeben wird. Insbesondere zeigt Fig. 2, dass eine Kompression 25 des Nahbereichs größer ist als eine Kompression 25 des Fernbereichs. Insbesondere ist zu sehen, dass der Fernbereich dekomprimiert wird und der Nahbereich komprimiert wird. Insbesondere kann FIG. 2 shows a schematic view of a recording of a fisheye camera 4. In the part a) the fisheye image 12 is shown, while in the part b) the compressed image 19 is shown. In part a) it can also be seen that the first distance range 15 is specified as the close range of the fisheye camera 4 and the second distance range 16 is specified as the far range of the fisheye camera 4. In particular, FIG. 2 shows that a compression 25 of the near range is greater than a compression 25 of the far range. In particular, it can be seen that the far area is decompressed and the near area is compressed. In particular, can
beispielsweise der Fernbereich einen Fluchtpunkt 28 (Fig. 6) der Fischaugenkamera 4 umfassen. Insbesondere findet im Fluchtpunkt28 keine Kompression 25 statt, während sich bei einer Entfernung vom Fluchtpunkt 28 die Kompression 25 vergrößert. Mit anderen Worten ist insbesondere vorgesehen, dass auch innerhalb des Nahbereichs und/oder des Fernbereichs eine nicht-lineare Kompression 25 durchgeführt wird. For example, the far range may include a vanishing point 28 (FIG. 6) of the fisheye camera 4. In particular, no compression 25 takes place in the vanishing point 28, while the compression 25 increases with a distance from the vanishing point 28. In other words, it is provided in particular that a non-linear compression 25 is also carried out within the near range and / or the far range.
Insbesondere ist es dadurch verhindert, dass im Fernbereich Informationsverluste stattfinden, während die Informationsdichte im Nahbereich beispielsweise steigt, sodass dennoch zuverlässig die Umgebung 4 erfasst werden kann und beispielsweise eine Objektdetektion mittels des Fahrerassistenzsystems 3 durchgeführt werden kann. In particular, this prevents information losses from taking place in the long range, while the information density in the close range increases, for example, so that the surroundings 4 can still be reliably detected and, for example, object detection can be carried out using the driver assistance system 3.
Bevorzugt weist der Nahbereich und der Fernbereich im Fischaugenbild 12 eine gemeinsame Grenze auf, so dass ein fließender Übergang vom Fernbereich zum The near area and the far area preferably have a common boundary in the fisheye image 12, so that a smooth transition from the far area to the
Nahbereich realisiert ist. Insbesondere weist das Fischaugenbild 12 nur den Fernbereich und den Nahbereich auf. Close range is realized. In particular, the fisheye image 12 only has the far and near range.
Ferner zeigt Fig. 2, dass zumindest ein dritter Bildbereich 21 des Fischaugenbilds 12 mittels zumindest eines dritten Kompressionsalgorithmus 22, welcher unterschiedlich zum ersten Kompressionsalgorithmus 17 und zum zweiten Kompressionsalgorithmus 18 ist, komprimiert wird und ein in Abhängigkeit des komprimierten ersten Bildbereichs 13, des komprimierten zweiten Bildbereichs 14 und des zumindest dritten komprimierten Bildbereichs 21 komprimiertes Bild 19 mittels der elektronischen Recheneinrichtung 10 erzeugt wird und an das Fahrerassistenzsystem 3 zum Auswerten übertragen wird. Furthermore, FIG. 2 shows that at least a third image area 21 of the fisheye image 12 is compressed by means of at least a third compression algorithm 22, which is different from the first compression algorithm 17 and the second compression algorithm 18, and one as a function of the compressed first image area 13, the compressed second Image area 14 and the at least third compressed Image area 21 compressed image 19 is generated by means of the electronic computing device 10 and is transmitted to the driver assistance system 3 for evaluation.
Im Figurenteil b) der Fig. 2 ist gezeigt, wie nach der Nutzung des ersten In part b) of FIG. 2 it is shown how after using the first
Kompressionsalgorithmus 17, des zweiten Kompressionsalgorithmus 18 und des dritten Kompressionsalgorithmus 22 das komprimierte Bild 19 erzeugt ist. Insbesondere ist zu sehen, dass der Fernbereich keine beziehungsweise eine geringe Kompression 25 erfahren hat, während der Nahbereich eine starke Kompression 25 erfahren hat. Ferner hat der Himmelbereich des dritten Bildbereichs 21 , ebenfalls eine starke Kompression 25 erhalten. Das komprimierte Bild 19 ist sowohl in seiner Datengröße als auch in seiner optischen Anzeigegröße deutlich verkleinert. Insbesondere wird dieses komprimierte BildCompression algorithm 17, the second compression algorithm 18 and the third compression algorithm 22, the compressed image 19 is generated. In particular, it can be seen that the far area has experienced no or a low compression 25, while the near area has experienced a strong compression 25. Furthermore, the sky area of the third image area 21 has also received a strong compression 25. The compressed image 19 is significantly reduced both in its data size and in its optical display size. In particular, this compressed image
19 dann wiederum an das Fahrerassistenzsystem 3 übertragen. Insbesondere kann beispielsweise vorgesehen sein, dass das komprimierte Bild 19 an das erste 19 then in turn transmitted to the driver assistance system 3. In particular, it can be provided, for example, that the compressed image 19 is sent to the first
Fahrerassistenzuntersystem 9 und/oder an das zweite Fahrerassistenzuntersystem 10 gesendet wird. Driver assistance subsystem 9 and / or is sent to the second driver assistance subsystem 10.
Fig. 3 zeigt in einem schematischen Blockschaltbild eine Ausführungsform des Fig. 3 shows a schematic block diagram of an embodiment of the
Verfahrens. Das Fischaugenbild 12 wird der elektronischen Recheneinrichtung 1 1 zur Verfügung gestellt. Im Verfahrensblock 23 wird sowohl die Kompression 25 als auch die Fischaugenkorrektur 20 durchgeführt. Hierzu kann die elektronische Recheneinrichtung 1 1 eine Nachschlagetabelle 24 aufweisen. In der Nachschlagetabelle 24, welche auch als Look-up-Tabelle bezeichnet werden kann, kann zumindest ein extrinsischer und/oder intrinsischer Parameter der Fischaugenkamera 4 in der Nachschlagetabelle 24 der elektronischen Recheneinrichtung 1 1 abgespeichert werden und die FischaugenkorrekturProcedure. The fisheye image 12 is made available to the electronic computing device 11. In method block 23, both compression 25 and fisheye correction 20 are carried out. For this purpose, the electronic computing device 11 can have a look-up table 24. In the look-up table 24, which can also be referred to as a look-up table, at least one extrinsic and / or intrinsic parameter of the fisheye camera 4 can be stored in the look-up table 24 of the electronic computing device 11 and the fisheye correction
20 und die Kompression 25 in Abhängigkeit des abgespeicherten extrinsischen und/oder des abgespeicherten intrinsischen Parameters durchgeführt werden. Als Eingangswerte für die Nachschlagetabelle 24 können insbesondere die Parameter der 20 and the compression 25 depending on the stored extrinsic and / or the stored intrinsic parameter. The parameters of, in particular, can be used as input values for the look-up table 24
Fischaugenkorrektur 20 und Parameter für die Kompression 25 zur Verfügung gestellt werden. Es wird dann nach der Fischaugenkorrektur 20 und der Kompression 25 das komprimierte Bild 19 an das Fahrerassistenzsystem 3, insbesondere an ein erstes Fahrerassistenzuntersystem 9 und ein zweites Fahrerassistenzuntersystem 10 gesendet, wobei hier beispielsweise mittels eines Computervision-Algorithmus dann das Fisheye correction 20 and parameters for the compression 25 are provided. After the fisheye correction 20 and the compression 25, the compressed image 19 is then sent to the driver assistance system 3, in particular to a first driver assistance subsystem 9 and a second driver assistance subsystem 10, here, for example, using a computer vision algorithm
komprimierte Bild 19 ausgewertet werden kann. compressed image 19 can be evaluated.
Mittels des ersten Fahrzeuguntersystems 9 kann beispielsweise eine Objektdetektion durchgeführt werden und mittels des zweiten Fahrerassistenzuntersystems 10 kann beispielsweise ein Parkvorgang unterstützt werden. Insbesondere kann vorgesehen sein, dass in Abhängigkeit einer Funktion des Object detection can be carried out by means of the first vehicle subsystem 9, for example, and a parking process can be supported by means of the second driver assistance subsystem 10. In particular, it can be provided that, depending on a function of the
Fahrerassistenzsystems 3 beziehungsweise des jeweiligen Fahrerassistenzuntersystems 9, 10 ein Parameter des ersten Kompressionsalgorithmus 17 zum Komprimieren 25 des ersten Bildbereichs 13 und/oder ein Parameter des zweiten Kompressionsalgorithmus 18 zum Komprimieren 25 des zweiten Bildbereichs 14 mittels der elektronischen Driver assistance system 3 or the respective driver assistance subsystem 9, 10 a parameter of the first compression algorithm 17 for compressing 25 the first image area 13 and / or a parameter of the second compression algorithm 18 for compressing 25 the second image area 14 by means of the electronic
Recheneinrichtung 1 1 ausgewählt wird. Computing device 1 1 is selected.
Fig. 4 zeigt in einer schematischen Ansicht eine Au sfüh rungsform des Verfahrens. In Fig. 4 ist gezeigt, dass das Fischaugenbild 12 mittels der Kompression 25 in unterschiedliche komprimierte Bild 19‘, 19“, 19‘“ komprimiert werden kann. Insbesondere zeigt Fig. 4, dass das Fischaugenbild 12 in ein erstes komprimiertes Bild 19‘ und/oder in ein zweites komprimiertes Bild 19“ und/oder in ein drittes komprimiertes Bild 19‘“ komprimiert werden kann? Fig. 4 shows a schematic view of an embodiment of the method. 4 shows that the fisheye image 12 can be compressed into different compressed images 19 ″, 19 ″, 19 ″ by means of the compression 25. In particular, FIG. 4 shows that the fisheye image 12 can be compressed into a first compressed image 19 ″ and / or into a second compressed image 19 ″ and / or into a third compressed image 19 ″ ”?
Ferner zeigt Fig. 4, dass insbesondere mittels einem nicht-linearen hyperbolischen Projektionsalgorithmus 33 (Fig. 7) der erste Bildbereich 13 und/oder der zweite Furthermore, FIG. 4 shows that the first image area 13 and / or the second one, in particular by means of a non-linear hyperbolic projection algorithm 33 (FIG. 7)
Bildbereich 14 komprimiert werden kann. Mit andern Worten handelt es sich bei dem ersten Kompressionsalgorithmus 17 um einen nicht-linearen hyperbolischen Image area 14 can be compressed. In other words, the first compression algorithm 17 is a non-linear hyperbolic
Projektionsalgorithmus. Insbesondere kann es sich auch bei dem zweiten Projection algorithm. In particular, it can also be the second
Kompressionsalgorithmus 18 um einen nicht-linearen hyperbolischen Compression algorithm 18 around a non-linear hyperbolic
Projektionsalgorithmus 33 handeln. Mit anderen Worten ist vorgesehen, dass somit nicht linear die Kompression 25 im ersten Bildbereich 13 und/oder im zweiten Bildbereich 14 durchgeführt wird. Mittels des nicht-linearen hyperbolischen Projektionsalgorithmus 33 kann somit die jeweilige Stärke der Kompression 25, insbesondere pixelweise, realisiert und nachvollzogen werden. Mittels des nicht-linearen hyperbolischen Act projection algorithm 33. In other words, it is provided that the compression 25 is therefore not performed linearly in the first image area 13 and / or in the second image area 14. The respective strength of the compression 25, in particular pixel by pixel, can thus be realized and reproduced by means of the non-linear hyperbolic projection algorithm 33. By means of the non-linear hyperbolic
Projektionsalgorithmus 33 kann ein zuverlässiger Kompressionsalgorithmus 17, 18, 22 bereitgestellt werden, mittels welchem Rechenaufwand reduziert werden kann und das komprimierte Bild 19‘, 19“, 19‘“ mittels des Fahrerassistenzsystems 3 ausgewertet werden kann. Projection algorithm 33, a reliable compression algorithm 17, 18, 22 can be provided, by means of which computing effort can be reduced and the compressed image 19 ″, 19 “, 19 ″” can be evaluated by means of the driver assistance system 3.
Ferner zeigt Fig. 4, dass ein Parameter des ersten Kompressionsalgorithmus 17 zum Komprimieren 25 des ersten Bildbereichs 13 und/oder ein Parameter des zweiten Kompressionsalgorithmus 18 zum Komprimieren 25 des zweiten Bildbereichs 14 durch Vorgabe einer Bildgröße G und/oder einer Verarbeitungszeit des komprimierten Bilds 19‘, 19“, 19‘“ für das Fahrerassistenzsystem 3 vom Fahrerassistenzsystem 3 vorgegeben werden. Mit anderen Worten kann beispielsweise vorgesehen sein, dass das Fahrerassistenzsystem 3 lediglich eine Bildgröße G von einer vorbestimmten Pixelanzahl für die Verarbeitung benötigt, wobei dann wiederum die Kompression 25 des ersten Bildbereichs 13 und des zweiten Bildbereichs 14 in Abhängigkeit dieser Bildgröße G durchgeführt werden kann. Ferner kann beispielsweise vorgesehen sein, dass das Fahrerassistenzsystem 3 zum Auswerten des übertragenen Bildes 19‘, 19“, 19‘“ lediglich eine vorgegebene Verarbeitungszeit einrechnet und in Abhängigkeit davon wiederum die entsprechende Datengröße ausgerechnet wird und das Fischaugenbild 12 entsprechend komprimiert wird, um diese Verarbeitungszeit erreichen zu können. Dadurch ist es ermöglicht, dass zuverlässig und in Abhängigkeit einer gewünschten Verarbeitungszeit und/oder einer vorgegebene Bildgröße G des Fahrerassistenzsystems 3 das 4 furthermore shows that a parameter of the first compression algorithm 17 for compressing 25 the first image area 13 and / or a parameter of the second compression algorithm 18 for compressing 25 the second image area 14 by specifying an image size G and / or a processing time of the compressed image 19 ', 19 ", 19'" for driver assistance system 3 can be specified by driver assistance system 3. In other words it can be provided, for example, that the Driver assistance system 3 only requires an image size G of a predetermined number of pixels for processing, in which case the compression 25 of the first image area 13 and of the second image area 14 can then be carried out as a function of this image size G. Furthermore, it can be provided, for example, that the driver assistance system 3 only evaluates a predetermined processing time for evaluating the transmitted image 19 ', 19 ", 19'" and, depending on this, the corresponding data size is again calculated and the fisheye image 12 is compressed accordingly by this processing time to be able to achieve. This makes it possible for the driver assistance system 3 to do this reliably and as a function of a desired processing time and / or a predetermined image size G
komprimierte Bild 19‘, 19“, 19‘“ angepasst werden kann. compressed image 19 ″, 19 ″, 19 ″ ”can be adjusted.
Ferner zeigt Fig. 4, dass mittels des ersten Kompressionsalgorithmus 17 und des zweiten Kompressionsalgorithmus 18 eine Kompression 25 des Bilds 12 zwischen 20% (erstes komprimiertes Bild 19‘) und 70% (drittes komprimiertes Bild 19‘“) durchgeführt wird. Beispielsweise ist in Fig. 4 weiter gezeigt, dass das zweite komprimierte Bild 19“ eine Kompression 25 von 50% erfahren hat. FIG. 4 further shows that the first compression algorithm 17 and the second compression algorithm 18 perform a compression 25 of the image 12 between 20% (first compressed image 19 ″) and 70% (third compressed image 19 ″ ”). For example, it is further shown in FIG. 4 that the second compressed image 19 “has undergone a compression 25 of 50%.
Fig. 5 zeigt eine weitere schematische Ansicht eines Fischaugenbilds 12 der FIG. 5 shows a further schematic view of a fish eye image 12 in FIG
Fischaugenkamera 4. Im Figurenteil a) ist das Fischaugenbild 12 zu sehen, welches durch die Fischaugenkamera 4 aufgenommen wurde. Im Figurenteil b) ist das zweite komprimierte Bild 19“ mit einer Kompression 25 von 50% gezeigt. Im Figurenteil c) ist das dritte komprimierte Bild 19‘“ mit einer Kompression 25 von 70% gezeigt. Fisheye camera 4. In part a), the fisheye image 12 can be seen, which was recorded by the fisheye camera 4. In part b) the second compressed image 19 "is shown with a compression 25 of 50%. In part c) the third compressed image 19 "is shown with a compression 25 of 70%.
Insbesondere ist vorgesehen, dass der ersten Bildbereich 13 und/oder der zweite Bildbereich 14 in Abhängigkeit einer Detektionshäufigkeit eines Auftretens des bestimmten Objekts 26, 27 bestimmt wird. Beispielsweise kann vorgesehen sein, dass als bestimmtes Objekt 26, 27 ein Fußgänger vorgegeben ist. Insbesondere befinden sich Fußgänger, welche von Bedeutung für das Fahrerassistenzsystem 3 sind, in der näheren Umgebung 8 zur Fischaugenkamera 4. Insbesondere kann dadurch der Abstandsbereich 15, 16 für den ersten Bildbereich 13 und/oder für den zweiten Bildbereich 14 in In particular, it is provided that the first image area 13 and / or the second image area 14 is determined as a function of a detection frequency of an occurrence of the specific object 26, 27. For example, it can be provided that a pedestrian is specified as the specific object 26, 27. In particular, pedestrians who are of importance for the driver assistance system 3 are in the vicinity 8 of the fisheye camera 4. In particular, the distance range 15, 16 for the first image area 13 and / or for the second image area 14 in
Abhängigkeit dieses Objekts 26, 27 gemacht werden. Sollte beispielsweise das Objekt 26, 27 als Kraftfahrzeug vorgegeben werden, so kann der jeweilige Abstandsbereich 15, 16 vergrößert werden, da insbesondere die Detektion von Kraftfahrzeugen im Dependency of this object 26, 27 can be made. If, for example, the object 26, 27 is specified as a motor vehicle, the respective distance range 15, 16 can be enlarged, since in particular the detection of motor vehicles in the
unmittelbaren Nahbereich der Fischaugenkamera 4 eine geringere Bedeutung aufweist, als das Erfassen von Kraftfahrzeugen in einer fernen Umgebung 8 zur The immediate vicinity of the fisheye camera 4 is of less importance than the detection of motor vehicles in a distant environment 8
Fischaugenkamera 4. Insbesondere ist somit die Definition des ersten Bildbereichs 13 und insbesondere der damit verbundene Abstandsbereich 15 und/oder der zweite Bildbereich 14 und insbesondere der damit verbundene zweite Abstandsbereich 16 durch die jeweiligen zu erfassenden Objekt 26, 27 beziehungsweise durch die Funktion des Fahrerassistenzsystems 3 beziehungsweise der Fahrerassistenzuntersystem 9, 10 definiert. Insbesondere ist als Detektionshäufigkeit beispielsweise vorgesehen, dass das Auftreten eines Fußgängers im Nahbereich größer ist als im Fernbereich, während beispielsweise das Auftreten des Kraftfahrzeugs im Fernbereich höher ist als im Fisheye camera 4. In particular, the definition of the first image area 13 and in particular the associated distance area 15 and / or the second image area 14 and in particular the associated second distance area 16 are defined by the respective objects 26, 27 to be detected or by the function of the driver assistance system 3 or the driver assistance subsystem 9, 10. In particular, it is provided as a frequency of detection, for example, that the occurrence of a pedestrian in the near range is greater than in the far range, while, for example, the occurrence of the motor vehicle in the far range is higher than in
Nahbereich. Dadurch ist ein situationsabhängiges Komprimieren 25 des Fischaugenbilds ermöglicht. Close range. This enables a situation-dependent compression 25 of the fisheye image.
Fig. 6 zeigt in einer schematischen Ansicht eine weitere Ausführungsform des Fig. 6 shows a schematic view of another embodiment of the
Verfahrens. Insbesondere ist im Fischaugenbild 12 der Fluchtpunkt 28 gezeigt. Procedure. Vanishing point 28 is shown in particular in fisheye image 12.
Insbesondere zeigt Fig. 6, dass eine Kompression 25 sowohl in horizontaler Richtung als auch in vertikaler Richtung durchgeführt werden kann. Insbesondere kann eine vertikale Kompression 25‘ und eine horizontale Kompression 25“ durchgeführt werden, was jeweils durch die Pfeile im Fischaugenbild 12 und im komprimierten Bild 19 dargestellt ist. In particular, FIG. 6 shows that compression 25 can be carried out both in the horizontal direction and in the vertical direction. In particular, a vertical compression 25 ″ and a horizontal compression 25 ″ can be carried out, which is shown by the arrows in the fisheye image 12 and in the compressed image 19.
Insbesondere folgt dabei die Kompression 25 jeweils einer nicht-linearen hyperbolischen Projektionsfunktion. In particular, the compression 25 follows a non-linear hyperbolic projection function.
Fig. 7 zeigt ein schematisches Diagramm einer Ausführungsform des Verfahrens. 7 shows a schematic diagram of an embodiment of the method.
Insbesondere ist gezeigt, dass im Fluchtpunkt 28 keine Kompression 25 stattfindet. Je weiter man sich vom Fluchtpunkt 28 entfernt, desto größer ist die Kompression 25. In particular, it is shown that no compression 25 takes place at vanishing point 28. The further away from vanishing point 28, the greater the compression 25.
Beispielweise zeigt der Graph 29 eine Kompression 25 mit 24%, der Graph 30 eine Kompression 25 mit 32,5%, der Graph 31 eine Kompression 25 mit 48,8% und der Graph 32 eine Kompression 25 mit 72%. Insbesondere ist auf der Ordinate O das komprimierte Bild 19 aufgetragen und auf der Abszisse A das Fischaugenbild 12. Insbesondere handelt es sich hierbei um entsprechende Abstandsangaben. For example, the graph 29 shows a compression 25 with 24%, the graph 30 a compression 25 with 32.5%, the graph 31 a compression 25 with 48.8% and the graph 32 a compression 25 with 72%. In particular, the compressed image 19 is plotted on the ordinate O and the fisheye image 12 is plotted on the abscissa A. In particular, these are corresponding distances.
Insgesamt zeigt die Erfindung eine abstandsabhängige Bildregionkompression für effiziente Auswertung eines Bilds 12. Overall, the invention shows a distance-dependent image region compression for efficient evaluation of an image 12.
Die Kompression zwischen 20% und 70% wie oben beschrieben ist nur ein Beispiel. Eine Kompression bis zum 90% ist möglich. The compression between 20% and 70% as described above is only an example. Compression up to 90% is possible.

Claims

Patentansprüche Claims
1. Verfahren zum Betreiben einer Fischaugenkamera (4) für ein 1. Method for operating a fisheye camera (4) for a
Fahrerassistenzsystem (3) eines Kraftfahrzeugs (1 ), bei welchem mittels der Driver assistance system (3) of a motor vehicle (1), in which the
Fischaugenkamera (4) ein Fischaugenbild (12) erfasst wird und das Fischaugenbild (12) in Abhängigkeit zumindest eines ersten Bildbereichs (13) des Fischaugenbilds (12) und eines zweiten Bildbereichs (14) des Fischaugenbilds (12) für das Fisheye camera (4) a fisheye image (12) is recorded and the fisheye image (12) in dependence on at least a first image area (13) of the fisheye image (12) and a second image area (14) of the fisheye image (12) for the
Fahrerassistenzsystem (3) mittels einer elektronischen Recheneinrichtung (1 1 ) der Fischaugenkamera (4) ausgewertet wird,  Driver assistance system (3) is evaluated by means of an electronic computing device (11) of the fisheye camera (4),
dadurch gekennzeichnet, dass  characterized in that
der erste Bildbereich (13) durch einen ersten Abstandsbereich (15) zur  the first image area (13) through a first distance area (15)
Fischaugenkamera (4) und der zweite Bildbereich (14) durch einen zum ersten Abstandsbereich (15) unterschiedlichen zweiten Abstandsbereich (16) zur  Fisheye camera (4) and the second image area (14) through a second distance area (16) different from the first distance area (15)
Fischaugenkamera (4) vorgegeben werden und der erste Bildbereich (13) mit einem ersten Kompressionsalgorithmus (17) und der zweite Bildbereich (14) mit einem zum ersten Kompressionsalgorithmus (17) unterschiedlichen zweiten  Fisheye camera (4) and the first image area (13) with a first compression algorithm (17) and the second image area (14) with a different from the first compression algorithm (17)
Kompressionsalgorithmus (18) komprimiert werden und ein in Abhängigkeit des komprimierten ersten Bildbereichs (13) und des komprimierten zweiten Bildbereichs (14) komprimiertes Bild (19‘, 19“, 19‘“) mittels der elektronischen  Compression algorithm (18) and a compressed image (19 ″, 19 ″, 19 ″ “) depending on the compressed first image area (13) and the compressed second image area (14) by means of the electronic
Recheneinrichtung (1 1 ) erzeugt wird und an das Fahrerassistenzsystem (3) zum Auswerten übertragen wird.  Computing device (1 1) is generated and transmitted to the driver assistance system (3) for evaluation.
2. Verfahren nach Anspruch 1 , 2. The method according to claim 1,
dadurch gekennzeichnet, dass  characterized in that
zusätzlich zum Erzeugen des komprimierten Bilds (19‘, 19“, 19‘“) eine  in addition to generating the compressed image (19 ″, 19 “, 19 ″”)
Fischaugenkorrektur (20) mittels der elektronischen Recheneinrichtung (1 1 ) durchgeführt wird.  Fisheye correction (20) is carried out by means of the electronic computing device (1 1).
3. Verfahren nach Anspruch 2, 3. The method according to claim 2,
dadurch gekennzeichnet, dass  characterized in that
zeitlich vor dem Erzeugen des komprimierten Bilds (19‘, 19“, 19‘“) die  before the creation of the compressed image (19 ″, 19 “, 19 ″”)
Fischaugenkorrektur (20) durchgeführt wird.  Fisheye correction (20) is performed.
4. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass 4. The method according to any one of the preceding claims, characterized in that
der erste Abstandsbereich (15) als Nahbereich der Fischaugenkamera (4) vorgegeben wird und der zweite Abstandsbereich (16) als Fernbereich der  the first distance range (15) is specified as the close range of the fisheye camera (4) and the second distance range (16) as the far range of the
Fischaugenkamera (4) vorgegeben wird.  Fisheye camera (4) is specified.
5. Verfahren nach Anspruch 4, 5. The method according to claim 4,
dadurch gekennzeichnet, dass  characterized in that
eine Kompression (25‘, 25“) des Nahbereichs größer ist, als eine Kompression (25‘, 25“) des Fernbereichs.  a compression (25 ″, 25 “) of the near range is greater than a compression (25’, 25 “) of the far range.
6. Verfahren nach einem der vorhergehenden Ansprüche, 6. The method according to any one of the preceding claims,
dadurch gekennzeichnet, dass  characterized in that
mittels eines nichtlinearen hyperbolischen Projektionsalgorithmus (33) der erste Bildbereich (13) und/oder der zweite Bildbereich (14) komprimiert werden.  the first image area (13) and / or the second image area (14) are compressed by means of a nonlinear hyperbolic projection algorithm (33).
7. Verfahren nach einem der vorhergehenden Ansprüche, 7. The method according to any one of the preceding claims,
dadurch gekennzeichnet, dass  characterized in that
zumindest ein dritter Bildbereich (21 ) des Fischaugenbildes (12) mittels zumindest eines dritten Kompressionsalgorithmus (22), welcher unterschiedlich zum ersten Kompressionsalgorithmus (17) und zum zweiten Kompressionsalgorithmus (18) ist, komprimiert wird und ein in Abhängigkeit des komprimierten ersten Bildbereichs (13), des komprimierten zweiten Bildbereichs (14) und des zumindest  at least a third image area (21) of the fisheye image (12) is compressed by means of at least one third compression algorithm (22), which is different from the first compression algorithm (17) and the second compression algorithm (18), and one depending on the compressed first image area (13 ), the compressed second image area (14) and the at least
komprimierten dritten Bildbereichs (21 ) komprimiertes Bild (19‘, 19“, 19‘“) mittels der elektronischen Recheneinrichtung (1 1 ) erzeugt wird und an das  compressed third image area (21) compressed image (19 ″, 19 “, 19 ″”) is generated by means of the electronic computing device (1 1) and sent to the
Fahrerassistenzsystem (3) zum Auswerten übertragen wird.  Driver assistance system (3) is transmitted for evaluation.
8. Verfahren nach einem der vorhergehenden Ansprüche, 8. The method according to any one of the preceding claims,
dadurch gekennzeichnet, dass  characterized in that
in Abhängigkeit einer Funktion des Fahrerassistenzsystems (3) ein Parameter des ersten Kompressionsalgorithmus (17) zum Komprimieren (25‘, 25“) des ersten depending on a function of the driver assistance system (3), a parameter of the first compression algorithm (17) for compressing (25 ″, 25 “) the first
Bildbereichs (13) und/oder ein Parameter des zweiten Kompressionsalgorithmus (18) zum Komprimieren (25‘, 25“) des zweiten Bildbereichs (14) mittels der elektronischen Recheneinrichtung (1 1 ) ausgewählt wird. Image area (13) and / or a parameter of the second compression algorithm (18) for compressing (25 ', 25 ") of the second image area (14) is selected by means of the electronic computing device (1 1).
9. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass 9. The method according to any one of the preceding claims, characterized in that
zumindest ein extrinsischer und/oder ein intrinsischer Parameter der  at least one extrinsic and / or one intrinsic parameter of the
Fischaugenkamera (4) in einer Nachschlagetabelle (24) der elektronischen  Fisheye camera (4) in a lookup table (24) of the electronic
Recheneirichtung (1 1 ) abgespeichert werden und eine Fischaugenkorrektur (20) in Abhängigkeit des abgespeicherten extrinsischen und/oder des abgespeicherten intrinsischen Parameters durchgeführt wird.  Computing device (1 1) can be stored and a fisheye correction (20) is carried out depending on the stored extrinsic and / or the stored intrinsic parameter.
10. Verfahren nach einem der vorhergehenden Ansprüche, 10. The method according to any one of the preceding claims,
dadurch gekennzeichnet, dass  characterized in that
der erste Bildbereich (13) und/oder der zweite Bildbereich (14) in Abhängigkeit einer the first image area (13) and / or the second image area (14) depending on one
Detektionshäufigkeit eines Auftretens eines bestimmten Objekts (26, 27) bestimmt werden. Detection frequency of an occurrence of a specific object (26, 27) can be determined.
1 1. Verfahren nach einem der vorhergehenden Ansprüche, 1 1. The method according to any one of the preceding claims,
dadurch gekennzeichnet, dass  characterized in that
ein Parameter des ersten Kompressionsalgorithmus (17) zum Komprimieren (25‘, 25“) des ersten Bildbereichs (13) und/oder ein Parameter des zweiten  a parameter of the first compression algorithm (17) for compressing (25 ', 25 ") the first image area (13) and / or a parameter of the second
Kompressionsalgorithmus (18) zum Komprimieren (25‘, 25“) des zweiten  Compression algorithm (18) for compressing (25 ″, 25 “) the second
Bildbereichs (14) durch Vorgabe einer Bildgröße (G) und/oder einer  Image area (14) by specifying an image size (G) and / or
Verarbeitungszeit des komprimierten Bilds (19‘, 19“, 19‘“) für das  Processing time of the compressed image (19 ″, 19 “, 19 ″“) for the
Fahrerassistenzsystem (3) vom Fahrerassistenzsystem (3) vorgegeben werden.  Driver assistance system (3) can be specified by the driver assistance system (3).
12. Verfahren nach einem der vorhergehenden Ansprüche, 12. The method according to any one of the preceding claims,
dadurch gekennzeichnet, dass  characterized in that
mittels des ersten Kompressionsalgorithmus (17) und des zweiten  by means of the first compression algorithm (17) and the second
Kompressionsalgorithmus (18) eine Kompression (25‘, 25“) des Fischaugenbilds (12) zwischen 20% und 70% durchgeführt wird.  Compression algorithm (18) a compression (25 ', 25 ") of the fisheye image (12) between 20% and 70% is carried out.
13. Elektronische Recheneinrichtung (1 1 ), welche zum Durchführen des Verfahrens nach einem der Ansprüche 1 bis 12 ausgebildet ist. 13. Electronic computing device (1 1) which is designed to carry out the method according to one of claims 1 to 12.
14. Fischaugenkamera (4) mit einer elektronischen Recheneinrichtung (1 1 ) nach 14. fisheye camera (4) with an electronic computing device (1 1)
Anspruch 13.  Claim 13.
15. Fahrerassistenzsystem (3) mit einer Fischaugenkamera (4) nach Anspruch 14. 15. Driver assistance system (3) with a fisheye camera (4) according to claim 14.
PCT/EP2019/080061 2018-11-05 2019-11-04 Method for operating a fisheye camera by use of a first compression algorithm and a second compression algorithm, electronic computing device, fisheye camera, and driver assistance system WO2020094551A1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102018127465.3A DE102018127465A1 (en) 2018-11-05 2018-11-05 Method for operating a fisheye camera by using a first compression algorithm and a second compression algorithm, electronic computing device, fisheye camera and driver assistance system
DE102018127465.3 2018-11-05

Publications (1)

Publication Number Publication Date
WO2020094551A1 true WO2020094551A1 (en) 2020-05-14

Family

ID=68461796

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/EP2019/080061 WO2020094551A1 (en) 2018-11-05 2019-11-04 Method for operating a fisheye camera by use of a first compression algorithm and a second compression algorithm, electronic computing device, fisheye camera, and driver assistance system

Country Status (2)

Country Link
DE (1) DE102018127465A1 (en)
WO (1) WO2020094551A1 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140247358A1 (en) * 2011-11-24 2014-09-04 Aisin Seiki Kabushiki Kaisha Image generation device for monitoring surroundings of vehicle
US20180122099A1 (en) * 2015-03-25 2018-05-03 Vadas, Ltd Image processing apparatus having automatic compensation function for image obtained from camera, and method thereof

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6442465B2 (en) * 1992-05-05 2002-08-27 Automotive Technologies International, Inc. Vehicular component control systems and methods
US6704434B1 (en) * 1999-01-27 2004-03-09 Suzuki Motor Corporation Vehicle driving information storage apparatus and vehicle driving information storage method
US10579904B2 (en) * 2012-04-24 2020-03-03 Stmicroelectronics S.R.L. Keypoint unwarping for machine vision applications

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140247358A1 (en) * 2011-11-24 2014-09-04 Aisin Seiki Kabushiki Kaisha Image generation device for monitoring surroundings of vehicle
US20180122099A1 (en) * 2015-03-25 2018-05-03 Vadas, Ltd Image processing apparatus having automatic compensation function for image obtained from camera, and method thereof

Also Published As

Publication number Publication date
DE102018127465A1 (en) 2020-05-07

Similar Documents

Publication Publication Date Title
DE102009050368A1 (en) Method for automatically calibrating a virtual camera
DE112017000816T5 (en) Driver assistance system with variable image resolution
EP2934947A1 (en) Motor vehicle having a camera monitoring system
WO2018108213A1 (en) Surround view system for a vehicle
DE102018214198A1 (en) System for evaluating an image, operation assistance method and control unit for a working device and working device
DE112014002331T5 (en) Image processing apparatus and image processing method
DE102016216795A1 (en) Method for determining result image data
DE102016121755A1 (en) Method for determining a composite image of a surrounding area of a motor vehicle with adaptation of brightness and / or color, camera system and power vehicle
DE102017123228A1 (en) Method for classifying an object point as static or dynamic, driver assistance system and motor vehicle
EP1363237A1 (en) Method for displaying images having a modified aspect ratio
DE102017208994A1 (en) Method for determining result image data
DE102015120967A1 (en) Method and device for image correction
EP3073446A1 (en) Method for representing the surroundings of a vehicle
DE102019102672A1 (en) INTERSENSORY LEARNING
WO2020094551A1 (en) Method for operating a fisheye camera by use of a first compression algorithm and a second compression algorithm, electronic computing device, fisheye camera, and driver assistance system
DE102018114912A1 (en) Method for classifying a color of a road marking by means of a statistical road marking determination model, electronic computing device and driver assistance system
DE102015204213A1 (en) Method for assembling two images of a vehicle environment of a vehicle and corresponding device
WO2021180679A1 (en) Determining a current focus area of a camera image on the basis of the position of the vehicle camera on the vehicle and on the basis of a current motion parameter
DE102017104957A1 (en) Method for determining a movement of mutually corresponding pixels in an image sequence from a surrounding area of a motor vehicle, evaluation device, driver assistance system and motor vehicle
DE102017100669A1 (en) Method for detecting an environmental region of a motor vehicle with adaptation of a region of interest as a function of a trailer, computing device, camera system and motor vehicle
DE102016103037A1 (en) Method for checking the functionality of a camera-monitor system, camera-monitor system and motor vehicle
DE102018113281A1 (en) Image harmonization method, computer program product, camera system and motor vehicle
DE102014206246A1 (en) A method and apparatus for adjusting a three-dimensional projection surface for projecting a plurality of adjacent camera images
EP3610643A1 (en) Surround view system for a vehicle
DE102018114956A1 (en) Method for determining a current wet condition of a road surface using a wet condition model, electronic computing device and driver assistance system

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19798064

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19798064

Country of ref document: EP

Kind code of ref document: A1