EP1298012B1 - Verfahren zur Erkennung und Verfolgung von Objekten - Google Patents

Verfahren zur Erkennung und Verfolgung von Objekten Download PDF

Info

Publication number
EP1298012B1
EP1298012B1 EP02021125A EP02021125A EP1298012B1 EP 1298012 B1 EP1298012 B1 EP 1298012B1 EP 02021125 A EP02021125 A EP 02021125A EP 02021125 A EP02021125 A EP 02021125A EP 1298012 B1 EP1298012 B1 EP 1298012B1
Authority
EP
European Patent Office
Prior art keywords
objects
segments
hypothesis
class
hypothetical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
EP02021125A
Other languages
English (en)
French (fr)
Other versions
EP1298012A2 (de
EP1298012A3 (de
Inventor
Ulrich Dr. Lages
Kay Fürstenberg
Klaus Dietmayer
Jan Sparbert
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ibeo Automobile Sensor GmbH
Original Assignee
Ibeo Automobile Sensor GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ibeo Automobile Sensor GmbH filed Critical Ibeo Automobile Sensor GmbH
Publication of EP1298012A2 publication Critical patent/EP1298012A2/de
Publication of EP1298012A3 publication Critical patent/EP1298012A3/de
Application granted granted Critical
Publication of EP1298012B1 publication Critical patent/EP1298012B1/de
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4802Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/42Simultaneous measurement of distance and other co-ordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4808Evaluating distance, position or velocity data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/255Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/62Extraction of image or video features relating to a temporal dimension, e.g. time-based feature extraction; Pattern tracking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/08Detecting or categorising vehicles

Definitions

  • the present invention relates to a method for detecting and tracking objects based on images of objects in a field of view of the sensor detected by a sensor, in particular a laser scanner, which are resolved in terms of speed or depth, in which detection and tracking are used a model for the temporal development of dynamic state variables assigned to each of the objects, which describes at least one sensor-specific property of the object, wherein the model has a model type and can be parameterized by at least one model parameter in which segments are formed from the pixels of the current image , each of which comprises a single pixel or a set of all pixels, each of which at least two corresponding to at least one segmentation criterion are defined as belonging to the segment, and the mutually no common pixels on have, in which for the formation of new objects in each case at least one segment, a new object is formed, and are assigned to the already existing objects in the recognition and tracking of objects in an image segments.
  • a vehicle on the front side of which a sensor for detecting speed or depth-resolved images, for example a laser scanner, is mounted, such a method can be used to monitor the area ahead of the vehicle in the direction of travel.
  • moving vehicles can be detected and tracked in the field of vision of the laser scanner so that on the basis of the detected by the object tracking data corresponding reactions in the vehicle, such as alerts or even interference with the control of the vehicle can be triggered.
  • DE 199 26 559 A1 describes a method for detecting objects in the vicinity of a road vehicle, in which stereo image pairs are used, wherein a distance-based image segmentation is performed by means of stereo image processing and an object recognition in the segmented image areas. For object recognition object hypotheses can be determined, which are verified by comparing object models.
  • US 6,125,191 A describes a lens detection system for a vehicle comprising: a distance sensor mounted on the vehicle which capable of providing a distance between the vehicle and an object disposed in front of the vehicle in a longitudinal and an outward direction with respect to the vehicle, based on the transmission of a signal to the object which reads in front of the vehicle, and the reception of one of Object reflected signal to detect the object based on output data from the distance sensor, coordinate developing means for assigning the output data from the distance sensor to XY coordinates having a Y-axis representing the longitudinal direction with respect to the vehicle; Having axis indicative of the transverse direction with respect to the vehicle, a cell dividing and counting means for dividing the XY coordinates in the direction of the X and Y axes at predetermined intervals in a plurality of cells, for counting a number of output data in the Cells are arranged, and to output the XY coordinates and the number of Data values for each cell as cell information, and object recognition means for assigning like labels to
  • EP 0 631 154 A1 describes a method for object measurement by means of an intelligent range-finding camera, in which a distance image is recorded in real time, an electro-optical, scanning sensor is used and the distance image is evaluated with algorithms and online on a computer.
  • the method according to the invention is characterized in that several object classes are provided for the classification of objects, which relate to at least one property of objects which can be determined from at least one of the speed-resolved or depth-resolved images, and segments for the formation of an object only be assigned to new objects that belong to one of the given object classes.
  • images of a sensor are used. These can be two-dimensional images of a video sensor.
  • a speed-resolved or depth-resolved image of a sensor is understood to mean a set of pixels which are scanned in the field of view of the sensor, to which points or, depending on the resolution of the sensor, also regions of an object detected by the sensor, the pixels the speed or the position of the associated object points corresponding coordinates are assigned in at least two dimensions, which are not both perpendicular to the viewing direction of the sensor.
  • the pixels may further contain data on further, in particular optical, properties of the object points, for example their reflectivity. These data will hereinafter be referred to as optical properties of the pixels.
  • These may be, for example, ultrasonic sensors.
  • sensors for electromagnetic radiation are used.
  • These may, for example, be radar sensors.
  • the object points are tracked at these speeds.
  • the sensors for electromagnetic radiation can be optoelectronic sensors which offer good spatial resolution and are therefore preferred for the method according to the invention.
  • systems with stereo video cameras can be used which have means for converting the raw data captured by the cameras into depth-resolved images.
  • laser scanners which scan a viewing area with at least one pulsed radiation beam which sweeps over a predetermined angular range and detects from a point or area of an object, usually diffuse, reflected radiation pulses of the radiation beam.
  • the transit time of the emitted, reflected and detected radiation pulses is detected for distance measurement.
  • the thus-acquired raw data for one pixel may then contain as coordinates the angle at which the reflex was detected and the distance of the object point determined from the transit time of the radiation pulses.
  • the radiation may in particular be visible or infrared light.
  • Dynamic state variables are variables that each describe a time-varying state of the object that at least approximately corresponds to an equally time-varying state of the object that is represented by the object. Since there should be tracking of objects, the dynamic ones include State variables in particular dynamic state variables for determining the position of the respective object.
  • the sensor-specific state variables may in particular be those which correspond to the type of measurement data acquired by the sensor. In the case of sensors which record speed-resolved images, in particular corresponding state variables describing the speed of an object or of the object representing it can be used for depth-resolved images, the position of an object or the object representing it.
  • the recognition and tracking of objects takes place on the basis of models with which the temporal evolution of the dynamic state variables is at least approximately describable, whereby the type and complexity of the models depend, inter alia, on the object recognition and tracking method as well as the type of the typically occurring, to be able to judge items to be tracked.
  • the models can be divided into specific types and can be parameterized by model parameters. The number and type of the model parameters is specific to the model type, the parameterization is done by selecting appropriate values of the model parameter (s).
  • the models serve to predict the position of an object in the vicinity of which it is then possible to search for the object in a subsequent speed or depth-resolved image.
  • a captured image is first divided into segments, each comprising only a single pixel or a set of all pixels, each of which at least two corresponding at least one segmentation criterion as the segment are defined, and which have no common pixels with each other.
  • This segmentation criterion may in particular be a criterion for a maximum allowable distance and / or a maximum allowable difference of an optical property, in particular the reflectivity, or when using velocity-resolved images by a criterion for a maximum allowable difference in relative velocities.
  • a tilt of a surface determined by pulse widths and / or heights can also be used.
  • the segments have no common pixels, so that a real division of the image is achieved.
  • This segmental summary achieves a first reduction in the amount of data that greatly facilitates further processing.
  • a distance criterion it can be considered that objects for most applications are defined by their spatial relationship, so that a segment should be associated with only one object and should not be in two objects and connect them.
  • the criterion for the distance may be a threshold criterion for a Euclidean distance of the pixels, in which coordinate directions may be weighted differently. However, it is also possible to use a separate distance criterion for each coordinate direction.
  • object classes are provided for the classification of objects, which relate to at least one property of objects that can be determined from at least one of the speed-resolved or depth-resolved images.
  • An object class is characterized in that objects to which this class is assigned represent objects with at least one specific property specific to the object class. In particular, it may be the same property that is determinable from the speed or depth resolved images. Basically, one property is sufficient for the specification the object class, but it is also preferable to use combinations of properties that allow a unique association.
  • the properties are preferably chosen so that they should remain constant for an object at least for the observation period.
  • the term "constant property” also means that objects of the corresponding object class can include a whole set of characteristics of a variable property in a frame specified by the objects of the object class, wherein the characteristics differ, in particular, in a predetermined frame can develop.
  • the property then consists of the set of special expressions of the variable property which an object of the corresponding object class can assume.
  • a semitrailer or an articulated bus in the extended state substantially have the shape of a rectangle from which, however, can develop a cornering, resulting from the rectangle angled, still object class specific form. Under the form is understood not only the form in a stretched state, but the set of possible forms.
  • individual image-specific properties of an object that is an immutable object may vary depending on the perspective, for example.
  • the properties may be qualitative properties, but also properties of the object or of the object represented by the object that can be described by at least one parameter.
  • the property may consist in the values of the parameter lying within a predetermined interval.
  • a property used for the assignment of an object class to an object is characterized in that it can be determined at least approximately from at least one detected speed or depth-resolved image.
  • the new formation of objects takes place in the method according to the invention by means of segments.
  • an object of a suitable object class is formed directly from one segment or from several segments, which can be done, for example, by determining from the segment or segments at least one property that is related to the property defining an object class can.
  • an early classification takes place, whereby it is possible to form objects of a suitable object class also from several segments belonging to the same object immediately after the formation of the segments and not first to objects to which no further properties can be assigned.
  • Ambiguities in the segment-object assignment can also occur when recognizing existing objects in images. It is therefore preferred that when recognizing and tracking objects in an image, segments are assigned to an already existing object, taking into account its object class. This can also be done by correlating the properties of the segments to be mapped and the properties of the object class. If a segment can be assigned to objects of different object classes, ambiguity can be resolved as well as in the case where several separate segments can be assigned to the same object. In both cases, a resolution of ambiguities can be made casually.
  • the early classification according to the invention ie the formation of objects of a certain object class directly from segments, is particularly simple if, according to a preferred development, the expansion of objects that are caused by objects of the object class represented as a property defining the object class.
  • the object classes are defined at least by the extents of objects represented by objects of the class that at least one object depending on the object class to which it belongs is assigned as static property an object box having an extent of the object in the image plane, has a certain shape and size and corresponds in shape and size to the object represented by the object, and that the dynamic state variables for determining the position of the object comprise the coordinates of a reference point of the object box, via which the position of the object box Object box and thus the object is determinable, and that segments are assigned to an object only if they are completely in the object box associated with the object.
  • the object boxes thus represent geometrical entities in the plane of the depth resolved image of definite shape and size representing the extent of objects corresponding to the associated objects.
  • the object box thus essentially describes the temporally non-variable or as temporally not variably assumed outline of the object represented by the object in the plane of the depth-resolved image.
  • the correspondence can only be very coarse, in particular the shape of the object box can represent a very substantial simplification of the shape of the object, for example a simple geometric basic form.
  • object classes are defined at least by the extents of objects represented by objects of the object class
  • objects of a given object class have object class specific object boxes representing the extent of objects of the object class play.
  • object class specific object boxes representing the extent of objects of the object class play.
  • the shape and / or size of the object box can be parameterized by at least one static state parameter, that after an assignment of segments to objects, it is checked whether the extent of the object deviates from the corresponding extent of the object box, and that upon detection a deviation of the determined from at least one segment expansion of the object from the expansion of the object box, the object box is adapted by changing the value of the state parameter.
  • hypotheses can be followed up in order to examine in the further course of the process, if appropriate, the application or non-compliance of the hypothesis based on more extensive information. Hypothetical objects which do not correspond to objects actually detected will become recognizable in the further course of the procedure by a sharp drop in their probabilities, if necessary to zero.
  • This procedure enables a systematic creation and tracking of the object hypotheses and, in particular, also of complex segment combinations in which a larger number of object hypotheses with several objects of the same or different object classes are generated from several segments.
  • the assignment of hypothesis probabilities and their dependencies among each other can be handled consistently.
  • hypothesis probability of the object hypothesis can be assigned to each hypothetical object of an object hypothesis as probability.
  • segment subsets in the set of all available segments at least one object hypothesis is formed, which includes exactly one hypothetical object, and that the object hypothesis hypothesis probability which is updated in at least one subsequent iteration step.
  • object hypothesis hypothesis probability which is updated in at least one subsequent iteration step.
  • the hypothesis forming criterion may be a criterion such that a segment subset is used to form object hypotheses only if each of the two segments contained therein has at most a predetermined maximum distance from each other.
  • the number of object hypotheses and thus of the hypothetical objects to be tracked can preferably be restricted by rejecting object hypotheses if their probability of hypothesis falls below a lower minimum probability or if one of their hypothetical objects is discarded, and if the hypothetical objects of an object hypothesis are treated as uniquely recognized objects, the object hypothesis is deleted if its probability or hypothesis probability exceeds an upper minimum probability.
  • a hypothetical object can do this discarded, for example, if it does not meet a consistency criterion. This can for example be given by the fact that no segments are found for the hypothetical object in its follow-up. In this way, in particular, the formation of objects recognized as clearly recognized can take place, which are distinguished by the fact that there is no tracking of a probability for them.
  • object hypotheses with possibly several hypothetical objects and on one normalized probabilities are formed from a segment subset according to the first further development described above, all other object hypotheses, which were formed from the same segment subset as the transferred object hypothesis, can be used as uniquely recognized objects be discarded.
  • the available segments which may in principle include all segments of an image, only those segments of a Are images that can not be assigned to clearly recognized or treated as such objects. It is exploited that the existence of clearly recognized objects is an exclusion criterion for the further use of these associated segments for hypothetical objects.
  • the hypothesis probabilities are determined using a quality score for the corresponding hypothetical objects.
  • a quality value describes how well an object is represented by pixels.
  • the number of detected, assigned to the object Pixels in conjunction with a reference number, for example the maximum number of pixels that can be detected in this position of the object box relative to the sensor, are used as the quality criterion.
  • the mean distance from pixels assigned to an object to the edge of the corresponding object box can also be used.
  • the object classes i. H. the property defining them or the properties defining them, chosen such that the objects having these object-class-specific defining properties also have similar properties with respect to object recognition and tracing such that they can be described by means of identical model types and identical values of the model parameters are. It is then preferred that a model type and a value for the corresponding model parameter be assigned to each object depending on the associated object class. That is, an object class is characterized by at least one defining property of objects through which the assignment of an object can be made, and a model type and at least one value of a corresponding model parameter for the model type.
  • the model used in the inventive method for recognizing and tracking objects can better describe the behavior of the object and in particular its movement than is the case with conventional methods, the structurally identical model types and use equal values for model parameters for all objects encountered in the procedure.
  • class-dependent models is particular in the above German patent application with the legal file number S7880, which is incorporated herein by reference in the present application, to which express reference is once again made.
  • At least one object class is provided for objects that can move in all directions in the same image plane, and that for object to which this object class has been assigned, an object class dependent model type and / or model parameter is used, according to the possible Movements of the object in all directions are treated the same that at least one object class is provided for vehicles, for objects, which is assigned to one of the object classes for vehicles, a model type is used in which the object is assigned an object longitudinal axis, and movements of the Object in the direction of the object longitudinal axis and those perpendicular to the direction of the object longitudinal axis are taken into account differently in the model type.
  • the model types for vehicles in particular kinematic constraints can be considered.
  • Another object of the invention is a computer program with program code means to perform the inventive method when the program is executed on a computer.
  • the invention also relates to a computer program product with program code means which are stored on a computer-readable data carrier in order to carry out the method according to the invention when the computer program product is executed on a computer.
  • a computer is understood to mean any data processing device with which the method can be executed.
  • these may include digital signal processors and / or microprocessors, with which the method is carried out in whole or in part.
  • Another object of the invention is a method for detecting and tracking objects in a field of view of a sensor, in particular a laser scanner, in which the sensor temporally successive speed or depth resolved images of at least part of its field of view are detected, and in which the captured images with the method according to the invention for the detection and tracking of objects are processed.
  • the subject matter of the invention is a device for detecting and tracking objects with at least one sensor designed for detecting speed or depth-resolved images of a monitoring region, preferably an optoelectronic sensor, in particular a laser scanner, and having a data processing device, which is designed to carry out the method according to the invention.
  • a sensor designed for detecting speed or depth-resolved images of a monitoring region, preferably an optoelectronic sensor, in particular a laser scanner, and having a data processing device, which is designed to carry out the method according to the invention.
  • Fig. 1 is on the front of a vehicle 10, a laser scanner 12 is arranged, the field of view 14 includes a portion of lying in the direction of travel in front of the vehicle 10 area.
  • the field of vision 14 are a motorcycle 16 and a truck 18th
  • the laser scanner 12 scans its field of view 14 with a rotating, pulsed radiation beam 20 and detects the position of object points 22, 24 and 26 on the motorcycle 16 and the truck 18, on which a pulse of the radiation beam 20 has been reflected, based on the angle the radiation pulse was emitted, and the distance to the laser scanner 12, which results from the duration of the radiation pulse from the radiation to the reception after the reflection.
  • a scan of the field of view 14 thus detects a depth-resolved image comprising the pixels detected during the scan which contain at least the coordinates of the object points 22, 24 and 26 at which the radiation beam 20 was reflected.
  • the images acquired by the laser scanner 12 are output to a data processing device 28 in the vehicle 10 in which further processing of the images takes place.
  • the data processing device 28 has, not shown in the figures, a processor and a memory and an interface for transmitting the data from the laser scanner 12. Furthermore, an interface for outputting data to other data processing devices in the vehicle 10 is provided, which, however, are also not shown in the figures.
  • an object recognition and tracking method is performed in the data processing device 28 by means of a computer program according to the invention stored therein.
  • object classes are provided for the classification of objects, namely those for persons, two-wheelers, passenger cars, trucks and buses, delineators, piles and trees, bushes and other objects.
  • Objects of the object class Passenger cars correspond to objects that are roughly approx. B. by a rectangle with a length in a range between 3 m and 5.5 m and a width in a range between 1.5 m and 2.5 m can be played.
  • Objects of the object class two-wheeler represent objects, which are roughly approx. B. also be represented by a rectangle whose length is in a range between 1.5 m and 2.5 m and the width in a range between 0.5 m and 1 m.
  • objects of the object class Trucks are objects that are roughly approximated by, for. B. can be represented by a rectangle whose length is in a range between 6 m and 20 m and whose width in a range between 2 m and 3 m.
  • Each object of an object class is assigned an object box whose shape and size corresponds, at least in a rough approximation, to the shape and size of the objects represented by objects of the corresponding object class.
  • each object of one of the three object classes described in more detail above is assigned a rectangular object box whose extent corresponds to the maximum extents of the rectangles defining the object class, unless an adaptation of the size of the object box has taken place in the course of the method.
  • the motorcycle 16 and the truck 18 are therefore in Fig. 1 closely dotted drawn object boxes 30 and 32 assigned, which have a length of 2.5 m and a width of 1 m and a length of 20 m and a width of 3 m.
  • a Kalman filter is used for object recognition and tracking, in which case the center of gravity coordinates of the object box of an object and its speed are used as state variables which describe properties of the objects which vary with time, in particular their position.
  • the center of gravity coordinates are simultaneously also used as measured variables in Kalman filtering.
  • the orientation of the object box represented, for example, by an angle between a predetermined axis of the object box and a fixed or fixed axis with respect to the laser scanner 12, could also be taken into account for the state variable.
  • step S12 a correction of the coordinates of the pixels is then performed.
  • pixels detected at the beginning of a scan may be shifted from pixels detected at the end of the scan when the vehicle 10 and thus the laser scanner 12 mounted on the vehicle 10 during the scanning time relative to the detected object has moved significantly.
  • a detection time is determined for each pixel relating to a given reference time during a scan. Furthermore, the speed of the vehicle 10 and thus the laser scanner 12, for example, by sensors mounted on the vehicle for the steering angle and the vehicle speed, detected.
  • a speed is determined for each pixel, which results from the velocity of the object to which the respective pixel is assigned. This can be obtained, for example, by means of a simply configured recognition and tracking of objects taking place in parallel to the method according to the invention, for example in the laser scanner 12.
  • ghost measurements are corrected by the fact that an object by another between this and the Laser scanner 12 lying object is partially obscured and the radiation beam 20 hits a scan of an edge of the intermediate article while reflections are detected by both the intermediate object and the partially hidden object.
  • This effect is also referred to as the appearance of tear-off edges. Since the distance of a pixel from the laser scanner 12 is determined by the duration of the radiation pulses of the radiation beam 20, it may happen that in this way "apparent" pixels, so ghost measurements, are detected between the two objects to which there are no object points.
  • step S14 a segmentation of the image is then carried out, in each of which a new segment is assigned a not yet assigned to another segment pixel and starting from this pixel further pixels are searched, which have already existing Euclidean distances of the segment, the smaller than a given, suitably chosen maximum distance.
  • Fig. 1 For example, segments 34 for the motorcycle 16 obtained through such segmentation and segments 36 and 38 for the truck 18 are shown. The partial obstruction of the truck 18 by the motorcycle 16 results in the image having two separate segments 36 and 38, both of which belong to the truck 18.
  • two types of objects are provided, namely uniquely recognized objects that can be safely assigned to an object in the field of vision 14 of the laser scanner 12, as well as hypothetical objects which are only presumed to be a particular object in the detected one Picture.
  • step S16 object recognition and tracing is performed for each uniquely recognized object.
  • a search range is initially determined on the basis of predicted values for the center of gravity coordinates of the objects or object boxes and corresponding predicted values for the covariance matrices of the measured variables which were determined in step S30 of the preceding iteration, in which the segments to be assigned to the objects are searched.
  • segment-object assignment in which, for recognizing a given object, the corresponding object box is positioned in the search area by translations and optionally rotations around the center of gravity such that segments lying in the search area lie in the object box. Due to the predetermined extent of the object box, it is also possible for a number of non-contiguous segments to be assigned to an object in an informal manner if they can be enclosed by a suitably positioned object box. This greatly facilitates the segment-object assignment.
  • step S22 it is then checked on the basis of the estimated values for the variances and / or covariances of the state variables and the probability distribution for the estimated values, whether the object will still be able to be located with sufficient certainty. For this purpose, corresponding variances and / or covariances are compared with a predetermined threshold value.
  • step S24 If the object proves to be too uncertain, since the corresponding variances or covariances have exceeded the threshold value, it is deleted in step S24. Otherwise the object will be preserved and followed up normally, d. H. The next iteration also checks whether segments can be assigned to these objects.
  • the previously unassigned segments are first determined in step S25. They form the set of segments available for building and tracking object hypotheses.
  • step S26 new object hypotheses are formed for all segment subsets of the set of available segments if the segments of a segment subset are not farther apart than the ones largest extension of an object in one of the given object classes, ie in the present example 20 m. This results in a strong reduction of the number of possible, to be considered segment subsets.
  • object hypotheses are formed for each of the segment subset, each comprising a possible combination of segments of the segment subset to objects.
  • segments and / or segment combinations are checked for their extent and compared with the corresponding definitions of the object classes. If a segment or a segment combination can be covered by an object-class-specific object box that is suitably positioned, a corresponding object of the object class is formed from this segment or the segment combination.
  • an object of the object class lorries are formed, although the segments are relatively far apart, since the segments 36 and 38 are encompassed by a suitably positioned object box 32. It is thus used in the assignment, the object class specific information that objects of this class can be up to 20 m long and 3 m wide, so that the object box 32 is selected accordingly.
  • an early classification takes place in that segments are already brought together in a segment-based manner in accordance with predetermined object classes to form objects of one object class.
  • predetermined object classes to form objects of one object class.
  • only those segment combinations which can correspond to an object in one of the predetermined object classes are tracked, the criterion for the assignment being that the segments of the segment combination fit into object-class-specific object boxes.
  • an object hypothesis is that the segments 34, 36 and 38 correspond to an object of the object class "two-wheeler” and an object of the object class "trucks” to which the object boxes 30 and 32 are respectively assigned.
  • Another object hypothesis could be that the segments 34 and 36 are each assigned to an object of the object class two-wheeler and the segment 38 to an object of the object class passenger cars. However, the latter would be discarded in the further course of the process, if the motorcycle 16 no longer covered parts of the truck 18 and thus only one segment would be found for the truck.
  • the object boxes 32 and 34 as well as object class specific models associated with corresponding model types and model parameters.
  • the models corresponding to the two-wheeler 16 and the lorry 18 are assigned corresponding models.
  • step S28 already existing object hypotheses are tracked in step S28.
  • a segment-object assignment is performed as in step S16, but only the available for the tracking of object hypotheses segments for object detection and tracking are used.
  • step S30 as for uniquely recognized objects in step S18, estimates for the corresponding state variables as well as their variances and covariances are determined. In addition, new values for the hypothesis probabilities of the individual object hypotheses are calculated.
  • step S32 on the one hand, hypothetical objects of object hypotheses whose hypothesis probability exceeds an upper minimum value, for example 95 percent, are converted into uniquely recognized objects, the object hypotheses themselves, like the other object hypotheses formed from the same segment subset, including their hypothetical objects, being deleted.
  • an upper minimum value for example 95 percent
  • object hypotheses including their hypothetical objects are deleted whose hypothesis probability falls below a lower minimum value, for example 5 percent.
  • the hypothesis probabilities of the other object hypotheses formed from the same segment subset are then updated accordingly.
  • step S34 calculated object data are then output or stored for all objects.
  • step S36 a prediction of new values for the state variables, measured variables and the corresponding variances and covariances of all existing objects takes place.
  • H all uniquely recognized objects and all existing hypothetical objects.
  • the method then continues after the acquisition of a new image by the laser scanner 12 at step S10.
  • the process proceeds quite analogously to the method described above, but the steps S26, S30 and S32 are modified.
  • object hypotheses are formed which contain exactly one hypothetical object.
  • step S26 can be analogous to the formation of the hypothetical objects in the above-described embodiment, but each object hypothesis and thus each hypothetical object individually receives a hypothesis probability determined from a quality value of the corresponding measurement, which is independent of the hypothesis probabilities of others Hypotheses is.
  • the quality value is determined by using the number of pixels in the corresponding object box and the maximum number of pixels possible in the given position of the object box.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Electromagnetism (AREA)
  • Image Analysis (AREA)
  • Burglar Alarm Systems (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

  • Die vorliegende Erfindung betrifft ein Verfahren zur Erkennung und Verfolgung von Objekten auf der Basis von von einem Sensor, insbesondere einem Laserscanner, erfaßten, geschwindigkeits- oder tiefenaufgelösten, Bildpunkte enthaltenden Bildern von Gegenständen in einem Sichtbereich des Sensors, bei dem die Erkennung und Verfolgung unter Verwendung eines jeweils einem der Objekte zugeordneten Modells für die zeitliche Entwicklung von dynamischen Zustandsvariablen erfolgt, die wenigstens eine sensorspezifische Eigenschaft des Objekts beschreiben, wobei das Modell einen Modelltyp hat und durch wenigstens einen Modellparameter parametrisierbar ist, bei dem aus den Bildpunkten des aktuellen Bildes Segmente gebildet werden, die jeweils einen einzelnen Bildpunkt oder eine Menge aller Bildpunkte umfassen, von denen jeweils mindestens zwei entsprechend wenigstens einem Segmentierungskriterium als dem Segment zugehörig definiert werden, und die untereinander keine gemeinsamen Bildpunkte aufweisen, bei dem zur Neubildung von Objekten jeweils aus wenigstens einem Segment ein neues Objekt gebildet wird, und bei dem bei der Erkennung und Verfolgung von Objekten in einem Bild Segmente bereits vorhandenen Objekten zugeordnet werden.
  • Verfahren der obengenannten Art sind grundsätzlich bekannt. Bei der Benutzung eines Fahrzeugs, an dessen Frontseite ein Sensor zur Erfassung geschwindigkeits- oder tiefenaufgelöster Bilder, beispielsweise ein Laserscanner, angebracht ist, kann ein solches Verfahren dazu benutzt werden, den in Fahrtrichtung vor dem Fahrzeug liegenden Bereich zu überwachen. Insbesondere können dabei sich in dem Sichtbereich des Laserscanners bewegende Fahrzeuge erkannt und verfolgt werden, so daß auf der Basis der durch die Objektverfolgung erfaßten Daten entsprechende Reaktionen in dem Fahrzeug, beispielsweise Warnmeldungen oder sogar Eingriffe in die Steuerung des Fahrzeugs, ausgelöst werden können.
  • Bei Verfahren der obengenannten Art tritt jedoch das Problem auf, daß bei der Neubildung von Objekten sehr leicht für einen einzigen Gegenstand, von dem mehrere getrennte Segmente erfaßt wurden, anstatt eines Objekts mehrere getrennte Objekte gebildet werden. Dies führt dazu, daß Gegenstände unter Umständen nicht richtig erkannt werden und beispielsweise ein Personenkraftwagen, der in einem Bild durch zwei getrennte Segmente in Erscheinung tritt, für zwei Motorräder gehalten wird, was für nachfolgende Anwendungen ein schwerwiegendes Problem darstellen kann.
  • Die Veröffentlichung "Object Tracking and Classification using Laserscanners - Pedestrian Recognition in urban environment", Kay Fürstenberg et al., 2001 IEEE Intelligent Transportation System Conference Proceedings, Oakland, CA, USA, 25. bis 29. August 2001, beschreibt ein Verfahren mit den Merkmalen des Oberbegriffs des Anspruchs 1.
  • DE 199 26 559 A1 beschreibt ein Verfahren zur Detektion von Objekten im Umfeld eines Straßenfahrzeugs, bei dem Stereobildpaare verwendet werden, wobei eine entfernungsbasierte Bildsegmentierung mittels Stereobildverarbeitung und eine Objekterkennung in den segmentierten Bildbereichen durchgeführt wird. Zur Objekterkennung können Objekthypothesen ermittelt werden, welche durch Vergleich von Objektmodellen verifiziert werden.
  • US 6,125,191 A beschreibt ein Obiekterfassungssvstem für ein Fahrzeug, umfassend: einen an dem Fahrzeug angebrachten Abstandssensor, welcher in der Lage ist einen Abstand zwischen dem Fahrzeug und einem Objekt das vor dem Fahrzeug in einer Längs- und einer Ouerrichtung bezüglich des Fahrzeugs angeordnet ist, beruhend auf dem Senden eines Signals zu dem Objekt welches vor dem Fahrzeug liest, und dem Empfang eines von dem Objekt reflektierten Signals zu erfassen, um das Objekt beruhend auf Ausgangsdatenwerten von dem Abstandssensor zu erfassen ein Koordinatenentwicklungsmittel zum Zuordnen der Ausgangsdatenwerte von dem Abstandssensor zu XY-Koordinaten, welche eine Y-Achse aufweisen, die die Längsrichtung bezüglich des Fahrzeugs wiedergibt, und eine X-Achse aufweisen, die die Querrichtung bezüglich des Fahrzeugs wiedergibt, ein Zellenaufteilungs- und Zählmittel zum Aufteilen der XY-Koordinaten in Richtung der X- und der Y- Achse bei vorbestimmten Abständen in eine Mehrzahl von Zellen, zum Zählen einer Anzahl an Ausgangsdatenwerten die in den Zellen angeordnet sind, und zum Ausgeben der XY-Koordinaten und der Anzahl an Datenwerten für jede Zelle als Zelleninformation, und ein Obiekterkennungsmittel zum Zuordnen gleicher Kennzeichnungen zu Zellen, die einander benachbart sind beruhend auf der von dem Zellenaufteilungsmittel ausgegebenen Zelleninformation und zum Bestimmen baryzentrischer Koordinaten für jede Kennzeichnung.
  • EP 0 631 154 A1 beschreibt ein Verfahren zur Objektvermessung mittels intelligenter Entfernungsbildkamera, bei dem ein Entfernungsbild in Echtzeit aufgenommen, ein elektrooptischer, scannender Sensor verwendet und das Entfernungsbild mit Algorithmen und online auf einem Rechner ausgewertet wird.
  • Es ist Aufgabe der vorliegenden Erfindung, ein Verfahren der obengenannten Art bereitzustellen, das eine möglichst zuverlässige Erkennung von Gegenständen gewährleistet und bei dem insbesondere die Gefahr, daß ein Gegenstand, der in einem geschwindigkeits- oder tiefenaufgelösten Bild als Ansammlung mehrerer getrennter Segmente erscheint, nicht als einziger Gegenstand erkannt wird, gering ist.
  • Die Aufgabe wird gelöst durch ein gattungsgemäßes Verfahren mit den Merkmalen des kennzeichnenden Teils des Anspruchs 1.
  • Das erfindungsgemäße Verfahren ist dadurch gekennzeichnet, daß zur Klassifizierung von Objekten mehrere Objektklassen vorgesehen werden, die wenigstens eine Eigenschaft von Objekten betreffen, die aus wenigstens einem der geschwindigkeits- oder tiefenaufgelösten Bilder bestimmbar ist, und daß zur Neubildung eines Objekts Segmente nur solchen neuen Objekten zugeordnet werden, die einer der vorgegebenen Objektklassen angehören.
  • Bei dem gattungsgemäßen Verfahren werden Bilder eines Sensors benutzt. Hierbei kann es sich um zweidimensionale Bilder eines Videosensors handeln.
  • Es werden jedoch bevorzugt geschwindigkeits- oder tiefenaufgelöste Bilder eines Sensors verwendet. Unter einem geschwindigkeits- bzw. tiefenaufgelösten Bild eines Sensors wird in dieser Anmeldung eine Menge von bei einer Abtastung des Sichtbereichs des Sensors erfaßten Bildpunkten verstanden, denen Punkte bzw. je nach Auflösung des Sensors auch Bereiche eines von dem Sensor erfaßten Gegenstands entsprechen, wobei den Bildpunkten der Geschwindigkeit bzw. der Lage der zugehörigen Gegenstandspunkte entsprechende Koordinaten in mindestens zwei Dimensionen zugeordnet sind, die nicht beide senkrecht zur Blickrichtung des Sensors stehen. Die Bildpunkte können weiterhin Daten über weitere, insbesondere optische, Eigenschaften der Gegenstandspunkte, beispielsweise deren Reflektivität, enthalten. Diese Daten werden im folgenden als optische Eigenschaften der Bildpunkte bezeichnet.
  • Sensoren zur Erfassung solcher geschwindigkeits- oder tiefenaufgelöster Bilder sind grundsätzlich bekannt.
  • Hierbei kann es sich beispielsweise um Ultraschallsensoren handeln.
  • Vorzugsweise werden Sensoren für elektromagnetische Strahlung verwendet.
  • Hierbei kann es sich beispielsweise um Radarsensoren handeln. Vorzugsweise werden bei diesen Geschwindigkeiten der Gegenstandspunkte verfolgt.
  • Besonders bevorzugt kann es sich bei den Sensoren für elektromagnetische Strahlung um optoelektronische Sensoren handeln, die eine gute Ortsauflösung bieten und daher für das erfindungsgemäße Verfahren bevorzugt sind. So können beispielsweise Systeme mit Stereo-Videokameras verwendet werden, die eine Einrichtung zur Umsetzung der von den Kameras aufgenommenen Rohdaten in tiefenaufgelöste Bilder aufweisen.
  • Vorzugsweise werden jedoch Laserscanner verwendet, die bei einer Abtastung einen Sichtbereich mit mindestens einem gepulsten Strahlungsbündel abtasten, das einen vorgegebenen Winkelbereich überstreicht und von einem Punkt bzw. Bereich eines Gegenstands, meist diffus, reflektierte Strahlungspulse des Strahlungsbündels detektieren. Dabei wird zur Entfernungsmessung die Laufzeit der ausgesandten, reflektierten und detektierten Strahlungspulse erfaßt. Die so erfaßten Rohdaten für einen Bildpunkt können dann als Koordinaten den Winkel, bei dem der Reflex erfaßt wurde, und die aus der Laufzeit der Strahlungspulse bestimmte Entfernung des Gegenstandspunkts enthalten. Bei der Strahlung kann es sich insbesondere um sichtbares oder infrarotes Licht handeln.
  • Unter dynamischen Zustandsvariablen werden Variablen verstanden, die jeweils einen zeitlich veränderlichen Zustand des Objekts beschreiben, der wenigstens näherungsweise einem ebenso zeitlich veränderlichen Zustand des Gegenstands entspricht, der durch das Objekt dargestellt wird. Da eine Verfolgung von Objekten erfolgen soll, umfassen die dynamischen Zustandsvariablen insbesondere dynamische Zustandsvariablen zur Bestimmung der Position des jeweiligen Objekts. Bei den sensorspezifischen Zustandsvariablen kann es sich insbesondere um solche handeln, die dem Typ der von dem Sensor erfassten Meßdaten entsprechen. Bei Sensoren, die geschwindigkeitsaufgelöste Bilder erfassen, können insbesondere entsprechende, die Geschwindigkeit eines Gegenstands bzw. des dieses darstellenden Objekts beschreibende Zustandsvariablen, bei tiefenaufgelösten Bildern die Position eines Gegenstands bzw. des dieses darstellenden Objekts verwendet werden.
  • Die Erkennung und Verfolgung von Objekten erfolgt auf der Basis von Modellen, mit denen die zeitliche Entwicklung der dynamischen Zustandsvariablen wenigstens näherungsweise beschreibbar ist, wobei sich Art und Komplexität der Modelle unter anderem nach dem Objekterkennungs- und -verfolgungsverfahren sowie nach der Art der typischerweise auftretenden, zu verfolgenden Gegenstände richten können. Die Modelle können in bestimmte Typen eingeteilt werden und sind durch Modellparameter parametrisierbar. Die Anzahl und Art der Modellparameter ist dabei für den Modelltyp spezifisch, die Parametrisierung erfolgt durch Wahl entsprechender Werte des oder der Modellparameter. Insbesondere dienen die Modelle dazu, die Position eines Objekts vorherzusagen, in deren Nähe dann in einem folgenden geschwindigkeits- oder tiefenaufgelösten Bild nach dem Objekt gesucht werden kann.
  • Ein erfaßtes Bild wird dazu zunächst in Segmente aufgeteilt, die jeweils nur einen einzelnen Bildpunkt oder eine Menge aller Bildpunkte umfassen, von denen jeweils mindestens zwei entsprechend wenigstens einem Segmentierungskriterium als dem Segment zugehörig definiert werden, und die untereinander keine gemeinsamen Bildpunkte aufweisen. Bei diesem Segmentierungskriterium kann es sich insbesondere um ein Kriterium für einen maximal zulässigen Abstand und/oder einen maximal zulässigen Unterschied einer optischen Eigenschaft, insbesondere der Reflektivität, oder bei Verwendung geschwindigkeitsaufgelöster Bilder um ein Kriterium für eine maximal zulässige Differenz der Relativgeschwindigkeiten handeln. Weiterhin kann bei Verwendung eines Laserscanners auch eine aus Pulsbreiten und/oder -höhen bestimmte Neigung einer Fläche verwendet werden. Die Segmente weisen dabei keine gemeinsamen Bildpunkte auf, so daß eine wirkliche Aufteilung des Bildes erreicht wird. Durch diese Zusammenfassung zu Segmenten wird eine erste Reduktion der Datenmenge erreicht, die eine Weiterverarbeitung wesentlich erleichtert. Durch die Verwendung eines Abstandskriteriums kann berücksichtigt werden, daß Gegenstände für die meisten Anwendungen durch ihren räumlichen Zusammenhang definiert sind, so daß ein Segment nur einem Objekt zugeordnet sein sollte und nicht in zwei Objekten liegen und diese verbinden sollte. Bei dem Kriterium für den Abstand kann es sich um ein Schwellwert-Kriterium für ein euklidischen Abstand der Bildpunkte handeln, bei dem gegebenenfalls Koordinatenrichtungen unterschiedlich gewichtet sind. Es ist jedoch auch möglich, für jede Koordinatenrichtung ein eigenes Abstandskriterium zu verwenden.
  • Erfindungsgemäß sind zur Klassifizierung von Objekten mehrere Objektklassen vorgesehen, die wenigstens eine Eigenschaft von Objekten betreffen, die aus wenigstens einem der geschwindigkeits- oder tiefenaufgelösten Bilder bestimmbar ist. Eine Objektklasse zeichnet sich dabei dadurch aus, daß Objekte, denen diese Klasse zugeordnet ist, Gegenstände mit wenigstens einer bestimmten, für die Objektklasse spezifischen Eigenschaft darstellen. Insbesondere kann es sich um die gleiche Eigenschaft handeln, die aus den geschwindigkeits- oder tiefenaufgelösten Bildern bestimmbar ist. Grundsätzlich genügt eine Eigenschaft zur Spezifikation der Objektklasse, es können aber vorzugsweise auch Kombinationen von Eigenschaften verwendet werden, die eine eindeutige Zuordnung erlauben.
  • Die Eigenschaften sind dabei vorzugsweise so gewählt, daß sie für einen Gegenstand zumindest für den Beobachtungszeitraum konstant bleiben sollten. Im Rahmen dieser Anmeldung wird unter dem Begriff "konstante Eigenschaft" auch verstanden, daß Gegenstände der entsprechenden Objektklasse eine ganze Menge von Ausprägungen einer in einem durch die Gegenstände der Objektklasse vorgegebenen Rahmen veränderlichen Eigenschaft umfassen kann, wobei die Ausprägungen sich insbesondere in einem vorgegebenem Rahmen auseinander entwickeln können. Die Eigenschaft besteht dann also in der Menge der speziellen Ausprägungen der veränderlichen Eigenschaft, die ein Gegenstand der entsprechenden Objektklasse annehmen kann. Beispielsweise kann ein Sattelzug oder ein Gelenkbus in gestrecktem Zustand im wesentlichen die Form eines Rechtecks aufweisen, aus der sich bei Kurvenfahrt jedoch eine sich aus dem Rechteck ergebende abgewinkelte, immer noch objektklassenspezifische Form entwickeln kann. Unter der Form wird dann nicht nur die Form in gestrecktem Zustand, sondern die Menge der möglichen Formen verstanden.
  • In einem erfaßten Bild können einzelne aus dem Bild bestimmte Eigenschaften auch eines Objekts, das einen unveränderlichen Gegenstand darstellt, beispielsweise je nach Perspektive veränderlich sein.
  • Bei den Eigenschaften kann es sich um qualitative Eigenschaften, aber auch um durch wenigstens einen Parameter beschreibbare Eigenschaften des Objekts bzw. des durch das Objekt dargestellten Gegenstands handeln. Dabei kann die Eigenschaft insbesondere auch darin bestehen, daß die Werte des Parameters innerhalb eines vorgegebenen Intervalls liegen.
  • Eine für die Zuordnung einer Objektklasse zu einem Objekt verwendete, im folgenden als definierend bezeichnete Eigenschaft zeichnet sich dadurch aus, daß sie aus wenigstens einem erfaßten geschwindigkeits- oder tiefenaufgelösten Bild zumindest näherungsweise ermittelbar ist.
  • Die Verwendung von Objektklassen ist in der deutschen Patentanmeldung mit dem anwaltlichen Aktenzeichen S7880 = DE 101 48 071.7 und dem Titel "Verfahren zur Erkennung und Verfolgung von Objekten", die am gleichen Tag wie die vorliegende Anmeldung von derselben Anmelderin eingereicht wurde beschrieben.
  • Die Neubildung von Objekten erfolgt bei dem erfindungsgemäßen Verfahren anhand von Segmenten. Dabei wird aus einem Segment oder aus mehreren Segmenten unmittelbar ein Objekt einer geeigneten Objektklasse gebildet, was beispielsweise dadurch geschehen kann, daß aus dem Segment oder den Segmenten wenigstens eine Eigenschaft ermittelt wird, die mit der Eigenschaft, die eine Objektklasse definiert, in Beziehung gesetzt werden kann. Erfindungsgemäß erfolgt also eine frühe Klassifizierung, wodurch es möglich ist, auch aus mehreren zu demselben Gegenstand gehörigen Segmenten sofort nach Bildung der Segmente Objekte einer geeigneten Objektklasse zu bilden und nicht erst Objekte, denen keine weiteren Eigenschaften zugeordnet werden können. Damit kann insbesondere vermieden werden, daß aus einem Gegenstand hervorgehende, getrennte Segmente bei der Neubildung von Objekten zu mehreren getrennten Objekten führen, was bei der Objekterkennung und -verfolgung im weiteren Verlauf des Verfahrens entweder zu falschen Ergebnissen führen oder eine komplizierte Fusion von Objekten erfordern würde. Diese Vorteile würden sich bei einer erst zu einem späteren Zeitpunkt erfolgenden Klassifizierung von Objekten nicht ergeben.
  • Weiterbildungen und bevorzugte Ausführungsformen der Erfindung sind in der Beschreibung, den Ansprüchen und den Zeichnungen beschrieben.
  • Auch bei der Erkennung von bereits bestehenden Objekten in Bildern können Mehrdeutigkeiten in der Segment-Objekt-Zuordnung auftreten. Es ist daher bevorzugt, daß bei der Erkennung und Verfolgung von Objekten in einem Bild Segmente einem bereits vorhandenen Objekt unter Berücksichtigung von dessen Objektklasse zugeordnet werden. Dies kann ebenfalls durch Korrelation der Eigenschaften der zuzuordnenden Segmente und der Eigenschaften der Objektklasse erfolgen. Wenn ein Segment Objekten verschiedener Objektklassen zugeordnet werden kann, dann kann eine Mehrdeutigkeit ebenso aufgelöst werden wie in dem Fall, daß mehrere getrennte Segmente demselben Objekt zugeordnet werden können. In beiden Fällen kann eine Auflösung von Mehrdeutigkeiten zwanglos erfolgen.
  • Da Objekte ihre objektklassenspezifischen Eigenschaften nicht ändern sollten, ist es bevorzugt, daß eine Zuordnung von Bildpunkten bzw. Segmenten zu einem Objekt nur erfolgt, wenn diese mit den objektklassenspezifischen Eigenschaften des Objekt konsistent sind. Ist eine Eigenschaft dadurch gegeben, daß die Werte eines eine definierende Eigenschaft beschreibenden Parameters innerhalb eines Intervalls liegen, reicht es grundsätzlich aus, daß ein aus den Bildern bestimmter Parameter innerhalb des vorgegebenen Intervalls bleibt.
  • Die erfindungsgemäße frühe Klassifizierung, d. h. die Bildung von Objekten einer bestimmten Objektklasse direkt aus Segmenten, gestaltet sich insbesondere dann einfach, wenn gemäß einer bevorzugten Weiterbildung die Ausdehnung von Gegenständen, die durch Objekte der Objektklasse dargestellt werden, als eine die Objektklasse definierende Eigenschaft verwendet wird. Dazu ist es bevorzugt, daß die Objektklassen wenigstens durch die Ausdehnungen von Gegenständen definiert sind, die durch Objekte der Klasse dargestellt werden, daß wenigstens einem Objekt in Abhängigkeit von der Objektklasse, der es angehört, als statische Eigenschaft eine Objektbox zugeordnet wird, die eine Ausdehnung des Objekts in der Bildebene darstellt, eine bestimmte Form und Größe aufweist und hinsichtlich Form und Größe dem durch das Objekt dargestellten Gegenstand entspricht, und daß die dynamischen Zustandsvariablen zur Bestimmung der Position des Objekts die Koordinaten eines Bezugspunkts der Objektbox umfassen, über den die Position der Objektbox und damit des Objekts bestimmbar ist, und daß Segmente einem Objekt nur zugeordnet werden, wenn sie vollständig in der dem Objekt zugeordneten Objektbox liegen.
  • Die Objektboxen stellen demnach geometrische Gebilde in der Ebene des tiefenaufgelösten Bildes mit bestimmter Form und Größe dar, die die Ausdehnung der den zugehörigen Objekten entsprechenden Gegenstände wiedergeben. Die Objektbox beschreibt also im wesentlichen den zeitlich nicht variablen bzw. als zeitlich nicht variabel angenommenen Umriß des durch das Objekt dargestellten Gegenstands in der Ebene des tiefenaufgelösten Bildes. Die Entsprechung kann dabei nur sehr grob sein, insbesondere kann die Form der Objektbox eine sehr weitgehende Vereinfachung der Form des Gegenstands darstellen, beispielsweise eine einfache geometrische Grundform.
  • Da die Objektklassen wenigstens durch die Ausdehnungen von Gegenständen definiert sind, die durch Objekte der Objektklasse dargestellt werden, weisen Objekte einer gegebenen Objektklasse objektklassenspezifische Objektboxen auf, die die Ausdehnung von Gegenständen der Objektklasse wiedergeben. Damit ist es allein durch Analyse der Lage, Form und/oder Größe von Segmenten leicht möglich festzustellen, Objekten welcher Objektklasse diese Segmente zugeordnet werden können. Insbesondere kann leicht festgestellt werden, Objekte welcher Objektklasse neu aus gegebenen Segmenten gebildet werden können.
  • Die Verwendung von Objektboxen im allgemeinen und insbesondere im Zusammenhang mit Objektklassen ist in der deutschen Patentanmeldung mit dem anwaltlichen Aktenzeichen S7875 = DE 101 48 068.7 und dem Titel "Verfahren zur Erkennung und Verfolgung von Objekten", die am gleichen Tag wie die vorliegende Anmeldung von derselben Anmelderin eingereicht wurde beschrieben.
  • Gegenstände, denen eine Objektklasse entspricht, weisen jedoch in der Regel nicht alle genau die gleiche Form und/oder Ausdehnung auf, so daß die Vorgabe von Objektboxen mit fester Form und/oder Größe dazu führen kann, daß im weiteren Verlauf des Verfahrens zu kleine oder zu große Objektboxen für ein Objekt verwendet werden, was die Zuordnung von Segmenten zu dem Objekt erschwert. Es ist daher bevorzugt, daß Form und/oder Größe der Objektbox wenigstens durch mindestens einen statischen Zustandsparameter parametrisierbar ist, daß nach einer Zuordnung von Segmenten zu Objekten überprüft wird, ob die Ausdehnung des Gegenstands von der entsprechenden Ausdehnung der Objektbox abweicht, und daß bei Erkennung einer Abweichung der aus wenigstens einem Segment ermittelten Ausdehnung des Objekts von der Ausdehnung der Objektbox die Objektbox durch Änderung des Wertes des Zustandsparameters adaptiert wird. Durch die Anpassung der Größe der Objektbox an die tatsächliche Größe von entsprechenden Gegenständen kann die Auflösung von Mehrdeutigkeiten bei der Segment-Objekt-Zuordnung im Rahmen der Objekterkennung und -verfolgung noch weiter verbessert werden.
  • Grundsätzlich ist es möglich, daß selbst bei einer Neubildung von Objekten unter Verwendung der Objektklassen Mehrdeutigkeiten auftreten, die mit den in einem Bild vorhandenen Informationen nicht auflösbar sind. Bei Zuordnung nur eines Objekts einer bestimmten Objektklasse besteht die Gefahr, daß die Zuordnung nicht korrekt ist, was in späteren Stadien des Verfahrens zu Problemen führen könnte. Daher werden aus verfügbaren Segmenten hypothetische Objekte einer jeweils bestimmten Objektklasse gebildet, denen eine Wahrscheinlichkeit für die Existenz eines dem hypothetischen Objekt entsprechenden Gegenstands zugeordnet wird und für die in wenigstens einer folgenden Iteration des Verfahrens eine Erkennung und Verfolgung sowie eine Aktualisierung der Wahrscheinlichkeit durchgeführt wird. Damit können für verschiedene mögliche Segment-Objekt-Zuordnungen jeweils verschiedene hypothetische Objekte erstellt und weiterverfolgt werden, wobei jeweils die Wahrscheinlichkeiten aktualisiert werden. Auch zunächst unwahrscheinliche Hypothesen können dabei weiterverfolgt werden, um im weiteren Verlauf des Verfahrens gegebenenfalls das Zutreffen oder Nichtzutreffen der Hypothese anhand dann umfangreicherer Informationen prüfen zu können. Hypothetische Objekte, die nicht tatsächlich erfaßten Gegenständen entsprechen, werden im weiteren Verlauf des Verfahrens durch einen starken Abfall ihrer Wahrscheinlichkeiten, gegebenenfalls bis auf Null, erkennbar.
  • Die Verwendung von hypothetischen Objekten bei gattungsgemäßen Verfahren ist in der deutschen Patentanmeldung mit dem anwaltlichen Aktenzeichen S7873 = DE 101 48 063.7 und dem Titel "Verfahren zur Erkennung und Verfolgung von Objekten", die am gleichen Tag wie die vorliegende Anmeldung von derselben Anmelderin eingereicht beschrieben.
  • Um sicherzustellen, daß tatsächlich alle möglichen Kombinationen von Segmenten, die Objekten einer der Objektklassen entsprechen, bei der Bildung hypothetischer Objekte berücksichtigt werden, ist es bevorzugt, daß für Segmentteilmengen in der Menge aller verfügbaren Segmente jeweils mindestens eine Objekthypothese gebildet wird, die wenigstens ein hypothetisches Objekt umfaßt, und daß der Objekthypothese eine Hypothesenwahrscheinlichkeit zugewiesen wird, wobei die Hypothesenwahrscheinlichkeiten bei wenigstens einem folgenden Iterationsschritt aktualisiert werden und die Summe der Hypothesenwahrscheinlichkeiten der Objekthypothesen für eine Segmentteilmenge Eins ist. Dieses Vorgehen ermöglicht eine systematische Erstellung und Verfolgung der Objekthypothesen und insbesondere auch komplexerer Segmentkombinationen, bei denen aus mehreren Segmenten eine größere Anzahl von Objekthypothesen mit mehreren Objekten gleicher oder unterschiedlicher Objektklassen erzeugt werden. Dabei können insbesondere auch die Zuweisung von Hypothesenwahrscheinlichkeiten und deren Abhängigkeiten untereinander konsistent gehandhabt werden.
  • Desweiteren kann den einzelnen hypothetischen Objekten einer Objekthypothese jeweils als Wahrscheinlichkeit die Hypothesenwahrscheinlichkeit der Objekthypothese zugeordnet werden.
  • Bei einer anderen bevorzugten Weiterbildung ist es vorgesehen, daß für Segmentteilmengen in der Menge aller verfügbaren Segmente jeweils mindestens eine Objekthypothese gebildet wird, die genau ein hypothetisches Objekt umfaßt, und daß der Objekthypothese eine Hypothesenwahrscheinlichkeit zugewiesen wird, die bei wenigstens einem folgenden Iterationsschritt aktualisiert wird. Bei dieser Variante wird ein kleinere Zahl von hypothetischen Objekten erzeugt als bei der vorhergehenden Variante, was eine schnellere Durchführung des Verfahrens zur Folge hat.
  • Bei den beiden soeben geschilderten Weiterbildungen werden bevorzugt alle möglichen Objekthypothesen für jede der Segmentteilmengen gebildet.
  • Da die Anzahl der Objekthypothesen und damit der hypothetischen Objekte mit jeder Iteration des Verfahrens erheblich zunehmen kann, ist es weiterhin bevorzugt, daß für jede Segmentteilmenge in der Menge aller verfügbaren Segmente, die wenigstens einem vorgegebenen Hypothesenbildungskriterium entspricht, Objekthypothesen gebildet werden. Hierdurch kann die Anzahl der gebildeten Segmentteilmengen und damit der Objekthypothesen schnell und kontrolliert eingeschränkt werden. Bei dem Hypothesenbildungskriterium kann es sich insbesondere um ein Kriterium der Art handeln, daß eine Segmentteilmenge nur dann zur Bildung von Objekthypothesen verwendet wird, wenn jeweils zwei der darin enthaltenen Segmente höchstens einen vorgegebenen Maximalabstand voneinander aufweisen.
  • Weiterhin kann die Anzahl der Objekthypothesen und damit der hypothetischen weiterzuverfolgenden Objekte bevorzugt dadurch eingeschränkt werden, daß Objekthypothesen verworfen werden, wenn deren Hypothesenwahrscheinlichkeit eine untere Mindestwahrscheinlichkeit unterschreitet oder eines ihrer hypothetischen Objekte verworfen wird, und daß die hypothetischen Objekte einer Objekthypothese als eindeutig erkannte Objekte behandelt, die Objekthypothese gestrichen, wenn deren Wahrscheinlichkeit bzw. Hypothesenwahrscheinlichkeit eine obere Mindestwahrscheinlichkeit überschreitet. Ein hypothetisches Objekt kann dabei verworfen werden, wenn es beispielsweise ein Konsistenzkriterium nicht erfüllt. Dieses kann beispielsweise dadurch gegeben sein, daß für das hypothetische Objekt bei dessen Weiterverfolgung keine Segmente mehr gefunden werden. Hierdurch kann insbesondere auch die Bildung von als eindeutig erkannt behandelten Objekten erfolgen, die sich dadurch auszeichnen, daß für sie keine Verfolgung einer Wahrscheinlichkeit erfolgt. Werden aus einer Segmentteilmenge nach der ersten, weiter oben beschriebenen Weiterbildung Objekthypothesen mit möglicherweise mehreren hypothetischen Objekten und auf Eins normierten Wahrscheinlichkeiten gebildet, können bei Übergang zur Behandlung als eindeutig erkannte Objekte alle anderen Objekthypothesen, die aus der gleichen Segmentteilmenge gebildet wurden wie die überführte Objekthypothese, verworfen werden.
  • Da die Anzahl der Objekthypothesen und damit der hypothetischen Objekte mit jeder Iteration des Verfahrens auch bei Anwendung der oben geschilderten Maßnahmen noch deutlich zunehmen kann, ist es weiterhin bevorzugt, daß die verfügbaren Segmente, die grundsätzlich alle Segmente eines Bildes umfassen können, nur diejenigen Segmente eines Bildes sind, die keinen eindeutig erkannten oder als solche behandelten Objekten zugeordnet werden können. Dabei wird ausgenutzt, daß die Existenz eindeutig erkannter Objekte ein Ausschlußkriterium für die weitere Verwendung von diesen zugeordneten Segmenten für hypothetische Objekte ist.
  • Die Hypothesenwahrscheinlichkeiten werden unter Verwendung von eines Gütewerten für die entsprechenden hypothetischen Objekte ermittelt. Ein solcher Gütewert beschreibt, wie gut ein Objekt durch Bildpunkte wiedergegeben wird. Bei Verwendung von Objektboxen kann die Anzahl erfaßter, dem Objekt zugeordneter Bildpunkte in Verbindung mit einer Referenzanzahl, beispielsweise der in dieser Lage der Objektbox zu dem Sensor maximal erfaßbaren Anzahl von Bildpunkten, als Gütekriterium verwendet werden.
  • Weiterhin kann auch der mittlere Abstand von einem Objekt zugeordneten Bildpunkten zu dem Rand der entsprechenden Objektbox verwendet werden.
  • Vorzugsweise werden die Objektklassen, d. h. die sie definierende Eigenschaft bzw. die sie definierenden Eigenschaften, so gewählt, daß die Gegenstände, die diese objektklassenspezifischen definierenden Eigenschaften aufweisen, auch in bezug auf die Objekterkennung und -verfolgung derart ähnliche Eigenschaften aufweisen, daß sie mittels gleicher Modelltypen und gleicher Werte der Modellparameter beschreibbar sind. Es ist dann bevorzugt, daß jedem Objekt in Abhängigkeit von der zugeordneten Objektklasse ein Modelltyp und ein Wert für den entsprechenden Modellparameter zugeordnet werden. Das bedeutet, daß eine Objektklasse durch wenigstens eine definierende Eigenschaft von Objekten, über die die Zuordnung eines Objekts erfolgen kann, sowie einen Modelltyp und wenigstens einen Wert eines entsprechenden Modellparameters für den Modelltyp gekennzeichnet ist.
  • Durch die objektklassenabhängige Zuordnung eines Modelltyps und eines Werts für einen entsprechenden Modellparameter kann das bei dem erfindungsgemäßen Verfahren zur Erkennung und Verfolgung von Objekten verwendete Modell das Verhalten des Objekts und insbesondere dessen Bewegung besser beschreiben als dies bei konventionellen Verfahren der Fall ist, die strukturell gleiche Modelltypen und gleiche Werte für Modellparameter für alle bei dem Verfahren auftretenden Objekte verwenden. Die Verwendung klassenabhängiger Modelle ist insbesondere in der oben durch Bezugnahme in die vorliegende Anmeldung aufgenommene deutsche Patentanmeldung mit dem anwaltlichen Aktenzeichen S7880 beschrieben, auf die hier nochmals ausdrücklich Bezug genommen wird.
  • Besonders bevorzugt ist es, daß mindestens eine Objektklasse für Gegenstände vorgesehen ist, die sich in allen Richtungen in der Bildebene gleich bewegen können, und daß für Objekte, denen diese Objektklasse zugeordnet wurde, ein objektklassenabhängiger Modelltyp und/oder Modellparameter verwendet wird, nach dem mögliche Bewegungen des Objekts in allen Richtungen gleich behandelt werden, daß mindestens eine Objektklasse für Fahrzeuge vorgesehen ist, wobei für Objekte, denen eine der Objektklassen für Fahrzeuge zugeordnet ist, ein Modelltyp verwendet wird, bei dem dem Objekt eine Objektlängsachse zugeordnet wird, und wobei Bewegungen des Objekts in Richtung der Objektlängsachse und solche senkrecht zur Richtung der Objektlängsachse unterschiedlich in dem Modelltyp berücksichtigt werden. Bei den Modelltypen für Fahrzeuge können insbesondere kinematische Zwangsbedingungen berücksichtigt werden. Hierdurch können insbesondere bei der Definition eines Suchbereichs, in dem bei der Erkennung und Verfolgung nach Segmenten für ein entsprechendes Objekt gesucht wird, unterschiedlich geformte und insbesondere kleinere Suchbereiche erhalten werden, die sich deshalb weniger häufig überlappen und damit die Segment-Objekt-Zuordnung erleichtern.
  • Durch die Bildung von Objekten einer bestimmten Objektklasse, d. h. eine Klassifizierung zum frühestmöglichen Zeitpunkt, ergeben sich die genannten, durch objektklassenspezifische Modelltypen und/oder -parameter erhältlichen Vorteile insbesondere schon bei der ersten Iteration. Dies ist insbesondere dann von Bedeutung, wenn Objekthypothesen verfolgt werden, da hier der Verarbeitungsaufwand möglichst gering gehalten werden muß.
  • Weiterer Gegenstand der Erfindung ist ein Computerprogramm mit Programmcode-Mitteln, um das erfindungsgemäße Verfahren durchzuführen, wenn das Programm auf einem Computer ausgeführt wird.
  • Gegenstand der Erfindung ist auch ein Computerprogrammprodukt mit Programmcode-Mitteln, die auf einem computerlesbaren Datenträger gespeichert sind, um das erfindungsgemäße Verfahren durchzuführen, wenn das Computerprogrammprodukt auf einem Computer ausgeführt wird.
  • Unter einem Computer wird hierbei eine beliebige Datenverarbeitungsvorrichtung verstanden, mit der das Verfahren ausgeführt werden kann. Insbesondere können diese digitale Signalprozessoren und/oder Mikroprozessoren aufweisen, mit denen das Verfahren ganz oder in Teilen ausgeführt wird.
  • Weiterer Gegenstand der Erfindung ist ein Verfahren zur Erkennung und Verfolgung von Gegenständen in einem Sichtbereich eines Sensors, insbesondere eines Laserscanners, bei dem mit dem Sensor zeitlich aufeinanderfolgend geschwindigkeits- oder tiefenaufgelöste Bilder wenigstens eines Teils seines Sichtbereichs erfaßt werden, und bei dem die erfaßten Bilder mit dem erfindungsgemäßen Verfahren zur Erkennung und Verfolgung von Objekten verarbeitet werden.
  • Schließlich ist Gegenstand der Erfindung eine Vorrichtung zur Erkennung und Verfolgung von Objekten mit mindestens einem zur Erfassung geschwindigkeits- oder tiefenaufgelöster Bilder eines Überwachungsbereichs ausgebildeten Sensor , vorzugsweise einem optoelektronischer Sensor, insbesondere einem Laserscanner, und mit einer Datenverarbeitungseinrichtung, die zur Durchführung des erfindungsgemäßen Verfahrens ausgebildet ist.
  • Eine bevorzugte Ausführungsform der Erfindung wird im folgenden beispielhaft anhand der Zeichnungen erläutert. Es zeigen:
  • Fig. 1
    eine schematische Draufsicht auf ein Fahrzeug mit einem Laserscanner sowie einem Motorrad und einem Lastkraftwagen in einem Sichtbereich des Laserscanners, und
    Fig. 2
    ein Ablaufdiagramm für ein Verfahren zur Erkennung und Verfolgung von Objekten nach einer bevorzugten Ausführungsform der Erfindung.
  • In Fig. 1 ist an der Frontseite eines Fahrzeugs 10 ein Laserscanner 12 angeordnet, dessen Sichtbereich 14 einen Teil des in Fahrtrichtung vor dem Fahrzeug 10 liegenden Bereichs umfaßt. Im Sichtbereich 14 befinden sich ein Motorrad 16 und ein Lastkraftwagen 18.
  • Der Laserscanner 12 tastet seinen Sichtbereich 14 mit einem umlaufenden, gepulsten Strahlungsbündel 20 ab und erfaßt die Position von Gegenstandspunkten 22, 24 und 26 auf dem Motorrad 16 und dem Lastkraftwagen 18, an denen ein Puls des Strahlungsbündels 20 reflektiert wurde, anhand des Winkels, bei dem der Strahlungspuls ausgesandt wurde, und des Abstands zum Laserscanner 12, der sich aus der Laufzeit des Strahlungspulses von der Abstrahlung bis zum Empfang nach der Reflexion ergibt. Bei einer Abtastung des Sichtbereichs 14 wird somit ein tiefenaufgelöstes Bild erfaßt, das die bei der Abtastung erfaßten Bildpunkte umfaßt, die zumindest die Koordinaten der Gegenstandspunkte 22, 24 und 26 enthalten, an denen das Strahlungsbündel 20 reflektiert wurde.
  • Im folgenden wird bei einer Bezugnahme auf die Figuren nicht mehr zwischen Bildpunkten und Gegenstandspunkten unterschieden. Die Aktualisierung der vollständigen Bilder erfolgt in einem zeitlichen Abstand T.
  • Die von dem Laserscanner 12 erfaßten Bilder werden an eine Datenverarbeitungseinrichtung 28 in dem Fahrzeug 10 ausgegeben, in der eine Weiterverarbeitung der Bilder stattfindet. Die Datenverarbeitungseinrichtung 28 weist dazu, in den Figuren nicht gezeigt, einen Prozessor und einen Speicher sowie eine Schnittstelle zur Übertragung der Daten von dem Laserscanner 12 auf. Weiterhin ist eine Schnittstelle zur Ausgabe von Daten an andere Datenverarbeitungseinrichtungen in dem Fahrzeug 10 vorgesehen, die jedoch ebenfalls in den Figuren nicht gezeigt sind.
  • Zur Erkennung und Verfolgung von Objekten wird ein Objekterkennungsund -verfolgungsverfahren nach einer bevorzugten Ausführungsform der Erfindung in der Datenverarbeitungseinrichtung 28 mittels eines darin gespeicherten erfindungsgemäßen Computerprogramms ausgeführt.
  • In diesem Beispiel sind zur Klassifizierung von Objekten Objektklassen vorgesehen, nämlich solche für Personen, Zweiräder, Personenkraftwagen, Lastkraftwagen und Busse, Leitpfosten, Pfähle und Bäume, Büsche sowie sonstige Gegenstände.
  • Im folgenden werden die Objektklassen für Personenkraftwagen, Zweiräder sowie Lastkraftwagen genauer beschrieben.
  • Objekte der Objektklasse Personenkraftwagen entsprechen Gegenständen, die in grober Näherung z. B. durch ein Rechteck mit einer Länge in einem Bereich zwischen 3 m und 5,5 m und einer Breite in einem Bereich zwischen 1,5 m und 2,5 m wiedergegeben werden können. Objekte der Objektklasse Zweirad stellen Gegenstände dar, die in grober Näherung z. B. ebenfalls durch ein Rechteck darstellbar sind, dessen Länge in einem Bereich zwischen 1,5 m und 2,5 m und dessen Breite in einem Bereich zwischen 0,5 m und 1 m liegt. Objekte der Objektklasse Lastkraftwagen schließlich stellen Gegenstände dar, die in grober Näherung z. B. durch ein Rechteck darstellbar sind, dessen Länge in einem Bereich zwischen 6 m und 20 m und dessen Breite in einem Bereich zwischen 2 m und 3 m liegt.
  • Jedem Objekt einer Objektklasse ist eine Objektbox zugeordnet, deren Form und Größe zumindest in grober Näherung der Form und Größe der Gegenstände entspricht, die durch Objekte der entsprechenden Objektklasse dargestellt werden.
  • In diesem Beispiel ist jedem Objekt einer der drei oben genauer beschriebenen Objektklassen eine rechteckige Objektbox zugeordnet, deren Ausdehnung den maximalen Ausdehnungen der die Objektklasse festlegenden Rechtecke entspricht, soweit nicht im Laufe des Verfahrens eine Adaption der Größe der Objektbox stattgefunden hat. Dem Motorrad 16 und dem Lastkraftwagen 18 sind daher die in Fig. 1 eng gepunktet gezeichneten Objektboxen 30 und 32 zugeordnet, die eine Länge von 2,5 m und eine Breite von 1 m bzw. einer Länge von 20 m und eine Breite von 3 m aufweisen.
  • Zur Objekterkennung und -verfolgung wird ein Kalman-Filter verwendet, wobei als Zustandsvariablen, die zeitlich veränderliche Eigenschaften der Objekte, insbesondere deren Position beschreiben, in diesem Ausführungsbeispiel die Schwerpunktskoordinaten der Objektbox eines Objekts und dessen Geschwindigkeit verwendet werden. Die Schwerpunktskoordinaten werden gleichzeitig auch als Meßgrößen bei der Kalman-Filterung verwendet. Bei einer anderen Ausführungsform könnte auch zusätzlich noch die Orientierung der Objektbox, beispielsweise dargestellt durch einen Winkel zwischen einer vorgegebenen Achse der Objektbox und einer raumfesten oder in bezug auf den Laserscanner 12 festen Achse, zur Zustandsvariable berücksichtigt werden.
  • Das in dem Beispiel verwendete Verfahren nach der bevorzugten Ausführungsform der Erfindung wird nun anhand eines in Fig. 2 gezeigten, grob schematischen Ablaufdiagramms genauer beschrieben.
  • Nach der Erfassung eines Bildes durch den Laserscanner 12 wird in Schritt S10 zunächst ein neues Bild in die Datenverarbeitungseinrichtung 28 eingelesen.
  • In Schritt S12 wird dann eine Korrektur der Koordinaten der Bildpunkte durchgeführt.
  • Da der Laserscanner 12 Bildpunkte bei einer Abtastung des Sichtbereichs 14 nacheinander erfaßt, können zu Anfang einer Abtastung erfaßte Bildpunkte gegenüber Bildpunkten, die zum Ende der Abtastung erfaßt wurden, verschoben sein, wenn sich das Fahrzeug 10 und damit der an dem Fahrzeug 10 angebrachte Laserscanner 12 während der Abtastzeit relativ zu dem erfaßten Gegenstand deutlich bewegt hat.
  • Weiterhin können solche, durch die sequentielle Abtastung des Laserscanners 12 bedingten Verschiebungen dadurch entstehen, daß sich Objekte am linken, beispielsweise zuerst erfaßten Rand des Bildes bzw. Suchbereichs 14 und solche am rechten, dann zuletzt erfaßten Rand des Bildes mit hoher Geschwindigkeit, insbesondere quer zur Fahrtrichtung des Fahrzeugs 10, bewegen.
  • Solche Fehler in den Koordinaten der erfaßten Bildpunkte können bei einer sich anschließenden Segmentierung zur Bildung zu großer oder zu vieler Segmente führen, da die erfaßten Abstände der Bildpunkte zueinander nicht korrekt ist. Sie sollten daher korrigiert werden.
  • Daher wird zunächst ein Erfassungszeitpunkt für jeden Bildpunkt festgestellt, der sich auf einen gegebenen Bezugszeitpunkt während einer Abtastung bezieht. Weiterhin wird die Geschwindigkeit des Fahrzeugs 10 und damit des Laserscanners 12, beispielsweise durch an dem Fahrzeug angebrachte Sensoren für den Lenkwinkel und die Fahrzeuggeschwindigkeit, erfaßt.
  • Weiter wird für jeden Bildpunkt eine Geschwindigkeit ermittelt, die sich aus der Geschwindigkeit des Objekts ergibt, dem der jeweilige Bildpunkt zugeordnet ist. Diese kann beispielsweise durch eine einfach ausgestaltete, parallel zu dem erfindungsgemäßen Verfahren beispielsweise in dem Laserscanner 12 ablaufende Erkennung und Verfolgung von Objekten erhalten werden.
  • Für jeden Bildpunkt wird durch Multiplikation der Summe der Geschwindigkeit des Fahrzeugs 10 und der dem jeweiligen Bildpunkt zugeordneten Geschwindigkeit mit der Erfassungszeit eine Verschiebung erhalten, mit der die Fehler, die durch die sequentielle Abtastung entstehen, korrigiert werden.
  • Weiterhin werden Geistermessungen korrigiert, die dadurch entstehen, daß ein Gegenstand durch einen weiteren zwischen diesem und dem Laserscanner 12 liegenden Gegenstand teilweise verdeckt wird und das Strahlungsbündel 20 bei einer Abtastung eine Kante des dazwischenliegenden Gegenstands trifft und dabei Reflexe sowohl von dem dazwischenliegenden Gegenstand als auch dem teilweise verdeckten Gegenstand erfaßt werden. Dieser Effekt wird auch als das Auftreten von Abrißkanten bezeichnet. Da der Abstand eines Bildpunktes von dem Laserscanner 12 durch die Laufzeit der Strahlungspulse des Strahlungsbündels 20 ermittelt wird, kann es passieren, daß auf diese Weise "scheinbare" Bildpunkte, also Geistermessungen, zwischen den beiden Gegenständen erfaßt werden, zu denen keine Gegenstandspunkte existieren. Nach Erkennung einer solchen Situation durch Überwachung der Gradienten des Abstands der Bildpunkte von dem Laserscanner 12 in bezug auf den Abtastwinkel werden solche Geistermessungen entfernt und durch entsprechende Bildpunkte auf den Gegenständen ersetzt, deren Koordinaten beispielsweise durch Extrapolation aus den Positionen benachbarter Bildpunkte erhalten werden können.
  • In Schritt S14 wird dann eine Segmentierung des Bildes vorgenommenen, bei der jeweils einem neuen Segment ein noch nicht einem anderen Segment zugeordneter Bildpunkt zugeordnet wird und ausgehend von diesem Bildpunkt weitere Bildpunkte gesucht werden, die von schon vorhandenen Bildpunkten des Segments einen euklidischen Abstand aufweisen, der kleiner ist als ein vorgegebener, geeignet gewählter Maximalabstand. In Fig. 1 sind durch eine solche Segmentierung erhaltene Segmente 34 für das Motorrad 16 sowie Segmente 36 und 38 für den Lastkraftwagen 18 gezeigt. Die teilweise Verdeckung des Lastkraftwagens 18 durch das Motorrad 16 führt dazu, daß in dem Bild zwei getrennte Segmente 36 und 38 auftreten, die beide zu dem Lastkraftwagen 18 gehören.
  • Bei dem erfindungsgemäßen Verfahren sind zwei Typen von Objekten vorgesehen, nämlich eindeutig erkannte Objekte, die sicher einem Gegenstand in dem Sichtbereich 14 des Laserscanners 12 zugeordnet werden können, sowie hypothetische Objekte, für die nur eine Vermutung besteht, daß sie einen bestimmten Gegenstand in dem erfaßten Bild darstellen.
  • In Schritt S16 wird für jedes eindeutig erkannte Objekt eine Objekterkennung und -verfolgung durchgeführt. Dazu wird zunächst aufgrund prädizierter Werte für die Schwerpunktskoordinaten der Objekte beziehungsweise Objektboxen und entsprechender prädizierter Werte für die Kovarianzmatrizen der Meßgrößen, die in Schritt S30 der vorhergehenden Iteration ermittelt wurden, ein Suchbereich festgelegt, in dem nach den Objekten zuzuordnenden Segmenten gesucht wird.
  • Es erfolgt dann die Segment-Objekt-Zuordnung, bei der zur Erkennung eines gegebenen Objekts die entsprechende Objektbox in dem Suchbereich durch Translationen und gegebenenfalls Rotationen um den Schwerpunkt derart positioniert wird, daß in dem Suchbereich liegende Segmente in der Objektbox liegen. Durch die vorgegebene Ausdehnung der Objektbox können hierbei auch mehrere nicht zusammenhängende Segmente zwanglos einem Objekt zugeordnet werden, wenn diese durch eine geeignet positionierte Objektbox umschlossen werden können. Hierdurch wird die Segment-Objekt-Zuordnung wesentlich erleichtert.
  • Nach dieser Segment-Objekt-Zuordnung für eindeutig erkannte Objekte werden im wesentlichen drei Zweige des Verfahrens unabhängig voneinander durchlaufen.
  • Für eindeutig erkannte Objekte, für die bei der Segment-Objekt-Zuordnung in Schritt S16 wenigstens ein Segment gefunden wurde, werden in Schritt S18 aus den Koordinaten des Schwerpunktes der Objektboxen Werte für die Meßgrößen, d. h. insbesondere die Position der Objektbox und damit des Objekts, bestimmt.
  • Auf der Basis der ermittelten Werte für die Meßgrößen, d. h. insbesondere der Positionen der Objektboxen und damit der Objekte, sowie von Schätzwerten für die Zustandsvariablen aus einer vorhergehenden Iteration werden dann neue, aktuelle Schätzwerte für die Zustandsvariablen dieser Objekte ermittelt.
  • In einem zweiten Zweig des Verfahrens werden in der Vergangenheit eindeutig erkannte Objekte behandelt, für die in dem aktuellen Bild in Schritt S16 keine Segmente gefunden werden konnten. Dieser Fall kann eintreten, wenn ein Objekt beziehungsweise ein durch das Objekt dargestellter Gegenstand in einem Bild vollständig von einem anderen Gegenstand verdeckt wird. Es ist jedoch auch möglich, daß der Gegenstand tatsächlich unerwartet aus dem Sichtbereich 14 des Laserscanners 12 verschwunden ist. Schließlich ist auch denkbar, daß bei der Objekterkennung und -verfolgung ein Fehler aufgetreten ist, der zu einem Objektverlust geführt hat. Für diese Objekte werden in Schritt S20 als neue Schätzwerte für die Zustandsvariablen und die Varianzen und Kovarianzen der Zustandsvariablen die zuletzt prädizierten Werte verwendet.
  • In Schritt S22 wird dann anhand der Schätzwerte für die Varianzen und/oder Kovarianzen der Zustandsvariablen und der Wahrscheinlichkeitsverteilung für die Schätzwerte überprüft, ob das Objekt noch mit hinreichender Sicherheit zu lokalisieren sein wird. Dazu werden entsprechende Varianzen und/oder Kovarianzen mit einem vorgegebenen Schwellwert verglichen.
  • Erweist sich das Objekt als zu unsicher, da die entsprechenden Varianzen oder Kovarianzen den Schwellwert überschritten haben, wird es in Schritt S24 gelöscht. Anderenfalls wird das Objekt beibehalten und normal weiterverfolgt, d. h. auch bei der nächsten Iteration wird wieder geprüft, ob diesen Objekten Segmente zugeordnet werden können.
  • In einem dritten Zweig des Verfahrens werden bisher nicht zugeordnete Segmente bearbeitet, d. h. solche Segmente, die keinem aus der Vergangenheit eindeutig erkannten Objekt zugeordnet werden konnten.
  • Aus diesen Segmenten werden zum einen hypothetische Objekte gebildet, die im weiteren Verlauf des Verfahrens wie eindeutig erkannte Objekte verfolgt werden, wobei deren Wahrscheinlichkeiten jedoch in jedem Schritt aktualisiert werden, so daß hinreichend unwahrscheinlich gewordene hypothetische Objekte irgendwann gelöscht und hinreichend wahrscheinlich gewordene Objekte irgendwann in eindeutig erkannte Objekte umgewandelt werden können.
  • Zum anderen werden bereits bestehende hypothetische Objekte weiterverfolgt und gegebenenfalls gelöscht oder in eindeutig erkannte Objekte umgewandelt.
  • Zur Bildung neuer hypothetischer Objekte werden zunächst in Schritt S25 die bisher nicht zugeordneten Segmente festgestellt. Sie bilden die Menge der für eine Bildung und Verfolgung von Objekthypothesen verfügbaren Segmente.
  • In Schritt S26 werden für alle Segmentteilmengen der Menge der verfügbaren Segmente neue Objekthypothesen gebildet, wenn die Segmente einer Segmentteilmenge nicht weiter voneinander entfernt sind als die größte Ausdehnung eines Objekts in einer der gegebenen Objektklassen, d. h. im vorliegenden Beispiel 20 m. Hierdurch ergibt sich eine starke Reduktion der Anzahl der möglichen, zu betrachtenden Segmentteilmengen.
  • Um jede mögliche sinnvolle Zuordnung von Segmenten zu Objekten zu erfassen, werden für jede der Segmentteilmengen Objekthypothesen gebildet, die jeweils eine mögliche Kombination der Segmente der Segmentteilmenge zu Objekten umfassen. Bei der Kombination der Segmente zu Objekten werden Segmente und/oder Segmentkombinationen auf ihre Ausdehnung hin überprüft und mit den entsprechenden Definitionen der Objektklassen verglichen. Läßt sich ein Segment oder eine Segmentkombination durch eine objektklassenspezifische Objektbox, die geeignet positioniert wird, umfassen, wird aus diesem Segment oder der Segmentkombination ein entsprechendes Objekt der Objektklasse gebildet.
  • So kann beispielsweise aus den Segmenten 36 und 38 für den Lastkraftwagen 18 in Fig. 1 in einem Schritt ein Objekt der Objektklasse Lastkraftwagen gebildet werden, obwohl die Segmente relativ weit voneinander entfernt sind, da die Segmente 36 und 38 durch eine geeignet positionierte Objektbox 32 umfaßbar sind. Es wird also bei der Zuordnung die objektklassenspezifische Information benutzt, daß Gegenstände dieser Klasse bis zu 20 m lang und 3 m breit sein können, so daß die Objektbox 32 entsprechend gewählt ist.
  • Erfindungsgemäß erfolgt also eine frühe Klassifizierung, indem gezielt bereits auf Segmentbasis Segmente entsprechend vorgegebener Objektklassen zu Objekten einer der Objektklasse zusammengeführt werden. Es werden also weder alle Segmente einzeln verfolgt, noch werden alle tatsächlich möglichen Segmentkombinationen verfolgt. Vielmehr werden erfindungsgemäß nur solche Segmentkombinationen verfolgt, die einem Objekt in einer der vorgegebenen Objektklassen entsprechen können, wobei das Kriterium für die Zuordnung ist, daß die Segmente der Segmentkombination in objektklassenspezifische Objektbox passen.
  • Es werden dazu alle möglichen Kombinationen von Segmenten im Hinblick auf eine Zuordnung zu Objekten aller Objektklassen überprüft. Dadurch kann sichergestellt werden, daß in der Menge der Objekthypothesen tatsächlich eine Objekthypothese vorhanden ist, in der Objekte vorgesehen sind, die den erfaßten Gegenständen tatsächlich in Lage und Objektklasse entsprechen. Im Beispiel besteht eine Objekthypothese darin, daß die Segmente 34, 36 und 38 einem Objekt der Objektklasse "Zweirad" und einem Objekt der Objektklasse "Lastkraftwagen" entsprechen, denen jeweils die Objektboxen 30 und 32 zugeordnet sind. Eine andere Objekthypothese könnte darin bestehen, daß die Segmente 34 und 36 jeweils einem Objekt der Objektklasse Zweirad und das Segment 38 einem Objekt der Objektklasse Personenkraftwagen zugeordnet werden. Letztere würde jedoch in weiteren Verlauf des Verfahrenes verworfen, wenn das Motorrad 16 nicht mehr Teile des Lastkraftwagens 18 verdeckt und damit nur eine Segment für den Lastkraftwagen gefunden werden würde.
  • Mit der Bildung des Objekts der Objektklasse werden den Objekten entsprechende Objektboxen, im Beispiel in Fig. 1 die Objektboxen 32 und 34, sowie objektklassenspezifische Modelle mit entsprechenden Modelltypen und Modellparametern zugeordnet. Im Beispiel werden also den das Zweirad 16 und den Lastkraftwagen 18 darstellenden Objekten entsprechende Modelle zugewiesenen.
  • Parallel werden bereits bestehende Objekthypothesen in Schritt S28 weiterverfolgt. Dazu erfolgt eine Segment-Objekt-Zuordnung wie in Schritt S16, wobei jedoch nur die für die Verfolgung von Objekthypothesen verfügbaren Segmente zur Objekterkennung und -verfolgung herangezogen werden.
  • In Schritt S30 werden, wie für eindeutig erkannte Objekte in Schritt S18, Schätzwerte für die entsprechenden Zustandsvariablen sowie deren Varianzen und Kovarianzen ermittelt. Darüber hinaus werden neue Werte für die Hypothesenwahrscheinlichkeiten der einzelnen Objekthypothesen berechnet.
  • In Schritt S32 werden dann einerseits hypothetische Objekte von Objekthypothesen, deren Hypothesenwahrscheinlichkeit einen oberen Mindestwert, beispielsweise 95 Prozent überschreitet, in eindeutig erkannte Objekte umgewandelt, wobei die Objekthypothesen selbst so wie die anderen, aus der gleichen Segmentteilmenge gebildeten Objekthypothesen einschließlich ihrer hypothetischen Objekte gelöscht werden.
  • Weiterhin werden Objekthypothesen einschließlich ihrer hypothetischen Objekte gelöscht, deren Hypothesenwahrscheinlichkeit einen unteren Mindestwert, beispielsweise 5 Prozent, unterschreitet. Die Hypothesenwahrscheinlichkeiten der anderen Objekthypothesen, die aus der gleichen Segmentteilmenge gebildet wurden, werden dann dementsprechend aktualisiert.
  • In Schritt S34 werden dann für alle Objekte berechnete Objektdaten ausgegeben beziehungsweise gespeichert.
  • In Schritt S36 erfolgt dann eine Prädiktion neuer Werte für die Zustandsvariablen, Meßgrößen und die entsprechenden Varianzen und Kovarianzen aller bestehenden Objekte, d. h. aller eindeutig erkannten Objekte und aller vorhandenen hypothetischen Objekte.
  • Das Verfahren wird dann nach Erfassen eines neuen Bildes durch den Laserscanner 12 mit Schritt S10 fortgesetzt.
  • Bei einer anderen bevorzugten Ausführungsform der Erfindung läuft das Verfahren ganz analog zu dem oben geschilderten Verfahren ab, wobei jedoch die die Schritte S26, S30 und S32 modifiziert sind.
  • Im Unterschied zu dem oben geschilderten Verfahren werden bei dieser Ausführungsform Objekthypothesen gebildet, die genau ein hypothetisches Objekt enthalten.
  • Die Bildung dieser Objekthypothesen in Schritt S26 kann dabei analog zur der Bildung der hypothetischen Objekte bei dem oben geschilderten Ausführungsbeispiel erfolgen, wobei jedoch jede Objekthypothese und damit jedes hypothetische Objekt einzeln eine aus einem Gütewert der entsprechenden Messung bestimmte Hypothesenwahrscheinlichkeit erhält, die unabhängig von den Hypothesenwahrscheinlichkeiten anderer Hypothesen ist. Der Gütewert wird unter Verwendung der Anzahl der in der entsprechenden Objektbox liegenden Bildpunkte und der in der gegebenen Lage der Objektbox maximal möglichen Anzahl von Bildpunkten bestimmt.
  • Die Aktualisierung der Hypothesenwahrscheinlichkeiten und die Bewertung der Objekthypothesen in den Schritten S30 und S32 ist dahingehend verändert, daß jede Objekthypothese unabhängig von den anderen einzeln bewertet wird.
  • Bezugszeichenliste
  • 10
    Fahrzeug
    12
    Laserscanner
    14
    Sichtbereich
    16
    Motorrad
    18
    Lastkraftwagen
    20
    Strahlungsbündel
    22
    Gegenstands- bzw. Bildpunkte
    24
    Gegenstands- bzw. Bildpunkte
    26
    Gegenstands- bzw. Bildpunkte
    28
    Datenverarbeitungseinrichtung
    30
    Objektbox
    32
    Objektbox
    34
    Segment
    36
    Segment
    38
    Segment

Claims (12)

  1. Verfahren zur Erkennung und Verfolgung von Objekten auf der Basis von von einem Sensor, insbesondere einem Laserscanner (12), erfaßten, geschwindigkeits- oder tiefenaufgelösten, Bildpunkte (22, 24, 26) enthaltenden Bildern von Gegenständen (16, 18) in einem Sichtbereich (14) des Sensors (12),
    - bei dem die Erkennung und Verfolgung unter Verwendung eines jeweils einem der Objekte zugeordneten Modells für die zeitliche Entwicklung von dynamischen Zustandsparametern erfolgt, die wenigstens eine sensorspezifische Eigenschaft des Objekts beschreiben, wobei das Modell einen Modelltyp hat und durch wenigstens einen Modellparameter parametrisierbar ist,
    - bei dem aus den Bildpunkten (22, 24, 26) des aktuellen Bildes Segmente (34, 36, 38) gebildet werden, die jeweils einen einzelnen Bildpunkt (22, 24, 26) oder eine Menge aller Bildpunkte (22, 24, 26) umfassen, von denen jeweils mindestens zwei entsprechend wenigstens einem Segmentierungskriterium als dem Segment (34, 36, 38) zugehörig definiert werden, und die untereinander keine gemeinsamen Bildpunkte (22, 24, 26) aufweisen,
    - bei dem zur Neubildung von Objekten jeweils aus wenigstens einem Segment (34, 36, 38) ein neues Objekt gebildet wird,
    - bei dem bei der Erkennung und Verfolgung von Objekten in einem Bild Segmente (34, 36, 38) bereits vorhandenen Objekten zugeordnet werden,
    - bei dem zur Klassifizierung von Objekten mehrere Objektklassen vorgesehen werden, die wenigstens eine Eigenschaft von Objekten betreffen, die aus wenigstens einem der geschwindigkeits- oder tiefenaufgelösten Bilder bestimmbar ist,
    - bei dem zur Neubildung eines Objekts Segmente (34, 36, 38) nur solchen neuen Objekten zugeordnet werden, die einer der vorgegebenen Objektklassen angehören, und
    - bei dem aus verfügbaren Segmenten (34, 36, 38) hypothetische Objekte einer jeweils bestimmten Objektklasse gebildet werden, denen eine Wahrscheinlichkeit für die Existenz eines dem hypothetischen Objekt entsprechenden Gegenstands zugeordnet wird und für die in wenigstens einer folgenden Iteration des Verfahrens eine Erkennung und Verfolgung sowie eine Aktualisierung der Wahrscheinlichkeit durchgeführt wird,
    dadurch gekennzeichnet,
    dass die Hypothesenwahrscheinlichkeiten unter Verwendung von Gütewerten für die entsprechenden hypothetischen Objekte ermittelt werden, wobei Objektboxen verwendet werden, die eine Ausdehnung der Objekte in der Bildebene darstellen, eine bestimmte Form und Größe aufweisen und hinsichtlich Form und Größe dem durch das Objekt dargestellten Gegenstand entsprechen, und wobei die Anzahl erfasster, dem Objekt zugeordneter Bildpunkte in Verbindung mit einer Referenzanzahl und/oder der mittlere Abstand von einem Objekt zugeordneten Bildpunkten zu dem Rand der entsprechenden Objektbox als Gütekriterium verwendet wird.
  2. Verfahren nach Anspruch 1,
    dadurch gekennzeichnet,
    daß bei der Erkennung und Verfolgung von Objekten in einem Bild Segmente (34, 36, 38) einem bereits vorhandenen Objekt unter Berücksichtigung von dessen Objektklasse zugeordnet werden.
  3. Verfahren nach Anspruch 1 oder 2,
    dadurch gekennzeichnet,
    daß die Objektklassen wenigstens durch die Ausdehnungen von Gegenständen definiert sind, die durch Objekte der Klasse dargestellt werden,
    daß wenigstens einem Objekt in Abhängigkeit von der Objektklasse, der es angehört, als statische Eigenschaft eine Objektbox (30, 32) zugeordnet wird, die eine Ausdehnung des Objekts in der Bildebene darstellt, eine bestimmte Form und Größe aufweist und hinsichtlich Form und Größe dem durch das Objekt dargestellten Gegenstand entspricht,
    daß die dynamischen Zustandsvariablen zur Bestimmung der Position des Objekts die Koordinaten eines Bezugspunkts der Objektbox (30, 32) umfassen, über den die Position der Objektbox (30, 32) und damit des Objekts bestimmbar ist, und
    daß Segmente (34, 36, 38) einem Objekt nur zugeordnet werden, wenn sie vollständig in der dem Objekt zugeordneten Objektbox (30, 32) liegen.
  4. Verfahren nach Anspruch 3,
    dadurch gekennzeichnet,
    daß Form und/oder Größe der Objektbox (30, 32) wenigstens durch mindestens einen statischen Zustandsparameter parametrisierbar sind,
    daß nach einer Zuordnung von Segmenten (34, 36, 38) zu Objekten überprüft wird, ob die Ausdehnung des Gegenstands von der entsprechenden Ausdehnung der Objektbox (30, 32) abweicht, und daß bei Erkennung einer Abweichung der aus wenigstens einem Segment (34, 36, 38) ermittelten Ausdehnung des Objekts von der Ausdehnung der Objektbox (30, 32) die Objektbox (30, 32) durch Änderung des Wertes des Zustandsparameters adaptiert wird.
  5. Verfahren nach einem der vorhergehenden Ansprüche,
    dadurch gekennzeichnet,
    daß für Segmentteilmengen in der Menge aller verfügbaren Segmente (34, 36, 38) jeweils mindestens eine Objekthypothese gebildet wird, die wenigstens ein hypothetisches Objekt umfaßt, und
    daß der Objekthypothese eine Hypothesenwahrscheinlichkeit zugewiesen wird, wobei die Hypothesenwahrscheinlichkeiten bei wenigstens einem folgenden Iterationsschritt aktualisiert werden und die Summe der Hypothesenwahrscheinlichkeiten der Objekthypothesen für eine Segmentteilmenge Eins ist.
  6. Verfahren nach einem der vorhergehenden Ansprüche,
    dadurch gekennzeichnet,
    daß für Segmentteilmengen in der Menge aller verfügbaren Segmente (46 bis 68, 102) jeweils mindestens eine Objekthypothese gebildet wird, die genau ein hypothetisches Objekt umfaßt, und
    daß der Objekthypothese eine Hypothesenwahrscheinlichkeit zugewiesen wird, die bei wenigstens einem folgenden Iterationsschritt aktualisiert wird.
  7. Verfahren nach Anspruch 5 oder 6,
    dadurch gekennzeichnet,
    daß Objekthypothesen verworfen werden, wenn deren Hypothesenwahrscheinlichkeit eine untere Mindestwahrscheinlichkeit unterschreitet oder eines ihrer hypothetischen Objekte verworfen wird, und
    daß die hypothetischen Objekte einer Objekthypothese als eindeutig erkannte Objekte behandelt, die Objekthypothese gestrichen, wenn deren Wahrscheinlichkeit eine obere Mindestwahrscheinlichkeit überschreitet.
  8. Verfahren nach einem der vorhergehenden Ansprüche,
    dadurch gekennzeichnet,
    daß jedem Objekt in Abhängigkeit von der zugeordneten Objektklasse ein Modelltyp und ein Wert für den entsprechenden Modellparameter zugeordnet werden.
  9. Verfahren nach Anspruch 8,
    dadurch gekennzeichnet,
    daß mindestens eine Objektklasse für Gegenstände vorgesehen ist, die sich in allen Richtungen in der Bildebene gleich bewegen können, und daß für Objekte, denen diese Objektklasse zugeordnet wurde, ein objektklassenabhängiger Modelltyp und/oder Modellparameter verwendet wird, nach dem mögliche Bewegungen des Objekts in allen Richtungen gleich behandelt werden, und
    daß mindestens eine Objektklasse für Fahrzeuge vorgesehen ist, daß für Objekte, denen eine der Objektklassen für Fahrzeuge zugeordnet ist, ein Modelltyp verwendet wird, bei dem dem Objekt eine Objektlängsachse zugeordnet wird, und
    daß Bewegungen des Objekts in Richtung der Objektlängsachse und solche senkrecht zur Richtung der Objektlängsachse unterschiedlich in dem Modelltyp berücksichtigt werden.
  10. Computerprogramm mit Programmcode-Mitteln, um das Verfahren nach einem der Ansprüche 1 bis 9 durchzuführen, wenn das Programm auf einem Computer ausgeführt wird.
  11. Computerprogrammprodukt mit Programmcode-Mitteln, die auf einem computerlesbaren Datenträger gespeichert sind, um das Verfahren nach einem der Ansprüche 1 bis 9 durchzuführen, wenn das Computerprogrammprodukt auf einem Computer ausgeführt wird.
  12. Vorrichtung zur Erkennung und Verfolgung von Objekten mit mindestens einem zur Erfassung geschwindigkeits- oder tiefenaufgelöster, Bildpunkte (22, 24, 26) enthaltender Bilder eines Überwachungsbereichs (14) ausgebildeten Sensor, insbesondere einem Laserscanner (12), und mit einer Datenverarbeitungseinrichtung (28), wobei die Erkennung und Verfolgung unter Verwendung eines jeweils einem der Objekte zugeordneten Modells für die zeitliche Entwicklung von dynamischen Zustandsparametern erfolgt, die wenigstens eine sensorspezifische Eigenschaft des Objekts beschreiben, wobei das Modell einen Modelltyp hat und durch wenigstens einen Modellparameter parametrisierbar ist, und wobei die Datenverarbeitungseinrichtung (28) umfasst:
    - Mittel zur Bildung von Segmenten (34, 36, 38) aus den Bildpunkten (22, 24, 26) des aktuellen Bildes, wobei die Segmente (34, 36, 38) jeweils einen einzelnen Bildpunkt (22, 24, 26) oder eine Menge aller Bildpunkte (22, 24, 26) umfassen, von denen jeweils mindestens zwei entsprechend wenigstens einem Segmentierungskriterium als dem Segment (34, 36, 38) zugehörig definiert werden, und die untereinander keine gemeinsamen Bildpunkte (22, 24, 26) aufweisen,
    - Mittel zur Bildung eines neuen Objektes aus jeweils wenigstens einem Segment (34, 36, 38) zur Neubildung von Objekten,
    - Mittel zur Zuordnung von Segmenten (34, 36, 38) zu bereits vorhandenen Objekten in einem Bild bei der Erkennung und Verfolgung von Objekten,
    - Mittel zur Klassifizierung von Objekten anhand mehrerer Objektklassen, die wenigstens eine Eigenschaft von Objekten betreffen, die aus wenigstens einem der geschwindigkeits- oder tiefenaufgelösten Bilder bestimmbar ist,
    - Mittel zur Zuordnung von Segmenten (34, 36, 38) zu nur solchen Objekten, die einer der vorgegebenen Objektklassen angehören, zur Neubildung eines Objekts, und
    - Mittel zur Bildung von hypothetischen Objekten einer jeweils bestimmten Objektklasse aus verfügbaren Segmenten (34, 36, 38), wobei den Objekten eine Wahrscheinlichkeit für die Existenz eines dem hypothetischen Objekt entsprechenden Gegenstands zugeordnet wird und für die in wenigstens einer folgenden Iteration des Verfahrens eine Erkennung und Verfolgung sowie eine Aktualisierung der Wahrscheinlichkeit durchgeführt wird,
    dadurch gekennzeichnet,
    dass Mittel zur Ermittlung der Hypothesenwahrscheinlichkeiten unter Verwendung von Gütewerten für die entsprechenden hypothetischen Objekte vorgesehen sind, wobei Objektboxen verwendet werden, die eine Ausdehnung der Objekte in der Bildebene darstellen, eine bestimmte Form und Größe aufweisen und hinsichtlich Form und Größe dem durch das Objekt dargestellten Gegenstand entsprechen, und wobei die Anzahl erfasster, dem Objekt zugeordneter Bildpunkte in Verbindung mit einer Referenzanzahl und/oder der mittlere Abstand von einem Objekt zugeordneten Bildpunkten zu dem Rand der entsprechenden Objektbox als Gütekriterium verwendet wird.
EP02021125A 2001-09-28 2002-09-23 Verfahren zur Erkennung und Verfolgung von Objekten Expired - Lifetime EP1298012B1 (de)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE10148060 2001-09-28
DE10148060A DE10148060A1 (de) 2001-09-28 2001-09-28 Verfahren zur Erkennung und Verfolgung von Objekten

Publications (3)

Publication Number Publication Date
EP1298012A2 EP1298012A2 (de) 2003-04-02
EP1298012A3 EP1298012A3 (de) 2004-02-04
EP1298012B1 true EP1298012B1 (de) 2008-07-30

Family

ID=7700753

Family Applications (1)

Application Number Title Priority Date Filing Date
EP02021125A Expired - Lifetime EP1298012B1 (de) 2001-09-28 2002-09-23 Verfahren zur Erkennung und Verfolgung von Objekten

Country Status (3)

Country Link
EP (1) EP1298012B1 (de)
AT (1) ATE403167T1 (de)
DE (2) DE10148060A1 (de)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2864673B1 (fr) * 2003-12-30 2006-02-17 Renault Sas Procede et dispositif de prevision de chocs d'un vehicule
USRE46672E1 (en) 2006-07-13 2018-01-16 Velodyne Lidar, Inc. High definition LiDAR system
DE102006057277A1 (de) * 2006-12-05 2008-06-12 Robert Bosch Gmbh Verfahren zum Betrieb eines Radarsystems bei möglicher Zielobjektverdeckung sowie Radarsystem zur Durchführung des Verfahrens
DE102007013023B4 (de) 2007-03-19 2017-10-05 Sick Ag Probabilistische Rasterkarte
WO2011013284A1 (ja) * 2009-07-31 2011-02-03 本田技研工業株式会社 車両用物体検知装置及び車両用物体検知方法
US10627490B2 (en) 2016-01-31 2020-04-21 Velodyne Lidar, Inc. Multiple pulse, LIDAR based 3-D imaging
JP7149256B2 (ja) 2016-03-19 2022-10-06 ベロダイン ライダー ユーエスエー,インコーポレイテッド Lidarに基づく3次元撮像のための統合された照射及び検出
WO2017210418A1 (en) 2016-06-01 2017-12-07 Velodyne Lidar, Inc. Multiple pixel scanning lidar
JP7290571B2 (ja) 2017-03-31 2023-06-13 ベロダイン ライダー ユーエスエー,インコーポレイテッド 統合化されたlidar照明出力制御
CN115575928A (zh) 2017-05-08 2023-01-06 威力登激光雷达美国有限公司 Lidar数据获取与控制
WO2020014813A1 (zh) * 2018-07-16 2020-01-23 上海芯仑光电科技有限公司 计算对象和车辆碰撞时间的方法、计算设备及车辆
US11082010B2 (en) 2018-11-06 2021-08-03 Velodyne Lidar Usa, Inc. Systems and methods for TIA base current detection and compensation
US12061263B2 (en) 2019-01-07 2024-08-13 Velodyne Lidar Usa, Inc. Systems and methods for a configurable sensor system
US11885958B2 (en) 2019-01-07 2024-01-30 Velodyne Lidar Usa, Inc. Systems and methods for a dual axis resonant scanning mirror
US11556000B1 (en) 2019-08-22 2023-01-17 Red Creamery Llc Distally-actuated scanning mirror

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3915631A1 (de) * 1989-05-12 1990-11-15 Dornier Luftfahrt Navigationsverfahren
DE4320485B4 (de) * 1993-06-21 2007-04-19 Eads Deutschland Gmbh Verfahren zur Objektvermessung mittels intelligenter Entfernungsbildkamera
JP3035768B2 (ja) * 1995-05-22 2000-04-24 本田技研工業株式会社 車両用対照物検知装置
US5978504A (en) * 1997-02-19 1999-11-02 Carnegie Mellon University Fast planar segmentation of range data for mobile robots
US6295367B1 (en) * 1997-06-19 2001-09-25 Emtera Corporation System and method for tracking movement of objects in a scene using correspondence graphs
DE19926559A1 (de) * 1999-06-11 2000-12-21 Daimler Chrysler Ag Verfahren und Vorrichtung zur Detektion von Objekten im Umfeld eines Straßenfahrzeugs bis in große Entfernung

Also Published As

Publication number Publication date
DE10148060A1 (de) 2003-04-10
DE50212561D1 (de) 2008-09-11
ATE403167T1 (de) 2008-08-15
EP1298012A2 (de) 2003-04-02
EP1298012A3 (de) 2004-02-04

Similar Documents

Publication Publication Date Title
EP1298454B1 (de) Verfahren zur Erkennung und Verfolgung von Objekten
EP1267178B1 (de) Verfahren zur Verarbeitung eines tiefenaufgelösten Bildes
EP1531343B1 (de) Verfahren zur Verfolgung von Objekten
DE102009006113B4 (de) Vorrichtung und Verfahren zur Sensorfusion mit dynamischen Objekten
DE10026586B4 (de) Objekterfassungssystem
EP1418444B1 (de) Verfahren zur Bestimmung einer Eigenbewegung eines Fahrzeugs
EP1475764B1 (de) Verfahren und Vorrichtung zur Ermittlung der Wahrscheinlichkeit für eine Kollision eines Fahrzeugs mit einem Gegenstand
EP1298012B1 (de) Verfahren zur Erkennung und Verfolgung von Objekten
EP1589484A1 (de) Verfahren zur Erkennung und/oder Verfolgung von Objekten
DE102011119767A1 (de) Erscheinungsbild-gestützte vereinigung von kamera- undentfernungssensordaten für mehrere objekte
EP1298453B1 (de) Verfahren zur Erkennung und Verfolgung von Objekten
DE102017102506B4 (de) Verfahren zum erfassen anderer fahrzeuge relativ zu einem trägerfahrzeug mittels raderfassung
EP1306690B1 (de) Verfahren zur Erkennung und Verfolgung von Objekten
WO2019201565A1 (de) Verfahren, vorrichtung und computerlesbares speichermedium mit instruktionen zur verarbeitung von sensordaten
EP1557692A1 (de) Verfahren zur Erkennung von gekennzeichneten Gefahr- und/oder Baustellen im Bereich von Fahrbahnen
EP1419402B1 (de) Verfahren zur erkennung und verfolgung von objekten
DE102020105192B4 (de) Verfahren zum Detektieren bewegter Objekte in einer Fahrzeugumgebung und Kraftfahrzeug
DE10148070A1 (de) Verfahren zur Erkennung und Verfolgung von Objekten
EP3663881B1 (de) Verfahren zur steuerung eines autonomen fahrzeugs auf der grundlage von geschätzten bewegungsvektoren
DE10148062A1 (de) Verfahren zur Verarbeitung eines tiefenaufgelösten Bildes
EP1291674A2 (de) Verfahren zur Erkennung und Verfolgung von Objekten
DE102018121158A1 (de) Verfahren zum Erfassen von Bodenabtastpunkten und Fahrerunterstützungssystem, das dafür konfiguriert ist, ein derartiges Verfahren auszuführen
EP4314895A1 (de) Verfahren zum betreiben eines fahrassistenzsystems, computerprogrammprodukt, fahrassistenzsystem und fahrzeug
DE10148063A1 (de) Verfahren zur Erkennung und Verfolgung von Objekten
DE102019127322A1 (de) Verfahren zur Erfassung von Objekten in einer Fahrzeugumgebung, Vorrichtung zur Datenverarbeitung, Computerprogrammprodukt und computerlesbarer Datenträger

Legal Events

Date Code Title Description
PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

AK Designated contracting states

Kind code of ref document: A2

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR IE IT LI LU MC NL PT SE SK TR

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR IE IT LI LU MC NL PT SE SK TR

AX Request for extension of the european patent

Extension state: AL LT LV MK RO SI

PUAL Search report despatched

Free format text: ORIGINAL CODE: 0009013

AK Designated contracting states

Kind code of ref document: A3

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR IE IT LI LU MC NL PT SE SK TR

AX Request for extension of the european patent

Extension state: AL LT LV MK RO SI

RIC1 Information provided on ipc code assigned before grant

Ipc: 7G 01S 7/48 B

Ipc: 7G 01S 17/93 A

17P Request for examination filed

Effective date: 20040715

AKX Designation fees paid

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR IE IT LI LU MC NL PT SE SK TR

17Q First examination report despatched

Effective date: 20060829

GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

GRAS Grant fee paid

Free format text: ORIGINAL CODE: EPIDOSNIGR3

GRAA (expected) grant

Free format text: ORIGINAL CODE: 0009210

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR IE IT LI LU MC NL PT SE SK TR

REG Reference to a national code

Ref country code: GB

Ref legal event code: FG4D

Free format text: NOT ENGLISH

REG Reference to a national code

Ref country code: CH

Ref legal event code: EP

REF Corresponds to:

Ref document number: 50212561

Country of ref document: DE

Date of ref document: 20080911

Kind code of ref document: P

REG Reference to a national code

Ref country code: IE

Ref legal event code: FG4D

Free format text: LANGUAGE OF EP DOCUMENT: GERMAN

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: NL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080730

Ref country code: PT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20081230

Ref country code: ES

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20081110

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: BG

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20081030

Ref country code: FI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080730

REG Reference to a national code

Ref country code: IE

Ref legal event code: FD4D

BERE Be: lapsed

Owner name: IBEO AUTOMOBILE SENSOR G.M.B.H.

Effective date: 20080930

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: DK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080730

Ref country code: EE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080730

Ref country code: MC

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20080930

Ref country code: IE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080730

REG Reference to a national code

Ref country code: CH

Ref legal event code: PL

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CZ

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080730

Ref country code: SK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080730

PLBE No opposition filed within time limit

Free format text: ORIGINAL CODE: 0009261

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT

26N No opposition filed

Effective date: 20090506

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: BE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20080930

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080730

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: AT

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20080923

Ref country code: CH

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20080930

Ref country code: LI

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20080930

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20081030

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CY

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080730

Ref country code: LU

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20080923

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: TR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080730

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: GR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20081031

REG Reference to a national code

Ref country code: DE

Ref legal event code: R082

Ref document number: 50212561

Country of ref document: DE

REG Reference to a national code

Ref country code: DE

Ref legal event code: R081

Ref document number: 50212561

Country of ref document: DE

Owner name: SICK AG, DE

Free format text: FORMER OWNER: IBEO AUTOMOBILE SENSOR GMBH, 22143 HAMBURG, DE

Effective date: 20140821

REG Reference to a national code

Ref country code: FR

Ref legal event code: PLFP

Year of fee payment: 15

REG Reference to a national code

Ref country code: FR

Ref legal event code: PLFP

Year of fee payment: 16

REG Reference to a national code

Ref country code: FR

Ref legal event code: PLFP

Year of fee payment: 17

REG Reference to a national code

Ref country code: DE

Ref legal event code: R081

Ref document number: 50212561

Country of ref document: DE

Owner name: IBEO AUTOMOTIVE SYSTEMS GMBH, DE

Free format text: FORMER OWNER: SICK AG, 79183 WALDKIRCH, DE

Ref country code: DE

Ref legal event code: R082

Ref document number: 50212561

Country of ref document: DE

Representative=s name: RGTH RICHTER GERBAULET THIELEMANN HOFMANN PATE, DE

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: FR

Payment date: 20210930

Year of fee payment: 20

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: GB

Payment date: 20210928

Year of fee payment: 20

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: DE

Payment date: 20211126

Year of fee payment: 20

REG Reference to a national code

Ref country code: DE

Ref legal event code: R071

Ref document number: 50212561

Country of ref document: DE

REG Reference to a national code

Ref country code: GB

Ref legal event code: PE20

Expiry date: 20220922

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: GB

Free format text: LAPSE BECAUSE OF EXPIRATION OF PROTECTION

Effective date: 20220922