EP4073778A1 - Method for creating a road user algorithm for computer simulation of road users, method for training at least one algorithm for a control unit of a motor vehicle, computer program product, and motor vehicle - Google Patents

Method for creating a road user algorithm for computer simulation of road users, method for training at least one algorithm for a control unit of a motor vehicle, computer program product, and motor vehicle

Info

Publication number
EP4073778A1
EP4073778A1 EP20820809.0A EP20820809A EP4073778A1 EP 4073778 A1 EP4073778 A1 EP 4073778A1 EP 20820809 A EP20820809 A EP 20820809A EP 4073778 A1 EP4073778 A1 EP 4073778A1
Authority
EP
European Patent Office
Prior art keywords
algorithm
road users
motor vehicle
traffic
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
EP20820809.0A
Other languages
German (de)
French (fr)
Other versions
EP4073778B1 (en
Inventor
Ulrich Eberle
Christoph THIEM
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Stellantis Auto SAS
Original Assignee
PSA Automobiles SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by PSA Automobiles SA filed Critical PSA Automobiles SA
Publication of EP4073778A1 publication Critical patent/EP4073778A1/en
Application granted granted Critical
Publication of EP4073778B1 publication Critical patent/EP4073778B1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/161Decentralised systems, e.g. inter-vehicle communication
    • G08G1/162Decentralised systems, e.g. inter-vehicle communication event-triggered
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes

Definitions

  • a computer-implemented method for creating a traffic user algorithm for computer simulation of traffic users a computer-implemented method for training at least one algorithm for a control unit of a motor vehicle, a computer program product and a motor vehicle are described here.
  • the first partially automated vehicles (corresponding to SAE Level 2 in accordance with SAE J3016) have reached series production readiness in recent years.
  • the disadvantage of the known method is that the simulation has so far been carried out with rule-compliant road users. In reality, however, it often happens that road users do not behave in accordance with the rules, e.g. drive too fast, drive over lane markings for no apparent reason, are inattentive, overtake to the right or move on non-obvious trajectories, etc.
  • the algorithm is therefore less prepared for human driving behavior. This leads to an unnatural driving behavior of a motor vehicle equipped with a suitably trained algorithm, since the motor vehicle can react less flexibly and critical situations can arise if the algorithm did not correctly anticipate the behavior of the other road user.
  • a traffic simulation is known from JP 2009 019920 A which generates a realistic route based on the prediction of pedestrian or bicycle behavior.
  • the route is optimized from the perspective of the pedestrian or the cyclist and also includes the risk of a collision with another vehicle and possibly other parameters such as weather.
  • the resulting models integrate a large number of routes, depending on the overall risk, with which real traffic conditions are simulated.
  • the task arises of computer-implemented methods for training at least one algorithm for a control unit of a motor vehicle, computer program products and motor vehicles of the type mentioned at the beginning Road user algorithm for computer simulation of road users, computer-implemented methods for training at least one algorithm for a control device of a motor vehicle, computer program products and motor vehicles of the type mentioned above to the effect that they are better set up to map real traffic conditions.
  • the object is achieved by a computer-implemented method for creating a road user algorithm for computer simulation of road users according to claim 1, a computer-implemented method for training at least one algorithm for a control unit of a motor vehicle according to the independent claim 6, a computer program product according to the independent claim 9 and a motor vehicle according to the independent claim 10. Further designs and developments are the subject of the dependent claims.
  • the following is a computer-implemented method for creating a traffic participant algorithm for computer simulation of road users, the road users belonging to a class of poorly protected road users, with data from a plurality of different, real existing road users of the class in a real traffic environment with the help of sensors attached to the road users are detected during the implementation of at least one mission, with movement trajectories of the road users being determined from the data, with an average movement trajectory for the mission and bandwidths for deviations from the average movement trajectory being calculated from the movement trajectories.
  • Badly protected road users are those whose passive safety equipment offers no, marginal or only little protection, e.g. through safety clothing and / or body-worn protectors and / or helmets.
  • This class includes, for example, pedestrians, skateboarders, roller skaters, cyclists, motorcyclists, quad riders, scooter riders, wheelchair users and the like.
  • the mission can, among other things, be a mission presented to actually existing road users, or the mission can be derived from data obtained from movement data of the road users who move between a common starting point or area and a common end point or end without an explicit mission. move area.
  • a corresponding mission can also be formulated in a more complex manner, for example to take a certain one of several possible routes or it can have intermediate destinations.
  • Possible sources can be, for example, position recording devices such as cell phones or smart watches. Many road users carry around cell phones, which are usually suitable for recording relevant data.
  • the bandwidths can cover, for example, 95 or 99% of the individual trajectories, so that only trajectories that are very far away from the mean trajectory are excluded.
  • the mean value can be determined using various known mean value methods, e.g. as a geometric mean.
  • a corresponding road user algorithm can thus generate different trajectories for a given mission within the bandwidths, which are closer to a real behavior of road users than a fixed trajectory for the same mission.
  • the differences can be achieved in a possible embodiment through various parameters.
  • the traffic user algorithm can be designed in such a way that it generates randomized trajectories within the bandwidths. Such randomized trajectories lead to different behavioral patterns in different training cycles or in different road users within a simulation that are simulated using the same algorithm. As a result, new and unpredictable situations can be created that are closer to reality than uniformly repetitive situations.
  • the traffic participants represent vehicles of a given, poorly protected vehicle class, with at least one sensor for recording data being attached to the vehicles or assigned to the vehicles, the data being evaluated by the traffic participant algorithm become.
  • sensors are often arranged on or in the corresponding motor vehicles anyway, e.g. acceleration sensors. If the data generated from this are evaluated, the number of additionally required sensors can be reduced or additional sensors can be completely avoided.
  • the data Before the data is evaluated by the traffic user algorithm, it can be converted and / or converted according to a further development so that more usable sensor data, e.g. acceleration, can be generated from raw sensor data, e.g. voltage values.
  • more usable sensor data e.g. acceleration
  • raw sensor data e.g. voltage values
  • the at least one sensor arranged on the road user or the vehicle is a camera, a GPS sensor, a lidar and / or a radar sensor.
  • At least one sensor which detects the road users is arranged in the traffic environment, the data being evaluated and incorporated into the road user algorithm.
  • a sensor arranged in the infrastructure which can be static, for example, for A traffic surveillance camera, for example, can record the entire traffic situation and thus provide additional data for checking the plausibility of the behavior of road users. In this way, among other things, anticipatory behavior of the road users concerned can be derived.
  • provision can be made for a self-learning neural network to be provided, the data being provided to the self-learning neural network, the traffic user algorithm being trained by the self-learning neural network.
  • a traffic user algorithm can be created that can react to unknown situations in a human-like manner. It is thus possible to create a universally replaceable algorithm for traffic simulations, with the aid of which a simulation of a corresponding traffic participant who belongs to a poorly protected class can be generated.
  • a first independent subject relates to a computer-implemented method for training at least one algorithm for a control unit of a motor vehicle, the control unit being provided for implementing an automated or autonomous driving function by intervening in units of the motor vehicle on the basis of input data using the at least one algorithm , the algorithm being trained by a self-learning neural network, comprising the following steps: a) providing a computer program product module for the automated or autonomous driving function, the computer program product module containing the algorithm to be trained and the self-learning neural network, b) providing a simulation environment with simulation parameters , wherein the simulation environment contains map data of a real existing operational area, the motor vehicle and, as an agent, at least one further simulated road user, where e in the behavior of the at least one other road user is determined by a road user algorithm that was generated according to the type described above; c) providing a mission for the motor vehicle, and d) carrying out the mission and training the algorithm.
  • At least one of the further simulated road users generates a trajectory that is randomized or stochastically parameter-varied.
  • a randomized or stochastically parameter-varied trajectory is newly generated in situ for each simulation so that the behavior of the relevant road user or agent is not determined in advance. This leads to particularly complex challenges for the algorithm to be trained and to a more robust algorithm.
  • provision can be made for a plurality of further simulated road users to be provided, who move at least partly along the central trajectory and partly within the bandwidths.
  • Another independent subject relates to a device for creating a traffic user algorithm for computer simulation of road users, the road users belonging to a class of poorly protected road users, with sensors being attached to a plurality of different, real existing road users of the class, with which data is transferred to a real Traffic environment can be detected during the implementation of at least one mission, means for determining movement trajectories from the data are provided, with the means being set up to generate a mean movement trajectory from the movement trajectories. torie for the mission and bandwidths for deviations from the mean movement trajectory.
  • the traffic participants represent vehicles of a given, poorly protected vehicle class, with at least one sensor for recording data being attached to the vehicles or assigned to the vehicles, the traffic participant algorithm being designed to do this To evaluate data from the at least one sensor.
  • the at least one sensor arranged on the road user or the vehicle is a camera, a GPS sensor, a lidar and / or a radar sensor.
  • At least one sensor which detects the road users is arranged in the traffic environment, with means for evaluating the data and for introducing it into the road user algorithm.
  • a self-learning neural network can be provided, the data being provided to the self-learning neural network, the self-learning neural network being set up to train the road user algorithm.
  • Another independent subject matter relates to a device for training at least one algorithm for a control unit of a motor vehicle, the control unit being provided for implementing an automated or autonomous driving function by intervening in units of the motor vehicle on the basis of input data using the at least one algorithm , wherein a self-learning neural network is provided for training the algorithm, wherein: a) a computer program product module for the automated or autonomous driving function is available, the computer program product module containing the algorithm to be trained and the self-learning neural network, b) a simulation environment with simulation parameters stands, wherein the simulation environment contains map data of a real existing operational area, the motor vehicle and, as an agent, at least one further simulated road user, with a behavior of the at least one further road users are determined by a road user algorithm that was generated according to the type described above; c) a mission is ready for the motor vehicle, and d) means for performing the mission and training the algorithm are provided.
  • provision can be made for means for randomizing or for stochastically varying parameters of the trajectory of the at least one of the further simulated road users to be provided.
  • means for providing a plurality of further simulated road users can be provided, which are set up to move at least partially along the central trajectory, partially within the bandwidths.
  • Another independent subject matter relates to a computer program product with a computer-readable storage medium on which instructions are embedded which, when executed by at least one processing unit, have the effect that the at least one processing unit is set up to execute the method of the type described above.
  • the method can be carried out on one or more processing units distributed so that certain method steps are carried out on one processing unit and other process steps are carried out on at least one other processing unit, with calculated data being able to be transmitted between the processing units if necessary.
  • Another independent subject matter relates to a motor vehicle with a computer program product of the type described above.
  • 1 shows a motor vehicle which is set up for autonomous driving
  • FIG. 2 shows a computer program product for the motor vehicle from FIG. 1;
  • FIG. 3 shows a location with the motor vehicle from FIG. 1 and other traffic participants
  • FIG. 7 shows a schematic diagram of the generation of a virtual agent, as well as
  • FIG. 8 shows a schematic diagram of the generation of an algorithm for controlling a
  • FIG. 1 shows a motor vehicle 2 which is set up for autonomous driving.
  • the motor vehicle 2 has a motor vehicle control device 4 with a computing unit 6 and a memory 8.
  • a computer program product is stored in the memory 8 and is described in more detail below in particular in connection with FIGS. 2, 3 and 8.
  • the motor vehicle control device 4 is connected, on the one hand, to a series of environmental sensors which allow the current position of the motor vehicle 2 and the respective traffic situation to be recorded. These include environmental sensors 10, 12 at the front of the motor vehicle 2, environmental sensors 14, 16 at the rear of the motor vehicle 2, a camera 18 and a GPS module 20. Depending on the configuration, further sensors can be provided, for example wheel speed sensors, acceleration sensors, etc., which are connected to the motor vehicle control unit 4.
  • the computing unit 6 has loaded the computer program product stored in the memory 8 and executes it. On the basis of an algorithm and the input signals, the computing unit 6 decides on the control of the motor vehicle 2, which the computing unit 6 can achieve by intervening in the steering 22, engine control 24 and brakes 26, which are each connected to the motor vehicle control unit 4.
  • FIG. 2 shows a computer program product 28 with a computer program product module 30.
  • the computer program product 30 has a self-learning neural network 32 that trains an algorithm 34.
  • the self-learning neural network 32 learns according to methods of reinforcement learning, d. H.
  • the algorithm 34 By varying the algorithm 34, the neural network 32 tries to obtain rewards for improved behavior in accordance with one or more criteria or standards, i.e. for improvements to the algorithm 34.
  • known learning methods of monitored and unsupervised learning and combinations can also be used this learning method can be used.
  • the algorithm 34 can essentially consist of a complex filter with a matrix of values, often called weights, which define a filter function that determines the behavior of the algorithm 34 as a function of input variables that are presently recorded by the environmental sensors 10 to 20 and control signals for controlling the motor vehicle 2 are generated.
  • the quality of the algorithm 34 is monitored by a further computer program product module 36, which monitors input variables and output variables, determines metrics therefrom and controls compliance with the quality by the functions on the basis of the metrics.
  • the computer program product module 36 can give negative as well as positive rewards for the neural network 32.
  • the motor vehicle 2 travels on a road 38 which intersects with a road 40 at a street intersection 42.
  • motorcyclists such as motorcyclist 44 shown in FIG. 3 have a mission 50 to drive from a starting point 46 on the road 40 to a destination point 48 on the road 38.
  • the route requires turning from road 40 onto road 38.
  • Motorcyclist 44 will drive a certain trajectory 52.1 during mission 50.
  • Mission 50 is repeated several times by different motorcyclists who all have the task of driving from starting point 46 to destination point 48.
  • the start and finish points can be defined as areas or corridors, e.g. as a two-dimensional area or as start and finish lines.
  • a mean trajectory 54 and bandwidth limits 56.1, 56.2 are generated therefrom, which describe a usual behavior and usual deviations from the mean trajectory 54.
  • the bandwidth limits 56.1, 56.2 cover most of the trajectories driven in each section, i.e. it is not necessary for a single one of the trajectories 52.1 to 52.4 to lie completely within the bandwidth limits 56.1, 56.2 from start to finish.
  • a stationary traffic surveillance camera 58 can also be provided at the intersection 42, which observes the traffic situation and thus records the behavior of the motorcyclist 44 and his driven trajectory 52.1 as well as other traffic events, for example the movement of a pedestrian 60.
  • the algorithm 34 for the control unit 4 of the motor vehicle 2 is trained in a simulation of the location 36, the motorcyclist 44 being simulated as an agent who can have the same mission 50 as part of the simulation.
  • the motorcyclist 44 has a GPS sensor 62 which continuously records data about the position of the motorcyclist 44.
  • the GPS sensor 62 can be installed, for example, in a mobile phone carried by the motorcyclist 44.
  • a controller 64 which, for example, controls a motorcycle 65 of the motorcyclist 44 and which can acquire data.
  • a camera 66 is connected to the controller 64 and records the traffic happening in front of the motorcyclist 44.
  • the controller 64 can also acquire data about the motorcycle, for example a throttle valve position, gear engaged, speed, lean angle and the like.
  • 5 shows a flow chart for generating the traffic user algorithm.
  • the software is provided.
  • a neural network and an algorithm are then provided.
  • a mission is then determined, for example the mission 50 shown in FIG. 3, to drive as a motorcyclist from the starting point 46 to the destination point 48.
  • each sensor data is recorded, for example from the GPS sensor 62, the controller 64 as well as the camera 66 and the traffic surveillance camera 58.
  • the sensor data is fed into the neural network, there an average trajectory and bandwidths determined.
  • FIG. 6 shows a flow chart of the method for training the algorithm 34.
  • a computer program product module (software) to be trained is provided for the control device 4 of the motor vehicle 2.
  • map data of the location 38 are provided.
  • a mission is then defined for the algorithm 34, for example as a motor vehicle 2 to get from a starting point to a destination in a certain traffic situation.
  • the algorithm is then trained in the control unit of the motor vehicle on the basis of the situations posed.
  • the relevant information can be used to influence the simulation.
  • a large number of different road users can be mapped, for example cars, trucks, motorcycles, cyclists, pedestrians.
  • Real infrastructure for example signs, traffic lights, street symbols, guidelines, etc. can also be displayed.
  • complex traffic maneuvers can be realistically examined within the framework of cooperative mobility, for example driving at an intersection where there are several road users and communication between road users, for example so as not to endanger any road user.
  • FIG. 7 shows a further schematic diagram of the generation of an agent 70, here a simulation of the motorcyclist 44.
  • the algorithm 72 which runs in a computer 74, is supplied with the data from the GPS sensor 62, the controller 64, the camera 66 and the traffic monitoring camera 58.
  • a self-learning neural network 76 optimizes the algorithm 62 by varying the same and specifying an algorithm 72 'and checking whether the modified algorithm 72' works better than the original algorithm 72. As soon as certain quality metrics are met, the algorithm 72 is frozen and used a compiler 78, the virtual agent 70 is created, which can be used in simulation environments.
  • the simulation environment 80 is provided by map data of the location 34 as well as simulations of the motor vehicle 2 and other road users such as the pedestrian 60 and the virtual agent 70.
  • a mission is then set up, which algorithm 34, which controls motor vehicle 2, is to carry out. This is, as described in connection with FIG. 7, processed by the neural network 32, which varies the algorithm 34 until certain quality standards are met.
  • the computer program product module 30 for the control device 4 of the motor vehicle 2 is then generated with the aid of a compiler 82.

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Abstract

The invention relates to a computer-implemented method for creating a road user algorithm for computer simulation of road users, wherein: the road users belong to a class of poorly protected road users; data of a plurality of different, genuinely existing road users of the class in a genuine traffic environment is detected during the implementation of at least one mission with the aid of sensors affixed to the road users; movement trajectories of the road users are determined from the data; a mean movement trajectory for the mission and ranges for deviations from the mean trajectories are calculated from the movement trajectories. The invention further relates to a computer-implemented method for training at least one algorithm for a control unit of a motor vehicle, a computer program product, and a motor vehicle.

Description

VERFAHREN ZUM ERSTELLEN EINES VERKEHRSTEILNEHMERALGORITHMUS ZUR COMPUTERSIMULATION VON VERKEHRSTEILNEHMERN, VERFAHREN ZUM TRAINIEREN WENIGSTENS EINES ALGORITHMUS FÜR EIN STEUERGERÄT EINES KRAFTFAHRZEUGS, COMPUTERPROGRAMMPRODUKT SOWIE KRAFTFAHRZEUG METHOD FOR CREATING A TRAFFIC SUBSCRIBER ALGORITHM FOR COMPUTER SIMULATION OF TRAFFIC SUBSCRIBERS, METHOD FOR TRAINING AT LEAST ONE ALGORITHM FOR A CONTROL UNIT OF A MOTOR VEHICLE, COMPUTER VEHICLE DRIVE
Vorliegend werden ein computerimplementierte Verfahren zum Erstellen eines Verkehrs teilnehmeralgorithmus zur Computersimulation von Verkehrsteilnehmern, ein computerim plementiertes Verfahren zum Trainieren wenigstens eines Algorithmus für ein Steuergerät eines Kraftfahrzeugs, ein Computerprogrammprodukt sowie ein Kraftfahrzeug beschrie ben. A computer-implemented method for creating a traffic user algorithm for computer simulation of traffic users, a computer-implemented method for training at least one algorithm for a control unit of a motor vehicle, a computer program product and a motor vehicle are described here.
Verfahren zum Erstellen eines Verkehrsteilnehmeralgorithmus zur Computersimulation von Verkehrsteilnehmern, Verfahren zum Trainieren wenigstens eines Algorithmus für ein Steuergerät eines Kraftfahrzeugs, Computerprogrammprodukte sowie Kraftfahrzeuge der eingangs genannten Art sind im Stand der Technik bekannt. Methods for creating a road user algorithm for computer simulation of road users, methods for training at least one algorithm for a control device of a motor vehicle, computer program products and motor vehicles of the type mentioned at the beginning are known in the prior art.
Die ersten teilautomatisiert fahrenden Kraftfahrzeuge (entsprechend SAE Level 2 gemäß SAE J3016) sind in den vergangenen Jahren zur Serienreife gelangt. Automatisiert fah rende (entspricht SAE Level >=3 gemäß SAE J3016) bzw. autonom fahrende (entspricht SAE Level 4/5 gemäß SAE J3016) Kraftfahrzeuge müssen anhand vielfältiger Vorgaben, zum Beispiel Fahrziel und Einhaltung gängiger Verkehrsregeln, mit maximaler Sicherheit auf unbekannte Verkehrssituationen selbständig reagieren können. Da die Verkehrswirk lichkeit aufgrund der Unvorhersehbarkeit des Verhaltens anderer Verkehrsteilnehmer, ins besondere anderer menschlicher Verkehrsteilnehmer, hoch komplex ist, gilt es als nahezu unmöglich, entsprechende Steueralgorithmen und -geräte von Kraftfahrzeugen mit her kömmlichen Methoden und auf der Grundlage von menschengemachten Regeln zu pro grammieren. The first partially automated vehicles (corresponding to SAE Level 2 in accordance with SAE J3016) have reached series production readiness in recent years. Automated driving (corresponds to SAE level> = 3 according to SAE J3016) or autonomous driving (corresponds to SAE level 4/5 according to SAE J3016) vehicles must be able to handle unfamiliar traffic situations independently with maximum safety based on a variety of specifications, for example destination and compliance with current traffic regulations can react. Since the reality of traffic is highly complex due to the unpredictability of the behavior of other road users, especially other human road users, it is almost impossible to program corresponding control algorithms and devices for motor vehicles with conventional methods and on the basis of man-made rules.
Zur Bewältigung hochkomplexer Probleme mittels Computern ist es darüber hinaus be kannt, mit Methoden des maschinellen Lernens bzw. der künstlichen Intelligenz Algorith men zu entwickeln bzw. durch selbstlernende neuronale Netze entwickeln zu lassen. Sol che Algorithmen können einerseits maßvoller auf komplexe Verkehrssituationen reagieren als traditionelle Algorithmen. Andererseits ist es mithilfe künstlicher Intelligenz prinzipiell möglich, die Algorithmen während des Entwicklungsprozesses und im Alltag durch ständi ges Lernen weiterzuentwickeln und kontinuierlich zu verbessern. Alternativ kann ein Stand des Algorithmus nach der Beendigung einer Trainingsphase im Entwicklungspro zess und einer Validierung durch den Hersteller eingefroren werden und in entsprechen den Steuergeräten in Kraftfahrzeugen in Einsatz gebracht werden. To cope with highly complex problems using computers, it is also known to develop algorithms using machine learning or artificial intelligence methods or to have them developed using self-learning neural networks. On the one hand, such algorithms can react more moderately to complex traffic situations than traditional algorithms. On the other hand, it is in principle with the help of artificial intelligence possible to further develop and continuously improve the algorithms during the development process and in everyday life through constant learning. Alternatively, a status of the algorithm can be frozen after the completion of a training phase in the development process and a validation by the manufacturer and put into use in corresponding control devices in motor vehicles.
Nachteilig an den bekannten Verfahren ist, dass die Simulation bislang mit regelkonfor men Verkehrsteilnehmern durchgeführt wurde. In der Realität kommt es hingegen häufig vor, dass Verkehrsteilnehmer sich nicht regelkonform verhalten, z.B. zu schnell fahren, Spurmarkierungen scheinbar grundlos überfahren, unaufmerksam sind, rechts überholen oder sich auf nicht naheliegenden Trajektorien bewegen etc. Ein nur mit sich regelkon form verhaltenden anderen Verkehrsteilnehmern trainierter Algorithmus ist daher schlech ter auf menschliches Fahrverhalten vorbereitet. Dies führt zu einem unnatürlichen Fahr verhalten eines mit einem entsprechend trainierten Algorithmus ausgestatteten Kraftfahr zeugs, da das Kraftfahrzeug weniger flexibel reagieren kann und es kann zu kritischen Si tuationen kommen, wenn der Algorithmus das Verhalten des anderen Verkehrsteilneh mers nicht richtig antizipiert hat. The disadvantage of the known method is that the simulation has so far been carried out with rule-compliant road users. In reality, however, it often happens that road users do not behave in accordance with the rules, e.g. drive too fast, drive over lane markings for no apparent reason, are inattentive, overtake to the right or move on non-obvious trajectories, etc. The algorithm is therefore less prepared for human driving behavior. This leads to an unnatural driving behavior of a motor vehicle equipped with a suitably trained algorithm, since the motor vehicle can react less flexibly and critical situations can arise if the algorithm did not correctly anticipate the behavior of the other road user.
Aus der JP 2009 019920 A ist eine Verkehrssimulation bekannt, die eine realistische Route basierend auf der Vorhersage eines Fußgänger- oder eines Fahrradverhaltens zu generieren. Die Route ist aus Sicht des Fußgängers oder des Fahrradfahrers optimiert und beinhaltet auch das Risiko einer Kollision mit einem Fremdfahrzeug und eventuell weitere Parameter wie z.B. Wetter. Die resultierenden Modelle integrieren eine Vielzahl von Routen in Abhängigkeit vom Gesamtrisiko, mit denen reale Verkehrsverhältnisse si muliert werden. A traffic simulation is known from JP 2009 019920 A which generates a realistic route based on the prediction of pedestrian or bicycle behavior. The route is optimized from the perspective of the pedestrian or the cyclist and also includes the risk of a collision with another vehicle and possibly other parameters such as weather. The resulting models integrate a large number of routes, depending on the overall risk, with which real traffic conditions are simulated.
Hiermit eine Situation beschrieben, in der ein Fußgänger oder ein Fahrradfahrer auf wei tere Parameter reagiert. Die Route basiert jedoch auf Simulationsdaten. Nachteilig daran ist, dass die dadurch erzeugten Routen nicht das Verhalten von echten Verkehrsteilneh mern simulieren können. This describes a situation in which a pedestrian or cyclist reacts to other parameters. However, the route is based on simulation data. The disadvantage of this is that the routes generated in this way cannot simulate the behavior of real road users.
Somit stellt sich die Aufgabe, computerimplementierte Verfahren zum Trainieren wenigs tens eines Algorithmus für ein Steuergerät eines Kraftfahrzeugs, Computerprogrammpro dukte sowie Kraftfahrzeuge der eingangs genannten Art Verfahren zum Erstellen eines Verkehrsteilnehmeralgorithmus zur Computersimulation von Verkehrsteilnehmern, com puterimplementierte Verfahren zum Trainieren wenigstens eines Algorithmus für ein Steu ergerät eines Kraftfahrzeugs, Computerprogrammprodukte sowie Kraftfahrzeuge der ein gangs genannten Art dahingehend weiterzubilden, dass diese besser dazu eingerichtet sind, reale Verkehrsverhältnisse abzubilden. Thus, the task arises of computer-implemented methods for training at least one algorithm for a control unit of a motor vehicle, computer program products and motor vehicles of the type mentioned at the beginning Road user algorithm for computer simulation of road users, computer-implemented methods for training at least one algorithm for a control device of a motor vehicle, computer program products and motor vehicles of the type mentioned above to the effect that they are better set up to map real traffic conditions.
Die Aufgabe wird gelöst durch ein computerimplementiertes Verfahren zum Erstellen ei nes Verkehrsteilnehmeralgorithmus zur Computersimulation von Verkehrsteilnehmern ge mäß Anspruch 1 , ein computerimplementiertes Verfahren zum Trainieren wenigstens ei nes Algorithmus für ein Steuergerät eines Kraftfahrzeugs gemäß dem nebengeordneten Anspruch 6, ein Computerprogrammprodukt gemäß dem nebengeordneten Anspruch 9 sowie ein Kraftfahrzeug gemäß dem nebengeordneten Anspruch 10. Weiterführende Aus gestaltungen und Weiterbildungen sind Gegenstand der abhängigen Ansprüche. The object is achieved by a computer-implemented method for creating a road user algorithm for computer simulation of road users according to claim 1, a computer-implemented method for training at least one algorithm for a control unit of a motor vehicle according to the independent claim 6, a computer program product according to the independent claim 9 and a motor vehicle according to the independent claim 10. Further designs and developments are the subject of the dependent claims.
Nachfolgend wird ein computerimplementiertes Verfahren zum Erstellen eines Verkehrs teilnehmeralgorithmus zur Computersimulation von Verkehrsteilnehmern, wobei die Ver kehrsteilnehmer einer Klasse von schlecht geschützten Verkehrsteilnehmern angehören, wobei Daten einer Mehrzahl verschiedener, real existierender Verkehrsteilnehmer der Klasse in einer realen Verkehrsumgebung mithilfe von an den Verkehrsteilnehmern ange brachten Sensoren während der Durchführung wenigstens einer Mission erfasst werden, wobei aus den Daten Bewegungstrajektorien der Verkehrsteilnehmer ermittelt werden, wobei aus den Bewegungstrajektorien eine mittlere Bewegungstrajektorie für die Mission und Bandbreiten für Abweichungen von der mittleren Bewegungstrajektorie berechnet werden. The following is a computer-implemented method for creating a traffic participant algorithm for computer simulation of road users, the road users belonging to a class of poorly protected road users, with data from a plurality of different, real existing road users of the class in a real traffic environment with the help of sensors attached to the road users are detected during the implementation of at least one mission, with movement trajectories of the road users being determined from the data, with an average movement trajectory for the mission and bandwidths for deviations from the average movement trajectory being calculated from the movement trajectories.
Schlecht geschützte Verkehrsteilnehmer sind solche, deren passive Sicherheitseinrich tung keinen, marginalen oder nur geringen Schutz bieten, z.B. durch Sicherheitskleidung und/oder am Körper getragene Protektoren und/oder Helme. Zu dieser Klasse zählen bei spielsweise Fußgänger, Skateboarder, Rollschuhfahrer, Fahrradfahrer, Motorradfahrer, Quadfahrer, Rollerfahrer, Rollstuhlfahrer und dergleichen mehr. Badly protected road users are those whose passive safety equipment offers no, marginal or only little protection, e.g. through safety clothing and / or body-worn protectors and / or helmets. This class includes, for example, pedestrians, skateboarders, roller skaters, cyclists, motorcyclists, quad riders, scooter riders, wheelchair users and the like.
Die Mission kann unter anderem eine den real existierenden Verkehrsteilnehmern gestell ten Mission sein oder die Mission kann aus Daten abgeleitet sein, die aus Bewegungsda ten der Verkehrsteilnehmer gewonnen werden, die sich ohne explizite Mission zwischen einem gemeinsamen Startpunkt oder -bereich und einem gemeinsamen Endpunkt oder - bereich bewegen. Eine entsprechende Mission kann auch komplexer formuliert sein, bei spielsweise eine bestimmte von mehreren möglichen Routen einzuschlagen oder sie kann Zwischenziele aufweisen. The mission can, among other things, be a mission presented to actually existing road users, or the mission can be derived from data obtained from movement data of the road users who move between a common starting point or area and a common end point or end without an explicit mission. move area. A corresponding mission can also be formulated in a more complex manner, for example to take a certain one of several possible routes or it can have intermediate destinations.
Mögliche Quellen können zum Beispiel positionsaufzeichnende Geräte wie Mobiltelefone oder Smart Watches sein. Viele Verkehrsteilnehmer tragen Mobiltelefone mit sich herum, die in der Regel dazu geeignet sind, entsprechende Daten aufzeichnen. Possible sources can be, for example, position recording devices such as cell phones or smart watches. Many road users carry around cell phones, which are usually suitable for recording relevant data.
Die Mehrzahl von Verkehrsteilnehmern ist idealerweise so groß, dass die dadurch gewon nenen Trajektoriendaten statistisch signifikant sind, sodass sich zuverlässige Aussagen über die Trajektorien und Bandbreiten ableiten lassen. Von statistischer Signifikanz kann man ab 15 Verkehrsteilnehmern ausgehen. The majority of road users are ideally so large that the trajectory data obtained are statistically significant, so that reliable statements about the trajectories and bandwidths can be derived. Statistical significance can be assumed for 15 or more road users.
Die Bandbreiten können beispielsweise 95 oder 99 % der einzelnen Trajektorien abde cken, sodass nur sehr weit von der mittleren Trajektorie entfernte Trajektorien ausge schlossen werden. The bandwidths can cover, for example, 95 or 99% of the individual trajectories, so that only trajectories that are very far away from the mean trajectory are excluded.
Der Mittelwert kann nach verschiedenen bekannten Mittelwertmethoden ermittelt werden, z.B. als geometrisches Mittel. The mean value can be determined using various known mean value methods, e.g. as a geometric mean.
Ein entsprechender Verkehrsteilnehmeralgorithmus kann somit innerhalb der Bandbreiten unterschiedliche Trajektorien für eine gegebene Mission erzeugen, die einem realen Ver halten von Verkehrsteilnehmern näherkommen als eine feste Trajektorie für die gleiche Mission. Die Unterschiede können in einer möglichen Ausgestaltung durch verschiedene Parameter erreicht werden. A corresponding road user algorithm can thus generate different trajectories for a given mission within the bandwidths, which are closer to a real behavior of road users than a fixed trajectory for the same mission. The differences can be achieved in a possible embodiment through various parameters.
In einer ersten weiterführenden Ausgestaltung kann der Verkehrsteilnehmeralgorithmus derart ausgebildet sein, dass er innerhalb der Bandbreiten randomisierte Trajektorien er zeugt. Solche randomisierten Trajektorien führen bei unterschiedlichen Trainingszyklen oder bei unterschiedlichen Verkehrsteilnehmern innerhalb einer Simulation, die mithilfe des gleichen Algorithmus simuliert werden, zu unterschiedlichen Verhaltensmustern. Im Ergebnis lassen sich damit stets neue und unvorhersehbare Situationen erzeugen, die der Realität näherkommen als sich gleichförmig wiederholende Situationen. In einer anderen weiterführenden Ausgestaltung kann vorgesehen sein, dass die Ver kehrsteilnehmer Fahrzeuge einer gegebenen, schlecht geschützten Fahrzeugklasse dar stellen, wobei an den Fahrzeugen jeweils wenigstens ein Sensor zur Erfassung von Daten angebracht oder den Fahrzeugen zugeordnet wird, wobei die Daten von dem Verkehrs teilnehmeralgorithmus ausgewertet werden. In a first further refinement, the traffic user algorithm can be designed in such a way that it generates randomized trajectories within the bandwidths. Such randomized trajectories lead to different behavioral patterns in different training cycles or in different road users within a simulation that are simulated using the same algorithm. As a result, new and unpredictable situations can be created that are closer to reality than uniformly repetitive situations. In another further refinement, it can be provided that the traffic participants represent vehicles of a given, poorly protected vehicle class, with at least one sensor for recording data being attached to the vehicles or assigned to the vehicles, the data being evaluated by the traffic participant algorithm become.
Für den Fall, dass die Verkehrsteilnehmer Fahrzeuge sind, die von Menschen gesteuert werden, sind häufig ohnehin Sensoren an oder in den entsprechenden Kraftfahrzeugen angeordnet, z.B. Beschleunigungssensoren. Wenn die hieraus erzeugten Daten ausge wertet werden, kann die Anzahl an zusätzlich notwendigen Sensoren reduziert werden o- der zusätzliche Sensoren können vollständig vermieden werden. In the event that the road users are vehicles that are controlled by people, sensors are often arranged on or in the corresponding motor vehicles anyway, e.g. acceleration sensors. If the data generated from this are evaluated, the number of additionally required sensors can be reduced or additional sensors can be completely avoided.
Bevor die Daten von dem Verkehrsteilnehmeralgorithmus ausgewertet werden, können Sie gemäß einer Weiterbildung konvertiert und/oder umgerechnet werden, sodass aus Sensorrohdaten, z.B. Spannungswerte, besser verwendbare Sensordaten, z.B. Beschleu nigungen, erzeugt werden. Before the data is evaluated by the traffic user algorithm, it can be converted and / or converted according to a further development so that more usable sensor data, e.g. acceleration, can be generated from raw sensor data, e.g. voltage values.
In einerweiteren weiterführenden Ausgestaltung kann vorgesehen sein, dass der wenigs tens eine an dem Verkehrsteilnehmer oder dem Fahrzeug angeordnete Sensor eine Ka mera, ein GPS-Sensor, ein Lidar- und/oder ein Radarsensor ist. In a further refinement, it can be provided that the at least one sensor arranged on the road user or the vehicle is a camera, a GPS sensor, a lidar and / or a radar sensor.
Mithilfe von GPS-Sensoren können absolute Positionen erfasst werden, aus denen sich Bewegungsmuster und Trajektorien ableiten lassen. Mithilfe von Beschleunigungssenso ren lassen sich relative Bewegungsdaten ermitteln. Kameras, Lidar- oder Radarsensoren können zur Erfassung der Umgebung dienen und können daher die Trajektorien ausge hend von einem bekannten Startpunkt erzeugen oder zumindest plausibilisieren. Dies kann beispielsweise hilfreich sein, um zu erkennen, dass eine bestimmte Trajektorie eine Ausweichbewegung in Reaktion auf ein stehendes oder bewegtes Hindernis beinhaltet. Eine solche Trajektorie kann dann entsprechend klassifiziert werden. With the help of GPS sensors, absolute positions can be recorded, from which movement patterns and trajectories can be derived. Relative movement data can be determined with the aid of acceleration sensors. Cameras, lidar or radar sensors can be used to record the surroundings and can therefore generate the trajectories starting from a known starting point or at least make them plausible. This can be helpful, for example, in order to recognize that a certain trajectory contains an evasive movement in response to a stationary or moving obstacle. Such a trajectory can then be classified accordingly.
In einerweiteren weiterführenden Ausgestaltung kann vorgesehen sein, dass in der Ver kehrsumgebung wenigstens ein die Verkehrsteilnehmer erfassender Sensor angeordnet ist, wobei die Daten ausgewertet und in den Verkehrsteilnehmeralgorithmus eingebracht werden. In a further refinement, it can be provided that at least one sensor which detects the road users is arranged in the traffic environment, the data being evaluated and incorporated into the road user algorithm.
Ein in der Infrastruktur angeordneter Sensor, der beispielsweise statisch sein kann, zum Beispiel eine Verkehrsüberwachungskamera, kann das gesamte Verkehrsgeschehen er fassen und somit zusätzliche Daten zur Plausibilisierung des Verhaltens der Verkehrsteil nehmer liefern. Hierdurch kann unter anderem antizipierendes Verhalten der betreffenden Verkehrsteilnehmer abgeleitet werden. A sensor arranged in the infrastructure, which can be static, for example, for A traffic surveillance camera, for example, can record the entire traffic situation and thus provide additional data for checking the plausibility of the behavior of road users. In this way, among other things, anticipatory behavior of the road users concerned can be derived.
In einerweiteren weiterführenden Ausgestaltung kann vorgesehen sein, dass ein selbst lernendes neuronales Netz bereitgestellt wird, wobei die Daten dem selbstlernenden neu ronalen Netz bereitgestellt werden, wobei der Verkehrsteilnehmeralgorithmus von dem selbstlernenden neuronalen Netz trainiert wird. In a further refinement, provision can be made for a self-learning neural network to be provided, the data being provided to the self-learning neural network, the traffic user algorithm being trained by the self-learning neural network.
Mithilfe eines selbstlernenden neuronalen Netzes kann ein Verkehrsteilnehmeralgorith mus geschaffen werden, der auf unbekannte Situationen in menschenähnlicher Art rea gieren kann. Es ist somit möglich, einen universell ersetzbaren Algorithmus für Verkehrs simulationen zu schaffen, mithilfe dessen eine Simulation eines entsprechenden Ver kehrsteilnehmers, der einer schlecht geschützten Klasse angehört, erzeugt werden kann. With the help of a self-learning neural network, a traffic user algorithm can be created that can react to unknown situations in a human-like manner. It is thus possible to create a universally replaceable algorithm for traffic simulations, with the aid of which a simulation of a corresponding traffic participant who belongs to a poorly protected class can be generated.
Ein erster unabhängiger Gegenstand betrifft ein computerimplementiertes Verfahren zum Trainieren wenigstens eines Algorithmus für ein Steuergerät eines Kraftfahrzeugs, wobei das Steuergerät zur Umsetzung einer automatisierten bzw. autonomen Fahrfunktion unter Eingriff in Aggregate des Kraftfahrzeugs auf der Grundlage von Eingangsdaten unter Ver wendung des wenigstens einen Algorithmus vorgesehen ist, wobei der Algorithmus durch ein selbstlernendes neuronales Netz trainiert wird, umfassend folgende Schritte: a) Bereitstellen eines Computerprogrammproduktmoduls für die automatisierte bzw. autonome Fahrfunktion, wobei das Computerprogrammproduktmodul den zu trainierenden Algorithmus und das selbstlernende neuronale Netz enthält, b) Bereitstellen einer Simulationsumgebung mit Simulationsparametern, wobei die Simulationsumgebung Kartendaten eines real existierenden Einsatzge biets, das Kraftfahrzeug sowie als Agenten wenigstens einen weiteren simu lierten Verkehrsteilnehmer enthält, wobei ein Verhalten des wenigstens einen weiteren Verkehrsteilnehmer durch einen Verkehrsteilnehmeralgorithmus be stimmt ist, der nach der zuvor beschriebenen Art erzeugt wurde; c) Bereitstellen einer Mission für das Kraftfahrzeug, und d) Durchführen der Mission und Trainieren des Algorithmus. A first independent subject relates to a computer-implemented method for training at least one algorithm for a control unit of a motor vehicle, the control unit being provided for implementing an automated or autonomous driving function by intervening in units of the motor vehicle on the basis of input data using the at least one algorithm , the algorithm being trained by a self-learning neural network, comprising the following steps: a) providing a computer program product module for the automated or autonomous driving function, the computer program product module containing the algorithm to be trained and the self-learning neural network, b) providing a simulation environment with simulation parameters , wherein the simulation environment contains map data of a real existing operational area, the motor vehicle and, as an agent, at least one further simulated road user, where e in the behavior of the at least one other road user is determined by a road user algorithm that was generated according to the type described above; c) providing a mission for the motor vehicle, and d) carrying out the mission and training the algorithm.
Dadurch, dass der Algorithmus des Steuergeräts mithilfe von Agenten trainiert wird, die ein natürlicheres Verhalten von Verkehrsteilnehmern einer schlecht geschützten Klasse, beispielsweise Fußgängern, Fahrradfahrern, Motorradfahrern oder dergleichen, simulie ren als herkömmlich programmierte Agenten, kann eine naturgetreuere Simulationsumge bung angegeben werden, sodass ein entsprechender Algorithmus bereits in einer reinen Simulation zu einer hohen Reife gelangen kann. The fact that the algorithm of the control unit is trained with the help of agents that a more natural behavior of road users of a poorly protected class, for example pedestrians, cyclists, motorcyclists or the like, simulate than conventionally programmed agents, a more lifelike simulation environment can be specified so that a corresponding algorithm can already reach a high level of maturity in a pure simulation.
In einer ersten weiterführenden Ausgestaltung kann vorgesehen sein, dass wenigstens einer der weiteren simulierten Verkehrsteilnehmer eine Trajektorie erzeugt, die randomi- siert oder stochastisch parametervariiert ist. In a first further refinement, it can be provided that at least one of the further simulated road users generates a trajectory that is randomized or stochastically parameter-varied.
Eine randomisierte oder stochastisch parametervariierte Trajektorie wird bei jeder Simula tion in situ neu erzeugt, sodass das Verhalten des entsprechenden Verkehrsteilnehmers bzw. Agenten nicht im Vorhinein determiniert ist. Dies führt zu besonders komplexen Her ausforderungen für den zu trainierenden Algorithmus und zu einem robusteren Algorith mus. A randomized or stochastically parameter-varied trajectory is newly generated in situ for each simulation so that the behavior of the relevant road user or agent is not determined in advance. This leads to particularly complex challenges for the algorithm to be trained and to a more robust algorithm.
In einer weiteren weiterführenden Ausgestaltung kann vorgesehen sein, dass eine Mehr zahl von weiteren simulierten Verkehrsteilnehmern bereitgestellt werden, die sich zumin dest teilweise entlang der mittleren Trajektorie, teilweise innerhalb der Bandbreiten bewe gen. In a further refinement, provision can be made for a plurality of further simulated road users to be provided, who move at least partly along the central trajectory and partly within the bandwidths.
Wenn die Verkehrsteilnehmer unterschiedliche Verhaltensweisen an den Tag legen, also sich manche ‘normal' und andere sich anormal verhalten, kann hieraus eine Vielzahl von Agenten geschaffen werden, die zur Simulation sehr realistischer Verkehrsgeschehen in der Lage sind. If the road users behave differently, i.e. some behave "normally" and others behave abnormally, a large number of agents can be created from this, who are able to simulate very realistic traffic events.
Ein weiterer unabhängiger Gegenstand betrifft eine Vorrichtung zum Erstellen eines Ver kehrsteilnehmeralgorithmus zur Computersimulation von Verkehrsteilnehmern, wobei die Verkehrsteilnehmer einer Klasse von schlecht geschützten Verkehrsteilnehmern angehö ren, wobei an einer Mehrzahl verschiedener, real existierender Verkehrsteilnehmer der Klasse Sensoren angebracht sind, mit denen Daten in einer realen Verkehrsumgebung während der Durchführung wenigstens einer Mission erfassbar sind werden, wobei Mittel zur Ermittlung von Bewegungstrajektorien aus den Daten vorgesehen sind, wobei die Mit tel dazu eingerichtet sind, aus den Bewegungstrajektorien eine mittlere Bewegungstrajek- torie für die Mission und Bandbreiten für Abweichungen von der mittleren Bewegungs- trajektorie zu berechnen. Another independent subject relates to a device for creating a traffic user algorithm for computer simulation of road users, the road users belonging to a class of poorly protected road users, with sensors being attached to a plurality of different, real existing road users of the class, with which data is transferred to a real Traffic environment can be detected during the implementation of at least one mission, means for determining movement trajectories from the data are provided, with the means being set up to generate a mean movement trajectory from the movement trajectories. torie for the mission and bandwidths for deviations from the mean movement trajectory.
In einer ersten weiterführenden Ausgestaltung kann vorgesehen sein, dass die Verkehrs teilnehmer Fahrzeuge einer gegebenen, schlecht geschützten Fahrzeugklasse darstellen, wobei an den Fahrzeugen jeweils wenigstens ein Sensor zur Erfassung von Daten ange bracht oder den Fahrzeugen zugeordnet ist, wobei der Verkehrsteilnehmeralgorithmus dazu ausgebildet ist, die Daten von dem wenigstens einen Sensor auszuwerten. In a first further refinement, it can be provided that the traffic participants represent vehicles of a given, poorly protected vehicle class, with at least one sensor for recording data being attached to the vehicles or assigned to the vehicles, the traffic participant algorithm being designed to do this To evaluate data from the at least one sensor.
In einer weiteren weiterführenden Ausgestaltung kann vorgesehen sein, dass der wenigs tens eine an dem Verkehrsteilnehmer oder dem Fahrzeug angeordnete Sensor eine Ka mera, ein GPS-Sensor, ein Lidar- und/oder ein Radarsensor ist. In a further refinement, it can be provided that the at least one sensor arranged on the road user or the vehicle is a camera, a GPS sensor, a lidar and / or a radar sensor.
In einer weiteren weiterführenden Ausgestaltung kann vorgesehen sein, dass in der Ver kehrsumgebung wenigstens ein die Verkehrsteilnehmer erfassender Sensor angeordnet ist, wobei Mittel zum Auswerten der Daten und zum Einbringen in den Verkehrsteilnehme ralgorithmus vorgesehen sind. In a further refinement, it can be provided that at least one sensor which detects the road users is arranged in the traffic environment, with means for evaluating the data and for introducing it into the road user algorithm.
In einer weiteren weiterführenden Ausgestaltung kann selbstlernendes neuronales Netz vorgesehen sein, wobei die Daten dem selbstlernenden neuronalen Netz bereitgestellt werden, wobei das selbstlernende neuronale Netz dazu eingerichtet ist, den Verkehrsteil nehmeralgorithmus zu trainieren. In a further refinement, a self-learning neural network can be provided, the data being provided to the self-learning neural network, the self-learning neural network being set up to train the road user algorithm.
Ein weiterer unabhängiger Gegenstand betrifft eine Vorrichtung zum Trainieren wenigs tens eines Algorithmus für ein Steuergerät eines Kraftfahrzeugs, wobei das Steuergerät zur Umsetzung einer automatisierten bzw. autonomen Fahrfunktion unter Eingriff in Ag gregate des Kraftfahrzeugs auf der Grundlage von Eingangsdaten unter Verwendung des wenigstens einen Algorithmus vorgesehen ist, wobei ein selbstlernendes neuronales Netz zum Trainieren des Algorithmus vorgesehen ist, wobei: a) ein Computerprogrammproduktmodul für die automatisierte bzw. autonome Fahrfunktion bereit steht, wobei das Computerprogrammproduktmodul den zu trainierenden Algorithmus und das selbstlernende neuronale Netz enthält, b) eine Simulationsumgebung mit Simulationsparametern bereit steht, wobei die Simulationsumgebung Kartendaten eines real existierenden Einsatzge biets, das Kraftfahrzeug sowie als Agenten wenigstens einen weiteren simu lierten Verkehrsteilnehmer enthält, wobei ein Verhalten des wenigstens einen weiteren Verkehrsteilnehmer durch einen Verkehrsteilnehmeralgorithmus be stimmt ist, der nach der zuvor beschriebenen Art erzeugt wurde; c) eine Mission für das Kraftfahrzeug bereitsteht, und d) Mittel zum Durchführen der Mission und Trainieren des Algorithmus vorge sehen sind. Another independent subject matter relates to a device for training at least one algorithm for a control unit of a motor vehicle, the control unit being provided for implementing an automated or autonomous driving function by intervening in units of the motor vehicle on the basis of input data using the at least one algorithm , wherein a self-learning neural network is provided for training the algorithm, wherein: a) a computer program product module for the automated or autonomous driving function is available, the computer program product module containing the algorithm to be trained and the self-learning neural network, b) a simulation environment with simulation parameters stands, wherein the simulation environment contains map data of a real existing operational area, the motor vehicle and, as an agent, at least one further simulated road user, with a behavior of the at least one further road users are determined by a road user algorithm that was generated according to the type described above; c) a mission is ready for the motor vehicle, and d) means for performing the mission and training the algorithm are provided.
In einer ersten weiterführenden Ausgestaltung kann vorgesehen sein, dass Mittel zum Randomisieren oder zum stochastischen Variieren von Parametern der Trajektorie des wenigstens einer der weiteren simulierten Verkehrsteilnehmer vorgesehen sind. In a first further refinement, provision can be made for means for randomizing or for stochastically varying parameters of the trajectory of the at least one of the further simulated road users to be provided.
In einer weiteren weiterführenden Ausgestaltung können Mittel zum Bereitstellen einer Mehrzahl von weiteren simulierten Verkehrsteilnehmern vorgesehen sein, die dazu einge richtet sind, sich zumindest teilweise entlang der mittleren Trajektorie, teilweise innerhalb der Bandbreiten zu bewegen. In a further refinement, means for providing a plurality of further simulated road users can be provided, which are set up to move at least partially along the central trajectory, partially within the bandwidths.
Ein weiterer unabhängiger Gegenstand betrifft Computerprogrammprodukt, mit einem computerlesbaren Speichermedium, auf dem Befehle eingebettet sind, die, wenn sie von wenigstens einer Recheneinheit ausgeführt werden, bewirken, dass die wenigstens eine Recheneinheit dazu eingerichtet ist, das Verfahren der zuvor beschriebenen Art auszufüh ren. Another independent subject matter relates to a computer program product with a computer-readable storage medium on which instructions are embedded which, when executed by at least one processing unit, have the effect that the at least one processing unit is set up to execute the method of the type described above.
Das Verfahren kann auf einer oder auf mehreren Recheneinheiten verteilt ausgeführt wer den, sodass bestimmte Verfahrensschritte auf der einen Recheneinheit und andere Ver fahrensschritte auf wenigstens einer weiteren Recheneinheit ausgeführt werden, wobei berechnete Daten sofern notwendig zwischen den Recheneinheiten übermittelt werden können. The method can be carried out on one or more processing units distributed so that certain method steps are carried out on one processing unit and other process steps are carried out on at least one other processing unit, with calculated data being able to be transmitted between the processing units if necessary.
Ein weiterer unabhängiger Gegenstand betrifft Kraftfahrzeug mit einem Computerpro grammprodukt der zuvor beschriebenen Art. Another independent subject matter relates to a motor vehicle with a computer program product of the type described above.
Weitere Merkmale und Einzelheiten ergeben sich aus der nachfolgenden Beschreibung, in der - gegebenenfalls unter Bezug auf die Zeichnung - zumindest ein Ausführungsbei spiel im Einzelnen beschrieben ist. Beschriebene und/oder bildlich dargestellte Merkmale bilden für sich oder in beliebiger, sinnvoller Kombination den Gegenstand, gegebenenfalls auch unabhängig von den Ansprüchen, und können insbesondere zusätzlich auch Gegen- stand einer oder mehrerer separater Anmeldung/en sein. Gleiche, ähnliche und/oder funk tionsgleiche Teile sind mit gleichen Bezugszeichen versehen. Dabei zeigen schematisch: Further features and details emerge from the following description in which - if necessary with reference to the drawing - at least one Ausführungsbei game is described in detail. Described and / or graphically represented features form the object by themselves or in any meaningful combination, possibly also independently of the claims, and can in particular also include counter- be one or more separate registrations. Identical, similar and / or functionally identical parts are provided with the same reference numerals. They show schematically:
Fig. 1 ein Kraftfahrzeug, das zum autonomen Fahren eingerichtet ist; 1 shows a motor vehicle which is set up for autonomous driving;
Fig. 2 ein Computerprogrammprodukt für das Kraftfahrzeug aus Fig. 1; FIG. 2 shows a computer program product for the motor vehicle from FIG. 1; FIG.
Fig. 3 einen Ort mit dem Kraftfahrzeug aus Fig. 1 und weiteren Verkehrsteilneh mern; 3 shows a location with the motor vehicle from FIG. 1 and other traffic participants;
Fig. 4 einen Repräsentanten eines Verkehrsteilnehmers einer Klasse schlecht ge schützter Verkehrsteilnehmer; 4 shows a representative of a road user of a class of poorly protected road users;
Fig. 5 ein Ablaufdiagramm eines Verfahrens; 5 shows a flow chart of a method;
Fig. 6 ein Ablaufdiagramm eines weiteren Verfahrens; 6 shows a flow chart of a further method;
Fig. 7 eine Prinzipskizze der Generierung eines virtuellen Agenten, sowie 7 shows a schematic diagram of the generation of a virtual agent, as well as
Fig. 8 eine Prinzipskizze der Generierung eines Algorithmus zur Steuerung eines8 shows a schematic diagram of the generation of an algorithm for controlling a
Kraftfahrzeugsteuergeräts des Kraftfahrzeugs aus Fig. 1. Motor vehicle control device of the motor vehicle from FIG. 1.
Fig. 1 zeigt ein Kraftfahrzeug 2, das zum autonomen Fahren eingerichtet ist. 1 shows a motor vehicle 2 which is set up for autonomous driving.
Das Kraftfahrzeug 2 weist ein Kraftfahrzeugsteuergerät 4 mit einer Recheneinheit 6 und einem Speicher 8 auf. Im Speicher 8 ist ein Computerprogrammprodukt gespeichert, das im Nachfolgenden insbesondere im Zusammenhang Fig. 2, Fig. 3 und Fig. 8 eingehender beschrieben ist. The motor vehicle 2 has a motor vehicle control device 4 with a computing unit 6 and a memory 8. A computer program product is stored in the memory 8 and is described in more detail below in particular in connection with FIGS. 2, 3 and 8.
Das Kraftfahrzeugsteuergerät 4 ist einerseits mit einer Reihe von Umgebungssensoren verbunden, die eine Erfassung der aktuellen Lage des Kraftfahrzeugs 2 sowie der jeweili gen Verkehrssituation erlauben. Hierzu zählen Umgebungssensoren 10, 12 an der Front des Kraftfahrzeugs 2, Umgebungssensoren 14, 16 am Heck des Kraftfahrzeugs 2, eine Kamera 18 sowie ein GPS-Modul 20. Je nach Ausgestaltung können weitere Sensoren vorgesehen sein, zum Beispiel Raddrehzahlsensoren, Beschleunigungssensoren etc., die mit dem Kraftfahrzeugsteuergerät 4 verbunden sind. Während des Betriebs des Kraftfahrzeugs 2 hat die Recheneinheit 6 das im Speicher 8 abgelegte Computerprogrammprodukt geladen und führt dieses aus. Auf der Grundlage eines Algorithmus und der Eingangssignale entscheidet die Recheneinheit 6 über die Steuerung des Kraftfahrzeugs 2, die die Recheneinheit 6 über Eingriff in die Lenkung 22, Motorsteuerung 24 sowie Bremsen 26 erreichen kann, die jeweils mit dem Kraftfahrzeug steuergerät 4 verbunden sind. The motor vehicle control device 4 is connected, on the one hand, to a series of environmental sensors which allow the current position of the motor vehicle 2 and the respective traffic situation to be recorded. These include environmental sensors 10, 12 at the front of the motor vehicle 2, environmental sensors 14, 16 at the rear of the motor vehicle 2, a camera 18 and a GPS module 20. Depending on the configuration, further sensors can be provided, for example wheel speed sensors, acceleration sensors, etc., which are connected to the motor vehicle control unit 4. During the operation of the motor vehicle 2, the computing unit 6 has loaded the computer program product stored in the memory 8 and executes it. On the basis of an algorithm and the input signals, the computing unit 6 decides on the control of the motor vehicle 2, which the computing unit 6 can achieve by intervening in the steering 22, engine control 24 and brakes 26, which are each connected to the motor vehicle control unit 4.
Fig. 2 zeigt ein Computerprogrammprodukt 28 mit einem Computerprogrammproduktmo dul 30. 2 shows a computer program product 28 with a computer program product module 30.
Das Computerprogrammprodukt 30 weist ein selbstlernendes neuronales Netz 32 auf, das einen Algorithmus 34 trainiert. Das selbstlernende neuronale Netz 32 lernt nach Me thoden des bestärkenden Lernens, d. h. das neuronale Netz 32 versucht durch Variation des Algorithmus 34, Belohnungen für ein verbessertes Verhalten entsprechend einer oder mehrerer Kriterien oder Maßstäbe, also für Verbesserungen des Algorithmus 34 zu erhal ten. Alternativ können aber auch bekannte Lernverfahren des überwachten und unüber- wachten Lernens, sowie Kombinationen dieser Lernverfahren verwendet werden. The computer program product 30 has a self-learning neural network 32 that trains an algorithm 34. The self-learning neural network 32 learns according to methods of reinforcement learning, d. H. By varying the algorithm 34, the neural network 32 tries to obtain rewards for improved behavior in accordance with one or more criteria or standards, i.e. for improvements to the algorithm 34. Alternatively, known learning methods of monitored and unsupervised learning and combinations can also be used this learning method can be used.
Der Algorithmus 34 kann im Wesentlichen ein aus einem komplexen Filter mit einer Matrix aus Werten, oft Gewichte genannt, bestehen, die eine Filterfunktion definieren, die das Verhalten des Algorithmus 34 abhängig von Eingangsgrößen, welche vorliegend über die Umgebungssensoren 10 bis 20 aufgenommen werden, bestimmt und Steuersignale zur Steuerung des Kraftfahrzeugs 2 generiert. The algorithm 34 can essentially consist of a complex filter with a matrix of values, often called weights, which define a filter function that determines the behavior of the algorithm 34 as a function of input variables that are presently recorded by the environmental sensors 10 to 20 and control signals for controlling the motor vehicle 2 are generated.
Die Überwachung der Güte des Algorithmus 34 wird von einem weiteren Computerpro grammproduktmodul 36 vorgenommen, das Eingangsgrößen und Ausgangsgrößen über wacht, daraus Metriken ermittelt und die Einhaltung der Güte durch die Funktionen an hand der Metriken kontrolliert. Gleichzeitig kann das Computerprogrammproduktmodul 36 negative wie positive Belohnungen für das neuronale Netz 32 geben. The quality of the algorithm 34 is monitored by a further computer program product module 36, which monitors input variables and output variables, determines metrics therefrom and controls compliance with the quality by the functions on the basis of the metrics. At the same time, the computer program product module 36 can give negative as well as positive rewards for the neural network 32.
Fig. 3 zeigt einen Ort 36. 3 shows a location 36.
Das Kraftfahrzeug 2 fährt auf einer Straße 38, die sich mit einer Straße 40, an einer Stra ßenkreuzung 42 kreuzt. The motor vehicle 2 travels on a road 38 which intersects with a road 40 at a street intersection 42.
Mehrere Motorradfahrer wie der in Fig. 3 dargestellte Motorradfahrer 44 hat eine Mission 50, von einem Startpunkt 46 auf der Straße 40 zu einem Zielpunkt 48 auf der Straße 38 zu fahren. Die Route erfordert das Einbiegen von der Straße 40 kommend auf die Straße 38 Der Motorradfahrer 44 wird während der Mission 50 eine bestimmte Trajektorie 52.1 fahren. Several motorcyclists such as motorcyclist 44 shown in FIG. 3 have a mission 50 to drive from a starting point 46 on the road 40 to a destination point 48 on the road 38. The route requires turning from road 40 onto road 38. Motorcyclist 44 will drive a certain trajectory 52.1 during mission 50.
Die Mission 50 wird mehrfach von unterschiedlichen Motorradfahrern wiederholt, die alle die Aufgabe haben, vom Startpunkt 46 sind Zielpunkt 48 zu fahren. Praktisch können die Start- und Zielpunkte als Bereiche oder Korridore definiert sein, z.B. als zweidimensiona ler Bereich oder als Start- und Ziellinien. Mission 50 is repeated several times by different motorcyclists who all have the task of driving from starting point 46 to destination point 48. In practice, the start and finish points can be defined as areas or corridors, e.g. as a two-dimensional area or as start and finish lines.
Dabei werden andere Motorradfahrer andere Trajektorien 52.2,52.3 und 52.4 fahren, die jeweils voneinander abweichen und die einerseits in dem Fahrverhalten der entsprechen den Verkehrsteilnehmer, andererseits in den jeweils vorherrschenden, unterschiedlichen Verkehrsbedingungen bzw. konkreten Situationen begründet sind. Other motorcyclists will drive other trajectories 52.2, 52.3 and 52.4, which differ from one another and which are based on the one hand in the driving behavior of the corresponding road users and on the other hand in the respective prevailing, different traffic conditions or specific situations.
Mithilfe des hierin beschriebenen Verfahrens zum Erzeugen eines Verkehrsteilnehmeral gorithmus für die Klasse von Motorradfahrern wird daraus eine mittlere Trajektorie 54 so wie Bandbreitengrenzen 56.1, 56.2 erzeugt, die ein übliches Verhalten sowie übliche Ab weichungen von der mittleren Trajektorie 54 beschreiben. With the aid of the method described here for generating a road user algorithm for the class of motorcyclists, a mean trajectory 54 and bandwidth limits 56.1, 56.2 are generated therefrom, which describe a usual behavior and usual deviations from the mean trajectory 54.
Die Bandbreitengrenzen 56.1, 56.2 decken die meisten der gefahrenen Trajektorien in je dem Abschnitt ab, d.h., es ist nicht erforderlich, dass eine einzelne der Trajektorien 52.1 bis 52.4 vollständig von Start bis Ziel innerhalb der Bandbreitengrenzen 56.1, 56.2 liegen. The bandwidth limits 56.1, 56.2 cover most of the trajectories driven in each section, i.e. it is not necessary for a single one of the trajectories 52.1 to 52.4 to lie completely within the bandwidth limits 56.1, 56.2 from start to finish.
An der Straßenkreuzung 42 kann des Weiteren eine stationär angebrachte Verkehrsüber wachungskamera 58 vorgesehen sein, die das Verkehrsgeschehen beobachtet und damit das Verhalten des Motorradfahrers 44 und seine gefahrene Trajektorie 52.1 sowie weite res Verkehrsgeschehen, beispielsweise die Bewegung eines Fußgängers 60 aufzeichnet. A stationary traffic surveillance camera 58 can also be provided at the intersection 42, which observes the traffic situation and thus records the behavior of the motorcyclist 44 and his driven trajectory 52.1 as well as other traffic events, for example the movement of a pedestrian 60.
Später wird, wie nachfolgend beschrieben, der Algorithmus 34 für das Steuergerät 4 des Kraftfahrzeugs 2 in einer Simulation des Orts 36 trainiert, wobei eine Simulation des Mo torradfahrers 44 als Agent erfolgt, der im Rahmen der Simulation die gleiche Mission 50 haben kann. Later, as described below, the algorithm 34 for the control unit 4 of the motor vehicle 2 is trained in a simulation of the location 36, the motorcyclist 44 being simulated as an agent who can have the same mission 50 as part of the simulation.
Fig. 4 zeigt den Motorradfahrer 44. Der Motorradfahrer 44 weist einen GPS-Sensor 62 auf, der laufend Daten über die Posi tion des Motorradfahrers 44 erfasst. Der GPS-Sensor 62 kann beispielsweise in einem vom Motorradfahrer 44 mitgeführten Mobiltelefon verbaut sein. 4 shows the motorcyclist 44. The motorcyclist 44 has a GPS sensor 62 which continuously records data about the position of the motorcyclist 44. The GPS sensor 62 can be installed, for example, in a mobile phone carried by the motorcyclist 44.
Des Weiteren ist eine Steuerung 64 vorgesehen, die beispielsweise ein Motorrad 65 des Motorradfahrers 44 steuert und das Daten erfassen kann. Furthermore, a controller 64 is provided which, for example, controls a motorcycle 65 of the motorcyclist 44 and which can acquire data.
Mit der Steuerung 64 ist darüber hinaus eine Kamera 66 verbunden, die das Verkehrsge schehen vor dem Motorradfahrer 44 aufzeichnet. Die Steuerung 64 kann des Weiteren Daten über das Motorrad erfassen, zum Beispiel eine Drosselklappensstellung, eingeleg ter Gang, Geschwindigkeit, Schräglage und dergleichen mehr. In addition, a camera 66 is connected to the controller 64 and records the traffic happening in front of the motorcyclist 44. The controller 64 can also acquire data about the motorcycle, for example a throttle valve position, gear engaged, speed, lean angle and the like.
Fig. 5 zeigt ein Ablaufdiagramm zum Erzeugen des Verkehrsteilnehmeralgorithmus. 5 shows a flow chart for generating the traffic user algorithm.
In einem ersten Schritt wird die Software bereitgestellt. In a first step, the software is provided.
Anschließend werden ein neuronales Netz und ein Algorithmus bereitgestellt. A neural network and an algorithm are then provided.
Danach wird eine Mission bestimmt, beispielsweise die in Fig. 3 gezeigte Mission 50, als Motorradfahrer von den Startpunkt 46 zum Zielpunkt 48 zu fahren. A mission is then determined, for example the mission 50 shown in FIG. 3, to drive as a motorcyclist from the starting point 46 to the destination point 48.
Dann werden von dem Motorradfahrer 44 und den anderen Motorradfahrern jeweils Sens ordaten erfasst, beispielsweise von den GPS-Sensor 62, der Steuerung 64 sowie der Ka mera 66 und der Verkehrsüberwachungskamera 58. Die Sensordaten werden in das neu ronale Netz eingespeist, dort eine durchschnittliche Trajektorie und Bandbreiten ermittelt. Then, from the motorcyclist 44 and the other motorcyclists, each sensor data is recorded, for example from the GPS sensor 62, the controller 64 as well as the camera 66 and the traffic surveillance camera 58. The sensor data is fed into the neural network, there an average trajectory and bandwidths determined.
Anschließend wird ein Stochastikmodul hinzugefügt, mithilfe dessen eine Trajektorie in der Simulation zufällig variiert werden kann. Then a stochastic module is added, with the help of which a trajectory can be varied randomly in the simulation.
Hieraus wird ein Algorithmus erzeugt und ausgegeben, der in einer weiteren Verkehrssi mulation verwendet werden kann. From this, an algorithm is generated and output that can be used in a further traffic simulation.
Fig. 6 zeigt ein Ablaufdiagramm des Verfahrens zum Trainieren des Algorithmus 34. In einem ersten Schritt wird ein zu trainierendes Computerprogrammproduktmodul (Soft ware) für das Steuergerät 4 des Kraftfahrzeugs 2 bereitgestellt. 6 shows a flow chart of the method for training the algorithm 34. In a first step, a computer program product module (software) to be trained is provided for the control device 4 of the motor vehicle 2.
In einem darauffolgenden Schritt werden Kartendaten des Orts 38 bereitgestellt. In a subsequent step, map data of the location 38 are provided.
Anschließend wird eine Mission für den Algorithmus 34 definiert, z.B. als Kraftfahrzeug 2 von einem Startort zu einem Zielort in einer bestimmten Verkehrssituation zu gelangen. A mission is then defined for the algorithm 34, for example as a motor vehicle 2 to get from a starting point to a destination in a certain traffic situation.
In der Verkehrssituation gibt es andere Verkehrsteilnehmer, z.B. einen Motorradfahrer. Dazu werden virtuelle Objekte und Agenten definiert und bereitgestellt. Wenigstens einer der Agenten verhält sich gemäß dem in Fig. 5 erzeugten Algorithmus. Der betreffende Agent kann die Mission 50 haben. In the traffic situation there are other road users, e.g. a motorcyclist. For this purpose, virtual objects and agents are defined and made available. At least one of the agents behaves according to the algorithm generated in FIG. 5. The agent in question can have mission 50.
Sodann werden eine oder mehrere verschiedene Verkehrssituationen mit den virtuellen Objekten und Agenten simuliert. Then one or more different traffic situations are simulated with the virtual objects and agents.
Sodann wird der Algorithmus im Steuergerät des Kraftfahrzeugs auf der Grundlage der gestellten Situationen trainiert. The algorithm is then trained in the control unit of the motor vehicle on the basis of the situations posed.
Durch Beobachtung des zu trainierenden Fahrzeuges und Rückkopplung an die Simulati onsumgebung können die entsprechenden Informationen verwertet werden, um die Simu lation zu beeinflussen. By observing the vehicle to be trained and providing feedback to the simulation environment, the relevant information can be used to influence the simulation.
Mithilfe des hier beschriebenen Verfahrens können eine Vielzahl von unterschiedlichen Verkehrsteilnehmern abgebildet werden, zum Beispiel Autos, Lkws, Motorräder, Fahrrad fahrer, Fußgänger. Ebenso kann reale Infrastruktur, zum Beispiel Schilder, Ampeln, Stra ßensymbolen, Leitlinien etc. dargestellt werden. With the help of the method described here, a large number of different road users can be mapped, for example cars, trucks, motorcycles, cyclists, pedestrians. Real infrastructure, for example signs, traffic lights, street symbols, guidelines, etc. can also be displayed.
Mithilfe des Verfahrens können komplexe Verkehrsmanöver im Rahmen der kooperativen Mobilität realistisch untersucht werden, zum Beispiel Fahren an einer Kreuzung, an der sich mehrere Verkehrsteilnehmer befinden und Kommunikation zwischen den Verkehrs teilnehmern, um zum Beispiel keinen Verkehrsteilnehmer zu gefährden. With the help of the method, complex traffic maneuvers can be realistically examined within the framework of cooperative mobility, for example driving at an intersection where there are several road users and communication between road users, for example so as not to endanger any road user.
Fig. 7 zeigt eine weitere Prinzipskizze der Generierung eines Agenten 70, hier eine Simu lation des Motorradfahrers 44. 7 shows a further schematic diagram of the generation of an agent 70, here a simulation of the motorcyclist 44.
Dabei wird davon ausgegangen, dass ein Agent 50 durch einen mittels selbstlernender Verfahren verfeinerten Algorithmus 72 erzeugt wird. Den Algorithmus 72, der in einem Computer 74 läuft, wird mit den Daten des GPS Sensors 62, der Steuerung 64, der Ka mera 66 sowie der Verkehrsüberwachungskamera 58 versorgt. It is assumed here that an agent 50 has been trained by means of a self-learning Method refined algorithm 72 is generated. The algorithm 72, which runs in a computer 74, is supplied with the data from the GPS sensor 62, the controller 64, the camera 66 and the traffic monitoring camera 58.
Ein selbstlernendes neuronales Netz 76 optimiert den Algorithmus 62 durch Variation des selben und Angabe eines Algorithmus 72‘ und Prüfung, ob der modifizierte Algorithmus 72‘ besser arbeitet als der ursprüngliche Algorithmus 72. Sobald gewisse Qualitätsmetri ken erfüllt sind, wird der Algorithmus 72 eingefroren und mittels eines Compilers 78 der virtuelle Agent 70 geschaffen, der in Simulationsumgebungen eingesetzt werden kann. A self-learning neural network 76 optimizes the algorithm 62 by varying the same and specifying an algorithm 72 'and checking whether the modified algorithm 72' works better than the original algorithm 72. As soon as certain quality metrics are met, the algorithm 72 is frozen and used a compiler 78, the virtual agent 70 is created, which can be used in simulation environments.
Fig. 8 zeigt eine Simulationsumgebung 80 8 shows a simulation environment 80
Die Simulationsumgebung 80 wird durch Kartendaten des Orts 34 sowie Simulationen des Kraftfahrzeugs 2 und anderer Verkehrsteilnehmer wie den Fußgängers 60 sowie den vir tuellen Agenten 70 bereitgestellt. The simulation environment 80 is provided by map data of the location 34 as well as simulations of the motor vehicle 2 and other road users such as the pedestrian 60 and the virtual agent 70.
Sodann wird eine Mission aufgestellt, die der Algorithmus 34, der das Kraftfahrzeug 2 steuert, durchführen soll. Dies wird, wie im Zusammenhang mit Fig. 7 beschrieben, von dem neuronalen Netz 32 verarbeitet, die den Algorithmus 34 variiert, bis gewisse Quali tätsstandards erfüllt sind. A mission is then set up, which algorithm 34, which controls motor vehicle 2, is to carry out. This is, as described in connection with FIG. 7, processed by the neural network 32, which varies the algorithm 34 until certain quality standards are met.
Sodann wird mithilfe eines Compilers 82 das Computerprogrammproduktmodul 30 für das Steuergerät 4 des Kraftfahrzeugs 2 erzeugt. The computer program product module 30 for the control device 4 of the motor vehicle 2 is then generated with the aid of a compiler 82.
Obwohl der Gegenstand im Detail durch Ausführungsbeispiele näher illustriert und erläu tert wurde, so ist die Erfindung nicht durch die offenbarten Beispiele eingeschränkt und andere Variationen können vom Fachmann hieraus abgeleitet werden. Es ist daher klar, dass eine Vielzahl von Variationsmöglichkeiten existiert. Es ist ebenfalls klar, dass bei spielhaft genannte Ausführungsformen nur Beispiele darstellen, die nicht in irgendeiner Weise als Begrenzung etwa des Schutzbereichs, der Anwendungsmöglichkeiten oder der Konfiguration der Erfindung aufzufassen sind. Vielmehr versetzen die vorhergehende Be schreibung und die Figurenbeschreibung den Fachmann in die Lage, die beispielhaften Ausführungsformen konkret umzusetzen, wobei der Fachmann in Kenntnis des offenbar ten Erfindungsgedankens vielfältige Änderungen beispielsweise hinsichtlich der Funktion oder der Anordnung einzelner, in einer beispielhaften Ausführungsform genannter Ele mente vornehmen kann, ohne den Schutzbereich zu verlassen, der durch die Ansprüche und deren rechtliche Entsprechungen, wie etwa einer weitergehenden Erläuterung in der Beschreibung, definiert wird. Although the subject matter was illustrated and explained in more detail by means of exemplary embodiments, the invention is not restricted by the examples disclosed and other variations can be derived therefrom by the person skilled in the art. It is therefore clear that there is a multitude of possible variations. It is also clear that the exemplary embodiments mentioned are only examples that are not to be understood in any way as a limitation, for example, of the scope of protection, the possible applications or the configuration of the invention. Rather, the preceding description and the description of the figures enable the person skilled in the art to actually implement the exemplary embodiments, with the person skilled in the art knowing the inventive concept disclosed various changes, for example with regard to the function or the arrangement of individual elements mentioned in an exemplary embodiment without departing from the scope of protection which is defined by the claims and their legal equivalents, such as a more detailed explanation in the description.
Bezugszeichenliste List of reference symbols
2 Kraftfahrzeug 2 motor vehicle
4 Steuergerät 4 control unit
6 Recheneinheit 6 arithmetic unit
8 Speicher 8 memories
10 Umgebungssensor 10 environmental sensor
11 Umgebungssensor 11 Environment sensor
12 Umgebungssensor 12 environmental sensor
13 Umgebungssensor 13 Environmental sensor
14 Kamera 14 camera
15 GPS-Modul 15 GPS module
16 Raddrehzahlsensor 16 wheel speed sensor
18 Beschleunigungssensor 18 accelerometer
20 Pedalsensor 20 pedal sensor
22 Lenkung 22 Steering
24 Motorsteuerung 24 Motor control
26 Bremsen 26 brakes
28 Computerprogrammprodukt 28 Computer program product
30 Computerprogrammproduktmodul30 computer program product module
32 neuronales Netz 32 neural network
34, 34‘ Algorithmus 34, 34 ‘algorithm
36 Ort 36 place
38 Straße 38 street
40 Straße 40 street
42 Straßenkreuzung 42 intersection
44 Motorradfahrer 44 motorcyclists
46 Startpunkt 46 starting point
48 Zielpunkt 48 target point
50 Mission 50 mission
52.1 - 52.4 Trajektorie 52.1 - 52.4 trajectory
54 mittlere Trajektorie 54 middle trajectory
56.1, 56.2 Bandbreitengrenze 58 Verkerhsüberwachungskamera56.1, 56.2 bandwidth limit 58 Traffic surveillance camera
60 Fußgänger 60 pedestrians
62 GPS-Sensor 62 GPS sensor
64 Steuerung 65 Motorrad 64 Control 65 Motorcycle
66 Kamera 66 camera
70 virtueller Agent 70 virtual agent
72, 72‘ Algorithmus 72, 72 ‘algorithm
72‘ modifizierter Algorithmus 74 Computer 72 ‘modified algorithm 74 computer
76 selbstlernendes neuronales Netz76 self-learning neural network
78 Compiler 78 compiler
80 Simulationsumgebung 80 simulation environment
82 Compiler 82 compilers

Claims

Patentansprüche Claims
1. Computerimplementiertes Verfahren zum Erstellen eines Verkehrsteilnehmeralgo rithmus (72) zur Computersimulation von Verkehrsteilnehmern (44, 60), wobei die Verkehrsteilnehmer einer Klasse von schlecht geschützten Verkehrsteilnehmern (44, 60) angehören, wobei Daten einer Mehrzahl verschiedener, real existierender Verkehrsteilnehmer (44, 60) der Klasse in einer realen Verkehrsumgebung (36) mit hilfe von an den Verkehrsteilnehmern (44, 60) angebrachten Sensoren (62, 64, 66, 58) während der Durchführung wenigstens einer Mission erfasst werden, wobei aus den Daten Bewegungstrajektorien (52.1 - 52.4) der Verkehrsteilnehmer (44, 60) er mittelt werden, wobei aus den Bewegungstrajektorien (52.1 - 52.4) eine mittlere Be- wegungstrajektorie (54) für die Mission und Bandbreiten (56.1, 56.2) für Abweichun gen von der mittleren Bewegungstrajektorie (54) berechnet werden. 1. Computer-implemented method for creating a road user algorithm (72) for computer simulation of road users (44, 60), the road users belonging to a class of poorly protected road users (44, 60), with data from a plurality of different, real existing road users (44, 60) of the class in a real traffic environment (36) with the aid of sensors (62, 64, 66, 58) attached to the road users (44, 60) during the implementation of at least one mission, with movement trajectories (52.1 - 52.4) the road users (44, 60) are determined, with a mean movement trajectory (54) for the mission and bandwidths (56.1, 56.2) for deviations from the mean movement trajectory (54) from the movement trajectories (52.1 - 52.4) be calculated.
2. Verfahren nach Anspruch 1 , wobei die Verkehrsteilnehmer Fahrzeuge (44) einer ge gebenen, schlecht geschützten Fahrzeugklasse darstellen, wobei an den Fahrzeu gen (44) jeweils wenigstens ein Sensor (62, 64, 66) zur Erfassung von Daten ange bracht oder den Fahrzeugen (44) zugeordnet wird, wobei die Daten von dem Ver kehrsteilnehmeralgorithmus (72) ausgewertet werden. 2. The method according to claim 1, wherein the road users represent vehicles (44) of a given, poorly protected vehicle class, with the Fahrzeu gene (44) in each case at least one sensor (62, 64, 66) for collecting data is introduced or the Vehicles (44) is assigned, the data being evaluated by the traffic subscriber algorithm (72).
3. Verfahren nach Anspruch 1 oder 2, wobei der wenigstens eine an dem Verkehrsteil nehmer (44, 60) oder dem Fahrzeug (65) angeordnete Sensor (62, 64, 66) eine Ka mera (66), ein GPS-Sensor (62), ein Beschleunigungssensor, ein Lidar- und/oder ein Radarsensor ist. 3. The method according to claim 1 or 2, wherein the at least one on the road user (44, 60) or the vehicle (65) arranged sensor (62, 64, 66) a camera (66), a GPS sensor (62 ), an acceleration sensor, a lidar and / or a radar sensor.
4. Verfahren nach einem der vorangegangenen Ansprüche, wobei in der Verkehrsum gebung (36) wenigstens ein die Verkehrsteilnehmer (44, 60) erfassender Sensor (58) angeordnet ist, wobei die Daten ausgewertet und in den Verkehrsteilnehmeral gorithmus (72) eingebracht werden. 4. The method according to any one of the preceding claims, wherein in the traffic environment (36) at least one the traffic participants (44, 60) detecting sensor (58) is arranged, the data being evaluated and introduced into the traffic participant algorithm (72).
5. Verfahren nach einem der vorangegangenen Ansprüche, wobei ein selbstlernendes neuronales Netz (76) bereitgestellt wird, wobei die Daten dem selbstlernenden neu ronalen Netz (76) bereitgestellt werden, wobei der Verkehrsteilnehmeralgorithmus (72) von dem selbstlernenden neuronalen Netz (76) trainiert wird. 5. The method according to any one of the preceding claims, wherein a self-learning neural network (76) is provided, the data being provided to the self-learning neural network (76), the traffic user algorithm (72) being trained by the self-learning neural network (76) .
6. Computerimplementiertes Verfahren zum Trainieren wenigstens eines Algorithmus (34) für ein Steuergerät (4) eines Kraftfahrzeugs (2), wobei das Steuergerät (4) zur Umsetzung einer automatisierten bzw. autonomen Fahrfunktion unter Eingriff in Ag gregate (22, 24, 26) des Kraftfahrzeugs (2) auf der Grundlage von Eingangsdaten unter Verwendung des wenigstens einen Algorithmus (34) vorgesehen ist, wobei der Algorithmus (34) durch ein selbstlernendes neuronales Netz (32) trainiert wird, um fassend folgende Schritte: a) Bereitstellen eines Computerprogrammproduktmoduls (30) für die automatisierte bzw. autonome Fahrfunktion, wobei das Computerprogrammproduktmodul (30) den zu trainierenden Algorithmus (34) und das selbstlernende neuronale Netz (32) ent hält, b) Bereitstellen einer Simulationsumgebung (36) mit Simulationsparametern, wobei die Simulationsumgebung (36) Kartendaten (38) eines real existierenden Einsatzge biets, das Kraftfahrzeug (2) sowie als Agenten wenigstens einen weiteren simulier ten Verkehrsteilnehmer (48, 50) enthält, wobei ein Verhalten wenigstens eines wei teren Verkehrsteilnehmers (48, 50) durch einen Verkehrsteilnehmeralgorithmus (72) bestimmt ist, der nach einem der Ansprüche 1 bis 5 erzeugt wurde; c) Bereitstellen einer Mission für das Kraftfahrzeug (2), und d) Durchführen der Mission und Trainieren des Algorithmus (34). 6. Computer-implemented method for training at least one algorithm (34) for a control unit (4) of a motor vehicle (2), the control unit (4) for implementing an automated or autonomous driving function by intervening in units (22, 24, 26) of the motor vehicle (2) on the basis of Input data is provided using the at least one algorithm (34), the algorithm (34) being trained by a self-learning neural network (32), comprising the following steps: a) Providing a computer program product module (30) for the automated or autonomous driving function , wherein the computer program product module (30) contains the algorithm (34) to be trained and the self-learning neural network (32), b) providing a simulation environment (36) with simulation parameters, wherein the simulation environment (36) map data (38) of a real existing application area, the motor vehicle (2) and as an agent at least one further simulier th traffic participant (48, 50), with a behavior at least one it further traffic participant (48, 50) is determined by a traffic participant algorithm (72) which was generated according to one of claims 1 to 5; c) providing a mission for the motor vehicle (2), and d) carrying out the mission and training the algorithm (34).
7. Verfahren nach Anspruch 6, wobei wenigstens einer der weiteren simulierten Ver kehrsteilnehmer (44, 60) eine Trajektorie (54, 56.1, 56.2) erzeugt, die randomisiert oder stochastisch parametervariiert ist. 7. The method according to claim 6, wherein at least one of the further simulated traffic participants (44, 60) generates a trajectory (54, 56.1, 56.2) which is randomized or stochastically parameter-varied.
8. Verfahren nach Anspruch 6 oder 7, wobei eine Mehrzahl von weiteren simulierten Verkehrsteilnehmern (44, 60) bereitgestellt werden, die sich zumindest teilweise ent lang der mittleren Trajektorie (54), teilweise innerhalb der Bandbreiten (56.1, 56.2) bewegen. 8. The method according to claim 6 or 7, wherein a plurality of further simulated road users (44, 60) are provided, which move at least partially along the central trajectory (54), partially within the bandwidths (56.1, 56.2).
9. Computerprogrammprodukt, mit einem computerlesbaren Speichermedium (8), auf dem Befehle eingebettet sind, die, wenn sie von wenigstens einer Recheneinheit (6) ausgeführt werden, bewirken, dass die wenigstens eine Recheneinheit (6) dazu ein gerichtet ist, das Verfahren nach einem der vorangegangenen Ansprüche auszufüh ren. 9. Computer program product with a computer-readable storage medium (8) on which instructions are embedded which, when executed by at least one processing unit (6), have the effect that the at least one processing unit (6) is directed to the method according to one of the preceding claims auszufüh ren.
10. Kraftfahrzeug mit einem Computerprogrammprodukt nach Anspruch 9. 10. Motor vehicle with a computer program product according to claim 9.
EP20820809.0A 2019-12-10 2020-12-03 Training at least one algorithm for a control unit of a motor vehicle, computer program product, and motor vehicle Active EP4073778B1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102019219241.6A DE102019219241A1 (en) 2019-12-10 2019-12-10 Method for creating a road user algorithm for computer simulation of road users, method for training at least one algorithm for a control device of a motor vehicle, computer program product and motor vehicle
PCT/EP2020/084464 WO2021115918A1 (en) 2019-12-10 2020-12-03 Method for creating a road user algorithm for computer simulation of road users, method for training at least one algorithm for a control unit of a motor vehicle, computer program product, and motor vehicle

Publications (2)

Publication Number Publication Date
EP4073778A1 true EP4073778A1 (en) 2022-10-19
EP4073778B1 EP4073778B1 (en) 2024-07-24

Family

ID=73748039

Family Applications (1)

Application Number Title Priority Date Filing Date
EP20820809.0A Active EP4073778B1 (en) 2019-12-10 2020-12-03 Training at least one algorithm for a control unit of a motor vehicle, computer program product, and motor vehicle

Country Status (4)

Country Link
EP (1) EP4073778B1 (en)
CN (1) CN114793460B (en)
DE (1) DE102019219241A1 (en)
WO (1) WO2021115918A1 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102021104077B3 (en) 2021-02-22 2022-05-25 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Method, system and computer program product for the automated generation of traffic data
DE102021213538A1 (en) 2021-11-30 2023-06-01 Psa Automobiles Sa Simulation to validate an automated driving function for a vehicle
DE102022203422A1 (en) 2022-04-06 2023-10-12 Psa Automobiles Sa Testing an automatic driving control function using semi-real traffic data
DE102022206238A1 (en) 2022-06-22 2023-12-28 Psa Automobiles Sa Designing an automatic driving control system in massively parallel simulations
DE102022131178B3 (en) 2022-11-24 2024-02-08 Cariad Se Method for automated driving of a vehicle and method for generating a machine learning model capable of this, as well as processor circuit and vehicle

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4980810B2 (en) * 2007-07-10 2012-07-18 株式会社豊田中央研究所 Traffic simulation apparatus and program
JP5895926B2 (en) * 2013-12-09 2016-03-30 トヨタ自動車株式会社 Movement guidance device and movement guidance method
DE102014008353B4 (en) * 2014-06-04 2016-09-15 Audi Ag Method for operating a driver assistance system for the automated guidance of a motor vehicle and associated motor vehicle
EP3371023A4 (en) * 2015-11-04 2019-05-08 Zoox, Inc. Simulation system and methods for autonomous vehicles
DE102016212700A1 (en) * 2016-07-13 2018-01-18 Robert Bosch Gmbh Method and system for controlling a vehicle
DE102016215314A1 (en) * 2016-08-17 2018-02-22 Bayerische Motoren Werke Aktiengesellschaft Driver assistance system, means of transportation and method for predicting a traffic situation
DE102017200842B4 (en) * 2017-01-19 2020-06-18 Audi Ag Process for operating a traffic control infrastructure and traffic control infrastructure
US10324469B2 (en) * 2017-03-28 2019-06-18 Mitsubishi Electric Research Laboratories, Inc. System and method for controlling motion of vehicle in shared environment
CN107247961B (en) * 2017-05-10 2019-12-24 西安交通大学 Track prediction method applying fuzzy track sequence
DE102017114876A1 (en) * 2017-07-04 2019-01-10 Iav Gmbh Ingenieurgesellschaft Auto Und Verkehr Driver assistance system for collision avoidance by means of warning and intervention cascade
US10579063B2 (en) * 2017-07-21 2020-03-03 Uatc, Llc Machine learning for predicting locations of objects perceived by autonomous vehicles
DE102017007136A1 (en) * 2017-07-27 2019-01-31 Opel Automobile Gmbh Method and device for training self-learning algorithms for an automated mobile vehicle
CN108389430B (en) * 2018-01-12 2021-02-26 南京理工大学 Intersection pedestrian and motor vehicle collision prediction method based on video detection

Also Published As

Publication number Publication date
CN114793460B (en) 2024-09-10
DE102019219241A1 (en) 2021-06-10
EP4073778B1 (en) 2024-07-24
WO2021115918A1 (en) 2021-06-17
CN114793460A (en) 2022-07-26

Similar Documents

Publication Publication Date Title
EP3970077B1 (en) Method for training at least one algorithm for a control unit of a motor vehicle, computer program product, motor vehicle and system
EP4073778B1 (en) Training at least one algorithm for a control unit of a motor vehicle, computer program product, and motor vehicle
DE102006044086B4 (en) System and method for the simulation of traffic situations, in particular accident-critical dangerous situations, as well as a driving simulator
DE102019203712B4 (en) Method for training at least one algorithm for a control unit of a motor vehicle, computer program product, motor vehicle and system
WO2021083785A1 (en) Method for training at least one algorithm for a control device of a motor vehicle, computer program product, and motor vehicle
DE102007053501A1 (en) Method for developing and / or testing at least one safety and / or driver assistance system for a motor vehicle and simulation environment
DE102019209736A1 (en) Procedure for evaluating possible trajectories
DE102018220865A1 (en) Method for training at least one algorithm for a control device of a motor vehicle, computer program product and motor vehicle
AT523834B1 (en) Method and system for testing a driver assistance system
DE102016214574A1 (en) Method and device for estimating the coefficient of friction of a wheel of a vehicle relative to a ground
WO2021170580A1 (en) Method for training at least one algorithm for a control device of a motor vehicle, computer program product, and motor vehicle
AT524822A1 (en) Method for testing a driver assistance system of a vehicle
DE102019208233A1 (en) Method and device for automatically executing a control function of a vehicle
EP4107590A1 (en) Method for training at least one algorithm for a control device of a motor vehicle, method for optimising traffic flow in a region, computer program product, and motor vehicle
EP4022589A1 (en) Automated detection of abnormal behaviour of a road user
WO2022263175A1 (en) Movement prediction for road users
DE102022102501B3 (en) Method, system and computer program product for determining an assessment of the functionality of a component of a motor vehicle
WO2022184363A1 (en) Computer-implemented method for training at least one algorithm for a control unit of a motor vehicle, computer program product, control unit, and motor vehicle
DE102019212830A1 (en) Analysis and validation of a neural network for a vehicle
DE102023208690B3 (en) Method for generating a longitudinal guidance model for a vehicle for determining at least one longitudinal guidance variable for the longitudinal guidance of the vehicle and longitudinal guidance profile determination device
WO2024179733A1 (en) Adaptive real-data-based simulation of a centrally coordinated traffic area
DE102023000578A1 (en) Method for determining potential, future positions of a potential collision object using an adaptive system, and method for training a corresponding adaptive system
DE102021208191A1 (en) Method for at least partially automated driving of a motor vehicle
EP4451159A1 (en) Hybrid traffic simulation using agent models for testing teleoperated vehicles
WO2023094071A1 (en) Social force models for trajectory prediction of other road users

Legal Events

Date Code Title Description
STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: UNKNOWN

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE INTERNATIONAL PUBLICATION HAS BEEN MADE

PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: REQUEST FOR EXAMINATION WAS MADE

17P Request for examination filed

Effective date: 20220406

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

DAX Request for extension of the european patent (deleted)
RAV Requested validation state of the european patent: fee paid

Extension state: MA

Effective date: 20220406

RAP3 Party data changed (applicant data changed or rights of an application transferred)

Owner name: STELLANTIS AUTO SAS

GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: GRANT OF PATENT IS INTENDED

INTG Intention to grant announced

Effective date: 20240306

GRAS Grant fee paid

Free format text: ORIGINAL CODE: EPIDOSNIGR3

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

REG Reference to a national code

Ref country code: GB

Ref legal event code: FG4D

Free format text: NOT ENGLISH

REG Reference to a national code

Ref country code: CH

Ref legal event code: EP

REG Reference to a national code

Ref country code: IE

Ref legal event code: FG4D

Free format text: LANGUAGE OF EP DOCUMENT: GERMAN

Ref country code: DE

Ref legal event code: R096

Ref document number: 502020008703

Country of ref document: DE