DE102020105783A1 - Method of creating a reduced neural network - Google Patents
Method of creating a reduced neural network Download PDFInfo
- Publication number
- DE102020105783A1 DE102020105783A1 DE102020105783.0A DE102020105783A DE102020105783A1 DE 102020105783 A1 DE102020105783 A1 DE 102020105783A1 DE 102020105783 A DE102020105783 A DE 102020105783A DE 102020105783 A1 DE102020105783 A1 DE 102020105783A1
- Authority
- DE
- Germany
- Prior art keywords
- input data
- data sets
- neural network
- output data
- reduced
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Feedback Control In General (AREA)
Abstract
Die Erfindung betrifft Verfahren zur Erzeugung eines reduzierten neuronalen Netzes (20) für ein Steuergerät (2) eines Fahrzeugs (1) mit den folgenden Schritten:- Initialisieren des reduzierten neuronalen Netzes (20) in einem ersten Schritt (11),- Berechnen von jeweiligen ersten korrespondierenden Ausgangsdatensätzen (31a, 31b, 31z) mithilfe eines ersten neuronalen Netzes (30) und in Abhängigkeit eines jeweiligen Eingangsdatensatzes (32a, 32b, 32z), wobei eine Gesamtheit der jeweiligen Eingangsdatensätze (32a, 32b, 32z) eine erste Menge (32) der Eingangsdatensätze bildet, in einem zweiten Schritt (12)- Bestimmen von jeweiligen Abweichungen (42a, 42b, 42z) der ersten Ausgangsdatensätze (31a, 31b, 31z) von jeweiligen Vergleichsdatensätzen (41a, 41b, 41z) in einem dritten Schritt (13), wobei der jeweilige erste Ausgangsdatensatz (31a, 31b, 31z) mit dem jeweiligen Vergleichsdatensatz (41a, 41b, 41z) korrespondiert,- Adaptieren des reduzierten neuronalen Netzes (20) in Abhängigkeit einer zweiten Menge der Eingangsdatensätze, die eine Teilmenge der ersten Menge ist, wobei die zu den Eingangsdatensätzen der zweiten Menge korrespondierenden ersten Ausgangsdatensätze im Durchschnitt eine größere Abweichung aufweisen als die zu den übrigen Eingangsdatensätzen der ersten Menge korrespondierenden ersten Ausgangsdatensätze, wobei die übrigen Eingangsdatensätze eine dritte Menge der Eingangsdatensätze bilden und das reduzierte neuronale Netz (20) unabhängig von der dritten Menge der Eingangsdatensätze adaptiert wird, in einem vierten Schritt (16),- Wiederholen der Schritte drei und vier, bis ein Abbruchkriterium erfüllt ist.The invention relates to methods for generating a reduced neural network (20) for a control unit (2) of a vehicle (1), comprising the following steps: - initializing the reduced neural network (20) in a first step (11), - calculating each first corresponding output data sets (31a, 31b, 31z) with the aid of a first neural network (30) and in dependence on a respective input data set (32a, 32b, 32z), a total of the respective input data sets (32a, 32b, 32z) being a first set (32 ) forms the input data sets in a second step (12) - determining respective deviations (42a, 42b, 42z) of the first output data sets (31a, 31b, 31z) from respective comparison data sets (41a, 41b, 41z) in a third step (13 ), the respective first output data record (31a, 31b, 31z) corresponding to the respective comparison data record (41a, 41b, 41z), - adapting the reduced neural network (20) as a function a second set of input data sets, which is a subset of the first set, the first output data sets corresponding to the input data sets of the second set having a greater deviation on average than the first output data sets corresponding to the other input data sets of the first set, the other input data sets being a third Form the set of input data sets and the reduced neural network (20) is adapted independently of the third set of input data sets, in a fourth step (16), - repeating steps three and four until an abort criterion is met.
Description
Die Erfindung betrifft ein Verfahren zur Erzeugung eines reduzierten neuronalen Netzes für ein Steuergerät eines Fahrzeugs und/oder einer Fahrzeugkomponente, ein Steuergerät für ein Fahrzeug und/oder eine Fahrzeugkomponente, ein Fahrzeug, ein reduziertes neuronales Netz und ein Computerprogrammprodukt.The invention relates to a method for generating a reduced neural network for a control device of a vehicle and / or a vehicle component, a control device for a vehicle and / or a vehicle component, a vehicle, a reduced neural network and a computer program product.
Die
Das vorgeschlagene Verfahren zum Erstellen eines reduzierten neuronalen Netzes für ein Steuergerät eines Fahrzeugs und/oder einer Fahrzeugkomponente umfasst die folgenden Schritte:
- - Initialisieren des reduzierten neuronalen Netzes in einem ersten Schritt,
- - Berechnen von jeweiligen ersten korrespondierenden Ausgangsdatensätzen mithilfe eines ersten neuronalen Netzes und in Abhängigkeit eines jeweiligen Eingangsdatensatzes, wobei eine Gesamtheit der jeweiligen Eingangsdatensätze eine erste Menge der Eingangsdatensätze bildet, in einem zweiten Schritt,
- - Bestimmen von jeweiligen Abweichungen der ersten Ausgangsdatensätze von jeweiligen Vergleichsdatensätzen in einem dritten Schritt, wobei der jeweilige erste Ausgangsdatensatz mit dem jeweiligen Vergleichsdatensatz korrespondiert,
- - Adaptieren des reduzierten neuronalen Netzes in Abhängigkeit einer zweiten Menge der Eingangsdatensätze, die eine Teilmenge der ersten Menge ist, wobei die zu den Eingangsdatensätzen der zweiten Menge korrespondierenden ersten Ausgangsdatensätze im Durchschnitt eine größere Abweichung aufweisen als die zu den übrigen Eingangsdatensätzen der ersten Menge korrespondierenden ersten Ausgangsdatensätze, wobei die übrigen Eingangsdatensätze eine dritte Menge der Eingangsdatensätze bilden und das reduzierte neuronale Netz unabhängig von der dritten Menge der Eingangsdatensätze adaptiert wird, in einem vierten Schritt,
- - Wiederholen der Schritte drei und vier, bis ein Abbruchkriterium erfüllt ist.
- Initializing the reduced neural network in a first step,
- Calculating respective first corresponding output data sets with the aid of a first neural network and depending on a respective input data set, a total of the respective input data sets forming a first set of the input data sets in a second step,
- Determining in a third step the respective deviations of the first output data sets from the respective comparison data sets, the respective first output data set corresponding to the respective comparison data set,
- - Adapting the reduced neural network as a function of a second set of input data sets, which is a subset of the first set, the first output data sets corresponding to the input data sets of the second set having, on average, a greater deviation than the first corresponding to the other input data sets of the first set Output data sets, the remaining input data sets forming a third set of input data sets and the reduced neural network being adapted independently of the third set of input data sets, in a fourth step,
- - Repeat steps three and four until an abort criterion is met.
Die Eingangsdatensätze der dritten Menge sind nicht in der zweiten Menge enthalten. Für den Begriff „neuronales Netz“ wird im Folgenden der Begriff „Netz“ verwendet.The input data records of the third set are not included in the second set. The term “network” is used below for the term “neural network”.
Die Eingangsdatensätze, die ersten Ausgangsdatensätze und die Vergleichsdatensätze können jeweils Vektoren sein. Die jeweilige Abweichung der ersten Ausgangsdatensätze kann beispielsweise mit Hilfe einer Vektornorm eines jeweiligen Differenzvektors bestimmt werden. Der jeweilige Differenzvektor wird bevorzugt aus einer Differenz zwischen dem entsprechenden ersten Ausgangsdatensatz und dem entsprechenden Vergleichsdatensatz berechnet. Mit den jeweiligen ersten korrespondierenden Ausgangsdatensätzen ist jeweils ein einzelner erster Ausgangsdatensatz gemeint, der in Abhängigkeit des zu diesem Ausgangsdatensatz korrespondierenden jeweiligen Eingangsdatensatz berechnet wird.The input data sets, the first output data sets and the comparison data sets can each be vectors. The respective deviation of the first output data sets can be determined, for example, with the aid of a vector standard of a respective difference vector. The respective difference vector is preferably calculated from a difference between the corresponding first output data set and the corresponding comparison data set. The respective first corresponding output data records mean in each case a single first output data record which is calculated as a function of the respective input data record corresponding to this output data record.
Ein Korrespondieren des jeweiligen ersten Ausgangsdatensatzes mit dem jeweiligen Vergleichsdatensatz meint, dass diese beiden Datensätze in einem Zusammenhang mit demjenigen Eingangsdatensatz stehen, mit dem der jeweilige erste Ausgangsdatensatz berechnet wird. Beispielsweise kann der jeweilige Vergleichsdatensatz mithilfe des reduzierten Netzes und in Abhängigkeit desjenigen Eingangsdatensatzes berechnet werden, mit dem der zu diesem Eingangsdatensatz korrespondierende erste Ausgangsdatensatz anhand des ersten Netzes berechnet wird. Der entsprechende Vergleichsdatensatz ist in diesem Fall bevorzugt ein Ausgangsdatensatz des reduzierten Netzes.Corresponding the respective first output data record with the respective comparison data record means that these two data records are related to the input data record with which the respective first output data record is calculated. For example, the respective comparison data record can be calculated using the reduced network and depending on the input data record with which the first output data record corresponding to this input data record is calculated on the basis of the first network. In this case, the corresponding comparison data record is preferably an output data record of the reduced network.
Das Steuergerät des Fahrzeugs und/oder der Fahrzeugkomponente ist eingerichtet, zumindest einen Betriebsparameter des Fahrzeugs und/oder der Fahrzeugkomponente zu steuern. Der Betriebsparameter kann beispielsweise eine Geschwindigkeit, eine Beschleunigung, Abstände zwischen dem Fahrzeug und einem weiteren Fahrzeug, eine Motordrehzahl, eine Bremskraft oder ein Lenkwinkel sein. Vorteilhafterweise sind das Fahrzeug und/oder die Fahrzeugkomponente für ein autonomes und/oder teilweise autonomes Fahren einsetzbar.The control device of the vehicle and / or the vehicle component is set up to control at least one operating parameter of the vehicle and / or the vehicle component. The operating parameter can be, for example, a speed, an acceleration, distances between the vehicle and another vehicle, an engine speed, a braking force or a steering angle. The vehicle and / or the vehicle component can advantageously be used for autonomous and / or partially autonomous driving.
Das vorgeschlagene Verfahren und das Steuergerät ermöglichen eine Steuerung des autonomen und/oder teilweise autonomen Fahrzeuges und/oder der Fahrzeugkomponente in verschiedenen Fahrsituationen. Fahrsituationen können beispielsweise das Fahren auf der Autobahn und/oder das Fahren innerhalb von Städten und/oder das Fahren in verkehrsberuhigten Bereichen sein.The proposed method and the control device enable control of the autonomous and / or partially autonomous vehicle and / or the vehicle component in various driving situations. Driving situations can be, for example, driving on the motorway and / or driving within cities and / or driving in traffic-calmed areas.
Die Schritte drei und vier werden so lange wiederholt, bis ein Abbruchkriterium erfüllt ist. Des Weiteren ist eine andere Reihenfolge als die bisher genannte Reihenfolge der Schritte möglich. Beispielsweise kann der zweite Schritt vor dem ersten Schritt durchgeführt werden.Steps three and four are repeated until a termination criterion is met. Furthermore, a different order than the order of the steps mentioned so far is possible. For example, the second step can be carried out before the first step.
Es ist möglich, dass das reduzierte Netz in dem vierten Schritt nur in Abhängigkeit eines einzelnen Eingangsdatensatzes adaptiert wird. Die zweite Menge weist in diesem Fall nur diesen einen Eingangsdatensatz auf.It is possible that the reduced network is only adapted in the fourth step as a function of a single input data record. In this case, the second set has only this one input data record.
Das Adaptieren des reduzierten Netzes in Abhängigkeit der zweiten Menge der Eingangsdatensätze kann beispielsweise für den Fall, dass die zweite Menge nur einen einzigen Eingangsdatensatz hat folgendermaßen erfolgen. Das reduzierte Netz wird in Abhängigkeit des zu dem Eingangsdatensatz der zweiten Menge korrespondierenden ersten Ausgangsdatensatz und/oder dessen Abweichung adaptiert. Da dieser korrespondierende erste Ausgangsdatensatz beziehungsweise dessen Abweichung mithilfe des Eingangsdatensatzes der zweiten Menge berechnet wurde, erfolgt das Adaptieren indirekt in Abhängigkeit dieses Eingangsdatensatzes. Mit der Abhängigkeit ist demnach auch eine indirekte Abhängigkeit gemeint. The reduced network can be adapted as a function of the second set of input data sets, for example in the event that the second set has only a single input data set, as follows. The reduced network is adapted depending on the first output data set corresponding to the input data set of the second set and / or its deviation. Since this corresponding first output data set or its deviation was calculated using the input data set of the second set, the adaptation takes place indirectly as a function of this input data set. The dependency also means an indirect dependency.
Des Weiteren soll auch eine vierte Menge von Eingangsdatensätzen betrachtet werden, die alle diejenigen Eingangsdatensätze zusammenfasst, die im vierten Schritt bei mehrmaligem Wiederholen der Schritte drei und vier jeweils zu der zweiten Menge gehören.Furthermore, a fourth set of input data sets is to be considered, which summarizes all those input data sets which in the fourth step are repeated for the second set when steps three and four are repeated several times.
Die erste Menge ist vorteilhaft diejenige Menge an Eingangsdatensätzen, die für ein Training oder für ein Training und ein Testen des ersten Netzes verwendet wurde, bevor der zweite oder erste Schritt durchgeführt wird. In diesem Sinne kann das Verfahren auch einen initialen Schritt umfassen, in dem das erste Netz mithilfe der ersten Menge der Eingangsdatensätze erzeugt wird.The first set is advantageously the set of input data sets that was used for a training session or for a training session and a testing of the first network before the second or first step is carried out. In this sense, the method can also include an initial step in which the first network is generated using the first set of input data records.
Vorteilhaft enthalten die zweite Menge und die vierte Menge weniger als ein Drittel der Eingangsdatensätze der ersten Menge. Der erste Vorteil, das reduzierte Netz in Abhängigkeit der zweiten Menge zu adaptieren, besteht darin, dass ein Rechenaufwand beim Adaptieren reduziert werden kann. Dies ist ein Unterschied gegenüber einem Lernverfahren beispielsweise des ersten Netzes, bei welchem das erste Netz in Abhängigkeit von allen Eingangsdatensätzen der ersten Menge adaptiert wird. Bei einem solchen Lernverfahren kann das erste Netz beim Training in Abhängigkeit von einem gemittelten Fehler adaptiert werden, der in Abhängigkeit von allen Ausgangsdatensätzen des ersten Netzes berechnet wird, die mithilfe aller Eingangsdatensätze der ersten Menge berechnet wurden.The second set and the fourth set advantageously contain less than a third of the input data records of the first set. The first advantage of adapting the reduced network as a function of the second set is that a computing effort during adaptation can be reduced. This differs from a learning method, for example of the first network, in which the first network is adapted as a function of all input data records of the first set. With such a learning method, the first network can be adapted during training as a function of an averaged error, which is calculated as a function of all output data records of the first network, which were calculated using all input data records of the first set.
Ein zweiter Vorteil, das reduzierte Netz in Abhängigkeit der zweiten Menge zu adaptieren, besteht darin, dass ein Rechenaufwand des reduzierten Netzes bei einem Einsatz des reduzierten Netzes in dem Steuergerät reduziert werden kann. Dies kann dadurch bewirkt werden, dass das reduzierte Netz eine geringe Komplexität als das erste Netz aufweisen kann und eine Dimension einer Mannigfaltigkeit des reduzierten Netzes kleiner als eine Dimension einer Mannigfaltigkeit des ersten Netzes sein kann. Die geringere Komplexität und/oder die kleinere Mannigfaltigkeit können bewirken, dass Differenzenquotienten, die mithilfe des reduzierten Netzes gebildet werden können, geringer sein können als Differenzenquotienten, die mithilfe des ersten Netzes gebildet werden können. Dieser Vorteil und der geringere Rechenaufwand beim Adaptieren des reduzierten Netzes verbessert Einsatzmöglichkeiten des reduzierten Netzes im Vergleich zu dem ersten Netz, insbesondere bei einem Einsatz des reduzierten Netzes in einer Regelschleife des Steuergerätes.A second advantage of adapting the reduced network as a function of the second quantity is that the computing effort of the reduced network can be reduced when the reduced network is used in the control unit. This can be brought about in that the reduced network can be less complex than the first network and one dimension of a diversity of the reduced network can be smaller than one dimension of a diversity of the first network. The lower complexity and / or the smaller diversity can have the result that difference quotients that can be formed using the reduced network can be lower than difference quotients that can be formed using the first network. This advantage and the lower computing effort when adapting the reduced network improves the possible uses of the reduced network compared to the first network, in particular when the reduced network is used in a control loop of the control device.
Mit der jeweiligen Mannigfaltigkeit ist jeweils eine Menge von möglichen Datensätzen, die das reduzierte Netz bzw. das erste Netz zur Bestimmung von möglichen Ausgangsdatensätzen des entsprechenden Netzes in Abhängigkeit von allen möglichen Eingangsdatensätzen für die jeweiligen Netze berechnen kann. Mit anderen Worten ist die erste Menge der Eingangsdatensätze mit Hilfe einer internen Logik des reduzierten Netzes oder des ersten Netzes auf die Mannigfaltigkeit des reduzierten Netzes bzw. des ersten Netzes, d.h. auf die jeweilige Menge der möglichen Datensätze, abbildbar.With the respective diversity there is in each case a set of possible data records that the reduced network or the first network can calculate for determining possible output data records of the corresponding network as a function of all possible input data records for the respective networks. In other words, the first set of input data records is based on the diversity of the reduced network or the first network using an internal logic of the reduced network or the first network, i.e. can be mapped to the respective amount of possible data records.
Die hier benutzte Definition einer Mannigfaltigkeit unterscheidet sich von der mathematischen Definition einer Mannigfaltigkeit, bei welcher die Mannigfaltigkeit bestimmte Eigenschaften erfüllen muss, beispielsweise dass sie ein Hausdorff-Raum oder lokal euklidisch ist. So kann eine Mannigfaltigkeit im Sinne der Erfindung unstetig sein oder Löcher aufweisen.The definition of a manifold used here differs from the mathematical definition of a manifold, in which the manifold must fulfill certain properties, for example that it is a Hausdorff space or locally Euclidean. For example, a manifold can be discontinuous or have holes in the sense of the invention.
Gemäß einer ersten Variante können die möglichen Datensätze die möglichen Ausgangsdatensätze sein. Gemäß einer zweiten Variante können die möglichen Datensätze interne Datensätze des jeweiligen Netzes sein, die nicht an einen Ausgang des Netzes geleitet werden. Im Rahmen der zweiten Variante wird die jeweilige Mannigfaltigkeit im Folgenden als interne Mannigfaltigkeit bezeichnet.According to a first variant, the possible data records can be the possible output data records. According to a second variant, the possible data records can be internal data records of the respective network which are not routed to an output of the network. In the second variant, the respective manifold is referred to below as the internal manifold.
Ein dritter Vorteil, das reduzierte Netz in Abhängigkeit der zweiten Menge zu adaptieren, besteht darin, dass die Eingangsdatensätze der zweiten Menge beim Adaptieren eine Veränderung der internen Logik des reduzierten Netzes stark beeinflussen können. Das Adaptieren des reduzierten Netzes kann somit beschleunigt werden. Der dritte Vorteil kann besonders gut erzielt werden, wenn die zweite Menge nur einen einzelnen Eingangsdatensatz aufweist.A third advantage of adapting the reduced network as a function of the second set consists in the fact that the input data records of the second set can strongly influence a change in the internal logic of the reduced network when adapting. The adaptation of the reduced network can thus be accelerated. The third advantage can be achieved particularly well if the second set has only a single input data record.
Vorteilhafterweise wird die zweite Menge derart gebildet, dass die jeweiligen Abweichungen der zu den Eingangsdatensätzen der zweiten Menge korrespondierenden ersten Ausgangsdatensätze größer als alle einzelnen Abweichungen der ersten Ausgangsdatensätze der dritten Menge sind. Bei dieser Ausgestaltung kann der dritte Vorteil besonders gut umgesetzt werden. In diesem Fall haben nämlich diejenigen Eingangsdatensätze einen besonders starken Einfluss auf die Adaption des reduzierten Netzes, die hohe Abweichungen erzeugen. In diesem Fall kann die vierte Menge als eine Menge der Eingangsdatensätze betrachtet werden, die die relevantesten Eingangsdatensätze enthält.The second set is advantageously formed such that the respective deviations of the first output data sets corresponding to the input data sets of the second set are greater than all individual deviations of the first output data sets of the third set. With this configuration, the third advantage can be implemented particularly well. In this case, namely those input data sets which have a particularly strong influence on the adaptation of the reduced network and which produce high deviations. In this case, the fourth set can be regarded as a set of the input data sets that contains the most relevant input data sets.
Ausgehend von dieser Ausgestaltung kann der dritte Vorteil noch einfacher erzielt werden, wenn die zweite Menge nur einen einzelnen Eingangsdatensatz aufweist. Beim Wiederholen des vierten Schrittes ist bevorzugt ein einzelner Eingangsdatensatz der ersten Menge nicht ein weiteres Mal in der zweiten Menge enthalten. Dies bewirkt, dass nacheinander unterschiedliche Eingangsdatensätze, die jedoch jeweils einen besonders starken Einfluss auf die Adaption des reduzierten Netzes haben, für das Adaptieren verwendet werden. Dadurch kann die Adaption weiter beschleunigt werden.Based on this configuration, the third advantage can be achieved even more easily if the second set has only a single input data record. When repeating the fourth step, a single input data record of the first set is preferably not contained in the second set again. This means that different input data sets, which each have a particularly strong influence on the adaptation of the reduced network, are used for the adaptation in succession. This can further accelerate the adaptation.
Gemäß einer Weiterbildung ist vorgesehen, dass das reduzierte Netz Basisfunktionen aufweist. Bei dieser Weiterbildung wird das reduzierte Netz in dem vierten Schritt derart adaptiert, dass zumindest eine weitere Basisfunktion dem reduzierten Netz hinzugefügt wird. Durch das Hinzufügen der weiteren Basisfunktion wird eine Dimension der Mannigfaltigkeit, bevorzugt der internen Mannigfaltigkeit, des reduzierten Netzes erhöht. Das Hinzufügen der weiteren Basisfunktion erfolgt bevorzugt indirekt in Abhängigkeit der zweiten Menge der Eingangsdatensätze. Beispielsweise kann die weitere Basisfunktion mithilfe derjenigen ersten Ausgangsdatensätze bestimmt werden, die mit den Eingangsdatensätzen der zweiten Menge korrespondieren. Die erste Menge der Eingangsdatensätze ist bevorzugt mithilfe der Basisfunktionen einschließlich der weiteren Basisfunktion auf die Mannigfaltigkeit des reduzierten Netzes abbildbar. Der Vorteil dieser Weiterbildung ist, dass jedes Mal, wenn die Dimension der Mannigfaltigkeit des reduzierten Netzes erhöht wird, die interne Logik des reduzierten Netzes an eine Information, die in dem Eingangsdatensatz der zweiten Menge und in dem zu diesem korrespondierenden ersten Ausgangsdatensatz enthalten ist, angepasst werden kann.According to a further development, it is provided that the reduced network has basic functions. In this development, the reduced network is adapted in the fourth step in such a way that at least one further basic function is added to the reduced network. By adding the further basic function, a dimension of the manifold, preferably the internal manifold, of the reduced network is increased. The further basic function is preferably added indirectly as a function of the second set of input data records. For example, the further basic function can be determined with the aid of those first output data sets which correspond to the input data sets of the second set. The first set of input data records can preferably be mapped to the diversity of the reduced network using the basic functions including the further basic function. The advantage of this development is that each time the dimension of the diversity of the reduced network is increased, the internal logic of the reduced network is adapted to information contained in the input data record of the second set and in the first output data record corresponding to this can be.
Ebenfalls können dadurch Informationen, die in der internen Logik des ersten Netzes enthalten sind, beim Adaptieren des reduzierten Netzes berücksichtigt werden und können dadurch auch durch die interne Logik des reduzierten Netzes repräsentiert werden. Werden die Schritte drei und vier sukzessive wiederholt, so kann bei jeder Wiederholung die interne Logik des reduzierten Netzes an die interne Logik des ersten Netzes angeglichen werden. Somit ist es möglich, mit Hilfe des reduzierten Netzes eine Performanz zu erzielen, die ähnlich zu einer Performanz des ersten Netzes ist, wobei das reduzierte Netz zusätzlich die oben genannten Vorteile aufweist. Im Rahmen des Einsatzes des reduzierten Netzes in der Regelschleife kann dessen Performanz aus folgendem Grund sogar besser als die des ersten Netzes sein. Die Mannigfaltigkeit des reduzierten Netzes kann einen weicheren Verlauf in einem möglichen Ausgaberaum des reduzierten Netzes als die Mannigfaltigkeit des ersten Netzes in dem möglichen Ausgaberaum haben. Dadurch können die oben beschriebenen Differenzenquotienten des reduzierten Netzes geringer sein, was eine Regelung der Fahrzeugkomponente mithilfe der Regelschleife erleichtern kann.Information that is contained in the internal logic of the first network can also be taken into account when adapting the reduced network and can thus also be represented by the internal logic of the reduced network. If steps three and four are successively repeated, the internal logic of the reduced network can be adapted to the internal logic of the first network with each repetition. It is thus possible to use the reduced network to achieve a performance which is similar to a performance of the first network, the reduced network additionally having the advantages mentioned above. When using the reduced network in the control loop, its performance may even be better than that of the first network for the following reason. The diversity of the reduced network can have a softer course in a possible output space of the reduced network than the diversity of the first network in the possible output space. As a result, the difference quotients of the reduced network described above can be lower, which can make it easier to regulate the vehicle component using the control loop.
Sowohl die Basisfunktionen als auch die weiteren Basisfunktion haben keinen Eingang oder Ausgang, d.h. kein Argument beziehungsweise Funktionswert, sondern sind jeweils durch unveränderliche Werte definiert. Vorteilhaft sind die Basisfunktion und die weitere Basisfunktion Vektoren mit unveränderlichen Einträgen.Both the basic functions and the further basic function have no input or output, i.e. no argument or function value, but are defined by unchangeable values. The basic function and the further basic function vectors with unchangeable entries are advantageous.
Das vorgeschlagene reduzierte neuronale Netz kann nach einer der oben genannten, bevorzugt auch nach einer der im Folgenden genannten, Ausgestaltungen erzeugt werden.The proposed reduced neural network can be generated according to one of the configurations mentioned above, preferably also according to one of the configurations mentioned below.
Das vorgeschlagene Steuergerät ist für das Fahrzeug und/oder die Fahrzeugkomponente geeignet und eingerichtet durch ein Verfahren und/oder für die Durchführung eines Verfahrens nach einer der bereits beschriebenen, bevorzugt auch nach einer der im Folgenden genannten, Ausführungsformen. Das Steuergerät weist vorteilhaft das reduzierte neuronalen Netz auf, wie es nach einer der oben genannten, bevorzugt auch nach einer der im Folgenden genannten, Ausgestaltungen erzeugt werden kann, nachdem das Verfahren durchgeführt wurde.The proposed control device is suitable for the vehicle and / or the vehicle component and is set up by a method and / or for carrying out a method according to one of the embodiments already described, preferably also according to one of the embodiments mentioned below. The control device advantageously has the reduced neural network, as can be generated according to one of the above-mentioned, preferably also according to one of the following, configurations after the method has been carried out.
Das vorgeschlagene Fahrzeug umfasst das Steuergerät. Dadurch, dass das vorgeschlagene Steuergerät und das vorgeschlagene Fahrzeug das reduzierte Netz aufweisen oder dieses bei einer Durchführung des Verfahrens erzeugen können, können mit dem Fahrzeug und dem Steuergerät dieselben Vorteile erzielt werden wie mit dem reduzierten Netz.The proposed vehicle includes the control unit. Because the proposed control unit and the proposed vehicle have the reduced network or can generate this when the method is carried out, the same advantages can be achieved with the vehicle and the control unit as with the reduced network.
Das vorgeschlagene Computerprogrammprodukt veranlasst einen Computer, wenn das Computerprogrammprodukt von dem Computer ausgeführt wird, das vorgeschlagene Verfahren, bevorzugt nach den im Folgenden genannten Varianten, durchzuführen. Das Computerprogrammprodukt kann in dem Steuergerät gespeichert sein oder in einer weiteren Variante als Programm auf einem externen Datenträger außerhalb des Fahrzeugs vorliegen. Der Computer befindet sich vorteilhaft in dem Steuergerät und kann in Form eines Mikrocontrollers ausgebildet sein. Dadurch, dass mithilfe des Computerproduktes das vorgeschlagene Verfahren auf dem Computer ausgeführt werden kann, weist es die im Folgenden für das Verfahren genannten Vorteile auf.The proposed computer program product causes a computer, when the computer program product is executed by the computer, to carry out the proposed method, preferably according to the variants mentioned below. The computer program product can be stored in the control device or, in a further variant, can be present as a program on an external data carrier outside the vehicle. The computer is advantageously located in the control unit and can be designed in the form of a microcontroller. By using the computer product, the proposed method on the Computer can be executed, it has the advantages mentioned below for the method.
Das erste und reduzierte Netz können in Form einer jeweiligen speziellen Datenstruktur ausgebildete sein, die, wenn sie von einem Speicher des Computers in einen Arbeitsspeicher des Computers geladen werden und von dem Computerprogrammprodukt aus dem Arbeitsspeicher aufgerufen werden, folgende Aktionen veranlassen können. Bevorzugt kann mithilfe des ersten beziehungsweise reduzierten Netzes ein entsprechendes physisches neuronales erstes beziehungsweise reduziertes Netz mit Neuronen simuliert werden, wobei Ausgangssignale von mehreren Neuronen des entsprechenden physischen Netzes zu Eingängen von weiteren Neuronen des entsprechenden physischen Netzes geleitet werden. Die Neuronen des ersten und reduzierten Netzes entsprechen damit den jeweiligen Neuronen der entsprechenden physischen Netze und können als Modelle mit Eingängen und Ausgänge, bevorzugt nur einem Ausgang, betrachtet werden.The first and reduced network can be designed in the form of a respective special data structure which, when loaded from a memory of the computer into a main memory of the computer and called up from the main memory by the computer program product, can initiate the following actions. With the aid of the first or reduced network, a corresponding physical neural first or reduced network with neurons can preferably be simulated, output signals from a plurality of neurons of the corresponding physical network being routed to inputs of further neurons of the corresponding physical network. The neurons of the first and reduced networks thus correspond to the respective neurons of the corresponding physical networks and can be viewed as models with inputs and outputs, preferably only one output.
Darüber hinaus können das erste beziehungsweise reduzierte Netz jeweilige Aktivierungsfunktionen und/oder Schwellwerte für jeweils ein Neuron des entsprechenden Netzes aufweisen. Die Aktivierungsfunktionen und/oder Schwellwerte können ebenfalls in der entsprechenden speziellen Datenstruktur, d.h. in dem ersten beziehungsweise reduzierten Netz, vorliegen.In addition, the first or reduced network can have respective activation functions and / or threshold values for each neuron of the corresponding network. The activation functions and / or threshold values can also be in the corresponding special data structure, i.e. in the first or reduced network.
Die abhängigen Ansprüche beschreiben weitere vorteilhafte Ausführungsformen der Erfindung. Bevorzugte Ausführungsbeispiele werden anhand der folgenden Figuren näher erläutert. Dabei zeigen die Figuren schematisch in:
-
1 Ein Fahrzeug mit einem Steuergerät und Fahrzeugkomponenten, -
2 Schritte eines Verfahrens zur Erzeugung eines reduzierten neuronalen Netzes fürdas Steuergerät nach 1 , -
3 ein erstes neuronales Netz, -
4 ein Datenfluss zur Berechnung von Abweichungen zwischen Ausgangsdatensätzen des ersten neuronalen Netzes und des reduzierten neuronalen Netzes, -
5 eine Mannigfaltigkeit des ersten Netzes nach3 , -
6 das reduzierte neuronale Netz nach einem Initialisieren des reduzierten neuronalen Netzes, -
7 das reduzierte neuronale Netz nach einem Hinzufügen einer weiteren Basisfunktion, -
8 das reduzierte neuronale Netz nach Beendigung desVerfahrens nach 2 , -
9 eine Mannigfaltigkeit des reduzierten neuronalen Netzes nach Beendigung des Verfahrens.
-
1 A vehicle with a control unit and vehicle components, -
2nd Steps of a method for generating a reduced neural network for thecontrol device 1 , -
3rd a first neural network, -
4th a data flow for calculating deviations between output data sets of the first neural network and the reduced neural network, -
5 a diversity of the first network3rd , -
6 the reduced neural network after initialization of the reduced neural network, -
7 the reduced neural network after adding another basic function, -
8th the reduced neural network after completing the procedure2nd , -
9 a diversity of the reduced neural network after completion of the procedure.
Ein dritter Schritt
Die in
Dabei kann die erste Menge
Die ersten Ausgangsdatensätze
Ein vierter Schritt
Der dritte Schritt
Gemäß einer ersten Variante ist das Steuergerät
Gemäß einer bevorzugten Ausgestaltung wird der jeweilige Vergleichsdatensatz
Gemäß eines einfachen Beispiels ist ein einzelner Ausgangsdatensatz, wie beispielsweise der erste Ausgangsdatensatz
Im Folgenden soll die Erzeugung des reduzierten Netzes
Vorteilhafterweise weist die zweite Menge bei der Durchführung, und insbesondere auch bei jeder wiederholten Durchführung, des vierten Schrittes
Ist beispielsweise die Abweichung
Das Adaptieren des reduzierten Netzes
Gemäß einer Variante kann beim Wiederholen der Schritte
Vorteilhaft wird das weitere Gewicht βi+1, das in dem vierten Schritt dem reduzierten Netz hinzugefügt wird, zumindest an eine Information angepasst, die in dem Eingangsdatensatz enthalten ist, der in der zweiten Menge enthalten ist. In einer Weiterbildung kann die jeweilige weitere Basisfunktion und bevorzugt auch das weitere Gewicht mithilfe einer „Reduced Basis Method“ bestimmt werden.Advantageously, the further weight β i + 1 that is added to the reduced network in the fourth step is adapted at least to information contained in the input data record that is contained in the second set. In a further development, the respective further basic function and preferably also the additional weight can be determined using a “reduced basic method”.
Besonders vorteilhaft ist beim Wiederholen des vierten Schrittes
Vorteilhafterweise enthält die zweite Menge denjenigen Eingangsdatensatz, dessen korrespondierender erster Ausgangsdatensatz die größte Abweichung aufweist. Dieser korrespondierende erste Ausgangsdatensatz kann in Form der weiteren Basisfunktion dem reduzierten Netz
Das Abbruchkriterium
Das vorgeschlagene Verfahren ermöglicht es, dass eine Anzahl der Basisfunktionen ψj des reduzierten Netzes
Das vorgeschlagene Verfahren ermöglicht es, die Mannigfaltigkeit des ersten Netzes
Die Mannigfaltigkeit des reduzierten Netzes kann als eine Gesamtheit aller möglichen Ausgangsvektoren
In einer weiteren Ausführungsform werden zu jedem der Eingangsdatensätze der vierten Menge jeweilige zweite korrespondierende Ausgangsdatensätze mithilfe des reduzierten Netzes
Anhand derjenigen Eingangsdatensätze, die mit den zweiten Ausgangsdatensätzen, die in dem ersten Bereich
Mithilfe der neuen Eingangsdatensätze und der neuen Ausgangsdatensätze kann das reduzierte Netz
Des Weiteren können zu jedem der Eingangsdatensätze der vierten Menge jeweilige dritte Ausgangsdatensätze mithilfe des ersten Netzes
Weiterhin können die kritischen Bereiche als Bereiche erfasst werden, in denen das reduzierte Netz
Im Folgenden soll ein weiteres Anwendungsbeispiel betrachtet werden, bei welchem das erste Netz
Mit dem vorgeschlagenen Verfahren ist es möglich, das reduzierte Netz
In einer weiteren Ausgestaltung werden mithilfe des reduzierten Netzes
Auf das obige Beispiel bezogen kann der Testeingangsdatensatz einer der Bilddatensätze sein und der erste Testausgangsdatensatz durch die Werte
Der Vergleich zwischen dem ersten Testausgangsdatensatz und dem zweiten Testausgangsdatensatz wird in diesem Fall indirekt anhand des Vergleiches zwischen dem Ergebnis der ersten und der zweiten Klassifikation durchgeführt. Gemäß einer anderen Variante kann jeweils das Ergebnis der ersten Klassifikation als erster Testausgangsdatensatz und das Ergebnis der zweiten Klassifikation als zweiter Testausgangsdatensatz betrachtet und der Vergleich direkt durchgeführt werden.In this case, the comparison between the first test output data record and the second test output data record is carried out indirectly on the basis of the comparison between the result of the first and the second classification. According to one In another variant, the result of the first classification as the first test output data record and the result of the second classification as the second test output data record can be viewed and the comparison can be carried out directly.
In Abhängigkeit eines Ergebnisses des Vergleiches fließt zumindest eine Information des ersten und/oder des zweiten Testausgangsdatensatzes in die weitere Datenverarbeitung mit ein.Depending on a result of the comparison, at least one piece of information from the first and / or the second test output data record flows into the further data processing.
Ist in einem ersten Fall das Ergebnis der ersten Klassifikation gleich dem Ergebnis der zweiten Klassifikation, d.h. dem Objekt wurde in beiden Fällen dieselbe Klasse zugeordnet, so kann das Ergebnis der ersten und/oder zweiten Klassifikation an eine weitere Komponente
Ist in einem zweiten Fall das Ergebnis der ersten Klassifikation gegenüber dem Ergebnis der zweiten Klassifikation unterschiedlich, d.h. dem Objekt wurde eine unterschiedliche Klasse zugeordnet, so sind mithilfe des Steuergerätes
Gemäß der ersten Alternative des zweiten Falls kann zumindest ein Unterschied zwischen zumindest einem ersten Wertepaar
Je nachdem wie das Ergebnis der ersten Klassifikation ausfällt, kann das kritische Wertepaar die Werte
Gemäß der zweiten Alternative des zweiten Falls kann ein Notfallprogramm ausgelöst werden, insbesondere, wenn das kritische Wertepaar einen Wert aufweist, der der niedrigste der Werte
ZITATE ENTHALTEN IN DER BESCHREIBUNG QUOTES INCLUDE IN THE DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of documents listed by the applicant has been generated automatically and is only included for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte PatentliteraturPatent literature cited
- DE 102018103113 [0002]DE 102018103113 [0002]
Claims (10)
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102019105848.1A DE102019105848A1 (en) | 2019-03-07 | 2019-03-07 | Method for generating a reduced neural network |
DE102019105848.1 | 2019-03-07 |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102020105783A1 true DE102020105783A1 (en) | 2020-04-23 |
Family
ID=65909990
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102019105848.1A Withdrawn DE102019105848A1 (en) | 2019-03-07 | 2019-03-07 | Method for generating a reduced neural network |
DE102020105783.0A Pending DE102020105783A1 (en) | 2019-03-07 | 2020-03-04 | Method of creating a reduced neural network |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102019105848.1A Withdrawn DE102019105848A1 (en) | 2019-03-07 | 2019-03-07 | Method for generating a reduced neural network |
Country Status (1)
Country | Link |
---|---|
DE (2) | DE102019105848A1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102022209457A1 (en) | 2022-09-09 | 2024-03-14 | Volkswagen Aktiengesellschaft | Method for controlling an artificial neural network when providing a vehicle function |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102019119739A1 (en) | 2019-07-22 | 2021-01-28 | Dr. Ing. H.C. F. Porsche Aktiengesellschaft | Method and system for generating security-critical output values of an entity |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102018103113A1 (en) | 2017-02-20 | 2018-08-23 | FEV Europe GmbH | Method for operating a hybrid system for a vehicle |
-
2019
- 2019-03-07 DE DE102019105848.1A patent/DE102019105848A1/en not_active Withdrawn
-
2020
- 2020-03-04 DE DE102020105783.0A patent/DE102020105783A1/en active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102018103113A1 (en) | 2017-02-20 | 2018-08-23 | FEV Europe GmbH | Method for operating a hybrid system for a vehicle |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102022209457A1 (en) | 2022-09-09 | 2024-03-14 | Volkswagen Aktiengesellschaft | Method for controlling an artificial neural network when providing a vehicle function |
Also Published As
Publication number | Publication date |
---|---|
DE102019105848A1 (en) | 2019-04-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE102006038151B4 (en) | Method and device for controlling personal protection devices | |
DE10296704T5 (en) | Fuzzy inference network for the classification of high-dimensional data | |
DE102018128289A1 (en) | METHOD AND DEVICE FOR AUTONOMOUS SYSTEM PERFORMANCE AND CLASSIFICATION | |
DE102005050577A1 (en) | Neuronal network testing method for person motor vehicle, involves outputting positive overall-test signal after each test signal-combination is created, where no partial-signal is stored for given set of test signal-combinations | |
DE69314293T2 (en) | Neural system and construction method | |
DE69223447T2 (en) | Learning method for neural network and classification system for applying this method | |
DE102017218851A1 (en) | Method, device and computer program for creating a deep neural network | |
DE102020105783A1 (en) | Method of creating a reduced neural network | |
DE102018222294A1 (en) | Process, computer program, machine-readable storage medium and device for data prediction | |
DE102020105785A1 (en) | Method for generating a reduced neural network for a control device of a vehicle using eigenvectors | |
DE102019205085A1 (en) | Self-monitoring of a function based on artificial intelligence | |
EP4200801A1 (en) | Computer-implemented method for analysing the interior of a vehicle | |
DE102018130004B3 (en) | INTELLIGENT DRIVING BASED ON A SUPPORT VECTOR MACHINE FOR PASSING CROSSROADS AND INTELLIGENT DRIVING SYSTEM THEREFOR | |
DE102017216061A1 (en) | Situation-based decision-making for vehicles | |
DE102020122979A1 (en) | Method for providing a compressed, robust neural network and assistance device | |
DE102017219365A1 (en) | Device and method for adaptive vehicle control | |
DE102019114049A1 (en) | Method for validating a driver assistance system using further generated test input data sets | |
WO2021089499A1 (en) | Method and system for checking an automated driving function by reinforcement learning | |
DE102020203135A1 (en) | Procedure for quality assurance of an example-based system | |
DE102019119087A1 (en) | COMPONENT-BASED PROCESSING OF INPUT SIZES | |
DE19734735C2 (en) | Classification procedure with a neural network | |
DE102019121945A1 (en) | A method of generating a computing model for a controller for controlling at least one vehicle component using artificial datasets | |
DE102013206285A1 (en) | Method and apparatus for creating a non-parametric, data-based function model | |
DE102015012843B4 (en) | Generating a load case evaluation list | |
DE102021203354B4 (en) | Method for determining a future accident severity of a motor vehicle with an object using an assistance system of the motor vehicle, computer program product and assistance system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R084 | Declaration of willingness to licence | ||
R230 | Request for early publication |