WO2020233850A1 - Rekursive kopplung von künstlich lernenden einheiten - Google Patents

Rekursive kopplung von künstlich lernenden einheiten Download PDF

Info

Publication number
WO2020233850A1
WO2020233850A1 PCT/EP2020/056271 EP2020056271W WO2020233850A1 WO 2020233850 A1 WO2020233850 A1 WO 2020233850A1 EP 2020056271 W EP2020056271 W EP 2020056271W WO 2020233850 A1 WO2020233850 A1 WO 2020233850A1
Authority
WO
WIPO (PCT)
Prior art keywords
artificially
learning unit
network
function
unit
Prior art date
Application number
PCT/EP2020/056271
Other languages
English (en)
French (fr)
Inventor
Heiko Zimmermann
Günter FUHR
Antonie FUHR
Original Assignee
Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V.
Universität des Saarlandes
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V., Universität des Saarlandes filed Critical Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V.
Priority to EP20709199.2A priority Critical patent/EP3973456A1/de
Priority to CN202080048132.5A priority patent/CN114556365A/zh
Priority to US17/612,746 priority patent/US20220245429A1/en
Publication of WO2020233850A1 publication Critical patent/WO2020233850A1/de

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Definitions

  • the present invention relates to a method for the recursive coupling of artificially learning units.
  • Kl Artificial intelligence
  • Al Artificial intelligence
  • Artificial intelligence is often referred to as "weak Kl” and is based essentially on the application of calculations and algorithms to simulate intelligent behavior in a fixed area. Examples of this are systems that are able to recognize certain patterns, such as safety systems in vehicles, or that can learn and implement certain rules, such as in
  • neural networks are used. In principle, these networks simulate the functioning of biological neurons on an abstract level. There are several artificial neurons or nodes that are connected to one another and can receive, process and transmit signals to other nodes. For example, functions, weightings and threshold values are then defined for each node, which determine whether and in what strength a signal is passed on to a node.
  • each neural network has at least one output layer.
  • the input values or features can also be viewed as a layer.
  • the connections between the nodes of the various layers are referred to as edges, and these are usually assigned a fixed processing direction. Depending on the network topology, it can be specified which node in one layer is linked to which node in the next layer. All nodes can be connected, but
  • a network input (network input) is formed from the several different input values that reach a node using a propagation function (also known as an input function).
  • This propagation function often includes a simple weighted sum, with an associated weighting being specified for each input value. In principle, other propagation functions are also possible.
  • the weightings Wi can be specified as a weight matrix for the network.
  • An activation function fakt which can be dependent on a threshold value, is applied to the network input of a node formed in this way. This function represents the relationship between the network input and the activity level of a neuron.
  • activation functions for example simple binary threshold value functions, the output of which is therefore below the threshold value zero and above the threshold value the identity; Sigmoid functions; or also piecewise linear functions with a given slope. These functions are specified when a neural network is designed. The result of the
  • Activation function f akt forms the activation state.
  • an additional output function f out or output function can also be specified, which is applied to the output of the activation function and defines the final output value of the node. Often, however, the result of the activation function is simply passed on directly as an output value, ie as
  • Output function is used the identity. Depending on the nomenclature used, the activation function and the output function can also be used as
  • Transfer function f trans can be summarized.
  • the output values of each node are then passed on to the next layer of the neural network as input values for the respective nodes of the layer, where the corresponding processing steps are repeated with the respective functions and weights of the node.
  • the corresponding processing steps are repeated with the respective functions and weights of the node.
  • edges pointing back to previous layers or back into the output layer, so that a recurrent network is present.
  • the weightings Wi with which the input values are weighted in each case, on the other hand, can be changed by the network and thus adapt the output values and the mode of operation of the entire network, which is regarded as the "learning" of a neural network.
  • error feedback backpropagation
  • the network ie a comparison of the output values with expected values and a use of the comparison to adapt the input values with the aim of minimizing errors.
  • Parameters of the network can be adapted accordingly, for example the step size (learning rate) or the weights of the input values at the node.
  • the input values can also be reassessed.
  • the networks can then be trained in a training mode.
  • the learning strategies used are also decisive for the possible uses of a neural network.
  • supervised learning an input pattern or a training data set is specified and the output of the network is compared with the expected value.
  • Unsupervised learning leaves the system to find the connections or rules, so that only the patterns to be learned are specified.
  • An intermediate variant is partially monitored learning, in which data records can also be used without predefined classifications.
  • Reinforced learning or Q-learning creates an agent that can receive rewards and punishments for actions and uses this to attempt to maximize the rewards received and thus adapt its behavior.
  • An essential application of neural networks includes the classification of input data or inputs into certain categories or classes, i.e. the recognition of relationships and assignments.
  • the classes can use Be trained on the basis of known data and be at least partially specified, or independently developed or learned by a network.
  • a universally applicable AI system which is not trained for just one special task, would lead to high-dimensional spaces and thus require exponentially increasing training and test data sets. Real-time reactions quickly become impossible. It is therefore generally tried to reduce the dimensionality and complexity of such systems. Different approaches are being pursued. For example, by linking data sets, reducing the degrees of freedom and / or by feeding known knowledge into a system, the complexity can be reduced. As another approach, correlated data or interdependent data sets can be at least partially separated, for example by methods such as
  • Further approaches include so-called “convolutional neural networks”, which are used in at least one layer of a multi-layered, fully connected network instead of simple matrix transformations Apply folds.
  • the so-called “deep dream” method is known, especially in the field of image recognition, in which the weights are left optimally in a trained network, but instead the input values (e.g. an input image) are modified as a feedback loop depending on the output value.
  • the name refers to the fact that dream-like images are created. In this way, internal processes of the neural network and their direction can be traced.
  • a method in a system of at least two artificially learning units which comprises the inputting of input values to at least one first artificially learning unit and a second artificially learning unit, whereupon first output values of the first artificially learning unit.
  • first output values of the first artificially learning unit On the basis of the output values of the first artificially learning unit, one or more modulation functions are formed which are then applied to one or more parameters of the second artificially learning unit.
  • the one or more parameters are parameters which the
  • output values of the second artificially learning unit are obtained. These can represent, for example, modulated output values from the second unit.
  • two artificially learning units are coupled to one another without using direct feedback of the input or output values. Instead, one of the units is used to influence the function of the second unit by modulating certain function-relevant parameters, so that a new type of coupling is created that leads to other results or
  • At least one of the artificially learning units can comprise a neural network with a multiplicity of nodes, in particular one of the learning units to which the modulation functions are applied.
  • the one or more parameters can be at least one of the following: a weighting for a node of the neural network, an activation function of a node, a
  • Output function of a node a propagation function of a node.
  • These are essential components of a neural network that define the processing of data in the network. Instead of setting new ones Weights or functions for the nodes can be specified by the
  • Modulation function an overlay of existing, self-learned and / or predefined functions of the modulated network can be achieved, which in
  • modulation functions can in particular also take place outside a training phase of the networks and thus an active one
  • each of the artificially learning units can be assigned a classification memory, each of the artificially learning units arranging the input values in one or more classes which are stored in the classification memory, the classes each being structured in one or more dependent levels are, and where a number of classes and / or levels in a first
  • Classification memory of the first artificially learning unit is less than a number of classes and / or levels in a second classification memory of the second artificially learning unit.
  • Evaluation of the input values take place with different objectives, e.g. a combination of a fast classification of the input values and a deeper, slower analysis of the input values.
  • the complexity of the first and second artificially learning units can also be designed differently, so that, for example, a first artificially learning unit has a significantly lower degree of complexity than a second artificially learning unit.
  • a first neural network can be essential have fewer nodes and / or layers and / or edges than a second neural network.
  • the application of the at least one modulation function can bring about a time-dependent superposition of parameters of the second artificially learning unit, the at least one
  • Modulation function can include one of the following features: a periodic function, a step function, a function with briefly increased amplitudes, a damped oscillation function, a beat function as a superposition of several periodic functions, a continuously increasing function
  • the second artificially learning unit can comprise a second neural network with a multiplicity of nodes, the application of the at least one modulation function causing a deactivation of at least some of the nodes.
  • This type of deactivation can also be called "dropout" on
  • the basis of the output values of the first artificially learning unit can be viewed and can also be used for newly developed search areas in the
  • the method can further comprise the definition of a currently dominant artificially learning unit in the system, as well as the formation of total output values of the system from the output values of the currently dominant unit.
  • the two or more networks in the system can be meaningfully coupled and synchronized.
  • the first artificially learning unit can be defined as the dominant unit at least until one or more
  • Output values from the second artificially learning unit are available. In this way, it can be ensured that the system can make decisions at all times, i.e. the system can react at any time (after a first run of the first learning unit), even before the input values are fully classified by all existing artificially learning units of the system.
  • Output values of the first artificial unit are made, with the first artificially learning unit being defined as the dominant unit if the comparison shows a deviation that is above a predetermined output threshold value.
  • the system can further comprise a timer in which one or more predetermined time periods are stored which are assigned to one or more of the artificially learning units, the timer being set up for the respective one of the artificially learning units Unit assigned predetermined time to measure.
  • Such an element forms a possibility of synchronizing the different units of a system, for example, and controlling when output values of a certain unit are expected or processed further.
  • a timer can be used to define an adjustable latency period for the overall system, within which a decision should be available as the overall output value of the system.
  • This time can be, for example, a few ms, for example 30 or 50 ms, and can depend, among other things, on the existing topology of the artificially learning units and the computing units present
  • the measurement of the assigned predetermined time period for one of the artificially learning units can be started as soon as this artificially learning unit is established as the dominant unit. In this way, it can be ensured that a unit works out a solution or, optionally, even the data processing within a specified time
  • the second artificially learning unit can be defined as the dominant unit if a first time period predefined for the first artificially learning unit has expired in the timer. This ensures that even before the input values are analyzed by further artificially learning units, a reaction on the basis of the first artificial unit is possible, while the data is then evaluated in more detail by the second unit.
  • the input values can include, for example, one or more of the following: measurement values acquired by one or more sensors, data acquired through a user interface, data retrieved from a memory, data received via a communication interface, data output by a computing unit. For example, it can be image data captured by a camera, audio data, position data, physical measurement values such as speeds, distance measurement values,
  • Resistance values and in general any value that is detected by a suitable sensor can be entered or selected by a user via a keyboard or a screen and optionally also linked to other data such as sensor data.
  • FIG. 1 shows a combination of two artificially learning units coupled to one another;
  • Figure 2 shows schematically various examples
  • FIG. 3 illustrates the use of a dropout method in two coupled neural networks according to one embodiment
  • FIG. 4 shows a system as in FIG. 1 with an additional timer
  • FIG. 5 shows schematically a system as in FIG. 1 with the associated classification memories
  • FIG. 6 shows an alternative system with three coupled artificially learning units.
  • FIG. 1 shows an exemplary embodiment with two linked artificially learning units 110, 120, which is described in more detail below.
  • the artificially learning units are exemplified in the following explanations as neural networks.
  • a first artificially learning unit is provided, here in the form of a first neural network 110, which can essentially serve to categorize the input signals Xi and, with the result of this categorization, to a second artificially learning unit 120, here a second neural network influence.
  • the results of the first neural network are preferably not used as input values for the second neural network, but to influence existing weightings, step sizes and functions of the network.
  • these parameters of the second neural network can be influenced so that they are not completely redefined, but rather the original parameters of the second network 120 on the basis of the
  • Output signals of the first neural network 110 are modulated or superimposed will.
  • the two neural networks otherwise prefer to work independently, for example train their basic values themselves, but can be coupled by an overlay.
  • the two neural networks can be designed essentially similar to one another, but for example with significantly different degrees of complexity, such as the number of layers and classifications present.
  • Each of the neural networks also has its own memory.
  • the first neural network 110 can be used as a categorizing network, which serves to roughly and quickly categorize the input values, while on this basis the
  • Categorization result by modulating parameters of the second network this is influenced accordingly.
  • a network with comparatively few levels can be provided as the first neural network, which has a memory with a few classes Ki, K2,... K n , which are preferably highly abstracted in order to achieve a rough classification.
  • this first neural network could be limited to 10, 50, 100 or 500 classes, these numbers of course only to be understood as rough examples.
  • the training of the first neural network can in particular take place individually and independently of further coupled neural networks. Additionally or alternatively, however, a training phase in a coupled state with one or more coupled neural networks can also be used.
  • the first neural network is thus intended to provide a usable output within a short time with which the second neural network can be sensibly influenced.
  • Weights and functions can be generated from the output values Output1 of the first neural network 110, which can be superimposed on the self-generated weights and functions of the second neural network 120. This means that the second neural network initially functions independently and the output values of the first network or the parameters obtained from them do not takes over completely.
  • the second neural network 120 can also initially be trained independently in the usual way and thus have self-generated weights.
  • the second neural network can be designed significantly more complex than the first neural network and in particular have more levels and / or storage classes.
  • the degree by which the complexity of the second network is increased compared to the first network can be defined differently depending on the application.
  • the input values or input data for the second neural network are preferably the same input values as for the first neural network, so that a more complex analysis can now be carried out with the same data.
  • output values from the first neural network can also be used, at least in part, as input values from the second network.
  • a second network could be provided, to which both the original input values, which also served as input values for the first network, are fed as input values, and also the output values of the first network as input values of the second Network can be used.
  • FIG. 2 shows, by way of example, various modulation functions f m0 d with which one or more parameters of the second neural network can be superimposed.
  • the superposition or modulation can take place in any way. If a modulation function f mod w is applied to the weightings Wi2 of the nodes, it can be provided, for example, that the weighting matrix of the second network 120 is used as an argument of the modulation function, or one-dimensional (also different)
  • Functions can be provided for each one of the weighting values Wi2. If a modulation function f m od_f_ is applied to one of the descriptive functions of the second neural network, that is to say to a transfer function ftrans2, an activation function f a kt2, a propagation function or a Output function f out 2 of the network 120, this can be done by combining the two functions, whereby a modulation function f mod can be applied either to only a part or to all relevant descriptive functions (e.g. to all activation functions f act 2 of the second neural network) 120). Modulations can be applied equally to all nodes of a network or alternatively only to some of the nodes, or they can be modulated differently for each node. Likewise can
  • they can be modulated separately for each layer of a network or staggered in some other way.
  • the modulation functions f mod can also be time-dependent
  • the weightings Wi2 or functions of the second neural network are changed as a function of time.
  • Static modulation functions for modulating the second neural network are also conceivable.
  • the modulation is applied to the parameters of the second network 120 that were originally defined for this second network (such as the propagation functions or the activation functions) or that were obtained independently in the training phase, such as the adapted self-generated weights.
  • Example a shows a simple binary
  • Step function in which the value zero is specified up to a specified time and then a value greater than zero.
  • the second value can in principle be 1, but could also have a different value, so that the original parameters are additionally loaded with a factor. In this way, for example, weighting is switched on and off as a function of time or amplified as a function of time.
  • Example b) shows the opposite situation, in which a step function is specified with a second value smaller than zero.
  • step functions that include two different values not equal to 0, so that the level is raised or lowered as a function of time.
  • Example c) shows a periodic modulation function which can also be applied to any parameter of the second network and in this way will periodically amplify or weaken certain elements as a function of time. For example, different amplitudes and / or periods could also be selected for such a function for different nodes and / or different layers. Any periodic function can be used at this point, for example a sine function or discontinuous functions. Depending on the type of chaining of the functions with the self-generated functions of the second network, only positive or negative function values can be selected.
  • Example d) shows a slow, continuous, temporary increase and decrease in the level.
  • Example e) describes short-term, approximately square-wave high levels with an otherwise low function value, which can optionally also be zero. Similarly, irregularly distributed and very short peaks or spikes can be seen in example f), which thus cause a level increase for a very short period of time.
  • the tips point here shows a periodic modulation function which can also be applied to any parameter of the second network and in this way will periodically
  • any combination of the listed example functions is possible.
  • the baseline shown in all examples can run at 0 or at another basic value, depending on the desired effect of the modulation function.
  • a basic value of 0 and corresponding increases in the function value can be used to ensure that the respective node only contributes to processing depending on the time and is switched off at other times.
  • a base value of 1 it can be achieved that e.g. with the example from FIG. 2a) a modulation function which is applied to the weightings, initially reproduces the self-generated weights of the modulated network as a basic value and then has correspondingly increased weights from the graduated higher value.
  • Such a function also has a corresponding effect on the modulation of the functions, such as the activation function.
  • a modulation function can be formed on the basis of the output values of a first artificially learning unit, that is to say in the present example on the basis of the first neural network.
  • Modulation function can be designed as desired.
  • this Relationship can be generated at least in part in a common training phase of the coupled network.
  • it can be specified how the dependency between the modulation functions and the output values of the first network is designed.
  • it could also be decided that for certain output values initially none
  • a coupled dropout method which is shown in FIG. 3, can also be used.
  • This is conventionally a training method for a neural network in which in each training cycle only some of the existing neurons in the hidden layers and the input layer are used and the rest are not used ("drop out"). To this end, will
  • a dropout rate is set on the basis of the returned errors of the network, which determines how large the proportion of the switched off neurons is in the entire network.
  • a dropout rate is set on the basis of the returned errors of the network, which determines how large the proportion of the switched off neurons is in the entire network.
  • some of the edges or connections between neurons could be switched off.
  • Modulation can be used as a function of the output values of a first neural network. For example, based on the
  • Output values Outputl of the first neural network 310, a dropout rate for the second neural network can be set, which is then applied to the second network.
  • the figure again shows two coupled networks 310, 320 as in FIG. 1, the neurons or nodes 326, 328 of the second network 320 now are indicated schematically as circles. The connecting edges are not shown, and the arrangement of the neurons shown should not necessarily relate to their actual topology. Some of the existing neurons are now deactivated via the dropout rate and therefore not used.
  • the active neurons 326 of the second network are shown hatched in the figure, while the unfilled neurons are intended to represent the dropout neurons 328.
  • the coupled dropout described here can also be understood as a modulation function fmod by using the modulation function for the weight or e.g. the output function of each individual node is either 0 or 1.
  • the modulation function for the weight or e.g. the output function of each individual node is either 0 or 1.
  • the dropout rate can in turn be determined on the basis of the output values Output1 of the first network 310.
  • a dropout modulation function can optionally also cause a time-dependent shutdown, which e.g. a concatenation of a
  • Dropout function with a modulation function as shown in Figure 2 would correspond.
  • a sequence of pattern shutdowns can also be used which have proven themselves in previous training, so that, for example, cyclic pattern variations are used for shutdown in the second neural network 320.
  • the dropout can ensure that the operating speed of a neural network is increased. In addition, it is avoided that neighboring neurons behave too closely.
  • the coupled dropout as described above can be used both in a common training phase, in which the two networks are coupled, and can also be used in an already trained network. In order to ensure that the coupled neural networks complement each other sensibly, it can be determined which of the neural networks dominates the overall system at any point in time.
  • the network whose output values determine the output of the overall system can be referred to as the dominating network or dominance. In the following, it is assumed that only one network in a group of two or more coupled networks dominates and that the output of the dominant network is therefore the same as the output of the overall system.
  • Timing element can be implemented which defines a time specification for one or more of the coupled neural networks. This time specification should preferably be understood as a maximum value or upper time limit, according to which an output value of the respective network must be available, so that an output can also be available earlier. An output value of this network is then evaluated at the latest after the time specified for a specific network has expired.
  • the timer can control and / or change the dominance between the coupled networks on the basis of specified time specifications.
  • the design and coupling of the two neural networks 410, 420 can correspond to the example already described in FIG.
  • the timer 440 now ensures that the output of the first neural network 410 is evaluated at the latest after a predetermined time, which is defined by a predetermined time parameter value.
  • the time required can be measured, for example, from when the input values Xi are fed into the respective network.
  • the choice of predefined time parameters for a network can be implemented depending on the complexity of a network, so that actually usable results can be expected in the predefined time.
  • the first neural network 410 is preferably connected by a network a few hidden layers and a small number of classifications is formed
  • a correspondingly short time can be selected for this first network.
  • the time parameters for a network further considerations can also be taken into account, for example the existing hardware, which has a decisive influence on the computing time of the networks, and / or the area of application considered by the coupled networks.
  • the predefined time parameters can be variable and, for example, can be modified or redefined as a function of the results of at least one of the coupled neural networks. It goes without saying that such a time specification should at least include the period of time that is required as the minimum time for going through the respective network 410, 420 once. In FIG.
  • a time period of 30 ms is defined for the first network as an example, so that when the method is run, this network dominates in the time from 0 ms to 30 ms from the start of the method.
  • this time period can also be selected for this time period.
  • the first neural network will process the input values Xi in the usual way.
  • functions can be generated from the output of the first neural network 410, which serve to superimpose or modulate the own weights and functions of the second neural network.
  • the output values of the first neural network can also be processed independently as an alternative or in addition to being used for influencing the second network 420 and used, for example, as a fast output of the overall system.
  • the timer 440 can start a new time measurement and, in doing so, now specify a second for the second neural network 420
  • the second neural network 420 can optionally also before the
  • Input values can also be given to the second neural network 420 before the start of the second predetermined time period and can be processed there accordingly. After the first time period has elapsed, the parameter values and functions of the second neural network are then superimposed by using the corresponding modulation functions fmodj, fmod_w.
  • One or more modulation functions can be formed for different parts of the second neural network 420, for example for the weightings, output functions,
  • the second neural network has a comparatively higher computational effort and thus also more Need time, so that in this case the second time span can be selected correspondingly longer.
  • Each of the networks 410, 420 can optionally continue the
  • the first network can continuously evaluate the input values, even while the second network is dominant and the output values of the overall system therefore correspond to the output values of the second network after expiry of the second time period and after a solution found by the second network.
  • a quickly categorizing network such as the first network 410 described here, which continuously evaluates the input values present, can also undertake short-term interventions as long as the output values found are included in the overall output. Such embodiments are described in more detail below.
  • a situation in an autonomous driving system can be considered which is to be evaluated by such a system with at least two coupled networks.
  • the first unit or the first neural network makes it possible to achieve an early categorization of "danger" which does not yet contain any further assessment of the type of danger, but already leads to an immediate reaction such as slowing down the
  • the second neural network performs a more in-depth analysis of the situation based on the categorization, namely under the influence of the modulation by the output values of the first network, which can then lead to further reactions or changes in the overall system based on the output values of the second network.
  • a time limit for each of the coupled networks, but only for one of the networks (or, if more than two networks are coupled, also for only a subset of the coupled networks).
  • a timer could be set for the first, fast
  • categorizing neural network are used while the second network is not given a fixed time, or vice versa. Such an embodiment can also be combined with further methods for determining the currently dominant network, which are described in more detail below.
  • the output values of the neural network that currently has an active timer are used as the output of the overall system. Due to the time that a network needs to reach a first solution for given input values, there is a certain latency within which the previous output values (of the first or second network) are still available as total output values.
  • time specifications are only set for some of the coupled networks, e.g. a timer only works for a first network, it can be defined, for example, that the output of the overall system generally always corresponds to the output of the second network and is only replaced by the output of the first network if a timer is active for the first network, ie a specified period of time is actively running and has not yet expired.
  • Synchronization of the networks with one another is made possible, in particular if several networks with different tasks are to come to a result at the same time, which in turn should have an influence on one or more other networks.
  • synchronization can also be achieved among several separate overall systems, each of which comprises several coupled networks.
  • the systems can, for example, be synchronized by a time comparison and then run independently but synchronously according to the respective timer specifications.
  • each of the neural networks can itself make decisions on handing over dominance in a cooperative manner. This can mean, for example, that a first neural network of an overall system processes the input values and arrives at a specific first solution or specific output values.
  • the output values of the overall network are each the
  • Dominance behavior of the coupled networks overwrites. For example, for suddenly changed input values, it can be determined that the dominance is in any case initially transferred back to that of the first neural network. In this way, an optionally available timer for this first neural network is restarted and the sequence is carried out as already described above. A significant change in the input values could occur, for example, when sensor values detect a new environment or when a previously assessed process has been completed and a new process is now to be initiated.
  • threshold values can be specified in the form of a significance threshold, on the basis of which it can be determined whether a change in the input values should be regarded as essential and should lead to a change in dominance. It can also be used for different input values or for each Input value individual significance thresholds can be specified, or a general value, for example in the form of a percentage deviation, can be provided as the basis for evaluating a change in the input values.
  • significance thresholds instead of fixed significance thresholds, there could be thresholds that can be changed over time or adaptively and depending on the situation, or they can be functions, matrices or patterns on the basis of which the significance of the change can be assessed.
  • the change in the dominance among the coupled networks can be made dependent on the output values found for each network.
  • the first neural network can evaluate the input values and / or their changes, for example.
  • significance thresholds can each be specified for the classes that are available for classification for the first neural network, so that for one
  • the output values of the overall system can continue to be used in any way, for example as direct or indirect control signals for actuators, as data that are saved for future use, or as a signal that is passed on to output units initially further processed by additional functions and evaluations and / or combined with further data and values.
  • FIG. 5 again shows the simple exemplary embodiment as in FIG.
  • classification memory 512, 522 now being shown schematically for each of the networks.
  • the type of classification Ki used is initially of secondary importance and is described in more detail below.
  • the dimensions and structure of the two classification memories of the first 512 and second network 522 can differ significantly, so that two neural networks are formed with different speeds and focal points. So can
  • a first neural network 510 is formed with relatively few classifications Ki , K2,..., K n , which, for example, can only follow a flat hierarchy, so that categorization is only carried out in one dimension.
  • Such a first network 510 can preferably also have a comparatively simple topology, that is to say with a not too large number n of neurons and hidden layers. In principle, however, the network topology can also be essentially independent of the classifications.
  • the second neural network 520 can then have a significantly larger and / or more complex classification system. For example, this
  • Memory 522 or the underlying classification can also be structured hierarchically in several levels 524, as shown in FIG.
  • the total number m of classes K1, K2,..., K m of the second network 520 can be very large, in particular significantly greater than the number n of classes that are used by the first neural network 510.
  • the number m, n of the classes could differ by one or more orders of magnitude. This achieves an asymmetrical distribution of the individual networks in the overall system.
  • the fast classification by the first neural network 510 can then serve to classify the input values quickly.
  • Abstract, summarizing classes can preferably be used for this purpose.
  • the classification of a recorded situation (e.g. on the basis of sensor data such as image and audio data) can then, in one example, initially be carried out by the first neural network 510 as a "large, possibly dangerous animal” without carrying out further evaluations. This means that e.g. there is no further classification according to animal species (wolf, dog) or as a dangerous predator in the first network, but only classified according to the broadest possible, general characteristics such as size, detection of teeth, attack postures and other properties.
  • These data which essentially correspond to the "Danger” output, can then optionally be sent on for a preliminary and rapid response
  • the output Output 1 of the first neural network 510 is used to generate the described modulation functions for the second neural network 520.
  • the same input values Xi e.g. the sensor values mentioned are also given to the second neural network 520.
  • the input values can be entered immediately, i.e. essentially at the same time as on the first network, or with a delay, and depending on the embodiment, they can be entered before or only when the modulation functions are used, i.e. when the result of the first network is available. They should be preferred especially for time-critical
  • the second neural network then also calculates a solution, using the self-generated weights and its basic functions (such as the defined activation functions) that were originally generated by this second network and output functions) can each be superimposed on the basis of the modulation functions that were formed from the output values of the first network.
  • a large number of possible variants can be omitted in the iterative work of the second network, for which there would be no time in a critical situation (for example a dangerous situation) that was quickly recognized by the first network.
  • a critical situation for example a dangerous situation
  • possible reactions based on the first neural network can already be carried out, as described. This corresponds to a first instinctive reaction in biological systems.
  • the hierarchical and, compared to the first network, significantly larger memory of the second network then allows a precise analysis of the input values, in the example mentioned a detailed classification in the class "dog", the respective breed,
  • the classes K n of the rapidly classifying first network 510 primarily abstract classifications such as
  • This first classification does not necessarily have to correspond to the final result that is ultimately found by the second unit 520.
  • the two-stage classification through at least one fast and one deep analyzing unit allows emotive or instinctive reactions of an artificially learning overall system. If, for example, an object is identified by image recognition that could possibly be a snake, the “worst case” can preferably be the result of the first classification, regardless of whether this classification is probably correct or not. What is present in the case of human intelligence as evolutionary knowledge and instinctive reaction can be achieved through a quick initial classification with preprogrammed knowledge can be replaced so that corresponding standard reactions (keep your distance, initiate movement, activate increased attention) can be carried out by the overall system and its actuators.
  • the additional modulation of the second learning unit on the basis of this first classification can then be understood in a similar way to an emotional overlay, ie, for example, according to a fear reaction that automatically initiates a different conscious situation analysis than a situation that is understood as harmless.
  • the superposition of the parameters of the second neural network, which is carried out by the modulation functions, can bring about the necessary shift to other classification spaces that are otherwise not or not immediately reached by default.
  • FIG. 6 shows an example in which three neural networks 610, 620, 630 (and / or other artificially learning units) can be provided, the
  • Output values of the first network 610 result in modulation functions for the weights and / or functions of the second network 620, and output values of the second network in turn result in modulation functions for the weights and / or functions of the third network 630.
  • chains of any length could be formed from artificially learning units which, when coupled, influence each other through superposition.
  • all coupled networks can receive the same input values and the processing can only be coupled by modulating the respective networks.
  • embodiments are also conceivable in which, for example, following two neural networks, as in FIG. 1, a third neural network is provided which receives the output values of the first and / or second network as input values.
  • this third neural network could also be modulated by modulation functions that are formed, for example, from the output values of the first network. This can be the same or different modulation functions than the modulation functions formed for the second network.
  • the output values of the third network could be used to form additional modulation functions which are then applied recursively to the first and / or second network.
  • Embodiments although described by way of example with reference to neural networks, can in principle also be transferred to other forms of machine learning.
  • all variants come into consideration in which at least one second artificially learning unit is influenced by a first artificially learning unit through superimposition or modulation Based on output values is possible.
  • Modulation functions from the above examples can be replaced by appropriate modulation of any suitable parameter that controls or describes the functioning of such a learning unit.
  • learning unit can be replaced by the special case of a neural network, and vice versa can also use the described neural networks of the exemplary embodiments
  • Examples include neural networks, among others, evolutionaries
  • Neural networks and other artificially learning units can also be combined with one another. It is particularly possible, e.g. to replace the first neural network from the preceding examples, which was represented as a quickly categorizing unit, by any other artificially learning unit. A method can be specifically selected that is particularly well suited for a quick, rough classification of features. The output values of such a first learning unit can then, however, just as it was described for two neural networks, to form
  • Modulation functions are used for a second artificially learning unit, which in particular can again be a neural network.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)

Abstract

Die Erfindung betrifft ein Verfahren in einem System aus mindestens zwei künstlich lernenden Einheiten, umfassend das Eingeben von Eingabewerten an mindestens eine erste künstlich lernende Einheit und eine zweite künstlich lernende Einheit; das Erhalten von ersten Ausgabewerten der ersten künstlich lernenden Einheit; das Bilden einer oder mehrerer Modulationsfunktionen auf Grundlage der Ausgabewerte der ersten künstlich lernenden Einheit; das Anwenden der gebildeten einen oder mehreren Modulationsfunktionen auf einen oder mehrere Parameter der zweiten künstlich lernenden Einheit, wobei die ein oder mehreren Parameter die Verarbeitung von Eingabewerten und das Gewinnen von Ausgabewerten in der zweiten künstlich lernenden Einheit beeinflussen; und schließlich das Erhalten von zweiten Ausgabewerten der zweiten künstlich lernenden Einheit.

Description

Rekursive Kopplung von künstlich lernenden Einheiten
Beschreibung
Die vorliegende Erfindung betrifft ein Verfahren zur rekursiven Kopplung von künstlich lernenden Einheiten.
Stand der Technik
Künstliche Intelligenz spielt mittlerweile in unzähligen Anwendungsbereichen eine zunehmende Rolle. Darunter wird zunächst jede Automatisierung intelligenten Verhaltens und maschinelles Lernen verstanden. Jedoch sind derartige Systeme üblicherweise für Spezialaufgaben vorgesehen und trainiert. Diese Form
künstlicher Intelligenz (Kl, oder auch Al, artificial intelligence) wird häufig als "schwache Kl" bezeichnet und beruht im wesentlichen auf der Anwendung von Berechnungen und Algorithmen zur Simulation intelligenten Verhaltens in einem fest bestimmten Bereich. Beispiele dafür sind Systeme, die in der Lage sind, bestimmte Muster zu erkennen, wie etwa Sicherheitssysteme in Fahrzeugen, oder die bestimmte Regeln erlernen und umsetzen können, wie etwa beim
Schachspielen. Gleichzeitig sind diese Systeme in anderen Bereichen im
Wesentlichen nutzlos und müssen für andere Anwendungen vollständig neu trainiert oder gar mit völlig anderen Ansätzen ausgebildet werden. Zur praktischen Umsetzung derartiger künstlicher lernender Einheiten werden unter anderem neuronale Netze eingesetzt. Diese Netze bilden in ihrem Grundsatz die Funktionsweise biologischer Neuronen auf abstrakter Ebene nach. Dabei sind mehrere künstliche Neuronen oder Knoten vorhanden, die miteinander verbunden sind und Signale empfangen, verarbeiten und an andere Knoten übertragen können. Für jeden Knoten sind dann beispielsweise Funktionen, Gewichtungen und Schwellwerte festgelegt, die bestimmen, ob und in welcher Stärke ein Signal an einen Knoten weitergegeben wird.
Gewöhnlich werden die Knoten in Ebenen bzw. Schichten betrachtet, so dass jedes neuronale Netz zumindest eine Ausgabeschicht aufweist. Davor können weitere Schichten als sogenannte verborgene Schichten vorliegen, so dass ein
mehrschichtiges Netz gebildet wird. Auch die Eingabewerte bzw. Features können als Schicht betrachtet werden. Die Verbindungen zwischen den Knoten der verschiedenen Schichten werden als Kanten bezeichnet, wobei diese üblicherweise mit einer festen Verarbeitungsrichtung belegt sind. Je nach Netztopologie kann festgelegt sein, welcher Knoten einer Schicht mit welchem Knoten der folgenden Schicht verknüpft ist. Dabei können alle Knoten verbunden sein, aber
beispielsweise durch eine erlernte Gewichtung mit dem Wert 0 ein Signal nicht über einen bestimmten Knoten weiter verarbeitet werden.
Die Verarbeitung von Signalen im neuronalen Netz kann durch verschiedene Funktionen beschrieben werden. Im Folgenden wird dieses Prinzip an einem einzelnen Neuron bzw. Knoten eines neuronalen Netzes beschrieben. Aus den mehreren verschiedenen Eingabewerten, die einen Knoten erreichen, wird durch eine Propagierungsfunktion (auch Eingabefunktion) eine Netzeingabe (Netzinput) gebildet. Häufig umfasst diese Propagierungsfunktion eine einfache gewichtete Summe, wobei für jeden Eingabewert eine zugehörige Gewichtung vorgegeben ist. Grundsätzlich sind aber auch andere Propagierungsfunktionen möglich. Dabei können die Gewichtungen Wi als Gewichtsmatrix für das Netz vorgegeben sein. Auf die so gebildete Netzeingabe eines Knotens wird eine Aktivierungsfunktion fakt angewendet, die abhängig von einem Schwellwert sein kann. Diese Funktion stellt den Zusammenhang zwischen dem Netzinput und dem Aktivitätslevel eines Neurons dar. Es sind verschiedene Aktivierungsfunktionen bekannt, beispielsweise einfache binäre Schwellwertfunktionen, deren Ausgabe damit unterhalb des Schwellwerts Null ist und oberhalb des Schwellwerts die Identität; Sigmoidfunktionen; oder auch stückweise lineare Funktionen mit einer vorgegebenen Steigung. Diese Funktionen werden beim Design eines neuronalen Netzes festgelegt. Das Ergebnis der
Aktivierungsfunktion fakt bildet den Aktivierungszustand. Optional kann auch noch eine zusätzliche Outputfunktion fout oder Ausgabefunktion vorgegeben sein, die auf die Ausgabe der Aktivierungsfunktion angewendet wird und den endgültigen Ausgabewert des Knotens festlegt. Häufig wird hier aber einfach das Ergebnis der Aktivierungsfunktion direkt als Ausgabewert weitergegeben, d.h. als
Ausgabefunktion wird die Identität verwendet. Je nach verwendeter Nomenklatur können die Aktivierungsfunktion und die Ausgabefunktion auch als
Transferfunktion ftrans zusammengefasst werden.
Die Ausgabewerte jedes Knotens werden dann an die nächste Schicht des neuronalen Netzes als Eingabewerte für die jeweiligen Knoten der Schicht weitergegeben, wo die entsprechenden Schritte zur Verarbeitung mit den jeweiligen Funktionen und Gewichten des Knotens wiederholt werden. Je nach Topologie des Netzes können auch rückgerichtete Kanten zu vorherigen Schichten oder zurück in die ausgebende Schicht vorliegen, so dass ein rekurrentes Netz vorliegt.
Die Gewichtungen Wi, mit denen die Eingabewerte jeweils gewichtet werden, können dagegen vom Netz verändert werden und so die Ausgabewerte und Funktionsweise des gesamten Netzes anpassen, was als das "Lernen" eines neuronalen Netzes betrachtet wird. Dazu wird üblicherweise eine Fehlerrückführung (Backpropagation) im Netz genutzt, d.h. ein Vergleich der Ausgabewerte mit Erwartungswerten und eine Nutzung des Vergleichs zur Anpassung der Eingabewerte mit dem Ziel der Fehlerminimierung. Durch Fehlerrückführung können dann verschiedene
Parameter des Netzes entsprechend angepasst werden, beispielsweise die Schrittweite (Lernrate) oder die Gewichte der Eingabewerte an den Knoten.
Ebenso können auch die Eingabewerte neu bewertet werden.
Die Netze können dann in einem Trainingsmodus trainiert werden. Entscheidend für die Einsatzmöglichkeiten eines neuronalen Netzes sind auch die verwendeten Lernstrategien. Dabei werden insbesondere die folgenden Varianten
unterschieden:
Beim Überwachten Lernen (supervised learning) wird ein Eingangsmuster bzw. ein Trainingsdatensatz vorgegeben und die Ausgabe des Netzes mit dem erwarteten Wert verglichen.
Das Unüberwachte Lernen (unsupervised learning) überlässt das Finden der Zusammenhänge oder Regeln dem System, so dass also nur die zu lernenden Muster selbst vorgegeben werden. Eine Zwischenvariante ist das Teilüberwachte Lernen, bei dem auch Datensätze ohne vorgegebene Einordnungen verwendet werden können.
Beim Verstärkenden Lernen (reinforced learning) oder Q-Lernen wird ein Agent erzeugt, der Belohnungen und Bestrafungen für Aktionen erhalten kann, und der anhand dessen versucht, erhaltene Belohnungen zu maximieren und so sein Verhalten anzupassen.
Eine wesentliche Anwendung von neuronalen Netzen umfasst die Klassifikation von Eingabedaten bzw. Inputs in bestimmte Kategorien oder Klassen, also das Erkennen von Zusammenhängen und Zuordnungen. Dabei können die Klassen auf Basis bekannter Daten trainiert werden und zumindest teilweise vorgegeben sein, oder von einem Netz selbständig erarbeitet bzw. erlernt werden.
Die grundsätzliche Funktionsweise und weitere spezifische Details solcher neuronaler Netze sind im Fach bekannt, beispielsweise aus R. Schwaiger,
J. Steinwender: Neuronale Netze programmieren mit Python, Rheinwerk
Computing, Bonn 2019.
Ein universell einsetzbares Al-System, das also nicht auf nur eine Spezialaufgabe trainiert ist, würde zu hochdimensionalen Räumen führen und damit exponentiell ansteigende Trainings- und Test-Datensätze benötigen. Echtzeitreaktionen werden damit schnell unmöglich. Es wird daher generell versucht, die Dimensionalität und Komplexität solcher Systeme zu reduzieren. Dabei werden unterschiedliche Lösungsansätze verfolgt. Beispielsweise kann durch Verknüpfen von Datensätzen, Reduzierung der Freiheitsgrade und/oder durch die Einspeisung von bekanntem Wissen in ein System die Komplexität verringert werden. Als anderer Ansatz können korrelierte Daten bzw. voneinander abhängige Datensätze zumindest teilweise getrennt werden, beispielsweise durch Methoden wie die
Hauptkomponentenanalyse (Principal Component Analysis). Durch Anwendung von Filtermethoden auf die Merkmale können Daten eliminiert werden, die beim Training eines Netzes nicht oder negativ auffallen, z.B. durch Anwendung von statistischen Tests wie dem Chi-Quadrat-Test oder anderen. Schließlich kann auch die Auswahl der Trainingsdaten selbst als Optimierungsproblem in einem Al-Netz erfolgen. Dabei werden die Trainingsdaten so kombiniert, dass sie möglichst schnell und gut ein neues Netzwerk trainieren können.
Weiterführende Ansätze umfassen unter anderem sogenannte "Convolutional Neural Networks", die in mindestens einer Schicht eines mehrschichtigen vollständig verbundenen Netzes anstelle einfacher Matrixtransformationen Faltungen anwenden. Dafür ist beispielsweise die sogenannte "Deep-Dream"- Methode insbesondere im Bereich der Bilderkennung bekannt, bei der in einem trainierten Netz die Gewichte optimal belassen werden, aber stattdessen die Eingangswerte (z.B. ein Eingangsbild) als Rückkopplungsschleife abhängig von Ausgabewert modifiziert werden. Damit wird beispielsweise das eingeblendet, was das System zu identifizieren glaubt. Der Name bezieht sich darauf, dass dabei traumartige Bilder entstehen. Auf diese Weise können interne Prozesse des neuronalen Netzes und ihre Richtung nachverfolgt werden.
Dabei ist ersichtlich, dass diese Methoden immer noch große Unterschiede zur menschlichen Intelligenz aufweisen. Zwar können die Datenbanken, Textdateien, Bilder und Audiodateien grundsätzlich damit verglichen werden, wie auch im Gehirn Fakten, Sprache, Sprachlogik, Geräusche, Bilder und Ereignisabläufe abgespeichert und verarbeitet werden; jedoch unterscheidet sich die menschliche Intelligenz beispielsweise wesentlich dadurch, dass sie all diese Daten im
Zusammenhang mit Gefühlen und unbewussten "weichen" Kategorisierungen verknüpft.
Offenbarung der Erfindung
Erfindungsgemäß wird ein Verfahren zur rekursiven Kopplung von mindestens zwei künstlich lernenden Einheiten mit den Merkmalen der unabhängigen
Patentansprüche vorgeschlagen. Vorteilhafte Ausgestaltungen sind Gegenstand der Unteransprüche sowie der nachfolgenden Beschreibung.
Insbesondere wird gemäß einer Ausführungsform ein Verfahren in einem System aus mindestens zwei künstlich lernenden Einheiten vorgeschlagen, welche das Eingeben von Eingabewerten an mindestens eine erste künstlich lernende Einheit und eine zweite künstlich lernende Einheit umfasst, worauf ersten Ausgabewerte der ersten künstlich lernenden Einheit erhalten werden. Auf Grundlage der Ausgabewerte der ersten künstlich lernenden Einheit werden eine oder mehrere Modulationsfunktionen gebildet, welche dann auf einen oder mehrere Parameter der zweiten künstlich lernenden Einheit angewendet werden. Dabei handelt es sich bei dem einen oder mehreren Parameter um Parameter, welche die
Verarbeitung von Eingabewerten und das Gewinnen von Ausgabewerten in der zweiten künstlich lernenden Einheit auf irgendeine Weise beeinflussen. Außerdem werden Ausgabewerte der zweiten künstlich lernenden Einheit erhalten. Diese können beispielsweise modulierte Ausgabewerte der zweiten Einheit darstellen. Auf diese Weise werden zwei künstlich lernende Einheiten miteinander gekoppelt, ohne eine direkte Rückkopplung der Eingabe- oder Ausgabewerte zu verwenden. Stattdessen wird eine der Einheiten genutzt, um die Funktion der zweiten Einheit durch Modulation bestimmter funktionsrelevanter Parameter zu beeinflussen, so dass eine neuartige Kopplung entsteht, die zu anderen Ergebnissen bzw.
Ausgabewerten führt als in herkömmlichen lernenden Einheiten. Darüber hinaus kann durch die Bearbeitung von Eingabewerten in zwei gekoppelten Einheiten ein Ergebnis in kürzerer Zeit bzw. mit einer tiefergehenden Analyse als in
herkömmlichen Systemen erreicht werden, so dass die Effizienz insgesamt gesteigert werden kann. Insbesondere erfolgt eine rasche Klassifizierung des anstehenden Problems und Berücksichtigung schneller Veränderungen.
In einer beispielhaften Ausführungsform kann mindestens eine der künstlich lernenden Einheiten ein neuronales Netz mit einer Vielzahl von Knoten umfassen, insbesondere eine der lernenden Einheiten, auf die die Modulationsfunktionen angewendet werden. In diesem Fall können die ein oder mehreren Parameter mindestens eines der folgenden sein: eine Gewichtung für einen Knoten des neuronalen Netzes, eine Aktivierungsfunktion eines Knotens, eine
Ausgabefunktion eines Knotens, eine Propagierungsfunktion eines Knotens. Dabei handelt es sich um wesentliche Bestandteile eines neuronalen Netzes, die die Verarbeitung von Daten in dem Netz festlegen. Anstelle einer Festlegung neuer Gewichtungen oder Funktionen für die Knoten kann durch die
Modulationsfunktion eine Überlagerung vorhandener, selbstgelernter und/oder vordefinierter Funktionen des modulierten Netzes erreicht werden, die in
Abhängigkeit von den Ergebnissen der ersten künstlich lernenden Einheit ist.
Dabei kann diese Anwendung von Modulationsfunktionen insbesondere auch außerhalb einer Trainingsphase der Netze erfolgen und damit eine aktive
Kopplung von zwei oder mehr Netzen bei der Verarbeitung von Eingabewerten erreichen.
Gemäß einer beispielhaften Ausführungsform kann jeder der künstlich lernenden Einheiten ein Klassifikationsspeicher zugeordnet sein, wobei jede der künstlich lernenden Einheiten eine Einordnung der Eingabewerte in ein oder mehrere Klassen vornimmt, welche in dem Klassifikationsspeicher gespeichert sind, wobei die Klassen jeweils in einer oder mehreren abhängigen Ebenen strukturiert sind, und wobei eine Anzahl der Klassen und/oder der Ebenen in einem ersten
Klassifikationsspeicher der ersten künstlich lernenden Einheit geringer ist als eine Anzahl der Klassen und/oder der Ebenen in einem zweiten Klassifikationsspeicher der zweiten künstlich lernenden Einheit. Indem die Klassifikationsspeicher von zwei gekoppelten künstlich lernenden Einheiten auf diese Weise asymmetrisch gestaltet werden, kann eine parallele oder auch zeitabhängig wechselnde
Bewertung der Eingabewerte mit unterschiedlicher Zielsetzung stattfinden, z.B. eine Kombination aus einer schnellen Klassifizierung der Eingabewerte und einer tiefgehenden, langsameren Analyse der Eingabewerte.
Alternativ oder zusätzlich zu der asymmetrischen Ausführung der
Klassifikationsspeicher kann auch die Komplexität der ersten und zweiten künstlich lernenden Einheiten unterschiedlich gestaltet werden, so dass beispielsweise eine erste künstlich lernende Einheit einen deutlich geringeren Komplexitätsgrad aufweist als eine zweite künstlich lernende Einheit. Dabei kann für den Fall neuronaler Netze beispielsweise ein erstes neuronales Netz wesentlich weniger Knoten und/oder Schichten und/oder Kanten aufweisen als ein zweites neuronales Netz. ln einer möglichen Ausführungsform kann das Anwenden der mindestens einen Modulationsfunktion eine zeitabhängige Überlagerung von Parametern der zweiten künstlich lernenden Einheit bewirken, wobei die mindestens eine
Modulationsfunktion eines der folgenden Merkmale umfassen kann: eine periodische Funktion, eine Stufenfunktion, eine Funktion mit kurzzeitig erhöhten Amplituden, eine gedämpfte Schwingungsfunktion, eine Schwebungsfunktion als Überlagerung mehrerer periodischer Funktionen, eine stetig zunehmende
Funktion, eine stetig abnehmende Funktion. Ebenso sind Kombinationen oder zeitliche Abfolgen solcher Funktionen denkbar. Auf diese Weise können relevante Parameter einer lernenden Einheit zeitabhängig überlagert werden, so dass beispielsweise die Ausgabewerte aufgrund der Modulation in Suchräume
"springen", die ohne die Überlagerung nicht erreicht würden.
Optional kann die zweite künstlich lernende Einheit ein zweites neuronales Netz mit einer Vielzahl von Knoten umfassen, wobei das Anwenden der mindestens einen Modulationsfunktion eine Deaktivierung von mindestens einem Teil der Knoten bewirkt. Diese Art der Deaktivierung kann auch als "Dropout" auf
Grundlage der Ausgabewerte der ersten künstlich lernenden Einheit betrachtet werden und kann ebenfalls für neu erschlossene Suchbereiche in den
Klassifikationen sowie für einen verringerten Rechenaufwand und damit eine beschleunigte Durchführung des Verfahrens sorgen. ln beispielhaften Ausführungsformen kann das Verfahren weiter das Festlegen einer aktuell dominierenden künstlich lernenden Einheit in dem System umfassen, sowie das Bilden von Gesamtausgabewerten des Systems aus den Ausgabewerten der aktuell dominierenden Einheit. Auf diese Weise können die zwei oder mehr Netze in dem System sinnvoll gekoppelt und synchronisiert werden. Dabei kann beispielsweise die erste künstlich lernende Einheit mindestens so lange als dominierende Einheit festgelegt werden, bis ein oder mehrere
Ausgabewerte der zweiten künstlich lernenden Einheit vorhegen. Auf diese Weise kann sichergestellt werden, dass das System zu jeder Zeit entscheidungssicher ist, also zu jeder Zeit (nach einem ersten Durchlauf der ersten lernenden Einheit) eine Reaktion des Systems möglich ist, auch bevor eine vollständige Einordnung der Eingabewerte durch alle vorhandenen künstlich lernenden Einheiten des Systems vorgenommen wurde.
Es ist dabei auch möglich, weiter einen Vergleich der derzeitigen Eingabewerte mit vorherigen Eingabewerten durch mindestens eine der künstlichen lernenden Einheiten des Systems anzuwenden, wobei, falls der Vergleich eine Abweichung ergibt, die über einem vorgegebenen Eingabe-Schwellwert hegt, die erste künstlich lernende Einheit als dominierende Einheit festgelegt wird. Auf diese Weise kann dafür gesorgt werden, dass auf wesentlich veränderte Eingabewerte (z.B. Erfassen einer neuen Situation durch Sensoren) sofort mit einer neuen Bewertung der Eingabewerte reagiert wird.
Zusätzlich oder alternativ kann weiter ein Vergleich von derzeitigen
Ausgabewerten der ersten künstlich lernenden Einheit mit vorherigen
Ausgabewerten der ersten künstlichen Einheit vorgenommen werden, wobei, falls der Vergleich eine Abweichung ergibt, die über einem vorgegebenen Ausgabe- Schwellwert hegt, die erste künstlich lernende Einheit als dominierende Einheit festgelegt wird. Durch Bewertung von Abweichungen in den Ausgabe werten, beispielsweise bei Vorhegen abweichender Klassen als Ergebnis im Vergleich zu einem früheren Durchlauf, können damit ebenfalls indirekt Veränderungen der Eingabewerte erkannt werden, die eine gewisse Signifikanz aufweisen und damit eine neue Klassifizierung sinnvoll machen. Das System kann in gewissen Ausführungsformen weiter einen Timer umfassen, in dem ein oder mehrere vorgegebene Zeitspannen gespeichert sind, die einer oder mehreren der künstlich lernenden Einheiten zugeordnet sind, wobei der Timer dazu eingerichtet ist, für jeweils eine der künstlich lernenden Einheiten den Ablauf der dieser Einheit zugeordneten vorgegebenen Zeitspanne zu messen. Ein derartiges Element bildet eine Möglichkeit, die unterschiedlichen Einheiten eines Systems beispielsweise zu synchronisieren und zu steuern, wann Ausgabewerte einer bestimmten Einheit erwartet oder weiterverarbeitet werden. Damit kann durch einen Timer eine einstellbare Latenzzeit des Gesamtsystems definiert werden, innerhalb derer eine Entscheidung als Gesamtausgabewert des Systems vorliegen soll. Diese Zeit kann beispielsweise wenige ms betragen, z.B. 30 oder 50 ms, und kann unter anderem abhängig von der vorhandenen Topologie der künstlich lernenden Einheiten und den vorliegenden Recheneinheiten
(Prozessoren oder andere Datenverarbeitungsmittel) sein.
Dabei kann beispielsweise das Messen der zugeordneten vorgegebenen Zeitspanne für eine der künstlich lernenden Einheiten gestartet werden, sobald diese künstlich lernende Einheit als dominierende Einheit festgelegt wird. Auf diese Weise kann sichergestellt werden, dass eine Einheit innerhalb einer vorgegebenen Zeit eine Lösung erarbeitet oder optional die Datenverarbeitung sogar
abgebrochen wird. ln einer möglichen Ausführungsform kann die zweite künstlich lernende Einheit als dominierende Einheit festgelegt werden, falls eine für die erste künstlich lernende Einheit vorgegebene erste Zeitspanne in dem Timer abgelaufen ist. Dies sorgt dafür, dass bereits vor der Analyse der Eingabewerte durch weitere künstlich lernende Einheiten eine Reaktion auf Grundlage der ersten künstlichen Einheit möglich ist, während anschließend die Daten detaillierter durch die zweite Einheit ausgewertet werden. ln beliebigen Ausführungsformen können die Eingabewerte beispielsweise eines oder mehrere der folgenden umfassen: durch einen oder mehrere Sensoren erfasste Messwerte, durch eine Benutzerschnittstelle erfasste Daten, aus einem Speicher abgerufene Daten, über eine Kommunikationsschnittstelle empfangene Daten, von einer Recheneinheit ausgegebene Daten. Es kann sich also z.B. um von einer Kamera erfasste Bilddaten, um Audiodaten, um Positionsdaten, um physikalische Messwerte wie Geschwindigkeiten, Abstandsmesswerte,
Widerstandswerte und allgemein jeden beliebigen Wert handeln, der von einem geeigneten Sensor erfasst wird. Ebenso können Daten von einem Benutzer über eine Tastatur oder einen Bildschirm eingegeben oder ausgewählt werden und optional auch mit anderen Daten wie etwa Sensordaten verknüpft werden.
Weitere Vorteile und Ausgestaltungen der Erfindung ergeben sich aus der
Beschreibung und der beiliegenden Zeichnung.
Es versteht sich, dass die vorstehend genannten und die nachstehend noch zu erläuternden Merkmale nicht nur in der jeweils angegebenen Kombination, sondern auch in anderen Kombinationen oder in Alleinstellung verwendbar sind, ohne den Rahmen der vorliegenden Erfindung zu verlassen.
Die Erfindung ist anhand eines Ausführungsbeispiels in der Zeichnung schematisch dargestellt und wird im Folgenden unter Bezugnahme auf die Zeichnung beschrieben.
Figurenbeschreibung
Figur 1 zeigt eine Kombination aus zwei miteinander gekoppelten künstlich lernenden Einheiten; Figur 2 zeigt schematisch verschiedene beispielhafte
Modulationsfunktionen;
Figur 3 veranschaulicht die Anwendung eines Dropout-Verfahrens in zwei gekoppelten neuronalen Netzen gemäß einer Ausführungsform;
Figur 4 zeigt ein System wie in Figur 1 mit einem zusätzlichen Timer;
Figur 5 stellt schematisch ein System wie in Figur 1 mit den zugeordneten Klassifikationsspeichern dar; und
Figur 6 zeigt ein alternatives System mit drei gekoppelten künstlich lernenden Einheiten.
Detaillierte Beschreibung von Ausführungsformen
Figur 1 zeigt eine beispielhafte Ausführungsform mit zwei verknüpften künstlich lernenden Einheiten 110, 120, die im Folgenden genauer beschrieben wird. Die künstlich lernenden Einheiten sind in den folgenden Erläuterungen beispielhaft als neuronale Netze ausgebildet.
Dabei ist eine erste künstlich lernende Einheit, hier in Form eines ersten neuronalen Netzes 110 vorgesehen, das im Wesentlichen dazu dienen kann, die Eingangssignale Xi zu kategorisieren und mit dem Ergebnis dieser Kategorisierung eine zweite künstlich lernende Einheit 120, hier ein zweites neuronales Netz, zu beeinflussen. Dabei werden die Ergebnisse des ersten neuronalen Netzes bevorzugt nicht als Eingangswerte für das zweite neuronale Netz genutzt, sondern zur Beeinflussung von vorhandenen Gewichtungen, Schrittweiten und Funktionen des Netzes. Insbesondere können diese Parameter des zweiten neuronalen Netzes so beeinflusst werden, dass sie nicht vollständig neu festgelegt werden, sondern die ursprünglichen Parameter des zweiten Netzes 120 auf Grundlage der
Ausgangssignale des ersten neuronalen Netzes 110 moduliert bzw. überlagert werden. Dies bedeutet, dass die beiden neuronalen Netze ansonsten bevorzugt eigenständig arbeiten, z.B. ihre Grundwerte selbst trainieren, und dabei aber durch eine Überlagerung gekoppelt sein können. Dabei können die beiden neuronalen Netze im Wesentlichen ähnlich zueinander gestaltet sein, aber beispielsweise mit deutlich unterschiedlichen Komplexitätsgraden, wie etwa der Anzahl der vorhandenen Schichten und Klassifizierungen. Weiter besitzt jedes der neuronalen Netze seinen eigenen Speicher. ln einer möglichen Ausführungsform kann dabei das erste neuronale Netz 110 als kategorisierendes Netz genutzt werden, das dazu dient, die Eingabewerte grob und schnell zu kategorisieren, während dann auf dieser Grundlage des
Kategorisierungsergebnisses durch Modulation von Parametern des zweiten Netzes dieses entsprechend beeinflusst wird. Zu diesem Zweck kann als erstes neuronales Netz ein Netz mit vergleichsweise wenigen Ebenen vorgesehen sein, das einen Speicher mit wenigen Klassen Ki, K2, ...Kn aufweist, die bevorzugt stark abstrahiert sind, um eine grobe Einordnung zu erreichen. Beispielsweise könnte dieses erste neuronale Netz auf 10, 50, 100 oder 500 Klassen beschränkt sein, wobei diese Zahlen selbstverständlich nur als grobe Beispiele zu verstehen sind. Dabei kann das Training des ersten neuronalen Netzes insbesondere einzeln und unabhängig von weiteren gekoppelten neuronalen Netzen erfolgen. Zusätzlich oder alternativ kann aber auch eine Trainingsphase in einem gekoppelten Zustand mit einem oder mehreren gekoppelten neuronalen Netzen genutzt werden.
Das erste neuronale Netz soll damit innerhalb einer kurzen Zeit eine verwertbare Ausgabe liefern, mit der das zweite neuronale Netz sinnvoll beeinflusst werden kann. Aus den Ausgabewerten Outputl des ersten neuronalen Netzes 110 können Gewichte und Funktionen erzeugt werden, die den selbsterzeugten Gewichten und Funktionen des zweiten neuronalen Netzes 120 überlagert werden können. Dies bedeutet, dass das zweite neuronale Netz zunächst eigenständig funktioniert und die Ausgabewerte des ersten Netzes bzw. die daraus gewonnenen Parameter nicht vollständig übernimmt. Auch das zweite neuronale Netz 120 kann zunächst eigenständig auf übliche Weise trainiert werden und dadurch selbstgenerierte Gewichte aufweisen.
Dabei kann das zweite neuronale Netz deutlich komplexer als das erste neuronale Netz gestaltet sein und insbesondere mehr Ebenen und/oder Speicherklassen aufweisen. Der Grad, um den die Komplexität des zweiten Netzes gegenüber dem ersten Netz erhöht ist, kann dabei je nach Anwendungsfall unterschiedlich festgelegt sein. Die Eingabewerte bzw. Inputdaten für das zweite neuronale Netz sind dabei bevorzugt dieselben Eingabewerte wie für das erste neuronale Netz, so dass nun mit denselben Daten eine komplexere Analyse vorgenommen werden kann. Alternativ können aber zumindest teilweise auch Ausgabewerte des ersten neuronalen Netzes als Eingabewerte des zweiten Netzes verwendet werden.
Insbesondere bei einer deutlich unterschiedlichen Komplexität des zweiten Netzes könnte beispielsweise ein zweites Netz vorgesehen sein, dem sowohl die ursprünglichen Eingabewerte, die auch für das erste Netz als Eingabewerte dienten, als Eingabewerte zugeführt werden, als auch zusätzlich die Ausgabewerte des ersten Netzes als Eingabewerte des zweiten Netzes verwendet werden.
Figur 2 zeigt beispielhaft verschiedene Modulationsfunktionen fm0d, mit denen ein oder mehrere Parameter des zweiten neuronalen Netzes überlagert werden können. Dabei kann die Überlagerung bzw. Modulation grundsätzlich auf beliebige Weise stattfinden. Wenn eine Modulationsfunktion fmod w auf die Gewichtungen Wi2 der Knoten angewendet wird, kann beispielsweise vorgesehen sein, dass die Gewichtungsmatrix des zweiten Netzes 120 als Argument der Modulationsfunktion eingesetzt wird, oder es können eindimensionale (auch unterschiedliche)
Funktionen für jeden einzelnen der Gewichtungswerte Wi2 vorgesehen sein. Wenn eine Modulationsfunktion fmod_f_ auf eine der beschreibenden Funktionen des zweiten neuronalen Netzes angewendet wird, also auf eine Transferfunktion ftrans2, eine Aktivierungsfunktion fakt2, eine Propagierungsfunktion oder eine Ausgabefunktion fout2 des Netzes 120, kann dies durch eine Verknüpfung der beiden Funktionen geschehen, wobei auch hier eine Modulationsfunktion fmod entweder auf nur einen Teil oder alle relevanten beschreibenden Funktionen angewendet werden kann (z.B. auf alle Aktivierungsfunktionen fakt2 des zweiten neuronalen Netzes 120). Es können Modulationen gleichwertig an allen Knoten eines Netzes oder alternativ auch nur auf einen Teil der Knoten angewendet werden, oder für jeden Knoten anders moduliert werden. Ebenso kann
beispielsweise für jede Schicht eines Netzes getrennt oder auf andere Weise gestaffelt moduliert werden.
Insbesondere können die Modulationsfunktionen fmod auch zeitabhängige
Funktionen sein, so dass die Gewichtungen Wi2 oder Funktionen des zweiten neuronalen Netzes zeitabhängig geändert werden. Es sind aber ebenso statische Modulationsfunktionen zur Modulation des zweiten neuronalen Netzes denkbar. Dabei wird die Modulation auf die Parameter des zweiten Netzes 120 angewendet, die bereits ursprünglich für dieses zweite Netz definiert sind (wie etwa die Propagierungsfunktionen oder die Aktivierungsfunktionen), oder die in der Trainingsphase selbständig gewonnen wurden, wie etwa die angepassten selbstgenerierten Gewichte.
Als Beispiele dafür sind in Figur 2 acht verschiedene zeitabhängige
Modulationsfunktionen dargestellt. Beispiel a) zeigt eine einfache binäre
Stufenfunktion, bei der bis zu einer vorgegebenen Zeit der Wert null und anschließend ein Wert größer null vorgegeben ist. Dabei kann der zweite Wert grundsätzlich 1 sein, könnte aber auch einen anderen Wert aufweisen, so dass die ursprünglichen Parameter zusätzlich mit einem Faktor beaufschlagt werden. Auf diese Weise wird z.B. eine Gewichtung zeitabhängig ein- und abgeschaltet oder zeitabhängig verstärkt. Beispiel b) zeigt eine umgekehrte Situation, in der eine Stufenfunktion mit einem zweiten Wert kleiner als Null vorgegeben. Ebenso sind alternativ zu den Varianten aus Beispiel a) und b) Stufenfunktionen denkbar, die zwei verschiedene Werte ungleich 0 umfassen, so dass der Pegel entsprechend zeitabhängig angehoben oder abgesenkt wird.
Beispiel c) zeigt eine periodische Modulationsfunktion, die ebenfalls auf jeden beliebigen Parameter des zweiten Netzes angewendet werden kann und auf diese Weise zeitabhängig periodisch bestimmte Elemente verstärken oder abschwächen wird. Dabei könnten beispielsweise auch für unterschiedliche Knoten und/oder unterschiedliche Schichten jeweils verschiedene Amplituden und/oder Perioden für eine derartige Funktion gewählt werden. Jede beliebige periodische Funktion kann an dieser Stelle verwendet werden, etwa eine Sinus-Funktion oder auch nichtstetige Funktionen. Je nach Art der Verkettung der Funktionen mit den selbstgenerierten Funktionen des zweiten Netzes können nur positive oder auch negative Funktionswerte gewählt werden. ln Beispiel d) ist eine langsame kontinuierliche vorübergehende Anhebung und Absenkung des Pegels gezeigt. Beispiel e) dagegen beschreibt kurzzeitige, annähernd rechteckförmige hohe Pegel bei ansonsten niedrigem Funktionswert, der optional auch null sein kann. Ähnlich sind in Beispiel f) unregelmäßig verteilte und sehr kurze Spitzen oder Spikes zu sehen, die also für einen sehr kurzen Zeitraum eine Pegelerhöhung bewirken. Dabei weisen die Spitzen hier
unterschiedliche Amplituden auf und können sowohl nach positive als auch negative Werte (relativ zum Grundwert) annehmen. Für die Varianten aus den Beispielen e) und f) können sowohl regelmäßige, periodische als auch zeitlich völlig unregelmäßige (z.B. stochastisch ermittelte) Verteilungen der Spitzen bzw. Verstärkungen vorliegen. Dabei können kurze Pegelerhöhungen beispielsweise etwa innerhalb der Zeit eines Entscheidungszyklus des zweiten neuronalen Netzes liegen, während länger ausgeprägte Pegelveränderungen sich über mehrere Entscheidungszyklen erstrecken können. Beispiel g) in Figur 2 zeigt weiter eine gedämpfte Schwingung, die ebenfalls beliebig mit verschiedenen Dämpfungen und Amplituden ausgestaltet sein könnte. Schließlich ist in Beispiel h) eine zeitliche Abfolge aus unterschiedlichen
Schwingungen um den Grundwert gezeigt, wobei sich hier insbesondere die Periodenlängen der Schwingungen unterscheiden, während die Amplitude gleich bleibt. Diese Kombination unterschiedlicher Schwingungen kann auch als additive Überlagerung, d.h. Schwebung ausgebildet sein.
Generell sind beliebige Modulationsfunktionen denkbar und die gezeigten
Funktionen aus Figur 2 nur als Beispiel zu verstehen. Insbesondere sind
beispielsweise beliebige Kombinationen der aufgeführten Beispielfunktionen möglich. Es versteht sich auch, dass die gezeigte Grundlinie in allen Beispielen je nach gewünschtem Effekt der Modulationsfunktion bei 0 oder bei einem anderen Grundwert verlaufen kann. Bei einer reinen Verkettung der Modulationsfunktion mit der jeweiligen modulierten Funktion kann mit einem Grundwert von 0 und entsprechenden Erhöhungen des Funktionswerts dafür gesorgt werden, dass der jeweilige Knoten nur zeitabhängig zur Verarbeitung beiträgt und zu anderen Zeiten abgeschaltet ist. Mit einem Grundwert von 1 kann dagegen erreicht werden, dass z.B. mit dem Beispiel aus Figur 2a) eine Modulationsfunktion, die auf die Gewichtungen angewendet wird, zunächst als Grundwert die selbstgenerierten Gewichte des modulierten Netzes wiedergibt und dann, ab dem abgestuften höheren Wert, entsprechend verstärkte Gewichte aufweist. Entsprechend wirkt eine derartige Funktion auch auf die Modulierung der Funktionen, wie etwa der Aktivierungsfunktion.
Wie bereits beschrieben, kann eine Modulationsfunktion auf Grundlage der Ausgabewerte einer ersten künstlich lernenden Einheit gebildet werden, also im vorliegenden Beispiel auf Grundlage des ersten neuronalen Netzes. Der
Zusammenhang zwischen den Ausgabewerten und der daraus gebildeten
Modulationsfunktion kann beliebig gestaltet werden. Beispielsweise kann dieser Zusammenhang mindestens zum Teil in einer gemeinsamen Trainingsphase des gekoppelten Netzes erzeugt werden ln anderen Ausführungsformen kann vorgegeben sein, wie die Abhängigkeit zwischen den Modulationsfunktionen und den Ausgab ewerten des ersten Netzes gestaltet ist. Optional könnte auch entschieden werden, dass bei bestimmten Ausgabewerten zunächst keine
Modulation des zweiten Netzes erfolgt.
Alternativ oder zusätzlich zu der Anwendung von Modulationsfunktionen auf die Gewichte und Funktionen eines zweiten neuronalen Netzes kann auch ein gekoppeltes Dropout-Verfahren angewendet werden, das in Figur 3 dargestellt ist. Dabei handelt es sich herkömmlich um ein Trainingsverfahren für ein neuronales Netz, bei dem in jedem Trainingszyklus nur ein Teil der vorhandenen Neuronen in den verborgenen Schichten und der Eingangsschicht genutzt werden und die übrigen nicht verwendet werden ("drop out"). Zu diesem Zweck wird
üblicherweise im Stand der Technik eine Dropout-Rate auf Grundlage der rückgeführten Fehler des Netzes festgelegt, die bestimmt, wie groß der Anteil der abgeschalteten Neuronen am gesamten Netz ist. Ebenso könnten anstelle von Neuronen ein Teil der Kanten bzw. Verbindungen zwischen Neuronen abgeschaltet werden.
Eine derartige teilweise Abschaltung von Neuronen und/oder Kanten kann nun in beispielhaften Ausführungsformen ebenfalls in einem zweiten neuronalen Netz eingesetzt werden, wobei nun die Dropout-Parameter nicht auf Grundlage der Fehlerrückführung des Netzes selbst, sondern wie bei der zeitabhängigen
Modulation in Abhängigkeit von den Ausgabewerten eines ersten neuronalen Netzes eingesetzt werden. Dabei kann beispielsweise auf Grundlage der
Ausgabewerte Outputl des ersten neuronalen Netzes 310 eine Dropout-Rate für das zweite neuronale Netz festgelegt werden, die dann auf das zweite Netz angewendet wird. Die Figur zeigt erneut zwei gekoppelte Netze 310, 320 wie in Figur 1, wobei nun die Neuronen bzw. Knoten 326, 328 des zweiten Netzes 320 schematisch als Kreise angedeutet sind. Dabei sind die verbindenden Kanten nicht gezeigt, und die Anordnung der dargestellten Neuronen soll keinen zwingenden Bezug zu ihrer tatsächlichen Topologie haben. Über die Dropout-Rate wird nun ein Teil der vorhandenen Neuronen deaktiviert und damit nicht verwendet. Die aktiven Neuronen 326 des zweiten Netzes sind in der Figur schraffiert dargestellt, während die nicht ausgefüllten Neuronen die Dropout-Neuronen 328 darstellen sollen.
Auf allgemeine Weise kann das hier beschriebene gekoppelte Dropout auch als Modulationsfunktion fmod verstanden werden, indem als Modulationsfunktion für das Gewicht oder z.B. die Ausgabefunktion jedes einzelnen Knotens entweder 0 oder 1 eingesetzt wird. Dabei kann auf Grundlage der Ausgabewerte des ersten Netzes bestimmt werden, welche der Neuronen 326, 328 abgeschaltet werden, oder es kann nur die Rate vorgegeben werden und über stochastische Funktionen bestimmt werden, welches Neuron abgeschaltet wird. Auch die Dropout-Rate kann dabei wiederum auf Grundlage der Ausgabewerte Outputl des ersten Netzes 310 festgelegt werden. Dabei kann eine Dropout-Modulationsfunktion optional auch eine zeitabhängige Abschaltung bewirken, was z.B. einer Verkettung einer
Dropout-Funktion mit einer wie in Figur 2 gezeigten Modulationsfunktion entsprechen würde. Ebenso kann auch eine Folge von Musterabschaltungen eingesetzt werden, die sich in einem vorherigen Training bewährt haben, so dass beispielsweise zyklische Mustervariationen zur Abschaltung in dem zweiten neuronalen Netz 320 eingesetzt werden.
Generell kann das Dropout dafür sorgen, dass die Arbeitsgeschwindigkeit eines neuronalen Netzes erhöht wird. Außerdem wird vermieden, dass sich benachbarte Neuronen in ihrem Verhalten zu sehr annähern. Das gekoppelte Dropout wie vorstehend beschrieben kann sowohl in einer gemeinsamen Trainingsphase eingesetzt werden, in der die beiden Netze gekoppelt sind, als auch in einem bereits trainierten Netz eingesetzt werden. Um sicherzustellen, dass die gekoppelten neuronalen Netze sich sinnvoll ergänzen, kann festgelegt werden, welches der neuronalen Netze zu jedem Zeitpunkt das Gesamtsystem dominiert. Als dominierendes Netz bzw. Dominanz kann dabei das Netz bezeichnet werden, dessen Ausgabewerte die Ausgabe des Gesamtsystems bestimmen. Im Folgenden wird davon ausgegangen, dass immer nur genau ein Netz in einer Gruppe aus zwei oder mehr gekoppelten Netzen dominiert und damit die Ausgabe des dominierenden Netzes gleich der Ausgabe des Gesamtsystems ist. Andere Ausführungsformen sind jedoch auch grundsätzlich denkbar, so dass beispielsweise Vorschriften festgelegt sind, die bei mehr als einem dominierenden Netz eine Verarbeitung der Ausgab ewerte der dominierenden Netze zu einem endgültigen Gesamtausgabewert beschreiben. ln beispielhaften Ausführungsformen kann zu diesem Zweck ein Timer bzw.
Zeitglied implementiert werden, welches für eines oder mehrere der gekoppelten neuronalen Netze eine Zeitvorgabe festlegt. Dabei soll diese Zeitvorgabe bevorzugt als Maximalwert bzw. zeitliche Obergrenze verstanden werden, nach der ein Ausgabewert des jeweiligen Netzes vorliegen muss, so dass auch bereits früher eine Ausgabe vorliegen kann. Spätestens nach Ablauf der für ein bestimmtes Netz vorgegebenen Zeit wird dann ein Ausgabewert dieses Netzes ausgewertet. Der Timer kann auf Basis von festgelegten Zeitvorgaben damit die Dominanz zwischen den gekoppelten Netzen steuern und/oder verändern.
Eine beispielhafte Ausführungsform dieser Art ist in Figur 4 dargestellt. Dabei kann die Ausbildung und Kopplung der beiden neuronalen Netze 410, 420 dem bereits in Figur 1 beschriebenen Beispiel entsprechen. Der Timer 440 sorgt nun dafür, dass die Ausgabe des ersten neuronalen Netzes 410 spätestens nach einer vorgegebenen Zeit, die durch einen vorgegebenen Zeitparameterwert festgelegt ist, ausgewertet wird. Die benötigte Zeit kann beispielsweise ab Einspeisung der Eingangswerte Xi in das jeweilige Netz gemessen werden. Die Wahl der vorgegebenen Zeitparameter für ein Netz kann dabei insbesondere abhängig von der Komplexität eines Netzes durchgeführt werden, so dass in der vorgegebenen Zeit auch tatsächlich verwertbare Ergebnisse zu erwarten sind ln einem Beispiel wie dem zuvor beschriebenen, bei dem das erste neuronale Netz 410 bevorzugt durch ein Netz mit wenigen verborgenen Schichten und einer geringen Anzahl von Klassifizierungen gebildet wird, kann damit auch eine entsprechend kurze Zeit für dieses erste Netz gewählt werden. Ebenso können bei der Wahl der Zeitparameter für ein Netz weitere Überlegungen einbezogen werden, etwa die vorhandene Hardware, welche die Rechenzeit der Netze entscheidend beeinflusst, und/oder auch das von den gekoppelten Netzen betrachtete Einsatzgebiet. Weiter können die vorgegebenen Zeitparameter variabel sein und beispielsweise in Abhängigkeit von Ergebnissen von mindestens einem der gekoppelten neuronalen Netze abgeändert oder neu festgelegt werden. Es versteht sich, dass eine derartige Zeitvorgabe zumindest die Zeitspanne umfassen sollte, die als Mindestzeit für das einmalige Durchlaufen des jeweiligen Netzes 410, 420 erforderlich ist. ln Figur 4 ist als Beispiel eine Zeitspanne von 30ms für das erste Netz festgelegt, so dass bei einem Verfahrensdurchlauf dieses Netz in der Zeit von 0ms bis 30ms ab Beginn des Verfahrens dominiert. Es kann aber natürlich auch ein geeigneter anderer Wert für diese Zeitspanne gewählt werden.
Während der durch den Zeitparameter für das erste Netz 410 vorgegebenen Zeitspanne (hier 30ms) wird das erste neuronale Netz die Eingabewerte Xi auf übliche Weise verarbeiten. Nach Ablauf der vorgegebenen Zeit können aus der Ausgabe Outputl des ersten neuronalen Netzes 410 Funktionen erzeugt werden, die zur Überlagerung bzw. Modulation der eigenen Gewichte und Funktionen des zweiten neuronalen Netzes dienen. Außerdem können die Ausgabewerte des ersten neuronalen Netzes auch alternativ oder zusätzlich zur Verwendung für die Beeinflussung des zweiten Netzes 420 eigenständig verarbeitet werden und beispielsweise als schnelle Ausgabe des Gesamtsystems genutzt werden. Sobald die Modulationsfunktionen fm0d , fmod_w auf das zweite neuronale Netz 420 angewendet wurden, kann der Timer 440eine erneute Zeitmessung starten und dabei nun einen zweiten, für das zweite neuronale Netz 420 vorgegebenen
Zeitparameter anwenden.
Dabei kann das zweite neuronale Netz 420 optional auch bereits vor der
Modulation durch die gewonnenen Modulationsfunktionen fmodj, fmod_w
selbständig die Eingabewerte Xi verwerten, so dass beispielsweise die
Eingab ewerte bereits vor Start der zweiten vorgegebenen Zeitspanne auch an das zweite neuronale Netz 420 gegeben werden können und dort entsprechend verarbeitet werden können. Nach Ablauf der ersten Zeitspanne wird dann die Überlagerung der Parameterwerte und Funktionen des zweiten neuronalen Netzes vorgenommen, indem die entsprechenden Modulationsfunktionen fmodj, fmod_w angewendet werden. Dabei können ein oder mehrere Modulationsfunktionen für unterschiedliche Teile des zweiten neuronalen Netzes 420 gebildet werden, beispielsweise für die Gewichtungen, Ausgabefunktionen,
Propagierungsfunktionen und/oder Aktivierungsfunktionen des zweiten neuronalen Netzes. Bei einem zweiten neuronalen Netz 420, das deutlich komplexer als das erste neuronale Netz 410 ausgebildet ist, beispielsweise durch deutlich mehr Schichten und Knoten und/oder durch eine höhere Anzahl von Speicherklassen, wird das zweite neuronale Netz einen im Vergleich höheren Rechenaufwand und damit auch mehr Zeit benötigen, so dass in diesem Fall die zweite Zeitspanne entsprechend länger gewählt werden kann.
Dabei kann optional jedes der Netze 410, 420 kontinuierlich weiter die
Eingabewerte verarbeiten und auswerten, auch während ein anderes Netz aufgrund der laufenden Zeitspannen als dominierendes Netz im Gesamtsystem festgelegt ist. Insbesondere kann in dem gezeigten Beispiel aus zwei gekoppelten Netzen das erste Netz kontinuierlich die Eingabewerte auswerten, auch während die Dominanz beim zweiten Netz liegt und die Ausgabewerte des Gesamtsystems daher nach Ablauf der zweiten Zeitspanne und nach einer durch das zweite Netz gefundenen Lösung den Ausgabewerten des zweiten Netzes entsprechen. Auf diese Weise kann ein schnell kategorisierendes Netz wie das hier beschriebene erste Netz 410, das durchgängig die vorhandenen Eingabewerte auswertet, auch kurzfristige Eingriffe vornehmen, soweit die gefundenen Ausgabewerte Eingang in die Gesamtausgabe finden. Solche Ausführungsformen werden nachstehend noch genauer beschrieben.
Als Ergebnis einer derartigen Zeitsteuerung durch vorgegebene Zeitspannen in einem Timer kann das Gesamtsystem früh Entscheidungen treffen und
beispielsweise schon handlungsfähig sein, ohne dass die endgültige Auswertung und detaillierte Analyse durch das zweite neuronale Netz schon abgeschlossen sein muss. Als Beispiel kann eine Situation in einem autonomen Fahrsystem betrachtet werden, die von einem derartigen System mit mindestens zwei gekoppelten Netzen bewertet werden soll. Durch die erste Einheit bzw. das erste neuronale Netz kann eine frühe Kategorisierung "Gefahr" erreicht werden, die noch keine weitergehende Einschätzung über die Art der Gefahr beinhaltet, aber bereits zu einer sofortigen Reaktion wie etwa einer Verlangsamung der
Geschwindigkeit des Fahrzeugs und der Aktivierung der Brems- und
Sensorsysteme führen kann. Gleichzeitig führt das zweite neuronale Netz auf Grundlage der Kategorisierung, nämlich unter Einfluss der Modulation durch die Ausgab ewerte des ersten Netzes, eine tiefergehende Analyse der Situation durch, die dann zu weiteren Reaktionen oder Veränderungen des Gesamtsystems auf Grundlage der Ausgabewerte des zweiten Netzes führen kann.
Es ist auch denkbar, nicht für jedes der gekoppelten Netze eine Zeitbegrenzung vorzugeben, sondern nur für eines der Netze (bzw. bei Koppelung von mehr als zwei Netzen auch für nur eine Teilmenge der gekoppelten Netze). Beispielsweise könnte in dem oben genannten Beispiel ein Timer für das erste, schnell
kategorisierende neuronale Netz eingesetzt werden, während das zweite Netz keine feste Zeitvorgabe erhält, oder umgekehrt. Eine derartige Ausführungsform kann auch mit weiteren Verfahren zur Bestimmung des momentan dominanten Netzes kombiniert werden, die nachstehend noch genauer beschrieben werden.
In allen Ausführungsformen mit eingesetztem Timer kann vorgesehen sein, dass als Ausgabe des Gesamtsystems jeweils die Ausgabewerte desjenigen neuronalen Netzes verwendet werden, welches momentan einen aktiven Timer aufweist. Aufgrund der Zeit, die ein Netz bis zum Erreichen einer ersten Lösung für vorgegebene Eingabewerte benötigt, ergibt sich dabei eine gewisse Latenzzeit, innerhalb derer noch die vorherigen Ausgabewerte (des ersten oder zweiten Netzes) als Gesamtausgabewerte vorliegen.
Falls nur für einen Teil der gekoppelten Netze Zeitvorgaben festgelegt sind, z.B. nur für ein erstes Netz ein Timer wirkt, kann beispielsweise definiert sein, dass die Ausgabe des Gesamtsystems im allgemeinen immer der Ausgabe des zweiten Netzes entspricht und nur dann durch die Ausgabe des ersten Netzes ersetzt wird, wenn für das erste Netz eine Timer aktiv ist, d.h. eine vorgegebene Zeitspanne aktiv läuft und noch nicht abgelaufen ist.
In einem System mit mehr als zwei Netzen kann durch Angleichung der
vorgegebenen Zeitspannen und Wechsel des Timers auch eine sinnvolle
Synchronisation der Netze untereinander ermöglicht werden, insbesondere wenn mehrere Netze mit unterschiedlichen Aufgaben gleichzeitig zu einem Ergebnis kommen sollen, das wiederum Einfluss auf ein oder mehrere andere Netze haben soll. Ebenso kann durch Anpassung der vorgegebenen Zeitspannen und Abläufe eine Synchronisation auch unter mehreren getrennten Gesamtsystemen, die jeweils mehrere gekoppelte Netze umfassen, erreicht werden. Dabei können die Systeme beispielsweise durch einen Zeitabgleich synchronisiert werden und dann selbständig, aber synchron gemäß der jeweiligen Timer-Vorgaben ablaufen. Zusätzlich oder alternativ zur Änderung des jeweils dominierenden neuronalen Netzes im Gesamtsystem auf Grundlage eines Timers kann auch jedes der neuronalen Netze selbst auf kooperative Weise Entscheidungen zur Übergabe der Dominanz treffen. Dies kann beispielsweise bedeuten, dass ein erstes neuronales Netz eines Gesamtsystems die Eingabewerte verarbeitet und zu einer bestimmten ersten Lösung bzw. bestimmten Ausgabewerten kommt.
Wie auch bei der Schwerpunktveränderung mit Hilfe des Timers kann hier festgelegt sein, dass die Ausgab ewerte des Gesamtnetzes jeweils den
Ausgabewerten des aktuell dominierenden Netzes entsprechen.
Zu diesem Zweck können beispielsweise Veränderungen in den Eingangswerten bewertet werden. Solange die Eingangswerte im Wesentlichen unverändert bleiben, kann auch die Dominanzverteilung unter den gekoppelten Netzen im Wesentlichen unverändert bleiben, und/oder ausschließlich auf Grundlage eines Timers bestimmt werden. Falls jedoch die Eingangswerte sich plötzlich verändern, kann eine vorgegebene Dominanz festgelegt sein, welche das sonstige
Dominanzverhalten der gekoppelten Netze überschreibt. So kann beispielsweise für plötzlich veränderte Eingangswerte bestimmt werden, dass die Dominanz in jedem Fall zunächst wieder auf die das erste neuronale Netz übergeht. Damit wird auch ein optional vorhandener Timer für dieses erste neuronale Netz erneut gestartet und der Ablauf wie zuvor bereits beschrieben durchgeführt. Eine deutliche Änderung der Eingangswerte könnte beispielsweise auftrete n, wenn Sensorwerte eine neue Umgebung erfassen oder wenn ein zuvor bewerteter Prozess abgeschlossen wurde und nun ein neuer Prozess angestoßen werden soll.
Dabei können Schwellwerte in Form einer Signifikanzschwelle vorgegeben sein, anhand derer bestimmt werden kann, ob eine Änderung der Eingabewerte als wesentlich betrachtet werden soll und zu einer Änderung der Dominanz führen soll. Es können auch für unterschiedliche Eingabewerte bzw. für jeden Eingabewert einzelne Signifikanzschwellen vorgegeben sein, oder es kann ein allgemeiner Wert, z.B. in Form einer prozentualen Abweichung, als Grundlage für die Bewertung einer Veränderung der Eingabewerte vorgesehen sein. Ebenso könnten anstelle von festen Signifikanzschwellen zeitlich oder adaptiv und situationsabhängig veränderbare Schwellen vorliegen, oder es kann sich dabei um Funktionen, Matrizen oder Muster handeln, anhand derer die Signifikanz der Veränderung bewertet werden kann.
Alternativ oder zusätzlich kann die Veränderung der Dominanz unter den gekoppelten Netzen abhängig von den gefundenen Ausgabewerten jedes Netzes gemacht werden. Je nach Ausführungsform kann beispielsweise das erste neuronale Netz die Eingabewerte und/oder deren Veränderung bewerten. Dabei können für die Klassen, die für das erste neuronale Netz zur Klassifizierung vorliegen, jeweils Signifikanzschwellen vorgegeben sein, so dass bei einem
Ergebnis des ersten neuronalen Netzes, das für die Eingabedaten einen
signifikanten Wechsel der gefundenen Klasse ergibt, sofort eine Übergabe der Dominanz an das erste neuronale Netz stattfindet, so dass eine schnelle
Neubewertung der Situation und gegebenenfalls eine Reaktion stattfinden kann. Auf diese Weise kann auch verhindert werden, dass trotz signifikant veränderter Eingabesituation, die durch das erste, schnell kategorisierende Netz erkannt wurde, unnötig lange weiter ohne Berücksichtigung der Veränderung vom zweiten neuronalen Netz in die Tiefe analysiert wird. ln allen vorstehenden Beispielen können die Ausgabewerte des Gesamtsystems auf beliebige Weise weiterverwendet werden, beispielsweise als direkte oder indirekte Steuersignale für Aktoren, als Daten, die für zukünftige Verwendung abgespeichert werden, oder als Signal, das an Ausgabeeinheiten weitergegeben wird ln allen Fällen können die Ausgabewerte auch zunächst weiter durch zusätzliche Funktionen und Bewertungen weiterverarbeitet werden und/oder mit weiteren Daten und Werten kombiniert werden. Figur 5 zeigt erneut das einfache Ausführungsbeispiel wie in Figur 1 mit zwei unidirektional gekoppelten Netzen 510, 520, wobei nun für jedes der Netze ein Klassifikationsspeicher 512, 522 schematisch gezeigt ist. Die Art der verwendeten Klassifikationen Ki ist hier zunächst zweitrangig und wird nachstehend noch genauer beschrieben. Dabei können sich insbesondere die Dimension und der Aufbau der beiden Klassifikationsspeicher des ersten 512 und zweiten Netzes 522 deutlich unterscheiden, so dass zwei neuronale Netze mit unterschiedlichen Geschwindigkeiten und Schwerpunkten gebildet werden. Damit kann
beispielsweise wie bereits kurz beschrieben ein Zusammenspiel aus einem schnellen, grob kategorisierenden und einem langsameren, aber detaillierter analysierenden Netz zu einem gekoppelten Gesamtsystem erreicht werden.
Im vorliegenden Beispiel wird ein erstes neuronales Netz 510 mit relativ wenigen Klassifikationen Ki, K2, ...., Kn ausgebildet, die beispielsweise auch nur einer flachen Hierarchie folgen können, so dass nur in einer Dimension kategorisiert wird. Bevorzugt kann ein derartiges erstes Netz 510 auch in seiner Topologie vergleichsweise einfach ausgebildet sein, also mit einer nicht zu großen Anzahl n von Neuronen und verborgenen Schichten. Grundsätzlich kann die Netztopologie aber auch im Wesentlichen unabhängig von den Klassifizierungen sein.
Das zweite neuronale Netz 520 kann dann ein deutlich größeres und/oder komplexeres Klassifikationssystem aufweisen. Beispielsweise kann dieser
Speicher 522 bzw. die zugrundeliegende Klassifikation auch hierarchisch in mehreren Ebenen 524 aufgebaut sein, wie in der Figur 5 gezeigt ist. Die
Gesamtanzahl m der Klassen Kl, K2, ...., Km des zweiten Netzes 520 kann sehr groß sein, insbesondere deutlich größer als die Anzahl n der Klassen, die von dem ersten neuronalen Netz 510 verwendet werden. Beispielsweise könnte sich die Anzahl m, n der Klassen um ein oder mehrere Größenordnungen unterscheiden. Damit wird eine asymmetrische Verteilung der einzelnen Netze im Gesamtsystem erreicht.
Die schnelle Klassifizierung durch das erste neuronale Netz 510 kann dann dazu dienen, die Eingabewerte rasch einzuordnen. Dazu können bevorzugt abstrakte, zusammenfassende Klassen verwendet werden. Die Einordnung einer erfassten Situation (z.B. auf Grundlage von Sensordaten wie Bild- und Audiodaten) kann dann in einem Beispiel zunächst durch das erste neuronale Netz 510 als "großes, möglicherweise gefährliches Tier" erfolgen, ohne dazu weitere Auswertungen vorzunehmen. Dies bedeutet, dass z.B. keine weitere Klassifizierung nach Tierarten (Wolf, Hund) oder als gefährliches Raubtier in dem ersten Netz erfolgt, sondern nur nach möglichst breit gefassten, allgemeinen Merkmalen wie etwa der Größe, Erfassung von Zähnen, Angriffshaltungen und weiteren Eigenschaften klassifiziert wird. Diese Daten, die im Wesentlichen der Ausgabe "Gefahr" entsprechen, können dann optional bereits zur vorläufigen und schnellen Reaktion weiter an
entsprechende externe Systeme gegeben werden, z.B. ein Warnsystem für einen Nutzer oder an bestimmte Aktoren eines automatisierten Systems. Außerdem wird die Ausgabe Output 1 des ersten neuronalen Netzes 510 zur Erzeugung der beschriebenen Modulationsfunktionen für das zweite neuronale Netz 520 genutzt.
Dieselben Eingabewerte Xi, also z.B. die genannten Sensorwerte, werden auch an das zweite neuronale Netz 520 gegeben. Dabei können die Eingabewerte sofort, also im Wesentlichen gleichzeitig wie an das erste Netz, oder verzögert eingegeben werden, wobei sie je nach Ausführungsform bereits vor oder erst bei Anwendung der Modulationsfunktionen, d.h. bei Vorliegen des Ergebnisses des ersten Netzes eingegeben werden. Bevorzugt sollten sie insbesondere bei zeitkritischen
Prozessen nicht später an das zweite neuronale Netz gegeben werden, um
Verzögerungen zu vermeiden. Das zweite neuronale Netz berechnet dann ebenfalls eine Lösung, wobei die von diesem zweiten Netz ursprünglichen selbstgenerierten Gewichte und seine Basisfunktionen (wie die festgelegten Aktivierungsfunktionen und Ausgabefunktionen) jeweils auf Grundlage der Modulationsfunktionen überlagert werden können, die aus den Ausgabewerten des ersten Netzes gebildet wurden. Dadurch können bei der iterativen Arbeit des zweiten Netzes eine Vielzahl möglicher Varianten entfallen, für die bei einer von dem ersten Netz schnell erkannten kritischen Situation (z.B. einer Gefahrensituation) keine Zeit wäre. Während die langsamere Analyse des zweiten neuronalen Netzes stattfindet, können wie beschrieben bereits mögliche Reaktionen auf Basis des ersten neuronalen Netzes ausgeführt werden. Dies entspricht einer ersten instinktiven Reaktion in biologischen Systemen. Der hierarchische und gegenüber dem ersten Netz deutlich größere Speicher des zweiten Netzes erlaubt dann eine präzise Analyse der Eingabewerte, in dem genannten Beispiel eine detaillierte Einordnung in die Klasse "Hund", die jeweilige Rasse,
Verhaltensmerkmale, die auf Gefahren oder eine harmlose Situation schließen lassen, und weitere. Bei Bedarf kann dann nach Erreichen eines Ergebnisses durch das zweite neuronale Netz die vorherige Reaktion des Gesamtsystems überschrieben werden, indem z.B. die erste Einordnung "Gefahr" wieder herabgestuft wird.
Insgesamt kann für ein derartig gekoppeltes Gesamtsystem mit asymmetrischer Klassifizierung beispielsweise vorgesehen sein, dass die Klassen Kn des schnell klassifizierenden ersten Netzes 510 vor allem abstrakte Einordnungen wie
neue/bekannte Situation, gefährliches/ungefährliches Ereignis,
interessantes/uninteressantes Merkmal, Entscheidung erforderlich/nicht erforderlich und ähnliche vornehmen, ohne dabei in die Tiefe zu gehen. Diese erste Klassifizierung muss dabei nicht zwingend dem Endergebnis entsprechen, das durch die zweite Einheit 520 letztendlich gefunden wird. Die zweistufige Klassifizierung durch mindestens eine schnelle und eine tief analysierende Einheit erlaubt aber damit gefühlsähnliche oder instinktive Reaktionen eines künstlich lernenden Gesamtsystems. Wenn beispielsweise ein Objekt durch Bilderkennung identifiziert wird, das möglicherweise eine Schlange sein könnte, kann bevorzugt der "worst case" das Ergebnis der ersten Klassifizierung sein, unabhängig davon, ob diese Einordnung wahrscheinlich richtig ist oder nicht. Was im Fall der menschlichen Intelligenz als evolutionäres Wissen und instinktive Reaktion vorliegt, kann durch eine schnelle erste Klassifizierung mit vorprogrammiertem Wissen ersetzt werden, so dass ebenfalls entsprechende Standardreaktionen (Abstand halten, Bewegung einleiten, erhöhte Aufmerksamkeit aktivieren) durch das Gesamtsystem und seine Aktoren durchgeführt werden können. Die zusätzliche Modulation der zweiten lernenden Einheit auf Basis dieser ersten Klassifizierung kann dann ähnlich wie eine gefühlsbedingte Überlagerung verstanden werden, d.h. beispielsweise entsprechend einer Angstreaktion, die automatisch eine andere bewusste Situationsanalyse einleitet als eine als harmlos verstandene Situation. Die Überlagerung der Parameter des zweiten neuronalen Netzes, die durch die Modulationsfunktionen vorgenommen wird, kann dabei die erforderliche Verschiebung in andere, ansonsten standardmäßig nicht oder nicht sofort erreichte Klassifikationsräume bewirken.
Entsprechend können derartige Systeme für eine Vielzahl von Anwendungsbereichen eingesetzt werden, beispielsweise in allen Anwendungen, in denen kritische
Entscheidungssituationen auftreten. Beispiele sind Fahrsysteme, Rettungs- oder Warnsysteme für unterschiedliche Gefahrenarten, Chirurgiesysteme, und allgemein komplexe und nichtlineare Aufgabenstellungen. ln den bisher beschriebenen Ausführungsformen wurden nur zwei künstlich lernende Einheiten miteinander gekoppelt. Diese Idee ist aber grundsätzlich auch auf mehr als zwei Einheiten anwendbar, so dass beispielsweise drei oder mehr künstlich lernende Einheiten auf entsprechende Art und Weise gekoppelt werden können, wobei festgelegt sein kann, welche der Einheiten die Parameter einer bestimmten anderen Einheit oder mehrerer anderer Einheiten modulieren kann. Figur 6 zeigt ein Beispiel, in dem drei neuronale Netze 610, 620, 630 (und/oder andere künstlich lernende Einheiten) vorgesehen sein können, wobei die
Ausgabewerte des ersten Netzes 610 Modulationsfunktionen für die Gewichte und/oder Funktionen des zweiten Netzes 620 ergeben, und wobei wiederum Ausgabewerte des zweiten Netzes Modulationsfunktionen für die Gewichte und/oder Funktionen des dritten Netzes 630 ergeben. Auf diese Art und Weise könnten beliebig lange Ketten aus künstlich lernenden Einheiten gebildet werden, die sich gekoppelt durch Überlagerung beeinflussen. Dabei können ähnlich wie im früheren Beispiel mit zwei neuronalen Netzen in einer Ausführungsform alle gekoppelten Netze dieselben Eingabewerte erhalten und die Verarbeitung nur durch die Modulation der jeweiligen Netze gekoppelt werden. Ebenso sind aber Ausführungsformen denkbar, in denen beispielsweise anschließend an zwei neuronale Netze wie in Figur 1 ein drittes neuronales Netz vorgesehen ist, welches die Ausgabewerte des ersten und/oder zweiten Netzes als Eingabewerte erhält. Optional könnten auch die Funktionen und/oder Gewichte dieses dritten neuronalen Netzes durch Modulationsfunktionen moduliert werden, die beispielsweise aus den Ausgab ewerten des ersten Netzes gebildet werden. Dabei kann es sich um dieselben oder auch um andere Modulationsfunktionen als die für das zweite Netz gebildeten Modulationsfunktionen handeln. Alternativ könnten beispielsweise die Ausgabewerte des dritten Netzes verwendet werden, um zusätzliche Modulationsfunktionen zu bilden, die dann auf das erste und/oder zweite Netz rekursiv angewendet werden.
Es versteht sich, dass diverse weitere Kombinationen entsprechend gekoppelter lernender Einheiten möglich sind, bei denen zumindest zwei der verbundenen Einheiten eine Kopplung durch Bildung von Modulationsfunktionen für die beschreibenden Parameter der Einheiten, insbesondere für den Fall neuronaler Netze für die Gewichte und/oder Funktionen eines Netzes aufweisen. Mit zunehmender Anzahl der gekoppelten Einheiten sind dabei auch komplexere Variationen der Modulationen und Kopplungen denkbar.
Wie bereits anfangs angemerkt, wurden die hier beschriebenen
Ausführungsformen zwar beispielhaft in Bezug auf neuronale Netze beschrieben, können aber grundsätzlich auch auf andere Formen des maschinellen Lernens übertragen werden. Dabei kommen alle Varianten in Betracht, bei denen eine Beeinflussung mindestens einer zweiten künstlich lernenden Einheit durch eine erste künstlich lernende Einheit durch Überlagerung bzw. Modulation auf Grundlage von Ausgabewerten möglich ist. Die Veränderung der Gewichte und Funktionen eines neuronalen Netzes durch Überlagerung mittels
Modulationsfunktionen aus den vorstehenden Beispielen kann durch eine entsprechende Modulierung jedes geeigneten Parameters, der die Funktionsweise einer derartigen lernenden Einheit steuert bzw. beschreibt, ersetzt werden ln den Beispielen kann jeweils der Begriff "lernende Einheit" durch den Spezialfall eines neuronalen Netzes ersetzt werden, und umgekehrt können die beschriebenen neuronalen Netze der beispielhaften Ausführungsformen auch jeweils
verallgemeinert in Form einer künstlich lernenden Einheit implementiert werden, auch wenn es im jeweiligen Beispiel nicht explizit angeführt ist.
Als Beispiele sind neben neuronalen Netzen unter anderem Evolutionäre
Algorithmen, Support Vector Machines (SVM), Entscheidungsbäume sowie jeweilige Spezialformen wie Random Forests oder Genetische Algorithmen bekannt.
Ebenso können neuronale Netze und andere künstlich lernende Einheiten miteinander kombiniert werden. Dabei ist es insbesondere möglich, z.B. das erste neuronale Netz aus den vorstehenden Beispielen, das als schnell kategorisierende Einheit dargestellt wurde, durch eine beliebige andere künstlich lernende Einheit zu ersetzen. Dabei kann auch gezielt eine Methode gewählt werden, die sich für eine schnelle, grobe Klassifizierung von Merkmalen besonders gut eignet. Die Ausgabewerte einer solchen ersten lernenden Einheit können dann aber ebenso, wie es für zwei neuronale Netze beschrieben wurde, zur Bildung von
Modulationsfunktionen für eine zweite künstlich lernende Einheit angewendet werden, die insbesondere wieder ein neuronales Netz sein kann.
Es versteht sich, dass die vorstehend beschriebenen Beispiele beliebig miteinander kombiniert werden können. Beispielsweise kann in jeder der beschriebenen Ausführungsformen auch ein Timer, der in Zusammenhang mit Figur 4 beschrieben wurde, vorhanden sein. Ebenso können die lernenden Einheiten in allen Beispiele Klassifikationsspeicher aufweisen, wie sie als Beispiel in Verbindung mit Figur 5 beschrieben wurde. Alle diese Varianten sind wiederum auf eine Kopplung auch mehrerer künstlich lernender Einheiten anwendbar.

Claims

Patentansprüche
1. Verfahren in einem System aus mindestens zwei künstlich lernenden
Einheiten, umfassend
Eingeben von Eingab ewerten (Xi) an mindestens eine erste künstlich lernende Einheit (110, 310, 410, 510, 610) und eine zweite künstlich lernende Einheit (120, 320, 420, 520, 620);
Erhalten von ersten Ausgab ewerten (Outputl) der ersten künstlich lernenden Einheit (110, 310, 410, 510, 610);
Bilden einer oder mehrerer Modulationsfunktionen (fmod , fmod_w) auf Grundlage der Ausgabewerte (Outputl) der ersten künstlich lernenden Einheit;
Anwenden der gebildeten einen oder mehreren Modulationsfunktionen auf einen oder mehrere Parameter der zweiten künstlich lernenden Einheit (120, 320, 420, 520, 620), wobei die ein oder mehreren Parameter die Verarbeitung von Eingabewerten und das Gewinnen von Ausgabewerten in der zweiten künstlich lernenden Einheit (120, 320, 420, 520, 620) beeinflussen;
Erhalten von zweiten Ausgab ewerten (Output2) der zweiten künstlich lernenden Einheit.
2. Verfahren nach Anspruch 1, wobei mindestens eine der künstlich lernenden Einheiten (110, 120; 310, 320; 410, 420; 510, 520; 610, 620, 630) ein neuronales Netz mit einer Vielzahl von Knoten umfasst, und wobei der ein oder mehrere Parameter mindestens eines der folgenden ist: eine Gewichtung (w ) für einen Knoten des neuronalen Netzes, eine
Aktivierungsfunktion (fakt) eines Knotens, eine Ausgabefunktion (fout) eines Knotens, eine Propagierungsfunktion eines Knotens.
3. Verfahren nach Anspruch 1 oder 2, wobei jeder der künstlich lernenden
Einheiten ein Klassifikationsspeicher (512, 522) zugeordnet ist, wobei jede der künstlich lernenden Einheiten eine Einordnung der
Eingabewerte in ein oder mehrere Klassen (Kl, K2, ..., Kn, Km) vornimmt, welche in dem Klassifikationsspeicher (512, 522) gespeichert sind, wobei die Klassen jeweils in einer oder mehreren abhängigen Ebenen (524) strukturiert sind, und wobei eine Anzahl der Klassen (n) und/oder der Ebenen in einem ersten Klassifikationsspeicher (512) der ersten künstlich lernenden Einheit geringer ist als eine Anzahl der Klassen (m) und/oder der Ebenen in einem zweiten
Klassifikationsspeicher (522) der zweiten künstlich lernenden Einheit.
4. Verfahren nach einem der vorhergehenden Ansprüche, wobei das
Anwenden der mindestens einen Modulationsfunktion eine
zeitabhängige Überlagerung von Parametern der zweiten künstlich lernenden Einheit bewirkt, und wobei die mindestens eine
Modulationsfunktion (fmod , fmod_w) eines der folgenden umfasst: eine periodische Funktion, eine Stufenfunktion, eine Funktion mit kurzzeitig erhöhten Amplituden, eine gedämpfte Schwingungsfunktion, eine Schwebungsfunktion als Überlagerung mehrerer periodischer
Funktionen, eine stetig zunehmende Funktion, eine stetig abnehmende Funktion.
5. Verfahren nach einem der vorhergehenden Ansprüche, wobei die zweite künstlich lernende Einheit ein zweites neuronales Netz mit einer Vielzahl von Knoten umfasst, und wobei das Anwenden der mindestens einen Modulationsfunktion eine Deaktivierung von mindestens einem Teil der Knoten bewirkt.
6. Verfahren nach einem der vorhergehenden Ansprüche, weiter umfassend:
Festlegen einer aktuell dominierenden künstlich lernenden Einheit in dem System, und
Bilden von Gesamtausgabewerten des Systems aus den Ausgabewerten der aktuell dominierenden Einheit.
7. Verfahren nach Anspruch 6, wobei die erste künstlich lernende Einheit
(110, 310, 410, 510, 610) mindestens so lange als dominierende Einheit festgelegt wird, bis ein oder mehrere Ausgabewerte (Output2) der zweiten künstlich lernenden Einheit (120, 320, 420, 520, 620) vorliegen.
8. Verfahren nach Anspruch 6 oder 7,
weiter umfassend einen Vergleich der derzeitigen Eingabewerte mit vorherigen Eingabewerten durch mindestens eine der künstlichen lernenden Einheiten des Systems,
wobei, falls der Vergleich eine Abweichung ergibt, die über einem vorgegebenen Eingabe-Schwellwert liegt, die erste künstlich lernende Einheit (110, 310, 410, 510, 610) als dominierende Einheit festgelegt wird.
9. Verfahren nach einem der Ansprüche 6 bis 8, weiter umfassend einen
Vergleich von derzeitigen Ausgabewerten der ersten künstlich lernenden Einheit mit vorherigen Ausgabewerten der ersten künstlichen Einheit,
wobei, falls der Vergleich eine Abweichung ergibt, die über einem vorgegebenen Ausgabe-Schwellwert liegt, die erste künstlich lernende Einheit als dominierende Einheit festgelegt wird.
10. Verfahren nach einem der Ansprüche 6 bis 9, wobei das System weiter einen Timer (440) umfasst, in dem ein oder mehrere vorgegebene Zeitspannen gespeichert sind, die einer oder mehreren der künstlich lernenden Einheiten (410, 420) zugeordnet sind, und wobei der Timer (440) dazu eingerichtet ist, für jeweils eine der künstlich lernenden Einheiten (410, 420) den Ablauf der dieser Einheit zugeordneten vorgegebenen Zeitspanne zu messen.
11. Verfahren nach Anspruch 10, wobei das Messen der zugeordneten
vorgegebenen Zeitspanne für eine der künstlich lernenden Einheiten gestartet wird, sobald diese künstlich lernende Einheit als dominierende Einheit festgelegt wird.
12. Verfahren nach Anspruch 10 oder 11, wobei die zweite künstlich lernende
Einheit (420) als dominierende Einheit festgelegt wird, falls eine für die erste künstlich lernende Einheit (410) vorgegebene erste Zeitspanne in dem Timer abgelaufen ist.
13. Verfahren nach einem der vorhergehenden Ansprüche, wobei die
Eingabewerte (Xi) mindestens eines der folgenden umfassen: durch einen oder mehrere Sensoren erfasste Messwerte, durch eine
Benutzerschnittstelle erfasste Daten, aus einem Speicher abgerufene Daten, über eine Kommunikationsschnittstelle empfangene Daten, von einer Recheneinheit ausgegebene Daten.
PCT/EP2020/056271 2019-05-21 2020-03-09 Rekursive kopplung von künstlich lernenden einheiten WO2020233850A1 (de)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP20709199.2A EP3973456A1 (de) 2019-05-21 2020-03-09 Rekursive kopplung von künstlich lernenden einheiten
CN202080048132.5A CN114556365A (zh) 2019-05-21 2020-03-09 人工学习单元的递归耦合
US17/612,746 US20220245429A1 (en) 2019-05-21 2020-03-09 Recursive coupling of artificial learning units

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP19175786.3 2019-05-21
EP19175786 2019-05-21

Publications (1)

Publication Number Publication Date
WO2020233850A1 true WO2020233850A1 (de) 2020-11-26

Family

ID=66655138

Family Applications (2)

Application Number Title Priority Date Filing Date
PCT/EP2020/056274 WO2020233851A1 (de) 2019-05-21 2020-03-09 Kopplung von mehreren künstlich lernenden einheiten mit einer projektionsebene
PCT/EP2020/056271 WO2020233850A1 (de) 2019-05-21 2020-03-09 Rekursive kopplung von künstlich lernenden einheiten

Family Applications Before (1)

Application Number Title Priority Date Filing Date
PCT/EP2020/056274 WO2020233851A1 (de) 2019-05-21 2020-03-09 Kopplung von mehreren künstlich lernenden einheiten mit einer projektionsebene

Country Status (4)

Country Link
US (2) US20220292331A1 (de)
EP (2) EP3973456A1 (de)
CN (2) CN114026570A (de)
WO (2) WO2020233851A1 (de)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022122173A1 (de) 2020-12-11 2022-06-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e. V. Avatar-vorrichtung und -verfahren zur repräsentation einer person und zur verarbeitung personenbezogener daten der person
WO2022122172A1 (de) 2020-12-11 2022-06-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e. V. Verfahren und suchplattform-vorrichtung zur verarbeitung von suchanfragen an eine datenbank, die medizinische probendaten und/oder proben enthält
EP4290411A1 (de) 2022-06-09 2023-12-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Halbleiterchip, vorrichtung und system mit dem halbleiterchip sowie verfahren zur herstellung des halbleiterchips oder des systems

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230025430A (ko) 2020-06-16 2023-02-21 인투이셀 에이비 컴퓨터로 구현되거나 하드웨어로 구현되는 엔티티 식별 방법, 컴퓨터 프로그램 제품 및 엔티티 식별을 위한 장치
DE102020130604A1 (de) 2020-11-19 2022-05-19 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung eingetragener Verein Verfahren und System zum Verarbeiten von Eingabewerten
US20220205802A1 (en) * 2020-12-29 2022-06-30 Here Global B.V. Methods and systems for providing navigation assistance
US11893985B2 (en) * 2021-01-15 2024-02-06 Harman International Industries, Incorporated Systems and methods for voice exchange beacon devices
US20230326089A1 (en) * 2021-09-03 2023-10-12 Pabloarts Company Inc. Device for generating data for art-based psychoanalysis and method for augmentation and efficient management of data for art-based psychoanalysis using the same
SE2250135A1 (en) * 2022-02-11 2023-08-12 IntuiCell AB A data processing system comprising first and second networks, a second network connectable to a first network, a method, and a computer program product therefor

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2336227A (en) * 1994-10-13 1999-10-13 Stephen Lee Thaler Artificial neural network device emulates human creativity
WO2018208939A1 (en) * 2017-05-09 2018-11-15 Neurala, Inc. Systems and methods to enable continual, memory-bounded learning in artificial intelligence and deep learning continuously operating applications across networked compute edges

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5155801A (en) * 1990-10-09 1992-10-13 Hughes Aircraft Company Clustered neural networks
US8775341B1 (en) * 2010-10-26 2014-07-08 Michael Lamport Commons Intelligent control with hierarchical stacked neural networks
US11138724B2 (en) * 2017-06-01 2021-10-05 International Business Machines Corporation Neural network classification
US10324467B1 (en) * 2017-12-29 2019-06-18 Apex Artificial Intelligence Industries, Inc. Controller systems and methods of limiting the operation of neural networks to be within one or more conditions

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2336227A (en) * 1994-10-13 1999-10-13 Stephen Lee Thaler Artificial neural network device emulates human creativity
WO2018208939A1 (en) * 2017-05-09 2018-11-15 Neurala, Inc. Systems and methods to enable continual, memory-bounded learning in artificial intelligence and deep learning continuously operating applications across networked compute edges

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
R. SCHWAIGERJ. STEINWENDER: "Neuronale Netze programmieren mit Python", RHEINWERK COMPUTING, 2019
YAN ZHICHENG ET AL: "HD-CNN: Hierarchical Deep Convolutional Neural Networks for Large Scale Visual Recognition", 2015 IEEE INTERNATIONAL CONFERENCE ON COMPUTER VISION (ICCV), IEEE, 7 December 2015 (2015-12-07), pages 2740 - 2748, XP032866619, DOI: 10.1109/ICCV.2015.314 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022122173A1 (de) 2020-12-11 2022-06-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e. V. Avatar-vorrichtung und -verfahren zur repräsentation einer person und zur verarbeitung personenbezogener daten der person
WO2022122172A1 (de) 2020-12-11 2022-06-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e. V. Verfahren und suchplattform-vorrichtung zur verarbeitung von suchanfragen an eine datenbank, die medizinische probendaten und/oder proben enthält
EP4290411A1 (de) 2022-06-09 2023-12-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Halbleiterchip, vorrichtung und system mit dem halbleiterchip sowie verfahren zur herstellung des halbleiterchips oder des systems
WO2023237740A1 (en) 2022-06-09 2023-12-14 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. System comprising a semiconductor chip, and method for manufacturing the system

Also Published As

Publication number Publication date
EP3973457A1 (de) 2022-03-30
CN114026570A (zh) 2022-02-08
WO2020233851A1 (de) 2020-11-26
US20220245429A1 (en) 2022-08-04
US20220292331A1 (en) 2022-09-15
EP3973456A1 (de) 2022-03-30
CN114556365A (zh) 2022-05-27

Similar Documents

Publication Publication Date Title
EP3973456A1 (de) Rekursive kopplung von künstlich lernenden einheiten
EP1183619B1 (de) Situationsabhängig operierendes semantisches netz n-ter ordnung
DE102017008475B4 (de) Maschinenlernvorrichtung, robotersystem und maschinenlernverfahren zum erlernen eines roboter-betriebsprogramms
DE102005046747B3 (de) Verfahren zum rechnergestützten Lernen eines neuronalen Netzes und neuronales Netz
DE112018003231T5 (de) Neuromorphe verarbeitungsvorrichtung
DE112013001449T5 (de) Fahrzeug-Integritäts- und Qualitätskontrollmechanismus in mehreren Ebenen
DE102017003427A1 (de) Produktionssystem zur Durchführung eines Produktionsplans
DE102018222720A1 (de) Überwachung von auf neuronalen Netzwerken basierten Fahrfunktionen
DE102020212515A1 (de) Verfahren und Vorrichtung zum Trainieren eines maschinellen Lernsystems
EP4248284A1 (de) Verfahren und system zum verarbeiten von eingabewerten
DE202011110730U1 (de) Kognitiver Bearbeitungskopf zum Bearbeiten von Werkstücken
EP3785178B1 (de) Verfahren und vorrichtung zum ermitteln einer netzkonfiguration eines neuronalen netzes
EP3891561A1 (de) Steuereinrichtung zur steuerung einer fertigungsanlage sowie fertigungsanlage und verfahren
DE102020212514A1 (de) Verfahren zur Ermittlung eines Ausgabesignals mittels eines maschinellen Lernsystems
DE102021201833A1 (de) Vorrichtung zur Verarbeitung von mindestens einem Eingangsdatensatz unter Verwendung eines neuronalen Netzes sowie Verfahren
DE102019130484A1 (de) Verfahren und Vorrichtung zum Anlernen eines Ensembles von neuronalen Netzen
DE102020209979A1 (de) Verfahren und Vorrichtung zum Erkennen eines Objekts aus Eingabedaten
EP3748574A1 (de) Adaptive bereinigung von messdaten um unterschiedliche arten von störungen
DE102020209900A1 (de) Verfahren und Analysiereinrichtung zum Verarbeiten von Umfeldsensordaten
EP3853778A1 (de) Verfahren und vorrichtung zum betreiben eines steuerungssystems
DE102022205824A1 (de) Verfahren und Vorrichtung zum Trainieren eines neuronalen Netzes
EP3489774B1 (de) Automatisierte ermittlung einer parametrierung eines auswerteverfahrens
WO2020094415A1 (de) Messverfahren und messvorrichtung zur ermittlung einer technischen eigenschaft eines programmcodes zur ansteuerung eines elektronischen geräts
EP3699710A1 (de) Verfahren und vorrichtung zum strukturierten bereitstellen von informationen eines produktionssystems und/oder einer produktionssystemkomponente
DE102020209343A1 (de) Vorrichtung und Verfahren zum Konfigurieren eines neuronalen Netzwerks zur Verarbeitung von Sensordaten

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20709199

Country of ref document: EP

Kind code of ref document: A1

DPE1 Request for preliminary examination filed after expiration of 19th month from priority date (pct application filed from 20040101)
NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2020709199

Country of ref document: EP

Effective date: 20211221