DE4137863C2 - Device for analog signal processing based on the principle of the neuron - Google Patents

Device for analog signal processing based on the principle of the neuron

Info

Publication number
DE4137863C2
DE4137863C2 DE4137863A DE4137863A DE4137863C2 DE 4137863 C2 DE4137863 C2 DE 4137863C2 DE 4137863 A DE4137863 A DE 4137863A DE 4137863 A DE4137863 A DE 4137863A DE 4137863 C2 DE4137863 C2 DE 4137863C2
Authority
DE
Germany
Prior art keywords
module
signal
amplifier
output
signals
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
DE4137863A
Other languages
German (de)
Other versions
DE4137863A1 (en
Inventor
Gerhard Dr Manteuffel
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to DE4137863A priority Critical patent/DE4137863C2/en
Publication of DE4137863A1 publication Critical patent/DE4137863A1/en
Application granted granted Critical
Publication of DE4137863C2 publication Critical patent/DE4137863C2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G06N3/065Analogue means

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Feedback Control In General (AREA)

Description

Die Erfindung betrifft eine Vorrichtung zur analogen Signalverarbeitung nach dem Prinzip des Neurons, mit wenigstens einem Summierschaltkreis, welcher eine Vielzahl von Eingängen aufweist, die Signale aufnehmen.The invention relates to a device for analog Signal processing based on the principle of the neuron, with at least one summing circuit which is a plurality of inputs that receive signals.

Aus natürlichen Nervenzellen bzw. Neuronen aufgebaute Netzwerke, also die Gehirne, beweisen ihre Eignung für intelligente senso-motorische Problemlösungen.Made up of natural nerve cells or neurons Networks, i.e. the brains, prove their suitability for intelligent senso-motor problem solutions.

Es ist daher ein naheliegender Gedanke, die Eigenschaften natürlicher Neuronen möglichst weitgehend in technischen Apparaten zu simulieren, damit technische neuronale Netz­ werke aufgebaut werden können, welche durch selbst­ organisierende Anpassung an die erforderlichen Eingabe- Ausgabe-Verhältnisse zur Lösung vielfältiger Probleme eingesetzt werden können. Derartige neuronale Netzwerke werden bei Problemstellungen angewendet, die klassisch im Bereich der sogenannten künstlichen Intelligenz ange­ siedelt sind. Dabei wird ein anliegendes Eingangssignal über ein Netzwerk aus relativ einfach aufgebauten technischen Neuronen geschickt, in denen es durch sub­ symbolische Informationsverarbeitung zu dem gewünschten Ausgangssignal aufbereitet wird. Die Signalverarbeitung geschieht aufgrund der verschiedenen Übertragungsstärken in den technischen Neuronen sowie durch unterschiedliche Wichtungen. Diese werden in Analogie zu natürlichen Nervensystemen als "synaptische Gains" bezeichnet. Eine Zusammenfassung dieses "Parallel Distributed Processing" findet sich bei Rummelhart, D. E. und Mc Clelland, J.L. Parallel distributed processing, Bd. 1 u. 2, MIT-Press, Cambridge, Massachusetts, USA (1986).It is therefore an obvious thought, the properties natural neurons as much as possible in technical ones Simulate apparatus so that technical neural network works can be built, which by yourself Organizing adjustment to the required input Output ratios to solve a variety of problems  can be used. Such neural networks are used for problems that are classic in the field of so-called artificial intelligence are settled. An input signal is present over a network of relatively simple structures sent technical neurons, in which it is sub symbolic information processing on the desired Output signal is processed. The signal processing happens due to the different transmission strengths in the technical neurons as well as through different ones Weightings. These are analogous to natural ones Nervous systems referred to as "synaptic gains". A Summary of this "parallel distributed processing" can be found in Rummelhart, D.E. and Mc Clelland, J.L. Parallel distributed processing, Vol. 1 u. 2, MIT press, Cambridge, Massachusetts, USA (1986).

Heutzutage werden die neuronalen Netzwerke üblicherweise auf Standardcomputern als Software implementiert, wobei die Parallelität der Verarbeitung jedoch nur simuliert wird. Dies führt dazu, daß die an sich typische hohe Verarbeitungsgeschwindigkeit, die Parallel-Netzwerk- Architekturen eigen ist, verlorengeht und komplexe Operationen, die derartige vielschichtige Netze erfordern, nur langsam ablaufen. Daher sind On-Line-Steuerungen mit solchen "Software-Netzen" nur in wenigen einfachen Fällen möglich.Nowadays, the neural networks are common implemented as software on standard computers, whereby however, the parallelism of the processing is only simulated becomes. This leads to the typical high per se Processing speed, the parallel network Architectures are inherent, lost and complex Operations that require such multi-layered networks run slowly. Therefore on-line controls are included such "software networks" only in a few simple cases possible.

Existierende Hardware-Netze beseitigen zwar diesen Nach­ teil, jedoch sind sie insofern unzulänglich, als daß sie einerseits nur sehr aufwendig programmierbar sind, üblicherweise über sogenannte Error-Backpropagation- Algorithmen. Im übrigen zeigen sie meist nach wie vor einen digitalen Aufbau, bei dem die Neuronenzustände lediglich die Werte 0 und 1 oder -1, 0 und +1 annehmen können. Existing hardware networks eliminate this problem part, but they are inadequate in that they on the one hand, can only be programmed in a very complex manner, usually via so-called error back propagation Algorithms. Otherwise, they mostly still show a digital structure in which the neuronal states only assume the values 0 and 1 or -1, 0 and +1 can.  

Es sind analoge Neuronen bekannt, die als analoge Summierer mit Tiefpaßverhalten aufgefaßt und beschrieben werden können. Sie können eine wesentlich effektivere Verarbeitung leisten. Wiederum verbleibt jedoch das Problem der Programmierung bzw. das der Anpassung der Übertragungsstärken. Diese Problematik ist bei Abu-Mostafa, Y.: Complexity in Neural Systems; Appendix D, S. 353-358, in: Carver Mead "Analog VLSI and Neural Systems", Addison-Wesley Publ. Corp., Reading, Massachusetts, USA (1989), erläutert. Analog neurons are known to be analog Summers with low-pass behavior understood and described can be. You can be a much more effective one Afford processing. Again, however, that remains Problem of programming or adapting the Transmission strengths. This problem is with Abu-Mostafa, Y .: Complexity in Neural Systems; Appendix D, Pp. 353-358, in: Carver Mead "Analog VLSI and Neural Systems ", Addison-Wesley Publ. Corp., Reading, Massachusetts, USA (1989).  

In der Zeitschrift TECHNISCHE RUNDSCHAU 2/89 werden auf den Seiten 34 bis 39 neuronale Netzwerke als Computersysteme beschrieben, die nach der Art und Weise des menschlichen Gehirns arbeiten. Sie basieren auf einer großen Zahl von Einzelprozes­ soren, die durch ein dichtes Netz von parallelen Verbindungen miteinander wechselwirken. Ein Ausgangssignal verbreitet sich fächerartig über verschiedene Verbindungswege und wird an den Zielorten als Eingangssignal empfangen. Jeder Prozessor besitzt einen kleinen lokalen Speicher, der Werte früherer Berechnungen speichert, sowie einen gegebenenfalls veränderbaren Faktor, mit dem die einlaufenden Signale multipliziert werden. Dieser Faktor simuliert die synaptischen Kontakte, er bestimmt nämlich die Stärke der Verbindung zwischen benachbarten, an sich unabhängigen Prozessoren. Die Transferfunktion der Prozessoren summiert die gewichteten einlaufenden Signale und bestimmt aufgrund der gewählen Schwellenlogik die Stärke des Ausgangssignal. Dabei bestimmt der Verbindungsaufbau zwischen den Prozessoren, welche Aufgaben ein neuronales Netz ausführen kann, denn er legt fest, welche Daten welchen Prozessoren zur Verarbeitung zugeführt werden können. Zur konkreten Realisierung eines solchen neuronalen Netzwerkes durch hardwaremäßige Komponenten wird allerdings nichts ausgesagt.In the magazine TECHNISCHE RUNDSCHAU 2/89 the Pages 34 to 39 neural networks as computer systems described by the way the human brain work. They are based on a large number of individual processes sensors through a dense network of parallel connections interact with each other. An output signal spreads fan-like over different connection paths and is to the Receive destinations as an input signal. Every processor owns a small local memory, the values of previous calculations saves, as well as a possibly changeable factor with which the incoming signals are multiplied. That factor simulates the synaptic contacts, namely it determines the Strength of the connection between neighboring, in itself independent Processors. The transfer function of the processors sums up the weighted incoming signals and determined based on the choose threshold logic the strength of the output signal. Here the connection establishment between the processors determines which Tasks a neural network can perform because it determines which data is supplied to which processors for processing can be. For the concrete realization of such a neural Network through hardware components is however nothing testified.

Die EP-A 0 395 112, die zur Bildung des Oberbegriffes von Patent­ anspruch 1 herangezogen wurde, beschreibt einen Algorithmus für ein neuronales Netzwerk, der für die Implementierung auf einem von Neumann-Rechner, also einem seriellen Digitalcomputer, vorgesehen ist. Es wird eine Abwandlung der häufig für diese Art von Algorithmen verwendeten "Back-Propagation-Lernregel" für die Veränderung der als reine Zahlenwerte vorliegenden synaptischen Gewichte verwendet.EP-A 0 395 112, which forms the preamble of patent Claim 1 was used describes an algorithm for a neural network that is designed for implementation on one of Neumann computer, that is, a serial digital computer is. It will be a variation of the common for this type of Algorithms used "back propagation learning rule" for that Change in the synaptic values that exist as pure numerical values Weights used.

Es ist die Aufgabe der vorliegenden Erfindung, eine analog arbeitende, fest verdrahtete Vorrichtung zur elektronischen Signalverarbeitung nach dem Prinzip des Neurons zu schaffen, bei der die Fähigkeit des Veränderns des Übertragungsverhaltens, wie sie auch bei natürlichen Neuronen auftritt, auf einfache Weise verwirklicht werden kann.It is the object of the present invention, an analog working, hard-wired device for electronic To create signal processing based on the principle of the neuron of the ability to change transmission behavior, such as it also occurs in natural neurons in a simple way can be realized.

Diese Aufgabe wird von einer Vorrichtung nach Patentanspruch 1 gelöst. Vorteilhafte Ausgestaltungen sind Gegenstand der Unteransprüche.This object is achieved by a device according to claim 1 solved. Advantageous refinements are the subject of Subclaims.

Erfindungsgemäß ist jeder der Eingänge des Summierschaltkreises mit einem aktivierenden Modul geschaltet, das wenigstens eine der folgenden Charakteristiken zeigt:According to the invention, each of the inputs of the summing circuit is switched with an activating module that at least one of the shows the following characteristics:

  • a) Verstärkung eines ersten einlaufenden Signals mit konstantem Übertragungsfaktor über einen Eingangsverstärker und ein Zeit­ glied;a) amplification of a first incoming signal with constant Transmission factor via an input amplifier and a time element;
  • b) Invertierung des ersten einlaufenden Signals mit konstantem Übertragungsfaktor über den Eingangsverstärker, das Zeitglied und einen Inverter;b) inversion of the first incoming signal with constant Transmission factor via the input amplifier, the timing element and an inverter;
  • c) Übertragung des ersten einlaufenden Signals nur dann, wenn der Pegel eines Referenz-Signals kleiner oder gleich einem für das Modul charakteristischen ersten vorbestimmten Wert ist, über ein Shunt-Element, einen Verstärker und das Zeitglied;c) transmission of the first incoming signal only if the Level of a reference signal less than or equal to one for the Module characteristic is a predetermined first value Shunt element, an amplifier and the timing element;
  • d) Übertragung des ersten einlaufenden Signals mit variablem Übertragungsfaktor nur dann, wenn der Pegel des Signals einen für das Modul charakteristischen zweiten vorbestimmten Wert und der Wert wenigstens eines weiteren einlaufenden Signals einen für das Modul charakteristischen vorbestimmten Wert gleichzeitig über­ schreiten, wobei die Signale zwei Schwellwertgebern zugeführt werden, deren Ausgänge eine UND-Verknüpfung aufweisen, welcher ein ADD/SUB-Element nachgeschaltet ist, über dessen Ausgang ein Verstärker mit variablem Verstärkungsfaktor ansteuerbar ist.d) transmission of the first incoming signal with variable Transmission factor only if the level of the signal is one for the module characteristic second predetermined value and the Value of at least one further incoming signal one for the Module characteristic predetermined value at the same time over step, the signals being fed to two threshold value transmitters whose outputs have an AND operation, which is a ADD / SUB element is connected downstream via its output Amplifier with a variable gain factor can be controlled.

Bei natürlichen neuronalen Netzwerken erreichen die Signale die Neuronen über Synapsen als Kontaktstellen. Diese Synapsen werden erfindungsgemäß durch die aktivierenden Module simuliert. Sie wandeln das jeweils bei ihnen einlaufende frequenz- oder amplitudenmodulierte analoge Signal entsprechend einer spezifischen Über­ tragungsfunktion in ein "intrazelluläres" positives oder negatives amplitudenmoduliertes Analogsignal um. Die Ausgabesignale aller Module werden gegebenenfalls tief­ paßgefiltert und summiert. Der einen bestimmten Schwell­ wert überschreitende Anteil des summierten Signales kann dann analog an eine "Synapse" eines weiteren technischen Neurons oder eine motorische Einheit weitergeleitet werden.In natural neural networks, the Signals the neurons via synapses as contact points. These synapses are inventively by the activating modules simulated. They change that each time frequency or amplitude modulated arriving at them analog signal corresponding to a specific over carrying function into an "intracellular" positive or negative amplitude modulated analog signal. The Output signals from all modules may become low pass-filtered and summed. A certain threshold portion of the summed signal that exceeds the value then analog to a "synapse" of another technical Neurons or a motor unit relayed become.

Mit der vorliegenden Erfindung lassen sich vier Typen von synaptischen Verbindungen bei den Modulen realisieren, nämlich eine erregende, summative Synapse mit konstantem Übertragungsfaktor, eine hemmende, summative Synapse mit konstantem Übertragungsfaktor, eine die Signalübertragung blockierende Synapse sowie eine summative Synapse mit variablem Übertragungsfaktor nach der Hebb′schen Regel.Four types of implement synaptic connections in the modules, namely an exciting, summative synapse with constant Transmission factor, an inhibitory, summative synapse with constant transmission factor, the signal transmission blocking synapse as well as a summative synapse with variable transmission factor according to Hebb's rule.

Die Hebb′sche Regel bezeichnet das empirisch bei Nerven­ zellen nachgewiesene Lernverhalten, vgl. dazu "Trends in Neurosciences, Elsevier Publication, Cambridge, UK, Vol. 11, No. 4 (1988). Synaptische Verbindungen, die der Hebb′schen Regel folgen, verstärken ihren Übertragungs­ faktor, wenn ein Eingangssignal gleichzeitig mit einer überschwelligen Summe aller anderen Signale, die die Verbindung erreichen, vorliegt. Es liegt damit eine koinzidenzabhängige Übertragungsverstärkung vor, wobei der Übertragungs-Gain bei Koinzidenz allmählich bis auf einen Sättigungswert anwächst. Falls längere Zeit keine weitere Koinzidenz mehr auftritt, fällt dieser langsam wieder ab, was als synaptisches Vergessen bezeichnet wird. Die zeitliche Änderung des Zuwachses bzw. der Ab­ nahme im Modul mit variablem Übertragungsfaktor erfolgt nach:Hebb's rule empirically describes this in nerves cells-proven learning behavior, cf. "Trends in  Neurosciences, Elsevier Publication, Cambridge, UK, Vol. 11, No. 4 (1988). Synaptic connections that the Follow Hebb's rule, reinforce their transmission factor when an input signal coincides with a above-threshold sum of all other signals that the Reach the connection. So there is one coincidence-dependent transmission gain, where the transfer gain gradually coincides up to a saturation value increases. If not for a long time If there is more coincidence, it slowly falls again what is called synaptic forgetting becomes. The temporal change of the growth or the Ab in the module with a variable transmission factor to:

Es ist θh die Schwelle, die der Summenwert S aller Eingangssig­ nale UIj überschreiten muß, um die Funktion a(t) zu aktivieren, θi ist der Schwellenwert des Eingabesignales zur Aktivierung von a(t).It is θ h the threshold that the sum value S of all input signals U Ij must exceed in order to activate the function a (t), θ i is the threshold value of the input signal for activating a (t).

In der Regel ist der Wert für L sehr viel größer als der für V, d. h. also, es wird schneller gelernt als vergessen.As a rule, the value for L is much larger than that for V,  d. H. so it is learned faster than forgotten.

Nach einer bevorzugten Ausführungsform der Erfindung ist wenigstens ein aktivierendes Modul vorgesehen, bei dem eine Verstärkung des einlaufenden Signals nur dann erfolgt, wenn der Pegel eines Referenzsignales größer oder gleich einem für das Modul charakteristischen ersten vorbestimmten Wert ist. Mit einem solchen Modul werden die synaptischen Verbindungen sozu­ sagen einem Vetorecht unterworfen, was praktisch bedeutet, daß sie zumindest zeitweise abgeschaltet werden können.According to a preferred embodiment of the invention at least one activating module is provided, in which one The incoming signal is only amplified if the Level of a reference signal greater than or equal to one for the Module characteristic is first predetermined value. With the synaptic connections become such a module say subject to veto, which in practice means that they can be switched off at least temporarily.

Die erfindungsgemäße Vorrichtung erlaubt es damit, Assoziationen zwischen den verschiedenen Eingabesignalen herzustellen, die letztlich auch Kausalbeziehungen der Umwelt repräsentieren können. Diese technischen Neuronen sind daher geeignet, als Grundbausteine kognitiver Systeme eingesetzt zu werden, wie sie für die künstliche Intelligenz erforderlich sind. Insbesondere agierende Systeme, wie beispielweise Roboter, können, - geeignete Sensoren vorausgesetzt - durch Lernen Verhaltens­ weisen entwickeln, die es ihnen erlauben, in einer beliebigen Umgebung zu arbeiten. Durch Verwendung aktivierender Module, die nach der Hebb′schen Regel arbeiten, ist weiterhin die Möglichkeit der Selbstkalibrierung und Fehlerelimination durch selbsttätige Neukalibrierung gegeben; vgl. dazu G. Manteuffel in "Synapse, Transmission, Modulation", N. Elsner u. H. Penzlin, Hrsg., Thieme Verlag, Stuttgart (1991). Nunmehr ist eine analoge Summierung von Eingangssignalen möglich, ähnlich wie dies natürliche Neuronen durchführen. Dadurch wird auf prinzipiell engstem Raum eine große Rechenleistung verwirklicht. Der wesentliche Fortschritt jedoch liegt in der Selbstpro­ grammierung der erfindungsgemäßen Vorrichtung nach einer bio­ logisch begründeten Koinzidenzregel, welche automatisch kausalitätsdetektierend ist. Bei Verwendung der Vorrichtung als Modul in einem komplexen Netzwerk wird auch dieses selbst­ programmierend. Es wird eine hohe Verarbeitungsgeschwindigkeit erreicht, die nicht zuletzt durch die echte Parallelität in der analogen Signalverarbeitung bedingt ist. Die Lernfähigkeit nach einer erwiesenermaßen in biologischen Systemen erfolgreichen Regel beinhaltet insbesondere das Vergessen irrelevanter Information nach einer festlegbaren Zeitfunktion.The device according to the invention thus allows associations between the different input signals that ultimately also represent causal relationships of the environment can. These technical neurons are therefore suitable as Basic building blocks of cognitive systems to be used as they are are required for artificial intelligence. Especially operating systems, such as robots, can - provided suitable sensors - by learning behavior develop ways that allow them to work in any Work environment. By using activating modules, who work according to Hebb's rule is still the Possibility of self-calibration and error elimination through automatic recalibration given; see. in addition G. Manteuffel in "Synapse, Transmission, Modulation", N. Elsner u. H. Penzlin, Ed., Thieme Verlag, Stuttgart (1991). Now is one analog summation of input signals possible, similar to do this natural neurons. This will turn on principally confines a large computing power. The main progress, however, is in self-pro gramming of the device according to the invention according to a bio logically based coincidence rule, which is automatic is causality-detecting. When using the device as a module in a complex network, this too becomes itself programming. It will have a high processing speed  achieved, not least by the real parallelism in the analog signal processing is required. The ability to learn after one proven to be successful in biological systems Rule especially includes forgetting irrelevant Information according to a definable time function.

Für die Anwendung der erfindungsgemäßen Vorrichtung ergeben sich vielfältige Möglichkeiten. Eine davon ist die des Lehr­ mittels in Schulen und Universitäten, wobei anatomisch und physiologisch bekannte Neuronennetze nachgebaut und in ihrer Funktion untersucht werden können. Dies ermöglicht nicht nur die Vermeidung von Tierexperimenten, sondern erlaubt auch eine Analyse, wie sie im echten Präparat nur mit sehr großem Aufwand durchführbar ist.Result for the application of the device according to the invention yourself diverse possibilities. One of them is that of teaching means in schools and universities, being anatomical and recreated physiologically known neuron networks and in their Function can be examined. This not only enables avoiding animal experiments, but also allows one Analysis, as in the real preparation, only with great effort is feasible.

Eine weitere Anwendung im größeren Rahmen stellt die Steuerung autonomer Roboter dar. Hier kann besonders die Fähigkeit der Vorrichtung, zeitliche Koinzidenz für die synaptischen Veränderungen heranzuziehen, die Entwicklung adaptiver Anpassungen auch in einer wenig vordefinierbaren Umwelt bewirken.The controller is another application on a larger scale autonomous robot. The ability of the Device, temporal coincidence for the synaptic To use changes, the development of adaptive Adjustments even in an environment that is not very predefined cause.

Bei der praktischen Durchführung hat es sich bewährt, daß wenigstens ein aktivierendes Modul vorgesehen ist, bei welchem die Übertragung mit variablem Übertragungsfaktor erfolgt, wobei der Übertragungsfaktor nur dann ansteigt, wenn die Summe wenig­ stens zweier Ausgangssignale der übrigen aktivierenden Module größer oder gleich einem voreingestellten Wert ist.In practice, it has been proven that at least one activating module is provided, in which the transmission takes place with a variable transmission factor, whereby the transfer factor only increases when the sum is little at least two output signals from the other activating modules is greater than or equal to a preset value.

Das Modul mit variablem Übertragungsfaktor besteht bevorzugt aus zwei Schwellwertgebern mit UND-Verknüpfung, einem Addier- Subtrahier-Element sowie einem Verstärker mit variablem Ver­ stärkungsfaktor, wobei die Ausgänge über eine UND-Verknüpfung mit dem Addier-Subtrahier-Element verbunden sind, über dessen Ausgang der Verstärker ansteuerbar ist. The module with a variable transmission factor is preferred consisting of two threshold value transmitters with AND operation, an adding Subtracting element and an amplifier with variable Ver gain factor, the outputs via an AND link are connected to the add-subtract element, via the Output of the amplifier can be controlled.  

Weiter kann das Modul mit variablem Übertragungsfaktor einen Speicher umfassen.Furthermore, the module with a variable transmission factor Include storage.

Für ein schnelles "Vergessen" kann eine Rücksetzschaltung zum Deaktivieren des Speichers vorgesehen sein.For a quick "forgetting" a reset circuit for Deactivation of the memory can be provided.

Es sei angemerkt, daß die UND-Bedingung, die den Verstärkungsan­ stieg ermöglicht, immer dann erfüllt ist, wenn das Signal am Gain-variablen Eingang einen bestimmten Wert übersteigt und gleichzeitig das Summensignal aller anderen Eingänge eine charakteristische Schwelle übersteigt. Das Ausgangssignal des Moduls mit variablem Übertragungsfaktor und das Summensignal aller anderen Module werden auf einen weiteren Summierschalt­ kreis gegeben.It should be noted that the AND condition that the gain an rose, is always fulfilled when the signal on Gain variable input exceeds a certain value and at the same time the sum signal of all other inputs one characteristic threshold exceeds. The output signal of the Module with variable transmission factor and the sum signal all other modules are connected to another summing circuit given circle.

Auch kann dem Summierverstärker eine Einrichtung zum Erzeugen eines unipolaren Signals mit einem variablen Offset nachge­ schaltet sein. Das hierdurch entstehende Signal ist das Aus­ gangssignal des Neurons zur Weiterleitung an andere Neuronen.The summing amplifier can also be provided with a device for generating of a unipolar signal with a variable offset be switched. The resulting signal is the end output signal of the neuron for transmission to other neurons.

Insbesondere wenn die erfindungsgemäße Vorrichtung als Lehr­ mittel verwendet wird, kann dem Summierschaltkreis weiterhin ein Verstärkermodul mit einem Offset-Verstärker nachgeschaltet werden, welcher ein negatives Potential zur Simulation des natürlichen Nervenzellruhepotentials erzeugt, indem die Aus­ gangssignale der aktivierenden Module addiert werden. Weiterhin kann der Einrichtung zum Erzeugen eines unipolaren Signals eine Einrichtung zum Umwandeln des unipolaren Signals in eine pul­ sierende Gleichspannung nachgeschaltet sein, deren Ausgabesig­ nale einem Spike-Generator aufgegeben werden. Somit lassen sich Signale erzeugen, die den natürlich vorkommenden Aktions­ potentialen weitgehend entsprechen.Especially when the device according to the invention as a teaching medium is used, the summing circuit can continue an amplifier module with an offset amplifier connected downstream which has a negative potential for simulating the natural nerve rest potential generated by the Aus output signals of the activating modules are added. Farther can the device for generating a unipolar signal Device for converting the unipolar signal into a pul DC voltage must be connected downstream, the output signal a spike generator. So you can Generate signals that match the naturally occurring action largely correspond to potentials.

Im folgenden soll die Erfindung lediglich beispielhaft anhand der beigefügten Zeichnungen näher beschrieben werden. Es zeigt:In the following, the invention is only intended to be used as an example  of the accompanying drawings. It shows:

Fig. 1 eine Schemadarstellung der erfindungsgemäßen Vorrichtung, Fig. 1 is a schematic representation of the device according to the invention,

Fig. 2 eine Skizze, die das Schwellenverhalten der erfindungsgemäßen Vorrichtung andeuten soll; Fig. 2 is a diagram intended to indicate the threshold behavior of the device according to the invention;

Fig. 3 ein Blockschaltbild einer bevorzugten Aus­ führungsform der erfindungsgemäßen Vorrichtung; Fig. 3 is a block diagram of a preferred embodiment of the device according to the invention;

Fig. 4 ein Schaltbild eines aktivierenden Moduls, bei dem eine Schwächung des einlaufenden Signals mit konstantem Übertragungsfaktor erfolgt; Fig. 4 is a circuit diagram of an activating module in which occurs a weakening of the incoming signal with a constant gain;

Fig. 5 ein Schaltbild eines aktivierenden Moduls, bei dem eine Verstärkung des einlaufenden Signals einem Vetorecht unterworfen ist; Fig. 5 is a circuit diagram of an activating module in which a gain of the incoming signal is subjected to a veto;

Fig. 6 ein Schaltbild eines Moduls mit variablem Über­ tragungsfaktor; Fig. 6 is a circuit diagram of a module with a variable transmission factor;

Fig. 7 ein Schaltbild des Summierschaltkreises, wie er in der erfindungsgemäßen Vorrichtung verwendet wird; Fig. 7 is a circuit diagram of the summing circuit, as used in the inventive device;

Fig. 8 ein Schaltbild eines Moduls, mit dem ein negatives Ruhepotential bei Neuronen simuliert wird; Fig. 8 is a circuit diagram of a module to which a negative resting potential is simulated in neurons;

Fig. 9 ein Schaltbild eines Moduls zum Aufbereiten des Signals für den Ausgang der synaptischen Ver­ bindung; Fig. 9 is a circuit diagram of connection of a module for processing the signal for the output of the synaptic Ver;

Fig. 10 ein Schaltbild eines Spannungsfrequenzwandlers; und Fig. 10 is a circuit diagram of a voltage-frequency converter; and

Fig. 11 ein Schaltbild eines Spike-Generators. Fig. 11 is a diagram of a spike generator.

Fig. 1 zeigt schematisch den Aufbau der erfindungsgemäßen Vor­ richtung. Der Summierschaltkreis ist darin durch einen Kreis angedeutet, an den, lediglich stilisiert dargestellt, aktivierende Module a, d, b unterschiedlicher Typen gelegt sind. Dabei sind Module a vorgesehen, die eine Verstärkung des einlaufenden Signals mit konstantem Übertragungsfaktor bewirken, Module b, die eine Hemmung des einlaufenden Signals mit konstantem Übertragungsfaktor bewirken sowie Module d mit variablem Übertragungsfaktor, deren Funktionsweise weiter unten noch genauer erläutert wird. Jedes dieser Module kann einem Vetorecht unterworfen sein, indem eine Schaltung c vorgesehen ist, welche eine Übertragung des einlaufenden Signales nur dann bewirkt, wenn der Pegel eines Referenzsignales kleiner oder gleich einem für das Modul charakteristischen ersten vorbe­ stimmten ersten Wert ist. Eine solche Schaltung ist als Shunt- Schaltung bekannt. Je nach den Erfordernissen, denen die erfindungsgemäße Vorrichtung ausgesetzt ist, können jeweils mehrere der Module a, b, d vorgesehen sein. Sämtliche Ein­ gänge des Summierschaltkreises weisen jeweils einen Tiefpaßfilter auf, was hier lediglich durch die formelmäßige Darstellung der Durchlaßcharakteristik angedeutet ist. Dabei werden einlaufende Signale Ui einer exponentiellen Schwächung mit dem Faktor 1 - e-t/ τ unterworfen, woraufhin das sich ergebende Ausgangssignal Ua weiterverarbeitet wird. Dieses erfolgt durch eine geeignete Summenbildung, was wiederum nur symbolisch angedeutet ist. Letztendlich stehen Ausgangssignale U′a zur Verfügung, die ausgewertet oder anderen technischen Einheiten zugeführt werden können. Fig. 1 shows schematically the structure of the device according to the invention. The summing circuit is indicated therein by a circle, to which activating modules a, d, b of different types are shown, merely shown in a stylized manner. Modules a are provided that amplify the incoming signal with a constant transmission factor, modules b that inhibit the incoming signal with a constant transmission factor and modules d with a variable transmission factor, the functioning of which is explained in more detail below. Each of these modules can be subject to veto by providing a circuit c which only transmits the incoming signal if the level of a reference signal is less than or equal to a first predetermined first value characteristic of the module. Such a circuit is known as a shunt circuit. Depending on the requirements to which the device according to the invention is exposed, several of the modules a, b, d can be provided. All of the inputs of the summing circuit each have a low-pass filter, which is only indicated here by the formulaic representation of the pass characteristic. Incoming signals Ui are subjected to exponential weakening with the factor 1 - e -t / τ , whereupon the resulting output signal U a is processed further. This is done by a suitable sum formation, which in turn is only indicated symbolically. Ultimately, output signals U ' a are available which can be evaluated or fed to other technical units.

Mit der erfindungsgemäßen Vorrichtung werden die Eingangssignale abhängig von einem sich variabel einstellenden Schwellenwert weitergegeben. Dieses Schwellwertverhalten ist wiederum schematisch in Fig. 2 dargestellt. Dabei gibt die Abszisse den Wert des Signalpegels an. Bei Erreichen des Wertes wird die Sperrwirkung in der erfindungsgemäßen Vorrichtung aufgehoben.With the device according to the invention, the input signals are passed on as a function of a variably setting threshold value. This threshold value behavior is again shown schematically in FIG. 2. The abscissa indicates the value of the signal level. When the value is reached, the blocking effect in the device according to the invention is canceled.

In Fig. 3 ist ein Blockschaltbild für eine bevorzugte Aus­ führungsform der erfindungsgemäßen Vorrichtung angegeben. Es sind zwei Module A vorgesehen, die eine inhibitorische Synapse simulieren, die also das einlaufende Signal invertieren. Für diese Module A ist keine Vetomöglichkeit vorgesehen; sie weisen daher nur einen Eingang auf, der mit SYN1 bezeichnet ist. Drei weitere Module B, die ein einlaufendes Signal mit konstantem Übertragungsfaktor verstärken, können durch ein Shunt-Signal (Veto-Signal) so beeinflußt werden, daß ein Ein­ gangssignal, das auf den Eingang SYN1 geführt wird, nur dann zur Weiterverarbeitung weitergeleitet wird, wenn an den Ein­ gängen SYN2 dieser Module B kein Eingangssignal liegt bzw. ein bestimmter Pegel dieser Eingangsignale nicht überschritten wird. Sind die Voraussetzungen für die Weiterleitung gegeben, dann werden die Signale der Module A, B über entsprechend vorge­ sehene Leitungen SYN3 auf die Eingänge SUM1 bis SUM5 eines Summierschaltkreises S gegeben, wobei sie hierin einem ersten Summierer S1 zugeführt werden, welcher ein Summensignal erzeugt, das einerseits zu einem zweiten Summierer S2 geleitet wird, andererseits über einen Ausgang SUM6 auf ein noch näher zu beschreibendes Modul D.In Fig. 3 is a block diagram for a preferred embodiment of the device according to the invention is given. Two modules A are provided which simulate an inhibitory synapse, ie which invert the incoming signal. No veto option is provided for these modules A; they therefore have only one input, which is designated SYN1. Three other modules B, which amplify an incoming signal with a constant transmission factor, can be influenced by a shunt signal (veto signal) so that an input signal that is fed to input SYN1 is only forwarded for further processing if there is no input signal at the inputs SYN2 of these modules B or a certain level of these input signals is not exceeded. If the prerequisites for the forwarding are given, then the signals of the modules A, B are given via corresponding lines SYN3 to the inputs SUM1 to SUM5 of a summing circuit S, wherein they are fed to a first summer S1, which generates a summing signal that on the one hand is routed to a second summer S2, on the other hand via an output SUM6 to a module D to be described in more detail

Weiterhin ist ein Modul C vorgesehen, das in seinem Aufbau dem der Module B entspricht und dessen Ausgangssignal dem Eingang H2 des Moduls D zugeführt wird. Das Modul D entspricht einer Gain-(Verstärkungs-)variablen Synapse. Es weist eine Vergleichs­ schaltung K auf, in welcher die diesem Modul zugeführten Ein­ gangssignale, also das Ausgangssignal des Moduls C und das Summensignal des Summierers S1, das über den Eingang H1 zuge­ führt wird, jeweils mit einem vorbestimmten Schwellenwert ver­ glichen werden, wobei ein Aktivieren einer "Lernfunktion" nur dann erfolgt, wenn gleichzeitig die Schwellenwerte überschritten werden. Eine geeignete Schaltungslogik, die später noch genauer beschrieben wird, bereitet in diesem Fall der Koinzidenz die Signale weiter auf und führen sie einem Speicher M zu. Solange die Koinzidenzbedingung erfüllt ist, wird somit gelernt, das heißt, der Signalanteil aus dem Modul C wird aufgrund des größer werdenden Übertragungs-Gains am Ausgang H5 des Moduls D zunehmend größer anliegen. In der Zeit, in der die Koinzidenzbe­ dingung nicht erfüllt ist, wird vergessen, d. h. der Über­ tragungs-Gain wird kleiner und somit wird am Ausgang H5 des Moduls D das Signal von Modul C zunehmend kleiner. Es ist die Lernzeit im allgemeinen wesentlich kürzer als die Vergeßzeit, wobei üblicherweise ein Verhältnis 1 : 10 angenommen werden kann. Über externe Taster, die an die Eingänge H3 und H4 an den Speicher M geführt sind, ist ein schnelles Verlernen möglich. Dieses bedeutet ein Rücksetzen des Moduls D, wodurch der Über­ tragungs-Gain der variablen Synapse sehr gering wird. Das Aus­ gangssignal des Moduls D wird über einen Eingang SUM7 des Summierschaltkreises S dem Summierer S2 zugeführt, der es mit dem Ausgangssignal des Summierers S1 kombiniert und über einen Ausgang SUM8 sowohl einem Modul E als auch einem Modul F zu­ leitet. Im Modul E wird das Summensignal so modifiziert, daß an seinem Ausgang bei fehlenden Eingangssignalen bzw. gesperrten Eingangssignalen ein negatives Potential anliegt. Dies bedeutet eine Simulation des negativen Ruhepotentials von Nervenzellen. Das Modul F bereitet das Signal des zweiten Summierers S2 derart auf, daß ein Offset als Schwellenfunktion hinzugefügt wird. Dadurch wird bewirkt, daß nur der den Offset übersteigende Signalanteil zum Ausgang gelangt und über einen Ausgang MOD.G dem Modul G zugeführt, welches dieses Signal auf noch näher zu beschreibende Weise in Spikes umsetzt, deren Frequenz dem Signal proportional ist. Das Modul G besteht aus einem Spannungsfre­ quenz-Wandler G1 und dem eigentlichen Spike-Generator G2. Das Spike-Signal kann am Ausgang SP1 abgenommen werden.Furthermore, a module C is provided, the structure of which the module B corresponds and its output signal corresponds to the input H2 of module D is supplied. Module D corresponds to one Gain (gain) variable synapse. It shows a comparison circuit K in which the input supplied to this module output signals, so the output signal of module C and that Sum signal of summer S1, which is fed via input H1 is performed, each with a predetermined threshold be compared, with activation of a "learning function" only then occurs when the threshold values are exceeded at the same time become. A suitable circuit logic, which will be described in more detail later in this case, the coincidence prepares the Signals continue and lead them to a memory M. As long as the coincidence condition is met, it is learned that that is, the signal component from module C is due to the increasing transmission gains at output H5 of module D increasingly bigger. At the time when the coincidence condition is not met, it is forgotten, d. H. the over  The transmission gain becomes smaller and thus the output H5 of the Module D the signal from module C increasingly smaller. It is the Learning time generally much shorter than the forgetting time, usually a ratio of 1:10 can be assumed. Via external buttons connected to inputs H3 and H4 Memory M are guided, a quick unlearning is possible. This means a reset of the module D, whereby the over transmission gain of the variable synapse becomes very low. The end output signal of module D is via an input SUM7 of the Summing circuit S fed to the summer S2, which it with the output signal of the summer S1 combined and via a Output SUM8 to both module E and module F. directs. In module E, the sum signal is modified so that at its output if there are no input signals or blocked There is a negative potential at the input signals. this means a simulation of the negative resting potential of nerve cells. The module F prepares the signal of the second summer S2 in this way that an offset is added as a threshold function. This causes only the one that exceeds the offset Signal portion reaches the output and via an output MOD.G fed to the module G, which this signal to even closer descriptively translates into spikes, the frequency of which corresponds to the signal is proportional. The module G consists of a voltage free quenz converter G1 and the actual spike generator G2. The Spike signal can be picked up at output SP1.

Fig. 4 zeigt ein Schaltbild des Moduls A aus Fig. 3, das eine inhibitorische (invertierende) Synapse simuliert. Das Modul besteht im wesentlichen aus einem Eingangsverstärker OP1, der als Impedanzwandler dient, einem Zeitglied, das im wesentlichen durch die Kapazität C sowie durch eine geeignete Beschaltung mit Widerständen R in seinen Charakteristiken festgelegt ist; weiterhin ist ein Operationsverstärker OP2, wiederum als Impedanzwandler geschaltet, vorgesehen, wobei dessen Ausgang einem dritten Operationsverstärker OP3 zugeführt ist, an dessen zweitem Eingang auch das in das Modul A einlaufende Signal anliegt und der eine Inversion des einlaufenden Signals bewirkt, so daß am Ausgang SYN3 ein gegenüber dem einlaufenden Signal invertiertes Signal abgenommen werden kann. FIG. 4 shows a circuit diagram of module A from FIG. 3, which simulates an inhibitory (inverting) synapse. The module consists essentially of an input amplifier OP1, which serves as an impedance converter, a timing element, which is essentially determined by the capacitance C and by a suitable circuit with resistors R in its characteristics; Furthermore, an operational amplifier OP2, again connected as an impedance converter, is provided, the output of which is fed to a third operational amplifier OP3, at the second input of which the signal arriving in module A is also present and which causes an inversion of the incoming signal, so that the output SYN3 an inverted signal compared to the incoming signal can be taken.

Fig. 5 zeigt ein Schaltbild für die Module B und C aus Fig. 3, die eine exzitatorische Synapse simulieren. Ein am Eingang SYN1 einlaufendes Signal wird nur dann weiterverarbeitet, wenn ein am Eingang SYN2, dem Veto-Eingang, einlaufendes Signal einen bestimmten Pegel nicht überschreitet. Dieses Signal wird einem Shunt-Element, das im wesentlichen aus einem Transistor T be­ steht, welcher auf übliche Weise mit einem Glättungskondensator C beschaltet ist, gebildet. Der Kollektor des Transistors C ist an einen Eingang eines Operationsverstärkers OP4 geführt, wel­ cher, wie im Fall des Moduls A, als Impedanzwandler dient. Wie zuvor ist ein aus einem Kondensator C und Widerständen R gebil­ detes Zeitglied vorgesehen, auf das die Ausgabe des Verstärkers OP4 gegeben wird. Schließlich wird das erzeugte Signal über einen weiteren Impedanzwandler OP5 auf einen Ausgang SYN3 des Moduls gegeben. FIG. 5 shows a circuit diagram for modules B and C from FIG. 3, which simulate an excitatory synapse. A signal arriving at input SYN1 is only processed if a signal arriving at input SYN2, the veto input, does not exceed a certain level. This signal is a shunt element, which essentially consists of a transistor T be, which is connected in the usual way with a smoothing capacitor C. The collector of transistor C is led to an input of an operational amplifier OP4, which, as in the case of module A, serves as an impedance converter. As before, a timer formed from a capacitor C and resistors R is provided, to which the output of the amplifier OP4 is given. Finally, the generated signal is passed to an output SYN3 of the module via a further impedance converter OP5.

Fig. 6 zeigt ein Schaltungsbeispiel für das Modul D. Dieses Modul besteht aus zwei Schwellwertgebern OP6 und OP7, die ein Summensignal sowie ein von einem Modul C herrührendes Eingangs­ signal lediglich dann weiterverarbeiten, wenn gleichzeitig die durch die Schwellwertgeber vorgegeben Werte überschritten werden. Die Ausgänge der Schwellwertgeber OP6 und OP7 liegen an einem UND-Element L, dessen Ausgang wiederum auf ein Addier- Subtrahier-Element geführt ist, welches aus geeignet beschalteten integrierten Schaltkreisen IC1 und IC2 gebildet ist. Bei erfüllter UND-Bedingung wird in das Addier-Subtrahier- Element hinein addiert, bei nicht erfüllter Bedingung wird von dem Addier-Subtrahier-Element subtrahiert. Der Ausgang dieses Addier-Subtrahier-Elements steuert die Verstärkung des nachge­ schalteten Verstärkers, der im wesentlichen aus einem Feld­ effekt-Transistor TF gebildet ist, wobei die Verstärkung kleiner als 1 bzw. negativ ist. Letzlich wird daher in diesem nachge­ schalteten Verstärker das von dem Modul C kommende Signal verstärkt. Fig. 6 shows a circuit example for the module D. This module consists of two threshold transmitters OP6 and OP7, which process a sum signal and an input signal originating from a module C only if the values specified by the threshold transmitters are exceeded at the same time. The outputs of the threshold value transmitters OP6 and OP7 are connected to an AND element L, the output of which in turn is guided to an add-subtract element which is formed from suitably connected integrated circuits IC1 and IC2. If the AND condition is met, the add-subtract element is added; if the condition is not met, the add-subtract element is subtracted. The output of this add-subtract element controls the gain of the downstream amplifier, which is essentially formed from a field-effect transistor TF, the gain being less than 1 or negative. Ultimately, the signal coming from module C is therefore amplified in this downstream amplifier.

Fig. 7 zeigt den Summierschaltkreis. Die von den Modulen A und B erzeugten Signale werden auf die Eingänge SUM1 bis SUM5 gelegt und gemeinsam einem integrierten Schaltkreis IC3 zuge­ führt, dessen Ausgang einerseits über einen integrierten Schalt­ kreis IC4 auf die Ausgabe SUM6 gegeben wird, um das entspre­ chende Signal dem Modul D zuzuführen, andererseits, gemeinsam mit einem am Eingang SUM7 eingeführten Signal, welches das Ausgangssignal des Moduls D ist, über einen integrierten Schalt­ kreis IC5 auf den Summierer S2, bestehend aus einem integrierten Schaltkreis IC6 mit entsprechender Beschaltung, gegeben. Am Ausgang SUM8 liegt ein Summensignal an, das aus dem Signal an SUM7 sowie den Signalen der Eingänge SUM1 bis SUM5 besteht. Fig. 7 shows the summing circuit. The signals generated by the modules A and B are applied to the inputs SUM1 to SUM5 and jointly supplied to an integrated circuit IC3, the output of which is given on the one hand via an integrated circuit IC4 to the output SUM6 in order to transmit the corresponding signal to the module D. to supply, on the other hand, together with a signal introduced at the input SUM7, which is the output signal of the module D, via an integrated circuit IC5 to the summer S2, consisting of an integrated circuit IC6 with appropriate circuitry. A sum signal is present at output SUM8, which consists of the signal at SUM7 and the signals from inputs SUM1 to SUM5.

Fig. 8 zeigt das Schaltbild des Moduls E, das im wesentlichen aus einem Offset-Verstärker IC7 und einem nachgeschalteten Ausgangsverstärker IC8 besteht. Der Offsetverstärker IC7 in seiner Verschaltung bewirkt, daß im Ruhezustand, wenn also keine Eingangssignale an den Modulen A, B, C anliegen oder wenn diese Module "geshunted" sind, am Ausgang ein negatives Ruhe­ potential anliegt. Der Ausgangsverstärker IC8 dient als Puffer. Fig. 8 shows the circuit diagram of the module E which consists essentially of an offset amplifier IC7 and IC8 a downstream output amplifier. The offset amplifier IC7 in its connection causes that in the idle state, that is, when there are no input signals to the modules A, B, C or when these modules are "shunted", a negative quiescent potential is present at the output. The output amplifier IC8 serves as a buffer.

Ein Schaltbild des Moduls F ist in Fig. 9 dargestellt. Es besteht im wesentlichen aus einem Differenzverstärker IC9, welcher das Ausgangssignal des zweiten Summierers (vgl. Fig. 3), der am Eingang des Moduls anliegt, mit einem veränderlichen Offset beaufschlagt, welches von einem Potentio­ meter und einem integrierten Schaltkreis IC10 erzeugt wird. Weiterhin sorgt der Verstärker in Verbindung mit der nachge­ schalteten Diode D dafür, daß nur ein unipolares Ausgangssignal entsteht. Der Ausgangsverstärker IC11 dient als Puffer, so daß eine entsprechende Anzahl von Synapsen- bzw. Shunt-Eingängen betrieben werden können.A circuit diagram of module F is shown in FIG. 9. It consists essentially of a differential amplifier IC9, which applies the output signal of the second summer (see FIG. 3), which is present at the input of the module, with a variable offset, which is generated by a potentiometer and an integrated circuit IC10. Furthermore, the amplifier in conjunction with the downstream diode D ensures that only a unipolar output signal is produced. The output amplifier IC11 serves as a buffer so that a corresponding number of synapse or shunt inputs can be operated.

In Fig. 10 ist ein Spannungs-Frequenz-Wandler dargestellt, der einen Bestandteil G1 des Moduls G darstellt. Der Spannungs- Frequenz-Wandler, im wesentlichen realisiert durch einen integrierten Schaltkreis IC12, setzt die unipolaren Ausgangs­ signale, die vom Modul F geliefert werden, in eine pulsierende Gleichspannung um. Die Frequenz dieser pulsierenden Gleich­ spannung ist der Amplitude des Ausgangssignals proportional, d. h., es wird eine AM-FM-Wandlung vorgenommen. FIG. 10 shows a voltage-frequency converter which is a component G1 of the module G. The voltage-frequency converter, essentially implemented by an integrated circuit IC12, converts the unipolar output signals, which are supplied by the module F, into a pulsating DC voltage. The frequency of this pulsating DC voltage is proportional to the amplitude of the output signal, ie an AM-FM conversion is carried out.

Fig. 11 zeigt ein Schaltbild zur Weiterbehandlung des Signales VCF2 am Ausgang des Modulteiles G1, wie er in Fig. 10 beschrieben war. In diesem Teil G2 des Moduls (vgl. Fig. 3) werden aus der pulsierenden Gleichspannung Signale erzeugt, die den natürlich vorkommenden Spikes bei Nervenzellen weitgehend entsprechen. Nachdem das einlaufende Signal durch Logikbauteile L1, L2, L3 und Filter C aufbereitet ist, wird dieses aufbereite­ te Signal der Basis eines Steuertransistors TS zugeführt, dessen Emitter auf einen R-C-L-Schwingkreis wirkt. Vom R-C-L-Schwing­ kreis ausgegebene Signale werden gegebenenfalls über einen weiteren Kondensator C hinsichtlich ihres Kurvenverlaufes aufbe­ reitet und sodann dem Plus-Eingang eines Operationsverstärkers OP6 zugeführt und entsprechend verstärkt. Die erwünschten Aus­ gangssignale können dann über den Ausgang SP3 abgegriffen wer­ den. FIG. 11 shows a circuit diagram for further processing of the signal VCF2 at the output of the module part G1, as was described in FIG. 10. In this part G2 of the module (see FIG. 3), signals are generated from the pulsating DC voltage that largely correspond to the naturally occurring spikes in nerve cells. After the incoming signal is processed by logic components L1, L2, L3 and filter C, this processed signal is fed to the base of a control transistor TS, whose emitter acts on an RCL resonant circuit. Signals output by the RCL resonant circuit are optionally processed via a further capacitor C with respect to their curve shape and then fed to the plus input of an operational amplifier OP6 and amplified accordingly. The desired output signals can then be tapped via the output SP3.

Mit den beschriebenen Schaltungen kann ein Neuron simuliert werden, welches drei erregende (summativ depolarisierende) Synapsen, eine inhibitorische (summativ hyperpolarisierende) Synapse und eine Hebb′sche (erregende, Gain-variable) Synapse umfaßt. Sämtliche Eingänge der entsprechenden aktivierenden Module können durch Shunt-Synapsen kontrolliert, d. h. auch zeitweise abgeschaltet werden. A neuron can be simulated with the circuits described which are three excitatory (summatively depolarizing) Synapses, an inhibitory (summatively hyperpolarizing) Synapse and a Hebb'sche (exciting, gain-variable) synapse includes. All inputs of the corresponding activating Modules can be controlled by shunt synapses, i.e. H. also be switched off temporarily.  

Die Module bzw. Synapsen wirken für das jeweilige Eingangssignal als Tiefpaßfilter, wobei beispielsweise eine Anstiegszeitkon­ stante von ca. 100 ms, eine Abfallszeitkonstante von ca. 200 ms gewählt werden kann. Die Hebb′sche Synapse ist depolarisierend und besitzt im untrainierten Zustand lediglich einen geringen Übertragungs-Gain von ca. 0,1. Ein anliegendes Eingabesignal an der Synapse, das von einer Depolarisation an der "Zelle" infolge von zeitgleichen anderen Eingängen begleitet ist, führt im Verlauf mehrerer Schritte zu einer dauerhaften Erhöhung des Gains. Der Gain der trainierten Hebb′schen Synapse fällt inner­ halb von ca. 2 Minuten auf den Ursprungswert des untrainierten Zustands zurück, falls keine weiteren Signale stabilisierend wirken.The modules or synapses work for the respective input signal as a low-pass filter, with a rise time con constant of approx. 100 ms, a fall time constant of approx. 200 ms can be chosen. The Hebbian synapse is depolarizing and has only a small one in the untrained state Transfer gain of approx. 0.1. An input signal present the synapse resulting from depolarization on the "cell" accompanied by other entrances at the same time leads in The course of several steps to a permanent increase in Gains. The gain of the trained Hebb's synapse falls within half of about 2 minutes to the original value of the untrained State back if no further signals stabilize Act.

Sämtliche synaptischen Depolarisationen und Hyperpolarisationen werden räumlich und zeitlich bis zu einem Sättigungspotential aufsummiert. Eine einstellbare Schwelle bestimmt den Anteil des summierten Potentials, der weitergeleitet bzw. in "Aktionspoten­ tiale" umgewandelt wird.All synaptic depolarizations and hyperpolarizations become spatially and temporally up to a saturation potential added up. An adjustable threshold determines the proportion of the summed potential, which is forwarded or in "action spots tiale "is converted.

Claims (9)

1. Vorrichtung zur analogen Signalverarbeitung nach dem Prinzip des Neurons, mit wenigstens einem Summier­ schaltkreis, welcher eine Vielzahl von Eingängen aufweist, die Signale aufnehmen, dadurch gekennzeichnet, daß jeder der Eingänge (SUM1, . . . SUM5, SUM7) mit einem aktivierenden Modul (A, B, C, D) geschaltet ist, das wenigstens eine der folgenden Charakte­ ristiken zeigt:
  • a) Verstärkung eines ersten einlaufenden Signals mit konstantem Übertragungsfaktor über einen Eingangsver­ stärker (OP1) und ein Zeitglied (R, C; Fig. 4);
  • b) Invertierung des ersten einlaufenden Signals mit konstantem Übertragungsfaktor über den Eingangsver­ stärker (OP1), das Zeitglied (R, C; Fig. 4) und einen Inverter (OP3);
  • c) Übertragung des ersten einlaufenden Signals nur dann, wenn der Pegel eines Referenz-Signals kleiner oder gleich einem für das Modul charakteristischen ersten vorbestimmten Wert ist, über ein Shunt-Element (T, C; Fig. 5), einen Verstärker (OP4) und das Zeitglied (R, C; Fig. 5);
  • d) Übertragung des ersten einlaufenden Signals mit varia­ blem Übertragungsfaktor nur dann, wenn der Pegel des einlaufenden Signals einen für das Modul charakteristi­ schen zweiten vorbestimmten Wert und der Wert wenigstens eines weiteren einlaufenden Signals einen für das Modul charakteristischen vorbestimmten Wert gleichzeitig über­ schreiten, wobei die Signale zwei Schwellwertgebern (OP6, OP7) zugeführt werden, deren Ausgänge eine UND-Verknüpfung (L) aufweisen, welcher ein ADD/SUB-Element (IC1, IC2; Fig. 6) nachgeschaltet ist, über dessen Ausgang ein Verstärker (TF) mit variablem Verstärkungs­ faktor ansteuerbar ist.
1. Device for analog signal processing on the principle of the neuron, with at least one summing circuit which has a multiplicity of inputs which receive signals, characterized in that each of the inputs (SUM1,... SUM5, SUM7) with an activating module (A, B, C, D) is switched, which shows at least one of the following characteristics:
  • a) amplification of a first incoming signal with a constant transmission factor via an input amplifier (OP1) and a timing element (R, C; FIG. 4);
  • b) inverting the first incoming signal with a constant transmission factor via the input amplifier (OP1), the timing element (R, C; FIG. 4) and an inverter (OP3);
  • c) Transmission of the first incoming signal only when the level of a reference signal is less than or equal to a first predetermined value characteristic of the module, via a shunt element (T, C; FIG. 5), an amplifier (OP4) and the timer (R, C; Fig. 5);
  • d) transmission of the first incoming signal with a variable transmission factor only if the level of the incoming signal exceeds a second predetermined value characteristic of the module and the value of at least one further incoming signal simultaneously exceeds a predetermined value characteristic of the module, the Signals are supplied to two threshold value transmitters (OP6, OP7), the outputs of which have an AND link (L), which is followed by an ADD / SUB element (IC1, IC2; FIG. 6), via the output of which an amplifier (TF) is connected variable gain factor is controllable.
2. Vorrichtung nach Anspruch 1, dadurch gekenn­ zeichnet, daß wenigstens ein aktivierendes Modul (B, C) vorgesehen ist, bei dem eine Verstärkung des ersten einlaufen­ den Signals nur dann erfolgt, wenn der Pegel des Referenz­ signales kleiner oder gleich einem für das Modul (B, C) charakteristischen ersten vorbestimmten Wert ist.2. Device according to claim 1, characterized indicates that at least one activating module (B, C) is provided, in which a reinforcement of the first run in the signal only occurs when the level of the reference signals less than or equal to one for the module (B, C) characteristic first predetermined value. 3. Vorrichtung nach Anspruch 1 oder 2, dadurch gekennzeichnet, daß wenigstens ein aktivierendes Modul (D) vorgesehen ist, bei welchem eine Übertragung mit variablem Übertragungsfaktor erfolgt, wobei das weitere einlaufende Signal die Summe wenigstens zweier Ausgangssignale der übrigen aktivierenden Module (A, B) ist.3. Device according to claim 1 or 2, characterized characterized in that at least one activating module (D) is provided, in which a transmission with variable Transfer factor takes place, the further incoming Signal the sum of at least two output signals of the rest activating modules (A, B). 4. Vorrichtung nach Anspruch 2 oder 3, dadurch gekennzeichnet, daß das Modul (D) mit variablem Übertragungs­ faktor einen Speicher umfaßt. 4. Apparatus according to claim 2 or 3, characterized characterized in that the module (D) with variable transmission factor includes a memory.   5. Vorrichtung nach Anspruch 4, dadurch gekenn­ zeichnet, daß eine Rücksetzschaltung zum Deaktivieren des Speichers (M) vorgesehen ist.5. The device according to claim 4, characterized records that a reset circuit for deactivating the Memory (M) is provided. 6. Vorrichtung nach einem der Ansprüche 1 bis 5, dadurch gekennzeichnet, daß dem Summierschaltkreis (S) ein Verstärkermodul (E) mit einem Offset-Verstärker nachgeschaltet ist, welcher ein negatives Potential erzeugt, und an den Ausgängen der aktivierenden Module (A, B, C, D) keine Signale ausgegeben werden.6. Device according to one of claims 1 to 5, characterized in that the summing circuit (S) a Amplifier module (E) connected with an offset amplifier is, which generates a negative potential, and to the Outputs of the activating modules (A, B, C, D) no signals be issued. 7. Vorrichtung nach einem der Ansprüche 1 bis 6, dadurch gekennzeichnet, daß dem Summierverstärker (S) eine Einrichtung (F) zum Erzeugen eines unipolaren Signals mit einem variablen Offset nachgeschaltet ist.7. Device according to one of claims 1 to 6, characterized in that the summing amplifier (S) a Device (F) for generating a unipolar signal with is connected after a variable offset. 8. Vorrichtung nach Anspruch 7, dadurch gekenn­ zeichnet, daß der Einrichtung (F) zum Erzeugen eines unipola­ ren Signals eine Einrichtung (G) zum Umwandeln des unipolaren Signals in eine pulsierende Gleichspannung nachgeschaltet ist, deren Ausgabe mit einem Spike-Generator (G2) verbunden ist.8. The device according to claim 7, characterized records that the device (F) for generating a unipola Ren signal means (G) for converting the unipolar Signal is connected in a pulsating DC voltage, the output of which is connected to a spike generator (G2). 9. Vorrichtung nach einem der Ansprüche 1 bis 8, dadurch gekennzeichnet, daß wenigstens einem Teil der Eingänge (SUM1 . . . SUM5, SUM7) des Summierschaltkreises (S) jeweils ein Tiefpaßfilter nachgeschaltet ist.9. Device according to one of claims 1 to 8, characterized in that at least part of the inputs (SUM1... SUM5, SUM7) of the summing circuit (S) each one Low pass filter is connected.
DE4137863A 1991-07-31 1991-11-13 Device for analog signal processing based on the principle of the neuron Expired - Fee Related DE4137863C2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE4137863A DE4137863C2 (en) 1991-07-31 1991-11-13 Device for analog signal processing based on the principle of the neuron

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE4125370 1991-07-31
DE4137863A DE4137863C2 (en) 1991-07-31 1991-11-13 Device for analog signal processing based on the principle of the neuron

Publications (2)

Publication Number Publication Date
DE4137863A1 DE4137863A1 (en) 1993-02-04
DE4137863C2 true DE4137863C2 (en) 1995-10-12

Family

ID=6437418

Family Applications (1)

Application Number Title Priority Date Filing Date
DE4137863A Expired - Fee Related DE4137863C2 (en) 1991-07-31 1991-11-13 Device for analog signal processing based on the principle of the neuron

Country Status (1)

Country Link
DE (1) DE4137863C2 (en)

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2654686B2 (en) * 1989-04-28 1997-09-17 日本ビクター株式会社 neural network

Also Published As

Publication number Publication date
DE4137863A1 (en) 1993-02-04

Similar Documents

Publication Publication Date Title
DE68925156T2 (en) Integrated semiconductor circuit for neural network
DE4042139C2 (en) Neuron unit
DE2524734C3 (en) Information processing device for the detection of an event that can be characterized by a set of input signals
DE69032680T2 (en) Neural calculator
DE68924822T2 (en) Signal processing system and learning processing system.
DE69030592T2 (en) Generation method for motion tractors in a dynamic system
DE4143073A1 (en) MULTI-LAYER NEURONAL NETWORK
DE112018003231T5 (en) NEUROMORPHE PROCESSING DEVICE
DE69719058T2 (en) IMPROVED NEURONAL NETWORK
DE3938645C1 (en)
DE112020001369T5 (en) PULSED SYNAPTIC ELEMENTS FOR PULSED NEURAL NETWORKS
DE19504664C2 (en) Chaotic recurrent neural network and learning method for it
DE19503147A1 (en) Formation circuit for neural network chaos
DE1798326A1 (en) Self-organizing control system for the control of a plant with a plurality of variable sizes and a plurality of actuating elements for the adjustment of the plant
EP0712263B1 (en) Programmable hearing aid
DE3929481C2 (en)
DE69602662T2 (en) Method for accelerating the execution speed of neural networks for correlated signal processing
DE69029538T2 (en) Learning process, neural network and computer to simulate such a neural network
DE4137863C2 (en) Device for analog signal processing based on the principle of the neuron
DE112020005613T5 (en) Neuromorphic unit with crossbar array structure
EP3785178B1 (en) Method and device for determining a network-configuration of a neural network
DE10139682A1 (en) Method for generating neural networks
DE4315576A1 (en) Neural network
DE19703964C1 (en) Process for transforming a fuzzy logic used to simulate a technical process into a neural network
DE69809402T2 (en) ASSOCIATIVE NEURON IN AN ARTIFICIAL NEURAL NETWORK

Legal Events

Date Code Title Description
OP8 Request for examination as to paragraph 44 patent law
D2 Grant after examination
8364 No opposition during term of opposition
8339 Ceased/non-payment of the annual fee