WO2003067514A2 - Verfahren zum klassifizieren der verkehrsdynamik einer netzkommunikation unter verwendung eines gepulste neuronen enthaltenden netzes - Google Patents

Verfahren zum klassifizieren der verkehrsdynamik einer netzkommunikation unter verwendung eines gepulste neuronen enthaltenden netzes Download PDF

Info

Publication number
WO2003067514A2
WO2003067514A2 PCT/DE2003/000277 DE0300277W WO03067514A2 WO 2003067514 A2 WO2003067514 A2 WO 2003067514A2 DE 0300277 W DE0300277 W DE 0300277W WO 03067514 A2 WO03067514 A2 WO 03067514A2
Authority
WO
WIPO (PCT)
Prior art keywords
dynamics
synaptic
pulse
epsp
network
Prior art date
Application number
PCT/DE2003/000277
Other languages
English (en)
French (fr)
Other versions
WO2003067514A3 (de
Inventor
Gustavo Deco
Jan Storck
Bernd SCHÜRMANN
Original Assignee
Siemens Aktiengesellschaft
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens Aktiengesellschaft filed Critical Siemens Aktiengesellschaft
Priority to US10/503,626 priority Critical patent/US20050105463A1/en
Priority to EP03708011A priority patent/EP1472652A2/de
Priority to JP2003566790A priority patent/JP2005517330A/ja
Priority to AU2003212191A priority patent/AU2003212191A1/en
Publication of WO2003067514A2 publication Critical patent/WO2003067514A2/de
Publication of WO2003067514A3 publication Critical patent/WO2003067514A3/de

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12—Classification; Matching

Definitions

  • the invention relates to a method for classifying the traffic dynamics of a network communication using a network containing pulsed neurons, wherein traffic data of the network communication form the input variables of the neural network, and temporal clusters obtained by pulse processing form the output variables of the neural network, in which the classification the traffic dynamics takes place by means of a synaptic model, the dynamics of which depend directly on the exact timing of pre- and post-synaptic pulses.
  • the invention relates generally to the field of network communication and in particular to computer network communication.
  • Packet switching networks are based, for example, on the use of the Internet protocol IP or the Internet protocol ATM in cell-based networks.
  • IP Internet protocol
  • ATM Internet protocol
  • CAC call admission control
  • QoS quality of service
  • CAC algorithms with adaptive characteristics will be inevitable.
  • the adaptive CAC algorithm is uncharted territory in terms of application technology, because up to now all communication has been carried out via permanently interconnected routing, assuming "unlimited” bandwidth according to the "best effort” principle and accepting packet losses and delays that occur relatively rarely.
  • Two approaches are discussed for CAC algorithms, namely a stochastic and a deterministic approach.
  • stochastic means that one expects bursts to be averaged out by multiplexing, with the result that the communication network is used to a greater extent with a higher risk of overloading.
  • deterministic means that the bandwidth of the communication network is conservatively allocated on the basis of guaranteed traffic characteristics, such as the so-called peak bit rate (PBR).
  • PBR peak bit rate
  • the invention proposes a combination of both approaches and thus comes to an adaptive CAC algorithm.
  • the basis for this are stochastic offline traffic models, whereby the strategy is adapted in real time if a specific, critical dynamic or characteristic occurs. Networks of pulsed neurons are used for these models.
  • a neural network has neurons that are at least partially linked to one another. Input neurons of the neural network are supplied with input signals as input variables.
  • the neural network usually has several layers. Depending on an input quantity supplied to a neuron of the neural network and an activation function provided for the neuron, a neuron in each case generates a signal which in turn is supplied to neurons of a further layer as an input quantity according to a predeterminable weighting.
  • an output layer an output size is generated in an output neuron as a function of sizes, which are supplied to the output neuron by neurons of the previous layer.
  • the neural network encodes information by means of action potentials or "pulses"("spikes"), which characterize neural firing events.
  • spatiotemporal firing patterns therefore encode information relating to sensory stimuli.
  • different classes of stimuli can be distinguished by different types of spatio-temporal firing patterns.
  • maximizing the trans information as a means of describing the differentiability to achieve this goal has recently been proposed. By maximizing the trans information between the name of the entered class and the resulting pulse pattern, which is provided by the neurons, which encode the presented stimulus, optimal distinguishing properties are ensured. It is an object of the present invention to provide a method for classifying the traffic dynamics of a network communication which ensures reliable classification of the traffic dynamics with a relatively clear computational effort.
  • Another object of the present invention is to provide a neural network for classifying the traffic dynamics of a network communication, which ensures reliable classification of the traffic dynamics with relatively clear computing effort.
  • Another object of the present invention is to provide an arrangement for carrying out the method according to the invention for classifying the traffic dynamics of a network communication, which allows reliable classification of the traffic dynamics in a processor with a relatively small capacity.
  • the invention provides for the creation of a matrix "who-communicates-with-whom" in online operation, possibly expanded by the dimension "type of communication".
  • the aim is accordingly the classification of the outgoing data streams from several, for example from two computers, and thus the number of data packets sent per time interval, recorded as a function of time, into one
  • the essence of the invention is the inclusion of temporal coding in adaptive neural network techniques through the mathematically relatively simple formulation of pulses.
  • This enables a new type of signal processing.
  • advantages can be expected from a technology that closely reproduces the way the human brain works.
  • the classification of temporal patterns is carried out using a synaptic model, the dynamics of which depend directly on the exact timing or timing of pre-and post-synaptic pulses.
  • the model according to the invention roughly implements the main short-term functionalities of a biological synapse, i.e., facilitating (facilitation) and suppressing (depression) the transmission.
  • the short-term dynamics of the model can be adapted. This means that the synapse changes the relationship between relieving and suppressing, which changes the time course of their maximum response - and thus their delaying effect - on a pulse train.
  • the concentration of C in the presynaptic bouton or end button given by Ca 2+ is primarily determined, which is modeled between 0 and 1 in real time.
  • a slight diffusion process into the extracellular space and a rapid opening of calcium-dependent ion channels upon arrival of a presynaptic pulse at time t sp pre can be expected as follows:
  • C obeys an exponential decrease with a time constant ⁇ fac and is reset at presynaptic pulse arrival times, which are represented by the ⁇ distribution.
  • C is scaled by the adaptable parameter Co, which determines the time profile of the maximum EPSP (EPSP stands for an alpha-shaped excitation potential) that can be generated by the synapse.
  • Co represents the amount of calcium that enters the cell or, in other words, only shows how easily calcium ion channels can open.
  • Co is precisely the learning parameter whose corresponding equation is given below.
  • synaptic vesicles are either docked or not docked.
  • the proportion of release points that actually have a docked vesicle is given by the variable P v .
  • P re ⁇ is the portion of the docked vesicles that are released in the case of presynaptic firing. In the present case, it is assumed that each docked vesicle needs four calcium ions to release it. Out for this reason, C goes into the equation with exponent 4. With an increase in C, the proportion of vesicles that can be released increases. This is the facilitating part of the synapse:
  • P v is the fraction of the vesicle resources currently available that is ready for neurotransmitter release.
  • P v has a value of 1 in the fully recovered state, the recovery being regulated by the recovery time constant r rec , which results in an exponential recovery or recovery process in the absence of presynaptic pulses.
  • This recovery process represents the subsequent delivery or delivery of vesicles from the cell nuclei. If r rec is sufficiently large, incoming pulses lead to a depletion of vesicle resources. This is the depression part of the synapse.
  • Equations (1) to (4) above control the basic dynamics of the synapse, in response to presynaptic pulses.
  • the resulting short-term effects include facilitation and depression.
  • the relationship between these two effects which can be changed by varying Co, dominates the point of maximum response in the EPSP and thus the delaying effect in the transmission.
  • the synaptic delay - i.e. its maximum response - varies from quick response to slower response.
  • the postsynaptic integration and fire neuron which is subject to loss of potential due to diffusion, receives a train of equally spaced pulses from a synapse. 1 shows the membrane potential of this synaptic neuron.
  • the learning which is a long-term effect that leads to an adaptation of the introduced short-term dynamics, is carried out as follows.
  • the mechanism for learning synaptic delay processes depending on the presynaptic and post-synaptic pulse course, will now be explained.
  • the essence of the learning algorithm is as follows: If a post-synaptic pulse occurs before a synapse reaches its maximum response, the algorithm adapts so that it will reach its maximum earlier next time. This means that Co is increased or increased. In the event that the post-synaptic pulse occurs after a synapse has already reached its maximum response behavior, the synapse will try to delay its response behavior next time, which means that C 0 is reduced or decreased. How this is achieved in detail is now explained.
  • ⁇ N is the time constant of neurotransmitter degradation, and where N is a release coefficient.
  • ⁇ N is chosen to be as large as the membrane constant of the output neuron, so that N represents the contribution of this synapse to the postsynaptic membrane potential.
  • the maximum of N should coincide with the maximum impact of this synapse on a postsynaptic neuron. In order to determine this maximum, it is necessary to determine the first derivative of the envelope of the time profile of N. An additional variable N is required for this:
  • N is assumed to store the value of N based on the last firing event. The purpose of N is to determine whether the synapse currently releases more or fewer transmitters compared to the previous firing event. By subtracting N from N, it can be determined whether N tends to rise or fall.
  • the update ie the setting of N to N during presynaptic firing, takes place some time after the presynaptic pulse has occurred, as indicated by ⁇ t in the ⁇ term. It is assumed that N is the neurotransmitter concentration at a point a little away from the release point, so that the concentration takes a certain time ⁇ t to move there. In the simulation, ⁇ t is selected with a time step, ie with 1 ms.
  • N is now used in each time step to determine the value C * with which C 0 must be changed when a postsynaptic pulse occurs.
  • C 0 is eventually changed to C * 0 .
  • Fig. 2 shows the corresponding curves of N together with C * 0 - after learning, the zero crossings of the latter curves coincide with the maximum response of the maxima of N.
  • 2A shows different time profiles of neurotransmitter concentrations N for different values of the parameter C 0 ; 2B update curves C * 0 ; these curves determine the direction and extent of the change in the Co update; it is noted that the zero crossings coincide with the corresponding maxima in a neurotransmitter concentration, which means that C 0 is not changed; if a post-dynamic pulse is generated exactly at the time of the maximum synaptic response; if a post-dynamic pulse occurs before the maximum is reached, Co drops; if a postsynaptic pulse occurs after the maximum is reached, C 0 increases or increases.
  • Fig. 3 shows an example of temporal clustering with pulsed neurons in a computer network management
  • FIG. 4 shows a typical application spectrum of the temporal cluster according to FIG. 3.
  • the temporal distance between successive action potentials or the resulting spatiotemporal activity patterns of the network thus becomes the distinguishing component of the internal coding of the system (temporal coding or temporal clustering).
  • coding in the form of point processes or discrete processes instead of continuous stochastic processes as the central property of this type of information processing offers considerable advantages when using mathematical learning functions.
  • such a network is very well suited for classifying temporal clustering, as occurs in the analysis of the traffic characteristics in computer networks, as shown in FIG. 4.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)

Abstract

Die Erfindung betrifft ein Verfahren zum Klassifizieren der Verkehrsdynamik einer Netzkommunikation unter Verwendung eines gepulste Neuronen enthaltenden Netzes, wobei Verkehrsdaten der Netzkommunikation die Eingangsgrößen des neuronalen Netzes bilden, und wobei durch Pulsverarbeitung gewonnene temporale Cluster die Ausgangsgrößen des neuronalen Netzes bilden, bei dem die Klassifikation der Verkehrsdynamik mittels eines synaptischen Modells erfolgt, dessen Dynamik direkt von der exakten Taktung vor- und nachsynaptischer Pulse abhängt.

Description

Beschreibung
Verfahren zum Klassifizieren der Verkehrsdynamik einer Netzkommunikation unter Verwendung eines gepulste Neuronen ent- haltenden Netzes, neuronales Netz und Anordnung zum Durchführen des Verfahrens
Die Erfindung betrifft ein Verfahren zum Klassifizieren der Verkehrsdynamik einer Netzkommunikation unter Verwendung ei- nes gepulste Neuronen enthaltenden Netzes, wobei Verkehrsdaten der Netzkommunikation die Eingangsgrößen des neuronalen Netzes bilden, und wobei durch Pulsverarbeitung gewonnene temporale Cluster die Ausgangsgrößen des neuronalen Netzes bilden, bei dem die Klassifikation der Verkehrsdynamik mit- tels eines synaptischen Modells erfolgt, dessen Dynamik direkt von der exakten Taktung vor- und nachsynaptischer Pulse abhängt .
Die Erfindung betrifft allgemein das Gebiet der Netzkommuni- kation und insbesondere der Computernetzkommunikation. Als
Kommunikationsnetz kommt insbesondere ein Paketvermittlungsnetz in Betracht. Paketvermittlungsnetze basieren beispielsweise auf der Verwendung des Internet-Protokolls IP oder des Internet-Protokolls ATM bei zellenbasierten Netzen. Für die Entscheidung, ob und zu welchen Konditionen, d.h., zu welchem Preis und welcher gesicherten Übertragungsqualität eine Verbindung in Paketvermittlungsnetzen zugelassen wird, werden Modelle und Annahmen über die Verkehrscharakteristik sowohl dieser Verbindung als auch bereits aufgenommener und noch zu erwartender Verbindungen benötigt. Man spricht in diesem Zusammenhang von der sogenannten Call-Admission-Control (abgekürzt im folgenden auch als CAC bezeichnet) und von Quality of Service (im folgenden auch als QoS bezeichnet) . Ziel ist die bezüglich bestimmter Größen, wie beispielsweise Profit, Kundenzufriedenheit, Verlustfreiheit und dergleichen opti- mierte Auslastung der zur Verfügung stehenden Kommunikationsbandbreite.
In Zukunft ist mit einer deutlichen Zunahme des Anteils mul- timedialer Daten im Internet zu rechnen. Dies ist gleichbedeutend mit einem drastischen Anwachsen von bursthaften Daten, die mit einer variablen Bit-Rate verbunden sind und das Risiko eines hohen Überlastungspotentials in sich tragen. Bei der Kommunikation von Bild und Ton werden dabei hohe Ansprü- ehe an die Jitter-Freiheit gestellt, um isochrone Daten empfangen zu können. Ein Lösungsansatz wird hier voraussichtlich in der Priorisierung der Pakete sowie in sehr sorgfältigen CAC-Algorithmen liegen, um eine letztendliche Übertragungsgüte bis hin zu Haftungseinschluss garantieren zu können. Haf- tungseinschluss ist beispielsweise von Belang bei kritischen Datenübertragungen, wie etwa bei einem chirurgischen Eingriff über eine Video-Konferenzschaltung.
Der Einsatz von CAC-Algorithmen mit adaptiver Charakteristik wird unvermeidlich sein. Bei adaptivem CAC-Algorithmus handelt es sich um anwendungstechnisches Neuland, weil bislang die gesamte Kommunikation über fest verschaltetes Routing unter Annahme "unbegrenzter" Bandbreite nach dem Prinzip "best effort" unter Akzeptanz relativ selten auftretender Paketver- luste und Zeitverzögerungen abläuft. Für CAC-Algorithmen werden zwei Ansätze diskutiert, nämlich ein stochastischer und ein deterministischer Ansatz. Stochastisch bedeutet im Zusammenhang mit diesem Algorithmus, dass man sich durch Multiple- xing eine Ausmittelung der Bursts mit dem Ergebnis einer hö- heren mittleren Auslastung des Kommunikationsnetzes bei höherem Überlastungsrisiko erhofft. Deterministisch bedeutet im Zusammenhang mit diesem Algorithmus, dass die Bandbreite des Kommunikationsnetzes anhand zugesicherter Verkehrscharakteristiken, wie beispielsweise der sogenannten Peak-Bit-Rate (PBR) konservativ zugeteilt wird. Wie aus nachfolgendem hervorgeht, schlägt die Erfindung eine Kombination beider Ansätze vor und kommt damit zu einem adaptiven CAC-Algorithmus. Grundlage hierfür sind stochastische Offline-Verkehrsmodelle, wobei in Echtzeit die Strategie adaptiert wird, falls eine spezielle, kritische Dynamik bzw. Charakteristik auftritt. Für diese Modelle wird auf Netze gepulster Neuronen zuruckge- griffen.
Ein neuronales Netz weist Neuronen auf, die zumindest teilweise miteinander verknüpft sind. Eingangsneuronen des neuronalen Netzes werden Eingangssignale als Eingangsgroßen zuge- fuhrt. Das neuronale Netz weist üblicherweise mehrere Schichten auf. Abhangig von einem Neuron des neuronalen Netzes zu- gefuhrten Eingangsgroßen und einer für das Neuron vorgesehenen Aktivierungsfunktion generiert ein Neuron jeweils ein Signal, welches wiederum Neuronen einer weiteren Schicht als Eingangsgroße gemäß einer vorgebbaren Gewichtung zugeführt wird. In einer Ausgangsschicht wird in einem Ausgangsneuron eine Ausgangsgroße abhangig von Großen generiert, die dem Ausgangsneuron von Neuronen der vorangegangenen Schicht zugeführt werden.
Das neuronale Netz kodiert Information durch Aktionspotentiale oder "Pulse" ("Spikes"), die neurale Feuerungsereignisse (Firing Events) charakterisieren. Im Rahmen der Zeitkodierung kodieren deshalb sogenannte raumzeitliche Feuerungsmuster In- formation bezuglich sensorischer Stimuli. Mit anderen Worten können unterschiedliche Klassen von Stimuli durch unterschiedliche Arten von spatio-temporalen Feuerungsmustern unterschieden werden. In diesem Zusammenhang wurde kurzlich die Maximierung der Transinformation als Mittel zum Beschreiben der Unterscheidbarkeit zur Erreichung dieses Ziels vorgeschlagen. Durch Maximieren der Transinformation zwischen dem Namen der eingegebenen Klasse und dem resultierenden Pulsmuster, das durch die Neuronen bereitgestellt wird, welche die Kodierung des präsentierten Stimulus vornehmen, werden opti- male Unterscheidungseigenschaften sichergestellt. Eine Aufgabe der vorliegenden Erfindung besteht darin, ein Verfahren zum Klassifizieren der Verkehrsdynamik einer Netzkommunikation zu schaffen, das mit relativ übersichtlichen Rechenaufwand eine zuverlässige Klassifizierung der Verkehrsdynamik gewährleistet.
Gelöst wird diese Aufgabe durch die Merkmale des Anspruchs 1, Vorteilhafte Weiterbildungen der Erfindung sind in den vom Anspruch 1 abhängigen Ansprüchen angegeben.
Eine weitere Aufgabe der vorliegenden Erfindung besteht darin, ein neuronales Netz zum Klassifizieren der Verkehrsdynamik einer Netzkommunikation zu schaffen, das mit relativ übersichtlichen Rechenaufwand eine zuverlässige Klassifizierung der Verkehrsdynamik gewährleistet.
Gelöst wird diese Aufgabe durch die Merkmale des Anspruchs 5. Vorteilhafte Weiterbildungen der Erfindung sind in den vom Anspruch 5 abhängigen Ansprüchen angegeben.
Noch eine Aufgabe der vorliegenden Erfindung besteht darin, eine Anordnung zum Durchführen des erfindungsgemäßen Verfahrens zum Klassifizieren der Verkehrsdynamik einer Netzko mu- nikation zu schaffen, das in einem Prozessor mit relativ geringer Kapazität eine zuverlässige Klassifizierung der Verkehrsdynamik erlaubt.
Gelöst wird diese Aufgabe durch die Merkmale des Anspruchs 9. Vorteilhafte Weiterbildungen der Erfindung sind in den vom Anspruch 9 abhängigen Ansprüchen angegeben.
Relevante Fragestellungen für Netze gepulster Neuronen sind im Zusammenhang mit der Klassifizierung der Verkehrsdynamik einer Netzkommunikation, wie vorstehend angesprochen, die Klassifikation von Verkehrsströmen in Kommunikationsnetzen, vor allem Computernetzen, und die Detektierung von Verkehrs- Charakteristiken, was gegebenenfalls auch online erfolgen kann, die von zugrundeliegenden Annahmen bzw. ausgehandelten Werten abweichen und damit die Gewährleistung des QoS gefährden. Hier soll ein Beispiel genannt werden. Wenn ein Daten- ström mit einer Eigenschaft x um Übertragung bittet, so weiß die CAC, dass aufgrund von Modellannahmen theoretisch eine Zulassung von x möglich ist, ohne die gegebenen Netzressourcen zu überlasten. Pro Messung der bereits aufgenommenen Strome wird jedoch eine Abweichung von Modellannahmen festge- stellt. Hierbei handelt es sich um eine unerwartete kritische Charakteristik des bereits laufenden Datenflusses. Die Folge hiervon ist eine Adaption hin zu einer konservativen Strategie unter Ablehnung von x. Dieser Vorgehensweise basiert also auf der Erkenntnis, dass anstelle einer Fokussierung auf Bit- Raten ("Ratenkodierung") bei Überwachung der Einhaltung von ausgehandelten Verkehrscharakteristiken bei Bestimmung und Abschätzung der Ressourcenauslastung eine Fokussierung auf kritische Burstmuster ("temporale Kodierung") zum Ziel fuhren kann. Hintergrund ist, dass in erster Linie spezielle gleich- zeitig auftretende Belastungsspitzen vorliegen und nicht mittlere Bit-Raten, die an sich auch problemloser in den Griff zu bekommen sind.
Als eine weitere Anwendung sieht die Erfindung die Erstellung einer Matrix "wer-kommuniziert-mit-wem" im Online-Betrieb, gegebenenfalls erweitert um die Dimension "Art der Kommunikation" vor. Ziel ist demnach die Klassifizierung der ausgehenden Datenstrome von mehreren, beispielsweise von zwei Computern, und damit der Anzahl der je Zeitintervall versandten Datenpakete, aufgezeichnet als Funktion der Zeit, in eine
Klasse "gemeinsame Kommunikation" und eine Klasse "voneinander unabhängige Kommunikation". Ergebnis dieser Klassifikation ist, dass für jedes Paar von Computern im Netz ein Eintrag in dieser Matrix existiert, wobei 1 für eine gemeinsame Kom- munikation und 0 für voneinander unabhängige Kommunikation zwischen den Computern steht. Damit stellt diese Matrix ein Schachbrettmuster mit der Möglichkeit einer Detektierung von Abweichungen vom Normalfall dar. Ausschließlich aus Nullen bestehende Zeilen/Spalten deuten beispielsweise auf einen Ausfall der Kommunikation hin (Fehler), während Zeilen/Spalten mit ausschließlich Einsen auf einen externen An- griff (Fraud) hindeuten können. Jedoch können auch komplexere Matrixmuster Aufschlüsse über den Systemzustand geben, z.B. durch Klassifizierung in Attribute wie "normal/anormal", "überlastet", "überlastungsgefährdet", etc.
Kern der Erfindung ist mit anderen Worten die Einbeziehung temporaler Kodierung in adaptive neuronale Netztechniken durch die mathematisch relativ einfache Formulierung von Pulsen. Hierdurch wird eine neuartige Möglichkeit der Signalverarbeitung ermöglicht. Insbesondere bei Aufgaben, die den ty- pisch menschlichen Stärken entgegenkommen, wie die Erkennung raumzeitlicher Muster, die beispielsweise für die Spracherkennung und für Rechnernetzverkehrsprobleme benötigt werden, sind Vorteile durch eine die Arbeitsweise des menschlichen Gehirns sehr genau nachgebildeten Technik zu erwarten.
Die genannte Klassifikation temporaler Muster (temporal clustering) erfolgt erfindungsgemäß durch ein synaptisches Modell, dessen Dynamik direkt von der exakten Taktung bzw. Zeitsteuerung vor- und nachsynaptischer Pulse abhängt. Zu diesem Zweck implementiert das erfindungsgemäße Modell grob gesagt die hauptsächlichen kurzzeitigen Funktionalitäten einer biologischen Synapse, d.h., das Erleichtern (Facilita- tion) und Unterdrücken (Depression) der Übertragung. Außerdem ist die kurzzeitige Dynamik des Modells adaptierbar. Dies be- deutet, dass die Synapse die Beziehung zwischen dem Erleichtern und Unterdrücken ändert, wodurch der zeitliche Verlauf ihres maximalen Ansprechverhaltens - und damit ihrer Verzögerungswirkung - auf einen Pulszug verändert wird.
Die genannten synaptischen Eigenschaften ergeben sich aus dem Zustand der durch das Wechselspiel der nachfolgend angegebe- nen Gleichungen beherrschten Pulszeit-abhängigen synaptischen Ressourcen.
Für eine synaptische Übertragung eingehender Pulse ist die durch Ca2+ gegebene Konzentration von C in dem präsynapti- schen Bouton bzw. Endknopf in erster Linie bestimmt, der zwischen 0 und 1 in Echtzeit modelliert wird. Es ist mit einem geringen Diffusionsprozess in den extrazellularen Raum und einem raschen Öffnen von Calcium-abhängigen Ionenkanälen bei Ankunft eines präsynaptischen Pulses zur Zeit tsp pre wie folgt zu rechnen:
^ atc = -^ Tf- + δ(t - re) . c0 . (ι - c) (1) faac
wobei C einer exponentiellen Abnahme mit einer Zeitkonstanten ϊfac gehorcht und bei präsynaptischen Pulsankunftszeiten rückgesetzt wird, die durch die ^-Verteilung wiedergegeben sind. Bei diesem Sprung der Ca2+-Konzentration wird C durch den a- daptierbaren Parameter Co skaliert, der den zeitlichen Verlauf der maximalen EPSP (EPSP steht für ein alphaförmiges Erregungspotential) ermittelt, die durch die Synapse erzeugbar ist. Co stellt die Calciummenge dar, die in die Zelle eintritt oder mit anderen Worten gibt sie nur wieder, wie prob- lemlos Calciumionenkanäle sich öffnen können. Bei Co handelt es sich um genau denjenigen Lernparameter, dessen entsprechende Gleichung nachfolgend angegeben ist.
In präsynaptischen Freigabestellen für Neurotransmitter wer- den synaptische Vesikel entweder angedockt oder nicht angedockt. Der Anteil der Freigabestellen, die tatsächlich ein angedocktes Vesikel aufweisen, ist gegeben durch die Variable Pv. Bei Preχ handelt es sich um denjenigen Anteil der angedockten Vesikel, die im Fall präsynaptischen Feuerns freige- geben werden. Vorliegend wird angenommen, dass jedes angedockte Vesikel zur Freigabe vier Calciumionen benötigt. Aus diesem Grund geht C mit Exponent 4 in die Gleichung ein. Mit einer Erhöhung von C steigt der Anteil von freigebbaren Vesi- keln. Hierbei handelt es sich um den erleichternden (facili- tating) Teil der Synapse:
Prel = Pv - C (2)
wobei Pv selbst durch folgende Gleichung beherrscht ist:
1 - PV dt Pv = - δ(t - e) • prel • pυ (3)
Pv ist die Fraktion der aktuell verfügbaren Vesikelressour- cen, die bereitsteht für eine Neurotransmitter-Freigabe. Pv hat in vollständig erholtem Zustand einen Wert von 1, wobei die Erholung durch die Erholungszeitkonstante rrec reguliert wird, die einen exponentiellen Erholungs- bzw. Rückgewin- nungsprozess bei Abwesenheit präsynaptischer Pulse ergibt. Dieser Erholungsprozess stellt die nachfolgende Abgabe bzw. Lieferung von Vesikeln aus den Zellkernen dar. Wenn rrec ziem- lieh groß ist, führen eintreffende Pulse zu einer Abreiche- rung von Vesikelressourcen. Hierbei handelt es sich um den Depressionsteil der Synapse.
Auf der postsynaptischen Seite ist damit eine EPSP einge- führt, die zum Zeitpunkt eines präsynaptischen Pulses von Prel abhängt :
Figure imgf000010_0001
Die vorstehend angeführten Gleichungen (1) bis (4) beherrschen die prinzipielle Dynamik der Synapse, ansprechend auf präsynaptische Pulse. Die resultierenden kurzzeitigen Effekte umfassen die Erleichterung (Facilitation) und die Depression. Die Beziehung zwischen diesen zwei Effekten, die durch Variieren von Co geändert werden kann, beherrscht den Zeitpunkt maximalen Ansprechens in der EPSP und damit den Verzogerungs- effekt bei der Übertragung.
Fig. 1 zeigt unterschiedliche synaptische Ansprechtypen für unterschiedliche Werte des synaptischen Parameters Co . Die synaptische Verzögerung - d.h., ihr maximales Ansprechverhalten - variiert von raschem Ansprechverhalten bis zu langsame- rem Ansprechverhalten. Das postsynaptische, mit Potentialverlust durch Diffusion behaftete Integrations- und Feuer-Neuron empfangt von einer Synapse einen Zug gleichmaßig beabstande- ter Pulse. Dargestellt ist in Fig. 1 das Membranpotential dieses synaptischen Neurons.
Das Lernen, bei dem es sich über eine längere Zeit erstreckende Effekte handelt, die zu einer Adaption der eingeführten kurzzeitigen Dynamik fuhren, wird so durchgeführt, wie im folgenden ausgeführt.
Der Mechanismus zum Erlernen synaptischer Verzogerungsvorgan- ge, abhangig vom präsynaptischen und postsynaptischen Pulsverlauf, wird nunmehr erläutert. Der Kern des Lernalgorithmus ist folgender: Wenn ein postsynaptischer Puls auftritt, bevor eine Synapse ihr maximales Ansprechverhalten erreicht, fuhrt der Algorithmus eine Adaption so durch, dass er nächstes Mal sein Maximum früher erreicht. Dies bedeutet, dass Co erhöht bzw. vergrößert wird. In dem Fall, dass der postsynaptische Puls auftritt, nachdem eine Synapse ihr maximales Ansprech- verhalten bereits erreicht hatte, wird analog hierzu die Synapse das nächste Mal versuchen, ihr Ansprechverhalten zusatzlich zu verzogern, was bedeutet, dass C0 verkleinert bzw. verringert wird. Wie dies im einzelnen erreicht wird, wird nunmehr ausgeführt.
Zunächst wird eine Neurotransmitter-Konzentration N in den synaptischen Spalt eingeführt: ^N = -- + δ(t - t;P e) - Prel - (l - N) - aN dt τ_y (5)
wobei τN die Zeitkonstante eines Neurotransmitterabbaus ist, und wobei N ein Freigabekoeffizient ist. Dabei wird τN so groß gewählt wie die Membrankonstante des Ausgangsneurons, so dass N den Beitrag dieser Synapse zu dem postsynaptischen Membranenpotential wiedergibt. Das Maximum von N sollte mit der maximalen Auswirkung dieser Synapse auf ein postsynapti- sches Neuron zusammenfallen. Um dieses Maximum zu ermitteln, ist erforderlich, die erste Ableitung der Hüllkurve des zeitlichen Verlaufs von N zu ermitteln. Hierfür wird eine zusätzliche Variable N benötigt:
Figure imgf000012_0001
Von N wird angenommen, dass es den Wert von N ausgehend vom letzten Feuerungsereignis speichert. Der Zweck von N besteht darin, zu ermitteln, ob die Synapse im Vergleich zum vorausgehenden Feuerungsereignis aktuell mehr oder weniger Transmitter freigibt. Durch Subtrahieren von N von N kann festgestellt werden, ob N dazu neigt, anzusteigen oder zu fallen. Die Aktualisierung, d.h., das Einstellen von N auf N beim präsynaptischen Feuern, geschieht einige Zeit nachdem der präsynaptische Puls aufgetreten ist, wie mit Δt in dem δ- Term angezeigt. Es wird angenommen, dass N die Neurotrans- mitter-Konzentration an einer Stelle ein wenig entfernt von der Freigabestelle ist, so dass die Konzentration eine bestimmte Zeit Δt benötigt, um sich dorthin zu bewegen. In der Simulation wird Δt mit einem Zeitschritt gewählt, d.h. mit 1 ms. Es ist wichtig, dass τ^ ausreichend groß ist, damit N den Wert von N ausgehend vom letzten Feuerungsereignis tatsächlich speichern kann. Bei jedem Zeitschritt wird nunmehr N - N genutzt, um den Wert C* zu ermitteln, mit welchem beim Auftreten eines postsynaptischen Pulses C0 geändert werden muss.
- N) ≥ 0 -iV)<0
Figure imgf000013_0001
wobei c*o die Lernrate ist. Die Aufteilung in zwei Fälle bei der Ermittlung von C* 0 in Gleichung 7 erfolgt, um sicherzustellen, dass Co zwischen 0 und 1 beschränkt ist.
Wenn der postsynaptische Puls tatsächlich auftritt, wird schließlich C0 durch C* 0 geändert.
£ — Co — δ(t — tp03t) • CQ (8) dt
Fig. 2 zeigt die entsprechenden Kurven von N zusammen mit C* 0- Nach dem Lernen fallen die Null-Durchgänge der zuletzt genannten Kurven mit dem maximalen Ansprechen der Maxima von N zusammen.
Im einzelnen zeigen die Figuren der Zeichnung:
Fig. 1 verschiedene Formen synaptischen Ansprechverhaltens ansprechend auf den adaptierbaren synaptischen Parameter C0; mit kleineren Werten von C0 bewegt sich das Spitzenwertansprechen nach rechts und führt damit zu einer Verzögerung der Übertragung;
Fig. 2A unterschiedliche zeitliche Verläufe von Neurotrans- mitter-Konzentrationen N für unterschiedliche Werte des Parameters C0; Fig. 2B Aktualisierungskurven C* 0; diese Kurven bestimmen die Richtung und das Ausmaß der Änderung bei der Aktualisierung von Co; es wird bemerkt, dass die Null-Durchgänge mit den entsprechenden Maxima in einer Neuro- transmitter-Konzentration zusammenfallen, was bedeutet, dass C0 nicht geändert wird; wenn ein postsynap- tischer Puls exakt zum Zeitpunkt des maximalen synaptischen Ansprechens erzeugt wird; wenn ein postsynap- tischer Puls auftritt, bevor das Maximum erreicht ist, fällt Co; wenn ein postsynaptischer Puls auftritt, nachdem das Maximum erreicht ist, steigt C0 bzw. wird größer.
Fig. 3 beispielhaft das temporale Clustern mit gepulsten Neuronen bei einer Computer-Netzverwaltung, und
Fig. 4 ein typisches Anwendungsspektrum des temporalen Clusters gemäß Fig. 3.
Erläutert wurde vorstehend eine im besonderen Maße vorteilhafte Analysentechnik für zeitlich-dynamische Strukturen im Hinblick auf die Detektierung von Mustern, der Charakterisierung der Dynamik und Klassifizierung der Zeitreihen, basierend auf der Verwendung eines Netzes gepulster Neuronen. Es handelt sich dabei um ein rekurrentes, also dynamisches Netz, dessen Netzelemente, die Neuronen, in enger Anlehnung an natürliche Nervensysteme mittels dynamischer Schwellwertelemente moduliert werden. Diese verarbeiten ihre gewichteten Eingaben in Form von Veränderungen ihres Ladungszustands und ge- nerieren ihre Ausgabe bei Überschreiten der Schwelle durch Aussenden von Aktionspotentialen, was auch als Entladung bezeichnet wird.
Rückkopplungen und Zeitverzögerungen in den Netzverbindungen erlauben es dem Netz, relevante Information über zeitlich vorangegangene Eingaben und Verarbeitungsschritte auf natürliche Weise und ohne Beschränkung durch die Architektur dyna- misch im Netz zu speichern und somit bedarfsgerecht direkt auf die zeitliche Dynamik des Eingabestroms einzugehen, und dessen Charakteristik zu erlernen. Beispiele hierfür in Gestalt der Verkehrsdynamik einer Computer-Netzkommunikation un- ter Verwendung gepulster Neuronen geht aus den schematischen Darstellungen von Fig. 3 und Fig. 4 hervor, die selbsterläuternd sind.
Analog zum Vorbild menschliches Gehirn wird damit der zeitli- ehe Abstand zwischen aufeinanderfolgenden Aktionspotentialen bzw. den resultierenden raumzeitlichen Aktivitätsmuster des Netzes zur unterscheidenden Komponente der internen Kodierung des Systems (temporale Kodierung bzw. temporales Clustern (temporal clustering) ) . Außerdem bietet die Kodierung in Form von Punktprozessen bzw. diskreten Prozessen anstelle kontinuierlicher stochastischer Prozesse als zentrale Eigenschaft dieser Art der Informationsverarbeitung erhebliche Vorteile bei der Verwendung mathematischer Lernfunktionen.
Aufgrund der vorstehend genannten Eigenschaften ist ein derartiges Netz sehr gut zur Klassifikation temporaler Muster (temporal clustering) geeignet, wie sie bei der Analyse der Verkehrscharakteristik in Computernetzen auftritt, wie in Fig. 4 dargestellt.

Claims

Patentansprüche
1. Verfahren zum Klassifizieren der Verkehrsdynamik einer Netzkommunikation unter Verwendung eines gepulste Neuronen enthaltenden Netzes, wobei Verkehrsdaten der Netzkommunikation die Eingangsgrößen des neuronalen Netzes bilden, und wobei durch Pulsverarbeitung gewonnene temporale Cluster die Ausgangsgrößen des neuronalen Netzes bilden, bei dem die Klassifikation der Verkehrsdynamik mittels eines synaptischen Mo- dells erfolgt, dessen Dynamik direkt von der exakten Taktung vor- und nachsynaptischer Pulse abhängt.
2. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass die Dynamik des synaptischen Modells durch die folgenden Gleichungen bestimmt ist:
!<?- - + *<t-*.) -<i- <ι -σ) (i) wobei C einer exponentiellen Abnahme mit einer Zeitkonstanten τfac gehorcht und bei präsynaptischen Pulsankunftszeiten rückgesetzt wird, die durch die δ-Verteilung wiedergegeben sind. Bei diesem Sprung der Ca2+-Konzentration wird C durch den adaptierbaren Parameter C0 skaliert, der den zeitlichen Verlauf der maximalen EPSP (EPSP steht für ein alphaförmiges Erregungspotential) ermittelt, die durch die Synapse erzeugbar ist. Co stellt die Calciummenge dar, die in die Zelle ein- tritt oder mit anderen Worten gibt sie nur wieder, wie problemlos Calciumionenkanäle sich öffnen können. Bei C0 handelt es sich um genau denjenigen Lernparameter, dessen entsprechende Gleichung nachfolgend angegeben ist;
Figure imgf000016_0001
wobei P∑ei derjenige Anteil angedockter Vesikel, die im Fall präsynaptischen Feuerns freigegeben werden und wobei Pv selbst durch folgende Gleichung beherrscht ist: d_ l - Pv
Υ dtPv = —r^ ~ ~ e) • Prel " Pv (3)
wobei Pv die Fraktion der aktuell verfügbaren Vesikelressour- cen ist, die bereitsteht für eine Neurotransmitter-Freigabe;
Figure imgf000017_0001
was bedeutet, dass auf der postsynaptischen Seite eine EPSP (EPSP steht für ein alphaförmiges Erregungspotential) eingeführt wird, die zum Zeitpunkt eines präsynaptischen Pulses von Prei abhängt .
3. Verfahren nach Anspruch 2, dadurch gekennzeichnet, dass zur Adaption einer kurzzeitigen Verkehrsdynamik ein Lernpro- zess für synaptische Verzögerungsvorgänge abhängig vom präsynaptischen und postsynaptischen Pulsverlauf durchgeführt wird, der durch folgende Formeln festgelegt ist:
* N = -!L + δ(t - t . Pre[ . (l - N) - N (5) dt r/v
wobei τN die Zeitkonstante eines Neurotransmitterabbaus ist, und wobei αN ein Freigabekoeffizient ist; dabei wird τN so groß gewählt wie die Membrankonstante des Ausgangsneurons, so dass N den Beitrag dieser Synapse zu dem postsynaptischen Membranenpotential wiedergibt; das Maximum von N wird aus der ersten Ableitung der Hülle des zeitlichen Verlaufs von N zu ermittelt, wofür eine zusätzliche Variable ^ benötigt wird:
d Λ-r N - N
N = -i-—- + δ(t - re - Δt) . (N - N) (6) dt Tft wobei von N angenommen wird, dass es den Wert von N ausgehend vom letzten Feuerungsereignis speichert; wobei bei jedem Zeitschritt N - N genutzt wird, um den Wert C*0 zu ermit- teln, mit welchem beim Auftreten eines postsynaptischen Pulses C0 geändert werden muss:
dt 0 ~ {-$ + δ(t - ^c) - l - C0' + ((N - ff) -aci - Prd - C0)) «™.(JV-ff)<0
(7)
wobei αc*o die Lernrate ist; und wobei dann, wenn der postsynaptische Puls tatsächlich auftritt, schließlich C0 durch C*0 geändert wird:
d
— Co — δ(t — tpoat) • CQ (8) dt
4. Verfahren nach einem der Ansprüche 1 bis 3, dadurch gekennzeichnet, dass die Verkehrsdynamik die Dynamik zwischen zumindest zwei Computern ist, die über ein LAN, MAN oder WAN verbunden sind.
5. Neuronales Netz, welches gepulste Neuronen enthält, das zum Klassifizieren der Verkehrsdynamik einer Netzkommunikation die Anwendung eines synaptischen Modells vorsieht, dessen Dynamik direkt von der exakten Taktung vor- und nachsynapti- scher Pulse abhängt, wobei Verkehrsdaten der Netzkommunikati- on die Eingangsgrößen des neuronalen Netzes bilden, und wobei durch Pulsverarbeitung gewonnene temporale Cluster die Ausgangsgrößen des neuronalen Netzes bilden.
6. Neuronales Netz nach Anspruch 5, dadurch gekennzeichnet, dass die Dynamik des synaptischen Modells durch die folgenden Gleichungen bestimmt ist:
Figure imgf000018_0001
wobei C einer exponentiellen Abnahme mit einer Zeitkonstanten Tfac gehorcht und bei präsynaptischen Pulsankunftszeiten rückgesetzt wird, die durch die δ-Verteilung wiedergegeben sind; Bei diesem Sprung der Ca2+-Konzentration wird C durch den a- daptierbaren Parameter C0 skaliert, der den zeitlichen Ver- lauf der maximalen EPSP (EPSP steht für ein alphaförmiges Erregungspotential) ermittelt, die durch die Synapse erzeugbar ist; Co stellt die Calciummenge dar, die in die Zelle eintritt oder mit anderen Worten gibt sie nur wieder, wie problemlos Calciumionenkanäle sich öffnen können; bei C0 handelt es sich um genau denjenigen Lernparameter, dessen entsprechende Gleichung nachfolgend angegeben ist;
Prel = Pv - C* (2)
wobei Preι derjenige Anteil angedockter Vesikel, die im Fall präsynaptischen Feuerns freigegeben werden und wobei Pv selbst durch folgende Gleichung beherrscht ist:
±Pυ = 1 L - δ(t - re) ■ Prel • Pυ (3)
CXt 7" rec wobei Pv die Fraktion der aktuell verfügbaren Vesikelressour- cen ist, die bereitsteht für eine Neurotransmitter-Freigabe;
fj τp p o p
TtBPSP = -^ + - W - p"> < > was bedeutet, dass auf der postsynaptischen Seite eine EPSP (EPSP steht für ein alphaförmiges Erregungspotential) eingeführt wird, die zum Zeitpunkt eines präsynaptischen Pulses von Prel abhängt .
7. Neuronales Netz nach Anspruch 6, dadurch gekennzeichnet, dass zur Adaption einer kurzzeitigen Verkehrsdynamik ein
Lernprozess für synaptische Verzögerungsvorgänge abhängig vom präsynaptischen und postsynaptischen Pulsverlauf implementiert ist, der durch folgende Formeln festgelegt ist: + δ(t - t»t) ■ Prel - (l - N) - N (5)
Figure imgf000020_0001
wobei τN die Zeitkonstante eines Neurotransmitterabbaus ist, und wobei αN ein Freigabekoeffizient ist; dabei wird τN so groß gewählt wie die Membrankonstante des Ausgangsneurons, so dass N den Beitrag dieser Synapse zu dem postsynaptischen Membranenpotential wiedergibt; das Maximum von N wird aus der ersten Ableitung der Hüllkurve des zeitlichen Verlaufs von N ermittelt, wofür eine zusätzliche Variable N benötigt wird:
Figure imgf000020_0002
wobei von N angenommen wird, dass es den Wert von N ausge- hend vom letzten Feuerungsereignis speichert; wobei bei jedem Zeitschritt N - N genutzt wird, um den Wert C*0 zu ermitteln, mit welchem beim Auftreten eines postsynaptischen Pulses Co geändert werden muss:
Figure imgf000020_0003
wobei αc*o die Lernrate ist; und wobei dann, wenn der postsynaptische Puls tatsächlich auftritt, schließlich C0 durch C*0 geändert wird:
d_
-Co = δ(t - t/s ost) ■ C (8) dt
8. Neuronales Netz nach einem der Ansprüche 5 bis 7, dadurch gekennzeichnet, dass die Verkehrsdynamik die Dynamik zwischen zumindest zwei Computern ist, die über ein LAN, MAN oder WAN verbunden sind.
9. Anordnung zum Durchfuhren des Verfahrens nach einem der Ansprüche 1 bis 4 zum Klassifizieren der Verkehrsdynamik einer Netzkommunikation unter Verwendung eines gepulste Neuronen enthaltenden Netzes, wobei Verkehrsdaten der Netzkommunikation die Eingangsgroßen des neuronalen Netzes bilden, und wobei durch Pulsverarbeitung gewonnene temporale Cluster die Ausgangsgroßen des neuronalen Netzes bilden, mit einem Prozessor, der dazu ausgelegt ist, dass die Klassifikation der Verkehrsdynamik mittels eines synaptischen Modells erfolgt, dessen Dynamik direkt von der exakten Taktung vor- und nach- synaptischer Pulse abhangt.
10. Anordnung nach Anspruch 9, dadurch gekennzeichnet, dass die Dynamik des synaptischen Modells durch die folgenden Gleichungen bestimmt ist:
Figure imgf000021_0001
wobei C einer exponentiellen Abnahme mit einer Zeitkonstanten τfac gehorcht und bei präsynaptischen Pulsankunftszeiten ruckgesetzt wird, die durch die δ-Verteilung wiedergegeben sind; Bei diesem Sprung der Ca2+-Konzentration wird C durch den a- daptierbaren Parameter Co skaliert, der den zeitlichen Verlauf der maximalen EPSP (EPSP steht für ein alphaförmiges Erregungspotential) ermittelt, die durch die Synapse erzeugbar ist; Co stellt die Calciummenge dar, die in die Zelle ein- tritt oder mit anderen Worten gibt sie nur wieder, wie problemlos Calciumionenkanale sich offnen können; bei C0 handelt es sich um genau denjenigen Lernparameter, dessen entsprechende Gleichung nachfolgend angegeben ist;
Prel = Pv - C (2) wobei Preι derjenige Anteil angedockter Vesikel, die im Fall präsynaptischen Feuerns freigegeben werden und wobei Pv selbst durch folgende Gleichung beherrscht ist:
- ^pPvv == — -r P^v - δ(t - t%e) . prel . pv uZ TreC (3)
wobei Pv die Fraktion der aktuell verfügbaren Vesikelressour- cen ist, die bereitsteht für eine Neurotransmitter-Freigabe;
* E EPPSSPP _=. --*™P + δ(t - • Prel (4) dt T~EPSP was bedeutet, dass auf der postsynaptischen Seite eine EPSP (EPSP steht für ein alphaförmiges Erregungspotential) eingeführt wird, die zum Zeitpunkt eines präsynaptischen Pulses von Preι abhängt .
11. Anordnung nach Anspruch 10, dadurch gekennzeichnet, dass zur Adaption einer kurzzeitigen Verkehrsdynamik ein Lernpro- zess für synaptische Verzögerungsvorgänge abhängig vom präsynaptischen und Postsynaptischen Pulsverlauf implementiert ist, der durch folgende Formeln festgelegt ist: N = _^ + δ(t - e) ■ Prel - (l - N) - N (5) dt wobei τN die Zeitkonstante eines Neurotransmitterabbaus ist, und wobei αN ein Freigabekoeffizient ist; dabei wird τN so groß gewählt wie die Membrankonstante des Ausgangsneurons, so dass N den Beitrag dieser Synapse zu dem postsynaptischen Membranenpotential wiedergibt; das Maximum von N wird aus der ersten Ableitung der Hüllkurve des zeitlichen Verlaufs von N ermittelt, wofür eine zusätzliche Variable -W benötigt wird:
d NN =- N - N + δ(t - e - At) - (N - N) dt T ι (6)
wobei von N angenommen wird, dass es den Wert von Ν ausgehend vom letzten Feuerungsereignis speichert; wobei bei jedem Zeitschritt N - N genutzt wird, um den Wert C*0 zu ermitteln, mit welchem beim Auftreten eines postsynaptischen Pulses CO geändert werden uss:
- N) > 0 - N) < 0
Figure imgf000023_0001
wobei αc*o die Lernrate ist; und wobei dann, wenn der postsynaptische Puls tatsächlich auftritt, schließlich C0 durch C*o geändert wird:
Co = δ(t - t ost) ■ C (8)
12. Anordnung nach einem der Ansprüche 9 bis 11, dadurch gekennzeichnet, dass die Verkehrsdynamik die Dynamik zwischen zumindest zwei Computern ist, die über ein LAΝ, MAN oder WAN verbunden sind.
PCT/DE2003/000277 2002-02-05 2003-01-31 Verfahren zum klassifizieren der verkehrsdynamik einer netzkommunikation unter verwendung eines gepulste neuronen enthaltenden netzes WO2003067514A2 (de)

Priority Applications (4)

Application Number Priority Date Filing Date Title
US10/503,626 US20050105463A1 (en) 2002-02-05 2003-01-31 Method for classifying the traffic dynamism of a network communication using a network that contains pulsed neurons, neuronal network and system for carrying out said method
EP03708011A EP1472652A2 (de) 2002-02-05 2003-01-31 Verfahren zum klassifizieren der verkehrsdynamik einer netzkommunikation unter verwendung eines gepulste neuronen enthaltenden netzes, neuronales netz und anordnung zum durchführen des verfahrens
JP2003566790A JP2005517330A (ja) 2002-02-05 2003-01-31 パルスニューロンを備えたネットワークを用いてネットワーク通信のトラフィック動特性を分類する方法
AU2003212191A AU2003212191A1 (en) 2002-02-05 2003-01-31 Method for classifying the traffic dynamism of a network communication using a network that contains pulsed neurons

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE10204623.9 2002-02-05
DE10204623 2002-02-05

Publications (2)

Publication Number Publication Date
WO2003067514A2 true WO2003067514A2 (de) 2003-08-14
WO2003067514A3 WO2003067514A3 (de) 2003-10-16

Family

ID=27674559

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/DE2003/000277 WO2003067514A2 (de) 2002-02-05 2003-01-31 Verfahren zum klassifizieren der verkehrsdynamik einer netzkommunikation unter verwendung eines gepulste neuronen enthaltenden netzes

Country Status (6)

Country Link
US (1) US20050105463A1 (de)
EP (1) EP1472652A2 (de)
JP (1) JP2005517330A (de)
CN (1) CN1628322A (de)
AU (1) AU2003212191A1 (de)
WO (1) WO2003067514A2 (de)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102005030326A1 (de) * 2005-06-29 2007-01-04 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Verfahren und Computerprogramm zur Analyse eines Audiosignals

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4407700B2 (ja) 2007-02-02 2010-02-03 日本電気株式会社 通信端末、通信システム、輻輳制御方法、及び輻輳制御用プログラム
CN101866438B (zh) * 2010-04-30 2012-03-21 天津大学 智能针刺神经元网络实验平台
US9111222B2 (en) * 2011-11-09 2015-08-18 Qualcomm Incorporated Method and apparatus for switching the binary state of a location in memory in a probabilistic manner to store synaptic weights of a neural network
RU2598298C2 (ru) * 2015-02-09 2016-09-20 Михаил Ефимович Мазуров Импульсный нейрон, близкий к реальному
US11817220B2 (en) * 2016-10-07 2023-11-14 Ecole Polytechnique Federale De Lausanne (Epfl) Reconstruction and simulation of neocortical microcircuitry
CN114220089A (zh) * 2021-11-29 2022-03-22 北京理工大学 一种基于分段式渐进型脉冲神经网络进行模式识别的方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0475233A2 (de) * 1990-08-31 1992-03-18 Fujitsu Limited Leitweglenkungssystem mittels eines neuralen Netzwerkes
US5511163A (en) * 1992-01-15 1996-04-23 Multi-Inform A/S Network adaptor connected to a computer for virus signature recognition in all files on a network
DE19808372A1 (de) * 1998-02-27 1999-09-02 Siemens Ag Trainings- und Herstellverfahren für ein neuronales Netz
EP1017199A1 (de) * 1998-12-29 2000-07-05 International Business Machines Corporation Verfahren und Vorrichtung zur Klassifikation von Netzwerkeinheiten in virtuellen LANs
WO2002025452A2 (fr) * 2000-09-25 2002-03-28 France Telecom Procede et dispositif de prediction de trafic avec un reseau de neurones
US20020150044A1 (en) * 2001-02-28 2002-10-17 Min Wu Dynamic network resource allocation using multimedia content features and traffic features

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0475233A2 (de) * 1990-08-31 1992-03-18 Fujitsu Limited Leitweglenkungssystem mittels eines neuralen Netzwerkes
US5511163A (en) * 1992-01-15 1996-04-23 Multi-Inform A/S Network adaptor connected to a computer for virus signature recognition in all files on a network
DE19808372A1 (de) * 1998-02-27 1999-09-02 Siemens Ag Trainings- und Herstellverfahren für ein neuronales Netz
EP1017199A1 (de) * 1998-12-29 2000-07-05 International Business Machines Corporation Verfahren und Vorrichtung zur Klassifikation von Netzwerkeinheiten in virtuellen LANs
WO2002025452A2 (fr) * 2000-09-25 2002-03-28 France Telecom Procede et dispositif de prediction de trafic avec un reseau de neurones
US20020150044A1 (en) * 2001-02-28 2002-10-17 Min Wu Dynamic network resource allocation using multimedia content features and traffic features

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102005030326A1 (de) * 2005-06-29 2007-01-04 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Verfahren und Computerprogramm zur Analyse eines Audiosignals
US8761893B2 (en) 2005-06-29 2014-06-24 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Device, method and computer program for analyzing an audio signal
DE102005030326B4 (de) * 2005-06-29 2016-02-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Verfahren und Computerprogramm zur Analyse eines Audiosignals

Also Published As

Publication number Publication date
EP1472652A2 (de) 2004-11-03
CN1628322A (zh) 2005-06-15
AU2003212191A8 (en) 2003-09-02
AU2003212191A1 (en) 2003-09-02
JP2005517330A (ja) 2005-06-09
US20050105463A1 (en) 2005-05-19
WO2003067514A3 (de) 2003-10-16

Similar Documents

Publication Publication Date Title
DE69632240T2 (de) Verfahren und Anlage zur Kontrolle von Übertragungsgeschwindigkeiten von Quellen in ATM-Netzwerken
EP1223709B1 (de) Verfahren und Vorrichtung zum rechnergestützten Überwachen eines Telekommunikationsnetzes
DE102007001025A1 (de) Verfahren zur rechnergestützten Steuerung und/oder Regelung eines technischen Systems
DE102007028861A1 (de) Verfahren zur rechnergestützten Vorhersage von intendierten Bewegungen
DE102018104489A1 (de) Selbsttestfähiges Bussystem und Verwendung dieser Selbsttestfähigkeit zur Vergabe von Busknotenadressen mit Mischverbaumöglichkeit
WO2003067514A2 (de) Verfahren zum klassifizieren der verkehrsdynamik einer netzkommunikation unter verwendung eines gepulste neuronen enthaltenden netzes
EP1593237B1 (de) Verfahren zur übertragungsbandbreitenzuteilung in einer pake torientierten kommunikationseinrichtung
EP3432507A1 (de) Überwachung einer blockchain
DE19635758C1 (de) Verfahren und Vorrichtung zur rechnergestützten Generierung mindestens eines künstlichen Trainingsdatenvektors für ein neuronales Netz
DE19504664C2 (de) Chaotisches rekurrentes neuronales Netz und Lernverfahren dafür
DE60110619T2 (de) Verfahren und vorrichtung zur verkehrsprädiktion mit einem neuronalen netzwerk
DE602004007685T2 (de) Verfahren und server zur steuerung von datenflüssen in einem telekommunikationsnetz
DE19822211A1 (de) Verfahren zur Reduktion des Datendurchsatzes bei der Übertragung von objektbezogenen Daten zwischen innerhalb von Zeitbedingungen kommunizierenden Rechenelementen
EP0513511B1 (de) Verfahren zum Überprüfen der Zulässigkeit des Einrichtens von virtuellen Verbindungen
DE102014115188A1 (de) Verfahren zur Anpassung eines zu übertragenden Datenstroms an eine Ressourcenauslastung
WO1998034176A1 (de) Verfahren zur transformation einer zur nachbildung eines technischen prozesses dienenden fuzzy-logik in ein neuronales netz
DE4408884A1 (de) Verfahren zum Erlernen der Kanalvergabe in Mobilfunknetzen unter Anwendung der erweiterten Kohonen-Netze
EP1455489A2 (de) Optimierung der Verkehrsbelastung in einem Kommunikationsnetz
DE102019210227A1 (de) Vorrichtung und Verfahren zur Anomalieerkennung in einem Kommunikationsnetzwerk
DE10327545A1 (de) Verfahren und Vorrichtung zur Verarbeitung von Echtzeitdaten
EP1661329A1 (de) Verbesserung der auslastung von links und kommunikationsnetzen mit zugangskontrolle
AT502241B1 (de) Verfahren und anordnung zur feststellung der abweichung von ermittelten werten
DE19641286C1 (de) Lernverfahren für selbstorganisierende neuronale Netzwerke und Vorrichtung zur Durchführung des Verfahrens
DE102014221975A1 (de) Verfahren und Vorrichtung zum Regeln einer Dienstgüte zwischen einem lokalen Netzwerk und einem Weitverkehrsnetz
DE19624108C1 (de) Verfahren und Anordnung zur Überwachung von ausgehandelten Benutzerparametern einer ATM-Zelle einer ATM-Verbindung

Legal Events

Date Code Title Description
AK Designated states

Kind code of ref document: A2

Designated state(s): AE AG AL AM AT AU AZ BA BB BG BR BY BZ CA CH CN CO CR CU CZ DK DM DZ EC EE ES FI GB GD GE GH GM HR HU ID IL IN IS JP KE KG KP KR KZ LC LK LR LS LT LU LV MA MD MG MK MN MW MX MZ NO NZ OM PH PL PT RO RU SC SD SE SG SK SL TJ TM TN TR TT TZ UA UG US UZ VC VN YU ZA ZM ZW

AL Designated countries for regional patents

Kind code of ref document: A2

Designated state(s): GH GM KE LS MW MZ SD SL SZ TZ UG ZM ZW AM AZ BY KG KZ MD RU TJ TM AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IT LU MC NL PT SE SI SK TR BF BJ CF CG CI CM GA GN GQ GW ML MR NE SN TD TG

DFPE Request for preliminary examination filed prior to expiration of 19th month from priority date (pct application filed before 20040101)
121 Ep: the epo has been informed by wipo that ep was designated in this application
WWE Wipo information: entry into national phase

Ref document number: 2003708011

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 20038033143

Country of ref document: CN

Ref document number: 2003566790

Country of ref document: JP

Ref document number: 10503626

Country of ref document: US

WWP Wipo information: published in national office

Ref document number: 2003708011

Country of ref document: EP

WWW Wipo information: withdrawn in national office

Ref document number: 2003708011

Country of ref document: EP