DE10262074B4

DE10262074B4 - Adaptives verteiltes Verfahren zur Berechnung systemoptimaler Routen in paketvermittelnden Kommunikationsnetzen

Info

Publication number: DE10262074B4
Application number: DE10262074A
Authority: DE
Inventors: Paul Mathias
Original assignee: Individual
Current assignee: Individual
Priority date: 2001-04-25
Filing date: 2002-04-15
Publication date: 2006-03-02
Anticipated expiration: 2022-04-16
Also published as: AU2002308141A1; WO2002087130A2; WO2002087130A3; DE10262074A1

Abstract

Verfahren zur Berechnung von, bezüglich vorgegebener netzweiter Zielfunktionen, optimalen Routen für die von einer Quelle zu einem Ziel zu transportierenden Dateneinheiten in Kommunikationsnetzen, mittels einer Daten verarbeitenden Anlage, umfassend folgende Schritte:
• Topologie und Dynamik des Kommunikationsnetzes werden auf ein spezielles rekurrentes neuronales Sigma-Pi-Netz (Identifikationsnetz) abgebildet, indem Ausgangsspeicher von im Netz angeordneten Routern zusammen mit nachfolgenden Verbindungsleitungen den Neuronen des neuronalen Netzes zugeordnet werden, wodurch die Aktivitätszustände (x d / k) der Neuronen der Anzahl der Dateneinheiten eines Ziels (d), die in den entsprechenden Ausgangsspeichern auf ihre Weiterleitung warten, entsprechen, und Kopplungsgewichte (w d / ik) der Neuronen als Routing-Tabelle die Anteile der ankommenden Dateneinheiten eines Ziels (d) definieren, die zu den möglichen Ausgängen weitergeroutet werden, wobei das Sigma-Pi-Netz aus einzelnen Schichten aufgebaut ist, in denen Teildatenströme abgebildet werden,
• die Router-Rechner ermitteln Datendurchsätze (s d / k, s_k), Speicherrestriktionen (r_k) und Warteschlangen in den Ausgangsspeichern (x d / k, x_k) sowie zeitliche Veränderungen (x ' / k , s ' / k, r ' / k) davon und...

Description

Einleitende Bemerkungen
An die Leistungsfähigkeit paketvermittelnder Rechnernetze werden heutzutage immer größere Anforderungen gestellt. Zum einen erfordert der stetig zunehmende Verkehr immer leistungsfähigere Routing-Verfahren, die die Last optimal auf das zur Verfügung stehende Kommunikationsnetz verteilen. Andererseits ist aufgrund der Heterogenität der zu erbringenden Dienste die Berücksichtigung anwendungsbezogener Dienstgüteparameter (quality of service; durch die Kommunikationssysteme unabdingbar. Um auf die verschiedenen Anforderungen der Anwendungen reagieren und geeignete Datenwege bzw. Routen bereitstellen zu können, werden effiziente Wegewahl- bzw. Routing-Algorithmen benötigt, die eine dynamische Anpassung der Routen an die aktuellen Lastmuster auf dem Netz leisten sollen. Solche Routing-Algorithmen sollten verschiedene Routingmetriken oder Zielfunktionen zur anwendungsbezogenen Bewertung von Routen in ihr Kalkül mit einbeziehen.
Aus Performance-Gründen werden meist sog. Kürzeste Wege Verfahren implementiert, die für einzelne Quelle-Ziel-Beziehungen geeignete Routen durch das Netz berechnen, ohne aber die Routenwahl der jeweils anderen Quelle-Ziel-Beziehungen mit ins Kalkül zu nehmen. Dies führt in der Regel nicht zu einem systemoptimalen Zustand! Die beiden folgenden Kürzeste Wege Verfahren sind besonders bekannt und haben sich (so oder in abgewandelter Form) auf breiter Ebene durchgesetzt:
Distance-Vector Routing – Das Verfahren basiert auf dem Algorithmus von Bellman-Ford. Jeder Router versendet einen Teil seiner Routing-Tabelle (Zieladresse, Distanz) periodisch an seine Nachbarn. Mit Hilfe dieser Informationen berechnet jeder Router, welcher Nachbar momentan die günstigste Route zu einem Ziel anbietet und trägt ihn zusammen mit dem errechneten Distanzwert in seine Routing-Tabelle ein. Es erfolgt so eine verteilte Berechnung der Routen (kein Router braucht die vollständige Route zu kennen). Das Verfahren zeichnet sich insgesamt durch seine Einfachheit und einen niedrigen Speicheraufwand aus. Es besitzt aber auch gravierende Nachteile, zu denen etwa seine Trägheit das sogenannte Count-to-Infinity-Problem), seine Neigung zur Ausbildung von Routingschleifen und Oszillationen, sein Unvermögen die Leitungsbandbreiten in die Wegewahl einzubeziehen und auch seine Langsamkeit gehören. Aufgrund dieser Nachteile ist das Distance-Vector Routing mehr und mehr vom Link-State Routing abgelöst worden.
Link-State Routing – Dieses Verfahren gilt als eine flexiblere und robustere Alternative zum oben beschriebenen Distance-Vector Routing. Dabei besitzt jeder einzelne Router-Rechner Informationen über die gesamte Topologie des Netzes. Es werden die Zustände des Systems, die link states, durch das gesamte Netz propagiert (flooding), so daß jeder Router, mit einer kleinen Verzögerung, den gesamten Netzzustand kennt. Diese Datenbasis nutzt jeder Router, um autonom mit Hilfe des Dijkstra-Algorithmus die kürzesten Routen für jede ihn betreffende Quelle-Ziel-Beziehung zu berechnen. Nachteile des Verfahrens Link State Routing sind vor allem die relativ hohe Netzbelastung, die durch das Flooding verursacht wird, und die hohen Speicher und Prozessoranforderungen. Außerdem können sich in bestimmten Situationen Routenschleifen ausbilden (besonders, wenn die Last des Netzes mit in das Wegewahlkalkül aufgenommen wird). Dies liegt daran, dass die Berechnungen unabhängig voneinander in den einzelnen Router-Rechnern durchgeführt werden.
Beide Algorithmen berechnen für jedes Quelle-Ziel-Paar genau einen Weg (single path routing).

Aus DE 198 58 477 A1 ist ein Verfahren zum automatischen Ermitteln von Verkehrsinformationen bekannt, bei dem mittels einer Daten verarbeitenden Anlage ein Verkehrswegenetz auf ein rekurrentes neuronales Netz abgebildet wird, indem jeder Strecke des Verkehrswegenetzes ein bestimmtes Neuron und einer Fahrzeugmenge auf der jeweiligen Strecke ein Aktivitätszustand des entsprechenden Neurons zugeordnet wird, wobei Gewichten von Koppelverbindungen zwischen den Neuronen jeweils Abbiegebeziehungen von einer Strecke auf einer nachfolgenden Strecke entsprechen. Dieses neuronale Netz wird in Form eines Simulations-Netzwerks (SIM) in der Daten verarbeitenden Anlage implementiert. Es wird durch schrittweise Anpassung der Abbiegebeziehungen bzw. der Gewichte solange relaxiert, bis sich eine vorgegebene Zielfunktion des Systems, z.B. die Summe der mittleren Reisezeiten, nicht mehr signifikant ändert. Zum Ermitteln der angepassten Gewichte wird dem Simulations-Netzwerk ein weiteres neuronales Netzwerk, ein Fehlerpropagierungs-Netzwerk (ERR), zugeordnet, in dem die Zielfunktion so definiert wird, dass möglichst kleine Funktionswerte der Zielvorstellung am besten entsprechen.

Des Weiteren ist aus US 54 81 604 A dem hier tätigen Fachmann bekannt, dass jeder Router („cell") seine Routing-Gewichte („cost of path") mit Hilfe der aktuellen Werte berechnet und die neuen Gewichte an die direkt verbundenen Nachbar-Router-Rechner schickt („nearest neighbouring cells and only with them").

Der US 60 78 946 A , Spalte 11, Zeile 8 bis 50 kann der Fachmann auch entnehmen, wie – für die Optimierung des Verfahrens gemäß Oberbegriff des Patentanspruchs 1 – ein „neural network computing" (Spalte 11, Zeile 22) unter Zuhilfenahme des „backward error propagation learning, or backpropagation" (Spalte 11, Zeile 32 bis 33) verwendet werden kann.

Es ist daher die Aufgabe der vorliegenden Erfindung, ein Verfahren zur Berechnung von Routen in paketvermittelnden Kommunikationsnetzen zu beschreiben, welches in der Lage ist, systemoptimale Routen bzgl. beliebig vorgebbarer Zielfunktionen zu ermitteln. Die Aufgabe wird erfindungsgemäß gelöst durch ein Verfahren mit den Merkmalen des Anspruchs 1.

Die hier beschriebene Erfindung realisiert ein adaptives und verteiltes Verfahren zur systemoptimalen Routenwahl in paketvermittelnden Kommunikationsnetzen mit beliebig vorgebbarem Optimierungskriterium (Zielfunktion). Dazu werden das eigentliche Kommunikationsnetz und das zugehörige Routing-Verfahren auf spezielle, miteinander kooperierende neuronale Netze abgebildet, die Identifikations- und Fehlerpropagierungsnetz genannt werden.
In 1 ist dargestellt, dass die Aufgabe als Steuerungsproblem interpretiert werden kann, indem das eigentliche Kommunikationsnetz als das zu steuerende System (Identifikationsnetz) aufgefasst wird, und die optimale Wegewahl als Steuerung des ersten Subsystems. Strukturen und Zustände des Identifikationsnetzes werden durch die Topologie des Kommunikationsnetzes und dessen spezifische Attribute (Queuespeichergrößen, Service-Raten, etc.) definiert. Die freien einzustellenden Parameter des Identifikationsnetzes sind die Einträge der Routingtabellen der einzelnen Router-Rechner. Die Steuerung (das Fehlerpropagierungsnetz) stellt diese Parameter entsprechend einer gegebenen Zielfunktion ein. Beide Subsysteme kooperieren permanent miteinander: das Identifikationsnetz übermittelt zyklisch seinen aktuellen Systemzustand, während das Fehlerpropagierungsnetz zyklisch die jeweils neuen Korrekturen der Routingtabellen zurückgibt.
Die Bestimmung der optimalen Routen geschieht mit Hilfe des Fehlerpropagierungsnetzes, das als lineares rekurrentes neuronales Netz eine modifizierte Version des besonders effizienten Lernverfahrens Rekurrentes Backpropagation realisiert. Die Berechnungen des Fehlerpropagierungsnetzes sind durchweg lokal, d.h. dass jeder Router-Rechner nur einen geringen Teil der Gesamtberechnung durchführen muss. Das Modell ist fähig, beliebige Teilmengen des Datenverkehrs (z.B. den Verkehr eines Zieles) in sogenannten Schichten separat zu routen, wobei die Abhängigkeiten der Schichten untereinander berücksichtigt werden.
Das Verfahren ist sowohl für verbindungslose Vermittlerschichten (also Datengrammteilnetze wie TCP/IP), als auch für verbindungsorientierte Dienste (Teilnetze mit virtuellen Verbindun gen wie ATM), oder auch für Mischformen der beiden geeignet. Es ist einfach, robust und stabil. Weitere Kriterien wie Fairness und Optimalität lassen sich über geeignet definierte Zielfunktionen einbringen.
Lösung von Routing-Problemen mit Hilfe von Rekurrenten Neuronalen Netzen
Abbildung von Topolgie und Dynamik eines Routing-Netzes auf ein Rekurrentes Neuronales Netz:
Ein Routing-Netz sei definiert durch einen gerichteten Graph G = (K, S), mit K = Menge von N Router-Rechnern und S = Menge von M Router-Verbindungen, wobei „Router-Verbindung" hier für den Übertragungskanal zusammen mit dem entsprechenden Router Ausgang und seinem Warteschlangenspeicher (output queue) steht! Q bzw. Z sei die Anzahl der Datenquellen bzw. Datenziele des Netzes. Weiter seien
⊂ S die Menge der Quellanbindungen und
⊂ S die Menge der Zielanbindungen.
Zunächst wird ein erstes rekurrentes neuronales Netz (RANN) konstruiert, das Topologie und Dynamik des Verkehrsgeschehens im Kommunikationsnetz möglichst realistisch nachbildet. Dieses Netz soll, entsprechend der üblichen Terminologie von Steuerungsmodellen, Identifikationsnetz oder auch Identifikations-RANN heißen. Die Topologien von Kommunikationsnetz und neuronalem Netz werden aufeinander abgebildet, indem die Router-Verbindungen S des Kommunikationsnetzes mit den Neuronen des RANN identifiziert werden. Die durch das Kommunikationsnetz und seinen Router-Rechnern realisierten Verbindungen von Router-Ausgängen entsprechen so den Kopplungen der Neuronen. Das damit definierte Netzwerk ist ein rekurrentes neuronales Netz, da prinzipiell jedes Neuron mit jedem anderen verbunden sein kann. Die Neuronen sind in diesem Falle aber spärlich gekoppelt, da ein Router in der Regel nur mit einigen wenigen anderen Routern in Verbindung steht. Man beachte, daß es zwischen zwei Neuronen keine Verbindungen in beide Richtungen geben kann, da die Strecken des Graphen G gerichtet sind.
Die 2 und 3 veranschaulichen die beschriebenen Zuordnungen der Topologien anhand eines einfachen Beispiels. In 2 ist ein einfaches Kommunikationsnetz dargestellt mit Router-Rechnern (R₁ bis R₄), Datenquellen (Q₁, Q₂), Datenzielen (Z₁, Z₂), und Verbindungsleitungen mit den zugehörigen Warteschlangenspeichern (L₁ bis L₁₂). Beispielsweise hat der Router R₃ die Möglichkeit, die über Leitung eintreffenden Datenpakete über die Leitungen L₆, L₁₀ oder L₁₁ weiterzurouten. Die 3 zeigt die Abbildung des Kommunikationsnetzes aus 2 auf ein rekurrentes neuronales Netz. Die einzelnen Neuronen (N₁ bis N₁₂) entsprechen den Verbindungsleitungen mit den zugehörigen Warteschlangenspeichern des Kommunikationsnetzes. Die Einträge der Routingtabellen der Router-Rechner, die das Multipath-Routing des Kommunikationsnetzes definieren, sind die Kopplungsgewichte w_i,k des neuronalen Netzes. Die Kopplungsgewichte müssen aufsummiert den Betrag 1 ergeben (Bsp.: w_1,3 + w_1,5 = 1).
Dem Aktivitätszustand x_i(t) des i-ten Neurons zum Zeitpunkt t entspricht, aufgrund der beschriebenen Identifikation von Router-Verbindungen und Neuronen, die Anzahl der Datenpakete, die sich zu diesem Zeitpunkt in der Warteschlange des Router-Ausganges i ∊ S befinden. Die Propagierung der Datenpakete im Kommunikationsnetz wird im neuronalen Netz mit Hilfe spezieller Aktivitätsfunktionen s_i, r_i und Kopplungsgewichten w_ik, i,k ∊ S, realisiert. Diese vom Zustand des Neurons (bzw. der Anzahl der Datenpakete) abhängigen Funktionen werden als Service (s_i) bzw. als Speicherrestriktionen (r_i) des Kommunikationssystems interpretiert. Sie bestimmen, wie sich die neuronalen Zustände pro Zeitschritt ändern, oder in der Sprache des Kommunikationssystems, wieviele Datenpakete in einem Zeitschritt einen Router-Ausgangsspeicher erreichen bzw. verlassen: Die Kopplungsgewichte w_ik legen fest, wie die an den Router-Eingängen i ankommenden Datenpakete auf die Router-Ausgänge k verteilt werden. Sie definieren damit eine Routing-Tabelle. Zum Beispiel besagt ein Gewicht w_ik = 0.5, dass der Router, der den Router-Ausgang k enthält, genau die Hälfte der an seinem Router-Eingang vom Router-Ausgang i eines anderen Router-Rechners ankommenden Datenpakete zum Router-Ausgang k leitet. Für die Gewichte des RANN wird aus Gründen der Datenerhaltung
gefordert.
Das so konstruierte Identifikations-RANN ist jedoch als Teilmodell für ein Routing-Verfahren zu unspezifisch, da damit noch nicht die Quelle-Ziel-Beziehungen der Datenpakete berücksichtigt werden können. Diese Beziehungen seien formal duch zeitabhängige Datenverkehrsmatrizen U(t) = u_ik(t), dim(U) = Q·Z, gegeben. Die Matrixeinträge u_ik(t) geben an, wieviele Datenpakete pro Zeiteinheit von der Quelle i ∊
zum Ziel k ∊
transportiert werden müssen.
Die Einbeziehung der Quelle-Ziel-Verkehrsnachfragen in das Modell geschieht über eine Erweiterung des Identifikations-RANN. Dazu wird das Identifikations-RANN aus Z einzelnen Schichten aufgebaut, von denen jede einzelne eine Kopie der originalen Netztopologie ist. Jede Schicht soll dabei die Teilflüsse des Gesamtszenarios simulieren, die, von irgendeiner Datenquelle ausgehend, zu genau einem Ziel führen. Die Anzahl der Schichten eines so erweiterten Identifikations-RANN ist identisch mit der Anzahl Z der Ziele des Kommunikationsnetzes. In jeder Schicht wird auf diese Weise eine bestimmte Teilmenge des Gesamtdatenverkehrs modelliert. Um Sackgassen zu vermeiden, werden noch in jeder Schicht d alle Neuronen und Verbindungen entfernt, die nicht auf irgendeiner zum Ziel d führenden Route liegen (von wo aus das betreffende Ziel nicht erreicht werden kann).
In 4 (a und b) wird veranschaulicht, wie für die Subdatenströme eines jeden Ziels eine identische Kopie des orginalen neuronalen Netzes konstruiert wird. Diese Kopien werden Schichten genannt. Mit der Einführung der Schichten werden auch alle Zustandgrößen des orginalen Netzes vervielfacht. Die neuen Größen werden durch einen Topindex unterschieden (Bsp.: w 2 / 3,7 ist ein Kopplungsgewicht der Schicht 2). Die Abbildung zeigt die beiden Schichten für das Beispiel aus den 2 und 3. In der Schicht i werden danach genau die Datenströme des Gesamtsystems modelliert, die das Ziel i haben. Es ist aber zu beachten, dass die Schichten nicht vollkommen unabhängig voneinder sind, da in die dynamischen Gleichungen (0.2) des neuronalen Netzes auch Summen von schichtspezifischen Zustandgrößen über alle Schichten eingehen. In jeder Schicht werden die Sackgassen zu den jeweils anderen Zielen entfernt (d.h. die Kopplungsgewichte dieser Verbindungen werden konstant auf den Wert 0 gesetzt).
Die Quelldatenflüsse q d / k einer jeden Schicht d lassen sich leicht entweder aus der vorgegebenen Datenverkehrsmatrix berechnen (q d / k = u_kd), oder direkt aus den Statistiken des betreffenden Quell-Routers ablesen.
Für das erweiterte Identifikations-RANN gilt:

1. Jede Schicht d enthält einen eigenen Satz von Aktivitätszuständen x d / i(t) mit
eigene Aktivitätsfunktionen s d / i mit
und eigene Kopplungsgewichte w d / ik. Damit ist beispielsweise x d / i(t) die Anzahl der Datenpakete im Warteschlangenspeicher des Router-Ausgangs i mit dem Ziel d. Für das Weitere seien noch x_i := (x 1 / i, x 2 / i, ..., x Z / i)^T der Vektor der Datenmengen aller Schichten, x^d := (x d / 1, x d / 2, ..., x d / M)^T der Vektor der Datenmengen der Schicht d, und x: = (x¹, x², ..., x^Z)^T der Vektor aller Datenmengen.
2. Die Datenflüsse der einzelnen Schichten sind nicht unabhängig voneinander. Wie später gezeigt wird, hängen sowohl der Service s d / i als auch die Speicherrestriktion r_i von den Aktivitätszuständen x_i aller Schichten ab.

Die zeitdiskreten dynamischen Gleichungen der einzelnen Schichten des Identifikations-RANN sind gegeben durch
Das durch die Gleichungen (0.2) definierte RANN ist ein sogenanntes Σ-Π-Netz, da es gewichtete Summen von Produkten von (sigmoiden) Funktionen enthält.
Hier und im nachfolgenden bezeichnet der Top-Index d immer die Nummer der Schicht. Die q d / k sind die Quelldatenflüsse der Schicht d, und τ_x ist das diskrete Zeitintervall der Entwicklung.
Der Service s d / i der Schicht d ist der Teil des totalen Service s_i, der dem Verhältnis der Datenmenge x d / i der Schicht d zur Gesamtdatenmenge x_i entspricht:
Der totale Service s_i(x_i) ∊ [0; c_i] beschreibt die gesamte Sendeleistung des Router-Rechners über die Verbindung i in Abhängigkeit der Datenmenge x_i des zugehörigen Ausgangsspeichers, wobei c_i die maximale Servicerate für den Ausgangsspeicher i ist.
Die Form einer solchen Funktion zeigt die 6. Hier ist die grobe Funktionsgestalt der totalen Services s_i(x_i) aufgetragen über der Paketzahl x_i des Warteschlangenspeichers. Die Sendeleistung s_i ist nach oben beschränkt durch die Servicerate c_i.
Die genaue Definition von s_i wird im konkreten Anwendungsfall durch eine Reihe weiterer (fixer) Parameter bestimmt, wie z.B. die Leistungsfähigkeit der Rechner-Hardware und die Kanalkapazität der Leitung. Das hier beschriebene Verfahren kann beliebige Service-Funktionen s_i verwenden, solange sie monoton steigend und stetig differenzierbar sind. Ein Beispiel für s_i ist s_i(x_i) := 2 τ_x c_i(1 + exp(–a_ix_i))^–1 – 1 mit freiem Parameter a_i.
Die monoton fallenden r_k ∊ [0; 1] sind die Speicherrestriktionen. Sie drücken das Unvermögen eines vollgelaufenen Ausgangspeichers aus, noch weitere Datenpakete aufzunehmen. Die r_k hängen von der totalen Datenmenge der Ausgangspeicher k ab, d.h. r_k(t) = r_k(x_k(t)). Anforderungen an die r_k sind: monoton fallend, differenzierbar und einen Wertebereich zwischen 0 und 1. Ein Beispiel für r_k ist r_i(x_i) := 1 – (1 + exp(a_i – b_i(x_i/x_max,i)))^–1 mit freien Parametern a_i, b_i und einer Datenspeichergröße x_max,i. Die genauen Definitionen der r_k sind für das Verfahren unwesentlich, solange sie die obigen Anforderungen erfüllen.
Die Form einer solchen Funktion zeigt die 5, wobei die Speicherrestriktionen r_i(x_i) über dem Füllgrad x_i/x_max,i des Speichers aufgetragen sind. Bis zu einem bestimmten Füllstand (x_i/x_max,i ≤ a < 1) können alle ankommenden Pakete aufgenommen werden, danach müssen zunehmend viele Pakete verworfen werden, bis schließlich bei vollem Speicher (x_i/x_max,i = 1) keine Pakete mehr aufgenommen werden können.
Die Definition der dynamischen Gleichungen (0.2) zeigt, dass die real zu- und abfließenden Datenströme u d / k(t) und h d / k(t) sowohl von den Serviceraten als auch den Speicherrestriktionen der beteiligten Router-Rechner abhängen. Im Fall des abfließenden Datenstroms h d / k(t) entspricht dies nicht ganz den realen Verhältnissen, da Pakete, die nicht von den nachfolgenden Routern und deren Ausgangsspeichern aufgenommen werden können, verloren gehen und erneut verschickt werden müssen, wohingegen dieses Simulationsmodell davon ausgeht, dass Datenpakete, die von den nachfolgenden Router-Rechnern nicht aufgenommen werden können, gar nicht erst verschickt werden. Entscheidend in diesem Zusammenhang ist aber, dass das später dazu passende Fehlerpropagierungsnetz rückstaufreie Routen berechnet, die automatisch die Verlustrate und das Wiederversenden von Datenpakten minimieren.
Mit Einführung der Korrelationsterme a d / ik(t) = s d / i(t)·r_k(t) lässt sich (0.2) auch wie folgt schreiben:
Die a d / ik werden später für weitere Berechnungen verwendet werden.
Die Konstruktion eines kooperierenden Fehlerpropagierungsnetzes:
Das Fehlerpropagierungsnetz ist der Routing-Modellteil des Verfahrens. In ihm werden Fehlersignale in entgegengesetzter Richtung zu den Datenpaketen des Identifikationsnetzes propagiert. Die Zustände dieses linearen rekurrenten neuronalen Netzes werden benutzt, um Korrekturen Δw d / ik der Gewichte w d / ik des Identifikationsnetzes entsprechend vorgegebener Optimierungskriterien zu berechnen (die w d / ik legen die Routen der Datenpakete durch das Kommunikationsnetz fest).
Das Fehlerpropagierungsnetz realisiert über einen Gradientenabstieg entlang einer vorgegebenen Zielfunktion eine modifizierte Version des Lernverfahrens rekurrentes Backpropagation. Die Entwicklung der benötigten Formeln wird hier verkürzt – ohne Zwischenschritte – wiedergegeben, da die vollständigen Ausführungen den Rahmen dieser Erfindungsbeschreibung sprengen würde. Die Ausführungen folgen aber prinzipiell der bekannten Herleitung des rekurrenten Backpropagation Lernverfahrens, so wie es z.B. in [4] erklärt ist. Der Unterschied besteht vor allem darin, das es sich bei dem identifikations-Netz um ein sogenanntes Σ-Π-Netz handelt.
Die Zielfunktionen können, je nach Einsatzfall und gewünschtem Optimierungsziel, fast beliebig definiert werden (sie müssen differenzierbar in x_i sein). Sinnvolle Zielfunktionen für optimale Routing-Verfahren in Kommunikationsnetzen sind beispielsweise:
mit einer M/M/1-Wartezeitfunktion π_i(s) = s/(c_i – s), oder einfach:
mit den positiven Gewichtungskonstanten φ_i, oder eine Funktion, die für alle alternativen Routen eines Quelle-Ziel-Paares gleiche Transportzeiten erzwingt:
mit einer beliebiger Verzögerungszeitfunktion π_i(s).
Für die Korrektur der Gewichte ergibt sich nach dem Gradientenabstiegsverfahren
mit einer Schrittweite ε des Abstiegs und den von der verwendeten Zielfunktion abgeleiteten Konstanten L_k = dE_k/dx_k. Für die Zielfunktion (0.5) ergibt sich beispielsweise:
Die unbekannten partiellen Ableitungen ∂x e / k/∂w d / pq werden über die dynamische Gleichung (0.4) bestimmt; es ergibt sich
Durch Umstellungen und Substitutionen von (0.10) ergibt sich ein neues lineares RANN (das Fehlerpropagierungsnetz) mit der dynamischen Gleichung
und Kopplungsgewichten
Das in (0.12) definierte lineare System ist jedoch nicht kontrahierend, da die Matrix v le / ik einen Spektralradius größer 1 besitzt. Eine Umstellung der Gleichungen in die Form
gestattet aber eine Interpretation des Systems als zwei miteinander kooperierende Fehlerpropagierungsnetze. Die linke Seite der Gleichung definiert das 1. Fehlerpropagierungsnetz mit einer Gewichte-Matrix v ee / ik. Seine Aufgabe ist es, das lineare Gleichungssystem (0.14) bei festgehaltener rechter Seite iterativ zu lösen. Das 2. Fehlerpropagierungsnetz mit der Gewichte-Matrix v le / ik dagegen löst das Gleichungssystem (0.14) bei festgehaltener linker Seite. Die dynamische Gleichung des 1. linearen Netzes ist also
während das 2. Netz die folgende lineare Operation realisiert
Die beiden linearen Netzwerke arbeiten wechselweise solange, bis sich ein stabiler Zustand einstellt (die Lösung y⁺ des durch (0.12) definierten Gleichungssystems). Mit Hilfe der Lösung y^* können die benötigten Korrekturen der Gewichte wie folgt bestimmt werden: Δwdpq = ε (y*dq – y*dp )adpq . (0.17)
Arbeitsweise des Gesamtmodells:
Die Arbeitsweise des Gesamtmodells besteht darin, das Identifikationsnetz und die beiden Fehlerpropagierungsnetze wechselweise oder parallel entsprechend ihrer dynamischen Gleichungen zu entwickeln, und nach einer einstellbaren Anzahl Zeittakte t_Ident bzw. t_Error die aktuellen Netzzustände dem jeweils anderen RANN zur Berechnung seiner Gewichtskorrekturen zu übergeben. Die ganzzahligen Zeittaktparameter t_Ident und t_Error bestimmen, wie oft Korrekturen an den Gewichten erfolgen und wie genau diese Korrekturen sind. Sie können als eine Art Trägheit des Systems interpretiert werden (größere Werte entsprechen einer größeren Trägheit).
Die folgenden Schritte werden zyklisch entweder hintereinander oder parallel ausgeführt:

1. Identifikationsnetz: Entwickle den Systemzustand über t_Ident diskrete Zeitschritte der Länge τ_x nach den dynamischen Gleichungen (0.2),
2. Fehlerpropagierungsnetz: Übernehme den aktuellen Zustand x d / i(t) des Identifikationsnetzes und berechne die Gewichte v le / ik nach (0.13),
3. Fehlerpropagierungsnetz: Entwickle den Systemzustand über t_Error diskrete Zeitschritte der Länge τ_y nach den dynamischen Gleichungen (0.15) und (0.16),
4. Identifikationsnetz: Übernehme den aktuellen Zustand y(t) des Fehlerpropagierungsnetzes und aktualisiere die Gewichte w d / ik unter Verwendung von (0.17).

Eine Übersicht über das Gesamtmodell zeigt die 7. Man erkennt, dass das Gesamtmodell im Wesentlichen zweigeteilt ist: das geschichtete Identifikationsnetz mit den Funktionen s_i (totale Services) und r_i (Speicherrestriktionen), die beide von Summen von Zustandswerten der einzelnen Schichten abhängen, und dem zweigeteilten Fehlerpropagierungsnetz, das die systemoptimale Wegewahl realisiert. Die Fehlerpropagierungssubnetze erhalten zyklisch aus Zustandsvariablen des Identifikationsnetzes berechnete Gewichte v dd / ik bzw. v de / ik, und geben Gewichtskorrekturen für die Kopplungsgewichte des Identifikationsnetzes zurück. Durch ein permanentes Wechselspiel der Subsysteme nach vorgebbaren Zyklen werden die Routingtabellen des Kommunikationsnetzes dynamisch an die wechselnden Bedingungen (Netzbelastung und Verkehrsnachfrage) angepasst.
Übertragung des RANN-Routing-Modells in den Kontext paketvermittelnder Kommunikationsnetze
Implementation des RANN-Routing-Modells in einzelnen Router-Rechnern:
Entscheidend für die Implementation des RANN-Routing-Modells als Verfahren in einzelnen Router-Rechnern sind zwei Feststellungen:

1. Sowohl das geschichtete Identifikations- als auch das Fehlerpropagierungsnetz können direkt auf das Kommunikationsnetz abgebildet werden, da alle die gleiche Topologie besitzen. Dazu werden den einzelnen Router-Rechnern gerade die Neuronen bzw. Schichtneuronen zugeordnet, die ihren Ausgangsspeichern entsprechen. Die Services s d / i und Speicherrestriktionen r_i des Identifikationsnetzes, die für die Berechnungen des Fehlerpropagierungsnetzes gebraucht werden, können entweder so definiert werden, dass sie den Leistungscharakteristiken von Router-Rechnern und Verbindungsleitungen entsprechen, oder die benötigten Funtionswerte und deren Ableitungen werden einfach von den Router-Rechnern als Statistiken geführt und bei Bedarf verwendet.
2. Alle vorkommenden Rechenoperationen des Fehlerpropagierungsnetzes sind lokaler Natur, d.h. sie können auf die einzelnen Router-Rechner so verteilt werden, dass jeder Router-Rechner nur einen geringen Teil der Gesamtberechnung ausführen muss, und dafür nur eigene Zustandsdaten und die der direkt verbundenen Nachbar-Router-Rechner benötigt. Es entsteht so ein vollständig verteiltes Verfahren.

Der konkrete Ablauf des Verfahrens in einem paketvermittelnden Kommunikationsnetz zer fällt in vier Funktionsblöcke, die parallel arbeiten, und von denen jeder Block seinen eigenen festen Ausführungszyklus besitzt:

1. Datenpakete routen und Statistiken erstellen Jeder Router-Rechner routet die ankommenden Datenpakete entsprechend seiner Routing-Tabelle, die aus den Gewichten w d / ik gebildet wird. Dabei sind die Gewichte mit dem Index d für die Pakete mit dem Ziel-Router d (oder für einen entsprechend definierten Teilstrom d) zuständig. Das durch die w d / ik definierte Multipath-Routing (in der Regel existieren für festes i Indizes j₁, j₂ mit
wird realisiert, indem die Datenpakete in einem entsprechenden Verhältnis auf die Ausgänge j₁ und j₂ aufgeteilt werden. Diese Aufteilung soll weitgehend so erfolgen, dass die Datenpakete einer Quell-IP-Adresse genau einem Ausgang zugeordnet werden. Weiter führt jeder Router k Statistiken (zeitliche Mittelwerte) über alle seine Teildatenströme s d / k, s_k, deren zeitliche Veränderungen s ' / k und die Längen seiner Ausgangs-Warteschlangen x d / k, x_k.
2. Statusvariable propagieren und v-Gewichte berechnen Die statistischen Werte des Routers werden nach definierten Zeitintervallen τ_Status zyklisch an alle direkt verbundenen Nachbar-Router-Rechner geschickt. Nach Erhalt dieser Daten ist jeder Router in der Lage, entsprechend der Formel (0.13), seine Fehlerpropagierungs-Gewichte v de / ik, v de / ki zu berechnen.
3. Fehlersignale berechnen und propagieren Nach fest vorgegebenen Zyklen τ_Err1 und τ_Err2 berechnet jeder Router seine Fehlersignale y d / k und z d / k nach dem dynamischen Gesetzen (0.15) und (0.16). Die neuen Fehlersignale werden an alle direkt verbundenen Nachbar-Router-Rechner geschickt.
4. Gewichtskorrekturen berechnen und propagieren Nach einem festen vorgegebenen Zeittakt τ_Kor berechnet jeder Router k die Korrekturen Δw d / ki, Δw d / ik seiner Routing-Gewichte w d / ki, w d / ik mit Hilfe der aktuellen Werte y d / k nach der Formel (0.17), und normalisiert die neuen Gewichte. Die neuen Gewichte werden an alle direkt verbundenen Nachbar-Router-Rechner geschickt.

Vorteile und besondere Leistungsmerkmale des Verfahrens:

1. Das Modell ist ein systemoptimales Routing-Verfahren, optimal bezüglich beliebig vorgebbarer Zielfunktionen. Systemoptimal heiß auch, dass das Verfahren die einzelnen Routen nicht unabhängig voneinander berechnet; im Gegensatz etwa zum Link-State-Routing, wo jeder Router-Rechner unabhängig von den Berechnungen der a jeweils anderen Router-Rechner seine kürzesten Wege berechnet (was Oszillationen verursachen kann). Die Routen werden grundsätzlich lastabhängig berechnet, wobei die Routenmuster sich permanent an die aktuelle Verkehrsnachfrage und die Zustände der Ausgangsspeicher anpassen.
2. Das Berechnungsverfahren zur dynamischen Bestimmung der optimalen Routen ist besonders effizient, da der Backpropagation-Algorithmus derzeit die schnellste Möglichkeit darstellt, um Gradienten für ein Gradientenabstiegsverfahren zu berechnen.
3. Das Modell ist ein verteiltes Verfahren, bei dem jeder einzelne Router des Netzes nur einen geringen Teil der Gesamtberechnung ausführt. Die Arbeitsschritte des Fehlerpropagierungsnetzes zerfallen in elementare Operationen, die alle nur lokale Informationen – die eigenen und die der nächsten Nachbarn – benötigen. Die lokalen Operationen sind einfach und stellen keine besonderen Anforderungen an die einzelnen Routern bezüglich Rechenzeit und Speicherbedarf (im Gegensatz zum Link-State-Routing). Der zusätzliche Kommunikationsaufwand für die Fehlersignale ist gering. Die einzelnen Router-Rechner brauchen nicht die gesamte Topologie des Kommunikationsnetzes zu kennen.
4. Obwohl die zugrundeliegende Theorie mit den rekurrenten neuronalen Netzen von der Mathematik her relativ kompliziert erscheint, sind in der konkreten Implementation die lokalen Rechenoperationen für die einzelnen Router-Rechner besonders einfach.
5. Das Modell realisiert ein multipath routing (w d / ik ∊ [0; 1],
Es routet die Informationspakete einer Quelle-Ziel-Beziehung bei starker Netzbelastung auch über verschiedene, alternative Routen, wodurch die zur Verfügung stehenden Netzkapazitäten maximal genutzt werden können. Eine Aufteilung der Datenpakete auf die verschiedenen Routen kann z.B. quellspezifisch erfolgen. Ein multipath routing kann weder durch das Distance-Vector-Routing, noch durch das Link-State-Routing realisiert werden.
6. Das Modell ist robust bezüglich Ausfällen von Routern. Ein ausgefallener Router-Rechner kann sich nicht mehr an der Verarbeitung der Fehlersignale beteiligen. Daraus resultiert, dass die ihn betreffenden Abbiegeraten der Nachbarrechner sofort (oder sehr schnell) zurückgesetzt werden. Dies ist gleichbedeutend mit einer automatischen Reduzierung der Topologie um diesen ausgefallenen Router. Der entgegengesetzte Vorgang ist ebenso möglich: ein Router-Rechner wird neu ins Netz eingebunden, nimmt Verbindung mit seinen Nachbarn auf und wird damit automatisch in die globale Routing-Strategie aufgenommen, ohne dass der neue Rechner allen Rechnern des Kommunikationsnetzes bekanntgegeben werden müsste.
7. Das Modell ist in der Lage, heterogener Dienste (Priorisierung, Garantierung eines quality-of-service, multicast-routing oder gemischtes single- und multipath-routing) bereitzustellen, da einerseits in den Schichten des Identifikationsnetzes beliebige Teile des Gesamtverkehrs modelliert und optimiert werden können, und andererseits jede einzelne Schicht mit unterschiedlichen Dynamikparametern und Zielfunktionen versehen werden kann. Die Unterstützung solch spezifischer Dienste ist mit den gängigen Verfahren (Distance-Vector-Routing, Link-State-Routing) nicht zu erreichen.

Zitierte Veröffentlichungen

[1] J. Hertz, A. Krogh, R. G. Palmer, Introduction to the Theory of Neural Computation, Chapter 7, Addison Wesley, ISBN 0-201-51560-1, 1991.

Claims

Verfahren zur Berechnung von, bezüglich vorgegebener netzweiter Zielfunktionen, optimalen Routen für die von einer Quelle zu einem Ziel zu transportierenden Dateneinheiten in Kommunikationsnetzen, mittels einer Daten verarbeitenden Anlage, umfassend folgende Schritte: • Topologie und Dynamik des Kommunikationsnetzes werden auf ein spezielles rekurrentes neuronales Sigma-Pi-Netz (Identifikationsnetz) abgebildet, indem Ausgangsspeicher von im Netz angeordneten Routern zusammen mit nachfolgenden Verbindungsleitungen den Neuronen des neuronalen Netzes zugeordnet werden, wodurch die Aktivitätszustände (x d / k) der Neuronen der Anzahl der Dateneinheiten eines Ziels (d), die in den entsprechenden Ausgangsspeichern auf ihre Weiterleitung warten, entsprechen, und Kopplungsgewichte (w d / ik) der Neuronen als Routing-Tabelle die Anteile der ankommenden Dateneinheiten eines Ziels (d) definieren, die zu den möglichen Ausgängen weitergeroutet werden, wobei das Sigma-Pi-Netz aus einzelnen Schichten aufgebaut ist, in denen Teildatenströme abgebildet werden, • die Router-Rechner ermitteln Datendurchsätze (s d / k, s_k), Speicherrestriktionen (r_k) und Warteschlangen in den Ausgangsspeichern (x d / k, x_k) sowie zeitliche Veränderungen (x ' / k , s ' / k, r ' / k) davon und übermitteln diese Größen in zeitlichen Abständen (τ_Status) an direkt verbundene Nachbar-Router-Rechner, • die Router-Rechner berechnen zum zielfunktion-abhängigen Routing ein Fehlerpropagierungsnetz auf der Basis einer dem Sigma-Pi-Netz angepassten Version des Lernverfahrens „Rekurrentes Backpropagation", wobei jeder Rechner nur den Teil der Gesamtberechnung ausführt, der seine lokalen Statusgrößen betrifft, dabei berechnet jeder Router in Zeitabständen (τ_Status) die für die Berechnungen des Fehlerropagierungsnetzes notwendigen Gewichte (v de / ik, v de / ki), berechnet jeder Router in weiteren Zeitabständen (τ_Err1 und τ_Err2) seine Fehlersignale (y d / k und z d / k), wonach die neuen Fehlersignale (y d / k) an direkt verbundene Nachbar-Router-Rechner geschickt werden, berechnet jeder Router nach einem zusätzlichen Zeitabstand (τ_Kor) Korrekturen seiner Routing-Gewichte (Δw d / ki, Δw d / ik) mit Hilfe der aktuellen Werte der Fehlersignale (y d / k) und normalisiert die neuen Gewichte, wonach die neuen Gewichte an die direkt verbundene Nachbar-Router-Rechner geschickt werden, die diese neuen Gewichte als neue Routing-Tabelle benutzen.
Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass die Kommunikationsnetze paketvermittelnd ausgebildet sind.
Verfahren nach einem der Ansprüche 1 oder 2, dadurch gekennzeichnet, dass die vorkommenden Zeitabstände (τ_Status, τ_Err1, τ_Err2, τ_Kor) alternativ, in Abhängigkeit von speziellen Ereignissen oder der Last des Kommunikationsnetzes, im Betrieb so nachgeführt werden, dass zum Beispiel der zusätzliche Kommunikationsaufwand minimiert wird.
Verfahren nach einem der Ansprüche 1 bis 3, dadurch gekennzeichnet, dass durch zusätzliche Gewichtsfaktoren in den verwendeten Zielfunktionen bestimmte Verbindungen oder Routen des Netzes attraktiver sind als andere und daher für die Routenauswahl bevorzugt werden.
Verfahren nach einem der Ansprüche 1 bis 4, dadurch gekennzeichnet, dass jeder Schicht die Teildatenströme eines jeweils unterschiedlichen Zieles zugeordnet werden.
Verfahren nach einem der Ansprüche 1 bis 5, dadurch gekennzeichnet, dass zur Einbeziehung von heterogenen Priorisierungsdiensten für verbindungsorientierte Dienste den einzelnen Schichten frei definierbare Teildatenströme (z.B. einer einzelnen Quelle-Ziel-Beziehung) zugeordnet werden, die gesondert behandelt und geroutet werden sollen.
Verfahren nach einem der Ansprüche 1 bis 6, dadurch gekennzeichnet, dass speziell gekennzeichnete Dateneinheiten einer Quelle zur Beanspruchung einer besonders priorisierten Route für verbindungsorientierte Dienste auf der kürzesten Route durch das Kommunikationsnetz geleitet werden und für sich und die nachfolgenden Dateneinheiten diesen Weg durch Neubildung einer hochpriorisierten Schicht reservieren.
Verfahren nach einem der Ansprüche 1 bis 7, dadurch gekennzeichnet, dass eine Teilmenge der Routen im Kommunikationsnetz fix eingestellt wird, indem Schichten konstruiert werden, deren Gewichte fix sind, also nicht vom Fehlerpropagierungsnetz geändert werden.
Verfahren nach einem der Ansprüche 1 bis 8, dadurch gekennzeichnet, dass die Router-Rechner die Datendurchsätze (s d / k, s_k), Warteschlangen (x d / k, x_k), Speicherrestriktionen (r_k) und die zeitlichen Veränderungen davon (x ' / k, s ' / k, r ' / k) über zeitliche Mittelwerte ermitteln und den weiteren Berechnungen des Verfahrens zur Verfügung stellen.
Verfahren nach einem der Ansprüche 1 bis 9, dadurch gekennzeichnet, dass die Router-Rechner die Datendurchsätze (s d / k, s_k), Speicherrestriktionen (r_k) und die zeitlichen Veränderungen davon (s ' / k, r ' / k) über vordefinierte Funktionen ermitteln und den weiteren Berechnungen des Verfahrens zur Verfügung stellen.