DE3787395T2

DE3787395T2 - Parallele Berechnungsschaltung.

Info

Publication number: DE3787395T2
Application number: DE87302964T
Authority: DE
Inventors: John Stewart Denker; Richard Edwin Howard; Lawrence David Jackel
Original assignee: American Telephone and Telegraph Co Inc
Current assignee: AT&T Corp
Priority date: 1986-04-14
Filing date: 1987-04-06
Publication date: 1994-04-07
Anticipated expiration: 2007-04-07
Also published as: EP0242098B1; CA1258133A; DE3787395D1; JPS62295186A; JPH0799526B2; SG23194G; EP0242098A2; ES2042554T3; US4755963A; EP0242098A3

Description

Die Beschreibung betrifft parallele Rechenschaltungen.
Trotz der gewaltigen Rechenleistung digitaler Computer können aus einer Vielfalt von Gründen viele praktische Probleme durch digitale Computer nicht wirksam gelöst werden. Der Grund mag sein, daß eine Lösung in geschlossener Form für die spezielle Formulierung des Problems nicht verfügbar ist und deshalb numerische Verfahren verwendet werden müssen; oder er mag darin bestehen, daß die Anzahl an Variablen in einem Optimierungsproblem groß ist und das Finden der optimalen Lösung aus dem sehr großen Satz möglicher Lösungen gerade eine solche Aufgabe darstellt, die für die Durchführung mit einem digitalen Computer in einer vernünftigen Zeit zu groß ist.
Bisher unterlagen die meisten Praktiker den Beschränkungen digitaler Allzweckcomputer oder entwickelten digitale Spezialcomputer, um ihre speziellen Probleme effizienter zu lösen. Unlängst haben Fortschritte eine Klasse hochparalleler Rechenschaltungen, die eine große Klasse komplexer Probleme in analoger Weise lösen, an die vorderste Front des Interesses gebracht. Diese Schaltungen enthalten eine Vielzahl von Verstärkern mit einer Sigmoid-Transferfunktion und ein Widerstandsrückkopplungsnetzwerk, das den Ausgang jedes Verstärkers mit dem Eingang der anderen Verstärker verbindet. Jeder Verstärkereingang enthält ebenfalls einen mit Masse verbundenen Kondensator und einen mit Masse verbundenen Widerstand. In jeden Verstärkereingang werden Eingangsströme gespeist und das Ausgangssignal wird aus der Sammlung der Ausgangsspannung der Verstärker erhalten.
Die Biological Cybernetics, Band 52, Nr. 3, Juli 1985, Seiten 141 -152, Springer Verlag, Berlin, DE, J.J. Hopfield et al "'Neural' computation of decisions in optimisation problems" diskutieren die Verwendung des nicht klassischen Rückkopplungsnetzwerkes als einen Minimierungslöser. Als Beispiel einer solchen Verwendung wählt Hopfield das "Travelling Salesman Problem bzw. das Reisende Verkäufer Problem" (TSP). Die Lösung des TSP ist diskret. Stadt A ist eine Position i auf der Tour, Stadt B ist eine Position d auf der Tour, etc. Um die Position einer Stadt auf der Tour zu spezifizieren wurde ein Mehrfachbitsatz an Ausgangssignalen verwendet. Mit der Wahl von M Bits zum Spezifizieren jeder Stadt und mit der Wahl von N Städten für das Problem hat das Netzwerk notwendigerweise eine Größe von MN Ausgangssignalen, MN Verstärkern und eine MN · MN Rückkopplungsmatrix. Mit der Errichtung des allgemeinen Rahmens wird eine geeignete Energiefunktion, die dazu tendiert, eine gewünschte Lösung zu ergeben, in Gleichungen 8 und 9 auf Seite 146 wiedergegeben. Das Netzwerk wurde dann auf einem digitalen Computer simuliert (siehe Seite 147).
Die Erfindung wird nachstehend unter Bezugnahme auf die beigefügten Zeichnungen beschrieben, in welchen
Fig. 1 ein bekanntes hochvernetztes analoges Netzwerk zeigt und
Fig. 2 ein erfindungsgemäßes Netzwerk zeigt.
Fig. 1 zeigt eine generalisierte Schaltung mit fünf Verstärkern (10-14) mit positiven und negativen Ausgangssignalen V&sub1; und -V&sub1; auf einem Leitungspaar 21, V&sub1; und -V&sub2; auf einem Leitungspaar 22, V&sub3; und -V&sub3; auf einem Leitungspaar 23, V&sub4; und -V&sub4; auf einem Leitungspaar 24 und VN und -VN auf einem Leitungspaar 25. Diese Ausgänge bzw. Ausgangssignale sind mit einem Verbindungsblock 20 verbunden, der jeweils Ausgangsleitungen 41-45 mit den Eingangsports der Verstärker 10-14 verbunden umfaßt. Innerhalb des Verbindungsblockes 20 ist jede Ausgangsspannung V&sub1; mit jedem und jeder Ausgangsleitung des Blocks 20 durch eine Konduktanz (z. B. durch einen Widerstand) verbunden. Zweckmäßigerweise kann die Konduktanz durch die spezielle Ausgangsleitung (d. h. Quelle) gekennzeichnet werden, die durch die Konduktanz mit einer speziellen Spannungsleitung verbunden ist.
Beispielsweise kennzeichnet T&spplus;&sub2;&sub1; die Konduktanz, die den positiven Ausgang V&sub2; des Verstärkers 11 mit dem Eingang des ersten Verstärkers (Leitung 41) verbindet.
Ein Widerstand und ein Kondensator, dessen zweite Leitung geerdet ist und eine Einrichtung zum Injizieren eines Stroms (aus einer externen Quelle) in jeden Eingangsport ist ebenfalls an jeden Verstärkereingangsport angeschlossen. Die Anwendung des Kirchhoffschen Stromgesetzes auf den Eingangsport jedes Verstärkers i aus Fig. 1 ergibt die Gleichung:
wobei
Ci die Kapazität zwischen dem Eingang des Verstärkers i und Masse ist,
der äquivalente Widerstand ist und gleich ist
wobei i der Widerstand zwischen dem Eingang des Verstärkers i und Masse ist,
ui die Spannung an dem Eingang des Verstärkers i ist,
T&spplus;&ijlig; die/eine Konduktanz zwischen dem positiven Ausgang des Verstärkers j und dem Eingang des Verstärkers i,
T&supmin;&ijlig; die/eine Konduktanz zwischen dem negativen Ausgang des Verstärkers j und dem Eingang des Verstärkers i,
Vj die positive Ausgangsspannung des Verstärkers j ist und
Ii der in den Eingangsport des Verstärkers i durch eine externe Quelle gespeiste Strom ist.
Wenn T&spplus;&ijlig; und T&supmin;&ijlig; disjunkt sind, kann T&spplus;&ijlig;-T&supmin;&ijlig; zweckmäßig als T&ijlig; ausgedrückt werden, und es ist bekannt, daß eine die Gleichung (1) erfüllende Schaltung mit symmetrischen T&ijlig; Termen stabil ist. Es ist ebenfalls bekannt, daß eine derartige Schaltung auf angelegte Stimulationen antwortet und einen eingeschwungenen bzw. quasi stationären Zustand nach einer kurzen Übergangszeit erreicht. Im eingeschwungenen Zustand ist dui/dt=0 und dVi/dt=0.
Mit dieser bekannten Stabilität vor Augen, kann das Verhalten anderer Funktionen, die sich auf die Schaltung aus Fig. 1 beziehen und die Eingangssignale der Schaltung, die Ausgangssignale der Schaltung und/oder interne Parameter der Schaltung einbeziehen, untersucht werden.
Es wurde beispielsweise eine Funktion untersucht, welche die Form hatte
Es wurde beobachtet, daß das Integral der Funktion g&supmin;¹i(V) Null erreicht, wenn die Verstärkung des Verstärkers i unendlich wird. Die zeitliche Ableitung der Funktion E ist negativ und diese erreicht 0, wenn die zeitliche Ableitung der Spannung Vi Null wird. Da die Gleichung (1) die Bedingung sicherstellt, daß dVi/dt für alle i Null erreicht, ist sichergestellt, daß die Funktion E einen stabilen zustand erreicht. Die Entdeckung dieser Funktion E führte zur Verwendung der Schaltung aus Fig. 1 bei der Anwendung von Problemlösungen in assoziativen Speicheranwendungen und bei Zerfallsproblemen.
Die Schaltung der Fig. 1 kann die vorstehende Klasse von Problemen lösen, wenn diese Probleme derart strukturiert sind, daß die Minimierung einer Funktion mit zumeist Termen zweiter Ordnung bei manchen Parametern des Problems zur erwünschten Lösung führt. Andere Probleme können jedoch die Minimierung von Gleichungen benötigen, die Terme einer höheren Ordnung als 2 enthalten. Dies können Probleme sein, die vielleicht in anderer Weise durch Terme zweiter Ordnung darstellbar sind, aber die Darstellung mit Termen höherer Ordnung ist aussagekräftiger oder dies können Probleme sein, die nur unter Verwendung von Termen höherer Ordnung beschreibbar sind.
Die Erfindung versucht eine parallele Rechenschaltung zur Lösung von durch Terme höherer Ordnung gekennzeichneten Problemen bereitzustellen.
Gemäß der Erfindung wird eine parallele Schaltung wie in Anspruch 1 beansprucht bereitgestellt.
Eine Ausführungsform der Erfindung umfaßt ein vernetztes analoges Netzwerk, das mit Zwischen-Neuronen aufgebaut ist, die den Termen einer Ordnung höher als 2 Rechnung tragen. Das Netzwerk umfaßt analoge Verstärker, die mit einer widerstandsbehafteten Verbindungsmatrix verbunden sind, die, ähnlich wie das Netzwerk herkömmlicher Art, jeden Verstärkerausgang mit dem Eingang aller anderer Verstärker verbindet. Die in der Matrix verkörperten Verbindungen werden mit Konduktanzen erreicht, deren Werte gemäß dem Satz an Problemrestriktionen berechnet werden, während die zu minimierenden Kostenvariablen des Problems als Eingangssignale angelegt werden.
Die Erfindung ist einem vollständigeren Verständnis zugänglich und wird bei Anwendung auf ein spezielles Problem deutlich, und zu diesem Zweck gibt die nachfolgende detaillierte Beschreibung die beste Form für die Konstruktion einer hochgradig parallelen Rechenschaltung zur Lösung eines Minimalisierungsproblems an, das durch eine Gleichung gekennzeichnet ist, die Terme einer Ordnung höher als 2 hat.
Zum Zwecke der Erläuterung wird das klassische Wegführungsproblem, auf das man bei Fluggesellschaften stößt, ausgewählt. Bei einem derartigen Problem können N Punkte existieren, an welchen Stops vorgenommen werden können (z. B. Städte) und es existieren zu den Reisen von einem Punkt zu dem nächsten gehörige Kosten. Die Aufgabe besteht darin, eine Strecke gemäß den Regeln des Problems zu finden, die einen gegebenen Ausgangspunkt mit einem speziellen Zielpunkt bei einem Minimum zugehöriger Gesamtkosten verbindet.
Ein Weg, dieses Problem zu lösen, besteht darin, eine Kostenfunktion zu konstruieren, die die erwünschten Attribute der letztlichen Lösung beschreibt und die Variablen dieser Funktion derart zu wählen, daß die Kosten minimiert werden. Die nachstehende Gleichung (3 ist eine derartige Kostenfunktion,
wobei VAB eine Verbindung von Punkt (Stadt) A zu Punkt (Stadt) B ist und cAB die direkten zu der Wahl der Verbindung Ab gehörenden Kosten darstellt. Die Anwesenheit oder Abwesenheit einer Verbindung AB in der Lösung wird dadurch angezeigt, daß VAB jeweils entweder den Wert 1 oder 0 annimmt und somit kombinieren sich die Terme cABVAB zu einer Darstellung der gesamten direkten Kosten der Wahl einer bestimmten Route. Eine Angabe, daß eine bestimmte Verbindung nicht in der Lösungswegführung sein soll, wird dadurch erreicht, daß ein hoher Kostenfaktor cAB der unerlaubten Verbindung zugeordnet wird.
In einem Wegführungsproblem mit N Punkten kann jeder Punkt eine Verbindung zu allen anderen Punkten haben und somit können höchstens (N) (N-1) Verbindungen existieren. Diese Anzahl entspricht der Anzahl an Termen in Gleichung (3) und ist gleich der Anzahl der direkten Kostenterme in Hopfields Modell. Es sei festgehalten, daß, da hier Verbindungen betrachtet werden anstelle von Städten, die V Terme hier durch zwei tiefgestellte Indizes anstatt durch einen gekennzeichnet werden Folgerichtig kann erwartet werden, daß Terme, die ansonsten den in Gleichung 2 gefundenen T&ijlig; Termen entsprechen, mit vier tiefgestellten Indizes, z. B. T&ijlig;kl auftreten. Die Summierung wäre ebenfalls über vier Indizes anstatt über zwei durchzuführen.
Obwohl die Kostenfunktion der Gleichung (3) die direkten Kosten einer Tour beschreibt, ist diese selbst nicht ausreichend, um sicherzustellen, daß eine Lösung für das Minimierungsproblem der Tour zu finden ist. Gleichung (3) gestattet in klarer Weise eine Tourenangabe aus einer Verbindung DE gefolgt durch eine Verbindung DF, aber die Verbindungen DE und DF gehen von dem gleichen Punkt (D) aus und können einander nicht folgen. Dies ist eine "abgehender Zweig"-Bedingung. Da die "abgehender Zweig"-Bedingung in der letztlichen Lösung nicht akzeptabel ist, wird diese abgewehrt durch Addieren der Straffunktion
zu der Gesamtkostenfunktion aus Gleichung (3). Gleichung (3) sagt im wesentlichen, daß eine Reise von A zu B, gefolgt durch eine Reise von A zu B sehr teuer sein soll (ist groß).
Ein Zusatz bzw. Corollar zur "abgehender Zweig"-Bedingung ist die "ankommender Zweig"-Bedingung, bei welcher mehr als eine Verbindung zum Erreichen eines bestimmten Punktes ausgewählt ist. Diese ungewollte Bedingung wird abgewehrt durch Addieren der Straffunktion
zu der Gesamtkostenfunktion aus Gleichung (3).
Die durch Gleichungen (4) und (5) beigesteuerten Terme sind im wesentlichen zu den ersten Termen in Gleichung (2) dahingehend gleich, daß die Variable V in zweiter Ordnung auftritt und somit diese Terme kein Problem bei der Verwirklichung einer Schaltung zum Minimieren der Kostenfunktion darstellen, das aus der Verknüpfung der Gleichungen (3), (4) und (5) herrührt. Das Abwehren der "abgehender Zweig"- und "ankommender Zweig"-Bedingungen könnte jedoch nicht ausreichend sein.
Eine weitere Betrachtung der Gleichung (3) betrifft die Auswahl mancher Verbindungen und das Nichtauswählen manch anderer möglicher Verbindungen. Wenn man sich das physikalische Problem klar macht, wird schnell erkennbar, daß bei der Auswahl einer Verbindung zum Erreichen eines Punktes A irgendeine von Punkt A ausgehende Verbindung ebenfalls gewählt werden muß, da in anderer Weise die Tour nicht korrekt beendet werden kann.
Mit anderen Worten dargestellt, könnte sich eine Auswahl einer bestimmten Verbindung und eine Auswahl einer anderen Verbindung nicht mit einer gültigen Lösung des physikalischen Problems vertragen. Umgekehrt verträgt sich eine Lösung, bei welcher eine Verbindung von einem Punkt A ausgewählt wird, aber keine Verbindung zum Erreichen von Punkt A gewählt wird, ebenfalls nicht mit einer physikalisch realisierbaren Lösung des Problems. Diese Kontinuitätsanforderung ist auf alle Punkte der Tour anwendbar, für den Start (Ausgangs-) Punkt wird α und für den End(Ziel-)Punkt wird ω reserviert. An diesen Punkten ist es nicht erwünscht, das Aufbrechen der Kontinuität zu verhindern und tatsächlich ist gewünscht, dies zu ermutigen. Dementsprechend wird eine zusätzliche Funktion konstruiert und der gesamten Kostenfunktion aus Gleichung (3) hinzu addiert, die jede Verbindung AB betrachtet und für bestimmte Bedingungen an den Punkten A und B Strafen auferlegt. Diese (nachstehend detailliert diskutierte) Funktion ist
wobei die ersten drei Terme sich mit der Kontinuität an Punkt B und die letzten drei Terme mit der Kontinuität am Punkt A beschäftigen.
In Bezug auf Punkt B muß die erwünschte Lösung, so lange dieser nicht der Endpunkt, ω ist, eine Verbindung von Punkt B zu einem beliebigen Punkt C enthalten. Dementsprechend erlegt der erste Term in Gleichung (6) eine Strafe auf für das Nichtenthalten einer Verbindung von Punkt B zu einem beliebigen Punkt C. Mit anderen Worten dargestellt wird eine Strafe auferlegt, wenn eine Verbindung AB gewählt wird und eine Verbindung BC (wobei C ein beliebiger andere Punkt ist) nicht gewählt wird. Der Produktoperator π führt die logische UND-Funktion durch und, wenn eine Verbindung BC gewählt wird, ist somit das resultierende Produkt Null und die Strafe wird nicht auferlegt. Wenn B der Zielpunkt ist, legt jedoch der erste Term keine Strafen auf, aber der zweite Term erlegt eine Strafe auf für das Nichterreichen von ω und der dritte Term erlegt eine Strafe auf für das Verlassen von ω.
Die erwünschte Lösung muß in Bezug auf Punkt A, solange dieser nicht der Startpunkt ist, α, eine Verbindung von einem beliebigen Punkt C zum Punkt A umfassen. Dementsprechend erlegt der vierte Term in Gleichung (6) eine Strafe für das Nichtenthalten einer Verbindung von einem beliebigen Punkt C zu einem Punkt A auf. Wenn Punkt A der Startpunkt ist, erlegt jedoch der vierte Term keine Strafe auf, aber der fünfte Term erlegt eine Strafe für das Nichtverlassen von α auf und der sechste Term erlegt eine Strafe für das Eintreten bei α auf.
Es existieren zwei Situationen, die auftreten können, bei welchen die Kontinuität aufrechterhalten wird, diese aber unerwünscht ist. Diese treten auf, wenn eine "Stillstands"-Strecke gewählt wird, wie VAA, und wenn eine "Rücklauf"-Strecke gewählt wird, wie z. B. VAB gefolgt von VBA. Diese unerwünschten Situationen werden mit einer Funktion E&sub4; bestraft, welche die Form hat
unter Verwendung der Gleichung
gleicht die Kostenfunktion, welche die Gleichungen (3) bis (7) verknüpft dem Nachstehenden
Gleichung (9) stellt einen gültigen und nützliche Ausdruck der gesamten Kostenfunktion des Wegführungsproblems dar. Unglücklicherweise sind die Terme mit dem Produktoperator π näherungsweise vom Nten Grad der Variablen V. Die Gesamtkostenfunktion ist deshalb nicht von der Form, die in den vorstehend erwähnten parallel anhängigen Anmeldungen beschrieben ist und es würde sich zeigen, daß diese Gesamtkostenfunktion nicht auf die Schaltung aus Fig. 1 wie im Stand der Technik beschrieben, abgebildet werden kann. Es wurde ein Weg entdeckt, das Problem umzustrukturieren und dies mit einer der Schaltung aus Fig. 1 ähnlichen Schaltung zu lösen.
Beim Lösen des Minimierungsproblems gemäß Gleichung (2) entwickelt die Schaltung der Fig. 1 eine Ausgangsspannung für jeden V Term und wenn die Schaltung den eingeschwungenen Zustand erreicht, nehmen diese Spannungen entweder den Wert 1 oder 0 an. Mit der Erkenntnis, daß die Produktterme (z. B. ) ebenfalls im eingeschwungenen Zustand auf 0 oder 1 beschränkt sind, werden die Terme der Form durch einzelne Variable der Form VBout und dem Term mit der einzelnen variablen VinA ersetzt. Dies ergibt eine Kostenfunktionsgleichung, welche die Terme mit V Variablen nur in erster und zweiter Ordnung hat. Auf den ersten Blick erscheint dieses Verfahren des Ersetzens lediglich formell anstatt substantiell zu sein; dies ist jedoch nicht der Fall, wie nachstehend gezeigt wird.
Die VBout und VinA Terme werden als Zwischenneuronen bezeichnet, die in ihrem eingeschwungenen zustand entweder 1 (eingeschaltet) oder 0 (abgeschaltet) sind. Unabhängig davon, welchen Zustand die Zwischenneuronen annehmen, müssen diese jedoch ihre definierende Gleichung erfüllen; und diese Forderung kann in der Gesamtkostenfunktion durch Zuordnung einer Strafe für das Nichterfüllen der Gleichheit mit einbezogen werden. Der Einsatz von De Morgans-Satz zeigt die Identität von = und in unserer Anmeldung, in welcher der Endzustand eines Zwischenneurons entweder 1 oder 0 ist, ist ebenfalls gleich . Unter Verwendung des Vorstehenden kann eine in die Gesamtkostenfunktion einzubeziehende zusätzliche Kostenfunktion erzeugt werden, die das Konzept einer Strafe für fehlerhaftes Erfüllen der definitionsgemäßen Anforderungen der Zwischenneuronen mit einbezieht. Im speziellen wird der Term in Gleichung (9) durch VBout ersetzt und der Kostenterm (VBout + -1)² wird addiert. In ähnlicher Weise wird der Term in Gleichung (9) ersetzt durch VinA und der Kostenterm
addiert. Schließlich wird der Term durch 1- , und der Term ersetzt durch 1- .
Das Verknüpfen der vorstehenden Kostenfunktionen ergibt die letztliche Gesamtkostenfunktion:
Die Gleichung (10) hat die allgemeine Form der Gleichung (2) insofern, als diese Terme von V nur in erster und zweiter Ordnung hat. Sie weicht von Gleichung (2) nur darin ab, daß die Terme nicht alle als Summen über vier Indizes auftreten. Dies kann jedoch in einfach zu übersehender Weise behoben werden. Beispielsweise kann der Term iVABVAC umgewandelt werden zu (oder in einer einfacheren Form umgeschrieben werden als , wobei eine Funktion ist, deren Wert 1 ist, wenn k = i ist und andernfalls 0. Zusätzlich zu der Einführung der δ-Funktion ergibt Vorstehendes eine einfache Variablentransformation zur Minderung der Verwirrung.
Das vorstehende Verfahren kann auf jeden Term in Gleichung (10) angewendet werden, welches die Tabelle ergibt:
die umgeschrieben werden kann als
Eine Prüfung der Gleichungen (10) und (11) offenbart, daß die zu den I&ijlig; Koeffizienten korrespondierenden Terme den direkten Kostenfaktor (c&ijlig;) des Problems und und δ Terme enthalten. Die T&ijlig;kl Koeffizienten enthalten nur und δ Terme. Die δ und Terme definieren die jederzeit anwesenden Restriktionen für gültige Lösungen des Typs des beschriebenen Problems und somit führt die Abbildung dieser Terme auf die T&ijlig; Elemente aus Gleichung (2) zu dem vorteilhaften Ergebnis, daß eine hochparallele Rechenschaltung konstruiert werden kann, wobei Rückkopplungsterme T&ijlig; unabhängig von dem speziellen zu lösenden Wegführungsproblem sind.
Fig. 2 stellt eine Schaltung dar, die ein Minimum für die Kostenfunktion aus Gleichung (10) und (11) annimmt. Diese ist der Schaltung aus Fig. 1 dahingehend ähnlich, daß Ausgangsspannungen V&sub1;, V&sub2;, . . . VN² (von entsprechenden Verstärkern erhalten) existieren und ein Verbindungsblock 30 existiert, der diese Ausgangsspannungen mit den verschiedenen Eingangsports der Verstärker verbindet. Diese weicht jedoch dahingehend ab, daß zusätzliche Verstärker 16, 17, 18 bereitgestellt sind, welche die Zwischenneuronen-Ausgangssignale VN²&sbplus;&sub1;, VN²&sbplus;&sub2;, . . . VN²+N, entwickeln, und diese auch an den Verbindungsblock 30 angeschlossen sind. In dieser Weise beeinflussen die Zwischenneuronen die Ausgangsspannungen und die Ausgangsspannungen beeinflussen die Zwischenneuronen, um sicherzustellen, daß die Zwischenneuronen ihrer definitionsgemäßen Gleichung folgen, welches die Minimierung der Gesamtkostenfunktion (10) veranlaßt. Fig. 2 enthält ebenfalls ein Netzwerk 40, das die in dem Koeffizienten der I&ijlig; Terme aus Gleichung (11) verkörperten Verbindungen realisiert. Auswerten der I&ijlig; und T&ijlig;kl Terme aus Gleichung (11) für ein spezielles Wegführungsproblem ergibt die aktuellen Konduktanzwerte in den Rückkopplungsmatritzen aus Fig. 2.
Das Vorstehende beschreibt ein sehr spezielles Beispiel eines Systems, in welchem die zu minimierende Energie in Termen von Ausgangssignalprodukten einer Ordnung größer als 2 ausgedrückt wird. Aufgrund der speziellen Natur des erläuterten Beispiels sind die resultierenden Gleichungen (10 und 11) sehr lang und etwas kompliziert. Um nicht den Wald vor lauter Bäumen aus den Augen zu verlieren, wird hier wiederholt, daß dieses Konzept der Zwischenneuronen immer dann anwendbar ist, wenn die Energiefunktion einen Term hat, der ein Produkt wie z. B. VAB VCA oder VAB VCD enthält.
Der erste dieser Terme ist konvertierbar in VABVinA und ein Strafterm der Form (VinA+ VCA-1)² wird zur Energiefunktion erklärt. In ähnlicher Weise ist der zweite dieser Terme in VABVCout konvertierbar und die Strafe von der Form (VCout+ VCD-1)² wird zur Energiefunktion addiert. Einführung der VinA und VCout Terme entspricht jeweils der Einbeziehung eines Eingangszwischenneurons und eines Ausgangszwischenneurons; und dies bedeutet übersetzt ein zusätzliches aktives Element in dem System, das den Energieminimierungsprozeß realisiert. Die Rückkopplungsmatrix, welche den Ausgang jedes Verstärkers mit dem Eingang aller Verstärker verbindet, ausgedrückt als T&ijlig;klV&ijlig; Vkl, wird für jedes Eingangszwischenneuron mit einem Term der Form
vergrößert und wird für jedes Ausgangszwischenneuron mit einem Term der Form
vergrößert. Die Matrix, welche die Eingangsströme den Verstärkern bereitstellt, wird in ähnlicher Weise wie in Gleichung (11) dargestellt erweitert.
Natürlich würden andere Indexmuster in den Produkten mit Termen höherer Ordnung der Energiefunktion etwas andere Erweiterungsterme für die V&ijlig;kl Matrix und für die I&ijlig; Matrix ergeben; aber diese Veränderungen liegen in klarer Weise innerhalb der Überlegungen der Erfindung.
Die Beschreibung der Erfindung in allgemeineren Ausdrücken führt dazu, daß wenn die Energiefunktion Terme eine Ordnung größer als 2 hat, wie z. B. Vu Vw Vx Vy Vz . . . . . , diese Terme in Vu Vm konvertiert werden, wobei jeder Vm ein neuer Zwischenneuronenterm ist und ein Strafterm der Form [Vm + (-1 + Vw + Vx + Vy + Vz+ . . . )]² wird zur Energiefunktion addiert. Einführung der Vm bedeutet übersetzt ein zusätzliches aktives Element in dem System, welches den Energieminimierungsprozeß realisiert. Die Rückkopplungsmatrix, welche die Ausgänge jedes Verstärkers mit den Eingängen aller Verstärker verbindet, wird für jedes Zwischenneuron durch die Koeffizienten der Gleichung
erweitert.

Claims

1. Parallele Schaltung für das Entwickeln N simultaner Ausgangssignale, die eine Energiefunktion minimieren, welche durch die Ausgangssignale in Termen von Produkten von verschiedenen der Ausgangssignale ausgedrückt wird, wobei die Parallelschaltung eine Vielzahl von Verstärkern und eine Rückkopplungsleitwertmatrix, die den Ausgang jedes Verstärkers, V&ijlig;, mit dem Eingang jedes der Verstärker verbindet, enthält, wobei jede der Verbindungen durch eine Konduktanz T&ijlig;kl bewirkt wird, wobei die Rückkopplungsmatrix Konduktanzen T&ijlig;kl enthält, die den Ausgang des Verstärkers &ijlig; mit dem Eingang des Verstärkers kl mit Konduktanzwerten verbinden, die Linearkombinationen von λz und δzy Termen sind, wobei λx eine vorbestimmte Strafkonstante und δzy eine Funktion ist, deren Wert eins ist, wenn y=z und andernfalls null ist, wobei y und z zu dem Satz {&ijlig;kl[ gehören, wobei die Werte der Konduktanzen gemäß dem Satz an Problemrestriktionen berechnet ist, dadurch gekennzeichnet, daß die Terme aus Produkten verschiedener Ausgangssignale Produktterme einer Ordnung größer als 2 enthalten, die Vielzahl an Verstärkern M Verstärker enthält, wobei M um die Anzahl an Termen in der Energiefunktion, deren Ordnung höher als 2 ist, größer als N ist, wodurch ein Satz aus N Verstärkern gebildet wird, die ein Ausgangssignal bereitstellen und ein Satz aus M-N Verstärkern (16, 17, 18), wobei jeder Verstärker des M-N Verstärkersatzes einem Term in der Energiefunktion entspricht, dessen Ordnung höher als 2 ist, wobei für jeden Term in der Energiefunktion, dessen Ordnung höher als zwei ist, die Rückkopplungsmatrix durch die Koeffizienten der Gleichung

erweitert ist, wobei Vu, Vw und Vx die Verstärkerausgangsspannungen sind, die in diesem Term der Energiefunktion, dessen Ordnung höher als 2 ist, enthalten sind, und Vm die Verstärkerausgangsspannung des zusätzlichen in dem Satz aus M-N Verstärkern enthaltenen Verstärkers ist.

2. Schaltung nach Anspruch 1 mit einer Eingangsmatrix für das Injizieren eines vorbestimmten Stromes in jeden Eingang der Verstärker.

3. Schaltung nach Anspruch 2, in welcher die Eingangsmatrix eine Kombination aus voraus gewählten Eingangssignalen und eine Linearkombination aus λx und δxy Termen ist, wobei die vorausgewählten Eingangssignale die Schaltungsantwort auf Stimulationen in eindeutiger Weise beschreiben, λx voraus gewählte Strafkonstanten sind und δzy eine Funktion von y und z ist, deren Wert eins ist, wenn y=z und andernfalls null ist, wobei y und z zu dem Satz {i, j, k, l} gehören.

4. Schaltung nach Anspruch 1, in welcher für jeden Term in der Energiefunktion der Form die Vielzahl von M Verstärkern um einen Verstärker erhöht wird, der eine Ausgangsspannung VinA entwickelt und die Rückkopplungsmatrix um einen Term der Form

erweitert wird, wobei λ eine vorausgewählte Strafkonstante ist und 3 eine Funktion der als tiefgestellter Index und als hochgestellter Index von 6 auftretenden Variablen ist, deren Wert eins ist, wenn die tiefgestellten Indizes gleich den hochgestellten Indizes ist und ansonsten null ist.

5. Schaltung nach Anspruch 1, in welcher für jeden Term in der Energiefunktion der Form die Vielzahl aus M Verstärkern um einen Verstärker erhöht wird, der eine Ausgangsspannung VCout entwickelt und die Rückkopplungsmatrix mit einem Term der Form

erweitert wird, wobei λ eine voraus gewählte Strafkonstante ist und δ eine Funktion der Variablen ist, die als tiefgestellter und als hochgestellter Index von δ auftreten, deren Wert eins ist, wenn die tiefgestellten Indizes gleich den hochgestellten Indizes sind und ansonsten null ist.