DE2524734C3 - Informationsverarbeitende Vorrichtung zur Erkennung eines durch einen Satz von Eingangssignalen charakterisierbaren Ereignisses - Google Patents

Informationsverarbeitende Vorrichtung zur Erkennung eines durch einen Satz von Eingangssignalen charakterisierbaren Ereignisses

Info

Publication number
DE2524734C3
DE2524734C3 DE2524734A DE2524734A DE2524734C3 DE 2524734 C3 DE2524734 C3 DE 2524734C3 DE 2524734 A DE2524734 A DE 2524734A DE 2524734 A DE2524734 A DE 2524734A DE 2524734 C3 DE2524734 C3 DE 2524734C3
Authority
DE
Germany
Prior art keywords
signal
output
transfer
input
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired
Application number
DE2524734A
Other languages
English (en)
Other versions
DE2524734B2 (de
DE2524734A1 (de
Inventor
Leon N. Prof. Cooper
Charles Prof. Elbaum
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nestor Inc
Original Assignee
Nestor Associates Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nestor Associates Inc filed Critical Nestor Associates Inc
Publication of DE2524734A1 publication Critical patent/DE2524734A1/de
Publication of DE2524734B2 publication Critical patent/DE2524734B2/de
Application granted granted Critical
Publication of DE2524734C3 publication Critical patent/DE2524734C3/de
Expired legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/02Comparing digital values
    • G06F7/023Comparing digital values adaptive, e.g. self learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G06N3/065Analogue means

Description

15
Die Erfindung betrifft eine informationsverarbeitende Vorrichtung zur Erkennung eines durch einen Satz jo von (N) Eingangssignalen charakierisierbaren Ereignisses, mit einer entsprechenden Anzahl von Signaleingängen zum Empfang der N Eingangssignale und mit einer entsprechenden Anzahl (N) von Übertragungselementen, deren jedes einen Signaleingang mit mindestens einer Ausgangsstation koppelt und dieser ein Signal zufuhrt, das dem Produkt der Übertragungsfunktion des ' Übertragung.'elements und des durch dieses übertragenen Eingangssignals proportional ist, wobei die Ausgangsstat'on als Ausgangssignal ein Summensignal erzeugt, das der Summe der ihr zugeführten Signale proportional ist, und mit Einrichtungen, durch die in einer Lernphase der Vorrichtung, in der den Signaleingängen mehrmals ein Satz von Eingangssignalen dargeboten wird, selbsttätig eine Änderung der Übertragungsfunktionen der Übertragungselemente in Abhängigkeit vom Ausgangssignal der Ausgangsstation erfolgt.
Bekannte informationsverarbeitende Vorrichtungen arbeiten im allgemeinen in der Weise, daß sie auf einen gegebenen Satz von Eingangssignalen ein Antwortsignal erzeuger, das mit einem \orbestimmten Antwortsignal verglichen wird. Diese bekannten Vorrichtungen werden oft in Abhängigkeit von der Differenz zwischen dem tatsächlichen und dem vorbestimmten Antwortsignal veranlaßt, ihre Übertragungsfunktionen zu ändern, d. h. zu »lernen« bis das vorbestimmte Antwortsignal erreicht wird Zweck solcher anpassungsfähiger informationsverarbeitender Vorrichtungen ist es, mittels eines geeigne-ten Algorithmus ihren eigenen Weg zu einer vorbestimmten Relation:
Eingangssignal-*· Antwortsignal
aufzufinden. Eine typische bekannte Vorrichtung dieser An (Fig. 1) enthält als wesentliche Elemente ein Netzwerk mi' Eingängen I, 2, 3,.., N, die ihrerseits mit einer entsprechenden Anzahl von variablen Gewichtungselementsn Gi, G2, Gj, ... Gv mit veränderbaren Gewichtsfaktoren verbunden sind, welche im Einzelfall als gewichtende Verstärker mit veränderbaren Verstärkungsfaktoren oder auch als Widerstände mit variablem Widerstandswert ausgebildet sein können. Die Ausgangssignale der als Übertragungselemente wirkenden Gewichtungselemente G werden einem Summierer S zugeführt, der für das gesamte Netzwerk ein einziges Ausgangssignal erzeugt, das im wesentlichen gleich der Suinme der Ausgangssignale der Gewichtungselemente ist.
Der Gewichtungsfaktor eines jeden Gewichtungselements Gi, G2, G3,... Gnwird mit Hilfe eines Netzwerkes eingestellt, das den Algorithmus Tbestimmt, nach dem die Vorrichtung lernt, auf ein bestimmtes Eingangssignal bzw. einen Salz von Eingangssignalen mit einem gewünschten Antwortsignal zu antworten, Hierzu wird im Betrieb des Netzwerkes ein Satz spezieller Eingangssignale wiederholt an die Eingänge I12,3,... Λ/ des Netzwerkes angelegt. Nach jedem Anlegen des Eingangssignals wird das Antwortsignal des Netzwerkes mit einem vorbestimmten Antwortsignal verglichen und beispielsweise die mittels einer Subtrahiereinrichtung D ermittelte Differenz zum Sollwert gemäß einem bestimmten l.ernalgorithmus dazu benutzt, die Gewichlsfaktoren der einzelnen Gewichtungselemenle Gi, G2. G),... G,v zu korrigieren.
Jedes Anlegen des speziellen Eingangssignals bzw.
/^Ac F" inrra ntrccirrnaica 17f*c im/4 Hia no/^KfrtIrr^n/Ίρ Altän/Ί^.
rung der Gewichtsfaktoren der Gewichtungselemente G wird als »Lern-Zyklus« bezeichnet. Im Verlauf aufeinanderfolgender Lern-Zyklen werden die Gewichtsfaktoren so verändert, bis das Netzwerk schließlich auf ein spezielles Eingangssignal das dazugehörige Ausgangssignal erzeugt. Man erkennt daß es dann, wenn der Lernalgorithmus darin besteht, die Gewich tungsfaktoren in Proportionalität zur Differenz zwischen !em tatsächlichen und dem erwünschten Antwortsignal zu ändern, die l.ernphase sehr lang dauern kann, weil die Änderungsschritte mit zunehmender Annäherung des Antwortsignal·; an das Soll-Antwortsignal immer kleiner werden. Es ist auch bekannt (DE-AS 18 14 940), die Gewichtsfaktoren der Gewich· tungs- bzw. Übertragungselemente so lange um gleiche Beträge zu verändern, wie das Summen-Antwortsignal der Ausgangsstation kleiner ist als ein vorgegebener Schwellenwert und die schrittweise Änderung der Gewichtsfaktoren zu beenden, wenn das Summen-Ausgangssignal diesen vorgegebenen Grenzwert erreicht bzw. überschreitet. Man hat dann eine wenigstens mit vorbestimmter »konstanter« Geschwindigkeit lernende Vorrichtung, bei der allerdings die »Lerngeschwindigkeit«, d. h. die Beträge, um die die Gewichtsfaktoren bzw. Übertragungsfunktionen der Übertragungselemente geändert werden, nicht zu groß sein dürfen, wenn das Überschreiten eines vorgegebenen Schwellenwertes des Summen-Ausgangssignals ein hinreichend empfindliches Maß dafür sein soll, daß eine für einen ganz bestimmten Sachverhalt, beispielsweise eine bestimmte Ziffer oder einen bestimmten Namenszug charakteristische Eingangssignalkombination t > den Eingängen der Vorrichtung anliegt. Wenn aber die Übertragungsfunktionen der Übertragungselemente nur in kleinen Schritten geändert werden dürfen, dann hat dies wiederum zur Folge, daß die Lerngeschwindigkeit dieser bekannten Vorrichtung, auch wenn sie »konstant« ist, relativ gering ist Es kommt hinzu, daß . die ein bestimmtes Ereignis charakterisierenden Eingangssignale, beispielsweise Spannungssignale, die mit einem bestimmten, in der Lernphase der Vorrichtung eingestellten Verstärkungsgrad als Übertragungselemente verwendeter Verstärker übertragen werden, der den Gewichtsfaktor bestimmt, eine ganz bestimmte Mindestintensität haben müssen, damit das zugeordnete Ereignis durch Überschreiten eines Schwellenwertes
_:___ J 1. C ;_«.»<_ Λο- ».«« *4o« f'lt.o-^nn.mr.palo
CHICS UUIUIl OUlltllllCI UlIg AJV-I YUIl VJVU UlA/tuagUIlgäV.!«.'
menten übertragenen Signale überhaupt erkannt werden kann. Diese die zuverlässige Erkennung eines im obigen Sinne erläuterten Ereignisses erheblich
β Si E.
beeinträchtigende Eigenschaft der bekannten Vorrichtungen ist letztlich die Folge davon, daß der Lernvorgang stets in Abhängigkeit von einem für ein unter definierten Bedingungen auftretendes Ereignis charakteristischen bekannten Antwortsignal der Vorrichtung erfolgt. Es ist daher mit den bekannten Vorrvfrtungen nicht möglich, in der Lernphase eine Einstellung der Übertragungsfunktionen der Übertragungselemente zu erzielen, so daß die Vorrichtung nach Abschluß der Lernphäse in der Lage wäie, ein für ein unbekanntes Ereignis charakteristisches Antwortsignal zu erzeugen.
Demgemäß liegt der Erfindung die Aufgabe zugrunde, eine Vorrichtung der eingangs genannten Art zu schaffen, die in der Lage ist, nach Abschluß ihrer t5 Lernphase auch für ein urbekanntes Ereignis ein charakteristisches Antwortsignal zu erzeugen, sofern
dargeboten worden ist, und die darüber hinaus die Möglichkeit einer erheblich erhöhten Lerngeschwindigkeit beinhaltet.
Diese Aufgabe wird erfiridungsgemäß durch die folgenden Merkmale gelöst:
a) es sind mehrere Ausgangsstationen vorgesehen, und es sind einzelne oder alle der η Ausgangsstalio- 2d nen über jeweils ein eigenes Übertragungselement mit einzelnen oder allen der (N) Signaleingänge gekoppelt;
b) das an der jeweiligen Ausgangsstation erzeugte .bummensignal ist das Ausgangssteuersignal einer Einrichtung zur Abände-ung der Übertragungsfunktionen A1, einzelnei oder aller derjenigen Übertragungselemente, cue mit der jeweiligen Ausgangsstation gekoppelt sind;
c) die durch die Einrichtung zur Änderung der Übertragungsfunktionen A11 vermittelte Änderung derselben ist dem Ausgangssignal der jeweiligen Ausgangsstation proportional, bis eine vorgebbare Bedingung (Zeitablauf, Schwellenwert, Signalmuster) eintritt.
Im Unterschied zu der bekannten informationsverarbeitenden Vorrichtung gemäß der DE-AS 18 14 940 hat die erfindungsgemäße Vorrichtung also mehrere Ausgangsstationen i, an denen die Ausgangssignale s'j mehrerer Übertragungselemente, deren jedes einen der insgesamt π Eingänge j mit der betreffenden Ausgangsstation / verbindet, zu einer Antwortsignalkomponente η summiert Werden. Das Antwortsignal umfaßt also im allgemeinen Fall so viele Komponenten rh wie Ausgangsstationen /vorhanden sind. Die erfindungsgemäße Vorrichtung transformiert also einen Satz von Eingangssignalen a\, £>, ... Sj, ... Sn mittels der Übertragungselemente in einen Satz von Antwortsignalen n, n,..., η ... r/v. Mit anderen Worten: Der für ein bestimmtes, zu erkennendes Ereignis charakteristische Λ-dimensionale Eingangssignalvektor 5 mit den Komponenten Sy wird durch die erfindungsgemäße Vorrichtung in einen jV-dimensionalen Antwort-Signal-Vektor R*mit den Komponenten r, (i = \ ... N) transformiert wobei die Dimension π des Eingangssignalvektors S größer, gleich oder kleiner sein kann als die Dimension N des Antwort-Signal-Vektors R* je nachdem, ob die Zahl der Eingänge./größer, gleich oder kleiner ist als die Zahl der Ausgangsstationen ; der erfir.dungsgernäßen es Vorrichtung.
Dadurch ist eine wesentliche Voraussetzung dafür geschaffen, daß die erfindungsgemäße Vorrichtung auch
40 ein »unbekanntes« Ereignis erkennen kann, nämlich die, daß der Informationsgehalt des Antwort-Signal-Satzes oder -Vektors Rim wesentlichen durch das Verhältnis seiner Köifij5önenteii /',-zueinander und nicht durch die absolute Größe der Antwortsignale /y bestimmt ist, wie es bei Vorrichtungen notwendigerweise der Fall ist, bei denen die Erkennung eines bestimmten Ereignisses davon abhängig ist, daß die Summe der Antwortsignale größer oder gleich einem bestimmten Schwellenwert ist, Was natürlich bei nach Abschluß der Lernphase Vorgegebenen Übertragungsfunktionen der Übertragungselemente voraussetzt, daß die für das bestimmte, zu erkennende Ereignis charakteristischen Eingangssignale einen definierten Betrag haben. Im Unterschied dazu vermag die erfindungsgemäße Vorrichtung dadurch, daß sie einen Satz 5^von Eingangssignalen s„ die in einem bestimmten Verhältnis zueinander stehen und dadurch für ein bestimmtes Ere'ani? charakteristisch sind, in einen Satz R* von Antwortsignalen r, transformiert, die ihrerseits in einem durch das Verhältnis der Eingangssignale s, zueinander bestimmten Verhältnis zueinander stehen, ein unbekanntes Ereignis dadurch zu identifizieren, daß sie das Verhältnis der Antwortsignalkomponenten r, liefert, und dadurch mit mindestens derselben Genauigkeit wie eine mit Diskriminierung nach Absolutbeträgen arbeitende Vorrichtung die Identifizierung eines Ereignisses ermöglicht. Daher kommt es bei der erfindungsgemäßen Vorrichtung nicht in erster Linie darauf an. welche Beträge die Eingangssignale s, und damit auch die Antwortsignale r, haben, sondern in erster Linie auf deren Verhältnisse zueinander. Mit anderen Worten: Die erfindungsgemäße Vorrichtung erkennt ein Ereignis nicht daran, daß die Eingangssignale und damit auch das Antwortsignal eine bestimmte Größe haben, sondern daran, daß die Eingangssignale s, und damit auch dre Antwortsignale r, in einem bestimmten Verhältnis zueinander stehen, d. h., daß der yV-dimensionale Antwort-Signal-Vektor R* eine bestimmte »Richtung« hat. Dies ist für die Erkennung eines unbekannten Ereignisses deshalb von Bedeutung, weil man bei einem solchen nicht von vornherein weib, wie groli die Eingangssignale s,, die dieses Ereignis charakterisieren, betragsmäßig sein werden.
Im weiteren Unterschied zu der bekannten Vorrichtung nach der DE-AS werden bei der erfindungsgemäßen Vorrichtung die Übertragungsfunktionen A1, der Übertragungselemente, die einzelne oder gegebenenfalls alle Eingänge./mit der jeweiligen Ausgangsstation i koppeln, in den einzelnen Lern-Zyklen nicht um einen konstanten Betrag, sondern um einen Betrag geändert, der dem Antwortsignal r, der Ausgangsstation / proportional ist. Dies bedeutet aber, daß nach einem /j-maligen Darbieten desselben Satzes von Eingangssignalen s, Änderungen δΑυ, die die einzelnen Übertragungsfunktionen Ai, erfahren, im wesentlichen der n-ten Potenz des beim erstmaligen Darbieten eines Eingangssignalsatzes S erzeugten ersten Antwortsignals r, proportional sind, d. h., die Änderungen δAi1 der Übertragungsfunktionen A/, wachsen bei wiederholter Darbietung desselben Eingangssignalsatzes exponentiell an. Dies bedeutet andererseits, daß die »Lerngeschwindigkeit« der erfindungsgemäßen Vorrichtung sehr hoch, d.h. die Zahl der Darbietungen eines bestimmten Eingangssignaisatzes sehr klein sein kann, bis die einzelnen Übertragungsfunktionen Aij dahingehend abgeändert sind, daß die erfindungsgemäße Vorrichtung auf einen vorgegebenen Satz von Ein-
gangssignalen s, einen bestimmten Satz von Antwortsignalen η erzeugt. Die Tatsache, daß die erfindungsgemäße Vorrichtung auf wiederholt dargebotene Sätze von Eingangssignalen s,, die in demselben Verhältnis zueinander stehen, in der Lernphase mit einer exponentiellen Änderung der Übertragungsfunktionen reagiert, hat zur Folge, daß ein für ein bestimmtes, unbekanntes Ereignis charakteristischer Satz von Eingangssignalen s/ selbst dann zu einer für das zugeordnete Ereignis charakteristischen Einstellung der Übertragungsfunktionen führt, wenn die Eingangssigna-Ie S1 pro Darbietung im Rauschen verborgen sind. Damit «tie erfindungsgemäße Vorrichtung ein solches, gegebenenfalls unbekanntes Ereignis zu erkennen lernt, ist lediglich erforderlich, daß sein entsprechender Satz von Eingangssignalen 5, der Vorrichtung hinreichend oft dargeboten wird. Die Vorrichtung ist dann nach Abschluß der Lernperiode in der Lage, einen bestimmten, charakteristischen Satz von Antwortsignalen r, zu erzeugen, wenn ihr derjenige Satz von Eingangssignalen, der in der Lernphase zu einer bestimmten Einstellung der Übertragungsfunktionen geführt hat, erneut dargeboten wird.
Man erkennt, daß die erfindungsgemäße Vorrichtung diese vorteilhafte Eigenschaft nur deshalb hat, weil sie einerseits mit exponentiell Geschwindigkeit »lernt« und anderseits einen Satz £ von Eingangssignalen wieder auf einen Satz κ von Antwortsignalen abbildet, jo daß diese die erfindungsgemäße Vorrichtung kennzeichnenden Merkmale also in einem echten kombinatorischen Zusammenhang zueinander stehen.
Weitere Einzelheiten und Vorteile der Erfindung ergeben sich aus der nachfolgenden Beschreibung von Ausführungsbeispielen an Hand der Zeichnung. Es zeigt
F i g. 1 ein Blockschaltbild einer typischen bekannten informationsverarbeitenden Vorrichtung,
Fig. 2 ein Blockschaltbild einer Baueinheit einer informationsverarbeitenden Vorrichtung nach der Erfind jng,
F i g. 3 ein Blockschaltbild einer erfindungsgemäßen informationsverarbeitenden Vorrichtung mit zahlreichen tsaueinneiten getnats H g. 2, wobei der ÜDersicntüchkeit der Darstellung wegen von Summierern der Vorrichtung abgehende Rückkopplungsleitungen weggelassen worden sind,
F i g. 4 ein Blockschaltbild einer mit Schwellenwerteinrichtungen versehenen informationsverarbeitenden Vorrichtung gemäß F i g. 3,
F i g. 5 eine schematische Darstellung der Antwort einer erfindungsgemäßen Vorrichtung auf ein durch einen Satz von Eingangssignalen darstellbares äußeres Ereignis,
F i g. 6 eine schematische Darstellung eines speziellen AuFoaus der erfindungsgemäßen Vorrichtung,
-F i g. 7 eine schematische Darstellung eines optisch- -akustischen Nachweissystems mit mehreren erfindungsgemäßen Vorrichtungen,
F i g. 8 ein Blockschaltbild einer in Verbindung mit der erfindungsgemäßen Vorrichtung verwendbaren Einrichtung zur Erzielung eines bestimmten Antwortsignals,
Fig.9 eine schematische Darstellung der Antwort zweier erfindungsgemäßer Vorrichtungen auf dieselbe Mannigfaltigkeit von Ereignissen,
fig. 10 ein Blockschaltbild einer .Einrichtung, die in Verbindung mit einer erfindungsgemäßen Vorrichtung zur Erzeugung einer speziellen Art von Antwortsignalen verwendbar ist.
Fig. 11 ein Blockschaltbild einer bevorzugten Ausführungsform eines Teils der Baueinheit gemäß Fig.2 mit einem mit Ladungsspeicherung arbeitendes Übertragungselement,
F i g. 12 ein Schaltbild einer Summierschaltung, die in dem Netzwerk gemäß Fig. 11 verwendbar ist,
Fig. 13 ein Schaltbild eines in dem Netzwerk gemäß F i g. 11 verwendbaren Übertragungselements und
Fig. 14 ein Blockschaltbild einer in dem Netzwerk
ίο gemäß Fig. 11 verwendbaren Einrichtung zur Verarbeitung von Netzwerk-Eingangssignalen mit Hilfe von Netzwerk-Ausgangssignalen.
Die F i g. 3 zeigt eine spezielle Ausführungsform einer erfindungsgemäßen Vorrichtung mit NEingängen und η Ausgangsstationen, wobei jeder Eingang mit jeder Ausgangsstation durch ein einzelnes Übertragungselement (©) verbunden ist. Aus Gründen der Übersichtlichkeit sind von den Summierern T. 1 .... T. i.... 2 η ausgehende, zu den einzelnen Übertragungselementen führende Rückkopplungsleitungen der Einrichtungen zur Änderung der Übertragungsfunktionen A11 der Übertragungselemente weggelassen und es sind auch nur diejenigen Übertragungselemente eingezeichnet, die einerseits den Eingang j mit jeder der Ausgangsstationen / (Übertragungselemente ! j, 2j,..., nj) koppeln, sowie diejenigen Übertragungselemente, die jeden der Eingänge j mit der Ausgangsstation / koppeln
(Übertragungselemente /1, /2 ij,... iN). Es versteht
sich jedoch, daß die Vorrichtung gemäß Fig.3
3ö insgesamt N ■ η Übertragungselemente umfaßt, deren Übertragungsfunktionen A11 somit durch die folgende Matrix mit N Zeilen und η Spalten angegeben werden können:
An A22 ■■■ Anl
An A22 ... A„2
"I V "2
Der Ausdruck »Übertragungsfunktion« ist im folgenden, soweit nicht ausdrücklich näher definiert, in seinem allgemeinen Sinne aufzufassen und bedeutet eine
Funktion, die in irgendeiner Weise die Übertragung von informationen vom Eingang zum Ausgang eines -Übertragungselements beeinflußt In einem speziellen, einfachen Fall entspricht die Übertragungsfunktion der Verstärkung bzw. dem Verstärkungsfaktor eines als
Verstärker wirkenden Übertragungselements; es versteht sich jedoch, daß eine durch eine Übertragungsfunktion beschreibbare Transformation des Eingangssignals eines Übertragungselements auf dessen Ausgangssignal auch auf andere Weise erzielt werden kann.
In jedem Fall soll das Ausgangssignal s'j eines Übertragungselements als das Produkt seines Eingangssignals Aij dieses Übertragungselements definiert sein gemäß der Beziehung:
Sj = A.-j
Bei der erfindungsgemäßen Vorrichtung ist das Antwortsignal r, an jeder Ausgangsstation eine lineare
Funktion der an die Eingänge j der Vorrichtung angelegte.i Eingängssignale, so daß gilt:
Diese lineare Relation, die in der Fig. 3 durch die Summierer Jj, Σ& . ·. 2» · · · Σ« veranschaulicht ist, ist
die einfachste Beziehung, die zu den erwähnten vorteilhaften Ergebnissen führt. Es versteht sich jedoch, daß die erfindungsgemäße Vorrichtung nicht auf diese lineare Relation beschränkt ist, und daß vorteilhafte Ergebnisse auch dadurch gewonnen werden können, daß das Antwortsignal r, an einer oder mehreren Ausgangsstationen / nach einer anderen Funktion von den an die Vorrichtung angelegten Eingangssignalen s, abhängig ist. Beispielsweise kann das Antwortsignal r. zu dem Produkt der Eingangssignale A11 s, über alle j proportion 'sein.
Bei der in der F i g. 3 dargestellten Vorrichtung kann die Anzahl N der Eingänge und die Anzahl η der Ausgangsstationen an sich beliebig sein. Die Anzahl der Eingänge kann größer, kleiner aber auch gleich der Zahl der Ausgangsstationen (N = η) sein. Es versteht sich, daß der Umfang der Information, die zu irgendeinem Zeitpunkt an den Ausgangsstationen / der Vorrichtung auftreten kann, in der Größenordnung von 2" Bits oder mehr liegt, und daß, je größer der Wert π ist, desto größer auch das Signal/Rausch-Verhältnis der Vorrichtung ist. Daher sind große Werte von η erwünscht, wobei allerdings eine damit verbundene Zunahme der Schaltungselemente zu berücksichtigen ist. Der Einfachheit halber wird in einer nachfolgenden Betrachtung angenommen werden, daß π gleich Nsein soll.
Die Vorrichtung gemäß Fig.3 kann als aus einer Anzahl (n) von Summierern £, bestehend angesehen werden, deren jeder einerseits mit einer einzigen Ausgangsstation / und andererseits über jeweils ein
■ Übertragungselement mit je einem der N Eingänge der Vorrichtung verbunden ist Uns zwar so, daß jeder Summierer 2> nut jedem der Eingänge j gekoppelt ist. Eine solche, eine Untereinheit der Vorrichtung darstellende Baueinheit ist in der Fig.2 dargestellt Ein Vergleich der Fig.2 mit der Fig. 3 zeigt, daß die erfindungsgemäße Vorrichtung demgemäß eine der Anzahl (n) der Ausgangsstationen entsprechende Anzahl solcherBaueinheiten gemäß F i g. 2 umfaßt.
■ Wie die F i g. 2 zeigt, erzeugt jede Baueinheit an einer Ausgangsstation /-ein einzelnes Antwortsignal η Dieses Antwortsignal wird von dem Summierer £, der -Baueinheit jeweils in Abhängigkeit von Zwischen ausgangssignalen c'u s'2, ..., s'j, ..., s'v der N Übertragungselemente /I1 /2, .., ij,..., /TV erzeugt In dem speziellen Fall einer erfindungsgemäßen Vorrichtung, bei -der jeder der N Eingänge mit jeder der η Ausgangsstationen durch ein einzelnes Übertragungselement verbunden ist liegt eine sogenannte (N π}-Verknüpfung vor. Es ist aber nicht erforderlich, daß die Übertragungselemente der Vorrichtung jeden Eingang eo mit jeder Ausgangsstation koppeln. Vielmehr können in praktischen Fällen eine oder mehrere der durch die Übertragungselemente vermittelten Verbindungen zwischen-den Eingängen und den Ausgangsstationen ohne schädliche Beeinträchtigung der Funktion der Vorrichtung getrennt werden. Die "durch die Übertragungselemente vermittelten Verbindungen zwischen den Eingängen und den Ausgangsstationen der Vorrichtung können sogar völlig zufallsverteilt sein, vorausgesetzt, daß eine genügende Anzahl solcher Verbindungen vorhanden ist, um eine Informationsübertragung vom Eingang zum Ausgang und demgemäß auch eine informationsspeicherung in den Übertragungselementen zu ermöglichen. Demzufolge kann tine der Fig. 2 entsprechende Baueinheit auch weniger als /V Übertragungselemente umfassen, so daß nicht jeder Eingang ', 2, ..., j, ..., N mit dem jeweiligen Summierer 2]> gekoppelt sein muß.
In der Lernphase der Vorrichtung werden die Übertragungsfunktionen mindestens einzelner und vorzugsweise aller Übertragungselemenie ij in Proportionalität zu mindestens einem der Antwortsignale r,der Vorrichtung geändert, d.h., die Änderung öA,, der Übertragungselemente erfolgt in Abhängigkeit von dem Produkt aus mindestens einem der Eingangssignale und mindestens einem der Antwortsignale der Vorrichtung. Unter dieser Maßgabe kann somit der Algorithmus für dip. Abänderungen <5A> denen die Elemente An der Übertragungsfunktionen Matrix A unterworfen sind, abgesehen von einer zu den Eingangssignalen 5, und den Antwortsignalen r, nicht in Beziehung stehenden gleichförmigen Abnahme, im allgemeinsten Fall durch die folgende Beziehung angegeben werden:
Λ A11 = f (S1.
5, sN\ r„ r, r, r„)
Die apparative Realisierung eines solchen Änderungsalgorithmus, der im Prinzip jedes Eingangssignals Sj mit jedem Antwortsignal /7 verknüpft, wäre natürlich sehr kompliziert. Daher ist, um unnötige Komplikationen bei der Leitungsführung in der Vorrichtung zu vermeiden, vorgesehen, daß die Abwandlung 6A11 der Übertragungsfunktion Ay eines Übertragungselements nur von dem Eingangs- und Antwortsignalen desjenigen Bauelements abhängig sein soll, dem das Übertragungselement angehört, und zwar derart, daß für die Änderung όΛ^ der Übertragungsfunktion Ai1 desjenigen Übertragungselements i, j, das den Eingang j mit der Ausgangsstation /koppelt, gilt:
mit der Maßgabe, daß
/ (sr r,) = ι, Sj rt
bzw.
wobei η eine Proportionalitätskonstante bezeichnet deren Größe apparativ bedingt und gegebenenfalls zeitabhängig ist.
Man erkennt, daß die Proportionalität:
Λ Au = ι, s, j-,
gerade dem vierten Term der Taylor-Entwicklung entspricht, wenn man die Funktion
Λ Ajj = J [Sj, I",·) ,
die stets von beiden variablen s> n abhängig sein soll, nach steigenden Potenzen dieser Variablen entwickelt
was zu der folgenden Darstellung der Funktion f(Sj, rj führt:
/ {sr r,) = ci„, + Hai s, + ti],, r, + <<„ r, s, + <i2I r, s, + «3) rf s, + ... + «„,„rj"^ ·
Da gefordert wird, daß die Abänderung der A1, von dem Produkt des Eingangssignals s, mit dem Antwortsignal r, abhängig sein soll, sind die ersten drei Terme dieser Entwicklung nicht von unmittelbarem Interesse. Im übrigen IaBt sich beweisen, daß eine Abänderung der to A,„ die nur eire Funktion von einem oder mehreren der ersten drei Terme der Taylor-Entwicklung ist, nicht zu einer informstionsverarbeitenden Vorrichtung führen würde, die die durch die erfindungsgemäße Vorrichtung vermittelten vorteilhaften Intelligenzeigenschaften aufweist.
Der niedrigste Term der Taylor-Entwicklung, der dies leistet, ist der . lerte Term, nämlich d 1 r s.
|v versteh: sich jedoch, daß auch weitere, auf den
Viel teil Τ·τι'ΠΊ uCT ι äViGF-L-ni'iVJCiiiurig iGigCriüC iCrrnC jii
zu bedeutsamen Ergebnissen führen können, wenn sie in der erfindungsgemäßen Baugruppe verarbeitet ■*orden. Terme mit geraden Potenzen der Variablen s{ oder r ermöglichter, aber bei den Abänderungen der Ubertragungsfunktionen keine Unterscheidung hinsichtiici des r, Vorzeichens der erwünschten Abänderung. Terme. die 1·' gerade Potenzen dieser Variablen enthalten, wie etwa (_ τ sechste Term. av r' s, würden dagegen eine solche l'nterscheidung ermöglichen. Daher kann jeder dieser Terme der er'indungsgemäßen Vorrichtung interessante Eigenschaften vermitteln. Da die verschiedenen Terme der Taylor-Entwicklung den Abwandlungen (5/4, der Matrix A der Übertragungsfunktionen unterschiedliche Gewichtungen erteilen, können insbesondere diese Citwichtungen mit Vorteil dazu benutzt werden, der erfindungsgemäßen Vorrichtung spezifisrhe erwünschte Eigenschaf'en zu vermitteln.
Die F 1 g. 4 zeigt eine Möglichkeit die die er'indungsgemäBe Vorrichtung in ein anpassungsfähiges Informationsverarbeitungssystem eingegliedert und benutzt werden kann. Die in dieser Figur dargestellte Vorrichtung weist eine (N1N)- Verknüpfung auf. d. h. es sind N Eingangsstalionen und N Ausgangsstationen vorgesehen, und jede Eingangsstation ist. wie in der F i g. 3 dargestellt, mit jeder Ausgangsstation über ein Übertra- ^ gungselement verbunden.
Die der Vorrichtung zugeführten Eingangssignale Si. 5.\ ... s, ... s\ charakterisieren ein Ergebnis in der Umgebung, das in der Fig.4 als »Eingabe« bezeichnet ist. Dieses Ereignis kann ein optisches Ereignis, etwa die Ansicht ein« Bildes, ein akustisches Ereignis, etwa ein lon. oder irgend ein beliebiges anderes Ereignis sein, beispielsweise der Empfang von Strahlungssignalen aus dem Weltraum. Die einzige Anforderung, die an ein solches Ereignis zu stellen ist. besteht dann, daß es auf π irgend eine Weise in eine Anzahl von Eingangssignalen S-. s,>. . s„ .. s\ übersetzbar ist. die ausreichend viele Einzelheiten des interessierenden Ereignisses bewah ren.
Die Eingangssignale su S2, ... Sj, ... s,v werden von 6ö einem Übersetzer erzeugt, der eine Art von Analyse des Ereignisses durchführt und nach Maßgabe dieser Analyse Signale erzeugt. Wenn die Eingabe beispielsweise ein optisches Ereignis oder ein »Bild« ist, so kann der Übersetzer dieses Bild in eine Anzahl von Rasterelementen unterteilen und Signale Su S2,... Sj,... Ss1 erzeugen, die zu der optischen Dichte eines jeden zugeordneten Rasterelements proportional sind. Wenn die Eingabe ein akustisches Ereignis ist, so kann der Obersetzer eine Fourier-Analyse der akustischen Information durchführen und Eingangssignale S1, sj,... sp ... s,v erzeugen, die zu der Schallamplitude jeder der Fourierfrequenzen proportional sind. Es versteht sich jedoch, daß der in Verbindung mit der Vorrichtung zu benutzende Obersetzer geeignet wählbar ist und daß dem Fachmann zahlreiche Arten geeigneter Übersetzer bekannt sind. Da außerdem der Obersetzer, für sich genommen, nicht Teil dieser Erfindung ist, soll er im folgenden nicht im einzelnen behandelt werden.
Gemäß einer bevorzugten Ausführungsform der Erfindung sind diese Antwortsignale kontinuierliche Variable, d.h.: sie können beliebige Werte zwischen
wert annehmen, je nach der Art des durch die Antwortsignale charakterisierten Ereignisses und der apparativen Bedingungen, die durch den Aufbau der Vorrichtung vorgegeben sind. Um bei Bedarf die Vorrichtung »zwingen« zu können, ein spezielles Antwortsignal abzugeben (einen bestimmten Satz ° nzelner Antwortsignale n. r?, ... r„ ... r\). wenn ein spezielles Eingangssignal (ein Satz bestimmter einzelner
Eingangssignale s .S: 5, sy^dargeboten wird, kann
die Vorrichtung mit einer geeigneten Einrichtung ausgestattet sein, die einzelnen oder sämtlichen Ausgangsstationen spezifische Antwortsignale (z. B. Spannungen) aufprägt oder zuführt. Auf diese Weise kann die Vorrichtung in der als »aktives Lernen« bezeichneten Betriebsart betrieben und veranlaßt werden, auf jedes gegebene Eingangssignal ein vorbestimmtes, erwünschtes Antwortsignal abzugeben. Diese Betriebsart i.'.t zwar derjenigen dsr bekannten Vorrichtungen ähnlich, aber auch hier profitiert man von der erhöhten Lerngesi-hwindigkeit der erfindungsgemäßen Vorrichtung.
Bei Bedarf können die Ausgangsstationen 1,2 /'...
N der Vorrichtung auch jeweils mit einer Anzahl von Schwellenwerteinrichmngen Ti Tj. ... T1. ... Tn wie Schmitt-Trigger oder dergleichen verbunden sein, die ein Ausgangssignal erzeugen, wenn das ihnen zugeführte Antwortsignal jeweils einen einstellbaren Schwellenwert Θ. (J!, ... θι. ... Θμ überschreitet. Diese Schwellenwerteinrichtungen bewirken, daß das analoge Antwortsignal der Vorrichtung in ein digitales Ausgangssignal umgewandelt wird, das auf einfache Art und Weise weiter verarbeitet werden kann. Diese Schwellenwerteinrichtungen über zusätzlich eine Entscheidungsfunktion dahingehend aus, ob und wann ein spezielles Antwortsignal erzeugt worden ist.
Die Schwellenwerteinrichtungen Γι. Ti. ... T1, ... Tm können auch für eine Betriebsart benutzt werden, die als »Unterdrütkurigsbetrieb« bezeichnet werden kann und die den I.ernvorgang der Vorrichtung fördert. Wie im folgenden ausführlich dargelegt werden wird, erfordert diese Betriebsart, daß das Ausgartgssigiial einer jeden Schwellenwerteinnchtüng auf cl!ie Vorrichtung zurückgekoppelt wird, um alle Surriimierer mit Ausnahme desjenigen, der das Antwortsignal erzeugt, äbzüschäU ten.
Auf diese Weise werden alle Antwortsignale ru r2l... r,v mit Ausnahme desjenigen Antwortsignal unterdrückt, das als Eingangssignal derjenigen Schwellen-
Werteinrichtung zugeführt wird, die ein Ausgangssignal erzeugt Der Vorteil hierbei besteht darin, daß die Vorrichtung selbsttätig rasch lernt, einen Satz von Antwortsignalen n, rj, ... r,, ... r,v (und damit auch Ausgangssignale der Schwellenwerteinrichtungen 71, Ti, ... Tm) zu ei zeugen, in dem nur eines diesel Antwortsignale bei Darbietung eines gegebenen Satzes von Eingangssignalen S\, sj, ... sp ... sn von Null verschieden ist.
Die Ausgangsstation der Vorrichtung oder der ι ο Ausgänge der Schwellenwerteinrichtungen, sofern solche vorgesehen sind, können mit jeder Art von Ausgabe- oder Verarbeitungsgerät kombiniert werden, je nachdem was für ein Vorgang in Abhängigkeit von den Antwortsignalen der Baugruppe durchgeführt werden soll. Wenn die Vorrichtung beispielsweise dazu benutzt wird, sichtbare Bilde- zu identifizieren (z. B. Scheckunterschriften) so können die Ausgänge der Schwellenwerteinrichtungen einfach mit einer Alarmanlage verbunden sein, die einer Bedienungsperson Nachricht gibt, wenn ein bestimmtes Bild (z. B. eine echte oder gefälschte Unterschrift) als echt erkannt oder als gefälscht emdeckt worden ist.
Ein weiterer Vorteil der erfindungsgemäßen informationsverarbeitenden Vorrichtung liegt darin, daß sie als ein Assoziativ-Speicher. (bei dem Information nicht an einzelnen Speicherplätzen sondern über das System verteilt gespeichert wird) benutzbar und in hohem Maße unempfindlich gegenüber einem Fehlverhalten einzelne,· Bauelemente ist. Die Vorrichtung vermittelt dann die Eigenschaften eines selbs'organisierten Sprechers mit der Fähigkeit, Informaticn allein auf Grund von Erfahrung aufzunehmen. Es kommt hinzu, daß ein solcher Asso/iativ-Speicher im allgemeinen dieselbe Kapazität, Zuverlässigkeit urd Genauigkeit wie ein konventioneller digitaler Computerspeicher (beispielsweise wie ein Ferritkernspeicher), aufweist, bei dem die Information an einem räumlich festgelegten Ort gespeichert wird. Ein weiterer Vorteil der erfindungsgemäßen informationsverarbeitenden Vorrichtung, die als 4n eine elektronische Schaltung realisierbar ist, besteht darin, daß sie eine große Speicherdichte ermöglicht. Sie kann aus integrierten Schaltungen aufgebaut sein und benötigt daher keine diskreten Speicherelemente wie Ferritkerne.
Wenn die Vorrichtung beispielsweise als Assoziativspeicher benutzt wird, so kann sie direkt mit einem konventionellen digitalen Corr puter verbunden werden (d. h. ohne einen eigenen einf;angsseitigen Übersetzer oder ausgangsseitige Schwellenwerteinrichtungen). <m Selbstverständlich muß dann an der eingangsseitigen Schnittstelle der Vorrichtung ein Digital/Analogkonverter vorgesehen sein, um die digitale Ausgabe des Computers in analoge Eingangssignal S\. S2. ■ · · -Sv umzuwandeln, und es muß in der ausgangsseitigen Schnittstelle der Vorrichtung ein Analog-Digital-Konverter vorgesehen sein, der die analogen Antwortsigna Ie η. Γ2... ■ γμ zur Eingabe in den Computer quantisiert.
Offensichtlich kann die erfindungsgemäße Vorrich tung für praktisch unendlich viele Zwecke eingesetzt §η werden, wobei die zur Mitanwendung kommende spezielle Ausgabe- oder Verarbeitungseinrichtung durch die speziellen Umstände des Einzelfalles bestimmt sein wird. Da die Ausgabe- öder Verarbeilungseinrichtung für sich allein nicht Teil der Erfindung ist, sollen sie hier auch nicht in weiteren Einzelheiten behandelt werden.
Die erfindungsgemäße Verrichtung kann auch in einem Informationsverarbeitungssystem verwendet werden, bei dem mehrere solcher Vorrichtungen entweder in Reihen- oder in Parallel- oder in Reihen/Parallelschaltung miteinander verbunden sind. Beispielsweise können die Ausgangsstationen zweier Vorrichtungen mit den Eingangsstationen einer dritten verbunden sein, derart, daß die beiden ersten Vorrichtungen die aus der Umgebung empfangene Information »vorverarbeiten« können und diese (vorverarbeitete) Information zur endgültigen Verarbeitung und/oder Speicherung an die dritte Vorrichtung abgeben.
Reihen- und Parallelschaltungen der Vorrichtung können somit die Intelligenz des Informationsverarbeitungssystems vergrößern.
Die erfindungsgemäße Vorrichtung kann so aufgebaut sein, daß sie mit einer gewünschten Geschwindigkeit »lernt«. Im Lembetriebszustand sollten ch; an den Übertragungsfunktionen /4yder Übertragungselemente vorzunehmenden Änderungen oAyso definiert sein, wie oben angegeben; wobei gemäß einer bevorzugten Ausführungsform der Erfindung diese Abänderungen von der folgenden Form sind:
Λ A11 = ι, r, S1.
Durch Einstellen des Wertes η. der apparativ einstellbar ist, ist es dann möglich, die Abänderungsoder »Lerngeschwindigkeit« der Vorrichtung zu steuern.
Wenn η = 0 (δA1, = 0) gesetzt wird, ist es auch möglich, den Lernbetrieb der Baugruppe vollständig »auszuschalten«, so daß die Vorrichtung dann als ein reiner Assoziativ-Speicher arbeitet. Die Benutzbarkeit der Vorrichtung in diesem speichernden Zustand, in dem die Übertragungsfunktionen vorbestimmt und festgelegt sind, ist ein wesentlicher Vorteil der vorliegenden Erfindung.
Die erfindungsgemäße Vorrichtung kann auch so aufgebaut sein, daß sie sowohl mit einer vorbestimmten Geschwindigkeit »vergißt« als auch lernt. Eine solche Arbeitsweise kann dadurch erreicht werden, daß es den Übertragungsfunktionen A1, ermöglicht wird, beispielsweise mit einer konstanten Zerfallsgeschwindigkeit abzunehmen. In der Lernphase ist ein solcher Verlust gespeicherter Information günstig, da die Vorrichtung dadurch Einzelheiten ihrer früheren Erfahrung »vergessen« und somit schneller verallgemeinern kann. Dagegen ist es dann, wenn die Lernphase der Vorrichtung abgeschlossen ist und diese i·.. Speicherbetrieb arbeitet, erwünscht, jede Abnahme der ÜbertragungEJunktionen möglichst auf »Null« (d. h. auf den bei den zur Verfügung stehenden Bauteilen niedrigst-möglichsten Wert) zu reduzieren, damit die in der Vorrichtung gespeicherte Information so lange wie möglich auch ohne Verwendung eines Pufferspeichers festgehalten werden kann.
Wenn mehrere Vorrichtungen, die in Reihe oder parallel geschaltet sind, benutzt werden, so können verschiedene Vorrichtungen auch in verschiedenen Betriebsarten betrieben werden, um innerhalb eines Informationsverarbeitungssyslenis unterschiedliche Funktionen auszuführen. Beispielsweise können sich eine oder mehrere Vorrichtungen in der Lernphase befinden (in der t. B. sowohl η als auch die Zerfallsgeschwindigkeil ziemlich groß sind), Während eine oder mehrere Vorrichtungen als reine Speicher benutzt werden (wobei öAu und die Zerfällsgeschwindigkeit 0 sind). Die Fig.7 zeigt ein Beispiel eines
solchen Systems, das drei Vorrichtungen umfaßt Aus dieser Figur ist ersichtlich, daß die Zahl der Eingänge einer Bank H (Zahl der Eingangsstationen einer Vorrichtung mit der Bank /^gleich, größer oder kleiner sein kann als die Summe der Ausgangsstationen von Vorrichtungen mit den Ausgangsstationsbanken Ro und R.\, und daß jeder Ausgang von Ra und ÄA mit einem oder mehreren Eingängen der Bank H in geordneter oder zufälliger Weise verbunden sein kann.
Schließlich ist darauf hinzuweisen, daß sobald die I ο Lernphase einer Vorrichtung abgeschlossen ist, die Werte der Übertragungsfunktion Abgespeichert und zu einer sofortigen Einstellung einer weiteren Vorrichtung benutzt werden können. Diese »Sofort-Ausbildung« wird in einfacher Weise dadurch erreicht, daß die Werte der Übertragungsfunktionen einer Vorrichtung auf Anfangswerte /V°>,> gesetzt werden, bevor die Baugruppe in Betrieb genommen wird.
Bei einer bevorzugten Ausführungsform der Erfindung ist dafür ein üblicher (entweder analoger oder digitaler) Pufferspeicher vorgesehen, in den die Werte der Übertragungsfunktionen A11 einer Vorrichtung, deren Lernphase abgeschlossen ist, eingegeben werden können und aus dem diese Werte entnommen werden können, wenn die Übertragungsfunktionen derselben oder einer anderen Vorrichtung auf ihre Anfangswerte <4(n|,, gesetzt werden sollen.
Die insoweit beschriebenen strukturellen und funktionellen Merkmale der erfindungsgemäßen Vorrichtung zeigen, daß ihre Eigenschaften zumindest unter spezieilen, vereinfachenden Anr".hn;en einer expliciten mathematisch-analytischen Behandlung in Ausdrücken mehrdimensionaler linearer AbN'dungen, also einer Behandlung mit bekannten Methoden der linearen Algebra, zugänglich sind. Im folgenden werden daher einige wesentliche Eigenschaften der erfindungsgemäßen Vorrichtung im Hinblick auf ihre Umsetzbarkeit in mathematische Formulierungen näher erläutert und einige Ergebnisse einer unter speziellen, vereinfachenden Annahmen durchgeführten expliciten mathematisehen Behandlung dieser Eigenschaften angegeben, Ue den Fachmann dann einerseits ohne weiteres in die Lage versetzen, die erfindungsgemäße Vorrichtung an einen, seinen Bedürfnissen entsprechenden, bestimmungsgernäßen Gebrauch anzupassen, und die ihm andererseits den Weg zeigen, wie er selbst unter Ausnutzung der bekannten mathematischen Methoden eine Vorrichtung nach der Erfindung konzipieren und/oder deren Eigenschaften analysieren kann.
Die Fig. 5 zeigt in schematicher Darstellung eine Vorrichtung, in deren Umgebung eine Anzahl von
»Ereignissen« e . e2. e1 c e1' e* auftreten
kann. Fs versteht sich, daß unter einem »Ereignis« jeweils ein ganzer Komplex von objektiv, d. h. mit Hilfe von Meßeinrichtungen od. dgl. der Vorrichtung v> erfaßbare spezifischen Eigenschaften. Zuständen und/ oder Vorgängen zu verstehen ist, deren spezielle Kombination die Verschiedenheit der einzelnen Ereignisse charakterisiert. Solehe Meß-Einriehlungen sind es, die die Funktion des Übersetzers gemäß F i g. 4 vermitteln, der für jedes der Ereignisse e', e2, e\ ..., e* einen charakteristischen Satz von Ausgangssignalen s1, s1, j3, ,..., 5* erzeugt, wobei natürlich jeder dieser Ausgangssignalsätze s>' (v = 1... k) maximal N von Signalkomponenten umfaßt, die ihrerseits die Eingangssignale i/der erfindungsgemäßen Vorrichtung sind.
Man erkennt, daß die Verschiedenen Ereignisse e'r e2, ..., β', ..η eV^.,, e* bzw. deren Einzelmerkmale einerseits, und die zugeordneten Ausgangssignalansätze s1, s3, ..„ »·, ..., s", ..., s* andererseits einen im methematischen Sinne als Vektor interpretierbaren Ereignisraum E bzw. einen Eingangssignalraum 5 aufspannen, und daß der Übersetzer, der die einzelnen Ereignisse in zugeordnete Eingangssignalsätze transformiert, im mathematischen Sinne eine Abbildung P des Ereignisraumes E auf den Eingangssignalraum 5 vermittelt, was in der F i g. 5 durch den doppelten Pfeil P veranschaulicht ist, der von ezu szeigt
Es versteht sich, daß die Abbildung P im Singangssignalraum S ein möglichst detailreiches Bild der Ereignisse entwerfen seilte, damit ein genügend großer Betrag der interessierenden Information über das Ereignis erhalten bleibt. Daher sollte der Übersetzer, der selbst nicht Gegenstand der Erfindung ist, so beschaffen sein, daß er die einzelnen Ereignisse nach Qualität und Grad ihrer Einzelmerkmale gut zu unterscheiden vermag, damit auch die für die einzelnen Ereignisse erzeugten Sätze von Eingangssignalen S1 den Grad der Verschiedenheit (oder Ähnlichkeit) zwischen den auf den Eingangssignalraum S abgebildeten Ereignissen hinreichend genau widerspiegeln. Es soll im folgenden davon ausgegangen werden, daß die Abbildung Pbzw. der Übersetzer diese Eigenschaft besitzen.
Für Ereignisse e" und e". die sich in den von dem Übersetzer erfaßten Merkmalen nur wenig unterscheiden, werden dann Eingangssignalsätze σ" und c erzeugt, die, als Vektoren aufgefaßt, nur wenig voneinander unterschiedliche Richtungen markieren. Ereignisse, die beispielsweise einander ebenso ähnlich sind wie etwa eine weiße Katze und eine graue Katze, die sich ansonsten in ihren weiteren Merkmalen aber praktisch nieht unterscheiden, werden dann auf Eingangssignalvektoren s1' und 5" abgebildet, die annähernd parallel sind, während Ereignisse, die so verschieden sind wie beispielsweise der Klang tiner Glocke und das Aussehen eines Nahrungsmittels, also Ereignisse mit Merkmalen, die in praktischen Fällen nicht von den selben Meßgeräten des Übersetzers erfaßt werden können, werden dann auf Eingangssignalvektorer abgebildet, die im mathematischen Sinne orthogonal zueinander sind
Im folgenden mjII von dem in der F i g. 6 dargestellten speziellen Ausführungsbeispiel einer erfindungsgemäßen Vorrichtung ausgegangen werden, die N Eingänge und N Ausganfsstationen hat. wobei jede der Ausgangsstationen mit jeweils einem Eingang durch ein einzelnes Übertragungselement ^verbunden ist. Die in der F ι g. b nicht dargestellten, jedoch ebenfalls wie beim Ausführungsbeispiel gemäß den Fig. 3 oder 9 ebenfalls vorhandenen Summierern ^,arbeiten in der Weise, dall beispielsweise die Antwortsignalkomponente r <k»- Antwortsignalsatzes /?gemäßder Beziehung
r, Σ -·1.,ν
gebildet wird, wobei Atj die Übertragungsfunktion des //-ten Übertragungselements ist und demgemäß das Antwortsignal /J Von allen Eingangssignalen j, abhängig ist, die an den Eingängen für die Signalverteilung S vorhanden ist. Dies ist die grundlegende Beziehung, die den Einfluß der im Eingangssignalraum 5 vorhandenen Eingangssignale auf die im Antwortsignalraum -R erzeugten Antwortsignale beschreibt.
Man erkennt, daß diese Beziehung ebenfalls im mathematischen Sinne eine Abbildung A des Eingangs-
signalraumes S auf den Antwortsignalraum R beschreibt, was in der F i g. 5 durch den einfachen Pfeil A veranschaulicht ist
Zwar ist es für ein befriedigendes Funktionieren der erfindungsgemäßen Vorrichtung nicht erforderlich, daß zwischen den Eingängen und den Ausgangsstationen eine N-N Verknüpfung vorliegt; vielmehr können die tatsächlich zwischen den Eingängen j und den Ausgangsstationen / der erfindungsgemäßen Vorrichtung bestehenden Verbindungen zufällig angeordnet und mehrfach vorhanden sein, und es können zwischen einem bestimmten Eingang und einer bestimmten Ausgangsstation auch gar keine Verbindungen bestehen. Es ist auch nicht erforderlich, daß die Antwortsignalkomponenten r, gemäß der obigen Beziehung eine lineare Funktion aller N Eingangssignale sind, jedoch ist es unter den vorgenannten speziellen Annahmen auf eine verhältnismäßig einfache Weise mögh'ch, die Abbildung A, deren Koeffizienten A.., (die die Übertragungsfunktionen der Übertragungselemente sind) in der Lernphase der Vorrichtung abgeändert werden, mathematisch zu behandeln und ihre Eigenschafcen in einer übersichtlichen, geschlossenen analytischen Form abzugeben.
Im folgenden werden nun einige, eine Anzahl von 2=; wesentlichen Eigenschaften der erfindungsgemäßen Vorrichtung charakterisierende Ergebnisse einer solchen analytischen Behandlung der Abbildung A angegeben und kurz erläutert
to
15
30
Speicherwirkung
Die durch die obige Beziehung
35
definierte Abbildung A kann auch auf der Basis der von der Vorrichtung verarbeiteten bzw. abgebildeten Vektoren angegeben werden gemäß der Beziehung
40
A=V1
r" ■
in der die entsprechenden Sätze von Antwortsignalen tuf das v-te und μ-te Ereignis e" und ef jeweils r und &■ jeweils /* und ν und der Parameter cur den Kopplungskoeffizienten zwischen aen v-ten Satz von Eingangssignalen S1' und dem μ-tcTi Antwortsignalsatz bedeutet. Bei dieser Darstellung der Abbildung A sind es die Koeffizienten c,,,·. die mit der Zeit anwachsen, wenn aufeinanderfolgende Ereignisse eauf die Eingangssignale s aufgebildet und von der Vorrichtung zu Antwortsignalen verarbeite*, werden.
Dabei beschreibt das //-te Element der Abbildung A, d. h. die Übertragungsfunktion A1, die Wirkung des Übertragungselements zwischen dem in dem Eingangssignalraum 5 auftreten Jen Eingangssignal s, und dem Antwortsignal r, des Antwortsignalraums. Selbst wenn nur die Eingangssignalkomponeme 5/von Null verschieden ist, so daß gilt,
r, = An Sj,
ist wegen
c„r 'fs/
60
65
die Wirkung des //-len Ül?ertrai!ungselements a/;aus der gesamten Erfahrung des Systems zusammengesetzt, die sich in den mit diesem Übertragungselement verknüpften Eingangs- und Ausgangssignalen widerspiegelt. Dies bedeutet, daß die erfindungsgemäße Vorrichtung die Eigenschaft hat eines nach Inhalt oder Verknüpfung adressierbaren Assoziativ-Speichers, der jegliche Erfahrung der Vorrichtung in Abbildungen der Form A speichert, d. h. in durch die Darbietung und Verarbei tung von Ereignissen bestimmten Einstellungen der Übertragungsfunktionen A11 der Gesamtheit seiner Übertragungselemente ij. Jedes Ereignis wird also über eine Vielzahl von Übertragungselementen verteilt gespeichert, während die Einstellung einer bestimmten Übertragungsfunktion gegebenenfalls durch eine Überlagerung zahlreicher Ereignisse bestimmt sein kann.
Auf Grund dieser Eigenschaften vermag die erfindungsgemäße Vorrichtung ein Ereignis, das in der Lernphsbe zu einer Einstellung der Übertragungsfunktionen A,j der Übertragungselemente beigetragen hat. dadurch zu erkennen, daß das Antworoignal auf dieses Ereignis stärker ist als wenn der Vorrichtung ein Ereignis dargeboten wird, das sie vorher noch nicht »gesehen« hat. Dies bedeutet umgekehrt natürlich, daß die Tatsache, daß die Vorrichtung auf ein bestimmtes Ereignis ein starkes Antwortsignal erzeugt (d. h„ daß die Summe der Quadrate r2, der Antwortsignalkomponen ten r, groß ist, daß die Vorrichtung das auf dieses Antwortsignal abgebildete Ereignis schon einmal wahrgenommen hat.
Die erfindungsgemäße Vorrichtung vermag daher ein Ereignis λ, das durch einen Satz von Eingangssignalen s'-, + 5*2 charakterisiert ist, auch dann zu erkennen, wenn nur ein Teil (beispielsweise s/) der für dieses Ereignis charakteristischen Eingangssignale erzeugt werden, weil auch dann die Summe der Quadrate der Ausgangssignale größer sein wird, als wenn de-Vorrichtung ein »unbekanntes« Ereignis dargeboten worden wäre. Zwar ist dann das Antwortsignal /* mit einem höheren Rauschanteil behaftet, aber dennoch »erinnert« sich die Vorrichtung an die Darbietung des vollständigen Ereignisses.
Dies bedeutet aber, daß es gemäß der Gleichung
4 = V Cii r« . ,· = >i( +.)|
die Koeffizienten t ,„ des Diagonalanteih
''i - IA) diagonal X< '' s
sine', de für die Erkennung wesentlich sind, während die Nichtdiagonalglieder
?l der Matrix A
mcht-diago"al V (·η r" s
dafür verantwortlich sind, daß die erfindt'ngo'gemäße Vorrichtung bei Auftreten eines Ereignisses e1', das iir der Lernphase mit einem weiteren Ereignis c verknüpft war, ein anderes, und zwar für diese Verknüpfung charakteristisches Ausgangssignal erzeugt, als wenn der Vorrichtung in der Lernphase stets nur das Ereignis e> oder e" allein dargeboten worden wäre. Die Koeffizienten C1It, die in der Lernphase geändert werden, können daher als die direkten Erkennung (Cn,, bzw. c„„)· und
Verknüpfungskoeffizienten (c,lr, ν = μ) interpretiert werden.
Eine weitere vorteilhafte Eigenschaft der erfindungsgemäßen Vorrichtung ist ihre Fähigkeit zur Verallgemeinerung, d. h. die Fähigkeit, aus einer Anzahl ι unterschiedlicher Ereignisse deren gemeinsames Element herauszuziehen. Diese Möglichkeit beruht auf der durch apparative Mittel realisierten Eigenschaft der Vorrichtung, daß die Änderungen 6Ay, die die Übertragungsfunktionen A11 als Folge der in der Lernphase erfolgenden Darbietungen von Eingangssignalsätzen sowohl den Eingangssignalen s, als auch den aus diesen erzeugten Ausgangssignalen r, proportional sind, so daß die wiederholt auftretenden gemeinsamen Elemente eines Eingangssignalsatzes eine im Ergebnis nachhaltigere, weil stets im selben Sinne erfolgende Änderung der Übertragungsfunktionen bewirken, als beispielsweise statistisch variierende Komponenten soicher Eingangssignaisätze. deren Einfluß sich herausmittelnkann.
Nach Abschluß der Lernphase reagiert daher die erfindungsgemäße Vorrichtung auf einen Satz von Eingangssignalen, der Komponenten enthält, die gemeinsamer Bestandteil der in der Lernphase dargebotenen Eingangssignalsätze war, mit einer starken Antwort auf diesen Signalbestandteil. Anders ausgedrückt: vollzog sich die Einstellung der Übertragungsfunktionen a,, in der Lernphase unter Darbietung der k Eingangssignaisätze bzw. -Vektoren von der Form
II2.
+ (Γ
ist. vom Rauschen zu trennen, da die Vorrichtung die Erkennung der einzelnen Eingangssignaisätze auf die Erkennung ilr-es gemeinsamen Bestandteils 5° reduziert und damit auf diesen verallgemeinert
Wie schnell dierer Start durchgeführt wird, hängt von apparativen Parametern der Vorrichtung ab, durch deren Einstellung es möglich ist, die Änderung der Übertragungsfunktionen Ag einerseits so zu gestalten, daß alle Einzelheiten der Eingangssignale in dem Assoziativspeicher gespeichert v/erden, andererseits aber auch so, daß der Assoziativ-Speicher Einzelheiten, die nur in Verbindung mit einem einzigen oder nur wenigen Eingangssignalen dargeboten werden, »vergißt« und nur die gemeinsamen Elemente, gleichsam die zentralen Eingangssignalvektoren einer Klasse von ähnlichen Ereignissen bewahrt und speichert.
Gemäß der Beziehung:
tionen der Übertragungselemente vermittelten Abbildung A des Eingangssignalraumes S (Eingangssignal· vektors s1·) auf den Antwortsignalraum R (auf Antwortsignalvektoren /*') eine jjewichtete Summe über die /Komponenten aller Eingangssignal vektoren sr und die /-Komponenten der Antwortsignalvektoren /»·.
Eine Art der Abänderung deir Übertragungsfunktionen A11, die zu den vorerwähnten günstigen Eigenschaften der Vorrichtung führt ist die, die Änderungen öAy in Proportionalität zum Produkt üius der Eingangssignalkomponente s, und dem Antwortsignal r, vorzunehmen gemäß der Beziehung:
"A11^r-,*, (2)
gegebenenfalls mit einem dieser Änderung ein bestimmtes Zeitverhalten aufprägenden Keitabhängigen oder auf einen konstanten Wert einstellbaren Proportionalitätsfaktur η.
Auch das Hinzufügen solcher durch die Proportionalität (2) Änderungen zu den Übei'tragungsfunktionen A,j für alle Verknüpfungen r>' χ s^gemäß der Beziehung:
30
die jeweils den gemeinsamen Bestandteil s° aber verschiedene zusätzliche Bestandteile u\ ... u* hatten, dann »sieht« die Vorrichtung, wenn ihr später der Eingangssignalsatz ein 50U**1 dargeboten wird, im wesentlichen nur den Bestandteil s° und erzeugt dann ein für diesen Bestandteil charakteristisches Ausgangssignal. Diese Eigenschaft der erfindungsgemäßen Vorrichtung beinhaltet die äußerst vorteilhafte Möglichkeit. ein Eingangssignal s", das mit dem statistisch variiprpndpn Raiisrhantpil rf vprknfinft Ut in rlaß das der Vorrichtung dargebotene Signal von der Form
50
■i/l
sr
(3)
in der Lernphase führt zu einer Abänderung der Übertragungsfunktionen, die dte genannten günstigen Eigenschaften vermittelt.
Der Lernvorgang kann sich nun so vollziehen, daß der Vorrichtung wiederholt ein Eingangssignalsatz s1 dargeboten und die Vorrichtung »gezwungen« wird, einen »korrekten« Antwortsignaiisatz, etwa /*>, abzugeben. Dies kann beispielsweise mit Einrichtungen der in der F i g. 8 dargestellten Art erreicht werden, bei der die erwünschten Antwortsignale ru, για, ■ ■ ■ Πα, ■ ■ ■ Ova an die Ausgangsstationen 1, 2, ..., j. ..., N angelegt werden können, um die einzelnen Antwortsignale η, r2,..,/».., Γν dadurch zu zwingen, diese erwünschten Werte anzunehmen. Da hierbei die Ausgangssignale der Vorrichtung zur Abänderung der Übertragungsfunktionen A1, nach der obigen Proportionalität (2), d. h. gemäß
6A1, = η ■ r"', ■ s>j
ist das ij-xc Element ^,,derdurchdieübertragimgsfunk-(worin η eine Proportionalitätskonstante ist) benutzt werden, dann baut die Vorrichtung durch wiederholte Änderung der Übertragungsfurilctionen Ay bei wiederholtem Anlegen der Eingangssiginale s>- sehr schnell eine detaillierte und genaue Erinnerung des Antwortsignalvektors /*' an den Eingangssignalrektor i1 auf.
Diese Art des Lernens wird irrir folgenden als »aitdves Lernen« der Vorrichtung bezeichnet Eine Form des »aktiven Lernens« liegt auch vor, wenn das auf einen Satz von Eingangssignalen s* erzeugte Antwortsignal mit der »richtigen« Antwort /*> verglichen wird und die Übertragungsfunktionen A11 der Übertragungselemente schrittweise in einem solchen Sinn verändert werden, daß bei erneutem Anlegen des Eingangssignals s* ein Antwortsignal erzeugt wird, das näher an der richtigen Antwort liegt
Es versteht sich, daß bei einer solchermaßen aktiv lernenden Vorrichtung deren Bedienungsperson die richtige Antwort oder die richtigen Antworten auf die verschiedenen Eingangssignalsäilze skennen muß.
Dies ist jedoch bei der eingangs erläuterten und im Folgenden als »passives« Lernen bezeichneten Betriebsart der Vorrichtung, bei der der !Lernvorgang so abläuft, daß der Vorrichtung in ihrer Lernphase ein einzelner
oder mehrere Eingangssignalsätze wiederholt dargeboten werden, svobei die Übeftfagungsfunktionen gemäß der Beziehung (2) oder (3) selbsttätig geändert werden und die Lerhphäse nach einer bestimmten Lernperiode, d. h. beispielsweise flach einer vorgegebenen Anzahl 5 von Lernzyklen beendet wird, nicht erforderlich, jedenfalls dann nicht, wenn die durch eine Matrix AO insgesamt beschreibbare Einstellung der Übertfagungsfunktionen Ay nach Abschluß der Lernphase im vorstehend erläuterten Sinne eine Abbildung definiert, !o die den Eingangssignalraum S isomorph auf den Ausgangssignalraum R abbildet. Dies bedeutet, anschaulich ausgedrückt, daß der Grad der Verschiedenheit von Eingangssignalsätzen s\ sP bei der durch die geänderten Übertragungsfunkiionen /!,/-Matrix vermittelten Abbildung auf die zugeordneten Ausgangssignalsätze r\ H1 erhalten bleiben muß, damit die durch die Eingangssignalsätze sound .»'charakterisierten Ereignisse e* und e?an Hand der Ausgangssignalsätze r* und /0, falls sie verschieden sind, auch als verschieden erkannt werden können. Diese Forderung ist, wenn die Änderung der Einstellung der Übertragungsfunktionen Ay gemäß den Beziehungen 1 oder 3 (es sind auch noch andere Änderungsbeziehunger möglich) erfolgt, jedenfalls dann erfüllt, wenn die Anfangseinstellung der Übertragungsfunktionen so getroffen ist, daß die dadurch definierte Matrix /4<°) der Bedingung genügt:
(Am) TJ01 = / (/ = Identitälsmatrix).
(4)
30
Um die Forderung (4) zu erfüllen, genügt es auch. Wenn als Anfangseinstellung der Übertragungsfunktionen eine solche gewählt ist, die eine zufällige symmetrische Matrix von Elementen Λ/, definiert.
Die sich im passiven Lernbetrieb nach der Darbietung von t Ereignissen (im »Zeitpunkt« t) ergebende Einstellung der Übertragungsfunktionen Ay insgesamt kann dann durch die Matrix A«> angegeben werden, für welche ganz allgemein gilt:
A:r- = γ A" '" + Λ A"
Λ Am = ,, r1
In der 2. Gleichung bezeichnet 77, wie oben erwähnt, eine Proportionalitätskonstante, und γ eine dimensiona-Ie »Zerfallskonstante«, die ein Maß für eine gleichförmige des momentan eingestellten Wertes einer jeden Übertragungsfunktion ist (eine Art Vergessen). Gewöhnlich gilt 0 < v< 1.
Des weiteren wird als Pars meter ε derjenige Wert von η eingeführt, den η annimmt, wenn die Eingangssignalvektoren s* normiert sind, d. h, wenn gilt: (s'ß = 1.
Der Parameter ε, der auch ein Maß für die Geschwindigkeit ist, mit der Veränderungen an den /!-Matrizen vorgenommen werden können (also eine Art Lerngeschwindigkeit), wird zweckmäßig in Modellrechnungen auf der Basis normierter Eingangssignalvektoren s1 benutzt Die Werte der Parameter γ und η bzw. ε können nach dem Ermessen des Benutzers eingestellt werden, um erwür sehte Eigenschaften der Vorrichtung zu erzielen. Beispielsweise könnten während einer Periode der Inform itionsaufnahme (passives Lernen oder aktives Lernen) η oder ε etwas größer als 0 (ζ. B. η « ε =ί 1Ao) und γ etwas kleiner als 1 sein (ζ. Β. γ =: 9/io), so daß die Vorrichtung Information rasch aufnehmen und Einzelheilen vergessen wird. Nach der Lernphase kann es zweckmäßig seinf η — ε = 0 und γ = I zu setzen, so daß die Vorrichtung nicht länger »lernt«, sondern für eine beliebige Zeitspanne alle Information, die sie aufgenommen hat, speichert.
Bei einer in Betrieb befindlichen Vorrichtung ist die Speicherzeit durch die Zeitkonstantencharakteristik der Schaltkreise der Vorrichtung bestimmt. Aus Gründen der Wirtschaftlichkeit oder der Zweckmäßigkeit können die Zeitkonstan'3n so gewählt werden, daß eine Speicherung für Zeitspannen in der Zeit von Minuten bis Stunden möglich ist. Für eine längere Speicherung könnte man unter solchen Umständen den Inhalt des durch die Vorrichtung gebildeten Speichers (die Werte der A1J in einen Pufferspeicher übertragen und bei Bedarf zurückübertragen.
Im allgemeinen vergißt eine Vorrichtung, bei der γ < 1 ist, Einzelheiten, hat aber eine größere Fähigkeit zur Verallgemeinerung. Es zeigt sich, daß γ-Werte, die wenig kleiner als gleich 1 sind, von größtem Interesse sind.
Um zu verhindern, daß das System in einen Sättigungszustand gelangt, kann es auch vorteilhaft sein, die Abänderungen klein zu machen (7/ = 0 zuzulassen), sobald das Ausgangssignal r = As ein bestimmtes Maximum überschreitet, d. h. wenn (r, r) = (As, As) > bestimmtes Maximum.
Ausgehend von der obigen allgemeinen Beziehung für die Abänderungen der Übertragungsfunktionen in der Lernphase erkennt man unmittelbar, daß deren Einstellung nach der Darbietung k verschiedenen Eingangssignalsätzen &{ν = 1... k)\n der Form:
35
40 A'k) =
+ > s' ■ s'
vorliegt, wobei πο ein geordnetes Produkt ist, bei dem die Faktoren mit niedrigeren Indizes links stehen.
\Λαπ oAonnl /loll oiif ',oAa
signalvektor i1' ein eigenes Antwortsignal A(°) s1' erzeugt wird, das über A^ von dem ursprünglichen Zustand des Vorrichtungsnetzwerkes und von dem für das zugeordnete Ereignis e1' eingegebenen Eingangssignalvektor s1' abhängt
Man erkennt auch, daß für wiederholt auftretende Ereignisse, die für die Erkennung eines solchen Ereignisses gemäß Gleichung (1) verantwortlichen Koeffizienten mit exponentieller Geschwindigkeit anwachsen, da bei einem /-maligen Darbieten desselben Eingangssignalvektors 5t0) die Einstellung der Übertragungsfunktionen durch die Beziehung:
Am = γ'Α'0)(\
gegeben ist
Wenn /groß genug ist, daß es e* > 1 ist so wird der Erkennungsterm schließlich dominieren. Wenn e* groß genug ist kann es wünschenswert sein, den Wert von ε so einzustellen, daß kein weiteres Anwachsen eintritt Das kann dadurch erreicht werden, daß ε zu einer Funktion des Antwortsignals auf einen Eingangssignalvektor gemacht wird, derart, daß jenseits eines gewissen Maximalwerts kein weiteres Anwachsen des Koeffizienten mehr stattfinden kann.
Für den Fall, daß die Eingabe der Vorrichtung in der Lernphase aus der /-maligen Darbietung eines mit Rauschen behafteten Eingangssignalsatzes der Form:
s'= s° + /r
besteht, wobei α" der regellos variierende Rauschanteil ist, erhält man für die Einstellung der Übertragungsfunktionen beschreibende Matrix:
A"' ^ ·■< Ame1· «J/V(l + <?" s° -s°),
IO
wenn η die mittlere Größe des Rauschanteils ist, und man erkennt unmittelbar, daß die wiederholte Darbietung eines mit Rauschen behafteten Signals zu einer Einstellung der Übertragungsfunktionen führt, die geeignet ist, ein Signal vom Rauschen zu trennen. Man cfkeniH, uaö das Signal/Rausch-Verhältnis um so günstiger wird, je größer die Zahl /Vder Ausgangsstationen ist, und es gilt für die erfindungsgemäße Vorrichtung ganz allgemein, daß das Signal/Rausch-Verhältnis dann besonders günstig ist, wenn die Zahl k der wahrgenommenen (und gespeicherten) Ereignisse klein im Vergleich zu A/ist.
Des weiteren wird deutlich, daß eine Verknüpfung von Eingangssignalen, d. h. das etwa gleichzeitig auftretende Auftreten zweier verschiedener Eingangssignalsätze s* und S^ nur dann einen nennenswerten Einfluß auf die Einstellung der Übertragungsfunktionen hat. wenn eine solche Verknüpfung mehrfach oder immer auftritt, dann aber praktisch ohne Einfluß ist, wenn eine solche (zeitliche) Verknüpfung nur zufällig einmal stattgefunden hat.
Unterscheidung von Ereignissen —
Schwellenwerteinrichtungen
35
fm allgemeinen ist die Eingabe der erfindungsgemäßen Vorrichtung eine Überlagerung von verschiedenen Eingangssignaisätzen, und demzufolge ist auch der jeweilige Zustand, in djfti sich der ans den Übertragungselementen bestehende Assoziativspeicher der Vorrichtung befindet, durch eine Überlagerung der verschiedenen Eingangssignalvektoren bestimmt. Eine Trennung der durch die Eingangssignalvektoren repräsentierten Ereignisse ist nun einmal, zumindest in einem gewissen Umfang, dadurch möglich, daß man die Ereignisbereiche bestimmt, für die diese Eingangssignalsätze erzeugt werden. Beispielsweise können, wie es in der Fig.7 dargestellt ist, optische und akustische Ereignisse und die für diese charakteristischen Eingangssignalsätze einer Verarbeitung in getrennten Vorrichtungen unterworfen sein, bevor sie in einer weiteren Vorrichtung weiter verarbeitet werden. Die Identifizierung optischer und akustischer Signale erfolgt dann durch diejenigen Vorrichtungen, in die sie zuerst eingegeben werden. Verknüpfungen zwischen einem optischen und einem akustischen Ereignis, beispielsweise, werden dann erst durch die nachgeschaltete gemeinsame Vorrichtung erfaßt
Zur Unterscheidung bzw. Trennung von Eingangssignalvektoren bzw. der auf diese in einer für die Verarbeitung durch die Vorrichtung geeignete Form »abgebildeten« Ereignisse können auch Schwellen ivert- oder andere nicht linear arbeitende Einrichtungen in Verbindung mit der erfindungsgemäßen Vorrichtung benutzt werden, die einen Eingangssignalvektor von dem anderen zu unterscheiden vermögen. Eine Schwierigkeit besteht jedoch darin, daß bei der in der Art eines Assoziativspeichers aufgebauten Vorrichtung ein Satz von Eingangssignalen zu einem über eine große Anzahl von Ausgangsstationen verteilten Antwortsignal führt. Es ist daher durchaus möglich, daß ein an sich starkes Eingangssignal, d. h. ein Eingangssignalvektor Y", dessen inneres Produkt mit sich selbst (sf, sf) einen großen Wert hat, der jedoch aus Komponenten s*,· zusammengesetzt ist, die für sich allein gesehen recht klein sind, zu einem Satz von Antwortsignalen /7 führt, die über eine große Zahl von Ausgangsstationen /verteilt sind, wobei jede der Antwortsignallcomponenten /7 weit von einem Schwellenwert entfernt ist.
Ein grundlegendes Problem ist es daher, wie der Schwellenwert einer einzelnen Einrichtung mit einem solchen verteilten Signal zu verknüpfen ist. Dieses Problem kann dadurch gelöst werden, daß zu der Vorrichtung, wie es in der Fig. ii dargestellt ist, Schwellenwerteinrichtungen 7Ί, 7*2, ... Z\, ... Tn hinzugefügt werden. Beispielsweise gibt die Schwellenwerteinrichtung T, ein Ausgangssignal ab, wenn der Absolutwert r, ihres Eingangssignals r, einen vorbestimmten Wert Θα den Signalschwellenwert der Einrichtung, überschreitet, wenn also gilt:
Es ist wichtig, festzuhalten, daß das Anfangs-Eingangssignal 5™ entweder ein ursprüngliches Eingangssignal aus dem Ereignisraum E oder auch das Ausgangssignal einer vorgeschalteten Baugruppe sein könnte.
Eine wiederholte Eingabe des Eingangssignals 5« (Eingangssignalvektor) führt zu einem Ausgangssignal /» (Ausgangssignalvektor), das nach den obigen Darlegungen exponentiell anwächst. Im Ergebnis wird daher ein willkürliches aber wiederholt auftretendes Eingangssignal s* schließlich eine Schwellenwerteinrichtung aktivieren, die auf dieses Eingangssignal ansprechen wird.
Es sei nnrh pinmal darauf hingpwipspn riaft
(a) das Eingangssignal nicht von vornherein bekannt sein muß,
(b) das Eingangssignal in statistischem Rauschen verborgen sein kann und daß
(c) auch nicht von vornherein bekannt sein muß, welche Schwellenwerteinrichtung auf das Signal 5" ansprechen wird. (Nach dem angegebenen Algorithmus bestimmt die stärkste Komponente des Antwortsignalvektors /*, weiche Schwellenwerteinrichtung anspricht. Es läßt sich daher erreichen, daß eine bestimmte Schwellenwerteinrichtung auf einen bestimmten Signalvektor anspricht
Mit zusätzlichen Querverbindungen gemäß F i g. 11 läßt sich erreichen, daß die Aktivierung einer einzelnen Schwellenwerteinrichtung als Antwort auf einen Signalvektor S* ein Antwortsignal der weiteren Schwellenwerteinrichtungen auf diesen Signalvektor s" unterdrückt Wenn der Parameter γ während der Kernphase kleiner als 1 ist, (y< 1) und 5* die Schwellenwerteinrichtung Ti zum Ansprechen bringt, dann wird das Antwortsignal auf s* wegen der kombinierten Wirkung der Abnahme (wegen γ< 1) und der Unterdrückung weiterer Antwortsignalkomponenten so abgewandelt werden, daß nur die /-te Komponente des Antwortsignalvektors i* auf den Eingangssignalvektor sx wesent-
lieh größer als 0 bleibt. In einem Endzustand würde sich danhergeben:
ι·|
Ausgangssignal
.:_i „ π-- wr.
1 n£CUg IUl UtC ilUUl IMCt-
IO
20
und es wird nur eine einzige Schwellenwerteinrichtung (oder so viele, wie erwünscht sind) auf eine bestimmte Signalverteilung ansprechen.
Zusätzlich ist es zweckmäßig, die mit dem /-len Schwellenwertelement verknüpften Übertragungselemente nicht weiter abzuändern (jedoch eine Abnahme der Übertragungsfunktionen zuzulassen), wenn dieses /-te Schweilerivvertelement ein Ausgangssignal erzeugt, das einen bestimmten Maximalwert überschreitet. Dies kann dadurch erreicht werden, daß die Abänderungen der Übertragungsfunktionen der oben erwähnten Übertragungselemente für eine bestimmte Anzahl von Ereignissen unterbrochen werden, so oft das Ausgangssignal des Schwellenwertelements den bestimmten Maximalwert überschreitet.
Wenn einer solchen Vorrichtung während einer Lernperiode getrennte oder orthogonale Signalvektoren dargeboten werden, so werden verschiedene Schwellenwerteinrichtungen mit der oben erläuterten exponentiellen Geschwindigkeit durch die verschiedenen Signalvektoren aktiviert werden. Es werden dann beispielsweise N orthogonale, wiederholt auftretende Signalvektoren nach einer Lertiperiode in Nverschiedenen Schwellenwerteinrichtungen ein Antwortsignal erzeugen.
Auf diese Weise könnten die Schwellenwerteinrichtungen lernen, auf wiederholt auftretenden Erscheinungen in der Umgebung charakteristisch zu antworten, auch wenn diese dem Benutzer zunächst nicht bekannt sind.
Eine Zuordnung dieser Einrichtungen zu Ausgangssignalen einer vorgeschalteten Baugruppe würde zusätzlich die Trennung der obenerwähnten Ereignisse oder Vektoren begünstigen.
Man erkennt, daß die erfindungsgemäße Vorrichtung
35
40
tionsverarbeitung darstellt Insbesondere bietet sie die Möglichkeiten der Erkennung, Erinnerung, Verallgemeinerung und Verknüpfung von Ereignissen im oben definierten Sinn, ohne daß die Notwendigkeil menschlicher Mitwirkung bei irgendeinem Entscheidungs- oder Lernprozeß besteht. Im folgenden wird eine bevorzugte Ausführungsform der erfindungsgemäßen Vorrichtung beschrieben, bei der zwar nur gebräuchliche Bauelemente wie Widerstände, Kondensatoren, Dioden und Transistoren verwendet sind, die sich aber auch für eine Ausführung in bekannter Mikrominiaturisierungstechnik anbietet
Es sei daran erinnert, daß die /-te Untereinheit der informationsverarbeitenden Vorrichtung gemäß F i g. 2 N Eingänge 12,... N umfaßt, die zu N Übertragungselementen /1, /2,... i'N führen, die ihrerseits mit einem Summierer ΣΊ verbunden sind, der ein Antwortsignal r, erzeugt Das /y-te Übertragungselement weist die Übertragungsfunktion Ay auf, d. h. das Ausgangssignal s/ dieses Übertragungselements ist von der Form sj = AjjSj, wenn Sj das y-te Eingangssignal ist, das der Vorrichtung zugeführt wird.
Die die Information tragenden Signale sfi sj und r, sollen in allen Fällen durch Spannungswerte dargestellt sein. Informationssignale könnten aber auch Frequenzen (Impulsfrequenzen oder Frequenzen von sinusförmigen Schwingungen), Impulsbreiten, Ströme, Magnetfelder, Magnetisierungen oder auch eine Kombination solcher Größen sein.
Geht man jedoch davon aus, daß die Informationssignale durch Spannungen dargestellt werden sollen, dann kann die Übertragungsfunktion A-,,· als eine »Verstärkung« (der Begriff soll Verstärkung und Vorzeichenwechsel umfassen) angesehen werden, die in Abhängig keit von dem Eingangssignal sj des Übertragungsclements und dem Ausgangssignal /yder /-ten Untereinheit verändert werden soll. Die Abänderung sei gemäß einer bevorzugten Ausführungsform der Erfindung gegeben:
A1, =
45
50
55
60 Um einen Verstärker zu schaffen, dessen Verstärkungsgrad durch schrittweise Veränderungen eines zuvor gegebenen Verstärkungsfaktorwertes gesteuert wird, ist es notwendig, die Information über diesen Wert des Verstärkungsfaktors zu speichern und eine weitere Einrichtung vorzusehen, die zu oder von diesem gespeicherten Wert Änderungsbeträge addiert oder subtrahiert. Bei der bevorzugten Ausführungsform der Erfindung wird die Speicherung durch ein Bauelement zur Speicherung einer elektrischen Ladung Q, beispielsweise einen Kondensator, erreicht; die schrittweise Änderung wird demgemäß bei dieser Ausführungsform mittels einer Einrichtung erzielt, die die Ladung Q von 0 auf + Qo oder - Qa, den Grenzwerten des Speicherelements, zu ändern vermag.
Die Fig. 11 zeigt das /y-te Übertragungselement 100 der /-ten Untereinheit 102. Von einer Spannungsqueile 104 wird über eine Leitung 106 eine Spannung V1, an einen Verstärker 108 angelegt, um dessen Verstärkungsfaktor A,j zu steuern. Der Verstärker ändert daher das an einer Eingangsleitung 110 als Spannungssignal auftretende Eingangssignal S1 ab und erzeugt an einer Leitung 112 (als Spannungssignal) eine Ausgangsspannung Sj' = A1J Sj.
Die Spannung V11, die den Verstärkungsfaktor einstellt, wird von einer in dem //-ten Übertragungselement gcapctiiici icii Laüuug Q,j abgeleitet uiiu ist daher zu der Ladung Qi1 proportional. Die gestrichelte ? Linien 114 und 116 der Fig. 12 sollen jeweils anzeigen, daß diese Ladung in Abhängigkeit von einem an der Eingangsleitung 110 auftretenden Eingangssignal s, und einem an der Ausgangsleitung 118 auftretenden Antwortsignal r, verändert (vergrößert oder vermindert) werden kann. (Die Leitung 116 ist als zu der Spannungsquelle 104 führend eingezeichnet, um dadurch symbolisch den Gedanken an eine Abänderung in Abhängigkeit von dem Antwortsignal r, anzudeuten; bei der vorliegenden Ausführungsform wird das rückgekoppelte Antwortsignal in Wirklichkeit zu einer Einrichtung geleitet, die die Breiten der Eingangsimpulse, deren Impulshöhen S\, S2, ■ ■ ■ sjvsind, verändert.)
Siehe hierzu Fig. 13 und den dazugehörenden Beschreibungsteil. Um die Ladung Qy und damit die Spannung V^und den Verstärkungsfaktor
in Übereinstimmung mit Gleichung (5) abzuändern, ist es notwendig, die gespeicherte Ladung (?,> entsprechend dem Produkt /vs, zu verändern. Dabei ist zu beachten, daß die //Ladungen der /-ten Untereinheit (nämlich die Ladungen Qn, Qa,... Qa,... QiN) im Verhältnis zu den
3Q
jeweilig empfangenen Eingangssignalen (nämlich it, 52, ... S1,... S\) und diitn gemeinsamen Antwortsignal r, der Untereinheit abgeändert werden müssen. Um diese gewünschte Abänderung zu erreichen, wird als Eingangssignal Sj die Höhe eines Spannungsimpulses 120 verwendet, während die Breite f, dieses Spar lungsimpulses proportional zum Betrag \r,\ des Antwortsignals gemacht wird. Wenn r, < 0 ist, so wird der Spannungsimpuls 120 invertiert. Es gilt somit:
O1, - S1 r, r, + 1 keine Inversion
und =
ι, ■*- \ r, I I r,-1 - 1 Inversion
10
15
Spezielle Schaltkreise im Hinblick auf die in der Untereinheit 102 und dem Übertragungselement 100 stattfindende .Summierung sind in den Fig. 13 und 14 dargestellt. Der Summierer 122 der Untereinheit 102 ist
-_ J Γ~ — 13 ~lr L|nr<ir/>Iia·- Ci t~» m'. n—r ,*U π 1· I- -n.r
111 UtI 1 I £. I J tlI3 nlQJllAllH JUlllll III. ■ JL lld I ΙΛΙ 1.13
dargestellt, nvt einem Operationsverstärker 124. der über eine Anzahl gleichdimensionierter Widerstände 126. 128. 130. 132 jeweils die Zwischensignale s . s/.... s'.. ■ ■ Sv, als Eingangssignale empfängt. Der Operationsverstärker 124 ist in bekannter Weise mit einem Widerstand 134 zusammengeschaltet und erzeugt an einer (Ausgangs-)Leitung 136 ein Antwortsignal r„ das der Summe der verschiedenen Zwischensignale s,'. s:'. ... s . ... s\ proportional ist, die die Ausgangssignale so der einzelnen Übertragungselemente der Untereinheit 102 sind. Das Antwortsignal r wird über eine Rückkspplungsleitung 138 jedem Übertragungselement der Untereinheit wieder zugeführt. Das in der Fig. 14 dargestellte /,-te Übertragungselement empfängt das Eingangssignal an der Eingangsleitung 110 und erzeugt sein Ausgangssignal s ' an der Leitung 112. Das //-te Eingangssignal hat die Form eines Impulses mit der Amplitude s (die entweder positiv oder negativ sein kann) und e>ne Impulsnormalbreite, die (lurch die ['iru-abe- oder Puffereinrichtung bestimmt ist. die das ( K-rtragungselement 100 der Untereinheit 102 und die \i>rrtchtung selbst mit der Außenwelt (Umgebung) xcHndet. Wie oben ausgeführt, sind die in Verbindung mn il'.v informationsarbeitenden Vorrichtung verwendi'ifii I ingabe- und Ausgabeeinrichtungen nicht Teil -!er vorliegenden Erfindung und werden daher im 1 «Ircndcn nicht im einzelnen beschrieben. Dabei ι steht es s'ch. daß der Aufbau der Eingabeeinrichtung φ der Art der Ereignisse abhängen wird, die in die so •1 rchtung eingegeben werden sollen, während die Xiisgabe-Einnchtung im Hinblick auf die endgültige Zweckbestimmung des Systems konstruiert sein wird. I h iin Hinblick auf den Vorgang also, der als Antwort .111 f die Ausgangssignale der Vorrichtung eingeleitet <\ erden soll.
1 'ir die Zwecke dieser Erörterung möge es genügen
ί sagen, daß die Eingabeeinrichtung den Eingängen I.
j. .. N der Vorrichtung eine Anzahl von
I ingangssignalimpulsen zuführt. Die Eingang'ssignalimpulse, die für jedes Ereignis gleichzeitig zugeführt
werden, weisen alle ein Irnpuls-Nörrrialbi'eite von
einigen jtsec auf Und Amplituden, die jeweils zu den zu
verarbeitenden Variablen s\,S2,...sj,..,Snproportional
sind. Die Amplituden dieser Impulse können auch
negativ sein, um negative Werte der Eingangssignale Si1
si 5Λ... SjV wiederzugeben. ■
Gemäß Fig. !3 wird ein solcher Eingangssignälinv puls mit der Amplitude s, einem Impulsbreitenmodulator 140 zugeführt, der gleichzeitig über die Rückkopplungs-Leitung 138 ein Antwortsignal r, empfängt, das vom Ausgang eines in der Fig. 12 dargestellten Summierers £ · abgenommen wird. Das Antwortsignal r, resultiert aus der Summation, die von dem Summierer Y1, über die von den Übertragungselementen abgegebenen Zwischensignale s, ausgeführt wird.
Der Impulsbreitenwandler sendet über eine Leitung 142 einen Impuls aus, der denselben Absolutwert der Amplitude wie der Eingangssignalimpuls an der Eingangsleitung 110 hat (jedoch invertiert ist, wenn r, < 0) und eine zu der Variablen |r,[ proportionale Impulsbreite f, aufweist.
Die an der Leitung 142 auftretenden positiven und negativen Impulse werden verstärkt und mit Hilfe eine^. Operationsverstärkers 144 und diesem zugeordneten Widerständen 146,148 und 150 und Dioden 152 und 154 nach ihrer Polarität getrennt. Wenn ein an der Leitung 142 auftretender Impuls positiv ist, so wird er als positiver Impuls tu einer Leitung 15S abgeieiiei, ai er negativ, so wird er als negativer Impuls zu einer Leitung 158 geleitet. Gleichgültig ob der Impuls positiv oder negativ ist. so ist jedenfalls die von der Impulsform begrenzte Fläche (entsprechend der grafischen Darstellung) der absoluten Größe des Produkts s, und r, proportional.
Die positiven Impulse an der Leitung 156 werden einem invertierenden Operationsverstärker 160, dem die Widerstände 162. 164 und 166 zugeordnet sind, und schließlich der Basis eines pnp-Transistors 168 zugeleitet. Die an der Basis des Tramiistors 168 ankommenden Impulse haben dann die geeignete Polarität, um den Transistor zu aktivieren, und einen Kondensator 170 über einen Widerstand 172 zu laden oder zu entladen. Die Ladungsmenge, die infolge eines jeden positiven Impulses von den Kondensatoren aufgenommen oder von diesen abgeführt wird, ist dem Produkt aus der Impulsamplitude, die den wirksamen Leitwert des Transistors 168 bestimmt, und der Impulsbreite, die die Dauer des Auf- oder Entladevorganges bestimmt, proportional.
Die an der Leitung 158 auftretenden negativen Impulse werden einem weiteren invertierenden Operationsverstärker 174 mit diesem zugeordneten Widerständen 176, 178 und 180 zugeführ. In einer zu der bezüglich des pnp-Transistors lfi! beschriebenen analogen Weise sind hierdurch ein npn-Transistor 182 durch invertierte negative (d. h. positive), der Basis des npn-Transistors zugeführte Impulse aktivier· Als Folge davon wird der Kondensator 170 über jinen Widerstand 184 entladen oder aufgeladen.
Die Ladungsmenge, die infoige eines jeden negativen Impulses von dem Kondensator 170 abgeführt oder aufgenommen wird, ist dann dem Produkt aus der Impulsarnplilude die den wirksamen Leitwert des Transistors 182 bestimmt, und der Impulsbreite, die die Dauer des Auf- oder Entladungsvorganges bestimmt, proportional.
Als Ergebnis des oben beschriebenen Vorganges ist die von dem Kondensator gespeicherte Ladung Qy und damit auch die Größe der Spannung V^-die Folge eines anfänglichen Ladungszustandes, der über eine Leitung 186 erzeugt werden kann, bevor das Übertragungsele^ frient in Betrieb1 gesetzt wird, sowie def Gesamtsumme aller schrittweisen Zu^ und Abnahmen, die als Folge des wiederholten Anlegens Von Impulsen über die Είη-gangsieitung 110 eintreten: Zu beachten ist, daß der
Kondensator 170 mit beiden Polaritäten geladen werden kann und auch innerhalb der Grenzen der möglichen positiven und negativen Spannungswerte des Versorgungsgerätes die Polarität wechseln kann.
Damit das Übertragungselement in der Lage ist, die gespeicherte Information im Verlaufe einer Zeitspanne zu vergessen, kann der Spannung Vy die Möglichkeit gegeben werden, mit einer geeigneten Geschwindigkeit abzunehmen.
Diese Abnahmegeschwindigkeit steht in Beziehung zu der oben erörterten Zerfallkonstanten γ, wonach eine unendlich lange Abnahmezeit (offener Stromkreis) dem }>-Wert 1 und eine Abnahmezeit 0 dem y-VVert 0 äquivalent ist Wie oben erwähnt, sind in der Praxis y-Werte in der Nähe von 1 von größtem Interesse, so is daß die Zeitkonstante für diese Abnahme ziemlich groß gemacht werden sollte. Zu diesem Zweck werden geeignete Werte der Kapazität des Kondensators und des Widerstands oder der Impedanz aller Bauelemente ausgewählt, die die erwünschten Zeitkonstanten ergeben.
Schließlich wird die an dem Kondensator 170 anstehende Spannung über eine Leitung 192 an den Steuereingang eines Verstärkers 194 mit steuerbarem Verstärkungsgrad angelegt. Falls notwendig, kann zwischen den Kondensator 170 und den Verstärker 194 eine zusätzliche Verstärkerstufe eingefügt werden. Dabei wird wiederum ein geeignet hoher Eingangswiderstand dieses Verstärkers gewählt, um die gewünschte Zerfallskonstante zu erhalten. Der Verstärker 194 empfängt auch die über die Eingangsleitung 110 ankommenden Eingangssignalimpulse mit der Amplitude s, und »verstärkt« (der Begriff Verstärkung soll wiederum Verstärkung, Abschwächung und Polaritätswechsel umfassen) diese Impulse gemäß dem gesteuer- ten Wert des Verstärkungsgrades, um an der Leitung 112 Ausgangsimpulse der Amplitude S1' zu erzeugen.
Die Verarbeitung der Eingangssignale S1 mit Hilfe der summierten Antwortsignale r, wird nun ausführlicher an Hand der Fig. 14 betrachtet. Zuerst sei darauf hingewiesen, daß das Antwortsignal r, positiv, negativ oder Null sein kann und daß, sofern nicht gegenteilige Maßnahmen getroffen sind, das Antwortsignal r» wie es am Ausgang des Summierers 122 der Fig. 11 erhalten wird, in der Form von Impulsen vorliegt. Während diese Signalform im Hinblick auf Verarbeitungseinrichtungen die an der Ausgangsleitung 136 (des in der Fig. 12 dargestellten Summierers) angeschlossen werden sollen, zweckmäßig sein mag, vollzieht sich der Rückkopplungsvorgang bei der vorliegenden Ausführungsform der Erfindung günstiger, wenn die Ausgangssignale r, in einer quasikontinuierlichen Form vorliegen. Zu diesem Zweck ist die in den Fig. 12 und 13 dargestellte Rückkoppiungsleitung 138 gemäß F i g. 14 mit einer Tast- und Halteeinrichtung 196 verbunden. Der Zweck dieser Einrichtung besteht darin, die Dauer eines jeden Impulses eines Antwortsignals r, um eine Zeitspanne zu verlängern, die annähernd gleich dem zeitlichen Abstand zwischen aufeinanderfolgenden Impulsen ist, ohne dabei die Impylsarnpütude zu. verändern. Wie in der Fig. 14 schematisch dargestellt Ist, wird die Tasi* und Halteeinrichtung; 196 durch die Eingangssighale (gepulste sj) Über einen Trigger 19« gelriggert (Der Trigger 196 kann, wie dem Fachmann bekannt ist. Einrichtungen zur Signalverstärkung, »formung,- üsw, umfassen); Das impulsförmige Antwortsignal η wird dadurch in ein im wesentlichen kontinuierliches, im folgenden mit ff bezeichnetes Signal mit sich zeitlich verändernder Amplitude umgewandelt Dieses Signal rf wird weiter einem Vollweggleichrichter 200 und sodann einem Spannungs/Impulsbreitenwandler 202 zugeführt Somit ist das dem Spannungs/Impulsbreitenwandler 202 zugeführte qüasikontinuierliche Signal an der Verzweigungsstelle 204 positiv (oder Null). Der Spannungs/Impulsbreitenwandler 202 erzeugt, wenn er, wie in der F i g. 14 angedeutet durch den Trigger 198 getriggert wird, Impulse von emer Normalhöhe und -breite, die klein ist, verglichen mit der Breite der impulsförmigen Eingangssignale Sj. Die Funktion des Signals r/ besteht darin, diese schmalen (von dem Wandler 202 erzeugten) Impulse im Verhältnis zu der Amplitude des Signals rf zu verbreitern. Die von dem Spannungs/Impulsbreitenwandler 202 erzeugten Impulse (mit konstanter Amplitude) werden, wie in Fig. 14 dargestellt ist, einer weiteren Tast- und Halte-Einrichtung 206 and einer Torschaltung 208 zugeführt Die ankommenden Signale Sj, die anfänglich eine Normalbreite aufweisen, gelangen zuerst in die Tast- und Halte-Einrichtung 206 die diese Impulsbreite auf die zu r/ proportionale Dauer des von dem Spannungs/Impulsbreitenwandler 202 erzeugten Impulse ausdehnt Die Eingangssignal gelangen sodann zu der Torschaltung 208, die für dieselbe, ebenfalls durch die Breite der von dem Spannungs/Impulsbreitenwandler 202 gelieferten Impulse, bestimmte Zeitdauer offengehalten wird. Wenn als Folge einer kleinen /•/-Amplitude die Breite der letztgenannten Impulse bis unter die Impulsnormalbreite der Eingangssignale s, verringert wird, so bleibt die Torschaltung 208 nur für die verminderte Dauer der von dem Spannungs/Impulsbreitenwandler 202 gelieferten Impulse offen. Diese Öffnungszeit der Torschaltung bestimmt dann die Impulsbreite des Eingangssignals Sj. Damit das algebraische Vorzeichen des Produkts s, r, erhalten bleibt, wird das Signal rf von der Verzeigungsstelle 210 aus (wo es immer noch mit beiden Polaritäten auftritt) zu einem Schalter 212 geleitet. Durch diesen Schalter wird das eintreffende Signal s„ wenn rf negativ ist, invertiert und wenn rf positiv ist, mit seiner ursprünglichen Polarität durchgelassen. Der Schalter 212 ist lediglich zur Vereinfachung der nachfolgenden Beschreibung in der Fig. 14 der Torschaltung 208 nachgeschaltet eingezeichnet. Eine in technischer Hinsicht vorzuziehende Anordnung für diesen Schalter wäre vor der Tast- und Halte-Einrichtung 206.
Schließlich ist zwischen der Verzweigungsstelle 204 und der Torschaltung 208 eine UND-Schaltung 214 eingefügt, um den Durchgang des eint,-äffenden Signals (und damit des Produkts s, r,) zu verhindern, wenn das Signal rf so klein ist, daß es eine Impulsbreite zur Folge haben müßte, d'.e geringer wäre als die Normalbreite der von dem Spannungs/Impulsbreitenwandler 202 erzeugten Impulse.
Man erkennt, daß dadurch bei dem Produkt s, r, eine Unstetigkeit zwischen dem durch die engsten von den Spannungs/Impulsbreitenwandler 202 abgegebenen Impulse bestimmten Wert und Null auftritt Diese Eigenschaft fällt aber lediglich in den Bereich dessen, was allgemein als Rauschen bezeichnet werden kann, die Vorrichtung ist aber auf Grund ihres AUfbaus und ihrer Wirkungsweise besonders unempfindlich gegen Rauschen oder Überhaupt gegen ein unvollkommenes Funktionieren einzelner Bauelemente.
Hervorzuheben ist, daß die durch \rj\ bestimmten Impulsbreiten Und eine gemäß dem Vorzeichen von
m mögliche Inversion in gleicher Weise für alle
gepulsten Eingangssignale s\, ft,... Sn gelten, die der Untereinheit zugeführt werden, da Abänderungen der Übertragungsfunktion Ag eines Übertragungselements (bzw. Verstärkungsgrades) lediglich von den Eingangssignalen, die der das Übertraglingselement enthaltenden Untereinheit zugeführt werden, und von dem
Antwortsigna! der Untereinheit abhängen.
Der größte Teil der in der Fig. 14 dargestellten elektronischen Baugruppen versorgt, wie der Fachmann ohne weiteres erkennt, gleichzeitig alle Übertragungselemente einer Untereinheit und wird daher für jede Untereinheit nur einmal benötigt.
Hierzu 8 Blatt Zeichnungen

Claims (29)

Patentansprüche:
1. Informationsverarbeitende Vorrichtung zur Erkennung eines durch einen Satz von (N) Eingangssignalen charakterisierbaren Ereignisses, mit einer entsprechenden Anzahl von Signaleingängen zum Empfang der N Eingangssignale und mit einer entsprechenden Anzahl (N) von Übertragungselementen, deren jedes einen Signaleingang mit mindestens einer Ausgangsstation koppelt und to dieser ein Signal zuführt, das dem Produkt der Übertragungsfunktion des Übertragungselements und des durch dieses übertragenen Eingangssignals proportional ist, wobei die Ausgangsstation als Ausgangssignal ein Summensignal erzeugt, das der Summe der ihr zugeführten Signale proportional ist, und mit Einrichtungen, durch die in einer Lernphase der Vorrichtung, in der den Signaleingängen mehrmals »in Satz von Eingangssignalen dargeboten wird, selbsttätig eine Änderung der Übertragungsfunktion der Übertragungselemente in Abhängigkeit vom Ausgangssignal der Ausgangsstation erfolgt, gekennzeichnet durch folgende Merkmale:
a) es sind mehrere (n) Abgangsstationen (122) vorgesehen, und es sind einzelne oder alle der π Ausgangsstationen über jeweils ein eigenes Übertragungselement (100) mit einzelnen oder allen der (7V7Signaleingänge (J)gekoppelt;
b) das an der jeweiligen Ausgangsstation (i. 122) erzeugte Summensignal ist das Eingangssteuersignal einer Einrichtung (138 bis 194) zur Abänderung der übertragungsfunktionen A1, einzelner oder aller derjenigen Übertragungselemente (100), die mit der jeweiligen Ausgangsstation gekoppelt sind;
c) die durch die Einrichtung (138 bis 194) zur Änderung der Übertragungsfunktionen A1, vermittelte Änderung derselben ist dem Ausgangssignal der jeweiligen Ausgangsstation (122) proportional, bis eine vorgebbare Bedingung (Zeitablauf, Schwellenwert, Signalmuster) auffällt.
2. Vorrichtung nach Anspruch 1, dadurch gekennzeichnet, daß die Einrichtungen (138 bis 194) zur Abänderung der Übertragungsfunktion A11 eines Übertragungselemente (100) eine Abänderung in Abhängigkeit von dem Produkt aus dem Eingangslignal s/mit dem Ausgangsantwortsignal r,gemäß so
(5 4,,= η s, r,
vermitteln, wobei η eine Proportionalitätskonstante ist.
3. Vorrichtung nach Anspruch I oder 2, dadurch π gekennzeichnet, daß eine Anzahl (n) von Schwellwerteinrichtungen Γι, Ti,... T, Tn vorgesehen ist,
deren jede mit einer Ausgangsstation verbunden ist und ein Ausgangssignal erzeugt, wenn das an sie angelegte Antwortsignal r, größer als ein Schwellenwert Θ ist (n> 0,-oder \n\ > ΘΪ).
4. Vorrichtung nach Anspruch 3, dadurch gekennzeichnet, daß mit den Ausgängen aller Schwellenwerteinrichtungen Signaluriterdrückungseinrichtungen verbunden sind, die alle Antwortsignale ru r2l... r„ mit Ausnahme desjenigen unterdrücken, das als Eingangssignal an diejenige Schwellenwerteinrichtung angelegt ist, die ein Ausgangssignal erzeugt
5. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß eine Signalquelle vorgesenen ist, die selektiv an mindestens eine der Ausgangsstationen ein gewünschtes Antwortsignal πα abgibt
6. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Einrichtungen (138 bis 194) zur Abändeiang der Übertragungsfunktion A,j eine Einrichtung zur Verminderung des Wertes der Übertragungsfunktion Aij mindestens eines Übertragungselements mit einer vorbestimmten Geschwindigkeit umfassen.
7. Vorrichtung nach Anspruch 6, dadurch gekennzeichnet, daß der zeitliche Betrag der Abnahme konstant ist, um eine gleichförmige Abnahme zu erzieien.
8. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet daß die Eingangssignale Si, 52,-..Sp... S/v und die Antwortsignale
n, r? n... r„durch Spannungswerte repräsentiert
sind und daß jedes Übertragungselement (100) einen Verstärker (108) mit steuerbarem Verstärkungsgrad enthält und daß die Übertragungsfunktion eines Übertragungselements durch den Verstärkungsgrad repräsentiert ist.
9. Vorrichte ' nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet daß jedes Übertragungselement eine Einrichtung zur Speicherung seiner Übertragungsfunktion enthält.
10. Vorricfttung nach Anspruch 9, dadurch gekennzeichnet, daß als Einrichtung zur Speicherung elektrischer Ladung ein Kondensator (170) vorgesehen ist.
11. Vorrichtung nach Anspruch 9 oder Anspruch 10, dadurch gekennzeichnet, daß die Einrichtungen (138 bis 194) zur Änderung der Übertragungsfunktion eine Addiereinrichtung umfassen, die dem gespeicherten Übertragungsweg A,jd\e Änderungsschritte ό /!„hinzufügt.
12. Vorrichtung nach Anspruch Ii, dadurch gekennzeichnet, daß in der Speichereinrichtung (170) des //-ten Übertragungselements eine Ladung Q1, gespeichert und für alle Änderungsschritte die Änderung f> Λ, der Übertragungsfunktion einer entsprechenden Änderung Q1, der gespeicherten Ladung proportional Qu ist und daß die Einrichtung, die der gespeicherten Übertragungsfunktion Änderungsschritte A1, hinzufügt, einen ersten Impulsgeber (190). der einen ersten Impuls mit einer zu dem Eingangssignal s, proportionalen Amplitude und einer zu dem absoluten Wert des Antwortsignals r, proportionalen Breite t, erzeugt, und einen zweiten mit dem ersten verbundenen Impulsgeber (202) umfaßt, der der Ladungsspeichereinrichtung (170) einen zweiten Impuls zuführt, dessen Pulshöhe und -breite der Pulshöhe und -breite des ersten Impulses
proportional sind und dessen Polarität gleich ;r~r ist
1 3. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß eine Einrichtung zum Einstellen der Übertragungsfunktion Ay eines jeden Übertragungselemente auf einen gewünschten Wert Vorgesehen ist, die in einem einzigen Arbeitsgang einen Lernprozeß des Systems ermöglicht.
14. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß eine Einrichtung zur wahlweisen Unterbrechung des
Betriebs der Einrichtungen zur Abänderung der Obergangsfunktion vorgesehen ist, so daß die Übertragungsfunktion Au der Übertragungselemente keinen weiteren Änderungen unterworfen ist.
15. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß ein Pufferspeicher zur Speicherung der Übertragungsfunktion mindestens einiger der Übertragungselemente (100) und eine Einrichtung zur wahiweisen Übertragung der Übertragungsfunktion Ay dieser Übertragungselemente in den Pufferspeicher vorgesehen ist
16. Vorrichtung nach Anspruch 15, dadurch gekennzeichnet, daß eine Einrichtung zur selektiven Übertragung mindestens einer der Übertragungsfunktionen auf mindestens eines der übertragungs- elemente (100) der informationsverarbeitenden Vorrichtung vorgesehen ist, so daß diese in einem einzigen Arbeitsgang einstellbar ist.
17. Informationsverarbeitungsanlage mit mehreren informationsverarbeitenden Vorrichtungen nach einem der vorhergehenden Anspruch^, dadurch gekennzeichnet, daß Verbindungseinrichtungen vorgesehen sind, die die Ausgangsstation einer ersten Vorrichtung mit den Eingängen einer weiteren Vorrichtung und/oder die Ausgangsstation einer ersten Baugruppe mit den Ausgangsstationen einer weiteren Baugruppe und/oder die Eingänge einer ersten Baugruppe mit den Eingängen einer weiteren Baugruppe verbinden.
18. Informationsverarbeitende Vorrichtung, die auf ein durch einen Satz von N Eingangssignal charakterisiertes Ereignis ein Antwortsignal erzeugt, mit einer Anzahl von Eingängen 1 j,...,N.
die jeweils eines von N Eingangssignalen Si sj,...,
Sn, empfangen und mit einer Anzahl von Übertragungselementen, deren jedes einen Eingang j mit mindestens einem Ausgang / koppelt und ein Ausgangssignal s'j erzeugt, das dem Produkt des zugewp'teten Eingangssignals s, und der Übertragungsfunktion A1, proportional ist. wobei am Ausgang / ein Ausgangssignal r, anliegt, das von denjenigen Eingangssignalen s—j abhängig ist, die von den mit dem Ausgang gekoppelten Übertragungselementen erzeugt werden und mit einer Einrichtung zur Abänderung de- Übertragungsfunk- 4-, tion A11 mindestens eines in einer Lernphasc befindlichen Übertragungselements in Abhängigkeit von dem Ausgangssignal r an dem Ausgang, mit dem dieses ÜbertragungrHement gekoppelt ist, insbesondere nach einem der vorhergehenden Ansprüche. 5η dadurch gekennzeichnet.daß die Abänderungen 6A1, der Übertragungsfunktion A1, eines bestimmten Übertragungselements von dem Produkt des Ausgangssignals an dem Ausgang, mit dem das Übertragungselement gekoppelt ist und dement- « tprechenden, an das Übertragungselement angelegten Eingangssignals s, abhängig sind.
19. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Abänderungseinrichtung die Übertragungsfunktion mindestens eines Übertragungselemente gemäß der Formel:
65
Aq (t) die neue Übertragungsfunktion,
Aij(t-\)die zuvor vorhandene Übertragungsfunktion.
γ eine Zerfallskonstante im Bereich
OSySl,
η eine Lern(geschwindigkeits-)konstante, für
weiche 0 S ygilt,
jj das an das Übertragungselement angelegte Eingangssignal und
Γι das Ausgangssignal
bedeutet das an demjenigen Ausgang erscheint, mit dem das Übertragungselement gekoppelt ist
20. Informationsverarbeitende Vorrichtung nach Anspruch 19, dadurch gekennzeichnet, daß die Einrichtung zur Abänderung der Übertragungsfunktion Mittel zur Änderung der Zerfallskonstanten y/oder der Lernkonstanten umfaßt
21. Informationsverarbeitende Vorrichtung nach Anspruch 20, dadurch gekennzeichnet daß die Lernkonstante auf 0 reduzierbar ist derart, daß die informationsverarbeitende Vorrichtung als Assoziativspeicher arbeitet
22. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche in Verbindung mit Anspruch 19, dadurch gekennzeichnet, daß die Abänderungseinrichtung die Übertragungsfunktion A,j aller Übertragungselemente gemäß einer Beziehung
A,j(t)=y A11(I-X)^nS1Ti
ändert.
23. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß eine Anzahl n von Ausgängen
1 i... n vorgesehen ist, und daß einzelne oder alle
Ausgänge mit jeweils einzelnen oder allen Eingängen durch mindestens ein Übertragungselement gekoppelt sind.
24. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß das an einem Ausgang auftretende Ausgangssignal r, der Summe der Eingangssignale s'j proportional ist, die von dem mit dem Ausgang gekoppelten Übertragungselement erzeugt werden.
25. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Abänderungseinrichtung die Übertragungsfunktionen derjenigen Übertragungselemente, die 'nit einem bestimmten Ausgang / gekoppelt sind, in Abhängigkeit von dem Produkt des an diesem Ausgang dargebotenen Ausgangssi gnals r, mit dem an das zugeordnete Übertragungselement angelegten Eingangssignal s, ändert.
25. Informationsverarbeitende Vorrichtung na-.-h einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Abänderungseinrichtung die Übertragungsfunktion der mit einem Ausgang / gekoppelten Übertragungselemente in Abhängigkeit von Gem an diesem Ausgang erzeugten Ausgangssignal r, so lange ändert, bis eine vorgebbare Bedingung, wie ein spezieller Wert, Signalmuster oder Zeitablauf, eintritt.
27. Informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet daß eine Anzahl von Ausgängen 1, ... i, ..., n zur Abgabe jeweils eines von n Ausgangssignalen n,..., n,..., r„ vorgesehen ist und daß die Übertragungselemente jeden Eingang mit mehreren Auseänesn und ieden Aussane mit
ttiehreren Eingängen verbinden.
28. informationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Ausgänge einef ersten Vorrichtung mit den Eingängen einer zweiten Vorrichtung gemäß einer Zufallsverteilung verbindbar sind.
29. tnformationsverarbeitende Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Ausgänge einer ersten Vorrichtung mit den Eingängen einer zweiten in einer derart geordneten Weise verbindbar sind, daß jeder Ausgang der einen Vorrichtung mit einem Eingang der anderen Vorrichtung verbunden ist.
IO
DE2524734A 1974-06-06 1975-06-04 Informationsverarbeitende Vorrichtung zur Erkennung eines durch einen Satz von Eingangssignalen charakterisierbaren Ereignisses Expired DE2524734C3 (de)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US05/477,080 US3950733A (en) 1974-06-06 1974-06-06 Information processing system

Publications (3)

Publication Number Publication Date
DE2524734A1 DE2524734A1 (de) 1975-12-18
DE2524734B2 DE2524734B2 (de) 1980-03-20
DE2524734C3 true DE2524734C3 (de) 1981-01-08

Family

ID=23894450

Family Applications (1)

Application Number Title Priority Date Filing Date
DE2524734A Expired DE2524734C3 (de) 1974-06-06 1975-06-04 Informationsverarbeitende Vorrichtung zur Erkennung eines durch einen Satz von Eingangssignalen charakterisierbaren Ereignisses

Country Status (11)

Country Link
US (1) US3950733A (de)
JP (1) JPS6012671B2 (de)
CA (1) CA1042109A (de)
CH (1) CH620307A5 (de)
DE (1) DE2524734C3 (de)
ES (3) ES436945A1 (de)
FR (1) FR2274088A1 (de)
GB (1) GB1457338A (de)
IT (1) IT1036906B (de)
MX (1) MX143269A (de)
NL (1) NL176313C (de)

Families Citing this family (131)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5272504A (en) * 1975-12-15 1977-06-17 Fuji Xerox Co Ltd Device for recognizing word audio
US4044243A (en) * 1976-07-23 1977-08-23 Nestor Associates Information processing system
US4218733A (en) * 1978-11-13 1980-08-19 Sybron Corporation Adaptive gain controller
US4308522A (en) * 1979-03-19 1981-12-29 Ncr Corporation Identity verification apparatus and method
US4254474A (en) * 1979-08-02 1981-03-03 Nestor Associates Information processing system using threshold passive modification
US4326259A (en) * 1980-03-27 1982-04-20 Nestor Associates Self organizing general pattern class separator and identifier
JPS5752261A (en) * 1980-09-11 1982-03-27 Canon Inc Character processor
US4450530A (en) * 1981-07-27 1984-05-22 New York University Sensorimotor coordinator
US4479241A (en) * 1981-08-06 1984-10-23 Buckley Bruce S Self-organizing circuits for automatic pattern recognition and the like and systems embodying the same
JPH0658665B2 (ja) * 1982-05-21 1994-08-03 株式会社日立製作所 イメージ信号処理装置
US5297222A (en) * 1982-05-04 1994-03-22 Hitachi, Ltd. Image processing apparatus
US4518866A (en) * 1982-09-28 1985-05-21 Psychologics, Inc. Method of and circuit for simulating neurons
US4620286A (en) * 1984-01-16 1986-10-28 Itt Corporation Probabilistic learning element
US4593367A (en) * 1984-01-16 1986-06-03 Itt Corporation Probabilistic learning element
US4599692A (en) * 1984-01-16 1986-07-08 Itt Corporation Probabilistic learning element employing context drive searching
US4599693A (en) * 1984-01-16 1986-07-08 Itt Corporation Probabilistic learning system
US4648044A (en) * 1984-06-06 1987-03-03 Teknowledge, Inc. Basic expert system tool
US4697242A (en) * 1984-06-11 1987-09-29 Holland John H Adaptive computing system capable of learning and discovery
JPS619729A (ja) * 1984-06-26 1986-01-17 Toshiba Corp 推論システム
US4660166A (en) * 1985-01-22 1987-04-21 Bell Telephone Laboratories, Incorporated Electronic network for collective decision based on large number of connections between signals
US4760604A (en) * 1985-02-15 1988-07-26 Nestor, Inc. Parallel, multi-unit, adaptive, nonlinear pattern class separator and identifier
US4670848A (en) * 1985-04-10 1987-06-02 Standard Systems Corporation Artificial intelligence system
US4967340A (en) * 1985-06-12 1990-10-30 E-Systems, Inc. Adaptive processing system having an array of individually configurable processing components
US5060277A (en) * 1985-10-10 1991-10-22 Palantir Corporation Pattern classification means using feature vector regions preconstructed from reference data
US5077807A (en) * 1985-10-10 1991-12-31 Palantir Corp. Preprocessing means for use in a pattern classification system
JPH0634236B2 (ja) * 1985-11-02 1994-05-02 日本放送協会 階層型情報処理方法
WO1987003399A1 (en) * 1985-11-27 1987-06-04 The Trustees Of Boston University Pattern recognition system
EP0247163B1 (de) * 1985-11-27 1992-02-05 Trustees Of Boston University System zur musterkodierung
US4773024A (en) * 1986-06-03 1988-09-20 Synaptics, Inc. Brain emulation circuit with reduced confusion
US4752890A (en) * 1986-07-14 1988-06-21 International Business Machines Corp. Adaptive mechanisms for execution of sequential decisions
GB8619452D0 (en) * 1986-08-08 1986-12-17 Dobson V G Signal generating & processing
US4852018A (en) * 1987-01-07 1989-07-25 Trustees Of Boston University Massively parellel real-time network architectures for robots capable of self-calibrating their operating parameters through associative learning
US5224066A (en) * 1987-03-16 1993-06-29 Jourjine Alexander N Method and apparatus for parallel implementation of neural networks
US5053974A (en) * 1987-03-31 1991-10-01 Texas Instruments Incorporated Closeness code and method
US4881178A (en) * 1987-05-07 1989-11-14 The Regents Of The University Of Michigan Method of controlling a classifier system
US4807168A (en) * 1987-06-10 1989-02-21 The United States Of America As Represented By The Administrator, National Aeronautics And Space Administration Hybrid analog-digital associative neural network
US5526298A (en) * 1987-06-10 1996-06-11 Hamamatsu Photonics K.K. Optical associative memory
US4858147A (en) * 1987-06-15 1989-08-15 Unisys Corporation Special purpose neurocomputer system for solving optimization problems
WO1988010474A1 (en) * 1987-06-18 1988-12-29 University Of West Virginia State analog neural network and method of implementing same
US4809223A (en) * 1987-06-18 1989-02-28 West Virginia University Apparatus and method for long term storage of analog signals
US4914708A (en) * 1987-06-19 1990-04-03 Boston University System for self-organization of stable category recognition codes for analog input patterns
US5133021A (en) * 1987-06-19 1992-07-21 Boston University System for self-organization of stable category recognition codes for analog input patterns
US5251269A (en) * 1987-07-15 1993-10-05 Research Development Corporation Of Japan Multi-layer neural network modelled after the striate cortex for recognizing visual patterns
US5072452A (en) * 1987-10-30 1991-12-10 International Business Machines Corporation Automatic determination of labels and Markov word models in a speech recognition system
US5285522A (en) * 1987-12-03 1994-02-08 The Trustees Of The University Of Pennsylvania Neural networks for acoustical pattern recognition
DE68927014T2 (de) * 1988-01-11 1997-01-23 Yozan Inc Assoziatives Musterkonversionssystem und Anpassungsverfahren dafür
US4874963A (en) * 1988-02-11 1989-10-17 Bell Communications Research, Inc. Neuromorphic learning networks
US4958375A (en) * 1988-02-17 1990-09-18 Nestor, Inc. Parallel, multi-unit, adaptive pattern classification system using inter-unit correlations and an intra-unit class separator methodology
US4931868A (en) * 1988-05-31 1990-06-05 Grumman Aerospace Corporation Method and apparatus for detecting innovations in a scene
US5050095A (en) * 1988-05-31 1991-09-17 Honeywell Inc. Neural network auto-associative memory with two rules for varying the weights
US4893255A (en) * 1988-05-31 1990-01-09 Analog Intelligence Corp. Spike transmission for neural networks
US4926064A (en) * 1988-07-22 1990-05-15 Syntonic Systems Inc. Sleep refreshed memory for neural network
EP0400147B1 (de) * 1988-08-31 1997-10-15 Fujitsu Limited Neuronenrechner
US5063601A (en) * 1988-09-02 1991-11-05 John Hayduk Fast-learning neural network system for adaptive pattern recognition apparatus
US4979124A (en) * 1988-10-05 1990-12-18 Cornell Research Foundation Adaptive, neural-based signal processor
US4930099A (en) * 1988-10-07 1990-05-29 Hughes Aircraft Company Wavefront vector correlation processor and method
US5093781A (en) * 1988-10-07 1992-03-03 Hughes Aircraft Company Cellular network assignment processor using minimum/maximum convergence technique
US4914604A (en) * 1988-10-07 1990-04-03 Hughes Aircraft Company Processor for analyzing angle-only data
US4920506A (en) * 1988-10-07 1990-04-24 Hughes Aircraft Company Ultra-high speed two-dimensional coordinate transform processor
US5003490A (en) * 1988-10-07 1991-03-26 Hughes Aircraft Company Neural network signal processor
US5001631A (en) * 1988-10-07 1991-03-19 Hughes Aircraft Company Cellular network assignment processor using randomly triggered adaptive cell thresholds
US4951239A (en) * 1988-10-27 1990-08-21 The United States Of America As Represented By The Secretary Of The Navy Artificial neural network implementation
US4906865A (en) * 1988-12-09 1990-03-06 Intel Corporation Sample and hold circuit for temporal associations in a neural network
US4912655A (en) * 1988-12-14 1990-03-27 Gte Laboratories Incorporated Adjusting neural networks
US4912652A (en) * 1988-12-14 1990-03-27 Gte Laboratories Incorporated Fast neural network training
US4912651A (en) * 1988-12-14 1990-03-27 Gte Laboratories Incorporated Speeding learning in neural networks
US4912647A (en) * 1988-12-14 1990-03-27 Gte Laboratories Incorporated Neural network training tool
US4914603A (en) * 1988-12-14 1990-04-03 Gte Laboratories Incorporated Training neural networks
US4912649A (en) * 1988-12-14 1990-03-27 Gte Government Systems Corporation Accelerating learning in neural networks
US4912653A (en) * 1988-12-14 1990-03-27 Gte Laboratories Incorporated Trainable neural network
US4912654A (en) * 1988-12-14 1990-03-27 Government Systems Corporation Gte Neural networks learning method
JP2676397B2 (ja) * 1989-01-05 1997-11-12 株式会社エイ・ティ・アール視聴覚機構研究所 動的システムの運動軌道生成方法
US4941122A (en) * 1989-01-12 1990-07-10 Recognition Equipment Incorp. Neural network image processing system
US4974169A (en) * 1989-01-18 1990-11-27 Grumman Aerospace Corporation Neural network with memory cycling
US5033020A (en) * 1989-02-08 1991-07-16 Grumman Aerospace Corporation Optically controlled information processing system
US5222195A (en) * 1989-05-17 1993-06-22 United States Of America Dynamically stable associative learning neural system with one fixed weight
US5119469A (en) * 1989-05-17 1992-06-02 United States Of America Neural network with weight adjustment based on prior history of input signals
US5041976A (en) * 1989-05-18 1991-08-20 Ford Motor Company Diagnostic system using pattern recognition for electronic automotive control systems
US4939683A (en) * 1989-05-19 1990-07-03 Heerden Pieter J Van Method and apparatus for identifying that one of a set of past or historical events best correlated with a current or recent event
US5146542A (en) * 1989-06-15 1992-09-08 General Electric Company Neural net using capacitive structures connecting output lines and differentially driven input line pairs
US5479578A (en) * 1989-06-15 1995-12-26 General Electric Company Weighted summation circuitry with digitally controlled capacitive structures
US5274745A (en) * 1989-07-28 1993-12-28 Kabushiki Kaisha Toshiba Method of processing information in artificial neural networks
US5319587A (en) * 1989-08-07 1994-06-07 Rockwell International Corporation Computing element for neural networks
US5361328A (en) * 1989-09-28 1994-11-01 Ezel, Inc. Data processing system using a neural network
JP2724374B2 (ja) * 1989-10-11 1998-03-09 株式会社鷹山 データ処理装置
JPH03167655A (ja) * 1989-11-28 1991-07-19 Toshiba Corp ニューラルネットワーク
US5299284A (en) * 1990-04-09 1994-03-29 Arizona Board Of Regents, Acting On Behalf Of Arizona State University Pattern classification using linear programming
JPH0438587A (ja) * 1990-06-04 1992-02-07 Nec Corp 入力領域適応型ニューラルネットワーク文字認識装置
US5247605A (en) * 1990-07-02 1993-09-21 General Electric Company Neural nets supplied synapse signals obtained by digital-to-analog conversion of plural-bit samples
US5151970A (en) * 1990-07-02 1992-09-29 General Electric Company Method of generating, in the analog regime, weighted summations of digital signals
US5251626A (en) * 1990-07-03 1993-10-12 Telectronics Pacing Systems, Inc. Apparatus and method for the detection and treatment of arrhythmias using a neural network
US5181171A (en) * 1990-09-20 1993-01-19 Atlantic Richfield Company Adaptive network for automated first break picking of seismic refraction events and method of operating the same
US5615305A (en) * 1990-11-08 1997-03-25 Hughes Missile Systems Company Neural processor element
JP3088171B2 (ja) * 1991-02-12 2000-09-18 三菱電機株式会社 自己組織型パタ−ン分類システム及び分類方法
US5239594A (en) * 1991-02-12 1993-08-24 Mitsubishi Denki Kabushiki Kaisha Self-organizing pattern classification neural network system
US5204872A (en) * 1991-04-15 1993-04-20 Milltech-Hoh, Inc. Control system for electric arc furnace
US5263122A (en) * 1991-04-22 1993-11-16 Hughes Missile Systems Company Neural network architecture
US5671335A (en) * 1991-05-23 1997-09-23 Allen-Bradley Company, Inc. Process optimization using a neural network
US5170071A (en) * 1991-06-17 1992-12-08 Trw Inc. Stochastic artifical neuron with multilayer training capability
US5963930A (en) * 1991-06-26 1999-10-05 Ricoh Company Ltd. Apparatus and method for enhancing transfer function non-linearities in pulse frequency encoded neurons
US5226092A (en) * 1991-06-28 1993-07-06 Digital Equipment Corporation Method and apparatus for learning in a neural network
US5337371A (en) * 1991-08-09 1994-08-09 Matsushita Electric Industrial Co., Ltd. Pattern classification system
US10361802B1 (en) 1999-02-01 2019-07-23 Blanding Hovenweep, Llc Adaptive pattern recognition based control system and method
US8352400B2 (en) 1991-12-23 2013-01-08 Hoffberg Steven M Adaptive pattern recognition based controller apparatus and method and human-factored interface therefore
US5299285A (en) * 1992-01-31 1994-03-29 The United States Of America As Represented By The Administrator, National Aeronautics And Space Administration Neural network with dynamically adaptable neurons
EP0574937B1 (de) * 1992-06-19 2000-08-16 United Parcel Service Of America, Inc. Verfahren und Vorrichtung zur Eingabeklassifizierung mit einem neuronalen Netzwerk
US5438629A (en) * 1992-06-19 1995-08-01 United Parcel Service Of America, Inc. Method and apparatus for input classification using non-spherical neurons
GB9214514D0 (en) * 1992-07-08 1992-08-19 Massachusetts Inst Technology Information processing
US5479574A (en) * 1993-04-01 1995-12-26 Nestor, Inc. Method and apparatus for adaptive classification
US6167390A (en) * 1993-12-08 2000-12-26 3M Innovative Properties Company Facet classification neural network
JPH07239938A (ja) * 1994-02-28 1995-09-12 Matsushita Electric Ind Co Ltd 検査方法
US7469237B2 (en) * 1996-05-02 2008-12-23 Cooper David L Method and apparatus for fractal computation
US6041322A (en) * 1997-04-18 2000-03-21 Industrial Technology Research Institute Method and apparatus for processing data in a neural network
US7096192B1 (en) * 1997-07-28 2006-08-22 Cybersource Corporation Method and system for detecting fraud in a credit card transaction over a computer network
US7403922B1 (en) * 1997-07-28 2008-07-22 Cybersource Corporation Method and apparatus for evaluating fraud risk in an electronic commerce transaction
US6052679A (en) * 1997-09-11 2000-04-18 International Business Machines Corporation Artificial neural networks including Boolean-complete compartments
JP4147647B2 (ja) * 1998-11-09 2008-09-10 ソニー株式会社 データ処理装置およびデータ処理方法、並びに記録媒体
JP4517409B2 (ja) * 1998-11-09 2010-08-04 ソニー株式会社 データ処理装置およびデータ処理方法
US8364136B2 (en) 1999-02-01 2013-01-29 Steven M Hoffberg Mobile system, a method of operating mobile system and a non-transitory computer readable medium for a programmable control of a mobile system
US7904187B2 (en) * 1999-02-01 2011-03-08 Hoffberg Steven M Internet appliance system and method
JP4344964B2 (ja) * 1999-06-01 2009-10-14 ソニー株式会社 画像処理装置および画像処理方法
US7865427B2 (en) 2001-05-30 2011-01-04 Cybersource Corporation Method and apparatus for evaluating fraud risk in an electronic commerce transaction
JP2003010762A (ja) * 2001-06-28 2003-01-14 Konica Corp 塗布装置及び塗布方法
US8010467B2 (en) * 2003-03-24 2011-08-30 Fiske Software Llc Active element machine computation
US8019705B2 (en) * 2003-03-24 2011-09-13 Fiske Software, LLC. Register and active element machines: commands, programs, simulators and translators
US8712942B2 (en) * 2003-03-24 2014-04-29 AEMEA Inc. Active element machine computation
US7398260B2 (en) * 2003-03-24 2008-07-08 Fiske Software Llc Effector machine computation
US20060112056A1 (en) * 2004-09-27 2006-05-25 Accenture Global Services Gmbh Problem solving graphical toolbar
US7904398B1 (en) 2005-10-26 2011-03-08 Dominic John Repici Artificial synapse component using multiple distinct learning means with distinct predetermined learning acquisition times
US9152779B2 (en) 2011-01-16 2015-10-06 Michael Stephen Fiske Protecting codes, keys and user credentials with identity and patterns
US10268843B2 (en) 2011-12-06 2019-04-23 AEMEA Inc. Non-deterministic secure active element machine

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3275986A (en) * 1962-06-14 1966-09-27 Gen Dynamics Corp Pattern recognition systems
US3408627A (en) * 1964-12-28 1968-10-29 Texas Instruments Inc Training adjusted decision system using spatial storage with energy beam scanned read-out

Also Published As

Publication number Publication date
GB1457338A (en) 1976-12-01
US3950733A (en) 1976-04-13
JPS5121749A (de) 1976-02-21
NL176313C (nl) 1985-03-18
CA1042109A (en) 1978-11-07
ES453378A1 (es) 1977-12-16
JPS6012671B2 (ja) 1985-04-02
CH620307A5 (de) 1980-11-14
NL176313B (nl) 1984-10-16
IT1036906B (it) 1979-10-30
FR2274088A1 (fr) 1976-01-02
MX143269A (es) 1981-04-13
NL7506761A (nl) 1975-12-09
ES453377A1 (es) 1977-11-16
ES436945A1 (es) 1977-04-01
FR2274088B1 (de) 1979-05-25
DE2524734B2 (de) 1980-03-20
DE2524734A1 (de) 1975-12-18

Similar Documents

Publication Publication Date Title
DE2524734C3 (de) Informationsverarbeitende Vorrichtung zur Erkennung eines durch einen Satz von Eingangssignalen charakterisierbaren Ereignisses
DE4042139C2 (de) Neuron-Einheit
DE4217832C2 (de) Mustererkennungsgerät
DE19531967A1 (de) Verfahren zum Training eines neuronalen Netzes mit dem nicht deterministischen Verhalten eines technischen Systems
DE3938645C1 (de)
WO2019081241A1 (de) Verfahren, vorrichtung und computerprogramm zur erstellung eines tiefen neuronalen netzes
DE2614680A1 (de) Verfahren und vorrichtung zur messung des vektors einer minimalen trefferablage
DE19503147C2 (de) Chaos-Neuronen-Schaltung und diese verwendendes Neuronales Chaos-Netzwerk
DE69815390T2 (de) Neuronale netzwerke
DE112020005613T5 (de) Neuromorphe Einheit mit Kreuzschienen-Array-Struktur
EP0643353B1 (de) Vorrichtung und Verfahren zur Datenverarbeitung
EP0890153B1 (de) Verfahren zur ermittlung von zur entfernung geeigneten gewichten eines neuronalen netzes mit hilfe eines rechners
DE19537010C2 (de) Lernverfahren und -anordnung zur Nachbildung eines dynamischen Prozesses
DE1091783B (de) Verfahren und Einrichtung zur Darstellung von Schriftzeichen auf dem Bildschirm einer Kathodenstrahlroehre
DE4315576A1 (de) Neuronales Netzwerk
EP0956531B1 (de) Verfahren und vorrichtung zur transformation einer zur nachbildung eines technischen prozesses dienenden fuzzy-logik in ein neuronales netz
EP0978052B1 (de) Rechnergestütztes verfahren zur auswahl von trainingsdaten für ein neuronales netz
EP0548127B1 (de) Neuronales Netzwerk und Schaltungsanordnung zur Bool&#39;schen Realisierung neuronaler Netze vom ADALINE-Typ
EP1359539A2 (de) Neurodynamisches Modell der Verarbeitung visueller Informationen
DE102004013924B3 (de) Vorrichtung zur kontextabhängigen Datenanalyse
EP1093639A2 (de) Neuronales netz und verfahren und anordnung zum trainieren eines neuronalen netzes
DE1481522A1 (de) Verfahren und Vorrichtung zur Steuerung eines Flugzeuges mit automatischer Verstaerkungsregelung
DE2748927A1 (de) Verfahren und anordnung zur regelung der einem verbraucher zugefuehrten elektrischen leistung mittels steuerbarer halbleiterelemente
DE1284127B (de) Funktionsgenerator fuer spezielle Autokorrelationsfunktionen
EP1114398B1 (de) Verfahren zum trainieren eines neuronalen netzes, verfahren zur klassifikation einer folge von eingangsgrössen unter verwendung eines neuronalen netzes, neuronales netz und anordnung zum trainieren eines neuronalen netzes

Legal Events

Date Code Title Description
C3 Grant after two publication steps (3rd publication)
8327 Change in the person/name/address of the patent owner

Owner name: NESTOR, INC., NEW YORK, N.Y., US

8328 Change in the person/name/address of the agent

Free format text: RUFF, M., DIPL.-CHEM. DR.RER.NAT. BEIER, J., DIPL.-ING. SCHOENDORF, J., DIPL.-PHYS., PAT.-ANW., 7000 STUTTGART