DE4035559A1 - Fotostimuliertes und -gesteuertes abbildendes neuronales netz - Google Patents
Fotostimuliertes und -gesteuertes abbildendes neuronales netzInfo
- Publication number
- DE4035559A1 DE4035559A1 DE4035559A DE4035559A DE4035559A1 DE 4035559 A1 DE4035559 A1 DE 4035559A1 DE 4035559 A DE4035559 A DE 4035559A DE 4035559 A DE4035559 A DE 4035559A DE 4035559 A1 DE4035559 A1 DE 4035559A1
- Authority
- DE
- Germany
- Prior art keywords
- photo
- neural
- amplifiers
- individual
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/067—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means
- G06N3/0675—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means using electro-optical, acousto-optical or opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/192—Recognition using electronic means using simultaneous comparisons or correlations of the image signals with a plurality of references
- G06V30/194—References adjustable by an adaptive method, e.g. learning
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Neurology (AREA)
- Computational Linguistics (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Databases & Information Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Description
Die Erfindung betrifft künstliche neuronale Netze und
Neuro-Computersysteme zur Informationsverarbeitung. Sie
betrifft speziell fotostimulierte abbildende neuronale
Netze, die selbstgenerierende Lernsätze und assoziative
Speicher und Programmierbarkeit zur Verfügung stellen.
Die selbstgenerierende Lernsätze und die assoziative
Speicherung und Programmierbarkeit sind wesentliche
Merkmale zur Lösung von Erkennungs- und Identifizierungs
problemen im Zusammenhang mit moderner Robotertechnik und
Steuersystemen.
Standard-Computer oder Informations-Verarbeitungssysteme
basieren derzeit auf verschiedenen Implementierungen der
von-Neumann-Architektur. Diese Art von Informationsverar
beitungssystemen beruht auf Algorithmen zur Implementie
rung der verschiedenen Funktionen, die zur Lösung eines
speziellen Problems benötigt werden. Damit das spezielle
Problem durch das Informationsverarbeitungssystem oder
den Computer gelöst werden kann, muß ein Individuum, und
zwar ein Computer-Programmierer, das spezielle Problem
voll verstehen und dann in der Lage sein, einen Algorith
mus oder eine Reihe von Algorithmen zu schaffen, die in
der Lage sind, eine Lösung des speziellen Problems
logisch zu berechnen. Das Computersystem stellt im
Grundsatz ein "dummes" System dar, das nicht selbst denkt
sondern in einem Schritt-für-Schritt-Prozeß die mit einem
gegebenen Algorithmus verbundenen Instruktionen logisch
implementiert, um zu einer Lösung zu kommen. Obwohl
Computer "dumm" sind, können sie zahlreiche Routine-
Berechnungen pro Microsekunde ausführen und sind deshalb
für viele Anwendungen extrem nützlich. Das dieser Art von
Computersystemen innewohnende Problem besteht darin, daß
der Programmierer zunächst Funktionen theoretisch lösen
oder formulieren muß, um das spezielle Problem zu lösen,
falls dies überhaupt möglich ist, bevor die Fähigkeiten
des Computers, Zahlen zu verarbeiten, genutzt werden
können. Ein zweites Problem, das hiermit jedoch zusammen
hängt, tritt auf, falls die spezifische Aufgabe oder das
spezifische Problem nicht mit einer Reihe von logischen
oder arithmetischen Schritten gelöst werden kann, die mit
einer Lösung des speziellen Problems abschließen. Selbst
in Fällen, in denen die vollständige Funktion oder
Aufgabe, die mit einem gegebenen Problem verbunden sind,
bekannt sind, kann es trotzdem unmöglich sein, einen
Algorithmus zu entwickeln, um die Funktion in einem
bestimmten Problemfall zu implementieren, weil unendlich
viele Beispiele existieren. Diese ist z. B. der Fall bei
Kraftfahrzeug-Autopiloten, Sprach- und Handschrift-
Übersetzern und Identifiziersystemen für feindliche
Flugzeuge oder dergl.
Die Rechenfähigkeiten und die Computer sind derart
fortgeschritten, daß zahlreiche Probleme gelöst werden
können. Sie bieten außerordentlich hohe Geschwindigkeit,
Genauigkeit und Bequemlichkeit. Trotzdem ist der Computer
in vielen Fällen noch nicht in der Lage, die allgemeine
Klasse von Problemen zu lösen, die mit der Erkennung und
Identifizierung zusammenhängen. Außerdem sind Standard
Computer nicht in der Lage, sich an neue oder ändernde
Situationen anzupassen oder während des Betriebes zu
lernen. Diese Art von Problemen begrenzt die Entwicklung
von fortgeschrittener Robotertechnik und von Steuersys
temen. Für biologische Systeme höherer Ordnung stellen
Erkennungs- und Identifizierungsfunktionen hingegen
relativ einfache Aufgaben dar.
Neuronales Rechnen (neurocomputing) ist eine neue Form
der Informationsverarbeitung, die sich als eine anerkann
te Alternative zu der von-Neumann-Architektur etabliert.
Neuronale Computer sind im Grundsatz nichtprogrammierte
adaptive Informationsverarbeitungssysteme, die in der
Lage sind, Assoziationen zwischen Objekten in Reaktion
auf ihre Umgebung zu entwickeln. Sie stehen damit im
Gegensatz zu der Ausführung oder Implementierung von
Schritt-für-Schritt-Prozeduren die durch einen Algorith
mus umrissen sind. Der Neurocomputer erzeugt seine
eigenen Regeln, die die erwähnte Assoziation beherrschen,
verfeinert diese Regeln auf der Basis seiner eigenen
Beispiele und lernt aus seinen Fehlern durch diese Art
von Versuch-und-Fehler-Verarbeitung. Im Grundsatz
versucht der Neurocomputer, es der Funktion eines
menschlichen Gehirns in ihrer elementarsten Form
gleichzutun. Das menschliche Gehirn ist ein außerordent
liches Rechen- und Informationsverarbeitungssystem, das
besonders gut geeignet ist für Erkennungs-Probleme.
Während digitale Standardcomputer weit besser zur Lösung
von Rechenproblemen geeignet sind, sind Neurocomputer
bestens geeignet zur Lösung von komplexen Mustererken
nungs-Problemen, die bei Zielerkennungsproblemen,
kontinuierlicher Spracherkennung und der Analyse von
Handschriften auftreten.
Während die Funktion des digitalen Standart-Computers
allgemein bekannt ist, kann die Funktion des menschlichen
Gehirns nur durch grobe Beobachtungen und Funktionen
charakterisiert werden. Deshalb ist der gegenwärtige
Stand des neuronalen Rechnens bis zu dem Punkt der
Verwendung von Basisschaltungen zur Implementierung
kleiner assoziativer Speicher und Programmierbarkeit
vorgedrungen. Die assoziative Speicherung und die
Programmierbarkeit bestehen im einfachsten Sinn darin,
daß die Möglichkeit besteht, zu lokalisieren und Daten
von verschiedenen Orten wieder zu gewinnen, ohne daß eine
spezielle Adresse für den Ort vorhanden ist oder genau
bekannt ist, was zu lokalisieren ist. Mit anderen Worten,
der Neurocomputer arbeitet wie das menschliche Gehirn,
indem er versucht, gewisse Ereignisse aus dem Speicher
aufzurufen, indem sie mit anderen Ereignissen assoziiert
werden. Diese Art von Speicherung und Programmierbarkeit
ermöglicht eine leichtere Erkennung von Objekten oder
Mustern, ohne daß genau bekannt ist, was das Objekt oder
Muster ist.
Der Stand der Technik enthält eine Reihe von Papieren und
Artikeln, die sich mit dem Gebiet des neuronalen Rechnens
befassen. Der Artikel "artificial neural networks, John
J. Hopfield, IEEE, circuits and devices magazine, 8755-
3996/88/0900-0003" diskutiert die Grenzen digitaler
Standardcomputer für Erkennungs-Probleme und die Vorteile
von neuronalen Systemen zur Lösung von Problemen dieser
Art. Der Artikel offenbart ferner das grundsätzliche
Hopfield-Netz, das im wesentlichen aus einem Satz von
Verstärkern mit sigmoidalen Eingangs/Ausgangs-Kennlinien,
einer Eingangskapazität, einem Ausgangswiderstand und
einer Mehrzahl von Widerstandverbindungen besteht.
Dieses elektrische Modell eines neurobiologischen Netzes
ist eines der Grund-Baublöcke für neuronale Computer
netze. In dem Artikel "Computing With Neural Circuits"
von John J. Hopfield et.al., Sience Vol. 233, 8.8.1986,
diskutieren die Verfasser die jüngste Arbeit, die darauf
gerichtet ist, wie spezielle Berechnungen unter Verwen
dung eines geeigneten Musters von neuronalen Verstärkern
durchgeführt werden können, die in einem einfachen
dynamischen Modellsystem synaptisch gekoppelt sind. Die
dem Artikel zugrundeliegende Basisprämisse besteht darin,
daß ein Modell von nichtlinearen neuronalen Verstärkern,
die in einem Netz mit symetischen Verbindungen organi
siert sind, eine natürliche Fähigkeit zur Lösung von
Optimierungsproblemen besitzt. Der Schlüssel für die
Funktion des Hopfield-Netzes ist die große Interkonek
tivität zwischen den elektrischen Komponenten. Das
Basisnetz besteht im wesentlichen aus den gleichen
Elementen wie in dem vorerwähnten Artikel von Hopfield.
In einem dritten Artikel "Neural Networks And Physical
Systems With ....... Collectiv Computational Abilities"
von John F. Hopfield, "Proceedings National Academy of
Science", Band 79, Seiten 2554 bis 2558, April 1982,
diskutiert Hopfield einen dritten Aspekt von neuronalen
Netzen, der darin besteht, daß das Speichern in solchen
neuronalen Netzen in Form der stabilen Zustände bewerk
stelligt wird, in die die neuronalen Verstärker des
neuronalen Netzes sich eventuell ordnen. Hopfield weist
darauf hin, daß die Verbindung zwischen einfachen
elektrischen Schaltungen und den komplexen Rechner-
Eigenschaften von Nervensystemen höherer Ordnung das
Auftauchen neuer Rechner-Fähigkeiten aus dem kollektiven
Verhalten einer großen Anzahl von einfachen Verarbei
tungselementen, beispielsweise dem einzelnen Neuron oder
neuronalem Verstärker, sein kann. Die drei Artikel von
Hopfield diskutieren und behandeln ein einfaches
Arbeitsmodell des neuronalen Grundnetzes, das elektrische
Standardkomponenten verwendet.
Entwicklungen zu künstlichen neuronalen Netzen bieten
neue und nützliche Konzepte. Wie insbesondere in den drei
genannten Artikeln dargelegt wurde, hat es sich gezeigt,
daß es durch eine hochohmige Kopplung (weiche Kopplung)
mit positiver (aktivierender) Rückkopplung und negativer
(sperrender) Rückkopplung in einem Feld von Verstärkern,
die jeweils sigmoidale Übertragungs-Kennlinien (Fernab
schaltung und Sättigung) haben, möglich ist, daß
biologische neuronale System zu imitieren. Ein anliegen
der Satz von Eingangsbedingungen erzeugt analoge
Pegelübergänge, die in und zwischen andere Verstärker
gekoppelt werden und eine dynamische Änderung von
Pegelsätzen herbeiführen, die sich eventuell in quasi
stabilen Zuständen entweder in Sättigung oder Abschalten
niederschlagen, wie sie durch sigmoidale Antworten
bewirkt werden. Diese Zustände, die für einen gegebenen
Eingangsdatensatz eindeutig sind, können dann als
Repräsentanten eines Lernsatzes für die spezielle
Eingangsgröße betrachtet werden. Für einen neuen
Eingangsdatensatz wird das künstliche neuronale Netz
wieder initialisiert und arbeitet, bis es einen neuen
Lernsatz vorlegt und so weiter.
Die Hauptschwierigkeit und der Nachteil der vorerwähnten
neuronalen Netze bestehen darin, daß sie eine große
Anzahl diskreter elektrischer Eingaben (Dendriten)
erfordern können, nämlich eine für jeden Verstärker
(Neuron). Dies macht es notwendig, die erforderlichen
Signalleitungsverbindungen und Signalverarbeitungen und
-kodierungen vorzusehen, um das spezielle künstliche
neuronale Netz zu dienen. Außerdem müssen die Aktivie
rungs- und Sperrfunktionen, die durch die Kopplungswider
stände (Synapsen) gesteuert werden, für verschiedene
Eingangsdatensätze geändert werden, was bedingt, daß die
Widerstände auf neue Werte gesetzt werden. Auch müssen
die Eingangs-Bilddaten verarbeitet werden, bevor sie in
das spezielle künstliche neuronale Netz eingegeben
werden.
Die vorliegende Erfindung vermeidet die Nachteile und
Schwierigkeiten von bekannten künstlichen neuronalen
Netzen, indem sie eine direkte Abbildung und Übertragung
der physikalischen Erscheinungform von durch Sensoren
gewonnenen Daten in den Prozeß und synaptische Kopplungen
vorsieht, die sich in Abhängigkeit von den abgebildeten
Daten ändern, so daß die Notwendigkeit einer Änderung der
Werte vermieden wird.
Das Papier "An Optically Programmed Neural Network" von
C.D. Cronfeld et. al., das auf der IEEE SPIE Konferenz in
San Diego, Californien, am 18. Juni 1988 vorgelegt wurde,
offenbart, wie aus dem Titel hervorgeht, eine Möglichkeit
für ein optisch programmiertes neuronales Netz, das in
einer geschlossenen Schleife mit einem externen Computer
kombiniert ist und die Netz-Kopplungen durch einen
konvergierenden iterativen Prozeß berechnet. Das Papier
behandelt im wesentlichen das Design, die Konstruktion
und die Funktion eines hybriden elektrooptischen
Computers zur Verwendung in neuronalen Netzen. Das System
ist um ein Fotosensor-Array aufgebaut. Das Array stellt
in Verbindung mit seinen Summierverstärkern ein einfaches
Element dar, das die von einem neuronalen Netz geforderte
Multiplikation ausführt. Das System besitzt einen in die
Schleife zwischen dem Eingang und dem Ausgang eingefügten
Computer, der zur Steuerung und Konfigurierung des Arrays
dient. Der Computer enthält ein optisches Programm, das
einen iterativen Speicher des Hopfield-Typs implemen
tiert.
Die vorliegende Erfindung unterscheidet sich jedoch in
eindeutiger Weise dadurch, daß sie mit einem neuronalen
Netzwerk mit Foto-Abbildung und gesteuerter Kopplung
arbeitet, um neue Bilder zu lernen und sie später durch
diesen Lernsatz zu detektieren. Das neuartige Konzept der
Erfindung besteht darin, daß sie direkt mit Bildern
arbeitet, die einem Foto-Rezeptor-Array aufgeprägt
werden, um eindeutige Gewichte, Kopplungen und Verknüp
fungen zwischen neuronalen Verstärkern herzustellen und
neuronalartige Lernsätze von stabilen Verstärkerzu
ständen zu erzeugen.
Die Erfindung ist auf ein fotostimuliertes abbildendes
neuronales Netzwerk gerichtet, das selbstgenerierende
Lernsätze und assoziative Speicherung und Programmier
barkeit bietet. Der Aufbau des Netzes ergibt sich aus
Patentanspruch 1.
Das Foto-Rezeptor-Array besteht aus einer Mehrzahl von
synaptischen fotogesteuerten Widerständen. Diese
reagieren auf den von dem Foto-Rezeptor-Array kommenden
Stimulus mit einem gegebenen Widerstandswert. Der Ausgang
des Foto-Rezeptor-Arrays ist mit dem Neuronen-Verstärker-
Array verbunden, das, wie erwähnt, aus einer Mehrzahl von
individuellen neuronalen Verstärkern besteht. Diese Ver
stärker sind in einem spezifischen Muster miteinander
gekoppelt, das durch den Widerstand der individuellen
synaptischen fotogesteuerten Widerstände bestimmt wird.
Außerdem umfaßt das neuronale Netz ein Foto-Verbindungs-
und -Antwort-Array, das die Verknüpfung und die zeitliche
Steuerung des gesamten Netzes bewirkt. Das Foto-Verbin
dungs-Array reagiert auf das Ausgangssignal einer Foto
stimulier-Einrichtung, die ein Muster oder eine spezi
fische "Blaupause" für die Verknüpfungen und Antwortzei
ten für das Netzwerk ausgibt. Das Foto-Verbindungs- und
-Antwort-Array kann ein separates Element in dem Netzwerk
bilden oder vorzugsweise ein Teil des Foto-Rezeptor-
Arrays sein.
Ein Eingangs-Objekt oder -Muster, das erkannt oder
detektiert werden soll, wird zu der Abbildungseinrichtung
übertragen, die in der einfachsten Ausführung ein
Objektiv oder in komplizierter Ausführung eine Kathoden
strahlröhre ist. Die Abbildungseinrichtung, deren Inhalt
die Eingangsgröße für das Foto-Rezeptor-Array darstellt,
überträgt den Stimulus von dem Objekt zu dem Foto-
Rezeptor-Array. Dieses besteht, wie oben erwähnt, aus
einer Vielzahl von synaptischen lichtgesteuerten
Widerständen. Diese reagieren auf die Intensität und die
Wellenlänge des von der Abbildungseinrichtung auf das
Foto-Rezeptor-Array gerichteten Lichts. In der vorliegen
den Erfindung vergrößert sich der Widerstandswert der
lichtgesteuerten Widerstände, wenn die Lichtintensität
kleiner wird, und verringert sich, wenn die Lichtinten
sität anwächst. Deshalb werden bei einem gegebenen
Lichtmuster, das auf das Foto-Rezeptor-Array auftrifft,
unterschiedliche Widerstandswerte für die einzelnen
synaptischen fotogesteuerten Widerstände erzeugt, so daß
für die individuellen neuronalen Verstärker ein speziel
les Kopplungs- und Rückkopplungs-Muster entsteht. Der
Widerstandspegel für alle fotogesteuerten Widerstände ist
für einen gegebenen Lichtintensitätswert gleich. Das
Foto-Rezeptor-Array ist außerdem über eine Vielzahl von
fotogesteuerten Strombegrenzungswiderständen mit einer
Stromversorgungseinrichtung verbunden. Deren Spannung
liefert die Leistung für die individuellen neuronalen
Verstärker. Die zugeführte Leistung wird durch das
Kopplungs- und Rückkopplungs-Muster verteilt, das von
den synaptischen fotogesteuerten Widerständen erzeugt
wird.
Die Spannungen, die am Ausgang des Foto-Rezeptor-Arrays
erscheinen und den Eingängen der individuellen neuronalen
Verstärker zugeführt werden, werden üblicherweise als die
elektrischen Dendriten-Eingangssignale bezeichnet, weil
sie durch die synaptischen fotogesteuerten Verstärker
verteilt werden. Jeder einzelne neuronale Verstärker
besitzt einen einzigen Eingang und zwei Ausgänge, von
denen der eine zur positives Aktivierungs-Rückkopplung
und der zweite zur negativen Sperr-Rückkopplung dient.
Sowohl das Sperr- als auch das Aktivierungs-Rückkopp
lungssignal werden zu den anderen neuronalen Verstärkern
über die Kopplungen rückgekoppelt, die von den synap
tischen fotogesteuerten Widerständen hergestellt werden,
sie werden jedoch nicht zu dem speziellen neuronalen
Verstärker rückgekoppelt, von dem sie ausgehen. Die
Mehrzahl der individuellen neuronalen Verstärker wird am
ausgangsseitigen Ende mit Hilfe des positiven Aktivie
rungs-Rückkopplungssignals mit einem Gate-Array verbunden.
Bei einem gegebenen Muster oder Objekt gelangen die
individuellen neuronalen Verstärker evtl. in stabile
Zustände, die durch das eindeutige Kopplungs- und
Rückkopplungsmuster bestimmt werden, das von den
synaptischen lichtgesteuerten Widerständen gebildet wird.
Die Geschwindigkeit, mit der ihre individuellen neurona
len Verstärker in ihre jeweiligen stabilen Zustände
gelangen, wird durch die Zeitkonstanten der Ansprech
geschwindigkeit und die sigmoidale Antwort jedes der
einzelnen neuronalen Verstärker bestimmt.
Die stabilen Zustände oder die Axon-Ausgangssignale, die
von der Vielzahl der individuellen neuronalen Verstärker
an das Gate-Array geliefert werden, bilden einen
speziellen Lernsatz. Jedes individuelle Axon-Ausgangssig
nal wird in Relation zu anderen Axon-Ausgangssignalen
gleich gewichtet. Der in dem Gate-Array gespeicherte
Lernsatz kann dieses programmierbare Gate in der Weise
anordnen, daß dieses, wenn etwas später ein gleichartiges
Bild erscheint, eine "1" für jede Speicherübereinstimmung
und eine "0" für jede Speicherabweichung erzeugt. Der
Lernsatz kann zahlreiche Muster und Funktionen program
mieren und somit wirkliche assoziative Speicherung und
Programmierbarkeit bilden.
Durch Steuerung der Zeitkonstanten der Auslösegeschwin
digkeit kann die Zeitspanne, in der die einzelnen
neuronalen Verstärker stationäre Ausgangszustände
erreichen, manipuliert werden, so daß das Netz mit voller
zeitlicher Steuerung arbeitet. Durch Steuerung der
Verknüpfungen der individuellen neuronalen Verstärker
kann die Anzahl der Zustände für einen gegebenen Lernsatz
bestimmt werden. Die sigmoidale Antwort der einzelnen
neuronalen Verstärker ist notwendig, um den neuronalen
Verstärkern Wirkungen zu verleihen, die neurobiolo
gischer Art sind, weil die sigmoidale Antwort den
neuronalen Verstärker mit Sättigungs- und Sperr-Eigen
schaften versieht, die die Ein- und Aus-Zustände
wirklicher biologischer Neuronen nachbilden. Die
Zeitkonstante der Auslösegeschwindigkeit und die
sigmoidale Antwort jedes der einzelnen neuronalen
Verstärker lassen sich durch Verwendung von fotoelek
trischen und elektrischen Standard-Elementen erreichen,
die in die lokalen Rückkopplungswege der einzelnen
neuronalen Verstärker eingefügt sind. Eine zweite
Möglichkeit besteht darin, daß die Zeitkonstante der
Auslösegeschwindigkeit zusammen mit den Steuer-Verknüp
fungen der einzelnen neuronalen Verstärker ausgebildet
wird, wobei fotoelektrische Standard-Elemente in dem
Foto-Verbindungs- und -Antwort-Array verwendet werden.
Eine dritte Alternative könnte darin bestehen, daß alle
vorerwähnten Funktionen in einem einzigen Foto-Rezep
tor/Foto-Verbindungs- und -Antwort-Array kombiniert
werden, wie es oben erwähnt wurde.
Das fotostimulierte und -gesteuerte abbildende neuronale
Netzwerk gemäß der Erfindung ermöglicht die genaue
Generierung einer echten assoziativen Speicherung und
Programmierbarkeit zum Einsatz in Informationsver
arbeitungssystemen, die sich zur Lösung komplexer
Erkennungs- und Identifizierungs-Probleme einsetzen
lassen. Weiterhin kann das Netz sich an verschiedene
Stimulus-Situationen anpassen und im Betrieb lernen.
Durch Anwendung eines neuartigen pluralistischen
optoelektronischen Konzepts, das ein Abbildungselement
und eine dynamische zeitliche Antwortsteuerung in einer
künstlichen neuronalen Netzarchitektur beinhaltet, stellt
das Netz die Mittel zur direkten Abbildung und Übertra
gung von physikalischen oder von Sensoren abgeleiteten
Daten in das Netz zur Verfügung und vereinigt so
parallele Dateneingabe, selbstgenerierende Lernsätze und
assoziative Speicherung und Programmierbarkeit. Bei dem
Netz gemäß vorliegender Erfindung werden keine externen
elektrischen Eingangssignale benötigt, so daß die
Signalaufbereitung und Leiterverbindungen entfallen
können, wie sie bei normalen künstlichen neuronalen
Netzen erforderlich sind. Da das Netz direkt mit
eingegebenen Bildern arbeitet, ist es auch nicht
erforderlich, die synaptischen Kopplungswiderstände, die
in diesem Fall fotogesteuert sind, elektrisch oder
physikalisch zu ändern. Der Körper der neuronalen
Verstärker antwortet auf einen durch Licht initiierten
Stimulus durch ein Abbildungs-Array von Fotorezeptoren,
das die Funktionen eines biologischen neuronalen Netzes
simuliert. Durch das Bild liefern diese Rezeptoren
variable Rückkopplungs- und synapsenartige Verknüpfungen,
so daß man zu einem Lernstatus gelangt, der die Quelle
des Foto-Stimulus definiert, der beispielsweise von einem
zweidimensionalen Bild stammt.
Die Einzigartigkeit und die Nützlichkeit des erfindungs
gemäßen Netzes beruht auf der Tatsache, daß die Schnitt
stelle zu dem Netz lediglich erfordert, daß eine
Dateneingabe radiometrisch (z. B. durch ein optisches
Interface) auf die Fotorezeptoren abgebildet wird, um
eine parallele Datenübertragung zu bewirken, ohne daß
eine elektrische Signalverarbeitung oder Leiterverbindun
gen benötigt werden. Der Ausdruck radiometrisch wird zu
einem Fachausdruck auf diesem Gebiet und ist so defi
niert, daß er den emittierten oder reflektierten Bereich
des elektromagnetischen Spektrums beinhaltet. Die
Funktionen des Netzes gleichen denen eines biologischen
neuronalen Netzes, da alle Neuronen den Stimulus direkt
durch synaptische Kopplungen aufnehmen, wobei die
Fotorezeptoren die Aktivierungs- und Sperrfunktionen
liefern. Anwendungsgebiete für das erfindungsgemäße Netz
sind Erkennungs- und Identifizierungsprobleme in
Verbindung mit fortschrittlicher Robotertechnik und
Steuersystemen sowie komplexe Mustererkennungsprobleme,
die dem Verstehen kontinuierlicher Sprache, der Identi
fizierung von handgeschriebenen Buchstaben und der
Zielbestimmung innewohnen.
Zur Veranschaulichung der Erfindung sind in den Zeichnun
gen die derzeit bevorzugten Ausführungsformen darge
stellt. Die Erfindung ist jedoch nicht notwendigerweise
auf die dort gezeigten Anordnungen und Hilfsmittel
beschränkt.
Fig. 1 zeigt ein Blockdiagramm des fotostimulierten
abbildenden neuronalen Netzes gemäß der Erfin
dung,
Fig. 1a zeigt ein Blockschaltbild einer Variante des
fotostimulierten abbildenden neuronalen Netzes
gemäß der Erfindung,
Fig. 2 zeigt eine schematische Darstellung des Fotore
zeptor-Arrays gemäß der Erfindung,
Fig. 3a zeigt eine Darstellung der sigmoidalen Antwort
charakteristik des neuronalen Verstärkers gemäß
der Erfindung,
Fig. 3b zeigt die Schaltung eines individuellen neurona
len Verstärkers mit Zener-Begrenzung,
Fig. 4 zeigt die Schaltung eines individuellen neurona
len Verstärkers mit synaptischer fotogesteuerter
Widerstandskopplung und den zugeordneten RC-
Zeitkonstanten-Elementen,
Fig. 5a zeigt eine schematische Darstellung des Foto-
Verbindungs- und -Antwort-Arrays gemäß der
Erfindung,
Fig. 5b zeigt die Schaltung eines individuellen Elements
in dem Foto-Verbindungs- und -Antwort-Array
gemäß der Erfindung,
Fig. 6 zeigt die Schaltung eines individuellen neurona
len Verstärkers mit Verbindungswiderständen,
Fig. 7 zeigt ein Flußdiagramm des fotostimulierten
abbildenden neuronalen Netzes gemäß der Erfin
dung,
Fig. 8 zeigt eine schematische Darstellung des foto
stimulierten abbildenden neuronalen Netzes gemäß
der Erfindung.
Die Funktionen des fotostimulierten und kontrollierten
abbildenden neuronalen Netzes sind ähnlich wie diejenigen
eines biologischen neuronalen Netzes, da alle neuronalen
Verstärker (Neuronen) den Stimulus (Dendriten) direkt und
durch synaptische Kopplungen (Synapsen) aufnehmen, wobei
die Aktivierungs- und Sperrfunktionen von den Fotorezep
toren erbracht werden. In Fig. 1 ist ein Blockschaltbild
des fotostimulierten und -gesteuerten abbildenden
neuronalen Netzes 10 dargestellt. Ein Objekt 20, das
erkannt oder detektiert werden soll, wird zu einer
Abbildungseinrichtung 40 übertragen, deren Inhalt den
Eingang für das Fotorezeptor-Array 100 bildet. Die
Abbildungseinrichtung 40 kann ein Objektiv, eine
Kathodenstrahlröhre, ein Bildverstärker, ein Laserscanner
oder ein beliebiges anderes Mittel sein, das eine direkte
Abbildung und Übertragung von physikalischen oder durch
Sensoren abgeleiteten Daten über das Fotorezeptor-Array
100 in das Netz 10 und damit eine parallele Dateneingabe
in das Netz ermöglicht. Die Daten aus der Abbildungsein
richtung 40 werden radiometrisch auf dem Fotorezeptor-
Array 100 abgebildet und in diesem in eine Vielzahl von
elektrischen Dendriten-Eingangssignalen umgewandelt. Das
Fotorezeptor-Array 100 besteht aus einer Vielzahl von
individuellen synaptischen fotogesteuerten Widerständen.
Diese können Cadmiumsulfid-Widerstände, Foto-Feldeffekt
transistoren, bipolare Fototransistoren oder Fotodioden
sein. Das von der Abbildungseinrichtung 40 kommende
Licht, das auf das Fotorezeptor-Array 100 auftrifft,
steuert die synaptischen Gewichte und Kopplungen zwischen
den einzelnen neuronalen Verstärkern, aus denen das
neuronale Verstärker-Array 200 besteht. Das Fotorezeptor-
Array 100 dient im wesentlichen als Rückkopplungs- und
Kopplungseinrichtung für die einzelnen neuronalen
Verstärker. Durch das eindeutige Widerstandsmuster, das
durch das aus der Abbildungseinrichtung 40 kommende
Lichtmuster erzeugt wird, liefern die synaptischen
fotogesteuerten Widerstände eine synaptische Blaupause
für die individuellen neuronalen Verstärker. Mit einer
ersten Seite des Fotorezeptor-Arrays 100 ist eine
Spannungsversorgungseinrichtung verbunden, die über das
von den Widerstandswerten des synaptischen fotogesteuer
ten Widerstände gebildete eindeutige Muster eine
Betriebsspannung an die individuellen neuronalen
Verstärker anlegt. Die verschiedenen Spannungswerte, die
zu dem mit einer zweiten Seite des Fotorezeptor-Arrays
100 verbundene neuronale Verstärker-Array 200 gelangen,
bilden elektrische Dendriten-Eingangssignale. Das
neuronale Verstärker-Array 100 besteht, wie erwähnt, aus
einer Vielzahl von individuellen neuronalen Verstärkern.
Es liefert in Abhängigkeit von den elektrischen Dendri
ten-Eingangssignalen, die von dem Fotorezeptor-Array 100
kommen, eine Vielzahl von Axon-Ausgangssignalen an ein
Gate-Array 300. Jeder der individuellen neuronalen
Verstärker hat einen sperrenden negativen Rückkopplungs-
Axon-Ausgang und einen aktivierenden positiven Rückkopp
lungs-Axon-Ausgang. Die aktivierenden und sperrenden
Axon-Ausgänge aller individuellen neuronalen Verstärker
sind jeweils mit allen übrigen neuronalen Verstärkern,
nicht jedoch mit demjenigen neuronalen Verstärker
verbunden, von dem sie ausgehen, so daß die Anzahl der
Kopplungen um eins kleiner ist als die Anzahl der
neuronalen Verstärker. Die intensive Kopplung durch das
Foto-Rezeptor-Array 100 in Kombination mit der Veränder
barkeit des Eingangsbildes des Objektes 20 bewirkt, daß
die individuellen neuronalen Verstärker auf Musterände
rungen reagieren und in einen Satz von stabilen Zuständen
übergehen. Die individuellen neuronalen Verstärker
gelangen in nichtlinearer Weise in diese stabilen
Zustände, wobei die Nichtlinearität eine Funktion der
Zeitkonstanten der Zündrate und der sigmoidalen Antwort
kennlinie der einzelnen neuronalen Verstärker ist. Die
vorbestimmte Zeitkonstante der Zündrate bestimmt die
Antwortzeiten der einzelnen neuronalen Verstärker und
kann durch ein paralleles Netzwerk bestimmt werden, das
aus einem Widerstand und einem Kondensator besteht, die
beide fotogesteuert sind. Das parallele Netzwerk kann
entweder in der Schaltung des Fotorezeptor-Arrays 100
oder in der Schaltung des Foto-Verbindungs- und -Antwort-
Arrays 400 angeordnet sein. Die sigmoidale Antwort wird
durch ein lokales paralleles Rückkopplungsnetzwerk
erzeugt, das in dem lokalen Rückkopplungspfad jedes der
einzelnen neuronalen Verstärker angeordnet ist. Der Satz
von stabilen Zuständen der einzelnen neuronalen Verstär
ker stellt einen spezifischen Lernsatz dar und wird dem
Gate-Array 100 über die positiven Aktivierungs-Rückkopp
lungs-Axon-Ausgänge der einzelnen neuronalen Verstärker
zugeführt.
Die Axon-Ausgangssignale bilden einen Satz von stabilen
binären Ein- oder Aus-Zuständen und tragen, soweit die
Position oder Pegel gleich sind, zu dem Ergebnis des
Netzes 10 bei. Diese gleichgewichteten Ausdrücke, die den
Lernsatz enthalten, werden in dem Speicherbereich des
Gate-Arrays 300 gespeichert. Der Lernsatz kann so das
Gate-Array 300 in der Weise anordnen, daß es dann, wenn
etwas später ein gleichartiges Bild erscheint, für jede
Speicherübereinstimmung eine 1 und für jede Speicherab
weichung eine 0 erzeugt. Eine Steuereinrichtung 500
steuert das Gate-Array 300 und liefert verschiedene
Schemata zur Benutzung und Anordnung der Lernsätze in dem
Gate-Array 300. Ein Satz von Eingangszuständen, die von
der Abbildungseinrichtung 40 an das Fotorezeptor-Array
100 abgegeben werden, erzeugt analoge Pegelübergänge, die
durch die synaptischen fotogesteuerten Widerstände des
Fotorezeptor-Arrays 100 in und zwischen die einzelnen
neuronalen Verstärker gekoppelt werden. Dies führt zu
einer dynamischen Änderung von Pegelsätzen, die evtl. in
stabile Zustände übergehen, entweder in Sättigung oder
Sperrung, wie es durch die sigmoidale Antwort jedes
individuellen neuronalen Verstärkers bewirkt wird. Diese
Zustände, die für den gegebenen Eingangsdatensatz
eindeutig sind, können dann als Repräsentant für einen
Lernsatz für diese speziellen Eingangsdaten betrachtet
werden.
Das Foto-Verbindungs- und -Antwort-Array 400 liefert die
Verknüpfungen zwischen den einzelnen neuronalen Verstär
kern und bestimmt damit die Gesamttopographie des Netzes
10. Zusätzlich kann das Foto-Verbindungs- und -Antwort-
Array 400, wie oben erwähnt, durch Einfügen des paral
lelen Widerstands/Kapazitäts-Netzwerks, das die vorbe
stimmte Zeitkonstante der Ansprechgeschwindigkeit
liefert, für die zeitliche Steuerung des Netzes 10
sorgen. Das Foto-Verbindungs- und -Antwort-Array 40
steuert die Verknüpfungen der einzelnen neuronalen
Verstärker durch das Einbetten einer neuronalen Verstär
ker-Trenneinrichtung in die neuronale Verstärkerschal
tung. Diese Trennvorrichtung umfaßt ein Paar fotoge
steuerter Widerstände in den Eingangs- und Ausgangskrei
sen der individuellen neuronalen Verstärker. Durch die
gesteuerte Anwendung von Licht kann der Widerstandswert
der fotogesteuerten Widerstände groß genug gemacht
werden, um einzelne oder alle individuellen neuronalen
Verstärker aus dem Netzwerk 10 herauszutrennen. Durch
die Steuerung der Verknüpfungen der individuellen
neuronalen Verstärker kann die Anzahl der individuellen
stabilen Zustände bestimmt werden, die den spezifischen
Lernsatz darstellen. Alternativ kann die Trennvorrich
tung des neuronalen Verstärkers auch irgendein Standart-
Schalterkreis sein oder eine Einrichtung, die auf Befehl
den Schaltungskreis irgendeines der individuellen
neuronalen Verstärker auftrennen kann. Das Licht zur
Steuerung des Foto-Verbindungs- und -Antwort-Arrays 400
wird von einer Foto-Stimulus-Einrichtung 600 geliefert,
die von einem Computer gesteuert werden kann. Das Foto-
Verbindungs- und -Antwort-Array 400 wird dadurch
initialisiert, daß alle Verbindungen und die Zeitkonstan
ten der neuronalen Verstärker in eine feste Konfiguration
gebracht werden. Weitere zeitliche und/oder räumliche
Steuerungen können durch den Stimulus veranlaßt werden,
indem man eine geeignete Licht- oder Strahlungsquelle
benutzt, z. B. eine Lichtröhre oder eine Kathodenstrahl
röhre. Das Foto-Verbindungs- und -Antwort-Array 400 ist
für ein festes Netz 10 nicht erforderlich.
Die Foto-Stimulus-Einrichtung 600 kann so programmiert
werden, daß sie an das Foto-Verbindungs- und -Antwort-
Array 400 einen Lichtstimulus liefert, der eine andere
Wellenlänge hat als das von dem Eingangsbild abgeleitete
Licht oder aber als einen Lichtstimulus mit derselben
Wellenlänge. Diese Möglichkeit, die Wellenlänge des
Licht-Stimulus zu modifizieren, ermöglicht einen größeren
Steuerbereich für das Netz 10, wobei die Möglichkeit der
Interaktion oder Überlappung der beiden unterschiedlichen
Stimulus-Signale eliminiert wird.
In einem zweiten Ausführungsbeispiel der Erfindung, das
in Fig. 1a dargestellt ist, sind das Fotorezeptor-Array
100 und das Foto-Verbindungs- und -Antwort-Array 400 in
einem einzigen Array kombiniert. Fig. 1a zeigt ein
Blockschaltbild des fotostimulierten und -gesteuerten
abbildenden neuronalen Netzwerks 10 mit dem vorerwähnten
Array, das zu einem einzigen Foto-Rezeptor/Foto-Verbin
dungs- und -Antwort-Array 700 kombiniert ist und das alle
Funktionen der ursprünglich getrennt vorgesehenen Arrays
bietet. Die Kombination der beiden Arrays 100 und 400 hat
den Zweck, das System kompakter zu machen.
Fig. 2 zeigt die Schaltung des Foto-Rezeptor-Arrays 100
zusammen mit dem neuronalen Verstärker-Array 200 und der
Spannungsversorgungseinrichtung 600. Zur Darstellung der
Erfindung wurde ein n×n Foto-Rezeptor-Array 100 und ein
neuronales Verstärker-Array 200 mit n×1 neuronalen
Verstärkern gewählt. Das n×n Foto-Rezeptor-Array 100
besteht aus synaptischen fotogesteuerten Widerständen 101
bis 140 und Strombegrenzungswiderständen 141 bis 145. Das
Foto-Rezeptor-Array 100, das biologische synaptische
Kopplungen emuliert, ist über elektrische Dendriten-
Eingangssignalleitungen 146 bis 150, die die elektrischen
Dendriten-Eingangssignale zu den neuronalen Verstärkern
201 bis 205 transportieren, mit dem neuronalen Verstär
ker-Array 200 gekoppelt. Wie oben erwähnt wurde und aus
Fig. 2 erkennbar ist, bilden die individuellen synap
tischen fotogesteuerten Widerstände 101 bis 140 die
Kopplungen zwischen den individuellen neuronalen
Verstärkern 201 bis 205 und bewirken die Rückkopplung zu
jedem einzelnen der neuronalen Verstärker 201 bis 205.
Wie aus dem Muster der synaptischen fotogesteuerten
Widerstände 101 bis 140 erkennbar ist, sind die der
Aktivierung dienenden positiven Rückkopplungs-Axon-
Ausgänge 206 bis 210 und die sperrenden negativen
Rückkopplungs-Axon-Ausgänge 211 bis 215 über die
synaptischen fotogesteuerten Widerstände 201 bis 240 mit
allen anderen individuellen neuronalen Verstärkern 201
bis 205 gekoppelt. Da jeder der individuellen neuronalen
Verstärker 201 bis 205 von den anderen neuronalen
Verstärkern 201 bis 205 außer von sich selbst Rückkopp
lung empfängt, ergeben sich (n-1) Kopplungspaarungen. Da
für jeden neuronalen Verstärker zwei Axon-Ausgänge
vorhanden sind, ist die Anzahl der Axon-Ausgangs-
Kopplungen gleich 2(n-1), und die Gesamtzahl der
Kopplungen zwischen dem Foto-Rezeptor-Array 100 und dem
Array 200 der neuronalen Verstärker beträgt
Ct=2n(n-1). (1)
Bei diesem Ausführungsbeispiel der Erfindung werden als
synaptisch fotogesteuerte Widerstände 101 bis 140 Sulfid-
Widerstände verwendet. Jeder der synaptischen fotoge
steuerten Widerstände 101 bis 140 reagiert auf die
Wellenlänge und Intensität der von der Abbildungseinrich
tung 40 (Fig. 1) auftreffenden Strahlung mit einem
spezifischen Widerstandswert, der seinerseits die
Rückkopplung und die Kopplung zwischen den einzelnen
neuronalen Verstärkern 201 bis 205 steuert. Die Beziehung
zwischen dem Foto-Rezeptor-Array 100 und der Abbil
dungsvorrichtung 40 läßt sich am besten als mathematische
Beziehung zwischen den Widerstandswerten der synaptischen
fotogesteuerten Widerstände 101 bis 140 und dem Licht-
oder Strahlungsmuster der Abbildungseinrichtung 40
ausdrücken. Es wird eine fotostimulierte Widerstandsma
trix Rp gebildet, die die Widerstandswerte der Elemente
des Foto-Rezeptor-Arrays 100 in Abhängigkeit von dem von
der Abbildungseinrichtung 40 einfallenden Licht- oder
Strahlungsmuster repräsentiert, das von einer Bildmatrix
Ir aufgenommen wird. Jedes Element Rp ist mit jedem
Element von Ir durch eine Umwandlungsmatrix C verbunden,
so daß
[Rp]=[C] [Ri]. (2)
Die Umwandlungsmatrix C repräsentiert die physikalischen
Eigenschaften der Widerstandselemente und verleiht den
Widerstandselementen für eine gegebene Strahlungsinten
sität und -wellenlänge einen gegebenen Widerstandswert.
Die Verwendung von Cadmiumsulfid-Widerständen ergibt eine
inverse Beziehung zwischen der Lichtintensität und dem
Widerstandswert, so daß der Widerstandswert um so kleiner
wird, um so größer die Intensität der einfallenden
Strahlung, und um so größer, je kleiner die Intensität
der einfallenden Strahlung ist.
Die Spannungsversorgungseinrichtung 60 liefert die
Betriebsspannung für die einzelnen neuronalen Verstärker
201 bis 205 über fotogesteuerte Strombegrenzungswider
stände 141 bis 145. Die Widerstände 141 bis 145 sind
fotogesteuert, um die in das System eintretende Spannung
zu verändern, während feste Widerstände eine solche
besondere Manipulierung oder Steuerung des Netzes 10
nicht zulassen würden. Die von der Spannungsversor
gungseinrichtung 60 gelieferten Spannungen wandern durch
die verschiedenen Pfade, die durch die synaptischen
fotogesteuerten Widerstände 101 bis 140 bestimmt werden,
und enden evtl. an den Eingängen der individuellen
neuronalen Verstärker 201 bis 205. Diese Spannungsein
gangssignale bilden, wie oben erwähnt, die elektrischen
Dendriten-Eingangssignale.
Die intensive Rückkopplung durch die synaptischen
fotogesteuerten Widerstände 101 bis 140 des Foto-
Rezeptor-Arrays 100 bewirkt in Kombination mit der
Veränderbarkeit des Eingangsbildes, daß die neuronalen
Verstärker 201 bis 205 auf Musteränderungen reagieren und
in neue stabile Zustände gelangen. Der Übergang in diese
neuen stabilen Zustände erfolgt, wie oben erwähnt, in
nichtlinearer Weise und ist eine Funktion der Zeitkon
stanten der Ansprechgeschwindigkeit des individuellen
neuronalen Verstärkers und ihrer sigmoidalen Antwort. Wie
in Fig. 2 dargestellt, sind die neuronalen Verstärker
201 bis 205 spezielle Verstärker mit jeweils einem
Eingang und zwei Ausgängen. Diese speziellen Verstärker
sind wegen der doppelten Ausgänge, von denen einer ein
Ausgang mit positivem Wert ist und der zweite ein Ausgang
mit negativem Wert, speziell für diesen Anwendungszweck
ausgewählt. Die neuronalen Verstärker 201 bis 205 können
auch normale Operationsverstärker sein, deren einziger
Ausgang sich in zwei Signalleitungen verzweigen kann,
wobei eine dieser Leitungen zu einem Inverter geführt
ist. Wie oben erwähnt wurde, bilden der positive und der
negative Ausgang einen aktivierenden beziehungsweise
einen sperrenden Axon-Ausgang, die die echten Aktivie
rungs- und Sperrfunktionen eines biologischen neuronalen
Netzes simulieren.
In Fig. 3a und 3b ist eine typische sigmoidale Antwort
kennlinie 216 der Eingangs- und Ausgangsspannung des
neuronalen Verstärkers 201 dargestellt. Ein lokales
paralleles Rückkopplungsnetzwerk 117, das mit dem
individuellen neuronalen Verstärker 201 verbunden ist,
dient zur Erzielung dieser Art von Antwortkurve. Die
durch die Kurve 216 dargestellte sigmoidale Antwort
verleiht dem individuellen neuronalen Verstärker 201 eine
fernsteuerbare Ausschalt- und Sättigungs-Übertragungs
kennlinie, die die Antwort und Ansprechgeschwindigkeit
eines biologischen Neurons simuliert. Das Netzwerk 217,
das in dem lokalen Rückkopplungspfad des neuronalen
Verstärkers 201 angeordnet ist, besteht aus zwei
parallelen Zweigen mit Dioden und Zener-Dioden, die Strom
in entgegengesetzten Richtungen leiten. Im Grundsatz
bewirkt das Netzwerk 217 eine Zener-Diodenbegrenzung in
dem lokalen Rückkopplungskreis des neuronalen Verstärkers
201. Die Zenerdioden 218 und 219 erzeugen Spannungen mit
entgegengesetzter Polarität, die einzelnen Dioden 220 und
221 dienen zur Trennung der beiden Schleifen und erzeugen
in Verbindung mit den Zenerdioden 218 und 219 die
gewünschte nichtlineare Sättigungs- und Ausschalt-
Kennlinie von Fig. 3a. Der neuronale Verstärker 201 mit
dem Netzwerk 217 besitzt für niedrige Eingangspegel ein
lineares Antwortverhalten, und geht bei Betrieb mit hohem
Pegel in einen nichtlinearen Bereich über, der fernsteu
erbare Ausschalt- und Sättigungseigenschaften zeigt. Wie
oben erwähnt wurde, befinden sich in den lokalen
Rückkopplungspfaden aller individuellen neuronalen
Verstärker 201 bis 205 solche Netzwerke 217. Diese sind
deshalb Teil des neuronalen Verstärker-Arrays 200, obwohl
sie in Fig. 2 nicht dargestellt sind.
Fig. 4 zeigt, wie der neuronale Verstärker 201 in das
Foto-Rezeptor-Array 100 eingefügt ist. Sie zeigt das
parallele Netzwerk 220, das aus einem Eingangswiderstand
223 und einem Eingangskondensator 224 besteht. Der
Widerstandswert des Eingangswiderstands 223 und die
Kapazität des Eingangskondensators 224 bestimmen die
Zeitkonstante der Ansprechgeschwindigkeit des neuronalen
Verstärkers 201 als RC-Zeitkonstante. Sowohl der
Widerstand 223 als auch der Kondensator 224 sind
fotogesteuerte Elemente, so daß die Zeitkonstante der
Ansprechgeschwindigkeit insgesamt fotogesteuert ist.
Dies wird dadurch erreicht, daß der Eingangswiderstand
223 ein fotogesteuerter Widerstand ist, der vom selben
Typ sein kann, wie die synaptischen fotogesteuerten
Widerstände 101 bis 140 von Fig. 2 und daß der Eingangs
kondensator 224 von der Kapazität einer fotogesteuerten
Verarmungsschicht einer pn-Verbindung ist. Die synapti
schen fotogesteuerten Widerstände 107 und 108 bewirken
die Rückkopplung und die Kopplung von dem neuronalen
Verstärker 201 in der in Fig. 2 dargestellten Weise. Ein
fotogesteuerter Strombegrenzungswiderstand 141 dient zur
Strombegrenzung für die von der Spannungsversorgungsquel
le 60 gelieferte Spannung. Die Lichtquelle, die diese
fotogesteuerten Elemente steuert, wird von der in Fig. 1
dargestellten Abbildungseinrichtung 40 gebildet.
Wie oben erwähnt wurde, kann das parallele Netzwerk 222
entweder in dem Foto-Rezeptor-Array 100 oder in dem Foto-
Verbindungs- und -Antwort-Array 400 angeordnet sein. Fig.
5a zeigt das Foto-Verbindungs- und -Antwort-Array 400.
Wie hieraus zu ersehen ist, besteht es aus einer Vielzahl
von individuellen Elementen 401 bis 418. Fig. 5b zeigt
eine vergrößerte Ansicht des Elements 418 des Foto-
Verbindungs- und -Antwort-Arrays 400. Hier ist das
parallele Netzwerk 222 von Fig. 4 in Form diskreter
Komponenten dargestellt. Der Eingangswiderstand 419, der
dem Eingangswiderstand 123 von Fig. 4 äquivalent ist, ist
ein fotogesteuerter Widerstand. Der Eingangskondensator
24, der dem Eingangskondensator 224 von Fig. 4 äquivalent
ist, eine fotogesteuerte Kapazität. Das in Fig. 5b
dargestellte Foto-Verbindungs- und -Antwort-Array-Element
418 besitzt zwei zusätzliche Widerstände 421 und 422, die
die Trennvorrichtung für die neuronalen Verstärker des
neuronalen Netzes 10 bilden. Diese Widerstände 421 und
422 sind fotogesteuerte Verknüpfungswiderstände, die die
Verknüpfungen zwischen den einzelnen neuronalen Verstär
kern 201 bis 205 von Fig. 2 steuern. Durch geeignete
Manipulation der auftreffenden Strahlung, die von der
Foto-Stimulus-Einrichtung 600 von Fig. 1 zugeführt wird,
werden die beiden Verknüpfungswiderstände 421 und 422
oder einer von ihnen hochohmig genug, um den betreffenden
neuronalen Verstärker 201 bis 205 von den übrigen
Verstärkern 201 bis 205 wirksam zu trennen oder zu
isolieren, oder niederohmig genug, um alle neuronalen
Verstärker 201 bis 205 für eine gegebene Antwort in der
Schaltung wirken zu lassen. Als alternative Lösung können
auch lichtaktivierte Schalter anstelle von fotogesteuer
ten Widerständen verwendet werden. Die Manipulation der
auftreffenden Strahlung kann die Form einer Neuprogram
mierung eines computergesteuerten Laserscanners durch den
System-Operator annehmen oder darin bestehen, daß der
System-Operator einfach Lichtquellen und Objektive
hinzufügt/entfernt.
Fig. 6 zeigt eine vergrößerte Ansicht des neuronalen
Verstärkers 201 mit den oben erwähnten und in Fig. 5b
dargestellten Verknüpfungs- und zeitabhängigen Elementen
421, 422, 420 und 419. Die fotogesteuerten Widerstände
421 und 422 steuern die Eingangs- und Ausgangsverbindung
des neuronalen Verstärkers 201 und bestimmen durch das
von der Foto-Stimulus-Einrichtung 600 von Fig. 1
zugeführte Bild-Steuermuster, nach welchem die einzelnen
neuronalen Verstärker 201 bis 205 mit dem Netz 10 zu
verbinden sind. Die Steuerung der zeitlichen Antwort des
neuronalen Verstärkers erfolgt über seinen Eingangswider
stand 419 und seine Eingangskapazität 420. Der Konden
sator und der Widerstand 419 können so angeordnet sein,
daß sie den Eingang des neuronalen Verstärkers 201 direkt
überbrücken, oder in das lokale Rückkopplungselement
eingefügt sind. Für den Eingangskondensator 420 kann
gezeigt werden, daß der einzige Unterschied für diese
beiden Anordnungen in einer festen Änderung der am
Eingang gesehenen Kapazität besteht. Man sieht die
Kapazität des Kondensators 420, wenn dieser über dem
Eingangsanschluß angeordnet ist und die (1-A)-fache
Kapazität des Kondensators 420, wenn dieser als lokales
Rückkopplungselement verwendet wird, wobei A die
Leerlaufverstärkung des neuronalen Verstärkers 201 ist.
Um den Kondensator 420 nutzbar zu machen, muß er
entkoppelt sein. Dies wird dadurch erreicht, daß man
einen herkömmlichen Kondensator 320 mit hoher Kapazität,
wie er in Fig. 5b dargestellt ist, in Reihe mit dem
kleinen Verarmungsschicht-Kondensator 424 schaltet. Wenn
er sich, wie in Fig. 6 gezeigt, in dem Rückkopplungspfad
befindet, steigt die resultierende Kapazität am Eingang
des neuronalen Verstärkers 201 auf (1-A)C. Durch
Ausnutzung dieses Miller-Effekts ist es möglich, einen
großen Bereich von Antwortzeiten zu steuern, während die
Anordnung des Eingangskondensators 420 am Eingang einen
kleineren Bereich von steuerbaren Werten liefert.
Fig. 7 zeigt ein Flußdiagramm des Netzes 10, in dem die
Signalelemente getrennt dargestellt sind, um die
verschiedenen Signalfunktionen zu veranschaulichen. Das
auf dem Foto-Rezeptor-Array 100 abgebildete Bild oder
Objekt 20 bewirkt die verschiedenen synaptischen
Kopplungen zwischen den neuronalen Verstärkern des
neuronalen Verstärker-Arrays 200 (es sei angenommen, daß
die Netzwerk-Verknüpfung und -Antwort auf irgendeine
feste Konfiguration eingestellt ist). Die Axon-Ausgangs
signale 207 bis 210 des neuronalen Verstärker-Arrays 200
haben stabile binäre Ein- oder Aus-Zustände. Weiterhin
liefert jedes dieser Ausgangssignale, die aus Nullen
oder Einsen bestehen, sowie die Position oder der Pegel
gleich sind, Beiträge zu dem Ausgangsergebnis des Netzes
10. Deshalb hat jeder Ausgangspegel und jede Ausgangspo
sition gleiches Gewicht, so daß der Verlust eines
Ausgangssignales nur geringe Auswirkung auf das Ergebnis
des Prozesses hat. Dies läßt sich vergleichen mit einem
Binärwort, bei dem der Verlust oder ein Fehler in einem
hochwertigen Bit, z. B. dem Bit mit dem höchsten Stellen
wert (MSB) eine drastische Beeinträchtigung des Ergebnis
ses zur Folge hat. Diese gleichgewichteten Ausdrücke
stellen den Lernsatz dar und werden in dem Speicher
gespeichert. Der Lernsatz kann dazu verwendet werden,
eine Speicherschablone für das Gate-Array 300 zu
erzeugen. Das Gate-Array 300 ist ein programmierbares
Gate-Array, das verschiedene Schablonen speichern kann,
so daß dann, wenn etwas später ein gleichartiges Bild
erscheint, dieses eine 1 für jede Speicher-Übereinstim
mung und eine 0 für jede Speicher-Abweichung erzeugt. Bei
einem identischen Bild erscheint an allen Ausgangs-Gates
301 bis 305 eine 1. Das programmierbare Gate-Array 300
wird durch die Steuereinrichtung 500 gesteuert, die eine
Lernsatz-Steuervorrichtung ist, die für die Initialisie
rungs-Eingangssignale für das programmierbare Gate-Array
300 verantwortlich ist. Die Ausgangssignale 301 bis 305
des programmierbaren Gate-Arrays 300 werden einer
Summiereinrichtung 306 zugeführt. Das maximale Ausgangs
signal der Summiereinrichtung 306 ist invariant und
entspricht einer 1 an allen Eingängen, was eine Überein
stimmung mit dem Eingangsbild kennzeichnet. Zum Vergleich
arbeitet die Summiereinrichtung 306 wie ein Digital/Ana
log-Wandler, besitzt jedoch gleiche Gewichte an allen
Eingängen. Die Entscheidung ob das Eingangsbild identi
fiziert wird oder nicht, wird durch eine Schwellwertein
richtung 307 eingestellt, die so justiert ist, daß sie
einen vorbestimmten Pegel der Summiereinrichtung 6
passieren läßt. Diese Schwellwertfunktion ist kontinuier
lich veränderbar und ersetzt eine sehr viel komplexere
Gate-Struktur, die bei einer digitalen Realisierung zur
Bildung von Lernsatz-Schablonen benötigt würde. Das
Ausgangssignal der Schwellwerteinrichtung 307 stellt die
spezielle Entscheidung dar, die in spezieller Weise
weiterverwendet wird. Die Schwellwertvorrichtung 307
kann eine Komparatorschaltung oder dergl. sein.
Die Steuervorrichtung 500 liefert, wie oben erwähnt, die
Initialisierungswerte für das programmierbare Gate 300.
Sie kann zusätzlich verschiedene Arten von statistischen
Abstimmungsschemata zwischen den Bits des Lernsatzes
liefern. Wenn beispielsweise eine 1-Bit-Differenz
zwischen den Lernsätzen zweier identischer Objekte
besteht, kann die Steuervorrichtung 500 durch eine
Software-Routine den einen Kanal auswählen, der für die
1-Bit-Differenz verantwortlich ist. Je nach Anwendungs
fall können verschiedene Abstimmungs-Schemata implemen
tiert sein. Sobald die Steuervorrichtung 500 das Gate 300
initialisiert, bewirken von da an nachfolgende Lernsätze
eine Neuprogrammierung des Gates 300.
Eine allgemeine Anordnung für das neuronale Netz ist in
Fig. 8 gezeigt. Das Objekt 20 wird von der Abbildungsein
richtung 40, die hier als Objektiv dargestellt ist, auf
dem Foto-Rezeptor-Array 100 abgebildet. Wie oben erwähnt
wurde, kann das Objektiv durch eine Kathodenstrahlröhre,
einen Bildverstärker oder einen Laserscanner ersetzt
werden. Wenn es notwendig ist, eine durch Abtastprozesse
verursachte zeitliche Änderung des Bildes zu eliminieren,
kann eine Lichtröhre, z. B. ein räumlicher Grumman-
Lichtmodulator verwendet werden, um das abgetastete Bild,
das seriell mit einer periodischen Rate (30 Bilder pro
Sekunde beim Fernsehen) auftritt, in ein Bild ohne
signifikante periodische Fluktuationen umzuwandeln.
Alternativ kann die Zeitkonstante der Ansprechgeschwin
digkeit der einzelnen neuronalen Verstärker 201 bis 204
als Teil des Eingangsbildes eingestellt oder als
dynamisch gesteuertes Signalüberlagerungsmuster eingefügt
werden, um das Durchlaßband genügend weit unter die
periodische Abtastrate des Abtastsystems zu legen.
Das Foto-Rezeptor-Array 100 besteht aus n×n Fotowider
ständen oder ihren Äquivalenten, die bei Arrays begrenz
ter Größe diskrete Elemente oder bei größeren Arrays
Dünnfilmschichten sind. Die Anzahl der Elemente in dem
Foto-Rezeptor-Array 100 bestimmt die Auflösung des
neuronalen Netzes 10, wobei einfache geometrische Formen
kleine Elementenzahlen erfordern, während komplexe
Objekte sehr viele Elemente benötigen.
Jedes Element des Foto-Rezeptor-Arrays 100 ist mit den
neuronalen Verstärkern 201 bis 204 in der in Fig. 2
dargestellten Weise verbunden. Das Axon-Ausgangssignal
der individuellen neuronalen Verstärker wird einer
einzigen Gate-Struktur 300 eingegeben, die durch einen
vorangehenden Lernsatz vorprogrammiert ist.
Alternativ wird ein programmierbares Gate-Array 300 mit
genügend großem Speicher zur Speicherung von Lernsätzen
sowie dazu verwendet, auf diese Sätze sequentiell
zuzugreifen, wobei die Zustände der neuronalen Verstärker
abgerufen werden, um die Art des Eingangs-Stimulus zu
bestimmen.
Das programmierbare Gate 300 ist eine digitale Standard-
Schaltungskomponente, die in verschiedenen Technologien
einschließlich CMOS, NMOS und Galliumarsenid, realisiert
werden kann. Die jeweils gewählte Technologie hängt von
verschiedenen Faktoren ab einschließlich der gewünschten
Arbeitsgeschwindigkeit des Systems. Die Summiereinrich
tung 306 und die Schwellwerteinrichtung 307 sind
ebenfalls elektrische Standard-Komponenten.
Die Darstellung und Beschreibung war auf die am meisten
praxisnahen und bevorzugten Ausführungsbeispiele
gerichtet. Es versteht sich von selbst, daß Abweichungen
von den beschriebenen und dargestellten speziellen
Methoden und Aufbauformen dem einschlägigen Fachmann ohne
weiteres zur Verfügung stehen und angewendet werden
können, ohne daß der Rahmen der Erfindung verlassen wird.
Die Erfindung ist nicht auf die beschriebenen und
dargestellten Ausführungsbeispiele beschränkt sondern
umfaßt alle Modifizierungen, die in den Rahmen der
Ansprüche fallen.
Claims (26)
1. Fotostimuliertes abbildendes neuronales Netz zur
Erzeugung selbstgenerierender Lernsätze und assoziativer
Speicherung und Programmierbarkeit,
gekennzeichnet durch,
- - eine Abbildungseinrichtung (40) zur direkten Abbildung und Übertragung von physikalischen oder Sensor-Stimulus-Daten in das Netz (10),
- - ein Foto-Rezeptor-Array (100) zur Umwandlung der aus der Abbildungseinrichtung (40) kommenden Stimulus- Daten in eine Vielzahl von elektrischen Dendriten- Eingangssignalen, wobei die Abbildungseinrichtung (40) diese Daten radiometrisch auf dem Foto-Rezeptor- Array (100) abbildet,
- - und ein neuronales Verstärker-Array (200) mit einer Vielzahl von individuellen neuronalen Verstärkern (201-205), das in Abhängigkeit der aus dem Foto- Rezeptor-Array (100) kommenden Vielzahl von elek trischen Dendriten-Eingangssignalen eine Vielzahl von Axon-Ausgangssignalen an ein Gate-Array (300) liefert.
2. Netz nach Anspruch 1,
dadurch gekennzeichnet,
daß die Abbildungseinrichtung (440) ein Objektiv, eine
Kathodenstrahlröhre, ein Bildverstärker oder ein Laser
ist.
3. Netz nach Anspruch 1,
dadurch gekennzeichnet,
daß das Foto-Rezeptor-Array folgende Teile umfaßt:
- - eine Vielzahl von synaptischen fotogesteuerten Widerständen (101-140), die synapsenartige Verknüp fungen zwischen der Vielzahl von individuellen neuronalen Verstärkern (201-205) herstellen und in Abhängigkeit von den aus der Abbildungseinrichtung (40) kommenden Stimulus-Daten biologische synaptische Kopplungen emulieren, wobei diese Vielzahl von synaptischen fotogesteuerten Widerständen (101-140) auf die Wellenlänge und Intensität auftreffender Strahlungen mit einem spezifischen Widerstandswert reagiert und so das Rückkopplungs- und Kopplungs muster zwischen der Vielzahl von individuellen neuronalen Verstärkern bestimmt und wobei jeder synaptische fotogesteuerte Widerstand aus der genannten Vielzahl von synaptischen fotogesteuerten Widerständen (101-140) denselben Widerstandswert hat, wenn er durch die gleiche Leuchtintensität stimuliert wird,
- - eine Spannungsversorgungseinrichtung (60) zur Lieferung einer Betriebsspannung an die einzelnen neuronalen Verstärker, und
- - eine Vielzahl von fotogesteuerten Strombegrenzungs widerständen (140-141), die zwischen der Spannungs versorgungseinrichtung (60) und der genannten Vielzahl von synaptischen fotogesteuerten Widerstän den (101-140) angeordnet sind, wobei die synaptischen fotogesteuerten Widerstände (101-140) und die fotogesteuerten Strombegrenzungswiderstände (141-145) Foto-Feldeffekt-Transistoren, bipolare Fototran sistoren oder Fotodioden sind.
4. Netz nach Anspruch 3,
dadurch gekennzeichnet,
daß die Vielzahl von synaptischen fotogesteuerten
Widerständen (101-140) die Rückkopplung und Kopplung von
einem Ausgang eines individuellen neuronalen Verstärkers
(201-205) zu einem Eingang aller anderen individuellen
neuronalen Verstärker bewirken.
5. Netz nach Anspruch 4,
dadurch gekennzeichnet,
daß jede der individuellen neuronalen Verstärker (201-205)
einen sperrenden negativen Rückkopplungs-Axon-
Ausgang und einen aktivierenden positiven Rückkopplungs-
Axon-Ausgang besitzt und daß die aktivierenden Rückkopp
lungs-Axon-Ausgänge mit dem genannten Gate-Array (300)
verbunden sind.
6. Netz nach Anspruch 5,
dadurch gekennzeichnet,
daß die sperrenden negativen Rückkopplungs-Axon-Ausgänge
und die aktivierenden positiven Rückkopplungs-Axon-
Ausgänge der einzelnen neuronalen Verstärker (201-205)
durch die synaptischen fotogesteuerten Widerstände (101-140)
mit allen übrigen individuellen neuronalen Verstär
kern gekoppelt sind, so daß sich eine Anzahl von Kopplun
gen ergibt, die um 1 kleiner ist als die Anzahl der
individuellen neuronalen Verstärker.
7. Netz nach Anspruch 6,
dadurch gekennzeichnet,
daß die Vielzahl von individuellen neuronalen Verstärkern
(201-205) auf der Grundlage der eindeutigen Kopplung und
Rückkopplung, die eine Funktion der von der Abbildungs
einrichtung (40) kommenden Stimulus-Daten ist, in einen
Satz von stabilen Zuständen gelangt, der einen spezifi
schen Lernsatz darstellt, wobei dieser Lernsatz aus
binären Zuständen besteht, die, soweit Position oder
Pegel gleich sind, zu dem Lernsatz beitragen, wobei der
Lernsatz von dem von einer Steuereinrichtung gesteuerten
Gate-Array (300) gespeichert und benutzt wird, das eine
Vielzahl von Ausgangs-Gate-Signalen an eine Summierein
richtung (306) abgibt, in der diese Ausgangs-Gate-Signale
summiert und über eine Schwellwerteinrichtung (307) zum
Vergleich oder zur Speicherung abgegeben werden.
8. Netz nach Anspruch 7,
dadurch gekennzeichnet,
daß die Vielzahl von individuellen neuronalen Verstärkern
(201-205) in Abhängigkeit von einer vorbestimmten
Zeitkonstanten der Ansprechgeschwindigkeit und der
sigmoidalen Antwort jedes individuellen neuronalen
Verstärkers in nichtlinearer Weise in den genannten Satz
von stabilen Zuständen gelangt, wobei die sigmoidale
Antwort der individuellen neuronalen Verstärker jeden
Verstärker mit einer fernsteuerbaren Ausschalt- und
Sättigungs-Übertragungs-Kennlinie ausstattet.
9. Netz nach Anspruch 8,
bei dem die sigmoidale Antwort durch ein lokales
paralleles Rückkopplungsnetzwerk bewirkt wird,
- - das aus einem ersten Zweig mit Diode (220) und Zener diode (218) besteht, der von dem Eingang des individuellen neuronalen Verstärkers zu seinem Ausgang leitend ist, und
- - einem zweiten Zweig mit Diode (221) und Zenerdiode (219), der in entgegengesetzter Richtung leitend ist.
10. Netz nach Anspruch 8,
dadurch gekennzeichnet,
- - daß die vorbestimmte Zeitkonstante der Ansprechge schwindigkeit jedes individuellen neuronalen Verstärkers (201) die Zeitspanne bestimmt, in der der neuronale Verstärker nach der Erregung in einen stabilen Zustand gelangt, und
- - daß diese vorbestimmte Zeitspanne der Ansprechge schwindigkeit durch ein paralleles Netzwerk (222) bestimmt wird, das aus einem Widerstand (223) und einem Kondensator (224) besteht, die zum Eingang des neuronalen Verstärkers parallel geschaltet sind.
11. Netz nach Anspruch 10,
dadurch gekennzeichnet,
- - daß der Widerstand (223) und der Kondensator (224) des parallelen Netzwerks (222) fotogesteuert sind und
- - daß der fotogesteuerte Kondensator (224) von der Kapazität der Verarmungsschicht einer pn-Verbindung gebildet wird.
12. Netz nach Anspruch 10,
dadurch gekennzeichnet,
daß es ferner folgende Teile aufweist:
- - ein Foto-Verbindungs- und -Antwort-Array (400) das die Verknüpfung und zeitliche Steuerung des Netzes in Abhängigkeit von einer Vielzahl externer Stimulus- Signale ermöglicht, und
- - eine Foto-Stimulus-Einrichtung (600) zur Erzeugung eines Lichtmusters, das auf das Foto-Verbindungs- und Antwort-Array (400) auftrifft, um ein operationales Netz zu bilden, wobei das Lichtmuster die genannte Vielzahl von externen Stimulus-Signalen bildet.
13. Netz nach Anspruch 12,
dadurch gekennzeichnet,
daß das Foto-Verbindungs- und -Antwort-Array eine
Vielzahl von Elementen aufweist, die jeweils aus
folgenden Teilen bestehen:
- - wenigstens einer Trenneinrichtung für einen neurona len Verstärker zur Steuerung der Eingangs- und Ausgangs-Verbindung der einzelnen neuronalen Verstärker, wobei diese Trenneinrichtung so betätig bar ist, daß sie einen oder alle individuellen neuronalen Verstärker trennt und dadurch festlegt, wieviele der individuellen neuronalen Verstärker zu dem Lernsatz beitragen, und
- - einem parallelen Netzwerk, das aus einem Widerstand und einem Kondensator besteht und in einem Querzweig zu jedem der individuellen neuronalen Verstärker angeordnet ist.
14. Netz nach Anspruch 13,
dadurch gekennzeichnet,
- - daß die Trennvorrichtung für den neuronalen Verstär ker aus wenigstens einem fotogesteuerten Widerstand, vorzugsweise zwei fotogesteuerten Widerständen, besteht, wobei ein fotogesteuerter Widerstand parallel zum Eingang jedes der individuellen neuronalen Verstärkers und der zweite parallel zum Ausgang jedes neuronalen Verstärkers angeordnet ist, und
- - daß die vorbestimmte Zeitkonstante der Ansprechge schwindigkeit durch das parallele Netzwerk des Foto- Verbindungs- und -Antwort-Arrays bestimmt wird.
15. Netz nach Anspruch 14,
dadurch gekennzeichnet,
daß der Widerstand und der Kondensator fotogesteuert
sind.
16. Fotostimuliertes abbildendes neuronales Netz zur
Erzeugung selbstgenerierender Lernsätze und assozia
tive Speicherung und Programmierbarkeit,
gekennzeichnet durch ,
- - eine Abbildungseinrichtung (40) zur direkten Abbildung und Übertragung von physikalischen oder Sensor-Stimulus-Daten in das Netz, wobei diese Abbildungseinrichtung ein Objektiv, eine Kathoden strahlröhre, ein Bildverstärker oder ein Laserscanner ist,
- - ein Foto-Rezeptor-Antwort-Array (700) zur Umwandlung der von der Abbildungseinrichtung (40) kommenden Stimulus-Daten in eine Vielzahl von elektrischen Dendriten-Eingangssignalen und für die Herstellung der Verknüpfung und zeitlichen Steuerung des Netzes in Abhängigkeit von einer Vielzahl von Foto-Stimulus- Signalen, wobei die Abbildungseinrichtung die genannten Daten radiometrisch auf dem Foto-Rezeptor- und -Antwort-Array abbildet,
- - ein neuronales Verstärker-Array (200) mit einer Vielzahl von individuellen neuronalen Verstärkern (201-205), das als Antwort auf die genannte Vielzahl von elektrischen Dendriten-Eingangssignalen aus dem Foto-Rezeptor- und -Antwort-Array (700) eine Vielzahl von Axon-Ausgangssignalen an ein Gate-Array (300) liefert,
- - und eine Foto-Stimulus-Einrichtung (600) zur Lieferung eines Lichtmusters, das auf das Foto- Verbindungs- und Antwort-Array auftrifft, um ein operationales Netz zu bilden, wobei das Lichtmuster die genannte Vielzahl von externen Stimulus-Signalen bildet.
17. Netz nach Anspruch 16,
dadurch gekennzeichnet,
daß das Foto-Rezeptor- und -Antwort-Array folgende Teile
aufweist:
- - eine Vielzahl von synaptischen fotogesteuerten Widerständen (101-140), die synapsenartige Verknüp fungen zwischen der Vielzahl von individuellen neuronalen Verstärkern (201-205) herstellen und in Abhängigkeit von den aus der Abbildungseinrichtung (40) kommenden Stimulus-Daten biologische synaptische Kopplungen emulieren, wobei dieser Vielzahl von synaptischen fotogesteuerten Widerständen (101-140) auf die Wellenlänge und Intensität auftreffender Strahlungen mit einem spezifischen Widerstandswert reagieren und so das Rückkopplungs- und Kopplungs muster zwischen der Vielzahl von individuellen neuronalen Verstärkern bestimmen und wobei jeder synaptische fotogesteuerte Widerstand aus der genannten Vielzahl von synaptischen fotogesteuerten Widerständen (101-140) denselben Widerstandswert besitzt, wenn er durch die gleiche Leuchtintensität stimuliert wird, wobei diese Vielzahl von synap tischen fotogesteuerten Widerständen Rückkopplungen und Kopplungen von einem Ausgang eines individuellen neuronalen Verstärkers zu einem Eingang aller anderen neuronalen Verstärker bewirken,
- - eine Spannungsversorgungseinrichtung zur Lieferung einer Betriebsspannung an jeden der individuellen neuronalen Verstärker,
- - eine Vielzahl von fotogesteuerten Strombegrenzungs widerständen, die zwischen der Spannungsversor gungseinrichtung und der Vielzahl von synaptischen fotogesteuerten Widerständen angeordnet sind, wobei die Vielzahl der synaptischen fotogesteuerten Widerstände und die Vielzahl der fotogesteuerten Strombegrenzungswiderstände Foto-Feldeffekt-Transi storen, bipolare Fototransistoren oder Fotodioden sind,
- - eine Trennvorrichtung für die neuronalen Verstärker zur Steuerung der Eingangs- und Ausgangs-Verbindung jedes individuellen neuronalen Verstärkers, und
- - ein aus einem Widerstand und einem Kondensator bestehendes Netzwerk, das in einem Querzweig zu den individuellen neuronalen Verstärkern angeordnet ist.
18. Netz nach Anspruch 17,
dadurch gekennzeichnet,
daß die Trennvorrichtung der neuronalen Verstärker aus
wenigstens einem, vorzugsweise zwei fotogesteuerten
Widerständen besteht, wobei einer der fotogesteuerten
Widerstände parallel zum Eingang jedes der individuellen
neuronalen Verstärker und der zweite parallel zum Ausgang
jedes der individuellen neuronalen Verstärker angeordnet
ist.
19. Netz nach Anspruch 18,
dadurch gekennzeichnet,
daß die Vielzahl der individuellen neuronalen Verstärker
jeweils einen sperrenden negativen Rückkopplungs-Axon-
Ausgang und einen aktivierenden positiven Rückkopplungs-
Axon-Ausgang besitzen, wobei die aktivierenden positiven
Rückkopplungs-Axon-Ausgänge mit dem Gate-Array verbunden
sind und die sperrenden negativen Rückkopplungs-Axon-
Ausgänge und die aktivierenden positiven Rückkopplungs-
Axon-Ausgänge jedes individuellen neuronalen Verstärkers
durch die synaptischen fotogesteuerten Widerstände mit
allen verbleibenden individuellen neuronalen Verstärkern
verbunden sind, so daß sich eine Anzahl von Kopplungen
ergibt, die um 1 kleiner ist als die Anzahl der indivi
duellen neuronalen Verstärker.
20. Netz nach Anspruch 19,
dadurch gekennzeichnet,
daß die Vielzahl individueller neuronaler Verstärker auf
der Basis der eindeutigen Kopplung und Rückkopplung, die
eine Funktion der von der Abbildungseinrichtung geliefer
te Stimulus-Daten ist, in einen Satz von stabilen
Zuständen übergehen, die einen spezifischen Lernsatz
bilden, der aus binären Zuständen besteht, die, insoweit
als Position und Pegel gleich sind, zu dem Lernsatz
beitragen, wobei der Lernsatz von dem Gate-Array
gespeichert und benutzt wird, der von einer Steuerein
richtung gesteuert wird, wobei das Gate-Array eine
Vielzahl von Ausgangs-Gate-Signalen an eine Summierein
richtung abgibt, in der die Ausgangs-Gate-Signale
summiert und zum Vergleichen oder zur Speicherung durch
eine Schwellwerteinrichtung geleitet werden, wobei die
Vielzahl von individuellen neuronalen Verstärkern in
nichtlinearer Weise in die genannten stabilen Zustände
übergeht in Abhängigkeit von einer vorbestimmten
Zeitkonstanten der Ansprechgeschwindigkeit und der
sigmoidalen Antwort jedes individuellen neuronalen
Verstärkers, wobei die sigmoidale Antwort jedes indivi
duellen neuronalen Verstärkers diesem eine fernsteuerbare
Ausschalt- und Sättigungs-Übertragungs-Kennlinie
verleiht, und die vorbestimmte Zeitkonstante der
Ansprechgeschwindigkeit jedes individuellen neuronalen
Verstärkers die Zeitdauer bestimmt, die benötigt wird,
damit der individuelle neuronale Verstärker nach seiner
Anregung in einen stabilen Zustand übergeht.
21. Netz nach Anspruch 17,
dadurch gekennzeichnet,
daß die vorbestimmte Zeitkonstante der Ansprechgeschwin
digkeit durch das parallele Netzwerk des Foto-Rezeptor-
und Antwort-Arrays bestimmt wird.
22. Verfahren zur Gewinnung selbstgenerierender Lernsätze
und assoziativer Speicherung und Programmierbarkeit,
gekennzeichnet durch,
folgende Verfahrensschritte:
- - direkte Abbildung und Übertragung von physikalischen oder von Sensor-Stimulus-Daten auf bzw. zu einem Foto-Rezeptor-Array eines fotostimulierten abbilden den neuronalen Netzes mit radiometrischer Abbildung der Stimulus-Daten auf dem Foto-Rezeptor-Array,
- - Umwandlung der Stimulus-Daten in eine Vielzahl von elektrischen Dendriten-Eingangssignalen, und
- - Lieferung einer Vielzahl von Axon-Ausgang-Signalen an ein Gate-Array in Abhängigkeit von der Vielzahl von elektrischen Dendriten-Eingangssignalen.
23. Verfahren nach Anspruch 22,
dadurch gekennzeichnet,
daß der Umwandlungsschritt aus den Verfahrensschritten
besteht,
- - daß die Stimulus-Daten durch eine Vielzahl von synaptischen fotogesteuerten Widerständen abgeleitet werden, die das Foto-Rezeptor-Array enthalten und synapsenartige Verknüpfungen zwischen einer Vielzahl von individuellen neuronalen Verstärkern bewirken, wobei die Vielzahl synaptischer fotogesteuerter Widerstände biologische synaptische Kopplungen emulieren, die von den Stimulus-Daten abhängig sind,
- - daß zwischen der Vielzahl individueller neuronaler Verstärker eine Rückkopplung hergestellt wird, und
- - daß der Vielzahl individueller neuronaler Verstärker eine Initialisierungsspannung zugeführt wird.
24. Verfahren nach Anspruch 23,
dadurch gekennzeichnet,
daß die Bildung einer Vielzahl von Axon-Ausgangssignalen
die Verfahrensschritte beinhaltet,
- - daß die Vielzahl von elektrischen Dendriten-Eingangs signalen in die genannte Vielzahl von Axon-Ausgangs signalen umgewandelt wird, indem diese Eingangssig nale durch die Vielzahl von individuellen neuronalen Verstärkern geleitet werden, wobei die neuronalen Verstärker durch die synaptischen Kopplungen und Rückkopplungen in einen Satz von stabilen Zuständen übergeht, und daß dieser Satz von stabilen Zuständen zu dem Gate- Array übertragen wird, in welchem sie für weitere Lernfunktionen und Vergleichsvorgänge elektronisch summiert werden.
25. Verfahren nach Anspruch 24,
dadurch gekennzeichnet,
daß das Verfahren zur Erzeugung selbstgenerierender
Lernsätze und assoziativer Speicherung und Programmier
barkeit ferner die Verfahrensschritte enthält,
- - daß die Eingangs- und Ausgangsverbindungen jedes neuronalen Verstärkers aus der genannten Vielzahl von individuellen neuronalen Verstärkern gesteuert werden, wobei dieses Steuern das Schalten von neuronalen Verstärkern aus der genannten Vielzahl von individuellen neuronalen Verstärkern in das und aus dem fotostimulierten abbildenden neuronalen Netz beinhaltet, und
- - daß die zeitliche Antwort des fotostimulierten abbildenden neuronalen Netzes gesteuert wird.
26. Verfahren nach Anspruch 25,
dadurch gekennzeichnet,
daß der Verfahrensschritt des Steuerns der zeitlichen
Antwort das Einführen einer Zeitkonstanten der Ansprech
geschwindigkeit in das fotostimulierte abbildende
neuronale Netz umfaßt.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE4035559A DE4035559C2 (de) | 1990-11-08 | 1990-11-08 | Fotostimuliertes neuronales Netz |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE4035559A DE4035559C2 (de) | 1990-11-08 | 1990-11-08 | Fotostimuliertes neuronales Netz |
Publications (2)
Publication Number | Publication Date |
---|---|
DE4035559A1 true DE4035559A1 (de) | 1992-05-14 |
DE4035559C2 DE4035559C2 (de) | 2000-03-02 |
Family
ID=6417892
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE4035559A Expired - Fee Related DE4035559C2 (de) | 1990-11-08 | 1990-11-08 | Fotostimuliertes neuronales Netz |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE4035559C2 (de) |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2220780B (en) * | 1988-07-05 | 1992-12-23 | Mitsubishi Electric Corp | Neurocomputer |
JP2738724B2 (ja) * | 1988-11-25 | 1998-04-08 | 松下電器産業株式会社 | 空間光変調素子及び神経ネットワーク回路 |
-
1990
- 1990-11-08 DE DE4035559A patent/DE4035559C2/de not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
DE4035559C2 (de) | 2000-03-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE112018005726B4 (de) | Resistive verarbeitungseinheit auf zählerbasis für programmierbare und rekonfigurierbare künstliche neuronale netzwerke | |
DE69527767T2 (de) | Neuronales Netzwerk mit einbegriffenen direkten optischen Bildern | |
DE4042139C2 (de) | Neuron-Einheit | |
DE112018003231T5 (de) | Neuromorphe verarbeitungsvorrichtung | |
DE68925156T2 (de) | Integrierte Halbleiterschaltung für neurales Netzwerk | |
DE102019116305A1 (de) | Pipelining zur verbesserung der inferenzgenauigkeit neuronaler netze | |
DE69126555T2 (de) | Verfahren zur Klassifikation in einem hierarchisierten neuronalen Netzwerk | |
DE68928484T2 (de) | Verfahren zum erkennen von bildstrukturen | |
DE112018000272T5 (de) | Resistive Verarbeitungseinheit mit hysteretischen Aktualisierungen zum Trainieren neuronaler Netze | |
DE112016003245T5 (de) | Resistive Verarbeitungseinheit | |
DE69019211T2 (de) | Analoges programmierbares neuronales Netzwerk. | |
DE112019005119T5 (de) | Abgleichtechniken zum angleichen des symmetriepunktes als null-gewichtungspunkt in analogen kreuzungspunktanordnungen | |
DE112020002186B4 (de) | Dnn-training mit asymmetrischen rpu-einheiten | |
US5255362A (en) | Photo stimulated and controlled imaging neural network | |
Zhao et al. | Synchronization of coupled memristive competitive BAM neural networks with different time scales | |
DE3938645C1 (de) | ||
DE69815390T2 (de) | Neuronale netzwerke | |
DE69607166T2 (de) | Elektronische Anordnung zur Durchführung von Konvolutionsoperationen | |
DE69627948T2 (de) | Rechenschaltung mit sofortiger Erkennungsfunktion und Verfahren zur sofortigen Erkennung | |
DE112021002939T5 (de) | Effiziente kachel-zuordnung für zeilenweise zuordnung in neuronalen faltungsnetzen zur analogen inferenz in künstliche-intelligenz-netzen | |
DE102019115092A1 (de) | Bestimmen einer Objekterkennungsrate eines künstlichen neuronalen Netzes zur Objekterkennung für ein automatisiertes Kraftfahrzeug | |
DE112020005613T5 (de) | Neuromorphe Einheit mit Kreuzschienen-Array-Struktur | |
DE4035559C2 (de) | Fotostimuliertes neuronales Netz | |
EP0643353A1 (de) | Vorrichtung und Verfahren zur Datenverarbeitung | |
DE69522313T2 (de) | Analoger Fuzzy-Prozessor mit Temperaturkompensation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
8110 | Request for examination paragraph 44 | ||
D2 | Grant after examination | ||
8364 | No opposition during term of opposition | ||
8339 | Ceased/non-payment of the annual fee |