DE4035559C2 - Fotostimuliertes neuronales Netz - Google Patents
Fotostimuliertes neuronales NetzInfo
- Publication number
- DE4035559C2 DE4035559C2 DE4035559A DE4035559A DE4035559C2 DE 4035559 C2 DE4035559 C2 DE 4035559C2 DE 4035559 A DE4035559 A DE 4035559A DE 4035559 A DE4035559 A DE 4035559A DE 4035559 C2 DE4035559 C2 DE 4035559C2
- Authority
- DE
- Germany
- Prior art keywords
- photo
- amplifiers
- input
- neural
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/067—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means
- G06N3/0675—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means using electro-optical, acousto-optical or opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/192—Recognition using electronic means using simultaneous comparisons or correlations of the image signals with a plurality of references
- G06V30/194—References adjustable by an adaptive method, e.g. learning
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Neurology (AREA)
- Computational Linguistics (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Databases & Information Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Description
Die Erfindung betrifft künstliche neuronale Netze und
Neuro-Computersysteme zur Informationsverarbeitung. Sie
betrifft speziell fotostimulierte neuronale Netze.
Standard-Computer oder Informations-Verarbeitungssysteme
basieren derzeit auf verschiedenen Implementierungen der
von-Neumann-Architektur. Diese Art von Informationsverar
beitungssystemen beruht auf Algorithmen zur Implementie
rung der verschiedenen Funktionen, die zur Lösung eines
speziellen Problems benötigt werden. Damit das spezielle
Problem durch das Informationsverarbeitungssystem oder
den Computer gelöst werden kann, muß ein Individuum, und
zwar ein Computer-Programmierer, das spezielle Problem
voll verstehen und dann in der Lage sein, einen Algorith
mus oder eine Reihe von Algorithmen zu schaffen, die in
der Lage sind, eine Lösung des speziellen Problems
logisch zu berechnen. Das Computersystem stellt im
Grundsatz ein "dummes" System dar, das nicht selbst denkt
sondern in einem Schritt-für-Schritt-Prozeß die mit einem
gegebenen Algorithmus verbundenen Instruktionen logisch
implementiert, um zu einer Lösung zu kommen. Obwohl
Computer "dumm" sind, können sie zahlreiche Routine-
Berechnungen pro Microsekunde ausführen und sind deshalb
für viele Anwendungen extrem nützlich. Das dieser Art von
Computersystemen innewohnende Problem besteht darin, daß
der Programmierer zunächst Funktionen theoretisch läsen
oder formulieren muß, um das spezielle Problem zu lösen,
falls dies überhaupt möglich ist, bevor die Fähigkeiten
des Computers, Zahlen zu verarbeiten, genutzt werden
können. Ein zweites Problem, das hiermit jedoch zusammen
hängt, tritt auf, falls die spezifische Aufgabe oder das
spezifische Problem nicht mit einer Reihe von logischen
oder arithmetischen Schritten gelöst werden kann, die mit
einer Lösung des speziellen Problems abschließen. Selbst
in Fällen, in denen die vollständige Funktion oder
Aufgabe, die mit einem gegebenen Problem verbunden sind,
bekannt sind, kann es trotzdem unmöglich sein, einen
Algorithmus zu entwickeln, um die Funktion in einem
bestimmten Problemfall zu implementieren, weil unendlich
viele Beispiele existieren. Diese ist z. B. der Fall bei
Kraftfahrzeug-Autopiloten, Sprach- und Handschrift-
Übersetzern und Identifiziersystemen für feindliche
Flugzeuge oder dergl.
Die Rechenfähigkeiten und die Computer sind derart
fortgeschritten, daß zahlreiche Probleme gelöst werden
können. Sie bieten außerordentlich hohe Geschwindigkeit,
Genauigkeit und Bequemlichkeit. Trotzdem ist der Computer
in vielen Fällen noch nicht in der Lage, die allgemeine
Klasse von Problemen zu lösen, die mit der Erkennung und
Identifizierung zusammenhängen. Außerdem sind Standard-
Computer nicht in der Lage, sich an neue oder ändernde
Situationen anzupassen oder während des Betriebes zu
lernen. Diese Art von Problemen begrenzt die Entwicklung
von fortgeschrittener Robotertechnik und von Steuersys
temen. Für biologische Systeme höherer Ordnung stellen
Erkennungs- und Identifizierungsfunktionen hingegen
relativ einfache Aufgaben dar.
Neuronales Rechnen (neurocomputing) ist eine neue Form
der Informationsverarbeitung, die sich als eine anerkann
te Alternative zu der von-Neumann-Architektur etabliert.
Neuronale Computer sind im Grundsatz nichtprogrammierte
adaptive Informationsverarbeitungssysteme, die in der
Lage sind, Assoziationen zwischen Objekten in Reaktion
auf ihre Umgebung zu entwickeln. Sie stehen damit im
Gegensatz zu der Ausführung oder Implementierung von
Schritt-für-Schritt-Prozeduren die durch einen Algorith
mus umrissen sind. Der Neurocomputer erzeugt seine
eigenen Regeln, die die erwähnte Assoziation beherrschen,
verfeinert diese Regeln auf der Basis seiner eigenen
Beispiele und lernt aus seinen Fehlern durch diese Art
von Versuch-und-Fehler-Verarbeitung. Im Grundsatz
versucht der Neurocomputer, es der Funktion eines
menschlichen Gehirns in ihrer elementarsten Form
gleichzutun. Das menschliche Gehirn ist ein außerordent
liches Rechen- und Informationsverarbeitungssystem, das
besonders gut geeignet ist für Erkennungs-Probleme.
Während digitale Standardcomputer weit besser zur Lösung
von Rechenproblemen geeignet sind, sind Neurocomputer
bestens geeignet zur Lösung von komplexen Mustererken
nungs-Problemen, die bei Zielerkennungsproblemen,
kontinuierlicher Spracherkennung und der Analyse von
Handschriften auftreten.
Während die Funktion des digitalen Standard-Computers
allgemein bekannt ist, kann die Funktion des menschlichen
Gehirns nur durch grobe Beobachtungen und Funktionen
charakterisiert werden. Deshalb ist der gegenwärtige. Stand
des neuronalen Rechnens bis zu dem Punkt der Verwendung von
Basisschaltungen zur Implementierung kleiner assoziativer
Speicher und Programmierbarkeit vorgedrungen. Die
assoziative Speicherung und die Programmierbarkeit bestehen
im einfachsten Sinn darin, daß die Möglichkeit besteht, zu
lokalisieren und Daten von verschiedenen Orten wieder zu
gewinnen, ohne daß eine spezielle Adresse für den Ort
vorhanden ist oder genau bekannt ist, was zu lokalisieren
ist. Mit anderen Worten, der Neurocomputer arbeitet wie das
menschliche Gehirn, indem er versucht, gewisse Ereignisse
aus dem Speicher aufzurufen, indem sie mit anderen
Ereignissen assoziiert werden. Diese Art von Speicherung und
Programmierbarkeit ermöglicht eine leichtere Erkennung von
Objekten oder Mustern, ohne daß genau bekannt ist, was das
Objekt oder Muster ist.
Der Stand der Technik enthält eine Reihe von Papieren und
Artikeln, die sich mit dem Gebiet des neuronalen Rechnens
befassen. Der Artikel "artificial neural networks" von John
J. Hopfield, IEEE, circuits and devices magazine, 8755-
3996/88/0900-0003, diskutiert die Grenzen digitaler
Standardcomputer für Erkennungs-Probleme und die Vorteile
von neuronalen Systemen zur Lösung von Problemen dieser Art.
Der Artikel offenbart ferner das grundsätzliche Hopfield-
Netz, das im wesentlichen aus einem Satz von
Verstärkern mit sigmoidalen Eingangs/Ausgangs-Kennlinien,
einer Eingangskapazität, einem Ausgangswiderstand und
einer Mehrzahl von Widerstandverbindungen besteht.
Dieses elektrische Modell eines neurobiologischen Netzes
ist eines der Grund-Baublöcke für neuronale Computer
netze. In dem Artikel "Computing With Neural Circuits"
von John J. Hopfield et. al., Sience Vol. 233, 8.8.1986,
diskutieren die Verfasser die jüngste Arbeit, die darauf
gerichtet ist, wie spezielle Berechnungen unter Verwen
dung eines geeigneten Musters von neuronalen Verstärkern
durchgeführt werden können, die in einem einfachen
dynamischen Modellsystem synaptisch gekoppelt sind. Die
dem Artikel zugrundeliegende Basisprämisse besteht darin,
daß ein Modell von nichtlinearen neuronalen Verstärkern,
die in einem Netz mit symetischen Verbindungen organi
siert sind, eine natürliche Fähigkeit zur Lösung von
Optimierungsproblemen besitzt. Der Schlüssel für die
Funktion des Hopfield-Netzes ist die große Interkonek
tivität zwischen den elektrischen Komponenten. Das
Basisnetz besteht im wesentlichen aus den gleichen
Elementen wie in dem vorerwähnten Artikel von Hopfield.
In einem dritten Artikel "Neural Networks And Physical
Systems With ....... Collectiv Computational Abilities"
von John F. Hopfield, "Proceedings National Academy of
Science, Band 79, Seiten 2554 bis 2558, April 1982,
diskutiert Hopfield einen dritten Aspekt von neuronalen
Netzen, der darin besteht, daß das Speichern in solchen
neuronalen Netzen in Form der stabilen Zustände bewerk
stelligt wird, in die die neuronalen Verstärker des
neuronalen Netzes sich eventuell ordnen. Hopfield weist
darauf hin, daß die Verbindung zwischen einfachen
elektrischen Schaltungen und den komplexen Rechner-
Eigenschaften von Nervensystemen höherer Ordnung das
Auftauchen neuer Rechner-Fähigkeiten aus dem kollektiven
Verhalten einer großen Anzahl von einfachen Verarbei
tungselementen, beispielsweise dem einzelnen Neuron oder
neuronalem Verstärker, sein kann. Die drei Artikel von
Hopfield diskutieren und behandeln ein einfaches
Arbeitsmodell des neuronalen Grundnetzes, das elektrische
Standardkomponenten verwendet.
Entwicklungen zu künstlichen neuronalen Netzen bieten
neue und nützliche Konzepte. Wie insbesondere in den drei
genannten Artikeln dargelegt wurde, hat es sich gezeigt,
daß es durch eine hochohmige Kopplung (weiche Kopplung)
mit positiver (aktivierender) Rückkopplung und negativer
(sperrender) Rückkopplung in einem Feld von Verstärkern,
die jeweils sigmoidale Übertragungs-Kennlinien (Fernab
schaltung und Sättigung) haben, möglich ist, daß
biologische neuronale System zu imitieren. Ein anliegen
der Satz von Eingangsbedingungen erzeugt analoge
Pegelübergänge, die in und zwischen andere Verstärker
gekoppelt werden und eine dynamische Änderung von
Pegelsätzen herbeiführen, die sich eventuell in quasi
stabilen Zuständen entweder in Sättigung oder Abschalten
niederschlagen, wie sie durch sigmoidale Antworten
bewirkt werden. Diese Zustände, die für einen gegebenen
Eingangsdatensatz eindeutig sind, können dann als
Repräsentanten eines Lernsatzes für die spezielle
Eingangsgröße betrachtet werden. Für einen neuen
Eingangsdatensatz wird das künstliche neuronale Netz
wieder initialisiert und arbeitet, bis es einen neuen
Lernsatz vorlegt und so weiter.
Die Hauptschwierigkeit und der Nachteil der vorerwähnten
neuronalen Netze bestehen darin, daß sie eine große Anzahl
diskreter elektrischer Eingaben (Dendriten) erfordern
können, nämlich eine für jeden Verstärker (Neuron). Dies
macht es notwendig, die erforderlichen
Signalleitungsverbindungen und Signalverarbeitungen und
-kodierungen vorzusehen, um das spezielle künstliche
neuronale Netz zu dienen. Außerdem müssen die Aktivierungs-
und Sperrfunktionen, die durch die Kopplungswiderstände
(Synapsen) gesteuert werden, für verschiedene
Eingangsdatensätze geändert werden, was bedingt, daß die
Widerstände auf neue Werte gesetzt werden. Auch müssen die
Eingangs-Bilddaten verarbeitet werden, bevor sie in das
spezielle künstliche neuronale Netz eingegeben werden.
Die vorliegende Erfindung vermeidet die Nachteile und
Schwierigkeiten von bekannten künstlichen neuronalen Netzen,
indem sie eine direkte Abbildung und Übertragung der
physikalischen Erscheinungsform von durch Sensoren
gewonnenen Daten in den Prozeß und synaptische Kopplungen
vorsieht, die sich in Abhängigkeit von den abgebildeten
Daten ändern, so daß die Notwendigkeit einer Änderung der
Werte vermieden wird.
Die DE 39 22 129 A1 zeigt ein fotostimuliertes neuronales
Netz, wobei eine Abbildungseinrichtung zur Übertragung von
physikalischen Daten in das Netz vorgesehen ist.
Aus der EP-A2-0 375 165 ist ein fotostimuliertes neuronales
Netz bekannt, wobei ein Fotorezeptor-Array zur Umwandlung
der aus einer Abbildungseinrichtung kommenden Daten in eine
Vielzahl von elektrischen Signalen vorgesehen ist.
Das Papier "An Optically Programmed Neural Network" von C.
D. Kornfeld et. al., das auf der IEEE SPIE Konferenz in San
Diego, Californien, am 18. Juni 1988 vorgelegt wurde,
offenbart, wie aus dem Titel hervorgeht, eine Möglichkeit
für ein optisch programmiertes neuronales Netz, das in einer
geschlossenen Schleife mit einem externen Computer
kombiniert ist und die Netz-Kopplungen durch einen
konvergierenden iterativen Prozeß berechnet. Das Papier
behandelt im wesentlichen das Design, die Konstruktion und
die Funktion eines hybriden elektroopischen Computers zur
Verwendung in neuronalen Netzen. Das System ist um ein
Fotosensor-Array aufgebaut. Das Array stellt in Verbindung
mit seinen Summierverstärkern ein einfaches Element dar, das
die von einem neuronalen Netz geforderte Multiplikation
ausführt. Das System besitzt einen in die Schleife zwischen
dem Eingang und dem Ausgang eingefügten Computer, der zur
Steuerung und Konfigurierung des Arrays dient. Der Computer
enthält ein optisches Programm, das einen iterativen
Speicher des Hopfield-Typs implementiert.
Der zuletzt genannte Stand der Technik weist den Nachteil
auf, daß ein stabiler Zustand des Netzes erst nach der
Ausführung einer Vielzahl iterativer Schritte erreicht
werden kann. Einerseits wird dadurch eine gewisse Zeit
benötigt, bis dieser Zustand erreicht ist, und darüber
hinaus ist das Vorsehen der Rückführschleife sowie von
Mitteln zur Beurteilung, ob die Iterationsschritte
abgebrochen werden können, aufwendig.
Ausgehend von dem oben genannten Stand der Technik ist es
Aufgabe der vorliegenden Erfindung, ein neuronales Netz
bereitzustellen, durch das die Verarbeitung von
Bildinformation vereinfacht wird.
Diese Aufgabe wird durch die Merkmale der unabhängigen
Ansprüche gelöst. Die abhängigen Ansprüche bilden den
zentralen Gedanken der Erfindung in besonders vorteilhafter
Weise weiter.
Bildinformation wird also direkt in optischer Form auf ein
neuronales Netz übertragen und Verstärker liefern
Ausgangssignale, die von optisch erzeugten elektrischen
Eingangssignalen abhängen.
Die vorliegende Erfindung unterscheidet sich in eindeutiger
Weise von nächstkommendem Stand der Technik dadurch, daß sie
mit einem neuronalen Netzwerk mit Fotoabbildung und 7
gesteuerter Kopplung arbeitet, um neue Bilder zu lernen und
sie später durch diesen Lernsatz zu detektieren. Das
neuartige Konzept der Erfindung besteht darin, daß sie
direkt mit Bildern arbeitet, die einem Foto-Rezeptor-Array
aufgeprägt werden, um eindeutige Gewichte, Kopplungen und
Verknüpfungen zwischen neuronalen Verstärkern herzustellen
und neuronalartige Lernsätze von stabilen
Verstärkerzuständen zu erzeugen.
Die Einzigartigkeit und die Nützlichkeit des erfindungs
gemäßen Netzes beruht auf der Tatsache, daß die Schnitt
stelle zu dem Netz lediglich erfordert, daß eine
Dateneingabe optisch
auf die Fotorezeptoren abgebildet wird, um
eine parallele Datenübertragung zu bewirken, ohne daß
eine elektrische Signalverarbeitung oder Leiterverbindun
gen benötigt werden. Der Ausdruck radiometrisch wird zu
einem Fachausdruck auf diesem Gebiet und ist so defi
niert, daß er den emittierten oder reflektierten Bereich
des elektromagnetischen Spektrums beinhaltet. Die
Funktionen des Netzes gleichen denen eines biologischen
neuronalen Netzes, da alle Neuronen den Stimulus direkt
durch synaptische Kopplungen aufnehmen, wobei die
Fotorezeptoren die Aktivierungs- und Sperrfunktionen
liefern. Anwendungsgebiete für das erfindungsgemäße Netz
sind Erkennungs- und Identifizierungsprobleme in
Verbindung mit fortschrittlicher Robotertechnik und
Steuersystemen sowie komplexe Mustererkennungsprobleme,
die dem Verstehen kontinuierlicher Sprache, der Identi
fizierung von handgeschriebenen Buchstaben und der
Zielbestimmung innewohnen.
Zur Veranschaulichung der Erfindung sind in den Zeichnun
gen die derzeit bevorzugten Ausführungsformen darge
stellt. Die Erfindung ist jedoch nicht notwendigerweise
auf die dort gezeigten Anordnungen und Hilfsmittel
beschränkt.
Fig. 1 zeigt ein Blockdiagramm des fotostimulierten
abbildenden neuronalen Netzes gemäß der Erfin
dung,
Fig. 1a zeigt ein Blockschaltbild einer Variante des
fotostimulierten abbildenden neuronalen Netzes
gemäß der Erfindung,
Fig. 2 zeigt eine schematische Darstellung des Fotore
zeptor-Arrays gemäß der Erfindung,
Fig. 3a zeigt eine Darstellung der sigmoidalen Antwort
charakteristik des neuronalen Verstärkers gemäß
der Erfindung,
Fig. 3b zeigt die Schaltung eines individuellen neurona
len Verstärkers mit Zener-Begrenzung,
Fig. 4 zeigt die Schaltung eines individuellen neurona
len Verstärkers mit synaptischer fotogesteuerter
Widerstandskopplung und den zugeordneten RC-
Zeitkonstanten-Elementen,
Fig. 5a zeigt eine schematische Darstellung des Foto-
Verbindungs- und -Antwort-Arrays gemäß der
Erfindung,
Fig. 5b zeigt die Schaltung eines individuellen Elements
in dem Foto-Verbindungs- und -Antwort-Array
gemäß der Erfindung,
Fig. 6 zeigt die Schaltung eines individuellen neurona
len Verstärkers mit Verbindungswiderständen,
Fig. 7 zeigt ein Flußdiagramm des fotostimulierten
abbildenden neuronalen Netzes gemäß der Erfin
dung,
Fig. 8 zeigt eine schematische Darstellung des foto
stimulierten abbildenden neuronalen Netzes gemäß
der Erfindung.
Die Funktionen des fotostimulierten und kontrollierten
abbildenden neuronalen Netzes sind ähnlich wie diejenigen
eines biologischen neuronalen Netzes, da alle neuronalen
Verstärker (Neuronen) den Stimulus (Dendriten) direkt und
durch synaptische Kopplungen (Synapsen) aufnehmen, wobei
die Aktivierungs- und Sperrfunktionen von den Fotorezep
toren erbracht werden. In Fig. 1 ist ein Blockschaltbild
des fotostimulierten und -gesteuerten abbildenden
neuronalen Netzes 10 dargestellt. Ein Objekt 20, das
erkannt oder detektiert werden soll, wird zu einer
Abbildungseinrichtung 40 übertragen, deren Inhalt den
Eingang für das Fotorezeptor-Array 100 bildet. Die
Abbildungseinrichtung 40 kann ein Objektiv, eine
Kathodenstrahlröhre, ein Bildverstärker, ein Laserscanner
oder ein beliebiges anderes Mittel sein, das eine direkte
Abbildung und Übertragung von physikalischen oder durch
Sensoren abgeleiteten Daten über das Fotorezeptor-Array
100 in das Netz 10 und damit eine parallele Dateneingabe
in das Netz ermöglicht. Die Daten aus der Abbildungsein
richtung 40 werden radiometrisch auf dem Fotorezeptor-
Array 100 abgebildet und in diesem in eine Vielzahl von
elektrischen Dendriten-Eingangssignalen umgewandelt. Das
Fotorezeptor-Array 100 besteht aus einer Vielzahl von
individuellen synaptischen fotogesteuerten Widerständen.
Diese können Cadmiumsulfid-Widerstände, Foto-Feldeffekt
transistoren, bipolare Fototransistoren oder Fotodioden
sein. Das von der Abbildungseinrichtung 40 kommende
Licht, das auf das Fotorezeptor-Array 100 auftrifft,
steuert die synaptischen Gewichte und Kopplungen zwischen
den einzelnen neuronalen Verstärkern, aus denen das
neuronale Verstärker-Array 200 besteht. Das Fotorezeptor-
Array 100 dient im wesentlichen als Rückkopplungs- und
Kopplungseinrichtung für die einzelnen neuronalen
Verstärker. Durch das eindeutige Widerstandsmuster, das
durch das aus der Abbildungseinrichtung 40 kommende
Lichtmuster erzeugt wird, liefern die synaptischen
fotogesteuerten Widerstände eine synaptische Blaupause
für die individuellen neuronalen Verstärker. Mit einer
ersten Seite des Fotorezeptor-Arrays 100 ist eine
Spannungsversorgungseinrichtung verbunden, die über das
von den Widerstandswerten des synaptischen fotogesteuer
ten Widerstände gebildete eindeutige Muster eine
Betriebsspannung an die individuellen neuronalen
Verstärker anlegt. Die verschiedenen Spannungswerte, die
zu dem mit einer zweiten Seite des Fotorezeptor-Arrays
100 verbundene neuronale Verstärker-Array 200 gelangen,
bilden elektrische Dendriten-Eingangssignale. Das
neuronale Verstärker-Array 100 besteht, wie erwähnt, aus
einer Vielzahl von individuellen neuronalen Verstärkern.
Es liefert in Abhängigkeit von den elektrischen Dendri
ten-Eingangssignalen, die von dem Fotorezeptor-Array 100
kommen, eine Vielzahl von Axon-Ausgangssignalen an ein
Gate-Array 300. Jeder der individuellen neuronalen
Verstärker hat einen sperrenden negativen Rückkopplungs-
Axon-Ausgang und einen aktivierenden positiven Rückkopp
lungs-Axon-Ausgang. Die aktivierenden und sperrenden
Axon-Ausgänge aller individuellen neuronalen Verstärker
sind jeweils mit allen übrigen neuronalen Verstärkern,
nicht jedoch mit demjenigen neuronalen Verstärker
verbunden, von dem sie ausgehen, so daß die Anzahl der
Kopplungen um eins kleiner ist als die Anzahl der
neuronalen Verstärker. Die intensive Kopplung durch das
Foto-Rezeptor-Array 100 in Kombination mit der Veränder
barkeit des Eingangsbildes des Objektes 20 bewirkt, daß
die individuellen neuronalen Verstärker auf Musterände
rungen reagieren und in einen Satz von stabilen Zuständen
übergehen. Die individuellen neuronalen Verstärker
gelangen in nichtlinearer Weise in diese stabilen
Zustände, wobei die Nichtlinearität eine Funktion der
Zeitkonstanten der Zündrate und der sigmoidalen Antwort
kennlinie der einzelnen neuronalen Verstärker ist. Die
vorbestimmte Zeitkonstante der Zündrate bestimmt die
Antwortzeiten der einzelnen neuronalen Verstärker und
kann durch ein paralleles Netzwerk bestimmt werden, das
aus einem Widerstand und einem Kondensator besteht, die
beide fotogesteuert sind. Das parallele Netzwerk kann
entweder in der Schaltung des Fotorezeptor-Arrays 100
oder in der Schaltung des Foto-Verbindungs- und -Antwort-
Arrays 400 angeordnet sein. Die sigmoidale Antwort wird
durch ein lokales paralleles Rückkopplungsnetzwerk
erzeugt, das in dem lokalen Rückkopplungspfad jedes der
einzelnen neuronalen Verstärker angeordnet ist. Der Satz
von stabilen Zuständen der einzelnen neuronalen Verstär
ker stellt einen spezifischen Lernsatz dar und wird dem
Gate-Array 100 über die positiven Aktivierungs-Rückkopp
lungs-Axon-Ausgänge der einzelnen neuronalen Verstärker
zugeführt.
Die Axon-Ausgangssignale bilden einen Satz von stabilen
binären Ein- oder Aus-Zuständen und tragen, soweit die
Position oder Pegel gleich sind, zu dem Ergebnis des
Netzes 10 bei. Diese gleichgewichteten Ausdrücke, die den
Lernsatz enthalten, werden in dem Speicherbereich des
Gate-Arrays 300 gespeichert. Der Lernsatz kann so das
Gate-Array 300 in der Weise anordnen, daß es dann, wenn
etwas später ein gleichartiges Bild erscheint, für jede
Speicherübereinstimmung eine 1 und für jede Speicherab
weichung eine 0 erzeugt. Eine Steuereinrichtung 500
steuert das Gate-Array 300 und liefert verschiedene
Schemata zur Benutzung und Anordnung der Lernsätze in dem
Gate-Array 300. Ein Satz von Eingangszuständen, die von
der Abbildungseinrichtung 40 an das Fotorezeptor-Array
100 abgegeben werden, erzeugt analoge Pegelübergänge, die
durch die synaptischen fotogesteuerten Widerstände des
Fotorezeptor-Arrays 100 in und zwischen die einzelnen
neuronalen Verstärker gekoppelt werden. Dies führt zu
einer dynamischen Änderung von Pegelsätzen, die evtl. in
stabile Zustände übergehen, entweder in Sättigung oder
Sperrung, wie es durch die sigmoidale Antwort jedes
individuellen neuronalen Verstärkers bewirkt wird. Diese
Zustände, die für den gegebenen Eingangsdatensatz
eindeutig sind, können dann als Repräsentant für einen
Lernsatz für diese speziellen Eingangsdaten betrachtet
werden.
Das Foto-Verbindungs- und -Antwort-Array 400 liefert die
Verknüpfungen zwischen den einzelnen neuronalen Verstär
kern und bestimmt damit die Gesamttopographie des Netzes
10. Zusätzlich kann das Foto-Verbindungs- und -Antwort-
Array 400, wie oben erwähnt, durch Einfügen des paral
lelen Widerstands/Kapazitäts-Netzwerks, das die vorbe
stimmte Zeitkonstante der Ansprechgeschwindigkeit
liefert, für die zeitliche Steuerung des Netzes 10
sorgen. Das Foto-Verbindungs- und -Antwort-Array 40
steuert die Verknüpfungen der einzelnen neuronalen
Verstärker durch das Einbetten einer neuronalen Verstär
ker-Trenneinrichtung in die neuronale Verstärkerschal
tung. Diese Trennvorrichtung umfaßt ein Paar fotoge
steuerter Widerstände in den Eingangs- und Ausgangskrei
sen der individuellen neuronalen Verstärker. Durch die
gesteuerte Anwendung von Licht kann der Widerstandswert
der fotogesteuerten Widerstände groß genug gemacht
werden, um einzelne oder alle individuellen neuronalen
Verstärker aus dem Netzwerk 10 herauszutrennen. Durch
die Steuerung der Verknüpfungen der individuellen
neuronalen Verstärker kann die Anzahl der individuellen
stabilen Zustände bestimmt werden, die den spezifischen
Lernsatz darstellen. Alternativ kann die Trennvorrich
tung des neuronalen Verstärkers auch irgendein Standart-
Schalterkreis sein oder eine Einrichtung, die auf Befehl
den Schaltungskreis irgendeines der individuellen
neuronalen Verstärker auftrennen kann. Das Licht zur
Steuerung des Foto-Verbindungs- und -Antwort-Arrays 400
wird von einer Foto-Stimulus-Einrichtung 600 geliefert,
die von einem Computer gesteuert werden kann. Das Foto-
Verbindungs- und -Antwort-Array 400 wird dadurch
initialisiert, daß alle Verbindungen und die Zeitkonstan
ten der neuronalen Verstärker in eine feste Konfiguration
gebracht werden. Weitere zeitliche und/oder räumliche
Steuerungen können durch den Stimulus veranlaßt werden,
indem man eine geeignete Licht- oder Strahlungsquelle
benutzt, z. B. eine Lichtröhre oder eine Kathodenstrahl
röhre. Das Foto-Verbindungs- und -Antwort-Array 400 ist
für ein festes Netz 10 nicht erforderlich.
Die Foto-Stimulus-Einrichtung 600 kann so programmiert
werden, daß sie an das Foto-Verbindungs- und -Antwort-
Array 400 einen Lichtstimulus liefert, der eine andere
Wellenlänge hat als das von dem Eingangsbild abgeleitete
Licht oder aber als einen Lichtstimulus mit derselben
Wellenlänge. Diese Möglichkeit, die Wellenlänge des
Licht-Stimulus zu modifizieren, ermöglicht einen größeren
Steuerbereich für das Netz 10, wobei die Möglichkeit der
Interaktion oder Überlappung der beiden unterschiedlichen
Stimulus-Signale eliminiert wird.
In einem zweiten Ausführungsbeispiel der Erfindung, das
in Fig. 1a dargestellt ist, sind das Fotorezeptor-Array
100 und das Foto-Verbindungs- und -Antwort-Array 400 in
einem einzigen Array kombiniert. Fig. 1a zeigt ein
Blockschaltbild des fotostimulierten und -gesteuerten
abbildenden neuronalen Netzwerks 10 mit dem vorerwähnten
Array, das zu einem einzigen Foto-Rezeptor/Foto-Verbin
dungs- und -Antwort-Array 700 kombiniert ist und das alle
Funktionen der ursprünglich getrennt vorgesehenen Arrays
bietet. Die Kombination der beiden Arrays 100 und 400 hat
den Zweck, das System kompakter zu machen.
Fig. 2 zeigt die Schaltung des Foto-Rezeptor-Arrays 100
zusammen mit dem neuronalen Verstärker-Array 200 und der
Spannungsversorgungseinrichtung 600. Zur Darstellung der
Erfindung wurde ein n × n Foto-Rezeptor-Array 100 und ein
neuronales Verstärker-Array 200 mit n × 1 neuronalen
Verstärkern gewählt. Das n × n Foto-Rezeptor-Array 100
besteht aus synaptischen fotogesteuerten Widerständen 101
bis 140 und Strombegrenzungswiderständen 141 bis 145. Das
Foto-Rezeptor-Array 100, das biologische synaptische
Kopplungen emuliert, ist über elektrische Dendriten-
Eingangssignalleitungen 146 bis 150, die die elektrischen
Dendriten-Eingangssignale zu den neuronalen Verstärkern
201 bis 205 transportieren, mit dem neuronalen Verstär
ker-Array 200 gekoppelt. Wie oben erwähnt wurde und aus
Fig. 2 erkennbar ist, bilden die individuellen synap
tischen fotogesteuerten Widerstände 101 bis 140 die
Kopplungen zwischen den individuellen neuronalen
Verstärkern 201 bis 205 und bewirken die Rückkopplung zu
jedem einzelnen der neuronalen Verstärker 201 bis 205.
Wie aus dem Muster der synaptischen fotogesteuerten
Widerstände 101 bis 140 erkennbar ist, sind die der
Aktivierung dienenden positiven Rückkopplungs-Axon-
Ausgänge 206 bis 210 und die sperrenden negativen
Rückkopplungs-Axon-Ausgänge 211 bis 215 über die
synaptischen fotogesteuerten Widerstände 201 bis 240 mit
allen anderen individuellen neuronalen Verstärkern 201
bis 205 gekoppelt. Da jeder der individuellen neuronalen
Verstärker 201 bis 205 von den anderen neuronalen
Verstärkern 201 bis 205 außer von sich selbst Rückkopp
lung empfängt, ergeben sich (n - 1) Kopplungspaarungen. Da
für jeden neuronalen Verstärker zwei Axon-Ausgänge
vorhanden sind, ist die Anzahl der Axon-Ausgangs-
Ropplungen gleich 2(n - 1), und die Gesamtzahl der
Kopplungen zwischen dem Foto-Rezeptor-Array 100 und dem
Array 200 der neuronalen Verstärker beträgt
Ct = 2n(n - 1). (1)
Bei diesem Ausführungsbeispiel der Erfindung werden als
synaptisch fotogesteuerte Widerstände 101 bis 140 Sulfid-
Widerstände verwendet. Jeder der synaptischen fotoge
steuerten Widerstände 101 bis 140 reagiert auf die
Wellenlänge und Intensität der von der Abbildungseinrich
tung 40 (Fig. 1) auftreffenden Strahlung mit einem
spezifischen Widerstandswert, der seinerseits die
Rückkopplung und die Kopplung zwischen den einzelnen
neuronalen Verstärkern 201 bis 205 steuert. Die Beziehung
zwischen dem Foto-Rezeptor-Array 100 und der Abbil
dungsvorrichtung 40 läßt sich am besten als mathematische
Beziehung zwischen den Widerstandswerten der synaptischen
fotogesteuerten Widerstände 101 bis 140 und dem Licht-
oder Strahlungsmuster der Abbildungseinrichtung 40
ausdrücken. Es wird eine fotostimulierte Widerstandsma
trix Rp gebildet, die die Widerstandswerte der Elemente
des Foto-Rezeptor-Array 100 in Abhängigkeit von dem von
der Abbildungseinrichtung 40 einfallenden Licht- oder
Strahlungsmuster repräsentiert, das von einer Bildmatrix
Ir aufgenommen wird. Jedes Element Rp ist mit jedem
Element von Ir durch eine Umwandlungsmatrix C verbunden,
so daß
[Rp] = [C] [Ri]. (2)
Die Umwandlungsmatrix C repräsentiert die physikalischen
Eigenschaften der Widerstandselemente und verleiht den
Widerstandselementen für eine gegebene Strahlungsinten
sität und -wellenlänge einen gegebenen Widerstandswert.
Die Verwendung von Cadmiumsulfid-Widerständen ergibt eine
inverse Beziehung zwischen der Lichtintensität und dem
Widerstandswert, so daß der Widerstandswert um so kleiner
wird, um so größer die Intensität der einfallenden
Strahlung, und um so größer, je kleiner die Intensität
der einfallenden Strahlung ist.
Die Spannungsversorgungseinrichtung 60 liefert die
Betriebsspannung für die einzelnen neuronalen Verstärker
201 bis 205 über fotogesteuerte Strombegrenzungswider
stände 141 bis 145. Die Widerstände 141 bis 145 sind
fotogesteuert, um die in das System eintretende Spannung
zu verändern, während feste Widerstände eine solche
besondere Manipulierung oder Steuerung des Netzes 10
nicht zulassen würden. Die von der Spannungsversor
gungseinrichtung 60 gelieferten Spannungen wandern durch
die verschiedenen Pfade, die durch die synaptischen
fotogesteuerten Widerstände 101 bis 140 bestimmt werden,
und enden evtl. an den Eingängen der individuellen
neuronalen Verstärker 201 bis 205. Diese Spannungsein
gangssignale bilden, wie oben erwähnt, die elektrischen
Dendriten-Eingangssignale.
Die intensive Rückkopplung durch die synaptischen
fotogesteuerten Widerstände 101 bis 140 des Foto-
Rezeptor-Arrays 100 bewirkt in Kombination mit der
Veränderbarkeit des Eingangsbildes, daß die neuronalen
Verstärker 201 bis 205 auf Musteränderungen reagieren und
in neue stabile Zustände gelangen. Der Übergang in diese
neuen stabilen Zustände erfolgt, wie oben erwähnt, in
nichtlinearer Weise und ist eine Funktion der Zeitkon
stanten der Ansprechgeschwindigkeit des individuellen
neuronalen Verstärker und ihrer sigmoidalen Antwort. Wie
in Fig. 2 dargestellt, sind die neuronalen Verstärker
201 bis 205 spezielle Verstärker mit jeweils einem
Eingang und zwei Ausgängen. Diese speziellen Verstärker
sind wegen der doppelten Ausgänge, von denen einer ein
Ausgang mit positivem Wert ist und der zweite ein Ausgang
mit negativem Wert, speziell für diesen Anwendungszweck
ausgewählt. Die neuronalen Verstärker 201 bis 205 können
auch normale Operationsverstärker sein, deren einziger
Ausgang sich in zwei Signalleitungen verzweigen kann,
wobei eine dieser Leitungen zu einem Inverter geführt
ist. Wie oben erwähnt wurde, bilden der positive und der
negative Ausgang einen aktivierenden beziehungsweise
einen sperrenden Axon-Ausgang, die die echten Aktivie
rungs- und Sperrfunktionen eines biologischen neuronalen
Netzes simulieren.
In Fig. 3a und 3b ist eine typische sigmoidale Antwort
kennlinie 216 der Eingangs- und Ausgangsspannung des
neuronalen Verstärkers 201 dargestellt. Ein lokales
paralleles Rückkopplungsnetzwerk 117, das mit dem
individuellen neuronalen Verstärker 201 verbunden ist,
dient zur Erzielung dieser Art von Antwortkurve. Die
durch die Kurve 216 dargestellte sigmoidale Antwort
verleiht dem individuellen neuronalen Verstärker 201 eine
fernsteuerbare Ausschalt- und Sättigungs-Übertragungs
kennlinie, die die Antwort und Ansprechgeschwindigkeit
eines biologischen Neurons simuliert. Das Netzwerk 217,
das in dem lokalen Rückkopplungspfad des neuronalen
Verstärkers 201 angeordnet ist, besteht aus zwei
parallelen Zweigen mit Dioden und Zener-Dioden, die Strom
in entgegengesetzten Richtungen leiten. Im Grundsatz
bewirkt das Netzwerk 217 eine Zener-Diodenbegrenzung in
dem lokalen Rückkopplungskreis des neuronalen Verstärkers
201. Die Zenerdioden 218 und 219 erzeugen Spannungen mit
entgegengesetzter Polarität, die einzelnen Dioden 220 und
221 dienen zur Trennung der beiden Schleifen und erzeugen
in Verbindung mit den Zenerdioden 218 und 219 die
gewünschte nichtlineare Sättigungs- und Ausschalt-
Rennlinie von Fig. 3a. Der neuronale Verstärker 201 mit
dem Netzwerk 217 besitzt für niedrige Eingangspegel ein
lineares Antwortverhalten, und geht bei Betrieb mit hohem
Pegel in einen nichtlinearen Bereich über, der fernsteu
erbare Ausschalt- und Sättigungseigenschaften zeigt. Wie
oben erwähnt wurde, befinden sich in den lokalen
Rückkopplungspfaden aller individuellen neuronalen
Verstärker 201 bis 205 solche Netzwerke 217. Diese sind
deshalb Teil des neuronalen Verstärker-Arrays 200, obwohl
sie in Fig. 2 nicht dargestellt sind.
Fig. 4 zeigt, wie der neuronale Verstärker 201 in das
Foto-Rezeptor-Array 100 eingefügt ist. Sie zeigt das
parallele Netzwerk 220, das aus einem Eingangswiderstand
223 und einem Eingangskondensator 224 besteht. Der
Widerstandswert des Eingangswiderstands 223 und die
Kapazität des Eingangskondensators 224 bestimmen die
Zeitkonstante der Ansprechgeschwindigkeit des neuronalen
Verstärkers 201 als RC-Zeitkonstante. Sowohl der
Widerstand 223 als auch der Kondensator 224 sind
fotogesteuerte Elemente, so daß die Zeitkonstante der
Ansprechgeschwindigkeit insgesamt fotogesteuert ist.
Dies wird dadurch erreicht, daß der Eingangswiderstand
223 ein fotogesteuerter Widerstand ist, der vom selben
Typ sein kann, wie die synaptischen fotogesteuerten
Widerstände 101 bis 140 von Fig. 2 und daß der Eingangs
kondensator 224 von der Kapazität einer fotogesteuerten
Verarmungsschicht einer pn-Verbindung ist. Die synapti
schen fotogesteuerten Widerstände 107 und 108 bewirken
die Rückkopplung und die Kopplung von dem neuronalen
Verstärker 201 in der in Fig. 2 dargestellten Weise. Ein
fotogesteuerter Strombegrenzungswiderstand 141 dient zur
Strombegrenzung für die von der Spannungsversorgungsquel
le 60 gelieferte Spannung. Die Lichtquelle, die diese
fotogesteuerten Elemente steuert, wird von der in Fig. 1
dargestellten Abbildungseinrichtung 40 gebildet.
Wie oben erwähnt wurde, kann das parallele Netzwerk 222
entweder in dem Foto-Rezeptor-Array 100 oder in dem Foto-
Verbindungs- und -Antwort-Array 400 angeordnet sein. Fig.
5a zeigt das Foto-Verbindungs- und -Antwort-Array 400.
Wie hieraus zu ersehen ist, besteht es aus einer Vielzahl
von individuellen Elementen 401 bis 418. Fig. 5b zeigt
eine vergrößerte Ansicht des Elements 418 des Foto-
Verbindungs- und -Antwort-Arrays 400. Hier ist das
parallele Netzwerk 222 von Fig. 4 in Form diskreter
Komponenten dargestellt. Der Eingangswiderstand 419, der
dem Eingangswiderstand 123 von Fig. 4 äquivalent ist, ist
ein fotogesteuerter Widerstand. Der Eingangskondensator
24, der dem Eingangskondensator 224 von Fig. 4 äquivalent
ist, eine fotogesteuerte Kapazität. Das in Fig. 5b
dargestellte Foto-Verbindungs- und -Antwort-Array-Element
418 besitzt zwei zusätzliche Widerstände 421 und 422, die
die Trennvorrichtung für die neuronalen Verstärker des
neuronalen Netzes 10 bilden. Diese Widerstände 421 und
422 sind fotogesteuerte Verknüpfungswiderstände, die die
Verknüpfungen zwischen den einzelnen neuronalen Verstär
kern 201 bis 205 von Fig. 2 steuern. Durch geeignete
Manipulation der auftreffenden Strahlung, die von der
Foto-Stimulus-Einrichtung 600 von Fig. 1 zugeführt wird,
werden die beiden Verknüpfungswiderstände 421 und 422
oder einer von ihnen hochohmig genug, um den betreffenden
neuronalen Verstärker 201 bis 205 von den übrigen
Verstärkern 201 bis 205 wirksam zu trennen oder zu
isolieren, oder niederohmig genug, um alle neuronalen
Verstärker 201 bis 205 für eine gegebene Antwort in der
Schaltung wirken zu lassen. Als alternative Lösung können
auch lichtaktivierte Schalter anstelle von fotogesteuer
ten Widerständen verwendet werden. Die Manipulation der
auftreffenden Strahlung kann die Form einer Neuprogram
mierung eines computergesteuerten Laserscanners durch den
System-Operator annehmen oder darin bestehen, daß der
System-Operator einfach Lichtquellen und Objektive
hinzufügt/entfernt.
Fig. 6 zeigt eine vergrößerte Ansicht des neuronalen
Verstärkers 201 mit den oben erwähnten und in Fig. 5b
dargestellten Verknüpfungs- und zeitabhängigen Elementen
421, 422, 420 und 419. Die fotogesteuerten Widerstände
421 und 422 steuern die Eingangs- und Ausgangsverbindung
des neuronalen Verstärkers 201 und bestimmen durch das
von der Foto-Stimulus-Einrichtung 600 von Fig. 1
zugeführte Bild-Steuermuster, nach welchem die einzelnen
neuronalen Verstärker 201 bis 205 mit dem Netz 10 zu
verbinden sind. Die Steuerung der zeitlichen Antwort des
neuronalen Verstärkers erfolgt über seinen Eingangswider
stand 419 und seine Eingangskapazität 420. Der Konden
sator und der Widerstand 419 können so angeordnet sein,
daß sie den Eingang des neuronalen Verstärkers 201 direkt
überbrücken, oder in das lokale Rückkopplungselement
eingefügt sind. Für den Eingangskondensator 420 kann
gezeigt werden, daß der einzige Unterschied für diese
beiden Anordnungen in einer festen Änderung der am
Eingang gesehenen Kapazität besteht. Man sieht die
Kapazität des Kondensators 420, wenn dieser über dem
Eingangsanschluß angeordnet ist und die (1 - A)-fache
Kapazität des Kondensators 420, wenn dieser als lokales
Rückkopplungselement verwendet wird, wobei A die
Leerlaufverstärkung des neuronalen Verstärkers 201 ist.
Um den Kondensator 420 nutzbar zu machen, muß er
entkoppelt sein. Dies wird dadurch erreicht, daß man
einen herkömmlichen Kondensator 320 mit hoher Kapazität,
wie er in Fig. 5b dargestellt ist, in Reihe mit dem
kleinen Verarmungsschicht-Kondensator 424 schaltet. Wenn
er sich, wie in Fig. 6 gezeigt, in dem Rückkopplungspfad
befindet, steigt die resultierende Kapazität am Eingang
des neuronalen Verstärkers 201 auf (1 - A)C. Durch
Ausnutzung dieses Miller-Effekts ist es möglich, einen
großen Bereich von Antwortzeiten zu steuern, während die
Anordnung des Eingangskondensators 420 am Eingang einen
kleineren Bereich von steuerbaren Werten liefert.
Fig. 7 zeigt ein Flußdiagramm des Netzes 10, in dem die
Signalelemente getrennt dargestellt sind, um die
verschiedenen Signalfunktionen zu veranschaulichen. Das
auf dem Foto-Rezeptor-Array 100 abgebildete Bild oder
Objekt 20 bewirkt die verschiedenen synaptischen
Kopplungen zwischen den neuronalen Verstärkern des
neuronalen Verstärker-Arrays 200 (es sei angenommen, daß
die Netzwerk-Verknüpfung und -Antwort auf irgendeine
feste Konfiguration eingestellt ist). Die Axon-Ausgangs
signale 207 bis 210 des neuronalen Verstärker-Arrays 200
haben stabile binäre Ein- oder Aus-Zustände. Weiterhin
liefert jedes dieser Ausgangssignale, die aus Nullen
oder Einsen bestehen, sowie die Position oder der Pegel
gleich sind, Beiträge zu dem Ausgangsergebnis des Netzes
10. Deshalb hat jeder Ausgangspegel und jede Ausgangspo
sition gleiches Gewicht, so daß der Verlust eines
Ausgangssignales nur geringe Auswirkung auf das Ergebnis
des Prozesses hat. Dies läßt sich vergleichen mit einem
Binärwort, bei dem der Verlust oder ein Fehler in einem
hochwertigen Bit, z. B. dem Bit mit dem höchsten Stellen
wert (MSB) eine drastische Beeinträchtigung des Ergebnis
ses zur Folge hat. Diese gleichgewichteten Ausdrücke
stellen den Lernsatz dar und werden in dem Speicher
gespeichert. Der Lernsatz kann dazu verwendet werden,
eine Speicherschablone für das Gate-Array 300 zu
erzeugen. Das Gate-Array 300 ist ein programmierbares
Gate-Array, das verschiedene Schablonen speichern kann,
so daß dann, wenn etwas später ein gleichartiges Bild
erscheint, dieses eine 1 für jede Speicherübereinstim
mung und eine 0 für jede Speicher-Abweichung erzeugt. Bei
einem identischen Bild erscheint an allen Ausgangs-Gates
301 bis 305 eine 1. Das programmierbare Gate-Array 300
wird durch die Steuereinrichtung 500 gesteuert, die eine
Lernsatz-Steuervorrichtung ist, die für die Initialisie
rungs-Eingangssignale für das programmierbare Gate-Array
300 verantwortlich ist. Die Ausgangssignale 301 bis 305
des programmierbaren Gate-Arrays 300 werden einer
Summiereinrichtung 306 zugeführt. Das maximale Ausgangs
signal der Summiereinrichtung 306 ist invariant und
entspricht einer 1 an allen Eingängen, was eine Überein
stimmung mit dem Eingangsbild kennzeichnet. Zum Vergleich
arbeitet die Summiereinrichtung 306 wie ein Digital/Ana
log-Wandler, besitzt jedoch gleiche Gewichte an allen
Eingängen. Die Entscheidung ob das Eingangsbild identi
fiziert wird oder nicht, wird durch eine Schwellwertein
richtung 307 eingestellt, die so justiert ist, daß sie
einen vorbestimmten Pegel der Summiereinrichtung 6
passieren läßt. Diese Schwellwertfunktion ist kontinuier
lich veränderbar und ersetzt eine sehr viel komplexere
Gate-Struktur, die bei einer digitalen Realisierung zur
Bildung von Lernsatz-Schablonen benötigt würde. Das
Ausgangssignal der Schwellwerteinrichtung 307 stellt die
spezielle Entscheidung dar, die in spezieller Weise
weiterverwendet wird. Die Schwellwertvorrichtung 307
kann eine Komparatorschaltung oder dergl. sein.
Die Steuervorrichtung 500 liefert, wie oben erwähnt, die
Initialisierungswerte für das programmierbare Gate 300.
Sie kann zusätzlich verschiedene Arten von statistischen
Abstimmungsschemata zwischen den Bits des Lernsatzes
liefern. Wenn beispielsweise eine 1-Bit-Differenz
zwischen den Lernsätzen zweier identischer Objekte
besteht, kann die Steuervorrichtung 500 durch eine
Software-Routine den einen Kanal auswählen, der für die
1-Bit-Differenz verantwortlich ist. Je nach Anwendungs
fall können verschiedene Abstimmungs-Schemata implemen
tiert sein. Sobald die Steuervorrichtung 500 das Gate 300
initialisiert, bewirken von da an nachfolgende Lernsätze
eine Neuprogrammierung des Gates 300.
Eine allgemeine Anordnung für das neuronale Netz ist in
Fig. 8 gezeigt. Das Objekt 20 wird von der Abbildungsein
richtung 40, die hier als Objektiv dargestellt ist, auf
dem Foto-Rezeptor-Array 100 abgebildet. Wie oben erwähnt
wurde, kann das Objektiv durch eine Kathodenstrahlröhre,
einen Bildverstärker oder einen Laserscanner ersetzt
werden. Wenn es notwendig ist, eine durch Abtastprozesse
verursachte zeitliche Änderung des Bildes zu eliminieren,
kann eine Lichtröhre, z. B. ein räumlicher Grumman-
Lichtmodulator verwendet werden, um das abgetastete Bild,
das seriell mit einer periodischen Rate (30 Bilder pro
Sekunde beim Fernsehen) auftritt, in ein Bild ohne
signifikante periodische Fluktuationen umzuwandeln.
Alternativ kann die Zeitkonstante der Ansprechgeschwin
digkeit der einzelnen neuronalen Verstärker 201 bis 204
als Teil des Eingangsbildes eingestellt oder als
dynamisch gesteuertes Signalüberlagerungsmuster eingefügt
werden, um das Durchlaßband genügend weit unter die
periodische Abtastrate des Abtastsystems zu legen.
Das Foto-Rezeptor-Array 100 besteht aus n × n Fotowider
ständen oder ihren Äquivalenten, die bei Arrays begrenz
ter Größe diskrete Elemente oder bei größeren Arrays
Dünnfilmschichten sind. Die Anzahl der Elemente in dem
Foto-Rezeptor-Arrays 100 bestimmt die Auflösung des
neuronalen Netzes 10, wobei einfache geometrische Formen
kleine Elementenzahlen erfordern, während komplexe
Objekte sehr viele Elemente benötigen.
Jedes Element des Foto-Rezeptor-Arrays 100 ist mit den
neuronalen Verstärkern 201 bis 204 in der in Fig. 2
dargestellten Weise verbunden. Das Axon-Ausgangssignal
der individuellen neuronalen Verstärker wird einer
einzigen Gate-Struktur 300 eingegeben, die durch einen
vorangehenden Lernsatz vorprogrammiert ist.
Alternativ wird ein programmierbares Gate-Array 300 mit
genügend großem Speicher zur Speicherung von Lernsätzen
sowie dazu verwendet, auf diese Sätze sequentiell
zuzugreifen, wobei die Zustände der neuronalen Verstärker
abgerufen werden, um die Art des Eingangs-Stimulus zu
bestimmen.
Das programmierbare Gate 300 ist eine digitale Standard-
Schaltungskomponente, die in verschiedenen Technologien
einschließlich CMOS, NMOS und Galliumarsenid, realisiert
werden kann. Die jeweils gewählte Technologie hängt von
verschiedenen Faktoren ab einschließlich der gewünschten
Arbeitsgeschwindigkeit des Systems. Die Summiereinrich
tung 306 und die Schwellwerteinrichtung 307 sind
ebenfalls elektrische Standard-Komponenten.
Claims (20)
1. Fotostimuliertes neuronales Netz zur Verarbeitung eines Bilds, das direkt als
Eingangsinformation in das neuronale Netz eingegeben wird, aufweisend:
- 1. eine Abbildungseinrichtung (40) zur direkten optischen Übertragung einer Bildinformation als Eingangsinformation in das Netz,
- 2. eine Fotorezeptor-Matrix (100) zur Umsetzung der eingegebenen Bildinformation von der Abbildungseinrichtung (40) in ein Muster fotogesteuerter elektrischer Kopplungen zur Erzeugung mehrerer elektrischer Eingangssignale, und
- 3. eine neuronale Verstärkermatrix (200) mit mehreren einzelnen elektrischen Verstärkern (201-205), wobei die neuronale Verstärkermatrix (200) mehrere Ausgangssignale (206-210) zu einem programmierbaren Logikgatter (300) als Antwort auf die Eingabe der mehreren elektrischen Eingangssignale von der Fotorezeptor-Matrix (100) ausgibt.
2. Netz nach Anspruch 1,
dadurch gekennzeichnet,
daß die Abbildungseinrichtung (40) ein Objektiv, eine Kathodenstrahlröhre, ein
Bildverstärker oder ein Laser ist.
3. Netz nach einem der Ansprüche 1 oder 2,
dadurch gekennzeichnet,
daß die Fotorezeptor-Matrix (100) aufweist:
- 1. mehrere Fotowiderstände (101-140), die Verknüpfungen zwischen den mehreren Verstärkern (201-205) der neuronalen Verstärkermatrix (200) herstellen, wobei diese mehreren Fotowiderstände (101-140) auf die Wellenlänge und Intensität der eingegebenen Bildinformation mit einem spezifischen Widerstandswert reagieren und so das Kopplungsmuster zwischen den mehreren Verstärkern bestimmen, wobei jeder der Fotowiderstände denselben Widerstandswert aufweist, wenn er durch die gleiche Leuchtintensität bestrahlt wird,
- 2. eine Spannungsversorgungseinrichtung (60) zur Bereitstellung einer Betriebsspannung für die Verstärker (201-205) der neuronalen Verstärkermatrix (200), und
- 3. mehrere Strombegrenzungs-Fotowiderstände (141-145), die zwischen der Spannungsversorgungseinrichtung (60) und den mehreren Fotowiderständen (101- 140) angeordnet sind, wobei die Fotowiderstände (101-140) und die Strombegrenzungs-Fotowiderstände (141-145) Foto-Feldeffekttransistoren, bipolare Fototransistoren oder Fotodioden sind.
4. Netz nach Anspruch 3,
dadurch gekennzeichnet,
daß die mehreren Fotowiderstände (101-140) die Kopplung von einem Ausgang
eines Verstärkers (201-205) der neuronalen Verstärkermatrix (200) zu einem
Eingang sämtlicher anderer Verstärker (201-205) steuern.
5. Netz nach Anspruch 4,
dadurch gekennzeichnet,
daß jeder der Verstärker (201-205) einen sperrenden negativen
Rückkopplungsausgang (211-215) und einen aktivierenden positiven
Rückkopplungsausgang (206-210) besitzt und daß die aktivierenden
Rückkopplungsausgänge (206-210) die Ausgangssignale zu dem programmierbaren
Logikgatter (300) bereitstellen.
6. Netz nach Anspruch 5,
dadurch gekennzeichnet,
daß die sperrenden negativen Rückkopplungsausgänge (211-215) und die
aktivierenden positiven Rückkopplungsausgänge (206-210) der einzelnen
Verstärker (201-205) durch die Fotowiderstände (101-140) mit allen übrigen
individuellen Verstärkern gekoppelt sind, so daß sich jeweils eine Anzahl von
Kopplungen ergibt, die um 1 kleiner ist als die Anzahl der individuellen
Verstärker.
7. Netz nach Anspruch 6,
dadurch gekennzeichnet,
daß die mehreren einzelnen Verstärker (201-205) auf der Grundlage der
eindeutigen Kopplung und Rückkopplung, die eine Funktion der von der
Abbildungseinrichtung (40) kommenden Bildinformation ist, in einen Satz von
stabilen Zuständen gelangen, der einen spezifischen Lernsatz darstellt, wobei dieser
Lernsatz aus binären Zuständen besteht, die bezüglich Position und Pegel
gleichwertig in dem Lernsatz sind, wobei der Lernsatz von dem von einer
Steuereinrichtung gesteuerten Logikgatter (300) gespeichert und benutzt wird, das
mehrere Ausgangs-Gate-Signale an eine Summiereinrichtung (306) abgibt, in der
diese Ausgangs-Gate-Signale summiert und über eine Schwellwerteinrichtung (307)
zum Vergleich oder zur Speicherung abgegeben werden.
8. Netz nach Anspruch 7,
dadurch gekennzeichnet,
daß die mehreren Verstärker (201-205) in Abhängigkeit von einer vorbestimmten
Zeitkonstanten der Ansprechgeschwindigkeit und einer sigmoidalen Antwort jedes
einzelnen Verstärkers in nichtlinearer Weise in den genannten Satz von stabilen
Zuständen gelangt, wobei die sigmoidale Antwort der Verstärker als einstellbare
Ausschalt- und Sättigungs-Übertragungs-Kennlinie ausgeführt ist.
9. Netz nach Anspruch 8,
bei dem die sigmoidale Antwort durch ein lokales paralleles
Rückkopplungsnetzwerk bewirkt wird,
- 1. das aus einem ersten Zweig mit Diode (220) und Zenerdiode (218) besteht, der von dem Eingang des individuellen Verstärkers zu seinem Ausgang leitend ist, und
- 2. einen zweiten Zweig mit Diode (221) und Zenerdiode (219), der in entgegengesetzter Richtung leitend ist.
10. Netz nach Anspruch 8,
dadurch gekennzeichnet,
- 1. daß die vorbestimmte Zeitkonstante der Ansprechgeschwindigkeit jedes einzelnen Verstärkers (201-205) die Zeitspanne bestimmt, in der der Verstärker nach der Erregung in einen stabilen Zustand gelangt, und
- 2. daß diese vorbestimmte Zeitspanne der Ansprechgeschwindigkeit durch ein paralleles Netzwerk (222) bestimmt wird, das aus einem Widerstand (223) und einem Kondensator (224) besteht, die zum Eingang des Verstärkers parallel geschaltet sind.
11. Netz nach Anspruch 10,
dadurch gekennzeichnet,
- 1. daß der Widerstand (223) und der Kondensator (224) des parallelen Netzwerks (222) fotogesteuert sind, und
- 2. daß der fotogesteuerte Kondensator (224) von der Kapazität der Verarmungsschicht einer pn-Verbindung gebildet wird.
12. Netz nach Anspruch 10,
dadurch gekennzeichnet,
daß es ferner folgende Teile aufweist:
- 1. ein Foto-Verbindungsarray (400), das die Verknüpfung und zeitliche Steuerung des Netzes in Abhängigkeit von einer Vielzahl externer Signale ermöglicht, und
- 2. eine Foto-Stimulus-Einrichtung (600) zur Erzeugung eines Lichtmusters, das auf das Foto-Verbindungsarray (400) auftrifft, um ein operationales Netz zu bilden, wobei das Lichtmuster die genannte Vielzahl von externen Signalen bildet.
13. Netz nach Anspruch 12,
dadurch gekennzeichnet,
daß das Foto-Verbindungsarray (400) eine Vielzahl von Elementen aufweist, die
jeweils aus folgenden Teilen bestehen:
- 1. wenigstens einer Trenneinrichtung für die Verstärker (201-205) zur Steuerung der Eingangs- und Ausgangs-Verbindung der einzelnen neuronalen Verstärker, wobei diese Trenneinrichtung so betätigbar ist, daß sie einen oder alle Verstärker trennt und dadurch festlegt, wie viele der einzelnen Verstärker zu dem Lernsatz beitragen, und
- 2. einem parallelen Netzwerk, das aus einem Widerstand und einem Kondensator besteht und in einem Querzweig zu jedem der einzelnen Verstärker (201-205) angeordnet ist.
14. Netz nach Anspruch 13,
dadurch gekennzeichnet,
- 1. daß die Trennvorrichtung für einen einzelnen Verstärker (201-205) aus wenigstens einem Fotowiderstand (421, 422) besteht, wobei im Falle von zwei Fotowiderständen der erste (421) am Eingang des Verstärkers und der zweite (422) am Ausgang des Verstärkers angeordnet ist, und
- 2. daß die vorbestimmte Zeitkonstante der Ansprechgeschwindigkeit durch das parallele Netzwerk des Foto-Verbindungsarray (400) bestimmt wird.
15. Verfahren zur Verarbeitung einer Bildinformation mittels eines neuronalen
Netzwerkes, aufweisend die folgenden Schritte:
- 1. direkte optische Eingabe der Bildinformation als Eingangsinformation in das neuronale Netzwerk,
- 2. Umsetzung der Bildinformation in ein Muster fotogesteuerter elektrischer Kopplungen zur Erzeugung mehrerer elektrischer Eingangssignale für eine neuronale Verstärkermatrix, und dort
- 3. Erzeugung mehrerer elektrischer Ausgangssignale für ein programmierbares Logikgatter als Antwort auf die Eingabe der elektrischen Eingangssignale.
16. Verfahren nach Anspruch 15,
bei dem der Umsetzungsschritt die folgenden Schritte aufweist:
- 1. Eingabe der Bildinformation mittels mehrerer Fotowiderstände, die Kopplungen zwischen mehreren Verstärkern der neuronalen Verstärkermatrix steuern,
- 2. Rückkopplung der mehreren einzelnen Verstärker, und
- 3. Bereitstellung einer Initialisierungsspannung für die mehreren einzelnen Verstärker.
17. Verfahren nach Anspruch 15,
bei dem der Schritt der Erzeugung der mehreren Ausgangssignale die folgenden
Schritte aufweist:
- 1. Umsetzung der mehreren elektrischen Eingangssignale in die mehreren elektrischen Ausgangssignale durch Eingabe der Eingangssignale zu den einzelnen Verstärkern, wodurch durch die Kopplungen sowie die Rückkopplungen die mehreren Verstärker in einen Satz stabiler Zustände gelangen, und
- 2. Eingabe des Satzes stabiler Zustände in das Logikgatter, in dem sie elektronisch addiert werden, um weitere Lern- und Vergleichsschritte auszuführen.
18. Verfahren nach Anspruch 17,
weiterhin aufweisend die folgenden Schritte:
- 1. Steuerung der Eingangs- und Ausgangsverbindungen von jedem Verstärker, und
- 2. Steuerung des zeitlichen Antwortverhaltens des neuronalen Netzes.
19. Verfahren nach Anspruch 18,
bei dem der Schritt der Steuerung der Eingangs- und Ausgangsverbindungen den
Schritt des Ein- und Ausschaltens der mehreren einzelnen Verstärker aufweist.
20. Verfahren nach Anspruch 19,
bei dem die Steuerung des zeitlichen Antwortverhaltens die Bestimmung einer
Zeitkonstanten für das neuronale Netzwerk aufweist.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE4035559A DE4035559C2 (de) | 1990-11-08 | 1990-11-08 | Fotostimuliertes neuronales Netz |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE4035559A DE4035559C2 (de) | 1990-11-08 | 1990-11-08 | Fotostimuliertes neuronales Netz |
Publications (2)
Publication Number | Publication Date |
---|---|
DE4035559A1 DE4035559A1 (de) | 1992-05-14 |
DE4035559C2 true DE4035559C2 (de) | 2000-03-02 |
Family
ID=6417892
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE4035559A Expired - Fee Related DE4035559C2 (de) | 1990-11-08 | 1990-11-08 | Fotostimuliertes neuronales Netz |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE4035559C2 (de) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE3922129A1 (de) * | 1988-07-05 | 1990-01-11 | Mitsubishi Electric Corp | Neurocomputer |
EP0375165A2 (de) * | 1988-11-25 | 1990-06-27 | Matsushita Electric Industrial Co., Ltd. | Räumliches lichtmodulierendes Element und Neuralnetzwerk |
-
1990
- 1990-11-08 DE DE4035559A patent/DE4035559C2/de not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE3922129A1 (de) * | 1988-07-05 | 1990-01-11 | Mitsubishi Electric Corp | Neurocomputer |
EP0375165A2 (de) * | 1988-11-25 | 1990-06-27 | Matsushita Electric Industrial Co., Ltd. | Räumliches lichtmodulierendes Element und Neuralnetzwerk |
Non-Patent Citations (1)
Title |
---|
KORNFELD, C.D. et al.: An Optically Programmed Neural Network, IEEE SPIE Conference, 1988, San Diego * |
Also Published As
Publication number | Publication date |
---|---|
DE4035559A1 (de) | 1992-05-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE4042139C2 (de) | Neuron-Einheit | |
DE112018003231T5 (de) | Neuromorphe verarbeitungsvorrichtung | |
Fiesler et al. | Weight discretization paradigm for optical neural networks | |
DE60218380T2 (de) | Mustererkennungsgerät zur Ermittlung eines festgelegten Musters in einem Eingangssignal | |
DE69126555T2 (de) | Verfahren zur Klassifikation in einem hierarchisierten neuronalen Netzwerk | |
DE112018004223T5 (de) | Trainieren künstlicher neuronaler Netze | |
DE68928484T2 (de) | Verfahren zum erkennen von bildstrukturen | |
DE112018000272T5 (de) | Resistive Verarbeitungseinheit mit hysteretischen Aktualisierungen zum Trainieren neuronaler Netze | |
US5842191A (en) | Neural network that incorporates direct optical imaging | |
US5255362A (en) | Photo stimulated and controlled imaging neural network | |
DE69019211T2 (de) | Analoges programmierbares neuronales Netzwerk. | |
DE112019005119T5 (de) | Abgleichtechniken zum angleichen des symmetriepunktes als null-gewichtungspunkt in analogen kreuzungspunktanordnungen | |
Farhat | Optoelectronic neural networks and learning machines | |
DE112020000929T5 (de) | Programmieren eines phasenwechselspeichersin einer geschlossenen schleife | |
DE69815390T2 (de) | Neuronale netzwerke | |
DE69110538T2 (de) | Neuronales Klassifikationssystem and -verfahren. | |
DE69119604T2 (de) | Trainingsverfahren eines neuronalen netzwerks | |
DE69627948T2 (de) | Rechenschaltung mit sofortiger Erkennungsfunktion und Verfahren zur sofortigen Erkennung | |
DE4035559C2 (de) | Fotostimuliertes neuronales Netz | |
DE69628919T2 (de) | Halbleiterfunktionsschaltung | |
DE112021002939T5 (de) | Effiziente kachel-zuordnung für zeilenweise zuordnung in neuronalen faltungsnetzen zur analogen inferenz in künstliche-intelligenz-netzen | |
DE69105129T2 (de) | Kapazitive strukturen für bewertende summierung in neuronalen netzen. | |
DE112021002742T5 (de) | Training oszillatorischer neuronaler netze | |
JP3142287B2 (ja) | ニューラルネットワーク | |
DE112020005262T5 (de) | Kapazitive verarbeitungseinheit |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
8110 | Request for examination paragraph 44 | ||
D2 | Grant after examination | ||
8364 | No opposition during term of opposition | ||
8339 | Ceased/non-payment of the annual fee |