DE4035559C2 - Fotostimuliertes neuronales Netz - Google Patents

Fotostimuliertes neuronales Netz

Info

Publication number
DE4035559C2
DE4035559C2 DE4035559A DE4035559A DE4035559C2 DE 4035559 C2 DE4035559 C2 DE 4035559C2 DE 4035559 A DE4035559 A DE 4035559A DE 4035559 A DE4035559 A DE 4035559A DE 4035559 C2 DE4035559 C2 DE 4035559C2
Authority
DE
Germany
Prior art keywords
photo
amplifiers
input
neural
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
DE4035559A
Other languages
English (en)
Other versions
DE4035559A1 (de
Inventor
Robert W Brandstetter
Nils J Fonneland
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Grumman Corp
Original Assignee
Grumman Aerospace Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Grumman Aerospace Corp filed Critical Grumman Aerospace Corp
Priority to DE4035559A priority Critical patent/DE4035559C2/de
Publication of DE4035559A1 publication Critical patent/DE4035559A1/de
Application granted granted Critical
Publication of DE4035559C2 publication Critical patent/DE4035559C2/de
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/067Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means
    • G06N3/0675Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means using electro-optical, acousto-optical or opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/192Recognition using electronic means using simultaneous comparisons or correlations of the image signals with a plurality of references
    • G06V30/194References adjustable by an adaptive method, e.g. learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Neurology (AREA)
  • Computational Linguistics (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Databases & Information Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

Die Erfindung betrifft künstliche neuronale Netze und Neuro-Computersysteme zur Informationsverarbeitung. Sie betrifft speziell fotostimulierte neuronale Netze.
Standard-Computer oder Informations-Verarbeitungssysteme basieren derzeit auf verschiedenen Implementierungen der von-Neumann-Architektur. Diese Art von Informationsverar­ beitungssystemen beruht auf Algorithmen zur Implementie­ rung der verschiedenen Funktionen, die zur Lösung eines speziellen Problems benötigt werden. Damit das spezielle Problem durch das Informationsverarbeitungssystem oder den Computer gelöst werden kann, muß ein Individuum, und zwar ein Computer-Programmierer, das spezielle Problem voll verstehen und dann in der Lage sein, einen Algorith­ mus oder eine Reihe von Algorithmen zu schaffen, die in der Lage sind, eine Lösung des speziellen Problems logisch zu berechnen. Das Computersystem stellt im Grundsatz ein "dummes" System dar, das nicht selbst denkt sondern in einem Schritt-für-Schritt-Prozeß die mit einem gegebenen Algorithmus verbundenen Instruktionen logisch implementiert, um zu einer Lösung zu kommen. Obwohl Computer "dumm" sind, können sie zahlreiche Routine- Berechnungen pro Microsekunde ausführen und sind deshalb für viele Anwendungen extrem nützlich. Das dieser Art von Computersystemen innewohnende Problem besteht darin, daß der Programmierer zunächst Funktionen theoretisch läsen oder formulieren muß, um das spezielle Problem zu lösen, falls dies überhaupt möglich ist, bevor die Fähigkeiten des Computers, Zahlen zu verarbeiten, genutzt werden können. Ein zweites Problem, das hiermit jedoch zusammen­ hängt, tritt auf, falls die spezifische Aufgabe oder das spezifische Problem nicht mit einer Reihe von logischen oder arithmetischen Schritten gelöst werden kann, die mit einer Lösung des speziellen Problems abschließen. Selbst in Fällen, in denen die vollständige Funktion oder Aufgabe, die mit einem gegebenen Problem verbunden sind, bekannt sind, kann es trotzdem unmöglich sein, einen Algorithmus zu entwickeln, um die Funktion in einem bestimmten Problemfall zu implementieren, weil unendlich viele Beispiele existieren. Diese ist z. B. der Fall bei Kraftfahrzeug-Autopiloten, Sprach- und Handschrift- Übersetzern und Identifiziersystemen für feindliche Flugzeuge oder dergl.
Die Rechenfähigkeiten und die Computer sind derart fortgeschritten, daß zahlreiche Probleme gelöst werden können. Sie bieten außerordentlich hohe Geschwindigkeit, Genauigkeit und Bequemlichkeit. Trotzdem ist der Computer in vielen Fällen noch nicht in der Lage, die allgemeine Klasse von Problemen zu lösen, die mit der Erkennung und Identifizierung zusammenhängen. Außerdem sind Standard- Computer nicht in der Lage, sich an neue oder ändernde Situationen anzupassen oder während des Betriebes zu lernen. Diese Art von Problemen begrenzt die Entwicklung von fortgeschrittener Robotertechnik und von Steuersys­ temen. Für biologische Systeme höherer Ordnung stellen Erkennungs- und Identifizierungsfunktionen hingegen relativ einfache Aufgaben dar.
Neuronales Rechnen (neurocomputing) ist eine neue Form der Informationsverarbeitung, die sich als eine anerkann­ te Alternative zu der von-Neumann-Architektur etabliert. Neuronale Computer sind im Grundsatz nichtprogrammierte adaptive Informationsverarbeitungssysteme, die in der Lage sind, Assoziationen zwischen Objekten in Reaktion auf ihre Umgebung zu entwickeln. Sie stehen damit im Gegensatz zu der Ausführung oder Implementierung von Schritt-für-Schritt-Prozeduren die durch einen Algorith­ mus umrissen sind. Der Neurocomputer erzeugt seine eigenen Regeln, die die erwähnte Assoziation beherrschen, verfeinert diese Regeln auf der Basis seiner eigenen Beispiele und lernt aus seinen Fehlern durch diese Art von Versuch-und-Fehler-Verarbeitung. Im Grundsatz versucht der Neurocomputer, es der Funktion eines menschlichen Gehirns in ihrer elementarsten Form gleichzutun. Das menschliche Gehirn ist ein außerordent­ liches Rechen- und Informationsverarbeitungssystem, das besonders gut geeignet ist für Erkennungs-Probleme. Während digitale Standardcomputer weit besser zur Lösung von Rechenproblemen geeignet sind, sind Neurocomputer bestens geeignet zur Lösung von komplexen Mustererken­ nungs-Problemen, die bei Zielerkennungsproblemen, kontinuierlicher Spracherkennung und der Analyse von Handschriften auftreten.
Während die Funktion des digitalen Standard-Computers allgemein bekannt ist, kann die Funktion des menschlichen Gehirns nur durch grobe Beobachtungen und Funktionen charakterisiert werden. Deshalb ist der gegenwärtige. Stand des neuronalen Rechnens bis zu dem Punkt der Verwendung von Basisschaltungen zur Implementierung kleiner assoziativer Speicher und Programmierbarkeit vorgedrungen. Die assoziative Speicherung und die Programmierbarkeit bestehen im einfachsten Sinn darin, daß die Möglichkeit besteht, zu lokalisieren und Daten von verschiedenen Orten wieder zu gewinnen, ohne daß eine spezielle Adresse für den Ort vorhanden ist oder genau bekannt ist, was zu lokalisieren ist. Mit anderen Worten, der Neurocomputer arbeitet wie das menschliche Gehirn, indem er versucht, gewisse Ereignisse aus dem Speicher aufzurufen, indem sie mit anderen Ereignissen assoziiert werden. Diese Art von Speicherung und Programmierbarkeit ermöglicht eine leichtere Erkennung von Objekten oder Mustern, ohne daß genau bekannt ist, was das Objekt oder Muster ist.
Der Stand der Technik enthält eine Reihe von Papieren und Artikeln, die sich mit dem Gebiet des neuronalen Rechnens befassen. Der Artikel "artificial neural networks" von John J. Hopfield, IEEE, circuits and devices magazine, 8755- 3996/88/0900-0003, diskutiert die Grenzen digitaler Standardcomputer für Erkennungs-Probleme und die Vorteile von neuronalen Systemen zur Lösung von Problemen dieser Art. Der Artikel offenbart ferner das grundsätzliche Hopfield- Netz, das im wesentlichen aus einem Satz von Verstärkern mit sigmoidalen Eingangs/Ausgangs-Kennlinien, einer Eingangskapazität, einem Ausgangswiderstand und einer Mehrzahl von Widerstandverbindungen besteht. Dieses elektrische Modell eines neurobiologischen Netzes ist eines der Grund-Baublöcke für neuronale Computer­ netze. In dem Artikel "Computing With Neural Circuits" von John J. Hopfield et. al., Sience Vol. 233, 8.8.1986, diskutieren die Verfasser die jüngste Arbeit, die darauf gerichtet ist, wie spezielle Berechnungen unter Verwen­ dung eines geeigneten Musters von neuronalen Verstärkern durchgeführt werden können, die in einem einfachen dynamischen Modellsystem synaptisch gekoppelt sind. Die dem Artikel zugrundeliegende Basisprämisse besteht darin, daß ein Modell von nichtlinearen neuronalen Verstärkern, die in einem Netz mit symetischen Verbindungen organi­ siert sind, eine natürliche Fähigkeit zur Lösung von Optimierungsproblemen besitzt. Der Schlüssel für die Funktion des Hopfield-Netzes ist die große Interkonek­ tivität zwischen den elektrischen Komponenten. Das Basisnetz besteht im wesentlichen aus den gleichen Elementen wie in dem vorerwähnten Artikel von Hopfield. In einem dritten Artikel "Neural Networks And Physical Systems With ....... Collectiv Computational Abilities" von John F. Hopfield, "Proceedings National Academy of Science, Band 79, Seiten 2554 bis 2558, April 1982, diskutiert Hopfield einen dritten Aspekt von neuronalen Netzen, der darin besteht, daß das Speichern in solchen neuronalen Netzen in Form der stabilen Zustände bewerk­ stelligt wird, in die die neuronalen Verstärker des neuronalen Netzes sich eventuell ordnen. Hopfield weist darauf hin, daß die Verbindung zwischen einfachen elektrischen Schaltungen und den komplexen Rechner- Eigenschaften von Nervensystemen höherer Ordnung das Auftauchen neuer Rechner-Fähigkeiten aus dem kollektiven Verhalten einer großen Anzahl von einfachen Verarbei­ tungselementen, beispielsweise dem einzelnen Neuron oder neuronalem Verstärker, sein kann. Die drei Artikel von Hopfield diskutieren und behandeln ein einfaches Arbeitsmodell des neuronalen Grundnetzes, das elektrische Standardkomponenten verwendet.
Entwicklungen zu künstlichen neuronalen Netzen bieten neue und nützliche Konzepte. Wie insbesondere in den drei genannten Artikeln dargelegt wurde, hat es sich gezeigt, daß es durch eine hochohmige Kopplung (weiche Kopplung) mit positiver (aktivierender) Rückkopplung und negativer (sperrender) Rückkopplung in einem Feld von Verstärkern, die jeweils sigmoidale Übertragungs-Kennlinien (Fernab­ schaltung und Sättigung) haben, möglich ist, daß biologische neuronale System zu imitieren. Ein anliegen­ der Satz von Eingangsbedingungen erzeugt analoge Pegelübergänge, die in und zwischen andere Verstärker gekoppelt werden und eine dynamische Änderung von Pegelsätzen herbeiführen, die sich eventuell in quasi­ stabilen Zuständen entweder in Sättigung oder Abschalten niederschlagen, wie sie durch sigmoidale Antworten bewirkt werden. Diese Zustände, die für einen gegebenen Eingangsdatensatz eindeutig sind, können dann als Repräsentanten eines Lernsatzes für die spezielle Eingangsgröße betrachtet werden. Für einen neuen Eingangsdatensatz wird das künstliche neuronale Netz wieder initialisiert und arbeitet, bis es einen neuen Lernsatz vorlegt und so weiter.
Die Hauptschwierigkeit und der Nachteil der vorerwähnten neuronalen Netze bestehen darin, daß sie eine große Anzahl diskreter elektrischer Eingaben (Dendriten) erfordern können, nämlich eine für jeden Verstärker (Neuron). Dies macht es notwendig, die erforderlichen Signalleitungsverbindungen und Signalverarbeitungen und -kodierungen vorzusehen, um das spezielle künstliche neuronale Netz zu dienen. Außerdem müssen die Aktivierungs- und Sperrfunktionen, die durch die Kopplungswiderstände (Synapsen) gesteuert werden, für verschiedene Eingangsdatensätze geändert werden, was bedingt, daß die Widerstände auf neue Werte gesetzt werden. Auch müssen die Eingangs-Bilddaten verarbeitet werden, bevor sie in das spezielle künstliche neuronale Netz eingegeben werden.
Die vorliegende Erfindung vermeidet die Nachteile und Schwierigkeiten von bekannten künstlichen neuronalen Netzen, indem sie eine direkte Abbildung und Übertragung der physikalischen Erscheinungsform von durch Sensoren gewonnenen Daten in den Prozeß und synaptische Kopplungen vorsieht, die sich in Abhängigkeit von den abgebildeten Daten ändern, so daß die Notwendigkeit einer Änderung der Werte vermieden wird.
Die DE 39 22 129 A1 zeigt ein fotostimuliertes neuronales Netz, wobei eine Abbildungseinrichtung zur Übertragung von physikalischen Daten in das Netz vorgesehen ist.
Aus der EP-A2-0 375 165 ist ein fotostimuliertes neuronales Netz bekannt, wobei ein Fotorezeptor-Array zur Umwandlung der aus einer Abbildungseinrichtung kommenden Daten in eine Vielzahl von elektrischen Signalen vorgesehen ist.
Das Papier "An Optically Programmed Neural Network" von C. D. Kornfeld et. al., das auf der IEEE SPIE Konferenz in San Diego, Californien, am 18. Juni 1988 vorgelegt wurde, offenbart, wie aus dem Titel hervorgeht, eine Möglichkeit für ein optisch programmiertes neuronales Netz, das in einer geschlossenen Schleife mit einem externen Computer kombiniert ist und die Netz-Kopplungen durch einen konvergierenden iterativen Prozeß berechnet. Das Papier behandelt im wesentlichen das Design, die Konstruktion und die Funktion eines hybriden elektroopischen Computers zur Verwendung in neuronalen Netzen. Das System ist um ein Fotosensor-Array aufgebaut. Das Array stellt in Verbindung mit seinen Summierverstärkern ein einfaches Element dar, das die von einem neuronalen Netz geforderte Multiplikation ausführt. Das System besitzt einen in die Schleife zwischen dem Eingang und dem Ausgang eingefügten Computer, der zur Steuerung und Konfigurierung des Arrays dient. Der Computer enthält ein optisches Programm, das einen iterativen Speicher des Hopfield-Typs implementiert.
Der zuletzt genannte Stand der Technik weist den Nachteil auf, daß ein stabiler Zustand des Netzes erst nach der Ausführung einer Vielzahl iterativer Schritte erreicht werden kann. Einerseits wird dadurch eine gewisse Zeit benötigt, bis dieser Zustand erreicht ist, und darüber hinaus ist das Vorsehen der Rückführschleife sowie von Mitteln zur Beurteilung, ob die Iterationsschritte abgebrochen werden können, aufwendig.
Ausgehend von dem oben genannten Stand der Technik ist es Aufgabe der vorliegenden Erfindung, ein neuronales Netz bereitzustellen, durch das die Verarbeitung von Bildinformation vereinfacht wird.
Diese Aufgabe wird durch die Merkmale der unabhängigen Ansprüche gelöst. Die abhängigen Ansprüche bilden den zentralen Gedanken der Erfindung in besonders vorteilhafter Weise weiter.
Bildinformation wird also direkt in optischer Form auf ein neuronales Netz übertragen und Verstärker liefern Ausgangssignale, die von optisch erzeugten elektrischen Eingangssignalen abhängen.
Die vorliegende Erfindung unterscheidet sich in eindeutiger Weise von nächstkommendem Stand der Technik dadurch, daß sie mit einem neuronalen Netzwerk mit Fotoabbildung und 7 gesteuerter Kopplung arbeitet, um neue Bilder zu lernen und sie später durch diesen Lernsatz zu detektieren. Das neuartige Konzept der Erfindung besteht darin, daß sie direkt mit Bildern arbeitet, die einem Foto-Rezeptor-Array aufgeprägt werden, um eindeutige Gewichte, Kopplungen und Verknüpfungen zwischen neuronalen Verstärkern herzustellen und neuronalartige Lernsätze von stabilen Verstärkerzuständen zu erzeugen.
Die Einzigartigkeit und die Nützlichkeit des erfindungs­ gemäßen Netzes beruht auf der Tatsache, daß die Schnitt­ stelle zu dem Netz lediglich erfordert, daß eine Dateneingabe optisch auf die Fotorezeptoren abgebildet wird, um eine parallele Datenübertragung zu bewirken, ohne daß eine elektrische Signalverarbeitung oder Leiterverbindun­ gen benötigt werden. Der Ausdruck radiometrisch wird zu einem Fachausdruck auf diesem Gebiet und ist so defi­ niert, daß er den emittierten oder reflektierten Bereich des elektromagnetischen Spektrums beinhaltet. Die Funktionen des Netzes gleichen denen eines biologischen neuronalen Netzes, da alle Neuronen den Stimulus direkt durch synaptische Kopplungen aufnehmen, wobei die Fotorezeptoren die Aktivierungs- und Sperrfunktionen liefern. Anwendungsgebiete für das erfindungsgemäße Netz sind Erkennungs- und Identifizierungsprobleme in Verbindung mit fortschrittlicher Robotertechnik und Steuersystemen sowie komplexe Mustererkennungsprobleme, die dem Verstehen kontinuierlicher Sprache, der Identi­ fizierung von handgeschriebenen Buchstaben und der Zielbestimmung innewohnen.
Zur Veranschaulichung der Erfindung sind in den Zeichnun­ gen die derzeit bevorzugten Ausführungsformen darge­ stellt. Die Erfindung ist jedoch nicht notwendigerweise auf die dort gezeigten Anordnungen und Hilfsmittel beschränkt.
Fig. 1 zeigt ein Blockdiagramm des fotostimulierten abbildenden neuronalen Netzes gemäß der Erfin­ dung,
Fig. 1a zeigt ein Blockschaltbild einer Variante des fotostimulierten abbildenden neuronalen Netzes gemäß der Erfindung,
Fig. 2 zeigt eine schematische Darstellung des Fotore­ zeptor-Arrays gemäß der Erfindung,
Fig. 3a zeigt eine Darstellung der sigmoidalen Antwort­ charakteristik des neuronalen Verstärkers gemäß der Erfindung,
Fig. 3b zeigt die Schaltung eines individuellen neurona­ len Verstärkers mit Zener-Begrenzung,
Fig. 4 zeigt die Schaltung eines individuellen neurona­ len Verstärkers mit synaptischer fotogesteuerter Widerstandskopplung und den zugeordneten RC- Zeitkonstanten-Elementen,
Fig. 5a zeigt eine schematische Darstellung des Foto- Verbindungs- und -Antwort-Arrays gemäß der Erfindung,
Fig. 5b zeigt die Schaltung eines individuellen Elements in dem Foto-Verbindungs- und -Antwort-Array gemäß der Erfindung,
Fig. 6 zeigt die Schaltung eines individuellen neurona­ len Verstärkers mit Verbindungswiderständen,
Fig. 7 zeigt ein Flußdiagramm des fotostimulierten abbildenden neuronalen Netzes gemäß der Erfin­ dung,
Fig. 8 zeigt eine schematische Darstellung des foto­ stimulierten abbildenden neuronalen Netzes gemäß der Erfindung.
Die Funktionen des fotostimulierten und kontrollierten abbildenden neuronalen Netzes sind ähnlich wie diejenigen eines biologischen neuronalen Netzes, da alle neuronalen Verstärker (Neuronen) den Stimulus (Dendriten) direkt und durch synaptische Kopplungen (Synapsen) aufnehmen, wobei die Aktivierungs- und Sperrfunktionen von den Fotorezep­ toren erbracht werden. In Fig. 1 ist ein Blockschaltbild des fotostimulierten und -gesteuerten abbildenden neuronalen Netzes 10 dargestellt. Ein Objekt 20, das erkannt oder detektiert werden soll, wird zu einer Abbildungseinrichtung 40 übertragen, deren Inhalt den Eingang für das Fotorezeptor-Array 100 bildet. Die Abbildungseinrichtung 40 kann ein Objektiv, eine Kathodenstrahlröhre, ein Bildverstärker, ein Laserscanner oder ein beliebiges anderes Mittel sein, das eine direkte Abbildung und Übertragung von physikalischen oder durch Sensoren abgeleiteten Daten über das Fotorezeptor-Array 100 in das Netz 10 und damit eine parallele Dateneingabe in das Netz ermöglicht. Die Daten aus der Abbildungsein­ richtung 40 werden radiometrisch auf dem Fotorezeptor- Array 100 abgebildet und in diesem in eine Vielzahl von elektrischen Dendriten-Eingangssignalen umgewandelt. Das Fotorezeptor-Array 100 besteht aus einer Vielzahl von individuellen synaptischen fotogesteuerten Widerständen. Diese können Cadmiumsulfid-Widerstände, Foto-Feldeffekt­ transistoren, bipolare Fototransistoren oder Fotodioden sein. Das von der Abbildungseinrichtung 40 kommende Licht, das auf das Fotorezeptor-Array 100 auftrifft, steuert die synaptischen Gewichte und Kopplungen zwischen den einzelnen neuronalen Verstärkern, aus denen das neuronale Verstärker-Array 200 besteht. Das Fotorezeptor- Array 100 dient im wesentlichen als Rückkopplungs- und Kopplungseinrichtung für die einzelnen neuronalen Verstärker. Durch das eindeutige Widerstandsmuster, das durch das aus der Abbildungseinrichtung 40 kommende Lichtmuster erzeugt wird, liefern die synaptischen fotogesteuerten Widerstände eine synaptische Blaupause für die individuellen neuronalen Verstärker. Mit einer ersten Seite des Fotorezeptor-Arrays 100 ist eine Spannungsversorgungseinrichtung verbunden, die über das von den Widerstandswerten des synaptischen fotogesteuer­ ten Widerstände gebildete eindeutige Muster eine Betriebsspannung an die individuellen neuronalen Verstärker anlegt. Die verschiedenen Spannungswerte, die zu dem mit einer zweiten Seite des Fotorezeptor-Arrays 100 verbundene neuronale Verstärker-Array 200 gelangen, bilden elektrische Dendriten-Eingangssignale. Das neuronale Verstärker-Array 100 besteht, wie erwähnt, aus einer Vielzahl von individuellen neuronalen Verstärkern. Es liefert in Abhängigkeit von den elektrischen Dendri­ ten-Eingangssignalen, die von dem Fotorezeptor-Array 100 kommen, eine Vielzahl von Axon-Ausgangssignalen an ein Gate-Array 300. Jeder der individuellen neuronalen Verstärker hat einen sperrenden negativen Rückkopplungs- Axon-Ausgang und einen aktivierenden positiven Rückkopp­ lungs-Axon-Ausgang. Die aktivierenden und sperrenden Axon-Ausgänge aller individuellen neuronalen Verstärker sind jeweils mit allen übrigen neuronalen Verstärkern, nicht jedoch mit demjenigen neuronalen Verstärker verbunden, von dem sie ausgehen, so daß die Anzahl der Kopplungen um eins kleiner ist als die Anzahl der neuronalen Verstärker. Die intensive Kopplung durch das Foto-Rezeptor-Array 100 in Kombination mit der Veränder­ barkeit des Eingangsbildes des Objektes 20 bewirkt, daß die individuellen neuronalen Verstärker auf Musterände­ rungen reagieren und in einen Satz von stabilen Zuständen übergehen. Die individuellen neuronalen Verstärker gelangen in nichtlinearer Weise in diese stabilen Zustände, wobei die Nichtlinearität eine Funktion der Zeitkonstanten der Zündrate und der sigmoidalen Antwort­ kennlinie der einzelnen neuronalen Verstärker ist. Die vorbestimmte Zeitkonstante der Zündrate bestimmt die Antwortzeiten der einzelnen neuronalen Verstärker und kann durch ein paralleles Netzwerk bestimmt werden, das aus einem Widerstand und einem Kondensator besteht, die beide fotogesteuert sind. Das parallele Netzwerk kann entweder in der Schaltung des Fotorezeptor-Arrays 100 oder in der Schaltung des Foto-Verbindungs- und -Antwort- Arrays 400 angeordnet sein. Die sigmoidale Antwort wird durch ein lokales paralleles Rückkopplungsnetzwerk erzeugt, das in dem lokalen Rückkopplungspfad jedes der einzelnen neuronalen Verstärker angeordnet ist. Der Satz von stabilen Zuständen der einzelnen neuronalen Verstär­ ker stellt einen spezifischen Lernsatz dar und wird dem Gate-Array 100 über die positiven Aktivierungs-Rückkopp­ lungs-Axon-Ausgänge der einzelnen neuronalen Verstärker zugeführt.
Die Axon-Ausgangssignale bilden einen Satz von stabilen binären Ein- oder Aus-Zuständen und tragen, soweit die Position oder Pegel gleich sind, zu dem Ergebnis des Netzes 10 bei. Diese gleichgewichteten Ausdrücke, die den Lernsatz enthalten, werden in dem Speicherbereich des Gate-Arrays 300 gespeichert. Der Lernsatz kann so das Gate-Array 300 in der Weise anordnen, daß es dann, wenn etwas später ein gleichartiges Bild erscheint, für jede Speicherübereinstimmung eine 1 und für jede Speicherab­ weichung eine 0 erzeugt. Eine Steuereinrichtung 500 steuert das Gate-Array 300 und liefert verschiedene Schemata zur Benutzung und Anordnung der Lernsätze in dem Gate-Array 300. Ein Satz von Eingangszuständen, die von der Abbildungseinrichtung 40 an das Fotorezeptor-Array 100 abgegeben werden, erzeugt analoge Pegelübergänge, die durch die synaptischen fotogesteuerten Widerstände des Fotorezeptor-Arrays 100 in und zwischen die einzelnen neuronalen Verstärker gekoppelt werden. Dies führt zu einer dynamischen Änderung von Pegelsätzen, die evtl. in stabile Zustände übergehen, entweder in Sättigung oder Sperrung, wie es durch die sigmoidale Antwort jedes individuellen neuronalen Verstärkers bewirkt wird. Diese Zustände, die für den gegebenen Eingangsdatensatz eindeutig sind, können dann als Repräsentant für einen Lernsatz für diese speziellen Eingangsdaten betrachtet werden.
Das Foto-Verbindungs- und -Antwort-Array 400 liefert die Verknüpfungen zwischen den einzelnen neuronalen Verstär­ kern und bestimmt damit die Gesamttopographie des Netzes 10. Zusätzlich kann das Foto-Verbindungs- und -Antwort- Array 400, wie oben erwähnt, durch Einfügen des paral­ lelen Widerstands/Kapazitäts-Netzwerks, das die vorbe­ stimmte Zeitkonstante der Ansprechgeschwindigkeit liefert, für die zeitliche Steuerung des Netzes 10 sorgen. Das Foto-Verbindungs- und -Antwort-Array 40 steuert die Verknüpfungen der einzelnen neuronalen Verstärker durch das Einbetten einer neuronalen Verstär­ ker-Trenneinrichtung in die neuronale Verstärkerschal­ tung. Diese Trennvorrichtung umfaßt ein Paar fotoge­ steuerter Widerstände in den Eingangs- und Ausgangskrei­ sen der individuellen neuronalen Verstärker. Durch die gesteuerte Anwendung von Licht kann der Widerstandswert der fotogesteuerten Widerstände groß genug gemacht werden, um einzelne oder alle individuellen neuronalen Verstärker aus dem Netzwerk 10 herauszutrennen. Durch die Steuerung der Verknüpfungen der individuellen neuronalen Verstärker kann die Anzahl der individuellen stabilen Zustände bestimmt werden, die den spezifischen Lernsatz darstellen. Alternativ kann die Trennvorrich­ tung des neuronalen Verstärkers auch irgendein Standart- Schalterkreis sein oder eine Einrichtung, die auf Befehl den Schaltungskreis irgendeines der individuellen neuronalen Verstärker auftrennen kann. Das Licht zur Steuerung des Foto-Verbindungs- und -Antwort-Arrays 400 wird von einer Foto-Stimulus-Einrichtung 600 geliefert, die von einem Computer gesteuert werden kann. Das Foto- Verbindungs- und -Antwort-Array 400 wird dadurch initialisiert, daß alle Verbindungen und die Zeitkonstan­ ten der neuronalen Verstärker in eine feste Konfiguration gebracht werden. Weitere zeitliche und/oder räumliche Steuerungen können durch den Stimulus veranlaßt werden, indem man eine geeignete Licht- oder Strahlungsquelle benutzt, z. B. eine Lichtröhre oder eine Kathodenstrahl­ röhre. Das Foto-Verbindungs- und -Antwort-Array 400 ist für ein festes Netz 10 nicht erforderlich.
Die Foto-Stimulus-Einrichtung 600 kann so programmiert werden, daß sie an das Foto-Verbindungs- und -Antwort- Array 400 einen Lichtstimulus liefert, der eine andere Wellenlänge hat als das von dem Eingangsbild abgeleitete Licht oder aber als einen Lichtstimulus mit derselben Wellenlänge. Diese Möglichkeit, die Wellenlänge des Licht-Stimulus zu modifizieren, ermöglicht einen größeren Steuerbereich für das Netz 10, wobei die Möglichkeit der Interaktion oder Überlappung der beiden unterschiedlichen Stimulus-Signale eliminiert wird.
In einem zweiten Ausführungsbeispiel der Erfindung, das in Fig. 1a dargestellt ist, sind das Fotorezeptor-Array 100 und das Foto-Verbindungs- und -Antwort-Array 400 in einem einzigen Array kombiniert. Fig. 1a zeigt ein Blockschaltbild des fotostimulierten und -gesteuerten abbildenden neuronalen Netzwerks 10 mit dem vorerwähnten Array, das zu einem einzigen Foto-Rezeptor/Foto-Verbin­ dungs- und -Antwort-Array 700 kombiniert ist und das alle Funktionen der ursprünglich getrennt vorgesehenen Arrays bietet. Die Kombination der beiden Arrays 100 und 400 hat den Zweck, das System kompakter zu machen.
Fig. 2 zeigt die Schaltung des Foto-Rezeptor-Arrays 100 zusammen mit dem neuronalen Verstärker-Array 200 und der Spannungsversorgungseinrichtung 600. Zur Darstellung der Erfindung wurde ein n × n Foto-Rezeptor-Array 100 und ein neuronales Verstärker-Array 200 mit n × 1 neuronalen Verstärkern gewählt. Das n × n Foto-Rezeptor-Array 100 besteht aus synaptischen fotogesteuerten Widerständen 101 bis 140 und Strombegrenzungswiderständen 141 bis 145. Das Foto-Rezeptor-Array 100, das biologische synaptische Kopplungen emuliert, ist über elektrische Dendriten- Eingangssignalleitungen 146 bis 150, die die elektrischen Dendriten-Eingangssignale zu den neuronalen Verstärkern 201 bis 205 transportieren, mit dem neuronalen Verstär­ ker-Array 200 gekoppelt. Wie oben erwähnt wurde und aus Fig. 2 erkennbar ist, bilden die individuellen synap­ tischen fotogesteuerten Widerstände 101 bis 140 die Kopplungen zwischen den individuellen neuronalen Verstärkern 201 bis 205 und bewirken die Rückkopplung zu jedem einzelnen der neuronalen Verstärker 201 bis 205. Wie aus dem Muster der synaptischen fotogesteuerten Widerstände 101 bis 140 erkennbar ist, sind die der Aktivierung dienenden positiven Rückkopplungs-Axon- Ausgänge 206 bis 210 und die sperrenden negativen Rückkopplungs-Axon-Ausgänge 211 bis 215 über die synaptischen fotogesteuerten Widerstände 201 bis 240 mit allen anderen individuellen neuronalen Verstärkern 201 bis 205 gekoppelt. Da jeder der individuellen neuronalen Verstärker 201 bis 205 von den anderen neuronalen Verstärkern 201 bis 205 außer von sich selbst Rückkopp­ lung empfängt, ergeben sich (n - 1) Kopplungspaarungen. Da für jeden neuronalen Verstärker zwei Axon-Ausgänge vorhanden sind, ist die Anzahl der Axon-Ausgangs- Ropplungen gleich 2(n - 1), und die Gesamtzahl der Kopplungen zwischen dem Foto-Rezeptor-Array 100 und dem Array 200 der neuronalen Verstärker beträgt
Ct = 2n(n - 1). (1)
Bei diesem Ausführungsbeispiel der Erfindung werden als synaptisch fotogesteuerte Widerstände 101 bis 140 Sulfid- Widerstände verwendet. Jeder der synaptischen fotoge­ steuerten Widerstände 101 bis 140 reagiert auf die Wellenlänge und Intensität der von der Abbildungseinrich­ tung 40 (Fig. 1) auftreffenden Strahlung mit einem spezifischen Widerstandswert, der seinerseits die Rückkopplung und die Kopplung zwischen den einzelnen neuronalen Verstärkern 201 bis 205 steuert. Die Beziehung zwischen dem Foto-Rezeptor-Array 100 und der Abbil­ dungsvorrichtung 40 läßt sich am besten als mathematische Beziehung zwischen den Widerstandswerten der synaptischen fotogesteuerten Widerstände 101 bis 140 und dem Licht- oder Strahlungsmuster der Abbildungseinrichtung 40 ausdrücken. Es wird eine fotostimulierte Widerstandsma­ trix Rp gebildet, die die Widerstandswerte der Elemente des Foto-Rezeptor-Array 100 in Abhängigkeit von dem von der Abbildungseinrichtung 40 einfallenden Licht- oder Strahlungsmuster repräsentiert, das von einer Bildmatrix Ir aufgenommen wird. Jedes Element Rp ist mit jedem Element von Ir durch eine Umwandlungsmatrix C verbunden, so daß
[Rp] = [C] [Ri]. (2)
Die Umwandlungsmatrix C repräsentiert die physikalischen Eigenschaften der Widerstandselemente und verleiht den Widerstandselementen für eine gegebene Strahlungsinten­ sität und -wellenlänge einen gegebenen Widerstandswert. Die Verwendung von Cadmiumsulfid-Widerständen ergibt eine inverse Beziehung zwischen der Lichtintensität und dem Widerstandswert, so daß der Widerstandswert um so kleiner wird, um so größer die Intensität der einfallenden Strahlung, und um so größer, je kleiner die Intensität der einfallenden Strahlung ist.
Die Spannungsversorgungseinrichtung 60 liefert die Betriebsspannung für die einzelnen neuronalen Verstärker 201 bis 205 über fotogesteuerte Strombegrenzungswider­ stände 141 bis 145. Die Widerstände 141 bis 145 sind fotogesteuert, um die in das System eintretende Spannung zu verändern, während feste Widerstände eine solche besondere Manipulierung oder Steuerung des Netzes 10 nicht zulassen würden. Die von der Spannungsversor­ gungseinrichtung 60 gelieferten Spannungen wandern durch die verschiedenen Pfade, die durch die synaptischen fotogesteuerten Widerstände 101 bis 140 bestimmt werden, und enden evtl. an den Eingängen der individuellen neuronalen Verstärker 201 bis 205. Diese Spannungsein­ gangssignale bilden, wie oben erwähnt, die elektrischen Dendriten-Eingangssignale.
Die intensive Rückkopplung durch die synaptischen fotogesteuerten Widerstände 101 bis 140 des Foto- Rezeptor-Arrays 100 bewirkt in Kombination mit der Veränderbarkeit des Eingangsbildes, daß die neuronalen Verstärker 201 bis 205 auf Musteränderungen reagieren und in neue stabile Zustände gelangen. Der Übergang in diese neuen stabilen Zustände erfolgt, wie oben erwähnt, in nichtlinearer Weise und ist eine Funktion der Zeitkon­ stanten der Ansprechgeschwindigkeit des individuellen neuronalen Verstärker und ihrer sigmoidalen Antwort. Wie in Fig. 2 dargestellt, sind die neuronalen Verstärker 201 bis 205 spezielle Verstärker mit jeweils einem Eingang und zwei Ausgängen. Diese speziellen Verstärker sind wegen der doppelten Ausgänge, von denen einer ein Ausgang mit positivem Wert ist und der zweite ein Ausgang mit negativem Wert, speziell für diesen Anwendungszweck ausgewählt. Die neuronalen Verstärker 201 bis 205 können auch normale Operationsverstärker sein, deren einziger Ausgang sich in zwei Signalleitungen verzweigen kann, wobei eine dieser Leitungen zu einem Inverter geführt ist. Wie oben erwähnt wurde, bilden der positive und der negative Ausgang einen aktivierenden beziehungsweise einen sperrenden Axon-Ausgang, die die echten Aktivie­ rungs- und Sperrfunktionen eines biologischen neuronalen Netzes simulieren.
In Fig. 3a und 3b ist eine typische sigmoidale Antwort­ kennlinie 216 der Eingangs- und Ausgangsspannung des neuronalen Verstärkers 201 dargestellt. Ein lokales paralleles Rückkopplungsnetzwerk 117, das mit dem individuellen neuronalen Verstärker 201 verbunden ist, dient zur Erzielung dieser Art von Antwortkurve. Die durch die Kurve 216 dargestellte sigmoidale Antwort verleiht dem individuellen neuronalen Verstärker 201 eine fernsteuerbare Ausschalt- und Sättigungs-Übertragungs­ kennlinie, die die Antwort und Ansprechgeschwindigkeit eines biologischen Neurons simuliert. Das Netzwerk 217, das in dem lokalen Rückkopplungspfad des neuronalen Verstärkers 201 angeordnet ist, besteht aus zwei parallelen Zweigen mit Dioden und Zener-Dioden, die Strom in entgegengesetzten Richtungen leiten. Im Grundsatz bewirkt das Netzwerk 217 eine Zener-Diodenbegrenzung in dem lokalen Rückkopplungskreis des neuronalen Verstärkers 201. Die Zenerdioden 218 und 219 erzeugen Spannungen mit entgegengesetzter Polarität, die einzelnen Dioden 220 und 221 dienen zur Trennung der beiden Schleifen und erzeugen in Verbindung mit den Zenerdioden 218 und 219 die gewünschte nichtlineare Sättigungs- und Ausschalt- Rennlinie von Fig. 3a. Der neuronale Verstärker 201 mit dem Netzwerk 217 besitzt für niedrige Eingangspegel ein lineares Antwortverhalten, und geht bei Betrieb mit hohem Pegel in einen nichtlinearen Bereich über, der fernsteu­ erbare Ausschalt- und Sättigungseigenschaften zeigt. Wie oben erwähnt wurde, befinden sich in den lokalen Rückkopplungspfaden aller individuellen neuronalen Verstärker 201 bis 205 solche Netzwerke 217. Diese sind deshalb Teil des neuronalen Verstärker-Arrays 200, obwohl sie in Fig. 2 nicht dargestellt sind.
Fig. 4 zeigt, wie der neuronale Verstärker 201 in das Foto-Rezeptor-Array 100 eingefügt ist. Sie zeigt das parallele Netzwerk 220, das aus einem Eingangswiderstand 223 und einem Eingangskondensator 224 besteht. Der Widerstandswert des Eingangswiderstands 223 und die Kapazität des Eingangskondensators 224 bestimmen die Zeitkonstante der Ansprechgeschwindigkeit des neuronalen Verstärkers 201 als RC-Zeitkonstante. Sowohl der Widerstand 223 als auch der Kondensator 224 sind fotogesteuerte Elemente, so daß die Zeitkonstante der Ansprechgeschwindigkeit insgesamt fotogesteuert ist. Dies wird dadurch erreicht, daß der Eingangswiderstand 223 ein fotogesteuerter Widerstand ist, der vom selben Typ sein kann, wie die synaptischen fotogesteuerten Widerstände 101 bis 140 von Fig. 2 und daß der Eingangs­ kondensator 224 von der Kapazität einer fotogesteuerten Verarmungsschicht einer pn-Verbindung ist. Die synapti­ schen fotogesteuerten Widerstände 107 und 108 bewirken die Rückkopplung und die Kopplung von dem neuronalen Verstärker 201 in der in Fig. 2 dargestellten Weise. Ein fotogesteuerter Strombegrenzungswiderstand 141 dient zur Strombegrenzung für die von der Spannungsversorgungsquel­ le 60 gelieferte Spannung. Die Lichtquelle, die diese fotogesteuerten Elemente steuert, wird von der in Fig. 1 dargestellten Abbildungseinrichtung 40 gebildet.
Wie oben erwähnt wurde, kann das parallele Netzwerk 222 entweder in dem Foto-Rezeptor-Array 100 oder in dem Foto- Verbindungs- und -Antwort-Array 400 angeordnet sein. Fig. 5a zeigt das Foto-Verbindungs- und -Antwort-Array 400. Wie hieraus zu ersehen ist, besteht es aus einer Vielzahl von individuellen Elementen 401 bis 418. Fig. 5b zeigt eine vergrößerte Ansicht des Elements 418 des Foto- Verbindungs- und -Antwort-Arrays 400. Hier ist das parallele Netzwerk 222 von Fig. 4 in Form diskreter Komponenten dargestellt. Der Eingangswiderstand 419, der dem Eingangswiderstand 123 von Fig. 4 äquivalent ist, ist ein fotogesteuerter Widerstand. Der Eingangskondensator 24, der dem Eingangskondensator 224 von Fig. 4 äquivalent ist, eine fotogesteuerte Kapazität. Das in Fig. 5b dargestellte Foto-Verbindungs- und -Antwort-Array-Element 418 besitzt zwei zusätzliche Widerstände 421 und 422, die die Trennvorrichtung für die neuronalen Verstärker des neuronalen Netzes 10 bilden. Diese Widerstände 421 und 422 sind fotogesteuerte Verknüpfungswiderstände, die die Verknüpfungen zwischen den einzelnen neuronalen Verstär­ kern 201 bis 205 von Fig. 2 steuern. Durch geeignete Manipulation der auftreffenden Strahlung, die von der Foto-Stimulus-Einrichtung 600 von Fig. 1 zugeführt wird, werden die beiden Verknüpfungswiderstände 421 und 422 oder einer von ihnen hochohmig genug, um den betreffenden neuronalen Verstärker 201 bis 205 von den übrigen Verstärkern 201 bis 205 wirksam zu trennen oder zu isolieren, oder niederohmig genug, um alle neuronalen Verstärker 201 bis 205 für eine gegebene Antwort in der Schaltung wirken zu lassen. Als alternative Lösung können auch lichtaktivierte Schalter anstelle von fotogesteuer­ ten Widerständen verwendet werden. Die Manipulation der auftreffenden Strahlung kann die Form einer Neuprogram­ mierung eines computergesteuerten Laserscanners durch den System-Operator annehmen oder darin bestehen, daß der System-Operator einfach Lichtquellen und Objektive hinzufügt/entfernt.
Fig. 6 zeigt eine vergrößerte Ansicht des neuronalen Verstärkers 201 mit den oben erwähnten und in Fig. 5b dargestellten Verknüpfungs- und zeitabhängigen Elementen 421, 422, 420 und 419. Die fotogesteuerten Widerstände 421 und 422 steuern die Eingangs- und Ausgangsverbindung des neuronalen Verstärkers 201 und bestimmen durch das von der Foto-Stimulus-Einrichtung 600 von Fig. 1 zugeführte Bild-Steuermuster, nach welchem die einzelnen neuronalen Verstärker 201 bis 205 mit dem Netz 10 zu verbinden sind. Die Steuerung der zeitlichen Antwort des neuronalen Verstärkers erfolgt über seinen Eingangswider­ stand 419 und seine Eingangskapazität 420. Der Konden­ sator und der Widerstand 419 können so angeordnet sein, daß sie den Eingang des neuronalen Verstärkers 201 direkt überbrücken, oder in das lokale Rückkopplungselement eingefügt sind. Für den Eingangskondensator 420 kann gezeigt werden, daß der einzige Unterschied für diese beiden Anordnungen in einer festen Änderung der am Eingang gesehenen Kapazität besteht. Man sieht die Kapazität des Kondensators 420, wenn dieser über dem Eingangsanschluß angeordnet ist und die (1 - A)-fache Kapazität des Kondensators 420, wenn dieser als lokales Rückkopplungselement verwendet wird, wobei A die Leerlaufverstärkung des neuronalen Verstärkers 201 ist. Um den Kondensator 420 nutzbar zu machen, muß er entkoppelt sein. Dies wird dadurch erreicht, daß man einen herkömmlichen Kondensator 320 mit hoher Kapazität, wie er in Fig. 5b dargestellt ist, in Reihe mit dem kleinen Verarmungsschicht-Kondensator 424 schaltet. Wenn er sich, wie in Fig. 6 gezeigt, in dem Rückkopplungspfad befindet, steigt die resultierende Kapazität am Eingang des neuronalen Verstärkers 201 auf (1 - A)C. Durch Ausnutzung dieses Miller-Effekts ist es möglich, einen großen Bereich von Antwortzeiten zu steuern, während die Anordnung des Eingangskondensators 420 am Eingang einen kleineren Bereich von steuerbaren Werten liefert.
Fig. 7 zeigt ein Flußdiagramm des Netzes 10, in dem die Signalelemente getrennt dargestellt sind, um die verschiedenen Signalfunktionen zu veranschaulichen. Das auf dem Foto-Rezeptor-Array 100 abgebildete Bild oder Objekt 20 bewirkt die verschiedenen synaptischen Kopplungen zwischen den neuronalen Verstärkern des neuronalen Verstärker-Arrays 200 (es sei angenommen, daß die Netzwerk-Verknüpfung und -Antwort auf irgendeine feste Konfiguration eingestellt ist). Die Axon-Ausgangs­ signale 207 bis 210 des neuronalen Verstärker-Arrays 200 haben stabile binäre Ein- oder Aus-Zustände. Weiterhin liefert jedes dieser Ausgangssignale, die aus Nullen oder Einsen bestehen, sowie die Position oder der Pegel gleich sind, Beiträge zu dem Ausgangsergebnis des Netzes 10. Deshalb hat jeder Ausgangspegel und jede Ausgangspo­ sition gleiches Gewicht, so daß der Verlust eines Ausgangssignales nur geringe Auswirkung auf das Ergebnis des Prozesses hat. Dies läßt sich vergleichen mit einem Binärwort, bei dem der Verlust oder ein Fehler in einem hochwertigen Bit, z. B. dem Bit mit dem höchsten Stellen­ wert (MSB) eine drastische Beeinträchtigung des Ergebnis­ ses zur Folge hat. Diese gleichgewichteten Ausdrücke stellen den Lernsatz dar und werden in dem Speicher gespeichert. Der Lernsatz kann dazu verwendet werden, eine Speicherschablone für das Gate-Array 300 zu erzeugen. Das Gate-Array 300 ist ein programmierbares Gate-Array, das verschiedene Schablonen speichern kann, so daß dann, wenn etwas später ein gleichartiges Bild erscheint, dieses eine 1 für jede Speicherübereinstim­ mung und eine 0 für jede Speicher-Abweichung erzeugt. Bei einem identischen Bild erscheint an allen Ausgangs-Gates 301 bis 305 eine 1. Das programmierbare Gate-Array 300 wird durch die Steuereinrichtung 500 gesteuert, die eine Lernsatz-Steuervorrichtung ist, die für die Initialisie­ rungs-Eingangssignale für das programmierbare Gate-Array 300 verantwortlich ist. Die Ausgangssignale 301 bis 305 des programmierbaren Gate-Arrays 300 werden einer Summiereinrichtung 306 zugeführt. Das maximale Ausgangs­ signal der Summiereinrichtung 306 ist invariant und entspricht einer 1 an allen Eingängen, was eine Überein­ stimmung mit dem Eingangsbild kennzeichnet. Zum Vergleich arbeitet die Summiereinrichtung 306 wie ein Digital/Ana­ log-Wandler, besitzt jedoch gleiche Gewichte an allen Eingängen. Die Entscheidung ob das Eingangsbild identi­ fiziert wird oder nicht, wird durch eine Schwellwertein­ richtung 307 eingestellt, die so justiert ist, daß sie einen vorbestimmten Pegel der Summiereinrichtung 6 passieren läßt. Diese Schwellwertfunktion ist kontinuier­ lich veränderbar und ersetzt eine sehr viel komplexere Gate-Struktur, die bei einer digitalen Realisierung zur Bildung von Lernsatz-Schablonen benötigt würde. Das Ausgangssignal der Schwellwerteinrichtung 307 stellt die spezielle Entscheidung dar, die in spezieller Weise weiterverwendet wird. Die Schwellwertvorrichtung 307 kann eine Komparatorschaltung oder dergl. sein.
Die Steuervorrichtung 500 liefert, wie oben erwähnt, die Initialisierungswerte für das programmierbare Gate 300. Sie kann zusätzlich verschiedene Arten von statistischen Abstimmungsschemata zwischen den Bits des Lernsatzes liefern. Wenn beispielsweise eine 1-Bit-Differenz zwischen den Lernsätzen zweier identischer Objekte besteht, kann die Steuervorrichtung 500 durch eine Software-Routine den einen Kanal auswählen, der für die 1-Bit-Differenz verantwortlich ist. Je nach Anwendungs­ fall können verschiedene Abstimmungs-Schemata implemen­ tiert sein. Sobald die Steuervorrichtung 500 das Gate 300 initialisiert, bewirken von da an nachfolgende Lernsätze eine Neuprogrammierung des Gates 300.
Eine allgemeine Anordnung für das neuronale Netz ist in Fig. 8 gezeigt. Das Objekt 20 wird von der Abbildungsein­ richtung 40, die hier als Objektiv dargestellt ist, auf dem Foto-Rezeptor-Array 100 abgebildet. Wie oben erwähnt wurde, kann das Objektiv durch eine Kathodenstrahlröhre, einen Bildverstärker oder einen Laserscanner ersetzt werden. Wenn es notwendig ist, eine durch Abtastprozesse verursachte zeitliche Änderung des Bildes zu eliminieren, kann eine Lichtröhre, z. B. ein räumlicher Grumman- Lichtmodulator verwendet werden, um das abgetastete Bild, das seriell mit einer periodischen Rate (30 Bilder pro Sekunde beim Fernsehen) auftritt, in ein Bild ohne signifikante periodische Fluktuationen umzuwandeln. Alternativ kann die Zeitkonstante der Ansprechgeschwin­ digkeit der einzelnen neuronalen Verstärker 201 bis 204 als Teil des Eingangsbildes eingestellt oder als dynamisch gesteuertes Signalüberlagerungsmuster eingefügt werden, um das Durchlaßband genügend weit unter die periodische Abtastrate des Abtastsystems zu legen.
Das Foto-Rezeptor-Array 100 besteht aus n × n Fotowider­ ständen oder ihren Äquivalenten, die bei Arrays begrenz­ ter Größe diskrete Elemente oder bei größeren Arrays Dünnfilmschichten sind. Die Anzahl der Elemente in dem Foto-Rezeptor-Arrays 100 bestimmt die Auflösung des neuronalen Netzes 10, wobei einfache geometrische Formen kleine Elementenzahlen erfordern, während komplexe Objekte sehr viele Elemente benötigen.
Jedes Element des Foto-Rezeptor-Arrays 100 ist mit den neuronalen Verstärkern 201 bis 204 in der in Fig. 2 dargestellten Weise verbunden. Das Axon-Ausgangssignal der individuellen neuronalen Verstärker wird einer einzigen Gate-Struktur 300 eingegeben, die durch einen vorangehenden Lernsatz vorprogrammiert ist.
Alternativ wird ein programmierbares Gate-Array 300 mit genügend großem Speicher zur Speicherung von Lernsätzen sowie dazu verwendet, auf diese Sätze sequentiell zuzugreifen, wobei die Zustände der neuronalen Verstärker abgerufen werden, um die Art des Eingangs-Stimulus zu bestimmen.
Das programmierbare Gate 300 ist eine digitale Standard- Schaltungskomponente, die in verschiedenen Technologien einschließlich CMOS, NMOS und Galliumarsenid, realisiert werden kann. Die jeweils gewählte Technologie hängt von verschiedenen Faktoren ab einschließlich der gewünschten Arbeitsgeschwindigkeit des Systems. Die Summiereinrich­ tung 306 und die Schwellwerteinrichtung 307 sind ebenfalls elektrische Standard-Komponenten.

Claims (20)

1. Fotostimuliertes neuronales Netz zur Verarbeitung eines Bilds, das direkt als Eingangsinformation in das neuronale Netz eingegeben wird, aufweisend:
  • 1. eine Abbildungseinrichtung (40) zur direkten optischen Übertragung einer Bildinformation als Eingangsinformation in das Netz,
  • 2. eine Fotorezeptor-Matrix (100) zur Umsetzung der eingegebenen Bildinformation von der Abbildungseinrichtung (40) in ein Muster fotogesteuerter elektrischer Kopplungen zur Erzeugung mehrerer elektrischer Eingangssignale, und
  • 3. eine neuronale Verstärkermatrix (200) mit mehreren einzelnen elektrischen Verstärkern (201-205), wobei die neuronale Verstärkermatrix (200) mehrere Ausgangssignale (206-210) zu einem programmierbaren Logikgatter (300) als Antwort auf die Eingabe der mehreren elektrischen Eingangssignale von der Fotorezeptor-Matrix (100) ausgibt.
2. Netz nach Anspruch 1, dadurch gekennzeichnet, daß die Abbildungseinrichtung (40) ein Objektiv, eine Kathodenstrahlröhre, ein Bildverstärker oder ein Laser ist.
3. Netz nach einem der Ansprüche 1 oder 2, dadurch gekennzeichnet, daß die Fotorezeptor-Matrix (100) aufweist:
  • 1. mehrere Fotowiderstände (101-140), die Verknüpfungen zwischen den mehreren Verstärkern (201-205) der neuronalen Verstärkermatrix (200) herstellen, wobei diese mehreren Fotowiderstände (101-140) auf die Wellenlänge und Intensität der eingegebenen Bildinformation mit einem spezifischen Widerstandswert reagieren und so das Kopplungsmuster zwischen den mehreren Verstärkern bestimmen, wobei jeder der Fotowiderstände denselben Widerstandswert aufweist, wenn er durch die gleiche Leuchtintensität bestrahlt wird,
  • 2. eine Spannungsversorgungseinrichtung (60) zur Bereitstellung einer Betriebsspannung für die Verstärker (201-205) der neuronalen Verstärkermatrix (200), und
  • 3. mehrere Strombegrenzungs-Fotowiderstände (141-145), die zwischen der Spannungsversorgungseinrichtung (60) und den mehreren Fotowiderständen (101- 140) angeordnet sind, wobei die Fotowiderstände (101-140) und die Strombegrenzungs-Fotowiderstände (141-145) Foto-Feldeffekttransistoren, bipolare Fototransistoren oder Fotodioden sind.
4. Netz nach Anspruch 3, dadurch gekennzeichnet, daß die mehreren Fotowiderstände (101-140) die Kopplung von einem Ausgang eines Verstärkers (201-205) der neuronalen Verstärkermatrix (200) zu einem Eingang sämtlicher anderer Verstärker (201-205) steuern.
5. Netz nach Anspruch 4, dadurch gekennzeichnet, daß jeder der Verstärker (201-205) einen sperrenden negativen Rückkopplungsausgang (211-215) und einen aktivierenden positiven Rückkopplungsausgang (206-210) besitzt und daß die aktivierenden Rückkopplungsausgänge (206-210) die Ausgangssignale zu dem programmierbaren Logikgatter (300) bereitstellen.
6. Netz nach Anspruch 5, dadurch gekennzeichnet, daß die sperrenden negativen Rückkopplungsausgänge (211-215) und die aktivierenden positiven Rückkopplungsausgänge (206-210) der einzelnen Verstärker (201-205) durch die Fotowiderstände (101-140) mit allen übrigen individuellen Verstärkern gekoppelt sind, so daß sich jeweils eine Anzahl von Kopplungen ergibt, die um 1 kleiner ist als die Anzahl der individuellen Verstärker.
7. Netz nach Anspruch 6, dadurch gekennzeichnet, daß die mehreren einzelnen Verstärker (201-205) auf der Grundlage der eindeutigen Kopplung und Rückkopplung, die eine Funktion der von der Abbildungseinrichtung (40) kommenden Bildinformation ist, in einen Satz von stabilen Zuständen gelangen, der einen spezifischen Lernsatz darstellt, wobei dieser Lernsatz aus binären Zuständen besteht, die bezüglich Position und Pegel gleichwertig in dem Lernsatz sind, wobei der Lernsatz von dem von einer Steuereinrichtung gesteuerten Logikgatter (300) gespeichert und benutzt wird, das mehrere Ausgangs-Gate-Signale an eine Summiereinrichtung (306) abgibt, in der diese Ausgangs-Gate-Signale summiert und über eine Schwellwerteinrichtung (307) zum Vergleich oder zur Speicherung abgegeben werden.
8. Netz nach Anspruch 7, dadurch gekennzeichnet, daß die mehreren Verstärker (201-205) in Abhängigkeit von einer vorbestimmten Zeitkonstanten der Ansprechgeschwindigkeit und einer sigmoidalen Antwort jedes einzelnen Verstärkers in nichtlinearer Weise in den genannten Satz von stabilen Zuständen gelangt, wobei die sigmoidale Antwort der Verstärker als einstellbare Ausschalt- und Sättigungs-Übertragungs-Kennlinie ausgeführt ist.
9. Netz nach Anspruch 8, bei dem die sigmoidale Antwort durch ein lokales paralleles Rückkopplungsnetzwerk bewirkt wird,
  • 1. das aus einem ersten Zweig mit Diode (220) und Zenerdiode (218) besteht, der von dem Eingang des individuellen Verstärkers zu seinem Ausgang leitend ist, und
  • 2. einen zweiten Zweig mit Diode (221) und Zenerdiode (219), der in entgegengesetzter Richtung leitend ist.
10. Netz nach Anspruch 8, dadurch gekennzeichnet,
  • 1. daß die vorbestimmte Zeitkonstante der Ansprechgeschwindigkeit jedes einzelnen Verstärkers (201-205) die Zeitspanne bestimmt, in der der Verstärker nach der Erregung in einen stabilen Zustand gelangt, und
  • 2. daß diese vorbestimmte Zeitspanne der Ansprechgeschwindigkeit durch ein paralleles Netzwerk (222) bestimmt wird, das aus einem Widerstand (223) und einem Kondensator (224) besteht, die zum Eingang des Verstärkers parallel geschaltet sind.
11. Netz nach Anspruch 10, dadurch gekennzeichnet,
  • 1. daß der Widerstand (223) und der Kondensator (224) des parallelen Netzwerks (222) fotogesteuert sind, und
  • 2. daß der fotogesteuerte Kondensator (224) von der Kapazität der Verarmungsschicht einer pn-Verbindung gebildet wird.
12. Netz nach Anspruch 10, dadurch gekennzeichnet, daß es ferner folgende Teile aufweist:
  • 1. ein Foto-Verbindungsarray (400), das die Verknüpfung und zeitliche Steuerung des Netzes in Abhängigkeit von einer Vielzahl externer Signale ermöglicht, und
  • 2. eine Foto-Stimulus-Einrichtung (600) zur Erzeugung eines Lichtmusters, das auf das Foto-Verbindungsarray (400) auftrifft, um ein operationales Netz zu bilden, wobei das Lichtmuster die genannte Vielzahl von externen Signalen bildet.
13. Netz nach Anspruch 12, dadurch gekennzeichnet, daß das Foto-Verbindungsarray (400) eine Vielzahl von Elementen aufweist, die jeweils aus folgenden Teilen bestehen:
  • 1. wenigstens einer Trenneinrichtung für die Verstärker (201-205) zur Steuerung der Eingangs- und Ausgangs-Verbindung der einzelnen neuronalen Verstärker, wobei diese Trenneinrichtung so betätigbar ist, daß sie einen oder alle Verstärker trennt und dadurch festlegt, wie viele der einzelnen Verstärker zu dem Lernsatz beitragen, und
  • 2. einem parallelen Netzwerk, das aus einem Widerstand und einem Kondensator besteht und in einem Querzweig zu jedem der einzelnen Verstärker (201-205) angeordnet ist.
14. Netz nach Anspruch 13, dadurch gekennzeichnet,
  • 1. daß die Trennvorrichtung für einen einzelnen Verstärker (201-205) aus wenigstens einem Fotowiderstand (421, 422) besteht, wobei im Falle von zwei Fotowiderständen der erste (421) am Eingang des Verstärkers und der zweite (422) am Ausgang des Verstärkers angeordnet ist, und
  • 2. daß die vorbestimmte Zeitkonstante der Ansprechgeschwindigkeit durch das parallele Netzwerk des Foto-Verbindungsarray (400) bestimmt wird.
15. Verfahren zur Verarbeitung einer Bildinformation mittels eines neuronalen Netzwerkes, aufweisend die folgenden Schritte:
  • 1. direkte optische Eingabe der Bildinformation als Eingangsinformation in das neuronale Netzwerk,
  • 2. Umsetzung der Bildinformation in ein Muster fotogesteuerter elektrischer Kopplungen zur Erzeugung mehrerer elektrischer Eingangssignale für eine neuronale Verstärkermatrix, und dort
  • 3. Erzeugung mehrerer elektrischer Ausgangssignale für ein programmierbares Logikgatter als Antwort auf die Eingabe der elektrischen Eingangssignale.
16. Verfahren nach Anspruch 15, bei dem der Umsetzungsschritt die folgenden Schritte aufweist:
  • 1. Eingabe der Bildinformation mittels mehrerer Fotowiderstände, die Kopplungen zwischen mehreren Verstärkern der neuronalen Verstärkermatrix steuern,
  • 2. Rückkopplung der mehreren einzelnen Verstärker, und
  • 3. Bereitstellung einer Initialisierungsspannung für die mehreren einzelnen Verstärker.
17. Verfahren nach Anspruch 15, bei dem der Schritt der Erzeugung der mehreren Ausgangssignale die folgenden Schritte aufweist:
  • 1. Umsetzung der mehreren elektrischen Eingangssignale in die mehreren elektrischen Ausgangssignale durch Eingabe der Eingangssignale zu den einzelnen Verstärkern, wodurch durch die Kopplungen sowie die Rückkopplungen die mehreren Verstärker in einen Satz stabiler Zustände gelangen, und
  • 2. Eingabe des Satzes stabiler Zustände in das Logikgatter, in dem sie elektronisch addiert werden, um weitere Lern- und Vergleichsschritte auszuführen.
18. Verfahren nach Anspruch 17, weiterhin aufweisend die folgenden Schritte:
  • 1. Steuerung der Eingangs- und Ausgangsverbindungen von jedem Verstärker, und
  • 2. Steuerung des zeitlichen Antwortverhaltens des neuronalen Netzes.
19. Verfahren nach Anspruch 18, bei dem der Schritt der Steuerung der Eingangs- und Ausgangsverbindungen den Schritt des Ein- und Ausschaltens der mehreren einzelnen Verstärker aufweist.
20. Verfahren nach Anspruch 19, bei dem die Steuerung des zeitlichen Antwortverhaltens die Bestimmung einer Zeitkonstanten für das neuronale Netzwerk aufweist.
DE4035559A 1990-11-08 1990-11-08 Fotostimuliertes neuronales Netz Expired - Fee Related DE4035559C2 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE4035559A DE4035559C2 (de) 1990-11-08 1990-11-08 Fotostimuliertes neuronales Netz

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE4035559A DE4035559C2 (de) 1990-11-08 1990-11-08 Fotostimuliertes neuronales Netz

Publications (2)

Publication Number Publication Date
DE4035559A1 DE4035559A1 (de) 1992-05-14
DE4035559C2 true DE4035559C2 (de) 2000-03-02

Family

ID=6417892

Family Applications (1)

Application Number Title Priority Date Filing Date
DE4035559A Expired - Fee Related DE4035559C2 (de) 1990-11-08 1990-11-08 Fotostimuliertes neuronales Netz

Country Status (1)

Country Link
DE (1) DE4035559C2 (de)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3922129A1 (de) * 1988-07-05 1990-01-11 Mitsubishi Electric Corp Neurocomputer
EP0375165A2 (de) * 1988-11-25 1990-06-27 Matsushita Electric Industrial Co., Ltd. Räumliches lichtmodulierendes Element und Neuralnetzwerk

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3922129A1 (de) * 1988-07-05 1990-01-11 Mitsubishi Electric Corp Neurocomputer
EP0375165A2 (de) * 1988-11-25 1990-06-27 Matsushita Electric Industrial Co., Ltd. Räumliches lichtmodulierendes Element und Neuralnetzwerk

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
KORNFELD, C.D. et al.: An Optically Programmed Neural Network, IEEE SPIE Conference, 1988, San Diego *

Also Published As

Publication number Publication date
DE4035559A1 (de) 1992-05-14

Similar Documents

Publication Publication Date Title
DE4042139C2 (de) Neuron-Einheit
DE112018003231T5 (de) Neuromorphe verarbeitungsvorrichtung
Fiesler et al. Weight discretization paradigm for optical neural networks
DE60218380T2 (de) Mustererkennungsgerät zur Ermittlung eines festgelegten Musters in einem Eingangssignal
DE69126555T2 (de) Verfahren zur Klassifikation in einem hierarchisierten neuronalen Netzwerk
DE112018004223T5 (de) Trainieren künstlicher neuronaler Netze
DE68928484T2 (de) Verfahren zum erkennen von bildstrukturen
DE112018000272T5 (de) Resistive Verarbeitungseinheit mit hysteretischen Aktualisierungen zum Trainieren neuronaler Netze
US5842191A (en) Neural network that incorporates direct optical imaging
US5255362A (en) Photo stimulated and controlled imaging neural network
DE69019211T2 (de) Analoges programmierbares neuronales Netzwerk.
DE112019005119T5 (de) Abgleichtechniken zum angleichen des symmetriepunktes als null-gewichtungspunkt in analogen kreuzungspunktanordnungen
Farhat Optoelectronic neural networks and learning machines
DE112020000929T5 (de) Programmieren eines phasenwechselspeichersin einer geschlossenen schleife
DE69815390T2 (de) Neuronale netzwerke
DE69110538T2 (de) Neuronales Klassifikationssystem and -verfahren.
DE69119604T2 (de) Trainingsverfahren eines neuronalen netzwerks
DE69627948T2 (de) Rechenschaltung mit sofortiger Erkennungsfunktion und Verfahren zur sofortigen Erkennung
DE4035559C2 (de) Fotostimuliertes neuronales Netz
DE69628919T2 (de) Halbleiterfunktionsschaltung
DE112021002939T5 (de) Effiziente kachel-zuordnung für zeilenweise zuordnung in neuronalen faltungsnetzen zur analogen inferenz in künstliche-intelligenz-netzen
DE69105129T2 (de) Kapazitive strukturen für bewertende summierung in neuronalen netzen.
DE112021002742T5 (de) Training oszillatorischer neuronaler netze
JP3142287B2 (ja) ニューラルネットワーク
DE112020005262T5 (de) Kapazitive verarbeitungseinheit

Legal Events

Date Code Title Description
8110 Request for examination paragraph 44
D2 Grant after examination
8364 No opposition during term of opposition
8339 Ceased/non-payment of the annual fee