DE69419953T2

DE69419953T2 - Neuronale Netzwerkstruktur mit seitlichen Verbindungen

Info

Publication number: DE69419953T2
Application number: DE69419953T
Authority: DE
Inventors: Paul Horan
Original assignee: Hitachi Europe Ltd
Current assignee: Hitachi Europe Ltd
Priority date: 1993-03-16
Filing date: 1994-03-01
Publication date: 2000-03-09
Anticipated expiration: 2014-03-02
Also published as: EP0617353A1; EP0617353B1; DE69419953D1; US5581660A; IE930200A1; JPH06295351A

Description

Die vorliegende Erfindung betrifft eine laterale, neuronale Netzwerkstruktur, umfassend eine Schicht mit einer Mehrzahl von Neuronen, umfassend Mittel für eine optische laterale Verbindung.
Neuronale Netzwerke werden im allgemeinen in eine von drei Klassen eingeordnet, nämlich vorwärts, vor- und rückwärts und lateral. Beim Vorwärtstyp liegen die Neuronenverbindungen nur in Vorwärtsrichtung vor, während sie im wiederkehrenden Typ in Vor- und Rückwärtsrichtung vorliegen. Beim lateralen Typ gibt es laterale Verbindungen zwischen Neuronen von wenigstens einer Schicht. Diese Verbindungen können sperrend (negativ) und/oder aktivierend (positiv) sein. Die Erfindung bezieht sich auf neuronale Netzwerke dieses Typs.
Die Verwendung lateraler neuronaler Netzwerke ist für einige Verarbeitungsanwendungen wichtig. Eine solche Anwendung ist die retinale Verarbeitung. Die Merkmale der retinalen Verarbeitung sind Kontrastverbesserung und lokale Intensitätsunabhängigkeit. So wird beispielsweise in der US- Patentbeschreibung Nr. 5,033,103 (USA) ein System offenbart, das Ränder verstärkt, Helligkeitsvariationen beseitigt und Rauschen unterdrückt.
Laterale neuronale Netzwerke sind auch zur Erzielung unüberwachter und selbstorganisierender Subsysteme wichtig. Eine großangelegte laterale Sperrung kann ein wettbewerbsorientiertes oder "Winner-take-all" (Sieger erhält alles) Verhalten innerhalb eines durch die Reichweite der Sperrung definierten Bereiches begünstigen. Werden auch Aktivierungsverbindungen verwendet, dann ist auch eine topografische oder rechnerische Darstellung möglich. Der Grund hierfür ist, daß, wenn ein bestimmter Knoten auf ein bestimmtes Eingangssignal anspricht, nahegelegene Knoten ebenfalls teilweise ansprechen. Dies ist ein weitreichender Nachweis seitens der Neurowissenschaft für die Bedeutung topografischer Darstellungen und wird in der Tat als Baustein für die Infrastruktur der Informationsverarbeitung im Nervensystem angesehen.
Derzeit haben die meisten elektronischen und optoelektronischen neuronalen Netzwerke lediglich Sperrverbindungen. Optische Elemente haben bedeutende Vorteile für die Ausführung solcher dichter Vor- und Rückwärtsverbindungen. Ein Beispiel für ein solches Netzwerk ist in dem Artikel "Lateral inhibitory action in an optical neural network using an internal-light-coupled optical device array" (Laterale Sperrwirkung in einem optischen neuronalen Netzwerk mit einer Innenlicht-Optokoppler-Matrix) von Wataru Kawakami, Ken-ichi Kitayama, Yoshinori Nakano und Masahiro Ikeda in Optics Letters, Bd. 16, Nr. 13, 1. Juli 1991 offenbart. In diesem Artikel wird eine Struktur offenbart, bei der jedes Neuron einen lichtemittierenden Abschnitt umfaßt, der von einem Erfassungsabschnitt für Sperrverbindungen umgeben ist. In dem Neuron haben eine Matrixebene und ein Reflektor Löcher, die so aufeinander ausgerichtet sein müssen, daß praktisch das gesamte durch das Loch fallende externe Licht, das einem Aktivierungssignal entspricht, den lichtemittierenden Abschnitt der Einheit beleuchtet.
Es ist zwar bekannt, laterale Sperr- und Aktivierungsverbindungen in einem elektrischen neuronalen Netzwerk bereitzustellen, wie in der Europäischen Patentbeschreibung Nr. 0 349 007 (Hitachi) erläutert ist, aber dies läßt sich optisch nur schwer erreichen, da Licht eine positive, definitive Quantität ist. Der frühere Ansatz bestand darin, die Signale anhand eines Parameters wie Wellenlänge oder Polarisation mit individuellen Quellen und Detektoren zu differenzieren. Dies hat sehr große Toleranzen beim Ausrichten der individuellen Quellen auf die beugenden Elemente und Detektoren zur Folge und verkompliziert auch das Layout der einzelnen Bildpunkte erheblich.
Optics Letters, Bd. 14, Nr. 18, 15. September 1989, Washington USA, S. 984-986, W. Kamakami et al.: "Demonstration of an optical inhibitory neural network" (Demonstration eines optischen neuronalen Sperrnetzwerkes) offenbart eine weitere Netzwerkstruktur mit lateralen Verbindungen und Mitteln zum Koppeln optischer Komponenten.
Die Erfindung ist darauf abgezielt, diese Probleme zu überwinden.
Die Erfindung ist in Anspruch 1 definiert.
Die Verwendung separater Untereinheiten ist eine relativ einfache Art und Weise zur Schaffung der Möglichkeit, laterale Sperr- und Aktivierungsverbindungen zu haben. Demgemäß können viele verschiedene Verbindungsmethoden optisch angewendet werden.
In einer Ausgestaltung sind zur Rundgabe lateraler Sperrsignale konstruierte Untereinheiten für den Empfang lateraler Aktivierungssignale und externer Sperreingänge angeordnet, und zur Rundgabe lateraler Aktivierungssignale konstruierte Untereinheiten sind für den Empfang Lateraler Sperrsignale und externer Aktivierungseingänge angeordnet.
Diese Anordnung ergibt Einfachheit im Hinblick auf die Art und Weise, in der die Schicht verwendet wird - externe Signale schaffen praktisch direkt geeignete laterale Verbindungsfähigkeit.
In einer weiteren Ausgestaltung umfaßt die Schicht einen Rückkopplungsanschluß zwischen Untereinheiten.
Dies ist eine einfache Möglichkeit für die Ermittlung der Nettoknotenaktivität.
Alternativ können die Untereinheiten so konstruiert sein, daß sie Licht von einer externen Quelle empfangen und chipintegrierte Modulatoren für das empfangene Licht aufweisen.
Die chipintegrierten Modulatoren können vom GaAs-asymmetrischen Fabry- Perot-Typ sein.
In einer weiteren Ausgestaltung kann die externe Quelle moduliert sein.
In einer Ausgestaltung umfaßt das optische Kopplungsmittel holografische oder beugende optische Elemente.
In einer weiteren Ausgestaltung ist das optische Kopplungsmittel mit der Zeit veränderlich. In dieser Ausgestaltung kann das optische Kopplungsmittel ein computererzeugtes holografisches Muster umfassen. Dies ist dort sehr wichtig, wo sich die Verbindungsfähigkeit mit der Zeit ändern soll.
Gemäß einem weiteren Aspekt stellt die Erfindung ein Bildverarbeitungssystem mit einer neuronalen Netzwerkstruktur wie oben beschrieben bereit.
In einem weiteren Aspekt stellt die Erfindung eine selborganisierende neuronale Netzwerkstruktur wie oben beschrieben bereit.
Die Erfindung wird anhand der nachfolgenden Beschreibung einiger ihrer Ausgestaltungen besser verständlich, die, jedoch nur beispielhaft, unter Bezugnahme auf die Begleitzeichnungen gegeben wird. Dabei zeigt:
Fig. 1 eine schematische Ansicht eines Teils eines neuronalen Netzwerkes gemäß der Erfindung mit einer auseinandergezogenen Darstellung eines Teils eines Neurons;
Fig. 2 ein Diagramm der Mitte/Umgebungsgewichtung/Distanz-Darstellung der Verbindung von Neuronen in einer erfindungsgemäßen Schicht, in der laterale Sperr- und Aktivierungswechselwirkung vorliegt;
Fig. 3 eine schematische Darstellung einer alternativen Konstruktion eines erfindungsgemäßen Netzwerkes;
Fig. 4 ein Diagramm der Simulation der Bildung einer stabilen Aktivitätsblase in einem neuronalen Netzwerk gemäß der Erfindung; und
Fig. 5 und 6 jeweils Diagramme der die Erfindung ausgestaltenden neuronalen Netzwerke, jeweils angewendet auf Bildverarbeitung bzw. Selbstorganisation.
Bezugnehmend auf die Zeichnungen, Fig. 1 zeigt eine neuronale Netzwerkschicht 1 gemäß der Erfindung. Die Schicht 1 umfaßt eine Reihe von Neuronen, die jeweils ein Paar optisch gekoppelter, aber physikalisch getrennter Bildpunkt-Untereinheiten Xi und Yi umfassen. Die Untereinheiten Xi und Yi sind optisch durch eine Reihe beugender optischer Elemente 2 gekoppelt, deren Konstruktion und Ort die Art der optischen Kopplung bestimmen. Außerdem gibt es eine elektrische Eins-zu-Eins-Rückkopplungsverbindung 3, die jede Untereinheit Xi mit ihrer entsprechenden Untereinheit Yi verbindet.
Wie in dem Diagramm gezeigt, sendet jede Untereinheit Yi ein Aktivierungssignal entsprechend der benötigten Aktivität und empfängt ein Sperrsignal. Jedes Xi sendet ein Sperrsignal und empfängt ein Aktivierungssignal. Externe Aktivierungseingänge werden an Yi angelegt, während externe Sperreingänge an Xi angelegt werden. Die Einzelheiten der internen Verarbeitung eines Knotens werden hier nicht erörtert, sondern lediglich das Verbindungsverfahren. Additive oder nebenschließende Retrievals können mit einer geeigneten Kombination von Sperr- und Aktivierungssignalen ausgeführt werden.
Ausführlicher dargestellt und unter Bezugnahme auf die auseinandergezogene Darstellung einer Untereinheit Xi , ist sie dem ähnlich, was häufig als "Smart Pixel" bezeichnet wird und eine elektronische Schaltung 5 umfaßt, die den externen Sperreingang empfängt. Außerdem ist ein Fotodetektor 6 vorhanden, der die von den Untereinheiten Yi gesendeten lateralen Nettoaktivierungssignale empfängt und summiert. Die elektronische Schaltung 5 legt das elektrische Eins-zu-Eins-Rückkopplungssignal an den Verbinder 3 an. Sie steuert auch eine Lichtquelle 7 an, die das optische Sperrsignal für die Untereinheiten Yi sendet, wobei dieses Signal von dem optischen Nettoausgang abhängig ist. Jedes Yi hat eine ähnliche Konstruktion wie die Xi Untereinheiten, natürlich mit der Ausnahme, daß die elektronische Schaltung kein Eins-zu-Eins- Rückkopplungssignal erzeugt, sondern ein solches Signal empfängt. Somit errechnet der Fotodetektor an jedem Yi den Nettosperreingang. Die Nettoaktivität der Untereinheit Yi kann mit Hilfe des optisch angelegten Sperrsignals, des externen, elektrisch angelegten Aktivierungssignals und des Rückkopplungssignals errechnet werden. Daran wird dann eine Schwellwertbildung durchgeführt, so daß ein neuer Ausgang entsteht. Die Art und Weise, in der die Aktivierungs- und Sperrsignale rundgegeben werden, ist abhängig von der Einstellung der optischen Elemente 2.
Fig. 2 zeigt ein typisches Verbindungsschema, das häufig als "Mexikanischer Hut" bezeichnet wird. Dies kann wie gezeigt mit Hilfe der erfindungsgemäßen Schicht 1 erzielt werden. Eine Wechselwirkungslinie 10, die die Verbindungsfestigkeit zeigt, kann in eine starke lokale Aktivierung 11 und eine breitere, schäwchere Sperrung 12 unterteilt werden. Dies kann somit bei der topografischen Darstellung verwendet werden und wird in der Schicht 1 erzielt, weil:
1. es sowohl laterale Aktivierungs- als auch Sperrverbindungen gibt; und
2. es von jedem Neuron Aktivierungsverbindungen zu nahen Nachharn und Sperrverbindungen über einen größeren Radius gibt. Dieses besondere Merkmal wird durch die Konstruktion der beugenden optischen Elemente 2 erzielt und wird durch die Pfeillinien von Fig. 1 illustriert, die die Verbindungslichtsignale zeigen.
In der neuronalen Netzwerkschicht 1 hat jede Neuronenuntereinheit eine chipintegrierte Lichtquelle. Zur Leistungs- und Wärmeabführung wird möglicherweise bevorzugt, eine externe optische Leistungsquelle mit chipintegrierten Modulatoren zu verwenden. Eine solche neuronale Netzwerkschicht 15 ist in Fig. 3 dargestellt. Teile, die den unter Bezugnahme auf die vorangegangenen Zeichnungen beschriebenen ähnlich sind, wurden mit denselben Bezugsziffern bezeichnet. Wie gezeigt, gibt es eine externe optische Leistungsquelle 16, die chipintegrierte Modulatoren in den Untereinheiten Xi und Yi ansteuern. Die Modulatoren sind vom GaAs-asymmetrischen Fabry-Perot-Typ und sind mit den Lichtdetektoren und den elektronischen Elementen integriert. Es können auch alternative Technologien wie Flüssigkristall-PLZT-auf-Silizium oder GaAs-auf-Silizium verwendet werden.
Die externe optische Leistungsquelle selbst kann moduliert werden, so daß ein alternatives Mittel zum Anlegen eines externen Aktivierungs- und Sperreingangs entsteht.
Um stabile Aktivitätsblasen zu erzielen, müssen geeignete Rückkopplungsparameterwerte für das jeweilige System gewählt werden. Das folgende Simulationsbeispiel mit Bezug auf Fig. 4 zeigt, wie dies erzielt werden kann.
Man betrachte ein einfaches additives Netzwerk nur mit externen Aktivierungseingängen. Das Netzwerk wird initialisiert mit Yi(0) = Eingangsmuster, Xi(0) = 0, und kann sich dann bis zu einem Endzustand wiederholen. Die Untereinheiten X, und Yi werden alternativ gemäß den Gleichungen 1 und 2 aktualisiert. Gleichung 1 Gleichung 2
wobei fth eine Schwellwertfunktion ist. Die Werte von Yi werden nach aufeinanderfolgenden Wiederholungen zusammen mit der verwendeten Schwellwertfunktion fth und der Form der lateralen Wechselwirkung gezeigt. Es wurden Rückkopplungsparameterwerte von α = 0,3, β = 0,04 für Eingangssignalpegel von < 0,1 verwendet. Die Wechselwirkungsbreite ist α = 4, und die Sperrung ist dreimal so breit wie die Aktivierung, und sie wurde gerundet, um die Berechnungen zu vereinfachen. Wie in Fig. 4 gezeigt ist, entsteht schon bald eine stabile Aktivitätsblase im Bereich des maximalen Eingangs. Die Breite der Blase und die Geschwindigkeit, mit der sie entsteht, sind abhängig von den Rückkopplungsparametern. Nicht alle Kombinationen funktionieren, wie man bei einem solchen nichtlinearen System erwarten würde, aber wenn sich ein stabiles Verhalten einmal eingestellt hat, dann haben geringfügige Parametervariationen keine signifikante Auswirkung mehr.
Die Fig. 5 und 6 zeigen zwei Beispiele dafür, wie die Erfindung angewendet werden kann. In Fig. 5 wird ein Bildverarbeitungssystem 20 illustriert. Das System 20 umfaßt eine Linse 21, die vor einem Satz Fotodetektoren 22 montiert ist. Die Fotodetektoren 22 sind mit einer Eingangsschicht 23 eines lateralen neuronalen Netzwerkes verbunden.
Ein externes optisches Bild wird in ein elektrisches Signal umgewandelt, so daß es als externer Aktivierungseingang zu dem neuronalen Netzwerk wirkt. Es werden keine externen Sperreingangssignale angelegt.
Da sowohl Aktivierungs- als auch Sperrverbindungen vorliegen und auch benachbarte Knoten ansprechen, und mit Hilfe einer geeigneten elektronischen Verarbeitung (z. B. ein Nebenschlußnetzwerk) in den Untereinheiten, wird eine kontrastverbesserte Version des Eingangs erhalten. Somit ist die Wechselwirkung von dem in Fig. 2 gezeigten Typ des "Mexikanischen Huts".
Wenn dieses kontrastverbesserte Bild bei einer weiteren Verarbeitung benutzt wird, dann können Sperrsignale von höheren Schichten oder Einheiten zurückgespeist werden.
Gemäß Fig. 6 umfaßt ein einfaches selbstorganisierendes Netzwerk 30 eine vollverbundene Vorwärtsschicht 31, bei der die Gewichtungen Wij durch Hebb'sches Lernen bestimmt werden. Diese Daten werden in eine laterale Verbindungsschicht 32 gespeist, wo die Verbindung wieder aktivierend für nahe Nachbarn und sperrend für einen breiteren Bereich ist. Zunächst ist Wij klein und zufallsmäßig. Beim Lernen werden verschiedene Muster präsentiert. Diese haben zur Folge, daß irgendein Ausgangsneuron vorzugsweise stimuliert wird, wie durch den langen Pfeil angezeigt wird. Das "Sieger"-Ausgangsneuron spricht auf dieses besondere Eingangssignal an. Alle Verbindungen zwischen dem Siegerneuron und den aktiven Eingangsneuronen werden verstärkt, was das Wesen der Hebb'schen Lernregel ist. Durch wiederholte Präsentation von Mustern "spezialisieren" sich die Ausgangsknoten des Netzwerkes zu bestimmten Mustern oder Musterelementen, wie durch Wij bestimmt wurde.
Ein zufallsmäßiger, ungeordneter Ausgang kann dann erhalten werden, wenn nur Sperrverbindungen in dem Netzwerk vorliegen - eine sogenannte "Winner-take-all" (Sieger erhält alles) Schicht. Damit es zu einer topografischen Organisation kommen kann, ist es notwendig, daß auch die nahen Nachbaraktivierungsverbindungen vorliegen. Dadurch wird gewährleistet, daß, wenn ein bestimmtes Neuron auf ein bestimmtes Eingangssignal anspricht, auch nahegelegene Knoten teilweise ansprechen. Durch den Lernprozeß spezialisieren sich benachbarte Ausgangsneuronen zu verwandten oder ähnlichen Eingängen, was eine topografische Organisation begünstigt. Für eine gute räumliche Organisation sollte der Bereich der Aktivierungsverbindungen breit sein und sich dann während des Lernens auf einen kleinen Endwert verengen. Es kann ein statisches laterales Verbindungsschema verwendet werden, wenn ein lokales, veränderbares Sperrsignal an jeden Knoten angelegt wird.
Die Erfindung ist nicht auf die oben beschriebenen Ausgestaltungen beschränkt, sondern kann im Hinblick auf Aufbau und Detail variiert werden. So kann beispielsweise die Art und Weise, in der Neuronenuntereinheiten gekoppelt werden, mit der Zeit verändert werden. Dies kann beispielsweise mit Hilfe eines computererzeugten holografischen Musters erzielt werden. Ferner kann die Rückkopplung zwischen Untereinheiten optisch anstatt elektrisch sein. Die Ausgestaltungen wurden der Deutlichkeit halber so beschrieben, daß die Neuronen oder Knoten eine einzige Abmessung haben. Es ist natürlich klar, daß sie in vielen praktischen Anwendungen zwei Abmessungen hätten. Solche Schichten wären äußerst komplex, wenn sie elektrisch aufgebaut wären, sind jedoch relativ einfach, wenn sie optisch gemäß der vorliegenden Erfindung implementiert werden. Ferner ist vorgesehen, daß, je nach Anwendung, viele verschiedene Verbindungsschemata verwendet werden können. Der Grund ist, daß die Erfindung eine neuronale Netzwerkstruktur bereitstellt, die sowohl eine positive als auch eine negative optische laterale Verbindung zuläßt.

Claims

1. Laterale, neuronale Netzwerkstruktur, umfassend eine Schicht mit einer Mehrzahl von Neuronen, umfassend Mittel für eine optische laterale Verbindung, wobei wenigstens einige der Neuronen jeweils eine oder mehrere optische Untereinheiten Xi und eine oder mehrere optische Untereinheiten Yi umfassen, wobei die genannten optischen Untereinheiten physikalisch getrennt sind, dadurch gekennzeichnet, daß die zur Rundgabe lateraler Sperrsignale konstruierten Untereinheiten Xi für den Empfang lateraler Aktivierungssignale und externer Sperreingänge angeordnet sind und die zur Rundgabe lateraler Aktivierungssignale konstruierten Untereinheiten Yi für den Empfang lateraler Sperrsignale und externer Aktivierungseingänge angeordnet sind.

2. Neuronale Netzwerkstruktur nach Anspruch 1, bei der die Netzwerkstrukturschicht einen Rückkopplungsanschluß (3) zwischen Untereinheiten umfaßt.

3. Neuronale Netzwerkstruktur nach Anspruch 2, bei der der Rückkopplungsanschluß (3) eine Eins-zu-Eins-Verbindung zwischen der Untereinheit Xi und der Untereinheit Yi eines einzelnen Neurons ist.

4. Neuronale Netzwerkstruktur nach einem der vorherigen Ansprüche, bei der die Untereinheiten chipintegrierte Lichtquellen (6) umfassen.

5. Neuronale Netzwerkstruktur nach einem der Ansprüche 1 bis 4, bei der die Untereinheiten so konstruiert sind, daß sie Licht von einer externen Quelle (16) empfangen, und chipintegrierte Modulatoren für das empfangene Licht aufweisen.

6. Neuronale Netzwerkstruktur nach Anspruch 5, bei der die chipintegrierten Modulatoren vom GaAs-asymmetrischen Fabry-Perot-Typ sind.

7. Neuronale Netzwerkstruktur nach Anspruch 5, bei der die externe Quelle moduliert ist.

8. Neuronale Netzwerkstruktur nach einem der vorherigen Ansprüche, bei der das optische Kopplungsmittel holografische oder beugende optische Elemente umfaßt.

9. Neuronale Netzwerkstruktur nach einem der vorherigen Ansprüche, bei der das optische Kopplungsmittel mit der Zeit veränderlich ist.

10. Neuronale Netzwerkstruktur nach Anspruch 8, bei der das optische Kopplungsmittel ein computererzeugtes holografisches Muster umfaßt.

11. Bildverarbeitungssystem mit einer neuronalen Netzwerkstruktur nach einem der vorherigen Ansprüche.

12. Selbstorganisierendes Netzwerk mit einer neuronalen Netzwerkstruktur nach einem der Ansprüche 1 bis 10.