DE19841820A1 - Neuronale Netze auf der Grundlage fraktaler Abbildungsfunktionen - Google Patents

Neuronale Netze auf der Grundlage fraktaler Abbildungsfunktionen

Info

Publication number
DE19841820A1
DE19841820A1 DE19841820A DE19841820A DE19841820A1 DE 19841820 A1 DE19841820 A1 DE 19841820A1 DE 19841820 A DE19841820 A DE 19841820A DE 19841820 A DE19841820 A DE 19841820A DE 19841820 A1 DE19841820 A1 DE 19841820A1
Authority
DE
Germany
Prior art keywords
neurons
neuron
activity
subunit
level
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
DE19841820A
Other languages
English (en)
Inventor
Thomas Kromer
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to DE19841820A priority Critical patent/DE19841820A1/de
Publication of DE19841820A1 publication Critical patent/DE19841820A1/de
Withdrawn legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0418Architecture, e.g. interconnection topology using chaos or fractal principles

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)

Abstract

In konventionellen neuronalen Netzen wird eine Konvergenz der Aktivität entfernter Neurone auf ein Neuron durch sehr aufwendige Veränderungen der Synapsen erreicht, in Fraktalen Neuronalen Netzen allein durch die spezifischen Eigenschaften der fraktalen Abbildungsfunktionen. DOLLAR A Den Neuronen werden Koordinaten zugeordnet, auf letztere angewandte fraktale Abbildungsfunktionen bestimmen den trajektoriellen Verlauf und die Zielregion der Neuronenaxone. DOLLAR A Die Neuronen und ihre Axone werden als Computersimulationen oder in Hardware-Umsetzung bspw. durch optoelektronische Elemente, welche bei Lichteinfall selbst einen Lichtimpuls über Faserleiter zu den jeweiligen Zielneuronen aussenden, realisiert. DOLLAR A Unterschiedliche Merkmalskonstellationen der Eingangsmuster führen nach mehreren Aktivierungsschritten an spezifischen Punkten des fraktalen neuronalen Netzes zu höheren Aktivierungen. Letztere dienen wie bei konventionellen neuronalen Netzen zur Steuerung nachgeordneter neuronaler Netze oder elektronischer Schaltungen. DOLLAR A Fraktale Neuronale Netze können in allen Anwendungsbereichen für neuronale Netze zum Einsatz kommen.

Description

Stand der Technik
Neuronale Netze sind ein wichtiges Mittel zur Datenverarbeitung. Sie bestehen aus 2 oder mehr Schichten von Neuronen, die meist durch entsprechende Computerprogramme simuliert, oder durch spezielle Computerchips in Hardwareform repräsentiert werden. Sie zeichnen sich dadurch aus, daß ein Eingangssignal, welches aus einer unterschiedlichen Aktivität der Neurone der ersten Ebene besteht, die Aktivität der Neurone der zweiten Ebene beeinflusst. Die Art der Beeinflussung ist zunächst nicht genau festgelegt, sondern bildet sich im Verlauf von Lernvorgängen allmählich heraus. Bei diesen Lernvorgängen verstärken sich nach bestimmten Regeln einzelne Nervenverbindungen, andere schwächen sich ab. Nach diesen Lernvorgängen haben sich dann bestimmte Reaktionsmuster herausgebildet, so daß bei bestimmten Eingangssignalen einzelne Neurone der zweiten Schicht stärker aktiv sind als die anderen Neurone dieser Schicht. Die stark aktiven Neurone dienen als Erkenner für das von ihnen favorisierte Eingangsmuster und können dann weitere entsprechende Aktionen auslösen. Bei den Lernvorgängen spielen Mechanismen der Gewichtung von Synapsen, Herausbildung neuronaler Ensembles und neuronaler Karten eine große Rolle.
Kritik am Stand der Technik
Konventionelle neuronale Netze eignen sich zur Erkennung und Verarbeitung einer begrenzten Zahl von Mustern, an die Leistungsfähigkeit biologischer Netzwerke reichen sie aber bei weitem nicht heran, und dies nicht nur aufgrund der begrenzten Anzahl der zur Verfügung stehenden Neurone. Sie sind nach abgeschlossenem Lernvorgang relativ unflexibel, können kaum mehr für die Erkennung ganz anderer als der trainierten Muster verwendet werden, da sie ihr "Wissen" durch Veränderung der Verdrahtung der einzelnen Neurone erwerben und fixieren, hierdurch das Netzwerk aber in seiner Struktur auf diese eine zu lösende Aufgabe verändert und fixiert wird. Ein neuronales Netz, welches Töne analysiert kann nicht kurze Zeit später dazu benutzt werden, um optische Zeichen zu unterscheiden Neuronale Netze konventionellen Typus sind, wenn sie durch ein Computerprogramm simuliert werden, sehr langsam, die Hardware-Realisierung neuronaler Netze in Form spezieller Prozessoren-chips ist technisch schwierig und aufwendig und birgt insbesondere den oben dargestellten Nachteil, daß dabei die Verbindungsstruktur der Neuronen durch die Hardware fixiert wird.
Biologische neuronale Netze zeigen im Gegensatz zu technischen auch Eigenschaften, die gemeinhin als "holographische" Informationsverarbeitung bezeichnet werden. Bspw. genügen Menschen bereits kleine Anteile eines Bildes um das Ursprungsbild in der Erinnerung zu rekonstruieren. Werden einzelne Hirnareale zerstört im Zuge von Erkrankungen, so ist die Fähigkeit zur Informationsverarbeitung je nach Sitz der Läsion vermindert, aber keineswegs aufgehoben.
Komplexe Begriffe werden nicht durch die Aktivität eines einzelnen Neurons aktiviert, (bspw. eines Neurons für den Begriff "rote Tasse mit Henkel", sondern durch synchrone Aktivität einzelner Neurone, die auf einzelne Untereigenschaften der Objekte ansprechen, im genannten Beispiel könnten dies viele Neurone für die Merkmale "rund, hohl, rot, hochnehmbar, Trinken o.ä." sein. Hierdurch erreichen diese biologischen Netzwerke eine ungeheure Flexibilität.
Aufgabe der Erfindung nach Anspruch 1 soll sein, die genannten Nachteile bisheriger technischer Realisierungen neuronaler Netze zu vermeiden und neuronale Netze realisierbar zu machen, die sich in den Leistungsmerkmalen biologischen Netzwerken annähern.
Neuronale Netze nach Anspruch 1 sind aus einer oder mehreren Untereinheiten aufgebaut. Die Untereinheiten arbeiten auf der Grundlage einer in der Makrostruktur vorgegebenen "Verdrahtung" der einzelnen Neurone. Die "Verdrahtung" wird durch die gewählte Abbildungsfunktion festgelegt. Ein einmaliger Arbeitsschritt eines solchen Netzwerkes bewirkt nicht mehr, als die entsprechend der Abbildungsfunktion veränderte, je nach Abbildungsfunktion "verzerrte" Abbildung, Übertragung der Aktivitätsverteilung der ersten Ebene des Netzwerkes auf die nachfolgende. Dieses resultierende Aktivitätsmuster wird als Eingangsmuster der nächsten Untereinheit genommen und wieder im nächsten Schritt entsprechend einer bestimmten Abbildungsfunktion auf die Ausgangsebene der entsprechenden Untereinheit übertragen. Diese Schritte können in weiteren Untereinheiten wiederholt werden, wobei letztlich aber die Aktivität der Ausgangsebene der letzten Untereinheit wieder auf die Eingangsebene der ersten Ebene übertragen wird. Hierdurch wird der Zyklus der Abbildungen mehrfach durchlaufen, iteriert. Diese Netzwerke bilden den Algorithmus zur Erzeugung von Fraktalen in einer räumlichen Struktur nach, indem sie die mathematischen Funktionen dieser fraktalen Algorithmen, die Abbildungsregeln für (meist komplexe) Zahlen sind, in Abbildungsvorschriften für die Neurone eines ein-, zwei-, oder dreidimensionalen Systems von Neuronen übersetzen. In ihrem Aufbau erinnern sie an biologische Netzwerke bspw. im menschlichen Gehirn, in welchem auch mehrere Neuronenschleifen bekannt sind (bspw. im limbischen System) in welchem Signale mehrere Neuronenzentren durchlaufen und das letzte Neuronenzentrum seine Aktivitätsverteilung wieder an das erste Neuronenzentrum weitergibt, also auch eine Iteration mehrerer Abbildungsschritte vorliegt. In konventionellen neuronalen Netzen bilden Neurone ihre Aktivität entsprechend der Stärke der synaptischen Verbindungen auf oft viele, z. T. weit voneinander entfernte Neurone der nächsten Neuronenebene ab. Neurone der neuronalen Netze nach Anspruch 1 bilden ihre Aktivität meist nur auf einen (je nach Abbildungsfunktion auch auf zwei oder mehr) umschriebenen Bereich der nächsten Neuronenebene ab. Streng genommen wird der Bereich der Projektion eines Neurons eindeutig durch sein Einzugsgebiet, welches er mit seinen Dendritenendigungen erreicht, bestimmt. Werden alle Punkte dieses Einzugsgebietes der gewählten Abbildungsfunktion unterworfen, so erhalten wir das Gebiet, welches das Neuron mit seinen Axonendigungen erreichen muß. Durch entsprechende Kombination von Untereinheiten, die mit jeweils unterschiedlichen Abbildungsfunktionen arbeiten, können prinzipiell die wichtigsten Abbildungsfunktionen zur Erzeugung von Fraktalen in eine entsprechende räumliche Struktur eines neuronalen Netzes "übersetzt" werden.
Es erhebt sich die Frage, ob neuronale Netze nach Anspruch 1 tatsächlich Informationsverarbeitung ermöglichen?
Dies kann bejaht und soll an einem einfachen Beispiel erläutert werden. Zwei Neurone seien in der Eingangsebene eines konventionellen neuronalen Netzes aktiv. Das eine Neurone repräsentiere den Begriff "rot", das andere den Begriff "Tasse". Durch Lernvorgänge haben sie beide relativ starke synaptische Verbindungen zu einem Neuron der nächsten neuronalen Ebene entwickelt. Dieses Neuron repräsentiert dann den Begriff "rote Tasse" und kann durch seine Aktivität z. B. eine entsprechende Sprachausgabe steuern. In neuronalen Netzen nach Anspruch 1 werden beide Eingangsneurone ihre Aktivität auf die nächste Ebene projizieren. Im Laufe der Iterationen werden so, von jedem Eingangsneuron ausgehend eine Reihe weiterer Neurone aktiviert. Dies sind entsprechend den Abbildungsverläufen in Fraktalen über die Oberfläche der neuronalen Ebenen verteilt. So wird es im Regelfall einen oder mehrere Bereiche geben, die von beiden Eingangsneuronen aus aktiviert werden. In diesem Bereich kann ein Neuron dann besonders stark aktiviert werden. Dieses Neuron könnte damit analog zum oben angeführten Beispiel, als Repräsentant des Begriffes "rote Tasse" dienen und entsprechende Reaktionen des Systems. z. B. eine entsprechende Sprachausgabe steuern. Letztlich erhalten wir ein funktionell bei beiden Systemen ähnliches Ergebnis. Auf bestimmte Musterkonstellationen in der Eingangsebene werden einzelne Neurone der Ausgangsebene besonders aktiv, sie dienen als "Erkenner" der jeweiligen Musterkonstellationen.
Erreichte Vorteile
Wie Fraktale zeigen auch die in neuronalen Netzen nach Anspruch 1 erzeugten Aktivitätsmuster Eigenschaften wie Auftreten von Attraktoren, Selbstähnlichkeit, Siegel-Discs, Implementierung von Binärbäumen, Erscheinungen von deterministischem Chaos. Solche Eigenschaften sind auch von biologischen Netzwerken bekannt und werden durch neuronale Netze nach Anspruch 1 zur Informationsverarbeitung nutzbar gemacht. Hinzuweisen ist auch auf die massiv parallele Arbeitsweise der neuronalen Netze nach Anspruch 1. Die Umschaltungen von einer Ebene zur nächsten erfordert wenig Zeit, da jeweils nur Impulse registriert und (eventuell nach Verstärkung) weitergegeben werden müssen. Es müssen keine Berechnungen von Werten durchgeführt oder umfangreiche Programmabläufe durchlaufen werden. Hierdurch ergibt sich eine besondere Schnelligkeit der Informationsverarbeitung in neuronalen Netzen nach Anspruch 1.
Die wesentliche Form der Informationsverarbeitung erfolgt, ohne Veränderung der synaptischen Verbindungen. Das neuronale Netz nach Anspruch 1 kann deshalb flexibel für verschiedene Aufgaben bspw. der Mustererkennung benutzt werden.
Geringe Unterschiede in den Eingangssignalen führen im Laufe der Iterationen zu deutlich unterscheidbaren Aktivitätsmustern im neuronalen Netz nach Anspruch 1. Hierdurch können sehr ähnliche Eingangssignale besser unterschieden werden, was wiederum Vorteile bei der Mustererkennung bringt.
Geringe Veränderungen der gewählten Abbildungsfunktion führen zu deutlichen Veränderungen der von den einzelnen Neuronen ausgehenden Aktivierungsverläufe. Diese Veränderung der Abbildungsfunktion kann z. B. eine unterschiedliche Parallelverschiebung des Musters in einer Untereinheit sein. Eine solche unterschiedliche Parallelverschiebung läßt sich technisch in optischen oder elektronischen oder in Computern simulierten Untereinheiten leicht verwirklichen (Z.B. durch etwas geänderte Stärke der Ablenkung der Elektronenstrahlen in einer Untereinheit nach Unteranspruch 2 auf dem Weg vom Neuron der Eingangsebene zur Zielregion in der Ausgangsebene). Solche Systeme mit veränderter Abbildungsfunktion bieten wieder völlig neue Möglichkeiten der Zuordnung von Eingangsmustern zu einzelnen Neuronen der Ausgangsebene Durch entsprechende variable Steuerung der Abbildungsfunktion in einzelnen Untereinheiten (Bspw. durch variable Stärke der Ablenkung von Elekronenstrahlen in Untereinheiten nach Unteranspruch 2 oder unterschiedlich starke Ablenkung durch Spiegelsystem in Untereinheiten nach Unteranspruch 3) erhalten wir alleine für unterschiedliche Parallelverschiebungen eines Musters in einer Untereinheit des neuronalen Netzes nach Anspruch 1 eine unendliche Anzahl von Möglichkeiten. Besteht das Gesamtsystem des neuronalen Netzes nach Anspruch 1 z. B. aus zwei Untereinheiten; wobei Untereinheit I die Quadrierung komplexer Zahlen repräsentiert und nachbildet, Untereinheit II die Addition einer komplexen Zahl in seiner Struktur funktionell umsetzt (und damit das Gesamtsystem den Algorithmus zur Erzeugung von Juliamengen, welcher auf der Quadrierung einer komplexen Zahl und anschließender Addition einer konstanten komplexen Zahl in seine neuronale Struktur "übersetzt"), so erhalten wir bei unveränderter Untereinheit I und der oben beschriebenen Möglichkeit in Untereinheit II mit beliebigen unterschiedlichen Parallelverschiebungen als Umsetzung der Addition einer komplexen Zahl zu arbeiten letztlich unendlich viele verschiedene neuronale Systeme mit jeweils eigenen Möglichkeiten der Zuordnung von bestimmten Eingangssignalen zu bestimmten Neuronen der Ausgangsebene des neuronalen Netzes. Hierdurch bieten neuronale Netze nach Anspruch 1 potentiell eine große Kapazität und Flexibilität.
Insbesondere Systeme, die in einer Untereinheit die Quadrierung komplexer Zahlen in ihrer neuronalen Struktur umsetzen zeigen einige für die Informationsverarbeitung interessante Eigenschaften. So treffen sich die von einem Punkt z der neuronalen Ebene ausgehende Aktivität mit der von dem am Nullpunkt gespiegelten Punkt -z ausgehenden Aktivität im Punkt z2 der Ausgangsebene dieser Untereinheit (da sowohl die Quadrierung einer komplexen Zahl z wie auch ihres am Nullpunkt gespiegelten Negation, der Zahl -z jeweils z2 ergibt). So hat in diesen Systemen jedes Neuron n zwei Vorgängerneurone, die beide ihre Aktivität auf dieses Neuron n projizieren. Hierdurch lassen sich in diesen Systemen ausgedehnte Binärbäume abbilden. Letztlich bilden diese Systeme auch dialektisches Denkprinzipien ab: These z und Antithese -z treffen sich in der Synthese z2.
Ausgestaltung der Erfindung
Der Aufbau einer solchen Untereinheit, die mit der Quadrierung einer komplexen Zahl als Abbildungsfunktion arbeitet, soll aufgrund seiner herausragenden Bedeutung näher erläutert werden:
Legen wir über jede Ebene eines aus zwei Ebenen bestehenden neuronalen Netzwerkes gedanklich ein kartesisches Koordinatensystem, so daß die Koordinatensysteme parallel liegen, die Gerade durch beide Nullpunkte senkrecht zur Ebene der Koordinatensysteme verläuft und die jeweilige Ordinate und Abszisse parallel verlaufen, so können wir die einzelnen Neurone den entsprechenden Punkten des Koordinatensystems zuordnen. Fassen wir nun diese zwei Ebenen der Koordinatensysteme auf als zwei Darstellungen der komplexen Zahlenebene, so können wir jedem Neuron der ersten Ebene eine komplexe Zahl zuordnen. Diese zugeordnete komplexe Zahl können wir algebraisch oder geometrisch quadrieren. Die komplexe Zahl, die wir als Ergebnis erhalten repräsentiert nun das Zentrum des Bereiches der zweiten Ebene, zu welchem das Ausgangsneuron seine Aktivität weitergibt. Die tatsächliche Ausdehnung des Zielbereiches ergibt sich aus der Ausdehnung des Bereiches, den die Dendritenendigungen auf der ersten Ebene überstreichen.
(Dieser Sachverhalt und eine Zeichnung eines solchen Netzwerkes wird unten anhand Zeichnung 1 näher erläutert).
Der Verlauf der Trajektorie, die vom Ausgangspunkt in der ersten Ebene zum Zielpunkt der Ausgangsebene führt ist nicht genau festgelegt. Er spielt für die Funktionsfähigkeit des neuronalen Netzes im Prinzip keine wesentliche Rolle. Die räumlich geometrische Interpretation der entsprechenden Abbildungsfunktion liefert aber Hinweise auf geeignete Trajektorienverläufe, die zur Realisierung der neuronalen Netze nach Anspruch 1 entsprechend der einzelnen Unteransprüche genutzt werden können. Letzlich gibt es nach Poincaré zu jeder Abbildungsfunktion, die diskrete Werte in einem n-dimensionalen Phasenraum liefert, eine Trajektorie, die diese zwei Werte oder Punkte in einem n+1-dimensionalen Phasenraum verbindet. Die Axone der Neurone können also (ob nun virtuell, wie in einem System nach Unteranspruch 5 oder real, wie in einem System nach Unteranspruch 3 z. B. in Form lichtleitender Fasern) funktionell als Trajektorien aufgefasst werden, die vom Eingangswert auf Ebene 1 zum durch die Abbildungsfunktion erreichten Ergebniswert auf Ebene 2 ziehen.
Dabei sollen durchaus Regeln gelten, wie sie für die Weitergabe von neuronaler Aktivität in bisherigen neuronalen Netzen auch gelten. Da es unendlich viele komplexe Zahlen gibt, ein neuronales Netz aber nur aus einer endlichen Anzahl von Neuronen besteht, muß jedes Neuron mit seinem Einzugsbereich in Form der Dendritenendigungen einen gewissen Bereich der komplexen Zahlenebene abdecken, ebenso dann auch wieder den Bereich der zweiten Ebene mit seinen "Axonendigungen", den wir erhalten, wenn wir alle Punkte des Einzugsbereiches der Abbildungsfunktion unterziehen. Somit erhalten wir den Bereich der zweiten Ebene, an welchen das Neuron seine Aktivität vermitteln soll. Dabei spielen Rundungsvorgänge eine Rolle, die durch gegenseitige Überlappung der Einzugsbereiche der Neurone, wie auch ihrer Einwirkungsbereiche beherrscht werden können. So kann eine Aktivität einer Zahl 1,64 einer Zahlengerade durch etwas höhere Aktivität eines Neurons, welches am Punkt 1,6 sitzt und eine etwas geringere Aktivität eines Neurons am Punkt 1,7 dargestellt werden. Nehmen wir an, die gewählte Funktion sei eine Verdoppelung der Ausgangswerte. Die Hauptaktivität wird aufgrund der Überlappung auch der Einwirkungsbereiche der zwei Neurone auf der nächsten Ebene zwischen den Punkten 3,2 und 3,4 liegen. Hierdurch wird die Abbildungsfunktion auch weitgehend korrekt auf Zwischenwerte anwendbar, die bei beschränkter Neuronenzahl zwangsläufig auftreten.
Die oben dargestellte Wirkungsweise eines neuronalen Netzes nach Anspruch 1 lässt sich auf verschiedene Weise realisieren. Die einzelnen Möglichkeiten sind in den Unteransprüchen 2 bis 15 aufgeführt. Die Funktion der einzelnen Elemente, also z. B. der Neurone orientiert sich im wesentlichen an den bekannten Vorbildern bereits verwirklichter neuronaler Netze. Letztlich ahmen alle funktionell biologische Neurone nach. Einzelne Neuronen in neuronalen Netzen nach Anspruch 1 unterscheiden sich in ihrem Aufbau und Funktion zunächst nicht wesentlich von solchen in konventionellen neuronalen Netzen. Sie registrieren über ihre Dendritenausläufer ankommende neuronale Aktivität in ihrem Dendriteneinzugsbereich, bei Erreichen eines gewissen Schwellenwertes beginnen sie selbst, Aktivität abzugeben, die über das Axon und dessen mögliche Kollateralen und über die baumartige Verästelung der Axonendigungen an die Neurone der nächsten Schicht weitergegeben werden. In konventionellen neuronalen Netzen wird großes Gewicht auf die Veränderung der Stärke der einzelnen neuronalen Synapsen, an welchen die Axonendigungen des einen mit den Dendritenendigungen des nächsten Neurons in Kontakt treten, gelegt. Solche Synapsenveränderungen können auch in Kombinationen von neuronalen Netzen nach Unteranspruch 11 mit konventionellen neuronalen Netzen eine Rolle spielen. Da in neuronalen Netzen nach Anspruch 1 relativ häufig zwei Neurone auf ähnliche Regionen projizieren, so daß die Signale in diesem Bereich nicht mehr von den Neuronen der nächsten Schicht differenziert werden können, könnten Veränderungen der Stärke der synaptischen Veränderungen der Neurone in diesem Bereich im Zuge von Lernvorgängen dazu führen, daß die Signale aufgrund kleiner Signaldifferenzen doch differenziert werden könnten, also die zwei sonst nicht unterscheidbaren Signale zweier unterschiedlicher Neurone der Eingangsebene der Untereinheit doch zur Aktivierung unterschiedlicher Neurone im Zielbereich der Ausgangsebene der Untereinheit führen.
Dennoch beruht aber der Mechanismus der Informationsverarbeitung in neuronalen Netzen nach Anspruch 1 nicht auf der Veränderung von Synapsengewichtungen wie im wesentlichen in konventionellen neuronalen Netzen, sondern in der besonderen Struktur der makroskopischen Netzarchitektur, der Architektur der Axonverläufe und nicht der Mikroarchitektur der einzelnen synaptischen Verbindungen.
Weitere Ausgestaltungen der Erfindung
In den Unteransprüchen 2-14 sind die Möglichkeiten angegeben, Neurone mit den oben genannten Charakteristika und insbesondere die besondere Zuordnung der Neurone der Eingangsebene der Untereinheiten zu den Zielneuronen der Ausgangsebene, die durch ihre Aktivität beeinflusst werden, mit technischen Mitteln nachzubilden.
Zur Veranschaulichung des Gesagten soll der Verlauf der Axone in einer Untereinheit, die, wie oben näher ausgeführt, die Abbildungsfunktion der Quadrierung einer komplexen Zahl in die Verschaltungsstruktur einer Untereinheit umsetzt, gezeigt werden.
Fig. 1 zeigt für einen Ausschnitt der Eingangsebene (untere Ebene, in der Darstellung mit 1 gekennzeichnet) dieser Untereinheit den Verlauf der Axone der Neurone, die die Aktivität in ihrem stilisiert dargestellten Dendriteneinzugsgebiet registrieren und ihre Aktivität über ihr Axon an das Gebiet der Ausgangsebene (Ausgangsebene mit 2 gekennzeichnet) weitergeben, das wir erhalten, wenn wir alle Punkte des Dendriteneinzugsgebietes quadrieren. In der Aufsicht von oben folgen alle diese Axone den logarithmischen Spiralen, die durch den Mittelpunkt ihres Dendriteneinzugsgebietes führen, da ein Punkt z2 auf der logarithmischen Spirale durch z (mit z als komplexer Zahl) liegt. Die in Fig. 1 dargestellten Neurone können nach Unteranspruch 3 z. B. aus elektronischen Elementen bestehen, die über Photorezeptoren die von der vorgeschalteten Ebene (oder von extern) z. B. über Lichtfaserleiter auf der Eingangsebene einfallende Lichtmenge registrieren, beim Überschreiten eines bestimmten Schwellenwertes selbst einen Lichtimpuls aussenden, der über das als Lichtfaserleiter ausgeführte Axon die Axonendigung erreicht. Dort wird der Lichtimpuls abgestrahlt und fällt auf das in Fig. 1 für jedes Axon markierte Gebiet, welches bei biologischen Neuronen dem Ausbreitungsgebiet der Axonendigungen entspräche. Dort kann es nun von den Neuronen der nachgeschalteten Untereinheit registriert werden.
Fig. 2 zeigt den schematischen Aufbau eines neuronalen Netzes nach Anspruch 1: Es besteht aus 2 Untereinheiten, in der Zeichnung mit 7 und 8 gekennzeichnet. Beide Untereinheiten bestehen aus 2 Ebenen wobei allen 4 Ebenen gleichartige Koordinatensysteme zugeordnet sein sollen. Ein Signal, welches von extern über eine der zahlreichen Steuerleitungen (bspw. von externen Sensoren) am Punkt z ankommt, wird analog zu dem in Fig. 1 dargestellten Vorgang von dem an der Stelle z befindlichen Neuron über seine Dendritenendigungen registriert und über sein Axon an das ihm entsprechend der Abbildungsfunktion zugeordnete Zielneuron weitergegeben.
Es wird dann von diesem unverändert auf die Eingangsebene der zweiten Untereinheit übertragen, welche mit einer anderen Abbildungsfunktion arbeitet. In der Zeichnung ist für die Untereinheit 7 schematisiert als Abbildungsfunktion eine Quadrierung einer komplexen Zahl entsprechend Fig. 1 angenommen, für Untereinheit 8 eine Parallelverschiebung entsprechend der Addition einer konstanten komplexen Zahl. Das auf der Ausgangsebene der zweiten Untereinheit entstehende Aktivitätsmuster wird dann Punkt für Punkt unverändert auf die Eingangsebene der ersten Untereinheit übertragen und löst dort wieder entsprechende Aktivitäten aus. Das Aktivierungsmuster der zweiten Untereinheit kann über entsprechende Signalleitungen (In der Zeichnung mit der Zahl 10 gekennzeichnet) von extern registriert und für weitere Schritte der Informationsverarbeitung genutzt werden.
Fig. 3 zeigt ein neuronales Netz, stark schematisiert, welches entsprechend Unteranspruch 12 arbeitet. Diese Figur soll den oben näher ausgeführten Vorgang demonstrieren, wie zwei unterschiedliche Neurone nach einer gewissen Anzahl von Iterationen zu einer vergleichsweise starken Aktivität einzelner Neurone der neuronalen Ebenen führen können, da die Einzugsbereiche dieser Neurone Aktivität von beiden aktiven Eingangsneuronen (über mehrere Zwischenneurone) erhalten.
Die Eingangsebene arbeitet mit der Abbildungsfunktion einer Quadrierung komplexer Zahlen (die Neuronenebenen werden als Teil der komplexen Zahlenebene aufgefasst), die zweite Ebene projiziert auf die erste direkt zurück mit der Abbildungsfunktion einer Parallelverschiebung, einer Addition einer konstanten komplexen Zahl (im Beispiel der Zahl 0,5+0,5.i) entsprechend. Die Projektion von der ersten auf die zweite Ebene ist durch durchgezogene Linien, die Projektion von der zweiten auf die erste durch unterbrochene Linien stilisiert dargestellt. Die Aktivität der Neuronen der ersten Ebene z1 (der komplexen Zahl -0,6 + 0,5.i entsprechend) und z2 (entsprechend -1,2 + 0,3.i) führt nach einer Anzahl von Iterationen zu einer starken Aktivierung in dem als Überlappungsbereich gekennzeichneten Bereich der zweiten Ebene. Ein Neuron im Überlappungsbereich könnte als Erkenner für die gleichzeitige Aktivität der Neurone z1 und z2 dienen. Da die von den Neuronen z1 und z2 ausgehenden Aktivitäten erst nach einer unterschiedlichen Anzahl von Iterationen im Überlappungsbereich eintreffen, muß durch entsprechende Schaltungen entweder sichergestellt sein, daß die Neurone z1 und z2 während mehrerer Taktzyklen aktiv bleiben oder daß die Neurone im Überlappungsbereich (prinzipiell dann alle Neurone) auch Aktivitäten, die nach gering unterschiedlichen Taktzyklen eintreffen als Anlaß zu eigener Aktivität nehmen. In den zuletzt näher vorgestellten neuronalen Netzen, die mit dem Julia-algorithmus arbeiten ergeben sich große Variationen der Einzugsbereiche einzelner Neurone, also der Bereiche des neuronalen Netzes, aus welchen sie nach einer bestimmten Anzahl von Taktzyklen aktiviert werden können. Sie hängen ab von der Position des Neurons im neuronalen Netz und der Größe der Dendriten- und Axon -endigungsbereiche.
Besonders ist noch auf den Aufbau räumlicher neuronaler Netze nach Anspruch 1, Unteranspruch 7 hinzuweisen. Bauprinzip der Neurone und die Prinzipien der Verschaltung der Neurone zu externen Sensoren und Steuerelementen entsprechen den bisher vorgestellten Prinzipien. Der Aufbau eines solchen neuronalen Netzes ergibt sich aus Unteranspruch 7. Auch dieses System arbeitet mit der Iteration einer Abbildungsfunktion:
Eine Abbildungsfunktion kann bspw. wie folgt aussehen: Ein Neuron n1 habe die Koordinaten x, y, z in dem dreidimensionalen Koordinatensystem. Die Zielregion eines Neurons n1 erhalten wir, wenn wir den Winkel, den der Vektor vom Nullpunkt zum Neuron n1 mit der x-Achse bildet verdoppelt wird, die Länge des Vektors (der Abstand des Neurons n1 vom Nullpunkt) aber quadriert wird. Anschließend kann zu dem so gefundenen Punkt n2 noch ein beliebiger Vektor c addiert werden (Anlage des Vektors c am Punkt n2). Der dann erreichte Punkt p1 gibt den Bereich an, zu welchem das Ausgangsneuron n1 projizieren soll. (Solcherart sind natürlich noch unzählige weitere Abbildungsfunktionen im Prinzip in neuronalen Netzen nach Anspruch 1 denkbar und technisch realisierbar). Das Neuron am Punkt p1 projiziere seine Aktivität entsprechend der gleichen Abbildungsfunktion weiter. Die Aktivitäten kreisten dann in einem einzigen Neuronenkörper. Die Verbindung nach außen soll dabei über Verbindungen ablaufen, die Signale von externen Sensoren vermitteln oder Aktivitätssignale einzelner Neurone an externe Sensoren oder Steuerungselemente abgeben. Je nach Ausgestaltung des neuronalen Netzes können diese Verbindungen nach außen an allen Neuronen des neuronalen Netzes ausgehen oder eintreffen, es kann aber auch bestimmte Eingangsregionen geben, in welchen die Neurone Signale von externen Sensoren erhalten, wie es dann auch Ausgaberegionen geben kann, in welchen die Neurone auch Signale nach außen abgeben. Da bei entsprechenden Abbildungsfunktionen, nach welchen das neuronale Netz arbeitet, gewährleistet ist, daß Aktivitäten, die von Neuronen der Eingangsregion ausgehen nach einigen Zwischenstationen bei der Ausgaberegion ankommen (und zwischenzeitlich durch Wechselwirkung mit Signalen von anderen Neuronen im Sinne einer Informationsverarbeitung Veränderung erfahren hat, z. B. im Sinne einer Signalintegration), können auch solche aus einem dreidimensionalen Netzwerk bestehenden neuronalen Netze Information verarbeiten.
Möglichkeiten der gewerblichen Nutzung der Erfindung
Aufgrund der dargelegten vorteilhaften Eigenschaften der neuronalen Netze nach Anspruch 1 ergeben sich vielfältige Möglichkeiten zum Einsatz dieser Netze zu Aufgaben der Mustererkennung, und in Datenbanken und ähnlichen Aufgabenfeldern sowie zur analogen parallel arbeitenden Umsetzung von Abbildungsfunktionen. Damit sind weitreichende Einsatzmöglichkeiten im Bereich der Informationsverarbeitung gegeben.
Bezugszeichenliste Fig. 1
1
Eingangsebene
2
Ausgangsebene (im Koordinatenkreuz der Bereich von -2 < x < 2, -2 < y < 2 markiert).
Aus Gründen der besseren Darstellbarkeit ist nur ein Neuron detaillierter dargestellt:
3
schematisch dargestellter Dendritenbaum mit kreisförmigem Dendriteneinzugsgebiet
4
Axon dieses Neurons
5
baumförmige Verzweigung der Axonendigungen (schematisch dargestellt)
6
weitere Neurone nur abstrahiert dargestellt mit Axon und kreisförmig dargestelltem dazugehörenden Dendriteneinzugsgebiet und Ausbreitungsgebiet der Axonendigungen.
Fig. 2
7
Erste Untereinheit (Eingangsebene oben)
8
Zweite Untereinheit (ebenfalls Eingangsebene oben, Ausgangsebene unten dargestellt)
9
Verbindung der Ausgangsebene der zweiten Untereinheit mit der Eingangsebene der ersten Untereinheit über Axone (z. B. in Form von Lichtfaserleitern)
10
Steuerleitungen zu nachgeschalteten Schaltelementen oder Sensoren
11
Verbindung der Neurone der Eingangsebene der ersten Untereinheit mit vorgeschalteten Sensoren oder Steuerelementen.
z Punkt auf der Eingangsebene, an welchem ein Neuron ein über eine Signalleitung ankommendes Signal registriert und weiterleitet.
Fig. 3
12
Erste Ebene der Untereinheit
13
Zweite Ebene der Untereinheit.
x = -2, x = +2, y = +2.i, +2: Endpunkte der Achsen des jeweiligen Koordinatensystems der zwei Ebenen.
z1, z2 Zwei Neurone der ersten Ebene, die Aktivität abgeben
Überlappungsbereich: Der Bereich der zweiten Ebene, der sowohl bei der von z1 ausgehenden Aktivierungsfolge, wie auch bei der von z2 ausgehenden Aktivierungsfolge Aktivität erhält.

Claims (15)

1. Neuronale Netzwerke, welche die Algorithmen zur Erzeugung von Fraktalen zur Informationsverarbeitung nutzbar machen. Hierzu bestehen die neuronalen Netzwerke nach Anspruch 1 aus einer oder mehreren Untereinheiten, die wiederum aus zwei Neuronenebenen bestehen, von welchen eine als Eingangs-, eine als Ausgangsebene fungiert. In jeder Untereinheit wird das Aktivitätsmuster der Eingangebene nach einer frei zu wählenden Abbildungsfunktion auf die Ausgangsebene dieser Untereinheit projiziert. Das resultierende Aktivitätsmuster der Ausgangsebene der ersten Untereinheit wird nun als Eingangsmuster der zweiten Untereinheit genommen und erzeugt dann auf der Ausgangsebene dieser zweiten Untereinheit ein neues Aktivitätsmuster. Nach einer beliebigen Anzahl des Durchlaufens solcher Untereinheiten (minimal einer Untereinheit), wird das Ausgangssignal, das resultierende Aktivitätsmuster der Ausgangsebene der letzten Untereinheit,wieder als Eingangssignal auf die Eingangsebene der ersten Untereinheit projiziert.
Die einzelnen Untereinheiten sind so aufgebaut, daß zunächst den einzelnen Neuronen beider Neuronenebenen anhand zweier gleichartiger Koordinaten­ systeme Koordinaten zugeordnet werden. Bei den Koordinatensystemen kann es sich um jedes mathematisch mögliche Koordinatensystem handeln, welches den Neuronen der neuronalen Ebenen eindeutige Ortskoordinaten zuweist. Die Koordinaten eines Neurons der Eingangsebene einer Untereinheit werden nun als Eingangswerte genommen und einer einfachen (oder auch einer aus mehreren einfachen Abbildungsfunktionen zusammengesetzten) Abbildungsfunktion unterworfen. Die Werte, die die Abbildungsfunktion als Ergebniswerte ergibt, sollen die Koordinaten sein, die den Ort in der Ausgangsebene der Untereinheit kennzeichnen, zu welchem das Neuron seine Aktivität projiziert. Dabei sollen die Neurone dieser neuronalen Netze funktionell analog zu biologischen Neuronen aufgebaut sein mit einem Dendritenbaum, mit welchem eintreffende neuronale Aktivität registriert werden kann und welcher den Einzugsbereich eines Neurons kennzeichnet, einem Neuronenkörper, im wesentlichen im Zentrum des Einzugsbereiches liegend gedacht,welcher nach zu bestimmenden Regeln die registrierte Aktivität in entsprechende eigene neuronale Aktivität umsetzt und diese über ein Axon und seine Kollaterale, letztlich über die Verzweigungen der Axonendigungen anderen Neuronen weitergibt.
Die Stärke der Aktivität eines Neurons in neuronalen Netzen nach Anspruch 1 kann dabei durch die Stärke des abgegebenen Signals kodiert werden oder auch durch die Anzahl abgegebener Signale in einer bestimmten Zeiteinheit oder einer Kombination beider Methoden.
Neuronale Netze nach Anspruch 1 können mit unterschiedlichen technischen Mitteln realisiert werden, insbesondere auf optischer oder elektronischer Basis.
Dendritenbäumen entsprechen in neuronalen Netzen nach Anspruch 1 je nach der technischen Realisation Rezeptoren für optische oder elektronische Signale. Die Neuronenkörper werden durch geeignete elektronische oder optische Integrations- und Schaltungselemente gebildet, die in Abhängigkeit des von den Rezeptoren registrierten Inputs ein Signal, z. B. einen elektronischen oder optischen Impuls, auslösen können. Dieser Impuls wird über das funktionelle Axon zu dem durch die Abbildungsfunktion,nach welcher das jeweilige neuronale Netz arbeitet, festgelegten Ort der nächsten Neuronenschicht geführt. Das Axon kann dabei bspw. durch Elektronenstrahlen, durch Lichtstrahlen oder Lichtfaserleiter repräsentiert werden.
Durch entsprechende Ablenkung der Elektronen- oder Lichtstrahlen oder entsprechende räumliche Führung der Lichtfaserieiter wird dabei die Abbildungsfunktion in der Struktur des neuronalen Netzes nach Anspruch 1 implementiert.
(Dabei kann die Abbildungsfunktion auch allein durch entsprechende Führung dieser, Axonen entsprechenden, Strukturen realisiert, im neuronalen Netz "eingebaut" werden. Die Schar der Axone, die von den Neuronen der Eingangsebene zu den Neuronen der Ausgangsebene ziehen kann bspw. in nahezu beliebiger Weise verdreht, um eine gemeinsame Achse gewunden sein oder in schräger Richtung von einer Ebene zur anderen ziehen und sich dabei noch in geeigneter Weise auffächern. Wichtig ist nicht, ob diese so verwirklichte Abbildungsfunktion direkt in einer mathe­ matischen Formel ausgedrückt werden kann, sondern daß jedes Neuron der Eingangsebene über sein Axon zu einem bestimmten Bereich der Ausgangsebene zieht und somit das Aktivitätsmuster in einer angenäherten Punkt zu Punkt-Übertragung auf die Ausgangsebene abgebildet wird.) (Die Abbildungsfunktion, die solcherart die Verschaltung des neuronalen Netzwerkes festlegt kann z. B. eine Parallelverschiebung, eine Spiegelung am Nullpunkt oder einer Geraden sein, eine Drehung um den Nullpunkt in einer bestimmten Richtung und mit einem bestimmten Ausmaß (Jeweils bezogen auf die oben angegebenen Koordinatensysteme, nach welchen den einzelnen Neuronen jeder Neuronenschicht eindeutige Koordinaten zugeordnet werden können). Sie kann insbesondere die Quadrierung einer komplexen Zahl sein,wenn die Neuronen der zweidimensionalen neuronalen Ebenen der Untereinheiten als Punkte in der komplexen Zahlenebene interpretiert werden, die den Neuronen zugeordneten Koordinaten also als komplexe Zahlen aufgefasst werden, die dann algebraisch oder auch geometrisch quadriert werden können.
Ein Neuron kann mehrere voneinander weit entfernte Zielbereiche ansteuern, wenn die Abbildungsfunktion mehrere getrennte Punkte als Ergebnis ergibt, wenn bspw. als Abbildungsfunktion die Bildung der Wurzel einer komplexen Zahl verwendet wird).
Auf diese Weise können Algorithmen, die zur Erzeugung von Fraktalen, z. B. der Juliamengen, verwandt werden, in solchen neuronalen Netzwerken nachvollzogen werden, da sie auf der Iteration kombinierter Abbildungsfunktionen (im Falle der Juliamengen auf der Quadrierung einer komplexen Zahl mit anschließender Addition einer komplexen Zahl) beruhen, wobei der Ergebniswert jeder Iteration als Eingangswert der jeweils nächsten Iteration genommen wird. Ansonsten ist das neuronale Netz wie konventionelle neuronale Netze aufgebaut, d. h. es muß eine Verbindung zu externen Sensoren geben, welche ein Eingangssignal in Form einer bestimmten Aktivitätsverteilung auf der Eingangsschicht des neuronalen Netzes nach Anspruch 1 erzeugen sowie eine Verbindung einzelner oder aller neuronalen Schichten des neuronalen Netzes nach Anspruch 1 zu nachgeschalteten neuronalen Netzen oder Schalterelementen, die aufgrund der erzeugten Aktivitätsmuster bestimmte Aktionen, Beeinflussung elektronischer oder optischer Schaltelemente oder ähnliches bewirken. Häufig wird es auch eine Verbindung zu einer externen Steuereinheit geben, die in der Lage ist, ein Eingangssignal auf die Neuronen der Eingangsschicht zu legen, sowie den Zustand der Neuronen der Ausgangsschicht oder aller neuronalen Schichten zu erfassen, um sie für weitere Regelungs- und Steuerfunktionen nachgeschalteten Stellelementen, Schaltern o. ä. zur Verfügung zu stellen.
2. Neuronales Netz nach Anspruch 1, welches aus zwei Ebenen besteht, die sich in einem evakuierten Hohlkörper gegenüberstehen. Die erste Ebene besteht aus einzeln von außen ansteuerbaren Kathodenelementen, die auf entsprechende elektronische oder optische Ansteuerung von außen eine Elektronenwolke abgeben können. Die zweite Ebene ist als Anode geschaltet und besteht aus einzelnen Detektorelementen, welche das Eintreffen von Elektronen auf elektronischem oder optischem Weg registrieren und an die nächste neuronale Schicht oder Untereinheit weitermelden können. Auf ihrem Weg von der Kathode zur Anode werden die Elektronen durch elektrische oder magnetische Felder, die durch entsprechende Elektroden oder Magnete inner- oder außerhalb des das neuronale Netz umgebenden Hohlkörpers erzeugt werden, abgelenkt. Diese ablenkenden Felder sind so dimensioniert, daß eine gewünschte Abbildungsfunktion auf diese Weise in ausreichender Annäherung ausgeführt wird. So kann eine Rotation um den Nullpunkt des Koordinatensystems z. B. durch Magnetfelder dargestellt werden, die die Elektronen nach ihrer Freisetzung an der Kathode zusätzlich zu ihrer Bewegung in Richtung der Detektorelemente auf der Anode in Drehung um den Mittelpunkt der Ebene versetzt, so daß eine spiralförmige Bahn resultiert.
Zusätzlich kann durch geeignete Formgebung der Ebenen, insbesondere der Anodenebene erreicht werden, daß die einwirkenden Felder unterschiedlich lange auf die aus unterschiedlichen Bereichen der Ausgangsebene stammende Elektronen einwirken, so daß Abbildungsfunktionen dargestellt werden können, die durch einfache ringförmig oder geradlinig einwirkende Felder nicht realisiert werden könnten.
3. Neuronales Netz nach Anspruch 1, in welchem die beschriebene Projektion der Aktivität eines Neurons auf ein, durch die gewählte Abbildungsfunktion bestimmtes, Neuron durch optische Mittel realisiert wird, indem Neuronen durch Elemente (z. B. Leuchtdioden) repräsentiert werden, die als Zeichen ihrer Aktivität entsprechende Lichtsignale aussenden, die dann über Lichtfaserleiter oder Linsen - und Spiegelsysteme auf die entsprechende Zielregion im neuronalen Netz gelenkt werden. Dort wird diese Lichtaktivität durch lichtdetektierende Elemente registriert und zur Weiterverarbeitung als Signal zur Verfügung gestellt.
4. Neuronales Netz nach Anspruch 1, in welchem die gesamte neuronale Aktivität durch entsprechende Computerprogramme in datenverarbeitenden Maschinen simuliert wird.
5. Neuronales Netz nach Anspruch 1, in welchem die Neuronen der Eingangsebene der Untereinheit von elektronischen Schaltelementen gebildet werden (bspw. von aus Transistoren aufgebauten elektronischen Elementen), die als Zeichen ihrer Aktivität elektrische Impulse aussenden, die über elektrisch leitende Kabel oder kabelartige Strukturen oder Leiterbahnen aus geeigneten elektrisch leitenden Werkstoffen zu den jeweiligen Zielneuronen der Ausgangsebene der Untereinheit geleitet werden.
6. Neuronales Netz analog zum neuronalen Netz nach Unteranspruch 5, welches sich dadurch auszeichnet, daß die Neuronen und die die Neuronen verbindenden Leiterbahnen auf Halbleiterbasis in einem entsprechenden Computer- (Neuroprozessor-) chip verwirklicht werden. Auch in diesem Fall sind die Neuronen ähnlich wie in bisher bereits gebräuchlichen Chips mit integriertem neuronalen Netz aus auf dem Chip integrierten Transistoreinheiten realisiert, ihre Verbindung erfolgt über in geeigneter Form geführten Leitungsbahnen aus Halbleitermaterial, die die Verbindungen der Neuronen des neuronalen Netzes nach Anspruch 1 sicherstellen.
7. Dreidimensionale Netzwerke nach Anspruch 1, realisiert nach Unteranspruch 3 bis 6, in welchem die Untereinheiten nicht aus zwei zweidimensionalen Neuronenebenen bestehen, sondern aus einer dreidimensionalen Neuronenansammlung, einem Neuronenraum. Jedem Neuron kann so z. B. in einem rechtwinkligen dreidimensionalen Koordinatensystem eine x-, eine y- und eine z-Koordinate zugeordnet werden. Der Ort, zu welchem die Neurone projizieren, wird bestimmt durch entsprechende Abbildungsvorschriften, die auf diese Koordinaten angewendet werden. Die Verbindungen zu den Neuronen, deren Einzugsbereich diesen so gefundenen Ort einschließt, werden verwirklicht entweder durch Lichtfaserleiter entsprechend Unteranspruch 3 oder der entsprechende Vorgang wird in Form einer Computersimulation nach Unteranspruch 4 oder entsprechend den in den Unteransprüchen 5 und 6 angegebenen technischen Mitteln durchgeführt. Die Eingangs- und Ausgangsbereiche (mit Verbindung zu externen Sensoren oder signalverarbeitenden Elementen) dieses Neuronenraumes können dabei alle Neurone umfassen oder auch nur die Neurone in umgrenzten Bereichen des gesamten Neuronenraumes.
8. Neuronales Netz nach Anspruch 1 ausgeführt nach Unteransprüchen 2 bis 7, in welchem die Abbildungsfunktion nicht nur durch die entsprechende Leitung der entsprechenden Neuronen-"axone" (z. B. in Form von Elektronenstrahlen) von den Neuronen der Eingangsebene der Untereinheit zu den Zielneuronen in der Ausgangsebene gewährleistet wird, sondern zum Teil oder auch ganz durch Verschiebung, Drehung, Kippung oder Maßstabsänderung der Ausgangsebene gegenüber der Eingangsebene. So kann z. B. durch einfache Rotation der zwei Neuronenebenen gegeneinander aus einer einfachen planparallelen, unveränderten Projektion des Aktivitätsmusters der Eingangsebene auf die Ausgangsebene bspw. durch parallele Elektronenstrahlen im Ergebnis eine Rotation des Ausgangsmusters gegenüber dem Eingangsmuster erreicht werden, welche bei parallel übereinanderliegenden Ebenen durch eine Beeinflussung der Elektronenstrahlen während des Fluges von der Eingangs- zur Ausgangsebene im Sinne einer Rotation um den Nullpunkt hätte bewerkstelligt werden müssen.
9. Neuronales Netz nach Anspruch 1, in welchem die Neuronentätigkeit durch entsprechende Steuerleitungen synchronisiert wird, so daß alle Neurone einer Ebene oder auch des gesamten Netzes zur gleichen Zeit ihre Aktivität weitergeben.
10. Neuronales Netz nach Anspruch 1, welches nicht getaktet ist, so daß alle Neuronen des Netzes unabhängig von den anderen arbeiten, ihre Aktivität dann durch Signalaussendung zeigen, wenn hierfür die entsprechenden Voraussetzungen der notwendigen Aktivität im Dendriteneinzugsbereich gegeben ist. Die Neurone arbeiten in diesem Fall asynchron.
11. Kombinationen von neuronalen Netzen nach Anspruch 1, mit herkömmlichen neuronalen Netzen, um die Vorteile beider zu nutzen. So führt in den bisher dargestellten neuronalen Netzen nach Anspruch 1 die Weitergabe der Aktivität eines Neurons der Eingangsebene einer Untereinheit zur Ausgangsebene der Untereinheit zur Aktivierung des Neurons oder der Neurone, welche topographisch dem entsprechend der Abbildungsfunktion erreichten Zielpunktes der Ausgangsebene am nächsten liegen. Es kann aber sinnvoll sein, daß durch entsprechende Lernvorgänge die funktionellen synaptischen Verbindungen eines anderen Neurons welches mit seinen funktionellen Dendriten diesen Zielpunkt auch noch erreicht, mit den dort endenden funktionellen Axonendigungen verstärkt werden, so daß dann dieses Neuron und nicht das dem Zielpunkt nächstbenachbarte aktiviert wird.
12. Neuronales Netz nach Anspruch 1, welches sich dadurch auszeichnet, daß es nur aus zwei Neuronenschichten besteht, wobei die erste Schicht unter Verwendung einer bestimmten Abbildungsfunktion auf die Neurone der zweiten Schicht projizieren. Die Neurone der zweiten Schicht projizieren unter Verwendung einer anderen Abbildungsfunktion auf die erste Schicht zurück, woraufhin sich der Vorgang wiederholen kann.
13. Im einfachsten Fall kann eine Untereinheit bzw. auch das Gesamtnetz auch aus einer einzigen Neuronenschicht bestehen, wenn die Neuronen dieser Schicht entsprechend der gewählten Abbildungsfunktion auf die Neurone an den entsprechenden Zielkoordinaten derselben Schicht projizieren.
14. Neuronales Netz nach Anspruch 1, in welchem potentiell alle Neurone aller Ebenen durch entsprechende Signalleitungen Signale sowohl von der externen Steuereinheit (bspw. von externen Sensoren) erhalten können, wie auch über entsprechende Signalleitungen Signale an externe Steuerungselemente oder die externe Steuerungseinheit abgeben können.
15. Neuronales Netz nach Anspruch 1, in welchem zumindest in einer Untereinheit, gegebenenfalls auch in mehreren, nach jeder erfolgten Abbildung des Aktivitätsmusters der Eingangs- auf die Ausgangsebene der Untereinheit oder nach einer bestimmten Zeit, die Abbildungsfunktion verändert wird. Dies kann z. B. durch Veränderung der ablenkenden Felder in Untereinheiten nach Unteranspruch 2 geschehen, oder durch Veränderung der die Abbildungsfunktion bestimmenden Parameter in einer Computersimulation des neuronalen Netzes oder durch Lageveränderungen der neuronalen Ebenen der Untereinheit zueinander. Die unterschiedlichen benutzten Abbildungsfunktionen können dabei wiederum nach einer bestimmten Anzahl von Änderungen oder nach einer bestimmten Zeit von vom durchlaufen werden, so daß die Untereinheit mit verschiedenen, sich kontinuierlich oder schrittweise ändernden Abbildungsfunktionen arbeitet, wobei sich die benutzten Abbildungsfunktionen zyklisch wiederholen können. Hierdurch ergeben sich zusätzliche Möglichkeiten der Musterbildung und Neuronenzuordnungen im Gesamtnetz.
DE19841820A 1998-09-12 1998-09-12 Neuronale Netze auf der Grundlage fraktaler Abbildungsfunktionen Withdrawn DE19841820A1 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE19841820A DE19841820A1 (de) 1998-09-12 1998-09-12 Neuronale Netze auf der Grundlage fraktaler Abbildungsfunktionen

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE19841820A DE19841820A1 (de) 1998-09-12 1998-09-12 Neuronale Netze auf der Grundlage fraktaler Abbildungsfunktionen

Publications (1)

Publication Number Publication Date
DE19841820A1 true DE19841820A1 (de) 2000-03-23

Family

ID=7880769

Family Applications (1)

Application Number Title Priority Date Filing Date
DE19841820A Withdrawn DE19841820A1 (de) 1998-09-12 1998-09-12 Neuronale Netze auf der Grundlage fraktaler Abbildungsfunktionen

Country Status (1)

Country Link
DE (1) DE19841820A1 (de)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7058618B2 (en) 2001-04-04 2006-06-06 Bayer Aktiengesellschaft Method for establishing stress/strain curves by means of spline interpolation on the basis of characteristic points and with the use of neural networks
US7818273B2 (en) 2007-09-18 2010-10-19 International Business Machines Corporation System and method for cortical simulation

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0425315A2 (de) * 1989-10-26 1991-05-02 THE GENERAL ELECTRIC COMPANY, p.l.c. Bilderzeugung und -verarbeitung
US5014219A (en) * 1988-05-06 1991-05-07 White James A Mask controled neural networks
EP0511668A2 (de) * 1991-05-01 1992-11-04 Matsushita Electric Industrial Co., Ltd. Vorrichtung und Verfahren zur Bilderkennung
DE4400261C1 (de) * 1994-01-07 1995-05-24 Wolfgang Prof Dr Ing Hilberg Künstliches neuronales Netzwerk

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5014219A (en) * 1988-05-06 1991-05-07 White James A Mask controled neural networks
EP0425315A2 (de) * 1989-10-26 1991-05-02 THE GENERAL ELECTRIC COMPANY, p.l.c. Bilderzeugung und -verarbeitung
EP0511668A2 (de) * 1991-05-01 1992-11-04 Matsushita Electric Industrial Co., Ltd. Vorrichtung und Verfahren zur Bilderkennung
DE4400261C1 (de) * 1994-01-07 1995-05-24 Wolfgang Prof Dr Ing Hilberg Künstliches neuronales Netzwerk

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
DE-B.: HOFFMANN, Norbert: Kleines Handbuch Neuro- nale Netze, Vieweg 1993, Kap.5.1: Bidirektionale Assoziativspeicher, S. 98-102 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7058618B2 (en) 2001-04-04 2006-06-06 Bayer Aktiengesellschaft Method for establishing stress/strain curves by means of spline interpolation on the basis of characteristic points and with the use of neural networks
US7818273B2 (en) 2007-09-18 2010-10-19 International Business Machines Corporation System and method for cortical simulation

Similar Documents

Publication Publication Date Title
DE60024582T2 (de) Neuronales verarbeitungselement zur verwendung in einem neuronalen netzwerk
DE112016003245T5 (de) Resistive Verarbeitungseinheit
DE69030592T2 (de) Generierungsverfahren für Bewegungstrajektoren in einem dynamischen System
DE112008000988B4 (de) Rechenknoten und Rechenknotennetzwerke,die Dynamiknanovorrichtungsverbindungen umfassen
DE69423228T2 (de) Unüberwachtes klassifizierungsverfahren mit neuronalem netzwerk mit back propagation
DE69032680T2 (de) Neuronaler Rechner
DE3854663T2 (de) Neurorechnersystem zur lösung von optimierungsproblemen.
DE112020002186B4 (de) Dnn-training mit asymmetrischen rpu-einheiten
CN107480597B (zh) 一种基于神经网络模型的机器人避障方法
DE19917592A1 (de) Situationsabhängig operierendes semantisches Netz n-ter Ordnung
DE4001493A1 (de) Verfahren und einrichtung zur selbsttaetigen steuerung von bewegbaren geraeten
CH714206A2 (de) Verfahren und Vorrichtungen zum Entwerfen optischer Systeme.
DE112019000676T5 (de) Zentraler scheduler und anweisungszuteiler für einen neuronalen inferenzprozessor
DE60125536T2 (de) Anordnung zur generierung von elementensequenzen
WO1999026167A2 (de) Verfahren und einrichtung zur detektion und koinzidenzbringung abschnittsweise in monotone und stetige trajektorien wandelbarer signalformen
DE69110538T2 (de) Neuronales Klassifikationssystem and -verfahren.
DE19841820A1 (de) Neuronale Netze auf der Grundlage fraktaler Abbildungsfunktionen
DE69602662T2 (de) Verfahren zur Beschleunigung der Ausführungsgeschwindigkeit von Neuronalnetzwerken für korrelierte Signalverarbeitung
DE69414636T2 (de) Neuronales Netzwerk für Signalverarbeitung
DE69524721T2 (de) Signalgenerator zur modellierung des dynamischen verhaltens eines systems
DE102021213344A1 (de) Verfahren zum Ermitteln von Agenten-Trajektorien in einem Multi-Agenten-Szenario
DE69410733T2 (de) Neuronaler Zellularautomat und darauf basierter Optimierer
Mir et al. A fully decentralized approach for incremental perception
WO2006100209A2 (de) Feld programmierbares synapsen array und verfahren zu dessen programmierung
WO2006005669A2 (de) System zur informationsextraktion und/oder informationsbewertung

Legal Events

Date Code Title Description
ON Later submitted papers
OP8 Request for examination as to paragraph 44 patent law
8139 Disposal/non-payment of the annual fee