DE3812228C1 - Arrangement for efficient storage of large quantities of text in the style of an associative field - Google Patents

Description

1. Stand der Technik, Aufgabenstellung und Lösung

Die Erfindung betrifft eine Anordnung zur effizienten Speicherung großer Textmengen nach Art eines assoziativen Feldes.

Zur effizienten Speicherung miteinander verketteter Daten ist in der DE 34 11 168 A1 unter dem Namen "assoziatives Feld" eine technische Anordnung beschrieben worden, die eine sparsamere Codierung als bei den bekannten klassischen Codierungsverfahren ergibt.

Beim Abspeichern von großen Mengen an sprachlichem Text, bei dem grundsätzlich die Verkettungsbedingungen erfüllt sind, hat sich nun gezeigt, daß es in Befolgung der genannten bekannten Methode Schwierigkeiten gibt. Sie entstehen dann, wenn die den einzelnen Inhaltsworten I zugeordneten gespeicherten Verkettungsworte Y, die bei dem zeitlich vorangehenden Prozeß des Ladens der Anordnung als voneinander verschieden festgelegt wurden, in einem anderen Zusammenhang mit gleichen neuen Nachfolgeworten verkettet werden müssen. Das ist aber wegen der Verschiedenartigkeit der meist schon lange vorher gewählten und fest abgespeicherten Verkettungsworte nicht ohne weiteres möglich. Das heißt bei den schon beschriebenen Methoden des Ladens (Einschreibens) eines assoziativen Felds gelingt es entgegen den Erwartungen nicht, auch sehr große Textmengen effizient einzuspeichern. Letzten Endes hängt das daran, daß bei der Verkettung die statistischen Beziehungen der verallgemeinerten Zipf-Kurven beachtet werden müssen, wie sie in ntz Archiv Bd. 10 (1988) H. 6, S. 133-146 veröffentlicht wurden. Die dort behandelten Sachverhalte stellen die wissenschaftliche Basis für die erfindungsgemäße technische Anordnung dar.

Aufgabe der Erfindung ist es, die effiziente Speicherung großer Textmengen zu ermöglichen.

Gelöst wird diese Aufgabe mit einer Anordnung gemäß dem Patentanspruch 1.

Es werden Grundzüge einer neuen Verkettung beschrieben, die mit einer Umcodierung in zusätzlichen Speichereinheiten arbeitet. Dadurch können die Verkettungen eines jeden einzelnen Wortes in einem Wörterbuch mit einer beliebigen Auswahl an Nachfolgeworten in einem folgenden Wörterbuch (das dasselbe Wörterbuch sein kann) einfach abgespeichert werden, wobei es prinzipiell keine Konflikte zwischen den Verkettungen unterschiedlicher Worte geben kann. Abschätzungen zeigen, daß die notwendigen zusätzlichen Speichereinheiten mit den Mitteln der heutigen Mikroelektronik leicht zu realisieren sind. Die erfindungsgemäße Anordnung kann als eine Ergänzung der schon beschriebenen Wörterbücher des assoziativen Feldes aufgefaßt werden. Hierbei wird für jedes pro Wort gespeicherte Verkettungsschlüsselwort eine Mehrzahl unterschiedlicher Verkettungsschlüsselworte eingeführt, die zweckmäßig in einem Lese-Schreibspeicher bekannter Art zusammengefaßt abgespeichert werden. Die erfindungsgemäße Anordnung kann jedoch auch als eine neuartige Realisierung eines assoziativen Feldes überhaupt angesehen werden. Man erkennt dies daran, daß jetzt in der gesamten Anordnung grundsätzlich adressengesteuerte Speicher genügen. Dies hat auch praktische Vorteile, denn solche Speicher sind bekanntlich einfacher zu realisieren und sie sind billiger als die assoziativen Speicher.

In den folgenden Abschnitten der Beschreibung werden das Problem und die vorgeschlagene Lösung noch etwas genauer dargestellt. Dazu wird zuerst mit der Schilderung eines Netzwerkmodelles der Sprachstruktur (Sprachnetz) begonnen, das sehr konzentriert die Ergebnisse umfangreicher Sprachuntersuchungen enthält. Daran muß nämlich eine technische Anordnung zur Sprachspeicherung angepaßt sein. Dann wird das Problem der Konfliktsituationen geschildert, die sich insbesondere beim Abspeichern sehr großer Textmengen in assoziativen Feldern und semantischen Speichern bisher bekannter Bauart ergeben. Die Lösung ist dann die Codewandlung mit Speichern.

2. Das Sprachnetzwerk mit gesteuerten individuellen Verbindungen

In [1] war ein Sprachnetzwerk vorgestellt worden, das bei einem Wortvorrat von W₀ Worten in ld W₀ Klassen unterteilt ist. In jeder Klasse sind N _i Worte enthalten, die jeweils V _i Verbindungen zu anderen Worten enthalten, und ebenso viele Verbindungen von anderen Worten zu den Worten der betrachteten i- ten Klasse. In Anpassung an die verallgemeinerten Zipf'schen Kurven gilt die Beziehung:

N _i · V_i = W₀/2, N _i = 1, 2, 4, 8, . . . (Potenzen von 2) (1)

Die Betriebsweise läßt sich wie folgt charakterisieren: Es gibt in dem ganzen Netzwerk nur jeweils eine einzige aktive Wortzelle. Der Aktivitätzustand wandert von ihr in einem Schritt zu einer weiteren Zelle, indem eine der vorhandenen Verbindungen durchgeschaltet wird, siehe Bild 1a. Die Auswahl der Verbindung erfolgt durch Steuersignale S (j). Es ist nun möglich, daß alle von den Wortzellen ausgehenden Verbindungen jeweils (von 1 anfangend) durchnumeriert werden und daß man entsprechende Steuersignale definiert (vgl. Bild 1a). Die Variable j läuft dabei stets von 1 bis V _i. Es ist leicht einzusehen, daß dann das Steuersignal S (1) im ganzen Netz am häufigsten vertreten ist, denn jede Wortzelle hat stets wenigstens eine Verbindung Nr. 1, während das Steuersignal S (W₀/2) nur ein einziges Mal vorkommt (es gibt nur eine einzige Wortzelle, die soviele Verbindungen hat). Folglich benötigt man insgesamt W₀/2 verschiedene Steuersignale. (Interessant ist, daß man, wenn man die Verbindungen eines jeden Wortes zu den Nachfolgeworten der Auftrittshäufigkeit nach ordnet, so daß z. B. das häufigste Nachfolgewort stets die Nummer 1 bekommt, usw., und wenn man wie beim bekannten Optimalcode den häufigsten Worten die kürzeste Codierung zuordnet und den selteneren der Reihe nach längere Codierungen, dann eine Codierung erhält, deren mittlere Codelänge weit kürzer als bei der klassischen Optimalcodierung ist. Dies ist daraus zu erklären, daß bei der hier vorgestellten Codierung die Verkettungen eines jeden einzelnen Wortes zu seinen Nachfolgern optimiert wird, während bei der klassischen Optimalkodierung nur eine pauschale Optimierung vorliegt.)

Bei dem nicht in Klassen unterteilten Netzwerk-Modell, das sich durch die Beziehung

n _i · v_i = W₀, n _i = 1, 2, 3, 4, 5, . . . (ganze positive Zahlen) (2)

beschreiben läßt (mit Abrundung der Werte v _i), benötigt man doppelt so viele verschiedene Steuersignale wie im ersten Fall, da für n _i = 1 sich gerade W₀ verschiedene Verbindungen dieser Zelle zu anderen Zellen ergeben.

Eine Variante des oben beschriebenen Verfahrens der Numerierung der Verbindungen ergibt sich, wenn man allen Verbindungen, die jeweils zu einer Wortzelle hinführen, Steuersignale zuordnet, die der Nummer dieser Wortzelle entsprechen, siehe Bild 1b und Bild 1c. Bei W₀ Wortzellen hat man selbstverständlich wiederum W₀ verschiedene Steuersignale bereitzustellen.

Man könnte jetzt danach fragen, welchen Nutzen dann die Verkettung überhaupt hat, wenn man genau soviele verschiedene Steuersignale benötigt wie z. B. bei einer Adressenauswahl von Worten, die in einem üblichen RAM gespeichert sind. Nun, im vorgeschlagenen Sprachnetzwerk sind außer den Worten auch noch die erlaubten Wortübergänge gespeichert. Dadurch, daß die nicht erlaubten Wortübergänge nicht berücksichtigt werden, ist mit der Wortauswahl zugleich eine große Redundanzreduktion verbunden.

3. Konfliktsituation bei assoziativen Feldern

Geht man daran, das Netzwerk wirklich als Schaltung aufzubauen, stößt man bald auf eine Anordnung, die als assoziatives Feld in die Literatur eingeführt wurde [2]. In Bild 2 ist skizziert, wie ein aktiviertes Wort I _j mit seinem Verkettungsschlüsselwort Y _i mehrere verschiedene Nachfolgerworte erreichen kann, bei denen im Schloßteil das Verkettungswort Y _i mit entsprechenden Decodierdaten Y _i übereinstimmt. Mit Steuerworten X kann dann entschieden werden, welche Verbindung durchgeschaltet wird.

Eine Konfliktsituation beim Abspeichern der Worte und Codierungen ergibt sich, wie in Bild 3 gezeigt, häufig dann, wenn von verschiedenen Wortzellen gleiche Nachfolgerworte ausgewählt werden sollen. Wenn man für diese verschiedenen Wortzellen die gleichen Verkettungsworte Y wählen kann, ist die Aufgabe zu lösen. Häufig sind jedoch schon verschiedene Verkettungsworte Y festgelegt. Dann hilft im Prinzip entweder die Verdopplung der Verkettungsworte Y pro Speicherzelle oder die Verdopplung der entsprechenden Schloßdaten y. Ferner die Vervielfachung der Wortzellen nach dem Prinzip von Bild 4. Es hat sich gezeigt, daß diese Wege mühsam und unübersichtlich sind. Deshalb soll im folgenden eine Methode vorgestellt werden, mit der solche Konflikte überhaupt vermieden werden können.

4. Codewandlungen mit Speichern

Beziehen wir uns zunächst wieder auf das beschriebene, in Klassen unterteilte Netzwerk (und denken uns der Einfachheit halber die Wortzellen einer Klasse in einem zusammenhängenden Speicherbereich eines normalen Speichers untergebracht). Jede Wortzelle in diesem Bereich hat die gleiche Anzahl an Nachfolgern. In Bild 5 ist skizziert, wie jede einzelne Wortzelle mit einem RAM verbunden ist. Wird die Wortzelle aktiviert, soll dabei auch das anhängende RAM aktiviert werden. Dann können hier Steuersignale die Nummer der entsprechenden Verbindung auswählen, unter der die Adresse der nachfolgenden Wortzelle abgespeichert ist. Diese Adresse wird in den folgenden Speicher übertragen und aktiviert dort den Nachfolger.

Berechnen wir als nächstes die Größe des RAM für eine ganze Klasse von Wortzellen des Netzwerkes. Hat eine Wortzelle V _i verschiedene Nachfolger und nehmen wir V _i als eine Zweierpotenzzahl an, so gehört dazu eine Adresse der Länge ld V _i. Bei N _i Wortzellen pro Klasse, die adressiert werden müssen, addiert sich dazu noch eine Adresse der Länge ld N _i. Das ergibt für jede Klasse unabhängig vom speziellen Wert V _i die gleiche Gesamtlänge pro Adresse, wie man durch Logarithmieren der Gl. (1) sieht:

ld (N _i · V_i) = ld N _i + ld V _i = ld (W₀/2) (3)

(Denkt man daran, daß N _i · V_i als konstantes Verbindungspotential für alle Klassen definiert ist, so findet man dieses Ergebnis auch ohne Zwischenüberlegungen.) Gleiche Adreßlängen bedeuten aber auch gleiche Speicherkapazitäten. Insgesamt ergeben sich bei ld W₀ Klassen also entsprechend viele gleich große RAMs. In Bild 6 ist am Beispiel einer Klasse von 4 Wortzellen das zwischengeschaltete RAM zur Codewandlung dargestellt.

Bilden wir zur Kontrolle noch ein Zahlenbeispiel. Für die sehr große Zahl von W₀ ≈ 5 · 10⁵ Worten kann man annähern: W₀ = 2¹⁹. Daraus ergeben sich ld W₀ = 19 Klassen. Jede hat ein RAM mit einer Adressenlänge von 18 Bit und einer Speicher-Wortkapazität von 256K Worten. Dies ist mit den heutigen Speicherchips leicht zu realisieren.

Selbstverständlich stellt dies nur den maximal notwendigen Speicheraufwand dar. Indem man gleichartige gespeicherte Adressen zusammenfaßt, läßt sich der Aufwand reduzieren.

5. Konsequenzen

Bei dem beschriebenen Verfahren lassen sich zwei wichtige Vorteile erkennen. Einmal ist man bei der Speicherung der Worte nicht mehr auf die komplizierten assoziativen Speicher angewiesen, es genügen gängige adressengesteuerte Speicher. Zum anderen hat man durch einen tragbaren zusätzlichen Aufwand an gängigen RAMs die Konfliktsituationen vollständig beseitigt, so daß man die Aufmerksamkeit verstärkt den interessanteren Fragen der Realisierung eines semantischen Speichers zuwenden kann. Zum Beispiel der folgenden Frage: Um eine Informationsverdichtung in der hierarchischen Schichtenstruktur eines semantischen Speichers zuwege bringen zu können, muß eine Reduzierung des Steueraufwandes gefordert werden. Insbesondere sollte die Anzahl der benötigten verschiedenen Steuersignale kleiner als W₀ sein, z. B. nur den Wert erreichen, was einer Reduzierung der mittleren Länge der Steuersignale auf die Hälfte entspricht. Nach dem Vorschlag in [1] kann dies erreicht werden, indem man nicht nur die möglichen Verkettungen direkt aufeinanderfolgender Worte berücksichtigt, sondern auch die von übernächsten Nachfolgern, usw. Es zeigt sich, daß man praktisch nur die Verkettungen relativ weniger Nachfolger, bzw. Vorgänger, einzubeziehen braucht.

Eine Möglichkeit zum systematischen Aufbau dieser weiteren Verkettung ergibt sich durch die meßtechnische Erfassung der Verzweigungen bezüglich der übernächsten Nachfolger, der darauf folgenden Nachfolger usw., bei denen die Verzweigungszahlen entsprechend anwachsen müssen, was zu zusätzlichen Verkettungsworten führt. Durch das Zusammenwirken der unterschiedlichen Verkettungsworte von z. B. 5 aufeinanderfolgenden Wortzellen ergibt sich dann das resultierende Verkettungswort für die Auswahl der nächsten aktiven Wortzelle. Dadurch kann das Teilverkettungswort für direkt aufeinanderfolgende Worte kürzer sein als beim ursprünglich beschriebenen einfachen Verfahren. Erst dann wird es aber auch möglich, z. B. zwei solcher Teilverkettungsworte unmittelbar aufeinanderfolgender aktiver Wortzellen in eine semantisch höhere Ebene zu übertragen, usw. und damit den Weg zu einer generellen Informationsverdichtung zu eröffnen.

Literatur

[1] W. Hilberg
Das Netzwerk der menschlichen Sprache und Grundzüge einer entsprechend gebauten Sprachmaschine.
Institutsbericht Nr. 87/88
[2] W. Hilberg
Assoziative Gedächtnisstrukturen.
Oldenbourg Verlag, München 1984

Claims (4)

1. Anordnung zur effizienten Speicherung großer Textmengen nach Art eines assoziativen Feldes, dadurch gekennzeichnet, daß ein Sprachnetz, das den verallgemeinerten Zipfschen Beziehungen gehorcht (natürliche Sprache) technisch nachgebildet wird, indem vorgesehen ist,

• - ein erster Speicher, in welchem jedes einzelne Wort zusammen mit seiner eigenen Adresse gespeichert wird und
• - ein zweiter Speicher (Codierspeicher), in welchem für jede Klasse von Worten (Menge von Worten mit jeweils gleicher Anzahl möglicher direkter Nachfolgerworte) die Adresse aller Worte gespeichert werden, welche als direkte Nachfolgerworte in Betracht kommen,

wobei zur Verkettung eines Wortes mit einem direkten Nachfolgerwort der zu der entsprechenden Klasse gehörende Teil des zweiten Speichers aktiviert wird und aus dem aktivierten Teil mit einem extern zugeführten Steuerwort die Adresse des gewünschten direkten Nachfolgerwortes gewonnen wird.

2. Anordnung nach Anspruch 1, dadurch gekennzeichnet, daß die Adressen aller direkten Nachfolgerworte, sowie die Adressen dieser Adressen in einem oder mehreren separaten Speichern (RAM oder ROM) gespeichert sind, wobei die der gleichen Klasse zugehörigen Worte Worte mit gleicher Anzahl möglicher direkter Nachfolgerworte vorzugsweise in einem gemeinsamen Speicherbereich zusammengefaßt sind.

3. Anordnung nach Anspruch 1 oder 2, dadurch gekennzeichnet, daß die Adressen der gespeicherten Adressen der direkten Nachfolger jeweils in zwei Teile aufgespalten sind, wobei ein Teil zusammen mit einem oder mehreren gespeicherten Worten abgespeichert ist und bei der Aktivierung eines solchen Wortes sofort verfügbar wird, daß die vollständigen Adressen der gespeicherten Nachfolgeradressen als übliche Decodierungsschaltungen eines Speichers vorhanden sind und daß die eindeutige Auswahl einer Nachfolgeradresse im Zusammenwirken beider Teile einer Adresse zu einer gespeicherten Nachfolgeradresse erfolgt, indem ein erster Teil als gespeichertes Verkettungsschlüsselwort vom aktivierten Wort und ein zweiter Teil als externes Steuerschlüsselwort genommen wird.