DE1953451B2

DE1953451B2 - Verfahren und Vorrichtung zur maschinellen Zeichenerkennung

Info

Publication number: DE1953451B2
Application number: DE1953451A
Authority: DE
Inventors: Alexandre Ovington Naer Airesford Dubinsky; Peter James Abbey Hill Winchester Titman
Original assignee: International Business Machines Corp
Current assignee: International Business Machines Corp
Priority date: 1968-10-23
Filing date: 1969-10-23
Publication date: 1973-10-31
Also published as: GB1230834A; DE1953451A1; DE1953451C3; CA944081A; FR2021332A1; US3626381A

Description

Die Erfindung betrifft ein Verfahren zur maschinellen Zeichenerkennung, bei dem die Zeichen durch einen geordneten Zahlensatz von d Binärziffem darstellbar sind, unter Verwendung des Brawerman-Algorithmus der trennenden Ebene zur Klassifizierung der als Suchargumente angebotenen Zahlensätze.

Das Problem der maschinellen Erkennung einer Zeichenfonn, welche durch einen Zahlensatz repräsentiert ist, ist das Problem der Zuordnung des Zahlensatzes zu einer Klasse, welche alle diejenigen Zahlensätze umfaßt, die das gleiche Zeichen repräsentieren. Mit anderen Worten ausgedrückt ist das Problem der Zuordnung im vorliegenden Falle ein Problem der Klassifizierung des Zahlensatzes. Im idealen Falle hat jede Klasse nur ein Glied, so daß ίο es zu einem gegebenen Zeichen nur einen Ziffernsatz gibt, welcher sofort seiner Klasse zuordenbar ist.

Brawerman hat einen für derartige Klassifizierungsprobleme geeigneten Algorithmus angegeben, auf den im Verlaufe dieser Beschreibung noch näher eingegangen wird.

Die Erfindung besteht darin, daß

a) die Binärdaten der den Gesamtzeichenraum jeweils in zwei Teile trennenden Ebenen in Wortregistern eines assoziativen Speichers gespeichert werden (Lernphase), daß

b) der Ziffernsatz eines Sucharguments mit den Inhalten des Wortregisters verglichen wird (Kannphase, Operation 1), daß

c"! jedes Wortregister bei Überwiegen der übereinstimmenden Bits ein Ausgangssignal der einen Art abgibt, bei Nichtüberwiegen hingegen ein Ausgangssignal der anderen Art abgibt (Kannphase, Operation 1), und daß

d) die Ausgangsdaten aller Wortregister als Dateneingangssatz einem weiteren assoziativen Speicher zugeleitet werden, der das diesem Datensatz zugeordnete Klassifizierungsausgangssignal liefert (Kannphase, Operation 2).

Die Erfindung besteht auch in einer Vorrichtung zur Durchführung des oben angegebenen Verfahrens zur maschinellen Zeichenerkennung, bei dem die Zeichen durch einen geordneten Zahlensatz von d Binärziffern darstellbar sind, unter Verwendung des Bra «erman-Algorithmus der trennenden Ebene zur Klassifizierung der als Suchargumente angebotenen Zahlensätze

Da bei dem erfindungsgemäßen Verfahren assoziative Speicher mitwirken, sei an dieser Stelle hierauf eingegangen.

Größere Speicher sind bekanntlich in Speicherzellen unterteilt, welche meist der Speicherung von jeweils einem Wort dienen. Zur Organisation des Speichers denkt man sich die Speicherzellen entweder in ihrer räumlichen Reihenfolge durchnumeriert, oder man kennzeichnet ihre Lage eindeutig durch ganzzahlige Koordinatenwerte. In den bekannten, sogenannten assoziativen Speichern schreibt man in einen Teil jeder Speicherzelle eine unabhängig von der räumlichen Zellenanordnung wählbare Kennung. 2-um Lesen einer solchen Speicherzelle ist die Kennung der zu wählenden Speicherzelle anzugeben (H. Billing im »Taschenbuch der Nachrichtenverarbeitung«, herausgegeber von Karl Steinbuch, erschienen 1962 im Springei Verlag, S. 522).

Zur Realisierung des assoziativen Speichers hai

H. Billing in dem von Karl Steinbuch herausgegebenen Taschenbuch der Nachrichtenverarbeitunj auf S. 653 auf folgendes Problem hingewiesen: In Verlauf einer Rechnung, also z. B. der numerischer

Auswertung einer Formel, muß man wissen, in welchen Speicherzellen die den einzelnen Formelzeichen zugeordneten Zahlenwerte zu finden sind. Dies führt dazu, daß man bei Aufstellung des Rechenprogramms sich entweder eine Speicherplatzordnung aufstellen oder merken muß, oder aber man speichert sich eine Liste ab, in welcher jeweils links das Symbol und rechts die Speicherzellennummer steht. Im letzteren Fall braucht das Programm nur noch die Symbole zu enthalten. Nach Ablesen eines Symbols im Programm liest die Rechenmaschine dann die Symbolliste durch und setzt statt des Symbols die zugeordnete Speicherzellenadresse in den Rechenbefehl ein. Der in diesem Zusammenhang bekanntgewordene »Katalogaufruf« ist ein in einem einzelnen Zeitschritt wirkender Zuordner zwischen Symbol und Speicherzelle (S. 653 im Taschenbuch der Nachrichtenverarbeitung von Karl Steinbuch).

Zur Zeichenerkennung ist durch die britische Patentschrift 985 705 bereits ein elektronischer Vergleicher zum Vergleichen von Wörtern bekanntgeworden, bei dem die Wörter in einer Anzahl von Speicherelementen, die nach Zeilen und Spalten in zwei Dimensionen geschaltet sind, gespeichert sind. Die genannte Patentschrift zeigt die Verwendung von Drei-Zustands-Speicherelementen.

Durch die britische Patentschrift 1 098 895 ist ferner ein Zeichenerkennungssystem bekanntgeworden, bei welchem eine Konvertierung von Zeichen aus verschiedenen Klassen in einem entsprechenden digitalen Code stattfindet und bei welchem eine Prüfung dieses Codes auf das Vorhandensein eines ausgewählten Wortes vorgesehen ist, welches als Kurzform aus dem Code abgeleitet werden kann. Diese Patentschrift beschreibt die Verwendung von Hyperebenen, welche den Zeichenraum in Raum teile aufteilen.

Außerdem ist durch die deutsche Patenten Ift 1 179 409 die Verwendung einer Lernmatrix bei der automatischen Zeichenerkennung bekanntgeworden. Hierbei handelt es sich um eine elektrische Schaltung, die eine Vielzahl von Eingabeinformationen (Eigenschaftsmerkmale) den entsprechenden Bedeutungen zuordnet. Die Eingabe- und Ausgabeleitungen sind beim Bekannten matrixartig angeordnet, jeder Zeile ist eine vorher bestimmbare Bedeutung beigegeben. Die die Eigenschaftsmerkmale darstellenden elektrischen Signale rufen bei ein- oder mehrfacher Eingabe über die Spaltenleituugen und gleichzeitiger Markierung einer Zeile eine elektrische Veränderung an den Kreuzungspunkten der Matrix dahingehend hervor, daß eine bestimmte elektrische Kopplung zwischen Spalten- uncl Zeilenleitung entsteht und daß schließlich nach erfolgter Veränderung der Kreuzungspunkte (Lernphase) bei Eingabe einer Gruppe von Eigenschaftsmerkmalen diejenige Zeile von einer Extremwertstimmungsschaltung ausgewählt wird (Kannphase), deren Ausgangssignal al: Summe der Übereinstimmungen von eingegebenen Eigenschaftsmerkmalen und Kopplungsgrad in den Kreuzungspunkten am größten ist und damit die zugehörige Bedeutung angibt. Bei Ansteuern einer Ausgangsleitung sind die entsprechenden Eigenschaftsmerkmale infolge der Kopplungen am Spaltenausgang ablesbar. Die Eigenschaftsmerkmale können bei diesem bekannten Zuordner mit Lerncharakter als binäre Signale vorliegen.

Nach der deutschen Patentschrift 1 179 409 kann nach Beendigung der Lernphase, also in der Kannphase, die Lernmatrix auch als Bedeutupgsmatrix bezeichnet werden. Die Bedeutungsmatrix ist eine spezielle Zuordnerschaltung, welche erlaubt, zu einem beobachteten Satz Eigenschaften diejenige Bedeutung aus einer Anzahl erlernter Bedeutungen auszuwählen, welche die größte »Ähnlichkeit« mit dem beobachteten Satz Eigenschaften hat.

Zur quantitativen Beurteilung der Ähnlichkeit kann nach der deutschen Patentschrift 1 179 409 die Theorie der Codierung zu Rate gezogen werden. Man kann danach jedes Codewort als einen Eckpunkt eines Würfels im /i-dimensionalen Nachrichtenraum auffassen, wobei η die Zahl der Binärelemente ist, die man zur Codierung von N verschiedenen Gestalten mindestens braucht.

Aus der Informationstheorie ist es bekannt, Codierungen geometrisch zu interpretieren (vgl. hierzu Leonard S. Schwartz, »Principles of Coding, Filtering and Information Theory«, erschienen 196? bei Spartan Books, Inc. Baltimore and Cleavcr-Hume Press. Ltd. London, S. 61). In dieser Veröffentlichung ist auf S. 66 das Prüfen von Daten im Hyperraum genannt. Es sei hier auch die Veröffentlichung von P. W. Cooper, »The hyperplane in pattern recognition« Inf. and Control 5 (1962), S. 324 bis 346. genannt. Lineare Klassifikatoren, bei denen die Entscheidungsgrenzen Hyperebenen im N-dimensionalen Merkmalsraum sind, sind bekannt.

Durch die deutsche Patentschrift 1 209 340 ist ein Verfahren zur Identifizierung von im binären Code dargestellten Informationen bekanntgeworden, die aus m Teilinformationen mit je η binären Veränderlichen bestehen und die in einer Kannphase mit Informationen verglichen werden, die als Musterinformationen während einer vorhergehenden Lernphase festgestellt wurden. Bei diesem bekannten Verfahren erfolgt während der Lernphase bei der aufeinanderfolgenden Eingabe der m Teilinformationen einer Musterinformation in m Schieberegisterstufen zu je η Stellen jeweils bei erneuter Belegung der ersten Schieberegisterstufe durch eine Teilinformation die Einstellung von η Gruppen von m ■ η Speichern, wobei die Speicher der ersten Gruppe jeweils dann eingestellt werden, wenn die ihnen zugeordneten Stellen der Schieberegisterstufen belegt sind bei zugleich belegter erster Stelle der ersten Schieberegisterstufe, die Speicher der zweiten Gruppe eingestellt werden bei zugleich belegter zweiter Stelle der ersten Schieberegisterstufe usw. und wobei die jeweils von vorhergehenden Belegungen der ersten Schieberegisterstufe herrührenden Speichereinstellungen beibehalten werden. Während der Kannphase wird jeweils bei erneuter Belegung der ersten Schieberegisterstufe durch eine Teilinformation ein Vergleich aller Stellen der Schieberegisterstufen mit der Einstellung der Speicher durchgeführt. Die bei Übereinstimmung gewonnenen Signale werden über Schwellenschaltungen geleitet, deren Pegel von der Belegung aller Schieberegisterstufen zu diesem Zeitpunkt abhängig ist.

Die Erfindung wird nachstehend an Hand der Zeichnungen für eine beispielsweise Ausführungsform und unter Erläuterung des Brawerman-Verfahrens näher beschrieben.

Fig. 1 ist ein zur Erläuterung der Theorie des Verfahrens nach der Erfindung dienendes Diagramm; F i g. 2 ist ein Blockschaltbild eines assoziativen

Speichers, der für die Durchführung des Verfahrens nach der !Erfindung eingerichtet ist;

F i g. 3 ist eine Detailzeichnung der Steuerschaltung für den in F i g. 2 gezeigten Speicher;

F i g. 4 zeigt zwei typische Bitspeicherelemente des in F i g. 2 gezeigten Speichers;

F i g. 5 enthält ein Schema, das zur Erläuterung der Durchführung des Verfahrens nach der Erfindung gedacht ist.

Es ist an sich bekannt, daß ein Zeichen durch einen geordneten Satz von d Binärziffern dargestellt werden kann. So fällt z. B. das Bild eines Zeichens auf eins Fläche von d Photodetektoren. Der resultierende Zustand der Photodetektoren kann je nach Vereinbarung entweder durch eine Folge von Ziffern 1 und 0 oder auch durch eine Folge von Ziffern 1 und — 1 dargestellt werden. Der Ziffernsatz (b,), b_t = 1 oder 0 mit i = 1 bis d bzw. b_t = 1 oder — 1 mit i = 1 bis d ist eine Darstellung des Zeichens, welches auf den Photodetektoren abgebildet wird.

Das Problem der Erkennung des Zeichens ist das Problem der Zuordnung einer Zeichenbeschreibung zu einem Klassennamen. Dieses Problem ist äquivalent der Zuordnung des Zahlensatzes, welcher das Zeichen repräsentiert, zu einer Klasse. as

In der Praxis gibt es jedoch nicht den Idealzustand, daß ein zu identifizierendes Zeichen in jedem Fall auf nur einen Satz von Ziffern zurückgeführt werden kann. Sogar gedruckte Zeichen sind wegen der unterschiedlichen Absorption der Tinte in verschiedenen Bereichen des Papiers nicht regelmäßig gedruckt, so daß an sich gleiche Zeichen zu unterschiedlichen Ziffernsätzen führen können. Das Erkennen von handgeschriebenen Zeichen ist ein weiteres Beispiel für mögliche unterschiedliche Ziffernsätze. Daher enthält eine einzelne Klasse eine größere Anzahl von unterschiedlichen Ziffernsätzen, die alle das gleiche Zeichen repräsentieren.

Das Hauptproblem der Zeichenerkennung liegt demnach in der Bestimmung des Umfanges der Klassen. Dieses Problem ist bisher nur durch Annäherung erreicht oder dadurch umgangen worden, daß man spezielle Schriftformen gestaltet hat.

E. M. Brawerman hat nun in Automatika i Telemekhanika (englische Übersetzung vom September 1962 in Automation and Remote Control unter dem Titel »Experiments on Machine Learning to Recognize Visual Pattern«, vgl. aber auch A. G. Arkad j ew und E. M. Brawerman, »Zeichenerkennung und maschinelles Lernen«, R. Oldenbourg Verlag München und Wien 1966) ein algorithmisches Verfahren vorgeschlagen, um in lernenden Maschinen visuelle Zeichen zu unterscheiden. Dieser bekannte Algorithmus besteht aus vier Teilen: 1. der Konstruktion der trennenden Hyperebenen zwischen den Daten verschiedener Zeichen, 2. der Eliminierung redundanter Ebenen, 3. der Elimierung redundanter Stücke der Ebenen (Bildung trennender Hyperoberflächen) und 4. das Erkennen neuer Zeichen. Die ersten drei Teile des Algorithmus beziehen sich daher direkt auf den Lernprozeß, während der vierte Teil ein Test der Lernergebnisse durch die Maschine ist.

Im ersten Teil des Algorithmus von Brawerman benutzt man zuerst je einen Punkt zweier verschiedener Muster. Die Maschine speichert die Koordinaten ⁶S der Punkte im Empfängerraum und bildet eine Eben¹; durch diesen Raum, welche die beiden Punkte trennt.

Die bekannte Maschine, wie sie Brawerman beschreibt, arbeitet tatsächlich folgendermaßen: Sie wählt aufs Geratewohl η Koeffizienten ;.,· (/ = 1, 2, ...., n) der Hyperebene aus und bestimmt dann den Wert des Ausdrucks

mit Einsetzung der Koordinaten des ersten Punktes für das λ,- und dann des zweiten Punktes. Hierbei ist η die Dimension des Empfängerraumes. Im ersten Falle ergibt sich

und im zweiten Falle

Die Maschine wählt dann eine Zahl λ_{η + 1}, die größer ist als die kleinere der Summen a^ und α®, aber kleiner ist als die größere der beiden Summen. Sie liegt im Bereich

min (α«, α®) < A_{n + 1} < max (ad), a®>).
Man erkennt leicht, daß in diesem Falle der Term

auf einen Wert größer als Null für den einen Punkt und kleiner als Null für den anderen Punkt kommt. Geometrisch bedeutet dies, daß die Hyperebene

Xv*,-a_Btl = 0

die gesuchten beiden Punkte trennt. Der gesamte Raum ist jetzt in zwei Bereiche geteilt. Für weitere Punktangebote werden weitere Hyperebenen nach dem gleichen Verfahren so gelegt, daß Punkte verschiedener Zeichen auf entgegengesetzten Seiten der Hyperebenen liegen.

Die lernende Maschine nach Brawerman erhielt zunächst eine Übungsgruppe von Ziffernsätzen angeboten, wobei jeder Ziffernsatz einer bekannten Klasse angehört. Hieraus folgend werden Hyperebenen, nachstehend als Ebenen bezeichnet, zur Trennung des Raumes gezogen, wobei jeder Raumteil alle (oder praktisch die meisten) jene Punkte enthält, welche derselben Klasse angehören. Nach Abschluß der Lernphase werden zu klassifizierende Zirternsätze in die Maschine »egeben. Durch Bestimmung, auf welcher Seite j>;der tbene der von einem Ziffernsatz bestimmte Punkt hegt, kann man finden, in welchem Teil des Raumes der Punkt angeordnet ist. Damit findet man die Klasse, zu welcher der Zahlensatz gehört.

Der Braverman-Algorithmus führt dann zu guten Ergebnissen, wonn sich nicht zu viele Punkte einer Klasse mit Punkten anderer Klassen vermengen, weil sonst das Ziehen von Ebenen mit ausreichend getrennten Klassen erschwert würde. In einzelnen Fällen kann es schwierig sein, einen repräsentativen Ziffernsatz zur Belehrung der Maschine zu bestimmen, was aber die Allgemeinheit der Theorie nichi beeinträchtigt.

Die Gleichung einer Ebene (vgl. Hütte I, 27. Auflage, S. 152), welche durch den Ursprung eines Raumes von d Dimensionen verläuft, ist gegeben durch

W₁X₁-I-W₂X₂-I-... +w_dx_ä ^- 0. (1)

Um zwei bekannte Punkte zu trennen, welche ver schiedenen Klassen angehören, bildet Bravermai (d— 1) Koeffizienten Wj durch eine Pseiido-.lugriffs

Zahlenfolge und berechnet dann den letzten Koeffizienten.

Die Berechnungen werden daher sehr stark vereinfacht durch Beschränkung des Zahlenfeldes, zu welchem die Koordinaten λ,· gehören, auch das binäre, symmetrische Feld (—1, 1) (in dem gegebenen Beispiel repräsentiert ein nicht von Zeichenteilen bedeckter Photodetektor den Wert —1, ein bedeckter Photodetektor den Wert 1), und durch Wahl jeder trennenden Ebene derart, daß sie äquidistant ist von den zu trennenden Punkten.

Die Zeichenerkennung kann dann gemäß der Erfindung durchgeführt werden mit nur zwei Tabeüenableseoperationen an einem assoziativen Speicher.

In der Tat ergibt sich dann, wenn zwei Punkte (Y₁) und (y,) angenommen werden, für den Raum mit / = 1 bis d die Gleichung der Ebene, welche alle äquidistanten Punkte zu diesen beiden Punkten enthält, zu

i=l

• y₍) χι = 0. (la)

/=1

Es ist klar, daß die Koeffizienten w_t nur die Werte — 1, 0 oder +1 haben können, und x_t kann nur die Werte +1 und — 1 annehmen.

Um zu bestimmen, auf welcher Seite der Ebene (1) ein Punkt liegt, werden die Koordinaten des Punktes substituiert um das x,- auf der einen Seite von (1 a). Das ausgewertete Resultat kann positiv sein oder eine negative Zahl sein oder Null sein. Das Vorzeichen des ausgewerteten Resultats zeigt die Seite der Ebene an, auf welcher ein Punkt liegt.

Infolge der den Koeffizienten x_t und w,- auferlegten Beschränkungen schließt der Ansatz jedes Ausdrucks von (1 a)

(a) eine Multiplikation von +1 mit +1 oder

(b) eine Multiplikation von — 1 mit — 1 oder

(c) eine Multiplikation von +1 mit — 1 oder

(d) eine Multiplikation mit Null (w,- = 0) ein.

Die Operation (d) trägt zur Bestimmung des Vorzeichens des Ausdrucks, welcher durch Zählen der entsprechenden Anzahl von durchzuführenden Operationen (a) bis (c) in einfacher Weise gefunden werden kann, nichts bei. Wenn (a) oder (b) des öfteren erfolgt, ist das Vorzeichen positiv, wenn (c) des öfteren erfolgt, dann ist das Vorzeichen negativ.

Für diese Bestimmung in der Kannphase kann eine Modifikation eines assoziativen Speichers verwendet werden, wie sie als Beispiel in der britischen Patentanmeldung 45 432/67 (die entsprechende deutsche Patentanmeldung vom 24. August 1968 ist als Offenlegungsschrift 1 774 741 am 4. November 1971 veröffentlicht worden) beschrieben ist.

Der Speicher ist derart eingerichtet, daß der Grad der Nichtübereinstimmung eines eingegebenen Ziffernsatzes mit dem Inhalt jedes der Register, die die für die Klassen repräsentativen Ziffernsätze enthalten und nachfolgend als Wortregister bezeichnet werden, dargestellt wird durch die Größe des Stromes (Differenzsignal) in einer Differenzanzeigeleitung, die jedem Wortregister zugeordnet ist.

Die Datenspeicherzellen, welche in den Wortregistern enthalten sind, können drei stabile Zustände annehmen, die mit 1,-1 und χ bezeichnet sind. Der .r-Zustand ist derart, daß durch eine Zelle im x-7mstand kein Differenzsignai erzeugt wird.
Wenn eine Stelle eines eingegebenen Ziffernsatzes (Suchargument) den Wert 1 hat, dann wird ein 1-Abfragesignal der betreffenden Stelle aller Wortregister des Speichers zugeführt. Wenn eine Stelle des Sucharguments den Wert — 1 hat, dann wird ein — 1-Abfragesignal dieser Stelle aller Wortregister des Speichers zugeführt.

Gemäß einem Ausführungsbeispiel der Erfindung besteht jedes Wortregister aus zwei getrennten Registern. In einem ersten Register werden die wahren Werte von w_h d. h. die Komponenten eines Musterzeichens, und in einem zweiten Register die Komplemente von W( gespeichert, wobei definiert ist, daß das Komplement von 0 gleich 0 ist, das Komplement von 1 gleich — 1 ist und das Komplement von — 1 gleich 1 ist. Wenn eine Nichtübereinstimmung zwischen einer Stelle X₁ des Sucharguments und dem Inhalt der Speicherzelle w,- bzw. ϊν,· einer entsprechenden Stelle eines Wortregisters auftritt, dann wird ein Strom bestimmter Größe (Einheitsstrom) von der Speicherzelle zur Differenzanzeigeleitung geleitet. Die Größe des Stromes auf einer solchen Differenzanzeigeleitung ist deshalb direkt proportional dem Grad der Nichtübereinstimmung zwischen einem Suchargument und den Inhalten der Zellen des betreffenden Wortregisters. Unter diesen Umständen wird eine Nichtübereinstimmungsoperation zwischen einem Zahlensatz (Xj), wobei das x_t die Werte 1 oder — 1 haben kann, und dem zweiten Register, welches die wahren Werte von w,- eines Musterzahlensatzes enthält, ein Anwachsen des Stromes im ersten Register-Fehlanpaßleiter geben, welcher die Anzahl von Operationen repräsentiert, die oben mit (c) bezeichnet sind. Damit ist die Auswertung der linken Seite der Gleichung (la) durchgeführt.

Eine Anpaßoperation zwischen dem Zahlensatz (Xj) und dem Register des gleichen Musterzeichens, welches die Komplementwerte enthält, führt zu einem Zuwachs mit einem Strom auf dem zweiten Register-Anpaßleiter. Dieser repräsentiert die Anzahl der Operationen (a) oder (b) bei der Auswertung der linken Seite der Gleichung (1 a). Ein Vergleich der Ströme auf den Fehlanpaßleitern gibt dann das Vorzeichen des ausgewerteten Resultats. Wenn der Strom im ersten Wortregister-Fehlanpaßleiter größer ist, ist das Vorzeichen negativ. Wenn die Ströme gleich sind, isi das Resultat der Auswertung gleich Null. Damit is1 die Gleichung (la) erfüllt unter Einbeziehung dei Tatsache, daß der Punkt, welcher durch den Zahlensatz repräsentiert wird, auf der Ebene liegt.

Als Beispiel sei eine Ebene für den 9-Dimensionsraum angenommen, und ein Muster-Zahlensatz habe die Form

W₁ -W₂ -W₃ +w_s +w, -w₈ -w₀ = 0.

(2)

Das erste Register seines Wortregisters hat danr folgenden Inhalt:

+ 1 -1 -10+10 +1 -1 -1 . (2a)

und das zweite Register seines Wortregisters hat der Inhalt:

-I +1 +10-10 -1 +1 +1. (2b)

Ein eingegebener Zahlensatz (Suchargument) habe 23, 24 ... verglichen. Diejenigen Register, welche in-

die Werte x;. folge des Vergleichs keinen Strom an die Fehlanpaß-

\ _\ _\ γ -\ γ γ 1 _ι (2) leitung 26 abgeben, werden als ausgewählt bezeichnet. Ein Wähltrigger (in F i g. 2 nicht besonders dar-

Die Anzahl von Fehlanpassungen mit dem Inhalt 5 gestellt) bildet einen Teil der Anpaßlogik 27 und ist

des ersten Registers ist eins, da man die Beträge jedem solchen Register zugeordnet. Er wird einge-

0 · (— 1) und 0 ■ (+1) unberücksichtigt läßt. Dies gibt stellt für ausgewählte Register und markiert dadurch

eine Anzeige von einer Einereinheit des Stromes auf diese für eine folgende Zugriffsoperation. Die Felder,

dem ersten Register-Fehlanpaßleiter. Die Anzahl der welche verglichen werden, sind abhängig von der Ein-

Fehlanpassungen mit dem Inhalt des zweiten Regi- io stellung des Maskenregisters 22, welches durch nicht

sters ist sechs. Dies gibt eine Anzeige von sechs Ein- besonders dargestellte konventionelle Mittel selektiv

heiten des Stromes auf dem zweiten Register-Fehl- einstellbar ist, um irgendeine Stelle des Registers 21

anpaßleiter. Der Punkt im 9-Dimensionsraum, wel- zu den Wortregistern zu maskieren. Jedes Wortregi-

cher durch den Zahlensatz (3) repräsentiert ist, be- ster des assoziativen Speichers enthält Speicherzellen

findet sich daher auf der positiven Seite der Ebene (2). 15 41 (Fig. 4), jede zwei stabile Schaltungen enthaltend.

Zur Prüfung ergibt die Substituierung des Zahlen- so daß vier stabile Zustände möglich sind, von denen

satzes (3) mit der linken Seite der Gleichung (2) bzw. nur drei bei der vorliegenden Anwendung gebraucht

(2 a): werden. Die drei stabilen Zustände sind: binäre posi-

I +1 +j Λ-ΐ _i_i — 1 -fi tive 1, Doppel-Emitter-Transistor 42 leitend; binäre

was Dositiv ist ' ^{20 ne}g^at'^ve 1' Doppel-Emitter-Transistor 43 leitend; und

Α-Zustand, kein Doppel-Emitter-Transistor leitend.

Hat man bestimmt, auf welcher Seite jeder Ebene Die Bitleitungen 44 und 45 sind an Emitter der ent-

ein Punkt liegt, dann kann der Raumteil des Raumes, sprechenden Transistoren 42 bzw. 43 angeschlossen

in "velchem der Punkt liegt, leicht durch eine einzelne und werden beide zur Datenübertragung in die Spei-

Operation gefunden werden. Es ist klar, daß durch 25 cherzelle und aus der Speicherzelle und für deren

Auslisten, auf welcher Seite von jeder Ebene ein Abfragezustand verwendet.

Raumteil gelegen ist, alle Raumteile einheitlich spezi- Wenn eine Speicherzelle durch entsprechende Bits

fiziert werden. eines Sucharguments abgefragt wird, dann sind auf

Dieser Fall ist in F i g. 1 für einen Raum mit zwei den Bitleitungen Spannungen vorhanden, welche Dimensionen dargestellt, in welchem die Ebenen die 30 einen Steuerstrom auf der Fehlanpaßleitung 26 erzeu-Geraden α bis d sind und wobei die Raumteile Flä- gen, wenn die Speicherzelle kein dem Suchargumentchenbereiche sind. Jede Ebene teilt den Raum in zwei Bit entsprechendes Bit enthält. Wenn daher das Ab-Halbräume, welche auf der positiven bzw. auf der fragebit eie binäre 1 ist, dann wird eine niedrigere negativen Seite der Geraden liegen. Spannung auf der Bitleitung 44 und eine höhere Span-Wenn ein Raumteil im positiven Halbraum liegt, 35 nung auf der Bitleitung 45 gebildet. Sofern auch die ist er mit 1 bezeichnet. Wenn er im negativen Raum- Speicherzelle im 1-Zustand ist, dann fließt im Tranhälftenteil liegt, ist er mit 0 bezeichnet. Die Punkte sistor 42 Strom, und die niedrigere Spannung auf der der Ebene sind der positiven Raumhälfte zugeordnet. Leitung 44 zieht diesen Gesamtstrom in die Leitung Die Raumteile sind in bezug auf alle Ebenen zu 44, so daß auf der Leitung 26 kein Strom erscheint, kennzeichnen, wodurch eine einheitliche Spezifizie- 4° Wenn die Speicherzelle im -1-Zustand ist, dann rung jedes Raumteiles entsteht. fließt der Strom im Transistor 43, und die höhere

In der Fig. 1 ist der Raumteil ABDE in der Rei- Spannung auf der Leitung45 steuert den Gesamt-

henfolge α bis d der Ebenen durch den Bezeichnungs- strom zur Fehlanpaßleitung 26. Wenn die Zelle im

satz(l, — 1, — 1, 1), der Raumteil SCD durch den .v-Znstand ist, ist keiner der Transistoren 42 und 43

Bezeichnungssatz (1, 1, —1, 1) spezifiziert. Es folgt 45 im leitenden Zustand, und eine Fehlanpassung tritt

daraus, daß durch Vergleich der Resultate des ersten nicht auf.

Arbeitsganges, welcher ergab, auf welcher Seite von Da die Speicherzellen 41 in ihrer Konstruktion

jeder Ebene ein Punkt liegt, nunmehr gefunden wer- identisch sind, ist der Betrag des Stromes, der in

den kann, zu welcher Klasse der Zahlensatz, welcher jedem Transistor 42 bzw. 43 fließt, derselbe. Es folgt

den Punkt repräsentiert, gehört. Dieser Vergleich 50 daraus, daß der Strom auf der Leitung 26 in seiner

kann von einem assoziativen Speicher in einem einzi- Stärke ein Maß ist für die Anzahl jener Zellen, bei

gen Anpaßoperationsgang durchgeführt werden. denen eine Fehlanpassung vorlag.

Nachstehend sei jetzt der assoziative Speicher näher F i g. 3 zeigt den Teil der Anpaßlogik 27, welcher

beschrieben, der zur Durchführung des vorstehend einem Paar Register 23 und 24 zugeordnet ist. Diese

beschriebenen Verfahrens vorteilhaft geeignet ist. Der 55 Register sind paarweise gruppiert, um eine entspre-

in Fig. 2 gezeigte assoziative Speicher enthält ein chende Speicherung der wahren und der komplemen-

Eingang-Ausgang-Register 21, ein Maskenregister 22 tären Werte der Koeffizienten einer entsprechenden

und eine Anzahl von Wortspeicherregistern 23, 24, Ebene zu haben. Jedes Paar ist mit einer Logik aus-

25 ... Jedes Wortregister hat eine Fehlpaßleitung 26, gerüstet, welche einen Ausgangswert zur Sammellei-

welche einen Eingang zur Anpaßlogik 27 liefert. 60 tung 29 liefert.

Eine Sammelleitung 28 enthält eine Anzahl von Die Fehlanpaßleitung 26 des Registers 23 ist mit

Leitern, über die eine Datenübertragung von oder dem Eingang der beiden Und-Schaltungen 31 und 32

zum Register 21 vorgesehen ist. Eine Ausgangssam- verbunden. In ähnlicher Weise ist die Fehlanpaßlei-

melleitung 29 von der Anpaßlogik 27 ist an die Sam- tung 26 des Registers 24 mit den Und-Schaltungen 33

melleitung 28 angeschlossen. 65 und 34 verbunden. Die anderen Eingänge zu den

Wie in einem konventionellen assoziativen Speicher Und-Schaltungen 31 und 34 werden durch die Lei-

werden die Inhalte gewisser Felder des Registers 21 tungen gebildet, welche durch ein Signal OP 2 erregt

mit den Inhalten derselben Felder der Wortregister werden. Die anderen Eingänge zu den Und-Schaltun-

gen 32 und 33 sind Leitungen, welche durch ein Signal OPl erregt werden.

Die Und-Schaltungen 32 und 33 sind spezielle logische Und-Schaltungen. Wenn sie durch das OPl-Signal aktiviert werden, dann liefern sie Ausgangswerte, welche analog zu dem Betrag der Ströme auf den entsprechenden Fehlanpaßleitungen 26 sind, mit denen sie verbunden sind.

Die Ausgangssignale der Und-Schaltungen 31 und 34 werden nach der Inversion durch die Inverter 35 und 37 auf Eingänge der Auswahl-Trigger 36 bzw. 38 gegeben. Die Ausgangssignale der Und-Schaltungen

32 und 33 werden auf Eingänge eines Differentialverstärkers 39 übertragen. Der Ausgang des Verstärkers 39 ist an einen Trigger 40 angeschlossen, dessen Ausgang mit der Sammelleitung 29 verbunden ist. Wenn bei Signaiabgabe durch die Und-Schaltungen 32 und

33 der Strom auf der Fehlanpaßleitung des Registers 23 größer ist als der Strom auf der Fehlanpaßleitung des Registers 24, dann wird der Ausgang des Differentialverstärkers 39 erregt und der Trigger 40 geschaltet. Der Differentialverstärker 39 ist derart vorgespannt, daß im Falle gleicher Fehlanpaßströme der Trigger 40 zurückgestellt wird. Dies ist äquivalent der Zuordnung des innerhalb der trennenden Ebene liegenden Punktes zum positiven Halbraum.

Um eine unnötige Komplizierung der Beschreibung zu vermeiden, sind in den Zeichnungen die konventionellen Taktgeberschaltungen und die Vorrichtungen zur Erzeugung der Steuersignale, z. B. der Signale OPl und OP 2, weggelassen. Derartige untergeordnete Schaltungen sind an sich bekannt.

Nachstehend sei die Durchführung des Verfahrens nach der Erfindung mit der Vorrichtung nach den F i g. 2 bis 4 an Hand der F i g. 5 näher erläutert. In F i g. 5 bezeichnet 51 den Inhalt der Wortregister des assoziativen Speichers nach Fig. 2. Mit 52 ist der Inhalt des Eingabe-Ausgabe-Registers 21 bei der Vergleichsoperation (Operation 1) bezeichnet. 53 ist eine Darstellung des Inhaltes des Registers 21 während der Anpaß-Operation (Operation 2). Diese Wortregister enthalten zwei Datentabellen. Die Werte der Tabelle 1 entsprechen den Speicherwerten der Paare von benachbarten Wortregistern für die Koeffizienten h·,· der entsprechenden Ebenen in echter Form und in komplementärer Form.

Es sei daran erinnert, daß jeder Koeffizient w_t die Werte 1,0 oder —1 annehmen kann, und daß die Zellen des Speichers die mit 1, —1 und χ bezeichneten stabilen Zustände besitzen können. Der Wert 1 ist in der Tabelle 1 durch den Zustand 1 dargestellt. Der Wert 0 ist durch den Zustand χ und der Wert — 1 durch den Zustand — 1 wiedergegeben. Die Tabelle 2 enthält drei Felder; eines enthält einen Tabellenerkennungsschlüssel, eines einen Raumteil-Identifizierer und eines den Namen des Raumteiles, welcher durch den Identifizierer repräsentiert wird.

Der Raumteil-Identinzierer enthält eine Reihe von binären Zahlen, welche die Position des Raumteiles im Raum relativ zu den Ebenen wiedergeben. Wenn ein Raumteil auf der positiven (negativen) Seite einer gegebenen Ebene liegt, dann besetzt eine binäre 1 (— 1) die betreffende Stelle des Identifizierers.

Das dritte Feld in der Tabelle 2 enthält den Namen des betreffenden Raumteiles. Im Bedarfsfalle ist eine beliebige Zuordnung möglich. Verschiedene Identifizierer können denselben Namen haben, entweder wegen der Anordnungen des Bedieners, der z. B. die Unterscheidung zwischen verschiedenen Formen für dasselbe Zeichen unbeachtet lassen kann, oder wegen des Lernprozesses, bei dem sich dieselbe Zeichenklasse in der Darstellung durch Punkte in verschiedenen Raumteilen ergeben hat.

Während der Operation 1 ist das Register 21 nach dem Schlüssel der Tabelle 1 mit dem Zahlensatz geladen, welcher das zu erkennende Zeichen (Suchargument) repräsentiert. Ein Fehlanpaß-Signal der

ίο Operation 1 wird den Und-Schaltungen 32, 33 (F i g. 3) der Wortregisterpaare aufgeprägt, welche die Tabelle 1 enthalten. Wie bereits erklärt, wird das Ausmaß der Fehlanpassung zwischen dem Inhalt des Eingang-Ausgang-Registers und dem Inhalt der Wortregister durch die Größe der Ströme wiedergegeben, welche in den Register-Fehlanpaßleitungen fließen. Die Fehlanpassungen in den Registerpaaren werden verglichen in den Differentialverstärkern 39. Wenn bei einem Wortregister die Fehlanpassung im oberen

ao Register 23 (F i g. 3) die größere ist, dann wird der Trigger 40 geschaltet, im anderen Falle bleibt er, wie bereits erklärt, im zurückgestellten Zustand. Die Zustände der Trigger werden zu Beginn der Operation 2 über die Sammelleitung 29 auf das Eingang-Ausgang-Register übertragen und zeigen an, auf welcher Seite jeder Ebene der Punkt liegt, welcher durch den Zahlensatz dargestellt wird.

Zu Beginn der Operation 2 ist das Eingang-Ausgang-Register 21 auf den Schlüssel der Tabelle 2 eingestellt und nimmt mit Hilfe der Sammelleitung 29 die Zustandssignale der Trigger 40 auf. Die Ausgangssignale der Wortregister während der Operation 2 werden den betreffenden Und-Schaltungen 31 und 34 des assoziativen Speichers aufgeprägt. Für dasjenige der Tabelle 2 zugeordnete Wortregister, das keinen Fehlanpaßstrom liefert, wird der Trigger 36 (oder 38) geschaltet. Um dieses Register auszuwählen und um das Namensfeld jenes Registers auf das Eingang-Ausgang-Register zu übertragen, können konventionelle Schaltungen verwendet werden.

Das Ergebnis beider Operationen 1 und 2 wird durch einen benannten Zahlensatz repräsentiert.

Bei der Beschreibung der Operationen ist nichts darüber angegeben worden, wie die Schaltungen 32 und 33, denen das OP 1-Signal zuzuführen ist, ausgewählt werden. Eine Methode besteht darin, einen dritten Eingang zu diesen Schaltungen einzuschließen, welcher in Übereinstimmung mit der Einstellung eines manuell kontrollierbaren Schalters erregt wird. Am Ende des Lernvorganges wird die Größe der Tabelle 1 dem Bediener beispielsweise durch Ausdrukken der Inhalte des Speichers bekanntgemacht. Dei Bediener kann dann eine Schaltereinstellung auswählen, welche nicht zur Erregung derjenigen der dritter Eingänge der Schaltungen führt, die der Tabelle 2 zugeordnet sind.

Ein Alternatiwerfahren für die Durchführung de: Operation 1 besteht in der Schaffung eines rever siblen Zählers für jedes Paar der Wortregister 23, 24 Die Register der Tabelle 1, welche die echten Wert von η¹, enthalten, werden von den Registern, welchi die Komplementwerte von W₁ enthalten. Hurch eii unterschiedliches Bit in einer Stelle des Schlüssels de Tabelle 1 unterscheidbar gemacht.

Die Register, welche die Komplementwerte enl halten, werden zuerst ausgewählt, und die Koeffizieri ten Wj werden nacheinander mit den entsprechende Gliedern des abzufragenden Zahlensat7cs verglichet

Jedesmal, wenn eine Fehlanpassung auftritt, wird der Zähler, welcher diesem Register zugeordnet ist, um Eins weitergeschaltet. Am Ende dieses Teiles der Operation enthalten die Zähler die Anzahl der Operationen (a) oder (b) zur Durchführung der Bewertung des Ausdrucks (1 a). Die Operation wird mit den Registern wiederholt, welche die echten Werte w,· der Koeffizienten enthalten. Am Ende dieses Teils der Operation, wenn das Vorzeichen der vom Zähler gehaltenen Zahl positiv (negativ) ist, wird das Vorzeichen des ausgewerteten Ausdrucks (1 a) positiv (negativ). Die Polarität des Zählerbetrages wird dazu verwendet, um einen Eingangswert für die Operation 2 zu liefern, und zwar in der Weise, wie es an Hand der F i g. 2 bis 5 bei der relativen Polarität der Fehlanpaßströme bereits beschrieben wurde.

An Stelle der Verwendung eines einzelnen assoziativen Speichers können auch zwei Speicher verwendet werden, und zwar der erste mit der Tabelle 1 und der zweite mit der Tabelle 2. Das Ergebnis der Operation 1 wird auf den zweiten Speicher übertragen, während zugleich der Zahlensatz, welcher ein ίο weiteres Zeichen (Suchargument) repräsentiert, auf das Eingang-Ausgang-Register des ersten Speichers gegeben wird. Auf diese Weise wird die Zeit zur Identifizierung einer Folge von Zeichen herabgesetzt.

Hierzu 1 Blatt Zeichnungen

Claims

Patentansprüche:

1. Verfahren zur maschinellen Zeichenerkennung, bei dem die Zeichen durch einen geordneten Zahlensatz von d Binärziffern darstellbar sind, unter Verwendung des Brawerman-Algorithmus der trennenden Ebene zur Klassifizierung der als Suchargumente angebotenen Zahlensätze, dadurch gekennzeichnet, daß

c) jedes Wortregister bei Überwiegen der übereinstimmenden Bits ein Ausgangssignal der einen Art abgibt, bei Nichtüberwiegen hingegen ein Ausgangssignal der anderen Art abgibt (Kannphase, Operation 1), und daß

2. Verfahren nach Anspruch 1, dadurch gekennzeichnet, daß jeaes der Wortregister aus zwei Registern gebildet wird, wobei das erste Register die wahren Werte der betreffenden trennenden Ebene aufnimmt und das zweite Register die inversen Werte aufnimmt, und daß dasjenige der beiden Register, das die bessere Übereinstimmung mit dem Suchargument besitzt, das Ausgangssignal des Wortregisters liefert.

3. Anordnung zur Durchführung des Verfahrens nach den Ansprüchen 1 oder 2, dadurch gekennzeichnet, daß beide assoziativen Speicher von einem einzigen Speicher gebildet werden, der in zwei Abschnitte aufgeteilt ist, die vom gleichen Eingangs-Ausgangs-Register nacheinander angesteuert werden.

4. Anordnung zur Durchführung des Verfahrens nach den Ansprüchen 1 oder 2 oder Anordnung nach Anspruch 3, dadurch gekennzeichnet, daß die Ubereinstimmungsanzeigeleitungen des Registerpaares eines Wortregisters die Eingänge eines Differentialverstärkers bilden, welcher dem Paar zugeordnet ist und der das betreffende Bit für den dem weiteren assoziativen Speicher zuzuleitenden Datensatz liefert.