DE19746077A1

DE19746077A1 - Sichere Identifikation mit Vorauswahl und Rückweisungsklasse

Info

Publication number: DE19746077A1
Application number: DE19746077A
Authority: DE
Inventors: Peter Plankensteiner; Ulrich Dieckmann
Original assignee: Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Current assignee: Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Priority date: 1997-03-10
Filing date: 1997-10-17
Publication date: 1998-09-17

Description

Die Klassifikation von Datensätzen (z. B. Bilddaten, Sprachsignal) ist Grundlage einer "intelligenten" Computerleistung. Die Anwendungsgebiete sind zahlreich, z. B. industrielle Fertigung, biometrische Personenerkennung, medizinische Bildverarbeitung, etc.

Der Stand der Technik umfaßt zahlreiche Klassifikatoren, z. B.

- Statistische Klassifikatoren (Normalverteilungsklass.)
- Neuronale Netze
- Synergetische Algorithmen
- Nächster-Nachbar-Klassifikator

Standarliteratur in der Mustererkennung ist Niemann, "Klassifikation von Mustern", Springer Verlag, 1983.

Die Erfindung geht von der Aufgabe aus, die Güte der Klassifikation weiter zu verbessern, sei es durch neue Klassifikatoren oder durch neue Prinzipielle Ansätze des Klassifikationsansatzes. Gelöst wird das mit Anspruch 1 oder 10.

Einige Definitionen sollen das Verständnis der in den Ansprüchen gewählten technischen Begriffe erleichtern:
Identifikation (oder Klassifikation) von n Klassen:
Nachdem aus einer vorgegebenen repräsentativen Stichprobe in einem sog. Einlernprozeß n Klassen gebildet werden, heißt die Einordnung eines (noch) unbekannten Musters in eine bestimmte Klasse <Identifikation<. Dabei kann durch Einführen einer Rückweisungsschwelle das Muster als unbekannt abgewiesen werden. Wenn es der Rückweisungsklasse näher ist, als den eingelernten oder bekannten Zielklassen der Identifikation, wird es dorthin klassifiziert. Rückweisungsschwelle und -klasse können alternativ und kumulativ vorgesehen werden. Ein "zurückgewiesenes Muster" (Objekt oder Person) liegt vor, wenn alle jeweils vorgesehenen "Rückweisungen" (Schwelle oder/und Klasse) angesprochen haben.

Eine erfolgreiche "Identifikation" setzt voraus, daß aus dem Testmuster hinreichende Information für eine eindeutige Zuordnung in eine der n Klassen des Einlernprozesses gewonnen werden kann.

Verifikation:
Durch ein A-Priori-Wissen über die Soll-Klasse wird eine Identifikation mit n=1 durchgeführt, d. h. es kann nach Art einer Binär-Entscheidung (nur) zu einer Akzeptanz oder Rückweisung des Testmusters kommen.

FAR, FRR, Gütefunktion:
Die FAR (false acception rate) gibt die Quote von falsch erkannten Mustern wieder; die FRR (false rejection rate) die Quote von falsch zurückgewiesenen Mustern (Mustern im Test, kurz: "Testmuster"). Ein Gütefunktion G=G(FAR,FRR) gibt die Güte eines Klassifikationsverfahrens an, z. B. G=1-FAR-FRR. Je genauer die Klassifikation, desto näher ist G an "Eins". Eine Gewichtung der FAR und FRR kann Einfluß nehmen, wenn der eine oder andere der Parameter FAR, FRR betont werden soll, beispielsweise durch eine Mittelwertbildung mit Gewichtungsfaktoren g₁,g₂, z. B. (g₁.FAR+g₂.FRR)/(g₁+g₂). In der praktischen Anwendung wird eher FRR von größerer Bedeutung sein, so daß z. B. g₂=2 und g₁=1 gewählt werden können, um die Güte G "meßbar" zu machen und Identifikationen zu vergleichen.

Das erfindungsgemäße Verfahren dient der Erhöhung der Klassifikationsgüte und umfaßt zwei Schritte:

(a) Im ersten Schritt erfolgt eine <Identifikation< von n Klassen durch eine doppelte Ausnutzung der gegebenen Informationen besser gelöst. Dazu wird der Informationsgehalt des Testmusters in einen notwendigen und einen hinreichenden Teil für die Zugehörigkeit zu einer Klasse eingeteilt. Durch den notwendigen Teil kann eine Vorauswahl (Vorklassifizierung) der in Betracht kommenden Klassen vorgenommen werden. Es wird hierbei keine eindeutige (vielmehr eine unscharfe) Klassifikation geliefert, jedoch die Zahl der tatsächlich für das Muster in Frage kommenden Klassen stark eingeschränkt. Durch diesen Schritt kann die Identifikation "besser" (im Sinne der obigen Gütefunktion G) gelöst werden.
(b) Im zweiten Schritt wird die Klassifikationsgüte durch eine (zusätzliche) Rückweisungsklasse erhöht. Diese Klasse dient zur Unterstützung der Rückweisung, d. h. zusätzlich zu Rückweisungen, die z. B. durch Schwellenentscheidungen gewonnen wurden, ist eine spezielle Rückweisungsklasse <gleichberechtigt< zu den Identifikationsklassen (die konkreten Zielklassen), in die klassifiziert werden kann.
Mit der Rückweisungsklasse wird ein A-Priori-Wissen über die Objekte/Personen, die abgewiesen werden sollen, dahingehend berücksichtigt, daß z. B. ein repräsentativer Querschnitt der abzuweisenden Objekte/Personen (allgemein: Muster) in diese Rückweisungsklasse eingelernt wird und dem Klassifikator damit bekannt ist.

Die Zusammensetzung der Rückweisungsklasse ist "erfolgsorientiert", d. h. das Klassifikationsproblem muß durch die Nutzung der Rückweisungsklasse besser (im Sinne der Gütefunktion) gelöst werden. Sind abzuweisende Muster z. B. bekannt, so können sie alle in die Rückweisungsklasse eingelernt werden. In der Regel ist aber nur ein bestimmter Teil davon für eine bessere Rückweisungsklasse notwendig, ein anderer Teil kann z. B. aus einer völlig problemfremden Datenbank stammen.

Als Methode zur Auswahl der Rückweisungsmuster kommen Auswahlverfahren in Betracht, z. B. Erproben aller Möglichkeiten und Verwendung derjenigen Datensätze (von Mustern), die zu dem besten Ergebnis führen.

Die Erfindung(en) werden nachfolgend anhand mehrerer Ausführungsbeispiele erläutert und ergänzt.

Fig. 1 ist ein graphisches Beispiel einer Klassifikation mit einer Rückweisungsklasse.

Eine konkrete Lern- und Klassifikationsvorgang erfolgt in folgenden Schritten:
Bereitstellung der digitalen Datensätze eines Klassifikationsproblems.
Bestimmung der Identifikationsklassen K1, . . ., Kn durch eine repräsentative Stichprobe der jeweiligen Klasse (übliches Lernverfahren).
Für jede Teilmenge von {K1, . . ., Kn} wird eine Rückweisungsklasse bestimmt, die die Gesamtheit aller möglichen Testmuster von dieser Teilmenge abgrenzt. Es können dazu z. B. die Datensätze der anderen Klassen und/oder potentielle Rückweisungskandidaten verwendet werden.
Berechnung des notwendigen Informationsgehalts. Das können durchaus verschiedene Merkmale sein, die allerdings - damit es sinnvoll ist - zu einer Einschränkung in der Klassenauswahl 20 verwendet werden können.
Durch Berücksichtigung der notwendigen Bedingung wird die Identifikation von n Klassen auf eine Klassifikation 30 geringeren Grades m (im besten Fall m=1) zurückgeführt.
Der zweite Schritt beinhaltet die Identifikation/Verifikation 40, die zusätzlich mit der Rückweisungsklasse durchgeführt wird.
Erfolgt die Zuordnung in eine der m Klassen K1 . . . Km, gilt das Objekt bzw. die Person als entsprechend erkannt, erfolgt die Zuordnung in die Rückweisungsklasse 10 bzw. ist eine Rückweisungsschwelle überschritten, wird das Objekt bzw. die Person abgewiesen.

Ein sehr treffendes Beispiel des ersten Schrittes läßt sich anhand des Unterschieds von Spracherkennung und Sprecher-Erkennung erläutern:

Spracherkennung:
Ein gesprochenes Wort wird - möglichst unabhängig von dem spezifischen Sprecher - mit Methoden der Signalverarbeitung erkannt.

Sprecher-Erkennung:
Die Aufnahme eines Sprachsignals wird - möglichst unabhängig vom Inhalt - einem Sprecher zugeordnet.

Das angestrebte Ziel soll eine zuverlässige Sprecher-Erkennung sein, die z. B. zur Zutritts- oder Zugangskontrolle dient.

Beispiel 1

Die Sprecher müssen für die Identifikation ihren Nachnamen aussprechen. Eine notwendige Voraussetzung, daß z. B. Herr Maier als derjenige auch erkannt wird, liegt darin, daß der Name "Maier" ausgesprochen wurde. Durch eine Spracherkennung kommen nur die Klassen in Betracht, die phonetisch wie "Maier" klingen. In diesem Beispiel ist keine Reduzierung auf n=1 vorgesehen, da z. B. auch Frau Maier oder Hr. Meyer, die auch erkannt werden sollen, in die (klangliche) Unterauswahl "Maier" fallen und klassifikationsrechtlich verwechselbar sind. Erst die nachfolgende Sprecher-Erkennung ergibt ein eindeutige Zuordnung. Das Beispiel 1 umschreibt also bei der Spracherkennung einen notwendigen Informationsbereich, um alle Nicht-"Maier", die nicht klanglich wie "Maier" klingen, vorab auszusondern.

Im Beispiel 2 müssen die Sprecher für die Identifikation ein personenspezifisches eindeutiges Codewort nennen, z. B. eine Zahlenfolge. Die vorgeschaltete Spracherkennung ergab eine Reduzierung des Identifikationsproblems auf n=1, d. h. es ist jetzt nur noch nötig, eine Verifikation durchzuführen, basierend auf einem hinreichenden Informationsbereich, bei zuvor schon ausgewertetem notwendigen Informationsbereich.

Obwohl im Stand der Technik Sprach- besser als Sprecher-Erkennungen gelöst sind, stößt eine reine Sprecher-Erkennung wegen beschränkter Rechenkapazität schnell an ihre Grenzen, da ein Lernmuster mit jeder Klasse verglichen werden muß (Beispiel: Bankkunden). Sowohl die FAR als auch die FRR sinken aber bei kleinerer Klassenanzahl. Z.B. wird bei einem System "Sesam" gemäß DE 44 13 788.5 (oder WO 95/25316) im reinen Identifikationsfall bei 66 Personen eine Gütefunktion (G_sesam=1-FRR+FAR) von unter 80% im akustischen Bereich erzielt, während eine Verifikation die Gütefunktion auf 97,2% erhöht.

Ein Beispiel 3 soll mit Einbindung einer Rückweisungsklasse erläutert werden. Bei der biometrischen Personenerkennung hat jede berechtigte Person eine Identifikationsklasse. Die Rückweisungsklasse wird über eine Auswahl eines großen Pools von Personendatensätzen gebildet. Neben den Identifikationsklassen stellt die Rückweisungsklasse den "Rest der Welt" dar, bildlich oft mit "im übrigen" umschrieben. Dadurch werden in der Regel unberechtigte Personen, die fälschlicherweise nicht abgewiesen wurden, in die Rückweisungsklasse eingeordnet und dadurch korrekt abgewiesen.

Bei z. B. 10 Aufnahmen (Muster) einer zu verifizierenden Person und einem Pool von 200 Aufnahmen (Muster) von einer repräsentativen Stichprobe der Bevölkerung werden die biometrischen Daten Mimik, Gesichtsbild und Akustik als Merkmale herangezogen. Weiterhin steht eine Teststichprobe von 20 Aufnahmen der zu verifizierenden Person und 100 Aufnahmen von unbekannten Personen zur Verfügung. In die Rückweisungsklasse werden die Aufnahmen aus "dem Pool" eingelernt, die zu einem optimalen Ergebnis auf der Teststichprobe führen, d. h. die Gütefunktion G wird maximiert. Es ist klar, daß bei diesem Zahlenbeispiel schnelle Auswahlverfahren verwendet werden, da das Erproben 2²⁰⁰ Testläufe erfordert.

Nicht berechtigte Personen konnten bislang nur über eine Rückweisungsschwelle abgewiesen werden; in Abhängigkeit dieser Schwelle ergibt sich aber eine hohe FAR oder FRR und damit ein kleiner Gütewert G.

Die Erfindung geht von der Vorgabe aus, die Güte einer Klassifikation in einer Identifikation weiter zu verbessern, sei es durch neue Klassifikatoren oder durch neue prinzipielle Ansätze des Klassifikationsansatzes. Vorgeschlagen wird dazu ein Verfahren zum Klassifizieren mit zwei Verfahrensschritten, bei dem der Informationsgehalt eines Musters (Objekt oder Person) in zwei Informationsbereichen ausgewertet wird, von denen der erste Bereich notwendige Informationen, der zweite Bereich hinreichende Informationen beinhaltet. Durch den notwendigen Informationsbereich wird eine noch unscharfe und mehrere, aber eine stark begrenzte Anzahl von Klassen betreffende Vorauswahl getroffen. Es erfolgt eine Identifikation mit dem hinreichenden Informationsbereich nach der Vorauswahl, um die noch unscharfe Vorauswahl hinsichtlich einer tatsächlichen Zielklasse zu konkretisieren.

Claims

1. Verfahren zum Klassifizieren von Mustern (Objekte oder Personen), bei dem der Informationsgehalt eines Musters in zwei Informationsbereiche eingeteilt wird, von denen der erste Bereich notwendige Informationen und der zweite Bereich hinreichende Informationen beinhaltet, umfassend zwei Verfahrensschritte:

(a) durch den notwendigen Informationsbereich wird eine noch unscharfe und mehrere, aber eine stark begrenzte Anzahl von Klassen betreffende Vorauswahl getroffen;
(b) nach der Vorauswahl erfolgt eine Identifikation mit dem hinreichenden Informationsbereich, um die noch unscharfe Vorauswahl hinsichtlich einer tatsächlichen Zielklasse zu konkretisieren.

2. Verfahren nach Anspruch 1, bei dem eine Rückweisungsklasse (10) als mögliche Klasse zur Vorab-Zuordnung solcher Muster bereitsteht, die aufgrund von in der Rückweisungsklasse eingelerntem A-Priori-Wissen mit zumindest guter Wahrscheinlichkeit zurückzuweisen sind.

3. Verfahren nach einem der vorigen Ansprüche, bei dem das/ein A-Priori-Wissen in der/einer Rückweisungsklasse (10) vor dem Beginn des zweiten Verfahrensschrittes eingelernt wird, orientiert an einem repräsentativen Querschnitt der nicht in die Klassen der positiv klassierenden Identifikation einzuordnenden Muster, insbesondere aufgrund von sicher abzuweisenden Mustern.

4. Verfahren nach einem der vorigen Ansprüche, bei dem die Rückweisungsklasse (10) jeweils zu den anderen Klassen des jeweiligen Verfahrensschrittes, insbesondere den konkreten Zielklassen des zweiten Verfahrensschrittes, gleichberechtigt ist.

5. Verfahren nach einem der obigen Ansprüche, bei dem für jede Teilmenge der Klassen der Identifikation eine (individuelle) Rückweisungsklasse erlernt oder a-priori bestimmt wird.

6. Verfahren nach Anspruch 5, bei dem jeweils eine Teilmenge der unscharfe Bereich der Vorauswahl (20) ist, betreffend die starke Einschränkung der möglichen Klassen für die (folgende) Identifikation (40) in konkrete Zielklassen als Endklassifikation.

7. Verfahren nach einem obiger Ansprüche, bei dem mit der notwendigen Information das Klassifizierungsproblem auf ein (noch nötiges) Erkennungsproblem deutlich geringeren Grades reduziert wird.

8. Verfahren nach Anspruch 7, bei dem die Identifikation eine Verifikation des unscharfen Vorauswahl-Bereichs ist, wobei (nur) der hinreichende Informationsgehalt (Informationsbereich) ausgewertet wird.

9. Verfahren nach einem obiger Ansprüche, bei dem eine erste Zahl von Mustern vorliegt, die in begrenztem Umfang in die Rückweisungsklasse eingelernt werden, daß sich eine andere Musterzahl ergibt, um ein optimiertes Ergebnis der von der ersten Musterzahl abweichenden Musterzahl zu erhalten, wobei sich in der ersten und anderen Musterzahl auch eine geringe Anzahl von nicht der Rückweisung zuzuordnenden Mustern befindet.

10. Vorrichtung mit einem Rechenwerk und einer Eingabeeinheit und einer Ausgabeeinheit, bei der das Rechenwerk so programmiert ist, um das Verfahren nach einem der obigen Verfahrensansprüche auszuführen.

11. Vorrichtung nach Anspruch 10, bei der eine Informa tions-Splittingeinrichtung (50) vorgesehen ist, die eine Trennung notwendiger und hinreichender Information vornimmt, um einen ersten Klassifikator (20) mit einem ersten Informationsbereich und einen Identifizierer (40) mit hinreichendem Informationsbereich zu versorgen, welche beiden Bereiche jeweils geringer sind, als die Gesamtinformation des gerade zu klassifizierenden Musters (60)

12. Vorrichtung nach Anspruch 10, bei der neben der zumindest einen konkreten Zielklasse (40) eine Rückweisungsklasse (10) als Speicherbereich definiert ist, die hierarchisch und funktionell den Zielklassen gleichwertig, aber vom Umfang her größer ist, um alle nicht in die mindestens eine Zielklasse aufzunehmenden Muster (60) aufzunehmen.