DE623914T1

DE623914T1 - Sprecherunabhängiges Erkennungssystem für isolierte Wörter unter Verwendung eines neuronalen Netzes.

Info

Publication number: DE623914T1
Application number: DE0623914T
Authority: DE
Inventors: Dario Albesano; Roberto Gemello; Franco Mana
Original assignee: CSELT Centro Studi e Laboratori Telecomunicazioni SpA
Current assignee: Telecom Italia SpA
Priority date: 1993-05-05
Filing date: 1994-05-04
Publication date: 1995-08-24
Also published as: IT1270919B; JPH06332497A; EP0623914A1; US5566270A; ITTO930309A0; DE69414752T2; JP2654917B2; DE69414752D1; EP0623914B1; CA2122575A1; ITTO930309A1; CA2122575C

Claims

LEDERER, KELLER & RIEDERER dr. &lgr;. van der wer™

Patentanwälte - European Patent Attorneys

DR. &Ggr;&Pgr;&Lgr;&Ngr;&Zgr; LEDERER

Dipi. Cbem. München

DR. GÜNTER KELLER

Dlpl.-Bioi. M iinchen

ANTON FREIHERR
RIEDERER v. PAAR

Dipl.-Ins Landshut

Lederer. Keller & Riederer. Postfach 2664. D-84010 Landshut

D-84010 Landshut

Europäische Patentanmeldung 94 106 987.4 Postfach 26 64

Publikationsnummer 0 623 914 (8-1028 Landshut. Freyung 615)

CSELT - Centro Studi e Laboratori Telefon (08 71)2 2170

Telecomunicazioni S.p.A. Telefax (08 71)2.2143

Turin / Italien

Patentansprüche

1. Erkennungssystem für sprecherunabhängige alleinstehende Wörter, bei dem das Sprachsignal digitalisiert und einer Spektralanalyse bei konstanten Zeitintervallen unter Anwendung der schnellen Fourier-Transformation unterworfen wird, das Analyseergebnis zum Erhalten von Cepstral-Parametern einer orthogonalen Transformation unterworfen wird und der Logarithmus der in jedem Zeitintervall enthaltenen Gesamtenergie berechnet wird, woraufhin die numerischen Ableitungen dieser Werte berechnet werden, wodurch man die charakteristischen Parameter des Sprachsignals für jedes Zeitintervall erhält, wobei die Wortenden durch die Energiehöhe des Signals festgestellt werden und das Wort von einem Erkenner (RNA) analysiert wird, in dem vollständige Wörter mit Markovmodell-Automaten der Art "von links nach rechts" mit Rekursion auf die Zustände modelliert werden, von denen jeder einem akustischen Teil des Worts entspricht, und die Erkennung durch eine dynamische Programmierung gemäß dem Viterbi-Algorithmus an allen Automaten zum Herausfinden des Automaten mit dem Pfad des Kostenminimums durchgeführt wird, der dem am Ausgang (PR) angezeigten erkannten Wort entspricht, wobei die Emissionsmöglichkeiten mit einem neuralen Netz mit Rückkopplung berechnet werden, das speziell trainiert wurde, und die Übergangswahrscheinlichkeiten in geeigne-

ter Weise abgeschätzt werden, und wobei das Trainingsverfahren dadurch gekennzeichnet ist, daß es die folgenden Operationen umfaßt:

Initialisierung:

a. Initialisierung des neuralen Netzes mit kleinen
zufälligen synaptischen Gewichtungen;

b. Erzeugung der ersten Abschnittbildung durch gleichförmige Segmentierung der Wörter des Trainingssatzes;

Iteration:
15

1) Initialisierung des Trainingssatzes mit allen segmentiert en Wörtern;
2) Zufallswahl eines nicht bereits erlernten Worts (ein Wort wird als erlernt angesehen, wenn der mittlere Fehler für dieses Wort ausreichend niedrig ist);
3) Fortschreiben von synaptischen Gewichtungen W₁- für das betrachtete Wort durch Anwenden eines korrelativen Trainings, wobei speziell das Eingangssignal des neuralen Netzes gemäß einem Fenster zur Veränderung gebracht wird, das von links nach rechts über das Wort gleitet, und für jedes Eingangsfenster ein geeigneter objektiver Vektor am Ausgang geliefert wird, der dadurch konstruiert wird, daß eine 1 auf das Neuron gesetzt wird, das dem Zustand entspricht, zu dem das Eingangsfenster gemäß der laufenden Abschnittbildung gehört, und 0 auf alle anderen Neuronen gesetzt wird;
4) Erneute Berechnung der Abschnittbildung für das betrachtete Wort unter Verwendung des insoweit trainierten neuralen Netzes, und Durchführung einer dynamischen Programmierung nur mit dem korrekten Modell;
5) Fortschreiben der laufenden Abschnittbildung S_t+1;
6) Falls es noch nicht untersuchte Wörter im Trainingssatz gibt, gehe zum Schritt 2);
7) Erneute Berechnung von Übergangswahrscheinlichkeiten der Automaten;
8) Sofern die Zahl der Iterationen am Trainingssatz größer ist als eine gegebene Maximalzahl NMAX, beendige, oder gehe im anderen Fall zum Schritt 1).

2. Erkennungssystem für sprecherunabhängige alleinstehende Wörter nach Anspruch 1, dadurch gekennzeichnet, daß das korrelative Training die folgenden Schritte umfaßt, die für jeden Abtastwert des Trainingssatzes wiederholt werden:

1) Betrachtung des Eingangswert-Vektors X und des Vektors T des gewünschten Werts (objektiver Vektor);

2) Positionieren der Eingangswerte auf die Eingangseinheiten;

3) Ausführen des Netzes durch Weiterleiten in Vorwärtsrichtung dieser Werte von Eingangseinheiten bis zu Ausgangseinheiten und Erhalten des Ausgangsvektors 0 gemäß den bekannten Formeln:

O₁ = Finet^ mit

net_i = &Sgr; w^ + e_jt F(x) =

j 1 + e"^x

wobei O₁ der Ausgang eines allgemeinen Neurons i und G₁ ein konstanter Wert, der typisch für das Neuron ist, ist;

4) Berechnen des Fehlers E, der als quadratischer Fehler zwischen dem Ausgangsvektor 0 und dem ge-

4
wünschten Vektor T definiert ist, gemäß der Formel:

E = &Sgr; <t_k - o_k)²
k

wobei der Gegenstand definiert ist gemäß der Korrelationsformel von Ausgängen:

t_k=o_k-o_h wenn t_k*l und t_h=l

unverändert wenn t_k=l

wobei t_k das k-te Element des Gegenstandsvektors und o_k und o_h die Ausgänge des k-ten und des h-ten Neurons der Ausgangsebene des Netzes sind;

OE
5) Berechnen der Teilableitung des Fehlers in

Bezug zu den Gewichtungen, die in der Fortschreitungsgleichung der synaptischen Gewichtungen

^y(t -1) = TjS₁O, +/3Aw..(t -1)

verwendet wird, wobei W₁- die synaptische Gewichtung vom Neuron j zum Neuron i ist, &eegr; ein Koeffizient ist, der die Lerngeschwindigkeit bestimmt, ß ein Koeffizient ist, der als Moment bezeichnet wird und die Trägheit beim Fortschreiben der Gewichtung bestimmt, O₁ der zurückgeleitete Fehler am Neuron i ist und o. der Ausgang des Neurons j ist; ausgehend vom im Schritt 4) definierten Fehler, werden die neuen Rückleitungs-Fehlergesetze für das korrelative Training erhalten, die folgendermaßen definiert sind:

für Ausgangsneuronen:

6_i = (t_i-o_i)F^/(net^ wenn t^l
5^-O₁(O_n-I)²F' (net^ wenn t^l t_h=l;

35

für innere Neuronen:

wobei der Index k sich auf Neuronen der oberen Ebene bewegt;

6) Fortschreiben jeder synaptischen Gewichtung w.. gemäß der Gleichung:

ch.v_ä

^IJ

3. Erkennungssystem " für sprecherunabhängige alleinstehende Wörter nach Anspruch 1 oder 2, dadurch gekennzeichnet, daß die Übergangswahrscheinlichkeit in den Zustand i+1 des Worts w zur Zeit t+1 unter der Voraussetzung, daß der Zustand i zur Zeit t herrscht, folgendermaßen berechnet wird:

25

P_Tl^Sw.i*i

0 wobei min die Funktion ist, die das Minimum zwischen dem betrachteten Bruchteil und 1 wiederherstellt, und

h=t

wenn t<K

wobei in dieser letzten Gleichung Freq(S_Ufi (h)) die Anzahl von Wörtern ist, die in S_w#1 für h Male verbleiben.

4. Erkennungssystem für sprecherunabhängige alleinstehende Wörter nach Anspruch 2 oder nach dem auf Anspruch 2 rückbezogenen Anspruch 3, dadurch gekennzeichnet, daß die folgenden Parameter verwendet werden:

- Moment ß = 0,2;

Anzahl der Korrekturen, die akkumuliert werden, bevor sie tatsächlich an den Gewichtungen durchgeführt werden (Batch-Größe = 10;

- Lerngeschwindigkeit &eegr; linear abnehmend von

0,1 bis 0,001.

5. Erkennungssystem für sprecherunabhängige alleinstehende Wörter nach einem der Ansprüche 1 bis 4, dadurch gekennzeichnet, daß jedes Wort durch einen Automaten modelliert wird, der eine zentrale Sequenz von zum Wort gehörenden Zuständen (3,...,7) enthält, dem ein für das Wort spezifischer Anfangs-Ruhezustand (2) vorhergeht und End-Ruhezustand (8) folgt, die die Übergänge Ruhe-Wort beziehungsweise Wort-Ruhe enthalten und denen ihrerseits zwei weitere Zustände von allgemeinem Hintergrundrauschen (1,9) vorhergehen beziehungsweise folgen.