WO2001013361A1 - Berechnung von abständen zwischen einem merkmalsvektor und mehreren vergleichsvektoren - Google Patents

Berechnung von abständen zwischen einem merkmalsvektor und mehreren vergleichsvektoren Download PDF

Info

Publication number
WO2001013361A1
WO2001013361A1 PCT/DE2000/002686 DE0002686W WO0113361A1 WO 2001013361 A1 WO2001013361 A1 WO 2001013361A1 DE 0002686 W DE0002686 W DE 0002686W WO 0113361 A1 WO0113361 A1 WO 0113361A1
Authority
WO
WIPO (PCT)
Prior art keywords
components
feature vector
determined
vectors
distances
Prior art date
Application number
PCT/DE2000/002686
Other languages
English (en)
French (fr)
Inventor
Harald Höge
Erwin Marschall
Original Assignee
Siemens Aktiengesellschaft
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens Aktiengesellschaft filed Critical Siemens Aktiengesellschaft
Priority to EP00956135A priority Critical patent/EP1222654B1/de
Priority to DE50008779T priority patent/DE50008779D1/de
Publication of WO2001013361A1 publication Critical patent/WO2001013361A1/de

Links

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/10—Speech classification or search using distance or distortion measures between unknown speech and reference templates

Definitions

  • the invention relates to a method, an arrangement and a computer program product for calculating distances between a feature vector and several comparison vectors.
  • Feature vectors 0_ are determined from a speech signal SIG using a feature extraction module FEM.
  • the memory vectors O j _ flow into a search module SM, which uses comparison vectors v to search for a recognized utterance SPR in a comparison module EM.
  • features are calculated from a speech signal section of the digitized speech signal approximately every 10 ms to 20 ms, which at discrete times as feature vectors 0] _, C> 2, ... (for the times t] _, t2, ... ) be available.
  • each feature vector O_ with the components
  • the dimension M of the vectors expediently lies in a range from 10 to 50.
  • the index 1 of the comparison vectors characterizes a parametric description of a certain signal section of a sound, for example a word. Such a section can be a phoneme, a diphone, an n-phone or any part of a word.
  • the index k denotes various parametric representations V] ⁇ of the same signal section. This covers different properties of speakers or transmission channels.
  • the comparison itself is carried out in the comparison module EM, with t ⁇ distances of the shape at all times
  • is preferably an amount form or a weighted or unweighted square distance.
  • Kj_ is on the order of 1 to 100 and L m on the order of 10 to 10,000.
  • K_ is referred to as the "number of modes of a word section”.
  • the local distances S] _ in equation (4) are calculated in the search module SM using a dynamic programming method or the Viterbi algorithm (see [1]).
  • the search module SM in particular carries out a reduction of the search space, it only requests a subset of all possible local distance dimensions s from the comparison module EM. This saves computing time. It should be noted here that the "beam" mentioned above restricts the total search space possible; only the promising areas of the search space are used for further processing, the remaining search space is left out. This is particularly suitable for the recognition of fluent speech.
  • those local dimensions s j _ are calculated exactly according to equations (3) and (4), in which the feature vector has a smaller distance from the comparison vectors.
  • Word sections 1 with a large spacing are roughly calculated, for example, using only one mode k for determining the local dimensions s j _. This method has advantages if all local dimensions s j _ have to be calculated.
  • the dimension M of the feature vector is reduced.
  • the recognition rate generally drops because the entire information available is no longer used for recognition.
  • An LDA method (see [3]) has been used to determine which components of the feature vector are better than others in terms of their detection functionality.
  • the components of the feature vectors are ordered according to their importance (in relation to the high recognition rate). As a result, in the reduction process are those Kom ⁇ components omitted, in which a significance is below a predetermined threshold.
  • comparison vectors are preferably determined from the shopping times ⁇ vectors m a separate training process.
  • An LDA method is also used for the comparison vectors, which sorts the components of the feature vectors with regard to their ability to discriminate.
  • the reduction method has the disadvantage that by deleting components of the feature vector, information that is important with regard to the recognition performance of spoken language is dispensed with.
  • the object of the invention is to enable the calculation of distances between a feature vector and a plurality of comparison vectors, an optimization between the computing effort and the high recognition rate being made possible in particular in speech processing.
  • a method for calculating distances between a feature vector and a plurality of comparison vectors is specified, the feature vector and the plurality of comparison vectors each having a number of components.
  • the discrimination capability of the components of the feature vector is determined in each case. For those components of the feature vector whose discrimination ability is worse than a predetermined threshold value, at least a first partial distance to at least one group of components of the comparison vectors is determined. For those components of the feature vector whose discrimination ability is better than the predetermined threshold, second partial distances to the corresponding components of the comparison vectors are determined.
  • the distances from the feature vector to the plurality of comparison vectors are determined from the at least one first partial distance and the second partial distances.
  • Each feature vector comprises a certain number of compo nents ⁇ , preferably according to a certain scheme, for example. Diskrimin istsfahtechnik which are sorted.
  • Each comparison vector comprises the same number of components, which are also appropriately sorted according to their ability to discriminate. A distance calculation is carried out by comparing the associated components within the vectors (feature vector or comparison vector). If there are a large number of comparison vectors, the component of the feature vector can be compared with the associated component of each comparison vector. This is particularly worthwhile if the component of the feature vector is highly discriminatory.
  • the number of comparisons to be carried out is preferably reduced.
  • the component is no longer compared with each associated component of all comparison vectors, but the values for the component are combined into at least one group within the comparison vectors. This group receives a value that is compared with the value of the component of the feature vector.
  • a further training consists in that the sorting according to the discrimination capability by means of an LDA
  • Another development consists in that a value for a group (from components of comparison vectors which are assigned to a component of the feature vector) is determined on the basis of averaging. It is particularly advantageous that the averaging process makes the process more robust, since statistical fluctuations with a relatively low level of discrimination are significantly reduced by averaging.
  • Another embodiment consists in that a pattern recognition is carried out on the basis of the determined distance between the feature vector and the comparison vectors.
  • the closest comparison vector is recognized as a pattern that matches the feature vector.
  • the distance between the feature vector and the comparison vectors can be determined in different ways.
  • An example of such a distance is the norm of the components, another the square distance.
  • Another development is that the method described is used in a speech recognizer.
  • an arrangement for calculating distances between a feature vector and a plurality of comparison vectors is specified, the feature vector and the plurality of comparison vectors each having a plurality of components, in which a processor unit is provided which is set up in such a way that a) for the components of the feature vector, their ability to discriminate can be determined; b) at least a first partial distance to at least one group of components of the comparison vectors can be determined for those components of the feature vector whose discrimination capability is worse than a predefined threshold value; c) second partial distances to the corresponding components of the comparison vectors can be determined for those components of the feature vector whose discrimination capability is better than the predetermined threshold value; d) the distances from the feature vector to the plurality of comparison vectors can be determined from the at least one first partial distance and the second partial distances.
  • a computer program product for calculating the distances between a feature vector and several comparison vectors is also specified for solving the task, the
  • Feature vector and the multiple comparison vectors each have multiple components.
  • the computer program product can run on a processor unit in such a way that a) the discrimination capability of the components of the feature vector can be determined; b) at least a first partial distance to at least one group of components of the comparison vectors can be determined for those components of the feature vector whose discrimination capability is worse than a predetermined threshold value; c) second partial distances to the corresponding components of the comparison vectors can be determined for those components of the feature vector whose disintegration ability is better than the predetermined threshold value; d) from the at least a first partial distance and the second partial distances, the distances from the feature vector can be determined for the several comparison vectors.
  • Fig.l a structure of a speech recognition system
  • FIG. 2 shows a block diagram with steps of a method for calculating distances between a feature vector and a plurality of comparison vectors
  • FIG. 3 shows a processor unit
  • FIG. 2 shows a block diagram with steps of a method for calculating distances between a feature vector 0 and a plurality of comparison vectors V. In line with the notation m in the description description, are required for distances
  • a block 201 the components of the feature vector are sorted, preferably in the order of their discrimination ability.
  • the best components are subdivided into m and the rest, that is to say all components which are not best components.
  • step 203 at least one group is determined for each component of the feature vector from this “remainder” of the comparison vectors and preferably a value, in particular an average value from the components of the comparison vectors of this group, is determined for each group (see step 204).
  • a distance from the at least one group is determined by the component of the feature vector.
  • a processor unit PRZE is shown in FIG.
  • the processor unit PRZE comprises a processor CPU, a memory SPE and an input / output interface IOS, which is used in different ways via an interface IFC: an output becomes visible on a monitor MON and / or on a printer via a graphics interface PRT issued. An entry is made using a mouse MAS or a keyboard TAST.
  • the processor unit PRZE also has a data bus BUS, which ensures the connection of a memory MEM, the processor CPU and the input / output interface IOS.
  • additional components can be connected to the data bus BUS, for example additional memory, data storage (hard disk) or scanner.

Landscapes

  • Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Complex Calculations (AREA)

Abstract

Es wird ein Verfahren zur Berechnung von Abständen zwischen einem Merkmalsvektor und mehreren Vergleichsvektoren angegeben, wobei der Merkmalsvektor und die mehreren Vergleichsvektoren jeweils mehrere Komponenten aufweisen. Für die Komponenten des Merkmalsvektors wird jeweils deren Diskriminierungsfähigkeit ermittelt. Für diejenigen Komponenten des Merkmalsvektors, deren Diskriminierungsfähigkeit schlechter als ein vorgegebener Schwellwert ist, wird mindestens ein erster Teilabstand zu mindestens einer Gruppe von Komponenten der Vergleichsvektoren ermittelt. Für diejenigen Komponenten des Merkmalsvektors, deren Diskriminierungsfähigkeit besser als der vorgegebene Schwellwert ist, werden zweite Teilabstände zu den entsprechenden Komponenten der Vergleichsvektoren bestimmt. Aus dem mindestens einen ersten Teilabstand und den zweiten Teilabständen werden die Abstände von dem Merkmalsvektor zu den mehreren Vergleichsvektoren ermittelt.

Description

Beschreibung
BERECHNUNG VON ABSTÄNDEN ZWISCHEN EINEM MERKMALS VEKTOR UND MEHREREN VER- e - GLEICHSVEKTOREN
Die Erfindung betrifft ein Verfahren, eine Anordnung und ein Computerprogra merzeugnis zur Berechnung von Abständen zwischen einem Merkmalsvektor und mehreren Vergleichsvektoren.
Ein System zur Erkennung natürlich gesprochener Sprache hat insbesondere einen Aufbau wie in Fig.l dargestellt. Aus einem Sprachsignal SIG werden anhand eines Mermkalsextraktions- moduls FEM Merkmalsvektoren 0_ ermittelt. Die Merk als- vektoren Oj_ fließen in ein Suchmodul SM ein, das anhand von Vergleichsvektoren v in einem Vergleichsmodul EM nach einer erkannten Äußerung SPR sucht. In dem Merkmalsextraktionsmodul FEM werden aus einem Sprachsignalabschnitt des digitalisierten Sprachsignals ca. alle 10ms bis 20ms Merkmale berechnet, die zu diskreten Zeitpunkten als Merkmalsvektoren 0]_, C>2, ... (für die Zeitpunkte t]_, t2, ...) zur Verfügung stehen. In dem Suchmodul ΞM wird jeder Merkmalsvektor O_ mit den Komponenten
.M
Oi = °b - o.
mit
Vergleichsvektoren V]^ mit den Komponenten
Vlk = v 1lk, ... , vMlk; k = 1, ... , K]_; 1 = 1, ... , L
verglichen.
In der Praxis liegt die Dimension M der Vektoren zweckmäßig in einem Bereich von 10 bis 50. Der Index 1 der Vergleichsvektoren kennzeichnet eine parametrische Beschreibung eines bestimmten Signalabschnitts eines Lautes, zum Beispiel eines Wortes. Ein derartiger Abschnitt kann ein Phonem, ein Diphon, ein n-Phon oder ein beliebiger Wortteil sein. Der Index k kennzeichnet verschiedene parametrische Darstellungen V]^ desselben Signalabschnitts. Dadurch werden unterschiedliche Eigenschaften von Sprechern oder Ubertragungskanalen abgedeckt. Der Vergleich selbst erfolgt m dem Vergleichsmodul EM, wobei zu jedem Zeitpunkt t± Abstände der Form
Figure imgf000004_0001
und lokale Maße der Form
sl = Mm alk k
ermittelt werden. Das Abstandsmaß ||...|| ist bevorzugt eine Be- tragsfor oder ein gewichteter bzw. ungewichteter quadratischer Abstand. In Gleichung (3) wird angenommen, daß es L verschiedene Wortabschnitte gibt und daß jeder Wortabschnitt 1 durch K]_ verschiedene Vergleichsvektoren beschrieben wird. Kj_ liegt m der Größenordnung von 1 bis 100 und L m der Größenordnung von 10 bis 10.000. Bei einer HMM-Methode (vlg. [1]) wird K_ als "Anzahl von Moden eines Wortabschnittes" bezeichnet. Die lokalen Abstände S]_ in Gleichung (4) werden m dem Suchmodul SM mit einer Methode der dynamischen Programmierung oder des Viterbialgorith us (siehe [1]) verrechnet. Zweckmäßig werden zu einem Zeitpunkt tj_ nicht alle L lokalen Maße sj_ benotigt, sondern nur diejenigen, die in einem gewissen "Bea " liegen. Der Suchmodul SM fuhrt dabei insbesondere eine Reduktion des Suchraums durch, er fordert von dem Vergleichsmodul EM nur eine Untermenge aller möglichen lokalen Abstandsmaße s an. Dadurch resultiert eine Einsparung des Rechenaufwands. Hierbei sei bemerkt, das oben genannter "Beam" eine Einschränkung des insgesamt möglichen Suchraums vornimmt; nur die verheißungsvollen Bereiche des Suchraums wer- den für die weitere Verarbeitung genutzt, der restliche Suchraum wird ausgespart. Dies ist insbesondere geeignet für die Erkennung fließender Sprache.
Die Berechnung der lokalen Maße sj_ erfordert trotzdem eine erhebliche Rechenleistung. Insbesondere bei Ablauf mehrerer paralleler Erkennungsprozesse, zum Beispiel m einem Vermittlungsrechner, der 1000 Kanäle gesprochener Sprache erkennen soll, ist der Rechenaufwand deutlich über dem derzeit Machba- ren.
Zur weiteren Reduktion des Rechenaufwandes bei der Ermittlung der Werte a^j und sj_ gemäß Gleichung (3) und Gleichung (4) sind zwei Verfahren bekannt: - Tree-Search-Verfahren (siehe [2]) und - Reduktionsverfahren.
Bei dem Tree-Search-Verfahren werden diejenigen lokalen Maße sj_ genau nach den Gleichungen (3) und (4) berechnet, bei de- nen der Merkmalsvektor einen geringeren Abstand zu den Vergleichsvektoren besitzt. Wortabschnitte 1 mit großem Abstand werden grob berechnet, indem beispielsweise nur eine Mode k für die Bestimmung der lokalen Maße sj_ herangezogen wird. Dieses Verfahren bringt Vorteile, falls grundsätzlich alle lokalen Maße sj_ zu berechnen sind.
Bei dem Reduktionsverfahren wird die Dimension M des Merkmalsvektors reduziert. Dadurch sinkt grundsätzlich die Erkennungsrate, da nicht langer die gesamte zur Verfugung stehende Information zur Erkennung benutzt wird. Um zu ermitteln, welche Komponenten des Merkmalsvektors hinsichtlich ihrer Dis- kπminierungsfunktionalitat besser sind als andere, hat sich ein LDA-Verfahren (siehe [3]) bewahrt. Dabei werden die Komponenten der Merkmalsvektoren nach deren Wichtigkeit (bezug- lieh hoher Erkennungsrate) geordnet. Infolgedessen werden beim Reduktionsverfahren diejenigen Kom¬ ponenten weggelassen, bei denen eine Signifikanz unterhalb eines vorgegebenen Schwellwerts liegt.
Auch die Vergleichsvektoren werden vorzugsweise aus den Merk¬ malsvektoren m einem gesonderten Trainingsverfahren bestimmt. Dabei wird auch für die Vergleichsvektoren ein LDA- Verfahren angewandt, das die Komponenten der Merkmalsvektoren hinsichtlich deren Diskriminierungsfahigkeit sortiert.
Bei dem Reduktionsverfahren ist es von Nachteil, daß durch Wegstreichen von Komponenten des Merkmalsvektors auf Information verzichtet wird, die hinsichtlich der Erkennungsleistung gesprochener Sprache wichtig ist.
Die Aufgabe der Erfindung besteht darin, die Berechnung von Abstanden zwischen einem Merkmalsvektor und mehreren Vergleichsvektoren zu ermöglichen, wobei eine Optimierung zwischen Rechenaufwand und hoher Erkennungsrate insbesondere bei der Sprachverarbeitung ermöglicht wird.
Die Aufgabe wird gemäß den Merkmalen der unabhängigen Patentansprüche gelost. Weiterbildungen der Erfindung ergeben sich auch aus den abhangigen Ansprüchen.
Zur Losung der Aufgabe wird ein Verfahren zur Berechnung von Abstanden zwischen einem Merkmalsvektor und mehreren Vergleichsvektoren angegeben, wobei der Merkmalsvektor und die mehreren Vergleichsvektoren jeweils mehrere Komponenten auf- weisen. Für die Komponenten des Merkmalsvektors wird jeweils deren Diskriminierungsfahigkeit ermittelt. Für diejenigen Komponenten des Merkmalsvektors, deren Diskriminierungsfahigkeit schlechter als ein vorgegebener Schwellwert ist, wird mindestens ein erster Teilabstand zu mindestens einer Gruppe von Komponenten der Vergleichsvektoren ermittelt. Für diejenigen Komponenten des Merkmalsvektors, deren Diskriminierungsfahigkeit besser als der vorgegebene Schwellwert ist, werden zweite Teilabstande zu den entsprechenden Komponenten der Vergleichsvektoren bestimmt. Aus dem mindestens einen ersten Teilabstand und den zweiten Teilabstanden werden die Abstände von dem Merkmalsvektor zu den mehreren Vergleichsvek- toren ermittelt.
Jeder Merkmalsvektor umfaßt eine bestimmte Anzahl von Kompo¬ nenten, die vorzugsweise nach einem bestimmten Schema, bspw. deren Diskriminierungsfahigkeit sortiert sind. Jeder Ver- gleichsvektor umfaßt die gleiche Anzahl von Komponenten, die ebenfalls zweckmäßig nach deren Diskriminierungsfahigkeit sortiert sind. Eine Abstandsberechnung erfolgt durch Vergleich der einander zugehörigen Komponenten innerhalb der Vektoren (Merkmalsvektor bzw. Vergleichsvektor ) . Gibt es eine Vielzahl von Vergleichsvektoren, so kann ein Vergleich der Komponente des Merkmalsvektors mit der zugehörigen Komponente jedes Vergleichsvektors durchgeführt werden. Dies lohnt sich vor allem dann, wenn die Komponente des Merkmalsvektors eine hohe Diskriminierungsfahigkeit auf- weist.
Weist hingegen die Komponente des Merkmalsvektors eine niedrige Diskriminierungsfahigkeit auf, so erfolgt bevorzugt eine Reduktion der Anzahl der durchzuführenden Vergleiche. Die Komponente wird nicht mehr mit jeder zugehörigen Kompo- nente aller Vergleichsvektoren verglichen, sondern die Werte für die Komponente werden innerhalb der Vergleichsvektoren zu mindestens einer Gruppe zusammengefaßt. Diese Gruppe erhalt einen Wert, der mit dem Wert der Komponente des Merkmalsvektors verglichen wird. Dadurch ergibt sich eine signifikante Einsparung von Rechenaufwand, da für wenig signifikante Komponenten des Merkmalsvektors ein reduzierter Vergleich, z.B. mit einem Schwerpunkt über alle Werte der Vergleichsvekoren für die zugehörige Komponente, erfolgt.
Hierbei sei angemerkt, daß es zweckmäßig sein kann, anstelle des Schwellwertes mehrere Schwellwerte vorzusehen und bestimmte (im Hinblick auf ihre Diskriminierungsfanigkeit schlechte) Komponenten des Merkmalsvektors nicht weiter zu berücksichtigen.
Eine Weiterbildung besteht darin, daß die Sortierung entspre- chend der Diskriminierungsfahigkeit mittels eines LDA-
Verfahrens erfolgt. Dies gilt für Merkmalsvektor und Vergleichsvektoren gleichermaßen.
Eine andere Weiterbildung besteht darin, daß ein Wert für ei- ne Gruppe (aus Komponenten von Vergleichsvektoren, die einer Komponente des Merkmalsvektors zugeordnet sind) anhand einer Mittelwertbildung bestimmt wird. Insbesondere ist es von Vorteil, daß durch die Mittelwertbildung das Verfahren robuster wird, da statistische Schwankungen mit verhältnismäßig nied- rigem Diskriminierungsgehalt durch die Mittelwertbildung deutlich reduziert werden.
Eine andere Ausgestaltung besteht darin, daß anhand des ermittelten Abstandes zwischen Merkmalsvektor und Vergleichs- vektoren eine Mustererkennung durchgeführt wird. Dabei wird insbesondere der nachstliegende Vergleichsvektor als zu dem Merkmalsvektor passendes Muster erkannt.
Hierbei sei angemerkt, daß der Abstand zwischen Merkmalsvek- tor und Vergleichsvektoren auf unterschiedliche Art bestimmt werden kann. Ein Beispiel für solche einen Abstand ist die Norm der Komponenten, ein anderer der quadratische Abstand.
Eine andere Weiterbildung besteht darin, daß das beschriebene Verfahren m einem Spracherkenner eingesetzt wird.
Weiterhin wird zur Losung der Aufgabe eine Anordnung zur Berechnung von Abstanden zwischen einem Merkmalsvektor und mehreren Vergleichsvektoren angegeben, wobei der Merkmalsvektor und die mehreren Vergleichsvektoren jeweils mehrere Komponenten aufweisen, bei der eine Prozessoreinheit vorgesehen ist, die derart eingerichtet ist, daß a) für die Komponenten des Merkmalsvektors jeweils deren Diskriminierungsfahigkeit ermittelbar ist; b) für diejenigen Komponenten des Merkmalsvektors, deren Diskriminierungsfahigkeit schlechter als ein vorgege- bener Schwellwert ist, mindestens ein erster Teilab- stand zu mindestens einer Gruppe von Komponenten der Vergleichsvektoren ermittelbar ist; c) für diejenigen Komponenten des Merkmalsvektors, deren Diskriminierungsfahigkeit besser als der vorgegebene Schwellwert ist, zweite Teilabstande zu den entsprechenden Komponenten der Vergleichsvektoren bestimmbar sind; d) aus dem mindestens einen ersten Teilabstand und den zweiten Teilabstanden die Abstände von dem Merkmals- vektor zu den mehreren Vergleichsvektoren ermittelbar sind.
Auch wird zur Losung der Aufgabe ein Computerprogrammerzeugnis zur Berechnung von Abstanden zwischen einem Merkmalsvek- tor und mehreren Vergleichsvektoren angegeben, wobei der
Merkmalsvektor und die mehreren Vergleichsvektoren jeweils mehrere Komponenten aufweisen. Das Computerprogrammerzeugnis ist auf eine Prozessoreinheit derart ablauffahig, daß a) für die Komponenten des Merkmalsvektors jeweils deren Diskriminierungsfahigkeit ermittelbar ist; b) für diejenigen Komponenten des Merkmalsvektors, deren Diskriminierungsfahigkeit schlechter als ein vorgegebener Schwellwert ist, mindestens ein erster Teilabstand zu mindestens einer Gruppe von Komponenten der Vergleichsvektoren ermittelbar ist; c) für diejenigen Komponenten des Merkmalsvektors, deren Dis rimimerungsfahigkeit besser als der vorgegebene Schwellwert ist, zweite Teilabstande zu den entsprechenden Komponenten der Vergleichsvektoren bestimmbar sind; d) aus dem mindestens einen ersten Teilabstand und den zweiten Teilabstanden die Abstände von dem Merkmals- vektor zu den mehreren Vergleichsvektoren ermittelbar sind.
Die Anordnung sowie das Computerprogrammerzeugnis sind insbe- sondere geeignet zur Durchfuhrung des erfmdungsgemaßen Verfahrens oder einer seiner vorstehender erläuterten Weiterbildungen.
Ausfuhrungsbeispiele der Erfindung werden nachfolgend anhand der Zeichnung dargestellt und erläutert.
Es zeigen
Fig.l einen Aufbau eines Spracherkennungssystems;
Fig.2 ein Blockdiagramm mit Schritten eines Verfahrens zur Berechnung von Abstanden zwischen einem Merkmalsvektor und mehreren Vergleichsvektoren;
Fig.3 eine Prozessoreinheit.
Fig.l ist bereits m der Beschreibungsemleitung erläutert worden .
In Fig.2 ist ein Blockdiagramm mit Schritten eines Verfahrens zur Berechnung von Abstanden zwischen einem Merkmalsvektor 0 und mehreren Vergleichsvektoren V dargestellt. In Anlehnung an die Notation m der Beschreibungsemleitung, werden für benotigte Abstände
lo: - 1 = 1, ... , L; k = 1, ... , Kλ
Figure imgf000010_0001
1 < Kj_ < K]_ nur solche Komponentenindizes j genau ermittelt, bei denen die Merkmalskomponente o3 entscheidend zu einer hohen Erken¬ nungsrate beitragt, das heißt gut diskriminierbar ist. Der Rechenaufwand wird dadurch reduziert, daß die Modenanzahl Kj_ abhangig von j variiert wird. Für einen gegebenen Wortab- schnittsmdex 1 und eine weniger wichtige Komponente j werden z.B. alle ursprünglichen Vergleichsparameter v . , die zu den Moden k=l,...,Kι gehören, zu einer einzigen Mode
1 Kl ^i = — ∑vlk <6> kl k=l
zusammengefaßt .
Dadurch reduziert sich der Aufwand zur Berechnung von Glei- chung (5) um einen Faktor K]_-l, da für dieses 1 und nur ein einziger Abstand or v=r berechnet werden muß. Wird die Berechnung von Gleichung (5) und Gleichung (6) für alle Wortabschnitte 1=1,..., L durchgeführt, ergibt sich eine mittlere Reduzierung des Rechenaufwandes um den Faktor
1 L fι = ∑(κι - !) <7>
L 1=1
für diese Komponente j .
In Gleichung (6) wurde der Fall beschrieben, daß alle v , zu einem einzigen Wert zusammengefaßt werden (K~ι=l) . Allgemein sind Zwischenstufen von 1 bis Kj Moden möglich. Abhangig von der Wichtigkeit der Merkmalskomponente o-, kann die Modenanzahl mehr oder weniger stark reduziert werden. Insbesondere ist die Reduzierung derart zu bestimmen, daß die Erkennungsrate möglichst wenig abnimmt. Besonders geeignet ist hierbei das LDA-Verfahren zur Ordnung der Komponenten des Merkmals- vektors entsprechend ihrer Bedeutung (Diskriminierungsfahig¬ keit) . Geht man m der folgenden Notation davon aus, daß =l der wichtiges Index und j=M der unwichtigste Index ist, so können alle Vergleichsparameter für
Figure imgf000012_0001
...,M nach Gleichung (6) berechnet werden. Ab einem Index Mj_ haben die Merkmalskomponenten o-, eine geringe Bedeutung. Demnach ergibt sich aus Gleichung (3) die folgende Beziehung
Figure imgf000012_0002
alk = al + — vl,k k = 1, Kι; 1 = 1,
Figure imgf000012_0003
Bei Einsatz der Gleichung (7) und M=24, M]_=12 ergeben sich Reduktionen im Rechenaufwand m einer Größenordnung von ca. 30%.
In Fig.2 ist schematisch der Ablauf des Verfahrens zusammengefaßt. In einem Block 201 werden die Komponenten des Merkmalsvektors sortiert, vorzugsweise m der Reihenfolge ihrer Diskriminierungsfahigkeit. In einem Schritt 202 erfolgt eine Unterteilung m die besten Komponenten und den Rest, das heißt alle Komponenten, die keine besten Komponenten sind. In einem Schritt 203 wird für jede Komponente des Merkmalsvektors aus diesem "Rest" den Vergleichsvektoren mindestens eine Gruppe bestimmt und vorzugsweise für jede Gruppe ein Wert, insbesondere ein Mittelwert aus den Komponenten der Vergleichsvektoren dieser Gruppe, bestimmt (siehe Schritt 204) . In einem Schritt 205 wird von der Komponente des Merkmalsvektors ein Abstand zu der mindestens einen Gruppe ermit- telt. Für diejenigen Komponenten des Merkmalsvektors, die nicht m jedem "Rest" enthalten sind, werden die Abstände zu allen zugehörigen Komponenten der Vergleichsvektoren bestimmt . In Fig.3 ist eine Prozessoreinheit PRZE dargestellt. Die Prozessoreinheit PRZE umfaßt einen Prozessor CPU, einen Speicher SPE und eine Input/Output-Schnittstelle IOS, die über ein Interface IFC auf unterschiedliche Art und Weise genutzt wird: Über eine Graflkschnittstelle wird eine Ausgabe auf einem Monitor MON sichtbar und/oder auf einem Drucker PRT ausgegeben. Eine Eingabe erfolgt über eine Maus MAS oder eine Tastatur TAST. Auch verfugt die Prozessoreinheit PRZE über einen Datenbus BUS, der die Verbindung von einem Speicher MEM, dem Prozessor CPU und der Input/Output-Schnittstelle IOS gewährleistet. Weiterhin sind an den Datenbus BUS zusätzliche Komponenten anschließbar, z.B. zusätzlicher Speicher, Datenspeicher (Festplatte) oder Scanner.
Literaturverzeichnis :
[1] N. Haberland et al . : Sprachunterricht - Wie funktioniert die computerbasierte Spracherkennung? c't 5/98, Seiten 120-125, Heinz Heise Verlag, 1998.
[2] E.Boccieri: Vector Quantization for the Efficient
Computation of Contmuous Density Likelihoods, Proc. ICASSP, pp. 11/692-695, Mmneapolis, USA, April 1993.
[3] Thomas W. Parsons: Voice and Speech Processing, pp . 182- 188, McGraw Hill 1986.

Claims

Patentansprüche
1. Verfahren zur Berechnung von Abstanden zwischen einem Merkmalsvektor und mehreren Vergleichsvektoren, wobei der Merkmalsvektor und die mehreren Vergleichsvek¬ toren jeweils mehrere Komponenten aufweisen, a) bei dem für die Komponenten des Merkmalsvektors je¬ weils deren Diskriminierungsfahigkeit ermittelt wird; b) bei dem f r diejenigen Komponenten des Merkmalsvek- tors, deren Diskriminierungsfahigkeit schlechter als ein vorgegebener Schwellwert ist, mindestens ein erster Teilabstand zu mindestens einer Gruppe von Komponenten der Vergleichsvektoren ermittelt wird; c) bei dem für diejenigen Komponenten des Merkmalsvek- tors, deren Diskriminierungsfahigkeit besser als der vorgegebene Schwellwert ist, zweite Teilabstande zu den entsprechenden Komponenten der Vergleichsvektoren bestimmt werden; d) bei dem aus dem mindestens einen ersten Teilabstand und den zweiten Teilabstanden die Abstände von dem
Merkmalsvektor zu den mehreren Vergleichsvektoren ermittelt werden.
2. Verfahren nach Anspruch 1, bei dem die Komponenten des Merkmalsvektors mittels eines LDA-Verfahrens ihrer Diskrimationsfahigkeit nach sortiert werden.
3. Verfahren nach einem der vorhergehenden Ansprüche, bei dem die Komponenten der Vergleichsvektoren aus mehreren Merkmalsvektoren anhand eines Trainingsverfahrens ermittelt werden.
4. Verfahren nach Anspruch 3, bei dem die Komponenten der Vergleichsvektoren mittels eines LDA-Verfahrens ihrer Diskriminierungsfahigkeit nach sortiert sind.
5. Verfahren nach einem der vorhergehenden Ansprüche, bei dem der Wert für die Gruppe der Komponenten ein ge- mittelter Wert der Komponenten der Gruppe ist.
6. Verfahren nach einem der vorhergehenden Ansprüche, bei dem anhand der Abstände eine Mustererkennung durchgeführt wird.
7. Verfahren nach einem der vorhergehenden Ansprüche, bei dem der Vergleichsvektor mit dem geringsten Abstand als passender Vergleichsvektor bestimmt wird.
8. Verfahren nach einem der vorhergehenden Ansprüche zum Einsatz einem Spracherkenner.
9. Anordnung zur Berechnung von Abstanden zwischen einem Merkmalsvektor und mehreren Vergleichsvektoren, wobei der Merkmalsvektor und die mehreren Vergleichsvek- toren jeweils mehrere Komponenten aufweisen, bei der eine Prozessoreinheit vorgesehen ist, d e derart eingerichtet ist, daß a) für die Komponenten des Merkmalsvektors jeweils deren Diskriminierungsfahigkeit ermittelbar ist; b) für diejenigen Komponenten des Merkmalsvektors, deren Diskriminierungsfahigkeit schlechter als ein vorgegebener Schwellwert ist, mindestens ein erster Teilab- stand zu mindestens einer Gruppe von Komponenten der Vergleichsvektoren ermittelbar ist; c) für diejenigen Komponenten des Merkmalsvektors, deren Diskriminierungsfahigkeit besser als der vorgegebene Schwellwert ist, zweite Teilabstande zu den entsprechenden Komponenten der Vergleichsvektoren bestimmbar sind; d) aus dem mindestens einen ersten Teilabstand und den zweiten Teilabstanden die Abstände von dem Merkmals- vektor zu den mehreren Vergleichsvektoren ermittelbar sind.
10. Computerprogrammerzeugnis zur Berechnung von Abstanden zwischen einem Merkmalsvektor und mehreren Vergleichsvektoren, wobei der Merkmalsvektor und die mehreren Vergleichsvektoren jeweils mehrere Komponenten aufweisen, das auf einer Prozessoreinheit derart ablauft, daß a) für die Komponenten des Merkmalsvektors jeweils deren Diskriminierungsfahigkeit ermittelbar ist; b) für diejenigen Komponenten des Merkmalsvektors, deren Diskriminierungsfahigkeit schlechter als ein vorgegebener Schwellwert ist, mindestens ein erster Teilab- stand zu mindestens einer Gruppe von Komponenten der Vergleichsvektoren ermittelbar ist; c) für diejenigen Komponenten des Merkmalsvektors, deren Diskriminierungsfahigkeit besser als der vorgegebene Schwellwert ist, zweite Teilabstande zu den entsprechenden Komponenten der Vergleichsvektoren bestimmbar sind; d) aus dem mindestens einen ersten Teilabstand und den zweiten Teilabstanden die Abstände von dem Merkmalsvektor zu den mehreren Vergleichsvektoren ermittelbar sind.
PCT/DE2000/002686 1999-08-18 2000-08-10 Berechnung von abständen zwischen einem merkmalsvektor und mehreren vergleichsvektoren WO2001013361A1 (de)

Priority Applications (2)

Application Number Priority Date Filing Date Title
EP00956135A EP1222654B1 (de) 1999-08-18 2000-08-10 Berechnung von abständen zwischen einem merkmalsvektor und mehreren vergleichsvektoren
DE50008779T DE50008779D1 (de) 1999-08-18 2000-08-10 Berechnung von abständen zwischen einem merkmalsvektor und mehreren vergleichsvektoren

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE19939101.7 1999-08-18
DE19939101A DE19939101A1 (de) 1999-08-18 1999-08-18 Verfahren, Anordnung und Computerprogrammerzeugnis zur Berechnung von Abständen zwischen einem Merkmalsvektor und mehreren Vergleichsvektoren

Publications (1)

Publication Number Publication Date
WO2001013361A1 true WO2001013361A1 (de) 2001-02-22

Family

ID=7918755

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/DE2000/002686 WO2001013361A1 (de) 1999-08-18 2000-08-10 Berechnung von abständen zwischen einem merkmalsvektor und mehreren vergleichsvektoren

Country Status (3)

Country Link
EP (1) EP1222654B1 (de)
DE (2) DE19939101A1 (de)
WO (1) WO2001013361A1 (de)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002069589A1 (de) * 2001-02-27 2002-09-06 Siemens Aktiengesellschaft Verfahren und vorrichtung zum abschätzen der zugehörigkeit von signalen aus einem datenstrom und den entsprechenden überstragungskanälen mittels cluster-analyse
US6968315B1 (en) * 1999-02-05 2005-11-22 Ncr Corporation Method and apparatus for advertising over a communications network

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10305821A1 (de) * 2003-02-12 2004-09-02 Infineon Technologies Ag Verfahren und Vorrichtung zum Vergleichen einer Vielzahl von Eingangsvektoren mit m Referenzvektoren, Computerprogramm-Element und Computerlesbares Speichermedium

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4908865A (en) * 1984-12-27 1990-03-13 Texas Instruments Incorporated Speaker independent speech recognition method and system
US4991216A (en) * 1983-09-22 1991-02-05 Matsushita Electric Industrial Co., Ltd. Method for speech recognition
JPH0736477A (ja) * 1993-07-16 1995-02-07 Ricoh Co Ltd パターンマッチング方式
US5572624A (en) * 1994-01-24 1996-11-05 Kurzweil Applied Intelligence, Inc. Speech recognition system accommodating different sources

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19738846C1 (de) * 1997-09-05 1998-10-22 Philips Patentverwaltung Verfahren und Anordnung zur Berechnung von Abständen in hochdimensionalen Vektorräumen

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4991216A (en) * 1983-09-22 1991-02-05 Matsushita Electric Industrial Co., Ltd. Method for speech recognition
US4908865A (en) * 1984-12-27 1990-03-13 Texas Instruments Incorporated Speaker independent speech recognition method and system
JPH0736477A (ja) * 1993-07-16 1995-02-07 Ricoh Co Ltd パターンマッチング方式
US5572624A (en) * 1994-01-24 1996-11-05 Kurzweil Applied Intelligence, Inc. Speech recognition system accommodating different sources

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
PATENT ABSTRACTS OF JAPAN vol. 1995, no. 05 30 June 1995 (1995-06-30) *
TAKAHIKO KAWATANI: "HANDPRINTED NUMERALS RECOGNITION BY LEARNING DISTANCE FUNCTION", SYSTEMS & COMPUTERS IN JAPAN,US,SCRIPTA TECHNICA JOURNALS. NEW YORK, vol. 25, no. 10, 1 September 1994 (1994-09-01), pages 62 - 71, XP000483410, ISSN: 0882-1666 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6968315B1 (en) * 1999-02-05 2005-11-22 Ncr Corporation Method and apparatus for advertising over a communications network
WO2002069589A1 (de) * 2001-02-27 2002-09-06 Siemens Aktiengesellschaft Verfahren und vorrichtung zum abschätzen der zugehörigkeit von signalen aus einem datenstrom und den entsprechenden überstragungskanälen mittels cluster-analyse
CN1505891B (zh) * 2001-02-27 2010-11-10 西门子公司 评估数据流中的信号对相应的传输各个信号的无线信道的从属性的方法及装置

Also Published As

Publication number Publication date
EP1222654A1 (de) 2002-07-17
DE19939101A1 (de) 2001-03-01
EP1222654B1 (de) 2004-11-24
DE50008779D1 (de) 2004-12-30

Similar Documents

Publication Publication Date Title
DE69818231T2 (de) Verfahren zum diskriminativen training von spracherkennungsmodellen
DE69925479T2 (de) Dynamisch konfigurierbares akustisches modell für spracherkennungssysteme
DE69719236T2 (de) Verfahren und System zur Spracherkennung mittels verborgener Markoff-Modelle mit kontinuierlichen Ausgangswahrscheinlichkeiten
DE69937176T2 (de) Segmentierungsverfahren zur Erweiterung des aktiven Vokabulars von Spracherkennern
DE69518723T2 (de) Verminderung des Suchraumes bei Spracherkennung unter Verwendung von Phonemgrenzen und Phonemklassen
DE69726235T2 (de) Verfahren und Vorrichtung zur Spracherkennung
DE60016722T2 (de) Spracherkennung in zwei Durchgängen mit Restriktion des aktiven Vokabulars
EP0285221B1 (de) Verfahren zum Erkennen kontinuierlich gesprochener Wörter
EP0604476A1 (de) Verfahren zur erkennung von mustern in zeitvarianten messsignalen.
DE69517571T2 (de) Verfahren zur Erkennung von Mustern
EP0987682B1 (de) Verfahren zur Adaption von linguistischen Sprachmodellen
EP2431969B1 (de) Spracherkennung mit kleinem Rechenaufwand und reduziertem Quantisierungsfehler
DE69628603T2 (de) System zur Musteranpassung mittels einer Baumstruktur
EP1222654B1 (de) Berechnung von abständen zwischen einem merkmalsvektor und mehreren vergleichsvektoren
EP1812930B1 (de) Verfahren zur spracherkennung aus einem aufgeteilten vokabular
EP0813734B1 (de) Verfahren zur erkennung mindestens eines definierten, durch hidden-markov-modelle modellierten musters in einem zeitvarianten messignal, welches von mindestens einem störsignal überlagert wird
EP1039447B1 (de) Bestimmung einer Regressionsklassen-Baumstruktur für einen Spracherkenner
EP1076896B1 (de) Verfahren und vorrichtung zur erkennung mindestens eines schlüsselworts in gesprochener sprache durch einen rechner
DE69715343T2 (de) Abstandsberechung zur Verwendung in einem Spracherkenner
DE69915817T2 (de) Vorrichtung und verfahren zur spracherkennung
EP1400951B1 (de) Verfahren zur rechnergestützten Spracherkennung, Spracherkennungssystem und Steuereinrichtung zum Steuern eines technischen Systems und Telekommunikationsgerät
EP1107228A9 (de) Verfahren zur Erzeugung eines Maximum-Entropie-Sprachmodells
DE69621674T2 (de) Trainingssystem für Referenzmuster und dieses Trainingssystem benutzendes Spracherkennungssystem
EP0965088B1 (de) Sichere identifikation mit vorauswahl und rückweisungsklasse
EP0834859B1 (de) Verfahren zum Bestimmen eines akustischen Modells für ein Wort

Legal Events

Date Code Title Description
AK Designated states

Kind code of ref document: A1

Designated state(s): US

AL Designated countries for regional patents

Kind code of ref document: A1

Designated state(s): AT BE CH CY DE DK ES FI FR GB GR IE IT LU MC NL PT SE

121 Ep: the epo has been informed by wipo that ep was designated in this application
WWE Wipo information: entry into national phase

Ref document number: 2000956135

Country of ref document: EP

DFPE Request for preliminary examination filed prior to expiration of 19th month from priority date (pct application filed before 20040101)
WWP Wipo information: published in national office

Ref document number: 2000956135

Country of ref document: EP

WWG Wipo information: grant in national office

Ref document number: 2000956135

Country of ref document: EP