EP1639579A1 - Procede et systeme d'analyse de signaux vocaux pour la representation compacte de locuteurs - Google Patents

Procede et systeme d'analyse de signaux vocaux pour la representation compacte de locuteurs

Info

Publication number
EP1639579A1
EP1639579A1 EP03748194A EP03748194A EP1639579A1 EP 1639579 A1 EP1639579 A1 EP 1639579A1 EP 03748194 A EP03748194 A EP 03748194A EP 03748194 A EP03748194 A EP 03748194A EP 1639579 A1 EP1639579 A1 EP 1639579A1
Authority
EP
European Patent Office
Prior art keywords
speaker
speakers
vocal
dimension
representation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
EP03748194A
Other languages
German (de)
English (en)
Inventor
Yassine Mami
Delphine Charlet
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Orange SA
Original Assignee
France Telecom SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by France Telecom SA filed Critical France Telecom SA
Publication of EP1639579A1 publication Critical patent/EP1639579A1/fr
Withdrawn legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00—Speaker identification or verification techniques
    • G10L17/02—Preprocessing operations, e.g. segment selection; Pattern representation or modelling, e.g. based on linear discriminant analysis [LDA] or principal components; Feature selection or extraction
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00—Speaker identification or verification techniques
    • G10L17/06—Decision making techniques; Pattern matching strategies
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/10—Speech classification or search using distance or distortion measures between unknown speech and reference templates
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique

Definitions

  • the present invention relates to a method and a device for analyzing voice signals.
  • the analysis of voice signals notably requires being able to represent a speaker.
  • the representation of a speaker by a mixture of Gaussian (“Gaussian Mixture Model” or GMM) is an effective representation of the acoustic or vocal identity of a speaker.
  • GMM Gaussian Mixture Model
  • this technique it is a question of representing the speaker, in a reference acoustic space of a predetermined dimension, by a weighted sum of a predetermined number of Gaussians.
  • This type of representation is precise when we have a large number of data, and there are no physical constraints to store the parameters of the model, nor to execute calculations on these numerous parameters.
  • the authors propose to represent a speaker, no longer absolutely in a reference acoustic space, but relatively with respect to a predetermined set of representations of reference speakers also called anchor models, for which there are GMM-UBM models (UBM for "Universal Background Model”).
  • GMM-UBM models UBM for "Universal Background Model”
  • the proximity between a speaker and the reference speakers is evaluated by means of a Euclidean distance. This greatly reduces the computational loads, but the performances are still limited and insufficient.
  • the invention aims to analyze voice signals by representing the speakers with respect to a predetermined set of reference speakers, with a reduced number of parameters reducing the computational loads for time applications real, with acceptable performances, in comparison with an analysis using a representation by the GMM-UBM model.
  • the probability density of the similarities between the representation of said speech signals of the speaker ( ⁇ ) and the predetermined set of vocal representations of the reference speakers is represented by a Gaussian distribution ( ⁇ ( ⁇ ⁇ , ⁇ ⁇ )) of vector of mean ( ⁇ ⁇ ) of dimension E and of covariance matrix ( ⁇ ⁇ ) of dimension ExE estimated in the space of resemblances to the predetermined set of E reference speakers.
  • information a priori is also introduced into the probability densities of the resemblances ( ⁇ ( ⁇ ⁇ , ⁇ ⁇ j) with respect to the E reference speakers.
  • a system for analyzing a speaker's voice signals Comprising databases in which are stored voice of a predetermined set of E reference speakers and their vocal representations associated signals in a predetermined model, as well as audio archive databases, characterized in that it comprises means for analyzing voice signals using a vectorial representation of the similarities between the vocal representation of the speaker and the predetermined set of vocal representations of E reference speakers.
  • the databases also store the analysis of the voice signals carried out by said analysis means.
  • the invention can be applied to the indexing of audio documents, however other applications can also be envisaged, such as the acoustic identification of a speaker or the verification of the identity of a speaker.
  • Other objects, characteristics and advantages of the invention will appear on reading the following description, given by way of nonlimiting example, and made with reference to the single appended drawing illustrating an implementation of a use of the process for indexing audio documents.
  • the figure shows an application of the system according to one aspect of the invention for the indexing of audio databases.
  • the system comprises means for receiving voice data from a speaker, for example a microphone 1, connected by a connection 2 with or without wire to means 3 for recording a request made by a speaker ⁇ and comprising a set voice signals.
  • the recording means 3 are connected by a connection 4 to storage means 5 and, by a connection 6, to acoustic processing means 7 of the request.
  • These acoustic processing means transform the voice signals of the speaker ⁇ into a representation in an acoustic space of dimension D by a GMM model of representation of the speaker ⁇ . This representation is defined by a weighted sum of M
  • D is the dimension of the acoustic space of the absolute GMM model
  • x is an acoustic vector of dimension D, ie vector of cepstral coefficients of a speech signal sequence of the speaker ⁇ in the absolute GMM model
  • M denotes the number of Gaussians of the absolute GMM model, generally a power of 2 between 16 and 1024
  • the acoustic processing means 7 of the request are connected by a connection 8 to analysis means 9.
  • These analysis means 9 are able to represent a speaker by a probability density vector representing the similarities between the vocal representation of said speaker in the chosen GMM model and vocal representations of E reference speakers in the chosen GMM model.
  • the analysis means 9 are also able to carry out verification and / or identification tests for a speaker. To carry out these tests, the means of analysis proceed to the elaboration of the vector of probability densities, that is to say similarities between the speaker and the reference speakers. It is a question of describing a relevant representation of a single segment x of the signal of the speaker ⁇ by means of the following equations:
  • w ⁇ is a vector of the space of resemblances to the predetermined set of E reference speakers representing the segment x in this representation space
  • plx ⁇ ⁇ j is a probability density or probability normalized by a universal model, representing the resemblance of the acoustic representation x ⁇ of a segment of the vocal signal of a speaker ⁇ , knowing a reference speaker ⁇ j ;
  • T x is the number of frames or acoustic vectors of the speech segment x;
  • ⁇ j j is a probability representing the resemblance of the acoustic representation x ⁇ of a voice signal segment of a speaker ⁇ , knowing a reference speaker ⁇ j ;
  • p ( ⁇ ⁇ u BM ) is a probability representing the resemblance of the acoustic representation x ⁇ of a voice signal segment of a speaker ⁇ in the UBM world model;
  • M is the number of Gaussians of the relative GMM model, generally power of 2 between 16 and 1024;
  • D is the dimension of the acoustic space of the absolute GMM model;
  • x ⁇ is an acoustic vector of dimension D, ie vector of cepstral coefficients of a speech signal sequence of the speaker ⁇ in the absolute GMM model;
  • b k (x) represents, for k ⁇ l to D, Gaussian dens
  • ⁇ ⁇ represents components of the vector of average ⁇ ⁇ of dimension E of the resemblances ⁇ ( ⁇ ⁇ , ⁇ ⁇ J of the speaker ⁇ with respect to E reference speakers
  • ⁇ ". represents components of the covariance matrix ⁇ ⁇ of dimension ExE of the sets ⁇ ( ⁇ ⁇ , ⁇ ⁇ j of the speaker ⁇ with respect to the E reference speakers.
  • the analysis means 9 are connected by a connection 10 to learning means 11 making it possible to calculate the vocal representations , in the form of vectors of dimension D, E reference speakers in the GMM model chosen.
  • the learning means 11 are connected by a connection 12 to a database 13 comprising voice signals from a predetermined set of speakers and their associated voice representations in the GMM reference model.
  • the database 13 is connected by the connection 14 to the analysis means 9 and by a connection 15 to the acoustic treatment means 7.
  • the system further comprises a database 16 connected by a connection 17 to the acoustic treatment means 7 , and by a connection 18 to the analysis means 9.
  • the database 16 includes audio archives in the form of vocal articles, as well as the associated vocal representations in the GMM model chosen.
  • the database 16 is also able to store the associated representations of the audio articles calculated by the analysis means 9.
  • the learning means 11 are further connected by a connection 19 to the acoustic processing means 7.
  • the learning module 11 will determine the representations in the GMM reference model of the E reference speakers by means of the voice signals of these E reference speakers stored in the database 13, and of the acoustic processing means 7. This determination takes place according to relations (1) to (3) mentioned above.
  • This set of E reference speakers will represent the new acoustic representation space.
  • These representations of the E reference speakers in the GMM model are stored in memory, by example in database 13. All of this can be done offline.
  • the acoustic processing means 7 calculate a vocal representation of the speaker in the predetermined GMM model as explained previously in reference to relations (1) to (3) above.
  • the acoustic processing means 7 have calculated, for example offline, the vocal representations of a set of S test speakers and a set of T speakers in the predetermined GMM model. These sets are separate. These representations are stored in the database. 13.
  • the analysis means 9 calculate, for example offline, a vocal representation of the S speakers and T speakers compared to the E reference speakers.
  • This representation is a vector representation with respect to these E reference speakers, as described above.
  • the analysis means 9 also perform, for example offline, a vocal representation of the S speakers and T speakers compared to the E reference speakers, and a vocal representation of the articles of the speakers from the audio database.
  • This representation is a vector representation with respect to these E reference speakers.
  • the processing means 7 transmit the voice representation of the speaker ⁇ in the predetermined GMM model to the analysis means 9, which calculate a voice representation of the speaker ⁇ .
  • This representation is a probability density representation of the resemblances to the E reference speakers. It is calculated by introducing information a priori to the voice representations of T speakers. Indeed, the use of this a priori information makes it possible to keep a reliable estimate, even when the number of available speech segments of the speaker ⁇ is small.
  • We introduce information a priori by means of the following equations:
  • ⁇ ⁇ vector of mean of dimension E of resemblances ⁇ ( ⁇ ⁇ , ⁇ ⁇ J of speaker ⁇ with respect to E reference speakers;
  • N ⁇ number of segments of voice signals from speaker ⁇ represented by N ⁇ vectors of the space of resemblances to the predetermined set of E reference speakers;
  • ⁇ ⁇ vector of mean of dimension E of the resemblances ⁇ ( ⁇ ⁇ , ⁇ ⁇ ) of the speaker ⁇ with respect to the E reference speakers, with introduction of information a priori;
  • ⁇ ⁇ covariance matrix of dimension ExE of the resemblances ⁇ ( ⁇ ⁇ , ⁇ ⁇ ) of the speaker ⁇ with respect to
  • the analysis means 9 will compare the vocal representations of the request and of the articles of the base articles of the base by tests in identification and / or verification of the speakers.
  • the speaker identification test consists in evaluating a likelihood measure between the vector of the test segment w x and the set of representations of the articles in the audio base.
  • the speaker verification test consists in calculating a likelihood score between the vector of the test segment w x and the set of representations of the articles of the audio base normalized by its likelihood score with the representation of the information a priori.
  • the segment is authenticated if the score exceeds a given predetermined threshold, said score being given by the following relation:
  • This invention can also be applied to other uses, such as recognition or identification of a speaker.
  • This compact representation of a speaker makes it possible to drastically reduce the cost of computation, because there are much less elementary operations in view of the drastic reduction in the number of parameters necessary for the representation of a speaker. For example, for a request for 4 seconds of words from a speaker, that is to say 250 frames, for a GMM model of dimension 27, to 16 Gaussian the number of elementary operations is reduced by a factor of 540 , which greatly reduces the computation time.
  • the memory size used to store the representations of the speakers is significantly reduced. The invention therefore makes it possible to analyze the vocal signals of a speaker by drastically reducing the computation time and the storage memory size of the vocal representations of the speakers.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Acoustics & Sound (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Game Theory and Decision Science (AREA)
  • Business, Economics & Management (AREA)
  • Computational Linguistics (AREA)
  • Signal Processing (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Stereophonic System (AREA)

Abstract

Procédé d'analyse de signaux vocaux d'un locuteur (?.), dans lequel on utilise une densité de probabilité représentant les ressemblances entre une représentation vocale du locuteur (X) dans un modèle prédéterminé et un ensemble prédéterminé de représentations vocales d'un nombre E de locuteurs de référence dans ledit modèle prédéterminé, et on analyse la densité de probabilité pour en déduire des informations sur les signaux vocaux.

Description

Procédé et système d'analyse de signaux vocaux pour la représentation compacte de locuteurs.
La présente invention concerne un procédé et un dispositif d'analyse de signaux vocaux. L' analyse de signaux vocaux nécessite notamment de pouvoir représenter un locuteur. La représentation d'un locuteur par un mélange de gaussiennes ("Gaussian Mixture Model" ou GMM) est une représentation efficace de l'identité acoustique ou vocale d'un locuteur. Selon cette technique, il s'agit de représenter le locuteur, dans un espace acoustique de référence d'une dimension prédéterminée, par une somme pondérée d'un nombre prédéterminé de gaussiennes. Ce type de représentation est précis lorsque l'on dispose d'un grand nombre de données, et qu'il n'y a pas de contraintes physiques pour stocker les paramètres du modèle, ni pour exécuter des calculs sur ces nombreux paramètres. Or, en pratique, pour représenter un locuteur au sein de systèmes informatiques, il arrive que le temps de parole d'un locuteur soit court, et que la taille de la mémoire nécessaire à ces représentations, ainsi que les temps de calculs sur ces paramètres soient trop importants. Il est donc important de chercher à représenter un locuteur de manière à réduire drastiquement le nombre de paramètres nécessaires à sa représentation tout en gardant des performances correctes. On entend par performance le taux d'erreurs de séquences vocales non reconnues comme appartenant ou non à un locuteur par rapport au nombre total de séquences vocales. Des solutions en ce sens ont été proposées, notamment dans le document "SPEAKER INDEXING IN LARGE AUDIO DATABASES USING ANCHOR MODELS" par D.E. Sturim, D.A. Reynolds, E. Singer and J.P. Campbell. En effet, les auteurs proposent de représenter un locuteur, non plus de manière absolue dans un espace acoustique de référence, mais de manière relative par rapport à un ensemble prédéterminé de représentations de locuteurs de référence appelés également modèles d' ancrages, pour lesquels on dispose de modèles GMM-UBM (UBM pour "Universal Background Model"). On évalue la proximité entre un locuteur et les locuteurs de référence au moyen d'une distance euclidienne. Cela diminue énormément les charges de calcul, mais les performances sont encore limitées et insuffisantes. Au vu de ce qui précède, l'invention a pour but d'analyser des signaux vocaux en représentant les locuteurs par rapport à un ensemble prédéterminé de locuteurs de référence, avec un nombre de paramètre réduits diminuant les charges de calculs pour des application en temps réel, avec des performances acceptables, en comparaison d'une analyse utilisant une représentation par le modèle GMM-UBM. On peut alors par exemple effectuer des indexations de documents audio de grandes bases de données où le locuteur est la clé d'indexation. Ainsi, selon un aspect de l'invention, il est proposé un procédé d'analyse de signaux vocaux d'un locuteur (λ), utilisant une densité de probabilité représentant les ressemblances entre une représentation vocale du locuteur (λ) dans un modèle prédéterminé et un ensemble prédéterminé de représentations vocales d'un nombre E de locuteurs de référence dans ledit modèle prédéterminé, et on analyse la densité de probabilité pour en déduire des informations portant sur les signaux vocaux. Cela permet de diminuer drastiquement le nombre de paramètres utilisés, et permet à des dispositifs mettant en œuvre ce procédé de pouvoir travailler en temps réel, en diminuant le temps de calcul, en diminuant la taille de la mémoire nécessaire. Dans un mode de mise en œuvre préféré, on prend comme modèle prédéterminé un modèle absolu (GMM), de dimension D, utilisant un mélange de M gaussiennes pour lequel le locuteur (λ) est représenté par un ensemble de paramètres comprenant des coefficients de pondération ( αi5 i=l à M) du mélange de gaussiennes dans ledit modèle absolu (GMM), des vecteurs de moyenne ( μi 9 i=l à M) de dimension D et des matrices de covariance (∑i ? i=l à M) de dimension DxD. Dans un mode de mise en œuvre avantageux, on représente la densité de probabilité des ressemblances entre la représentation desdits signaux vocaux du locuteur (λ) et l'ensemble prédéterminé de représentations vocales des locuteurs de référence par une distribution gaussienne (ψ(μλ,∑λ)) de vecteur de moyenne ( μλ) de dimension E et de matrice de covariance ( ∑λ) de dimension ExE estimés dans l'espace des ressemblances à l' ensemble prédéterminé des E locuteurs de référence. Dans un mode de mise en œuvre préféré, l'on définit la ressemblance ( ψ(μλ,ΣλJ) du locuteur (λ) par rapport aux E locuteurs de référence, locuteur (λ) pour lequel on dispose de Nλ segments de signaux vocaux représentés par Nλ vecteurs de l'espace des ressemblances par rapport à l'ensemble prédéterminé des E locuteurs de référence, en fonction d'un vecteur de moyenne ( μλ) de dimension E et d'une matrice de covariance (∑λ) des ressemblances du locuteur (λ) par rapport aux E locuteurs de référence. Dans un mode de mise en œuvre avantageux, on introduit en outre des informations à priori dans les densités de probabilité des ressemblances (ψ(μλ,∑λj) par rapport aux E locuteurs de référence. Dans un mode de mise en œuvre préféré, la matrice de covariance du locuteur (λ) est indépendante dudit locuteur ( ∑λ = ∑) . Selon un autre aspect de l'invention, il est proposé un système d'analyse de signaux vocaux d'un locuteur (λ), comprenant des bases de données dans lesquelles sont stockés des signaux vocaux d'un ensemble prédéterminé de E locuteurs de référence et leurs représentations vocales associées dans un modèle prédéterminé, ainsi que des bases de données d'archives audio, caractérisé en ce qu'il comprend des moyens d'analyse des signaux vocaux utilisant une représentation vectorielle des ressemblances entre la représentation vocale du locuteur et l'ensemble prédéterminé de représentations vocales de E locuteurs de référence. Dans un mode de réalisation avantageux, les bases de données mémorisent également l'analyse des signaux vocaux effectuée par lesdits moyens d'analyse. L'invention peut s'appliquer à l'indexation de documents audio, toutefois d'autres applications peuvent également être envisagées, telles que l'identification acoustique d'un locuteur ou la vérification de l'identité d'un locuteur. D'autres buts, caractéristiques et avantages de l'invention apparaîtront à la lecture de la description suivante, donnée à titre d'exemple non limitatif, et faite en référence à l'unique dessin annexé illustrant une mise en application d'une utilisation du procédé pour l'indexation de documents audio. La figure représente une application du système selon un aspect de l'invention pour l'indexation de bases de données audio.
Bien entendu, l'invention s'applique également à l'identification acoustique d'un locuteur ou la vérification de l'identité d'un locuteur, c'est-à-dire, de manière générale, à la reconnaissance d'informations relatives au locuteur dans le signal acoustique. Le système comprend un moyen pour recevoir des données vocales d'un locuteur, par exemple un micro 1, relié par une connexion 2 avec ou sans fil à des moyens d'enregistrement 3 d'une requête énoncée par un locuteur λ et comprenant un ensemble de signaux vocaux. Les moyens d' enregistrement 3 sont reliés par une connexion 4 à des moyens de stockage 5 et, par une connexion 6, à des moyens de traitement acoustique 7 de la requête. Ces moyens de traitement acoustiques transforment les signaux vocaux du locuteur λ en une représentation dans un espace acoustique de dimension D par un modèle GMM de représentation du locuteur λ. Cette représentation est définie par une somme pondérée de M
dans lesquelles : D est la dimension de l'espace acoustique du modèle GMM absolu; x est un vecteur acoustique de dimension D, ie vecteur des coefficients cepstraux d'une séquence de signal vocal du locuteur λ dans le modèle GMM absolu ; M désigne le nombre de gaussiennes du modèle GMM absolu, généralement puissance de 2 comprise entre 16 et 1024 ; bi(x) désigne, pour i=l à D, densités gaussiennes, paramétrées par un vecteur de moyenne μ de dimension D et une matrice de covariance ∑j de dimension DxD; et ccj désigne, pour i=l à D représentent les coefficients de pondération du mélange de gaussiennes dans le modèle GMM absolu. Les moyens de traitement acoustique 7 de la requête sont reliés par une connexion 8 à des moyens d'analyse 9. Ces moyens d'analyse 9 sont aptes à représenter un locuteur par un vecteur de densité de probabilité représentant les ressemblances entre la représentation vocale dudit locuteur dans le modèle GMM choisi et des représentations vocales de E locuteurs de référence dans le modèle GMM choisi. Les moyens d'analyse 9 sont en outre aptes à effectuer des tests de vérification et/ou d'identification d'un locuteur. Pour réaliser ces tests, les moyens d' analyse procèdent à l' élaboration du vecteur de densités de probabilités, c' est-à-dire des ressemblances entre le locuteur et les locuteurs de référence. Il s' agit de décrire une représentation pertinente d'un seul segment x du signal du locuteur λ au moyen des équations suivantes :
dans lesquelles : wλ est un vecteur de l'espace des ressemblances à l' ensemble prédéterminé des E locuteurs de référence représentant le segment x dans cet espace de représentation ; plxλ λj] est une densité de probabilité ou probabilité normalisée par un modèle universel, représentant la ressemblance de la représentation acoustique xλ d' un segment de signal vocal d' un locuteur λ, sachant un locuteur de référence λj ;
Tx est le nombre de trames ou de vecteurs acoustiques du segment de parole x ; p(xλ|λjj est une probabilité représentant la ressemblance de la représentation acoustique xλ d' un segment de signal vocal d'un locuteur λ, sachant un locuteur de référence λj ; p(χλ λuBM) est une probabilité représentant la ressemblance de la représentation acoustique xλ d'un segment de signal vocal d'un locuteur λ dans le modèle du monde UBM; M est le nombre de gaussiennes du modèle GMM relatif, généralement puissance de 2 comprise entre 16 et 1024 ; D est la dimension de l'espace acoustique du modèle GMM absolu; xλ est un vecteur acoustique de dimension D, ie vecteur des coefficients cepstraux d'une séquence de signal vocal du locuteur λ dans le modèle GMM absolu; bk(x) représente, pour k≈l à D, des densités gaussiennes, paramétrées par un vecteur de moyenne μk de dimension D et une matrice de covariance ∑k de dimension DxD ; k représente, pour k=l à D, les coefficients de pondération du mélange de gaussiennes dans le modèle GMM absolu ; A partir des représentations Wj des segments de parole Xj (j=l,..,Nλ) du locuteur λ, on représente le locuteur λ par la distribution gaussienne ψ de paramètres μλ et ∑λ définis par les relations suivantes:
dans lesquelles μ^ représente des composantes du vecteur de moyenne μλ de dimension E des ressemblances ψ(μλ,ΣλJ du locuteur λ par rapport aux E locuteurs de référence, et Σ». représente des composantes de la matrice de covariance ∑λ de dimension ExE des ressembles ψ(μλ,∑λj du locuteur λ par rapport aux E locuteurs de référence. Les moyens d'analyse 9 sont reliés par une connexion 10 à des moyens d'apprentissage 11 permettant de calculer les représentations vocales, sous forme de vecteurs de dimension D, des E locuteurs de référence dans le modèle GMM choisi. Les moyens d' apprentissage 11 sont reliés par une connexion 12 à une base de données 13 comprenant des signaux vocaux d'un ensemble prédéterminé de locuteurs et leurs représentations vocales associées dans le modèle GMM de référence. Cette base de données peut également stocker le résultat de l'analyse de signaux vocaux de locuteurs initiaux excepté lesdits E locuteurs de référence. La base de données 13 est reliée par la connexion 14 aux moyens d'analyse 9 et par une connexion 15 aux moyens de traitement acoustique 7. Le système comprend en outre une base de données 16 reliée par une connexion 17 aux moyens de traitement acoustique 7, et par une connexion 18 aux moyens d'analyse 9. La base de données 16 comprend des archives audio sous formes d'articles vocaux, ainsi que les représentations vocales associées dans le modèle GMM choisi. La base de données 16 est également apte à stocker les représentations associées des articles audio calculées par les moyens d'analyse 9. Les moyens d'apprentissage 11 sont en outre reliés par une connexion 19 aux moyens de traitement acoustique 7. On va maintenant décrire un exemple de fonctionnement de ce système pouvant fonctionner en temps réel car le nombre de paramètres utilisés est nettement réduit par rapport au modèle GMM, et car beaucoup d'étapes peuvent être effectuées hors- ligne. Le module d'apprentissage 11 va déterminer les représentations dans le modèle GMM de référence des E locuteurs de référence au moyen des signaux vocaux de ces E locuteurs de référence stockés dans la base de données 13, et des moyens de traitement acoustique 7. Cette détermination s'effectue selon les relations (1) à (3) mentionnées ci-dessus. Cet ensemble de E locuteurs de référence va représenter le nouvel espace de représentation acoustique. Ces représentations des E locuteurs de référence dans le modèle GMM sont stockées en mémoire, par exemple dans la base de données 13. Tout cela peut être effectué hors-ligne. Lorsque l' on reçoit des données vocales d'un locuteur λ, par exemple par le micro 1, celles-ci sont transmises par la connexion 2 aux moyens d'enregistrement 3 aptes à effectuer le stockage de ces données dans les moyens de stockage 5 à l'aide de la connexion 4. Les moyens d'enregistrement 3 transmettent cet enregistrement aux moyens de traitement acoustique 7 par la connexion 6. Les moyens de traitement acoustique 7 calculent une représentation vocale du locuteur dans le modèle GMM prédéterminé comme exposé précédemment en référence aux relations (1) à (3) ci-dessus. En outre, les moyens de traitement acoustique 7 ont calculé, par exemple hors-ligne, les représentations vocales d'un ensemble de S locuteurs de test et d'un ensemble de T locuteurs dans le modèle GMM prédéterminé. Ces ensembles sont distincts. Ces représentations sont stockées dans la base. de données 13. Les moyens d'analyse 9 calculent, par exemple hors-ligne, une représentation vocale des S locuteurs et des T locuteurs par rapport aux E locuteurs de référence. Cette représentation est une représentation vectorielle par rapport à ces E locuteurs de référence, comme décrit précédemment. Les moyens d' analyse 9 effectuent également, par exemple hors-ligne, une représentation vocale des S locuteurs et des T locuteurs par rapport aux E locuteurs de référence, et une représentation vocale des articles des locuteurs de la base audio. Cette représentation est une représentation vectorielle par rapport à ces E locuteurs de référence. Les moyens de traitement 7 transmettent la représentation vocale du locuteur λ dans le modèle GMM prédéterminé aux moyens d'analyse 9, qui calculent une représentation vocale du locuteur λ. Cette représentation est une représentation par densité de probabilité des ressemblances aux E locuteurs de référence. Elle est calculée en introduisant de l'information à priori au moyen des représentations vocales de T locuteurs. En effet, l'utilisation de cette information à priori permet de garder une estimation fiable, même lorsque le nombre de segments de paroles disponibles du locuteur λ est faible. On introduit de l'information à priori au moyen des équations suivantes :
dans lesquelles : μλ : vecteur de moyenne de dimension E des ressemblances ψ(μλ,ΣλJ du locuteur λ par rapport aux E locuteurs de référence ;
Nλ : nombre de segments de signaux vocaux du locuteur λ représentés par Nλ vecteurs de l'espace des ressemblances à l'ensemble prédéterminé des E locuteurs de référence ; W : matrice de toutes les données initiales d'un ensemble de T locuteurs loc_i, pour i=l à T, dont les colonnes sont des vecteurs de dimension E représentant un segment de signal vocal représenté par un vecteur de l'espace des ressemblances à l'ensemble prédéterminé des E locuteurs de référence, chaque locuteur loc_i ayant N; segments vocaux, caractérisé par son vecteur de moyennes μ0 de dimension E, et par sa matrice de covariance Σ0 de dimension ExE ; μλ : vecteur de moyenne de dimension E des ressemblances ψ(μλ,∑λ) du locuteur λ par rapport aux E locuteurs de référence, avec introduction d'informations à priori; et ∑λ : matrice de covariance de dimension ExE des ressemblances ψ(μλ,∑λ) du locuteur λ par rapport aux E locuteurs de référence avec introduction d'informations à priori. On peut prendre de surcroît une unique matrice de covariance pour chaque locuteur, ce qui permet d'orthogonaliser ladite matrice hors-ligne, et les calculs de densités de probabilités seront alors effectués avec des matrices de covariance diagonales. Dans ce cas, cette unique matrice de covariance est définie selon les relations :
dans lesquelles
W est une matrice de toutes les données initiales d'un ensemble de T locuteurs loc_i, pour i=l à T, dont les colonnes sont des vecteurs de dimension E représentant un segment de signal vocal représenté par un vecteur de l'espace des ressemblances à l'ensemble prédéterminé des E locuteurs de référence, chaque locuteur loc_i ayant N; segments vocaux, caractérisé par son vecteur de moyennes μ0 de dimension E, et par sa matrice de covariance Σ0 de dimension ExE. Ensuite les moyens d' analyse 9 vont comparer les représentations vocales de la requête et des articles de la base articles de la base par des tests en identification et/ou vérification du locuteurs. Le test en identification de locuteur consiste à évaluer une mesure de vraisemblance entre le vecteur du segment de test wx et l'ensemble des représentations des articles de la base audio. Le locuteur identifié correspond à celui qui donne un score de vraisemblance maximal, soit λ = arg ma p(wx μλ,∑λ) (14) parmi l'ensemble des S locuteurs. Le test en vérification de locuteur consiste à calculer un score de vraisemblance entre le vecteur du segment de test wx et l'ensemble des représentations des articles de la base audio normalisé par son score de vraisemblance avec la représentation de l'information à priori. Le segment est authentifié si le score excède un seuil donné prédéterminé, ledit score étant donné par la relation suivante:
Chaque fois que le locuteur λ est reconnu dans un article de la base, on indexe cet article au moyen d'une information permettant de savoir que le locuteur λ parle dans cet article audio. On peut également appliquer cette invention à d'autres utilisations, comme la reconnaissance ou l'identification d'un locuteur. Cette représentation compacte d'un locuteur permet de réduire de façon drastique le coût de calcul, car il y a beaucoup moins d' opération élémentaires au vu de la réduction drastique du nombre de paramètres nécessaires à la représentation d'un locuteur. Par exemple, pour une requête de 4 secondes de paroles d'un locuteur, c' est-à-dire 250 trames, pour un modèle GMM de dimension 27, à 16 gaussiennes le nombre d'opérations élémentaires est réduit d'un facteur 540, ce qui réduit énormément le temps calcul. En outre, la taille de mémoire utilisée pour stocker les représentations des locuteurs est nettement réduite. L'invention permet donc d'analyser des signaux vocaux d'un locuteur en réduisant de manière drastique le temps de calcul et la taille mémoire de stockage des représentations vocales des locuteurs.

Claims

REVENDICATIONS
1. Procédé d' analyse de signaux vocaux d'un locuteur (λ), caractérisé en ce que l'on utilise une densité de probabilité représentant les ressemblances entre une représentation vocale du locuteur (λ) dans un modèle prédéterminé et un ensemble prédéterminé de représentations vocales d'un nombre E de locuteurs de référence dans ledit modèle prédéterminé, et on analyse la densité de probabilité pour en déduire des informations sur les signaux vocaux.
2. Procédé selon la revendication 1, caractérisé en ce que l'on prend comme modèle prédéterminé un modèle absolu (GMM), de dimension D, utilisant un mélange de M gaussiennes pour lequel le locuteur (λ) est représenté par un ensemble de paramètres comprenant des coefficients de pondération ( αi5 i=l à
M) du mélange de gaussiennes dans ledit modèle absolu (GMM), des vecteurs de moyenne ( μi 5 i=l à M) de dimension D et des matrices de covariance ∑{, i=l à M) de dimension DxD.
3. Procédé selon la revendication 2, caractérisé en ce que l' on représente la densité de probabilité des ressemblances entre la représentation desdits signaux vocaux du locuteur (λ) et l'ensemble prédéterminé de représentations vocales des locuteurs de référence par une distribution gaussienne (ψ(μλ,∑λj) de vecteur de moyenne ( μλ) de dimension E et de matrice de covariance ( ∑λ) de dimension ExE estimés dans l'espace des ressemblances à l'ensemble prédéterminé des E locuteurs de référence.
4. Procédé selon la revendication 3, caractérisé en ce que l'on définit la ressemblance ( ψ(μλ,∑λj) du locuteur (λ) par rapport aux E locuteurs de référence, locuteur (λ) pour lequel on dispose de Nλ segments de signaux vocaux représentés par Nλ vecteurs de l' espace des ressemblances par rapport à l'ensemble prédéterminé des E locuteurs de référence, en fonction d'un vecteur de moyenne ( μλ) de dimension E et d'une matrice de covariance ( ∑λ) des ressemblances du locuteur (λ) par rapport aux E locuteurs de référence.
5. Procédé selon la revendication 4, caractérisé en ce que l'on introduit en outre des informations à priori dans les densités de probabilité des ressemblances ( ψfμλ,∑λj) par rapport aux E locuteurs de référence.
6. Procédé selon la revendication 5, caractérisé en ce que la matrice de covariance du locuteur (λ) est indépendante dudit locuteur ( ∑λ = Σ) .
7. Système d'analyse de signaux vocaux d'un locuteur (λ), comprenant des bases de données dans lesquelles sont stockés des signaux vocaux d'un ensemble prédéterminé de locuteurs et leurs représentations vocales associées dans un modèle prédéterminé par mélange de gaussiennes, ainsi que des bases de données d'archives audio, caractérisé en ce qu'il comprend des moyens d'analyse des signaux vocaux utilisant une représentation vectorielle des ressemblances entre la représentation vocale du locuteur (λ) et l'ensemble prédéterminé de représentations vocales de E locuteurs de référence.
8. Système selon la revendication 7, caractérisé en ce que les bases de données mémorisent également l'analyse des signaux vocaux effectuée par lesdits moyens d'analyse.
9. Utilisation d'un procédé selon l'une quelconque des revendications 1 à 6, pour une indexation de documents audio.
10. Utilisation d'un procédé selon l'une quelconque des revendications 1 à 6, pour une identification d'un locuteur.
11. Utilisation d'un procédé selon l'une quelconque des revendications 1 à 6, pour une vérification d'un locuteur.
EP03748194A 2003-07-01 2003-07-01 Procede et systeme d'analyse de signaux vocaux pour la representation compacte de locuteurs Withdrawn EP1639579A1 (fr)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/FR2003/002037 WO2005015547A1 (fr) 2003-07-01 2003-07-01 Procede et systeme d'analyse de signaux vocaux pour la representation compacte de locuteurs

Publications (1)

Publication Number Publication Date
EP1639579A1 true EP1639579A1 (fr) 2006-03-29

Family

ID=34130575

Family Applications (1)

Application Number Title Priority Date Filing Date
EP03748194A Withdrawn EP1639579A1 (fr) 2003-07-01 2003-07-01 Procede et systeme d'analyse de signaux vocaux pour la representation compacte de locuteurs

Country Status (7)

Country Link
US (1) US7539617B2 (fr)
EP (1) EP1639579A1 (fr)
JP (1) JP4652232B2 (fr)
KR (1) KR101011713B1 (fr)
CN (1) CN1802695A (fr)
AU (1) AU2003267504A1 (fr)
WO (1) WO2005015547A1 (fr)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1881443B1 (fr) * 2003-10-03 2009-04-08 Asahi Kasei Kogyo Kabushiki Kaisha Unité, procédé et programme de traitement de données
ATE491202T1 (de) * 2006-05-16 2010-12-15 Loquendo Spa Kompensation der variabilität zwischen sitzungen zur automatischen extraktion von informationen aus sprache
JP4717872B2 (ja) * 2006-12-06 2011-07-06 韓國電子通信研究院 話者の音声特徴情報を利用した話者情報獲得システム及びその方法
AU2007335251B2 (en) 2006-12-19 2014-05-15 Validvoice, Llc Confidence levels for speaker recognition
CN102237084A (zh) * 2010-04-22 2011-11-09 松下电器产业株式会社 声音空间基准模型的在线自适应调节方法及装置和设备
US8635067B2 (en) * 2010-12-09 2014-01-21 International Business Machines Corporation Model restructuring for client and server based automatic speech recognition
US9595260B2 (en) * 2010-12-10 2017-03-14 Panasonic Intellectual Property Corporation Of America Modeling device and method for speaker recognition, and speaker recognition system
JP6556575B2 (ja) 2015-09-15 2019-08-07 株式会社東芝 音声処理装置、音声処理方法及び音声処理プログラム
CA3172758A1 (fr) * 2016-07-11 2018-01-18 FTR Labs Pty Ltd Procede et systeme de consignation automatique d'enregistrement sonore

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2105034C (fr) * 1992-10-09 1997-12-30 Biing-Hwang Juang Systeme de verification de haut-parleurs utilisant l'evaluation normalisee de cohortes
US5664059A (en) * 1993-04-29 1997-09-02 Panasonic Technologies, Inc. Self-learning speaker adaptation based on spectral variation source decomposition
US5793891A (en) * 1994-07-07 1998-08-11 Nippon Telegraph And Telephone Corporation Adaptive training method for pattern recognition
JPH08110792A (ja) * 1994-10-12 1996-04-30 Atr Onsei Honyaku Tsushin Kenkyusho:Kk 話者適応化装置及び音声認識装置
US5864810A (en) * 1995-01-20 1999-01-26 Sri International Method and apparatus for speech recognition adapted to an individual speaker
US5790758A (en) * 1995-07-07 1998-08-04 The United States Of America As Represented By The Secretary Of The Navy Neural network architecture for gaussian components of a mixture density function
US5835890A (en) * 1996-08-02 1998-11-10 Nippon Telegraph And Telephone Corporation Method for speaker adaptation of speech models recognition scheme using the method and recording medium having the speech recognition method recorded thereon
US6029124A (en) * 1997-02-21 2000-02-22 Dragon Systems, Inc. Sequential, nonparametric speech recognition and speaker identification
US6212498B1 (en) * 1997-03-28 2001-04-03 Dragon Systems, Inc. Enrollment in speech recognition
US6009390A (en) * 1997-09-11 1999-12-28 Lucent Technologies Inc. Technique for selective use of Gaussian kernels and mixture component weights of tied-mixture hidden Markov models for speech recognition
US5946656A (en) * 1997-11-17 1999-08-31 At & T Corp. Speech and speaker recognition using factor analysis to model covariance structure of mixture components
US6141644A (en) * 1998-09-04 2000-10-31 Matsushita Electric Industrial Co., Ltd. Speaker verification and speaker identification based on eigenvoices
US6411930B1 (en) * 1998-11-18 2002-06-25 Lucent Technologies Inc. Discriminative gaussian mixture models for speaker verification
US20010044719A1 (en) * 1999-07-02 2001-11-22 Mitsubishi Electric Research Laboratories, Inc. Method and system for recognizing, indexing, and searching acoustic signals
US6954745B2 (en) * 2000-06-02 2005-10-11 Canon Kabushiki Kaisha Signal processing system
US7035790B2 (en) * 2000-06-02 2006-04-25 Canon Kabushiki Kaisha Speech processing system
US6754628B1 (en) * 2000-06-13 2004-06-22 International Business Machines Corporation Speaker recognition using cohort-specific feature transforms

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See references of WO2005015547A1 *

Also Published As

Publication number Publication date
US20060253284A1 (en) 2006-11-09
CN1802695A (zh) 2006-07-12
AU2003267504A1 (en) 2005-02-25
KR101011713B1 (ko) 2011-01-28
JP2007514959A (ja) 2007-06-07
WO2005015547A1 (fr) 2005-02-17
US7539617B2 (en) 2009-05-26
KR20060041208A (ko) 2006-05-11
JP4652232B2 (ja) 2011-03-16

Similar Documents

Publication Publication Date Title
Li et al. Cn-celeb: multi-genre speaker recognition
Kabir et al. A survey of speaker recognition: Fundamental theories, recognition methods and opportunities
US7245767B2 (en) Method and apparatus for object identification, classification or verification
US10706857B1 (en) Raw speech speaker-recognition
US6253179B1 (en) Method and apparatus for multi-environment speaker verification
EP2351023B1 (fr) Vérification du locuteur
Deshpande et al. Classification of music signals in the visual domain
US20140195237A1 (en) Fast, language-independent method for user authentication by voice
CN109243487B (zh) 一种归一化常q倒谱特征的回放语音检测方法
EP2202723B1 (fr) Procédé et système pour authentifier un locuteur
CN110534101B (zh) 一种基于多模融合深度特征的移动设备源识别方法及系统
JPH11507443A (ja) 話者確認システム
Peri et al. Robust speaker recognition using unsupervised adversarial invariance
Liu et al. A Spearman correlation coefficient ranking for matching-score fusion on speaker recognition
US20160019897A1 (en) Speaker recognition from telephone calls
Shim et al. Replay spoofing detection system for automatic speaker verification using multi-task learning of noise classes
WO2005015547A1 (fr) Procede et systeme d'analyse de signaux vocaux pour la representation compacte de locuteurs
Fathan et al. Mel-spectrogram image-based end-to-end audio deepfake detection under channel-mismatched conditions
Pandey et al. Cell-phone identification from audio recordings using PSD of speech-free regions
Abualadas et al. Speaker identification based on hybrid feature extraction techniques
US7516071B2 (en) Method of modeling single-enrollment classes in verification and identification tasks
CN113284508B (zh) 基于层级区分的生成音频检测系统
Thebaud et al. Spoofing speaker verification with voice style transfer and reconstruction loss
Büker et al. Deep convolutional neural networks for double compressed AMR audio detection
Zi et al. BSML: Bidirectional Sampling Aggregation-based Metric Learning for Low-resource Uyghur Few-shot Speaker Verification

Legal Events

Date Code Title Description
PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

17P Request for examination filed

Effective date: 20051219

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IT LI LU MC NL PT RO SE SI SK TR

DAX Request for extension of the european patent (deleted)
GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

GRAC Information related to communication of intention to grant a patent modified

Free format text: ORIGINAL CODE: EPIDOSCIGR1

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE APPLICATION IS DEEMED TO BE WITHDRAWN

18D Application deemed to be withdrawn

Effective date: 20110329