EP1999998B1 - Procede de synthese binaurale prenant en compte un effet de salle - Google Patents

Procede de synthese binaurale prenant en compte un effet de salle Download PDF

Info

Publication number
EP1999998B1
EP1999998B1 EP07731711A EP07731711A EP1999998B1 EP 1999998 B1 EP1999998 B1 EP 1999998B1 EP 07731711 A EP07731711 A EP 07731711A EP 07731711 A EP07731711 A EP 07731711A EP 1999998 B1 EP1999998 B1 EP 1999998B1
Authority
EP
European Patent Office
Prior art keywords
amplitude
delay
brir filter
samples
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
EP07731711A
Other languages
German (de)
English (en)
Other versions
EP1999998A1 (fr
Inventor
Julien Faure
Alexandre Guerin
Rozenn Nicol
Grégory PALLONE
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Orange SA
Original Assignee
France Telecom SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by France Telecom SA filed Critical France Telecom SA
Publication of EP1999998A1 publication Critical patent/EP1999998A1/fr
Application granted granted Critical
Publication of EP1999998B1 publication Critical patent/EP1999998B1/fr
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S1/00Two-channel systems
    • H04S1/002Non-adaptive circuits, e.g. manually adjustable or static, for enhancing the sound image or the spatial distribution
    • H04S1/005For headphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/01Multi-channel, i.e. more than two input channels, sound reproduction with two speakers wherein the multi-channel information is substantially preserved
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S3/00Systems employing more than two channels, e.g. quadraphonic
    • H04S3/002Non-adaptive circuits, e.g. manually adjustable or static, for enhancing the sound image or the spatial distribution
    • H04S3/004For headphones

Definitions

  • the term "binaural” aims at the reproduction on a stereo headset, or a pair of headphones, of a sound signal with nevertheless spatialization effects.
  • the invention is however not limited to the aforementioned technique and applies, in particular, to techniques derived from “binaural” such as “transaural” rendering techniques, that is to say on remote speakers .
  • TRANSAURAL ® is a registered trademark of COOPER BAUCK CORPORATION.
  • a specific application of the invention is, for example, the enrichment of audio contents by effectively applying acoustic transfer functions of the head of a listener to monophonic signals, in order to plunge the latter into a 3D sound scene , including in particular a room effect.
  • the transfer function, or filter, of a sound signal between a position of a sound source in space and the two ears of a listener is designated HRTF "H ead R elated T ransfer F unction” in English in its frequency and form HRIR "H ead R elated I mpulse R esponse” in English in its temporal form.
  • HRTF H ead R elated T ransfer F unction
  • HRIR H ead R elated I mpulse R esponse
  • the binaural technique consists in applying such acoustic transfer functions of the head to monophonic audio signals, in order to obtain a stereophonic signal which, when listening to the headphones, to have the feeling that the sound sources come from a particular direction of space.
  • the signal from the right ear is obtained by filtering the monophonic signal by the HRTF of the right ear and the left ear signal is obtained by filtering the same monophonic signal by the HRTF of the left ear.
  • the US patent US 5,438,623 discloses an example of a 3D audio channel spatialization method in which such synthetic HRTF functions are derived from experimental data and / or a model of a spherical head.
  • the aforementioned binaural techniques can be used, for example, to simulate a 5.1-type 3D rendering of the headphones.
  • this technique at each loudspeaker position of the "surround" system in English, or multi-speaker, corresponds a pair of HRTF, an HRTF for the left ear and an HRTF for the right ear.
  • the sum of the 5 channels of the 5.1 mode signal convoluted by the 5 HRTF filters for each listener's ear provides two right and left binaural channels, which simulate the 5.1 mode for listening on an audio headset.
  • the spatialization of the sources is done independently of each other.
  • a pair of HRTF filters is associated with each source.
  • the filtering can be carried out either in the time domain, in the form of a convolution product, or in the frequency domain, in the form of a complex multiplication, or in any other transformed domain, such as the PQMF domain for P seudo Q uadrature M irror F ilter in English for example.
  • the multi-channel binaural implementation is an alternative to the bi-channel implementation offering a more efficient implementation that consists of a linear decomposition of the HRTFs, in the form of a sum of products of directional functions (encoding gains). and elementary filters (decoding filters).
  • This decomposition makes it possible to separate the encoding and decoding steps, the number of filters then being independent of the number of sources to be spatialized.
  • the elementary filters can in turn be modeled by a minimal phase filter and a pure delay to simplify their implementation. It is also possible to extract the delays from the original HRTFs and integrate them separately into the encoding.
  • the object of the present invention is to overcome the aforementioned drawbacks of the prior art and is defined by the method of claim 1 and the computer program of claim 11.
  • an object of the present invention is to provide a method for calculating BRIR filter modeling parameters, HRIR filters taking into account a room effect of the prior art, these parameters comprising one or more delays possibly associated with gains and at least one amplitude spectrum, to allow an efficient implementation either in the time domain, or in the frequency domain or transformed.
  • the method of 3D spatialization of audio channels, from at least one acoustic filter transfer function incorporating a room effect, object of the present invention is remarkable in that it consists at least, for a number of specific samples corresponding to the size of the impulse response of the transfer function, to decompose this transfer function into at least one set of delay and amplitude values associated with amplitude peaks, to extract on this number of samples at least one spectral module of the transfer function, to constitute from each successive delay of its amplitude and associated spectral module an elementary transfer function directly applied to the audio channels in the time domain, frequency or transformed.
  • the method which is the subject of the invention is also remarkable in that the extraction of each spectral module is performed by a time-frequency transformation.
  • This modulation of the spectral module as a function of the applied delay makes it possible to implement a reconstruction of the BRIR filter much closer to the original BRIR filter.
  • each elementary transfer function in each frequency sub-band of rank k is formed by a complex multiplication, whether or not the delay associated with each amplitude peak includes a actual value of gain, and by a pure delay, increased by the lag gap with respect to the delay allocated to the first sample corresponding to the time of arrival of the direct sound wave.
  • a n indicates the amplitude of the sample of rank n and A Mx indicates the amplitude of each amplitude peak, ⁇ x denoting the delay associated with each of the corresponding amplitude peaks.
  • the decomposition of the BRIR filter in step A is carried out by a delay detection process by detection of the amplitude peaks, at the first amplitude peak being associated with the delay ⁇ 0 corresponding to the moment of arrival of the direct sound wave.
  • All methods of filtering from a minimum phase filter or not, associated with all methods of implementation of delays may be suitable for the proposed decomposition.
  • the method which is the subject of the invention can for example be combined with a multichannel implementation of the binaural 3D spatialization.
  • the aforementioned embodiment is implemented in the context of the decomposition of BRIR filters for an efficient implementation in the field of complex temporal subbands more particularly but in a nonlimiting manner the complex PQMF domain.
  • Such an implementation can be used by a decoder defined by the MPEG surround standard, in order to obtain a binaural 3D rendering of type 5.1.
  • 5.1 is defined by the MPEG spatial audio coding standard ISO / IEC 23003-1 (doc N7947).
  • the aforementioned embodiment can be transposed to the time domain, that is to say to the domain not transformed into sub-bands or to any other another transformed domain.
  • not NOT performing a first substep, denoted by A 0 , of identifying the temporal sample rank indices whose amplitude value is greater than a threshold value denoted V in step A 01 of the figure 3a .
  • the comparison A n > V is carried out for each sample of the N samples successively by returning to step A 01 via the substep A 02 successively on the N samples.
  • Step A 0 is followed by a step A 1 of determining whether the time samples whose amplitude is greater than the threshold value V corresponding to isolated amplitude peaks by calculating a difference vector I ' which represents the difference between the first offset vector I i + 1 and the first vector I i .
  • Step A 1 is then followed by a step A 2 of calculating a second vector P grouping the isolated amplitude peak indices on the number N of samples for a difference threshold defined by a specific value W.
  • the index and the amplitude of any new maximum amplitude sample are stored in the form of a delay index vector and an amplitude vector.
  • BRIR ca. t BRIR t .
  • Step A 0 then consists of finding all the indices of the samples whose envelope value is greater than the threshold value V.
  • the threshold value V is itself a function of the energy of the time envelope of the BRIR filter.
  • C is a constant fixed at 1 for example.
  • a vector I i of size K is stored, where K is the number of samples whose absolute value of the amplitude exceeds the threshold value V to constitute the first vector.
  • the index of the following peaks corresponds to the indices increased by 1 of the values of I 'which exceed a threshold of difference defined by a value W.
  • W can be set to the value 20.
  • FIG. figure 3d A representation of normalized amplitudes, peaks of amplitude and their successive delay position with respect to the first amplitude peak to which the delay ⁇ 0 is allocated, is represented in FIG. figure 3d .
  • delays and gains are applied to the complex samples, as will be described later in the description.
  • each spectral module of the BRIR filter is defined in each sub-band as at least one actual value of gain representative of the energy of the BRIR filter in said sub-band.
  • the weighting window is centered on the central frequency of the sub-band k and the frequency f1 is less than or equal to the starting frequency of the sub-band k.
  • each delay is associated with a spectral module.
  • the value of each spectral module is defined in each sub-band as at least one gain value representative of the energy of the partial BRIR filter in said sub-band, this gain value being a function of the applied delay as a function of the index of each amplitude peak sample, from the index and amplitude vector.
  • the gains G (k, n) are modulated and can therefore vary with each new I applied delay.
  • BRIR * (f, I) is the Fourier transform of the windowed BRIR (t) temporal filter between the samples D '(1) -Z and D' (1 + 1), the calculated spectral energy being that of the partial BRIR filter thus windowed, and completed by 0 to obtain 8192 samples.
  • the second embodiment above remarkably allows a reconstruction much closer to the transfer function or BRIR filter of origin and in particular to take into account each of the delays caused by the successive reflections in the room, which allows to obtain a room effect effect particularly powerful and realistic.
  • each elementary BRIR filter in each frequency subband k can then advantageously be formed by a complex multiplication, including a real value of gain, whether or not the delay applied as a function of the index of each sample of amplitude peak, according to the first or the second retained embodiment previously described in the description.
  • the elementary BRIR filter is also formed by a pure delay plus the delay difference with respect to the delay ⁇ 0 allocated to the first amplitude peak. This delay can then be implemented via a delay line applied to the product obtained by the rotation in the form of complex multiplication mentioned above.
  • E (k, n) denotes the nth complex sample of the subband k considered
  • S (k, n) denotes the nth sample of the subband k after application of the gains and the delays
  • M is the number of sub-bands
  • d (I) and D (I) are such that they correspond to the application of the I th delay of D (I) M + d (I) samples in the non-subsampled time domain.
  • the delay D (I) M + d (I) corresponds to the values of D '(I) calculated according to the amplitude peak detection process previously described in connection with the Figures 3a to 3d .
  • a (I) denotes the amplitude of the peak associated with the corresponding delay
  • G (k, n) denotes the real gain applied to the nth complex sample of the sub-band SB k of rank k considered.
  • L is the number of peaks detected
  • r is an integer between 1 and R.
  • the late reverberation phenomenon can also be processed by a delay line added to the treatment of the first reflections.
  • the invention finally covers a computer program comprising a series of instructions stored on a storage medium of a computer or a dedicated 3D sound spatialization device of remarkable audio signals in that, when executed, this computer program executes the 3D sound spatialization method from at least one BRIR filter comprising a room effect previously described in the description in connection with the figures 2 and 3a to 3d .
  • the above-mentioned computer program can be a directly executable program implanted in the permanent memory of a computer or a binaural synthesis device of a room effect in spatial sound spatialisation.

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Stereophonic System (AREA)

Abstract

Un procédé de spatialisation 3D de canaux audio à partir d'un filtre BRIR incorporant un effet de salle. Pour un nombre N d'échantillons spécifique taille de la réponse impulsionnelle du filtre BRIR, il consiste à décomposer (A) le filtre BRIR en au moins un ensemble de valeurs de retard et d'amplitude associées aux instants d'arrivée des réflexions, extraire (B) sur le nombre N d'échantillons au moins un module spectral du filtre BRIR, et constituer (C) à partir de chaque retard successif, de son amplitude et de son module spectral associés un filtre BRIR élémentaire (BRIRe) directement appliqué aux canaux audio dans le domaine temporel, fréquentiel ou transformé. Application à la spatialisation binaurale bi- ou multicanale.

Description

  • L'invention est relative à la spatialisation sonore, dite rendu 3D, de signaux audio, intégrant en particulier un effet de salle, notamment dans le domaine des techniques binaurales.
  • Ainsi, le terme « binaural » vise la restitution sur un casque stéréophonique, ou une paire d'écouteurs, d'un signal sonore avec néanmoins des effets de spatialisation. L'invention ne se limite toutefois pas à la technique précitée et s'applique, notamment, à des techniques dérivées du « binaural » telles que les techniques de restitution « transaurale », c'est-à-dire sur des haut-parleurs distants. TRANSAURAL® est une marque de commerce déposée par la société COOPER BAUCK CORPORATION.
  • Une application spécifique de l'invention est, par exemple, l'enrichissement des contenus audio en appliquant de manière efficace des fonctions de transfert acoustique de la tête d'un auditeur à des signaux monophoniques, afin de plonger ce dernier dans une scène sonore 3D, incluant en particulier un effet de salle.
  • Pour la mise en oeuvre des techniques « binaurales » sur casque ou haut-parleurs, on définit la fonction de transfert, ou filtre, d'un signal sonore entre une position d'une source sonore dans l'espace et les deux oreilles d'un auditeur. La fonction de transfert acoustique de la tête précitée est désignée HRTF pour « Head Related Transfer Function » en anglais dans sa forme fréquentielle et HRIR pour « Head Related Impulse Response » en anglais dans sa forme temporelle. Pour une direction de l'espace, on obtient au final deux HRTF : une pour l'oreille droite et une pour l'oreille gauche.
  • En particulier, la technique binaurale consiste à appliquer de telles fonctions de transfert acoustique de la tête à des signaux audio monophoniques, afin d'obtenir un signal stéréophonique qui permet, lors d'une écoute au casque, d'avoir la sensation que les sources sonores proviennent d'une direction particulière de l'espace. Le signal de l'oreille droite est obtenu en filtrant le signal monophonique par la HRTF de l'oreille droite et le signal de l'oreille gauche est obtenu en filtrant ce même signal monophonique par la HRTF de l'oreille gauche.
  • Le brevet américain US 5,438,623 décrit un exemple de procédé de spatialisation 3D de canaux audio dans lequel de telles fonctions HRTF synthétiques sont dérivées à partir de données expérimentales et/ou d'un modèle d'une tête sphérique.
  • Les paramètres physiques essentiels qui permettent de caractériser ces fonctions de transfert sont :
    • l'ITD pour « Interaural Time Difference » en anglais, défini comme la différence interaurale de temps d'arrivée des ondes sonores d'une même source sonore entre l'oreille gauche et l'oreille droite de l'auditeur. L'ITD est principalement lié à la phase des HRTF ;
    • le module spectral, qui permet notamment de percevoir des différences de niveau entre l'oreille gauche et l'oreille droite en fonction de la fréquence ;
    • lorsque les HRTF, ou les HRIR, de la tête de l'auditeur ne sont pas considérées comme correspondant à des conditions de propagation sonore en champ libre (condition anéchoïque), les fonctions de transfert précitées peuvent prendre en compte des phénomènes de réflexion diffusion, diffraction, lesquels correspondent à la réponse acoustique de la salle dans laquelle ces fonctions de transfert ont été mesurées ou simulées. Les fonctions de transfert précitées sont alors appelées BRIR pour « Binaural Room Impulse Response » en anglais dans leur forme temporelle.
  • Les techniques binaurales précitées peuvent être par exemple employées pour simuler un rendu 3D de type 5.1 au casque d'écoute. Dans cette technique, à chaque position de haut-parleur du système « surround » en anglais, ou multi haut-parleurs, correspond un couple de HRTF, une HRTF pour l'oreille gauche et une HRTF pour l'oreille droite. La somme des 5 canaux du signal en mode 5.1 convolués par les 5 filtres HRTF pour chaque oreille d'un auditeur permet d'obtenir deux canaux binauraux droit et gauche, lesquels simulent le mode 5.1 pour une écoute sur un casque d'écoute audio.
  • On parle dans cette situation de « binaural virtual surround » en anglais pour spatialisation binaurale simulant un système multi haut-parleurs.
  • Lorsque, dans le rendu 3D, l'on prend en compte le fait, pour l'auditeur, de percevoir les sources sonores plus ou moins éloignées de la tête, phénomène connu sous le nom d'externalisation, et ce de manière indépendante de la direction de provenance des sources sonores, il arrive fréquemment, dans un rendu 3D binaural, que les sources soient perçues à l'intérieur de la tête par l'auditeur. La source ainsi perçue est dite non externalisée.
  • Différents travaux ont montré que l'ajout d'un effet de salle dans les méthodes de rendu 3D binaurales permet d'augmenter considérablement l'externalisation des sources sonores. Confer, notamment, D. R. Begault et E. M. Wenzel, "Direct comparison of the impact of head tracking, reverberation, and individualized head-related transfer functions on the spatial perception of a virtual speech source". J. Audio Eng. Soc., vol. 49, n° 10,2001.
  • Actuellement, il existe deux méthodes principales, permettant d'intégrer l'effet de salle aux HRIR :
    • la première, relative à l'effet de salle réel, consiste à mesurer des HRIR dans une salle non anéchoïque, comportant donc un effet de salle. Les HRIR obtenues, qui ne sont autres que des BRIR, doivent être d'une durée suffisamment longue pour intégrer les premières réflexions sonores, durée supérieure à 500 échantillons temporels pour une fréquence d'échantillonnage de 44 100 Hz, mais cette durée doit être encore plus importante, c'est-à-dire supérieure à 20 000 échantillons temporels à la même fréquence d'échantillonnage, si on veut intégrer l'effet de réverbération tardive. On note toutefois que les BRIR précitées peuvent être obtenues de manière équivalente par la convolution des HRIR mesurées en environnement anéchoïque avec l'effet de salle désiré, représenté par la réponse impulsionnelle de la salle ;
    • la deuxième, relative à l'effet de salle artificiel, est issue de l'acoustique virtuelle et consiste à intégrer l'effet de salle au HRIR, de manière synthétique. Cette opération est réalisée grâce à des spatialisateurs qui introduisent des effets de réverbération artificielle. L'inconvénient de telles méthodes est que l'obtention d'un rendu réaliste nécessite une puissance de calcul importante.
  • En ce qui concerne la spatialisation sonore « binaurale » une méthode courante consiste à modéliser les filtres binauraux, en décomposant les HRTF, ou les HRIR, en une composante à phase minimale (filtre à phase minimale déterminé par le module spectral de la HRTF) et un retard pur. Pour une description plus détaillée d'une telle méthode, on pourra utilement se reporter aux articles de D. J. Kistler et F. L. Wightman, « A model of head-related transfer functions based on principal components analysis and minimum-phase reconstruction » J. Acoustic Soc. Am. 91 (3) p 1637-1647, 1992 et de Kulkarni A. et al. « On the minimum-phase approximation of head-related functions » 1995 IEEE ASSP Workshop on Applications of Signal Processing Audio and Acoustics (IEEE catalog number: 95TH8144).
  • La différence de retard observée entre les HRTF ou les HRIR de l'oreille gauche et de l'oreille droite correspond alors à l'indice de localisation ITD. Il existe différentes méthodes pour extraire les retards des HRIR ou HRTF. Les principales méthodes sont décrites par S. Busson « Individualisation d'indices acoustiques pour la synthèse binaurale » Thèse de doctorat de l'Université de la Méditerranée Aix-Marseille II, 2006.
  • Le module spectral est obtenu en prenant le module de la transformée de Fourier des HRIR. Le nombre de coefficients peut alors être réduit, par exemple en moyennant l'énergie sur un nombre réduit de bandes de fréquences, par exemple selon des techniques de lissage fréquentiel basées sur les propriétés d'intégration du système auditif.
  • Indépendamment de la façon dont sont modélisés les filtres HRTF ou HRIR, le cas échéant BRIR, il existe plusieurs méthodes d'implémentation de la spatialisation sonore binaurale.
  • Parmi celles-ci, la méthode la plus simple et la plus directe est l'implémentation bi-canale du binaural, représentée en figure 1.
  • Selon cette méthode, la spatialisation des sources se fait de façon indépendante les unes des autres. Une paire de filtres HRTF est associée à chaque source. Le filtrage peut être réalisé soit dans le domaine temporel, sous la forme d'un produit de convolution, soit dans le domaine fréquentiel, sous la forme d'une multiplication complexe, ou encore dans tout autre domaine transformé, tel que le domaine PQMF pour Pseudo Quadrature Mirror Filter en anglais par exemple.
  • L'implémentation multicanale du binaural est une alternative à l'implémentation bi-canale offrant une implémentation plus efficace qui consiste en une décomposition linéaire des HRTF, sous la forme d'une somme de produits de fonctions de la direction (gains d'encodage) et de filtres élémentaires (filtres de décodage). Cette décomposition permet de séparer les étapes d'encodage et de décodage, le nombre de filtres étant alors indépendant du nombre de sources à spatialiser. Les filtres élémentaires peuvent à leur tour être modélisés par un filtre à phase minimale et un retard pur pour simplifier leur implémentation. Il est également possible d'extraire les retards des HRTF d'origine et de les intégrer séparément à l'encodage.
  • Les techniques antérieures précitées présentent des inconvénients majeurs, lors de l'implémentation de filtres BRIR, prenant en compte l'effet de salle, en particulier :
    • la complexité : les BRIR, du fait de la durée importante des réponses de salle, contiennent un nombre d'échantillons temporels qui peut être très élevé, supérieur à 20 000 échantillons pour des salles de taille moyenne, ce nombre étant lié au retard des échos de salle et donc aux dimensions de cette dernière. En conséquence, les filtres BRIR correspondants requièrent une puissance de calcul et une taille mémoire très importantes ;
    • l'externalisation : la modélisation sous la forme d'un filtre à phase minimale, associé à un retard pur, permet de réduire la taille des filtres. Cependant, le fait d'extraire un seul retard interaural pour chaque filtre BRIR ne permet pas de prendre en compte les premières réflexions.
    Dans ce cas, le timbre sonore est bien respecté mais l'effet d'externalisation n'est plus reproduit.
  • La présente invention a pour objet de remédier aux inconvénients précités de la technique antérieure et est définie par le procédé de la revendication 1 et le programme d'ordinateur de la revendication 11.
  • En particulier, un objet de la présente invention est de proposer un procédé de calcul de paramètres de modélisation de filtres BRIR, filtres HRIR prenant en compte un effet de salle de l'art antérieur, ces paramètres comprenant un ou plusieurs retards éventuellement associés à des gains et à au moins un spectre d'amplitude, afin de permettre une implémentation performante soit dans le domaine temporel, soit dans le domaine fréquentiel ou transformé.
  • Un autre objet de la présente invention est la mise en oeuvre d'un procédé de calcul de filtres BRIR spécifiques, lesquels, bien que équivalents en termes de qualité à des filtres BRIR classiques ou originaux permettant un positionnement et une externalisation satisfaisants des sources, réduisent fortement la puissance de calcul et de taille mémoire nécessaires à la mise en oeuvre du filtrage correspondant.
  • Le procédé de spatialisation 3D de canaux audio, à partir d'au moins une fonction de transfert de filtre acoustique incorporant un effet de salle, objet de à présente invention, est remarquable en ce qu'il consiste au moins, pour un nombre d'échantillons spécifique correspondant à la taille de la réponse impulsionnelle de la fonction de transfert, à décomposer cette fonction de transfert en au moins un ensemble de valeurs de retard et d'amplitude associées à des pics d'amplitude, à extraire sur ce nombre d'échantillons au moins un module spectral de la fonction de transfert, à constituer à partir de chaque retard successif de son amplitude et de son module spectral associés une fonction de transfert élémentaire directement appliquée aux canaux audio dans le domaine temporel, fréquentiel ou transformé.
  • Le procédé selon l'invention est en outre remarquable en ce que les valeurs de retard et d'amplitude associées à des pics d'amplitude correspondent aux Instants d'arrivée des réflexions.
  • Le procédé objet de l'invention est en outre remarquable en ce que la décomposition de la fonction de transfert est exécutée par un processus de détection des retards par détection des pics d'amplitude, au premier pic d'amplitude étant associé le retard correspondant à l'instant d'arrivée de l'onde sonore directe.
  • Le procédé objet de l'invention est également remarquable en ce que l'extraction de chaque module spectral est exécutée par une transformation temps-fréquence.
  • Le procédé objet de l'invention est également remarquable en ce que, pour un nombre d'échantillons correspondant à la réponse impulsionnelle de la fonction de transfert décomposée en sous-bandes de fréquences de rang k déterminé, la valeur du module spectral de la fonction de transfert est définie comme une valeur réelle de gain représentative de l'énergie de la fonction de transfert dans chaque sous-bande.
  • Le procédé objet de l'invention est également remarquable en ce que à chaque retard est associé un module spectral et en ce que le module spectral de la fonction de transfert est défini dans chaque sous-bande comme une valeur réelle de gain représentative de l'énergie de la fonction de transfert partielle dans ladite sous-bande, cette valeur de gain étant fonction du retard associé.
  • Cette modulation du module spectral en fonction du retard appliqué permet d'implémenter une reconstruction du filtre BRIR beaucoup plus proche du filtre BRIR d'origine.
  • Enfin, le procédé objet de l'invention est remarquable en ce que chaque fonction de transfert élémentaire dans chaque sous-bande de fréquences de rang k est formé par une multiplication complexe, fonction ou non du retard associé à chaque pic d'amplitude incluant une valeur réelle de gain, et par un retard pur, augmenté de l'écart de retard vis-à-vis du retard alloué au premier échantillon correspondant à l'instant d'arrivée de l'onde sonore directe.
  • Il sera mieux compris à la lecture de la description et à l'observation des dessins ci-après dans lesquels, outre la figure 1 relative à une technique de spatialisation sonore binaurale de l'art antérieur :
    • la figure 2 représente, à titre purement illustratif, un organigramme des étapes essentielles de mise en oeuvre du procédé de spatialisation 3D de canaux audio à partir d'au moins un filtre BRIR incorporant un effet de salle, conforme à l'objet de la présente invention ;
    • la figure 3a représente un détail de mise en oeuvre de l'étape de décomposition exécutée à l'étape A de la figure 2a ;
    • la figure 3b représente un chronogramme d'échantillons permettant d'expliciter le mode opératoire d'une sous-étape A0 de constitution d'un premier vecteur Ii et d'un premier vecteur décalé Ii+1 de pics d'amplitude de la figure 3a ;
    • la figure 3c représente à titre illustratif un chronogramme des échantillons de pics d'amplitude explicitant un processus de construction d'un deuxième vecteur à partir d'un vecteur d'écart entre le premier vecteur décalé et le premier vecteur illustrés à la figure 3b, ce deuxième vecteur regroupant les indices de rang des pics d'amplitude isolés ;
    • la figure 3d représente un chronogramme des pics d'amplitude représentatifs des premières réflexions dues à l'effet de salle obtenu à partir du deuxième vecteur illustré en figure 3c, à chacune des premières réflexions étant alloué un retard correspondant au paramètre correspondant à l'instant d'arrivée de l'onde sonore directe, puis des retards successifs spécifiques ajoutés au paramètre de retard de l'onde sonore directe.
  • Le procédé de spatialisation 3D de canaux audio à partir d'au moins un filtre BRIR incorporant un effet de salle, conforme à l'objet de l'invention sera maintenant décrit en liaison avec la figure 2 et les figures suivantes.
  • Le procédé objet de l'invention consiste pour un nombre N donné d'échantillons spécifique, correspondant à la taille de la réponse impulsionnelle du filtre BRIR, à décomposer en une étape A, ce filtre BRIR en au moins un ensemble de valeurs d'amplitude et de valeurs de retard décrivant une suite de pics d'amplitude.
  • Etape A de la figure 2, l'opération de décomposition est notée : A n n n = 1 n = N A Mx | Δ x = Δ 0 + δx .
    Figure imgb0001
  • Dans cette relation, An indique l'amplitude de l'échantillon de rang n et AMx indique l'amplitude de chaque pic d'amplitude, Δx désignant le retard associé à chacun des pics d'amplitude correspondant.
  • Ce retard est fonction du retard Δ0 correspondant à l'instant d'arrivée de l'onde directe ainsi qu'il sera décrit ci-après dans la description. L'étape A est suivie d'une étape B consistant à extraire, sur le nombre N d'échantillons au moins un module spectral moyen du filtre BRIR, chaque module spectral étant noté : BRIR N = G N .
    Figure imgb0002
  • L'étape B est alors suivie d'une étape C consistant à constituer à partir de chaque retard successif, de l'amplitude et du module spectral associés à ce retard établis à l'étape B un filtre BRIR élémentaire noté BRIRe directement appliqué aux canaux audio dans le domaine temporel fréquentiel ou transformé, ainsi qu'il sera décrit ci-après dans la description.
  • De manière plus spécifique, on comprend que la décomposition du filtre BRIR à l'étape A est exécutée par un processus de détection des retards par détection des pics d'amplitude, au premier pic d'amplitude étant associé le retard Δ0 correspondant à l'instant d'arrivée de l'onde sonore directe.
  • Ainsi, le premier pic d'amplitude est défini par les paramètres AM00.
  • On comprend également qu'aux autres pics d'amplitude est alors associée successivement, outre le retard Δ0, une valeur δx dépendant de la position du pic d'amplitude dans les N échantillons, le retard alloué à chaque pic d'amplitude AMx est donné par Δx = A0 + δx.
  • D'autres méthodes de détection du premier pic peuvent aussi être utilisées, ainsi qu'il est connu de l'état de la technique, en particulier pour déterminer la valeur du retard Δ0 lequel peut par exemple être pris égal au retard interaural.
  • L'étape B, d'extraction d'au moins un module spectral du filtre BRIR d'une durée de N échantillons permet d'assurer une correspondance du timbre entre chaque filtre BRIR original et le filtre BRIR reconstruit à partir des filtres BRIRe élémentaires, ainsi qu'il sera décrit ultérieurement dans la description.
  • En particulier, et de manière non limitative, l'extraction du module spectral peut être exécutée par une transformation temps-fréquence telle qu'une transformée de Fourier, ainsi qu'il sera décrit ultérieurement dans la description.
  • La mise en oeuvre des filtres BRIR élémentaires BRIRe formés chacun à partir de la valeur de chaque module spectral du filtre BRIR et bien entendu de l'amplitude et du retard Δx considéré, permet d'assurer une réduction des coûts de calcul.
  • Toutes les méthodes de filtrage à partir d'un filtre à phase minimale ou non, associées à toutes les méthodes d'implémentation des retards peuvent convenir à la décomposition proposée. En particulier, le procédé objet de l'invention peut par exemple être combiné à une implémentation multicanale de la spatialisation 3D binaurale.
  • Un mode de mise en oeuvre particulier préférentiel non limitatif du procédé objet de l'invention sera maintenant décrit en liaison avec les figures 3a à 3d.
  • Le mode de mise en oeuvre précité est mis en oeuvre dans le cadre de la décomposition de filtres BRIR pour une implémentation efficace dans le domaine des sous-bandes temporelles complexes plus particulièrement mais de manière non limitative le domaine PQMF complexe.
  • Une telle implémentation peut être utilisée par un décodeur défini par la norme MPEG surround, afin d'obtenir un rendu 3D binaural de type 5.1. Le mode 5.1 est défini par la norme MPEG spatial audio coding ISO/IEC 23003-1 (doc N7947).
  • En référence à la demande de brevet français intitulée :
    • « Procédé et dispositif de spatialisation sonore binaurale efficace dans le domaine transformé »,
    déposée le même jour au nom de la demanderesse, on indique que le filtrage binaural peut être effectué directement dans le domaine des sous-bandes, c'est-à-dire dans le domaine codé, afin de réduire les coûts de décodage incluant la mise en oeuvre du procédé.
  • Le mode de réalisation précité peut être transposé au domaine temporel c'est-à-dire au domaine non transformé en sous-bandes ou à tout autre domaine transformé.
  • Le procédé objet de l'invention permet d'obtenir de manière générale et en particulier dans son mode de mise en oeuvre préférentiel :
    • des retards qui correspondent au retard Δ0 instant d'arrivée de l'onde sonore directe et aux retards des premières réflexions de la salle, ces retards étant ensuite implémentés dans le domaine des sous-bandes ;
    • des valeurs de gain, valeurs réelles, un gain étant par exemple attribué à chaque sous bande et pour chaque réflexion à partir du contenu spectral des filtres BRIR, ainsi qu'il sera explicité ci-après.
  • Ainsi, pour une exécution décrite à titre d'exemple non limitatif dans le domaine des sous-bandes temporelles complexes, l'extraction des retards consiste au moins pour tout filtre BRIR correspondant à une position de l'espace, ainsi que représenté en figure 3a et à partir de l'enveloppe temporelle du filtre établie sur le nombre d'échantillons N correspondant à la taille de la réponse impulsionnelle du filtre BRIR, cette enveloppe temporelle étant notée A n n = 1. n = N
    Figure imgb0003
    à exécuter une première sous-étape, notée A0, consistant à identifier les indices de rang d'échantillon temporel dont la valeur d'amplitude est supérieure à une valeur de seuil notée V à l'étape A01 de la figure 3a. On comprend, en particulier, que la comparaison An > V est effectuée pour chaque échantillon des N échantillons successivement par retour à l'étape A01 par l'intermédiaire de la sous-étape A02 successivement sur les N échantillons.
  • Cette opération permet d'engendrer un premier vecteur noté Ii à la sous-étape A03, et un premier vecteur décalé noté Ii+1 à la sous-étape A04. Le premier vecteur Ii correspond aux indices de rang des échantillons temporels dont la valeur d'amplitude est supérieure à la valeur de seuil V. Le premier vecteur décalé Ii+1 se déduit du premier vecteur par décalage d'un indice. Le premier vecteur et le premier vecteur décalé étant représentatifs de la position des pics d'amplitude dans le nombre N d'échantillons.
  • L'étape A0 est suivie d'une étape A1 consistant à déterminer si les échantillons temporels dont l'amplitude est supérieure à la valeur de seuil V correspondant à des pics d'amplitude isolés par calcul d'un vecteur d'écart I' qui représente la différence entre le premier vecteur décalé Ii+1 et le premier vecteur Ii.
  • En effet, on comprend que, si les valeurs contenues dans le vecteur d'écart I' sont importantes, alors on est en présence du début d'un pic distinct du pic précédent, ainsi qu'il sera décrit ultérieurement dans la description.
  • L'étape A1 est alors suivie d'une étape A2 consistant à calculer un deuxième vecteur P regroupant les indices de pics d'amplitude isolés sur le nombre N d'échantillons pour un seuil d'écart défini par une valeur spécifique W.
  • Enfin, l'étape A2 est suivie d'une étape A3 consistant à identifier, à partir des échantillons du deuxième vecteur, pour chaque pic isolé identifié, l'indice de l'échantillon d'amplitude maximale parmi un nombre déterminé d'échantillons, pris égal à la valeur W précédemment citée suivant l'échantillon identifié par le deuxième vecteur. Cette valeur W peut être déterminée expérimentalement.
  • L'indice et l'amplitude de tout nouvel échantillon d'amplitude maximale sont mémorisés sous la forme d'un vecteur d'indice de retard et d'un vecteur d'amplitude.
  • Ainsi à la fin de l'étape A3, on dispose sous la forme d'un vecteur d'indice D'(i) et d'un vecteur d'amplitude A'(i) par exemple de l'ensemble des valeurs d'indice de retard et d'amplitude des pics d'amplitude précités.
  • Une description spécifique de la mise en oeuvre des étapes A0, A1, A2 et A3 représentées en figure 2 sera maintenant donnée en liaison avec les figures 3b, 3c et 3d.
  • En référence à la figure 3b, pour un filtre BRIR temporel correspondant à une position de l'espace, l'enveloppe temporelle de ce dernier est donnée par : BRIR env t = BRIR t .
    Figure imgb0004
  • L'étape A0 consiste alors à trouver tous les indices des échantillons dont la valeur d'enveloppe est supérieure à la valeur de seuil V.
  • De manière particulièrement avantageuse et selon un aspect remarquable du procédé objet de l'invention, la valeur de seuil V est elle-même fonction de l'énergie de l'enveloppe temporelle du filtre BRIR.
  • Ainsi la valeur de seuil V vérifie avantageusement la relation : v = C n BRIR t 2 N .
    Figure imgb0005
  • Dans la relation précédente, outre N représentant le nombre d'échantillons temporels, C est une constante fixée à 1 par exemple.
  • Suite aux comparaisons exécutées aux étapes A01 et A02, on stocke sur comparaison réussie, dans un vecteur Ii de taille K, K étant le nombre d'échantillons dont la valeur absolue de l'amplitude dépasse la valeur de seuil V pour constituer le premier vecteur.
  • A titre d'exemple non limitatif, sur la figure 3b, on a représenté l'enveloppe temporelle d'un filtre BRIR pour lequel le seuil V est fixé à la valeur réelle 0.037.
  • Le vecteur Ii représenté à l'étape A03 de la figure 3a s'écrit : Ii = [89 90 91 92 93 94 95 96 97 98 101 104 108 110 116 422 423 424 427...].
  • A partir de la mémorisation du vecteur Ii, on procède également par décalage de l'indice du premier pic d'amplitude, l'indice 89, à la mémorisation du vecteur décalé Ii+1, le vecteur Ii+1 correspondant par exemple au vecteur Ii dans lequel on a supprimé le premier pic d'amplitude
  • On dispose ainsi du premier vecteur Ii et du premier vecteur décalé Ii+1.
  • A l'étape A1 on procède alors au calcul du vecteur I', vecteur d'écart, différence entre le premier vecteur décalé Ii+1 et le premier vecteur Ii.
  • Le vecteur d'écart l'vérifie la relation dans l'exemple donné : = 1 1 1 1 1 1 1 1 1 3 3 4 2 6 306 1 1 3 .
    Figure imgb0006
  • Les valeurs importantes contenues dans le vecteur l'indiquent la présence d'un pic d'amplitude distinct du pic d'amplitude précédant.
  • L'étape A2 consiste alors à calculer le deuxième vecteur P qui regroupe les indices des pics distincts.
  • Dans l'exemple donné le premier pic P(1) est donné bien entendu par P(1)=I(1)=89 c'est-à-dire par le premier pic d'amplitude précédemment mentionné. L'indice des pics suivants correspond aux indices augmentés de 1 des valeurs de I' qui dépassent un seuil d'écart défini par une valeur W. A titre d'exemple non limitatif et de manière expérimentale W peut être fixé à la valeur 20. Dans ces conditions, la valeur I'(15)=306 >W détermine un second pic isolé. La valeur de l'indice de rang de ce deuxième pic P(2) est alors donnée par I(15+1)=422.
  • Ainsi le deuxième vecteur P peut être écrit sous la forme : P = 89 422 .
    Figure imgb0007
  • L'étape A3 de la figure 3a peut, ainsi que représenté en figure 3c, consister à partir de chacun des échantillons P(i) du deuxième vecteur représentatif de l'enveloppe temporelle, à trouver l'échantillon qui a la valeur d'amplitude maximale parmi les W = 20 échantillons suivants.
  • L'indice de ce nouvel échantillon est stocké dans le vecteur D' et son amplitude est stocké dans le vecteur A' ainsi que mentionné en liaison avec l'étape A3 de la figure 3a selon les relations : i = indice max BRIR env P i ; P i + W ,
    Figure imgb0008
    i = BRIR i * sign BRIR 1 .
    Figure imgb0009
  • De manière non limitative pour l'exemple donné en liaison avec la figure 3 : = 92 423 ,
    Figure imgb0010
    = 0.1978 0.0924 .
    Figure imgb0011
  • Si l'amplitude du premier échantillon d'amplitude maximale noté A(1) est négative, alors on prend en compte la valeur absolue de ce dernier.
  • Les amplitudes A des amplitudes maximales peuvent alors être normalisées en énergie par la relation : A = l = 1 ; L l 2 .
    Figure imgb0012
  • Dans la relation précédente L est le nombre d'éléments de D' et de A, c'est-à-dire des vecteurs d'indice et d'amplitude représentatifs de chaque pic. Ce nombre dépend bien entendu de la valeur de seuil V et de la valeur de la constante W précitées.
  • Une représentation des amplitudes normalisées, des pics d'amplitude et de leur position de retard successif par rapport au premier pic d'amplitude auquel est alloué le retard Δ0, est représentée en figure 3d.
  • Une description plus détaillée d'un premier et d'un deuxième mode de mise en oeuvre des filtres BRIR élémentaires directement applicables et appliqués aux canaux audio dans le domaine transformé, en particulier dans le domaine PQMF complexe décomposé en sous-bandes SBk, sera donnée à titre d'exemple non limitatif ci-après dans la description.
  • On rappelle que la décomposition en sous-bandes dans le domaine précité permet de décomposer les N échantillons de la réponse impulsionnelle du filtre BRIR en M sous-bandes de fréquences, par exemple M=64, pour une application au MPEG surround précité.
  • L'avantage d'une telle transformation est de pouvoir appliquer des gains réels à chaque sous-bande, en s'affranchissant des problèmes de repliement de spectre générés par le sous échantillonnage inhérent au banc de filtres.
  • Dans le domaine des sous-bandes précitées, les retards et les gains sont appliqués sur les échantillons complexes, ainsi qu'il sera décrit ultérieurement dans la description.
  • Selon un premier mode de mise en oeuvre non limitatif, la valeur de chaque module spectral du filtre BRIR est définie dans chaque sous-bande comme au moins une valeur réelle de gain représentative de l'énergie du filtre BRIR dans ladite sous-bande.
  • Dans ce premier mode de mise en oeuvre, les valeurs de gains correspondantes notées G(k,n) où k désigne le rang de la sous bande considérée et n le rang de l'échantillon parmi les N échantillons, sont obtenues en moyennant l'énergie de l'amplitude spectrale de chaque filtre BRIR dans chaque sous-bande.
  • Pour un filtre BRIR fréquentiel BRIR*(f) correspondant à la transformée de Fourier à 8 192 échantillons du filtre BRIR(t) temporel, complété de 0 pour obtenir les 8 192 échantillons, la valeur des gains G(k, n) est donnée par la relation : G k n = f = f 1 f = f 1 + H f BRIR * f 2 .
    Figure imgb0013
  • Dans la relation précédente, on indique que H est une fenêtre de pondération, fenêtre rectangulaire par exemple de largeur M' supérieure ou égale à la largeur de la sous-bande SBk, par exemple M'=64. La fenêtre de pondération est centrée sur la fréquence centrale de la sous-bande k et la fréquence f1 est inférieure ou égale à la fréquence de départ de la sous-bande k.
  • Selon un deuxième mode de mise en oeuvre préférentielle du procédé objet de l'invention, à chaque retard est associé un module spectral. La valeur de chaque module spectral est définie dans chaque sous-bande comme au moins une valeur de gain représentative de l'énergie du filtre BRIR partiel dans ladite sous-bande, cette valeur de gain étant fonction du retard appliqué en fonction de l'indice de chaque échantillon de pic d'amplitude, à partir du vecteur d'indice et d'amplitude.
  • Ainsi dans ce deuxième mode de réalisation, les gains G(k, n) sont modulés et peuvent donc varier à chaque nouveau retard I appliqué. Les valeurs de gain sont alors données par la relation : G k n l = f = f 1 f = f 1 + H f BRIR * f l 2 .
    Figure imgb0014
  • Dans la relation précédente, BRIR*(f,I) est la transformée de Fourier du filtre BRIR(t) temporel fenêtrée entre les échantillons D'(1)-Z et D'(1+1), l'énergie spectrale calculée étant celle du filtre BRIR partiel ainsi fenêtré, et complétée par des 0 pour obtenir 8 192 échantillons. Z dépend de la fréquence d'échantillonnage et peut prendre la valeur Z=10 pour une fréquence d'échantillonnage à 44.1 kHz.
  • Le deuxième mode de réalisation précité permet de manière remarquable une reconstruction beaucoup plus proche de la fonction de transfert ou filtre BRIR d'origine et en particulier de tenir compte de chacun des retards provoqués par les réflexions successives dans la salle, ce qui permet d'obtenir un rendu d'effet de salle particulièrement performant et réaliste.
  • On comprend alors que chaque filtre BRIR élémentaire, dans chaque sous-bande de fréquence k peut alors avantageusement être formé par une multiplication complexe, incluant une valeur réelle de gain, fonction ou non du retard appliqué en fonction de l'indice de chaque échantillon de pic d'amplitude, selon le premier ou le deuxième mode de réalisation retenu décrit précédemment dans la description.
  • L'opération de multiplication complexe est donnée par la relation : k n = G k n A l e - k + 0.5 d l M E k n .
    Figure imgb0015
  • Le filtre BRIR élémentaire est également formé par un retard pur augmenté de l'écart de retard vis-à-vis du retard Δ0 alloué au premier pic d'amplitude. Ce retard peut alors être implémenté par l'intermédiaire d'une ligne à retard appliquée au produit obtenu par la rotation sous forme de multiplication complexe précitée.
  • L'échantillon obtenu vérifie alors la relation : S k n = k , n - D l .
    Figure imgb0016
  • Dans les relations précédentes E(k,n) désigne le énième échantillon complexe de la sous-bande k considérée, S(k,n) désigne le énième échantillon de la sous-bande k après application des gains et des retards, M est le nombre de sous-bande et d(I) et D(I) sont tels qu'ils correspondent à l'application du I ième retard de D(I)M+d(I) échantillons dans le domaine temporel non sous-échantillonné.
  • Le retard D(I)M+d(I) correspond aux valeurs de D'(I) calculées selon le processus de détection de pics d'amplitude précédemment décrit en liaison avec les figures 3a à 3d.
  • En outre, A(I) désigne l'amplitude du pic associé au retard correspondant et G(k, n) désigne le gain réel appliqué au nième échantillon complexe de la sous-bande SBk de rang k considérée.
  • Enfin, le procédé objet de l'invention permet le traitement de la réverbération tardive. On rappelle que la réverbération tardive correspond à la partie de la réponse d'une salle pour laquelle le champ acoustique est diffus et les réflexions ne sont en conséquence pas discernables. Il est toutefois possible de traiter les effets de salle incluant une réverbération tardive, conformément au procédé objet de l'invention. Dans ce but, le procédé selon l'invention consiste à rajouter aux valeurs de pics d'amplitude détectées, une pluralité de valeurs d'amplitude arbitraires et réparties au-delà d'un instant arbitraire à partir de laquelle on considère que les réflexions discrètes sont terminées et où débute le phénomène de réverbération tardive. Ces valeurs d'amplitude sont calculées et réparties au-delà de la durée arbitraire, laquelle peut être prise égale à 200 millisecondes par exemple, jusqu'au dernier échantillon du nombre d'échantillons correspondant à la taille de la réponse impulsionnelle BRIR.
  • Ainsi, conformément au procédé objet de l'invention, les pics d'amplitude des premières réflexions sont déterminés ainsi que précédemment décrit en liaison avec les figures 2 et suivantes, et, à partir d'un échantillon t1 correspondant à 200 millisecondes, déterminé expérimentalement et correspondant au début de la réverbération tardive, jusqu'à un échantillon t2 qui correspond à la fin de la réverbération ou, le cas échéant, à la fin des N échantillons de la réponse impulsionnelle du filtre BRIR, on rajoute R valeurs aux vecteurs D' et A' telles que : L + r = t 1 + t 2 - t 1 / R - 1 , A L + r = 1.
    Figure imgb0017
  • Dans la relation précédente, L est le nombre de pics détecté, r est un entier compris entre 1 et R.
  • La prise en compte du deuxième mode de réalisation précité dans lequel les valeurs de gains sont modulées en fonction du retard de chaque pic d'amplitude, permet alors d'introduire de manière efficace, la réverbération tardive dans le domaine des sous-bandes.
  • Le phénomène de réverbération tardive peut également être traité par une ligne à retard ajoutée au traitement des premières réflexions.
  • L'invention couvre enfin un programme d'ordinateur comportant une suite d'instructions mémorisées sur un support de mémorisation d'un ordinateur ou d'un dispositif dédié de spatialisation sonore 3D de signaux audio remarquable en ce que, lors de son exécution, ce programme d'ordinateur exécute le procédé de spatialisation sonore 3D à partir d'au moins un filtre BRIR comportant un effet de salle décrit précédemment dans la description en liaison avec les figures 2 et 3a à 3d.
  • On comprend, en particulier, que le programme d'ordinateur précité peut être un programme directement exécutable implanté dans la mémoire permanente d'un ordinateur ou d'un dispositif de synthèse binaurale d'un effet de salle en spatialisation sonore.
  • La mise en oeuvre de l'invention peut alors être exécutée de manière totalement numérique.

Claims (11)

  1. Procédé de spatialisation 3D de canaux audio, à partir d'au moins un filtre BRIR incorporant un effet de salle, caractérisé en ce qu'il consiste au moins, pour un nombre d'échantillons spécifique correspondant à la taille de la réponse impulsionnelle du filtre BRIR, à :
    - décomposer (A) ce filtre BRIR en au moins un ensemble de valeurs de retard et d'amplitude associées aux instants d'arrivée des réflexions ;
    - extraire (B) sur ledit nombre d'échantillons au moins un module spectral moyen du filtre BRIR ;
    - constituer (C) à partir de chaque retard successif, de son amplitude et de son module spectral moyen associés un filtre BRIR élémentaire directement appliqué auxdits canaux audio dans le domaine temporel, fréquentiel ou transformé.
  2. Procédé selon la revendication 1, caractérisé en ce que les valeurs de retard et d'amplitude associées à des pics d'amplitude correspondent aux instants d'arrivée des réflexions.
  3. Procédé selon la revendication 1, caractérisé en ce que ladite décomposition du filtre BRIR est exécutée par un processus de détection des retards par détection des pics d'amplitude, au premier pic d'amplitude étant associé le retard correspondant à l'instant d'arrivée de l'onde sonore directe.
  4. Procédé selon l'une des revendications 1 à 3, caractérisé en ce que l'extraction de chaque module spectral est exécutée par une transformation temps-fréquence.
  5. Procédé selon l'une des revendications 1 à 4, caractérisé en ce que l'extraction des retards consiste au moins, pour tout filtre BRIR correspondant à une position de l'espace, à partir de l'enveloppe temporelle du filtre établie sur ledit nombre d'échantillons correspondant à la taille de la réponse impulsionnelle du filtre BRIR, à :
    - identifier (A0) les indices de rang d'échantillons temporels dont la valeur d'amplitude est supérieure à une valeur de seuil, pour engendrer un premier vecteur et un premier vecteur décalé représentatifs de la position des pics d'amplitude dans ledit nombre d'échantillons ;
    - déterminer (A1) l'existence de pics d'amplitude isolés par calcul d'un vecteur d'écart entre le premier vecteur décalé et le premier vecteur ;
    - calculer (A2) un deuxième vecteur regroupant les indices de pics d'amplitude isolés sur ledit nombre d'échantillons ;
    - discriminer (A3) à partir des échantillons dudit deuxième vecteur les indices successifs d'échantillons d'amplitude maximale parmi un nombre déterminé d'échantillons successifs, l'indice et l'amplitude desdits échantillons d'amplitude maximale étant mémorisés sous forme d'un vecteur d'indice de retard et d'amplitude.
  6. Procédé selon l'une des revendications 1 à 5, caractérisé en ce que, pour un nombre d'échantillons correspondant à la réponse impulsionnelle du filtre BRIR décomposé en sous-bandes de fréquences de rang k déterminé, ladite valeur du module spectral du filtre BRIR est définie comme une valeur réelle de gain représentative de l'énergie du filtre BRIR dans chaque sous-bande.
  7. Procédé selon la revendication 6, caractérisé en ce que la valeur du module spectral du filtre BRIR dans chaque sous-bande est calculée par application d'une fenêtre de pondération centrée sur la fréquence centrale de la sous-bande de fréquences de rang k et de largeur égale ou supérieure à la largeur de la sous-bande de fréquences.
  8. Procédé selon l'une des revendications 6 ou 7, caractérisé en ce que, à chaque retard est associé un module spectral, et en ce que ledit module spectral est défini dans chaque sous-bande comme une valeur réelle de gain représentative de l'énergie du filtre BRIR partiel dans ladite sous-bande, cette valeur de gain étant fonction du retard associé.
  9. Procédé selon l'une des revendications 6 à 8, caractérisé en ce que chaque filtre BRIR élémentaire dans chaque sous-bande de fréquences de rang k est formé par :
    - une multiplication complexe, fonction ou non du retard appliqué en fonction de l'indice de chaque échantillon de pic d'amplitude incluant la valeur réelle de gain ;
    - un retard pur, augmenté de l'écart de retard vis-à-vis du retard alloué au premier échantillon correspondant à l'instant d'arrivée de l'onde sonore directe.
  10. Procédé selon l'une des revendications 1 à 9, caractérisé en ce que, pour le traitement de la réverbération tardive, celui-ci consiste à rajouter aux valeurs de pics d'amplitude détectées une pluralité de valeurs d'amplitudes arbitraires, réparties, depuis un instant arbitraire, jusqu'au dernier échantillon des nombres d'échantillons correspondant à la taille de la réponse impulsionnelle du filtre BRIR.
  11. Programme d'ordinateur comportant une suite d'instructions mémorisées sur un support de mémorisation d'un ordinateur ou d'un dispositif dédié de spatialisation sonore 3D de signaux audio, caractérisé en ce que, lors de, son exécution, ledit programme exécute le procédé de spatialisation sonore 3D à partir d'au moins un filtre BRIR comportant un effet de salle, selon l'une des revendications 1 à 10.
EP07731711A 2006-03-28 2007-03-08 Procede de synthese binaurale prenant en compte un effet de salle Active EP1999998B1 (fr)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR0602694A FR2899424A1 (fr) 2006-03-28 2006-03-28 Procede de synthese binaurale prenant en compte un effet de salle
PCT/FR2007/050895 WO2007110520A1 (fr) 2006-03-28 2007-03-08 Procede de synthese binaurale prenant en compte un effet de salle

Publications (2)

Publication Number Publication Date
EP1999998A1 EP1999998A1 (fr) 2008-12-10
EP1999998B1 true EP1999998B1 (fr) 2012-07-11

Family

ID=37398830

Family Applications (1)

Application Number Title Priority Date Filing Date
EP07731711A Active EP1999998B1 (fr) 2006-03-28 2007-03-08 Procede de synthese binaurale prenant en compte un effet de salle

Country Status (6)

Country Link
US (1) US8045718B2 (fr)
EP (1) EP1999998B1 (fr)
JP (1) JP4850948B2 (fr)
ES (1) ES2390831T3 (fr)
FR (1) FR2899424A1 (fr)
WO (1) WO2007110520A1 (fr)

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009128559A (ja) * 2007-11-22 2009-06-11 Casio Comput Co Ltd 残響効果付加装置
WO2010005413A1 (fr) * 2008-07-09 2010-01-14 Hewlett-Packard Development Company, L.P. Procédé et système de rendu simultané de multiples présentations multimédias
KR101646540B1 (ko) * 2008-11-21 2016-08-08 아우로 테크놀로지스 오디오 신호를 변환하는 컨버터 및 방법
US9107021B2 (en) 2010-04-30 2015-08-11 Microsoft Technology Licensing, Llc Audio spatialization using reflective room model
US8995675B2 (en) * 2010-12-03 2015-03-31 The University Of North Carolina At Chapel Hill Methods and systems for direct-to-indirect acoustic radiance transfer
US9462387B2 (en) 2011-01-05 2016-10-04 Koninklijke Philips N.V. Audio system and method of operation therefor
US9794678B2 (en) * 2011-05-13 2017-10-17 Plantronics, Inc. Psycho-acoustic noise suppression
US20150036827A1 (en) * 2012-02-13 2015-02-05 Franck Rosset Transaural Synthesis Method for Sound Spatialization
US10321252B2 (en) 2012-02-13 2019-06-11 Axd Technologies, Llc Transaural synthesis method for sound spatialization
JP6102179B2 (ja) * 2012-08-23 2017-03-29 ソニー株式会社 音声処理装置および方法、並びにプログラム
CN104982042B (zh) 2013-04-19 2018-06-08 韩国电子通信研究院 多信道音频信号处理装置及方法
WO2014171791A1 (fr) 2013-04-19 2014-10-23 한국전자통신연구원 Appareil et procédé de traitement de signal audio multicanal
US9319819B2 (en) * 2013-07-25 2016-04-19 Etri Binaural rendering method and apparatus for decoding multi channel audio
KR101782916B1 (ko) * 2013-09-17 2017-09-28 주식회사 윌러스표준기술연구소 오디오 신호 처리 방법 및 장치
KR102230308B1 (ko) * 2013-09-17 2021-03-19 주식회사 윌러스표준기술연구소 멀티미디어 신호 처리 방법 및 장치
WO2015048551A2 (fr) * 2013-09-27 2015-04-02 Sony Computer Entertainment Inc. Procédé d'amélioration de l'externalisation d'un son surround virtuel
WO2015060654A1 (fr) 2013-10-22 2015-04-30 한국전자통신연구원 Procédé de génération de filtre pour un signal audio, et dispositif de paramétrage correspondant
CN104681034A (zh) * 2013-11-27 2015-06-03 杜比实验室特许公司 音频信号处理
WO2015099429A1 (fr) * 2013-12-23 2015-07-02 주식회사 윌러스표준기술연구소 Procédé de traitement de signaux audio, dispositif de paramétrage pour celui-ci et dispositif de traitement de signaux audio
CN107750042B (zh) 2014-01-03 2019-12-13 杜比实验室特许公司 响应于多通道音频通过使用至少一个反馈延迟网络产生双耳音频
CN104768121A (zh) * 2014-01-03 2015-07-08 杜比实验室特许公司 响应于多通道音频通过使用至少一个反馈延迟网络产生双耳音频
EP3090576B1 (fr) 2014-01-03 2017-10-18 Dolby Laboratories Licensing Corporation Procédés et dispositifs pour concevoir et appliquer des responses impulsives de salle optimisées numériquement
CN108600935B (zh) 2014-03-19 2020-11-03 韦勒斯标准与技术协会公司 音频信号处理方法和设备
KR101856127B1 (ko) 2014-04-02 2018-05-09 주식회사 윌러스표준기술연구소 오디오 신호 처리 방법 및 장치
US10142755B2 (en) * 2016-02-18 2018-11-27 Google Llc Signal processing methods and systems for rendering audio on virtual loudspeaker arrays
US9866916B1 (en) * 2016-08-17 2018-01-09 International Business Machines Corporation Audio content delivery from multi-display device ecosystem
US10187740B2 (en) 2016-09-23 2019-01-22 Apple Inc. Producing headphone driver signals in a digital audio signal processing binaural rendering environment
FR3067511A1 (fr) * 2017-06-09 2018-12-14 Orange Traitement de donnees sonores pour une separation de sources sonores dans un signal multicanal
US10911855B2 (en) 2018-11-09 2021-02-02 Vzr, Inc. Headphone acoustic transformer

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2893563B2 (ja) * 1992-12-11 1999-05-24 松下電器産業株式会社 音像定位係数算出装置
US5438623A (en) * 1993-10-04 1995-08-01 The United States Of America As Represented By The Administrator Of National Aeronautics And Space Administration Multi-channel spatialization system for audio signals
US5459790A (en) * 1994-03-08 1995-10-17 Sonics Associates, Ltd. Personal sound system with virtually positioned lateral speakers
CA2189126C (fr) 1994-05-11 2001-05-01 Jonathan S. Abel Affichage audio virtuel tridimensionnel utilisant des filtres de formation d'images a complexite reduite
US5596644A (en) * 1994-10-27 1997-01-21 Aureal Semiconductor Inc. Method and apparatus for efficient presentation of high-quality three-dimensional audio
US6307941B1 (en) * 1997-07-15 2001-10-23 Desper Products, Inc. System and method for localization of virtual sound
FR2768546B1 (fr) * 1997-09-18 2000-07-21 Matra Communication Procede de debruitage d'un signal de parole numerique
GB2366975A (en) * 2000-09-19 2002-03-20 Central Research Lab Ltd A method of audio signal processing for a loudspeaker located close to an ear
JP2003061200A (ja) * 2001-08-17 2003-02-28 Sony Corp 音声処理装置及び音声処理方法、並びに制御プログラム
FR2847376B1 (fr) * 2002-11-19 2005-02-04 France Telecom Procede de traitement de donnees sonores et dispositif d'acquisition sonore mettant en oeuvre ce procede
US7391870B2 (en) * 2004-07-09 2008-06-24 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E V Apparatus and method for generating a multi-channel output signal
GB0419346D0 (en) * 2004-09-01 2004-09-29 Smyth Stephen M F Method and apparatus for improved headphone virtualisation

Also Published As

Publication number Publication date
WO2007110520A1 (fr) 2007-10-04
JP2009531906A (ja) 2009-09-03
JP4850948B2 (ja) 2012-01-11
US20090103738A1 (en) 2009-04-23
US8045718B2 (en) 2011-10-25
EP1999998A1 (fr) 2008-12-10
ES2390831T3 (es) 2012-11-16
FR2899424A1 (fr) 2007-10-05

Similar Documents

Publication Publication Date Title
EP1999998B1 (fr) Procede de synthese binaurale prenant en compte un effet de salle
EP2000002B1 (fr) Procede et dispositif de spatialisation sonore binaurale efficace dans le domaine transforme
EP1992198B1 (fr) Optimisation d'une spatialisation sonore binaurale a partir d'un encodage multicanal
EP2898707B1 (fr) Calibration optimisee d'un systeme de restitution sonore multi haut-parleurs
EP2708042B1 (fr) Appareil et procédé de génération d'un signal de sortie employant décomposeur
EP3475943B1 (fr) Procede de conversion et d'encodage stereophonique d'un signal audio tridimensionnel
EP2649814A1 (fr) Appareil et procédé pour décomposer un signal d'entrée au moyen d'un mélangeur-abaisseur
EP3025514B1 (fr) Spatialisation sonore avec effet de salle
WO2012172264A1 (fr) Procede de traitement d'un signal audio pour une restitution amelioree
FR3065137A1 (fr) Procede de spatialisation sonore
EP1994526B1 (fr) Synthese et spatialisation sonores conjointes
EP3384688B1 (fr) Décompositions successives de filtres audio
CN113875265A (zh) 音频信号处理方法、音频处理装置及录音设备
EP2815589B1 (fr) Procédé de synthèse transaurale pour la spatialisation sonore
AU2015255287B2 (en) Apparatus and method for generating an output signal employing a decomposer
CN116261086A (zh) 声音信号处理方法、装置、设备及存储介质
EP1869949A1 (fr) Procede et systeme de spatialisation d'un signal sonore en fonction des qualites intrinseques de ce dernier
WO2005006811A1 (fr) Traitement de signal binaural a efficacite amelioree

Legal Events

Date Code Title Description
PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

17P Request for examination filed

Effective date: 20080924

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IS IT LI LT LU LV MC MT NL PL PT RO SE SI SK TR

RIN1 Information on inventor provided before grant (corrected)

Inventor name: GUERIN, ALEXANDRE

Inventor name: FAURE, JULIEN

Inventor name: PALLONE, GREGORY

Inventor name: NICOL, ROZENN

17Q First examination report despatched

Effective date: 20101203

GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

RTI1 Title (correction)

Free format text: METHOD FOR BINAURAL SYNTHESIS TAKING INTO ACCOUNT A SPATIAL EFFECT

GRAS Grant fee paid

Free format text: ORIGINAL CODE: EPIDOSNIGR3

GRAA (expected) grant

Free format text: ORIGINAL CODE: 0009210

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IS IT LI LT LU LV MC MT NL PL PT RO SE SI SK TR

DAX Request for extension of the european patent (deleted)
REG Reference to a national code

Ref country code: GB

Ref legal event code: FG4D

Free format text: NOT ENGLISH

REG Reference to a national code

Ref country code: CH

Ref legal event code: EP

REG Reference to a national code

Ref country code: AT

Ref legal event code: REF

Ref document number: 566649

Country of ref document: AT

Kind code of ref document: T

Effective date: 20120715

REG Reference to a national code

Ref country code: IE

Ref legal event code: FG4D

Free format text: LANGUAGE OF EP DOCUMENT: FRENCH

REG Reference to a national code

Ref country code: DE

Ref legal event code: R096

Ref document number: 602007023928

Country of ref document: DE

Effective date: 20120906

REG Reference to a national code

Ref country code: ES

Ref legal event code: FG2A

Ref document number: 2390831

Country of ref document: ES

Kind code of ref document: T3

Effective date: 20121116

REG Reference to a national code

Ref country code: NL

Ref legal event code: VDEP

Effective date: 20120711

REG Reference to a national code

Ref country code: AT

Ref legal event code: MK05

Ref document number: 566649

Country of ref document: AT

Kind code of ref document: T

Effective date: 20120711

REG Reference to a national code

Ref country code: LT

Ref legal event code: MG4D

Effective date: 20120711

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: LT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

Ref country code: CY

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

Ref country code: IS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20121111

Ref country code: FI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

Ref country code: AT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

Ref country code: PT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20121112

Ref country code: PL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

Ref country code: GR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20121012

Ref country code: LV

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

Ref country code: SI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: NL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CZ

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

Ref country code: RO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

Ref country code: EE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

Ref country code: DK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

PLBE No opposition filed within time limit

Free format text: ORIGINAL CODE: 0009261

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

26N No opposition filed

Effective date: 20130412

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: BG

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20121011

REG Reference to a national code

Ref country code: DE

Ref legal event code: R097

Ref document number: 602007023928

Country of ref document: DE

Effective date: 20130412

BERE Be: lapsed

Owner name: FRANCE TELECOM

Effective date: 20130331

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MC

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20130331

REG Reference to a national code

Ref country code: CH

Ref legal event code: PL

REG Reference to a national code

Ref country code: IE

Ref legal event code: MM4A

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20130308

Ref country code: LI

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20130331

Ref country code: BE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20130331

Ref country code: CH

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20130331

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

REG Reference to a national code

Ref country code: FR

Ref legal event code: PLFP

Year of fee payment: 9

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: TR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20120711

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: HU

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT; INVALID AB INITIO

Effective date: 20070308

Ref country code: LU

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20130308

REG Reference to a national code

Ref country code: FR

Ref legal event code: PLFP

Year of fee payment: 10

REG Reference to a national code

Ref country code: FR

Ref legal event code: PLFP

Year of fee payment: 11

REG Reference to a national code

Ref country code: FR

Ref legal event code: PLFP

Year of fee payment: 12

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: DE

Payment date: 20240220

Year of fee payment: 18

Ref country code: GB

Payment date: 20240220

Year of fee payment: 18

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: IT

Payment date: 20240220

Year of fee payment: 18

Ref country code: FR

Payment date: 20240220

Year of fee payment: 18

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: ES

Payment date: 20240402

Year of fee payment: 18