EP3348079A1 - Method and system for developing a head-related transfer function adapted to an individual - Google Patents

Method and system for developing a head-related transfer function adapted to an individual

Info

Publication number
EP3348079A1
EP3348079A1 EP16736088.2A EP16736088A EP3348079A1 EP 3348079 A1 EP3348079 A1 EP 3348079A1 EP 16736088 A EP16736088 A EP 16736088A EP 3348079 A1 EP3348079 A1 EP 3348079A1
Authority
EP
European Patent Office
Prior art keywords
head
individual
relating
transfer function
ear
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
EP16736088.2A
Other languages
German (de)
French (fr)
Other versions
EP3348079B1 (en
Inventor
Slim GHORBAL
Renaud Seguier
Xavier Bonjour
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mimi Hearing Technologies GmbH
Original Assignee
3d Sound Labs
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 3d Sound Labs filed Critical 3d Sound Labs
Publication of EP3348079A1 publication Critical patent/EP3348079A1/en
Application granted granted Critical
Publication of EP3348079B1 publication Critical patent/EP3348079B1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • H04S7/302Electronic adaptation of stereophonic sound system to listener position or orientation
    • H04S7/303Tracking of listener position or orientation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • H04S7/301Automatic calibration of stereophonic sound system, e.g. with test microphone
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • H04S7/307Frequency adjustment, e.g. tone control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2420/00Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/01Enhancing the perception of the sound image or of the spatial distribution using head related transfer functions [HRTF's] or equivalents thereof, e.g. interaural time difference [ITD] or interaural level difference [ILD]

Definitions

  • the invention relates to a method and a system for generating a head-related transfer function adapted to an individual.
  • the present invention relates to the personalization of sound spatialization methods, also known as binaural listening. More particularly, it is a method of individualization of transfer functions related to the head or "Head-Related Transfer Functions" in English, acronym HRTF, pillars of the three-dimensional hearing of any individual.
  • Binaural listening is a field of research aimed at understanding the mechanisms that allow humans to perceive the spatial origin of sounds. Starting from the assumption that this origin is determined by the morphology of each, binaural listening states that the position and shape of the ears of an individual are key elements. These last effect indeed as frequency and directional filters on the sounds reaching us.
  • the family of finite element methods aims to model and then solve the problem with partial derivatives posed by the propagation of sound from the source to the subject's eardrums.
  • This family includes the variants known under the English names: "Direct Boundary Element Method”, acronym DBEM, "Indirect Boundary Element Method” acronym IBEM, "ln_nite- Finite Element Method” acronym IFEM, or "Fast -Multipole Boundary Element Method "acronym FM-BEM.
  • the statistical methods for the synthesis of HRTFs may, alternatively, be based on the principal component analysis, of acronym ACP.
  • Kistler and Wightman were the first to propose to break down the HRTFs according to this method. All HRTFs are then seen as a vector subspace of the measurement space. The knowledge of a base of this subspace then makes it possible to reach any representative, ie any HRTF, by simple linear combination of the basic vectors. This is what ACP allows by providing an orthonormal basis of the space generated by learning HRTFs.
  • the final step in solving the problem of individualization then consists in making the link between the morphological parameters of the individuals and the reconstruction coefficients by the eigenvectors of the database. For this, multiple linear regressions are conventionally used.
  • Vast Audio Pty Ltd filed a patent (G. Jin, P. Leong, J. Leung, S. Carlile, and A. Van Schaik, "Generation of customized three dimensional sound effects for individuals", April 24 2007, US 7209564) inspired by these ideas.
  • the latter firstly describes the creation of a base of HRTFs and a base of morphological parameters.
  • the use of a statistical analysis method is then invoked to break down parameter spaces and HRTFs into elementary components, in the same way that ACP allows.
  • the links between the reconstruction coefficients of the morphological parameters and those of the HRTFs are determined.
  • Hofman & Van Opstal (Paul M Hofman and John Van Opstal, Bayesian, "Reconstruction of the localization of responses to random spectra", Biological cybernetics, 86 (4): 305-31 6, 2002), who wants to recreate potential HRTFs from a probabilistic analysis of the subjects' responses to specific stimuli. More specifically, the idea is to make subjects listen to sounds convoluted by filters mimicking the types of variations observable in real HRTFs and broadcast by a speaker located right in front of them. The instruction given is to direct the gaze in the direction from which the sound seems to come.
  • Y. Iwaya (Yukio Iwaya, "Individualization of head-related transfer functions with tournament-style list ning test: Listening with other ears," Acoustical science and technology, 27 (6): 340-343, 2006.) describes a selection procedure of a set of HRTFs out of 32 available using the principle of chess tournaments. A sound path in the horizontal plane is simulated by convolving a pink noise with HRTFs games.
  • a pink noise is a noise whose sound power is constant for a given frequency bandwidth in a logarithmic space (eg the same power output on the 40-60Hz band as on the 4000-6000Hz band). 32 trajectories are thus obtained and put in competition. At each meeting, the subject declares winner one of the two trajectories according to whether it looks the most or not to the set path. The outgoing winner of the tournament is said to be the most suited to the subject.
  • a dimensional analysis of the space is carried out (for example a PCA) to obtain a base in which they become representable.
  • the links between K most important morphological parameters and the coordinates of HRTFs in the aforementioned space are then calculated, establishing a link between morphology and HRTFs.
  • the measurement of K morphological parameters brought to light previously allows then to position itself in the space of the HRTFs.
  • the nearest neighbor in the base is searched for and is the result of customization.
  • this idea amounts to saying that by knowing the HRTFs of a reference individual (or even a manikin) and the scale ratio ("scaling factor" in English Ingue) between the morphology of this reference and that of a subject to individualize, it is possible to improve the feeling of location provided by the reference HRTFs by applying a reverse ratio scaling.
  • An object of the invention is to develop a head-related transfer function (HRTF) adapted to an individual with improved speed and reliability.
  • HRTF head-related transfer function
  • ear data means 2D photos of ears or 3D ears represented by a 3D point cloud describing the surface of the hear.
  • the method further comprises a step of densely matching, or "dense registration in English," points relating to respective positions of the ears of the database.
  • the method further comprises a step of calculating a transfer function relating to the head, adapted to the individual, from said calculation function and from at least one photograph of at least one
  • the use of the calculation function makes it possible to determine the transfer function in a time compatible with a real-time application.
  • said step of calculating a transfer function relating to the head is iterative.
  • said iterative step of calculating a transfer function relating to the head comprises:
  • said data representing 3D ears are point clouds.
  • said disclosed steps are used to develop a transfer function, for high frequencies above a threshold, relating to the head adapted to the individual, said method comprising, in addition, a step of development of a transfer function, for low frequencies below said threshold, relating to the head adapted to the individual.
  • each part of the frequency spectrum is adapted according to the physical structures that impact it the most.
  • said step of developing a transfer function, for low frequencies below said threshold, relating to the head adapted to the individual comprises the following substeps, consisting of: - to sample ranges of possible values of human morphological parameters from a database relating to human morphology,
  • a transfer function relating to the head of the individual is developed from said transfer functions respectively for high and low frequencies and said one or more photos of the individual face or profile , comprising the steps of:
  • a system for developing a transfer function relating to the head or HRTF adapted to an individual, from a database comprising data of ears. and corresponding transfer functions relating to the head, comprising a computer configured to implement the method according to one of the preceding claims.
  • an OHi database includes ear data Oi and corresponding transfer functions Hi relative to the head.
  • “Corresponding” refers to the fact that for this database, the data representative of the ears of the people at the base, as well as their functions, are recorded for the individuals used to design the database. transfer relative to the head, keeping the link between the ear data and the corresponding transfer function of the database.
  • Oi data of ears can be point clouds.
  • An optional step S1 makes it possible to closely match points relating to respective positions of the ears Oi of the database OH-i.
  • dense matching is meant the specification of the correspondences between the constituent points of a cloud or the pixels of a 2D image of the ear and those constituting another cloud or other 2D ear image.
  • the specification of this role equivalence constitutes a mapping.
  • a step S2 then makes it possible to perform a statistical analysis of the ear space O-i, of the OH-i database.
  • This statistical analysis can be done using techniques using a sample ear basis and performing a dimension reduction (principal component analysis, independent component analysis, sparse or parsimonious type coding, self-coding neuron networks). . These techniques make it possible to convert the representation of a 2D or 3D ear (in the form of a cloud of points or pixels in an image) into a vector of restricted number statistical parameters.
  • a step S3 makes it possible to carry out a statistical analysis of the space of the transfer functions relating to the head H-i, of the database OH-i.
  • This statistical analysis is of the same type as that described in the previous paragraph. It thus makes it possible to represent the HRTFs by a vector of statistical parameters of restricted number.
  • a step S4 makes it possible to perform an analysis of the links between said statistical parameters of the ear space of step S2 and said statistical parameters of the space of the transfer functions relating to the head of step S3.
  • a step S5 makes it possible to determine, from said link analysis of the step S4, and from said statistical analysis of the ear space of the step S2, a calculation function OH1 of a transfer function If relative to a head from data representative of at least one ear.
  • the statistical analyzes S2 and S3 must lead to the creation of parametric representations of the ears and transfer functions relating to the head.
  • the training data of the database OHi must be able to be reconstructed from the outputs of the analysis. It is possible in particular to use, in the analysis steps S2 and S3, principal component analyzes of acronym ACP.
  • the PCA when the PCA is chosen to carry out the size reduction, it consists in calculating, from a base of examples of the data to be analyzed, the eigenvectors which best represent these data in the sense of the least squares.
  • the statistical parameters that represent the data to be analyzed (3D ear or 2D or transfer function relative to the head) are neither more nor less than the projection coefficients this projected data on the eigenvectors.
  • any type of linear or non-linear dimensional analysis is suitable, provided that it meets the above-mentioned reconstruction requirement, such as independent component analysis methods, with ACI acronym, or sparse coding or "sparse" -coding "in the English language.
  • the analysis of the links of the step S4 between the sets of statistical parameters of the ear space and the statistical parameters of the space of the transfer functions relating to the head, in a nominal configuration, can be done by linear regression multivariate on the values of the parameters used for the reconstruction of the training data of the database OHi.
  • any method making it possible to find the values of the parameter set of the transfer functions relating to the head from the values of the set of statistical parameters and ensuring a good reconstruction of the transfer functions relating to the head of the OH-database. i, as methods based on neural networks, based on multiple component analysis, ACM acronym, or partitioning in k-means.
  • the method may furthermore comprise a calculation step S6 of a transfer function Si relative to the head, adapted to the individual, from said calculation function OH 1 and from less a photograph Ui of an ear of the individual.
  • the calculation step S6 of a transfer function Si relative to the head may be iterative, and comprise a first iterative sub-step S7 for estimating at least one setting parameter of the individual during said one or more photographs, and a second iterative sub-step S8 of estimation of optimized statistical parameters representing at least one ear of the individual in the space of the ears.
  • the iterative computational step S6 of a transfer function Si relative to the head also then comprises a substep S6a for initializing or updating the statistical parameters of shape and of the setting parameters, as well as a sub-step S6b of convergence test of the calculation step S6 or reaching a limit number of iterations.
  • the first and second iterative substeps S7 and S8 of course each include a convergence test of the respective estimate or of reaching a limit number of iterations.
  • the pose parameters referred to refer to the angles under which the user's ears are photographed.
  • the first and second iterative sub-steps S7 and S8 of estimation involve active models of appearance or "active appearance models" in English, acronym AAM. In a nominal configuration, they are based on the use of regression matrices.
  • said disclosed steps are used to develop a transfer function S H , for high frequencies greater than a threshold, relating to the head adapted to the individual, said method comprising, in addition, a step of development of a transfer function S B , for low frequencies below said threshold, relating to the head adapted to the individual.
  • the step of developing a transfer function S B , for low frequencies below said threshold, relating to the head, adapted to the individual comprises the following substeps, consisting of:
  • the low-frequency mask transfer functions M are calculated offline and serve as a reference base for transfer functions relating to the head at low frequencies (frequencies below a threshold, for example 2 kHz).
  • any parametric model with few inputs and making it possible to obtain a mesh of the head and the torso is suitable, such as a modeling of the head and the torso by ellipsoids of revolution.
  • the macroscopic parameters may be the width of the shoulders and the diameter of the head.
  • the choice of the parameters is dictated by the choice of the model used for the calculation of the templates.
  • a transfer function relating to the head S 1 of the individual is elaborated from said transfer functions S H , S B , respectively for high and low frequencies and of said said photos U 2 of the face or profile individual, comprising the steps of:
  • the dimensions of the ear can be normalized, in which case it is necessary to rescaling the frequency spectrum generated for the ear.
  • scaling step 1 becomes pointless.
  • a computer program can be written in any form of programming language, including compiled or interpreted languages, and the computer program can be deployed in any form, including as a stand-alone program or as a subroutine, element or other unit suitable for use in a computing environment.
  • a computer program can be deployed to run on one computer or multiple computers at a single site or spread across multiple sites and interconnected by a communications network.

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Stereophonic System (AREA)

Abstract

Method for developing a head-related transfer function (Sj) adapted to an individual, with the help of a database (OHi) comprising 3D or 2D ear data (0i) and corresponding head-related transfer functions (Hi), the method comprising the steps consisting in: - performing a statistical analysis (S2) of the 3D or 2D ear space of the database; - performing a statistical analysis (S3) of the head-related transfer space of the database; - performing an analysis of the links (S4) between parameters of the statistical analysis of the 3D or 2D ear space and parameters of the statistical analysis of the head-related transfer function space; and - determining (S5), with the help of said analysis of the links and of said statistical analysis of the 3D or 2D ear space, a function (OHi) for calculating a head-related transfer function (S j) with the help of data representative of at least one ear.

Description

Procédé et système d'élaboration d'une fonction de transfert relative à la tête adaptée à un individu  Method and system for developing a head related transfer function adapted to an individual
L'invention porte sur un procédé et un système d'élaboration d'une fonction de transfert relative à la tête adaptée à un individu. The invention relates to a method and a system for generating a head-related transfer function adapted to an individual.
La présente invention a trait à la personnalisation des procédés de spatialisation sonore, aussi qualifiés d'écoute binaurale. Plus particulièrement, il s'agit d'une méthode d'individualisation des fonctions de transfert relatives à la tête ou "Head-Related Transfer Functions" en langue anglaise, d'acronyme HRTF, éléments piliers de l'audition tridimensionnelle de tout individu. The present invention relates to the personalization of sound spatialization methods, also known as binaural listening. More particularly, it is a method of individualization of transfer functions related to the head or "Head-Related Transfer Functions" in English, acronym HRTF, pillars of the three-dimensional hearing of any individual.
L'écoute binaurale est un domaine de recherche visant à comprendre les mécanismes permettant à l'être humain de percevoir l'origine spatiale des sons. Partant du postulat que cette origine est déterminée grâce à la morphologie de chacun, l'écoute binaurale stipule notamment que la position et la forme des oreilles d'un individu en sont des éléments déterminants. Ces dernières agissent en effet comme des filtres fréquentiels et directionnels sur les sons nous parvenant. Binaural listening is a field of research aimed at understanding the mechanisms that allow humans to perceive the spatial origin of sounds. Starting from the assumption that this origin is determined by the morphology of each, binaural listening states that the position and shape of the ears of an individual are key elements. These last effect indeed as frequency and directional filters on the sounds reaching us.
Si les relations entre la morphologie et l'audition ont de longue date été étudiées, on note depuis près d'un quart de siècle un intérêt croissant dans la communauté scientifique pour le problème de l'individualisation, c'est-à-dire de la prise en compte des spécificités propres à chacun. Although the relationship between morphology and hearing has long been studied, for almost a quarter of a century there has been a growing interest in the scientific community for the problem of individualization, that is to say of taking into account the specificities of each.
En particulier, l'attention s'est portée sur l'individualisation des fonctions de transfert relatives à la tête ou HRTFs, représentations mathématiques de la coloration fréquentielle des sons que nous percevons. On entend par coloration fréquentielle, les variations de densité spectrale de puissance des signaux sonores. Les spectres des bruits blanc, rose ou encore gris en sont des exemples. Il est maintenant connu de nombreuses méthodes que l'on peut classer en deux grandes familles: les méthodes de synthèse, qui visent à calculer ou recréer des jeux ou ensembles d'HRTFs, et les méthodes adaptatives, qui cherchent à découvrir, parmi un ensemble donné et au prix éventuel de transformations mineures, la fonction de transfert la plus adaptée à un individu. In particular, attention has been focused on the individualization of head-related transfer functions or HRTFs, mathematical representations of the frequency pattern of sounds we perceive. Frequency coloration is understood to mean the spectral power density variations of the sound signals. Spectra of white, pink or gray noises are examples. Many methods are now known that can be classified into two large families: synthetic methods, which aim at calculating or recreating games or sets of HRTFs, and adaptive methods, which seek to discover, among a given set and the possible price of minor transformations, the transfer function best suited to an individual.
Parmi les méthodes de synthèse, on peut tout d'abord distinguer les calculs exacts des approches statistiques et probabilistes. Among the methods of synthesis, one can first distinguish exact calculations from statistical and probabilistic approaches.
Développée depuis plus de vingt ans, la famille des méthodes aux éléments finis vise à modéliser puis résoudre le problème aux dérivées partielles posé par la propagation du son de la source aux tympans du sujet. Cette famille comprend notamment les variantes connues sous les appellations anglaises: "Direct Boundary Elément Method", d'acronyme DBEM, "Indirect Boundary Elément Method" d'acronyme IBEM, "ln_nite- Finite Elément Method" d'acronyme IFEM, ou " Fast-Multipole Boundary Elément Method" d'acronyme FM-BEM. Developed for more than twenty years, the family of finite element methods aims to model and then solve the problem with partial derivatives posed by the propagation of sound from the source to the subject's eardrums. This family includes the variants known under the English names: "Direct Boundary Element Method", acronym DBEM, "Indirect Boundary Element Method" acronym IBEM, "ln_nite- Finite Element Method" acronym IFEM, or "Fast -Multipole Boundary Element Method "acronym FM-BEM.
Réputées offrir des solutions exactes au problème traité, ces méthodes souffrent néanmoins de quelques handicaps notables. Tout d'abord, elles nécessitent la donnée d'un maillage 3D du sujet d'autant plus fin que l'on souhaite calculer les HRTFs dans les hautes fréquences, et que le temps de calcul devient rapidement prohibitif à mesure que l'on affine le maillage (et donc que l'on souhaite disposer de résultats fiables dans les hautes fréquences). On entend par hautes fréquences des fréquences supérieures à 4 kHz. Enfin, la modélisation physique du problème nécessite d'introduire beaucoup d'à priori et d'approximations. Ainsi, chaque surface se voit attribuer une impédance propre (traduisant les phénomènes d'absorption/réflexion) dont la valeur est empirique. De même, la chevelure est classiquement modélisée par une surface d'impédance différente de la peau, ne tenant donc pas compte de sa nature volumique. Known as offering exact solutions to the problem dealt with, these methods nevertheless suffer from some notable handicaps. First of all, they require the data of a 3D mesh of the subject all the finer that one wishes to calculate the HRTFs in the high frequencies, and that the calculation time becomes quickly prohibitive as one refines the mesh (and therefore that one wishes to have reliable results in the high frequencies). High frequencies are frequencies above 4 kHz. Finally, the physical modeling of the problem requires introducing a lot of priori and approximations. Thus, each surface is assigned a proper impedance (reflecting absorption / reflection phenomena) whose value is empirical. Similarly, the hair is classically modeled by an impedance surface different from the skin, thus not taking into account its volume nature.
Une approche alternative au calcul direct des HRTFs consiste, à partir d'un ensemble représentatif d'HRTFs réelles, d'en faire émerger les principaux modes de variation. C'est notamment ce que réalisent les travaux de Sylvain BussonAn alternative approach to the direct calculation of HRTFs consists, from a representative set of real HRTFs, of showing the main modes of variation. This is particularly the work of Sylvain Busson
("Individualisation d'Indices Acoustiques pour la Synthèse Binaurale"; PhD thesis, Université de la Méditerranée-Aix-Marseille II, 2006.) sur les réseaux de neurones artificiels (RNA). L'idée développée est de réaliser une prédiction des HRTFs à partir de la mesure d'un nombre restreint d'entre- elles. Cela passe en particulier par l'utilisation conjointe d'une carte de Kohonen et d'une Classification Hiérarchique Ascendante, d'acronyme CHA, avant l'élection d'HRTFs représentatives. Par la suite, un réseau de neurone de type Multi Layer Perceptron en langue anglaise, d'acronyme MLP, à trois couches, est construit et les HRTFs représentatives de 44 sujets de la base CIPIC utilisés comme ensemble d'apprentissage. Bien que prometteuse, cette étude ne parvient pas à dégager de représentants universels, i.e. communs à tous les individus, ni ne présente de validation psychoacoustique des résultats. De plus, il est également nécessaire de disposer d'un moyen d'accès auxdits représentants. ("Individualization of Acoustic Indices for Binaural Synthesis"; PhD thesis, University of the Mediterranean-Aix-Marseille II, 2006.) on Artificial Neural Networks (ANN). The idea developed is to make a prediction of HRTFs from the measurement of a limited number of them. This includes the joint use of a Kohonen map and an Ascending Hierarchical Classification, acronym CHA, prior to the election of representative HRTFs. Subsequently, a Multi Layer Perceptron neuron network in the English language, acronym MLP, with three layers, is constructed and the representative HRTFs of 44 subjects of the CIPIC database used as a learning set. Although promising, this study does not manage to release universal representatives, ie common to all individuals, nor does it show any psychoacoustic validation of the results. In addition, it is also necessary to have a means of access to said representatives.
Les méthodes statistiques pour la synthèse d'HRTFs peuvent, en variante, se fonder sur l'analyse en composantes principales, d'acronyme ACP. The statistical methods for the synthesis of HRTFs may, alternatively, be based on the principal component analysis, of acronym ACP.
Kistler et Wightman ("A model of head-related transfer functions based on principal components analysis and minimum-phase reconstruction"; The Journal of the Acoustical Society of America, 91 (3) :1 637-1 647, 1992) furent les premiers à proposer de décomposer les HRTFs selon cette méthode. L'ensemble des HRTFs est alors vu comme un sous- espace vectoriel de l'espace des mesures. La connaissance d'une base de ce sous-espace permet ensuite d'en atteindre n'importe quel représentant, i.e. n'importe quelle HRTF, par simple combinaison linéaire des vecteurs de base. C'est ce que permet l'ACP en fournissant une base orthonormée de l'espace engendré par les HRTFs d'apprentissage. La dernière étape de la résolution du problème d'individualisation consiste alors à faire le lien entre les paramètres morphologiques des individus et les coefficients de reconstruction par les vecteurs propres de la base. Pour cela, des régressions linéaires multiples sont classiquement utilisées. Partant des travaux de Kistler & Wightman, Xu et associés (Song Xu, Zhizhong Li, and Gavriel Salvendy: "improved method to individualize head-related transfer function using anthropométrie measurements"; Acoustical Science and Technology, 29(6) :388{390, 2008.) ont proposé de grouper les HRTFs des différents individus mesurés selon la direction (azimut, élévation) pointée avant d'effectuer l'ACP (une par groupe), espérant ainsi réduire l'erreur d'estimation. Kistler and Wightman (The Journal of the Acoustical Society of America, 91 (3): 1 637-1 647, 1992) were the first to propose to break down the HRTFs according to this method. All HRTFs are then seen as a vector subspace of the measurement space. The knowledge of a base of this subspace then makes it possible to reach any representative, ie any HRTF, by simple linear combination of the basic vectors. This is what ACP allows by providing an orthonormal basis of the space generated by learning HRTFs. The final step in solving the problem of individualization then consists in making the link between the morphological parameters of the individuals and the reconstruction coefficients by the eigenvectors of the database. For this, multiple linear regressions are conventionally used. Based on the work of Kistler & Wightman, Xu and associates (Song Xu, Zhizhong Li, and Gavriel Salvendy, "Acoustical Science and Technology, 29 (6): 388 {390 , 2008.) proposed to group the HRTFs of different individuals measured according to the direction (azimuth, elevation) pointed before PCR (one per group), thus hoping to reduce the estimation error.
Zhang et associés (R. A. Kennedy M. Zhang and T. D. Abhayapala; "Statistical method to identify key anthropométrie parameters in hrtf individualization"; In Joint Workshop on Hands-free Speech Communication and Microphone Arrays, 201 1 ) ont quant à eux proposés une méthode statistique d'estimation des paramètres anthropomorphiques les plus pertinents pour réaliser l'étape de régression. Zhang and associates (RA Kennedy, M. Zhang and TD Abhayapala, "Statistical method to identify key anthropometry parameters in hrtf individualization", in addition, proposed a statistical method. estimating the most relevant anthropomorphic parameters to perform the regression step.
En 2007, Vast Audio Pty Ltd a déposé un brevet (G. Jin, P. Leong, J. Leung, S. Carlile, and A. Van Schaik; "Génération of customized three dimensional sound effects for individuals", April 24 2007, US 7209564) inspiré par ces idées. En pratique, ce dernier décrit tout d'abord la création d'une base d'HRTFs et d'une base de paramètres morphologiques. Est ensuite invoquée l'utilisation d'une méthode d'analyse statistique pour décomposer en composantes élémentaires les espaces de paramètres et d'HRTFs, à la manière de ce que permet l'ACP. Par la suite, à l'aide d'une autre méthode d'analyse statistique, les liens entre les coefficients de reconstruction des paramètres morphologiques et ceux des HRTFs sont déterminés. Chaque variante proposée jusqu'à maintenant a généralement permis d'améliorer les résultats des méthodes antérieures sans toutefois offrir de rendu satisfaisant du point de vue psycho-acoustique, i.e. en conditions réelles. En particulier, le nombre et la localisation des paramètres morphologiques nécessaires sont très imprécis. De plus, dans le cas d'analyse simultanée de la morphologie et des HRTFs, la découverte des liens entre les coefficients des deux espaces est d'autant plus complexe que les données sont laissées brutes. Un autre type de méthode de synthèse, notable par son caractère innovant, est la reconstruction d'HRTFs selon une approche Bayesienne. Présentée par Hofman & Van Opstal (Paul M Hofman and A John Van Opstal. Bayesian; "reconstruction of sound localization eues from responses to random spectra", Biological cybernetics, 86(4):305-31 6, 2002), qui veut recréer des HRTFs potentielles à partir d'une analyse probabiliste des réponses des sujets étudiés à des stimuli bien précis. Plus particulièrement, l'idée est de faire écouter aux sujets des sons convolués par des filtres mimant les types de variations observables dans de véritables HRTFs et diffusés par un haut-parleur situé droit devant eux. La consigne donnée est de diriger le regard dans la direction dont semble leur provenir le son. In 2007, Vast Audio Pty Ltd filed a patent (G. Jin, P. Leong, J. Leung, S. Carlile, and A. Van Schaik, "Generation of customized three dimensional sound effects for individuals", April 24 2007, US 7209564) inspired by these ideas. In practice, the latter firstly describes the creation of a base of HRTFs and a base of morphological parameters. The use of a statistical analysis method is then invoked to break down parameter spaces and HRTFs into elementary components, in the same way that ACP allows. Subsequently, using another method of statistical analysis, the links between the reconstruction coefficients of the morphological parameters and those of the HRTFs are determined. Each variant proposed so far has generally improved the results of the previous methods without, however, offering a satisfactory performance from a psycho-acoustic point of view, ie under real conditions. In particular, the number and location of morphological parameters needed are very imprecise. Moreover, in the case of simultaneous analysis of the morphology and the HRTFs, the discovery of the links between the coefficients of the two spaces is all the more complex as the data are left raw. Another type of synthesis method, notable for its innovative nature, is the reconstruction of HRTFs according to a Bayesian approach. Presented by Hofman & Van Opstal (Paul M Hofman and John Van Opstal, Bayesian, "Reconstruction of the localization of responses to random spectra", Biological cybernetics, 86 (4): 305-31 6, 2002), who wants to recreate potential HRTFs from a probabilistic analysis of the subjects' responses to specific stimuli. More specifically, the idea is to make subjects listen to sounds convoluted by filters mimicking the types of variations observable in real HRTFs and broadcast by a speaker located right in front of them. The instruction given is to direct the gaze in the direction from which the sound seems to come.
Bien qu'innovante, cette méthode présente toutefois de nombreuses contraintes jouant en sa défaveur comme le temps nécessaire à l'expérimentation ou l'impossibilité d'adresser les HRTFs hors du champ de vision, le sujet étant contraint à désigner du regard les directions d'où semblent leur provenir les sons. Although innovative, this method has many constraints that work against it such as the time required for experimentation or the impossibility of addressing the HRTFs out of the field of view, the subject being forced to designate the directions of the HRTFs. where the sounds seem to come from.
Alors que les méthodes de synthèse citées précédemment visent à créer de tout nouveaux jeux d'HRTFs (sans parfois même en avoir jamais observé de réels, comme c'est le cas pour les méthodes aux éléments finis), les méthodes adaptatives visent, au contraire, à rester au plus près de l'existant. L'idée sous-jacente consiste en l'exécution des mesures sur de vrais sujets pour obtenir des jeux d'HRTFs au moins adaptés à une personne. Ils contiennent donc nécessairement suffisamment d'indices de localisation pour être utilisables, ce que les méthodes de synthèse ne peuvent promettre. While the methods of synthesis mentioned above aim to create new games of HRTFs (without even having ever observed real ones, as is the case for finite element methods), the adaptive methods aim, on the contrary , to stay closer to the existing. The underlying idea is to perform measurements on real subjects to get HRTFs games that are at least adapted to a person. They therefore necessarily contain enough location indices to be usable, which synthetic methods can not promise.
Les méthodes sélectives n'entraînent aucune altération des mesures; leur principe commun est l'élection d'un jeu d'HRTFs parmi plusieurs selon certains critères. Ces derniers sont le plus souvent psychoacoustiques, sans pour autant y être limités. Parmi les critères psycho-acoustiques, il convient en premier lieu de citer les travaux de Shimada et associés (Shoji Shimada, Nobuo Hayashi, et Shinji Hayashi; "A clustering method for sound localization transfer functions", Journal of the Audio Engineering Society, 42(7/8) :577-584, 1994). Partant d'une base conséquente d'HRTFs, ces derniers entendent réaliser des regroupements entre HRTFs similaires. Pour ce faire, ils opèrent une composition cepstrale de 1 6 coefficients. La distance euclidienne naturellement associée à cet espace à 1 6 dimensions permet alors le regroupement des HRTFs en classes (au nombre de 8). Des jeux d'HRTFs sont ensuite choisis aléatoirement au sein des classes et les sujets invités à élire le ou les classes qui leur offrent la meilleure impression d'externalisation et de directivité. Plus récemment, on peut se référer aux travaux de Tame et associés (Robert P Tame, Daniele Barchiese, et Anssi Klapuri; "Headphone virtualization : Improved localization and externalization of nonindividualized hrtfs by cluster analysis", in Audio Engineering Society Convention 133; Audio Engineering Society, May 2012.) ou encore ceux de Xie et associés (Bosun Xie et Zhaojun Tian; "Improving binaural reproduction of 5.1 channel surround sound using individualized hrtf cluster in the wavelet domain", in Audio Engineering Society Conférence : 55th International Conférence : Spatial Audio, Audio Engineering Society, August 2014.) qui utilisent respectivement des gaussiennes et une décomposition en ondelettes pour réaliser le regroupement des HRTFs. Selective methods do not cause any alteration of the measurements; their common principle is the election of one set of HRTFs among several according to certain criteria. The latter are most often psychoacoustic, without being limited to it. Among the psychoacoustic criteria, Shimada et al.'S work (Shoji Shimada, Nobuo Hayashi, and Shinji Hayashi, "A clustering method for sound localization functions ", Journal of the Audio Engineering Society, 42 (7/8): 577-584, 1994), with a consequent base of HRTFs, the latter intend to achieve groupings between similar HRTFs. a cepstral composition of 1 6 coefficients The Euclidean distance naturally associated with this space with 1 6 dimensions then allows the grouping of the HRTFs in classes (8 in number), HRTFs games are then randomly selected within the classes and the subjects invited to elect the class or classes that offer the best impression of outsourcing and directivity More recently, we can refer to the work of Tame and associates (Robert P Tame, Daniele Barchiese, and Anssi Klapuri; Improved localization and externalization of nonindividualized hrtfs by cluster analysis, "in Audio Engineering Society Convention 133, Audio Engineering Society, May 2012.) or those of Xie and Associates (Bosun Xie and Zhao jun Tian; "Improving binaural reproduction of 5.1 channel surround sound using individualized hrtf cluster in the wavelet domain", in Audio Engineering Society Conference: 55th International Conference: Spatial Audio, Audio Engineering Society, August 2014.) which use respectively Gaussian and a wavelet decomposition to bring together the HRTFs.
Une fois la classe (ou cluster en langue anglaise) sélectionnée, une autre étape de sélection peut être ajoutée pour sélectionner un jeu bien précis. Là encore, de multiples méthodes ont été publiées. Ainsi, Y. Iwaya (Yukio Iwaya, "Individualization of head-related transfer functions with tournament-style liste ning test : Listening with other's ears", Acoustical science and technology, 27(6): 340-343, 2006.) décrit une procédure de sélection d'un jeu d'HRTFs parmi 32 disponibles en reprenant le principe des tournois d'échec. Une trajectoire sonore dans le plan horizontal est simulée par convolution d'un bruit rose avec les jeux d'HRTFs. Un bruit rose est un bruit dont la puissance sonore est constante pour une largeur de bande fréquentielle donnée dans un espace logarithmique (ex : même puissance émise sur la bande 40-60Hz que sur la bande 4000-6000Hz). 32 trajectoires sont donc obtenues et mises en compétitions. A chaque rencontre, le sujet déclare vainqueur l'une des deux trajectoires selon qu'elle ressemble le plus ou non à la trajectoire de consigne. Le jeu sortant vainqueur du tournoi est déclaré le plus adapté au sujet. Once the class (or cluster in English language) selected, another selection step can be added to select a specific game. Again, multiple methods have been published. Thus, Y. Iwaya (Yukio Iwaya, "Individualization of head-related transfer functions with tournament-style list ning test: Listening with other ears," Acoustical science and technology, 27 (6): 340-343, 2006.) describes a selection procedure of a set of HRTFs out of 32 available using the principle of chess tournaments. A sound path in the horizontal plane is simulated by convolving a pink noise with HRTFs games. A pink noise is a noise whose sound power is constant for a given frequency bandwidth in a logarithmic space (eg the same power output on the 40-60Hz band as on the 4000-6000Hz band). 32 trajectories are thus obtained and put in competition. At each meeting, the subject declares winner one of the two trajectories according to whether it looks the most or not to the set path. The outgoing winner of the tournament is said to be the most suited to the subject.
Une autre approche, de Seeber et associés (Bernhard U Seeber et Hugo Fastl; "Subjective sélection of non-individual head-related transfer functions", July 2003.), présente une sélection en deux étapes d'un jeu parmi 12. L'objectif affiché est d'être rapide sans entraînement préalable tout en fournissant un résultat minimisant l'impression de son intra-cranien. La première étape consiste à désigner les 5 jeux présentant un meilleur rendu en termes de spatialisation dans la zone frontale. La seconde consiste à en éliminer 4 selon qu'ils pèchent à reproduire différents comportements tels que le déplacement d'une source sonore à vitesse constante, à élévation constante ou encore à distance constante. Une dizaine de minutes est nécessaire à la réalisation de la procédure. Another approach, by Seeber and Associates (Bernhard U Seeber and Hugo Fastl, "Subjective selection of non-individual head-related transfer functions", July 2003), presents a two-step selection of a game among 12. The objective is to be fast without prior training while providing a result that minimizes the impression of his intra-cranial. The first step is to designate the 5 games with a better rendering in terms of spatialization in the frontal zone. The second consists of eliminating 4 depending on whether they sin to reproduce different behaviors such as moving a sound source at constant speed, constant elevation or constant distance. Ten minutes is required to complete the procedure.
Enfin, on cite également les travaux de Martens (William L Martens; "Rapid psychophysical calibration using bisection scaling for individualized control of source élévation in auditory display"; in Proc. Int. Conf. on Auditory Display, pages 199-206, July 2002) connus comme bisection scaling. L'idée est de créer, à l'aide d'un test psycho-acoustique, une table de correspondance entre les directions réelles associées à un jeu d'HRTFs et les directions perçues par le sujet. En pratique, pour un azimut donné il faut trouver l'HRTF correspondant le mieux à la sensation d'une élévation à 45°. Les élévations extrémales (0° et 90°) étant supposées correctement perçues, une interpolation polynomiale du second ordre est ensuite opérée pour construire la table évoquée ci-avant. D'autres protocoles encore ont été proposés par la communauté scientifique mais aucun ne permet d'éviter les inconvénients inhérents à ce type de méthodologie. En effet, même si l'objectif n'est pas de trouver les HRTFs exactes du sujet (il faudrait faire appel aux méthodes de synthèse) mais de sélectionner ou de s'adapter au mieux à l'existant, il n'en reste pas moins que la qualité de la meilleure solution possible est toujours limitée par la variabilité des jeux d'HRTFs ouverts à la sélection. Ainsi, pour un protocole donné, les résultats sont d'autant meilleurs que la base de données d'entrée est importante. Or l'augmentation de cette dernière allonge de fait la durée de l'expérimentation, ce qui est d'autant plus gênant qu'elle repose sur la participation active du sujet. Finally, the work of Martens (William L Martens, "Rapid psychophysical calibration using bisection scaling for individualized control of source elevation in auditory display" in Proc., Int., Conf. On Auditory Display, pages 199-206, July 2002 ) known as scaling bisection. The idea is to create, using a psycho-acoustic test, a correspondence table between the real directions associated with a set of HRTFs and the directions perceived by the subject. In practice, for a given azimuth it is necessary to find the HRTF corresponding best to the sensation of an elevation at 45 °. The extremal elevations (0 ° and 90 °) being supposed correctly perceived, a polynomial interpolation of the second order is then operated to build the table evoked above. Other protocols have been proposed by the scientific community but none can avoid the drawbacks inherent in this type of methodology. Indeed, even if the objective is not to find the exact HRTFs of the subject (it would be necessary to appeal to the methods of synthesis) but to select or to adapt as best as possible to the existing one, it does not remain unless the quality of the best possible solution is always limited by the variability of HRTFs games open for selection. Thus, for a given protocol, the results are even better than the input database is important. But the increase of the latter lengthens the duration experimentation, which is all the more embarrassing because it relies on the active participation of the subject.
Remettant au premier plan l'importance de la morphologie propre à chacun, Zotkin et associés (D.N. Zotkin, J. Hwang, R. Duraiswaini, et L.S. Davis; "Hrtf personalization using anthropométrie measurements", in Applications of Signal Processing to Audio and Acoustics, 2003 IEEE Workshop on, pages 157-160, Oct 2003.) décrivent l'oreille au travers de sept paramètres morphologiques mesurables sur une vue de profil de l'oreille. Ces paramètres permettent de définir une distance entre les individus qui est utilisée pour sélectionner le plus proche voisin dans la base CIPIC d'un sujet donné. On note que les HRTFs ainsi sélectionnées ont ensuite fait l'objet d'une modification pour les fréquences inférieures à 3 kHz. En effet, pour les basses fréquences (f <500Hz), un modèle Tête et Torse, d'acronyme HAT pour "Head-And-Torso" en langue anglaise est utilisé pour synthétiser les HRTFs. Entre 500 Hz et 3 kHz, un recollement affine est opéré pour passer progressivement des HRTFs de synthèse aux HRTFs sélectionnées. Emphasizing the importance of each one's own morphology, Zotkin et al. (DN Zotkin, J. Hwang, R. Duraiswaini, and LS Davis; "Hrtf personalization using anthropometry measurements", in Applications of Signal Processing to Audio and Acoustics , 2003 IEEE Workshop on, pages 157-160, Oct. 2003.) describe the ear through seven morphological parameters measurable on a profile view of the ear. These parameters allow you to define a distance between individuals that is used to select the nearest neighbor in the CIPIC database of a given subject. It should be noted that the HRTFs thus selected have subsequently been modified for frequencies below 3 kHz. Indeed, for the low frequencies (f <500Hz), a model Head and Torso, of acronym HAT for "Head-And-Torso" in English language is used to synthesize the HRTFs. Between 500 Hz and 3 kHz, an affine recollement is operated to progressively move from synthetic HRTFs to selected HRTFs.
En 2001 , la société Arkamys et le CNRS ont déposé un brevet (B.F. Katz and D. Schônstein, "Procédé de sélection de filtres hrtf perceptivement optimale dans une base de données à partir de paramètres morphologiques", WO201 1 128583) portant sur une méthode de sélection morphologique. L'idée est de constituer trois bases de données. La première contient les HRTFs d'un ensemble d'individus, la deuxième contient un jeu de paramètres morphologiques de ces individus et la troisième contient les préférences d'écoute de ces individus, i.e. pour chaque sujet, la classification qu'il fait des HRTFs de la première base. Une fois cela posé, une étude des corrélations entre les deuxième et troisième bases de données est réalisée pour classer les paramètres morphologiques par ordre d'importance. Du côté des HRTFs, une analyse dimensionnelle de l'espace est menée (par exemple une ACP) pour en obtenir une base dans laquelle elles deviennent représentables. Les liens entre K paramètres morphologiques les plus importants et les coordonnées des HRTFs dans l'espace précité sont alors calculés, établissant un lien entre morphologie et HRTFs. Etant donné un nouvel individu, la mesure des K paramètres morphologiques mis en lumière précédemment permet ensuite de se positionner dans l'espace des HRTFs. Le plus proche voisin présent en base est recherché et constitue le résultat de la personnalisation. In 2001, the company Arkamys and the CNRS filed a patent (BF Katz and D. Schônstein, "Method for selecting perceptually optimal hrtf filters in a database from morphological parameters", WO201 1 128583) relating to a method of morphological selection. The idea is to build three databases. The first contains the HRTFs of a set of individuals, the second contains a set of morphological parameters of these individuals and the third contains the listening preferences of these individuals, ie for each subject, the classification he makes of HRTFs. from the first base. Once this is done, a study of the correlations between the second and third databases is performed to rank the morphological parameters in order of importance. On the side of the HRTFs, a dimensional analysis of the space is carried out (for example a PCA) to obtain a base in which they become representable. The links between K most important morphological parameters and the coordinates of HRTFs in the aforementioned space are then calculated, establishing a link between morphology and HRTFs. Given a new individual, the measurement of K morphological parameters brought to light previously allows then to position itself in the space of the HRTFs. The nearest neighbor in the base is searched for and is the result of customization.
Le problème rencontré par les précédentes méthodes utilisant des paramètres morphologiques, à savoir, de définir leur nombre et leur localisation. En effet, la notion de hauteur d'une oreille, par exemple, n'a rien de naturel et sa mesure sera très dépendante de la subjectivité de l'expérimentateur qui devra avant toute chose déterminer si l'oreille doit être tournée et où se situent ses points les plus "bas" et "haut". Par ailleurs, se pose la question des critères de définition de la distance utilisée car c'est de cette dernière que dépend le résultat de la sélection. The problem encountered by previous methods using morphological parameters, namely, to define their number and their location. Indeed, the notion of the height of an ear, for example, is not natural and its measurement will be very dependent on the subjectivity of the experimenter who will first of all have to determine whether the ear should be turned and where locate his "lowest" and "high" points. Moreover, the question arises of the criteria of definition of the distance used because it is from this last that depends the result of the selection.
Enfin viennent les méthodes de sélection adaptée, dont le représentant le plus explicite est sans doute la mise à l'échelle en fréquences ou "Frequency Scaling" en langue anglaise, introduite par Middlebrook (John C Middlebrooks, "Virtual localization improved by scaling nonindividualized external-ear transfer functions in frequency", The Journal of the Acoustical Society of America, 106(3) :1493-1510, 1999); cette opération repose sur l'idée que l'interaction d'une onde sonore de fréquence donnée avec un solide dépend des dimensions de ce dernier. En particulier, toute homothétie opérée sur l'objet doit s'accompagner, si l'on souhaite toujours observer la même interaction, d'une homothétie de rapport inverse sur la fréquence. Appliquée à l'individualisation, cette idée revient à dire qu'en connaissant les HRTFs d'un individu de référence (ou même d'un mannequin) et le rapport d'échelle ("scaling factor" en Ingue anglaise) entre la morphologie de cette référence et celle d'un sujet à individualiser, il est possible d'améliorer la sensation de localisation apportée à celui-ci par les HRTFs de référence en leur appliquant une mise à l'échelle de rapport inverse. Finally come the methods of selection adapted, whose most explicit representative is probably the frequency scaling or "Frequency Scaling" in English, introduced by Middlebrook (John C Middlebrooks, "Virtual localization improved by scaling nonindividualized external -ear transfer functions in frequency ", The Journal of the Acoustical Society of America, 106 (3): 1493-1510, 1999); this operation is based on the idea that the interaction of a sound wave of given frequency with a solid depends on the dimensions of the latter. In particular, any homothety performed on the object must be accompanied, if one always wishes to observe the same interaction, a homothety of inverse ratio on the frequency. Applied to individualization, this idea amounts to saying that by knowing the HRTFs of a reference individual (or even a manikin) and the scale ratio ("scaling factor" in English Ingue) between the morphology of this reference and that of a subject to individualize, it is possible to improve the feeling of location provided by the reference HRTFs by applying a reverse ratio scaling.
En parallèle à la mise à l'échelle en fréquences ou "Frequency Scaling", Maki et Furukawa (Katuhiro Maki et Shigeto Furukawa; "Reducing individual différences in the external-ear transfer functions of the mongolian gerbil; The Journal of the Acoustical Society of America, 1 18(4), 2005) ont montré que, partant de la donnée de l'angle entre un pavillon d'oreille de référence et un pavillon test, une rotation du système de coordonnées donnant la direction des HRTFs permet de réduire significativement les différences inter-individus. En d'autres termes, ce procédé utilise le fait, en le restreignant au pavillon d'oreille, qu'une rotation du sujet induit la même rotation au niveau des HRTFs mesurées. Ces approches, si utiles soient-elles, ne sauraient néanmoins constituer à elles seules des procédés complets de personnalisation. Cela reviendrait à réduire la variabilité des HRTFs à seulement 1 ou 2 paramètres. Toutefois, elles peuvent être vues comme de bons compléments à d'autres méthodes. En dépit de la multiplicité des approches connues visant à personnaliser l'écoute binaurale, aucune n'est encore parvenue à se détacher clairement des autres par son efficacité et sa simplicité. De plus, des problèmes peuvent en découler comme des temps de personnalisation prohibitifs ou un manque de fiabilité des solutions, si ce n'est les deux simultanément. In parallel with frequency scaling or "Frequency Scaling", Maki and Furukawa (Katuhiro Maki and Shigeto Furukawa), "Reducing individual differences in the external-ear transfer functions of the Mongolian gerbil," The Journal of the Acoustical Society of America, 1 18 (4), 2005) have shown that, starting from the angle data between a reference earlobe and a test flag, a rotation of the coordinate system giving the direction of HRTFs can significantly reduce inter-individual differences. In other words, this method uses the fact, by restricting it to the ear flag, that a rotation of the subject induces the same rotation at the measured HRTFs. These approaches, however useful they may be, can not in themselves constitute complete customization processes. This would reduce the variability of HRTFs to only 1 or 2 parameters. However, they can be seen as good complements to other methods. Despite the multiplicity of known approaches to personalize binaural listening, none has yet managed to stand out clearly from others by its efficiency and simplicity. In addition, problems can arise as prohibitive personalization times or a lack of reliability solutions, if not both simultaneously.
Un but de l'invention est d'élaborer une fonction de transfert relative à la tête (HRTF) adaptée à un individu avec une rapidité et une fiabilité améliorées. An object of the invention is to develop a head-related transfer function (HRTF) adapted to an individual with improved speed and reliability.
Dans la suite de la description, l'expression "données d'oreilles", "espace des oreilles" ou "oreilles" signifie des photos 2D d'oreilles ou des oreilles 3D représentées par un nuage de points 3D décrivant la surface de l'oreille. In the remainder of the description, the term "ear data", "ear space" or "ears" means 2D photos of ears or 3D ears represented by a 3D point cloud describing the surface of the hear.
Aussi, il est proposé, selon un aspect de l'invention, un procédé d'élaboration d'une fonction de transfert relative à la tête ou HRTF adaptée à un individu, à partir d'une base de données comprenant des données d'oreilles 3D ou 2D et des fonctions de transfert correspondantes relatives à la tête, le procédé comprenant les étapes consistant à: Also, it is proposed, according to one aspect of the invention, a method of developing a head-related transfer function or HRTF adapted to an individual, from a database comprising ear data. 3D or 2D and corresponding transfer functions relating to the head, the method comprising the steps of:
- effectuer une analyse statistique de l'espace des oreilles 3D ou 2D, de la base de données;  - perform a statistical analysis of the space of the ears 3D or 2D, of the database;
- effectuer une analyse statistique de l'espace des fonctions de transfert relatives à la tête, de la base de données; - effectuer une analyse des liens entre lesdits paramètres statistiques de l'espace des oreilles 3D ou 2D et lesdits paramètres statistiques de l'espace des fonctions de transfert relatives à la tête; et perform a statistical analysis of the space of the transfer functions relating to the head, of the database; performing an analysis of the links between said statistical parameters of the 3D or 2D ear space and said statistical parameters of the space of the transfer functions relating to the head; and
- déterminer, à partir de ladite analyse des liens et de ladite analyse statistique de l'espace des oreilles 3D ou 2D, une fonction de calcul d'une fonction de transfert relative à une tête à partir de données représentatives d'au moins une oreille.  determining, from said link analysis and said statistical analysis of the space of the 3D or 2D ears, a function of calculating a transfer function relating to a head from data representative of at least one ear .
Ainsi, les relations entre HRTFs et données d'oreilles étant déterminées en amont, il est possible de les utiliser dans des applications temps réel. Par ailleurs, le caractère statistique des analyses permet de s'affranchir des simplifications introduites par les modèles physiques et des approximations qui en découlent. Bien entendu, une HRTF est liée à une direction de l'espace, et pour recréer un environnement virtuel auditif complet, il faut donc disposer d'HRTFs pour un nombre conséquent de directions, ce que permet de faire la présente invention pour un nombre quelconque de directions souhaitées. Selon un mode de mise en œuvre, le procédé comprend, en outre, une étape consistant à mettre en correspondance dense, ou "dense registration en langue anglaise, des points relatifs à des positions respectives des oreilles de la base de données. Dans un mode de mise en œuvre, le procédé comprend, en outre, une étape de calcul d'une fonction de transfert relative à la tête, adaptée à l'individu, à partir de ladite fonction de calcul et d'au moins une photographie d'au moins une oreille de l'individu. Ainsi, l'utilisation de la fonction de calcul permet la détermination de la fonction de transfert en un temps compatible avec une application temps réel. Thus, the relationship between HRTFs and ear data being determined upstream, it is possible to use them in real-time applications. Moreover, the statistical nature of the analyzes makes it possible to dispense with the simplifications introduced by the physical models and the approximations that result from them. Of course, an HRTF is related to a direction of the space, and to recreate a complete auditory virtual environment, it is therefore necessary to have HRTFs for a significant number of directions, which makes it possible to do the present invention for any number desired directions. According to one embodiment, the method further comprises a step of densely matching, or "dense registration in English," points relating to respective positions of the ears of the database. implementation, the method further comprises a step of calculating a transfer function relating to the head, adapted to the individual, from said calculation function and from at least one photograph of at least one The use of the calculation function makes it possible to determine the transfer function in a time compatible with a real-time application.
Selon un mode de mise en œuvre, ladite étape de calcul d'une fonction de transfert relative à la tête est itérative. Dans un mode de mise en œuvre, ladite étape itérative de calcul d'une fonction de transfert relative à la tête comprend : According to one embodiment, said step of calculating a transfer function relating to the head is iterative. In one embodiment, said iterative step of calculating a transfer function relating to the head comprises:
- une première sous-étape itérative d'estimation d'au moins un paramètre de pose de l'individu lors de la ou lesdites photographies; et  a first iterative sub-step for estimating at least one setting parameter of the individual during said one or more photographs; and
- une deuxième sous-étape itérative d'estimation de paramètres statistiques optimisés représentant au moins une oreille de l'individu dans l'espace des oreilles.  a second iterative sub-step of estimation of optimized statistical parameters representing at least one ear of the individual in the space of the ears.
Ainsi, il est possible de reconstituer une oreille en 3D à partir d'une photographie qui ne nécessite pas que l'utilisateur prenne de précaution particulière lors de la prise du cliché. Selon un mode de mise en œuvre, lesdites données représentant des oreilles 3D sont des nuages de points. Thus, it is possible to reconstruct an ear in 3D from a photograph that does not require the user to take special precautions when taking the snapshot. According to one embodiment, said data representing 3D ears are point clouds.
Ainsi, la visualisation et l'étude des propriétés, notamment géométriques, des données sont facilitées. Thus, the visualization and the study of the properties, particularly geometric properties, of the data are facilitated.
Dans un mode de mise en œuvre, on utilise lesdites étapes divulguées pour élaborer une fonction de transfert, pour de hautes fréquences supérieures à un seuil, relative à la tête adaptée à l'individu, ledit procédé comprenant, en outre, une étape d'élaboration d'une fonction de transfert, pour de basses fréquences inférieures audit seuil, relative à la tête adaptée à l'individu. In one embodiment, said disclosed steps are used to develop a transfer function, for high frequencies above a threshold, relating to the head adapted to the individual, said method comprising, in addition, a step of development of a transfer function, for low frequencies below said threshold, relating to the head adapted to the individual.
Ainsi, chaque partie du spectre fréquentielle se voit adaptée en fonction des structures physiques qui l'impactent le plus. Thus, each part of the frequency spectrum is adapted according to the physical structures that impact it the most.
Selon un mode de mise en œuvre, ladite étape d'élaboration d'une fonction de transfert, pour de basses fréquences inférieures audit seuil, relative à la tête adaptée à l'individu comprend les sous-étapes suivantes, consistant à: - échantillonner de plages de valeurs possibles de paramètres morphologiques humains d'une base de données relatives à la morphologie humaine, According to one embodiment, said step of developing a transfer function, for low frequencies below said threshold, relating to the head adapted to the individual comprises the following substeps, consisting of: - to sample ranges of possible values of human morphological parameters from a database relating to human morphology,
- déterminer d'un maillage de modèle paramétrique desdits paramètres morphologiques,  determining a parametric model mesh of said morphological parameters,
- calculer des fonctions de transfert gabarit de basses fréquences, associées audit maillage,  calculating low frequency mask transfer functions, associated with said mesh,
- estimer la valeur des paramètres morphologiques de l'individu à partir d'au moins une photo de l'individu de face ou de profil, et  estimating the value of the morphological parameters of the individual from at least one photo of the individual face or profile, and
- calculer une fonction de transfert, pour de basses fréquences, relative à la tête, adaptée à l'individu à partir de la valeur estimée des paramètres morphologiques et desdites fonctions calculées de transfert gabarit de basses fréquences. Ainsi, la plupart des calculs est menée en amont, permettant l'utilisation du procédé au sein d'applications en temps réel.  calculating a transfer function, for low frequencies, relating to the head, adapted to the individual from the estimated value of the morphological parameters and said calculated functions of low frequency mask transfer. Thus, most calculations are conducted upstream, allowing the use of the process within applications in real time.
Dans un mode de mise en œuvre, une fonction de transfert relative à la tête de l'individu est élaborée à partir desdites fonctions de transfert respectivement pour de hautes et basses fréquences et de ladite ou lesdites photos de l'individu de face ou de profil, comprenant les étapes consistant à: In one embodiment, a transfer function relating to the head of the individual is developed from said transfer functions respectively for high and low frequencies and said one or more photos of the individual face or profile , comprising the steps of:
- estimer, à partir de ladite ou lesdites photos de l'individu de face ou de profil, la taille d'oreilles relativement au reste du corps de l'individu; - mettre à l'échelle en fréquences les fonctions de transfert relatives à la tête, pour les hautes fréquences; et  - estimate, from said one or more photos of the individual face or profile, the size of ears relative to the rest of the body of the individual; - Frequency scaling the transfer functions relating to the head, for high frequencies; and
- fusionner les fonctions de transfert, respectivement pour de hautes et basses fréquences, pour obtenir la fonction de transfert relative à la tête de l'individu.  merging the transfer functions, respectively for high and low frequencies, to obtain the transfer function relating to the head of the individual.
Pour un individu, la photo d'une seule oreille, peut suffire, en supposant une symétrie des oreilles d'un individu, mais en variante, une meilleure précision est obtenue avec des photos des deux oreilles d'un individu. Il est également proposé, selon un autre aspect de l'invention, un système d'élaboration d'une fonction de transfert relative à la tête ou HRTF adaptée à un individu, à partir d'une base de données comprenant des données d'oreilles et des fonctions de transfert correspondantes relatives à la tête, comprenant un calculateur configuré pour mettre en œuvre le procédé selon l'une des revendications précédentes. For an individual, the photo of a single ear, may be sufficient, assuming symmetry of the ears of an individual, but alternatively, a better accuracy is obtained with photos of the two ears of an individual. It is also proposed, according to another aspect of the invention, a system for developing a transfer function relating to the head or HRTF adapted to an individual, from a database comprising data of ears. and corresponding transfer functions relating to the head, comprising a computer configured to implement the method according to one of the preceding claims.
L'invention sera mieux comprise à l'étude de quelques modes de réalisation décrits à titre d'exemples nullement limitatifs et illustrés par les dessins annexés sur lesquels les figures 1 à 4 illustrent schématiquement le procédé selon l'invention. The invention will be better understood from the study of some embodiments described by way of non-limiting examples and illustrated by the accompanying drawings in which Figures 1 to 4 schematically illustrate the method according to the invention.
Sur la figure 1 , une base de données OHi comprend des données Oi d'oreilles et des fonctions de transfert Hi correspondantes relatives à la tête. On entend par "correspondantes", le fait que pour cette base de données, on enregistre lors de sa conception, pour les individus servant à concevoir la base de données, les données représentatives des oreilles des personnes de la base, ainsi que leurs fonctions de transfert relatives à la tête, en gardant le lien entre les données d'oreilles et la fonction de transfert correspondant de la base de données. In Fig. 1, an OHi database includes ear data Oi and corresponding transfer functions Hi relative to the head. "Corresponding" refers to the fact that for this database, the data representative of the ears of the people at the base, as well as their functions, are recorded for the individuals used to design the database. transfer relative to the head, keeping the link between the ear data and the corresponding transfer function of the database.
Les données Oi d'oreilles peuvent être des nuages de points. Une étape S1 , optionnelle, permet de mettre en correspondance dense des points relatifs à des positions respectives des oreilles Oi de la base de données OH-i. Oi data of ears can be point clouds. An optional step S1 makes it possible to closely match points relating to respective positions of the ears Oi of the database OH-i.
On entend par mise en correspondance dense, la spécification des correspondances entre les points constitutifs d'un nuage ou les pixels d'une image 2D d'oreille et ceux constitutifs d'un autre nuage ou d'une autre image 2D d'oreille. À titre d'exemple, si l'extrémité du lobe est représentée par le point 2048 sur une oreille et par le point 157 sur une autre, la spécification de cette équivalence de rôle constitue une mise en correspondance. On pourra parler de classe d'équivalence, tous les points d'une même classe jouant un rôle similaire au sein de leur oreille d'appartenance. Il est possible de n'utiliser qu'une oreille, en supposant une symétrie des oreilles d'un utilisateur. By dense matching is meant the specification of the correspondences between the constituent points of a cloud or the pixels of a 2D image of the ear and those constituting another cloud or other 2D ear image. For example, if the end of the lobe is represented by point 2048 on one ear and point 157 on another, the specification of this role equivalence constitutes a mapping. We can speak of equivalence class, all the points of the same class playing a similar role within their ear of belonging. It is possible to use only one ear, assuming a symmetry of the ears of a user.
Une étape S2 permet ensuite d'effectuer une analyse statistique de l'espace des oreilles O-i , de la base de données OH-i. Cette analyse statistique peut se faire aux moyen de techniques utilisant une base d'exemples d'oreilles et réalisant une réduction de dimension (analyse en composantes principales, analyse en composantes indépendantes, codage de type sparse ou parcimonieux, réseaux de neurones de type autoencodeurs). Ces techniques permettent de convertir la représentation d'une oreille 2D ou 3D (sous la forme d'un nuage de points ou de pixels dans une image) en un vecteur de paramètres statistiques de nombre restreint. A step S2 then makes it possible to perform a statistical analysis of the ear space O-i, of the OH-i database. This statistical analysis can be done using techniques using a sample ear basis and performing a dimension reduction (principal component analysis, independent component analysis, sparse or parsimonious type coding, self-coding neuron networks). . These techniques make it possible to convert the representation of a 2D or 3D ear (in the form of a cloud of points or pixels in an image) into a vector of restricted number statistical parameters.
Une étape S3 permet d'effectuer une analyse statistique de l'espace des fonctions de transfert relatives à la tête H-i , de la base de données OH-i. Cette analyse statistique est du même type que celle décrite dans le paragraphe précédent. Elle permet donc de représenter les HRTF par un vecteur de paramètres statistiques de nombre restreint. A step S3 makes it possible to carry out a statistical analysis of the space of the transfer functions relating to the head H-i, of the database OH-i. This statistical analysis is of the same type as that described in the previous paragraph. It thus makes it possible to represent the HRTFs by a vector of statistical parameters of restricted number.
Une étape S4 permet d'effectuer une analyse des liens entre lesdits paramètres statistiques de l'espace des oreilles de l'étape S2 et lesdits paramètres statistiques de l'espace des fonctions de transfert relatives à la tête de l'étape S3. A step S4 makes it possible to perform an analysis of the links between said statistical parameters of the ear space of step S2 and said statistical parameters of the space of the transfer functions relating to the head of step S3.
Enfin, une étape S5 permet de déterminer, à partir de ladite analyse des liens de l'étape S4, et de ladite analyse statistique de l'espace des oreilles de l'étape S2, une fonction de calcul OHÎ d'une fonction de transfert Si relative à une tête à partir de données représentatives d'au moins une oreille. Finally, a step S5 makes it possible to determine, from said link analysis of the step S4, and from said statistical analysis of the ear space of the step S2, a calculation function OH1 of a transfer function If relative to a head from data representative of at least one ear.
Les analyses statistiques S2 et S3 doivent aboutir à la création de représentations paramétriques des oreilles et des fonctions de transfert relatives à la tête. En particulier, les données d'apprentissage de la base de données OHi doivent pouvoir être reconstruites à partir des sorties de l'analyse. Il est notamment possible d'utiliser, dans les étapes d'analyse S2 et S3, des analyses en composantes principales d'acronyme ACP. The statistical analyzes S2 and S3 must lead to the creation of parametric representations of the ears and transfer functions relating to the head. In particular, the training data of the database OHi must be able to be reconstructed from the outputs of the analysis. It is possible in particular to use, in the analysis steps S2 and S3, principal component analyzes of acronym ACP.
A titre d'exemple, lorsque l'ACP est choisie pour réaliser la réduction de dimension, elle consiste à calculer, à partir d'une base d'exemples des données à analyser, les vecteurs propres qui représentent le mieux ces données au sens des moindres carrés. Les paramètres statistiques qui représentent la donnée à analyser (oreille 3D ou 2D ou fonction de transfert relative à la tête) ne sont ni plus ni moins que les coefficients de projection cette donnée projetée sur les vecteurs propres. Alternativement, tout type d'analyse dimensionnelle linéaire ou non, convient, pour autant qu'elle réponde à l'exigence de reconstruction précitée, comme les méthodes d'analyse en composantes indépendantes, d'acronyme ACI, ou de codage clairsemé ou "sparse-coding" en langue anglaise. L'analyse des liens de l'étape S4 entre les jeux de paramètres statistiques de l'espace des oreilles et les paramètres statistiques de l'espace des fonctions de transfert relatives à la tête, dans une configuration nominale, peut se faire par régression linéaire multivariée sur les valeurs des paramètres utilisés pour la reconstruction des données d'apprentissage de la base de données OHi. By way of example, when the PCA is chosen to carry out the size reduction, it consists in calculating, from a base of examples of the data to be analyzed, the eigenvectors which best represent these data in the sense of the least squares. The statistical parameters that represent the data to be analyzed (3D ear or 2D or transfer function relative to the head) are neither more nor less than the projection coefficients this projected data on the eigenvectors. Alternatively, any type of linear or non-linear dimensional analysis is suitable, provided that it meets the above-mentioned reconstruction requirement, such as independent component analysis methods, with ACI acronym, or sparse coding or "sparse" -coding "in the English language. The analysis of the links of the step S4 between the sets of statistical parameters of the ear space and the statistical parameters of the space of the transfer functions relating to the head, in a nominal configuration, can be done by linear regression multivariate on the values of the parameters used for the reconstruction of the training data of the database OHi.
Alternativement, toute méthode permettant de trouver les valeurs du jeu de paramètres des fonctions de transfert relatives à la tête à partir des valeurs du jeu de paramètres statistiques et assurant une bonne reconstruction des fonctions de transfert relatives à la tête de la base de données OH-i, comme des méthodes à base de réseaux de neurones, à base d'analyse en composantes multiples, d'acronyme ACM, ou de partitionnement en k-moyennes. Alternatively, any method making it possible to find the values of the parameter set of the transfer functions relating to the head from the values of the set of statistical parameters and ensuring a good reconstruction of the transfer functions relating to the head of the OH-database. i, as methods based on neural networks, based on multiple component analysis, ACM acronym, or partitioning in k-means.
Comme illustré sur la figure 2, le procédé peut comprendre, en outre, une étape de calcul S6 d'une fonction de transfert Si relative à la tête, adaptée à l'individu, à partir de ladite fonction de calcul OHÎ et d'au moins une photographie Ui d'une oreille de l'individu. L'étape de calcul S6 d'une fonction de transfert Si relative à la tête peut être itérative, et comprendre une première sous-étape itérative S7 d'estimation d'au moins un paramètre de pose de l'individu lors de la ou lesdites photographies, et une deuxième sous-étape itérative S8 d'estimation de paramètres statistiques optimisés représentant au moins une oreille de l'individu dans l'espace des oreilles. As illustrated in FIG. 2, the method may furthermore comprise a calculation step S6 of a transfer function Si relative to the head, adapted to the individual, from said calculation function OH 1 and from less a photograph Ui of an ear of the individual. The calculation step S6 of a transfer function Si relative to the head may be iterative, and comprise a first iterative sub-step S7 for estimating at least one setting parameter of the individual during said one or more photographs, and a second iterative sub-step S8 of estimation of optimized statistical parameters representing at least one ear of the individual in the space of the ears.
Bien entendu l'étape itérative de calcul S6 d'une fonction de transfert Si relative à la tête comprend alors également une sous-étape S6a d'initialisation ou mise à jour des paramètres statistiques de forme et des paramètres de pose, ainsi qu'une sous-étape S6b de test de convergence de l'étape de calcul S6 ou d'atteinte d'un nombre limite d'itérations. Of course, the iterative computational step S6 of a transfer function Si relative to the head also then comprises a substep S6a for initializing or updating the statistical parameters of shape and of the setting parameters, as well as a sub-step S6b of convergence test of the calculation step S6 or reaching a limit number of iterations.
Les première et deuxième sous-étapes itératives S7 et S8 comprennent bien sûr chacune un test de convergence de l'estimation respective ou d'atteinte d'un nombre limite d'itérations. Les paramètres de pose dont il est question font référence aux angles sous lesquels sont photographiées les oreilles des utilisateurs. The first and second iterative substeps S7 and S8 of course each include a convergence test of the respective estimate or of reaching a limit number of iterations. The pose parameters referred to refer to the angles under which the user's ears are photographed.
Les première et deuxième sous-étapes itératives S7 et S8 d'estimation font intervenir des modèles actifs d'apparence ou "active appearance models" en langue anglaise, d'acronyme AAM. Dans une configuration nominale, ils sont basés sur l'utilisation de matrices de régression. The first and second iterative sub-steps S7 and S8 of estimation involve active models of appearance or "active appearance models" in English, acronym AAM. In a nominal configuration, they are based on the use of regression matrices.
En variante, il est possible d'utiliser toute méthode permettant de faire converger la projection en 2D du modèle vers les images 2D des utilisateurs comme des AAM basés sur des descentes de gradient, des algorithmes génétiques ou des simplex. Alternatively, it is possible to use any method to converge the 2D projection of the model to the user 2D images as AAMs based on gradient descent, genetic algorithms or simplex.
Comme illustré sur la figure 3, on utilise lesdites étapes divulguées pour élaborer une fonction de transfert SH, pour de hautes fréquences supérieures à un seuil, relative à la tête adaptée à l'individu, ledit procédé comprenant, en outre, une étape d'élaboration d'une fonction de transfert SB, pour de basses fréquences inférieures audit seuil, relative à la tête adaptée à l'individu. L'étape d'élaboration d'une fonction de transfert SB, pour de basses fréquences inférieures audit seuil, relative à la tête, adaptée à l'individu comprend les sous-étapes suivantes, consistant à: As illustrated in FIG. 3, said disclosed steps are used to develop a transfer function S H , for high frequencies greater than a threshold, relating to the head adapted to the individual, said method comprising, in addition, a step of development of a transfer function S B , for low frequencies below said threshold, relating to the head adapted to the individual. The step of developing a transfer function S B , for low frequencies below said threshold, relating to the head, adapted to the individual comprises the following substeps, consisting of:
- échantillonner S9 des plages de valeurs possibles de paramètres morphologiques humains d'une base de données M-ι relatives à la morphologie humaine,  - sampling S9 possible ranges of human morphological parameters of a database M-ι relating to human morphology,
- déterminer S10 un maillage de modèle paramétrique desdits paramètres morphologiques,  determining S10 a parametric model mesh of said morphological parameters,
- calculer S1 1 des fonctions de transfert gabarit de basses fréquences (M{), associées audit maillage,  calculating S1 1 of the low frequency mask transfer functions (M {) associated with said mesh,
- estimer S12 la valeur des paramètres morphologiques de l'individu à partir d'au moins une photo U2 de l'individu de face ou de profil, et estimating S12 the value of the morphological parameters of the individual from at least one U 2 photo of the individual face or profile, and
- calculer S13 une fonction de transfert SB, pour de basses fréquences, relative à la tête, adaptée à l'individu à partir de la valeur estimée des paramètres morphologiques et desdites fonctions calculées de transfert gabarit de basses fréquences. calculating S13 a transfer function S B , for low frequencies, relating to the head, adapted to the individual from the estimated value of the morphological parameters and said calculated functions of low frequency mask transfer.
Les fonctions de transfert gabarit de basses fréquences M[ sont calculées hors ligne et servent de base de référence de fonctions de transfert relatives à la tête en basses fréquences (fréquences inférieures à un seuil, par exemple 2 kHz). The low-frequency mask transfer functions M [are calculated offline and serve as a reference base for transfer functions relating to the head at low frequencies (frequencies below a threshold, for example 2 kHz).
Par exemple, il est possible d'utiliser un modèle boules de neige ou "snowbaN" en langue anglaise. En variante, tout modèle paramétrique à peu d'entrées et permettant d'obtenir un maillage de la tête et du torse convient, comme une modélisation de la tête et du torse par des ellipsoïdes de révolution. For example, it is possible to use a snowball or "snowbaN" model in English. As a variant, any parametric model with few inputs and making it possible to obtain a mesh of the head and the torso is suitable, such as a modeling of the head and the torso by ellipsoids of revolution.
Par exemple, les paramètres macroscopiques peuvent être la largeur des épaules et le diamètre de la tête. Le choix des paramètres est dicté par le choix du modèle utilisé pour le calcul des gabarits. For example, the macroscopic parameters may be the width of the shoulders and the diameter of the head. The choice of the parameters is dictated by the choice of the model used for the calculation of the templates.
Comme illustré sur la figure 4, une fonction de transfert relative à la tête Si de l'individu est élaborée à partir desdites fonctions de transfert SH, SB, respectivement pour de hautes et basses fréquences et de ladite ou lesdites photos U2 de l'individu de face ou de profil, comprenant les étapes consistant à: As illustrated in FIG. 4, a transfer function relating to the head S 1 of the individual is elaborated from said transfer functions S H , S B , respectively for high and low frequencies and of said said photos U 2 of the face or profile individual, comprising the steps of:
estimer S14, à partir de ladite ou lesdites photos U2 de l'individu de face ou de profil, la taille d'oreille de l'individu ; estimating S14, from said U 2 photos or photos of the individual face or profile, the ear size of the individual;
- utiliser ladite taille d'oreille estimée de l'individu pour ajuster S1 5 les fonctions de transfert relatives à la tête SH à la bande de fréquences la plus adaptée selon la méthode de mise à l'échelle en fréquences ou "frequency scaling" en langue anglaise, pour les hautes fréquences; use said estimated ear size of the individual to adjust the transfer functions relating to the head S H to the most suitable frequency band according to the frequency scaling method in English, for high frequencies;
fusionner S1 6 les fonctions de transfert SH, SB, respectivement pour de hautes et basses fréquences, pour obtenir la fonction de transfert relative à la tête Si de l'individu. to merge S1 6 transfer functions S H , S B , respectively for high and low frequencies, to obtain the transfer function relative to the head Si of the individual.
Les dimensions de l'oreille peuvent être normalisées, auquel cas il faut prévoir une remise à l'échelle du spectre fréquentiel généré pour l'oreille. The dimensions of the ear can be normalized, in which case it is necessary to rescaling the frequency spectrum generated for the ear.
En effet, deux oreilles identiques à un facteur d'échelle près ont des HRTFs identiques à l'inverse de ce même facteur d'échelle près. Ceci est très important lorsque l'on travaille avec un modèle d'oreille normalisé et sans information, tout du moins en début d'algorithme, sur les dimensions réelles de l'oreille du sujet. Par conséquent, si le modèle reconstruit une oreille de 5 cm de haut là ou l'oreille du sujet en faisait 10 cm, il faudra comprimer les HRTFs par un facteur 0.5. Indeed, two ears identical to a scale factor have similar HRTFs opposite the same scaling factor. This is very important when working with a standard ear model and without information, at least at the beginning of the algorithm, on the actual dimensions of the subject's ear. Therefore, if the model reconstructs an ear 5 cm high where the subject's ear was 10 cm, it will compress the HRTFs by a factor of 0.5.
En variante, si les oreilles ne font pas l'objet de normalisation en taille, l'étape 1 5 de mise à l'échelle devient sans objet. La fusion des deux parties du spectre par leur sommation après application d'un filtre passe-haut et d'un filtre passe-bas respectivement au spectre de hautes fréquences et au spectre de basses fréquences. Alternatively, if the ears are not sized in size, scaling step 1 becomes pointless. The fusion of the two parts of the spectrum by their summation after application of a high-pass filter and a low-pass filter respectively to the high frequency spectrum and the low frequency spectrum.
Les étapes du procédé décrit ci-dessus peuvent être effectuées par un ou plusieurs processeurs programmables exécutant un programme informatique pour exécuter les fonctions de l'invention en opérant sur des données d'entrée et générant des données de sortie. Un programme informatique peut être écrit dans n'importe quelle forme de langage de programmation, y compris les langages compilés ou interprétés, et le programme d'ordinateur peut être déployé dans n'importe quelle forme, y compris en tant que programme autonome ou comme un sous-programme, élément ou autre unité appropriée pour une utilisation dans un environnement informatique. Un programme d'ordinateur peut être déployée pour être exécuté sur un ordinateur ou sur plusieurs ordinateurs à un seul site ou répartis sur plusieurs sites et reliées entre elles par un réseau de communication. The steps of the method described above may be performed by one or more programmable processors executing a computer program for performing the functions of the invention by operating on input data and generating output data. A computer program can be written in any form of programming language, including compiled or interpreted languages, and the computer program can be deployed in any form, including as a stand-alone program or as a subroutine, element or other unit suitable for use in a computing environment. A computer program can be deployed to run on one computer or multiple computers at a single site or spread across multiple sites and interconnected by a communications network.
Le mode de réalisation préféré de la présente invention a été décrit. Diverses modifications peuvent être apportées sans s'écarter de l'esprit et de la portée de l'invention. Par conséquent, d'autres mises en œuvre sont dans la portée des revendications suivantes. The preferred embodiment of the present invention has been described. Various modifications can be made without departing from the spirit and scope of the invention. Therefore, other implementations are within the scope of the following claims.

Claims

REVENDICATIONS
1 . Procédé mis en œuvre par ordinateur d'élaboration d'une fonction de transfert relative à la tête (S-i) adaptée à un individu, à partir d'une base de données (OH-i) comprenant des données (O-i) d'oreilles 3D ou 2D et des fonctions de transfert (H-i) correspondantes relatives à la tête, le procédé comprenant les étapes consistant à: effectuer une analyse statistique menant à une réduction de dimension (S2) de l'espace des oreilles 3D ou 2D, de la base de données (OH-i) et représenter chaque oreille 3D ou 2D par un vecteur de paramètres statistiques dont les valeurs des composantes sont les valeurs des projections de chaque oreille dans l'espace des oreilles de dimension réduite; 1. Computer-implemented method for developing a head-related (Si) transfer function adapted to an individual from a database (OH-i) comprising 3D ear data (Oi) or 2D and corresponding transfer functions (Hi) relating to the head, the method comprising the steps of: performing a statistical analysis leading to a reduction in size (S2) of the space of the 3D or 2D ears of the base of data (OH-i) and represent each ear 3D or 2D by a vector of statistical parameters whose values of the components are the values of the projections of each ear in the space of the ears of reduced dimension;
effectuer une analyse statistique menant à une réduction de dimension (S3) de l'espace des fonctions de transfert relatives à la tête, de la base de données (OH-i) et représenter chaque fonction de transfert par un vecteur de paramètres statistiques dont les valeurs des composantes sont les valeurs des projections de chaque fonction de transfert dans l'espace des fonctions de transfert de dimension réduite;  performing a statistical analysis leading to a size reduction (S3) of the space of the transfer functions relating to the head, of the database (OH-i) and representing each transfer function by a vector of statistical parameters whose component values are the values of the projections of each transfer function in the space of the reduced-size transfer functions;
effectuer une analyse des liens (S4) entre lesdits paramètres statistiques de l'espace des oreilles 3D ou 2D et lesdits paramètres statistiques de l'espace des fonctions de transfert relatives à la tête; et déterminer (S5), à partir de ladite analyse des liens et de ladite analyse statistique de l'espace des oreilles 3D ou 2D, une fonction de calcul (OHÎ) d'une fonction de transfert (S-i) relative à une tête à partir de données représentatives d'au moins une oreille.  performing a link analysis (S4) between said statistical parameters of the 3D or 2D ear space and said statistical parameters of the space of the transfer functions relating to the head; and determining (S5), from said link analysis and said statistical analysis of the 3D or 2D ear space, a calculation function (OH) of a transfer function (Si) relating to a head from representative of at least one ear.
2. Procédé selon la revendication 1 , comprenant en outre une étape consistant à mettre en correspondance dense (S1 ) des points relatifs à des positions respectives des oreilles de la base de données (OH-i); The method of claim 1, further comprising a step of densely matching (S1) points relating to respective positions of the ears of the database (OH-i);
3. Procédé selon la revendication 1 ou 2, comprenant, en outre, une étape de calcul (S6) d'une fonction de transfert (S-i) relative à la tête, adaptée à l'individu, à partir de ladite fonction de calcul (OH^) et d'au moins une photographie (U1 ) d'au moins une oreille de l'individu. The method according to claim 1 or 2, further comprising a calculation step (S6) of a transfer function (Si) relating to the head, adapted to the individual, from said calculation function ( OH ^) and at least one photograph (U1) of at least one ear of the individual.
4. Procédé selon la revendication 3, dans lequel ladite étape de calcul (S6) d'une fonction de transfert (S-i) relative à la tête est itérative. The method of claim 3, wherein said step of calculating (S6) a transfer function (S-i) relating to the head is iterative.
5. Procédé selon la revendication 4, dans lequel ladite étape itérative de calcul d'une fonction de transfert relative à la tête comprend : The method of claim 4, wherein said iterative step of calculating a head-related transfer function comprises:
- une première sous-étape itérative (S7) d'estimation d'au moins un paramètre de pose de l'individu lors de la ou lesdites photographies; et  a first iterative sub-step (S7) for estimating at least one setting parameter of the individual during said one or more photographs; and
- une deuxième sous-étape itérative (S8) d'estimation de paramètres statistiques optimisés représentant au moins une oreille de l'individu dans l'espace des oreilles.  a second iterative sub-step (S8) for estimating optimized statistical parameters representing at least one ear of the individual in the space of the ears.
6. Procédé selon l'une des revendications précédentes, dans lequel lesdites données (O-i) représentant des oreilles sont des nuages de points. 6. Method according to one of the preceding claims, wherein said data (O-i) representing ears are scatter plots.
7. Procédé selon l'une des revendications précédentes, dans lequel on utilise lesdites étapes divulguées pour élaborer une fonction de transfert (SH), pour de hautes fréquences supérieures à un seuil, relative à la tête adaptée à l'individu, ledit procédé comprenant, en outre, une étape d'élaboration d'une fonction de transfert (SB), pour de basses fréquences inférieures audit seuil, relative à la tête adaptée à l'individu. 7. Method according to one of the preceding claims, wherein said disclosed steps are used to develop a transfer function (S H ), for high frequencies above a threshold, relating to the head adapted to the individual, said method further comprising a step of generating a transfer function (S B ), for low frequencies below said threshold, relating to the head adapted to the individual.
8. Procédé selon la revendication 7, dans lequel ladite étape d'élaboration d'une fonction de transfert (SB), pour de basses fréquences inférieures audit seuil, relative à la tête, adaptée à l'individu comprend les sous-étapes suivantes, consistant à: - échantillonner (S9) des plages de valeurs possibles de paramètres morphologiques humains d'une base de données (M-i) relatives à la morphologie humaine, The method according to claim 7, wherein said step of generating a transfer function (SB) for low frequencies below said threshold relating to the head adapted to the individual comprises the following substeps, consists in: sampling (S9) ranges of possible values of human morphological parameters of a database (Mi) relating to human morphology,
- déterminer (S1 0) un maillage de modèle paramétrique desdits paramètres morphologiques,  determining (S1 0) a parametric model mesh of said morphological parameters,
- calculer (S1 1 ) des fonctions de transfert gabarit de basses fréquences, associées audit maillage,  calculating (S1 1) low-frequency mask transfer functions associated with said mesh,
- estimer (S1 2) la valeur des paramètres morphologiques de l'individu à partir d'au moins une photo (U2) de l'individu de face ou de profil, etestimating (S1 2) the value of the morphological parameters of the individual from at least one photo (U 2 ) of the individual from the front or from the profile, and
- calculer (S1 3) une fonction de transfert (SB), pour de basses fréquences, relative à la tête, adaptée à l'individu à partir de la valeur estimée des paramètres morphologiques et desdites fonctions calculées de transfert gabarit de basses fréquences. calculating (S1 3) a transfer function (S B ), for low frequencies, relating to the head, adapted to the individual from the estimated value of the morphological parameters and said calculated functions of low frequency mask transfer.
9. Procédé selon la revendication 8, dans lequel une fonction de transfert relative à la tête (S-i) de l'individu est élaborée à partir desdites fonctions de transfert (SH, SB), respectivement pour de hautes et basses fréquences et de ladite ou lesdites photos (U2) de l'individu de face ou de profil, comprenant les étapes consistant à: estimer (S14), à partir de ladite ou lesdites photos (U2) de l'individu de face ou de profil, la taille d'oreilles relativement au reste du corps de l'individu ; 9. The method of claim 8, wherein a transfer function relating to the head (Si) of the individual is developed from said transfer functions (S H , S B ), respectively for high and low frequencies and said one or more photos (U 2 ) of the face or profile individual, comprising the steps of: estimating (S14), from said one or more photos (U 2 ) of the individual face or profile, the size of the ears relative to the rest of the body of the individual;
mettre à l'échelle en fréquences (S1 5) les fonctions de transfert relatives à la tête (SH), pour les hautes fréquences; et  scaling (S1 5) the head transfer functions (SH) for high frequencies; and
fusionner (S1 6) les fonctions de transfert (SH, SB), respectivement pour de hautes et basses fréquences, pour obtenir la fonction de transfert relative à la tête (S-i) de l'individu.  merging (S1 6) the transfer functions (SH, SB), respectively for high and low frequencies, to obtain the transfer function relating to the head (S-i) of the individual.
1 0. Système d'élaboration d'une fonction de transfert relative à la tête adaptée à un individu, à partir d'une base de données comprenant des données d'oreilles et des fonctions de transfert correspondantes relatives à la tête, comprenant un calculateur configuré pour mettre en œuvre le procédé selon l'une des revendications précédentes. 1 0. System for developing a head-related transfer function adapted to an individual, from a database comprising ear data and corresponding transfer functions relating to the head, comprising a calculator configured to implement the method according to one of the preceding claims.
EP16736088.2A 2015-09-07 2016-07-05 Method and system for developing a head-related transfer function adapted to an individual Active EP3348079B1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR1558279A FR3040807B1 (en) 2015-09-07 2015-09-07 METHOD AND SYSTEM FOR DEVELOPING A TRANSFER FUNCTION RELATING TO THE HEAD ADAPTED TO AN INDIVIDUAL
PCT/EP2016/065839 WO2017041922A1 (en) 2015-09-07 2016-07-05 Method and system for developing a head-related transfer function adapted to an individual

Publications (2)

Publication Number Publication Date
EP3348079A1 true EP3348079A1 (en) 2018-07-18
EP3348079B1 EP3348079B1 (en) 2020-05-13

Family

ID=55135277

Family Applications (1)

Application Number Title Priority Date Filing Date
EP16736088.2A Active EP3348079B1 (en) 2015-09-07 2016-07-05 Method and system for developing a head-related transfer function adapted to an individual

Country Status (5)

Country Link
US (1) US10440494B2 (en)
EP (1) EP3348079B1 (en)
CN (1) CN108476369B (en)
FR (1) FR3040807B1 (en)
WO (1) WO2017041922A1 (en)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017047309A1 (en) * 2015-09-14 2017-03-23 ヤマハ株式会社 Ear shape analysis method, ear shape analysis device, and method for generating ear shape model
US10805757B2 (en) 2015-12-31 2020-10-13 Creative Technology Ltd Method for generating a customized/personalized head related transfer function
SG10201510822YA (en) 2015-12-31 2017-07-28 Creative Tech Ltd A method for generating a customized/personalized head related transfer function
SG10201800147XA (en) * 2018-01-05 2019-08-27 Creative Tech Ltd A system and a processing method for customizing audio experience
FR3046489B1 (en) 2016-01-05 2018-01-12 Mimi Hearing Technologies GmbH IMPROVED AMBASSIC ENCODER OF SOUND SOURCE WITH A PLURALITY OF REFLECTIONS
FI20165211A (en) * 2016-03-15 2017-09-16 Ownsurround Ltd Arrangements for the production of HRTF filters
FR3057981B1 (en) * 2016-10-24 2019-07-26 Mimi Hearing Technologies GmbH METHOD FOR PRODUCING A 3D POINT CLOUD REPRESENTATIVE OF A 3D EAR OF AN INDIVIDUAL, AND ASSOCIATED SYSTEM
US10306396B2 (en) 2017-04-19 2019-05-28 United States Of America As Represented By The Secretary Of The Air Force Collaborative personalization of head-related transfer function
US10390171B2 (en) * 2018-01-07 2019-08-20 Creative Technology Ltd Method for generating customized spatial audio with head tracking
FI20185300A1 (en) 2018-03-29 2019-09-30 Ownsurround Ltd An arrangement for generating head related transfer function filters
EP3827603A1 (en) * 2018-07-25 2021-06-02 Dolby Laboratories Licensing Corporation Personalized hrtfs via optical capture
CN109166592B (en) * 2018-08-08 2023-04-18 西北工业大学 HRTF (head related transfer function) frequency division band linear regression method based on physiological parameters
US11026039B2 (en) 2018-08-13 2021-06-01 Ownsurround Oy Arrangement for distributing head related transfer function filters
US11503423B2 (en) 2018-10-25 2022-11-15 Creative Technology Ltd Systems and methods for modifying room characteristics for spatial audio rendering over headphones
US10966046B2 (en) 2018-12-07 2021-03-30 Creative Technology Ltd Spatial repositioning of multiple audio streams
US11418903B2 (en) 2018-12-07 2022-08-16 Creative Technology Ltd Spatial repositioning of multiple audio streams
US11221820B2 (en) 2019-03-20 2022-01-11 Creative Technology Ltd System and method for processing audio between multiple audio spaces
CN112017677B (en) * 2020-09-10 2024-02-09 歌尔科技有限公司 Audio signal processing method, terminal device and storage medium

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6996244B1 (en) * 1998-08-06 2006-02-07 Vulcan Patents Llc Estimation of head-related transfer functions for spatial sound representative
AUPQ514000A0 (en) * 2000-01-17 2000-02-10 University Of Sydney, The The generation of customised three dimensional sound effects for individuals
CN1236652C (en) * 2002-07-02 2006-01-11 矽统科技股份有限公司 Method for producing stereo sound effect
CN102440003B (en) * 2008-10-20 2016-01-27 吉诺迪奥公司 Audio spatialization and environmental simulation
JP5499513B2 (en) * 2009-04-21 2014-05-21 ソニー株式会社 Sound processing apparatus, sound image localization processing method, and sound image localization processing program
FR2958825B1 (en) 2010-04-12 2016-04-01 Arkamys METHOD OF SELECTING PERFECTLY OPTIMUM HRTF FILTERS IN A DATABASE FROM MORPHOLOGICAL PARAMETERS
JP2012004668A (en) * 2010-06-14 2012-01-05 Sony Corp Head transmission function generation device, head transmission function generation method, and audio signal processing apparatus
US9030545B2 (en) * 2011-12-30 2015-05-12 GNR Resound A/S Systems and methods for determining head related transfer functions
EP2869599B1 (en) * 2013-11-05 2020-10-21 Oticon A/s A binaural hearing assistance system comprising a database of head related transfer functions
US9900722B2 (en) * 2014-04-29 2018-02-20 Microsoft Technology Licensing, Llc HRTF personalization based on anthropometric features

Also Published As

Publication number Publication date
US20180249275A1 (en) 2018-08-30
CN108476369B (en) 2021-03-09
EP3348079B1 (en) 2020-05-13
WO2017041922A1 (en) 2017-03-16
FR3040807B1 (en) 2022-10-14
CN108476369A (en) 2018-08-31
FR3040807A1 (en) 2017-03-10
US10440494B2 (en) 2019-10-08

Similar Documents

Publication Publication Date Title
EP3348079B1 (en) Method and system for developing a head-related transfer function adapted to an individual
EP1836876B1 (en) Method and device for individualizing hrtfs by modeling
EP1946612B1 (en) Hrtfs individualisation by a finite element modelling coupled with a corrective model
US10284992B2 (en) HRTF personalization based on anthropometric features
EP2258119B1 (en) Method and device for determining transfer functions of the hrtf type
EP2898707B1 (en) Optimized calibration of a multi-loudspeaker sound restitution system
WO2011128583A1 (en) Method for selecting perceptually optimal hrtf filters in a database according to morphological parameters
EP1479266B1 (en) Method and device for control of a unit for reproduction of an acoustic field
Yamamoto et al. Fully perceptual-based 3D spatial sound individualization with an adaptive variational autoencoder
EP1586220B1 (en) Method and device for controlling a reproduction unit using a multi-channel signal
Miccini et al. A hybrid approach to structural modeling of individualized HRTFs
FR3057981B1 (en) METHOD FOR PRODUCING A 3D POINT CLOUD REPRESENTATIVE OF A 3D EAR OF AN INDIVIDUAL, AND ASSOCIATED SYSTEM
EP3559947A1 (en) Processing in sub-bands of an actual ambisonic content for improved decoding
EP3384688B1 (en) Successive decompositions of audio filters
Saini et al. An end-to-end approach for blindly rendering a virtual sound source in an audio augmented reality environment
EP3484185B1 (en) Modelling of a set of acoustic transfer functions suitable for an individual, three-dimensional sound card and system for three-dimensional sound reproduction
EP3529781B1 (en) Method for producing a 3d scatter plot representing a 3d ear of an individual, and associated system
Kapralos et al. Dimensionality reduced HRTFs: A comparative study
Ahuja et al. Fast modelling of pinna spectral notches from HRTFs using linear prediction residual cepstrum
WO2023110549A1 (en) Method for estimating a plurality of signals representative of the sound field at a point, associated electronic device and computer program
FR3093264A1 (en) Method of broadcasting an audio signal
Wu Binaural Sound Source Localisation in Complex Conditions
Lee Personalized Head-Related Transfer Function from Anthropometric Features Using Two Machine Learning Models: Approach and Subjective Validation
FR3133261A1 (en) Styling Test with Reverse GANs
Schönstein Individualisation of spectral cues for applications in virtual auditory space: study of inter-subject differences in head-related transfer functions using perceptual judgements from listening tests

Legal Events

Date Code Title Description
STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE INTERNATIONAL PUBLICATION HAS BEEN MADE

PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: REQUEST FOR EXAMINATION WAS MADE

17P Request for examination filed

Effective date: 20180213

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

AX Request for extension of the european patent

Extension state: BA ME

DAV Request for validation of the european patent (deleted)
DAX Request for extension of the european patent (deleted)
GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: GRANT OF PATENT IS INTENDED

INTG Intention to grant announced

Effective date: 20191009

GRAS Grant fee paid

Free format text: ORIGINAL CODE: EPIDOSNIGR3

GRAA (expected) grant

Free format text: ORIGINAL CODE: 0009210

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE PATENT HAS BEEN GRANTED

PUAC Information related to the publication of a b1 document modified or deleted

Free format text: ORIGINAL CODE: 0009299EPPU

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: GRANT OF PATENT IS INTENDED

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

REG Reference to a national code

Ref country code: GB

Ref legal event code: FG4D

Free format text: NOT ENGLISH

29U Proceedings interrupted after grant according to rule 142 epc

Effective date: 20190116

29W Proceedings resumed after grant [after interruption of proceedings according to rule 142 epc]

Effective date: 20200302

DB1 Publication of patent cancelled

Effective date: 20191213

REG Reference to a national code

Ref country code: CH

Ref legal event code: EP

REG Reference to a national code

Ref country code: DE

Ref legal event code: R096

Ref document number: 602016027830

Country of ref document: DE

REG Reference to a national code

Ref country code: IE

Ref legal event code: FG4D

Free format text: LANGUAGE OF EP DOCUMENT: FRENCH

REG Reference to a national code

Ref country code: AT

Ref legal event code: REF

Ref document number: 1224206

Country of ref document: AT

Kind code of ref document: T

Effective date: 20200215

REG Reference to a national code

Ref country code: DE

Ref legal event code: R107

Ref document number: 602016027830

Country of ref document: DE

REG Reference to a national code

Ref country code: AT

Ref legal event code: REZ

Ref document number: 1224206

Country of ref document: AT

Kind code of ref document: T

Effective date: 20200108

RAP1 Party data changed (applicant data changed or rights of an application transferred)

Owner name: MIMI HEARING TECHNOLOGIES GMBH

GRAA (expected) grant

Free format text: ORIGINAL CODE: 0009210

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE PATENT HAS BEEN GRANTED

REG Reference to a national code

Ref country code: DE

Ref legal event code: R081

Ref document number: 602016027830

Country of ref document: DE

Owner name: MIMI HEARING TECHNOLOGIES GMBH, DE

Free format text: FORMER OWNER: 3D SOUND LABS, CESSON-SEVIGNE, FR

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

REG Reference to a national code

Ref country code: GB

Ref legal event code: FG4D

Free format text: NOT ENGLISH

REG Reference to a national code

Ref country code: DE

Ref legal event code: R096

Ref document number: 602016027830

Country of ref document: DE

REG Reference to a national code

Ref country code: AT

Ref legal event code: REF

Ref document number: 1224206

Country of ref document: AT

Kind code of ref document: T

Effective date: 20200615

REG Reference to a national code

Ref country code: CH

Ref legal event code: AEN

Free format text: REMISE EN VIGUEUR APRES RADIATION ERRONEE

Ref country code: CH

Ref legal event code: EP

Ref country code: CH

Ref legal event code: NV

Representative=s name: SERVOPATENT GMBH, CH

REG Reference to a national code

Ref country code: LT

Ref legal event code: MG4D

REG Reference to a national code

Ref country code: NL

Ref legal event code: MP

Effective date: 20200513

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: PT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200914

Ref country code: NO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200813

Ref country code: FI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

Ref country code: LT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: BG

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200813

Ref country code: LV

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

Ref country code: HR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

REG Reference to a national code

Ref country code: AT

Ref legal event code: MK05

Ref document number: 1224206

Country of ref document: AT

Kind code of ref document: T

Effective date: 20200513

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: NL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: DK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

Ref country code: SM

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

Ref country code: AT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

Ref country code: EE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

Ref country code: CZ

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

Ref country code: ES

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

Ref country code: RO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

REG Reference to a national code

Ref country code: DE

Ref legal event code: R097

Ref document number: 602016027830

Country of ref document: DE

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MC

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

Ref country code: SK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

PLBE No opposition filed within time limit

Free format text: ORIGINAL CODE: 0009261

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT

26N No opposition filed

Effective date: 20210216

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: LU

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20200705

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: TR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

Ref country code: MT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

Ref country code: CY

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

Ref country code: RS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

Ref country code: MK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

Ref country code: IS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200913

Ref country code: AL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IT

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20200513

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: GR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: PL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200513

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: IE

Payment date: 20230710

Year of fee payment: 8

Ref country code: CH

Payment date: 20230801

Year of fee payment: 8

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: GB

Payment date: 20240627

Year of fee payment: 9

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: DE

Payment date: 20240625

Year of fee payment: 9

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: BE

Payment date: 20240703

Year of fee payment: 9

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: FR

Payment date: 20240702

Year of fee payment: 9