EP2792165A1 - Adaptation of a classification of an audio signal in a hearing aid - Google Patents

Adaptation of a classification of an audio signal in a hearing aid

Info

Publication number
EP2792165A1
EP2792165A1 EP12701891.9A EP12701891A EP2792165A1 EP 2792165 A1 EP2792165 A1 EP 2792165A1 EP 12701891 A EP12701891 A EP 12701891A EP 2792165 A1 EP2792165 A1 EP 2792165A1
Authority
EP
European Patent Office
Prior art keywords
classification
audio signal
audio
period
sum
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
EP12701891.9A
Other languages
German (de)
French (fr)
Other versions
EP2792165B1 (en
Inventor
Roland Barthel
Marko Lugger
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sivantos Pte Ltd
Original Assignee
Siemens Medical Instruments Pte Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens Medical Instruments Pte Ltd filed Critical Siemens Medical Instruments Pte Ltd
Publication of EP2792165A1 publication Critical patent/EP2792165A1/en
Application granted granted Critical
Publication of EP2792165B1 publication Critical patent/EP2792165B1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R25/00Deaf-aid sets, i.e. electro-acoustic or electro-mechanical hearing aids; Electric tinnitus maskers providing an auditory perception
    • H04R25/43Electronic input selection or mixing based on input signal analysis, e.g. mixing or selection between microphone and telecoil or between microphones with different directivity characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R25/00Deaf-aid sets, i.e. electro-acoustic or electro-mechanical hearing aids; Electric tinnitus maskers providing an auditory perception
    • H04R25/50Customised settings for obtaining desired overall acoustical characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R25/00Deaf-aid sets, i.e. electro-acoustic or electro-mechanical hearing aids; Electric tinnitus maskers providing an auditory perception
    • H04R25/50Customised settings for obtaining desired overall acoustical characteristics
    • H04R25/505Customised settings for obtaining desired overall acoustical characteristics using digital signal processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2225/00Details of deaf aids covered by H04R25/00, not provided for in any of its subgroups
    • H04R2225/41Detection or adaptation of hearing aid parameters or programs to listening situation, e.g. pub, forest

Definitions

  • the present invention relates to a process for ANPAS ⁇ solution of a classification of audio signals. Moreover, the present invention relates to a corresponding signal processor and a hearing aid.
  • Hearing devices serve primarily to make audio signals of sound waves for a particular desired purpose easier to understand.
  • a sub-area of the use of hearing devices as a hearing aid is the care of the hard of hearing.
  • the amplification process of a hearing device runs off by means of the built-in electronics.
  • One or more microphones on the hearing device receive an audio signal, which is processed by means of an audio processor and output by a listener.
  • An audio processor has various processing programs that are selected depending on the Klassifika ⁇ tion.
  • the process for setting a classification is fundamentally shaped by two requirements. Best fit single note first, a classi ⁇ fication of the current hearing situation and second, the speed of this time
  • This object is achieved by a method for adapting a classification of an audio signal according to claim 1, by a method for classifying an audio signal according to claim 9 and by a hearing device according to claim 12.
  • the classification change is based on the temporal sequence of differences of successive values of an audio feature of the audio signal, so that the change is taken into account in the form of a plurality of intermediate values over a certain period of time, whereby a change of the hearing situation is certainly reflected in the differences of the feature values.
  • a change in the audio signal is fast identifi ed ⁇ by the observation of a first, shorter period of time and on the other hand, a sufficient stability of the classical sification is guaranteed by reference to a two ⁇ th, longer period.
  • An audio feature is a quantity derived from an audio signal.
  • the audio feature refers to timed Liehe aspects, ie phase or frequency, or on the Ampli ⁇ tude an audio signal.
  • the audio feature thus also changes over time according to the audio signal.
  • width ⁇ ren the audio feature an average, a standard deviation ⁇ , a modulation or variation of a level of the audio signal can be.
  • the comparison is carried out by means of a quotient of the first sum and the second sum.
  • a quotient is easily determined by a simple mathematical operation and provides a meaningful measure of the ratio of the first sum and the second sum.
  • a temporal sequence of values of different types of audio features is generated and the difference of individual differences is formed by the successive values of similar audio features.
  • the audio features may be averages, standard deviations, modulations or variances of a level of an audio signal.
  • Various audio features instead of loading ⁇ restriction to a specific audio feature ver ⁇ improves the accuracy of the classification.
  • the Einzeldiffe ⁇ narrow be weighted in the formation of the difference on the type of each audio feature, which increases the flexibility of determining a classification change in the claimed process.
  • the values of the various audio features are combined into a feature vector and the difference is obtained in the form of a distance between successive feature vectors. Summarizing a vector makes it easier to process the audio features.
  • the classification change is from ⁇ pending conducted by a currently selected classification.
  • ⁇ change also from a currently selected classification can Classification depending on the stability or the responsiveness of a classification change controlled ⁇ the.
  • the classification change from a listening situation for speech can take place only if the comparison indicates the total difference in the sequence of audio features particularly evident on changing the listening situation to target an increased stability for the class of language he ⁇ .
  • the first period has a duration of 2 to 6
  • Seconds and the second period lasts 10 to 20 seconds.
  • FIG. 1 shows the flow of a method for adapting the classical sification of an audio signal according to a Ausges ⁇ taltung the invention.
  • FIG. 2 shows the time profile of an audio signal and, in relation thereto, the time periods relevant for the method according to FIG. 1;
  • Figure 3 shows the sequence of the method according to Figure 1 in together ⁇ menhang with a classification change.
  • FIG. 4 shows a hearing aid with a signal processor for carrying out the method according to FIG. 3;
  • FIG. 5 shows a magnification view of the signal processor from the hearing aid according to FIG. 4.
  • FIG. 1 schematically shows the sequence of a method according to an embodiment of the present invention. This method can e.g. run in a signal processor of a hearing aid.
  • an audio signal is provided.
  • This audio signal is typically a microphone ⁇ signal of the hearing aid.
  • the microphone signal may be supplied by one or more microphones of the hearing aid.
  • a signal processing can be interposed, which, for example, smoothes the microphone signal.
  • a temporal sequence of values k of an audio feature The values of the sequence are in this case numbered by an index k in a chronological order. Not just a single audio feature is considered advantageous, but several ver ⁇ different type.
  • u k represents a shopping times ⁇ vector containing the values of these audio feature to the index k corresponding time t k sums.
  • the time interval of two successive times t k _ l and t k may be, for example, between 10 ms and 200 ms.
  • the audio feature ⁇ represents characteristics of the Au- diosignals at a certain time.
  • the audio feature is typically determined from the timing of the audio signal in a temporal environment around the particular time. The skilled person is known per se, for example, a mean, a standard deviation, a modulation or variation of a level of Audiosig ⁇ Nals various audio features.
  • a difference u k ⁇ u k - ⁇ is formed from successive values u k _ l and u k of the audio features.
  • k 1,2,3, etc. of the index
  • d k ⁇ u k ⁇ u k -iI decisive.
  • plurality of audio features k d represents the distance of the successive vectors u k ⁇ and u k.
  • the distance can be chosen differently, eg as Euclidean distance or Mahalanobis distance.
  • the audio features may also be weighted differently, eg by multiplying the feature values by different scalar coefficients before determining the distance.
  • dk will be referred to as difference only, depending on
  • Embodiment also represent the absolute amount of the difference or the distance can stand.
  • step 4 the sequence of differences d k is variously processed by summing them over periods of different lengths.
  • step 4 the differences over a first period T x are added up to a first sum ⁇ 1 .
  • step 5 the differences are summed over a longer period T 2 to a second sum ⁇ 2 .
  • the shorter period T x may be, for example, 2 to 5 seconds, and the longer period T 2 may be 10 to 20 seconds.
  • the longer period T 2 is in this embodiment, two to ten times longer than the shorter period T x .
  • T x For a shorter period T x of, for example, 2 seconds and a time interval of successive values of the audio signals, for example, 10ms are thus for the period T x 200 individual values of differences of the values u k summed, the t times k corresponding to that fall within the period T x.
  • the sum of the differences thus describes the set of all ⁇ Einzelände conclusions of the audio features on the respective sum period.
  • a sixth step 6 the two sums ⁇ 1 and ⁇ 2 over prior periods T x and T 2 are compared with each other.
  • the comparison is made in a simple manner by forming a quotient of ⁇ 1 and ⁇ 2 , whereby the relative length of the two periods must be taken into account in the evaluation of the quotient. For example, the value of the quotient
  • a classification change is performed as a function of the comparison in the preceding step 6.
  • the classification proposal itself can be determined in a conventional way depending on the listening situation.
  • a classification change is thus inhibited, if the comparison described above suggesting that the situation Hörsi ⁇ x is not significantly altered in the past period T has.
  • the period ⁇ is chosen to be relatively short, this method allows a quick yet reliably determined classification change.
  • the method can be tuned sensitive ⁇ the.
  • the selection and the weighting can be improved, for example, by means of test series in various changing hearing situations with regard to an exact recognition of a change in the hearing situation.
  • the change of the classification can also be carried out depending on the currently selected listening situation. It is, for example, the example is desirable that Hörsi ⁇ situation "language alone,” particularly stable against erroneous classification changes, whereas others Klassifikatio ⁇ nen like "Auto", “Music”, “calm” or “noise” can be easily changed. This change may also depend on a suggestive new classification, so that, for example, a change to the listening situation "speech at rest” can be done very quickly.
  • the current and / or proposed classification may also take into account the weighting of the audio features in forming the distances. The Summ istszeitschreib ⁇ ⁇ and T 2 Kings ⁇ nen depend to further improve on the current and / or proposed classification.
  • the "speech at rest" listening situation is when a person speaks in an otherwise quiet environment, and also includes classifications of the listening situations in a car ("car"), for music ("music"), in a quiet environment (
  • the hearing aid is also classified based on the audio signal, whereby the audio features mentioned above can also be taken into account depending on the respective hearing situation the listening situation adapted Hearing program for processing the audio signal determined.
  • the audio signal processed with the respective hearing program is reproduced to the wearer of the hearing aid in an amplified form.
  • the hearing program determines, for example, various frequency filters, possibly also frequency-dependent gain and the directivity of the microphones.
  • FIG. 2 schematically shows the time profile of an audio signal 8 and the relation of the individual time periods T i and T 2i , over which the sequence of differences of the values of the audio features is summed.
  • every tenth time t k is indicated on the horizontal time axis.
  • Axis indicates the respective amplitude of the audio signal 8.
  • the short periods T Xi each comprise ten individual intervals between the times t k .
  • the associated sums ⁇ ⁇ include the differences of ten consecutive value pairs u k _ and u k .
  • the longer periods T 2i are each three times as long as the short periods T i .
  • the associated sums ⁇ 2 ⁇ thus comprise the differences of thirty consecutive value pairs u k ⁇ and u k .
  • the period T Xi always lies within the period T 2i , both ending at the same time.
  • the T lt can also connect directly to the period T 2i .
  • the T i and T 2i should be in close temporal relationship.
  • the time intervals T Xi and T 2i are the same amount, so that the relation of these intervals to each other is maintained.
  • the time intervals T Xi shift by the same duration Periods ⁇ ⁇ so that the periods string together without time Un ⁇ interruption.
  • the shift is larger or smaller than the time intervals T j .
  • u k can be both an individual
  • FIG. 3 schematically shows the sequence of the method according to Fi gur ⁇ 1 in connection with a classification proposal. As in Figure 1, the sequence of steps represented as rectangles indicates a possible chronological order. Other sequences while maintaining the causal relationships are also possible.
  • a first value of an audio feature is created by ⁇ loading ⁇ woman on top of the audio signal at a first time in 8 to step 9.
  • a multiplicity of values of different audio features can again be taken into account here.
  • a classification is selected in step 10. This choice is made according to well-known methods for classifying audio signals.
  • step 11 at a second time a second value of Au ⁇ thus is diomerkmals generated which is based on a choice of a further classification.
  • the now adjusted classification may differ from the previously selected classification.
  • the election classification corresponds to the second time the proposal for a classification change. However, this proposal will not be carried out initially.
  • step 2 in the interval between the first time and the second time, the time sequence of the values of the audio feature is generated, as already described with reference to FIG. This sequence of values is shown in Fi gur ⁇ 1 the basis for the method steps 3 to 7.
  • Step 7 depends on the actual implementation of the Klassifika ⁇ tion change from, the comparison of the two sums of differences, as described previously.
  • FIG. 4 shows a hearing device 13 with two microphones 14, an arrangement 15 of electronic components for signal processing. processing, a battery 16 and a receiver 17 for sound generation.
  • the microphones 14 provide an audio signal 8. Through targeted signal processing can be generated with the two microphones 14 a directivity.
  • the audio signal 8 is forwarded by electrical lines to the arrangement 15.
  • the assembly 15 is powered by the battery 16 with electrical power. After the signal processing of the audio signal 8, the processed audio signal is passed to the handset 17 for output.
  • FIG. 5 shows a magnification view of the arrangement 13 of electronic components for signal processing from FIG. 4.
  • the audio signal 8 from the microphones 14 arrives via an electrical contact 18 to an input interface 19 of a signal processor 20.
  • a classification unit 21 in the signal processor 20 carries this with respect to Figure 3 described method for classifying the audio signal 8 by.
  • the result of the classification is passed through a classification output 22 to an audio processor 23.
  • the audio processor 23 also receives the audio signal 8 directly from the microphones 14 via the contact 18. Based on the selected classification, the audio processor 23 processes the audio signal 8 by applying a classification program corresponding processing program adapted to the respective listening situation. The processed audio signal is sent by the audio processor 23 to the handset 17 of the
  • the invention relates to the adaptation of the classification of an audio signal as a function of a comparison of two differential signals. buzz audio features over varying lengths of time. In a sufficiently precise and yet Reaction ⁇ rapid adaptation of classification in varying listening environments is guaranteed.
  • the inventive method is advantageously used in a hearing aid. Based on the classification, the audio signal is prepared in various ways .

Abstract

The invention relates to the adaptation of the classification of an audio signal (8) as a function of a comparison of two difference sums of audio features over time periods of different length. Thus, an adequately exact yet quickly reacting adaptation of the classification in changing hearing situations is ensured. The method according to the invention is advantageously used in a hearing aid (13). The audio signal (8) is processed in different ways on the basis of the classification.

Description

Beschreibung description
Anpassung einer Klassifikation eines Audiosignals in einem Hörgerät Adaptation of a classification of an audio signal in a hearing aid
Die vorliegende Erfindung betrifft ein Verfahren zur Anpas¬ sung einer Klassifikation von Audiosignalen. Darüber hinaus betrifft die vorliegende Erfindung einen entsprechenden Signalprozessor und ein Hörgerät. The present invention relates to a process for ANPAS ¬ solution of a classification of audio signals. Moreover, the present invention relates to a corresponding signal processor and a hearing aid.
Hörvorrichtungen dienen in erster Linie dazu, Audiosignale von Schallwellen für einen jeweils gewünschten Zweck besser verständlich zu machen. Ein Teilgebiet der Verwendung von Hörvorrichtungen als Hörgerät ist die Versorgung von Schwerhörigen. Der Verstärkungsvorgang einer Hörvorrichtung läuft mittels der eingebauten Elektronik ab. Ein oder mehrere Mikrofone an der Hörvorrichtung empfangen ein Audiosignal, dieses wird mittels eines Audioprozessors verarbeitet und von einem Hörer wieder ausgegeben. Hearing devices serve primarily to make audio signals of sound waves for a particular desired purpose easier to understand. A sub-area of the use of hearing devices as a hearing aid is the care of the hard of hearing. The amplification process of a hearing device runs off by means of the built-in electronics. One or more microphones on the hearing device receive an audio signal, which is processed by means of an audio processor and output by a listener.
Je nach Aufenthaltsort des Benutzers einer Hörvorrichtung er¬ geben sich verschiedene Hörsituationen. In vielen Hörsituationen, wie beispielsweise einer Autofahrt, kommen erwünschte und unerwünschte Töne vor. Im Beispiel der Autofahrt ist die Stimme eines Beifahrers erwünscht, das Fahrtgeräusch des Au¬ tos unerwünscht. Vorzugsweise sollen von einer Hörvorrichtung nur erwünschte Töne herausgefiltert und weiter bearbeitet werden. Häufig auftretende Hörsituationen können klassifiziert werden. Diese Klassifikation übernimmt ein Signalpro¬ zessor, der aus ein oder mehreren möglichen Audiomerkmalen eines Audiosignals, unter Anwendung eines Algorithmus, diesem Audiosignal eine bestimmte Klassifikation zuordnet. Ein Au¬ diomerkmal kann beispielsweise Pegel oder Amplitude eines Au¬ diosignals sein. Im Weiteren kann ein Audioprozessor mit der Information einer Klassifizierung entsprechend dieser das Audiosignal weiter bearbeiten. Ein Audioprozessor hat verschiedene Verarbeitungsprogramme, die abhängig von der Klassifika¬ tion gewählt werden. Der Prozess zur Einstellung einer Klassifikation ist grundsätzlich von zwei Anforderungen geprägt. Erstens eine Klassi¬ fikation bestmöglich passend zur aktuellen Hörsituation ein- zustellen und zweitens die zeitliche Schnelligkeit dieserDepending on the whereabouts of the user of a hearing device he ¬ different hearing situations. In many listening situations, such as a car ride, desirable and unwanted sounds occur. In the example of the drive-by noise of Au ¬ tos is desired, the voice of a passenger, undesirable. Preferably, only desired sounds are to be filtered out and further processed by a hearing device. Frequently occurring hearing situations can be classified. This classification is performed by a Signalpro ¬ cessor which assigns a certain classification of one or more kinds of audio features of an audio signal using an algorithm, this audio signal. An Au ¬ diomerkmal example, level or amplitude of an Au ¬ diosignals be. Furthermore, an audio processor with the information of a classification corresponding to this can further process the audio signal. An audio processor has various processing programs that are selected depending on the Klassifika ¬ tion. The process for setting a classification is fundamentally shaped by two requirements. Best fit single note first, a classi ¬ fication of the current hearing situation and second, the speed of this time
Einstellung. Genauigkeit und ein schneller Wechsel der Klassifikation stehen aber in Konkurrenz. Attitude. Accuracy and a quick change of classification are in competition.
Es ist Aufgabe der vorliegenden Erfindung, unter Gewährleis- tung einer zuverlässig stabilen Klassifikation einen reaktionsschnellen Klassifikationswechsel in Abhängigkeit einer ge¬ änderten Hörsituation zu ermöglichen. It is an object of the present invention to enable a responsive change of classification depending on a ge ¬ changed listening situation under warranty tung a reliably stable classification.
Diese Aufgabe wird gelöst durch ein Verfahren zur Anpassung einer Klassifikation eines Audiosignals gemäß Anspruch 1, durch ein Verfahren zur Klassifikation eines Audiosignals gemäß Anspruch 9 und durch ein Hörgerät gemäß Anspruch 12. This object is achieved by a method for adapting a classification of an audio signal according to claim 1, by a method for classifying an audio signal according to claim 9 and by a hearing device according to claim 12.
Durch das Vergleichen von Differenzsummen von Audiomerkmalen, die über verschieden lange Zeiträume summiert werden, können kurzzeitige Veränderungen im bereitgestellten Audiosignal in Bezug auf einen längeren Beobachtungszeitraum sicher identifiziert werden, so dass eine zuverlässige Grundlage zur By comparing difference sums of audio features that are summed over different lengths of time, short-term changes in the provided audio signal can be reliably identified with respect to a longer observation period, providing a reliable basis for
Durchführung eines Klassifikationswechsels gebildet wird. Der Klassifikationswechsel basiert auf der zeitlichen Abfolge von Differenzen von aufeinanderfolgenden Werten eines Audiomerkmals des Audiosignals, so dass die Veränderung in Form einer Vielzahl von Zwischenwerten über eine bestimmte Dauer berücksichtigt wird, wodurch sich ein Veränderung des Hörsituation sicher im den Differenzen der Merkmalswerte widerspiegelt.Performing a classification change is formed. The classification change is based on the temporal sequence of differences of successive values of an audio feature of the audio signal, so that the change is taken into account in the form of a plurality of intermediate values over a certain period of time, whereby a change of the hearing situation is certainly reflected in the differences of the feature values.
Einerseits wird durch die Betrachtung eines ersten, kürzeren Zeitraums eine Veränderung im Audiosignal schnell identifi¬ ziert und andererseits wird durch den Bezug auf einen zwei¬ ten, längeren Zeitraum eine ausreichende Stabilität der Klas- sifikation gewährleistet. On one hand, a change in the audio signal is fast identifi ed ¬ by the observation of a first, shorter period of time and on the other hand, a sufficient stability of the classical sification is guaranteed by reference to a two ¬ th, longer period.
Ein Audiomerkmal ist eine von einem Audiosignal abgeleitete Größe. Typischerweise bezieht sich das Audiomerkmal auf zeit- liehe Aspekte, also Phase oder Frequenz, oder auf die Ampli¬ tude eines Audiosignals. Das Audiomerkmal ändert sich somit auch zeitlich Verlauf entsprechend dem Audiosignal. Im Weite¬ ren kann das Audiomerkmal auch ein Mittelwert, eine Standard¬ abweichung, eine Modulation oder eine Varianz eines Pegels des Audiosignals sein. An audio feature is a quantity derived from an audio signal. Typically, the audio feature refers to timed Liehe aspects, ie phase or frequency, or on the Ampli ¬ tude an audio signal. The audio feature thus also changes over time according to the audio signal. In width ¬ ren the audio feature, an average, a standard deviation ¬, a modulation or variation of a level of the audio signal can be.
Gemäß einer Weiterbildung erfolgt der Vergleich mittels eines Quotienten aus der ersten Summe und der zweiten Summe. Ein Quotient lässt sich leicht durch eine einfache mathematische Operation bestimmen und stellt ein aussagekräftiges Maß für das Verhältnis der ersten Summe und der zweiten Summe dar. According to a development, the comparison is carried out by means of a quotient of the first sum and the second sum. A quotient is easily determined by a simple mathematical operation and provides a meaningful measure of the ratio of the first sum and the second sum.
Gemäß einer Weiterbildung wird eine zeitliche Abfolge von Werten verschiedenartiger Audiomerkmale erzeugt und die Differenz aus Einzeldifferenzen von den aufeinanderfolgenden Werten gleichartiger Audiomerkmalen gebildet. Es kann sich bei den Audiomerkmalen um Mittelwerte, Standardabweichungen, Modulationen oder Varianzen eines Pegels eines Audiosignals handeln. Verschiedenartige Audiomerkmale anstatt einer Be¬ schränkung auf ein bestimmtes Audiomerkmal zu verwenden ver¬ bessert die Genauigkeit der Klassifikation. Die Einzeldiffe¬ renzen werden bei der Bildung der Differenz nach Art des jeweiligen Audiomerkmals gewichtet, was die Flexibilität zur Bestimmung eines Klassifikationswechsels im beanspruchten Verfahren erhöht. According to a development, a temporal sequence of values of different types of audio features is generated and the difference of individual differences is formed by the successive values of similar audio features. The audio features may be averages, standard deviations, modulations or variances of a level of an audio signal. To use Various audio features instead of loading ¬ restriction to a specific audio feature ver ¬ improves the accuracy of the classification. The Einzeldiffe ¬ narrow be weighted in the formation of the difference on the type of each audio feature, which increases the flexibility of determining a classification change in the claimed process.
Gemäß einer Weiterbildung werden die Werte der verschiedenartigen Audiomerkmale zu einem Merkmalsvektor zusammengefasst und die Differenz wird in Form einer Distanz zwischen aufeinander folgenden Merkmalsvektoren gewonnen. Durch die Zusammenfassung zu einem Vektor lassen sich die Audiomerkmale einfacher verarbeiten. According to a development, the values of the various audio features are combined into a feature vector and the difference is obtained in the form of a distance between successive feature vectors. Summarizing a vector makes it easier to process the audio features.
Gemäß einer Weiterbildung wird der Klassifikationswechsel ab¬ hängig von einer aktuell gewählten Klassifikation durchgeführt. Durch eine weitere Abhängigkeit des Klassifikations¬ wechsels auch von einer aktuell gewählten Klassifikation kann klassifikationsabhängig die Stabilität bzw. die Reaktionsschnelligkeit für einen Klassifikationswechsel gesteuert wer¬ den. Zum Beispiel kann der Klassifikationswechsel aus eine Hörsituation für Sprache nur dann erfolgen, wenn der Ver- gleich die Summendifferenz der Abfolge der Audiomerkmale besonders deutlich auf einen Wechsel der Hörsituation hinweist, um eine erhöhte Stabilität für die Klasse für Sprache zu er¬ zielen. Vorteilhaft weist der erste Zeitraum eine Dauer von 2 bis 6In a further development of the classification change is from ¬ pending conducted by a currently selected classification. By a further dependence of the classification ¬ change also from a currently selected classification can Classification depending on the stability or the responsiveness of a classification change controlled ¬ the. For example, the classification change from a listening situation for speech can take place only if the comparison indicates the total difference in the sequence of audio features particularly evident on changing the listening situation to target an increased stability for the class of language he ¬. Advantageously, the first period has a duration of 2 to 6
Sekunden und der zweite Zeitraum eine Dauer von 10 bis 20 Sekunden auf. Seconds and the second period lasts 10 to 20 seconds.
Ferner ist vorgesehen, ein Verfahren zur Klassifikation eines Audiosignals bereitzustellen, welches die Schritte des ein¬ gangs genannten Verfahrens, und zusätzliche die Schritte Vor¬ bereitung eines Klassifikationswechsels durch Wahl eines Vor¬ schlags für eine angepasste Klassifikation in Abhängigkeit von einem Wert des Audiomerkmals und Durchführung des Klassi- fikationswechsels gemäß dem Vorschlag für eine angepasste Klassifikation in Abhängigkeit von dem Vergleich umfasst. It is further contemplated to provide a method for classifying an audio signal, which preparation comprises the steps of a ¬ initially mentioned method, and additional steps before ¬ a classification change by selecting a pre ¬ shock for a customized classification in dependence on a value of the audio feature and implementing the classification change according to the proposal for an adapted classification depending on the comparison.
Es wird ein konkreter Vorschlag für einen Klassifikations¬ wechsel gemacht. Das zusätzliche Vorhandensein eines solchen Vorschlags verkürzt die Zeit für den Wechsel in eine Klassi¬ fikation, da anhand des Vorschlags in eine Klassifikation ge¬ wechselt werden kann, ohne die Berechnung für den Klassifikationswechsel vollständig durchzuführen zu müssen. Die vorliegende Erfindung wird nun anhand von Ausführungsbei¬ spielen in den beigefügten Zeichnungen näher erläutert, in denen zeigen: It is made a concrete proposal for a classification ¬ change. The additional presence of such a proposal shortens the time to change into a classi ¬ fication, as can be ge ¬ changes based on the proposal in a classification without having to complete the calculation for the classification change. The present invention will now be explained in more detail with reference to Ausführungsbei ¬ play in the accompanying drawings, in which:
Fig. 1 den Ablauf eines Verfahrens zur Anpassung der Klas- sifikation eines Audiosignals gemäß einer Ausges¬ taltung der Erfindung; Fig. 2 den zeitlichen Verlauf eines Audiosignals und in Relation dazu die für das Verfahren gemäß Figur 1 maßgeblichen Zeiträume; 1 shows the flow of a method for adapting the classical sification of an audio signal according to a Ausges ¬ taltung the invention. FIG. 2 shows the time profile of an audio signal and, in relation thereto, the time periods relevant for the method according to FIG. 1; FIG.
Fig. 3 den Ablauf des Verfahrens gemäß Figur 1 im Zusam¬ menhang mit einem Klassifikationswechsel; Figure 3 shows the sequence of the method according to Figure 1 in together ¬ menhang with a classification change.
Fig. 4 ein Hörgerät mit einem Signalprozessor zur Durchführung des Verfahrens gemäß Figur 3; und 4 shows a hearing aid with a signal processor for carrying out the method according to FIG. 3; and
Fig. 5 ein Vergrößerungsansicht des Signalprozessors aus dem Hörgerät gemäß Figur 4. 5 shows a magnification view of the signal processor from the hearing aid according to FIG. 4.
Figur 1 zeigt schematisch den Ablauf eines Verfahrens gemäß einer Ausgestaltung der vorliegenden Erfindung. Dieses Verfahren kann z.B. in einem Signalprozessor eines Hörgeräts ablaufen . FIG. 1 schematically shows the sequence of a method according to an embodiment of the present invention. This method can e.g. run in a signal processor of a hearing aid.
In einem ersten Schritt 1 wird ein Audiosignal bereitge- stellt. Dieses Audiosignal ist typischerweise ein Mikrofon¬ signal des Hörgeräts. Das Mikrofonsignal kann von einem oder mehreren Mikrofonen des Hörgeräts geliefert werden. Zwischen dem Mikrofon bzw. den Mikrofonen und dem Signalprozessor kann darüber hinaus noch eine Signalaufbereitung zwischengeschal- tet sein, die z.B. eine Glättung des Mikrofonsignals vor- nimmt . In a first step 1, an audio signal is provided. This audio signal is typically a microphone ¬ signal of the hearing aid. The microphone signal may be supplied by one or more microphones of the hearing aid. Furthermore, between the microphone or the microphones and the signal processor, a signal processing can be interposed, which, for example, smoothes the microphone signal.
In einem zweiten Schritt 2 wir eine zeitliche Abfolge von Werten k eines Audiomerkmals erzeugt. Die Werte der Abfolge sind in diesem Fall durch einen Index k in einer chronologischen Reihenfolge nummeriert. Vorteilhaft wird nicht nur ein einzelnes Audiomerkmal berücksichtigt, sondern mehrere ver¬ schiedenartige. In diesem Fall repräsentiert uk einen Merk¬ malsvektor, der die Werte dieser Audiomerkmals zu dem Index k entsprechenden Zeitpunkt tk zusammenfasst . Der zeitliche Ab¬ stand zweier aufeinanderfolgenden Zeitpunkte tk_l und tk kann beispielsweise zwischen 10ms und 200ms betragen. Das Audio¬ merkmal repräsentiert charakteristische Eigenschaften des Au- diosignals an einem bestimmten Zeitpunkt. Das Audiomerkmal wird typischerweise bestimmt aus dem zeitlichen Verlauf des Audiosignal in einer zeitlichen Umgebung um den jeweiligen Zeitpunkt. Dem Fachmann sind verschiedene Audiomerkmale an sich bekannt, z.B. ein Mittelwert, eine Standardabweichung, eine Modulation oder eine Varianz eines Pegels des Audiosig¬ nals . In a second step 2 we generate a temporal sequence of values k of an audio feature. The values of the sequence are in this case numbered by an index k in a chronological order. Not just a single audio feature is considered advantageous, but several ver ¬ different type. In this case, u k represents a shopping times ¬ vector containing the values of these audio feature to the index k corresponding time t k sums. The time interval of two successive times t k _ l and t k may be, for example, between 10 ms and 200 ms. The audio feature ¬ represents characteristics of the Au- diosignals at a certain time. The audio feature is typically determined from the timing of the audio signal in a temporal environment around the particular time. The skilled person is known per se, for example, a mean, a standard deviation, a modulation or variation of a level of Audiosig ¬ Nals various audio features.
In einem dritten Schritt 3 werden aus aufeinanderfolgenden Werten uk_l und uk der Audiomerkmale jeweils eine Differenz u k ~u k-\ gebildet. Für die verschiedenen Werte k = 1,2,3, etc. des Index erhält man auf diese Weise somit eine Abfolge von Dif¬ ferenzen. Für die nachfolgenden Verfahrenschritte ist im Wesentlichen der Absolutbetrag dieser Different, also In a third step 3, a difference u k ~ u k - \ is formed from successive values u k _ l and u k of the audio features. For the different values k = 1,2,3, etc. of the index is thus obtained in this way a series of conferences Dif ¬. For the subsequent method steps is essentially the absolute value of this different, ie
dk = \u k ~ u k-iI maßgeblich. Im Fall eines Merkmalsvektor für ei¬ ne Vielzahl von Audiomerkmalen repräsentiert dk die Distanz der aufeinanderfolgenden Vektoren uk γ und uk . Die Distanz kann verschieden gewählt sein, z.B. als euklidische Distanz oder Mahalanobis-Distanz . In dieser Distanz können die Audiomerkmale auch jeweils verschiedet gewichtet sein, z.B. durch Multiplikation der Merkmalswerte mit verschiedenen skalaren Koeffizienten vor der Bestimmung der Distanz. Nachfolgend wird dk nur als Differenz bezeichnet, wobei dies je nachd k = \ u k ~ u k -iI decisive. In case of a feature vector for egg ¬ ne plurality of audio features k d represents the distance of the successive vectors u k γ and u k. The distance can be chosen differently, eg as Euclidean distance or Mahalanobis distance. At this distance, the audio features may also be weighted differently, eg by multiplying the feature values by different scalar coefficients before determining the distance. In the following, dk will be referred to as difference only, depending on
Ausgestaltung auch stellvertretend für den Absolutbetrag der Differenz bzw. die Distanz stehen kann. Embodiment also represent the absolute amount of the difference or the distance can stand.
In den nächsten Schritten 4 und 5 wird die Abfolge von Differenzen dk verschiedenartig weiterverarbeitet, indem sie über unterschiedlich lange Zeiträume aufsummiert werden. Im Schritt 4 werden die Differenzen über einen ersten Zeitraum Tx zu einer ersten Summe Σ1 aufsummiert. Im Schritt 5 werden die Differenten hingegen über einen längeren Zeitraum T2 zu einer zweiten Summe Σ2 aufsummiert. Der kürzere Zeitraum Tx kann beispielsweise 2 bis 5 Sekunden und der längere Zeitraum T2 10 bis 20 Sekunden betragen. Der längere Zeitraum T2 ist in diesem Ausführungsbeispiel zwei- bis zehnmal länger als der kürzere Zeitraum Tx . Für einen kürzeren Zeitraum Tx von beispielsweise 2 Sekunden und einem zeitlichen Abstand der aufeinanderfolgenden Werten der Audiosignale von beispielsweise 10ms werden somit für den Zeitraum Tx 200 Einzelwerte von Differenzen der Werte uk summiert, die den Zeitpunkten tk entsprechen, die in den Zeitraum Tx fallen. Die Summe der Differenzen beschreibt somit die Gesamtheit aller Einzelände¬ rungen der Audiomerkmale über den jeweiligen Summenzeitraum. In the next steps 4 and 5, the sequence of differences d k is variously processed by summing them over periods of different lengths. In step 4, the differences over a first period T x are added up to a first sum Σ 1 . In step 5, however, the differences are summed over a longer period T 2 to a second sum Σ 2 . The shorter period T x may be, for example, 2 to 5 seconds, and the longer period T 2 may be 10 to 20 seconds. The longer period T 2 is in this embodiment, two to ten times longer than the shorter period T x . For a shorter period T x of, for example, 2 seconds and a time interval of successive values of the audio signals, for example, 10ms are thus for the period T x 200 individual values of differences of the values u k summed, the t times k corresponding to that fall within the period T x. The sum of the differences thus describes the set of all ¬ Einzelände conclusions of the audio features on the respective sum period.
In einem sechsten Schritt 6 werden die beiden Summen Σ1 und Σ2 über die zurückliegenden Zeiträume Tx bzw. T2 miteinander verglichen. Durch diesen Vergleich der Gesamtheit der Einzeländerungen über zwei verschieden lange Zeiträume werden auffallende kurzfristige Änderungen im Verhältnis zu einem län¬ gerfristigen Trend erkennbar. Der Vergleich erfolgt in einfacher Weise durch Bildung eines Quotienten aus Σ1 und Σ2 , wo- bei die relative Länge der beiden Zeiträume bei der Bewertung des Quotienten berücksichtigt werden muss. Beispielsweise kann der Wert des Quotienten In a sixth step 6, the two sums Σ 1 and Σ 2 over prior periods T x and T 2 are compared with each other. By this comparison of the totality of the individual changes over two different periods of time striking short-term changes in relation to a County ¬ gerfristigen trend are visible. The comparison is made in a simple manner by forming a quotient of Σ 1 and Σ 2 , whereby the relative length of the two periods must be taken into account in the evaluation of the quotient. For example, the value of the quotient
0 = ^-^- mit T? >T, 0 = ^ - ^ - with T ? > T,
Σ2·Τ; bei dem Vergleich betrachtet werden. Es wird somit quasi die durchschnittliche Änderungsrate Σιι in dem kürzeren Zeit¬ raum Tx mit der durchschnittlichen Änderungsrate Σ22 in dem längeren Zeitraum T2 verglichen. Wenn der Wert von Q wesent- lieh größer ist als 1 deutet dies auf einer auffallende Erhö¬ hung der Änderungsrate im Zeitraum Tx hin. Σ 2 · Τ; be considered in the comparison. It is thus virtually the average rate of change Σ ι / Τ ι in the shorter time period T ¬ x with the average rate of change Σ 2 / Γ 2 are compared in the longer period of time T 2. If the value of Q essential lent greater than 1, this indicates a striking raised stabili ¬ hung the rate of change in the period T x.
In einem siebten Schritt 7 wird ein Klassifikationswechsel in Abhängigkeit von dem Vergleich in vorhergehenden Schritt 6 durchgeführt. Dabei wird nicht die Klassifikation selbst ge¬ wählt, sondern nur eine auf einem anderen Wege vorgeschlagene Klassifikation umgesetzt. Der Klassifikationsvorschlag an sich kann auf einem herkömmlichen Wege abhängig von der Hörsituation ermittelt werden. Durch das vorliegende Verfahren wird somit ein Klassifikationswechsel gehemmt, wenn der oben beschriebene Vergleich darauf hindeutet, dass sich die Hörsi¬ tuation in dem vergangenen Zeitraum Tx nicht wesentlich geän- dert hat. Da der Zeitraum Ί aber relativ kurz gewählt ist, wird durch dieses Verfahren ein schneller und dennoch zuver- lässig ermittelter Klassifikationswechsel ermöglicht . In a seventh step 7, a classification change is performed as a function of the comparison in the preceding step 6. Here is not the classification itself ge ¬ selected, but only converted one proposed by another road classification. The classification proposal itself can be determined in a conventional way depending on the listening situation. By the present method a classification change is thus inhibited, if the comparison described above suggesting that the situation Hörsi ¬ x is not significantly altered in the past period T has. However, since the period Ί is chosen to be relatively short, this method allows a quick yet reliably determined classification change.
Durch die Berücksichtigung verschiedener Audiomerkmale und ggf. darüber hinaus durch eine Gewichtung dieser verschiedenen Audiomerkmale kann das Verfahren sensibel abgestimmt wer¬ den. Die Auswahl und die Gewichtung kann beispielsweise durch Versuchsreihen in verschiedenen wechselnden Hörsituation hinsichtlich einer genauen Erkennung eines Wechsels der Hörsituation verbessert werden. By taking into account various audio features, and possibly in addition by a weighting of these various audio features, the method can be tuned sensitive ¬ the. The selection and the weighting can be improved, for example, by means of test series in various changing hearing situations with regard to an exact recognition of a change in the hearing situation.
Darüber hinaus kann der Wechsel der Klassifikation auch abhängig von der jeweils aktuell gewählten Hörsituation durchgeführt werden. Es ist z.B. wünschenswert das z.B. die Hörsi¬ tuation „Sprache in Ruhe" besonders stabil gegen fehlerhaften Klassifikationswechsel ist, wohingegen andere Klassifikatio¬ nen wie „Auto", „Musik", „Ruhe" oder „Störgeräusche" leichter gewechselt werden können. Dieser Wechsel kann auch abhängen von einer vorschlagenden neuen Klassifikation, so dass z.B. ein Wechsel zu der Hörsituation „Sprache in Ruhe" besonders schnell erfolgen kann. Darüber hinaus können die aktuellen und/oder der vorgeschlagenen Klassifikation auch die Gewichtung der Audiomerkmale bei der Bildung der Distanzen berücksichtigt werden. Auch die Summierungszeiträume Τγ und T2 kön¬ nen zur weiteren Verbesserung von der aktuellen und/oder vorgeschlagenen Klassifikation abhängen. In addition, the change of the classification can also be carried out depending on the currently selected listening situation. It is, for example, the example is desirable that Hörsi ¬ situation "language alone," particularly stable against erroneous classification changes, whereas others Klassifikatio ¬ nen like "Auto", "Music", "calm" or "noise" can be easily changed. This change may also depend on a suggestive new classification, so that, for example, a change to the listening situation "speech at rest" can be done very quickly. In addition, the current and / or proposed classification may also take into account the weighting of the audio features in forming the distances. The Summierungszeiträume Τ γ and T 2 Kings ¬ nen depend to further improve on the current and / or proposed classification.
Die Hörsituation „Sprache in Ruhe" liegt vor, wenn eine Person in einer ansonsten ruhigen Umgebung spricht. Darüber hinaus sind unter anderem Klassifikationen der Hörsituationen in einem Auto („Auto"), für Musik („Musik"), in einer ruhigen Umgebung („Ruhe"), bei Störgeräuschen („Störgeräusche") und viele weiteren Situationen bekannt. Die Klassifikation der Hörsituation führt das Hörgerät ebenfalls auf Grundlage des Audiosignals durch, wobei auch die oben genannten Audiomerkmale berücksichtigt werden können. Abhängig von der jeweiligen Hörsituation wird ein an die Hörsituation angepasstes Hörprogramm zur Verarbeitung des Audiosignals bestimmt. Das mit dem jeweiligen Hörprogramm verarbeitete Audiosignal wird dem Träger des Hörgeräts in verstärkter Form wiedergegeben. Das Hörprogramm bestimmt beispielsweise verschiedenartige Frequenzfilter, den evtl. ebenfalls frequenzabhängigen Verstärkungsgrad und die Richtwirkung der Mikrofone. The "speech at rest" listening situation is when a person speaks in an otherwise quiet environment, and also includes classifications of the listening situations in a car ("car"), for music ("music"), in a quiet environment ( The hearing aid is also classified based on the audio signal, whereby the audio features mentioned above can also be taken into account depending on the respective hearing situation the listening situation adapted Hearing program for processing the audio signal determined. The audio signal processed with the respective hearing program is reproduced to the wearer of the hearing aid in an amplified form. The hearing program determines, for example, various frequency filters, possibly also frequency-dependent gain and the directivity of the microphones.
Figur 2 zeigt schematisch den zeitlichen Verlauf eines Audiosignals 8 und die Relation der einzelnen Zeiträume Ti und T2i , über die die Abfolge von Differenzen der Werte der Audiomerkmale summiert wird. Es wird ein Zeitraum für k = -20 bis k = +80 dargestellt. Exemplarisch ist auf der horizontalen Zeitachse jeder zehnte Zeitpunkt tk angegeben. Die vertikaleFIG. 2 schematically shows the time profile of an audio signal 8 and the relation of the individual time periods T i and T 2i , over which the sequence of differences of the values of the audio features is summed. A period for k = -20 to k = +80 is shown. By way of example, every tenth time t k is indicated on the horizontal time axis. The vertical one
Achse gibt die jeweilige Amplitude des Audiosignals 8 an. Axis indicates the respective amplitude of the audio signal 8.
Unterhalb der Zeitachse ist eine Abfolge von kurzen Zeiträu¬ men TXi und eine weitere Abfolge von längeren Zeiträumen T2i angedeutet. Die kurzen Zeiträume TXi umfassen jeweils zehn Einzelintervalle zwischen den Zeitpunkten tk . Somit umfassen die zugehörigen Summen ΣΗ die Differenzen von zehn aufeinanderfolgenden Wertepaaren uk_ und uk . Die längeren Zeiträume T2i sind jeweils dreimal so lang wie die kurzen Zeiträume Ti . Die zugehörige Summen Σ umfassen somit die Differenzen von dreißig aufeinanderfolgenden Wertepaaren uk γ und uk . Below the time axis, a sequence of short Zeiträu men ¬ T X i and a further series of longer time periods T 2i is indicated. The short periods T Xi each comprise ten individual intervals between the times t k . Thus, the associated sums Σ Η include the differences of ten consecutive value pairs u k _ and u k . The longer periods T 2i are each three times as long as the short periods T i . The associated sums Σ thus comprise the differences of thirty consecutive value pairs u k γ and u k .
Die Nummerierung der Indizes ist so gewählt, dass Die Inter¬ valle TXi und T2i für denselben Index /' zu demselben Zeitpunkt tk mit £ = 10·/ enden. In diesem Fall liegt der Zeitraum TXi in jedem Fall innerhalb des Zeitraums T2i , wobei beide zum sel- ben Zeitpunkt enden. Alternativ kann sich der Tlt auch direkt an den Zeitraum T2i anschließen. In jedem Fall sollten die Ti und T2i in einem engen zeitlichen Zusammenhang stehen. The numbering of the indices is chosen such that the intervals T Xi and T 2i for the same index / 'end at the same point in time t k with £ = 10 · /. In this case, the period T Xi always lies within the period T 2i , both ending at the same time. Alternatively, the T lt can also connect directly to the period T 2i . In any case, the T i and T 2i should be in close temporal relationship.
Mit jeder Erhöhung des Index /' verschieben sind die Zeitin- tervalle TXi und T2i um denselben Betrag, so dass die Relation dieser Intervalle zueinander erhalten bleibt. In diesem Fall verschieben sich die Zeitintervalle TXi um dieselbe Dauer der Zeiträume Τίί , so dass sich die Zeiträume ohne zeitliche Un¬ terbrechung aneinanderreihen. Alternativ ist es auch möglich, dass die Verschiebung größer oder kleiner als die Zeitintervalle Tj sind. With each increment of the index / ' the time intervals T Xi and T 2i are the same amount, so that the relation of these intervals to each other is maintained. In this case, the time intervals T Xi shift by the same duration Periods Τ ίί so that the periods string together without time Un ¬ interruption. Alternatively, it is also possible that the shift is larger or smaller than the time intervals T j .
In dem vorliegenden Fall können die Summen Σ1;. und Σ folgendermaßen als Gleichung dargestellt werden: In the present case, the sums Σ 1; , and Σ are represented as an equation as follows:
Aus diesen Summen können wiederum die folgenden Quotienten Qt gebildet werden, von denen die Durchführung des Klassifikati- onswechsels abhängt : _ ^i T2J From these sums, the following quotients Q t can again be formed, on which the execution of the classification change depends: _ ^ i T 2J
Wie bereits zuvor beschrieben, kann uk sowohl ein einzelnerAs already described above, u k can be both an individual
Zahlenwert für ein Merkmal oder eine Vektor mit einer Viel¬ zahl von Einzelwerten zu verschiedenen Audiomerkmalen sein. Im Fall eines einzelnen Zahlenwerts steht für den Abso¬ lutbetrag. Im Fall eines Vektors wird uk in Form eines Tupels von Zahlenwerten angegeben, wobei n der Index ist, mit dem die einzelnen Zahlenwerte unterschieden werden. Verschiedene Normen können je nach Anwendungsfall gewählt werden. Ei¬ ne mögliche Norm ist die euklidische Norm, die folgendermaßen definiert ist. Its numerical value for a feature or a vector with a multi ¬ number of individual values to various audio features. In the case of a single numerical value stands for Abso ¬ lutbetrag. In the case of a vector, u k is in the form of a tuple of numerical values where n is the index used to distinguish each numeric value. Different standards can be chosen depending on the application. One possible standard is the Euclidean norm, which is defined as follows.
Die Summe wird über alle Einträge des Vektors gebildet. Al¬ ternativ kann \uk -uk l\ als Mahalanobis-Distanz definiert sein. Figur 3 zeigt schematisch den Ablauf des Verfahrens gemäß Fi¬ gur 1 im Zusammenhang mit einem Klassifikationsvorschlag. Wie in Figur 1 deutet die Abfolge der als Rechtecke dargestellten Schritte eine mögliche chronologische Reihenfolge an. Andere Reihenfolgen unter Beibehaltung der kausalen Zusammenhänge sind aber ebenfalls möglich. The sum is made over all entries of the vector. Al ternatively ¬ may be defined as Mahalanobis distance \ u k -u kl \. Figure 3 schematically shows the sequence of the method according to Fi gur ¬ 1 in connection with a classification proposal. As in Figure 1, the sequence of steps represented as rectangles indicates a possible chronological order. Other sequences while maintaining the causal relationships are also possible.
In dem dargestellten Ausführungsbeispiel wird nach der Be¬ reitstellung des Audiosignals 8 zu einem ersten Zeitpunkt in Schritt 9 aus dem Audiosignal 8 ein erster Wert eines Audio¬ merkmals erzeugt. Wie zuvor kann anstelle eines einzelnen Werts auch hier wieder eine Vielzahl von Werten verschiedener Audiomerkmalen berücksichtigt werden. Basierend auf diesem ersten Wert des Audiomerkmals wird in Schritt 10 eine Klassi- fikation gewählt. Diese Wahl erfolgt nach allgemein bekannten Verfahren zur Klassifikation von Audiosignalen. In the illustrated embodiment, from the audio signal 8, a first value of an audio feature is created by ¬ loading ¬ woman on top of the audio signal at a first time in 8 to step 9. As before, instead of a single value, a multiplicity of values of different audio features can again be taken into account here. Based on this first value of the audio feature, a classification is selected in step 10. This choice is made according to well-known methods for classifying audio signals.
In den späteren Schritten 11 und 12 werden beide zuvor beschriebenen Schritte 9 und 10 wiederholt. In Schritt 11 an einem zweiten Zeitpunkt wird somit ein zweiter Wert des Au¬ diomerkmals erzeugt, der Grundlage einer weiteren Wahl einer Klassifikation ist. Die nun angepasste Klassifikation kann von der zuvor gewählten Klassifikation abweichen. In einem solchen Fall entspricht die Wahl Klassifikation zu dem zwei- ten Zeitpunkt dem Vorschlag eines Klassifikationswechsels. Dieser Vorschlag wird aber zunächst nicht durchgeführt. In later steps 11 and 12, both steps 9 and 10 described above are repeated. In step 11, at a second time a second value of Au ¬ thus is diomerkmals generated which is based on a choice of a further classification. The now adjusted classification may differ from the previously selected classification. In such a case, the election classification corresponds to the second time the proposal for a classification change. However, this proposal will not be carried out initially.
Im Schritt 2 im Intervall zwischen dem ersten Zeitpunkt und dem zweiten Zeitpunkt wird die zeitliche Abfolge der Werte des Audiomerkmals erzeugt, wie es bereits in Bezug auf Figur 1 beschrieben wurde. Diese Abfolge von Werten ist wie in Fi¬ gur 1 die Basis für die Verfahrensschritte 3 bis 7. In In step 2, in the interval between the first time and the second time, the time sequence of the values of the audio feature is generated, as already described with reference to FIG. This sequence of values is shown in Fi gur ¬ 1 the basis for the method steps 3 to 7. In
Schritt 7 hängt die tatsächliche Durchführung des Klassifika¬ tionswechsels von dem Vergleich der beiden Differenzsummen ab, wie es zuvor beschrieben wurde. Step 7 depends on the actual implementation of the Klassifika ¬ tion change from, the comparison of the two sums of differences, as described previously.
Figur 4 zeigt ein Hörgerät 13 mit zwei Mikrofonen 14, einer Anordnung 15 von elektronischen Komponenten zur Signalverar- beitung, einer Batterie 16 und einem Hörer 17 zur Schallerzeugung. Die Mikrofone 14 stellen ein Audiosignal 8 bereit. Durch gezielte Signalverarbeitung kann mit den zwei Mikrofonen 14 eine Richtwirkung erzeugt werden. Das Audiosignal 8 wird durch elektrische Leitungen an die Anordnung 15 weitergeleitet. Die Anordnung 15 wird durch die Batterie 16 mit elektrischem Strom versorgt. Nach der Signalverarbeitung des Audiosignale 8 wird das verarbeitete Audiosignal zur Ausgabe an den Hörer 17 weitergegeben. FIG. 4 shows a hearing device 13 with two microphones 14, an arrangement 15 of electronic components for signal processing. processing, a battery 16 and a receiver 17 for sound generation. The microphones 14 provide an audio signal 8. Through targeted signal processing can be generated with the two microphones 14 a directivity. The audio signal 8 is forwarded by electrical lines to the arrangement 15. The assembly 15 is powered by the battery 16 with electrical power. After the signal processing of the audio signal 8, the processed audio signal is passed to the handset 17 for output.
Figur 5 zeigt in einer Vergrößerungsansicht die Anordnung 13 von elektronischen Komponenten zur Signalverarbeitung aus Figur 4. Das Audiosignal 8 von den Mikrofonen 14 gelangt über einen elektrischen Kontakt 18 zu einer Eingangsschnittstelle 19 ei¬ nes Signalprozessors 20. Eine Klassifikationseinheit 21 in dem Signalprozessor 20 führt das in Bezug auf Figur 3 beschriebene Verfahren zur Klassifikation des Audiosignals 8 durch. Das Ergebnis der Klassifikation wird über einen Klassifikationsausgang 22 and einen Audioprozessor 23 weitergereicht . FIG. 5 shows a magnification view of the arrangement 13 of electronic components for signal processing from FIG. 4. The audio signal 8 from the microphones 14 arrives via an electrical contact 18 to an input interface 19 of a signal processor 20. A classification unit 21 in the signal processor 20 carries this with respect to Figure 3 described method for classifying the audio signal 8 by. The result of the classification is passed through a classification output 22 to an audio processor 23.
Der Audioprozessor 23 empfängt das Audiosignal 8 ebenfalls direkt von den Mikrofonen 14 über den Kontakt 18. Basierend auf der jeweils gewählten Klassifikation verarbeitet der Audioprozessor 23 das Audiosignal 8 durch Anwendung eines der Klassifikation entsprechenden Verarbeitungsprogramms, das der jeweiligen Hörsituation angepasst ist. Das Verarbeitete Au- diosignal leitet der Audioprozessor 23 an den Hörer 17 desThe audio processor 23 also receives the audio signal 8 directly from the microphones 14 via the contact 18. Based on the selected classification, the audio processor 23 processes the audio signal 8 by applying a classification program corresponding processing program adapted to the respective listening situation. The processed audio signal is sent by the audio processor 23 to the handset 17 of the
Hörgeräts 13 weiter. Ein gegebenenfalls zwischengeschalteter Verstärker für das verarbeitete Audiosignal ist zur Vereinfa¬ chung nicht in der Zeichnung dargestellt. Abschließend wird das grundlegende Konzept von zumindest ei¬ ner Aus führungs form der Erfindung nochmals zusammengefasst : Die Erfindung betrifft die Anpassung der Klassifikation eines Audiosignals abhängig von einem Vergleich zweier Differenz- summen von Audiomerkmalen über verschieden lange Zeiträume. Dadurch wird eine hinreichend exakte und dennoch reaktions¬ schnelle Anpassung der Klassifikation in veränderlichen Hörsituationen gewährleistet. Das erfindungsgemäße Verfahren findet vorteilhaft in einem Hörgerät Anwendung. Basierend auf der Klassifikation wird das Audiosignal verschiedenartig auf¬ bereitet . Hearing aid 13 on. An optionally intermediary amplifier for the processed audio signal is not shown for Vereinfa ¬ chung in the drawing. Finally, the basic concept of at least one embodiment of the invention is summarized again. The invention relates to the adaptation of the classification of an audio signal as a function of a comparison of two differential signals. buzz audio features over varying lengths of time. In a sufficiently precise and yet Reaction ¬ rapid adaptation of classification in varying listening environments is guaranteed. The inventive method is advantageously used in a hearing aid. Based on the classification, the audio signal is prepared in various ways .
Obwohl die Erfindung im Detail durch das bevorzugte Ausführungsbeispiel näher illustriert und beschrieben wurde, so ist die Erfindung nicht durch die offenbarten Beispiele einge¬ schränkt und andere Variationen können vom Fachmann hieraus abgeleitet werden, ohne den Schutzumfang der Erfindung zu verlassen Although the invention in detail by the preferred embodiment has been illustrated and described in detail, the invention is not limited by the disclosed examples is ¬ limited and other variations can be derived therefrom by the skilled artisan without departing from the scope of the invention

Claims

Patentansprüche claims
1. Verfahren zur Anpassung einer Klassifikation eines Audiosignals (8) umfassend die folgenden Schritte: A method of adapting a classification of an audio signal (8), comprising the following steps:
- Bereitstellung des Audiosignals (8), Provision of the audio signal (8),
- Erzeugen einer zeitlichen Abfolge von Werten eines Audiomerkmals des Audiosignal (8),  Generating a time sequence of values of an audio feature of the audio signal (8),
- Bildung einer zeitlichen Abfolge von Differenzen von aufeinander folgenden Werten,  Formation of a chronological sequence of differences of successive values,
- Summieren der Abfolge von Differenzen zu einer ersten Summe über einen ersten Zeitraum, Summing the sequence of differences to a first sum over a first period,
- Summieren der Abfolge von Differenzen zu einer zweiten Summe über einen zweiten Zeitraum, der länger ist als der erste Zeitraum,  Summing the sequence of differences to a second sum over a second period longer than the first period,
- Vergleich der ersten Summe und der zweiten Summe, und - Comparison of the first sum and the second sum, and
- Durchführung eines Klassifikationswechsels in Abhängigkeit von dem Vergleich.  - Carrying out a classification change depending on the comparison.
2. Verfahren nach Anspruch 1, wobei das Audiomerkmal ein Mit- telwert oder eine Varianz eines Pegels des Audiosignals (8) ist . 2. The method of claim 1, wherein the audio feature is an average or a variance of a level of the audio signal (8).
3. Verfahren nach einem der vorangegangenen Ansprüche, wobei der Vergleich mittels eines Quotienten aus der ersten Summe und der zweiten Summe erfolgt. 3. The method according to any one of the preceding claims, wherein the comparison is carried out by means of a quotient of the first sum and the second sum.
4. Verfahren nach einem der vorangegangenen Ansprüche, wobei eine zeitliche Abfolge von Werten verschiedenartiger Audiomerkmale erzeugt und die Differenz aus Einzeldifferenzen von den aufeinanderfolgenden Werten gleichartiger Audiomerkmalen gebildet wird. A method according to any one of the preceding claims, wherein a temporal succession of values of different audio features is generated and the difference of individual differences is formed by the successive values of similar audio features.
5. Verfahren nach Anspruch 4, wobei die Einzeldifferenzen bei der Bildung der Differenz nach Art des jeweiligen Audiomerk- mals gewichtet werden. 5. The method according to claim 4, wherein the individual differences in the formation of the difference are weighted in the manner of the respective audio recordings.
6. Verfahren nach einem der Ansprüche 4 oder 5, wobei die Werte der verschiedenartigen Audiomerkmale zu einem Merkmals- vektor zusammengefasst werden und die Differenz in Form einer Distanz zwischen aufeinander folgenden Merkmalsvektoren gewonnen wird. 6. The method according to any one of claims 4 or 5, wherein the values of the various audio features to a feature Vector are summarized and the difference is obtained in the form of a distance between successive feature vectors.
7. Verfahren nach einem der vorhergehenden Ansprüche, wobei der Klassifikationswechsel abhängig von einer aktuell gewähl¬ ten Klassifikation durchgeführt wird. 7. The method according to any one of the preceding claims, wherein the classification change is performed depending on a currently selected ¬ th classification.
8. Verfahren nach einem der vorangegangenen Ansprüche, wobei der erste Zeitraum eine Dauer von 2 Sekunden bis 5 künden und der zweite Zeitraum eine Dauer von 10 Sekunden 20 Sekunden aufweist. A method according to any one of the preceding claims, wherein the first period indicates a duration of 2 seconds to 5 and the second period has a duration of 10 seconds 20 seconds.
9. Verfahren zur Klassifikation eines Audiosignals (8) umfassend die folgenden Schritte: 9. A method for classifying an audio signal (8) comprising the following steps:
- Bereitstellen des Audiosignals (8),  Providing the audio signal (8),
- Erzeugen eines ersten Werts für ein Audiomerkmal aus dem Audiosignal zu einem ersten Zeitpunkt,  Generating a first value for an audio feature from the audio signal at a first time,
- Wahl einer Klassifikation des Audiosignals (8) in Abhängigkeit von dem ersten Wert des Audiomerkmals,  Selecting a classification of the audio signal (8) in dependence on the first value of the audio feature,
- Erzeugen eines zweiten Werts für das Audiomerkmal aus dem Audiosignal (8) zu einem zweiten Zeitpunkt,  Generating a second value for the audio feature from the audio signal (8) at a second time,
- Vorbereitung eines Klassifikationswechsels durch Wahl eines Vorschlags für eine angepasste Klassifikation in Abhängigkeit von dem zweiten Wert des Audiomerkmals,  Preparation of a classification change by selecting a proposed classification according to the second value of the audio feature,
- Erzeugen einer zeitlichen Abfolge von Werten des Audiomerkmals des Audiosignal (8) in einem Intervall zwischen dem ers¬ ten Zeitpunkt und dem zweiten Zeitpunkt, - generating a time sequence of values of the audio characteristic of the audio signal (8) in an interval between the ers ¬ th time and the second time,
- Bildung einer zeitlichen Abfolge von Differenzen von aufeinander folgenden Werten,  Formation of a chronological sequence of differences of successive values,
- Summieren der Abfolge von Differenzen zu einer ersten Summe über einen ersten Zeitraum,  Summing the sequence of differences to a first sum over a first period,
- Summieren der Abfolge von Differenzen zu einer zweiten Summe über einen zweiten Zeitraum, der länger ist als der erste Zeitraum,  Summing the sequence of differences to a second sum over a second period longer than the first period,
- Vergleich der ersten Summe und der zweiten Summe, und - Durchführung des Klassifikationswechsels gemäß dem Vor¬ schlag für eine angepasste Klassifikation in Abhängigkeit von dem Vergleich. - Comparison of the first sum and the second sum, and - carrying out the classification in accordance with the change before ¬ impact for a customized classification in dependence on the comparison.
10. Verfahren nach Anspruch 9, wobei der Klassifikationswechsel abhängig von dem Vorschlag für die angepasste Klassifika¬ tion durchgeführt wird. 10. The method of claim 9, wherein the classification change is performed depending on the proposal for the adapted Klassifika ¬ tion.
11. Verfahren nach Anspruch 9 oder 10, weitergebildet durch die Merkmale gemäß einem der Ansprüche 1 bis 8. 11. The method according to claim 9 or 10, further developed by the features according to one of claims 1 to 8.
12. Signalprozessor (20) zur Klassifikation eines Audiosignals (8), umfassend: 12. Signal processor (20) for classifying an audio signal (8), comprising:
- eine Eingangsschnittstelle zum Empfang eines Audiosignals (8),  an input interface for receiving an audio signal (8),
- eine Klassifikationseinheit (21) zur Durchführung des Ver¬ fahrens nach einem der Ansprüche 9 bis 11, und - a classification unit (21) for carrying out the Ver ¬ driving according to one of claims 9 to 11, and
- einen Klassifikationsausgang (22) zur Ausgabe der Klassifikation in Abhängigkeit von einem Resultat des Verfahrens in Anwendung auf das Audiosignal (8) .  a classification output (22) for outputting the classification as a function of a result of the method applied to the audio signal (8).
13. Hörgerät (13), umfassend: 13. hearing aid (13), comprising:
- ein Mikrofon (14) zur Bereitstellung eines Audiosignals (8) ,  a microphone (14) for providing an audio signal (8),
- ein Signalprozessor (20) gemäß Anspruch 12, a signal processor (20) according to claim 12,
- ein Audioprozessor (23) zur Verarbeitung des Audiosignals (8) gemäß einem Verarbeitungsprogramm in Abhängigkeit von der Klassifikation des Audiosignals (8),  an audio processor (23) for processing the audio signal (8) according to a processing program depending on the classification of the audio signal (8),
- ein Hörer (17) zur Ausgabe des verarbeiteten Audiosignals.  a receiver (17) for outputting the processed audio signal.
EP12701891.9A 2012-01-27 2012-01-27 Adaptation of a classification of an audio signal in a hearing aid Active EP2792165B1 (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/EP2012/051371 WO2013110348A1 (en) 2012-01-27 2012-01-27 Adaptation of a classification of an audio signal in a hearing aid

Publications (2)

Publication Number Publication Date
EP2792165A1 true EP2792165A1 (en) 2014-10-22
EP2792165B1 EP2792165B1 (en) 2018-09-19

Family

ID=45558722

Family Applications (1)

Application Number Title Priority Date Filing Date
EP12701891.9A Active EP2792165B1 (en) 2012-01-27 2012-01-27 Adaptation of a classification of an audio signal in a hearing aid

Country Status (5)

Country Link
US (1) US9294848B2 (en)
EP (1) EP2792165B1 (en)
AU (1) AU2012367084B2 (en)
DK (1) DK2792165T3 (en)
WO (1) WO2013110348A1 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102017205652B3 (en) 2017-04-03 2018-06-14 Sivantos Pte. Ltd. Method for operating a hearing device and hearing device
US20210389172A1 (en) * 2018-10-31 2021-12-16 Assa Abloy Ab Classifying vibrations
US11317206B2 (en) 2019-11-27 2022-04-26 Roku, Inc. Sound generation with adaptive directivity
EP3843427B1 (en) * 2019-12-23 2022-08-03 Sonova AG Self-fitting of hearing device with user support

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DK1273205T3 (en) * 2000-04-04 2006-10-09 Gn Resound As A hearing prosthesis with automatic classification of the listening environment
EP1513371B1 (en) * 2004-10-19 2012-08-15 Phonak Ag Method for operating a hearing device as well as a hearing device
JP4169063B2 (en) * 2006-04-06 2008-10-22 ソニー株式会社 Data processing apparatus, data processing method, and program
US7957548B2 (en) * 2006-05-16 2011-06-07 Phonak Ag Hearing device with transfer function adjusted according to predetermined acoustic environments

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See references of WO2013110348A1 *

Also Published As

Publication number Publication date
DK2792165T3 (en) 2019-01-21
US20140369510A1 (en) 2014-12-18
AU2012367084B2 (en) 2015-04-09
WO2013110348A1 (en) 2013-08-01
EP2792165B1 (en) 2018-09-19
AU2012367084A1 (en) 2014-08-07
US9294848B2 (en) 2016-03-22

Similar Documents

Publication Publication Date Title
DE2719973C2 (en)
WO2001020965A2 (en) Method for determining a current acoustic environment, use of said method and a hearing-aid
DE60307576T2 (en) A method for adjusting a hearing aid to a current acoustic environment situation and a hearing aid system
EP3445067B1 (en) Hearing aid and method for operating a hearing aid
DE2524804A1 (en) METHOD AND DEVICE FOR AUTOMATIC SPEECH RECOGNITION
EP1470735A2 (en) Method for determining an acoustic environment situation, application of the method and hearing aid
DE102009060093A1 (en) Method and device for adjusting a hearing aid by detecting the hearing effort
EP1247425A2 (en) Method for operating a hearing-aid and a hearing aid
DE102015222034A1 (en) Speech recognition system and speech recognition method
EP2792165A1 (en) Adaptation of a classification of an audio signal in a hearing aid
EP2239963B1 (en) Method and hearing device for adjusting a hearing aid to recorded data in an external unit
DE102014207437A1 (en) Speech recognition with a plurality of microphones
CH709862A1 (en) Hearing system with user-specific programming.
WO1993002448A1 (en) Method and device for recognizing individual words of spoken speech
DE102019218808B3 (en) Method for training a hearing situation classifier for a hearing aid
DE102005039621A1 (en) Method and apparatus for the adaptive reduction of noise and background signals in a speech processing system
DE102012203349B4 (en) Method for adapting a hearing device based on the sensory memory and adaptation device
WO2011113741A1 (en) Method for testing hearing aids
DE102018102821B4 (en) A DEVICE FOR DETECTING AND PROCESSING AN ACOUSTIC INPUT SIGNAL
DE102016115018A1 (en) Audio signature for voice command observation
EP2515203A1 (en) Method for controlling or regulating a machine
EP3048813B1 (en) Method and device for suppressing noise based on inter-subband correlation
EP1348315B1 (en) Method for use of a hearing-aid and corresponding hearing aid
EP4027333B1 (en) Virtual speech assistant with improved recognition accuracy
DE102021125686B4 (en) Speech evaluation system, speech evaluation procedure and program

Legal Events

Date Code Title Description
PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

17P Request for examination filed

Effective date: 20140718

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

DAX Request for extension of the european patent (deleted)
RAP1 Party data changed (applicant data changed or rights of an application transferred)

Owner name: SIVANTOS PTE. LTD.

RAP1 Party data changed (applicant data changed or rights of an application transferred)

Owner name: SIVANTOS PTE. LTD.

GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: GRANT OF PATENT IS INTENDED

INTG Intention to grant announced

Effective date: 20180528

GRAS Grant fee paid

Free format text: ORIGINAL CODE: EPIDOSNIGR3

GRAA (expected) grant

Free format text: ORIGINAL CODE: 0009210

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE PATENT HAS BEEN GRANTED

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

REG Reference to a national code

Ref country code: GB

Ref legal event code: FG4D

Free format text: NOT ENGLISH

REG Reference to a national code

Ref country code: CH

Ref legal event code: EP

REG Reference to a national code

Ref country code: AT

Ref legal event code: REF

Ref document number: 1044707

Country of ref document: AT

Kind code of ref document: T

Effective date: 20181015

REG Reference to a national code

Ref country code: IE

Ref legal event code: FG4D

Free format text: LANGUAGE OF EP DOCUMENT: GERMAN

REG Reference to a national code

Ref country code: DE

Ref legal event code: R096

Ref document number: 502012013462

Country of ref document: DE

REG Reference to a national code

Ref country code: CH

Ref legal event code: NV

Representative=s name: E. BLUM AND CO. AG PATENT- UND MARKENANWAELTE , CH

REG Reference to a national code

Ref country code: DK

Ref legal event code: T3

Effective date: 20190107

REG Reference to a national code

Ref country code: NL

Ref legal event code: MP

Effective date: 20180919

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: GR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20181220

Ref country code: RS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

Ref country code: LT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

Ref country code: BG

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20181219

Ref country code: NO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20181219

Ref country code: FI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

Ref country code: SE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

REG Reference to a national code

Ref country code: LT

Ref legal event code: MG4D

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: HR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

Ref country code: LV

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

Ref country code: AL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: RO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

Ref country code: IT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

Ref country code: CZ

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

Ref country code: NL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

Ref country code: IS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20190119

Ref country code: ES

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

Ref country code: PL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

Ref country code: EE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SM

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

Ref country code: PT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20190119

Ref country code: SK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

REG Reference to a national code

Ref country code: DE

Ref legal event code: R097

Ref document number: 502012013462

Country of ref document: DE

PLBE No opposition filed within time limit

Free format text: ORIGINAL CODE: 0009261

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT

26N No opposition filed

Effective date: 20190620

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MC

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: LU

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20190127

REG Reference to a national code

Ref country code: BE

Ref legal event code: MM

Effective date: 20190131

REG Reference to a national code

Ref country code: IE

Ref legal event code: MM4A

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: BE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20190131

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20190127

REG Reference to a national code

Ref country code: AT

Ref legal event code: MM01

Ref document number: 1044707

Country of ref document: AT

Kind code of ref document: T

Effective date: 20190127

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: TR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: AT

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20190127

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CY

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: HU

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT; INVALID AB INITIO

Effective date: 20120127

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20180919

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: FR

Payment date: 20230123

Year of fee payment: 12

Ref country code: DK

Payment date: 20230123

Year of fee payment: 12

Ref country code: CH

Payment date: 20230130

Year of fee payment: 12

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: GB

Payment date: 20230124

Year of fee payment: 12

Ref country code: DE

Payment date: 20230119

Year of fee payment: 12