EP1388145A1 - Device and method for analysing an audio signal in view of obtaining rhythm information - Google Patents

Device and method for analysing an audio signal in view of obtaining rhythm information

Info

Publication number
EP1388145A1
EP1388145A1 EP02745267A EP02745267A EP1388145A1 EP 1388145 A1 EP1388145 A1 EP 1388145A1 EP 02745267 A EP02745267 A EP 02745267A EP 02745267 A EP02745267 A EP 02745267A EP 1388145 A1 EP1388145 A1 EP 1388145A1
Authority
EP
European Patent Office
Prior art keywords
rhythm information
signal
subband
raw
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
EP02745267A
Other languages
German (de)
French (fr)
Other versions
EP1388145B1 (en
Inventor
Jürgen HERRE
Jan Rohden
Christian Uhle
Markus Cremer
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Original Assignee
Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV filed Critical Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Publication of EP1388145A1 publication Critical patent/EP1388145A1/en
Application granted granted Critical
Publication of EP1388145B1 publication Critical patent/EP1388145B1/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/90Pitch determination of speech signals
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/36Accompaniment arrangements
    • G10H1/40Rhythm
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2210/00Aspects or methods of musical processing having intrinsic musical character, i.e. involving musical theory or musical parameters or relying on musical knowledge, as applied in electrophonic musical tools or instruments
    • G10H2210/031Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal
    • G10H2210/076Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal for extraction of timing, tempo; Beat detection
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2250/00Aspects of algorithms or signal processing methods without intrinsic musical character, yet specifically adapted for or used in electrophonic musical processing
    • G10H2250/131Mathematical functions for musical analysis, processing, synthesis or composition
    • G10H2250/135Autocorrelation

Definitions

  • the present invention relates to signal processing concepts and, in particular, to the analysis of audio signals with regard to rhythm information.
  • semantically relevant features make it possible to model similarity relationships between pieces that come close to human perception.
  • the use of features that have semantic meaning also makes it possible, for example, to automatically propose pieces that are of interest to a particular user if his preferences are known.
  • the tempo is an important musical parameter that has semantic meaning.
  • the tempo is usually measured in "beats per minute” (BPM).
  • BPM beats per minute
  • the automatic extraction of the tempo as well as the beats of the "beat” or generally speaking the automatic extraction of rhythm information is an example of obtaining a semantically important feature of a piece of music.
  • beat tracking For the determination of the center of gravity and thus also the tempo, d. H.
  • rhythm information For the determination of rhythm information, the term "beat tracking" has also become established in the specialist circles. It is already known from the prior art to use beat tracking on the basis of a note-like or transcribed signal representation, for example in the midi The aim, however, is not to require such a meta representation, but to carry out an analysis directly with, for example, a PCM-coded or, generally speaking, digitally available audio signal.
  • the input signal is split into a series of subbands by means of a filter bank, for example into 6 subbands with crossover frequencies of 200 Hz> 400 Hz, 800 Hz, 1600 Hz and 3200 Hz.
  • Low pass filtering is carried out for the first subband.
  • Sub-band is high-pass filtered, band-pass filtering is described for the remaining sub-bands in between.
  • Each sub-band is processed as follows.
  • the sub-band signal is first rectified.
  • the absolute value of the samples is determined.
  • the resulting n values are then smoothed, for example with an averaging over a suitable window to egg n receive envelope signal.
  • the envelope signal can be subsampled to reduce the computational complexity.
  • the envelope signals are differentiated, ie Sudden changes in the signal amplitude are preferably passed on through the differentiation filter. The result is then limited to non-negative values.
  • Each envelope signal is then placed in a bank of resonant filters, ie oscillators, each containing a filter for each tempo range, so that the filter that matches the musical tempo is most strongly stimulated.
  • the energy of the output signal is calculated as a measure of the correspondence between the tempo of the input signal and the tempo associated with the filter.
  • the energies for each tempo are finally summed up over all subbands, the largest energy sum identifying the tempo supplied as the result, ie the rhythm information.
  • a major disadvantage of this method is the great computation and storage complexity, in particular for realizing the large number of parallel-oscillating “oscillators”, of which only one is ultimately selected. This makes efficient implementation, for example for real-time applications, almost impossible.
  • the known algorithm is shown in Fig. 3 as a block diagram.
  • the audio signal is input via an audio input 300 ner analysis filter bank 302 supplied.
  • the analysis filter bank generates a number n of channels, ie individual subband signals, from the audio input. Each subband signal contains a certain range of frequencies of the audio signal.
  • the filters of the analysis filter bank are selected so that they approximate the selection characteristics of the human inner ear.
  • Such an analysis filter bank is also referred to as a gamma-tone filter bank.
  • rhythm information of each subband signal is evaluated in the devices 304a to 304c.
  • an envelope-like output signal is first calculated (corresponding to a so-called “inner hair cell” processing in the ear) and subsampled.
  • An autocorrelation function is calculated from this result in order to determine the periodicity of the signal as a function of the delay, ie the " Lag ".
  • An autocorrelation function which represents aspects of the rhythm information of each subband signal, is then present at the output of the devices 304a to 304c for each subband signal.
  • the individual autocorrelation functions of the subband signals are then combined in a device 306 by summation in order to obtain a sum autocorrelation function (SAKF) which reproduces the rhythm information of the signal at the audio input 300.
  • SAKF sum autocorrelation function
  • This information can be output at a tempo output 308.
  • Large values in the total autocorrelation indicate that there is a high periodicity of the beginning of notes for a delay (lag) assigned to a peak of the SAKF. Therefore, for example, the greatest value of the sum auto-correlation function is sought within the musically sensible delays.
  • Musicly sensible delays include the tempo range between 60 bpm and 200 bpm.
  • Means 306 may also be arranged to convert a delay time into tempo information. For example, a peak of a one second delay corresponds to a rate of 60 beats per minute. Smaller delays indicate higher speeds, while larger delays indicate lower speeds than 60 bpm.
  • This method has an advantage over the first-mentioned method in that no oscillators need to be implemented with a large amount of computation and memory.
  • the concept is disadvantageous in that the quality of the results depends very much on the type of audio signal. If, for example, a dominant rhythm instrument can be heard from an audio signal, the concept described in FIG. 3 will work well. If, on the other hand, the voice is dominant, which will not provide particularly clear rhythm information, the rhythm determination will be ambiguous. In the audio signal there could also be a tape that only contains rhythm information, ie.z. B.
  • the sum autocorrelation function, obtained by means 306 is ambiguous.
  • the sum autocorrelation function at output 306 is ambiguous in that an autocorrelation function peak is generated even when a delay is multiplied. This is understandable from the fact that a sine component with a period of tO, if it is subjected to an auto-correlation function processing, generates maxi a at multiples of the delays, ie at 2t0, 3t0, etc., in addition to the desired maximum at tO.
  • the calculation model divides the signal into two channels, namely a channel below 1000 Hz and a channel above 1000 Hz. From this an autocorrelation of the lower channel and an autocorrelation of the envelope curve of the upper channel are calculated.
  • ESACF Enhanced Summary-Autocorrelation Function
  • the object of the present invention is to create a computing time-efficient and robust device and a computing time-efficient and robust method for analyzing an audio signal with regard to rhythm information. This object is achieved by a device for analyzing an audio signal according to claim 1 or by a method for analyzing an audio signal according to claim 11.
  • the present invention is based on the knowledge that in the individual frequency bands, i. H. the sub-bands, there are often different favorable conditions for finding rhythmic periodicities. While in pop music, for example, the signal is often dominated in the middle range, for example around 1 kHz, by vocals that do not correspond to the beat, percussion sounds are often present in the higher frequency ranges. B. the hi-hat of the drums, which allow a very good extraction of rhythmic regularities. In other words, depending on the audio signal, different frequency bands contain a different amount of rhythmic information or have a different quality or significance for the rhythm information of the audio signal.
  • the audio signal is therefore first broken down into subband signals. Any subband signal. is examined for its periodicity to obtain raw rhythm information for each subband signal. An evaluation of the quality of the periodicity of each subband signal is then carried out in accordance with the present invention in order to obtain a measure of significance for each subband signal. A high level of significance indicates that there is clear rhythm information in this subband signal, while a low level of significance indicates that there is less clear rhythm information in this subband signal.
  • a modified envelope curve of the subband signal is first calculated and then an autocorrelation function of the envelope curve is calculated.
  • the autocorrelation function of the envelope represents the raw rhythm information.
  • Clear rhythm information is available if the autocorrelation function has clear maxima, while less clear rhythm information is available if the autocorrelation function of the envelope of the subband signal has fewer pronounced signal peaks or no signal peaks at all.
  • An autocorrelation function that has significant signal peaks is therefore given a high level of significance, while an autocorrelation function that has a relatively flat profile is obtained a low level of significance.
  • the individual raw rhythm information of the individual subband signals are not simply combined “blindly”, but are used for each subband signal, taking into account the significance measure, in order to obtain the rhythm information of the audio signal. If a subband signal has a high significance measure, it becomes so when determining the rhythmin - - Formations preferred, while a ... sub-band signal that has a low degree of significance, ie that has a low quality with regard to the rhythm information, is hardly taken into account in the determination of the rhythm information of the audio signal or, in extreme cases, is not taken into account at all.
  • this weighting can result in all subband signals except the one subband signal receiving a weighting factor of 0, i.e. not at all when determining the rhythm information are taken into account, so that the rhythm information of the audio signal is determined only from a single subband signal.
  • the concept according to the invention is advantageous in that it enables the rhythm information to be determined robustly, since subband signals with no clear or even deviating rhythm information, ie if the vocals have a different rhythm than the actual beat of the piece, do not contain the rhythm information of the audio signal. water down "or” falsify ". They also become very intoxicating.
  • Subband signals,. wel ⁇ he__ .. provide a system autocorrelation function with a completely flat profile, do not deteriorate the signal / noise ratio when determining the rhythm information. Exactly this would occur, however, if, as in the prior art, all the autocorrelation functions of the subband signals were simply added up with the same weight.
  • Another advantage of the method according to the invention is that a significance measure can be determined with a small additional computing effort, and that the evaluation of the raw rhythm information with the significance measure and the subsequent summation can be carried out efficiently without a large amount of memory and computing time, which the concept according to the invention also recommends in particular for real-time applications.
  • FIG. 1 shows a block diagram of a device for analyzing an audio signal with a quality evaluation of the raw rhythm information
  • FIG. 2 shows a block diagram of a device for analyzing an audio signal using weighting factors on the basis of the significance measures
  • FIG. 3 shows a block diagram of a known device for analyzing an audio signal with regard to rhythm information
  • FIG. 4 shows a block diagram of a device for analyzing an audio signal with regard to rhythm information using an autocorrelation function with a subband-wise postprocessing of the rhythm raw information
  • FIG. 5 shows a detailed block diagram of the device for post-processing from FIG. 4.
  • FIG. 1 shows a block diagram of a device for analyzing an audio signal with regard to rhythm information.
  • the audio signal is transmitted via an input 100 to a device 102 for splitting the audio signal into at least two Subband signals 104a and 104b supplied.
  • Each subband signal 104a, 104b is fed into means 106a and 106b for examining it for periodicities in the subband signal to obtain raw rhythm information 108a and 108b for each subband signal.
  • the raw rhythm information is then fed to a device 110a or 110b for evaluating a quality of the periodicity of each of the at least two subband signals in order to obtain a significance measure 112a, 112b for each of the at least two subband signals.
  • Both the raw rhythm information 108a, 108b and the significance measures 112a, 112b are fed to a device 114 for determining the rhythm information of the audio signal.
  • the device 114 takes into account the significance measures 112a, 112b for the subband signals and the raw rhythm information 108a, 108b of at least one subband signal.
  • the device 110a for quality assessment has determined, for example, that there is no particular periodicity in the subband signal 104a, the significance measure 112a will be very small or equal to 0.
  • the device -114- for determining the rhythm information determines that the significance measure 112a is equal to zero, so that the raw rhythm information 108a of the subband signal 104a is no longer taken into account when determining the rhythm information of the audio signal Need to become.
  • the rhythm information of the audio signal is then determined solely and exclusively on the basis of the raw rhythm information 108b of the subband signal 104b.
  • FIG. 2 is discussed with regard to a special embodiment of the device from FIG. 1.
  • a device 102 for decomposing the audio signal a conventional before analysis filter bank are used, which delivers a user-selectable number of subband signals on the output side.
  • Each subband signal is then subjected to the processing of the devices 106a, 106b and 106c, whereupon the devices 110a to 110c then determine significance measures of each raw rhythm information.
  • the device 114 comprises a device 114a for calculating weighting factors for each subband signal on the basis of the significance measure for this subband signal and optionally also for the other subband signals.
  • a weighting of the raw rhythm information 108a to 108c then takes place in the device 114b with the weighting factor for this subband signal, whereupon, also in the device 114b, the weighted raw rhythm information is combined, e.g. B. summed up, in order to obtain the rhythm information of the audio signal at the tempo output 116.
  • the inventive concept turns' thus follows. After evaluating the rhythmic information of the individual bands which .stattfinden example, envelope shaping, smoothing, differentiating, limiting to positive values and making -the autocorrelation function., Can (Einrich- .. obligations 106a to 106c), an evaluation of the value or the quality of these intermediate results takes place in the devices 110a to 110c.This is achieved with the aid of an evaluation function which evaluates the reliability of the individual results with a significance measure. The significance measures of all subband signals become a weighting factor for each band for the extraction of the rhythm information The overall result of the rhythm extraction is then achieved in the device 114b by combining the band-wise individual results taking into account their respective weighting factors. As a result, an algorithm for rhythm analysis implemented in this way shows a good ability to reliably find rhythmic information in a signal even under unfavorable conditions. The concept according to the invention is therefore characterized by a high level of robustness.
  • the raw rhythm information 108a, 108b, 108c which represent the periodicity of the respective subband signal, is determined by means of an autocorrelation function.
  • the significance measure by dividing a maximum of the autocorrelation function by an average of the autocorrelation function and then subtracting the value 1. It should be noted that every autocorrelation function always delivers a local maximum at a delay of 0, which represents the energy of the signal. This maximum should be disregarded so that the quality determination is not falsified.
  • the autocorrelation function should only be considered in a special tempo range, ie from a maximum deceleration, .. which corresponds to the smallest, inter, e.ss., n, > tempo, to a minimum deceleration, which corresponds to the highest of interest Pace corresponds.
  • a typical tempo range is between 60 bpm and 200 bpm.
  • the ratio between the arithmetic mean value of the autocorrelation function in the tempo area of interest and the geometric mean value of the autocorrelation function in the tempo area of interest can be determined as a significance measure. It is known that if all values of the autocorrelation function are the same, ie if the autocorrelation function has a flat course, the geometric one The mean value of the autocorrelation function and the arithmetic mean value of the autocorrelation function are the same. In this case, the significance measure would have a value of 1, which means that the raw rhythm information is not significant.
  • the ratio of the arithmetic mean to the geometric mean would be greater than 1, which means that the auto-correlation function has good rhythm information.
  • the smaller the ratio between the arithmetic mean and the geometric mean the flatter the autocorrelation function and the fewer periodicities it contains, which in turn means that the rhythm information of this subband signal is less significant, i. H. have a lower quality, which will result in a low or a weighting factor of 0.
  • a relative weighting is preferred, such that all weighting factors of all subband signals add up to 1, i. H. that the weighting factor of a band,. «- is determined-.-,. ,,, as ,,, the significance value. « ... this, it.,tician. band divided by the sum of all significance values.
  • a relative weighting is carried out before the summation of the weighted raw rhythm information in order to obtain the rhythm information of the audio signal.
  • the audio signal is fed via the audio signal input 100 into the device 102 for splitting the audio signal into subband signals 104a and 104b.
  • Each subband signal is then examined in the device 106a or 106b, as has been carried out, using an autocorrelation function in order to determine the periodicity of the subband signal.
  • the raw rhythm information 108a, 108b is then available at the output of the device 106a or 106b. These are fed into a device 118a or 118b in order to postprocess the raw rhythm information output by the device 116a by means of the autocorrelation function.
  • the quality assessment can, however, also take place on the basis of the post-processed raw rhythm information, this latter possibility being preferred since the quality assessment on the basis of the post-processed rhythm Raw information ensures that the quality of information that is no longer ambiguous is assessed.
  • the determination of the rhythm information by means 114 then takes place on the basis of postprocessed rhythm information of a channel and preferably also on the basis of the significance measure for this channel.
  • a quality assessment is carried out on the basis of the raw rhythm information, i.e. the signal in front of the device 118a, this is advantageous in that if it is determined that the significance measure is equal to 0, i. H. that the autocorrelation function has a flat course, the postprocessing by means of the device 118a can be dispensed with entirely in order to save computing time resources.
  • FIG. 5 is discussed in order to show a more detailed structure of a device 118a or 118b for postprocessing the rhythm raw information.
  • the subband signal for example 104a
  • a spread auto-correlation function can be calculated by means of a device 121, the device 121 being arranged to calculate the spread auto-correlation function so that it is spread by an integral multiple of a delay .
  • Means 122 is arranged in this case to subtract the spread autocorrelation function from the original autocorrelation function, ie the raw rhythm information 108a.
  • an autocorrelation function spread by a factor of 3 is calculated in the device 121 and subtracted from the result of the previous subtraction, so that all ambiguities are gradually eliminated from the raw rhythm information.
  • the device 121 can be arranged to calculate an autocorrelation function compressed by an integer factor, which is then added by the device 122 to the rhythm raw information in order to also include components for delays t0 / 2, tO / 3, etc . to create.
  • the spread or compressed versions of the raw rhythm information 108a can be weighted before adding or subtracting, in order to achieve flexibility in the sense of a high level of robustness.
  • the periodicity "-.kan -So _a more Improvement .. he elt z. 1 J -W. are “,. ,, if. the. Properties of the autocorrelation function are included and the post-processing is carried out using the device 118a or 118b.
  • a periodic sequence of note starts with a distance tO not only generates an AKF peak with a delay tO but also at 2t0, 3t0, etc. This will lead to ambiguity in the tempo detection, i.e. the search for significant maxima in the autocorrelation function.
  • the ambiguities can be cleared if versions of the AKF that are spread by integer factors are subtracted from the initial value on a sub-band basis (weighted). Furthermore, there is the problem with the autocorrelation function that it does not provide any information at tO / 2, t0 / 3 ... etc., that is to say at twice, three times, etc. of the “basic tempo”, which can lead to incorrect results especially if Two instruments that are in different subbands together define the rhythm of the signal, which is taken into account by calculating versions of the auto-correlation function that are compressed by integer factors, and then adding or unweighting these to the raw rhythm information.
  • the AKF postprocessing thus takes place sub-band, whereby an autocorrelation function is calculated for at least one sub-band signal and this is combined with stretched or spread versions of this function.

Abstract

The invention relates to a device for analysing an audio signal in view of obtaining rhythm information of said audio signal. Said device comprises a filter bank for decomposing (102) the audio signal into at least two partial band signals. Each partial band signal is analysed (106a, 106b) in terms of its periodicity, in order to obtain raw rhythm information for each partial band signal. Raw rhythm information is subjected to a quality evaluation (110a, 110b), in order to obtain a significance measure for each partial band signal. The rhythm information of the audio signal is determined, taking into account the significance measure of the partial band signal and the raw rhythm information (114). This enables a more robust analysis of the audio signal, as partial band signals containing clear rhythm information are preferred to partial band signals containing less clear rhythm information, for the determination of rhythm information.

Description

Vorrichtung und Verfahren zum Analysieren eines Audiosignals hinsichtlich von RhythmusInformationen Apparatus and method for analyzing an audio signal for rhythm information
Beschreibungdescription
Die vorliegende Erfindung bezieht sich auf Signalverarbeitungskonzepte und insbesondere auf die Analyse von Audiosignalen hinsichtlich von RhythmusInformationen.The present invention relates to signal processing concepts and, in particular, to the analysis of audio signals with regard to rhythm information.
In den letzten Jahren ist die Verfügbarkeit multimedialen Datenmaterials, wie z. B. Audio- oder Video-Daten, stark gestiegen. Dies ist auf eine Reihe von technischen Faktoren zurückzuführen, welche sich insbesondere auf die breite Verfügbarkeit des Internets, von leistungsfähiger Rechnerhard- und Software sowie von leistungsfähigen Verfahren zur Datenkompression, d. h. Quellcodierung, von Audio- und Videoverfahren stützen.In recent years, the availability of multimedia data such as B. audio or video data, increased significantly. This is due to a number of technical factors, which are particularly due to the wide availability of the Internet, powerful computer hardware and software, as well as powerful methods for data compression, i. H. Support source coding, audio and video processes.
Die riesigen Mengen audiovisueller Daten, die beispielsweise auf dem Internet weltweit verfügbar sind, verlangen nach Konzepten, die es ermöglichen, diese Daten nach inhaltlichen Kriterien beurteilen, katalogisieren usw. zu können. Es besteht der Wunsch, in der Lage zu sein, multimediale Daten gezielt durch Angabe sinnvoller Kriterien zu suchen und aufzufinden.The huge amounts of audiovisual data that are available worldwide, for example on the Internet, call for concepts that enable this data to be assessed, cataloged, etc. based on content criteria. There is a desire to be able to search for and locate multimedia data by specifying meaningful criteria.
Dies erfordert sogenannte „inhaltsbasierter" Techniken, die aus den audiovisuellen Daten sogenannte Merkmale, die in Fachkreisen auch als „Features" bezeichnet werden, extrahieren, welche wichtige charakteristische Eigenschaften des Signals repräsentieren. Basierend auf solchen Merkmalen bzw. Kombinationen dieser Merkmale können Ähnlichkeitsbeziehungen bzw. Gemeinsamkeiten zwischen Audio- oder Videosignalen hergeleitet werden. Dieser Vorgang erfolgt durch Vergleich bzw. In- Beziehung-Setzen der extrahierten Merkmalswerte aus den verschiedenen Signalen, welche auch einfach als „Stücke" bezeichnet werden.This requires so-called “content-based” techniques, which extract so-called features from the audiovisual data, which are also referred to as “features” in specialist circles, which represent important characteristic properties of the signal. Based on such features or combinations of these features, similarity relationships or similarities between audio or video signals can be derived. This is done by comparison or in- Relation-setting of the extracted feature values from the different signals, which are also simply referred to as "pieces".
Von besonderem Interesse ist die Bestimmung bzw. Extraktion von Merkmalen, die nicht nur signaltheoretische, sondern möglichst unmittelbare semantische Bedeutung haben, d. h. vom Hörer unmittelbar empfundene Eigenschaften repräsentieren.Of particular interest is the determination or extraction of features that are not only signal-theoretical, but also have the most direct semantic meaning possible. H. represent properties directly perceived by the listener.
Dies ermöglicht es dem Benutzer, auf einfache und intuitive Weise Suchanfragen zu formulieren, um Stücke aus dem gesamten vorhandenen Datenbestand einer Audiosignal-Datenbank zu finden. Ebenso erlauben es semantisch relevante Merkmale, Ähnlichkeitsbeziehungen zwischen Stücken zu modellieren, die der menschlichen Empfindung nahe kommen. Die Verwendung von Merkmalen, die semantische Bedeutung haben, ermöglicht auch beispielsweise ein automatisches Vorschlagen von für einen bestimmten Benutzer interessanten Stücken, wenn seine Vorlieben bekannt sind.This enables the user to formulate search queries in a simple and intuitive manner in order to find pieces from the entire existing database of an audio signal database. Likewise, semantically relevant features make it possible to model similarity relationships between pieces that come close to human perception. The use of features that have semantic meaning also makes it possible, for example, to automatically propose pieces that are of interest to a particular user if his preferences are known.
Im Bereich der Musikanalyse ist das Tempo ein wichtiger musikalischer Parameter, der semantische Bedeutung hat. Das Tempo wird üblicherweise in „Beats per Minute" (BPM) gemessen. Die automatische Extraktion des Tempos sowie der Taktschwerpunkte des „Beats" bzw. allgemein gesagt die automatische Extraktion von Rhythmusinformationen, ist ein Beispiel für die Gewinnung eines semantisch wichtigen Merkmals eines Musikstückes.In the field of music analysis, the tempo is an important musical parameter that has semantic meaning. The tempo is usually measured in "beats per minute" (BPM). The automatic extraction of the tempo as well as the beats of the "beat" or generally speaking the automatic extraction of rhythm information is an example of obtaining a semantically important feature of a piece of music.
Weiterhin besteht ein Wunsch dahingehend, dass die Merkmalsextraktion, d. h. das Extrahieren von RhythmusInformationen aus einem Audiosignal, robust und recheneffizient stattfinden kann. Robustheit bedeutet, dass es keine Rolle spielen darf, ob das Stück quellcodiert und wieder decodiert worden ist, ob das Stück über einen Lautsprecher abgespielt und von einem Mi- Mikrophon empfangen worden ist, ob es laut oder leise gespielt wird, oder ob es von einem Instrument oder einer Mehrzahl von Instrumenten gespielt wird.Furthermore, there is a wish that the feature extraction, ie the extraction of rhythm information from an audio signal, can take place robustly and computationally efficiently. Robustness means that it must not matter whether the piece has been source-coded and decoded again, whether the piece has been played over a loudspeaker and Microphone has been received, whether it is played loudly or quietly, or whether it is played by one or a plurality of instruments.
Für die Bestimmung der Taktschwerpunkte und damit auch des Tempos, d. h. für die Bestimmung von Rhythmusinformationen, hat sich in den Fachkreisen auch der Begriff „Beat Tracking" etabliert. Aus dem Stand der Technik ist es bereits bekannt, ein Beat Tracking auf der Basis einer notenartigen bzw. transkribierten Signaldarstellung, z. B. im Midi-Format, durchzuführen. Ziel ist es jedoch, keine solchen Metadarstellungen zu benötigen, sondern eine Analyse direkt mit einem z. B. PCM- codierten oder allgemein gesagt digital vorliegenden Audiosignal vorzunehmen.For the determination of the center of gravity and thus also the tempo, d. H. For the determination of rhythm information, the term "beat tracking" has also become established in the specialist circles. It is already known from the prior art to use beat tracking on the basis of a note-like or transcribed signal representation, for example in the midi The aim, however, is not to require such a meta representation, but to carry out an analysis directly with, for example, a PCM-coded or, generally speaking, digitally available audio signal.
Die Fachveröffentlichung „Tempo and Beat Analysis of Acoustic Musical Signals" von Eric D. Scheirer, J. Acoust . Soc. Am. 103:1, (Jan 1998), Seiten 588 - 601, offenbart ein Verfahren zur automatischen Extraktion eines rhythmischen Pulses aus musikalischen Exzerpten. Das Eingangssignal wird mittels einer Filterbank in eine Reihe von Teilbändern aufgespalten, beispielsweise in 6 Teilbänder mit Übergangsfrequenzen von 200 Hz> 400 Hz, 800 Hz, 1600 Hz und 3200 Hz. Für das erste Teilband wird eine Tiefpassfilterung durchgeführt. Für das letzte Teilband wird eine Hochpassfilterung durchgeführt, für die restlichen, dazwischen liegenden Teilbände wird eine Bandpassfilterung beschrieben. Jedes Teilband wird folgendermaßen verarbeitet. Das Teilbandsignal wird zunächst gleichgerichtet. In anderen Worten ausgedrückt wird der Absolutbetrag der Abtastwerte bestimmt. Die resultierenden n Werte werden dann geglättet, beispielsweise mit einer Mittelung über ein geeignetes Fenster, um ein Hüllkurvensignal zu erhalten. Zur Senkung der Rechenkomplexität kann das Hüllkurvensignal unterabgetastet werden. Die Hüllkurvensignale werden differenziert, d. h. plötzliche Änderungen der Signalamplitude werden durch das Differenzierungsfilter bevorzugt weitergeleitet. Das Resultat wird dann auf nicht-negative Werte begrenzt. Jedes Hüllkurvensignal wird dann in eine Bank resonanter Filter, d. h. Oszillatoren, gegeben, die jeweils ein Filter für jeden Tempobereich enthalten, so dass das zum musikalischen Tempo passende Filter am stärksten angeregt wird. Für jedes Filter wird die Energie des Ausgangssignals als Maß für die Übereinstimmung des Tempos des Eingangssignals mit dem zum Filter gehörigen Tempo berechnet. Die Energien für jedes Tempo werden schließlich über alle Teilbänder aufsummiert, wobei die größte Energiesumme das als Resultat gelieferte Tempo, d. h. die Rhythmusinformationen, kennzeichnet.The professional publication "Tempo and Beat Analysis of Acoustic Musical Signals" by Eric D. Scheirer, J. Acoust. Soc. Am. 103: 1, (Jan 1998), pages 588-601, discloses a method for the automatic extraction of a rhythmic pulse Musical excerpts: The input signal is split into a series of subbands by means of a filter bank, for example into 6 subbands with crossover frequencies of 200 Hz> 400 Hz, 800 Hz, 1600 Hz and 3200 Hz. Low pass filtering is carried out for the first subband. For the last one Sub-band is high-pass filtered, band-pass filtering is described for the remaining sub-bands in between. Each sub-band is processed as follows. The sub-band signal is first rectified. In other words, the absolute value of the samples is determined. The resulting n values are then smoothed, for example with an averaging over a suitable window to egg n receive envelope signal. The envelope signal can be subsampled to reduce the computational complexity. The envelope signals are differentiated, ie Sudden changes in the signal amplitude are preferably passed on through the differentiation filter. The result is then limited to non-negative values. Each envelope signal is then placed in a bank of resonant filters, ie oscillators, each containing a filter for each tempo range, so that the filter that matches the musical tempo is most strongly stimulated. For each filter, the energy of the output signal is calculated as a measure of the correspondence between the tempo of the input signal and the tempo associated with the filter. The energies for each tempo are finally summed up over all subbands, the largest energy sum identifying the tempo supplied as the result, ie the rhythm information.
Ein wesentlicher Nachteil dieses Verfahrens besteht in der großen Rechen- und Speicherkomplexität insbesondere zur Realisierung der großen Zahl von parallelschwingenden „Oszillatoren", von denen letztlich nur ein einziger ausgewählt wird. Dies macht eine effiziente Implementierung beispielsweise für EchtZeitanwendungen nahezu unmöglich.A major disadvantage of this method is the great computation and storage complexity, in particular for realizing the large number of parallel-oscillating “oscillators”, of which only one is ultimately selected. This makes efficient implementation, for example for real-time applications, almost impossible.
Die Fachveröffentlichung „Pulse Tracking with a Pitch Tracker" von Eric D. Scheirer> Proc. 1997 Workshop on Applications of- Signal Processing to Audio and Acoustics, Mohonk, NY, Oct 1997, beschreibt einen Vergleich des oben beschriebenen „Oszillatorkonzeptes" mit einem Alternativkonzept, das auf der Verwendung von Autokorrelationsfunktionen zur Extraktion der Periodizität aus einem Audiosignal, d. h. der Rhythmusinformationen eines Signals, aufbaut. Ein Algorithmus zur Modulierung der menschlichen Tonhöhenwahrnehmung, d. h. des Pitch, wird für das „Beat Tracking" eingesetzt.The professional publication "Pulse Tracking with a Pitch Tracker" by Eric D. Scheirer> Proc. 1997 Workshop on Applications of- Signal Processing to Audio and Acoustics, Mohonk, NY, Oct 1997, describes a comparison of the "oscillator concept" described above with an alternative concept based on the use of autocorrelation functions to extract periodicity from an audio signal, i.e. H. the rhythm information of a signal. An algorithm for modulating human pitch perception, i.e. H. the pitch, is used for "beat tracking".
Der bekannte Algorithmus ist in Fig. 3 als Blockdiagramm dargestellt. Das Audiosignal wird über einen Audioeingang 300 ei- ner Analyse-Filterbank 302 zugeführt. Die Analyse-Filterbank erzeugt aus dem Audioeingang eine Anzahl n von Kanälen, d. h. von einzelnen Teilbandsignalen. Jedes Teilbandsignal enthält einen bestimmten Bereich an Frequenzen des Audiosignals. Die Filter der Analyse-Filterbank sind so ausgewählt, dass sie die Selektionscharakteristik des menschlichen Innenohrs annähern. Eine solche Analyse-Filterbank wird auch als Gamma-Ton- Filterbank bezeichnet.The known algorithm is shown in Fig. 3 as a block diagram. The audio signal is input via an audio input 300 ner analysis filter bank 302 supplied. The analysis filter bank generates a number n of channels, ie individual subband signals, from the audio input. Each subband signal contains a certain range of frequencies of the audio signal. The filters of the analysis filter bank are selected so that they approximate the selection characteristics of the human inner ear. Such an analysis filter bank is also referred to as a gamma-tone filter bank.
In den Einrichtungen 304a bis 304c werden die Rhythmus- Informationen jedes Teilbandsignals ausgewertet. Für jedes Eingangssignal wird zunächst ein hüllkurvenartiges Ausgangssignal berechnet (entsprechend einer sogenannten „Inner Hair Cell"-Verarbeitung im Ohr) und unterabgetastet. Aus diesem Resultat wird eine Autokorrelationsfunktion (AKF) berechnet, um die Periodizität des Signals als Funktion der Verzögerung, d. h. des „Lag" zu erhalten.The rhythm information of each subband signal is evaluated in the devices 304a to 304c. For each input signal, an envelope-like output signal is first calculated (corresponding to a so-called "inner hair cell" processing in the ear) and subsampled. An autocorrelation function (AKF) is calculated from this result in order to determine the periodicity of the signal as a function of the delay, ie the " Lag ".
Am Ausgang der Einrichtungen 304a bis 304c liegt dann für jedes Teilbandsignal eine Autokorrelationsfunktion vor, welche Aspekte der Rhythmus-Informationen jedes Teilbandsignals darstellt.An autocorrelation function, which represents aspects of the rhythm information of each subband signal, is then present at the output of the devices 304a to 304c for each subband signal.
Die einzelnen Autokorrelationsfunktionen der Teilbandsignale werden dann in einer Einrichtung 306 durch Summation kombiniert, um eine Summenautokorrelationsfunktion (SAKF) zu erhalten, welche die Rhythmus-Informationen des Signals am Audio- Eingang 300 wiedergibt. Diese Informationen können an einem Tempo-Ausgang 308 ausgegeben werden. Große Werte in der Sum- menautokorrelation zeigen an, dass für eine einer Spitze der SAKF zugeordneten Verzögerung (Lag) eine hohe Periodizität der Notenanfänge .vorliegt. Daher wird beispielsweise der größte Wert der Summenautokorrelationsfunktion innerhalb der musikalisch sinnvollen Verzögerungen gesucht. Musikalisch sinnvolle Verzögerungen sind beispielsweise der Tempobereich zwischen 60 bpm und 200 bpm. Die Einrichtung 306 kann ferner angeordnet sein, um eine Verzögerungszeit in Tempoinformationen umzusetzen. So entspricht beispielsweise eine Spitze einer Verzögerung von einer Sekunde einem Tempo von 60 Schlägen pro Minute. Kleinere Verzögerungen deuten auf höhere Tempos hin, während größere Verzögerungen auf kleinere Tempos als 60 bpm hinweisen.The individual autocorrelation functions of the subband signals are then combined in a device 306 by summation in order to obtain a sum autocorrelation function (SAKF) which reproduces the rhythm information of the signal at the audio input 300. This information can be output at a tempo output 308. Large values in the total autocorrelation indicate that there is a high periodicity of the beginning of notes for a delay (lag) assigned to a peak of the SAKF. Therefore, for example, the greatest value of the sum auto-correlation function is sought within the musically sensible delays. Musically sensible delays include the tempo range between 60 bpm and 200 bpm. Means 306 may also be arranged to convert a delay time into tempo information. For example, a peak of a one second delay corresponds to a rate of 60 beats per minute. Smaller delays indicate higher speeds, while larger delays indicate lower speeds than 60 bpm.
Dieses Verfahren hat gegenüber dem zuerst genannten Verfahren einen Vorteil dahingehend, dass keine Oszillatoren mit großem Rechen- und Speicheraufwand implementiert werden müssen. Andererseits ist das Konzept dahingehend nachteilhaft, dass die Qualität der Ergebnisse sehr stark von der Art des Audiosignals abhängt. Ist aus einem Audiosignal beispielsweise ein dominantes Rhythmusinstrument herauszuhören, so wird das in Fig. 3 beschriebene Konzept gut funktionieren. Ist dagegen die Stimme dominant, welche keine besonders eindeutigen Rhythmusinformationen liefern wird, so wird die Rhythmusbestimmung mehrdeutig sein. In dem Audiosignal könnte durchaus auch ein Band vorkommen, das lediglich Rhythmusinformationen enthält, ie.z. B. ein höheres Frequenzband, in dem beispielsweise ein Hihat eines Schlagzeugs positioniert ist, oder ein niedriges Frequenzband, in dem die große Trommel eines Schlagzeugs auf der Frequenzskala positioniert ist. Aufgrund der Kombination der Einzelinformationen werden jedoch die einigermaßen eindeutigen Informationen dieser speziellen Teilbänder von den mehrdeutigen Informationen der anderen Teilbänder überlagert bzw. „verwässert".This method has an advantage over the first-mentioned method in that no oscillators need to be implemented with a large amount of computation and memory. On the other hand, the concept is disadvantageous in that the quality of the results depends very much on the type of audio signal. If, for example, a dominant rhythm instrument can be heard from an audio signal, the concept described in FIG. 3 will work well. If, on the other hand, the voice is dominant, which will not provide particularly clear rhythm information, the rhythm determination will be ambiguous. In the audio signal there could also be a tape that only contains rhythm information, ie.z. B. a higher frequency band in which, for example, a hi-hat of a drum kit is positioned, or a low frequency band in which the bass drum of a drum kit is positioned on the frequency scale. Due to the combination of the individual information, however, the somewhat unambiguous information of these special subbands is overlaid or "watered down" by the ambiguous information of the other subbands.
Ein weiteres Problem bei der Verwendung von Autokorrelationsfunktionen zum Extrahieren der Periodizität eines Teilbandsignals besteht darin, dass die Summen-Autokorrelationsfunktion, die durch die Einrichtung 306 gewonnen wird, mehrdeutig ist. Die Summen-Autokorrelationsfunktion am Ausgang 306 ist dahingehend mehrdeutig, dass auch beim Vielfachen einer Verzögerung eine Autokorrelationsfunktions-Spitze erzeugt wird. Dies ist daraus verständlich, dass eine Sinuskomponente mit einer Periode von tO, wenn sie einer Autokorrelationsfunktionverarbei- tung unterzogen wird, neben dem gewünschten Maximum bei tO auch Maxi a bei Vielfachen der Verzögerungen, d. h. bei 2t0, 3t0, usw. erzeugt.Another problem with using autocorrelation functions to extract the periodicity of a subband signal is that the sum autocorrelation function, obtained by means 306 is ambiguous. The sum autocorrelation function at output 306 is ambiguous in that an autocorrelation function peak is generated even when a delay is multiplied. This is understandable from the fact that a sine component with a period of tO, if it is subjected to an auto-correlation function processing, generates maxi a at multiples of the delays, ie at 2t0, 3t0, etc., in addition to the desired maximum at tO.
Die Fachveröffentlichung „A Computationally Efficient Multi- pitch Analysis Model", von Tolonen und Karjalainen, IEEE Tran- sactions on Speech and Audio Processing, Band 8, Nr. 6, Nov. 2000, offenbart ein rechenzeiteffizientes Modell für eine Pe- riodizitätsanalyse von komplexen Audiosignalen. Das Rechenmodell teilt das Signal in zwei Kanäle auf, und zwar in einen Kanal unter 1000 Hz und einen Kanal über 1000 Hz. Hieraus wird eine Autokorrelation des unteren Kanals und eine Autokorrelation der Hüllkurve des oberen Kanals berechnet. Schließlich werden die beiden Autokorrelationsfunktionen summiert. Um die Mehrdeutigkeiten der Summenautokorrelationsfunktion zu eliminieren, wird die Summenautokorrelationsfunktion weiterverarbeitet, um eine sogenannte Enhanced Summary -Autocorrelation Function (ESACF) (Weiterentwickelte Summenautokorrelationsfunktion) zu erhalten. Diese Nachbearbeitung der Summenautokorrelationsfunktion beinhaltet ein wiederholtes Abziehen von mit ganzzahligen Faktoren gespreizten Versionen der Autokorrelationsfunktion von der Summenautokorrelationsfunktion mit nachfolgender Begrenzung auf nicht-negative Werte.The specialist publication "A Computationally Efficient Multi-pitch Analysis Model" by Tolonen and Karjalainen, IEEE Transactions on Speech and Audio Processing, Volume 8, No. 6, Nov. 2000, discloses a computationally efficient model for a periodicity analysis of complexes The calculation model divides the signal into two channels, namely a channel below 1000 Hz and a channel above 1000 Hz. From this an autocorrelation of the lower channel and an autocorrelation of the envelope curve of the upper channel are calculated. Finally, the two autocorrelation functions are summed up In order to eliminate the ambiguities of the sum autocorrelation function, the sum autocorrelation function is further processed in order to obtain a so-called Enhanced Summary-Autocorrelation Function (ESACF) (further developed sum autocorrelation function) tors spread versions of the autocorrelation function from the sum autocorrelation function with subsequent limitation to non-negative values.
Die Aufgabe der vorliegenden Erfindung besteht darin, eine rechenzeiteffiziente und robuste Vorrichtung und ein rechenzeit- effizientes und robustes Verfahren zum Analysieren eines Audiosignals hinsichtlich von Rhythmusinformationen zu schaffen. Diese Aufgabe wird durch eine Vorrichtung zum Analysieren eines Audiosignals nach Patentanspruch 1 oder durch ein Verfahren zum Analysieren eines Audiosignals nach Patentanspruch 11 gelöst.The object of the present invention is to create a computing time-efficient and robust device and a computing time-efficient and robust method for analyzing an audio signal with regard to rhythm information. This object is achieved by a device for analyzing an audio signal according to claim 1 or by a method for analyzing an audio signal according to claim 11.
Der vorliegenden Erfindung liegt die Erkenntnis zugrunde, dass in den einzelnen Frequenzbändern, d. h. den Teilbändern, oftmals unterschiedlich günstige Bedingungen für das Auffinden von rhythmischen Periodizitäten herrschen. Während beispielsweise bei Popmusik oftmals im Bereich der Mitte, beispielsweise um 1 kHz, das Signal von nicht mit dem Beat korrespondierenden Gesang dominiert wird, sind in den höheren Frequenzbereichen oftmals vor allem Perkussionsklänge präsent, wie z. B. das Hihat des Schlagzeugs, welche eine sehr gute Extraktion rhythmischer Regelmäßigkeiten erlauben. Anders ausgedrückt beinhalten unterschiedliche Frequenzbänder je nach Audiosignal eine unterschiedliche Menge an rhythmischer Information bzw. haben eine unterschiedliche Qualität oder Signifikanz für die Rhythmusinformationen des Audiosignals.The present invention is based on the knowledge that in the individual frequency bands, i. H. the sub-bands, there are often different favorable conditions for finding rhythmic periodicities. While in pop music, for example, the signal is often dominated in the middle range, for example around 1 kHz, by vocals that do not correspond to the beat, percussion sounds are often present in the higher frequency ranges. B. the hi-hat of the drums, which allow a very good extraction of rhythmic regularities. In other words, depending on the audio signal, different frequency bands contain a different amount of rhythmic information or have a different quality or significance for the rhythm information of the audio signal.
Erfindungsgemäß wird daher das Audiosignal zunächst in Teilbandsignale- zerlegt. Jedes Teilbandsignal . wird hinsichtlich seiner Periodizität untersucht, um Rhythmus-Rohinformationen für jedes Teilbandsignal zu erhalten. Hierauf wird gemäß der vorliegenden Erfindung eine Bewertung der Qualität der Periodizität jedes Teilbandsignals durchgeführt, um ein Signifikanzmaß für jedes Teilbandsignal zu erhalten. Ein hohes Signifikanzmaß deutet darauf hin, dass in diesem Teilbandsignal deutliche Rhythmusinformationen vorliegen, während ein niedriges Signifikanzmaß darauf hindeutet, dass in diesem Teilbandsignal weniger eindeutige Rhythmusinformationen vorliegen. Gemäß einem bevorzugten Ausführungsbeispiel der vorliegenden Erfindung wird bei der Untersuchung eines Teilbandsignals hinsichtlich seiner Periodizitäten zunächst eine modifizierte Hüllkurve des Teilbandsignals berechnet und dann eine Autokorrelationsfunktion der Hüllkurve berechnet. Die Autokorrelationsfunktion der Hüllkurve stellt die Rhythmus-Rohinformationen dar. Eindeutige Rhythmusinformationen liegen vor, wenn die Autokorrelationsfunktion deutliche Maxima aufweist, während weniger eindeutige Rhythmusinformationen vorliegen, wenn die Autokorrelationsfunktion der Hüllkurve des Teilbandsignals weniger ausgeprägte Signalspitzen oder überhaupt keine Signalspitzen hat. Eine Autokorrelationsfunktion, die deutliche Signalspitzen hat, wird daher ein hohes Signifikanzmaß erhalten, während eine Autokorrelationsfunktion, die einen relativ flachen Verlauf hat, ein niedriges Signifikanzmaß erhalten wird.According to the invention, the audio signal is therefore first broken down into subband signals. Any subband signal. is examined for its periodicity to obtain raw rhythm information for each subband signal. An evaluation of the quality of the periodicity of each subband signal is then carried out in accordance with the present invention in order to obtain a measure of significance for each subband signal. A high level of significance indicates that there is clear rhythm information in this subband signal, while a low level of significance indicates that there is less clear rhythm information in this subband signal. According to a preferred exemplary embodiment of the present invention, when examining a subband signal with regard to its periodicities, a modified envelope curve of the subband signal is first calculated and then an autocorrelation function of the envelope curve is calculated. The autocorrelation function of the envelope represents the raw rhythm information. Clear rhythm information is available if the autocorrelation function has clear maxima, while less clear rhythm information is available if the autocorrelation function of the envelope of the subband signal has fewer pronounced signal peaks or no signal peaks at all. An autocorrelation function that has significant signal peaks is therefore given a high level of significance, while an autocorrelation function that has a relatively flat profile is obtained a low level of significance.
Erfindungsgemäß werden die einzelnen Rhythmus-Rohinformationen der einzelnen Teilbandsignale nicht einfach „blind" kombiniert, sondern unter Berücksichtigung des Signifikanzmaßes für jedes Teilbandsignal verwendet, um die Rhythmusinformationen des Audiosignals zu erhalten. Hat ein Teilbandsignal ein hohes Signifikanzmaß, so wird es bei der Ermittlung der Rhythmusin- - formationen bevorzugt, während , ein...Teilbandsignal, das ,ein niedriges Signifikanzmaß hat, d. h. das eine niedrige Qualität hinsichtlich der Rhythmusinformationen aufweist, bei der Ermittlung der Rhythmusinformationen des Audiosignals kaum oder im Extremfall überhaupt nicht berücksichtigt wird.According to the invention, the individual raw rhythm information of the individual subband signals are not simply combined “blindly”, but are used for each subband signal, taking into account the significance measure, in order to obtain the rhythm information of the audio signal. If a subband signal has a high significance measure, it becomes so when determining the rhythmin - - Formations preferred, while a ... sub-band signal that has a low degree of significance, ie that has a low quality with regard to the rhythm information, is hardly taken into account in the determination of the rhythm information of the audio signal or, in extreme cases, is not taken into account at all.
Dies kann rechenzeiteffizient gut durch einen Gewichtungsfaktor implementiert werden, der von dem Signifikanzmaß abhängt. Während ein Teilbandsignal, das eine gute Qualität für die Rhythmusinformationen hat, d. h. das ein hohes Signifikanzmaß hat, einen Gewichtungsfaktor von 1 erhalten könnte, wird ein anderes Teilbandsignal, das ein kleineres Signifikanzmaß hat, einen Gewichtungsfaktor kleiner als 1 erhalten. Im Extremfall wird ein Teilbandsignal, das eine vollkommen flache Autokorrelationsfunktion hat, einen Gewichtungsfaktor von 0 haben. Die gewichteten Autokorrelationsfunktionen, d. h. die gewichteten Rhythmus-Rohinformationen werden dann einfach aufsummiert. Wenn lediglich ein Teilbandsignal sämtlicher Teilbandsignale gute Rhythmusinformationen liefert, während die anderen Teilbandsignale Autokorrelationsfunktionen mit einem flachen Verlauf aufweisen, kann diese Gewichtung im Extremfall dazu führen, dass alle Teilbandsignale außer dem einen Teilbandsignal einen Gewichtungsfaktor von 0 erhalten, d. h. bei der Ermittlung der RhythmusInformationen überhaupt nicht berücksichtigt werden, so dass die RhythmusInformationen des Audiosignals lediglich aus einem einzigen Teilbandsignal ermittelt werden.This can be implemented in a computationally efficient manner by means of a weighting factor which depends on the significance measure. While a sub-band signal that is of good quality for the rhythm information, that is, that has a high degree of significance, could be given a weighting factor of 1, another sub-band signal that has a smaller degree of significance is get a weighting factor less than 1. In extreme cases, a subband signal that has a completely flat autocorrelation function will have a weighting factor of 0. The weighted autocorrelation functions, ie the weighted raw rhythm information, are then simply added up. In extreme cases, if only one subband signal of all subband signals provides good rhythm information while the other subband signals have autocorrelation functions with a flat profile, this weighting can result in all subband signals except the one subband signal receiving a weighting factor of 0, i.e. not at all when determining the rhythm information are taken into account, so that the rhythm information of the audio signal is determined only from a single subband signal.
Das erfindungsgemäße Konzept ist dahingehend vorteilhaft, dass es eine robuste Bestimmung der Rhythmusinformationen ermöglicht, da Teilbandsignale mit keinen eindeutigen bzw. sogar abweichenden RhythmusInformationen, d. h. wenn der Gesang ei¬ nen anderen Rhythmus aufweist als der eigentliche Beat des Stücks, die RhythmusInformationen des Audiosignals nicht „verwässern" bzw. „verfälschen". Darüber hinaus werden sehr rauschartige . Teilbandsignale, . welςhe__ ..eine Systemautokorrelati- onsfunktion mit vollständig flachem Verlauf liefern, das Signal/Rausch-Verhältnis bei der Bestimmung der Rhythmusinformationen nicht verschlechtern. Genau dies würde jedoch auftreten, wenn, wie im Stand der Technik, einfach alle Autokorrelationsfunktionen der Teilbandsignale mit gleichem Gewicht aufsummiert werden.The concept according to the invention is advantageous in that it enables the rhythm information to be determined robustly, since subband signals with no clear or even deviating rhythm information, ie if the vocals have a different rhythm than the actual beat of the piece, do not contain the rhythm information of the audio signal. water down "or" falsify ". They also become very intoxicating. Subband signals,. welςhe__ .. provide a system autocorrelation function with a completely flat profile, do not deteriorate the signal / noise ratio when determining the rhythm information. Exactly this would occur, however, if, as in the prior art, all the autocorrelation functions of the subband signals were simply added up with the same weight.
Ein weiterer Vorteil des erfindungsgemäßen Verfahrens besteht darin, dass mit einem kleinen zusätzlichen Rechenaufwand ein Signifikanzmaß bestimmt werden kann, und dass die Bewertung der Rhythmus-Rohinformationen mit dem Signifikanzmaß und die anschließende Summierung ohne großen Speicher- und Rechenzeitaufwand effizient durchgeführt werden können, was das erfindungsgemäße Konzept insbesondere auch für Echtzeitanwendungen empfiehlt.Another advantage of the method according to the invention is that a significance measure can be determined with a small additional computing effort, and that the evaluation of the raw rhythm information with the significance measure and the subsequent summation can be carried out efficiently without a large amount of memory and computing time, which the concept according to the invention also recommends in particular for real-time applications.
Bevorzugte Ausführungsbeispiele der vorliegenden Erfindung werden nachfolgend bezugnehmend auf die beiliegenden Zeichnungen detailliert erläutert. Es zeigen:Preferred embodiments of the present invention are explained in detail below with reference to the accompanying drawings. Show it:
Fig. 1 ein Blockschaltbild einer Vorrichtung zum Analysieren eines Audiosignals mit einer Qualitätsbewertung der Rhythmus-Rohinformationen;1 shows a block diagram of a device for analyzing an audio signal with a quality evaluation of the raw rhythm information;
Fig. 2 ein Blockschaltbild einer Vorrichtung zum Analysieren eines Audiosignals unter Verwendung von Gewichtungsfaktoren auf der Basis der Signifikanzmaße;2 shows a block diagram of a device for analyzing an audio signal using weighting factors on the basis of the significance measures;
Fig. 3 ein Blockschaltbild einer bekannten Vorrichtung zum Analysieren eines Audiosignals hinsichtlich von Rhythmusinformationen;3 shows a block diagram of a known device for analyzing an audio signal with regard to rhythm information;
Fig. 4 ein Blockschaltbild einer Vorrichtung zum Analysieren eines Audiosignals hinsichtlich von Rhythmusinformationen unter Verwendung einer Autokorrelationsfunktion mit einer teilbandweisen Nachbearbeitung der Rhythmus- Rohinformationen; undFIG. 4 shows a block diagram of a device for analyzing an audio signal with regard to rhythm information using an autocorrelation function with a subband-wise postprocessing of the rhythm raw information; FIG. and
Fig. 5 ein detailliertes Blockschaltbild der Einrichtung zum Nachbearbeiten von Fig. 4.FIG. 5 shows a detailed block diagram of the device for post-processing from FIG. 4.
Fig. 1 zeigt ein Blockschaltbild einer Vorrichtung zum Analysieren eines Audiosignals hinsichtlich von Rhythmusinformationen. Das Audiosignal wird über einen Eingang 100 einer Einrichtung 102 zum Zerlegen des Audiosignals in zumindest zwei Teilbandsignale 104a und 104b zugeführt. Jedes Teilbandsignal 104a, 104b wird in eine Einrichtung 106a bzw. 106b zum Untersuchen desselben hinsichtlich von Periodizitäten in dem Teilbandsignal zugeführt, um Rhythmus-Rohinformationen 108a bzw. 108b für jedes Teilbandsignal zu erhalten. Die Rhythmus- Rohinformationen werden dann einer Einrichtung 110a bzw. 110b zum Bewerten einer Qualität der Periodizität jedes der zumindest zwei Teilbandsignale zugeführt, um ein Signifikanzmaß 112a, 112b für jedes der zumindest zwei Teilbandsignale zu erhalten. Sowohl die Rhythmus-Rohinformationen 108a, 108b als auch die Signifikanzmaße 112a, 112b werden einer Einrichtung 114 zum Ermitteln der RhythmusInformationen des Audiosignals zugeführt. Die Einrichtung 114 berücksichtigt beim Ermitteln der Rhythmusinformationen des Audiosignals die Signifikanzmaße 112a, 112b für die Teilbandsignale sowie die Rhythmus- Rohinformationen 108a, 108b von zumindest einem Teilbandsignal.1 shows a block diagram of a device for analyzing an audio signal with regard to rhythm information. The audio signal is transmitted via an input 100 to a device 102 for splitting the audio signal into at least two Subband signals 104a and 104b supplied. Each subband signal 104a, 104b is fed into means 106a and 106b for examining it for periodicities in the subband signal to obtain raw rhythm information 108a and 108b for each subband signal. The raw rhythm information is then fed to a device 110a or 110b for evaluating a quality of the periodicity of each of the at least two subband signals in order to obtain a significance measure 112a, 112b for each of the at least two subband signals. Both the raw rhythm information 108a, 108b and the significance measures 112a, 112b are fed to a device 114 for determining the rhythm information of the audio signal. When determining the rhythm information of the audio signal, the device 114 takes into account the significance measures 112a, 112b for the subband signals and the raw rhythm information 108a, 108b of at least one subband signal.
Hat die Einrichtung 110a zur Qualitätsbewertung beispielsweise festgestellt, dass in dem Teilbandsignal 104a keine besondere Periodizität vorliegt, so wird das Signifikanzmaß 112a sehr klein, bzw. gleich 0 sein. In diesem Fall stellt die Einrichtung-.114- zum Ermitteln, der - Rhythmusinformationen,, fest, dass. das Signifikanzmaß 112a gleich Null ist, so dass die Rhythmus- Rohinformationen 108a des Teilbandsignals 104a bei der Ermittlung der RhythmusInformationen des Audiosignals überhaupt nicht mehr berücksichtigt werden müssen. Die RhythmusInformationen des Audiosignals werden dann allein und ausschließlich auf der Basis der Rhythmus-Rohinformationen 108b des Teilbandsignals 104b bestimmt.If the device 110a for quality assessment has determined, for example, that there is no particular periodicity in the subband signal 104a, the significance measure 112a will be very small or equal to 0. In this case, the device -114- for determining the rhythm information determines that the significance measure 112a is equal to zero, so that the raw rhythm information 108a of the subband signal 104a is no longer taken into account when determining the rhythm information of the audio signal Need to become. The rhythm information of the audio signal is then determined solely and exclusively on the basis of the raw rhythm information 108b of the subband signal 104b.
Im nachfolgenden wird auf Fig. 2 hinsichtlich einer speziellen Ausführungsform der Vorrichtung von Fig. 1 eingegangen. Als Einrichtung 102 zum Zerlegen des Audiosignals kann eine übli- ehe Analyse-Filterbank verwendet werden, die ausgangsseitig eine von einem Benutzer wählbare Anzahl von Teilbandsignalen liefert. Jedes Teilbandsignal wird dann der Verarbeitung der Einrichtungen 106a, 106b bzw. 106c unterzogen, woraufhin dann durch die Einrichtungen 110a bis 110c von jeden Rhythmus- Rohinformationen Signifikanzmaße ermittelt werden. Die Einrichtung 114 umfaßt bei der in Fig. 2 dargestellten bevorzugten Ausführungsform eine Einrichtung 114a zum Berechnen von Gewichtungsfaktoren für jedes Teilbandsignal auf der Basis des Signifikanzmaßes für dieses Teilbandsignal und optional auch der anderen Teilbandsignale. In der Einrichtung 114b findet dann eine Gewichtung der Rhythmus-Rohinformationen 108a bis 108c mit dem Gewichtungsfaktor für dieses Teilbandsignal statt, woraufhin dann, ebenfalls in der Einrichtung 114b, die gewichteten Rhythmus-Rohinformationen kombiniert, z. B. auf- summiert, werden, um an dem Tempo-Ausgang 116 die Rhythmusinformationen des Audiosignals zu erhalten.In the following, FIG. 2 is discussed with regard to a special embodiment of the device from FIG. 1. As a device 102 for decomposing the audio signal, a conventional before analysis filter bank are used, which delivers a user-selectable number of subband signals on the output side. Each subband signal is then subjected to the processing of the devices 106a, 106b and 106c, whereupon the devices 110a to 110c then determine significance measures of each raw rhythm information. In the preferred embodiment shown in FIG. 2, the device 114 comprises a device 114a for calculating weighting factors for each subband signal on the basis of the significance measure for this subband signal and optionally also for the other subband signals. A weighting of the raw rhythm information 108a to 108c then takes place in the device 114b with the weighting factor for this subband signal, whereupon, also in the device 114b, the weighted raw rhythm information is combined, e.g. B. summed up, in order to obtain the rhythm information of the audio signal at the tempo output 116.
"Das erfindungsgemäße Konzept stellt sich 'somit folgendermaßen dar. Nach der Evaluierung der rhythmischen Informationen der Einzelbänder, welche beispielsweise durch Hüllkurvenbildung, Glättung, Differenzieren, Begrenzen auf positive Werte und Bilden -der Autokorrelationsfunktion .stattfinden., kann (Einrich-.. tungen 106a bis 106c) , findet eine Bewertung der Wertigkeit bzw. der Qualität dieser Zwischenergebnisse in den Einrichtungen 110a bis 110c statt. Dies wird mit Hilfe einer Bewertungsfunktion erreicht, welche die Verlässlichkeit der jeweiligen Einzelergebnisse mit einem Signifikanzmaß bewertet. Aus den Signifikanzmaßen aller Teilbandsignale wird ein Gewichtungsfaktor für jedes Band für die Extraktion der Rhythmus- Informationen hergeleitet. Das Gesamtergebnis der Rhythmusextraktion wird dann in der Einrichtung 114b durch Kombination der bandweisen Einzelergebnisse unter Berücksichtigung ihrer jeweiligen Gewichtungsfaktoren erreicht. Als Resultat zeigt ein solchermaßen implementierter Algorithmus zur Rhythmusanalyse eine gute Fähigkeit, rhythmische Informationen in einem Signal auch unter ungünstigen Bedingungen zuverlässig zu finden. Das erfindungsgemäße Konzept zeichnet sich daher durch eine hohe Robustheit aus. "The inventive concept turns' thus follows. After evaluating the rhythmic information of the individual bands which .stattfinden example, envelope shaping, smoothing, differentiating, limiting to positive values and making -the autocorrelation function., Can (Einrich- .. obligations 106a to 106c), an evaluation of the value or the quality of these intermediate results takes place in the devices 110a to 110c.This is achieved with the aid of an evaluation function which evaluates the reliability of the individual results with a significance measure. The significance measures of all subband signals become a weighting factor for each band for the extraction of the rhythm information The overall result of the rhythm extraction is then achieved in the device 114b by combining the band-wise individual results taking into account their respective weighting factors. As a result, an algorithm for rhythm analysis implemented in this way shows a good ability to reliably find rhythmic information in a signal even under unfavorable conditions. The concept according to the invention is therefore characterized by a high level of robustness.
Bei einer bevorzugten Ausführungsform werden die Rhythmus- Rohinformationen 108a, 108b, 108c, die die Periodizität des jeweiligen Teilbandsignals darstellen, mittels einer Autokorrelationsfunktion bestimmt. In diesem Fall wird es bevorzugt, das Signifikanzmaß zu bestimmen, indem ein Maximum der Autokorrelationsfunktion durch einen Mittelwert der Autokorrelationsfunktion geteilt wird, und dann der Wert 1 subtrahiert wird. Es sei darauf hingewiesen, daß jede Autokorrelationsfunktion immer bei einer Verzögerung von 0 ein lokales Maximum liefert, das die Energie des Signals repräsentiert. Dieses Maximum sollte unberücksichtigt bleiben, damit die Qualitätsbestimmung nicht verfälscht wird.In a preferred embodiment, the raw rhythm information 108a, 108b, 108c, which represent the periodicity of the respective subband signal, is determined by means of an autocorrelation function. In this case, it is preferred to determine the significance measure by dividing a maximum of the autocorrelation function by an average of the autocorrelation function and then subtracting the value 1. It should be noted that every autocorrelation function always delivers a local maximum at a delay of 0, which represents the energy of the signal. This maximum should be disregarded so that the quality determination is not falsified.
Ferner soll die Autokorrelationsfunktion lediglich in einem speziellen Tempobereich betrachtet werden, d. h. von einer maximalen Verzögerung., ..die dem kleinsten-, inter,e.ss.ierende,n,> Tempo, entspricht, zu einer minimalen Verzögerung, die dem höchsten interessierenden Tempo entspricht. Ein typischer Tempobereich liegt zwischen 60 bpm und 200 bpm.Furthermore, the autocorrelation function should only be considered in a special tempo range, ie from a maximum deceleration, .. which corresponds to the smallest, inter, e.ss., n, > tempo, to a minimum deceleration, which corresponds to the highest of interest Pace corresponds. A typical tempo range is between 60 bpm and 200 bpm.
Alternativ kann als Signifikanzmaß das Verhältnis zwischen dem arithmetischen Mittelwert der Autokorrelationsfunktion im interessierenden Tempobereich und dem geometrischen Mittelwert der Autokorrelationsfunktion im interessierenden Tempobereich bestimmt werden. Es ist bekannt, dass wenn alle Werte der Autokorrelationsfunktion gleich sind, d. h. wenn die Autokorrelationsfunktion einen flachen Verlauf hat, der geometrische Mittelwert der Autokorrelationsfunktion und der arithmetische Mittelwert der Autokorrelationsfunktion gleich sind. In diesem Fall hätte das Signifikanzmaß einen Wert gleich 1, was bedeutet, dass die Rhythmus-Rohinformationen nicht signifikant sind.Alternatively, the ratio between the arithmetic mean value of the autocorrelation function in the tempo area of interest and the geometric mean value of the autocorrelation function in the tempo area of interest can be determined as a significance measure. It is known that if all values of the autocorrelation function are the same, ie if the autocorrelation function has a flat course, the geometric one The mean value of the autocorrelation function and the arithmetic mean value of the autocorrelation function are the same. In this case, the significance measure would have a value of 1, which means that the raw rhythm information is not significant.
Im Falle einer Systemautokorrelationsfunktion mit starken Spitzen würde das Verhältnis aus arithmetischem Mittelwert zu geometrischem Mittelwert größer 1 sein, was bedeutet, dass die Autokorrelationsfunktion gute Rhythmusinformationen aufweist. Je kleiner jedoch das Verhältnis zwischen arithmetischem Mittelwert und geometrischem Mittelwert wird, desto flacher ist die Autokorrelationsfunktion und desto weniger Periodizitäten enthält sie, was wiederum bedeutet, dass die Rhythmusinformationen dieses Teilbandsignals weniger signifikant, d. h. eine geringere Qualität haben, was sich in einem geringen bzw. einem Gewichtungsfaktor von 0 äußern wird.In the case of a system auto-correlation function with strong peaks, the ratio of the arithmetic mean to the geometric mean would be greater than 1, which means that the auto-correlation function has good rhythm information. However, the smaller the ratio between the arithmetic mean and the geometric mean, the flatter the autocorrelation function and the fewer periodicities it contains, which in turn means that the rhythm information of this subband signal is less significant, i. H. have a lower quality, which will result in a low or a weighting factor of 0.
Bezüglich der Gewichtungsfaktoren existieren verschiedene Möglichkeiten. Bevorzugt wird eine relative Gewichtung, derart, dass sich alle Gewichtungsfaktoren sämtlicher Teilbandsignale zu 1 aufaddieren, d. h. dass der Gewichtungsfaktor eines Bandes, .«-bestimmt- .-wird,.,,als,,, der Signifikanzw.ert.«...dies,es.,„.Bandes geteilt durch die Summe aller Signifikanzwerte. In diesem Fall wird eine relative Gewichtung vor der Aufsummation der gewichteten Rhythmus-Rohinformationen durchgeführt, um die Rhythmus- Informationen des Audiosignals zu erhalten.There are various options with regard to the weighting factors. A relative weighting is preferred, such that all weighting factors of all subband signals add up to 1, i. H. that the weighting factor of a band,. «- is determined-.-,. ,, as ,,, the significance value.« ... this, it., „. band divided by the sum of all significance values. In this case, a relative weighting is carried out before the summation of the weighted raw rhythm information in order to obtain the rhythm information of the audio signal.
Wie bereits ausgeführt worden ist, wird es bevorzugt, die Auswertung der Rhythmus-Informationen unter Verwendung einer Autokorrelationsfunktion durchzuführen. Dieser Fall ist in Fig. 4 dargestellt. Das Audiosignal wird über den Audiosignaleingang 100 in die Einrichtung 102 zum Zerlegen des Audiosignals in Teilbandsignale 104a und 104b eingespeist. Jedes Teilband- signal wird dann in der Einrichtung 106a bzw. 106b, wie es ausgeführt worden ist, unter Verwendung einer Autokorrelationsfunktion untersucht, um die Periodizität des Teilbandsignals zu ermitteln. Am Ausgang der Einrichtung 106a bzw. 106b liegen dann die Rhythmus-Rohinformationen 108a, 108b vor. Diese werden in eine Einrichtung 118a bzw. 118b eingespeist, um die mittels der Autokorrelationsfunktion von der Einrichtung 116a ausgegebenen Rhythmus-Rohinformationen nachzubearbeiten. Damit wird u. a. sichergestellt, daß die Mehrdeutigkeiten der Autokorrelationsfunktion, d. h. daß bei ganzzahligen Vielfachen der Verzögerungen ebenfalls Signalspitzen auftreten, teilbandweise eliminiert werden, um nachbearbeitete Rhythmus- Rohinformationen 120a bzw. 120b zu erhalten.As has already been explained, it is preferred to carry out the evaluation of the rhythm information using an autocorrelation function. This case is shown in Fig. 4. The audio signal is fed via the audio signal input 100 into the device 102 for splitting the audio signal into subband signals 104a and 104b. Each subband signal is then examined in the device 106a or 106b, as has been carried out, using an autocorrelation function in order to determine the periodicity of the subband signal. The raw rhythm information 108a, 108b is then available at the output of the device 106a or 106b. These are fed into a device 118a or 118b in order to postprocess the raw rhythm information output by the device 116a by means of the autocorrelation function. This ensures, among other things, that the ambiguities of the autocorrelation function, that is to say that signal peaks also occur in the case of integer multiples of the delays, are eliminated on a sub-band basis in order to obtain reworked raw rhythm information 120a or 120b.
Dies hat den Vorteil, dass die Mehrdeutigkeiten der Autokorrelationsfunktionen, d. h. der Rhythmus-Rohinformationen 108a, 108b, bereits teilbandweise eliminiert werden, und nicht erst, wie im Stand der Technik, nach der Summation der einzelnen Autokorrelationsfunktionen. Darüber hinaus ermöglicht die ein- zelbandweise Eliminierung der Mehrdeutigkeiten in den Autokorrelationsfunktionen durch die Einrichtungen 118a, 118b, dass die Rhythmus-Rohinformationen der Teilbandsignale unabhängig .voneinande ...gehandha-bt. -werden- -.können....Sie .können, beispielswei-- se einer Qualitätsbeurteilung mittels der Einrichtung 110a für die Rhythmus-Rohinformationen 108a oder mittels der Einrichtung 110b für die Rhythmus-Rohinformationen 108b unterzogen werden.This has the advantage that the ambiguities of the autocorrelation functions, i. H. of the raw rhythm information 108a, 108b are already eliminated in sub-bands, and not only, as in the prior art, after the summation of the individual autocorrelation functions. In addition, the elimination of the ambiguities in the autocorrelation functions on a band-by-band basis by means 118a, 118b enables the raw rhythm information of the subband signals to be handled independently of one another. -become -you can ... you can, for example, be subjected to a quality assessment using the device 110a for the raw rhythm information 108a or using the device 110b for the raw rhythm information 108b.
Wie es durch die gestrichelten Linien in Fig. 4 dargestellt ist, kann die Qualitätsbeurteilung jedoch auch anhand der nachbearbeiteten Rhythmus-Rohinformationen stattfinden, wobei diese letztere Möglichkeit bevorzugt wird, da die Qualitätsbeurteilung auf der Basis der nachbearbeiteten Rhythmus- Rohinformationen sicherstellt, dass die Qualität einer Information beurteilt wird, die nicht mehr vieldeutig ist.As shown by the dashed lines in FIG. 4, the quality assessment can, however, also take place on the basis of the post-processed raw rhythm information, this latter possibility being preferred since the quality assessment on the basis of the post-processed rhythm Raw information ensures that the quality of information that is no longer ambiguous is assessed.
Die Ermittlung der Rhythmus-Informationen durch die Einrichtung 114 findet dann auf der Basis von nachbearbeiteten Rhythmus-Informationen eines Kanals und vorzugsweise auch auf der Basis des Signifikanzmaßes für diesen Kanal statt.The determination of the rhythm information by means 114 then takes place on the basis of postprocessed rhythm information of a channel and preferably also on the basis of the significance measure for this channel.
Wenn eine Qualitätsbeurteilung auf der Basis der Rhythmus- Rohinformationen, also des Signals vor der Einrichtung 118a durchgeführt -wird, ist dies dahingehend vorteilhaft, dass, wenn bestimmt wird, dass das Signifikanzmaß gleich 0 ist, d. h. dass die Autokorrelationsfunktion einen flachen Verlauf hat, auf die Nachbearbeitung mittels der Einrichtung 118a gänzlich verzichtet werden kann, um Rechenzeitressourcen einzusparen.If a quality assessment is carried out on the basis of the raw rhythm information, i.e. the signal in front of the device 118a, this is advantageous in that if it is determined that the significance measure is equal to 0, i. H. that the autocorrelation function has a flat course, the postprocessing by means of the device 118a can be dispensed with entirely in order to save computing time resources.
Im nachfolgenden wird auf Fig. 5 eingegangen, um einen detaillierteren Aufbau einer Einrichtung 118a oder 118b zur Nachbearbeitung der Rhythmus-Rohinformationen darzustellen. Zunächst wird das Teilband-Signal beispielsweise 104a, in die Einrichtung 106a zur Untersuchung der Periodizität des Teilbandsignals,,^.mitt.els..,,„-einer=-5.Autokorrelationsfunkti.oι»«,..eingespeist.,^,,um. Rhythmus-Rohinformationen 108a zu erhalten. Um die Mehrdeutigkeiten teilbandweise zu eliminieren, kann genauso wie im Stand der Technik, eine gespreizte Autokorrelationsfunktion mittels einer Einrichtung 121 berechnet werden, wobei die Einrichtung 121 angeordnet ist, um die gespreizte Autokorrelationsfunktion so zu berechnen, dass sie um ein ganzzahliges Vielfaches einer Verzögerung gespreizt ist. Eine Einrichtung 122 ist in diesem Fall angeordnet, um die gespreizte Autokorrelationsfunktion von der ursprünglichen Autokorrelationsfunktion, d. h. den Rhythmus-Rohinformationen 108a zu subtrahieren. Insbesondere wird es bevorzugt, zunächst eine auf das Doppelte gespreizte Autokorrelationsfunktion in der Einrichtung 121 zu berechnen und dann von den Rhythmus-Rohinformationen 108a zu subtrahieren. Dann, in dem nächsten Schritt, wird eine um den Faktor 3 gespreizte Autokorrelationsfunktion in der Einrichtung 121 berechnet und von dem Ergebnis der vorherigen Subtraktion wieder abgezogen, so dass nach und nach sämtliche Mehrdeutigkeiten aus den Rhythmus-Rohinformationen eliminiert werden.In the following, FIG. 5 is discussed in order to show a more detailed structure of a device 118a or 118b for postprocessing the rhythm raw information. First, the subband signal, for example 104a, is fed into the device 106a for examining the periodicity of the subband signal ,, ^ .mitt.els .. ,, “- - = = 5 .Autokorrelationsfunkti.oι» «, .., ^ , ,around. Get raw rhythm information 108a. In order to eliminate the ambiguities on a sub-band basis, just as in the prior art, a spread auto-correlation function can be calculated by means of a device 121, the device 121 being arranged to calculate the spread auto-correlation function so that it is spread by an integral multiple of a delay , Means 122 is arranged in this case to subtract the spread autocorrelation function from the original autocorrelation function, ie the raw rhythm information 108a. In particular, it is preferred to first double the spread Calculate autocorrelation function in the device 121 and then subtract it from the raw rhythm information 108a. Then, in the next step, an autocorrelation function spread by a factor of 3 is calculated in the device 121 and subtracted from the result of the previous subtraction, so that all ambiguities are gradually eliminated from the raw rhythm information.
Alternativ oder zusätzlich kann die Einrichtung 121 angeordnet sein, um eine um einen ganzzahligen Faktor gestauchte Autokorrelationsfunktion zu berechnen, wobei diese dann von der Einrichtung 122 zu den Rhythmus-Rohinformationen hinzu addiert wird, um auch Anteile für Verzögerungen t0/2, tO/3 usw. zu erzeugen.Alternatively or additionally, the device 121 can be arranged to calculate an autocorrelation function compressed by an integer factor, which is then added by the device 122 to the rhythm raw information in order to also include components for delays t0 / 2, tO / 3, etc . to create.
Darüber hinaus können die gespreizten bzw. gestauchten Versionen der Rhythmus-Rohinformationen 108a vor dem Addieren bzw. Subtrahieren gewichtet werden, um auch hier eine Flexibilität im Sinne einer hohen Robustheit zu erreichen.In addition, the spread or compressed versions of the raw rhythm information 108a can be weighted before adding or subtracting, in order to achieve flexibility in the sense of a high level of robustness.
Durch das Verfahren, die Periodizität eines Teilbandsignals auf der Basis einer Autokorrelationsfunktion zu untersuchen, „-.kan -also ,_eine weitere -Verbesserung..,er1z elt.J-W.erden„,.,,wenn . die. Eigenschaften der Autokorrelationsfunktion mit einbezogen werden und die Nachbearbeitung unter Verwendung der Einrichtung 118a oder 118b durchgeführt wird. So erzeugt eine periodische Folge von Notenanfängen mit einem Abstand tO nicht nur eine AKF-Spitze bei einer Verzögerung tO sondern auch bei 2t0, 3t0, etc. Dies wird zu einer Vieldeutigkeit in der Tempodetektion, d. h. dem Suchen signifikanter Maxima in der Autokorrelationsfunktion, führen. Die Mehrdeutigkeiten können dadurch eli i- nert werden, wenn um ganzzahlige Faktoren gespreizte Versionen der AKF vom Ausgangswert teilbandweise (gewichtet) abgezogen werden. Ferner besteht bei der Autokorrelationsfunktion das Problem, daß sie keine Informationen bei tO/2, t0/3 ... usw., also beim Doppelten, Dreifachen, etc. des „Grundtempos" liefert, was besonders dann zu falschen Ergebnissen führen kann, wenn zwei Instrumente, die in unterschiedlichen Teilbändern liegen, zusammen den Rhythmus des Signals definieren. Diese Sache wird dadurch berücksichtigt, dass um ganzzahlige Faktoren gestauchte Versionen der Autokorrelationsfunktion berechnet werden und diese dann zu den Rhythmus-Rohinformationen gewichtet oder un- gewichtet hinzuaddiert werden.To examine a sub-band signal on the basis of an autocorrelation function by the method, the periodicity "-.kan -So _a more Improvement .. he elt z. 1 J -W. Are “,. ,, if. the. Properties of the autocorrelation function are included and the post-processing is carried out using the device 118a or 118b. A periodic sequence of note starts with a distance tO not only generates an AKF peak with a delay tO but also at 2t0, 3t0, etc. This will lead to ambiguity in the tempo detection, i.e. the search for significant maxima in the autocorrelation function. The ambiguities can be cleared if versions of the AKF that are spread by integer factors are subtracted from the initial value on a sub-band basis (weighted). Furthermore, there is the problem with the autocorrelation function that it does not provide any information at tO / 2, t0 / 3 ... etc., that is to say at twice, three times, etc. of the “basic tempo”, which can lead to incorrect results especially if Two instruments that are in different subbands together define the rhythm of the signal, which is taken into account by calculating versions of the auto-correlation function that are compressed by integer factors, and then adding or unweighting these to the raw rhythm information.
Die AKF-Nachverarbeitung findet somit teilbandweise statt, wobei für mindestens ein Teilbandsignal eine Autokorrelationsfunktion errechnet wird und diese mit gedehnten oder gespreizten Versionen dieser Funktion kombiniert wird. The AKF postprocessing thus takes place sub-band, whereby an autocorrelation function is calculated for at least one sub-band signal and this is combined with stretched or spread versions of this function.

Claims

Patentansprüche claims
1. Vorrichtung zum Analysieren eines Audiosignals hinsichtlich von Rhythmusinformationen des Audiosignals, mit folgenden Merkmalen:1. Device for analyzing an audio signal with regard to rhythm information of the audio signal, with the following features:
einer Einrichtung (102) zum Zerlegen des Audiosignals in zumindest zwei Teilbandsignale (104a, 104b) ;means (102) for splitting the audio signal into at least two subband signals (104a, 104b);
einer Einrichtung zum Untersuchen (106a, 106b) eines Teilbandsignals hinsichtlich einer Periodizität in dem Teilbandsignal, um Rhythmus-Rohinformationen (108a, 108b) für das Teilbandsignal zu erhalten;means for examining (106a, 106b) a subband signal for periodicity in the subband signal to obtain raw rhythm information (108a, 108b) for the subband signal;
einer Einrichtung zum Bewerten (110a, 110b) einer Qualität der Periodizität der Rhythmus-Rohinformationen (108a) des Teilbandsignals (104a) , um ein Signifikanzmaß (112a) für das Teilbandsignal zu erhalten; undmeans for evaluating (110a, 110b) a quality of the periodicity of the raw rhythm information (108a) of the subband signal (104a) in order to obtain a measure of significance (112a) for the subband signal; and
einer Einrichtung (114) zum Ermitteln der Rhythmusinfor atio- nenr.des rAμdiosignals . unter^ Berücksichtigung des. Signifikanzmaßes (112a) des Teilbandsignals und der Rhythmus- Rohinformationen (108a, 108b) von zumindest einem Teilbandsignal.a device (114) for determining the rhythm information r . of the r audio signal. under consideration of the ^. Significance measure (112a) of the subband signal and the rhythm raw information (108a, 108b) of at least one subband signal.
2. Vorrichtung nach Anspruch 1, bei der die Einrichtung zum Untersuchen (106a, 106b) ausgebildet ist, um eine Autokorrelationsfunktion für jedes der zumindest zwei Teilbandsignale zu berechnen.2. The apparatus of claim 1, wherein the means for examining (106a, 106b) is designed to calculate an autocorrelation function for each of the at least two subband signals.
3. Vorrichtung nach Anspruch 1 oder 2, bei die Einrichtung zum Untersuchen (106a, 106b) folgende Merkmale aufweist: eine Einrichtung zum Bilden einer Hüllkurve eines Teilbandsignals;3. Device according to claim 1 or 2, wherein the device for examining (106a, 106b) has the following features: means for forming an envelope of a subband signal;
eine Einrichtung zum Glätten der Hüllkurve des Teilbandsignals, um eine geglättete Hüllkurve zu erhalten;means for smoothing the envelope of the subband signal to obtain a smoothed envelope;
eine Einrichtung zum Differenzieren der geglätteten Hüllkurve, um eine differenzierte Hüllkurve zu erhalten;means for differentiating the smoothed envelope to obtain a differentiated envelope;
eine Einrichtung zum Begrenzen der differenzierten Hüllkurve auf positive Werte, um eine begrenzte Hüllkurve zu erhalten; undmeans for limiting the differentiated envelope to positive values to obtain a limited envelope; and
eine Einrichtung zum Bilden einer Autokorrelationsfunktion der begrenzten Hüllkurve, um die Rhythmus-Rohinformationen (108a, 108b) zu erhalten.means for forming an autocorrelation function of the limited envelope to obtain the raw rhythm information (108a, 108b).
4. Vorrichtung '-'nach Anspruch 2 oder 3, bei der die Einrichtung zum Bewerten (110a, 110b) der Qualität ausgebildet ist, um als Signifikanzmaß ein Verhältnis eines Maximum der Autokorrelationsfunktion zu einem Mittelwert der Autokorrelationsfunktion zu verwenden.4. The device ' - ' according to claim 2 or 3, in which the device for evaluating (110a, 110b) the quality is designed to use a ratio of a maximum of the autocorrelation function to a mean value of the autocorrelation function as a significance measure.
5. Vorrichtung nach Anspruch 2 oder 3, bei der die Einrichtung zum Bewerten (110a, 110b) der Qualität ausgebildet ist, um als Signifikanzmaß ein Verhältnis aus einem arithmetischen Mittelwert der Rhythmus-Rohinformationen zu einem geometrischen Mittelwert der Rhythmus-Rohinformationen zu verwenden.5. Apparatus according to claim 2 or 3, in which the device for evaluating (110a, 110b) the quality is designed to use as a significance measure a ratio of an arithmetic mean of the raw rhythm information to a geometric mean of the raw rhythm information.
6. Vorrichtung nach Anspruch 4 oder 5,6. The device according to claim 4 or 5,
bei der die Einrichtung zum Bewerten (110a, 110b) der Qualität ausgebildet ist, um die Autokorrelationsfunktion lediglich in- nerhalb eines Tempobereichs auszuwerten, der sich von einer minimalen Verzögerung, um ein maximales Tempo zu erhalten, zu einer maximalen Verzögerung, um ein minimales Tempo zu erhalten, erstreckt.in which the device for evaluating (110a, 110b) the quality is designed to only include the autocorrelation function within a tempo range that extends from a minimum delay to get a maximum pace to a maximum delay to get a minimum pace.
7. Vorrichtung nach einem der vorhergehenden Ansprüche, bei der die Einrichtung zum Ermitteln (114) folgende Merkmale aufweist:7. Device according to one of the preceding claims, in which the device for determining (114) has the following features:
eine Einrichtung (114a) zum Ableiten eines Gewichtungsfaktors für ein Teilband unter Verwendung des Signifikanzmaßes für das Teilband;means (114a) for deriving a weighting factor for a subband using the measure of significance for the subband;
eine Einrichtung (114b) zum Gewichten der Rhythmus- Rohinformationen des Teilbands unter Verwendung des Gewichtungsfaktors für das Teilband, um gewichtete Rhythmus- Rohinformationen für das Teilband zu erhalten, und zum Zusammenfassen der gewichteten Rhythmus-Rohinformationen des Teilbands mit gewichteten oder ungewichteten Rhythmus- Rohinformationen des anderen Teilbands, um die Rhythmusinformationen des Audiosignals zu erhalten.means (114b) for weighting the sub-band's rhythm raw information using the sub-band weighting factor to obtain weighted sub-band rhythm raw information and summarizing the sub-band's weighted rhythm raw information with raw weighted or unweighted rhythm information other sub-band to get the rhythm information of the audio signal.
8. Vorrichtung nach Anspruch. 7,. bei der die Einrichtung (114a) zum Ableiten eines Gewichtungsfaktors angeordnet ist, um für jedes Teilbandsignal einen relativen Gewichtungsfaktor abzuleiten, wobei eine Summe aus den Gewichtungsfaktoren für alle Teilbandsignale 1 ergibt.8. The device according to claim . 7 ,. in which the means (114a) for deriving a weighting factor is arranged to derive a relative weighting factor for each subband signal, a sum of the weighting factors giving 1 for all subband signals.
9. Vorrichtung nach Anspruch 8, bei der die Einrichtung (114a) zum Ableiten eines Gewichtungsfaktors angeordnet ist, um einen Gewichtungsfaktor als Verhältnis aus dem Signifikanzmaß eines Teilbandsignals zu der Summe der Signifikanzmaße aller Teilbandsignale abzuleiten. 9. The apparatus of claim 8, wherein the means (114a) for deriving a weighting factor is arranged to derive a weighting factor as a ratio of the significance measure of a subband signal to the sum of the significance measures of all subband signals.
10. Vorrichtung nach Anspruch 9, bei der die Einrichtung (106a, 106b) zum Untersuchen eines Teilbandsignals angeordnet ist, um ein Teilbandsignal zu untersuchen, dessen Länge größer als 10 Sekunden ist.10. The apparatus of claim 9, wherein the means (106a, 106b) for examining a subband signal is arranged to examine a subband signal whose length is greater than 10 seconds.
11. Verfahren zum Analysieren eines Audiosignals hinsichtlich von Rhythmusinformationen des Audiosignals, mit folgenden Schritten:11. A method for analyzing an audio signal for rhythm information of the audio signal, comprising the following steps:
Zerlegen des Audiosignals in zumindest zwei Teilbandsignale (104a, 104b);Decomposing the audio signal into at least two subband signals (104a, 104b);
Untersuchen (106a, 106b) eines Teilbandsignals hinsichtlich einer Periodizität in dem Teilbandsignal, um Rhythmus- Rohinformationen (108a, 108b) für das Teilbandsignal zu erhalten;Examining (106a, 106b) a subband signal for periodicity in the subband signal to obtain raw rhythm information (108a, 108b) for the subband signal;
Bewerten (110a, 110b) einer Qualität der Periodizität der Rhythmus-Rohinformationen (108a) des Teilbandsignals (104a), um ein Signifikanzmaß (112a) für das Teilbandsignal zu erhalten; undEvaluating (110a, 110b) a quality of the periodicity of the raw rhythm information (108a) of the subband signal (104a) in order to obtain a measure of significance (112a) for the subband signal; and
Ermitteln der RhythmusInformationen des Audiosignals unter .Berücksichtigung des Signifikanzmaßes (112a) des Teilbandsignals und der Rhythmus-Rohinformationen (108a, 108b) von zumindest einem Teilbandsignal. Determining the rhythm information of the audio signal taking into account the significance measure (112a) of the subband signal and the raw rhythm information (108a, 108b) of at least one subband signal.
EP02745267A 2001-05-14 2002-04-25 Device and method for analysing an audio signal in view of obtaining rhythm information Expired - Lifetime EP1388145B1 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE10123366 2001-05-14
DE10123366A DE10123366C1 (en) 2001-05-14 2001-05-14 Device for analyzing an audio signal for rhythm information
PCT/EP2002/004618 WO2002093557A1 (en) 2001-05-14 2002-04-25 Device and method for analysing an audio signal in view of obtaining rhythm information

Publications (2)

Publication Number Publication Date
EP1388145A1 true EP1388145A1 (en) 2004-02-11
EP1388145B1 EP1388145B1 (en) 2004-10-13

Family

ID=7684710

Family Applications (1)

Application Number Title Priority Date Filing Date
EP02745267A Expired - Lifetime EP1388145B1 (en) 2001-05-14 2002-04-25 Device and method for analysing an audio signal in view of obtaining rhythm information

Country Status (7)

Country Link
US (1) US20040068401A1 (en)
EP (1) EP1388145B1 (en)
JP (1) JP3914878B2 (en)
AT (1) ATE279769T1 (en)
DE (2) DE10123366C1 (en)
HK (1) HK1059959A1 (en)
WO (1) WO2002093557A1 (en)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8535236B2 (en) * 2004-03-19 2013-09-17 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Apparatus and method for analyzing a sound signal using a physiological ear model
US8180468B2 (en) 2005-07-01 2012-05-15 Pioneer Corporation Computer program, information reproduction device, and method
JP4940588B2 (en) * 2005-07-27 2012-05-30 ソニー株式会社 Beat extraction apparatus and method, music synchronization image display apparatus and method, tempo value detection apparatus and method, rhythm tracking apparatus and method, music synchronization display apparatus and method
JP4948118B2 (en) * 2005-10-25 2012-06-06 ソニー株式会社 Information processing apparatus, information processing method, and program
JP4465626B2 (en) * 2005-11-08 2010-05-19 ソニー株式会社 Information processing apparatus and method, and program
US7855334B2 (en) 2005-12-09 2010-12-21 Sony Corporation Music edit device and music edit method
JP4949687B2 (en) 2006-01-25 2012-06-13 ソニー株式会社 Beat extraction apparatus and beat extraction method
JP5351373B2 (en) * 2006-03-10 2013-11-27 任天堂株式会社 Performance device and performance control program
US8184712B2 (en) 2006-04-30 2012-05-22 Hewlett-Packard Development Company, L.P. Robust and efficient compression/decompression providing for adjustable division of computational complexity between encoding/compression and decoding/decompression
US7645929B2 (en) * 2006-09-11 2010-01-12 Hewlett-Packard Development Company, L.P. Computational music-tempo estimation
US8463615B2 (en) * 2007-07-30 2013-06-11 Google Inc. Low-delay audio coder
JP5008766B2 (en) * 2008-04-11 2012-08-22 パイオニア株式会社 Tempo detection device and tempo detection program
US8168876B2 (en) * 2009-04-10 2012-05-01 Cyberlink Corp. Method of displaying music information in multimedia playback and related electronic device
US8996538B1 (en) 2009-05-06 2015-03-31 Gracenote, Inc. Systems, methods, and apparatus for generating an audio-visual presentation using characteristics of audio, visual and symbolic media objects
US8071869B2 (en) * 2009-05-06 2011-12-06 Gracenote, Inc. Apparatus and method for determining a prominent tempo of an audio work
US8805854B2 (en) 2009-06-23 2014-08-12 Gracenote, Inc. Methods and apparatus for determining a mood profile associated with media data
US9646592B2 (en) 2013-02-28 2017-05-09 Nokia Technologies Oy Audio signal analysis
JP6759545B2 (en) * 2015-09-15 2020-09-23 ヤマハ株式会社 Evaluation device and program
US10666475B2 (en) * 2018-10-29 2020-05-26 Bae Systems Information And Electronic Systems Integration Inc. Techniques for phase modulated signals having poor autocorrelation
CN111785237B (en) * 2020-06-09 2024-04-19 Oppo广东移动通信有限公司 Audio rhythm determination method and device, storage medium and electronic equipment

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2207027B (en) * 1987-07-15 1992-01-08 Matsushita Electric Works Ltd Voice encoding and composing system
JP2591430B2 (en) * 1993-06-30 1997-03-19 日本電気株式会社 Vector quantizer
JP3840684B2 (en) * 1996-02-01 2006-11-01 ソニー株式会社 Pitch extraction apparatus and pitch extraction method
JPH09293083A (en) * 1996-04-26 1997-11-11 Toshiba Corp Music retrieval device and method
KR100269216B1 (en) * 1998-04-16 2000-10-16 윤종용 Pitch determination method with spectro-temporal auto correlation
DE10123281C1 (en) * 2001-05-14 2002-10-10 Fraunhofer Ges Forschung Device for analyzing audio signal with respect to rhythm information divides signal into sub-band signals, investigates sub-band signal(s) for periodicity with autocorrelation function
JP3859462B2 (en) * 2001-05-18 2006-12-20 株式会社東芝 Prediction parameter analysis apparatus and prediction parameter analysis method

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See references of WO02093557A1 *

Also Published As

Publication number Publication date
DE10123366C1 (en) 2002-08-08
US20040068401A1 (en) 2004-04-08
WO2002093557A1 (en) 2002-11-21
JP2004528596A (en) 2004-09-16
HK1059959A1 (en) 2004-07-23
EP1388145B1 (en) 2004-10-13
JP3914878B2 (en) 2007-05-16
ATE279769T1 (en) 2004-10-15
DE50201311D1 (en) 2004-11-18

Similar Documents

Publication Publication Date Title
EP1371055B1 (en) Device for the analysis of an audio signal with regard to the rhythm information in the audio signal using an auto-correlation function
EP1388145B1 (en) Device and method for analysing an audio signal in view of obtaining rhythm information
EP1407446B1 (en) Method and device for characterising a signal and for producing an indexed signal
EP1523719B1 (en) Device and method for characterising an information signal
EP1606798B1 (en) Device and method for analysing an audio information signal
DE60024501T2 (en) Improvement of Perceptual Quality of SBR (Spectral Band Replication) AND HFR (Radio Frequency Reconstruction) Coding method by adaptively adding noise floor and limiting the noise substitution
EP2099024B1 (en) Method for acoustic object-oriented analysis and note object-oriented processing of polyphonic sound recordings
EP1368805B1 (en) Method and device for characterising a signal and method and device for producing an indexed signal
DE69836785T2 (en) Audio signal compression, speech signal compression and speech recognition
DE2659096C2 (en)
EP2351017B1 (en) Method for recognizing note patterns in pieces of music
EP1280138A1 (en) Method for audio signals analysis
WO2005122135A1 (en) Device and method for converting an information signal into a spectral representation with variable resolution
DE60031812T2 (en) Apparatus and method for sound synthesis
DE102004028693B4 (en) Apparatus and method for determining a chord type underlying a test signal
DE69815062T2 (en) METHOD AND DEVICE FOR AUDIO REPRESENTATION OF LANGUAGE CODED BY THE LPC PRINCIPLE BY ADDING NOISE SIGNALS
EP1377924B1 (en) Method and device for extracting a signal identifier, method and device for creating a database from signal identifiers and method and device for referencing a search time signal
DE102004033867B4 (en) Method and device for the rhythmic preparation of audio signals
EP1743324B1 (en) Device and method for analysing an information signal
EP0689667B1 (en) Sound evaluation process
EP1130577A2 (en) Method for the reconstruction of low speech frequencies from mid-range frequencies
EP1381024A1 (en) Method for retrieving a tone sequence

Legal Events

Date Code Title Description
PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

17P Request for examination filed

Effective date: 20030528

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AT BE CH CY DE DK ES FI FR GB GR IE IT LI LU MC NL PT SE TR

GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

RIN1 Information on inventor provided before grant (corrected)

Inventor name: UHLE, CHRISTIAN

Inventor name: CREMER, MARKUS

Inventor name: HERRE, JUERGEN

Inventor name: ROHDEN, JAN

RIC1 Information provided on ipc code assigned before grant

Ipc: 7G 10L 11/00 A

RBV Designated contracting states (corrected)

Designated state(s): AT CH DE FR GB LI

REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 1059959

Country of ref document: HK

GRAS Grant fee paid

Free format text: ORIGINAL CODE: EPIDOSNIGR3

GRAA (expected) grant

Free format text: ORIGINAL CODE: 0009210

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AT CH DE FR GB LI

REG Reference to a national code

Ref country code: GB

Ref legal event code: FG4D

Free format text: NOT ENGLISH

REG Reference to a national code

Ref country code: CH

Ref legal event code: EP

REF Corresponds to:

Ref document number: 50201311

Country of ref document: DE

Date of ref document: 20041118

Kind code of ref document: P

GBT Gb: translation of ep patent filed (gb section 77(6)(a)/1977)
REG Reference to a national code

Ref country code: HK

Ref legal event code: GR

Ref document number: 1059959

Country of ref document: HK

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: AT

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20050425

ET Fr: translation filed
PLBE No opposition filed within time limit

Free format text: ORIGINAL CODE: 0009261

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT

26N No opposition filed

Effective date: 20050714

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CH

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20060430

Ref country code: LI

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20060430

REG Reference to a national code

Ref country code: CH

Ref legal event code: PL

REG Reference to a national code

Ref country code: GB

Ref legal event code: 732E

Free format text: REGISTERED BETWEEN 20090409 AND 20090415

REG Reference to a national code

Ref country code: FR

Ref legal event code: TP

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: DE

Payment date: 20120427

Year of fee payment: 11

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: GB

Payment date: 20120425

Year of fee payment: 11

REG Reference to a national code

Ref country code: DE

Ref legal event code: R119

Ref document number: 50201311

Country of ref document: DE

GBPC Gb: european patent ceased through non-payment of renewal fee

Effective date: 20130425

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: GB

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20130425

Ref country code: DE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20131101

REG Reference to a national code

Ref country code: DE

Ref legal event code: R079

Ref document number: 50201311

Country of ref document: DE

Free format text: PREVIOUS MAIN CLASS: G10L0011000000

Ipc: G10L0025060000

REG Reference to a national code

Ref country code: DE

Ref legal event code: R119

Ref document number: 50201311

Country of ref document: DE

Effective date: 20131101

Ref country code: DE

Ref legal event code: R079

Ref document number: 50201311

Country of ref document: DE

Free format text: PREVIOUS MAIN CLASS: G10L0011000000

Ipc: G10L0025060000

Effective date: 20140929

REG Reference to a national code

Ref country code: FR

Ref legal event code: PLFP

Year of fee payment: 15

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: FR

Payment date: 20160425

Year of fee payment: 15

REG Reference to a national code

Ref country code: FR

Ref legal event code: ST

Effective date: 20171229

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: FR

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170502