EP3103116A1 - Extension ameliorée de bande de fréquence dans un décodeur de signaux audiofréquences - Google Patents

Extension ameliorée de bande de fréquence dans un décodeur de signaux audiofréquences

Info

Publication number
EP3103116A1
EP3103116A1 EP15705687.0A EP15705687A EP3103116A1 EP 3103116 A1 EP3103116 A1 EP 3103116A1 EP 15705687 A EP15705687 A EP 15705687A EP 3103116 A1 EP3103116 A1 EP 3103116A1
Authority
EP
European Patent Office
Prior art keywords
signal
band
decoded
frequency
frequency band
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
EP15705687.0A
Other languages
German (de)
English (en)
Other versions
EP3103116B1 (fr
Inventor
Magdalena KANIEWSKA
Stéphane RAGOT
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Orange SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=51014390&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=EP3103116(A1) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Priority to DK17206563.3T priority Critical patent/DK3330966T3/da
Priority to EP17206563.3A priority patent/EP3330966B1/fr
Priority to RS20210945A priority patent/RS62160B1/sr
Priority to EP17206569.0A priority patent/EP3327722B1/fr
Priority to SI201531646T priority patent/SI3103116T1/sl
Application filed by Orange SA filed Critical Orange SA
Priority to EP17206567.4A priority patent/EP3330967B1/fr
Priority to PL15705687T priority patent/PL3103116T3/pl
Publication of EP3103116A1 publication Critical patent/EP3103116A1/fr
Publication of EP3103116B1 publication Critical patent/EP3103116B1/fr
Application granted granted Critical
Priority to HRP20211187TT priority patent/HRP20211187T1/hr
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B41—PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41K—STAMPS; STAMPING OR NUMBERING APPARATUS OR DEVICES
    • B41K3/00—Apparatus for stamping articles having integral means for supporting the articles to be stamped
    • B41K3/54—Inking devices
    • B41K3/56—Inking devices using inking pads
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B41—PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41K—STAMPS; STAMPING OR NUMBERING APPARATUS OR DEVICES
    • B41K1/00—Portable hand-operated devices without means for supporting or locating the articles to be stamped, i.e. hand stamps; Inking devices or other accessories therefor
    • B41K1/02—Portable hand-operated devices without means for supporting or locating the articles to be stamped, i.e. hand stamps; Inking devices or other accessories therefor with one or more flat stamping surfaces having fixed images
    • B41K1/04—Portable hand-operated devices without means for supporting or locating the articles to be stamped, i.e. hand stamps; Inking devices or other accessories therefor with one or more flat stamping surfaces having fixed images with multiple stamping surfaces; with stamping surfaces replaceable as a whole
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B41—PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41K—STAMPS; STAMPING OR NUMBERING APPARATUS OR DEVICES
    • B41K1/00—Portable hand-operated devices without means for supporting or locating the articles to be stamped, i.e. hand stamps; Inking devices or other accessories therefor
    • B41K1/08—Portable hand-operated devices without means for supporting or locating the articles to be stamped, i.e. hand stamps; Inking devices or other accessories therefor with a flat stamping surface and changeable characters
    • B41K1/10—Portable hand-operated devices without means for supporting or locating the articles to be stamped, i.e. hand stamps; Inking devices or other accessories therefor with a flat stamping surface and changeable characters having movable type-carrying bands or chains
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B41—PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41K—STAMPS; STAMPING OR NUMBERING APPARATUS OR DEVICES
    • B41K1/00—Portable hand-operated devices without means for supporting or locating the articles to be stamped, i.e. hand stamps; Inking devices or other accessories therefor
    • B41K1/08—Portable hand-operated devices without means for supporting or locating the articles to be stamped, i.e. hand stamps; Inking devices or other accessories therefor with a flat stamping surface and changeable characters
    • B41K1/12—Portable hand-operated devices without means for supporting or locating the articles to be stamped, i.e. hand stamps; Inking devices or other accessories therefor with a flat stamping surface and changeable characters having adjustable type-carrying wheels
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B41—PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41K—STAMPS; STAMPING OR NUMBERING APPARATUS OR DEVICES
    • B41K1/00—Portable hand-operated devices without means for supporting or locating the articles to be stamped, i.e. hand stamps; Inking devices or other accessories therefor
    • B41K1/36—Details
    • B41K1/38—Inking devices; Stamping surfaces
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B41—PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41K—STAMPS; STAMPING OR NUMBERING APPARATUS OR DEVICES
    • B41K1/00—Portable hand-operated devices without means for supporting or locating the articles to be stamped, i.e. hand stamps; Inking devices or other accessories therefor
    • B41K1/36—Details
    • B41K1/38—Inking devices; Stamping surfaces
    • B41K1/40—Inking devices operated by stamping movement
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B41—PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41K—STAMPS; STAMPING OR NUMBERING APPARATUS OR DEVICES
    • B41K1/00—Portable hand-operated devices without means for supporting or locating the articles to be stamped, i.e. hand stamps; Inking devices or other accessories therefor
    • B41K1/36—Details
    • B41K1/38—Inking devices; Stamping surfaces
    • B41K1/40—Inking devices operated by stamping movement
    • B41K1/42—Inking devices operated by stamping movement with pads or rollers movable for inking
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/0204—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders using subband decomposition
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/0212—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders using orthogonal transformation
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/038—Speech enhancement, e.g. noise reduction or echo cancellation using band spreading techniques
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G10L25/21—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being power information
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/26—Pre-filtering or post-filtering
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation

Definitions

  • the present invention relates to the field of coding / decoding and audio-frequency signal processing (such as speech, music or other signals) for their transmission or storage.
  • the invention relates to a method and a device for extending the frequency band in a decoder or a processor performing an audio-frequency signal improvement.
  • the state of the art audio signal coding (mono) consists of perceptual encoding by transform or subband, with parametric high frequency band replication coding (SBR for Spectral).
  • 3GPP AMR-WB Adaptive Multi-Rate Wideband
  • codec and decoder which operates at an input / output frequency of 16 kHz and in which the signal is divided into two sub-bands, the low band (0-6.4 kHz) which is sampled at 12.8 kHz and coded by CELP model and the high band (6.4-7 kHz) which is parametrically reconstructed by "band extension" ( or BWE for "Bandwidth Extension” with or without additional information depending on the mode of the current frame.
  • BWE Bandwidth Extension
  • the limitation of the coded band of the AMR-WB codec at 7 kHz is essentially related to the fact that the transmission frequency response of the broadband terminals has been approximated at the time of standardization (ETSI / 3GPP then ITU-T T) according to the frequency mask defined in the ITU-T P.341 standard and more precisely by using a so-called "P341" filter defined in the ITU-T G.191 standard. which cuts frequencies above 7 kHz (this filter respects the mask defined in P.341).
  • a signal sampled at 16 kHz may have a defined audio band of 0 to 8000 Hz; the AMR-WB codec thus introduces a limitation of the high band in comparison with the theoretical bandwidth of 8 kHz.
  • the 3GPP AMR-WB speech codec was standardized in 2001 mainly for circuit-mode (CS) telephony applications on GSM (2G) and UMTS (3G). This same codec was also standardized in 2003 in ITU-T as Recommendation G.722.2 "Wideband coding speech at around 16kbit / s using Adaptive Multi-Rate Wideband (AMR-WB)".
  • AMR-WB coding and decoding algorithm The details of the AMR-WB coding and decoding algorithm are not repeated here, a detailed description of this codec is found in the 3GPP specifications (TS 26.190, 26.191, 26.192, 26.193, 26.194, 26.204) and ITU-TG .722.2 (and the corresponding Appendices and Appendix) and in the article by B. Bessette et al. entitled "The adaptive multirate broadband speech coded (AMR-WB)", IEEE Transactions on Speech and Audio Processing, vol. 10, no. 8, 2002, pp. 620-636 and associated 3GPP and ITU-T standard source codes.
  • AMR-WB adaptive multirate broadband speech coded
  • the principle of band extension in the AMR-WB codec is rather rudimentary. Indeed, the high band (6.4-7 kHz) is generated by formatting a white noise through a temporal envelope (applied in the form of gains per subframe) and frequency (by the application of a linear prediction synthesis filter or LPC for "Linear Predictive Coding").
  • This band extension technique is illustrated in Figure 1.
  • a white noise, u HB1 (n), n 0, ⁇ ⁇ ⁇ , 79, is generated at 16 kHz per 5 ms subframe per linear congruent generator (block 100).
  • This noise u HB1 (n) is shaped in time by applying gains per subframe; this operation is broken down into two processing steps (blocks 102, 106 or 109):
  • a first factor is calculated (block 101) to set the white noise u HB1 (n) (block 101).
  • the normalization of the energies is done by comparing blocks of different size (64 for u (n) and 80 for u HB1 (n)), without compensation of the differences of sampling frequencies (12.8 or 16 kHz) .
  • u HB ⁇ n g HB u HB2 ⁇ n
  • w sp is a weighting function that depends on Voice Activity Detection (VAD).
  • VAD Voice Activity Detection
  • the factor g HB in the decoding AMR-WB is bounded to take values in the interval [0.1, 1.0]. In fact, for the signals whose spectrum has more energy at high frequencies ⁇ e tiU close to -1, g sp close to 2), the gain g HB is usually underestimated.
  • correction information is transmitted by the encoder AMR-WB and decoded (blocks 107, 108) in order to refine the estimated gain per subframe (4 bits every 5ms, ie 0.8 kbit / s) .
  • a low-pass filter also FIR type (block 113) is added to the treatment to further attenuate frequencies above 7 kHz.
  • the synthesis at high frequencies (HF) is finally added (block 130) to the low frequency synthesis (BF) obtained with the blocks 120 to 123 and resampled at 16 kHz (block 123).
  • HF high frequencies
  • BF low frequency synthesis
  • the signal in the high band is white noise formatted (by temporal gains per subframe, filtering by 1 / A HB (z) and bandpass filtering), which is not a good general pattern of the signal in the 6.4-7 kHz band.
  • white noise formatted by temporal gains per subframe, filtering by 1 / A HB (z) and bandpass filtering
  • bandpass filtering which is not a good general pattern of the signal in the 6.4-7 kHz band.
  • there are very harmonic music signals for which the 6.4-7 kHz band contains sinusoidal components (or tones) and no noise (or little noise) for these signals the band extension of the AMR-WB coding degrades. strongly the quality.
  • the 7 kHz low-pass filter (block 113) introduces an offset of nearly 1 ms between the low and high bands, which can potentially degrade the quality of some signals by slightly desynchronizing the two bands at 23.85 kbit / s - this desynchronization can also be problematic when switching from 23.85 kbit / s to other modes.
  • the estimate of gains per subframe is not optimal. In part, it is based on an equalization of the "absolute" energy per sub-frame (block 101) between signals at different frequencies: the artificial excitation at 16 kHz (white noise) and a signal at 12.8 kHz ( ACELP excitation decoded).
  • the AMR-WB decoding algorithm has been improved in part with the development of the ITU-T G.718 scalable codec which was standardized in 2008.
  • ITU-T G.718 includes an interoperable mode, for which core coding is compatible with 12.65 kbit / s G.722.2 (AMR-WB) coding; in addition, the G.718 decoder has the particularity of being able to decode a bit stream AMR-WB / G.722.2 at all possible bit rates of the AMR-WB codec (from 6.6 to 23.85 kbit / s).
  • the G.718 interoperable decoder in low delay mode (G.718-LD) is illustrated in FIG. 2. Below are the improvements made to the bit-stream decoding functionality AMR- WB in the G.718 decoder, with references to Figure 1 when necessary:
  • the band extension (described for example in clause 7.13.1 of Recommendation G.718, block 206) is identical to that of the AMR-WB decoder, except that the 6-7 kHz band-pass filter and the Synthesis 1 / A H B (Z) (blocks 111 and 112) are in reverse order.
  • the 4 bits transmitted by AMR-WB encoder subframes are not used in the interoperable G.718 decoder; the synthesis of high frequencies (HF) at 23.85 kbit / s is therefore identical to 23.05 kbit / s which avoids the known problem of quality of AMR-WB decoding at 23.85 kbit / s.
  • the low-pass filter at 7 kHz (block 113) is not used, and the specific decoding mode 23.85 kbit / s is omitted (blocks 107 to 109).
  • a post-processing of the 16 kHz synthesis is implemented in G.718 by "noise gate” in block 208 (to “improve” the quality of silences by reducing the level) , high-pass filtering (block 209), low-frequency post filter (so-called “bass posfilter”) in block 210 attenuating inter-harmonic noise at low frequencies and conversion to 16-bit integers with saturation control (with control Gain or AGC) in block 211.
  • the band extension in AMR-WB and / or G.718 codecs is still limited in several respects.
  • the synthesis of high frequencies by shaped white noise is a very limited model of the signal in the frequency band above 6.4 kHz.
  • the present invention improves the situation.
  • the invention proposes a method of extending the frequency band of an audiofrequency signal during a decoding or improvement process comprising a step of obtaining the decoded signal in a first low band frequency band.
  • the method is such that it comprises the following steps:
  • band extension will be taken in the broad sense and will include not only the case of the extension of a subband at high frequencies but also the case of a replacement of subbands set to zero (of type "noise filling" in transform coding).
  • both the taking into account of tonal components and a surround signal extracted from the signal resulting from the decoding of the low band makes it possible to perform the band extension with a signal model adapted to the true nature of the band. signal contrary to the use of artificial noise.
  • the quality of the band extension is thus improved and in particular for certain types of signals such as music signals.
  • the signal decoded in the low band has a part corresponding to the sound environment that can be transposed into high frequency so that a mix of harmonic components and the existing environment ensures a high band reconstructed consistent.
  • the band extension is performed in the field of excitation and the decoded low band signal is a decoded low band excitation signal.
  • the advantage of this embodiment is that a transformation without windowing (or equivalently with an implicit rectangular window of the length of the frame) is possible in the field of excitation. In this case no artifact (block effects) is audible.
  • the extraction of the tonal components and the ambient signal is carried out according to the following steps:
  • This embodiment allows accurate detection of tonal components.
  • a power level control factor used for adaptive mixing is calculated based on the total energy of the decoded or decoded and extended low band signal and the tonal components.
  • this control factor allows the combining step to adapt to the characteristics of the signal to optimize the relative proportion of the ambient signal in the mixture.
  • the energy level is thus controlled to avoid audible artifacts.
  • the decoded low band signal undergoes a step of subband decomposition by transform or filter bank, the extraction and combining steps then taking place in the frequency domain or in sub-bands. .
  • the implementation of the band extension in the frequency domain makes it possible to obtain a fineness of frequency analysis which is not available with a temporal approach, and also makes it possible to have a frequency resolution sufficient to detect the tonal components. .
  • this function includes a re-sampling of the signal by adding samples to the spectrum of this signal.
  • Other ways of extending the signal are however possible, for example by translation in a sub-band processing.
  • the present invention also relates to a frequency band extension device of an audiofrequency signal, the signal having been decoded in a first so-called low band frequency band.
  • the device is such that it comprises:
  • an extension module on at least a second frequency band greater than the first frequency band implemented on the decoded low band signal before the extraction module or on the combined signal after the combination module.
  • This device has the same advantages as the method described above, which it implements.
  • the invention relates to a decoder comprising a device as described.
  • the invention relates to a storage medium, readable by a processor, integrated or not to the band expansion device, possibly removable, storing a computer program implementing a band extension method as described above.
  • FIG. 1 illustrates a part of an AMR-WB decoder implementing frequency band extension steps of the state of the art and as previously described;
  • FIG. 2 illustrates a decoder of the interoperable type G.718-LD at 16 kHz according to the state of the art and as described previously;
  • FIG. 3 illustrates an interoperable decoder with the AMR-WB coding and integrating a band extension device according to one embodiment of the invention
  • FIG. 4 illustrates in flowchart form the main steps of a band extension method according to one embodiment of the invention
  • FIG. 5 illustrates an embodiment in the frequency domain of a band extension device according to the invention integrated in a decoder
  • Figure 6 illustrates a hardware embodiment of a tape extender according to the invention
  • FIG. 3 illustrates an exemplary decoder, compatible with the AMR-WB / G.722.2 standard, in which there is a postprocessing similar to that introduced in G.718 and described with reference to FIG. 2 and an improved band extension according to the extension method of the invention, implemented by the band extension device illustrated by block 309.
  • the CELP decoding (BF for low frequencies) always operates at the internal frequency of 12.8 kHz, as in AMR-WB and G.718, and the band extension (HF for high frequencies) being the subject of the invention operates at the frequency of 16 kHz, the synthesis BF and HF are combined (block 312) at the frequency fs after adequate resampling (blocks 307 and 311).
  • the combination of the low and high bands can be done at 16 kHz, after resampling the low band of 12.8 to 16 kHz, before resampling the combined signal at the frequency fs.
  • the decoding according to FIG. 3 depends on the mode (or bit rate) AMR-WB associated with the current frame received.
  • the decoding of the low band CELP part comprises the following steps:
  • This excitation a) is used in the adaptive dictionary of the following subframe; it is then post-processed and one discerns as in G.718 the excitement a) (also noted exc) of its modified post-processed version u (n) (also noted exc2) which serves as input to the synthesis filter, 1 / ((z), in block 303.
  • the post-treatments applied to the excitation can be modified (for example, the phase dispersion can be improved) or such post-treatments may be extended (for example, interharmonic noise reduction may be implemented) without affecting the nature of the band extension method of the invention.
  • the post-treatments applied to the excitation can be modified (for example, the phase dispersion can be improved) or these post-treatments can be extended (for example, inter-harmonic noise reduction can be implemented), without affecting the nature of the band extension.
  • the decoding of the low band described above assumes a current frame called "active" with a rate between 6.6 and 23.85 kbit / s.
  • active a current frame
  • some frames can be coded as "inactive” and in this case you can either transmit a silence descriptor (on 35 bits) or not transmit anything.
  • SID frame of the AMR-WB encoder describes several parameters: ISF parameters averaged over 8 frames, average energy over 8 frames, "dithering flag" for the non-stationary noise reconstruction.
  • This example decoder operates in the field of excitation and therefore comprises a step of decoding the low band excitation signal.
  • the band extension device and the band extension method within the meaning of the invention also operates in a field different from the field of excitation and in particular with a low band decoded direct signal or a filter-weighted signal. perceptual.
  • the decoder described makes it possible to extend the decoded low band (50-6400 Hz by taking into account the high-pass filtering at 50 Hz at the decoder, 0-6400 Hz in the general case ) to an extended band whose width varies, ranging from approximately 50-6900 Hz to 50-7700 Hz depending on the mode implemented in the current frame.
  • the excitation for the high frequencies and generated in the frequency domain in a band of 5000 to 8000 Hz, to allow bandpass filtering of width 6000 to 6900 or 7700 Hz whose slope is not too stiff in the upper band rejected.
  • the high band synthesis part is realized in the block 309 representing the band extension device according to the invention and which is detailed in FIG. 5 in one embodiment.
  • a delay (block 310) is introduced to synchronize the outputs of the blocks 306 and 309 and the high band synthesized at 16 kHz is resampled from 16 kHz to the frequency fs (output of block 311).
  • the extension method of the invention implemented in block 309 according to the first embodiment introduces preferentially no additional delay with respect to the low band reconstructed at 12.8 kHz; however, in variants of the invention (for example using a time / frequency transformation with overlap), a delay may be introduced.
  • the low and high bands are then combined (added) in block 312 and the resulting synthesis is post-processed by high-order 50 Hz (type IIR) high-pass filtering whose coefficients depend on the frequency fs (block 313) and output post-processing with optional noise gate application similar to G.718 (block 314).
  • high-order 50 Hz type IIR
  • the band extension device according to the invention illustrated by the block 309 according to the embodiment of the decoder of FIG. 5, implements a band extension method (in the broad sense) now described with reference to FIG. figure 4.
  • This extension device may also be independent of the decoder and may implement the method described in FIG. 4 to perform a band extension of an existing audio signal stored or transmitted to the device, with an analysis of the audio signal to extract it for example an excitation and an LPC filter.
  • This device receives as input a decoded signal in a first so-called low-band frequency band u (ri) which may be in the field of excitation or that of the signal.
  • a step of subband decomposition (E401b) by time frequency transform or filter bank is applied to the low band decoded signal to obtain the spectrum of the decoded low band signal U (k) for a implemented in the frequency domain.
  • a step E401a for extending the decoded low band signal into a second frequency band greater than the first frequency band, to obtain an extended low band decoded signal U HB1 (k), can be performed on this decoded low band signal before or after the analysis step (subband decomposition).
  • This extension step may comprise both a resampling step and an extension step or simply a translation step or frequency transposition as a function of the signal obtained at the input. It will be noted that in variants, step E401a may be performed at the end of the processing described in FIG. 4, that is to say on the combined signal, this processing then being mainly performed on the low band signal before expansion. , the result being equivalent.
  • a step E402 for extracting a room signal (U HBA (k)) and tonal components (y (k)) is performed from the decoded (U (k)) or decoded and extended ( U HB1 (k)).
  • Ambience is defined here as the residual signal that is obtained by suppressing in the existing signal the main (or dominant) harmonics (or tonal components).
  • the high band (> 6 kHz) contains ambient information that is generally similar to that in the low band.
  • the step of extracting the tonal components and the ambient signal comprises, for example, the following steps:
  • This step can also be obtained by:
  • obtaining the ambient signal by calculating an average of the decoded (or decoded and extended) low band signal
  • the tonal components and the surround signal are then adaptively combined using energy level control factors in step E403 to obtain a so-called combined signal (U HB2 (k)).
  • the extension step E401a can then be implemented if it has not already been performed on the decoded low band signal.
  • the combination of these two types of signals makes it possible to obtain a combined signal with characteristics more adapted to certain types of signals, such as musical signals, and richer in frequency content and in the extended frequency band corresponding to the entire band of signals. frequency including the first and the second frequency band.
  • the band extension according to the method improves the quality for this type of signals compared to the extension described in the AMR-WB standard.
  • a synthesis step which corresponds to the analysis at 401b, is performed at E404b to bring the signal back into the time domain.
  • an energy level adjustment step of the high band signal can be performed at E404a, before and / or after the synthesis step, by applying gain and / or adequate filtering. This step will be explained in more detail in the embodiment described in FIG. 5 for blocks 501 to 507.
  • the band extension device 500 is described now with reference to FIG. 5 illustrating both this device and also processing modules suitable for implementation in a decoder of interoperable type with a coding AMR-WB.
  • This device 500 implements the band extension method described above with reference to FIG. 4.
  • the processing block 510 receives a decoded low band signal (u (n)).
  • the band extension uses the decoded 12.8 kHz excitation (exc2 or u (n)) at the output of the block 302 of FIG. 3.
  • This signal is broken down into frequency subbands by the subband decomposition module 510 (which implements step E401b of FIG. 4) which generally performs a transform or applies a filter bank, to obtain a sub-band decomposition U (k) of the signal u (n).
  • a transformation without windowing (or equivalently with an implicit rectangular window of the length of the frame) is possible when the processing is performed in the field of excitation, and not the domain of the signal. In this case no artefact (block effects) is audible, which is an important advantage of this embodiment of the invention.
  • the DCT-IV transformation is implemented by FFT according to the "Evolved ZXT (EDCT)" algorithm described in the article by D. M. Zhang, HT. Li, A Low Complexity Transform - Evolved DCT, IEEE 14th International Conference on Computational Science and Engineering (CSE), Aug. 2011, pp. 144-149, and implemented in ITU-T G.718 Annex B and G.729.1 Annex E.
  • EDCT Evolved ZXT
  • the DCT-IV transformation may be replaced by other short-term time-frequency transformations of the same length and in the field of excitation or in the domain of the signal. as an FFT (for "Fast Fourier Transform” in English) or a DCT-II (Discrete Cosine Transform - Type II).
  • the DCT-IV can be replaced on the frame by a recovery-addition and windowing transformation of length greater than the length of the current frame, for example using an MDCT (for "Modified Discrete Cosine Tranform" in English).
  • MDCT for "Modified Discrete Cosine Tranform" in English
  • the subband decomposition is performed by the application of a real or complex filter bank, for example of the PQMF (Pseudo-QMF) type.
  • a real or complex filter bank for example of the PQMF (Pseudo-QMF) type.
  • PQMF Pulseudo-QMF
  • the preferred embodiment in the invention can be applied by producing for example a transform of each subband and calculating the ambient signal in the range of absolute values, the tonal components always being obtained by difference between the signal (in absolute value) and the ambient signal.
  • the complex module of the samples will replace the absolute value.
  • the invention will be applied in a system using two subbands, the low band being analyzed by transform or filterbank.
  • 0-6400 Hz (at 12.8 kHz) is then extended (block 511) into a spectrum of 320 samples covering the band 0-8000 Hz (at 16 kHz) in the following form:
  • Block 511 implements step E401a of FIG. 4, that is to say the extension of the decoded low band signal.
  • the original spectrum is preserved, in order to be able to apply a gradual attenuation response of the high-pass filter in this frequency band and also not to introduce audible defects during the addition step of the low frequency synthesis at high frequency synthesis.
  • the generation of the extended over-sampled spectrum is carried out in a frequency band ranging from 5 to 8 kHz, thus including a second frequency band (6.4-8 kHz) greater than the first band of frequency (0-6.4 kHz).
  • the extension of the decoded low band signal is performed at least on the second frequency band but also on a part of the first frequency band.
  • This approach preserves the original spectrum in this band and avoids introducing distortions in the 5000-6000 Hz band during the addition of HF synthesis with BF synthesis - particularly the signal phase (implicitly represented in the DCT-IV domain) in this band is preserved.
  • the 6000-8000 Hz band of U HB1 (k) is here defined by copying the 4000-6000 Hz band of U (k) since the value of start_band is preferably fixed at 160.
  • the value of start_band can be made adaptive around the value of 160, without changing the nature of the invention.
  • the details of the adaptation of the value start_band are not described here because they go beyond the scope of the invention without changing the scope.
  • the high band (> 6 kHz) contains background information that is naturally similar to that in the low band.
  • Ambience is defined here as the residual signal that is obtained by suppressing in the existing signal the main (or dominant) harmonics.
  • the level of harmonicity in the 6000-8000 Hz band is generally correlated to that of the lower frequency bands.
  • This decoded and extended low band signal is provided at the input of the extension device 500 and in particular at the input of the module 512.
  • the block 512 for extracting tonal components and a room signal implements the step E402 of Figure 4 in the frequency domain.
  • the extraction of the tonal components and the ambient signal is carried out according to the following operations: • Calculation of the total energy of the extended decoded low band signal ener HB : ener HB U HB1 (k) 2 + e
  • L 80 and represents the length of the spectrum and the index i from 0 to L - 1 corresponds to the indices 240 + 31 of 240 to 319, ie the spectrum of 6 to 8 kHz.
  • This variant has the defect of being more complex
  • a non-uniform weighting may be applied to the averaged terms, or the median filtering may be replaced for example by other nonlinear filters of "stack filter” type.
  • the residual signal is also calculated:
  • This calculation therefore involves an implicit detection of the tonal components.
  • the tonal parts are thus implicitly detected using the intermediate term y (i) representing an adaptive threshold.
  • the detection condition being y (z)> 0.
  • this ambient signal can be extracted from a low frequency signal or possibly another frequency band (or several frequency bands).
  • the detection of peaks or tonal components can be done differently.
  • This ambient signal could also be done on the decoded but not extended excitation, that is to say before the extension or spectral translation step, that is to say, for example on a portion of the low frequency signal rather than directly on the high frequency signal.
  • the extraction of the tonal components and the ambient signal is performed in a different order and according to the following steps:
  • This variant can for example be made in the following way: A peak (or tonal component) is detected at a line of index i in the amplitude spectrum * (i + 240 + 1)
  • ⁇ 0, ..., L - 1.
  • a sinusoidal model is applied in order to estimate the amplitude, frequency and possibly phase parameters of a tonal component associated with this peak.
  • the details of this estimate are not presented here, but the estimate of the frequency can typically use a parabolic interpolation on 3 points to locate the maximum of the parabola approximating the 3 points of amplitude
  • DCT-IV transform domain used here
  • the absolute value of the spectral values will be replaced for example by the square of the spectral values, without changing the principle of the invention; in this case a square root will be needed to return to the signal domain, which is more complex to achieve.
  • the combination module 513 performs a step of combining by adaptive mixing of the ambient signal and the tonal components.
  • the factor ⁇ is> 1.
  • the tonal components, detected line by line by the condition y (i)> 0, are reduced by the factor ⁇ ; the average level is amplified by the factor / ⁇ .
  • a power level control factor is calculated based on the total energy of the decoded (or decoded and extended) low band signal and the tonal components.
  • the energy adjustment is performed as follows:
  • the adjustment factor is defined by the following equation:
  • ⁇ avoids over-estimation of energy.
  • we calculate /? so as to maintain the same ambient signal level with respect to the energy of the tonal components in the consecutive bands of the signal.
  • the energy of the tonal components is calculated in three bands: 2000-4000 Hz, 4000-6000 Hz and 6000-8000 Hz, with
  • V 4 ⁇ u a (k)
  • N (£ 1 , £ 2 ) is the set of indices k for which the index coefficient k is classified as being associated with the tonal components. This set can be obtained for example by detecting the local peaks in U > lev (k) or lev ⁇ k) is calculated as the average level of the spectrum line by line.
  • ⁇ is fixed so that the ratio between the energy of the tonal components in the 4-6 kHz and 6-8 kHz bands is the same as between the 2-4 kHz and 4-6 kHz bands: o _ PE N6 _ &
  • the calculation of ⁇ may be replaced by other methods.
  • the linear regression could for example be estimated in a supervised manner by estimating the factor ⁇ by giving the original high band in a base d 'learning. It will be noted that the method of calculating ⁇ does not limit the nature of the invention.
  • the parameter ⁇ can be used to calculate ⁇ , taking into account that a signal with a surround signal added in a given band is generally perceived as stronger than a harmonic signal at the same energy in the same direction. bandaged. If we define a as the quantity of ambient signal added to the harmonic signal:
  • the block 501 At the output of the band extension device 500, the block 501, in a particular embodiment, optionally carries out a dual operation of application of bandpass filter frequency response and deemphasis filtering (or deemphasis filtering). ) in the frequency domain.
  • the deemphasis filtering may be performed in the time domain, after the block 502 or even before the block 510; however, in this case, the bandpass filtering performed in the block 501 may leave some low frequency components of very low levels which are amplified by de-emphasis, which may slightly discern the decoded low band. For this reason, it is preferred here to perform the deemphasis in the frequency domain.
  • G deemph (k) is the frequency response of the filter l / (l - 0.68z _1 ) over a restricted discrete frequency band.
  • G deem h (k) as:
  • the definition of 0 k can be adjusted (for example for even frequencies).
  • the HF synthesis is not de-emphasized.
  • the high-frequency signal is on the contrary de-emphasized so as to bring it back to a domain coherent with the low-frequency signal (0-6.4 kHz) which leaves block 305 of FIG. 3. This is important for the estimation and subsequent adjustment of the energy of HF synthesis.
  • the de-emphasis can be performed in an equivalent manner in the time domain after inverse DCT.
  • band-pass filtering is applied with two separate parts: one fixed high-pass, the other adaptive low-pass (flow-rate function).
  • This filtering is performed in the frequency domain.
  • the partial low-pass filter response in the frequency domain is calculated as follows:
  • N lp 60 to 6.6 kbit / s, 40 to 8.85 kbit / s, 20 at rates> 8.85 bit / s.
  • G h (k), k 0, ⁇ ⁇ ⁇ , 55, is given for example in Table 1 below.
  • G hp (k) may be modified while keeping a gradual attenuation.
  • the low-pass filtering with variable bandwidth, G lp ⁇ k may be adjusted with different values or frequency support, without changing the principle of this filtering step.
  • bandpass filtering can be adapted by defining a single filtering step combining the high-pass and low-pass filtering.
  • the bandpass filtering may be performed equivalently in the time domain (as in block 112 of FIG. 1) with different filter coefficients according to the bit rate, after an inverse DCT step.
  • it is advantageous to carry out this step directly in the frequency domain because the filtering is carried out in the field of LPC excitation and therefore the problems of circular convolution and edge effects are very limited in this field. .
  • the inverse transform block 502 performs an inverse DCT on 320 samples to find the high frequency signal sampled at 16 kHz. Its implementation is identical to block 510 because the DCT-IV is orthonormed, except that the length of the transform is 320 instead of 256, and we obtain:
  • the block 502 performs the synthesis corresponding to the analysis carried out in the block 510.
  • the signal sampled at 16 kHz is then optionally scaled by gains defined by subframe of 80 samples (block 504).
  • one calculates first (block 503) a gain g H Bi (m) per subframe by energy ratios of the subframes such that in each subframe of index 77 0, 1, 2 or 3 of the current frame:
  • Block 504 scales the combined signal (included in step E404a of FIG. 4) according to the following equation:
  • the realization of the block 503 differs from that of the block 101 of Figure 1, because the energy at the current frame is taken into account in addition to that of the subframe. This makes it possible to have the ratio of the energy of each subframe with respect to the energy of the frame. Energy ratios (or relative energies) are compared rather than the absolute energies between low band and high band.
  • this scaling step makes it possible to keep in the high band the energy ratio between the subframe and the frame in the same way as in the low band.
  • block 506 then scales the signal (included in step E404a of FIG. 4) according to the following equation:
  • the gain g HB2 (m) is obtained from the block 505 by executing the blocks 103, 104 and 105 of the AMR-WB coding (the input of the block 103 being the decoded excitation in the low band, u (n)) .
  • Blocks 505 and 506 are useful for adjusting the level of the LPC synthesis filter (block 507), here depending on the tilt of the signal. Other methods of calculating the gain g HB2 (m) are possible without changing the nature of the invention.
  • this filtering can be done in the same way as described for the block 111 of FIG. 1 of the AMR-WB decoder, however the order of the filter goes to 20 at the rate of 6.6, which does not change. not significantly the quality of the synthesized signal.
  • the coding of the low band (0-6.4 kHz) may be replaced by a CELP coder other than that used in AMR-WB, for example the CELP coder in G.718 to 8. kbit / s.
  • a CELP coder other than that used in AMR-WB, for example the CELP coder in G.718 to 8. kbit / s.
  • other encoders in wide band or operating at frequencies higher than 16 kHz in which the coding of the low band operates at an internal frequency at 12.8 kHz could be used.
  • the invention can be obviously adapted to other sampling frequencies than 12.8 kHz, when a low frequency encoder operates at a sampling frequency lower than that of the original or reconstructed signal.
  • the low band decoding does not use a linear prediction, it does not have an excitation signal to be extended, in this case it will be possible to carry out an LPC analysis of the reconstructed signal in the current frame and calculate an LPC excitation. so as to be able to apply the invention.
  • the excitation or the low band signal (u (n)) is resampled, for example by linear interpolation or cubic "spline", of 12.8 to 16 kHz before transformation (for example DCT-IV) of length 320.
  • This variant has the defect of being more complex, because the transform (DCT-IV) of the excitation or the signal is then calculated on a larger length and resampling is not performed in the transform domain.
  • FIG. 6 represents an exemplary hardware embodiment of a band extension device 600 according to the invention. This may be an integral part of an audio-frequency signal decoder or equipment receiving decoded or non-decoded audio signals.
  • This type of device comprises a PROC processor cooperating with a memory block BM having a memory storage and / or work MEM.
  • Such a device comprises an input module E adapted to receive a decoded audio signal or extracted in a first frequency band said low band brought into the frequency domain (U (k)). It comprises an output module S adapted to transmit the extension signal in a second frequency band (U HB2 (k)) for example to a filtering module 501 of FIG. 5.
  • the memory block may advantageously comprise a computer program comprising code instructions for implementing the steps of the band extension method in the sense of the invention, when these instructions are executed by the processor PROC, and in particular the steps for extracting (E402) tonal components and a surround signal from a signal derived from the decoded low band signal (U (k)), combining (E403) the tonal components (y (k)) and the ambient signal (U HBA k)) by adaptive mixing using energy level control factors to obtain an audio signal, said combined signal (U HB2 (k)), of extension (E401a) on at minus a second frequency band higher than the first frequency band of the low band decoded signal before the extraction step or the combined signal after the combining step.
  • a computer program comprising code instructions for implementing the steps of the band extension method in the sense of the invention, when these instructions are executed by the processor PROC, and in particular the steps for extracting (E402) tonal components and a surround signal from a signal derived from the decoded low
  • FIG. 4 repeats the steps of an algorithm of such a computer program.
  • the computer program can also be stored on a memory medium readable by a reader of the device or downloadable in the memory space thereof.
  • the memory MEM generally records all the data necessary for the implementation of the method.
  • the device thus described may also include the low band decoding functions and other processing functions described for example in FIGS. 5 and 3 in addition to the band extension functions according to the invention.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Stereophonic System (AREA)
  • Tone Control, Compression And Expansion, Limiting Amplitude (AREA)

Abstract

L'invention se rapporte à un procédé d'extension de bande de fréquence d'un signal audiofréquence lors d'un processus de décodage ou d'amélioration comportant une étape d'obtention du signal décodé, dans une première bande de fréquence dite bande basse. Le procédé est tel qu'il comporte les étapes suivantes: - extraction (E402) de composantes tonales et d'un signal d'ambiance à partir d'un signal issu du signal bande basse; - combinaison (E403) des composantes tonales et du signal d'ambiance par mixage adaptatif utilisant des facteurs de contrôle de niveau d'énergie pour obtenir un signal audio, dit signal combiné; - extension (E401a) sur au moins une deuxième bande de fréquence supérieure à la première bande de fréquence du signal décodé bande basse avant l'étape d'extraction ou du signal combiné après l'étape de combinaison. L'invention se rapporte également à un dispositif d'extension de bande de fréquence mettant en œuvre le procédé décrit et un décodeur comportant un tel dispositif.

Description

Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences
La présente invention se rapporte au domaine du codage/décodage et du traitement de signaux audiofréquences (comme des signaux de parole, de musique ou autres) pour leur transmission ou leur stockage.
Plus particulièrement, l'invention concerne un procédé et un dispositif d'extension de bande de fréquence dans un décodeur ou un processeur réalisant une amélioration de signal audiofréquence.
De nombreuses techniques existent pour compresser (avec perte) un signal audiofréquence comme la parole ou la musique.
Les méthodes classiques de codage pour les applications conversationnelles sont en général classifiées en codage de forme d'onde (MIC pour "Modulation par Impulsion et codage", MICDA pour "Modulation par Impulsion et Codage Différentiel Adaptatif, codage par transformée...), codage paramétrique (LPC pour "Linear Prédictive Coding" en anglais, codage sinusoïdal...) et codage hybride paramétrique avec une quantification des paramètres par "analyse par synthèse" dont le codage CELP (pour "Code Excited Linear Prédiction" en anglais) est l'exemple le plus connu.
Pour les applications non conversationnelles, l'état de l'art en codage de signal audio (mono) est constitué par le codage perceptuel par transformée ou en sous-bandes, avec un codage paramétrique des hautes fréquences par réplication de bande (SBR pour Spectral
Band Réplication en anglais).
Une revue des méthodes classiques de codage de parole et audio se trouve dans les ouvrages W.B. Kleijn and K.K. Paliwal (Eds.), Speech Coding and Synthesis, Elsevier, 1995 ; M. Bosi, R.E. Goldberg, Introduction to Digital Audio Coding and Standards, Springer 2002 ; J. Benesty, M. M. Sondhi, Y. Huang (Eds.), Handbook of Speech Processing, Springer 2008.
On s'intéresse ici plus particulièrement au codée (codeur et décodeur) normalisé 3GPP AMR-WB (pour "Adaptive Multi-Rate Wideband" en anglais) qui fonctionne à une fréquence d'entrée/sortie de 16 kHz et dans lequel le signal est divisé en deux sous-bandes, la bande basse (0-6.4 kHz) qui est échantillonnée à 12.8 kHz et codée par modèle CELP et la bande haute (6.4-7 kHz) qui est reconstruite de façon paramétrique par « extension de bande » (ou BWE pour "Bandwidth Extension" en anglais) avec ou sans information supplémentaire selon le mode de la trame courante. On peut noter ici que la limitation de la bande codée du codée AMR-WB à 7kHz est essentiellement liée au fait que la réponse en fréquence en émission des terminaux en bande élargie a été approximée au moment de la normalisation (ETSI/3GPP puis UIT-T) selon le masque fréquentiel défini dans la norme UIT-T P.341 et plus précisément en utilisant un filtre dit « P341 » défini dans la norme UIT-T G.191 qui coupe les fréquences au-dessus de 7 kHz (ce filtre respecte le masque défini dans P.341). Cependant, en théorie, il est bien connu qu'un signal échantillonné à 16 kHz peut avoir une bande audio définie de 0 à 8000 Hz ; le codée AMR-WB introduit donc une limitation de la bande haute en comparaison à la largeur de bande théorique de 8 kHz.
Le codée de parole 3GPP AMR-WB a été normalisé en 2001 principalement pour les applications de téléphonie en mode circuit (CS) sur GSM (2G) et UMTS (3G). Ce même codée a été aussi normalisé en 2003 à l'UIT-T en tant que recommandation G.722.2 "Wideband coding speech at around 16kbit/s using Adaptive Multi-Rate Wideband (AMR-WB)".
Il comprend neuf débits, appelés modes, de 6.6 à 23.85 kbit/s, et comprend des mécanismes de transmission continue (DTX pour "Discontinuous Transmission") avec détection d'activité vocale (VAD pour "Voice Activity Détection") et génération de bruit de confort (CNG pour "Confort Noise Génération") à partir de trames de description de silence (SID pour "Silence Insertion Descriptor"), ainsi que des mécanismes de correction de trames perdues (FEC pour "Frame Erasure Concealment", parfois appelé PLC pour "Packet Loss Concealment").
On ne reprend pas ici les détails de l'algorithme de codage et de décodage AMR-WB, une description détaillée de ce codée se trouve dans les spécifications 3GPP (TS 26.190, 26.191, 26.192, 26.193, 26.194, 26.204) et UIT-T-G.722.2 (et les Annexes et Appendice correspondantes) ainsi que dans l'article de B. Bessette et al. intitulé « The adaptive multirate wideband speech codée (AMR-WB) », IEEE Transactions on Speech and Audio Processing, vol. 10, no. 8, 2002, pp. 620-636 et les codes sources des standards 3GPP et UIT-T associés.
Le principe de l'extension de bande dans le codée AMR-WB est assez rudimentaire. En effet, la bande haute (6.4-7 kHz) est générée en mettant en forme un bruit blanc par le biais d'une enveloppe temporelle (appliquée sous la forme de gains par sous-trame) et fréquentielle (par l'application d'un filtre de synthèse de prédiction linéaire ou LPC pour "Linear Prédictive Coding"). Cette technique d'extension de bande est illustrée à la figure 1.
Un bruit blanc, uHB1 (n) , n = 0, · · · , 79 , est généré à 16 kHz par sous-trame de 5 ms par générateur congruentiel linéaire (bloc 100). Ce bruit uHB1 (n) est mis en forme dans le temps par application de gains par sous-trame ; cette opération est décomposée en deux étapes de traitement (blocs 102, 106 ou 109) :
• Un premier facteur est calculé (bloc 101) pour mettre le bruit blanc uHB1 (n) (bloc
102) à un niveau semblable à celui de l'excitation, u(n) , « = (), · · - , 63 , décodée à 12.8 kHz dans la bande basse :
On peut noter ici que la normalisation des énergies se fait en comparant des blocs de taille différente (64 pour u(n) et 80 pour uHB1 (n) ), sans compensation des différences de fréquences d'échantillonnage (12.8 ou 16 kHz).
• L'excitation dans la bande haute est ensuite obtenue (bloc 106 ou 109) sous la forme :
uHB {n) = gHBuHB2{n)
où le gain gHB est obtenu différemment selon le débit. Si le débit de la trame actuelle est <23.85 kbit/s, le gain gHB est estimé « en aveugle » (c'est-à-dire sans information supplémentaire); dans ce cas, le bloc 103 filtre le signal décodé en bande basse par un filtre passe-haut ayant une fréquence de coupure à 400 Hz pour obtenir un signal shp (n) , « = (), · · - , 63 - ce filtre passe-haut élimine l'influence des très basses fréquences qui peuvent biaiser l'estimation faite dans le bloc 104 - puis on calcule le « tilt » (indicateur de pente spectrale) noté etilt du signal shp (n) par autocorrélation normalisée (bloc 104):
et enfin on calcule gHB sous la forme :
S m = wspSsp + ^ - wSP )gBG
où gsp = l - etilt est le gain appliqué dans les trames actives de parole (SP pour speech), gBG = l .25gsp est le gain appliqué dans les trames inactives de parole associées à un bruit de fond (BG pour Background) et wsp est une fonction de pondération qui dépend de la détection d'activité vocale (VAD). On comprend que l'estimation du tilt ( etilt ) permet d'adapter le niveau de la bande haute en fonction de la nature spectrale du signal ; cette estimation est particulièrement importante quand la pente spectrale du signal décodé CELP est telle que l'énergie moyenne décroît quand la fréquence augmente (cas d'un signal voisé où etilt est proche de 1, donc gsp = l - etilt est ainsi réduit). A noter aussi que le facteur gHB dans le décodage AMR-WB est borné pour prendre des valeurs dans l'intervalle [0.1, 1.0]. En fait, pour les signaux dont le spectre a plus d'énergie en hautes fréquences { etiU proche de -1, gsp proche de 2), le gain gHB est d'habitude sous-estimé.
A 23.85 kbit/s, une information de correction est transmise par le codeur AMR-WB et décodée (blocs 107, 108) afin d'affiner le gain estimé par sous-trame (4 bits toutes les 5ms, soit 0.8 kbit/s).
L'excitation artificielle uHB (n) est ensuite filtrée (bloc 111) par un filtre de synthèse LPC de fonction de transfert \ l AHB (z) et fonctionnant à la fréquence d'échantillonnage de 16 kHz. La réalisation de ce filtre dépend du débit de la trame courante:
• A 6.6 kbit/s, le filtre \ l AHB (z) est obtenu en pondérant par un facteur ^=0.9 un filtre LPC d'ordre 20, l / Àex'(z) qui « extrapole » le filtre LPC d'ordre 16, I l A(z) , décodé dans la bande basse (à 12.8 kHz) - les détails de l'extrapolation dans le domaine des paramètres ISF (pour "Imittance Spectral Frequency" en anglais) sont décrits dans la norme G.722.2 à la section 6.3.2.1; dans ce cas,
• Aux débits > 6.6 kbit/s, le filtre 1 / AHB (z) est d'ordre 16 et correspond simplement à :
où ^=0.6. A noter que dans ce cas le filtre 1 / λ{ζ Ι ) est utilisé à 16 kHz, ce qui résulte en un étalement (par homothétie) de la réponse en fréquence de ce filtre de [0, 6.4 kHz] à [0, 8 kHz].
Le résultat, sHB (n) , est enfin traité par un filtre passe-bande (bloc 112) de type FIR ("Finite
Impulse Response"), pour ne garder que la bande 6 - 7 kHz ; à 23.85 kbit/s, un filtre passe- bas également de type FIR (bloc 113) se rajoute au traitement pour atténuer encore plus les fréquences supérieures à 7 kHz. La synthèse en hautes fréquences (HF) est finalement additionnée (bloc 130) à la synthèse en basses fréquences (BF) obtenue avec les blocs 120 à 123 et ré-échantillonnée à 16 kHz (bloc 123). Ainsi même si la bande haute s'étend en théorie de 6.4 à 7 kHz dans le codée AMR-WB, la synthèse HF est plutôt comprise dans la bande 6-7 kHz avant addition avec la synthèse BF.
On peut identifier plusieurs inconvénients à la technique d'extension de bande du codée AMR-WB :
• Le signal dans la bande haute est un bruit blanc mis en forme (par gains temporels par sous-trame, par filtrage par 1 / AHB (z) et filtrage passe-bande), ce qui n'est pas un bon modèle général du signal dans la bande 6.4-7 kHz. Il existe par exemple des signaux de musique très harmoniques pour lesquels la bande 6.4-7 kHz contient des composantes sinusoïdales (ou tones) et aucun bruit (ou peu de bruit), pour ces signaux l'extension de bande du codée AMR-WB dégrade fortement la qualité.
• Le filtre passe-bas à 7 kHz (bloc 113) introduit un décalage de près de 1 ms entre les bandes basses et hautes, ce qui peut potentiellement dégrader la qualité de certains signaux en désynchronisant légèrement les deux bandes à 23.85 kbit/s - cette désynchronisation peut également poser problème lors d'une commutation de débit de 23.85 kbit/s à d'autres modes.
• L'estimation de gains par sous-trame (bloc 101, 103 à 105) n'est pas optimale. Pour partie, elle se base sur une égalisation de l'énergie « absolue » par sous-trame (bloc 101) entre des signaux à des fréquences différentes : l'excitation artificielle à 16 kHz (bruit blanc) et un signal à 12.8 kHz (excitation ACELP décodée). On peut noter en particulier que cette approche induit implicitement une atténuation de l'excitation bande haute (par un ratio 12.8/16=0.8) ; en fait, on notera également qu'aucune désaccentuation (ou déemphase) n'est effectuée sur la bande haute dans le codée AMR-WB, ce qui induit implicitement une amplification relative proche de 0.6 (qui correspond à la valeur de la réponse en fréquence de l / (l - 0.68z_1 ) à 6400 Hz).
En fait, les facteurs de 1/0.8 et de 0.6 se compensent approximativement.
• Sur la parole, les tests de caractérisation du codée 3GPP AMR-WB documentés dans le rapport 3GPP TR 26.976 ont montré que le mode à 23.85 kbit/s a une qualité moins bonne qu'à 23.05 kbit/s, sa qualité est en fait similaire à celle du mode à 15.85 kbit/s. Ceci montre en particulier que le niveau du signal HF artificiel doit être contrôlé de façon très prudente, car la qualité est dégradée à 23.85 kbit/s alors que les 4 bits par trame sont sensés permettre de mieux approcher l'énergie des hautes fréquences originales.
• La limitation de la bande codée à 7 kHz résulte de l'application d'un modèle strict de la réponse en émission des terminaux acoustiques (filtre P.341 dans la norme UIT-T G.191). Or, pour une fréquence d'échantillonnage de 16 kHz, les fréquences dans la bande 7-8 kHz restent importantes, en particulier pour les signaux de musique, pour assurer un bon niveau de qualité.
L'algorithme de décodage AMR-WB a été amélioré en partie avec le développement du codée scalable UIT-T G.718 qui a été normalisé en 2008.
La norme UIT-T G.718 comprend un mode dit interopérable, pour lequel le codage cœur est compatible avec le codage G.722.2 (AMR-WB) à 12.65 kbit/s ; de plus, le décodeur G.718 a la particularité de pouvoir décoder un train binaire AMR-WB/G.722.2 à tous les débits possibles du codée AMR-WB (de 6.6 à 23.85 kbit/s). Le décodeur interopérable G.718 en mode bas délai (« low delay » en anglais) (G.718-LD) est illustré à la figure 2. On liste ci-dessous les améliorations apportées à la fonctionnalité de décodage de train binaire AMR-WB dans le décodeur G.718, avec des références à la figure 1 lorsque nécessaire :
L'extension de bande (décrite par exemple dans la clause 7.13.1 de la recommandation G.718, bloc 206) est identique à celle du décodeur AMR-WB, sauf que le filtre passe-bande 6- 7 kHz et le filtre de synthèse 1/AHB(Z) (blocs 111 et 112) sont en ordre inversé. De plus, à 23.85 kbit/s les 4 bits transmis par sous-trames par le codeur AMR-WB ne sont pas utilisés dans le décodeur G.718 interopérable ; la synthèse des hautes fréquences (HF) à 23.85 kbit/s est donc identique à 23.05 kbit/s ce qui évite le problème connu de qualité du décodage AMR-WB à 23.85 kbit/s. A fortiori, le filtre passe-bas à 7 kHz (bloc 113) n'est pas utilisé, et le décodage spécifique du mode à 23.85 kbit/s est omis (blocs 107 à 109).
Un post-traitement de la synthèse à 16 kHz (voir clause 7.14 de G.718) est mis en œuvre dans G.718 par "noise gâte" dans le bloc 208 (pour « améliorer » la qualité des silences par réduction du niveau), filtrage passe-haut (bloc 209), post-filtre de basses fréquences (dit « bass posfilter ») dans le bloc 210 atténuant le bruit inter-harmonique en basses fréquences et une conversion en entiers 16 bits avec contrôle de saturation (avec contrôle de gain ou AGC) dans le bloc 211. Cependant l'extension de bande dans les codées AMR-WB et/ou G.718 (mode interopérable) reste encore limitée sur plusieurs aspects.
En particulier, la synthèse de hautes fréquences par bruit blanc mis en forme (par une approche temporelle de type source-filtre LPC) est un modèle très limité du signal dans la bande des fréquences supérieures à 6.4 kHz.
Seule la bande 6.4-7 kHz est re-synthétisée de façon artificielle, alors qu'en pratique une bande plus large (jusqu'à 8 kHz) est en théorie possible à la fréquence d'échantillonnage de 16 kHz, ce qui peut potentiellement améliorer la qualité des signaux, s'ils ne sont pas prétraités par un filtre de type P.341 (50-7000 Hz) tel que définie dans la Software Tool Library (norme G.191) de l'UIT-T.
Il existe donc un besoin pour améliorer l'extension de bande dans un codée de type AMR-WB ou une version interopérable de ce codée ou plus généralement pour améliorer l'extension de bande d'un signal audio, notamment pour améliorer le contenu fréquentiel de l'extension de bande.
La présente invention vient améliorer la situation.
L'invention propose à cet effet, un procédé d'extension de bande de fréquence d'un signal audiofréquence lors d'un processus de décodage ou d'amélioration comportant une étape d'obtention du signal décodé dans une première bande de fréquence dite bande basse. Le procédé est tel qu'il comporte les étapes suivantes:
- extraction de composantes tonales et d'un signal d'ambiance à partir d'un signal issu du signal bande basse décodé;
- combinaison des composantes tonales et du signal d'ambiance par mixage adaptatif utilisant des facteurs de contrôle de niveau d'énergie pour obtenir un signal audio, dit signal combiné;
- extension sur au moins une deuxième bande de fréquence supérieure à la première bande de fréquence du signal décodé bande basse avant l'étape d'extraction ou du signal combiné après l'étape de combinaison.
On notera que par la suite Γ « extension de bande » sera prise au sens large et inclura non seulement le cas de l'extension d'une sous-bande en hautes fréquences mais également le cas d'un remplacement de sous-bandes mises à zéro (de type « noise filling » en codage par transformée).
Ainsi, à la fois la prise en compte de composantes tonales et d'un signal d'ambiance extrait du signal issu du décodage de la bande basse permet d'effectuer l'extension de bande avec un modèle de signal adapté à la vraie nature du signal contrairement à l'utilisation d'un bruit artificiel. La qualité de l'extension de bande est ainsi améliorée et notamment pour certains types de signaux comme les signaux de musique.
En effet, le signal décodé dans la bande basse comporte une partie correspondant à l'ambiance sonore qui peut être transposée en haute fréquence de telle sorte qu'un mixage des composantes harmoniques et de l'ambiance existante permet d'assurer une bande haute reconstruite cohérente.
On remarquera que même si l'invention est motivée par l'amélioration de la qualité de l'extension de bande dans le contexte du codage AMR-WB interopérable, les différents modes de réalisation s'appliquent au cas plus général de l'extension de bande d'un signal audio, en particulier dans un dispositif d'amélioration effectuant une analyse du signal audio pour extraire les paramètres nécessaires à l'extension de bande.
Les différents modes particuliers de réalisation mentionnés ci-après peuvent être ajoutés indépendamment ou en combinaison les uns avec les autres, aux étapes du procédé d'extension défini ci-dessus.
Dans un mode de réalisation, l'extension de bande est effectuée dans le domaine de l'excitation et le signal bande basse décodé est un signal d'excitation bande basse décodé.
L'avantage de ce mode de réalisation est qu'une transformation sans fenêtrage (ou de façon équivalente avec une fenêtre rectangulaire implicite de la longueur de la trame) est possible dans le domaine de l'excitation. Dans ce cas aucun artefact (effets de bloc) n'est alors audible. Dans un premier mode de réalisation, l'extraction des composantes tonales et du signal d'ambiance s'effectue selon les étapes suivantes :
détection des composantes tonales dominantes du signal bande basse décodé ou décodé et étendu, dans le domaine fréquentiel ;
- calcul d'un signal résiduel par extraction des composantes tonales dominantes pour obtenir le signal d'ambiance.
Ce mode de réalisation permet une détection précise des composantes tonales.
Dans un deuxième mode de réalisation, de faible complexité, l'extraction des composantes tonales et du signal d'ambiance s'effectue selon les étapes suivantes :
- obtention du signal d'ambiance par calcul d'une valeur moyenne du spectre du signal bande basse décodé ou décodé et étendu ;
obtention des composantes tonales par soustraction du signal d'ambiance calculé au signal bande basse décodé ou décodé et étendu.
Dans un mode de réalisation de l'étape de combinaison, un facteur de contrôle du niveau d'énergie utilisé pour le mixage adaptatif, est calculé en fonction de l'énergie totale du signal bande basse décodé ou décodé et étendu et des composantes tonales.
L'application de ce facteur de contrôle permet à l'étape de combinaison de s'adapter aux caractéristiques du signal pour optimiser la proportion relative de signal d'ambiance dans le mélange. Le niveau d'énergie est ainsi contrôlé de façon à éviter les artefacts audibles.
Dans un mode de réalisation préféré, le signal bande basse décodé subit une étape de décomposition en sous-bandes par transformée ou par banc de filtres, les étapes d'extraction et de combinaison s'effectuant alors dans le domaine fréquentiel ou en sous- bandes.
La mise en œuvre de l'extension de bande dans le domaine fréquentiel permet d'obtenir une finesse d'analyse en fréquence dont on ne dispose pas avec une approche temporelle, et permet aussi d'avoir une résolution fréquentielle suffisante pour détecter les composantes tonales.
Dans un mode de réalisation détaillé, le signal bande basse décodé et étendu est obtenu selon l'équation suivante: UHBl (k) =
avec k l'indice de l'échantillon, U(k) le spectre du signal obtenu après une étape de transformée UHB1 (k) le spectre du signal étendu, et start_band une variable prédéfinie.
Ainsi, cette fonction comprend un ré-échantillonnage du signal en ajoutant des échantillons au spectre de ce signal. D'autres façons d'étendre le signal sont cependant possibles, par exemple par translation dans un traitement sous-bandes. La présente invention vise également un dispositif d'extension de bande de fréquence d'un signal audiofréquence, le signal ayant été décodé dans une première bande de fréquence dite bande basse. Le dispositif est tel qu'il comporte:
- un module d'extraction de composantes tonales et d'un signal d'ambiance à partir d'un signal issu du signal bande basse décodé;
- un module de combinaison des composantes tonales et du signal d'ambiance par mixage adaptatif utilisant des facteurs de contrôle de niveau d'énergie pour obtenir un signal audio, dit signal combiné;
- un module d'extension sur au moins une deuxième bande de fréquence supérieure à la première bande de fréquence mis en œuvre sur le signal décodé bande basse avant le module d'extraction ou sur le signal combiné après le module de combinaison.
Ce dispositif présente les mêmes avantages que le procédé décrit précédemment, qu'il met en œuvre.
L'invention vise un décodeur comportant un dispositif tel que décrit.
Elle vise un programme informatique comportant des instructions de code pour la mise en œuvre des étapes du procédé d'extension de bande tel que décrit, lorsque ces instructions sont exécutées par un processeur.
Enfin l'invention se rapporte à un support de stockage, lisible par un processeur, intégré ou non au dispositif d'extension de bande, éventuellement amovible, mémorisant un programme informatique mettant en œuvre un procédé d'extension de bande tel que décrit précédemment.
D'autres caractéristiques et avantages de l'invention apparaîtront plus clairement à la lecture de la description suivante, donnée uniquement à titre d'exemple non limitatif, et faite en référence aux dessins annexés, sur lesquels :
- la figure 1 illustre une partie d'un décodeur de type AMR-WB mettant en œuvre des étapes d'extension de bande de fréquence de l'état de l'art et tel que décrit précédemment;
la figure 2 illustre un décodeur de type interopérable G.718-LD à 16kHz selon l'état de l'art et tel que décrit précédemment;
- la figure 3 illustre un décodeur interopérable avec le codage AMR-WB et intégrant un dispositif d'extension de bande selon un mode de réalisation de l'invention; la figure 4 illustre sous forme d'organigramme, les étapes principales d'un procédé d'extension de bande selon un mode de réalisation de l'invention;
la figure 5 illustre un mode de réalisation dans le domaine fréquentiel d'un dispositif d'extension de bande selon l'invention intégré dans un décodeur; et la figure 6 illustre une réalisation matérielle d'un dispositif d'extension de bande selon l'invention. La figure 3 illustre un exemple de décodeur, compatible avec la norme AMR- WB/G.722.2 dans lequel on retrouve un post-traitement similaire à celui introduit dans G.718 et décrit en référence à la figure 2 et une extension de bande améliorée selon le procédé d'extension de l'invention, mis en œuvre par le dispositif d'extension de bande illustré par le bloc 309.
Contrairement au décodage AMR-WB qui fonctionne avec une fréquence d'échantillonnage de sortie de 16 kHz et au décodage G.718 qui fonctionne à 8 ou 16 kHz, on considère ici un décodeur qui peut fonctionner avec un signal de sortie (synthèse) à la fréquence fs = 8, 16, 32 ou 48 kHz. A noter qu'on suppose ici que le codage a été effectué selon l'algorithme AMR-WB avec une fréquence interne de 12.8 kHz pour le codage CELP en bande basse et à 23.85 kbit/s un codage de gain par sous-trame à la fréquence de 16 kHz, mais des variantes interopérables du codeur AMR-WB sont également possibles ; même si l'invention est décrite ici au niveau du décodage, on suppose ici que le codage peut aussi fonctionner avec un signal d'entrée à la fréquence fs = 8, 16, 32 ou 48 kHz et des opérations de ré-échantillonnage adéquates, dépassant le cadre de l'invention, sont mises en œuvre au codage en fonction de la valeur de fs. On peut noter que quand fs=8 kHz au décodeur, dans le cas d'un décodage compatible avec AMR-WB, il n'est pas nécessaire d'étendre la bande basse 0-6.4 kHz, car la bande audio reconstruite à la fréquence /s est limitée à 0-4000 Hz.
A la figure 3, le décodage CELP (BF pour basses fréquences) fonctionne toujours à la fréquence interne de 12.8 kHz, comme dans AMR-WB et G.718, et l'extension de bande (HF pour hautes fréquences) faisant l'objet de l'invention fonctionne à la fréquence de 16 kHz, les synthèses BF et HF sont combinées (bloc 312) à la fréquence fs après ré-échantillonnage adéquat (blocs 307 et 311). Dans des variantes de l'invention, la combinaison des bandes basse et haute pourra se faire à 16 kHz, après avoir ré-échantillonnée la bande basse de 12.8 à 16 kHz, avant de ré-échantillonner le signal combiné à la fréquence fs.
Le décodage selon la figure 3 dépend du mode (ou débit) AMR-WB associé à la trame courante reçue. A titre indicatif et sans que cela impacte le bloc 309, le décodage de la partie CELP en bande basse comporte les étapes suivantes:
• Démultiplexage des paramètres codés (bloc 300) en cas de trame correctement reçue ( =0 où est le « bad frame indicator » valant 0 pour une trame reçue et 1 pour une trame perdue).
• Décodage des paramètres ISF avec interpolation et conversion en coefficients LPC (bloc 301) comme décrit dans la clause 6.1 de la norme G.722.2.
• Décodage de l'excitation CELP (bloc 302), avec une partie adaptative et fixe pour reconstruire l'excitation (exc ou u n) ) dans chaque sous-trame de longueur 64 à
12.8 kHz:
u '(n) = gpv(n) + gcc(n) , η = 0,· · ·,63 en suivant les notations de la clause 7.1.2.1 de G.718 concernant le décodage CELP, où v(n) et c(n) sont respectivement les mots de code des dictionnaires adaptatif et fixe, et g et gc sont les gains décodés associés. Cette excitation u n) est utilisée dans le dictionnaire adaptatif de la sous-trame suivante ; elle est ensuite post-traitée et on distingue comme dans G.718 l'excitation u n) (aussi notée exc) de sa version post-traitée modifiée u(n) (aussi notée exc2) qui sert d'entrée au filtre de synthèse, 1 / Â(z) , dans le bloc 303. Dans des variantes qui peuvent être mises en œuvre pour l'invention, les post-traitements appliqués à l'excitation peuvent être modifiés (par exemple, la dispersion de phase peut être améliorée) ou ces post- traitements peuvent être étendus (par exemple, une réduction du bruit interharmonique peut être mise en œuvre), sans affecter la nature du procédé d'extension de bande selon l'invention.
• Filtrage de synthèse par 1 / Â(z) (bloc 303) où le filtre LPC décodé Â(z) est d'ordre 16
· Post-traitement bande étroite (bloc 304) selon la clause 7.3 de G.718 si fs=8 kHz.
• Désaccentuation (bloc 305) par le filtre 1 / (l - 0.68z_1 )
• Post-traitement des basses fréquences (bloc 306) tel que décrit à la clause 7.14.1.1 de G.718. Ce traitement introduit un retard qui est pris en compte dans le décodage de la bande haute (>6.4 kHz).
· Ré-échantillonnage de la fréquence interne de 12.8 kHz à la fréquence de sortie fs
(bloc 307). Plusieurs réalisations sont possibles. Sans perte de généralité, on considère ici à titre d'exemple que si fs=8 ou 16 kHz, le ré-échantillonnage décrit dans la clause 7.6 de G.718 est repris ici, et si fs=32 ou 48 kHz, des filtres à réponse impulsionnelle finie (FIR) supplémentaires sont utilisés.
· Calcul des paramètres du "noise gâte" (bloc 308) qui est réalisé de façon préférentielle comme décrit dans la clause 7.14.3 de G.718.
Dans des variantes qui peuvent être mises en œuvre pour l'invention, les post-traitements appliqués à l'excitation peuvent être modifiés (par exemple, la dispersion de phase peut être améliorée) ou ces post-traitements peuvent être étendus (par exemple, une réduction du bruit inter-harmonique peut être mise en œuvre), sans affecter la nature de l'extension de bande. On ne décrit pas ici le cas du décodage de la bande basse lorsque la trame courante est perdue (bfi= l) qui est informatif dans la norme 3GPP AMR-WB ; en général, qu'il s'agisse du décodeur AMR-WB ou d'un décodeur général s'appuyant sur le modèle source-filtre, il s'agit typiquement d'estimer au mieux l'excitation LPC et les coefficients du filtre LPC de synthèse afin de reconstituer le signal perdu en gardant le modèle source-filtre. Lorsque bfi= l on considère ici que l'extension de bande (bloc 309) peut fonctionner comme dans le cas =0 et un débit <23.85 kbit/s ; ainsi, la description de l'invention supposera par la suite et sans perte de généralité que =0.
On peut noter que l'utilisation des blocs 306, 308, 314 est optionnelle.
On notera également que le décodage de la bande basse décrit ci-dessus suppose une trame courante dite « active » avec un débit entre 6.6 et 23.85 kbit/s. En fait, quand le mode DTX (transmission continue en français) est activé, certaines trames peuvent être codées comme « inactives » et dans ce cas on peut soit transmettre un descripteur de silence (sur 35 bits) soit ne rien transmettre. En particulier, on rappelle que la trame SID du codeur AMR-WB décrit plusieurs paramètres : paramètres ISF moyennés sur 8 trames, énergie moyenne sur 8 trames, "flag de dithering" pour la reconstruction de bruit non stationnaire. Dans tous les cas, au décodeur, on retrouve le même modèle de décodage que pour une trame active, avec une reconstruction de l'excitation et d'un filtre LPC pour la trame courante, ce qui permet d'appliquer l'invention même sur des trames inactives. Le même constat s'applique pour le décodage de « trames perdues » (ou FEC, PLC) dans lequel le modèle LPC est appliqué.
Cet exemple de décodeur fonctionne dans le domaine de l'excitation et comporte donc une étape de décodage du signal d'excitation bande basse. Le dispositif d'extension de bande et le procédé d'extension de bande au sens de l'invention fonctionne également dans un domaine différent du domaine de l'excitation et notamment avec un signal direct décodé en bande basse ou un signal pondéré par un filtre perceptuel.
Contrairement au décodage AMR-WB ou G.718, le décodeur décrit permet d'étendre la bande basse décodée (50-6400 Hz en tenant en compte du filtrage passe-haut à 50 Hz au décodeur, 0-6400 Hz dans le cas général) à une bande étendue dont la largeur varie, allant approximativement de 50-6900 Hz à 50-7700 Hz en fonction du mode mis en œuvre dans la trame courante. On peut ainsi parler d'une première bande de fréquence de 0 à 6400Hz et d'une deuxième bande de fréquence de 6400 à 8000Hz. En réalité, dans le mode de réalisation privilégié, l'excitation pour les hautes fréquences et généré dans le domaine fréquentiel dans une bande de 5000 à 8000 Hz, pour permettre un filtrage passe-bande de largeur 6000 à 6900 ou 7700 Hz dont la pente n'est pas trop raide dans la bande supérieure rejetée.
La partie synthèse bande haute est réalisée dans le bloc 309 représentant le dispositif d'extension de bande selon l'invention et qui est détaillé à la figure 5 dans un mode de réalisation.
Afin d'aligner les bandes basses et hautes décodées, un retard (bloc 310) est introduit pour synchroniser les sorties des blocs 306 et 309 et la bande haute synthétisée à 16 kHz est ré-échantillonnée de 16 kHz à la fréquence fs (sortie de bloc 311). La valeur du retard devra être adaptée pour les autres cas {fs=32, 48 kHz) en fonction des traitements mis en œuvre. On rappelle que quand fs=8 kHz, il n'est pas nécessaire d'appliquer les blocs 309 à 311 car la bande du signal en sortie du décodeur est limité à 0-4000 Hz. A noter que le procédé d'extension de l'invention mis en œuvre dans le bloc 309 selon le premier mode de réalisation n'introduit de façon préférentielle aucun retard supplémentaire par rapport à la bande basse reconstruite à 12.8 kHz ; cependant, dans des variantes de l'invention (par exemple en utilisant une transformation temps/fréquence avec recouvrement), un retard pourra être introduit. Ainsi, de façon générale la valeur de dans le bloc 310 devra être ajustée en fonction de la mise en œuvre spécifique. Par exemple dans le cas où le post-traitement des basses fréquences (bloc 306) n'est pas utilisé, le retard à introduire pour fs= l6 kHz pourra être fixé à Γ=15.
Les bandes basse et haute sont ensuite combinées (ajoutées) dans le bloc 312 et la synthèse obtenue est post-traitée par filtrage passe-haut à 50 Hz (de type IIR) d'ordre 2 dont les coefficients dépendent de la fréquence fs (bloc 313) et post-traitement de sortie avec application optionnelle du "noise gate"de façon similaire à G.718 (bloc 314).
Le dispositif d'extension de bande selon l'invention, illustré par le bloc 309 selon le mode de réalisation du décodeur de la figure 5, met en œuvre un procédé d'extension de bande (au sens large) décrit maintenant en référence à la figure 4.
Ce dispositif d'extension peut également être indépendant du décodeur et peut mettre en œuvre le procédé décrit à la figure 4 pour effectuer une extension de bande d'un signal audio existant stocké ou transmis au dispositif, avec une analyse du signal audio pour en extraire par exemple une excitation et un filtre LPC.
Ce dispositif reçoit en entrée un signal décodé dans une première bande de fréquence dite bande basse u(ri) qui peut être dans le domaine de l'excitation ou dans celui du signal. Dans le mode de réalisation décrit ici, une étape de décomposition en sous-bandes (E401b) par transformée temps fréquence ou banc de filtres est appliquée au signal décodé bande basse pour obtenir le spectre du signal décodé bande basse U (k) pour une mise en œuvre dans le domaine fréquentiel.
Une étape E401a d'extension du signal décodé bande basse dans une deuxième bande de fréquence supérieure à la première bande de fréquence, pour obtenir un signal décodé bande basse étendu UHB1 (k) , peut être effectuée sur ce signal décodé bande basse avant ou après l'étape d'analyse (décomposition en sous-bandes). Cette étape d'extension peut comporter à la fois une étape de ré-échantillonnage et une étape d'extension ou simplement une étape de translation ou transposition fréquentielle en fonction du signal obtenu en entrée. On notera que dans des variantes, l'étape E401a pourra être effectuée à la fin du traitement décrit à la figure 4„ c'est-à-dire sur le signal combiné, ce traitement étant alors principalement réalisé sur le signal bande basse avant extension, le résultat étant équivalent.
Cette étape est détaillée ultérieurement dans le mode de réalisation décrit en référence à la figure 5. Une étape E402 d'extraction d'un signal d'ambiance (UHBA(k)) et de composantes tonales (y(k)) est effectuée à partir du signal bande basse décodé ( U(k) ) ou décodé et étendu ( UHB1 (k) ). On définit ici l'ambiance comme le signal résiduel qui est obtenu en supprimant dans le signal existant les harmoniques (ou composantes tonales) principales (ou dominantes).
Dans la plupart des signaux en bande élargie (échantillonnés à 16 kHz), la bande haute (>6 kHz) contient une information d'ambiance qui est en général similaire à celle présente dans la bande basse.
L'étape d'extraction des composantes tonales et du signal d'ambiance comprend par exemple les étapes suivantes:
- détection des composantes tonales dominantes du signal bande basse décodé (ou décodé et étendu), dans le domaine fréquentiel; et
- calcul d'un signal résiduel par extraction des composantes tonales dominantes pour obtenir le signal d'ambiance.
Cette étape peut également être obtenue par:
- obtention du signal d'ambiance par calcul d'une moyenne du signal bande basse décodé (ou décodé et étendu); et
- obtention des composantes tonales par soustraction du signal d'ambiance calculé au signal bande basse décodé (ou décodé et étendu).
Les composantes tonales et le signal d'ambiance sont ensuite combinés de façon adaptative à l'aide de facteurs de contrôle de niveau d'énergie à l'étape E403 pour obtenir un signal dit combiné ( UHB2 (k) ). L'étape d'extension E401a peut alors être mise en œuvre si elle n'a pas été déjà effectuée sur le signal bande basse décodé.
Ainsi, la combinaison de ces deux types de signaux permet d'obtenir un signal combiné avec des caractéristiques plus adaptées à certains types de signaux comme des signaux musicaux et plus riche en contenu fréquentiel et dans la bande de fréquence étendue correspondant à toute la bande de fréquence incluant la première et la deuxième bande de fréquence.
L'extension de bande selon le procédé améliore la qualité pour ce type de signaux par rapport à l'extension décrite dans la norme AMR-WB.
Le fait d'utiliser une combinaison de signal d'ambiance et de composantes tonales permet d'enrichir ce signal d'extension pour le rendre plus proche des caractéristiques du vrai signal et non pas d'un signal artificiel.
Cette étape de combinaison sera détaillée ultérieurement en référence à la figure 5. Une étape de synthèse, qui correspond à l'analyse en 401b, est effectuée en E404b pour ramener le signal dans le domaine temporel. De façon optionnelle, une étape d'ajustement de niveau d'énergie du signal bande haute peut être effectuée en E404a, avant et/ou après l'étape de synthèse, par application d'un gain et/ou par filtrage adéquat. Cette étape sera expliquée plus en détails dans le mode de réalisation décrit à la figure 5 pour les blocs 501 à 507.
Dans un exemple de réalisation, le dispositif d'extension de bande 500 est décrit maintenant en référence à la figure 5 illustrant à la fois ce dispositif mais aussi des modules de traitement adaptés à la mise en œuvre dans un décodeur de type interopérable avec un codage AMR-WB. Ce dispositif 500 met en œuvre le procédé d'extension de bande décrit précédemment en référence à la figure 4.
Ainsi, le bloc de traitement 510 reçoit un signal bande basse décodé ( u(n) ). Dans un mode de réalisation particulier, l'extension de bande utilise l'excitation décodée à 12.8 kHz (exc2 ou u(n) ) en sortie du bloc 302 de la figure 3.
Ce signal est décomposé en sous-bandes de fréquence par le module de décomposition en sous-bandes 510 (qui met en œuvre l'étape E401b de la figure 4) qui réalise en général une transformée ou applique un banc de filtres, pour obtenir une décomposition en sous-bandes U(k) du signal u(n) .
Dans un mode de réalisation particulier, une transformée de type DCT-IV (pour "Discrète Cosine Transform" - Type IV en anglais) (bloc 510) est appliquée sur la trame courante de 20 ms (256 échantillons), sans fenêtrage, ce qui revient à transformer directement u n) avec η = 0,· · ·, 255 selon la formule suivante :
où N = 256 et fc = 0,- - -, 255 .
Une transformation sans fenêtrage (ou de façon équivalente avec une fenêtre rectangulaire implicite de la longueur de la trame) est possible lorsque le traitement est effectué dans le domaine de l'excitation, et non le domaine du signal. Dans ce cas aucun artefact (effets de bloc) n'est audible, ce qui constitue un avantage important de ce mode de réalisation de l'invention.
Dans ce mode de réalisation, la transformation DCT-IV est mise en œuvre par FFT suivant l'algorithme dit « Evolved ZXT(EDCT) » décrit dans l'article de D.M. Zhang, HT. Li, A Low Complexity Transform - Evolved DCT, IEEE 14th International Conférence on Computational Science and Engineering (CSE), Aug. 2011, pp. 144-149, et mis en œuvre dans les normes UIT-T G.718 Annex B et G.729.1 Annex E.
Dans des variantes de l'invention et sans perte de généralité, la transformation DCT- IV pourra être remplacée par d'autres transformations temps-fréquences court-terme de même longueur et dans le domaine de l'excitation ou dans le domaine du signal, comme une FFT (pour " Fast Fourier Transform" en anglais) ou une DCT-II {Discrète Cosine Transform - Type II). De façon alternative, on pourra remplacer la DCT-IV sur la trame par une transformation avec recouvrement-addition et fenêtrage de longueur supérieure à la longueur de la trame courante, par exemple en utilisant une MDCT (pour "Modifiée! Discrète Cosine Tranform" en anglais). Dans ce cas le retard dans le bloc 310 de la figure 3, devra être ajusté (réduit) de façon adéquate en fonction du retard additionnel dû à l'analyse/synthèse par cette transformée.
Dans un autre mode de réalisation, la décomposition en sous-bandes est effectuée par l'application d'un banc de filtres, par exemple de type PQMF (Pseudo-QMF) réels ou complexes. Pour certains bancs de filtres, on obtient, pour chaque sous-bande dans une trame donnée, non pas une valeur spectrale mais une série de valeurs temporelles associée à la sous-bande ; dans ce cas, le mode de réalisation privilégié dans l'invention peut être appliqué en réalisant par exemple une transformée de chaque sous-bande et en calculant le signal d'ambiance dans le domaine des valeurs absolues, les composantes tonales étant toujours obtenues par différence entre le signal (en valeur absolue) et le signal d'ambiance. Dans le cas d'un banc de filtre complexe, le module complexe des échantillons remplacera la valeur absolue.
Dans d'autres modes de réalisation, l'invention sera appliqué dans un système utilisant deux sous-bandes, la bande basse étant analysé par transformée ou par banc de filtres.
Dans le cas d'une DCT, le spectre DCT, U (k) , de 256 échantillons couvrant la bande
0-6400 Hz (à 12.8 kHz), est ensuite étendu (bloc 511) en un spectre de 320 échantillons couvrant la bande 0-8000 Hz (à 16 kHz) sous la forme suivante :
où on prend de façon préférentielle start_band = 160.
Le bloc 511 met en œuvre l'étape E401a de la figure 4, c'est-à-dire l'extension du signal décodé bande basse. Cette étape peut également comporter un ré-échantillonnage de 12.8 à 16 kHz dans le domaine fréquentiel, en rajoutant ¼ d'échantillons ( k = 240, ·■ -,319 ) au spectre, le ratio entre 16 et 12.8 étant de 5/4.
Dans la bande de fréquence correspondant aux échantillons allant des indices 200 à
239, le spectre original est conservé, pour pouvoir y appliquer une réponse d'atténuation progressive du filtre passe-haut dans cette bande de fréquence et aussi pour ne pas introduire de défauts audibles lors de l'étape d'addition de la synthèse basse fréquence à la synthèse haute fréquence. On notera que dans ce mode de réalisation, la génération du spectre étendu sur- échantillon né s'effectue dans une bande de fréquence allant de 5 à 8 kHz incluant donc une deuxième bande de fréquence (6.4-8kHz) supérieure à la première bande de fréquence (0- 6.4 kHz).
Ainsi, l'extension du signal bande basse décodé s'effectue au moins sur la deuxième bande de fréquence mais aussi sur une partie de la première bande de fréquence.
Bien évidemment, les valeurs définissant ces bandes de fréquences peuvent être différentes selon le décodeur ou le dispositif de traitement dans lequel l'invention s'applique. De plus, le bloc 511 réalise un filtrage passe-haut implicite dans la bande 0-5000 Hz puisque les 200 premiers échantillons de UHB1(k) sont mis à zéro ; comme expliqué plus tard, ce filtrage passe-haut peut également être complété par une partie d'atténuation progressive des valeurs spectrales d'indices k = 200,· · -, 255 dans la bande 5000-6400 Hz, cette atténuation progressive est mise en œuvre dans le bloc 501 mais pourrait être réalisée séparément en dehors du bloc 501. De façon équivalente et dans des variantes de l'invention, la mise en œuvre du filtrage passe-haut séparée en blocs de coefficients d'indice £ = 0,· · ·,199 mis à zéro, de coefficients k = 200,· · -, 255 atténués, dans le domaine transformé, pourra donc être effectué en une seule étape.
Dans cet exemple de réalisation et selon la définition de UHB1(k) , on remarque que la bande 5000-6000 Hz de U HBl (k) (qui correspond aux indices k = 200, · - -, 239 ) est copiée à partir de la bande 5000-6000 Hz de U (k) . Cette approche permet de conserver le spectre original dans cette bande et elle évite d'introduire des distorsions dans la bande 5000-6000 Hz lors de l'addition de la synthèse HF avec la synthèse BF - en particulier la phase du signal (implicitement représentée dans le domaine DCT-IV) dans cette bande est préservée.
La bande 6000-8000 Hz de UHB1 (k) est ici définie en copiant la bande 4000-6000 Hz de U (k) puisque la valeur de start_band est fixée préférentiel lement à 160.
Dans une variante du mode de réalisation, la valeur de start_band pourra être rendue adaptative autour de la valeur de 160, sans modifier la nature de l'invention. Les détails de l'adaptation de la valeur start_band ne sont pas décrits ici car ils dépassent le cadre de l'invention sans en changer la portée.
Dans la plupart des signaux en bande élargie (échantillonnés à 16 kHz), la bande haute (>6 kHz) contient une information d'ambiance qui est naturellement similaire à celle présente dans la bande basse. On définit ici l'ambiance comme le signal résiduel qui est obtenu en supprimant dans le signal existant les harmoniques principales (ou dominantes). Le niveau d'harmonicité dans la bande 6000-8000 Hz est généralement corrélé à celui des bandes de fréquences inférieures.
Ce signal bande basse décodé et étendu est fourni en entrée du dispositif d'extension 500 et notamment en entrée du module 512. Ainsi le bloc 512 d'extraction de composantes tonales et d'un signal d'ambiance, met en œuvre l'étape E402 de la figure 4 dans le domaine fréquentiel. Le signal d'ambiance, ½BA( ) pour £ = 240, · · · , 319 (80 échantillons) est ainsi obtenu pour une deuxième bande de fréquence dite haute fréquence afin de le combiner ensuite de façon adaptative aux composantes tonales extraites y(k), dans le bloc de combinaison 513.
Dans un mode de réalisation particulier, l'extraction des composantes tonales et du signal d'ambiance (dans la bande 6000-8000 Hz) est effectuée selon opérations suivantes: • Calcul de l'énergie totale du signal bande basse décodé étendu enerHB : enerHB UHB1 (k)2 + e
où £=0.1 (cette valeur peut être différente, elle est fixée ici à titre d'exemple).
Calcul de l'ambiance (en valeur absolue) qui correspond ici au niveau moyen du spectre lev(i) (raie par raie) et calcul de l'énergie enertonal des parties tonales dominantes (dans le spectre hautes fréquences)
= 0...L - 1 , on obtient ce niveau moyen par l'équation suivante:
)
lev(Î) = Μ - 1 ∑ l^™ - + 240)|
Ceci correspond au niveau moyen (en valeur absolu) et représente donc une sorte d'enveloppe du spectre. Dans ce mode de réalisation, L = 80 et représente la longueur du spectre et l'indice i de 0 à L -\ correspond aux indices j + 240 de 240 à 319, soit le spectre de 6 à 8 kHz.
En général β{ϊ) = ί - Ί et fn{ï) = i + l , cependant les 7 premiers et derniers indices ( ζ' = 0, · · · , 6 et i = L - 7, - - - , L-l ) demandent un traitement spécial et sans perte de généralité on définit alors :
fl i) = 0 et fa(i) = i + 7 pour ι = 0, · · · , 6
β{ϊ) = i - l et jh{ï) = L -l pour i = L - 7, - - - ,L-l
Dans des variantes de l'invention, la moyenne de |£//FFLL (I/ + 240)| , j = ft>(i),..., fn(ï) , pourra être remplacée par une valeur médiane sur le même ensemble de valeurs, soit lev(i) = médian j=ft?(i k(i) (|L//ffll(i/ + 240)|) Cette variante a le défaut d'être plus complexe
(en termes de nombre de calculs) qu'une moyenne glissante. Dans d'autres variantes une pondération non-uniforme pourra être appliquée aux termes moyennés, ou le filtrage médian pourra être remplacé par exemple par d'autres filtres non linéaires de type « stack filters ».
On calcule également le signal résiduel:
Y( = PHBl d + 240)| - lev(ï) , i = 0, ... , L - 1
qui correspond (approximativement) aux composantes tonales si la valeur y(z) à une raie i donnée est positive ( y(z) >0).
Ce calcul fait donc intervenir une détection implicite des composantes tonales. Les parties tonales sont donc implicitement détectées à l'aide du terme intermédiaire y(i) représentant un seuil adaptatif. La condition de détection étant y(z) >0. Dans des variantes de l'invention cette condition pourra être changée par exemple en définissant un seuil adaptatif fonction de l'enveloppe locale du signal ou sous la forme y(i) > lev(i) + xdB où x a une valeur prédéfinie (par exemple = 10 dB).
L'énergie des parties tonales dominantes est définie par l'équation suivante:
^tonal =
i=0... Σ y
7ly(i)l>0
D'autres méthodes d'extraction du signal d'ambiance peuvent bien sûr être envisagées. Par exemple, ce signal d'ambiance peut être extrait d'un signal basse fréquence ou éventuellement une autre bande de fréquence (ou plusieurs bandes de fréquence).
La détection des pics ou composantes tonales pourra être faite différemment.
L'extraction de ce signal d'ambiance pourrait également être fait sur l'excitation décodé mais pas étendu, c'est-à-dire avant l'étape d'extension ou de translation spectrale, c'est-à-dire par exemple sur une portion du signal basse fréquence plutôt que directement sur le signal haute fréquence.
Dans une variante de réalisation, l'extraction des composantes tonales et du signal d'ambiance s'effectue dans un ordre différent et selon les étapes suivantes :
détection des composantes tonales dominantes du signal bande basse décodé
(ou décodé et étendu), dans le domaine fréquentiel ;
calcul d'un signal résiduel par extraction des composantes tonales dominantes pour obtenir le signal d'ambiance.
Cette variante peut par exemple être réalisée de la façon suivante : Un pic (ou composante tonale) est détecté à une raie d'indice i dans le spectre d'amplitude * (i + 240 + 1)| ,
pour Ï = 0, ... , L - 1 . Dès qu'un pic est détecté à la raie d'indice i on applique un modèle sinusoïdal afin d'estimer les paramètres d'amplitude, de fréquence et éventuellement de phase d'une composante tonale associé à ce pic. Les détails de cette estimation ne sont pas présentés ici mais l'estimation de la fréquence peut typiquement faire appel à une interpolation parabolique sur 3 points afin de localiser le maximum de la parabole approximant les 3 points d'amplitude |t/iffil(z' + 240)| (ramené en dB), l'estimation d'amplitude étant obtenu par le biais de cette même interpolation. Le domaine par transformée utilisé ici (DCT-IV) ne permettant pas d'obtenir directement la phase, on pourra dans un mode de réalisation, négliger ce terme, mais dans des variantes on pourra appliquer une transformée en quadrature de type DST pour estimer un terme de phase. La valeur initiale de y(z) est mise à zéro pour i = 0, . . . , L -1 . Les paramètres sinusoïdaux (fréquence, amplitude, et éventuellement phase) de chaque composante tonale étant estimés, on calcule alors le terme y(z) comme la somme de prototypes (spectres) prédéfinis de sinusoïdes pures transformées dans le domaine DCT-IV (ou autre si une autre décomposition en sous-bandes est utilisée) selon les paramètres sinusoïdaux estimés. Enfin, on applique une valeur absolue aux termes y(z) pour se ramener au domaine du spectre d'amplitude en valeurs absolues. D'autres méthodes de détermination des composantes tonales sont possibles, par exemple il serait également possible de calculer une enveloppe du signal env(i) par interpolation par splines des valeurs maximales locales (pics détectés) de |t//ffll(z' + 240)| , d'abaisser cette enveloppe par un certain niveau en dB pour détecter les composantes tonales comme les pics dépassant cette enveloppe et définir y(z) comme
y(z') = max (i + 240)| - env(i), θ)
Dans cette variante l'ambiance s'obtient donc par l'équation :
lev(ï) = 240)| - y(z) , i = {), ... , L -l
Dans d'autres variantes de l'invention, la valeur absolue des valeurs spectrales sera remplacée par exemple le carré des valeurs spectrales, sans changer le principe de l'invention ; dans ce cas une racine carrée sera nécessaire pour revenir au domaine du signal, ce qui est plus complexe à réaliser.
Le module de combinaison 513 effectue une étape de combinaison par mixage adaptatif du signal d'ambiance et des composantes tonales. Pour cela, un facteur Γ de contrôle du niveau d'ambiance est défini par l'équation suivante : γ = β enerHB - enertonal
enerHB - enertonal
β étant un facteur dont un exemple de calcul est donné ci-dessous.
Pour obtenir le signal étendu, on obtient d'abord le signal combiné en valeurs absolues pour / = 0... - 1 :
auquel on applique les signes de UHB1 (k) :
f(Î) = sgn {UHBl(i + 240)) (Î) où la fonction sgn .) donne le signe :
Par définition le facteur Γ est >1. Les composantes tonales, détectées raie par raie par la condition y(i) > 0 , sont réduites par le facteur Γ ; le niveau moyen est amplifié par le facteurl / Γ .
Dans le bloc 513 de mixage adaptatif, un facteur de contrôle du niveau d'énergie est calculé en fonction de l'énergie totale du signal bande basse décodé (ou décodé et étendu) et des composantes tonales.
Dans un mode de réalisation préféré du mixage adaptatif, l'ajustement d'énergie est effectué de la façon suivante:
UHB2 (k) = fac.y "(k - 240) , k = 240,•••,319
UHB2(k) étant le signal combiné d'extension de bande.
Le facteur d'ajustement est défini par l'équation suivante:
Où γ permet d'éviter une sur-estimation de l'énergie. Dans un exemple de réalisation, on calcule /? de façon à garder le même niveau de signal d'ambiance par rapport à l'énergie des composantes tonales dans les bandes consécutives du signal. On calcule l'énergie des composantes tonales dans trois bandes : 2000-4000 Hz, 4000-6000 Hz et 6000-8000 Hz, avec
V4 = ∑ u a(k)
i eN(80,159) JÎV4-6 ∑ U '2(k)
N(160,239)
JÎV4-6 ∑ U (k)
N(240,319)
ou
U k) U(k) £ = 160,..., 239
∑ U2(k)
fc=160
319 -uHB1(k) £ = 240, ...,319
∑ UHB1 2(k)
fc=240
Et où N(£1,£2) est l'ensemble des indices k pour lesquels le coefficient d'indice k est classifié comme étant associé aux composantes tonales. Cet ensemble peut être par exemple obtenu en détectant les pics locaux dans U > lev(k) ou lev{k) es calculé comme le niveau moyen du spectre raie par raie.
On peut noter que d'autres méthodes de calcul de l'énergie des composantes tonales sont possibles, par exemple en prenant la valeur médiane du spectre sur la bande considérée. On fixe β de telle sorte que le ratio entre l'énergie des composantes tonales dans les bandes 4-6 kHz et 6-8 kHz soit le même qu'entre les bandes 2-4 kHz et 4-6 kHz : o _ P EN6_&
239
∑U2(k) - Em_,
i=160
où
E2
EN4_6 = mzx(EN4_6 , EN2_4), p = -J! , = max(/?, EA
^ÎV2-4 et max(.,.) est la fonction qui donne le maximum des deux arguments.
Dans des variantes de l'invention, le calcul de β pourra être remplacé par d'autres méthodes. Par exemple, dans une variante, on pourra extraire (calculer) différents paramètres (ou « features » en anglais) caractérisant le signal en bande basse, dont un paramètre « tilt » similaire à celui calculé dans le codée AMR-WB, et on estimera le facteur β en fonction d'une régression linéaire à partir de ces différents paramètres en limitant sa valeur entre 0 et 1. La régression linéaire pourra par exemple être estimée de façon supervisée en estimant le facteur β en se donnant la bande haute originale dans une base d'apprentissage. On notera que le mode de calcul de β ne limite pas la nature de l'invention.
Ensuite, le paramètre β peut être utilisé pour calculer γ en tenant compte du fait qu'un signal avec un signal d'ambiance rajouté dans une bande donnée est perçu en général comme plus fort qu'un signal harmonique à la même énergie dans la même bande. Si on définit a comme la quantité de signal d'ambiance rajouté au signal harmonique :
on pourra calculer γ comme une fonction décroissante de , par exemple = b - a ,
£> = 1.1 , a = 1.2 et γ limité de 0.3 à 1. Là encore d'autres définitions de a et γ sont possibles dans le cadre de l'invention.
A la sortie du dispositif d'extension de bande 500, le bloc 501, dans un mode de réalisation particulier réalise de façon optionnelle, une double opération d'application de réponse en fréquence de filtre passe-bande et de filtrage de désaccentuation (ou déemphase) dans le domaine fréquentiel.
Dans une variante de l'invention, le filtrage de désaccentuation pourra être réalisé dans le domaine temporel, après le bloc 502 voire avant le bloc 510 ; cependant, dans ce cas, le filtrage passe-bande réalisé dans le bloc 501 peut laisser certaines composantes basses fréquences de très faibles niveaux qui se voient amplifier par désaccentuation, ce qui peut modifier de façon légèrement perceptible la bande basse décodée. Pour cette raison, on préfère ici réaliser la désaccentuation dans le domaine fréquentiel. Dans le mode de réalisation privilégié, les coefficients d'indice £ = (),■■■, 199 sont mis à zéro, ainsi la désaccentuation est limitée aux coefficients supérieurs.
L'excitation est d'abord désaccentuée selon l'équation suivante :
0 £ = 0, · · · ,199
Um2 '(*) = Gdeemph (k - 200)UHB2(k) k = 200, - , 255
Gdeemph (55)UHB2(k) = 256, · · · , 319 où Gdeemph (k) est la réponse en fréquence du filtre l / (l - 0.68z_1 ) sur une bande de fréquence discrète restreinte. En prenant en compte les fréquences discrètes (impaires) de la DCT-IV, on définit ici Gdeem h (k) comme:
ou
Dans le cas où une autre transformation que la DCT-IV est utilisée, la définition de 0k pourra être ajustée (par exemple pour des fréquences paires).
On note que la désaccentuation est appliquée en deux phases pour £ = 200, · · -, 255 correspondant à la bande de fréquence 5000-6400 Hz, où la réponse l / (l - 0.68z_1 ) est appliquée comme à 12.8 kHz, et pour k = 256,· · -,319 correspondant à la bande de fréquence 6400-8000 Hz, où la réponse est étendue de 16 kHz ici à une valeur constante dans la bande 6.4-8 kHz.
On peut noter que dans le codée AMR-WB la synthèse HF n'est pas désaccentuée. Dans le mode de réalisation présenté ici, le signal haute-fréquence est au contraire désaccentué de manière à le ramener dans un domaine cohérent avec le signal basse- fréquence (0-6.4 kHz) qui sort du bloc 305 de la figure 3. Ceci est important pour l'estimation et l'ajustement ultérieur de l'énergie de la synthèse HF.
Dans une variante du mode de réalisation, afin de réduire la complexité, on pourra fixer Gdeemph (k) à une valeur constante indépendante de en prenant par exemple
Gdeemph (k) = 0.6 ce qui correspond approximativement à la valeur moyenne de Gdeemph (k) pour k = 200,· · -,319 dans les conditions du mode de réalisation décrit ci-dessus.
Dans une autre variante du mode de réalisation du décodeur, la désaccentuation pourra être réalisée de façon équivalente dans le domaine temporel après DCT inverse.
En plus de la désaccentuation, un filtrage passe-bande est appliqué avec deux parties séparées : l'une passe-haut fixe, l'autre passe-bas adaptative (fonction du débit).
Ce filtrage est effectué dans le domaine fréquentiel.
Dans le mode de réalisation privilégiée, on calcule la réponse partielle de filtre passe- bas dans le domaine fréquentiel comme suit:
G k) = 1 - 0.999—^-
Nlp - l
où Nlp =60 à 6.6 kbit/s, 40 à 8.85 kbit/s, 20 aux débits >8.85 bit/s.
Ensuite on applique un filtre passe-bande sous la forme :
0 £ = 0,· · ·,199
Ghp (k - 200)UHB2 \k) £ = 200, · · -, 255
UHB3 (k)
UHB2 \k) £ = 256, - - -,319 - Nlp
Glp (k - 320 - Nlp )UHB2 \k) fc = 320 - Nlp ,-,319
La définition de Gh (k) , k = 0, · · · , 55 , est donnée par exemple au tableau 1 ci-dessous. K 9hfkk) K K 9h k) k 9hfkk)
0 0.001622428 14 0.114057967 28 0.403990611 42 0.776551214
1 0.004717458 15 0.128865425 29 0.430149896 43 0.800503267
2 0.008410494 16 0.144662643 30 0.456722014 44 0.823611104
3 0.012747280 17 0.161445005 31 0.483628433 45 0.845788355
4 0.017772424 18 0.179202219 32 0.510787115 46 0.866951597
5 0.023528982 19 0.197918220 33 0.538112915 47 0.887020781
6 0.030058032 20 0.217571104 34 0.565518011 48 0.905919644
7 0.037398264 21 0.238133114 35 0.592912340 49 0.923576092
8 0.045585564 22 0.259570657 36 0.620204057 50 0.939922577
9 0.054652620 23 0.281844373 37 0.647300005 51 0.954896429
10 0.064628539 24 0.304909235 38 0.674106188 52 0.968440179
11 0.075538482 25 0.328714699 39 0.700528260 53 0.980501849
12 0.087403328 26 0.353204886 40 0.726472003 54 0.991035206
13 0.100239356 27 0.378318805 41 0.751843820 55 1.000000000
Tableau 1
On notera que dans des variantes de l'invention les valeurs de Ghp (k) pourront être modifiées tout en gardant une atténuation progressive. De même le filtrage passe-bas à largeur de bande variable, Glp {k) , pourra être ajusté avec des valeurs ou un support fréquentiel différents, sans changer le principe de cette étape de filtrage.
On notera aussi que le filtrage passe-bande pourra être adapté en définissant une seule étape de filtrage combinant les filtrages passe-haut et passe-bas.
Dans un autre mode de réalisation, le filtrage passe-bande pourra être réalisé de façon équivalente dans le domaine temporel (comme dans le bloc 112 de la figure 1) avec différents coefficients de filtre selon le débit, après une étape de DCT inverse. Cependant, on notera qu'il est avantageux de réaliser cette étape directement dans le domaine fréquentiel car le filtrage est effectué dans le domaine de l'excitation LPC et donc les problèmes de convolution circulaire et d'effets de bord sont très limités dans ce domaine.
Le bloc 502 de transformée inverse réalise une DCT inverse sur 320 échantillons pour trouver le signal haute-fréquence échantillonnée à 16 kHz. Sa mise en œuvre est identique au bloc 510, car la DCT- IV est orthonormée, sauf que la longueur de la transformée est de 320 au lieu de 256, et on obtient:
où M = 320 et fc = 0,- - -,319 Dans le cas où le bloc 510 n'est pas une DCT, mais une autre transformation ou décomposition en sous-bandes, le bloc 502 réalise la synthèse correspondante à l'analyse réalisée dans le bloc 510.
Le signal échantillonné à 16 kHz est ensuite de façon optionnelle mis à l'échelle par des gains définis par sous-trame de 80 échantillons (bloc 504).
Dans un mode de réalisation privilégié, on calcule d'abord (bloc 503) un gain gHBi(m) par sous-trame par des ratios d'énergie des sous-trames tel que dans chaque sous-trame d'indice 77=0, 1, 2 ou 3 de la trame courante:
e3(m)
e2(m)
ou
63
e1 (m) =∑ u(n + 64m)2 + ε
319
∑uHB (n†+
e3 (m) = e1 (m) 255
+£ avec ε = 0.01. On eut écrire le gain par sous-trame gHB1 (m) sous la forme
ce qui montre qu'on assure dans le signal uHB le même ratio entre énergie par sous-trame et énergie par trame que dans le signal u(n) .
Le bloc 504 effectue la mise à l'échelle du signal combiné (comprise dans l'étape E404a de la figure 4) selon l'équation suivante:
U HB '(") = SHBI (m)uHB (n) , n = 80m, · · · , 80(m + 1) - 1
On notera que la réalisation du bloc 503 diffère de celle du bloc 101 de la figure 1, car l'énergie au niveau de la trame courante est prise en compte en plus de celle de la sous- trame. Cela permet d'avoir le ratio de l'énergie de chaque sous-trame par rapport à l'énergie de la trame. On compare donc des ratios d'énergie (ou énergies relatives) plutôt que les énergies absolues entre bande basse et bande haute.
Ainsi, cette étape de mise à l'échelle permet de conserver dans la bande haute le ratio d'énergie entre la sous-trame et la trame de la même façon que dans la bande basse.
De façon optionnelle, le bloc 506 effectue ensuite la mise à l'échelle du signal (comprise dans l'étape E404a de la figure 4) selon l'équation suivante:
UHB "(") = 8HB2 (m)UHB Xn) / H = 80m' " " " > 80(m + 1) ~ 1
où le gain gHB2 (m) est obtenu à partir du bloc 505 en exécutant les blocs 103, 104 et 105 du codée AMR-WB (l'entrée du bloc 103 étant l'excitation décodée en bande basse, u{n) ). Les blocs 505 et 506 sont utiles pour ajuster le niveau du filtre de synthèse LPC (bloc 507), ici en fonction du tilt du signal. D'autres méthodes de calcul du gain gHB2 (m) sont possibles sans changer la nature de l'invention.
Enfin, le signal, uHB '(ri) ou uHB "(ri) , est filtrée par le module de filtrage 507 qui peut être réalisé ici en prenant comme fonction de transfert 1 / Α(ζ/ γ) , où γ =0.9 à 6.6 kbit/s et ^ =0.6 aux autres débits, ce qui limite l'ordre du filtre à l'ordre 16.
Dans une variante, ce filtrage pourra être réalisé de la même façon que ce qui est décrit pour le bloc 111 de la figure 1 du décodeur AMR-WB, cependant l'ordre du filtre passe à 20 au débit de 6.6, ce qui ne change pas de façon significative la qualité du signal synthétisé. Dans une autre variante, on pourra effectuer le filtrage de synthèse LPC dans le domaine fréquentiel, après avoir calculé la réponse en fréquence du filtre mis en œuvre dans le bloc 507.
Dans des variantes de réalisation de l'invention, le codage de la bande basse (0-6.4 kHz) pourra être remplacé par un codeur CELP autre que celui utilisé dans AMR-WB, comme par exemple le codeur CELP dans G.718 à 8 kbit/s. Sans perte de généralité d'autres codeurs en bande élargie ou fonctionnant à des fréquences supérieurs à 16 kHz, dans lesquels le codage de la bande basse fonctionne à une fréquence interne à 12.8 kHz pourraient être utilisés. Par ailleurs, l'invention peut être adaptée de façon évidente à d'autres fréquences d'échantillonnage que 12.8 kHz, lorsqu'un codeur de basses fréquences fonctionne à une fréquence d'échantillonnage inférieure à celle du signal original ou reconstruit. Lorsque le décodage en bande basse n'utilise pas de prédiction linéaire, on ne dispose pas d'un signal d'excitation à étendre, dans ce cas on pourra réaliser une analyse LPC du signal reconstruit dans la trame courante et on calculera une excitation LPC de manière à pouvoir appliquer l'invention.
Enfin, dans une autre variante de l'invention, l'excitation ou le signal bande basse ( u(n) ) est ré-échantillonnée, par exemple par interpolation linéaire ou "spline" cubique, de 12.8 à 16 kHz avant transformation (par exemple DCT-IV) de longueur 320. Cette variante a le défaut d'être plus complexe, car la transformée (DCT-IV) de l'excitation ou du signal est alors calculée sur une plus grande longueur et le ré-échantillonnage n'est pas effectué dans le domaine de la transformée.
De plus, dans des variantes de l'invention, tous les calculs nécessaires à l'estimation des gains ( GHBN , gHB1 (m) , gHB2 (m) , gHBN , ...) pourront être effectués dans un domaine logarithmique.
La figure 6 représente un exemple de réalisation matérielle d'un dispositif de d'extension de bande 600 selon l'invention. Celui-ci peut faire partie intégrante d'un décodeur de signal audiofréquence ou d'un équipement recevant des signaux audiofréquences décodés ou non.
Ce type de dispositif comporte un processeur PROC coopérant avec un bloc mémoire BM comportant une mémoire de stockage et/ou de travail MEM.
Un tel dispositif comporte un module d'entrée E apte à recevoir un signal audio décodé ou extrait dans une première bande de fréquence dite bande basse ramené dans le domaine fréquentiel ( U (k) ). Il comporte un module de sortie S apte à transmettre le signal d'extension dans une deuxième bande de fréquence ( UHB2 (k) ) par exemple à un module de filtrage 501 de la figure 5.
Le bloc mémoire peut avantageusement comporter un programme informatique comportant des instructions de code pour la mise en œuvre des étapes du procédé de d'extension de bande au sens de l'invention, lorsque ces instructions sont exécutées par le processeur PROC, et notamment les étapes d'extraction (E402) de composantes tonales et d'un signal d'ambiance à partir d'un signal issu du signal bande basse décodé ( U(k) ), de combinaison (E403) des composantes tonales (y(k)) et du signal d'ambiance {UHBA k)) par mixage adaptatif utilisant des facteurs de contrôle de niveau d'énergie pour obtenir un signal audio, dit signal combiné ( UHB2 (k) ), d'extension (E401a) sur au moins une deuxième bande de fréquence supérieure à la première bande de fréquence du signal décodé bande basse avant l'étape d'extraction ou du signal combiné après l'étape de combinaison.
Typiquement, la description de la figure 4 reprend les étapes d'un algorithme d'un tel programme informatique. Le programme informatique peut également être stocké sur un support mémoire lisible par un lecteur du dispositif ou téléchargeable dans l'espace mémoire de celui-ci.
La mémoire MEM enregistre de manière générale, toutes les données nécessaires à la mise en œuvre du procédé.
Dans un mode possible de réalisation, le dispositif ainsi décrit peut également comporter les fonctions de décodage bande basse et autre fonctions de traitement décrites par exemple en figure 5 et 3 en plus des fonctions d'extension de bande selon l'invention.

Claims

REVENDICATIONS
Procédé d'extension de bande de fréquence d'un signal audiofréquence lors d'un processus de décodage ou d'amélioration comportant une étape d'obtention du signal décodé dans une première bande de fréquence dite bande basse, le procédé étant caractérisé en ce qu'il comporte les étapes suivantes:
- extraction (E402) de composantes tonales et d'un signal d'ambiance à partir d'un signal issu du signal bande basse décodé;
- combinaison (E403) des composantes tonales et du signal d'ambiance par mixage adaptatif utilisant des facteurs de contrôle de niveau d'énergie pour obtenir un signal audio, dit signal combiné;
- extension (E401a) sur au moins une deuxième bande de fréquence supérieure à la première bande de fréquence du signal décodé bande basse avant l'étape d'extraction ou du signal combiné après l'étape de combinaison.
Procédé selon la revendication 1, caractérisé en ce que le signal bande basse décodé est un signal d'excitation bande basse décodé.
Procédé selon l'une des revendications 1 ou 2, caractérisé en ce que l'extraction des composantes tonales et du signal d'ambiance s'effectue selon les étapes suivantes : détection des composantes tonales dominantes du signal bande basse décodé ou décodé et étendu, dans le domaine fréquentiel ;
calcul d'un signal résiduel par extraction des composantes tonales dominantes pour obtenir le signal d'ambiance.
Procédé selon l'une des revendications 1 ou 2, caractérisé en ce que l'extraction des composantes tonales et du signal d'ambiance s'effectue selon les étapes suivantes : obtention du signal d'ambiance par le calcul d'une valeur moyenne du spectre du signal bande basse décodé ou décodé et étendu ;
obtention des composantes tonales par soustraction du signal d'ambiance calculé, au signal bande basse décodé ou décodé et étendu.
Procédé selon la revendication 1 caractérisé en ce que un facteur de contrôle du niveau d'énergie utilisé pour le mixage adaptatif, est calculé en fonction de l'énergie totale du signal bande basse décodé ou décodé et étendu et des composantes tonales.
6. Procédé selon l'une des revendications précédentes, caractérisé en ce que le signal bande basse décodé subit une étape de décomposition en sous-bandes par transformée ou par banc de filtres, les étapes d'extraction et de combinaison s'effectuant alors dans le domaine fréquentiel ou en sous-bandes.
7. Procédé selon l'une des revendications précédentes, caractérisé en ce que l'étape d'extension du signal bande basse décodé est effectuée selon l'équation suivante:
UHBl (k) =
avec k l'indice de l'échantillon, U(k) le spectre du signal bande basse décodé obtenu après une étape de transformée, UHBI (k) le spectre du signal étendu, et start_band une variable prédéfinie.
8. Dispositif d'extension de bande de fréquence d'un signal audiofréquence le signal ayant été décodé dans une première bande de fréquence dite bande basse, le dispositif étant caractérisé en ce qu'il comporte:
- un module d'extraction (512) de composantes tonales et d'un signal d'ambiance à partir d'un signal issu du signal bande basse décodé ;
- un module de combinaison (513) des composantes tonales et du signal d'ambiance par mixage adaptatif utilisant des facteurs de contrôle de niveau d'énergie pour obtenir un signal audio, dit signal combiné;
- un module d'extension (511) sur au moins une deuxième bande de fréquence supérieure à la première bande de fréquence mis en œuvre sur le signal décodé bande basse avant le module d'extraction ou sur le signal combiné après le module de combinaison.
9. Décodeur de signal audiofréquence caractérisé en ce qu'il comporte un dispositif d'extension de bande de fréquence conforme à la revendication 8.
10. Programme informatique comportant des instructions de code pour la mise en œuvre des étapes du procédé d'extension de bande de fréquence selon l'une des revendications 1 à 7, lorsque ces instructions sont exécutées par un processeur.
11. Support de stockage lisible par un dispositif d'extension de bande de fréquence sur lequel est enregistré un programme informatique comprenant des instructions de code pour l'exécution des étapes du procédé d'extension de bande de fréquence selon l'une des revendications 1 à 7.
EP15705687.0A 2014-02-07 2015-02-04 Extension ameliorée de bande de fréquence dans un décodeur de signaux audiofréquences Active EP3103116B1 (fr)

Priority Applications (8)

Application Number Priority Date Filing Date Title
PL15705687T PL3103116T3 (pl) 2014-02-07 2015-02-04 Ulepszone rozszerzanie pasma częstotliwości w dekoderze sygnałów o częstotliwości akustycznej
RS20210945A RS62160B1 (sr) 2014-02-07 2015-02-04 Poboljšana ekstenzija frekvencijskog opsega u dekoderu audio frekventnih signala
EP17206569.0A EP3327722B1 (fr) 2014-02-07 2015-02-04 Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences
SI201531646T SI3103116T1 (sl) 2014-02-07 2015-02-04 Izboljšana razširitev frekvenčnega pasu v dekoderju zvočnega signala
DK17206563.3T DK3330966T3 (da) 2014-02-07 2015-02-04 Forbedret udvidelse af frekvensbånd i en dekoder for audiofrekvenssignaler
EP17206567.4A EP3330967B1 (fr) 2014-02-07 2015-02-04 Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences
EP17206563.3A EP3330966B1 (fr) 2014-02-07 2015-02-04 Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences
HRP20211187TT HRP20211187T1 (hr) 2014-02-07 2021-07-23 Poboljšana ekstenzija frekvencijskog opsega u dekoderu audio frekventnih signala

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR1450969A FR3017484A1 (fr) 2014-02-07 2014-02-07 Extension amelioree de bande de frequence dans un decodeur de signaux audiofrequences
PCT/FR2015/050257 WO2015118260A1 (fr) 2014-02-07 2015-02-04 Extension ameliorée de bande de fréquence dans un décodeur de signaux audiofréquences

Related Child Applications (6)

Application Number Title Priority Date Filing Date
EP17206569.0A Division EP3327722B1 (fr) 2014-02-07 2015-02-04 Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences
EP17206569.0A Division-Into EP3327722B1 (fr) 2014-02-07 2015-02-04 Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences
EP17206563.3A Division-Into EP3330966B1 (fr) 2014-02-07 2015-02-04 Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences
EP17206563.3A Division EP3330966B1 (fr) 2014-02-07 2015-02-04 Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences
EP17206567.4A Division-Into EP3330967B1 (fr) 2014-02-07 2015-02-04 Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences
EP17206567.4A Division EP3330967B1 (fr) 2014-02-07 2015-02-04 Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences

Publications (2)

Publication Number Publication Date
EP3103116A1 true EP3103116A1 (fr) 2016-12-14
EP3103116B1 EP3103116B1 (fr) 2021-05-05

Family

ID=51014390

Family Applications (4)

Application Number Title Priority Date Filing Date
EP15705687.0A Active EP3103116B1 (fr) 2014-02-07 2015-02-04 Extension ameliorée de bande de fréquence dans un décodeur de signaux audiofréquences
EP17206563.3A Active EP3330966B1 (fr) 2014-02-07 2015-02-04 Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences
EP17206569.0A Active EP3327722B1 (fr) 2014-02-07 2015-02-04 Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences
EP17206567.4A Active EP3330967B1 (fr) 2014-02-07 2015-02-04 Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences

Family Applications After (3)

Application Number Title Priority Date Filing Date
EP17206563.3A Active EP3330966B1 (fr) 2014-02-07 2015-02-04 Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences
EP17206569.0A Active EP3327722B1 (fr) 2014-02-07 2015-02-04 Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences
EP17206567.4A Active EP3330967B1 (fr) 2014-02-07 2015-02-04 Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences

Country Status (21)

Country Link
US (5) US10043525B2 (fr)
EP (4) EP3103116B1 (fr)
JP (4) JP6625544B2 (fr)
KR (5) KR20180002906A (fr)
CN (4) CN107993667B (fr)
BR (2) BR112016017616B1 (fr)
DK (2) DK3103116T3 (fr)
ES (2) ES2955964T3 (fr)
FI (1) FI3330966T3 (fr)
FR (1) FR3017484A1 (fr)
HR (2) HRP20231164T1 (fr)
HU (2) HUE062979T2 (fr)
LT (2) LT3330966T (fr)
MX (1) MX363675B (fr)
PL (2) PL3103116T3 (fr)
PT (2) PT3330966T (fr)
RS (2) RS62160B1 (fr)
RU (4) RU2763547C2 (fr)
SI (2) SI3330966T1 (fr)
WO (1) WO2015118260A1 (fr)
ZA (3) ZA201606173B (fr)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2899059C (fr) * 2013-01-29 2018-05-15 Guillaume Fuchs Appareil et procede pour synthetiser un signal audio, decodeur, codeur, systeme et programme informatique
FR3017484A1 (fr) * 2014-02-07 2015-08-14 Orange Extension amelioree de bande de frequence dans un decodeur de signaux audiofrequences
EP2980794A1 (fr) * 2014-07-28 2016-02-03 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Codeur et décodeur audio utilisant un processeur du domaine fréquentiel et processeur de domaine temporel
EP3382703A1 (fr) * 2017-03-31 2018-10-03 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Appareil et procédés de traitement d'un signal audio
US10681486B2 (en) * 2017-10-18 2020-06-09 Htc Corporation Method, electronic device and recording medium for obtaining Hi-Res audio transfer information
EP3518562A1 (fr) 2018-01-29 2019-07-31 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Processeur de signal audio, système et procédés de distribution d'un signal ambiant à une pluralité de canaux de signal ambiant
JP7150996B2 (ja) * 2019-01-13 2022-10-11 華為技術有限公司 ハイレゾリューションオーディオ符号化
KR102308077B1 (ko) * 2019-09-19 2021-10-01 에스케이텔레콤 주식회사 학습 모델 기반의 인공 대역 변환장치 및 방법
CN113192517B (zh) * 2020-01-13 2024-04-26 华为技术有限公司 一种音频编解码方法和音频编解码设备

Family Cites Families (52)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0909442B1 (fr) 1996-07-03 2002-10-09 BRITISH TELECOMMUNICATIONS public limited company Detecteur d'activite vocale
SE9700772D0 (sv) * 1997-03-03 1997-03-03 Ericsson Telefon Ab L M A high resolution post processing method for a speech decoder
TW430778B (en) * 1998-06-15 2001-04-21 Yamaha Corp Voice converter with extraction and modification of attribute data
JP4135240B2 (ja) * 1998-12-14 2008-08-20 ソニー株式会社 受信装置及び方法、通信装置及び方法
US6226616B1 (en) * 1999-06-21 2001-05-01 Digital Theater Systems, Inc. Sound quality of established low bit-rate audio coding systems without loss of decoder compatibility
JP4792613B2 (ja) * 1999-09-29 2011-10-12 ソニー株式会社 情報処理装置および方法、並びに記録媒体
US6704711B2 (en) * 2000-01-28 2004-03-09 Telefonaktiebolaget Lm Ericsson (Publ) System and method for modifying speech signals
DE10041512B4 (de) * 2000-08-24 2005-05-04 Infineon Technologies Ag Verfahren und Vorrichtung zur künstlichen Erweiterung der Bandbreite von Sprachsignalen
WO2003003345A1 (fr) * 2001-06-29 2003-01-09 Kabushiki Kaisha Kenwood Dispositif et procede d'interpolation des composantes de frequence d'un signal
WO2003042979A2 (fr) * 2001-11-14 2003-05-22 Matsushita Electric Industrial Co., Ltd. Dispositif de codage et dispositif de decodage
US20050004803A1 (en) * 2001-11-23 2005-01-06 Jo Smeets Audio signal bandwidth extension
US20030187663A1 (en) * 2002-03-28 2003-10-02 Truman Michael Mead Broadband frequency translation for high frequency regeneration
US7415870B2 (en) * 2002-06-28 2008-08-26 Pirelli Pneumatici S.P.A. Movable unit and system for sensing at least one characteristic parameter of a tyre
US6845360B2 (en) * 2002-11-22 2005-01-18 Arbitron Inc. Encoding multiple messages in audio data and detecting same
MX2007012185A (es) * 2005-04-01 2007-12-11 Qualcomm Inc Metodo y aparato para cuantificacion de vector de una representacion de envoltura espectral.
DE602006019723D1 (de) * 2005-06-08 2011-03-03 Panasonic Corp Vorrichtung und verfahren zur verbreiterung eines audiosignalbands
FR2888699A1 (fr) * 2005-07-13 2007-01-19 France Telecom Dispositif de codage/decodage hierachique
US7546237B2 (en) * 2005-12-23 2009-06-09 Qnx Software Systems (Wavemakers), Inc. Bandwidth extension of narrowband speech
CN101089951B (zh) * 2006-06-16 2011-08-31 北京天籁传音数字技术有限公司 频带扩展编码方法及装置和解码方法及装置
JP5141180B2 (ja) * 2006-11-09 2013-02-13 ソニー株式会社 周波数帯域拡大装置及び周波数帯域拡大方法、再生装置及び再生方法、並びに、プログラム及び記録媒体
KR101379263B1 (ko) * 2007-01-12 2014-03-28 삼성전자주식회사 대역폭 확장 복호화 방법 및 장치
US8229106B2 (en) * 2007-01-22 2012-07-24 D.S.P. Group, Ltd. Apparatus and methods for enhancement of speech
US8489396B2 (en) * 2007-07-25 2013-07-16 Qnx Software Systems Limited Noise reduction with integrated tonal noise reduction
US8041577B2 (en) * 2007-08-13 2011-10-18 Mitsubishi Electric Research Laboratories, Inc. Method for expanding audio signal bandwidth
US20110035212A1 (en) * 2007-08-27 2011-02-10 Telefonaktiebolaget L M Ericsson (Publ) Transform coding of speech and audio signals
RU2472306C2 (ru) * 2007-09-26 2013-01-10 Фраунхофер-Гезелльшафт цур Фёрдерунг дер ангевандтен Форшунг Е.Ф. Устройство и способ для извлечения сигнала окружающей среды в устройстве и способ получения весовых коэффициентов для извлечения сигнала окружающей среды
US8688441B2 (en) * 2007-11-29 2014-04-01 Motorola Mobility Llc Method and apparatus to facilitate provision and use of an energy value to determine a spectral envelope shape for out-of-signal bandwidth content
CN101903944B (zh) * 2007-12-18 2013-04-03 Lg电子株式会社 用于处理音频信号的方法和装置
DE602008005250D1 (de) * 2008-01-04 2011-04-14 Dolby Sweden Ab Audiokodierer und -dekodierer
US8560307B2 (en) * 2008-01-28 2013-10-15 Qualcomm Incorporated Systems, methods, and apparatus for context suppression using receivers
DE102008015702B4 (de) * 2008-01-31 2010-03-11 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zur Bandbreitenerweiterung eines Audiosignals
US8831936B2 (en) * 2008-05-29 2014-09-09 Qualcomm Incorporated Systems, methods, apparatus, and computer program products for speech signal processing using spectral contrast enhancement
KR101381513B1 (ko) * 2008-07-14 2014-04-07 광운대학교 산학협력단 음성/음악 통합 신호의 부호화/복호화 장치
US8352279B2 (en) * 2008-09-06 2013-01-08 Huawei Technologies Co., Ltd. Efficient temporal envelope coding approach by prediction between low band signal and high band signal
US8532983B2 (en) * 2008-09-06 2013-09-10 Huawei Technologies Co., Ltd. Adaptive frequency prediction for encoding or decoding an audio signal
BRPI0917762B1 (pt) * 2008-12-15 2020-09-29 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V Codificador de áudio e decodificador de extensão de largura de banda
US8463599B2 (en) * 2009-02-04 2013-06-11 Motorola Mobility Llc Bandwidth extension method and apparatus for a modified discrete cosine transform audio coder
RU2452044C1 (ru) * 2009-04-02 2012-05-27 Фраунхофер-Гезелльшафт цур Фёрдерунг дер ангевандтен Форшунг Е.Ф. Устройство, способ и носитель с программным кодом для генерирования представления сигнала с расширенным диапазоном частот на основе представления входного сигнала с использованием сочетания гармонического расширения диапазона частот и негармонического расширения диапазона частот
CN101990253A (zh) * 2009-07-31 2011-03-23 数维科技（北京）有限公司 一种带宽扩展方法及其装置
JP5493655B2 (ja) * 2009-09-29 2014-05-14 沖電気工業株式会社 音声帯域拡張装置および音声帯域拡張プログラム
WO2011062538A1 (fr) * 2009-11-19 2011-05-26 Telefonaktiebolaget Lm Ericsson (Publ) Extension de la bande passante d'un signal audio de bande inférieure
JP5589631B2 (ja) * 2010-07-15 2014-09-17 富士通株式会社 音声処理装置、音声処理方法および電話装置
US9047875B2 (en) * 2010-07-19 2015-06-02 Futurewei Technologies, Inc. Spectrum flatness control for bandwidth extension
KR101826331B1 (ko) * 2010-09-15 2018-03-22 삼성전자주식회사 고주파수 대역폭 확장을 위한 부호화/복호화 장치 및 방법
PL2676264T3 (pl) * 2011-02-14 2015-06-30 Fraunhofer Ges Forschung Koder audio estymujący szum tła podczas faz aktywnych
US20140019125A1 (en) * 2011-03-31 2014-01-16 Nokia Corporation Low band bandwidth extended
EP3089164A1 (fr) 2011-11-02 2016-11-02 Telefonaktiebolaget LM Ericsson (publ) Génération d'une extension de bande haute d'un signal audio à bande passante étendue
TWI591620B (zh) * 2012-03-21 2017-07-11 三星電子股份有限公司 產生高頻雜訊的方法
US9228916B2 (en) * 2012-04-13 2016-01-05 The Regents Of The University Of California Self calibrating micro-fabricated load cells
KR101897455B1 (ko) * 2012-04-16 2018-10-04 삼성전자주식회사 음질 향상 장치 및 방법
US9666202B2 (en) * 2013-09-10 2017-05-30 Huawei Technologies Co., Ltd. Adaptive bandwidth extension and apparatus for the same
FR3017484A1 (fr) * 2014-02-07 2015-08-14 Orange Extension amelioree de bande de frequence dans un decodeur de signaux audiofrequences

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
None *
See also references of WO2015118260A1 *

Also Published As

Publication number Publication date
KR102510685B1 (ko) 2023-03-16
EP3327722B1 (fr) 2024-04-10
KR20180002907A (ko) 2018-01-08
US20200353765A1 (en) 2020-11-12
CN108022599B (zh) 2022-05-17
EP3327722A1 (fr) 2018-05-30
HUE055111T2 (hu) 2021-10-28
BR112016017616B1 (pt) 2023-03-28
RU2016136008A (ru) 2018-03-13
LT3330966T (lt) 2023-09-25
SI3330966T1 (sl) 2023-12-29
BR122017027991B1 (pt) 2024-03-12
CN108109632B (zh) 2022-03-29
EP3103116B1 (fr) 2021-05-05
RU2763547C2 (ru) 2021-12-30
EP3330966B1 (fr) 2023-07-26
ZA201606173B (en) 2018-11-28
KR102426029B1 (ko) 2022-07-29
RU2763848C2 (ru) 2022-01-11
CN105960675A (zh) 2016-09-21
CN108109632A (zh) 2018-06-01
PL3103116T3 (pl) 2021-11-22
HRP20211187T1 (hr) 2021-10-29
SI3103116T1 (sl) 2021-09-30
KR20160119150A (ko) 2016-10-12
RU2017144521A (ru) 2019-02-18
LT3103116T (lt) 2021-07-26
ES2955964T3 (es) 2023-12-11
KR20220035271A (ko) 2022-03-21
US10730329B2 (en) 2020-08-04
ES2878401T3 (es) 2021-11-18
US20180141361A1 (en) 2018-05-24
MX2016010214A (es) 2016-11-15
JP6775064B2 (ja) 2020-10-28
CN108022599A (zh) 2018-05-11
KR102380205B1 (ko) 2022-03-29
HRP20231164T1 (hr) 2024-01-19
RS64614B1 (sr) 2023-10-31
CN105960675B (zh) 2020-05-05
RU2016136008A3 (fr) 2018-09-13
PL3330966T3 (pl) 2023-12-18
RU2763481C2 (ru) 2021-12-29
RU2017144523A (ru) 2019-02-18
US20180304659A1 (en) 2018-10-25
CN107993667A (zh) 2018-05-04
FR3017484A1 (fr) 2015-08-14
ZA201708366B (en) 2019-05-29
WO2015118260A1 (fr) 2015-08-13
US10668760B2 (en) 2020-06-02
DK3103116T3 (da) 2021-07-26
JP2019168709A (ja) 2019-10-03
MX363675B (es) 2019-03-29
PT3330966T (pt) 2023-10-04
KR20180002910A (ko) 2018-01-08
KR20180002906A (ko) 2018-01-08
HUE062979T2 (hu) 2023-12-28
BR112016017616A2 (pt) 2017-08-08
KR102380487B1 (ko) 2022-03-29
FI3330966T3 (fi) 2023-10-04
US20170169831A1 (en) 2017-06-15
DK3330966T3 (da) 2023-09-25
JP2019168710A (ja) 2019-10-03
RU2682923C2 (ru) 2019-03-22
RU2017144522A (ru) 2019-02-18
JP2019168708A (ja) 2019-10-03
PT3103116T (pt) 2021-07-12
JP6775063B2 (ja) 2020-10-28
US11325407B2 (en) 2022-05-10
JP6775065B2 (ja) 2020-10-28
EP3330967A1 (fr) 2018-06-06
US10043525B2 (en) 2018-08-07
RS62160B1 (sr) 2021-08-31
JP6625544B2 (ja) 2019-12-25
ZA201708368B (en) 2018-11-28
JP2017509915A (ja) 2017-04-06
US11312164B2 (en) 2022-04-26
RU2017144523A3 (fr) 2021-04-01
RU2017144521A3 (fr) 2021-04-01
US20200338917A1 (en) 2020-10-29
EP3330967B1 (fr) 2024-04-10
EP3330966A1 (fr) 2018-06-06
CN107993667B (zh) 2021-12-07
RU2017144522A3 (fr) 2021-04-01

Similar Documents

Publication Publication Date Title
EP3020043B1 (fr) Facteur d&#39;échelle optimisé pour l&#39;extension de bande de fréquence dans un décodeur de signaux audiofréquences
EP3330966B1 (fr) Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences
EP3014611B1 (fr) Extension améliorée de bande de fréquence dans un décodeur de signaux audiofréquences
WO2014009657A1 (fr) Traitement d&#39;amelioration de la qualite des signaux audiofrequences

Legal Events

Date Code Title Description
PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: REQUEST FOR EXAMINATION WAS MADE

17P Request for examination filed

Effective date: 20160804

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

AX Request for extension of the european patent

Extension state: BA ME

RIN1 Information on inventor provided before grant (corrected)

Inventor name: KANIEWSKA, MAGDALENA

Inventor name: RAGOT, STEPHANE

DAX Request for extension of the european patent (deleted)
STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: EXAMINATION IS IN PROGRESS

17Q First examination report despatched

Effective date: 20170720

RAP1 Party data changed (applicant data changed or rights of an application transferred)

Owner name: KONINKLIJKE PHILIPS N.V.

RAP1 Party data changed (applicant data changed or rights of an application transferred)

Owner name: KONINKLIJKE PHILIPS N.V.

GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: GRANT OF PATENT IS INTENDED

INTG Intention to grant announced

Effective date: 20201123

GRAS Grant fee paid

Free format text: ORIGINAL CODE: EPIDOSNIGR3

GRAA (expected) grant

Free format text: ORIGINAL CODE: 0009210

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE PATENT HAS BEEN GRANTED

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO RS SE SI SK SM TR

REG Reference to a national code

Ref country code: GB

Ref legal event code: FG4D

Free format text: NOT ENGLISH

REG Reference to a national code

Ref country code: CH

Ref legal event code: EP

REG Reference to a national code

Ref country code: AT

Ref legal event code: REF

Ref document number: 1390825

Country of ref document: AT

Kind code of ref document: T

Effective date: 20210515

REG Reference to a national code

Ref country code: DE

Ref legal event code: R096

Ref document number: 602015068913

Country of ref document: DE

REG Reference to a national code

Ref country code: IE

Ref legal event code: FG4D

Free format text: LANGUAGE OF EP DOCUMENT: FRENCH

REG Reference to a national code

Ref country code: PT

Ref legal event code: SC4A

Ref document number: 3103116

Country of ref document: PT

Date of ref document: 20210712

Kind code of ref document: T

Free format text: AVAILABILITY OF NATIONAL TRANSLATION

Effective date: 20210705

REG Reference to a national code

Ref country code: RO

Ref legal event code: EPE

REG Reference to a national code

Ref country code: HR

Ref legal event code: TUEP

Ref document number: P20211187T

Country of ref document: HR

REG Reference to a national code

Ref country code: DK

Ref legal event code: T3

Effective date: 20210721

REG Reference to a national code

Ref country code: NL

Ref legal event code: FP

Ref country code: FI

Ref legal event code: FGE

REG Reference to a national code

Ref country code: SE

Ref legal event code: TRGR

REG Reference to a national code

Ref country code: GR

Ref legal event code: EP

Ref document number: 20210401962

Country of ref document: GR

Effective date: 20210813

REG Reference to a national code

Ref country code: EE

Ref legal event code: FG4A

Ref document number: E021177

Country of ref document: EE

Effective date: 20210719

REG Reference to a national code

Ref country code: NO

Ref legal event code: T2

Effective date: 20210505

REG Reference to a national code

Ref country code: SK

Ref legal event code: T3

Ref document number: E 37832

Country of ref document: SK

REG Reference to a national code

Ref country code: HU

Ref legal event code: AG4A

Ref document number: E055111

Country of ref document: HU

REG Reference to a national code

Ref country code: HR

Ref legal event code: T1PR

Ref document number: P20211187

Country of ref document: HR

REG Reference to a national code

Ref country code: ES

Ref legal event code: FG2A

Ref document number: 2878401

Country of ref document: ES

Kind code of ref document: T3

Effective date: 20211118

REG Reference to a national code

Ref country code: DE

Ref legal event code: R097

Ref document number: 602015068913

Country of ref document: DE

REG Reference to a national code

Ref country code: HR

Ref legal event code: ODRP

Ref document number: P20211187

Country of ref document: HR

Payment date: 20220127

Year of fee payment: 8

PLBE No opposition filed within time limit

Free format text: ORIGINAL CODE: 0009261

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT

26N No opposition filed

Effective date: 20220208

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: AL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210505

REG Reference to a national code

Ref country code: AT

Ref legal event code: UEP

Ref document number: 1390825

Country of ref document: AT

Kind code of ref document: T

Effective date: 20210505

REG Reference to a national code

Ref country code: HR

Ref legal event code: ODRP

Ref document number: P20211187

Country of ref document: HR

Payment date: 20230124

Year of fee payment: 9

REG Reference to a national code

Ref country code: FR

Ref legal event code: PLFP

Year of fee payment: 9

P01 Opt-out of the competence of the unified patent court (upc) registered

Effective date: 20230523

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: AL

Payment date: 20230227

Year of fee payment: 9

REG Reference to a national code

Ref country code: HR

Ref legal event code: ODRP

Ref document number: P20211187

Country of ref document: HR

Payment date: 20240123

Year of fee payment: 10

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: MK

Payment date: 20230126

Year of fee payment: 9

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: LU

Payment date: 20240226

Year of fee payment: 10

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: GR

Payment date: 20240221

Year of fee payment: 10

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: IS

Payment date: 20240229

Year of fee payment: 10

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: LT

Payment date: 20240122

Year of fee payment: 10

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: NL

Payment date: 20240226

Year of fee payment: 10

Ref country code: ES

Payment date: 20240307

Year of fee payment: 10

Ref country code: IE

Payment date: 20240220

Year of fee payment: 10

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: AT

Payment date: 20240220

Year of fee payment: 10

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: MC

Payment date: 20240226

Year of fee payment: 10

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CY

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20210505

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: SM

Payment date: 20240226

Year of fee payment: 10

Ref country code: RO

Payment date: 20240125

Year of fee payment: 10

Ref country code: HU

Payment date: 20240130

Year of fee payment: 10

Ref country code: FI

Payment date: 20240226

Year of fee payment: 10

Ref country code: EE

Payment date: 20240226

Year of fee payment: 10

Ref country code: DE

Payment date: 20240228

Year of fee payment: 10

Ref country code: CZ

Payment date: 20240123

Year of fee payment: 10

Ref country code: BG

Payment date: 20240226

Year of fee payment: 10

Ref country code: GB

Payment date: 20240220

Year of fee payment: 10

Ref country code: PT

Payment date: 20240122

Year of fee payment: 10

Ref country code: SK

Payment date: 20240123

Year of fee payment: 10

Ref country code: CH

Payment date: 20240301

Year of fee payment: 10

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: SI

Payment date: 20240122

Year of fee payment: 10

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: TR

Payment date: 20240123

Year of fee payment: 10

Ref country code: SE

Payment date: 20240226

Year of fee payment: 10

Ref country code: RS

Payment date: 20240126

Year of fee payment: 10

Ref country code: PL

Payment date: 20240126

Year of fee payment: 10

Ref country code: NO

Payment date: 20240220

Year of fee payment: 10

Ref country code: MT

Payment date: 20240226

Year of fee payment: 10

Ref country code: LV

Payment date: 20240228

Year of fee payment: 10

Ref country code: IT

Payment date: 20240222

Year of fee payment: 10

Ref country code: HR

Payment date: 20240123

Year of fee payment: 10

Ref country code: FR

Payment date: 20240226

Year of fee payment: 10

Ref country code: DK

Payment date: 20240226

Year of fee payment: 10

Ref country code: BE

Payment date: 20240226

Year of fee payment: 10