EP1825461A1 - Method and apparatus for artificially expanding the bandwidth of voice signals - Google Patents

Method and apparatus for artificially expanding the bandwidth of voice signals

Info

Publication number
EP1825461A1
EP1825461A1 EP06840370A EP06840370A EP1825461A1 EP 1825461 A1 EP1825461 A1 EP 1825461A1 EP 06840370 A EP06840370 A EP 06840370A EP 06840370 A EP06840370 A EP 06840370A EP 1825461 A1 EP1825461 A1 EP 1825461A1
Authority
EP
European Patent Office
Prior art keywords
signal
bandwidth
extension
envelope
band
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
EP06840370A
Other languages
German (de)
French (fr)
Other versions
EP1825461B1 (en
Inventor
Bernd Geiser
Peter Jax
Stefan Schandl
Herve Taddei
Aulis Telle
Peter Vary
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Siemens AG
Original Assignee
Siemens AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens AG filed Critical Siemens AG
Priority to PL06840370T priority Critical patent/PL1825461T3/en
Publication of EP1825461A1 publication Critical patent/EP1825461A1/en
Application granted granted Critical
Publication of EP1825461B1 publication Critical patent/EP1825461B1/en
Not-in-force legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Processing of the speech or voice signal to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/038Speech enhancement, e.g. noise reduction or echo cancellation using band spreading techniques
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/06Determination or coding of the spectral characteristics, e.g. of the short-term prediction coefficients
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Processing of the speech or voice signal to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation

Definitions

  • the invention relates to a method and a device for artificially expanding the bandwidth of speech signals.
  • Speech signals cover a wide frequency range, which ranges from the basic speech frequency, which is dependent on the speaker in the range between 80 to 160 Hz, to the frequencies beyond 10 kHz.
  • the basic speech frequency which is dependent on the speaker in the range between 80 to 160 Hz
  • the frequencies beyond 10 kHz for voice communication over certain transmission media, such as telephones, only a limited portion is transmitted for bandwidth efficiency, ensuring a sentence intelligibility of about 98%.
  • a speech signal can essentially be subdivided into three frequency ranges.
  • Each of these frequency ranges characterizes specific speech characteristics as well as subjective sensations. This results in lower frequencies below about 300 Hz, essentially during voiced speech segments, such as vowels.
  • This frequency range in this case contains tonal components, i. H. in particular the basic voice frequency and, depending on the pitch, possibly some harmonics.
  • these depth frequencies are essential.
  • the speech base frequency can be perceived by a human listener due to the psychoacoustic property of the virtual pitch sensation even in the absence of the depth frequencies from the harmonic structure in higher frequency ranges.
  • medium frequencies in the range of about 300 Hz to about 3.4 kHz in voice activities are fundamental. additionally available in the voice signal.
  • Their time-variant spectral coloring by several formants as well as the temporal and spectral fine structure characterize the respective spoken sound or phoneme.
  • the middle frequencies carry the bulk of the information relevant to the intelligibility of the language.
  • the speech quality is a subjective quantity with a plurality of components, of which the intelligibility of the speech signal is the most important for such a speech communication system.
  • parameters of the broadband model are determined from short segments of a narrowband speech signal using pattern recognition methods, which are then used to estimate the missing signal components of the speech.
  • the narrow-band speech signal becomes a broadband equivalent with frequency components in the range 50
  • This secondary information tions are transmitted in a coded bit stream to a receiver.
  • Other standards based on the extension of the bandwidth technique are currently seen in the AMR-WB + and extended aacPlus speech / audio coding / decoding techniques.
  • Methods designed to encode and decode information are referred to as codecs and include both an encoder and a decoder.
  • Any digital telephone, whether built for a fixed or mobile network, includes such a codec that converts analog to digital signals and digital to analog. Such a codec can be implemented in hardware or in software.
  • components of an extension band for example in the frequency range of 6.4 to 7 kHz, are encoded and decoded using the aforementioned LPC encoding technique.
  • an LPC analysis of the extension band of the input signal is performed in an encoder and the LPC coefficients and the amplification factors of subframes of a residual signal are encoded.
  • the remainder of the expansion band is generated and the transmitted gain factors and the LPC synthesis filters are used to generate an output signal.
  • the procedure described above can be applied either directly to the wideband input signal or else to a subband signal of the extension band that is downsampled in the limit range or in the critical range.
  • the extended aacPlus encoding standard uses SBR (Spectral Band Replication) technology.
  • the broadband audio signal is split into frequency subbands by means of a 64-channel QMF filter bank.
  • a sophisticated and technically advanced parametric coding is applied to the sub-bands of the signal components, requiring and using a large number of detectors and estimators to control the bitstream contents.
  • an improvement in speech intelligibility and speech quality in the transmission of speech signals can be achieved, whereby speech signals are also understood as audio signals.
  • the inventive method is also very robust against interference during transmission.
  • the signal components required for bandwidth expansion are determined by filtering, in particular bandpass filtering, from the wideband input speech signal, whereby a simple and low-cost selection of the required signal components can be performed.
  • Determining the temporal envelopes in step c) is preferably carried out independently of the determination of the spectral envelopes in step d). As a result, the determination of the envelope takes place in a precise manner, whereby a mutual influence can be avoided.
  • step e prior to encoding the temporal envelope and the spectral envelope in step e), quantization of the temporal envelope and the spectral envelope is performed.
  • the signal powers of spectral subbands of the signal components intended for bandwidth expansion are determined in step d) for determining the spectral envelopes. The determination of the characterization of the temporal and the spectral envelope can thereby be carried out very accurately.
  • signal segments of the bandwidth tenerweittation certain signal components generated, these signal segments in particular transformed, in particular FF (Fast Fourier) transformed, are.
  • the signal powers of temporal signal segments of the signal components intended for bandwidth expansion are advantageously determined in step c) for determining the time-dependent envelopes. In a labor-saving manner, the determination of the required parameters can thereby be carried out.
  • step f) the encoded information for reconstructing the temporal envelope and the spectral envelope are decoded.
  • An excitation signal is advantageously generated in a decoder from a signal transmitted to the decoder, the transmitted signal having such a signal power in the frequency range which corresponds to that of the extension signal of the wideband input speech signal, which enables generation of an excitation signal.
  • a modulated narrowband signal having a band range with frequencies below the frequencies of the band range of the extension band of the wideband input speech signal for generating the excitation signal is preferably transmitted to the decoder.
  • the excitation signal preferably has harmonics of the fundamental frequency of the signal transmitted to the decoder.
  • a first correction factor is advantageously determined. Furthermore, from the first correction factor and the excitation signal, a reconstructive shaping of the temporal envelope, in particular by a multiplication of the first correction factor with the excitation signal, is performed. In addition, the reconstructed shaping of the temporal envelopes is filtered in an advantageous manner and impulse responses are generated during filtering. From the impulse responses and the reconstructed research tion of the temporal envelope, a reconstructive shaping of the spectral envelope is performed. Furthermore, the signal components of the expansion band of the wideband input speech signal are reconstructed from the reconstructed shaping of the spectral envelope. The reconstruction of the temporal and the spectral envelopes can be carried out very reliably and very accurately.
  • a narrowband signal having a band range with frequencies below the frequencies of the extension band of the broadband input signal is transmitted to the decoder.
  • the bandwidth-expanded output speech signal is advantageously determined from the narrow-band signal transmitted to the decoder and the reconstructed shaping of the spectral envelope, in particular from a summation of these two signals, and is provided as an output signal of the decoder.
  • an output signal can be generated and provided which ensures high speech intelligibility and speech quality.
  • the steps a) to e) are preferably carried out in an encoder, which is preferably arranged in a transmitter.
  • the encoded information generated in step e) is advantageously transmitted as a digital signal to the decoder.
  • At least step f) is preferably performed in a receiver with the decoder located in the receiver.
  • all steps a) to f) of the method according to the invention are carried out in a receiver.
  • steps a) to e) in the receiver are replaced by an estimation method (to be implemented differently).
  • the steps a) to e) can also be carried out separately in a transmitter.
  • the wideband input speech signal advantageously comprises a bandwidth between about 50 Hz and about 7 kHz.
  • the extension band of the wideband input speech signal preferably comprises the frequency range of about 3.4 kHz to about 7 kHz.
  • the narrowband signal comprises a
  • Signal range of the wideband input speech signal from about 50 Hz to about 3.4 kHz.
  • the inventive device enables improved speech quality and improved speech intelligibility of speech signals during transmission in communication devices, such as mobile devices or ISDN devices.
  • the means in a) to d) are advantageously designed as encoders.
  • the encoder can be in a transmitter or in a receiver, wherein the decoder is arranged in a receiver.
  • Advantageous embodiments of the method according to the invention can, insofar as it is transferable, also be regarded as advantageous embodiments of the device according to the invention.
  • FIG. 1 shows an encoder of a device according to the invention
  • FIG. 2 shows a decoder of a device according to the invention.
  • speech signals also includes audio signals.
  • FIG 1 and FIG 2 the same or functionally identical elements are provided with the same reference numerals.
  • the encoder 1 shows a schematic block diagram representation of an encoder 1 of a device according to the invention for the artificial extension of the bandwidth of speech signals.
  • the coder 1 can be implemented as an algorithm both in hardware and in software.
  • the encoder 1 comprises a block 11, which is designed for bandpass filtering of a broadband input speech signal s w ' b (k).
  • the encoder 1 comprises a block 12 and a block 13, which are connected to the block 11.
  • Block 12 is designed to determine the temporal envelope of the signal components intended for bandwidth expansion, which are determined from an extension band of the wideband input speech signal.
  • the block 13 is configured to determine the spectral envelope of the bandwidth expansion signal components determined from the extension band of the wideband input speech signal.
  • the block 12 and the block 13 are connected to a block 14, the block 14 for quantizing the temporal envelope and the spectral envelope generated by the blocks 12 and 13, respectively be, is trained.
  • FIG. 1 further shows a block 2, which is designed as a bandpass filter and to which the broadband input speech signal s w ' b (k) is applied.
  • the block 2 is further connected to a further block 3, wherein the block 3 is formed as a further encoder.
  • the encoder 1 and the blocks 2 and 3 are arranged in a first telephone set.
  • the broadband input speech signal has a bandwidth of approximately 50 Hz to approximately 7 kHz. According to the invention, as can be seen from the illustration in FIG. 1, this wideband input speech signal s w ' b (k) is applied to the bandpass filter or block 11 of the coder 1.
  • the signal components required for bandwidth expansion from the expansion band which in the exemplary embodiment comprises a bandwidth of about 3.4 kHz to about 7 kHz, are determined.
  • the signal components required for the bandwidth expansion are characterized by the signal s eb (k) and are transmitted as an output signal of the block 11 to the two blocks 12 and 13.
  • the signal s eb (k) is transmitted as an output signal of the block 11 to the two blocks 12 and 13.
  • block 12 from this signal s eb (k) the temporal
  • the spectral envelope of the signal components which are characterized by the signal s eb (k) is determined in block 13.
  • Segmented signal components s eb (k) and transformed these fenestrated signal segments The segmentation of the signal s eb (k) takes place in frames with a length of each of k samples. All subsequent steps and subalgorithms are performed frame by frame.
  • Each speech frame eg with 10 ms or 20 ms or 30 ms duration
  • the windowed signal segments are then transformed.
  • a transformation into the frequency domain is carried out by means of an FFT (Fast Fourier Transform).
  • FFT-transformed signal segments are determined according to the following formula 1):
  • Nf denotes the FFT length or the frame size
  • denotes the frame index
  • Mf denotes the overlap of the frames of the windowed signal segments.
  • W y ( ⁇ ) denotes the window function.
  • denotes the index of the corresponding subband
  • EB ⁇ characterizes that set which contains all FFT interval ranges i with non-zero coefficients in the ⁇ th frequency space window w ⁇ (i).
  • the signal powers i y ( ⁇ , ⁇ ) of the subbands according to formula 2) characterize the information of the spectral envelopes which are transmitted to a decoder.
  • the determination of the time envelopes in the time period is performed in a manner similar to the determination of the spectral envelopes and is based on short-term windowed ones Segments of the band-pass filtered wideband input speech signal s w ' b (k).
  • signal segments of the signal s eb (k) are also taken into account in the determination of the time envelopes.
  • the signal power is calculated according to formula 3) below:
  • N t denotes the frame length
  • v denotes the frame index
  • M t again denotes the overlap of the frames of the signal segments. It should be noted that, in general, the frame length N t and the overlap of the frames M t used to extract the temporal envelopes are smaller and much smaller than the corresponding magnitudes Nf and Mf, respectively Spectral envelopes are used.
  • Short segment signal powers of the filtered parts and the original parts of the signal s eb (k) gives the short time envelope, which is downsampled to determine the signal powers P t (y).
  • P t (y) of the signal segments then characterize the temporal envelope information.
  • the signals s p (y ⁇ or ⁇ ( ⁇ ) characterizing the temporal envelope and the spectral envelope, which characterize the extracted parameters of the signal powers according to formulas 2) and 3), are quantized and coded in block 14.
  • the output signal of the block 14 is a digital signal BWE, which characterizes a bit stream which contains in coded form information of the temporal envelope and the spectral envelope.
  • This digital signal BWE is transmitted to a decoder, which will be explained in more detail below. It should be noted that in the case of a redundancy between the extracted parameters of the signal strengths according to formulas 2) and 3), a common coding, such as may be made possible, for example, by vector quantization, can be carried out.
  • the wideband input speech signal s w ' b (k) is also transmitted to the block 2.
  • this block 2 designed as a bandpass filter, the signal components of a narrowband range of the wideband input speech signal s w ' b (k) are filtered.
  • the narrowband range in the exemplary embodiment is between 50 Hz and 3.4 kHz.
  • the output signal of the block 2 is a narrowband signal s nb (k) and is transmitted to the block 3, which is formed in the embodiment as a further encoder.
  • the narrowband signal s nb (k) is encoded and transmitted as a digital signal BWN as a bit stream to the decoder explained below.
  • FIG. 2 shows a schematic block diagram illustration of such a decoder 5 of a device according to the invention for artificially expanding the bandwidth of speech signals.
  • the digital signal BWN is first transmitted to a further decoder 4 which decodes the information contained in the digital signal BWN and in turn generates the narrowband signal s nb (k) from it.
  • the decoder 4 generates a further signal s s ⁇ (k), which contains side information.
  • These side information may be, for example, gain factors or filter coefficients.
  • This signal s s ⁇ (k) of the decoder 5 to block wear exceeds 51st
  • the block 51 is formed in the embodiment for generating an excitation signal in the frequency range of the extension band, to which the information of the signal s s ⁇ (k) are taken into account.
  • the decoder 5 which is arranged in the embodiment in a receiver, a block 52, which is designed for decoding the transmitted over a transmission distance between the encoder 1 and the decoder 2 signal BWE. It should be noted that also the digital signal BWN is transmitted via this transmission path between the encoder 1 and the decoder 5.
  • both the block 51 and the block 52 are connected to decoder areas 53 to 55.
  • the functional principle of the decoder 5 or the sub-steps of the method according to the invention carried out in the decoder 5 are explained in more detail below.
  • the information contained in the encoded digital signal BWE is decoded in block 52 and the signal powers, which are calculated according to formulas 2) and 3) and which characterize the temporal envelope and the spectral envelope, are reconstructed.
  • the excitation signal S ⁇ x (Jc) generated in block 51 is the
  • This excitation signal can essentially be any excitation signal
  • this excitation signal must be, as an essential condition for this signal must be that it has a sufficient signal power in the frequency range of the extension band of the wideband input spectral signal s w ' b (k).
  • the narrowband signal s nb (k) or any noise are used as excitation signal s exc (k) is a modulated version.
  • this excitation signal is responsible for the fine structuring of the spectral envelope and the temporal envelope in the signal components of the extension band of a broadband output speech signal s wb (k). For this reason, it is advantageous for this excitation signal s (k) to be present in one of these is generated such that it has the harmonics of the fundamental frequency of the narrowband signal s nb (k).
  • harmonic frequency excitation is at an integer multiple of the current fundamental frequency by LTP synthesis filtering a bandpass filter (frequency range of the extension band) from an arbitrary signal n eb (k) possible.
  • the LTP amplification factor can be reduced or limited by the function f (b) in order to be able to prevent overstimulation of the generated signal components of the expansion band. It should be noted that a plurality of further alternatives can be carried out in order to be able to carry out synthetic broadband excitation by means of parameters of a narrowband codec.
  • Another way to generate an excitation signal is to modulate the narrowband signal s nb (k) with a sine function at a fixed frequency or by directly using an arbitrary signal n eb (k), as already defined above was, is performed. It should be emphasized that the method used for the generation of the excitation signal is completely independent of the generation of the digital signal BWE and the format of this digital signal BWE and the decoding of this digital signal BWE. Therefore, can In this regard, an independent setting be performed.
  • the digital signal BWE is decoded in the block 52 and the parameters of the signal power characterizing the temporal envelope and the spectral envelope, which are calculated according to the formulas 2) and 3), corresponding to the signals j (v ) and s p ( ⁇ > ⁇ ) .
  • a reconstructive shaping of the temporal envelopes is first carried out in the exemplary embodiment. This is done in the decoder area 53. For this purpose, the excitation signal S exc ik) and the signal j (v) are transmitted to this decoder area 53. As shown in FIG.
  • the excitation signal s exc [k ] is transmitted both to a block 531 and to a multiplier 532.
  • the signal -J (v) is also transmitted to the block 531. From these signals transmitted to block 531, a scalar correction factor gi (k) is generated.
  • This scalar correction factor gi (k) is transferred from the block 531 to the multiplier 532.
  • the excitation signal s exc [k ] then becomes scalar
  • Correction factor gi (k) multiplied and generates an output signal S 0x [Ic], which characterizes the reconstructed shaping of the temporal envelope.
  • This output signal s exc [k] has the approximately correct temporal envelope, but is still inaccurate or imprecise with respect to the correct frequency, which in a subsequent step, the performing a reconstructed shaping of the spectral envelope is required to this imprecise frequency to be able to adjust the required frequency.
  • the output signal S 0x [Ic) is transmitted to a second decoder area 54 of the decoder 5, to which the signal ⁇ ( ⁇ ⁇ ) is also transmitted.
  • the second decoder area 54 has a block 541 and a Block 542, wherein the block 541 is designed to filter the output signal S 0x (Ic). From the output signal s exc (k) and the signal ⁇ ( ⁇ ⁇ ) , an impulse response h (k) is generated, which is transmitted from block 541 to block 542.
  • the reconstructive shaping of the spectral envelope is then carried out from the output signal s exc (k) and d of the impulse response h (k). This reconstructed spectral envelope is then characterized by the output s exc (k) of block 542.
  • a reconstructing shaping of the temporal envelope in a third decoder area 55 of the decoder 5 is again carried out.
  • This reconstructing shaping of the temporal envelope takes place analogously as it is carried out in the first decoder region 53.
  • a second scalar correction factor g 2 (k) is generated by the block 551 from the output signal s exc (k) and the signal J (v) , which is transmitted to a multiplier 552.
  • the signal s eb (k) characterizing the signal components required for the bandwidth extension is then provided.
  • This signal s eb (k) is transmitted to a summer 56, to which also the narrowband signal s nb (k) is transmitted.
  • the bandwidth-extended output signal s w ° b (k) is generated and provided as the output signal of the decoder 5.
  • the embodiment shown in FIG. 2 is merely exemplary and that the invention already has a single reconstructive shaping of the temporal envelopes, as is done in the first decoder region 53, and a single reconstructive shaping of the spectral envelopes, as in the second decoder region 54 carried out is sufficient. It should also be noted that it can also be provided that the reconstructive shaping of the spectral envelope in the second decoder area 54 is performed before the reconstruction of the temporal envelope in the first decoder area 53. This means that the second decoder region 54 is arranged before the first decoder region 53 in such an embodiment.
  • the invention is advantageously used in the exemplary embodiment for a wideband input speech signal having a frequency range of about 50 Hz to 7 kHz.
  • the invention is provided in the exemplary embodiment for the artificial extension of the bandwidth of speech signals, wherein the extension band is predetermined by the frequency range of about 3.4 kHz to about 7 kHz.
  • the invention is used for an extension band, which is located in a low-frequency frequency range.
  • the extension band may comprise a frequency range of about 50 Hz or even lower frequencies, up to a frequency range of about 3.4 kHz.
  • the method according to the invention for the artificial extension of the bandwidth of speech signals can also be used such that the extension band comprises a frequency range which is at least partially above a frequency of about 7 kHz and for example up to 8 kHz, in particular 10 kHz , or even higher.
  • the extension band comprises a frequency range which is at least partially above a frequency of about 7 kHz and for example up to 8 kHz, in particular 10 kHz , or even higher.
  • a reconstructed formation of the temporal envelope in the first decoder area 53 is riert according to FIG 2 by a multiplication of the scalar first correction factor gi (k) and the excitation signal S ⁇ x (Jc) generation. It should be noted that a multiplication in
  • the first scalar correction factor or gain gi (k) should have strict low-pass frequency characteristics.
  • the excitation signal S ⁇ 0 (It) is segmented and analyzed in a manner already described above for the segmentation and the analysis of the extraction of the temporal envelope or the generation of the Signal s pfy) from the signal s eb (k) is performed in the encoder 1 by means of the block 12.
  • the ratio between the decoded signal power as calculated by formula 3) and the analyzed result of the signal strength P ⁇ fy) results in a desired gain ⁇ (v) for the vth signal segment.
  • This amplification factor of the vth signal segment is calculated in accordance with the following formula 6):
  • the amplification factor or first correction factor gi (k) is calculated by interpolation and low-pass filtering. Low-pass filtering is crucial to This gain factor or this first correction factor gi (k) to limit the spectral envelope.
  • the reconstructive shaping of the spectral envelope of the required signal components of the extension band is determined by filtering the output signal S 0x (Ic), which characterizes the reconstructed shaping of the temporal envelope.
  • the filter operation can be implemented in the period or in the frequency domain.
  • the corresponding frequency characteristic H (z) can be smoothed.
  • the output signal s exc (k) of the first decoder region 53 is analyzed in order to be able to find the signal powers of the Pf ° ( ⁇ i, X).
  • the desired amplification factor ⁇ ( ⁇ , ⁇ ) of a corresponding subband of the frequency range of the expansion band is calculated according to the following formula 7):
  • the frequency characteristic H ( ⁇ , i) of the shape filters of the spectral envelope can be calculated by interpolation of the amplification factor ⁇ ( ⁇ , ⁇ ) and with a smoothing taking into account the frequency. If the shaping filter of the spectral envelope is to be used in the period, for example by a linear phase FIR filter, the filter coefficients can be calculated by an inverse FF transformation of the frequency characteristic H ( ⁇ , i) and a subsequent windowing.
  • the reconstructive shaping of the temporal envelope influences the reconstructive shaping of the spectral envelopes and vice versa. It is therefore advantageous that, as explained in the exemplary embodiment and shown in FIG. provides an alternate performance of reconstructing a temporal envelope and a spectral envelope in an iterative process. Thereby, a substantially improved match of the temporal and spectral envelopes of the signal components of the enhancement band, which are reconstructed in the decoder and the corresponding temporal and spectral envelopes generated in the coder, can be achieved.
  • one and a half times the iteration (reconstruction of the temporal envelopes, reconstruction of the spectral envelopes and renewed reconstruction of the temporal envelopes) is carried out.
  • Bandwidth expansion facilitates the generation of an excitation signal having harmonics at the correct frequency, for example at an integer multiple of the fundamental frequency of the current sound.
  • the invention can also be applied to downsampled subband signal components of the broadband input signal. This is advantageous when a low computational effort is required.
  • the encoder 1 and the blocks 2 and 3 are arranged in a transmitter, wherein logically, the process steps carried out in the blocks 2 and 3 and the encoder 1 are then also carried out in the transmitter.
  • the block 4 as well as the decoder 5 can advantageously be arranged in a receiver, whereby it is also clear that the preliminary steps carried out in the decoder 5 and in the block 4 are executed in the receiver.
  • the invention can also be implemented in such a way that the method steps carried out in the coder 1 are carried out in the decoder 5 and are thus carried out exclusively in the receiver.
  • the signal powers, which are calculated according to the formulas 2) and 3), in the deco 5 can be estimated.
  • the block 52 is designed to estimate these parameters of the signal powers. This embodiment allows the concealment of potential transmission errors of the side information transmitted in the digital signal BWE.
  • Estimation of lost parameters of an envelope for example by a loss of data, can be a troublesome switching of the signal bandwidth can be prevented.
  • the invention In contrast to the known methods for artificially widening the bandwidth of speech signals, in the invention no transfer of already used amplification factors and filter coefficients is carried out as secondary information, but only the desired temporal and spectral envelopes are transmitted as side information to a decoder. Gain factors and filter coefficients are only then calculated in the decoder, which is arranged in a receiver. It can thereby be achieved that the artificial extension of the bandwidth in the receiver can be analyzed and, if necessary, corrected in a low-effort manner.
  • the method according to the invention and the device according to the invention are very robust against disturbances of the excitation signal, whereby, for example, such a disturbance of a received narrowband signal can be caused by transmission errors.
  • the transmission and the reconstructing shaping of the temporal and spectral envelopes separately, a very good resolution or splitting in the time domain and in the frequency domain can be achieved both in the time domain and in the frequency domain. This leads to a very good reproducibility of both stationary sounds and sounds as well as transient or short-term signals.
  • the reproduction of stop consonants and plosives benefits from the significantly improved time resolution.
  • the invention allows the frequency shaping to be performed by linear phase FIR filters rather than LPC synthesis filters.
  • the invention allows a very flexible and modular design, which also allows the individual blocks in the receiver or in the Decoder 5 can advantageously be exchanged or set in an advantageous manner For such a change or adjustment, no change of the transmitter or the coder 1 or the format of the transmission signal with which the coded information to the decoder 5 or the receiver ü
  • different decoders can be operated with the method according to the invention, as a result of which a restoration of the broadband input signal can be carried out with different precision as a function of the available computing power.
  • the received parameters which characterize the spectral and temporal envelopes can be used not only for an extension of the bandwidth, but also for the support of subsequent signal processing blocks, such as post-filtering, or additional coding steps such as Transformer encoder, can be used.
  • the resulting narrowband speech signal s nb (k), as available to the bandwidth expansion algorithm, may be present, for example, after a reduction of the sampling frequency by a factor of 2 at a sampling rate of 8 kHz.
  • the invention and the underlying principle of bandwidth expansion it is possible to generate a broadband excitation of information of the G.729AH standard.
  • the data rate of the secondary signals transmitted in the digital signal BWE Information can be about 2 kbit / s.
  • a relatively low-complexity calculation system or a relatively low complex computational effort is required, which is less than 3 WMOPS.
  • the inventive method and the device according to the invention is very robust against baseband disturbances of the G.729AH standard.
  • the invention may also be used advantageously for use in voice-over-IP.
  • the method according to the invention and the device according to the invention are compatible with TDAC envelopes.
  • the invention also has a very modular and flexible structure and a modular and flexible conception.

Abstract

The method involves providing a broadband input speech signals, and determining signals components of the signals from an increased band of the signals. The temporal and spectral envelopes of the components are determined. The information of the envelopes is coded by a coder (1), and the coded information is provided to execute the increment of the bandwidth of the signals. The coded information is decoded and the temporal and spectral envelopes are generated from the coded information to create a bandwidth increased output speech signals. An independent claim is also included for a device for artificially increasing bandwidth of a speech signal.

Description

Beschreibungdescription
Verfahren und Vorrichtung zur künstlichen Erweiterung der Bandbreite von SprachsignalenMethod and device for artificially expanding the bandwidth of speech signals
Die Erfindung betrifft ein Verfahren sowie eine Vorrichtung zur künstlichen Erweiterung der Bandbreite von Sprachsignalen.The invention relates to a method and a device for artificially expanding the bandwidth of speech signals.
Sprachsignale überstreichen einen breiten Frequenzbereich, der in etwa von der Sprachgrundfrequenz, die abhängig vom Sprecher im Bereich zwischen 80 bis 160 Hz liegt, bis zu den Frequenzen jenseits von 10 kHz reicht. Bei der Sprachkommunikation über bestimmte Übertragungsmedien, wie zum Beispiel Telefone, wird allerdings aus Gründen der Bandbreiteneffizienz nur ein eingeschränkter Ausschnitt übertragen, wobei eine Satzverständlichkeit von etwa 98 % gewährleistet wird.Speech signals cover a wide frequency range, which ranges from the basic speech frequency, which is dependent on the speaker in the range between 80 to 160 Hz, to the frequencies beyond 10 kHz. However, for voice communication over certain transmission media, such as telephones, only a limited portion is transmitted for bandwidth efficiency, ensuring a sentence intelligibility of about 98%.
Entsprechend der minimalen für das Telefonsystem spezifizier- ten Bandbreite von 300 Hz bis 3,4 kHz, kann ein Sprachsignal im Wesentlichen in drei Frequenzbereiche unterteilt werden. Jeder dieser Frequenzbereiche charakterisiert dabei spezifische Spracheigenschaften sowie subjektive Empfindungen. So entstehen tiefere Frequenzen unterhalb von etwa 300 Hz im We- sentlichen während stimmhafter Sprachabschnitte, wie dies beispielsweise Vokale sind. Dieser Frequenzbereich enthält in diesem Fall tonale Komponenten, d. h. insbesondere die Sprachgrundfrequenz sowie abhängig von der Stimmlage eventuell einige Harmonische.Corresponding to the minimum bandwidth specified for the telephone system from 300 Hz to 3.4 kHz, a speech signal can essentially be subdivided into three frequency ranges. Each of these frequency ranges characterizes specific speech characteristics as well as subjective sensations. This results in lower frequencies below about 300 Hz, essentially during voiced speech segments, such as vowels. This frequency range in this case contains tonal components, i. H. in particular the basic voice frequency and, depending on the pitch, possibly some harmonics.
Für das subjektive Empfinden von Volumen und Dynamik eines Sprachsignals sind diese Tiefenfrequenzen wesentlich. Die Sprachgrundfrequenz lässt sich demgegenüber von einem menschlichen Hörer aufgrund der psychoakustischen Eigenschaft der virtuellen Tonhöhenempfindung auch bei Fehlen der Tiefenfrequenzen aus der harmonischen Struktur in höheren Frequenzbereichen wahrnehmen. So sind mittlere Frequenzen im Bereich von etwa 300 Hz bis etwa 3,4 kHz bei Sprachaktivitäten grund- sätzlich im Sprachsignal vorhanden. Ihre zeitvariante spektrale Färbung durch mehrere Formanten sowie die zeitliche und spektrale Feinstruktur charakterisieren den jeweils gesprochenen Laut bzw. Phonem. Auf eine derartige Weise transpor- tieren die mittleren Frequenzen den Hauptteil der für die Verständlichkeit der Sprache relevanten Informationen.For the subjective perception of volume and dynamics of a speech signal, these depth frequencies are essential. In contrast, the speech base frequency can be perceived by a human listener due to the psychoacoustic property of the virtual pitch sensation even in the absence of the depth frequencies from the harmonic structure in higher frequency ranges. Thus, medium frequencies in the range of about 300 Hz to about 3.4 kHz in voice activities are fundamental. additionally available in the voice signal. Their time-variant spectral coloring by several formants as well as the temporal and spectral fine structure characterize the respective spoken sound or phoneme. In such a way, the middle frequencies carry the bulk of the information relevant to the intelligibility of the language.
Andererseits entstehen während stimmloser Laute, wie dies besonders stark bei scharfen Lauten wie beispielsweise „s" oder „f", der Fall ist, hohe Frequenzanteile oberhalb von etwa 3,4 kHz. Auch so genannte Plosivlaute wie „k" oder „t" weisen ein breites Spektrum mit starken hochfrequenten Anteilen auf. Deshalb hat das Signal in diesem oberen Frequenzbereich mehr einen rauschartigen denn einen tonalen Charakter. Die Struk- tur der auch in diesem Bereich vorhandenen Formanten ist verhältnismäßig zeitinvariant, unterscheidet sich jedoch für verschiedene Sprecher. Die hohen Frequenzanteile sind von wesentlicher Bedeutung für die Klarheit, die Präsenz und die Natürlichkeit eines Sprachsignals, da ohne diese hohen Fre- quenzanteile die Sprache dumpf wirkt. Darüber hinaus wird durch derartige hohe Frequenzanteile eine bessere Unterscheidung von Frikativen und Konsonanten ermöglicht, wobei diese hohen Frequenzanteile dadurch auch eine erhöhte Verständlichkeit der Sprache gewährleisten.On the other hand, during unvoiced sounds, as is especially the case with sharp sounds such as "s" or "f", high frequency components are generated above about 3.4 kHz. Even so-called plosives such as "k" or "t" have a broad spectrum with strong high-frequency components. Therefore, the signal in this upper frequency range has more of a noise-like than a tonal character. The structure of the formants also present in this area is relatively time-invariant, but differs for different speakers. The high frequency components are essential for the clarity, the presence and the naturalness of a speech signal, since without these high frequency components, the speech seems dull. In addition, such high frequency components enable a better differentiation of fricatives and consonants, whereby these high frequency components thereby also ensure an increased intelligibility of the speech.
Bei einer Übertragung eines Sprachsignals über ein Sprachkommunikationssystem, welches einen Übertragungskanal mit eingeschränkter Bandbreite aufweist, ist es grundsätzlich erwünscht und stets das Ziel, das zu übertragende Sprachsignal mit einer bestmöglichen Qualität von einem Sender zu einemIn a transmission of a voice signal via a voice communication system, which has a transmission channel with limited bandwidth, it is always desirable and always the goal, the speech signal to be transmitted with the best possible quality from a transmitter to a
Empfänger übertragen zu können. Die Sprachqualität ist dabei jedoch eine subjektive Größe mit einer Mehrzahl an Komponenten, von denen die Verständlichkeit des Sprachsignals für ein derartiges Sprachkommunikationssystems die bedeutendste dar- stellt.To be able to transmit receivers. However, the speech quality is a subjective quantity with a plurality of components, of which the intelligibility of the speech signal is the most important for such a speech communication system.
Bei modernen digitalen Übertragungssystemen kann bereits eine relativ hohe Sprachverständlichkeit erreicht werden. Dabei ist es bekannt, dass durch eine Erweiterung der Telefonbandbreite um hohe Frequenzen (größer als 3,4 kHz) als auch um tiefe Frequenzen (kleiner als 300 Hz) eine Verbesserung der subjektiven Beurteilung des Sprachsignals ermöglicht wird. Im Sinne einer subjektiven Qualitätsverbesserung ist somit eine gegenüber der üblichen Telefonbandbreite vergrößerte Bandbreite bei Systemen zur Sprachkommunikation anzustreben. Ein möglicher Ansatz dabei besteht darin, die Übertragung zu modifizieren und mittels Codierverfahren eine breitere übertra- gene Bandbreite zu bewirken oder alternativ eine künstliche Bandbreitenerweiterung durchzuführen. Durch eine derartige Erweiterung der Bandbreite wird empfangsseitig die Frequenzbandbreite auf den Bereich von 50 Hz bis 7 kHz aufgeweitet. Mittels geeigneten Signalverarbeitungsalgorithmen werden aus kurzen Segmenten eines schmalbandigen Sprachsignals mit Methoden der Mustererkennung Parameter des breitbandigen Modells ermittelt, die anschließend zu einer Schätzung der fehlenden Signalkomponenten der Sprache herangezogen werden. Bei dem Verfahren werden aus dem schmalbandigen Sprachsignal ein breitbandiges Pendant mit Frequenzkomponenten im Bereich 50In modern digital transmission systems, a relatively high speech intelligibility can already be achieved. there It is known that by extending the telephone bandwidth to high frequencies (greater than 3.4 kHz) as well as to low frequencies (less than 300 Hz), it is possible to improve the subjective assessment of the speech signal. In the sense of a subjective quality improvement, a bandwidth which is increased compared to the customary telephone bandwidth is therefore to be striven for in systems for voice communication. A possible approach here is to modify the transmission and to effect a wider transmitted bandwidth by means of coding techniques, or alternatively to perform an artificial bandwidth expansion. Such an expansion of the bandwidth widens the frequency bandwidth to the range of 50 Hz to 7 kHz at the receiving end. Using suitable signal processing algorithms, parameters of the broadband model are determined from short segments of a narrowband speech signal using pattern recognition methods, which are then used to estimate the missing signal components of the speech. In the method, the narrow-band speech signal becomes a broadband equivalent with frequency components in the range 50
Hz bis 7 kHz erzeugt und eine Verbesserung der subjektiv empfundenen Sprachqualität bewirkt.Hz to 7 kHz generated and an improvement in subjectively perceived speech quality causes.
In aktuellen Sprachsignal- und Audiosignalcodierungsalgorith- men werden vermehrt Techniken der künstlichen Bandbreitenerweiterung verwendet. Beispielsweise werden im Breitbandbereich (akustische Bandbreite 50 Hz bis 7 kHz) Sprachcodie- rungsStandards wie der AMR-WB (Adaptive Multirate Wideband) - Codier-Decodieralgorithmus verwendet. Bei diesem AMR-WB- Standard werden obere Frequenzunterbänder (Frequenzbereich etwa 6,4 bis 7 kHz) aus niederfrequenten Komponenten extrapoliert. In derartigen Codierungs-Decodierungsverfahren wird die Bandbreitenerweiterung im Allgemeinen durch eine vergleichsweise kleine Anzahl an Nebeninformationen erzeugt. Diese Nebeninformationen können beispielsweise Filterkoeffizienten oder Verstärkungsfaktoren sein, wobei die Filterkoeffizienten beispielsweise durch ein LPC (Linear Prediction Filter) -Verfahren erzeugt werden können. Diese Nebeninforma- tionen werden in einem codierten Bitstrom zu einem Empfänger übertragen. Weitere Standards, welche auf der Erweiterung der Bandweitentechnik basieren, sind gegenwärtig in den Standards AMR-WB+ und dem erweiterten aacPlus-Sprach-/Audiocodierungs- Decodierungsverfahren zu sehen. Verfahren, welche zum Codieren und Decodieren von Informationen ausgebildet sind, werden als Codecs bezeichnet und umfassen sowohl einen Codierer als auch einen Decodierer. Jedes digitale Telefon, unabhängig davon, ob es für ein Festnetz oder ein Mobilfunknetz gebaut ist, enthält einen derartigen Codec, der analoge in digitale Signale umwandelt und digitale in analoge. Ein derartiger Codec kann in Hardware oder in Software realisiert sein.Current speech signal and audio signal coding algorithms are increasingly using artificial bandwidth expansion techniques. For example, in the wideband range (acoustic bandwidth 50 Hz to 7 kHz), speech coding standards such as the AMR-WB (Adaptive Multirate Wideband) coding / decoding algorithm are used. In this AMR-WB standard, upper frequency subbands (frequency range approximately 6.4 to 7 kHz) are extrapolated from low frequency components. In such encoding-decoding methods, the bandwidth extension is generally generated by a comparatively small amount of side information. These side information may be, for example, filter coefficients or gain factors, wherein the filter coefficients may be generated, for example, by an LPC (Linear Prediction Filter) method. This secondary information tions are transmitted in a coded bit stream to a receiver. Other standards based on the extension of the bandwidth technique are currently seen in the AMR-WB + and extended aacPlus speech / audio coding / decoding techniques. Methods designed to encode and decode information are referred to as codecs and include both an encoder and a decoder. Any digital telephone, whether built for a fixed or mobile network, includes such a codec that converts analog to digital signals and digital to analog. Such a codec can be implemented in hardware or in software.
In gegenwärtigen Realisierungen von Sprach-/Audiosignalcodie- rungsalgorithmen, in denen die Technik der Bandbreitenerweiterung verwendet wird, werden Komponenten eines Erweiterungsbandes, beispielsweise im Frequenzbereich von 6,4 bis 7 kHz, mittels der bereits erwähnten LPC-Codierungstechnik codiert und decodiert. Dabei wird in einem Codierer eine LPC-Analyse des Erweiterungsbandes des Eingangssignals durchgeführt und die LPC-Koeffizienten sowie die Verstärkungsfaktoren von Unterrahmen eines Restsignals codiert. In einem Decodierer wird das Restsignal des Erweiterungsbandes erzeugt und die übertragenen Verstärkungsfaktoren und die LPC-Synthesefilter zum Generieren eines Ausgangssignals herangezogen. Die oben beschriebene Vorgehensweise kann entweder direkt auf das breit- bandige Eingangssignal oder aber auch bei einem im Grenzbereich bzw. im kritischen Bereich downgesampleten Unterbandsignal des Erweiterungsbandes angewendet werden.In present implementations of speech / audio signal encoding algorithms using the bandwidth expansion technique, components of an extension band, for example in the frequency range of 6.4 to 7 kHz, are encoded and decoded using the aforementioned LPC encoding technique. In this case, an LPC analysis of the extension band of the input signal is performed in an encoder and the LPC coefficients and the amplification factors of subframes of a residual signal are encoded. In a decoder, the remainder of the expansion band is generated and the transmitted gain factors and the LPC synthesis filters are used to generate an output signal. The procedure described above can be applied either directly to the wideband input signal or else to a subband signal of the extension band that is downsampled in the limit range or in the critical range.
In dem erweiterten aacPlus-Codierungsstandard wird die SBR (Spectral Band Replication) -Technik verwendet. Dabei wird das breitbandige Audiosignal mittels einer 64-Kanal-QMF-Filter- bank in Frequenzunterbänder aufgespalten. Für die hochfre- quenten Filterbankkanäle wird eine ausgeklügelte und technisch hochentwickelte parametrische Codierung auf die Unterbänder der Signalkomponenten angewandt, wobei dazu eine große Anzahl an Detektoren und Schätzern benötigt und eingesetzt werden, um die Bitstrominhalte zu kontrollieren. Obwohl bei den bekannten Standards und Codierungs-Decodierungsverfahren bereits eine Verbesserung insbesondere der Sprachqualität von Sprachsignalen erreicht werden kann, ist dennoch eine weitere Verbesserung dieser Sprachqualität anzustreben. Darüber hinaus sind die oben erläuterten Standards und Codierungs- Decodierungsverfahren sehr aufwändig und weisen eine sehr komplexe Struktur auf.The extended aacPlus encoding standard uses SBR (Spectral Band Replication) technology. The broadband audio signal is split into frequency subbands by means of a 64-channel QMF filter bank. For the high-frequency filter bank channels, a sophisticated and technically advanced parametric coding is applied to the sub-bands of the signal components, requiring and using a large number of detectors and estimators to control the bitstream contents. Although it is already possible to achieve an improvement in the speech quality of speech signals in particular with the known standards and coding-decoding methods, a further improvement of this speech quality is nevertheless to be aimed for. Moreover, the standards and encoding-decoding methods discussed above are very expensive and have a very complex structure.
Der vorliegenden Erfindung liegt daher die Aufgabe zugrunde, ein Verfahren und eine Vorrichtung zur künstlichen Erweiterung der Bandbreite von Sprachsignalen zu schaffen, mit dem bzw. mit der eine verbesserte Sprachqualität und eine verbesserte Sprachverständlichkeit erreicht werden kann. Dies soll darüber hinaus in relativ einfacher und aufwandsarmer Weise realisiert werden können.It is therefore the object of the present invention to provide a method and a device for the artificial extension of the bandwidth of speech signals with which an improved speech quality and improved speech intelligibility can be achieved. This should also be able to be realized in a relatively simple and low-effort manner.
Diese Aufgabe wird durch ein Verfahren, welches die Merkmale nach Patentanspruch 1 aufweist, und eine Vorrichtung, welche die Merkmale nach Patentanspruch 23 aufweist, gelöst.This object is achieved by a method having the features of claim 1, and a device having the features of claim 23, solved.
Bei einem erfindungsgemäßen Verfahren zur künstlichen Erweiterung der Bandbreite von Sprachsignalen werden nachfolgende Schritte durchgeführt: a) Bereitstellen eines breitbandigen Eingangssprachsignals; b) Bestimmen der zur Bandbreitenerweiterung erforderlichen Signalkomponenten des breitbandigen Eingangssprachsignals aus einem Erweiterungsband des breitbandigen Eingangssprachsignals; c) Bestimmen der zeitlichen Einhüllenden der zur Bandbreitenerweiterung bestimmten Signalkomponenten; d) Bestimmen der spektralen Einhüllenden der zur Bandbreitenerweiterung bestimmten Signalkomponenten; e) Codieren der Informationen der zeitlichen Einhüllenden und der spektralen Einhüllenden und Bereitstellen der codierten Informationen zum Durchführen der Erweiterung der Bandbreite; und f) Decodieren der codierten Informationen und Generieren der zeitlichen Einhüllenden und der spektralen Einhüllenden aus den codierten Informationen zum Erzeugen eines bandbreitenerweiterten Ausgangssprachsignals .In a method according to the invention for artificially expanding the bandwidth of speech signals, the following steps are carried out: a) provision of a broadband input speech signal; b) determining the signal components of the wideband input speech signal required for bandwidth extension from an extension band of the wideband input speech signal; c) determining the temporal envelopes of the bandwidth expansion signal components; d) determining the spectral envelope of the bandwidth expansion signal components; e) encoding the information of the temporal envelope and the spectral envelope and providing the encoded information for performing the extension of the bandwidth; and f) decoding the encoded information and generating the temporal envelope and the spectral envelope from the encoded information to produce a bandwidth-expanded output speech signal.
Durch das erfindungsgemäße Verfahren kann eine Verbesserung der Sprachverständlichkeit und der Sprachqualität bei der Ü- bertragung von Sprachsignalen erreicht werden, wobei unter Sprachsignale auch Audiosignale verstanden werden. Darüber hinaus ist das erfindungsgemäße Verfahren auch sehr robust gegenüber Störungen bei der Übertragung.By means of the method according to the invention, an improvement in speech intelligibility and speech quality in the transmission of speech signals can be achieved, whereby speech signals are also understood as audio signals. In addition, the inventive method is also very robust against interference during transmission.
In vorteilhafter Weise werden die zur Bandbreitenerweiterung erforderlichen Signalkomponenten durch eine Filterung, insbe- sondere eine Bandpass-Filterung, aus dem breitbandigen Eingangssprachsignal bestimmt, wodurch eine einfache und aufwandsarme Selektion der erforderlichen Signalkomponenten durchgeführt werden kann.Advantageously, the signal components required for bandwidth expansion are determined by filtering, in particular bandpass filtering, from the wideband input speech signal, whereby a simple and low-cost selection of the required signal components can be performed.
Das Bestimmen der zeitlichen Einhüllenden in Schritt c) wird bevorzugt unabhängig von dem Bestimmen der spektralen Einhüllenden in Schritt d) durchgeführt. Dadurch erfolgt das Bestimmen der Einhüllenden in präziser Weise, wodurch eine gegenseitige Beeinflussung vermieden werden kann.Determining the temporal envelopes in step c) is preferably carried out independently of the determination of the spectral envelopes in step d). As a result, the determination of the envelope takes place in a precise manner, whereby a mutual influence can be avoided.
In bevorzugter Weise wird vor dem Codieren der zeitlichen Einhüllenden und der spektralen Einhüllenden in Schritt e) eine Quantisierung der zeitlichen Einhüllenden und der spektralen Einhüllenden durchgeführt. In vorteilhafter Weise wer- den in Schritt d) zum Bestimmen der spektralen Einhüllenden die Signalleistungen von spektralen Unterbändern der zur Bandbreitenerweiterung bestimmten Signalkomponenten bestimmt. Die Bestimmung der für die Charakterisierung der zeitlichen und der spektralen Einhüllenden kann dadurch sehr exakt durchgeführt werden.Preferably, prior to encoding the temporal envelope and the spectral envelope in step e), quantization of the temporal envelope and the spectral envelope is performed. In an advantageous manner, the signal powers of spectral subbands of the signal components intended for bandwidth expansion are determined in step d) for determining the spectral envelopes. The determination of the characterization of the temporal and the spectral envelope can thereby be carried out very accurately.
Zum Bestimmen der Signalleistungen der spektralen Unterbänder werden in bevorzugter Weise Signalsegmente der zur Bandbrei- tenerweiterung bestimmten Signalkomponenten erzeugt, wobei diese Signalsegmente insbesondere transformiert, insbesondere FF (Fast Fourier) -transformiert, werden. Des Weiteren werden in vorteilhafter Weise in Schritt c) zum Bestimmen der zeit- liehen Einhüllenden die Signalleistungen von zeitlichen Signalsegmenten der zur Bandbreitenerweiterung bestimmten Signalkomponenten bestimmt. In aufwandsarmer Weise kann dadurch das Bestimmen der erforderlichen Parameter durchgeführt werden.For determining the signal powers of the spectral subbands, signal segments of the bandwidth tenerweiterung certain signal components generated, these signal segments in particular transformed, in particular FF (Fast Fourier) transformed, are. Furthermore, the signal powers of temporal signal segments of the signal components intended for bandwidth expansion are advantageously determined in step c) for determining the time-dependent envelopes. In a labor-saving manner, the determination of the required parameters can thereby be carried out.
In vorteilhafter Weise werden in Schritt f) die codierten Informationen zum rekonstruierenden Formen der zeitlichen Einhüllenden und der spektralen Einhüllenden decodiert.Advantageously, in step f) the encoded information for reconstructing the temporal envelope and the spectral envelope are decoded.
Ein Anregungssignal wird in vorteilhafter Weise in einem De- codierer aus einem an den Decodierer übertragenen Signal erzeugt, wobei das übertragene Signal eine derartige Signalleistung in dem Frequenzbereich, welcher demjenigen des Erweiterungssignals des breitbandigen Eingangssprachsignals entspricht, aufweist, welche eine Erzeugung eines Anregungssignals ermöglicht. An den Decodierer wird bevorzugt ein moduliertes schmalbandiges Signal mit einem Bandbereich mit Frequenzen unterhalb der Frequenzen des Bandbereichs des Erweiterungsbandes des breitbandigen Eingangssprachsignals zum Erzeugen des Anregungssignals übertragen. Das Anregungssignal weist bevorzugt Harmonische der Grundfrequenz des an den Decodierer übertragenen Signals auf.An excitation signal is advantageously generated in a decoder from a signal transmitted to the decoder, the transmitted signal having such a signal power in the frequency range which corresponds to that of the extension signal of the wideband input speech signal, which enables generation of an excitation signal. A modulated narrowband signal having a band range with frequencies below the frequencies of the band range of the extension band of the wideband input speech signal for generating the excitation signal is preferably transmitted to the decoder. The excitation signal preferably has harmonics of the fundamental frequency of the signal transmitted to the decoder.
Aus den decodierten Informationen der zeitlichen Einhüllenden und dem Anregungssignal wird in vorteilhafter Weise ein erster Korrekturfaktor bestimmt. Des Weiteren wird aus dem ersten Korrekturfaktor und dem Anregungssignal eine rekonstruierende Formung der zeitlichen Einhüllenden, insbesondere durch eine Multiplikation des ersten Korrekturfaktors mit dem Anre- gungssignal, durchgeführt. Darüber hinaus wird in vorteilhafter Weise die rekonstruierte Formung der zeitlichen Einhüllenden gefiltert und beim Filtern werden Impulsantworten erzeugt. Aus den Impulsantworten und der rekonstruierten For- mung der zeitlichen Einhüllenden wird eine rekonstruierende Formung der spektralen Einhüllenden durchgeführt. Des Weiteren werden aus der rekonstruierten Formung der spektralen Einhüllenden die Signalkomponenten des Erweiterungsbandes des breitbandigen Eingangssprachsignals rekonstruiert. Die Rekonstruierung der zeitlichen und der spektralen Einhüllenden kann dadurch sehr zuverlässig und sehr genau durchgeführt werden.From the decoded information of the temporal envelope and the excitation signal, a first correction factor is advantageously determined. Furthermore, from the first correction factor and the excitation signal, a reconstructive shaping of the temporal envelope, in particular by a multiplication of the first correction factor with the excitation signal, is performed. In addition, the reconstructed shaping of the temporal envelopes is filtered in an advantageous manner and impulse responses are generated during filtering. From the impulse responses and the reconstructed research tion of the temporal envelope, a reconstructive shaping of the spectral envelope is performed. Furthermore, the signal components of the expansion band of the wideband input speech signal are reconstructed from the reconstructed shaping of the spectral envelope. The reconstruction of the temporal and the spectral envelopes can be carried out very reliably and very accurately.
An den Decodierer wird in einer vorteilhaften Ausführung ein schmalbandiges Signal mit einem Bandbereich mit Frequenzen unterhalb den Frequenzen des Erweiterungsbandes des breitbandigen Eingangssignals übertragen.In an advantageous embodiment, a narrowband signal having a band range with frequencies below the frequencies of the extension band of the broadband input signal is transmitted to the decoder.
Das bandbreitenerweiterte Ausgangssprachsignal wird in vorteilhafter Weise aus dem an den Decodierer übertragenen schmalbandigen Signal und der rekonstruierten Formung der spektralen Einhüllenden, insbesondere aus einer Summation dieser beiden Signale, bestimmt und wird als Ausgangssignal des Decodierers bereitgestellt. Dadurch kann ein Ausgangssignal erzeugt und bereitgestellt werden, welches eine hohe Sprachverständlichkeit und Sprachqualität gewährleistet.The bandwidth-expanded output speech signal is advantageously determined from the narrow-band signal transmitted to the decoder and the reconstructed shaping of the spectral envelope, in particular from a summation of these two signals, and is provided as an output signal of the decoder. As a result, an output signal can be generated and provided which ensures high speech intelligibility and speech quality.
Die Schritte a) bis e) werden in bevorzugter Weise in einem Codierer durchgeführt, welcher bevorzugt in einem Sender angeordnet sein ist. Die in Schritt e) erzeugten codierten Informationen werden in vorteilhafter Weise als digitales Signal an den Decodierer übertragen. Zumindest der Schritt f) wird in bevorzugter Weise in einem Empfänger durchgeführt, wobei der Decodierer in dem Empfänger angeordnet ist. Es kann jedoch auch vorgesehen sein, dass alle Schritte a) bis f) des erfindungsgemäßen Verfahrens in einem Empfänger durchgeführt werden. In diesem Fall werden die Schritte a) bis e) im Empfänger durch ein (anders zu realisierendes) Schätzverfahren ersetzt. Die Schritte a) bis e) können auch separat in einem Sender durchgeführt werden. Das breitbandige Eingangssprachsignal umfasst in vorteilhafter Weise eine Bandbreite zwischen etwa 50Hz und etwa 7 kHz. Das Erweiterungsband des breitbandigen Eingangssprachsignals umfasst bevorzugt den Frequenzbereich von etwa 3,4 kHz bis etwa 7 kHz. Ferner umfasst das schmalbandige Signal einenThe steps a) to e) are preferably carried out in an encoder, which is preferably arranged in a transmitter. The encoded information generated in step e) is advantageously transmitted as a digital signal to the decoder. At least step f) is preferably performed in a receiver with the decoder located in the receiver. However, it can also be provided that all steps a) to f) of the method according to the invention are carried out in a receiver. In this case, steps a) to e) in the receiver are replaced by an estimation method (to be implemented differently). The steps a) to e) can also be carried out separately in a transmitter. The wideband input speech signal advantageously comprises a bandwidth between about 50 Hz and about 7 kHz. The extension band of the wideband input speech signal preferably comprises the frequency range of about 3.4 kHz to about 7 kHz. Furthermore, the narrowband signal comprises a
Signalbereich des breitbandigen Eingangssprachsignals von etwa 50 Hz bis etwa 3,4 kHz.Signal range of the wideband input speech signal from about 50 Hz to about 3.4 kHz.
Eine erfindungsgemäße Vorrichtung zur künstlichen Erweiterung der Bandbreite von Sprachsignalen, an welche ein breitbandi- ges Eingangssprachsignal anlegbar ist, umfasst zumindest folgende Komponenten: a) Mittel zum Bestimmen der zur Bandbreitenerweiterung erforderlichen Signalkomponenten des breitbandigen Eingangs- sprachsignals aus einem Erweiterungsband des breitbandigen Eingangssprachsignals; b) Mittel zum Bestimmen der zeitlichen Einhüllenden der zur Bandbreitenerweiterung bestimmten Signalkomponenten; c) Mittel zum Bestimmen der spektralen Einhüllenden der zur Bandbreitenerweiterung bestimmten Signalkomponenten; d) einen Codierer zum Codieren der zeitlichen Einhüllenden und der spektralen Einhüllenden und Bereitstellen der codierten Informationen zum Durchführen der Erweiterung der Bandbreite; und e) einen Decodierer zum Decodieren der codierten Informationen und Generieren der zeitlichen Einhüllenden und der spektralen Einhüllenden aus den codierten Informationen zum Erzeugen eines bandbreitenerweiterten Ausgangssprachsignals .A device according to the invention for artificially expanding the bandwidth of speech signals to which a broadband input speech signal can be applied comprises at least the following components: a) means for determining the signal components of the wideband input speech signal required for bandwidth expansion from an extension band of the wideband input speech signal; b) means for determining the temporal envelope of the signal components intended for bandwidth extension; c) means for determining the spectral envelope of the signal components intended for bandwidth extension; d) an encoder for encoding the temporal envelope and the spectral envelope and providing the encoded information for performing the extension of the bandwidth; and e) a decoder for decoding the encoded information and generating the temporal envelope and the spectral envelope from the encoded information to produce a bandwidth-expanded output speech signal.
Die erfindungsgemäße Vorrichtung ermöglicht eine verbesserte Sprachqualität und eine verbesserte Sprachverständlichkeit von Sprachsignalen bei der Übertragung in Kommunikationsgeräten, wie beispielweise Mobilfunkendgeräten oder ISDN-Geräten.The inventive device enables improved speech quality and improved speech intelligibility of speech signals during transmission in communication devices, such as mobile devices or ISDN devices.
Die Mittel in a) bis d) sind in vorteilhafter Weise als Codierer ausgebildet. Der Codierer kann in einem Sender oder in einem Empfänger angeordnet sein, wobei der Decodierer in einem Empfänger angeordnet ist.The means in a) to d) are advantageously designed as encoders. The encoder can be in a transmitter or in a receiver, wherein the decoder is arranged in a receiver.
Vorteilhafte Ausgestaltungen des erfindungsgemäßen Verfahrens können, soweit übertragbar, auch als vorteilhafte Ausgestaltungen der erfindungsgemäßen Vorrichtung angesehen werden.Advantageous embodiments of the method according to the invention can, insofar as it is transferable, also be regarded as advantageous embodiments of the device according to the invention.
Nachfolgend wird ein Ausführungsbeispiel der Erfindung anhand schematischer Zeichnungen näher erläutert. Es zeigen:An embodiment of the invention will be explained in more detail with reference to schematic drawings. Show it:
FIG 1 einen Codierer einer erfindungsgemäßen Vorrichtung; und1 shows an encoder of a device according to the invention; and
FIG 2 einen Decodierer einer erfindungsgemäßen Vorrichtung.2 shows a decoder of a device according to the invention.
Bei der nachfolgend näher erläuterten Erfindung werden mit dem Begriff Sprachsignale auch Audiosignale umfasst. In den FIG 1 und FIG 2 werden gleiche oder funktionsgleiche Elemente mit gleichen Bezugszeichen versehen.In the invention explained in more detail below, the term speech signals also includes audio signals. In FIG 1 and FIG 2 the same or functionally identical elements are provided with the same reference numerals.
In FIG 1 ist eine schematische Blockschaltbilddarstellung eines Codierers 1 einer erfindungsgemäßen Vorrichtung zur künstlichen Erweiterung der Bandbreite von Sprachsignalen gezeigt. Der Codierer 1 kann sowohl in Hardware als auch in Software als Algorithmus realisiert sein. Der Codierer 1 umfasst im Ausführungsbeispiel einen Block 11, welcher zur Bandpassfilterung eines breitbandigen Eingangssprachsignals sw'b(k) ausgebildet ist. Des Weiteren umfasst der Codierer 1 einen Block 12 und einen Block 13, welche mit dem Block 11 verbunden sind. Der Block 12 ist dabei zum Bestimmen der zeitlichen Einhüllenden der zur Bandbreitenerweiterung bestimmten Signalkomponenten, welche aus einem Erweiterungsband des breitbandigen Eingangssprachsignals bestimmt werden, ausgebildet. In entsprechender Weise ist der Block 13 zum Bestimmen der spektralen Einhüllenden der zur Bandbreitenerweiterung bestimmten Signalkomponenten, welche aus dem Erweiterungsband des breitbandigen Eingangssprachsignals bestimmt werden, ausgebildet. Darüber hinaus ist aus der Darstellung in FIG 1 zu erkennen, dass der Block 12 und der Block 13 mit einem Block 14 verbunden sind, wobei der Block 14 zur Quantisierung der zeitlichen Einhüllenden sowie der spektralen Einhüllenden, welche durch die Blöcke 12 bzw. 13 generiert werden, ausgebildet ist.1 shows a schematic block diagram representation of an encoder 1 of a device according to the invention for the artificial extension of the bandwidth of speech signals. The coder 1 can be implemented as an algorithm both in hardware and in software. In the exemplary embodiment, the encoder 1 comprises a block 11, which is designed for bandpass filtering of a broadband input speech signal s w ' b (k). Furthermore, the encoder 1 comprises a block 12 and a block 13, which are connected to the block 11. Block 12 is designed to determine the temporal envelope of the signal components intended for bandwidth expansion, which are determined from an extension band of the wideband input speech signal. Similarly, the block 13 is configured to determine the spectral envelope of the bandwidth expansion signal components determined from the extension band of the wideband input speech signal. Moreover, it can be seen from the representation in FIG. 1 that the block 12 and the block 13 are connected to a block 14, the block 14 for quantizing the temporal envelope and the spectral envelope generated by the blocks 12 and 13, respectively be, is trained.
In FIG 1 ist des Weiteren ein Block 2 gezeigt, welcher als Bandpassfilter ausgebildet ist, und an welchen das breitban- dige Eingangssprachsignal sw'b(k) angelegt ist. Der Block 2 ist ferner mit einem weiteren Block 3 verbunden, wobei der Block 3 als weiterer Codierer ausgebildet ist.FIG. 1 further shows a block 2, which is designed as a bandpass filter and to which the broadband input speech signal s w ' b (k) is applied. The block 2 is further connected to a further block 3, wherein the block 3 is formed as a further encoder.
Im Ausführungsbeispiel ist der Codierer 1 sowie die Blöcke 2 und 3 in einem ersten Telefongerät angeordnet. Das breitban- dige Eingangssprachsignal weist im Ausführungsbeispiel eine Bandbreite von etwa 50 Hz bis etwa 7 kHz auf. Gemäß der Erfindung wird, wie aus der Darstellung in FIG 1 zu erkennen ist, dieses breitbandige Eingangssprachsignal sw'b(k) an den Bandpassfilter bzw. den Block 11 des Codierers 1 angelegt.In the exemplary embodiment, the encoder 1 and the blocks 2 and 3 are arranged in a first telephone set. In the exemplary embodiment, the broadband input speech signal has a bandwidth of approximately 50 Hz to approximately 7 kHz. According to the invention, as can be seen from the illustration in FIG. 1, this wideband input speech signal s w ' b (k) is applied to the bandpass filter or block 11 of the coder 1.
Mittels diesem Block 11 werden die zur Bandbreitenerweiterung erforderlichen Signalkomponenten aus dem Erweiterungsband, welches im Ausführungsbeispiel eine Bandbreite von etwa 3,4 kHz bis etwa 7 kHz umfasst, bestimmt. Die zur Bandbreitener- Weiterung erforderlichen Signalkomponenten werden durch das Signal seb(k) charakterisiert und werden als Ausgangssignal des Blocks 11 an die beiden Blöcke 12 und 13 übertragen. Im Block 12 wird dabei aus diesem Signal seb(k) die zeitlicheBy means of this block 11, the signal components required for bandwidth expansion from the expansion band, which in the exemplary embodiment comprises a bandwidth of about 3.4 kHz to about 7 kHz, are determined. The signal components required for the bandwidth expansion are characterized by the signal s eb (k) and are transmitted as an output signal of the block 11 to the two blocks 12 and 13. In block 12, from this signal s eb (k) the temporal
Einhüllende bestimmt. In entsprechender Weise wird im Block 13 die spektrale Einhüllende der Signalkomponenten, welche durch das Signal seb(k) charakterisiert sind, bestimmt.Envelope determined. In a corresponding manner, the spectral envelope of the signal components which are characterized by the signal s eb (k) is determined in block 13.
Nachfolgend wird diese Bestimmung der zeitlichen Einhüllenden sowie der spektralen Einhüllenden näher erläutert. Dabei wird zunächst das die zur Bandbreitenerweiterung erforderlichenThis determination of the temporal envelope and the spectral envelope will be explained in more detail below. First, the required for bandwidth expansion
Signalkomponenten charakterisierende Signal seb(k) segmentiert und diese gefensterten Signalsegmente transformiert. Die Segmentierung des Signals seb(k) erfolgt in Rahmen mit einer Län- ge von jeweils k-Abtastwerten. Sämtliche nachfolgende Schritte und Teilalgorithmen werden durchweg rahmenbezogen durchgeführt. Jeder Sprachrahmen (z. B. mit 10 ms oder 20 ms oder 30 ms Dauer) kann in vorteilhafter Weise in mehrere Unterrahmen (Dauer beispielsweise 2,5 oder 5 ms) unterteilt werden.Segmented signal components s eb (k) and transformed these fenestrated signal segments. The segmentation of the signal s eb (k) takes place in frames with a length of each of k samples. All subsequent steps and subalgorithms are performed frame by frame. Each speech frame (eg with 10 ms or 20 ms or 30 ms duration) can advantageously be subdivided into several subframes (duration eg 2.5 or 5 ms).
Die gefensterten Signalsegmente werden dann transformiert. Im Ausführungsbeispiel wird dabei eine Transformation in den Frequenzraum mittels einer FFT (Fast Fourier Transform) durchgeführt. Die FFT-transformierten Signalsegmente werden dabei gemäß nachfolgender Formel 1) bestimmt:The windowed signal segments are then transformed. In the exemplary embodiment, a transformation into the frequency domain is carried out by means of an FFT (Fast Fourier Transform). The FFT-transformed signal segments are determined according to the following formula 1):
In dieser Formel 1) bezeichnet Nf die FFT-Länge bzw. die Rahmengröße, μ bezeichnet den Rahmenindex und Mf bezeichnet die Überlappung der Rahmen der gefensterten Signalsegmente. Des Weiteren bezeichnet Wy(κ) die Fensterfunktion. Nachfolgend wird dann im Frequenzraum die Signalleistung in Unterbändern des Frequenzbereichs des Erweiterungsbandes berechnet. Diese Berechnung der Signalstärke bzw. der Signalleistung erfolgt gemäß nachfolgender Formel 2) :In this formula 1) Nf denotes the FFT length or the frame size, μ denotes the frame index and Mf denotes the overlap of the frames of the windowed signal segments. Furthermore, W y (κ) denotes the window function. Subsequently, in the frequency domain, the signal power is calculated in subbands of the frequency range of the extension band. This calculation of the signal strength or the signal power takes place in accordance with the following formula 2):
In dieser Formel 2) bezeichnet λ den Index des entsprechenden Unterbandes, wobei EBλ diejenige Menge charakterisiert, welche alle FFT-Intervallbereiche i mit Nicht-Nullkoeffizienten im λ-ten Frequenzraumfenster wλ(i) enthält. Die Signalleis- tungen iy(μ,λ) der Unterbänder gemäß Formel 2) charakterisieren die Informationen der spektralen Einhüllenden, welche an einen Decodierer übertragen werden.In this formula 2) λ denotes the index of the corresponding subband, wherein EB λ characterizes that set which contains all FFT interval ranges i with non-zero coefficients in the λ th frequency space window w λ (i). The signal powers i y (μ, λ) of the subbands according to formula 2) characterize the information of the spectral envelopes which are transmitted to a decoder.
Die Bestimmung der zeitlichen Einhüllenden im Zeitraum wird in ähnlicher Weise wie die Bestimmung der spektralen Einhüllenden durchgeführt und basiert auf kurzzeitigen gefensterten Segmenten des bandpassgefilterten breitbandigen Eingangssprachsignals sw'b(k) . Es werden somit auch bei der Bestimmung der zeitlichen Einhüllenden Signalsegmente des Signals seb(k) berücksichtigt. Für jedes gefensterte Segment wird die Signalleistung gemäß nachstehender Formel 3) berechnet:The determination of the time envelopes in the time period is performed in a manner similar to the determination of the spectral envelopes and is based on short-term windowed ones Segments of the band-pass filtered wideband input speech signal s w ' b (k). Thus, signal segments of the signal s eb (k) are also taken into account in the determination of the time envelopes. For each fenestrated segment the signal power is calculated according to formula 3) below:
In dieser Formel 3) bezeichnen Nt die Rahmenlänge, v bezeich- net den Rahmenindex und Mt wiederum die Überlappung der Rahmen der Signalsegmente. Es ist anzumerken, dass im Allgemeinen die Rahmenlänge Nt und die Überlappung der Rahmen Mt, welche zum Extrahieren der zeitlichen Einhüllenden verwendet werden, kleiner bzw. viel kleiner als die entsprechenden Grö- ßen Nf und Mf sind, welche für die Bestimmung für die spektrale Einhüllenden herangezogen werden.In this formula 3), N t denotes the frame length, v denotes the frame index and M t again denotes the overlap of the frames of the signal segments. It should be noted that, in general, the frame length N t and the overlap of the frames M t used to extract the temporal envelopes are smaller and much smaller than the corresponding magnitudes Nf and Mf, respectively Spectral envelopes are used.
Eine Alternative für das Extrahieren der Parameter der zeitlichen Einhüllenden aus dem Signal seb(k) ist darin zu sehen, dass eine Hilbert-Transformation (90° Phasenverschiebungsfilter) des Signals seb(k) durchgeführt wird. Eine Summation derAn alternative for extracting the temporal envelope parameters from the signal s eb (k) is to perform a Hilbert transform (90 ° phase shift filter) of the signal s eb (k). A summation of
Kurzsegment-Signalleistungen der gefilterten Teile und der ursprünglichen Teile des Signals seb(k) ergibt die kurzzeitige zeitliche Einhüllenden, welche downgesampled wird, um die Signalleistungen Pt(y) zu bestimmen. Die SignalleistungenShort segment signal powers of the filtered parts and the original parts of the signal s eb (k) gives the short time envelope, which is downsampled to determine the signal powers P t (y). The signal powers
Pt(y) der Signalsegmente charakterisieren dann die Informationen der zeitlichen Einhüllenden.P t (y) of the signal segments then characterize the temporal envelope information.
Die die zeitliche Einhüllende und die spektrale Einhüllende kennzeichnenden Signale sp(y^ bzw. ^(μλ), welche die extrahierten Parameter der Signalleistungen gemäß Formel 2) und 3) charakterisieren, werden im Block 14 quantisiert und codiert. Das Ausgangssignal des Blocks 14 ist ein digitales Signal BWE, welches einen Bitstrom charakterisiert, welcher in co- dierter Form Informationen der zeitlichen Einhüllenden und der spektralen Einhüllenden enthält. Dieses digitale Signal BWE wird an einen Decodierer übertragen, welcher im Nachfolgenden noch näher erläutert wird. Anzumerken ist, dass bei einer Redundanz zwischen den extrahierten Parametern der Signalstärken gemäß den Formeln 2) und 3) eine gemeinsame bzw. verbindende Codierung, wie sie beispielsweise durch eine Vektorquantisierung ermöglicht werden kann, durchgeführt werden kann.The signals s p (y ^ or ^ (μλ) characterizing the temporal envelope and the spectral envelope, which characterize the extracted parameters of the signal powers according to formulas 2) and 3), are quantized and coded in block 14. The output signal of the block 14 is a digital signal BWE, which characterizes a bit stream which contains in coded form information of the temporal envelope and the spectral envelope. This digital signal BWE is transmitted to a decoder, which will be explained in more detail below. It should be noted that in the case of a redundancy between the extracted parameters of the signal strengths according to formulas 2) and 3), a common coding, such as may be made possible, for example, by vector quantization, can be carried out.
Wie des Weiteren aus der Darstellung in FIG 1 zu erkennen ist, wird das breitbandige Eingangssprachsignal sw'b(k) auch an den Block 2 übertragen. Mittels diesem als Bandpassfilter ausgebildeten Block 2 werden die Signalkomponenten eines schmalbandigen Bereichs des breitbandigen Eingangssprachsignals sw'b(k) gefiltert. Der schmalbandige Bereich liegt im Aus- führungsbeispiel zwischen 50 Hz und 3,4 kHz. Das Ausgangssignal des Blocks 2 ist ein schmalbandiges Signal snb(k) und wird an den Block 3, welcher im Ausführungsbeispiel als weiterer Codierer ausgebildet ist, übertragen. In diesem Block 3 wird das schmalbandige Signal snb(k) codiert und als digitales Sig- nal BWN als Bitstrom an den nachfolgend erläuterten Decodierer übertragen.As can also be seen from the illustration in FIG. 1, the wideband input speech signal s w ' b (k) is also transmitted to the block 2. By means of this block 2 designed as a bandpass filter, the signal components of a narrowband range of the wideband input speech signal s w ' b (k) are filtered. The narrowband range in the exemplary embodiment is between 50 Hz and 3.4 kHz. The output signal of the block 2 is a narrowband signal s nb (k) and is transmitted to the block 3, which is formed in the embodiment as a further encoder. In this block 3, the narrowband signal s nb (k) is encoded and transmitted as a digital signal BWN as a bit stream to the decoder explained below.
In FIG 2 ist eine schematische Blockschaltbilddarstellung eines derartigen Decodierers 5 einer erfindungsgemäßen Vorrich- tung zur künstlichen Erweiterung der Bandbreite von Sprachsignalen gezeigt. Wie in der FIG 2 zu erkennen ist, wird das digitale Signal BWN zunächst an einen weiteren Decodierer 4 übertragen, welcher die in dem digitalen Signal BWN enthaltenen Informationen decodiert und daraus wiederum das schmal- bandige Signal snb(k) erzeugt. Des Weiteren generiert der Decodierer 4 ein weiteres Signal s(k) , welches Nebeninformationen enthält. Diese Nebeninformationen können beispielsweise Verstärkungsfaktoren oder Filterkoeffizienten sein. Dieses Signal s(k) wird an einen Block 51 des Decodierers 5 über- tragen. Der Block 51 ist im Ausführungsbeispiel zum Generieren eines Anregungssignals im Frequenzbereich des Erweiterungsbandes ausgebildet, wobei dazu die Informationen des Signals s(k) berücksichtigt werden. Darüber hinaus weist der Decodierer 5, welcher im Ausführungsbeispiel in einem Empfänger angeordnet ist, einen Block 52 auf, welcher zum Decodieren des über eine Übertragungs- strecke zwischen dem Codierer 1 und dem Decodierer 2 übertragenen Signals BWE ausgebildet ist. Es sei angemerkt, dass auch das digitale Signal BWN über diese Übertragungsstrecke zwischen dem Codierer 1 und dem Decodierer 5 übertragen wird. Wie aus der Darstellung in FIG 2 zu erkennen ist, ist sowohl der Block 51 als auch der Block 52 mit Decodiererbereichen 53 bis 55 verbunden. Das Funktionsprinzip des Decodierers 5 bzw. die in dem Decodierer 5 durchgeführten Teilschritte des erfindungsgemäßen Verfahrens werden nachfolgend näher erläutert.FIG. 2 shows a schematic block diagram illustration of such a decoder 5 of a device according to the invention for artificially expanding the bandwidth of speech signals. As can be seen in FIG. 2, the digital signal BWN is first transmitted to a further decoder 4 which decodes the information contained in the digital signal BWN and in turn generates the narrowband signal s nb (k) from it. Furthermore, the decoder 4 generates a further signal s (k), which contains side information. These side information may be, for example, gain factors or filter coefficients. This signal s (k) of the decoder 5 to block wear exceeds 51st The block 51 is formed in the embodiment for generating an excitation signal in the frequency range of the extension band, to which the information of the signal s (k) are taken into account. In addition, the decoder 5, which is arranged in the embodiment in a receiver, a block 52, which is designed for decoding the transmitted over a transmission distance between the encoder 1 and the decoder 2 signal BWE. It should be noted that also the digital signal BWN is transmitted via this transmission path between the encoder 1 and the decoder 5. As can be seen from the illustration in FIG. 2, both the block 51 and the block 52 are connected to decoder areas 53 to 55. The functional principle of the decoder 5 or the sub-steps of the method according to the invention carried out in the decoder 5 are explained in more detail below.
Wie bereits oben angesprochen, werden die in dem codierten digitalen Signal BWE enthaltenen Informationen in dem Block 52 decodiert und die Signalleistungen, welche gemäß den Formeln 2) und 3) berechnet werden und welche die zeitliche Ein- hüllende und die spektrale Einhüllende charakterisieren, rekonstruiert. Wie aus der Darstellung in FIG 2 zu entnehmen ist, ist das im Block 51 erzeugte Anregungssignal S^x(Jc) dasAs already mentioned above, the information contained in the encoded digital signal BWE is decoded in block 52 and the signal powers, which are calculated according to formulas 2) and 3) and which characterize the temporal envelope and the spectral envelope, are reconstructed. As can be seen from the illustration in FIG. 2, the excitation signal S ^ x (Jc) generated in block 51 is the
Eingangssignal zur rekonstruierenden Formung der zeitlichen Einhüllenden und der spektralen Einhüllenden. Dieses Anre- gungssignal kann dabei im Wesentlichen ein beliebigesInput signal for the reconstructive shaping of the temporal envelope and the spectral envelope. This excitation signal can essentially be any
Signal sein, wobei als wesentliche Voraussetzung für dieses Signal gelten muss, dass es eine ausreichende Signalleistung im Frequenzbereich des Erweiterungsbandes des breitbandigen Eingangsspektralsignals sw'b(k) aufweist. Beispielsweise kann als Anregungssignal sexc(k) eine modulierte Version des schmal- bandigen Signals snb(k) oder aber ein beliebiges Rauschen verwendet werden. Wie bereits erwähnt, ist dieses Anregungssignal für die Feinstrukturierung der spektralen Einhüllenden und der zeitlichen Einhüllenden in den Signalkomponen- ten des Erweiterungsbandes eines breitbandigen Ausgangssprachsignals swb(k) verantwortlich. Aus diesem Grunde ist es vorteilhaft, dass dieses Anregungssignal s (k) in einer der- artigen Weise erzeugt wird, dass es die Harmonischen der Grundfrequenz des schmalbandigen Signals snb(k) aufweist.Signal must be, as an essential condition for this signal must be that it has a sufficient signal power in the frequency range of the extension band of the wideband input spectral signal s w ' b (k). For example, the narrowband signal s nb (k) or any noise are used as excitation signal s exc (k) is a modulated version. As already mentioned, this excitation signal is responsible for the fine structuring of the spectral envelope and the temporal envelope in the signal components of the extension band of a broadband output speech signal s wb (k). For this reason, it is advantageous for this excitation signal s (k) to be present in one of these is generated such that it has the harmonics of the fundamental frequency of the narrowband signal s nb (k).
Im Falle von hierarchischen Sprachcodierungen besteht eine Möglichkeit dies zu erreichen darin, Parameter des weiteren Decodierers 4 zu verwenden. Ist beispielsweise Ak eine anteilige oder realwertige Verschiebung der Grundfrequenz und b der LTB-Verstärkungsfaktor eines adaptiven Codebuchs in einem CELP-Schmalbanddecodierer, dann ist beispielsweise eine Anre- gung mit harmonischen Frequenzen bei einem ganzzahligen Vielfachen der momentanen Grundfrequenz durch eine LTP-Synthese- filterung eines Bandpassfilters (Frequenzbereich des Erweiterungsbandes) aus einem willkürlichen Signal neb(k) , möglich.In the case of hierarchical speech coding, one way to achieve this is to use parameters of the further decoder 4. For example, if A k is a fractional or real shift of the fundamental frequency and b is the adaptive codebook LTB gain in a CELP narrowband decoder, then harmonic frequency excitation is at an integer multiple of the current fundamental frequency by LTP synthesis filtering a bandpass filter (frequency range of the extension band) from an arbitrary signal n eb (k) possible.
Das Anregungssignal ergibt sich dabei gemäß nachfolgender Formel 4) :The excitation signal results according to the following formula 4):
*«(*) =»*(*)+/(*)*«(*-**)* «(*) =» * (*) + / (*) * «(* - **)
Der LTP-Verstärkungsfaktor kann dabei durch die Funktion f (b) reduziert oder limitiert werden, um eine Überstimmhaftigkeit der erzeugten Signalkomponeneten des Erweiterungsbandes verhindern zu können. Es sei angemerkt, dass eine Mehrzahl wei- terer Alternativen durchgeführt werden können, um eine synthetische Breitbandanregung mittels Parametern eines schmalbandigen Codecs durchführen zu können.In this case, the LTP amplification factor can be reduced or limited by the function f (b) in order to be able to prevent overstimulation of the generated signal components of the expansion band. It should be noted that a plurality of further alternatives can be carried out in order to be able to carry out synthetic broadband excitation by means of parameters of a narrowband codec.
Eine weitere Möglichkeit, um ein Anregungssignal erzeugen zu können besteht darin, dass eine Modulation des schmalbandigen Signals snb(k) mit einer Sinusfunktion mit einer festen Frequenz oder durch eine direkte Verwendung eines willkürlichen Signals neb(k) , wie dies bereits oben definiert wurde, durchgeführt wird. Es sei betont, dass das Verfahren, welches für die Erzeugung des Anregungssignals verwendet wird, völlig unabhängig von der Generierung des digitalen Signals BWE sowie dem Format dieses digitalen Signals BWE und sowie der Decodierung dieses digitalen Signals BWE ist. Daher kann diesbezüglich eine unabhängige Einstellung durchgeführt werden.Another way to generate an excitation signal is to modulate the narrowband signal s nb (k) with a sine function at a fixed frequency or by directly using an arbitrary signal n eb (k), as already defined above was, is performed. It should be emphasized that the method used for the generation of the excitation signal is completely independent of the generation of the digital signal BWE and the format of this digital signal BWE and the decoding of this digital signal BWE. Therefore, can In this regard, an independent setting be performed.
Im Nachfolgenden wird die rekonstruierende Formung der zeit- liehen Einhüllenden näher erläutert. Das digitale Signal BWE wird, wie bereits angesprochen, in dem Block 52 decodiert und die die zeitliche Einhüllenden und die spektrale Einhüllenden charakterisierenden Parameter der Signalleistung, welche gemäß den Formeln 2) und 3) berechnet werden, werden entspre- chend der Signale j (v) und sp (μ>λ) bereitgestellt. Wie dazu aus der Darstellung in FIG 2 zu erkennen ist, wird im Ausführungsbeispiel zunächst eine rekonstruierende Formung der zeitlichen Einhüllenden durchgeführt. Dies wird im Decodier- erbereich 53 durchgeführt. Dazu wird das Anregungssignal Sexcik) sowie das Signal j (v) an diesen Decodiererbereich 53 übertragen. Wie in FIG 2 gezeigt, wird das Anregungssignal sexc[k) sowohl an einen Block 531 als auch an einen Multiplizierer 532 übertragen. An den Block 531 wird auch das Signal -J (v) übertragen. Aus diesen an den Block 531 übertragenen Signalen wird ein skalarer Korrekturfaktor gi (k) erzeugt.In the following, the reconstructive shaping of the temporal envelope will be explained in more detail. As already mentioned, the digital signal BWE is decoded in the block 52 and the parameters of the signal power characterizing the temporal envelope and the spectral envelope, which are calculated according to the formulas 2) and 3), corresponding to the signals j (v ) and s p (μ> λ) . As can be seen from the illustration in FIG. 2, a reconstructive shaping of the temporal envelopes is first carried out in the exemplary embodiment. This is done in the decoder area 53. For this purpose, the excitation signal S exc ik) and the signal j (v) are transmitted to this decoder area 53. As shown in FIG. 2, the excitation signal s exc [k ] is transmitted both to a block 531 and to a multiplier 532. The signal -J (v) is also transmitted to the block 531. From these signals transmitted to block 531, a scalar correction factor gi (k) is generated.
Dieser skalare Korrekturfaktor gi (k) wird von dem Block 531 an den Multiplizierer 532 übertragen. In dem Multiplizierer 532 wird dann das Anregungssignal sexc[k) mit diesem skalarenThis scalar correction factor gi (k) is transferred from the block 531 to the multiplier 532. In the multiplier 532, the excitation signal s exc [k ] then becomes scalar
Korrekturfaktor gi (k) multipliziert und ein Ausgangssignal S0x[Ic) erzeugt, welches die rekonstruierte Formung der zeitlichen Einhüllenden charakterisiert. Dieses Ausgangssignal sexc[k) weist die annähernd richtige zeitliche Einhüllenden auf, ist jedoch im Hinblick auf die korrekte Frequenz noch ungenau bzw. unpräzise, wodurch in einem nachfolgenden Schritt das Durchführen einer rekonstruierenden Formung der spektralen Einhüllenden erforderlich ist, um diese unpräzise Frequenz an die erforderliche Frequenz anpassen zu können.Correction factor gi (k) multiplied and generates an output signal S 0x [Ic], which characterizes the reconstructed shaping of the temporal envelope. This output signal s exc [k] has the approximately correct temporal envelope, but is still inaccurate or imprecise with respect to the correct frequency, which in a subsequent step, the performing a reconstructed shaping of the spectral envelope is required to this imprecise frequency to be able to adjust the required frequency.
Wie dabei in FIG 2 zu erkennen ist, wird das Ausgangssignal S0x[Ic) an einen zweiten Decodiererbereich 54 des Decodierers 5 übertragen, an den auch das Signal ^ (μ λ) übertragen wird. Der zweite Decodiererbereich 54 weist einen Block 541 und einen Block 542 auf, wobei der Block 541 zur Filterung des Ausgangssignals S0x(Ic) ausgelegt ist. Aus dem Ausgangssignal s exc(k) und dem Signal ^ (μ λ) wird eine Impulsantwort h(k) erzeugt, welche von dem Block 541 zum Block 542 übertragen wird. In diesem Block 542 wird dann aus dem Ausgangssignal s exc(k) und der Impulsantwort h(k) die rekonstruierende Formung der spektralen Einhüllenden durchgeführt. Diese rekonstruierte spektrale Einhüllende wird dann durch das Ausgangssignal s exc(k) des Blocks 542 charakterisiert.As can be seen in FIG. 2, the output signal S 0x [Ic) is transmitted to a second decoder area 54 of the decoder 5, to which the signal ^ (μ λ) is also transmitted. The second decoder area 54 has a block 541 and a Block 542, wherein the block 541 is designed to filter the output signal S 0x (Ic). From the output signal s exc (k) and the signal ^ (μ λ) , an impulse response h (k) is generated, which is transmitted from block 541 to block 542. In this block 542, the reconstructive shaping of the spectral envelope is then carried out from the output signal s exc (k) and d of the impulse response h (k). This reconstructed spectral envelope is then characterized by the output s exc (k) of block 542.
Im gezeigten Ausführungsbeispiel gemäß FIG 2 wird nachfolgend auf die Erzeugung des Ausgangssignals des zweiten Deco- diererbereichs 54 nochmals eine rekonstruierende Formung der zeitlichen Einhüllenden in einem dritten Decodiererbereich 55 des Decodierers 5 durchgeführt. Diese rekonstruierende Formung der zeitlichen Einhüllenden erfolgt analog wie sie im ersten Decodiererbereich 53 durchgeführt wird. Dabei wird in diesem dritten Decodiererbereich 55 aus dem Ausgangssignal s exc(k) und dem Signal J (v) durch den Block 551 ein zweiter skalarer Korrekturfaktor g2 (k) generiert, welcher an einen Multiplizierer 552 übertragen wird. Als Ausgangssignal des dritten Decodiererbereichs 55 des Decodierers 5 wird dann das die zur Bandbreitenerweiterung erforderlichen Signalkomponenten charakterisierende Signal seb(k) bereitgestellt. Dieses Signal seb(k) wird an einen Summierer 56 übertragen, an den auch das schmalbandige Signal snb(k) übertragen wird. Durch die Summation des schmalbandigen Signals snb(k) und des Signals seb(k) wird das bandbreitenerweiterte Ausgangssignal sw ° b(k) erzeugt und als Ausgangssignal des Decodierers 5 be- reitgestellt.In the exemplary embodiment shown according to FIG. 2, the following is based on the generation of the output signal of the second decoder area 54, a reconstructing shaping of the temporal envelope in a third decoder area 55 of the decoder 5 is again carried out. This reconstructing shaping of the temporal envelope takes place analogously as it is carried out in the first decoder region 53. In this case, in this third decoder region 55, a second scalar correction factor g 2 (k) is generated by the block 551 from the output signal s exc (k) and the signal J (v) , which is transmitted to a multiplier 552. As the output signal of the third decoder region 55 of the decoder 5, the signal s eb (k) characterizing the signal components required for the bandwidth extension is then provided. This signal s eb (k) is transmitted to a summer 56, to which also the narrowband signal s nb (k) is transmitted. By summing the narrowband signal s nb (k) and the signal s eb (k), the bandwidth-extended output signal s w ° b (k) is generated and provided as the output signal of the decoder 5.
Es sei angemerkt, dass die in FIG 2 gezeigte Ausführung lediglich beispielhaft ist und für die Erfindung bereits eine einzige rekonstruierende Formung der zeitlichen Einhüllenden, wie dies im ersten Decodiererbereich 53 durchgeführt wird, und eine einzige rekonstruierende Formung der spektralen Einhüllenden, wie dies im zweiten Decodiererbereich 54 durchge- führt wird, ausreichend ist. Ebenso sei angemerkt, dass auch vorgesehen sein kann, dass die rekonstruierende Formung der spektralen Einhüllenden in dem zweiten Decodiererbereich 54 vor dem rekonstruierenden Formen der zeitlichen Einhüllenden in dem ersten Decodiererbereich 53 durchgeführt wird. Dies bedeutet, dass der zweite Decodiererbereich 54 bei einer derartigen Ausführung vor dem ersten Decodiererbereich 53 angeordnet ist. Ebenso kann jedoch auch vorgesehen sein, dass das alternierende Durchführen einer rekonstruierenden Formung der zeitlichen Einhüllenden und einer rekonstruierenden Formung der spektralen Einhüllenden nochmals fortgesetzt wird und beispielsweise in der in FIG 2 gezeigten Ausführung anschließend an den dritten Decodiererbereich 55 ein weiterer Decodiererbereich angeordnet ist, in dem wiederum eine rekon- struierende Formung der spektralen Einhüllenden durchgeführt wird.It should be noted that the embodiment shown in FIG. 2 is merely exemplary and that the invention already has a single reconstructive shaping of the temporal envelopes, as is done in the first decoder region 53, and a single reconstructive shaping of the spectral envelopes, as in the second decoder region 54 carried out is sufficient. It should also be noted that it can also be provided that the reconstructive shaping of the spectral envelope in the second decoder area 54 is performed before the reconstruction of the temporal envelope in the first decoder area 53. This means that the second decoder region 54 is arranged before the first decoder region 53 in such an embodiment. Likewise, however, it can also be provided that the alternate execution of a reconstructing shaping of the temporal envelope and a reconstructive shaping of the spectral envelope is continued and, for example, in the embodiment shown in FIG. 2, a further decoder region is arranged adjacent to the third decoder region 55 in turn, a reconstructive shaping of the spectral envelope is carried out.
Wie bereits oben angegeben, wird die Erfindung im Ausführungsbeispiel in vorteilhafter Weise für ein breitbandiges Eingangssprachsignal mit einem Frequenzbereich von etwa 50 Hz bis 7 kHz verwendet. Ebenso ist die Erfindung im Ausführungsbeispiel zur künstlichen Erweiterung der Bandbreite von Sprachsignalen vorgesehen, wobei dabei das Erweiterungsband durch den Frequenzbereich von etwa 3,4 kHz bis etwa 7 kHz vorgegeben ist. Es kann jedoch auch vorgesehen sein, dass die Erfindung für ein Erweiterungsband herangezogen wird, welches in einem niederfrequenten Frequenzbereich angesiedelt ist. Beispielsweise kann das Erweiterungsband dabei einen Frequenzbereich von etwa 50 Hz oder aber auch niedrigere Fre- quenzen, bis zu einem Frequenzbereich von etwa 3,4 kHz umfassen. Es sei explizit betont, dass das erfindungsgemäße Verfahren zur künstlichen Erweiterung der Bandbreite von Sprachsignalen auch derart eingesetzt werden kann, dass das Erweiterungsband einen Frequenzbereich umfasst, der zumindest teilweise oberhalb einer Frequenz von etwa 7 kHz liegt und beispielsweise bis zu 8 kHz, insbesondere 10 kHz, oder noch höher reicht. Wie bereits erläutert, wird eine rekonstruierende Formung der zeitlichen Einhüllenden in dem ersten Decodiererbereich 53 gemäß FIG 2 durch eine Multiplikation des skalaren ersten Korrekturfaktors gi (k) und dem Anregungssignal S^x(Jc) gene- riert. Dabei ist zu beachten, dass eine Multiplikation imAs already stated above, the invention is advantageously used in the exemplary embodiment for a wideband input speech signal having a frequency range of about 50 Hz to 7 kHz. Likewise, the invention is provided in the exemplary embodiment for the artificial extension of the bandwidth of speech signals, wherein the extension band is predetermined by the frequency range of about 3.4 kHz to about 7 kHz. However, it can also be provided that the invention is used for an extension band, which is located in a low-frequency frequency range. For example, the extension band may comprise a frequency range of about 50 Hz or even lower frequencies, up to a frequency range of about 3.4 kHz. It should be explicitly emphasized that the method according to the invention for the artificial extension of the bandwidth of speech signals can also be used such that the extension band comprises a frequency range which is at least partially above a frequency of about 7 kHz and for example up to 8 kHz, in particular 10 kHz , or even higher. As already explained, a reconstructed formation of the temporal envelope in the first decoder area 53 is riert according to FIG 2 by a multiplication of the scalar first correction factor gi (k) and the excitation signal S ^ x (Jc) generation. It should be noted that a multiplication in
Zeitraum korrespondierend zu einer Faltungsoperation im Frequenzraum ist, wodurch sich nachfolgende Formel 5) ergeben:Period corresponding to a convolution operation in the frequency domain, resulting in the following formula 5):
*!(*) = «(*)*«(*) ;*! (*) = «(*) *« (*);
Solange die spektrale Einhüllenden im Prinzip durch den ersten Decodiererbereich 53 nicht verändert wird, sollte der erste skalare Korrekturfaktor bzw. Verstärkungsfaktor gi (k) strikte Tiefpassfrequenzcharakteristiken aufweisen.As long as the spectral envelope is in principle not changed by the first decoder region 53, the first scalar correction factor or gain gi (k) should have strict low-pass frequency characteristics.
Zur Berechnung dieser Verstärkungsfaktoren bzw. dieses ersten Korrekturfaktors gi (k) wird das Anregungssignal S^0(It) in ei- ner Weise segmentiert und analysiert, welche bereits oben für die Segmentierung und die Analyse der Extrahierung der zeitlichen Einhüllenden bzw. der Erzeugung des Signals spfy) aus dem Signal seb(k) in dem Codierer 1 mittels dem Block 12 durchgeführt wird. Das Verhältnis zwischen der decodierten Signalleistung, wie sie durch die Formel 3) berechnet wird, und dem analysierten Ergebnis der Signalstärke P^fy) führt zu einem erwünschten Verstärkungsfaktor γ(v) für das v-te Signalsegment. Dieser Verstärkungsfaktor des v-ten Signalsegments berechnet sich gemäß nachstehender Formel 6) :For calculating these amplification factors or this first correction factor gi (k), the excitation signal S ^ 0 (It) is segmented and analyzed in a manner already described above for the segmentation and the analysis of the extraction of the temporal envelope or the generation of the Signal s pfy) from the signal s eb (k) is performed in the encoder 1 by means of the block 12. The ratio between the decoded signal power as calculated by formula 3) and the analyzed result of the signal strength P ^ fy) results in a desired gain γ (v) for the vth signal segment. This amplification factor of the vth signal segment is calculated in accordance with the following formula 6):
Aus diesem Verstärkungsfaktor γ(v) wird der Verstärkungsfaktor bzw. erste Korrekturfaktor gi (k) durch eine Interpolation und eine Tiefpassfilterung berechnet. Die Tiefpassfilterung ist dabei von entscheidender Bedeutung, um den Einfluss die- ses Verstärkungsfaktors bzw. dieses ersten Korrekturfaktors gi (k) auf die spektrale Einhüllende zu begrenzen.From this amplification factor γ (v), the amplification factor or first correction factor gi (k) is calculated by interpolation and low-pass filtering. Low-pass filtering is crucial to This gain factor or this first correction factor gi (k) to limit the spectral envelope.
Die rekonstruierende Formung der spektralen Einhüllenden der erforderlichen Signalkomponenten des Erweiterungsbandes wird durch eine Filterung des Ausgangssignals S0x(Ic) , welches die rekonstruierte Formung der zeitlichen Einhüllenden charakterisiert, bestimmt. Die Filteroperation kann dabei im Zeitraum oder im Frequenzraum implementiert werden. Um eine große Zeitstreuung bzw. Zeitaufweitung der Impulsantwort h(k) vermeiden zu können, kann die korrespondierende Frequenzcharakteristik H(z) geglättet werden. Um die erwünschten Frequenzcharakteristiken bestimmen zu können, wird das Ausgangssignal s exc(k) des ersten Decodiererbereichs 53 analysiert, um die Signalleistungen der Pf°(\i,X) auffinden zu können. Der erwünschte Verstärkungsfaktor Φ(μ,λ) eines entsprechenden Unterbandes des Frequenzbereichs des Erweiterungsbandes wird gemäß nachstehender Formel 7) berechnet:The reconstructive shaping of the spectral envelope of the required signal components of the extension band is determined by filtering the output signal S 0x (Ic), which characterizes the reconstructed shaping of the temporal envelope. The filter operation can be implemented in the period or in the frequency domain. In order to avoid a large time dispersion or time expansion of the impulse response h (k), the corresponding frequency characteristic H (z) can be smoothed. In order to be able to determine the desired frequency characteristics, the output signal s exc (k) of the first decoder region 53 is analyzed in order to be able to find the signal powers of the Pf ° (\ i, X). The desired amplification factor Φ (μ, λ) of a corresponding subband of the frequency range of the expansion band is calculated according to the following formula 7):
Die Frequenzcharakteristik H(μ,i) der Formfilter der spektralen Einhüllenden kann durch eine Interpolation des Verstärkungsfaktors Φ(μ,λ) und mit einer Glättung unter Berücksich- tigung der Frequenz berechnet werden. Falls der Formungsfilter der spektralen Einhüllenden im Zeitraum verwendet werden soll, beispielsweise durch einen linearen Phasen-FIR-Filter, können die Filterkoeffizienten durch eine inverse FF- Transformation der Frequenzcharakteristik H(μ,i) und einer nachfolgenden Fensterung berechnet werden.The frequency characteristic H (μ, i) of the shape filters of the spectral envelope can be calculated by interpolation of the amplification factor Φ (μ, λ) and with a smoothing taking into account the frequency. If the shaping filter of the spectral envelope is to be used in the period, for example by a linear phase FIR filter, the filter coefficients can be calculated by an inverse FF transformation of the frequency characteristic H (μ, i) and a subsequent windowing.
Wie durch die obigen Ausführungen erläutert und gezeigt wurde, beeinflusst die rekonstruierende Formung der zeitlichen Einhüllenden die rekonstruierende Formung der spektralen Ein- hüllenden und umgekehrt. Deshalb ist es vorteilhaft, dass, wie im Ausführungsbeispiel erläutert und in FIG 2 darge- stellt, eine alternierende Durchführung einer rekonstruierenden Formung einer zeitlichen Einhüllenden und einer spektralen Einhüllenden in einem iterativen Prozess durchgeführt wird. Dadurch kann eine wesentlich verbesserte Übereinstim- mung der zeitlichen und der spektralen Einhüllenden der Signalkomponenten des Erweiterungsbandes, welche in dem Decodie- rer rekonstruiert werden und den entsprechenden im Codierer erzeugten zeitlichen und spektralen Einhüllenden erreicht werden.As explained and shown by the above explanations, the reconstructive shaping of the temporal envelope influences the reconstructive shaping of the spectral envelopes and vice versa. It is therefore advantageous that, as explained in the exemplary embodiment and shown in FIG. provides an alternate performance of reconstructing a temporal envelope and a spectral envelope in an iterative process. Thereby, a substantially improved match of the temporal and spectral envelopes of the signal components of the enhancement band, which are reconstructed in the decoder and the corresponding temporal and spectral envelopes generated in the coder, can be achieved.
Im beschriebenen Ausführungsbeispiel gemäß FIG 2 wird eine eineinhalbfache Iteration (Rekonstruierung der zeitlichen Einhüllenden, Rekonstruierung der spektralen Einhüllenden und nochmalige Rekonstruierung der zeitlichen Einhüllenden) durchgeführt. Eine Bandbreitenerweiterung, wie sie durch die Erfindung ermöglicht wird, erleichtert die Generierung eines Anregungssignals mit Harmonischen bei der richtigen Frequenz, beispielsweise bei einem ganzzahligen Vielfachen der Grundfrequenz des momentanen Lauts. Anzumerken ist, dass die Er- findung auch bei downgesampleten Unterbandsignalkomponenten des breitbandigen Eingangssignals angewendet werden kann. Dies ist dann vorteilhaft, wenn ein geringer Rechenaufwand gefordert ist.In the described embodiment according to FIG. 2, one and a half times the iteration (reconstruction of the temporal envelopes, reconstruction of the spectral envelopes and renewed reconstruction of the temporal envelopes) is carried out. Bandwidth expansion, as enabled by the invention, facilitates the generation of an excitation signal having harmonics at the correct frequency, for example at an integer multiple of the fundamental frequency of the current sound. It should be noted that the invention can also be applied to downsampled subband signal components of the broadband input signal. This is advantageous when a low computational effort is required.
In vorteilhafter Weise werden der Codierer 1 sowie die Blöcke 2 und 3 in einem Sender angeordnet, wobei logischerweise auch die in den Blöcken 2 und 3 sowie dem Codierer 1 durchgeführten Verfahrensschritte dann auch in dem Sender durchgeführt werden. Der Block 4 sowie der Decodierer 5 können in vorteil- hafter Weise in einem Empfänger angeordnet sein, wodurch auch dadurch klar ist, dass die in dem Decodierer 5 und in dem Block 4 durchgeführten Vorschritte in dem Empfänger abgearbeitet werden. Anzumerken ist, dass die Erfindung auch derart realisiert werden kann, dass die in dem Codierer 1 durchge- führten Verfahrensschritte im Decodierer 5 durchgeführt werden und somit ausschließlich im Empfänger durchgeführt werden. Dabei kann vorgesehen sein, dass die Signalleistungen, welche gemäß den Formeln 2) und 3) berechnet werden, im Deco- dierer 5 geschätzt werden. Insbesondere ist dabei der Block 52 zum Schätzen dieser Parameter der Signalleistungen ausgebildet. Diese Ausführung ermöglicht das Verbergen von potenziellen Übertragungsfehlern der in dem digitalen Signal BWE übertragenen Nebeninformationen. Durch eine vorübergehendeAdvantageously, the encoder 1 and the blocks 2 and 3 are arranged in a transmitter, wherein logically, the process steps carried out in the blocks 2 and 3 and the encoder 1 are then also carried out in the transmitter. The block 4 as well as the decoder 5 can advantageously be arranged in a receiver, whereby it is also clear that the preliminary steps carried out in the decoder 5 and in the block 4 are executed in the receiver. It should be noted that the invention can also be implemented in such a way that the method steps carried out in the coder 1 are carried out in the decoder 5 and are thus carried out exclusively in the receiver. It can be provided that the signal powers, which are calculated according to the formulas 2) and 3), in the deco 5 can be estimated. In particular, the block 52 is designed to estimate these parameters of the signal powers. This embodiment allows the concealment of potential transmission errors of the side information transmitted in the digital signal BWE. By a temporary
Schätzung von verloren gegangenen Parametern einer Einhüllenden, beispielsweise durch einen Datenverlust, kann ein lästiges Umschalten der Signalbandbreite verhindert werden.Estimation of lost parameters of an envelope, for example by a loss of data, can be a troublesome switching of the signal bandwidth can be prevented.
Im Unterschied zu den bekannten Verfahren zum künstlichen Erweitern der Bandbreite von Sprachsignalen wird bei der Erfindung kein Übertragen von bereits verwendeten Verstärkungsfaktoren und Filterkoeffizienten als Nebeninformationen durchgeführt, sondern lediglich die erwünschten zeitlichen und spektralen Einhüllenden als Nebeninformationen an einen Deco- dierer übertragen. Verstärkungsfaktoren und Filterkoeffizienten werden erst dann im Decodierer, welcher in einem Empfänger angeordnet ist, berechnet. Dadurch kann erreicht werden, dass in aufwandsarmer Weise die künstliche Erweiterung der Bandbreite im Empfänger analysiert und gegebenenfalls korrigiert werden kann. Darüber hinaus ist das erfindungsgemäße Verfahren sowie die erfindungsgemäße Vorrichtung sehr robust gegen Störungen des Anregungssignals, wobei beispielsweise eine derartige Störung eines empfangenen schmalbandigen Sig- nals durch Übertragungsfehler hervorgerufen werden kann.In contrast to the known methods for artificially widening the bandwidth of speech signals, in the invention no transfer of already used amplification factors and filter coefficients is carried out as secondary information, but only the desired temporal and spectral envelopes are transmitted as side information to a decoder. Gain factors and filter coefficients are only then calculated in the decoder, which is arranged in a receiver. It can thereby be achieved that the artificial extension of the bandwidth in the receiver can be analyzed and, if necessary, corrected in a low-effort manner. In addition, the method according to the invention and the device according to the invention are very robust against disturbances of the excitation signal, whereby, for example, such a disturbance of a received narrowband signal can be caused by transmission errors.
Durch ein separates Durchführen der Analyse, des Übertragens und der rekonstruierenden Formgebung der zeitlichen und spektralen Einhüllenden wird erreicht, dass sowohl im Zeit- räum als auch im Frequenzraum eine sehr gute Auflösung bzw. Aufspaltung im Zeitraum und im Frequenzraum erreicht werden kann. Dies führt zu einer sehr guten Reproduzierbarkeit sowohl von stationären Lauten und Klängen als auch von vorübergehenden bzw. kurzzeitigen Signalen. Für Sprachsignale profi- tiert insbesondere die Reproduktion von Stoppkonsonanten und Plosiven von der wesentlich verbesserten Zeitauflösung. Im Gegensatz zu herkömmlichen Bandbreitenerweiterungen kann durch die Erfindung die Frequenzformung durch Linearphasen- FIR-Filter anstatt von LPC-Synthesefiltern durchgeführt werden. Dadurch kann auch erreicht werden, dass typische Arte- fakte („filter ringing") reduziert werden können. Darüber hinaus ermöglicht die Erfindung eine sehr flexible und modu- lare Aufbauweise, welche es darüber hinaus ermöglicht, dass die einzelnen Blöcke im Empfänger bzw. im Decodierer 5 in einfacher Weise ausgetauscht oder eingestellt werden können. In vorteilhafter Weise ist für eine derartige Änderung oder Einstellung keine Änderung des Senders bzw. des Codierers 1 oder des Formats des Übertragungssignals, mit dem die codierten Informationen an den Decodierer 5 bzw. den Empfänger ü- bertragen werden, erforderlich. Darüber hinaus können mit dem erfindungsgemäßen Verfahren unterschiedliche Decodierer betrieben werden, wodurch eine Wiederherstellung des breitban- digen Eingangssignals mit unterschiedlicher Präzision in Abhängigkeit von der verfügbaren Rechenleistung durchgeführt werden kann.By carrying out the analysis, the transmission and the reconstructing shaping of the temporal and spectral envelopes separately, a very good resolution or splitting in the time domain and in the frequency domain can be achieved both in the time domain and in the frequency domain. This leads to a very good reproducibility of both stationary sounds and sounds as well as transient or short-term signals. For speech signals, in particular, the reproduction of stop consonants and plosives benefits from the significantly improved time resolution. Unlike conventional bandwidth extensions, the invention allows the frequency shaping to be performed by linear phase FIR filters rather than LPC synthesis filters. It can also be achieved that typical artifacts ("filter ringing") can be reduced, In addition, the invention allows a very flexible and modular design, which also allows the individual blocks in the receiver or in the Decoder 5 can advantageously be exchanged or set in an advantageous manner For such a change or adjustment, no change of the transmitter or the coder 1 or the format of the transmission signal with which the coded information to the decoder 5 or the receiver ü In addition, different decoders can be operated with the method according to the invention, as a result of which a restoration of the broadband input signal can be carried out with different precision as a function of the available computing power.
Anzumerken ist auch, dass die empfangenen Parameter, welche die spektrale und die zeitliche Einhüllenden charakterisieren, nicht nur für eine Erweiterung der Bandbreite herangezogen werden können, sondern darüber hinaus auch zur Unterstüt- zung von nachfolgenden Signalverarbeitungsblöcken, wie beispielsweise eine Nachfilterung, oder zusätzlichen Codierungsstufen wie Transformierungscodierer, verwendet werden können.It should also be noted that the received parameters which characterize the spectral and temporal envelopes can be used not only for an extension of the bandwidth, but also for the support of subsequent signal processing blocks, such as post-filtering, or additional coding steps such as Transformer encoder, can be used.
Das resultierende schmalbandige Sprachsignal snb(k) , wie es dem Algorithmus zur Bandbreitenerweiterung zur Verfügung steht, kann beispielsweise nach einer Reduktion der Abtastfrequenz um einen Faktor 2 mit einer Abtastrate von 8 kHz vorliegen .The resulting narrowband speech signal s nb (k), as available to the bandwidth expansion algorithm, may be present, for example, after a reduction of the sampling frequency by a factor of 2 at a sampling rate of 8 kHz.
Mit der Erfindung und dem zugrunde gelegten Prinzip der Bandbreitenerweiterung ist es möglich, eine breitbandige Anregung von Informationen des G.729AH—Standards zu generieren. Die Datenrate der in dem digitalen Signal BWE übertragenen Neben- Informationen kann etwa 2 kbit/s betragen. Darüber hinaus wird bei der Erfindung ein relativ niedrig komplexes Berechnungssystem bzw. ein relativ niedriger komplexer Rechenaufwand benötigt, welcher weniger als 3 WMOPS beträgt. Darüber hinaus ist das erfindungsgemäße Verfahren und die erfindungsgemäße Vorrichtung sehr robust gegen Basisbandstörungen des G.729AH—Standards. Die Erfindung kann auch in vorteilhafter Weise für den Einsatz bei Voice-over-IP verwendet werden. Darüber hinaus ist das erfindungsgemäße Verfahren sowie die erfindungsgemäße Vorrichtung kompatibel zu TDAC-Einhüllenden, Nicht zuletzt weist die Erfindung auch einen sehr modularen und flexiblen Aufbau und eine modulare und flexible Konzepti- onierung auf. With the invention and the underlying principle of bandwidth expansion, it is possible to generate a broadband excitation of information of the G.729AH standard. The data rate of the secondary signals transmitted in the digital signal BWE Information can be about 2 kbit / s. Moreover, in the invention, a relatively low-complexity calculation system or a relatively low complex computational effort is required, which is less than 3 WMOPS. In addition, the inventive method and the device according to the invention is very robust against baseband disturbances of the G.729AH standard. The invention may also be used advantageously for use in voice-over-IP. Moreover, the method according to the invention and the device according to the invention are compatible with TDAC envelopes. Last but not least, the invention also has a very modular and flexible structure and a modular and flexible conception.

Claims

Patentansprüche claims
1. Verfahren zur künstlichen Erweiterung der Bandbreite von Sprachsignalen, gekennzeichnet durch folgende Schritte: a) Bereitstellen eines breitbandigen EingangssprachsignalsA method of artificially extending the bandwidth of speech signals characterized by the steps of: a) providing a wideband input speech signal
b) Bestimmen der zur Bandbreitenerweiterung erforderlichen Signalkomponenten (seb(k)) des breitbandigen Eingangs- sprachsignals (sw'b(k)) aus einem Erweiterungsband des breitbandigen Eingangssprachsignals (sw'b(k)); c) Bestimmen der zeitlichen Einhüllenden der zur Bandbreitenerweiterung bestimmten Signalkomponenten (seb(k)); d) Bestimmen der spektralen Einhüllenden der zur Bandbreiten- erweiterung bestimmten Signalkomponenten (seb(k)); e) Codieren der Informationen der zeitlichen Einhüllenden und der spektralen Einhüllenden und Bereitstellen der codierten Informationen zum Durchführen der Erweiterung der Bandbreite; f) Decodieren der codierten Informationen und Generieren der zeitlichen Einhüllenden und der spektralen Einhüllenden aus den codierten Informationen zum Erzeugen eines bandbreitenerweiterten Ausgangssprachsignals (swb(k)).b) determining the signal components (s eb (k)) required for the bandwidth extension of the wideband input speech signal (s w ' b (k)) from an extension band of the wideband input speech signal (s w ' b (k)); c) determining the temporal envelope of the signal components intended for bandwidth extension (s eb (k)); d) determining the spectral envelopes of the signal components intended for bandwidth broadening (s eb (k)); e) encoding the information of the temporal envelope and the spectral envelope and providing the encoded information for performing the extension of the bandwidth; f) decoding the coded information and generating the temporal envelope and the spectral envelope from the coded information to produce a bandwidth-expanded output speech signal (s wb (k)).
2. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass die zur Bandbreitenerweiterung erforderlichen Signalkomponenten (seb(k)) durch eine Filterung, insbesondere eine Bandpass-2. The method according to claim 1, characterized in that the signal components required for bandwidth expansion (s eb (k)) by filtering, in particular a bandpass filter
Filterung, aus dem breitbandigen Eingangssprachsignal (sw'b(k) bestimmt werden.Filtering, are determined from the wideband input speech signal (s w ' b (k).
3. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass das Bestimmen der zeitlichen Einhüllenden in Schritt c) unab- hängig von dem Bestimmen der spektralen Einhüllenden in Schritt d) durchgeführt wird.3. The method according to any one of the preceding claims, characterized in that the determination of the temporal envelope in step c) is performed independently of the determination of the spectral envelope in step d).
4. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass vor dem Codieren der zeitlichen Einhüllenden und der spektralen Einhüllenden in Schritt e) eine Quantisierung der zeitlichen Einhüllenden und der spektralen Einhüllenden durchge- führt wird.4. The method according to any one of the preceding claims, characterized in that prior to the coding of the temporal envelope and the spectral envelope in step e) a quantization of the temporal envelope and the spectral envelope is performed.
5. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass in Schritt d) zum Bestimmen der spektralen Einhüllenden die Signalleistungen (iy(μ,λ)) von spektralen Unterbändern der zur Bandbreitenerweiterung bestimmten Signalkomponenten (seb(k)) bestimmt werden.5. The method according to any one of the preceding claims, characterized in that in step d) for determining the spectral envelope, the signal powers (i y (μ, λ)) of spectral subbands of the band width extension specific signal components (s eb (k)) are determined ,
6. Verfahren nach Anspruch 5, dadurch gekennzeichnet, dass zum Bestimmen der Signalleistungen (iy(μ,λ)) der spektralen6. The method according to claim 5, characterized in that for determining the signal powers (i y (μ, λ)) of the spectral
Unterbänder Signalsegmente der zur Bandbreitenerweiterung bestimmten Signalkomponenten (seb(k)) erzeugt werden, wobei diese Signalsegmente insbesondere transformiert, insbesondere FF-transformiert, werden.Subbands signal segments of the band width extension specific signal components (s eb (k)) are generated, these signal segments in particular transformed, in particular FF-transformed, are.
7. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass in Schritt c) zum Bestimmen der zeitlichen Einhüllenden die Signalstärken (Pt(y)) von zeitlichen Signalsegmenten der zur Bandbreitenerweiterung bestimmten Signalkomponenten (seb(k)) bestimmt werden.7. The method according to any one of the preceding claims, characterized in that in step c) for determining the temporal envelope, the signal strengths (P t (y)) of temporal signal segments of the band width extension determined signal components (s eb (k)) are determined.
8. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass in Schritt f) die codierten Informationen zum rekonstruierenden Formen der zeitlichen Einhüllenden und der spektralen Einhüllenden decodiert werden.8. The method according to any one of the preceding claims, characterized in that in step f) the encoded information for reconstructing forms of the temporal envelope and the spectral envelope are decoded.
9. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass ein Anregungssignal (s^ik)) in einem Decodierer (5) aus einem an den Decodierer (5) übertragenen Signal (s(k)) erzeugt wird, wobei das übertragene Signal (s(k)) eine derartige Signalstärke in dem Frequenzbereich, welcher demjenigen des Erweiterungsbandes des breitbandigen Eingangssprachsignals (sw'b(k)) entspricht, aufweist, welche eine Erzeugung eines An- regungssignals ermöglicht.9. The method according to any one of the preceding claims, characterized in that an excitation signal (s ^ ik)) in a decoder (5) from a to the decoder (5) transmitted signal (s (k)) generated is, wherein the transmitted signal (s (k)) such a signal strength in the frequency range, which corresponds to that of the extension band of the wideband input speech signal (s w ' b (k)), which comprises generating a excitation signal allows.
10. Verfahren nach Anspruch 9, dadurch gekennzeichnet, dass an den Decodierer (5) ein moduliertes schmalbandiges Signal mit einem Bandbereich unterhalb dem Bandbereich des Erweiterungsbands des breitbandigen Eingangssprachsignals (sw'b(k)) zum Erzeugen des Anregungssignals (s^ik)) übertragen wird.10. The method according to claim 9, characterized in that to the decoder (5) a modulated narrow-band signal having a band range below the band range of the extension band of the wideband input speech signal (s w ' b (k)) for generating the excitation signal (s ^ ik) ) is transmitted.
11. Verfahren nach Anspruch 9 oder 10, dadurch gekennzeichnet, dass das Anregungssignal (s^k)) Harmonische der Grundfrequenz des an den Decodierer (5) übertragenen Signals (s(k)) aufweist.11. The method according to claim 9 or 10, characterized in that the excitation signal (s ^ k)) harmonics of the fundamental frequency of the decoder (5) transmitted signal (s (k)).
12. Verfahren nach Anspruch 8 und 11, dadurch gekennzeichnet, dass aus den decodierten Informationen der zeitlichen Einhüllenden und dem Anregungssignal (s^k)) ein erster Korrekturfaktor ( gλ(k) ) bestimmt wird.12. The method according to claim 8 and 11, characterized in that from the decoded information of the temporal envelope and the excitation signal (s ^ k)) a first correction factor (g λ (k)) is determined.
13. Verfahren nach Anspruch 12, dadurch gekennzeichnet, dass aus dem ersten Korrekturfaktor (gι(k)) und dem Anregungssignal (s∞cik)) eine rekonstruierende Formung der zeitlichen Einhüllenden, insbesondere durch eine Multiplikation des ersten Korrekturfaktors (g\(&)) mit dem Anregungssignal (s^ik)), durchgeführt wird.13. The method according to claim 12, characterized in that from the first correction factor (gι (k)) and the excitation signal (s ∞c ik)) a reconstructive shaping of the temporal envelope, in particular by a multiplication of the first correction factor (g \ (& )) with the excitation signal (s ^ ik)).
14. Verfahren nach Anspruch 13, dadurch gekennzeichnet, dass die rekonstruierte Formung der zeitlichen Einhüllenden gefiltert wird und bei dem Filtern Impulsantworten (h(k)) erzeugt werden. 14. The method according to claim 13, characterized in that the reconstructed shaping of the temporal envelope is filtered and in the filtering impulse responses (h (k)) are generated.
15. Verfahren nach Anspruch 14, dadurch gekennzeichnet, dass aus den Impulsantworten (h(k)) und der rekonstruierten Formung der zeitlichen Einhüllenden eine rekonstruierende For- mung der spektralen Einhüllenden durchgeführt wird.15. The method according to claim 14, characterized in that from the impulse responses (h (k)) and the reconstructed shaping of the temporal envelope, a reconstructive shaping of the spectral envelope is performed.
16. Verfahren nach Anspruch 15, dadurch gekennzeichnet, dass aus der rekonstruierten Formung der spektralen Einhüllenden die Signalkomponenten (seb(k)) des Erweiterungsbands des breitbandigen Eingangssprachsignals (sw'b(k)) rekonstruiert werden.16. The method according to claim 15, characterized in that from the reconstructed shaping of the spectral envelope, the signal components (s eb (k)) of the extension band of the wideband input speech signal (s w ' b (k)) are reconstructed.
17. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass an einen Decodierer (5) ein schmalbandiges Signal (snb(k)) mit einem Bandbereich unterhalb dem Erweiterungsband des breitbandigen Eingangssignals (sw'b(k)) übertragen wird.17. The method according to any one of the preceding claims, characterized in that to a decoder (5) a narrow-band signal (s nb (k)) with a band range below the extension band of the wideband input signal (s w ' b (k)) is transmitted.
18. Verfahren nach Anspruch 16 und 17, dadurch gekennzeichnet, dass das bandbreitenerweiterte Ausgangssprachsignal (sw ° b(k)) aus dem an den Decodierer (5) übertragenen schmalbandigen Signal (snb(k)) und der rekonstruierten Formung der spektralen Ein- hüllenden, insbesondere aus einer Summation dieser beiden18. The method according to claim 16 and 17, characterized in that the bandwidth-expanded output speech signal (s w ° b (k)) from the decoder (5) transmitted narrow-band signal (s nb (k)) and the reconstructed shaping of the spectral Ein - enveloping, in particular from a summation of these two
Signale, bestimmt wird und als Ausgangssignal des Decodierers (5) bereitgestellt wird.Signals, is determined and provided as an output signal of the decoder (5).
19. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Schritte a) bis e) in einem Codierer (1) durchgeführt werden und die in Schritt d) erzeugten codierten Informationen als digitales Signal (BWE) zum Decodieren übertragen werden.19. The method according to any one of the preceding claims, characterized in that the steps a) to e) are performed in an encoder (1) and the coded information generated in step d) are transmitted as a digital signal (BWE) for decoding.
20. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass das breitbandige Eingangssprachsignal (sw'b(k)) eine Bandbreite zwischen etwa 50Hz und etwa 7 kHz umfasst.20. The method according to any one of the preceding claims, characterized in that the wideband input speech signal (s w ' b (k)) comprises a bandwidth between about 50 Hz and about 7 kHz.
21. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass das Erweiterungsband des breitbandigen Eingangssprachsignals (sw'b(k)) den Frequenzbereich von etwa 3,4 kHz bis etwa 7 kHz umfasst .21. The method according to any one of the preceding claims, characterized in that the extension band of the wideband input speech signal (s w ' b (k)) comprises the frequency range from about 3.4 kHz to about 7 kHz.
22. Verfahren nach Anspruch 17, dadurch gekennzeichnet, dass das schmalbandige Signal (snb(k)) einen Signalbereich des breitbandigen Eingangssprachsignals (sw'b(k)) von etwa 50Hz bis etwa 3,4 kHz umfasst.22. The method according to claim 17, characterized in that the narrow-band signal (s nb (k)) comprises a signal range of the wideband input speech signal (s w ' b (k)) of about 50Hz to about 3.4 kHz.
23. Vorrichtung zur künstlichen Erweiterung der Bandbreite von Sprachsignalen, an welche ein breitbandiges Eingangssprachsignal (sw'b(k)) anlegbar ist, gekennzeichnet durch a) Mittel zum Bestimmen der zur Bandbreitenerweiterung erforderlichen Signalkomponenten (seb(k)) des breitbandigen Eingangssprachsignals (sw'b(k)) aus einem Erweiterungsband des breitbandigen Eingangssprachsignals (sw'b(k)); b) Mittel zum Bestimmen der zeitlichen Einhüllenden der zur Bandbreitenerweiterung bestimmten Signalkomponenten23. Device for the artificial extension of the bandwidth of speech signals to which a broadband input speech signal (s w ' b (k)) can be applied, characterized by a) means for determining the signal components (s eb (k)) required for the bandwidth extension of the broadband input speech signal (s w ' b (k)) from an extension band of the wideband input speech signal (s w ' b (k)); b) means for determining the temporal envelope of the signal components intended for bandwidth extension
(seb(k)); c) Mittel zum Bestimmen der spektralen Einhüllenden der zur Bandbreitenerweiterung bestimmten Signalkomponenten(s eb (k)); c) means for determining the spectral envelope of the signal components intended for bandwidth extension
(seb(k)); d) einem Codierer (1) zum Codieren der zeitlichen Einhüllenden und der spektralen Einhüllenden und Bereitstellen der codierten Informationen zum Durchführen der Erweiterung der Bandbreite; und e) einen Decodierer (5) zum Decodieren der codierten Informa- tionen und Generieren der zeitlichen Einhüllenden und der spektralen Einhüllenden aus den codierten Informationen zum Erzeugen eines bandbreitenerweiterten Ausgangssprachsignals (sw ° b(k) ) .(s eb (k)); d) an encoder (1) for encoding the temporal envelope and the spectral envelope and providing the encoded information for performing the extension of the bandwidth; and e) a decoder (5) for decoding the encoded information and generating the temporal envelope and the spectral envelope from the encoded information for generating a bandwidth-extended output speech signal (s w ° b (k)).
24. Vorrichtung nach Anspruch 23, dadurch gekennzeichnet, dass die Mittel in a) bis d) als Codierer (1) ausgebildet sind. 24. The device according to claim 23, characterized in that the means in a) to d) as encoder (1) are formed.
EP06840370A 2005-07-13 2006-06-30 Method and apparatus for artificially expanding the bandwidth of voice signals Not-in-force EP1825461B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PL06840370T PL1825461T3 (en) 2005-07-13 2006-06-30 Method and apparatus for artificially expanding the bandwidth of voice signals

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102005032724A DE102005032724B4 (en) 2005-07-13 2005-07-13 Method and device for artificially expanding the bandwidth of speech signals
PCT/EP2006/063742 WO2007073949A1 (en) 2005-07-13 2006-06-30 Method and apparatus for artificially expanding the bandwidth of voice signals

Publications (2)

Publication Number Publication Date
EP1825461A1 true EP1825461A1 (en) 2007-08-29
EP1825461B1 EP1825461B1 (en) 2008-09-03

Family

ID=36994160

Family Applications (1)

Application Number Title Priority Date Filing Date
EP06840370A Not-in-force EP1825461B1 (en) 2005-07-13 2006-06-30 Method and apparatus for artificially expanding the bandwidth of voice signals

Country Status (12)

Country Link
US (1) US8265940B2 (en)
EP (1) EP1825461B1 (en)
JP (1) JP4740260B2 (en)
KR (1) KR100915733B1 (en)
CN (2) CN101676993B (en)
AT (1) ATE407424T1 (en)
CA (1) CA2580622C (en)
DE (2) DE102005032724B4 (en)
DK (1) DK1825461T3 (en)
ES (1) ES2309969T3 (en)
PL (1) PL1825461T3 (en)
WO (1) WO2007073949A1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2498420C1 (en) * 2009-04-03 2013-11-10 Нтт Докомо, Инк. Speech encoder, speech decoder, speech encoding method, speech decoding method, speech encoding program and speech decoding program

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
BRPI0818927A2 (en) * 2007-11-02 2015-06-16 Huawei Tech Co Ltd Method and apparatus for audio decoding
CA2708861C (en) * 2007-12-18 2016-06-21 Lg Electronics Inc. A method and an apparatus for processing an audio signal
ATE500588T1 (en) * 2008-01-04 2011-03-15 Dolby Sweden Ab AUDIO ENCODERS AND DECODERS
KR101261677B1 (en) 2008-07-14 2013-05-06 광운대학교 산학협력단 Apparatus for encoding and decoding of integrated voice and music
US8407046B2 (en) * 2008-09-06 2013-03-26 Huawei Technologies Co., Ltd. Noise-feedback for spectral envelope quantization
US8532998B2 (en) 2008-09-06 2013-09-10 Huawei Technologies Co., Ltd. Selective bandwidth extension for encoding/decoding audio/speech signal
WO2010028301A1 (en) * 2008-09-06 2010-03-11 GH Innovation, Inc. Spectrum harmonic/noise sharpness control
US8532983B2 (en) * 2008-09-06 2013-09-10 Huawei Technologies Co., Ltd. Adaptive frequency prediction for encoding or decoding an audio signal
WO2010031049A1 (en) * 2008-09-15 2010-03-18 GH Innovation, Inc. Improving celp post-processing for music signals
WO2010031003A1 (en) * 2008-09-15 2010-03-18 Huawei Technologies Co., Ltd. Adding second enhancement layer to celp based core layer
US9947340B2 (en) * 2008-12-10 2018-04-17 Skype Regeneration of wideband speech
CN101751926B (en) 2008-12-10 2012-07-04 华为技术有限公司 Signal coding and decoding method and device, and coding and decoding system
WO2010070770A1 (en) * 2008-12-19 2010-06-24 富士通株式会社 Voice band extension device and voice band extension method
JP4921611B2 (en) * 2009-04-03 2012-04-25 株式会社エヌ・ティ・ティ・ドコモ Speech decoding apparatus, speech decoding method, and speech decoding program
WO2011035813A1 (en) * 2009-09-25 2011-03-31 Nokia Corporation Audio coding
KR101613684B1 (en) * 2009-12-09 2016-04-19 삼성전자주식회사 Apparatus for enhancing bass band signal and method thereof
JP5652658B2 (en) * 2010-04-13 2015-01-14 ソニー株式会社 Signal processing apparatus and method, encoding apparatus and method, decoding apparatus and method, and program
ES2565959T3 (en) * 2010-06-09 2016-04-07 Panasonic Intellectual Property Corporation Of America Bandwidth extension method, bandwidth extension device, program, integrated circuit and audio decoding device
WO2012004058A1 (en) * 2010-07-09 2012-01-12 Bang & Olufsen A/S A method and apparatus for providing audio from one or more speakers
US8560330B2 (en) * 2010-07-19 2013-10-15 Futurewei Technologies, Inc. Energy envelope perceptual correction for high band coding
US8924200B2 (en) * 2010-10-15 2014-12-30 Motorola Mobility Llc Audio signal bandwidth extension in CELP-based speech coder
US8868432B2 (en) * 2010-10-15 2014-10-21 Motorola Mobility Llc Audio signal bandwidth extension in CELP-based speech coder
KR20120046627A (en) * 2010-11-02 2012-05-10 삼성전자주식회사 Speaker adaptation method and apparatus
CN102610231B (en) * 2011-01-24 2013-10-09 华为技术有限公司 Method and device for expanding bandwidth
JP6147744B2 (en) * 2011-07-29 2017-06-14 ディーティーエス・エルエルシーDts Llc Adaptive speech intelligibility processing system and method
JP6200034B2 (en) * 2012-04-27 2017-09-20 株式会社Nttドコモ Speech decoder
JP5997592B2 (en) * 2012-04-27 2016-09-28 株式会社Nttドコモ Speech decoder
US9258428B2 (en) 2012-12-18 2016-02-09 Cisco Technology, Inc. Audio bandwidth extension for conferencing
KR101775086B1 (en) * 2013-01-29 2017-09-05 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에.베. Decoder for generating a frequency enhanced audio signal, method of decoding, encoder for generating an encoded signal and method of encoding using compact selection side information
BR112015018019B1 (en) * 2013-01-29 2022-05-24 Fraunhofer-Gesellschaft Zur Forderung Der Angewandten Forschung E.V Audio encoders, audio decoders, systems and methods using high temporal resolution in the temporal proximity of initiations or offsets of fricatives or affricatives
EP2784775B1 (en) * 2013-03-27 2016-09-14 Binauric SE Speech signal encoding/decoding method and apparatus
CN104217727B (en) * 2013-05-31 2017-07-21 华为技术有限公司 Signal decoding method and equipment
US9666202B2 (en) 2013-09-10 2017-05-30 Huawei Technologies Co., Ltd. Adaptive bandwidth extension and apparatus for the same
US10163447B2 (en) * 2013-12-16 2018-12-25 Qualcomm Incorporated High-band signal modeling
EP3199956B1 (en) * 2016-01-28 2020-09-09 General Electric Technology GmbH Apparatus for determination of the frequency of an electrical signal and associated method

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3946821B2 (en) * 1996-12-13 2007-07-18 東北リコー株式会社 Plate removal equipment
DE19706516C1 (en) * 1997-02-19 1998-01-15 Fraunhofer Ges Forschung Encoding method for discrete signals and decoding of encoded discrete signals
SE512719C2 (en) * 1997-06-10 2000-05-02 Lars Gustaf Liljeryd A method and apparatus for reducing data flow based on harmonic bandwidth expansion
US5890125A (en) * 1997-07-16 1999-03-30 Dolby Laboratories Licensing Corporation Method and apparatus for encoding and decoding multiple audio channels at low bit rates using adaptive selection of encoding method
US6978236B1 (en) * 1999-10-01 2005-12-20 Coding Technologies Ab Efficient spectral envelope coding using variable time/frequency resolution and time/frequency switching
CA2290037A1 (en) * 1999-11-18 2001-05-18 Voiceage Corporation Gain-smoothing amplifier device and method in codecs for wideband speech and audio signals
DE10041512B4 (en) * 2000-08-24 2005-05-04 Infineon Technologies Ag Method and device for artificially expanding the bandwidth of speech signals
US20020031129A1 (en) * 2000-09-13 2002-03-14 Dawn Finn Method of managing voice buffers in dynamic bandwidth circuit emulation services
DE10102173A1 (en) * 2001-01-18 2002-07-25 Siemens Ag Method for converting speech signals of different bandwidth encoded parametrically into speech signals uses encoded speech signals with a first bandwidth or a second narrow bandwidth and a broadband decoder.
JP2003044098A (en) * 2001-07-26 2003-02-14 Nec Corp Device and method for expanding voice band
US6895375B2 (en) * 2001-10-04 2005-05-17 At&T Corp. System for bandwidth extension of Narrow-band speech
US20030187663A1 (en) 2002-03-28 2003-10-02 Truman Michael Mead Broadband frequency translation for high frequency regeneration
EP1398946B1 (en) * 2002-09-12 2006-01-04 Siemens Aktiengesellschaft Communication terminal apparatus with bandwidth enlargement and echo canceler
DE10252070B4 (en) * 2002-11-08 2010-07-15 Palm, Inc. (n.d.Ges. d. Staates Delaware), Sunnyvale Communication terminal with parameterized bandwidth extension and method for bandwidth expansion therefor
US20040138876A1 (en) * 2003-01-10 2004-07-15 Nokia Corporation Method and apparatus for artificial bandwidth expansion in speech processing
US20050004793A1 (en) * 2003-07-03 2005-01-06 Pasi Ojala Signal adaptation for higher band coding in a codec utilizing band split coding
WO2006107837A1 (en) * 2005-04-01 2006-10-12 Qualcomm Incorporated Methods and apparatus for encoding and decoding an highband portion of a speech signal

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See references of WO2007073949A1 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2498420C1 (en) * 2009-04-03 2013-11-10 Нтт Докомо, Инк. Speech encoder, speech decoder, speech encoding method, speech decoding method, speech encoding program and speech decoding program
RU2498422C1 (en) * 2009-04-03 2013-11-10 Нтт Докомо, Инк. Speech encoder, speech decoder, speech encoding method, speech decoding method, speech encoding program and speech decoding program
RU2498421C2 (en) * 2009-04-03 2013-11-10 Нтт Докомо, Инк. Speech encoder, speech decoder, speech encoding method, speech decoding method, speech encoding program and speech decoding program

Also Published As

Publication number Publication date
KR100915733B1 (en) 2009-09-04
CN100568345C (en) 2009-12-09
CN101676993B (en) 2012-05-30
CA2580622C (en) 2011-05-10
ES2309969T3 (en) 2008-12-16
CN101676993A (en) 2010-03-24
ATE407424T1 (en) 2008-09-15
EP1825461B1 (en) 2008-09-03
JP4740260B2 (en) 2011-08-03
US8265940B2 (en) 2012-09-11
CN101061535A (en) 2007-10-24
DE102005032724B4 (en) 2009-10-08
US20080126081A1 (en) 2008-05-29
PL1825461T3 (en) 2009-02-27
CA2580622A1 (en) 2007-01-13
DE102005032724A1 (en) 2007-02-01
KR20070090143A (en) 2007-09-05
DK1825461T3 (en) 2009-01-26
DE502006001491D1 (en) 2008-10-16
WO2007073949A1 (en) 2007-07-05
JP2008513848A (en) 2008-05-01

Similar Documents

Publication Publication Date Title
EP1825461B1 (en) Method and apparatus for artificially expanding the bandwidth of voice signals
DE10041512B4 (en) Method and device for artificially expanding the bandwidth of speech signals
DE60202881T2 (en) RECONSTRUCTION OF HIGH-FREQUENCY COMPONENTS
DE60024501T2 (en) Improvement of Perceptual Quality of SBR (Spectral Band Replication) AND HFR (Radio Frequency Reconstruction) Coding method by adaptively adding noise floor and limiting the noise substitution
DE69816810T2 (en) SYSTEMS AND METHODS FOR AUDIO ENCODING
DE60218385T2 (en) Post-filtering of coded speech in the frequency domain
DE60029990T2 (en) SMOOTHING OF THE GAIN FACTOR IN BROADBAND LANGUAGE AND AUDIO SIGNAL DECODER
EP1979901B1 (en) Method and arrangements for audio signal encoding
DE69926821T2 (en) Method for signal-controlled switching between different audio coding systems
DE60101148T2 (en) DEVICE AND METHOD FOR VOICE SIGNAL MODIFICATION
DE19747132C2 (en) Methods and devices for encoding audio signals and methods and devices for decoding a bit stream
DE60103424T2 (en) IMPROVING THE PERFORMANCE OF CODING SYSTEMS USING HIGH FREQUENCY RECONSTRUCTION PROCESSES
DE60317722T2 (en) Method for reducing aliasing interference caused by the adjustment of the spectral envelope in real value filter banks
DE69634645T2 (en) Method and apparatus for speech coding
DE60117471T2 (en) BROADBAND SIGNAL TRANSMISSION SYSTEM
DE69916321T2 (en) CODING OF AN IMPROVEMENT FEATURE FOR INCREASING PERFORMANCE IN THE CODING OF COMMUNICATION SIGNALS
EP1869671B1 (en) Noise suppression process and device
EP1386307B2 (en) Method and device for determining a quality measure for an audio signal
DE60128479T2 (en) METHOD AND DEVICE FOR DETERMINING A SYNTHETIC HIGHER BAND SIGNAL IN A LANGUAGE CODIER
WO2005083678A1 (en) Device and method for processing a multi-channel signal
DE69820362T2 (en) Non-linear filter for noise suppression in linear predictive speech coding devices
DE60124079T2 (en) language processing
DE60131766T2 (en) PERCEPTIONALLY IMPROVED CODING OF ACOUSTIC SIGNALS
EP1016319A1 (en) Process and device for coding a time-discrete stereo signal
DE60311891T2 (en) AUDIO CODING

Legal Events

Date Code Title Description
PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

17P Request for examination filed

Effective date: 20070222

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IS IT LI LT LU LV MC NL PL PT RO SE SI SK TR

AX Request for extension of the european patent

Extension state: AL BA HR MK YU

DAX Request for extension of the european patent (deleted)
GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

GRAS Grant fee paid

Free format text: ORIGINAL CODE: EPIDOSNIGR3

GRAA (expected) grant

Free format text: ORIGINAL CODE: 0009210

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IS IT LI LT LU LV MC NL PL PT RO SE SI SK TR

REG Reference to a national code

Ref country code: GB

Ref legal event code: FG4D

Free format text: NOT ENGLISH

REG Reference to a national code

Ref country code: CH

Ref legal event code: EP

Ref country code: CH

Ref legal event code: NV

Representative=s name: SIEMENS SCHWEIZ AG

REG Reference to a national code

Ref country code: IE

Ref legal event code: FG4D

Free format text: LANGUAGE OF EP DOCUMENT: GERMAN

REF Corresponds to:

Ref document number: 502006001491

Country of ref document: DE

Date of ref document: 20081016

Kind code of ref document: P

REG Reference to a national code

Ref country code: ES

Ref legal event code: FG2A

Ref document number: 2309969

Country of ref document: ES

Kind code of ref document: T3

REG Reference to a national code

Ref country code: SE

Ref legal event code: TRGR

REG Reference to a national code

Ref country code: DK

Ref legal event code: T3

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: LT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080903

Ref country code: NL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080903

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080903

Ref country code: LV

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080903

Ref country code: FI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080903

REG Reference to a national code

Ref country code: PL

Ref legal event code: T3

NLV1 Nl: lapsed or annulled due to failure to fulfill the requirements of art. 29p and 29m of the patents act
REG Reference to a national code

Ref country code: CH

Ref legal event code: PCAR

Free format text: SIEMENS SCHWEIZ AG;INTELLECTUAL PROPERTY FREILAGERSTRASSE 40;8047 ZUERICH (CH)

REG Reference to a national code

Ref country code: IE

Ref legal event code: FD4D

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: BG

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20081203

Ref country code: IE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080903

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CZ

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080903

Ref country code: PT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20090203

Ref country code: IS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20090103

Ref country code: RO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080903

Ref country code: SK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080903

PLBE No opposition filed within time limit

Free format text: ORIGINAL CODE: 0009261

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: EE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080903

26N No opposition filed

Effective date: 20090604

BERE Be: lapsed

Owner name: SIEMENS A.G.

Effective date: 20090630

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MC

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20090630

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: BE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20090630

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: AT

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20090630

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: GR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20081204

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: LU

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20090630

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: HU

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20090304

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: TR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080903

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CY

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20080903

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: IT

Payment date: 20120626

Year of fee payment: 7

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IT

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20130630

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: SE

Payment date: 20140605

Year of fee payment: 9

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: DK

Payment date: 20140618

Year of fee payment: 9

Ref country code: PL

Payment date: 20140523

Year of fee payment: 9

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: CH

Payment date: 20140904

Year of fee payment: 9

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: FR

Payment date: 20140617

Year of fee payment: 9

Ref country code: ES

Payment date: 20140725

Year of fee payment: 9

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: GB

Payment date: 20150608

Year of fee payment: 10

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: DE

Payment date: 20150821

Year of fee payment: 10

REG Reference to a national code

Ref country code: DK

Ref legal event code: EBP

Effective date: 20150630

REG Reference to a national code

Ref country code: CH

Ref legal event code: PL

REG Reference to a national code

Ref country code: SE

Ref legal event code: EUG

REG Reference to a national code

Ref country code: FR

Ref legal event code: ST

Effective date: 20160229

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CH

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20150630

Ref country code: LI

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20150630

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: FR

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20150630

Ref country code: SE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20150701

REG Reference to a national code

Ref country code: ES

Ref legal event code: FD2A

Effective date: 20160801

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: DK

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20150630

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: PL

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20150630

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: ES

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20150701

REG Reference to a national code

Ref country code: DE

Ref legal event code: R119

Ref document number: 502006001491

Country of ref document: DE

GBPC Gb: european patent ceased through non-payment of renewal fee

Effective date: 20160630

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: DE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20170103

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: GB

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20160630