WO2009110738A2 - 오디오 신호 처리 방법 및 장치 - Google Patents

오디오 신호 처리 방법 및 장치 Download PDF

Info

Publication number
WO2009110738A2
WO2009110738A2 PCT/KR2009/001050 KR2009001050W WO2009110738A2 WO 2009110738 A2 WO2009110738 A2 WO 2009110738A2 KR 2009001050 W KR2009001050 W KR 2009001050W WO 2009110738 A2 WO2009110738 A2 WO 2009110738A2
Authority
WO
WIPO (PCT)
Prior art keywords
signal
audio signal
type
coding
coding type
Prior art date
Application number
PCT/KR2009/001050
Other languages
English (en)
French (fr)
Other versions
WO2009110738A3 (ko
Inventor
오현오
송정욱
이창헌
정양원
강홍구
Original Assignee
엘지전자(주)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자(주) filed Critical 엘지전자(주)
Priority to JP2010549570A priority Critical patent/JP5266341B2/ja
Priority to MX2010009571A priority patent/MX2010009571A/es
Priority to AU2009220321A priority patent/AU2009220321B2/en
Priority to CA2716817A priority patent/CA2716817C/en
Priority to KR1020107019538A priority patent/KR101221919B1/ko
Priority to BRPI0910285-0A priority patent/BRPI0910285B1/pt
Priority to EP09716372.9A priority patent/EP2259253B1/en
Priority to CN2009801075430A priority patent/CN101965612B/zh
Priority to US12/497,375 priority patent/US7991621B2/en
Publication of WO2009110738A2 publication Critical patent/WO2009110738A2/ko
Publication of WO2009110738A3 publication Critical patent/WO2009110738A3/ko

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16—Vocoder architecture
    • G10L19/18—Vocoders using multiple modes
    • G10L19/22—Mode decision, i.e. based on audio signal content versus external parameters
    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00—Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/00007—Time or data compression or expansion
    • G11B2020/00014—Time or data compression or expansion the compressed signal being an audio signal

Definitions

  • the present invention relates to an audio signal processing method and apparatus capable of efficiently encoding and decoding all kinds of various types of audio signals.
  • perceptual audio coder optimized for music is a method of reducing the amount of information in the encoding process by using a masking principle, which is a human listening psychoacoustic theory on the frequency axis.
  • a linear prediction based coder optimized for speech is a method of reducing the amount of information by modeling speech utterance on the time axis.
  • An object of the present invention is to provide an audio signal processing method and apparatus capable of compressing and restoring various kinds of audio signals with higher efficiency.
  • the present invention for achieving the above object is to provide an audio coding method suitable for the characteristics of the audio signal.
  • an audio coding scheme suitable for each audio signal characteristic provides a more efficient compression and reconstruction of an audio signal.
  • FIG. 1 is a block diagram illustrating an audio encoding apparatus according to an embodiment of the present invention.
  • FIG. 2 is a flowchart illustrating a method of encoding an audio signal using audio type information according to an embodiment of the present invention.
  • FIG 3 shows an example of an audio bitstream structure encoded by the present invention.
  • FIG. 4 is a block diagram illustrating an audio encoding apparatus using a psychoacoustic model according to an embodiment of the present invention.
  • FIG. 5 is a block diagram illustrating an audio encoding apparatus using a psychoacoustic model according to another embodiment of the present invention.
  • FIG. 6 illustrates a change in the noise distortion reference value using the psychoacoustic model unit according to another embodiment of the present invention.
  • FIG. 7 is a flowchart illustrating a method of generating a noise distortion reference value using a psychoacoustic model according to another embodiment of the present invention.
  • FIG. 8 is a block diagram illustrating an audio decoding apparatus according to an embodiment of the present invention.
  • FIG. 9 illustrates the configuration of a product in which an audio decoding apparatus according to an embodiment of the present invention is implemented.
  • FIG. 10 illustrates an example of a relationship between products in which an audio decoding apparatus according to an embodiment of the present invention is implemented.
  • FIG. 11 is a flowchart illustrating an audio decoding method according to an embodiment of the present invention.
  • 'Coding' may be interpreted as encoding or decoding in some cases, and information is a term including all values, parameters, coefficients, elements, and the like. .
  • the term 'audio signal' in the present invention refers to all signals that can be visually identified during reproduction as a concept that is distinguished from a video signal.
  • the audio signal may be, for example, a speech signal or a similar signal centered on human pronunciation (hereinafter, referred to as a 'speech signal'), a machine sound and a music centered sound. (music) signal or a similar signal (hereinafter referred to as a 'music signal'), and a 'mixed signal' in which the voice signal and the music signal are mixed.
  • An object of the present invention is to provide a method and apparatus for encoding and decoding audio signals classified into three types according to characteristics of each signal.
  • the classification of the audio signal is only a criterion classified for explanation of the present invention, and even if the audio signal is classified by another method, it is obvious that the technical idea of the present invention is equally applicable. .
  • FIG. 1 is a block diagram illustrating an audio encoding apparatus according to an embodiment of the present invention.
  • FIG. 1 illustrates a process of classifying an input audio signal according to a predetermined criterion and selecting and encoding an audio encoding method suitable for each classified audio signal.
  • a signal classification unit (Sound Activity Detector) 100 for analyzing a characteristic of an input audio signal and classifying it into any one type of a voice signal, a music signal, or a mixed signal of voice and music, and the signal
  • the linear prediction modeling unit 110 for encoding a speech signal among the signal types determined by the classification unit 100, the psychoacoustic modeling unit 120 for encoding a music signal, and a mixed signal for encoding a mixed signal of speech and music
  • the modeling unit 130 is included.
  • the switching unit 101 may select a coding scheme suitable for this.
  • the switching unit 101 will be described later in detail with reference to audio signal coding type information generated by the signal classification unit 100 (for example, first type information and second type information, and FIGS. 2 and 3). Is operated as a control signal.
  • the mixed signal modeling unit 130 may include a linear prediction unit 131, a residual signal extraction unit 132, and a frequency converter 133.
  • a linear prediction unit 131 for example, a linear prediction unit 131
  • a residual signal extraction unit 132 for example, first type information and second type information, and FIGS. 2 and 3
  • a frequency converter 133 for example, a frequency converter 133.
  • the signal classification unit 100 generates a control signal for classifying an input audio signal type and selecting an audio encoding scheme suitable for the input audio signal. For example, the signal classifying unit 100 classifies whether an input audio signal is a music signal, a voice signal, or a mixed signal in which both voice and music signals are mixed. That is, the reason for classifying the type of the audio signal input as described above is to select an optimal coding method among audio coding methods to be described later for each audio signal type. As a result, the signal classification unit 100 may correspond to a process of analyzing an input audio signal and selecting an optimal audio coding scheme.
  • the signal classification unit 100 analyzes an input audio signal to generate audio coding type information, and the generated audio coding type information is used as a criterion for selecting a coding scheme, as well as the final audio signal. It is included in the form of a bitstream and transmitted to the decoding apparatus or the receiving apparatus. A decoding method and apparatus using the audio coding type information will be described later in detail with reference to FIGS. 8 and 11.
  • the audio coding type information generated by the signal classification unit 100 may include, for example, first type information and second type information. This will be described later in FIGS. 2 and 3.
  • the signal classification unit 100 determines the audio signal type according to the characteristics of the input audio signal. For example, if the input audio signal is a signal that is better modeled with a specific coefficient and a residual signal, it is determined as a voice signal, whereas the signal is a signal that cannot be well modeled with a specific coefficient and a residual signal. In this case, it is determined as a music signal. In addition, when it is difficult to determine any one of the voice signal and the music signal, it may be determined as a mixed signal. Specifically, for example, when the signal is modeled as a specific coefficient and a residual signal, when the energy level ratio of the residual signal to the energy level of the signal is smaller than a predetermined reference value, the signal may be modeled.
  • the signal may be determined as a signal well modeled by linear prediction that predicts the current signal from the past signal, and thus, may be determined as a music signal.
  • the input signal may be encoded using a speech encoder optimized for the speech signal.
  • the linear prediction modeling is performed using a coding scheme suitable for the speech signal.
  • the unit 110 is used.
  • the linear prediction modeling unit 110 has various methods, for example, an Algebraic Code Excited Linear Prediction (ACELP) coding method or an Adaptive Multi-Rate (AMR) coding and an Adaptive Multi-Rate Wideband (AMR-WB) coding. The method can be applied.
  • ACELP Algebraic Code Excited Linear Prediction
  • AMR Adaptive Multi-Rate
  • AMR-WB Adaptive Multi-Rate Wideband
  • the linear prediction modeling unit 110 may linearly predict and encode an input audio signal in units of frames, and extract and quantize prediction coefficients for each frame.
  • a method of extracting prediction coefficients using a 'Levinson-Durbin algorithm' is widely used.
  • linear prediction is performed for each frame.
  • the modeling method can be applied.
  • the input audio signal when the input audio signal is classified as a music signal by the signal classification unit 100, the input signal may be encoded using a music encoder optimized for the music signal.
  • the psychoacoustic modeling unit 120 is used as a suitable coding scheme. In relation to this, an example of the psychoacoustic modeling unit 120 applied to the present invention will be described later in detail with reference to FIGS. 4 to 7.
  • the signal classification unit 100 classifies an input audio signal into a mixed signal in which voice and music are mixed
  • the input signal may be encoded using an encoder optimized for the mixed signal.
  • the mixed signal modeling unit 130 is used as an encoding method suitable for the mixed signal.
  • the mixed signal modeling unit 130 may code the mixed prediction method by modifying the aforementioned linear prediction modeling method and the psychoacoustic modeling method. That is, the mixed signal modeling unit 130 performs linear predictive coding on an input signal and then obtains a residual signal that is a difference between the linearly predicted result signal and the original signal, and the residual signal is frequency transform coded. The way you do it.
  • FIG. 1 illustrates an example in which the mixed signal modeling unit 130 includes a linear predictor 131, a residual signal extractor 132, and a frequency converter 133.
  • the linear prediction unit 131 performs linear prediction analysis on the input signal to extract linear prediction coefficients representing the characteristics of the signal, and uses the linear prediction coefficients extracted by the residual signal extracting unit 132.
  • a residual signal from which duplicate components are removed from the input signal is extracted.
  • the residual signal may have a shape such as white noise since redundancy is removed.
  • the linear predictor 131 may linearly encode an input audio signal in units of frames, and extract and quantize prediction coefficients for each frame. That is, for example, when the input audio signal is composed of a plurality of frames or a plurality of super frames having a plurality of frames as one unit, linear prediction is performed for each frame.
  • the modeling method can be applied.
  • the residual signal extractor 132 receives a residual signal coded through the linear predictor 131 and an original audio signal that has passed through the signal classifier 100, and is a residual signal that is a difference signal between the two signals. Extract the signal.
  • the frequency converter 133 calculates a masking threshold value or a signal-to-mask ratio (SMR) of the residual signal by frequency domain converting the input residual signal using a method such as MDCT. Code dual signals.
  • the frequency converter 133 may code a signal of residual audio tendency using TCX.
  • the linear prediction modeling unit 110 and the linear prediction unit 131 linearly analyze the input audio signal to extract a linear prediction coefficient (LPC) reflecting audio characteristics.
  • LPC linear prediction coefficient
  • a method using a variable bit may be considered.
  • the signal classification unit 100 generates and generates coding type information of an audio signal into two types of information, and includes the same in a bitstream to transmit to the decoding apparatus.
  • audio coding type information according to the present invention will be described in detail with reference to FIGS. 2 and 3.
  • FIG. 2 is a flowchart illustrating a method of encoding an audio signal using coding type information of the audio signal according to an embodiment of the present invention.
  • the present invention proposes a method of expressing a type of an audio signal by dividing it into first type information and second type information. That is, for example, when the input audio signal is determined to be a music signal (S100), the signal classification unit 100 may switch the switching unit (eg, to select an appropriate coding scheme (for example, the psychoacoustic modeling method of FIG. 2). By controlling 101, encoding is performed according to the selected encoding scheme (S110). Subsequently, the control information is configured as first type information and included in the encoded audio bitstream for transmission. In relation to this, the first type information eventually serves as coding identification information indicating that the coding type of the audio signal is a music signal coding time, which is utilized in decoding the audio signal in the decoding method and apparatus.
  • S100 music signal
  • the signal classification unit 100 may switch the switching unit (eg, to select an appropriate coding scheme (for example, the psychoacoustic modeling method of FIG. 2).
  • the control information is configured as first type information and included in the
  • the signal classifying unit 100 switches the switching unit 101 to select an appropriate coding scheme (for example, the linear prediction modeling method of FIG. 2). By controlling, the encoding is performed according to the selected encoding scheme (S130). In addition, if it is determined that the input audio signal is a mixed signal (S120), the signal classifying unit 100 selects the switching unit 101 to select an appropriate coding scheme (for example, the mixed signal modeling method of FIG. 2). By controlling, encoding is performed according to the selected encoding scheme (S140).
  • control information indicating either the speech signal coding type or the mixed signal coding type is configured as second type information, and is included in the encoded audio bitstream together with the first type information for transmission.
  • the second type information eventually serves as a coding identification information indicating that a coding type of an audio signal is either a voice signal coding type or a mixed signal coding type, which is the first type described above in the decoding method and apparatus. It is used to decode the audio signal along with the information.
  • the first type information and the second type information may be transmitted either only the first type information or both of the first type information and the second type information according to characteristics of the input audio signal.
  • the input audio signal coding type is a music signal coding type
  • only the first type information may be included in the bitstream and transmitted, and the second type information may not be included in the bitstream (Fig. 3 (a)). That is, since the second type information is included in the bitstream only when the input audio signal coding type is the voice signal coding type or the mixed signal coding type, the second type information prevents unnecessary bits to represent the coding type of the audio signal. It works.
  • the first type information is a music signal coding type.
  • the first type information is used as a voice signal coding type or a mixed signal coding type. It is obvious that it can be used as information to indicate. That is, according to the coding environment to which the present invention is applied, by using the audio coding type that is frequently generated as the first type information, the number of bits of the overall bitstream is reduced.
  • FIG 3 shows an example of an audio bitstream structure encoded by the present invention.
  • FIG. 3A illustrates a case where an input audio signal corresponds to a music signal, and includes only the first type information 301 in the bitstream and does not include the second type information.
  • the bitstream includes audio data coded with a coding type corresponding to the first type information 301 (for example, the AAC bitstream 302).
  • FIG. 3B illustrates a case where an input audio signal corresponds to a voice signal, and includes both first type information 311 and second type information 312 in the bitstream.
  • the bitstream includes audio data coded with a coding type corresponding to the second type information 312 (for example, the AMR bitstream 313).
  • FIG. 3C illustrates a case in which an input audio signal corresponds to a mixed signal, and includes both first type information 321 and second type information 322 in the bitstream.
  • the bitstream includes audio data coded with a coding type corresponding to the second type information 322 (for example, the AAC bitstream 313 to which TXC is applied).
  • 3 (a) to (c) are merely examples of information included in an audio bitstream encoded by the present invention, and it will be apparent that various applications are possible within the scope of the present invention. .
  • the present invention adds information for identifying AMR and AAC as examples of coding schemes, but various coding schemes are applicable, and coding identification information for identifying them may also be used in various ways.
  • 3 (a) to (c) of the present invention are applicable to one super frame, unit frame, or subframe. That is, the audio signal coding type information can be provided for each preset frame unit.
  • a frequency band extension process may be performed as a preprocessing process of an input signal encoding process using the linear prediction modeling unit 110, the psychoacoustic modeling unit 120, and the mixed signal modeling unit 130. (Not shown).
  • the frequency band extension process the SBR (Spectral Band Replication) and HBE (High Band Extension) for generating a high frequency component using a low frequency component in the bandwidth extension decoding unit may be used.
  • a channel expansion process may be performed as a preprocessing process of an input signal encoding process using the linear prediction modeling unit 110, the psychoacoustic modeling unit 120, and the mixed signal modeling unit 130 (not shown).
  • the channel expansion process reduces the bit allocation by encoding channel information of an audio signal into additional information.
  • An example of the channel extension process may include a channel extension encoding unit such as Parametric Stereo (PS).
  • PS Parametric Stereo is a technique for coding stereo signals, downmixing stereo signals to mono signals.
  • a 24 kHz mono signal signal is left after passing through SBR / Parametric Stereo, which may be encoded through an encoder.
  • the input signal of the encoder is 24 kHz because the high frequency component is coded through the SBR and downsampled to half of the existing frequency while passing through the SBR, and the reason for the mono signal is that stereo audio is parameterized through a parametric stereo (PS). This is because it is extracted and changed into the sum of mono signal and additional audio.
  • PS parametric stereo
  • FIG. 4 is a block diagram illustrating an audio encoding process using a psychoacoustic model according to an embodiment of the present invention.
  • an audio encoder using a psychoacoustic model includes a filter bank (401), a psychoacoustic model (402), a quantization unit (Quantization and Bit Allocation); 403, an entropy coding unit 404, and a multiplexer 405.
  • the filter bank 401 converts the audio signal into a frequency axis signal by performing a Modified Discrete Cosine Transform (MDCT) to encode an input audio signal that is a time axis signal.
  • MDCT Modified Discrete Cosine Transform
  • the psychoacoustic model unit 402 analyzes the perceptual characteristics of the input audio signal to determine the maximum allowable quantization noise for each frequency required for the bit allocation process.
  • the noise shaping reference is a diagram of the maximum allowable quantization noise for each frequency.
  • the psychoacoustic model unit 402 since the psychoacoustic model unit 402 analyzes the perceptual characteristics of the input signal on the frequency axis, it requires a frequency conversion process of the input signal. Although the frequency conversion is performed through the filter bank 401 in the encoding process of the audio signal, since the experimental results of the psychoacoustic theory are mostly performed on the Discrete Fourier Transform (DFT) axis, FFT (Fast Fourier Transform) transformation is performed. It is preferable.
  • DFT Discrete Fourier Transform
  • the noise distortion reference value in the psychoacoustic model is obtained by convolution of the frequency spectrum with a spreading function corresponding to each frequency component.
  • the difference between the noise distortion reference value obtained by the psychoacoustic model and the input signal spectrum is calculated by perceptual entropy, and the appropriate bits are allocated to quantize the spectrum of the audio signal.
  • the quantization unit 403 removes an amount of quantization noise located below a noise distortion reference value determined by the psychoacoustic model unit 402 in the audio signal converted into the frequency axis signal through the filter bank 401. Quantize the result after loss coding. It also assigns bits to the quantized audio signal. The bit allocation process optimizes the quantization noise generated in the quantization process at a given bit rate to be as small as possible than the maximum allowable noise obtained from the psychoacoustic model.
  • the entropy coding unit 404 maximizes the compression rate of the audio signal by assigning a code according to the frequency of use of the quantized and bit-allocated audio signal through the quantization unit 403. That is, the compression efficiency is improved by assigning codes so that the average code length is closest to entropy.
  • the basic principle is to reduce the total amount of data by representing each symbol or sequence of symbols with a sign of the appropriate length, depending on the frequency of statistical occurrence of the data symbols. The probability of occurrence of a data symbol determines the average amount of information per symbol called " entropy. &Quot; The goal of entropy encoding is to bring the average code length per symbol closer to entropy.
  • the multiplexer 405 receives the highly efficient compressed audio data and side information from the entropy coding unit 404 and transmits an audio data bit stream to a receiver decoder.
  • FIG. 5 is a block diagram illustrating an audio encoding process using a psychoacoustic model according to another embodiment of the present invention.
  • an audio signal encoder includes an analysis filterbank (501), a psychoacoustic model (502), a quantization unit (Quantization and Bit Allocation; 503), and entropy.
  • the coding unit includes an encoding code 504 and a multiplexer 505.
  • the psychoacoustic model unit 502 includes a coefficient generator 502a and a noise distortion reference value determiner 502b.
  • the filter bank 501 converts the audio signal into subband samples to remove statistical redundancy of the audio signal, and performs an MDCT (Modified Discrete Cosine Transform) to encode an input audio signal which is a time axis signal. Convert it to a signal.
  • MDCT Modified Discrete Cosine Transform
  • the psychoacoustic model unit 502 analyzes the perceptual characteristics of the input signal to determine the maximum allowable quantization noise for each frequency required for the bit allocation process.
  • a quantization process for converting an analog signal into a digital signal is performed.
  • an error value generated by rounding consecutive values is called quantization noise.
  • the quantization noise varies according to the degree of bit allocation, and a signal to quantization noise ratio (SQNR) value is used to quantize the quantization noise.
  • SQNR signal to quantization noise ratio
  • the noise shaping reference is a diagram of the maximum allowable quantization noise for each frequency. As a result, increasing the bit allocation value reduces quantization noise and increases the probability that quantization noise falls below the noise distortion reference value.
  • the psychoacoustic model unit 502 performs linear predictive analysis to generate linear predictive coefficients, and applies coefficients to the linear predictive coefficients to generate strain predictive coefficients, and generates the predictive predictive coefficients. And a noise distortion reference value determiner 502b that determines a noise distortion reference value.
  • the noise distortion reference value is generated using the distortion prediction coefficients generated by the perceptual weighting coding that weights the linear prediction coefficients derived through the linear prediction coding.
  • the quantization unit 503 is a loss coding method for removing an amount of quantization noise below a noise distortion reference value determined by the psychoacoustic model unit 502 from an audio signal converted into a frequency axis signal through the filter bank 501 ( Quantize the result through Loss Coding and allocate bits to the quantized audio signal.
  • the bit allocation process optimizes the quantization noise generated during the quantization process at a given bit rate so that it is as small as possible than the maximum allowable noise of the newly set noise distortion threshold. That is, the quantization bits of the MDCT spectrum are allocated so that the quantization noise can be masked by the signal based on the noise distortion reference value in each frame.
  • the frequency-converted audio signal may be divided into a plurality of subband signals, and the subband signals may be quantized by using the noise prediction reference value based on the distortion prediction coefficients corresponding to each subband signal.
  • the entropy coding unit 504 maximizes the compression rate of the audio signal by allocating a code according to the frequency of use of the quantized and bit-assigned audio signal through the quantization unit 503. That is, the compression efficiency is improved by assigning codes so that the average code length is closest to entropy. That is, the data amount is optimized by representing each symbol or a continuous symbol with a sign of an appropriate length according to the frequency of statistical occurrence of the data symbols. The probability of occurrence of a data symbol determines the average amount of information per symbol called " entropy. &Quot; The goal of entropy encoding is to bring the average code length per symbol closer to entropy.
  • the entropy coding unit 504 is not limited to a specific method in performing entropy coding, and a Huffman coding method, an arithmetic coding method, an LZW coding method, or the like may be used according to a choice of a person skilled in the art.
  • the multiplexer 505 receives the highly efficient compressed audio data and side information from the entropy coding unit 504 and transmits the encoded audio data bit stream to a receiver decoder.
  • audio data encoded through the audio encoding method of the present invention may be decoded as follows through a decoder.
  • a quantized audio signal is received through a demultiplexer of a decoder, and the audio signal is recovered from the quantized audio signal.
  • the quantized audio signal is generated using a noise distortion reference value for the frequency-converted audio signal, and the noise distortion reference value is a distortion prediction coefficient generated by applying a weight to a linear prediction coefficient of the audio signal. It may be determined using.
  • FIG. 6 is a diagram illustrating a change in a noise distortion reference value using the psychoacoustic model unit according to another exemplary embodiment of the present invention.
  • the horizontal axis represents frequency and the vertical axis represents signal strength (dB).
  • the solid line 1 on the graph indicates the spectrum of the audio input signal, and the dashed line 2 indicates the energy of the audio input signal, and 3
  • the solid line represents the noise distortion reference value newly set using the conventional noise distortion reference value, and the dotted line 4 represents the distortion prediction coefficient generated by applying the linear prediction coefficient calculated through the linear prediction analysis and the weight added to the linear prediction coefficient.
  • the high point of the waveform is called a formant
  • the low point of the waveform is called a valley
  • part A of FIG. 6 becomes a formant
  • part B becomes a valley area.
  • valleys of more bits are counted in audio signal coding to compensate for quantization noise for the valley region based on the fact that the human auditory characteristics are sensitive to quantization noise in the valley region of the frequency spectrum.
  • the coding efficiency for the speech signal can be improved by adjusting the noise distortion reference value of the A portion upwardly compared to the conventional, and adjusting the marching curve value of the B portion downwardly compared to the conventional one. That is, in the quantizing the frequency-converted audio signal, the weight increases the quantization noise of the audio signal corresponding to the formant region of the frequency spectrum with respect to the linear predictive coefficient, and reduces the quantization noise of the audio signal corresponding to the valley region. May be carried out in a decreasing direction.
  • the coefficient generator 502a shown in FIG. 5 may obtain a transfer function composed of linear predictive coefficients through linear predictive analysis.
  • the frequency spectrum of this transfer function is shown by the envelope of the frequency spectrum for the input signal.
  • This transfer function is called Linear Predictive Coefficient, and has a form similar to the noise distortion reference value of the psychoacoustic model (PAM) used in the conventional audio encoding process.
  • PAM psychoacoustic model
  • the coefficient generator 502a may implement a weighting filter by applying an appropriate weighting coefficient to the linear predictive coefficients, thereby generating a modified predictive coefficient, and simply using the modified predictive coefficient. This makes it possible to adjust the specific gravity of the formant and valley regions of the spectrum.
  • the effect of quantization noise is to lower the noise distortion threshold for more acoustically sensitive spectrum areas, to allocate more bits, and to form relatively less error-affected formants.
  • the noise distortion threshold is increased to reduce the number of allocated bits, thereby improving the audio encoding performance.
  • the weighting coefficients that control the perceptual weighting degree are not all applied equally, but are adaptively adjusted according to the input signal characteristics such as the flatness of the spectrum. Encoding performance can be further improved.
  • the noise distortion reference value may be derived by applying only the perceptual weighting to the psychoacoustic model without analyzing the envelope of the spectrum.
  • FIG. 7 is a flowchart illustrating a method of generating a noise distortion reference value using a psychoacoustic model according to another exemplary embodiment of the present invention.
  • the coefficient generator 502a when an audio signal is input to the psychoacoustic model unit 502, the coefficient generator 502a generates a transfer function composed of linear predictive coefficients using linear predictive coding (S200). The frequency spectrum of this transfer function is shown by the envelope of the frequency spectrum for the input signal. This transfer function is called Linear Predictive Coefficient, and has a form similar to the noise distortion reference value of the psychoacoustic model (PAM) used in the conventional audio encoding process.
  • the coefficient generator 502a receives an audio signal to determine a weighting coefficient suitable for the linear prediction coefficients (S210).
  • the noise distortion reference value determiner 502b generates the corrected envelope by applying the weight coefficient determined in step S210 to the envelope of the transfer function formed of the linear prediction coefficient obtained in step S200 (S220). Thereafter, the noise distortion reference value determiner 502b calculates an impulse response of the envelope generated in step S220 (S230). In this case, the impulse response plays a kind of filtering role. Thereafter, the noise distortion reference value determiner 502b converts the time axis signal into a frequency axis signal by performing FFT on the envelope filtered in step S230 (S240). The noise distortion reference value determination unit 502b determines a masking level in order to set the envelope transformed into the frequency axis signal as the noise distortion reference value (S250). Thereafter, the noise distortion reference value determiner 502b divides the signal-to-mask ratio SMR for each subband (S260).
  • a weighting filter is implemented by applying a weighting coefficient to psychoacoustic coefficients, thereby increasing the value of the formant region of the noise distortion reference value in the frequency spectrum and comparing the valley noise with the conventional noise distortion reference value. We can lower this to allow more bits to be allocated in the valley region.
  • the modified linear prediction coding compresses a signal using a core audio coding method applying the psychoacoustic model of the present invention to a specific low frequency band in order to reduce a transmission rate in a high efficiency audio encoder, and rests the remaining high frequency components. They are encoded using a bandwidth extension or spectral band replication (SBR) method using low frequency information. In the case of such a high-efficiency encoder, the noise distortion reference value based on the psychoacoustic model is required only up to a specific low frequency band.
  • SBR spectral band replication
  • the audio signal encoder illustrated in FIG. 4 or 5 may operate in a device equipped with both a music signal encoder and a voice signal encoder.
  • the audio signal encoder encodes the downmix signal according to a music coding scheme when a specific frame or a specific segment of the downmix signal has a music characteristic.
  • the music signal encoder may correspond to a modified disc transform transform (MDCT) encoder.
  • MDCT modified disc transform transform
  • the speech signal encoder encodes the downmix signal according to a speech coding scheme when a specific frame or a specific segment of the downmix signal is mainly characterized by speech characteristics.
  • the linear prediction coding method used in the speech signal encoder can be improved by the method proposed by the present invention.
  • the harmonic signal may be modeled by linear prediction that predicts the current signal from the past signal.
  • the linear prediction coding method may increase coding efficiency.
  • the voice signal encoder may correspond to a time domain encoder.
  • FIG. 8 is a diagram illustrating a decoding apparatus according to an embodiment of the present invention.
  • the decoding apparatus may restore a signal from an input bitstream by performing an inverse process of an encoding process performed by the encoding apparatus described with reference to FIG. 1.
  • the decoding apparatus may include a demultiplexer 210, a decoder determiner 220, a decoder 230, and a synthesizer 240.
  • the decoder 230 may include a plurality of decoders 231, 232, and 233 which perform decoding by different methods, which are operated under the control of the decoder determiner 220.
  • the decoder 230 may include a linear prediction decoder 231, a psychoacoustic decoder 232, and a mixed signal decoder 233.
  • the mixed signal decoder 233 may include an information extractor 234, a frequency converter 235, and a linear predictor 236.
  • the demultiplexer 210 extracts a plurality of encoded signals and additional information for decoding the signals from an input bitstream. For example, the first type information and the second type information (included only when necessary) included in the aforementioned bitstream are extracted and transmitted to the decoder determiner 220.
  • the decoder determiner 220 determines one of decoding methods in the decoders 231, 232, and 233 from the first type information and the second type information (which are included only when necessary). However, the decoder determiner 220 may determine the decoding method using the additional information extracted from the bitstream. However, when there is no additional information in the bitstream, the decoder determining unit 220 may determine the decoding method by an independent determination method. have. The determination method may utilize the features of the signal classification unit (FIGS. 1 and 100) described above.
  • the linear prediction decoder 231 in the decoder 230 is capable of decoding an audio signal of a voice signal type.
  • the psychoacoustic decoder 232 decodes an audio signal of a music signal type.
  • the mixed signal decoder 233 decodes an audio signal of a mixed type of voice and music.
  • the mixed signal decoder 233 extracts spectral data and linear predictive coefficients from an audio signal, and inverse-frequency transforms the spectral data to generate a residual signal for linear prediction.
  • a linear predictor 236 for linearly predicting and coding the linear predictive coefficient and the residual signal to generate an output signal.
  • the decoded signals are synthesized by the combining unit 240 and restored to the original audio signal.
  • the demultiplexer 210 extracts first type information and second type information (if necessary) from the input bitstream.
  • the decoder determiner 220 first determines a coding type of the received audio signal by using first type information among the extracted information (S1000). If a music signal is received, the psychoacoustic decoder 232 in the decoder 230 is used, and a coding scheme applied to each frame or subframe determined by the first type information is determined. Then, decoding is performed by applying a coding scheme suitable for this (S1100).
  • the decoder determiner 220 first uses the second type information. It is determined whether the coding type of the received audio signal is a voice signal coding type or a mixed signal coding type (S1200).
  • the linear prediction decoder 231 in the decoder 230 may be used, and each frame or subframe may be utilized by using coding identification information extracted from the bitstream. A coding scheme applied to each star is determined, and then decoding is performed by applying a suitable coding scheme (S1300).
  • the mixed signal decoder 233 in the decoder 230 may be utilized, and each frame or subframe may be determined by the second type information.
  • the coding scheme to be applied is determined, and then decoding is performed by applying a coding scheme suitable for this (S1400).
  • the frequency in the bandwidth extension decoding unit A band extension process can be made.
  • the frequency band extension process decodes the band extension information included in the audio signal bitstream by the bandwidth extension decoding unit to generate spectral data of another band (eg, a high frequency band) from some or all of the spectral data.
  • a block may be generated by grouping into units having similar characteristics in extending the frequency band. This is like creating an envelope region by grouping type slots (or samples) with a common envelope (or envelope characteristic).
  • FIG. 9 is a diagram illustrating a configuration of a product on which a decoding apparatus according to an embodiment of the present invention is implemented.
  • FIG. 10 is a diagram illustrating a relationship between products in which a decoding apparatus according to an embodiment of the present invention is implemented.
  • the wired / wireless communication unit 910 receives a bitstream through a wired / wireless communication scheme.
  • the wired / wireless communication unit 910 may include at least one of a wired communication unit 910A, an infrared communication unit 910B, a Bluetooth unit 910C, and a wireless LAN communication unit 910D.
  • the user authentication unit 920 performs user authentication by inputting user information, and includes one or more of a fingerprint recognition unit 920A, an iris recognition unit 920B, a face recognition unit 920C, and a voice recognition unit 920D.
  • the fingerprint, iris information, facial contour information, and voice information may be input, converted into user information, and the user authentication may be performed by determining whether the user information matches the existing registered user data. .
  • the input unit 930 is an input device for a user to input various types of commands, and may include one or more of a keypad unit 930A, a touch pad unit 930B, and a remote controller unit 930C. It is not limited.
  • the signal decoding unit 950 analyzes signal characteristics using the received bitstream and frame type information, and decodes the signal using a decoding unit corresponding to the corresponding signal characteristics to generate an output signal.
  • the controller 950 receives input signals from the input apparatuses and controls all processes of the signal decoding unit 940 and the output unit 960.
  • the output unit 960 is a component in which an output signal generated by the signal decoding unit 940 is output, and may include a speaker unit 960A and a display unit 960B. When the output signal is an audio signal, the output signal is output to the speaker, and when the output signal is a video signal, the output signal is output through the display.
  • FIG. 10 illustrates a relationship between a terminal and a server corresponding to the product illustrated in FIG. 9.
  • the first terminal 1001 and the second terminal 1002 are each terminals. It can be seen that they can communicate the data to the bitstream in both directions through the wired or wireless communication unit.
  • the server 1003 and the first terminal 1001 may also perform wired or wireless communication with each other.
  • the audio signal processing method according to the present invention can be stored in a computer-readable recording medium which is produced as a program for execution in a computer, and multimedia data having a data structure according to the present invention can also be stored in a computer-readable recording medium.
  • the computer readable recording medium includes all kinds of storage devices in which data that can be read by a computer system is stored. Examples of computer-readable recording media include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage, and the like, and may also be implemented in the form of a carrier wave (for example, transmission over the Internet). Include.
  • the bitstream generated by the encoding method may be stored in a computer-readable recording medium or transmitted using a wired / wireless communication network.

Landscapes

  • Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Transmission Systems Not Characterized By The Medium Used For Transmission (AREA)

Abstract

본 발명은 오디오 신호를 보다 높은 효율로 압축 및 복원할 수 있는 인코딩 신호 처리 방법 및 장치를 제공하는 것을 목적으로 한다. 이를 위한 본 발명의 오디오 신호 처리 방법은, 제1 타입정보를 이용하여 오디오 신호의 타입이 음악신호 인지 여부를 식별하는 단계; 상기 오디오 신호의 타입이 음악신호가 아닌 경우, 제 2 타입정보를 이용하여 상기 오디오 신호의 타입이 음성신호 인지, 혼합신호 인지 여부를 식별하는 단계; 및 상기 오디오 신호의 타입이 음악신호, 음성신호 및 혼합신호 중 어느 하나로 판별되면, 코딩 식별정보를 이용하여 프레임별 적용되는 코딩방식에 따라 오디오 신호를 복원하는 단계를 포함하되, 상기 오디오 신호의 타입이 음악신호인 경우 상기 제1 타입정보만이 수신되고, 상기 오디오 신호의 타입이 음성신호 또는 혼합신호인 경우 상기 제1 타입정보 및 제2 타입정보 모두가 수신되는 것을 특징으로 한다. 이를 통하여, 보다 높은 효율로 다양한 종류의 오디오 신호를 부호 및 복호할 수 있게 된다.

Description

오디오 신호 처리 방법 및 장치
본 발명은 다양한 종류의 오디오 신호를 모두 효과적으로 부호화 및 복호화할 수 있는 오디오 신호 처리 방법 및 장치에 관한 것이다.
종래 오디오 코딩 기술은 크게 지각적 오디오 코더(Perceptual audio coder)와 선형예측 기반 코더(Linear Prediction based coder) 두 부류로 나뉠 수 있다. 예를 들어, 음악(music)에 최적화된 지각적 오디오 코더(Perceptual audio coder)는 주파수축에서 인간의 청취 심리음향이론인 마스킹(masking) 원리를 이용해 부호화 과정에서 정보량을 줄이는 방식이다. 반면, 예를 들어, 음성(speech)에 최적화된 선형예측 기반 코더(Linear Prediction based coder) 는 시간축에서 음성 발성을 모델링하여 정보량을 줄이는 방식이다.
하지만 상기 기술들은 각각 최적화된 오디오 신호(예를 들어, 음성 또는 음악 신호)에 대해서는 좋은 성능을 보이나, 다른 종류의 오디오 신호 혹은 음성과 음악 신호가 복잡하게 혼합된 오디오 신호에 대해서는 일관적인 성능을 보여주지 못하는 문제점이 있다.
본 발명은 다양한 종류의 오디오 신호를 보다 높은 효율로 압축 및 복원할 수 있는 오디오 신호 처리 방법 및 장치를 제공하는 것을 목적으로 한다.
상기 목적을 달성하기 위한 본 발명은, 오디오 신호의 특성에 적합한 오디오 코딩 방법을 제공하고자 한다.
본 발명은 다양한 종류의 오디오 신호를 분류하고, 각 오디오 신호 특성별로 이에 적합한 오디오 코딩 방식을 제공함에 의해, 보다 효율적인 오디오 신호의 압축 및 복원이 가능하게 된다.
도 1은 본 발명의 바람직한 일 실시예에 따른 오디오 부호화 장치를 도시한 블록도이다.
도 2는 본 발명의 일 실시예에 따른 오디오 타입정보를 이용한 오디오 신호의 부호화 방법을 도시한 흐름도이다.
도 3은 본 발명에 의해 부호화된 오디오 비트스트림 구조의 일예를 도시한 것이다.
도 4는 본 발명의 일 실시예에 따른 심리음향 모델(psychoacoustic model)을 이용한 오디오 부호화 장치를 도시한 블록도이다.
도 5는 본 발명의 다른 실시예에 따른 심리음향모델(psychoacoustic model)을 이용한 오디오 부호화 장치를 도시한 블록도이다.
도 6은 본 발명의 다른 실시예에 따른 심리음향 모델부를 이용한 잡음 변형 기준값의 변화를 도시한 것이다.
도 7은 본 발명의 다른 실시예에 따른 심리음향모델(psychoacoustic model)을 이용한 잡음 변형 기준값 생성 방법을 도시한 흐름도이다.
도 8은 본 발명의 일 실시예에 따른 오디오 복호화 장치를 도시한 블록도이다.
도 9는 본 발명의 실시예에 따른 오디오 복호화 장치가 구현된 제품의 구성을 예를 들어 도시한 것이다.
도 10은 본 발명의 실시예에 따른 오디오 복호화 장치가 구현된 제품들의 관계를 예를 들어 도시한 것이다.
도 11은 본 발명의 일 실시예에 따른 오디오 복호화 방법을 도시한 흐름도이다.
이하 첨부된 도면을 참조로 본 발명의 바람직한 실시예를 상세히 설명하기로 한다.　본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형예들이 있을 수 있음을 이해하여야 한다.
본 발명에서 다음 용어는 다음과 같은 기준으로 해석될 수 있다. '코딩(coding)'은 경우에 따라 인코딩 또는 디코딩으로 해석될 수 있고, 정보(information)는 값(values), 파라미터(parameter), 계수(coefficients), 성분(elements) 등을 모두 포함하는 용어이다.
관련하여, 본 발명에서 '오디오 신호(audio signal)'란, 비디오 신호(video signal)와 구분되는 개념으로서, 재생시 청각으로 식별할 수 있는 모든 신호를 지칭한다. 따라서, 상기 오디오 신호는, 예를 들어, 인간의 발음을 중심으로 하는 음성(speech) 신호 또는 이와 유사한 신호 (이하 '음성(speech) 신호'로 명명한다)와, 기계음 및 소리를 중심으로 하는 음악(music) 신호 또는 이와 유사한 신호(이하 '음악(music) 신호'로 명명한다), 및 상기 음성 신호 및 음악 신호가 혼합된 '혼합(mixed) 신호'로 분류할 수 있다. 본 발명은 예를 들어 상기 3가지로 분류되는 오디오 신호를 각 신호의 특성에 맞게 부호화 및 복호화하는 방법 및 장치를 제공하고자 한다. 단, 상기 오디오 신호의 분류는 본 발명의 설명을 위해 분류한 기준일뿐, 상기 오디오 신호를 또 다른 방법에 의해 분류하는 경우에도, 본 발명의 기술적 사상은 동일하게 적용할 수 있음은 자명하다 할 것이다.
도 1은 본 발명의 바람직한 일 실시예에 따른 오디오 부호화 장치를 도시한 블록도이다. 상세하게는, 도 1은 입력되는 오디오 신호를 기설정된 기준에 따라 분류하고, 상기 분류된 각 오디오 신호에 적합한 오디오 부호화 방식을 선택하여 부호화 하는 과정을 도시한 것이다.
도 1을 참조하면, 입력되는 오디오 신호의 특성을 분석하여 음성 신호, 음악 신호, 또는 음성과 음악의 혼합신호 중 어느 하나의 유형으로 분류하는 신호분류부(Sound Activity Detector;100)와, 상기 신호분류부(100)를 통하여 결정된 신호 유형 중 음성 신호를 부호화 하는 선형예측모델링부(110)와, 음악 신호를 부호화하는 심리음향모델링부(120)와, 음성과 음악의 혼합 신호를 부호화하는 혼합신호모델링부(130)를 포함한다. 또한, 상기 신호분류부(100)에 의해 오디오 신호가 분류되면 이에 적합한 부호화 방식을 선택가능한 스위칭부(101)를 더 포함할 수 있다. 상기 스위칭부(101)는 신호분류부(100)에 의해 생성되는 오디오 신호 코딩타입 정보(예를들어, 제1 타입정보 및 제2 타입정보, 이에 대해서는 도2 및 도3을 통해 상세히 후술할 예정이다)를 제어신호로 하여 동작되어 진다. 또한, 상기 혼합신호모델링부(130)는 선형예측부(131), 레지듀얼 신호추출부(132), 주파수 변환부(133)를 포함할 수 있다. 이하, 상기 도 1의 각 부분을 상세히 설명하면 다음과 같다.
우선, 상기 신호분류부(100)는 입력 오디오 신호의 타입을 분류하고 이에 적합한 오디오 부호화 방식을 선택하기 위한 제어 신호를 생성한다. 예를 들어, 상기 신호분류부(100)는 입력 오디오 신호가, 음악 신호인지, 음성 신호인지, 또는 음성 및 음악 두 가지 신호가 혼합된 혼합 신호(mixed)인지를 분류한다. 즉, 상기와 같이 입력되는 오디오 신호의 타입을 분류하는 이유는, 오디오 신호 타입별 후술할 오디오 부호화 방식 중 최적의 코딩 방식을 선택하는 것에 있다. 결국 상기 신호분류부(100)는 입력 오디오 신호를 분석하여 이에 적합한 최적의 오디오 코딩 방식을 선택하는 과정에 해당된다 할 것이다. 예를 들어, 상기 신호분류부(100)는 입력 오디오 신호를 분석하여 오디오 코딩타입 정보를 생성하고, 상기 생성된 오디오 코딩타입 정보는 부호화 방식을 선택하는 기준으로 활용됨은 물론, 최종 부호화되는 오디오 신호내에 비트스트림 형태로 포함되어 복호화 장치 또는 수신 장치로 전송되어 진다. 상기 오디오 코딩타입 정보를 이용한 복호화 방법 및 장치는 도 8 및 도 11에서 상세히 후술할 예정이다. 또한, 상기 신호분류부(100)에 의해 생성되는 오디오 코딩타입 정보는, 예를 들어, 제1 타입정보 및 제2 타입정보를 포함할 수 있으며. 이에 대해서는 도 2 및 도 3 설명 부분에서 후술할 예정이다.
상기 신호분류부(100)는 입력 오디오 신호의 특성에 따라 오디오 신호 타입을 결정하게 된다. 예를 들어, 상기 입력 오디오 신호가 특정 계수와 레지듀얼 신호로 모델링이 더욱 잘 되는 신호인 경우 이를 음성 신호로 판단하고, 반면, 상기 신호가 특정 계수와 레지듀얼 신호로 모델링이 잘 되지 않는 신호인 경우에는 음악 신호로 판단하게 된다. 또한, 상기 음성 신호 및 음악 신호중 어느 하나로 판단하기 어려운 경우에는 혼합 신호로 판단할 수 있다. 구체적인 판단 기준은, 예를 들어, 상기 신호를 특정 계수와 레지듀얼 신호로 모델링했을 때, 상기 신호의 에너지 레벨에 대한 상기 레지듀얼 신호의 에너지 레벨 비가 기설정된 기준값보다 작은 경우, 상기 신호는 모델링이 잘 되는 신호라고 판단할 수 있고, 따라서 음성 신호로 판단 할 수 있다. 또는, 상기 신호가 시간축 상에서 높은 중복성을 가지는 경우, 상기 신호는 과거 신호로부터 현재 신호를 예측하는 선형 예측에 의해 모델링이 잘되는 신호로 판단할 수 있으며, 따라서, 음악 신호로 판단 할 수 있다.
이와 같은 기준을 통해 입력되는, 신호가 음성 신호로 분류되었을 경우, 음성 신호에 최적화되어 있는 음성 부호화기를 이용하여 입력 신호를 부호화할 수 있으며, 본 실시예에서는 음성 신호에 적합한 부호화 방식으로 선형예측모델링부(110)를 사용한다. 상기 선형예측 모델링부(110)는 다양한 방식이 존재하며, 예를들어, ACELP(Algebraic Code Excited Linear Prediction) 코딩 방식 또는 AMR(Adaptive Multi-Rate) 코딩 및 AMR-WB(Adaptive Multi-Rate Wideband)코딩 방식을 적용할 수 있다.
관련하여, 상기 선형예측모델링부(110)는 입력 오디오 신호를 프레임 단위로 선형 예측 부호화할 수 있으며, 하나의 프레임마다 예측(prediction) 계수를 각각 추출하여 양자화 할 수 있다. 예를 들어, 일반적으로 'Levinson-Durbin 알고리즘'을 이용하여 예측 계수를 추출하는 방식이 널리 활용되고 있다.
즉, 예를 들어, 입력 오디오 신호가, 복수의 프레임(frame)으로 구성되어 있거나 또는 복수의 프레임을 하나의 단위로 하는 수퍼 프레임(super frame)이 복수로 존재하는 경우, 각각의 프레임별로 선형예측 모델링 방식의 적용여부를 결정할 수 있다. 또한, 하나의 수퍼 프레임내에 존재하는 단위 프레임 마다 또는 단위 프레임의 서브 프레임 마다 상이한 선형예측 모델링 방식을 적용하는 것도 가능하며, 이는 오디오 신호의 코딩 효율을 높이는 효과가 된다.
한편, 상기 신호분류부(100)에 의해, 입력 오디오 신호가 음악 신호로 분류되는 경우에는, 음악 신호에 최적화되어 있는 음악 부호화기를 이용하여 입력 신호를 부호화할 수 있으며, 본 실시예에서는 음악 신호에 적합한 부호화 방식으로 심리음향모델링부(120)를 사용한다. 관련하여, 본 발명에 적용되는 심리음향 모델링부(120)의 일예에 대해서 도 4 ~ 도 7을 참조하여 상세히 후술할 예정이다.
한편, 상기 신호분류부(100)에 의해, 입력 오디오 신호가 음성과 음악이 혼합되어 있는 혼합 신호로 분류되는 경우에는, 상기 혼합 신호에 최적화되어 있는 부호화기를 이용하여 입력 신호를 부호화할 수 있으며, 본 실시예에서는 혼합 신호에 적합한 부호화 방식으로 혼합신호 모델링부(130)를 사용한다.
상기 혼합신호 모델링부(130)는, 전술한 선형예측 모델링 방식과 심리음향 모델링 방식을 변형한 혼합 방식으로 코딩하는 것이 가능하다. 즉, 상기 혼합신호 모델링부(130)는, 입력 신호를 선형 예측 코딩한 후, 선형 예측된 결과 신호와 원본 신호와의 차인 레지듀얼 신호(Residual)를 획득하고, 상기 레지듀얼 신호는 주파수 변환 코딩 방식을 통해 코딩하게 된다.
예를 들어, 도 1은 상기 혼합신호 모델링부(130)가, 선형예측부(131), 레지듀얼 신호추출부(132) 및 주파수 변환부(133)를 포함하여 구성되는 일예를 도시한 것이다.
관련하여, 상기 선형예측부(131)는 입력되는 신호를 선형 예측 분석하여 상기 신호의 특성을 나타내는 선형 예측 계수를 추출하고, 레지듀얼 신호추출부(132)에서 상기 추출된 선형 예측 계수를 이용하여 입력신호로부터 중복 성분이 제거된 레지듀얼 신호를 추출한다. 상기 레지듀얼 신호는 중복성이 제거되었기 때문에 백색 잡음과 같은 형태를 가질 수 있다. 또한, 상기 선형예측부(131)는 입력 오디오 신호를 프레임 단위로 선형 예측 부호화할 수 있으며, 하나의 프레임마다 예측(prediction) 계수를 각각 추출하여 양자화 할 수 있다. 즉, 예를 들어, 입력 오디오 신호가, 복수의 프레임(frame)으로 구성되어 있거나 또는 복수의 프레임을 하나의 단위로 하는 수퍼 프레임(super frame)이 복수로 존재하는 경우, 각각의 프레임별로 선형예측 모델링 방식의 적용여부를 결정할 수 있다. 또한, 하나의 수퍼 프레임내에 존재하는 단위 프레임 마다 또는 단위 프레임의 서브 프레임 마다 상이한 선형예측 모델링 방식을 적용하는 것도 가능하며, 이는 오디오 신호의 코딩 효율을 높이는 효과가 된다.
상기 레지듀얼 신호추출부(132)는 상기 선형예측부(131)를 통하여 코딩된 잔여 신호와 신호분류부(100)를 통과한 원 오디오 신호를 입력받아 양 신호의 차이 신호인 레지듀얼(Residual) 신호를 추출한다.
상기 주파수 변환부(133)는 입력되는 레지듀얼 신호를 MDCT와 같은 방법으로 주파수 도메인 변환하여 레지듀얼 신호의 마스킹 임계치 또는 신호 대 마스크 비(SMR, Signal-to-Mask Ratio)를 계산하여, 상기 레지듀얼 신호를 코딩한다. 상기 주파수 변환부(133)는 심리음향 모델링 방법 외에 TCX를 이용하여 잔여 오디오 성향의 신호를 코딩하는 것도 가능하다.
관련하여, 상기 선형예측 모델링부(110) 및 선형예측부(131)에서 입력 오디오 신호를 선형 예측 분석하여 오디오 특성이 반영된 선형 예측 계수(LPC, Linear prediction coefficient)를 추출하게 되는 바, 상기 LPC 데이터를 전송하는 방법에 있어서 가변적인 비트를 이용하는 방식을 고려할 수 있다.
예를 들어, 각 프레임별 코딩 방식을 고려하여 LPC 데이터 모드를 결정하고, 상기 결정된 LPC 데이터 모드별로 가변적인 비트수를 가지는 선형 예측 계수를 할당하는 것이 가능하다. 이를 통해 전체적인 오디오 비트수를 줄임으로서 더욱 효율적인 오디오 부호화 및 복호화가 가능하게 된다.
한편, 상기 신호분류부(100)는 전술한 바와 같이, 오디오 신호의 코딩타입 정보를 2가지 타입정보로 구분하여 생성하고, 이를 비트스트림내에 포함하여 복호화 장치로 전송하게 된다. 이하 본 발명에 의한 오디오 코딩타입 정보에 대해 도2 및 도3을 참조하여 상세히 설명하면 다음과 같다.
도 2는 본 발명의 바람직한 일 실시예에 따른 오디오 신호의 코딩타입 정보를 이용한 오디오 신호의 부호화 방법을 도시한 흐름도이다.
본 발명은 오디오 신호의 타입을 표현하는 방법으로서, 제1 타입정보와 제2 타입정보로 구분하는 것을 제안한다. 즉, 예를 들어, 신호분류부(100)는, 입력 오디오 신호가 음악 신호로 판단되면(S100), 이에 적합한 부호화 방식(예를 들어, 도2의 심리음향 모델링 방식)을 선택하도록 스위칭부(101)를 제어함에 의해, 상기 선택된 부호화 방식에 따라 부호화가 수행되도록 한다(S110). 이후, 해당 제어정보를 제1 타입정보로 구성하여 부호화된 오디오 비트스트림내에 포함하여 전송하게 된다. 관련하여, 결국 상기 제1 타입정보는 오디오 신호의 코딩타입이 음악신호 코딩타임임을 나타내는 코딩 식별정보로서의 기능을 겸하게 되며, 이는 복호화 방법 및 장치에서 오디오 신호를 복호화시에 활용되어 진다.
또한, 신호분류부(100)는, 만약 입력 오디오 신호가 음성신호로 판단되면, (S120), 이에 적합한 부호화 방식(예를 들어, 도2의 선형예측 모델링 방식)을 선택하도록 스위칭부(101)를 제어함에 의해, 상기 선택된 부호화 방식에 따라 부호화가 수행되도록 한다(S130). 또한, 신호분류부(100)는, 만약 입력 오디오 신호가 혼합신호로 판단되면(S120), 이에 적합한 부호화 방식(예를 들어, 도2의 혼합신호 모델링 방식)을 선택하도록 스위칭부(101)를 제어함에 의해, 상기 선택된 부호화 방식에 따라 부호화가 수행되도록 한다(S140). 이후, 상기 음성신호 코딩타입 또는 혼합신호 코딩타입중 어느 하나를 나타내는 제어정보를 제2 타입정보로 구성하여, 상기 제1 타입정보와 함께 부호화된 오디오 비트스트림내에 포함하여 전송하게 된다. 관련하여, 결국 상기 제2 타입정보는 오디오 신호의 코딩타입이 음성신호 코딩타입 또는 혼합신호 코딩타입중 어느 하나를 나타내는 코딩 식별정보로서의 기능을 겸하게 되며, 이는 복호화 방법 및 장치에서 전술한 제1 타입정보와 함께 오디오 신호를 복호화시에 활용되어 진다.
관련하여, 상기 제1 타입정보와 제2 타입정보는 입력 오디오 신호의 특성에 따라, 이중 제1 타입정보만이 전송되거나, 또는 제1 타입정보 및 제2 타입정보를 모두 전송해야 되는 두가지 경우로 구분되어 진다. 즉, 예를 들어, 입력 오디오 신호 코딩타입이 음악신호 코딩타입이면 제1 타입정보만을 비트스트림에 포함하여 전송하고, 제2 타입정보는 비트스트림에 포함하지 않아도 된다 (도3(a)). 즉, 제2 타입정보는 입력 오디오 신호 코딩타입이 음성신호 코딩타입이거가 또는 혼합신호 코딩타입에 해당하는 경우에만 비트스트림에 포함되므로, 오디오 신호의 코딩타입을 표현하기 위해 불필요한 비트수를 방지하는 효과가 있다.
관련하여, 본 발명에서는 일예로, 제1 타입정보가 음악신호 코딩타입인지 여부를 지시하는 것으로 설명하였으나, 이는 하나의 예에 불과하며, 제1 타입정보를 음성신호 코딩타입 또는 혼합신호 코딩타입을 지시하는 정보로 사용할 수 있음은 자명하다. 즉, 이는 본 발명이 적용되는 코딩 환경에 따라, 확율적으로 발생되는 빈도가 높은 오디오 코딩타입을 제1 타입정보로 활용함으로서, 전체적인 비트스트림의 비트수를 줄이는 효과를 가져오게 된다.
도 3은 본 발명에 의해 부호화된 오디오 비트스트림 구조의 일예를 도시한 것이다.
예를들어, 도 3(a)는 입력 오디오 신호가 음악신호에 해당하는 경우를 도시한 것으로, 비트스트림내에는 제1 타입정보(301)만을 포함하고, 제2 타입정보는 포함되지 않는다. 또한, 비트스트림내에는 상기 제1 타입정보(301)에 해당하는 코딩타입으로 코딩된 오디오 데이터를 포함한다(예를 들어, AAC 비트스트림(302)).
또한, 도 3(b)는 입력 오디오 신호가 음성신호에 해당하는 경우를 도시한 것으로, 비트스트림내에는 제1 타입정보(311) 및 제2 타입정보(312)를 모두 포함하게 된다. 또한, 비트스트림내에는 상기 제2 타입정보(312)에 해당하는 코딩타입으로 코딩된 오디오 데이터를 포함한다(예를 들어, AMR 비트스트림(313)).
또한, 도 3(c)는 입력 오디오 신호가 혼합신호에 해당하는 경우를 도시한 것으로, 비트스트림내에는 제1 타입정보(321) 및 제2 타입정보(322)를 모두 포함하게 된다. 또한, 비트스트림내에는 상기 제2 타입정보(322)에 해당하는 코딩타입으로 코딩된 오디오 데이터를 포함한다(예를 들어, TXC가 적용된 AAC 비트스트림(313)).
관련하여, 상기 도 3(a)~(c) 는 본 발명에 의해 부호화되는 오디오 비트스트림내에 포함되는 정보를 일예로 표시한 것일 뿐, 본 발명의 범위내에서 다양한 응용이 가능함은 자명하다 할 것이다. 예를 들어, 본 발명에서는 AMR 및 AAC를 코딩 방식의 예로서 이를 식별하는 정보를 추가하였으나, 다양한 코딩 방식이 적용가능함은 물론, 이를 식별하는 코딩 식별정보도 다양하게 사용되어 질수도 있다. 또한, 본 발명 도 3(a)~(c)는 하나의 수퍼 프레임 또는 단위 프레임 또는 서브 프레임 모두에 적용가능한 방식이다. 즉, 기설정된 프레임 단위별로 오디오 신호 코딩타입 정보를 제공하이 가능하다.
한편, 상기 도1 내의, 선형예측모델링부(110), 심리음향모델링부(120), 혼합신호모델링부(130)를 이용한 입력 신호의 부호화 과정의 전처리 과정으로서, 주파수 대역 확장 과정이 이루어질 수도 있다 (미도시). 주파수 대역 확장 과정의 일 실시예로 대역폭 확장 디코딩부에서 저주파 성분을 이용해 고주파 성분을 생성하는 SBR(Spectral Band Replication)과 HBE(High Band Extension)를 이용할 수 있다.
한편, 상기 선형예측모델링부(110), 심리음향모델링부(120), 혼합신호모델링부(130)를 이용한 입력 신호의 부호화 과정의 전처리 과정으로서, 채널 확장 과정이 이루어질 수도 있다(미도시). 상기 채널 확장 과정은 오디오 신호의 채널 정보를 부가 정보로 부호화하여 비트 할당량을 감소시킨다. 상기 채널 확장 과정의 일 실시예로 PS(Parametric Stereo)와 같은 채널 확장 인코딩부를 들 수 있다. Parametric Stereo는 스테레오 신호를 코딩하는 기술로, 스테레오 신호를 모노 신호로 다운믹스시킨다.
일 실시예로 48kHz 스테레오 신호를 SBR과 Parametric Stereo를 사용하여 전송하면 SBR/Parametric Stereo를 통과한 뒤 24kHz, 모노신호 신호가 남으며 이는 다시 부호화기를 통해 인코딩될 수 있다. 상기 부호화기의 입력신호가 24kHz가 되는 이유는 SBR을 통과하면서 고주파 성분은 SBR을 통해 코딩되고 기존 주파수의 절반으로 다운샘플링되기 때문이며, 모노신호가 되는 이유는 PS(Parametric Stereo)를 통해 스테레오 오디오가 파라미터로 추출되어 모노신호와 부가오디오의 합 형태로 바뀌기 때문이다.
이하, 도면을 참조하여, 심리음향모델링부를 이용한 음악 신호의 부호화 과정을 설명한다.
도 4는 본 발명의 바람직한 일 실시예에 따른 심리음향 모델(psychoacoustic model)을 이용한 오디오 부호화 과정을 표현한 블록도이다.
도 4를 참조하면, 본 발명의 일 실시예에 따른 심리음향 모델을 이용한 오디오 부호기는 필터뱅크(Analysis Filterbank;401), 심리음향 모델부(Psychoacoustic Model;402), 양자화부(Quantization and Bit Allocation;403), 엔트로피 코딩부(Entropy Coding;404) 및 멀티플렉서(405)를 포함한다.
상기 필터뱅크(401)는 시간 축 신호인 입력 오디오 신호를 부호화하기 위하여 MDCT(Modified Discrete Cosine Transform)를 수행하여 오디오 신호를 주파수 축 신호로 변환시킨다.
상기 심리음향 모델부(402)는 입력된 오디오 신호의 지각적 특성을 분석하여 비트 할당 과정에 필요한 각 주파수 별 최대 허용 양자화 잡음의 양을 결정하게 된다. 이러한 주파수별 최대 허용 양자화 잡음의 양을 도식화 한 것이 잡음 변형 기준값(Noise Shaping Reference)이다. 보다 상세히, 상기 심리음향 모델부(402)는 주파수 축에서 입력 신호의 지각적 특성을 분석하기 때문에 입력 신호의 주파수 변환 과정을 필요로 한다. 오디오 신호의 부호화 과정에서 상기 필터뱅크(401)를 통해서 주파수 변환을 수행하고 있지만, 심리음향 이론의 실험 결과들은 대부분 DFT(Discrete Fourier Transform) 축 상에서 이루어지기 때문에 FFT(Fast Fourier Transform) 변환을 수행하는 것이 바람직하다. 이와 같은 방법으로 주파수 축 신호의 변환 과정을 거친 후, 심리음향 모델에서의 잡음 변형 기준값은 주파수 스펙트럼과 각 주파수 성분에 대응하는 스프레딩(spreading) 함수와의 컨볼루션(convolution)에 의해 얻어진다. 심리음향 모델에 의해 얻어진 잡음 변형 기준값과 입력 신호 스펙트럼과의 차이를 지각적 엔트로피(perceptual entropy)로 계산하여 이에 적합한 비트를 할당함으로써 오디오 신호의 스펙트럼을 양자화한다.
상기 양자화부(403)는 상기 필터뱅크(401)를 통하여 주파수 축 신호로 변환된 오디오 신호에서 상기 심리음향 모델부(402)를 통하여 결정된 잡음 변형 기준값 아래에 위치하는 양자화 잡음의 양을 제거하는 로스 코딩(Loss Coding)을 거친 결과물을 양자화한다. 또한, 양자화된 오디오 신호에 비트를 할당한다. 비트 할당 과정은 주어진 비트율에서 양자화 과정에서 발생하는 양자화 잡음이 심리음향 모델로부터 얻은 최대 허용 잡음의 양보다 가능한 적어지도록 최적화한다.
상기 엔트로피 코딩부(404)는 상기 양자화부(403)를 통하여 양자화 및 비트 할당된 오디오 신호를 사용빈도에 따라 부호를 할당하여 오디오 신호의 압축율을 최대화 한다. 즉, 평균 부호 길이가 엔트로피에 가장 가깝도록 부호를 할당하여 압축 효율을 향상시킨다. 기본 원리는 데이터 심볼들의 통계적 발생 빈도에 따라 각각의 심볼이나 연속된 심볼을 적절한 길이의 부호로 표현하여 전체 데이터량을 줄이는 것이다. 데이터 심볼의 발생 확률에 따라 "엔트로피"라고 불리는 심볼당 평균 정보량이 결정되는데, 엔트로피 부호화의 목표는 심볼당 평균 부호 길이가 엔트로피에 가까이 가도록 하는 것이다.
상기 멀티플렉서(405)는 고효율로 압축된 오디오 데이터와 사이드 정보(Side Information)를 상기 엔트로피 코딩부(404)로부터 전달받아 수신측 복호기(Decoder)로 오디오 데이터 비트 스트림을 전송한다.
도 5는 본 발명의 바람직한 다른 실시예에 따른 심리음향모델(psychoacoustic model)을 이용한 오디오 부호화 과정을 표현한 블록도이다.
도 5를 참조하면, 본 발명의 다른 실시예에 따른 오디오 신호 부호기는 필터뱅크(Analysis Filterbank;501), 심리음향 모델부(Psychoacoustic Model;502), 양자화부(Quantization and Bit Allocation;503), 엔트로피 코딩부(Entropy Coding;504) 및 멀티플렉서(505)를 포함한다. 특히, 상기 심리음향 모델부(502)는 계수발생부(502a)와, 잡음 변형 기준값 결정부(502b)를 포함한다.
상기 필터뱅크(501)는 오디오 신호의 통계적인 중복성을 제거하기 위하여 서브밴드 샘플로 변환하고, 시간 축 신호인 입력 오디오 신호를 부호화하기 위하여 MDCT(Modified Discrete Cosine Transform)를 수행하여 오디오 신호를 주파수 축 신호로 변환시킨다.
상기 심리음향 모델부(502)는 입력 신호의 지각적 특성을 분석하여 비트 할당 과정에 필요한 각 주파수 별 최대 허용 양자화 잡음의 양을 결정하게 된다. 일반적으로 오디오 신호를 부호화 하는 과정에서 아날로그 신호를 디지털 신호로 변환하기 위한 양자화 과정을 거치게 된다. 이러한 양자화 과정에서 연속적인 값을 반올림하여 발생하는 오차의 값을 양자화 잡음이라 한다. 이러한 양자화 잡음은 비트 얼로케이션의 정도에 따라 변화하며, 이러한 양자화 잡음을 수치화하기 위하여 신호 대 양자화 잡음비(SQNR:Signal to Quantization Noise Ratio) 값을 사용한다. 상기 신호 대 양자화 잡음비는 20×N×log 2 = 6.02×N(dB)로 표현되며, 이때 N은 샘플 당 할당된 비트수를 의미한다. 이러한 주파수별 최대 허용 양자화 잡음의 양을 도식화 한 것이 잡음 변형 기준값(Noise Shaping Reference)이다. 결과적으로, 상기 비트 얼로케이션 값을 증가시키는 것은 양자화 잡음을 감소시키고, 양자화 잡음이 상기 잡음 변형 기준값 아래로 내려갈 확률을 증가시킨다.
상기 심리음향 모델부(502)는 선형예측 분석을 수행하여 선형예측 계수를 생성하고, 상기 선형예측 계수에 가중치를 적용하여 변형예측 계수를 생성하는 계수발생부(502a)와, 생성된 변형예측 계수를 이용하여 잡음 변형 기준값을 결정하는 잡음 변형 기준값 결정부(502b)를 포함한다. 상기 잡음 변형 기준값은 선형예측(Linear Prediction) 코딩을 통하여 도출된 선형예측 계수(Linear Prediction Coefficient)에 가중치를 부과하는 지각적 웨이팅(Perceptual Weighting) 코딩에 의하여 생성되는 변형예측 계수를 이용하여 생성된다.
상기 양자화부(503)는 상기 필터뱅크(501)를 통하여 주파수 축 신호로 변환된 오디오 신호에서 상기 심리음향 모델부(502)를 통하여 결정된 잡음 변형 기준값 아래의 양자화 잡음의 양을 제거하는 로스 코딩(Loss Coding)을 거친 결과물을 양자화 하고, 양자화된 오디오 신호에 비트를 할당한다. 비트 할당 과정은 주어진 비트율에서 양자화 과정에서 발생하는 양자화 잡음이 새로 설정된 잡음 변형 기준값의 최대 허용 잡음의 양보다 가능한 적어지도록 최적화한다. 즉, 각 프레임에서의 잡음 변형 기준값을 근거로 하여 양자화 잡음이 신호에 의해 마스킹 될 수 있도록 MDCT 스펙트럼의 양자화 비트를 할당한다. 일 실시예로, 주파수 변환된 상기 오디오 신호는 복수 개의 서브밴드 신호로 구분되며, 각 서브밴드 신호에 대응되는 상기 변형예측 계수 기반의 잡음 변형 기준값을 이용하여 각 서브밴드 신호를 양자화할 수 있다.
상기 엔트로피 코딩부(504)는 상기 양자화부(503)를 통하여 양자화 및 비트 할당된 오디오 신호를 사용빈도에 따라 부호를 할당하여 오디오 신호의 압축율을 최대화 한다. 즉, 평균 부호 길이가 엔트로피에 가장 가깝도록 부호를 할당하여 압축 효율을 향상시킨다. 즉, 데이터 심볼들의 통계적 발생 빈도에 따라 각각의 심볼이나 연속된 심볼을 적절한 길이의 부호로 표현하여 데이터량을 최적화 시킨다. 데이터 심볼의 발생 확률에 따라 "엔트로피"라고 불리는 심볼당 평균 정보량이 결정되는데, 엔트로피 부호화의 목표는 심볼당 평균 부호 길이가 엔트로피에 가까이 가도록 하는 것이다. 상기 엔트로피 코딩부(504)는 엔트로피 코딩을 수행함에 있어 특정 방법에 구애받지 않으며, 당업자의 선택에 따라 허프만 코딩 방법, 산술 부호화 방법, LZW 부호화 방법 등이 사용될 수 있다.
상기 멀티플렉서(505)는 고효율로 압축된 오디오 데이터와 사이드 정보(Side information)를 상기 엔트로피 코딩부(504)로부터 전달받아 수신측 복호기(Decoder)로 부호화된 오디오 데이터 비트 스트림을 전송한다.
한편, 본 발명의 오디오 부호화 방법을 통하여 부호화된 오디오 데이터는 복호화기를 통하여 다음과 같이 복호화될 수 있다.
먼저, 복호화기의 디멀티플렉서를 통하여 양자화된 오디오 신호를 수신하고, 상기 양자화된 오디오 신호로부터 오디오 신호를 복원한다. 이때, 상기 양자화된 오디오 신호는, 주파수 변환된 오디오 신호에 대해 잡음 변형 기준값을 이용하여 생성된 것이고, 상기 잡음 변형 기준값은, 상기 오디오 신호의 선형예측 계수에 가중치를 적용하여 생성된 변형예측 계수를 이용하여 결정된 것일 수 있다.
도 6은 본 발명의 바람직한 다른 실시예에 따른 심리음향 모델부를 이용한 잡음 변형 기준값의 변화를 도시한 도면이다.
도 6을 참조하면, 가로축은 주파수(frequence), 세로축은 신호의 세기(dB)를 나타내며, 그래프 상의 ①번 실선은 오디오 입력 신호의 스펙트럼을, ②번 점선은 오디오 입력 신호의 에너지를, ③번 실선은 종래 잡음 변형 기준값을, ④번 점선은 선형예측 해석을 통하여 계산된 선형예측 계수와 상기 선형예측 계수에 부가된 가중치를 적용하여 생성된 변형예측 계수를 이용하여 새롭게 설정된 잡음 변형 기준값을 나타낸다.
그래프 상의 오디오 입력 신호의 파형을 고려할 때 파형의 고점을 각각 포먼트(formant)라 지칭하며, 파형의 저점을 밸리(valley)라 지칭한다. 일 예로 도 6의 A 부분이 포먼트가 되며, B 부분이 밸리 영역이 된다. 음성 부호화의 경우, 사람의 청각적 특성이 주파수 스펙트럼의 밸리(valley) 영역에서의 양자화 잡음에 민감하다는 점에 기반하여 밸리 영역에 대한 양자화 잡음을 상쇄시키기 위하여 오디오 신호 부호화시 보다 많은 비트수를 밸리 영역에 할당하고, 상대적으로 에너지가 큰 포먼트(formant) 영역의 잡음 변형 기준값을 상향하여 상대적으로 적은 비트수를 포먼트 영역에 할당함으로써 압축률을 유지함과 동시에 보다 향상된 음질을 구현할 수 있다. 즉, A 부분의 잡음 변형 기준값을 종래에 비하여 상향 조정하고, B 부분의 마시킹 커브 값을 종래에 비하여 하향 조정함으로써 음성신호에 대한 코딩 효율을 높일 수 있다. 즉, 상기 가중치는 주파수 변환된 오디오 신호를 양자화하는 단계에 있어 선형예측계수에 대한 주파수 스펙트럼의 포먼트 영역에 대응되는 오디오 신호의 양자화 잡음을 증가시키고, 밸리 영역에 대응되는 오디오 신호의 양자화 잡음을 감소시키는 방향으로 수행될 수 있다.
이를 위하여, 도 5에 도시된 계수발생부(502a)에서 선형예측 해석(Linear Predictive analysis)을 통해 선형예측(Linear Predictive) 계수들로 구성된 전달함수를 구할 수 있다. 이 전달함수의 주파수 스펙트럼은 입력 신호에 대한 주파수 스펙트럼의 포락선(envelope)으로 도시된다. 이러한 전달함수를 선형예측계수(Linear Predictive Coefficient)라하고, 이는 종래 오디오 부호화 과정에서 사용되는 심리음향 모델(PAM)의 잡음 변형 기준값과 유사한 형태를 나타낸다. 이러한 특징을 이용하여 계수발생부(502a)에서 구해진 전달함수 즉 선형예측계수를 도출하고 이를 기초로 종래 실험적으로 구해진 잡음 변형 기준값을 조정하여 비트레이트의 감소에 따른 양자화 잡음을 보다 효율적으로 감쇄시킬 수 있으며, 연산량을 감소시킬 수 있다. 또한, 상기 계수발생부(502a)에서 선형예측 계수들에 적절한 가중치 계수(weighting coefficient)를 적용하여 가중치 필터(weighting filter)를 구현함으로써, 변형예측 계수를 생성하고, 상기 변형예측 계수를 이용하여 간단하게 스펙트럼의 포먼트(formant) 영역과 밸리(valley) 영역에 대한 비중을 조절할 수 있게 된다.
이 방식을 오디오 부호화 과정에 적용하면, 양자화 잡음의 영향이 청각적 측면에서 민감한 스펙트럼의 밸리(valley) 영역에 대해서는 잡음 변형 기준값을 낮추어 더 많은 비트를 할당하게 하고 상대적으로 에러의 영향이 작은 포먼트(formant) 영역에 대해서는 잡음 변형 기준값을 높여 할당되는 비트수를 감소시킴으로써 청각적 측면에서의 부호화 성능을 향상시킨다. 이 과정에서 지각적 가중치(perceptual weighting) 정도를 조절하는 가중치 계수(weighting coefficient)는 모두 동일하게 적용되는 것이 아니라, 스펙트럼의 편평도(flatness)와 같은 입력 신호 특성에 따라 적응적(adaptive)으로 조절함으로써 부호화 성능을 더욱 개선할 수 있다. 이와 같이 선형예측 및 가중치를 이용하여 잡음 변형 기준값을 개선함에 있어 스펙트럼에 대한 포락선 분석 없이도 심리음향 모델에 지각적 가중치(perceptual weighting) 만을 적용하여 잡음 변형 기준값을 도출할 수 있다는 장점이 있다.
도 7은 본 발명의 바람직한 다른 실시예에 따른 심리음향모델(psychoacoustic model)을 이용한 잡음 변형 기준값 생성 방법을 나타낸 플로우 차트이다.
도 7을 참조하면, 심리음향 모델부(502)에 오디오 신호가 입력되면, 계수발생부(502a)에서 선형예측 코딩을 이용해 선형예측 계수들로 구성된 전달함수를 생성한다(S200). 이 전달함수의 주파수 스펙트럼은 입력 신호에 대한 주파수 스펙트럼의 포락선(envelope)으로 도시된다. 이러한 전달함수를 선형예측계수(Linear Predictive Coefficient)라 하고, 이는 종래 오디오 부호화 과정에서 사용되는 심리음향 모델(PAM)의 잡음 변형 기준값과 유사한 형태를 나타낸다. 또한, 상기 계수발생부(502a)에서 오디오 신호를 입력받아 선형예측 계수들에 적절한 가중치 계수(weighting coefficient)를 결정한다(S210). 이후, 상기 잡음 변형 기준값 결정부(502b)에서 S200 단계에서 구해진 선형예측 계수로 이루어진 전달함수의 포락선에 S210 단계에서 결정된 가중치 계수를 적용해 보정된 포락선을 생성한다(S220). 이후, 상기 잡음 변형 기준값 결정부(502b)에서 S220 단계에서 생성된 포락선의 임펄스 응답을 계산한다(S230). 이때 임펄스 응답은 일종의 필터링 역할을 담당하게 된다. 이후, 상기 잡음 변형 기준값 결정부(502b)에서 S230 단계에서 필터링된 포락선을 FFT하여 시간축 신호를 주파수 축 신호로 변환한다(S240). 상기 잡음 변형 기준값 결정부(502b)에서는 이렇게 주파수 축 신호로 변환된 포락선을 잡음 변형 기준값으로 설정하기 위하여 마스킹 레벨을 결정한다(S250). 그후 상기 잡음 변형 기준값 결정부(502b)에서 서브 밴드별로 신호 대 마스크 비(SMR)를 분할한다(S260).
이러한 과정을 통하여 심리음향 계수들에 가중치 계수를 적용하여 가중치 필터(weighting filter)를 구현함으로써, 종래 잡음 변형 기준값과 비교하여 주파수 스펙트럼 상에서 잡음 변형 기준값의 포먼트 영역의 값을 높이고, 밸리 영역의 값을 낮춰 상대적으로 밸리 영역에 더 많은 비트 수가 할당되도록 할 수 있다.
한편, S200 단계의 선형예측 코딩(Linear Predictive Analysis) 대신 변형 선형예측 코딩(Warped LP analysis)을 사용하여 부호화 효율을 향상시킬 수 있다. 보다 상세히, 상기 변형 선형예측 코딩은 고효율 오디오 부호화기에서 전송률 감소를 위해 특정 저주파(low frequency) 대역까지는 본 발명의 심리음향 모델을 적용한 코어 오디오 부호화 방법으로 신호를 압축하고, 나머지 고주파(high frequency) 성분들은 저주파(low frequency) 정보를 이용한 대역폭 확장(bandwidth extension) 또는 스펙터럴 대역 복제(SBR:spectral band replication) 방법을 사용하여 부호화한다. 이러한 고효율 부호화기의 경우, 특정 저주파 대역까지만 심리음향 모델에 기반한 잡음 변형 기준값을 필요로 한다. 변형 선형예측 코딩을 사용하는 경우, 특정 저주파 대역에 대한 주파수 해상도를 증가시켜 스펙트럼의 포락선 모델링 효율을 증가시킬 수 있다.
도 4 또는 도 5에 도시된 오디오 신호 인코더는 음악 신호 인코더와 음성 신호 인코더가 모두 탑재된 디바이스에서 동작할 수 있다. 상기 오디오 신호 인코더는 다운믹스 신호의 특정 프레임 또는 특정 세그먼트가 음악 특성이 주가 되는 경우, 음악 코딩 방식(Music coding scheme)에 따라 다운믹스 신호를 인코딩한다. 상기 음악 신호 인코더는, MDCT(Modified Discrete Transform) 인코더에 해당할 수 있다.
상기 음성 신호 인코더는 다운믹스 신호의 특정 프레임 또는 특정 세그먼트가 음성 특성이 주가 되는 경우, 음성 코딩 방식(speech coding scheme)에 따라서 다운믹스 신호를 인코딩한다. 한편, 음성 신호 인코더에 사용되는 선형예측 부호화(Linear Prediction Coding) 방법을 본 발명에서 제안하는 방식으로 개선할 수 있다. 하모닉 신호가 시간축 상에서 높은 중복성을 가지는 경우, 과거 신호로부터 현재 신호를 예측하는 선형예측에 의해 모델링될 수 있는데, 이 경우 선형예측 부호화 방식을 적용하면 부호화 효율을 높일 수 있다. 한편, 음성 신호 인코더는 타임 도메인 인코더에 해당할 수 있다.
도 8은 본 발명의 일 실시예에 따른 복호화 장치를 도시한 도면이다.
도 8을 참조하면, 복호화 장치는 상기 도 1을 참조하여 설명한 부호화 장치에서 이루어지는 부호화 과정의 역 과정을 수행함으로써 입력되는 비트스트림으로부터 신호를 복원할 수 있다. 보다 상세히, 상기 복호화 장치는 디멀티플렉서(210), 복호화기 결정부(220), 복호화부(230), 합성부(240)를 포함할 수 있다. 상기 복호화부(230)는 서로 다른 방법에 의해 복호화를 수행하는 복수의 복호화부(231, 232, 233)를 포함할 수 있으며, 이는 복화화기 결정부(220)의 제어에 따라, 동작되어 진다. 보다 상세히, 복호화부(230)는 선형예측 복호화부(231), 심리음향 복호화부(232), 혼합신호 복호화부(233)를 포함할 수 있다. 상기 혼합신호 복호화부(233)는 정보추출부(234), 주파수 변환부(235), 선형예측부(236)를 포함할 수 있다.
상기 디멀티플렉서(210)는 입력되는 비트스트림으로부터 부호화된 복수의 신호들 및 상기 신호들을 복호화하기 위한 부가 정보를 추출한다. 전술한 비트스트림내에 포함된 부가 정보 예를들어, 제1 타입정보 및 제2 타입정보(필요시에만 포함됨)를 추출하고 이를 복호화기 결정부(220)로 전송하게 된다.
상기 복호화기 결정부(220)는, 수신되는 제1 타입정보 및 제2 타입정보(필요시에만 포함됨)로부터, 복호화부(231, 232, 233)내의 복호화 방식중 어느 하나를 결정한다. 단, 복호화기 결정부(220)는 비트스트림으로부터 추출된 부가 정보를 이용하여 복호화 방식을 결정할 수도 있으나, 비트스트림내에 부가 정보가 존재하지 않는 경우에는, 독립적인 판단 방법에 의해 복호화 방식을 결정할 수도 있다. 상기 판단 방법은 전술한 신호분류부(도1, 100)의 특징을 활용하는 것이 가능하다.
복호화부(230)내의, 선형예측 복호화기(231)는 음성 신호 타입의 오디오 신호를 복호화 가능하다. 심리음향 복호화기(232)는 음악 신호 타입의 오디오 신호를 복호화한다. 혼합신호 복호화기(233)는 음성과 음악의 혼합 타입의 오디오 신호를 복호화한다. 보다 상세히, 상기 혼합신호 복호화기(233)는 오디오 신호로부터 스펙트럴 데이터와 선형예측 계수를 추출하는 정보추출부(234)와, 상기 스펙트럴 데이터를 역 주파수 변환하여 선형 예측에 대한 레지듀얼 신호를 생성하는 주파수 변환부(235), 및 상기 선형예측 계수 및 상기 레지듀얼 신호를 선형 예측 코딩하여, 출력 신호를 생성하는 선형 예측부(236)를 포함하여 구성된다.
상기 복호화된 신호들은 합성부(240)에 의해 합성되어 원 오디오 신호로 복원된다.
이하, 본 발명의 복호화 방법을 도 11의 흐름도를 참조하여 상세히 설명하면 다음과 같다.
디멀티플렉서(210)는 입력되는 비트스트림으로부터 제1 타입정보 및 제2 타입정보(필요시)를 추출한다. 복호화기 결정부(220)는 상기 추출된 정보중, 우선 제1 타입정보를 이용하여 수신된 오디오 신호의 코딩 타입을 판별한다(S1000). 만약, 음악신호가 수신된 경우에는, 복호화부(230)내의 심리음향 복호화부(232)를 활용하되, 상기 제1 타입정보에 의해 결정되는, 각 프레임별 또는 서브 프레임별 적용되는 코딩 방식을 결정하고, 이후 이에 적합한 코딩 방식을 적용하여 복호화를 수행하게 된다(S1100).
또한, 복호화기 결정부(220)는 상기 추출된 정보중, 우선 제1 타입정보를 이용하여 수신된 오디오 신호의 코딩타입이 음악신호 코딩타입이 아닌 것으로 판별되면, 이후 제2 타입정보를 활용하여 수신된 오디오 신호의 코딩타입이 음성신호 코딩타입 인지 또는 혼합신호 코딩타입 인지 여부를 판별한다(S1200).
만약, 제2 타입정보가 음성신호 코딩타입을 의미하는 경우, 복호화부(230)내의 선형예측 복호화부(231)를 활용하되, 비트스트림으로부터 추출된 코딩 식별정보를 활용하여 각 프레임별 또는 서브 프레임별 적용되는 코딩 방식을 결정하고, 이후 이에 적합한 코딩 방식을 적용하여 복호화를 수행하게 된다(S1300).
또한, 만약, 제2 타입정보가 혼합신호를 의미하는 경우, 복호화부(230)내의 혼합신호 복호화부(233)를 활용하되, 상기 제2 타입정보에 의해 결정되는, 각 프레임별 또는 서브 프레임별 적용되는 코딩 방식을 결정하고, 이후 이에 적합한 코딩 방식을 적용하여 복호화를 수행하게 된다(S1400).
한편, 도시되지는 않았으나, 상기 선형예측 복호화부(231), 심리음향 복호화부(232), 혼합신호 복호화부(233)를 이용한 오디오 신호의 복호화 과정의 후처리 과정으로서, 대역폭 확장 디코딩부에서 주파수 대역 확장 과정이 이루어질 수 있다. 주파수 대역 확장 과정은 대역폭 확장 디코딩부에서 오디오 신호 비트스트림에 포함된 대역 확장 정보를 디코딩하여 스펙트럴 데이터 중 일부 또는 전부로부터 다른 대역(예를 들어, 고주파대역)의 스펙트럴 데이터를 생성하는 것이다. 이때 주파수 대역을 확장하는 데 있어서 유사한 특성을 갖는 유닛들로 그룹핑하여 블록을 생성할 수 있다. 이는 공통의 인벨롭(또는 인벨롭 특성)을 갖는 타입 슬롯(또는 샘플)들을 그룹핑하여 인벨롭 영역을 생성하는 것과 같다.
도 9는 본 발명의 실시예에 따른 복호화 장치가 구현된 제품의 구성을 보여주는 도면이다. 또한, 도 10은 본 발명의 실시예에 따른 복호화 장치가 구현된 제품들의 관계를 보여주는 도면이다.
도 9을 참조하면, 유무선 통신부(910)는 유무선 통신 방식을 통해서 비트스트림을 수신한다. 구체적으로 유무선 통신부(910)는 유선통신부(910A), 적외선통신부(910B), 블루투스부(910C), 무선랜통신부(910D) 중 하나 이상을 포함할 수 있다.
사용자 인증부는(920)는 사용자 정보를 입력 받아서 사용자 인증을 수행하는 것으로서 지문인식부(920A), 홍채인식부(920B), 얼굴인식부(920C), 및 음성인식부(920D) 중 하나 이상을 포함할 수 있는데, 각각 지문, 홍채정보, 얼굴 윤곽 정보, 음성 정보를 입력받아서, 사용자 정보로 변환하고, 사용자 정보 및 기존 등록되어 있는 사용자 데이터와의 일치여부를 판단하여 사용자 인증을 수행할 수 있다.
입력부(930)는 사용자가 여러 종류의 명령을 입력하기 위한 입력장치로서, 키패드부(930A), 터치패드부(930B), 리모컨부(930C) 중 하나 이상을 포함할 수 있지만, 본 발명은 이에 한정되지 아니한다. 신호 디코딩부(950)는 수신된 비트스트림 및 프레임 타입정보를 이용하여 신호 특성을 분석하고, 해당 신호 특성에 대응하는 디코딩부를 이용하여 신호를 디코딩하여 출력신호를 생성한다.
제어부(950)는 입력장치들로부터 입력 신호를 수신하고, 신호 디코딩부(940)와 출력부(960)의 모든 프로세스를 제어한다. 출력부(960)는 신호 디코딩부(940)에 의해 생성된 출력 신호 등이 출력되는 구성요소로서, 스피커부(960A) 및 디스플레이부(960B)를 포함할 수 있다. 출력 신호가 오디오 신호일 때 출력 신호는 스피커로 출력되고, 비디오 신호일 때 출력 신호는 디스플레이를 통해 출력된다.
도 10은, 도 9에서 도시된 제품에 해당하는 단말 및 서버와의 관계를 도시한 것으로서, 도 10의 (A)를 참조하면, 제1 단말(1001) 및 제2 단말(1002)이 각 단말들은 유무선 통신부를 통해서 데이터 내지 비트스트림을 양방향으로 통신할 수 있음을 알 수 있다. 도 10의 (B)를 참조하면, 서버(1003) 및 제1 단말(1001) 또한 서로 유무선 통신을 수행할 수 있음을 알 수 있다.
본 발명에 따른 오디오 신호 처리 방법은 컴퓨터에서 실행되기 위한 프로그램으로 제작되어 컴퓨터가 읽을 수 있는 기록 매체에 저장될 수 있으며, 본 발명에 따른 데이터 구조를 가지는 멀티미디어 데이터도 컴퓨터가 읽을 수 있는 기록 매체에 저장될 수 있다. 상기 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 저장 장치를 포함한다. 컴퓨터가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 인코딩 방법에 의해 생성된 비트스트림은 컴퓨터가 읽을 수 있는 기록 매체에 저장되거나, 유/무선 통신망을 이용해 전송될 수 있다.
이상과 같이, 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명은 이것에 의해 한정되지 않으며 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 본 발명의 기술사상과 아래에 기재될 특허청구범위의 균등범위 내에서 다양한 수정 및 변형이 가능함은 물론이다.

Claims (15)

  1. 오디오 복호화기를 포함하는 오디오 신호 처리 장치내에서,
    제1 타입정보를 이용하여 오디오 신호의 코딩타입이 음악신호 코딩타입인지 를 식별하는 단계;
    상기 오디오 신호의 코딩타입이 음악신호 코딩타입이 아닌 경우, 제 2 타입정보를 이용하여 상기 오디오 신호의 코딩타입이 음성신호 코딩타입인지, 혼합신호 코딩타입인지를 식별하는 단계;
    상기 오디오 신호의 코딩타입이 혼합신호 코딩타입인 경우, 상기 오디오 신호로부터 스펙트럴 데이터와 선형예측 계수를 추출하는 단계;
    상기 스펙트럴 데이터를 역 주파수 변환하여 선형 예측에 대한 레지듀얼 신호를 생성하는 단계; 및
    상기 선형예측 계수 및 상기 레지듀얼 신호를 선형 예측 코딩하여, 오디오 신호를 복원하는 단계;를 포함하되, 상기 오디오 신호의 코딩타입이 음악신호 코딩타입인 경우 상기 제1 타입정보만이 이용되고, 상기 오디오 신호의 코딩타입이 음성신호 코딩타입 또는 혼합신호 코딩타입인 경우 상기 제1 타입정보 및 제2 타입정보 모두가 이용되는 것을 특징으로 하는 오디오 신호 처리 방법.
  2. 제1 항에 있어서,
    상기 오디오 신호의 코딩타입이 혼합신호 코딩타입인 경우, 상기 복원된 오디오 신호의 저주파 대역 신호를 이용하여 고주파 대역 신호를 복원하는 단계; 및
    상기 복원된 오디오 신호를 업믹싱하여 복수개 채널을 생성하는 단계를 더 포함하는 것을 특징으로 하는 오디오 신호 처리 방법.
  3. 제 1항에 있어서,
    상기 오디오 신호는 복수의 서브 프레임으로 구성되며, 상기 제 2 타입 정보는 상기 서브 프레임 단위로 존재하는 것을 특징으로 하는 오디오 신호 처리 방법.
  4. 제 1항에 있어서,
    상기 오디오 신호의 코딩타입이 음악신호 코딩타입이면 상기 오디오 신호는 주파수 도메인 신호이고, 상기 오디오 신호의 코딩타입이 음성신호 코딩타입이면 상기 오디오 신호는 타임 도메인 신호이며, 상기 오디오 신호의 코딩타입이 혼합신호 코딩타입이면 상기오디오 신호는 MDCT 도메인 신호인 것을 특징으로 하는 오디오 신호 처리 방법.
  5. 제 1항에 있어서,
    상기 선형 예측 계수를 추출하는 단계는,
    선형 예측 계수 모드를 추출하고, 상기 추출된 모드에 해당하는 가변비트수 크기의 선형 예측 계수를 추출하는 것을 특징으로 하는 오디오 신호 처리 방법.
  6. 비트스트림으로부터 제1 타입정보, 제2 타입정보를 추출하는 디멀티플렉서;
    상기 제1 타입정보를 이용하여 오디오 신호의 코딩타입이 음악신호 코딩타입인지를 식별하고, 상기 오디오 신호의 코딩타입이 음악신호 코딩타입이 아닌 경우, 제 2 타입정보를 이용하여 상기 오디오 신호의 코딩타입이 음성신호 코딩타입인지 또는 혼합신호 코딩타입인지를 식별한 후, 복호화 방식을 결정하는 복호화기 결정부;
    상기 오디오 신호의 코딩타입이 혼합신호 코딩타입인 경우, 상기 오디오 신호로부터 스펙트럴 데이터와 선형예측 계수를 추출하는 정보추출부;
    상기 스펙트럴 데이터를 역 주파수 변환하여 선형 예측에 대한 레지듀얼 신호를 생성하는 주파수 변환부; 및
    상기 선형예측 계수 및 상기 레지듀얼 신호를 선형 예측 코딩하여, 오디오 신호를 복원하는 선형 예측부를; 포함하되 상기 오디오 신호의 코딩타입이 음악신호 코딩타입인 경우 상기 제1 타입정보만이 이용되고, 상기 오디오 신호의 코딩타입이 음성신호 코딩타입 또는 혼합신호 코딩타입인 경우 상기 제1 타입정보 및 제2 타입정보 모두가 이용되는 것을 특징으로 하는 오디오 신호 처리 장치.
  7. 제6 항에 있어서,
    상기 오디오 신호의 코딩타입이 혼합신호 코딩타입인 경우,
    상기 복원된 오디오 신호의 저주파 대역 신호를 이용하여 고주파 대역 신호를 복원하는 대역폭 확장 디코딩부; 및
    상기 복원된 오디오 신호를 업믹싱하여 복수개 채널을 생성하는 채널 확장 디코딩부를 포함하는 것을 특징으로 하는 오디오 신호 처리 장치.
  8. 제 6항에 있어서,
    상기 오디오 신호는 복수의 서브 프레임으로 구성되며, 상기 제2 타입정보는 상기 서브 프레임 단위로 존재하는 것을 특징으로 하는 오디오 신호 처리 장치.
  9. 제 6항에 있어서,
    상기 오디오 신호의 코딩타입이 음악신호 코딩타입이면 상기 오디오 신호는 주파수 도메인 신호이고, 상기 오디오 신호의 코딩타입이 음성신호 코딩타입이면 상기 오디오 신호는 타임 도메인 신호이며, 상기 오디오 신호의 코딩타입이 혼합신호 코딩타입이면 상기 오디오 신호는 MDCT 도메인 신호인 것을 특징으로 하는 오디오 신호 처리 장치.
  10. 제 6항에 있어서,
    상기 선형 예측 계수를 추출하는 정보추출부는,
    선형 예측 계수 모드를 확인하고, 상기 추출된 모드에 해당하는 가변비트수 크기의 선형 예측 계수를 추출하는 것을 특징으로 하는 오디오 신호 처리 장치.
  11. 오디오 신호를 처리하는 오디오 부호화기를 포함하는 오디오 신호 처리 장치 내에서,
    상기 오디오 신호의 코딩타입을 결정하는 단계;
    상기 오디오 신호가 음악신호이면, 음악신호 코딩타입으로 코딩됨을 나타내는 제1 타입정보를 생성하는 단계;
    상기 오디오 신호가 음악신호가 아니면, 음성신호 코딩타입과 혼합신호 코딩 타입 중 어느 하나로 코딩됨을 나타내는 제2 타입정보를 생성하는 단계;
    상기 오디오 신호의 코딩타입이 혼합신호 코딩타입인 경우,
    상기 오디오 신호를 선형 예측 코딩하여 선형예측 계수를 생성하는 단계;
    상기 선형 예측 코딩에 대한 레지듀얼 신호를 생성하는 단계;
    상기 레지듀얼 신호를 주파수 변환하여 스펙트럴 계수를 생성하는 단계; 및
    상기 제 1 타입정보, 상기 제 2 타입정보, 상기 선형예측 계수 및 레지듀얼 신호를 포함하는 오디오 비트스트림을 생성하는 단계;를 포함하되, 상기 오디오 신호의 코딩타입이 음악신호 코딩타입인 경우 상기 제1 타입정보만이 생성되고, 상기 오디오 신호의 코딩타입이 음성신호 코딩타입 또는 혼합신호 코딩타입인 경우 상기 제1 타입정보 및 제2 타입정보 모두가 생성되는 것을 특징으로 하는 오디오 신호 처리 방법.
  12. 제 11항에 있어서,
    상기 오디오 신호는 복수의 서브 프레임으로 구성되며, 상기 제2 타입정보는 상기 서브 프레임별로 생성되는 것을 특징으로 하는 오디오 신호 처리 방법.
  13. 입력 오디오 신호의 코딩타입을 결정하되, 상기 오디오 신호가 음악신호이면, 음악신호 코딩타입으로 코딩됨을 나타내는 제1 타입정보를 생성하고, 상기 오디오 신호가 음악신호가 아니면, 음성신호 코딩타입과 혼합신호 코딩 타입 중 어느 하나로 코딩됨을 나타내는 제2 타입정보를 생성하는 신호분류부; 및
    상기 오디오 신호의 코딩타입이 혼합신호 코딩타입인 경우, 상기 오디오 신호를 선형 예측 코딩하여 선형예측 계수를 생성하는 선형예측 모델링부;
    상기 선형 예측에 대한 레지듀얼 신호를 생성하는 레지듀얼 신호추출부; 및
    상기 레지듀얼 신호를 주파수 변환하여 스펙트럴 계수를 생성하는 주파수 변환부를 포함하되, 상기 오디오 신호의 코딩타입이 음악신호 코딩타입인 경우 상기 제1 타입정보만이 생성되고, 상기 오디오 신호의 코딩타입이 음성신호 코딩타입 또는 혼합신호 코딩타입인 경우 상기 제1 타입정보 및 제2 타입정보 모두가 생성되는 것을 특징으로 하는 오디오 신호 처리 장치.
  14. 제 13항에 있어서,
    상기 오디오 신호는 복수의 서브 프레임으로 구성되며, 상기 제2 타입정보는 상기 서브 프레임별로 생성되는 것을 특징으로 하는 오디오 신호 처리 장치.
  15. 제 13항에 있어서,
    상기 오디오 신호의 코딩타입이 음악신호 코딩인 경우,
    선형예측 코딩을 이용하여 선형예측 계수를 생성하고, 상기 선형예측 계수에 가중치를 부과하는 계수 발생부; 및
    가중치가 부여된 상기 선형예측 계수를 이용하여 잡음 변형 기준값을 생성하는 기준값 결정부를 포함하는 것을 특징으로 하는 오디오 신호 처리 장치.
PCT/KR2009/001050 2008-03-03 2009-03-03 오디오 신호 처리 방법 및 장치 WO2009110738A2 (ko)

Priority Applications (9)

Application Number Priority Date Filing Date Title
JP2010549570A JP5266341B2 (ja) 2008-03-03 2009-03-03 オーディオ信号処理方法及び装置
MX2010009571A MX2010009571A (es) 2008-03-03 2009-03-03 Metodo y aparato para el procesamiento de señales de audio.
AU2009220321A AU2009220321B2 (en) 2008-03-03 2009-03-03 Method and apparatus for processing audio signal
CA2716817A CA2716817C (en) 2008-03-03 2009-03-03 Method and apparatus for processing audio signal
KR1020107019538A KR101221919B1 (ko) 2008-03-03 2009-03-03 오디오 신호 처리 방법 및 장치
BRPI0910285-0A BRPI0910285B1 (pt) 2008-03-03 2009-03-03 Métodos e aparelhos para processamento de sinal de áudio.
EP09716372.9A EP2259253B1 (en) 2008-03-03 2009-03-03 Method and apparatus for processing audio signal
CN2009801075430A CN101965612B (zh) 2008-03-03 2009-03-03 用于处理音频信号的方法和装置
US12/497,375 US7991621B2 (en) 2008-03-03 2009-07-02 Method and an apparatus for processing a signal

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US3303208P 2008-03-03 2008-03-03
US61/033,032 2008-03-03

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US12/497,375 Continuation US7991621B2 (en) 2008-03-03 2009-07-02 Method and an apparatus for processing a signal

Publications (2)

Publication Number Publication Date
WO2009110738A2 true WO2009110738A2 (ko) 2009-09-11
WO2009110738A3 WO2009110738A3 (ko) 2009-10-29

Family

ID=41056471

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2009/001050 WO2009110738A2 (ko) 2008-03-03 2009-03-03 오디오 신호 처리 방법 및 장치

Country Status (11)

Country Link
US (1) US7991621B2 (ko)
EP (1) EP2259253B1 (ko)
JP (1) JP5266341B2 (ko)
KR (1) KR101221919B1 (ko)
CN (1) CN101965612B (ko)
AU (1) AU2009220321B2 (ko)
BR (1) BRPI0910285B1 (ko)
CA (1) CA2716817C (ko)
MX (1) MX2010009571A (ko)
RU (1) RU2455709C2 (ko)
WO (1) WO2009110738A2 (ko)

Families Citing this family (58)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101434198B1 (ko) * 2006-11-17 2014-08-26 삼성전자주식회사 신호 복호화 방법
US9343079B2 (en) * 2007-06-15 2016-05-17 Alon Konchitsky Receiver intelligibility enhancement system
KR101380170B1 (ko) * 2007-08-31 2014-04-02 삼성전자주식회사 미디어 신호 인코딩/디코딩 방법 및 장치
JP5108960B2 (ja) * 2008-03-04 2012-12-26 エルジー エレクトロニクス インコーポレイティド オーディオ信号処理方法及び装置
US8401845B2 (en) * 2008-03-05 2013-03-19 Voiceage Corporation System and method for enhancing a decoded tonal sound signal
CN101567203B (zh) * 2008-04-24 2013-06-05 深圳富泰宏精密工业有限公司 自动搜寻及播放音乐的系统及方法
EP2301028B1 (en) * 2008-07-11 2012-12-05 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. An apparatus and a method for calculating a number of spectral envelopes
CN102089814B (zh) * 2008-07-11 2012-11-21 弗劳恩霍夫应用研究促进协会 对编码的音频信号进行解码的设备和方法
KR101569702B1 (ko) * 2009-08-17 2015-11-17 삼성전자주식회사 레지듀얼 신호 인코딩 및 디코딩 방법 및 장치
WO2011035813A1 (en) * 2009-09-25 2011-03-31 Nokia Corporation Audio coding
JP5754899B2 (ja) 2009-10-07 2015-07-29 ソニー株式会社 復号装置および方法、並びにプログラム
PL2491553T3 (pl) 2009-10-20 2017-05-31 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Koder audio, dekoder audio, sposób kodowania informacji audio, sposób dekodowania informacji audio i program komputerowy wykorzystujący iteracyjne zmniejszania rozmiaru przedziału
JP5624159B2 (ja) * 2010-01-12 2014-11-12 フラウンホーファーゲゼルシャフトツール フォルデルング デル アンゲヴァンテン フォルシユング エー．フアー． オーディオ符号化器、オーディオ復号器、オーディオ情報を符号化および復号するための方法、ならびに以前に復号されたスペクトル値のノルムに基づいてコンテキストサブ領域値を取得するコンピュータプログラム
CA3097372C (en) 2010-04-09 2021-11-30 Dolby International Ab Mdct-based complex prediction stereo coding
JP5609737B2 (ja) 2010-04-13 2014-10-22 ソニー株式会社 信号処理装置および方法、符号化装置および方法、復号装置および方法、並びにプログラム
JP5850216B2 (ja) 2010-04-13 2016-02-03 ソニー株式会社 信号処理装置および方法、符号化装置および方法、復号装置および方法、並びにプログラム
JP6075743B2 (ja) 2010-08-03 2017-02-08 ソニー株式会社 信号処理装置および方法、並びにプログラム
JP5707842B2 (ja) 2010-10-15 2015-04-30 ソニー株式会社 符号化装置および方法、復号装置および方法、並びにプログラム
US20130066638A1 (en) * 2011-09-09 2013-03-14 Qnx Software Systems Limited Echo Cancelling-Codec
CN103918247B (zh) * 2011-09-23 2016-08-24 数字标记公司 基于背景环境的智能手机传感器逻辑
CN103889335B (zh) * 2011-10-28 2016-06-22 皇家飞利浦有限公司 用于处理针对听诊的心音的设备与方法
CN104040624B (zh) * 2011-11-03 2017-03-01 沃伊斯亚吉公司 改善低速率码激励线性预测解码器的非语音内容
US9111531B2 (en) 2012-01-13 2015-08-18 Qualcomm Incorporated Multiple coding mode signal classification
EP2830062B1 (en) * 2012-03-21 2019-11-20 Samsung Electronics Co., Ltd. Method and apparatus for high-frequency encoding/decoding for bandwidth extension
US9123328B2 (en) * 2012-09-26 2015-09-01 Google Technology Holdings LLC Apparatus and method for audio frame loss recovery
EP2922052B1 (en) 2012-11-13 2021-10-13 Samsung Electronics Co., Ltd. Method for determining an encoding mode
CA2899542C (en) 2013-01-29 2020-08-04 Guillaume Fuchs Noise filling without side information for celp-like coders
EP2951822B1 (en) 2013-01-29 2019-11-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio encoder, audio decoder, method for providing an encoded audio information, method for providing a decoded audio information, computer program and encoded representation using a signal-adaptive bandwidth extension
US9601125B2 (en) * 2013-02-08 2017-03-21 Qualcomm Incorporated Systems and methods of performing noise modulation and gain adjustment
US20140355769A1 (en) 2013-05-29 2014-12-04 Qualcomm Incorporated Energy preservation for decomposed representations of a sound field
JP6201043B2 (ja) 2013-06-21 2017-09-20 フラウンホーファーゲゼルシャフト ツール フォルデルング デル アンゲヴァンテン フォルシユング エー．フアー． エラー封じ込め中の切替音声符号化システムについての向上した信号フェードアウトのための装置及び方法
EP2830058A1 (en) 2013-07-22 2015-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Frequency-domain audio coding supporting transform length switching
CN103413553B (zh) 2013-08-20 2016-03-09 腾讯科技（深圳）有限公司 音频编码方法、音频解码方法、编码端、解码端和系统
US9666202B2 (en) 2013-09-10 2017-05-30 Huawei Technologies Co., Ltd. Adaptive bandwidth extension and apparatus for the same
JP6531649B2 (ja) 2013-09-19 2019-06-19 ソニー株式会社 符号化装置および方法、復号化装置および方法、並びにプログラム
CN103500580B (zh) * 2013-09-23 2017-04-12 广东威创视讯科技股份有限公司 混音处理方法及系统
MY181965A (en) 2013-10-18 2021-01-15 Fraunhofer Ges Forschung Coding of spectral coefficients of a spectrum of an audio signal
JP6593173B2 (ja) 2013-12-27 2019-10-23 ソニー株式会社 復号化装置および方法、並びにプログラム
US9311639B2 (en) 2014-02-11 2016-04-12 Digimarc Corporation Methods, apparatus and arrangements for device to device communication
CN110992965B (zh) * 2014-02-24 2024-09-03 三星电子株式会社 信号分类方法和装置以及使用其的音频编码方法和装置
CN111312278B (zh) 2014-03-03 2023-08-15 三星电子株式会社 用于带宽扩展的高频解码的方法及设备
WO2015133795A1 (ko) * 2014-03-03 2015-09-11 삼성전자 주식회사 대역폭 확장을 위한 고주파 복호화 방법 및 장치
EP2922055A1 (en) 2014-03-19 2015-09-23 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus, method and corresponding computer program for generating an error concealment signal using individual replacement LPC representations for individual codebook information
EP2922056A1 (en) 2014-03-19 2015-09-23 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus, method and corresponding computer program for generating an error concealment signal using power compensation
EP2922054A1 (en) 2014-03-19 2015-09-23 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus, method and corresponding computer program for generating an error concealment signal using an adaptive noise estimation
KR20240046298A (ko) 2014-03-24 2024-04-08 삼성전자주식회사 고대역 부호화방법 및 장치와 고대역 복호화 방법 및 장치
US9911427B2 (en) * 2014-03-24 2018-03-06 Nippon Telegraph And Telephone Corporation Gain adjustment coding for audio encoder by periodicity-based and non-periodicity-based encoding methods
CN107452391B (zh) 2014-04-29 2020-08-25 华为技术有限公司 音频编码方法及相关装置
US10770087B2 (en) 2014-05-16 2020-09-08 Qualcomm Incorporated Selecting codebooks for coding vectors decomposed from higher-order ambisonic audio signals
JP6398607B2 (ja) * 2014-10-24 2018-10-03 富士通株式会社 オーディオ符号化装置、オーディオ符号化方法、オーディオ符号化プログラム
WO2016142002A1 (en) * 2015-03-09 2016-09-15 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Audio encoder, audio decoder, method for encoding an audio signal and method for decoding an encoded audio signal
KR102398124B1 (ko) * 2015-08-11 2022-05-17 삼성전자주식회사 음향 데이터의 적응적 처리
CN105070304B (zh) 2015-08-11 2018-09-04 小米科技有限责任公司 实现对象音频录音的方法及装置、电子设备
US10186276B2 (en) * 2015-09-25 2019-01-22 Qualcomm Incorporated Adaptive noise suppression for super wideband music
EP3389046B1 (en) * 2015-12-08 2021-06-16 Sony Corporation Transmission device, transmission method, reception device, and reception method
US10991379B2 (en) * 2018-06-22 2021-04-27 Babblelabs Llc Data driven audio enhancement
FR3085785B1 (fr) * 2018-09-07 2021-05-14 Gracenote Inc Procedes et appareil pour generer une empreinte numerique d'un signal audio par voie de normalisation
KR20220017221A (ko) * 2020-08-04 2022-02-11 삼성전자주식회사 전자 장치 및 그의 오디오 데이터를 출력하는 방법

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE2952113C2 (de) * 1979-12-22 1983-05-19 Matth. Hohner Ag, 7218 Trossingen String-Chorus-Schaltung
US4628529A (en) * 1985-07-01 1986-12-09 Motorola, Inc. Noise suppression system
DE4202140A1 (de) * 1992-01-27 1993-07-29 Thomson Brandt Gmbh Verfahren zur uebertragung digitaler audio-signale
US5285498A (en) * 1992-03-02 1994-02-08 At&T Bell Laboratories Method and apparatus for coding audio signals based on perceptual model
JP3707116B2 (ja) * 1995-10-26 2005-10-19 ソニー株式会社 音声復号化方法及び装置
US5692102A (en) * 1995-10-26 1997-11-25 Motorola, Inc. Method device and system for an efficient noise injection process for low bitrate audio compression
US5778335A (en) * 1996-02-26 1998-07-07 The Regents Of The University Of California Method and apparatus for efficient multiband celp wideband speech and music coding and decoding
US6092041A (en) * 1996-08-22 2000-07-18 Motorola, Inc. System and method of encoding and decoding a layered bitstream by re-applying psychoacoustic analysis in the decoder
JPH1084284A (ja) * 1996-09-06 1998-03-31 Sony Corp 信号再生方法および装置
CA2233896C (en) * 1997-04-09 2002-11-19 Kazunori Ozawa Signal coding system
ATE302991T1 (de) * 1998-01-22 2005-09-15 Deutsche Telekom Ag Verfahren zur signalgesteuerten schaltung zwischen verschiedenen audiokodierungssystemen
US6424938B1 (en) * 1998-11-23 2002-07-23 Telefonaktiebolaget L M Ericsson Complex signal activity detection for improved speech/noise classification of an audio signal
SG98418A1 (en) * 2000-07-10 2003-09-19 Cyberinc Pte Ltd A method, a device and a system for compressing a musical and voice signal
US6658383B2 (en) * 2001-06-26 2003-12-02 Microsoft Corporation Method for coding speech and music signals
US7693707B2 (en) * 2003-12-26 2010-04-06 Pansonic Corporation Voice/musical sound encoding device and voice/musical sound encoding method
FI118835B (fi) * 2004-02-23 2008-03-31 Nokia Corp Koodausmallin valinta
US7596486B2 (en) * 2004-05-19 2009-09-29 Nokia Corporation Encoding an audio signal using different audio coder modes
ES2478004T3 (es) * 2005-10-05 2014-07-18 Lg Electronics Inc. Método y aparato para decodificar una señal de audio
CN101086845B (zh) * 2006-06-08 2011-06-01 北京天籁传音数字技术有限公司 声音编码装置及方法以及声音解码装置及方法
CN101512639B (zh) * 2006-09-13 2012-03-14 艾利森电话股份有限公司 用于语音/音频发送器和接收器的方法和设备
KR20070017378A (ko) * 2006-11-16 2007-02-09 노키아 코포레이션 서로 다른 코딩 모델들을 통한 오디오 인코딩
CN101025918B (zh) * 2007-01-19 2011-06-29 清华大学 一种语音/音乐双模编解码无缝切换方法
KR101513028B1 (ko) * 2007-07-02 2015-04-17 엘지전자 주식회사 방송 수신기 및 방송신호 처리방법

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
None
See also references of EP2259253A4

Also Published As

Publication number Publication date
BRPI0910285A2 (pt) 2015-09-29
AU2009220321B2 (en) 2011-09-22
KR20100134576A (ko) 2010-12-23
AU2009220321A1 (en) 2009-09-11
RU2010140362A (ru) 2012-04-10
EP2259253B1 (en) 2017-11-15
CA2716817A1 (en) 2009-09-11
JP5266341B2 (ja) 2013-08-21
US20100070284A1 (en) 2010-03-18
MX2010009571A (es) 2011-05-30
EP2259253A2 (en) 2010-12-08
JP2011513788A (ja) 2011-04-28
CN101965612A (zh) 2011-02-02
EP2259253A4 (en) 2013-02-20
CN101965612B (zh) 2012-08-29
RU2455709C2 (ru) 2012-07-10
WO2009110738A3 (ko) 2009-10-29
KR101221919B1 (ko) 2013-01-15
CA2716817C (en) 2014-04-22
BRPI0910285B1 (pt) 2020-05-12
US7991621B2 (en) 2011-08-02

Similar Documents

Publication Publication Date Title
WO2009110738A2 (ko) 오디오 신호 처리 방법 및 장치
WO2009110751A2 (ko) 오디오 신호 처리 방법 및 장치
KR101779426B1 (ko) 오디오 신호 처리 방법 및 장치
KR100304055B1 (ko) 음성 신호 부호화동안 잡음 대체를 신호로 알리는 방법
KR100647336B1 (ko) 적응적 시간/주파수 기반 오디오 부호화/복호화 장치 및방법
CN1926608B (zh) 多声道信号处理设备和方法
CN102150202A (zh) 对音频/语音信号进行编码和解码的方法和设备
KR100707177B1 (ko) 디지털 신호 부호화/복호화 방법 및 장치
JP2010510540A (ja) オーディオ及び／またはスピーチ信号符号化及び／または復号化方法及び装置
JP2009539132A (ja) オーディオ信号の線形予測符号化
JP4281131B2 (ja) 信号符号化装置及び方法、並びに信号復号装置及び方法
JP3348759B2 (ja) 変換符号化方法および変換復号化方法
JP4618823B2 (ja) 信号符号化装置及び方法
RU2773022C2 (ru) Способ кодирования и декодирования стерео во временной области и сопутствующий продукт
EP2720223A2 (en) Audio signal processing method, audio encoding apparatus, audio decoding apparatus, and terminal adopting the same
KR20100054749A (ko) 신호의 처리 방법 및 이의 장치
WO2010058931A2 (en) A method and an apparatus for processing a signal

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 200980107543.0

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 09716372

Country of ref document: EP

Kind code of ref document: A2

WWE Wipo information: entry into national phase

Ref document number: 3130/KOLNP/2010

Country of ref document: IN

WWE Wipo information: entry into national phase

Ref document number: 2716817

Country of ref document: CA

WWE Wipo information: entry into national phase

Ref document number: MX/A/2010/009571

Country of ref document: MX

ENP Entry into the national phase

Ref document number: 20107019538

Country of ref document: KR

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 2010549570

Country of ref document: JP

NENP Non-entry into the national phase

Ref country code: DE

REEP Request for entry into the european phase

Ref document number: 2009716372

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2009716372

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2009220321

Country of ref document: AU

WWE Wipo information: entry into national phase

Ref document number: 2010140362

Country of ref document: RU

ENP Entry into the national phase

Ref document number: 2009220321

Country of ref document: AU

Date of ref document: 20090303

Kind code of ref document: A

ENP Entry into the national phase

Ref document number: PI0910285

Country of ref document: BR

Kind code of ref document: A2

Effective date: 20100901