KR102491177B1 - Method and apparatus for decoding high frequency for bandwidth extension - Google Patents

Method and apparatus for decoding high frequency for bandwidth extension Download PDF

Info

Publication number
KR102491177B1
KR102491177B1 KR1020220044820A KR20220044820A KR102491177B1 KR 102491177 B1 KR102491177 B1 KR 102491177B1 KR 1020220044820 A KR1020220044820 A KR 1020220044820A KR 20220044820 A KR20220044820 A KR 20220044820A KR 102491177 B1 KR102491177 B1 KR 102491177B1
Authority
KR
South Korea
Prior art keywords
frequency
low
spectrum
frequency spectrum
excitation
Prior art date
Application number
KR1020220044820A
Other languages
Korean (ko)
Other versions
KR20220051317A (en
Inventor
주기현
오은미
황선호
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Publication of KR20220051317A publication Critical patent/KR20220051317A/en
Application granted granted Critical
Publication of KR102491177B1 publication Critical patent/KR102491177B1/en

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/08—Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/012—Comfort noise or silence coding
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16—Vocoder architecture
    • G10L19/167—Audio streaming, i.e. formatting and decoding of an encoded audio signal representation into a data stream for transmission or storage purposes
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16—Vocoder architecture
    • G10L19/18—Vocoders using multiple modes
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Processing of the speech or voice signal to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/038—Speech enhancement, e.g. noise reduction or echo cancellation using band spreading techniques

Abstract

대역폭 확장을 위한 고주파 복호화 방법 및 장치가 개시된다. 대역폭 확장을 위한 고주파 복호화방법은 여기 클래스를 복호화하는 단계, 복호화된 저주파 스펙트럼을 상기 여기 클래스에 근거하여 변형하는 단계, 및 변형된 저주파 스펙트럼에 근거하여 고주파 여기 스펙트럼을 생성하는 단계를 포함한다.A high-frequency decoding method and apparatus for bandwidth extension are disclosed. A high-frequency decoding method for bandwidth extension includes decoding an excitation class, transforming a decoded low-frequency spectrum based on the excitation class, and generating a high-frequency excitation spectrum based on the modified low-frequency spectrum.

Description

대역폭 확장을 위한 고주파 복호화 방법 및 장치{METHOD AND APPARATUS FOR DECODING HIGH FREQUENCY FOR BANDWIDTH EXTENSION}High-frequency decoding method and apparatus for bandwidth extension

본 발명은 오디오 부호화 및 복호화에 관한 것으로서, 보다 상세하게로는 대역폭 확장을 위한 고주파 복호화 방법 및 장치에 관한 것이다.The present invention relates to audio encoding and decoding, and more particularly, to a high-frequency decoding method and apparatus for bandwidth extension.

G.719의 코딩 스킴은 텔레컨퍼런싱의 목적으로 개발 및 표준화된 것으로서, MDCT(Modified Discrete Cosine Transform)을 수행하여 주파수 도메인 변환을 수행하여, 스테이셔너리(stationary) 프레임인 경우에는 MDCT 스펙트럼을 바로 코딩한다. 넌 스테이셔너리(non-stationary) 프레임은 시간 도메인 얼라이어싱 순서(time domain aliasing order)를 변경함으로써, 시간적인 특성을 고려할 수 있도록 변경한다. 넌 스테이셔너리 프레임에 대하여 얻어진 스펙트럼은 스테이셔너리 프레임과 동일한 프레임워크로 코덱을 구성하기 위해서 인터리빙을 수행하여 스테이셔너리 프레임과 유사한 형태로 구성될 수 있다. 이와 같이 구성된 스펙트럼의 에너지를 구하여 정규화를 수행한 후 양자화를 수행하게 된다. 통상 에너지는 RMS 값으로 표현되며, 정규화된 스펙트럼은 에너지 기반의 비트 할당을 통해 밴드별로 필요한 비트를 생성하고, 밴드별 비트 할당 정보를 기반으로 양자화 및 무손실 부호화를 통해 비트스트림을 생성한다.The coding scheme of G.719 was developed and standardized for the purpose of teleconferencing. It performs MDCT (Modified Discrete Cosine Transform) to perform frequency domain transformation, and in the case of a stationary frame, MDCT spectrum is directly coded. do. A non-stationary frame is changed to consider temporal characteristics by changing a time domain aliasing order. The spectrum obtained for the non-stationary frame may be configured in a form similar to that of the stationary frame by performing interleaving to construct a codec with the same framework as the stationary frame. After obtaining the energy of the spectrum constructed as described above, normalization is performed, and then quantization is performed. In general, energy is expressed as an RMS value, and the normalized spectrum generates necessary bits for each band through energy-based bit allocation, and generates a bit stream through quantization and lossless encoding based on the bit allocation information for each band.

G.719의 디코딩 스킴에 따르면, 코딩 방식의 역과정으로 비트스트림에서 에너지를 역양자화하고, 역양자화된 에너지를 기반으로 비트 할당 정보를 생성하여 스펙트럼의 역양자화를 수행하여 정규화된 역양자화된 스펙트럼을 생성해 준다. 이때 비트가 부족한 경우 특정 밴드에는 역양자화한 스펙트럼이 없을 수 있다. 이러한 특정 밴드에 대하여 노이즈를 생성해 주기 위하여, 저주파 대역의 역양자화된 스펙트럼을 기반으로 노이즈 코드북을 생성하여 전송된 노이즈 레벨에 맞추어서 노이즈를 생성하는 노이즈 필링 방식이 적용된다. 한편, 특정 주파수 이상의 밴드에 대해서는 저주파 신호를 폴딩하여 고주파 신호를 생성해주는 대역폭 확장 기법이 적용된다.According to the decoding scheme of G.719, energy is inversely quantized in the bitstream in the reverse process of the coding scheme, bit allocation information is generated based on the inversely quantized energy, and spectrum inverse quantization is performed to normalize the inverse quantized spectrum. it creates In this case, when bits are insufficient, there may be no inverse quantized spectrum in a specific band. In order to generate noise for this specific band, a noise filling method is applied in which a noise codebook is generated based on an inverse quantized spectrum of a low frequency band and noise is generated according to the transmitted noise level. Meanwhile, for a band higher than a specific frequency, a bandwidth extension technique for generating a high-frequency signal by folding a low-frequency signal is applied.

본 발명이 해결하고자 하는 과제는 복원 음질을 향상시킬 수 있는 대역폭 확장을 위한 고주파 복호화 방법 및 장치와 이를 채용하는 멀티미디어 기기를 제공하는데 있다. An object to be solved by the present invention is to provide a high-frequency decoding method and apparatus for bandwidth extension capable of improving restored sound quality, and a multimedia device employing the same.

상기 과제를 달성하기 위한 본 발명의 일실시예에 따른 대역폭 확장을 위한 고주파 복호화 방법은 여기 클래스를 복호화하는 단계; 복호화된 저주파 스펙트럼을 상기 여기 클래스에 근거하여 변형하는 단계; 및 변형된 저주파 스펙트럼에 근거하여 고주파 여기 스펙트럼을 생성하는 단계를 포함할 수 있다. A high-frequency decoding method for bandwidth extension according to an embodiment of the present invention for achieving the above object includes decoding an excitation class; transforming the decoded low-frequency spectrum based on the excitation class; and generating a high-frequency excitation spectrum based on the modified low-frequency spectrum.

상기 과제를 달성하기 위한 본 발명의 일실시예에 따른 대역폭 확장을 위한 고주파 복호화 장치는 여기 클래스를 복호화하고, 복호화된 저주파 스펙트럼을 상기 여기 클래스에 근거하여 변형하고, 변형된 저주파 스펙트럼에 근거하여 고주파 여기 스펙트럼을 생성하는 적어도 하나의 프로세서를 포함할 수 있다.A high-frequency decoding apparatus for bandwidth extension according to an embodiment of the present invention for achieving the above object decodes an excitation class, transforms a decoded low-frequency spectrum based on the excitation class, and based on the modified low-frequency spectrum, a high-frequency decoding apparatus. It may include at least one processor that generates an excitation spectrum.

실시예에 따른 대역폭 확장을 위한 고주파 복호화 방법 및 장치에 의하면, 복호화된 저주파 스펙트럼을 변형하여 고주파 여기 스펙트럼을 생성함으로써 복잡도의 과도한 증가없이 복원 음질을 향상시킬 수 있다.According to the high-frequency decoding method and apparatus for bandwidth extension according to the embodiment, the decoded low-frequency spectrum is transformed to generate the high-frequency excitation spectrum, so that the restored sound quality can be improved without an excessive increase in complexity.

도 1은 일실시예에 따라 저주파 대역과 고주파 대역의 서브밴드 구성의 예를 설명하는 도면이다
도 2a 내지 도 2c는 일실시예에 따라 R0 대역과 R1 대역을 선택된 코딩 방식에 대응하여 R2와 R3, R4와 R5로 구분한 도면이다.
도 3은 일실시예에 따른 고주파 대역의 서브밴드 구성의 예를 설명하는 도면이다.
도 4는 일실시예에 따른 오디오 부호화장치의 구성을 나타낸 블럭도이다.
도 5는 일실시예에 따른 BWE 파라미터 생성부의 구성을 나타낸 블럭도이다.
도 6은 일실시예에 따른 오디오 복호화장치의 구성을 나타낸 블럭도이다.
도 7은 일실시예에 따른 고주파 복호화장치의 구성을 나타낸 블럭도이다.
도 8은 일실시예에 따른 저주파 스펙트럼 변형부의 구성을 나타낸 블럭도이다.
도 9는 다른 실시예에 따른 저주파 스펙트럼 변형부의 구성을 나타낸 블럭도이다.
도 10은 다른 실시예에 따른 저주파 스펙트럼 변형부의 구성을 나타낸 블럭도이다.
도 11은 다른 실시예에 따른 저주파 스펙트럼 변형부의 구성을 나타낸 블럭도이다.
도 12는 일실시예에 다이나믹 레인지 제어부의 구성을 나타낸 블럭도이다.
도 13은 일실시예에 따른 고주파 여기스펙트럼 생성부의 구성을 나타낸 블럭도이다.
도 14는 밴드 경계에서 가중치에 대한 스무딩 처리를 설명하기 위한 도면이다.
도 15는 일실시예에 따라 오버래핑 영역에 존재하는 스펙트럼을 재구성하기 위하여 사용되는 기여분인 가중치를 설명하는 도면이다.
도 16은 일실시예에 따른 복호화모듈을 포함하는 멀티미디어 기기의 구성을 나타낸 블록도이다.
도 17은 일실시예에 따른 부호화모듈과 복호화모듈을 포함하는 멀티미디어 기기의 구성을 나타낸 블록도이다.
도 18은 일실시예에 따른 고주파 복호화방법의 동작을 설명하기 위한 흐름도이다.
도 19는 일실시예에 따른 저주파 스펙트럼 변형방법의 동작을 설명하기 위한 흐름도이다.1 is a diagram illustrating an example of a subband configuration of a low frequency band and a high frequency band according to an embodiment.
2A to 2C are views in which the R0 band and the R1 band are divided into R2 and R3, and R4 and R5 in correspondence to the selected coding scheme according to an embodiment.
3 is a diagram illustrating an example of a subband configuration of a high frequency band according to an embodiment.
4 is a block diagram showing the configuration of an audio encoding apparatus according to an embodiment.
5 is a block diagram showing the configuration of a BWE parameter generator according to an embodiment.
6 is a block diagram showing the configuration of an audio decoding apparatus according to an embodiment.
7 is a block diagram showing the configuration of a high-frequency decoding apparatus according to an embodiment.
8 is a block diagram showing the configuration of a low-frequency spectrum modifier according to an embodiment.
9 is a block diagram showing the configuration of a low frequency spectrum modifier according to another embodiment.
10 is a block diagram showing the configuration of a low frequency spectrum modifier according to another embodiment.
11 is a block diagram showing the configuration of a low frequency spectrum modifier according to another embodiment.
12 is a block diagram showing the configuration of a dynamic range controller according to an embodiment.
13 is a block diagram showing the configuration of a high-frequency excitation spectrum generator according to an embodiment.
14 is a diagram for explaining smoothing processing for weights at a band boundary.
FIG. 15 is a diagram explaining weights, which are contributions used to reconstruct a spectrum existing in an overlapping area, according to an embodiment.
16 is a block diagram showing the configuration of a multimedia device including a decoding module according to an embodiment.
17 is a block diagram showing the configuration of a multimedia device including an encoding module and a decoding module according to an embodiment.
18 is a flowchart illustrating an operation of a high-frequency decoding method according to an embodiment.
19 is a flowchart illustrating an operation of a low frequency spectrum modification method according to an embodiment.

본 발명은 다양한 변환을 가할 수 있고 여러가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 구체적으로 설명하고자 한다. 그러나 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 기술적 사상 및 기술 범위에 포함되는 모든 변환, 균등물 내지 대체물을 포함하는 것으로 이해될 수 있다. 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.Since the present invention can apply various transformations and have various embodiments, specific embodiments will be illustrated in the drawings and described in detail in the detailed description. However, this is not intended to limit the present invention to specific embodiments, and it can be understood to include all conversions, equivalents, or substitutes included in the technical spirit and scope of the present invention. In describing the present invention, if it is determined that a detailed description of related known technologies may obscure the gist of the present invention, the detailed description will be omitted.

제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 구성요소들이 용어들에 의해 한정되는 것은 아니다. 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. Terms such as first and second may be used to describe various components, but the components are not limited by the terms. Terms are only used to distinguish one component from another.

본 발명에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 본 발명에서 사용한 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나 이는 당 분야에 종사하는 기술자의 의도, 판례, 또는 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 발명에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 발명의 전반에 걸친 내용을 토대로 정의되어야 한다.Terms used in the present invention are only used to describe specific embodiments, and are not intended to limit the present invention. The terms used in the present invention have been selected from general terms that are currently widely used as much as possible while considering the functions in the present invention, but they may vary depending on the intention of a person skilled in the art, case law, or the emergence of new technologies. In addition, in a specific case, there is also a term arbitrarily selected by the applicant, and in this case, the meaning will be described in detail in the description of the invention. Therefore, the term used in the present invention should be defined based on the meaning of the term and the overall content of the present invention, not simply the name of the term.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 발명에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.Singular expressions include plural expressions unless the context clearly dictates otherwise. In the present invention, terms such as "comprise" or "having" are intended to designate that there is a feature, number, step, operation, component, part, or combination thereof described in the specification, but one or more other features It should be understood that the presence or addition of numbers, steps, operations, components, parts, or combinations thereof is not precluded.

이하, 본 발명의 실시예들을 첨부 도면을 참조하여 상세히 설명하기로 하며, 첨부 도면을 참조하여 설명함에 있어, 동일하거나 대응하는 구성요소는 동일한 도면번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings, and in the description with reference to the accompanying drawings, the same or corresponding components are given the same reference numerals and overlapping descriptions thereof will be omitted. do.

도 1은 일실시예에 따라 저주파 대역과 고주파 대역의 서브밴드 구성의 예를 설명하는 도면이다. 실시예에 따르면, 샘플링 레이트는 32kHz이고, 640개의 MDCT 스펙트럼 계수를 22개의 밴드로 구성하며, 구체적으로 저주파 대역에 대하여 17개의 밴드, 고주파 대역에 대하여 5개의 밴드로 구성될 수 있다. 예를 들면, 고주파 대역의 시작 주파수는 241번째 스펙트럼 계수이며, 0~240까지의 스펙트럼 계수는 저주파 코딩 방식 즉, 코어 코딩 방식으로 코딩되는 영역으로서 R0로 정의할 수 있다. 또한, 241~639까지의 스펙트럼 계수는 대역폭확장(BWE)가 수행되는 고주파 대역으로서 R1으로 정의할 수 있다. 한편, R1 영역에는 비트 할당 정보에 따라서 저주파 코딩 방식으로 코딩되는 밴드도 존재할 수 있다.1 is a diagram illustrating an example of a subband configuration of a low frequency band and a high frequency band according to an embodiment. According to the embodiment, the sampling rate is 32 kHz, and 640 MDCT spectral coefficients are composed of 22 bands. Specifically, it may be composed of 17 bands for a low frequency band and 5 bands for a high frequency band. For example, the start frequency of the high-frequency band is the 241st spectrum coefficient, and the spectrum coefficients from 0 to 240 are coded by a low-frequency coding scheme, that is, a core coding scheme, and can be defined as R0. In addition, spectral coefficients from 241 to 639 may be defined as R1 as a high-frequency band in which bandwidth extension (BWE) is performed. Meanwhile, a band coded by a low-frequency coding scheme may also exist in the R1 region according to bit allocation information.

도 2a 내지 도 2c는 도 1의 R0 영역과 R1 영역을 선택된 코딩 방식에 따라 R2, R3, R4, R5로 구분한 도면이다. 먼저, BWE 영역인 R1 영역은 R2와 R3로, 저주파 코딩 영역인 R0 영역은 R4와 R5로 구분될 수 있다. R2는 저주파 코딩 방식, 예를 들면 주파수 도메인 코딩 방식으로 양자화 및 무손실 부호화되는 신호를 포함하고 있는 밴드를 나타내고, R3는 저주파 코딩 방식으로 코딩되는 신호가 없는 밴드를 나타낸다. 한편, R2가 비트가 할당되어 저주파 코딩 방식으로 코딩되는 것으로 결정되더라도 비트가 부족한 경우 R3에서와 동일한 방식으로 밴드가 생성될 수 있다. R5는 비트가 할당되어 저주파 코딩 방식으로 코딩이 수행되는 밴드를 나타내고, R4는 비트 여유분이 없어 저주파 신호임에도 코딩이 안되거나 비트가 적게 할당되어 노이즈를 부가해야 하는 밴드를 나타낸다. 따라서, R4와 R5의 구분은 노이즈 부가 여부에 의해서 판단될 수 있으며, 이는 저주파 코딩된 밴드내 스펙트럼 개수의 비율로 결정될 수 있으며, 또는 FPC를 사용한 경우에는 밴드내 펄스 할당 정보에 근거하여 결정할 수 있다. R4와 R5 밴드는 복호화 과정에서 노이즈를 부가할 때 구분될 수 있기 때문에, 부호화 과정에서는 명확히 구분이 안될 수 있다. R2~R5 밴드는 부호화되는 정보가 서로 다를 뿐 아니라, 디코딩 방식이 다르게 적용될 수 있다.2A to 2C are diagrams in which the R0 and R1 regions of FIG. 1 are divided into R2, R3, R4, and R5 according to the selected coding method. First, the R1 region, which is a BWE region, can be divided into R2 and R3, and the R0 region, which is a low-frequency coding region, can be divided into R4 and R5. R2 denotes a band including a signal quantized and lossless coded using a low-frequency coding scheme, for example, a frequency domain coding scheme, and R3 denotes a band without a signal coded using a low-frequency coding scheme. Meanwhile, even if it is determined that bits are allocated to R2 and coded using a low-frequency coding method, when bits are insufficient, a band may be generated in the same manner as in R3. R5 represents a band in which bits are allocated and coding is performed using a low-frequency coding method, and R4 represents a band in which coding is not performed even though a low-frequency signal is not coded because there is no bit margin, or noise is to be added because few bits are allocated. Therefore, the distinction between R4 and R5 can be determined by whether or not noise is added, which can be determined by the ratio of the number of spectra in a low-frequency coded band, or in the case of using FPC, it can be determined based on intra-band pulse allocation information. . Since the R4 and R5 bands can be distinguished when noise is added in the decoding process, they may not be clearly distinguished in the coding process. In the bands R2 to R5, encoded information may be different from each other, and a different decoding method may be applied.

도 2a에 도시된 예의 경우 저주파 코딩 영역(R0) 중 170-240까지의 2개 밴드가 노이즈를 부가하는 R4이고, BWE 영역(R1) 중 241-350까지의 2개 밴드 및 427-639까지의 2개 밴드가 저주파 코딩 방식으로 코딩되는 R2이다. 도 2b에 도시된 예의 경우 저주파 코딩 영역(R0) 중 202-240까지의 1개 밴드가 노이즈를 부가하는 R4이고, BWE 영역(R1) 중 241-639까지의 5개 밴드 모두가 저주파 코딩 방식으로 코딩되는 R2이다. 도 2c에 도시된 예의 경우 저주파 코딩 영역(R0) 중 144-240까지의 3개 밴드가 노이즈를 부가하는 R4이고, BWE 영역(R1) 중 R2는 존재하지 않는다. 저주파 코딩 영역(R0)에서 R4는 통상 고주파 부분에 분포될 수 있으나, BWE 영역(R1)에서 R2는 특정 주파수 부분에 제한되지 않는다. In the case of the example shown in FIG. 2A, two bands from 170 to 240 of the low frequency coding region R0 are R4 to which noise is added, and two bands from 241 to 350 and 427 to 639 of the BWE region R1 The two bands are R2 coded by the low-frequency coding scheme. In the case of the example shown in FIG. 2B, one band from 202 to 240 of the low-frequency coding region R0 is R4 to which noise is added, and all five bands from 241 to 639 of the BWE region R1 are low-frequency coding. It is coded R2. In the case of the example shown in FIG. 2C, three bands from 144 to 240 in the low frequency coding region R0 are R4 to which noise is added, and R2 in the BWE region R1 does not exist. In the low frequency coding region R0, R4 may be normally distributed in a high frequency part, but in the BWE region R1, R2 is not limited to a specific frequency part.

도 3은 도 3은 일실시예에 따른 광대역(WB)의 고주파 대역의 서브밴드 구성의 예를 설명하는 도면이다. 여기서, 32KHz 샘플링 레이트는 32kHz이고, 640개의 MDCT 스펙트럼 계수를 중 고주파 대역에 대하여 14개의 밴드로 구성될 수 있다. 100 Hz 에는 4개의 스펙트럼 계수가 포함되며, 따라서 400 Hz인 첫번째 밴드에는 16개의 스펙트럼 계수가 포함될 수 있다. 참조부호 310은 6.4 ~ 14.4 KHz의 고주파 대역, 참조부호 330은 8.0 ~ 16.0 KHz의 고주파 대역에 대한 서브밴드 구성을 각각 나타낸다.FIG. 3 is a diagram illustrating an example of a subband configuration of a high-frequency band of a wideband (WB) according to an exemplary embodiment. Here, the 32 KHz sampling rate is 32 kHz, and 640 MDCT spectral coefficients may be composed of 14 bands for the middle and high frequency bands. 100 Hz includes 4 spectral coefficients, and thus 16 spectral coefficients may be included in the first band of 400 Hz. Reference numeral 310 represents a subband configuration for a high frequency band of 6.4 to 14.4 KHz, and reference numeral 330 represents a high frequency band of 8.0 to 16.0 KHz.

도 4는 일실시예에 따른 오디오 부호화장치의 구성을 나타낸 블럭도이다.4 is a block diagram showing the configuration of an audio encoding apparatus according to an embodiment.

도 4에 도시된 오디오 부호화장치는 BWE 파라미터 생성부(410), 저주파 부호화부(430), 고주파 부호화부(450) 및 다중화부(470)를 포함할 수 있다. 각 구성요소는 적어도 하나의 모듈로 일체화되어 적어도 하나의 프로세서(미도시)로 구현될 수 있다. 여기서, 입력신호는 음악 혹은 음성, 혹은 음악과 음성의 혼합신호를 의미할 수 있으며, 크게 음성신호와 다른 일반적인 신호로 나눌 수도 있다. 이하에서는 설명의 편의를 위하여 오디오 신호로 통칭하기로 한다.The audio encoding apparatus shown in FIG. 4 may include a BWE parameter generating unit 410, a low frequency encoding unit 430, a high frequency encoding unit 450, and a multiplexing unit 470. Each component may be integrated into at least one module and implemented by at least one processor (not shown). Here, the input signal may mean music or voice, or a mixed signal of music and voice, and may be largely divided into voice signals and other general signals. Hereinafter, for convenience of explanation, it will be collectively referred to as an audio signal.

도 4를 참조하면, BWE 파라미터 생성부(410)는 대역폭 확장을 위한 BWE 파라미터를 생성할 수 있다. 여기서, BWE 파라미터는 여기 클래스(excitation class)에 해당할 수 있다. 한편, 구현방식에 따라서, BWE 파라미터는 여기 클래스와 다른 파라미터를 포함할 수 있다. BWE 파라미터 생성부(410)는 프레임 단위로 신호 특성에 근거하여 여기 클래스를 생성할 수 있다. 구체적으로, 입력신호가 음성 특성을 갖는지 토널 특성을 갖는지를 판단하고, 판단 결과에 근거하여 복수의 여기 클래스 중에서 하나를 결정할 수 있다. 복수의 여기 클래스는 음성과 관련된 여기 클래스, 토널 뮤직과 관련된 여기 클래스와 넌-토널 뮤직과 관련된 여기 클래스를 포함할 수 있다. 결정된 여기 클래스는 비트스트림에 포함되어 전송될 수 있다. Referring to FIG. 4 , the BWE parameter generation unit 410 may generate BWE parameters for bandwidth extension. Here, the BWE parameter may correspond to an excitation class. Meanwhile, depending on the implementation method, the BWE parameters may include parameters different from the excitation class. The BWE parameter generation unit 410 may generate an excitation class on a frame-by-frame basis based on signal characteristics. Specifically, it is possible to determine whether the input signal has audio characteristics or tonal characteristics, and based on the determination result, one of a plurality of excitation classes may be determined. The plurality of excitation classes may include an excitation class related to voice, an excitation class related to tonal music, and an excitation class related to non-tonal music. The determined excitation class may be included in a bitstream and transmitted.

저주파 부호화부(430)는 저대역 신호에 대하여 부호화를 수행하여 부호화된 스펙트럼 계수를 생성할 수 있다. 또한, 저주파 부호화부(430)는 저대역 신호의 에너지와 관련된 정보를 부호화할 수 있다. 실시예에 따르면, 저주파 부호화부(430)는 저대역 신호를 주파수 도메인으로 변환하여 저주파 스펙트럼을 생성하고, 저주파 스펙트럼에 대하여 양자화하여 양자화된 스펙트럼 계수를 생성할 수 있다. 도메인 변환을 위하여 MDCT(Modified Discrete Cosine Transform)를 사용할 수 있으나 이에 한정되는 것은 아니다. 양자화를 위하여 PVQ(Pyramid Vector Quantization)를 사용할 수 있으나 이에 한정되는 것은 아니다.The low-frequency encoder 430 may generate encoded spectral coefficients by performing encoding on the low-band signal. Also, the low-frequency encoder 430 may encode information related to the energy of the low-band signal. According to an embodiment, the low-frequency encoder 430 may generate a low-frequency spectrum by transforming the low-band signal into a frequency domain, and quantize the low-frequency spectrum to generate quantized spectrum coefficients. Modified Discrete Cosine Transform (MDCT) may be used for domain conversion, but is not limited thereto. Pyramid Vector Quantization (PVQ) may be used for quantization, but is not limited thereto.

고주파 부호화부(450)는 고대역 신호에 대하여 부호화를 수행하여 디코더단에서의 대역폭 확장에 필요한 파라미터 혹은 비트할당에 필요한 파라미터를 생성할 수 있다. 대역폭 확장에 필요한 파라미터는 고대역 신호의 에너지와 관련된 정보와 부가정보를 포함할 수 있다. 여기서, 에너지는 엔벨로프, 스케일 팩터, 평균 전력 혹은 Norm 으로 표현될 수 있다. 부가정보는 고대역에서 중요한 주파수 성분을 포함하는 밴드에 대한 정보로서, 특정 고주파 밴드에 포함된 주파수 성분과 관련된 정보일 수 있다. 고주파 부호화부(450)는 고대역신호를 주파수 도메인으로 변환하여 고주파 스펙트럼을 생성하고, 고주파 스펙트럼의 에너지와 관련된 정보를 양자화할 수 있다. 도메인 변환을 위하여 MDCT를 사용할 수 있으나 이에 한정되는 것은 아니다. 양자화를 위하여 벡터 양자화를 사용할 수 있으나 이에 한정되는 것은 아니다.The high-frequency encoder 450 may perform encoding on the high-band signal to generate parameters required for bandwidth extension or bit allocation at the decoder stage. Parameters required for bandwidth extension may include information related to the energy of a high-band signal and additional information. Here, energy may be expressed as an envelope, scale factor, average power, or norm. The additional information is information about a band including an important frequency component in a high band, and may be information related to a frequency component included in a specific high frequency band. The high-frequency encoder 450 may generate a high-frequency spectrum by converting the high-band signal into a frequency domain, and quantize information related to energy of the high-frequency spectrum. MDCT may be used for domain conversion, but is not limited thereto. For quantization, vector quantization may be used, but is not limited thereto.

다중화부(470)는 BWE 파라미터 즉, 여기 클래스, 대역폭 확장에 필요한 파라미터 혹은 비트할당에 필요한 파라미터 및 저대역의 부호화된 스펙트럼 계수를 포함하여 비트스트림을 생성할 수 있다. 비트스트림은 전송되거나 저장될 수 있다.The multiplexer 470 may generate a bitstream including BWE parameters, that is, an excitation class, a parameter required for bandwidth extension or a parameter required for bit allocation, and a low-band coded spectrum coefficient. A bitstream may be transmitted or stored.

주파수 도메인의 BWE 방식은 시간 도메인 코딩 파트와 결합되어 적용될 수 있다. 시간 도메인 코딩에는 주로 CELP 방식이 사용될 수 있으며, CELP 방식으로 저대역을 코딩하고, 주파수 도메인에서의 BWE가 아닌 시간 도메인에서의 BWE 방식과 결합되도록 구현될 수 있다. 이러한 경우, 전체적으로 시간 도메인 코딩과 주파수 도메인 코딩간의 적응적 코딩 방식 결정에 기반하여 코딩 방식을 선택적으로 적용할 수 있게 된다. 적절한 코딩 방식을 선택하기 위해서 신호분류를 필요로 하며, 일실시예에 따르면 신호 분류 결과를 우선적으로 이용하여 프레임별 여기 클래스를 결정할 수 있다.The frequency domain BWE scheme may be applied in combination with a time domain coding part. The CELP scheme may be mainly used for time domain coding, and the CELP scheme may be used to code a low band and may be implemented to be combined with the BWE scheme in the time domain rather than the BWE scheme in the frequency domain. In this case, a coding scheme can be selectively applied based on the determination of an adaptive coding scheme between time domain coding and frequency domain coding as a whole. Signal classification is required to select an appropriate coding scheme, and according to an embodiment, excitation classes for each frame may be determined using a signal classification result preferentially.

도 5는 일실시예에 따른 BWE 파라미터 생성부(도 4의 410)의 구성을 나타낸 블럭도로서, 신호분류부(510) 및 여기 클래스 생성부(530)를 포함할 수 있다.5 is a block diagram showing the configuration of a BWE parameter generation unit (410 in FIG. 4) according to an embodiment, which may include a signal classification unit 510 and an excitation class generation unit 530.

도 5를 참조하면, 신호분류부(510)는 신호특성을 프레임 단위로 분석하여 현재 프레임이 음성신호인지 여부를 분류하고, 분류결과에 따라서 여기 클래스를 결정할 수 있다. 신호분류 처리는 공지된 다양한 방법, 예를 들어 단구간 특성 및/또는 장구간 특성을 이용하여 수행될 수 있다. 단구간 특성 및/또는 장구간 특성은 주파수 도메인 특성 혹은 시간 도메인 특성일 수 있다. 현재 프레임이 시간 도메인 코딩이 적절한 방식인 음성신호로 분류되는 경우, 고대역 신호의 특성에 기반한 방식보다, 고정된 형태의 여기 클래스를 할당하는 방식이 음질 향상에 도움이 될 수 있다. 여기서, 신호분류 처리는 이전 프레임의 분류 결과를 고려하지 않고 현재 프레임에 대하여 수행될 수 있다. 즉, 비록 현재 프레임이 행 오버를 고려하여 최종적으로는 주파수 도메인 코딩으로 결정될 수 있지만, 현재 프레임 자체가 시간 도메인 코딩이 적절한 방식이라고 분류된 경우에는 고정된 여기 클래스를 할당할 수 있다. 예를 들어, 현재 프레임이 시간 도메인 코딩이 적절할 음성신호로 분류되는 경우 여기 클래스는 음성 특성과 관련된 제1 여기 클래스로 설정될 수 있다.Referring to FIG. 5 , the signal classification unit 510 analyzes signal characteristics frame by frame to classify whether a current frame is a voice signal, and determines an excitation class according to the classification result. Signal classification processing may be performed using various known methods, for example, short-term characteristics and/or long-term characteristics. The short-term feature and/or the long-term feature may be a frequency domain feature or a time domain feature. When the current frame is classified as an audio signal for which time domain coding is appropriate, a method of assigning a fixed excitation class rather than a method based on the characteristics of a high-band signal can help improve sound quality. Here, the signal classification process may be performed on the current frame without considering the classification result of the previous frame. That is, although the current frame may be finally determined by frequency domain coding in consideration of hangover, a fixed excitation class may be assigned when the current frame itself is classified as appropriate for time domain coding. For example, when the current frame is classified as a speech signal for which time domain coding is appropriate, the excitation class may be set as a first excitation class related to speech characteristics.

여기클래스 생성부(530)는 신호분류부(510)의 분류 결과 현재 프레임이 음성신호로 분류되지 않은 경우, 적어도 하나 이상의 문턱치를 이용하여 여기 클래스를 결정할 수 있다. 실시예에 따르면, 여기클래스 생성부(530)는 신호분류부(510)의 분류 결과 현재 프레임이 음성신호로 분류되지 않은 경우, 고대역의 토널러티 값을 산출하고, 토널러티 값을 문턱치와 비교하여 여기 클래스를 결정할 수 있다. 여기 클래스의 개수에 따라서 복수개의 문턱치가 사용될 수 있다. 하나의 문턱치가 사용되는 경우, 토널러티 값이 문턱치보다 큰 경우 토널 뮤직신호로, 토널러티 값이 문턱치보다 작은 경우 넌-토널 뮤직신호, 예를 들면 노이지 신호로 분류할 수 있다. 현재 프레임이 토널 뮤직신호로 분류되는 경우, 여기 클래스는 토널 특성과 관련된 제2 여기 클래스, 노이지 신호로 분류되는 경우 넌-토널특성과 관된 제3 여기 클래스로 결정될 수 있다. When the current frame is not classified as a voice signal as a result of classification by the signal classification unit 510, the excitation class generation unit 530 may determine an excitation class using at least one threshold value. According to an embodiment, when the current frame is not classified as a voice signal as a result of classification by the signal classification unit 510, the excitation class generation unit 530 calculates a high-band tonality value, and sets the tonality value as a threshold value. By comparing with , we can determine the class here. A plurality of threshold values may be used according to the number of excitation classes. When one threshold value is used, a tonal music signal can be classified if the tonality value is greater than the threshold value, and a non-tonal music signal, eg, a noisy signal, if the tonality value is smaller than the threshold value. When the current frame is classified as a tonal music signal, an excitation class may be determined as a second excitation class related to tonal characteristics, and a third excitation class related to non-tonal characteristics when classified as a noisy signal.

도 6은 일실시예에 따른 오디오 복호화장치의 구성을 나타낸 블럭도이다.6 is a block diagram showing the configuration of an audio decoding apparatus according to an embodiment.

도 6에 도시된 오디오 복호화장치는 역다중화부(610), BWE 파라미터 복호화부(630), 저주파 복호화부(650) 및 고주파 복호화부(670)를 포함할 수 있다. 도시되지 않았으나, 오디오 복호화장치는 스펙트럼 결합부와 역변환부를 더 포함할 수 있다. 각 구성요소는 적어도 하나의 모듈로 일체화되어 적어도 하나의 프로세서(미도시)로 구현될 수 있다. 여기서, 입력신호는 음악 혹은 음성, 혹은 음악과 음성의 혼합신호를 의미할 수 있으며, 크게 음성신호와 다른 일반적인 신호로 나눌 수도 있다. 이하에서는 설명의 편의를 위하여 오디오 신호로 통칭하기로 한다. The audio decoding apparatus shown in FIG. 6 may include a demultiplexer 610, a BWE parameter decoding unit 630, a low frequency decoding unit 650, and a high frequency decoding unit 670. Although not shown, the audio decoding apparatus may further include a spectrum combiner and an inverse transform unit. Each component may be integrated into at least one module and implemented by at least one processor (not shown). Here, the input signal may mean music or voice, or a mixed signal of music and voice, and may be largely divided into voice signals and other general signals. Hereinafter, for convenience of explanation, it will be collectively referred to as an audio signal.

도 6을 참조하면, 역다중화부(610)는 수신되는 비트스트림을 파싱하여 복호화에 필요한 파라미터를 생성할 수 있다.Referring to FIG. 6 , the demultiplexer 610 may generate parameters required for decoding by parsing the received bitstream.

BWE 파라미터 복호화부(630)는 비트스트림으로부터 BWE 파라미터를 복호화할 수 있다. BWE 파라미터는 여기 클래스에 해당할 수 있다. 한편, BWE 파라미터는 여기 클래스와 다른 파라미터를 포함할 수 있다. The BWE parameter decoding unit 630 may decode the BWE parameters from the bitstream. BWE parameters may correspond to excitation classes. Meanwhile, the BWE parameters may include parameters different from the excitation class.

저주파 복호화부(650)는 비트스트림으로부터 저대역의 부호화된 스펙트럼 계수를 복호화하여 저주파 스펙트럼을 생성할 수 있다. 한편, 저주파 복호화부(650)는 저대역 신호의 에너지와 관련된 정보를 복호화할 수 있다.The low-frequency decoder 650 may generate a low-frequency spectrum by decoding low-band coded spectral coefficients from the bitstream. Meanwhile, the low-frequency decoding unit 650 may decode information related to the energy of the low-band signal.

고주파 복호화부(670)는 복호화된 저주파 스펙트럼과 여기 클래스를 이용하여 고주파 여기 스펙트럼을 생성할 수 있다. 다른 실시예에 따르면, 고주파 복호화부(670)는 비트스트림으로부터 대역폭 확장에 필요한 파라미터 혹은 비트할당에 필요한 파라미터를 복호화하고, 대역폭 확장에 필요한 파라미터 혹은 비트할당에 필요한 파라미터와 복호화된 저대역 신호의 에너지와 관련된 정보를 고주파 여기 스펙트럼에 적용할 수 있다.The high frequency decoder 670 may generate a high frequency excitation spectrum using the decoded low frequency spectrum and the excitation class. According to another embodiment, the high-frequency decoder 670 decodes a parameter required for bandwidth extension or a parameter necessary for bit allocation from a bitstream, and the parameter necessary for bandwidth extension or a parameter necessary for bit allocation and the energy of the decoded low-band signal Information related to can be applied to the high-frequency excitation spectrum.

대역폭 확장에 필요한 파라미터는 고대역 신호의 에너지와 관련된 정보와 부가정보를 포함할 수 있다. 부가정보는 고대역에서 중요한 주파수 성분을 포함하는 밴드에 대한 정보로서, 특정 고주파 밴드에 포함된 주파수 성분과 관련된 정보일 수 있다. 고대역 신호의 에너지와 관련된 정보는 벡터 역양자화될 수 있다.Parameters required for bandwidth extension may include information related to the energy of a high-band signal and additional information. The additional information is information about a band including an important frequency component in a high band, and may be information related to a frequency component included in a specific high frequency band. Information related to the energy of the high-band signal may be vector dequantized.

스펙트럼 결합부(미도시)는 저주파 복호화부(650)로부터 제공되는 스펙트럼과 고주파 복호화부(670)로부터 제공되는 스펙트럼을 결합할 수 있다. 역변환부(미도시)는 결합된 스펙트럼을 시간 도메인으로 역변환할 수 있다. 도메인 역변환을 위하여 IMDCT(Inverse MDCT)를 사용할 수 있으나 이에 한정되는 것은 아니다. The spectrum combiner (not shown) may combine the spectrum provided from the low frequency decoder 650 and the spectrum provided from the high frequency decoder 670 . An inverse transform unit (not shown) may inverse transform the combined spectrum into a time domain. Inverse MDCT (IMDCT) may be used for inverse domain transformation, but is not limited thereto.

도 7은 일실시예에 따른 고주파 복호화장치의 구성을 나타낸 블록도로서, 도 6의 고주파 복호화부(670)에 대응되거나 별도의 장치로 구현될 수 있다. 도 7의 고주파 복호화장치는 저주파 스펙트럼 변형부(710) 및 고주파 여기스펙트럼 생성부(730)를 포함할 수 있다. 여기서 도시되지 않았으나, 복호화된 저주파 스펙트럼을 수신하는 수신부를 더 포함할 수 있다.FIG. 7 is a block diagram showing a configuration of a high frequency decoding apparatus according to an embodiment, and may correspond to the high frequency decoding unit 670 of FIG. 6 or be implemented as a separate device. The high frequency decoding apparatus of FIG. 7 may include a low frequency spectrum transforming unit 710 and a high frequency excitation spectrum generating unit 730. Although not shown here, a receiving unit for receiving the decoded low frequency spectrum may be further included.

도 7을 참조하면, 저주파 스펙트럼 변형부(710)는 복호화된 저주파 스펙트럼을 여기 클래스에 근거하여 변형(modify)할 수 있다. 일실시예에 따르면 복호화된 저주파 스펙트럼은 노이즈 필링 처리된 스펙트럼일 수 있다. 다른 실시예에 따르면 복호화된 저주파 스펙트럼은 노이즈 필링 처리된 이후, 제로로 남아 있는 부분에 재차 랜덤 부호와 일정한 크기의 진폭을 갖는 계수를 삽입하는 안티 스파스니스(anti-sparseness) 처리된 스펙트럼일 수 있다.Referring to FIG. 7 , the low frequency spectrum modifier 710 may modify the decoded low frequency spectrum based on the excitation class. According to an embodiment, the decoded low frequency spectrum may be a spectrum subjected to noise filling. According to another embodiment, the decoded low-frequency spectrum may be a spectrum subjected to anti-sparseness processing in which a random code and a coefficient having a constant amplitude are inserted again into a portion remaining zero after noise filling processing. there is.

고주파 여기스펙트럼 생성부(730)는 변형된 저주파 스펙트럼으로부터 고주파 여기스펙트럼을 생성할 수 있다. 추가적으로, 생성된 고주파 여기스펙트럼의 에너지가 역양자화된 에너지에 매칭되도록 생성된 고주파 여기스펙트럼의 에너지에 게인을 적용할 수 있다. The high frequency excitation spectrum generator 730 may generate a high frequency excitation spectrum from the modified low frequency spectrum. Additionally, a gain may be applied to the energy of the generated high frequency excitation spectrum so that the energy of the generated high frequency excitation spectrum matches the inverse quantized energy.

도 8은 일실시예에 따른 저주파 스펙트럼 변형부(도 7의 710)의 구성을 나타낸 블록도로서, 연산부(810)를 포함할 수 있다.8 is a block diagram showing the configuration of a low-frequency spectrum modifier (710 in FIG. 7) according to an embodiment, which may include a calculation unit 810.

*도 8을 참조하면, 연산부(810)는 복호화된 저주파 스펙트럼에 대하여 여기클래스에 근거하여 소정의 연산처리를 수행하여 변형된 저주파 스펙트럼을 생성할 수 있다. 여기서, 복호화된 저주파 스펙트럼은 노이즈 필링 처리된 스펙트럼, 안티 스파스니스 처리된 스펙트럼 혹은 노이즈가 부가되지 않은 역양자화된 저주파 스펙트럼에 해당될 수 있다. 소정의 연산처리는 여기클래스에 따라서 가중치를 결정하고, 복호화된 저주파 스펙트럼과 랜덤 노이즈를 결정된 가중치에 근거하여 혼합하는 처리를 의미할 수 있다. 소정의 연산처리는 승산처리와 가산처리를 포함할 수 있다. 랜덤 노이즈는 공지된 다양한 방식으로 생성될 수 있으며, 일예를 들면 랜덤 씨드(Random seed)를 이용하여 생성될 수 있다. 한편, 연산부(810)는 소정의 연산처리에 앞서 화이트닝된 저주파 스펙트럼과 랜덤 노이즈의 레벨을 유사한 수준으로 매칭시키는 처리를 더 포함할 수 있다.* Referring to FIG. 8 , the calculator 810 may generate a decoded low-frequency spectrum by performing a predetermined calculation process on the decoded low-frequency spectrum based on the excitation class. Here, the decoded low-frequency spectrum may correspond to a noise-filled spectrum, an anti-sparseness-processed spectrum, or an inverse quantized low-frequency spectrum to which noise is not added. The predetermined calculation process may mean a process of determining a weight according to the excitation class and mixing the decoded low-frequency spectrum and random noise based on the determined weight. The predetermined arithmetic processing may include multiplication processing and addition processing. Random noise may be generated in a variety of well-known ways, and may be generated using, for example, a random seed. Meanwhile, the calculator 810 may further include a process of matching the level of the whitened low-frequency spectrum and the random noise to a similar level prior to a predetermined computation process.

도 9는 다른 실시예에 따른 저주파 스펙트럼 변형부(도 7의 710)의 구성을 나타낸 블럭도 로서, 화이트닝부(910), 연산부(930) 및 레벨 조정부(950)를 포함할 수 있다. 여기서, 레벨 조정부(950)는 옵션으로 구비될 수 있다. FIG. 9 is a block diagram showing the configuration of a low frequency spectrum modifier (710 in FIG. 7) according to another embodiment, which may include a whitening unit 910, a calculation unit 930, and a level adjustment unit 950. Here, the level adjusting unit 950 may be provided as an option.

도 9를 참조하면, 화이트닝부(910)는 복호화된 저주파 스펙트럼에 대하여 화이트닝을 수행할 수 있다. 여기서, 복호화된 저주파 스펙트럼에 제로로 남아 있는 부분은 노이즈 필링 처리 혹은 안티 스파스니스 처리에 의해 노이즈가 부가될 수 있다. 노이즈 부가는 서브밴드 단위로 선택적으로 수행될 수 있다. 화이트닝 처리는 저주파 스펙트럼의 엔벨로프 정보에 근거하여 정규화를 수행하는 것으로서, 공지된 다양한 방식을 적용할 수 있다. 구체적으로, 정규화 처리는 저주파 스펙트럼으로부터 엔벨로프를 산출하고, 저주파 스펙트럼을 엔벨로프로 나누는 것에 해당될 수 있다. 화이트닝 처리는 스펙트럼의 형태는 플랫하지만, 내부 주파수의 미세 구조(fine structure)는 유지되도록 수행될 수 있다. 한편, 정규화 처리를 위한 윈도우 사이즈는 신호 특성에 따라서 결정될 수 있다.Referring to FIG. 9 , the whitening unit 910 may perform whitening on the decoded low-frequency spectrum. Here, noise may be added to the portion remaining zero in the decoded low-frequency spectrum by noise filling processing or anti-sparseness processing. Noise addition may be selectively performed in units of subbands. The whitening process performs normalization based on the envelope information of the low frequency spectrum, and various known methods may be applied. Specifically, the normalization process may correspond to calculating an envelope from a low-frequency spectrum and dividing the low-frequency spectrum by the envelope. The whitening treatment may be performed such that the shape of the spectrum is flat, but the fine structure of the internal frequency is maintained. Meanwhile, a window size for normalization processing may be determined according to signal characteristics.

연산부(930)는 화이트닝된 저주파 스펙트럼에 대하여 여기클래스에 근거하여 소정의 연산처리를 수행하여 변형된 저주파 스펙트럼을 생성할 수 있다. 소정의 연산처리는 여기클래스에 따라서 가중치를 결정하고, 화이트닝된 저주파 스펙트럼과 랜덤 노이즈를 결정된 가중치에 근거하여 혼합하는 처리를 의미할 수 있다. 연산부(930)는 도 8의 연산부(810)와 동일하게 동작할 수 있다.The calculator 930 may generate a modified low-frequency spectrum by performing a predetermined calculation process on the whitened low-frequency spectrum based on the excitation class. The predetermined calculation process may mean a process of determining a weight according to the excitation class and mixing the whitened low-frequency spectrum and random noise based on the determined weight. The calculation unit 930 may operate in the same way as the calculation unit 810 of FIG. 8 .

도 10은 다른 실시예에 따른 저주파 스펙트럼 변형부(도 7의 710)의 구성을 나타낸 블럭도 로서, 다이나믹 레인지 제어부(1010)를 포함할 수 있다.FIG. 10 is a block diagram showing the configuration of a low frequency spectrum modifier (710 in FIG. 7) according to another embodiment, which may include a dynamic range control unit 1010.

도 10을 참조하면, 다이나믹 레인지 제어부(1010)는 복호화된 저주파 스펙트럼의 다이나믹 레인지를 여기 클래스에 근거하여 제어하여 변형된 저주파 스펙트럼을 생성할 수 있다. 여기서, 다이나믹 레인지를 스펙트럼 진폭을 의미할 수 있다.Referring to FIG. 10 , the dynamic range controller 1010 may control the dynamic range of a decoded low-frequency spectrum based on an excitation class to generate a modified low-frequency spectrum. Here, dynamic range may mean spectrum amplitude.

도 11은 다른 실시예에 따른 저주파 스펙트럼 변형부(도 7의 710)의 구성을 나타낸 블럭도로서, 화이트닝부(1110) 및 다이나믹 레인지 제어부(1130)를 포함할 수 있다. 11 is a block diagram showing the configuration of a low frequency spectrum modifier (710 in FIG. 7) according to another embodiment, which may include a whitening unit 1110 and a dynamic range controller 1130.

도 11을 참조하면, 화이트닝부(1110)는 도 9의 화이트닝부(910)와 동일하게 동작할 수 있다. 즉, 화이트닝부(1110)는 복호화된 저주파 스펙트럼에 대하여 화이트닝을 수행할 수 있다. 여기서, 복호화된 저주파 스펙트럼에 제로로 남아 있는 부분은 노이즈 필링 처리 혹은 안티 스파스니스 처리에 의해 노이즈가 부가될 수 있다. 노이즈 부가는 서브밴드 단위로 선택적으로 수행될 수 있다. 화이트닝 처리는 저주파 스펙트럼의 엔벨로프 정보에 근거하여 정규화를 수행하는 것으로서, 공지된 다양한 방식을 적용할 수 있다. 구체적으로, 정규화 처리는 저주파 스펙트럼으로부터 엔벨로프를 산출하고, 저주파 스펙트럼을 엔벨로프로 나누는 것에 해당될 수 있다. 화이트닝 처리는 스펙트럼의 형태는 플랫하지만, 내부 주파수의 미세 구조(fine structure)는 유지되도록 수행될 수 있다. 한편, 정규화 처리를 위한 윈도우 사이즈는 신호 특성에 따라서 결정될 수 있다.Referring to FIG. 11 , the whitening unit 1110 may operate in the same way as the whitening unit 910 of FIG. 9 . That is, the whitening unit 1110 may perform whitening on the decoded low-frequency spectrum. Here, noise may be added to the portion remaining zero in the decoded low-frequency spectrum by noise filling processing or anti-sparseness processing. Noise addition may be selectively performed in units of subbands. The whitening process performs normalization based on the envelope information of the low frequency spectrum, and various known methods may be applied. Specifically, the normalization process may correspond to calculating an envelope from a low-frequency spectrum and dividing the low-frequency spectrum by the envelope. The whitening treatment may be performed such that the shape of the spectrum is flat, but the fine structure of the internal frequency is maintained. Meanwhile, a window size for normalization processing may be determined according to signal characteristics.

다이나믹 레인지 제어부(1130)는 화이트닝된 저주파 스펙트럼의 다이나믹 레인지를 여기 클래스에 근거하여 제어하여 변형된 저주파 스펙트럼을 생성할 수 있다. The dynamic range controller 1130 may generate a modified low-frequency spectrum by controlling the dynamic range of the whitened low-frequency spectrum based on the excitation class.

도 12는 일실시예에 따른 다이나믹 레인지 제어부(도 11의 1110)의 구성을 나타낸 블록도로서, 부호 분리부(1210), 제어파라미터 결정부(1230), 진폭 조절부(1250), 랜덤 부호 생성부(1270) 및 부호적용부(1290)를 포함할 수 있다. 여기서, 랜덤 부호 생성부(127)는 부호적용부(129)와 일체화될 수 있다. 12 is a block diagram showing the configuration of a dynamic range controller (1110 in FIG. 11) according to an embodiment, including a code separator 1210, a control parameter determiner 1230, an amplitude control unit 1250, and random code generation. A unit 1270 and a code application unit 1290 may be included. Here, the random code generation unit 127 may be integrated with the code application unit 129.

도 12를 참조하면, 부호 분리부(1210)는 복호화된 저주파 스펙트럼으로부터 부호를 제거하여 진폭 즉, 절대값 스펙트럼을 생성할 수 있다.Referring to FIG. 12 , the code separator 1210 may generate an amplitude, that is, an absolute value spectrum by removing a code from a decoded low-frequency spectrum.

제어파라미터 결정부(1230)는 여기 클래스에 근거하여 제어파라미터를 결정할 수 있다. 여기 클래스는 토널 특성 혹은 플랫 특성과 관련있는 정보이기 때문에, 여기 클래스에 근거하여 절대값 스펙트럼의 진폭을 조절할 수 있는 제어파라미터를 결정할 수 있다. 절대값 스펙트럼의 진폭은 다이나믹 레인지 혹은 피크-밸리 간격으로 나타낼 수 있다. 일실시예에 따르면, 제어파라미터 결정부(1130)는 여기 클래스에 대응하여 서로 다른 값의 제어 파라미터를 결정할 수 있다. 예를 들어, 음성 특성과 관련된 여기 클래스인 경우에는 0.2, 토널 특성과 관련된 여기 클래스인 경우에는 0.05, 노이지 특성과 관련된 여기 클래스인 경우에는 0.8을 제어파라미터로 할당할 수 있다. 이에 따르면, 고주파 대역에서 노이즈 특성을 갖는 프레임의 경우, 진폭 조절 정도를 크게 할 수 있다.The control parameter determiner 1230 may determine a control parameter based on the excitation class. Since the excitation class is information related to tonal characteristics or flat characteristics, a control parameter capable of adjusting the amplitude of the absolute value spectrum can be determined based on the excitation class. The amplitude of the absolute value spectrum can be expressed as a dynamic range or a peak-to-valley interval. According to an embodiment, the control parameter determiner 1130 may determine control parameters having different values in correspondence to excitation classes. For example, 0.2 for an excitation class related to voice characteristics, 0.05 for an excitation class related to tonal characteristics, and 0.8 for an excitation class related to noisy characteristics may be assigned as control parameters. According to this, in the case of a frame having noise characteristics in a high frequency band, the degree of amplitude adjustment can be increased.

진폭 조절부(1250)는 제어파라미터 결정부(1230)에서 결정된 제어파라미터에 근거하여 저주파 스펙트럼의 진폭 즉, 다이나믹 레인지를 조절할 수 있다. 이때, 제어파라미터의 값이 클수록 다이나믹 레인지를 더 많이 조절하게 된다. 일실시예에 따르면, 원래의 절대값 스펙트럼에 소정 크기의 진폭을 가감으로써 다이나믹 레인지를 조절할 수 있다. 소정 크기의 진폭은 절대값 스펙트럼의 특정 밴드의 각 주파수 빈의 진폭과 해당 밴드의 평균 진폭간 차이값에 대하여 제어파라미터를 곱한 값에 해당할 수 있다. 진폭 조절부(1250)는 저주파 스펙트럼을 동일한 크기의 밴드로 구성하여 처리할 수 있다. 일실시예에 따르면 각 밴드에 16개의 스펙트럼 계수가 포함되도록 구성할 수 있다. 각 밴드별로 평균 진폭이 산출되고, 각 밴드에 포함된 각 주파수 빈의 진폭이 각 밴드의 평균 진폭과 제어 파라미터에 근거하여 조절될 수 있다. 일예를 들면, 밴드의 평균 진폭보다 큰 진폭을 갖는 주파수 빈은 그 진폭을 감소시키고, 밴드의 평균 진폭보다 작은 진폭을 갖는 주파수 빈은 그 진폭을 증가시키는 것을 의미할 수 있다. 이때, 다이나믹 레인지의 조절 정도는 여기 클래스에 따라서 달라질 수 있다. 구체적으로, 다이나믹 레인지 제어는 하기 수학식 1에 따라서 수행될 수 있다.The amplitude adjusting unit 1250 may adjust the amplitude of the low frequency spectrum, that is, the dynamic range, based on the control parameter determined by the control parameter determining unit 1230 . In this case, the larger the value of the control parameter, the more the dynamic range is adjusted. According to one embodiment, the dynamic range may be adjusted by adding or subtracting a predetermined magnitude of amplitude to the original absolute value spectrum. The amplitude of a predetermined size may correspond to a value obtained by multiplying a difference value between the amplitude of each frequency bin of a specific band of the absolute value spectrum and the average amplitude of the corresponding band by a control parameter. The amplitude control unit 1250 may configure and process the low-frequency spectrum into bands of the same size. According to an embodiment, each band may include 16 spectral coefficients. An average amplitude is calculated for each band, and the amplitude of each frequency bin included in each band may be adjusted based on the average amplitude of each band and a control parameter. For example, a frequency bin having an amplitude greater than the average amplitude of a band may decrease its amplitude, and a frequency bin having an amplitude smaller than the average amplitude of a band may increase its amplitude. In this case, the degree of adjustment of the dynamic range may vary according to the excitation class. Specifically, dynamic range control may be performed according to Equation 1 below.

Figure 112022038668403-pat00001
Figure 112022038668403-pat00001

여기서, S'[i]는 주파수 빈 i의 다이나믹 레인지가 제어된 진폭, S[i]는 주파수 빈 i의 진폭, m[k]는 주파수 빈 i가 속해있는 밴드의 평균 진폭, a는 제어파라미터를 각각 나타낸다. 일실시예에 따르면, 각 진폭은 절대값을 나타낼 수 있다. 이에 따르면, 다이나믹 레인지 제어는 밴드의 스펙트럼 계수 즉, 주파수 빈 단위로 수행될 수 있다. 평균 진폭은 밴드 단위로 산출되고, 제어 파라미터는 프레임 단위로 적용될 수 있다.Here, S'[i] is the controlled amplitude of the dynamic range of frequency bin i, S[i] is the amplitude of frequency bin i, m[k] is the average amplitude of the band to which frequency bin i belongs, and a is the control parameter represent each. According to one embodiment, each amplitude may represent an absolute value. According to this, dynamic range control may be performed in units of spectral coefficients of bands, that is, frequency bins. The average amplitude may be calculated in units of bands, and the control parameters may be applied in units of frames.

한편, 각 밴드는 트랜스포지션이 수행될 시작 주파수를 기준으로 구성할 수 있다. 일예를 들면, 각 밴드는 트랜스포지션 주파수 빈 2에서부터 시작하면서 16개의 주파수 빈을 포함하도록 구성할 수 있다. 구체적으로 SWB인 경우, 24.4 kbps에서는 주파수 빈 145에서 끝나면서 9개의 밴드가 존재하고, 32 kbps에서는 주파수 빈 129에서 끝나면서 8개의 밴드가 존재할 수 있다. FB인 경우, 24.4 kbps에서는 주파수 빈 305에서 끝나면서 19개의 밴드가 존재하고, 32 kbps에서는 주파수 빈 289에서 끝나면서 18개의 밴드가 존재할 수 있다.Meanwhile, each band may be configured based on a start frequency at which transposition is to be performed. For example, each band may be configured to include 16 frequency bins starting from transposition frequency bin 2. Specifically, in the case of SWB, 9 bands may exist ending at frequency bin 145 at 24.4 kbps, and 8 bands may exist ending at frequency bin 129 at 32 kbps. In the case of FB, 19 bands may exist ending at frequency bin 305 at 24.4 kbps, and 18 bands may exist ending at frequency bin 289 at 32 kbps.

랜덤 부호 생성부(1270)는 여기 클래스에 근거하여 랜덤 부호가 필요하다고 판단된 경우 랜덤 부호를 생성할 수 있다. 랜덤 부호는 프레임 단위로 생성될 수 있다. 일실시예에 따르면, 노이지 특성과 관련된 여기 클래스의 경우 랜덤 부호가 적용될 수 있다.The random code generator 1270 may generate a random code when it is determined that a random code is necessary based on the excitation class. Random codes may be generated in units of frames. According to an embodiment, a random code may be applied to an excitation class related to noisy characteristics.

부호적용부(1290)는 다이나믹 레인지가 조절된 저주파 스펙트럼에 대하여 랜덤 부호 혹은 원래의 부호 중 하나를 적용하여 변형된 저주파 스펙트럼을 생성할 수 있다. 여기서, 원래의 부호는 부호 분리부(1210)에서 제거된 부호를 사용할 수 있다. 일실시예에 따르면, 노이지 특성과 관련된 여기 클래스의 경우 랜덤 부호를, 토널 특성과 관련된 여기 클래스 혹은 음성 특성과 관련된 여기 클래스의 경우 원래의 부호를 적용할 수 있다. 구체적으로, 노이지하다고 판단된 프레임의 경우 랜덤 부호를, 토널한다고 판단된 프레임 혹은 음성신호로 판단된 프레임의 경우 원래의 부호를 적용할 수 있다.The code application unit 1290 may generate a modified low-frequency spectrum by applying either a random code or an original code to the low-frequency spectrum whose dynamic range is adjusted. Here, the original code may use the code removed by the code separator 1210. According to an embodiment, a random code may be applied to an excitation class related to noisy characteristics, and an original code may be applied to an excitation class related to tonal characteristics or an excitation class related to voice characteristics. Specifically, a random code may be applied to a frame determined to be noisy, and an original code may be applied to a frame determined to be tonal or a frame determined to be a voice signal.

도 13은 일실시예에 따른 고주파 여기스펙트럼 생성부(도 7의 730)의 구성을 나타낸 블럭도로서, 스펙트럼 패칭부(1310) 및 스펙트럼 조절부(1330)를 포함할 수 있다. 여기서, 스펙트럼 조절부(1330)는 옵션으로 구비될 수 있다.FIG. 13 is a block diagram showing the configuration of a high frequency excitation spectrum generator (730 in FIG. 7) according to an embodiment, which may include a spectrum patching unit 1310 and a spectrum adjusting unit 1330. Here, the spectrum control unit 1330 may be provided as an option.

도 13을 참조하면, 스펙트럼 패칭부(1310)는 변형된 저주파 스펙트럼을 고대역으로 패칭, 예를 들면 전사, 복사, 미러링 혹은 폴딩하여 비어있는 고대역에 스펙트럼을 채울 수 있다. 실시예에 따르면, 소스 대역인 50~3250 Hz 에 있는 변형된 스펙트럼을 8000~11200 Hz 대역에 복사하고, 동일한 소스 대역인 50~3250 Hz에 있는 변형된 스펙트럼을 11200Hz~14400 Hz 대역에 복사하고, 소스 대역인 2000~3600Hz에 있는 변형된 스펙트럼을 14400~16000 Hz 대역에 복사할 수 있다. 이와 같은 과정을 통해 변형된 저주파 스펙트럼으로부터 고주파 여기 스펙트럼이 생성될 수 있다. Referring to FIG. 13 , the spectrum patching unit 1310 patches the modified low-frequency spectrum into a high-band, for example, transfers, copies, mirrors, or folds the modified low-frequency spectrum to fill the empty high-band spectrum. According to the embodiment, the modified spectrum in the source band of 50 to 3250 Hz is copied to the 8000 to 11200 Hz band, and the modified spectrum in the same source band of 50 to 3250 Hz is copied to the 11200 Hz to 14400 Hz band, The modified spectrum in the source band of 2000 to 3600 Hz can be copied to the 14400 to 16000 Hz band. A high-frequency excitation spectrum may be generated from the low-frequency spectrum modified through such a process.

스펙트럼 조절부(1330)는 스펙트럼 패칭부(1310)에서 수행된 패칭된 밴드간의 경계에서 스펙트럼의 불연속을 해결하기 위해서 스펙트럼 패칭부(1310)로부터 제공되는 고주파 여기 스펙트럼을 조절할 수 있다. 실시예에 따르면, 스펙트럼 패칭부(1310)로부터 제공되는 고주파 여기 스펙트럼의 경계 위치 주변의 스펙트럼들을 활용할 수 있다. The spectrum control unit 1330 may adjust the high-frequency excitation spectrum provided from the spectrum patching unit 1310 to solve a spectrum discontinuity at the boundary between patched bands performed by the spectrum patching unit 1310 . According to the embodiment, spectra around the boundary of the high-frequency excitation spectrum provided from the spectrum patching unit 1310 may be used.

이와 같이 생성된 고주파 여기 스펙트럼 혹은 조절된 고주파 여기 스펙트럼과 복호화된 저주파 스펙트럼은 결합되고, 결합된 스펙트럼은 역변환과정을 통하여 시간 도메인 신호로 생성될 수 있다. 고주파 여기 스펙트럼과 복호화된 저주파 스펙트럼 각각에 대하여 미리 역변환과정이 수행된 다음 결합될 수도 있다. 한편, 역변환과정에는 IMDCT(Inverse Modified Discrete Cosine Transform)가 적용될 수 있으나 이에 한정되는 것은 아니다. The generated high-frequency excitation spectrum or the adjusted high-frequency excitation spectrum and the decoded low-frequency spectrum may be combined, and the combined spectrum may be generated as a time domain signal through an inverse transformation process. The high-frequency excitation spectrum and the decoded low-frequency spectrum may be inversely transformed in advance and then combined. Meanwhile, an inverse modified discrete cosine transform (IMDCT) may be applied to the inverse transformation process, but is not limited thereto.

스펙트럼 결합과정에서 주파수 대역이 겹치는 부분에 대하여 오버랩애드 처리를 통해서 복원할 수 있다. 또는 스펙트럼 결합과정에서 주파수 대역이 겹치는 부분에 대하여 비트스트림을 통하여 전송된 정보를 기반으로 복원할 수 있다. 혹은, 수신측의 환경에 따라서 오버랩애드 처리 혹은 전송된 정보에 기반한 처리가 선택적으로 적용되거나, 가중치에 근거하여 복원할 수 있다. In the spectral combining process, the overlapping portion of the frequency band can be restored through overlap add processing. Alternatively, in the spectral combining process, the overlapping frequency band may be restored based on information transmitted through the bitstream. Alternatively, overlap add processing or processing based on transmitted information may be selectively applied or may be restored based on weights according to the environment of the receiving side.

도 14는 밴드 경계에서 가중치에 대한 스무딩 처리를 설명하기 위한 도면이다. 도 14를 참조하면, K+2 밴드의 가중치와 K+1 밴드의 가중치가 서로 다르기 때문에, 밴드 경계에서 스무딩을 수행할 필요가 있다. 도 14의 예에서는 K+1 밴드는 스무딩을 수행하지 않고, K+2 밴드에서만 스무딩을 수행하게 된다. 그 이유는 K+1 밴드에서의 가중치(Ws(K+1))가 0이기 때문에 K+1 밴드에서 스무딩을 수행하게 되면 K+1 밴드에서의 가중치(Ws(K+1))가 0이 아닌 값을 갖게 되어 K+1 밴드에서 랜덤 노이즈까지 고려해야 하기 때문이다. 즉, 가중치가 0이라는 것은 해당 밴드에서는 고주파 여기스펙트럼 생성시 랜덤 노이즈를 고려하지 않는다는 것을 나타낸다. 이는 극단적인 토널신호일 경우에 해당되며, 랜덤 노이즈로 인하여 하모닉 신호의 밸리 구간에 노이즈가 삽입되어 잡음이 발생되는 것을 막기 위한 것이다.14 is a diagram for explaining smoothing processing for weights at a band boundary. Referring to FIG. 14 , since the weights of the K+2 band and the K+1 band are different from each other, it is necessary to perform smoothing at the band boundary. In the example of FIG. 14, smoothing is not performed on the K+1 band, and smoothing is performed only on the K+2 band. The reason is that the weight (Ws(K+1)) in the K+1 band is 0, so when smoothing is performed in the K+1 band, the weight (Ws(K+1)) in the K+1 band is 0. This is because it has a value other than random noise in the K+1 band. That is, a weight of 0 indicates that random noise is not considered when generating a high-frequency excitation spectrum in a corresponding band. This corresponds to the case of an extreme tonal signal, and is to prevent noise from being generated by inserting noise into a valley section of the harmonic signal due to random noise.

다음, 고주파 에너지를 저주파 에너지 전송 방식과는 다른 방식으로 예를 들어 VQ와 같은 방식을 적용하게 되면, 저주파 에너지는 스칼라 양자화후 무손실 부호화를 사용해서 전송하게 되고, 고주파 에너지는 다른 방식으로 양자화를 수행하여 전송될 수 있다. 이와 같이 처리하는 경우, 저주파 코딩 영역(R0)의 마지막 밴드와 BWE 영역(R1)의 시작 밴드를 오버래핑하는 방식으로 구성할 수 있다. 또한 BWE 영역(R1)의 밴드 구성은 다른 방식으로 구성하여 좀더 조밀한 밴드 할당 구조를 가질 수 있다.Next, if a method such as VQ is applied to high-frequency energy in a method different from the low-frequency energy transmission method, the low-frequency energy is transmitted using lossless coding after scalar quantization, and the high-frequency energy is quantized in a different method. and can be transmitted. In this case, the last band of the low-frequency coding region R0 and the start band of the BWE region R1 may be overlapped. In addition, the band configuration of the BWE region R1 may be configured in a different manner to have a more dense band allocation structure.

예를 들어, 저주파 코딩 영역(R0)의 마지막 밴드는 8.2kHz까지 구성되고, BWE 영역(R1)의 시작 밴드는 8kHz부터 시작하도록 구성할 수 있다. 이 경우 저주파 코딩 영역(R0)과 BWE 영역(R1)간에 오버랩핑 영역이 발생된다. 그 결과 오버랩핑 영역에는 두개의 복호화된 스펙트럼을 생성할 수 있다. 하나는 저주파 복호화 방식을 적용하여 생성한 스펙트럼이고, 다른 하나는 고주파 복호화 방식으로 생성한 스펙트럼이다. 두가지 스펙트럼 즉, 저주파 스펙트럼과 고주파 스펙트럼간의 천이(transition)가 보다 스무딩되도록 오버랩 애드(overlap add) 방식을 적용할 수 있다. 예를 들면, 두가지 스펙트럼을 동시에 활용하면서, 오버래핑된 영역 중 저주파쪽에 가까운 스펙트럼은 저주파 방식으로 생성된 스펙트럼의 기여분을 높이고, 고주파쪽에 가까운 스펙트럼은 고주파 방식으로 생성된 스펙트럼의 기여분을 높여서 오버래핑된 영역을 재구성할 수 있다.For example, the last band of the low frequency coding region R0 may be configured up to 8.2 kHz, and the start band of the BWE region R1 may be configured to start from 8 kHz. In this case, an overlapping region is generated between the low frequency coding region R0 and the BWE region R1. As a result, two decoded spectra can be generated in the overlapping area. One is a spectrum generated by applying a low-frequency decoding method, and the other is a spectrum generated by a high-frequency decoding method. An overlap add method may be applied so that a transition between two spectrums, that is, a low frequency spectrum and a high frequency spectrum is smoothed more. For example, while simultaneously utilizing the two spectrums, the spectrum closer to the low frequency side of the overlapped area increases the contribution of the spectrum generated by the low frequency method, and the spectrum closer to the high frequency side increases the contribution of the spectrum generated by the high frequency method, thereby reducing the overlapping area. can be reconstructed.

예를 들어, 저주파 코딩 영역(R0)의 마지막 밴드는 8.2kHz까지, BWE 영역(R1)의 시작 밴드는 8kHz부터 시작하는 경우, 32 kHz 샘플링 레이트로 640 샘플의 스펙트럼을 구성하게 되면 320~327까지 8개의 스펙트럼이 오버랩되며, 8개의 스펙트럼에 대해서는 다음 수학식 2에서와 같이 생성할 수 있다.For example, if the last band of the low-frequency coding region (R0) is up to 8.2 kHz and the starting band of the BWE region (R1) starts from 8 kHz, configuring a spectrum of 640 samples at a sampling rate of 32 kHz results in a spectrum from 320 to 327 Eight spectra overlap, and the eight spectra can be generated as shown in Equation 2 below.

Figure 112022038668403-pat00002
Figure 112022038668403-pat00002

여기서,

Figure 112022038668403-pat00003
는 저주파 방식으로 복호화된 스펙트럼,
Figure 112022038668403-pat00004
는 고주파 방식으로 복호화된 스펙트럼, L0는 고주파의 시작 스펙트럼 위치, L0~L1은 오버래핑된 영역, w0는 기여분을 각각 나타낸다.here,
Figure 112022038668403-pat00003
Is the spectrum decoded by the low-frequency method,
Figure 112022038668403-pat00004
denotes a spectrum decoded by the high-frequency method, L0 indicates a starting spectrum position of a high-frequency signal, L0 to L1 indicate an overlapped region, and w 0 indicates a contribution.

도 15는 일실시예에 따라 복호화단에서 BWE 처리후 오버래핑 영역에 존재하는 스펙트럼을 재구성하기 위하여 사용되는 기여분을 설명하는 도면이다. 15 is a diagram illustrating a contribution used to reconstruct a spectrum existing in an overlapping region after BWE processing in a decoding stage according to an embodiment.

도 15를 참조하면, wO(k)는 wO0(k)및 wO1(k)를 선택적으로 적용할 수 있는데, wO0(k)는 저주파와 고주파의 복호화 방식에 동일한 가중치를 적용하는 것이고, wO1(k)는 고주파의 복호화 방식에 더 큰 가중치를 가하는 방식이다. 두가지 wO(k)에 대한 선택 기준은 다양하지만, 일예로는 저주파의 오버랩핑 밴드에 스펙트럼 계수 혹은 펄스가 존재하는지에 대한 유무이다. 저주파의 오버랩핑 밴드에서 스펙트럼 계수 혹은 펄스가 코딩된 경우에는 wO0(k)를 활용하여, 저주파에서 생성한 스펙트럼에 대한 기여분을 L1 근처까지 유효하게 하고, 고주파의 기여분을 감소시키게 된다. 기본적으로 BWE를 통해서 생성된 신호의 스펙트럼보다는 실제 코딩 방식에 의해 생성된 스펙트럼이 원신호와의 근접성 측면에서 더 높을 수 있다. 이를 활용하여 오버랩핑 밴드에서 원신호에 좀더 근접한 스펙트럼의 기여분을 높여주는 방식을 적용할 수 있으며, 따라서 스무딩 효과 및 음질 향상을 도모할 수 있다.Referring to FIG. 15, w O (k) can selectively apply w O (k) and w O 1 (k), and w O (k) applies the same weight to low-frequency and high-frequency decoding schemes. , w O1 (k) is a method in which a larger weight is applied to a high-frequency decoding method. There are various selection criteria for the two w O (k), but one example is the presence or absence of spectral coefficients or pulses in the low-frequency overlapping band. When the spectrum coefficient or pulse is coded in the overlapping band of low frequency, w O0 (k) is used to make the contribution to the spectrum generated at low frequency effective up to around L1 and reduce the contribution of high frequency. Basically, the spectrum generated by the actual coding scheme may be higher in terms of proximity to the original signal than the spectrum of the signal generated through the BWE. Using this, it is possible to apply a method of increasing the contribution of a spectrum closer to the original signal in the overlapping band, and thus, a smoothing effect and sound quality improvement can be achieved.

도 16는 본 발명의 일실시예에 따른 복호화모듈을 포함하는 멀티미디어 기기의 구성을 나타낸 블록도이다.16 is a block diagram showing the configuration of a multimedia device including a decoding module according to an embodiment of the present invention.

도 16에 도시된 멀티미디어 기기(1600)는 통신부(1610)와 복호화모듈(1630)을 포함할 수 있다. 또한, 복호화 결과 얻어지는 복원된 오디오신호의 용도에 따라서, 복원된 오디오신호를 저장하는 저장부(1650)을 더 포함할 수 있다. 또한, 멀티미디어 기기(1600)는 스피커(1670)를 더 포함할 수 있다. 즉, 저장부(1650)와 스피커(1670)는 옵션으로 구비될 수 있다. 한편, 도 16에 도시된 멀티미디어 기기(1600)는 임의의 부호화모듈(미도시), 예를 들면 일반적인 부호화 기능을 수행하는 부호화모듈 혹은 본 발명의 일실시예에 따른 부호화모듈을 더 포함할 수 있다. 여기서, 복호화모듈(1630)은 멀티미디어 기기(1600)에 구비되는 다른 구성요소(미도시)와 함께 일체화되어 적어도 하나의 이상의 프로세서(미도시)로 구현될 수 있다.The multimedia device 1600 shown in FIG. 16 may include a communication unit 1610 and a decoding module 1630. In addition, according to the use of the restored audio signal obtained as a result of decoding, a storage unit 1650 for storing the restored audio signal may be further included. Also, the multimedia device 1600 may further include a speaker 1670. That is, the storage unit 1650 and the speaker 1670 may be provided as options. Meanwhile, the multimedia device 1600 shown in FIG. 16 may further include an arbitrary encoding module (not shown), for example, an encoding module that performs a general encoding function or an encoding module according to an embodiment of the present invention. . Here, the decoding module 1630 may be integrated with other components (not shown) provided in the multimedia device 1600 and implemented by one or more processors (not shown).

도 16을 참조하면, 통신부(1610)는 외부로부터 제공되는 부호화된 비트스트림과 오디오 신호 중 적어도 하나를 수신하거나 복호화 모듈(1630)의 복호화결과 얻어지는 복원된 오디오 신호와 부호화결과 얻어지는 오디오 비트스트림 중 적어도 하나를 송신할 수 있다. 통신부(1610)는 무선 인터넷, 무선 인트라넷, 무선 전화망, 무선 랜(LAN), 와이파이(Wi-Fi), 와이파이 다이렉트(WFD, Wi-Fi Direct), 3G(Generation), 4G(4 Generation), 블루투스(Bluetooth), 적외선 통신(IrDA, Infrared Data Association), RFID(Radio Frequency Identification), UWB(Ultra WideBand), 지그비(Zigbee), NFC(Near Field Communication)와 같은 무선 네트워크 또는 유선 전화망, 유선 인터넷과 같은 유선 네트워크를 통해 외부의 멀티미디어 기기와 데이터를 송수신할 수 있도록 구성된다.Referring to FIG. 16, the communication unit 1610 receives at least one of an encoded bitstream and an audio signal provided from the outside, or at least one of a restored audio signal obtained as a result of decoding by the decoding module 1630 and an audio bitstream obtained as a result of encoding. can send one. The communication unit 1610 is a wireless Internet, wireless intranet, wireless telephone network, wireless LAN (LAN), Wi-Fi (Wi-Fi), Wi-Fi Direct (WFD), 3G (Generation), 4G (4 Generation), Bluetooth (Bluetooth), infrared communication (IrDA, Infrared Data Association), RFID (Radio Frequency Identification), UWB (Ultra WideBand), Zigbee, NFC (Near Field Communication), or wired telephone network, wired Internet It is configured to transmit/receive data with an external multimedia device through a wired network.

복호화 모듈(1630)은 일실시예에 따르면, 통신부(1610)를 통하여 제공되는 비트스트림을 수신하고, 비트스트림에 포함된 오디오 스펙트럼에 대하여 복호화를 수행할 수 있다. 복호화처리는 전술한 복호화장치 혹은 후술하는 복호화방법을 이용하여 수행될 수 있으나, 이에 한정되는 것은 아니다.According to an embodiment, the decoding module 1630 may receive a bitstream provided through the communication unit 1610 and perform decoding on an audio spectrum included in the bitstream. Decryption processing may be performed using the above-described decryption apparatus or a decryption method described later, but is not limited thereto.

저장부(1650)는 복호화 모듈(1630)에서 생성되는 복원된 오디오신호를 저장할 수 있다. 한편, 저장부(1650)는 멀티미디어 기기(1600)의 운용에 필요한 다양한 프로그램을 저장할 수 있다.The storage unit 1650 may store the restored audio signal generated by the decoding module 1630. Meanwhile, the storage unit 1650 may store various programs necessary for operating the multimedia device 1600 .

스피커(1670)는 복호화 모듈(1630)에서 생성되는 복원된 오디오신호를 외부로 출력할 수 있다.The speaker 1670 may output the restored audio signal generated by the decoding module 1630 to the outside.

도 17은 본 발명의 일실시예에 따른 부호화모듈과 복호화모듈을 포함하는 멀티미디어 기기의 구성을 나타낸 블록도이다.17 is a block diagram showing the configuration of a multimedia device including an encoding module and a decoding module according to an embodiment of the present invention.

도 17에 도시된 멀티미디어 기기(1700)는 통신부(1710), 부호화모듈(1720)과 복호화모듈(1730)을 포함할 수 있다. 또한, 부호화 결과 얻어지는 오디오 비트스트림 혹은 복호화 결과 얻어지는 복원된 오디오신호의 용도에 따라서, 오디오 비트스트림 혹은 복원된 오디오신호를 저장하는 저장부(1740)을 더 포함할 수 있다. 또한, 멀티미디어 기기(1700)는 마이크로폰(1750) 혹은 스피커(1760)를 더 포함할 수 있다. 여기서, 부호화모듈(1720)과 복호화모듈(1730)은 멀티미디어 기기(1700)에 구비되는 다른 구성요소(미도시)와 함께 일체화되어 적어도 하나 이상의 프로세서(미도시)로 구현될 수 있다. The multimedia device 1700 shown in FIG. 17 may include a communication unit 1710, an encoding module 1720, and a decoding module 1730. Also, according to the purpose of the audio bitstream obtained as a result of encoding or the restored audio signal obtained as a result of decoding, a storage unit 1740 may be further included to store the audio bitstream or the restored audio signal. In addition, the multimedia device 1700 may further include a microphone 1750 or a speaker 1760. Here, the encoding module 1720 and the decoding module 1730 may be integrated with other components (not shown) provided in the multimedia device 1700 and implemented by at least one processor (not shown).

도 17에 도시된 각 구성요소 중 도 16에 도시된 멀티미디어 기기(1600)와 중복되는 구성요소에 대해서는 그 상세한 설명은 생략하기로 한다.Among the components shown in FIG. 17, detailed descriptions of components overlapping those of the multimedia device 1600 shown in FIG. 16 will be omitted.

부호화모듈(1720)은 일실시예에 따르면, 통신부(1710) 혹은 마이크로폰(1750)을 통하여 제공되는 시간 도메인의 오디오 신호에 대하여 부호화를 수행할 수 있다. 부호화처리는 전술한 부호화장치를 이용하여 수행될 수 있으나, 이에 한정되는 것은 아니다.According to an embodiment, the encoding module 1720 may perform encoding on a time domain audio signal provided through the communication unit 1710 or the microphone 1750 . The encoding process may be performed using the above-described encoding device, but is not limited thereto.

마이크로폰(1750)은 사용자 혹은 외부의 오디오신호를 부호화모듈(1720)로 제공할 수 있다.The microphone 1750 may provide a user or an external audio signal to the encoding module 1720 .

도 16 및 도 17에 도시된 멀티미디어 기기(1600, 1700)에는, 전화, 모바일 폰 등을 포함하는 음성통신 전용단말, TV, MP3 플레이어 등을 포함하는 방송 혹은 음악 전용장치, 혹은 음성통신 전용단말과 방송 혹은 음악 전용장치의 융합 단말장치가 포함될 수 있으나, 이에 한정되는 것은 아니다. 또한, 멀티미디어 기기(1600, 1700)는 클라이언트, 서버 혹은 클라이언트와 서버 사이에 배치되는 변환기로서 사용될 수 있다.The multimedia devices 1600 and 1700 shown in FIGS. 16 and 17 include voice communication-only terminals including phones and mobile phones, broadcasting or music-only devices including TVs and MP3 players, or voice communication-only terminals. A convergence terminal device for broadcasting or music-dedicated devices may be included, but is not limited thereto. In addition, the multimedia devices 1600 and 1700 may be used as a client, a server, or a converter disposed between the client and the server.

한편, 멀티미디어 기기(1600, 1700)가 예를 들어 모바일 폰인 경우, 도시되지 않았지만 키패드 등과 같은 유저 입력부, 유저 인터페이스 혹은 모바일 폰에서 처리되는 정보를 디스플레이하는 디스플레이부, 모바일 폰의 전반적인 기능을 제어하는 프로세서를 더 포함할 수 있다. 또한, 모바일 폰은 촬상 기능을 갖는 카메라부와 모바일 폰에서 필요로 하는 기능을 수행하는 적어도 하나 이상의 구성요소를 더 포함할 수 있다.Meanwhile, when the multimedia devices 1600 and 1700 are, for example, mobile phones, although not shown, a user input unit such as a keypad, a display unit displaying user interface or information processed by the mobile phone, and a processor controlling overall functions of the mobile phone may further include. In addition, the mobile phone may further include a camera unit having an imaging function and at least one or more components that perform functions required by the mobile phone.

한편, 멀티미디어 기기(1600, 1700)가 예를 들어 TV인 경우, 도시되지 않았지만 키패드 등과 같은 유저 입력부, 수신된 방송정보를 디스플레이하는 디스플레이부, TV의 전반적인 기능을 제어하는 프로세서를 더 포함할 수 있다. 또한, TV는 TV에서 필요로 하는 기능을 수행하는 적어도 하나 이상의 구성요소를 더 포함할 수 있다.Meanwhile, when the multimedia devices 1600 and 1700 are, for example, TVs, although not shown, they may further include a user input unit such as a keypad, a display unit displaying received broadcasting information, and a processor controlling overall functions of the TV. . Also, the TV may further include at least one component that performs functions required by the TV.

도 18은 일실시예에 따른 고주파 복호화방법의 동작을 설명하기 위한 흐름도이다. 도 18에 도시된 방법은 도 6의 고주파 복호화부(670)에서 수행되거나, 별도의 프로세서에 의해 수행될 수 있다.18 is a flowchart illustrating an operation of a high-frequency decoding method according to an embodiment. The method shown in FIG. 18 may be performed by the high frequency decoding unit 670 of FIG. 6 or by a separate processor.

도 18을 참조하면, 1810 단계에서는 여기 클래스를 복호화한다. 여기 클래스는 엔코더단에서 생성되어 비트스트림으로 디코더단에 전송될 수 있다. 한편, 여기 클래스는 디코더단에서 별도로 생성하여 사용될 수 있다. 여기 클래스는 프레임 단위로 얻어질 수 있다.Referring to FIG. 18, in step 1810, an excitation class is decoded. The excitation class may be generated at the encoder stage and transmitted to the decoder stage as a bitstream. Meanwhile, the excitation class may be separately generated and used at the decoder stage. The class here can be obtained in units of frames.

1830 단계에서는 비트스트림에 포함된 저주파 스펙트럼의 양자화 인덱스로부터 복호화된 저주파 스펙트럼을 수신할 수 있다. 양자화 인덱스는 예를 들면 가장 낮은 주파수 대역 이외에는 대역간 차분 인덱스일 수 있다. 저주파 스펙트럼의 양자화 인덱스는 예를 들면 벡터 역양자화될 수 있다. 벡터 역양자화 방법으로는 Pyramid Vector Quantization (PVQ)를 사용할 수 있으나 이에 한정되는 것은 아니다. 역양자화 결과에 대하여 노이즈 필링 처리가 수행되어 복호화된 저주파 스펙트럼을 생성할 수 있다. 노이즈 필링 처리는 제로로 양자화됨으로써 스펙트럼에 존재하는 갭을 필링하기 위한 것이다. 유사 랜덤 노이즈가 갭에 삽입될 수 있다. 노이즈 필링 처리가 처리되는 주파수 빈 구간은 미리 설정될 수 있다. 갭에 삽입되는 노이즈양은 비트스트림으로 전송되는 파라미터에 의해 제어될 수 있다. 노이즈 필링 처리된 저주파 스펙트럼은 추가적으로 역정규화가 수행될 수 있다. 노이즈 필링 처리된 저주파 스펙트럼에 대해서는 추가적으로 안티 스파스니스 처리(anti-sparseness processing)가 수행될 수 있다. 안티 스파스니스 처리를 위하여, 노이즈 필링 처리된 저주파 스펙트럼에서 제로로 남아있는 계수 부분에 랜덤 부호와 일정한 크기의 진폭을 갖는 계수가 삽입될 수 있다. 안티 스파스니스 처리된 저주파 스펙트럼은 추가적으로 저대역의 역양자화된 엔벨로프에 근거하여 에너지가 조절될 수 있다.In operation 1830, the decoded low-frequency spectrum from the quantization index of the low-frequency spectrum included in the bitstream may be received. The quantization index may be, for example, a difference index between bands other than the lowest frequency band. The quantization indices of the low frequency spectrum can be vector dequantized, for example. Pyramid Vector Quantization (PVQ) can be used as a vector inverse quantization method, but is not limited thereto. A noise filling process may be performed on the inverse quantization result to generate a decoded low-frequency spectrum. The noise filling process is to fill gaps present in the spectrum by being quantized to zero. Pseudo-random noise can be inserted into the gap. A frequency bin section in which the noise filling process is processed may be set in advance. The amount of noise inserted into the gap can be controlled by a parameter transmitted in the bitstream. Denormalization may be additionally performed on the noise-filled low-frequency spectrum. Anti-sparseness processing may be additionally performed on the noise-filled low-frequency spectrum. For anti-sparseness processing, a coefficient having a random code and a constant magnitude may be inserted into a coefficient portion remaining zero in the noise-filled low-frequency spectrum. The energy of the anti-sparseness-processed low-frequency spectrum may be additionally adjusted based on the low-band inverse quantized envelope.

1850 단계에서는 복호화된 저주파 스펙트럼을 여기 클래스에 근거하여 변형할 수 있다. 복호화된 저주파 스펙트럼은 역양자화된 스펙트럼, 노이즈 필링 처리된 스펙트럼 혹은 안티 스파스니스 처리된 스펙트럼 중 하나가 될 수 있다. 복호화된 저주파 스펙트럼의 진폭을 여기 클래스에 의하여 조절할 수 있다. 예를 들면, 진폭 감소분을 여기 클래스에 의해 결정할 수 있다.In step 1850, the decoded low-frequency spectrum may be transformed based on the excitation class. The decoded low-frequency spectrum may be one of a dequantized spectrum, a noise-filled spectrum, or an anti-sparseness-processed spectrum. The amplitude of the decoded low-frequency spectrum can be adjusted according to the excitation class. For example, the amplitude decrease can be determined by the excitation class.

1870 단계에서는 변형된 저주파 스펙트럼을 이용하여 고주파 여기 스펙트럼을 생성할 수 있다. 변형된 저주파 스펙트럼을 대역폭 확장을 위하여 필요로 하는 고대역에 패칭하여 고주파 여기 스펙트럼을 생성할 수 있다. 패칭 방법의 예로는 미리 설정된 구간을 고대역에 복사하거나 폴딩하는 방법을 들 수 있다. In step 1870, a high frequency excitation spectrum may be generated using the modified low frequency spectrum. A high-frequency excitation spectrum can be generated by patching the modified low-frequency spectrum to the required high-band for bandwidth extension. An example of the patching method is a method of copying or folding a preset section into a high band.

도 19는 일실시예에 따른 저주파 스펙트럼 변형방법의 동작을 설명하기 위한 흐름도이다. 도 19에 도시된 방법은 도 18의 1850 단계에 해당하거나, 독립적으로 구현될 수 있다. 한편, 도 19에 도시된 방법은 도 7의 저주파 스펙트럼 변형부(710)에서 수행되거나, 별도의 프로세서에 의해 수행될 수 있다.19 is a flowchart illustrating an operation of a low frequency spectrum modification method according to an embodiment. The method shown in FIG. 19 corresponds to step 1850 of FIG. 18 or may be implemented independently. Meanwhile, the method shown in FIG. 19 may be performed by the low frequency spectrum modifier 710 of FIG. 7 or by a separate processor.

도 19를 참조하면, 1910 단계에서는 여기 클래스에 근거하여 진폭 조절 정도를 결정할 수 있다. 구체적으로, 1910 단계에서는 진폭 조절 정도를 결정하기 위하여 여기 클래스에 근거하여 제어 파라미터를 생성할 수 있다. 실시예에 따르면, 여기 클래스가 음성 특성, 토널 특성 혹은 넌-토널 특성을 나타내는지에 따라서, 제어 파라미터의 값이 결정될 수 있다. Referring to FIG. 19 , in step 1910, the degree of amplitude adjustment may be determined based on the excitation class. Specifically, in step 1910, a control parameter may be generated based on the excitation class in order to determine the degree of amplitude adjustment. According to an embodiment, the value of the control parameter may be determined according to whether the excitation class represents a voice characteristic, a tonal characteristic, or a non-tonal characteristic.

1930 단계에서는 결정된 진폭 조절 정도에 근거하여 저주파 스펙트럼의 진폭을 조절할 수 있다. 여기 클래스가 음성 특성 혹은 토널 특성을 나타내는 경우와 비교하면, 여기 클래스가 넌-토널 특성을 나타내는 경우, 보다 큰 값의 제어 파라미터가 생성되기 때문에 진폭 감소분이 커질 수 있다. 진폭 조절의 예로는 각 주파수 빈의 진폭 예를 들면 Norm 값과 해당 밴드의 평균 Norm값간의 차이를 제어 파라미터로 곱한 값만큼 감소시킬 수 있다.In step 1930, the amplitude of the low-frequency spectrum may be adjusted based on the determined degree of amplitude adjustment. Compared to a case in which the excitation class represents a voice characteristic or a tonal characteristic, when the excitation class represents a non-tonal characteristic, since a control parameter having a larger value is generated, an amplitude decrease may be increased. As an example of the amplitude control, the amplitude of each frequency bin may be reduced by a value multiplied by a control parameter, for example, a difference between a norm value and an average norm value of a corresponding band.

1950 단계에서는 진폭이 조절된 저주파 스펙트럼에 대하여 부호를 적용할 수 있다. 여기 클래스에 따라서 원래의 부호 혹은 랜덤 부호가 적용될 수 있다. 예를 들면, 여기 클래스가 음성 특성 혹은 토널 특성을 나타내는 경우, 원래의 부호가, 여기 클래스가 넌-토널 특성을 나타내는 경우 랜덤 부호화가 적용될 수 있다.In step 1950, a code may be applied to the low-frequency spectrum whose amplitude is adjusted. Depending on the excitation class, an original code or a random code may be applied. For example, if the excitation class represents voice characteristics or tonal characteristics, the original code may be applied, whereas if the excitation class represents non-tonal characteristics, random coding may be applied.

1970 단계에서는 1950 단계에서 부호가 적용된 저주파 스펙트럼을 변형된 저주파 스펙트럼으로 생성할 수 있다.In step 1970, the low-frequency spectrum to which the code was applied in step 1950 may be generated as a modified low-frequency spectrum.

상기 실시예들에 따른 방법은 컴퓨터에서 실행될 수 있는 프로그램으로 작성가능하고, 컴퓨터로 읽을 수 있는 기록매체를 이용하여 상기 프로그램을 동작시키는 범용 디지털 컴퓨터에서 구현될 수 있다. 또한, 상술한 본 발명의 실시예들에서 사용될 수 있는 데이터 구조, 프로그램 명령, 혹은 데이터 파일은 컴퓨터로 읽을 수 있는 기록매체에 다양한 수단을 통하여 기록될 수 있다. 컴퓨터로 읽을 수 있는 기록매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 저장 장치를 포함할 수 있다. 컴퓨터로 읽을 수 있는 기록매체의 예로는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함될 수 있다. 또한, 컴퓨터로 읽을 수 있는 기록매체는 프로그램 명령, 데이터 구조 등을 지정하는 신호를 전송하는 전송 매체일 수도 있다. 프로그램 명령의 예로는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다.The method according to the above embodiments can be written as a program that can be executed on a computer, and can be implemented in a general-purpose digital computer that operates the program using a computer-readable recording medium. In addition, the data structure, program command, or data file that can be used in the above-described embodiments of the present invention can be recorded on a computer-readable recording medium through various means. The computer-readable recording medium may include all types of storage devices in which data readable by a computer system is stored. Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks and magnetic tapes, optical media such as CD-ROMs and DVDs, floptical disks and A hardware device specially configured to store and execute program instructions, such as magneto-optical media, and ROM, RAM, flash memory, etc. may be included. Also, the computer-readable recording medium may be a transmission medium that transmits signals designating program commands, data structures, and the like. Examples of the program instructions may include not only machine language codes generated by a compiler but also high-level language codes that can be executed by a computer using an interpreter or the like.

이상과 같이 본 발명의 일실시예는 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명의 일실시예는 상기 설명된 실시예에 한정되는 것은 아니며, 이는 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 따라서, 본 발명의 스코프는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 이의 균등 또는 등가적 변형 모두는 본 발명 기술적 사상의 범주에 속한다고 할 것이다.As described above, although one embodiment of the present invention has been described with limited embodiments and drawings, one embodiment of the present invention is not limited to the above-described embodiments, which is based on common knowledge in the field to which the present invention belongs. Those who have it can make various modifications and variations from these materials. Therefore, the scope of the present invention is shown in the claims rather than the above description, and all equivalent or equivalent modifications thereof will be said to belong to the scope of the technical idea of the present invention.

610 ... 역다중화부 630 ... BWE 파라미터 복호화부
650 ... 저주파 복호화부 670 ... 고주파 복호화부
710 ... 저주파 스펙트럼 변형부 730 ... 고주파 여기스펙트럼 생성부
1210 ... 부호분리부 1230 ... 제어파라미터 결정부
1250 ... 진폭 조절부 1270 ... 랜덤 부호 생성부
1290 ... 부호적용부610 ... demultiplexing unit 630 ... BWE parameter decoding unit
650 ... low frequency decoding unit 670 ... high frequency decoding unit
710 ... low frequency spectrum transformation unit 730 ... high frequency excitation spectrum generation unit
1210 ... code separation unit 1230 ... control parameter determination unit
1250 ... amplitude control unit 1270 ... random code generation unit
1290 ... code application

Claims (14)

오디오 비트스트림에 포함된, 현재 프레임의 저주파 스펙트럼 및 여기 클래스를 복호화하는 단계;
상기 여기 클래스에 기초하여 결정된 제어 파라미터에 기초하여 상기 저주파 스펙트럼의 진폭을 조절하고, 상기 여기 클래스에 기초하여 상기 저주파 스펙트럼의 진폭에 랜덤 부호 또는 원래의 부호를 적용하여, 상기 저주파 스펙트럼을 변형하는 단계; 및
상기 변형된 저주파 스펙트럼에 기초하여 고주파 여기 스펙트럼을 생성하는 단계를 포함하고,
상기 여기 클래스는 음성 여기 클래스, 제1 비음성 여기 클래스, 및 제2 비음성 여기 클래스를 포함하는 복수의 클래스들 중 하나를 가리키는,
고주파 복호화 방법.decoding the low-frequency spectrum and excitation class of the current frame, which are included in the audio bitstream;
modifying the low-frequency spectrum by adjusting the amplitude of the low-frequency spectrum based on a control parameter determined based on the excitation class, and applying a random code or an original code to the amplitude of the low-frequency spectrum based on the excitation class; ; and
generating a high-frequency excitation spectrum based on the modified low-frequency spectrum;
The excitation class indicates one of a plurality of classes including a speech excitation class, a first non-speech excitation class, and a second non-speech excitation class.
High-frequency decoding method. 삭제delete 제1항에 있어서,
상기 제1 비음성 여기 클래스는 잡음 특성과 관련되고, 상기 제2 비음성 여기 클래스는 토널 클성과 관련되는,
고주파 복호화 방법.According to claim 1,
The first non-voice excitation class is related to noise characteristics, and the second non-voice excitation class is related to tonal noise.
High-frequency decoding method. 제1항에 있어서,
상기 저주파 스펙트럼을 변형하는 단계는,
상기 저주파 스펙트럼을 정규화하는 단계; 및
상기 제어 파라미터에 기초하여 상기 정규화된 저주파 스펙트럼의 진폭을 감소시키는 단계를 포함하는,
고주파 복호화방법.According to claim 1,
The step of transforming the low-frequency spectrum,
normalizing the low frequency spectrum; and
reducing the amplitude of the normalized low frequency spectrum based on the control parameter.
High-frequency decoding method. 제4 항에 있어서,
상기 감소되는 진폭의 크기는 상기 식별된 제어 파라미터에 비례하는,
고주파 복호화방법.According to claim 4,
the magnitude of the reduced amplitude is proportional to the identified control parameter;
High-frequency decoding method. 제4항에 있어서,
상기 저주파 스펙트럼을 변형하는 단계는,
특정 밴드에 포함된 스펙트럼 계수의 진폭과 상기 특정 밴드의 평균 진폭 간의 차이 및 상기 제어 파라미터에 기초하여 상기 저주파 스펙트럼의 진폭을 감소시키는 단계를 포함하는,
고주파 복호화 방법.According to claim 4,
The step of transforming the low-frequency spectrum,
Reducing the amplitude of the low-frequency spectrum based on a difference between an amplitude of a spectrum coefficient included in a specific band and an average amplitude of the specific band and the control parameter,
High-frequency decoding method. 제1항에 있어서,
상기 고주파 여기 스펙트럼을 생성하는 단계는,
상기 변형된 저주파 스펙트럼을 고대역으로 복사하여 상기 고주파 여기 스펙트럼을 생성하는 단계를 포함하는,
고주파 복호화 방법.According to claim 1,
Generating the high-frequency excitation spectrum,
Copying the modified low-frequency spectrum to a high-band to generate the high-frequency excitation spectrum,
High-frequency decoding method. 제1항에 있어서,
상기 여기 클래스가 음성 특성 혹은 토널 특성과 관련된 경우, 상기 저주파 스펙트럼에 원래의 부호가 적용되는,
고주파 복호화 방법.According to claim 1,
If the excitation class is related to voice characteristics or tonal characteristics, the original code is applied to the low frequency spectrum.
High-frequency decoding method. 제1항에 있어서,
상기 여기 클래스가 잡음 특성과 관련된 경우, 상기 저주파 스펙트럼에 랜덤 부호가 적용되는,
고주파 복호화방법.According to claim 1,
If the excitation class is related to noise characteristics, a random code is applied to the low frequency spectrum.
High-frequency decoding method. 제1항에 있어서,
상기 저주파 스펙트럼은 노이즈 필링 처리된 스펙트럼 혹은 안티 스파스니스 처리된 스펙트럼인,
고주파 복호화방법.According to claim 1,
The low-frequency spectrum is a noise-filled spectrum or an anti-sparseness-processed spectrum,
High-frequency decoding method. 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는,
오디오 비트스트림에 포함된, 현재 프레임의 저주파 스펙트럼 및 여기 클래스를 복호화하고,
상기 여기 클래스에 기초하여 결정된 제어 파라미터에 기초하여 상기 저주파 스펙트럼의 진폭을 조절하고, 상기 여기 클래스에 기초하여 상기 저주파 스펙트럼의 진폭에 랜덤 부호 또는 원래의 부호를 적용하여, 상기 저주파 스펙트럼을 변형하고,
상기 변형된 저주파 스펙트럼에 기초하여 고주파 여기 스펙트럼을 생성하도록 설정되고,
상기 여기 클래스는 음성 여기 클래스, 제1 비음성 여기 클래스, 및 제2 비음성 여기 클래스를 포함하는 복수의 클래스들 중 하나를 가리키는,
고주파 복호화 장치.including at least one processor, wherein the at least one processor comprises:
Decode the low-frequency spectrum and excitation class of the current frame contained in the audio bitstream;
adjusting the amplitude of the low-frequency spectrum based on a control parameter determined based on the excitation class, and applying a random code or an original code to the amplitude of the low-frequency spectrum based on the excitation class to transform the low-frequency spectrum;
configured to generate a high-frequency excitation spectrum based on the modified low-frequency spectrum;
The excitation class indicates one of a plurality of classes including a speech excitation class, a first non-speech excitation class, and a second non-speech excitation class.
High-frequency decoding device. 삭제delete 제11항에 있어서,
상기 적어도 하나의 프로세서는,
상기 저주파 스펙트럼을 정규화하고,
상기 제어 파라미터에 기초하여 상기 정규화된 저주파 스펙트럼의 진폭을 감소시키도록 설정되는,
고주파 복호화 장치.According to claim 11,
The at least one processor,
Normalize the low frequency spectrum;
set to reduce the amplitude of the normalized low frequency spectrum based on the control parameter;
High-frequency decoding device. 제13항에 있어서,
상기 적어도 하나의 프로세서는,
특정 밴드에 포함된 스펙트럼 계수의 진폭과 상기 특정 밴드의 평균 진폭 간의 차이 및 상기 제어 파라미터에 기초하여 상기 저주파 스펙트럼의 진폭을 감소시킴으로써 상기 저주파 스펙트럼을 변경하도록 설정되는,
고주파 복호화 장치.
According to claim 13,
The at least one processor,
Set to change the low-frequency spectrum by reducing the amplitude of the low-frequency spectrum based on the difference between the amplitude of the spectral coefficient included in the specific band and the average amplitude of the specific band and the control parameter,
High-frequency decoding device.
KR1020220044820A 2014-03-03 2022-04-11 Method and apparatus for decoding high frequency for bandwidth extension KR102491177B1 (en)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201461946985P 2014-03-03 2014-03-03
US61/946,985 2014-03-03
US201461969368P 2014-03-24 2014-03-24
US61/969,368 2014-03-24
KR1020150029865A KR102386736B1 (en) 2014-03-03 2015-03-03 Method and apparatus for decoding high frequency for bandwidth extension

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020150029865A Division KR102386736B1 (en) 2014-03-03 2015-03-03 Method and apparatus for decoding high frequency for bandwidth extension

Publications (2)

Publication Number Publication Date
KR20220051317A KR20220051317A (en) 2022-04-26
KR102491177B1 true KR102491177B1 (en) 2023-01-20

Family

ID=54055542

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020150029865A KR102386736B1 (en) 2014-03-03 2015-03-03 Method and apparatus for decoding high frequency for bandwidth extension
KR1020220044820A KR102491177B1 (en) 2014-03-03 2022-04-11 Method and apparatus for decoding high frequency for bandwidth extension

Family Applications Before (1)

Application Number Title Priority Date Filing Date
KR1020150029865A KR102386736B1 (en) 2014-03-03 2015-03-03 Method and apparatus for decoding high frequency for bandwidth extension

Country Status (2)

Country Link
KR (2) KR102386736B1 (en)
WO (1) WO2015133795A1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106463133B (en) 2014-03-24 2020-03-24 三星电子株式会社 High-frequency band encoding method and apparatus, and high-frequency band decoding method and apparatus

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130290003A1 (en) 2012-03-21 2013-10-31 Samsung Electronics Co., Ltd. Method and apparatus for encoding and decoding high frequency for bandwidth extension

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE602004020765D1 (en) * 2004-09-17 2009-06-04 Harman Becker Automotive Sys Bandwidth extension of band-limited tone signals
KR20070115637A (en) * 2006-06-03 2007-12-06 삼성전자주식회사 Method and apparatus for bandwidth extension encoding and decoding
KR101375582B1 (en) * 2006-11-17 2014-03-20 삼성전자주식회사 Method and apparatus for bandwidth extension encoding and decoding
WO2009110738A2 (en) * 2008-03-03 2009-09-11 엘지전자(주) Method and apparatus for processing audio signal
PL2273493T3 (en) * 2009-06-29 2013-07-31 Fraunhofer Ges Forschung Bandwidth extension encoding and decoding
KR20140027091A (en) * 2011-02-08 2014-03-06 엘지전자 주식회사 Method and device for bandwidth extension
KR102078865B1 (en) * 2011-06-30 2020-02-19 삼성전자주식회사 Apparatus and method for generating a bandwidth extended signal

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130290003A1 (en) 2012-03-21 2013-10-31 Samsung Electronics Co., Ltd. Method and apparatus for encoding and decoding high frequency for bandwidth extension

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
ETSI TS 126 445 V12.0.0, EVS Codec Detailed Algorithmic Description, 2014.11.
ISO/IEC FDIS 23003-3:2011(E), Information technology - MPEG audio technologies - Part 3: Unified speech and audio coding. ISO/IEC JTC 1/SC 29/WG 11. 2011.09.20.
Minjie Xie, et al. ITU-T G. 719: A new low-complexity full-band (20 kHz) audio coding standard for high-quality conversational applications. IEEE Workshop on Applications of Signal Processing to Audio

Also Published As

Publication number Publication date
WO2015133795A1 (en) 2015-09-11
KR20220051317A (en) 2022-04-26
KR20150103643A (en) 2015-09-11
KR102386736B1 (en) 2022-04-14

Similar Documents

Publication Publication Date Title
KR102248252B1 (en) Method and apparatus for encoding and decoding high frequency for bandwidth extension
US11688406B2 (en) High-band encoding method and device, and high-band decoding method and device
US11676614B2 (en) Method and apparatus for high frequency decoding for bandwidth extension
JP2020204784A (en) Method and apparatus for encoding signal and method and apparatus for decoding signal
KR102625143B1 (en) Signal encoding method and apparatus, and signal decoding method and apparatus
KR102491177B1 (en) Method and apparatus for decoding high frequency for bandwidth extension
CN111105806B (en) High-frequency band encoding method and apparatus, and high-frequency band decoding method and apparatus

Legal Events

Date Code Title Description
A107 Divisional application of patent
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant