KR101847076B1 - 오디오/스피치 신호의 부호화 및 복호화 방법 및 장치 - Google Patents

오디오/스피치 신호의 부호화 및 복호화 방법 및 장치 Download PDF

Info

Publication number
KR101847076B1
KR101847076B1 KR1020170084983A KR20170084983A KR101847076B1 KR 101847076 B1 KR101847076 B1 KR 101847076B1 KR 1020170084983 A KR1020170084983 A KR 1020170084983A KR 20170084983 A KR20170084983 A KR 20170084983A KR 101847076 B1 KR101847076 B1 KR 101847076B1
Authority
KR
South Korea
Prior art keywords
signal
unit
audio
speech
decoding
Prior art date
Application number
KR1020170084983A
Other languages
English (en)
Other versions
KR20170083008A (ko
Inventor
오은미
김중회
주기현
성호상
김미영
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020170084983A priority Critical patent/KR101847076B1/ko
Publication of KR20170083008A publication Critical patent/KR20170083008A/ko
Application granted granted Critical
Publication of KR101847076B1 publication Critical patent/KR101847076B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/08—Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters
    • G10L19/12—Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters the excitation function being a code excitation, e.g. in code excited linear prediction [CELP] vocoders

Landscapes

  • Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

오디오/스피치 신호의 부호화 및 복호화 방법 및 장치가 제공된다. 입력 오디오 또는 스피치 신호를 높은 주파수 분해능(high frequency resolution) 및/또는 높은 시간 분해능(high temporal resolution)을 포함하는 신호로 변환하고, 적절한 분해능을 결정하여 부호화하고 복호화함으로써, 오디오 신호, 스피치 신호, 및 오디오 신호가 혼합된 신호를 처리할 수 있다.

Description

오디오/스피치 신호의 부호화 및 복호화 방법 및 장치{METHOD AND APPARATUS FOR ENCODING AND DECODING OF SPEECH AND AUDIO SIGNAL}
하기에서 설명하는 것은 오디오/스피치 신호의 부호화 및 복호화 방법 및 장치에 관한 것이다.
코덱(codec)은 스피치 코덱(speech codec)과 오디오 코덱(audio codec)으로 분류된다. 스피치 코덱은 음성 발성 모델을 이용하여 주로 50Hz에서 7kHz에 이르는 주파수 대역에 해당하는 신호를 부호화하거나 복호화 한다. 이러한 스피치 코덱은 일반적으로 성대와 성도를 모델링함으로써, 음성 신호를 대표하는 파라미터를 추출하여 부호화 및 복호화를 수행한다. 오디오 코덱은 HE-AAC와 같이 심리 음향 모델을 적용하여 주로 0Hz에서 24Hz에 이르는 주파수 대역에 해당하는 신호를 부호화하거나 복호화한다. 이러한 오디오 코덱은 인간의 청각 특성을 이용하여 감도가 낮은 신호를 생략함으로써 부호화 및 복호화를 수행한다.
스피치 코덱은 스피치 신호를 보호화하거나, 복호화하는 데 적합하지만 오디오 신호를 부호화하거나 복호화하는 데 있어서 음질이 저하된다. 오디오 코덱은 오디오 신호를 부호화하거나 복호화할 경우 압축 효과가 뛰어나지만 음성 신호를 부호화/복호화함에 있어서 신호를 압축하는 효율이 떨어진다.
개시되는 실시예는 스피치(speech) 신호, 오디오(audio) 신호 및 스피치 신호와 오디오 신호가 혼합된 신호를 효율적으로 부호화하고 복호화할 수 있도록 한다.
개시되는 실시예에 따른 오디오/스피치 신호의 부호화 장치는, 입력 오디오 또는 스피치 신호를 높은 주파수 분해능(high frequency resolution) 및/또는 높은 시간 분해능(high temporal resolution)을 포함하는 신호로 변환하는 신호 변환부, 상기 신호 변환부가 상기 입력 오디오 또는 스피치 신호를 높은 주파수 신호 (high frequency resolution signal) 및/또는 높은 시간 신호(high temporal resolution signal)로 변환하도록 제어하는 심리음향 모델부, 상기 신호 변환부에서 변환된 신호를 음성 발성 모델에 기초하여 부호화하는 높은 시간 분해능 부호화부(high temporal resolution coding tool), 및 상기 신호 변환부 및/또는 높은 시간 분해능 부호화부에서 출력된 신호를 양자화 및 부호화하는 양자화/부호화부를 포함한다.
이때, 중복정보가 제거된 신호를 모델링하기 위한 CELP(Code Excitation Linear Prediction)를 포함할 수 있다.
이때, 상기 오디오 또는 스피치 입력 신호의 고주파수 정보를 처리하는 고주파 신호 처리부 및 상기 오디오 또는 스피치 입력 신호의 스테레오 정보를 처리하는 스테레오 신호 처리부 중 적어도 하나를 더 포함할 수 있다.
이때, 상기 높은 시간 분해능 부호화부는, 중복정보가 제거된 신호를 모델링하기 위한 CELP(Code Excitation Linear Prediction)를 포함할 수 있다.
이때, 상기 입력 오디오 또는 스피치 신호가, 높은 주파수 분해능(high frequency resolution) 및/또는 높은 시간 분해능(high temporal resolution)을 포함하는 정보에 기초하여, 상기 양자화/부호화부 및 높은 시간 분해능 부호화부에 의한 부호화 중 어느 하나를 선택하는 스위칭부를 더 포함할 수 있다.
이때, 상기 입력 오디오 또는 스피치 신호를 다운 샘플링하는 다운 샘플링부를 더 포함할 수 있다.
이때, 상기 신호 변환부는, FV-MLT 및 MDCT 중 적어도 어느 하나를 포함할 수 있다.
이때, 상기 심리음향 모델부는, 상기 양자화/부호화 부 측으로, 양자화 시의 노이즈에 대한 정보를 제공할 수 있다.
이때, 상기 높은 시간 분해능 부호화부는, 상기 신호 변환부에서 변환된 신호에 음성 발성모델을 적용하여 부호화하고 중복정보를 제거하는 예측부를 더 포함할 수 있다.
개시되는 실시예에 따른 오디오/스피치 신호의 복호화 장치는, 비트스트림에 포함된 시간 영역(time domain) 코딩 또는 주파수 영역(frequency domain) 코딩에 대한 정보에 기초하여, 현재 프레임의 신호가 높은 주파수 신호(high frequency resolution signal) 또는 높은 시간 신호 (high temporal resolution signal)인지 결정하는 분해능 결정부, 상기 분해능 결정부의 출력신호에 따라 상기 비트스트림을 역양자화하는 역양자화부, 상기 역양자화부로부터 역양자화된 신호를 수신하고, 상기 비트스트림으로부터 역 선형예측에 필요한 부가정보를 검출한 후, 상기 역양자화된 신호와 상기 부가정보를 이용하여 높은 시간 신호를 복원하는 높은 시간 분해능 복호화부(high temporal resolution decoding tool), 및 상기 높은 시간 분해능 복호화부로부터 제공되는 신호 및/또는 상기 역양자화/부호화 부에서 역양자화된 신호를 시간영역의 오디오 또는 스피치신호로 역변환하는 역신호 변환부를 포함할 수 있다.
이때, 상기 역변환된 신호의 고주파수 정보를 처리하는 고주파 신호 처리부, 또는 상기 역변환된 신호의 스테레오 정보를 처리하는 스테레오 신호 처리부를 더 포함할 수 있다.
개시되는 실시예에 따른 오디오/스피치 신호의 부호화 장치는, 입력 오디오 또는 스피치 신호를 높은 주파수 분해능(high frequency resolution) 및/또는 높은 시간 분해능(high temporal resolution)을 포함하는 신호로 변환하는 신호 변환부, 상기 신호 변환부가 상기 입력 오디오 또는 스피치 신호를 높은 주파수 신호 (high frequency resolution signal) 및/또는 높은 시간 신호(high temporal resolution signal)로 변환하도록 제어하는 심리음향 모델부, 상기 오디오 또는 스피치 신호를 높은 주파수 신호 (high frequency resolution signal) 및/또는 높은 시간 신호(high temporal resolution signal)로 변환하는 시간 노이즈 성형부, 상기 변환된 신호의 스테레오 정보를 부호화하는 하이레이트 스테레오부, 및 상기 시간 노이즈 성형부 및/또는 하이레이트 스테레오부에서 출력된 신호를 양자화 및 부호화하는 양자화/부호화 부를 포함할 수 있다.
이때, 상기 오디오 또는 스피치 신호의 고주파 신호를 처리하는 고주파 신호 처리부를 더 포함할 수 있다.
개시되는 실시예에 따른 오디오/스피치 신호의 복호화 장치는, 비트스트림을 역양자화하는 역양자화/부호화 부, 상기 역양자화 된 신호를 복호화하는 하이레이트 스테레오 복호화부, 상기 오디오 또는 스피치 신호를 높은 주파수 신호 (high frequency resolution signal) 및/또는 높은 시간 신호(high temporal resolution signal)로 변환한 신호를, 복호화하는 시간 노이즈 성형 복호화부, 및 상기 복호화된 신호를 시간영역의 오디오 또는 스피치신호로 역변환하는 역신호 변환부를 포함한다.
이때, 상기 역변환 된 신호의 고주파 정보를 처리하는 고주파 신호 처리부를 더 포함할 수 있다.
개시되는 실시예에 따른 오디오/스피치 신호의 부호화 장치는, 입력 오디오 또는 스피치 신호를 높은 주파수 분해능(high frequency resolution) 및/또는 높은 시간 분해능(high temporal resolution)을 포함하는 신호로 변환하는 신호 변환부, 상기 신호 변환부가 상기 입력 오디오 또는 스피치 신호를 높은 주파수 신호 (high frequency resolution signal) 및/또는 높은 시간 신호(high temporal resolution signal)로 변환하도록 제어하는 심리음향 모델부, 상기 변환된 신호가 로우 레이트(Low rate)인지의 여부를 판단하는 로우 레이트 판단부, 상기 판단 결과 로우 레이트인 경우, 상기 신호 변환부에서 변환된 신호를 음성 발성 모델에 기초하여 부호화하는 높은 시간 분해능 부호화부(high temporal resolution coding tool), 상기 오디오 또는 스피치 신호를 높은 주파수 신호 (high frequency resolution signal) 및/또는 높은 시간 신호(high temporal resolution signal)로 변환하는 시간 노이즈 성형부, 상기 변환된 신호의 스테레오 정보를 변수화된 정보로 코딩하는 하이레이트 스테레오부, 및 상기 신호 변환부 및/또는 높은 시간 분해능 부호화부에서 출력된 신호를 양자화 및 부호화하는 양자화/부호화 부를 포함한다.
이때, 선정된 정보에 기초하여 스테레오 신호 처리부의 동작 여부를 판단하는 스테레오 신호 처리부 판단부, 상기 판단 결과 상기 스테레오 신호 처리부의 동작이 필요한 것으로 판단되는 경우, 입력되는 고주파 신호의 스테레오 정보를 처리하는 스테레오 신호 처리부, 선정된 정보에 기초하여 고주파 신호 처리부의 동작 여부를 판단하는 고주파 신호 처리부 판단부, 및 상기 판단 결과 상기 고주파 신호 처리부의 동작이 필요한 것으로 판단되는 경우, 입력되는 고주파 신호를 처리하는 고주파 신호 처리부를 더 포함할 수 있다.
개시되는 실시예에 따른 오디오/스피치 신호의 부호화 방법은, 입력 오디오 또는 스피치 신호를 높은 주파수 분해능(high frequency resolution) 및/또는 높은 시간 분해능(high temporal resolution)을 포함하는 신호로 변환하는 단계, 상기 입력 오디오 또는 스피치 신호를 높은 주파수 신호 (high frequency resolution signal) 및/또는 높은 시간 신호(high temporal resolution signal)로 변환하도록 제어하는 단계, 상기 변환된 신호를 음성 발성 모델에 기초하여 부호화하는 단계, 및 상기 변환된 신호 및/또는 부호화된 신호를 양자화 및 부호화하는 단계를 포함한다.
개시되는 실시예에 따른 오디오/스피치 신호의 복호화 방법은, 비트스트림에 포함된 시간 영역(time domain) 코딩 또는 주파수 영역(frequency domain) 코딩에 대한 정보에 기초하여, 현재 프레임의 신호가 높은 주파수 신호(high frequency resolution signal) 또는 높은 시간 신호 (high temporal resolution signal)인지 결정하는 단계, 상기 결정에 따라 상기 비트스트림을 역양자화하는 단계, 상기 역양자화된 신호를 수신하고, 상기 비트스트림으로부터 역 선형예측에 필요한 부가정보를 검출한 후, 상기 역양자화된 신호와 상기 부가정보를 이용하여 높은 시간 신호를 복원하는 단계, 및 상기 복원된 신호 및/또는 상기 역양자화된 신호를 시간영역의 오디오 또는 스피치신호로 역변환하는 단계를 포함한다.
개시되는 실시예에 따르면, 스피치(speech) 신호, 오디오(audio) 신호 및 스피치 신호와 오디오 신호가 혼합된 신호를 효율적으로 부호화하고, 복호화할 수 있다.
또한, 개시되는 실시예에 따르면, 부호화 및 복호화를 수행함에 있어서 적은 비트를 사용하면서도 음질을 보다 향상시킬 수 있다.
도 1은 오디오/스피치 신호의 부호화 장치의 구성예를 나타낸다.
도 2는 오디오/스피치 신호의 복호화 장치의 구성예를 나타낸다.
도 3은 제안하는 오디오/스피치 신호의 부호화 장치의 일례를 나타내는 블록도이다.
도 4는 제안하는 오디오/스피치 신호의 복호화 장치의 일례를 나타내는 블록도이다.
도 5는 제안하는 오디오/스피치 신호의 부호화 장치의 일례를 나타내는 블록도이다.
도 6은 제안하는 오디오/스피치 신호의 부호화 장치의 일례를 나타내는 블록도이다.
도 7은 제안하는 오디오/스피치 신호의 복호화 장치의 일례를 나타내는 블록도이다.
도 8은 제안하는 오디오/스피치 신호의 부호화 장치의 일례를 나타내는 블록도이다.
도 9는 제안하는 오디오/스피치 신호의 복호화 장치의 일례를 나타내는 블록도이다.
도 10은 제안하는 오디오/스피치 신호의 부호화 장치의 일례를 나타내는 블록도이다.
도 11은 제안하는 오디오/스피치 신호의 복호화 장치의 일례를 나타내는 블록도이다.
도 12는 제안하는 오디오/스피치 신호의 부호화 장치의 일례를 나타내는 블록도이다.
도 13은 제안하는 오디오/스피치 신호의 복호화 장치의 일례를 나타내는 블록도이다.
도 14는 제안하는 오디오/스피치 신호의 부호화 장치의 일례를 나타내는 블록도이다.
도 15는 제안하는 오디오/스피치 신호의 복호화 장치의 일례를 나타내는 블록도이다.
도 16은 제안하는 오디오/스피치 신호의 부호화 방법의 일례를 나타내는 흐름도이다.
도 17은 제안하는 오디오/스피치 신호의 복호화 방법의 일례를 나타내는 흐름도이다.
이하, 첨부된 도면을 참조하여 다양한 실시예들을 상세하게 설명한다.
도 1은 오디오/스피치 신호의 부호화 장치의 구성예를 나타낸다.
도 1을 참조하면, 오디오/스피치 신호의 부호화 장치는, 신호 변환부(110), 심리음향 모델부(Psychoacoustic model: 120), 높은 시간 분해능 부호화부(High temporal resolution coding tool: 130), 양자화/부호화 부(Quantizer: 140), 스테레오 신호 처리부(Parametric Stereo: 150), 고주파 신호 처리부(Spectral Bandwidth Replication: 160), 및 다중화부(170)를 포함한다.
신호 변환부(110)는 입력 오디오 또는 스피치 신호를 높은 주파수 분해능(high frequency resolution) 및/또는 높은 시간 분해능(high temporal resolution)을 포함하는 신호로 변환한다.
심리 음향 모델부(120)는 신호 변환부(110)가 상기 입력 오디오 또는 스피치 신호를 높은 주파수 신호 (high frequency resolution signal) 및/또는 높은 시간 신호(high temporal resolution signal)로 변환하도록 제어한다.
즉, 심리음향 모델부(120)는 양자화를 위한 마스킹 역치(masking threshold)를 산정하고, 상기 마스킹 역치에 따라서, 입력 오디오 또는 스피치 신호를 높은 주파수 신호 (high frequency resolution signal) 및/또는 높은 시간 신호(high temporal resolution signal)로 변환하도록 제어할 수 있다.
높은 시간 분해능 부호화부(130)는 신호 변환부(110)에서 변환된 신호를 음성 발성 모델에 기초하여 부호화한다.
특히, 심리음향 모델부(120)는 높은 시간 분해능 부호화부(130)의 제어를 위한 정보 신호를, 높은 시간 분해능 부호화부(130) 측으로 제공할 수 있다.
이때, 높은 시간 분해능 부호화부(130)는 신호 변환부(110)에서 변환된 신호에 음성 발성모델을 적용하여 부호화하고 중복정보를 제거하는 예측부(도시되지 아니함)를 포함하여 구성될 수 있다. 이와 같은 예측부는 단구간 예측기(short-term predictor) 및 장구간 예측기(long-term predictor)를 포함할 수 있다.
양자화/부호화부(140)는 신호 변환부(110) 및/또는 높은 시간 분해능 부호화부(130)에서 출력된 신호를 양자화 및 부호화한다.
이때, 양자화/부호화부(140)는 중복정보가 제거된 신호를 모델링하기 위한 CELP(Code Excitation Linear Prediction)(도시되지 아니함)를 포함하여 구성될 수 있다.
스테레오 신호 처리부(150)는 상기 입력 오디오 또는 스피치 신호의 스테레오 정보를 처리하고, 고주파 신호 처리부(160)는 상기 입력 오디오 또는 스피치 신호의 고주파수 정보를 처리한다.
상기와 같이 제안된 실시예를 구체적인 일례를 들어서, 보다 상세하게 설명하면 다음과 같다.
신호 변환부(110)에 의하여 스펙트럼 계수(Spectral coefficients)는 몇 개의 주파수 밴드들로 나뉘고, 심리음향 모델부(120)에서는 스펙트럼의 특성을 분석하여 각 주파수 밴드의 시간 분해능(temporal resolution) 또는 주파수 분해능(frequency resolution)을 판별한다.
특정 주파수 밴드에서 높은 시간 분해능(high temporal resolution)이 보다 적합한 경우에는, 높은 시간 분해능 부호화부(high temporal resolution coding tool: 130)을 동작 시키기 위하여, 그 주파수 밴드에서의 스펙트럼 계수가 상기 신호 변환부(110) 내에 포함되어 구성되는 역방향 변환기, 예를 들어 역-MLT(inverse-MTL)에 의하여 변환될 수 있다.
이때, 높은 시간 분해능 부호화부(130)는 단구간 예측기(short-term predictor) 및 장구간 예측기(long-term predictor)를 포함하여 구성될 수 있다.
높은 시간 분해능 부호화부(130)는, 입력 신호가 스피치(음성) 신호인 경우에, 보다 증가된 시간 분해능(Increased temporal resolution)에 의해 스피치 생성 모듈의 특성을 효과적으로 반영할 수 있다. 보다 상세하게 살펴보면, 단구간 예측기(short-term predictor)는, 신호 변환부(110)로부터 수신한 데이터에 적용하여, 시간 도메인(Temporal domain)에서의 샘플들 간의 단구간 중복정보(short-term correlations)을 제거할 수 있으며, 또한, 장구간 예측기(long-term predictor)는 단구간예측(short-term prediction)된 잔여 신호 데이터를 처리하여, 장구간 중복정보 (long-term correlations)을 제거할 수 있다.
양자화/부호화부(140)는 입력 받은 비트레이트(bitrate)의 스텝 크기(step-size)를 계산한다. 양자화된 샘플들 및 양자화/부호화부(140)의 부가 정보들은, 산술 부호화기(arithmetic coding) 혹은 허프만 부호화기(Huffman Coding) 와 같은 통계적 중복정보를 제거하는 툴을 사용하게 된다.
스테레오 신호 처리부(parametric stereo: 150)는 32kbits/sec 보다 낮은 비트레이트(bitrate)에서 동작하게 되며, 일실시예에서 스테레오 신호 처리부(150)는 MPEG 스테레오 신호 처리부를 확장한 것이 적용될 수 있다. 또한, 고주파 신호 처리부(Spectral Bandwidth Replication: 160)는 고주파 신호(High frequency signal)를 효과적으로 코딩할 수 있다.
다중화부(170)에서는 각 모듈의 출력 신호를 비트스트림(bit stream)으로 출력한다. 이때, 비트스트림은 산술부호화나 허프만 부호화 같은 압축 방식을 이용하여 생성될 수 있다.
도 2는 오디오/스피치 신호의 복호화 장치의 구성예를 나타낸다.
도 2를 참조하면, 오디오/스피치 신호의 복호화 장치는, 분해능 결정부(T/F resolution decision: 210), 높은 시간 분해능 복호화부(High temporal resolution decoding tool: 220), 역양자화/부호화 부(Dequantizer: 230), 역 신호 변환부(240), 고주파 신호 처리부(Spectral Bandwidth Replication: 250), 및 스테레오 신호 처리부(Parametric Stereo: 260)를 포함한다.
분해능 결정부(210)는 비트스트림에 포함된 시간 영역(time domain) 코딩 또는 주파수 영역(frequency domain) 코딩에 대한 정보에 기초하여, 현재 프레임의 신호가 높은 주파수 신호(high frequency resolution signal) 또는 높은 시간 신호 (high temporal resolution signal)인지 결정한다.
역양자화부(230)는 분해능 결정부(210)의 출력신호에 따라 상기 비트스트림을 역양자화한다.
높은 시간 분해능 복호화부(high temporal resolution decoding tool: 220)는 역양자화부(230)로부터 역양자화된 신호를 수신하고, 상기 비트스트림으로부터 역선형 예측에 필요한 부가정보를 검출한 후, 상기 역양자화된 신호와 상기 부가정보를 이용하여 높은 시간 신호를 복원한다.
역신호 변환부(240)는, 높은 시간 분해능 복호화부(220)로부터 제공되는 신호 및/또는 역양자화/부호화부(230)에서 역양자화된 신호를 시간영역의 오디오 또는 스피치신호로 역변환한다.
이때, 역신호 변환부(240)로는 역 FV-MLT(Inverse Frequency Varying Modulated Lapped Transform)가 사용될 수 있다.
고주파 신호 처리부(250)는 역변환된 신호의 고주파수 정보를 처리하고, 스테레오 신호 처리부(260)는 상기 역변환된 신호의 스테레오 정보를 처리하게 된다.
한편, 상기 비트스트림은 역양자화부(230), 고주파 신호 처리부(250), 및 스테레오 신호 처리부(260) 측으로 입력되어, 복호화에 사용될 수 있다.
도 3은 오디오/스피치 신호의 부호화 장치의 일례를 나타내는 블록도이다.
도 3을 참조하면, 오디오/스피치 신호의 부호화 장치는, 신호 변환부(310), 심리음향 모델부(320), 시간 노이즈 성형부(Temporal Noise Shaping: 330), 하이레이트 스테레오부(Highrate Stereo Tool: 340), 양자화/부호화 부(350), 및 고주파 신호 처리부를 포함한다.
신호 변환부(310)는 입력 오디오 또는 스피치 신호를 높은 주파수 분해능(high frequency resolution) 및/또는 높은 시간 분해능(high temporal resolution)을 포함하는 신호로 변환한다.
이때, 신호 변환부(310)로는 MDCT(Modified Discrete Cosine Transform: 310)가 사용될 수 있다.
심리음향 모델부(320)는 신호 변환부(310)가 상기 입력 오디오 또는 스피치 신호를 높은 주파수 신호 (high frequency resolution signal) 및/또는 높은 시간 신호(high temporal resolution signal)로 변환하도록 제어한다.
시간 노이즈 성형부(330)는 상기 오디오 또는 스피치 신호를 높은 주파수 신호 (high frequency resolution signal) 및/또는 높은 시간 신호(high temporal resolution signal)로 변환한다.
하이레이트 스테레오부(340)는 상기 변환된 신호의 스테레오 정보를 부호화한다.
양자화/부호화부(350)는 시간 노이즈 성형부(330) 및/또는 하이레이트 스테레오부(340)에서 출력된 신호를 양자화 및 부호화한다.
고주파 신호 처리부(360)는 상기 오디오 또는 스피치 신호의 고주파 신호를 처리할 수 있다.
다중화부(370)에서는 각 모듈의 출력 신호를 비트스트림으로 출력한다. 이때, 비트스트림은 산술부호화나 허프만 부호화 같은 압축 방식을 이용하여 생성될 수 있음은 상술한 바와 같다.
도 4는 오디오/스피치 신호의 복호화 장치의 일례를 나타내는 블록도이다.
도 4를 참조하면, 오디오/스피치 신호의 복호화 장치는, 역양자화/부호화 부(410), 하이레이트 스테레오 복호화부(Hirate Stereo Tool Decoding: 420), 시간 노이즈 성형 복호화부(Temporal Noise Shaping decoding: 430), 역 신호 변환부(440), 및 고주파 신호 처리부(450)를 포함한다.
역양자화/부호화부(410)는 비트스트림을 역양자화한다.
스테레오 복호화부(420)는 상기 역양자화 된 신호를 복호화하고, 시간 노이즈 성형 복호화부(430)는 상기 오디오 또는 스피치 신호를 높은 주파수 신호(high frequency resolution signal) 및/또는 높은 시간 신호(high temporal resolution signal)로 변환한 신호를 복호화한다.
역신호 변환부(440)상기 복호화된 신호를 시간영역의 오디오 또는 스피치신호로 역변환하며 이때, 역신호 변환부(440)로는 역-MDCT(Inverse MDCT)가 사용될 수 있다.
도 5는 오디오/스피치 신호의 부호화 장치의 일례를 나타내는 블록도이다.
도 5를 참조하면, 오디오/스피치 신호의 부호화 장치는, 도 1에 도시된 오디오/스피치 신호의 부호화 장치에서 양자화/부호화부(510)에 CELP가 포함되어 구성되는 것과는 달리, CELP가 높은 시간 분해능 부호화부(520)에 포함되어 구성될 수 있다.
즉, 높은 시간 분해능 부호화부(High temporal resolution coding tool: 520)는 단구간 예측기(short-term predictor), 장구간 예측기(long-term predictor), 및 CELP를 포함하여 구성될 수 있다. 이때, CELP는 중복정보가 제거된 신호를 모델링하기 위한 모듈(excitation modeling module)을 의미한다.
높은 시간 분해능 부호화부(520)는, 입력 신호가 스피치 신호인 경우에, 상승된 시간 분해능(Increased temporal resolution)에 의해 스피치 생성 모듈의 특성을 효과적으로 반영할 수 있다.
보다 상세하게 설명하면, 신호 변환부가 높은 주파수 분해능(high frequency resolution) 및/또는 높은 시간 분해능(high temporal resolution)을 포함하는 신호를 심리음향 모델부(530)의 제어에 의하여 높은 시간 분해능 신호로 변환하는 경우에는, 상기 높은 시간 분해능 신호로 변환된 신호가 스펙트럼 양자화/부호화부(510)에 의하여 양자화 및/또는 부호화되지 않으며, 높은 시간 분해능 부호화부(520) 측에서 상기 신호의 양자화 및/또는 부호화가 수행된다.
또한, 높은 시간 분해능 부호화부(520)에는 CELP가 포함되어 구성되어, CELP는 단구간 중복정보(short-term correlations) 및 장구간 중복정보(long-term correlations)의 잔여 신호를 부호화한다.
도 6은 오디오/스피치 신호의 부호화 장치의 일례를 나타내는 블록도이다.
도 6을 참조하면, 오디오/스피치 신호의 부호화 장치는, 도 1에 도시된 오디오/스피치 신호의 부호화 장치에, 스위칭부(610)를 더 포함하여 구성될 수 있다.
스위칭부(610)는 시간축 코딩 또는 주파수 코딩에 대한 정보에 기초하여, 상기 양자화/부호화부(620)에 의한 신호의 양자화, 또는 시간 분해능 부호화부(630)에 의한 부호화를 선택할 수 있다.
또한, 도 7은 오디오/스피치 신호의 복호화 장치의 일례를 나타내는 블록도이다.
도 7을 참조하면, 오디오/스피치 신호의 복호화 장치는, 도 2에 도시된 오디오/스피치 신호의 복호화 장치에, 스위칭부(710)를 더 포함하여 구성될 수 있다. 즉, 스위칭부(710)에 의하여 높은 시간 분해능 복호화부(720) 또는 스펙트럼 역양자화부(730)의 사용여부를 제어할 수 있다.
도 8은 오디오/스피치 신호의 부호화 장치의 일례를 나타내는 블록도이다.
도 8을 참조하면, 오디오/스피치 신호의 부호화 장치는, 도 1에 도시된 오디오/스피치 신호의 부호화 장치에, 다운 샘플링부(810)를 더 포함하여 구성될 수 있다.
다운샘플링부(810)는 입력 신호를 저주파수 신호로 다운샘플링(downsampling) 한다. 저주파 신호는 다운샘플링을 통해 생성되며, 하이 레이트(high rate) 및 로우 레이트(low rate)의 듀얼 레이트(dual rate)인 경우에 필요하다. 즉, 저주파신호 부호화 방식의 샘플링 주파수가 고주파 신호 처리부 (Spectral Bandwidth Replication) 의 동작 샘플링 레이트의 1/2 혹은 1/4로 낮은 샘플링 레이트에서 동작하는 경에 필요하다. 스테레오 신호 처리부를 적용한 경우에는, 스테레오 신호 처리부에서 다운믹스 신호를 위한 QMF(Quadrature Mirror Filter) 합성(synthesis) 시에 다운샘플링을 수행하게 된다.
이때, 하이 레이트(high rate)는 64kbits/sec 보다 큰 레이트에 해당하고, 로우 레이트(low rate)는 64kbits/sec 보다 작은 레이트에 해당하도록 구성될 수 있다.
도 9는 오디오/스피치 신호의 복호화 장치의 일례를 나타내는 블록도이다.
분해능 결정부는 비트스트림에 포함된 시간 영역(time domain) 코딩 또는 주파수 영역(frequency domain) 코딩에 대한 정보에 기초하여, 현재 프레임의 신호가 높은 주파수 신호(high frequency resolution signal) 또는 높은 시간 신호 (high temporal resolution signal) 인지 결정한다.
역양자화부(910)는 분해능 결정부(920)의 출력신호에 따라 상기 비트스트림을 역양자화한다.
높은 시간 분해능 복호화부(high temporal resolution decoding tool:930)는 상기 역양자화부(920)로부터 역양자화된 신호를 수신하고, 상기 비트스트림으로부터 역 선형예측에 필요한 부가정보를 검출한 후, 상기 역양자화된 신호와 상기 부가정보를 이용하여 높은 시간 신호를 복원한다.
역신호 처리부(940)는, 높은 시간 분해능 복호화부(930)로부터 제공되는 신호 및/또는 역양자화 (920)에서 역양자화된 신호를 시간영역의 오디오 또는 스피치 신호로 역변환한다.
이때, 도 9에 도시된 오디오/스피치 신호의 복호화 장치에서는, 업샘플링(u ampling)이 고주파 신호 처리부(950)에서 수행될 수 있다.
도 10은 오디오/스피치 신호의 부호화 장치의 일례를 나타내는 블록도이다.
도 10에 도시된 오디오/스피치 신호의 부호화 장치는, 도 5에 도시된 오디오/스피치 신호의 부호화 장치에 다운샘플링부(1010)를 더 포함할 수 있다.
즉, 저주파 신호가 다운샘플링(downsampling)을 통해 생성된다.
스테레오 신호 처리부(1020)를 적용한 경우에는, 스테레오 신호 처리부(1020)에서 다운믹스 신호를 생성하기 위한 QMF 합성(synthesis) 시에 다운샘플링을 수행한다. 또한, 높은 시간 분해능 부호화부(1030)에서 단구간 예측기(short-term predictor), 장구간 예측기(long-term predictor), 및 CELP까지 포함할 수 있다.
도 11은 오디오/스피치 신호의 복호화 장치의 일례를 나타내는 블록도이다.
분해능 결정부(1110)는 비트스트림에 포함된 시간 영역(time domain) 코딩 또는 주파수 영역(frequency domain) 코딩에 대한 정보에 기초하여, 현재 프레임의 신호가 높은 주파수 신호(high frequency resolution signal) 또는 높은 시간 신호 (high temporal resolution signal)인지 결정한다.
분해능 결정부(1110)가 현재 프레임의 신호를 높은 주파수 신호로 결정한 경우에는, 스펙트럼 역양자화부(1130)는 분해능 결정부(1110)의 출력신호에 따라 상기 비트스트림을 역양자화한다.
한편, 분해능 결정부(1110)가 현재 프레임의 신호를 높은 시간 신호로 결정한 경우에는, 높은 시간 분해능 복호화부(high temporal resolution decoding tool: 1120)가 높은 시간 신호를 복원한다.
역신호 처리부(1140)는, 높은 시간 분해능 복호화부(1120)로부터 제공되는 신호 및/또는 역양자화(1130)에서 역양자화된 신호를 시간영역의 오디오 또는 스피치신호로 역변환한다.
또한, 도 11에 도시된, 오디오/스피치 신호의 복호화 장치에서는, 업샘플링(upsampling)이 고주파 신호 처리부(1150)에서 수행될 수 있다.
도 12는 오디오/스피치 신호의 부호화 장치의 일례를 나타내는 블록도이다.
보다 상세하게 설명하면, 도 12에 도시된 오디오/스피치 신호의 부호화 장치는, 도 6에 도시된 오디오/스피치 신호의 부호화 장치에, 다운샘플링부(1210)를 더 포함하여 구성될 수 있다.
즉, 저주파 신호가 다운샘플링(down-sampling)을 통해 생성된다.
스테레오 신호 처리부(1220)를 적용한 경우에는, 스테레오 신호 처리부(1220)에서 QMF 합성(synthesis) 시에 다운샘플링을 수행한다.
도시된 부호화 장치 및 복호화 장치의 업/다운 샘플링 팩터(up/down-sampling factor)는 1/2 혹은 1/4가 될 수 있다. 즉, 입력이 48kHz일 경우에는 업/다운 샘플링을 통해 24kHz 혹은 12kHz로 다운샘플링 할 수 있다.
도 13은 오디오/스피치 신호의 복호화 장치의 일례를 나타내는 블록도이다.
도 13을 참조하면, 오디오/스피치 신호의 복호화 장치는, 도 2에 도시된 오디오/스피치 신호의 복호화 장치에, 스위칭부(1310)를 더 포함할 수 있다. 즉, 스위칭부(1310)에 의하여 높은 시간 분해능 복호화부(1320) 또는 스펙트럼 역양자화부(1330)의 사용여부를 제어할 수 있다.
도 14는 오디오/스피치 신호의 부호화 장치의 일례를 나타내는 블록도이다.
도 14에 도시된 오디오/스피치 신호의 부호화 장치는, 도 1에 도시된 오디오/스피치 신호 부호화 장치 및 도 3에 도시된 오디오/스피치 신호 부호화 장치를 통합한 형태일 수 있다.
즉, 기설정된 로우 레이트(low rate)와 하이 레이트(high rate)의 정의에 따라, 로우 레이트 판단부(1430)의 판단 결과 로우 레이트인 경우에는, 신호 변환부(1410), 높은 시간 분해능 부호화부(1440) 및/또는 양자화/부호화부(1470)가 동작하고, 하이 레이트인 경우에는 신호 변환부(1410), 시간 노이즈 성형부(TNS: 1450), 및 하이 레이트 스테레오부(1460)가 동작한다.
스테레오 신호 처리부(1481)와 고주파 신호 처리부(1491)는 선정된 기준에 따라 온/오프(on/off)될 수 있으며, 하이 레이트 스테레오부(1460)와 스테레오 신호 처리부(1481)는 동시에 동작하지 않도록 구성될 수 있다.
도 15는 오디오/스피치 신호의 복호화 장치의 일례를 나타내는 블록도이다.
보다 상세하게 설명하면, 도 15에 도시된 오디오/스피치 신호의 복호화 장치는, 도 2에 도시된 오디오/스피치 신호 복호화 장치 및 도 4에 도시된 오디오/스피치 신호 부호화 장치를 통합한 형태일 수 있다.
즉, 로우 레이트 판단부(1510)의 판단에 따라서, 하이 레이트인 경우에는 하이레이트 스테레오 복호화부(1520), 시간 노이즈 성형 복호화부(1530), 및 역신호 처리부(1540)가 동작하고, 로우 레이트인 경우에는 분해능 결정부(1550), 높은 시간 분해능 복호화부(1560), 역신호 처리부(1540)가 동작할 수 있다. 또한, 고주파 신호 처리부(1570) 및 스테레오 신호 처리부(1580)는 선정된 정보에 따라 동작이 수행될 수 있다.
도 16은 오디오/스피치 신호의 부호화 방법의 일례를 나타내는 흐름도이다.
입력된 오디오 또는 스피치 신호를 주파수 도메인으로 변환하고(S1610), 시간 도메인으로의 변환이 필요한지 여부를 판단한다(S1620).
이때, 상기 입력 오디오 또는 스피치 신호를 다운샘플링하는 과정을 더 포함할 수 있다.
단계(S1620)의 판단 결과에 따라서, 입력 오디오 또는 스피치 신호를 높은 주파수 분해능(high frequency resolution) 및/또는 높은 시간 분해능(high temporal resolution)을 포함하는 신호로 변환한다.
즉, 상기 판단 결과, 시간 도메인으로의 변환이 필요한 경우에는, 높은 시간 신호(high temporal resolution signal)로 변환하여 양자화하고(S1630), 상기 판단 결과, 시간 도메인으로의 변환이 필요하지 않은 경우에는, 양자화 및 부호화(S1640)가 이루어진다.
도 17은 오디오/스피치 신호의 복호화 방법의 일례를 나타내는 흐름도이다.
현재 프레임의 신호가 높은 주파수 신호(high frequency resolution signal) 또는 높은 시간 신호 (high temporal resolution signal)인지 결정한다(S1710).
이때, 비트스트림에 포함된 시간 영역(time domain) 코딩 또는 주파수 영역(frequency domain) 코딩에 대한 정보에 기초하여, 현재 프레임의 신호가 높은 주파수 신호(high frequency resolution signal) 또는 높은 시간 신호 (high temporal resolution signal)인지 결정할 수 있다.
이후, 출력신호에 따라 상기 비트스트림을 역양자한다(S1720).
상기 역양자화된 신호를 수신하고, 상기 비트스트림으로부터 역 선형예측에 필요한 부가정보를 검출한 후, 상기 역양자화된 신호와 상기 부가정보를 이용하여 높은 시간 신호를 복원한다(S1730).
이후, 상기 높은 시간 분해능 복호화부로부터 제공되는 신호 및/또는 상기 역양자화/부호화부에서 역양자화된 신호를 시간 영역의 오디오 또는 스피치 신호로 역변환한다(S1740).
이상과 같이 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다.
그러므로, 본 발명의 범위는 설명된 실시예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등한 것들에 의해 정해져야 한다.
110: 신호 변환부 120: 심리음향 모델부
130: 높은 시간 분해능 부호화부 140: 양자화/부호화 부
150: 스테레오 신호 처리부 160: 고주파 신호 처리부
170: 다중화부

Claims (3)

  1. 적어도 하나의 프로세서를 포함하며,
    상기 프로세서는
    비트스트림에 포함된 코딩 정보에 기초하여, 부호화된 신호가 주파수 도메인에서 부호화되었는지 시간 도메인에서 부호화되었는지 판단하고,
    상기 부호화된 신호가 상기 주파수 도메인에서 부호화된 경우, 상기 부호화된 신호를 무손실 복호화 및 역양자화하고,
    상기 부호화된 신호가 상기 시간 도메인에서 부호화된 경우, 상기 부호화된 신호를 CELP (Code Excitation Linear Prediction)에 기초하여 복원하고,
    상기 무손실 복호화 및 역양자화된 신호를 시간 도메인 신호로 역변환하고,상기 역변환된 신호 또는 상기 복원된 신호를 이용하여 고주파수 대역 신호를 생성하고,
    상기 부호화된 신호가 로우레이트인지 하이레이트인지의 판단결과에 대응하여 스테레오 정보를 획득하고, 상기 획득된 스테레오 정보에 근거하여, 상기 고주파수 대역 신호와 상기 역변환된 신호 또는 상기 고주파수 대역 신호와 상기 복원된 신호로부터 스테레오 신호를 생성하고,
    상기 부호화된 신호가 하이레이트인 것으로 판단된 경우 상기 비트스트림으로부터 상기 스테레오 정보를 획득하는 오디오 혹은 스피치 신호 복호화장치.
  2. 제1 항에 있어서, 상기 CELP는 장구간 예측기에 기반하는 오디오 혹은 스피치 신호 복호화장치.
  3. 제1 항에 있어서, 상기 무손실 복호화는 산술 복호화 방식에 기반하는 오디오 혹은 스피치 신호 복호화장치.
KR1020170084983A 2017-07-04 2017-07-04 오디오/스피치 신호의 부호화 및 복호화 방법 및 장치 KR101847076B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020170084983A KR101847076B1 (ko) 2017-07-04 2017-07-04 오디오/스피치 신호의 부호화 및 복호화 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170084983A KR101847076B1 (ko) 2017-07-04 2017-07-04 오디오/스피치 신호의 부호화 및 복호화 방법 및 장치

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020080068377A Division KR101756834B1 (ko) 2008-07-14 2008-07-14 오디오/스피치 신호의 부호화 및 복호화 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20170083008A KR20170083008A (ko) 2017-07-17
KR101847076B1 true KR101847076B1 (ko) 2018-04-09

Family

ID=59442963

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170084983A KR101847076B1 (ko) 2017-07-04 2017-07-04 오디오/스피치 신호의 부호화 및 복호화 방법 및 장치

Country Status (1)

Country Link
KR (1) KR101847076B1 (ko)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004004710A (ja) * 2002-04-11 2004-01-08 Matsushita Electric Ind Co Ltd 符号化装置および復号化装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004004710A (ja) * 2002-04-11 2004-01-08 Matsushita Electric Ind Co Ltd 符号化装置および復号化装置

Also Published As

Publication number Publication date
KR20170083008A (ko) 2017-07-17

Similar Documents

Publication Publication Date Title
KR101756834B1 (ko) 오디오/스피치 신호의 부호화 및 복호화 방법 및 장치
JP6208725B2 (ja) 帯域幅拡張復号化装置
KR101435893B1 (ko) 대역폭 확장 기법 및 스테레오 부호화 기법을 이용한오디오 신호의 부호화/복호화 방법 및 장치
KR100721537B1 (ko) 광대역 음성 부호화기의 고대역 음성 부호화 장치 및 그방법
JP6050199B2 (ja) オーディオ及び／またはスピーチ信号符号化及び／または復号化方法及び装置
JP5117407B2 (ja) オーディオ符号化／復号化で知覚的に重み付けするための装置
KR101373004B1 (ko) 고주파수 신호 부호화 및 복호화 장치 및 방법
EP2041745B1 (en) Adaptive encoding and decoding methods and apparatuses
MX2015004022A (es) Aparato y metodo para codificar y decodificador una señal de audio codificada utilizando modelado de ruido temporal/de parche.
JP2001522156A (ja) オーディオ信号をコーディングする方法及び装置並びにビットストリームをデコーディングする方法及び装置
JP2023109851A (ja) 改良されたミッド／サイド決定を持つ包括的なｉｌｄを持つｍｄｃｔ ｍ／ｓステレオのための装置および方法
US9454972B2 (en) Audio and speech coding device, audio and speech decoding device, method for coding audio and speech, and method for decoding audio and speech
US9240192B2 (en) Device and method for efficiently encoding quantization parameters of spectral coefficient coding
KR101847076B1 (ko) 오디오/스피치 신호의 부호화 및 복호화 방법 및 장치
KR101449432B1 (ko) 신호 부호화 및 복호화 방법 및 장치
KR101457897B1 (ko) 대역폭 확장 부호화 및 복호화 방법 및 장치
KR101455648B1 (ko) 상호 운용성을 지원하는 오디오/스피치 신호의부호화/복호화 방법 및 시스템
Herre et al. 18. Perceptual Perceptual Audio Coding of Speech Signals

Legal Events

Date Code Title Description
A107 Divisional application of patent
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant