KR20120137313A - 고주파수 대역폭 확장을 위한 부호화/복호화 장치 및 방법 - Google Patents

고주파수 대역폭 확장을 위한 부호화/복호화 장치 및 방법 Download PDF

Info

Publication number
KR20120137313A
KR20120137313A KR1020120062356A KR20120062356A KR20120137313A KR 20120137313 A KR20120137313 A KR 20120137313A KR 1020120062356 A KR1020120062356 A KR 1020120062356A KR 20120062356 A KR20120062356 A KR 20120062356A KR 20120137313 A KR20120137313 A KR 20120137313A
Authority
KR
South Korea
Prior art keywords
encoding
signal
input signal
decoding
mode
Prior art date
Application number
KR1020120062356A
Other languages
English (en)
Other versions
KR102022664B1 (ko
Inventor
주기현
오은미
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Publication of KR20120137313A publication Critical patent/KR20120137313A/ko
Application granted granted Critical
Publication of KR102022664B1 publication Critical patent/KR102022664B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/08—Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters
    • G10L19/12—Determination or coding of the excitation function; Determination or coding of the long-term prediction parameters the excitation function being a code excitation, e.g. in code excited linear prediction [CELP] vocoders
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/032—Quantisation or dequantisation of spectral components
    • G10L19/038—Vector quantisation, e.g. TwinVQ audio
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16—Vocoder architecture
    • G10L19/18—Vocoders using multiple modes
    • G10L19/24—Variable rate codecs, e.g. for generating different qualities using a scalable representation such as hierarchical encoding or layered encoding
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/038—Speech enhancement, e.g. noise reduction or echo cancellation using band spreading techniques
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Reduction Or Emphasis Of Bandwidth Of Signals (AREA)
  • Transmission Systems Not Characterized By The Medium Used For Transmission (AREA)

Abstract

고주파수 대역폭 확장을 위한 부호화/복호화 장치 및 방법이 개시된다. 부호화 장치는 입력 신호를 다운 샘플링하고, 다운 샘플링된 입력 신호를 코어 부호화를 수행하며, 입력 신호를 주파수 변환하고, 주파수 영역의 입력 신호의 기본 신호를 이용하여 대역폭 확장 부호화를 수행할 수 있다.

Description

고주파수 대역폭 확장을 위한 부호화/복호화 장치 및 방법{APPARATUS AND METHOD FOR ENCODING AND DECODING FOR HIGH FREQUENCY BANDWIDTH EXTENSION}
본 발명은 음성 신호 또는 음악 신호와 같은 오디오 신호를 부호화하거나 복호화하는 방법 및 장치에 관한 것으로, 보다 상세하게는 오디오 신호 가운데 고주파수 영역에 해당하는 신호를 부호화하거나 복호화하는 방법 및 장치에 관한 것이다.
고주파수 영역에 해당하는 신호는 저주파수 영역에 해당하는 신호에 비하여 주파수의 미세 구조에 덜 민감하다. 그러므로 오디오 신호를 부호화할 때 가용할 수 있는 비트의 제약을 극복하기 위해 코딩의 효율을 높여야 할 경우, 저주파수 영역에 대응하는 신호에 많은 비트를 할당하여 부호화하는 반면 고주파수 영역에 대응하는 신호에 상대적으로 적은 비트를 할당하여 부호화한다.
이러한 방식이 적용된 기술이 SBR(Spectral Band Replication)이다. SBR 기술은 고대역 성분 신호를 포락선으로 표현하고 이를 복호화 단계에서 합성하는 방식으로 부호화 효율을 향상시키는 방식이다. 이는 인간의 청각 특성이 고대역 신호에 상대적으로 낮은 해상력을 가진다는 사실에 기반한 것이다.
이러한 SBR 기술에 있어, 고주파수 영역의 대역폭을 확장하기 위한 개선된 방법이 요구된다.
본 발명의 일실시예에 따른 부호화 장치는 입력 신호를 다운 샘플링하는 다운 샘플링부; 다운 샘플링된 입력 신호를 코어 부호화를 수행하는 코어 부호화부; 상기 입력 신호를 주파수 변환하는 주파수 변환부; 및 상기 주파수 영역의 입력 신호의 기본 신호를 이용하여 대역폭 확장 부호화를 수행하는 확장 부호화부를 포함할 수 있다.
본 발명의 다른 일실시예에 따른 부호화 장치는 입력 신호를 다운 샘플링하는 다운 샘플링부; 다운 샘플링된 입력 신호를 코어 부호화를 수행하는 코어 부호화부; 상기 입력 신호를 주파수 변환하는 주파수 변환부; 및 상기 입력 신호의 특성 및 상기 주파수 영역의 입력 신호의 기본 신호를 이용하여 대역폭 확장 부호화를 수행하는 확장 부호화부를 포함할 수 있다.
본 발명의 또 다른 실시예에 따른 부호화 장치는 주파수 영역의 입력 신호와 시간 영역의 입력 신호를 이용하여 대역폭 확장 부호화의 부호화 모드를 선택하는 부호화 모드 선택부; 및 상기 주파수 영역의 입력 신호와 상기 부호화 모드를 이용하여 대역폭 확장 부호화를 수행하는 확장 부호화부를 포함할 수 있다.
본 발명의 일실시예에 따른 부호화 장치의 상기 확장 부호화부는, 상기 주파수 영역의 입력 신호의 주파수 스펙트럼을 이용하여 상기 주파수 영역의 입력 신호의 기본 신호(basic signal)를 생성하는 기본 신호 생성부; 상기 기본 신호를 이용하여 에너지 제어 요소(energy control factor)를 추정하는 요소 추정부; 상기 주파수 영역의 입력 신호로부터 에너지를 추출하는 에너지 추출부; 상기 에너지 제어 요소를 이용하여 상기 추출된 에너지를 제어하는 에너지 제어부; 및 상기 제어된 에너지를 양자화하는 에너지 양자화부를 포함할 수 있다.
본 발명의 다른 실시예에 따른 부호화 장치의 상기 확장 부호화부는 상기 주파수 영역의 입력 신호의 주파수 스펙트럼을 이용하여 상기 주파수 영역의 입력 신호의 기본 신호(basic signal)를 생성하는 기본 신호 생성부; 상기 입력 신호의 특성 및 상기 기본 신호를 이용하여 에너지 제어 요소(energy control factor)를 추정하는 요소 추정부; 상기 주파수 영역의 입력 신호로부터 에너지를 추출하는 에너지 추출부; 상기 에너지 제어 요소를 이용하여 상기 추출된 에너지를 제어하는 에너지 제어부; 및 상기 제어된 에너지를 양자화하는 에너지 양자화부를 포함할 수 있다.
본 발명의 또 다른 실시예에 따른 부호화 장치의 확장 부호화부는, 상기 부호화 모드에 기초하여 주파수 영역의 입력 신호로부터 에너지를 추출하는 에너지 추출부; 상기 부호화 모드에 기초하여 에너지를 제어하는 에너지 제어부; 및 상기 부호화 모드에 기초하여 상기 에너지를 양자화하는 에너지 양자화부를 포함할 수 있다.
본 발명의 일실시예에 따른 부호화 장치의 상기 기본 신호 생성부는, 상기 주파수 영역의 입력 신호의 저주파수 영역을 복사하고 폴딩하여 고주파수 영역에 대응하는 인공 신호(artificial signal)를 생성하는 인공 신호 생성부; 윈도우를 이용하여 상기 기본 신호의 포락선을 추정하는 포락선 추정부; 및 상기 추정된 포락선을 인공 신호에 적용하는 포락선 적용부를 포함할 수 있다.
본 발명의 일실시예에 따른 부호화 장치의 상기 요소 추정부는, 상기 주파수 영역의 입력 신호의 고주파수 영역의 토널리티를 계산하는 제1 토널리티 계산부; 상기 기본 신호의 토널리티를 계산하는 제2 토널리티 계산부; 및 상기 입력 신호의 고주파수 영역의 토널리티와 상기 기본 신호의 토널리티를 이용하여 상기 에너지 제어 요소를 계산하는 요소 계산부를 포함할 수 있다.
본 발명의 다른 실시예에 따른 부호화 장치는 입력 신호의 특성을 참조하여, 입력 신호의 부호화 모드를 결정하는 신호 분류부; 상기 입력 신호의 부호화 모드가 CELP(Code Excited Linear Prediction) 부호화 모드로 결정되면, 상기 입력 신호의 저주파 신호에 대하여 CELP 부호화를 수행하는 CELP 부호화부; 상기 입력 신호의 저주파 신호에 대하여 CELP 부호화가 수행되면, 상기 입력 신호의 고주파 신호에 대하여 확장 부호화를 수행하는 TD(Time Domain) 확장 부호화부; 상기 입력 신호의 부호화 모드가 FD 모드로 결정되면, 상기 입력 신호를 주파수 변환하는 주파수 변환부; 및 상기 주파수 변환된 입력 신호에 대하여 FD(Frequency Domain) 부호화를 수행하는 FD 부호화부;를 포함할 수 있다.
본 발명의 다른 실시예에 따른 부호화 장치의 상기 FD 부호화부는 상기 변환된 입력 신호에 대하여 주파수 밴드 별로 에너지를 추출하고, 추출된 에너지를 양자화하는 Norm 부호화부; 상기 양자화된 Norm 값으로 상기 변환된 입력 신호를 스케일링한 값에 대하여 FPC 부호화를 수행하는 FPC(Factorial Pulse Coding) 부호화부; 및 상기 FPC 부호화가 수행됨에 따른 노이즈 부가정보를 생성하는 노이즈 부가정보 생성부;를 포함하고, 상기 FD 부호화부로 입력되는 변환된 입력 신호는 transient 프레임인 것을 특징으로 할 수 있다.
본 발명의 다른 실시예에 따른 부호화 장치의 상기 FD 부호화부는 상기 변환된 입력 신호에 대하여 주파수 밴드 별로 에너지를 추출하고, 추출된 에너지를 양자화하는 Norm 부호화부; 상기 양자화된 Norm 값으로 상기 변환된 입력 신호를 스케일링한 값에 대하여 FPC 부호화를 수행하는 FPC(Factorial Pulse Coding) 부호화부; 상기 FPC 부호화가 수행됨에 따른 노이즈 부가정보를 생성하는 노이즈 부가정보 생성부; 및 상기 변환된 입력 신호의 고주파 신호에 대하여 확장 부호화를 수행하는 FD 확장 부호화부;를 포함하고, 상기 FD 부호화부로 입력되는 변환된 입력 신호는 stationary 프레임인 것을 특징으로 한다.
본 발명의 다른 실시예에 따른 부호화 장치의 FD 부호화부의 FD 확장 부호화부는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 양자화를 수행하는 것을 특징으로 할 수 있다.
본 발명의 다른 실시예에 따른 부호화 장치의 입력 신호에 대하여 FD 부호화가 수행된 결과에 따른 비트스트림은 이전 프레임 모드 정보를 포함할 수 있다.
본 발명의 또 다른 실시예에 따른 부호화 장치는 입력 신호의 특성을 참조하여, 입력 신호의 부호화 모드를 결정하는 신호 분류부; 상기 입력 신호의 저주파 신호로부터 선형예측계수(Linear Prediction Coefficient, LPC)를 추출하고, 추출된 선형예측계수를 양자화하는 LPC 부호화부; 상기 입력 신호의 부호화 모드가 CELP 모드로 결정되면, 상기 선형예측계수를 이용하여 추출된 LPC 여기신호에 대하여 CELP 부호화를 수행하는 CELP 부호화부; 상기 입력 신호의 저주파 신호의 LPC 여기신호에 대하여 CELP 부호화가 수행되면, 상기 입력 신호의 고주파 신호에 대하여 확장 부호화를 수행하는 TD 확장 부호화부; 상기 입력 신호의 부호화 모드가 오디오 부호화 모드로 결정되면, 상기 선형예측계수를 이용하여 추출된 LPC 여기신호에 대하여 오디오 부호화를 수행하는 오디오 부호화부; 및 상기 입력 신호의 저주파 신호의 LPC 여기신호에 대하여 오디오 부호화가 수행되면, 상기 입력 신호의 고주파 신호에 대하여 확장 부호화를 수행하는 FD 확장 부호화부;를 포함할 수 있다.
본 발명의 또 다른 실시예에 따른 부호화 장치의 상기 FD 확장 부호화부는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 양자화를 수행하는 것을 특징으로 할 수 있다.
본 발명의 일실시예에 따른 복호화 장치는 비트스트림에 포함된 코어 부호화된 입력 신호를 코어 복호화하는 코어 복호화부; 상기 코어 복호화된 입력 신호를 업샘플링하는 업샘플링부; 상기 업샘플링된 입력 신호를 주파수 변환하는 주파수 변환부; 및 상기 비트스트림에 포함된 상기 입력 신호의 에너지와 상기 주파수 영역의 입력 신호를 이용하여 대역폭 확장 복호화를 수행하는 확장 복호화부를 포함할 수 있다.
본 발명의 일실시예에 따른 복호화 장치의 상기 확장 복호화부는, 상기 입력 신호의 에너지를 역양자화하는 역양자화부; 상기 주파수 영역의 입력 신호를 이용하여 기본 신호를 생성하는 기본 신호 생성부; 상기 역양자화된 에너지와 상기 기본 신호의 에너지를 이용하여 상기 기본 신호에 적용될 게인을 계산하는 게인 계산부; 및 상기 계산된 게인을 주파수 밴드별로 적용하는 게인 적용부를 포함할 수 있다.
본 발명의 일실시예에 따른 복호화 장치의 상기 기본 신호 생성부는, 상기 주파수 영역의 입력 신호의 저주파수 영역을 복사하고 폴딩하여 고주파수 영역에 대응하는 인공 신호를 생성하는 인공 신호 생성부; 상기 비트스트림에 포함된 윈도우를 이용하여 상기 기본 신호의 포락선을 추정하는 포락선 추정부; 및 상기 추정된 포락선을 인공 신호에 적용하는 포락선 적용부를 포함할 수 있다.
본 발명의 다른 실시예에 따른 복호화 장치는 비트스트림에 포함된 프레임들 각각에 대한 모드 정보를 검사하는 모드 정보 검사부; 상기 검사결과에 따라 CELP 부호화된 프레임에 대하여 CELP 복호화를 수행하는 CELP 복호화부; 상기 CELP 복호화가 수행된 결과 및 저주파 신호의 여기신호 중 적어도 어느 하나를 이용하여, 고주파수에 대한 복호화 신호를 생성하는 TD 확장 복호화부; 상기 검사결과에 따라 FD 부호화된 프레임에 대하여 FD 복호화를 수행하는 FD 복호화부; 및 상기 FD 복호화가 수행된 결과를 주파수 역변환하는 주파수 역변환부;를 포함할 수 있다.
본 발명의 다른 실시예에 따른 복호화 장치의 상기 FD 복호화부는 상기 비트스트림의 Norm 정보를 참조하여, Norm 복호화를 수행하는 Norm 복호화부; 상기 비트스트림의 FPC 부호화 정보에 기초하여 FPC 복호화를 수행하는 FPC 복호화부; 및 상기 FPC 복호화가 수행된 결과에 대하여 노이즈 필링을 수행하는 노이즈 필링 수행부;를 포함할 수 있다.
본 발명의 다른 실시예에 따른 복호화 장치의 상기 FD 복호화부는 상기 비트스트림의 Norm 정보를 참조하여, Norm 복호화를 수행하는 Norm 복호화부; 상기 비트스트림의 FPC 부호화 정보에 기초하여 FPC 복호화를 수행하는 FPC 복호화부; 상기 FPC 복호화가 수행된 결과에 대하여 노이즈 필링을 수행하는 노이즈 필링 수행부; 및 상기 FPC 복호화 및 노이즈 필링이 수행된 결과를 이용하여, 고주파수 확장 복호화를 수행하는 FD 고주파수 확장 복호화부;를 포함할 수 있다.
본 발명의 다른 실시예에 따른 복호화 장치의 상기 FD 복호화부는 FPC 복호화를 수행하는 주파수 밴드의 상위 밴드값이 코어신호에 대한 주파수 밴드의 상위 밴드값보다 작은 경우, 상기 FPC 복호화 및 노이즈 필링이 수행된 결과에 대하여 확장 부호화를 수행하는 FD 저주파수 확장 부호화부;를 더 포함할 수 있다.
본 발명의 다른 실시예에 따른 복호화 장치의 FD 복호화부의 상기 FD 고주파수 확장 복호화부는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 역양자화를 수행하는 것을 특징으로 할 수 있다.
본 발명의 다른 실시예에 따른 복호화 장치의 상기 FD 복호화부는 FD 부호화된 프레임에 대하여 상기 비트스트림에 포함된 이전 프레임 모드 정보를 참조하여 FD 복호화를 수행하는 것을 특징으로 할 수 있다.
본 발명의 또 다른 실시예에 따른 복호화 장치는 비트스트림에 포함된 프레임들 각각에 대한 모드 정보를 검사하는 모드 정보 검사부; 상기 비트스트림에 포함된 프레임들에 대하여 LPC 복호화를 수행하는 LPC 복호화부; 상기 검사결과에 따라 CELP 부호화된 프레임에 대하여 CELP 복호화를 수행하는 CELP 복호화부; 상기 CELP 복호화가 수행된 결과 및 저주파 신호의 여기신호 중 적어도 어느 하나를 이용하여, 고주파수에 대한 복호화 신호를 생성하는 TD 확장 복호화부; 상기 검사결과에 따라 오디오 부호화된 프레임에 대하여 오디오 복호화를 수행하는 오디오 복호화부; 및 상기 오디오 복호화가 수행된 결과를 이용하여 확장 복호화를 수행하는 FD 확장 복호화부;를 포함할 수 있다.
본 발명의 또 다른 실시예에 따른 복호화 장치의 상기 FD 확장 복호화부는 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 역양자화를 수행하는 것을 특징으로 할 수 있다.
본 발명의 일실시예에 따른 부호화 방법은 입력 신호를 다운 샘플링하는 단계; 다운 샘플링된 입력 신호를 코어 부호화를 수행하는 단계; 상기 입력 신호를 주파수 변환하는 단계; 및 상기 주파수 영역의 입력 신호의 기본 신호를 이용하여 대역폭 확장 부호화를 수행하는 단계를 포함할 수 있다.
본 발명의 다른 실시예에 따른 부호화 방법은 입력 신호를 다운 샘플링하는 단계; 다운 샘플링된 입력 신호를 코어 부호화를 수행하는 단계; 상기 입력 신호를 주파수 변환하는 단계; 및 상기 입력 신호의 특성 및 상기 주파수 영역의 입력 신호의 기본 신호를 이용하여 대역폭 확장 부호화를 수행하는 단계를 포함할 수 있다.
본 발명의 또 다른 실시예에 따른 부호화 방법은 주파수 영역의 입력 신호와 시간 영역의 입력 신호를 이용하여 대역폭 확장 부호화의 부호화 모드를 선택하는 단계; 및 상기 주파수 영역의 입력 신호와 상기 부호화 모드를 이용하여 대역폭 확장 부호화를 수행하는 단계를 포함할 수 있다.
본 발명의 일실시예에 따른 복호화 방법은 비트스트림에 포함된 코어 부호화된 입력 신호를 코어 복호화하는 단계; 상기 코어 복호화된 입력 신호를 업샘플링하는 단계; 상기 업샘플링된 입력 신호를 주파수 변환하는 단계; 및 상기 비트스트림에 포함된 상기 입력 신호의 에너지와 상기 주파수 영역의 입력 신호를 이용하여 대역폭 확장 복호화를 수행하는 단계를 포함할 수 있다.
본 발명의 다른 실시예에 따른 부호화 방법은 입력 신호의 특성을 참조하여, 입력 신호의 부호화 모드를 결정하는 단계; 상기 입력 신호의 부호화 모드가 CELP(Code Excited Linear Prediction) 부호화 모드로 결정되면, 상기 입력 신호의 저주파 신호에 대하여 CELP 부호화를 수행하는 단계; 상기 입력 신호의 저주파 신호에 대하여 CELP 부호화가 수행되면, 상기 입력 신호의 고주파 신호에 대하여 TD 확장 부호화를 수행하는 단계; 상기 입력 신호의 부호화 모드가 FD 모드로 결정되면, 상기 입력 신호를 주파수 변환하는 단계; 및 상기 주파수 변환된 입력 신호에 대하여 FD(Frequency Domain) 부호화를 수행하는 단계;를 포함할 수 있다.
본 발명의 다른 실시예에 따른 부호화 방법의 상기 FD 부호화를 수행하는 단계는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 양자화를 수행하는 것을 특징으로 할 수 있다.
본 발명의 다른 실시예에 따른 부호화 방법은 상기 입력 신호에 대하여 FD 부호화가 수행된 결과에 따른 비트스트림은 이전 프레임 모드 정보를 포함할 수 있다.
본 발명의 또 다른 실시예에 따른 부호화 방법은 입력 신호의 특성을 참조하여, 입력 신호의 부호화 모드를 결정하는 단계; 상기 입력 신호의 저주파 신호로부터 선형예측계수(Linear Prediction Coefficient, LPC)를 추출하고, 추출된 선형예측계수를 양자화하는 단계; 상기 입력 신호의 부호화 모드가 CELP 모드로 결정되면, 상기 선형예측계수를 이용하여 추출된 LPC 여기신호에 대하여 CELP 부호화를 수행하는 단계; 상기 입력 신호의 저주파 신호의 LPC 여기신호에 대하여 CELP 부호화가 수행되면, 상기 입력 신호의 고주파 신호에 대하여 TD 확장 부호화를 수행하는 단계; 상기 입력 신호의 부호화 모드가 FD 모드로 결정되면, 상기 선형예측계수를 이용하여 추출된 LPC 여기신호에 대하여 오디오 부호화를 수행하는 단계; 및 상기 입력 신호의 저주파 신호의 LPC 여기신호에 대하여 FD 부호화가 수행되면, 상기 입력 신호의 고주파 신호에 대하여 FD 확장 부호화를 수행하는 단계;를 포함할 수 있다.
본 발명의 또 다른 실시예에 따른 부호화 방법의 상기 FD 확장 부호화를 수행하는 단계는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 양자화를 수행하는 것을 특징으로 할 수 있다.
본 발명의 다른 실시예에 따른 복호화 방법은 비트스트림에 포함된 프레임들 각각에 대한 모드 정보를 검사하는 단계; 상기 검사결과에 따라 CELP 부호화된 프레임에 대하여 CELP 복호화를 수행하는 단계; 상기 CELP 복호화가 수행된 결과 및 저주파 신호의 여기신호 중 적어도 어느 하나를 이용하여, 고주파수에 대한 복호화 신호를 생성하는 단계; 상기 검사결과에 따라 FD 부호화된 프레임에 대하여 FD 복호화를 수행하는 단계; 및 상기 FD 복호화가 수행된 결과를 주파수 역변환하는 단계;를 포함할 수 있다.
본 발명의 다른 실시예에 따른 복호화 방법의 상기 FD 복호화를 수행하는 단계는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 역양자화를 수행하는 것을 특징으로 할 수 있다.
본 발명의 다른 실시예에 따른 복호화 방법의 상기 FD 복호화를 수행하는 단계는 FD 부호화된 프레임에 대하여 상기 비트스트림에 포함된 이전 프레임 모드 정보를 참조하여 FD 복호화를 수행하는 것을 특징으로 할 수 있다.
본 발명의 또 다른 실시예에 따른 복호화 방법은 비트스트림에 포함된 프레임들 각각에 대한 모드 정보를 검사하는 단계; 상기 비트스트림에 포함된 프레임들에 대하여 LPC 복호화를 수행하는 단계; 상기 검사결과에 따라 CELP 부호화된 프레임에 대하여 CELP 복호화를 수행하는 단계; 상기 CELP 복호화가 수행된 결과 및 저주파 신호의 여기신호 중 적어도 어느 하나를 이용하여, 고주파수에 대한 복호화 신호를 생성하는 단계; 상기 검사결과에 따라 오디오 부호화된 프레임에 대하여 오디오 복호화를 수행하는 단계; 및 상기 오디오 복호화가 수행된 결과를 이용하여 FD 확장 복호화를 수행하는 단계;를 포함할 수 있다.
본 발명의 또 다른 실시예에 따른 복호화 방법의 상기 FD 확장 복호화를 수행하는 단계는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 역양자화를 수행하는 것을 특징으로 할 수 있다.
본 발명의 일실시예에 따르면, 입력 신호의 기본 신호를 추출한 후 입력 신호의 고주파수 영역의 토널리티와 기본 신호의 토널리티를 이용하여 입력 신호의 에너지를 제어함으로써 고주파수 영역의 대역폭을 효율적으로 확장할 수 있다.
도 1은 본 발명의 일실시예에 따른 부호화 장치 및 복호화 장치를 도시한 도면이다.
도 2a는 본 발명의 일실시예에 따른 부호화 장치의 전체 구성을 도시한 블록 다이어그램이다.
도 2b는 본 발명의 다른실시예에 따른 부호화 장치의 전체 구성을 도시한 블록 다이어그램이다.
도 2c는 본 발명의 일실시예에 따른 부호화 장치의 FD 부호화부를 도시한 도면이다.
도 2d는 본 발명의 또 다른실시예에 따른 부호화 장치의 전체 구성을 도시한 블록 다이어그램이다.
도 3은 본 발명의 일실시예에 따른 코어 부호화부를 도시한 도면이다.
도 4는 본 발명의 일실시예에 따른 부호화 장치의 확장 부호화부를 도시한 도면이다.
도 5는 본 발명의 다른 일실시예에 따른 부호화 장치의 확장 부호화부를 도시한 도면이다.
도 6은 본 발명의 일실시예에 따른 확장 부호화부의 기본 신호 생성부를 도시한 도면이다.
도 7은 본 발명의 일실시예에 따른 확장 부호화부의 요소 추정부를 도시한 도면이다.
도 8은 본 발명의 일실시예에 따른 에너지 양자화부의 동작을 설명하기 위한 도면이다.
도 9는 본 발명의 일실시예에 따라 에너지를 양자화하는 과정을 나타낸 도면이다.
도 10은 본 발명의 일실시예에 따른 인공 신호를 생성하는 과정을 도시한 도면이다.
도 11a 내지 도 11b는 본 발명의 일실시예에 따른 포락선 추정을 위한 윈도우를 도시한 도면이다.
도 12a는 본 발명의 일실시예에 따른 복호화 장치를 도시한 블록 다이어그램이다.
도 12b는 본 발명의 다른실시예에 따른 복호화 장치를 도시한 블록 다이어그램이다.
도 12c는 본 발명의 일실시예에 따른 복호화 장치의 FD 복호화부를 도시한 도면이다.
도 12d는 본 발명의 또 다른실시예에 따른 복호화 장치를 도시한 블록 다이어그램이다.
도 13은 본 발명의 일실시예에 따른 복호화 장치의 확장 복호화부를 도시한 도면이다.
도 14는 본 발명의 일실시예에 따른 확장 복호화부의 역양자화부의 동작을 도시한 도면이다.
도 15b는 본 발명의 일실시예에 따른 부호화 방법을 도시한 플로우차트이다.
도 15b는 본 발명의 다른실시예에 따른 부호화 방법을 도시한 플로우차트이다.
도 15c는 본 발명의 또 다른실시예에 따른 부호화 방법을 도시한 플로우차트이다.
도 16a는 본 발명의 일실시예에 따른 복호화 방법을 도시한 플로우차트이다.
도 16b는 본 발명의 다른실시예에 따른 복호화 방법을 도시한 플로우차트이다.
도 16c는 본 발명의 또 다른실시예에 따른 복호화 방법을 도시한 플로우차트이다.
도 17은 본 발명의 또 다른 실시예에 따른 부호화 장치의 전체 구성을 도시한 블록 다이어그램이다.
도 18은 본 발명의 또 다른 실시예에 따른 부호화 장치의 에너지 양자화부가 수행하는 동작을 도시한 도면이다.
도 19는 본 발명의 일실시예에 따라 불균형 비트 할당 방법을 이용하여 에너지를 양자화하는 과정을 나타낸 도면이다.
도 20은 본 발명의 일실시예에 따라 인트라 프레임 예측을 이용한 벡터 양자화를 수행하는 과정을 도시한 도면이다.
도 21은 본 발명의 일실시예에 따라 주파수 가중 방법을 이용하여 에너지를 양자화하는 과정을 나타낸 도면이다.
도 22는 본 발명의 일실시예에 따라 멀티 스테이지 스플릿의 벡터 양자화와 인트라 프레임 예측을 이용한 벡터 양자화를 수행하는 과정을 도시한 도면이다.
도 23은 본 발명의 일실시예에 따라 복호화 장치의 역양자화부가 수행하는 동작을 도시한 도면이다.
도 24는 본 발명의 일실시예에 따른 부호화 장치의 다른 구조를 도시한 도면이다.
도 25는 본 발명의 일실시예에 따른 비트스트림의 일 예를 도시한 도면이다.
도 26은 본 발명의 일실시예에 따른 주파수 대역별 주파수 할당의 일 예를 도시한 도면이다.
도 27은 본 발명의 일실시예에 따른 FD 부호화부 또는 FD 복호화부에서 적용되는 주파수 대역의 일 예를 도시한 도면이다.
이하, 본 발명의 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.
도 1은 본 발명의 일실시예에 따른 부호화 장치 및 복호화 장치를 도시한 도면이다.
부호화 장치(101)는 입력 신호의 기본 신호(Base Signal)를 생성하여 복호화 장치(102)에 전송할 수 있다. 기본 신호는 저주파 신호를 기반으로 생성되며, 저주파 신호의 포락선 정보가 제거(whitening)된 신호이기 때문에 고주파 대역폭 확장을 위한 여기신호(excitation signal)일 수 있다. 그러면, 복호화 장치(102)는 기본 신호로부터 입력 신호를 복원할 수 있다. 즉, 부호화 장치(101)와 복호화 장치(102)는 SWB BWE(Super Wide Band Bandwidth Extension)을 수행한다. 구체적으로, SWB BWE는 저주파수 영역인 0~6.4KHz의 디코딩된 WB(wide band) 신호를 기반으로 SWB에 대응하는 고주파수 영역인 6.4~16KHz 신호를 생성할 수 있다. 이 때, 16KHz는 상황에 따라 변동될 수 있다. 그리고, 디코딩된 WB 신호는 LPD(Linear Prediction Domain) 기반의 CELP(Code Excited Linear Prediction) 에 따라 Speech Codec을 통해 생성된 신호이거나 또는 주파수 도메인에서 양자화를 수행하는 방식에 의해 생성된 신호일 수 있다. 주파수 도메인에서 양자화하는 방식은 MDCT(Modified Discrete Cosine Transform) 기반에서 수행하는 AAC(Advanced Audio Coding)을 들 수 있다.
이하에서는 부호화 장치(101)와 복호화 장치(102)의 세부 동작을 구체적으로 설명하기로 한다.
도 2a는 본 발명의 일실시예에 따른 부호화 장치의 전체 구성을 도시한 블록 다이어그램이다.
도 2a를 참고하면, 부호화 장치(101)는 다운 샘플링부(201), 코어 부호화부(202), 주파수 변환부(203) 및 확장 부호화부(204)를 포함할 수 있다.
다운 샘플링부(201)는 WB(wide band) 코딩을 위해 입력 신호를 다운 샘플링할 수 있다. 입력 신호인 SWB(Super wide Band) 신호는 일반적으로 32KHz 샘플링 레이트를 가지는 신호이므로, WB 코딩에 적합한 샘플링 레이트로 변환하는 것이 필요하다. 일례로, 다운 샘플링부(201)는 32KHz 샘플링 레이트를 나타내는 입력 신호를 12.8KHz로 다운 샘플링할 수 있다.
코어 부호화부(202)는 다운 샘플링된 입력 신호를 코어 부호화할 수 있다. 즉, 코어 부호화부(202)는 WB 코딩을 수행할 수 있다. 일례로, 코어 부호화부(202)는 CELP 방식의 WB 코딩을 수행할 수 있다.
주파수 변환부(203)는 입력 신호를 주파수 변환할 수 있다. 일례로, 주파수 변환부(203)는 FFT(Fast Fourier Transform) 또는 MDCT(Modified Discrete Cosing Transform) 중 어느 하나를 이용하여 입력 신호를 주파수 변환할 수 있다. 이하에서는 MDCT를 적용한 것으로 가정하여 설명하기로 한다.
확장 부호화부(204)는 주파수 영역의 입력 신호의 기본 신호를 이용하여 대역폭 확장 부호화를 수행할 수 있다. 즉, 확장 부호화부(204)는 주파수 영역의 입력 신호를 기반으로 SWB BWE 부호화를 수행할 수 있다. 이 경우, 확장 부호화부(204)는 도 4에서 부호화 정보를 입력으로 받지 않는다.
또한, 확장 부호화부(204)는 주파수 영역의 입력 신호의 기본 신호와 입력 신호의 특성을 이용하여 대역폭 확장 부호화를 수행할 수 있다. 이 경우, 입력 신호의 특성의 출처에 따라 확장 부호화부(204)는 도 4와 도 5와 같은 블록 다이어그램으로 구체화될 수 있다.
확장 부호화부(204)의 동작에 대해서는 도 4 및 도 5에서 구체적으로 설명하기로 한다.
결국, 도 2a에서 상단 path는 코어 부호화 과정을 나타내고, 하단 Path는 대역폭 확장 부호화 과정을 나타낸다. 특히, SWB BWE 부호화 과정을 통해 입력 신호의 에너지 정보가 복호화 장치(102)에 전달될 수 있다.
도 2b는 본 발명의 다른실시예에 따른 부호화 장치의 전체 구성을 도시한 블록 다이어그램이다.
도 2b를 참고하면, 부호화 장치(101)는 신호 분류부(205), CELP (Code Excited Linear Prediction) 부호화부(206), TD(Time Domain) 확장 부호화부(207), 주파수 변환부(208) 및 FD(Frequency Domain) 부호화부(209)를 포함할 수 있다.
신호 분류부(205)는 입력 신호의 특성을 참조하여, 입력 신호의 부호화 모드를 결정한다. 이때, 본 실시예에 따른 부호화 모드는 부호화 방식이 될 수 있다.
예를 들어 설명하면, 신호 분류부(205)는 입력 신호의 시간 도메인 특성과 주파수 도메인 특성을 고려하여, 입력 신호의 부호화 모드를 결정할 수 있다. 또한, 신호 분류부(205)는 입력 신호의 특성이 음성신호에 해당할 경우 입력 신호에 대하여 CELP 부호화가 수행되도록 결정하고, 입력 신호의 특성이 오디오신호에 해당할 경우 입력 신호에 대하여 FD 부호화가 수행되도록 결정할 수 있다.
다만, 신호 분류부(205)로 입력되는 입력 신호는 다운 샘플링부(미도시)에 의하여 다운 샘플링된 신호가 될 수 있다. 예를 들어 설명하면, 본 실시예에 따른 입력 신호는 32kHz 또는 48kHz의 샘플링 레이트를 가지는 신호를 리-샘플링(re-sampling)함에 따라 12.8kHz 또는 16kHz의 샘플링 레이트를 가지는 신호가 될 수 있다. 이때, 리-샘플링은 다운-샘플링이 될 수 있다.
도 2a에서 설명한 바와 같이, 32kHz의 샘플링 레이트를 가지는 신호는 SWB(Super Wide Band) 신호가 될 수 있고, 이때, SWB 신호는 Fullband(FB) 신호가 될 수 있다. 또한, 16kHz의 샘플링 레이트를 가지는 신호는 WB(Wide Band) 신호가 될 수 있다.
이에 따라, 신호 분류부(205)는 입력 신호의 저주파 영역에 대응하는 저주파 신호의 특성을 참조하여, 저주파 신호의 부호화 모드를 CELP 모드 또는 FD 모드 중 어느 하나로 결정할 수 있다.
CELP 부호화부(206)는 입력 신호의 부호화 모드가 CELP 모드로 결정되면, 입력 신호의 저주파 신호에 대하여 CELP 부호화를 수행한다. 예를 들어 설명하면, CELP 부호화부(206)는 입력 신호의 저주파 신호로부터 여기신호(excitation signal)를 추출하고, 추출된 여기신호를 피치(pitch)정보에 해당하는 adaptive codebook contribution 및 fixed codebook contribution 각각을 고려하여 양자화할 수 있다.
다만, 이에 한정되지 않고, 본 실시예에 따른 CELP 부호화부(206)는 입력 신호의 저주파 신호로부터 선형예측계수(Linear Prediction Coefficient, LPC)를 추출하고, 추출된 선형예측계수를 양자화하고, 양자화된 선형예측계수를 이용하여 여기신호를 추출하는 과정을 더 포함할 수도 있다.
또한, 본 실시예에 따른 CELP 부호화부(206)는 입력 신호의 저주파 신호의 특성에 따른 다양한 부호화 모드에 따라 CELP 부호화를 수행할 수 있다. 예를 들어 설명하면, CELP 부호화부(206)는 유성음 부호화 모드(voiced coding mode), 무성음 부호화 모드(unvoiced coding mode), 전이신호 부호화 모드(transition coding mode) 또는 일반적인 부호화 모드(generic coding mode) 중 어느 하나의 부호화 모드로 입력 신호의 저주파 신호에 대하여 CELP 부호화를 수행할 수 있다.
TD 확장 부호화부(207)는 입력 신호의 저주파 신호에 대하여 CELP 부호화가 수행되면, 입력 신호의 고주파 신호에 대하여 확장 부호화를 수행한다. 예를 들어 설명하면, TD 확장 부호화부(207)는 입력 신호의 고주파 영역에 대응하는 고주파 신호의 선형예측계수를 양자화한다. 이때, TD 확장 부호화부(207)는 입력 신호의 고주파 신호의 선형예측계수를 추출하고, 추출된 선형예측계수를 양자화할 수도 있다. 또한, 본 실시예에 따른 TD 확장 부호화부(207)는 입력 신호의 저주파 신호의 여기신호를 사용하여, 입력 신호의 고주파 신호의 선형예측계수를 생성할 수도 있다.
이에 따라, TD 확장 부호화부(207)는 TD 고주파수 확장 부호화부가 될 수 있으나, 이에 한정되지 않는다.
주파수 변환부(208)는 입력 신호의 부호화 모드가 FD(Frequency Domain) 부호화 모드로 결정되면, 입력 신호를 주파수 변환한다. 예를 들어 설명하면, 주파수 변환부(208)는 입력 신호에 대하여 MDCT(Modified Discrete Cosine Transform) 등과 같이 프레임 간에 중첩(overlap)되는 주파수 변환 방식을 사용할 수 있으나, 이에 한정되지 않는다.
FD 부호화부(209)는 주파수 변환된 입력 신호에 대하여 FD 부호화를 수행한다. 예를 들어 설명하면, FD 부호화부(209)는 주파수 변환부(208)에서 변환된 주파수 스펙트럼에 대하여 FD 부호화를 수행할 수 있다. FD 부호화부(209)에 관하여 이하 도 2c에서 상세히 설명한다.
본 실시예에 따른 부호화 장치(101)는 입력 신호를 상기된 바에 따른 부호화 방법을 사용하여 부호화된 비트스트림을 출력할 수 있다. 예를 들어 설명하면, 입력 신호가 부호화된 비트스트림은 헤더(header) 및 페이로드(payload)를 포함할 수 있다.
이때, 헤더는 입력 신호가 부호화된 모드를 나타내는 부호화 모드정보를 포함할 수 있고, 페이로드는 입력 신호가 부호화된 모드에 따라, 입력 신호가 CELP 모드로 부호화된 경우에는 CELP 정보 및 TD 고주파수 확장정보를 포함할 수 있고, 입력 신호가 FD 모드로 부호화된 경우에는 예측 데이터(prediction data) 및 FD 정보를 포함할 수 있다.
다만, 본 실시예에 따른 부호화된 비트스트림은 프레임 에러가 발생하는 경우에 대비하기 위하여, 비트스트림의 헤더에 이전 프레임의 모드정보를 더 포함할 수 있다. 예를 들어 설명하면, 비트스트림의 헤더는 입력 신호의 부호화 보드가 FD 모드로 결정된 경우, 이전 프레임의 모드정보를 더 포함할 수 있다. 이에 관하여, 이하 도 25에서 좀 더 상세히 설명한다.
이에 따라, 본 실시예에 따른 부호화 장치(101)는 입력 신호의 특성에 따라 CELP 모드 또는 FD 모드 중 어느 하나의 부호화 모드를 사용하도록 스위칭 됨에 따라 입력 신호의 특성에 따라 적절한 부호화 모드를 수행할 수 있다. 또한, 본 실시예에 따른 부호화 장치(101)는 신호 분류부(205)의 결정에 따라 FD 모드를 사용함에 따라, 고비트율 환경에 적절한 부호화를 수행할 수 있다.
도 2c는 본 발명의 일실시예에 따른 부호화 장치의 FD 부호화부를 도시한 도면이다.
도 2c를 참조하면, FD 부호화부(209)는 Norm 부호화부(2091), FPC(Factorial Pulse Coding) 부호화부(2092), 노이즈 부가정보 생성부(2093) 및 FD 확장 부호화부(2094)를 포함할 수 있다.
Norm 부호화부(2091)는 주파수 변환부(208)에서 변환된 입력 신호에 대하여 주파수 밴드 별로 에너지를 추출하고, 추출된 에너지를 양자화한다. 또한, Norm 부호화부(2091)는 추출된 에너지를 기반으로 스케일링(scaling)할 수 있고, 이때, 스케일링될 에너지 값은 양자화될 수 있다. 예를 들어 설명하면, 본 실시예에 따른 에너지 값은 에너지, 파워 등과 같이 주파수 밴드의 에너지와 비례관계에 있는 측정 방식을 사용하여 획득할 수 있다.
Norm 부호화부(2091)에서 양자화된 결과에 따른 Norm 정보는 부호화된 비트스트림에 포함되어 복호화 장치(102)로 전송될 수 있다.
예를 들어 설명하면, Norm 부호화부(2091)는 입력 신호에 대응하는 주파수 스펙트럼을 소정 개수의 주파수 밴드들로 분할하고, 주파수 스펙트럼을 분할된 주파수 밴드 별로 에너지를 추출하고, 추출된 에너지 값을 양자화한다. 이와 같이, 양자화된 값은 주파수 스펙트럼을 정규화(normalization)하는데 사용될 수 있다.
이때, Norm 부호화부(2091)는 양자화된 값을 부호화하는 과정을 더 수행할 수도 있다.
FPC 부호화부(2092)는 양자화된 Norm 값으로 상기 변환된 입력 신호를 스케일링한 값에 대하여 FPC 부호화를 수행한다. 즉, FPC 부호화부(2092)는 Norm 부호화부(2091)에서 정규화된 스펙트럼 값에 대하여 FPC 부호화를 수행할 수 있다.
예를 들어 설명하면, FPC 부호화부(2092)는 분할된 주파수 밴드 별로 가용한 비트 수를 할당하고, 정규화된 스펙트럼 값에 대하여 주파수 밴드 별로 할당된 비트 수에 따른 FPC 부호화를 수행한다. 이러한 경우, 주파수 밴드 별로 할당되는 비트 수는 타겟 비트율(target bitrate)에 따라 결정될 수 있다. 또한, FPC 부호화부(2092)는 Norm 부호화부(2091)에서 양자화된 Norm 부호화 값을 사용하여 주파수 밴드 별로 할당되는 비트를 산출할 수도 있다. 이러한 경우, FPC 부호화부(2092)는 정규화된 스펙트럼이 아닌 주파수 변환된 스펙트럼에 대하여 FPC 부호화를 수행할 수도 있다.
노이즈 부가정보 생성부(2093)는 FPC 부호화가 수행됨에 따른 노이즈 부가정보를 생성한다. 예를 들어 설명하면, 노이즈 부가정보 생성부(2093)는 FPC 부호화부(2092)에서 주파수 스펙트럼에 대한 FPC 부호화의 수행을 참조하여, 적절한 노이즈 레벨을 생성한다.
이때, 노이즈 부가정보 생성부(2093)에서 생성된 부가정보는 복호화 단에서 노이즈 필링(noise filling)을 수행하는 경우 참조할 수 있도록, 부호화된 비트스트림에 포함될 수 있다.
FD 확장 부호화부(2094)는 입력 신호의 고주파 신호에 대하여 확장 부호화를 수행한다. 좀 더 상세히 설명하면, FD 확장 부호화부(2094)는 저주파수 스펙트럼을 이용하여 고주파수 확장을 수행한다.
예를 들어 설명하면, FD 확장 부호화부(2094)는 입력 신호의 고주파 영역에 대응하는 고주파 신호의 주파수 도메인 에너지 정보의 양자화를 수행한다. 이때, FD 확장 부호화부(2094)는 입력 신호에 대응하는 주파수 스펙트럼을 소정 개수의 주파수 밴드들로 분할하고, 분할된 주파수 밴드 별로 주파수 스펙트럼의 에너지를 획득하고, 획득된 에너지를 이용하여 MSVQ(Multi stage Vector Quantization) 방식을 수행할 수 있다. 이때, MSVQ 방식은 다단계 벡터 양자화가 될 수 있다.
좀 더 상세히 설명하면, FD 확장 부호화부(2094)는 소정 개수의 주파수 밴드들 중 홀수 번째 밴드들의 에너지 정보를 모아 VQ를 수행하고, VQ를 수행한 결과에 따른 양자화된 값을 이용하여 짝수 번째 밴드의 예측 에러를 획득하고, 다음 스테이지에서 획득된 예측 에러에 대한 VQ를 수행할 수 있다.
다만, 이에 한정되지 않고, FD 확장 부호화부(2094)는 짝수 번째 밴드들의 에너지 정보를 모아 VQ를 수행하고, VQ를 수행한 결과에 따른 양자화된 값을 이용하여 홀수 번째 밴드의 예측 에러를 획득할 수도 있다.
즉, FD 확장 부호화부(2094)는 제n 번째 밴드에 VQ를 수행한 결과에 따른 양자화된 값과 제n+2 번째 밴드에 VQ를 수행한 결과에 따른 양자화된 값을 이용하여, 제n+1 번째 밴드에 대한 예측 에러를 획득한다. 이때, n은 자연수가 될 수 있다.
또한, FD 확장 부호화부(2094)에서 에너지 정보를 모아 VQ를 수행함에 있어서, FD 확장 부호화부(2094)는 소정의 주파수 밴드에서 여기신호를 생성하는 방식을 시뮬레이션(simulation)해보고, 시뮬레이션 결과에 따른 여기신호의 특성과 상기 소정의 주파수 밴드의 원신호의 특성이 다르면, 에너지를 조절할 수 있다. 이때, 시뮬레이션 결과에 따른 여기신호의 특성 및 원신호의 특성은 tonality 및 noiseness factor 중 적어도 어느 하나가 될 수 있으나, 이에 한정되지 않는다. 이에 따라, 복호화단에서 실제 에너지와 같은 복호화를 수행하였을 때, 노이즈가 증가되는 현상을 방지할 수 있다.
FD 확장 부호화부(2094)는 입력 신호의 고주파 신호의 특성에 따라 다양한 여기신호 생성방식을 사용하는 멀티 모드 고주파 확장(Multi Mode Bandwidth Extension) 방식을 사용할 수 있다. 예를 들어 설명하면, FD 확장 부호화부(2094)는 입력 신호의 특성에 따라 프레임 별로 노말(normal) 모드, 하모닉(harmonic) 모드, 또는 노이즈(noise) 모드 중 어느 하나의 모드를 사용하여 여기신호를 생성할 수 있다.
또한, 본 실시예에 따른 FD 확장 부호화부(2094)는 비트율에 따라 서로 다른 주파수 대역에 대한 신호를 생성할 수 있다. 즉, FD 확장 부호화부(2094)에서 확장 부호화가 수행되는 고주파 신호에 대응하는 고주파수 대역은 비트율에 따라, 서로 다른게 설정될 수 있다.
예를 들어 설명하면, FD 확장 부호화부(2094)는 16kbps의 비트율에서는 약 6.4 내지 14.4kHz의 주파수 대역에 해당하는 신호를 생성하는데 사용되고, 16kbps 이상의 비트율에서는 약 8 내지 16kHz의 주파수 대역에 해당하는 신호를 생성하는데 사용할 수 있다. 또한, FD 확장 부호화부(2094)는 16kbps의 비트율에서는 약 6.4 내지 14.4kHz의 주파수 대역에 해당하는 고주파 신호에 대하여 확장 부호화를 수행하고, 16kbps 이상의 비트율에서는 약 8 내지 16kHz의 주파수 대역에 해당하는 고주파 신호에 대하여 확장 부호화를 수행한다.
이러한 경우, 본 실시예에 따른 FD 확장 부호화부(2094)는 서로 다른 비트율에 대하여, 동일한 코드북을 공유하여 에너지 양자화를 수행할 수 있다. 이에 관하여, 이하 도 26에서 좀 더 상세히 설명한다.
또한, 본 실시예에 따른 FD 부호화부(209)는 stationary 프레임이 입력되는 경우, Norm 부호화부(2091), FPC 부호화부(2092), 노이즈 부가정보 생성부(2093) 및 FD 확장 부호화부(2094) 각각에 따른 동작이 수행될 수 있다.
다만, transient 프레임이 입력되는 경우, 본 실시예에 따른 FD 부호화부(209)에서 FD 확장 부호화부(2094)는 동작하지 않을 수 있다. 이러한 경우, FD 부호화부(209)의 Norm 부호화부(2091) 및 FPC 부호화부(2092)는 stationary 프레임이 입력되는 경우보다 FPC 코딩을 수행하는 주파수 대역의 상위 밴드값(Fcore)을 더 높게 적용할 수 있다. Fcore 값에 대하여 이하 도 27에서 좀 더 상세히 설명한다.
도 2d는 본 발명의 또 다른실시예에 따른 부호화 장치의 전체 구성을 도시한 블록 다이어그램이다.
도 2d를 참고하면, 부호화 장치(101)는 신호 분류부(210), LPC 부호화부(211), CELP 부호화부(212), TD 확장 부호화부(213), 오디오 부호화부(214) 및 FD 확장 부호화부(215)를 포함할 수 있다.
신호 분류부(210)는 입력 신호의 특성을 참조하여, 입력 신호의 부호화 모드를 결정한다. 이때, 본 실시예에 따른 부호화 모드는 부호화 방식이 될 수 있다.
예를 들어 설명하면, 신호 분류부(210)는 입력 신호의 시간 도메인 특성과 주파수 도메인 특성을 고려하여, 입력 신호의 부호화 모드를 결정할 수 있다. 또한, 신호 분류부(205)는 입력 신호의 특성이 음성신호에 해당할 경우 입력 신호에 대하여 CELP 부호화가 수행되도록 결정하고, 입력 신호의 특성이 오디오신호에 해당할 경우 입력 신호에 대하여 오디오 부호화가 수행되도록 결정할 수 있다.
LPC 부호화부(211)는 입력 신호의 저주파 신호로부터 선형예측계수(Linear Prediction Coefficient, LPC)를 추출하고, 추출된 선형예측계수를 양자화한다. 예를 들어 설명하면, 본 실시예에 따른 LPC 부호화부(211)는 TCQ(Trellis Coded Quantization) 방식, MSVQ(Multi-stage Vector Quantization) 방식, LVQ(Lattice Vector Quantization) 방식 등을 사용하여, 선형예측계수를 양자화할 수 있으나, 이에 한정되지 않는다.
좀 더 상세히 설명하면, LPC 부호화부(211)는 32kHz 또는 48kHz의 샘플링 레이트를 가지는 입력 신호를 리-샘플링(re-sampling)함에 따라 12.8kHz 또는 16kHz의 샘플링 레이트를 가지는 입력 신호의 저주파 신호로부터 선형예측계수를 추출할 수 있다.
도 2a 내지 도 2b에서 설명한 바와 같이, 32kHz의 샘플링 레이트를 가지는 신호는 SWB(Super Wide Band) 신호가 될 수 있고, 이때, SWB 신호는 Fullband(FB) 신호가 될 수 있다. 또한, 16kHz의 샘플링 레이트를 가지는 신호는 WB(Wide Band) 신호가 될 수 있다.
또한, LPC 부호화부(211)는 양자화된 선형예측계수를 이용하여 LPC 여기신호를 추출하는 과정을 더 포함할 수도 있으나, 이에 한정되지 않는다.
CELP 부호화부(212)는 입력 신호의 부호화 모드가 CELP 모드로 결정되면, 선형예측계수를 이용하여 추출된 LPC 여기신호에 대하여 CELP 부호화를 수행한다. 예를 들어 설명하면, CELP 부호화부(212)는 LPC 여기신호에 대하여 피치(pitch)정보에 해당하는 adaptive codebook contribution 및 fixed codebook contribution 각각을 고려하여 양자화할 수 있다. 이때, LPC 여기신호는 CELP 부호화부(212) 및 LPC 부호화부(211) 중 적어도 어느 하나에서 생성될 수 있다.
또한, 본 실시예에 따른 CELP 부호화부(212)는 입력 신호의 저주파 신호의 특성에 따른 다양한 부호화 모드에 따라 CELP 부호화를 수행할 수 있다. 예를 들어 설명하면, CELP 부호화부(206)는 유성음 부호화 모드(voiced coding mode), 무성음 부호화 모드(unvoiced coding mode), 전이신호 부호화 모드(transition coding mode) 또는 일반적인 부호화 모드(generic coding mode) 중 어느 하나의 부호화 모드로 입력 신호의 저주파 신호에 대하여 CELP 부호화를 수행할 수 있다.
TD 확장 부호화부(213)는 입력 신호의 저주파 신호의 LPC 여기신호에 대하여 CELP 부호화가 수행되면, 상기 입력 신호의 고주파 신호에 대하여 확장 부호화를 수행한다.
예를 들어 설명하면, TD 확장 부호화부(213)는 입력 신호의 고주파 신호의 선형예측계수를 양자화한다. 이때, 본 실시예에 따른 TD 확장 부호화부(213)는 입력 신호의 저주파 신호의 LPC 여기신호를 사용하여, 입력 신호의 고주파 신호의 선형예측계수를 추출할 수도 있다.
이에 따라, TD 확장 부호화부(213)는 TD 고주파수 확장 부호화부가 될 수 있으나, 이에 한정되지 않는다.
오디오 부호화부(214)는 입력 신호의 부호화 모드가 오디오 부호화 모드로 결정되면, 선형예측계수를 이용하여 추출된 LPC 여기신호에 대하여 오디오 부호화를 수행한다.
예를 들어 설명하면, 오디오 부호화부(214)는 선형예측계수를 이용하여 추출된 LPC 여기신호를 주파수 변환하고, 변환된 LPC 여기신호를 양자화한다.
오디오 부호화부(214)에서 주파수 변환을 수행함에 있어서, DCT(Discrete Cosine Transform) 등과 같이 프레임 간에 중첩(overlap)되는 영역이 존재하지 않는 주파수 변환 방식을 사용할 수 있다. 또한, 오디오 부호화부(214)는 주파수 변환된 여기신호 스펙트럼에 대하여 FPC 방식, 또는 Lattice VQ(LVQ) 방식에 따른 양자화를 수행할 수 있다.
추가적으로, 오디오 부호화부(214)는 LPC 여기신호에 대하여 양자화를 수행함에 있어서 비트의 여유가 있는 경우, adaptive codebook contribution 및 fixed codebook contribution의 TD 코딩 정보를 더 고려하여 양자화할 수도 있다.
FD 확장 부호화부(215)는 입력 신호의 저주파 신호의 LPC 여기신호에 대하여 오디오 부호화가 수행되면, 입력 신호의 고주파 신호에 대하여 확장 부호화를 수행한다. 즉, FD 확장 부호화부(215)는 저주파수 스펙트럼을 이용하여 고주파수 확장을 수행한다.
예를 들어 설명하면, FD 확장 부호화부(215)는 입력 신호의 고주파 영역에 대응하는 고주파 신호의 주파수 도메인 에너지 정보의 양자화를 수행한다. 이때, FD 확장 부호화부(215)는 MDCT 등과 같은 주파수 변환 방식을 사용하여 주파수 스펙트럼을 생성하고, 주파수 스펙트럼을 소정 개수의 주파수 밴드들로 분할하고, 분할된 주파수 밴드 별로 주파수 스펙트럼의 에너지를 획득하고, 획득된 에너지를 이용하여 MSVQ(Multi stage Vector Quantization) 방식을 수행할 수 있다. 이때, MSVQ 방식은 다단계 벡터 양자화가 될 수 있다.
좀 더 상세히 설명하면, FD 확장 부호화부(215)는 소정 개수의 주파수 밴드들 중 홀수 번째 밴드들의 에너지 정보를 모아 VQ를 수행하고, VQ를 수행한 결과에 따른 양자화된 값을 이용하여 짝수 번째 밴드의 예측 에러를 획득하고, 다음 스테이지에서 획득된 예측 에러에 대한 VQ를 수행할 수 있다.
다만, 이에 한정되지 않고, FD 확장 부호화부(215)는 짝수 번째 밴드들의 에너지 정보를 모아 VQ를 수행하고, VQ를 수행한 결과에 따른 양자화된 값을 이용하여 홀수 번째 밴드의 예측 에러를 획득할 수도 있다.
즉, FD 확장 부호화부(215)는 제n 번째 밴드에 VQ를 수행한 결과에 따른 양자화된 값과 제n+2 번째 밴드에 VQ를 수행한 결과에 따른 양자화된 값을 이용하여, 제n+1 번째 밴드에 대한 예측 에러를 획득한다. 이때, n은 자연수가 될 수 있다.
또한, FD 확장 부호화부(215)에서 에너지 정보를 모아 VQ를 수행함에 있어서, FD 확장 부호화부(215)는 소정의 주파수 밴드에서 여기신호를 생성하는 방식을 시뮬레이션(simulation)해보고, 시뮬레이션 결과에 따른 여기신호의 특성과 상기 소정의 주파수 밴드의 원신호의 특성이 다르면, 에너지를 조절할 수 있다. 이때, 시뮬레이션 결과에 따른 여기신호의 특성 및 원신호의 특성은 tonality 및 noiseness factor 중 적어도 어느 하나가 될 수 있으나, 이에 한정되지 않는다. 이에 따라, 복호화단에서 실제 에너지와 같은 복호화를 수행하였을 때, 노이즈가 증가되는 현상을 방지할 수 있다.
FD 확장 부호화부(215)는 입력 신호의 고주파 신호의 특성에 따라 다양한 여기신호 생성방식을 사용하는 멀티 모드 고주파 확장(Multi Mode Bandwidth Extension) 방식을 사용할 수 있다. 예를 들어 설명하면, FD 확장 부호화부(215)는 입력 신호의 특성에 따라 프레임 별로 노말(normal) 모드, 하모닉(harmonic) 모드, 전이(transient) 모드, 또는 노이즈(noise) 모드 중 어느 하나의 모드를 사용하여 여기신호를 생성할 수 있다. 이러한 경우, 전이 모드에서는 temporal envelope 정보도 함께 양자화될 수 있다.
또한, 본 실시예에 따른 FD 확장 부호화부(215)는 비트율에 따라 서로 다른 주파수 대역에 대한 신호를 생성할 수 있다. 즉, FD 확장 부호화부(215)에서 확장 부호화가 수행되는 고주파 신호에 대응하는 고주파수 대역은 비트율에 따라, 서로 다른게 설정될 수 있다.
예를 들어 설명하면, FD 확장 부호화부(215)는 16kbps의 비트율에서는 약 6.4 내지 14.4kHz의 주파수 대역에 해당하는 신호를 생성하는데 사용되고, 16kbps 이상의 비트율에서는 약 8 내지 16kHz의 주파수 대역에 해당하는 신호를 생성하는데 사용할 수 있다. 또한, FD 확장 부호화부(215)는 16kbps의 비트율에서는 약 6.4 내지 14.4kHz의 주파수 대역에 해당하는 고주파 신호에 대하여 확장 부호화를 수행하고, 16kbps 이상의 비트율에서는 약 8 내지 16kHz의 주파수 대역에 해당하는 고주파 신호에 대하여 확장 부호화를 수행한다.
이러한 경우, 본 실시예에 따른 FD 확장 부호화부(215)는 서로 다른 비트율에 대하여, 동일한 코드북을 공유하여 에너지 양자화를 수행할 수 있다. 이에 관하여, 이하 도 26에서 좀 더 상세히 설명한다.
본 실시예에 따른 부호화 장치(101)는 입력 신호를 상기된 바에 따른 부호화 방법을 사용하여 부호화된 비트스트림을 출력할 수 있다. 예를 들어 설명하면, 입력 신호가 부호화된 비트스트림은 헤더(header) 및 페이로드(payload)를 포함할 수 있다.
이때, 헤더는 입력 신호가 부호화된 모드를 나타내는 부호화 모드정보를 포함할 수 있고, 페이로드는 입력 신호가 부호화된 모드에 따라, 입력 신호가 CELP 모드로 부호화된 경우에는 CELP 정보 및 TD 고주파수 확장정보를 포함할 수 있고, 입력 신호가 오디오 부호화 모드로 부호화된 경우에는 예측 데이터(prediction data), 오디오 부호화 정보 및 FD 고주파수 확장정보를 포함할 수 있다.
입력 신호의 특성에 따라 CELP 모드 또는 오디오 부호화 모드 중 어느 하나의 부호화 모드를 사용하도록 스위칭 됨에 따라 입력 신호의 특성에 따라 적절한 부호화 모드를 수행할 수 있다. 또한, 본 실시예에 따른 부호화 장치(101)는 신호 분류부(210)의 결정에 따라 FD 모드를 사용함에 따라, 저비트율 환경에 적절한 부호화를 수행할 수 있다.
도 3은 본 발명의 일실시예에 따른 코어 부호화부를 도시한 도면이다.
도 3을 참고하면, 코어 부호화부(202)는 신호 분류부(301) 및 부호화부(302)를 포함할 수 있다.
신호 분류부(301)는 다운샘플링된 입력 신호(12.8KHz)의 특성을 분류할 수 있다. 즉, 신호 분류부(301)는 입력 신호의 특성에 따라 입력 신호를 다양한 부호화 모드로 분류할 수 있다. 예를 들어, ITU-T G.718 코덱에서 신호 분류부(301)는 음성 신호를 유성음 부호화 모드(Voiced coding mode), 무성음 부호화 모드(unvoiced coding mode), 전이신호 부호화 모드(transition coding mode), 그리고 일반적인 신호 부호화 모드(generic coding mode)로 분류할 수 있다. 여기서, 무성음 부호화 모드는 무성음 프레임과 대부분의 inactive frame을 부호화하기 위해 설계되었다.
부호화부(302)는 신호 분류부(301)에서 분류된 입력 신호의 특성에 따라 최적화된 코딩을 수행할 수 있다.
도 4는 본 발명의 일실시예에 따른 부호화 장치의 확장 부호화부를 도시한 도면이다.
도 4을 참고하면, 확장 부호화부(204)는 기본 신호 생성부(401), 요소 추정부(402), 에너지 추출부(403), 에너지 제어부(404) 및 에너지 양자화부(405)를 포함할 수 있다. 일례로, 확장 부호화부(204)는 부호화 모드를 입력받지 않고 에너지 제어 요소를 추정할 수 있다. 다른 일례로, 확장 부호화부(204)는 부호화 모드를 이용하여 에너지 제어 요소를 추정할 수 있다. 이 때, 부호화 모드는 코어 부호화부(202)로부터 입력될 수 있다.
기본 신호 생성부(401)는 주파수 영역의 입력 신호의 주파수 스펙트럼을 이용하여 입력 신호의 기본 신호(basic signal)를 생성할 수 있다. 기본 신호는 WB 신호를 기반으로 SWB BWE를 수행하기 위한 신호를 의미한다. 다시 말해서, 기본 신호는 저주파 영역의 Fine Structure를 구성하는 신호를 의미한다. 기본 신호를 생성하는 과정은 도 6에서 보다 구체적으로 설명하기로 한다.
일례로, 요소 추정부(402)는 기본 신호를 이용하여 에너지 제어 요소(energy control factor)를 추정할 수 있다. 즉, 부호화 장치(101)는 복호화 장치(102)에서 SWB 영역의 신호를 생성하기 위해 입력 신호의 에너지 정보를 전송한다. 이 때, 요소 추정부(402)는 에너지 정보를 지각적인 관점에서 제어하기 위해 에너지를 제어하기 위한 파라미터인 에너지 제어 요소를 추정할 수 있다. 에너지 제어 요소를 추정하는 과정은 도 7에서 구체적으로 설명하기로 한다.
다른 일례로, 요소 추정부(402)는 기본 신호와 입력 신호의 특성을 이용하여 에너지 제어 요소를 추정할 수 있다. 이 때, 입력 신호의 특성은 코어 부호화부(202)로부터 입력될 수 있다.
에너지 추출부(403)는 주파수 영역의 입력 신호로부터 에너지를 추출할 수 있다. 추출된 에너지는 복호화 장치(102)에 전송된다. 에너지는 주파수 밴드별로 추출될 수 있다.
에너지 제어부(404)는 에너지 제어 요소를 이용하여 입력 신호로부터 추출된 에너지를 제어할 수 있다. 즉, 에너지 제어부(404)는 주파수 밴드별로 추출된 에너지에 에너지 제어 요소를 적용함으로써 에너지를 제어할 수 있다.
에너지 양자화부(405)는 제어된 에너지를 양자화(quantization)할 수 있다. 에너지는 dB scale로 변환되어 양자화가 수행될 수 있다. 구체적으로, 에너지 양자화부(405)는 전체 에너지인 글로벌(global) 에너지를 구하고, 글로벌 에너지 및 주파수 밴드별 에너지와 글로벌 에너지 간의 차이를 스칼라 양자화할 수 있다. 또는 첫번째 밴드는 에너지를 직접 양자화하고, 두번 째 이후의 밴드는 이전 밴드와의 차이를 양자화 할 수 있다. 또한, 에너지 양자화부(405)는 주파수 밴드의 차이값을 이용하지 않고, 주파수 밴드별로 에너지를 직접 양자화할 수도 있다. 주파수 밴드별로 에너지를 직접 양자화하는 경우, 스칼라 또는 벡터 양자화가 이용될 수 있다. 에너지 양자화부(405)에 대해서는 도 8 및 도 9에서 구체적으로 설명하기로 한다.
도 5는 본 발명의 다른 일실시예에 따른 부호화 장치의 확장 부호화부를 도시한 도면이다.
도 5의 확장 부호화부(204)는 도 4와 달리 신호 분류부(501)를 더 포함할 수 있다. 일례로, 요소 추정부(402)는 기본 신호와 입력 신호의 특성을 이용하여 에너지 제어 요소를 추정할 수 있다. 이 때, 입력 신호의 특성은 코어 부호화부(202)에서 입력되는 것이 아니라, 신호 분류부(501)에서 입력될 수 있다.
신호 분류부(501)는 입력 신호(32 KHz, MDCT Spectrum)를 이용하여 입력 신호를 특성에 따라 분류할 수 있다. 구체적으로, 신호 분류부(501)는 입력 신호를 특성에 따라 다양한 부호화 모드로 분류할 수 있다.
입력 신호의 특성이 분류됨에 따라 에너지 제어 요소 추정과정이 적합한 신호에 대해서만 에너지 제어 요소가 추정되고, 또한 에너지가 제어될 수 있다. 예를 들어, 노이즈 신호나 무성음 신호처럼 토널한 성분을 포함하지 않는 신호는 에너지 제어 요소 추정과정이 적합하지 않을 수 있다. 이 때, 확장 부호화부(204)는 입력 신호가 무성음 부호화 모드로 분류된 경우, 확장 부호화부(204)는 에너지 제어 요소를 추정하지 않고 대역폭 확장 부호화를 수행할 수 있다.
도 5에서, 기본 신호 생성부(401), 요소 추정부(402), 에너지 추출부(403), 에너지 제어부(404) 및 에너지 양자화부(405)에 대한 설명은 도 4를 참조할 수 있다.
도 6은 본 발명의 일실시예에 따른 확장 부호화부의 기본 신호 생성부를 도시한 도면이다.
도 6를 참고하면, 기본 신호 생성부(401)는 인공 신호 생성부(601), 포락선 적용부(602) 및 포락선 추정부(603)를 포함할 수 있다.
인공 신호 생성부(601)는 주파수 영역의 입력 신호의 저주파수 영역을 복사하고 폴딩하여 고주파수 영역에 대응하는 인공 신호(artificial signal)를 생성할 수 있다. 즉, 인공 신호 생성부(601)는 주파수 영역의 입력 신호의 저주파수 스펙트럼을 복사하여 SWB 영역의 인공 신호를 생성할 수 있다. 인공 신호를 생성하는 구체적인 과정은 도 6에서 설명하기로 한다.
포락선 추정부(602)는 윈도우를 이용하여 기본 신호의 포락선을 추정할 수 있다. 기본 신호의 포락선은 SWB 영역의 인공 신호의 주파수 스펙트럼에 포함되어 있는 저주파수 영역의 포락선 정보를 제거하기 위해 사용될 수 있다. 특정 주파수 인덱스의 포락선은 특정 주파수 이전과 이후의 주파수 스펙트럼을 사용하여 결정될 수 있다. 그리고, 움직임 평균(Moving Average)를 통해 포락선이 추정될 수 있다. 일례로, 주파수 변환시에 MDCT가 사용되었다면, MDCT 변환된 주파수 스펙트럼의 절대값을 통해 기본 신호의 포락선이 추정될 수 있다.
이 때, 포락선 추정부(602)는 Whitening 밴드를 구성한 후 Whitening 밴드 별로 주파수 Magnitude의 평균을 Whitening 밴드 내에 속한 주파수의 포락선으로 추정할 수 있다. 상기 Whitening 밴드에 속하는 주파수 스펙트럼의 개수는 에너지를 추출하는 밴드보다 더 적게 설정될 수 있다.
화이트닝(Whitening) 밴드 별로 주파수 크기(magnitude)의 평균을 화이트닝 밴드 내에 속한 주파수의 포락선으로 추정하는 경우, 포락선 추정부(602)는 화이트닝 밴드 내에 속한 스펙트럼의 개수가 많은지 또는 적은지의 여부를 정보로 전송하여 기본 신호의 평탄화 정도를 조절할 수 있다. 예를 들어, 포락선 추정부(602)는 8개의 스펙트럼으로 구성된 경우와 3개의 스펙트럼으로 구성된 경우의 2가지 방식에 근거하여 정보를 전송할 수 있다. 이 때 3개의 스펙트럼으로 구성된 경우, 8개의 스펙트럼으로 구성된 경우보다 더 평탄화 된 기본 신호가 생성될 수 있다.
또한, 포락선 추정부(602)는 화이트닝 밴드 내에 속한 스펙트럼의 개수가 많은지 또는 적은지의 여부에 대한 정보를 전송하지 않고, 코어 부호화부(202)에 사용된 부호화 모드에 따라서 결정할 수 있다. 코어 부호화부(202)는 입력 신호의 특성에 따라 입력 신호를 유성음 부호화, 무성음 부호화 모드, Transient 부호화 모드 및, Generic 부호화 모드로 구분하여 입력 신호를 부호화 할 수 있다.
이 때, 포락선 추정부(602)는 입력 신호의 특성에 따른 부호화 모드에 기초하여 화이트닝(Whitening) 밴드에 속한 주파수 스펙트럼의 개수를 제어시킬 수 있다. 일례로, 입력 신호가 유성음 부호화 모드에 따라 부호화된 경우, 포락선 추정부(602)는 화이트닝(Whitening) 밴드에 3개의 주파수 스펙트럼으로 구성하여 포락선을 추정할 수 있다. 그리고, 입력 신호가 유성음 부호화 모드 이외의 부호화 모드에 따라 부호화된 경우, 포락선 추정부(602)는 화이트닝(Whitening) 밴드에 3개의 주파수 스펙트럼으로 구성하여 포락선을 추정할 수 있다.
포락선 적용부(603)는 추정된 포락선을 인공 신호에 적용할 수 있다. 이러한 과정을 whitening이라고 하며, 인공 신호가 포락선에 의해 평탄화될 수 있다. 포락선 적용부(603)는 인공 신호를 주파수 인덱스 각각의 포락선으로 나누어서 기본 신호를 생성할 수 있다.
도 7은 본 발명의 일실시예에 따른 확장 부호화부의 요소 추정부를 도시한 도면이다.
도 7을 참고하면, 요소 추정부(402)는 제1 토널리티(Tonality) 계산부(701), 제2 토널리티 계산부(702) 및 요소 계산부(703)를 포함할 수 있다.
제1 토널리티 계산부(701)는 주파수 영역의 입력 신호의 고주파수 영역의 토널리티(tonality)을 계산할 수 있다. 즉, 제1 토널리티 계산부(701)는 입력 신호의 고주파수 영역인 SWB 영역의 토널리티를 계산할 수 있다.
제2 토널리티 계산부(702)는 기본 신호의 토널리티를 계산할 수 있다.
토널리티는 spectral flatness를 측정함으로써 계산될 수 있다. 구체적으로, 하기 수학식 1에 따라 토널리티가계산될 수 있다. spectral flatness는 주파수 스펙트럼의 기하 평균과 산술 평균의 관계를 통해 측정될 수 있다.
Figure pat00001
요소 계산부(703)는 입력 신호의 고주파수 영역의 토널리티와 기본 신호의 토널리티를 이용하여 에너지 제어 요소를 계산할 수 있다. 이 때, 에너지 제어 요소는 하기 수학식 2에 따라 계산될 수 있다.
Figure pat00002
여기서, α는 에너지 제어 요소를 나타내며, To는 입력 신호의 토널리티, Tb는 기본 신호의 토널리티를 나타낸다. Nb는 노이지니스 팩터(Noisiness factor)이며, 신호에 노이즈 성분이 포함된 정도를 나타낸다.
에너지 제어 요소는 하기 수학식 3에 따라 계산될 수도 있다.
Figure pat00003
요소 계산부(703)는 각각의 주파수 밴드별로 에너지 제어 요소를 계산할 수 있다. 계산된 에너지 제어 요소는 입력 신호의 에너지에 적용될 수 있다. 이 때, 에너지 제어 요소는 에너지 제어 요소가 미리 설정한 임계 에너지 제어 요소보다 작은 경우에 입력 신호의 에너지에 적용될 수 있다.
도 8은 본 발명의 일실시예에 따른 에너지 양자화부의 동작을 설명하기 위한 도면이다.
단계(S801)에서, 에너지 양자화부(405)는 에너지 제어 요소로 인해 에너지의 벡터를 전처리하고, 전처리된 에너지 벡터의 서브 벡터를 선택할 수 있다. 일례로, 에너지 양자화부(405)는 에너지 벡터 각각에 대해 평균값을 빼거나 또는 에너지 벡터 각각의 중요도에 대한 가중치를 계산할 수 있다. 이 때, 중요도에 대한 가중치는 합성음의 음질을 최대화하는 방향으로 계산될 수 있다.
그리고, 에너지 양자화부(405)는 부호화 효율을 고려하여 에너지 벡터의 서브 벡터를 적절하게 선택할 수 있다. 그리고 보간 효과를 향상시키기 위해 에너지 양자화부(405)는 동일한 간격으로 서브 벡터를 선택할 수 있다.
일례로, 에너지 양자화부(405)는 하기 수학식 4에 따라 서브 벡터를 선택할 수 있다.
Figure pat00004
이 경우 k=2가 되면 짝수만이 선택된다.
단계(S802)에서, 에너지 양자화부(405)는 선택된 서브 벡터를 양자화 및 역양자화한다. 에너지 양자화부(405)는 수학식 5에 따라 계산된 MSE를 최소화하는 양자화 인덱스를 선택하여 서브 벡터를 양자화할 수 있다.
Figure pat00005
에너지 양자화부(405)는 스칼라 양자화, 벡터양자화, TCQ(Trellis coded quantization), 및 LVQ(lattice VQ) 중 어느 하나에 따라 서브 벡터를 양자화할 수 있다. 이 때, 벡터 양자화는 multi-stage VQ 또는 split VQ 등이 가능하며, split VQ와 multi-stage VQ가 동시에 사용하는 것도 가능하다. 양자화 인덱스는 복호화 장치(102)로 전송된다.
그리고, 전처리 과정에서 중요도에 대한 가중치가 계산된 경우, 에너지 양자화부(405)는 가중치가 적용된 WMSE(weighted MSE)를 이용하여 최적화된 양자화 인덱스를 구할 수 있다. 이 때, weighted MSE는 수학식 6에 따라 계산될 수 있다.
Figure pat00006
단계(S803)에서, 에너지 양자화부(405)는 양자화된 서브 벡터를 보간하여 선택되지 않은 나머지 서브 벡터의 값을 계산할 수 있다.
단계(S804)에서, 에너지 양자화부(405)는 보간된 나머지 서브 벡터와 원래 에너지 벡터에 매칭된 나머지 서브 벡터 간의 차이인 보간 에러를 계산할 수 있다.
단계(S805)에서, 에너지 양자화부(405)는 보간 에러를 양자화 및 역양자화할 수 있다. 이 때, 에너지 양자화부(405)는 MSE를 최소화하는 양자화 인덱스를 이용하여 보간 에러를 양자화할 수 있다. 에너지 양자화부(405)는 스칼라 양자화, 벡터양자화, TCQ(Trellis coded quantization), 및 LVQ(lattice VQ) 중 어느 하나에 따라 보간 에러를 양자화할 수 있다. 이 때, 벡터 양자화는 multi-stage VQ 또는 split VQ 등이 가능하며, split VQ와 multi-stage VQ가 동시에 사용하는 것도 가능하다. 그리고, 전처리 과정에서 중요도에 대한 가중치가 계산된 경우, 에너지 양자화부(405)는 가중치가 적용된 WMSE(weighted MSE)를 이용하여 최적화된 양자화 인덱스를 구할 수 있다.
단계(S806)에서, 에너지 양자화부(405)는 선택된 서브 벡터의 양자화된 벡터를 보간하여 선택되지 않은 나머지 서브 벡터를 계산하고, 단계(S805)에서 계산된 양자화된 보간 에러를 더하여 최종적으로 양자화된 에너지를 계산할 수 있다. 그리고, 에너지 양자화부(405)는 후처리 과정을 통해 전처리 과정에서 뺀 평균값을 다시 더하여 최종적으로 양자화된 에너지를 계산할 수 있다.
Multi-stage VQ에서, 에너지 양자화부(405)는 동일한 코드북으로 양자화 성능을 향상시키기 위해 K개의 서브 벡터의 후보(candidate)를 이용하여 양자화를 한다. K가 2이상인 경우, 에너지 양자화부(405)는 distortion measure을 수행하여 최적 서브 벡터의 후보를 결정할 수 있다. 이 때, distortion measure는 두 가지 방식에 따라 결정될 수 있다.
첫째, 에너지 양자화부(405)는 서브 벡터의 후보 각각에 대해 각 스테이지에서 MSE(Mean Square Error) 또는 WMSE(Weighted Mean Square Error)를 인덱스 셋트를 생성한 후, 모든 스테이지의 MSE 또는 WMSE의 합이 가장 작은 서브 벡터의 후보를 선택할 수 있다. 이 경우, 계산량이 낮은 장점이 있다.
둘째, 에너지 양자화부(405)는 서브 벡터의 후보 각각에 대해 각 스테이지에서 MSE(Mean Square Error) 또는 WMSE(Weighted Mean Square Error)를 최소화하는 인덱스 셋트를 생성한 후, 역양자화과정을 거쳐 에너지 벡터를 복원한 후, 복원된 에너지벡터와 원래의 에너지 벡터 간의 MSE 또는 WMSE를 최소화하는 서브 벡터의 후보를 선택할 수 있다. 이 경우, 복원을 위한 계산량이 추가되지만 실제 양자화된 값을 이용하여 MSE를 구하므로 성능이 우수한 장점이 있다.
도 9는 본 발명의 일실시예에 따라 에너지를 양자화하는 과정을 나타낸 도면이다.
도 9를 참고하면, 에너지 벡터는 14 dimension를 나타낸다. 1st stage에서, 에너지 양자화부(405)는 에너지 벡터에서 짝수만을 선택하여 7 dimension인 서브 벡터를 선택하였다. 1st stage에서, 성능향상을 위해서 에너지 양자화부(405)는 2개로 split된 2nd stage 벡터 양자화를 이용한다.
에너지 양자화부(405)는 2nd stage에서 1st stage의 에러 신호를 이용하여 양자화를 수행한다. 에너지 양자화부(405)는 선택된 서브벡터의 역양자화 과정을 거쳐 보간 에러를 구하고, 보간 에러는 2개로 split된 3rd stage 벡터양자화를 이용하여 양자화된다.
도 10은 본 발명의 일실시예에 따른 인공 신호를 생성하는 과정을 도시한 도면이다.
도 10을 참고하면, 인공 신호 생성부(601)는 전체 주파수 밴드에서 저주파수 영역인 fL~6.4KHz에 대응하는 주파수 스펙트럼(1001)을 복사할 수 있다. 복사된 주파수 스펙트럼(1001)은 6.4~12.8-fLKHz 주파수 영역까지 쉬프팅된다. 그리고, 12.8-fL~16KHz 주파수 영역에 대응하는 주파수 스펙트럼은 6.4~12.8-fLKHz 주파수 영역의 주파수 스펙트럼이 폴딩되어 생성될 수 있다. 즉, 고주파수 영역인 SWB에 대응하는 인공 신호는 6.4~16KHz까지 생성된다.
이 때 주파수 스펙트럼을 생성할 때 사용된 변환이 MDCT인 경우, fL과 6.4kHz 간에 상관 관계가 존재한다. 구체적으로, 6.4kHz에 해당되는 MDCT의 주파수 인덱스가 짝수인 경우에는 fL의 주파수 인덱스도 짝수여야 한다. 반대로, .4kHz에 해당되는 MDCT의 주파수 인덱스가 홀수인 경우, fL의 주파수 인덱스도 홀수여야 한다.
예를 들어, 원래의 입력 신호에 대해 640개의 스펙트럼을 추출하는 MDCT를 적용한 경우, 6.4kHz에 대응하는 인덱스는 256번째 인덱스가 되어(6400/16000*640) 짝수가 된다. 이 경우, fL은 반드시 짝수로 선택이 되어야 한다. 즉, fL은 2(50Hz), 4(100Hz) 등이 사용될 수 있다. 이 과정은 복호화 과정에서도 동일하게 적용된다.
도 11a 내지 도 11b는 본 발명의 일실시예에 따른 포락선 추정을 위한 윈도우를 도시한 도면이다.
도 11a 내지 도 11b를 참고하면, 윈도우(1101)와 윈도우(1102)의 peak 위치가 현재 포락선을 추정하고자 하는 주파수 인덱스를 의미한다. 기본 신호에 대한 포락선 추정은 하기 수학식 7에 따라 수행될 수 있다.
Figure pat00007
도 11a 내지 도 11b에서 윈도우(1101)와 윈도우(1102)는 항상 고정으로 사용될 수 있으며, 이 경우에는 추가적으로 전송될 비트가 필요없다. 또는, 윈도우(1101)와 윈도우(1102)가 선택적으로 사용되는 경우에는 포락선 추정을 위해 어떠한 윈도우가 사용되었는지 여부를 나타내는 정보를 비트로 표현하여 추가적으로 복호화 장치(102)에 전달될 필요가 있다. 이러한 비트는 주파수 밴드별로 전송되거나 또는 한 프레임에 한번 전송될 수 있다.
윈도우(1101)와 윈도우(1102)를 비교하면, 윈도우(1102)는 윈도우(1101)보다 현재 주파수 인덱스에 대응하는 주파수 스펙트럼에 가중치를 더 부가하여 포락선을 추정한다. 따라서, 윈도우(1102)에 의해 생성된 기본 신호는 윈도우(1101)에 의해 생성된 기본 신호보다 평탄하게 생성된다. 윈도우의 종류는 윈도우(1101)와 윈도우(1102)에 의해 생성된 각각의 기본 신호와 입력 신호의 주파수 스펙트럼을 비교함으로써 선택될 수 있다. 또한, 고주파수 영역의 토널리티(tonality)의 비교를 통해 비슷한 토널리티를 가지도록 하는 윈도우가 선택될 수 있다. 그리고, 고주파수 영역의 상관도(correlation)의 비교를 통해 상관도가 높은 윈도우가 선택될 수 있다.
도 12a는 본 발명의 일실시예에 따른 복호화 장치를 도시한 블록 다이어그램이다.
도 12a의 과정은 도 2a의 과정의 역 과정으로 이루어진다. 도 12a를 참고하면, 복호화 장치(102)는 코어 복호화부(1201), 업 샘플링부(1202), 주파수 변환부(1204), 확장 복호화부(1204) 및 주파수 역변환부(1205)를 포함할 수 있다.
코어 복호화부(1201)는 비트스트림에 포함된 코어 부호화된 입력 신호를 코어 복호화할 수 있다. 코어 복호화 과정을 통해 12.8KHz 샘플링 레이트를 가지는 신호가 추출될 수 있다.
업 샘플링부(1202)는 코어 복호화된 입력 신호를 업샘플링할 수 있다. 업샘플링을 통해 32KHz 샘플링 레이트를 가지는 신호가 추출될 수 있다.
주파수 변환부(1204)는 업샘플링된 입력 신호를 주파수 변환할 수 있다. 주파수 변환은 부호화기에서 사용한 주파수 변환 방식과 동일한 방법을 사용할 수 있으며, 예를 들어 MDCT를 사용할 수 있다.
확장 복호화부(1204)는 비트스트림에 포함된 상기 입력 신호의 에너지와 상기 주파수 영역의 입력 신호를 이용하여 대역폭 확장 복호화를 수행할 수 있다. 확장 복호화부(1204)의 동작에 대해서는 도 9에서 구체적으로 설명하기로 한다.
주파수 역변환부(1205)는 대역폭 확장 복호화가 수행된 결과에 대해 주파수 역변환을 수행할 수 있다. 주파수 변환부(1204)에서 사용한 주파수 변환 방식의 역변환을 수행하는 것으로, 예를들어 IMDCT(Inverse Modified Discrete Cosine Transform)을 수행할 수 있다.
도 12b는 본 발명의 다른실시예에 따른 복호화 장치를 도시한 블록 다이어그램이다.
도 12b의 과정은 도 12a의 과정의 역 과정으로 이루어진다. 도 12b를 참조하면, 복호화 장치(102)는 모드 정보 검사부(1206), CELP 복호화부(1207), TD 확장 복호화부(1208), FD 복호화부(1209) 및 주파수 역변환부(1210)을 포함할 수 있다.
모드 정보 검사부(1206)는 비트스트림에 포함된 프레임들 각각에 대한 모드 정보를 검사한다. 이때, 비트스트림은 부호화 장치(101)에서 부호화된 결과에 따른 비트스트림이 복호화 장치(102)로 전송된 신호가 될 수 있다.
예를 들어 설명하면, 모드 정보 검사부(1206)는 부호화된 비트스트림으로부터 모드 정보를 파싱하고, 파싱결과에 따른 현재 프레임의 부호화 모드에 따라 CELP 복호화 모드 또는 FD 복호화 모드 중 어느 하나의 복호화 모드로 스위칭 작업을 수행한다.
좀 더 상세히 설명하면, 모드 정보 검사부(1206)는 비트스트림에 포함된 프레임들 각각에 대하여, CELP 모드로 부호화된 프레임은 CELP 복호화가 수행되도록 스위칭하고, FD 모드로 부호화된 프레임은 FD 복호화가 수행되도록 스위칭할 수 있다.
CELP 복호화부(1207)는 검사결과에 따라 CELP 부호화된 프레임에 대하여 CELP 복호화를 수행한다. 예를 들어 설명하면, CELP 복호화부(1207)는 비트스르림에 포함된 선형예측계수를 복호화하고, adaptive codebook contribution 및 fixed codebook contribution에 대한 복호화를 수행하고, 복호화 수행결과를 합성하여 저주파수에 대한 복호화 신호인 저주파 신호를 생성한다.
TD 확장 복호화부(1208)는 CELP 복호화가 수행된 결과 및 저주파 신호의 여기신호 중 적어도 하나를 이용하여, 고주파수에 대한 복호화 신호를 생성한다. 이때, 저주파 신호의 여기신호는 비트스트림에 포함될 수 있다. 또한, TD 확장 복호화부(1208)는 고주파수에 대한 복호화 신호인 고주파 신호를 생성하기 위하여, 비트스트림에 포함된 고주파 신호에 대한 선형예측계수 정보를 활용할 수 있다.
또한, 본 실시예에 따른 TD 확장 복호화부(1208)는 생성된 고주파 신호를 CELP 복호화부(1207)에서 생성된 저주파 신호와 합성하여, 복호화된 신호를 생성할 수 있다. 이때, TD 확장 복호화부(1208)는 복호화된 신호를 생성하기 위하여 저주파 신호와 고주파 신호의 샘플링 레이트를 동일하도록 변환하는 작업을 더 수행할 수 있다.
FD 복호화부(1209)는 검사결과에 따라 FD 부호화된 프레임에 대하여 FD 복호화를 수행한다. FD 복호화부(1209)는 비트스트림을 복호화하여 주파수 스펙트럼을 생성할 수 있다. 또한, 본 실시예에 따른 FD 복호화부(1209)는 비트스트림에 포함된 이전 프레임의 모드 정보를 참조하여 복호화를 수행할 수도 있음을 알 수 있다. 즉, FD 복호화부(1209)는 FD 부호화된 프레임에 대하여 비트스트림에 포함된 이전 프레임 모드 정보를 참조하여 FD 복호화를 수행할 수 있다. 이에 관하여, 도 25에서 좀 더 상세히 설명한다. 또한, FD 복호화부(1209)에 관하여 이하 도 12c에서 상세히 설명한다.
주파수 역변환부(1210)는 FD 복호화가 수행된 결과를 주파수 역변환한다. 주파수 역변환부(1210)는 FD 복호화된 주파수 스펙트럼에 대하여 주파수 역변환을 수행하여 복호화된 신호를 생성한다. 예를 들어 설명하면, 주파수 역변환부(1210)는 Inverse MDCT를 수행할 수 있으나, 이에 한정되지 않는다.
이에 따라, 복호화 장치(102)는 비트스트림의 프레임들 각각의 부호화 모드를 참조하여, 비트스트림에 대한 복호화를 수행할 수 있다.
도 12c는 본 발명의 일실시예에 따른 복호화 장치의 FD 복호화부를 도시한 도면이다.
도 12c의 과정은 도 12b의 과정의 역 과정으로 이루어진다. 도 12c를 참조하면, FD 복호화부(1209)는 Norm 복호화부(12091), FPC 복호화부(12092), 노이즈 필링(Noise Filling) 수행부(12093) 및 FD 확장 복호화부(12094)를 포함할 수 있고, FD 확장 복호화부(12094)는 FD 저주파수 확장 복호화부(12095) 및 FD 고주파수 확장 복호화부(12096)를 포함할 수 있다.
Norm 복호화부(12091)는 비트스트림의 Norm 정보를 참조하여, Norm 복호화를 수행한다. 이때, 비트스트림의 Norm 정보는 도 2c의 Norm 부호화부(2091)에서 부호화된 결과에 따른 정보가 될 수 있다.
FPC 복호화부(12092)는 비트스트림의 FPC 부호화 정보에 기초하여 FPC 복호화를 수행한다. 이때, FPC 부호화 정보는 도 2c의 FPC 부호화부(209)에서 부호화된 결과에 따른 정보가 될 수 있다.
예를 들어 설명하면, FPC 복호화부(12092)는 도 2c의 FPC 부호화부(2092)에서 부호화된 방법과 동일하게 주파수 밴드 별로 가용한 비트 수를 할당하여 FPC 복호화를 수행한다.
노이즈 필링 수행부(12093)는 FPC 복호화가 수행된 결과에 대하여 노이즈 필링을 수행한다. 예를 들어 설명하면, 노이즈 필링 수행부(12093)는 FPC 복호화가 수행된 주파수 밴드에 노이즈를 부가한다. 이때, 노이즈 필링 수행부(12093)는 FPC 복호화가 수행된 주파수 밴드의 마지막 주파수 밴드까지 노이즈를 부가한다. 이와 관련하여, 도 27에서 좀 더 상세히 설명한다.
FD 확장 복호화부(12094)는 FD 저주파수 확장 복호화부(12095) 및 FD 고주파수 확장 복호화부(12096)을 포함할 수 있다.
FD 저주파수 확장 복호화부(12095)는 FPC 복호화를 수행하는 주파수 밴드의 상위 밴드값(Ffpc)이 FPC 코딩을 수행하는 주파수 대역의 상위 밴드값(Fcore)보다 작은 경우, 상기 FPC 복호화 및 노이즈 필링이 수행된 결과에 대하여 확장 부호화를 수행한다.
이에 따라, FD 저주파수 확장 복호화부(12095)는 FPC 복호화 및 노이즈 필리에 의해 생성된 주파수 스펙트럼을 사용하여, FPC 코딩을 수행하는 주파수 대역 의 상위 밴드값(Fcore)까지의 주파수 스펙트럼을 생성한다.
이처럼, FD 저주파수 확장 복호화부(12095)에 의하여 생성된 주파수 스펙트럼에 대하여, Norm 복호화부(12091)에 의하여 복호화된 Norm 값을 곱하여, 복호화된 저주파수 스펙트럼을 생성할 수 있다.
다만, FD 저주파수 확장 복호화부(12095)가 동작하지 않는 경우에는 FPC 복호화 및 노이즈 필링이 수행된 결과에 따라 생성된 주파수 스펙트럼에 대하여, Norm 복호화부(12091)에 의하여 복호화된 Norm 값을 곱하여, 복호화된 저주파수 스펙트럼을 생성할 수 있다.
FD 고주파수 확장 복호화부(12096)는 FPC 복호화 및 노이즈 필링이 수행된 결과를 이용하여, 고주파수 확장 복호화를 수행한다. 본 실시예에 따른 FD 고주파수 확장 복호화부(12096)는 도 2c의 FD 확장 부호화부(2094)에 대응하여 동작한다.
예를 들어 설명하면, FD 고주파수 확장 복호화부(12096)는 비트스트림의 고주파수 에너지 정보에 기초하여 고주파수 에너지를 역양자화하고, 고주파 대역폭 확장의 다양한 모드에 따라 저주파 신호를 이용하여 고주파 신호의 여기신호를 생성하고, 생성된 여기신호의 에너지가 역양자화된 에너지에 대칭되도록 게인을 적용함에 따라, 복호화된 고주파 신호를 생성할 수 있다. 예를 들어 설명하면, 고주파 대역폭 확장의 다양한 모드는 노말(normal) 모드, 하모닉(harmonic) 모드, 또는 노이즈(noise) 모드 중 어느 하나의 모드가 될 수 있다.
이때, FD 고주파수 확장 복호화부(12096)는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 역양자화를 수행할 수 있다. 이에 관하여, 도 26에서 좀 더 상세히 설명한다.
또한, 본 실시예에 따른 FD 복호화부(1209)는 복호화되는 프레임이 stationary 프레임인 경우, Norm 복호화부(12091), FPC 복호화부(12092), 노이즈 필링 수행부(12093) 및 FD 확장 복호화부(12094) 각각에 따른 동작이 수행될 수 있다.
다만, 복호화되는 프레임이 transient 프레임인 경우, 본 실시예에 따른 FD 복호화부(1209)에서 FD 확장 복호화부(12094)는 동작하지 않을 수 있다.
도 12d는 본 발명의 또 다른실시예에 따른 복호화 장치를 도시한 블록 다이어그램이다.
도 12d의 과정은 도 2d의 과정의 역 과정으로 이루어진다. 도 12d를 참조하면, 복호화 장치(102)는 모드 정보 검사부(1211), LPC 복호화부(1212), CELP 복호화부(1213), TD 확장 복호화부(1214), 오디오 복호화부(1215) 및 FD 확장 복호화부(1216)을 포함할 수 있다.
모드 정보 검사부(1211)는 비트스트림에 포함된 프레임들 각각에 대한 모드 정보를 검사한다. 이때, 비트스트림은 부호화 장치(101)에서 부호화된 결과에 따른 비트스트림이 복호화 장치(102)로 전송된 신호가 될 수 있다.
예를 들어 설명하면, 모드 정보 검사부(1211)는 부호화된 비트스트림으로부터 모드 정보를 파싱하고, 파싱결과에 따른 현재 프레임의 부호화 모드에 따라 CELP 복호화 모드 또는 오디오 복호화 모드 중 어느 하나의 복호화 모드로 스위칭 작업을 수행한다.
좀 더 상세히 설명하면, 모드 정보 검사부(1211)는 비트스트림에 포함된 프레임들 각각에 대하여, CELP 모드로 부호화된 프레임은 CELP 복호화가 수행되도록 스위칭하고, 오디오 부호화 모드로 부호화된 프레임은 오디오 복호화가 수행되도록 스위칭할 수 있다.
LPC 복호화부(1212)는 비트스트림에 포함된 프레임들에 대하여 LPC 복호화를 수행한다.
CELP 복호화부(1213)는 검사결과에 따라 CELP 부호화된 프레임에 대하여 CELP 복호화를 수행한다. 예를 들어 설명하면, CELP 복호화부(1213)는 adaptive codebook contribution 및 fixed codebook contribution에 대한 복호화를 수행하고, 복호화 수행결과를 합성하여 저주파수에 대한 복호화 신호인 저주파 신호를 생성한다.
TD 확장 복호화부(1214)는 CELP 복호화가 수행된 결과 및 저주파 신호의 여기신호 중 적어도 하나를 이용하여, 고주파수에 대한 복호화 신호를 생성한다. 이때, 저주파 신호의 여기신호는 비트스트림에 포함될 수 있다. 또한, TD 확장 복호화부(1208)는 고주파수에 대한 복호화 신호인 고주파 신호를 생성하기 위하여, LPC 복호화부(1212)에서 복호화된 선형예측계수 정보를 활용할 수 있다.
또한, 본 실시예에 따른 TD 확장 복호화부(1214)는 생성된 고주파 신호를 CELP 복호화부(1214)에서 생성된 저주파 신호와 합성하여, 복호화된 신호를 생성할 수 있다. 이때, TD 확장 복호화부(1214)는 복호화된 신호를 생성하기 위하여 저주파 신호와 고주파 신호의 샘플링 레이트를 동일하도록 변환하는 작업을 더 수행할 수 있다.
오디오 복호화부(1215)는 검사결과에 따라 오디오 부호화된 프레임에 대하여 오디오 복호화를 수행한다. 예를 들어 설명하면, 오디오 복호화부(1215)는 비트스트림을 참조하여, 시간 도메인 기여분(contribution)이 존재하는 경우 시간 도메인 기여분 및 주파수 도메인 기여분을 고려하여 복호화를 수행하고, 시간 도메인 기여분이 존재하지 않는 경우 주파수 도메인 기여분을 고려하여 복호화를 수행한다.
또한, 오디오 복호화부(1215)는 FPC 또는 LVQ로 양자화된 신호에 대하여 IDCT 등을 이용한 주파수 역변환을 수행하여 복호화된 저주파수 여기신호를 생성하고, 생성된 여기신호를 역양자화된 LPC 계수와 합성하여, 복호화된 저주파수 신호를 생성할 수 있다.
FD 확장 복호화부(1216)는 오디오 복호화가 수행된 결과를 이용하여 확장 복호화를 수행한다. 예를 들어 설명하면, FD 확장 복호화부(1216)는 복호화된 저주파수 신호를 고주파수 확장 복호화에 적합한 샘플링 레이트로 변환하고, 변환된 신호에 MDCT와 같은 주파수 변환을 수행한다. FD 확장 복호화부(1216)는 양자화된 고주파수 에너지를 역양자화하고, 고주파 대역폭 확장의 다양한 모드에 따라 저주파 신호를 이용하여 고주파 신호의 여기신호를 생성하고, 생성된 여기신호의 에너지가 역양자화된 에너지에 대칭되도록 게인을 적용함에 따라, 복호화된 고주파 신호를 생성할 수 있다. 예를 들어 설명하면, 고주파 대역폭 확장의 다양한 모드는 노말(normal) 모드, 전이(transient) 모드, 하모닉(harmonic) 모드, 또는 노이즈(noise) 모드 중 어느 하나의 모드가 될 수 있다.
또한, FD 확장 복호화부(1216)는 생성된 복호화된 고주파 신호 및 저주파 신호에 대하여 Inverse MDCT와 같은 주파수 역변환을 수행하여, 최종 복호화된 신호를 생성한다.
추가적으로, FD 확장 복호화부(1216)는 대역폭 확장에 전이 모드가 적용된 경우, 주파수 역변환이 수행된 후에 복호화된 신호가 복호화된 temporal envelope에 매칭되도록, 시간 도메인에서 구한 게인을 적용하고, 게인이 적용된 신호를 합성해 줄 수도 있다.
이에 다라, 복호화 장치(102)는 비트스트림의 프레임들 각각의 부호화 모드를 참조하여, 비트스트림에 대한 복호화를 수행할 수 있다.도 13은 본 발명의 일실시예에 따른 복호화 장치의 확장 복호화부를 도시한 도면이다.
도 13을 참고하면, 확장 복호화부(1204)는 역양자화부(1301), 게인 계산부(1302), 게인 적용부(1303), 인공 신호 생성부(1304), 포락선 추정부(1305) 및 포락선 적용부(1306)를 포함할 수 있다.
역양자화부(1301)는 입력 신호의 에너지를 역양자화할 수 있다. 에너지를 역양자화하는 과정에 대해서는 도 14에서 구체적으로 설명하기로 한다.
게인 계산부(1302)는 역양자화된 에너지와 기본 신호의 에너지를 이용하여 기본 신호에 적용될 게인을 계산할 수 있다. 구체적으로, 게인은 역양자화된 에너지와 기본 신호의 에너지의 비율을 통해 결정될 수 있다. 통상적으로 에너지는 주파수 스펙트럼의 amplitude의 제곱의 합을 사용해서 결정되기 때문에, 에너지 비율의 root 값을 사용하게 된다.
게인 적용부(1303)는 계산된 게인을 주파수 밴드별로 적용할 수 있다. 그러면, 최종적으로 SWB의 주파수 스펙트럼이 결정될 수 있다.
일례로, 게인 계산 및 게인 적용은 상기 설명한 바와 같이 밴드를 에너지를 전송한 밴드와 일치시켜서 수행할 수 있다. 다른 실시 예로 급격한 에너지의 변화를 방지하기 위해서 전체 주파수 밴드를 서브밴드로 나누어서 수행할 수도 있다. 이러한 경우에 있어서, 주변 밴드의 역양자화된 에너지를 보간(Interpolation)에 의해서 밴드 경계 부분에서의 에너지를 스무딩(smoothing) 시킬 수 있다. 예를 들어, 각각의 밴드는 3개의 서브밴드로 분리하고, 각각 밴드의 3개 서브밴드 중 중간의 서브밴드는 현재 밴드의 역양자화된 에너지를 할당하고, 첫번째 및 세번째 서브밴드는 이전 밴드 혹은 이후 밴드의 중간 밴드에 할당된 에너지와 보간을 통해서 새롭게 스무딩된 에너지를 사용하여 게인 계산 및 적용을 수행할 수 있다. 즉, 게인 계산 및 적용하는 단위를 서브밴드로 설정하여 적용하게 된다.
이러한 에너지 스무딩 방식은 항상 고정된 방식으로 적용할 수 있다. 또한 확장 부호화부(204)에서 에너지 스무딩이 필요하다는 정보를 전송하여 필요한 프레임에서만 적용할 수 있다. 이 때 스무딩이 필요한 프레임이라는 정보는 스무딩을 수행한 경우가 스무딩을 안 한 경우에 비해서 전체 에너지의 양자화 에러가 적게 되는 경우에 선택할 수 있다.
한편, 주파수 영역의 입력 신호를 이용하여 기본 신호를 생성할 수 있다. 기본 신호를 생성하는 과정은 다음과 같은 구성 요소를 통해 수행될 수 있다.
인공 신호 생성부(1304)는 주파수 영역의 입력 신호의 저주파수 영역을 복사하고 폴딩하여 고주파수 영역에 대응하는 인공 신호를 생성할 수 있다. 이 때, 주파수 영역의 입력 신호는 32KHz 샘플링 레이트를 가지는 WB 복호화된 신호일 수 있다.
포락선 추정부(1305)는 비트스트림에 포함된 윈도우를 이용하여 기본 신호의 포락선을 추정할 수 있다. 윈도우는 부호화 장치(101)에서 포락선 추정을 위해 사용되었던 것이며, 윈도우 종류는 비트 형태로 비트스트림에 포함되어 복호화 장치(102)에 전송될 수 있다.
포락선 적용부(1306)는 추정된 포락선을 인공 신호에 적용함으로써, 기본 신호를 생성할 수 있다.
부호화 장치의 포락선 추정부(602)에서 화이트닝 밴드 별로 주파수 크기(magnitude)의 평균을 화이트닝(Whitening) 밴드 내에 속한 주파수의 포락선으로 추정하는 경우에 있어서 화이트닝 밴드 내에 속한 스펙트럼의 개수가 많은지 적은지의 여부와 관련된 정보를 복호화 장치에 전송한 경우, 복호화 장치의 포락선 추정부(1305)가 전송된 방식에 근거하여 포락선을 추정한 후 포락선 적용부(1306)에서 포락선을 적용할 수 있다. 또한 정보 전송 없이 WB 코어 복호화부에 사용된 코어 부호화 모드에 따라서 결정할 수 있다.
코어 복호화부(1201)는 신호의 특성에 따라 유성음 부호화, 무성음 부호화, Transient 부호화, Generic 부호화부로 구분하여 복호화할 수 있다. 이 때, 포락선 추정부(602)는 입력 신호의 특성에 따른 복호화 모드에 기초하여 화이트닝(Whitening) 밴드에 속한 주파수 스펙트럼의 개수를 제어시킬 수 있다. 일례로, 입력 신호가 유성음 복호화 모드에 따라 복호화된 경우, 포락선 추정부(1305)는 화이트닝(Whitening) 밴드에 3개의 주파수 스펙트럼으로 구성하여 포락선을 추정할 수 있다. 그리고, 입력 신호가 유성음 복호화 모드 이외의 복호화 모드에 따라 부호화된 경우, 포락선 추정부(1306)는 화이트닝(Whitening) 밴드에 3개의 주파수 스펙트럼으로 구성하여 포락선을 추정할 수 있다.
도 14는 본 발명의 일실시예에 따른 확장 복호화부의 역양자화부의 동작을 도시한 도면이다.
단계(S1401)에서, 역양자화부(1301)는 부호화 장치(101)로부터 전송된 인덱스를 이용하여 에너지 벡터의 선택된 서브 벡터를 역양자화할 수 있다.
단계(S1402)에서, 역양자화부(1301)는 부호화 장치(101)로부터 전송된 인덱스를 이용하여 선택되지 않은 나머지 서브 벡터에 대응하는 보간 에러를 역양자화할 수 있다.
단계(S1403)에서, 역양자화부(1301)는 역양자화된 서브 벡터를 보간하여 선택되지 않은 나머지 서브 벡터를 계산할 수 있다. 그리고, 역양자화부(1301)는 나머지 서브 벡터에 역양자화된 보간 에러값를 더할 수 있다. 또한, 역양자화부(1301)는 후처리 과정을 통해 전처리 과정에서 뺀 평균값을 더하여 최종적인 역양자화된 에너지를 계산할 수 있다.
도 15a는 본 발명의 일실시예에 따른 부호화 방법을 도시한 플로우차트이다.
부호화 장치(101)는 입력 신호를 다운 샘플링할 수 있다(S1501).
부호화 장치(101)는 다운 샘플링된 입력 신호에 대해 코어 부호화할 수 있다(S1502).
부호화 장치(101)는 입력 신호를 주파수 변환할 수 있다(S1503).
부호화 장치(101)는 주파수 영역의 입력 신호에 대해 대역폭 확장 부호화를 수행할 수 있다(S1504). 일례로, 부호화 장치(101)는 코어 부호화를 통해 결정된 부호화 정보를 이용하여 대역폭 확장 부호화를 수행할 수 있다. 이 때, 부호화 정보는 코어 부호화시 입력 신호의 특성에 따라 분류된 부호화 모드를 포함할 수 있다.
일례로, 부호화 장치(101)는 대역폭 확장 부호화를 다음과 같은 과정을 통해 수행할 수 있다.
부호화 장치(101)는 주파수 영역의 입력 신호의 주파수 스펙트럼을 이용하여 주파수 영역의 입력 신호의 기본 신호(basic signal)를 생성할 수 있다. 다른 일례로, 부호화 장치는 입력 신호의 특성 및 입력 신호의 주파수 스펙트럼을 이용하여 주파수 영역의 입력 신호의 기본 신호(basic signal)를 생성할 수 있다. 이 때, 입력 신호의 특성은 코어 부호화를 통해 도출되거나 또는 별도의 신호 분류 과정을 통해 도출될 수 있다. 그리고, 부호화 장치(101)는 기본 신호를 이용하여 에너지 제어 요소(energy control factor)를 추정할 수 있다. 이 후, 부호화 장치(101)는 주파수 영역의 입력 신호로부터 에너지를 추출할 수 있다. 그러면, 부호화 장치(101)는 에너지 제어 요소를 이용하여 추출된 에너지를 제어할 수 있다. 부호화 장치(101)는 제어된 에너지를 양자화할 수 있다.
이 때, 기본 신호를 생성하는 과정은 다음과 같은 방법을 통해 수행될 수 있다.
부호화 장치(101)는 주파수 영역의 입력 신호의 저주파수 영역을 복사하고 폴딩하여 고주파수 영역에 대응하는 인공 신호(artificial signal)를 생성할 수 있다. 그리고, 부호화 장치(101)는 윈도우를 이용하여 기본 신호의 포락선을 추정할 수 있다. 이 때, 부호화 장치(101)는 토널리티(tonality) 또는 상관도(correlation) 중 어느 하나의 비교 결과에 따라 윈도우를 선택하여 기본 신호의 포락선을 추정할 수 있다. 일례로, 부호화 장치(101)는 화이트닝(Whitening) 밴드 각각의 주파수 크기(Magnitude)의 평균을 화이트닝 밴드 내에 속한 주파수의 포락선으로 추정할 수 있다. 구체적으로, 부호화 장치(101)는 코어 부호화 모드에 따라서 화이트닝(Whitening) 밴드에 속한 주파수 스펙트럼의 개수를 제어시켜 상기 기본 신호의 포락선을 추정할 수 있다.
그런 후, 부호화 장치(101)는 추정된 포락선을 인공 신호에 적용함으로써 기본 신호를 생성할 수 있다.
그리고, 에너지 제어 요소를 추정하는 과정은 다음과 같은 방법을 통해 수행될 수 있다.
부호화 장치(101)는 주파수 영역의 입력 신호의 고주파수 영역의 토널리티를 계산할 수 있다. 그리고, 부호화 장치(101)는 기본 신호의 토널리티를 계산할 수 있다. 그런 후, 부호화 장치(101)는 입력 신호의 고주파수 영역의 토널리티와기본 신호의 토널리티를 이용하여 에너지 제어 요소를 계산할 수 있다.
또한, 에너지를 양자화하는 과정은 다음과 같은 방법을 통해 수행될 수 있다.
부호화 장치(101)는 서브벡터를 선택하여 양자화를 한 후, 보간 에러를 이용하여 나머지(remained) 서브벡터를 양자화할 수 있다. 이 때, 부호화 장치(101)는 동일한 간격으로 서브 벡터를 선택할 수 있다.
일례로, 부호화 장치(101)는 서브 벡터의 후보(candidate)를 선택하여 2개 이상 사용하는 멀티 스테이지(multi-stage) 벡터 양자화를 수행할 수 있다. 이 때, 부호화 장치(101)는 서브 벡터의 후보 각각에 대해 각 스테이지에서 MSE(Mean Square Error) 또는 WMSE(Weighted Mean Square Error)를 인덱스 셋트를 생성한 후, 모든 스테이지의 MSE 또는 WMSE의 합이 가장 작은 서브 벡터의 후보를 선택할 수 있다. 또는, 부호화 장치(101)는 서브 벡터의 후보 각각에 대해 각 스테이지에서 MSE(Mean Square Error) 또는 WMSE(Weighted Mean Square Error)를 최소화하는 인덱스 셋트를 생성한 후, 역양자화과정을 거쳐 에너지 벡터를 복원한 후, 복원된 에너지벡터와 원래의 에너지 벡터 간의 MSE 또는 WMSE를 최소화하는 서브 벡터의 후보를 선택할 수 있다.
도 15b는 본 발명의 다른실시예에 따른 부호화 방법을 도시한 플로우차트이다. 도 15b를 참조하면, 부호화 방법은 도 2a 내지 도 2c에 도시된 부호화 장치(101)에서 시계열적으로 처리되는 단계들로 구성된다. 따라서, 이하에서 생략된 내용이라 하더라도 도 2a 내지 도 2c에 도시된 부호화 장치(101) 에 관하여 이상에서 기술된 내용은 도 15b의 부호화 방법에도 적용됨을 알 수 있다.
신호 분류부(205)는 입력 신호의 특성을 참조하여, 입력 신호의 부호화 모드를 결정한다. (S1505)
CELP 부호화부(206)는 입력 신호의 부호화 모드가 CELP 모드로 결정되면, 상기 입력 신호의 저주파 신호에 대하여 CELP 부호화를 수행한다. (S1506)
TD 확장 부호화부(207)는 입력 신호의 저주파 신호에 대하여 CELP 부호화가 수행되면, 입력 신호의 고주파 신호에 대하여 TD 확장 부호화를 수행한다. (S1507)
주파수 변환부(208)는 입력 신호의 부호화 모드가 FD 모드로 결정되면, 상기 입력 신호를 주파수 변환한다. (S1508)
FD 부호화부(209)는 주파수 변환된 입력 신호에 대하여 FD 부호화를 수행한다. (S1509)
도 15c는 본 발명의 또 다른실시예에 따른 부호화 방법을 도시한 플로우차트이다. 도 15c를 참조하면, 부호화 방법은 도 2a 내지 도 2c에 도시된 부호화 장치(101)에서 시계열적으로 처리되는 단계들로 구성된다. 따라서, 이하에서 생략된 내용이라 하더라도 도 2a 내지 도 2c에 도시된 부호화 장치(101) 에 관하여 이상에서 기술된 내용은 도 15c의 부호화 방법에도 적용됨을 알 수 있다.
신호 분류뷰(210)는 입력 신호의 특성을 참조하여, 입력 신호의 부호화 모드를 결정한다. (S1510)
LPC 부호화부(211)는 입력 신호의 저주파 신호로부터 선형예측계수를 추출하고, 추출된 선형예측계수를 양자화한다. (S1511)
CELP 부호화부(212)는 입력 신호의 부호화 모드가 CELP 모드로 결정되면, 선형예측계수를 이용하여 추출된 LPC 여기신호에 대하여 CELP 부호화를 수행한다. (S1512)
TD 확장 부호화부(213)는 입력 신호의 저주파 신호의 LPC 여기신호에 대하여 CELP 부호화가 수행되면, 입력 신호의 고주파 신호에 대하여 TD 확장 부호화를 수행한다. (S1513)
오디오 부호화부(214)는 입력 신호의 부호화 모드가 FD 모드로 결정되면, 선형예측계수를 이용하여 추출된 LPC 여기신호에 대하여 오디오 부호화를 수행한다. (S1514)
FD 확장 부호화부(215)는 입력 신호의 저주파 신호의 LPC 여기신호에 대하여 FD 부호화가 수행되면, 입력 신호의 고주파 신호에 대하여 FD 확장 부호화를 수행한다. (S1515)
도 16는 본 발명의 일실시예에 따른 복호화 방법을 도시한 플로우차트이다.
복호화 장치(102)는 비트스트림에 포함된 코어 부호화된 입력 신호를 코어 복호화할 수 있다(S1601).
복호화 장치(102)는 코어 복호화된 입력 신호를 업샘플링할 수 있다(S1602).
복호화 장치(102)는 업샘플링된 입력 신호를 주파수 변환할 수 있다(S1603).
복호화 장치(102)는 비트스트림에 포함된 입력 신호의 에너지와 주파수 영역의 입력 신호를 이용하여 대역폭 확장 복호화를 수행할 수 있다(S1604).
구체적으로, 대역폭 확장을 수행하는 과정은 다음과 같이 이루어질 수 있다.
복호화 장치(102)는 입력 신호의 에너지를 역양자화할 수 있다. 이 때, 복호화 장치(101)는 서브 벡터를 선택하여 역양자화하고, 역양자화된 서브 벡터를 보간하며, 보간된 서브 벡터에 보간 에러값을 더하여 최종적으로 에너지를 역양자화할 수 있다.
그리고, 복호화 장치(102)는 주파수 영역의 입력 신호를 이용하여 기본 신호를 생성할 수 있다. 그런 후, 복호화 장치(102)는 역양자화된 에너지와 기본 신호의 에너지를 이용하여 기본 신호에 적용될 게인을 계산할 수 있다. 최종적으로, 복호화 장치(102)는 계산된 게인을 주파수 밴드별로 적용할 수 있다.
구체적으로, 기본 신호를 생성하는 과정은 다음과 같이 이루어질 수 있다.
복호화 장치(102)는 주파수 영역의 입력 신호의 저주파수 영역을 복사하고 폴딩하여 고주파수 영역에 대응하는 인공 신호를 생성할 수 있다. 그리고, 복호화 장치(102)는 비트스트림에 포함된 윈도우를 이용하여 기본 신호의 포락선을 추정할 수 있다. 이 때 윈도우 정보를 항상 동일하게 사용하도록 설정된 경우에는 비트스트림에 포함이 되지 않는다. 이후, 복호화 장치(102)는 추정된 포락선을 인공 신호에 적용할 수 있다.
도 16b는 본 발명의 또 다른실시예에 따른 복호화 방법을 도시한 플로우차트이다. 도 16b를 참조하면, 부호화 방법은 도 12a 내지 도 12c에 도시된 복호화 장치(102)에서 시계열적으로 처리되는 단계들로 구성된다. 따라서, 이하에서 생략된 내용이라 하더라도 도 12a 내지 도 12c에 도시된 복호화 장치(102)에 관하여 이상에서 기술된 내용은 도 16b의 복호화 방법에도 적용됨을 알 수 있다.
모드 정보 검사부(1206)는 비트스트림에 포함된 프레임들 각각에 대한 모드 정보를 검사한다. (S1606)
CELP 복호화부(1207)는 검사결과에 따라 CELP 부호화된 프레임에 대하여 CELP 복호화를 수행한다. (S1607)
TD 확장 복호화부(1208)는 CELP 복호화가 수행된 결과 및 저주파 신호의 여기신호 중 적어도 어느 하나를 이용하여, 고주파수에 대한 복호화 신호를 생성한다. (S1608)
FD 복호화부(1209)는 검사결과에 따라 FD 부호화된 프레임에 대하여 FD 복호화를 수행한다. (S1609)
주파수 역변환부(1210)는 FD 복호화가 수행된 결과를 주파수 역변환한다.
도 16c는 본 발명의 또 다른실시예에 따른 복호화 방법을 도시한 플로우차트이다. 도 16c를 참조하면, 부호화 방법은 도 12a 내지 도 12c에 도시된 복호화 장치(102)에서 시계열적으로 처리되는 단계들로 구성된다. 따라서, 이하에서 생략된 내용이라 하더라도 도 12a 내지 도 12c에 도시된 복호화 장치(102)에 관하여 이상에서 기술된 내용은 도 16c의 복호화 방법에도 적용됨을 알 수 있다.
모드 정보 검사부(1211)는 비트스트림에 포함된 프레임들 각각에 대한 모드 정보를 검사한다. (S1611)
LPC 복호화부(1212)는 비트스트림에 포함된 프레임들에 대하여 LPC 복호화를 수행한다. (S1612)
CELP 복호화부(1213)는 검사결과에 따라 CELP 부호화된 프레임에 대하여 CELP 복호화를 수행한다. (S1613)
TD 확장 복호화부(1214)는 CELP 복호화가 수행된 결과 및 저주파 신호의 여기신호 중 적어도 어느 하나를 이용하여, 고주파수에 대한 복호화 신호를 생성한다. (S1614)
오디오 복호화부(1215)는 검사결과에 따라 오디오 부호화된 프레임에 대하여 오디오 복호화를 수행한다. (S1615)
FD 확장 복호화부(1216)는 오디오 복호화가 수행된 결과를 이용하여 FD 확장 복호화를 수행한다. (S1616)
도 15 및 도 16에서 설명되지 않은 사항은 도 1 내지 도 14의 설명을 참고할 수 있다.
도 17은 본 발명의 또 다른 실시예에 따른 부호화 장치의 전체 구성을 도시한 블록 다이어그램이다.
도 17을 참고하면, 부호화 장치(100)는 부호화 모드 선택부(1701) 및 확장 부호화부(1702)를 포함할 수 있다.
부호화 모드 선택부(1701)는 주파수 영역의 입력 신호와 시간 영역의 입력 신호를 이용하여 대역폭 확장 부호화의 부호화 모드를 선택할 수 있다.
구체적으로, 부호화 모드 선택부(1701)는 주파수 영역의 입력 신호와 시간 영역의 입력 신호를 이용하여 주파수 영역의 입력 신호를 분류하고, 분류된 정보에 따라 대역폭 확장 부호화의 부호화 모드 및 부호화 모드에 기초한 주파수 밴드의 개수를 결정할 수 있다. 여기서, 부호화 모드는 확장 부호화부(1702)의 성능 향상을 위해 코어 부호화시 결정된 부호화 모드와 다른 새로운 부호화 모드의 셋트로 설정될 수 있다.
일례로, 부호화 모드는 노말 모드(normal), 하모닉 모드(harmonic), 트랜젼트 모드(transient), 노이즈 모드(noise)로 분류될 수 있다. 먼저 부호화 모드 선택부(1701)는 시간영역신호의 장구간 에너지와 현재 프레임의 고대역 에너지의 비율을 이용하여 현재프레임이 transient한 프레임인지 결정한다. Transient한 신호 구간은 시간영역에서 급격한 에너지 변화가 나타나는 구간이므로 고대역의 에너지가 급격히 변화하는 구간이라고 할 수 있다.
나머지 3개의 부호화 모드를 결정하는 과정은 다음과 같다. 먼저 이전 프레임과 현재 프레임의 주파수 영역의 global 에너지를 구한 후에 이들간의 비율과 주파수 영역신호를 사전에 정의된 대역으로 나눈 후에 각 대역의 평균에너지와 peak에너지를 이용하여 나머지 3개의 모드를 결정한다. Harmonic은 일반적으로 주파수 영역 신호에서 평균에너지와 peak 에너지간의 차이가 가장 큰 신호라고 할 수 있다. 그리고 Noise 모드는 전체적으로 에너지 변화가 적은 신호라고 할 수 있다. 이러한 두 가지 신호를 제외한 나머지 신호는 모두 Normal 모드로 결정된다.
그리고 일실시예로 주파수 밴드 개수는 Normal과 Harmonic 모드에서는 16개로 결정되고, transient 모드에서는 5개가 결정되며, Noise 모드에서는 12개로 결정될 수 있다.
확장 부호화부(1702)는 주파수 영역의 입력 신호와 시간 영역의 입력 신호를 이용하여 대역폭 확장 부호화의 부호화 모드를 선택할 수 있다. 도 17을 참고하면, 확장 부호화부(1702)는 기본 신호 생성부(1703), 요소 추정부(1704), 에너지 추출부(1705), 에너지 제어부(1706) 및 에너지 양자화부(1707)를 포함할 수 있다. 기본 신호 생성부(1703)와 요소 추정부(1704)에 대해서는 도 5의 설명을 참고할 수 있다.
에너지 추출부(1705)는 부호화 모드에 기초하여 결정된 주파수 밴드 개수에 따라 각 주파수 밴드에 해당하는 에너지를 추출할 수 있다. 기본신호 생성부(1703), 요소 추정부(1704) 및 에너지 제어부(1706)는 부호화 모드에 따라서 사용되거나 또는 사용되지 않을 수 있다. 예를 들어 Normal과 Harmonic 모드는 위 3개 구성 요소가 사용되고, Transient와 noise모드는 위 3개 구성 요소가 사용되지 않을 수 있다. 위 3개의 구성 요소에 대한 세부적인 설명은 도 5에서 설명한 부분을 참고할 수 있다. 에너지 제어 과정을 거친 밴드 에너지는 에너지 양자화부(1707)에서 양자화될 수 있다.
도 18은 본 발명의 또 다른 실시예에 따른 부호화 장치의 에너지 양자화부가 수행하는 동작을 도시한 도면이다.
에너지 양자화부(1707)는 부호화 모드에 따라 입력 신호로부터 추출된 에너지를 양자화할 수 있다. 이 때, 에너지 양자화부(1707)는 부호화 모드에 따라 입력 신호의 지각적인 특성 및 밴드 에너지 개수를 고려하여 각 입력 신호에 최적인 방식으로 밴드 에너지를 양자화할 수 있다.
예를 들어, 부호화 모드가 transient 모드인 경우, 에너지 양자화부(1707)는 5개 밴드 에너지에 대해서 지각적 특성에 기초한 주파수 가중 방법(frequency weighting method)을 이용하여 밴드 에너지를 양자화할 수 있다. 그리고 부호화 모드가 Normal 모드 또는 harmonic 모드인 경우, 에너지 양자화부(1707)는 16개 밴드 에너지에 대해서 지각적 특성에 기초한 불균형 비트 할당 방법(unequal bit allocation method)을 이용하여 밴드 에너지를 양자화할 수 있다. 만약, 입력 신호의 특성이 명확하지 않은 경우, 에너지 양자화부(1707)는 지각적 특성을 고려하지 않고 일반적인 양자화를 수행할 수도 있다.
도 19는 본 발명의 일실시예에 따라 불균형 비트 할당 방법을 이용하여 에너지를 양자화하는 과정을 나타낸 도면이다.
불균형 비트 할당 방법(unequal bit allocation method)은 확장 부호화의 대상이 된 입력 신호의 지각적 특성을 고려한 것으로, 지각적으로 중요도가 높은 상대적으로 더 낮은 주파수 대역을 좀더 정확히 양자화할 수 있는 방법이다. 이를 위해서, 에너지 양자화부(1707)는 낮은 밴드 에너지에 같거나 더 많은 비트를 할당하여 지각적인 중요도를 구분할 수 있다.
일례로, 에너지 양자화부(1707)는 상대적으로 낮은 대역인 0~5번 주파수 대역에 더 많은 비트 할당을 하며, 0~5번 주파수 대역에 모두 동일한 비트 할당을 한다. 그리고 주파수 대역이 높아질수록 에너지 양자화부(1707)는 더 적은 비트 할당을 한다. 이와 같은 비트 할당에 의해서 주파수 대역 0~13은 도 19와 동일한 방식으로 양자화될 수 있다. 그리고 주파수 대역 14와 15는 도 20과 같이 양자화될 수 있다.
도 20은 본 발명의 일실시예에 따라 인트라 프레임 예측을 이용한 벡터 양자화를 수행하는 과정을 도시한 도면이다.
에너지 양자화부(1707)는 2개 이상의 요소(element)를 갖는 양자화 대상 벡터의 대표값을 예측한 후, 상기 예측된 대표값과 상기 양자화 대상 벡터의 각 요소 간의 에러 신호를 벡터 양자화할 수 있다.
도 20은 이와 같은 인트라 프레임 예측(Intra frame prediction)을 나타내며, 양자화 대상 벡터의 대표값을 예측하고, 에러 신호를 도출하는 방법은 수학식 8과 같다.
Figure pat00008
여기서 Env(n)은 양자화되지 않은 band 에너지를 의미하며, QEnv(n)은 양자화된 band 에너지를 의미한다. 그리고 p는 양자화 대상 벡터의 예측된 대표값을 의미하며 e(n)은 에러 에너지를 의미한다. 여기서 e(14)와 e(15)는 벡터 양자화된다.
도 21은 본 발명의 일실시예에 따라 주파수 가중 방법을 이용하여 에너지를 양자화하는 과정을 나타낸 도면이다.
주파수 가중 방법(Frequency weighting method)은 확장 부호화 대상인 입력 신호의 지각적 특성으로 고려하여 불균형 비트 할당 방법(unequal bit allocation method)과 동일하게 지각적으로 중요도가 높은 상대적으로 더 낮은 대역을 더 정확히 양자화를 하는 방법이다. 이를 위해서 낮은 밴드 에너지에 같거나 더 높은 가중치를 부여하여 지각적인 중요도를 구분한다.
일례로, 에너지 양자화부(1707)는 도 21과 같이 상대적으로 낮은 주파수 대역인 0~3번 대역에 더 높은 가중치인 1.0을 부여하며, 15번 주파수 대역은 더 낮은 가중치인 0.7을 부여하여 양자화할 수 있다. 부여된 가중치를 사용하기 위해, 에너지 양자화부(1707)는 WMSE(Weighted Mean Square Error)값을 이용하여 최적 인덱스를 구할 수 있다.
도 22는 본 발명의 일실시예에 따라 멀티 스테이지 스플릿의 벡터 양자화와 인트라 프레임 예측을 이용한 벡터 양자화를 수행하는 과정을 도시한 도면이다.
에너지 양자화부(1707)는 밴드 에너지의 개수가 16개인 Normal mode에 대해 도 22와 같이 벡터 양자화를 수행할 수 있다. 여기서 에너지 양자화부(1707)는 불균형 비트 할당 방법(unequal bit allocation method), 인트라 프레임 예측(intra frame prediction), 그리고 Multi-stage split VQ with energy interpolation 기술을 이용하여 벡터 양자화를 수행할 수 있다.
도 23은 본 발명의 일실시예에 따라 복호화 장치의 역양자화부가 수행하는 동작을 도시한 도면이다.
도 23은 도 18의 동작을 역으로 수행할 수 있다. 도 17과 같이 확장 부호화 시에 부호화 모드가 사용된 경우, 복호화 장치의 역양자화부(1301)는 부호화 모드를 복호화 할 수 있다.
역양자화부(1301)는 먼저 전송된 인덱스를 이용하여 부호화 모드를 복호화한다. 그리고, 역양자화부(1301)는 복호화된 부호화 모드에 따라 정해진 방식으로 역양자화를 한다. 도 23의 부호화 모드에 따라 각 역양자화 대상인 블록은 양자화의 역순으로 역양자화된다.
여기서 사용된 Multi-stage split VQ with energy interpolation 방식으로 양자화된 부분은 도 14와 동일한 방식으로 역양자화될 수 있다. 이 중에서 역양자화부(1301)는 인트라 프레임 예측을 이용하여 아래 수학식 9에 따라 역양자화할 수 있다.
Figure pat00009
여기서 Env(n)은 양자화되지 않은 band 에너지를 의미하며, QEnv(n)은 양자화된 band 에너지를 의미한다. 그리고 p는 양자화 대상 벡터의 예측된 대표값을 의미하며 e^(n)은 양자화된 에러 에너지를 의미한다.
도 24는 본 발명의 일실시예에 따른 부호화 장치의 다른 구조를 도시한 도면이다.
도 24에 도시된 부호화 장치(101)의 각 구성 요소의 기본적인 동작은 도 2a와 같다. 다만, 확장 부호화부(2404)는 코어 부호화부(2404)의 정보 전송이 없으며 시간 영역의 입력신호가 직접 입력될 수 있다.
도 25는 본 발명의 일실시예에 따른 비트스트림의 일 예를 도시한 도면이다.
도 25를 참조하면, N번째 프레임에 해당하는 비트스트림(251), N+1번째 프레임에 해당하는 비트스트림(252) 및 N+2번째 프레임에 해당하는 비트스트림(253)이 각각 도시되어 있다.
도 25를 참조하면, 비트스트림들(251, 252 및 253)은 헤더(254) 및 페이로드(255)로 구성된다.
헤더(254)는 모드 정보(2511, 2521, 및 2531)를 포함할 수 있다. 이때, 모드 정보(2511, 2521, 및 2531)는 프레임들 각각에 대한 부호화 모드 정보를 나타낸다. 예를 들어 설명하면, 모드 정보(2511)는 N번째 프레임이 어떠한 부호화 모드로 부호화되었는지를 나타내고, 모드 정보(2512)는 N+1번째 프레임이 어떠한 부호화 모드로 부호화되었는지를 나타내고, 모드 정보(2513)는 N+2번째 프레임이 어떠한 부호화 모드로 부호화되었는지를 나타낸다. 예를 들어 설명하면, 부호화 모드는 CELP 모드, FD 모드 또는 오디오 부호화 모드 중 어느 하나가 될 수 있으나, 이에 한정되지 않는다.
페이로드(255)는 프레임의 부호화 모드에 따른 코어 데이터에 대한 정보를 나타낸다.
CELP 모드에 따라 부호화된 N번째 프레임을 예로 들어 설명하면, 페이로드(255)는 CELP 정보(2512) 및 TD 확장 정보(2513)를 포함할 수 있다.
FD 모드에 따라 부호화된 N+1번째 프레임 또는 N+2번째 프레임을 예로 들어 설명하면, 페이로드(255)는 FD 정보(2523 또는 2532)를 포함할 수 있다.
또한, N+1번째 프레임에 대한 비트스트림(252)에 도시된 바와 같이, 비트스트림(252)의 페이로드(255)는 예측 데이터(prediction data)(2522)를 더 포함할 수 있다. 즉, 인접하는 프레임들 간의 부호화 모드가 CELP 모드에서 FD 모드로 변경될 경우, FD 모드에 따른 부호화가 수행된 결과에 따른 비트스트림(252)에는 예측 데이터(2522)가 포함될 수 있다.
좀 더 상세히 설명하면, 도 2b에 도시된 바와 같이, CELP 모드 또는 FD 모드 중 어느 하나의 모드로 스위칭이 이루어지는 부호화 장치(101)에서, FD 모드에 따른 부호화를 수행하는 경우 MDCT(Modified Discrete Cosine Transform) 등과 같이 프레임 간에 중첩(overlap)되는 주파수 변환 방식을 이용한다.
이에 따라, 입력 신호의 N번째 프레임에 대하여 CELP 모드에 따른 부호화가 수행되고, N+1번째 프레임에 대하여 FD 모드에 따른 부호화가 수행되면, FD 모드에 따른 부호화 결과만으로 N+1번째 프레임에 대한 복호화를 수행할 수 없다. 이에 따라, 인접하는 프레임들 간의 부호화 모드가 CELP 모드에서 FD 모드로 변경될 경우, FD 모드에 따른 부호화가 수행된 결과에 따른 비트스트림(252)에는 예측에 해당되는 정보를 나타내는 예측 데이터(2522)가 포함될 수 있다.
따라서, 복호화단에서 비트스트림(252)에 포함된 예측 데이터(2522)를 참조하여, 이전 프레임(예를 들면, N번째 프레임)의 복호화된 결과와 현재 프레임(예를 들면, N+1번째 프레임)의 복호화된 시간 도메인 정보를 이용한 예측을 통하여 FD 모드에 따라 부호화된 비트스트림(252)을 복호화할 수 있다. 예를 들어 설명하면, 시간 도메인 정보는 시간 도메인 알리아싱(Time Domain Aliasing)이 될 수 있으나, 이에 한정되지 않는다.
또한, N+1번째 프레임에 대한 비트스트림(252) 및 N+2번째 프레임에 대한 비트스트림(253)에 도시된 바와 같이, 비트스트림들(252 및 253)의 페이로드(255)는 이전 프레임 모드 정보(2524 및 2533)를 더 포함할 수 있다.
좀 더 상세히 설명하면, FD 모드에 따른 부호화가 수행된 결과에 따른 비트스트림(252 및 253)에는 이전 프레임 모드 정보(2524 및 2533)가 포함될 수 있다.
예를 들어 설명하면, N+1번째 프레임에 대한 비트스트림(252)에 포함된 이전 프레임 모드 정보(2524)는 N번째 프레임의 모드 정보(2511)에 관한 정보를 포함할 수 있고, N+2번째 프레임에 대한 비트스트림(253)에 포함된 이전 프레임 모드 정보(2533)는 N+1번째 프레임의 모드 정보(2524)에 관한 정보를 포함할 수 있다.
이에 따라, 복수의 프레임들 중 어느 하나의 프레임에 에러가 발생한 경우에도, 복호화단에서 모드 전이를 정확하게 파악할 수 있다.
도 26은 본 발명의 일실시예에 따른 주파수 대역별 주파수 할당의 일 예를 도시한 도면이다.
상기에서 설명한 바와 같이, 도 2c에 도시된 FD 확장 부호화부(2094) 또는 도 2d에 도시된 FD 확장 부호화부(215)는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 양자화를 수행할 수 있다. 이에 따라, FD 확장 부호화부(2094) 또는 도 2d에 도시된 FD 확장 부호화부(215)는 입력 신호에 대응하는 주파수 스펙트럼을 소정 개수의 주파수 밴드들로 분할함에 있어서, 서로 다른 비트율에 대하여 동일한 주파수 밴드 별 대역폭을 가지도록 한다.
16kbps의 비트율에서 약 6.4 내지 14.4kHz의 주파수 대역을 분할하는 경우(261) 및 16kbps 이상의 비트율에서 약 8 내지 16kHz의 주파수 대역을 분할하는 경우(262)를 예로 들어 설명한다. 이러한 경우, 서로 다른 비트율에 대하여 동일한 주파수 밴드 별 대역폭을 가지도록 한다.
즉, 첫 번째 주파수 밴드에 대한 대역폭(263)은 16kbps의 비트율 및 16kbps 이상의 비트율 모두에서 0.4kHz이고, 두 번째 주파수 밴드에 대한 대역폭(264)은 16kbps의 비트율 및 16kbps 이상의 비트율 모두에서 0.6kHz가 될 수 있다.
이와 같은 방식으로, 서로 다른 비트율에 대하여 동일한 주파수 밴드 별 대역폭을 가지도록 함에 따라, 본 실시예에 따른 FD 확장 부호화부(2094) 또는 FD 확장 부호화부(215)는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 양자화를 수행할 수 있다.
이에 따라, CELP 모드와 FD 모드가 스위칭되는 설정(configuration), 또는 CELP 모드와 오디오 부호화 모드가 스위칭되는 설정(configuration)에서 Multi Mode Bandwidth Extension 기술을 적용하고, 이때, 다양한 비트율을 지원할 수 있는 코드북 공유를 수행함에 따라, 롬(ROM) 크기를 감소시키고, 구현을 단순화할 수 있다.
도 27은 본 발명의 일실시예에 따른 FD 부호화부 또는 FD 복호화부에서 적용되는 주파수 대역의 일 예를 도시한 도면이다.
도 27에 도시된 주파수 대역(271)은 도 2b에 도시된 FD 부호화부(209) 및 도 12b에 도시된 FD 복호화부(1209)에서 각각의 툴 별로 적용가능한 주파수 대역의 일 예를 도시한다.
좀 더 상세히 설명하면, FD 부호화부(209)의 FPC 부호화부(2092)는 FPC 코딩을 수행하는 주파수 대역을 비트율 별로 제한을 하게된다. 예를 들면, FPC 코딩을 수행하는 주파수 대역(Fcore)는 비트율에 따라 6.4kHz, 8kHz 또는 9.6kHz가 될 수 있으나, 이에 한정되지 않는다.
FPC 부호화부(2092)에 의하여 제한된 주파수 대역 안에서 FPC 코딩을 수행함에 따라, FPC가 코딩된 주파수 대역(Ffpc)(272)가 결정될 수 있다. 이러한 경우, FD 복호화부(1209)의 노이즈 필링 수행부(12093)는 FPC가 코딩된 주파수 대역(Ffpc)(272)에 대하여 노이즈 필링을 수행한다.
이때, FPC가 코딩된 주파수 대역(Ffpc)의 상위 대역값이 FPC 코딩을 수행하는 주파수 대역(Fcore)의 상위 대역값보다 작은 경우, FD 복호화부(1209)의 FD 저주파수 확장 복호화부(12095)는 저주파수 확장 복호화를 수행할 수 있다.
도 27을 참조하면, FD 저주파수 확장 복호화부(12095)는 FPC 코딩을 수행하는 주파수 대역(Fcore) 중 FPC가 코딩된 주파수 대역(Ffpc)에 해당되지 않는 주파수 대역(273)에 대하여 FD 저주파수 확장 복호화를 수행할 수 있다. 다만, FPC 코딩을 수행하는 주파수 대역(Fcore)이 FPC가 코딩된 주파수 대역(Ffpc)과 동일한 경우에는 FD 저주파수 확장 복호화가 수행되지 않을 수 있다.
FD 복호화부(1209)의 FD 고주파수 확장 복호화부(12096)는 FPC 코딩을 수행하는 주파수 대역(Fcore)의 상위 밴드값과 비트율에 따른 주파수 대역(Fend)의 상위 밴드값 사이의 주파수 대역(274)에 대하여 FD 고주파수 확장 부호화를 수행할 수 있다. 예를 들어 설명하면, 비트율에 따른 주파수 대역(Fend)의 상위 밴드값은 14kHz, 14.4kHz 또는 16kHz가 될 수 있으나, 이에 한정되지 않는다. 이에 따라, 본 실시예에 따른 부호화 장치(101) 및 복호화 장치(102)를 사용함에 따라 다양한 스위칭 구조를 통하여, 다양한 비트율에 대해서 음성 및 음악을 효율적으로 코딩할 수 있다. 또한, FD 확장 부호화 및 FD 확장 복호화를 수행함에 있어서, 코드북을 공유함에 따라, 다양한 설정(configuration)이 존재할 경우에도 고음질을 저복잡도로 구현할 수 있다. 추가적으로, FD 부호화가 수행되는 경우 비트스트림에 이전 프레임의 모드 정보가 포함됨에 따라, 프레임 에러가 발생하는 경우에도 정확한 복호화를 수행할 수 있다. 그러하기에, 본 실시예에 따른 부호화 장치(101) 및 복호화 장치(102)를 사용함에 따라, low complexity 및 low delay를 구현할 수 있다.
따라서, 3GPP EVS(Enhanced Voiced Service)에 따른 음성신호 및 음악신호의 부호화 및 복호화를 잘 수행할 수 있다.
본 발명의 실시 예에 따른 방법들은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다.
이상과 같이 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 그러므로, 본 발명의 범위는 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등한 것들에 의해 정해져야 한다.
205 ... 신호분류부 206 ... CELP 부호화부
207 ... TD 확장 부호화부 208 ... 주파수 변환부
209 ... FD 부호화부

Claims (26)

  1. 입력 신호의 특성을 참조하여, 입력 신호의 부호화 모드를 결정하는 신호 분류부;
    상기 입력 신호의 부호화 모드가 CELP(Code Excited Linear Prediction) 부호화 모드로 결정되면, 상기 입력 신호의 저주파 신호에 대하여 CELP 부호화를 수행하는 CELP 부호화부;
    상기 입력 신호의 저주파 신호에 대하여 CELP 부호화가 수행되면, 상기 입력 신호의 고주파 신호에 대하여 확장 부호화를 수행하는 TD(Time Domain) 확장 부호화부;
    상기 입력 신호의 부호화 모드가 FD 모드로 결정되면, 상기 입력 신호를 주파수 변환하는 주파수 변환부; 및
    상기 주파수 변환된 입력 신호에 대하여 FD(Frequency Domain) 부호화를 수행하는 FD 부호화부;를 포함하는 부호화 장치.
  2. 제1항에 있어서, 상기 FD 부호화부는
    상기 변환된 입력 신호에 대하여 주파수 밴드 별로 에너지를 추출하고, 추출된 에너지를 양자화하는 Norm 부호화부;
    상기 양자화된 Norm 값으로 상기 변환된 입력 신호를 스케일링한 값에 대하여 FPC 부호화를 수행하는 FPC(Factorial Pulse Coding) 부호화부; 및
    상기 FPC 부호화가 수행됨에 따른 노이즈 부가정보를 생성하는 노이즈 부가정보 생성부를 포함하고,
    상기 FD 부호화부로 입력되는 변환된 입력 신호는 transient 프레임인 부호화 장치.
  3. 제1항에 있어서, 상기 FD 부호화부는
    상기 변환된 입력 신호에 대하여 주파수 밴드 별로 에너지를 추출하고, 추출된 에너지를 양자화하는 Norm 부호화부;
    상기 양자화된 Norm 값으로 상기 변환된 입력 신호를 스케일링한 값에 대하여 FPC 부호화를 수행하는 FPC(Factorial Pulse Coding) 부호화부;
    상기 FPC 부호화가 수행됨에 따른 노이즈 부가정보를 생성하는 노이즈 부가정보 생성부; 및
    상기 변환된 입력 신호의 고주파 신호에 대하여 확장 부호화를 수행하는 FD 확장 부호화부;를 포함하고,
    상기 FD 부호화부로 입력되는 변환된 입력 신호는 stationary 프레임인 부호화 장치.
  4. 제4항에 있어서,
    상기 FD 확장 부호화부는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 양자화를 수행하는 것을 특징으로 하는 부호화 장치.
  5. 제1항에 있어서,
    상기 입력 신호에 대하여 FD 부호화가 수행된 결과에 따른 비트스트림은 이전 프레임 모드 정보를 포함하는 부호화 장치.
  6. 입력 신호의 특성을 참조하여, 입력 신호의 부호화 모드를 결정하는 신호 분류부;
    상기 입력 신호의 저주파 신호로부터 선형예측계수(Linear Prediction Coefficient, LPC)를 추출하고, 추출된 선형예측계수를 양자화하는 LPC 부호화부;
    상기 입력 신호의 부호화 모드가 CELP 모드로 결정되면, 상기 선형예측계수를 이용하여 추출된 LPC 여기신호에 대하여 CELP 부호화를 수행하는 CELP 부호화부;
    상기 입력 신호의 저주파 신호의 LPC 여기신호에 대하여 CELP 부호화가 수행되면, 상기 입력 신호의 고주파 신호에 대하여 확장 부호화를 수행하는 TD 확장 부호화부;
    상기 입력 신호의 부호화 모드가 오디오 모드로 결정되면, 상기 선형예측계수를 이용하여 추출된 LPC 여기신호에 대하여 오디오 부호화를 수행하는 오디오 부호화부; 및
    상기 입력 신호의 저주파 신호의 LPC 여기신호에 대하여 오디오 부호화가 수행되면, 상기 입력 신호의 고주파 신호에 대하여 확장 부호화를 수행하는 FD 확장 부호화부;를 포함하는 부호화 장치.
  7. 제6항에 있어서,
    상기 FD 확장 부호화부는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 양자화를 수행하는 것을 특징으로 하는 부호화 장치.
  8. 비트스트림에 포함된 프레임들 각각에 대한 모드 정보를 검사하는 모드 정보 검사부;
    상기 검사결과에 따라 CELP 부호화된 프레임에 대하여 CELP 복호화를 수행하는 CELP 복호화부;
    상기 CELP 복호화가 수행된 결과 및 저주파 신호의 여기신호 중 적어도 어느 하나를 이용하여, 고주파수에 대한 복호화 신호를 생성하는 TD 확장 복호화부;
    상기 검사결과에 따라 FD 부호화된 프레임에 대하여 FD 복호화를 수행하는 FD 복호화부; 및
    상기 FD 복호화가 수행된 결과를 주파수 역변환하는 주파수 역변환부;를 포함하는 복호화 장치.
  9. 제8항에 있어서, 상기 FD 복호화부는
    상기 비트스트림의 Norm 정보를 참조하여, Norm 복호화를 수행하는 Norm 복호화부;
    상기 비트스트림의 FPC 부호화 정보에 기초하여 FPC 복호화를 수행하는 FPC 복호화부; 및
    상기 FPC 복호화가 수행된 결과에 대하여 노이즈 필링을 수행하는 노이즈 필링 수행부;를 포함하는 복호화 장치.
  10. 제8항에 있어서, 상기 FD 복호화부는
    상기 비트스트림의 Norm 정보를 참조하여, Norm 복호화를 수행하는 Norm 복호화부;
    상기 비트스트림의 FPC 부호화 정보에 기초하여 FPC 복호화를 수행하는 FPC 복호화부;
    상기 FPC 복호화가 수행된 결과에 대하여 노이즈 필링을 수행하는 노이즈 필링 수행부; 및
    상기 FPC 복호화 및 노이즈 필링이 수행된 결과를 이용하여, 고주파수 확장 복호화를 수행하는 FD 고주파수 확장 복호화부;를 포함하는 복호화 장치.
  11. 제9항에 있어서, 상기 FD 복호화부는
    FPC 복호화를 수행하는 주파수 밴드의 상위 밴드값이 코어신호에 대한 주파수 밴드의 상위 밴드값보다 작은 경우, 상기 FPC 복호화 및 노이즈 필링이 수행된 결과에 대하여 확장 부호화를 수행하는 FD 저주파수 확장 부호화부;를 더 포함하는 복호화 장치.
  12. 제9항에 있어서,
    상기 FD 고주파수 확장 복호화부는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 역양자화를 수행하는 것을 특징으로 하는 복호화 장치.
  13. 제8항에 있어서,
    상기 FD 복호화부는 FD 부호화된 프레임에 대하여 상기 비트스트림에 포함된 이전 프레임 모드 정보를 참조하여 FD 복호화를 수행하는 것을 특징으로 하는 복호화 장치.
  14. 비트스트림에 포함된 프레임들 각각에 대한 모드 정보를 검사하는 모드 정보 검사부;
    상기 비트스트림에 포함된 프레임들에 대하여 LPC 복호화를 수행하는 LPC 복호화부;
    상기 검사결과에 따라 CELP 부호화된 프레임에 대하여 CELP 복호화를 수행하는 CELP 복호화부;
    상기 CELP 복호화가 수행된 결과 및 저주파 신호의 여기신호 중 적어도 어느 하나를 이용하여, 고주파수에 대한 복호화 신호를 생성하는 TD 확장 복호화부;
    상기 검사결과에 따라 오디오 부호화된 프레임에 대하여 오디오 복호화를 수행하는 오디오 복호화부; 및
    상기 오디오 복호화가 수행된 결과를 이용하여 확장 복호화를 수행하는 FD 확장 복호화부;를 포함하는 복호화 장치.
  15. 제14항에 있어서,
    상기 FD 확장 복호화부는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 역양자화를 수행하는 것을 특징으로 하는 복호화 장치.
  16. 입력 신호의 특성을 참조하여, 입력 신호의 부호화 모드를 결정하는 단계;
    상기 입력 신호의 부호화 모드가 CELP(Code Excited Linear Prediction) 부호화 모드로 결정되면, 상기 입력 신호의 저주파 신호에 대하여 CELP 부호화를 수행하는 단계;
    상기 입력 신호의 저주파 신호에 대하여 CELP 부호화가 수행되면, 상기 입력 신호의 고주파 신호에 대하여 TD 확장 부호화를 수행하는 단계;
    상기 입력 신호의 부호화 모드가 FD 모드로 결정되면, 상기 입력 신호를 주파수 변환하는 단계; 및
    상기 주파수 변환된 입력 신호에 대하여 FD(Frequency Domain) 부호화를 수행하는 단계;를 포함하는 부호화 방법.
  17. 제16항에 있어서,
    상기 FD 부호화를 수행하는 단계는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 양자화를 수행하는 것을 특징으로 하는 부호화 방법.
  18. 제16항에 있어서,
    상기 입력 신호에 대하여 FD 부호화가 수행된 결과에 따른 비트스트림은 이전 프레임 모드 정보를 포함하는 부호화 방법.
  19. 입력 신호의 특성을 참조하여, 입력 신호의 부호화 모드를 결정하는 단계;
    상기 입력 신호의 저주파 신호로부터 선형예측계수(Linear Prediction Coefficient, LPC)를 추출하고, 추출된 선형예측계수를 양자화하는 단계;
    상기 입력 신호의 부호화 모드가 CELP 모드로 결정되면, 상기 선형예측계수를 이용하여 추출된 LPC 여기신호에 대하여 CELP 부호화를 수행하는 단계;
    상기 입력 신호의 저주파 신호의 LPC 여기신호에 대하여 CELP 부호화가 수행되면, 상기 입력 신호의 고주파 신호에 대하여 TD 확장 부호화를 수행하는 단계;
    상기 입력 신호의 부호화 모드가 오디오 부호화 모드로 결정되면, 상기 선형예측계수를 이용하여 추출된 LPC 여기신호에 대하여 오디오 부호화를 수행하는 단계; 및
    상기 입력 신호의 저주파 신호의 LPC 여기신호에 대하여 오디오 부호화가 수행되면, 상기 입력 신호의 고주파 신호에 대하여 FD 확장 부호화를 수행하는 단계;를 포함하는 부호화 방법.
  20. 제19항에 있어서,
    상기 FD 확장 부호화를 수행하는 단계는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 양자화를 수행하는 것을 특징으로 하는 부호화 방법.
  21. 비트스트림에 포함된 프레임들 각각에 대한 모드 정보를 검사하는 단계;
    상기 검사결과에 따라 CELP 부호화된 프레임에 대하여 CELP 복호화를 수행하는 단계;
    상기 CELP 복호화가 수행된 결과 및 저주파 신호의 여기신호 중 적어도 어느 하나를 이용하여, 고주파수에 대한 복호화 신호를 생성하는 단계;
    상기 검사결과에 따라 FD 부호화된 프레임에 대하여 FD 복호화를 수행하는 단계; 및
    상기 FD 복호화가 수행된 결과를 주파수 역변환하는 단계;를 포함하는 복호화 방법.
  22. 제21항에 있어서,
    상기 FD 복호화를 수행하는 단계는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 역양자화를 수행하는 것을 특징으로 하는 복호화 방법.
  23. 제21항에 있어서,
    상기 FD 복호화를 수행하는 단계는 FD 부호화된 프레임에 대하여 상기 비트스트림에 포함된 이전 프레임 모드 정보를 참조하여 FD 복호화를 수행하는 것을 특징으로 하는 복호화 방법.
  24. 비트스트림에 포함된 프레임들 각각에 대한 모드 정보를 검사하는 단계;
    상기 비트스트림에 포함된 프레임들에 대하여 LPC 복호화를 수행하는 단계;
    상기 검사결과에 따라 CELP 부호화된 프레임에 대하여 CELP 복호화를 수행하는 단계;
    상기 CELP 복호화가 수행된 결과 및 저주파 신호의 여기신호 중 적어도 어느 하나를 이용하여, 고주파수에 대한 복호화 신호를 생성하는 단계;
    상기 검사결과에 따라 오디오 부호화된 프레임에 대하여 오디오 복호화를 수행하는 단계; 및
    상기 오디오 복호화가 수행된 결과를 이용하여 FD 확장 복호화를 수행하는 단계;를 포함하는 복호화 방법.
  25. 제24항에 있어서,
    상기 FD 확장 복호화를 수행하는 단계는 서로 다른 비트율에 대하여 동일한 코드북을 공유하여 에너지 역양자화를 수행하는 것을 특징으로 하는 복호화 방법.
  26. 제16항 내지 제25항 중 어느 한 항의 방법을 실행하기 위한 프로그램이 기록된 컴퓨터에서 판독 가능한 기록 매체.
KR1020120062356A 2011-06-09 2012-06-11 고주파수 대역폭 확장을 위한 부호화/복호화 장치 및 방법 KR102022664B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201161495017P 2011-06-09 2011-06-09
US61/495,017 2011-06-09

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020190112363A Division KR102109938B1 (ko) 2011-06-09 2019-09-10 고주파수 대역폭 확장을 위한 부호화/복호화 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20120137313A true KR20120137313A (ko) 2012-12-20
KR102022664B1 KR102022664B1 (ko) 2019-11-04

Family

ID=47904455

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020120062356A KR102022664B1 (ko) 2011-06-09 2012-06-11 고주파수 대역폭 확장을 위한 부호화/복호화 장치 및 방법
KR1020190112363A KR102109938B1 (ko) 2011-06-09 2019-09-10 고주파수 대역폭 확장을 위한 부호화/복호화 장치 및 방법

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020190112363A KR102109938B1 (ko) 2011-06-09 2019-09-10 고주파수 대역폭 확장을 위한 부호화/복호화 장치 및 방법

Country Status (14)

Country Link
US (2) US10453466B2 (ko)
EP (3) EP3249647B1 (ko)
JP (3) JP6148983B2 (ko)
KR (2) KR102022664B1 (ko)
CN (3) CN106228992B (ko)
AU (1) AU2011350143B9 (ko)
BR (2) BR112013016438B1 (ko)
CA (3) CA2929800C (ko)
ES (2) ES2967508T3 (ko)
MX (1) MX2013007489A (ko)
MY (2) MY186055A (ko)
RU (1) RU2672133C1 (ko)
SG (1) SG191771A1 (ko)
WO (1) WO2012091464A1 (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160145559A (ko) * 2014-03-24 2016-12-20 삼성전자주식회사 고대역 부호화방법 및 장치와 고대역 복호화 방법 및 장치
US9754594B2 (en) 2013-12-02 2017-09-05 Huawei Technologies Co., Ltd. Encoding method and apparatus
US10115409B2 (en) 2015-08-11 2018-10-30 Samsung Electronics Co., Ltd Adaptive processing of sound data
US11676614B2 (en) 2014-03-03 2023-06-13 Samsung Electronics Co., Ltd. Method and apparatus for high frequency decoding for bandwidth extension

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SG191771A1 (en) * 2010-12-29 2013-08-30 Samsung Electronics Co Ltd Apparatus and method for encoding/decoding for high-frequency bandwidth extension
US9418651B2 (en) * 2013-07-31 2016-08-16 Google Technology Holdings LLC Method and apparatus for mitigating false accepts of trigger phrases
PL3046104T3 (pl) 2013-09-16 2020-02-28 Samsung Electronics Co., Ltd. Sposób kodowania sygnału oraz sposób dekodowania sygnału
EP2980794A1 (en) * 2014-07-28 2016-02-03 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio encoder and decoder using a frequency domain processor and a time domain processor
CN111968656B (zh) * 2014-07-28 2023-11-10 三星电子株式会社 信号编码方法和装置以及信号解码方法和装置
EP2980795A1 (en) 2014-07-28 2016-02-03 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio encoding and decoding using a frequency domain processor, a time domain processor and a cross processor for initialization of the time domain processor
EP2980798A1 (en) * 2014-07-28 2016-02-03 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Harmonicity-dependent controlling of a harmonic filter tool
WO2016024853A1 (ko) * 2014-08-15 2016-02-18 삼성전자 주식회사 음질 향상 방법 및 장치, 음성 복호화방법 및 장치와 이를 채용한 멀티미디어 기기
CN107545900B (zh) * 2017-08-16 2020-12-01 广州广晟数码技术有限公司 带宽扩展编码和解码中高频弦信号生成的方法和装置
CN108630212B (zh) * 2018-04-03 2021-05-07 湖南商学院 非盲带宽扩展中高频激励信号的感知重建方法与装置
CN109448741B (zh) * 2018-11-22 2021-05-11 广州广晟数码技术有限公司 一种3d音频编码、解码方法及装置
JP6693551B1 (ja) * 2018-11-30 2020-05-13 株式会社ソシオネクスト 信号処理装置および信号処理方法
CN112086102B (zh) * 2020-08-31 2024-04-16 腾讯音乐娱乐科技（深圳）有限公司 扩展音频频带的方法、装置、设备以及存储介质
CN113299313B (zh) * 2021-01-28 2024-03-26 维沃移动通信有限公司 音频处理方法、装置及电子设备
CN113938749B (zh) * 2021-11-30 2023-05-05 北京百度网讯科技有限公司 音频数据处理方法、装置、电子设备和存储介质
CN114550732B (zh) * 2022-04-15 2022-07-08 腾讯科技（深圳）有限公司 一种高频音频信号的编解码方法和相关装置

Family Cites Families (62)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SE501305C2 (sv) * 1993-05-26 1995-01-09 Ericsson Telefon Ab L M Förfarande och anordning för diskriminering mellan stationära och icke stationära signaler
JPH08179796A (ja) * 1994-12-21 1996-07-12 Sony Corp 音声符号化方法
JP3317470B2 (ja) * 1995-03-28 2002-08-26 日本電信電話株式会社 音響信号符号化方法、音響信号復号化方法
JP3707116B2 (ja) * 1995-10-26 2005-10-19 ソニー株式会社 音声復号化方法及び装置
DE19729494C2 (de) 1997-07-10 1999-11-04 Grundig Ag Verfahren und Anordnung zur Codierung und/oder Decodierung von Sprachsignalen, insbesondere für digitale Diktiergeräte
JP3235543B2 (ja) * 1997-10-22 2001-12-04 松下電器産業株式会社 音声符号化／復号化装置
SE521225C2 (sv) 1998-09-16 2003-10-14 Ericsson Telefon Ab L M Förfarande och anordning för CELP-kodning/avkodning
US6377915B1 (en) * 1999-03-17 2002-04-23 Yrp Advanced Mobile Communication Systems Research Laboratories Co., Ltd. Speech decoding using mix ratio table
US7117149B1 (en) 1999-08-30 2006-10-03 Harman Becker Automotive Systems-Wavemakers, Inc. Sound source classification
JP2000132199A (ja) * 1999-12-02 2000-05-12 Matsushita Electric Ind Co Ltd 音声符号化装置／復号化装置
US6947888B1 (en) 2000-10-17 2005-09-20 Qualcomm Incorporated Method and apparatus for high performance low bit-rate coding of unvoiced speech
JP2002202799A (ja) 2000-10-30 2002-07-19 Fujitsu Ltd 音声符号変換装置
WO2003042979A2 (en) 2001-11-14 2003-05-22 Matsushita Electric Industrial Co., Ltd. Encoding device and decoding device
JP2003304238A (ja) * 2002-04-09 2003-10-24 Sony Corp 信号再生方法及び装置、信号記録方法及び装置、並びに符号列生成方法及び装置
US7218251B2 (en) 2002-03-12 2007-05-15 Sony Corporation Signal reproducing method and device, signal recording method and device, and code sequence generating method and device
US20050004793A1 (en) * 2003-07-03 2005-01-06 Pasi Ojala Signal adaptation for higher band coding in a codec utilizing band split coding
US7619995B1 (en) * 2003-07-18 2009-11-17 Nortel Networks Limited Transcoders and mixers for voice-over-IP conferencing
CA2457988A1 (en) * 2004-02-18 2005-08-18 Voiceage Corporation Methods and devices for audio compression based on acelp/tcx coding and multi-rate lattice vector quantization
FI119533B (fi) * 2004-04-15 2008-12-15 Nokia Corp Audiosignaalien koodaus
JP4741476B2 (ja) 2004-04-23 2011-08-03 パナソニック株式会社 符号化装置
MXPA06004544A (es) 2004-04-28 2006-06-23 Matsushita Electric Ind Co Ltd Aparato de generacion de corriente, metodo de generacion de corriente, aparato de codificacion, metodo de codificacion, medio de grabacion y programa para los mismos.
CN1954363B (zh) * 2004-05-19 2011-10-12 松下电器产业株式会社 编码装置和编码方法
MX2007005103A (es) * 2004-11-02 2007-07-04 Koninkl Philips Electronics Nv Codificacion y decodificacion de senales de audio utilizando bancos de filtros de valor complejo.
KR100707174B1 (ko) 2004-12-31 2007-04-13 삼성전자주식회사 광대역 음성 부호화 및 복호화 시스템에서 고대역 음성부호화 및 복호화 장치와 그 방법
US7805314B2 (en) * 2005-07-13 2010-09-28 Samsung Electronics Co., Ltd. Method and apparatus to quantize/dequantize frequency amplitude data and method and apparatus to audio encode/decode using the method and apparatus to quantize/dequantize frequency amplitude data
US7587314B2 (en) * 2005-08-29 2009-09-08 Nokia Corporation Single-codebook vector quantization for multiple-rate applications
KR20070026939A (ko) * 2005-08-29 2007-03-09 주식회사 아이캐시 한 개의 카드번호를 이용한 마일리지 포인트, 전자화폐,전자상품권, 선불카드, 직불카드 및 타 신용카드의통합결제 시스템 및 방법
KR100795727B1 (ko) * 2005-12-08 2008-01-21 한국전자통신연구원 Ｃｅｌｐ기반의 음성 코더에서 고정 코드북 검색 장치 및방법
KR20070115637A (ko) * 2006-06-03 2007-12-06 삼성전자주식회사 대역폭 확장 부호화 및 복호화 방법 및 장치
US9159333B2 (en) 2006-06-21 2015-10-13 Samsung Electronics Co., Ltd. Method and apparatus for adaptively encoding and decoding high frequency band
WO2007148925A1 (en) * 2006-06-21 2007-12-27 Samsung Electronics Co., Ltd. Method and apparatus for adaptively encoding and decoding high frequency band
KR101390188B1 (ko) * 2006-06-21 2014-04-30 삼성전자주식회사 적응적 고주파수영역 부호화 및 복호화 방법 및 장치
KR101393298B1 (ko) 2006-07-08 2014-05-12 삼성전자주식회사 적응적 부호화/복호화 방법 및 장치
US7873514B2 (en) * 2006-08-11 2011-01-18 Ntt Docomo, Inc. Method for quantizing speech and audio through an efficient perceptually relevant search of multiple quantization patterns
EP2062255B1 (en) * 2006-09-13 2010-03-31 Telefonaktiebolaget LM Ericsson (PUBL) Methods and arrangements for a speech/audio sender and receiver
KR101565919B1 (ko) * 2006-11-17 2015-11-05 삼성전자주식회사 고주파수 신호 부호화 및 복호화 방법 및 장치
US8639500B2 (en) * 2006-11-17 2014-01-28 Samsung Electronics Co., Ltd. Method, medium, and apparatus with bandwidth extension encoding and/or decoding
ATE547898T1 (de) * 2006-12-12 2012-03-15 Fraunhofer Ges Forschung Kodierer, dekodierer und verfahren zur kodierung und dekodierung von datensegmenten zur darstellung eines zeitdomänen-datenstroms
KR101379263B1 (ko) 2007-01-12 2014-03-28 삼성전자주식회사 대역폭 확장 복호화 방법 및 장치
CN101231850B (zh) * 2007-01-23 2012-02-29 华为技术有限公司 编解码方法及装置
FR2912249A1 (fr) * 2007-02-02 2008-08-08 France Telecom Codage/decodage perfectionnes de signaux audionumeriques.
US8032359B2 (en) * 2007-02-14 2011-10-04 Mindspeed Technologies, Inc. Embedded silence and background noise compression
CN101542595B (zh) * 2007-02-14 2016-04-13 Lg电子株式会社 用于编码和解码基于对象的音频信号的方法和装置
JP4871894B2 (ja) 2007-03-02 2012-02-08 パナソニック株式会社 符号化装置、復号装置、符号化方法および復号方法
KR101373004B1 (ko) 2007-10-30 2014-03-26 삼성전자주식회사 고주파수 신호 부호화 및 복호화 장치 및 방법
CN101430880A (zh) * 2007-11-07 2009-05-13 华为技术有限公司 一种背景噪声的编解码方法和装置
CN101836250B (zh) * 2007-11-21 2012-11-28 Lg电子株式会社 用于处理信号的方法及装置
JP5448850B2 (ja) 2008-01-25 2014-03-19 パナソニック株式会社 符号化装置、復号装置およびこれらの方法
JP5108960B2 (ja) * 2008-03-04 2012-12-26 エルジー エレクトロニクス インコーポレイティド オーディオ信号処理方法及び装置
EP2144230A1 (en) * 2008-07-11 2010-01-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Low bitrate audio encoding/decoding scheme having cascaded switches
WO2010036061A2 (en) * 2008-09-25 2010-04-01 Lg Electronics Inc. An apparatus for processing an audio signal and method thereof
US20100114568A1 (en) * 2008-10-24 2010-05-06 Lg Electronics Inc. Apparatus for processing an audio signal and method thereof
CA2966469C (en) * 2009-01-28 2020-05-05 Dolby International Ab Improved harmonic transposition
US8457975B2 (en) * 2009-01-28 2013-06-04 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Audio decoder, audio encoder, methods for decoding and encoding an audio signal and computer program
JP4892021B2 (ja) * 2009-02-26 2012-03-07 株式会社東芝 信号帯域拡張装置
JP4932917B2 (ja) 2009-04-03 2012-05-16 株式会社エヌ・ティ・ティ・ドコモ 音声復号装置、音声復号方法、及び音声復号プログラム
US8311843B2 (en) * 2009-08-24 2012-11-13 Sling Media Pvt. Ltd. Frequency band scale factor determination in audio encoding based upon frequency band signal energy
WO2011044700A1 (en) * 2009-10-15 2011-04-21 Voiceage Corporation Simultaneous time-domain and frequency-domain noise shaping for tdac transforms
PL2491555T3 (pl) 2009-10-20 2014-08-29 Fraunhofer Ges Forschung Wielotrybowy kodek audio
US9443534B2 (en) 2010-04-14 2016-09-13 Huawei Technologies Co., Ltd. Bandwidth extension system and approach
CN102436820B (zh) 2010-09-29 2013-08-28 华为技术有限公司 高频带信号编码方法及装置、高频带信号解码方法及装置
SG191771A1 (en) * 2010-12-29 2013-08-30 Samsung Electronics Co Ltd Apparatus and method for encoding/decoding for high-frequency bandwidth extension

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Max Neuendorf(editor). WD7 of USAC. ISO/IEC JTC1/SC29/WG11 N11299. 2010.04.26.* *
Ulrich Kornagel. Techniques for artificial bandwidth extension of telephone speech. Signal Processing, 2006.06.01, Vol.86, no.6, pp.1296-1306.* *

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9754594B2 (en) 2013-12-02 2017-09-05 Huawei Technologies Co., Ltd. Encoding method and apparatus
KR20170132906A (ko) * 2013-12-02 2017-12-04 후아웨이 테크놀러지 컴퍼니 리미티드 인코딩 방법 및 장치
KR20180118261A (ko) * 2013-12-02 2018-10-30 후아웨이 테크놀러지 컴퍼니 리미티드 인코딩 방법 및 장치
US10347257B2 (en) 2013-12-02 2019-07-09 Huawei Technologies Co., Ltd. Encoding method and apparatus
US11289102B2 (en) 2013-12-02 2022-03-29 Huawei Technologies Co., Ltd. Encoding method and apparatus
US11676614B2 (en) 2014-03-03 2023-06-13 Samsung Electronics Co., Ltd. Method and apparatus for high frequency decoding for bandwidth extension
KR20160145559A (ko) * 2014-03-24 2016-12-20 삼성전자주식회사 고대역 부호화방법 및 장치와 고대역 복호화 방법 및 장치
KR20220070549A (ko) * 2014-03-24 2022-05-31 삼성전자주식회사 고대역 부호화방법 및 장치와 고대역 복호화 방법 및 장치
US11688406B2 (en) 2014-03-24 2023-06-27 Samsung Electronics Co., Ltd. High-band encoding method and device, and high-band decoding method and device
US10115409B2 (en) 2015-08-11 2018-10-30 Samsung Electronics Co., Ltd Adaptive processing of sound data

Also Published As

Publication number Publication date
KR102022664B1 (ko) 2019-11-04
CA2981539A1 (en) 2012-07-05
US20200051579A1 (en) 2020-02-13
JP2018018113A (ja) 2018-02-01
CN106409305A (zh) 2017-02-15
CA2981539C (en) 2020-08-25
KR20190108088A (ko) 2019-09-23
EP3023985A1 (en) 2016-05-25
US20190115037A1 (en) 2019-04-18
MX2013007489A (es) 2013-11-20
CA2823175A1 (en) 2012-07-05
JP6148983B2 (ja) 2017-06-14
JP6599417B2 (ja) 2019-10-30
US10453466B2 (en) 2019-10-22
JP6240145B2 (ja) 2017-11-29
CN103493131A (zh) 2014-01-01
EP2657933A4 (en) 2014-08-27
EP3023985B1 (en) 2017-07-05
US10811022B2 (en) 2020-10-20
ES2967508T3 (es) 2024-04-30
WO2012091464A1 (ko) 2012-07-05
EP2657933A1 (en) 2013-10-30
EP2657933B1 (en) 2016-03-02
KR102109938B1 (ko) 2020-05-12
CN106228992B (zh) 2019-12-03
ES2564504T3 (es) 2016-03-23
CN106228992A (zh) 2016-12-14
CN106409305B (zh) 2019-12-10
BR112013016438B1 (pt) 2021-08-17
EP3249647C0 (en) 2023-10-18
CN103493131B (zh) 2016-11-16
MY186055A (en) 2021-06-17
CA2823175C (en) 2016-07-26
BR122021007425B1 (pt) 2022-12-20
WO2012091464A4 (ko) 2012-09-27
AU2011350143B9 (en) 2015-05-14
EP3249647A1 (en) 2017-11-29
RU2672133C1 (ru) 2018-11-12
BR112013016438A2 (pt) 2017-03-28
JP2016105174A (ja) 2016-06-09
CA2929800A1 (en) 2012-07-05
CA2929800C (en) 2017-12-19
EP3249647B1 (en) 2023-10-18
SG191771A1 (en) 2013-08-30
MY185753A (en) 2021-06-03
AU2011350143B2 (en) 2015-02-05
RU2013135005A (ru) 2015-02-10
JP2014505902A (ja) 2014-03-06

Similar Documents

Publication Publication Date Title
KR102109938B1 (ko) 고주파수 대역폭 확장을 위한 부호화/복호화 장치 및 방법
KR102013242B1 (ko) 고주파수 대역폭 확장을 위한 부호화/복호화 장치 및 방법
AU2015202393B2 (en) Apparatus and method for encoding/decoding for high-frequency bandwidth extension
AU2016222488B2 (en) Apparatus and method for encoding/decoding for high-frequency bandwidth extension
RU2575680C2 (ru) Устройство и способ для кодирования/декодирования для расширения диапазона высоких частот

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant