KR20080029757A - 믹스 신호의 처리 방법 및 장치 - Google Patents

믹스 신호의 처리 방법 및 장치 Download PDF

Info

Publication number
KR20080029757A
KR20080029757A KR1020070063182A KR20070063182A KR20080029757A KR 20080029757 A KR20080029757 A KR 20080029757A KR 1020070063182 A KR1020070063182 A KR 1020070063182A KR 20070063182 A KR20070063182 A KR 20070063182A KR 20080029757 A KR20080029757 A KR 20080029757A
Authority
KR
South Korea
Prior art keywords
signal
additional information
mix
information
source
Prior art date
Application number
KR1020070063182A
Other languages
English (en)
Other versions
KR100891666B1 (ko
Inventor
오현오
정양원
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Publication of KR20080029757A publication Critical patent/KR20080029757A/ko
Application granted granted Critical
Publication of KR100891666B1 publication Critical patent/KR100891666B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16Vocoder architecture
    • G10L19/18Vocoders using multiple modes
    • G10L19/20Vocoders using multiple modes using sound class specific coding, hybrid encoders or object based coding
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/0204Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders using subband decomposition
    • G10L19/0208Subband vocoders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S3/00Systems employing more than two channels, e.g. quadraphonic
    • H04S3/008Systems employing more than two channels, e.g. quadraphonic in which the audio signals are in digital form, i.e. employing more than two discrete digital channels

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computational Linguistics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Mathematical Physics (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)

Abstract

본 발명은 믹스 신호의 처리 방법 및 장치에 관한 것이다. 이를 위해 본 발명은 하나 이상의 소스 신호를 포함하는 믹스 신호의 비지각적 영역에 임베드된 부가 정보를 추출하는 단계와; 사용자 믹스 파라미터를 획득하는 단계와; 상기 믹스 신호, 상기 부가 정보 및 상기 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성하는 단계를 포함하되, 상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 방법을 제공한다.
리믹싱, 부가 정보, 소스 신호

Description

믹스 신호의 처리 방법 및 장치{APPARATUS FOR PROCESSING AUDIO SIGNAL AND METHOD THEREOF}
도 1은 본 발명의 일 실시예에 따른 제1 리믹스 신호 인코딩 장치에 대한 블록도.
도 2는 스테레오 신호를 이용하는 경우, 도 1의 제1 리믹스 신호 인코딩 장치에 대한 상세 블록도.
도 3은 본 발명의 일 실시예에 따른 믹스 신호를 처리하기 위한 도메인.
도 4는 본 발명의 일 실시예에 따른 제2 리믹스 신호 인코딩 장치에 대한 블록도.
도 5는 본 발명의 일 실시예에 따른 제1 리믹스 신호 디코딩 장치에 대한 블록도.
도 6은 스테레오 신호를 이용하는 경우, 도 5의 제1 리믹스 신호 디코딩 장치에 대한 상세도.
도 7은 본 발명의 일 실시예에 따른 제2 리믹스 신호 디코딩 장치에 대한 블록도.
도 8A는 통상적인 인코딩 장치 및 본 발명의 일 실시예에 따른 리믹스 신호 인코딩 장치의 결합을 나타내는 블록도.
도 8B는 종래의 디코딩 장치와 결합하여 이용되는 본 발명의 일 실시예에 따른 제2 리믹스 신호 디코딩 장치에 대한 블록도.
도 9는 본 발명의 일 실시예에 따른 리믹스 신호 디코딩 장치에 상세 블록도.
도 10은 부가 정보를 임베드하는 본 발명의 일 실시예에 따른 인코딩 장치에 대한 블록도.
도 11은 본 발명의 일 실시예에 따른 도 10의 인코딩 장치를 구성하는 임베딩부에 대한 상세 블록도.
도 12는 본 발명의 일 실시예에 따른 부가 정보를 임베드하는 제1 방법에 대한 도면.
도 13은 본 발명의 일 실시예에 따른 부가 정보를 임베드하는 제2 방법에 대한 도면.
도 14는 본 발명의 일 실시예에 따른 부가 정보를 재구성한 데이터 구조에 대한 도면.
도 15는 본 발명의 일 실시예에 따른 임베드된 부가 정보를 이용하여 믹스 신호를 디코딩하는 디코딩 장치에 대한 블록도.
도 16은 원신호를 보존하며 부가 정보를 임베드하는 본 발명의 일 실시예에 따른 인코딩 장치를 구성하는 임베딩부에 대한 상세 블록도.
도 17은 본 발명의 일 실시예에 따른 원신호를 보존하며 부가정보를 임베딩하는 방법을 나타내는 블록도.
도 18은 원신호를 완전히 복원하는 본 발명의 일 실시예에 따른 디코딩 장치에 대한 블록도.
도 19는 본 발명의 일 실시예에 따른 두 채널의 믹스 신호에 부가 정보를 임베드하는 제1 방법을 나타내는 도면.
도 20은 본 발명의 일 실시예에 따른 두 채널의 믹스 신호에 부가 정보를 임베드하는 제2 방법을 나타내는 도면.
도 21은 본 발명의 일 실시예에 따른 두 채널의 믹스 신호에 부가 정보를 임베드하는 제3 방법을 나타내는 도면.
도 22 본 발명의 일 실시예에 따른 두 채널의 믹스 신호에 부가 정보를 임베드하는 제4 방법을 나타내는 도면.
도 23은 본 발명의 일 실시예에 따른 임베드된 부가 정보를 제거하는 방법을 나타내는 블록도.
도 24는 본 발명의 일실시예에 따른 부가 정보가 임베드된 믹스 신호의 인코딩 장치에 대한 블록도.
도 25는 본 발명의 일실시예에 따른 도 24의 인코딩 장치의 상세 블록도.
도 26은 본 발명의 일실시예에 따른 믹스 신호에 부가 정보를 임베딩하는 디코딩 장치에 대한 블록도.
본 발명은 믹스 신호를 인코딩/디코딩하는 방법 및 장치에 관한 것이다. 현재까지는 스테레오 신호가 가장 흔하게 생성되고, 소비자들에게 가장 널리 이용된다. 최근에는 멀티채널 신호가 점점 널리 이용되고 있다. 그러나, 상기 믹스 신호는 상기 믹스 신호를 구성하는 소스 신호 단위가 아니라, 채널 신호 단위로 처리된다는 한계가 있다. 따라서, 채널 신호 단위로 믹스 신호를 처리하는 경우, 믹스 신호를 구성하는 특정 소스 신호만을 독립적으로 처리할 수 없는 문제점이 있다. 예를 들면, 영화를 보면서 배우들 음성에 대한 볼륨은 일정하게 유지하면서, 배경음악의 볼륨만을 높이는 것은 불가능하다.
그리고 기록매체에 믹스 신호를 저장하는 경우, 상기 믹스 신호에 대한 부가 정보를 저장할 수 있는 보조데이터 영역이 존재하지 않는 경우가 있다. 따라서, 이와 같은 경우에는, 미디오 신호를 소스 신호 단위로 처리할 수 없는 문제점이 있다. 또한, 부가 정보를 별도로 저장하거나, 또는 별도로 전송하는 경우에는 일반적인 믹스 신호 포맷과의 호환성 문제가 있다.
상기와 같은 문제점을 해결하기 위하여, 본 발명은 부가 정보를 이용하여 믹스 신호를 소스 신호 단위로 처리하기 위하여, 상기 믹스 신호에 대한 부가 정보를 임베드하는 부호화/복호화 방법 및 장치를 제공하는데 그 목적이 있다.
상기의 목적을 달성하기 위하여, 본 발명은 하나 이상의 소스 신호를 포함하는 믹스 신호의 비지각적 영역에 임베드된 부가 정보를 추출하는 단계와; 사용자 믹스 파라미터를 획득하는 단계와; 상기 믹스 신호, 상기 부가 정보 및 상기 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성하는 단계를 포함하되, 상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 방법을 제공한다.
또한, 상기의 목적을 달성하기 위하여, 본 발명은 하나 이상의 소스 신호를 포함하는 믹스 신호를 획득하는 단계와; 상기 소스 신호들 중 리믹스될 소스 신호를 획득하는 단계와; 상기 믹스 신호 및 상기 리믹스될 소스 신호를 이용하여 부가 정보를 생성하는 단계와; 상기 부가 정보를 상기 믹스 신호의 비지각적 영역에 임베딩하는 단계를 포함하되, 상기 부가 정보는 상기 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 방법을 제공한다.
또한, 상기의 목적을 달성하기 위하여, 본 발명은 하나 이상의 소스 신호를 포함하는 믹스 신호의 비지각적 영역에 임베드된 결합 신호를 추출하는 단계와; 상기 결합 신호를 무손실 복호화하여 상기 비지각적 영역에 대응되는 신호를 복원하는 단계와; 상기 복원된 신호를 이용하여 상기 결합 신호가 추출된 믹스 신호를 복원하는 단계를 포함하되, 상기 결합 신호는 상기 믹스 신호의 비지각적 영역에 위치하는 신호를 무손실 부호화한 신호 및 부가 정보를 포함하는 것을 특징으로 하는 신호 처리 방법을 제공한다.
또한, 상기의 목적을 달성하기 위하여, 본 발명은 하나 이상의 소스 신호를 포함하는 믹스 신호의 비지각적 영역에 위치하는 신호를 무손실 부호화하는 단계와; 상기 무손실 부호화된 신호 및 부가 정보를 결합하여 결합 신호를 생성하는 단 계와; 상기 결합 신호를 상기 비지각적 영역에 임베드하는 단계를 포함하되, 상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 방법을 제공한다.
또한, 상기의 목적을 달성하기 위하여, 본 발명은 하나 이상의 소스 신호를 포함하는 믹스 신호의 비지각적 영역에 존재하는 부가 정보를 추출하는 단계와; 상기 믹스 신호를 부호화하는 단계와; 상기 부호화된 믹스 신호 및 상기 부가 정보를 이용하여 비트스트림을 생성하는 단계를 포함하되, 상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호 및 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 방법을 제공한다.
또한, 상기의 목적을 달성하기 위하여, 본 발명은 부호화된 믹스 신호 및 부가 정보를 획득하는 단계와; 상기 부호화된 믹스 신호를 복호화하는 단계와; 상기 복호화된 믹스 신호의 비지각적 영역에 상기 부가 정보를 임베드하는 단계를 포함하되, 상기 믹스 신호는 하나 이상의 소스 신호를 포함하고, 상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 방법을 제공한다.
또한, 상기의 목적을 달성하기 위하여, 본 발명은 하나 이상의 소스 신호를 포함하는 믹스 신호의 비지각적 영역에 임베드된 부호화된 부가 정보를 추출하는 임베디드신호디코딩부; 상기 부호화된 부가 정보를 디코딩하여 부가 정보를 생성하는 부가정보디코딩부; 및 상기 부가 정보, 상기 믹스 신호 및 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성하는 리믹스렌더링부를 포함하되, 상기 부가 정 보는 상기 소스 신호들 중 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내고, 상기 사용자 믹스 파라미터는 사용자로부터 획득된 제어정보를 이용하여 생성되는 것을 특징으로 하는 신호 처리 장치를 제공한다.
또한, 상기의 목적을 달성하기 위하여, 본 발명은 하나 이상의 소스 신호를 포함하는 믹스 신호 및 리믹스될 소스 신호를 이용하여 부가 정보를 생성하는 부가정보생성부; 및 상기 부가 정보를 상기 믹스 신호의 비지각적 영역에 임베딩하는 임베딩부를 포함하되, 상기 리믹스될 소스 신호는 상기 소스 신호들 중에서 선택되고, 상기 부가 정보는 상기 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 장치를 제공한다.
이하 상기의 목적을 구체적으로 실현할 수 있는 본 발명의 바람직한 실시예를 첨부한 도면을 참조하여 설명한다.
본 발명은 믹스 신호를 소스(object) 신호 단위로 처리할 수 있는 알고리즘을 제공한다. 믹스 신호를 소스 신호 단위로 처리하는 경우, 매우 다양한 효과를 생성할 수 있다. 예를 들면, 영화를 보면서 배우들 음성에 대한 볼륨은 일정하게 유지하면서, 배경음악의 볼륨만을 높이는 것이 가능하다. 본 발명에서 소스 신호란 믹스 신호를 구성하는 하나 이상의 소스(source)(예를 들면, 피아노)를 포함한다. 소스 신호 단위의 처리란 믹스 신호를 처리함에 있어서, 상기 믹스 신호를 구성하는 특정한 소스 신호와 관련된 특성들(예를 들면, 로컬화(localization), 게인(gain))이 "개별적으로(individually)" 수정될 수 있다는 것을 의미한다. 상기 "개별적으로"란 특정한 소스와 관련된 특성을 수정하는 것이 다른 소스 신호들의 특 성에 영향을 미치지 않거나, 지각적으로 느끼기 어려운 작은 영향만을 미치는 것을 의미한다. 설명의 편의상 이하에서 믹스 신호를 예로 하여 기술할 것이나, 본 발명은 믹스 신호에만 한정되지 않는다. 본 발명에서는 통상적인 믹스 신호의 포맷(예를 들면, PCM, MP3, MPEG-AAC)뿐만 아니라, 적은 양의 부가 정보(side information)가 전송된다. 상기 부가 정보를 이용하여, 전송된 믹스 신호에 포함된 소스 신호들을 리믹싱(re-mixing)할 수 있다.
도 1은 본 발명의 일 실시예에 따른 제1 리믹스 신호 인코더의 블록도이다. 상기 제1 리믹스 신호 인코더는 부가정보생성부(103) 및 부가정보인코딩부(105)를 포함한다.
도 1을 참조하면, 부가정보생성부(103)는 통상적인 믹스 신호(101) 및 상기 믹스 신호를 구성하는 소스 신호(102)를 이용하여 부가 정보(104)를 생성한다. 상기 믹스 신호(101)는 모노(mono), 스테레오(stereo) 및 멀티채널 믹스 신호(multi-channel audio signal)가 될 수 있다. 상기 소스 신호(102)는 상기 믹스 신호(101)를 구성하는 소스 신호들 중 일부 또는 전부가 될 수 있다. 상기 부가 정보(104)는 상기 믹스 신호를 소스 신호 단위로 처리하는데 이용되는 정보를 말한다. 상기 부가 정보(104)는 상기 믹스 신호를 리믹싱하기 위한 믹스 파라미터를 포함한다. 상기 믹스 파라터에는 인코더에서 소스 신호를 이용하여 생성된 인코더 믹스 파라미터(Encoder mix parameter)를 포함하며, 선택적으로 믹스 신호만을 이용하여 생성된 블라인드 믹스 파라미터(Blind mix parameter)를 포함할 수 있다. 상기 믹스 파라미터의 예로는 각각의 소스 신호에 대한 게인 값 및 서브밴드 파위(subband power) 등이 될 수 있다. 상기 부가 정보(104)에 대한 구체적인 정의 및 생성 방법은 도 2에서 기술된다. 본 발명은 또한 믹스 신호를 구성하는 소스 신호(102)만을 이용하여 부가 정보(104)를 생성하는 것을 포함한다. 부가정보인코딩부(105)는 생성된 부가 정보(104)를 인코딩하여 부호화된 부가 정보 신호(106)를 생성한다. 상기 믹스 신호(101) 및 상기 부가 정보 신호(106)는 디코딩 장치로 전송된다.
도 2는 믹스 신호가 스테레오 신호인 경우, 도 1의 제1 리믹스 신호 인코딩 장치에 대한 상세 블록도이다. 전술한 것처럼, 본 발명에서 사용되는 믹스 신호는 모노, 스테레오 및 멀티채널 믹스 신호가 될 수 있으나, 편의상 스테레오 신호(201)를 기준으로 설명한다.
상기 스테레오 신호(stereo signal)(201)
Figure 112007046536320-PAT00001
Figure 112007046536320-PAT00002
는 상기 스테레오 신호를 구성하는 소스 신호들의 합으로 표현될 수 있다. 여기서, n은 타임 인덱스를 의미한다. 따라서, 상기 스테레오 신호(201)는 아래의 [수학식 1]과 같이 표현될 수 있다.
Figure 112007046536320-PAT00003
여기서, I는 스테레오 신호 내에 포함되는 소스 신호들의 개수이고,
Figure 112007046536320-PAT00004
은 소스 신호들을 나타낸다.
Figure 112007046536320-PAT00005
Figure 112007046536320-PAT00006
는 각각의 소스 신호에 대한 진폭 패닝(amplitude panning) 및 게인(gain)을 결정하는 값이다. 모든
Figure 112007046536320-PAT00007
들은 서로 독립적이다. 상기
Figure 112007046536320-PAT00008
는 모두 순수한 소스 신호이거나, 또는 순수한 소스 신호에 약간의 잔향(reverberation) 및 효과음 신호성분(sound effect signal components)을 포함할 수 있다. 예를 들면, 특정한 잔향 신호성분은 2개의 소스 신호, 즉, 왼쪽 채널로 믹스된 신호와 오른쪽 채널로 믹스된 신호로 표현될 수 있다.
본 발명의 목적은 M개(0 <= M <= I)의 소스 신호들이 리믹스 되도록, 상기 소스 신호를 포함하는 스테레오 신호를 수정하는 것이다. 상기 소스 신호들은 서로 다른 게인 팩터들을 가지면서 스테레오 신호로 리믹스될 수 있다. 리믹스 신호는 아래의 [수학식 2]와 같이 표현될 수 있다.
Figure 112007046536320-PAT00009
여기서,
Figure 112007046536320-PAT00010
Figure 112007046536320-PAT00011
는 리믹스되는 M개의 소스 신호들에 대한 새로운 게인 팩터들이다. 상기
Figure 112007046536320-PAT00012
Figure 112007046536320-PAT00013
는 디코더 단에서 제공될 수 있다. 이 경우에, 부가정보생성부(206)는 스테레오 신호(201) 및 M개의 소스 신호(202)를 이용하여 부가 정보(207)를 생성할 수 있다.
상술하였듯이, 본 발명의 목적은 통상적인 스테레오 신호와 약간의 부가 정보가 주어지는 경우에, 상기 스테레오 신호를 소스 신호 단위로 리믹스하는 것이다. 본 발명에서와 같이 매우 적은 양의 부가 정보를 이용하여 [수학식 1]로 표현되는 믹스 신호로부터 [수학식 2]로 표현되는 리믹스 신호를 완벽하게 생성하는 것은 가능하지 않다. 따라서, 본 발명은 각각의 소스 신호들
Figure 112007046536320-PAT00014
에 대한 접근 없이, [수학식 1]로 표현되는 통상적인 믹스 신호가 주어지는 경우에, [수학식 2]로 표현되는 리믹스 신호를 지각적으로 모방하는 것을 목적으로 한다.
도 2를 참조하면, 제1 리믹스 신호 인코딩 장치에 통상적인 스테레오 신호(201) 및 상기 스테레오 신호(201)에 포함되는 M개의 소스 신호(202)가 입력된다. 상기 스테레오 신호(201)는 부가 정보와 동기화되기 위해 어느 정도 딜레이 되어, 출력 신호로서 직접 이용될 수 있다. 부가 정보를 생성하기 위해, 상기 스테레오 신호(201) 및 소스 신호들(202)은 필터뱅크(203)를 통하여 시간-주파수 도메인의 서브밴드별 신호(204 및 205)로 분해된다. 즉, 상기 스테레오 신호(201) 및 소스 신호는 시간-주파수 도메인에서 처리되는데, 상기 시간-주파수 도메인에 대해서는 도 3에서 후술한다. 상기 서브밴드별 신호(204)는 각 서브밴드의 중심 주파수에서 유사하게 프로세싱된다. 특정한 주파수에서 스테레오 신호(201)의 서브밴드 쌍(204)은
Figure 112007046536320-PAT00015
Figure 112007046536320-PAT00016
로 표시된다. 여기서 k는 서브밴드 신호들의 시간 인덱스(time index)이다. 유사하게, M개의 소스 신호들(202)의 서브밴드 신호들(205)은
Figure 112007046536320-PAT00017
,
Figure 112007046536320-PAT00018
,...,
Figure 112007046536320-PAT00019
로 표시된다. 명료한 표현을 위해, 서브밴드(주파수) 인덱스를 사용하지 않았다.
상기 소스 신호들(202)의 서브밴드 신호들(205)이 주어지면, 부가정보생성부(206)는 서브밴드별로 숏-타임 서브밴드 파워(short-time subband power),
Figure 112007046536320-PAT00020
를 생성한다. 또한, 상기 부가정보생성부(206)는 스테레오 신호(201)의 서브밴드 쌍(204)을 이용하여, 서브밴드별로 게인 팩터
Figure 112007046536320-PAT00021
Figure 112007046536320-PAT00022
를 생성한다. 상기 게인 팩터
Figure 112007046536320-PAT00023
Figure 112007046536320-PAT00024
는 외부에서 직접 주어질 수 있다. 상기 서브밴드별 숏-타임 서브밴드 파워 및 게인 팩터를 이용하여 서브밴드별 부가 정보(207)가 생성된다. 상기 부가정보생성부(206)는 상기 숏-타임 서브밴드 파워 및 게인 팩터들 이외에 상기 스테레오 신호에 관련된 다른 정보를 부가 정보(207)로 생성할 수 있다. 부가정보인코딩부(208)는 상기 서브밴드별 부가정보(207)를 이용하여 부호화된 부가 정보 신호(209)를 생성한다.
많은 스테레오 신호(201)에 대하여, 게인 팩터
Figure 112007046536320-PAT00025
Figure 112007046536320-PAT00026
는 고정적이 될 것이다. 만일
Figure 112007046536320-PAT00027
Figure 112007046536320-PAT00028
가 시간 k에 따라 가변적이라면, 상기 게인 팩터들은 시 간의 함수로 생성될 것이다. 상기 게인 팩터들은 직접 양자화 및 부호화되지 않고, 먼저 양자화 및 부호화에 더 적합한 다른 값들로 전환될 수 있다. 또한,
Figure 112007046536320-PAT00029
는 스테레오 신호(201)의 서브밴드 파워에 상대적인 값으로 정규화될 수 있다. 이것은 스테레오 신호를 효율적으로 부호화하기 위해 통상적인 인코딩 장치가 이용되는 경우에, 본 발명을 상대적으로 변화에 강하도록 만들어준다. 예를 들면,
Figure 112007046536320-PAT00030
Figure 112007046536320-PAT00031
는 아래의 [수학식 3]으로 표현되는 게인 및 데시벨(dB) 단위의 레벨차로 전환되어 전송될 수 있다.
Figure 112007046536320-PAT00032
또한,
Figure 112007046536320-PAT00033
는 부가 정보로서 직접 부호화되는 것이 아니라, 아래의 [수학식 4]로 표현되는 스테레오 신호에 상대적으로 정의된 값으로 변환되어 전송될 수 있다.
Figure 112007046536320-PAT00034
숏-타임 서브밴드 파워를 생성하기 위해, 본 발명은 단일-폴 평균(single-pole averaging)을 사용한다. 즉,
Figure 112007046536320-PAT00035
는 아래의 [수학식 5]와 같이 계산될 수 있다.
Figure 112007046536320-PAT00036
여기서, α∈[0,1]는 아래의 [수학식 6]와 같이 지수적으로 감소하는 추정 윈도우(estimation window)의 시간-상수를 결정한다.
Figure 112007046536320-PAT00037
여기서,
Figure 112007046536320-PAT00038
는 서브밴드 샘플링 주파수를 나타낸다. 예를 들면, T=40 ms를 이용할 수 있다. 이하에서,
Figure 112007046536320-PAT00039
는 숏-타임 평균(short-time averaging)을 나타낸다. 만일
Figure 112007046536320-PAT00040
Figure 112007046536320-PAT00041
가 주어지지 않는다면, 상기
Figure 112007046536320-PAT00042
Figure 112007046536320-PAT00043
는 부가정보생성부(206)에서 생성될 필요가 있다.
Figure 112007046536320-PAT00044
이므로,
Figure 112007046536320-PAT00045
는 아래의 [수학식 7]과 같이 계산된다.
Figure 112007046536320-PAT00046
유사하게,
Figure 112007046536320-PAT00047
는 아래의 [수학식 8]과 같이 계산된다.
Figure 112007046536320-PAT00048
도 3은 본 발명의 일 실시예에 따른 믹스 신호를 처리하기 위한 도메인을 도시한다. 전술한 것처럼, 믹스 신호 및 부가 정보는 도 3에 도시된 것과 같은 시간-주파수 도메인의 서브밴드별 신호로서 처리된다. 상기 시간-주파수 도메인의 서브밴드별 신호는 지각적으로 유도된다. 예를 들면, 약 20ms의 길이를 가지는 사인파 분석창 및 통합창(sine analysis and synthesis window)을 가지는 STFT(Short Time Fourier transform)를 이용하여 서브밴드별 신호를 생성할 수 있다. 이때, STFT 계수들은 하나의 그룹이 ERB(equivalent rectangular bandwidth)의 약 2배가 되는 대역폭을 갖도록 그룹화될 수 있다.
도 4는 본 발명의 일 실시예에 따른 제2 리믹스 신호 인코딩 장치에 대한 블록도이다. 상기 제2 리믹스 신호 인코딩 장치는 다운믹싱부(402), 부가정보생성부(403) 및 부가정보인코딩부(406)을 포함한다.
도 4를 참조하면, 다운믹싱부(402)는 복수의 소스 신호들(401)을 더하여 하나의 합 신호(sum signal)(404)을 생성한다. 제2 리믹스 신호 인코딩 장치는 제1 리믹스 신호 인코딩 장치와는 달리, 스테레오 신호를 전송하는 대신에 상기 합 신호(404)를 전송한다. 부가정보생성부(403)는 상기 소스 신호들(401)을 이용하여 부가 정보(405)를 생성한다. 상기 부가 정보(405)는 각 소스 신호에 대응하는 서브밴드 파워 및 게인 팩터를 포함한다. 또한, 상기 부가 정보(405)는 리믹스렌더링부에서의 딜레이에 대응하는 파라미터를 포함할 수 있다. 제1 리믹스 신호 인코딩 장치에서와 유사하게, 상기 부가 정보(405)는 양자화 및 부호화에 더 적합한 다른 값으로 변환되어 전송될 수 있다. 부가정보인코딩부(406)는 생성된 부가 정보(405)를 이용하여 부호화된 부가 정보 신호(407)를 생성한다. 생성된 상기 합 신호(404) 및 부가 정보 신호(407)는 디코딩 장치로 전송된다. 본 발명은 또한 다운믹싱부(402)를 가지지 않는 인코딩 장치를 포함한다. 이 경우에, 소스 신호들(401)은 합 신호(404)로 변환되지 않고, 각 소스 신호들(401)이 직접 전송된다.
도 5는 본 발명의 일 실시예에 따른 제1 리믹스 신호 디코딩 장치에 대한 블록도이다. 상기 제1 리믹스 신호 디코딩 장치는 부가정보디코딩부(503) 및 리믹스렌더링부(505)를 포함한다.
도 5를 참조하면, 믹스 신호(501) 및 부가 정보 신호(502)가 제1 리믹스 신호 디코딩 장치에 입력된다. 상기 믹스 신호(501)는 모노, 스테레오 또는 멀티채널 믹스 신호가 될 수 있다. 부가정보디코딩부(503)는 부가 정보 신호(502)를 디코딩하여 부가 정보(504)를 생성한다. 상기 부가 정보(504)는 전송된 믹스 신호(501)에 포함된 소스 신호들의 게인 팩터 및 서브밴드 파워 등을 포함한다. 리믹스렌더링부(505)에는 사용자가 직접 제공하는 제어 정보를 이용하여 생성된 사용자 믹스 파라미터(user-mix parameter, 506)가 입력될 수 있다. 리믹스렌더링부(505)는 믹스 신호(501), 전송된 부가 정보(504) 및 사용자 믹스 파라미터(506)를 이용하여 리믹스 신호(507)를 생성한다. 상기 리믹스 신호를 생성하는 방법에 관한 구체적인 설명은 도 6에서 후술한다. 리믹스 신호(507)는 전송된 믹스 신호의 채널 수와 동일한 채널 수를 가지는 동채널 믹스 신호(Eq-channel mix signal)로 생성되거나, 또는 믹스 신호의 채널 수보다 많은 채널 수를 가지는 업채널 믹스 신호(Up-channel mix signal)로 생성될 수 있다.
도 6은 스테레오 신호를 이용하는 경우, 도 5의 제1 리믹스 신호 디코딩 장치에 대한 상세도이다. 전술한 것처럼, 전송된 믹스 신호는 모노, 스테레오 및 멀티채널 믹스 신호가 될 수 있으나, 편의상 스테레오 신호(601)를 기준으로 설명한다.
도 6을 참조하면, 스테레오 신호(601)는 필터뱅크(603)을 통하여 시간-주파수 도메인의 서브밴드별 신호(604)로 분해된다. 도 6에 도시된 것처럼, 특정한 주파수에서의 서브밴드별 신호(604)은
Figure 112007046536320-PAT00049
Figure 112007046536320-PAT00050
로 표현된다. 부가정보디코딩부(605)는 전송된 부가 정보 신호(602)를 복호화하여, 서브밴드별 부가 정보(606)를 생성한다. 또한, 리믹스렌더링부(607)에 사용자가 제공하는 제어 정보를 이용하여 생성된 사용자 믹스 파라미터(608)가 입력될 수 있으며, 상기 사용자 믹 스 파라미터(608)는 서브밴드별로 제공될 수 있다. 전술한 것처럼, 상기 부가 정보(606)는 리믹스 될 M개의 소스 신호에 대한 서브밴드별 게인 팩터(
Figure 112007046536320-PAT00051
Figure 112007046536320-PAT00052
) 및
Figure 112007046536320-PAT00053
로 표현되는 서브밴드 파워를 포함한다. 리믹스렌더링부(607)는 서브밴드별로 생성된 스테레오 신호(604), 전송된 부가 정보(606) 및 사용자 믹스 파라미터(608)를 이용하여, 서브밴드별 리믹스 신호(609),
Figure 112007046536320-PAT00054
Figure 112007046536320-PAT00055
를 생성한다. 상기 리믹스 신호(609)를 생성하는 방법은 아래에서 더욱 상세하게 기술된다. 상기 리믹스 신호(609)는 역필터뱅크(610)를 통해 시간 도메인(time domain)의 스테레오 신호(611),
Figure 112007046536320-PAT00056
Figure 112007046536320-PAT00057
로 변환된다.
리믹스렌더링부(607)에서 생성된 리믹스 신호(609)를 생성하는 방법은 다음과 같다. 상기 [수학식 1] 및 [수학식 2]는 서브밴드별 신호(604 및 609)에 대해서도 유효하다. 이 경우에, 소스 신호
Figure 112007046536320-PAT00058
는 서브밴드별 소스 신호
Figure 112007046536320-PAT00059
로 교체된다. 즉, 서브밴드별 믹스 신호(604)는 아래의 [수학식 9]과 같이 표현될 수 있다.
Figure 112007046536320-PAT00060
서브밴드별 리믹스 신호(609)는 아래의 [수학식 10]과 같이 표현될 수 있다.
Figure 112007046536320-PAT00061
리믹스 신호(609)를 생성하기 위해, 최소자승추정법(least squares estimation)이 이용될 수 있다. 서브밴드별 믹스 신호(604),
Figure 112007046536320-PAT00062
Figure 112007046536320-PAT00063
가 주어지면, 아래의 [수학식 11]와 같이 서로 다른 게인들을 가지는 서브밴드별 리믹스 신호(609)가 상기 서브밴드별 믹스 신호(604)의 선형 조합으로 추정될 수 있다.
Figure 112007046536320-PAT00064
여기서,
Figure 112007046536320-PAT00065
,
Figure 112007046536320-PAT00066
,
Figure 112007046536320-PAT00067
Figure 112007046536320-PAT00068
는 가중 팩터들(weighting factors)이다. 이때, 생성되는 추정 에러(estimation error)는 아래의 [수학식 12]과 같이 정의될 수 있다.
Figure 112007046536320-PAT00069
상기 가중 팩터들,
Figure 112007046536320-PAT00070
,
Figure 112007046536320-PAT00071
,
Figure 112007046536320-PAT00072
Figure 112007046536320-PAT00073
는 평균제곱오차(mean square error),
Figure 112007046536320-PAT00074
Figure 112007046536320-PAT00075
가 최소가 되도록 서브밴드별로 생성될 수 있다. 이때, 추정 에러,
Figure 112007046536320-PAT00076
Figure 112007046536320-PAT00077
Figure 112007046536320-PAT00078
Figure 112007046536320-PAT00079
에 직교(orthogonal)될 때, 상기 평균제곱오차가 최소가 된다는 것을 이용할 수 있다. 생성되는
Figure 112007046536320-PAT00080
Figure 112007046536320-PAT00081
는 아래의 [수학식 13]과 같이 표현될 수 있다.
Figure 112007046536320-PAT00082
여기서,
Figure 112007046536320-PAT00083
,
Figure 112007046536320-PAT00084
Figure 112007046536320-PAT00085
는 직접 생성될 수 있지만,
Figure 112007046536320-PAT00086
Figure 112007046536320-PAT00087
은 전송된 부가 정보(606)(예를 들면,
Figure 112007046536320-PAT00088
,
Figure 112007046536320-PAT00089
,
Figure 112007046536320-PAT00090
) 및 사용자가 제공하는 제어 정보(608)(예를 들면, 게인 팩터
Figure 112007046536320-PAT00091
Figure 112007046536320-PAT00092
)를 이용하여, 아래의 [수학식 14]와 같이 생성될 수 있다.
Figure 112007046536320-PAT00093
유사하게,
Figure 112007046536320-PAT00094
Figure 112007046536320-PAT00095
가 아래의 [수학식 15]와 같이 생성될 수 있다.
Figure 112007046536320-PAT00096
여기서,
Figure 112007046536320-PAT00097
Figure 112007046536320-PAT00098
는 아래의 [수학식 16]과 같이 표현될 수 있다.
Figure 112007046536320-PAT00099
만일, 상기 믹스 신호(604)의 위상이 서로 동기되거나(coherent) 또는 거의 동기화된다면, 아래의 [수학식 17]와 같이 표현되는 값이 1에 근접하게 된다.
Figure 112007046536320-PAT00100
이때, 상기 가중치들은 아래의 [수학식 18]과 같이 표현될 수 있다.
Figure 112007046536320-PAT00101
이와 같이 생성된 서브밴드별 리믹스 신호(609)는 전술한 것처럼 역필터뱅크(610)를 통해 시간-도메인의 리믹스 신호(611)로 변환된다. 상기 리믹스 신호(611)는 사용자가 제공한 제어 정보를 이용하여 생성된 사용자 믹스 파라미터(
Figure 112007046536320-PAT00102
Figure 112007046536320-PAT00103
)를 이용하여 각각의 소스 신호를 독립적으로 리믹스하여 생성된 리믹스 신호와 유사하게 들린다.
지금까지는 2채널 스테레오 신호의 리믹싱에 초점을 맞추었다. 그러나, 전술한 것처럼 본 발명은 스테레오 신호에 제한되지 않고, 멀티채널 믹스 신호, 예를 들면 5.1채널 믹스 신호를 리믹싱하는 것까지 확대될 수 있다. 당업자들은 본 명세서에서 기술된 스테레오 신호와 유사하게, 멀티채널 믹스 신호를 리믹싱할 수 있다. 이 경우에, [수학식 11]는 아래의 [수학식 19]과 같이 쓰여질 수 있다.
Figure 112007046536320-PAT00104
선택적으로, 믹스 신호의 채널들 중 특정한 채널은 리믹스하지 않고 남겨두도록 할 수 있다. 예를 들면, 5.1 서라운드 채널에 대하여, 2개의 뒤쪽 채널은 수정하지 않고, 앞쪽 채널에만 리믹싱을 적용하도록 할 수 있다. 이 경우에, 2 또는 3채널 리믹싱 알고리즘이 앞쪽 채널에 적용된다.
도 7은 본 발명의 일 실시예에 따른 제2 리믹스 신호 디코딩 장치에 대한 블록도이다. 상기 제2 리믹스 신호 디코딩 장치는 부가정보디코딩부(703), 공간정보통합부(705) 및 리믹스렌더링부(707)를 포함한다.
도 7을 참조하면, 소스 신호들의 합 신호(701) 및 부가 정보 신호(702)가 제2 리믹스 신호 디코딩 장치로 입력된다. 부가정보디코딩부(703)는 부가 정보 신호(702)를 디코딩하여, 부가 정보(704)를 생성한다. 상기 부가 정보(704)는 게인 팩터, 딜레이 상수 및 서브밴드 파워 등을 포함한다. 부가정보통합부(705)는 상기 부가 정보(704)를 이용하여, 상기 합 신호(701)를 복수의 소스 신호들(706)로 분리한다. 리믹스렌더링부(707)는 상기 소스 신호들(706)을 이용하여 리믹스 신호(709)를 생성할 수 있다. 이때, 상기 리믹스렌더링부(707)는 부가 정보로 전송된 믹스 파라미터를 이용하여 리믹스 신호(709)를 생성할 수 있다. 또한, 상기 리믹스렌더링부(707)는 선택적으로 사용자가 제공하는 제어 정보를 이용하여 생성된 사용자 믹스 파라미터(708)를 이용하여 리믹스 신호(709)를 생성할 수 있다.
도 8A는 통상적인 인코딩 장치 및 본 발명의 일 실시예에 따른 리믹스 신호 인코딩 장치의 결합을 나타내는 블록도이다. 믹스 신호(801)는 통상적인 인코딩 장치(803)에 의해 부호화되어, 부호화된 믹스 신호(805)로 변환될 수 있다. 상기 믹스 신호(801)는 채널별 신호 또는 소스 신호가 될 수 있다. 상기 통상적인 인코딩 장치(803)는 AAC, MP3 인코더 등과 같은 종래의 인코딩 장치뿐만 아니라, 앞으로 개발될 인코딩 장치를 포함한다. 본 발명에 따른 리믹스 신호 인코딩 장치(804)는 상기 믹스 신호(801) 및 상기 믹스 신호에 포함되는 소스 신호(802)를 이용하여 부가 정보 신호(806)를 생성한다. 다중화부(807)는 부호화된 믹스 신호(805) 및 부가 정보 신호(806)를 이용하여 비트스트림(808)을 생성한다. 전술한 것처럼, 상기 부가 정보 신호(806)는 종래 장치들과 호환성을 가지도록, 종래 믹스 신호 포맷 내의 보조 데이터 영역에 삽입될 수 있다.
도 8B는 통상적인 디코딩 장치 및 본 발명의 일 실시예에 따른 리믹스 신호 디코딩 장치의 결합에 대한 블록도이다. 역다중화부(810)는 전송된 비트스트림(809)으로부터 부호화된 믹스 신호(811) 및 부가 정보 신호(812)를 분리한다. 그 다음에, 통상적인 디코딩 장치(813)는 상기 부호화된 믹스 신호(811)를 디코딩하여, 본 발명에 따른 리믹스 신호 디코딩 장치(815)에서 이용될 수 있는 믹스 신호(814)를 생성한다. 상기 통상적인 디코딩 장치(813)는 AAC, MP3 디코더 등과 같 은 종래의 인코딩 장치뿐만 아니라, 앞으로 개발될 인코딩 장치를 포함한다. 상기 믹스 신호(814)는 채널별 신호 또는 소스 신호가 될 수 있다. 본 발명에 따른 리믹스 신호 디코딩 장치(817)는 부가 정보 신호(812) 및 사용자 믹스 파라미터(817) 중 적어도 하나를 이용하여 상기 믹스 신호(814)를 리믹스 신호(816)로 변환할 수 있다.
도 9는 본 발명의 일 실시예에 따른 리믹스 신호 디코딩 장치에 상세 블록도이다. 도 9를 참조하면, 리믹스 신호 디코딩 장치는 믹스신호디코딩부(901), 파라미터생성부(902), 및 리믹스렌더링부(908)를 포함한다. 선택적으로 이펙터(Effecter, 911)를 포함할 수 있다. 상기 파라미터생성부(902)는 블라인드믹스 파라미터생성부(903), 사용자믹스파라미터생성부(904), 및 리믹스파라미터생성부(905)를 포함할 수 있다. 상기 리믹스파라미터생성부(905)는 이퀴믹스파라미터생성부(906)를 포함하며, 선택적으로 업믹스파라미터생성부(907)를 포함할 수 있다. 또한, 상기 리믹스렌더링부(908)는 이퀴믹스렌더링부(909)를 포함하며, 선택적으로 업믹스렌더링부(910)를 포함할 수 있다.
상기 믹스신호디코딩부(901)는 인코딩 단에서 전송된 부호화된 믹스 신호를 디코딩하여 믹스 신호를 생성한다. 상기 파라미터생성부(902)는 인코딩 단에서 전송된 부가 정보 및 사용자 제어정보(또는, 구성정보)를 수신한다. 상기 사용자 제어정보는 인코더 단에서 전송되지 않고, 디코더 단에서 생성될 수 있다. 상기 사용자믹스파라미터생성부(904)는 사용자 제어정보를 이용하여 사용자 믹스 파라미터를 생성한다. 인코더 단에서 전송된 부가 정보에는 인코더 믹스 파라믹터(Encoder Mix Parameter)가 포함될 수 있다. 또한, 상기 블라인드믹스파라미터생성부(903)는 상기 믹스 신호를 이용하여 블라인드 믹스 파라미터(Blind-Mix Parameter)를 생성할 수 있다. 상기 인코더 믹스 파라미터와 상기 블라인드 믹스 파라미터는 택일적으로 리믹스파라미터생성부(905)로 입력된다.
상기 리믹스파라미터생성부(905)는 부가 정보 및 사용자 믹스 파라미터를 이용하여 리믹스 파라미터를 생성한다. 상기 리믹스 파라미터는 리믹스 신호의 채널에 적용될 수 있도록 생성될 수 있다. 리믹스파라미터생성부(905)에 포함되는 이퀴믹스파라미터생성부(906)는 믹스 신호의 채널 수와 동일한 채널 수를 가지는 리믹스 신호를 생성하는데 이용되는 리믹스 파라미터를 생성하고, 상기 리믹스파라미터생성부(905)에 포함될 수 있는 업믹스파라미터생성부(907)는 믹스 신호의 채널 수보다 더 많은 채널 수를 가지는 리믹스 신호를 생성하는데 이용되는 리믹스 파라미터를 생성한다. 상기 리믹스 파라미터는 리믹스렌더링부(908)에 입력된다.
상기 리믹스렌더링부(908)에 포함되는 이퀴믹스렌더링부(909)는 상기 리믹스 파라미터 및 믹스 신호를 이용하여, 상기 믹스 신호의 채널 수와 동일한 채널 수를 가지는 이퀴채널 리믹스 신호(Eq-channel remix signal)를 생성한다. 상기 리믹스렌더링부(908)에 포함될 수 있는 업믹스렌더링부(910)는 상기 업믹스파라미터생성부(907)에서 생성된 리믹스 파라미터 및 믹스 신호를 이용하여, 상기 믹스 신호의 채널 수보다 더 많은 채널 수를 가지는 업채널 리믹스 신호(Up-channel remix signal)를 생성한다. 상기 업믹스렌더링부(910)는 상기 이퀴채널렌더링부(909)에서 생성된 리믹스 신호를 이용하여 업채널 리믹스 신호를 생성할 수도 있다.
따라서, 상기 디코딩 장치는 인코딩 단에서 전송한 믹스 신호를 그대로 출력하거나, 이퀴채널 리믹스 신호로 출력하거나, 또는 업채널 리믹스 신호로 출력할 수 있다. 선택적으로 상기 리믹스렌더링부는 이펙터(911)로부터 제공되는 정보를 이용하여, 상기 리믹스 신호에 다양한 효과를 줄 수 있다.
도 10은 본 발명의 일 실시예에 따른 부가 정보를 임베드하는 인코딩 장치에 대한 블록도이다. 상기 인코딩 장치는 부가정보생성부(1103), 부가정보인코딩부(1005) 및 임베딩부(1007)를 포함한다.
도 10을 참조하면, 믹스 신호(1001) 및 소스 신호(1002)가 상기 인코딩 장치로 입력된다. 전술한 것처럼, 상기 믹스 신호(1001)는 모노, 스테레오 또는 멀티채널 믹스 신호가 될 수 있다. 본 명세서에서는 편의상 스테레오 신호를 예로 하여 기술할 것이나, 본 발명이 이에 한정되지는 않는다. 부가정보생성부(side information generating unit, 1003)는 상기 믹스 신호(1001) 및 소스 신호(1002)를 이용하여 부가 정보(1004)를 생성한다. 상기 부가 정보(1004)는 상기 부가 정보는 상기 믹스 신호에 포함된 소스 신호가 상기 믹스 신호 채널에 믹스되는 정도를 나타내는 믹스 정보, 상기 믹스 신호에 포함된 소스 신호들간의 시간 지연 정보 또는 상기 소스 신호와 상기 믹스 신호 채널간의 시간 지연 정보, 및 상기 믹스 신호에 포함된 소스 신호들간의 상호 상관 정보 또는 상기 소스 신호와 상기 믹스 신호 채널간의 상호 상관 정보를 포함한다.
부가정보인코딩부(side information encoding unit, 1005)는 상기 부가 정보(1004)를 이용하여, 전송(transmission) 및 저장(storage)을 위한 부가 정보 신 호(1006)를 생성한다. 임베딩부(embedding unit, 1007)는 상기 부가 정보 신호(1006)를 믹스 신호(1001)에 임베드한다. 이때, "디지털 신호 임베드기법(Digital signal Embedded Method)"이 사용될 수 있다. 상기 "디지털 신호 임베드기법"을 사용하면, PCM 유형의 믹스 신호(1001)에 음질왜곡(sound quality distortion) 없이 부가 정보를 임베드할 수 있다. 부가 정보가 임베드된 믹스 신호는 지각적으로 원래의 믹스 신호와 거의 구별되지 않는다. 즉, 부가 정보가 임베드되어 있는 출력신호(output signal)
Figure 112007046536320-PAT00105
Figure 112007046536320-PAT00106
(1008)는 디코더 장치에서 입력신호(input signal)
Figure 112007046536320-PAT00107
Figure 112007046536320-PAT00108
(1001)과 동일한 신호라 볼 수 있다.
상기 "디지털 신호 임베드기법"에는 비트치환부호화방법(Bit Replacement Coding Method) , 반향삽입방법(Echo Hiding Method), 대역확산통신법(Spread-Spectrum-based Method) 등이 있다. 상기 비트치환부호화방법은 양자화된 믹스 신호 샘플의 최하위 비트(Lowest bit)들을 변형하여 원하는 정보를 삽입하는 방법으로, 최하위 비트의 변형(modification)은 믹스 신호의 품질에 거의 영향을 주지 않는다는 특성을 이용하는 방법이다. 상기 반향삽입방법은 사람의 귀에 들리지 않을 정도의 작은 크기의 반향(echo)을 믹스 신호에 삽입하는 방법이다. 상기 대역확산통신법은 이산코사인변환(Discrete Cosine Transform), 이산푸리에변환(Discrete Fourier Transform) 등을 통해 믹스 신호를 주파수 영역으로 변환한 후에, 이진수로 만들어진 원하는 정보를 PN(Pseudo Noise) 시퀀스(sequence)로 대역 확 산(spread spectrum)하여 주파수 영역(frequency domain)으로 변환된 믹스 신호에 첨가하는 방법이다. 본 발명에서는 상기 임베드 방법 중 비트치환부호화방법을 중심으로 기술할 것이나, 본 발명이 상기 비트치환부호화방법에만 한정되는 것은 아니다.
도 11은 본 발명의 일 실시예에 따른 도 10의 인코딩 장치를 구성하는 임베딩부에 대한 상세 블록도이다. 상기 임베딩부는 버퍼(buffer, 1103), 마스킹한계값계산부(masking threshold computing unit, 1105), 비트스트림재구성부(bitstream reshaping unit, 1107) 및 믹스신호인코딩부(mix signal encoding unit, 1109)를 포함한다. 상기 비트치환부호화방법에 의해 부가 정보를 믹스 신호 성분의 비지각적 영역에 임베드할 수 있다. 이때, 상기 비지각적 영역의 크기(이하, K값이라 한다)는 최하위 1비트만을 사용하는 것이 아니라 미리 정해진 방법(pre-decided method)에 따라 특정 영역의 K(K>0)비트를 사용할 수 있다. 예를 들면, 미리 정해진 방법에는 심리음향모델(Psychoacoustic Model)에 따른 마스킹 한계값(Masking Threshold)을 구하고, 상기 마스킹 한계값에 따라 적당한 비트를 할당하는(allocating) 것을 말한다.
도 11을 참조하면, 믹스 신호(1101)는 상기 버퍼(1103)를 통하여 믹스신호인코딩부(1109)에 입력된다. 마스킹한계값계산부(1105)는 입력된 믹스 신호(1101)의 특성에 관한 정보(1104)를 이용하여, 일정한 구간(section)(예를 들면, 블록(block))별로 마스킹 한계값을 구한다. 또한, 상기 마스킹한계값계산부(1105)는 상기 마스킹 한계값을 이용하여, 청각적인 왜곡(aural distortion)이 발생하지 않 고도 변경(modify)할 수 있는 K값을 구한다. 즉, 상기 부가 정보(1102)를 상기 믹스 신호(1101)에 임베드하는데 사용할 수 있는 비트 수를 블록별로 할당하는 것이다. 본 명세서에서, 블록이란 프레임(frame) 내에 존재하는 하나의 K값을 이용하여 삽입된 데이터 단위를 말한다. 하나의 프레임에는 하나 이상의 복수의 블록이 존재할 수 있으며, 따라서 프레임의 길이가 고정되어 있으면 블록의 길이는 블록의 개수가 증가함에 따라 감소할 수 있다. 비트스트림재구성부(1007)는 상기 K값을 포함하도록 상기 부가 정보를 재구성할 수 있다. 이때, 상기 재구성된 부가 정보에는 싱크워드(sync word), 에러정정코드(error detection code) 또는 에러정정코드(error correction code) 등이 포함될 수 있다. 믹스신호인코딩부(1109)는 재구성된 부가 정보(1108)를 믹스 신호(1101)에 임베드하여, 부가 정보가 임베드된 믹스 신호(1110)를 출력한다. 전술한 것처럼, 상기 재구성된 부가 정보(1108)는 상기 믹스 신호의 K비트 내에 임베드될 수 있다. 상기 K값은 재구성된 부가 정보(1108)에 삽입되어 디코딩 장치로 전송되고, 디코딩 장치에서는 상기 K값을 이용하여 믹스 신호로부터 부가 정보를 추출할 수 있다.
부가 정보가 블록별로 믹스 신호에 임베드되는 과정에는 다양한 방법이 이용된다. 제1 방법은 단순히 상기 믹스 신호의 하위 K비트 만큼을 0으로 대체(substitude)한 후, 부가 정보를 더하는 방법이다. 예를 들면, K값이 3이고, 믹스 신호의 한 샘플 데이터가 11101101이며, 임베드해야할 부가 정보 데이터가 111인 경우, 상기 11101101의 하위 3비트를 0으로 대체하여 11101000으로 만들고, 그 다음에 상기 부가 정보 데이터 111을 더하여 11101111로 만드는 것이다.
제2 방법은 디더링(dithering) 방법을 이용하는 것인데, 먼저 부가 정보 데이터를 상기 믹스 신호의 하위 K비트로부터 뺀 뒤에, 상기 믹스 신호를 상기 K값에 근거하여 재양자화하고, 재양자화된 상기 믹스 신호에 대해 부가 정보 데이터를 더하는 방법이다. 예를 들면, K값이 3이고, 믹스 신호의 한 샘플 데이터가 11101101이며, 임베드해야할 부가 정보 데이터가 111인 경우, 상기 11101101에서 111을 빼서 11100110로 만들고, 하위 3비트 이상에 대해 재양자화하여 11101000(반올림 적용)으로 만들며, 그 다음에 상기 111을 더해서 11101111로 만드는 것이다.
상기 믹스 신호에 임베드되는 부가 정보는 임의의 비트스트림이기 때문에 백색잡음적인 특성을 가지지 못할 수 있다. 믹스 신호에 백색잡음 형태의 신호가 더해지는 것이 음질 특성상 유리하기 때문에, 부가 정보를 백색화(whitening)하는 과정을 거친 후에 믹스 신호에 더할 수 있다. 상기 백색화는 싱크워드를 제외한 부가 정보 신호에 적용될 수 있다. 본 발명에서 백색화(whitening)란 믹스 신호의 음량이 모든 주파수 영역에서 동일하거나 거의 유사한 크기를 갖는 랜덤 신호로 만드는 것을 말한다. 또한, 부가 정보를 믹스 신호에 임베드하는 과정에, 부가 정보에 노이즈쉐이핑(Noise shaping) 기법을 적용하여 청각적 왜곡을 최소화할 수 있다. 본 발명에서 노이즈 쉐이핑이란 양자화 과정에서 생성되는 양자화 노이즈의 에너지가 가청주파수 대역 이상의 고주파수 대역으로 이동되도록 노이즈 특성을 변형시키거나, 해당 믹스 신호로부터 마스킹 한계값을 구해, 상기 마스킹 한계값에 대응되는 시변(time-varing)필터를 생성하고, 상기 필터에 의해 양자화 과정에서 발생하는 노이즈의 특성을 변형시키는 과정을 말한다.
도 12는 본 발명의 일 실시예에 따른 부가 정보를 임베드하는 제1 방법을 도시한다. 부가 정보는 다양한 방식으로 믹스 신호에 임베드될 수 있는데, 도 12는 샘플플레인 순서로 부가 정보를 임베드하는 방식에 해당된다. 상기 제1 방법은 K비트 단위로 해당 블록에 대한 부가 정보를 분산하여 임베드하는 것이다. 도시된 것처럼 K값이 4이고, 한 블록(1205)이 N개의 샘플(1204)로 구성된 경우, 상기 부가 정보는 각 샘플의 하위 4비트에 임베드될 수 있다. 전술하였듯이, 본 발명은 각 샘플의 하위 4비트에만 부가 정보를 임베드하는 것에 한정되지 않는다. 그리고 각 샘플의 하위 K비트 내에서, 부가 정보는 도 12에 도시된 것처럼 상위 비트부터 임베드(MSB(Most Significant Bit) first)되거나, 또는 하위 비트부터 임베드(LSB(Least Significant Bit) first))될 수 있다.
도시된 화살표(1203)는 임베드되는 방향을 나타내고, 괄호안의 숫자는 데이터 정렬 순서를 나타낸다. 부가 정보가 임베드되는 영역에서 임베드가능한 비트 수보다 임베드해야할 부가 정보의 비트 수가 작은 경우에는, 남는 비트를 0으로 채우거나(1206), 랜덤 신호(Random signal)를 넣거나, 또는 원래의 믹스 신호로 대체할 수 있다. 예를 들면, 블록을 구성하는 샘플수(N)가 100이고 K값이 4인 경우, 상기 블록에 임베드가능한 비트 수(W)는 W=N*K=100*4=400비트가 된다. 만일 임베드해야할 부가 정보의 비트 수(V)가 390비트인 경우(즉, V<W인 경우), 나머지 10비트는 0으로 채우거나, 랜덤 신호를 넣거나, 원래의 믹스 신호로 대체하거나, 데이터 끝을 알려주는 말단비트열(tail sequence)로 채우거나, 또는 이들을 조합해서 채울 수 있다. 상기 말단비트열은 해당 블록에서 부가 정보의 끝을 알려주는 비트열을 말한 다. 비록, 도 12는 블록별로 남는 비트를 채우는 것을 도시하고 있으나, 본 발명은 삽입프레임별로 남는 비트를 상기와 같은 방법으로 채우는 것을 포함한다.
도 13은 본 발명의 일 실시예에 따른 부가 정보를 임베드하는 제2 방법을 도시한다. 상기 제2 방법은 상기 부가 정보(1301)를 비트플레인 순서로 믹스 신호에 임베드하는 것이다. 이때, 도 13에 도시된 것처럼 부가 정보는 블록별로 믹스 신호의 하위 비트부터 순차적으로 임베드될 수 있으나, 본 발명은 이에 한정되지 않는다. 예를 들면, 블록을 구성하는 샘플수(N)가 100이고 K값이 4인 경우, 먼저 최하위 비트플레인을 구성하는 100비트를 먼저 채우고, 그 다음에 두 번째 비트플레인을 구성하는 100비트를 채우는 식으로 진행할 수 있다.
도시된 화살표(1303)는 임베드되는 방향을 나타내고, 괄호안의 숫자는 데이터 정렬 순서를 나타낸다. 상기 제2 방법은 특히 임의의 위치에서 싱크워드(Sync Word)를 추출하는데 유리할 수 있다. 즉, 믹스 신호로부터 임베드된 부가 정보의 싱크워드를 찾을 때, LSB만을 추출하여 검색함으로써 가능해진다. 또한, 상기 제2 방법은 임베드해야할 부가 정보의 비트 수(V)에 따라 최소의 LSB만을 사용하는 효과를 기대할 수 있다. 이때도 부가 정보가 임베드되는 영역에서 임베드가능한 비트 수(W)보다 임베드해야할 부가 정보의 비트 수(V)가 작은 경우에는, 남는 비트를 상기와 같이 0으로 채우거나(506), 랜덤 신호를 넣거나, 원래의 믹스 신호로 대체하거나, 데이터의 끝을 알려주는 말단비트열로 채우거나, 또는 이들을 조합해서 채울 수 있다. 특히, 상기 방법 중 상기 믹스 신호를 그대로 이용하는 것이 유리하다. 비록, 도 13에서도 블록별로 남는 비트를 채우는 것을 도시하고 있으나, 본 발명은 삽입프레임별로 남는 비트를 상기와 같은 방법으로 채우는 것을 포함한다.
도 14는 본 발명의 일 실시예에 따른 부가 정보를 재구성한 데이터 구조를 도시한다. 전술하였듯이, 부가 정보는 비트스트림재구성부에서 싱크워드(Sync Word, 1403)와 K값(1404)을 포함하도록 재구성될 수 있다. 또한, 재구성 과정에서, 부가 정보 신호가 전송 또는 저장 과정에서 손상되었는지 유무를 판단할 수 있는 적어도 하나의 에러정정코드(error detection code) 또는 에러정정코드(error correction code)(1406, 및 1408)(이하, 에러정정코드만으로 기술한다)가 재구성된 부가 정보 신호에 포함될 수 있다. 상기 에러정정코드는 CRC(Cyclic Redundancy Check)를 포함한다. 상기 에러정정코드는 두 단계로 나누어 포함될 수 있는데, K값들이 포함된 헤더(1401)에 대한 에러정정코드1(1406)와 부가 정보 데이터(1407)에 대한 에러정정코드2(1408)가 포함될 수 있다. 그 외에 기타정보(1405)가 별도로 부가 정보 신호에 포함될 수 있다. 상기 기타정보(1405에는 부가 정보의 임베딩 방법에 대한 식별정보 등이 포함될 수 있다.
도 15는 본 발명의 일 실시예에 따른 임베드된 부가 정보를 이용하여 믹스 신호를 디코딩하는 디코딩 장치에 대한 블록도이다. 상기 디코딩 장치는 임베디드신호디코딩부(1502), 부가정보디코딩부(1504) 및 리믹싱부(1506)를 포함한다.
도 15를 참조하면, 임베디드신호디코딩부(1502)는 믹스 신호(1501)로부터 부가 정보 신호(1503)를 검출할 수 있다. 부가정보디코딩부(1504)는 부가 정보 신호를 복호화하여, 부가 정보(1505)를 생성한다. 리믹스렌더링부(1506)는 상기 부가 정보(1505) 및 믹스 신호(1501)를 이용하여, 리믹스 신호(1508)을 생성한다. 이때, 상기 리믹스렌더링부(1506)는 사용자가 제공하는 제어 정보를 이용하여 생성된 ㅅ사용자 믹스 파라미터(1507)를 이용할 수 있다.
도 16은 본 발명의 일 실시예에 따른 원래의 믹스 신호를 보존하며 부가 정보를 임베드하는 인코딩 장치를 구성하는 임베딩부에 대한 상세 블록도이다. 상기 인코딩 장치는 도 10에 도시된 인코딩 장치와 유사하므로, 동일한 부분에 대한 상세한 설명은 생략한다. 도 10에 도시된 인코딩 장치와의 차이점은 상기 인코딩 장치를 구성하는 임베딩부가 다르게 구성된다는 점이다.
도 16을 참조하면, 믹스 신호(1601)는 버퍼(1603)를 통하여 믹스신호인코딩부(1609)에 입력된다. 마스킹한계값계산부(1605)는 상기 믹스 신호(1601)의 특성에 관한 정보(1604)를 이용하여 마스킹 한계값을 계산하고, 상기 마스킹 한계값을 이용하여 K값(1606)을 구한다. 비트스트림재구성부(1607)는 부가 정보 신호(1602)가 임베드될 영역의 믹스 신호 데이터(1611)들을 제거하지 않고, 상기 믹스 신호 데이터(1611)와 부가 정보 신호(1602)를 결합하도록 재구성한다. 상기 재구성 방법에 대해서는 도 17에서 더욱 상세히 설명된다. 믹스신호인코딩부(1609)는 재구성된 신호(1608)를 믹스 신호(1601)에 임베드할 수 있다.
도 17은 본 발명의 일 실시예에 따른 원래의 믹스 신호를 보존하며 부가정보를 임베딩하는 방법을 나타내는 블록도이다. 설명의 편의를 위해, 믹스 신호의 한 채널(1701)을 구성하는 하나의 블록에 부가 정보를 삽입하는 것으로 설명한다. 도 17을 참조하면, 믹스 신호(1701)의 성분은 부가 정보가 임베드되지 않는 영역(1702)과 임베드되는 영역(1703)으로 나눌 수 있다. 상기 임베드되는 영역(1703) 의 믹스 신호는 무손실 부호화(lossless coding, 1704) 과정을 거친다. 그 다음에, 무손실 부호화된 믹스 신호 및 부가 정보 신호(1705)는 결합 및 인코딩되어, 결합 신호(1707)를 형성한다. 그 다음에, 상기 결합 신호(1707)는 믹스 신호에 임베드되어, 결합 신호가 임베드된 믹스 신호(1708)를 생성한다. 이렇게 함으로써, 디코딩 장치에서는 필요한 경우 상기 결합 신호(1707)를 이용하여, 원래의 믹스 신호(1701)를 완벽하게 복원할 수 있다. 상기 방법이 가능한 이유는 임베드해야할 부가 정보 신호의 데이터 량이 임베드 가능한 데이터 량보다 실제로 작기 때문에, 무손실 부호화된 믹스 신호를 삽입할 공간을 확보할 수 있기 때문이다. 단순히 부가 정보 신호를 임베드하는 방법은 비록 지각적으로 임베드된 신호와 원래의 신호가 동일하여 왜곡이 발생하지 않지만, 완전히 동일한 신호는 아니므로, 완전한 원래 신호의 복원이 필요한 경우, 상기 방법이 이용될 수 있다.
도 18은 본 발명의 일 실시예에 따른 원래의 믹스 신호를 완전히 복원하는 디코딩 장치에 대한 블록도이다. 상기 디코딩 장치는 임베디드신호디코딩부(1802), 무손실디코딩부(1804) 및 리플레이싱부(1806)를 포함한다.
도 18을 참조하면, 임베디드신호디코딩부(1802)는 결합 신호가 임베드된 믹스 신호(1801)로부터, 상기 결합 신호(1803)를 추출한다. 무손실 디코딩부(1804)는 상기 결합 신호(1803)를 이용하여 결합 신호가 임베드된 영역에 대응되는 믹스 신호(1805)를 복원한다. 리플레이싱부(1806)는 상기 복원된 믹스 신호(1805)를 이용하여 원래의 신호(1807)를 생성한다. 도 18에 따른 복원과정과 부가 정보를 이용하 는 리믹싱 과정은 동시에 이용될 수 있다. 이 경우에,
Figure 112007046536320-PAT00109
Figure 112007046536320-PAT00110
를 이용하여 복호화를 수행하는 대신에,
Figure 112007046536320-PAT00111
Figure 112007046536320-PAT00112
를 이용하여 리믹싱 과정을 수행할 수 있기 때문에, 더욱 좋은 출력을 얻을 수 있다.
도 19는 본 발명의 일 실시예에 따른 두 채널의 믹스 신호에 부가 정보를 임베드하는 제1 방법을 도시한다. 도 19는 스테레오 믹스 신호에 부가 정보를 임베드하는 방법을 도시하고 있으나, 본 발명은 모노, 스테레오 또는 멀티채널 믹스 신호에 부가 정보를 임베드하는 방법을 포함한다. 설명의 편의상, 스테레오 신호를 예로하여 설명한다.
도 19에 도시된 것처럼, 상기 제1 방법은 부가 정보를 두 채널에 나누어 임베드하되, 그 순서는 샘플 단위로 두 채널에 번갈아 가며 임베드하는 방식으로 진행된다. 그리고 두 채널의 신호 특성이 다르므로, 각 채널에서의 마스킹 한계값을 별도로 구해, K값을 각 채널에 다르게 할당할 수 있다. 즉, 도시된 것처럼 한 채널에는 K1을 다른 채널에는 K2를 할당할 수 있다. 또한, 상기 K값은 블록별로 다를 수 있다. 예를 들면, 상기 부가 정보를 먼저 한 채널(여기서는 left 채널)의 샘플 0의 하위 K1비트에 먼저 채우고, 다른 채널(여기서는 right 채널)의 샘플 0의 하위 K2비트에 채운다. 그 다음에 다시 원래 채널(left 채널)의 샘플 1의 하위 K1비트를 채우고, 다른 채널(right 채널)의 샘플 1의 하위 K2비트를 채운다. 도면에서 블록 내의 숫자는 부가 정보를 채우는 순서를 나타낸다. 도 19는 MSB부터 채우는 것을 도시하였으나, LSB부터 채우는 것도 가능하다.
도 20은 본 발명의 일 실시예에 따른 두 채널의 믹스 신호에 부가 정보를 임베드하는 제2 방법을 도시한다. 상기 제2 방법은 상기 부가 정보를 두 채널에 임베드하되, 그 순서를 LSB부터 비트플레인 단위로 두 채널에 번갈아 가며 임베드하는 방식으로 진행된다. 그리고 두 채널의 신호 특성이 다르므로, 각 채널에서의 마스킹 한계값을 별도로 구해, K(K1 및 K2)값을 각 채널에 다르게 할당할 수 있다. 즉, 도시된 것처럼 한 채널에는 K1을 다른 채널에는 K2를 할당할 수 있다. 또한 상기 K값은 각 블록별로 다를 수도 있다. 예를 들면, 먼저 한 채널(여기서는 left 채널)의 샘플1의 최하위 1비트를 먼저 채우고, 다른 채널(여기서는 right 채널)의 샘플1의 최하위 1비트를 채운다. 그 다음에 다시 원래 채널(left 채널)의 샘플2의 최하위 1비트를 채우고, 다시 다른 채널(right 채널)의 샘플2의 최하위 1비트를 채운다. 도면에서 블록 내의 숫자는 부가 정보를 채우는 순서를 나타낸다. 상술한 것처럼, 두 채널에 부가 정보 비트스트림을 나누어 임베드하는 경우에 K값을 각 채널에 다르게 할당하는 것이 가능하데, 이 경우 비트스트림 내에 각 채널별로 K값을 별도로 전송하는 것이 가능하다. 또한 상기 K값이 복수로 전송하는 경우, 상기 K값을 부호화할 때 디퍼렌셜(differential) 부호화 방법을 이용할 수 있다.
도 21은 본 발명의 일 실시예에 따른 두 채널의 믹스 신호에 부가 정보를 임베드하는 제3 방법을 도시한다. 상기 제3 방법은 각 채널의 프레임이 복수의 블록 (길이 B)으로 구성된 경우에 상기 부가 정보를 적어도 한 채널을 갖는 믹스 신호에 삽입하는 방법에 관한 것이다. 도시된 것처럼, K값은 각 채널별 및 블록별로 각각 다른 값을 가지거나, 또는 동일한 값을 가질 수 있다. 상기 K1, K2, K3 및 K4 값들은 프레임 전체에 대해 한차례 전송되는 프레임 헤더내에 저장될 수 있으며, 상기 프레임 헤더는 LSB에 위치될 수 있다. 이 경우에 상기 헤더는 비트플레인 단위로 삽입될 수 있으며, 부가 정보 데이터는 샘플단위로 번갈아가면서 삽입되거나, 또는 블록단위로 번갈아가면서 삽입될 수 있다. 도 21은 프레임내 블록 개수가 2인 경우를 도시하며, 따라서 상기 블록의 크기(B)는 N/2가 된다. 이 경우에 상기 프레임에 삽입된 비트수는 (K1 + K2 + K3 + K4)*B가 된다.
도 22 본 발명의 일 실시예에 따른 두 채널의 믹스 신호에 부가 정보를 임베드하는 제4 방법을 도시한다. 상기 제4 방법은 부가 정보를 두 채널에 나누어 임베드하되, 그 순서를 LSB(또는 MSB)부터 비트플레인 순서로 두 채널에 번갈아가며 삽입하는 방법과 샘플단위로 번갈아가면 삽입하는 방법을 혼합한 것이다. 상기 방법은 프레임 단위로 이루어지거나, 또는 도시된 것처럼 블록단위로 이루어질 수 있다. 도 22에 도시된 것처럼, 1 내지 C(빗금친 부분)는 헤더에 대응되는 부분으로서, 삽입프레임싱크워드의 탐색을 용이하게 하기 위해 LSB(또는 MSB)에 비트플레인 순서로 삽입될 수 있다. C+1이상(빗금치지 않은 부분)은 헤더 이외의 부분으로서, 부가 정보 데이터를 독출하기 용이하도록 샘플단위로 두 채널에 번갈아가며 삽입할 수 있다. K값들은 각 채널 및 블록별로 다른 값을 가지거나, 또는 동일한 값을 가 질 수 있다.
도 23은 본 발명의 일 실시예에 따른 임베드된 부가 정보를 제거하는 방법을 나타내는 블록도이다. 컨텐츠에 대한 저작권 보호 등을 목적으로 부가 정보가 삽입되어 있는 믹스 신호에서 부가 정보만을 제거하거나 변형시켜서 더 이상 리믹스를 위한 부가 정보가 남아있지 않도록 만드는 방법이다.
도 23을 참조하면, 분석부(2302)는 부가 정보가 임베드된 믹스 신호(2301)를 분석하여, 부가 정보가 임베드된 영역에 관한 정보 등과 같은 임베딩 정보(2303)를 추출한다. 제거부(2304)는 상기 임베딩 정보(2303)를 이용하여, 부가 정보가 임베드된 믹스 신호(2301)로부터 부가 정보를 제거하여, 부가 정보가 제거된 믹스 신호(2305)를 생성한다. 이때, 상기 부가 정보를 제거하기 위해 다양한 방법이 이용될 수 있다. 첫 번째 방법은 분석부(2302)를 통해 믹스 신호로부터 임베드된 부가 정보의 존재 여부를 확인하고, 임베드된 레벨 값 등을 찾아 제거 범위를 확정한다. 그 다음에, 정확히 부가 정보가 임베드된 비트열을 제거하는 것이다. 두 번째 방법은 분석부(2302)를 통해 음질에 왜곡을 미치지 않으면서, 임베드 가능한 랜덤 노이즈의 레벨값(K값과 유사)을 찾아서, 그에 해당하는 랜덤 신호를 첨가하여 삽입된 부가 정보를 파괴하는 것이다. 세 번째 방법은 올 패스 필터(all pass filter)를 이용하여 신호를 변형시키는 것이다. 네 번째 방법은 최하위 1 비트들을 임의의 랜덤 신호로 대체함으로써, 싱크워드 정보를 제거하는 것이다.
도 24는 본 발명의 일실시예에 따른 부가 정보가 임베드된 믹스 신호의 인코딩 장치에 대한 블록도이다. 도 24를 참조하면, 상기 인코딩 장치는 부가정보추출 부(2401), 믹스신호인코딩부(2402), 및 다중화부(2403)를 포함한다. 부가 정보가 임베드된 믹스 신호를 인코딩(예를 들면, AAC(Advanced Audio Coding) 인코딩)해야 하는 경우가 발생할 수 있다. 이때, 일반적인 AAC 인코딩을 하는 경우에, 임베디드 정보가 강인성이 매우 떨어지기 때문에, 인코딩하는 과정에서 완전히 소멸되어 없어질 수 있다. 그러나, 인코딩되기 전에 부가 정보가 임베드된 믹스 신호로부터 부가 정보를 추출한 후에 상기 믹스 신호를 압축 부호화하면, 압축된 믹스 신호와 함께 부가 정보를 전송할 수 있다. 이하에서, 이와 같은 방법을 상세히 설명한다.
먼저, 부가정보추출부(2401)는 상기 부가 정보가 임베드된 믹스 신호로부터 부가 정보를 추출한다. 상기 부가 정보의 추출 방법은 도 1에서 설명된 방법이 이용될 수 있다. 그 다음에, 믹스신호인코딩부(2402)는 부가 정보가 추출된 믹스 신호를 압축 부호화하고, 다중화부(2403)는 부호화된 믹스 신호 및 부가 정보를 다중화하여 비트스트림을 생성한다. 만일, 부가 정보가 공간 정보라면, 상기 다중화된 비트스트림은 공간 정보를 가진 압축된 비트스트림이 될 수 있다. 예를 들면, AAC+MPEG Surround 신호가 될 수 있다.
이때, 부가 정보가 PCM 유형의 믹스 신호와 시간적으로 정렬(align)되어 사용되는 신호라면, 부호화되는 믹스 신호의 프레임 단위와 부가 정보가 삽입되는 단위가 정렬될 필요가 있다. 부가 정보의 추출 과정에서 알 수 있는 프레임 싱크 정보를 이용하여 상기 믹스 신호의 인코딩 시작 위치를 맞추는 과정이 필요하다. 또한, 임베디드 정보의 프레임 길이 정보를 이용하여 상기 믹스 신호의 프레임 길이를 결정할 수 있다. 상기 프레임 길이 정보를 이용하는 방법에 관해서는 후술한다. 상기와 같은 방법으로 생성된 최종 비트열은 데이터 레이트가 매우 낮으면서도 부가 정보를 가지고 있어, 멀티채널 신호를 매우 낮은 비트율을 갖는 신호로 생성하여 저장 및 전송에 매우 편리하게 사용할 수 있다.
도 25는 본 발명의 일실시예에 따른 도 24의 인코딩 장치의 상세 블록도이다. 도 25를 참조하면, 상기 인코딩 장치는 버퍼링부(2505)를 더 포함할 수 있다. 또한, 상기 인코딩 장치의 구성요소인 부가정보추출부(2501)는 싱크정보추출부(2502), 헤더정보추출부(2503), 및 패이로드추출부(2504)를 포함한다.
먼저, 싱크정보추출부(2502)는 부가 정보가 임베드된 믹스 신호(Lo', Ro')로부터 부가 정보의 싱크 정보를 추출한다. 상기 싱크 정보가 찾아지면, 해당 싱크 정보의 첫 번째 샘플에 대응되는 위치가 프레임 싱크 값이 되며, 상기 프레임 싱크 값을 버퍼링부(2505)에 전달한다. 버퍼링부(2505)는 상기 프레임 싱크 값을 이용하여 프레임의 시작 위치를 파악하고, 해당 위치로부터 믹스 신호 프레임 길이만큼의 데이터를 버퍼링하여 믹스신호인코딩부(2506)로 전달한다.
한편, 헤더정보추출부(2503)는 싱크 정보를 추출한 이후에 존재하는 부가 정보의 헤더 영역을 디코딩하여 복호화에 필요한 헤더 정보를 추출한다. 상기 헤더 정보는 부가 정보에 포함되는 데이터 정보에 해당되는 패이로드 정보(Payload information)를 복호화하는데 이용될 수 있다. 이때, 상기 헤더 영역으로부터 추출된 부가 정보의 프레임 길이 정보를 버퍼링부(2505) 또는 믹스신호인코딩부(2506)에 전달할 수 있다. 믹스신호인코딩부(2506)는 상기 프레임 길이 정보를 이용하여 믹스 신호의 프레임 길이를 결정할 수 있다.
패이로드추출부(2504)는 부가 정보 중 싱크 정보 및 헤더 정보를 제외한 실제 데이터 정보를 추출한다. 믹스신호인코딩부(2506)는 상기 싱크 정보 및 프레임 길이 정보를 이용하여 믹스 신호를 부호화한다. 그 다음에, 다중화부(2507)는 상기 부호화된 믹스 신호 및 부가 정보를 이용하여 비트스트림을 생성한다.
도 26은 본 발명의 일실시예에 따른 믹스 신호에 부가 정보를 임베딩하는 디코딩 장치에 대한 블록도이다. 도 26을 참조하면, 상기 디코딩 장치는 역다중화부(2601), 믹스신호디코딩부(2602), 및 임베딩부(2603)를 포함한다.
역다중화부(2601)는 비트스트림을 역다중화하여 부호화된 믹스 신호 및 상기 믹스 신호에 임베딩할 부가 정보를 추출한다. 그 다음에, 믹스신호디코딩부(2602)는 상기 부호화된 믹스 신호를 복호화하여, 복호화된 믹스 신호(Ld 및Rd)를 출력한다. 임베딩부(2603)는 상기 복호화된 믹스 신호에 상기 부가 정보를 임베딩하여, 부가 정보가 임베드된 믹스 신호(Ld' 및 Rd')를 생성한다. 상기 믹스 신호는 CD 등의 PCM 신호 저장매체에 저장 및 전송될 수 있다.
지금까지 본 발명에 대하여 몇몇 실시예들을 들어 구체적으로 설명하였으나, 상기 실시예들은 본 발명을 이해하기 위한 설명을 위해 제시된 것이며, 본 발명의 범위가 상기 실시예에 제한되는 것은 아니다. 당업자라면 본 발명의 기술적 사상의 범위를 벗어나지 않고도 다양한 변형이 가능함을 이해할 수 있을 것이며, 본 발명의 범위는 첨부된 특허청구범위에 의해서 해석되어야 할 것이다.
이상에서 기술된 것과 같이, 믹스 신호를 코딩하는데 있어서, 낮은 비트율을 가지는 부가 정보를 이용하여 상기 믹스 신호에 포함된 특정한 소스 신호를 리믹스할 수 있다. 이때, 소스 신호를 리믹싱하기 위한 부가 정보가 필요한데, 본 발명은 상기 부가 정보를 믹스 신호에 임베드함으로써 보조 데이터 영역이 존재하지 않는 저장매체나, 보조 데이터 영역이 존재하지 않는 데이터 포맷에 리믹스 신호를 재생할 수 있는 방법 및 장치를 제공할 수 있는 효과가 있다.

Claims (26)

  1. 하나 이상의 소스 신호를 포함하는 믹스 신호의 비지각적 영역에 임베드된 부가 정보를 추출하는 단계;
    사용자 믹스 파라미터를 획득하는 단계; 및
    상기 믹스 신호, 상기 부가 정보 및 상기 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성하는 단계를 포함하되,
    상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 방법.
  2. 제 1 항에 있어서, 상기 부가 정보를 추출하는 단계는
    상기 부가 정보의 헤더 영역으로부터 상기 부가 정보가 임베드된 영역의 크기 정보를 추출하는 단계; 및
    상기 크기 정보를 이용하여 상기 믹스 신호로부터 상기 부가 정보를 추출하는 단계를 포함하는 것을 특징으로 하는 신호 처리 방법.
  3. 제 2 항에 있어서,
    상기 부가 정보의 헤더 영역은 상기 믹스 신호의 최하위 비트(Least Significant Bit, LSB)에 임베드된 것을 특징으로 하는 신호 처리 방법.
  4. 제 2 항에 있어서,
    상기 크기 정보는 상기 부가 정보가 임베드된 블록 내에서 고정된 값을 가지는 것을 특징으로 하는 신호 처리 방법.
  5. 제 1 항에 있어서, 상기 신호 처리 방법은
    상기 믹스 신호에 임베드된 에러정정코드를 추출하는 단계; 및
    상기 에러정정코드를 이용하여 상기 부가 정보의 손상 여부를 판단하는 단계를 더 포함하는 것을 특징으로 하는 신호 처리 방법.
  6. 제 1 항에 있어서,
    상기 사용자 믹스 파라미터는 사용자로부터 획득된 제어 정보를 이용하여 생성되는 것을 특징으로 하는 신호 처리 방법.
  7. 제 1 항에 있어서,
    상기 부가 정보는 상기 소스 신호의 레벨 정보, 상기 소스 신호들간의 상대적인 레벨 정보, 또는 상기 소스 신호 및 상기 믹스 신호 채널간의 상대적인 레벨 정보를 포함하는 것을 특징으로 하는 신호 처리 방법.
  8. 제 1 항에 있어서,
    상기 부가 정보는 상기 소스 신호가 상기 믹스 신호 채널에 믹스되는 정도를 나타내는 정보를 포함하는 것을 특징으로 하는 신호 처리 방법.
  9. 제 1 항에 있어서,
    상기 부가 정보는 상기 소스 신호들간의 시간 지연 정보 또는 상기 소스 신호와 상기 믹스 신호 채널간의 시간 지연 정보를 포함하는 것을 특징으로 하는 신호 처리 방법.
  10. 제 1 항에 있어서,
    상기 부가 정보는 상기 소스 신호들간의 상호 상관 정보 또는 상기 소스 신호와 상기 믹스 신호 채널간의 상호 상관 정보를 포함하는 것을 특징으로 하는 신호 처리 방법.
  11. 하나 이상의 소스 신호를 포함하는 믹스 신호를 획득하는 단계;
    상기 소스 신호들 중 리믹스될 소스 신호를 획득하는 단계;
    상기 믹스 신호 및 상기 리믹스될 소스 신호를 이용하여 부가 정보를 생성하는 단계; 및
    상기 부가 정보를 상기 믹스 신호의 비지각적 영역에 임베딩하는 단계를 포함하되,
    상기 부가 정보는 상기 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 방법.
  12. 제 11 항에 있어서,
    상기 부가 정보는 상기 비지각적 영역에 샘플플레인(sample plane) 순서 또는 비트플레인(bit plane) 순서로 임베드되는 것을 특징으로 하는 신호 처리 방법.
  13. 제 12항에 있어서,
    상기 부가 정보는 상기 샘플플레인 또는 상기 비트플레인에 상위 비트부터 삽입되거나 또는 하위 비트부터 삽입되는 것을 특징으로 하는 신호 처리 방법.
  14. 제 11 항에 있어서,
    상기 부가 정보가 임베드되는 영역의 크기는 상기 믹스 신호의 마스킹 한계값(masking threshold)을 이용하여 상기 부가 정보가 임베드되는 블록별로 구해지는 것을 특징으로 하는 신호 처리 방법.
  15. 제 14 항에 있어서,
    상기 부가 정보는 상기 부가 정보가 임베드되는 영역을 0으로 대체한 후에, 상기 영역에 임베드되는 것을 특징으로 하는 신호 처리 방법.
  16. 제 14 항에 있어서,
    상기 부가 정보는 상기 부가 정보가 임베드되는 영역에서 부가 정보를 빼고 상기 영역을 재양자화한 후에, 임베드되는 것을 특징으로 하는 신호 처리 방법.
  17. 제 11 항에 있어서, 상기 임베딩 단계는,
    상기 부가 정보가 임베드되는 영역에서 임베드가능한 비트 수보다 임베드해야 할 부가 정보의 비트 수가 작은 경우에는, 남는 비트를 0으로 채우거나, 랜덤 신호로 채우거나, 원래의 믹스 신호로 채우거나, 말단비트열로 채우거나, 또는 이들을 조합해서 채우는 단계를 더 포함하는 것을 특징으로 하는 신호 처리 방법.
  18. 하나 이상의 소스 신호를 포함하는 믹스 신호의 비지각적 영역에 임베드된 결합 신호를 추출하는 단계;
    상기 결합 신호를 무손실 복호화하여 상기 비지각적 영역에 대응되는 신호를 복원하는 단계; 및
    상기 복원된 신호를 이용하여 상기 결합 신호가 추출된 믹스 신호를 복원하는 단계를 포함하되,
    상기 결합 신호는 상기 믹스 신호의 비지각적 영역에 위치하는 신호를 무손실 부호화한 신호 및 부가 정보를 포함하는 것을 특징으로 하는 신호 처리 방법.
  19. 제 18 항에 있어서,
    상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 방법.
  20. 제 19 항에 있어서, 상기 신호 처리 방법은
    사용자 믹스 파라미터를 획득하는 단계; 및
    상기 부가 정보, 상기 믹스 신호 및 상기 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성하는 단계를 더 포함하는 것을 특징으로 하는 신호 처리 방법.
  21. 하나 이상의 소스 신호를 포함하는 믹스 신호의 비지각적 영역에 위치하는 신호를 무손실 부호화하는 단계;
    상기 무손실 부호화된 신호 및 부가 정보를 결합하여 결합 신호를 생성하는 단계; 및
    상기 결합 신호를 상기 비지각적 영역에 임베드하는 단계를 포함하되,
    상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 방법.
  22. 하나 이상의 소스 신호를 포함하는 믹스 신호의 비지각적 영역에 존재하는 부가 정보를 추출하는 단계;
    상기 믹스 신호를 부호화하는 단계; 및
    상기 부호화된 믹스 신호 및 상기 부가 정보를 이용하여 비트스트림을 생성하는 단계를 포함하되,
    상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호 및 상기 믹스 신 호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 방법.
  23. 제 22 항에 있어서, 상기 부호화 단계는
    상기 부가 정보의 싱크 정보를 추출하는 단계; 및
    상기 싱크 정보를 이용하여 상기 믹스 신호의 프레임 시작 위치를 결정하는 단계를 포함하는 것을 특징으로 하는 신호 처리 방법.
  24. 부호화된 믹스 신호 및 부가 정보를 획득하는 단계;
    상기 부호화된 믹스 신호를 복호화하는 단계; 및
    상기 복호화된 믹스 신호의 비지각적 영역에 상기 부가 정보를 임베드하는 단계를 포함하되,
    상기 믹스 신호는 하나 이상의 소스 신호를 포함하고, 상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 방법.
  25. 하나 이상의 소스 신호를 포함하는 믹스 신호의 비지각적 영역에 임베드된 부호화된 부가 정보를 추출하는 임베디드신호디코딩부;
    상기 부호화된 부가 정보를 디코딩하여 부가 정보를 생성하는 부가정보디코딩부; 및
    상기 부가 정보, 상기 믹스 신호 및 사용자 믹스 파라미터를 이용하여 리믹 스 신호를 생성하는 리믹스렌더링부를 포함하되,
    상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내고, 상기 사용자 믹스 파라미터는 사용자로부터 획득된 제어정보를 이용하여 생성되는 것을 특징으로 하는 신호 처리 장치.
  26. 하나 이상의 소스 신호를 포함하는 믹스 신호 및 리믹스될 소스 신호를 이용하여 부가 정보를 생성하는 부가정보생성부; 및
    상기 부가 정보를 상기 믹스 신호의 비지각적 영역에 임베딩하는 임베딩부를 포함하되,
    상기 리믹스될 소스 신호는 상기 소스 신호들 중에서 선택되고, 상기 부가 정보는 상기 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 장치.
KR1020070063182A 2006-09-29 2007-06-26 믹스 신호의 처리 방법 및 장치 KR100891666B1 (ko)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US84821806P 2006-09-29 2006-09-29
US60/848,218 2006-09-29
US82935006P 2006-10-13 2006-10-13
US60/829,350 2006-10-13
US86830406P 2006-12-01 2006-12-01
US60/868,304 2006-12-01

Publications (2)

Publication Number Publication Date
KR20080029757A true KR20080029757A (ko) 2008-04-03
KR100891666B1 KR100891666B1 (ko) 2009-04-02

Family

ID=39532255

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020070063182A KR100891666B1 (ko) 2006-09-29 2007-06-26 믹스 신호의 처리 방법 및 장치

Country Status (1)

Country Link
KR (1) KR100891666B1 (ko)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8175295B2 (en) 2008-04-16 2012-05-08 Lg Electronics Inc. Method and an apparatus for processing an audio signal
US8326446B2 (en) 2008-04-16 2012-12-04 Lg Electronics Inc. Method and an apparatus for processing an audio signal
US8340798B2 (en) 2008-04-16 2012-12-25 Lg Electronics Inc. Method and an apparatus for processing an audio signal
KR20180034216A (ko) * 2016-09-26 2018-04-04 더 보잉 컴파니 다른 신호의 스펙트럼을 검사하기 위한 신호 제거
WO2022097944A1 (ko) * 2020-11-06 2022-05-12 삼성전자주식회사 전자 장치 및 이의 오디오 신호 처리 방법

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4496379B2 (ja) 2003-09-17 2010-07-07 財団法人北九州産業学術推進機構 分割スペクトル系列の振幅頻度分布の形状に基づく目的音声の復元方法
US7394903B2 (en) 2004-01-20 2008-07-01 Fraunhofer-Gesellschaft Zur Forderung Der Angewandten Forschung E.V. Apparatus and method for constructing a multi-channel output signal or for generating a downmix signal

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8175295B2 (en) 2008-04-16 2012-05-08 Lg Electronics Inc. Method and an apparatus for processing an audio signal
US8326446B2 (en) 2008-04-16 2012-12-04 Lg Electronics Inc. Method and an apparatus for processing an audio signal
US8340798B2 (en) 2008-04-16 2012-12-25 Lg Electronics Inc. Method and an apparatus for processing an audio signal
KR20180034216A (ko) * 2016-09-26 2018-04-04 더 보잉 컴파니 다른 신호의 스펙트럼을 검사하기 위한 신호 제거
WO2022097944A1 (ko) * 2020-11-06 2022-05-12 삼성전자주식회사 전자 장치 및 이의 오디오 신호 처리 방법

Also Published As

Publication number Publication date
KR100891666B1 (ko) 2009-04-02

Similar Documents

Publication Publication Date Title
KR101315077B1 (ko) 멀티-채널 오디오 데이터를 인코딩 및 디코딩하기 위한 방법, 및 인코더들 및 디코더들
JP5174027B2 (ja) ミックス信号処理装置及びミックス信号処理方法
RU2449387C2 (ru) Способ и устройство для обработки сигнала
AU2006228821B2 (en) Device and method for producing a data flow and for producing a multi-channel representation
JP4740548B2 (ja) 帯域幅拡張技術を利用して符号化及び復号化を行う方法及び装置
JP4925671B2 (ja) デジタル信号の符号化/復号化方法及びその装置並びに記録媒体
NO340421B1 (no) Frekvensbasert koding av audiokanaler i parametrisk multikanal kodesystem
EP1869668A1 (en) Adaptive residual audio coding
WO2008100100A1 (en) Methods and apparatuses for encoding and decoding object-based audio signals
JP2000501846A (ja) 心理音響学的アダプティブ・ビット割り当てを用いたマルチ・チャネル予測サブバンド・コーダ
EP1952392A1 (en) Method for encoding and decoding multi-channel audio signal and apparatus thereof
KR20070001139A (ko) 오디오 분배 시스템, 오디오 인코더, 오디오 디코더 및이들의 동작 방법들
US20050021328A1 (en) Audio coding
EP1932239A1 (en) Method and apparatus for encoding/decoding
KR100891666B1 (ko) 믹스 신호의 처리 방법 및 장치
TWI501220B (zh) 嵌入與擷取輔助資料
JP4809234B2 (ja) オーディオ符号化装置、復号化装置、方法、及びプログラム
KR20060122692A (ko) 공간 정보 비트스트림이 임베드된 다운믹스 오디오 신호를인코딩 및 디코딩하는 방법
KR100923301B1 (ko) 대역 확장 기법을 이용한 오디오 데이터의 부호화 방법,그 장치, 복호화 방법 및 그 장치
US6463405B1 (en) Audiophile encoding of digital audio data using 2-bit polarity/magnitude indicator and 8-bit scale factor for each subband
KR100891667B1 (ko) 믹스 신호의 처리 방법 및 장치
KR20040086878A (ko) 대역 확장 기법을 이용한 오디오 데이터의 부호화 방법,그 장치, 복호화 방법 및 그 장치
KR20070098726A (ko) 미디어 신호를 부호화/복호화하는 방법 및 장치
Li et al. Efficient stereo bitrate allocation for fully scalable audio codec
KR20070108312A (ko) 오디오 신호의 인코딩/디코딩 방법 및 장치

Legal Events

Date Code Title Description
A201 Request for examination
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20130226

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20140224

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20150224

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20160224

Year of fee payment: 8

LAPS Lapse due to unpaid annual fee