KR100891668B1 - 믹스 신호 처리 방법 및 장치 - Google Patents

믹스 신호 처리 방법 및 장치 Download PDF

Info

Publication number
KR100891668B1
KR100891668B1 KR1020070063187A KR20070063187A KR100891668B1 KR 100891668 B1 KR100891668 B1 KR 100891668B1 KR 1020070063187 A KR1020070063187 A KR 1020070063187A KR 20070063187 A KR20070063187 A KR 20070063187A KR 100891668 B1 KR100891668 B1 KR 100891668B1
Authority
KR
South Korea
Prior art keywords
signal
domain
additional information
mix
remix
Prior art date
Application number
KR1020070063187A
Other languages
English (en)
Other versions
KR20080033841A (ko
Inventor
정양원
오현오
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Publication of KR20080033841A publication Critical patent/KR20080033841A/ko
Application granted granted Critical
Publication of KR100891668B1 publication Critical patent/KR100891668B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16—Vocoder architecture
    • G10L19/18—Vocoders using multiple modes
    • G10L19/20—Vocoders using multiple modes using sound class specific coding, hybrid encoders or object based coding
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008—Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/0204—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders using subband decomposition
    • G10L19/0208—Subband vocoders
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S3/00—Systems employing more than two channels, e.g. quadraphonic
    • H04S3/008—Systems employing more than two channels, e.g. quadraphonic in which the audio signals are in digital form, i.e. employing more than two discrete digital channels

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Mathematical Physics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

본 발명은 믹스 신호의 처리 방법 및 장치에 관한 것이다. 이를 위해 본 발명은 하나 이상의 소스 신호를 포함하는 믹스 신호를 획득하는 단계와; 부가 정보를 획득하는 단계와; 사용자 믹스 파라미터를 획득하는 단계와; 상기 믹스 신호의 도메인과 상기 부가 정보의 도메인이 동일한 경우, 상기 믹스 신호, 상기 부가 정보 및 상기 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성하는 단계를 포함하되, 상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호들 간의 관계, 또는 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 방법을 제공한다.
믹스 신호, 부가 정보, 도메인 변환

Description

믹스 신호 처리 방법 및 장치{APPARATUS FOR PROCESSING A MIX SIGNAL AND METHOD THEREOF}
도 1은 본 발명의 일실시예에 따른 제1 리믹스 신호 인코딩 장치에 대한 블록도.
도 2는 스테레오 신호를 이용하는 경우, 도 1의 제1 리믹스 신호 인코딩 장치에 대한 상세 블록도.
도 3은 본 발명의 일실시예에 따른 미디어 신호를 처리하기 위한 도메인.
도 4는 본 발명의 일실시예에 따른 제2 리믹스 신호 인코딩 장치에 대한 블록도.
도 5는 본 발명의 일실시예에 따른 제1 리믹스 신호 디코딩 장치에 대한 블록도.
도 6은 스테레오 신호를 이용하는 경우, 도 5의 제1 리믹스 신호 디코딩 장치에 대한 상세도.
도 7은 본 발명의 일실시예에 따른 제2 리믹스 신호 디코딩 장치에 대한 블록도.
도 8A는 통상적인 인코딩 장치 및 본 발명의 일실시예에 따른 리믹스 신호 인코딩 장치의 결합을 나타내는 블록도.
도 8B는 종래의 디코딩 장치와 결합하여 이용되는 본 발명의 일실시예에 따른 제2 리믹스 신호 디코딩 장치에 대한 블록도.
도 9는 본 발명의 일실시예에 따른 리믹스 신호 디코딩 장치에 상세 블록도.
도 10은 본 발명의 일실시예에 따른 도메인 변환을 수행하는 디코딩 장치의 블록도.
도 11은 본 발명의 일실시예에 따른 도메인 변환을 수행하는 디코딩 장치의 블록도.
도 12는 본 발명의 일실시예에 따른 도메인 변환을 수행하는 디코딩 장치의 블록도.
도 13은 본 발명의 일실시예에 따른 디코딩 장치의 블록도.
도 14는 본 발명의 일실시예에 따른 디코딩 장치의 블록도.
도 15는 본 발명의 일실시예에 따른 신호 처리 방법을 나타낸 순서도.
<도면의 주요 부분에 대한 부호의 설명>
103, 206, 403 : 부가 정보 생성부
105, 208, 406 : 부가 정보 인코딩부
505, 607, 707, 1004 : 리믹스렌더링부
503, 605, 703, 1005, 1101 : 부가 정보 디코딩부
1003 : 믹스 신호 도메인 변환부
1103 : 부가 정보 도메인 변환부
본 발명은 믹스 신호의 처리 방법 및 장치에 관한 것이다. 현재까지는 스테레오 신호가 가장 흔하게 생성되고, 소비자들에게 가장 널리 이용된다. 최근에는 멀티채널 신호가 점점 널리 이용되고 있다. 그러나, 상기 믹스 신호는 상기 믹스 신호를 구성하는 소스 신호 단위가 아니라, 채널 신호 단위로 처리된다는 한계가 있다. 따라서, 채널 신호 단위로 믹스 신호를 처리하는 경우, 믹스 신호를 구성하는 특정 소스 신호만을 독립적으로 처리할 수 없는 문제점이 있다. 예를 들면, 영화를 보면서 배우들 음성에 대한 볼륨은 일정하게 유지하면서, 배경음악의 볼륨만을 높이는 것은 불가능하다. 또한, 믹스 신호와 부가 정보의 도메인이 다른 경우에, 도메인을 일치시키는 방법이 없어 문제점이 있다.
상기 문제점을 해결하기 위해, 본 발명은 믹스 신호 및 부가 정보를 동일한 도메인으로 변환하는 신호 처리 방법 및 장치를 제공하는 데 그 목적이 있다.
또한, 본 발명은 동일한 도메인을 갖는 믹스 신호 및 부가 정보를 이용하여 리믹스 신호를 생성하는 신호 처리 방법 및 장치를 제공하는 데 그 목적이 있다.
또한, 본 발명은 믹스 신호 및 부가 정보의 도메인이 다른 경우, 믹스 신호의 도메인과 부가 정보의 도메인을 일치시켜 리믹스 신호를 생성하는 신호 처리 방법 및 장치를 제공하는 데 그 목적이 있다.
상기 목적을 달성하기 위하여, 본 발명은 하나 이상의 소스 신호를 포함하는 믹스 신호를 획득하는 단계와; 부가 정보를 획득하는 단계와; 사용자 믹스 파라미터를 획득하는 단계와; 상기 믹스 신호의 도메인과 상기 부가 정보의 도메인이 동일한 경우, 상기 믹스 신호, 상기 부가 정보 및 상기 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성하는 단계를 포함하되, 상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호들 간의 관계, 또는 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 방법을 제공한다.
또한, 상기 목적을 달성하기 위하여, 본 발명은 하나 이상의 소스 신호를 포함하는 믹스 신호를 획득하는 믹스신호디코딩부; 부가 정보를 획득하는 부가정보디코딩부; 및 상기 믹스 신호의 도메인과 상기 부가 정보의 도메인이 동일한 경우, 상기 믹스 신호, 상기 부가 정보 및 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성하는 리믹스렌더링부를 포함하되, 상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호들 간의 관계, 또는 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내고, 상기 사용자 믹스 파라미터는 사용자로부터 제공된 제어 정보를 이용하여 생성되는 것을 특징으로 하는 신호 처리 장치를 제공한다.
본 발명에서 사용되는 용어는 가능한 한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우는 해당되는 발명의 상세한 설명 부분에서 그 의미를 기재하였으므로, 단순한 용어의 명칭이 아닌 용어가 가지는 의미로서 본 발명을 파악하여야 한다.
이하 상기의 목적을 구체적으로 실현할 수 있는 본 발명의 바람직한 실시예 를 첨부한 도면을 참조하여 설명한다.
본 발명은 믹스 신호를 소스(Source) 신호 단위로 처리할 수 있는 알고리즘을 제공한다. 믹스 신호를 소스 신호 단위로 처리하는 경우, 매우 다양한 효과를 생성할 수 있다. 예를 들면, 영화를 보면서 배우들 음성에 대한 볼륨은 일정하게 유지하면서, 배경음악의 볼륨만을 높이는 것이 가능하다. 본 발명에서 소스 신호란 믹스 신호를 구성하는 하나 이상의 소스(source)(예를 들면, 피아노)를 포함한다. 소스 신호 단위의 처리란 믹스 신호를 처리함에 있어서, 상기 믹스 신호를 구성하는 특정한 소스 신호와 관련된 특성들(예를 들면, 로컬화(localization), 게인(gain))이 "개별적으로(individually)" 수정될 수 있다는 것을 의미한다. 상기 "개별적으로"란 특정한 오브젝트와 관련된 특성을 수정하는 것이 다른 소스 신호들의 특성에 영향을 미치지 않거나, 지각적으로 느끼기 어려운 작은 영향만을 미치는 것을 의미한다.
상기 믹스 신호는 모노, 스테레오, 및 멀티채널 신호를 포함한다. 설명의 편의상 이하에서 스테레오 신호를 예로 하여 기술할 것이나, 본 발명은 스테레오 신호에만 한정되지 않는다. 본 발명에서는 통상적인 믹스 신호의 포맷(예를 들면, PCM, MP3, MPEG-AAC)뿐만 아니라, 적은 양의 부가 정보(side information)가 전송된다. 상기 믹스 신호 및 부가 정보를 이용하여 리믹스 신호를 생성할 수 있다.
도 1은 본 발명의 일 실시예에 따른 제1 리믹스 신호 인코더의 블록도이다. 상기 제1 리믹스 신호 인코더는 부가정보생성부(103) 및 부가정보인코딩부(105)를 포함한다.
도 1을 참조하면, 부가정보생성부(103)는 통상적인 믹스 신호(101) 및 상기 믹스 신호를 구성하는 소스 신호(102)를 이용하여 부가 정보(104)를 생성한다. 상기 믹스 신호(101)는 모노(mono), 스테레오(stereo) 및 멀티채널 오디오 신호(multi-channel audio signal)가 될 수 있다. 상기 소스 신호(102)는 상기 믹스 신호(101)를 구성하는 소스 신호들 중 일부 또는 전부가 될 수 있다. 상기 부가 정보(104)는 상기 믹스 신호를 소스 신호 단위로 처리하는데 이용되는 정보를 말한다. 상기 부가 정보(104)는 상기 믹스 신호를 리믹싱하기 위한 믹스 파라미터를 포함한다. 상기 믹스 파라터에는 인코더에서 소스 신호를 이용하여 생성된 인코더 믹스 파라미터(Encoder mix parameter)를 포함하며, 선택적으로 믹스 신호만을 이용하여 생성된 블라인드 믹스 파라미터(Blind mix parameter)를 포함할 수 있다. 상기 믹스 파라미터의 예로는 각각의 소스 신호에 대한 게인 값 및 서브밴드 파위(subband power) 등이 될 수 있다. 상기 부가 정보(104)에 대한 구체적인 정의 및 생성 방법은 도 2에서 기술된다. 본 발명은 또한 믹스 신호를 구성하는 소스 신호(102)만을 이용하여 부가 정보(104)를 생성하는 것을 포함한다. 부가정보인코딩부(105)는 생성된 부가 정보(104)를 인코딩하여 부호화된 부가 정보 신호(106)를 생성한다. 상기 믹스 신호(101) 및 상기 부가 정보 신호(106)는 디코딩 장치로 전송된다.
도 2는 믹스 신호가 스테레오 신호인 경우, 도 1의 제1 리믹스 신호 인코딩 장치에 대한 상세 블록도이다. 전술한 것처럼, 본 발명에서 사용되는 믹스 신호는 모노, 스테레오 및 멀티채널 오디오 신호가 될 수 있으나, 편의상 스테레오 신 호(201)를 기준으로 설명한다.
상기 스테레오 신호(stereo signal)(201)
Figure 112007046537040-pat00001
및
Figure 112007046537040-pat00002
는 상기 스테레오 신호를 구성하는 소스 신호들의 합으로 표현될 수 있다. 여기서, n은 타임 인덱스를 의미한다. 따라서, 상기 스테레오 신호(201)는 아래의 [수학식 1]과 같이 표현될 수 있다.
Figure 112007046537040-pat00003
여기서, I는 스테레오 신호 내에 포함되는 소스 신호들의 개수이고,
Figure 112007046537040-pat00004
은 소스 신호들을 나타낸다.
Figure 112007046537040-pat00005
및
Figure 112007046537040-pat00006
는 각각의 소스 신호에 대한 진폭 패닝(amplitude panning) 및 게인(gain)을 결정하는 값이다. 모든
Figure 112007046537040-pat00007
들은 서로 독립적이다. 상기
Figure 112007046537040-pat00008
는 모두 순수한 소스 신호이거나, 또는 순수한 소스 신호에 약간의 잔향(reverberation) 및 효과음 신호성분(sound effect signal components)을 포함할 수 있다. 예를 들면, 특정한 잔향 신호성분은 2개의 소스 신호, 즉, 왼쪽 채널로 믹스된 신호와 오른쪽 채널로 믹스된 신호로 표현될 수 있다.
본 발명의 목적은 M개(0 <= M <= I)의 소스 신호들이 리믹스 되도록, 상기 소스 신호를 포함하는 스테레오 신호를 수정하는 것이다. 상기 소스 신호들은 서로 다른 게인 팩터들을 가지면서 스테레오 신호로 리믹스될 수 있다. 리믹스 신호는 아래의 [수학식 2]와 같이 표현될 수 있다.
Figure 112007046537040-pat00009
여기서,
Figure 112007046537040-pat00010
및
Figure 112007046537040-pat00011
는 리믹스되는 M개의 소스 신호들에 대한 새로운 게인 팩터들이다. 상기
Figure 112007046537040-pat00012
및
Figure 112007046537040-pat00013
는 디코더 단에서 제공될 수 있다. 이 경우에, 부가정보생성부(206)는 스테레오 신호(201) 및 M개의 소스 신호(202)를 이용하여 부가 정보(207)를 생성할 수 있다.
상술하였듯이, 본 발명의 목적은 통상적인 스테레오 신호와 약간의 부가 정보가 주어지는 경우에, 상기 스테레오 신호를 소스 신호 단위로 리믹스하는 것이다. 본 발명에서와 같이 매우 적은 양의 부가 정보를 이용하여 [수학식 1]로 표현되는 믹스 신호로부터 [수학식 2]로 표현되는 리믹스 신호를 완벽하게 생성하는 것은 가능하지 않다. 따라서, 본 발명은 각각의 소스 신호들
Figure 112007046537040-pat00014
에 대한 접근 없 이, [수학식 1]로 표현되는 통상적인 믹스 신호가 주어지는 경우에, [수학식 2]로 표현되는 리믹스 신호를 지각적으로 모방하는 것을 목적으로 한다.
도 2를 참조하면, 제1 리믹스 신호 인코딩 장치에 통상적인 스테레오 신호(201) 및 상기 스테레오 신호(201)에 포함되는 M개의 소스 신호(202)가 입력된다. 상기 스테레오 신호(201)는 부가 정보와 동기화되기 위해 어느 정도 딜레이 되어, 출력 신호로서 직접 이용될 수 있다. 부가 정보를 생성하기 위해, 상기 스테레오 신호(201) 및 소스 신호들(202)은 필터뱅크(203)를 통하여 시간-주파수 도메인의 서브밴드별 신호(204 및 205)로 분해된다. 즉, 상기 스테레오 신호(201) 및 소스 신호는 시간-주파수 도메인에서 처리되는데, 상기 시간-주파수 도메인에 대해서는 도 3에서 후술한다. 상기 서브밴드별 신호(204)는 각 서브밴드의 중심 주파수에서 유사하게 프로세싱된다. 특정한 주파수에서 스테레오 신호(201)의 서브밴드 쌍(204)은
Figure 112007046537040-pat00015
및
Figure 112007046537040-pat00016
로 표시된다. 여기서 k는 서브밴드 신호들의 시간 인덱스(time index)이다. 유사하게, M개의 소스 신호들(202)의 서브밴드 신호들(205)은
Figure 112007046537040-pat00017
,
Figure 112007046537040-pat00018
,...,
Figure 112007046537040-pat00019
로 표시된다. 명료한 표현을 위해, 서브밴드(주파수) 인덱스를 사용하지 않았다.
상기 소스 신호들(202)의 서브밴드 신호들(205)이 주어지면, 부가정보생성부(206)는 서브밴드별로 숏-타임 서브밴드 파워(short-time subband power),
Figure 112007046537040-pat00020
를 생성한다. 또한, 상기 부가정보생성부(206)는 스테레오 신 호(201)의 서브밴드 쌍(204)을 이용하여, 서브밴드별로 게인 팩터
Figure 112007046537040-pat00021
및
Figure 112007046537040-pat00022
를 생성한다. 상기 게인 팩터
Figure 112007046537040-pat00023
및
Figure 112007046537040-pat00024
는 외부에서 직접 주어질 수 있다. 상기 서브밴드별 숏-타임 서브밴드 파워 및 게인 팩터를 이용하여 서브밴드별 부가 정보(207)가 생성된다. 상기 부가정보생성부(206)는 상기 숏-타임 서브밴드 파워 및 게인 팩터들 이외에 상기 스테레오 신호에 관련된 다른 정보를 부가 정보(207)로 생성할 수 있다. 부가정보인코딩부(208)는 상기 서브밴드별 부가정보(207)를 이용하여 부호화된 부가 정보 신호(209)를 생성한다.
많은 스테레오 신호(201)에 대하여, 게인 팩터
Figure 112007046537040-pat00025
및
Figure 112007046537040-pat00026
는 고정적이 될 것이다. 만일
Figure 112007046537040-pat00027
및
Figure 112007046537040-pat00028
가 시간 k에 따라 가변적이라면, 상기 게인 팩터들은 시간의 함수로 생성될 것이다. 상기 게인 팩터들은 직접 양자화 및 부호화되지 않고, 먼저 양자화 및 부호화에 더 적합한 다른 값들로 전환될 수 있다. 또한,
Figure 112007046537040-pat00029
는 스테레오 신호(201)의 서브밴드 파워에 상대적인 값으로 정규화될 수 있다. 이것은 스테레오 신호를 효율적으로 부호화하기 위해 통상적인 인코딩 장치가 이용되는 경우에, 본 발명을 상대적으로 변화에 강하도록 만들어준다. 예를 들면,
Figure 112007046537040-pat00030
및
Figure 112007046537040-pat00031
는 아래의 [수학식 3]으로 표현되는 게인 및 데시벨(dB) 단위의 레벨차로 전환되어 전송될 수 있다.
Figure 112007046537040-pat00032
또한,
Figure 112007046537040-pat00033
는 부가 정보로서 직접 부호화되는 것이 아니라, 아래의 [수학식 4]로 표현되는 스테레오 신호에 상대적으로 정의된 값으로 변환되어 전송될 수 있다.
Figure 112007046537040-pat00034
숏-타임 서브밴드 파워를 생성하기 위해, 본 발명은 단일-폴 평균(single-pole averaging)을 사용한다. 즉,
Figure 112007046537040-pat00035
는 아래의 [수학식 5]와 같이 계산될 수 있다.
Figure 112007046537040-pat00036
여기서, α∈[0,1]는 아래의 [수학식 6]와 같이 지수적으로 감소하는 추정 윈도우(estimation window)의 시간-상수를 결정한다.
Figure 112007046537040-pat00037
여기서,
Figure 112007046537040-pat00038
는 서브밴드 샘플링 주파수를 나타낸다. 예를 들면, T=40 ms를 이용할 수 있다. 이하에서,
Figure 112007046537040-pat00039
는 숏-타임 평균(short-time averaging)을 나타낸다. 만일
Figure 112007046537040-pat00040
및
Figure 112007046537040-pat00041
가 주어지지 않는다면, 상기
Figure 112007046537040-pat00042
및
Figure 112007046537040-pat00043
는 부가정보생성부(206)에서 생성될 필요가 있다.
Figure 112007046537040-pat00044
이므로,
Figure 112007046537040-pat00045
는 아래의 [수학식 7]과 같이 계산된다.
Figure 112007046537040-pat00046
유사하게,
Figure 112007046537040-pat00047
는 아래의 [수학식 8]과 같이 계산된다.
Figure 112007046537040-pat00048
도 3은 본 발명의 일 실시예에 따른 오디오 신호를 처리하기 위한 도메인을 도시한다. 전술한 것처럼, 오디오 신호 및 부가 정보는 도 3에 도시된 것과 같은 시간-주파수 도메인의 서브밴드별 신호로서 처리된다. 상기 시간-주파수 도메인의 서브밴드별 신호는 지각적으로 유도된다. 예를 들면, 약 20ms의 길이를 가지는 사인파 분석창 및 통합창(sine analysis and synthesis window)을 가지는 STFT(Short Time Fourier transform)를 이용하여 서브밴드별 신호를 생성할 수 있다. 이때, STFT 계수들은 하나의 그룹이 ERB(equivalent rectangular bandwidth)의 약 2배가 되는 대역폭을 갖도록 그룹화될 수 있다.
도 4는 본 발명의 일 실시예에 따른 제2 리믹스 신호 인코딩 장치에 대한 블록도이다. 상기 제2 리믹스 신호 인코딩 장치는 다운믹싱부(402), 부가정보생성부(403) 및 부가정보인코딩부(406)을 포함한다.
도 4를 참조하면, 다운믹싱부(402)는 복수의 소스 신호들(401)을 더하여 하나의 합 신호(sum signal)(404)을 생성한다. 제2 리믹스 신호 인코딩 장치는 제1 리믹스 신호 인코딩 장치와는 달리, 스테레오 신호를 전송하는 대신에 상기 합 신호(404)를 전송한다. 부가정보생성부(403)는 상기 소스 신호들(401)을 이용하여 부가 정보(405)를 생성한다. 상기 부가 정보(405)는 각 소스 신호에 대응하는 서브밴드 파워 및 게인 팩터를 포함한다. 또한, 상기 부가 정보(405)는 리믹스 렌더링부에서의 딜레이에 대응하는 파라미터를 포함할 수 있다. 제1 리믹스 신호 인코딩 장치에서와 유사하게, 상기 부가 정보(405)는 양자화 및 부호화에 더 적합한 다른 값으로 변환되어 전송될 수 있다. 부가정보인코딩부(406)는 생성된 부가 정보(405)를 이용하여 부호화된 부가 정보 신호(407)를 생성한다. 생성된 상기 합 신호(404) 및 부가 정보 신호(407)는 디코딩 장치로 전송된다. 본 발명은 또한 다운믹싱부(402)를 가지지 않는 인코딩 장치를 포함한다. 이 경우에, 소스 신호들(401)은 합 신호(404)로 변환되지 않고, 각 소스 신호들(401)이 직접 전송된다.
도 5는 본 발명의 일 실시예에 따른 제1 리믹스 신호 디코딩 장치에 대한 블록도이다. 상기 제1 리믹스 신호 디코딩 장치는 부가정보디코딩부(503) 및 리믹스 렌더링부(505)를 포함한다.
도 5를 참조하면, 믹스 신호(501) 및 부가 정보 신호(502)가 제1 리믹스 신호 디코딩 장치에 입력된다. 상기 믹스 신호(501)는 모노, 스테레오 또는 멀티채널 오디오 신호가 될 수 있다. 부가정보디코딩부(503)는 부가 정보 신호(502)를 디코딩하여 부가 정보(504)를 생성한다. 상기 부가 정보(504)는 전송된 오디오 신호(501)에 포함된 소스 신호들의 게인 팩터 및 서브밴드 파워 등을 포함한다. 리믹스 렌더링부(505)에는 사용자가 직접 제공하는 제어 정보를 이용하여 생성된 사용자 믹스 파라미터(user-mix parameter, 506)가 입력될 수 있다. 리믹스 렌더링부(505)는 믹스 신호(501), 전송된 부가 정보(504) 및 사용자 믹스 파라미터(506)를 이용하여 리믹스 신호(507)를 생성한다. 상기 리믹스 신호를 생성하는 방법에 관한 구체적인 설명은 도 6에서 후술한다. 리믹스 신호(507)는 전송된 믹스 신호의 채널 수와 동일한 채널 수를 가지는 동채널 믹스 신호(Eq-channel mix signal)로 생성되거나, 또는 믹스 신호의 채널 수보다 많은 채널 수를 가지는 업채널 믹스 신호(Up-channel mix signal)로 생성될 수 있다.
도 6은 스테레오 신호를 이용하는 경우, 도 5의 제1 리믹스 신호 디코딩 장 치에 대한 상세도이다. 전술한 것처럼, 전송된 믹스 신호는 모노, 스테레오 및 멀티채널 오디오 신호가 될 수 있으나, 편의상 스테레오 신호(601)를 기준으로 설명한다.
도 6을 참조하면, 스테레오 신호(601)는 필터뱅크(603)을 통하여 시간-주파수 도메인의 서브밴드별 신호(604)로 분해된다. 도 6에 도시된 것처럼, 특정한 주파수에서의 서브밴드별 신호(604)은
Figure 112007046537040-pat00049
및
Figure 112007046537040-pat00050
로 표현된다. 부가정보디코딩부(605)는 전송된 부가 정보 신호(602)를 복호화하여, 서브밴드별 부가 정보(606)를 생성한다. 또한, 리믹스 렌더링부(607)에 사용자가 제공하는 제어 정보를 이용하여 생성된 사용자 믹스 파라미터(608)가 입력될 수 있으며, 상기 사용자 믹스 파라미터(608)는 서브밴드별로 제공될 수 있다. 전술한 것처럼, 상기 부가 정보(606)는 리믹스 될 M개의 소스 신호에 대한 서브밴드별 게인 팩터(
Figure 112007046537040-pat00051
및
Figure 112007046537040-pat00052
) 및
Figure 112007046537040-pat00053
로 표현되는 서브밴드 파워를 포함한다. 리믹스 렌더링부(607)는 서브밴드별로 생성된 스테레오 신호(604), 전송된 부가 정보(606) 및 사용자 믹스 파라미터(608)를 이용하여, 서브밴드별 리믹스 신호(609),
Figure 112007046537040-pat00054
및
Figure 112007046537040-pat00055
를 생성한다. 상기 리믹스 신호(609)를 생성하는 방법은 아래에서 더욱 상세하게 기술된다. 상기 리믹스 신호(609)는 역필터뱅크(610)를 통해 시간 도메 인(time domain)의 스테레오 신호(611),
Figure 112007046537040-pat00056
및
Figure 112007046537040-pat00057
로 변환된다.
리믹스 렌더링부(607)에서 생성된 리믹스 신호(609)를 생성하는 방법은 다음과 같다. 상기 [수학식 1] 및 [수학식 2]는 서브밴드별 신호(604 및 609)에 대해서도 유효하다. 이 경우에, 소스 신호
Figure 112007046537040-pat00058
는 서브밴드별 소스 신호
Figure 112007046537040-pat00059
로 교체된다. 즉, 서브밴드별 믹스 신호(604)는 아래의 [수학식 9]과 같이 표현될 수 있다.
Figure 112007046537040-pat00060
서브밴드별 리믹스 신호(609)는 아래의 [수학식 10]과 같이 표현될 수 있다.
Figure 112007046537040-pat00061
리믹스 신호(609)를 생성하기 위해, 최소자승추정법(least squares estimation)이 이용될 수 있다. 서브밴드별 믹스 신호(604),
Figure 112007046537040-pat00062
및
Figure 112007046537040-pat00063
가 주어지면, 아래의 [수학식 11]와 같이 서로 다른 게인들을 가지는 서브밴드별 리믹스 신호(609)가 상기 서브밴드별 믹스 신호(604)의 선형 조합으로 추정될 수 있다.
Figure 112007046537040-pat00064
여기서,
Figure 112007046537040-pat00065
,
Figure 112007046537040-pat00066
,
Figure 112007046537040-pat00067
및
Figure 112007046537040-pat00068
는 가중 팩터들(weighting factors)이다. 이때, 생성되는 추정 에러(estimation error)는 아래의 [수학식 12]과 같이 정의될 수 있다.
Figure 112007046537040-pat00069
상기 가중 팩터들,
Figure 112007046537040-pat00070
,
Figure 112007046537040-pat00071
,
Figure 112007046537040-pat00072
및
Figure 112007046537040-pat00073
는 평균제곱오차(mean square error),
Figure 112007046537040-pat00074
및
Figure 112007046537040-pat00075
가 최소가 되도록 서브밴드별로 생성될 수 있다. 이때, 추정 에러,
Figure 112007046537040-pat00076
및
Figure 112007046537040-pat00077
가
Figure 112007046537040-pat00078
및
Figure 112007046537040-pat00079
에 직교(orthogonal)될 때, 상기 평균제곱오차가 최소가 된다는 것을 이용할 수 있다. 생성되는
Figure 112007046537040-pat00080
및
Figure 112007046537040-pat00081
는 아래의 [수학식 13]과 같이 표현될 수 있다.
Figure 112007046537040-pat00082
여기서,
Figure 112007046537040-pat00083
,
Figure 112007046537040-pat00084
및
Figure 112007046537040-pat00085
는 직접 생성될 수 있지만,
Figure 112007046537040-pat00086
및
Figure 112007046537040-pat00087
은 전송된 부가 정보(606)(예를 들면,
Figure 112007046537040-pat00088
,
Figure 112007046537040-pat00089
,
Figure 112007046537040-pat00090
) 및 사용자가 제공하는 제어 정보(608)(예를 들면, 게인 팩터
Figure 112007046537040-pat00091
및
Figure 112007046537040-pat00092
)를 이용하여, 아래의 [수학식 14]와 같이 생성될 수 있다.
Figure 112007046537040-pat00093
유사하게,
Figure 112007046537040-pat00094
및
Figure 112007046537040-pat00095
가 아래의 [수학식 15]와 같이 생성될 수 있다.
Figure 112007046537040-pat00096
여기서,
Figure 112007046537040-pat00097
및
Figure 112007046537040-pat00098
는 아래의 [수학식 16]과 같이 표현될 수 있다.
Figure 112007046537040-pat00099
만일, 상기 믹스 신호(604)의 위상이 서로 동기되거나(coherent) 또는 거의 동기화된다면, 아래의 [수학식 17]와 같이 표현되는 값이 1에 근접하게 된다.
Figure 112007046537040-pat00100
이때, 상기 가중치들은 아래의 [수학식 18]과 같이 표현될 수 있다.
Figure 112007046537040-pat00101
이와 같이 생성된 서브밴드별 리믹스 신호(609)는 전술한 것처럼 역필터뱅크(610)를 통해 시간-도메인의 리믹스 신호(611)로 변환된다. 상기 리믹스 신호(611)는 사용자가 제공한 제어 정보를 이용하여 생성된 사용자 믹스 파라미터(
Figure 112007046537040-pat00102
및
Figure 112007046537040-pat00103
)를 이용하여 각각의 소스 신호를 독립적으로 리믹스하여 생성된 리믹스 신호와 유사하게 들린다.
지금까지는 2채널 스테레오 신호의 리믹싱에 초점을 맞추었다. 그러나, 전술한 것처럼 본 발명은 스테레오 신호에 제한되지 않고, 멀티채널 오디오 신호, 예를 들면 5.1채널 오디오 신호를 리믹싱하는 것까지 확대될 수 있다. 당업자들은 본 명세서에서 기술된 스테레오 신호와 유사하게, 멀티채널 오디오 신호를 리믹싱할 수 있다. 이 경우에, [수학식 11]는 아래의 [수학식 19]과 같이 쓰여질 수 있다.
Figure 112007046537040-pat00104
선택적으로, 믹스 신호의 채널들 중 특정한 채널은 리믹스하지 않고 남겨두도록 할 수 있다. 예를 들면, 5.1 서라운드 채널에 대하여, 2개의 뒤쪽 채널은 수정하지 않고, 앞쪽 채널에만 리믹싱을 적용하도록 할 수 있다. 이 경우에, 2 또는 3채널 리믹싱 알고리즘이 앞쪽 채널에 적용된다.
도 7은 본 발명의 일 실시예에 따른 제2 리믹스 신호 디코딩 장치에 대한 블록도이다. 상기 제2 리믹스 신호 디코딩 장치는 부가정보디코딩부(703), 공간정보통합부(705) 및 리믹스 렌더링부(707)를 포함한다.
도 7을 참조하면, 소스 신호들의 합 신호(701) 및 부가 정보 신호(702)가 제2 리믹스 신호 디코딩 장치로 입력된다. 부가정보디코딩부(703)는 부가 정보 신호(702)를 디코딩하여, 부가 정보(704)를 생성한다. 상기 부가 정보(704)는 게인 팩터, 딜레이 상수 및 서브밴드 파워 등을 포함한다. 부가정보통합부(705)는 상기 부가 정보(704)를 이용하여, 상기 합 신호(701)를 복수의 소스 신호들(706)로 분리한다. 리믹스 렌더링부(707)는 상기 소스 신호들(706)을 이용하여 리믹스 신 호(709)를 생성할 수 있다. 이때, 상기 리믹스 렌더링부(707)는 부가 정보로 전송된 믹스 파라미터를 이용하여 리믹스 신호(709)를 생성할 수 있다. 또한, 상기 리믹스 렌더링부(707)는 선택적으로 사용자가 제공하는 제어 정보를 이용하여 생성된 사용자 믹스 파라미터(708)를 이용하여 리믹스 신호(709)를 생성할 수 있다.
도 8A는 통상적인 인코딩 장치 및 본 발명의 일 실시예에 따른 리믹스 신호 인코딩 장치의 결합을 나타내는 블록도이다. 믹스 신호(801)는 통상적인 인코딩 장치(803)에 의해 부호화되어, 부호화된 믹스 신호(805)로 변환될 수 있다. 상기 믹스 신호(801)는 채널별 신호 또는 소스 신호가 될 수 있다. 상기 통상적인 인코딩 장치(803)는 AAC, MP3 인코더 등과 같은 종래의 인코딩 장치뿐만 아니라, 앞으로 개발될 인코딩 장치를 포함한다. 본 발명에 따른 리믹스 신호 인코딩 장치(804)는 상기 믹스 신호(801) 및 상기 믹스 신호에 포함되는 소스 신호(802)를 이용하여 부가 정보 신호(806)를 생성한다. 다중화부(807)는 부호화된 믹스 신호(805) 및 부가 정보 신호(806)를 이용하여 비트스트림(808)을 생성한다. 전술한 것처럼, 상기 부가 정보 신호(806)는 종래 장치들과 호환성을 가지도록, 종래 믹스 신호 포맷 내의 보조 데이터 영역에 삽입될 수 있다.
도 8B는 통상적인 디코딩 장치 및 본 발명의 일 실시예에 따른 리믹스 신호 디코딩 장치의 결합에 대한 블록도이다. 역다중화부(810)는 전송된 비트스트림(809)으로부터 부호화된 믹스 신호(811) 및 부가 정보 신호(812)를 분리한다. 그 다음에, 통상적인 디코딩 장치(813)는 상기 부호화된 믹스 신호(811)를 디코딩하여, 본 발명에 따른 리믹스 신호 디코딩 장치(815)에서 이용될 수 있는 믹스 신 호(814)를 생성한다. 상기 통상적인 디코딩 장치(813)는 AAC, MP3 디코더 등과 같은 종래의 인코딩 장치뿐만 아니라, 앞으로 개발될 인코딩 장치를 포함한다. 상기 믹스 신호(814)는 채널별 신호 또는 소스 신호가 될 수 있다. 본 발명에 따른 리믹스 신호 디코딩 장치(817)는 부가 정보 신호(812) 및 사용자 믹스 파라미터(817) 중 적어도 하나를 이용하여 상기 믹스 신호(814)를 리믹스 신호(816)로 변환할 수 있다.
도 9는 본 발명의 일 실시예에 따른 리믹스 신호 디코딩 장치에 상세 블록도이다. 도 9를 참조하면, 리믹스 신호 디코딩 장치는 믹스신호디코딩부(901), 파라미터생성부(902), 및 리믹스렌더링부(908)를 포함한다. 선택적으로 이펙터(Effecter, 911)를 포함할 수 있다. 상기 파라미터생성부(902)는 블라인드믹스 파라미터생성부(903), 사용자믹스파라미터생성부(904), 및 리믹스파라미터생성부(905)를 포함할 수 있다. 상기 리믹스파라미터생성부(905)는 이퀴믹스파라미터생성부(906)를 포함하며, 선택적으로 업믹스파라미터생성부(907)를 포함할 수 있다. 또한, 상기 리믹스렌더링부(908)는 이퀴믹스렌더링부(909)를 포함하며, 선택적으로 업믹스렌더링부(910)를 포함할 수 있다.
상기 믹스신호디코딩부(901)는 인코딩 단에서 전송된 부호화된 믹스 신호를 디코딩하여 믹스 신호를 생성한다. 상기 파라미터생성부(902)는 인코딩 단에서 전송된 부가 정보 및 사용자 제어정보(또는, 구성정보)를 수신한다. 상기 사용자 제어정보는 인코더 단에서 전송되지 않고, 디코더 단에서 생성될 수 있다. 상기 사용자믹스파라미터생성부(904)는 사용자 제어정보를 이용하여 사용자 믹스 파라미터를 생성한다. 인코더 단에서 전송된 부가 정보에는 인코더 믹스 파라믹터(Encoder Mix Parameter)가 포함될 수 있다. 또한, 상기 블라인드믹스파라미터생성부(903)는 상기 믹스 신호를 이용하여 블라인드 믹스 파라미터(Blind-Mix Parameter)를 생성할 수 있다. 상기 인코더 믹스 파라미터와 상기 블라인드 믹스 파라미터는 택일적으로 리믹스파라미터생성부(905)로 입력된다.
상기 리믹스파라미터생성부(905)는 부가 정보 및 사용자 믹스 파라미터를 이용하여 리믹스 파라미터를 생성한다. 상기 리믹스 파라미터는 리믹스 신호의 채널에 적용될 수 있도록 생성될 수 있다. 리믹스파라미터생성부(905)에 포함되는 이퀴믹스파라미터생성부(906)는 믹스 신호의 채널 수와 동일한 채널 수를 가지는 리믹스 신호를 생성하는데 이용되는 리믹스 파라미터를 생성하고, 상기 리믹스파라미터생성부(905)에 포함될 수 있는 업믹스파라미터생성부(907)는 믹스 신호의 채널 수보다 더 많은 채널 수를 가지는 리믹스 신호를 생성하는데 이용되는 리믹스 파라미터를 생성한다. 상기 리믹스 파라미터는 리믹스렌더링부(908)에 입력된다.
상기 리믹스렌더링부(908)에 포함되는 이퀴믹스렌더링부(909)는 상기 리믹스 파라미터 및 믹스 신호를 이용하여, 상기 믹스 신호의 채널 수와 동일한 채널 수를 가지는 이퀴채널 리믹스 신호(Eq-channel remix signal)를 생성한다. 상기 리믹스렌더링부(908)에 포함될 수 있는 업믹스렌더링부(910)는 상기 업믹스파라미터생성부(907)에서 생성된 리믹스 파라미터 및 믹스 신호를 이용하여, 상기 믹스 신호의 채널 수보다 더 많은 채널 수를 가지는 업채널 리믹스 신호(Up-channel remix signal)를 생성한다. 상기 업믹스렌더링부(910)는 상기 이퀴채널렌더링부(909)에서 생성된 리믹스 신호를 이용하여 업채널 리믹스 신호를 생성할 수도 있다.
따라서, 상기 디코딩 장치는 인코딩 단에서 전송한 믹스 신호를 그대로 출력하거나, 이퀴채널 리믹스 신호로 출력하거나, 또는 업채널 리믹스 신호로 출력할 수 있다. 선택적으로 상기 리믹스 렌더링부는 이펙터(911)로부터 제공되는 정보를 이용하여, 상기 리믹스 신호에 다양한 효과를 줄 수 있다.
도 10은 본 발명의 일실시예에 따른 도메인 변환을 수행하는 디코딩 장치의 블록도이다. 도 10을 참조하면, 디코딩 장치는 믹스신호디코딩부(1001), 믹스신호도메인변환부(1003), 부가정보디코딩부(1005) 및 리믹스렌더링부(1004)를 포함한다. 상기 디코딩 장치는 인코딩 장치로부터 믹스 신호 및 부가 정보를 전송받는다. 상기 부가 정보는 레벨 정보, 시간 지연 정보, 상호 상관 정보, 믹스 정보 등을 포함한다.
여기서, 레벨 정보는 리믹스될 소스 신호의 레벨을 포함할 수 있고, 리믹스될 소스 신호들간의 상대적인 레벨이나, 또는 리믹스될 소스 신호와 믹스 신호간의 상대적인 레벨을 포함할 수 있다. 또한, 믹스 신호의 레벨을 따로 부가 정보에 포함시킬 수 있다. 시간 지연 정보는 리믹스될 소스 신호들간의 시간 지연 정보, 또는 리믹스될 소스 신호와 믹스 신호간의 시간 지연 정보를 포함할 수 있다. 상호 상관 정보는 리믹스될 소스 신호들간의 상호 상관 정보, 또는 리믹스될 소스 신호와 믹스 신호간의 상호 상관 정보, 믹스 신호들 간의 상호 상관 정보를 포함할 수 있다. 믹스 정보는 특정 소스가 믹스 신호에 믹스되는 정도를 나타내는 정보로서, 예를 들면, 특정 소스가 오른쪽에 위치하는 효과가 나도록 믹스하고 싶은 경우, 왼 쪽 채널보다 오른쪽 채널에 더 큰 크기로 포함되도록 믹스를 수행할 수 있다. 이와 같이 믹스 정보는 각 소스가 각 채널에 믹스되는 정도를 나타낼 수 있다. 믹스 정보는 크기뿐만 아니라, 믹스에 관련된 시간 지연, 상관 관계 등의 정보를 포함하는 것이 가능하다.
상기 디코딩 장치는 동일한 인코딩 장치로부터 믹스 신호 및 부가 정보를 전송받을 수도 있으나, 별개의 인코딩 장치로부터 믹스 신호 및 부가 정보 각각을 전송받을 수도 있다. 인코딩 장치가 믹스 신호 및 부가 정보를 하나의 비트스트림 형태로 디코딩 장치로 전송하는 경우, 디코딩 장치는 비트스트림을 역다중화하여 믹스 신호는 믹스신호디코딩부(1001)로 보내고 부가 정보는 부가정보디코딩부(1005)로 보낸다.
믹스신호디코딩부(1001)는 부호화된 믹스 신호를 복호화한다. 디코딩 장치는 서브밴드 도메인에서 믹스 신호 및 부가 정보를 이용하여 리믹스 신호를 생성할 수 있다. 믹스신호도메인변환부(1003)는 믹스 신호의 도메인을 부가 정보의 도메인과 동일한 서브밴드 도메인으로 변환한다. 부가정보디코딩부(1005)는 부가 정보를 디코딩하여 디코딩된 부가 정보를 리믹스렌더링부(1004)로 보낸다. 리믹스렌더링부(1004)는 믹스신호도메인변환부(1003)로부터 부가 정보와 동일한 서브밴드 도메인을 갖는 믹스 신호를 받고, 부가정보디코딩부(1005)로부터 서브밴드 도메인의 부가 정보를 받는다.
또한 리믹스렌더링부(1004)는 사용자로부터 제어 정보를 제공받고, 상기 제어 정보를 이용하여 사용자 믹스 파라미터를 생성한다. 리믹스렌더링부(1004)는 동 일한 도메인 상의 믹스 신호 및 부가 정보, 그리고 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성한다. 디코딩 장치는 원래의 믹스 신호를 복원한 후, 원래의 믹스 신호에 포함되어 있는 소스 신호를 조절하여 리믹스 신호를 생성하거나, 또는 원래의 믹스 신호를 복원하지 않고 부가 정보 및 사용자 믹스 파라미터를 이용하여 직접 리믹스 신호를 생성할 수 있다. 역도메인변환부(1005)는 생성된 리믹스 신호를 원래의 도메인, 예를 들면, 시간 도메인으로 변환한다.
도 11은 본 발명의 일실시예에 따른 도메인 변환을 수행하는 디코딩 장치의 블록도이다. 도 11의 실시 예는 믹스 신호의 도메인과 부가 정보의 도메인을 각각 변환하여 도메인을 일치시킨다는 점에서 믹스 신호에 대해서만 도메인 변환을 수행하는 도 10의 실시 예와 다르다. 도 11을 참조하면, 상기 디코딩 장치는 믹스신호디코딩부(1001), 부가정보디코딩부(1101), 믹스신호도메인변환부(1003), 부가정보도메인변환부(1103) 및 리믹스렌더링부(1004)를 포함한다.
믹스신호디코딩부(1001)는 인코딩 장치로부터 수신하거나, 또는 미리 저장하고 있던 믹스 신호를 추출하여 복호화한다. 부가정보디코딩부(1101)는 인코딩 장치로부터 수신하거나, 또는 디코딩 장치에서 생성하여 저장하고 있던 부가 정보를 추출하여 이를 복호화한다. 믹스 신호와 부가 정보는 동일한 인코딩 장치로부터 수신될 수도 있고, 다른 장치로부터 별개로 수신될 수도 있다. 또한 부가 정보는 디코딩 장치에서 직접 생성될 수도 있다. 부가정보디코딩부(1101)는 부가 정보를 복호화한다.
믹스신호도메인변환부(1003) 및 부가정보도메인변환부(1103)는 각각 믹스 신 호 및 부가 정보를 동일한 도메인, 예를 들면, QMF 도메인으로 변환한다. 예를 들면, 믹스 신호가 MDCT 도메인 상의 신호이고 부가 정보가 QMF 도메인 상의 신호인 경우를 생각한다. 서브밴드 부호화를 위해서는 앨리어싱을 일으키지 않고 대역을 필터 뱅크로 분할하여 낮은 샘플링 주파수로 만든다. 주파수 분할에 사용되는 필터 중 하나가 직교 미러 필터 QMF(Quadrature Mirror Filter)이다. 앨리어싱을 상쇄시키면서 효율이 높은 주파수 분할 방법 중 또다른 방법으로 MDCT(Modified Discrete Cosine Transform ; 변형이산 여현변환) 방법이 있다. MDCT는 512샘플을 한꺼번에 시간 신호로부터 주파수 신호로 변환하는 방법으로 FFT와 같은 고속 알고리즘을 사용하여 승산 횟수 등을 크게 줄일 수 있다. QMF 도메인 상의 신호는 QMF에 의해 주파수 분할되어 변환된 신호를 의미하고, MDCT 도메인 상의 신호는 MDCT 방법에 의해 주파수 분할되어 변환된 신호를 의미한다. 상기 MDCT 방법을 이용하여 부가 정보를 MDCT 도메인으로 변환하거나, 상기 QMF 방법을 이용하여 믹스 신호를 QMF 도메인으로 이용하거나, 또는 다른 방법을 이용하여 믹스 신호와 부가 정보를 동일한 도메인 상의 신호로 변환할 수 있다.
리믹스렌더링부(1004)는 믹스신호도메인변환부(1003)로부터 받은 믹스 신호와 부가정보도메인변환부(1103)로부터 받은 동일한 도메인의 부가 정보 및 사용자믹스 파라미터를 이용하여 리믹스 신호를 생성한다. 역도메인변환부(1005)는 리믹스 신호를 사람이 지각할 수 있도록 시간 도메인으로 변환하여 출력한다.
도 12는 본 발명의 일실시예에 따른 도메인 변환을 수행하는 디코딩 장치의 블록도이다. 도 12의 실시 예는 부가 정보의 도메인만 변환한다는 점에서 믹스 신 호에 대한 도메인 변환을 수행하는 도 10 및 도 11의 실시 예와는 구별된다. 도 12를 참조하면, 상기 디코딩 장치는 믹스신호디코딩부(1201), 부가정보디코딩부(1101), 부가정보도메인변환부(1103) 및 리믹스렌더링부(1004)를 포함한다.
믹스 신호와 부가 정보의 도메인이 다른 경우, 디코딩 장치는 리믹스 신호를 생성하기 위해 믹스 신호와 부가 정보의 도메인을 일치시킨다. 믹스 신호와 부가 정보를 모두 도메인 변환하거나, 또는 믹스 신호를 부가 정보의 도메인으로 변환할 수도 있으나 믹스 신호는 그대로 두고 부가 정보의 도메인을 믹스 신호의 도메인으로 변환할 수도 있다. 부가 정보는 믹스 신호보다 정보량이 적으므로 부가 정보를 믹스 신호의 도메인으로 변환하면 믹스 신호를 부가 정보의 도메인으로 변환하는 것보다 연산량이 감소한다. 믹스신호디코딩부(1201)는 믹스 신호를 수신하고 이를 복호화하여 리믹스렌더링부(1004)로 보낸다. 부가정보디코딩부(1101)는 부가 정보를 수신하고 이를 복호화한다. 부가정보도메인변환부(1103)는 상기 부가 정보를 믹스 신호와 동일한 도메인, 예를 들면, 서브밴드 도메인으로 변환한다. 리믹스렌더링부(1004)는 동일한 도메인 상의 믹스 신호, 부가 정보 및 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성한다.
도 13은 본 발명의 일실시예에 따른 디코딩 장치의 블록도이다. 도 13을 참조하면, 디코딩 장치는 믹스신호디코딩부(1201), 부가정보디코딩부(1005) 및 리믹스렌더링부(1004)를 포함한다. 상기 디코딩 장치는 믹스 신호와 부가 정보를 수신한다. 믹스신호디코딩부(1201)는 믹스 신호를 복호화하고 부가정보디코딩부(1005)는 부가 정보를 복호화한다. 믹스 신호와 부가 정보의 도메인이 동일하므로 디코딩 장치는 별도의 도메인 변환을 수행하지 않는다. 리믹스렌더링부(1004)는 복호화된 믹스 신호, 복호화된 부가 정보 및 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성한다. 믹스 신호와 부가 정보의 도메인이 동일하여 도메인 변환을 수행하지 않으므로, 도메인 변환에 요구되는 연산량 및 복잡성이 감소한다.
도 14는 본 발명의 일실시예에 따른 신호 디코딩 장치의 블록도이다. 도 14를 참조하면, 디코딩 장치는 믹스신호디코딩부(1201), 부가정보디코딩부(1005, 1101), 부가정보도메인변환부(1103) 및 리믹스렌더링부(1004)를 포함한다. 상기 디코딩 장치는 믹스 신호와 부가 정보의 도메인이 동일한지를 판단한다. 믹스 신호와 부가 정보의 도메인이 동일하지 않은 경우, 디코딩 장치는 부가정보디코딩부(1101) 및 부가정보도메인 변환부(1103)를 이용하여 부가 정보를 도메인 변환한다. 디코딩 장치는 부가정보도메인변환부(1103)를 이용하여 부가 정보의 도메인을 믹스 신호의 도메인과 동일한 도메인으로 변환한다.
믹스 신호와 부가 정보의 도메인이 동일한 경우, 디코딩 장치는 부가정보디코딩부(1005)를 이용하여 부가 정보를 처리한다. 부가정보디코딩부(1005)는 부가 정보를 복호화하고, 복호화한 부가 정보를 리믹스렌더링부(1004)로 보낸다. 리믹스렌더링부(1004)는 부가 정보, 믹스 신호 및 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성한다.
도 15는 본 발명의 일실시예에 따른 신호 처리 방법을 나타낸 순서도이다. 도 15를 참조하면, 디코딩 장치는 믹스 신호, 부가 정보 및 사용자 믹스 파라미터를 획득한다(S1500). 디코딩 장치는 믹스 신호와 부가 정보가 동일한 도메인 상의 신호인지를 판단한다(S1501). 디코딩 장치는 믹스 신호와 부가 정보의 도메인이 동일한 경우 믹스 신호 및 부가 정보를 각각 복호화하고, 복호화된 믹스 신호, 부가 정보 및 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성한다(S1503).
디코딩 장치는 믹스 신호와 부가 정보의 도메인이 동일하지 않은 경우, 믹스 신호의 도메인과 부가 정보의 도메인을 일치시킨다(S1502). 디코딩 장치는 믹스 신호와 부가 정보를 각각 도메인 변환하여 동일한 도메인으로 변환하거나, 또는 믹스 신호의 도메인을 부가 정보의 도메인으로 변환할 수 있다. 또한 디코딩 장치는 부가 정보의 도메인을 믹스 신호의 도메인으로 변환할 수도 있다. 도메인이 변환되어 믹스 신호의 도메인과 부가 정보의 도메인이 동일하게 된 경우, 디코딩 장치는 믹스 신호, 부가 정보 및 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성한다(S1503).
지금까지 본 발명에 대하여 몇몇 실시예들을 들어 구체적으로 설명하였으나, 상기 실시예들은 본 발명을 이해하기 위한 설명을 위해 제시된 것이며, 본 발명의 범위가 상기 실시예에 제한되는 것은 아니다. 당업자라면 본 발명의 기술적 사상의 범위를 벗어나지 않고도 다양한 변형이 가능함을 이해할 수 있을 것이며, 본 발명의 범위는 첨부된 특허청구범위에 의해서 해석되어야 할 것이다.
이상에서 기술된 것과 같이, 본 발명에 따른 신호 처리 방법 및 장치는 믹스 신호 및 부가 정보를 동일한 도메인으로 변환하고, 동일한 도메인을 갖는 믹스 신호 및 부가 정보를 이용하여 리믹스 신호를 생성할 수 있다.
또한, 본 발명에 따른 신호 처리 방법 및 장치는 믹스 신호의 도메인과 부가 정보의 도메인이 다른 경우, 부가 정보의 도메인을 믹스 신호의 도메인으로 변환하고, 상기 부가 정보 및 믹스 신호를 이용하여 리믹스 신호를 생성함으로써 연산량이 감소할 수 있다.

Claims (16)

  1. 하나 이상의 소스 신호를 포함하는 믹스 신호를 획득하는 단계;
    부가 정보를 획득하는 단계;
    사용자 믹스 파라미터를 획득하는 단계; 및
    상기 믹스 신호의 도메인과 상기 부가 정보의 도메인이 동일한 경우, 상기 믹스 신호, 상기 부가 정보 및 상기 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성하는 단계를 포함하되,
    상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내는 것을 특징으로 하는 신호 처리 방법.
  2. 제 1 항에 있어서, 상기 신호 처리 방법은
    상기 믹스 신호의 도메인과 상기 부가 정보의 도메인이 다른 경우, 상기 믹스 신호의 도메인과 상기 부가 정보의 도메인을 일치시키는 단계를 더 포함하고,
    상기 리믹스 신호를 생성하는 단계는 도메인이 일치된 상기 믹스 신호, 부가 정보 및 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성하는 것임을 특징으로 하는 신호 처리 방법.
  3. 제 2 항에 있어서, 상기 도메인을 일치시키는 단계는
    상기 부가 정보의 도메인을 상기 믹스 신호의 도메인으로 변환하는 단계를 포함하는 것을 특징으로 하는 신호 처리 방법.
  4. 제 3 항에 있어서,
    상기 믹스 신호의 도메인은 MDCT 도메인, QMF 도메인, 서브밴드 도메인, 또는 시간 도메인인 것을 특징으로 하는 신호 처리 방법.
  5. 제 2 항에 있어서, 상기 도메인을 일치시키는 단계는
    상기 믹스 신호의 도메인을 상기 부가 정보의 도메인으로 변환하는 단계를 포함하는 것을 특징으로 하는 신호 처리 방법.
  6. 제 5 항에 있어서,
    상기 부가 정보의 도메인은 MDCT 도메인, QMF 도메인, 서브밴드 도메인, 또는 시간 도메인인 것을 특징으로 하는 신호 처리 방법.
  7. 제 1 항 또는 제 2 항에 있어서, 상기 신호 처리 방법은
    상기 리믹스 신호를 시간 도메인으로 변환하는 단계를 더 포함하는 것을 특징으로 하는 신호 처리 방법.
  8. 제 1 항에 있어서,
    상기 부가 정보는 상기 리믹스될 소스 신호의 레벨, 상기 리믹스될 소스 신 호들 간의 레벨, 또는 상기 리믹스될 소스 신호와 상기 믹스 신호간의 레벨을 나타내는 정보를 포함하는 것을 특징으로 하는 신호 처리 방법.
  9. 제 1 항에 있어서,
    상기 사용자 믹스 파라미터는 사용자로부터 제공된 제어 정보를 이용하여 생성되는 것을 특징으로 하는 신호 처리 방법.
  10. 제 1 항에 있어서,
    상기 부가 정보는 상기 리믹스될 소스 신호들간의 시간 지연, 또는 상기 리믹스될 소스 신호와 상기 믹스 신호간의 시간 지연에 대한 정보를 포함하는 것을 특징으로 하는 신호 처리 방법.
  11. 제 1 항에 있어서,
    상기 부가 정보는 상기 리믹스될 소스 신호들 간의 상호 상관, 또는 상기 리믹스될 소스 신호와 상기 믹스 신호간의 상호 상관에 대한 정보를 포함하는 것을 특징으로 하는 신호 처리 방법.
  12. 제 1 항에 있어서,
    상기 부가 정보는 상기 리믹스될 소스 신호가 상기 믹스 신호에 믹스되는 정도에 대한 정보를 포함하는 것을 특징으로 하는 신호 처리 방법.
  13. 하나 이상의 소스 신호를 포함하는 믹스 신호를 획득하는 믹스신호디코딩부;
    부가 정보를 획득하는 부가정보디코딩부; 및
    상기 믹스 신호의 도메인과 상기 부가 정보의 도메인이 동일한 경우, 상기 믹스 신호, 상기 부가 정보 및 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성하는 리믹스렌더링부를 포함하되,
    상기 부가 정보는 상기 소스 신호들 중 리믹스될 소스 신호와 상기 믹스 신호와의 관계를 나타내고, 상기 사용자 믹스 파라미터는 사용자로부터 제공된 제어 정보를 이용하여 생성되는 것을 특징으로 하는 신호 처리 장치.
  14. 제 13 항에 있어서, 상기 신호 처리 장치는
    상기 믹스 신호의 도메인과 상기 부가 정보의 도메인이 다른 경우, 상기 믹스 신호의 도메인과 상기 부가 정보의 도메인을 일치시키는 도메인변환부를 더 포함하고,
    상기 리믹스 신호를 생성하는 리믹스렌더링부는 도메인이 일치된 상기 믹스 신호, 상기 부가 정보 및 상기 사용자 믹스 파라미터를 이용하여 리믹스 신호를 생성하는 것임을 특징으로 하는 신호 처리 장치.
  15. 제 14 항에 있어서, 상기 도메인 변환부는
    상기 부가 정보의 도메인을 상기 믹스 신호의 도메인으로 변환하는 부가정보 도메인변환부를 포함하는 것을 특징으로 하는 신호 처리 장치.
  16. 제 14 항에 있어서, 상기 도메인 변환부는
    상기 믹스 신호의 도메인을 상기 부가 정보의 도메인으로 변환하는 믹스신호도메인변환부를 포함하는 것을 특징으로 하는 신호 처리 장치.
KR1020070063187A 2006-10-12 2007-06-26 믹스 신호 처리 방법 및 장치 KR100891668B1 (ko)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US82923006P 2006-10-12 2006-10-12
US60/829,230 2006-10-12
US82935006P 2006-10-13 2006-10-13
US60/829,350 2006-10-13
US86830406P 2006-12-01 2006-12-01
US60/868,304 2006-12-01

Publications (2)

Publication Number Publication Date
KR20080033841A KR20080033841A (ko) 2008-04-17
KR100891668B1 true KR100891668B1 (ko) 2009-04-02

Family

ID=39573663

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020070063187A KR100891668B1 (ko) 2006-10-12 2007-06-26 믹스 신호 처리 방법 및 장치

Country Status (1)

Country Link
KR (1) KR100891668B1 (ko)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0079886A1 (en) * 1981-05-29 1983-06-01 Ibm SUCTION UNIT FOR INK JET PRINTING PROCESS.
WO1992012607A1 (en) 1991-01-08 1992-07-23 Dolby Laboratories Licensing Corporation Encoder/decoder for multidimensional sound fields
EP1784819A1 (en) 2004-11-02 2007-05-16 Coding Technologies AB Stereo compatible multi-channel audio coding

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0079886A1 (en) * 1981-05-29 1983-06-01 Ibm SUCTION UNIT FOR INK JET PRINTING PROCESS.
WO1992012607A1 (en) 1991-01-08 1992-07-23 Dolby Laboratories Licensing Corporation Encoder/decoder for multidimensional sound fields
EP1784819A1 (en) 2004-11-02 2007-05-16 Coding Technologies AB Stereo compatible multi-channel audio coding

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Patrick De Smet et al., 'Subband based audio mixing for internet streaming applications', ICASSP 2001

Also Published As

Publication number Publication date
KR20080033841A (ko) 2008-04-17

Similar Documents

Publication Publication Date Title
US11621006B2 (en) Parametric joint-coding of audio sources
KR102230727B1 (ko) 광대역 정렬 파라미터 및 복수의 협대역 정렬 파라미터들을 사용하여 다채널 신호를 인코딩 또는 디코딩하기 위한 장치 및 방법
KR101016982B1 (ko) 디코딩 장치
RU2551797C2 (ru) Способы и устройства кодирования и декодирования объектно-ориентированных аудиосигналов
KR101049751B1 (ko) 오디오 코딩
US8433583B2 (en) Audio decoding
RU2355046C2 (ru) Устройство и способ для формирования многоканального сигнала или набора параметрических данных
US20190013031A1 (en) Audio object separation from mixture signal using object-specific time/frequency resolutions
ES2547232T3 (es) Método y aparato para procesar una señal
KR20050021484A (ko) 오디오 코딩
Breebaart et al. High-quality parametric spatial audio coding at low bitrates
KR20120095920A (ko) 최적의 저-스루풋 파라메트릭 코딩/디코딩
JP2015528926A (ja) マルチチャネルをダウンミックス／アップミックスする場合のため一般化された空間オーディオオブジェクト符号化パラメトリック概念のデコーダおよび方法
MX2014010098A (es) Control de coherencia de fase para señales armonicas en codecs de audio perceptual.
JP6141978B2 (ja) マルチチャネル・ダウンミックス／アップミックス構成のためのパラメトリックコンセプトを採用したマルチインスタンス方式の空間音響オブジェクト符号化用のデコーダおよびその方法
JP2015525905A (ja) 空間オーディオオブジェクト符号化においてオーディオ情報を適応させる装置および方法
KR100891667B1 (ko) 믹스 신호의 처리 방법 및 장치
KR100891668B1 (ko) 믹스 신호 처리 방법 및 장치
JP2007025290A (ja) マルチチャンネル音響コーデックにおける残響を制御する装置
KR100891670B1 (ko) 신호 처리 방법 및 장치
Jansson Stereo coding for the ITU-T G. 719 codec
KR100891665B1 (ko) 믹스 신호의 처리 방법 및 장치
Vilkamo Perceptually motivated time-frequency processing of spatial audio
KR100891669B1 (ko) 믹스 신호의 처리 방법 및 장치
Suresh et al. MDCT domain analysis and synthesis of reverberation for parametric stereo audio

Legal Events

Date Code Title Description
A201 Request for examination
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20130226

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20140224

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20150224

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20160224

Year of fee payment: 8

LAPS Lapse due to unpaid annual fee