KR102263550B1 - 다중 오디오 신호들의 코딩 - Google Patents
다중 오디오 신호들의 코딩 Download PDFInfo
- Publication number
- KR102263550B1 KR102263550B1 KR1020197020283A KR20197020283A KR102263550B1 KR 102263550 B1 KR102263550 B1 KR 102263550B1 KR 1020197020283 A KR1020197020283 A KR 1020197020283A KR 20197020283 A KR20197020283 A KR 20197020283A KR 102263550 B1 KR102263550 B1 KR 102263550B1
- Authority
- KR
- South Korea
- Prior art keywords
- channel
- residual
- frequency
- inter
- domain
- Prior art date
Links
- 230000005236 sound signal Effects 0.000 title description 84
- 230000002123 temporal effect Effects 0.000 claims abstract description 27
- 238000000034 method Methods 0.000 claims description 60
- 230000001364 causal effect Effects 0.000 description 21
- 238000012545 processing Methods 0.000 description 17
- 230000006870 function Effects 0.000 description 16
- 239000003607 modifier Substances 0.000 description 16
- 230000000875 corresponding effect Effects 0.000 description 13
- 230000002238 attenuated effect Effects 0.000 description 11
- 230000005540 biological transmission Effects 0.000 description 10
- 230000003111 delayed effect Effects 0.000 description 10
- 239000000203 mixture Substances 0.000 description 10
- 238000004891 communication Methods 0.000 description 9
- 238000003786 synthesis reaction Methods 0.000 description 9
- 230000015572 biosynthetic process Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 8
- 230000004044 response Effects 0.000 description 8
- 238000006243 chemical reaction Methods 0.000 description 5
- 230000003595 spectral effect Effects 0.000 description 5
- 230000002596 correlated effect Effects 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000010363 phase shift Effects 0.000 description 3
- 230000001360 synchronised effect Effects 0.000 description 3
- 208000024875 Infantile dystonia-parkinsonism Diseases 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 208000001543 infantile parkinsonism-dystonia Diseases 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 229910052709 silver Inorganic materials 0.000 description 2
- 239000004332 silver Substances 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 235000008694 Humulus lupulus Nutrition 0.000 description 1
- 210000002370 ICC Anatomy 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000001143 conditioned effect Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013016 damping Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009432 framing Methods 0.000 description 1
- 238000010988 intraclass correlation coefficient Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000007670 refining Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 238000007493 shaping process Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/008—Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R5/00—Stereophonic arrangements
- H04R5/02—Spatial or constructional arrangements of loudspeakers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S3/00—Systems employing more than two channels, e.g. quadraphonic
- H04S3/008—Systems employing more than two channels, e.g. quadraphonic in which the audio signals are in digital form, i.e. employing more than two discrete digital channels
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
- H04S2400/15—Aspects of sound capture and related signal processing for recording or reproduction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S2420/00—Techniques used stereophonic systems covered by H04S but not provided for in its groups
- H04S2420/03—Application of parametric coding in stereophonic audio systems
Abstract
잔차 스케일링 유닛은 채널간 불일치 값에 기초하여 잔차 채널에 대한 스케일링 팩터를 결정하도록 구성된다. 채널간 불일치 값은 레퍼런스 채널과 타겟 채널 간의 시간 정렬을 나타낸다. 잔차 스케일링 유닛은 스케일링된 잔차 채널을 생성하기 위해 스케일링 팩터에 의해 잔차 채널을 스케일링 (예를 들어, 감쇠) 하도록 추가로 구성된다. 잔차 채널 인코더는 스케일링된 잔차 채널을 비트스트림의 일부로서 인코딩하도록 구성된다.
Description
우선권 주장
본 출원은, "CODING OF MULTIPLE AUDIO SIGNALS" 를 발명의 명칭으로 하여 2017년 1월 19일자로 출원된 공동 소유된 미국 가특허출원 제62/448,287호, 및 "CODING OF MULTIPLE AUDIO SIGNALS" 를 발명의 명칭으로 하여 2017년 12월 8일자로 출원된 미국 정규특허출원 제15/836,604호로부터 우선권의 이익을 주장하며, 전술한 출원들의 각각의 내용들은 전부 참조로 본 명세서에 분명히 통합된다.
분야
본 개시는 일반적으로 다중 오디오 신호들의 코딩 (예를 들어, 인코딩 또는 디코딩) 에 관련된다.
기술의 진보는 더 소형이고 더 강력한 컴퓨팅 디바이스들을 발생시켰다. 예를 들어, 소형이고 경량이며 사용자들에 의해 용이하게 휴대되는 모바일 및 스마트 폰들과 같은 무선 전화기들, 태블릿들 및 랩톱 컴퓨터들을 포함하는 다양한 휴대용 개인 컴퓨팅 디바이스들이 현재 존재한다. 이들 디바이스들은 무선 네트워크들을 통해 음성 및 데이터 패킷들을 통신할 수 있다. 게다가, 많은 이러한 디바이스들은 디지털 스틸 카메라, 디지털 비디오 카메라, 디지털 레코더, 및 오디오 파일 플레이어와 같은 추가적인 기능성을 통합한다. 또한, 이러한 디바이스들은, 인터넷에 액세스하는데 사용될 수 있는 웹 브라우저 애플리케이션과 같은 소프트웨어 애플리케이션들을 포함한 실행가능 명령들을 프로세싱할 수 있다. 이로써, 이들 디바이스들은 현저한 컴퓨팅 능력들을 포함할 수 있다.
컴퓨팅 디바이스는 오디오 신호들을 수신하기 위해 다중 마이크로폰들을 포함하거나 또는 이들에 커플링될 수도 있다. 일반적으로, 사운드 소스는 다중 마이크로폰들 중 제 2 마이크로폰보다 제 1 마이크로폰에 더 가깝다. 이에 따라, 제 2 마이크로폰으로부터 수신된 제 2 오디오 신호는, 사운드 소스로부터의 마이크로폰들의 개별의 거리들로 인해, 제 1 마이크로폰으로부터 수신된 제 1 오디오 신호에 대해 지연될 수도 있다. 다른 구현들에서는, 제 1 오디오 신호가 제 2 오디오 신호에 대하여 지연될 수도 있다. 스테레오-인코딩에서, 마이크로폰들로부터의 오디오 신호들은 중간 (mid) 채널 신호 및 하나 이상의 사이드 (side) 채널 신호들을 생성하기 위해 인코딩될 수도 있다. 중간 채널 신호는 제 1 오디오 신호와 제 2 오디오 신호의 합에 대응할 수도 있다. 사이드 채널 신호는 제 1 오디오 신호와 제 2 오디오 신호 간의 차이에 대응할 수도 있다. 제 1 오디오 신호는, 제 1 오디오 신호에 대한 제 2 오디오 신호를 수신하는데 있어서의 지연 때문에 제 2 오디오 신호와 정렬되지 않을 수도 있다. 제 2 오디오 신호에 대한 제 1 오디오 신호의 오정렬 (misalignment) (예를 들어, 시간 불일치 (temporal mismatch)) 은 2 개의 오디오 신호들 간의 차이를 증가시킬 수도 있다.
제 1 채널과 제 2 채널 (예를 들어, 제 1 신호와 제 2 신호) 간의 시간 불일치가 상당히 큰 상황들에서, 이산 푸리에 변환 (DFT) 파라미터 추정 프로세스에서의 분석 및 합성 윈도우들이 바람직하지 않게 불일치되는 경향이 있다.
특정 구현에서, 디바이스는 주파수-도메인 레퍼런스 채널을 생성하기 위해 레퍼런스 채널에 대해 제 1 변환 동작을 수행하도록 구성된 제 1 변환 유닛을 포함한다. 디바이스는 또한, 주파수-도메인 타겟 채널을 생성하기 위해 타겟 채널에 대해 제 2 변환 동작을 수행하도록 구성된 제 2 변환 유닛을 포함한다. 디바이스는 주파수-도메인 레퍼런스 채널과 주파수-도메인 타겟 채널 간의 시간 오정렬을 나타내는 채널간 (inter-channel) 불일치 값을 결정하도록 구성된 스테레오 채널 조정 유닛을 더 포함한다. 스테레오 채널 조정 유닛은 또한, 조정된 주파수-도메인 타겟 채널을 생성하기 위해 채널간 불일치 값에 기초하여 주파수-도메인 타겟 채널을 조정하도록 구성된다. 디바이스는 또한, 중간 채널 및 사이드 채널을 생성하기 위해 주파수-도메인 레퍼런스 채널 및 조정된 주파수-도메인 타겟 채널에 대해 다운-믹스 동작을 수행하도록 구성된 다운-믹서를 포함한다. 디바이스는 중간 채널에 기초하여 예측된 사이드 채널을 생성하도록 구성된 잔차 생성 유닛을 더 포함한다. 예측된 사이드 채널은 사이드 채널의 예측에 대응한다. 잔차 생성 유닛은 또한, 사이드 채널 및 예측된 사이드 채널에 기초하여 잔차 채널을 생성하도록 구성된다. 디바이스는 또한, 채널간 불일치 값에 기초하여 잔차 채널에 대한 스케일링 팩터를 결정하도록 구성된 잔차 스케일링 유닛을 포함한다. 잔차 스케일링 유닛은 또한, 스케일링된 잔차 채널을 생성하기 위해 스케일링 팩터에 의해 잔차 채널을 스케일링하도록 구성된다. 디바이스는 또한, 중간 채널을 비트스트림의 일부로서 인코딩하도록 구성된 중간 채널 인코더를 포함한다. 디바이스는 스케일링된 잔차 채널을 비트스트림의 일부로서 인코딩하도록 구성된 잔차 채널 인코더를 더 포함한다.
다른 특정 구현에서, 통신의 방법은, 인코더에서, 주파수-도메인 레퍼런스 채널을 생성하기 위해 레퍼런스 채널에 대해 제 1 변환 동작을 수행하는 단계를 포함한다. 방법은 또한, 주파수-도메인 타겟 채널을 생성하기 위해 타겟 채널에 대해 제 2 변환 동작을 수행하는 단계를 포함한다. 방법은 또한, 주파수-도메인 레퍼런스 채널과 주파수-도메인 타겟 채널 간의 시간 오정렬을 나타내는 채널간 불일치 값을 결정하는 단계를 포함한다. 방법은 조정된 주파수-도메인 타겟 채널을 생성하기 위해 채널간 불일치 값에 기초하여 주파수-도메인 타겟 채널을 조정하는 단계를 더 포함한다. 방법은 또한, 중간 채널 및 사이드 채널을 생성하기 위해 주파수-도메인 레퍼런스 채널 및 조정된 주파수-도메인 타겟 채널에 대해 다운-믹스 동작을 수행하는 단계를 포함한다. 방법은 중간 채널에 기초하여 예측된 사이드 채널을 생성하는 단계를 더 포함한다. 예측된 사이드 채널은 사이드 채널의 예측에 대응한다. 방법은 또한, 사이드 채널 및 예측된 사이드 채널에 기초하여 잔차 채널을 생성하는 단계를 포함한다. 방법은 채널간 불일치 값에 기초하여 잔차 채널에 대한 스케일링 팩터를 결정하는 단계를 더 포함한다. 방법은 또한, 스케일링된 잔차 채널을 생성하기 위해 스케일링 팩터에 의해 잔차 채널을 스케일링하는 단계를 포함한다. 방법은 중간 채널 및 스케일링된 잔차 채널을 비트스트림의 일부로서 인코딩하는 단계를 더 포함한다.
다른 특정 구현에서, 비일시적 컴퓨터 판독가능 매체는, 인코더 내의 프로세서에 의해 실행될 때, 프로세서로 하여금, 주파수-도메인 레퍼런스 채널을 생성하기 위해 레퍼런스 채널에 대해 제 1 변환 동작을 수행하는 것을 포함하는 동작들을 수행하게 하는 명령들을 포함한다. 동작들은 또한, 주파수-도메인 타겟 채널을 생성하기 위해 타겟 채널에 대해 제 2 변환 동작을 수행하는 것을 포함한다. 동작들은 또한, 주파수-도메인 레퍼런스 채널과 주파수-도메인 타겟 채널 간의 시간 오정렬을 나타내는 채널간 불일치 값을 결정하는 것을 포함한다. 동작들은 또한, 조정된 주파수-도메인 타겟 채널을 생성하기 위해 채널간 불일치 값에 기초하여 주파수-도메인 타겟 채널을 조정하는 것을 포함한다. 동작들은 또한, 중간 채널 및 사이드 채널을 생성하기 위해 주파수-도메인 레퍼런스 채널 및 조정된 주파수-도메인 타겟 채널에 대해 다운-믹스 동작을 수행하는 것을 포함한다. 동작들은 또한, 중간 채널에 기초하여 예측된 사이드 채널을 생성하는 것을 포함한다. 예측된 사이드 채널은 사이드 채널의 예측에 대응한다. 동작들은 또한, 사이드 채널 및 예측된 사이드 채널에 기초하여 잔차 채널을 생성하는 것을 포함한다. 동작들은 채널간 불일치 값에 기초하여 잔차 채널에 대한 스케일링 팩터를 결정하는 것을 포함한다. 동작들은 또한, 스케일링된 잔차 채널을 생성하기 위해 스케일링 팩터에 의해 잔차 채널을 스케일링하는 것을 포함한다. 동작들은 또한, 중간 채널 및 스케일링된 잔차 채널을 비트스트림의 일부로서 인코딩하는 것을 포함한다.
다른 특정 구현에서, 장치는 주파수-도메인 레퍼런스 채널을 생성하기 위해 레퍼런스 채널에 대해 제 1 변환 동작을 수행하기 위한 수단을 포함한다. 장치는 또한, 주파수-도메인 타겟 채널을 생성하기 위해 타겟 채널에 대해 제 2 변환 동작을 수행하기 위한 수단을 포함한다. 장치는 또한, 주파수-도메인 레퍼런스 채널과 주파수-도메인 타겟 채널 간의 시간 오정렬을 나타내는 채널간 불일치 값을 결정하기 위한 수단을 포함한다. 장치는 또한, 조정된 주파수-도메인 타겟 채널을 생성하기 위해 채널간 불일치 값에 기초하여 주파수-도메인 타겟 채널을 조정하기 위한 수단을 포함한다. 장치는 또한, 중간 채널 및 사이드 채널을 생성하기 위해 주파수-도메인 레퍼런스 채널 및 조정된 주파수-도메인 타겟 채널에 대해 다운-믹스 동작을 수행하기 위한 수단을 포함한다. 장치는 또한, 중간 채널에 기초하여 예측된 사이드 채널을 생성하기 위한 수단을 포함한다. 예측된 사이드 채널은 사이드 채널의 예측에 대응한다. 장치는 또한, 사이드 채널 및 예측된 사이드 채널에 기초하여 잔차 채널을 생성하기 위한 수단을 포함한다. 장치는 또한, 채널간 불일치 값에 기초하여 잔차 채널에 대한 스케일링 팩터를 결정하기 위한 수단을 포함한다. 장치는 또한, 스케일링된 잔차 채널을 생성하기 위해 스케일링 팩터에 의해 잔차 채널을 스케일링하기 위한 수단을 포함한다. 장치는 또한, 중간 채널 및 스케일링된 잔차 채널을 비트스트림의 일부로서 인코딩하기 위한 수단을 포함한다.
본 개시의 다른 구현들, 이점들, 및 피처들은 다음의 섹션들: 도면의 간단한 설명, 상세한 설명, 및 청구항들을 포함한 전체 출원의 검토 후 명백해질 것이다.
도 1 은 다중 오디오 신호들을 인코딩하도록 동작가능한 인코더를 포함하는 시스템의 특정 예시적인 예의 블록 다이어그램이다.
도 2 는 도 1 의 인코더의 예를 예시하는 다이어그램이다.
도 3 은 도 1 의 인코더의 다른 예를 예시하는 다이어그램이다.
도 4 는 디코더의 예를 예시하는 다이어그램이다.
도 5 는 오디오 신호들을 디코딩하는 방법을 예시하는 플로우 차트를 포함한다.
도 6 은 다중 오디오 신호들을 인코딩하도록 동작가능한 디바이스의 특정 예시적인 예의 블록 다이어그램이다.
도 7 은 기지국의 특정 예시적인 예의 블록 다이어그램이다.
도 2 는 도 1 의 인코더의 예를 예시하는 다이어그램이다.
도 3 은 도 1 의 인코더의 다른 예를 예시하는 다이어그램이다.
도 4 는 디코더의 예를 예시하는 다이어그램이다.
도 5 는 오디오 신호들을 디코딩하는 방법을 예시하는 플로우 차트를 포함한다.
도 6 은 다중 오디오 신호들을 인코딩하도록 동작가능한 디바이스의 특정 예시적인 예의 블록 다이어그램이다.
도 7 은 기지국의 특정 예시적인 예의 블록 다이어그램이다.
본 개시의 특정 양태들은 도면들을 참조하여 이하에 설명된다. 설명에서, 공통 피처들은 공통 참조 번호들로 지정된다. 본 명세서에서 사용된 바와 같이, 다양한 용어가 단지 특정 구현들을 설명할 목적으로 사용되고 구현들의 한정으로 의도되지 않는다. 예를 들어, 단수 형태들 "a", "an", 및 "the" 는, 문맥이 분명히 달리 표시하지 않는 한, 복수 형태들을 물론 포함하도록 의도된다. 용어들 "포함한다 (comprises)" 및 "포함하는 (comprising)" 은 "포함한다 (includes)" 또는 "포함하는 (including)" 과 상호교환가능하게 사용될 수도 있는 것으로 추가로 이해될 수도 있다. 추가적으로, 용어 "여기서 (wherein)" 는 "여기에서 (where)" 와 상호교환가능하게 사용될 수도 있는 것으로 이해될 것이다. 본 명세서에 사용된 바와 같이, 구조, 컴포넌트, 동작 등과 같은 엘리먼트를 수정하는데 사용되는 서수 용어 (예를 들어, "제 1", "제 2", "제 3" 등) 는 그것만으로 그 엘리먼트의 다른 엘리먼트에 대한 어떤 우선순위 또는 순서도 표시하지 않고, 오히려 그 엘리먼트를 (서수 용어의 사용을 제외하고는) 동일 명칭을 갖는 다른 엘리먼트와 구별할 뿐이다. 본 명세서에서 사용된 바와 같이, 용어 "세트 (set)" 는 특정 엘리먼트의 하나 이상을 지칭하고, 용어 "복수 (plurality)" 는 특정 엘리먼트의 다수 (예를 들어, 2 개 이상) 를 지칭한다.
본 개시에서, "결정하는 것", "계산하는 것", "시프트하는 것", "조정하는 것" 등과 같은 용어들은 하나 이상의 동작들이 어떻게 수행되는지를 설명하는데 사용될 수도 있다. 이러한 용어들은 한정하는 것으로서 해석되지 않아야 하고 다른 기법들이 유사한 동작들을 수행하는데 활용될 수도 있음에 유의해야 한다. 추가적으로, 본 명세서에서 언급된 바와 같이, "생성하는 것", "계산하는 것", "사용하는 것", "선택하는 것", "액세스하는 것", 및 "결정하는 것" 은 상호교환가능하게 사용될 수도 있다. 예를 들어, 파라미터 (또는 신호) 를 "생성하는 것", "계산하는 것", 또는 "결정하는 것" 은 파라미터 (또는 신호) 를 능동으로 생성하는 것, 계산하는 것, 또는 결정하는 것을 지칭할 수도 있거나 또는 다른 컴포넌트 또는 디바이스에 의해서와 같이, 이미 생성되는 파라미터 (또는 신호) 를 사용하는 것, 선택하는 것, 또는 액세스하는 것을 지칭할 수도 있다.
다중 오디오 신호들을 인코딩하도록 동작가능한 시스템들 및 디바이스들이 개시된다. 디바이스는 다중 오디오 신호들을 인코딩하도록 구성된 인코더를 포함할 수도 있다. 다중 오디오 신호들은 다중 레코딩 디바이스들, 예를 들어 다중 마이크로폰들을 사용하여 시간에 있어서 동시발생적으로 캡처될 수도 있다. 일부 예들에서, 다중 오디오 신호들 (또는 멀티-채널 오디오) 은 동시에 또는 상이한 시간들에 레코딩되는 여러 오디오 채널들을 멀티플렉싱함으로써 합성적으로 (예를 들어, 인공적으로) 생성될 수도 있다. 예시적인 예들로서, 오디오 채널들의 동시발생적 레코딩 또는 멀티플렉싱은 2-채널 구성 (즉, 스테레오: 좌측 및 우측), 5.1 채널 구성 (좌측, 우측, 중앙, 좌측 서라운드, 우측 서라운드, 및 저 주파수 엠퍼시스 (low frequency emphasis; LFE) 채널들), 7.1 채널 구성, 7.1+4 채널 구성, 22.2 채널 구성, 또는 N-채널 구성을 초래할 수도 있다.
텔레컨퍼런스 룸들 (또는 텔레프레전스 룸들) 에서의 오디오 캡처 디바이스들은, 공간 오디오를 포착하는 다중 마이크로폰들을 포함할 수도 있다. 공간 오디오는 인코딩 및 송신되는 백그라운드 오디오 뿐만 아니라 스피치를 포함할 수도 있다. 주어진 소스 (예를 들어, 화자) 로부터의 스피치/오디오는 마이크로폰들이 어떻게 배열되는지 뿐만 아니라 소스 (예를 들어, 화자) 가 마이크로폰들 및 룸 디멘젼들에 대하여 어디에 위치되는지에 의존하여, 상이한 시간들에 다중 마이크로폰들에 도달할 수도 있다. 예를 들어, 사운드 소스 (예를 들어, 화자) 는 디바이스와 연관된 제 2 마이크로폰보다 디바이스와 연관된 제 1 마이크로폰에 더 가까울 수도 있다. 따라서, 사운드 소스로부터 방출된 사운드는 제 2 마이크로폰보다 시간에 있어서 더 이르게 제 1 마이크로폰에 도달할 수도 있다. 디바이스는 제 1 마이크로폰을 통해 제 1 오디오 신호를 수신할 수도 있고 제 2 마이크로폰을 통해 제 2 오디오 신호를 수신할 수도 있다.
중간-사이드 (mid-side; MS) 코딩 및 파라메트릭 스테레오 (parametric stereo; PS) 코딩은, 듀얼-모노 코딩 기법들에 비해 개선된 효율을 제공할 수도 있는 스테레오 코딩 기법들이다. 듀얼-모노 코딩에서, 좌측 (L) 채널 (또는 신호) 및 우측 (R) 채널 (또는 신호) 은 채널간 상관을 이용함이 없이 독립적으로 코딩된다. MS 코딩은 좌측 채널 및 우측 채널을 코딩 전에 합-채널 (sum-channel) 및 차이-채널 (difference-channel) (예를 들어, 사이드 채널) 로 변환함으로써 상관된 L/R 채널-쌍 간의 리던던시를 감소시킨다. 합 신호 및 차이 신호는 파형 코딩되거나 또는 MS 코딩에서의 모델에 기초하여 코딩된다. 상대적으로 더 많은 비트들이 사이드 신호에서보다 합 신호에서 소비된다. PS 코딩은 L/R 신호들을 합 신호 및 사이드 파라미터들의 세트로 변환함으로써 각각의 서브-대역에서의 리던던시를 감소시킨다. 사이드 파라미터들은 채널간 세기 차이 (IID), 채널간 위상 차이 (IPD), 채널간 시간 차이 (ITD), 사이드 또는 잔차 예측 이득들 등을 표시할 수도 있다. 합 신호는 파형 코딩되고 사이드 파라미터들과 함께 송신된다. 하이브리드 시스템에서, 사이드-채널은 하위 대역들 (예를 들어, 2 킬로헤르쯔 (kHz) 미만) 에서 파형 코딩되고 상위 대역들 (예를 들어, 2 kHz 이상) 에서 PS 코딩될 수도 있으며, 여기에서, 채널간 위상 보존은 지각적으로 덜 중요하다. 일부 구현들에서, PS 코딩이 하위 대역들에서 또한 사용되어, 파형 코딩 전에 채널간 리던던시를 감소시킬 수도 있다.
MS 코딩 및 PS 코딩은 주파수-도메인 또는 서브-대역 도메인 중 어느 하나에서 행해질 수도 있다. 일부 예들에서, 좌측 채널 및 우측 채널은 상관되지 않을 수도 있다. 예를 들어, 좌측 채널 및 우측 채널은 상관되지 않은 합성 신호들을 포함할 수도 있다. 좌측 채널 및 우측 채널이 상관되지 않을 때, MS 코딩, PS 코딩, 또는 양자 모두의 코딩 효율은 듀얼-모노 코딩의 코딩 효율에 근접할 수도 있다.
레코딩 구성에 의존하여, 좌측 채널과 우측 채널 간의 시간 불일치 뿐만 아니라 에코 및 룸 잔향과 같은 다른 공간 효과들이 존재할 수도 있다. 채널들 간의 시간 불일치 및 위상 불일치가 보상되지 않으면, 합 채널 및 차이 채널은 비교가능한 에너지들을 포함하여 MS 또는 PS 기법들과 연관된 코딩-이득들을 감소시킬 수도 있다. 코딩-이득들에서의 감소는 시간 (또는 위상) 불일치의 양에 기초할 수도 있다. 합 신호 및 차이 신호의 비교가능한 에너지들은, 채널들이 시간적으로 불일치되지만 고도로 상관되는 소정의 프레임들에서 MS 코딩의 사용을 한정할 수도 있다. 스테레오 코딩에서, 중간 채널 (예를 들어, 합 채널) 및 사이드 채널 (예를 들어, 차이 채널) 은 다음의 식에 기초하여 생성될 수도 있다:
여기에서, M 은 중간 채널에 대응하고, S 는 사이드 채널에 대응하고, L 은 좌측 채널에 대응하고, R 은 우측 채널에 대응한다.
일부 경우들에서, 중간 채널 및 사이드 채널은 다음의 식에 기초하여 생성될 수도 있다:
여기에서, c 는 주파수 의존적인 복소 값 (complex value) 에 대응한다. 식 1 또는 식 2 에 기초하여 중간 채널 및 사이드 채널을 생성하는 것은 "다운믹싱 (downmixing)" 으로 지칭될 수도 있다. 식 1 또는 식 2 에 기초하여 중간 채널 및 사이드 채널로부터 좌측 채널 및 우측 채널을 생성하는 역 프로세스는 "업믹싱 (upmixing)" 으로 지칭될 수도 있다.
일부 경우들에서, 중간 채널은 다음과 같은 다른 식들에 기초할 수도 있다:
여기에서, g1 + g2 = 1.0 이고, gD 는 이득 파라미터이다. 다른 예들에서, 다운믹스는, mid(b) = c1L(b) + c2R(b) (여기에서 c1 및 c2 는 복소수들이다) 이고, side(b) = c3L(b) - c4R(b) (여기에서 c3 및 c4 는 복소수들이다) 인 대역들에서 수행될 수도 있다.
특정 프레임에 대해 MS 코딩 또는 듀얼-모노 코딩 간에 선정하는데 사용된 애드-혹 접근법은, 중간 신호 및 사이드 신호를 생성하는 것, 중간 신호 및 사이드 신호의 에너지들을 계산하는 것, 및 에너지들에 기초하여 MS 코딩을 수행할지 여부를 결정하는 것을 포함할 수도 있다. 예를 들어, MS 코딩은, 사이드 신호 및 중간 신호의 에너지들의 비가 임계치 미만이라고 결정하는 것에 응답하여 수행될 수도 있다. 예시하기 위해, 우측 채널이 적어도 제 1 시간 (예를 들어, 약 0.001 초 또는 48 kHz 에서 48 샘플들) 만큼 시프트되면, (좌측 신호와 우측 신호의 합에 대응하는) 중간 신호의 제 1 에너지는 유성화 (voicing) 된 스피치 프레임들에 대한 (좌측 신호와 우측 신호 간의 차이에 대응하는) 사이드 신호의 제 2 에너지와 비교가능할 수도 있다. 제 1 에너지가 제 2 에너지와 비교가능할 때, 더 높은 수의 비트들이 사이드 채널을 인코딩하는데 사용될 수도 있고, 그것에 의하여, 듀얼-모노 코딩에 대한 MS 코딩의 코딩 효율을 감소시킬 수도 있다. 듀얼-모노 코딩은 따라서, 제 1 에너지가 제 2 에너지와 비교가능할 때 (예를 들어, 제 1 에너지와 제 2 에너지의 비가 임계치 이상일 때) 사용될 수도 있다. 대안의 접근법에서, 특정 프레임에 대한 MS 코딩과 듀얼-모노 코딩 간의 판정은 좌측 채널 및 우측 채널의 정규화된 상호-상관 값들과 임계치의 비교에 기초하여 행해질 수도 있다.
일부 예들에서, 인코더는 제 1 오디오 신호와 제 2 오디오 신호 간의 시간 불일치의 양을 나타내는 불일치 값을 결정할 수도 있다. 본 명세서에서 사용된 바와 같이, "시간 시프트 값", "시프트 값", 및 "불일치 값" 은 상호교환가능하게 사용될 수도 있다. 예를 들어, 인코더는 제 2 오디오 신호에 대한 제 1 오디오 신호의 시프트 (예를 들어, 시간 불일치) 를 나타내는 시간 시프트 값을 결정할 수도 있다. 불일치 값은 제 1 마이크로폰에서의 제 1 오디오 신호의 수신과 제 2 마이크로폰에서의 제 2 오디오 신호의 수신 간의 시간 불일치의 양에 대응할 수도 있다. 더욱이, 인코더는, 프레임 단위 기반으로, 예를 들어, 각각 20 밀리초 (ms) 스피치/오디오 프레임에 기초하여 불일치 값을 결정할 수도 있다. 예를 들어, 불일치 값은, 제 2 오디오 신호의 제 2 프레임이 제 1 오디오 신호의 제 1 프레임에 대하여 지연되는 시간의 양에 대응할 수도 있다. 대안적으로, 불일치 값은, 제 1 오디오 신호의 제 1 프레임이 제 2 오디오 신호의 제 2 프레임에 대하여 지연되는 시간의 양에 대응할 수도 있다.
사운드 소스가 제 2 마이크로폰보다 제 1 마이크로폰에 더 가까울 때, 제 2 오디오 신호의 프레임들은 제 1 오디오 신호의 프레임들에 대해 지연될 수도 있다. 이 경우에, 제 1 오디오 신호는 "레퍼런스 오디오 신호" 또는 "레퍼런스 채널" 로 지칭될 수도 있고, 지연된 제 2 오디오 신호는 "타겟 오디오 신호" 또는 "타겟 채널" 로 지칭될 수도 있다. 대안적으로, 사운드 소스가 제 1 마이크로폰보다 제 2 마이크로폰에 더 가까울 때, 제 1 오디오 신호의 프레임들은 제 2 오디오 신호의 프레임들에 대해 지연될 수도 있다. 이 경우에, 제 2 오디오 신호는 레퍼런스 오디오 신호 또는 레퍼런스 채널로 지칭될 수도 있고, 지연된 제 1 오디오 신호는 타겟 오디오 신호 또는 타겟 채널로 지칭될 수도 있다.
사운드 소스들 (예를 들어, 화자들) 이 컨퍼런스 또는 텔레프레전스 룸 내의 어디에 위치되는지 또는 사운드 소스 (예를 들어, 화자) 포지션이 마이크로폰들에 대해 어떻게 변화하는지에 의존하여, 레퍼런스 채널 및 타겟 채널은 하나의 프레임으로부터 다른 프레임으로 변화할 수도 있고; 유사하게, 시간 불일치 값이 또한 하나의 프레임으로부터 다른 프레임으로 변화할 수도 있다. 그러나, 일부 구현들에서, 시간 불일치 값은 "레퍼런스" 채널에 대한 "타겟" 채널의 지연의 양을 표시하기 위해 항상 포지티브일 수도 있다. 더욱이, 시간 불일치 값은, 타겟 채널이 "레퍼런스" 채널과 정렬 (예를 들어, 최대로 정렬) 되도록 지연된 타겟 채널이 시간에 있어서 "후퇴 (pulled back)" 되는 "비-인과적 시프트 (non-causal shift)" 값 (본 명세서에서 "시프트 값" 으로 지칭됨) 을 결정하는데 사용될 수도 있다. 중간 채널 및 사이드 채널을 결정하기 위한 다운믹스 알고리즘이 레퍼런스 채널 및 비-인과적 시프트된 타겟 채널에 대해 수행될 수도 있다.
인코더는 타겟 오디오 채널에 적용된 복수의 시간 불일치 값들 및 레퍼런스 오디오 채널에 기초하는 시간 불일치 값을 결정할 수도 있다. 예를 들어, 레퍼런스 오디오 채널 (X) 의 제 1 프레임은 제 1 시간 (m1) 에서 수신될 수도 있다. 타겟 오디오 채널 (Y) 의 제 1 특정 프레임은 제 1 시간 불일치 값에 대응하는 제 2 시간 (n1) 에서 수신될 수도 있다 (예를 들어, mismatch1 = n1 - m1). 게다가, 레퍼런스 오디오 채널의 제 2 프레임은 제 3 시간 (m2) 에서 수신될 수도 있다. 타겟 오디오 채널의 제 2 특정 프레임은 제 2 시간 불일치 값에 대응하는 제 4 시간 (n2) 에서 수신될 수도 있다 (예를 들어, mismatch2 = n2 - m2).
디바이스는 제 1 샘플링 레이트 (예를 들어, 32 kHz 샘플링 레이트) 로 프레임 (예를 들어, 20 ms 샘플들) 을 생성하기 위해 (즉, 프레임 당 640 샘플들) 프레이밍 또는 버퍼링 알고리즘을 수행할 수도 있다. 인코더는, 제 1 오디오 신호의 제 1 프레임 및 제 2 오디오 신호의 제 2 프레임이 디바이스에 동시에 도달한다고 결정하는 것에 응답하여, 시프트 값 (예를 들어, shif1) 을 제로 샘플들과 같은 것으로서 추정할 수도 있다. (예를 들어, 제 1 오디오 신호에 대응하는) 좌측 채널 및 (예를 들어, 제 2 오디오 신호에 대응하는) 우측 채널은 시간적으로 정렬될 수도 있다. 일부 경우들에서, 좌측 채널 및 우측 채널은, 정렬된 경우라도, 다양한 이유들 (예를 들어, 마이크로폰 교정) 로 인해 에너지가 상이할 수도 있다.
일부 예들에서, 좌측 채널 및 우측 채널은 다양한 이유들로 인해 시간적으로 오정렬될 수도 있다 (예를 들어, 화자와 같은 사운드 소스가 다른 것보다 마이크로폰들 중 하나에 더 가까울 수도 있고 그리고 2 개의 마이크로폰들이 임계치 (예를 들어 1-20 센티미터) 거리보다 더 많이 이격될 수도 있다). 마이크로폰들에 대한 사운드 소스의 위치는 제 1 채널 및 제 2 채널에 있어서 상이한 지연들을 도입할 수도 있다. 추가로, 제 1 채널과 제 2 채널 사이에 이득 차이, 에너지 차이, 또는 레벨 차이가 존재할 수도 있다.
2 초과의 채널들이 존재하는 일부 예들에서, 레퍼런스 채널이 초기에 채널들의 레벨들 또는 에너지에 기초하여 선택되고, 후속하여, 채널들의 상이한 쌍들 간의 시간 불일치 값들, 예를 들어, t1(ref, ch2), t2(ref, ch3), t3(ref, ch4),… t3(ref, chN) 에 기초하여 정세 (refine) 되며, 여기에서, ch1 은 초기에 ref 채널이고 t1(.), t2(.) 등은 불일치 값들을 추정하기 위한 함수들이다. 모든 시간 불일치 값들이 포지티브이면, ch1 은 레퍼런스 채널로서 취급된다. 대안적으로, 임의의 불일치 값들이 네거티브 값이면, 레퍼런스 채널은, 네거티브 값을 발생시켰던 불일치 값과 연관되었던 채널로 재구성되고, 상기 프로세스는 레퍼런스 채널의 최상의 선택 (즉, 최대 수의 사이드 채널들을 최대로 역상관시키는 것에 기초함) 이 달성될 때까지 계속된다. 히스테리시스가 레퍼런스 채널 선택에서의 임의의 갑작스런 변동들을 극복하는데 사용될 수도 있다.
일부 예들에서, 다중 사운드 소스들 (예를 들어, 화자들) 로부터 마이크로폰들에서의 오디오 신호들의 도달 시간은, 다중 화자들이 (예를 들어, 중첩 없이) 서로 번갈아 말하고 있을 때 가변할 수도 있다. 이러한 경우에, 인코더는 레퍼런스 채널을 식별하기 위해 화자에 기초하여 시간 불일치 값을 동적으로 조정할 수도 있다. 일부 다른 예들에서, 다중 화자들은 동시에 말하고 있을 수도 있으며, 이는 가장 시끄러운 화자가 누구인지, 누가 마이크로폰에 가장 가까운지 등에 의존하여 다양한 시간 불일치 값들을 발생시킬 수도 있다. 이러한 경우에, 레퍼런스 및 타겟 채널들의 식별은 현재 프레임에서의 다양한 시간 시프트 값들 및 이전 프레임들에서의 추정된 시간 불일치 값들에 기초하고, 그리고 제 1 및 제 2 오디오 신호들의 에너지 또는 시간 에볼루션에 기초할 수도 있다.
일부 예들에서, 제 1 오디오 신호 및 제 2 오디오 신호는, 2 개의 신호들이 잠재적으로 적은 상관 (예를 들어, 무상관) 을 나타낼 때 합성되거나 또는 인공적으로 생성될 수도 있다. 본 명세서에서 설명된 예들은 예시적이며 유사한 또는 상이한 상황들에서 제 1 오디오 신호와 제 2 오디오 신호 간의 관계를 결정하는데 있어서 유익할 수도 있는 것으로 이해되어야 한다.
인코더는 제 1 오디오 신호의 제 1 프레임과 제 2 오디오 신호의 복수의 프레임들의 비교에 기초하여 비교 값들 (예를 들어, 차이 값들 또는 상호-상관 값들) 을 생성할 수도 있다. 복수의 프레임들의 각각의 프레임은 특정 시간 불일치 값에 대응할 수도 있다. 인코더는 비교 값들에 기초하여 제 1 추정된 시프트 값을 생성할 수도 있다. 예를 들어, 제 1 추정된 시프트 값은 제 1 오디오 신호의 제 1 프레임과 제 2 오디오 신호의 대응하는 제 1 프레임 간의 더 높은 시간-유사성 (또는 더 낮은 차이) 을 표시하는 비교 값에 대응할 수도 있다.
인코더는, 다중 스테이지들에서, 일련의 추정된 시프트 값들을 정세함으로써 최종 시프트 값을 결정할 수도 있다. 예를 들어, 인코더는 처음에, 제 1 오디오 신호 및 제 2 오디오 신호의 스테레오 프리-프로세싱된 및 리-샘플링된 버전들로부터 생성된 비교 값들에 기초하여 "잠정적인 (tentative)" 시프트 값을 추정할 수도 있다. 인코더는 추정된 "잠정적인" 시프트 값에 근사한 시프트 값들과 연관된 보간된 비교 값들을 생성할 수도 있다. 인코더는 보간된 비교 값들에 기초하여 제 2 추정된 "보간된" 시프트 값을 결정할 수도 있다. 예를 들어, 제 2 추정된 "보간된" 시프트 값은, 제 1 추정된 "잠정적인" 시프트 값 및 나머지 보간된 비교 값들보다 더 높은 시간-유사성 (또는 더 낮은 차이) 을 표시하는 특정 보간된 비교 값에 대응할 수도 있다. 현재 프레임 (예를 들어, 제 1 오디오 신호의 제 1 프레임) 의 제 2 추정된 "보간된" 시프트 값이 이전 프레임 (예를 들어, 제 1 프레임에 선행하는 제 1 오디오 신호의 프레임) 의 최종 시프트 값과 상이하면, 현재 프레임의 "보간된" 시프트 값은 제 1 오디오 신호와 시프트된 제 2 오디오 신호 간의 시간-유사성을 개선하기 위해 추가로 "보정된" 다. 특히, 제 3 추정된 "보정된" 시프트 값은, 현재 프레임의 제 2 추정된 "보간된" 시프트 값 및 이전 프레임의 최종 추정된 시프트 값을 탐색함으로써 시간-유사성의 더 정확한 측정치에 대응할 수도 있다. 제 3 추정된 "보정된" 시프트 값은 프레임들 간의 시프트 값에서의 임의의 스퓨리어스 변화 (spurious change) 들을 한정함으로써 최종 시프트 값을 추정하도록 추가로 컨디셔닝되고 그리고 본 명세서에서 설명된 바와 같은 2 개의 연속적인 (또는 연이은) 프레임들에 있어서 네거티브 시프트 값으로부터 포지티브 시프트 값으로 (또는 그 역도 성립) 스위칭하지 않도록 추가로 제어된다.
일부 예들에서, 인코더는 연이은 프레임들에 있어서 또는 인접한 프레임들에 있어서 포지티브 시프트 값과 네거티브 시프트 값 간에 또는 그 역으로 스위칭하는 것을 억제할 수도 있다. 예를 들어, 인코더는, 제 1 프레임의 추정된 "보간된" 또는 "보정된" 시프트 값 및 제 1 프레임에 선행하는 특정 프레임에서의 대응하는 추정된 "보간된" 또는 "보정된" 또는 최종 시프트 값에 기초하여 시간-시프트 없음을 표시하는 특정 값 (예를 들어, 0) 으로 최종 시프트 값을 설정할 수도 있다. 예시하기 위하여, 인코더는, 현재 프레임의 추정된 "잠정적인" 또는 "보간된" 또는 "보정된" 시프트 값 중 하나가 포지티브이고 그리고 이전 프레임 (예를 들어, 제 1 프레임에 선행하는 프레임) 의 추정된 "잠정적인" 또는 "보간된" 또는 "보정된" 또는 "최종" 추정된 시프트 값 중 다른 하나가 네거티브라고 결정하는 것에 응답하여, 시간-시프트 없음, 즉, shift1 = 0 을 표시하도록 현재 프레임 (예를 들어, 제 1 프레임) 의 최종 시프트 값을 설정할 수도 있다. 대안적으로, 인코더는 또한, 현재 프레임의 추정된 "잠정적인" 또는 "보간된" 또는 "보정된" 시프트 값 중 하나가 네거티브이고 그리고 이전 프레임 (예를 들어, 제 1 프레임에 선행하는 프레임) 의 추정된 "잠정적인" 또는 "보간된" 또는 "보정된" 또는 "최종" 추정된 시프트 값 중 다른 하나가 포지티브라고 결정하는 것에 응답하여, 시간-시프트 없음, 즉, shift1 = 0 을 표시하도록 현재 프레임 (예를 들어, 제 1 프레임) 의 최종 시프트 값을 설정할 수도 있다.
인코더는 제 1 오디오 신호 또는 제 2 오디오 신호의 프레임을, 시프트 값에 기초하여 "레퍼런스" 또는 "타겟" 으로서 선택할 수도 있다. 예를 들어, 최종 시프트 값이 포지티브라고 결정하는 것에 응답하여, 인코더는 제 1 오디오 신호가 "레퍼런스" 신호라는 것 및 제 2 오디오 신호가 "타겟" 신호라는 것을 표시하는 제 1 값 (예를 들어, 0) 을 갖는 레퍼런스 채널 또는 신호 표시자를 생성할 수도 있다. 대안적으로, 최종 시프트 값이 네거티브라고 결정하는 것에 응답하여, 인코더는 제 2 오디오 신호가 "레퍼런스" 신호라는 것 및 제 1 오디오 신호가 "타겟" 신호라는 것을 표시하는 제 2 값 (예를 들어, 1) 을 갖는 레퍼런스 채널 또는 신호 표시자를 생성할 수도 있다.
인코더는 비-인과적 시프트된 타겟 신호 및 레퍼런스 신호와 연관된 상대 이득 (예를 들어, 상대 이득 파라미터) 을 추정할 수도 있다. 예를 들어, 최종 시프트 값이 포지티브라고 결정하는 것에 응답하여, 인코더는 비-인과적 시프트 값 (예를 들어, 최종 시프트 값의 절대 값) 에 의해 오프셋되는 제 2 오디오 신호에 대한 제 1 오디오 신호의 에너지 또는 전력 레벨들을 정규화 또는 등화하도록 이득 값을 추정할 수도 있다. 대안적으로, 최종 시프트 값이 네거티브라고 결정하는 것에 응답하여, 인코더는 제 2 오디오 신호에 대한 비-인과적 시프트된 제 1 오디오 신호의 전력 또는 진폭 레벨들을 정규화 또는 등화하도록 이득 값을 추정할 수도 있다. 일부 예들에서, 인코더는 비-인과적 시프트된 "타겟" 신호에 대한 "레퍼런스" 신호의 진폭 또는 전력 레벨들을 정규화 또는 등화하도록 이득 값을 추정할 수도 있다. 다른 예들에서, 인코더는 타겟 신호 (예를 들어, 비시프트된 타겟 신호) 에 대한 레퍼런스 신호에 기초하여 이득 값 (예를 들어, 상대 이득 값) 을 추정할 수도 있다.
인코더는 레퍼런스 신호, 타겟 신호, 비-인과적 시프트 값, 및 상대 이득 파라미터에 기초하여 적어도 하나의 인코딩된 신호 (예를 들어, 중간 채널 신호, 사이드 채널 신호, 또는 양자 모두) 를 생성할 수도 있다. 다른 구현들에서, 인코더는 레퍼런스 채널 및 시간-불일치 조정된 타겟 채널에 기초하여 적어도 하나의 인코딩된 신호 (예를 들어, 중간 채널, 사이드 채널, 또는 양자 모두) 를 생성할 수도 있다. 사이드 신호는 제 1 오디오 신호의 제 1 프레임의 제 1 샘플들과 제 2 오디오 신호의 선택된 프레임의 선택된 샘플들 간의 차이에 대응할 수도 있다. 인코더는 최종 시프트 값에 기초하여 선택된 프레임을 선택할 수도 있다. 제 1 프레임과 동시에 디바이스에 의해 수신되는 제 2 오디오 신호의 프레임에 대응하는 제 2 오디오 신호의 다른 샘플들과 비교하여 제 1 샘플들과 선택된 샘플들 간의 감소된 차이 때문에 더 적은 비트들이 사이드 채널 신호를 인코딩하는데 사용될 수도 있다. 디바이스의 송신기는 적어도 하나의 인코딩된 신호, 비-인과적 시프트 값, 상대 이득 파라미터, 레퍼런스 채널 또는 신호 표시자, 또는 이들의 조합을 송신할 수도 있다.
인코더는 레퍼런스 신호, 타겟 신호, 비-인과적 시프트 값, 상대 이득 파라미터, 제 1 오디오 신호의 특정 프레임의 저 대역 파라미터들, 특정 프레임의 고 대역 파라미터들, 또는 이들의 조합에 기초하여 적어도 하나의 인코딩된 신호 (예를 들어, 중간 신호, 사이드 신호, 또는 양자 모두) 를 생성할 수도 있다. 특정 프레임은 제 1 프레임에 선행할 수도 있다. 하나 이상의 선행하는 프레임들로부터의 소정의 저 대역 파라미터들, 고 대역 파라미터들, 또는 이들의 조합은 제 1 프레임의 중간 신호, 사이드 신호, 또는 양자 모두를 인코딩하는데 사용될 수도 있다. 저 대역 파라미터들, 고 대역 파라미터들, 또는 이들의 조합에 기초하여 중간 신호, 사이드 신호, 또는 양자 모두를 인코딩하는 것은 비-인과적 시프트 값 및 채널간 상대 이득 파라미터의 추정치들을 포함할 수도 있다. 저 대역 파라미터들, 고 대역 파라미터들, 또는 이들의 조합은 피치 (pitch) 파라미터, 유성화 파라미터, 코더 타입 파라미터, 저-대역 에너지 파라미터, 고-대역 에너지 파라미터, 틸트 파라미터, 피치 이득 파라미터, FCB 이득 파라미터, 코딩 모드 파라미터, 음성 활성도 파라미터, 잡음 추정 파라미터, 신호-대-잡음 비 파라미터, 포먼트 셰이핑 파라미터, 스피치/뮤직 판정 파라미터, 비-인과적 시프트, 채널간 이득 파라미터, 또는 이들의 조합을 포함할 수도 있다. 디바이스의 송신기는 적어도 하나의 인코딩된 신호, 비-인과적 시프트 값, 상대 이득 파라미터, 레퍼런스 채널 (또는 신호) 표시자, 또는 이들의 조합을 송신할 수도 있다. 본 개시에서, "결정하는 것", "계산하는 것", "시프트하는 것", "조정하는 것" 등과 같은 용어들은 하나 이상의 동작들이 어떻게 수행되는지를 설명하는데 사용될 수도 있다. 이러한 용어들은 한정하는 것으로서 해석되지 않아야 하고 다른 기법들이 유사한 동작들을 수행하는데 활용될 수도 있음에 유의해야 한다.
본 개시에서, 잔차 채널 (예를 들어, 사이드 채널 (또는 신호) 또는 에러 채널 (또는 신호)) 신호들을 수정 또는 코딩하도록 동작가능한 시스템들 및 디바이스들이 개시된다. 예를 들어, 잔차 채널은 신호-적응 "플렉서블" 스테레오 코더에서 윈도잉 효과들에 의해 도입된 고조파간 잡음 (inter-harmonic noise) 을 감소시키기 위해 타겟 채널과 레퍼런스 채널 간의 시간 오정렬 또는 불일치 값에 기초하여 수정 또는 인코딩될 수도 있다. 신호-적응 "플렉서블" 스테레오 코더는 하나 이상의 시간-도메인 신호들 (예를 들어, 레퍼런스 채널 및 조정된 타겟 채널) 을 주파수-도메인 신호들로 변환할 수도 있다. 분석-합성에서의 윈도우 불일치는 다운믹스 프로세스에서 추정된 사이드 채널에서 확연한 고조파간 잡음 또는 스펙트럼 누설 (spectral leakage) 을 초래할 수도 있다.
일부 인코더들은 양자의 채널들을 시프트함으로써 2 개의 채널들의 시간 정렬을 개선시킨다. 예를 들어, 제 1 채널은 불일치 양의 절반만큼 인과적으로 시프트될 수도 있고, 제 2 채널은 불일치 양의 절반만큼 비-인과적으로 시프트될 수도 있어, 2 개의 채널들의 시간 정렬을 초래할 수도 있다. 그러나, 제안된 시스템들은 채널들의 시간 정렬을 개선시키기 위해 하나의 채널의 단지 비-인과적 시프팅만을 사용한다. 예를 들어, 타겟 채널 (예를 들어, 지연 채널 (lagging channel)) 은, 레퍼런스 채널 및 타겟 채널을 정렬하기 위하여 비-인과적으로 시프트될 수 있다. 단지 타겟 채널만이 채널들을 시간적으로 정렬하기 위해 시프트되기 때문에, 타겟 채널은, 인과적 및 비-인과적 시프트들 양자 모두가 채널들을 정렬하는데 사용되었던 경우보다 더 많은 양만큼 시프트된다. 하나의 채널, 즉 타겟 채널이 결정된 불일치 값에 기초하여 시프트된 유일한 채널일 때, 중간 채널 및 사이드 채널 (제 1 채널 및 제 2 채널을 다운믹싱하는 것으로부터 획득됨) 은 스펙트럼 누설 또는 고조파간 잡음의 증가를 입증할 것이다. 이 고조파간 잡음 (예를 들어, 아티팩트들) 은, 윈도우 로테이션 (예를 들어, 비-인과적 시프트의 양) 이 상당히 클 때 (예를 들어, 1-2 ms 보다 더 큼), 사이드 채널에서 더 지배적이다.
타겟 채널 시프트는 시간 도메인에서 또는 주파수 도메인에서 수행될 수 있다. 타겟 채널이 시간 도메인에서 시프트되면, 시프트된 타겟 채널 및 레퍼런스 채널을 주파수 도메인으로 변환하기 위해, 분석 윈도우를 사용하여, 시프트된 타겟 채널 및 레퍼런스 채널에는 DFT 분석이 실시된다. 대안적으로, 타겟 채널이 주파수 도메인에서 시프트되면, 타겟 채널 및 레퍼런스 채널을 주파수 도메인으로 변환하기 위해, 분석 윈도우를 사용하여, 타겟 채널 (시프팅 전) 및 레퍼런스 채널에는 DFT 분석이 실시될 수도 있고, 타겟 채널은 DFT 분석 후에 (위상 로테이션 동작들을 사용하여) 시프트된다. 어느 경우나, 시프팅 및 DFT 분석 후에, 시프트된 타겟 채널 및 레퍼런스 채널의 주파수 도메인 버전들은 중간 채널 및 사이드 채널을 생성하기 위해 다운믹싱된다. 일부 구현들에서, 에러 채널이 생성될 수도 있다. 에러 채널은 사이드 채널과 중간 채널에 기초하여 결정되는 추정된 사이드 채널 간의 차이들을 표시한다. 용어 "잔차 채널" 은 본 명세서에서 사이드 채널 또는 에러 채널을 지칭하는데 사용된다. 후속하여, 송신될 신호들 (예를 들어, 중간 채널 및 잔차 채널) 을 다시 시간 도메인으로 변환하기 위해, 합성 윈도우를 사용하여 DFT 분석이 수행된다.
아티팩트들을 도입하는 것을 회피하기 위해, 합성 윈도우는 분석 윈도우와 일치해야 한다. 그러나, 타겟 및 레퍼런스 채널의 시간 오정렬이 클 때, 타겟 채널의 비-인과적 시프팅만을 사용하여 타겟 및 레퍼런스 채널을 정렬하는 것은 잔차 채널의 일부인 타겟 채널에 대응하는 분석 윈도우와 합성 윈도우 사이에 큰 불일치를 야기할 수 있다. 이 윈도우 불일치에 의해 도입된 아티팩트들은 잔차 채널에서 일반적이다.
잔차 채널은 이들 아티팩트들을 감소시키도록 수정될 수 있다. 하나의 예에서, 잔차 채널은 송신을 위한 비트 스트림을 생성하기 전에 (예를 들어, 사이드 채널에 이득을 적용하는 것에 의해 또는 에러 채널에 이득을 적용하는 것에 의해) 감쇠될 수 있다. 잔차 채널은 완전히 감쇠, 또는 제로화되거나, 또는 단지 부분적으로만 감쇠될 수 있다. 다른 예로서, 비트 스트림에서 잔차 채널을 인코딩하는데 사용되는 비트들의 수가 수정될 수 있다. 예를 들어, 타겟 채널과 레퍼런스 채널 간의 시간 오정렬이 작을 때 (예를 들어, 임계치 이하 (below)), 비트들의 제 1 수가 잔차 채널 정보의 송신을 위해 할당될 수도 있다. 그러나, 타겟 채널과 레퍼런스 채널 간이 시간 오정렬이 클 때 (예를 들어, 임계치를 초과), 비트들의 제 2 수가 잔차 채널 정보의 송신을 위해 할당될 수도 있고, 여기에서 제 2 수는 제 1 수보다 더 작다.
도 1 을 참조하면, 시스템의 특정 예시적인 예가 개시되고 일반적으로 100 으로 지정된다. 시스템 (100) 은 네트워크 (120) 를 통해 제 2 디바이스 (106) 에 통신가능하게 커플링된 제 1 디바이스 (104) 를 포함한다. 네트워크 (120) 는 하나 이상의 무선 네트워크들, 하나 이상의 유선 네트워크들, 또는 이들의 조합을 포함할 수도 있다.
제 1 디바이스는 (104) 는 인코더 (114), 송신기 (110), 및 하나 이상의 입력 인터페이스들 (112) 을 포함할 수도 있다. 입력 인터페이스들 (112) 중의 적어도 하나의 입력 인터페이스는 제 1 마이크로폰 (146) 에 커플링될 수도 있고, 입력 인터페이스 (112) 중의 적어도 하나의 다른 입력 인터페이스는 제 2 마이크로폰 (148) 에 커플링될 수도 있다. 인코더 (114) 는 변환 유닛 (202), 변환 유닛 (204), 스테레오 채널 조정 유닛 (206), 다운-믹서 (208), 잔차 생성 유닛 (210), 잔차 스케일링 유닛 (212) (예를 들어, 잔차 채널 수정기 (residual channel modifier)), 중간 채널 인코더 (214), 잔차 채널 인코더 (216), 및 신호-적응 "플렉서블" 스테레오 코더 (109) 를 포함할 수도 있다. 신호-적응 "플렉서블" 스테레오 코더 (109) 는 시간-도메인 (TD) 코더, 주파수-도메인 (FD) 코더, 또는 MDCT (modified discrete cosine transform) 도메인 코더를 포함할 수도 있다. 본 명세서에서 설명된 잔차 신호 또는 에러 신호 수정들이 각각의 스테레오 다운믹스 모드 (예를 들어, TD 다운믹스 모드, FD 다운믹스 모드, 또는 MDCT 다운믹스 모드) 에 적용가능할 수도 있다. 제 1 디바이스 (104) 는 또한, 분석 데이터를 저장하도록 구성된 메모리 (153) 를 포함할 수도 있다.
제 2 디바이스 (106) 는 디코더 (118) 를 포함할 수도 있다. 디코더 (118) 는 시간 밸런서 (124) 및 주파수-도메인 스테레오 디코더 (125) 를 포함할 수도 있다. 제 2 디바이스 (106) 는 제 1 라우드스피커 (142), 제 2 라우드스피커 (144), 또는 양자 모두에 커플링될 수도 있다.
동작 동안, 제 1 디바이스 (104) 는 제 1 마이크로폰 (146) 으로부터 제 1 입력 인터페이스를 통해 레퍼런스 채널 (220) (예를 들어, 제 1 오디오 신호) 을 수신할 수도 있고, 제 2 마이크로폰 (148) 으로부터 제 2 입력 인터페이스를 통해 타겟 채널 (222) (예를 들어, 제 2 오디오 신호) 을 수신할 수도 있다. 레퍼런스 채널 (220) 은 시간에 있어서 선행하는 채널 (예를 들어, 선행 채널 (leading channel)) 에 대응할 수도 있고, 타겟 채널 (222) 은 시간에 있어서 지연되는 채널 (예를 들어, 지연 채널) 에 대응할 수도 있다. 예를 들어, 사운드 소스 (152) (예를 들어, 사용자, 스피커, 주변 잡음, 악기 등) 는 제 2 마이크로폰 (148) 보다 제 1 마이크로폰 (146) 에 더 가까울 수도 있다. 이에 따라, 사운드 소스 (152) 로부터의 오디오 신호는 제 2 마이크로폰 (148) 을 통한 것보다 더 이른 시간에 제 1 마이크로폰 (146) 을 통해 입력 인터페이스들 (112) 에서 수신될 수도 있다. 다중 마이크로폰들을 통한 멀티-채널 신호 포착에서의 이러한 자연적 지연은 제 1 오디오 채널 (130) 과 제 2 오디오 채널 (132) 간의 시간 오정렬을 도입할 수도 있다. 레퍼런스 채널 (220) 은 우측 채널 또는 좌측 채널일 수도 있고, 타겟 채널 (222) 은 우측 채널 또는 좌측 채널 중 다른 하나일 수도 있다.
도 2 에 대하여 더 상세히 설명된 바와 같이, 타겟 채널 (222) 은 레퍼런스 채널 (220) 과 실질적으로 정렬하도록 조정될 수도 있다 (예를 들어, 시간적으로 시프트됨). 하나의 구현에 따르면, 레퍼런스 채널 (220) 및 타겟 채널 (222) 은 프레임 단위 기반으로 가변할 수도 있다.
도 2 를 참조하면, 인코더 (114A) 의 예가 도시된다. 인코더 (114A) 는 도 1 의 인코더 (114) 에 대응할 수도 있다. 인코더 (114a) 는 변환 유닛 (202), 변환 유닛 (204), 스테레오 채널 조정 유닛 (206), 다운-믹서 (208), 잔차 생성 유닛 (210), 잔차 스케일링 유닛 (212), 중간 채널 인코더 (214), 및 잔차 채널 인코더 (216) 를 포함한다.
제 1 마이크로폰 (146) 에 의해 캡처된 레퍼런스 채널 (220) 은 변환 유닛 (202) 에 제공된다. 변환 유닛 (202) 은 주파수-도메인 레퍼런스 채널 (224) 을 생성하기 위해 레퍼런스 채널 (220) 에 대해 제 1 변환 동작을 수행하도록 구성된다. 예를 들어, 제 1 변환 동작은 하나 이상의 이산 푸리에 변환 (DFT) 동작들, 고속 푸리에 변환 (FFT) 동작들, MDCT (modified discrete cosine transform) 동작들 등을 포함할 수도 있다. 일부 구현들에 따르면, 직교 미러 필터뱅크 (Quadrature Mirror Filterbank; QMF) 동작들 (복소 저 지연 필터 뱅크와 같은 필터뱅크들을 사용함) 은 레퍼런스 채널 (220) 을 다중 서브-대역들로 스플리팅하는데 사용될 수도 있다. 주파수-도메인 레퍼런스 채널 (224) 은 스테레오 채널 조정 유닛 (206) 에 제공된다.
제 2 마이크로폰 (148) 에 의해 캡처된 타겟 채널 (222) 은 변환 유닛 (204) 에 제공된다. 변환 유닛 (204) 은 주파수-도메인 타겟 채널 (226) 을 생성하기 위해 타겟 채널 (222) 에 대해 제 2 변환 동작을 수행하도록 구성된다. 예를 들어, 제 2 변환 동작은 DFT 동작들, FFT 동작들, MDCT 동작들 등을 포함할 수도 있다. 일부 구현들에 따르면, QMF 동작들은 타겟 채널 (222) 을 다중 서브-대역들로 스플리팅하는데 사용될 수도 있다. 주파수-도메인 타겟 채널 (226) 은 또한, 스테레오 채널 조정 유닛 (206) 에 제공된다.
일부 대안의 구현들에서, 변환 동작들을 수행하기 전에 마이크로폰들에 의해 캡처된 레퍼런스 및 타겟 채널들에 대해 수행되는 추가적인 프로세싱 단계들이 존재할 수도 있다. 예를 들어, 하나의 구현에서, 채널들은 이전 프레임에서 추정된 불일치 값에 기초하여 서로 정렬되도록 시간 도메인에서 (예를 들어, 인과적으로, 비-인과적으로, 또는 양자 모두로) 시프트될 수도 있다. 그 후, 변환 동작이 시프트된 채널들에 대해 수행된다.
스테레오 채널 조정 유닛 (206) 은 주파수-도메인 레퍼런스 채널 (224) 과 주파수-도메인 타겟 채널 (226) 간의 시간 오정렬을 나타내는 채널간 불일치 값 (228) 을 결정하도록 구성된다. 따라서, 채널간 불일치 값 (228) 은 (주파수 도메인에서) 타겟 채널 (222) 이 레퍼런스 채널 (220) 보다 얼마나 많이 뒤떨어져 있는지를 표시하는 채널간 시간 차이 (ITD) 파라미터일 수도 있다. 스테레오 채널 조정 유닛 (206) 은 조정된 주파수-도메인 타겟 채널 (230) 을 생성하기 위해 채널간 불일치 값 (228) 에 기초하여 주파수-도메인 타겟 채널 (226) 을 조정하도록 추가로 구성된다. 예를 들어, 스테레오 채널 조정 유닛 (206) 은 주파수-도메인 레퍼런스 채널 (224) 과 시간적으로 동기화되는 조정된 주파수-도메인 타겟 채널 (230) 을 생성하기 위해 채널간 불일치 값 (228) 만큼 주파수-도메인 타겟 채널 (226) 을 시프트할 수도 있다. 주파수-도메인 레퍼런스 채널 (224) 은 다운-믹서 (208) 를 따라 전달되고, 조정된 주파수-도메인 타겟 채널 (230) 이 다운-믹서 (208) 에 제공된다. 채널간 불일치 값 (228) 은 잔차 스케일링 유닛 (212) 에 제공된다.
다운-믹서 (208) 는 중간 채널 (232) 및 사이드 채널 (234) 을 생성하기 위해 주파수-도메인 레퍼런스 채널 (224) 및 조정된 주파수-도메인 타겟 채널 (230) 에 대해 다운-믹스 동작을 수행하도록 구성된다. 중간 채널 (Mfr(b)) (232) 은 주파수-도메인 레퍼런스 채널 (Lfr(b)) (224) 및 조정된 주파수-도메인 타겟 채널 (Rfr(b)) (230) 의 함수일 수도 있다. 예를 들어, 중간 채널 (Mfr(b)) (232) 은 Mfr(b) = (Lfr(b) + Rfr(b))/2 로서 표현될 수도 있다. 다른 구현에 따르면, 중간 채널 (Mfr(b)) (232) 은 Mfr(b) = c1(b)*Lfr(b) + c2*Rfr(b) 로서 표현될 수도 있으며, 여기에서 c1(b) 및 c2(b) 는 복소 값들이다. 일부 구현들에서, 복소 값들 c1(b) 및 c2(b) 는 스테레오 파라미터들 (예를 들어, 채널간 위상 차이 (IPD) 파라미터들) 에 기초한다. 예를 들어, 하나의 구현에서, c1(b) = (cos(-γ) - i*sin(-γ))/20.5 및 c2(b) = (cos(IPD(b)-γ) + i*sin(IPD(b)-γ))/20.5 이며, 여기에서 i 는 -1 의 제곱근을 나타내는 허수이다. 중간 채널 (232) 은 잔차 생성 유닛 (210) 에 그리고 중간 채널 인코더 (214) 에 제공된다.
사이드 채널 (Sfr(b)) (234) 은 또한, 주파수-도메인 레퍼런스 채널 (Lfr(b)) (224) 및 조정된 주파수-도메인 타겟 채널 (Rfr(b)) (230) 의 함수일 수도 있다. 예를 들어, 사이드 채널 (Sfr(b)) (234) 은 Sfr(b) = (Lfr(b) - Rfr(b))/2 로서 표현될 수도 있다. 다른 구현에 따르면, 사이드 채널 (Sfr(b)) (234) 은 Sfr(b) = (Lfr(b) - c(b)*Rfr(b))/(1 + c(b)) 로서 표현될 수도 있으며, 여기에서 c(b) 는 채널간 레벨 차이 (ILD(b)) 또는 ILD(b) 의 함수 (예를 들어, c(b) = 10^(ILD(b)/20)) 일 수도 있다. 사이드 채널 (234) 은 잔차 생성 유닛 (210) 에 그리고 잔차 스케일링 유닛 (212) 에 제공된다. 일부 구현들에서, 사이드 채널 (234) 은 잔차 채널 인코더 (216) 에 제공된다. 일부 구현들에서, 잔차 채널은 사이드 채널과 동일하다.
잔차 생성 유닛 (210) 은 중간 채널 (232) 에 기초하여 예측된 사이드 채널 (236) 을 생성하도록 구성된다. 예측된 사이드 채널 (236) 은 사이드 채널 (234) 의 예측에 대응한다. 예를 들어, 예측된 사이드 채널 
(236) 은 
로서 표현될 수도 있으며, 여기에서 g 는 각각의 파라미터 대역에 대해 컴퓨팅된 예측 잔차 이득이고 ILD들의 함수이다. 잔차 생성 유닛 (210) 은 사이드 채널 (234) 및 예측된 사이드 채널 (236) 에 기초하여 잔차 채널 (238) 을 생성하도록 추가로 구성된다. 예를 들어, 잔차 채널 (e) (238) 은 
로서 표현되는 에러 신호일 수도 있다. 일부 구현들에 따르면, 예측된 사이드 채널 (236) 은 소정의 주파수 대역들에서 제로와 같을 수도 있다 (또는 추정되지 않을 수도 있다). 따라서, 일부 시나리오들 (또는 주파수 대역들) 에서, 잔차 채널 (238) 은 사이드 채널 (234) 과 동일하다. 잔차 채널 (238) 은 잔차 스케일링 유닛 (212) 에 제공된다. 일부 구현들에 따르면, 다운-믹서 (208) 는 주파수-도메인 레퍼런스 채널 (224) 및 조정된 주파수-도메인 타겟 채널 (230) 에 기초하여 잔차 채널 (238) 을 생성한다.
주파수-도메인 레퍼런스 채널 (224) 과 주파수-도메인 타겟 채널 (226) 간의 채널간 불일치 값 (228) 이 임계치를 충족하면 (예를 들어, 상대적으로 크다), DFT 파라미터 추정을 위해 사용되는 분석 윈도우들 및 합성 윈도우들은 실질적으로 불일치될 수도 있다. 윈도우들 중 하나가 인과적으로 시프트되고 다른 윈도우가 비-인과적으로 시프트되면, 큰 시간 불일치가 더 많이 용인된다. 그러나, 주파수-도메인 타겟 채널 (226) 이 채널간 불일치 값 (228) 에 기초하여 시프트된 유일한 채널이면, 중간 채널 (232) 및 사이드 채널 (234) 은 스펙트럼 누설 또는 고조파간 잡음의 증가를 입증할 수도 있다. 고조파간 잡음은, 윈도우 로테이션이 상대적으로 클 때 (예를 들어, 2 밀리초보다 더 큼) 사이드 채널 (234) 에서 더 지배적이다. 그 결과, 잔차 스케일링 유닛 (212) 은 코딩 전에 잔차 채널 (238) 을 스케일링 (예를 들어, 감쇠) 한다.
예시하기 위해, 잔차 스케일링 유닛 (212) 은 채널간 불일치 값 (228) 에 기초하여 잔차 채널 (238) 에 대한 스케일링 팩터 (240) 를 결정하도록 구성된다. 채널간 불일치 값 (228) 이 클수록, 스케일링 팩터 (240) 가 커진다 (예를 들어, 잔차 채널 (238) 이 더 많이 감쇠된다). 하나의 구현에 따르면, 스케일링 팩터 (fac_att) (240) 는 다음의 의사코드를 사용하여 결정된다:
따라서, 스케일링 팩터 (240) 는 채널간 불일치 값 (228) (예를 들어, itd[k_offset]) 이 임계치 (예를 들어, 80) 보다 더 큰 것에 기초하여 결정될 수도 있다. 잔차 스케일링 유닛 (212) 은 스케일링된 잔차 채널 (242) 을 생성하기 위해 스케일링 팩터 (240) 에 의해 잔차 채널 (238) 을 스케일링하도록 추가로 구성된다. 따라서, 잔차 스케일링 유닛 (212) 은, 사이드 채널 (234) 이 일부 시나리오들에서 많은 양의 스펙트럼 누설을 입증하기 때문에, 채널간 불일치 값 (228) 이 실질적으로 크면 잔차 채널 (238) (예를 들어, 에러 신호) 을 감쇠시킨다. 스케일링된 잔차 채널 (242) 은 잔차 채널 인코더 (216) 에 제공된다.
일부 구현들에 따르면, 잔차 스케일링 유닛 (212) 은 채널간 불일치 값 (228) 에 기초하여 잔차 이득 파라미터를 결정하도록 구성된다. 잔차 스케일링 유닛 (212) 은 또한, 채널간 불일치 값 (228) 에 기초하여 잔차 채널 (238) 의 하나 이상의 대역들을 제로 아웃 (zero out) 하도록 구성될 수도 있다. 하나의 구현에 따르면, 잔차 스케일링 유닛 (212) 은 채널간 불일치 값 (228) 에 기초하여 잔차 채널 (238) 의 각각의 대역을 제로 아웃 (또는 실질적으로 제로 아웃) 하도록 구성된다.
중간 채널 인코더 (214) 는 인코딩된 중간 채널 (244) 을 생성하기 위해 중간 채널 (232) 을 인코딩하도록 구성된다. 인코딩된 중간 채널 (244) 은 멀티플렉서 (MUX) (218) 에 제공된다. 잔차 채널 인코더 (216) 는 인코딩된 잔차 채널 (246) 을 생성하기 위해 스케일링된 잔차 채널 (242), 잔차 채널 (238), 또는 사이드 채널 (234) 을 인코딩하도록 구성된다. 인코딩된 잔차 채널 (246) 은 멀티플렉서 (218) 에 제공된다. 멀티플렉서 (218) 는 인코딩된 중간 채널 (244) 및 인코딩된 잔차 채널 (246) 을 비트 스트림 (248A) 의 일부로서 결합할 수도 있다. 하나의 구현에 따르면, 비트스트림 (248A) 은 도 1 의 비트스트림 (248) 에 대응한다 (또는 그 비트스트림에 포함된다).
하나의 구현에 따르면, 잔차 채널 인코더 (216) 는 채널간 불일치 값 (228) 에 기초하여 비트스트림 (248A) 에서 스케일링된 잔차 채널 (242) 을 인코딩하는데 사용되는 비트들의 수를 설정하도록 구성된다. 잔차 채널 인코더 (216) 는 채널간 불일치 값 (228) 을 임계치와 비교할 수도 있다. 채널간 불일치 값이 임계치 이하이면, 비트들의 제 1 수가 스케일링된 잔차 채널 (242) 을 인코딩하는데 사용된다. 채널간 불일치 값 (228) 이 임계치를 초과하면, 비트들의 제 2 수가 스케일링된 잔차 채널 (242) 을 인코딩하는데 사용된다. 비트들의 제 2 수는 비트들의 제 1 수와는 상이하다. 예를 들어, 비트들의 제 2 수는 비트들의 제 1 수보다 더 작다.
다시 도 1 을 참조하면, 신호-적응 "플렉서블" 스테레오 코더 (109) 는 하나 이상의 시간-도메인 채널들 (예를 들어, 레퍼런스 채널 (220) 및 타겟 채널 (222)) 을 주파수-도메인 채널들 (예를 들어, 주파수-도메인 레퍼런스 채널 (224) 및 주파수-도메인 타겟 채널 (226)) 로 변환할 수도 있다. 예를 들어, 신호-적응 "플렉서블" 스테레오 코더 (109) 는 주파수-도메인 레퍼런스 채널 (224) 을 생성하기 위해 레퍼런스 채널 (222) 에 대해 제 1 변환 동작을 수행할 수도 있다. 추가적으로, 신호-적응 "플렉서블" 스테레오 코더 (109) 는 조정된 주파수-도메인 타겟 채널 (230) 을 생성하기 위해 타겟 채널 (222) 의 조정된 버전 (예를 들어, 시간 도메인에서 채널간 불일치 값 (228) 의 등가물만큼 시프트된 타겟 채널 (222)) 에 대해 제 2 변환 동작을 수행할 수도 있다.
신호-적응 "플렉서블" 스테레오 코더 (109) 는 수정된 조정된 주파수-도메인 타겟 채널 (미도시) 을 생성하기 위해 제 1 시간-시프트 동작에 기초하여 변환 도메인에서 조정된 주파수-도메인 타겟 채널 (230) 에 대해 제 2 시간-시프트 (예를 들어, 비-인과적) 동작을 수행할지 여부를 결정하도록 추가로 구성된다. 수정된 조정된 주파수-도메인 타겟 채널은 시간 불일치 값 및 제 2 시간-시프트 값만큼 시프트된 제 2 채널 (222) 에 대응할 수도 있다. 예를 들어, 인코더 (114) 는 타겟 채널 (222) 의 조정된 버전을 생성하기 위해 시간 불일치 값만큼 타겟 채널 (222) 을 시프트할 수도 있고, 신호-적응 "플렉서블" 스테레오 코더 (109) 는 조정된 주파수-도메인 타겟 채널을 생성하기 위해 타겟 채널 (122) 의 조정된 버전에 대해 제 2 변환 동작을 수행할 수도 있고, 그리고 신호-적응 "플렉서블" 스테레오 코더 (109) 는 변환 도메인에서 조정된 주파수-도메인 타겟 채널을 시간적으로 시프트할 수도 있다.
주파수-도메인 채널들 (224, 226) 은 스테레오 파라미터들 (162) (예를 들어, 주파수-도메인 채널들 (224, 226) 과 연관된 공간 속성들의 렌더링을 가능하게 하는 파라미터들) 을 추정하는데 사용될 수도 있다. 스테레오 파라미터들 (162) 의 예들은 채널간 세기 차이 (IID) 파라미터들 (예를 들어, 채널간 레벨 차이들 (ILD들)), 채널간 시간 차이 (ITD) 파라미터들, IPD 파라미터들, 채널간 상관 (ICC) 파라미터들, 비-인과적 시프트 파라미터들, 스펙트럼 틸트 파라미터들, 채널간 유성화 파라미터들, 채널간 피치 파라미터들, 채널간 이득 파라미터들 등과 같은 파라미터들을 포함할 수도 있다. 스테레오 파라미터들 (162) 은 또한, 비트스트림 (248) 의 일부로서 송신될 수도 있다.
도 2 에 대하여 설명된 바와 유사한 방식으로, 신호-적응 "플렉서블" 코더 (109) 는 중간-대역 채널 (Mfr(b)) 에서의 정보 및 그 대역 (b) 에 대응하는 스테레오 파라미터들 (162) (예를 들어, ILD들) 을 사용하여 중간 채널 (Mfr(b)) 로부터 사이드 채널 (SPRED(b)) 을 예측할 수도 있다. 예를 들어, 예측된 사이드-대역 (SPRED(b)) 은 Mfr(b)*(ILD(b)-1)/(ILD(b)+1) 로서 표현될 수도 있다. 에러 신호 (e) 는 사이드-대역 채널 (Sfr) 및 예측된 사이드-대역 (SPRED) 의 함수로서 계산될 수도 있다. 예를 들어, 에러 신호 (e) 는 Sfr-SPRED 로서 표현될 수도 있다. 에러 신호 (e) 는 코딩된 에러 신호 (eCODED) 를 생성하기 위해 시간-도메인 또는 변환-도메인 코딩 기법들을 사용하여 코딩될 수도 있다. 소정의 대역들에 대해, 에러 신호 (e) 는 이전 프레임으로부터의 이들 대역들에서의 중간-대역 채널의 스케일링된 버전 (M_PASTfr) 으로서 표현될 수도 있다. 예를 들어, 코딩된 에러 신호 (eCODED) 는 gPRED*M_PASTfr 로서 표현될 수도 있으며, 여기에서, 일부 구현들에서, gPRED 는 e-gPRED*M_PASTfr 의 에너지가 실질적으로 감소 (예를 들어, 최소화) 되도록 추정될 수도 있다. 사용되는 M_PAST 프레임은 분석/합성을 위해 사용되는 윈도우 형상에 기초할 수 있고, 오직 짝수 윈도우 홉들만을 사용하도록 제약될 수도 있다.
도 2 에 대하여 설명된 바와 유사한 방식으로, 잔차 스케일링 유닛 (212) 은 DFT 스테레오 인코딩에서 윈도잉 효과들에 의해 도입된 고조파간 잡음을 감소시키기 위해 주파수-도메인 타겟 채널 (226) 과 주파수-도메인 레퍼런스 채널 (224) 간의 채널간 불일치 값 (228) 에 기초하여 잔차 채널 (예를 들어, 사이드 채널 또는 에러 채널) 을 조정, 수정 또는 인코딩하도록 구성될 수도 있다. 예시하기 위해, 하나의 예에서, 잔차 스케일링 유닛 (212) 은 송신을 위한 비트 스트림을 생성하기 전에 (예를 들어, 사이드 채널에 이득을 적용하는 것 또는 에러 채널에 이득을 적용하는 것에 의해) 잔차 채널을 감쇠시킨다. 잔차 채널은 완전히 감쇠, 예를 들어, 제로화되거나, 또는 단지 부분적으로만 감쇠될 수 있다.
다른 예로서, 비트 스트림에서 잔차 채널을 인코딩하는데 사용되는 비트들의 수가 수정될 수 있다. 예를 들어, 타겟 채널과 레퍼런스 채널 간의 시간 오정렬이 작을 때 (예를 들어, 임계치 이하), 비트들의 제 1 수가 잔차 채널 정보의 송신을 위해 할당될 수도 있다. 그러나, 타겟 채널과 레퍼런스 채널 간의 시간 오정렬이 클 때 (예를 들어, 임계치를 초과), 비트들의 제 2 수가 잔차 채널 정보의 송신을 위해 할당될 수도 있다. 제 2 수는 제 1 수보다 더 작다.
디코더 (118) 는 스테레오 파라미터들 (162), 인코딩된 잔차 채널 (246), 및 인코딩된 중간 채널 (244) 에 기초하여 디코딩 동작들을 수행할 수도 있다. 예를 들어, 스테레오 파라미터들 (162) 에 포함된 IPD 정보는 디코더 (118) 가 IPD 파라미터들을 사용할 것인지 여부를 표시할 수도 있다. 디코더 (118) 는 비트 스트림 (248) 및 상기 결정에 기초하여 제 1 채널 및 제 2 채널을 생성할 수도 있다. 예를 들어, 주파수-도메인 스테레오 디코더 (125) 및 시간 밸런서 (124) 는 (예를 들어, 레퍼런스 채널 (220) 에 대응하는) 제 1 출력 채널 (126), (예를 들어, 타겟 채널 (222) 에 대응하는) 제 2 출력 채널 (128), 또는 양자 모두를 생성하도록 업믹싱을 수행할 수도 있다. 제 2 디바이스 (106) 는 제 1 라우드스피커 (142) 를 통해 제 1 출력 채널 (126) 을 출력할 수도 있다. 제 2 디바이스 (106) 는 제 2 라우드스피커 (144) 를 통해 제 2 출력 채널 (128) 을 출력할 수도 있다. 대안의 예들에서, 제 1 출력 채널 (126) 및 제 2 출력 채널 (128) 은 스테레오 신호 쌍으로서 단일 출력 라우드스피커에 송신될 수도 있다.
잔차 스케일링 유닛 (212) 은 채널간 불일치 값 (228) 에 기초하여 잔차 생성 유닛 (210) 에 의해 추정된 잔류 채널 (238) 에 대해 수정들을 수행함에 유의해야 한다. 잔차 채널 인코더 (216) 는 스케일링된 잔차 채널 (242) (예를 들어, 수정된 잔차 신호) 을 인코딩하고, 인코딩된 비트스트림 (248A) 은 디코더에 송신된다. 소정의 구현들에서, 잔차 스케일링 유닛 (212) 은 디코더에 상주할 수도 있고, 잔차 스케일링 유닛 (212) 의 동작들은 인코더에서 우회될 수도 있다. 이것은, 채널간 불일치 값 (228) 이 인코딩되어 스테레오 파라미터들 (162) 의 일부로서 디코더에 송신되기 때문에 채널간 불일치 값 (228) 이 디코더에서 이용가능하므로 가능하다. 디코더에서 이용가능한 채널간 불일치 값 (228) 에 기초하여, 디코더에 상주하는 잔차 스케일링 유닛은 디코딩된 잔차 채널에 대해 수정들을 수행할 수도 있다.
도 1 및 도 2 에 대하여 설명된 기법들은 DFT 스테레오 인코딩에서 윈도잉 효과들에 의해 도입된 고조파간 잡음을 감소시키기 위해 타겟 채널 (222) 과 레퍼런스 채널 (220) 간의 시간 오정렬 또는 불일치 값에 기초하여 잔차 채널 (예를 들어, 사이드 채널 또는 에러 채널) 을 조정, 수정, 또는 인코딩할 수도 있다. 예를 들어, DFT 스테레오 인코딩에서 윈도잉 효과들에 의해 야기될 수도 있는 아티팩트들의 도입을 감소시키기 위해, 잔차 채널은 감쇠될 수도 있고 (예를 들어, 이득이 적용된다), 잔차 채널의 하나 이상의 대역들이 제로화될 수도 있고, 잔차 채널을 인코딩하는데 사용되는 비트들의 수가 조정될 수도 있으며, 또는 이들의 조합이 행해질 수도 있다.
감쇠의 예로서, 불일치 값의 함수로서의 감쇠 팩터는 다음의 식을 사용하여 표현될 수도 있다:
게다가, 상기 식에 따라 계산된 감쇠 팩터 (예를 들어, attenuation_factor) 는 소정 범위 내에 있도록 클리핑 (또는 포화) 될 수 있다. 예로서, 감쇠 팩터는 0.2 와 1.0 의 한계들 내에 있도록 클리핑될 수 있다.
도 3 을 참조하면, 인코더 (114B) 의 다른 예가 도시된다. 인코더 (114B) 는 도 1 의 인코더 (114) 에 대응할 수도 있다. 예를 들어, 도 3 에서 설명된 컴포넌트들은 신호-적응 "플렉서블" 스테레오 코더 (109) 에 통합될 수도 있다. 또한, 도 3 에 예시된 다양한 컴포넌트들 (예를 들어, 변환들, 신호 생성기들, 인코더들, 수정기들 등) 은 하드웨어 (예를 들어, 전용 회로부), 소프트웨어 (예를 들어, 프로세서에 의해 실행된 명령들), 또는 이들의 조합을 사용하여 구현될 수도 있는 것으로 이해되어야 한다.
레퍼런스 채널 (220) 및 조정된 타겟 채널 (322) 은 변환 유닛 (302) 에 제공된다. 조정된 타겟 채널 (322) 은 채널간 불일치 값 (228) 의 등가물에 의해 시간 도메인에서 타겟 채널 (222) 을 시간적으로 조정함으로써 생성될 수도 있다. 따라서, 조정된 타겟 채널 (322) 은 레퍼런스 채널 (220) 과 실질적으로 정렬된다. 변환 유닛 (302) 은 주파수-도메인 레퍼런스 채널 (224) 을 생성하기 위해 레퍼런스 채널 (220) 에 대해 제 1 변환 동작을 수행할 수도 있고, 변환 유닛 (302) 은 조정된 주파수-도메인 타겟 채널 (230) 을 생성하기 위해 조정된 타겟 채널 (322) 에 대해 제 2 변환을 수행할 수도 있다.
따라서, 변환 유닛 (302) 은 주파수-도메인 (또는 서브-대역 도메인 또는 필터링된 저-대역 코어 및 고-대역 대역폭 확장) 채널들을 생성할 수도 있다. 비한정적 예들로서, 변환 유닛 (302) 은 DFT 동작들, FFT 동작들, MDCT 동작들 등을 수행할 수도 있다. 일부 구현들에 따르면, 직교 미러 필터뱅크 (QMF) 동작들 (복소 저 지연 필터 뱅크와 같은 필터뱅크들을 사용함) 은 입력 채널들 (220, 322) 을 다중 서브-대역들로 스플리팅하는데 사용될 수도 있다. 신호-적응 "플렉서블" 스테레오 코더 (109) 는 수정된 조정된 주파수-도메인 타겟 채널을 생성하기 위해 제 1 시간-시프트 동작에 기초하여 변환-도메인에서 조정된 주파수-도메인 타겟 채널 (230) 에 대해 제 2 시간-시프트 (예를 들어, 비-인과적) 동작을 수행할지 여부를 결정하도록 추가로 구성된다. 주파수 도메인-레퍼런스 채널 (224) 및 조정된 주파수-도메인 타겟 채널 (230) 은 스테레오 파라미터 추정기 (306) 에 그리고 다운-믹서 (307) 에 제공된다.
스테레오 파라미터 추정기 (206) 는 주파수-도메인 레퍼런스 채널 (224) 및 조정된 주파수-도메인 타겟 채널 (230) 에 기초하여 스테레오 파라미터들 (162) 을 추출 (예를 들어, 생성) 할 수도 있다. 예시하기 위하여, IID(b) 는 대역 (b) 에서의 좌측 채널들의 에너지들 (EL(b)) 및 대역 (b) 에서의 우측 채널들의 에너지들 (ER(b)) 의 함수일 수도 있다. 예를 들어, IID(b) 는 20*log10(EL(b)/ ER(b)) 로서 표현될 수도 있다. 인코더에서 추정 및 송신된 IPD들은 대역 (b) 에서 좌측 및 우측 채널들 간의 주파수 도메인에서의 위상 차이의 추정치를 제공할 수도 있다. 스테레오 파라미터들 (162) 은 ICC들, ITD들 등과 같은 추가적인 (또는 대안적인) 파라미터들을 포함할 수도 있다. 스테레오 파라미터들 (162) 은 도 1 의 제 2 디바이스 (106) 에 송신되거나, 다운-믹서 (207) (예를 들어, 사이드 채널 생성기 (308)) 에 제공되거나, 또는 양자 모두일 수도 있다. 일부 구현들에서, 스테레오 파라미터들 (162) 은 옵션으로 사이드 채널 인코더 (310) 에 제공될 수도 있다.
스테레오 파라미터들 (162) 은 IPD, ITD 조정기 (또는 수정기) (350) 에 제공될 수도 있다. 일부 구현들에서, IPD, ITD 조정기 (또는 수정기) (350) 는 수정된 IPD' 또는 수정된 ITD' 를 생성할 수도 있다. 추가적으로 또는 대안적으로, IPD, ITD 조정기 (또는 수정기) (350) 는 잔차 신호 (예를 들어, 사이드 채널) 에 적용될 잔차 이득 (예를 들어, 잔차 이득 값) 을 결정할 수도 있다. 일부 구현들에서, IPD, ITD 조정기 (또는 수정기) (350) 는 또한, IPD 플래그의 값을 결정할 수도 있다. IPD 플래그의 값은 하나 이상의 대역들에 대한 IPD 값들이 무시 또는 제로화될지 여부를 표시한다. 예를 들어, 하나 이상의 대역들에 대한 IPD 값들은 IPD 플래그가 어써트 (assert) 될 때 무시 또는 제로화될 수도 있다.
IPD, ITD 조정기 (또는 수정기) (350) 는 다운-믹서 (307) (예컨대, 사이드 채널 생성기 (308)) 에 수정된 IPD', 수정된 ITD', IPD 플래그, 잔차 이득, 또는 이들의 조합을 제공할 수도 있다. IPD, ITD 조정기 (또는 수정기) (350) 는 사이드 채널 수정기 (330) 에 ITD, IPD 플래그, 잔차 이득, 또는 이들의 조합을 제공할 수도 있다. IPD, ITD 조정기 (또는 수정기) (350) 는 사이드 채널 인코더 (310) 에 ITD, IPD 값들, IPD 플래그, 또는 이들의 조합을 제공할 수도 있다.
주파수-도메인 레퍼런스 채널 (224) 및 조정된 주파수-도메인 타겟 채널 (230) 은 다운-믹서 (307) 에 제공될 수도 있다. 다운-믹서 (307) 는 중간 채널 생성기 (312) 및 사이드 채널 생성기 (308) 를 포함한다. 일부 구현들에 따르면, 스테레오 파라미터들 (162) 이 또한 중간 채널 생성기 (312) 에 제공될 수도 있다. 중간 채널 생성기 (312) 는 주파수-도메인 레퍼런스 채널 (224) 및 조정된 주파수-도메인 타겟 채널 (230) 에 기초하여 중간 채널 (Mfr(b)) (232) 을 생성할 수도 있다. 일부 구현들에 따르면, 중간 채널 (232) 은 스테레오 파라미터들 (162) 에 또한 기초하여 생성될 수도 있다. 주파수-도메인 레퍼런스 채널 (224), 조정된 주파수-도메인 타겟 채널 (230), 및 스테레오 파라미터들 (162) 에 기초한 중간 채널 (232) 의 생성의 일부 방법들은 다음과 같이 : Mfr(b) = (Lfr(b) + Rfr(b))/2 또는 Mfr(b) = c1(b)*Lfr(b) + c2*Rfr(b) 를 포함하며, 여기에서 c1(b) 및 c2(b) 는 복소 값들이다. 일부 구현들에서, 복소 값들 c1(b) 및 c2(b) 는 스테레오 파라미터들 (162) 에 기초한다. 예를 들어, IPD들이 추정될 때 중간 사이드 다운믹스의 하나의 구현에서, c1(b) = (cos(-γ) - i*sin(-γ))/20.5 및 c2(b) = (cos(IPD(b)-γ) + i*sin(IPD(b)-γ))/20.5 이며, 여기에서 i 는 -1 의 제곱근을 나타내는 허수이다.
중간 채널 (232) 은 DFT 합성기 (313) 에 제공된다. DFT 합성기 (313) 는 중간 채널 인코더 (316) 에 출력을 제공한다. 예를 들어, DFT 합성기 (313) 는 중간 채널 (232) 을 합성할 수도 있다. 합성된 중간 채널은 중간 채널 (316) 에 제공될 수도 있다. 중간 채널 인코더 (316) 는 합성된 중간 채널에 기초하여 인코딩된 중간 채널 (244) 을 생성할 수도 있다.
사이드 채널 생성기 (308) 는 주파수-도메인 레퍼런스 채널 (224) 및 조정된 주파수-도메인 타겟 채널 (230) 에 기초하여 사이드 채널 (Sfr(b)) (234) 을 생성할 수도 있다. 사이드 채널 (234) 은 주파수 도메인에서 추정될 수도 있다. 각각의 대역에서, 이득 파라미터 (g) 는 상이할 수도 있고, 채널간 레벨 차이들에 기초 (예를 들어, 스테레오 파라미터들 (162) 에 기초) 할 수도 있다. 예를 들어, 사이드 채널 (234) 은 (Lfr(b) - c(b)*Rfr(b))/(1+c(b)) 로서 표현될 수도 있으며, 여기에서, c(b) 는 ILD(b) 또는 ILD(b) 의 함수 (예를 들어, c(b) = 10^(ILD(b)/20)) 일 수도 있다. 사이드 채널 (234) 은 사이드 채널 (330) 에 제공될 수도 있다. 사이드 채널 수정기 (330) 는 또한, IPD, ITD 조정기 (350) 로부터 ITD, IPD 플래그, 잔차 이득, 또는 이들의 조합을 수신한다. 사이드 채널 수정기 (330) 는 사이드 채널 (234), 주파수-도메인 중간 채널, 및 ITD, IPD 플래그, 또는 잔차 이득 중 하나 이상에 기초하여 수정된 사이드 채널을 생성한다.
수정된 사이드 채널은 합성된 사이드 채널을 생성하기 위해 DFT 합성기 (332) 에 제공된다. 합성된 사이드 채널은 사이드 채널 인코더 (310) 에 제공된다. 사이드 채널 인코더 (310) 는 DFT 로부터 수신된 스테레오 파라미터들 (162) 및 IPD, ITD 조정기 (350) 로부터 수신된 ITD, IPD 값들, 또는 IPD 플래그에 기초하여 인코딩된 잔차 채널 (246) 을 생성한다. 일부 구현들에서, 사이드 채널 인코더 (310) 는 잔차 코딩 인에이블/디스에이블 신호 (354) 를 수신하고 잔차 코딩 인에이블/디스에이블 신호 (354) 에 기초하여 인코딩된 잔차 채널 (246) 을 선택적으로 생성한다. 예시하기 위해, 잔차 코딩 인에이블/디스에이블 신호 (354) 가 잔차 인코딩이 디스에이블됨을 표시할 때, 사이드 채널 인코더 (310) 는 하나 이상의 주파수 대역들에 대한 인코딩된 사이드 채널 (246) 을 생성하지 않을 수도 있다.
멀티플렉서 (352) 는 인코딩된 중간 채널 (244), 인코딩된 잔차 채널 (246), 또는 양자 모두에 기초하여 비트스트림 (248B) 을 생성하도록 구성된다. 일부 구현들에서, 멀티플렉서 (352) 는 스테레오 파라미터들 (162) 을 수신하고 스테레오 파라미터들 (162) 에 기초하여 비트스트림 (248B) 을 생성한다. 비트스트림 (248B) 은 도 1 의 비트스트림 (248) 에 대응할 수도 있다.
도 4 를 참조하면, 디코더 (118A) 의 예가 도시된다. 디코더 (118A) 는 도 1 의 디코더 (118) 에 대응할 수도 있다. 비트스트림 (248) 은 디코더 (118A) 의 디멀티플렉서 (DEMUX) (402) 에 제공된다. 비트스트림 (248) 은 스테레오 파라미터들 (162), 인코딩된 중간 채널 (244), 및 인코딩된 잔차 채널 (246) 을 포함한다. 디멀티플렉서 (402) 는 비트스트림 (248) 으로부터 인코딩된 중간 채널 (244) 을 추출하고 중간 채널 디코더 (404) 에 인코딩된 중간 채널 (244) 을 제공하도록 구성된다. 디멀티플렉서 (402) 는 또한, 비트스트림 (248) 으로부터 인코딩된 잔차 채널 (246) 및 스테레오 파라미터들 (162) 을 추출하도록 구성된다. 인코딩된 잔차 채널 (246) 및 스테레오 파라미터들 (162) 은 사이드 채널 디코더 (406) 에 제공된다.
인코딩된 잔차 채널 (246), 스테레오 파라미터들 (162), 또는 양자 모두는 IPD, ITD 조정기 (468) 에 제공된다. IPD, ITD 조정기 (468) 는 비트스트림 (248) 에 포함된 IPD 플래그 값 (예를 들어, 인코딩된 잔차 채널 (246) 또는 스테레오 파라미터들 (162)) 을 생성 식별하도록 구성된다. IPD 플래그는 도 3 을 참조하여 설명된 바와 같은 표시를 제공할 수도 있다. 추가적으로, 또는 대안적으로, IPD 플래그는 디코더 (118A) 가 하나 이상의 대역들에 대한 수신된 잔차 신호 정보를 프로세싱 또는 무시할지 여부를 표시할 수도 있다. IPD 플래그 값 (예를 들어, 플래그가 어써트되는지 또는 어써트되지 않는지) 에 기초하여, IPD, ITD 조정기 (468) 는 IPD 를 조정했거나, ITD 를 조정했거나, 또는 양자 모두를 행하도록 구성된다.
중간 채널 디코더 (404) 는 중간 채널 (mCODED(t)) (450) 을 생성하기 위해 인코딩된 중간 채널 (244) 을 디코딩하도록 구성될 수도 있다. 중간 채널 (450) 이 시간-도메인 신호이면, 변환 (408) 이 주파수-도메인 중간 채널 (MCODED(b)) (452) 을 생성하기 위해 중간 채널 (450) 에 적용될 수도 있다. 주파수-도메인 중간 채널 (452) 은 업-믹서 (410) 에 제공될 수도 있다. 그러나, 중간 채널 (450) 이 주파수-도메인 신호이면, 중간 채널 (450) 은 업-믹서 (410) 에 직접 제공될 수도 있다.
사이드 채널 디코더 (406) 는 인코딩된 잔차 채널 (246) 및 스테레오 파라미터들 (162) 에 기초하여 사이드 채널 (SCODED(b)) (454) 을 생성할 수도 있다. 예를 들어, 에러 (e) 는 저-대역들 및 고-대역들에 대해 디코딩될 수도 있다. 사이드 채널 (454) 은 SPRED(b) + eCODED(b) 로서 표현될 수도 있으며, 여기에서 SPRED(b) = MCODED(b)*(ILD(b)-1)/(ILD(b)+1) 이다. 일부 구현들에서, 사이드 채널 디코더 (406) 는 IPD 플래그에 추가로 기초하여 사이드 채널 (454) 을 생성한다. 변환 (456) 이 주파수-도메인 사이드 채널 (SCODED(b)) (455) 을 생성하기 위해 사이드 채널 (454) 에 적용될 수도 있다. 주파수-도메인 사이드 채널 (455) 은 또한, 업-믹서 (410) 에 제공될 수도 있다.
업-믹서 (410) 는 중간 채널 (452) 및 사이드 채널 (455) 에 대해 업-믹스 동작을 수행할 수도 있다. 예를 들어, 업-믹서 (410) 는 중간 채널 (452) 및 사이드 채널 (455) 에 기초하여 제 1 업-믹싱된 채널 (Lfr) (456) 및 제 2 업-믹싱된 채널 (Rfr) (458) 을 생성할 수도 있다. 따라서, 설명된 예에서, 제 1 업-믹싱된 신호 (456) 는 좌측-채널 신호일 수도 있고, 제 2 업-믹싱된 신호 (458) 는 우측-채널 신호일 수도 있다. 제 1 업-믹싱된 신호 (456) 는 MCODED(b)+SCODED(b) 로서 표현될 수도 있고, 제 2 업-믹싱된 신호 (458) 는 MCODED(b)-SCODED(b) 로서 표현될 수도 있다.
합성, 윈도잉 동작 (457) 이 합성된 제 1 업-믹싱된 신호 (460) 를 생성하기 위해 제 1 업-믹싱된 신호 (456) 에 대해 수행된다. 합성된 제 1 업-믹싱된 신호 (460) 는 채널간 정렬기 (464) 에 제공된다. 합성, 윈도잉 동작 (416) 이 합성된 제 2 업-믹싱된 신호 (466) 를 생성하기 위해 제 2 업-믹싱된 신호 (458) 에 대해 수행된다. 합성된 제 2 업-믹싱된 신호 (466) 는 채널간 정렬기 (464) 에 제공된다. 채널간 정렬기 (464) 는 제 1 출력 신호 (470) 및 제 2 출력 신호 (472) 를 생성하기 위해 합성된 제 1 업-믹싱된 신호 (460) 및 합성된 제 2 업-믹싱된 신호 (466) 를 정렬할 수도 있다.
도 2 의 인코더 (114A), 도 3 의 인코더 (114B), 및 도 4 의 디코더 (118A) 는 인코더 또는 디코더 프레임의 전부가 아닌 부분을 포함할 수도 있음에 유의한다. 예를 들어, 도 2 의 인코더 (114A), 도 3 의 인코더 (114B), 도 4 의 디코더 (118A), 또는 이들의 조합은 또한 고 대역 (HB) 프로세싱의 병렬 경로를 포함할 수도 있다. 추가적으로, 또는 대안적으로, 일부 구현들에서, 시간 도메인 다운믹스가 인코더들 (114A, 114B) 에서 수행될 수도 있다. 추가적으로, 또는 대안적으로, 시간 도메인 업믹스가 디코더 시프트 보상된 좌측 및 우측 채널들을 획득하기 위해 도 4 의 디코더 (118A) 를 뒤따를 수도 있다.
도 5 을 참조하면, 통신의 방법 (500) 이 도시된다. 방법 (500) 은 도 1 의 제 1 디바이스 (104), 도 1 의 인코더 (114), 도 2 의 인코더 (114A), 도 3 의 인코더 (114B), 또는 이들의 조합에 의해 수행될 수도 있다.
방법 (500) 은, 502 에서, 인코더에서, 주파수-도메인 레퍼런스 채널을 생성하기 위해 레퍼런스 채널에 대해 제 1 변환 동작을 수행하는 단계를 포함한다. 예를 들어, 도 2 를 참조하면, 변환 유닛 (202) 은 주파수-도메인 레퍼런스 채널 (224) 을 생성하기 위해 레퍼런스 채널 (220) 에 대해 제 1 변환 동작을 수행한다. 제 1 변환 동작은 DFT 동작들, FFT 동작들, MDCT 동작들 등을 포함할 수도 있다
방법 (500) 은 또한, 504 에서, 주파수-도메인 타겟 채널을 생성하기 위해 타겟 채널에 대해 제 2 변환 동작을 수행하는 단계를 포함한다. 예를 들어, 도 2 를 참조하면, 변환 유닛 (204) 은 주파수-도메인 타겟 채널 (226) 을 생성하기 위해 타겟 채널 (222) 에 대해 제 2 변환 동작을 수행한다. 제 2 변환 동작은 DFT 동작들, FFT 동작들, MDCT 동작들 등을 포함할 수도 있다.
방법 (500) 은 또한, 506 에서, 주파수-도메인 레퍼런스 채널과 주파수-도메인 타겟 채널 간의 시간 오정렬을 나타내는 채널간 불일치 값을 결정하는 단계를 포함한다. 예를 들어, 도 2 를 참조하면, 스테레오 채널 조정 유닛 (206) 은 주파수-도메인 레퍼런스 채널 (224) 과 주파수-도메인 타겟 채널 (226) 간의 시간 오정렬을 나타내는 채널간 불일치 값 (228) 을 결정한다. 따라서, 채널간 불일치 값 (228) 은 (주파수 도메인에서) 타겟 채널 (222) 이 레퍼런스 채널 (220) 보다 얼마나 많이 뒤떨어져 있는지를 표시하는 채널간 시간 차이 (ITD) 파라미터일 수도 있다.
방법 (500) 은 또한, 508 에서, 조정된 주파수-도메인 타겟 채널을 생성하기 위해 채널간 불일치 값에 기초하여 주파수-도메인 타겟 채널을 조정하는 단계를 포함한다. 예를 들어, 도 2 를 참조하면, 스테레오 채널 조정 유닛 (206) 은 조정된 주파수-도메인 타겟 채널 (230) 을 생성하기 위해 채널간 불일치 값 (228) 에 기초하여 주파수-도메인 타겟 채널 (226) 을 조정한다. 예시하기 위해, 스테레오 채널 조정 유닛 (206) 은 주파수-도메인 레퍼런스 채널 (224) 과 시간적으로 동기화되는 조정된 주파수-도메인 타겟 채널 (230) 을 생성하기 위해 채널간 불일치 값 (228) 만큼 주파수-도메인 타겟 채널 (226) 을 시프트한다.
방법 (500) 은 또한, 510 에서, 중간 채널 및 사이드 채널을 생성하기 위해 주파수-도메인 레퍼런스 채널 및 조정된 주파수-도메인 타겟 채널에 대해 다운-믹스 동작을 수행하는 단계를 포함한다. 예를 들어, 도 2 를 참조하면, 다운-믹서 (208) 는 중간 채널 (232) 및 사이드 채널 (234) 을 생성하기 위해 주파수-도메인 레퍼런스 채널 (224) 및 조정된 주파수-도메인 타겟 채널 (230) 에 대해 다운-믹스 동작을 수행한다. 중간 채널 (Mfr(b)) (232) 은 주파수-도메인 레퍼런스 채널 (Lfr(b)) (224) 및 조정된 주파수-도메인 타겟 채널 (Rfr(b)) (230) 의 함수일 수도 있다. 예를 들어, 중간 채널 (Mfr(b)) (232) 은 Mfr(b) = (Lfr(b) + Rfr(b))/2 로서 표현될 수도 있다. 사이드 채널 (Sfr(b)) (234) 은 또한, 주파수-도메인 레퍼런스 채널 (Lfr(b)) (224) 및 조정된 주파수-도메인 타겟 채널 (Rfr(b)) (230) 의 함수일 수도 있다. 예를 들어, 사이드 채널 (Sfr(b)) (234) 은 Sfr(b) = (Lfr(b) - Rfr(b))/2 로서 표현될 수도 있다.
방법 (500) 은 또한, 512 에서, 중간 채널에 기초하여 예측된 사이드 채널을 생성하는 단계를 포함한다. 예측된 사이드 채널은 사이드 채널의 예측에 대응한다. 예를 들어, 도 2 를 참조하면, 잔차 생성 유닛 (210) 은 중간 채널 (232) 에 기초하여 예측된 사이드 채널 (236) 을 생성한다. 예측된 사이드 채널 (236) 은 사이드 채널 (234) 의 예측에 대응한다. 예를 들어, 예측된 사이드 채널 
(236) 은 
로서 표현될 수도 있으며, 여기에서 g 는 각각의 파라미터 대역에 대해 컴퓨팅된 예측 잔차 이득이고 ILD들의 함수이다.
방법 (500) 은 또한, 514 에서, 사이드 채널 및 예측된 사이드 채널에 기초하여 잔차 채널을 생성하는 단계를 포함한다. 예를 들어, 도 2 를 참조하면, 잔차 생성 유닛 (210) 은 사이드 채널 (234) 및 예측된 사이드 채널 (236) 에 기초하여 잔차 채널 (238) 을 생성한다. 예를 들어, 잔차 채널 (e) (238) 은 
로서 표현되는 에러 신호일 수도 있다.
방법 (500) 은 또한, 516 에서, 채널간 불일치 값에 기초하여 잔차 채널에 대한 스케일링 팩터를 결정하는 단계를 포함한다. 예를 들어, 도 2 를 참조하면, 잔차 스케일링 유닛 (212) 은 채널간 불일치 값 (228) 에 기초하여 잔차 채널 (238) 에 대한 스케일링 팩터 (212) 를 결정한다. 채널간 불일치 값 (228) 이 클수록, 스케일링 팩터 (240) 가 커진다 (예를 들어, 잔차 채널 (238) 이 더 많이 감쇠된다).
방법 (500) 은 또한, 518 에서, 스케일링된 잔차 채널을 생성하기 위해 스케일링 팩터에 의해 잔차 채널을 스케일링하는 단계를 포함한다. 예를 들어, 도 2 를 참조하면, 잔차 스케일링 유닛 (212) 은 스케일링된 잔차 채널 (242) 을 생성하기 위해 스케일링 팩터 (240) 에 의해 잔차 채널 (238) 을 스케일링한다. 따라서, 잔차 스케일링 유닛 (212) 은, 사이드 채널 (234) 이 많은 양의 스펙트럼 누설을 입증하기 때문에, 채널간 불일치 값 (228) 이 실질적으로 크면, 잔차 채널 (238) (예를 들어, 에러 신호) 을 감쇠시킨다.
방법 (500) 은 또한, 520 에서, 중간 채널 및 스케일링된 잔차 채널을 비트스트림의 일부로서 인코딩하는 단계를 포함한다. 예를 들어, 도 2 를 참조하면, 중간 채널 인코더 (214) 는 인코딩된 중간 채널 (244) 을 생성하기 위해 중간 채널 (232) 을 인코딩하고, 잔차 채널 인코더 (216) 는 인코딩된 잔차 채널 (246) 을 생성하기 위해 스케일링된 잔차 채널 (242) 또는 사이드 채널 (234) 을 인코딩한다. 멀티플렉서 (218) 는 인코딩된 중간 채널 (244) 및 인코딩된 잔차 채널 (246) 을 비트스트림 (248A) 의 일부로서 결합한다.
방법 (500) 은 DFT 스테레오 인코딩에서 윈도잉 효과들에 의해 도입된 고조파간 잡음을 감소시키기 위해 타겟 채널 (222) 과 레퍼런스 채널 (220) 간의 시간 오정렬 또는 불일치 값에 기초하여 잔차 채널 (예를 들어, 사이드 채널 또는 에러 채널) 을 조정, 수정, 또는 인코딩할 수도 있다. 예를 들어, DFT 스테레오 인코딩에서 윈도잉 효과들에 의해 야기될 수도 있는 아티팩트들의 도입을 감소시키기 위해, 잔차 채널은 감쇠될 수도 있고 (예를 들어, 이득이 적용된다), 잔차 채널의 하나 이상의 대역들이 제로화될 수도 있고, 잔차 채널을 인코딩하는데 사용되는 비트들의 수가 조정될 수도 있으며, 또는 이들의 조합이 행해질 수도 있다.
도 6 을 참조하면, 디바이스 (600) (예를 들어, 무선 통신 디바이스) 의 특정 예시적인 예의 블록 다이어그램이 도시된다. 다양한 실시형태들에서, 디바이스 (600) 는 도 6 에 예시된 것보다 더 적거나 또는 더 많은 컴포넌트들을 가질 수도 있다. 예시적인 실시형태에서, 디바이스 (600) 는 도 1 의 제 1 디바이스 (104), 도 1 의 제 2 디바이스 (106), 또는 이들의 조합에 대응할 수도 있다. 예시적인 실시형태에서, 디바이스 (600) 는 도 1 내지 도 5 의 시스템들 및 방법들을 참조하여 설명된 하나 이상의 동작들을 수행할 수도 있다.
특정 실시형태에서, 디바이스 (600) 는 프로세서 (606) (예를 들어, 중앙 프로세싱 유닛 (CPU)) 를 포함한다. 디바이스 (600) 는 하나 이상의 추가적인 프로세서들 (610) (예를 들어, 하나 이상의 디지털 신호 프로세서들 (DSP들)) 을 포함할 수도 있다. 프로세서들 (610) 은 미디어 (예를 들어, 스피치 및 뮤직) 코더-디코더 (코덱 (CODEC)) (608), 및 에코 캔슬러 (612) 를 포함할 수도 있다. 미디어 코덱 (608) 은 디코더 (118), 인코더 (114), 또는 이들의 조합을 포함할 수도 있다. 인코더 (114) 는 잔차 생성 유닛 (210) 및 잔차 스케일링 유닛 (212) 을 포함할 수도 있다.
디바이스 (600) 는 메모리 (153) 및 코덱 (634) 을 포함할 수도 있다. 미디어 코덱 (608) 은 프로세서들 (610) 의 컴포넌트 (예를 들어, 전용 회로부 및/또는 실행가능 프로그래밍 코드) 로서 예시되지만, 다른 실시형태들에서 미디어 코덱 (608) 의 하나 이상의 컴포넌트들, 이를 테면 디코더 (118), 인코더 (114), 또는 이들의 조합은, 프로세서 (606), 코덱 (634), 다른 프로세싱 컴포넌트, 또는 이들의 조합에 포함될 수도 있다.
디바이스 (600) 는 안테나 (642) 에 커플링된 송신기 (110) 를 포함할 수도 있다. 디바이스 (600) 는 디스플레이 제어기 (626) 에 커플링된 디스플레이 (628) 를 포함할 수도 있다. 하나 이상의 스피커들 (648) 이 코덱 (634) 에 커플링될 수도 있다. 하나 이상의 마이크로폰들 (646) 은, 입력 인터페이스(들) (112) 를 통해 코덱 (634) 에 커플링될 수도 있다. 특정 구현에서, 스피커들 (648) 은 도 1 의 제 1 라우드스피커 (142), 제 2 라우드스피터 (144), 또는 이들의 조합을 포함할 수도 있다. 특정 구현에서, 마이크로폰들 (646) 은 도 1 의 제 1 라우드스피커 (146), 제 2 라우드스피터 (148), 또는 이들의 조합을 포함할 수도 있다. 코덱 (634) 은 디지털-아날로그 컨버터 (DAC; 602) 및 아날로그-디지털 컨버터 (ADC; 604) 를 포함할 수도 있다.
메모리 (153) 는 도 1 내지 도 5 를 참조하여 설명된 하나 이상의 동작들을 수행하기 위해 프로세서 (606), 프로세서들 (610), 코덱 (634), 디바이스 (600) 의 다른 프로세싱 유닛, 또는 이들의 조합에 의해 실행가능한 명령들 (660) 을 포함할 수도 있다.
디바이스 (600) 의 하나 이상의 컴포넌트들은 전용 하드웨어 (예를 들어, 회로부) 를 통해, 하나 이상의 태스크들을 수행하기 위한 명령들을 실행하는 프로세서에 의해, 또는 이들의 조합에 의해 구현될 수도 있다. 예로서, 메모리 (153) 또는 프로세서 (606), 프로세서들 (610), 및/또는 코덱 (634) 중 하나 이상의 컴포넌트들은 랜덤 액세스 메모리 (RAM), 자기저항 랜덤 액세스 메모리 (MRAM), 스핀-토크 전달 MRAM (STT-MRAM), 플래시 메모리, 판독 전용 메모리 (ROM), 프로그래밍가능 판독 전용 메모리 (PROM), 소거가능한 프로그래밍가능 판독 전용 메모리 (EPROM), 전기적으로 소거가능한 프로그래밍가능 판독 전용 메모리 (EEPROM), 레지스터들, 하드 디스크, 착탈가능 디스크, 또는 콤팩트 디스크 판독 전용 메모리 (CD-ROM) 와 같은 메모리 디바이스일 수도 있다. 메모리 디바이스는, 컴퓨터 (예를 들어, 코덱 (634) 내의 프로세서, 프로세서 (606), 및/또는 프로세서들 (610)) 에 의해 실행될 때, 컴퓨터로 하여금, 도 1 내지 도 4 를 참조하여 설명된 하나 이상의 동작들을 수행하게 할 수도 있는 명령들 (예를 들어, 명령들 (660)) 을 포함할 수도 있다. 예로서, 메모리 (153) 또는 프로세서 (606), 프로세서들 (610), 및/또는 코덱 (634) 중 하나 이상의 컴포넌트들은, 컴퓨터 (예를 들어, 코덱 (634) 내의 프로세서, 프로세서 (606), 및/또는 프로세서들 (610)) 에 의해 실행될 때, 컴퓨터로 하여금, 도 1 내지 도 5 를 참조하여 설명된 하나 이상의 동작들을 수행하게 할 수도 있는 명령들 (예를 들어, 명령들 (660)) 을 포함하는 비일시적 컴퓨터 판독가능 매체일 수도 있다.
특정 실시형태에서, 디바이스 (600) 는 시스템-인-패키지 또는 시스템-온-칩 디바이스 (예를 들어, 이동국 모뎀 (MSM)) (622) 에 포함될 수도 있다. 특정 실시형태에서, 프로세서 (606), 프로세서들 (610), 디스플레이 제어기 (626), 메모리 (153), 코덱 (634), 및 송신기 (110) 가 시스템-인-패키지 또는 시스템-온-칩 디바이스 (622) 에 포함된다. 특정 실시형태에서, 입력 디바이스 (630), 이를 테면 터치스크린 및/또는 키패드, 및 전력 공급기 (644) 는 시스템-온-칩 디바이스 (622) 에 커플링된다. 더욱이, 특정 실시형태에서, 도 6 에 예시된 바와 같이, 디스플레이 (628), 입력 디바이스 (630), 스피커들 (648), 마이크로폰들 (646), 안테나 (642), 및 전력 공급기 (644) 는 시스템-온-칩 디바이스 (622) 의 외부에 있다. 그러나, 디스플레이 (628), 입력 디바이스 (630), 스피커들 (648), 마이크로폰들 (646), 안테나 (642), 및 전력 공급기 (644) 의 각각은 인터페이스 또는 제어기와 같은, 시스템-온-칩 디바이스 (622) 의 컴포넌트에 커플링될 수 있다.
디바이스 (600) 는 무선 전화기, 모바일 통신 디바이스, 모바일 폰, 스마트 폰, 셀룰러 폰, 랩톱 컴퓨터, 데스크톱 컴퓨터, 컴퓨터, 태블릿 컴퓨터, 셋톱 박스, 개인 디지털 보조기 (PDA), 디스플레이 디바이스, 텔레비전, 게이밍 콘솔, 뮤직 플레이어, 무선기기, 비디오 플레이어, 엔터테인먼트 유닛, 통신 디바이스, 고정 위치 데이터 유닛, 개인 미디어 플레이어, 디지털 비디오 플레이어, 디지털 비디오 디스크 (DVD) 플레이어, 튜너, 카메라, 네비게이션 디바이스, 디코더 시스템, 인코더 시스템, 또는 이들의 임의의 조합을 포함할 수도 있다.
상기 설명된 기법들과 관련하여, 장치는 주파수-도메인 레퍼런스 채널을 생성하기 위해 레퍼런스 채널에 대해 제 1 변환 동작을 수행하기 위한 수단을 포함한다. 예를 들어, 제 1 변환 동작을 수행하기 위한 수단은 도 1 및 도 2 의 변환 유닛 (202), 도 3 의 인코더 (114B) 의 하나 이상의 컴포넌트들, 도 6 의 프로세서 (610), 도 6 의 프로세서 (606), 도 6 의 코덱 (634), 하나 이상의 프로세싱 유닛들에 의해 실행된 명령들 (660), 하나 이상의 다른 모듈들, 디바이스들, 컴포넌트들, 회로들, 또는 이들의 조합을 포함할 수도 있다.
장치는 또한, 주파수-도메인 타겟 채널을 생성하기 위해 타겟 채널에 대해 제 2 변환 동작을 수행하기 위한 수단을 포함한다. 예를 들어, 제 2 변환 동작을 수행하기 위한 수단은 도 1 및 도 2 의 변환 유닛 (204), 도 3 의 인코더 (114B) 의 하나 이상의 컴포넌트들, 도 6 의 프로세서 (610), 도 6 의 프로세서 (606), 도 6 의 코덱 (634), 하나 이상의 프로세싱 유닛들에 의해 실행된 명령들 (660), 하나 이상의 다른 모듈들, 디바이스들, 컴포넌트들, 회로들, 또는 이들의 조합을 포함할 수도 있다.
장치는 또한, 주파수-도메인 레퍼런스 채널과 주파수-도메인 타겟 채널 간의 시간 오정렬을 나타내는 채널간 불일치 값을 결정하기 위한 수단을 포함한다. 예를 들어, 채널간 불일치 값을 결정하기 위한 수단은 도 1 및 도 2 의 스테레오 채널 조정 유닛 (206), 도 3 의 인코더 (114B) 의 하나 이상의 컴포넌트들, 도 6 의 프로세서 (610), 도 6 의 프로세서 (606), 도 6 의 코덱 (634), 하나 이상의 프로세싱 유닛들에 의해 실행된 명령들 (660), 하나 이상의 다른 모듈들, 디바이스들, 컴포넌트들, 회로들, 또는 이들의 조합을 포함할 수도 있다.
장치는 또한, 조정된 주파수-도메인 타겟 채널을 생성하기 위해 채널간 불일치 값에 기초하여 주파수-도메인 타겟 채널을 조정하기 위한 수단을 포함한다. 예를 들어, 주파수-도메인 타겟 채널을 조정하기 위한 수단은, 도 1 및 도 2 의 스테레오 채널 조정 유닛 (206), 도 3 의 인코더 (114B) 의 하나 이상의 컴포넌트들, 도 6 의 프로세서 (610), 도 6 의 프로세서 (606), 도 6 의 코덱 (634), 하나 이상의 프로세싱 유닛들에 의해 실행된 명령들 (660), 하나 이상의 다른 모듈들, 디바이스들, 컴포넌트들, 회로들, 또는 이들의 조합을 포함할 수도 있다.
장치는 또한, 중간 채널 및 사이드 채널을 생성하기 위해 주파수-도메인 레퍼런스 채널 및 조정된 주파수-도메인 타겟 채널에 대해 다운-믹스 동작을 수행하기 위한 수단을 포함한다. 예를 들어, 다운-믹스 동작을 수행하기 위한 수단은 도 1 및 도 2 의 다운-믹서 (208), 도 3 의 다운-믹서 (307), 도 6 의 프로세서 (610), 도 6 의 프로세서 (606), 도 6 의 코덱 (634), 하나 이상의 프로세싱 유닛들에 의해 실행된 명령들 (660), 하나 이상의 다른 모듈들, 디바이스들, 컴포넌트들, 회로들, 또는 이들의 조합을 포함할 수도 있다.
장치는 또한, 중간 채널에 기초하여 예측된 사이드 채널을 생성하기 위한 수단을 포함한다. 예측된 사이드 채널은 사이드 채널의 예측에 대응한다. 예를 들어, 예측된 사이드 채널을 생성하기 위한 수단은 도 1 및 도 2 의 잔차 생성 유닛 (210), 도 3 의 IPD, ITD 조정기 또는 수정기 (350), 도 6 의 프로세서 (610), 도 6 의 프로세서 (606), 도 6 의 코덱 (634), 하나 이상의 프로세싱 유닛들에 의해 실행된 명령들 (660), 하나 이상의 다른 모듈들, 디바이스들, 컴포넌트들, 회로들, 또는 이들의 조합을 포함할 수도 있다.
장치는 또한, 사이드 채널 및 예측된 사이드 채널에 기초하여 잔차 채널을 생성하기 위한 수단을 포함한다. 예를 들어, 잔차 채널을 생성하기 위한 수단은 도 1 및 도 2 의 잔차 생성 유닛 (210), 도 3 의 IPD, ITD 조정기 또는 수정기 (350), 도 6 의 프로세서 (610), 도 6 의 프로세서 (606), 도 6 의 코덱 (634), 하나 이상의 프로세싱 유닛들에 의해 실행된 명령들 (660), 하나 이상의 다른 모듈들, 디바이스들, 컴포넌트들, 회로들, 또는 이들의 조합을 포함할 수도 있다.
장치는 또한, 채널간 불일치 값에 기초하여 잔차 채널에 대한 스케일링 팩터를 결정하기 위한 수단을 포함한다. 예를 들어, 스케일링 팩터를 결정하기 위한 수단은 도 1 및 도 2 의 잔차 스케일링 유닛 (212), 도 3 의 IPD, ITD 조정기 또는 수정기 (350), 도 6 의 프로세서 (610), 도 6 의 프로세서 (606), 도 6 의 코덱 (634), 하나 이상의 프로세싱 유닛들에 의해 실행된 명령들 (660), 하나 이상의 다른 모듈들, 디바이스들, 컴포넌트들, 회로들, 또는 이들의 조합을 포함할 수도 있다.
장치는 또한, 스케일링된 잔차 채널을 생성하기 위해 스케일링 팩터에 의해 잔차 채널을 스케일링하기 위한 수단을 포함한다. 예를 들어, 잔차 채널을 스케일링하기 위한 수단은 도 1 및 도 2 의 잔차 스케일링 유닛 (212), 도 3 의 사이드 채널 수정기 (330), 도 6 의 프로세서 (610), 도 6 의 프로세서 (606), 도 6 의 코덱 (634), 하나 이상의 프로세싱 유닛들에 의해 실행된 명령들 (660), 하나 이상의 다른 모듈들, 디바이스들, 컴포넌트들, 회로들, 또는 이들의 조합을 포함할 수도 있다.
장치는 또한, 중간 채널 및 스케일링된 잔차 채널을 비트스트림의 일부로서 인코딩하기 위한 수단을 포함한다. 예를 들어, 인코딩하기 위한 수단은 도 1 및 도 2 의 중간 채널 인코더 (214), 도 1 및 도 2 의 잔차 채널 인코더 (216), 도 3 의 중간 채널 인코더 (316), 도 3 의 사이드 채널 인코더 (310), 도 6 의 프로세서 (610), 도 6 의 프로세서 (606), 도 6 의 코덱 (634), 하나 이상의 프로세싱 유닛들에 의해 실행된 명령들 (660), 하나 이상의 다른 모듈들, 디바이스들, 컴포넌트들, 회로들, 또는 이들의 조합을 포함할 수도 있다.
특정 구현에서, 본 명세서에서 개시된 시스템들 및 디바이스들의 하나 이상의 컴포넌트들은 디코딩 시스템 또는 장치 (예를 들어, 전자 디바이스, 코덱, 또는 그 내부의 프로세서) 에, 인코딩 시스템 또는 장치에, 또는 양자 모두에 통합될 수도 있다. 다른 구현들에서, 본 명세서에서 개시된 시스템들 및 디바이스들의 하나 이상의 컴포넌트들은 무선 전화기, 태블릿 컴퓨터, 데스크톱 컴퓨터, 랩톱 컴퓨터, 셋톱 박스, 뮤직 플레이어, 비디오 플레이어, 엔터테인먼트 유닛, 텔레비전, 게임 콘솔, 네비게이션 디바이스, 통신 디바이스, 개인 디지털 보조기 (PDA), 고정 위치 데이터 유닛, 개인 미디어 플레이어, 또는 다른 타입의 디바이스에 통합될 수도 있다.
도 7 을 참조하면, 기지국 (700) 의 특정 예시적인 예의 블록 다이어그램이 도시된다. 다양한 구현들에서, 기지국 (700) 은 도 7 에 예시된 것보다 더 많은 컴포넌트들 또는 더 적은 컴포넌트들을 가질 수도 있다. 예시적인 예에서, 기지국 (700) 은 도 5 의 방법 (500) 에 따라 동작할 수도 있다.
기지국 (700) 은 무선 통신 시스템의 일부일 수도 있다. 무선 통신 시스템은 다중 기지국들 및 다중 무선 디바이스들을 포함할 수도 있다. 무선 통신 시스템은 롱 텀 에볼루션 (LTE) 시스템, 제 4 세대 (4G) LTE 시스템, 제 5 세대 (5G) 시스템, 코드 분할 다중 액세스 (CDMA) 시스템, GSM (Global System for Mobile Communications) 시스템, 무선 로컬 영역 네트워크 (WLAN) 시스템, 또는 일부 다른 무선 시스템일 수도 있다. CDMA 시스템은 광대역 CDMA (WCDMA), CDMA 1X, EVDO (Evolution-Data Optimized), 시분할 동기 CDMA (TD-SCDMA), 또는 일부 다른 버전의 CDMA 를 구현할 수도 있다.
무선 디바이스들은 또한 사용자 장비 (UE), 이동국, 단말기, 액세스 단말기, 가입자 유닛, 스테이션 등으로 지칭될 수도 있다. 무선 디바이스들은 셀룰러 폰, 스마트폰, 태블릿, 무선 모뎀, 개인 디지털 보조기 (PDA), 핸드헬드 디바이스, 랩톱 컴퓨터, 스마트북, 넷북, 태블릿, 코드리스 폰, 무선 로컬 루프 (WLL) 스테이션, 블루투스 디바이스 등을 포함할 수도 있다. 무선 디바이스들은 도 6 의 디바이스 (600) 를 포함하거나 또는 그 디바이스에 대응할 수도 있다.
메시지들 및 데이터 (예를 들어, 오디오 데이터) 를 전송 및 수신하는 것과 같이, 다양한 기능들이 기지국 (700) 의 하나 이상의 컴포넌트들에 의해 (및/또는 도시되지 않은 다른 컴포넌트들에서) 수행될 수도 있다. 특정 예에서, 기지국 (700) 은 프로세서 (706) (예를 들어, CPU) 를 포함한다. 기지국 (700) 은 트랜스코더 (710) 를 포함할 수도 있다. 트랜스코더 (710) 는 오디오 코덱 (708) (예를 들어, 스피치 및 뮤직 코덱) 을 포함할 수도 있다. 예를 들어, 트랜스코더 (710) 는 오디오 코덱 (708) 의 동작들을 수행하도록 구성된 하나 이상의 컴포넌트들 (예컨대, 회로부) 을 포함할 수도 있다. 다른 예로서, 트랜스코더 (710) 는 오디오 코덱 (708) 의 동작들을 수행하기 위한 하나 이상의 컴퓨터 판독가능 명령들을 실행하도록 구성된다. 오디오 코덱 (708) 은 트랜스코더 (710) 의 컴포넌트로서 예시되지만, 다른 예들에서 오디오 코덱 (708) 의 하나 이상의 컴포넌트들은 프로세서 (706), 다른 프로세싱 컴포넌트, 또는 이들의 조합에 포함될 수도 있다. 예를 들어, 디코더 (118) (예를 들어, 보코더 디코더) 는 수신기 데이터 프로세서 (764) 에 포함될 수도 있다. 다른 예로서, 인코더 (114) (예를 들어, 보코더 인코더) 는 송신 데이터 프로세서 (782) 에 포함될 수도 있다.
트랜스코더 (710) 는 2 개 이상의 네트워크들 사이에서 메시지들 및 데이터를 트랜스코딩하도록 기능할 수도 있다. 트랜스코더 (710) 는 메시지 및 오디오 데이터를 제 1 포맷 (예를 들어, 디지털 포맷) 으로부터 제 2 포맷으로 컨버팅하도록 구성된다. 예시하기 위해, 디코더 (118) 는 제 1 포맷을 갖는 인코딩된 신호들을 디코딩할 수도 있고 인코더 (114) 는 디코딩된 신호들을 제 2 포맷을 갖는 인코딩된 신호들로 인코딩할 수도 있다. 추가적으로 또는 대안적으로, 트랜스코더 (710) 는 데이터 레이트 적응을 수행하도록 구성된다. 예를 들어, 트랜스코더 (710) 는 오디오 데이터의 포맷을 변경하지 않고 데이터 레이트를 다운컨버팅하거나 또는 데이터 레이트를 업컨버팅할 수도 있다. 예시하기 위해, 트랜스코더 (710) 는 64 kbit/s 신호들을 16 kbit/s 신호들로 다운컨버팅할 수도 있다. 오디오 코덱 (708) 은 인코더 (114) 및 디코더 (118) 를 포함할 수도 있다. 디코더 (118) 는 스테레오 파라미터 컨디셔너 (618) 를 포함할 수도 있다.
기지국 (700) 은 메모리 (732) 를 포함한다. 메모리 (732) (컴퓨터 판독가능 저장 디바이스의 예) 는 명령들을 포함할 수도 있다. 명령들은, 도 5 의 방법 (500) 을 수행하기 위해, 프로세서 (706), 트랜스코더 (710), 또는 이들의 조합에 의해 실행가능한 하나 이상의 명령들을 포함할 수도 있다. 기지국 (700) 은 안테나들의 어레이에 커플링된 다중 송신기들 및 수신기들 (예를 들어, 트랜시버들), 이를 테면 제 1 트랜시버 (752) 및 제 2 트랜시버 (754) 를 포함할 수도 있다. 안테나들의 어레이는 제 1 안테나 (742) 및 제 2 안테나 (744) 를 포함할 수도 있다. 안테나들의 어레이는 하나 이상의 무선 디바이스들, 이를 테면 도 6 의 디바이스 (600) 와 무선으로 통신하도록 구성된다. 예를 들어, 제 2 안테나 (744) 는 무선 디바이스로부터 데이터 스트림 (714) (예를 들어, 비트스트림) 을 수신할 수도 있다. 데이터 스트림 (714) 은 메시지들, 데이터 (예를 들어, 인코딩된 스피치 데이터), 또는 이들의 조합을 포함할 수도 있다.
기지국 (700) 은 백홀 접속과 같은 네트워크 접속 (760) 을 포함할 수도 있다. 네트워크 접속 (760) 은 무선 통신 네트워크의 하나 이상의 기지국들 또는 코어 네트워크와 통신하도록 구성된다. 예를 들어, 기지국 (700) 은 네트워크 접속 (760) 을 통해 코어 네트워크로부터 제 2 데이터 스트림 (예를 들어, 메시지들 또는 오디오 데이터) 을 수신할 수도 있다. 기지국 (700) 은 제 2 데이터 스트림을 프로세싱하여 메시지들 또는 오디오 데이터를 생성하고 메시지들 또는 오디오 데이터를 안테나들의 어레이의 하나 이상의 안테나들을 통해 하나 이상의 무선 디바이스들에 또는 네트워크 접속 (760) 을 통해 다른 기지국에 제공할 수도 있다. 특정 구현에서, 네트워크 접속 (760) 은 예시적인, 비한정적 예로서, 광역 네트워크 (WAN) 접속일 수도 있다. 일부 구현들에서, 코어 네트워크는 PSTN (Public Switched Telephone Network), 패킷 백본 네트워크, 또는 양자 모두를 포함하거나 또는 이들에 대응할 수도 있다.
기지국 (700) 은 네트워크 접속 (760) 및 프로세서 (706) 에 커플링되는 미디어 게이트웨이 (770) 를 포함할 수도 있다. 미디어 게이트웨이 (770) 는 상이한 원격통신 기술들의 미디어 스트림들 간에 컨버팅하도록 구성된다. 예를 들어, 미디어 게이트웨이 (770) 는 상이한 송신 프로토콜들, 상이한 코딩 스킴들, 또는 양자 모두 간에 컨버팅할 수도 있다. 예시하기 위해, 미디어 게이트웨이 (770) 는 예시적인, 비한정적 예로서, PCM 신호들로부터 실시간 전송 프로토콜 (RTP) 신호들로 컨버팅할 수도 있다. 미디어 게이트웨이 (770) 는 패킷 스위칭된 네트워크들 (예를 들어, VoIP (Voice Over Internet Protocol) 네트워크, IP 멀티미디어 서브시스템 (IMS), 제 4 세대 (4G) 무선 네트워크, 이를 테면 LTE, WiMax, 및 UMB, 제 5 세대 (5G) 무선 네트워크 등), 회로 스위칭된 네트워크들 (예를 들어, PSTN), 및 하이브리드 네트워크들 (예를 들어, 제 2 세대 (2G) 무선 네트워크, 이를 테면 GSM, GPRS, 및 EDGE, 제 3 세대 (3G) 무선 네트워크, 이를 테면 WCDMA, EV-DO, 및 HSPA, 등) 간에 데이터를 컨버팅할 수도 있다.
추가적으로, 미디어 게이트웨이 (770) 는 트랜스코더 (710) 와 같은 트랜스코더를 포함할 수도 있고, 코덱들이 호환불가능할 때 데이터를 트랜스코딩하도록 구성된다. 예를 들어, 미디어 게이트웨이 (770) 는 예시적인, 비한정적 예로서, AMR (Adaptive Multi-Rate) 코덱과 G.711 코덱 사이에서 트랜스코딩할 수도 있다. 미디어 게이트웨이 (770) 는 라우터 및 복수의 물리적 인터페이스들을 포함할 수도 있다. 일부 구현들에서, 미디어 게이트웨이 (770) 는 또한, 제어기 (미도시) 를 포함할 수도 있다. 특정 구현에서, 미디어 게이트웨이 제어기는 미디어 게이트웨이 (770) 의 외부, 기지국 (700) 의 외부, 또는 양자 모두에 있을 수도 있다. 미디어 게이트웨이 제어기는 다중 미디어 게이트웨이들의 동작들을 제어 및 조정할 수도 있다. 미디어 게이트웨이 (770) 는 미디어 게이트웨이 제어기로부터 제어 신호들을 수신할 수도 있고, 상이한 송신 기술들 사이에서 브리징하도록 기능할 수도 있고, 최종 사용자 능력들 및 접속들에 서비스를 부가할 수도 있다.
기지국 (700) 은 트랜시버들 (752, 754), 수신기 데이터 프로세서 (764), 및 프로세서 (706) 에 커플링되는 복조기 (762) 를 포함할 수도 있고, 수신기 데이터 프로세서 (764) 는 프로세서 (706) 에 커플링될 수도 있다. 복조기 (762) 는 트랜시버들 (752, 754) 로부터 수신된 변조된 신호들을 복조하고, 복조된 데이터를 수신기 데이터 프로세서 (764) 에 제공하도록 구성된다. 수신기 데이터 프로세서 (764) 는 복조된 데이터로부터 메시지 또는 오디오 데이터를 추출하고, 메시지 또는 오디오 데이터를 프로세서 (706) 로 전송하도록 구성된다.
기지국 (700) 은 송신 데이터 프로세서 (782) 및 송신 다중 입력-다중 출력 (MIMO) 프로세서 (784) 를 포함할 수도 있다. 송신 데이터 프로세서 (782) 는 프로세서 (706) 에 그리고 송신 MIMO 프로세서 (784) 에 커플링될 수도 있다. 송신 MIMO 프로세서 (784) 는 트랜시버들 (752, 754) 및 프로세서 (706) 에 커플링될 수도 있다. 일부 구현들에서, 송신 MIMO 프로세서 (784) 는 미디어 게이트웨이 (770) 에 커플링될 수도 있다. 송신 데이터 프로세서 (782) 는 예시적인, 비한정적 예들로서, 프로세서 (706) 로부터 메시지들 또는 오디오 데이터를 수신하고 코딩 스킴, 이를 테면 CDMA 또는 직교 주파수-분할 멀티플렉싱 (OFDM) 에 기초하여 메시지들 또는 오디오 데이터를 코딩하도록 구성된다. 송신 데이터 프로세서 (782) 는 코딩된 데이터를 송신 MIMO 프로세서 (784) 에 제공할 수도 있다.
코딩된 데이터는 멀티플렉싱된 데이터를 생성하기 위해 CDMA 또는 OFDM 기법들을 사용하여 파일럿 데이터와 같은 다른 데이터와 멀티플렉싱될 수도 있다. 멀티플렉싱된 데이터는 그 후 변조 심볼들을 생성하기 위해 특정 변조 스킴 (예를 들어, 이진 위상 시프트 키잉 ("BPSK"), 직교 위상 시프트 키잉 ("QPSK"), M진 위상 시프트 키잉 ("M-PSK"), M진 직교 진폭 변조 ("M-QAM") 등) 에 기초하여 송신 데이터 프로세서 (782) 에 의해 변조 (즉, 심볼 매핑) 될 수도 있다. 특정 구현에서, 코딩된 데이터 및 다른 데이터는 상이한 변조 스킴들을 사용하여 변조될 수도 있다. 각각의 데이터 스트림에 대한 데이터 레이트, 코딩, 및 변조는 프로세서 (706) 에 의해 실행된 명령들에 의해 결정될 수도 있다.
송신 MIMO 프로세서 (784) 는 송신 데이터 프로세서 (782) 로부터 변조 심볼들을 수신하도록 구성되고, 변조 심볼들을 추가로 프로세싱할 수도 있으며 데이터에 대해 빔포밍을 수행할 수도 있다. 예를 들어, 송신 MIMO 프로세서 (784) 는 빔포밍 가중치들을 변조 심볼들에 적용할 수도 있다.
동작 동안, 기지국 (700) 의 제 2 안테나 (744) 는 데이터 스트림 (714) 을 수신할 수도 있다. 제 2 트랜시버 (754) 는 제 2 안테나 (744) 로부터 데이터 스트림 (714) 을 수신할 수도 있고, 데이터 스트림 (714) 을 복조기 (762) 에 제공할 수도 있다. 복조기 (762) 는 데이터 스트림 (714) 의 변조된 신호들을 복조하고, 복조된 데이터를 수신기 데이터 프로세서 (764) 에 제공할 수도 있다. 수신기 데이터 프로세서 (764) 는 복조된 데이터로부터 오디오 데이터를 추출하고, 추출된 오디오 데이터를 프로세서 (706) 에 제공할 수도 있다.
프로세서 (706) 는 트랜스코딩을 위해 트랜스코더 (710) 에 오디오 데이터를 제공할 수도 있다. 트랜스코더 (710) 의 디코더 (118) 는 제 1 포맷으로부터의 오디오 데이터를 디코딩된 오디오 데이터로 디코딩할 수도 있고, 인코더 (114) 는 디코딩된 오디오 데이터를 제 2 포맷으로 인코딩할 수도 있다. 일부 구현들에서, 인코더 (114) 는 무선 디바이스로부터 수신된 것보다 더 높은 데이터 레이트 (예를 들어, 업컨버팅) 또는 더 낮은 데이터 레이트 (예를 들어, 다운컨버팅) 를 사용하여 오디오 데이터를 인코딩할 수도 있다. 다른 구현들에서, 오디오 데이터는 트랜스코딩되지 않을 수도 있다. 트랜스코딩 (예를 들어, 디코딩 및 인코딩) 이 트랜스코더 (710) 에 의해 수행되는 것으로서 예시되지만, 트랜스코딩 동작들 (예를 들어, 디코딩 및 인코딩) 은 기지국 (700) 의 다중 컴포넌트들에 의해 수행될 수도 있다. 예를 들어, 디코딩은 수신기 데이터 프로세서 (764) 에 의해 수행될 수도 있고, 인코딩은 송신 데이터 프로세서 (782) 에 의해 수행될 수도 있다. 다른 구현들에서, 프로세서 (706) 는 다른 송신 프로토콜, 코딩 스킴, 또는 양자 모두로의 컨버전을 위해, 오디오 데이터를 미디어 게이트웨이 (770) 에 제공할 수도 있다. 미디어 게이트웨이 (770) 는 컨버팅된 데이터를 네트워크 접속 (760) 을 통해 다른 기지국 또는 코어 네트워크에 제공할 수도 있다.
트랜스코딩된 데이터와 같이 인코더 (114) 에서 생성된 인코딩된 오디오 데이터는 프로세서 (706) 를 통해 송신 데이터 프로세서 (782) 또는 네트워크 접속 (760) 에 제공될 수도 있다. 트랜스코더 (710) 로부터의 트랜스코딩된 오디오 데이터는 변조 심볼들을 생성하기 위해 OFDM 과 같은 변조 스킴에 따른 코딩을 위해 송신 데이터 프로세서 (782) 에 제공될 수도 있다. 송신 데이터 프로세서 (782) 는 추가 프로세싱 및 빔포밍을 위해 송신 MIMO 프로세서 (784) 에 변조 심볼들을 제공할 수도 있다. 송신 MIMO 프로세서 (784) 는 빔포밍 가중치들을 적용할 수도 있고, 제 1 트랜시버 (752) 를 통해 제 1 안테나 (742) 와 같은 안테나들의 어레이의 하나 이상의 안테나들에 변조 심볼들을 제공할 수도 있다. 따라서, 기지국 (700) 은 무선 디바이스로부터 수신된 데이터 스트림 (714) 에 대응하는 트랜스코딩된 데이터 스트림 (716) 을, 다른 무선 디바이스에 제공할 수도 있다. 트랜스코딩된 데이터 스트림 (716) 은 데이터 스트림 (714) 과 상이한 인코딩 포맷, 데이터 레이트, 또는 양자 모두를 가질 수도 있다. 다른 구현들에서, 트랜스코딩된 데이터 스트림 (716) 은 다른 기지국 또는 코어 네트워크로의 송신을 위해 네트워크 접속 (760) 에 제공될 수도 있다.
본 명세서에서 개시된 시스템들 및 디바이스들의 하나 이상의 컴포넌트들에 의해 수행된 다양한 기능들은 소정의 컴포넌트들 또는 모듈들에 의해 수행되는 것으로서 설명됨에 유의해야 한다. 컴포넌트들 및 모듈들의 이러한 분할은 단지 예시를 위한 것이다. 대안의 구현에서, 특정 컴포넌트 또는 모듈에 의해 수행된 기능은 다중 컴포넌트들 또는 모듈들 중에서 분할될 수도 있다. 더욱이, 다른 대안의 구현에서, 2 개 이상의 컴포넌트들 또는 모듈들은 단일 컴포넌트 또는 모듈에 통합될 수도 있다. 각각의 컴포넌트 또는 모듈은 하드웨어 (예를 들어, 필드 프로그래밍가능 게이트 어레이 (FPGA) 디바이스, 주문형 집적 회로 (ASIC), DSP, 제어기, 등), 소프트웨어 (예를 들어, 프로세서에 의해 실행가능한 명령들), 또는 이들의 임의의 조합을 사용하여 구현될 수도 있다.
당업자들은 본 명세서에서 개시된 실시형태들과 관련하여 설명된 다양한 예시적인 논리 블록들, 구성들, 모듈들, 회로들, 및 알고리즘 단계들이 전자 하드웨어, 하드웨어 프로세서와 같은 프로세싱 디바이스에 의해 실행된 컴퓨터 소프트웨어, 또는 양자의 조합들로서 구현될 수도 있다는 것을 추가로 알 것이다. 다양한 예시적인 컴포넌트들, 블록들, 구성들, 모듈들, 회로들, 및 단계들이 일반적으로 그들의 기능성의 관점에서 위에서 설명되었다. 이러한 기능성이 하드웨어로서 구현되는지 또는 소프트웨어로서 구현되는지는 전체 시스템에 부과된 설계 제약들 및 특정 애플리케이션에 의존한다. 당업자들은 설명된 기능성을 각각의 특정 애플리케이션에 대해 다양한 방식들로 구현할 수도 있지만, 이러한 구현 판정들은 본 개시의 범위로부터 벗어남을 야기하는 것으로서 해석되지 않아야 한다.
본 명세서에 개시된 실시형태들과 관련하여 설명된 방법 또는 알고리즘의 단계들은 직접 하드웨어로, 프로세서에 의해 실행된 소프트웨어 모듈로, 또는 이들의 조합으로 구현될 수도 있다. 소프트웨어 모듈은 랜덤 액세스 메모리 (RAM), 자기저항 랜덤 액세스 메모리 (MRAM), 스핀-토크 전달 MRAM (STT-MRAM), 플래시 메모리, 판독 전용 메모리 (ROM), 프로그래밍가능 판독 전용 메모리 (PROM), 소거가능한 프로그래밍가능 판독 전용 메모리 (EPROM), 전기적으로 소거가능한 프로그래밍가능 판독 전용 메모리 (EEPROM), 레지스터들, 하드 디스크, 착탈가능 디스크, 또는 콤팩트 디스크 판독 전용 메모리 (CD-ROM) 와 같은 메모리 디바이스에 상주할 수도 있다. 예시적인 메모리 디바이스는, 프로세서가 메모리 디바이스로부터 정보를 판독하고, 메모리 디바이스에 정보를 기입할 수 있도록 프로세서에 커플링된다. 대안으로, 메모리 디바이스는 프로세서와 일체형일 수도 있다. 프로세서 및 저장 매체는 주문형 집적 회로 (ASIC) 에 상주할 수도 있다. ASIC 은 컴퓨팅 디바이스 또는 사용자 단말기에 상주할 수도 있다. 대안으로, 프로세서 및 저장 매체는 컴퓨팅 디바이스 또는 사용자 단말기에 별개의 컴포넌트들로서 상주할 수도 있다.
개시된 구현들의 이전의 설명은 당업자로 하여금 개시된 구현들을 제조 또는 이용할 수 있도록 제공된다. 이들 구현들에 대한 다양한 수정들은 당업자들에게는 용이하게 명백할 것이며, 본 명세서에서 정의된 원리들은 본 개시의 범위로부터 벗어남 없이 다른 구현들에 적용될 수도 있다. 따라서, 본 개시는 본 명세서에 나타낸 구현들에 한정되도록 의도되지 않고, 다음의 청구항들에 의해 정의된 바와 같이 원리들 및 신규한 피처들에 부합하는 가능한 최광의 범위를 부여받아야 한다.
Claims (30)
- 주파수-도메인 레퍼런스 채널을 생성하기 위해 레퍼런스 채널에 대해 제 1 변환 동작을 수행하도록 구성된 제 1 변환 유닛;
주파수-도메인 타겟 채널을 생성하기 위해 타겟 채널에 대해 제 2 변환 동작을 수행하도록 구성된 제 2 변환 유닛;
스테레오 채널 조정 유닛으로서,
상기 주파수-도메인 레퍼런스 채널과 상기 주파수-도메인 타겟 채널 간의 시간 오정렬 (temporal misalignment) 을 나타내는 채널간 불일치 값 (inter-channel mismatch value) 을 결정하고; 그리고
조정된 주파수-도메인 타겟 채널을 생성하기 위해 상기 채널간 불일치 값에 기초하여 상기 주파수-도메인 타겟 채널을 조정하도록 구성된, 상기 스테레오 채널 조정 유닛;
중간 채널 (mid channel) 및 사이드 채널 (side channel) 을 생성하기 위해 상기 주파수-도메인 레퍼런스 채널 및 상기 조정된 주파수-도메인 타겟 채널에 대해 다운-믹스 동작을 수행하도록 구성된 다운-믹서;
잔차 생성 유닛으로서,
상기 중간 채널에 기초하여, 상기 사이드 채널의 예측에 대응하는 예측된 사이드 채널을 생성하고; 그리고
상기 사이드 채널 및 상기 예측된 사이드 채널에 기초하여 잔차 채널을 생성하도록 구성된, 상기 잔차 생성 유닛;
잔차 스케일링 유닛으로서,
상기 채널간 불일치 값에 기초하여 상기 잔차 채널에 대한 스케일링 팩터를 결정하고; 그리고
스케일링된 잔차 채널을 생성하기 위해 상기 스케일링 팩터에 의해 상기 잔차 채널을 스케일링하도록 구성된, 상기 잔차 스케일링 유닛;
상기 중간 채널을 비트스트림의 일부로서 인코딩하도록 구성된 중간 채널 인코더; 및
상기 스케일링된 잔차 채널을 상기 비트스트림의 일부로서 인코딩하도록 구성된 잔차 채널 인코더를 포함하는, 통신 디바이스. - 제 1 항에 있어서,
상기 잔차 채널은 에러 채널 신호를 포함하는, 통신 디바이스. - 제 1 항에 있어서,
상기 잔차 스케일링 유닛은 상기 채널간 불일치 값에 기초하여 잔차 이득 파라미터를 결정하도록 추가로 구성되는, 통신 디바이스. - 제 1 항에 있어서,
상기 잔차 채널의 하나 이상의 대역들은 상기 채널간 불일치 값에 기초하여 제로 아웃되는, 통신 디바이스. - 제 1 항에 있어서,
상기 잔차 채널의 각각의 대역은 상기 채널간 불일치 값에 기초하여 제로 아웃되는, 통신 디바이스. - 제 1 항에 있어서,
상기 잔차 채널 인코더는 상기 채널간 불일치 값에 기초하여 상기 비트스트림에서 상기 잔차 채널을 인코딩하는데 사용되는 비트들의 수를 설정하도록 추가로 구성되는, 통신 디바이스. - 제 1 항에 있어서,
상기 잔차 채널 인코더는 상기 채널간 불일치 값과 임계치를 비교하도록 추가로 구성되고, 상기 채널간 불일치 값이 상기 임계치 이하이면, 비트들의 제 1 수가 상기 스케일링된 잔차 채널을 인코딩하는데 사용되고, 그리고 상기 채널간 불일치 값이 상기 임계치를 초과하면, 비트들의 제 2 수가 상기 스케일링된 잔차 채널을 인코딩하는데 사용되는, 통신 디바이스. - 제 7 항에 있어서,
상기 비트들의 제 2 수는 상기 비트들의 제 1 수와는 상이하거나, 또는 상기 비트들의 제 2 수는 상기 비트들의 제 1 수보다 더 작은, 통신 디바이스. - 제 1 항에 있어서,
상기 잔차 생성 유닛 및 상기 잔차 스케일링 유닛은 모바일 디바이스에 또는 기지국에 통합되는, 통신 디바이스. - 인코더에서, 주파수-도메인 레퍼런스 채널을 생성하기 위해 레퍼런스 채널에 대해 제 1 변환 동작을 수행하는 단계;
주파수-도메인 타겟 채널을 생성하기 위해 타겟 채널에 대해 제 2 변환 동작을 수행하는 단계;
상기 주파수-도메인 레퍼런스 채널과 상기 주파수-도메인 타겟 채널 간의 시간 오정렬을 나타내는 채널간 불일치 값을 결정하는 단계;
조정된 주파수-도메인 타겟 채널을 생성하기 위해 상기 채널간 불일치 값에 기초하여 상기 주파수-도메인 타겟 채널을 조정하는 단계;
중간 채널 및 사이드 채널을 생성하기 위해 상기 주파수-도메인 레퍼런스 채널 및 상기 조정된 주파수-도메인 타겟 채널에 대해 다운-믹스 동작을 수행하는 단계;
상기 중간 채널에 기초하여, 상기 사이드 채널의 예측에 대응하는 예측된 사이드 채널을 생성하는 단계;
상기 사이드 채널 및 상기 예측된 사이드 채널에 기초하여 잔차 채널을 생성하는 단계;
상기 채널간 불일치 값에 기초하여 상기 잔차 채널에 대한 스케일링 팩터를 결정하는 단계; 및
스케일링된 잔차 채널을 생성하기 위해 상기 스케일링 팩터에 의해 상기 잔차 채널을 스케일링하는 단계;
상기 중간 채널을 비트스트림의 일부로서 인코딩하는 단계; 및
상기 스케일링된 잔차 채널을 상기 비트스트림의 일부로서 인코딩하는 단계를 포함하는, 통신의 방법. - 제 10 항에 있어서,
상기 잔차 채널은 에러 채널 신호를 포함하는, 통신의 방법. - 제 10 항에 있어서,
상기 채널간 불일치 값에 기초하여 잔차 이득 파라미터를 결정하는 단계를 더 포함하는, 통신의 방법. - 제 10 항에 있어서,
상기 잔차 채널의 하나 이상의 대역들은 상기 채널간 불일치 값에 기초하여 제로 아웃되거나, 또는 상기 잔차 채널의 각각의 대역은 상기 채널간 불일치 값에 기초하여 제로 아웃되는, 통신의 방법. - 제 10 항에 있어서,
상기 채널간 불일치 값에 기초하여 상기 비트스트림에서 상기 잔차 채널을 인코딩하는데 사용되는 비트들의 수를 설정하는 단계를 더 포함하는, 통신의 방법. - 제 10 항에 있어서,
상기 채널간 불일치 값과 임계치를 비교하는 단계를 더 포함하고, 상기 채널간 불일치 값이 상기 임계치 이하이면, 비트들의 제 1 수가 상기 스케일링된 잔차 채널을 인코딩하는데 사용되고, 그리고 상기 채널간 불일치 값이 상기 임계치를 초과하면, 비트들의 제 2 수가 상기 스케일링된 잔차 채널을 인코딩하는데 사용되고, 상기 비트들의 제 2 수는 상기 비트들의 제 1 수와는 상이한, 통신의 방법. - 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
Applications Claiming Priority (5)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US201762448287P | 2017-01-19 | 2017-01-19 | |
| US62/448,287 | 2017-01-19 | ||
| US15/836,604 US10217468B2 (en) | 2017-01-19 | 2017-12-08 | Coding of multiple audio signals |
| US15/836,604 | 2017-12-08 | ||
| PCT/US2017/065542 WO2018136166A1 (en) | 2017-01-19 | 2017-12-11 | Coding of multiple audio signals |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20190103191A KR20190103191A (ko) | 2019-09-04 |
| KR102263550B1 true KR102263550B1 (ko) | 2021-06-09 |
Family
ID=62838590
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020197020283A KR102263550B1 (ko) | 2017-01-19 | 2017-12-11 | 다중 오디오 신호들의 코딩 |
Country Status (10)
| Country | Link |
|---|---|
| US (3) | US10217468B2 (ko) |
| EP (1) | EP3571694B1 (ko) |
| KR (1) | KR102263550B1 (ko) |
| CN (2) | CN110168637B (ko) |
| AU (1) | AU2017394680B2 (ko) |
| BR (1) | BR112019014541A2 (ko) |
| ES (1) | ES2843903T3 (ko) |
| SG (1) | SG11201904752QA (ko) |
| TW (1) | TWI800496B (ko) |
| WO (1) | WO2018136166A1 (ko) |
Families Citing this family (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10217468B2 (en) | 2017-01-19 | 2019-02-26 | Qualcomm Incorporated | Coding of multiple audio signals |
| US10304468B2 (en) * | 2017-03-20 | 2019-05-28 | Qualcomm Incorporated | Target sample generation |
| US10535357B2 (en) | 2017-10-05 | 2020-01-14 | Qualcomm Incorporated | Encoding or decoding of audio signals |
| US11501787B2 (en) * | 2019-08-22 | 2022-11-15 | Google Llc | Self-supervised audio representation learning for mobile devices |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20110288872A1 (en) | 2009-01-22 | 2011-11-24 | Panasonic Corporation | Stereo acoustic signal encoding apparatus, stereo acoustic signal decoding apparatus, and methods for the same |
| US20110301962A1 (en) | 2009-02-13 | 2011-12-08 | Wu Wenhai | Stereo encoding method and apparatus |
| WO2013149670A1 (en) | 2012-04-05 | 2013-10-10 | Huawei Technologies Co., Ltd. | Method for parametric spatial audio coding and decoding, parametric spatial audio coder and parametric spatial audio decoder |
| US20130301835A1 (en) | 2011-02-02 | 2013-11-14 | Telefonaktiebolaget L M Ericsson (Publ) | Determining the inter-channel time difference of a multi-channel audio signal |
| US20140195253A1 (en) | 2013-01-08 | 2014-07-10 | Nokia Corporation | Audio Signal Encoder |
| WO2014161990A1 (en) | 2013-04-05 | 2014-10-09 | Dolby International Ab | Audio encoder and decoder |
| US20140372107A1 (en) | 2013-06-14 | 2014-12-18 | Nokia Corporation | Audio processing |
Family Cites Families (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| BRPI0809940A2 (pt) * | 2007-03-30 | 2014-10-07 | Panasonic Corp | Dispositivo de codificação e método de codificação |
| KR101450940B1 (ko) * | 2007-09-19 | 2014-10-15 | 텔레폰악티에볼라겟엘엠에릭슨(펍) | 멀티채널 오디오의 조인트 인핸스먼트 |
| EP2077551B1 (en) * | 2008-01-04 | 2011-03-02 | Dolby Sweden AB | Audio encoder and decoder |
| US8219408B2 (en) * | 2008-12-29 | 2012-07-10 | Motorola Mobility, Inc. | Audio signal decoder and method for producing a scaled reconstructed audio signal |
| EP2375409A1 (en) | 2010-04-09 | 2011-10-12 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Audio encoder, audio decoder and related methods for processing multi-channel audio signals using complex prediction |
| EP2544465A1 (en) * | 2011-07-05 | 2013-01-09 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Method and apparatus for decomposing a stereo recording using frequency-domain processing employing a spectral weights generator |
| KR101662681B1 (ko) * | 2012-04-05 | 2016-10-05 | 후아웨이 테크놀러지 컴퍼니 리미티드 | 멀티채널 오디오 인코더 및 멀티채널 오디오 신호 인코딩 방법 |
| EP2830052A1 (en) * | 2013-07-22 | 2015-01-28 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Audio decoder, audio encoder, method for providing at least four audio channel signals on the basis of an encoded representation, method for providing an encoded representation on the basis of at least four audio channel signals and computer program using a bandwidth extension |
| US10083708B2 (en) * | 2013-10-11 | 2018-09-25 | Qualcomm Incorporated | Estimation of mixing factors to generate high-band excitation signal |
| CN104681029B (zh) | 2013-11-29 | 2018-06-05 | 华为技术有限公司 | 立体声相位参数的编码方法及装置 |
| US10217468B2 (en) | 2017-01-19 | 2019-02-26 | Qualcomm Incorporated | Coding of multiple audio signals |
-
2017
- 2017-12-08 US US15/836,604 patent/US10217468B2/en active Active
- 2017-12-11 WO PCT/US2017/065542 patent/WO2018136166A1/en unknown
- 2017-12-11 CN CN201780081733.4A patent/CN110168637B/zh active Active
- 2017-12-11 ES ES17822910T patent/ES2843903T3/es active Active
- 2017-12-11 BR BR112019014541-9A patent/BR112019014541A2/pt unknown
- 2017-12-11 KR KR1020197020283A patent/KR102263550B1/ko active IP Right Grant
- 2017-12-11 EP EP17822910.0A patent/EP3571694B1/en active Active
- 2017-12-11 SG SG11201904752QA patent/SG11201904752QA/en unknown
- 2017-12-11 CN CN202310577192.1A patent/CN116564320A/zh active Pending
- 2017-12-11 AU AU2017394680A patent/AU2017394680B2/en active Active
- 2017-12-12 TW TW106143610A patent/TWI800496B/zh active
-
2019
- 2019-01-10 US US16/245,161 patent/US10438598B2/en active Active
- 2019-08-21 US US16/547,226 patent/US10593341B2/en active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20110288872A1 (en) | 2009-01-22 | 2011-11-24 | Panasonic Corporation | Stereo acoustic signal encoding apparatus, stereo acoustic signal decoding apparatus, and methods for the same |
| US20110301962A1 (en) | 2009-02-13 | 2011-12-08 | Wu Wenhai | Stereo encoding method and apparatus |
| US20130301835A1 (en) | 2011-02-02 | 2013-11-14 | Telefonaktiebolaget L M Ericsson (Publ) | Determining the inter-channel time difference of a multi-channel audio signal |
| WO2013149670A1 (en) | 2012-04-05 | 2013-10-10 | Huawei Technologies Co., Ltd. | Method for parametric spatial audio coding and decoding, parametric spatial audio coder and parametric spatial audio decoder |
| US20140195253A1 (en) | 2013-01-08 | 2014-07-10 | Nokia Corporation | Audio Signal Encoder |
| WO2014161990A1 (en) | 2013-04-05 | 2014-10-09 | Dolby International Ab | Audio encoder and decoder |
| US20140372107A1 (en) | 2013-06-14 | 2014-12-18 | Nokia Corporation | Audio processing |
Non-Patent Citations (1)
| Title |
|---|
| ETSI TS 26.253 Codec for immersive voice and audio services - Detailed Algorithmic Description incl. RTP payload format and SDP parameter definitions |
Also Published As
| Publication number | Publication date |
|---|---|
| US20180204578A1 (en) | 2018-07-19 |
| WO2018136166A1 (en) | 2018-07-26 |
| US10438598B2 (en) | 2019-10-08 |
| ES2843903T3 (es) | 2021-07-20 |
| US20190147895A1 (en) | 2019-05-16 |
| EP3571694A1 (en) | 2019-11-27 |
| US10217468B2 (en) | 2019-02-26 |
| SG11201904752QA (en) | 2019-08-27 |
| KR20190103191A (ko) | 2019-09-04 |
| TW201828284A (zh) | 2018-08-01 |
| AU2017394680B2 (en) | 2021-09-02 |
| US10593341B2 (en) | 2020-03-17 |
| BR112019014541A2 (pt) | 2020-02-27 |
| CN110168637B (zh) | 2023-05-30 |
| AU2017394680A1 (en) | 2019-06-20 |
| CN116564320A (zh) | 2023-08-08 |
| TWI800496B (zh) | 2023-05-01 |
| US20190378523A1 (en) | 2019-12-12 |
| EP3571694B1 (en) | 2020-10-14 |
| CN110168637A (zh) | 2019-08-23 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102230623B1 (ko) | 다중의 오디오 신호들의 인코딩 | |
| US10593341B2 (en) | Coding of multiple audio signals | |
| KR102505148B1 (ko) | 다수의 오디오 신호들의 디코딩 | |
| CN110622242A (zh) | 用于立体声解码的立体声参数 | |
| CN110800051B (zh) | 具有时域信道间带宽延展的高频带残值预测 | |
| US10854212B2 (en) | Inter-channel phase difference parameter modification | |
| KR102208602B1 (ko) | 채널간 대역폭 확장 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |