KR20230018528A - 2d 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치 - Google Patents

2d 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치 Download PDF

Info

Publication number
KR20230018528A
KR20230018528A KR1020237001978A KR20237001978A KR20230018528A KR 20230018528 A KR20230018528 A KR 20230018528A KR 1020237001978 A KR1020237001978 A KR 1020237001978A KR 20237001978 A KR20237001978 A KR 20237001978A KR 20230018528 A KR20230018528 A KR 20230018528A
Authority
KR
South Korea
Prior art keywords
loudspeaker
loudspeakers
positions
matrix
decode matrix
Prior art date
Application number
KR1020237001978A
Other languages
English (en)
Other versions
KR102629324B1 (ko
Inventor
플로리안 케일러
요하네스 뵘
Original Assignee
돌비 인터네셔널 에이비
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 돌비 인터네셔널 에이비 filed Critical 돌비 인터네셔널 에이비
Priority to KR1020247002360A priority Critical patent/KR20240017091A/ko
Publication of KR20230018528A publication Critical patent/KR20230018528A/ko
Application granted granted Critical
Publication of KR102629324B1 publication Critical patent/KR102629324B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S3/00—Systems employing more than two channels, e.g. quadraphonic
    • H04S3/02—Systems employing more than two channels, e.g. quadraphonic of the matrix type, i.e. in which input signals are combined algebraically, e.g. after having been phase shifted with respect to each other
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S7/00—Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30—Control circuits for electronic adaptation of the sound field
    • H04S7/308—Electronic adaptation dependent on speaker or headphone connection
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/11—Positioning of individual sound objects, e.g. moving airplane, within a sound field
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2420/00—Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/07—Synergistic effects of band splitting and sub-band processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2420/00—Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/11—Application of ambisonics in stereophonic audio systems

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Algebra (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Mathematical Physics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Stereophonic System (AREA)

Abstract

3D의 사운드 씬들은 자연 음장으로서 합성되거나 캡쳐될 수 있다. 디코딩하기 위해, 주어진 라우드스피커 셋업에 특정하고 알려진 라우드스피커 위치들을 이용하여 생성되는 디코드 행렬이 요구된다. 그러나, 몇몇 소스 방향들은 예를 들어 5.1 서라운드와 같은 2D 라우드스피커 셋업들에 대하여 감쇠된다. 알려진 위치들에서 L개의 라우드스피커를 위해 음장 포맷의 인코딩된 오디오 시그널을 디코딩하기 위한 개선된 방법은 L개의 라우드스피커의 위치들에 적어도 하나의 가상의 라우드스피커의 위치를 추가하는 단계(10), 3D 디코드 행렬(
Figure pat00144
)을 생성하는 단계(11) - L개의 라우드스피커의 위치들(공식 Ⅰ) 및 적어도 하나의 가상의 위치(공식 Ⅱ)가 이용됨 -, 3D 디코드 행렬(
Figure pat00145
)을 다운믹싱하는 단계(12), 및 다운스케일링된 3D 디코드 행렬(공식 Ⅲ)을 이용하여, 인코딩된 오디오 시그널(i14)을 디코딩하는 단계(14)를 포함한다. 결과적으로, 복수의 디코딩된 라우드스피커 시그널(q14)이 획득된다.

Description

2D 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치{METHOD FOR AND APPARATUS FOR DECODING AN AMBISONICS AUDIO SOUNDFIELD REPRESENTATION FOR AUDIO PLAYBACK USING 2D SETUPS}
본 발명은 2D 또는 2D에 가까운(near-2D) 셋업을 이용하는 오디오 재생을 위해 오디오 음장 표현(audio soundfield representation), 특히 앰비소닉스 포맷의 오디오 표현(Ambisonics formatted audio representation)을 디코딩하기 위한 방법 및 장치에 관한 것이다.
정확한 정위(localization)는 임의의 공간 오디오 재생 시스템(spatial audio reproduction system)에 주된 목표이다. 그러한 재생 시스템들은 3D 사운드로부터 이득을 얻는 회의 시스템들, 게임들, 또는 다른 가상 환경들에 대해 고도로 적용될 수 있다. 3D의 사운드 씬(sound scene)들은 자연 음장(natural sound field)으로서 합성되거나 캡쳐될 수 있다. 예컨대, 앰비소닉스와 같은 음장 시그널들은 원하는 음장의 표현을 운반한다. 음장 표현으로부터 개별 라우드스피커(loudspeaker) 시그널들을 획득하기 위해 디코딩 프로세스가 요구된다. 앰비소닉스 포맷의 시그널을 디코딩하는 것은 또한 "렌더링(rendering)"으로 지칭된다. 오디오 씬들을 합성하기 위해, 공간적 라우드스피커 배열을 참조하는 패닝 기능들은 주어진 사운드 소스의 공간적 정위를 획득하기 위해 요구된다. 자연 음장을 레코딩(recording)하기 위해, 마이크로폰 어레이들은 공간적 정보를 캡쳐하도록 요구된다. 앰비소닉스 접근은 이를 성취하기 위한 매우 적합한 툴이다. 앰비소닉스 포맷의 시그널들은 음장의 구면 조화 분해(spherical harmonic decomposition)에 기반하는 원하는 음장의 표현을 운반한다. 기본 앰비소닉스 포맷이나 B-포맷은 0차 및 1차의 구면 조화 함수(spherical harmonic)들을 이용하는 반면, 소위 고차 앰비소닉스(HOA: Higher Order Ambisonics)는 적어도 2차의 추가 구면 조화 함수들도 이용한다. 라우드스피커들의 공간적 배열은 라우드스피커 셋업으로서 지칭된다. 디코딩 프로세스에 대하여, 디코드 행렬(또한 렌더링 행렬로도 지칭됨)이 요구되고, 이는 주어진 라우드스피커 셋업에 특정하고, 알려진 라우드스피커 위치들을 이용하여 생성된다.
보통 이용되는 라우드스피커 셋업들은 두 개의 라우드스피커를 채용하는 스테레오 셋업, 다섯 개의 라우드스피커를 이용하는 표준 서라운드 셋업(standard surround setup), 및 다섯 개보다 더 많은 라우드스피커를 이용하는 서라운드 셋업의 확장들이다. 그러나, 이러한 잘 알려진 셋업들은 2차원(2D)에 제한되고, 예컨대, 어떠한 높이 정보도 재생되지 않는다. 높이 정보를 재생할 수 있는 알려진 라우드스피커 셋업들을 위해 렌더링하는 것은 사운드 정위 및 배색(coloration)에서 단점들을 갖는데, 즉, 공간적 수직의 팬(pan)들이 매우 불균등한(uneven) 음량(loudness)으로 인지되거나, 라우드스피커 시그널들이 강한 사이드 로브(side lobe)들을 가지며, 이는 특히 중심에서 벗어난(off-center) 리스닝 위치들에 불리하다. 따라서, 소위 에너지-보존 렌더링 설계는 라우드스피커들에 HOA 음장 서술을 렌더링하는 경우 선호된다. 이것은 단일 사운드 소스의 렌더링이 소스의 방향에 독립하여, 일정한 에너지의 라우드스피커 시그널들을 야기하는 것을 의미한다. 다시 말해서, 앰비소닉스 표현에 의해 운반되는 입력 에너지는 라우드스피커 렌더러(renderer)에 의해 보존된다. 본 발명자들의 국제 특허 공보 WO2014/012945A1[1]은 3D 라우드스피커 셋업들을 위한 양호한 에너지 보존 및 정위 속성들을 갖는 HOA 렌더러 설계를 설명한다. 그러나, 이 접근은 모든 방향을 포괄하는 3D 라우드스피커 셋업들에 대해 꽤 잘 동작하지만, 몇몇 소스 방향들은 2D 라우드스피커 셋업들(예컨대, 5.1 서라운드 같은 것)을 위해 감쇠된다(attenuated). 이는 특히 어떠한 라우드스피커들도 위치하지 않는 방향들을 위해, 예를 들어 최상부로부터의 방향에 적용된다.
F.Zotter 및 M.Frank의 "올라운드 앰비소닉 패닝 및 디코딩(All-Round Ambisonic Panning and Decoding)"[2]에서, 라우드스피커들에 의해 구축된(built) 볼록 껍질(convex hull)에서 홀이 있는 경우 "가상의(imaginary)" 라우드스피커가 추가된다. 그러나, 그러한 가상의 라우드스피커를 위한 결과적인 시그널은 실제 라우드스피커 상에서의 재생을 위해서는 생략된다. 따라서, 그 방향(예컨대, 어떠한 실제 라우드스피커도 위치하지 않는 방향)으로부터 소스 시그널은 여전히 감쇠될 것이다. 추가로, 이 논문은 VBAP(vector base amplitude panning)와의 이용만을 위해 가상의 라우드스피커의 이용을 보여준다.
따라서, 2D (2차원) 라우드스피커 셋업들을 위해, 어떠한 라우드스피커들도 위치하지 않는 방향으로부터 사운드 소스들이 덜 감쇠되거나 전혀 감쇠되지 않는 에너지-보존 앰비소닉스 렌더러들을 설계하는 문제가 남아있다. 2D 라우드스피커 셋업들은 라우드스피커들의 앙각(elevation angle)들이 정의된 작은 범위(예컨대, <10°) 내에 있어서 그 라우드스피커들이 수평면에 가까운 것으로서 분류될 수 있다.
본 명세서는 정규의 또는 비정규의 공간적 라우드스피커 분포들을 위해 앰비소닉스 포맷의 오디오 음장 표현을 렌더링/디코딩하기 위한 솔루션을 설명하고, 여기서 렌더링/디코딩은 고도로 개선된 정위 및 배색 속성들을 제공하고 에너지 보존적이며, 어떠한 라우드스피커도 이용 가능하지 않는 방향들로부터의 사운드조차 렌더링된다. 유리하게도, 어떠한 라우드스피커도 이용 가능하지 않은 방향들로부터의 사운드는 라우드스피커가 각각의 방향에서 이용 가능했더라면 가졌을 것과 실질적으로 동일한 에너지 및 인지된 음량으로 렌더링된다. 물론, 이러한 사운드 소스들의 정확한 정위는 그것의 방향에서 어떠한 라우드스피커도 이용 가능하지 않기 때문에 가능하지 않다.
특히, 적어도 몇몇 설명된 실시예들은 HOA 포맷에서 음장 데이터를 디코딩하기 위해 디코드 행렬을 획득하는 새로운 방식을 제공한다. 적어도 HOA 포맷은 라우드스피커 위치들에 직접적으로 관련되지 않는 음장을 설명하고, 획득되는 라우드스피커 시그널들은 반드시 채널 기반 오디오 포맷으로 되어 있으므로, HOA 시그널들의 디코딩은 언제나 오디오 시그널을 렌더링하는 것에 엄격하게 관련된다. 원칙적으로, 다른 오디오 음장 포맷들에도 동일하게 적용된다. 따라서, 본 개시내용은 음장 관련 오디오 포맷들을 디코딩하고 렌더링하는 것 모두에 관한 것이다. 디코드 행렬 및 렌더링 행렬이라는 용어는 동의어로서 이용된다.
양호한 에너지 보존 속성들과 함께 주어진 셋업을 위한 디코드 행렬을 획득하기 위해, 하나 이상의 가상의 라우드스피커(virtual loudspeaker)는 어떠한 라우드스피커도 이용 가능하지 않는 위치들에 추가된다. 예를 들어, 2D 셋업을 위한 개선된 디코드 행렬을 획득하기 위해, 두 개의 가상의 라우드스피커는 상단 및 하단에 추가된다(이것은 +90° 및 -90° 앙각에 대응하며, 2D 라우드스피커들은 대략 0°의 앙각에 위치함). 이 가상의 3D 라우드스피커 셋업에 대하여, 디코드 행렬은 에너지 보존 속성을 만족시키도록 설계된다. 최종적으로, 가상의 라우드스피커들을 위한 디코드 행렬로부터의 가중치 인자(weighting factor)들은 2D 셋업의 실제 라우드스피커들에 대한 일정한 이득들과 믹싱된다.
일 실시예에 따르면, 라우드스피커들의 주어진 세트에 앰비소닉스 포맷의 오디오 시그널을 렌더링하거나 디코딩하기 위한 디코드 행렬(또는 렌더링 행렬)은 종래의 방법 및 수정된 라우드스피커 위치들을 이용하여 제1 예비(preliminary) 디코드 행렬을 생성하고 - 수정된 라우드스피커 위치들은 라우드스피커들의 주어진 세트의 라우드스피커 위치들 및 적어도 하나의 추가적인 가상의 라우드스피커 위치를 포함함 -, 제1 예비 디코드 행렬을 다운믹싱(downmixing)하는 것에 의해 생성되고, 적어도 하나의 추가적인 가상의 라우드스피커에 관한 계수들은 제거되고 라우드스피커들의 주어진 세트의 라우드스피커들에 관한 계수들에 분산된다(distributed). 일 실시예에서, 디코드 행렬을 정규화하는 후속 단계가 이어진다. 결과적인 디코드 행렬은 라우드스피커들의 주어진 세트에 앰비소닉스 시그널을 렌더링하거나 디코딩하는 것에 적절하고, 어떠한 라우드스피커도 존재하지 않는 위치들로부터의 사운드조차 올바른(correct) 시그널 에너지와 함께 재생된다. 이것은 개선된 디코드 행렬의 구조(construction) 때문이다. 바람직하게는, 제1 예비 디코드 행렬은 에너지 보존적이다.
일 실시예에서, 디코드 행렬은 L개의 행 및 O3D개의 열을 가진다. 행들의 수는 2D 라우드스피커 셋업에서 라우드스피커들의 수에 대응하고, 열들의 수는 O3D=(N+1)2에 따른 HOA 차수 N에 의존하는 앰비소닉스 계수들 O3D의 수에 대응한다. 2D 라우드스피커 셋업을 위한 디코드 행렬의 각각의 계수들은 적어도 제1 중간 계수(intermediate coefficient) 및 제2 중간 계수의 합이다. 제1 중간 계수는 2D 라우드스피커 셋업의 현재의 라우드스피커 위치를 위한 에너지-보존 3D 행렬 설계 방법에 의해 획득되고, 에너지-보존 3D 행렬 설계 방법은 적어도 하나의 가상의 라우드스피커 위치를 이용한다. 제2 중간 계수는 적어도 하나의 가상의 라우드스피커 위치를 위한 상기 에너지-보존 3D 행렬 설계 방법으로부터 획득되는 계수에 가중치 인자
Figure pat00001
를 곱함으로써 획득된다. 일 실시예에서, 가중치 인자
Figure pat00002
는
Figure pat00003
에 따라 계산되고, L은 2D 라우드스피커 셋업의 라우드스피커들의 수이다.
일 실시예에서, 본 발명은 컴퓨터가 청구항들에서 또는 앞서 개시된 방법의 단계들을 포함하는 방법을 수행하게 하는 실행 가능한 명령어들이 저장되어 있는 컴퓨터 판독 가능 저장 매체에 관한 것이다. 이 방법을 활용하는 장치는 청구항 9에 개시된다.
유리한 실시예들은 종속 청구항들, 다음의 설명 및 도면들에 개시된다.
본 발명의 대표적인 실시예들은 첨부 도면들을 참조하여 설명된다.
도 1은 일 실시예에 따른 방법의 흐름도이다.
도 2는 다운믹싱된 HOA 디코드 행렬의 대표적인 구조이다.
도 3은 라우드스피커 위치들을 획득하고 수정하는 것에 대한 흐름도이다.
도 4는 일 실시예에 따른 장치의 블록 다이어그램이다.
도 5는 종래의 디코드 행렬로부터 야기되는 에너지 분포이다.
도 6은 실시예들에 따른 디코드 행렬로부터 야기되는 에너지 분포이다.
도 7은 상이한 주파수 대역들에서 별개로 최적화된 디코드 행렬들의 이용이다.
도 1은 일 실시예에 따른 오디오 시그널, 특히 음장 시그널을 디코딩하기 위한 방법의 흐름도를 보여준다. 음장 시그널들을 디코딩하는 것은 일반적으로 오디오 시그널이 렌더링될 라우드스피커들의 위치들을 요구한다. L개의 라우드스피커를 위한 그러한 라우드스피커 위치들
Figure pat00004
은 프로세스에 대한 입력(i10)이다. 위치들이 언급되는 경우, 본 명세서에서 실제로는 공간적 방향들을 의미한다는 것에 유의해야 하며, 즉, 라우드스피커들의 위치들은 그것의 경사각(inclination angle)들
Figure pat00005
및 방위각(azimuth angle)들
Figure pat00006
에 의해 정의되며, 그들은 벡터
Figure pat00007
로 조합된다. 다음으로, 가상의 라우드스피커의 적어도 하나의 위치가 추가된다(10). 일 실시예에서, 프로세스(i10)에 입력되는 모든 라우드스피커 위치는 실질적으로 동일한 평면에 있고, 따라서 그들은 2D 셋업을 구성하고, 추가되는 적어도 하나의 가상의 라우드스피커는 이 평면 밖에 있다. 특히 유리한 일 실시예에서, 프로세스(i10)에 입력되는 모든 라우드스피커 위치는 실질적으로 동일한 평면에 있고 두 개의 가상의 라우드스피커의 위치들은 단계(10)에서 추가된다. 두 개의 가상의 라우드스피커의 유리한 위치들은 이하에서 설명된다. 일 실시에에서, 추가는 이하의 식(6)에 따라 수행된다. 추가하는 단계(10)는 q10에서 라우드스피커 각도들의 수정된 세트
Figure pat00008
을 야기한다. Lvirt은 가상의 라우드스피커들의 수이다. 라우드스피커 각도들의 수정된 세트는 3D 디코드 행렬 설계 단계(11)에서 이용된다. 또한, HOA 차수 N(일반적으로 음장 시그널의 계수들의 차수)은 단계(11)에서 제공되는 것(i11)이 필요하다.
3D 디코드 행렬 설계 단계(11)는 3D 디코드 행렬을 생성하기 위한 임의의 알려진 방법을 수행한다. 바람직하게는, 3D 디코드 행렬은 에너지-보존 타입의 디코딩/렌더링에 적절하다. 예를 들어, PCT/EP2013/065034에서 설명된 방법이 이용될 수 있다. 3D 디코드 행렬 설계 단계(11)는 L'=L+Lvirt개의 라우드스피커 시그널을 렌더링하는 것에 적절한 디코드 행렬 또는 렌더링 행렬
Figure pat00009
을 야기하고, Lvirt은 "가상의 라우드스피커 위치 추가" 단계(10)에서 추가된 가상의 라우드스피커 위치들의 수이다.
L개의 라우드스피커만이 물리적으로 이용 가능하므로, 3D 디코드 행렬 설계 단계(11)로부터 야기되는 디코드 행렬
Figure pat00010
은 다운믹싱하는 단계(12)에서 L개의 라우드스피커에 맞춰 조정되는(adapted) 것이 필요하다. 이 단계는 디코드 행렬
Figure pat00011
의 다운믹싱을 수행하고, 가상의 라우드스피커들에 관한 계수들은 존재하는 라우드스피커들에 관한 계수들에 가중되고 분산된다. 바람직하게는, 임의의 특정한 HOA 차수(즉, 디코드 행렬
Figure pat00012
의 열)의 계수들은 동일한 HOA 차수(즉, 디코드 행렬
Figure pat00013
의 동일한 열)의 계수들에 가중되고 추가된다. 하나의 예는 이하의 식(8)에 따른 다운믹싱이다. 다운믹싱하는 단계(12)는 L개의 행을 갖는, 즉, 디코드 행렬
Figure pat00014
보다 더 적은 행들을 갖지만 디코드 행렬
Figure pat00015
과 동일한 수의 열들을 갖는 다운믹싱된 3D 디코드 행렬
Figure pat00016
를 야기한다. 다시 말해서, 디코드 행렬
Figure pat00017
의 차원은 (L+Lvirt)×O3D이고, 다운믹싱된 3D 디코드 행렬
Figure pat00018
의 차원은 L×O3D이다.
도 2는 HOA 디코드 행렬
Figure pat00019
으로부터 다운믹싱된 HOA 디코드 행렬
Figure pat00020
의 대표적인 구조를 보여준다. HOA 디코드 행렬
Figure pat00021
은 2개의 가상의 라우드스피커 위치가 L개의 이용 가능한 라우드스피커 위치에 추가되는 것을 의미하는 L+2개의 행 및 O3D개의 열을 가지며, O3D=(N+1)2이고 N은 HOA 차수이다. 다운믹싱하는 단계(12)에서, HOA 디코드 행렬
Figure pat00022
의 행 L+1 및 L+2의 계수들은 그들 각각의 열의 계수들에 가중되고 분산되며, 행 L+1 및 L+2는 제거된다. 예를 들어, 행 L+1 및 L+2 각각의 제1 계수들 d'L+1,1 및 d'L+2,1은 d'1,1과 같은 각각의 남은 행의 제1 계수들에 가중되고 추가된다. 다운믹싱된 HOA 디코드 행렬
Figure pat00023
의 결과적인 계수
Figure pat00024
은 d'1,1, d'L+1,1, d'L+2,1 및 가중치 인자
Figure pat00025
의 함수이다. 동일한 방식으로, 예컨대, 다운믹싱된 HOA 디코드 행렬
Figure pat00026
의 결과적인 계수
Figure pat00027
은 d'2,1, d'L+1,1, d'L+2,1 및 가중치 인자
Figure pat00028
의 함수이고, 다운믹싱된 HOA 디코드 행렬
Figure pat00029
의 결과적인 계수
Figure pat00030
는 d'1,2, d'L+1,2, d'L+2,2 및 가중치 인자
Figure pat00031
의 함수이다.
보통, 다운믹싱된 HOA 디코드 행렬
Figure pat00032
는 정규화 단계(13)에서 정규화될 것이다. 그러나, 이 단계(13)는 선택적인데, 왜냐하면 비정규화된 디코드 행렬 또한 음장 시그널을 디코딩하기 위해 이용될 수 있기 때문이다. 일 실시예에서, 다운믹싱된 HOA 디코드 행렬
Figure pat00033
는 이하의 식(9)에 따라 정규화된다. 정규화 단계(13)는 정규화되고 다운믹싱된 HOA 디코드 행렬
Figure pat00034
를 야기하고, 이는 다운믹싱된 HOA 디코드 행렬
Figure pat00035
와 동일한 차원 L×O3D를 가진다.
다음으로, 정규화되고 다운믹싱된 HOA 디코드 행렬
Figure pat00036
는 음장 디코딩 단계(14)에서 이용될 수 있고, 입력 음장 시그널(i14)은 L개의 라우드스피커 시그널(q14)로 디코딩된다. 보통, 정규화되고 다운믹싱된 HOA 디코드 행렬
Figure pat00037
는 라우드스피커 셋업이 수정될 때까지는 수정될 필요가 없다. 따라서, 일 실시예에서, 정규화되고 다운믹싱된 HOA 디코드 행렬
Figure pat00038
는 디코드 행렬 저장소에 저장된다.
도 3은 실시예에서 라우드스피커 위치들이 어떻게 획득되고 수정되는지 상세하게 보여준다. 이 실시예는 L개의 라우드스피커의 위치들
Figure pat00039
및 음장 시그널의 계수들의 차수 N을 결정하는 단계(101), 위치들로부터 L개의 라우드스피커가 실질적으로 2D 평면에 있는 것을 결정하는 단계(102), 및 가상의 라우드스피커의 적어도 하나의 가상의 위치
Figure pat00040
을 생성하는 단계(103)를 포함한다. 일 실시예에서, 적어도 하나의 가상의 위치
Figure pat00041
은
Figure pat00042
및
Figure pat00043
중 하나이다. 일 실시예에서, 두 개의 가상의 라우드스피커에 대응하는 두 개의 가상의 위치
Figure pat00044
및
Figure pat00045
가 생성되며(103),
Figure pat00046
및
Figure pat00047
이다.
일 실시예에 따르면, 알려진 위치들에서의 L개의 라우드스피커를 위해, 인코딩된 오디오 시그널을 디코딩하기 위한 방법은 L개의 라우드스피커의 위치들
Figure pat00048
및 음장 시그널의 계수들의 차수 N을 결정하는 단계(101), 위치들로부터 L개의 라우드스피커가 실질적으로 2D 평면에 있는 것을 결정하는 단계(102), 가상의 라우드스피커의 적어도 하나의 가상의 위치
Figure pat00049
을 생성하는 단계(103), 3D 디코드 행렬
Figure pat00050
을 생성하는 단계(11) - L개의 라우드스피커의 결정된 위치들
Figure pat00051
및 적어도 하나의 가상의 위치
Figure pat00052
이 이용되고, 3D 디코드 행렬
Figure pat00053
은 상기 결정된 라우드스피커 위치들 및 가상의 라우드스피커 위치들을 위한 계수들을 가짐 -, 3D 디코드 행렬
Figure pat00054
을 다운믹싱하는 단계(12) - 가상의 라우드스피커 위치들을 위한 계수들은 결정된 라우드스피커 위치들에 관한 계수들에 가중되고 분산되며, 결정된 라우드스피커 위치들을 위한 계수들을 갖는 다운스케일링된 3D 디코드 행렬
Figure pat00055
가 획득됨 -, 및 다운스케일링된 3D 디코드 행렬
Figure pat00056
를 이용하여, 인코딩된 오디오 시그널(i14)을 디코딩하는 단계(14) - 복수의 디코딩된 라우드스피커 시그널(q14)이 획득됨 - 를 포함한다.
일 실시예에서, 인코딩된 오디오 시그널은 예컨대, HOA 포맷의 음장 시그널이다. 일 실시예에서, 가상의 라우드스피커의 적어도 하나의 가상의 위치
Figure pat00057
은
Figure pat00058
및
Figure pat00059
중 하나이다. 일 실시예에서, 가상의 라우드스피커 위치들을 위한 계수들은 가중치 요소
Figure pat00060
로 가중된다. 일 실시예에서, 방법은 다운스케일링된 3D 디코드 행렬
Figure pat00061
를 정규화하는 추가적인 단계를 가지고, 정규화되고 다운스케일링된 3D 디코드 행렬
Figure pat00062
가 획득되며, 인코딩된 오디오 시그널(i14)을 디코딩하는 단계(14)는 정규화되고 다운스케일링된 3D 디코드 행렬
Figure pat00063
를 이용한다. 일 실시예에서, 방법은 디코드 행렬 저장소에 다운스케일링된 3D 디코드 행렬
Figure pat00064
또는 정규화되고 다운믹싱된 HOA 디코드 행렬
Figure pat00065
를 저장하는 추가적인 단계를 가진다.
일 실시예에 따르면, 라우드스피커들의 주어진 세트에 음장 시그널을 렌더링하거나 디코딩하기 위한 디코드 행렬은 종래의 방법을 이용하고 수정된 라우드스피커 위치들을 이용하여 제1 예비 디코드 행렬을 생성하고 - 수정된 라우드스피커 위치들은 라우드스피커들의 주어진 세트의 라우드스피커 위치들 및 적어도 하나의 추가적인 가상의 라우드스피커 위치를 포함함 -, 제1 예비 디코드 행렬을 다운믹싱하는 것에 의해 생성되고, 적어도 하나의 추가적인 가상의 라우드스피커에 관한 계수들은 제거되고 라우드스피커들의 주어진 세트의 라우드스피커들에 관한 계수들에 분산된다. 일 실시예에서, 디코드 행렬을 정규화하는 후속 단계가 이어진다. 결과적인 디코드 행렬은 라우드스피커들의 주어진 세트에 음장 시그널을 렌더링하거나 디코딩하는 것에 적절하고, 어떠한 라우드스피커도 존재하지 않는 위치들로부터의 사운드조차 올바른 시그널 에너지와 함께 재생된다. 이것은 개선된 디코드 행렬의 구조 때문이다. 바람직하게는, 제1 예비 디코드 행렬은 에너지 보존적이다.
도 4의 a)는 일 실시예에 따른 장치의 블록 다이어그램을 보여준다. 알려진 위치들에 있는 L개의 라우드스피커를 위해 음장 포맷의 인코딩된 오디오 시그널을 디코딩하기 위한 장치(400)는 적어도 하나의 가상의 라우드스피커의 적어도 하나의 위치를 L개의 라우드스피커의 위치들에 추가하기 위한 추가 유닛(adder unit)(410), 3D 디코드 행렬
Figure pat00066
을 생성하기 위한 디코드 행렬 생성기 유닛(decode matrix generator unit)(411) - L개의 라우드스피커의 위치들
Figure pat00067
및 적어도 하나의 가상의 위치
Figure pat00068
이 이용되고, 3D 디코드 행렬
Figure pat00069
은 상기 결정된 라우드스피커 위치들 및 가상의 라우드스피커 위치들을 위한 계수들을 가짐 -, 3D 디코드 행렬
Figure pat00070
을 다운믹싱하기 위한 행렬 다운믹싱 유닛(412) - 가상의 라우드스피커 위치들을 위한 계수들은 결정된 라우드스피커 위치들에 관한 계수들에 가중되고 분산되며, 결정된 라우드스피커 위치들을 위한 계수들을 갖는 다운스케일링된 3D 디코드 행렬
Figure pat00071
가 획득됨 -, 및 다운스케일링된 3D 디코드 행렬
Figure pat00072
를 이용하여, 인코딩된 오디오 시그널을 디코딩하기 위한 디코딩 유닛(414) - 복수의 디코딩된 라우드스피커 시그널이 획득됨 - 을 포함한다.
일 실시예에서, 장치는 다운스케일링된 3D 디코드 행렬
Figure pat00073
를 정규화하기 위한 정규화 유닛(413)을 더 포함하고, 정규화되고 다운스케일링된 3D 디코드 행렬
Figure pat00074
가 획득되며, 디코딩 유닛(414)은 정규화되고 다운스케일링된 3D 디코드 행렬
Figure pat00075
를 이용한다. 도 4의 b)에서 보여진 일 실시예에서, 장치는 L개의 라우드스피커의 위치들(
Figure pat00076
) 및 음장 시그널의 계수들의 차수 N을 결정하기 위한 제1 결정 유닛(4101), 위치들로부터 L개의 라우드스피커가 실질적으로 2D 평면에 있는 것을 결정하기 위한 제2 결정 유닛(4102), 및 가상의 라우드스피커의 적어도 하나의 가상의 위치(
Figure pat00077
)를 생성하기 위한 가상 라우드스피커 위치 생성 유닛(4103)을 더 포함한다. 일 실시예에서, 장치는 인코딩된 오디오 시그널을 복수의 주파수 대역으로 분리(separating)하기 위한 복수의 대역 통과 필터(band pass filter)(715b)를 더 포함하고, 각각의 주파수 대역에 대해 하나씩 복수의 분리된 3D 디코드 행렬
Figure pat00078
이 생성되고(711b), 각각의 3D 디코드 행렬
Figure pat00079
은 다운믹싱되고(712b) 선택적으로는(optionally) 별개로 정규화되고, 디코딩 유닛(714b)은 각각의 주파수 대역을 별개로 디코딩한다. 이 실시예에서, 장치는 각각의 라우드스피커에 대해 하나씩 복수의 추가 유닛(716b)을 더 포함한다. 각각의 추가 유닛은 각각의 라우드스피커에 관한 주파수 대역들을 합산한다(add up).
추가 유닛(410), 디코드 행렬 생성기 유닛(411), 행렬 다운믹싱 유닛(412), 정규화 유닛(413), 디코딩 유닛(414), 제1 결정 유닛(4101), 제2 결정 유닛(4102) 및 가상 라우드스피커 위치 생성기 유닛(4103) 중 각각은 하나 이상의 프로세서에 의해 구현될 수 있고, 이러한 유닛들 중 각각은 이러한 또는 다른 유닛들 중 임의의 다른 것과 동일한 프로세서를 공유할 수 있다.
도 7은 입력 시그널의 상이한 주파수 대역들에서 별개로 최적화된 디코드 행렬들을 이용하는 실시예를 보여준다. 이 실시예에서, 디코딩 방법은 대역 통과 필터들을 이용하여, 인코딩된 오디오 시그널을 복수의 주파수 대역으로 분리하는 단계를 포함한다. 각각의 주파수 대역에 대해 하나씩 복수의 분리된 3D 디코드 행렬
Figure pat00080
이 생성되고(711b), 각각의 3D 디코드 행렬
Figure pat00081
은 다운믹싱되고(712b) 선택적으로는 별개로 정규화된다. 인코딩된 오디오 시그널을 디코딩하는 것(714b)은 각각의 주파수 대역에서 별개로 수행된다. 이는 인간의 인지(human perception)에서의 주파수-의존 차이점들이 고려될 수 있고, 상이한 주파수 대역들에 대해 상이한 디코드 행렬들을 야기할 수 있다는 장점을 가진다. 일 실시예에서, 디코드 행렬 중 단 하나 또는 그 이상(전부는 아님)만이 가상의 라우드스피커 위치들을 추가하고, 다음으로 앞서 설명한 것처럼 존재하는 라우드스피커 위치들을 위한 계수들에 그것들의 계수들을 가중하고 분산시키는 것에 의해 생성된다. 다른 실시예에서, 각각의 디코드 행렬들은 가상의 라우드스피커 위치들을 추가하고, 다음으로 앞서 설명한 것처럼 존재하는 라우드스피커 위치들을 위한 계수들에 그것들의 계수들을 가중하고 분산시키는 것에 의해 생성된다. 최종적으로, 동일한 라우드스피커에 관한 모든 주파수 대역은 주파수 대역 분할(frequency band splitting)의 반대의 동작으로, 라우드스피커 당 하나의 주파수 대역 추가 유닛(716b)에서 합산된다.
추가 유닛(410), 디코드 행렬 생성기 유닛(711b), 행렬 다운믹싱 유닛(712b), 정규화 유닛(713b), 디코딩 유닛(714b), 주파수 대역 추가 유닛(716b) 및 대역 통과 필터 유닛(715b) 중 각각은 하나 이상의 프로세서에 의해 구현될 수 있고, 이러한 유닛들 중 각각은 이러한 또는 다른 유닛들 중 임의의 다른 것과 동일한 프로세서를 공유할 수 있다.
본 개시내용의 일 양태는 양호한 에너지 보존 속성들과 함께 2D 셋업을 위한 렌더링 행렬을 획득하는 것이다. 일 실시예에서, 두 개의 가상의 라우드스피커는 상단 및 하단에 추가된다(이것은 +90° 및 -90° 앙각에 대응하며, 2D 라우드스피커들은 대략 0°의 앙각에 위치함). 이 가상의 3D 라우드스피커 셋업에 대하여, 렌더링 행렬은 에너지 보존 속성을 만족시키도록 설계된다. 최종적으로, 가상의 라우드스피커들을 위한 렌더링 행렬로부터의 가중치 인자들은 2D 셋업의 실제 라우드스피커들에 대한 일정한 이득들과 믹싱된다. 이하에서는, 앰비소닉스(특히, HOA) 렌더링이 설명된다. 앰비소닉스 렌더링은 앰비소닉스 음장 설명으로부터의 라우드스피커 시그널들의 계산(computation) 프로세스이다. 종종, 이는 앰비소닉스 디코딩으로도 지칭된다. N 차수의 3D 앰비소닉스 음장 표현이 고려되는데, 계수들의 수는 다음과 같다.
O3D=(N+1)2 (1)
시간 샘플 t에 대한 계수들은 O3D개의 요소와 함께 벡터
Figure pat00082
에 의해 나타내어진다. 렌더링 행렬
Figure pat00083
에서, 시간 샘플 t에 대한 라우드스피커 시그널들은
Figure pat00084
(2)
에 의해 계산되고,
Figure pat00085
이고
Figure pat00086
이며, L은 라우드스피커들의 수이다.
라우드스피커들의 위치들은
Figure pat00087
에 대하여, 그것의 경사각
Figure pat00088
및 방위각
Figure pat00089
에 의해 정의되며, 이들은 벡터
Figure pat00090
로 조합된다. 리스닝 위치로부터의 상이한 라우드스피커 거리들은 라우드스피커 채널들에 대하여 개별 지연들을 이용하는 것에 의해 보상된다. HOA 도메인에서 시그널 에너지는
Figure pat00091
(3)
에 의해 주어지고,
Figure pat00092
는 {켤레 복소(conjugate complex)} 전치됨(transposed)을 의미한다. 라우드스피커 시그널들의 대응하는 에너지는 다음에 의해 계산된다.
Figure pat00093
(4)
에너지-보존 디코딩/렌더링을 달성하기 위해, 에너지 보존 디코드/렌더링 행렬에 대한 비율
Figure pat00094
가 일정해야만 한다.
원칙적으로, 개선된 2D 렌더링을 위한 다음의 확장이 제안된다. 2D 라우드스피커 셋업들을 위한 렌더링 행렬들의 설계를 위해, 하나 이상의 가상의 라우드스피커가 추가된다. 2D 셋업들은 라우드스피커들의 앙각들이 정의된 작은 범위 내에 있어서 그것들이 수평면에 가까운 것으로서 이해된다. 이는 다음에 의해 표현될 수 있다.
Figure pat00095
(5)
임계값
Figure pat00096
는 일 실시예에서 보통 5° 내지 10°의 범위 내의 값에 대응하도록 선택된다.
렌더링 설계에 대하여, 라우드스피커 각도들
Figure pat00097
의 수정된 세트가 정의된다. 마지막 라우드스피커 위치들(이 예에서는 두 개)은 극 좌표계의 북점(north pole) 및 남점(south pole)(수직 방향으로, 즉, 상단 및 하단)에서 두 개의 가상의 라우드스피커의 위치들이다.
Figure pat00098
Figure pat00099
(6)
Figure pat00100
따라서, 렌더링 설계를 위해 이용되는 라우드스피커의 새로운 수는 L'=L+2이다. 이러한 수정된 라우드스피커 위치들로부터, 렌더링 행렬
Figure pat00101
은 에너지 보존 접근으로 설계된다. 예를 들어, [1]에서 설명된 설계 방법이 이용될 수 있다. 이제 본래의 라우드스피커 셋업을 위한 최종적인 렌더링 행렬은
Figure pat00102
으로부터 도출된다. 하나의 아이디어는 실제의 라우드스피커들에 행렬
Figure pat00103
에서 정의된 가상의 라우드스피커를 위한 가중치 인자들을 믹싱하는 것이다. 고정된 이득 인자는 다음으로 선택되어 이용된다.
Figure pat00104
(7)
중간 행렬(intermediate matrix)
Figure pat00105
(본 명세서에서 다운스케일링된 3D 디코드 행렬로도 지칭됨)의 계수들은
Figure pat00106
및
Figure pat00107
에 대해
Figure pat00108
(8)
에 의해 정의되고,
Figure pat00109
는
Figure pat00110
번째 행 및
Figure pat00111
번째 열에서의
Figure pat00112
의 행렬 요소이다. 선택적인 최종의 단계에서, 중간 행렬(다운스케일링된 3D 디코드 행렬)은 프로베니우스 놈(Frobenius norm)을 이용하여 정규화된다.
Figure pat00113
(9)
도 5 및 도 6은 5.0 서라운드 라우드스피커 셋업을 위한 에너지 분포들을 보여준다. 두 도면들에서, 에너지 값들은 그레이스케일(greyscale)들로서 보여지고, 원들은 라우드스피커 위치들을 나타낸다. 개시된 방법에서, 특히 상단에서의 감쇠는(여기서 보여지지 않지만, 하단에서도) 분명히 감소된다.
도 5는 종래의 디코드 행렬로부터 야기되는 에너지 분포를 보여준다. z=0 평면 근처의 작은 원들은 라우드스피커 위치들을 나타낸다. 볼 수 있는 것처럼, 에너지 범위 [-3.9, ..., 2.1] dB이 포괄되고, 이는 6 dB의 에너지 차이들을 야기한다. 추가로, 단위 구(unit sphere)의 상단으로부터의(보여지지 않지만, 하단에서도) 시그널들은 매우 낮은 에너지로, 즉, 들을 수 없게 재생되는데, 왜냐하면 여기서는 어떠한 라우드스피커들도 이용 가능하지 않기 때문이다.
도 6은 하나 이상의 실시예에 따른 디코드 행렬로부터 야기되는 에너지 분포를 보여주며, 도 5에서와 동일한 수량의 라우드스피커들이 동일한 위치들에 있다. 적어도 다음의 장점들이 제공된다: 첫째로, 더 작은 에너지 범위 [-1.6, ..., 0.8] dB이 포괄되고, 이는 더 작은 2.4 dB의 에너지 차이들만을 야기한다. 둘째로, 단위 구의 모든 방향으로부터의 시그널들은 이용 가능한 라우드스피커들이 거기에 없더라도 그것들의 올바른 에너지와 함께 재생된다. 이러한 시그널들이 이용 가능한 라우드스피커들을 통하여 재생되므로, 그것들의 정위는 올바르지는 않지만, 시그널들은 올바른 음량으로 들을 수 있다. 이 예에서, 상단으로부터의 시그널들과 하단에서의(보이지 않음) 시그널들은 개선된 디코드 행렬을 이용한 디코딩으로 인하여 들을 수 있게 된다.
실시예에서, 알려진 위치들에 있는 L개의 라우드스피커를 위해 앰비소닉스 포맷의 인코딩된 오디오 시그널을 디코딩하기 위한 방법은 L개의 라우드스피커의 위치들에 적어도 하나의 가상의 라우드스피커의 적어도 하나의 위치를 추가하는 단계, 3D 디코드 행렬
Figure pat00114
을 생성하는 단계 - L개의 라우드스피커의 위치들
Figure pat00115
및 적어도 하나의 가상의 위치
Figure pat00116
이 이용되고, 3D 디코드 행렬
Figure pat00117
은 상기 결정된 라우드스피커 위치들 및 가상의 라우드스피커 위치들을 위한 계수들을 가짐 -, 3D 디코드 행렬
Figure pat00118
을 다운믹싱하는 단계 - 가상의 라우드스피커 위치들을 위한 계수들은 결정된 라우드스피커 위치들에 관한 계수들에 가중되고 분산되며, 결정된 라우드스피커 위치들을 위한 계수들을 갖는 다운스케일링된 3D 디코드 행렬
Figure pat00119
가 획득됨 -, 및 다운스케일링된 3D 디코드 행렬
Figure pat00120
를 이용하여, 인코딩된 오디오 시그널을 디코딩하는 단계 - 복수의 디코딩된 라우드스피커 시그널이 획득됨 - 를 포함한다.
다른 실시예에서, 알려진 위치들에 있는 L개의 라우드스피커를 위해 앰비소닉스 포맷의 인코딩된 오디오 시그널을 디코딩하기 위한 장치는 L개의 라우드스피커의 위치들에 적어도 하나의 가상의 라우드스피커의 적어도 하나의 위치를 추가하기 위한 추가 유닛(410), 3D 디코드 행렬
Figure pat00121
을 생성하기 위한 디코드 행렬 생성기 유닛(411) - L개의 라우드스피커의 위치들
Figure pat00122
및 적어도 하나의 가상의 위치
Figure pat00123
이 이용되고, 3D 디코드 행렬
Figure pat00124
은 상기 결정된 라우드스피커 위치들 및 가상의 라우드스피커 위치들을 위한 계수들을 가짐 -, 3D 디코드 행렬
Figure pat00125
을 다운믹싱하기 위한 행렬 다운믹싱 유닛(412) - 가상의 라우드스피커 위치들을 위한 계수들은 결정된 라우드스피커 위치들에 관한 계수들에 가중되고 분산되며, 결정된 라우드스피커 위치들을 위한 계수들을 갖는 다운스케일링된 3D 디코드 행렬
Figure pat00126
가 획득됨 -, 및 다운스케일링된 3D 디코드 행렬
Figure pat00127
를 이용하여, 인코딩된 오디오 시그널을 디코딩하기 위한 디코딩 유닛(414) - 복수의 디코딩된 라우드스피커 시그널이 획득됨 - 을 포함한다.
또 다른 실시예에서, 알려진 위치들에 있는 L개의 라우드스피커를 위해 앰비소닉스 포맷의 인코딩된 오디오 시그널을 디코딩하기 위한 장치는 적어도 하나의 프로세서 및 적어도 하나의 메모리를 포함하며, 메모리는 프로세서 상에서 실행될 때 L개의 라우드스피커의 위치들에 적어도 하나의 가상의 라우드스피커의 적어도 하나의 위치를 추가하기 위한 추가 유닛(410), 3D 디코드 행렬
Figure pat00128
을 생성하기 위한 디코드 행렬 생성기 유닛(411) - L개의 라우드스피커의 위치들
Figure pat00129
및 적어도 하나의 가상의 위치
Figure pat00130
이 이용되고, 3D 디코드 행렬
Figure pat00131
은 상기 결정된 라우드스피커 위치들 및 가상의 라우드스피커 위치들을 위한 계수들을 가짐 -, 3D 디코드 행렬
Figure pat00132
을 다운믹싱하기 위한 행렬 다운믹싱 유닛(412) - 가상의 라우드스피커 위치들을 위한 계수들은 결정된 라우드스피커 위치들에 관한 계수들에 가중되고 분산되며, 결정된 라우드스피커 위치들을 위한 계수들을 갖는 다운스케일링된 3D 디코드 행렬
Figure pat00133
가 획득됨 -, 및 다운스케일링된 3D 디코드 행렬
Figure pat00134
를 이용하여, 인코딩된 오디오 시그널을 디코딩하기 위한 디코딩 유닛(414) - 복수의 디코딩된 라우드스피커 시그널이 획득됨 - 을 구현하는 저장된 명령어들을 가진다.
또 다른 실시예에서, 컴퓨터 판독 가능 저장 매체는 컴퓨터가 알려진 위치들에 있는 L개의 라우드스피커를 위해 앰비소닉스 포맷의 인코딩된 오디오 시그널을 디코딩하기 위한 방법을 수행하게 하는 저장된 실행 가능한 명령어들을 가지고, 방법은 L개의 라우드스피커의 위치들에 적어도 하나의 가상의 라우드스피커의 적어도 하나의 위치를 추가하는 단계, 3D 디코드 행렬
Figure pat00135
을 생성하는 단계 - L개의 라우드스피커의 위치들
Figure pat00136
및 적어도 하나의 가상의 위치
Figure pat00137
이 이용되고, 3D 디코드 행렬
Figure pat00138
은 상기 결정된 라우드스피커 위치들 및 가상의 라우드스피커 위치들을 위한 계수들을 가짐 -, 3D 디코드 행렬
Figure pat00139
을 다운믹싱하는 단계 - 가상의 라우드스피커 위치들을 위한 계수들은 결정된 라우드스피커 위치들에 관한 계수들에 가중되고 분산되며, 결정된 라우드스피커 위치들을 위한 계수들을 갖는 다운스케일링된 3D 디코드 행렬
Figure pat00140
가 획득됨 -, 및 다운스케일링된 3D 디코드 행렬
Figure pat00141
를 이용하여, 인코딩된 오디오 시그널을 디코딩하는 단계 - 복수의 디코딩된 라우드스피커 시그널이 획득됨 - 를 포함한다. 추가로, 컴퓨터 판독 가능 저장 매체의 실시예들은 앞서 설명된 임의의 특징들, 특히 청구항 1을 다시 참조하는 종속 청구항들에서 개시된 특징들을 포함할 수 있다.
본 발명은 순수하게 예시의 방식으로만 설명되었고, 세부 사항의 수정들은 본 발명의 범위를 벗어나지 않고 만들어질 수 있다고 이해될 것이다. 예를 들어, HOA에 관하여만 설명되었다 하더라도, 본 발명은 또한 다른 음장 오디오 포맷들에 적용될 수 있다. 본 설명 및 (적당한) 청구항들 및 도면들에 개시된 각각의 특징은 독립적으로 또는 임의의 적절한 조합으로 제공될 수 있다. 특징들은 하드웨어, 소프트웨어, 또는 두 개의 조합으로 적절하게 구현될 수 있다. 청구항들에 나타나는 참조 번호들은 오직 예시이고 청구항들의 범위를 한정하는 효과를 갖지 않는다.
다음의 참조들은 앞서 인용되었다.
[1] 국제 특허 공보 No.WO2014/012945A1 (PD120032)
[2] F.Zotter 및 M.Frank, "올라운드 앰비소닉 패닝 및 디코딩(All-Round Ambisonic Panning and Decoding)", J.Audio Eng. Soc., 2012, Vol. 60, pp. 807-820

Claims (2)

  1. L개의 라우드스피커(loudspeaker)를 위해 인코딩된 앰비소닉스 포맷(Ambisonics format) 오디오 시그널을 디코딩하기 위한 방법으로서,
    적어도 하나의 가상의 라우드스피커(virtual loudspeaker)의 적어도 하나의 가상의 위치를 상기 L개의 라우드스피커의 위치들에 추가하는 단계;
    상기 L개의 라우드스피커의 상기 위치들 및 상기 적어도 하나의 가상의 위치에 기초하여 제1 행렬을 결정하는 단계 - 상기 제1 행렬은 상기 L개의 라우드스피커의 상기 위치들 및 가상의 라우드스피커 위치들을 위한 계수들을 가짐 -;
    상기 제1 행렬의 상기 가상의 라우드스피커 위치들을 위한 계수들의 가중(weighting) 및 분산(distributing)에 기초하여 제2 행렬을 결정하는 단계 - 상기 제2 행렬은 상기 L개의 라우드스피커의 상기 위치들을 위한 계수들을 갖고 상기 가상의 라우드스피커 위치들을 위한 상기 계수들은 가중치 인자(weighting factor)
    Figure pat00142
    로 가중되고, L은 라우드스피커들의 개수임 -; 및
    상기 제2 행렬의 정규화에 기초하여 제3 행렬을 결정하는 단계 - 상기 정규화는 프로베니우스 놈(Frobenius norm)에 기초함 -
    를 포함하는, 방법.
  2. L개의 라우드스피커를 위해 인코딩된 앰비소닉스 포맷 오디오 시그널을 디코딩하기 위한 장치로서,
    적어도 하나의 가상의 라우드스피커의 적어도 하나의 가상의 위치를 상기 L개의 라우드스피커의 위치들에 추가하기 위한 추가 유닛(adder unit);
    상기 L개의 라우드스피커의 상기 위치들 및 상기 적어도 하나의 가상의 위치에 기초하여 제1 행렬을 결정하기 위한 제1 유닛 - 상기 제1 행렬은 상기 L개의 라우드스피커의 상기 위치들 및 가상의 라우드스피커 위치들을 위한 계수들을 가짐 -;
    상기 제1 행렬의 상기 가상의 라우드스피커 위치들을 위한 계수들의 가중 및 분산에 기초하여 제2 행렬을 결정하기 위한 제2 유닛 - 상기 제2 행렬은 상기 L개의 라우드스피커의 상기 위치들을 위한 계수들을 갖고 상기 가상의 라우드스피커 위치들을 위한 상기 계수들은 가중치 인자
    Figure pat00143
    로 가중되고, L은 라우드스피커들의 개수임 -; 및
    상기 제2 행렬의 정규화에 기초하여 제3 행렬을 결정하기 위한 제3 유닛 - 상기 정규화는 프로베니우스 놈에 기초함 -
    을 포함하는, 장치.
KR1020237001978A 2013-10-23 2014-10-20 2d 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치 KR102629324B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020247002360A KR20240017091A (ko) 2013-10-23 2014-10-20 2d 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
EP13290255.2 2013-10-23
EP20130290255 EP2866475A1 (en) 2013-10-23 2013-10-23 Method for and apparatus for decoding an audio soundfield representation for audio playback using 2D setups
PCT/EP2014/072411 WO2015059081A1 (en) 2013-10-23 2014-10-20 Method for and apparatus for decoding an ambisonics audio soundfield representation for audio playback using 2d setups
KR1020217009256A KR102491042B1 (ko) 2013-10-23 2014-10-20 2d 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020217009256A Division KR102491042B1 (ko) 2013-10-23 2014-10-20 2d 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020247002360A Division KR20240017091A (ko) 2013-10-23 2014-10-20 2d 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20230018528A true KR20230018528A (ko) 2023-02-07
KR102629324B1 KR102629324B1 (ko) 2024-01-29

Family

ID=49626882

Family Applications (4)

Application Number Title Priority Date Filing Date
KR1020237001978A KR102629324B1 (ko) 2013-10-23 2014-10-20 2d 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치
KR1020167010383A KR102235398B1 (ko) 2013-10-23 2014-10-20 2d 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치
KR1020247002360A KR20240017091A (ko) 2013-10-23 2014-10-20 2d 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치
KR1020217009256A KR102491042B1 (ko) 2013-10-23 2014-10-20 2d 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치

Family Applications After (3)

Application Number Title Priority Date Filing Date
KR1020167010383A KR102235398B1 (ko) 2013-10-23 2014-10-20 2d 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치
KR1020247002360A KR20240017091A (ko) 2013-10-23 2014-10-20 2d 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치
KR1020217009256A KR102491042B1 (ko) 2013-10-23 2014-10-20 2d 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치

Country Status (16)

Country Link
US (8) US9813834B2 (ko)
EP (5) EP2866475A1 (ko)
JP (6) JP6463749B2 (ko)
KR (4) KR102629324B1 (ko)
CN (6) CN108632737B (ko)
AU (6) AU2014339080B2 (ko)
BR (2) BR112016009209B1 (ko)
CA (5) CA3147196C (ko)
ES (1) ES2637922T3 (ko)
HK (4) HK1221105A1 (ko)
MX (5) MX359846B (ko)
MY (2) MY191340A (ko)
RU (2) RU2679230C2 (ko)
TW (5) TWI651973B (ko)
WO (1) WO2015059081A1 (ko)
ZA (5) ZA201801738B (ko)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9288603B2 (en) 2012-07-15 2016-03-15 Qualcomm Incorporated Systems, methods, apparatus, and computer-readable media for backward-compatible audio coding
US9473870B2 (en) 2012-07-16 2016-10-18 Qualcomm Incorporated Loudspeaker position compensation with 3D-audio hierarchical coding
US9516446B2 (en) 2012-07-20 2016-12-06 Qualcomm Incorporated Scalable downmix design for object-based surround codec with cluster analysis by synthesis
US9761229B2 (en) 2012-07-20 2017-09-12 Qualcomm Incorporated Systems, methods, apparatus, and computer-readable media for audio object clustering
US9736609B2 (en) 2013-02-07 2017-08-15 Qualcomm Incorporated Determining renderers for spherical harmonic coefficients
EP2866475A1 (en) * 2013-10-23 2015-04-29 Thomson Licensing Method for and apparatus for decoding an audio soundfield representation for audio playback using 2D setups
US9838819B2 (en) * 2014-07-02 2017-12-05 Qualcomm Incorporated Reducing correlation between higher order ambisonic (HOA) background channels
EP3375208B1 (en) * 2015-11-13 2019-11-06 Dolby International AB Method and apparatus for generating from a multi-channel 2d audio input signal a 3d sound representation signal
US20170372697A1 (en) * 2016-06-22 2017-12-28 Elwha Llc Systems and methods for rule-based user control of audio rendering
FR3060830A1 (fr) * 2016-12-21 2018-06-22 Orange Traitement en sous-bandes d'un contenu ambisonique reel pour un decodage perfectionne
US10405126B2 (en) 2017-06-30 2019-09-03 Qualcomm Incorporated Mixed-order ambisonics (MOA) audio data for computer-mediated reality systems
SG11202000285QA (en) 2017-07-14 2020-02-27 Fraunhofer Ges Forschung Concept for generating an enhanced sound-field description or a modified sound field description using a multi-layer description
AU2018298874C1 (en) 2017-07-14 2023-10-19 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Concept for generating an enhanced sound field description or a modified sound field description using a multi-point sound field description
US10015618B1 (en) * 2017-08-01 2018-07-03 Google Llc Incoherent idempotent ambisonics rendering
CN114582357A (zh) * 2020-11-30 2022-06-03 华为技术有限公司 一种音频编解码方法和装置
US11743670B2 (en) 2020-12-18 2023-08-29 Qualcomm Incorporated Correlation-based rendering with multiple distributed streams accounting for an occlusion for six degree of freedom applications
CN118800248A (zh) * 2023-04-13 2024-10-18 华为技术有限公司 场景音频解码方法及电子设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100964353B1 (ko) * 2002-11-19 2010-06-17 프랑스 텔레콤 오디오 데이터를 처리하기 위한 방법 및 이에 따른 사운드수집 장치
WO2011117399A1 (en) * 2010-03-26 2011-09-29 Thomson Licensing Method and device for decoding an audio soundfield representation for audio playback

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5594800A (en) * 1991-02-15 1997-01-14 Trifield Productions Limited Sound reproduction system having a matrix converter
GB9204485D0 (en) * 1992-03-02 1992-04-15 Trifield Productions Ltd Surround sound apparatus
US6798889B1 (en) * 1999-11-12 2004-09-28 Creative Technology Ltd. Method and apparatus for multi-channel sound system calibration
ATE433182T1 (de) * 2005-07-14 2009-06-15 Koninkl Philips Electronics Nv Audiokodierung und audiodekodierung
KR100619082B1 (ko) * 2005-07-20 2006-09-05 삼성전자주식회사 와이드 모노 사운드 재생 방법 및 시스템
US8111830B2 (en) * 2005-12-19 2012-02-07 Samsung Electronics Co., Ltd. Method and apparatus to provide active audio matrix decoding based on the positions of speakers and a listener
KR20070099456A (ko) * 2006-04-03 2007-10-09 엘지전자 주식회사 미디어 신호 처리 방법 및 장치
US8379868B2 (en) * 2006-05-17 2013-02-19 Creative Technology Ltd Spatial audio coding based on universal spatial cues
JP5270557B2 (ja) 2006-10-16 2013-08-21 ドルビー・インターナショナル・アクチボラゲット 多チャネルダウンミックスされたオブジェクト符号化における強化された符号化及びパラメータ表現
FR2916078A1 (fr) * 2007-05-10 2008-11-14 France Telecom Procede de codage et decodage audio, codeur audio, decodeur audio et programmes d'ordinateur associes
WO2009046223A2 (en) * 2007-10-03 2009-04-09 Creative Technology Ltd Spatial audio analysis and synthesis for binaural reproduction and format conversion
WO2009128078A1 (en) * 2008-04-17 2009-10-22 Waves Audio Ltd. Nonlinear filter for separation of center sounds in stereophonic audio
EP2124351B1 (en) * 2008-05-20 2010-12-15 NTT DoCoMo, Inc. A spatial sub-channel selection and pre-coding apparatus
EP2175670A1 (en) * 2008-10-07 2010-04-14 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Binaural rendering of a multi-channel audio signal
EP2211563B1 (en) * 2009-01-21 2011-08-24 Siemens Medical Instruments Pte. Ltd. Method and apparatus for blind source separation improving interference estimation in binaural Wiener filtering
KR20110041062A (ko) * 2009-10-15 2011-04-21 삼성전자주식회사 가상 스피커 장치 및 가상 스피커 처리 방법
JP2011211312A (ja) * 2010-03-29 2011-10-20 Panasonic Corp 音像定位処理装置及び音像定位処理方法
JP5652658B2 (ja) * 2010-04-13 2015-01-14 ソニー株式会社 信号処理装置および方法、符号化装置および方法、復号装置および方法、並びにプログラム
US9271081B2 (en) * 2010-08-27 2016-02-23 Sonicemotion Ag Method and device for enhanced sound field reproduction of spatially encoded audio input signals
EP2450880A1 (en) * 2010-11-05 2012-05-09 Thomson Licensing Data structure for Higher Order Ambisonics audio data
EP2469741A1 (en) * 2010-12-21 2012-06-27 Thomson Licensing Method and apparatus for encoding and decoding successive frames of an ambisonics representation of a 2- or 3-dimensional sound field
EP2541547A1 (en) * 2011-06-30 2013-01-02 Thomson Licensing Method and apparatus for changing the relative positions of sound objects contained within a higher-order ambisonics representation
EP2592845A1 (en) * 2011-11-11 2013-05-15 Thomson Licensing Method and Apparatus for processing signals of a spherical microphone array on a rigid sphere used for generating an Ambisonics representation of the sound field
EP2645748A1 (en) * 2012-03-28 2013-10-02 Thomson Licensing Method and apparatus for decoding stereo loudspeaker signals from a higher-order Ambisonics audio signal
US20150131824A1 (en) * 2012-04-02 2015-05-14 Sonicemotion Ag Method for high quality efficient 3d sound reproduction
KR102681514B1 (ko) 2012-07-16 2024-07-05 돌비 인터네셔널 에이비 오디오 재생을 위한 오디오 음장 표현을 렌더링하는 방법 및 장치
CN102932730B (zh) * 2012-11-08 2014-09-17 武汉大学 一种正四面体结构的扬声器组声场效果增强方法及系统
EP2866475A1 (en) * 2013-10-23 2015-04-29 Thomson Licensing Method for and apparatus for decoding an audio soundfield representation for audio playback using 2D setups

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100964353B1 (ko) * 2002-11-19 2010-06-17 프랑스 텔레콤 오디오 데이터를 처리하기 위한 방법 및 이에 따른 사운드수집 장치
WO2011117399A1 (en) * 2010-03-26 2011-09-29 Thomson Licensing Method and device for decoding an audio soundfield representation for audio playback

Also Published As

Publication number Publication date
CN108632737A (zh) 2018-10-09
US20180077510A1 (en) 2018-03-15
CN108777837A (zh) 2018-11-09
US11451918B2 (en) 2022-09-20
US10986455B2 (en) 2021-04-20
TW202403730A (zh) 2024-01-16
MX359846B (es) 2018-10-12
JP6660493B2 (ja) 2020-03-11
AU2022291443A1 (en) 2023-02-02
TWI817909B (zh) 2023-10-01
TWI651973B (zh) 2019-02-21
AU2018267665A1 (en) 2018-12-13
RU2679230C2 (ru) 2019-02-06
KR102629324B1 (ko) 2024-01-29
AU2014339080A1 (en) 2016-05-26
CN108777836A (zh) 2018-11-09
AU2022291444B2 (en) 2024-04-18
ES2637922T3 (es) 2017-10-17
CA3147196C (en) 2024-01-09
TW201517643A (zh) 2015-05-01
RU2016119533A (ru) 2017-11-28
CN108632737B (zh) 2020-11-06
CN108777837B (zh) 2021-08-24
JP2016539554A (ja) 2016-12-15
ZA202210670B (en) 2024-01-31
EP3742763A1 (en) 2020-11-25
CA3147189A1 (en) 2015-04-30
RU2766560C2 (ru) 2022-03-15
MY179460A (en) 2020-11-06
EP2866475A1 (en) 2015-04-29
AU2018267665B2 (en) 2020-11-19
KR20240017091A (ko) 2024-02-06
CN105637902A (zh) 2016-06-01
US20160309273A1 (en) 2016-10-20
EP4213508A1 (en) 2023-07-19
US11770667B2 (en) 2023-09-26
AU2021200911A1 (en) 2021-03-04
BR112016009209A8 (pt) 2017-12-05
JP7529371B2 (ja) 2024-08-06
CA3168427A1 (en) 2015-04-30
TW201923752A (zh) 2019-06-16
CN108337624B (zh) 2021-08-24
BR112016009209A2 (ko) 2017-08-01
CN105637902B (zh) 2018-06-05
TW202329088A (zh) 2023-07-16
US10694308B2 (en) 2020-06-23
BR112016009209B1 (pt) 2021-11-16
CA3147196A1 (en) 2015-04-30
RU2016119533A3 (ko) 2018-07-20
CA3221605A1 (en) 2015-04-30
JP2019068470A (ja) 2019-04-25
CA2924700A1 (en) 2015-04-30
US10158959B2 (en) 2018-12-18
TWI797417B (zh) 2023-04-01
MX2022011447A (es) 2023-02-23
HK1255621A1 (zh) 2019-08-23
AU2022291444A1 (en) 2023-02-02
JP2022008492A (ja) 2022-01-13
ZA202005036B (en) 2022-04-28
TWI841483B (zh) 2024-05-01
US20200382889A1 (en) 2020-12-03
EP3300391A1 (en) 2018-03-28
JP2024138553A (ja) 2024-10-08
ZA201901243B (en) 2021-05-26
KR20210037747A (ko) 2021-04-06
CN108337624A (zh) 2018-07-27
AU2014339080B2 (en) 2018-08-30
MY191340A (en) 2022-06-17
CA2924700C (en) 2022-06-07
TWI686794B (zh) 2020-03-01
EP3061270A1 (en) 2016-08-31
US20210306785A1 (en) 2021-09-30
US20220417690A1 (en) 2022-12-29
KR102491042B1 (ko) 2023-01-26
EP3742763B1 (en) 2023-03-29
CN108632736A (zh) 2018-10-09
HK1221105A1 (zh) 2017-05-19
HK1252979A1 (zh) 2019-06-06
WO2015059081A1 (en) 2015-04-30
ZA202107269B (en) 2023-09-27
MX2022011448A (es) 2023-03-14
EP3061270B1 (en) 2017-07-12
RU2019100542A (ru) 2019-02-28
US20190349699A1 (en) 2019-11-14
MX2018012489A (es) 2020-11-06
ZA201801738B (en) 2019-07-31
AU2022291445A1 (en) 2023-02-02
JP2023078432A (ja) 2023-06-06
US20220408209A1 (en) 2022-12-22
US9813834B2 (en) 2017-11-07
CA3147189C (en) 2024-04-30
JP2020074643A (ja) 2020-05-14
CN108632736B (zh) 2021-06-01
MX2022011449A (es) 2023-03-08
AU2021200911B2 (en) 2022-12-01
BR122017020302B1 (pt) 2022-07-05
EP3300391B1 (en) 2020-08-05
JP7254137B2 (ja) 2023-04-07
RU2019100542A3 (ko) 2021-12-08
TW202022853A (zh) 2020-06-16
JP6950014B2 (ja) 2021-10-13
CN108777836B (zh) 2021-08-24
MX2016005191A (es) 2016-08-08
HK1257203A1 (zh) 2019-10-18
US11750996B2 (en) 2023-09-05
US20240056755A1 (en) 2024-02-15
KR102235398B1 (ko) 2021-04-02
JP6463749B2 (ja) 2019-02-06
KR20160074501A (ko) 2016-06-28

Similar Documents

Publication Publication Date Title
KR102491042B1 (ko) 2d 셋업들을 이용하는 오디오 재생을 위해 앰비소닉스 오디오 음장 표현을 디코딩하기 위한 방법 및 장치

Legal Events

Date Code Title Description
A107 Divisional application of patent
E701 Decision to grant or registration of patent right
GRNT Written decision to grant