KR102202973B1

KR102202973B1 - 사운드 필드를 위해 고차 앰비소닉스 표현을 압축 및 압축 해제하기 위한 방법 및 장치

Info

Publication number: KR102202973B1
Application number: KR1020157015332A
Authority: KR
Inventors: 알렉산더 크뤼거; 스벤 고돈; 요하네스 뵘
Original assignee: 돌비 인터네셔널 에이비
Priority date: 2012-12-12
Filing date: 2013-12-04
Publication date: 2021-01-14
Also published as: JP6869322B2; CA3125246A1; US11546712B2; US20190239020A1; MY169354A; CA2891636C; US10609501B2; EP2743922A1; TWI729581B; JP2015537256A; CA3125228C; JP6640890B2; CA3125228A1; CA3125248C; CN109410965B; US20180310112A1; TWI611397B; RU2017118830A; HK1216356A1; JP2021107938A

Abstract

본 발명은 HOA 사운드 필드 표현 압축을 개선한다. HOA 표현은 우세 사운드 소스들의 존재에 대하여 분석되고 그들의 방향은 추정된다. 그다음에 HOA 표현은 수많은 우세 방향 신호들 및 잔차 성분으로 분해된다. 이 잔차 성분은 균일한 샘플링 방향들에서 일반 평면파 함수들을 얻기 위하여 불연속 공간 영역으로 변환되는데, 균일한 샘플링 방향들은 우세 방향 신호들로부터 예측된다. 최종적으로, 예측 에러는 HOA 영역으로 다시 변환되고 차수 감소가 수행된 잔차 주변 HOA 성분을 나타내며, 우세 방향 신호들 및 잔차 성분의 인지 인코딩이 후속된다.

Description

사운드 필드를 위해 고차 앰비소닉스 표현을 압축 및 압축 해제하기 위한 방법 및 장치{METHOD AND APPARATUS FOR COMPRESSING AND DECOMPRESSING A HIGHER ORDER AMBISONICS REPRESENTATION FOR A SOUND FIELD}

본 발명은 사운드 필드를 위해 고차 앰비소닉스 표현(Higher Order Ambisonics representation)을 압축하고(compressing) 압축을 풀기(decompressing) 위한 방법 및 장치에 관한 것이다.

HOA로 표시되는 고차 앰비소닉스는 3차원 사운드를 표현하는 한 방법을 제공한다. 다른 기술들은 웨이브 필드 합성(wave field synthesis; WFS) 또는 22.2와 같은 채널 기반 방법이다. 채널 기반 방법들과 대조적으로, HOA 표현은 특정 스피커(loudspeaker) 셋업에 독립적이라는 장점을 제공한다. 그러나, 이 유연성은 특정 스피커 셋업에서 HOA 표현의 재생에 요구되는 디코딩 프로세스의 대가이다. 필요한 스피커의 수가 보통 매우 큰 WFS 접근에 비교하여, HOA는 오직 적은 스피커들 만으로 구성되는 셋업들에 또한 렌더링될 수 있다. HOA의 또 다른 장점은 헤드폰들의 바이노럴(binaural) 렌더링에 대한 어떠한 수정 없이도 동일한 표현이 또한 사용될 수 있다는 것이다.

HOA는 절단된(truncated) 구면 조화 함수(Spherical Harmonics; SH) 전개(expansion)에 의한 복잡한 조화 평면파(complex harmonic plane wave) 진폭들의 공간 밀도(spatial density)의 표현에 기반한다. 각각의 전개 계수는 각주파수(angular frequency)의 함수인데, 그것은 시간 영역의 함수에 의해 동등하게 표현될 수 있다. 그러므로, 보편성의 손실 없이, 완전한 HOA 사운드 필드 표현은 실제로

시간 영역 함수들로 구성되는 것으로 가정될 수 있으며, 여기서

는 전개 계수들의 수를 나타낸다. 이 시간 영역 함수들은 이하에서 HOA 계수 시퀀스들(HOA coefficient sequences)로 동등하게 언급될 것이다.

HOA 표현의 공간 분해능(spatial resolution)은 전개의 최대 차수 N이 증가함에 따라 향상된다. 안타깝게도, 전개 계수들의 수

는 차수 N에 따라 이차식으로 증가하며, 구체적으로

= (N + 1)²이다. 예를 들어, 차수 N = 4를 사용하는 전형적인 HOA 표현들은

= 25의 HOA (전개) 계수들을 필요로 한다. 위 고려들에 따르면, 원하는 싱글-채널 샘플링 레이트 f_S 및 샘플당 비트수 N_b가 주어지면, HOA 표현의 전송을 위한 총 비트레이트는

에 의해 결정된다. 샘플당 N_b = 16 비트를 이용하여 f_S = 48kHz의 샘플링 레이트를 갖는 차수 4의 HOA 표현을 전송하는 결과, 19.2MBits/s의 비트 레이트가 얻어질 것인데, 그것은 예를 들어 스트리밍과 같은 많은 실용적 응용들에 대하여 매우 높은 것이다. 따라서 HOA 표현들의 압축은 매우 바람직하다.

(N>1을 갖는) HOA 표현들의 압축을 처리하기 위한 기존의 방법들은 아주 드물다. E. Hellerud, I. Burnett, A. Solvang, U. P. Svensson의 "Encoding Higher Order Ambisonics with AAC"(124th AES Convention, Amsterdam, 2008)가 추구하는가장 쉬운 접근은 인지(perceptual) 코딩 알고리즘인 AAC(Advanced Audio Coding)를 사용하여 개별적인 HOA 계수 시퀀스들의 직접 인코딩을 수행하는 것이다. 그러나, 이러한 접근법에서의 본질적인 문제점은 전혀 들리지 않는 신호들의 인지 코딩이다. 재합성된 재생 신호들은 보통 HOA 계수 시퀀스들의 가중합(weighted sum)에 의해 획득되고, 압축 해제된 HOA 표현이 특정의 스피커 셋업에서 렌더링될 때 인지 코딩 잡음의 언마스킹(unmasking)에 대한 확률은 높다. 인지 코딩 잡음 언마스킹에 대한 주된 문제점은 개별적인 HOA 계수 시퀀스들 간의 높은 교차 상관이다. 개별적인 HOA 계수 시퀀스들에서의 코딩 잡음 신호들이 보통 서로 비상관(uncorrelated)되어 있기 때문에, 인지 코딩 잡음의 보강 중첩(constructive superposition)이 일어날 수 있는 한편, 이와 동시에, 무잡음 HOA 계수 시퀀스들은 중첩 시에 소거된다. 또 다른 문제점은 이 교차 상관들이 인지 코더들의 효율 감소를 야기한다는 것이다.

두 효과들의 정도를 최소화하기 위하여, EP 2469742 A2에서 HOA 표현을 인지 코딩 이전에 불연속 공간 영역에서의 등가 표현으로 변환하는 것이 제안된다. 형식적으로, 그 불연속 공간 영역은 몇몇 불연속 방향들에서 샘플링된, 복잡한 조화 평면파 진폭들의 공간 밀도의 시간 영역 등가이다. 따라서 불연속 공간 영역은

개의 관습적인 시간 영역 신호들로 표현되는데, 스피커들이 공간 영역변환에 대해 가정된 것과 정확히 동일한 방향들에 배치되어 있는 경우, 그것은 샘플링 방향들로부터 영향을 주는 일반 평면파들로 이해될 수 있고, 스피커 신호들에 대응할 것이다. 불연속 공간 영역으로의 변환은 개별적인 공간 영역 신호들 간의 교차 상관들을 감소시키지만, 이 교차 상관들이 완전히 제거되지는 않는다. 상대적으로 높은 교차 상관들에 대한 한 예는 공간 영역 신호들에 의해 커버되는 인접한 방향들 사이에 속하는 방향을 갖는 방향 신호(directional signal)이다.

두 접근법들의 주 단점은 인지 코딩된 신호들의 수가 (N + 1)²이고, 압축된 HOA 표현에 대한 데이터 레이트가 앰비소닉스 차수 N에 따라 이차식으로 증가한다는 것이다.

인지 코딩된 신호들의 수를 감소시키기 위하여, 특허 출원 EP 2665208 A1은 HOA 표현을 주어진 최대 수의 우세(dominant) 방향 신호들 및 잔차 주변 성분(residual ambient component)으로 분해하는 것을 제안한다. 인지 코딩되는 신호들의 수의 감소는 잔차 주변 성분의 차수를 감소시킴에 의하여 달성된다. 이 접근법 배후의 근거는 낮은-차수의 HOA 표현에 의해 잔차를 충분한 정확도로 표현하는 한편, 우세 방향 신호들에 대하여 높은 공간 분해능을 유지하는 것이다.

이 접근법은 사운드 필드에 대한 가정들이 만족되는 한, 즉 그것이 적은 수의 (전차수 N으로 인코딩된 일반 평면파 함수들을 나타내는) 우세 방향 신호들 및 어떠한 방향성도 없는 잔차 주변 성분으로 구성된 경우, 꽤 효과가 있다. 그러나, 분해 후에도 잔차 주변 성분이 몇몇 우세 방향 성분들을 여전히 포함하는 경우, 차수 감소는 압축 해제 후의 렌더링에서 명백하게 인지가능한 에러들을 야기한다. 위 가정들이 위배된 HOA 표현들의 일반적인 예들은 N보다 낮은 차수로 인코딩된 일반 평면파들이다. 그러한 N보다 낮은 차수의 일반 평면파들은 사운드 소스들을 넓어 보이도록 하기 위한 예술적인 생성(artistic creation)에 기인할 수 있고, 구형(spherical) 마이크들에 의한 HOA 사운드 필드 표현들의 녹음과 함께 또한 발생할 수 있다. 두 예 모두에서 사운드 필드는 많은 수의 높게 상관된 공간 영역 신호들에 의하여 표현된다(설명을 위하여 고차 앰비소닉스의 공간 분해능 섹션을 또한 참조).

본 발명이 해결하고자 하는 과제는 특허 출원 EP 2665208 A1에서 설명된 프로세싱에 기인한 단점들을 제거하고, 그렇게 함으로써 다른 인용된 선행 기술의 위에 설명된 단점들 또한 회피하는 것이다.

이 과제는 청구항 1 및 3에 개시된 방법들에 의해 해결된다. 이 방법들을 사용하는 상응하는 장치들은 청구항 2 및 4에 개시된다.

본 발명은 특허출원 EP 2665208 A1에 설명된 HOA 사운드 필드 표현 압축 프로세싱을 개선한다. 우선, EP 2665208 A1에서와 같이, HOA 표현은 우세 사운드 소스들의 존재에 대하여 분석되는데, 그것들의 방향들은 추정된다. 우세 사운드 소스 방향들의 정보로, HOA 표현은 일반 평면파들을 표현하는 많은 수의 우세 방향 신호들, 및 잔차 성분으로 분해된다. 그러나, 이 잔차 HOA 성분의 차수를 즉시 감소시키는 대신, 그것은 일반 평면파 함수들을 얻기 위하여 잔차 HOA 성분을 나타내는 균일한 샘플링 방향들에서 불연속 공간 영역으로 변환된다. 그 후에 이 평면파 함수들은 우세 방향 신호들로부터 예측된다. 이 작업의 이유는 잔차 HOA 성분의 일부가 우세 방향 신호들과 높게 상관될 수 있기 때문이다.

그 예측은 적은 양의 보조 정보(side information)만을 생성하기 위한 간단한 것일 수 있다. 가장 간단한 경우, 예측은 적절한 스케일링과 딜레이로 구성된다. 최종적으로, 예측 에러는 HOA 영역으로 다시 변환되고, 차수 감소가 수행된 잔차 주변 HOA 성분으로 간주된다.

유리하게, 잔차 HOA 성분으로부터 예측가능한 신호들을 빼는 것의 효과는 남은 양의 우세 방향 신호들뿐만 아니라 그것의 전체 전력을 감소시키는 것이고, 그렇게 하여, 차수 감소에 기인하는 분해 에러를 감소시키는 것이다.

원칙적으로, 발명의 압축 방법은 사운드 필드를 위해 HOA로 표시되는 고차 앰비소닉스 표현을 압축하는 데에 적당하며, 상기 방법은:

- HOA 계수들의 현재 시간 프레임으로부터, 우세 사운드 소스 방향들을 추정하는 단계;

- 상기 HOA 계수들과 상기 우세 사운드 소스 방향들에 의존하여, 상기 HOA 표현을 시간 영역의 우세 방향 신호들 및 잔차 HOA 성분으로 분해하는 단계 - 상기 잔차 HOA 성분은 상기 잔차 HOA 성분을 나타내는 균일한 샘플링 방향들에서 평면파 함수들을 얻기 위하여 불연속 공간 영역으로 변환되고, 상기 평면파 함수들은 상기 우세 방향 신호들로부터 예측되고, 그렇게 함으로써 상기 예측을 설명하는 파라미터들을 제공하며, 상응하는 예측 에러는 HOA 영역으로 다시 변환됨 -;

- 상기 잔차 HOA 성분의 현재 차수를 낮은 차수로 감소시켜 감소된-차수의 잔차 HOA 성분을 낳는 단계;

- 상응하는 잔차 HOA 성분 시간 영역 신호들을 얻기 위하여 상기 감소된-차수의 잔차 HOA 성분을 비-상관화하는(de-correlating) 단계;

- 압축된 우세 방향 신호들 및 압축된 잔차 성분 신호들을 제공하기 위하여 상기 우세 방향 신호들과 상기 잔차 HOA 성분 시간 영역 신호들을 인지 인코딩하는 단계

를 포함한다.

원칙적으로, 발명의 압축 장치는 사운드 필드를 위해 HOA로 표시되는 고차 앰비소닉스 표현을 압축하는 데에 적당하며, 상기 장치는:

- HOA 계수들의 현재 시간 프레임으로부터, 우세 사운드 소스 방향들을 추정하도록 구성된 수단;

- 상기 HOA 계수들과 상기 우세 사운드 소스 방향들에 의존하여, 상기 HOA 표현을 시간 영역의 우세 방향 신호들 및 잔차 HOA 성분으로 분해하도록 구성된 수단 - 상기 잔차 HOA 성분은 상기 잔차 HOA 성분을 나타내는 균일한 샘플링 방향들에서 평면파 함수들을 얻기 위하여 불연속 공간 영역으로 변환되고, 상기 평면파 함수들은 상기 우세 방향 신호들로부터 예측되고, 그렇게 함으로써 상기 예측을 설명하는 파라미터들을 제공하며, 상응하는 예측 에러는 HOA 영역으로 다시 변환됨 -;

- 상기 잔차 HOA 성분의 현재 차수를 낮은 차수로 감소시켜 감소된-차수의 잔차 HOA 성분을 낳도록 구성된 수단;

- 상응하는 잔차 HOA 성분 시간 영역 신호들을 얻기 위하여 상기 감소된-차수의 잔차 HOA 성분을 비-상관화하도록(de-correlating) 구성된 수단;

- 압축된 우세 방향 신호들 및 압축된 잔차 성분 신호들을 제공하기 위하여 상기 우세 방향 신호들과 상기 잔차 HOA 성분 시간 영역 신호들을 인지 인코딩하도록 구성된 수단

을 포함한다.

원칙적으로, 발명의 압축 해제 방법은 위의 압축 방법에 따라 압축된 고차 앰비소닉스 표현을 압축 해제하는 데에 적당하며, 상기 압축 해제 방법은:

- 압축 해제된 우세 방향 신호들 및 공간 영역에서 잔차 HOA 성분을 나타내는 압축 해제된 시간 영역 신호들을 제공하기 위하여 상기 압축된 우세 방향 신호들 및 상기 압축된 잔차 성분 신호들을 인지 디코딩하는 단계;

- 상응하는 감소된-차수의 잔차 HOA 성분을 얻기 위하여 상기 압축 해제된 시간 영역 신호들을 재-상관화(re-correlating)하는 단계;

- 상응하는 압축 해제된 잔차 HOA 성분을 제공하기 위하여 상기 감소된-차수의 잔차 HOA 성분의 차수를 원래 차수로 확장(extending)하는 단계;

- 상기 압축 해제된 우세 방향 신호들, 상기 원래 차수의 압축 해제된 잔차 HOA 성분, 상기 추정된 우세 사운드 소스 방향들, 및 상기 예측을 설명하는 상기 파라미터들을 이용하여, HOA 계수들의 상응하는 압축 해제되고 재합성된(recomposed) 프레임을 합성하는(composing) 단계

를 포함한다.

원칙적으로, 발명의 압축 해제 장치는 위의 압축 방법에 따라 압축된 고차 앰비소닉스 표현을 압축 해제하는 데에 적당하며, 상기 압축 해제 장치는:

- 압축 해제된 우세 방향 신호들 및 공간 영역에서 잔차 HOA 성분을 나타내는 압축 해제된 시간 영역 신호들을 제공하기 위하여 상기 압축된 우세 방향 신호들 및 상기 압축된 잔차 성분 신호들을 인지 디코딩하도록 구성된 수단;

- 상응하는 감소된-차수의 잔차 HOA 성분을 얻기 위하여 상기 압축 해제된 시간 영역 신호들을 재-상관화하도록 구성된 수단;

- 상응하는 압축 해제된 잔차 HOA 성분을 제공하기 위하여 상기 감소된-차수의 잔차 HOA 성분의 차수를 원래 차수로 확장하도록 구성된 수단;

- 상기 압축 해제된 우세 방향 신호들, 상기 원래 차수의 압축 해제된 잔차 HOA 성분, 상기 추정된 우세 사운드 소스 방향들, 및 상기 예측을 설명하는 상기 파라미터들을 이용하여, HOA 계수들의 상응하는 압축 해제되고 재합성된(recomposed) 프레임을 합성하도록 구성된 수단

을 포함한다.

본 발명의 유리한 부가적인 실시예들이 각각의 종속항들에 개시된다.

본 발명의 예시적인 실시예들이 첨부 도면들을 참조하여 설명된다.
도 1a는 압축 단계 1: 많은 수의 우세 방향 신호들, 잔차 주변 HOA 성분 및 부가 정보로의 HOA 신호의 분해.
도 1b는 압축 단계 2: 주변 HOA 성분에 대한 차수 감소 및 비-상관화, 및 두 성분의 인지 인코딩.
도 2a는 압축 해제 단계 1: 시간 영역 신호들의 인지 디코딩, 잔차 주변 HOA 성분을 나타내는 신호들의 재-상관화 및 차수 확장.
도 2b는 압축 해제 단계 2: 전체 HOA 표현의 합성.
도 3은 HOA 분해.
도 4는 HOA 합성.
도 5는 구면좌표계.
도 6은 상이한 값들의 N에 대한 정규화된 함수

의 플롯(plot)을 도시한다.

압축 프로세싱

본 발명에 따른 압축 프로세싱은 도 1a 및 도 1b에 각각 도시된 두 개의 연이은 단계들을 포함한다. 개별적인 신호들의 정확한 정의들은 HOA 분해 및 재합성의 상세한 설명 섹션에 기재된다. 길이 B의 HOA 계수 시퀀스들의 오버랩되지 않는(non-overlapping) 입력 프레임들 D(k)를 가진 압축을 위한 프레임 방식의(frame-wise) 프로세싱이 사용되는데, 여기서 k는 프레임 인덱스를 나타낸다. 프레임들은 수학식 42에서 명시되는 HOA 계수 시퀀스들에 대하여

로 정의되며, T_S는 샘플링 주기를 나타낸다.

도 1a에서 HOA 계수 시퀀스들의 프레임 D(k)는 우세 사운드 소스 방향들 추정 단계 또는 스테이지(11)로의 입력이고, 그것은 HOA 표현을 방향들이 추정되는 우세 방향 신호들의 존재에 대하여 분석한다. 방향 추정은 예를 들어 특허 출원 EP 2665208 A1에 설명된 프로세싱에 의해 수행될 수 있다. 추정된 방향들은

로 표시되고,

는 방향 추정의 최대 수를 나타낸다. 그것들은 행렬

내에

로 배열되는(arranged) 것으로 가정된다.

방향 추정들이 이전의 프레임들로부터의 방향 추정들에 그들을 할당함에 의해 적절히 배열되는(ordered) 것이 암시적으로 가정된다. 그러므로, 개별적인 방향 추정의 시간적 시퀀스는 우세 사운드 소스의 방향 궤도(directional trajectory)를 설명하도록 가정된다. 특히, d-번째 우세 사운드 소스가 활성이지 않도록 되어있는 경우,

에 유효하지 않은 값을 할당함으로써 이것을 나타내는 것이 가능하다. 그다음에,

내의 추정된 방향들을 이용하여, HOA 표현은 분해하는 단계 또는 스테이지(12)에서 다수의 최대

우세 방향 신호들

, 우세 방향 신호들로부터의 잔차 HOA 성분의 공간 영역 신호들의 예측을 설명하는 몇몇 파라미터

, 예측 에러를 나타내는 주변 HOA 성분

로 분해된다. 이 분해의 상세한 설명은 HOA 분해 섹션에서 제공된다.

도 1b에서 방향 신호들

및 잔차 주변 HOA 성분

의 인지 코딩이 보여진다. 방향 신호들

은 임의의 기존 인지 압축 기술을 이용하여 개별적으로 압축될 수 있는 관습적인 시간 영역 신호들이다. 주변 HOA 영역 성분

의 압축은 두 개의 연이은 단계 또는 스테이지에서 수행된다. 차수 감소 단계 또는 스테이지(13)에서 앰비소닉스 차수

에 대한 감소가 수행되는데, 예를 들어

에서, 주변 HOA 성분

를 낳는다. 그러한 차수 감소는

내에

HOA 계수들만을 유지하고 다른 것들을 버림에 의하여 달성된다. 디코더 측에서, 아래 설명되는 바와 같이, 생략된 값들에 대하여 대응하는 0 값들이 첨부된다.

특허 출원 EP 2665208 A1의 접근에 비교하여, 잔차 주변 HOA 성분의 방향성의 남은 양뿐만 아니라 전체 전력이 작기 때문에, 감소된 차수

는 일반적으로 더 작게 선택될 수 있음에 주의할 것이다. 그러므로 차수 감소는 EP 2665208 A1에 비교하여 더 적은 에러들을 야기한다.

이하의 비상관화(decorrelation) 단계 또는 스테이지(14)에서, 차수가 감소된 주변 HOA 성분

를 나타내는 HOA 계수 시퀀스들은 시간 영역 신호들

를 얻기 위하여 비상관화 되는데, 그것은 임의의 알려진 인지 압축 기술에 의해 동작하는 (한 층의) 병렬 인지 인코더들 또는 컴프레서들(15)로의 입력이다. 비상관화는 HOA 표현을 압축 해제 후에 렌더링할 때 인지 코딩 잡음의 언마스킹을 회피하기 위하여 수행된다(설명을 위하여 특허 출원 EP 2688065 A1 참조). 근사 비상관화(approximate decorrelation)는 공간 영역에서 EP 2469742 A2에 설명된 구면 조화 변환(Spherical Harmonic Transform)을 적용함으로써

를

등가 신호들로 변환함에 의하여 달성될 수 있다.

다르게는, 특허 출원 EP 2688066 A1에 제안된 바와 같이 적응적 구면 조화 변환(adaptive Spherical Harmonic Transform)이 사용될 수 있는데, 샘플링 방향들의 그리드는 최고의 가능한 비상관화 효과를 달성하기 위하여 회전된다. 또 다른 대안의 비상관화 기술은 특허 출원 EP 2688065 A1에 설명된 KLT(Karhunen-Loeve transform)이다. 마지막 두 종류의 비상관화에 대하여

로 표시되는 몇몇 종류의 부가 정보가 HOA 압축 해제 스테이지에서 비상관화의 복귀(reversion)를 가능하게 하기 위하여 제공됨에 주의할 것이다.

일 실시예에서, 모든 시간 영역 신호

및

의 인지 압축은 코딩 효율을 개선하기 위하여 공동으로 수행된다.

인지 코딩의 출력은 압축된 방향 신호들

및 압축된 주변 시간 영역 신호들

이다.

압축 해제 프로세싱

압축 해제 프로세싱은 도 2a 및 도 2b에 도시된다. 압축과 비슷하게, 그것은 두 개의 연이은 단계로 구성된다. 도 2a에서 잔차 주변 HOA 성분을 나타내는 시간 영역 신호들

및 방향 신호들

의 인지 압축 해제는 인지 디코딩 또는 압축 해제 단계 또는 스테이지(21)에서 수행된다. 결과로 나온 인지적 압축해제된 시간 영역 신호들

은

차의 잔차 성분 HOA 표현

를 제공하기 위하여 재-상관화 단계 또는 스테이지(22)에서 재-상관화된다. 선택적으로, 재-상관화는 사용되었던 비상관화 방법에 따른 전송된 또는 저장된 파라미터들

을 이용하여, 단계/스테이지(14)를 위해 설명된 두 가지 대안의 프로세싱을 위해 설명된 것과 반대의(reverse) 방법으로 수행될 수 있다. 그 후에,

로부터 N차의 적절한 HOA 표현

가 차수 확장 단계 또는 스테이지(23)에서 차수 확장에 의하여 추정된다. 차수 확장은 대응하는 0 값 열들을

에 추가함으로써 달성될 수 있고, 그렇게 함으로써 높은 차수들에 대하여 HOA 계수들이 0 값들을 가진다고 가정한다.

도 2b에서, 전체 HOA 표현은 합성 단계 또는 스테이지(24)에서, 압축 해제된 우세 방향 신호들

과 함께, 상응하는 방향들

와 예측 파라미터들

로부터 뿐만 아니라 잔차 주변 HOA 성분

으로부터 재-합성되어, HOA 계수들의 압축 해제되고 재합성된 프레임

를 낳는다.

모든 시간 영역 신호들

및

의 인지 압축이 코딩 효율을 개선시키기 위하여 공동으로 수행된 경우, 압축된 방향 신호들

및 압축된 시간 영역 신호들

의 인지 압축 해제 또한 상응하는 방법으로 공동으로 수행된다.

재합성의 상세한 설명은 HOA 재합성 섹션에 제공된다.

HOA 분해

HOA 분해를 위하여 수행되는 동작을 도시하는 블록도가 도 3에 주어진다. 동작은 요약된다: 먼저, 평탄화된(smoothed) 우세 방향 신호들

이 인지 압축에 대하여 계산되고(computed) 출력된다. 다음에, 우세 방향 신호들의 HOA 표현

과 원래의 HOA 표현

사이의 잔차는 수많은

방향 신호들

에 의해 표현되는데, 그것은 균일하게 분배된 방향들로부터의 일반 평면파로 생각될 수 있다. 이 방향 신호들은 우세 방향 신호들

로부터 예측되는데, 예측 파라미터

는 출력이다. 마지막으로, 균일하게 분배된 방향들로부터의 예측된 방향 신호들의 HOA 표현

를 함께 가진 우세 방향 신호들의 HOA 표현

와 원래의 HOA 표현

사이의 잔차

가 계산되고 출력된다.

세부 사항으로 가기 전에, 연이은 프레임들 사이의 방향들의 변화가 합성 동안 모든 계산된 신호들의 불연속성을 야기할 수 있음이 언급된다. 그러므로, 오버래핑하는 프레임들에 대한 각각의 신호들의 순간적인 추정이 먼저 계산되는데, 그것은 2B의 길이를 갖는다. 둘째로, 연이은 오버래핑 프레임들의 결과물들은 적절한 윈도우 함수(window function)에 의해 평탄화된다. 그러나, 각각의 평탄화는 단일 프레임의 레이턴시(latency)를 도입한다.

순간적인 우세 방향 신호들의 계산

HOA 계수 시퀀스들의 현재 프레임

에 대한

내의 추정된 사운드 소스 방향들로부터의 단계 또는 스테이지(30)에서의 순간적인 우세 방향 신호들의 계산은 M.A. Poletti, "Three-Dimensional Surround Sound Systems Based on Spherical Harmonics", J. Audio Eng. Soc, 53(11), 페이지 1004-1025, 2005에 설명된 모드 매칭(mode matching)에 기초한다. 특히, 주어진 HOA 신호의 최고의 근사치를 낳는 HOA 표현 결과물을 갖는 방향 신호들이 찾아진다.

또한, 일반성을 잃지 않고, 활성 우세 사운드 소스의 각각의 방향 추정

는

에 따라 경사각

이고 방위각

(실례를 위하여 도 5를 참조)를 포함하는 벡터에 의하여 분명하게 특정될 수 있다고 가정된다.

첫째로, 활성 사운드 소스들의 방향 추정들에 기초한 모드 행렬은

와

에 따라 계산된다.

수학식 4에서,

는 k-번째 프레임에 대한 활성 방향들의 수를 나타내고,

,

는 그들의 인덱스들을 나타낸다.

는 실수치의(real-valued) 구면 조화 함수(Spherical Harmonics)를 나타내는데, 그것은 실수 치의 구면 조화 함수의 정의 섹션에서 정의된다.

둘째로,

와

로 정의된 (k-1)-번째 및 k-번째 프레임들의 모든 우세 방향 신호들의 순간적인 추정들을 포함하는 행렬

가 계산된다. 이것은 두 단계로 달성된다. 첫째 단계에서, 비활성 방향들에 대응하는 열들의 방향 신호 샘플들은 0으로 세팅된다, 즉

여기서

는 활성 방향들의 세트를 나타낸다. 두번째 단계에서, 활성 방향들에 대응하는 방향 신호 샘플들은

에 따른 행렬로 그것들을 먼저 배열함에 의해 얻어진다.

그다음에 이 행렬은 에러

의 유클리드 노옴(Euclidean norm)을 최소화하기 위해 계산된다.

해답은

로 주어진다.

시간적 평탄화(Temporal smoothing)

단계 또는 스테이지(31)에 대하여, 다른 종류들의 신호들의 평탄화는 완전히 유사한 방법으로 달성될 수 있기 때문에 평탄화는 방향 신호들

만을 위하여 설명된다. 수학식 6에 따른 행렬

에 포함된 샘플들을 갖는 방향 신호들

,

의 추정들은 적절한 윈도우 함수

에 의해 윈도우된다.

이 윈도우 함수는 오버랩 영역에서 그것의 쉬프팅된 버전(B 샘플들의 쉬프트를 가정함)과 함께 그것이 '1'로 합해진다는 조건:

을 만족시켜야 한다.

그러한 윈도우 함수의 예는

로 정의되는 주기적 Hann 윈도우에 의해 주어진다.

(k-1)-번째 프레임에 대한 평탄화된 방향 신호들은

에 따라, 윈도우된 순간적인 추정들의 적절한 중첩에 의해 계산된다.

(k-1)-번째 프레임에 대한 모든 평탄화된 방향 신호들의 샘플들은 행렬

내에 배열되고, 여기서

이다.

평탄화된 우세 방향 신호들

은 인지 코더들에 연속하여 입력되는 연속적인 신호들이 되도록 중첩된다.

평탄화된 우세 방향 신호들의 HOA 표현의 계산

및

로부터, 평탄화된 우세 방향 신호들의 HOA 표현은 HOA 합성을 위하여 수행된 것과 같은 동일한 동작을 모방하기 위하여 연속적인 신호들

에 기초하여 단계 또는 스테이지(32)에서 계산된다. 연이은 프레임들 사이의 방향 추정들의 변화들이 불연속성을 야기할 수 있기 때문에, 길이 2B의 오버래핑 프레임들의 순간적인 HOA 표현들이 다시 한 번 계산되고 연이은 오버래핑 프레임들의 결과들이 적절한 윈도우 함수를 이용하여 평탄화된다. 그러므로 HOA 표현

은

에 의해 얻어지는데,

이고

이다.

균일한 그리드상의 방향 신호들에 의한 잔차 HOA 표현의 표현

및

{즉 프레임 딜레이(381)에 의해 딜레이된

}로부터, 균일한 그리드상의 방향 신호들에 의한 잔차 HOA 표현은 단계 또는 스테이지(33)에서 계산된다. 이 동작의 목적은 몇몇의 고정된, 거의 균일하게 분배된 방향들

,

(그리드 방향들이라고도 지칭됨)로부터 영향을 주는 방향 신호들(즉, 일반 평면파 함수들)을 얻고, 잔차

를 나타내기 위함이다.

먼저, 그리드 방향들에 대하여 모드 행렬

가

로 계산되고, 여기서

이다.

그리드 방향들은 전체 압축 절차동안 고정되어있기 때문에, 모드 행렬

는 단 한 번만 계산될 필요가 있다.

각각의 그리드상의 방향 신호들은

로 얻어진다.

우세 방향 신호들로부터 균일한 그리드상의 방향 신호들의 예측

및

로부터, 균일한 그리드상의 방향 신호들은 단계 또는 스테이지(34)에서 예측된다. 방향 신호들로부터의 그리드 방향들

로 구성된 균일한 그리드상의 방향 신호들의 예측은 평탄화 목적의 두 연이은 프레임들에 기초하는데, 즉 (길이 2B의) 그리드 신호들

의 확장된 프레임은 평탄화된 우세 방향 신호들

의 확장된 프레임으로부터 예측된다.

첫째로,

에 포함된 각각의 그리드 신호

는

에 포함된 우세 방향 신호

에 할당된다. 할당은 그리드 신호와 모든 우세 방향 신호들 사이의 정규화된 교차-상관 함수(normalised cross-correlation function)의 계산에 기초할 수 있다. 특히, 그 우세 방향 신호는 정규화된 교차-상관 함수의 가장 높은 값을 제공하는 그리드 신호에 할당된다. 할당의 결과는 o-번째 그리드 신호를

-번째 우세 방향 신호에 할당하는 할당 함수

에 의해 표현될 수 있다.

둘째로, 각각의 그리드 신호

는 할당된 우세 방향 신호

로부터 예측된다. 예측된 그리드 신호

는 할당된 우세 방향 신호

로부터 딜레이 및 스케일링에 의해

로 계산되는데,

는 스케일링 인자를 나타내고

는 샘플 딜레이를 나타낸다. 이 파라미터들은 예측 에러를 최소화하도록 선택된다.

예측 에러의 전력이 그리드 신호 그 자신의 그것보다 큰 경우, 예측은 실패한 것으로 가정된다. 그다음에, 각각의 예측 파라미터들은 임의의 유효하지 않은 값으로 세팅될 수 있다.

다른 종류의 예측 또한 가능함에 주의한다. 예를 들어, 총-대역 스케일링 인자를 계산하는 대신에, 인지 지향 주파수 대역들(perceptually oriented frequency bands)에 대한 스케일링 인자들을 결정하는 것이 또한 합리적이다. 그러나, 이 동작은 증가된 양의 부가 정보를 대가로 하여, 예측을 개선한다.

모든 예측 파라미터들이 파라미터 행렬

로 배열될 수 있다.

모든 예측된 신호들

은 행렬

내에 배열되는 것으로 가정된다.

균일한 그리드상의 예측된 방향 신호들의 HOA 표현의 계산

예측된 그리드 신호의 HOA 표현은 단계 또는 스테이지(35)에서

로부터

에 따라 계산된다.

잔차 주변 사운드 필드 성분의 HOA 표현의 계산

의 {단계/스테이지(36)에서} 시간적으로 평탄화된 버전인

,

의 2-프레임 딜레이된 버전인 {딜레이들(381 및 383)}

, 및

의 프레임 딜레이된 버전인 (딜레이 382)

로부터, 잔차 주변 사운드 필드 성분의 HOA 표현은 단계 또는 스테이지(37)에서

에 의해 계산된다.

HOA 재합성

도 4의 개별적인 단계들 또는 스테이지들의 프로세싱을 자세히 설명하기 전에, 요약이 제공된다. 균일하게 분배된 방향들에 대한 방향 신호들

이 디코딩된 우세 방향 신호들

로부터 예측 파라미터

를 사용하여 예측된다. 다음에, 전체 HOA 표현

가 우세 방향 신호들의 HOA 표현

, 예측된 방향 신호들의 HOA 표현

및 잔차 주변 HOA 성분

로부터 합성된다.

우세 방향 신호들의 HOA 표현의 계산

및

는 우세 방향 신호들의 HOA 표현을 결정하기 위하여 단계 또는 스테이지(41)로 입력된다. k-번째 및 (k-1)-번째 프레임들에 대한 활성 사운드 소스들의 방향 추정들에 기초하여, 방향 추정들

및

로부터 모드 행렬

및

를 계산하고 난 뒤, 우세 방향 신호들

의 HOA 표현은

에 의해 얻어지는데, 여기서

이고

이다.

및

는 우세 방향 신호들로부터 균일한 그리드상의 방향 신호들을 예측하기 위해 단계 또는 스테이지(43)로 입력된다. 균일한 그리드상의 예측된 방향 신호들의 확장된 프레임은

에 따라 구성요소들

로 구성되는데, 그것은

에 의해 우세 방향 신호들로부터 예측된다.

균일한 그리드 상의 예측된 방향 신호들의 HOA 표현을 계산하기 위한 단계 또는 스테이지(44)에서, 예측된 그리드 방향 신호들의 HOA 표현은

에 의해 얻어지는데,

는 미리 정해진 그리드 방향들(정의에 대하여 수학식 21 참조)에 대한 모드 행렬을 나타낸다.

HOA 사운드 필드 표현 합성

{즉 프레임 딜레이(42)에 의해 딜레이된

},

{단계/스테이지(45)에서 시간적으로 평탄화된 버전의

} 및

로부터, 전체 HOA 사운드 필드 표현이 단계 또는 스테이지(46)에서

로 최종적으로 합성된다.

고차 앰비소닉스의 기본(Basics)

고차 앰비소닉스는 관심 있는 작은(compact) 영역 내의 사운드 필드의 설명에 기초하는데, 그것은 사운드 소스들로부터 자유로운 것으로 가정된다. 그 경우에 관심 있는 영역 내의 시간 t 및 위치 x에서의 음압(sound pressure) p(t,x)의 시공간적 행동(spatiotemporal behaviour)은 등차 파동 방정식(homogeneous wave equation)에 의해 물리적으로 완전히 결정된다. 이하는 도 5에 도시된 구면 좌표계를 기초한다. x축은 정면(frontal)의 위치를 가리키고, y축은 왼쪽을, 그리고 z축은 위쪽을 가리킨다. 공간 내의 위치

는 반경 r>0 (즉 좌표 원점까지의 거리), 극 축 z로부터 측정되는 경사각

및 x축으로부터 x-y 평면 내의 반시계방향으로 측정되는 방위각

에 의해 표현된다.

은 전치(transposition)를 나타낸다.

로 표시되는 시간에 대한 음압의 퓨리에 변환, 즉

(

는 각주파수를 나타내고 i는 허수 단위를 나타냄) 는

{c_S는 소리의 속도를 나타내고 k는 각파동수를 나타내는데, 각파동수는

에 의해 각주파수

와 연관되고

는 제1 종의 구면 베셀 함수들을 나타내며,

는 실수치의 구면 조화 함수의 정의 섹션에서 정의되는 n차(order) 및 m차(degree)의 실수치의 구면 조화 함수를 나타냄} 에 따라 구면 조화 함수의 수열(series)로 전개될 수 있음이 보여질 수 있다(E.G. Williams, "Fourier Acoustics", Applied Mathematical Sciences 93권, Academic Press, 1999 참조). 확장 계수들

는 각파동수 k에만 의존한다. 음압이 공간적으로 대역-제한됨이 암시적으로 가정됨을 주의한다. 따라서 수열은 상한치 N에서 차수 인덱스 n에 대하여 절단되는데(truncated), 그것은 HOA 표현의 차수로 불린다.

사운드 필드가 무한한 수의 상이한 각주파수들

의 조화 평면파들의 중첩으로 표현되고 각 튜플(angle tuple)

로 특정되는 모든 가능한 방향들로부터 도래하고 있는 경우, 각각의 평면파 복소 진폭 함수

가 구면 조화 함수 전개

에 의해 표현될 수 있음이 보여질 수 있고, 여기에서 전개 계수들

는

에 의해 전개 계수들

에 관련된다{B.Rafaely, "Plane-wave Decomposition of the Sound Field on a Sphere by Spherical Convolution", J. Acoust. Soc. Am., 4(116), 페이지 2149-2157, 2004 참조}.

각주파수

의 함수가 되는 개별적인 계수들

을 가정하면, 퓨리에 역변환(

로 표시됨)의 적용은 각각의 n차(order) 및 m차(degree)에 대하여 시간 영역 함수들

를 제공하는데, 그것은 단일 벡터

내에 수집될 수 있다.

벡터

내의 시간 영역 함수

의 위치 인덱스(position index)는

로 주어진다.

최종 앰비소닉스 포맷은 샘플링 주파수

를 이용하여

(

는 샘플링 주기를 나타냄) 로

의 샘플링된 버전을 제공한다.

의 구성요소들은 앰비소닉스 계수들로 불린다. 시간 영역 신호들

실수치이고, 따라서 앰비소닉스 계수들이 실수치임을 주의한다.

실수치의 구면 조화 함수들의 정의

실수치의 구면 조화 함수들

은

로 주어진다.

연관된 르장드르(Legendre) 함수들

는 위에 언급된 E.G. Williams 책과 달리, Condon-Shortley 위상 항

없이 르장드르 다항식

으로

로 정의된다.

고차 앰비소닉스의 공간 분해능

방향

로부터 도래하는 일반 평면파 함수

는

에 의해 HOA로 표현된다.

상응하는 평면파 진폭의 공간 밀도

는

로 주어진다.

그것은 일반 평면파 함수

및 공간 분산 함수(spatial dispersion function)

의 곱(product)임이 수학식 48로부터 보여질 수 있는데,

는 특성(property)

를 갖는

와

사이의 각

에만 의존하는 것으로 보여질 수 있다.

예상되듯이, 무한 차수의 극한(limit), 즉

에서, 공간 분산 함수는 디락(Dirac) 델타

, 즉

가 된다.

그러나, 유한한 차수 N의 경우, 방향

로부터의 일반 평면파의 기여(contribution)는 인접하는 방향들로 희미해지는데(smeared), 흐릿해지는(blurring) 정도는 차수가 높아짐에 따라 줄어든다. 상이한 값들의 N에 대한 정규화된 함수

의 플롯(plot)은 도 6에 도시된다. 평면파 진폭들의 공간 밀도의 시간 영역 행동(behaviour)의 임의의 방향

은 임의의 다른 방향에서의 그것의 행동의 배수임이 언급된다. 특히, 몇몇의 고정된 방향들

및

에 대한 함수들

및

는 시간 t에 대하여 서로 높게 상관된다.

불연속 공간 영역

평면파 진폭들의 공간 밀도가 단위 구(unit sphere)에서 거의 균일하게 분배된 수많은

공간 방향들

,

에서 분리되는(discretised) 경우,

개의 방향 신호들

가 얻어진다. 이 신호들을 벡터

로 모으면(collecting),

이 벡터가 간단한 행렬 곱셈에 의해 수학식 41에 정의된 연속적인 앰비소닉스 표현

로부터

로 계산될 수 있음이 수학식 47을 이용하여 증명될 수 있고 여기에서

는 공동의 이항(transposition) 및 결합(conjugation)을 나타내고,

는

로 정의되는 모드-행렬을 나타내며

이다.

방향들

는 단위 구 상에 거의 균일하게 분배되기 때문에, 모드 행렬은 일반적으로 가역(invertible)이다. 따라서, 연속적인 앰비소닉스 표현은 방향 신호들

로부터

에 의하여 계산될 수 있다.

두 수학식들이 앰비소닉스 표현과 공간 영역 사이의 변환 및 역변환을 구성한다. 이 응용에서 이 변환들은 구면 조화 변환(Spherical Harmonic Transform) 및 구면 조화 역변환으로 불린다.

방향들

가 단위 구 상에서 거의 균일하게 분배되기 때문에,

이고, 그것은 수학식 52에서

대신

를 사용하는 것을 정당화한다. 유리하게, 모든 언급된 관계들은 불연속-시간 영역에서도 유효하다.

디코딩 측 뿐만 아니라 인코딩 측에서도 본 발명의 프로세싱은 단일한 프로세서 또는 전자 회로, 또는 병렬로 동작하는 및/또는 본 발명의 프로세싱의 상이한 부분들에서 동작하는 몇몇의 프로세서들 또는 전자 회로들에 의하여 수행될 수 있다.

본 발명은 집 환경의 스피커 배열(loudspeaker arrangement)상에서 또는 극장의 스피커 배열상에서 렌더링되거나 재생될 수 있는 상응하는 사운드 신호들을 프로세싱하는 데 적용될 수 있다.

Claims

사운드 필드를 위해 HOA로 표시되는 고차 앰비소닉스 표현(Higher Order Ambisonics representation)을 압축하는(compressing) 방법으로서,
- HOA 계수들
의 현재 시간 프레임으로부터, 우세 사운드 소스 방향들(dominant sound source directions)
을 추정하는 단계(11);
- 상기 HOA 계수들
과 상기 우세 사운드 소스 방향들
에 의존하여, 상기 HOA 표현을 시간 영역의 우세 방향 신호들
및 잔차(residual) HOA 성분
으로 분해하는(decomposing) 단계(12) - 상기 잔차 HOA 성분은 상기 잔차 HOA 성분을 나타내는(33) 균일한 샘플링 방향들(uniform sampling directions)에서 평면파 함수들을 얻기 위하여 불연속 공간 영역(discrete spatial domain)으로 변환되고, 상기 평면파 함수들은 상기 우세 방향 신호들
로부터 예측되고(34), 그렇게 함으로써 상기 예측을 설명하는 파라미터들
을 제공하며, 상응하는 예측 에러는 HOA 영역으로 다시 변환됨(35) -;
- 상기 잔차 HOA 성분
의 현재 차수
를 낮은 차수
로 감소시켜 감소된-차수의 잔차 HOA 성분
을 낳는 단계(13);
- 상응하는 잔차 HOA 성분 시간 영역 신호들
을 얻기 위하여 상기 감소된-차수의 잔차 HOA 성분
을 비-상관화하는(de-correlating) 단계(14); 및
- 압축된 우세 방향 신호들
및 압축된 잔차 성분 신호들
을 제공하기 위하여 상기 우세 방향 신호들
및 상기 잔차 HOA 성분 시간 영역 신호들
을 인지 인코딩하는(perceptually encoding) 단계(15)
를 포함하는 방법.
제1항의 방법에 따라 압축된 고차 앰비소닉스 표현을 압축 해제하는 방법으로서,
- 압축 해제된 우세 방향 신호들
및 공간 영역에서 잔차 HOA 성분을 나타내는 압축 해제된 시간 영역 신호들
을 제공하기 위하여 상기 압축된 우세 방향 신호들
및 상기 압축된 잔차 성분 신호들
을 인지 디코딩(perceptually decoding)하는 단계(21);
- 상응하는 감소된-차수의 잔차 HOA 성분
을 얻기 위하여 상기 압축 해제된 시간 영역 신호들
을 재-상관화(re-correlating)하는 단계(22);
- 상응하는 압축 해제된 잔차 HOA 성분
을 제공하기 위하여 상기 감소된-차수의 잔차 HOA 성분
의 차수
를 원래 차수
로 확장(extending)하는 단계(23); 및
- 상기 압축 해제된 우세 방향 신호들
, 상기 원래 차수의 압축 해제된 잔차 HOA 성분
, 추정된(11) 상기 우세 사운드 소스 방향들
, 및 상기 예측을 설명하는 상기 파라미터들
을 이용하여, HOA 계수들
의 상응하는 압축 해제되고 재합성된(recomposed) 프레임을 합성하는(composing) 단계(24)
를 포함하는 방법.
제1항에 있어서,
상기 감소된-차수의 잔차 HOA 성분
의 상기 비-상관화는 상기 감소된-차수의 잔차 HOA 성분을 구면 조화 변환(Spherical Harmonic Transform)을 이용하여 공간 영역의 상응하는 차수의 다수의 등가 신호들(corresponding order number of equivalent signals)로 변환함으로써 수행되는, 방법.
제1항에 있어서,
상기 감소된-차수의 잔차 HOA 성분
의 상기 비-상관화는 상기 감소된-차수의 잔차 HOA 성분을 구면 조화 변환을 이용하여 공간 영역의 상응하는 차수의 다수의 등가 신호들로 변환함으로써 수행되고, 샘플링 방향들의 그리드(grid)는 회전되며, 부가 정보
를 제공함으로써 상기 비-상관화의 복귀(reversion)를 가능하게 하는, 방법.
제2항에 있어서,
상기 우세 방향 신호들
및 상기 잔차 HOA 성분 시간 영역 신호들
의 상기 인지 인코딩은 공동으로 수행되고, 상기 압축된 방향 신호들
및 상기 압축된 시간 영역 신호들
의 상기 인지 디코딩은 상응하는 방식으로 공동으로 수행되는, 방법.
제1항, 제3항 및 제4항 중 어느 한 항에 있어서,
상기 분해하는 단계(decomposing)는:
- HOA 계수들의 현재 프레임
에 대한
내의 추정된 사운드 소스 방향들로부터 우세 방향 신호들
을 계산한(computing)(30) 다음, 평탄화된 우세 방향 신호들
을 낳는 시간적 평탄화(temporal smoothing)(31)를 하는 단계;
-
내의 상기 추정된 사운드 소스 방향들 및 상기 평탄화된 우세 방향 신호들
로부터 평탄화된 우세 방향 신호들
의 HOA 표현을 계산하는 단계(32);
- 균일한 그리드(uniform grid)상의 방향 신호들
에 의해 상응하는 잔차 HOA 표현을 나타내는 단계(33);
- 상기 평탄화된 우세 방향 신호들
및 방향 신호들
에 의한 상기 잔차 HOA 표현으로부터, 균일한 그리드 상의 방향 신호들
을 예측하고(34) 그로부터 균일한 그리드 상의 예측된 방향 신호들의 HOA 표현을 계산한(35) 다음, 시간적으로 평탄화하는 단계(36); 및
- 균일한 그리드 상의 상기 평탄화된 예측된 방향 신호들
, HOA 계수들의 상기 현재 프레임
의 2-프레임 딜레이된 버전, 및 상기 평탄화된 우세 방향 신호들
의 프레임 딜레이된 버전으로부터 잔차 주변 사운드 필드 성분
의 HOA 표현을 계산하는 단계(37)
를 포함하는, 방법.
제2항에 있어서,
상기 합성하는 단계는:
- HOA 계수들의 현재 프레임
에 대한 상기 추정된 사운드 소스 방향들
, 및 상기 압축 해제된 우세 방향 신호들
로부터 우세 방향 신호들
의 HOA 표현을 계산하는 단계(41);
- 상기 압축 해제된 우세 방향 신호들
및 상기 예측을 설명하는 상기 파라미터들
로부터, 균일한 그리드 상의 방향 신호들
을 예측하고(43), 그것으로부터 균일한 그리드 상의 예측된 방향 신호들
의 HOA 표현을 계산한(44) 다음, 시간적으로 평탄화하는 단계(45) (
); 및
- 균일한 그리드 상의 예측된 방향 신호들
의 상기 평탄화된 HOA 표현, 우세 방향 신호들
의 상기 HOA 표현의 프레임 딜레이된(42) 버전, 및 상기 압축 해제된 잔차 HOA 성분
으로부터 HOA 사운드 필드 표현
을 합성하는 단계(46)
를 포함하는, 방법.
제6항에 있어서,
균일한 그리드 상의 방향 신호들
의 상기 예측에서, 예측된 그리드 신호
는 할당된 우세 방향 신호
로부터 딜레이 및 총-대역 스케일링(full-band scaling)에 의해 계산되는, 방법.
제6항에 있어서,
균일한 그리드 상의 방향 신호들
의 상기 예측에서, 인지 기반 주파수 대역들(perceptually oriented frequency bands)을 위한 스케일링 인자들이 결정되는, 방법.
사운드 필드를 위해 HOA로 표시되는 고차 앰비소닉스 표현을 압축하기 위한 장치로서,
- HOA 계수들
의 현재 시간 프레임으로부터, 우세 사운드 소스 방향들
을 추정하도록(estimating) 구성된 수단(11);
- 상기 HOA 계수들
과 상기 우세 사운드 소스 방향들
에 의존하여, 상기 HOA 표현을 시간 영역의 우세 방향 신호들
및 잔차 HOA 성분
으로 분해하도록 구성된 수단(12) - 상기 잔차 HOA 성분은 상기 잔차 HOA 성분을 나타내는(33) 균일한 샘플링 방향들에서 평면파 함수들을 얻기 위하여 불연속 공간 영역으로 변환되고, 상기 평면파 함수들은 상기 우세 방향 신호들
로부터 예측되고(34), 그렇게 함으로써 상기 예측을 설명하는 파라미터들
을 제공하며, 상응하는 예측 에러는 HOA 영역으로 다시 변환됨(35) -;
- 상기 잔차 HOA 성분
의 현재 차수
를 낮은 차수
로 감소시켜 감소된-차수의 잔차 HOA 성분
을 낳도록 구성된 수단(13);
- 상응하는 잔차 HOA 성분 시간 영역 신호들
을 얻기 위하여 상기 감소된-차수의 잔차 HOA 성분
을 비-상관화하도록(de-correlating) 구성된 수단(14); 및
- 압축된 우세 방향 신호들
및 압축된 잔차 성분 신호들
을 제공하기 위하여 상기 우세 방향 신호들
및 상기 잔차 HOA 성분 시간 영역 신호들
을 인지 인코딩하도록 구성된 수단(15)
을 포함하는 장치.
제1항의 방법에 따라 압축된 고차 앰비소닉스 표현을 압축 해제하기 위한 장치로서,
- 압축 해제된 우세 방향 신호들
및 공간 영역에서 잔차 HOA 성분을 나타내는 압축 해제된 시간 영역 신호들
을 제공하기 위하여 상기 압축된 우세 방향 신호들
및 상기 압축된 잔차 성분 신호들
을 인지 디코딩하도록 구성된 수단(21);
- 상응하는 감소된-차수의 잔차 HOA 성분
을 얻기 위하여 상기 압축 해제된 시간 영역 신호들
을 재-상관화하도록 구성된 수단(22);
- 상응하는 압축 해제된 잔차 HOA 성분
을 제공하기 위하여 상기 감소된-차수의 잔차 HOA 성분
의 차수
를 원래 차수
로 확장하도록 구성된 수단(23); 및
- 상기 압축 해제된 우세 방향 신호들
, 상기 원래 차수의 압축 해제된 잔차 HOA 성분
, 추정된(11) 상기 우세 사운드 소스 방향들
, 및 상기 예측을 설명하는 상기 파라미터들
을 이용하여, HOA 계수들
의 상응하는 압축 해제되고 재합성된 프레임을 합성하도록 구성된 수단(24)
을 포함하는 장치.
제10항에 있어서,
상기 감소된-차수의 잔차 HOA 성분
의 상기 비-상관화는 상기 감소된-차수의 잔차 HOA 성분을 구면 조화 변환을 이용하여 공간 영역의 상응하는 차수의 다수의 등가 신호들로 변환함으로써 수행되는, 장치.
제10항에 있어서,
상기 감소된-차수의 잔차 HOA 성분
의 상기 비-상관화는 상기 감소된-차수의 잔차 HOA 성분을 구면 조화 변환을 이용하여 공간 영역의 상응하는 차수의 다수의 등가 신호들로 변환함으로써 수행되고, 샘플링 방향들의 그리드는 회전되며, 부가 정보
를 제공함으로써 상기 비-상관화의 복귀를 가능하게 하는, 장치.
제11항에 있어서,
상기 우세 방향 신호들
및 상기 잔차 HOA 성분 시간 영역 신호들
의 상기 인지 인코딩은 공동으로 수행되고, 상기 압축된 방향 신호들
및 상기 압축된 시간 영역 신호들
의 상기 인지 디코딩은 상응하는 방식으로 공동으로 수행되는, 장치.
제10항, 제12항 및 제13항 중 어느 한 항에 있어서,
상기 분해(decomposing)는
- HOA 계수들의 현재 프레임
에 대한
내의 추정된 사운드 소스 방향들로부터 우세 방향 신호들
을 계산한(computing)(30) 다음, 평탄화된 우세 방향 신호들
을 낳는 시간적 평탄화(temporal smoothing)(31)를 하는 것;
-
내의 상기 추정된 사운드 소스 방향들 및 상기 평탄화된 우세 방향 신호들
로부터 평탄화된 우세 방향 신호들
의 HOA 표현을 계산하는 것(32);
- 균일한 그리드(uniform grid)상의 방향 신호들
에 의해 상응하는 잔차 HOA 표현을 나타내는 것(33);
- 상기 평탄화된 우세 방향 신호들
및 방향 신호들
에 의한 상기 잔차 HOA 표현으로부터, 균일한 그리드 상의 방향 신호들
을 예측하고(34) 그로부터 균일한 그리드 상의 예측된 방향 신호들의 HOA 표현을 계산한(35) 다음, 시간적으로 평탄화하는 것(36); 및
- 균일한 그리드 상의 상기 평탄화된 예측된 방향 신호들
, HOA 계수들의 상기 현재 프레임
의 2-프레임 딜레이된 버전, 및 상기 평탄화된 우세 방향 신호들
의 프레임 딜레이된 버전으로부터 잔차 주변 사운드 필드 성분
의 HOA 표현을 계산하는 것(37)
을 포함하는, 장치.
제11항에 있어서,
상기 합성은
- HOA 계수들의 현재 프레임
에 대한 상기 추정된 사운드 소스 방향들
, 및 상기 압축 해제된 우세 방향 신호들
로부터 우세 방향 신호들
의 HOA 표현을 계산하는 것(41);
- 상기 압축 해제된 우세 방향 신호들
및 상기 예측을 설명하는 상기 파라미터들
로부터, 균일한 그리드 상의 방향 신호들
을 예측하고(43), 그것으로부터 균일한 그리드 상의 예측된 방향 신호들
의 HOA 표현을 계산한(44) 다음, 시간적으로 평탄화하는 것(45) (
); 및
- 균일한 그리드 상의 예측된 방향 신호들
의 상기 평탄화된 HOA 표현, 우세 방향 신호들
의 상기 HOA 표현의 프레임 딜레이된(42) 버전, 및 상기 압축 해제된 잔차 HOA 성분
으로부터 HOA 사운드 필드 표현
을 합성하는 것(46)
을 포함하는, 장치.
제15항에 있어서,
균일한 그리드 상의 방향 신호들
의 상기 예측에서, 예측된 그리드 신호
는 할당된 우세 방향 신호
로부터 딜레이 및 총-대역 스케일링에 의해 계산되는, 장치.
제15항에 있어서,
균일한 그리드 상의 방향 신호들
의 상기 예측에서, 인지 기반 주파수 대역들을 위한 스케일링 인자들이 결정되는, 장치.
삭제