KR102568636B1 - Hoa 데이터 프레임 표현의 압축을 위해 비차분 이득 값들을 표현하는 데 필요하게 되는 비트들의 최저 정수 개수를 결정하는 방법 및 장치 - Google Patents

Abstract

HOA 데이터 프레임 표현을 압축할 때, 각각의 채널 신호가 인지 인코딩(16)되기 전에 각각의 채널 신호에 대해 이득 제어(15, 151)가 적용된다. 이득 값들이 차분 방식으로 보조 정보로서 전송된다. 그렇지만, 이러한 스트리밍되는 압축된 HOA 데이터 프레임 표현의 디코딩을 시작하기 위해, 절대 이득 값들이 필요하게 되고, 절대 이득 값들은 최소 수의 비트들로 코딩되어야만 한다. 이러한 비트들의 최저 정수 개수(

)를 결정하기 위해, HOA 데이터 프레임 표현(

)이 공간 영역에서 단위 구면 상에 있는 가상 스피커 신호들로 렌더링되고, 이어서 HOA 데이터 프레임 표현(

)의 정규화가 뒤따른다. 이어서 비트들의 최저 정수 개수가 (AA)로 설정된다.

Description

HOA 데이터 프레임 표현의 압축을 위해 비차분 이득 값들을 표현하는 데 필요하게 되는 비트들의 최저 정수 개수를 결정하는 방법 및 장치{METHOD AND APPARATUS FOR DETERMINING FOR THE COMPRESSION OF AN HOA DATA FRAME REPRESENTATION A LOWEST INTEGER NUMBER OF BITS REQUIRED FOR REPRESENTING NON-DIFFERENTIAL GAIN VALUES}

본 발명은 HOA 데이터 프레임 표현의 압축을 위해 상기 HOA 데이터 프레임들 중 특정 HOA 데이터 프레임들의 채널 신호들과 연관된 비차분 이득 값들을 표현하는 데 필요하게 되는 비트들의 최저 정수 개수를 결정하는 방법 및 장치에 관한 것이다.

HOA라고 표기되는 고차 앰비소닉스(Higher Order Ambisonics)는 3차원 음향을 표현할 하나의 가능성을 제공한다. 다른 기법들은 WFS(wave field synthesis) 또는 22.2와 같은 채널 기반 접근법들이다. 채널 기반 방법들과 달리, HOA 표현은 특정 스피커 설정(loudspeaker set-up)에 독립적이라는 장점을 제공한다. 그렇지만, 이 유연성은 특정의 스피커 설정에서 HOA 표현의 재생을 위해 필요하게 되는 디코딩 프로세스의 대가이다. 요구된 스피커들의 수가 보통 아주 많은 WFS 접근법과 비교하여, HOA는 또한 단지 몇 개의 스피커들만으로 이루어진 설정에 맞춰 렌더링될 수 있다. HOA의 추가적인 장점은 헤드폰에 대한 바이노럴 렌더링(binaural rendering)을 위해 어떤 수정도 없이 동일한 표현이 또한 이용될 수 있다는 것이다.

HOA는 절단된 SH(Spherical Harmonics) 전개에 의한 복소 조화 평면파 진폭(complex harmonic plane wave amplitude)들의 공간 밀도의 표현에 기초한다. 각각의 전개 계수(expansion coefficient)는, 시간 영역 함수에 의해 동등하게 표현될 수 있는, 각주파수(angular frequency)의 함수이다. 그러므로, 일반성을 잃지 않고, 완전한 HOA 음장 표현이 실제로는

개의 시간 영역 함수들로 이루어진 것으로 가정될 수 있으며, 여기서

는 전개 계수들의 수를 나타낸다. 이 시간 영역 함수들은 동등하게 이하에서 HOA 계수 시퀀스들이라고 또는 HOA 채널들이라고 지칭될 것이다.

HOA 표현의 공간 분해능은 전개의 최대 차수 이 증가함에 따라 향상된다. 안타깝게도, 전개 계수들의 수

는 차수 에 따라 이차식으로 증가하고, 상세하게는, 이다. 예를 들어, 차수 를 사용하는 전형적인 HOA 표현은 개의 HOA (전개) 계수들을 필요로 한다. HOA 표현의 전송을 위한 총 비트 레이트는, 원하는 단일 채널 샘플링 레이트 및 샘플당 비트 수 가 주어지면, 에 의해 결정된다. 샘플당 비트를 이용하는 의 샘플링 레이트로 차수 의 HOA 표현을 전송하면 그 결과 의 비트 레이트가 되고, 이는 많은 실제 응용분야들, 예컨대, 스트리밍에 대해 아주 높다. 이와 같이, HOA 표현들의 압축이 아주 바람직하다.

이전에, HOA 음장 표현들의 압축이 EP 2665208 A1, EP 2743922 A1, EP 2800401 A1 - ISO/IEC JTC1/SC29/WG11, N14264, WD1-HOA Text of MPEG-H 3D Audio, January 2014를 참조 - 에서 제안되었다. 이 접근법들의 공통점은 음장 분석을 수행하고 주어진 HOA 표현을 방향 성분(directional component)과 잔차 주변 성분(residual ambient component)으로 분해한다는 것이다. 최종적인 압축된 표현은, 한편으로는, 방향 및 벡터 기반 신호들은 물론 주변 HOA 성분의 관련성있는 계수 시퀀스들의 인지 코딩(perceptual coding)으로부터 얻어진, 다수의 양자화된 신호들로 이루어져 있는 것으로 가정된다. 다른 한편으로는, 최종적인 압축된 표현은 양자화된 신호들에 관련된 부가의 보조 정보를 포함하고, 이 보조 정보는 HOA 표현을 그의 압축된 버전으로부터 재구성하는 데 필요하게 된다.

인지 인코더(perceptual encoder)로 전달되기 전에, 이 중간의 시간 영역 신호들은 값 범위 내에서 최대 진폭을 가질 필요가 있고, 이는 현재 이용가능한 인지 인코더들의 구현으로부터 생기는 요구사항이다. HOA 표현들을 압축할 때 이 요구사항을 충족시키기 위해, 입력 신호들을 매끄럽게 감쇠시키거나 증폭시키는 이득 제어 처리 유닛(EP 2824661 A1 및 앞서 언급된 ISO/IEC JTC1/SC29/WG11 N14264 문서를 참조)이 인지 인코더들보다 앞서 사용된다. 그에 따른 신호 수정이 가역적이고 프레임 단위로 적용되는 것으로 가정되고, 여기서 상세하게는 연속적인 프레임들 사이에서 신호 진폭들의 변화가 '2'의 멱수인 것으로 가정된다. HOA 압축해제기에서 이 신호 수정을 반대로 하는 것을 용이하게 하기 위해, 대응하는 정규화 보조 정보가 총 보조 정보에 포함된다. 이 정규화 보조 정보는 밑이 '2'인 지수들로 이루어져 있을 수 있고, 이 지수들은 2개의 연속적인 프레임들 사이의 상대 진폭 변화를 나타낸다. 이 지수들은 앞서 언급된 ISO/IEC JTC1/SC29/WG11 N14264 문서에 따라 런 길이 코드(run length code)를 사용하여 코딩되는데, 그 이유는 연속적인 프레임들 사이의 사소한 진폭 변화들이 보다 큰 진폭 변화들보다 가능성이 더 많기 때문이다.

예컨대, 단일의 파일이 어떤 시간적 점프도 없이 처음부터 끝까지 압축해제되는 경우에, HOA 압축해제에서 원래의 신호 진폭들을 재구성하기 위해 차분 코딩된 진폭 변화들을 사용하는 것이 실현가능하다. 그렇지만, 랜덤 액세스를 용이하게 하기 위해, 이전 프레임들로부터의 정보에 관계없이, 원하는 위치로부터(또는 적어도 그 근방에서) 압축해제를 시작하는 것을 가능하게 하기 위해, 독립적인 액세스 단위들이 (전형적으로 비트 스트림인) 코딩된 표현에 존재해야만 한다. 이러한 독립적인 액세스 단위는 첫 번째 프레임부터 현재 프레임까지 이득 제어 처리 유닛에 의해 야기된 총 절대 진폭 변화(즉, 비차분 이득 값)를 포함해야만 한다. 2개의 연속적인 프레임들 사이의 진폭 변화들이 '2'의 멱수인 것으로 가정하면, 총 절대 진폭 변화를 밑이 '2'인 지수에 의해 나타내는 것으로도 충분하다. 이 지수의 효율적인 코딩을 위해, 이득 제어 처리 유닛의 적용 이전에 신호들의 잠재적인 최대 이득들을 아는 것이 필수적이다. 그렇지만, 이것을 아는 것은 압축될 HOA 표현들의 값 범위에 관한 제약조건들의 명시에 많이 의존하고 있다. 안타깝게도, MPEG-H 3D 오디오 문서 ISO/IEC JTC1/SC29/WG11 N14264는, 값 범위들에 대한 어떤 제약조건들도 설정함이 없이, 입력 HOA 표현에 대한 포맷의 설명만을 제공한다.

본 발명에 의해 해결될 문제점은 비차분 이득 값들을 표현하는 데 필요하게 되는 비트들의 최저 정수 개수를 제공하는 것이다. 이 문제점은 청구항 1에 개시된 방법에 의해 해결된다. 이 방법을 이용하는 장치는 청구항 2에 개시되어 있다.

본 발명의 유리한 부가의 실시예들은 각자의 종속 청구항들에 개시되어 있다.

본 발명은 HOA 압축기 내에서의 이득 제어 처리 유닛의 적용 이전에 입력 HOA 표현의 값 범위와 신호들의 잠재적인 최대 이득들 사이의 상호관계를 구축한다. 그 상호관계에 기초하여, 첫 번째 프레임부터 현재 프레임까지 이득 제어 처리 유닛에 의해 야기된 수정된 신호들의 총 절대 진폭 변화들(즉, 비차분 이득 값)을 액세스 단위 내에 나타내기 위한 밑이 '2'인 지수의 효율적인 코딩을 위해 - 입력 HOA 표현의 값 범위에 대한 주어진 명시에 대해 - 필요하게 되는 비트들의 양이 결정된다.

게다가, 지수의 코딩을 위해 필요하게 되는 비트들의 양의 계산을 위한 규칙이 고정되어 있으면, 본 발명은 주어진 HOA 표현이 요구된 값 범위 제약조건들을 충족시킴으로써 올바르게 압축될 수 있는지를 검증하기 위한 처리를 사용한다.

원칙적으로, 본 발명의 방법은 HOA 데이터 프레임 표현의 압축을 위해 상기 HOA 데이터 프레임들 중 특정 HOA 데이터 프레임들의 채널 신호들에 대한 비차분 이득 값들을 표현하는 데 필요하게 되는 비트들의 최저 정수 개수 를 결정하는 데 적합하고, 여기서 각각의 프레임 내의 각각의 채널 신호는 일군의 샘플 값들을 포함하고, 여기서 상기 HOA 데이터 프레임들의 각각의 HOA 데이터 프레임의 각각의 채널 신호에 차분 이득 값이 할당되며, 이러한 차분 이득 값은 현재 HOA 데이터 프레임에서의 채널 신호의 샘플 값들의, 이전 HOA 데이터 프레임에서의 그 채널 신호의 샘플 값들에 대한, 진폭들의 변화를 야기하고, 여기서 이러한 이득 적응된 채널 신호들이 인코더에서 인코딩되며,

그리고 여기서 상기 HOA 데이터 프레임 표현은 공간 영역에서

개의 가상 스피커 신호들 로 렌더링되었고, 여기서 가상 스피커들의 위치들은 단위 구면 상에 있고 그 단위 구면 상에 균일하게 분포되는 것을 목표로 하며, 상기 렌더링은 행렬 곱셈 에 의해 표현되고, 여기서 는 가상 스피커 신호들 모두를 포함하는 벡터이며, 는 가상 스피커 위치들 모드 행렬이고, 는 상기 HOA 데이터 프레임 표현의 대응하는 HOA 계수 시퀀스들의 벡터이며,

그리고 여기서 상기 HOA 데이터 프레임 표현은 이도록 정규화되었고,

상기 방법은

- 상기 정규화된 HOA 데이터 프레임 표현으로부터 서브단계들 a), b), c) 중 하나 이상에 의해 상기 채널 신호들을 형성하는 단계:

a) 상기 채널 신호들에서의 우세 음향 신호들을 표현하기 위해, 상기 HOA 계수 시퀀스들의 벡터 를 믹싱 행렬(mixing matrix) 와 곱하는 단계 - 이 믹싱 행렬 의 유클리드 노름(Euclidean norm)은 '1' 이하이고, 믹싱 행렬 는 상기 정규화된 HOA 데이터 프레임 표현의 계수 시퀀스들의 선형 결합을 나타냄 -;

b) 상기 채널 신호들에서의 주변 성분 를 표현하기 위해, 상기 우세 음향 신호들을 상기 정규화된 HOA 데이터 프레임 표현으로부터 차감하고, 상기 주변 성분 의 계수 시퀀스들의 적어도 일부를 선택하며 - 임 -, 를 계산하는 것에 의해 얻어진 최소 주변 성분 를 변환하는 단계 - 이고 은 상기 최소 주변 성분 에 대한 모드 행렬임 -;

c) 상기 HOA 계수 시퀀스들 의 일부를 선택하는 단계 - 상기 선택된 계수 시퀀스들은 공간 변환이 적용되는 주변 HOA 성분의 계수 시퀀스들에 관련되고, 상기 선택된 계수 시퀀스들의 수를 나타내는 최소 차수

은

임 -;

- 상기 채널 신호들에 대한 상기 비차분 이득 값들을 표현하기 위해 필요하게 되는 비트들의 상기 최저 정수 개수 를 로 설정하는 단계 -

이고, 은 차수이며, 는 최대 관심 차수이고, 은 상기 가상 스피커들의 방향들이며, 은 HOA 계수 시퀀스들의 수이고, 는 상기 모드 행렬의 유클리드 노름의 제곱 과

사이의 비임 - 를 포함한다.

원칙적으로, 본 발명의 장치는 HOA 데이터 프레임 표현의 압축을 위해 상기 HOA 데이터 프레임들 중 특정 HOA 데이터 프레임들의 채널 신호들에 대한 비차분 이득 값들을 표현하는 데 필요하게 되는 비트들의 최저 정수 개수 를 결정하는 데 적합하고, 여기서 각각의 프레임 내의 각각의 채널 신호는 일군의 샘플 값들을 포함하고, 여기서 상기 HOA 데이터 프레임들의 각각의 HOA 데이터 프레임의 각각의 채널 신호에 차분 이득 값이 할당되며, 이러한 차분 이득 값은 현재 HOA 데이터 프레임에서의 채널 신호의 샘플 값들의, 이전 HOA 데이터 프레임에서의 그 채널 신호의 샘플 값들에 대한, 진폭들의 변화를 야기하고, 여기서 이러한 이득 적응된 채널 신호들이 인코더에서 인코딩되며,

그리고 여기서 상기 HOA 데이터 프레임 표현은 공간 영역에서

개의 가상 스피커 신호들 로 렌더링되었고, 여기서 가상 스피커들의 위치들은 단위 구면 상에 있고 그 단위 구면 상에 균일하게 분포되는 것을 목표로 하며, 상기 렌더링은 행렬 곱셈 에 의해 표현되고, 여기서 는 가상 스피커 신호들 모두를 포함하는 벡터이며, 는 가상 스피커 위치들 모드 행렬이고, 는 상기 HOA 데이터 프레임 표현의 대응하는 HOA 계수 시퀀스들의 벡터이며,

그리고 여기서 상기 HOA 데이터 프레임 표현은 이도록 정규화되었고,

상기 장치는

- 상기 정규화된 HOA 데이터 프레임 표현으로부터 동작들 a), b), c) 중 하나 이상에 의해 상기 채널 신호들을 형성하는 수단:

a) 상기 채널 신호들에서의 우세 음향 신호들을 표현하기 위해, 상기 HOA 계수 시퀀스들의 벡터 를 믹싱 행렬 와 곱하는 동작 - 이 믹싱 행렬 의 유클리드 노름은 '1' 이하이고, 믹싱 행렬 는 상기 정규화된 HOA 데이터 프레임 표현의 계수 시퀀스들의 선형 결합을 나타냄 -;

b) 상기 채널 신호들에서의 주변 성분 를 표현하기 위해, 상기 우세 음향 신호들을 상기 정규화된 HOA 데이터 프레임 표현으로부터 차감하고, 상기 주변 성분 의 계수 시퀀스들의 적어도 일부를 선택하며 - 임 -, 를 계산하는 것에 의해 얻어진 최소 주변 성분 를 변환하는 동작 - 이고 은 상기 최소 주변 성분 에 대한 모드 행렬임 -;

c) 상기 HOA 계수 시퀀스들 의 일부를 선택하는 동작 - 상기 선택된 계수 시퀀스들은 공간 변환이 적용되는 주변 HOA 성분의 계수 시퀀스들에 관련되고, 상기 선택된 계수 시퀀스들의 수를 나타내는 최소 차수

은

임 -;

- 상기 채널 신호들에 대한 상기 비차분 이득 값들을 표현하기 위해 필요하게 되는 비트들의 상기 최저 정수 개수 를 로 설정하는 수단 -

이고, 은 차수이며, 는 최대 관심 차수이고, 은 상기 가상 스피커들의 방향들이며, 은 HOA 계수 시퀀스들의 수이고, 는 상기 모드 행렬의 유클리드 노름의 제곱 과 사이의 비임 - 을 포함한다.

본 발명의 예시적인 실시예들이 첨부 도면들을 참조하여 기술된다.
도 1은 HOA 압축기를 나타낸 도면.
도 2는 HOA 압축해제기를 나타낸 도면.
도 3은 HOA 차수들 에 대한 가상 방향들 의 스케일링 값들 를 나타낸 도면.
도 4는 HOA 차수들 에 대한 가상 방향들 , 의 역 모드 행렬들 의 유클리드 노름들을 나타낸 도면.
도 5는 위치들 - 단, 임 - 에 있는 가상 스피커들의 신호들의 최대 허용 크기 의 결정을 나타낸 도면.
도 6은 구면 좌표계를 나타낸 도면.

비록 명시적으로 기술되어 있지 않지만, 이하의 실시예들은 임의의 컴비네이션 또는 서브컴비네이션으로 이용될 수 있다.

이하에서, 앞서 언급된 문제점이 발생하는 보다 상세한 정황을 제공하기 위해 HOA 압축 및 압축해제의 원리가 제시된다. 이 제시에 대한 기초는 MPEG-H 3D 오디오 문서 ISO/IEC JTC1/SC29/WG11 N14264 - EP 2665208 A1, EP 2800401 A1 및 EP 2743922 A1도 참조 - 에 기술된 처리이다. N14264에서, '방향 성분'이 '우세 음향 성분'으로 확장된다. 방향 성분으로서, 우세 음향 성분은, 방향 신호들 - 청취자에 충돌하는 것으로 가정되는 대응하는 방향을 갖는 모노럴 신호(monaural signal)들을 의미함 - 로부터 원래의 HOA 표현의 일부분들을 예측하는 어떤 예측 파라미터들과 함께, 방향 신호들에 의해 부분적으로 표현되는 것으로 가정된다. 그에 부가하여, 우세 음향 성분은 '벡터 기반 신호들' - 벡터 기반 신호들의 방향 분포를 정의하는 대응하는 벡터를 갖는 모노럴 신호들을 의미함 - 에 의해 표현되도록 되어 있다.

HOA 압축

EP 2800401 A1에 기술된 HOA 압축기의 전체적인 아키텍처가 도 1에 예시되어 있다. 이는 도 1의 A에 도시된 공간 HOA 인코딩 부분과 도 1의 B에 도시된 인지 및 소스 인코딩 부분을 갖는다. 공간 HOA 인코더는

개의 신호들로 이루어져 있는 제1 압축된 HOA 표현을, 그의 HOA 표현을 어떻게 생성해야 하는지를 기술하는 보조 정보와 함께, 제공한다. 인지 및 보조 정보 소스 코더들에서,

개의 신호들이 인지 인코딩되고 보조 정보는 소스 인코딩을 거치며, 그 후에 2개의 코딩된 표현들을 멀티플렉싱한다.

공간 HOA 인코딩

제1 단계에서, 원래의 HOA 표현의 현재 제

프레임 가, 튜플 세트들 및 를 제공하는 것으로 가정되는, 방향 및 벡터 추정 처리 단계 또는 스테이지(11)에 입력된다. 튜플 세트 는 제1 요소가 방향 신호의 인덱스를 나타내고 제2 요소가 각자의 양자화된 방향을 나타내는 튜플들로 이루어져 있다. 튜플 세트 는 제1 요소가 벡터 기반 신호의 인덱스를 나타내고 제2 요소가 신호들의 방향 분포 - 즉, 벡터 기반 신호의 HOA 표현이 어떻게 계산되는지 - 를 정의하는 벡터를 나타내는 튜플들로 이루어져 있다.

튜플 세트들 및 둘 다를 사용하여, 초기 HOA 프레임 가 HOA 분해 단계 또는 스테이지(12)에서 모든 우세 음향(즉, 방향 및 벡터 기반) 신호들의 프레임 과 주변 HOA 성분의 프레임 으로 분해된다. 블록킹 아티팩츠(blocking artefact)를 피하기 위해 중첩-가산(overlap-add) 처리로 인한 하나의 프레임의 지연에 유의한다. 게다가, HOA 분해 단계/스테이지(12)는, 우세 음향 HOA 성분을 강화하기 위해, 방향 신호들로부터 원래의 HOA 표현의 일부분들을 어떻게 예측해야 하는지를 나타내는 어떤 예측 파라미터들 을 출력하는 것으로 가정된다. 그에 부가하여, HOA 분해 처리 단계 또는 스테이지(12)에서 결정된, 우세 음향 신호들의

개의 이용가능 채널들에의 할당에 관한 정보를 포함하는 대상 할당 벡터 이 제공되는 것으로 가정된다. 영향을 받는 채널들은 점유되는 - 각자의 시간 프레임에서 주변 HOA 성분의 임의의 계수 시퀀스들을 전송하는 데 이용가능하지 않다는 것을 의미함 - 것으로 가정될 수 있다.

주변 성분 수정 처리 단계 또는 스테이지(13)에서, 주변 HOA 성분의 프레임 이 대상 할당 벡터 에 의해 제공되는 정보에 따라 수정된다. 상세하게는, (양태들 중에서도 특히) 어느 채널들이 이용가능하고 우세 음향 신호들에 의해 이미 점유되어 있는지에 관한 (대상 할당 벡터 에 포함된) 정보에 따라, 주변 HOA 성분의 어느 계수 시퀀스들이 주어진

개의 채널들에서 전송되어야 하는지가 결정된다. 그에 부가하여, 선택된 계수 시퀀스들의 인덱스들이 연속적인 프레임들 사이에서 변하면, 계수 시퀀스들의 페이드인(fade-in) 및 페이드아웃(fade-out)이 수행된다.

게다가, 주변 HOA 성분 의 처음 개의 계수 시퀀스들이 인지 코딩되어 전송되도록 항상 선택되고, 여기서 이고, 은 전형적으로 원래의 HOA 표현의 차수보다 더 작은 차수이다. 이 HOA 계수 시퀀스들을 무상관화(de-correlate)시키기 위해, 그들이 단계/스테이지(13)에서 어떤 미리 정의된 방향들 , 으로부터 충돌하는 방향 신호들(즉, 일반적인 평면파 함수들)로 변환될 수 있다.

수정된 주변 HOA 성분 과 함께, 시간 예측된 수정된 주변 HOA 성분 이 단계/스테이지(13)에서 계산되고, 타당한 예견을 가능하게 하기 위해 이득 제어 처리 단계들 또는 스테이지들(15, 151)에서 사용되며, 주변 HOA 성분의 수정에 관한 정보는 채널 할당 단계 또는 스테이지(14)에서 모든 가능한 유형들의 신호들을 이용가능한 채널들에 할당하는 것에 직접 관련되어 있다. 그 할당에 관한 최종 정보는 최종 할당 벡터 에 포함되는 것으로 가정된다. 단계/스테이지(13)에서 이 벡터를 계산하기 위해, 대상 할당 벡터 에 포함된 정보가 이용된다.

단계/스테이지(14)에서의 채널 할당은, 할당 벡터 에 의해 제공되는 정보를 사용해, 프레임 에 포함된 그리고 프레임 에 포함된 적절한 신호들을

개의 이용가능한 채널들에 할당하여, 신호 프레임들 , 를 산출한다. 게다가, 프레임 에 그리고 프레임 에 포함된 적절한 신호들이 또한

개의 이용가능한 채널들에 할당되어, 예측된 신호 프레임들 , 를 산출한다.

신호 프레임들 , 각각은 이득 제어(15, 151)에 의해 최종적으로 처리되어, 지수들 및 예외 플래그들 , 가 얻어지고, 신호 이득이 인지 인코더 단계들 또는 스테이지들(16)에 적당한 값 범위를 달성하는 것 등을 위해 매끄럽게 수정되는 신호들 , 가 얻어진다. 단계들/스테이지들(16)은 대응하는 인코딩된 신호 프레임들 , 를 출력한다. 예측된 신호 프레임들 , 는 연속적인 블록들 사이의 심각한 이득 변화들을 피하기 위해 일종의 예견을 가능하게 한다. 보조 정보 데이터 , , , , 및 는 보조 정보 소스 코더 단계 또는 스테이지(17)에서 소스 코딩되어, 인코딩된 보조 정보 프레임 가 얻어진다. 멀티플렉서(18)에서, 프레임 의 인코딩된 신호들 와 이 프레임에 대한 인코딩된 보조 정보 데이터 가 결합되어, 출력 프레임 가 얻어진다.

공간 HOA 디코더에서, 단계들/스테이지들(15, 151)에서의 이득 수정들은 지수들 및 예외 플래그들 , 로 이루어져 있는 이득 제어 보조 정보를 사용하여 복귀되는 것으로 가정된다.

HOA 압축해제

EP 2800401 A1에 기술된 HOA 압축해제기의 전체적인 아키텍처가 도 2에 예시되어 있다. HOA 압축해제기는, 역순으로 배열되어 있고 도 2의 A에 도시된 인지 및 소스 디코딩 부분과 도 2의 B에 도시된 공간 HOA 디코딩 부분을 포함하는, HOA 압축기 컴포넌트들의 대응물들로 이루어져 있다.

(인지 및 보조 정보 소스 디코더를 나타내는) 인지 및 소스 디코딩 부분에서, 디멀티플렉싱 단계 또는 스테이지(21)는 비트 스트림으로부터 입력 프레임 를 수신하고

개의 신호들의 인지 코딩된 표현 , 및 그의 HOA 표현을 어떻게 생성해야 하는지를 기술하는 코딩된 보조 정보 데이터 를 제공한다. 신호들은 인지 디코더 단계 또는 스테이지(22)에서 인지 디코딩되어, 디코딩된 신호들 , 가 얻어진다. 코딩된 보조 정보 데이터 는 보조 정보 소스 디코더 단계 또는 스테이지(23)에서 디코딩되어, 데이터 세트들 , , 지수들 , 예외 플래그들 , 예측 파라미터들 및 할당 벡터 가 얻어진다. 와 사이의 차이에 관해서는, 앞서 언급된 MPEG 문서 N14264를 참조하기 바란다.

공간 HOA 디코딩

공간 HOA 디코딩 부분에서, 인지 디코딩된 신호들 , 각각은 역 이득 제어 처리 단계 또는 스테이지(24, 241)에, 그의 연관된 이득 보정 지수 및 이득 보정 예외 플래그 와 함께, 입력된다. 제

역 이득 제어 처리 단계/스테이지는 이득 보정 신호 프레임 를 제공한다.

개의 이득 보정된 신호 프레임들 , 모두가, 할당 벡터 및 튜플 세트들 및 과 함께, 채널 재할당 단계 또는 스테이지(25)에 피드된다 - 튜플 세트들 및 의 앞서 기술된 정의를 참조 -. 할당 벡터 는, 각각의 전송 채널에 대해, 전송 채널이 주변 HOA 성분의 계수 시퀀스를 포함하는지 그리고 전송 채널이 어느 것을 포함하는지를 나타내는

개의 성분들로 이루어져 있다. 채널 재할당 단계/스테이지(25)에서, 이득 보정된 신호 프레임들 는 모든 우세 음향 신호들(즉, 모든 방향 및 벡터 기반 신호들)의 프레임 및 주변 HOA 성분의 중간 표현의 프레임 를 재구성하기 위해 재분포된다. 그에 부가하여, 제

프레임에서 활성인 주변 HOA 성분의 계수 시퀀스들의 인덱스들의 세트 , 및 제 프레임에서 인에이블되고, 디스에이블되며, 활성인 채로 있어야만 하는 주변 HOA 성분의 계수 인덱스들의 데이터 세트들 , 및 이 제공된다.

우세 음향 합성(predominant sound synthesis) 단계 또는 스테이지(26)에서, 우세 음향 성분 의 HOA 표현이 모든 우세 음향 신호들의 프레임 로부터, 튜플 세트 , 예측 파라미터들의 세트 , 튜플 세트 그리고 데이터 세트들 , 및 을 사용하여, 계산된다.

앰비언스 합성(ambience synthesis) 단계 또는 스테이지(27)에서, 주변 HOA 성분 프레임 이 주변 HOA 성분의 중간 표현의 프레임 로부터, 제

프레임에서 활성인 주변 HOA 성분의 계수 시퀀스들의 인덱스들의 세트 를 사용하여, 생성된다. 우세 음향 HOA 성분과의 동기화로 인해 하나의 프레임의 지연이 유입된다.

마지막으로, HOA 조성(HOA composition) 단계 또는 스테이지(28)에서, 주변 HOA 성분 프레임 및 우세 음향 HOA 성분의 프레임 이 디코딩된 HOA 프레임 을 제공하기 위해 중첩된다.

그 후에, 공간 HOA 디코더는,

개의 신호들 및 보조 정보로부터, 재구성된 HOA 표현을 생성한다.

인코딩측에서, 주변 HOA 성분이 방향 신호들로 변환된 경우에, 그 변환이 디코더측에서 단계/스테이지(27)에서 반대로 행해진다.

HOA 압축기 내에서 이득 제어 처리 단계들/스테이지들(15, 151) 이전의 신호들의 잠재적인 최대 이득들은 입력 HOA 표현의 값 범위에 많이 의존한다. 그러므로, 처음에 입력 HOA 표현에 대한 의미있는 값 범위가 정의되고, 이어서 이득 제어 처리 단계들/스테이지들에 들어가기 전에 신호들의 잠재적인 최대 이득들에 대해 결론을 내린다.

입력 HOA 표현의 정규화

본 발명의 방법을 사용하기 위해, (총) 입력 HOA 표현 신호의 정규화가 이전에 수행되어야만 한다. HOA 압축을 위해, 프레임 단위가 수행되고, 여기서 원래의 입력 HOA 표현의 제

프레임 는 고차 앰비소닉스의 기초 섹션에서 수학식 54에 명시된 시간 연속적 HOA 계수 시퀀스들의 벡터 와 관련하여 수학식 1로서 정의되고,

[수학식 1]

여기서

는 프레임 인덱스를 나타내고,

은 프레임 길이(단위: 샘플)를 나타내며, 은 HOA 계수 시퀀스들의 수를 나타내고,

는 샘플링 주기를 나타낸다.

EP 2824661 A1에서 언급된 바와 같이, 실제적 관점에서 본 HOA 표현의 의미있는 정규화는 개개의 HOA 계수 시퀀스들 의 값 범위에 제약조건들을 부과하는 것에 의해 달성되지 않는데, 그 이유는 이 시간 영역 함수들이 렌더링 후에 스피커들에 의해 실제로 재생되는 신호들이 아니기 때문이다. 그 대신에, HOA 표현을

개의 가상 스피커 신호들 , 로 렌더링하는 것에 의해 획득되는, '등가의 공간 영역 표현'을 고려하는 것이 보다 편리하다. 각자의 가상 스피커 위치들이 구면 좌표계에 의해 표현되는 것으로 가정되고, 여기서 각각의 위치는 단위 구면 상에 있는 것으로 그리고 '1'의 반경을 갖는 것으로 가정된다. 그러므로, 위치들이 차수 의존적 방향들 에 의해 등가적으로 표현될 수 있고, 여기서 및 은, 각각, 경사들 및 방위각들을 나타낸다(또한 도 6 및 구면 좌표계의 정의에 대한 그의 설명을 참조). 이 방향들은 단위 구면 상에 가능한 균일하게 분포되어야만 하고, 예컨대, J. Fliege, U. Maier, "A two-stage approach for computing cubature formulae for the sphere", Technical report, Fachbereich Mathematik, University of Dortmund, 1999를 참조하기 바란다. 노드 번호들은 특정 방향들의 계산에 대한 http://www.mathematik.uni-dortmund.de/lsx/research/projects/fliege/nodes/nodes.html에 있다. 이 위치들은 일반적으로 '구면 상에서의 균일한 분포'의 정의의 종류에 의존하고, 따라서 명확하지 않다.

HOA 계수 시퀀스들에 대한 값 범위들을 정의하는 것보다 가상 스피커 신호들에 대한 값 범위들을 정의하는 것의 장점은 전자에 대한 값 범위가 PCM 표현을 가정하는 종래의 스피커 신호들에 대해서와 같이 똑같이 직관적으로 구간 로 설정될 수 있다는 것이다. 이것은 공간적으로 균일하게 분포된 양자화 오차를 가져오며, 따라서 유리하게도 실제의 청취에 대해 관련성 있는 영역(domain)에서 양자화가 적용된다. 이와 관련하여 중요한 측면은 샘플당 비트 수가 종래의 스피커 신호들에 대해 전형적인 것만큼 낮게 - 즉, 16으로 - 선택될 수 있고, 이는, 보통 보다 높은 샘플당 비트 수(예컨대, 24 또는 심지어 32)가 요구되는, HOA 계수 시퀀스들의 직접 양자화와 비교하여 효율을 증가시킨다는 것이다.

공간 영역에서의 정규화 프로세스를 상세히 기술하기 위해, 모든 가상 스피커 신호들이 벡터로 수학식 2로서 요약되고

[수학식 2]

여기서 는 전치(transposition)를 나타낸다. 가상 방향들 에 대한 모드 행렬을 - 이는 수학식 3에 의해 정의되고

[수학식 3]

여기서

[수학식 4]

임 -로 나타내면,

렌더링 프로세스는 행렬 곱셈

[수학식 5]

로서 수식화될 수 있다.

이 정의들을 사용하여, 가상 스피커 신호들에 대한 타당한 요구사항은 수학식 6이고:

[수학식 6]

수학식 6은 각각의 가상 스피커 신호의 크기가 범위 내에 있어야만 한다는 것을 의미한다. 시간

의 시각(time instant)은 샘플 인덱스

및 상기 HOA 데이터 프레임들의 샘플 값들의 샘플 주기

에 의해 표현된다.

스피커 신호들의 총 전력은 결과적으로 조건 수학식 7을 충족시킨다.

[수학식 7]

HOA 데이터 프레임 표현의 렌더링 및 정규화는 도 1의 A의 입력 의 전단(upstream)에서 수행된다.

이득 제어 이전의 신호 값 범위에 대한 결과

입력 HOA 표현의 정규화가 입력 HOA 표현의 정규화 섹션에서의 설명에 따라 수행되는 것으로 가정하면, HOA 압축기에서의 이득 제어 처리 유닛(15, 151)에 입력되는, 신호들 , 의 값 범위가 이하에서 고려된다. 이 신호들은 HOA 계수 시퀀스들, 또는 우세 음향 신호들 , , 및/또는 주변 HOA 성분 , 의 특정의 계수 시퀀스들 - 이들의 일부에 공간 변환이 적용됨 - 중 하나 이상을 이용가능한

개의 채널들에 할당하는 것에 의해 생성된다. 그러므로, 수학식 6에서의 정규화 가정 하에서 이 언급된 상이한 신호 유형들의 가능한 값 범위를 분석하는 것이 필요하다. 모든 종류의 신호들이 원래의 HOA 계수 시퀀스들로부터 즉각 계산되기 때문에, 그들의 가능한 값 범위들이 검토된다.

하나 이상의 HOA 계수 시퀀스들만이

개의 채널들에 포함되어 있는 경우가 도 1의 A 및 도 2의 B에 도시되어 있지 않으며, 즉 이러한 경우에, HOA 분해, 주변 성분 수정 및 대응하는 합성 블록들이 필요하지 않게 된다.

HOA 표현의 값 범위에 대한 결과

시간 연속적 HOA 표현이 수학식 8에 의해 가상 스피커 신호들로부터 획득되고,

[수학식 8]

수학식 8은 수학식 5에서의 연산의 역연산(inverse operation)이다. 그러므로, 모든 HOA 계수 시퀀스들의 총 전력은 수학식 8 및 수학식 7을 사용하여 다음과 같이 제한된다:

[수학식 9]

구면 조화함수 함수들의 N3D 정규화의 가정 하에서, 모드 행렬의 유클리드 노름의 제곱은 수학식 10a와 같이 써질 수 있고,

[수학식 10a]

여기서

[수학식 10b]

은 모드 행렬의 유클리드 노름의 제곱과 HOA 계수 시퀀스들의 수

사이의 비이다. 이 비는 특정 HOA 차수 및 특정 가상 스피커 방향들 에 의존하며, 수학식 10c와 같이 각자의 파라미터 목록을 비에 부가하는 것에 의해 표현될 수 있다.

[수학식 10c]

도 3은 HOA 차수들 에 대한 앞서 언급된 Fliege 등의 논문에 따른 가상 방향들 에 대한 의 값들을 나타내고 있다.

모든 이전의 인수(argument)들과 고려사항들을 결합하는 것은 다음과 같이 HOA 계수 시퀀스들의 크기에 대한 상한을 제공하고:

[수학식 11]

여기서 첫 번째 부등식은 노름 정의들로부터 직접 나온 것이다.

유의할 중요한 점은 수학식 6에서의 조건이 수학식 11에서의 조건을 암시하지만, 그 반대가 성립하지 않는다 - 즉, 수학식 11이 수학식 6을 암시하지 않는다 - 는 것이다.

추가적인 중요한 측면은, 거의 균일하게 분포된 가상 스피커 위치들의 가정 하에서, 가상 스피커 위치들과 관련하여 모드 벡터들을 표현하는 모드 행렬 의 열 벡터들이 서로 거의 직교이고 각각이 의 유클리드 노름을 갖는다는 것이다. 이 특성은 공간 변환이 곱셈 상수(multiplicative constant)를 제외하고는 유클리드 노름을 거의 보존한다는 것을 의미하며, 즉,

[수학식 12]

이다.

실제 노름 가 수학식 12에서의 근사화와 많이 상이할수록, 모드 벡터들에 대한 직교성 가정이 많이 위반된다.

우세 음향 신호들의 값 범위에 대한 결과

양 유형의 우세 음향 신호들(방향 및 벡터 기반)의 공통점은 HOA 표현에 대한 그들의 기여가 의 유클리드 노름을 갖는 단일의 벡터 에 의해 기술된다는 것이며, 즉

[수학식 13]

이다. 방향 신호의 경우에, 이 벡터는 특정의 신호 소스 방향 에 대한 모드 벡터에 대응하며, 즉

[수학식 14]

[수학식 15]

이다. 이 벡터는 HOA 표현에 의해 신호 소스 방향 으로의 방향 빔을 기술한다. 벡터 기반 신호의 경우에, 벡터 은 임의의 방향에 대해 모드 벡터로 제약되지 않고, 그러므로 모노럴 벡터 기반 신호의 보다 일반적인 방향 분포를 기술할 수 있다.

이하에서 개의 우세 음향 신호들 , - 이들은 수학식 16에 따라 벡터 에 모여 있을 수 있음 - 의 일반적인 경우가 고려된다.

[수학식 16]

이 신호들은 모노럴 우세 음향 신호들 , 의 방향 분포를 나타내는 모든 벡터들 , 로 형성되는 수학식 17의 행렬에 기초하여 결정되어야만 한다.

[수학식 17]

우세 음향 신호들 의 의미있는 추출을 위해, 이하의 제약조건들이 수식화된다:

a) 각각의 우세 음향 신호가, 수학식 18과 같이, 원래의 HOA 표현의 계수 시퀀스들의 선형 결합으로서 획득되며,

[수학식 18]

여기서 는 믹싱 행렬을 나타낸다.

b) 믹싱 행렬 는 그의 유클리드 노름이 '1'의 값을 초과하지 않도록 - 즉,

[수학식 19]

이도록 - 그리고 원래의 HOA 표현과 우세 음향 신호들의 HOA 표현 사이의 잔차의 유클리드 노름의 제곱(또는 동등하게 전력)이 원래의 HOA 표현의 유클리드 노름의 제곱(또는 동등하게 전력) 이하이도록 - 즉,

[수학식 20]

- 이도록 선택되어야만 한다.

수학식 18을 수학식 20에 삽입함으로써, 수학식 20이 수학식 21의 제약조건과 동등하다는 것을 알 수 있고,

[수학식 21]

여기서

는 항등 행렬을 나타낸다.

수학식 18 및 수학식 19에서의 제약조건들로부터 그리고 유클리드 행렬 및 벡터 노름들의 호환성으로부터, 우세 음향 신호들의 크기들에 대한 상한이 수학식 18, 수학식 19 및 수학식 11을 사용하여 다음과 같이 구해진다.

[수학식 22]

[수학식 23]

[수학식 24]

그러므로, 우세 음향 신호들이, 수학식 25와 같이, 원래의 HOA 계수 시퀀스들과 동일한 범위에 있도록 보장된다(수학식 11과 비교).

[수학식 25]

믹싱 행렬의 선택에 대한 예

제약조건(수학식 20)을 충족시키는 믹싱 행렬을 어떻게 결정해야 하는지의 일 예는, 수학식 26과 같이, 추출 이후의 잔차의 유클리드 노름이 최소화되도록 우세 음향 신호들을 계산하는 것에 의해 얻어진다.

[수학식 26]

수학식 26에서의 최소화 문제에 대핸 해결책은 수학식 27에 의해 주어지고,

[수학식 27]

여기서 는 Moore-Penrose 의사 역행렬(pseudo-inverse)을 나타낸다. 수학식 27과 수학식 18을 비교해 보면, 이 경우에, 믹싱 행렬이 행렬 의 Moore-Penrose 의사 역행렬과 같은 것으로 된다 - 즉, 임 -.

그럼에도 불구하고, 행렬 는 여전히 제약조건(수학식 19)을 충족시키도록, 즉 수학식 28이도록, 선택되어야만 한다.

[수학식 28]

행렬 가 어떤 소스 신호 방향들 , 에 대한 모드 행렬 - 즉, 수학식 29 - 인, 방향 신호들만의 경우에,

[수학식 29]

제약조건(수학식 28)은, 임의의 2개의 이웃하는 방향들의 거리가 너무 작지 않도록, 소스 신호 방향들 , 를 선택하는 것에 의해 충족될 수 있다.

주변 HOA 성분의 계수 시퀀스들의 값 범위에 대한 결과

주변 HOA 성분은 원래의 HOA 표현을 우세 음향 신호들의 HOA 표현으로부터 차감하는 것에 의해 - 즉, 수학식 30에 의해 - 계산된다.

[수학식 30]

우세 음향 신호들의 벡터 가 기준(수학식 20)에 따라 결정되면, 다음과 같이 결론지어질 수 있다:

[수학식 31]

[수학식 32]

[수학식 33]

[수학식 34]

주변 HOA 성분의 공간 변환된 계수 시퀀스들의 값 범위

EP 2743922 A1에서 그리고 앞서 언급된 MPEG 문서 N14264에서 제안된 HOA 압축 처리에서의 추가적인 측면은 주변 HOA 성분의 처음 개의 계수 시퀀스들이 항상 전송 채널들에 할당되도록 선택되고, 여기서 이고 은 전형적으로 원래의 HOA 표현의 차수보다 더 작은 차수이다. 이 HOA 계수 시퀀스들을 무상관화시키기 위해, 이들이 (입력 HOA 표현의 정규화 섹션에 기술된 개념과 유사하게) 어떤 미리 정의된 방향들 , 로부터 충돌하는 가상 스피커 신호들로 변환될 수 있다.

차수 인덱스 을 갖는 주변 HOA 성분의 모든 계수 시퀀스들의 벡터를 에 의해 그리고 가상 방향들 , 에 대한 모드 행렬을 에 의해 정의하면, 모든 가상 스피커 신호들의 벡터 (모든 가상 스피커 신호들은 그에 의해 정의됨)는 수학식 35에 의해 획득된다:

[수학식 35]

그러므로, 유클리드 행렬과 벡터 노름들의 호환성을 사용하여,

[수학식 36]

[수학식 37]

[수학식 38]

.

앞서 언급된 MPEG 문서 N14264에서, 가상 방향들 , 은 앞서 언급된 Fliege 등의 논문에 따라 선택된다. 모드 행렬들 의 역행렬의 각자의 유클리드 노름들이 차수들 에 대해 도 4에 예시되어 있다. 수학식 39라는 것을 알 수 있다.

[수학식 39]

그렇지만, 이것은 에 대해 일반적으로 성립하지 않으며, 여기서 의 값들은 전형적으로 '1'보다 훨씬 더 크다. 그럼에도 불구하고, 적어도 에 대해, 가상 스피커 신호들의 진폭들이 수학식 40에 의해 제한된다.

[수학식 40]

이 HOA 표현으로부터 생성된 가상 스피커 신호들의 진폭들이 '1'의 값을 초과하지 않을 것을 요구하는, 조건(수학식 6)을 충족시키도록 입력 HOA 표현을 제약하는 것에 의해, 이득 제어 이전의 신호들의 진폭들이 다음과 같은 조건들 하에서 값 (수학식 25, 수학식 34 및 수학식 40을 참조)을 초과하지 않을 것임이 보장될 수 있다:

a) 모든 우세 음향 신호들의 벡터 가 수학식/제약조건 18, 수학식/제약조건 19 및 수학식/제약조건 20에 따라 계산된다;

b) 앞서 언급된 Fliege 등의 논문에서 정의된 것들이 가상 스피커 위치들로서 사용되는 경우, 공간 변환이 적용되는 주변 HOA 성분의 제1 계수 시퀀스들의 수 을 결정하는 최소 차수 은 '9'보다 낮아야만 한다.

이득 제어 이전의 신호들의 진폭들이 최대 관심 차수 까지의 임의의 차수 에 대해 값 를 초과하지 않을 것으로 - 즉, 일 것으로 - 추가로 결론내려질 수 있으며, 여기서 수학식 41a이다.

[수학식 41a]

상세하게는, 도 3으로부터 결론내려질 수 있다. 초기 공간 변환을 위한 가상 스피커 방향들 가 Fliege 등의 논문에서의 분포에 따라 선택되는 것으로 가정되는 경우 그리고 그에 부가하여, 최대 관심 차수가 (예컨대, MPEG 문서 N14264에서와 같이) 인 것으로 가정되는 경우, 이득 제어 이전의 신호들의 진폭들이 값 를 초과하지 않을 것인데, 그 이유는 이 특수한 경우에 이기 때문이다. 즉, 가 선택될 수 있다.

는 최대 관심 차수 및 가상 스피커 방향들 에 의존하고, 수학식 41b에 의해 표현될 수 있다.

[수학식 41b]

그러므로, 인지 코딩 이전의 신호들이 구간 내에 있도록 하기 위해 이득 제어에 의해 적용되는 최소 이득은 에 의해 주어지고, 여기서 수학식 41c이다.

[수학식 41c]

이득 제어 이전의 신호들의 진폭들이 너무 작은 경우, 그들을 까지의 인수를 사용해 매끄럽게 증폭시키는 것이 가능하고, 여기서 이 코딩된 HOA 표현 내에서 보조 정보로서 전송되는 것이 MPEG 문서 N14264에 제안되어 있다.

이와 같이, 액세스 단위 내에서 첫 번째 프레임부터 현재 프레임까지 이득 제어 처리 유닛에 의해 야기된 수정된 신호의 총 절대 진폭 변화를 기술하는, 밑이 '2'인 각각의 지수가 구간 내의 임의의 정수값을 취할 수 있다. 결과적으로, 그것을 코딩하는 데 필요하게 되는 비트들의 (최저 정수) 개수 가 수학식 42에 의해 주어진다.

[수학식 42]

이득 제어 이전 신호들의 진폭들이 너무 작지는 않은 경우, 수학식 42가 수학식 42a로 단순화될 수 있다:

[수학식 42a]

이 비트 수 는 이득 제어 단계들/스테이지들(15,...,151)의 입력에서 계산될 수 있다.

지수에 대해 이 비트 수 를 사용하는 것은 HOA 압축기 이득 제어 처리 유닛들(15, ..., 151)에 의해 야기된 모든 가능한 절대 진폭 변화들이 포착될 수 있도록 보장하여, 압축된 표현 내의 어떤 미리 정의된 진입점들에서 압축해제를 시작하는 것을 가능하게 한다.

압축된 HOA 표현의 압축해제를 HOA 압축해제기에서 시작할 때, 어떤 데이터 프레임들에 대한 보조 정보에 할당되고 수신된 데이터 스트림 중에서 디멀티플렉서(21)로부터 수신되는 총 절대 진폭 변화들을 나타내는 비차분 이득 값들이, 이득 제어 단계들/스테이지들(15,...,151)에서 수행된 처리와 정반대의 방식으로, 올바른 이득 제어를 적용하기 위해 역 이득 제어 단계들 또는 스테이지들(24,..., 241)에서 사용된다.

추가 실시예

HOA 압축 섹션, 공간 HOA 인코딩 섹션, HOA 압축해제 섹션 및 공간 HOA 디코딩 섹션에 기술된 바와 같은 특정의 HOA 압축/압축해제 시스템들을 구현할 때, 지수의 코딩을 위한 비트들의 양 는 스케일링 인자 에 의존하여 수학식 42에 따라 설정되어야만 하며, 스케일링 인자 자체는 압축될 HOA 표현들의 원하는 최대 차수 및 특정 가상 스피커 방향들 , 에 의존한다.

예를 들어, 인 것으로 가정하고 Fliege 등의 논문에 따라 가상 스피커 방향들을 선택할 때, 타당한 선택은 일 것이다. 그 상황에서, 동일한 가상 스피커 방향들 를 사용하여 입력 HOA 표현의 정규화 섹션에 따라 정규화되는, 를 갖는 차수 의 HOA 표현들에 대해 올바른 압축이 보장된다. 그렇지만, (효율로 인해) 가상 스피커 신호들에 의해 PCM 포맷으로 동등하게 표현되는 HOA 표현의 경우에, 그리고 가상 스피커들의 방향들 이 시스템 설계 스테이지에서 가정된 가상 스피커 방향들 와 상이하게 선택되는 경우, 이 보장이 주어지지 않을 수 있다.

가상 스피커 위치들의 이 상이한 선택으로 인해, 이 가상 스피커 신호들의 진폭들이 구간 내에 있더라도, 이득 제어 이전의 신호들의 진폭들이 값 를 초과하지 않을 것이라고 더 이상 보장될 수 없다. 그리고 따라서 이 HOA 표현이 MPEG 문서 N14264에 기술된 처리에 따른 압축에 대해 적절한 정규화를 갖는다고 보장될 수 없다.

이 상황에서, 각자의 HOA 표현이 MPEG 문서 N14264에 기술된 처리에 따른 압축에 적당하도록 하기 위해, 가상 스피커 위치들을 알고 있는 것에 기초하여, 가상 스피커 신호들의 최대 허용 진폭을 제공하는 시스템을 가지는 것이 유리하다. 도 5에, 이러한 시스템이 예시되어 있다. 이 시스템은 가상 스피커 위치들 - 단, 이고 임 - 를 입력으로서 취하고, 가상 스피커 신호들의 최대 허용 진폭 (데시벨로 측정됨)를 출력으로서 제공한다. 단계 또는 스테이지(51)에서, 가상 스피커 위치들에 대한 모드 행렬 가 수학식 3에 따라 계산된다. 다음 단계 또는 스테이지(52)에서, 모드 행렬의 유클리드 노름 가 계산된다. 제3 단계 또는 스테이지(53)에서, 수학식 43과 같이, 진폭 가 가상 스피커 위치들의 수의 제곱근과 의 제곱근의 곱과 모드 행렬의 유클리드 노름 사이의 비율(quotient)과 '1' 중의 최소값으로서 계산된다.

[수학식 43]

수학식 44에 의해 데시벨 단위의 값이 획득된다.

[수학식 44]

설명을 위해: 이상의 유도들로부터, HOA 계수 시퀀스들의 크기가 값 를 초과하지 않는 경우, 즉 수학식 45인 경우,

[수학식 45]

이득 제어 처리 유닛들(15, 151) 이전의 모든 신호들이 그에 따라, 적절한 HOA 압축에 대한 요구사항인, 이 값을 초과하지 않는다는 것을 알 수 있다.

수학식 9로부터, HOA 계수 시퀀스들의 크기가 수학식 46에 의해 제한된다는 것을 알 수 있다.

[수학식 46]

결과적으로,

가 수학식 43에 따라 설정되고 PCM 포맷의 가상 스피커 신호들이 수학식 47을 충족시키는 경우,

[수학식 47]

수학식 7로부터 당연히 수학식 48로 되고,

[수학식 48]

요구사항(수학식 45)이 충족된다.

즉, 수학식 6에서의 '1'의 최대 크기 값이 수학식 47에서의 최대 크기 값

에 의해 대체된다.

고차 앰비소닉스의 기초

고차 앰비소닉스(HOA)는 음원들이 없는 것으로 가정되는 콤팩트한 관심 영역 내에서의 음장의 설명에 기초한다. 그 경우에, 시간

및 위치

에서의 음압 의 시공간 거동이 동차 파동 방정식(homogeneous wave equation)에 의해 물리적으로 완전히 결정된다. 이하에서, 도 6에 도시된 바와 같은 구면 좌표계가 가정된다. 사용되는 좌표계에서,

축은 전방 위치를 가리키고,

축은 좌측을 가리키며,

축은 상방을 가리킨다. 공간에서의 위치 는 반경 (즉, 좌표 원점까지의 거리)에 의해 표현되고, 경사각 는 극축(polar axis)

로부터 측정되며, 방위각 는 평면에서

축으로부터 시계반대방향으로 측정된다. 게다가, 는 전치를 나타낸다.

이어서, "Fourier Acoustics" 교재로부터 에 의해 표기된 시간에 대한 음압의 푸리에 변환, 즉, 수학식 49가

[수학식 49]

- 여기서

는 각주파수를 나타내고

는 허수 단위를 나타냄 - 수학식 50에 따라 구면 조화함수의 급수로 전개될 수 있다는 것을 알 수 있고,

[수학식 50]

여기서

는 음속을 나타내고

는

에 의해 각주파수

에 관련되는 각파수(angular wave number)를 나타낸다. 게다가, 는 제1종의 구면 베셀 함수(spherical Bessel function)들을 나타내고, 는, 실수값 구면 조화함수의 정의 섹션에서 정의되는, 계수(order)

및 차수(degree)

의 실수값 구면 조화함수를 나타낸다. 전개 계수들 는 각파수

에만 의존한다. 유의할 점은, 음압이 공간적으로 대역 제한되어 있는 것으로 암시적으로 가정되었다는 것이다. 이와 같이, 급수가 차수 인덱스

과 관련하여, HOA 표현의 차수라고 불리우는, 상한

에서 절단된다.

음장이 각도 튜플(angle tuple) 에 의해 명시되는 모든 가능한 방향들부터 도착하는 상이한 각주파수들

의 무한 수의 조화 평면파들의 중첩에 의해 표현되는 경우, 각자의 평면파 분해 복소 진폭 함수 가 수학식 51의 구면 조화함수 전개에 의해 표현될 수 있고

[수학식 51]

여기서 전개 계수들 는 수학식 52에 의해 전개 계수들 에 관련되어 있다는 것을 알 수 있다(B. Rafaely, "Plane-wave decomposition of the sound field on a sphere by spherical convolution", J. Acoust. Soc. Am., vol.4(116), pages 2149-2157, October 2004를 참조)

[수학식 52]

개개의 계수들 가 각주파수

의 함수들인 것으로 가정하면, 역푸리에 변환(에 의해 표기됨)의 적용은 각각의 계수

및 차수

에 대한 수학식 53의 시간 영역 함수들을 제공한다:

[수학식 53]

이 시간 영역 함수들은 여기서, 수학식 54에 의해 단일의 벡터 에 모여 있을 수 있는, 연속 시간 HOA 계수 시퀀스들이라고 지칭된다.

[수학식 54]

벡터 내에서의 HOA 계수 시퀀스 의 위치 인덱스는 에 의해 주어진다. 벡터 내의 요소들의 총수는 에 의해 주어진다.

최종적인 앰비소닉스 포맷은 샘플링 주파수 를 사용한 의 샘플링된 버전을 수학식 55로서 제공하고,

[수학식 55]

여기서 는 샘플링 주기를 나타낸다. 의 요소들은, 항상 실수값이라는 것을 알 수 있는, 이산 시간 HOA 계수 시퀀스들이라고 지칭된다. 이 특성은 연속 시간 버전들 에 대해서도 성립한다.

실수값 구면 조화함수의 정의

실수값 구면 조화함수 (J. Daniel, "Representation de champs acoustiques, application a la transmission et a la reproduction de scenes sonores complexes dans un contexte multimedia", PhD thesis, Universite Paris, 6, 2001, chapter 3.1에 따라 SN3D 정규화를 가정함)는 수학식 56에 의해 주어지고

[수학식 56]

여기서

[수학식 57]

연관된 르장드르 함수(Legendre function)들 는 수학식 58로서 정의되고,

[수학식 58]

수학식 58은 르장드르 다항식(Legendre polynomial) 를 갖지만, E.G. Williams, "Fourier Acoustics", vol.93 of Applied Mathematical Sciences, Academic Press, 1999에서와 달리, 콘던-쇼틀리 위상(Condon-Shortley phase) 항 을 갖지 않는다.

본 발명의 처리는 단일의 프로세서 또는 전자 회로에 의해, 또는 병렬로 동작하는 그리고/또는 본 발명의 처리의 상이한 부분들에서 동작하는 몇 개의 프로세서들 또는 전자 회로들에 의해 수행될 수 있다.

프로세서 또는 프로세서들을 작동시키는 명령어들은 하나 이상의 메모리들에 저장될 수 있다.

Claims (3)

1. 음향 또는 음장의 압축된 고차 앰비소닉스(Higher Order Ambisonics; HOA) 표현을 디코딩하는 방법으로서,
   상기 압축된 HOA 표현을 포함하는 비트스트림을 수신하는 단계 - 상기 비트스트림은 상기 압축된 HOA 표현에 대응하는 다수의 HOA 계수들을 포함함 - , 및
   최저 정수 개수 에 기초하여 상기 압축된 HOA 표현을 디코딩하는 단계 - 상기 최저 정수 개수 는 에 기초하여 결정됨 - ,
   를 포함하고,
   이고, 은 차수이며, 은 최대 관심 차수이고, 는 가상 스피커들의 방향들이며, 은 HOA 계수 시퀀스들의 수이고, 는 모드 행렬의 유클리드 노름의 제곱 과 사이의 비이며,
   이고,
   적어도 상기 HOA 표현과 연관된 비차분 이득 값(2^e)이 상기 비트스트림에서 보조 정보로서 전송되고, 상기 비차분 이득 값은 비트들로 표현되는,
   방법.
2. 음향 또는 음장의 압축된 고차 앰비소닉스(Higher Order Ambisonics; HOA) 표현을 디코딩하기 위한 장치로서,
   상기 압축된 HOA 표현을 포함하는 비트스트림을 수신하도록 구성되는 프로세서 - 상기 비트스트림은 상기 압축된 HOA 표현에 대응하는 다수의 HOA 계수들을 포함하고, 상기 프로세서는 최저 정수 개수 에 기초하여 상기 압축된 HOA 표현을 디코딩하도록 더 구성되며, 상기 최저 정수 개수 는 에 기초하여 결정됨 - ,
   를 포함하고,
   이고, 은 차수이며, 은 최대 관심 차수이고, 는 가상 스피커들의 방향들이며, 은 HOA 계수 시퀀스들의 수이고, 는 모드 행렬의 유클리드 노름의 제곱 과 사이의 비이며,
   이고,
   적어도 상기 HOA 표현과 연관된 비차분 이득 값(2^e)이 상기 비트스트림에서 보조 정보로서 전송되고, 상기 비차분 이득 값은 비트들로 표현되는,
   장치.
3. 프로세서에 의해 실행되는 경우 제1항의 방법을 수행하는 명령어들을 포함하는 비일시적 컴퓨터 판독가능 저장 매체.

Images