KR20160028442A

KR20160028442A - Hoa 신호들의 계수 도메인 표현으로부터 상기 hoa 신호들의 공간/계수 혼합 도메인 표현을 생성하기 위한 방법 및 장치

Info

Publication number: KR20160028442A
Application number: KR1020167000562A
Authority: KR
Inventors: 알렉산더 크루거; 스벤 코르돈
Original assignee: 톰슨 라이센싱
Priority date: 2013-07-11
Filing date: 2014-06-24
Publication date: 2016-03-11
Also published as: CN117275492A; AU2014289527B2; BR122020017865B1; ZA201807916B; JP2021036333A; US20180048974A1; US20190215630A9; AU2024201885A1; EP3518235A1; RU2016104403A; RU2018135962A3; CN110648675A; EP4012704A1; US10382876B2; CN110648675B; CN116564321A; US20230179936A1; TW202013353A; US10841721B2; AU2022204314B2

Abstract

HOA로 표시되는 고차 앰비소닉스에 대한 2가지 표현이 있다: 공간 도메인 및 계수 도메인. 본 발명은 계수 도메인 표현으로부터 공간/계수 혼합 도메인 표현을 생성하고, 상기 HOA 신호들의 수는 가변적일 수 있다. 계수 도메인 신호들의 벡터는 일정한 수의 HOA 계수들을 가진 계수 도메인 신호들의 벡터와 가변적인 수의 HOA 계수들을 가진 계수 도메인 신호들의 벡터로 분리된다. 일정한 수의 HOA 계수들의 벡터는 대응하는 공간 도메인 신호 벡터로 변환된다. 신호 불연속들을 생성하지 않고 고품질 코딩을 가능하게 하기 위하여, 계수 도메인 신호들의 가변적인 수의 HOA 계수들의 벡터는 적응적으로 정규화되고 공간 도메인 신호들의 벡터와 다중화된다.

Description

HOA 신호들의 계수 도메인 표현으로부터 상기 HOA 신호들의 공간/계수 혼합 도메인 표현을 생성하기 위한 방법 및 장치{METHOD AND APPARATUS FOR GENERATING FROM A COEFFICIENT DOMAIN REPRESENTATION OF HOA SIGNALS A MIXED SPATIAL/COEFFICIENT DOMAIN REPRESENTATION OF SAID HOA SIGNALS}

본 발명은 HOA 신호들의 계수 도메인 표현으로부터 상기 HOA 신호들의 공간/계수 혼합 도메인 표현을 생성하기 위한 방법 및 장치에 관한 것이고, 여기서 HOA 신호들의 수는 가변적일 수 있다.

HOA로 표시되는 고차 앰비소닉스(Higher Order Ambisonics)는 2차원 또는 3차원 음장의 수학적 서술(mathematical description)이다. 음장은 합성 음원들로부터 설계된, 마이크로폰 어레이에 의해 캡처될 수 있거나, 그것은 양자의 조합이다. HOA는 2차원 또는 3차원 서라운드 사운드에 대한 전송 포맷으로 이용될 수 있다. 라우드스피커 기반 서라운드 사운드 표현과 대조적으로, HOA의 이점은 상이한 라우드스피커 배열들에서의 음장의 재생이다. 그러므로, HOA는 보편적인 오디오 포맷에 적합하다.

HOA의 공간 분해능은 HOA 차수에 의해 결정된다. 이 차수는 음장을 묘사하고 있는 HOA 신호들의 수를 정의한다. HOA에 대한 2가지 표현이 있고, 이들은 각각 공간 도메인과 계수 도메인으로 불린다. 대부분의 경우에 HOA는 원래 계수 도메인에서 표현되고, 그러한 표현은 EP 2469742 A2에 기술된 바와 같이 행렬 곱셈(또는 변환)에 의해 공간 도메인으로 변환될 수 있다. 공간 도메인은 계수 도메인과 동일한 수의 신호로 이루어진다. 그러나, 공간 도메인에서 각 신호는 방향과 관련이 있고, 그 방향들은 단위 구체(unit sphere)에서 균일하게 분포된다. 이것은 HOA 표현의 공간 분포의 분석을 용이하게 한다. 계수 도메인 표현들뿐만 아니라 공간 도메인 표현들은 시간 도메인 표현들이다.

이하에서, 기본적으로, 목적은 각 방향마다 동일한 다이내믹 레인지를 제공하기 위하여 가능한 한 공간 도메인을 HOA 표현들의 PCM 전송을 위해 이용하는 것이다. 이것은 공간 도메인에서 HOA 신호들의 PCM 샘플들이 사전 정의된 값 범위로 정규화되어야 한다는 것을 의미한다. 그러나, 그러한 정규화의 문제점은 공간 도메인에서 HOA 신호들의 다이내믹 레인지가 계수 도메인에서보다 작다는 것이다. 이것은 계수 도메인 신호들로부터 공간 도메인 신호를 생성하는 변환 행렬에 의해 야기된다.

일부 응용들에서 HOA 신호들은 계수 도메인에서 전송되는데, 예를 들어 EP 13305558.2에 기술된 처리에서는 일정한 수의 HOA 신호들과 가변적인 수의 추가의 HOA 신호들이 전송되어야 하기 때문에 모든 신호들이 계수 도메인에서 전송된다. 그러나, 앞서 언급하고 EP 2469742 A2에 제시된 바와 같이, 계수 도메인에서의 전송은 유익하지 않다. 해결책으로서, 일정한 수의 HOA 신호들은 공간 도메인에서 전송될 수 있고 가변적인 수의 추가의 HOA 신호들만이 계수 도메인에서 전송된다. 공간 도메인에서의 추가의 HOA 신호들의 전송은 가능하지 않은데, 그 이유는 시간 가변적인 수의 HOA 신호들은 시간 가변적인 계수-공간 도메인 변환 행렬들, 및 불연속들을 야기할 것이고, 이러한 것들은 PCM 신호들의 후속의 인지 코딩(perceptual coding)에는 차선이고, 모든 공간 도메인 신호들에서 일어날 수 있기 때문이다.

사전 정의된 값 범위를 초과하지 않고 이러한 추가의 HOA 신호들의 전송을 보장하기 위해, 그러한 신호 불연속들을 방지하도록 설계되고, 또한 반전 파라미터들의 효율적인 전송도 달성하는 가역 정규화 처리가 이용될 수 있다.

PCM 코딩을 위한 HOA 신호들의 2가지 HOA 표현들 및 정규화의 다이내믹 레인지에 관하여, 이하에서는 그러한 정규화가 계수 도메인에서 일어나는지 공간 도메인에서 일어나는지가 추론된다.

계수 시간 도메인에서는, HOA 표현은 N개 계수 신호들 d_n(k)[n = 0, ...,N - 1]의 연속 프레임들로 이루어지고, 여기서 k는 샘플 인덱스를 나타내고 n은 신호 인덱스를 나타낸다.

이러한 계수 신호들은 콤팩트한 표현을 얻기 위하여 벡터

에서 수집된다.

공간 도메인으로의 변환은 EP 12306569.0에 정의된 바와 같이 NxN 변환 행렬

에 의해 수행되고, 수학식 21 및 22와 관련하여

의 정의를 참고한다.

공간 도메인 벡터

는

로부터 얻어지고, 여기서

는 행렬

의 역행렬이다.

공간으로부터 계수 도메인으로의 역변환은

에 의해 수행된다.

샘플들의 값 범위가 하나의 도메인에서 정의되면, 변환 행렬

는 다른 하나의 도메인의 값 범위를 자동으로 정의한다. k번째 샘플에 대한 용어 (k)는 이하에서 생략된다.

HOA 표현은 실제로는 공간 도메인에서 재현되기 때문에, 값 범위, 라우드니스(loudness) 및 다이내믹 레인지는 이 도메인에서 정의된다. 다이내믹 레인지는 PCM 코딩의 비트 분해능에 의해 정의된다. 이 출원에서, 'PCM 코딩'은 부동 소수점 표현 샘플들의 고정점 표기법의 정수 표현 샘플들로의 변환을 의미한다.

HOA 표현의 PCM 코딩을 위해, N개의 공간 도메인 신호들은

의 값 범위로 정규화되어야 하고 따라서 그것들은 최대 PCM 값

로 업-스케일링되고 고정점 정수 PCM 표현

으로 반올림될 수 있다.

주: 이것은 일반화된 PCM 코딩 표현이다.

계수 도메인의 샘플들에 대한 값 범위는

에 의해 정의되는, 행렬

의 무한대 놈(infinity norm)에 의해 계산될 수 있고, 공간 도메인에서의 최대 절대값

내지

이다.

의 값은 행렬

의 사용된 정의에 대해 '1'보다 크기 때문에, d_n의 값 범위는 증가한다.

정반대는

이므로 계수 도메인에서의 신호들의 PCM 코딩을 위해

에 의한 정규화가 요구된다는 것을 의미한다. 그러나, 이 정규화는 계수 도메인에서의 신호들의 다이내믹 레인지를 감소시키고, 이는 더 낮은 신호 대 양자화 잡음비를 야기할 것이다. 그러므로 공간 도메인 신호들의 PCM 코딩이 선호되어야 한다.

본 발명이 해결하고자 하는 과제는 계수 도메인에서 다이내믹 레인지를 감소시키지 않고, 정규화를 이용하여 계수 도메인에서 공간 도메인의 원하는 HOA 신호들의 일부를 전송하는 방법이다. 또한, 정규화된 신호들은 점프로 초래된 품질 손실 없이 인지 코딩될 수 있도록 신호 레벨 점프들을 포함하지 않을 것이다. 이 과제는 청구항 1과 청구항 6에 개시된 방법들에 의해 해결된다. 이러한 방법들을 이용하는 장치들은 청구항 2와 청구항 7에 각각 개시되어 있다.

원칙적으로, 본 발명의 생성 방법은 HOA 신호들의 계수 도메인 표현으로부터 상기 HOA 신호들의 공간/계수 혼합 도메인 표현을 생성하기에 적합하고, 여기서 상기 HOA 신호들의 수는 연속 계수 프레임들에서 시간에 따라 가변적일 수 있고, 상기 방법은:

- HOA 계수 도메인 신호들의 벡터를 일정한 수의 HOA 계수들을 가진 계수 도메인 신호들의 제1 벡터와 시간에 따라 가변적인 수의 HOA 계수들을 가진 계수 도메인 신호들의 제2 벡터로 분리하는 단계;

- 계수 도메인 신호들의 상기 벡터를 변환 행렬의 역행렬과 곱하는 것에 의해 계수 도메인 신호들의 상기 제1 벡터를 공간 도메인 신호들의 대응하는 벡터로 변환하는 단계;

- 공간 도메인 신호들의 상기 벡터를 PCM 인코딩하여 PCM 인코딩된 공간 도메인 신호들의 벡터를 획득하는 단계;

- 계수 도메인 신호들의 상기 제2 벡터를 정규화 인자(normalisation factor)로 정규화하는 단계 - 상기 정규화는 계수 도메인 신호들의 상기 제2 벡터의 상기 HOA 계수들의 현재 값 범위에 관한 적응적 정규화이고 상기 정규화에서 상기 벡터의 상기 HOA 계수들에 대한 이용 가능한 값 범위는 초과되지 않고, 그 정규화에서, 현재 제2 벡터의 계수들에 균등 연속 천이 함수(uniformly continuous transition function)를 적용하여, 그 벡터 내의 이득을 이전 제2 벡터에서의 이득으로부터 다음 제2 벡터에서의 이득으로 계속해서 변화시키고, 그 정규화는 대응하는 디코더 측 역정규화(de-normalisation)를 위한 사이드 정보를 제공함 -;

- 정규화된 계수 도메인 신호들의 상기 벡터를 PCM 인코딩하여 PCM 인코딩되고 정규화된 계수 도메인 신호들의 벡터를 획득하는 단계;

- PCM 인코딩된 공간 도메인 신호들의 상기 벡터와 PCM 인코딩되고 정규화된 계수 도메인 신호들의 상기 벡터를 다중화하는 단계를 포함한다.

원칙적으로, 본 발명의 생성 장치는 HOA 신호들의 계수 도메인 표현으로부터 상기 HOA 신호들의 공간/계수 혼합 도메인 표현을 생성하기에 적합하고, 여기서 상기 HOA 신호들의 수는 연속 계수 프레임들에서 시간에 따라 가변적일 수 있고, 상기 장치는:

- HOA 계수 도메인 신호들의 벡터를 일정한 수의 HOA 계수들을 가진 계수 도메인 신호들의 제1 벡터와 시간에 따라 가변적인 수의 HOA 계수들을 가진 계수 도메인 신호들의 제2 벡터로 분리하도록 구성되는 수단;

- 계수 도메인 신호들의 상기 벡터를 변환 행렬의 역행렬과 곱하는 것에 의해 계수 도메인 신호들의 상기 제1 벡터를 공간 도메인 신호들의 대응하는 벡터로 변환하도록 구성되는 수단;

- 공간 도메인 신호들의 상기 벡터를 PCM 인코딩하여 PCM 인코딩된 공간 도메인 신호들의 벡터를 획득하도록 구성되는 수단;

- 계수 도메인 신호들의 상기 제2 벡터를 정규화 인자로 정규화하도록 구성되는 수단 - 상기 정규화는 계수 도메인 신호들의 상기 제2 벡터의 상기 HOA 계수들의 현재 값 범위에 관한 적응적 정규화이고 상기 정규화에서 상기 벡터의 상기 HOA 계수들에 대한 이용 가능한 값 범위는 초과되지 않고, 그 정규화에서, 현재 제2 벡터의 계수들에 균등 연속 천이 함수를 적용하여, 그 벡터 내의 이득을 이전 제2 벡터에서의 이득으로부터 다음 제2 벡터에서의 이득으로 계속해서 변화시키고, 그 정규화는 대응하는 디코더 측 역정규화를 위한 사이드 정보를 제공함 -;

- 정규화된 계수 도메인 신호들의 상기 벡터를 PCM 인코딩하여 PCM 인코딩되고 정규화된 계수 도메인 신호들의 벡터를 획득하도록 구성되는 수단;

- PCM 인코딩된 공간 도메인 신호들의 상기 벡터와 PCM 인코딩되고 정규화된 계수 도메인 신호들의 상기 벡터를 다중화하도록 구성되는 수단을 포함한다.

원칙적으로, 본 발명의 디코딩 방법은 코딩된 HOA 신호들의 공간/계수 혼합 도메인 표현을 디코딩하기에 적합하고, 상기 HOA 신호들의 수는 연속 계수 프레임들에서 시간에 따라 가변적일 수 있고 코딩된 HOA 신호들의 상기 공간/계수 혼합 도메인 표현은 상기 본 발명의 생성 방법에 따라 생성되었고, 상기 디코딩은:

- PCM 인코딩된 공간 도메인 신호들과 PCM 인코딩되고 정규화된 계수 도메인 신호들의 상기 다중화된 벡터들을 역다중화하는 단계;

- PCM 인코딩된 공간 도메인 신호들의 상기 벡터를 상기 변환 행렬과 곱하는 것에 의해 PCM 인코딩된 공간 도메인 신호들의 상기 벡터를 계수 도메인 신호들의 대응하는 벡터로 변환하는 단계;

- PCM 인코딩되고 정규화된 계수 도메인 신호들의 상기 벡터를 역정규화하는 단계 - 상기 역정규화는:

-- 수신된 상기 사이드 정보의 대응하는 지수(exponent)

와 재귀적으로 계산된 이득 값

을 이용하여, 천이 벡터

를 계산하는 것 - 처리될 상기 PCM 인코딩되고 정규화된 계수 도메인 신호들의 다음 벡터의 대응하는 처리를 위한 이득 값

은 유지되고, j는 HOA 신호 벡터들의 입력 행렬의 실행 인덱스(running index)임 -;

-- 상기 PCM 코딩되고 정규화된 신호의 현재 벡터에 대응하는 역이득 값을 적용하여 상기 PCM 코딩되고 역정규화된 신호의 대응하는 벡터를 획득하는 것을 포함함 -;

- 계수 도메인 신호들의 상기 벡터와 역정규화된 계수 도메인 신호들의 상기 벡터를 결합하여 가변적인 수의 HOA 계수들을 가질 수 있는 HOA 계수 도메인 신호들의 결합된 벡터를 획득하는 단계를 포함한다.

원칙적으로, 본 발명의 디코딩 장치는 코딩된 HOA 신호들의 공간/계수 혼합 도메인 표현을 디코딩하기에 적합하고, 상기 HOA 신호들의 수는 연속 계수 프레임들에서 시간에 따라 가변적일 수 있고 코딩된 HOA 신호들의 상기 공간/계수 혼합 도메인 표현은 상기 본 발명의 생성 방법에 따라 생성되었고, 상기 디코딩 장치는:

- PCM 인코딩된 공간 도메인 신호들과 PCM 인코딩되고 정규화된 계수 도메인 신호들의 상기 다중화된 벡터들을 역다중화하도록 구성되는 수단;

- PCM 인코딩된 공간 도메인 신호들의 상기 벡터를 상기 변환 행렬과 곱하는 것에 의해 PCM 인코딩된 공간 도메인 신호들의 상기 벡터를 계수 도메인 신호들의 대응하는 벡터로 변환하도록 구성되는 수단;

- PCM 인코딩되고 정규화된 계수 도메인 신호들의 상기 벡터를 역정규화하도록 구성되는 수단 - 상기 역정규화는:

-- 수신된 상기 사이드 정보의 대응하는 지수

와 재귀적으로 계산된 이득 값

을 이용하여, 천이 벡터

은 유지되고, j는 HOA 신호 벡터들의 입력 행렬의 실행 인덱스임 -;

- 계수 도메인 신호들의 상기 벡터와 역정규화된 계수 도메인 신호들의 상기 벡터를 결합하여 가변적인 수의 HOA 계수들을 가질 수 있는 HOA 계수 도메인 신호들의 결합된 벡터를 획득하도록 구성되는 수단을 포함한다.

본 발명의 유리한 추가 실시예들은 각각의 종속 청구항들에 개시되어 있다.

본 발명의 예시적인 실시예들이 첨부 도면들에 관련하여 기술되며, 첨부 도면들에서:
도 1은 공간 도메인에서의 원래 계수 도메인 HOA 표현의 PCM 전송을 나타내고;
도 2는 계수와 공간 도메인들에서의 HOA 표현의 결합된 전송을 나타내고;
도 3은 계수 도메인에서의 신호들에 대한 블록 단위 적응적 정규화를 이용한 계수 및 공간 도메인들에서의 HOA 표현의 결합된 전송을 나타내고;
도 4는 계수 도메인에서 표현된 HOA 신호

에 대한 적응적 정규화 처리를 나타내고;
도 5는 2개의 상이한 이득 값 간의 평활한 천이를 위해 이용되는 천이 함수를 나타내고;
도 6은 적응적 역정규화 처리를 나타내고;
도 7은 상이한 지수들

을 이용한 천이 함수들

의 FFT 주파수 스펙트럼을 나타내는 것으로, 여기서 각각의 함수의 최대 진폭은 0dB로 정규화되어 있고;
도 8은 3개의 연속 신호 벡터에 대한 예시적인 천이 함수들을 나타낸다.

공간 도메인에서 HOA 표현의 PCM 코딩에 관하여, HOA 표현의 PCM 전송이 도 1에 도시된 바와 같이 수행될 수 있도록 (부동 소수점 표현으로)

이 충족된다고 가정한다. HOA 인코더의 입력에서의 컨버터 단계 또는 스테이지 11은 현재 입력 신호 프레임의 계수 도메인 신호 d를 수학식 1을 이용하여 공간 도메인 신호 w로 변환한다. PCM 코딩 단계 또는 스테이지 12는 부동 소수점 샘플들 w를 수학식 3을 이용하여 고정점 표기법의 PCM 코딩된 정수 샘플들 w'로 변환한다. 다중화기 단계 또는 스테이지 13에서 샘플들 w'는 HOA 전송 포맷으로 다중화된다.

HOA 디코더는 역다중화 단계 또는 스테이지 14에서 수신된 전송 HOA 포맷으로부터 신호들 w'를 역다중화하고, 그것들을 단계 또는 스테이지 15에서 수학식 2를 이용하여 계수 도메인 신호들 d'로 다시 변환한다. 이 역변환은 d'의 다이내믹 레인지를 증가시켜 공간 도메인으로부터 계수 도메인으로의 변환이 항상 정수(PCM)로부터 부동 소수점으로의 포맷 변환을 포함하게 된다.

도 1의 표준 HOA 전송은 행렬 Ψ이 시간 가변적이면 실패할 것이고, 이는 HOA 신호들의 수 또는 인덱스가 연속 HOA 계수 시퀀스들, 즉 연속 입력 신호 프레임들에 대해 시간 가변적인 경우에 해당한다. 앞서 언급한 바와 같이, 그러한 경우에 대한 하나의 예는 EP 13305558.2에 기술된 HOA 압축 처리이다: 일정한 수의 HOA 신호들은 연속적으로 전송되고 변화하는 신호 인덱스들 n을 가진 가변적인 수의 HOA 신호들은 병렬로 송신된다. 모든 신호들이 계수 도메인에서 전송되는데, 이는 전술한 바와 같이 차선이다.

본 발명에 따르면, 도 1에 관련하여 기술된 처리는 도 2에 도시된 바와 같이 확장된다. 단계 또는 스테이지 20에서, HOA 인코더는 HOA 벡터 d를 2개의 벡터 d₁ 및 d₂로 분리하고, 여기서 벡터 d₁에 대한 HOA 계수들의 수 M은 일정하고 벡터 d₂는 가변적인 수 K의 HOA 계수들을 포함한다. 신호 인덱스들 n은 벡터 d₁에 대하여 시간 가변적이기 때문에, PCM 코딩은 도 1의 단계들/스테이지들 11 내지 15에 대응하는, 도 2의 하부 신호 경로에 도시된 w₁ 및 w'₁에 대응하는 신호들을 가지고 단계들 또는 스테이지들 21, 22, 23, 24 및 25에서 공간 도메인에서 수행된다. 그러나, 다중화기 단계/스테이지 23은 추가의 입력 신호 d"₂를 획득하고 HOA 디코더에서의 역다중화기 단계/스테이지 24는 상이한 출력 신호 d"₂를 제공한다.

벡터 d₂의 HOA 계수들의 수, 또는 사이즈 K는 시간 가변적이고 전송된 HOA 신호들의 인덱스들 n은 시간에 따라 변할 수 있다. 이는 공간 도메인에서의 전송을 방지하는데 그 이유는 시간 가변적인 변환 행렬이 요구될 것이고, 이는 모든 인지 코딩된 HOA 신호들(인지 코딩 단계 또는 스테이지는 도시되어 있지 않다)에서 신호 불연속들을 야기할 것이기 때문이다. 그러나 그러한 신호 불연속들은 회피되어야 하는데 그 이유는 그것들은 전송된 신호들의 인지 코딩의 품질을 감소시킬 것이기 때문이다. 따라서, d₂는 계수 도메인에서 전송되어야 한다. 계수 도메인에서의 신호들의 값 범위가 더 크기 때문에, 신호들은 단계 또는 스테이지 27에서 PCM 코딩이 적용될 수 있기 전에 인자

에 의해 단계 또는 스테이지 26에서 스케일링되어야 한다. 그러나, 그러한 스케일링의 단점은

의 최대 절대값은 최악의 경우 추정치이고, 그 최대 절대 샘플 값은 통상적으로 기대되는 값 범위가 더 작기 때문에 그다지 흔히 발생하지 않을 것이라는 점이다. 그 결과, PCM 코딩에 대한 이용 가능한 분해능은 효율적으로 이용되지 않고 신호 대 양자화 잡음비는 낮다.

역다중화기 단계/스테이지 24의 출력 신호 d"₂는 단계 또는 스테이지 28에서 인자

를 이용하여 역으로 스케일링된다. 결과로 얻어지는 신호 는 단계 또는 스테이지 29에서 신호 d'₁과 결합되고, 그 결과 디코딩된 계수 도메인 HOA 신호 d'가 생성된다.

본 발명에 따르면, 계수 도메인에서의 PCM 코딩의 효율은 신호들의 신호 적응적 정규화를 이용하는 것에 의해 증가될 수 있다. 그러나, 그러한 정규화는 가역적이고 샘플 간에 균등 연속(uniformly continuous)이어야 한다. 요구되는 블록 단위 적응적 처리가 도 3에 도시되어 있다. j번째 입력 행렬

는 L개의 HOA 신호 벡터들 d를 포함한다(인덱스 j는 도 3에 도시되어 있지 않다). 행렬 D는 도 2의 처리에서와 같이 2개의 행렬 D₁ 및 D₂로 분리된다. 단계들 또는 스테이지들 31 내지 35에서의 D₁의 처리는 도 2 및 도 1과 관련하여 기술된 공간 도메인에서의 처리에 대응한다. 그러나 계수 도메인 신호의 코딩은 신호의 현재 값 범위에 자동으로 적응하는 블록 단위 적응적 정규화 단계 또는 스테이지 36과, 그에 이어서 수행되는 PCM 코딩 단계 또는 스테이지 37을 포함한다. 행렬 D"₂에서 각각의 PCM 코딩된 신호의 역정규화를 위한 요구되는 사이드 정보는 벡터 e에 저장되어 전달된다. 벡터

는 신호마다 하나의 값을 포함한다. 수신 측에서의 디코더의 대응하는 적응적 역정규화 단계 또는 스테이지 38은 전송된 벡터 e로부터의 정보를 이용하여 신호들

의 정규화를

로 역전시킨다. 결과로 얻어지는 신호

는 단계 또는 스테이지 39에서 신호 D'₁과 결합되어, 디코딩된 계수 도메인 HOA 신호 D'를 생성한다.

단계/스테이지 36에서의 적응적 정규화에서는, 마지막 입력 계수 블록으로부터의 이득을 다음 입력 계수 블록의 이득으로 계속해서 변화시키기 위해 현재 입력 계수 블록의 샘플들에 균등 연속 천이 함수가 적용된다. 이러한 종류의 처리는 하나의 블록의 지연을 요구하는데 그 이유는 정규화 이득의 변화는 하나의 입력 계수 블록 앞서 검출되어야 하기 때문이다. 이점은 도입된 진폭 변조가 작아서, 변조된 신호의 인지 코딩은 역정규화된 신호에 거의 영향을 미치지 않는다는 것이다.

적응적 정규화의 구현에 관하여, 그것은 D₂(j)의 각각의 HOA 신호에 대해 독립적으로 수행된다. 신호들은 다음의 행렬

의 행 벡터들

에 의해 표현되고, 여기서 n은 전송된 HOA 신호들의 인덱스들을 나타낸다.

은 전치(transpose)되는데 그 이유는 그것이 원래는 열 벡터이지만 여기서는 행 백터가 요구되기 때문이다.

도 4는 단계/스테이지 36에서의 이 적응적 정규화를 더 상세히 도시한다. 처리의 입력 값들은 다음과 같다:

- 시간적으로 평활화된 최대 값

,

- 이득 값

, 즉 대응하는 신호 벡터 블록

의 마지막 계수에 적용된 이득,

- 현재 블록

의 신호 벡터,

- 이전 블록

의 신호 벡터.

제1 블록

의 처리를 시작할 대 재귀적 입력 값들이 사전 정의된 값들에 의해 초기화된다: 벡터

의 계수들은 0으로 설정될 수 있고, 이득 값

는 '1'로 설정되어야 하고,

는 사전 정의된 평균 진폭 값으로 설정되어야 한다.

그 후, 마지막 블록

의 이득 값, 사이드 정보 벡터 e(j-1)의 대응하는 값 e_n(j-1), 시간적으로 평활화된 최대 값

및 정규화된 신호 벡터

는 처리의 출력들이다.

이 처리의 목적은 신호 벡터

에 적용된 이득 값들을

로부터

로 계속해서 변화시키고 따라서 이득 값

이 신호 벡터

를 적절한 값 범위로 정규화하게 하는 것이다.

제1 처리 단계 또는 스테이지 41에서, 신호 벡터

의 각 계수는 이득 값

과 곱해지고, 여기서

는 새로운 정규화 이득에 대한 기초로서 신호 벡터

정규화 처리로부터 유지되었다. 결과로 얻어지는 정규화된 신호 벡터

로부터 절대값의 최대값

는 다음의 수학식 5를 이용하여 단계 또는 스테이지 42에서 획득된다:

단계 또는 스테이지 43에서, 상기 평활화된 최대값의 이전 값

를 수신하는 순환 필터(recursive filter)를 이용하여

에 시간 평활화가 적용되어, 현재 시간 평활화된 최대값

을 생성한다. 그러한 평활화의 목적은 시간에 따른 정규화 이득의 적응을 감쇠시키는 것이고, 이는 이득 변화의 수를 감소시키고 따라서 신호의 진폭 변조를 감소시킨다. 시간 평활화는 값

가 사전 정의된 값 범위 이내에 있는 경우에만 적용된다. 그렇지 않으면

이

로 설정(즉,

의 값은 그대로 유지)되는데 그 이유는 후속의 처리는

의 실제 값을 사전 정의된 값 범위로 감쇠시켜야 하기 때문이다. 그러므로, 시간 평활화는 정규화 이득이 일정한 경우 또는 신호

가 값 범위를 벗어나지 않고 증폭될 수 있는 경우에만 활성이다.

은 단계 또는 스테이지 43에서 다음과 같이 계산된다:

여기서

은 감쇠 상수이다.

벡터 e의 전송을 위한 비트 레이트를 감소시키기 위하여, 정규화 이득은 현재 시간 평활화된 최대값

으로부터 계산되고 '2'의 밑수에 대한 지수로서 전송된다. 따라서

이 만족되어야 하고 양자화된 지수 e_n(j-1)이 단계 또는 스테이지 44에서

로부터 얻어진다.

효율적인 PCM 코딩을 위해 이용 가능한 분해능을 활용하기 위하여 신호가 다시 증폭되는(즉, 총 이득의 값이 시간에 따라 증가되는) 기간들에서, 지수 e_n(j)(그리고 따라서 연속 블록들 간의 이득 차이)는 작은 최대값, 예컨대, '1'로 제한될 수 있다. 이 작업은 2가지 유리한 효과를 가진다. 한편으로, 연속 블록들 간의 작은 이득 차이는 천이 함수를 통하여 작은 진폭 변조들만을 야기하고, 그 결과 FFT 스펙트럼의 인접한 하위 대역들 간에 크로스-토크(cross-talk)가 감소된다(도 7과 관련하여 인지 코딩에 대한 천이 함수의 영향의 관련 설명을 참조한다). 다른 한편으로, 지수를 코딩하기 위한 비트 레이트는 그것의 값 범위를 제한하는 것에 의해 감소된다.

총 최대 진폭의 값

은 예컨대 '1'로 제한될 수 있다. 그 이유는, 계수 신호들 중 하나가 2개의 연속 블록들 사이에 큰 진폭 변화를 나타내고, 그 중 첫 번째 것이 매우 작은 진폭들을 가지고 두 번째 것이 가장 높은 가능 진폭을 가진다면(공간 도메인에서의 HOA 표현의 정규화를 가정하여), 이들 2개의 블록 사이의 매우 큰 이득 차이들은 천이 함수를 통하여 큰 진폭 변조들을 야기할 것이고, 그 결과 FFT 스펙트럼의 인접한 하위 대역들 간에 심각한 크로스-토크가 생기기 때문이다. 이것은 아래 논의되는 후속의 인지 코딩에 차선일 수 있다.

단계 또는 스테이지 45에서, 지수 값 e_n(j-1)은 현재 이득 값

을 얻기 위해 천이 함수에 적용된다. 이득 값

로부터 이득 값

으로의 연속 천이를 위해 도 5에 도시된 함수가 이용된다. 그 함수에 대한 계산 규칙은

이고, 여기서 l = 0, 1, 2, ..., L-1이다. 실제 천이 함수 벡터

가

로부터

로의 지속적인 페이드를 위해 이용된다. e_n(j-1)의 각 값마다 f(0) = 1이므로 h_n(0)의 값은

와 같다. f(L-1)의 마지막 값은 0.5이고, 따라서

은 수학식 9로부터

의 정규화를 위해 요구되는 증폭

을 생성할 것이다.

단계 또는 스테이지 46에서, 신호 벡터

의 샘플들은

을 얻기 위해 천이 벡터

의 이득 값으로 가중화되는데, 여기서

연산자는 2개의 벡터의 벡터 원소마다의 곱셈(vector element-wise multiplication)을 나타낸다. 이 곱셈은 또한 신호

의 진폭 변조를 나타내는 것으로 간주될 수도 있다.

더 상세하게는, 천이 벡터

의 계수들은 신호 벡터

의 대응하는 계수들과 곱해지고, 여기서

의 값은

이고

의 값은

이다. 그러므로 천이 함수는, 3개의 연속 블록에 대한 대응하는 신호 벡터들

및

에 적용되는 천이 함수들

및

로부터의 이득 값들을 보여주는, 도 8의 예에 도시된 바와 같이 이득 값

으로부터 이득 값

로 계속해서 페이드한다. 다운스트림 인지 코딩에 대한 이점은 블록 경계들에서 적용된 이득들이 연속적이라는 것이다: 천이 함수

는

의 계수들에 대한 이득들을

으로부터

로 계속해서 페이드한다.

디코더 또는 수신기 측에서의 적응적 역정규화 처리가 도 6에 도시되어 있다. 입력 값들은 PCM 코딩되고 정규화된 신호

, 적절한 지수

, 및 마지막 블록의 이득 값

이다. 마지막 블록의 이득 값

은 재귀적으로 계산되고, 여기서

는 인코더에서도 사용된 사전 정의된 값에 의해 초기화되어야 한다. 출력들은 단계/스테이지 61로부터의 이득 값

및 단계/스테이지 62로부터의 역정규화된 신호

이다.

단계 또는 스테이지 61에서 지수는 천이 함수에 적용된다.

의 값 범위를 복구하기 위해, 수학식 11은 수신된 지수

, 및 재귀적으로 계산된 이득

로부터 천이 벡터

를 계산한다. 다음의 블록의 처리를 위한 이득

은

과 같게 설정된다.

단계 또는 스테이지 62에서는 역이득이 적용된다. 정규화 처리의 적용된 진폭 변조는

에 의해 역전되고, 여기서

이고

는 인코더 또는 송신기 측에서 사용된 벡터 원소마다의 곱셈이다.

의 샘플들은

의 입력 PCM 포맷에 의해 표현될 수 없고 따라서 역다중화는 예를 들어 부동 소수점 포맷과 같은, 더 큰 값 범위의 포맷으로의 변환을 요구한다.

사이드 정보 전송에 관하여, 지수들

의 전송을 위해 그것들의 확률이 균일하다고 가정할 수 없는데 그 이유는 적용된 정규화 이득은 동일한 값 범위의 연속 블록들에 대해 일정할 것이기 때문이다. 따라서 요구되는 데이터 레이트를 감소시키기 위하여 예를 들어 허프만 코딩과 같은, 엔트로피 코딩이 지수 값들에 적용될 수 있다.

설명된 처리의 하나의 단점은 이득 값

의 재귀적 계산일 수 있다. 따라서, 역정규화 처리는 HOA 스트림의 처음으로부터만 시작할 수 있다.

이 문제의 해결책은

를 계산하기 위한 정보를 정기적으로 제공하기 위하여 HOA 포맷에 액세스 단위들을 추가하는 것이다. 이 경우 액세스 단위는 t번째 블록마다 지수

를 제공해야 하고 따라서 t번째 블록마다

가 계산될 수 있고 역정규화가 시작될 수 있다.

정규화된 신호

의 인지 코딩에 대한 영향은 함수

의 주파수 응답

의 절대값에 의해 분석될 수 있다. 주파수 응답은 수학식 15에 나타난 바와 같이

의 고속 푸리에 변환(FFT)에 의해 정의된다.

도 7은 진폭 변조에 의해 도입된 스펙트럼 왜곡을 분명히 하기 위하여 정규화된(0dB로) 크기(magnitude) FFT 스펙트럼

를 보여준다.

의 감쇠는 작은 지수들에 대해서는 비교적 가파르고 더 큰 지수들에 대해서는 평평하게 된다.

시간 도메인에서

에 의한

의 진폭 변조는 주파수 도메인에서

에 의한 컨볼루션에 상당하므로, 주파수 응답

의 가파른 감쇠는

의 FFT 스펙트럼의 인접한 하위 대역들 간의 크로스-토크를 감소시킨다. 이것은

의 후속의 인지 코딩에 매우 관련이 있는데 그 이유는 하위 대역 크로스-토크는 신호의 추정된 인지 특성들에 영향을 미치기 때문이다. 따라서,

의 가파른 감쇠를 위해,

에 대한 인지 코딩 가정들은 정규화되지 않은 신호

에 대해서도 유효하다.

이것은 작은 지수들에 대해

의 인지 코딩은

의 인지 코딩에 거의 상당하고 정규화된 신호의 인지 코딩은 지수의 크기가 작은 한은 역정규화된 신호에 거의 영향을 미치지 않는다는 것을 보여준다.

본 발명의 처리는 송신 측에서 그리고 수신 측에서 단일 프로세서 또는 전자 회로에 의해, 또는 병렬로 동작하고/하거나 본 발명의 처리의 상이한 부분들에서 동작하는 몇 개의 프로세서 또는 전자 회로에 의해 수행될 수 있다.

Claims

HOA 신호들의 계수 도메인 표현
으로부터 상기 HOA 신호들의 공간/계수 혼합 도메인 표현
을 생성하기 위한 방법으로서,
상기 HOA 신호들의 수는 연속 계수 프레임들에서 시간에 따라 가변적일 수 있고, 상기 방법은:
- HOA 계수 도메인 신호들의 벡터
를 일정한 수(M)의 HOA 계수들을 가진 계수 도메인 신호들의 제1 벡터
와 시간에 따라 가변적인 수(K)의 HOA 계수들을 가진 계수 도메인 신호들의 제2 벡터
로 분리하는 단계(20, 30);
- 계수 도메인 신호들의 상기 벡터를 변환 행렬
의 역행렬
과 곱하는 것에 의해 계수 도메인 신호들의 상기 제1 벡터
를 공간 도메인 신호들의 대응하는 벡터
로 변환하는 단계(21, 31);
- 공간 도메인 신호들의 상기 벡터
를 PCM 인코딩하여 PCM 인코딩된 공간 도메인 신호들의 벡터
를 획득하는 단계(22, 32);
- 계수 도메인 신호들의 상기 제2 벡터
를 정규화 인자
로 정규화하는 단계(26, 36) - 상기 정규화는 계수 도메인 신호들의 상기 제2 벡터
의 상기 HOA 계수들의 현재 값 범위에 관한 적응적 정규화이고 상기 정규화에서 상기 벡터의 상기 HOA 계수들에 대한 이용 가능한 값 범위는 초과되지 않고, 그 정규화에서, 현재 제2 벡터
의 계수들에 균등 연속 천이 함수(uniformly continuous transition function)
를 적용하여, 그 벡터 내의 이득을 이전 제2 벡터에서의 이득
으로부터 다음 제2 벡터에서의 이득
으로 계속해서 변화시키고, 그 정규화는 대응하는 디코더 측 역정규화(de-normalisation)를 위한 사이드 정보
를 제공함 -;
- 정규화된 계수 도메인 신호들의 상기 벡터
를 PCM 인코딩하여 PCM 인코딩되고 정규화된 계수 도메인 신호들의 벡터
를 획득하는 단계(27, 37);
- PCM 인코딩된 공간 도메인 신호들의 상기 벡터
와 PCM 인코딩되고 정규화된 계수 도메인 신호들의 상기 벡터
를 다중화하는 단계(23, 33)
를 포함하는 것을 특징으로 하는 방법.
HOA 신호들의 계수 도메인 표현
으로부터 상기 HOA 신호들의 공간/계수 혼합 도메인 표현
을 생성하기 위한 장치로서,
상기 HOA 신호들의 수는 연속 계수 프레임들에서 시간에 따라 가변적일 수 있고, 상기 장치는:
- HOA 계수 도메인 신호들의 벡터
를 일정한 수(M)의 HOA 계수들을 가진 계수 도메인 신호들의 제1 벡터
와 시간에 따라 가변적인 수(K)의 HOA 계수들을 가진 계수 도메인 신호들의 제2 벡터
로 분리하도록 구성되는 수단(20, 30);
- 계수 도메인 신호들의 상기 벡터를 변환 행렬
의 역행렬
과 곱하는 것에 의해 계수 도메인 신호들의 상기 제1 벡터
를 공간 도메인 신호들의 대응하는 벡터
로 변환하도록 구성되는 수단(21, 31);
- 공간 도메인 신호들의 상기 벡터
를 PCM 인코딩하여 PCM 인코딩된 공간 도메인 신호들의 벡터
를 획득하도록 구성되는 수단(22, 32);
- 계수 도메인 신호들의 상기 제2 벡터
를 정규화 인자
로 정규화하도록 구성되는 수단(26, 36) - 상기 정규화는 계수 도메인 신호들의 상기 제2 벡터
의 상기 HOA 계수들의 현재 값 범위에 관한 적응적 정규화이고 상기 정규화에서 상기 벡터의 상기 HOA 계수들에 대한 이용 가능한 값 범위는 초과되지 않고, 그 정규화에서, 현재 제2 벡터
의 계수들에 균등 연속 천이 함수
를 적용하여, 그 벡터 내의 이득을 이전 제2 벡터에서의 이득
으로부터 다음 제2 벡터에서의 이득
으로 계속해서 변화시키고, 그 정규화는 대응하는 디코더 측 역정규화를 위한 사이드 정보
를 제공함 -;
- 정규화된 계수 도메인 신호들의 상기 벡터
를 PCM 인코딩하여 PCM 인코딩되고 정규화된 계수 도메인 신호들의 벡터
를 획득하도록 구성되는 수단(27, 37);
- PCM 인코딩된 공간 도메인 신호들의 상기 벡터
와 PCM 인코딩되고 정규화된 계수 도메인 신호들의 상기 벡터
를 다중화하도록 구성되는 수단(23, 33)
을 포함하는 장치.
제1항 또는 제2항에 있어서,
상기 정규화는:
- 현재 제2 벡터
의 각 계수를 이전 제2 벡터
정규화 처리로부터 유지된 이득 값
과 곱하는 것(41);
- 결과로 얻어지는 정규화된 제2 벡터로부터 절대값들의 최대값
을 결정하는 것(42);
- 평활화된 최대값의 이전 값
을 수신하는 순환 필터(recursive filter)를 이용하여 상기 최대값
에 시간 평활화를 적용하여(43), 현재 시간 평활화된 최대값
을 생성하는 것 - 상기 시간 평활화는 상기 최대값
이 사전 정의된 값 범위 안에 있는 경우에만 적용되고, 그렇지 않으면 상기 최대값
은 그대로 취해짐 -;
- 상기 현재 시간 평활화된 최대값
으로부터 '2'의 밑수(base)에 대한 지수(exponent)로서 정규화 이득을 계산하여(44), 양자화된 지수 값
을 구하는 것;
- 상기 양자화된 지수 값
을 천이 함수
에 적용하여(45) 현재 이득 값
을 얻는 것 - 상기 천이 함수는 상기 이전 이득 값
으로부터 상기 현재 이득 값
으로의 연속 천이를 위해 이용됨 -;
- 이전 제2 벡터
의 각 계수를 상기 천이 함수
로 가중화하여(46) 계수 도메인 신호들의 상기 정규화된 제2 벡터
를 얻는 것
을 포함하는 방법 또는 장치.
제3항에 있어서,
상기 현재 시간 평활화된 최대값
은

에 의해 계산되고,
는 상기 최대값을 나타내고,
는 감쇠 상수이고, j는 HOA 신호 벡터들의 입력 행렬의 실행 인덱스(running index)인 방법 또는 장치.
제1항 내지 제4항 중 어느 한 항에 있어서,
상기 다중화된(23, 33) HOA 신호들은 인지 인코딩되는(perceptually encoded) 방법 또는 장치.
코딩된 HOA 신호들의 공간/계수 혼합 도메인 표현
을 디코딩하기 위한 방법으로서,
상기 HOA 신호들의 수는 연속 계수 프레임들에서 시간에 따라 가변적일 수 있고 코딩된 HOA 신호들의 상기 공간/계수 혼합 도메인 표현
은 제1항에 따라 생성되었고, 상기 디코딩은:
- PCM 인코딩된 공간 도메인 신호들
과 PCM 인코딩되고 정규화된 계수 도메인 신호들
의 상기 다중화된 벡터들을 역다중화하는 단계(24, 34);
- PCM 인코딩된 공간 도메인 신호들의 상기 벡터를 상기 변환 행렬
과 곱하는 것에 의해 PCM 인코딩된 공간 도메인 신호들의 상기 벡터
를 계수 도메인 신호들의 대응하는 벡터
로 변환하는 단계(25, 35);
- PCM 인코딩되고 정규화된 계수 도메인 신호들의 상기 벡터
를 역정규화하는 단계(28, 38) - 상기 역정규화는:
-- 수신된 사이드 정보
의 대응하는 지수
와 재귀적으로 계산된 이득 값
을 이용하여, 천이 벡터
를 계산하는 것(61) - 처리될 상기 PCM 인코딩되고 정규화된 계수 도메인 신호들의 다음 벡터
의 대응하는 처리를 위한 이득 값
은 유지되고, j는 HOA 신호 벡터들의 입력 행렬의 실행 인덱스임 -;
-- 상기 PCM 코딩되고 정규화된 신호의 현재 벡터
에 대응하는 역이득 값을 적용하여 상기 PCM 코딩되고 역정규화된 신호의 대응하는 벡터
를 획득하는 것(62)을 포함함 -;
- 계수 도메인 신호들의 상기 벡터
와 역정규화된 계수 도메인 신호들의 상기 벡터
를 결합하여 가변적인 수의 HOA 계수들을 가질 수 있는 HOA 계수 도메인 신호들의 결합된 벡터
를 획득하는 단계(29, 39)
를 포함하는 방법.
코딩된 HOA 신호들의 공간/계수 혼합 도메인 표현
을 디코딩하기 위한 장치로서,
상기 HOA 신호들의 수는 연속 계수 프레임들에서 시간에 따라 가변적일 수 있고 코딩된 HOA 신호들의 상기 공간/계수 혼합 도메인 표현
은 제1항에 따라 생성되었고, 상기 디코딩 장치는:
- PCM 인코딩된 공간 도메인 신호들
과 PCM 인코딩되고 정규화된 계수 도메인 신호들
의 상기 다중화된 벡터들을 역다중화하도록 구성되는 수단(24, 34);
- PCM 인코딩된 공간 도메인 신호들의 상기 벡터를 상기 변환 행렬
과 곱하는 것에 의해 PCM 인코딩된 공간 도메인 신호들의 상기 벡터
를 계수 도메인 신호들의 대응하는 벡터
로 변환하도록 구성되는 수단(25, 35);
- PCM 인코딩되고 정규화된 계수 도메인 신호들의 상기 벡터
를 역정규화하도록 구성되는 수단(28, 38) - 상기 역정규화는:
-- 수신된 상기 사이드 정보
의 대응하는 지수
와 재귀적으로 계산된 이득 값
을 이용하여, 천이 벡터
를 계산하는 것(61) - 처리될 상기 PCM 인코딩되고 정규화된 계수 도메인 신호들의 다음 벡터
의 대응하는 처리를 위한 이득 값
은 유지되고, j는 HOA 신호 벡터들의 입력 행렬의 실행 인덱스임 -;
-- 상기 PCM 코딩되고 정규화된 신호의 현재 벡터
에 대응하는 역이득 값을 적용하여 상기 PCM 코딩되고 역정규화된 신호의 대응하는 벡터
를 획득하는 것(62)을 포함함 -;
- 계수 도메인 신호들의 상기 벡터
와 역정규화된 계수 도메인 신호들의 상기 벡터
를 결합하여 가변적인 수의 HOA 계수들을 가질 수 있는 HOA 계수 도메인 신호들의 결합된 벡터
를 획득하도록 구성되는 수단(29, 39)
을 포함하는 장치.
제6항 또는 제7항에 있어서,
상기 다중화(23, 33)된 그리고 인지 인코딩된 HOA 신호들은 역다중화(24, 34)되기 전에 대응하여 인지 디코딩되는 방법 또는 장치.
실행될 때, 컴퓨터로 하여금 제6항의 방법을 수행하게 하는 실행 가능 명령어들이 저장되어 있는 저장 매체.