JP2020173474A - マルチチャネル符号化におけるステレオ充填装置及び方法 - Google Patents

マルチチャネル符号化におけるステレオ充填装置及び方法 Download PDF

Info

Publication number
JP2020173474A
JP2020173474A JP2020117752A JP2020117752A JP2020173474A JP 2020173474 A JP2020173474 A JP 2020173474A JP 2020117752 A JP2020117752 A JP 2020117752A JP 2020117752 A JP2020117752 A JP 2020117752A JP 2020173474 A JP2020173474 A JP 2020173474A
Authority
JP
Japan
Prior art keywords
channel
channels
decoded
pair
audio output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020117752A
Other languages
English (en)
Other versions
JP7122076B2 (ja
Inventor
ディック・サシャ
Dick Sascha
ヘルムリッヒ・クリスチャン
Helmrich Christian
レッテルバッハ・ニコラウス
Rettelbach Nikolaus
シュー・フロリアン
Florian Schuh
フューク・リヒァート
Fueg Richard
ナーゲル・フレデリック
Nagel Frederik
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Original Assignee
Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV filed Critical Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Publication of JP2020173474A publication Critical patent/JP2020173474A/ja
Priority to JP2022125967A priority Critical patent/JP2022160597A/ja
Application granted granted Critical
Publication of JP7122076B2 publication Critical patent/JP7122076B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/028Noise substitution, i.e. substituting non-tonal spectral components by noisy source
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/032Quantisation or dequantisation of spectral components
    • G10L19/035Scalar quantisation

Abstract

【課題】マルチチャネル符号化におけるステレオ充填のための装置及び方法を提供する。【解決手段】装置201において、マルチチャネル処理部は、第1のマルチチャネルパラメータに応じて、3つ以上の復号されたチャネルから2つの復号されたチャネルを選択する。更に、マルチチャネル処理部は、選択されたチャネルに基づいて、2つ以上の処理されたチャネルの第1のグループを生成する。ノイズ充填モジュールは、選択されたチャネルのうちの少なくとも1つについて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域を識別し、サイド情報に応じて、復号された3つ以上の前オーディオ出力チャネルの適切なサブセットを生成し、ミキシングチャネルのスペクトル線を使用して生成されたノイズを用いて、全てのスペクトル線がゼロに量子化される周波数帯域のスペクトル線を充填する。【選択図】図1a

Description

本発明は、オーディオ信号符号化に関し、特に、マルチチャネル符号化におけるステレオ充填のための装置及び方法に関する。
オーディオ符号化は、オーディオ信号の冗長性と無関係性を利用する圧縮の領域である。
MPEG USAC(例えば、[3]参照)では、2つのチャネルの結合ステレオ符号化が、帯域制限又は全帯域残差信号を伴う複素予測、MPS 2−1−2又は統合ステレオを使用して実行される。MPEGサラウンド(例えば、[4]参照)は、残差信号の送信の有無にかかわらず、マルチチャネルオーディオの結合符号化のために1to2(OTT)及び2to3(TTT)ボックスを階層的に組み合わせる。
MPEG−Hでは、クワッドチャネル要素はMPS 2−1−2ステレオボックスを階層的に適用し、続いて固定4×4リミックスツリーを構築する複素予測/MSステレオボックスを適用する(例えば、[1]参照)。
AC4(例えば、[6]参照)は、新しい3−、4−及び5−チャネル要素を導入し、これは送信されたミックス行列及びその後の結合ステレオ符号化情報を介して、送信されたチャネルをリミックスすることを可能にする。更に、従来の刊行物は、強化されたマルチチャネルオーディオ符号化のためにKarhunen−Loeve変換(KLT)のような直交変換を使用することを提案している(例えば、[7]参照)。
例えば、3Dオーディオの文脈では、ラウドスピーカチャネルはいくつかの高さの層に分散され、その結果、水平チャネル及び垂直チャネルペアが生じる。USACで定義されているように、2つのチャネルのみの結合符号化は、チャネル間の空間的及び知覚的関係を考慮するには不十分である。MPEGサラウンドは、追加の前処理/後処理ステップで適用され、残差信号は、例えば左右の垂直残差信号間の依存性を利用する結合ステレオ符号化の可能性なしに個別に送信される。AC−4専用Nチャネル要素は、結合符号化パラメータの効率的な符号化を可能にして導入されるが、新しい没入型再生シナリオ(7.1+4,22.2)に対して提案されるより多くのチャネルを有する一般的なスピーカ設定には失敗する。MPEG−Hクワッドチャネル要素はまた、4チャネルのみに制限され、任意のチャネルに動的に適用することはできず、予め構成された固定数のチャネルのみに適用することができる。
MPEG−Hマルチチャネル符号化ツールは、離散的に符号化されたステレオボックス、即ち結合符号化されたチャネルペアの任意のツリーの作成を可能にする、[2]参照。
オーディオ信号の符号化においてしばしば生じる問題は、量子化、例えばスペクトル量子化によって引き起こされる。量子化によってスペクトルホールが生じる可能性がある。例えば、特定の周波数帯域内の全てのスペクトル値は、量子化の結果としてエンコーダ側でゼロに設定されてもよい。例えば、量子化前のそのようなスペクトル線の正確な値は比較的低い可能性があり、量子化は、例えば特定の周波数帯域内の全てのスペクトル線のスペクトル値がゼロに設定されている状況をもたらす可能性がある。デコーダ側では、復号化時に、これにより望ましくないスペクトルホールが生じる可能性がある。
IETF[9]のOpus/Celtコーデック、MPEG−4(HE−)AAC [10]、又は特にMPEG−D xHE−AAC(USAC)[11]などの最新の周波数領域音声/オーディオ符号化システムは、信号の時間的定常性に依存して、1つの長い変換である長いブロック、又は8つの連続した短い変換である短いブロックのいずれかを使用してオーディオフレームを符号化する手段を提示する。更に、低ビットレート符号化のために、これらの方式は、同じチャネルの擬似ランダムノイズ又は低周波数係数を使用して、チャネルの周波数係数を再構成するためのツールを提供する。xHE−AACでは、これらのツールは、それぞれノイズ充填とスペクトル帯域複製と呼ばれる。
しかしながら、非常に調性の高い又は過渡的なステレオ入力の場合、主に、明確に伝送する必要がある両方のチャネルのスペクトル係数が多すぎるため、ノイズ充填及び/又はスペクトル帯域複製のみで、非常に低いビットレートで達成可能な符号化品質を制限する。
MPEG−Hステレオ充填は、周波数領域での量子化によるスペクトルホールの充填を改善するために、前フレームのダウンミックスの使用に依存するパラメトリックツールである。ノイズ充填のように、ステレオ充填は、MPEG−HコアコーダのMDCT領域で直接動作する、[1]、[5]、[8]参照。
しかしながら、MPEG−HにおけるMPEGサラウンド及びステレオ充填の使用は、固定されたチャネルペア要素に制限され、従って、時変チャネル間依存性を利用することはできない。
MPEG−Hにおけるマルチチャネル符号化ツール(MCT)は、変化するチャネル間依存性への適応を可能にするが、通常の動作構成でシングルチャネル要素を使用するため、ステレオ充填が不可能である。先行技術は、時変で任意の結合符号化チャネルペアの場合に、前フレームのダウンミックスを生成する知覚的に最適な方法を開示していない。スペクトルホールを充填するためにMCTと組み合わせてステレオ充填の代わりにノイズ充填を使用すると、特に調性信号のノイズアーチファクトにつながる場合がある。
本発明の目的は、改善されたオーディオ符号化の概念を提供することである。本発明の目的は、請求項1に記載の復号化装置によって、請求項15に記載の符号化装置によって、請求項18に記載の復号化方法によって、請求項19に記載の符号化方法によって、請求項20に記載のコンピュータプログラムによって、請求項21に記載の符号化されたマルチチャネル信号によって解決される。
3つ以上の現オーディオ出力チャネルを得るために、現フレームの符号化されたマルチチャネル信号を復号するための装置が提供される。マルチチャネル処理部は、第1のマルチチャネルパラメータに応じて、3つ以上の復号されたチャネルから2つの復号されたチャネルを選択するように適合される。更に、マルチチャネル処理部は、前記選択されたチャネルに基づいて、2つ以上の処理されたチャネルの第1のグループを生成するように適合される。ノイズ充填モジュールは、選択されたチャネルのうちの少なくとも1つについて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域を識別し、サイド情報に応じて、復号された3つ以上の前オーディオ出力チャネルの適切なサブセットを生成し、ミキシングチャネルのスペクトル線を使用して生成されたノイズを用いて、全てのスペクトル線がゼロに量子化される周波数帯域のスペクトル線を充填するのに適合する。
実施形態によれば、前フレームの前符号化されたマルチチャネル信号を復号して、3つ以上の前オーディオ出力チャネルを取得し、現フレームの現在の符号化されたマルチチャネル信号を復号して、3つ以上の現オーディオ出力チャネルを取得するための装置が提供される。
装置は、インタフェース、チャネルデコーダ、3つ以上の現オーディオ出力チャネルを生成するためのマルチチャネル処理部、及びノイズ充填モジュールを備える。
インタフェースは、現在の符号化されたマルチチャネル信号を受信し、第1のマルチチャネルパラメータを含むサイド情報を受信するように適合される。
チャネルデコーダは、現フレームの現在の符号化されたマルチチャネル信号を復号し、現フレームの3つ以上の復号されたチャネルのセットを取得するように適合される。
マルチチャネル処理部は、第1のマルチチャネルパラメータに応じて、3つ以上の復号されたチャネルのセットから2つの復号されたチャネルの第1の選択されたペアを選択するように適合される。
更に、マルチチャネル処理部は、2つの復号されたチャネルの前記第1の選択されたペアに基づいて、2つ以上の処理されたチャネルの第1のグループを生成し、3つ以上の復号されたチャネルの更新されたセットを取得するように適合される。
マルチチャネル処理部が、2つの復号されたチャネルの第1の選択されたペアに基づいて、2つ以上の処理されたチャネルの第1のペアを生成する前に、ノイズ充填モジュールは、2つの復号されたチャネルの第1の選択されたペアの2つのチャネルの少なくとも1つについて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域を識別し、3つ以上の前オーディオ出力チャネルの全てではなく、2つ以上を使用してミキシングチャネルを生成し、ミキシングチャネルのスペクトル線を使用して生成されたノイズを用いて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を充填するのに適合し、ノイズ充填モジュールは、サイド情報に応じて3つ以上の前オーディオ出力チャネルからミキシングチャネルを生成するために使用される2つ以上の前オーディオ出力チャネルを選択するのに適合する。
ノイズをどのように生成して充填するかを指定するノイズ充填モジュールによって使用されてもよい実施形態の特定の概念は、ステレオ充填と呼ばれる。
更に、少なくとも3つのチャネルを有するマルチチャネル信号を符号化する装置が提供される。
この装置は、第1の反復ステップにおいて、最高値を有するペア又は閾値より上の値を有するペアを選択するために、かつマルチチャネル処理動作を用いて選択されたペアを処理して選択されたペア用の初期マルチチャネルパラメータを導出し、かつ第1の処理されたチャネルを導出するために、第1の反復ステップにおいて、少なくとも3つのチャネルの各ペアの間のチャネル間相関値を計算するのに適合する反復処理部を含む。
反復処理部は、処理されたチャネルの少なくとも1つを使用して、第2の反復ステップで計算、選択及び処理を実行して、更なるマルチチャネルパラメータ及び第2の処理されたチャネルを導出するように適合される。
更に、装置は、符号化されたチャネルを得るために、反復処理部によって実行される反復処理から生じるチャネルを符号化するように適合されたチャネルエンコーダを含む。
更に、装置は、符号化されたチャネル、初期マルチチャネルパラメータ及び更なるマルチチャネルパラメータを有し、かつ復号化装置によって以前に復号されていた以前に復号されたオーディオ出力チャネルに基づいて生成されたノイズを用いて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、復号化装置が充填すべきか否かを示す情報を有する符号化されたマルチチャネル信号を生成するように適合される出力インタフェースを含む。
更に、前フレームの前の符号化されたマルチチャネル信号を復号して、3つ以上の前オーディオ出力チャネルを取得し、現フレームの現在の符号化されたマルチチャネル信号を復号して、3つ以上の現オーディオ出力チャネルを取得するための方法が提供される。この方法は、以下を含む。
−現在の符号化されたマルチチャネル信号を受信し、第1のマルチチャネルパラメータを含むサイド情報を受信すること。
−現フレームの現在の符号化されたマルチチャネル信号を復号し、現フレームの3つ以上の復号されたチャネルのセットを取得すること。
−第1のマルチチャネルパラメータに応じて、3つ以上の復号されたチャネルのセットから2つの復号されたチャネルの第1の選択されたペアを選択すること。
−2つの復号されたチャネルの前記第1の選択されたペアに基づいて、2つ以上の処理されたチャネルの第1のグループを生成し、3つ以上の復号されたチャネルの更新されたセットを取得すること。
2つ以上の処理されたチャネルの第1のペアが、2つの復号されたチャネルの第1の選択されたペアに基づいて生成される前に、以下のステップが実行される。
−2つの復号されたチャネルの第1の選択されたペアの2つのチャネルの少なくとも1つについて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域を識別し、3つ以上の前オーディオ出力チャネルの全てではなく、2つ以上を使用してミキシングチャネルを生成し、ミキシングチャネルのスペクトル線を使用して生成されたノイズを用いて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を充填し、サイド情報に応じて3つ以上の前オーディオ出力チャネルからミキシングチャネルを生成するために使用される2つ以上の前オーディオ出力チャネルを選択することが実行される。
更に、少なくとも3つのチャネルを有するマルチチャネル信号を符号化する方法が提供される。この方法は、以下を含む。
−第1の反復ステップにおいて、最高値を有するペア又は閾値より上の値を有するペアを選択するために、第1の反復ステップにおいて、少なくとも3つのチャネルの各ペアの間のチャネル間相関値を計算し、かつマルチチャネル処理動作を用いて選択されたペアを処理して選択されたペア用の初期マルチチャネルパラメータを導出し、かつ第1の処理されたチャネルを導出すること。
−処理されたチャネルの少なくとも1つを使用して、第2の反復ステップで計算、選択及び処理を実行して、更なるマルチチャネルパラメータ及び第2の処理されたチャネルを導出すること。
−符号化されたチャネルを得るために、反復処理部によって実行される反復処理から生じるチャネルを符号化すること。
−符号化されたチャネル、初期マルチチャネルパラメータ及び更なるマルチチャネルパラメータを有し、かつ復号化装置によって以前に復号されていた以前に復号されたオーディオ出力チャネルに基づいて生成されたノイズを用いて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、復号化装置が充填すべきか否かを示す情報を有する符号化されたマルチチャネル信号を生成すること。
更に、コンピュータプログラムが提供され、各コンピュータプログラムは、コンピュータ又は信号処理部上で実行されるときに上記の方法のうちの1つを実施するように構成され、上記方法の各々は、コンピュータプログラムの1つによって実施される。
更に、符号化されたマルチチャネル信号が提供される。符号化されたマルチチャネル信号は、符号化されたチャネルと、マルチチャネルパラメータと、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、復号化装置によって以前に復号された、以前に復号されたオーディオ出力チャネルに基づいて生成されたスペクトルデータを用いて、復号化装置が充填すべきか否かを示す情報とを含む。
以下では、本発明の実施形態を図面を参照してより詳細に説明する。
一実施形態による復号化装置を示す。 別の実施形態による復号化装置を示す。 本願の一実施形態によるパラメトリック周波数領域デコーダのブロック図を示す。 図2のデコーダの説明の理解を容易にするために、マルチチャネルオーディオ信号のチャネルのスペクトログラムを形成するスペクトルのシーケンスを示す概略図を示す。 図2の説明の理解を容易にするために、図3に示されたスペクトログラムのうちの現スペクトルを示す概略図を示す。 前フレームのダウンミックスがチャネル間ノイズ充填の基礎として使用される他の実施形態によるパラメトリック周波数領域オーディオデコーダのブロック図を示す。 前フレームのダウンミックスがチャネル間ノイズ充填の基礎として使用される他の実施形態によるパラメトリック周波数領域オーディオデコーダのブロック図を示す。 一実施形態によるパラメトリック周波数領域オーディオエンコーダのブロック図を示す。 一実施形態による少なくとも3つのチャネルを有するマルチチャネル信号を符号化する装置の概略ブロック図である。 一実施形態による少なくとも3つのチャネルを有するマルチチャネル信号を符号化する装置の概略ブロック図である。 一実施形態によるステレオボックスの概略ブロック図を示す。 一実施形態による、符号化されたチャネル及び少なくとも2つのマルチチャネルパラメータを有する符号化されたマルチチャネル信号を復号するための装置の概略ブロック図である。 一実施形態による、少なくとも3つのチャネルを有するマルチチャネル信号を符号化する方法のフローチャートを示す。 一実施形態による、符号化されたチャネルと少なくとも2つのマルチチャネルパラメータとを有する符号化されたマルチチャネル信号を復号する方法のフローチャートを示す。 一実施形態によるシステムを示す。 シナリオ(a)においてシナリオの第1のフレームのための合成チャネルの生成を示し、シナリオ(b)において一実施形態による第1のフレームに続く第2のフレームのための合成チャネルの生成を示す。 実施形態によるマルチチャネルパラメータの索引付けスキームを示す。
等しいか同等である要素又は等しいか同等である機能を有する要素は、以下の説明において、等しいか同等である参照番号で示される。
以下の説明では、本発明の実施形態のより完全な説明を提供するために複数の詳細が示される。しかしながら、当業者には、本発明の実施形態がこれらの特定の詳細なしに実施され得ることは明らかであろう。他の例では、本発明の実施形態を不明瞭にすることを避けるために、周知の構造及び装置は、詳細ではなくブロック図の形態で示す。また、以下に説明する異なる実施形態の特徴は、特記しない限り、互いに組み合わせることができる。
図1aの復号化のための装置201を説明する前に、まず、マルチチャネルオーディオ符号化のためのノイズ充填について説明する。実施形態では、図1aのノイズファイリングモジュール220は、例えば、マルチチャネルオーディオ符号化のためのノイズ充填に関して記載された以下の技術の1つ以上を実行するように構成することができる。
図2は、本願の一実施形態による周波数領域オーディオデコーダを示す。デコーダは一般に符号10を用いて示され、スケールファクタ帯域識別部12、逆量子化部14、ノイズ充填部16及び逆変換部18ならびにスペクトル線抽出部20及びスケールファクタ抽出部22を含む。デコーダ10に含まれていてもよい任意選択の更なる要素は、複素ステレオ予測部24、MS(中間側)デコーダ26及び図2に2つの例28a及び28bが示されている逆TNS(時間ノイズシェーピング)フィルタツールを含む。更に、ダウンミックス提供部は、参照符号30を使用して以下により詳細に示され、概説される。
図2の周波数領域オーディオデコーダ10は、あるゼロ量子化されたスケールファクタ帯域が、そのスケールファクタ帯域に充填されるノイズのレベルを制御する手段として、そのスケールファクタ帯域のスケールファクタを使用して、ノイズで満たされることによるノイズ充填をサポートするパラメトリックデコーダである。これを越えて、図2のデコーダ10は、インバウンドデータストリーム30からマルチチャネルオーディオ信号を再構成するように構成されたマルチチャネルオーディオデコーダを表す。しかしながら、図2は、データストリーム30に符号化されたマルチチャネルオーディオ信号の1つの再構成に関与するデコーダ10の要素に集中し、この(出力)チャネルを出力32で出力する。参照符号34は、デコーダ10が更なる要素を含むことができることを示すか、又はマルチチャネルオーディオ信号の他のチャネルを再構成する役割を担ういくつかのパイプライン動作制御を含むことができ、以下で説明する内容は、デコーダ10の出力32での対象のチャネルの再構成が、どのように他のチャネルの復号化と相互作用するかを示す。
データストリーム30によって表されるマルチチャネルオーディオ信号は、2つ以上のチャネルを含むことができる。以下において、本願の実施形態の説明は、マルチチャネルオーディオ信号が単に2つのチャネルを含むステレオの場合に集中しているが、原則として、以下に述べる実施形態は、マルチチャネルオーディオ信号及び3つ以上のチャネルを含むそれらの符号化に関する代替実施形態に容易に移すことができる。
以下の図2の説明から更に明らかになるであろうが、図2のデコーダ10は、変換デコーダである。即ち、デコーダ10の基礎となる符号化技術によれば、チャネルは、チャネルのラップド変換を使用するなどの変換領域で符号化される。更に、オーディオ信号の作成者に依存して、オーディオ信号のチャネルがおおむね同じオーディオコンテンツを表す時相が存在し、異なる振幅及び/又は位相など互いに小さな又は決定的な変化によってずれており、チャネル間の差が、マルチチャネルオーディオ信号の出力チャネルに関連する仮想スピーカ位置に対して、オーディオシーンのオーディオソースの仮想的な位置付けを可能にするオーディオシーンを表す。しかし、いくつかの他の時間的相では、オーディオ信号の異なるチャネルは、お互いに多かれ少なかれ無相関である場合があり、例えば完全に異なるオーディオソースを表す場合もある。
オーディオ信号のチャネル間の時間変化する可能性のある関係を説明するために、図2のデコーダ10の基礎となるオーディオコーデックは、チャネル間の冗長性を利用するために異なる測定値を時変的に使用することを可能にする。例えば、MS符号化は、ステレオオーディオ信号の左チャネル及び右チャネルをそのまま表すことと、左チャネル及び右チャネルのダウンミックス及びその半減した差をそれぞれ表すペアのM(ミッド)チャネル及びS(サイド)チャネルとして表すこととの間で切り換えることを可能にする。即ち、データストリーム30によって送信された2つのチャネルのスペクトログラムは、スペクトル時間の意味で連続的に存在するが、これらの(送信された)チャネルの意味は、時間的に及び出力チャネルに対してそれぞれ変化し得る。
別のチャネル間冗長利用ツールである複素ステレオ予測は、スペクトル領域において、別のチャネルのスペクトル的に同一位置にある線を用いて、あるチャネルの周波数領域係数又はスペクトル線を予測する。これに関する詳細については後述する。
図2の以下の説明及び図示されているその構成要素の理解を容易にするために、図3は、データストリーム30によって表されるステレオオーディオ信号の例示的なケースについて、図2のデコーダ10によって処理されるように、2つのチャネルのスペクトル線に対するサンプル値をデータストリーム30に符号化することができる可能性のある方法を示す。特に、図3の上半分は、ステレオオーディオ信号の第1のチャネルのスペクトログラム40を示しているが、図3の下半分は、ステレオオーディオ信号の他のチャネルのスペクトログラム42を示している。ここでもまた、スペクトログラム40及び42の「意味」は、例えば、MS符号化領域と非MS符号化領域との間の時間変化する切り換えのために、時間とともに変化し得ることに注目することは価値がある。第1の例では、スペクトログラム40及び42は、それぞれMチャネル及びSチャネルに関連し、後からは、スペクトログラム40及び42は、左右のチャネルに関連する。MS符号化領域と未符号化MS符号化領域との間の切り換えは、データストリーム30において信号伝達されてもよい。
図3は、スペクトログラム40及び42が時間変化するスペクトル時間分解能でデータストリーム30に符号化され得ることを示す。例えば、両方の(送信された)チャネルは、時間的に整合した方法で、等しい長さで、互いに重なり合わずに隣接し得る中括弧44を用いて示されるフレームのシーケンスに細分されてもよい。上述したように、スペクトログラム40及び42がデータストリーム30に表されるスペクトル分解能は、時間とともに変化し得る。予め、スペクトログラム40及び42について、スペクトル時間分解能が時間で等しく変化すると仮定するが、以下の説明から明らかになるように、この単純化の延長も可能である。スペクトル時間分解能の変化は、例えば、データストリーム30においてフレーム44の単位で信号伝達される。即ち、スペクトル時間分解能はフレーム44の単位で変化する。スペクトログラム40及び42のスペクトル時間分解能の変化は、各フレーム44内のスペクトログラム40及び42を記述するために使用される変換長及び変換回数を切り換えることによって達成される。図3の例では、フレーム44a及び44bは、オーディオ信号のチャネルをサンプリングするために1つの長い変換が使用されたフレームを例示し、それにより、チャネルごとにこのようなフレームのそれぞれについてスペクトル線ごとに1つのスペクトル線サンプル値を有する最も高いスペクトル分解能をもたらす。図3において、スペクトル線のサンプル値は、ボックス内の小さな十字を使用して示され、ボックスは、行と列に配置され、スペクトル時間グリッドを表してもよく、各行は1つのスペクトル線に対応し、各列は、スペクトログラム40及び42の形成に関与する最短の変換に対応するフレーム44のサブインターバルに対応する。特に、図3は、例えば、フレーム44dについて、フレームが代替的に短い長さの連続的な変換を受けることがあり、その結果、フレーム44dのようなフレームについて、いくつかの時間的に後続するスペクトル分解能の低下したスペクトルをもたらすことを示す。フレーム44dに8つの短い変換が例示的に使用され、互いに離間したスペクトル線で、そのフレーム42d内のスペクトログラム40及び42のスペクトル時間サンプリングをもたらし、その結果、わずかに8本ごとのスペクトル線がポピュレートされるが、フレーム44dを変換するために、8つの変換窓の各々のサンプル値又はより短い長さの変換が使用される。例示目的のために、フレームについての他の変換回数、例えば、変換長の2つの変換の使用なども実現可能であってもよいことが図3に示され、これは例えば、フレーム44a及び44bについての長い変換の半分の変換長であり、それにより2本のスペクトル線ごとに2つのスペクトル線サンプル値が取得されるスペクトル時間グリッド又はスペクトログラム40および42のサンプリングをもたらし、一方は先行する変換に関連し、他方は後の変換に関連する。
フレームが細分化された変換の変換窓は、図3において、各スペクトログラムの下に、重なり合う窓のような線を用いて示される。時間的オーバーラップは、例えば、TDAC(Time−Domain Aliasing Cancellation)の目的に役立つ。
更に以下に説明する実施形態では別の方法で実施することができるが、図3は、個々のフレーム44についての異なるスペクトル時間分解能間の切り換えが、各フレーム44に対して、図3内の小さな十字によって示される同数のスペクトル線値が、スペクトログラム40とスペクトログラム42の結果をもたらすような方法で実行される場合を示し、差は、線がそれぞれのフレーム44に対応するそれぞれのスペクトル時間タイルをスペクトル時間的にサンプリングする方法に単に存在し、それぞれのフレーム44の時間に渡って時間的にまたがり、ゼロ周波数から最大周波数fmaxまでスペクトル的にまたがる。
図3の矢印を使用して、図3は、フレーム44dに関して、同じスペクトル線であるが1つのチャネルの1つのフレーム内の短い変換窓に属するスペクトル線サンプル値を、同じフレームの次の占有されたスペクトル線まで、そのフレーム内の非占有(空の)スペクトル線上に、適切に分配することによって、全てのフレーム44に対して同様のスペクトルが取得されてもよいことを示す。このようにして得られたスペクトルは、以下において「インターリーブスペクトル」と呼ばれる。例えば、1つのチャネルの1つのフレームのn個の変換のインターリーブにおいて、スペクトル的に後続するスペクトル線のn個の短い変換のn個のスペクトル的に同一位置にあるスペクトル線値のセットが続く前に、n個の短い変換のスペクトル的に同一位置にあるスペクトル線の値は互いに続く。インターリーブの中間形式も実行可能であってもよく、1つのフレームの全てのスペクトル線係数をインターリーブする代わりに、フレーム44dの短い変換の適切なサブセットのスペクトル線係数だけをインターリーブすることも可能であろう。いずれにしても、スペクトログラム40及び42に対応する2つのチャネルのフレームのスペクトルが議論されるときはいつでも、これらのスペクトルは、インターリーブスペクトル又は非インターリーブスペクトルを指すことができる。
デコーダ10に送られたデータストリーム30を介してスペクトログラム40及び42を表すスペクトル線係数を効率的に符号化するために、スペクトル線係数は量子化される。量子化ノイズをスペクトル時間的に制御するために、量子化ステップサイズは、特定のスペクトル時間グリッドに設定されたスケールファクタを介して制御される。特に、各スペクトログラムのスペクトルのシーケンスのそれぞれにおいて、スペクトル線は、スペクトル的に連続した非重複スケールファクタグループにグループ化される。図4は、その上半分におけるスペクトログラム40のスペクトル46と、スペクトログラム42からの同一時間スペクトル48とを示す。示されるように、スペクトル46及び48は、スペクトル軸fに沿ってスケールファクタ帯域に細分され、スペクトル線を非重複グループにグループ化する。スケールファクタ帯域は、中括弧50を用いて図4に示される。簡略化のために、スケールファクタ帯域間の境界はスペクトル46と48との間で一致すると仮定するが、必ずしもそうである必要はない。
即ち、データストリーム30の符号化によって、スペクトログラム40及び42はそれぞれスペクトルの時間的シーケンスに細分され、これらのスペクトルの各々は、スケールファクタ帯域にスペクトル的に細分され、各スケールファクタ帯域に対して、データストリーム30はそれぞれのスケールファクタ帯域に対応するスケールファクタに関する情報を符号化し、又は伝達する。それぞれのスケールファクタ帯域50に入るスペクトル線係数は、それぞれのスケールファクタを使用して量子化されるか、又はデコーダ10に関する限り、対応するスケールファクタ帯域のスケールファクタを使用して逆量子化することができる。
再び図2及びその説明に戻る前に、以下では、34を除いて図2のデコーダの特定の要素が含まれている復号の1つである特別に処理されたチャネルがスペクトログラム40の送信されたチャネルであると仮定されるものとし、これは上述したように、データストリーム30に符号化されたマルチチャネルオーディオ信号がステレオオーディオ信号であると仮定して、左右のチャネル、Mチャネル又はSチャネルのうちの1つを表すことができる。
スペクトル線抽出部20は、スペクトル線データ、即ちデータストリーム30からフレーム44のスペクトル線係数を抽出するように構成されるが、スケールファクタ抽出部22は、各フレーム44に対応するスケールファクタを抽出するように構成される。この目的のために、抽出部20及び22は、エントロピー復号化を使用することができる。一実施形態によれば、スケールファクタ抽出部22は、コンテキスト適応型エントロピー復号化を使用して、データストリーム30から、例えば図4のスペクトル46のスケールファクタ、即ちスケールファクタ帯域50のスケールファクタを逐次抽出するように構成される。逐次復号化の順序は、例えば低周波数から高周波数に至るスケールファクタ帯域の中で定義されたスペクトル順序に従うことができる。スケールファクタ抽出部22は、コンテキスト適応型エントロピー復号化を使用してもよく、直前のスケールファクタ帯域のスケールファクタに依存するなど、現在の抽出されたスケールファクタのスペクトル近傍の既に抽出されたスケールファクタに依存して各スケールファクタ用のコンテキストを決定してもよい。あるいは、スケールファクタ抽出部22は、例えば直前スケールファクタなどの以前に復号されたスケールファクタのいずれかに基づいて現在の復号されたスケールファクタを予測しながら、差分復号化を使用するなどして、データストリーム30からスケールファクタを予測復号することができる。注目すべきは、このスケールファクタ抽出のプロセスは、ゼロ量子化されたスペクトル線によって排他的にポピュレートされた、又は少なくとも1つがゼロでない値に量子化されるスペクトル線によってポピュレートされたスケールファクタ帯域に属するスケールファクタ関して不可知論的である。ゼロ量子化されたスペクトル線のみによってポピュレートされたスケールファクタ帯域に属するスケールファクタは、1つがゼロではないスペクトル線によってポピュレートされたスケールファクタ帯域に属する可能性がある後続の復号されたスケールファクタ用の予測の基礎として役立つか、また1つがゼロではないスペクトル線によってポピュレートされたスケールファクタ帯域に属する可能性がある以前に復号されたスケールファクタに基づいて予測されてもよい。
完全を期すためにのみ、スペクトル線抽出部20は、例えば、エントロピー符号化及び/又は予測符号化を使用して、スケールファクタ帯域50が同様にポピュレートされるスペクトル線係数を抽出することに留意されたい。エントロピー符号化は、現在の復号されたスペクトル線係数のスペクトル時間近傍のスペクトル線係数に基づくコンテキスト適応性を使用してもよく、同様に、予測は、そのスペクトル時間近傍における以前に復号されたスペクトル線係数に基づいて、現在の復号されたスペクトル線係数を予測するスペクトル予測、時間予測又はスペクトル時間予測であってもよい。符号化効率を高めるために、スペクトル線抽出部20は、周波数軸に沿ってスペクトル線を収集又はグループ化するタプル内のスペクトル線又は線係数の復号を実行するように構成されてもよい。
従って、スペクトル線抽出部20の出力では、例えば、対応するフレームのスペクトル線係数の全てを収集する、又は、代わりに、対応するフレームの特定の短い変換の全てのスペクトル線係数を収集するスペクトル46などの、例えばスペクトル単位などでスペクトル線係数が提供される。スケールファクタ抽出部22の出力において、それぞれのスペクトルの対応するスケールファクタが出力される。
スケールファクタ帯域識別部12及び逆量子化部14は、スペクトル線抽出部20の出力に結合されたスペクトル線入力を有し、逆量子化部14及びノイズ充填部16は、スケールファクタ抽出部22の出力に結合されたスケールファクタ入力を有する。スケールファクタ帯域識別部12は、現スペクトル46内のいわゆるゼロ量子化されたスケールファクタ帯域、つまり図4のスケールファクタ帯域50cなどの全てのスペクトル線がゼロに量子化されたスケールファクタ帯域、及び少なくとも1つのスペクトル線が非ゼロに量子化されるスペクトルの残りのスケールファクタ帯域を識別するように構成される。特に、図4では、図4の斜線領域を用いてスペクトル線係数が示される。スペクトル46において、スケールファクタ帯域50bを除く全てのスケールファクタ帯域は、少なくとも1つのスペクトル線を有し、スペクトル線係数は非ゼロ値に量子化されることを見ることができる。50dのようなゼロ量子化されたスケールファクタ帯域が、以下で更に説明するチャネル間ノイズ充填の対象を形成することは、後で明らかになるであろう。説明を進める前に、スケールファクタ帯域識別部12は、特定の開始周波数52より上のスケールファクタ帯域などのスケールファクタ帯域50の適切なサブセットにその識別を制限してもよいことに留意されたい。図4では、これにより、識別手順がスケールファクタ帯域50d、50e及び50fに制限される場合がある。
スケールファクタ帯域識別部12は、ゼロ量子化されたスケールファクタ帯域であるこれらのスケールファクタ帯域上のノイズ充填部16に通知する。逆量子化部14は、インバウンドスペクトル46に関連するスケールファクタを使用して、関連するスケールファクタ、即ち、スケールファクタ帯域50に関連するスケールファクタに従って、スペクトル46のスペクトル線のスペクトル線係数を逆量子化するか、又はスケーリングする。特に、逆量子化部14は、それぞれのスケールファクタ帯域に関連するスケールファクタを用いて、それぞれのスケールファクタ帯域に入るスペクトル線係数を逆量子化し、スケーリングする。図4は、スペクトル線の逆量子化の結果を示すものとして解釈されるものとする。
ノイズ充填部16は、後続のノイズ充填の対象を形成するゼロ量子化されたスケールファクタ帯域と、逆量子化スペクトルと、ゼロ量子化されたスケールファクタ帯域として識別される少なくともこれらのスケールファクタ帯域のスケールファクタと、に関する情報、ならびにチャネル間ノイズ充填が現フレームに対して実行されるべきか否かを明らかにする現フレームについてのデータストリーム30から得られる信号伝達とに関する情報を取得する。
以下の実施例で説明するチャネル間ノイズ充填プロセスは、実際には、2種類のノイズ充填を含み、即ち、任意のゼロ量子化されたスケールファクタ帯域に対する潜在的メンバーシップにかかわらずゼロに量子化された全てのスペクトル線に関するノイズフロア54の挿入と、実際のチャネル間ノイズ充填手順とを含む。この組み合わせについては後述するが、別の実施形態によれば、ノイズフロア挿入を省略することができることを強調する。更に、現フレームに関する、及びデータストリーム30から得られるノイズ充填オン及びオフに関する信号化は、チャネル間ノイズ充填のみに関連するか、又は両方のノイズ充填タイプの組み合わせを一緒に制御することができる。
ノイズフロアの挿入に関する限り、ノイズ充填部16は以下のように動作することができる。特に、ノイズ充填部16は、スペクトル線係数がゼロであるスペクトル線を充填するために、擬似乱数発生部又は他の乱数発生源などの人工的なノイズ発生を使用することができる。このようにゼロ量子化されたスペクトル線に挿入されたノイズフロア54のレベルは、現フレーム又は現スペクトル46に対するデータストリーム30内の明示的な信号伝達に従って設定することができる。ノイズフロア54の「レベル」は、例えば二乗平均平方根(RMS)又はエネルギー測定を使用して決定することができる。
従って、ノイズフロアの挿入は、図4のスケールファクタ帯域50dのようなゼロ量子化されたものとして識別されたスケールファクタ帯域の一種の予備充填を表す。また、ゼロ量子化されたもの以外の他のスケールファクタ帯域にも影響するが、後者は、更に以下のチャネル間ノイズ充填の対象となる。後述するように、チャネル間ノイズ充填プロセスは、それぞれのゼロ量子化されたスケールファクタ帯域のスケールファクタによって制御されるレベルまでゼロ量子化されたスケールファクタ帯域を充填することである。後者は、それぞれのゼロ量子化されたスケールファクタ帯域の全てのスペクトル線がゼロに量子化されているため、この目的のために直接使用することができる。それにもかかわらず、データストリーム30は、各フレーム又は各スペクトル46に対して、パラメータの追加の信号化を含んでもよく、これは対応するフレーム又はスペクトル46の全てのゼロ量子化されたスケールファクタ帯域のスケールファクタに共通に適用され、ノイズ充填部16によるゼロ量子化されたスケールファクタ帯域のスケールファクタ上に適用される場合、ゼロ量子化されたスケールファクタ帯域に個別のそれぞれの満たされたレベルをもたらす。即ち、ノイズ充填部16は、同じ修正機能を使用して、スペクトル46の各ゼロ量子化されたスケールファクタ帯域について、個々のスケールファクタ帯域のスケールファクタを修正してもよく、その際、データストリーム30に含まれた、現フレームのそのスペクトル46のための上述のパラメータを使用してもよく、それにより、それぞれのゼロ量子化されたスケールファクタ帯域についての充填目標レベルが取得され、そのレベルは、エネルギー又はRMSに関し、例えば、チャネル間ノイズ充填プロセスが個々のゼロ量子化されたスケールファクタ帯域を(ノイズフロア54に加えて)(任意選択的な)追加のノイズを用いてどの程度まで充填すべきか、というレベルを示す尺度となる。
特に、チャネル間ノイズ充填56を実行するために、ノイズ充填部16は、既に大部分又は完全に復号された状態にある、他のチャネルのスペクトル48のスペクトル的に同一位置に配置された部分を取得し、得られたスペクトル48の部分を、この部分がスペクトル的に同一位置にあるゼロ量子化されたスケールファクタ帯域に複写し、それぞれのスケールファクタ帯域のスペクトル線にわたる積分によって得られたゼロ量子化されたスケールファクタ帯域内の結果としての全体的なノイズレベルが、ゼロ量子化されたスケールファクタ帯域のスケールファクタから得られた上述の充填目標レベルに等しくなるようにスケーリングされる。この手段によって、それぞれのゼロ量子化されたスケールファクタ帯域に充填されたノイズの調性は、ノイズフロア54の基礎を形成するような人工的に生成されたノイズと比較して改善され、また、同じスペクトル46内の非常に低い周波数ラインからの未制御のスペクトルコピー/複製よりも良好である。
更に正確には、ノイズ充填部16は、50dのような現帯域のために、他のチャネルのスペクトル48内のスペクトル的に同位置の位置にある部分を配置し、ゼロ量子化されたスケールファクタ帯域50dのスケールファクタに依存して、そのスペクトル線をスケーリングし、その手法は、任意選択的に、現フレーム又はスペクトル46について、データストリーム30に含まれる何らかの付加的なオフセット又はノイズファクタパラメータを含んでもよく、その結果、ゼロ量子化されたスケールファクタ帯域50dのスケールファクタによって規定されるような所望のレベルまで、それぞれのゼロ量子化されたスケールファクタ帯域50dが充填される。本実施形態では、これは、充填がノイズフロア54に対して付加的な手法で行われることを意味する。
簡略化された実施形態によれば、結果として生じるノイズ充填されたスペクトル46は、逆変換部18の入力に直接入力されてもよく、それにより、スペクトル46のスペクトル線係数が属する各変換窓について、それぞれのチャネルオーディオ時間信号の時間領域部分を取得し、その後、これらの時間領域部分を(図2には示されない)オーバーラップ加算処理により結合してもよい。即ち、スペクトル46が非インターリーブスペクトルであり、スペクトル線係数がただ1つの変換に属する場合、逆変換部18は結果として1つの時間領域部分をもたらすようにその変換を行い、時間領域部分の前端及び後端は、例えば時間領域エイリアシング消去が実現できるように、先行及び後続の変換を逆変換することによって得られた先行する時間領域部分及び後続する時間領域部分とのオーバーラップ加算処理を受けてもよい。しかしながら、スペクトル46が2つ以上の連続する変換のスペクトル線係数をインターリーブしていた場合、逆変換部18は逆変換ごとに1つの時間領域部分を得るように、それらに別々の逆変換を施し、それらの間で定義された時間的順序に従って、これらの時間領域部分は、それらの間で、他のスペクトル又はフレームの先行する時間領域部分及び後続する時間領域部分に対して、オーバーラップ加算処理を受けてもよい。
しかし、完全性のために、ノイズ充填されたスペクトルに対して更なる処理を行うことができることに留意しなければならない。図2に示すように、逆TNSフィルタは、ノイズ充填されたスペクトルに対して逆TNSフィルタリングを実行することができる。即ち、現フレーム又はスペクトル46についてTNSフィルタ係数を介して制御され、これまでに得られたスペクトルは、スペクトル方向に沿って線形フィルタリングを受ける。
逆TNSフィルタリングの有無にかかわらず、複素ステレオ予測部24は、スペクトルをチャネル間予測の予測残差として扱うことができる。より具体的には、チャネル間予測部24は、スペクトル46又は少なくともそのスケールファクタ帯域50のサブセットを予測するために、他のチャネルのスペクトル的に同一位置にある部分を使用することができる。複素予測プロセスは、スケールファクタ帯域50bに関連して破線のボックス58を用いて図4に示される。即ち、データストリーム30は、例えば、スケールファクタ帯域50のうちのどれをチャネル間予測し、どれをそのように予測してはならないかを制御するチャネル間予測パラメータを含むことができる。更に、データストリーム30内のチャネル間予測パラメータは、チャネル間予測結果を得るために、チャネル間予測部24によって適用される複素チャネル間予測ファクタを更に含むことができる。これらのファクタは、データストリーム30内でチャネル間予測が活性化されるか又は信号伝達される各スケールファクタ帯域について、又は代替的に1つ又は複数のスケールファクタ帯域の各グループについて個別に、データストリーム30内に含まれてもよい。
チャネル間予測のソースは、図4に示すように、他のチャネルのスペクトル48であってもよい。より正確には、チャネル間予測のソースは、その虚数部の推定によって拡張された、チャネル間予測されるスケールファクタ帯域50bと同一位置にあるスペクトル48のスペクトル的に同一位置にある部分であってもよい。虚数部の推定は、スペクトル48自体のスペクトル的に同一位置にある部分60に基づいて実行されてもよく、及び/又は、前フレーム、即ちスペクトル46が属する現在の復号されたフレームの直前フレームの既に復号されたチャネルのダウンミックスを使用してもよい。要するに、チャネル間予測部24は、図4のスケールファクタ帯域50bのようなチャネル間予測されるスケールファクタ帯域に、今説明したようにして得られた予測信号を加える。
前述の説明で既に述べたように、スペクトル46が属するチャネルは、MS符号化チャネルであってもよく、又はステレオオーディオ信号の左チャネル又は右チャネルなどのスピーカ関連チャネルであってもよい。従って、任意選択的に、MSデコーダ26は、チャネル間予測されたスペクトル46に対して任意選択的にMS復号化を施し、そのMS復号化において、スペクトル線又はスペクトル46ごとに、スペクトル48に対応する他のチャネルのスペクトル的に対応するスペクトル線との加算又は減算を実行してもよい。例えば、図2には示されていないが、図4に示すようなスペクトル48は、スペクトル46が属するチャネルに関して先に説明したものと同様の方法で、デコーダ10の部分34によって得られており、MS復号化モジュール26は、MS復号化を実行する際に、スペクトル46及び48にスペクトル線ごとの加算又はスペクトル線ごとの減算を行い、両方のスペクトル46及び48が処理ライン内の同じ段階にあり、例えば、両方がチャネル間予測によって得られたばかりであるか、又は両方がノイズ充填又は逆TNSフィルタリングによって得られたばかりであることを意味する。
任意選択的に、MS復号化は、スペクトル46全体に関して包括的に実行されてもよく、例えばスケールファクタ帯域50の単位で、データストリーム30によって個々に活性化できてもよいことに留意されたい。換言すれば、MS復号化は、例えば、フレームの単位又は、例えばスペクトログラム40及び/又は42のスペクトル46及び/又は48のスケールファクタ帯域について個々になど、何らかのより細かいスペクトル時間分解能の単位で、データストリーム30においてそれぞれの信号伝達を使用して、オン又はオフを切り換えてもよく、ここで両方のチャネルのスケールファクタ帯域の同一の境界は定義されていると仮定する。
図2に示すように、逆TNSフィルタ28による逆TNSフィルタリングは、チャネル間予測58又はMSデコーダ26によるMS復号化などの任意のチャネル間処理の後に実行することもできる。チャネル間処理の前又は下流の性能は、固定されていてもよいし、データストリーム30内の各フレームについて、又は何らかの別の粒度で、それぞれの信号伝達を介して制御されてもよい。逆TNSフィルタリングが実行されるときは常に、現スペクトル46のデータストリームに存在するそれぞれのTNSフィルタ係数は、TNSフィルタ、即ちスペクトル方向に沿って作動する線形予測フィルタを、それぞれの逆TNSフィルタモジュール28a及び/又は28bへのインバウンドのスペクトルを線形にフィルタリングするように制御する。
従って、逆変換部18の入力に到着するスペクトル46は、今説明したように更なる処理を受けている可能性がある。ここでも、上記の説明は、これらの任意選択のツールの全てが同時に又は同時でなく存在すべきであると理解されるよう意図していない。これらのツールは、デコーダ10に部分的又は集合的に存在してもよい。
いずれにしても、逆変換部の入力における結果としてのスペクトルは、チャネルの出力信号の最終的な再構成を表し、複素予測58に関して説明したように、復号される次のフレームの潜在的な虚数部推定の基礎として機能する、現フレームに対する前述のダウンミックスの基礎を形成する。それは、図2の34以外の要素が関連するチャネルではない別のチャネルを予測するためのチャネル間の最終的な再構成として更に機能することができる。
それぞれのダウンミックスは、この最終スペクトル46をスペクトル48のそれぞれの最終バージョンと組み合わせることによって、ダウンミックス提供部31によって形成される。後者のエンティティ、即ちスペクトル48のそれぞれの最終バージョンは、予測部24における複素チャネル間予測の基礎を形成した。
チャネル間ノイズ充填の基礎が前フレームのスペクトル的に同一位置にあるスペクトル線のダウンミックスによって表される限り、図5は図2に対する代替案を示し、複素チャネル間予測を使用する任意選択の場合において、この複素チャネル間予測のソースは、チャネル間ノイズ充填のソースと複素チャネル間予測における虚数部推定のためのソースとして2回使用される。図5は、スペクトル46が属する第1のチャネルの復号化に関連する部分70と、スペクトル48を含む他のチャネルの復号化に関与する前述の他の部分34の内部構造とを含むデコーダ10を示す。一方では部分70の、他方では部分34の内部要素に対して同じ参照符号が使用されている。理解されるように、構成は同じである。出力32において、ステレオオーディオ信号の1つのチャネルが出力され、第2のデコーダ部分34の逆変換部18の出力において、ステレオオーディオ信号の他方の(出力)チャネルが得られ、この出力は参照符号74によって示される。ここでも、上述した実施形態は、3つ以上のチャネルを使用する場合に容易に転用できる。
ダウンミックス提供部31は、部分70及び34の両方によって共用され、スペクトログラム40及び42の時間的に同一位置にあるスペクトル48及び46を受信し、スペクトル線ごとにこれらのスペクトルを合計することによってそれらに基づいてダウンミックスを形成し、場合によっては、各スペクトル線における合計を、ダウンミックスされるチャネルの数、つまり図5の場合には、2で除算することによって平均を形成する。ダウンミックス提供部31の出力では、前フレームのダウンミックスがこの測定によって得られる。これに関して、スペクトログラム40及び42のいずれか1つに2つ以上のスペクトルを含む前フレームの場合、ダウンミックス提供部31がその場合どのように動作するかに関して、異なる可能性が存在することに留意されたい。例えば、この場合、ダウンミックス提供部31は、現フレームの後続変換のスペクトルを使用してもよいし、スペクトログラム40及び42の現フレームの全てのスペクトル線係数をインターリーブするインターリーブ結果を使用してもよい。ダウンミックス提供部31の出力に接続された図5に示す遅延要素74は、ダウンミックス提供部31の出力で提供されたダウンミックスが、前フレーム76のダウンミックスを形成することを示す(チャネル間ノイズ充填56、複素予測58に関してはそれぞれ図4参照)。従って、遅延要素74の出力は、一方はデコーダ部分34及び70のチャネル間予測部24の入力に接続され、他方はデコーダ部分70及び34のノイズ充填部16の入力に接続される。
即ち、図2では、ノイズ充填部16は、チャネル間ノイズ充填の基礎として、同じ現フレームの他のチャネルの最終的に再構成された時間的に同一位置にあるスペクトル48を受信するが、図5では、チャネル間ノイズ充填は、代わりに、ダウンミックス提供部31によって提供されるような前フレームのダウンミックスに基づいて実行される。チャネル間ノイズ充填が行われる方法は同じである。即ち、チャネル間ノイズ充填部16は、図2の場合には、現フレームの他のチャネルのスペクトルのそれぞれのスペクトルからスペクトル的に同一位置にある部分を取り込み、図5の場合には、前フレームのダウンミックスを表す前フレームから得られるほとんど又は完全に復号された最終スペクトルを取り込み、更に、図4の50dなどのノイズ充填すべきスケールファクタ帯域内のスペクトル線に、それぞれのスケールファクタ帯域のスケールファクタによって決定された目標ノイズレベルに従ってスケーリングされた、同じ「ソース」部分を加える。
オーディオデコーダにおけるチャネル間ノイズ充填を説明する実施形態の上記議論を結論すると、「ソース」スペクトルの取り込まれたスペクトル的又は時間的に同一位置にある部分を、「ターゲット」スケールファクタ帯域のスペクトル線に加える前に、チャネル間充填の一般的概念から逸脱することなく、特定の前処理を「ソース」スペクトル線に適用することができることは当該技術分野の読者には明らかであろう。特に、チャネル間ノイズ充填プロセスのオーディオ品質を改善するために、図4の50dのような「目標」スケールファクタ帯域に追加される「ソース」領域のスペクトル線に、例えばスペクトル平坦化又は傾斜除去などのフィルタリング操作を適用することが有益であり得る。同様に、また、ほとんど(完全の代わりに)復号されたスペクトルの例として、前述の「ソース」部分は、利用可能な逆(即ち、合成)TNSフィルタによってまだフィルタリングされていないスペクトルから得ることができる。
このように、上記の実施形態は、チャネル間ノイズ充填の概念に関していた。以下では、上記のチャネル間ノイズ充填の概念を、どのようにして既存のコーデック、即ちxHE−AACに、準後方互換的に組み込むことができるかについて説明する。特に、ステレオ充填ツールが、準後方互換性のある信号伝達方式でxHE−AACベースのオーディオコーデックに組み込まれている上記の実施形態の好ましい実装が以下に説明される。以下に更に説明する実施形態を使用することによって、MPEG−D xHE−AAC(USAC)に基づくオーディオコーデックにおける2つのチャネルのいずれか一方の変換係数のステレオ充填が可能であり、これにより特に低ビットレートでの特定のオーディオ信号の符号化品質が改善される。ステレオ充填ツールは、レガシーxHE−AACデコーダが明白なオーディオエラー又は脱落なしに、ビットストリームを解析して復号できるように、準後方互換的に信号伝達される。既に上述したように、オーディオコーダが、2つのステレオチャネルの以前に復号された/量子化された係数の組み合わせを使用して、現在の復号されたチャネルのいずれか1つのゼロ量子化された(送信されない)係数を再構成することができる場合、より良い全体的品質を得ることができる。オーディオコーダ、特にxHE−AAC又はそれに基づくコーダにおいて、(低周波数チャネル係数から高周波数チャネル係数への)スペクトル帯域複製と、(無相関擬似ランダムソースからの)ノイズ充填とに加えて、(以前のチャネル係数から現在のチャネル係数への)そのようなステレオ充填を可能にすることが望ましい。
ステレオ充填を用いた符号化されたビットストリームがレガシーxHE−AACデコーダによって読み出され解析されることを可能にするために、所望のステレオ充填ツールは、準後方互換的に使用されるべきであり、その存在が、レガシーデコーダによる復号化の停止を−又は開始さえ−引き起こしてはならない。xHE−AACインフラストラクチャによるビットストリームの可読性はまた、市場導入を容易にする。
xHE−AAC又はその潜在的な派生物の文脈において前述した、ステレオ充填ツールに関する準後方互換性についての要望を達成するために、以下の実施形態は、ステレオ充填の機能と、ノイズ充填に実際に関連するデータストリーム内のシンタックスを介してそのステレオ充填の機能を信号伝達する能力とを含む。ステレオ充填ツールは、上記の説明に沿って動作する。共通の窓構成を有するチャネルペアにおいて、ステレオ充填ツールがノイズ充填に対する代替形態として(又は、上述したようにノイズ充填に加えて)活性化された場合、ゼロ量子化されたスケールファクタ帯域の係数は、2つのチャネルのうちのいずれか一方、好ましくは右チャネル中の、前フレームの係数の和又は差によって再構成される。ステレオ充填は、ノイズ充填と同様に行われる。信号伝達は、xHE−AACのノイズ充填信号伝達を介して行われる。ステレオ充填は、8ビットのノイズ充填サイド情報によって伝達される。これは、適用されるノイズレベルがゼロであっても、全ての8ビットが送信されることがMPEG−D USAC規格[3]に記載されているように実現可能である。そのような状況では、ノイズ充填ビットの一部をステレオ充填ツールに再利用することができる。
レガシーxHE−AACデコーダによるビットストリーム解析及び再生に関する準後方互換性は、以下のように保証される。ステレオ充填は、ゼロのノイズレベル(即ち、全てゼロの値を有する最初の3つのノイズ充填ビット)と、それに続く、ステレオ充填ツールのサイド情報及び損失ノイズレベルを含む5つの非ゼロのビット(伝統的にノイズオフセットを表す)と、を介して信号伝達される。3ビットのノイズレベルがゼロであれば、レガシーxHE−AACデコーダは5ビットのノイズオフセットの値を無視するため、ステレオ充填ツールの信号伝達の存在は、レガシーデコーダにおけるノイズ充填に対して影響を及ぼすのみであり、最初の3ビットがゼロであるためノイズ充填はオフにされ、残りの復号化操作は意図された通りに作動する。特に、ステレオ充填は、不活性化されているノイズ充填処理と同様に操作されるという事実に起因して、実施されない。従って、ステレオ充填がオンになっているフレームに到達したとき、レガシーデコーダは出力信号をミュートする必要がなく、又は更には復号化を中断する必要もないため、レガシーデコーダは依然として、強化されたビットストリーム30の「上品な」復号化を行う。当然ながら、ステレオ充填された線係数を意図通りに正確に再構成することは不可能であり、その結果、新規のステレオ充填ツールに対して適切に対処できる適切なデコーダによる復号化と比較すると、影響を受けたフレームにおける品質の劣化を招く。それにもかかわらず、ステレオ充填ツールが意図通りに使用される、即ち、低ビットレートでのステレオ入力に対してのみ使用されると仮定すると、xHE−AACデコーダによる品質は、影響を受けたフレームが、ミューティングに起因して脱落するか、又は他の明白な再生エラーをもたらす場合と比較して、良好となるはずである。
以下では、拡張として、ステレオ充填ツールをxHE−AACコーデックにどのように組み込むことができるかについて、詳細に説明する。
標準に組み込まれる場合、ステレオ充填ツールは、以下のように説明することができる。特に、そのようなステレオ充填(SF)ツールは、MPEG−H 3Dオーディオの周波数領域(FD)部分における新たなツールを表すことになるであろう。上記の説明に倣って、そのようなステレオ充填ツールの目的は、[3]に記載されている標準のセクション7.2に従うノイズ充填によって既に達成できるものと同様に、低ビットレートでのMDCTスペクトル係数のパラメトリック再構成であろう。しかし、任意のFDチャネルのMDCTスペクトル値の生成に擬似ランダムノイズソースを利用するノイズ充填とは異なり、SFは、前フレームの左及び右のMDCTスペクトルのダウンミックスを使用して、チャネルの結合符号化されたステレオペアの右チャネルのMDCT値を再構成するためにも利用可能であろう。SFは、以下に記載する実施形態によれば、レガシーMPEG−D USACデコーダによって正確に解析することができるノイズ充填サイド情報によって、準後方互換的に信号伝達される。
ツールの説明は以下の通りであってもよい。SFが結合ステレオFDフレームにおいて活性化しているとき、50dなどの、右(第2の)チャネルの空の(即ち完全にゼロ量子化された)スケールファクタ帯域のMDCT係数が、前フレーム(FDの場合)の対応する復号された左及び右チャネルのMDCT係数の和又は差に置き換えられる。レガシーノイズ充填が第2のチャネルに対して活性化している場合、擬似乱数値も各係数に加えられる。結果として得られる各スケールファクタ帯域の係数は、その後、各帯域のRMS(係数の二乗平均平方根)がその帯域のスケールファクタによって伝送された値と一致するように、スケーリングされる。[3]における標準のセクション7.3を参照されたい。
MPEG−D USAC標準において新たなSFツールを使用するには、いくつかの操作上の制約がもたらされ得る。例えば、SFツールは、共通のFDチャネルペア、即ち、common_window==1を用いてStereoCoreToolInfo()を伝送するチャネルペア要素の、右FDチャネルにおける使用のためだけに利用可能であってもよい。加えて、準後方互換的な信号伝達に起因して、SFツールは、シンタックスコンテナUsacCoreConfig()内でnoiseFilling==1である場合だけの使用のために利用可能であってもよい。そのペアにおけるチャネルのいずれかがLPD core_modeにある場合には、たとえ右チャネルがFDモードにある場合であっても、SFツールは使用されなくてもよい。
[3]で説明されているように、標準の拡張をより明確に記述するために、以下の用語及び定義を使用する。
特に、データ要素に関する限り、次のデータ要素が新たに導入される。
stereo_filling 現フレーム及びチャネルにおいてSFが利用されるか否かを示す2値フラグ
更に、新たな補助要素が導入される。
noise_offset ゼロ量子化された帯域のスケールファクタを修正するためのノイズ充填オフセット(セクション7.2)
noise_level 追加されるスペクトルノイズの振幅を表すノイズ充填レベル(セクション7.2)
downmix_prev[] 前フレームの左及び右チャネルのダウンミックス(即ち、和又は差)
sf_index[g][sfb] 窓グループg及び帯域sfbのためのスケールファクタインデックス(即ち、伝送される整数)
この標準の復号化処理は以下のように拡張され得る。特に、SFツールが活性化されている状態での結合ステレオ符号化されたFDチャネルの復号化は、以下の様な3つの順序的ステップにおいて実行される。
まず、stereo_fillingフラグの復号化が行われ得る。
stereo_fillingは独立したビットストリーム要素を表すのではなく、UsacChannelPairElement()内のノイズ充填要素、noise_offset及びnoise_levelと、StereoCoreToolInfo()中のcommon_windowフラグとから導出される。noiseFilling==0、common_window==0、又は現チャネルがその要素中の左(第1の)チャネルである場合、stereo_fillingは0であり、ステレオ充填処理は終了する。そうでない場合、
if ((noiseFilling != 0) && (common_window != 0) && (noise_level == 0)) {
stereo_filling = (noise_offset & 16) / 16;
noise_level = (noise_offset & 14) / 2;
noise_offset = (noise_offset & 1) * 16;
}
else {
stereo_filling = 0;
}
言い換えれば、noise_level==0である場合、noise_offsetは、stereo_fillingフラグ、及び、それに続く4ビットのノイズ充填データを含み、これらのデータはその後、再配列される。この動作はnoise_level及びnoise_offsetの値を変更するため、セクション7.2のノイズ充填処理の前に実施される必要がある。更に、上記の擬似コードは、UsacChannelPairElement()又は任意の他の要素の左(第1の)チャネルでは実行されない。
次に、downmix_prevの計算が行われるであろう。
ステレオ充填に使用されるべきスペクトルダウンミックスであるdownmix_prev[]は、複素ステレオ予測におけるMDSTスペクトル推定(セクション7.7.2.3)に使用されるdmx_re_prev[]と同一である。これは以下を意味する。
・ダウンミックスが実施されるフレーム及び要素、即ち、現在復号化されたフレームの前のフレームのチャネルのいずれかがcore_mode==1(LPD)を使用する場合、又は、チャネルが不均一な変換長(split_transform==1若しくは唯一のチャネルにおけるwindow_sequence==EIGHT_SHORT_SEQUENCEへのブロック切り換え)若しくはusacIndependencyFlag==1を使用する場合、downmix_prev[]の全ての係数はゼロでなければならない。
・現在の要素においてチャネルの変換長が最後のフレームから現フレームまでに変化していた場合(即ち、split_transform==0の前にsplit_transform==1があるか、又はwindow_sequence !=EIGHT_SHORT_SEQUENCEの前にwindow_sequence==EIGHT_SHORT_SEQUENCEがあるか、又はそれぞれその逆)、downmix_prev[]の全ての係数は、ステレオ充填処理の間中、ゼロでなければならない。
・前フレーム又は現フレームのチャネルにおいて変換分割が適用される場合、downmix_prev[]は線ごとにインターリーブされたスペクトルダウンミックスを表す。詳細については変換分割ツールを参照されたい。
・複素ステレオ予測が現フレーム及び要素において利用されない場合、pred_dirは0に等しい。
結果として、前ダウンミックスは、両方のツールについて一度だけ計算されればよく、演算量が節約される。セクション7.7.2におけるdownmix_prev[]とdmx_re_prev[]との唯一の差は、複素ステレオ予測が現在使用されていないとき、又は、複素ステレオ予測が活性化しているがuse_prev_frame==0であるときの挙動である。その場合、たとえdmx_re_prev[]が複素ステレオ予測復号化に必要とされておらず、それゆえ、未定義/ゼロであったとしても、セクション7.7.2.3に従ってステレオ充填復号化のためにdownmix_prev[]が計算される。
その後、空のスケールファクタ帯域のステレオ充填が実施されるであろう。
stereo_filling==1である場合、max_sfb_steを下回る、初期的には空であった全てのスケールファクタ帯域sfb[]、即ち、全てのMDCT線がゼロに量子化されていた全ての帯域におけるノイズ充填処理の後、以下の手順が実行される。最初に、この所与のsfb[]及びdownmix_prev[]内の対応する線のエネルギーが、線の二乗の和によって計算される。その後、各グループ窓のスペクトルについて、sfb[]あたり上記の数の線を含むsfbWidthが与えられる。
if (energy[sfb] < sfbWidth[sfb]) { /* noise level isn't maximum, or band starts below noise-fill region */
facDmx = sqrt((sfbWidth[sfb] - energy[sfb]) / energy_dmx[sfb]);
factor = 0.0;
/* if the previous downmix isn't empty, add the scaled downmix lines such that band reaches unity energy */
for (index = swb_offset[sfb]; index < swb_offset[sfb+1]; index++) {
spectrum[window][index] += downmix_prev[window][index] * facDmx;
factor += spectrum[window][index] * spectrum[window][index];
}
if ((factor != sfbWidth[sfb]) && (factor > 0)) { /* unity energy isn't reached, so modify band */
factor = sqrt(sfbWidth[sfb] / (factor + 1e-8));
for (index = swb_offset[sfb]; index < swb_offset[sfb+1]; index++) {
spectrum[window][index] *= factor;
}
}
}
次に、セクション7.3のように結果的に得られるスペクトルに対してスケールファクタが適用され、空の帯域のスケールファクタは、通常のスケールファクタのように処理される。
xHE−AAC標準の上記の拡張に対する代替形態は、暗黙の準後方互換的な信号伝達方法を使用するであろう。
xHE−AACコードの枠組みにおける上記の実施形態は、図2によるデコーダに対し、新たなステレオ充填ツールの使用状況を、stereo_fillingに含まれているビットストリーム中の1ビットを利用して信号伝達する手法を記述している。より正確には、そのような信号伝達(明示的な準後方互換的信号伝達と呼ぶ)は、後続するレガシービットストリームデータ−ここではノイズ充填サイド情報−がSF信号伝達とは独立して使用されることを可能にし、本発明の実施形態では、ノイズ充填データはステレオ充填情報に依存せず、その逆も成り立つ。例えば、全てゼロからなるノイズ充填データ(noise_level=noise_offset=0)が伝送されてもよい一方で、stereo_fillingが任意の可能な値(0又は1のいずれかの2値フラグである)を信号伝達してもよい。
レガシービットストリームデータと本発明のビットストリームデータとの間の厳密な独立性が必要とされず、本発明の信号が2値決定である場合、信号伝達ビットの明示的な伝送を回避することができ、上記2値決定は、暗黙の準後方互換的信号伝達と呼ばれ得る信号の存在又は不在によって、信号伝達されることもできる。上記の実施形態を再び一例として取り上げると、ステレオ充填の使用状況は、新たな信号伝達を単に利用することによって伝送されることができ、noise_levelがゼロであり、同時にnoise_offsetがゼロでない場合、stereo_fillingフラグは1に等しく設定される。noise_levelとnoise_offsetとが共にゼロでない場合、stereo_fillingは0に等しい。レガシーノイズ充填信号に対するこの暗黙信号の依存は、noise_level及びnoise_offsetの両方がゼロである場合に生じる。この場合、レガシー又は新たなSF暗黙信号伝達のいずれが使用されているかは明確でない。そのような曖昧さを回避するために、stereo_fillingの値は事前に定義されなければならない。この例において、ノイズ充填データが全てゼロからなる場合、stereo_filling=0を定義することが適切であり、なぜなら、これは、ノイズ充填がフレームに適用されるべきでないときに、ステレオ充填機能を有しないレガシーエンコーダが信号伝達するものだからである。
暗黙の準後方互換的信号伝達の場合に未解決である問題は、stereo_filling==1であり同時にノイズ充填がないことをどのように信号伝達するかである。上述したように、ノイズ充填データは「全てゼロ」であってはならず、ゼロのノイズの大きさが要求される場合、noise_level(上述したように(noise_offset&14)/2)は0に等しくなければならない。これによって、0よりも大きいnoise_offset(上述したように(noise_offset&1)*16)だけが解として残る。しかしながら、たとえnoise_levelがゼロであったとしても、ステレオ充填の場合にスケールファクタを適用するとき、noise_offsetが考慮される。好都合なことに、ビットストリームを書き込む際に、影響を受けたスケールファクタがnoise_offsetを介してデコーダにおいて実行されないオフセットを含むように、その影響を受けたスケールファクタを変更することによって、エンコーダは、ゼロのnoise_offsetが伝送されない可能性がある、という事実を補償できる。これによって、スケールファクタのデータレートにおける潜在的な増加の代償として、上記の実施形態における前記暗黙の信号伝達が可能になる。従って、上記の説明の擬似コードにおけるステレオ充填の信号伝達は、節約されたSF信号伝達ビットを、1ビットに代えて2ビット(4つの値)でnoise_offsetを伝送するために使用することで、以下のように変更され得る。
if ((noiseFilling) && (common_window) && (noise_level == 0) && (noise_offset > 0)) {
stereo_filling = 1;
noise_level = (noise_offset & 28) / 4;
noise_offset = (noise_offset & 3) * 8;
}
else {
stereo_filling = 0;
}
完全性を求める意味で、図6は、本願の一実施形態によるパラメトリックオーディオエンコーダを示す。まず最初に、全体的に参照符号90を使用して示されている図6のエンコーダは、図2の出力32において再構成されたオーディオ信号の歪みのないオリジナルバージョンの変換を実行するための変換部92を備える。図3に関連して説明したように、対応する変換窓を有する複数の異なる変換長をフレーム44の単位で切り換えながら、ラップド変換が使用されてもよい。異なる変換長及び対応する変換窓は、図3において参照符号104を使用して示されている。図2と同様に、図6は、マルチチャネルオーディオ信号の1つのチャネルを符号化する役割を担うエンコーダ90の一部分に着目しており、その一方で、エンコーダ90の別のチャネル領域部分は図6において全体的に参照符号96を使用して示されている。
変換部92の出力において、スペクトル線及びスケールファクタは量子化されておらず、実質的に符号化損失はまだ発生していない。変換部92によって出力されたスペクトログラムが量子化部98に入り、量子化部は、スケールファクタ帯域の予備スケールファクタを設定及び使用して、変換部92によって出力されたスペクトログラムのスペクトル線を、スペクトルごとに量子化するよう構成されている。即ち、量子化部98の出力において、予備スケールファクタ及び対応するスペクトル線係数がもたらされ、ノイズ充填部16’、任意選択の逆TNSフィルタ28a’、チャネル間予測部24’、MSデコーダ26’及び逆TNSフィルタ28b’のシーケンスが、順次接続されており、その結果、図6のエンコーダ90に対し、デコーダ側のダウンミックス提供部の入力(図2参照)において取得可能であるような、現スペクトルの再構成された最終バージョンを取得する能力を与えている。チャネル間予測部24’を使用する場合、及び/又は、前フレームのダウンミックスを使用してチャネル間ノイズを形成するバージョンにおけるチャネル間ノイズ充填を使用する場合には、エンコーダ90はまた、マルチチャネルオーディオ信号のチャネルのスペクトルの再構成された最終バージョンのダウンミックスを形成するダウンミックス提供部31’も備える。当然、計算量を節約するために、最終バージョンの代わりに、チャネルの前記スペクトルの量子化されていないオリジナルバージョンが、ダウンミックスの形成に当たってダウンミックス提供部31’によって使用されてもよい。
エンコーダ90は、スペクトルの利用可能な再構成された最終バージョンに関する情報を使用して、虚数部推定を使用したチャネル間予測を実行する前述した可能なバージョンのような、フレーム間スペクトル予測を実行してもよく、及び/又は、レート制御を実行してもよく、即ち、レート制御ループ内で、エンコーダ90によって最終的にデータストリーム30内へと符号化される可能なパラメータが、レート/歪みにおいて最適に設定されるよう決定してもよい。
例えば、エンコーダ90のそのような予測ループ及び/又はレート制御ループ内で設定される1つのパラメータは、識別部12’によって識別された各ゼロ量子化されたスケールファクタ帯域について、量子化部98によって単に事前に設定された、それぞれのスケールファクタ帯域のスケールファクタである。エンコーダ90の予測及び/又はレート制御ループの中で、ゼロ量子化されたスケールファクタ帯域のスケールファクタは、聴覚心理的に又はレート/歪みが最適になるように設定され、それにより、上述した目標ノイズレベルと共に、対応するフレームについてデータストリームによってデコーダ側へと搬送される上述した任意選択の修正パラメータとが決定される。このスケールファクタは、スペクトルのスペクトル線及びそのスペクトルが属するチャネル(即ち、前述の「目標」スペクトル)のみを使用して計算されもよいし、代替的に、「目標」チャネルスペクトルのスペクトル線と、追加的に、他のチャネルスペクトルのスペクトル線、又はダウンミックス提供部31’から得られた前フレームからのダウンミックススペクトル(即ち、上述した「ソース」スペクトル)と、の両方を使用して決定されてもよいことに留意されたい。特に、目標ノイズレベルを安定させ、また、チャネル間ノイズ充填が適用されている復号化済みオーディオチャネルにおける時間的なレベル変動を低減するために、目標スケールファクタは、「目標」スケールファクタ帯域中のスペクトル線のエネルギー尺度と、対応する「ソース」領域中の同一位置にあるスペクトル線のエネルギー尺度と、の間の関係を使用して計算されてもよい。最後に、上述したように、この「ソース」領域は、別のチャネルの再構成された最終バージョン若しくは前フレームのダウンミックスに由来してもよいし、エンコーダの演算量が低減されるべきである場合は、前記他のチャネルの量子化されていないオリジナルバージョン又は前フレームのスペクトルの量子化されていないオリジナルバージョンのダウンミックスに由来してもよい。
以下では、実施形態によるマルチチャネル符号化及びマルチチャネル復号化について説明する。実施形態では、図1aの復号化のための装置201のマルチチャネル処理部204は、例えば、ノイズマルチチャネル復号化に関して記載される以下の技術のうちの1つ以上を実行するように構成されてもよい。
しかしながら、まず、マルチチャネル復号化を説明する前に、実施形態によるマルチチャネル符号化について、図7〜図9を参照して説明し、その後、図10及び図12を参照してマルチチャネル復号化について説明する。
ここで、図7〜図9及び図11を参照して、実施形態によるマルチチャネル符号化について説明する。
図7は、少なくとも3つのチャネルCH1〜CH3を有するマルチチャネル信号101を符号化する装置(エンコーダ)100の概略ブロック図を示す。
装置100は、反復処理部102と、チャネルエンコーダ104と、出力インタフェース106とを備える。
反復処理部102は、第1の反復ステップにおいて、最高値を有するペア又は閾値より上の値を有するペアを選択するために、かつマルチチャネル処理動作を用いて選択されたペアを処理して選択されたペア用のマルチチャネルパラメータMCH_PAR1を導出し、かつ第1の処理されたチャネルP1及びP2を導出するために、第1の反復ステップにおいて、少なくとも3つのチャネルCH1〜CH3の各ペアの間のチャネル間相関値を計算するように構成される。以下では、このような処理されたチャネルP1及びこのような処理されたチャネルP2はまた、それぞれ合成チャネルP1及び合成チャネルP2と呼ばれる。更に、反復処理部102は、処理されたチャネルP1又はP2の少なくとも1つを使用して、第2の反復ステップで計算、選択及び処理を実行して、マルチチャネルパラメータMCH_PAR2及び第2の処理されたチャネルP3及びP4を導出するように構成される。
例えば、図7に示すように、反復処理部102は、第1の反復ステップにおいて、少なくとも3つのチャネルCH1〜CH3の第1のペア間のチャネル間相関値と、ここで第1のペアは第1のチャネルCH1と第2のチャネルCH2とからなり、少なくとも3つのチャネルCH1〜CH3の第2のペア間のチャネル間相関値と、ここで第2のペアは第2のチャネルCH2と第3のチャネルCH3とからなり、少なくとも3つのチャネルCH1〜CH3の第3のペア間のチャネル間相関値とを計算してもよく、ここで第3のペアは第1のチャネルCH1と第3のチャネルCH3とからなる。
図7では、第1の反復ステップにおいて、第1のチャネルCH1及び第3のチャネルCH3からなる第3のペアが最高のチャネル間相関値を含み、反復処理部102が第1の反復ステップにおいて、最高のチャネル間相関値を有する第3のペアを選択し、マルチチャネル処理動作を使用して、選択したペアについてのマルチチャネルパラメータMCH_PAR1を導出し、第1の処理されたチャネルP1及びP2を導出するために、選択したペア、即ち第3のペアを処理すると仮定する。
更に、反復処理部102は、第2の反復ステップにおいて、最高値を有するペア又は閾値より上の値を有するペアを選択するために、第2の反復ステップにおいて、少なくとも3つのチャネルCH1〜CH3及び処理されたチャネルP1及びP2の各ペア間のチャネル間相関値を計算するように構成できる。これにより、反復処理部102は、第2の反復ステップ(又は任意の更なる反復ステップ)において、第1の反復ステップの選択されたペアを選択しないように構成することができる。
図7に示す例を参照すると、反復処理部102は、第1のチャネルCH1と第1の処理されたチャネルP1とからなる第4のチャネルペア間のチャネル間相関値と、第1のチャネルCH1と第2の処理されたチャネルP2とからなる第5のペア間のチャネル間相関値と、第2のチャネルCH2と第1の処理されたチャネルP1とからなる第6のペア間のチャネル間相関値と、第2のチャネルCH2と第2の処理されたチャネルP2とからなる第7のペア間のチャネル間相関値と、第3のチャネルCH3と第1の処理されたチャネルP1とからなる第8のペア間のチャネル間相関値と、第3のチャネルCH3と第2の処理されたチャネルP2とからなる第9のペア間のチャネル間相関値と、第1の処理されたチャネルP1と第2の処理されたチャネルP2とからなる第10のペア間のチャネル間相関値とを更に計算してもよい。
図7では、第2の反復ステップにおいて、第2のチャネルCH2及び第1の処理されたチャネルP1からなる第6のペアが最高のチャネル間相関値を含み、反復処理部102が第2の反復ステップにおいて、第6のペアを選択し、マルチチャネル処理動作を使用して、選択したペアについてのマルチチャネルパラメータMCH_PAR2を導出し、第2の処理されたチャネルP3及びP4を導出するために、選択したペア、即ち第6のペアを処理すると仮定する。
反復処理部102は、ペアのレベル差が閾値より小さい場合にのみペアを選択するように構成することができ、閾値は40dB、25dB、12dBよりも小さいか又は6dBより小さい。それにより、25又は40dBの閾値は、3又は0.5度の回転角に対応する。
反復処理部102は、正規化された整数相関値を計算するように構成することができ、反復処理部102は、整数相関値が例えば0.2好ましくは0.3より大きい場合にペアを選択するように構成することができる。
更に、反復処理部102は、マルチチャネル処理の結果得られるチャネルをチャネルエンコーダ104に提供してもよい。例えば、図7を参照すると、反復処理部102は、第2の反復ステップで実行されたマルチチャネル処理の結果である第3の処理されたチャネルP3及び第4の処理されたチャネルP4、ならびに第1の反復ステップで実行されたマルチチャネル処理の結果である第2の処理されたチャネルP2をチャネルエンコーダ104に提供してもよい。それにより、反復処理部102は、後続の反復ステップにおいて(更に)処理されないこれらの処理されたチャネルのみをチャネルエンコーダ104に提供することができる。図7に示すように、第1の処理されたチャネルP1は、第2の反復ステップで更に処理されるため、チャネルエンコーダ104には提供されない。
チャネルエンコーダ104は、反復処理部102によって実行される反復処理(又はマルチチャネル処理)の結果であるチャネルP2〜P4を符号化して、符号化されたチャネルE1〜E3を得るように構成することができる。
例えば、チャネルエンコーダ104は、反復処理(又はマルチチャネル処理)の結果であるチャネルP2〜P4を符号化するためのモノエンコーダ(あるいはモノボックス又はモノツール)120_1〜120_3を使用するように構成することができる。モノボックスは、より多くのエネルギー(又はより高い振幅)を有するチャネルを符号化するよりも少ないエネルギー(又は小さい振幅)を有するチャネルを符号化するためにより少ないビットが必要となるように、チャネルを符号化するように構成されてもよい。モノボックス120_1〜120_3は、例えば、変換ベースのオーディオエンコーダであり得る。更に、チャネルエンコーダ104は、反復処理(又はマルチチャネル処理)から生じるチャネルP2〜P4を符号化するためのステレオエンコーダ(例えば、パラメトリックステレオエンコーダ又はロッシー・ステレオ・エンコーダ)を使用するように構成することができる。
出力インタフェース106は、符号化されたチャネルE1〜E3とマルチチャネルパラメータMCH_PAR1及びMCH_PAR2とを有する符号化されたマルチチャネル信号107を生成するように構成することができる。
例えば、出力インタフェース106は、符号化されたマルチチャネル信号107をシリアル信号又はシリアルビットストリームとして生成し、マルチチャネルパラメータMCH_PAR2がマルチチャネルパラメータMCH_PAR1の前に符号化信号107にあるように構成することができる。従って、図10に関して後で説明する実施形態のデコーダは、マルチチャネルパラメータMCH−PAR1の前にマルチチャネルパラメータMCH_PAR2を受信する。
図7において、反復処理部102は、例示的に2つのマルチチャネル処理動作、即ち第1の反復ステップにおけるマルチチャネル処理動作、及び第2の反復ステップにおけるマルチチャネル処理動作を実行する。無論、反復処理部102は、後続の反復ステップにおいて更なるマルチチャネル処理動作を実行することもできる。これにより、反復処理部102は、反復終了基準に達するまで反復ステップを実行するように構成することができる。反復終了基準は、最大反復ステップの数が、マルチチャネル信号101のチャネルの総数に等しいか2つ以上大きいことであり得るか、あるいは反復終了基準は、チャネル間相関値が閾値より大きな値を有さない場合であり、閾値は好ましくは0.2より大きく、又は閾値は好ましくは0.3である。更なる実施形態では、反復終了基準は、最大反復ステップの数がマルチチャネル信号101のチャネルの総数以上であるか、又は反復終了基準は、チャネル間相関値が閾値よりも大きな値を有さない場合であり、閾値は好ましくは0.2より大きく、又は閾値は好ましくは0.3である。
例示目的のために、第1の反復ステップ及び第2の反復ステップにおける反復処理部102によって実行されるマルチチャネル処理動作は、処理ボックス110及び112によって図7に例示的に示される。処理ボックス110及び112は、ハードウェア又はソフトウェアで実施することができる。処理ボックス110及び112は、例えば、ステレオボックスとすることができる。
これにより、既知の結合ステレオ符号化ツールを階層的に適用することにより、チャネル間信号依存性を利用することができる。以前のMPEG手法とは対照的に、処理される信号ペアは、固定された信号経路(例えば、ステレオ符号化ツリー)によって事前に決定されるのではなく、入力信号特性に適応するように動的に変更することができる。実際のステレオボックスの入力は、(1)チャネルCH1〜CH3のような未処理のチャネル、(2)処理された信号P1〜P4などの先行するステレオボックスの出力、又は(3)未処理のチャネルと、先行するステレオボックスの出力との合成チャネルであり得る。
ステレオボックス110及び112内の処理は、予測ベース(USACにおける複素予測ボックスのような)又はKLT/PCAベースのいずれかであり得る(入力チャネルはエンコーダにおいて回転し(例えば、2×2回転行列を介して)、エネルギー圧縮を最大にする、即ち、信号エネルギーを1つのチャネルに集中させ、デコーダにおいて、回転された信号は、元の入力信号方向に再変換される)。
エンコーダ100の可能な実施形態では、(1)エンコーダは、各チャネルペア間のチャネル間相関を計算し、入力信号から1つの適切な信号ペアを選択し、ステレオツールを選択されたチャネルに適用し、(2)エンコーダは、全てのチャネル(未処理されたチャネル及び処理された中間出力チャネル)間のチャネル間相関を再計算し、入力信号から1つの適切な信号ペアを選択し、ステレオツールを選択されたチャネルに適用し、(3)エンコーダは、全てのチャネル間相関が閾値を下回るまで、又は最大数の変換が適用される場合に、ステップ(2)を繰り返す。
既に述べたように、エンコーダ100、又はより正確には反復処理部102によって処理される信号ペアは、固定された信号経路(例えば、ステレオ符号化ツリー)によって事前に決定されるのではなく、入力信号特性に適応するように動的に変更することができる。それにより、エンコーダ100(又は反復処理部102)は、マルチチャネル(入力)信号101の少なくとも3つのチャネルCH1〜CH3に依存してステレオツリーを構成するように構成することができる。言い換えれば、エンコーダ100(又は反復処理部102)は、チャネル間相関に基づいてステレオツリーを構築するように構成することができる(例えば、第1の反復ステップにおいて、最も高い値又は閾値を上回る値を有するペアを選択するために、第1の反復ステップにおいて、少なくとも3つのチャネルCH1〜CH3の各ペア間のチャネル間相関値を計算することによって、更に第2の反復ステップにおいて、最も高い値又は閾値を上回る値を有するペアを選択するために、第2の反復ステップにおいて、少なくとも3つのチャネルの各ペアと以前に処理されたチャネルとの間のチャネル間相関値を計算することによって)。1ステップ手法によれば、場合によっては処理された可能性のある以前の反復において、全てのチャネルの相関を含む各反復について、相関行列を計算してもよい。
上述のように、反復処理部102は、第1の反復ステップにおいて選択されたペアのためのマルチチャネルパラメータMCH_PAR1を導出し、第2の反復ステップにおいて選択されたペアのためのマルチチャネルパラメータMCH_PAR2を導出するように構成することができる。マルチチャネルパラメータMCH_PAR1は、第1の反復ステップで選択されたチャネルペアを識別する(又は信号伝達する)第1のチャネルペア識別(又はインデックス)を含むことができ、マルチチャネルパラメータMCH_PAR2は、第2の反復ステップで選択されたチャネルペアを識別する(又は信号伝達する)第2のチャネルペア識別(又はインデックス)を含むことができる。
以下で、入力信号の効率的な索引付けについて説明する。例えば、チャネルペアは、チャネルの総数に依存して、各ペアに対して固有のインデックスを使用して効率的に信号送信することができる。例えば、6つのチャネルのペアの索引付けは、次の表のようになり得る。
例えば、上記の表において、インデックス5は、第1のチャネル及び第2のチャネルからなるペアを信号伝達することができる。同様に、インデックス6は、第1のチャネル及び第3のチャネルからなるペアを信号伝達することができる。
n個のチャネルに対する可能なチャネルペアインデックスの総数は、以下のように計算することができる。
numPairs=numChannels*(numChannels−1)/2
従って、1つのチャネルペアを信号伝達するのに必要なビット数は、
numBits=floor(log(numPairs−1))+1
また、エンコーダ100は、チャネルマスクを用いてもよい。マルチチャネルツールの構成には、ツールがアクティブなチャネルを示すチャネルマスクが含まれている場合がある。従って、LFE(LFE=低周波音効果/増強チャネル)をチャネルペアインデックスから削除することができ、より効率的な符号化が可能になる。例えば、11.1セットアップの場合、これはチャネルペアインデックスの数を12×11/2=66から11×10/2=55へ減らし、7ビットの代わりに6ビットでの信号伝達を可能にする。この機構は、モノオブジェクト(例えば複数の言語トラック)を意図したチャネルを除外するためにも使用できる。チャネルマスク(channelMask)の復号化では、チャネルマップ(channelMap)を生成して、チャネルペアインデックスのデコーダチャネルへの再マッピングを可能にすることができる。
更に、反復処理部102は、第1のフレームについて、複数の選択されたペア表示を導出するように構成することができ、出力インタフェース106は、マルチチャネル信号107中に、第1のフレームに続く第2のフレームについて、第2のフレームが第1のフレームと同じ複数の選択されたペア表示を有することを示す、保持インジケータを含むように構成することができる。
保持インジケータ又は保持ツリーフラグは、新しいツリーは送信されないが、最後のステレオツリーが使用されるべきであることを信号伝達するために使用できる。これは、チャネル相関特性がより長い時間静止している場合、同じステレオツリー構成の複数の送信を避けるために使用できる。
図8は、ステレオボックス110及び112の概略ブロック図を示す。ステレオボックス110及び112は、第1の入力信号I1及び第2の入力信号I2の入力と、第1の出力信号O1及び第2の出力信号O2の出力とを備える。図8に示すように、入力信号I1及びI2からの出力信号O1及びO2の依存性は、sパラメータS1〜S4によって記述することができる。
反復処理部102は、(更に)処理されたチャネルを導出するために、入力チャネル及び/又は処理されたチャネルに対してマルチチャネル処理動作を実行するために、ステレオボックス110及び112を使用する(又は含む)ことができる。例えば、反復処理部102は、一般的な予測ベース又はKLT(Karhunen−Loeve−変換)ベースの回転ステレオボックス110及び112を使用するように構成することができる。
汎用エンコーダ(又はエンコーダ側ステレオボックス)は、次の式に基づいて出力信号O1及びO2を得るために、入力信号I1及びI2を符号化するように構成することができる。
汎用デコーダ(又はデコーダ側ステレオボックス)は、次の式に基づいて出力信号O1及びO2を得るために、入力信号I1及びI2を復号するように構成することができる。
予測ベースのエンコーダ(又はエンコーダ側ステレオボックス)は、次の式に基づいて出力信号O1及びO2を得るために、入力信号I1及びI2を符号化するように構成することができる。
ここでpは予測係数である。
予測ベースのデコーダ(又はデコーダ側ステレオボックス)は、次の式に基づいて出力信号O1及びO2を得るために、入力信号I1及びI2を復号するように構成することができる。
KLTベースの回転エンコーダ(又はエンコーダ側ステレオボックス)は、次の式に基づいて出力信号O1及びO2を得るために、入力信号I1及びI2を符号化するように構成することができる。
KLTベースの回転デコーダ(又はデコーダ側ステレオボックス)は、次の式に基づいて出力信号O1及びO2を得るために、入力信号I1及びI2を復号するように構成することができる(逆回転)。
以下では、KLTに基づく回転のための回転角αの計算について説明する。
KLTベースの回転の回転角度αは、次のように定義でき、
xyは正規化されていない相関行列のエントリであり、ここで、C11及びC22はチャネルエネルギーである。
これは、atan2関数を使用して、分子の負の相関と分母の負のエネルギー差との間の微分を可能にするために実施できる。
α=0.5*atan2(2*correlation[ch1][ch2]、
(correlation[ch1][ch1]−correlation[ch2][ch2]))
更に、反復処理部102は、複数の帯域を含む各チャネルのフレームを使用してチャネル間相関を計算し、複数の帯域に対する単一のチャネル間相関値が得られるように構成することができ、反復処理部102は、複数の帯域の各々についてマルチチャネル処理を実行し、複数の帯域の各々からマルチチャネルパラメータが得られるように構成できる。
これにより、反復処理部102は、マルチチャネル処理においてステレオパラメータを算出するように構成することができ、反復処理部102は、帯域においてステレオ処理のみを実行するように構成することができ、ステレオパラメータは、ステレオ量子化器(例えば、KLTベースの回転エンコーダ)によって定義されるゼロ量子化閾値よりも高い。ステレオパラメータは、例えば、MSオン/オフ又は回転角度又は予測係数であり得る。
例えば、反復処理部102は、マルチチャネル処理において回転角度を算出するように構成することができ、反復処理部102は、帯域において回転処理のみを実行するように構成することができ、回転角度は、回転角度量子化器(例えば、KLTベースの回転エンコーダ)によって定義されるゼロ量子化閾値よりも高い。
従って、エンコーダ100(又は出力インタフェース106)は、いずれか完全なスペクトル(フルバンドボックス)についての1つのパラメータ又はスペクトルの一部についての複数の周波数依存パラメータとして、変換/回転情報を送信するように構成することができる。
エンコーダ100は、以下の表に基づいてビットストリーム107を生成するように構成することができる。
図9は、一実施形態による、反復処理部102の概略ブロック図を示す。図9に示す実施形態では、マルチチャネル信号101は、左チャネルL、右チャネルR、左サラウンドチャネルLs、右サラウンドチャネルRs、中央チャネルC、及び低周波音効果チャネルLFEの6つのチャネルを有する5.1チャネル信号である。
図9に示すように、LFEチャネルは反復処理部102によって処理されない。これは、LFEチャネルと他の5つのチャネルL、R、Ls、Rs及びCの各々との間のチャネル間相関値が小さいか、又は以下に仮定されるチャネルマスクがLFEチャネルを処理しないことを示すことによる場合であってもよい。
第1の反復ステップにおいて、反復処理部102は、第1の反復ステップにおいて、最大値を有する又は閾値を上回る値を有するペアを選択するために、5つのチャネルL、R、Ls、Rs及びCの各ペア間のチャネル間相関値を計算する。図9において、左チャネルL及び右チャネルRが最大値を有すると仮定し、反復処理部102は、第1の及び第2の処理されたチャネルP1、P2を導出するためにマルチチャネル動作を実行するステレオボックス(又はステレオツール)110を使用して左チャネルL及び右チャネルRを処理する。
第2の反復ステップにおいて、反復処理部102は、第2の反復ステップにおいて、最大値を有する又は閾値を上回る値を有するペアを選択するために、5つのチャネルL、R、Ls、Rs、C及び処理されたチャネルP1及びP2の各ペア間のチャネル間相関値を計算する。図9において、左サラウンドチャネルLs及び右サラウンドチャネルRsが最大値を有すると仮定し、反復処理部102は、第3の及び第4の処理されたチャネルP3、P4を導出するために、ステレオボックス(又はステレオツール)112を使用して左サラウンドチャネルLs及び右サラウンドチャネルRsを処理する。
第3の反復ステップにおいて、反復処理部102は、第3の反復ステップにおいて、最大値を有する又は閾値を上回る値を有するペアを選択するために、5つのチャネルL、R、Ls、Rs、C及び処理されたチャネルP1〜P4の各ペア間のチャネル間相関値を計算する。図9において、第1の処理されたチャネルP1及び第3の処理されたチャネルP3が最大値を有すると仮定し、反復処理部102は、第5の及び第6の処理されたチャネルP5、P6を導出するために、ステレオボックス(又はステレオツール)114を使用して第1の処理されたチャネルP1及び第3の処理されたチャネルP3を処理する。
第4の反復ステップにおいて、反復処理部102は、第4の反復ステップにおいて、最大値を有する又は閾値を上回る値を有するペアを選択するために、5つのチャネルL、R、Ls、Rs、C及び処理されたチャネルP1〜P6の各ペア間のチャネル間相関値を計算する。図9において、第5の処理されたチャネルP5及び中央チャネルCが最大値を有すると仮定し、反復処理部102は、第7の及び第8の処理されたチャネルP7、P8を導出するために、ステレオボックス(又はステレオツール)115を使用して第5の処理されたチャネルP5及び中央チャネルCを処理する。
ステレオボックス110〜116は、MSステレオボックス、即ちミッドチャネル及びサイドチャネルを提供するように構成されたミッド/サイド立体音響ボックスであってもよい。ミッドチャネルは、ステレオボックスの入力チャネルの合計とすることができ、サイドチャネルは、ステレオボックスの入力チャネル間の差であり得る。更に、ステレオボックス110及び116は、回転ボックス又はステレオ予測ボックスであってもよい。
図9において、第1の処理されたチャネルP1、第3の処理されたチャネルP3及び第5の処理されたチャネルP5は、ミッドチャネルであってもよく、第2の処理されたチャネルP2、第4の処理されたチャネルP4及び第6の処理されたチャネルP6は、サイドチャネルであってもよい。
更に、図9に示すように、反復処理部102は、第2の反復ステップにおいて、適用可能である場合、更なる反復ステップにおいて、入力チャネルL、R、Ls、Rs、C及び処理されたチャネルのミッドチャネルP1、P3及びP5(のみ)を使用して、計算し、選択し、かつ処理するように構成することができる。言い換えれば、反復処理部102は、第2の反復ステップにおいて、適用可能である場合、更なる反復ステップにおいて、計算し、選択し、かつ処理する際、処理されたチャネルのサイドチャネルP1、P3及びP5を使用しないように構成することができる。
図11は、少なくとも3つのチャネルを有するマルチチャネル信号を符号化する方法300のフローチャートを示す。方法300は、第1の反復ステップにおいて、最高値を有するペア又は閾値より上の値を有するペアを選択し、かつマルチチャネル処理動作を用いて選択されたペアを処理して選択されたペア用のマルチチャネルパラメータMCH_PAR1を導出し、かつ第1の処理されたチャネルを導出するために、第1の反復ステップにおいて、少なくとも3つのチャネルの各ペアの間のチャネル間相関値を計算するステップ302と、処理されたチャネルの少なくとも1つを使用して、第2の反復ステップで計算、選択及び処理を実行して、マルチチャネルパラメータMCH_PAR2及び第2の処理されたチャネルを導出するステップ304と、符号化されたチャネルを得るために、反復処理部によって実行される反復処理から生じるチャネルを符号化するステップ306と、符号化されたチャネルならびに第1及びマルチチャネルパラメータMCH_PAR2を有する符号化されたマルチチャネル信号を生成するステップ308とを含む。
以下では、マルチチャネル復号化について説明する。
図10は、符号化されたチャネルE1〜E3と、少なくとも2つのマルチチャネルパラメータMCH_PAR1及びMCH_PAR2とを有する符号化されたマルチチャネル信号107を復号する装置(デコーダ)200の概略ブロック図を示す。
装置200は、チャネルデコーダ202及びマルチチャネル処理部204を備える。
チャネルデコーダ202は、符号化されたチャネルE1〜E3を復号して、D1〜D3の復号されたチャネルを得るように構成される。
例えば、チャネルデコーダ202は、少なくとも3つのモノデコーダ(又はモノボックス又はモノツール)206_1〜206_3を備えることができ、モノデコーダ206_1〜206_3の各々は、少なくとも3つの符号化されたチャネルE1〜E3の1つを復号し、それぞれの復号されたチャネルE1〜E3を得るように構成できる。モノデコーダ206_1〜206_3は、例えば、変換ベースのオーディオデコーダであってもよい。
マルチチャネル処理部204は、マルチチャネルパラメータMCH_PAR2によって識別される復号されたチャネルの第2のペアを使用して、かつマルチチャネルパラメータMCH_PAR2を使用して、マルチチャネル処理を実行して、処理されたチャネルを取得し、また、マルチチャネルパラメータMCH_PAR1によって識別されるチャネルの第1のペアを使用して、かつマルチチャネルパラメータMCH_PAR1を使用して、更なるマルチチャネル処理を実行し、チャネルの第1のペアは少なくとも1つの処理されたチャネルを含む、ように構成される。
図10に一例として示すように、マルチチャネルパラメータMCH_PAR2は、第2の復号されたチャネルペアが、第1の復号されたチャネルD1及び第2の復号されたチャネルD2からなることを示す(又は信号伝達する)ことができる。従って、マルチチャネル処理部204は、第1の復号されたチャネルD1及び第2の復号されたチャネルD2(マルチチャネルパラメータMCH_PAR2によって識別される)からなる第2の復号されたチャネルペアを使用し、かつマルチチャネルパラメータMCH_PAR2を使用して、マルチチャネル処理を実行し、処理されたチャネルP1*及びP2*を得る。マルチチャネルパラメータMCH_PAR1は、第1の復号されたチャネルペアが第1の処理されたチャネルP1*及び第3の復号されたチャネルD3からなることを示すことができる。従って、マルチチャネル処理部204は、第1の処理されたチャネルP1*及び第3の復号されたチャネルD3(マルチチャネルパラメータMCH_PAR1によって識別される)からなる第1の復号されたチャネルペアを使用し、かつマルチチャネルパラメータMCH_PAR1を使用して、更なるマルチチャネル処理を実行し、処理されたチャネルP3*及びP4*を得る。
更に、マルチチャネル処理部204は、第1のチャネルCH1として第3の処理されたチャネルP3*を、第3のチャネルCH3として第4の処理されたチャネルP4*を、第2のチャネルCH2として第2の処理されたチャネルP2*を提供することができる。
図10に示すデコーダ200が、図7に示すエンコーダ100から符号化されたマルチチャネル信号107を受信すると仮定すると、デコーダ200の第1の復号されたチャネルD1は、エンコーダ100の第3の処理されたチャネルP3と同等であってもよく、デコーダ200の第2の復号されたチャネルD2は、エンコーダ100の第4の処理されたチャネルP4と同等であってもよく、デコーダ200の第3の復号されたチャネルD3は、エンコーダ100の第2の処理されたチャネルP2と同等であってもよい。更に、デコーダ200の第1の処理されたチャネルP1*は、エンコーダ100の第1の処理されたチャネルP1と同等であってもよい。
更に、符号化されたマルチチャネル信号107はシリアル信号であってもよく、マルチチャネルパラメータMCH_PAR2はデコーダ200においてマルチチャネルパラメータMCH_PAR1よりも前に受信される。その場合、マルチチャネル処理部204は、マルチチャネルパラメータMCH_PAR1及びMCH_PAR2がデコーダによって受信される順序で、復号されたチャネルを処理するように構成することができる。図10に示す例では、デコーダは、マルチチャネルパラメータMCH_PAR1の前にマルチチャネルパラメータMCH_PAR2を受信し、これにより、マルチチャネルパラメータMCH_PAR1によって識別される第1の復号されたチャネルペア(第1の処理されたチャネルP1*及び第3の復号されたチャネルD3からなる)を使用してマルチチャネル処理を実行する前に、マルチチャネルパラメータMCH_PAR2によって識別される第2の復号されたチャネルペア(第1及び第2の復号されたチャネルD1及びD2からなる)を使用してマルチチャネル処理を実行する。
図10において、マルチチャネル処理部204は、例示的に、2つのマルチチャネル処理動作を実行する。説明のために、マルチチャネル処理部204によって実行されるマルチチャネル処理動作は、処理ボックス208及び210によって図10に示されている。処理ボックス208及び210は、ハードウェア又はソフトウェアにおいて実施することができる。処理ボックス208及び210は、例えば、エンコーダ100を参照して上述したように、汎用デコーダ(又はデコーダ側のステレオボックス)、予測ベースのデコーダ(又はデコーダ側のステレオボックス)又はKLTベースの回転デコーダ(又はデコーダ側のステレオボックス)などのステレオボックスであり得る。
例えば、エンコーダ100は、KLTベースの回転エンコーダ(又はエンコーダ側のステレオボックス)を使用することができる。その場合、エンコーダ100は、マルチチャネルパラメータMCH_PAR1及びMCH_PAR2が回転角を含むように、マルチチャネルパラメータMCH_PAR1及びMCH_PAR2を導出することができる。回転角度は、差動符号化することができる。従って、デコーダ200のマルチチャネル処理部204は、差動符号化された回転角を差動復号するための差動デコーダを備えることができる。
装置200は、符号化されたマルチチャネル信号107を受信して処理し、符号化されたチャネルE1〜E3をチャネルデコーダ202に提供し、マルチチャネルパラメータMCH_PAR1及びMCH_PAR2をマルチチャネル処理部204に提供するように構成された入力インタフェース212を更に備えることができる。
既に述べたように、保持インジケータ(又は保持ツリーフラグ)は、新しいツリーは送信されないが、最後のステレオツリーが使用されるべきであることを信号伝達するために使用してもよい。これは、チャネル相関特性がより長い時間静止している場合、同じステレオツリー構成の複数の送信を避けるために使用できる。
従って、符号化されたマルチチャネル信号107が、第1のフレームに対してマルチチャネルパラメータMCH_PAR1及びMCH_PAR2を含み、第1のフレームに続く第2のフレームに対して保持インジケータを含む場合、マルチチャネル処理部204は、第2のフレームにおいてマルチチャネル処理又は更なるマルチチャネル処理を、第1のフレームで使用されたものと同じ第2のチャネルペア又は同じ第1のチャネルペアに対して実行するように構成できる。
マルチチャネル処理及び更なるマルチチャネル処理は、ステレオパラメータを使用するステレオ処理を含むことができ、復号されたチャネルD1〜D3の個々のスケールファクタ帯域又はスケールファクタ帯域のグループに対して、第1のステレオパラメータがマルチチャネルパラメータMCH_PAR1に含まれ、第2のステレオパラメータがマルチチャネルパラメータMCH_PAR2に含まれる。それにより、第1のステレオパラメータと第2のステレオパラメータとは、回転角度又は予測係数などが同じタイプであり得る。無論、第1のステレオパラメータと第2のステレオパラメータとは、異なるタイプであってもよい。例えば、第1のステレオパラメータは回転角であってもよく、第2のステレオパラメータは予測係数であってもよく、その逆も成り立つ。
更に、マルチチャネルパラメータMCH_PAR1及びMCH_PAR2は、どのスケールファクタ帯域がマルチチャネル処理され、どのスケールファクタ帯域がマルチチャネル処理されないかを示すマルチチャネル処理マスクを備えることができる。これにより、マルチチャネル処理部204は、マルチチャネル処理マスクによって示されるスケールファクタ帯域において、マルチチャネル処理を実行しないように構成することができる。
マルチチャネルパラメータMCH_PAR1及びMCH_PAR2は、それぞれ、チャネルペア識別(又はインデックス)を含むことができ、マルチチャネル処理部204は、所定の復号化規則又は符号化されたマルチチャネル信号に示された復号化規則を使用してチャネルペア識別(又はインデックス)を復号するように構成できる。
例えば、チャネルペアは、エンコーダ100を参照して上述したように、チャネルの総数に応じて、各ペアに対してユニークなインデックスを使用して効率的に信号伝達することができる。
更に、復号化規則は、マルチチャネル処理部204がチャネルペア識別のハフマン復号化を実行するように構成することができるハフマン復号化規則とすることができる。
符号化されたマルチチャネル信号107は、マルチチャネル処理が許可される復号されたチャネルのサブグループのみを示し、マルチチャネル処理が許可されない少なくとも1つの復号されたチャネルを示す、マルチチャネル処理許可インジケータを更に含むことができる。これにより、マルチチャネル処理部204は、マルチチャネル処理許可インジケータによって示されるように、マルチチャネル処理が許可されない少なくとも1つの復号されたチャネルに対して、いずれのマルチチャネル処理も行わないように構成することができる。
例えば、マルチチャネル信号が5.1チャネル信号である場合、マルチチャネル処理許可インジケータは、マルチチャネル処理が5つのチャネル、即ち、右R、左L、右サラウンドRs、左サラウンドLS、及び中央Cにのみ許可され、マルチチャネル処理は、LFEチャネルに対しては許可されないことを示してもよい。
復号化プロセス(チャネルペアインデックスの復号化)のために、以下のCコードを使用することができる。これにより、全てのチャネルペアについて、アクティブなKLT処理(nチャネル)を使用するチャネルの数と、現フレームのチャネルペア(numPairs)の数が必要とされる。
maxNumPairIdx = nChannels*(nChannels-1)/2 - 1;
numBits = floor(log2(maxNumPairIdx)+1;
pairCounter = 0;

for (chan1=1; chan1 < nChannels; chan1++) {
for (chan0=0; chan0 < chan1; chan0++) {
if (pairCounter == pairIdx) {
channelPair[0] = chan0;
channelPair[1] = chan1;
return;
}
else
pairCounter++;
}
}
}
非帯域角度のための予測係数を復号するために、以下のCコードを使用することができる。
for(pair=0; pair<numPairs; pair++) {
mctBandsPerWindow = numMaskBands[pair]/windowsPerFrame;

if(delta_code_time[pair] > 0) {
lastVal = alpha_prev_fullband[pair];
} else {
lastVal = DEFAULT_ALPHA;
}

newAlpha = lastVal + dpcm_alpha[pair][0];
if(newAlpha >= 64) {
newAlpha -= 64;
}

for (band=0; band < numMaskBands; band++){
/* set all angles to fullband angle */
pairAlpha[pair][band] = newAlpha;

/* set previous angles according to mctMask */
if(mctMask[pair][band] > 0) {
alpha_prev_frame[pair][band%mctBandsPerWindow] = newAlpha;
}
else {
alpha_prev_frame[pair][band%mctBandsPerWindow] = DEFAULT_ALPHA;
}
}
alpha_prev_fullband[pair] = newAlpha;
for(band=bandsPerWindow ; band<MAX_NUM_MC_BANDS; band++) {
alpha_prev_frame[pair][band] = DEFAULT_ALPHA;
}
}
非帯域KLT角度のための予測係数を復号するために、以下のCコードを使用することができる。

for(pair=0; pair<numPairs; pair++) {
mctBandsPerWindow = numMaskBands[pair]/windowsPerFrame;
for(band=0; band<numMaskBands[pair]; band++) {
if(delta_code_time[pair] > 0) {
lastVal = alpha_prev_frame[pair][band%mctBandsPerWindow];
}
else {
if ((band % mctBandsPerWindow) == 0) {
lastVal = DEFAULT_ALPHA;
}
}
if (msMask[pair][band] > 0 ) {

newAlpha = lastVal + dpcm_alpha[pair][band];
if(newAlpha >= 64) {
newAlpha -= 64;
}
pairAlpha[pair][band] = newAlpha;
alpha_prev_frame[pair][band%mctBandsPerWindow] = newAlpha;
lastVal = newAlpha;
}
else {
alpha_prev_frame[pair][band%mctBandsPerWindow] = DEFAULT_ALPHA; /* -45° */
}

/* reset fullband angle */
alpha_prev_fullband[pair] = DEFAULT_ALPHA;
}
for(band=bandsPerWindow ; band<MAX_NUM_MC_BANDS; band++) {
alpha_prev_frame[pair][band] = DEFAULT_ALPHA;
}
}
異なるプラットフォームで三角関数の浮動小数点の違いを避けるために、角度インデックスを直接sin/cosに変換するための以下のルックアップテーブルを使用する。
tabIndexToSinAlpha[64] = {
-1.000000f,-0.998795f,-0.995185f,-0.989177f,-0.980785f,-0.970031f,-0.956940f,-0.941544f,
-0.923880f,-0.903989f,-0.881921f,-0.857729f,-0.831470f,-0.803208f,-0.773010f,-0.740951f,
-0.707107f,-0.671559f,-0.634393f,-0.595699f,-0.555570f,-0.514103f,-0.471397f,-0.427555f,
-0.382683f,-0.336890f,-0.290285f,-0.242980f,-0.195090f,-0.146730f,-0.098017f,-0.049068f,
0.000000f, 0.049068f, 0.098017f, 0.146730f, 0.195090f, 0.242980f, 0.290285f, 0.336890f,
0.382683f, 0.427555f, 0.471397f, 0.514103f, 0.555570f, 0.595699f, 0.634393f, 0.671559f,
0.707107f, 0.740951f, 0.773010f, 0.803208f, 0.831470f, 0.857729f, 0.881921f, 0.903989f,
0.923880f, 0.941544f, 0.956940f, 0.970031f, 0.980785f, 0.989177f, 0.995185f, 0.998795f
};
tabIndexToCosAlpha[64] = {
0.000000f, 0.049068f, 0.098017f, 0.146730f, 0.195090f, 0.242980f, 0.290285f, 0.336890f,
0.382683f, 0.427555f, 0.471397f, 0.514103f, 0.555570f, 0.595699f, 0.634393f, 0.671559f,
0.707107f, 0.740951f, 0.773010f, 0.803208f, 0.831470f, 0.857729f, 0.881921f, 0.903989f,
0.923880f, 0.941544f, 0.956940f, 0.970031f, 0.980785f, 0.989177f, 0.995185f, 0.998795f,
1.000000f, 0.998795f, 0.995185f, 0.989177f, 0.980785f, 0.970031f, 0.956940f, 0.941544f,
0.923880f, 0.903989f, 0.881921f, 0.857729f, 0.831470f, 0.803208f, 0.773010f, 0.740951f,
0.707107f, 0.671559f, 0.634393f, 0.595699f, 0.555570f, 0.514103f, 0.471397f, 0.427555f,
0.382683f, 0.336890f, 0.290285f, 0.242980f, 0.195090f, 0.146730f, 0.098017f, 0.049068f
};
マルチチャネル符号化の復号のために、以下のCコードをKLT回転に基づく手法に使用することができる。
decode_mct_rotation()
{
for (pair=0; pair < self->numPairs; pair++) {

mctBandOffset = 0;

/* inverse MCT rotation */
for (win = 0, group = 0; group <num_window_groups; group++) {

for (groupwin = 0; groupwin < window_group_length[group]; groupwin++, win++) {
*dmx = spectral_data[ch1][win];
*res = spectral_data[ch2][win];
apply_mct_rotation_wrapper(self,dmx,res,&alphaSfb[mctBandOffset],
&mctMask[mctBandOffset],mctBandsPerWindow, alpha,
totalSfb,pair,nSamples);
}

mctBandOffset += mctBandsPerWindow;
}
}
}
帯域処理の場合、次のCコードを使用できる。
apply_mct_rotation_wrapper(self, *dmx, *res, *alphaSfb, *mctMask, mctBandsPerWindow,
alpha, totalSfb, pair, nSamples)
{
sfb = 0;

if (self->MCCSignalingType == 0) {
}
else if (self->MCCSignalingType == 1) {

/* apply fullband box */
if (!self->bHasBandwiseAngles[pair] && !self->bHasMctMask[pair]) {
apply_mct_rotation(dmx, res, alphaSfb[0], nSamples);
}
else {
/* apply bandwise processing */
for (i = 0; i< mctBandsPerWindow; i++) {
if (mctMask[i] == 1) {
startLine = swb_offset [sfb];
stopLine = (sfb+2<totalSfb)? swb_offset [sfb+2] :swb_offset [sfb+1];
nSamples = stopLine-startLine;

apply_mct_rotation(&dmx[startLine], &res[startLine], alphaSfb[i], nSamples);
}
sfb += 2;

/* break condition */
if (sfb >= totalSfb) {
break;
}
}
}
}
else if (self->MCCSignalingType == 2) {
}
else if (self->MCCSignalingType == 3) {
apply_mct_rotation(dmx, res, alpha, nSamples);
}
}
KLT回転を適用するには、以下のCコードを使用できる。
apply_mct_rotation(*dmx, *res, alpha, nSamples)
{
for (n=0;n<nSamples;n++) {

L = dmx[n] * tabIndexToCosAlpha [alphaIdx] - res[n] * tabIndexToSinAlpha [alphaIdx];
R = dmx[n] * tabIndexToSinAlpha [alphaIdx] + res[n] * tabIndexToCosAlpha [alphaIdx];

dmx[n] = L;
res[n] = R;
}
}
図12は、符号化されたチャネルと、少なくとも2つのマルチチャネルパラメータMCH_PAR1及びMCH_PAR2とを有する符号化されたマルチチャネル信号を復号する方法400のフローチャートを示す。方法400は、復号されたチャネルを得るために符号化されたチャネルを復号するステップ402と、マルチチャネルパラメータMCH_PAR2によって識別される復号されたチャネルの第2のペアを使用して、かつマルチチャネルパラメータMCH_PAR2を使用して、マルチチャネル処理を実行して、処理されたチャネルを取得し、また、マルチチャネルパラメータMCH_PAR1によって識別されるチャネルの第1のペアを使用して、かつマルチチャネルパラメータMCH_PAR1を使用して、更なるマルチチャネル処理を実行し、チャネルの第1のペアは少なくとも1つの処理されたチャネルを含むステップ404と、を備える。
以下では、実施形態によるマルチチャネル符号化におけるステレオ充填について説明する。
既に概説したように、スペクトル量子化の望ましくない効果は、量子化がスペクトルホールを生じる可能性があることである。例えば、特定の周波数帯域内の全てのスペクトル値は、量子化の結果としてエンコーダ側でゼロに設定されてもよい。例えば、量子化前のそのようなスペクトル線の正確な値は比較的低い可能性があり、量子化は、例えば特定の周波数帯域内の全てのスペクトル線のスペクトル値がゼロに設定されている状況をもたらす可能性がある。デコーダ側では、復号化時に、これにより望ましくないスペクトルホールが生じる可能性がある。
MPEG−Hにおけるマルチチャネル符号化ツール(MCT)は、変化するチャネル間依存性への適応を可能にするが、通常の動作構成でシングルチャネル要素を使用するため、ステレオ充填が不可能である。
図14から分かるように、マルチチャネル符号化ツールは、階層的に符号化された3つ以上のチャネルを結合する。しかしながら、符号化時に、マルチチャネル符号化ツール(MCT)が異なるチャネルを組み合わせる方法は、チャネルの現在の信号特性に応じて、フレームごとに変化する。
例えば、図14のシナリオ(a)において、マルチチャネル符号化ツール(MCT)は、第1の符号化オーディオ信号フレームを生成するために、第1のチャネルCh1と第2のチャネルCH2を結合して、第1の合成チャネル(処理されたチャネル)P1及び第2の合成チャネルP2とを得てもよい。次に、マルチチャネル符号化ツール(MCT)は、第1の合成チャネルP1と第3のチャネルCH3とを組み合わせて、第3の合成チャネルP3及び第4の合成チャネルP4を得ることができる。次いで、マルチチャネル符号化ツール(MCT)は、第2の合成チャネルP2、第3の合成チャネルP3、及び第4の合成チャネルP4を符号化して、第1のフレームを生成することができる。
次に、例えば、図14のシナリオ(b)において、第1の符号化されたオーディオ信号フレームに続く(時間的に)第2の符号化されたオーディオ信号フレームを生成するために、マルチチャネル符号化ツール(MCT)は、第1のチャネルCH1’と第3のチャネルCH3’を結合し、第1の合成チャネルP1’と第2の合成チャネルP2’を得てもよい。次に、マルチチャネル符号化ツール(MCT)は、第1の合成チャネルP1’と第2のチャネルCH2’とを組み合わせて、第3の合成チャネルP3’及び第4の合成チャネルP4’を得ることができる。次いで、マルチチャネル符号化ツール(MCT)は、第2の合成チャネルP2’、第3の合成チャネルP3’、及び第4の合成チャネルP4’を符号化して、第2のフレームを生成することができる。
図14から分かるように、図14(a)のシナリオにおいて第1のフレームの第2、第3及び第4の合成チャネルが生成された方法は、第2のフレームの第2、第3及び第4の合成チャネルがそれぞれ図14(b)のシナリオで生成された方法と大きく異なり、チャネルの異なる組み合わせがそれぞれの合成チャネルP2、P3及びP4並びにP2’、P3’、P4’をそれぞれ生成するために使用された。
とりわけ、本発明の実施形態は、以下の知見に基づく。
図7及び図14に示すように、合成チャネルP3、P4及びP2(又は図14のシナリオ(b)のP2’、P3’及びP4’)がチャネルエンコーダ104に供給される。とりわけ、チャネルエンコーダ104は、例えばチャネルP2、P3及びP4のスペクトル値が量子化のためにゼロに設定されるように、量子化を行うことができる。スペクトル的に近傍のスペクトルサンプルは、スペクトル帯域として符号化されてもよく、各スペクトル帯域は多数のスペクトルサンプルを含むことができる。
ある周波数帯域のスペクトルサンプルの数は、異なる周波数帯域に対して異なってもよい。例えば、より低い周波数範囲の周波数帯域は、例えば、16の周波数サンプルを含むことができるより高い周波数範囲の周波数帯域より少ないスペクトルサンプル(例えば、4つのスペクトルサンプル)を含んでもよい。例えば、バーク尺度の臨界帯域は、使用された周波数帯域を定義することができる。
周波数帯域の全てのスペクトルサンプルが量子化後にゼロに設定されたときに、特に望ましくない状況が生じることがある。このような状況が生じ得る場合、本発明によれば、ステレオ充填を行うことが推奨される。更に、本発明は、知見に基づいて少なくとも(擬似)ランダムノイズを生成するだけではない。
本発明の実施形態によれば、(擬似)ランダムノイズを加えることに代わり又は加えて、例えば図14のシナリオ(b)において、チャネルP4’の周波数帯域の全てのスペクトル値がゼロに設定されていた場合、チャネルP3’と同じ又は類似の方法で生成されるであろう合成チャネルは、ゼロに量子化された周波数帯域を充填するためのノイズを生成するための非常に適切な基礎となる。
しかし、本発明の実施形態によれば、P4’合成チャネルの周波数帯域を充填するための基礎として現在の時点の現フレームのP3’の合成チャネルのスペクトル値を使用しないことが好ましく、この周波数帯域はゼロのスペクトル値のみを含み、合成チャネルP3’及び合成チャネルP4’の両方がチャネルP1’及びP2’に基づいて生成されおり、従って、現時点のP3’の合成チャネルを使用することは、単なるパンニングとなる。
例えば、P3’がP1’及びP2’のミッドチャネル(例えば、P3’=0.5*(P1’+P2’))であり、P4’がP1’及びP2’のサイドチャネル(例えば、P4’=0.5*(P1’−P2’))である場合、例えばP4’の周波数帯域にP3’の減衰されたスペクトル値を導入することは、単にパンニングをもたらすだけである。
代わりに、現P4’合成チャネル内のスペクトルホールを充填するためのスペクトル値を生成するために前の時点のチャネルを使用することが好ましい。本発明の知見によれば、現フレームのP3’合成チャネルに対応する前フレームのチャネルの組み合わせは、P4’のスペクトルホールを充填するためのスペクトルサンプルを生成するための望ましい基礎となる。
しかしながら、前のフレームに対して図10(a)のシナリオで生成された合成チャネルP3は、前フレームの合成チャネルP3が現フレームの合成チャネルP3’とは異なる方法で生成されたため、現フレームの合成チャネルP3’に対応しない。
本発明の実施形態の知見によれば、P3’合成チャネルの近似は、デコーダ側の前のフレームの再構成されたチャネルに基づいて生成されるべきである。
図10(a)は、チャネルCH1、CH2及びCH3が、E1、E2及びE3を生成することによって、前フレームのために符号化されるエンコーダシナリオを示す。デコーダは、チャネルE1、E2、及びE3を受信し、符号化されたチャネルCH1、CH2及びCH3を再構成する。いくつかの符号化ロスが発生している可能性があるが、CH1、CH2及びCH3に近似する生成されたチャネルCH1*、CH2*及びCH3*は、元のチャネルCH1、CH2及びCH3と非常に類似しているため、CH1*≒CH1、CH2*≒CH2及びCH3*≒CH3である。実施形態によれば、デコーダは、前フレームのために生成されたチャネルCH1*、CH2*及びCH3*を、現フレームにおけるノイズ充填に使用するためにバッファ内に維持する。
図1aは、実施形態による復号化のための装置201を示すが、ここでより詳細に説明される。
図1aの装置201は、前フレームの前の符号化されたマルチチャネル信号を復号して3つ以上の前オーディオ出力チャネルを取得するように適合され、現フレームの現在の符号化されたマルチチャネル信号107を復号して、3つ以上の現オーディオ出力チャネルを取得するように構成される。
装置は、インタフェース212、チャネルデコーダ202、3つ以上の現オーディオ出力チャネルCH1、CH2、CH3を生成するためのマルチチャネル処理部204、及びノイズ充填モジュール220を備える。
インタフェース212は、現在の符号化されたマルチチャネル信号107を受信し、第1のマルチチャネルパラメータMCH_PAR2を含むサイド情報を受信するように適合される。
チャネルデコーダ202は、現フレームの現在の符号化されたマルチチャネル信号を復号し、現フレームの3つ以上の復号されたチャネルのセットD1、D2、D3を取得するように適合される。
マルチチャネル処理部204は、第1のマルチチャネルパラメータMCH_PAR2に応じて、3つ以上の復号されたチャネルのセットD1、D2、D3から2つの復号されたチャネルD1、D2の第1の選択されたペアを選択するように適合される。
一例として、これは、図1aに、(任意選択の)処理ボックス208に供給される2つのチャネルD1、D2によって示されている。
更に、マルチチャネル処理部204は、2つの復号されたチャネルD1、D2の前記第1の選択されたペアに基づいて、2つ以上の処理されたチャネルP1*、P2*の第1のグループを生成し、3つ以上の復号されたチャネルD3、P1*、P2*の更新されたセットを取得するように適合される。
例では、2つのチャネルD1及びD2が(任意選択の)ボックス208に供給され、2つの処理されたチャネルP1*及びP2*が、2つの選択されたチャネルD1及びD2から生成される。3つ以上の復号されたチャネルの更新されたセットは、残され、修正されていないチャネルD3を含み、D1及びD2から生成されたP1*及びP2*を更に含む。
マルチチャネル処理部204が、2つの復号されたチャネルの第1の選択されたペアD1、D2に基づいて、2つ以上の処理されたチャネルP1*、P2*の第1のペアを生成する前に、ノイズ充填モジュール220は、2つの復号されたチャネルの第1の選択されたペアD1、D2の2つのチャネルの少なくとも1つについて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域を識別し、3つ以上の前オーディオ出力チャネルの全てではなく、2つ以上を使用してミキシングチャネルを生成し、ミキシングチャネルのスペクトル線を使用して生成されたノイズを用いて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を充填するのに適合し、ノイズ充填モジュール220は、サイド情報に応じて3つ以上の前オーディオ出力チャネルからミキシングチャネルを生成するために使用される2つ以上の前オーディオ出力チャネルを選択するのに適合する。
従って、ノイズ充填モジュール220は、ゼロであるスペクトル値のみを有する周波数帯域が存在するか否かを分析し、更に、見つかった空の周波数帯域を、生成されたノイズで充填する。例えば、周波数帯域は、例えば、4又は8又は16本のスペクトル線を有することができ、周波数帯域の全てのスペクトル線がゼロに量子化された場合、ノイズ充填モジュール220は生成されたノイズを充填する。
ノイズをどのように生成して充填するかを指定するノイズ充填モジュール220によって使用されてもよい実施形態の特定の概念は、ステレオ充填と呼ばれる。
図1aの実施形態では、ノイズ充填モジュール220は、マルチチャネル処理部204と相互作用する。例えば、一実施形態では、ノイズ充填モジュールが2つのチャネルを、例えば処理ボックスによって処理したい場合、これらのチャネルをノイズ充填モジュール220に供給し、ノイズ充填モジュール220は、周波数帯域がゼロに量子化されているか否かを調べ、検出された場合にはそのような周波数帯域を充填する。
図1bに示す他の実施形態では、ノイズ充填モジュール220は、チャネルデコーダ202と相互作用する。例えば、チャネルデコーダが符号化されたマルチチャネル信号を復号して3つ以上の復号されたチャネルD1、D2、D3を得るとき、ノイズ充填モジュールは、例えば周波数帯域が既にゼロに量子化されているか否かを調べ、検出された場合、そのような周波数帯域を充填する。このような実施形態では、マルチチャネル処理部204は、ノイズを充填する前に、全てのスペクトルホールが既に閉じられていることが確実であり得る。
更なる実施形態(図示せず)では、ノイズ充填モジュール220は、チャネルデコーダ及びマルチチャネル処理部の両方と相互作用することができる。例えば、チャネルデコーダ202が復号されたチャネルD1、D2、D3を生成するとき、ノイズ充填モジュール220は、チャネルデコーダ202がそれらを生成した直後に、周波数帯域がゼロに量子化されているか否かを既に検査していてもよいが、マルチチャネル処理部204が実際にこれらのチャネルを処理するときのみ、ノイズを生成し、それぞれの周波数帯域を満たすことができる。
例えば、ランダムノイズ、計算的に安価な演算をゼロに量子化された周波数帯域のいずれかに挿入することができるが、雑音充填モジュールは、それらが実際にマルチチャネル処理部204によって処理された場合にのみ、以前に生成されたオーディオ出力チャネルから生成された雑音を充填してもよい。しかしながら、このような実施形態では、ランダムノイズを挿入する前に、ランダムノイズを挿入する前にスペクトルホールが存在するか否かを検出しなければならず、その情報はメモリに維持すべきであり、ランダムノイズを挿入した後、ランダムノイズが挿入されたため、それぞれの周波数帯域はゼロではないスペクトル値を有するためである。
実施形態では、前オーディオ出力信号に基づいて生成されたノイズに加えて、ゼロに量子化された周波数帯域にランダムノイズが挿入される。
いくつかの実施形態では、インタフェース212は、例えば、現在の符号化されたマルチチャネル信号107を受信し、第1のマルチチャネルパラメータMCH_PAR2及び第2のマルチチャネルパラメータMCH_PAR1を含むサイド情報を受信するように適合されてもよい。
マルチチャネル処理部204は、例えば、第2のマルチチャネルパラメータMCH_PAR1に応じて、3つ以上の復号されたチャネルD3、P1*、P2*の更新されたセットから2つの復号されたチャネルP1*、D3の第2の選択されたペアを選択するように適合されてもよく、2つの復号されたチャネル(P1*、D3)の第2の選択されたペア の少なくとも1つのチャネルP1*は、2つ以上の処理されたチャネルP1*、P2*の第1のペアの1つのチャネルである。
マルチチャネル処理部204は、例えば2つの復号されたチャネルP1、D3の前記第2の選択されたペアに基づいて、2つ以上の処理されたチャネルP3*、P4*の第2のグループを生成し、3つ以上の復号されたチャネルの更新されたセットを更に更新するように適合されてもよい。
そのような実施形態の一例は図1aおよび1bに示され、(任意選択の)処理ボックス210がチャネルD3及び処理されたチャネルP1*を受け取り、処理されたチャネルP3*及びP4*を得るために処理して、3つの復号されたチャネルの更なる更新されたセットは、処理ボックス210によって修正されていないP2*と、生成されたP3*及びP4*とを含む。
処理ボックス208及び210は、図1a及び図1bにおいて任意選択としてマークされている。これは、マルチチャネル処理部204を実装するために処理ボックス208及び210を使用する可能性はあるが、マルチチャネル処理部204を正確に実施する方法は様々な可能性が存在することを示すためである。例えば、2つ(又はそれ以上)のチャネルのそれぞれ異なる処理に対して異なる処理ボックス208、210を使用する代わりに、同じ処理ボックスを再使用することができ、又はマルチチャネル処理部204は、処理ボックス208、210を使用せずに、2つのチャネルの処理を実施してもよい(マルチチャネル処理部204のサブユニットとして)。
更なる実施形態によれば、マルチチャネル処理部204は、例えば、2つの復号されたチャネルD1、D2の前記第1の選択されたペアに基づいて、正確に2つの処理されたチャネルP1*、P2*の第1のグループを生成することによって、2つ以上の処理されたチャネルP1*、P2*の第1のグループを生成するように適合されてもよい。マルチチャネル処理部204は、例えば、正確に2つの処理されたチャネルP1*、P2*の第1のグループによって、3つ以上の復号されたチャネルD1、D2、D3のセットにおいて2つの復号されたチャネルD1、D2の前記第1の選択されたペアを置き換え、3つ以上の復号されたチャネルD3、P1*、P2*の更新されたセットを得るように適合されてもよい。マルチチャネル処理部204は、例えば、2つの復号されたチャネルP1*、D3の前記第2の選択されたペアに基づいて、正確に2つの処理されたチャネルP3*、P4*の第2のグループを生成することによって、2つ以上の処理されたチャネルP3*、P4*の第2のグループを生成するように適合されてもよい。更に、マルチチャネル処理部204は、例えば、正確に2つの処理されたチャネルP3*、P4*の第2のグループによって、3つ以上の復号されたチャネルD3、P1*、P2*の更新されたセットにおいて2つの復号されたチャネルP1*、D3の前記第2の選択されたペアを置き換え、3つ以上の復号されたチャネルの更新されたセットを更に更新するように適合されてもよい。
そのような実施形態では、2つの選択されたチャネル(例えば、処理ボックス208又は210の2つの入力チャネル)から正確に2つの処理されたチャネルが生成され、これらの正確に2つの処理されたチャネルが、3つ以上の復号されたチャネルのセットにおける選択されたチャネルに置き換わる。例えば、マルチチャネル処理部204の処理ボックス208は、選択されたチャネルD1及びD2をP1*及びP2*に置き換える。
しかしながら、他の実施形態では、復号のために装置201内でアップミックスが行われ、3つ以上の処理されたチャネルが2つの選択されたチャネルから生成されてもよいし、又は選択されたチャネルの全てが復号されたチャネルの更新されたセットから削除されるわけではなくてもよい。
更なる課題は、ノイズ充填モジュール220によって生成されるノイズを生成するために使用されるミキシングチャネルの生成方法である。
いくつかの実施形態によれば、ノイズ充填モジュール220は、例えば、3つ以上の前オーディオ出力チャネルのうちの2つ以上の前オーディオ出力チャネルとして、3つ以上の前オーディオ出力チャネルのうちの正確に2つを使用して、ミキシングチャネルを生成するのに適合されてもよく、ノイズ充填モジュール220は、例えば、サイド情報に応じて、3つ以上の前オーディオ出力チャネルから正確に2つの前オーディオ出力チャネルを選択するように適合されてもよい。
3つ以上の前出力チャネルのうちの2つのみを使用することは、ミキシングチャネルを計算する演算の複雑性を低減するのに役立つ。
しかし、他の実施形態では、前オーディオ出力チャネルの3つ以上のチャネルがミキシングチャネルを生成するために使用されるが、考慮される前オーディオ出力チャネルの数は、3つ以上の前オーディオ出力チャネルの総数より小さい。
前出力チャネルのうちの2つのみが考慮される実施形態において、ミキシングチャネルは、例えば、以下のように計算されてもよい。
一実施形態では、ノイズ充填モジュール220は、式
又は式
に基づいて、正確に2つの前オーディオ出力チャネルを使用して、ミキシングチャネルを生成するように適合され、
ここでDchは、ミキシングチャネルであり、
は、正確な2つの前オーディオ出力チャネルのうちの第1のオーディオ出力チャネルであり、
は、正確な2つの前オーディオ出力チャネルのうちの第2のオーディオ出力チャネルであり、正確な2つの前オーディオ出力チャネルのうちの第1のオーディオ出力チャネルとは異なり、dは、実数の正のスカラーである。
典型的な状況では、ミッドチャネル
が適切なミキシングチャネルであってもよい。このような手法は、考慮される2つの前オーディオ出力チャネルのミッドチャネルとしてミキシングチャネルを計算する。
しかしながら、いくつかのシナリオでは、
を適用する場合、例えば、
の場合、ゼロに近いミキシングチャネルが生じることがある。次に、例えば、
をミキシング信号として使用することが好ましい場合がある。従って、サイドチャネル(位相ずれ入力チャネル用)が使用される。
代替の手法では、ノイズ充填モジュール220は、式
又は式
に基づいて、正確に2つの前オーディオ出力チャネルを使用して、ミキシングチャネルを生成するように適合され、
ここで
は、ミキシングチャネルであり、
は、正確な2つの前オーディオ出力チャネルのうちの第1のオーディオ出力チャネルであり、
は、正確な2つの前オーディオ出力チャネルのうちの第2のオーディオ出力チャネルであり、正確な2つの前オーディオ出力チャネルのうちの第1のオーディオ出力チャネルとは異なり、αは、回転角度である。
このような手法は、考慮される2つの前オーディオ出力チャネルの回転を行うことによって、ミキシングチャネルを計算する。
回転角度αは、例えば、−90°<α<90°の範囲であってもよい。
一実施形態では、回転角度は、例えば、30°<α<60°の範囲内にあってもよい。
再び、典型的な状況では、チャネル
が適切なミキシングチャネルであってもよい。このような手法は、考慮される2つの前オーディオ出力チャネルのミッドチャネルとしてミキシングチャネルを計算する。
しかしながら、いくつかのシナリオでは、
を適用する場合、例えば、
の場合、ゼロに近いミキシングチャネルが生じることがある。次に、例えば、
をミキシング信号として使用することが好ましい場合がある。
特定の実施形態によれば、サイド情報は、例えば、現フレームに割り当てられている現在のサイド情報であってもよく、インタフェース212は、例えば、前フレームに割り当てられた以前のサイド情報を受信するように適合されてもよく、以前のサイド情報は以前の角度を含み、インタフェース212は、例えば、現在の角度を含む現在のサイド情報を受信するように適合されてもよく、ノイズ充填モジュール220は、例えば、現在のサイド情報の現在の角度を、回転角度αとして使用するように適合されてもよく、以前のサイド情報の以前の角度を回転角度αとして使用しないように適合される。
従って、このような実施形態では、ミキシングチャネルが前オーディオ出力チャネルに基づいて計算さえる場合でも、以前に受信された回転角度ではなく、サイド情報で送信される現在の角度が、回転角度として使用されるが、ミキシングチャネルは前のフレームに基づいて生成された前オーディオ出力チャネルに基づいて計算される。
本発明のいくつかの実施形態の別の態様は、スケールファクタに関する。
周波数帯域は、例えば、スケールファクタ帯域であってもよい。
いくつかの実施形態によれば、マルチチャネル処理部204が、2つの復号されたチャネルの第1の選択されたペア(D1、D2)に基づいて、2つ以上の処理されたチャネルP1*、P2*の第1のペアを生成する前に、ノイズ充填モジュール(220)は、例えば、2つの復号されたチャネルの第1の選択されたペアD1、D2の2つのチャネルの少なくとも1つについて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域である1つ以上のスケールファクタ帯域を識別するのに適してもよく、3つ以上の前オーディオ出力チャネルの全てではなく、前記2つ以上を使用してミキシングチャネルを生成するのに適合してもよく、全てのスペクトル線がゼロに量子化される1つ以上のスケールファクタ帯域のそれぞれのスケールファクタに依存して、ミキシングチャネルのスペクトル線を使用して生成されたノイズを用いて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を充填するのに適合してもよい。
そのような実施形態では、スケールファクタが、例えば、スケールファクタ帯域のそれぞれに割り当てられてもよく、そのスケールファクタは、ミキシングチャネルを使用してノイズを生成するとき考慮される。
特定の実施形態では、受信インタフェース212は、例えば、前記1つ以上のスケールファクタ帯域のそれぞれのスケールファクタを受信するように構成され、前記1つ以上のスケールファクタ帯域のそれぞれのスケールファクタは、量子化前の前記スケールファクタ帯域のスペクトル線のエネルギーを示す。ノイズ充填モジュール220は、例えば、1つ以上のスケールファクタ帯域のそれぞれについてノイズを生成するように適合されてもよく、全てのスペクトル線がここでゼロに量子化され、その結果、ノイズを周波数帯域の1つに加えた後、スペクトル線のエネルギーは、前記スケールファクタ帯域に対してスケールファクタによって示されるエネルギーに対応する。
例えば、ミキシングチャネルは、ノイズが挿入されるスケールファクタ帯域の4つのスペクトル線のスペクトル値を示してもよく、これらのスペクトル値は、例えば、0.2、0.3、0.5、0.1であってもよい。
ミキシングチャネルのスケールファクタ帯域のエネルギーは、例えば、以下のように計算されてもよい。
しかしながら、ノイズが充填されるチャネルのスケールファクタ帯域に対するスケールファクタは、例えばわずか0.0039であってもよい。
減衰係数は、例えば、以下のように計算することができる。
従って、上記の例では、
一実施形態では、ノイズとして使用されるミキシングチャネルのスケールファクタ帯域のスペクトル値のそれぞれは、減衰ファクタで乗算される。
従って、上記の例のスケールファクタ帯域の4つのスペクトル値のそれぞれは、減衰ファクタで乗算され、減衰されたスペクトル値が得られる。
0.2*0.01=0.002
0.3*0.01=0.003
0.5*0.01=0.005
0.1*0.01=0.001
これらの減衰されたスペクトル値は、例えば、雑音が充填されるチャネルのスケールファクタ帯域に挿入されてもよい。
上記の例は、上記の演算をそれらの対応する対数演算で置き換えることによって、例えば加算による乗算の置き換えなどによって、対数値に等しく適用可能である。
更に、上述した特定の実施形態の説明に加えて、ノイズ充填モジュール220の他の実施形態は、図2〜図6を参照して説明した概念の1つ、一部又は全てを適用する。
本発明の実施形態の別の態様は、前オーディオ出力チャネルからの情報チャネルが、挿入されるノイズを得るためにミキシングチャネルを生成するのに使用されるように選択されることに基づく問題に関する。
一実施形態によれば、ノイズ充填モジュール220による装置は、例えば、第1のマルチチャネルパラメータMCH_PAR2に応じて、3つ以上の前オーディオ出力チャネルから正確に2つの前オーディオ出力チャネルを選択するように適合されてもよい。
従って、このような実施形態では、どのチャネルを処理するために選択するかを調整する第1のマルチチャネルパラメータはまた、挿入すべきノイズを生成するためのミキシングチャネルを生成するために、どの前オーディオ出力チャネル使用するかを調整する。
一実施形態では、第1のマルチチャネルパラメータMCH_PAR2は、例えば、3つ以上の復号されたチャネルのセットから2つの復号されたチャネルD1、D2を示すことができてもよく、マルチチャネル処理部204は、第1のマルチチャネルパラメータMCH_PAR2によって示される2つの復号されたチャネルD1、D2を選択することによって、3つ以上の復号されたチャネルのセットD1、D2、D3から2つの復号されたチャネルD1、D2の第1の選択されたペアを選択するように適合される。更に、第2のマルチチャネルパラメータMCH_PAR1は、例えば、3つ以上の復号されたチャネルの更新されたセットから2つの復号されたチャネルP1*、D3を示すことができる。マルチチャネル処理部204は、例えば、第2のマルチチャネルパラメータMCH_PAR1によって示される2つの復号されたチャネルP1*、D3を選択することによって、3つ以上の復号されたチャネルD3、P1*、P2*の更新されたセットから、2つの復号されたチャネルP1*、D3の第2の選択されたペアを選択するように適合されてもよい。
従って、このような実施形態では、第1の処理、例えば図1a又は図1bの処理ボックス208の処理のために選択されるチャネルは、第1のマルチチャネルパラメータMCH_PAR2のみに依存しない。更に、これら2つの選択されたチャネルは、第1のマルチチャネルパラメータMCH_PAR2に明示的に指定される。
同様に、このような実施形態では、第2の処理、例えば図1a又は図1bの処理ボックス210の処理のために選択されるチャネルは、第2のマルチチャネルパラメータMCH_PAR1のみに依存しない。更に、これらの2つの選択されたチャネルは、第2のマルチチャネルパラメータMCH_PAR1に明示的に指定される。
本発明の実施形態は、図15を参照して説明されるマルチチャネルパラメータのための洗練された索引付け方式を導入する。
図15(a)は、エンコーダ側で、5つのチャネル、即ち左チャネル、右チャネル、中央チャネル、左サラウンドチャネル及び右サラウンドチャネルの符号化を示す。図15(b)は、左チャネル、右チャネル、中央チャネル、左サラウンドチャネル及び右サラウンドチャネルを再構成するために、符号化されたチャネルE0、E1、E2、E3、E4の復号化を示す。
左、右、中央、左サラウンド、右サラウンドの5つのチャネルのそれぞれにインデックスが割り当てられていると仮定する。
インデックス チャネル名
0 左
1 右
2 中央
3 左サラウンド
4 右サラウンド
図15(a)において、エンコーダ側では、処理ボックス192内で実行される第1の動作は、例えばチャネル0(左)とチャネル3(左サラウンド)のミキシングであってもよく、2つの処理されたチャネルを得る。処理されたチャネルの1つはミッドチャネルであり、他のチャネルはサイドチャネルであると仮定することができる。しかしながら、2つの処理されたチャネルを形成する他の概念、例えば、回転動作を実行することによって2つの処理されたチャネルを決定することもまた適用されてもよい。
これで、2つの生成され処理されたチャネルは、処理に使用されたチャネルのインデックスと同じインデックスを取得する。即ち、処理されたチャネルの第1のチャネルはインデックス0を有し、処理されたチャネルの第2のチャネルはインデックス3を有する。この処理のために決定されたマルチチャネルパラメータは、例えば(0;3)であってもよい。
実施されるエンコーダ側の第2の動作は、例えば、チャネル1(右)とチャネル4(右サラウンド)を処理ボックス194においてミキシングし、2つの更なる処理されたチャネルを得ることであってもよい。再び、2つの更なる生成され処理されたチャネルは、処理に使用されたチャネルのインデックスと同じインデックスを取得する。即ち、更なる処理されたチャネルのうちの第1のチャネルはインデックス1を有し、処理されたチャネルの第2のチャネルはインデックス4を有する。この処理のために決定されたマルチチャネルパラメータは、例えば、(1;4)であってもよい。
実施されるエンコーダ側の第3の動作は、例えば、処理されたチャネル0と処理されたチャネル1を処理ボックス196においてミキシングし、別の2つの処理されたチャネルを得ることであってもよい。再び、これらの2つの生成され処理されたチャネルは、処理に使用されたチャネルのインデックスと同じインデックスを取得する。即ち、更なる処理されたチャネルのうちの第1のチャネルはインデックス0を有し、処理されたチャネルの第2のチャネルはインデックス1を有する。この処理のために決定されたマルチチャネルパラメータは、例えば、(0;1)であってもよい。
符号化されたチャネルE0、E1、E2、E3、E4は、それらのインデックスによって区別され、即ち、E0はインデックス0を有し、E1はインデックス1を有し、E2はインデックス2を有する。
エンコーダ側での3つの演算の結果、3つのマルチチャネルパラメータが得られる。
(0;3),(1;4),(0;1)
復号化装置は逆の順序でエンコーダ動作を実行するはずであるため、マルチチャネルパラメータの順序は、例えば、復号化のために装置に送信されるときに反転されて、マルチチャネルパラメータとなってもよい。
(0;1),(1;4),(0;3)
復号化装置では、(0;1)を第1のマルチチャネルパラメータ、(1,4)を第2のマルチチャネルパラメータ、(0,3)を第3のマルチチャネルパラメータと呼ぶことができる。
図15(b)に示すデコーダ側では、第1のマルチチャネルパラメータ(0;1)を受信すると、復号化装置は、デコーダ側の第1の処理動作として判断し、チャネル0(E0)とチャネル1(E1)を処理する。これは図15(b)のボックス296で行われる。両方の生成され処理されたチャネルは、それらを生成するために使用されたチャネルE0及びE1からのインデックスを継承し、従って、生成されて処理されたチャネルもまたインデックス0及び1を有する。
復号化装置は、第2のマルチチャネルパラメータ(1;4)を受信すると、デコーダ側の第2の処理動作として判断し、処理されたチャネル1及びチャネル4(E4)を処理する。これは、図15(b)のボックス294で行われる。両方の生成され処理されたチャネルは、それらを生成するために使用されたチャネル1及び4からのインデックスを継承し、従って、生成され処理されたチャネルもインデックス1及び4を有する。
復号化装置は、第3のマルチチャネルパラメータ(0;3)を受信すると、デコーダ側の第3の処理動作として判断し、処理されたチャネル0及びチャネル3(E3)を処理する。これは図15(b)のボックス292で行われる。両方の生成され処理されたチャネルは、それらを生成するために使用されたチャネル0及び3からのインデックスを継承し、従って、生成され処理されたチャネルもインデックス0及び3を有する。
復号化装置の処理の結果、チャネル左(インデックス0)、右(インデックス1)、中央(インデックス2)、左サラウンド(インデックス3)及び右サラウンド(インデックス4)が再構成される。
デコーダ側では、量子化のために、特定のスケールファクタ帯域内のチャネルE1(インデックス1)の全ての値がゼロに量子化されていると仮定する。復号化装置がボックス296の処理を実行することを望む場合、ノイズ充填されたチャネル1(チャネルE1)が望ましい。
既に概説したように、実施形態は、チャネル1のスペクトルホールのノイズ充填のために2つの前オーディオ出力信号を使用する。
特定の実施形態では、動作が行われるチャネルが、ゼロに量子化されるスケールファクタ帯域を有する場合、2つの前オーディオ出力チャネルは、処理を実行しなければならない2つのチャネルと同じインデックス番号を有するノイズを生成するために使用される。この例では、処理ボックス296における処理の前にチャネル1のスペクトルホールが検出された場合、インデックス0(以前の左チャネル)を有し、更にインデックス1(以前の右チャネル)を有する前オーディオ出力チャネルを使用して、デコーダ側のチャネル1のスペクトルホールを埋めるためにノイズを生成する。
インデックスは、処理によって生じる処理されたチャネルによって一貫して継承されるので、前出力チャネルが現オーディオ出力チャネルになる場合、前出力チャネルが、デコーダ側の実際の処理に関与するチャネルを生成する役割を果たすと推測することができる。従って、ゼロに量子化されたスケールファクタ帯域の良好な推定を達成することができる。
実施形態によれば、装置は、例えば、3つ以上の前オーディオ出力チャネルの各前オーディオ出力チャネルに、識別部のセットから識別部を割り当てるように適合されてもよく、その結果、3つ以上の前オーディオ出力チャネルの各前オーディオ出力チャネルが、識別部のセットのうちの正確に1つの識別部に割り当てられ、識別部のセットの各識別部が、3つ以上の前オーディオ出力チャネルのうちの正確に1つの前オーディオ出力チャネルに割り当てられる。更に、装置は、例えば、3つ以上の復号されたチャネルのセットの各チャネルに、識別部の前記セットから識別部を割り当てるように適合されてもよく、その結果、3つ以上の復号されたチャネルのセットの各チャネルが、識別部のセットのうちの正確に1つの識別部に割り当てられ、識別部のセットの各識別部が、3つ以上の復号されたチャネルのセットの正確に1つのチャネルに割り当てられる。
更に、第1のマルチチャネルパラメータMCH_PAR2は、例えば、3つ以上の識別部のセットの2つの識別部の第1のペアを示すことができる。マルチチャネル処理部204は、例えば、2つの識別部の第1のペアの2つの識別部に割り当てられる2つの復号されたチャネルD1、D2を選択することによって、3つ以上の復号されたチャネルD1、D2、D3のセットから2つの復号されたチャネルD1、D2の第1の選択されたペアを選択するように適合されてもよい。
装置は、例えば、2つの識別部の第1のペアの2つの識別部のうちの第1の識別部を、正確に2つの処理されたチャネルP1*、P2*の第1のグループの第1の処理されたチャネルに割り当てるように適合されてもよい。更に、装置は、例えば、2つの識別部の第1のペアの2つの識別部のうちの第2の識別部を、正確に2つの処理されたチャネルP1*、P2*の第1のグループの第2の処理されたチャネルに割り当てるように適合されてもよい。
識別部のセットは、例えば、インデックスのセット、例えば非負の整数のセット(例えば、識別部0,1,2,3及び4を含むセット)であってもよい。
特定の実施形態では、第2のマルチチャネルパラメータMCH_PAR1は、例えば、3つ以上の識別部のセットの2つの識別部の第2のペアを示すことができる。マルチチャネル処理部204は、例えば、2つの識別部の第2のペアの2つの識別部に割り当てられる2つの復号されたチャネル(D3,P1*)を選択することによって、3つ以上の復号されたチャネルD3、P1*、P2*の更新されたセットから2つの復号されたチャネルP1*、D3の第2の選択されたペアを選択するように適合されてもよい。更に、装置は、例えば、2つの識別部の第2のペアの2つの識別部のうちの第1の識別部を、正確に2つの処理されたチャネルP3*、P4*の第2のグループの第1の処理されたチャネルに割り当てるように適合されてもよい。更に、装置は、例えば、2つの識別部の第2のペアの2つの識別部のうちの第2の識別部を、正確に2つの処理されたチャネルP3*、P4*の第2のグループの第2の処理されたチャネルに割り当てるように適合されてもよい。
特定の実施形態では、第1のマルチチャネルパラメータMCH_PAR2は、例えば、3つ以上の識別部のセットの2つの識別部の前記第1のペアを示すことができる。ノイズ充填モジュール220は、例えば、2つの識別部の前記第1のペアの2つの識別部に割り当てられる2つの前オーディオ出力チャネルを選択することによって、3つ以上の前オーディオ出力チャネルから正確に2つの前オーディオ出力チャネルを選択するように適合されてもよい。
既に概説したように、図7は、一実施形態による、少なくとも3つのチャネル(CH1〜CH3)を有するマルチチャネル信号101を符号化するための装置100を示す。
この装置は、第1の反復ステップにおいて、最高値を有するペア又は閾値より上の値を有するペアを選択するために、かつマルチチャネル処理動作110、112を用いて選択されたペアを処理して選択されたペア用の初期マルチチャネルパラメータMCH_PAR1を導出し、かつ第1の処理されたチャネルP1、P2を導出するために、第1の反復ステップにおいて、少なくとも3つのチャネル(CH〜CH3)の各ペアの間のチャネル間相関値を計算するのに適合する反復処理部102を含む。
反復処理部102は、処理されたチャネルP1の少なくとも1つを使用して、第2の反復ステップで計算、選択及び処理を実行して、更なるマルチチャネルパラメータMCH_PAR2及び第2の処理されたチャネルP3、P4を導出するように適合される。
更に、装置は、符号化されたチャネル(E1〜E3)を得るために、反復処理部104によって実行される反復処理から生じるチャネル(P2〜P4)を符号化するように適合されたチャネルエンコーダを含む。
更に、この装置は、符号化されたチャネル(E1〜E3)、初期マルチチャネルパラメータ及び更なるマルチチャネルパラメータMCH_PAR1、MCH_PAR2を有する符号化されたチャネル信号107を生成するように適合された出力インタフェース106を備える。
更に、装置は、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、復号化装置によって以前に復号された、以前に復号されたオーディオ出力チャネルに基づいて生成されたノイズを用いて、復号化装置が充填すべきか否かを示す情報を含む符号化されたマルチチャネル信号107を生成するのに適合される出力インタフェース106を備える。
従って、符号化装置は、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、復号化装置によって以前に復号された、以前に復号されたオーディオ出力チャネルに基づいて生成されたノイズを用いて、復号化装置が充填すべきか否かを信号伝達することができる。
一実施形態によれば、初期マルチチャネルパラメータ及び更なるマルチチャネルパラメータMCH_PAR1、MCH_PAR2の各々は、正確に2つのチャネルを示し、正確に2つのチャネルの各々は、符号化されたチャネル(E1〜E3)の1つであるか、第1又は第2の処理されたチャネルP1、P2、P3、P4のうちの1つ、又は少なくとも3つのチャネルのうちの1つ(CH1〜CH3)である。
出力インタフェース106は、例えば、符号化されたマルチチャネル信号107を生成するように適合され、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、復号化装置が充填すべきか否かを示す情報が、初期及びマルチチャネルパラメータMCH_PAR1、MCH_PAR2のそれぞれについて、初期及び更なるマルチチャネルパラメータMCH_PAR1、MCH_PAR2のうちの前記1つによって示される正確に2つのチャネルの少なくとも1つのチャネルについて、前記少なくとも1つのチャネルの全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、復号化装置によって以前に復号された、以前に復号されたオーディオ出力チャネルに基づいて生成されたスペクトルデータを用いて、復号化装置が充填すべきか否かを示す情報を備える。
更に以下では、そのような情報が、現在処理されているMCTチャネルペアにおいてステレオ充填を適用すべきか否かを示すhasStereoFilling[pair]値を使用して送信される特定の実施形態について説明する。
図13は、実施形態によるシステムを示す。
このシステムは、上述のような符号化装置100と、上述の実施形態の1つに従う復号化装置201とを備える。
復号化装置201は、符号化装置100から符号化装置100によって生成された符号化されたマルチチャネル信号107を受信するように構成される。
更に、符号化されたマルチチャネル信号107が提供される。
符号化されたマルチチャネル信号は、
−符号化されたチャネル(E1〜E3)と、
−マルチチャネルパラメータMCH_PAR1、MCH_PAR2と、
−全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、復号化装置によって以前に復号された、以前に復号されたオーディオ出力チャネルに基づいて生成されたスペクトルデータを用いて、復号化装置が充填すべきか否かを示す情報と
を含む。
一実施形態によれば、符号化されたマルチチャネル信号は、例えば、マルチチャネルパラメータMCH_PAR1、MCH_PAR2として2つ以上のマルチチャネルパラメータを含むことができる。
2つ以上のマルチチャネルパラメータMCH_PAR1、MCH_PAR2の各々は、例えば正確に2つのチャネルを示すことができ、正確に2つのチャネルの各々は、符号化されたチャネル(E1〜E3)の1つであるか、又は複数の処理されたチャネルP1、P2 、P3、P4のうちの1つ、又は少なくとも3つの元の(例えば、未処理の)チャネル(CH〜CH3)のうちの1つであってもよい。
全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、復号化装置が充填すべきか否かを示す情報が、例えば、2つ以上のマルチチャネルパラメータMCH_PAR1、MCH_PAR2のそれぞれについて、2つ以上のマルチチャネルパラメータのうちの前記1つによって示される正確に2つのチャネルの少なくとも1つのチャネルについて、前記少なくとも1つのチャネルの全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、復号化装置によって以前に復号された、以前に復号されたオーディオ出力チャネルに基づいて生成されたスペクトルデータを用いて、復号化装置が充填すべきか否かを示す情報を備えてもよい。
既に概説したように、更に以下では、そのような情報が、現在処理されているMCTチャネルペアにおいてステレオ充填を適用すべきか否かを示すhasStereoFilling[pair]値を使用して送信される特定の実施形態について説明する。
以下では、一般的な概念及び特定の実施形態をより詳細に説明する。
実施形態は、パラメトリック低ビットレート符号化モードのために、任意のステレオツリーを使用することの柔軟性で、ステレオ充填とMCTとの組み合わせを実現する。
既知の結合ステレオ符号化ツールを階層的に適用することにより、チャネル間信号依存性を利用する。より低いビットレートのために、実施形態は、ディスクリートのステレオ符号化ボックスとステレオ充填ボックスの組み合わせを使用するようにMCTを拡張する。従って、セミパラメトリック符号化は、例えば、類似のコンテンツを有するチャネル、即ち最も高い相関を有するチャネルペアに適用することができるが、異なるチャネルは、独立して又は非パラメトリック表現を介して符号化することができる。従って、MCTビットストリーム構文は、ステレオ充填が許可されている場合、及びアクティブな場合に信号を送ることができるように拡張される。
実施形態は、任意のステレオ充填ペアのための以前のダウンミックスの生成を実現する。
ステレオ充填は、周波数領域での量子化によるスペクトルホールの充填を改善するために、前フレームのダウンミックスの使用に依存する。しかし、MCTと組み合わせて、結合符号化されたステレオペアのセットは、現在、経時的に変化することが可能になっている。結果として、2つの結合符号化されたチャネルは、前フレームにおいて、即ちツリー構成が変更されたときに結合符号化されなかった可能性がある。
前ダウンミックスを推定するために、以前に復号された出力チャネルが保存され、逆ステレオ動作で処理される。所与のステレオボックスについては、これは、現フレームのパラメータと、処理されたステレオボックスのチャネルインデックスに対応する前フレームの復号化された出力チャネルを使用して行われる。
独立フレーム(前フレームデータを考慮に入れずに復号可能なフレーム)又は変換長の変化のために、前出力チャネル信号が利用可能でない場合、対応するチャネルの前チャネルバッファはゼロに設定される。従って、以前のチャネル信号の少なくとも1つが利用可能である限り、非ゼロの前ダウンミックスを計算することができる。
MCTが予測ベースステレオボックスを使用するように構成されている場合、前ダウンミックスは、ステレオ充填ペアに指定された逆MS操作で計算され、好ましくは、予測方向フラグ(MPEG−H構文のpred_dir)に基づいて以下の2つの式のうちの1つを使用する。

ここで、
は任意の実数スカラーと正スカラーである。
MCTが回転ベースのステレオボックスを使用するように構成されている場合、前ダウンミックスは、負の回転角度を用いる回転を使用して計算される。
従って、次のように与えられる回転に対して、
逆回転は次のように計算され、
は前出力チャネル
および
の所望の前ダウンミックスである。
実施形態は、MCTにおけるステレオ充填の応用を実現する。
単一のステレオボックスにステレオ充填を適用する方法については、[1]、[5]に説明される。
単一のステレオボックスに関して、ステレオ充填は、所与のMCTチャネルペアの第2のチャネルに適用される。
とりわけ、MCTと組み合わせたステレオ充填の違いは次の通りである。
MCTツリー構成は、現フレームでステレオ充填が許可されているか否かを信号伝達できるように、フレームごとに1つの信号伝達ビットによって拡張されている。
好ましい実施形態では、現フレームにステレオ充填が許可されている場合、ステレオボックスでステレオ充填を起動するための1つの追加ビットが各ステレオボックスに対して送信される。デコーダにおいて適用されたステレオ充填をどのボックスが有するべきかをエンコーダ側で制御できるため、これは好ましい実施形態である。
第2の実施形態では、現フレームにステレオ充填が許可されている場合、ステレオ充填は全てのステレオボックスで許可され、追加のビットは個々のステレオボックスごとに送信されない。この場合、個々のMCTボックスにおけるステレオ充填の選択的適用は、デコーダによって制御される。
更なる概念及び詳細な実施形態は、以下で説明される。
実施形態は、低ビットレートマルチチャネル動作点の品質を改善する。
周波数領域(FD)符号化チャネルペア要素(CPE)において、エンコーダにおける非常に粗い量子化によって引き起こされるスペクトルホールの知覚的に改善された充填のために、MPEG−H 3Dオーディオ規格は、[1]の5.5.5.4.9項に記載されているステレオ充填ツールの使用を可能にする。このツールは、特に中及び低ビットレートで符号化された2チャネルステレオに対して有益であることが示された。
[2]のセクション7で説明されているマルチチャネル符号化ツール(MCT)が導入され、これにより、マルチチャネルセットアップにおいて、時変チャネル間依存性を利用するために、フレームごとに結合符号化されたチャネルペアの柔軟な信号適応型定義が可能になる。MCTのメリットは、各チャネルが個々のシングルチャネル要素(SCE)に存在するマルチチャネル設定の効率的な動的結合符号化に使用する場合に特に著しく、先験的に確立されなければならない従来のCPE+SCE(+LFE)構成とは異なり、これにより、結合チャネル符号化を1つのフレームから次のフレームに引き継ぐ及び/又は再構成することが可能になる。
CPEを使用せずにマルチチャネル・サラウンド・サウンドを符号化することは、CPEでのみ利用可能な結合ステレオツール−予測M/S符号化およびステレオ充填−を利用することができないという欠点があり、これは特に中及び低ビットレートで不利である。MCTはM/Sツールの代用として機能することができるが、現在ステレオ充填ツールの代替品は入手できない。
実施形態は、MCTビットストリーム構文をそれぞれの信号伝達ビットで拡張し、チャネル要素タイプに関係なく任意のチャネルペアにステレオ充填の適用を一般化することによって、MCTのチャネルペア内でもステレオ充填ツールの使用を可能にする。
いくつかの実施形態は、例えば、以下のように、MCTにおけるステレオ充填の信号伝達を実現することができる。
CPEでは、[1]の5.5.5.4.9.4項に記載されているように、ステレオ充填ツールの使用が、第2のチャネルのFDノイズ充填情報内で信号伝達される。MCTを利用する場合、全てのチャネルは潜在的に「第2のチャネル」である(要素間のチャネルペアの可能性があるため)。従って、MCT符号化チャネルペアごとに追加ビットを用いて明示的にステレオ充填を信号伝達することが提案される。ステレオ充填が特定のMCT「ツリー」インスタンスのいずれのチャネルペアにも使用されていない場合、この追加ビットが不要になるように、MultichannelCodingFrame()[2]のMCTSignalingType要素の現在予約されている2つのエントリを使用して、前述のチャネルペアごとの追加の存在を信号伝達する。
以下、詳細な説明を行う。
いくつかの実施形態は、例えば、以下のように、前ダウンミックスの計算を実現することができる。
CPEにおけるステレオ充填は、対応する帯域の送信スケールファクタ(これは、前記帯域がゼロに完全に量子化されているため未使用である)に従ってスケーリングされた、前フレームのダウンミックスのそれぞれのMDCT係数の加算によって、第2のチャネルの特定の「空の」スケールファクタ帯域を充填する。対象チャネルのスケールファクタ帯域を使用して制御される重み付け加算のプロセスは、MCTの文脈においても同様に使用することができる。しかし、特にMCT「ツリー」構成は経時的に変化する可能性があるため、ステレオ充填のソーススペクトル、即ち前フレームのダウンミックスは、CPEとは異なる方法で計算されなければならない。
MCTにおいて、前ダウンミックスは、所与の結合チャネルペアに対して現フレームのMCTパラメータを使用して、最後のフレームの復号された出力チャネル(MCT復号化後に格納される)から導き出すことができてもよい。予測M/Sベースの結合符号化を適用するペアの場合、前ダウンミックスは、現フレームの方向インジケータに応じて、適切なチャネルスペクトルの和又は差のいずれかがCPEステレオ充填の場合と同じになる。Karhunen−Loeve回転ベース結合符号化を使用するステレオペアの場合、前ダウンミックスは、現フレームの回転角度で計算された逆回転を表す。再度、詳細な説明を以下に提供する。
複雑性の評価では、中および低ビットレートツールであるMCTのステレオ充填では、低/中及び高ビットレートの両方で測定した場合、最悪の複雑性を増やすとは考えられない。更に、ステレオ充填を使用することは、典型的には、より多くのスペクトル係数がゼロに量子化されることと一致し、それにより、コンテキストベースの算術デコーダのアルゴリズムの複雑性を低減させる。最大N/3ステレオ充填チャネルをNチャネルサラウンド構成で使用し、ステレオ充填の実行につき追加の0.2WMOPSを使用すると仮定すると、コーダのサンプリングレートが48kHzでIGFツールが12 kHzより上でのみ動作する場合、ピークの複雑性は5.1に対してわずか0.4WMOPS、11.1チャネルに対して0.8WMOPSのみ増加する。これは、デコーダ全体の複雑性の2%未満になる。
実施形態は、以下のようにMultichannelCodingFrame()要素を実施する。
いくつかの実施形態によれば、MCTにおけるステレオ充填は、以下のように実施されてもよい。
[1]の5.5.5.4.9項に記述されているチャネルペア要素のIGFのステレオ充填と同様に、マルチチャネル符号化ツール(MCT)におけるステレオ充填は、「空の」スケールファクタ帯域(完全にゼロに量子化されている)を、前フレームの出力スペクトルのダウンミックスを使用してノイズ充填開始周波数以上で充填する。
MCT結合チャネルペア(表AMD4.4のhasStereoFilling[pair]≠0)でステレオ充填がアクティブな場合、ペアの第2のチャネルのノイズ充填領域(即ち、noiseFillingStartOffset以上で開始)の全ての 「空の」のスケールファクタ帯域は充填されて、前フレームの(MCT適用後の)対応する出力スペクトルのダウンミックスを使用して、特定の目標エネルギーまで充填される。これは、FDノイズ充填(ISO/IEC 23003−3:2012の7.2項を参照)の後で、スケールファクタとMCT結合ステレオ適用の前に行われる。MCT処理が完了した後の全ての出力スペクトルは、次のフレームで潜在的なステレオ充填のために保存される。
動作制約は、例えば、第2のチャネルの空き帯域におけるステレオ充填アルゴリズム(hasStereoFilling[pair]≠0)のカスケード式実行が、第2のチャネルが同じ場合、hasStereoFilling[pair]≠0を使用する任意の後続のMCTステレオペアに対してサポートされないことであってもよい。チャネルペア要素では、[1]の5.5.5.4.9項に従った第2の(残余)チャネルのアクティブIGFステレオ充填は、同じフレームの同じチャネルでのMCTステレオ充填の任意の後続適用よりも優先され、従って無効になる。
用語及び定義は、例えば、以下のように定義することができる。
hasStereoFilling[pair] 現在処理されたMCTチャネルペアのステレオ充填の使用を示す
ch1、ch2 現在処理されたMCTチャネルペアのチャネルのインデックス
spectral_data[][] 現在処理されたMCTチャネルペアにおけるチャネルのスペクトル係数
spectral_data_prev[][] 前フレームにおけるMCT処理が完了した後の出力スペクトル
downmix_prev[][] 現在処理されたMCTチャネルペアによって与えられるインデックスを用いる前フレームの出力チャネルの推定ダウンミックス
num_swb スケールファクタ帯域の総数、ISO/IEC23003−3、6.2.9.4項を参照
ccfl coreCoderFrameLength、変換長、ISO/IEC 23003−3、6.1項を参照
noiseFillingStartOffset ISO/IEC23003−3、表109のccflに応じて定義されるノイズ充填開始ライン。
igf_WhiteningLevel IGFにおけるスペクトルホワイトニング、ISO/IEC23008−3、5.5.5.4.7項参照
seed[] randomSign()によって使用されるノイズ充填シード、ISO/IEC23003−3、7.2項参照。
いくつかの特定の実施形態では、復号化プロセスは、例えば以下のように記述されてもよい。
MCTステレオ充填は、以下に説明する4つの連続動作を使用して実行される。
ステップ1:ステレオ充填アルゴリズムのための第2のチャネルのスペクトルの準備
所与のMCTチャネルペアのステレオ充填インジケータhasStereoFilling[pair]が0の場合、ステレオ充填は使用されず、以下のステップは実行されない。そうでない場合、ペアの第2のチャネルスペクトルであるspectral_data[ch2]に以前に適用されていた場合、スケールファクタ適用は実行されない。
ステップ2:所与のMCTチャネルペアに対する前ダウンミックススペクトルの生成
前ダウンミックスは、MCT処理の適用後に格納された前フレームの出力信号spectral_data_prev[][]から推定される。前出力チャネル信号が利用できない場合、例えば、独立フレーム(indepFlag>0)、変換長変更又はcore_mode==1の場合、対応するチャネルの前チャネルバッファはゼロに設定される。
予測ステレオペア、即ち、MCTSignalingType==0については、[1]の5.5.5.4.9.4項のステップ2で定義されたdownmix_prev[][]として前出力チャネルから前ダウンミックスが計算され、spectrum[window][]はspectral_data[][window]で表される。
回転ステレオペアについては、即ちMCTSignalingType==1の場合、[2]の5.5.X.3.7.1項で定義された回転操作を反転することによって、前出力チャネルから前ダウンミックスが計算される。
apply_mct_rotation_inverse(*R、*L、*dmx、aIdx、nSamples)

for(n=0;n<nSamples;n++){
dmx=L[n]*tabIndexToCosAlpha[aIdx]+R[n]*tabIndexToSinAlpha[aIdx];


前フレームのL=spectral_data_prev[ch1][]、R=spectral_data_prev[ch2][]、dmx=downmix_prev[]を使用し、現フレームとMCTペアのaIdx、n個のサンプルを使用する。
ステップ3:第2のチャネルの空き帯域におけるステレオ充填アルゴリズムの実行
ステレオ充填は、[1]の5.5.5.4.9.4項のステップ3のように、MCTペアの第2のチャネルに適用され、spectrum[window]は
spectral_data[ch2][window]によって表され、max_sfb_steはnum_swbで与えられる。
ステップ4:スケールファクタの適用とノイズ充填シードの適応同期。
[1]の5.5.5.4.9.4項のステップ3の後、スケールファクタはISO/IEC 23003−3の7.3のように結果のスペクトルに適用され、空の帯域のスケールファクタは通常のスケールファクタのように処理される。スケール係数が定義されていない場合、例えば、max_sfbよりも上にあるため、その値はゼロに等しくなる場合がある。IGFが使用され、igf_WhiteningLevelが第2のチャネルのタイルのいずれかで2に等しく、両方のチャネルが8個の短い変換を使用しない場合、MCTペアの両方のチャネルのスペクトルエネルギーは、decode_mct()を実行する前に、インデックスnoiseFillingStartOffsetからインデックスccfl/2−1までの範囲で計算される。第1のチャネルの計算されたエネルギーが第2のチャネルのエネルギーの8倍を超える場合、第2のチャネルのシード[ch2]は第1のチャネルのシード[ch1]に等しく設定される。
いくつかの態様は、装置の文脈で説明されているが、これらの態様は、対応する方法の説明も表しており、ブロック又は装置は、方法ステップ又は方法ステップの特徴に対応することは明らかである。同様に、方法ステップの文脈で説明される態様は、対応するブロック又は対応する装置のアイテム又は特徴の記述も表す。方法ステップの一部又は全部は、例えば、マイクロ処理部、プログラム可能なコンピュータ又は電子回路のようなハードウェア装置によって(又は使用して)実行されてもよい。いくつかの実施形態では、最も重要な方法ステップの1つ以上は、そのような装置によって実行されてもよい。
特定の実施要件に応じて、本発明の実施形態は、ハードウェア又はソフトウェアで、又は少なくとも部分的にハードウェアで、又は少なくとも部分的にソフトウェアで実施することができる。実施形態は、中に格納される電子的に読み取り可能な制御信号を有し、各方法が実行されるようにプログラム可能なコンピュータシステムと協働する(又は協働可能な)、例えばフロッピーディスク、DVD、ブルーレイ、CD、ROM、PROM、EPROM、EEPROM又はフラッシュメモリなどのデジタル記憶媒体を使用して実行することができる。従って、デジタル記憶媒体はコンピュータ可読であってもよい。
本発明によるいくつかの実施形態は、プログラム可能なコンピュータシステムと協働して、本明細書に記載の方法の1つが実行されるような、電子的に読み取り可能な制御信号を有するデータキャリアを備える。
一般に、本発明の実施形態は、コンピュータプログラム製品がコンピュータ上で動作するときに、本方法の1つを実行するように動作するプログラムコードを有するコンピュータプログラム製品として実施することができる。プログラムコードは、例えば、機械読み取り可能なキャリアに格納することができる。
他の実施形態は、本明細書に記載の方法の1つを実行するためのコンピュータプログラムを含み、機械読み取り可能なキャリアに格納される。
換言すれば、本発明の方法の実施形態は、コンピュータプログラムがコンピュータ上で実行されるときに、本明細書に記載の方法の1つを実行するためのプログラムコードを有するコンピュータプログラムである。
従って、本発明の方法の更なる実施形態は、本明細書に記載の方法のうちの1つを実行するためのコンピュータプログラムを含み、そこに記録される、データキャリア(又はデジタル記憶媒体又はコンピュータ可読媒体)である。データキャリア、デジタル記憶媒体又は記録媒体は、典型的には有形及び/又は非一時的である。
従って、本発明の方法の更なる実施形態は、本明細書に記載の方法のうちの1つを実行するためのコンピュータプログラムを表すデータストリーム又は信号のシーケンスである。データストリーム又は信号のシーケンスは、例えば、データ通信接続、例えばインターネットを介して転送されるように構成することができる。
更なる実施形態は、本明細書に記載の方法のうちの1つを実行するように構成された、又は適用される処理手段、例えばコンピュータ又はプログラマブル論理装置を含む。
更なる実施形態は、本明細書で説明される方法の1つを実行するためのコンピュータプログラムがインストールされたコンピュータを含む。
本発明による更なる実施形態は、本明細書で説明される方法の1つを実行するためのコンピュータプログラムを受信機に転送(例えば、電子的に又は光学的に)するように構成された装置又はシステムを含む。受信機は、例えば、コンピュータ、モバイル装置、メモリ装置などであってもよい。この装置又はシステムは、例えば、コンピュータプログラムを受信機に転送するためのファイルサーバを備えることができる。
いくつかの実施形態では、プログラマブルロジック装置(例えば、フィールドプログラマブルゲートアレイ)を使用して、本明細書に記載の方法の機能の一部又は全部を実行することができる。いくつかの実施形態では、フィールドプログラマブルゲートアレイは、本明細書で説明する方法の1つを実行するためにマイクロ処理部と協働することができる。一般に、これらの方法は、好ましくは、任意のハードウェア装置によって実行される。
本明細書に記載の装置は、ハードウェア装置を使用して、又はコンピュータを使用して、又はハードウェア装置とコンピュータの組み合わせを使用して実装することができる。
ここに記載された方法は、ハードウェア装置を使用して、又はコンピュータを使用して、又はハードウェア装置とコンピュータの組み合わせを使用して実行されてもよい。
上述の実施形態は、本発明の原理の単なる例示である。本明細書に記載された構成及び詳細の変更及び変形は、当業者には明らかであることが理解される。従って、差し迫った特許請求の範囲によってのみ限定され、本明細書の実施形態の記載及び説明によって示される特定の詳細によっては限定されないことが意図される。

Claims (22)

  1. 前フレームの前の符号化されたマルチチャネル信号を復号して3つ以上の前オーディオ出力チャネルを取得し、現フレームの現在の符号化されたマルチチャネル信号(107)を復号して3つ以上の現オーディオ出力チャネルを取得する装置(201)であって、
    前記装置(201)は、インタフェース(212)、チャネルデコーダ(202)、前記3つ以上の現オーディオ出力チャネルを生成するためのマルチチャネル処理部(204)、及びノイズ充填モジュール(220)を含み、
    前記インタフェース(212)は、前記現在の符号化されたマルチチャネル信号(107)を受信し、第1のマルチチャネルパラメータ(MCH_PAR2)を含むサイド情報を受信するように適合され、
    前記チャネルデコーダ(202)は、前記現フレームの前記現在の符号化されたマルチチャネル信号を復号して、前記現フレームの3つ以上の復号されたチャネルのセット(D1、D2、D3)を取得するように適合され、
    前記マルチチャネル処理部(204)は、前記第1のマルチチャネルパラメータ(MCH_PAR2)に応じて、前記3つ以上の復号されたチャネル(D1、D2、D3)のセットから2つの復号されたチャネルの第1の選択されたペア(D1、D2)を選択するように適合され、
    前記マルチチャネル処理部(204)は、2つの復号されたチャネル(D1、D2)の前記第1の選択されたペアに基づいて、2つ以上の処理されたチャネル(P1*、P2*)の第1のグループを生成し、3つ以上の復号されたチャネル(D3、P1*、P2*)の更新されたセットを取得するように適合され、
    前記マルチチャネル処理部(204)が、2つの復号されたチャネル(D1、D2)の前記第1の選択されたペアに基づいて、2つ以上の処理されたチャネル(P1*、P2*)の前記第1のペアを生成する前に、前記ノイズ充填モジュール(220)は、2つの復号されたチャネル(D1、D2)の前記第1の選択されたペアの前記2つのチャネルの少なくとも1つについて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域を識別し、前記3つ以上の前オーディオ出力チャネルの全てではなく、2つ以上を使用してミキシングチャネルを生成し、前記ミキシングチャネルのスペクトル線を使用して生成されたノイズを用いて、全てのスペクトル線がゼロに量子化される前記1つ以上の周波数帯域の前記スペクトル線を充填するのに適合し、前記ノイズ充填モジュール(220)は、前記サイド情報に応じて前記3つ以上の前オーディオ出力チャネルから前記ミキシングチャネルを生成するために使用される前記2つ以上の前オーディオ出力チャネルを選択するのに適合される、
    装置。
  2. 前記ノイズ充填モジュール(220)は、前記3つ以上の前オーディオ出力チャネルのうちの前記2つ以上の前オーディオ出力チャネルとして、前記3つ以上の前オーディオ出力チャネルのうちの正確に2つの前オーディオ出力チャネルを使用して、前記ミキシングチャネルを生成するのに適合され、
    前記ノイズ充填モジュール(220)は、前記サイド情報に応じて、前記3つ以上の前オーディオ出力チャネルから前記正確に2つの前オーディオ出力チャネルを選択するように適合される、
    請求項1に記載の装置(201)。
  3. 前記ノイズ充填モジュール(220)は、式
    又は式
    に基づいて、正確に2つの前オーディオ出力チャネルを使用して、前記ミキシングチャネルを生成するように適合され、
    ここでDchは、前記ミキシングチャネルであり、
    は、前記正確な2つの前オーディオ出力チャネルのうちの第1のオーディオ出力チャネルであり、
    は、前記正確な2つの前オーディオ出力チャネルのうちの第2のオーディオ出力チャネルであり、前記正確な2つの前オーディオ出力チャネルのうちの前記第1のオーディオ出力チャネルとは異なり、dは、実数の正のスカラーである、
    請求項2に記載の装置(201)。
  4. 前記ノイズ充填モジュール(220)は、式
    又は式
    に基づいて、正確に2つの前オーディオ出力チャネルを使用して、前記ミキシングチャネルを生成するように適合され、
    ここで
    は、前記ミキシングチャネルであり、
    は、前記正確な2つの前オーディオ出力チャネルのうちの第1のオーディオ出力チャネルであり、
    は、前記正確な2つの前オーディオ出力チャネルのうちの第2のオーディオ出力チャネルであり、前記正確な2つの前オーディオ出力チャネルのうちの前記第1のオーディオ出力チャネルとは異なり、αは、回転角度である、
    請求項2に記載の装置(201)。
  5. 前記サイド情報は、前記現フレームに割り当てられている現在のサイド情報であり、
    前記インタフェース(212)は、前記前フレームに割り当てられた以前のサイド情報を受信するように構成され、前記以前のサイド情報は以前の角度を含み、
    前記インタフェース(212)は、現在の角度を含む前記現在のサイド情報を受信するように適合され、
    前記ノイズ充填モジュール(220)は、前記現在のサイド情報の前記現在の角度を、前記回転角度αとして使用するように適合され、前記以前のサイド情報の前記以前の角度を前記回転角度αとして使用しないように適合される、
    請求項4に記載の装置(201)。
  6. 前記ノイズ充填モジュール(220)は、前記第1のマルチチャネルパラメータ(MCH_PAR2)に応じて、前記3つ以上の前オーディオ出力チャネルから前記正確に2つの前オーディオ出力チャネルを選択するように適合される、請求項2から5のいずれか一項に記載の装置(201)。
  7. 前記インタフェース(212)は、前記現在の符号化されたマルチチャネル信号(107)を受信し、前記第1のマルチチャネルパラメータ(MCH_PAR2)および第2のマルチチャネルパラメータ(MCH_PAR1)を含む前記サイド情報を受信するように適合され、
    前記マルチチャネル処理部(204)は、前記第2のマルチチャネルパラメータ(MCH_PAR1)に応じて、3つ以上の復号されたチャネル(D3、P1*、P2*)の前記更新されたセットから2つの復号されたチャネル(P1*、D3)の第2の選択されたペアを選択するように適合され、2つの復号されたチャネル(P1*、D3)の前記第2の選択されたペアの少なくとも1つのチャネル(P1*)は、2つ以上の処理されたチャネル(P1*、P2*)の前記第1のペアの1つのチャネルであり、
    前記マルチチャネル処理部(204)は、2つの復号されたチャネル(P1、D3)の前記第2の選択されたペアに基づいて、2つ以上の処理されたチャネル(P3*、P4*)の第2のグループを生成し、3つ以上の復号されたチャネルの前記更新されたセットを更に更新するように適合される、
    請求項2から6のいずれか一項に記載の装置(201)。
  8. 前記マルチチャネル処理部204は、2つの復号されたチャネル(D1、D2)の前記第1の選択されたペアに基づいて、正確に2つの処理されたチャネル(P1*、P2*)の第1のグループを生成することによって、2つ以上の処理されたチャネル(P1*、P2*)の前記第1のグループを生成するように適合され、
    前記マルチチャネル処理部(204)は、正確に2つの処理されたチャネル(P1*、P2*)の前記第1のグループによって、3つ以上の復号されたチャネル(D1、D2、D3)の前記セットにおいて2つの復号されたチャネル(D1、D2)の前記第1の選択されたペアを置き換え、3つ以上の復号されたチャネル(D3、P1*、P2*)の前記更新されたセットを得るように適合され、
    前記マルチチャネル処理部(204)は、2つの復号されたチャネル(P1*、D3)の前記第2の選択されたペアに基づいて、正確に2つの処理されたチャネル(P3*、P4*)の前記第2のグループを生成することによって、2つ以上の処理されたチャネル(P3*、P4*)の第2のグループを生成するように適合され、
    前記マルチチャネル処理部(204)は、正確に2つの処理されたチャネル(P3*、P4*)の前記第2のグループによって、3つ以上の復号されたチャネル(D3、P1*、P2*)の前記更新されたセットにおいて2つの復号されたチャネル(P1*、D3)の前記第2の選択されたペアを置き換え、3つ以上の復号されたチャネルの前記更新されたセットを更に更新するように適合される、
    請求項7に記載の装置(201)。
  9. 前記第1のマルチチャネルパラメータ(MCH_PAR2)は、3つ以上の復号されたチャネルの前記セットから2つの復号されたチャネル(D1、D2)を示し、
    前記マルチチャネル処理部(204)は、前記第1のマルチチャネルパラメータ(MCH_PAR2)によって示される前記2つの復号されたチャネル(D1、D2)を選択することによって、3つ以上の復号されたチャネルの前記セット(D1、D2、D3)から2つの復号されたチャネル(D1、D2)の前記第1の選択されたペアを選択するように適合され、
    前記第2のマルチチャネルパラメータ(MCH_PAR1)は、3つ以上の復号されたチャネルの前記更新されたセットから2つの復号されたチャネル(P1*、D3)を示し、
    前記マルチチャネル処理部(204)は、前記第2のマルチチャネルパラメータ(MCH_PAR1)によって示される2つの復号されたチャネル(P1*、D3)を選択することによって、3つ以上の復号されたチャネル(D3、P1*、P2*)の前記更新されたセットから、前記2つの復号されたチャネル(P1*、D3)の前記第2の選択されたペアを選択するように適合される、
    請求項8に記載の装置(201)。
  10. 前記装置(201)は、前記3つ以上の前オーディオ出力チャネルの各前オーディオ出力チャネルに、識別部の前記セットから識別部を割り当てるように適合され、その結果、前記3つ以上の前オーディオ出力チャネルの各前オーディオ出力チャネルが、識別部の前記セットのうちの正確に1つの識別部に割り当てられ、識別部の前記セットの各識別部が、前記3つ以上の前オーディオ出力チャネルのうちの正確に1つの前オーディオ出力チャネルに割り当てられ、
    前記装置(201)は、前記3つ以上の復号されたチャネル(D1、D2、D3)の前記セットの各チャネルに、識別部の前記セットから識別部を割り当てるように適合され、その結果、前記3つ以上の復号されたチャネルの前記セットの各チャネルが、識別部の前記セットのうちの正確に1つの識別部に割り当てられ、識別部の前記セットの各識別部が、前記3つ以上の復号されたチャネル(D1、D2、D3)の前記セットの正確に1つのチャネルに割り当てられ、
    前記第1のマルチチャネルパラメータ(MCH_PAR2)は、前記3つ以上の識別部の前記セットの2つの識別部の第1のペアを示し、
    前記マルチチャネル処理部(204)は、2つの識別部の前記第1のペアの2つの識別部に割り当てられる2つの復号されたチャネル(D1、D2)を選択することによって、3つ以上の復号されたチャネル(D1、D2、D3)の前記セットから前記2つの復号されたチャネル(D1、D2)の前記第1の選択されたペアを選択するように適合され、
    前記装置(201)は、2つの識別部の前記第1のペアの前記2つの識別部のうちの第1の識別部を、正確に2つの処理されたチャネル(P1*、P2*)の前記第1のグループの第1の処理されたチャネルに割り当てるように適合され、
    前記装置(201)は、2つの識別部の前記第1のペアの前記2つの識別部のうちの第2の識別部を、正確に2つの処理されたチャネル(P1*、P2*)の前記第1のグループの第2の処理されたチャネルに割り当てるように適合される、
    請求項9に記載の装置(201)。
  11. 前記第2のマルチチャネルパラメータ(MCH_PAR1)は、前記3つ以上の識別部の前記セットの2つの識別部の第2のペアを示し、
    前記マルチチャネル処理部(204)は、2つの識別部の前記第2のペアの前記2つの識別部に割り当てられる前記2つの復号されたチャネル(D3,P1*)を選択することによって、3つ以上の復号されたチャネル(D3、P1*、P2*)の前記更新されたセットから前記2つの復号されたチャネル(P1*、D3)の前記第2の選択されたペアを選択するように適合され、
    前記装置(201)は、2つの識別部の前記第2のペアの前記2つの識別部のうちの第1の識別部を、正確に2つの処理されたチャネル(P3*、P4*)の前記第2のグループの第1の処理されたチャネルに割り当てるように適合され、
    前記装置(201)は、2つの識別部の前記第2のペアの前記2つの識別部のうちの第2の識別部を、正確に2つの処理されたチャネル(P3*、P4*)の前記第2のグループの第2の処理されたチャネルに割り当てるように適合される、
    請求項10に記載の装置(201)。
  12. 前記第1のマルチチャネルパラメータ(MCH_PAR2)は、前記3つ以上の識別部の前記セットの2つの識別部の前記第1のペアを示し、
    前記ノイズ充填モジュール(220)は、2つの識別部の前記第1のペアの前記2つの識別部に割り当てられる前記2つの前オーディオ出力チャネルを選択することによって、前記3つ以上の前オーディオ出力チャネルから前記正確に2つの前オーディオ出力チャネルを選択するように適合される、請求項10又は11に記載の装置(201)。
  13. 前記マルチチャネル処理部(204)が、2つの復号されたチャネルの前記第1の選択されたペア(D1、D2)に基づいて、2つ以上の処理されたチャネル(P1*,P2*)の前記第1のペアを生成する前に、前記ノイズ充填モジュール(220)は、2つの復号されたチャネルの前記第1の選択されたペア(D1、D2)の前記2つのチャネルの少なくとも1つについて、全てのスペクトル線がゼロに量子化される前記1つ以上の周波数帯域である1つ以上のスケールファクタ帯域を識別し、前記3つ以上の前オーディオ出力チャネルの全てではなく、前記2つ以上の前オーディオ出力チャネルを使用して前記ミキシングチャネルを生成し、全てのスペクトル線がゼロに量子化される前記1つ以上のスケールファクタ帯域のそれぞれのスケールファクタに依存して、前記ミキシングチャネルの前記スペクトル線を使用して生成された前記ノイズを用いて、全てのスペクトル線がゼロに量子化される前記1つ以上の周波数帯域の前記スペクトル線を充填するのに適合される、
    請求項1から12のいずれか一項に記載の装置(201)。
  14. 前記受信インタフェース(212)は、前記1つ以上のスケールファクタ帯域のそれぞれの前記スケールファクタを受信するように構成され、
    前記1つ以上のスケールファクタ帯域の各々の前記スケールファクタは、量子化前の前記スケールファクタ帯域の前記スペクトル線のエネルギーを示し、
    前記ノイズ充填モジュール(220)は、全てのスペクトル線がゼロに量子化された前記1つ以上のスケールファクタ帯域の各々について前記ノイズを生成するように適合され、その結果、前記スペクトル線のエネルギーは、前記周波数帯域の1つに前記ノイズを加えた後に、前記スケールファクタ帯域の前記スケールファクタによって示される前記エネルギーに対応する、
    請求項13に記載の装置(201)。
  15. 少なくとも3つのチャネル(CH1〜CH3)を有するマルチチャネル信号(101)を符号化するための装置(100)であって、前記装置は、
    第1の反復ステップにおいて、最高値を有するペア又は閾値より上の値を有するペアを選択し、かつマルチチャネル処理動作(110,112)を用いて前記選択されたペアを処理して前記選択されたペア用の初期マルチチャネルパラメータ(MCH_PAR1)を導出し、かつ第1の処理されたチャネル(P1,P2)を導出するために、前記第1の反復ステップにおいて、前記少なくとも3つのチャネル(CH〜CH3)の各ペアの間のチャネル間相関値を計算するのに適した、反復処理部(102)であって、
    前記反復処理部(102)は、前記処理されたチャネル(P1)の少なくとも1つを使用して、第2の反復ステップで計算、選択及び処理を実行して、更なるマルチチャネルパラメータMCH_PAR2及び第2の処理されたチャネル(P3,P4)を導出するのに適合される、反復処理部と、
    符号化されたチャネル(E1〜E3)を得るために、前記反復処理部(104)によって実行される反復処理から生じるチャネル(P2〜P4)を符号化するのに適合されたチャネルエンコーダと、
    前記符号化されたチャネル(E1〜E3)、前記初期マルチパラメータ及び前記更なるマルチチャネルパラメータ(MCH_PAR1、MCH_PAR2)を有し、更に復号化装置によって以前に復号された、以前に復号されたオーディオ出力チャネルに基づいて生成されたノイズを用いて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、前記復号化装置が充填すべきか否かを示す情報を有する符号化されたマルチチャネル信号(107)を生成するのに適合された出力インタフェース(106)と、
    を備える、装置。
  16. 前記初期マルチチャネルパラメータ及び前記更なるマルチチャネルパラメータ(MCH_PAR1、MCH_PAR2)の各々は、正確に2つのチャネルを示し、前記正確に2つのチャネルの各々は、前記符号化されたチャネル(E1〜E3)の1つであるか、前記第1又は前記第2の処理されたチャネル(P1、P2、P3、P4)のうちの1つ、又は前記少なくとも3つのチャネルのうちの1つ(CH〜CH3)であり、
    前記出力インタフェース(106)は、前記符号化されたマルチチャネル信号(107)を生成するように適合され、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、復号化装置が充填すべきか否かを示す前記情報が、前記初期及び前記マルチチャネルパラメータ(MCH_PAR1、MCH_PAR2)のそれぞれについて、前記初期及び前記更なるマルチチャネルパラメータ(MCH_PAR1、MCH_PAR2)のうちの前記1つによって示される前記正確に2つのチャネルの少なくとも1つのチャネルについて、前記少なくとも1つのチャネルの全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、前記復号化装置によって以前に復号された、前記以前に復号されたオーディオ出力チャネルに基づいて生成された前記スペクトルデータを用いて、前記復号化装置が充填すべきか否かを示す情報を備える、
    請求項15に記載の装置(100)。
  17. 請求項15又は16に記載の符号化装置(100)と、
    請求項1から14のいずれか一項に記載の復号化装置(201)と
    を含み、
    前記復号化装置(201)は、前記符号化装置(100)から前記符号化装置(100)によって生成された前記符号化されたマルチチャネル信号(107)を受信するように構成される、システム。
  18. 前フレームの前の符号化されたマルチチャネル信号を復号して3つ以上の前オーディオ出力チャネルを取得し、現フレームの現在の符号化されたマルチチャネル信号(107)を復号して3つ以上の現オーディオ出力チャネルを取得する方法であって、前記方法は、
    前記現在の符号化されたマルチチャネル信号(107)を受信し、第1のマルチチャネルパラメータ(MCH_PAR2)を含むサイド情報を受信することと、
    前記現フレームの前記現在の符号化されたマルチチャネル信号を復号して、前記現フレームの3つ以上の復号されたチャネルのセット(D1、D2、D3)を取得することと、
    前記第1のマルチチャネルパラメータ(MCH_PAR2)に応じて、前記3つ以上の復号されたチャネル(D1、D2、D3)のセットから2つの復号されたチャネルの第1の選択されたペア(D1、D2)を選択することと、
    2つの復号されたチャネル(D1、D2)の前記第1の選択されたペアに基づいて、2つ以上の処理されたチャネル(P1*、P2*)の第1のグループを生成し、3つ以上の復号されたチャネル(D3、P1*、P2*)の更新されたセットを取得することと、
    を含み、
    2つの復号されたチャネル(D1、D2)の前記第1の選択されたペアに基づいて、2つ以上の処理されたチャネル(P1*、P2*)の前記第1のペアが生成される前に、
    2つの復号されたチャネル(D1、D2)の前記第1の選択されたペアの前記2つのチャネルの少なくとも1つについて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域を識別し、前記3つ以上の前オーディオ出力チャネルの全てではなく、2つ以上を使用してミキシングチャネルを生成し、前記ミキシングチャネルのスペクトル線を使用して生成されたノイズを用いて、全てのスペクトル線がゼロに量子化される前記1つ以上の周波数帯域の前記スペクトル線を充填し、前記3つ以上の前オーディオ出力チャネルから前記ミキシングチャネルを生成するために使用される前記2つ以上の前オーディオ出力チャネルを選択することは前記サイド情報に依存する、
    方法。
  19. 少なくとも3つのチャネル(CH1〜CH3)を有するマルチチャネル信号(101)を符号化するための方法であって、前記方法は、
    第1の反復ステップにおいて、最高値を有するペア又は閾値より上の値を有するペアを選択し、かつマルチチャネル処理動作(110,112)を用いて前記選択されたペアを処理して前記選択されたペア用の初期マルチチャネルパラメータ(MCH_PAR1)を導出し、かつ第1の処理されたチャネル(P1,P2)を導出するために、前記第1の反復ステップにおいて、前記少なくとも3つのチャネル(CH〜CH3)の各ペアの間のチャネル間相関値を計算することと、
    前記処理されたチャネル(P1)の少なくとも1つを使用して、第2の反復ステップで計算、選択及び処理を実行して、更なるマルチチャネルパラメータ(MCH_PAR2)及び第2の処理されたチャネル(P3,P4)を導出することと、
    符号化されたチャネル(E1〜E3)を得るために、前記反復処理部(104)によって実行される反復処理から生じるチャネル(P2〜P4)を符号化することと、
    前記符号化されたチャネル(E1〜E3)、前記初期マルチパラメータ及び前記更なるマルチチャネルパラメータ(MCH_PAR1、MCH_PAR2)を有し、更に復号化装置によって以前に復号された、以前に復号されたオーディオ出力チャネルに基づいて生成されたノイズを用いて、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、前記復号化装置が充填すべきか否かを示す情報を有する符号化されたマルチチャネル信号(107)を生成することと、
    を備える、
    方法。
  20. コンピュータ又は信号処理部上で実行される場合、請求項18又は19に記載の方法を実施するためのコンピュータプログラム。
  21. 符号化されたチャネル(E1〜E3)と、
    マルチチャネルパラメータ(MCH_PAR1、MCH_PAR2)と、
    全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、復号化装置によって以前に復号された、以前に復号されたオーディオ出力チャネルに基づいて生成されたスペクトルデータを用いて、前記復号化装置が充填すべきか否かを示す情報と
    を含む、符号化されたマルチチャネル信号。
  22. 前記符号化されたマルチチャネル信号が、前記マルチチャネルパラメータ(MCH_PAR1、MCH_PAR2)として、2つ以上のマルチチャネルパラメータ(MCH_PAR1、MCH_PAR2)を含み、
    前記初期マルチチャネルパラメータ及び前記更なるマルチチャネルパラメータ(MCH_PAR1、MCH_PAR2)の各々は、正確に2つのチャネルを示し、前記正確に2つのチャネルの各々は、前記符号化されたチャネル(E1〜E3)の1つであるか、複数の処理されたチャネル(P1、P2、P3、P4)のうちの1つ、又は前記少なくとも3つの元のチャネルのうちの1つ(CH〜CH3)であり、
    前記情報は、全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、復号化装置が充填すべきか否かを示し、前記2つ以上のマルチチャネルパラメータ(MCH_PAR1、MCH_PAR2)のそれぞれについて、前記2つ以上のマルチチャネルパラメータのうちの前記1つによって示される前記正確に2つのチャネルの少なくとも1つのチャネルについて、前記少なくとも1つのチャネルの全てのスペクトル線がゼロに量子化される1つ以上の周波数帯域のスペクトル線を、前記復号化装置によって以前に復号された、前記以前に復号されたオーディオ出力チャネルに基づいて生成された前記スペクトルデータを用いて、前記復号化装置が充填すべきか否かを示す、
    請求項21に記載の符号化マルチチャネル信号(107)。
JP2020117752A 2016-02-17 2020-07-08 マルチチャネル符号化におけるステレオ充填装置及び方法 Active JP7122076B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022125967A JP2022160597A (ja) 2016-02-17 2022-08-06 マルチチャネル符号化におけるステレオ充填装置及び方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP16156209.5A EP3208800A1 (en) 2016-02-17 2016-02-17 Apparatus and method for stereo filing in multichannel coding
EP16156209.5 2016-02-17

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018543213A Division JP6735053B2 (ja) 2016-02-17 2017-02-14 マルチチャネル符号化におけるステレオ充填装置及び方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022125967A Division JP2022160597A (ja) 2016-02-17 2022-08-06 マルチチャネル符号化におけるステレオ充填装置及び方法

Publications (2)

Publication Number Publication Date
JP2020173474A true JP2020173474A (ja) 2020-10-22
JP7122076B2 JP7122076B2 (ja) 2022-08-19

Family

ID=55361430

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2018543213A Active JP6735053B2 (ja) 2016-02-17 2017-02-14 マルチチャネル符号化におけるステレオ充填装置及び方法
JP2020117752A Active JP7122076B2 (ja) 2016-02-17 2020-07-08 マルチチャネル符号化におけるステレオ充填装置及び方法
JP2022125967A Pending JP2022160597A (ja) 2016-02-17 2022-08-06 マルチチャネル符号化におけるステレオ充填装置及び方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018543213A Active JP6735053B2 (ja) 2016-02-17 2017-02-14 マルチチャネル符号化におけるステレオ充填装置及び方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022125967A Pending JP2022160597A (ja) 2016-02-17 2022-08-06 マルチチャネル符号化におけるステレオ充填装置及び方法

Country Status (19)

Country Link
US (3) US10733999B2 (ja)
EP (3) EP3208800A1 (ja)
JP (3) JP6735053B2 (ja)
KR (1) KR102241915B1 (ja)
CN (6) CN117059110A (ja)
AR (1) AR107617A1 (ja)
AU (1) AU2017221080B2 (ja)
BR (6) BR112018016898A2 (ja)
CA (1) CA3014339C (ja)
ES (1) ES2773795T3 (ja)
MX (3) MX2018009942A (ja)
MY (1) MY194946A (ja)
PL (1) PL3417452T3 (ja)
PT (1) PT3417452T (ja)
RU (1) RU2710949C1 (ja)
SG (1) SG11201806955QA (ja)
TW (1) TWI634548B (ja)
WO (1) WO2017140666A1 (ja)
ZA (1) ZA201805498B (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10037750B2 (en) * 2016-02-17 2018-07-31 RMXHTZ, Inc. Systems and methods for analyzing components of audio tracks
EP3208800A1 (en) * 2016-02-17 2017-08-23 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for stereo filing in multichannel coding
EP3497944A1 (en) * 2016-10-31 2019-06-19 Google LLC Projection-based audio coding
CN110892478A (zh) * 2017-04-28 2020-03-17 Dts公司 音频编解码器窗口和变换实现
US10553224B2 (en) * 2017-10-03 2020-02-04 Dolby Laboratories Licensing Corporation Method and system for inter-channel coding
US11322164B2 (en) 2018-01-18 2022-05-03 Dolby Laboratories Licensing Corporation Methods and devices for coding soundfield representation signals
BR112020021832A2 (pt) 2018-04-25 2021-02-23 Dolby International Ab integração de técnicas de reconstrução de alta frequência
KR102474146B1 (ko) * 2018-04-25 2022-12-06 돌비 인터네셔널 에이비 후처리 지연을 저감시킨 고주파 재구성 기술의 통합
EP3588495A1 (en) 2018-06-22 2020-01-01 FRAUNHOFER-GESELLSCHAFT zur Förderung der angewandten Forschung e.V. Multichannel audio coding
BR112020017338A2 (pt) 2018-07-02 2021-03-02 Dolby Laboratories Licensing Corporation métodos e dispositivos para codificar e/ou decodificar sinais de áudio imersivos
EP3719799A1 (en) * 2019-04-04 2020-10-07 FRAUNHOFER-GESELLSCHAFT zur Förderung der angewandten Forschung e.V. A multi-channel audio encoder, decoder, methods and computer program for switching between a parametric multi-channel operation and an individual channel operation
TWI750565B (zh) * 2020-01-15 2021-12-21 原相科技股份有限公司 真無線多聲道揚聲裝置及其多音源發聲之方法
CN113948097A (zh) * 2020-07-17 2022-01-18 华为技术有限公司 多声道音频信号编码方法和装置
CN113948096A (zh) * 2020-07-17 2022-01-18 华为技术有限公司 多声道音频信号编解码方法和装置
CN114023338A (zh) * 2020-07-17 2022-02-08 华为技术有限公司 多声道音频信号的编码方法和装置
TWI744036B (zh) 2020-10-14 2021-10-21 緯創資通股份有限公司 聲音辨識模型訓練方法及系統與電腦可讀取媒體
CN113242546B (zh) * 2021-06-25 2023-04-21 南京中感微电子有限公司 音频转发方法、设备和存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015011061A1 (en) * 2013-07-22 2015-01-29 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Noise filling in multichannel audio coding
WO2015036351A1 (en) * 2013-09-12 2015-03-19 Dolby International Ab Methods and devices for joint multichannel coding
JP6735053B2 (ja) * 2016-02-17 2020-08-05 フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン マルチチャネル符号化におけるステレオ充填装置及び方法

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102005010057A1 (de) 2005-03-04 2006-09-07 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Erzeugen eines codierten Stereo-Signals eines Audiostücks oder Audiodatenstroms
RU2406164C2 (ru) * 2006-02-07 2010-12-10 ЭлДжи ЭЛЕКТРОНИКС ИНК. Устройство и способ для кодирования/декодирования сигнала
KR101450940B1 (ko) * 2007-09-19 2014-10-15 텔레폰악티에볼라겟엘엠에릭슨(펍) 멀티채널 오디오의 조인트 인핸스먼트
CN100555414C (zh) * 2007-11-02 2009-10-28 华为技术有限公司 一种dtx判决方法和装置
US7820321B2 (en) 2008-07-07 2010-10-26 Enervault Corporation Redox flow battery system for distributed energy storage
MX2011000370A (es) * 2008-07-11 2011-03-15 Fraunhofer Ges Forschung Un aparato y un metodo para decodificar una señal de audio codificada.
KR101518532B1 (ko) 2008-07-11 2015-05-07 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 오디오 인코더, 오디오 디코더, 오디오 신호, 오디오 스트림을 부호화 및 복호화하는 장치 및 컴퓨터 프로그램
WO2010042024A1 (en) * 2008-10-10 2010-04-15 Telefonaktiebolaget Lm Ericsson (Publ) Energy conservative multi-channel audio coding
EP2182513B1 (en) * 2008-11-04 2013-03-20 Lg Electronics Inc. An apparatus for processing an audio signal and method thereof
US20100324915A1 (en) * 2009-06-23 2010-12-23 Electronic And Telecommunications Research Institute Encoding and decoding apparatuses for high quality multi-channel audio codec
GEP20146081B (en) 2009-12-07 2014-04-25 Dolby Laboratories Licensing Corp Decoding of multichannel aufio encoded bit streams using adaptive hybrid transformation
CN102884570B (zh) 2010-04-09 2015-06-17 杜比国际公司 基于mdct的复数预测立体声编码
EP2375409A1 (en) 2010-04-09 2011-10-12 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio encoder, audio decoder and related methods for processing multi-channel audio signals using complex prediction
WO2012122297A1 (en) * 2011-03-07 2012-09-13 Xiph. Org. Methods and systems for avoiding partial collapse in multi-block audio coding
RU2648595C2 (ru) * 2011-05-13 2018-03-26 Самсунг Электроникс Ко., Лтд. Распределение битов, кодирование и декодирование аудио
CN102208188B (zh) * 2011-07-13 2013-04-17 华为技术有限公司 音频信号编解码方法和设备
CN103971689B (zh) * 2013-02-04 2016-01-27 腾讯科技(深圳)有限公司 一种音频识别方法及装置
EP3014609B1 (en) * 2013-06-27 2017-09-27 Dolby Laboratories Licensing Corporation Bitstream syntax for spatial voice coding
EP2830065A1 (en) * 2013-07-22 2015-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for decoding an encoded audio signal using a cross-over filter around a transition frequency
EP2830045A1 (en) * 2013-07-22 2015-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Concept for audio encoding and decoding for audio channels and audio objects

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015011061A1 (en) * 2013-07-22 2015-01-29 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Noise filling in multichannel audio coding
WO2015036351A1 (en) * 2013-09-12 2015-03-19 Dolby International Ab Methods and devices for joint multichannel coding
JP6735053B2 (ja) * 2016-02-17 2020-08-05 フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン マルチチャネル符号化におけるステレオ充填装置及び方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
DICK, SASCHA ET AL.: ""Discrete multi-Channel coding tool for MPEG-H3D audio"", CODING OF MOVING PICTURES AND AUDIO OF ISO/IEC JTC1/SC29/WG11 MEPG2015/M36591, JPN5019001705, June 2015 (2015-06-01), ISSN: 0004586089 *

Also Published As

Publication number Publication date
EP3208800A1 (en) 2017-08-23
AR107617A1 (es) 2018-05-16
WO2017140666A1 (en) 2017-08-24
BR112018016898A2 (pt) 2018-12-26
CN117153171A (zh) 2023-12-01
JP2019509511A (ja) 2019-04-04
PL3417452T3 (pl) 2020-06-29
TW201740368A (zh) 2017-11-16
AU2017221080B2 (en) 2020-02-27
CN109074810A (zh) 2018-12-21
MX2021009735A (es) 2021-09-08
CN117059110A (zh) 2023-11-14
EP3629326A1 (en) 2020-04-01
US11727944B2 (en) 2023-08-15
JP7122076B2 (ja) 2022-08-19
KR102241915B1 (ko) 2021-04-19
KR20180136440A (ko) 2018-12-24
SG11201806955QA (en) 2018-09-27
CA3014339C (en) 2021-01-26
US20200357418A1 (en) 2020-11-12
US10733999B2 (en) 2020-08-04
BR122023025322A2 (pt) 2024-02-27
ZA201805498B (en) 2019-08-28
MX2021009732A (es) 2021-09-08
TWI634548B (zh) 2018-09-01
JP2022160597A (ja) 2022-10-19
CA3014339A1 (en) 2017-08-24
EP3417452A1 (en) 2018-12-26
CN117116272A (zh) 2023-11-24
CN117059108A (zh) 2023-11-14
US20230377586A1 (en) 2023-11-23
MY194946A (en) 2022-12-27
CN117059109A (zh) 2023-11-14
CN109074810B (zh) 2023-08-18
ES2773795T3 (es) 2020-07-14
MX2018009942A (es) 2018-11-09
BR122023025319A2 (pt) 2024-02-27
BR122023025309A2 (pt) 2024-02-27
JP6735053B2 (ja) 2020-08-05
US20190005969A1 (en) 2019-01-03
PT3417452T (pt) 2020-03-27
EP3417452B1 (en) 2019-12-25
BR122023025314A2 (pt) 2024-02-27
BR122023025300A2 (pt) 2024-02-27
AU2017221080A1 (en) 2018-10-04
RU2710949C1 (ru) 2020-01-14

Similar Documents

Publication Publication Date Title
JP2020173474A (ja) マルチチャネル符号化におけるステレオ充填装置及び方法
RU2625444C2 (ru) Система обработки аудио
EP2609591A1 (en) Apparatus for generating a decorrelated signal using transmitted phase information
JP6248194B2 (ja) 多チャネルオーディオ符号化におけるノイズ充填
WO2009048239A2 (en) Encoding and decoding method using variable subband analysis and apparatus thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200806

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210903

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20211126

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220302

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220708

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220806

R150 Certificate of patent or registration of utility model

Ref document number: 7122076

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150