JP2016528542A - 拡張空間オーディオオブジェクト符号化の装置及び方法 - Google Patents

拡張空間オーディオオブジェクト符号化の装置及び方法 Download PDF

Info

Publication number
JP2016528542A
JP2016528542A JP2016528448A JP2016528448A JP2016528542A JP 2016528542 A JP2016528542 A JP 2016528542A JP 2016528448 A JP2016528448 A JP 2016528448A JP 2016528448 A JP2016528448 A JP 2016528448A JP 2016528542 A JP2016528542 A JP 2016528542A
Authority
JP
Japan
Prior art keywords
audio
information
downmix
signals
channels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016528448A
Other languages
English (en)
Other versions
JP6333374B2 (ja
Inventor
ユルゲン・ヘルレ
アドリアン・ムルタザ
ジョウニ・パウルス
ザッシャ・ディッシュ
ハラルド・フックス
オリベル・ヘルムート
ファルコ・リッデルブッシュ
レオン・テレンティフ
Original Assignee
フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from EP20130177378 external-priority patent/EP2830045A1/en
Application filed by フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン filed Critical フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン
Publication of JP2016528542A publication Critical patent/JP2016528542A/ja
Application granted granted Critical
Publication of JP6333374B2 publication Critical patent/JP6333374B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S3/00—Systems employing more than two channels, e.g. quadraphonic
    • H04S3/02—Systems employing more than two channels, e.g. quadraphonic of the matrix type, i.e. in which input signals are combined algebraically, e.g. after having been phase shifted with respect to each other
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008—Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S3/00—Systems employing more than two channels, e.g. quadraphonic
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S3/00—Systems employing more than two channels, e.g. quadraphonic
    • H04S3/006—Systems employing more than two channels, e.g. quadraphonic in which a plurality of audio signals are transformed in a combination of audio signals and modulated signals, e.g. CD-4 systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S3/00—Systems employing more than two channels, e.g. quadraphonic
    • H04S3/008—Systems employing more than two channels, e.g. quadraphonic in which the audio signals are in digital form, i.e. employing more than two discrete digital channels
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S7/00—Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30—Control circuits for electronic adaptation of the sound field
    • H04S7/305—Electronic adaptation of stereophonic audio signals to reverberation of the listening space
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/01—Multi-channel, i.e. more than two input channels, sound reproduction with two speakers wherein the multi-channel information is substantially preserved
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/03—Aspects of down-mixing multi-channel audio to configurations with lower numbers of playback channels, e.g. 7.1 -> 5.1
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/11—Positioning of individual sound objects, e.g. moving airplane, within a sound field
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/13—Aspects of volume control, not necessarily automatic, in stereophonic sound systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2420/00—Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/03—Application of parametric coding in stereophonic audio systems

Abstract

１つ以上のオーディオ出力チャンネルを生成する装置が提供される。この装置は、ミキシング情報を算出するパラメータプロセッサ(１１０)と、１つ以上のオーディオ出力チャンネルを生成するダウンミックスプロセッサ(１２０)とを備える。ダウンミックスプロセッサ(１２０)は、１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を受信するように構成されている。１つ以上のオーディオチャンネル信号はオーディオトランスポート信号内で混合され、１つ以上のオーディオオブジェクト信号はオーディオトランスポート信号内で混合され、１つ以上のオーディオトランスポートチャンネルの数は、１つ以上のオーディオチャンネル信号の数に１つ以上のオーディオオブジェクト信号の数を加えた数より少なくされている。パラメータプロセッサ(１１０)は、１つ以上のオーディオチャンネル信号及び１つ以上のオーディオオブジェクト信号が１つ以上のオーディオトランスポートチャンネル内でどのように混合されるかに関する情報を示すダウンミックス情報を受信するように構成され、パラメータプロセッサ(１１０)は共分散情報を受信するように構成されている。さらに、パラメータプロセッサ(１１０)は、ダウンミックス情報に依存して、及び共分散情報に依存してミキシング情報を算出するように構成されている。ダウンミックスプロセッサ(１２０)は、ミキシング情報に依存してオーディオトランスポート信号から１つ以上のオーディオ出力チャンネルを生成するように構成されている。共分散情報は１つ以上のオーディオチャンネル信号のうち少なくとも１つに対するレベル差情報を示し、さらに１つ以上のオーディオオブジェクト信号のうち少なくとも１つに対するレベル差情報を示す。しかしながら、共分散情報は、１つ以上のオーディオチャンネル信号のうちの１つと、１つ以上のオーディオオブジェクト信号のうちの１つとのペアに対する相関情報を示すことがない。【選択図】図１

Description

本発明は、オーディオ符号化/復号化に関し、詳しくは空間オーディオ符号化及び空間オーディオオブジェクト符号化に関し、より詳しくは拡張空間オーディオオブジェクト符号化の装置及び方法に関する。
空間オーディオ符号化ツールは、当該技術分野において周知であり、例えば、ＭＰＥＧサラウンド規格において標準化されている。空間オーディオ符号化は、再生セットアップにおけるチャンネル配置によって識別された５つ又は７つのチャンネルのような元の入力チャンネル、すなわち、左チャネル、中央チャネル、右チャネル、左サラウンドチャネル、右サラウンドチャネル、及び低周波数強化チャンネルから始まる。空間オーディオエンコーダは、典型的には元のチャンネルから１つ以上のダウンミックスチャンネルを取り出し、その上、チャンネルコヒーレンス値のチャンネル間レベル差、チャンネル間位相差、チャンネル間時間差などのような空間キューに関連するパラメトリックデータを取り出す。１つ以上のダウンミックスチャンネルは、元の入力チャンネルの近似バージョンである出力チャンネルを最終的に得るために、空間キューを示すパラメトリックサイド情報と共に、ダウンミックスチャンネル及び関連付けられたパラメトリックデータを復号化する空間オーディオデコーダに送信される。出力セットアップの中のチャンネルの配置は典型的には固定され、例えば５.１フォーマット、７.１フォーマットなどである。
このようなチャンネルベースのオーディオフォーマットは、各チャンネルが所定の位置に特定のスピーカーに関係するマルチチャンネルオーディオコンテンツを記憶又は送信するため広く使用されている。このようなフォーマットの忠実な再生は、スピーカーがオーディオ信号の生成中に使用されたスピーカーと同じ位置に設置されているというスピーカーセットアップを要件とする。スピーカーの台数を増やすことは、正確没入型３Ｄオーディオシーンの再生を改善するが、この要件を実現することは、特に、居間のような家庭内環境ではより一層困難になる。
特定のスピーカーセットアップを有する必要性は、スピーカー信号が再生セットアップのために明確にされるオブジェクトベースのアプローチによって克服することができる。
例えば、空間オーディオオブジェクト符号化ツールは、当該技術分野において周知であり、ＭＰＥＧ ＳＡＯＣ規格(ＳＡＯＣ＝空間オーディオオブジェクト符号化:spatial audio object coding)において標準化されている。元のチャンネルから始まる空間オーディオ符号化に対比して、空間オーディオオブジェクト符号化は、特定のレンダリング再生セットアップのために自動的に特化されることがないオーディオオブジェクトから始まる。それどころか、再生シーン内のオーディオオブジェクトの配置は自由自在であり、特定のレンダリング情報(rendering information)を空間オーディオオブジェクト符号化デコーダに入力することによりユーザによって決定することができる。それに替えて又はそれに加えて、レンダリング情報、すなわち、特定のオーディオオブジェクトが再生セットアップ内のどの位置に典型的に経時的に置かれるべきであるかという情報は、付加サイド情報又はメタデータとして送信することができる。特定のデータ圧縮を得るために、複数のオーディオオブジェクトがＳＡＯＣエンコーダによって符号化される。ＳＡＯＣエンコーダは、入力オブジェクトから、特定のダウンミックス情報に従ってオブジェクトをダウンミックスすることにより１つ以上のトランスポートチャンネルを算出するものである。さらに、ＳＡＯＣエンコーダは、オブジェクトレベル差(ＯＬＤ:object level differences)、オブジェクトコヒーレンス値などのようなオブジェクト間キューを表現するパラメトリックサイド情報を算出する。ＳＡＣ(ＳＡＣ＝空間オーディオ符号化:Spatial Audio Coding)の場合、オブジェクト間パラメトリックデータが、パラメータ時間/周波数タイルに対して、すなわち、例えば、１０２４又は２０４８個のサンプルを含むオーディオ信号の特定のフレームに対して算出されるので、２８、２０、１４又は１０個などの処理帯域が考慮され、その結果、最終的に、パラメトリックデータが各フレーム及び各処理帯域に対して存在する。一例として、オーディオ作品が２０フレームを有し、かつ、各フレームが２８個の処理帯域に細分されるとき、パラメータ時間/周波数タイルの数は５６０個である。
オブジェクトベースのアプローチでは、音場は離散的なオーディオオブジェクトによって記述される。これは、特に、３Ｄ空間内の各音源の時間的に変化する位置を記述するオブジェクトメタデータを要件とする。
従来技術における第１のメタデータ符号化概念は、空間サウンド記述交換フォーマット(ＳｐａｔＤＩＦ:spatial sound description interchange format)であり、今もなお開発中のオーディオシーン記述フォーマットである[Ｍ１]。これは、オブジェクトベースのサウンドシーンのための交換フォーマットとして設計されているが、オブジェクト軌道のための圧縮方法を提供しない。ＳｐａｔＤＩＦは、オブジェクトメタデータを構造化するためにテキストベースのオープンサウンドコントロール(ＯＳＣ:Open Sound Control)フォーマットを使用する[Ｍ２]。しかしながら、単純なテキストベースの表現は、オブジェクト軌道の圧縮伝送のための選択肢ではない。
従来技術における別のメタデータ概念は、オーディオシーン記述フォーマット(ＡＳＤＦ:Audio Scene Description Format)[Ｍ３]、すなわち、同じ欠点があるテキストベースの解決策である。そのデータは、拡張マークアップ言語(ＸＭＬ:Extensible Markup Language)[Ｍ４]、[Ｍ５]の部分集合である同期マルチメディア統合言語(ＳＭＩＬ:Synchronized Multimedia Integration Language)の拡張によって構造化される。
従来技術におけるさらなるメタデータ概念は、オーディオ・バイナリ・フォーマット・フォー・シーン(ＡｕｄｉｏＢＩＦＳ:audio binary format for scenes)、すなわち、ＭＰＥＧ−４仕様[Ｍ６]、[Ｍ７]の一部であるバイナリフォーマットである。これは、オーディオ−ビジュアル３Ｄシーン及び相互作用仮想現実アプリケーション[Ｍ８]の記述のために開発されたＸＭＬベースの仮想現実モデリング言語(ＶＲＭＬ:Virtual Reality Modeling Language)に密接に関係している。複雑なＡｕｄｉｏＢＩＦＳ仕様は、オブジェクト移動の経路を特定するためにシーングラフを使用する。ＡｕｄｉｏＢＩＦＳの主な欠点は、制限付きシステム遅延及びデータストリームへのランダムアクセスが要件であるリアルタイム動作のためには設計されていないということである。さらに、オブジェクト位置の符号化は、聴取者の制限付き定位性能を利用しない。オーディオ−ビジュアルシーン内の固定したリスナ位置に対しては、オブジェクトデータは非常に少ないビット数で量子化することができる[Ｍ９]。それ故に、ＡｕｄｉｏＢＩＦＳにおいて適用されるオブジェクトメタデータの符号化は、データ圧縮に関して効率的ではない。
[SAOC1] J. Herre, S. Disch, J. Hilpert, O. Hellmuth: "From SAC To SAOC - Recent Developments in Parametric Coding of Spatial Audio", 22nd Regional UK AES Conference, Cambridge, UK, April 2007. [SAOC2] J. Engdegard, B. Resch, C. Falch, O. Hellmuth, J. Hilpert, A. Hoelzer, L. Terentiev, J. Breebaart, J. Koppens, E. Schuijers and W. Oomen: " Spatial Audio Object Coding (SAOC) - The Upcoming MPEG Standard on Parametric Object Based Audio Coding", 124th AES Convention, Amsterdam 2008. [SAOC] ISO/IEC, "MPEG audio technologies-Part2: Spatial Audio Object Coding (SAOC)," ISO/IEC JTC1/SC29/WG11 (MPEG) International Standard 23003-2. [VBAP] Ville Pulkki, "Virtual Sound Source Positioning Using Vector Base Amplitude Panning" ; J. Audio Eng. Soc., Level 45, Issue 6, pp. 456-466, June 1997. [M1] Peters, N., Lossius, T. and Schacher J. C., "SpatDIF: Principles, Specification, and Examples", 9th Sound and Music Computing Conference, Copenhagen, Denmark, Jul. 2012. [M2] Wright, M., Freed, A., "Open Sound Control: A New Protocol for Communicating with Sound Synthesizers", International Computer Music Conference, Thessaloniki, Greece, 1997. [M3] Matthias Geier, Jens Ahrens, and Sascha Spors. (2010), "Object-based audio reproduction and the audio scene description format", Org. Sound, Vol. 15, No. 3, pp. 219-227, December 2010. [M4] W3C, "Synchronized Multimedia Integration Language (SMIL 3.0)", Dec. 2008. [M5] W3C, "Extensible Markup Language (XML) 1.0 (Fifth Edition)", Nov. 2008. [M6] MPEG, "ISO/IEC International Standard 14496-3 - Coding of audio-visual objects, Part 3 Audio", 2009. [M7] Schmidt, J.; Schroeder, E. F. (2004), "New and Advanced Features for Audio Presentation in the MPEG-4 Standard", 116th AES Convention, Berlin, Germany, May 2004. [M8] Web3D, "International Standard ISO/IEC 14772-1:1997 - The Virtual Reality Modeling Language (VRML), Part 1: Functional specification and UTF-8 encoding", 1997. [M9] Sporer, T. (2012), "Codierung raumlicher Audisignalemit leichtgewichtigen Audio-Objekten", Proc. Annual Meeting of the German Audiological Society (DGA), Erlangen, Germany, Mar. 2012.
本発明の目的は、空間オーディオオブジェクト符号化のための改良された概念を提供することである。
本発明の目的は、請求項１に記載の装置、請求項１４に記載の装置、請求項１６に記載のシステム、請求項１７に記載の方法、請求項１８に記載の方法、及び請求項１９に記載のコンピュータプログラムによって解決される。
１つ以上のオーディオ出力チャンネルを生成する装置が提供される。この装置は、ミキシング情報を算出するパラメータプロセッサと、１つ以上のオーディオ出力チャンネルを生成するダウンミックスプロセッサとを備える。ダウンミックスプロセッサは、１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を受信するように構成されている。１つ以上のオーディオチャンネル信号がオーディオトランスポート信号内で混合され、１つ以上のオーディオオブジェクト信号がオーディオトランスポート信号内で混合され、１つ以上のオーディオトランスポートチャンネルの数は、１つ以上のオーディオチャンネル信号の数に１つ以上のオーディオオブジェクト信号の数を加えた数より少なくされている。パラメータプロセッサはダウンミックス情報と共分散情報を受信するように構成されている。ダウンミックス情報は、１つ以上のオーディオチャンネル信号及び１つ以上のオーディオオブジェクト信号が１つ以上のオーディオトランスポートチャンネル内でどのように混合されるかに関する情報を示すものである。さらに、パラメータプロセッサは、ダウンミックス情報に依存して、かつ、共分散情報に依存してミキシング情報を算出するように構成されている。ダウンミックスプロセッサは、ミキシング情報に依存してオーディオトランスポート信号から１つ以上のオーディオ出力チャンネルを生成するように構成されている。共分散情報は、１つ以上のオーディオチャンネル信号のうちの少なくとも１つに対するレベル差情報を示し、さらに、１つ以上のオーディオオブジェクト信号のうちの少なくとも１つに対するレベル差情報を示す。しかしながら、共分散情報は、１つ以上のオーディオチャンネル信号のうちの１つと１つ以上のオーディオオブジェクト信号のうちの１つとのペアに対する相関情報を示さない。
さらに、１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成する装置が提供される。この装置は、オーディオトランスポート信号の１つ以上のオーディオトランスポートチャンネルを生成するチャンネル/オブジェクトミキサと、出力インターフェースとを備える。チャンネル/オブジェクトミキサは１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成するように構成されており、そのオーディオトランスポート信号の生成は、１つ以上のオーディオチャンネル信号と１つ以上のオーディオオブジェクト信号が１つ以上のオーディオトランスポートチャンネル内でどのように混合されるべきであるかに関する情報を示すダウンミックス情報に依存して、オーディオトランスポート信号内で１つ以上のオーディオチャンネル信号と１つ以上のオーディオオブジェクト信号とを混合することによりなされる。１つ以上のオーディオトランスポートチャンネルの数は１つ以上のオーディオチャンネル信号の数に１つ以上のオーディオオブジェクト信号の数を加えた数より少なくされている。出力インターフェースは、オーディオトランスポート信号、ダウンミックス情報及び共分散情報を出力するように構成されている。共分散情報は、１つ以上のオーディオチャンネル信号のうちの少なくとも１つに対するレベル差情報を示し、さらに、１つ以上のオーディオオブジェクト信号のうちの少なくとも１つに対するレベル差情報を示す。しかしながら、共分散情報は、１つ以上のオーディオチャンネル信号のうちの１つと、１つ以上のオーディオオブジェクト信号のうちの１つとのペアに対する相関情報を示さない。
さらに、システムが提供される。このシステムは、前述のオーディオトランスポート信号を生成する装置と、前述の１つ以上のオーディオ出力チャンネルを生成する装置とを備える。１つ以上のオーディオ出力チャンネルを生成する装置は、オーディオトランスポート信号を生成する装置からオーティオトランスポート信号、ダウンミックス情報、及び共分散情報を受信するように構成されている。さらに、オーディオ出力チャンネルを生成する装置は、ダウンミックス情報に依存して、かつ、共分散情報に依存してオーディオトランスポート信号から１つ以上のオーディオ出力チャンネルを生成するように構成されている。
さらに、１つ以上のオーディオ出力チャンネルを生成する方法が提供される。この方法は、以下のステップを含む。
− １つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を受信するステップ。その場合、１つ以上のオーディオチャンネル信号がオーディオトランスポート信号内で混合され、１つ以上のオーディオオブジェクト信号がオーディオトランスポート信号内で混合され、１つ以上のオーディオトランスポートチャンネルの数が１つ以上のオーディオチャンネル信号の数に１つ以上のオーディオオブジェクト信号の数を加えた数より少なくされている。
− １つ以上のオーディオチャンネル信号及び１つ以上のオーディオオブジェクト信号が１つ以上のオーディオトランスポートチャンネル内でどのように混合されるかに関する情報を示すダウンミックス情報を受信するステップ。
− 共分散情報を受信するステップ。
− ダウミックス情報に依存して、かつ、共分散情報に依存してミキシング情報を算出するステップ。及び
− １つ以上のオーディオ出力チャンネルを生成するステップ。
ミキシング情報に依存してオーディオトランスポート信号から１つ以上のオーディオ出力チャンネルを生成する。共分散情報は、１つ以上のオーディオチャンネル信号のうちの少なくとも１つに対するレベル差情報を示し、さらに、１つ以上のオーディオオブジェクト信号のうちの少なくとも１つに対するレベル差情報を示す。しかしながら、共分散情報は、１つ以上のオーディオチャンネル信号のうちの１つと１つ以上のオーディオオブジェクト信号のうちの１つとのペアに対する相関情報を示さない。
さらに、１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成する装置が提供される。この方法は以下のステップを含む。
− １つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成するステップ。そのオーディオトランスポート信号の生成は、１つ以上のオーディオチャンネル信号及び１つ以上のオーディオオブジェクト信号が１つ以上のオーディオトランスポートチャンネル内でどのように混合されなければならないかに関する情報を示すダウンミックス情報に依存して、オーディオトランスポート信号内で１つ以上のオーディオチャンネル信号と１つ以上のオーディオオブジェクト信号を混合することによりなされる。１つ以上のオーディオトランスポートチャンネルの数は１つ以上のオーディオチャンネル信号の数に１つ以上のオーディオオブジェクト信号の数を加えた数より少なくされている。及び
− オーディオトランスポート信号、ダウンミックス情報及び共分散情報を出力するステップ。
共分散情報は、１つ以上のオーディオチャンネル信号のうちの少なくとも１つに対するレベル差情報を示し、さらに、１つ以上のオーディオオブジェクト信号のうちの少なくとも１つに対するレベル差情報を示す。しかしながら、共分散情報は、１つ以上のオーディオチャンネル信号のうちの１つと１つ以上のオーディオオブジェクト信号のうちの１つとのペアに対する相関情報を示さない。
さらに、コンピュータ又は信号プロセッサ上で実行されたときに上記方法を実施するコンピュータプログラムが提供される。
実施形態による１つ以上のオーディオ出力チャンネルを生成する装置を示す図である。 実施形態による１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成する装置を示す図である。 実施形態によるシステムを示す図である。 ３Ｄオーディオエンコーダの第１の実施形態を示す図である。 ３Ｄオーディオデコーダの第１の実施形態を示す図である。 ３Ｄオーディオエンコーダの第２の実施形態を示す図である。 ３Ｄオーディオデコーダの第２の実施形態を示す図である。 ３Ｄオーディオエンコーダの第３の実施形態を示す図である。 ３Ｄオーディオデコーダの第３の実施形態を示す図である。 実施形態による統合処理ユニットを示す図である。
以下、本発明の実施形態を、図面を参照してより詳細に説明する。
本発明の好ましい実施形態を詳細に説明する前に、新しい３Ｄオーディオコーデックシステムについて説明する。
従来技術においては、低ビットレートで許容可能なオーディオ品質が得られるようにチャンネル符号化とオブジェクト符号化とを組み合わせる自由自在な技術は存在しない。
この制限は新しい３Ｄオーディオコーデックシステムによって克服される。
好ましい実施形態を詳細に説明する前に、新しい３Ｄオーディオコーデックシステムについて説明する。
図４は、本発明の実施形態による３Ｄオーディオエンコーダを示す。この３Ｄオーディオエンコーダは、オーディオ出力データ５０１を得るためにオーディオ入力データ１０１を符号化するために設けられている。この３Ｄオーディオエンコーダは、ＣＨによって示された複数のオーディオチャンネルと、ＯＢＪによって示された複数のオーディオオブジェクトとを受信する入力インターフェースを備える。さらに、図４に示されたように、入力インターフェース１１００は、複数のオーディオオブジェクトＯＢＪのうちの１つ以上に関連しているメタデータをさらに受信する。さらに、この３Ｄオーディオエンコーダは、複数の予め混合されたチャンネルを得るために複数のオブジェクト及び複数のチャンネルを混合するミキサ２００を備え、予め混合された各チャンネルは、チャンネルのオーディオデータ及び少なくとも１つのオブジェクトのオーディオデータを含む。
さらに、この３Ｄオーディオエンコーダは、コアエンコーダ入力データをコア符号化するコアエンコーダ３００と、複数のオーディオオブジェクトのうちの１つ以上に関連したメタデータを圧縮するメタデータ圧縮器４００とを備える。
さらに、この３Ｄオーディオエンコーダは、いくつかの動作モードのうちの１つでミキサ、コアエンコーダ及び/又は出力インターフェース５００を制御するモードコントローラ６００を備えることができる。第１のモードでは、コアエンコーダは、ミキサによる相互作用なしで、すなわち、ミキサ２００によって混合することなく、入力インターフェース１１００によって受信された複数のオーディオチャンネル及び複数のオーディオオブジェクトを符号化するように構成される。しかしながら、第２のモードでは、ミキサ２００がアクティブ状態となっており、コアエンコーダは、複数の混合されたチャンネル、すなわち、ブロック２００によって生成された出力を符号化する。後者の場合、もはやオブジェクトデータを符号化しないことが好ましい。その代わりに、オーディオオブジェクトの位置を示すメタデータは、そのメタデータによって示されるとおりにチャンネルでオブジェクトをレンダリング(rendering)するように、ミキサ２００によってすでに使用されている。換言すれば、ミキサ２００は、オーディオオブジェクトをプリレンダリング(pre-rendering)するために複数のオーディオオブジェクトに関連したメタデータを使用し、その後、プリレンダリングされたオーディオオブジェクトはチャンネルと混合されて、ミキサの出力で混合されたチャンネルが得られる。本実施形態では、オブジェクトは、必ずしも送信されなくてもよく、このことは、ブロック４００によって出力されたままの圧縮されたメタデータにも適用される。しかしながら、インターフェース１１００に入力された全てのオブジェクトが混合されるのではなく、ある量のオブジェクトだけが混合される場合、その後、残りの混合されていないオブジェクト及び関連付けられたメタデータだけがそれにもかかわらずコアエンコーダ３００又はメタデータ圧縮器４００にそれぞれ送信される。
図６は３Ｄオーディオエンコーダのさらなる実施形態を示し、ＳＡＯＣエンコーダ８００をさらに備える。ＳＡＯＣエンコーダ８００は、空間オーディオオブジェクトエンコーダ入力データから１つ以上のトランスポートチャンネル及びパラメトリックデータを生成するために設けられている。図６に示されるように、空間オーディオオブジェクトエンコーダ入力データは、プリレンダラ(pre-renderer)/ミキサによって処理されていないオブジェクトである。あるいは、プリレンダラ/ミキサが個別のチャンネル/オブジェクトがアクティブ状態であるモード１の場合のように迂回されていると仮定すると、入力インターフェース１１００に入力された全てのオブジェクトは、ＳＡＯＣエンコーダ８００によって符号化される。
さらに、図６に示されるように、コアエンコーダ３００は、好ましくは、ＵＳＡＣエンコーダとして、すなわち、ＭＰＥＧ−ＵＳＡＣ規格(ＵＳＡＣ＝音声音響統合符号化:Unified Speech and Audio Coding)において規定され、標準化されたエンコーダとして実現されている。図６に示された全３Ｄオーディオエンコーダの出力はＭＰＥＧ ４データストリーム、ＭＰＥＧ Ｈデータストリーム又は３Ｄオーディオデータストリームであり、個別のデータタイプのためのコンテナのような構造体(container-like structures)を有する。さらに、メタデータは「ＯＡＭ」データとして示され、図４におけるメタデータ圧縮器４００はＵＳＡＣエンコーダ３００に入力される圧縮されたＯＡＭデータを得るためのＯＡＭエンコーダ４００に対応する。ＵＳＡＣエンコーダ３００は、図６から分かるように、符号化済みチャンネル/オブジェクトデータを有するだけでなく、圧縮されたＯＡＭデータも有するＭＰ４出力データストリームを得るために出力インターフェースをさらに備える。
図８はこの３Ｄオーディオエンコーダのさらなる実施形態を示しており、図６と対比して、ＳＡＯＣエンコーダは、このモードではアクティブ状態でないプリレンダラ(pre-renderer)/ミキサ２００に供給されたチャンネルをＳＡＯＣ符号化アルゴリズムを用いて符号化するように、又はそれに替えて、プリレンダリングされたチャンネルとオブジェクトとをＳＡＯＣ符号化するように構成することができる。このようにして、図８では、ＳＡＯＣエンコーダ８００は、３つの異なった種類の入力データ、すなわち、プリレンダリングされたオブジェクトを含まないチャンネル、チャンネル及びプリレンダリングされたオブジェクト、又はオブジェクト単独に作用することができる。さらに、ＳＡＯＣエンコーダ８００が、その処理のために、元のＯＡＭデータではなく、デコーダ側と同じデータ、すなわち、不可逆的(lossy)圧縮によって得られたデータを使用するように、図８における付加的なＯＡＭデコーダ４２０を設けることが好ましい。
図８の３Ｄオーディオエンコーダは、いくつかの個別のモードで動作することができる。
図４との関連で説明した第１のモード及び第２のモードに加えて、図８の３Ｄオーディオエンコーダは、プリレンダラ/ミキサ２００がアクティブ状態ではなかったときに、コアエンコーダが個別のオブジェクトから１つ以上のトランスポートチャンネルを生成する第３のモードでさらに動作することができる。あるいは、又はさらに、この第３のモードでは、ＳＡＯＣエンコーダ８００は、１つ以上の代替的もしくは付加的なトランスポートチャンネルを元のチャンネルから生成することができる、すなわち図４のミキサ２００に対応するプリレンダラ/ミキサ２００がアクティブ状態ではなかったときに再び生成することができる。
最後に、ＳＡＯＣエンコーダ８００は、３Ｄオーディオエンコーダが第４のモードで構成されているとき、チャンネルとプリレンダラ/ミキサによって生成されたプリレンダリングされたオブジェクトを符号化することができる。このようにして、第４のモードでは、チャンネルとオブジェクトが、個別のＳＡＯＣトランスポートチャンネルと図３及び図５において「ＳＡＯＣ−ＳＩ」として示されたような関連付けられたサイド情報に完全に変換され、さらに、この第４のモードでは圧縮されたメタデータを送信する必要がないという事実によって、最低ビットレートアプリケーションが優れた品質を示す。
図５は、本発明の実施形態による３Ｄオーディオデコーダを示す。この３Ｄオーディオデコーダは、入力として、符号化済みオーディオデータ、すなわち、図４のデータ５０１を受信する。
この３Ｄオーディオデコーダは、メタデータ展開器１４００と、コアデコーダ１３００と、オブジェクトプロセッサ１２００と、モードコントローラ１６００と、ポストプロセッサ１７００とを備える。
具体的には、この３Ｄオーディオデコーダは符号化済みオーディオデータを復号化するために設けられ、入力インターフェースは符号化済みオーディオデータを受信するために設けられ、符号化済みオーディオデータは、複数の符号化済みチャンネルと、複数の符号化済みオブジェクトと、特定のモードにおける複数のオブジェクトに関連する圧縮されたメタデータとを含む。
さらに、コアデコーダ１３００は複数の符号化済みチャンネル及び複数の符号化済みオブジェクトを復号化するために設けられ、さらに、メタデータ展開器は、圧縮されたメタデータを展開するために設けられている。
さらに、オブジェクトプロセッサ１２００は、オブジェクトデータ及び復号化済みチャンネルを含む所定の数の出力チャンネルを得るために、展開されたメタデータを使用してコアデコーダ１３００によって生成されたとおりの複数の復号化済みオブジェクトを処理するために設けられている。符号１２０５で示されたとおりのこれらの出力チャンネルは、その後、ポストプロセッサ１７００に入力される。ポストプロセッサ１７００は、出力チャンネル１２０５の数を、バイノーラル出力フォーマット又は５.１、７.１などの出力フォーマットのようなスピーカー出力フォーマットとすることのできる特定の出力フォーマットに変換するために設けられている。
好ましくは、この３Ｄオーディオデコーダは、モード指示を検出するために符号化済みデータを解析するために設けられたモードコントローラ１６００を備える。したがって、モードコントローラ１６００は、図５において入力インターフェース１１００に接続されている。しかしながら、あるいは、モードコントローラは必ずしもそこになくてもよい。その代わり、この汎用性のあるオーディオデコーダはユーザ入力又はその他のコントロールのようなどんな種類の制御データによってもプリセットすることができる。図５に示され、かつ、好ましくはモードコントローラ１６００によって制御されるこの３Ｄオーディオデコーダは、オブジェクトプロセッサを迂回するように、かつ、複数の復号化済みチャンネルをポストプロセッサ１７００に送り込むように構成されている。これは、モード２における動作、すなわち、プリレンダリングされたチャンネルだけが受信される、すなわち、モード２が図４の３Ｄオーディオエンコーダにおいて適用されたときの動作である。あるいは、モード１が３Ｄオーディオエンコーダにおいて適用されたとき、すなわち、３Ｄオーディオエンコーダが個別のチャンネル/オブジェクト符号化を実行したとき、オブジェクトプロセッサ１２００は迂回されないが、複数の復号化済みチャンネル及び複数の復号化済みオブジェクトが、メタデータ展開器１４００によって生成された展開されたメタデータと共にオブジェクトプロセッサ１２００に送り込まれる。
好ましくは、モード１又はモード２が適用されるべきか否かの指示は、符号化済みオーディオデータの中に含まれ、その後、モードコントローラ１６００は、モード指示を検出するために符号化済みデータを解析する。モード１は、モード指示が、符号化済みオーディオデータが符号化済みチャンネル及び符号化済みオブジェクトを含むことを示すときに使用され、モード２は、モード指示が、符号化済みオーディオデータがオーディオオブジェクトを含んでいないこと、すなわち、図４の３Ｄオーディオエンコーダのモード２によって得られたプリレンダリングされたチャンネルだけを含むことを示すときに適用される。
図７は図５の３Ｄオーディオデコーダと比べて好ましい実施形態を示し、図７の実施形態は図６の３Ｄオーディオエンコーダに対応する。図５の３Ｄオーディオデコーダ実施に加えて、図７における３ＤオーディオデコーダはＳＡＯＣデコーダ１８００を備える。さらに、図５のオブジェクトプロセッサ１２００は、図７では別個のオブジェクトレンダラ１２１０とミキサ１２２０として実施されるが、モードに依存して、オブジェクトレンダラ１２１０の機能はＳＡＯＣデコーダ１８００によって実施することができる。
さらに、ポストプロセッサ１７００は、バイノーラルレンダラ１７１０又はフォーマットコンバータ１７２０として実施することができる。あるいは、図５のデータ１２０５の直接出力は、１７３０によって示されるように実施することもできる。その結果、フレキシビリティを実現するために２２.２又は３２のような最高数のチャンネルに関してデコーダにおいて処理を実行し、その後、より小規模のフォーマットが必要とされる場合に後処理することが好ましい。しかしながら、５.１フォーマットのような小さいフォーマットだけが必要とされることが最初から明らかになるとき、好ましくは、ショートカット１７２７によって図５もしくは図６によって示されるように、不必要なアップミキシング動作及び後に続くダウンミキシング動作を回避するためにＳＡＯＣデコーダ及び/又はＵＳＡＣデコーダの特定の制御を適用することができる。
本発明の好ましい実施形態では、オブジェクトプロセッサ１２００はＳＡＯＣデコーダ１８００を備え、ＳＡＯＣデコーダは、コアデコーダによって出力された１つ以上のトランスポートチャンネル及び関連付けられたパラメトリックデータを、展開されたメタデータを使用して復号化し、複数のレンダリングされたオーディオオブジェクトを得るために設けられている。このため、ＯＡＭ出力はボックス１８００に接続されている。
さらに、オブジェクトプロセッサ１２００は、オブジェクトレンダラ１２１０によって示されるように、ＳＡＯＣトランスポートチャンネルにおいて符号化されていないが、典型的に単一のチャンネル化済み要素において個別に符号化され、コアデコーダによって出力された復号化済みオブジェクトをレンダリングするように構成されている。さらに、デコーダは、ミキサの出力をスピーカーへ出力するため出力１７３０に対応する出力インターフェースを備える。
さらなる実施形態では、オブジェクトプロセッサ１２００は、１つ以上のトランスポートチャンネルと、符号化済みオーディオ信号又は符号化済みオーディオチャンネルを表現する関連付けられたパラメトリックサイド情報とを復号化する空間オーディオオブジェクト符号化デコーダ１８００を備え、この空間オーディオオブジェクト符号化デコーダは、関連付けられたパラメトリック情報及び展開されたメタデータを、例えば、ＳＡＯＣの旧バージョンに規定されているように、出力フォーマットを直接レンダリングするため使用可能であるトランスコードされたパラメトリックサイド情報にトランスコードするように構成されている。ポストプロセッサ１７００は、復号化済みトランスポートチャンネルとトランスコードされたパラメトリックサイド情報を使用して出力フォーマットのオーディオチャンネルを算出するため構成されている。ポストプロセッサによって実行される処理は、ＭＰＥＧサラウンド処理に類似するものとすることができ、又はＢＣＣ処理などのような他の処理とすることができる。
さらなる実施形態では、オブジェクトプロセッサ１２００は、(コアデコーダによって)復号化されたトランスポートチャンネルとパラメトリックサイド情報を使用して出力フォーマットのためにチャンネル信号を直接的にアップミックスし、レンダリングするように構成された空間オーディオオブジェクト符号化デコーダ１８００を備える。
さらに、かつ、重要なことには、図５のオブジェクトプロセッサ１２００はミキサ１２２０を付加的に備え、ミキサ１２２０は、チャンネルと混合されたプリレンダリングされたオブジェクトが存在するとき、すなわち図４のミキサがアクティブ状態であったとき、ＵＳＡＣデコーダ１３００によって出力されたデータを入力として直接に受信する。さらに、ミキサ１２２０は、ＳＡＯＣ復号化なしでオブジェクトレンダリングを実行するオブジェクトレンダラからデータを受信する。さらに、ミキサは、ＳＡＯＣデコーダ出力データ、すなわち、ＳＡＯＣレンダリングされたオブジェクトを受信する。
ミキサ１２２０は、出力インターフェース１７３０、バイノーラルレンダラ１７１０及びフォーマットコンバータ１７２０に接続されている。バイノーラルレンダラ１７１０は、頭部伝達関数又はバイノーラル室内インパルス応答(ＢＲＩＲ)を使用して出力チャンネルを２つのバイノーラルチャンネルにレンダリングするために設けられている。フォーマットコンバータ１７２０は、出力チャンネルをミキサの出力チャンネル１２０５よりより少ない数のチャンネルを有する出力フォーマットに変換するために設けられ、フォーマットコンバータ１７２０は５.１スピーカーなどのような再生レイアウトに関する情報を必要とする。
図９の３Ｄオーディオデコーダは、ＳＡＯＣデコーダがレンダリングされたオブジェクトを復号できるだけでなく、レンダリングされたチャンネルを生成することができる点で図７の３Ｄオーディオデコーダとは異なり、これは、図８の３Ｄオーディオエンコーダが使用され、チャンネル/プリレンダリングされたオブジェクトとＳＡＯＣエンコーダ８００の入力インターフェースとの間の接続９００がアクティブ状態であるときの事例である。
さらに、ベクトルベース振幅パニング(ＶＢＡＰ:vector base amplitude panning)段１８１０が設けられており、ベクトルベース振幅パニング段１８１０は、ＳＡＯＣデコーダから再生レイアウトに関する情報を受信し、レンダリング行列をＳＡＯＣデコーダに出力し、その結果、ＳＡＯＣデコーダが、最終的に、≡チャンネルフォーマット１２０５、すなわち、３２台のスピーカーにおいて、ミキサのさらなる動作なしでレンダリングされたチャンネルを提供することができるようになる。
ＶＢＡＰブロックは、好ましくは、レンダリング行列を導き出すために復号化済みＯＡＭデータを受信する。より一般的には、好ましくは、再生レイアウトの幾何学的情報だけでなく、入力信号が再生レイアウト上で再現されるべき位置の幾何学的情報を必要とする。この幾何学的入力データは、オブジェクトのためのＯＡＭデータ、又はＳＡＯＣを使用して送信されたチャンネルのためのチャンネル位置情報とすることができる。
しかしながら、特定の出力インターフェースだけが必要とされる場合、ＶＢＡＰ状態１８１０は、例えば、５.１出力のために必要とされるレンダリング行列を予め提供することができる。ＳＡＯＣデコーダ１８００は、その後、ＳＡＯＣトランスポートチャンネル、関連付けられたパラメトリックデータ及び展開されたメタデータから、ミキサ１２２０の相互作用なしに、必要とされる出力フォーマットへの直接レンダリングを実行する。しかしながら、モード間で特定の混合が適用されるとき、すなわち、いくつかのチャンネルがＳＡＯＣ符号化されているが全てのチャンネルがＳＡＯＣ符号化されているとは限らない場合、もしくは、いくつかのオブジェクトがＳＡＯＣ符号化されているが全てのオブジェクトがＳＡＯＣ符号化されているとは限らない場合、又は、チャンネルを含むある一定量のプリレンダリングされたオブジェクトだけがＳＡＯＣ符号化され残りのチャンネルがＳＡＯＣ処理されていないとき、ミキサは、個別の入力部分から、すなわち、コアデコーダ１３００から、オブジェクトレンダラ１２１０から、及びＳＡＯＣデコーダ１８００からのデータをまとめる。
以下の数学的表記を用いる:
ＮObjects:入力オーディオオブジェクト信号の数
ＮChannels:入力チャンネルの数
Ｎ:入力信号の数；
ＮはＮObjects、ＮChannels又はＮObjects＋ＮChannelsと等しくできる
ＮDmxCh:ダウンミックス(処理済み)チャンネルの数
ＮSamples:処理済みデータサンプルの数
ＮOutputChannels:デコーダ側での出力チャンネルの数
Ｄ:ダウンミックス行列、サイズＮDmxCh×Ｎ
Ｘ:入力オーディオ信号、サイズＮ×ＮSamples
Ｅｘ:入力信号共分散行列、サイズＮ×Ｎ、Ｅｘ＝ＸＸHと定義される
Ｙ:ダウンミックスオーディオ信号、サイズＮDmxCh×ＮSamples、Ｙ＝ＤＸと定義される
Ｅｙ:ダウンミックス信号の共分散行列、サイズＮDmxCh×ＮDmxCh、Ｅｙ＝ＹＹHと定義される
Ｇ:パラメトリック音源推定行列、サイズＮ×ＮDmxCh、ＥｘＤH(ＤＥｘＤH)-1を近似する
Figure 2016528542
:パラメトリック再構成された入力信号、サイズＮObjects×ＮSamples、Ｘを近似し、
Figure 2016528542
と定義される
(・)Ｈ:(・)の共役転置を表現する自己共役(エルミート)演算子
Ｒ:サイズＮOutputChannels×Ｎのレンダリング行列
Ｓ:サイズＮOutputChannels×ＮDmxChの出力チャンネル生成行列、Ｓ ＝ ＲＧと定義される
Ｚ:ダウンミックス信号からデコーダ側に生成された出力チャンネル、サイズＮOutputChannels×ＮSamples、Ｚ＝ＳＹ
Figure 2016528542
:望ましい出力チャンネル、サイズＮOutputChannels×ＮSamples、
Figure 2016528542
一般性を失うことなく、式の読みやすさを改善するために、全ての導入された変数に対して、時間依存性及び周波数依存性を表す添字は本明細書では省略する。
３Ｄオーディオに関し、スピーカーチャンネルはいくつかの高さの層に分布し、その結果、水平及び垂直のチャンネルのペアをもたらす。ＵＳＡＣに規定されたような２つのチャンネルだけの統合符号化は、チャンネル間の空間関係と知覚関係を考慮するためには不十分である。
チャンネル間の空間関係と知覚関係を考慮するために、３Ｄオーディオに関して、入力チャンネル(ＳＡＯＣエンコーダによって符号化されたオーディオチャンネル信号とオーディオオブジェクト信号)を再構成するためにＳＡＯＣのようなパラメトリック技術を使用し、デコーダ側で再構成された入力チャンネル
Figure 2016528542
を得ることがあり得る。ＳＡＯＣ復号化は、最小平均二乗誤差(ＭＭＳＥ)アルゴリズムに基づいている。すなわち、
Figure 2016528542
＝ＧＹ 但し Ｇ≒ＥｘＤH(ＤＥｘＤH)-1
である。
再構成された入力チャンネル
Figure 2016528542
を得るために入力チャンネルを再構成する代わりに、出力チャンネルＺは、レンダリング行列Ｒを考慮することによって、デコーダ側で直接的に生成することができる。
Figure 2016528542
Ｚ＝ＲＧＹ
Ｚ＝ＳＹ ； 但し、Ｓ＝ＲＧ
このように、入力オーディオオブジェクトと入力オーディオチャンネルを明示的に再構成する代わりに、出力チャンネルＺは、ダウンミックスオーディオ信号Ｙに出力チャンネル生成行列Ｓを適用することにより直接的に生成することができる。
出力チャンネル生成行列Ｓを得るために、レンダリング行列Ｒは、例えば、決定してもよく、又は例えば、すでにあるものを利用してもよい。さらに、パラメトリック音源推定行列Ｇは、例えば前述のように計算することができる。出力チャンネル生成行列Ｓは、その後、レンダリング行列Ｒとパラメトリック音源推定行列Ｇから行列積Ｓ＝ＲＧとして得ることができる。
３Ｄオーディオシステムは、チャンネルとオブジェクトを符号化するために合成モードを必要とすることがある。
概して、このような合成モードに対して、ＳＡＯＣ符号化/復号化は、２つの異なった方法で適用することができる。
すなわち、一つの方法はＳＡＯＣのようなパラメトリックシステムの１つのインスタンスを利用することであり、このようなインスタンスはチャンネルとオブジェクトを処理することができる。この解決策は、計算が複雑であるという欠点があり、入力信号の数が多いので、トランスポートチャンネルの数が類似する再構成品質を維持するために増加する。その結果として、行列ＤＥｘＤHのサイズが増加し、逆行列を求める複雑性が増大する。さらに、このような解決策は、行列ＤＥｘＤHのサイズが増大するにつれて、より一層の数値不安定性を取り込む。さらに、別の欠点として、行列ＤＥｘＤHの逆行列を求めることは、再構成されたチャンネルと再構成されたオブジェクトとの間に付加的なクロストークをもたらすことがある。これが起こる理由は、再構成行列Ｇの中の零と考えられているいくつかの係数に数値的な不正確さのために零でない値が設定されるからである。
もう一つの方法はＳＡＯＣのようなパラメトリックシステムの２つのインスタンスを利用することであり、一方のインスタンスはチャンネルベースの処理用であり、もう一方のインスタンスはオブジェクトベースの処理用である。このような方法は、フィルタバンクの初期化とデコーダ構成のために同じ情報が２回送信される欠点を有する。さらに、必要に応じてチャンネルとオブジェクトをいっしょに混合することができず、その結果、チャンネルとオブジェクトとの間の相関特性を使用することができない。
オーディオオブジェクトとオーディオチャンネルとに対して異なったインスタンスを利用する方法の欠点を回避するために、実施形態は、第１の方法を利用し、効率的な方法で１つのシステムインスタンスだけを使用して、チャンネル、オブジェクト、又はチャンネル及びオブジェクトを処理することができる拡張ＳＡＯＣシステムを提供する。オーディオチャンネルとオーディオオブジェクトは、同じエンコーダインスタンスとデコーダインスタンスによってそれぞれ処理されるが、効率性概念が提供され、その結果、第１の方法の欠点を回避することができる。
図２は、実施形態による１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成する装置を示す。
この装置は、オーディオトランスポート信号の１つ以上のオーディオトランスポートチャンネルを生成するチャンネル/オブジェクトミキサ２１０と、出力インターフェース２２０とを備える。
チャンネル/オブジェクトミキサ２１０は、１つ以上のオーディオチャンネル信号と１つ以上のオーディオオブジェクト信号とが１つ以上のオーディオトランスポートチャンネル内でどのように混合されるべきであるかに関する情報を示すダウンミックス情報に依存して、オーディオトランスポート信号内で１つ以上のオーディオチャンネル信号と１つ以上のオーディオオブジェクト信号とを混合することにより１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成するように構成されている。
１つ以上のオーディオトランスポートチャンネルの数は、１つ以上のオーディオチャンネル信号の数に１つ以上のオーディオオブジェクト信号の数を加えた数より少なくされている。このように、チャンネル/オブジェクトミキサ２１０は、１つ以上のオーディオチャンネル信号の数に１つ以上のオーディオオブジェクト信号の数を加えた数より少ないチャンネルを有するオーディオトランスポート信号を生成するように適合させられているので、チャンネル/オブジェクトミキサ２１０は、１つ以上のオーディオチャンネル信号と１つ以上のオーディオオブジェクト信号とをダウンミックスする能力がある。
出力インターフェース２２０は、オーディオトランスポート信号、ダウンミックス情報及び共分散情報を出力するように構成されている。
例えば、チャンネル/オブジェクトミキサ２１０はダウンミックス情報を出力インターフェース２２０へ送り込むように構成することができ、そのダウンミックス情報は１つ以上のオーディオチャンネル信号と１つ以上のオーディオオブジェクト信号とをダウンミックスするため使用される。さらに、例えば、出力インターフェース２２０は、例えば、１つ以上のオーディオチャンネル信号と１つ以上のオーディオオブジェクト信号を受信するように構成することができ、１つ以上のオーディオチャンネル信号と１つ以上のオーディオオブジェクト信号に基づいて共分散情報を決定するようにさらに構成することができる。又は、出力インターフェース２２０は、例えば、予め決定済みの共分散情報を受信するように構成することができる。
共分散情報は、１つ以上のオーディオチャンネル信号のうちの少なくとも１つに対するレベル差情報を示し、さらに、１つ以上のオーディオオブジェクト信号のうちの少なくとも１つに対するレベル差情報を示す。しかしながら、共分散情報は、１つ以上のオーディオチャンネル信号のうちの１つと１つ以上のオーディオオブジェクト信号のうちの１つとのペアに対する相関情報を示さない。
図１は実施形態による１つ以上のオーディオ出力チャンネルを生成する装置を示す。
この装置は、ミキシング情報を算出するパラメータプロセッサ１１０と、１つ以上のオーディオ出力チャンネルを生成するダウンミックスプロセッサ１２０とを備える。
ダウンミックスプロセッサ１２０は、１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を受信するように構成されている。１つ以上のオーディオチャンネル信号はオーディオトランスポート信号内で混合されている。さらに、１つ以上のオーディオオブジェクト信号がオーディオトランスポート信号内で混合されている。１つ以上のオーディオトランスポートチャンネルの数は、１つ以上のオーディオチャンネル信号の数に１つ以上のオーディオオブジェクト信号の数を加えた数より少ない。
パラメータプロセッサ１１０は、１つ以上のオーディオチャンネル信号と１つ以上のオーディオオブジェクト信号が１つ以上のオーディオトランスポートチャンネル内でどのように混合されるかに関する情報を示すダウンミックス情報を受信するように構成されている。さらに、パラメータプロセッサ１１０は共分散情報を受信するように構成されている。パラメータプロセッサ１１０は、ダウンミックス情報に依存し、かつ、共分散情報に依存してミキシング情報を算出するように構成されている。
ダウンミックスプロセッサ１２０は、ミキシング情報に依存してオーディオトランスポート信号から１つ以上のオーディオ出力チャンネルを生成するように構成されている。
共分散情報は、１つ以上のオーディオチャンネル信号のうちの少なくとも１つに対するレベル差情報を示し、さらに、１つ以上のオーディオオブジェクト信号のうちの少なくとも１つに対するレベル差情報を示す。しかしながら、共分散情報は、１つ以上のオーディオチャンネル信号のうちの１つと１つ以上のオーディオオブジェクト信号のうちの１つとのペアに対する相関情報を示さない。
実施形態では、共分散情報は、例えば１つ以上のオーディオチャンネル信号の１つずつに対するレベル差情報を示すことがあり、そして、さらに、例えば１つ以上のオーディオオブジェクト信号の１つずつに対するレベル差情報を示すことがある。
実施形態によれば、２つ以上のオーディオオブジェクト信号がオーディオトランスポート信号内で、例えば混合されることがあり、かつ、２つ以上のオーディオチャンネル信号がオーディオトランスポート信号内で、例えば混合されることがある。共分散情報は、例えば、２つ以上のオーディオチャンネル信号のうちの１つと、２つ以上のオーディオチャンネル信号のうちのもう１つとからなる１つ以上のペアに対する相関情報を示すことがある。又は、共分散情報は、例えば、２つ以上のオーディオオブジェクト信号のうちの１つと、２つ以上のオーディオオブジェクト信号のうちのもう１つとからなる１つ以上のペアに対する相関情報を示すことがある。又は、共分散情報は、例えば、２つ以上のオーディオチャンネル信号のうちの１つと２つ以上のオーディオチャンネル信号のうちのもう１つとからなる１つ以上のペアに対する相関情報を示し、かつ、２つ以上のオーディオオブジェクト信号のうちの１つと２つ以上のオーディオオブジェクト信号のうちのもう１つとからなる１つ以上のペアに対する相関情報を示すことがある。
オーディオオブジェクト信号に対するレベル差情報は、例えば、オブジェクトレベル差(ＯＬＤ)とすることができる。「レベル」は、例えば、エネルギーレベルに関係させることができる。「差」は、例えば、オーディオオブジェクト信号の間の最大レベルに関する差に関係させることができる。
オーディオオブジェクト信号のうちの１つと、オーディオオブジェクト信号のうちのもう１つとのペアに対する相関情報は、例えば、オブジェクト間相関(ＩＯＣ:object level difference)とすることができる。
例えば、実施形態によれば、ＳＡＯＣ ３Ｄの最適性能を保証するために、適合する電力をもつ入力オーディオオブジェクト信号を使用することが推奨されている。(対応する時間/周波数タイルに従って正規化された)２つの入力オーディオ信号の積は、以下のように決定される。
Figure 2016528542
式中、ｉ及びｊはそれぞれオーディオオブジェクト信号ｘｉ及びｘｊの添字であり、ｎは時間を示し、ｋは周波数を示し、ｌは時間添字の組を示し、ｍは周波数添字の組を示す。εは零による除算を回避するための加算定数、例えば、ε＝１０-9である。
最大エネルギーをもつオブジェクトの絶対オブジェクトエネルギー(ＮＲＧ)は、例えば、以下のように算出することができる。
Figure 2016528542
対応する入力オブジェクト信号の電力の比(ＯＬＤ)は、例えば、次式によって与えることができる。
Figure 2016528542
入力オブジェクトの類似性尺度(ＩＯＣ)は、例えば、以下の相互相関によって与えることができる。
Figure 2016528542
例えば、実施形態では、ＩＯＣは、ビットストリーム変数bsRelatedTo[i][j]に１が設定されたオーディオ信号ｉ及びｊの全てのペアに対して送信することができる。
オーディオチャンネル信号に対するレベル差情報は、例えば、チャンネルレベル差(ＣＬＤ:channel level difference)とすることができる。「レベル」は、例えば、エネルギーレベルに関係させることができる。「差」は、例えば、オーディオチャンネル信号の間の最大レベルに関する差に関係させることができる。
オーディオチャンネル信号のうちの１つとオーディオチャンネル信号のうちのもう１つとのペアに対する相関情報は、例えば、チャンネル間相関(ＩＣＣ:inter-channel correlation)とすることができる。
実施形態では、チャンネルレベル差(ＣＬＤ)は、上記式中のオーディオオブジェクト信号がオーディオチャンネル信号によって置換されたときの上述のオブジェクトレベル差(ＯＬＤ)と同じ方法で定義することができる。さらに、チャンネル間相関(ＩＣＣ)は、上記式中のオーディオオブジェクト信号がオーディオチャンネル信号によって置換されたときの上述のオブジェクト間相関(ＩＯＣ)と同じ方法で定義することができる。
ＳＡＯＣでは、ＳＡＯＣエンコーダは、(ダウンミックス情報に従って、例えば、ダウンミックス行列Ｄに従って)複数のオーディオオブジェクト信号をダウンミックスして、(例えば、より少ない数の)１つ以上のオーディオトランスポートチャンネルを得る。デコーダ側では、ＳＡＯＣデコーダは、エンコーダから受信したダウンミックス情報を使用して、かつ、エンコーダから受信した共分散情報を使用して１つ以上のオーディオトランスポートチャンネルを復号化する。共分散情報は例えば共分散行列Ｅの係数とすることができ、共分散行列Ｅはオーディオオブジェクト信号のオブジェクトレベル差と、２つのオーディオオブジェクト信号の間のオブジェクト間相関とを示す。ＳＡＯＣでは、決定済みのダウンミックス行列Ｄと決定済みの共分散行列Ｅは、１つ以上のオーディオトランスポートチャンネルの複数のサンプル(例えば、１つ以上のオーディオトランスポートチャンネルの２０４８個のサンプル)を復号化するために使用される。この概念を利用することにより、ビットレートは、符号化なしで１つ以上のオーディオオブジェクト信号を送信するのと比べて節約される。
実施形態は、オーディオオブジェクト信号とオーディオチャンネル信号が有意な差を示していても拡張ＳＡＯＣエンコーダによってオーディオトランスポート信号が生成できるので、このようなオーディオトランスポート信号では、オーディオオブジェクト信号だけでなく、オーディオチャンネル信号も混合されるという発見に基づいている。
オーディオオブジェクト信号とオーディオチャンネル信号は著しく異なる。例えば、複数のオーディオオブジェクト信号のそれぞれはサウンドシーンの音源を表現することができる。その結果、一般に、２つのオーディオオブジェクトは、極めて相関が低いことがある。これに対して、オーディオチャンネル信号は、異なるマイクロホンによって記録されているかのように、サウンドシーンの異なるチャンネルを表現する。一般に、このようなオーディオチャンネル信号のうちの２つは、特に、２つのオーディオオブジェクト信号の相関と比べると非常に相関が高く、２つのオーディオオブジェクト信号は、一般に極めて相関が低い。このようにして、実施形態は、オーディオチャンネル信号が特に２つのオーディオチャンネル信号のペアの間の相関を送信することから、そして、この送信された相関値を復号化のため使用することにより恩恵を受けるという成果に基づいている。
さらに、オーディオオブジェクト信号とオーディオチャンネル信号は、位置情報がオーディオオブジェクト信号に割り当てられている点で異なり、その位置情報は、例えばオーディオオブジェクト信号の発生源である音源(例えば、オーディオオブジェクト)の(仮定された)位置を示す。(例えば、メタデータ情報に含まれている)このような位置情報は、デコーダ側でオーディオトランスポート信号からオーディオ出力チャンネルを生成するときに使用することができる。しかしながら、これに対して、オーディオチャンネル信号は位置を示すことがなく、位置情報はオーディオチャンネル信号に割り当てられない。しかしながら、それにもかかわらず、実施形態は、オーディオオブジェクト信号と一緒にオーディオチャネル信号をＳＡＯＣ符号化することが効率的であるという発見に基づいている。
それは、例えば、オーディオチャンネル信号を生成することが、２つの副次的問題、すなわち、位置情報が必要とされることがない復号化情報を決定すること(例えば、分解(unmix)のための行列Ｇを決定すること、下記参照)と、(例えば、レンダリング行列Ｒを決定することにより、下記参照)レンダリング情報を決定することとに分けることができるからである。レンダリング情報の決定のためには、生成されたオーディオ出力チャンネルにおいてオーディオオブジェクトをレンダリングするためにオーディオオブジェクト信号に関する位置情報を利用することができる。
さらに、本発明は、オーディオオブジェクト信号のうちの１つとオーディオチャンネル信号のうちの１つとのペアの間に相関がない(少なくとも有意ではない)という発見に基づいている。そのため、エンコーダは、１つ以上のオーディオチャンネル信号のうちの１つと１つ以上のオーディオオブジェクト信号のうちの１つとのペアに対する相関情報を送信しない。これにより、符号化と復号化の両方のためにかなりの送信帯域幅が節約され、かなりの量の計算時間が節約される。このような有意ではない相関情報を処理しないように構成されているデコーダは、(デコーダ側でオーディオトランスポート信号からオーディオ出力チャンネルを生成するために利用される)ミキシング情報を決定するとき、かなりの量の計算時間を節約する。
実施形態によれば、パラメータプロセッサ１１０は、例えば、１つ以上のオーディオチャンネル信号と１つ以上のオーディオオブジェクト信号が１つ以上のオーディオ出力チャンネル内でどのように混合されるかに関する情報を示すレンダリング情報を受信するように構成することができる。パラメータプロセッサ１１０は、例えば、ダウンミックス情報に依存して、共分散情報に依存して、かつレンダリング情報に依存してミキシング情報を算出するように構成することができる。
例えば、パラメータプロセッサ１１０は、例えば、レンダリング情報としてレンダリング行列Ｒの複数の係数を受信するように構成することができ、ダウンミックス情報に依存して、共分散情報に依存して及びレンダリング行列Ｒに依存してミキシング情報を算出するように構成することができる。例えば、パラメータプロセッサは、エンコーダ側から又はユーザからレンダリング行列Ｒの係数を受信することができる。別の実施形態では、パラメータプロセッサ１１０は、例えば、メタデータ情報、例えば、位置情報又は利得情報を受信するように構成することができ、そして、例えば、受信したメタデータ情報に依存してレンダリング行列Ｒの係数を算出するように構成することができる。さらなる実施形態では、パラメータプロセッサは、両方(エンコーダからのレンダリング情報とユーザからのレンダリング情報)を受信するように、そして、両方に基づいてレンダリング行列を作成するように構成することができる(相互作用が実現されていることを基本的に意味する)。
あるいは、パラメータプロセッサは、例えば、レンダリング情報として２つのレンダリング部分行列Ｒch,Ｒobjを受信するように構成することができる。Ｒ＝(Ｒch,Ｒobj)であり、Ｒchは例えばオーディオチャンネル信号をオーディオ出力チャンネルに混合する方法を示し、ＲobjはＯＡＭ情報から得られたレンダリング行列とすることができる。Ｒobjは図９のＶＢＡＰブロック１８１０から得ることもできる。
特別な実施形態では、２つ以上のオーディオオブジェクト信号は、例えば、オーディオトランスポート信号内で混合することができ、２つ以上のオーディオチャンネル信号はオーディオトランスポート信号内で混合される。このような実施形態では、共分散情報は、例えば、２つ以上のオーディオチャンネル信号のうちの１つと、２つ以上のオーディオチャンネル信号のうちのもう１つとからなる１つ以上のペアに対する相関情報を示すことができる。さらに、このような実施形態では、(例えば、エンコーダ側からデコーダ側に送信される)共分散情報は、１つ以上のオーディオオブジェクト信号のうちの１つと１つ以上のオーディオオブジェクト信号のうちのもう１つとのいずれかのペアに対する相関情報を示すことはない。なぜならば、オーディオオブジェクト信号間の相関は非常に小さいので無視することができ、よって、例えば、ビットレート及び処理時間を節約するために送信されないからである。このような実施形態では、パラメータプロセッサ１１０は、ダウンミックス情報に依存して、１つ以上のオーディオチャンネル信号の１つずつのレベル差情報に依存して、１つ以上のオーディオオブジェクト信号の１つずつの第２のレベル差情報に依存して、及び２つ以上のオーディオチャンネル信号のうちの１つと２つ以上のオーディオチャンネル信号のうちのもう１つとの１つ以上のペアの相関情報に依存してミキシング情報を算出するように構成されている。このような実施形態は、オーディオオブジェクト信号間の相関が概して比較的低く、無視されるべきであり、２つのオーディオチャンネル信号間の相関が概して比較的高く、考慮されるべきであるという上記の発見を利用する。オーディオオブジェクト信号間の無関係な相関情報を処理しないことにより処理時間を節約することができる。オーディオチャンネル信号間の関係のある相関情報を処理することにより符号化効率は改善することができる。
特別な実施形態では、１つ以上のオーディオチャンネル信号はオーディオトランスポートチャンネルの１つ以上からなる第１のグループ内で混合され、１つ以上のオーディオブジェクト信号はオーディオトランスポート信号の１つ以上からなる第２のグループ内で混合され、第１のグループのうちの各オーディオトランスポートチャンネルは第２のグループに分類されることはなく、第２のグループのうちの各オーディオトランスポートチャンネルは第１のグループに分類されることはない。このような実施形態では、ダウンミックス情報は、１つ以上のオーディオチャンネル信号が１つ以上のオーディオトランスポートチャンネルからなる第１のグループ内でどのように混合されるかに関する情報を示す第１のダウンミックスサブ情報を含み、ダウンミックス情報は、１つ以上のオーディオオブジェクト信号が１つ以上のオーディオトランスポートチャンネルからなる第２のグループ内でどのように混合されるかに関する情報を示す第２のダウンミックスサブ情報を含む。このような実施形態では、パラメータプロセッサ１１０は、第１のダウンミックスサブ情報に依存して、第２のダウンミックスサブ情報に依存して、及び共分散情報に依存してミキシング情報を算出するように構成され、ダウンミックスプロセッサ１２０は、ミキシング情報に依存して、１つ以上のオーディオトランスポートチャンネルからなる第１のグループから、及び、オーディオトランスポートチャンネルの第２のグループから１つ以上のオーディオ出力信号を生成するように構成されている。サウンドシーンのオーディオチャンネル信号の間に高い相関が存在するので、このような方法によって符号化効率が増大する。さらに、オーディオオブジェクト信号を符号化するオーディオトランスポートチャンネルに与えるオーディオチャンネル信号の影響、及び、逆も同様に、オーディオチャンネル信号を符号化するオーディオトランスポートチャンネルに与えるオーディオオブジェクト信号の影響を示すダウンミックス行列の係数は、エンコーダによって算出される必要がなく、送信される必要がなく、そして、これらを処理する必要なしにデコーダによって零に設定することができる。このことは、エンコーダ及びデコーダの送信帯域幅及び計算時間を節約する。
実施形態では、ダウンミックスプロセッサ１２０は、ビットストリームでオーディオトランスポート信号を受信し、オーディオチャンネル信号だけを符号化しているオーディオトランスポートチャンネルの数を示す第１のチャンネルカウント数を受信し、かつ、オーディオオブジェクト信号だけを符号化しているオーディオトランスポートチャンネルの数を示す第２のチャンネルカウント数を受信するように構成されている。このような実施形態では、ダウンミックスプロセッサ１２０は、第１のチャンネルカウント数もしくは第２のチャネルカウント数に依存して、又は、第１のチャネルカウント数及び第２のチャネルカウント数に依存して、オーディオトランスポート信号のオーディオトランスポートチャンネルがオーディオチャンネル信号を符号化するか否か、又は、オーディオトランスポート信号のオーディオトランスポートチャンネルがオーディオオブジェクト信号を符号化すか否かを識別するように構成されている。例えば、ビットストリームでは、オーディオチャンネル信号を符号化するオーディオトランスポートチャンネルが最初に出現し、オーディオオブジェクト信号を符号化するオーディオトランスポートチャンネルが後で出現する。したがって、第１のチャンネルカウント数が例えば３であり、第２のチャンネルカウント数が例えば２であれば、ダウンミックスプロセッサは、最初の３個のオーディオトランスオポートチャンネルが符号化済みオーディオチャンネル信号を含み、後に続く２個のオーディオトランスポートチャンネルが符号化済みオーディオオブジェクト信号を含むと判断を下すことができる。
実施形態では、パラメータプロセッサ１１０は位置情報を含むメタデータ情報を受信するように構成され、位置情報は１つ以上のオーディオオブジェクト信号の１つずつに対する位置を示し、１つ以上のオーディオチャンネル信号のいずれに対する位置を示さない。このような実施形態では、パラメータプロセッサ１１０は、ダウンミックス情報に依存して、共分散情報に依存して、かつ、位置情報に依存してミキシング情報を算出するように構成されている。さらに又はあるいは、メタデータ情報は利得情報をさらに含み、利得情報は１つ以上のオーディオオブジェクト信号の１つずつに対する利得値を示し、１つ以上のオーディオチャンネル信号のいずれかに対する利得値を示さない。このような実施形態では、パラメータプロセッサ１１０は、ダウンミックス情報に依存して、共分散情報に依存して、位置情報に依存して、かつ、利得情報に依存してミキシング情報を算出するように構成することができる。例えば、パラメータプロセッサ１１０は、上記部分行列Ｒchにさらに依存してミキシング情報を算出するように構成することができる。
実施形態によれば、パラメータプロセッサ１１０は、ミキシング情報としてミキシング行列Ｓを算出するように構成され、ミキシング行列Ｓは、式Ｓ＝ＲＧに従って定義される。式中、Ｇはダウンミックス情報に依存し、かつ、共分散情報に依存した復号化行列であり、Ｒはメタデータ情報に依存したレンダリング行列である。このような実施形態では、ダウンミックスプロセッサ(１２０)は、式Ｚ＝ＳＹを適用することによってオーディオ出力信号の１つ以上のオーディオ出力チャンネルを生成するように構成することができる。式中、Ｚはオーディオ出力信号であり、Ｙはオーディオトランスポート信号である。例えば、Ｒは、上記部分行列Ｒch及び/又はＲobj(例えば、Ｒ＝(Ｒch,Ｒobj))に依存することができる。
図３は実施形態によるシステムを示す。このシステムは、オーディオトランスポート信号を生成する前述のような装置３１０と、１つ以上のオーディオ出力チャンネルを生成する前述のような装置３２０とを備える。
１つ以上のオーディオ出力チャンネルを生成する装置３２０は、オーディオトランスポート信号を生成する装置３１０からオーティオトランスポート信号、ダウンミックス情報、及び共分散情報を受信するように構成されている。さらに、オーディオ出力チャンネルを生成する装置３２０は、オーディオトランスポート信号に依存して、ダウンミックス情報に依存して、及び共分散情報に依存して１つ以上のオーディオ出力チャンネルを生成するように構成されている。
実施形態によれば、オブジェクト符号化を実現するオブジェクト指向システムであるＳＡＯＣシステムの機能性は、オーディオオブジェクト(オブジェクト符号化)、オーディオチャンネル(チャンネル符号化)、又はオーディオ符号化とオーディオオブジェクトの両方(混成符号化)が符号化できるように拡張される。
前述の図６及び図８のＳＡＯＣエンコーダ８００は、拡張されているので、入力としてオーディオオブジェクトを受信できるだけでなく、入力としてオーディオチャンネルも受信でき、そして、ＳＡＯＣエンコーダは、受信したオーディオオブジェクトと受信したオーディオチャンネルが符号化されているダウンミックスチャンネル(例えば、ＳＡＯＣトランスポートチャンネル)を生成することができる。例えば図６及び図８の上記実施形態では、このようなＳＡＯＣエンコーダ８００は、入力としてオーディオオブジェクトだけでなく、オーディオチャンネルも受信し、受信したオーディオオブジェクトと受信したオーディオチャネルが符号化されているダウンミックスチャンネル(例えば、ＳＡＯＣトランスポートチャンネル)を生成する。例えば、図６及び図８のＳＡＯＣエンコーダは、図２を参照して説明したように、(１つ以上のオーディオトランスポートチャンネル、例えば１つ以上のＳＡＯＣトランスポートチャンネルを含む)オーディオトランスポート信号を生成する装置として実現され、図６及び図８の実施形態は、オブジェクトだけでなく、チャンネルのうちの１つ、一部又は全部もＳＡＯＣエンコーダ８００に送り込まれるように改変される。
前述の図７及び図９のＳＡＯＣデコーダ１８００は、拡張されているので、オーディオオブジェクトとオーディオチャンネルが符号化されているダウンミックスチャンネル(例えば、ＳＡＯＣトランスポートチャンネル)を受信することができ、そして、オーディオオブジェクトとオーディオチャンネルが符号化されている受信したダウンミックスチャンネル(例えば、ＳＡＯＣトランスポートチャンネル)から出力チャンネル(レンダリング済みのチャンネル信号とレンダリング済みのオブジェクト信号)を生成することができる。例えば、図７及び図９の上記実施形態では、このようなＳＡＯＣデコーダ１８００は、オーディオオブジェクトだけではなくオーディオチャンネルも符号化されているダウンミックスチャンネル(例えば、ＳＡＯＣトランスポートチャンネル)を受信し、オーディオオブジェクトとオーディオチャンネルが符号化されている受信したダウンミックスチャンネル(例えば、ＳＡＯＣトランスポートチャンネル)から出力チャンネル(レンダリングされたチャンネル信号とレンダリングされたオブジェクト信号)を生成する。例えば、図７及び図９のＳＡＯＣデコーダは、図１を参照して説明したように１つ以上のオーディオ出力チャンネルを生成する装置として実現され、図７及び図９の実施形態は、ＵＳＡＣデコーダ１３００とミキサ１２２０との間に示されたチャンネルのうちの１つ、一部又は全部がＵＳＡＣデコーダ１３００によって生成(再構成)されるのではなく、ＳＡＯＣトランスポートチャンネル(オーディオトランスポートチャンネル)からＳＡＯＣデコーダ１８００によって再構成されるように改変される。
アプリケーションに依存して、ＳＡＯＣシステムの様々な利点がこのような拡張ＳＡＯＣシステムを使用することによって利用できる。
いくつかの実施形態によれば、このような拡張ＳＡＯＣシステムは、任意の数のダウンミックスチャンネルをサポートし、任意の数の出力チャンネルにレンダリングする。いくつかの実施形態では、例えば、ダウンミックスチャンネル(ＳＡＯＣトランスポートチャンネル)の数は、例えば、全体的なビットレートを著しく削減するために(例えば、実行時に)減らすことができる。これは、低ビットレートをもたらす。
さらに、いくつかの実施形態によれば、このような拡張ＳＡＯＣシステムのＳＡＯＣデコーダは、例として、例えば、ユーザ相互作用を可能にできる統合フレキシブルレンダラを有することができる。これにより、ユーザは、オーディオシーン内のオブジェクトの位置を変化させること、個別のオブジェクトのレベルを軽減もしくは増大させること、オブジェクトを完全に抑制することなどが可能である。例えば、バックグラウンドオブジェクト(ＢＧＯ:background object)としてチャネル信号、及び、フォアグラウンドオブジェクト(ＦＧＯ:foreground object)としてオブジェクト信号を考慮して、ＳＡＯＣの双方向特徴を対話拡張のようなアプリケーションのために使用することができる。このような双方向特徴によって、ユーザは、対話理解度を増大させるために(例えば、対話はフォアグラウンドオブジェクトによって表現できる)、又は、(例えば、ＦＧＯによって表現された)対話と(例えば、ＢＧＯによって表現された)周囲バックグラウンドとの間で平衡を保つために、制限された範囲で、ＢＧＯとＦＧＯを自由に操作することができる。
さらに、実施形態によれば、デコーダ側で利用できる計算複雑さに依存して、ＳＡＯＣデコーダは、「低計算複雑さ:low-computaton-complexity」モードで動作することによって、例えば、逆相関器の数を減らすことによって、及び/又は、例えば、再生レイアウトに直接的にレンダリングすることによって、計算複雑さを自動的に削減し、後に続く上述のフォーマットコンバータ１７２０の動作を停止させることができる。例えば、レンダリング情報は、２２.２システムのチャンネルを５.１システムのチャンネルにダウンミックスする方法を導くことができる。
実施形態によれば、拡張ＳＡＯＣエンコーダは、可変数の入力チャンネル(ＮChannels)と入力オブジェクト(ＮObjects)を処理することができる。チャンネルとオブジェクトの数は、デコーダ側にチャンネル経路の存在を知らせるためにビットストリーム中へ伝えられる。ＳＡＯＣエンコーダへの入力信号は、チャンネル信号が前半の信号であり、オブジェクト信号が後半の信号であるように常に順序付けられる。
別の実施形態によれば、チャンネル/オブジェクトミキサ２１０は、オーディオトランスポート信号の１つ以上のオーディオトランスポートチャンネルの数がどの程度のビットレートがオーディオトランスポート信号を送信するため利用可能であるかに依存するように、オーディオトランスポート信号を生成するように構成されている。
例えば、ダウンミックス(トランスポート)チャンネルの数は、例えば、利用可能なビットレートと入力信号の総数との関数として計算することができる。すなわち、
ＮDmxCh＝ｆ(bitrate, N)
である。
Ｄの中のダウンミックス係数は、入力信号(チャンネルとオブジェクト)のミキシングを決定する。アプリケーションに依存して、行列Ｄの構造は、チャンネルとオブジェクトがいっしょに混合されるか、又は分離されたままであるか指定することができる。
いくつかの実施形態は、オブジェクトをチャンネルといっしょに混合しない方が有利であるという発見に基づいている。オブジェクトをチャンネルといっしょに混合しないためには、ダウンミックス行列は、例えば、以下のように構成することができる:
Figure 2016528542
ビットストリーム中へ別々のミキシングを知らせるために、チャンネル経路
Figure 2016528542
に割り当てられたダウンミックスチャンネルの数とオブジェクト経路
Figure 2016528542
に割り当てられたダウンミックスチャンネルの数の値を、例えば、伝えることができる。
ブロック状ダウンミキシング行列ＤchとＤobjは、サイズ
Figure 2016528542
と
Figure 2016528542
をそれぞれ有する。
デコーダでは、パラメトリック音源推定行列Ｇ≒ＥｘＤH(ＤＥｘＤH)-1の係数は、異なった形式で計算される。行列形式を使用すると、これは、以下のように表現できる。
Figure 2016528542
但し、
Figure 2016528542
で、サイズが
Figure 2016528542
である。
Figure 2016528542
で、サイズが
Figure 2016528542
である。
チャンネル信号共分散
Figure 2016528542
とオブジェクト信号共分散
Figure 2016528542
の値は、例えば、入力信号共分散行列(Ｅｘ)から、対応する対角ブロックだけを選択することによって得ることができる。
Figure 2016528542
直接的な結果として、ビットレートは、チャンネルとオブジェクトとの間の相互共分散行列を再構成するために付加情報(例えば、ＯＬＤ、ＩＯＣ)を送信しないことによって削減される。すなわち
Figure 2016528542
である。
いくつかの実施形態によれば、
Figure 2016528542
であり、それ故に、
Figure 2016528542
である。
実施形態によれば、拡張ＳＡＯＣエンコーダは、オーディオオブジェクトのうちのいずれか１つとオーディオチャンネルのうちのいずれか１つとの間の共分散に関する情報を拡張ＳＡＯＣデコーダに送信しないように構成されている。
さらに、実施形態によれば、拡張ＳＡＯＣデコーダは、オーディオオブジェクトのうちのいずれか１つとオーディオチャンネルのうちのいずれか１つとの間の共分散に関する情報を受信しないように構成されている。
Ｇの非対角ブロック状要素は、計算されることなく、零が設定される。その結果、再構成されたチャンネルとオブジェクトとの間で見込まれるクロストークが回避される。さらに、これにより、計算すべきＧの係数が少なくなるので、計算複雑さの低減が達成される。
さらに、実施形態によれば、以下のより大きい行列、すなわち、
サイズが
Figure 2016528542
であるＤＥｘＤH
の逆行列を求める代わりに、以下の２つの小さい行列の逆行列が求められる。
サイズ
Figure 2016528542
である
Figure 2016528542
サイズ
Figure 2016528542
である
Figure 2016528542
より小さい行列
Figure 2016528542
と
Figure 2016528542
の逆行列を求めることは、計算複雑さの観点でより大きい行列ＤＥｘＤHの逆行列を求めることより非常に安上がりである。
さらに、別個の行列
Figure 2016528542
と
Figure 2016528542
の逆行列を求めることにより、見込まれる数値不安定性は、より大きい行列ＤＥｘＤHの逆行列を求めるより低減される。例えば、最悪の想定では、トランスポートチャンネル
Figure 2016528542
と
Figure 2016528542
の共分散行列が信号の類似性によって線形の依存性をもつとき、全体行列ＤＥｘＤHは悪条件であることがあるが、別々のより小さい行列は良条件である可能性がある。
デコーダ側で
Figure 2016528542
が計算された後、再構成された入力信号
Figure 2016528542
(入力オーディオチャンネル信号と入力オーディオオブジェクト信号)を得るために、例えば、
Figure 2016528542
を使用して、入力信号を例えばパラメータ的に推定することができる。
さらに、前述のように、レンダリングはデコーダ側で出力チャンネルＺを得るために、例えばレンダリング行列Ｒを利用することにより行うことができる。
Figure 2016528542
Ｚ＝ＲＧＹ
Ｚ＝ＳＹ 但し、Ｓ＝ＲＧ
再構成された入力チャンネル
Figure 2016528542
を得るために入力信号(入力オーディオチャンネル信号と入力オーディオオブジェクト信号)を明確に再構成する代わりに、出力チャンネル生成行列Ｓをダウンミックスオーディオ信号Ｙに適用することにより出力チャンネルＺをデコーダ側で直接生成することができる。
前述のように、出力チャンネル生成行列Ｓを得るために、レンダリング行列Ｒは例えば決定してもよく、又は例えば既に利用可能なものであってもよい。さらに、パラメトリック音源推定行列Ｇは、例えば前述のように計算することができる。したがって、出力チャンネル生成行列Ｓは、レンダリング行列Ｒとパラメトリック音源推定行列Ｇとから行列積Ｓ＝ＲＧとして得ることができる。
再構成されたオーディオオブジェクト信号に関して、エンコーダからデコーダへ送信されたオーディオオブジェクトに関する圧縮メタデータを考慮することができる。例えば、オーディオオブジェクトに関するメタデータは、オーディオオブジェクトの１つずつに関する位置情報を示すことができる。このような位置情報は、例えば、方位角、仰角及び半径とすることができる。この位置情報は、３Ｄ空間内のオーディオオブジェクトの位置を示すことができる。例えば、オーディオオブジェクトが想定もしくは現実のスピーカー位置に近接して位置しているとき、このようなオーディオオブジェクトは、そのスピーカーから遠く離れて位置している出力チャンネルにおける別のオーディオオブジェクトに比べるとそのスピーカーのための出力チャンネルにおいてより高い重みを有する。例えば、ベクトルベースの振幅パニング(ＶＢＡＰ)は、オーディオオブジェクトに対するレンダリング行列Ｒのレンダリング係数を決定するために利用することができる(例えば、[ＶＢＡＰ]を参照のこと)。
さらに、いくつかの実施形態では、圧縮メタデータは、オーディオオブジェクトの１つずつに対する利得値を含むことができる。例えば、オーディオオブジェクト信号の１つずつに対して、利得値はそのオーディオオブジェクト信号に対する利得係数を示すことができる。
オーディオオブジェクトに対比して、位置情報メタデータは、オーディオチャンネル信号についてはエンコーダからデコーダに送信されない。(例えば、２２.２を５.１に変換するための)付加的な行列、又は(チャンネルの入力構成が出力構成に等しいときの)単位行列は、例えばオーディオチャンネルに対してレンダリング行列Ｒのレンダリング係数を決定するために利用することができる。
レンダリング行列Ｒのサイズは、ＮOutputChannels×Ｎとすることができる。ここで、出力チャンネルの１つずつのため、行列Ｒの中に１行が存在する。さらに、レンダリング行列Ｒの各行において、Ｎ個の係数は、対応する出力チャンネルにおけるＮ個の入力信号(入力オーディオチャンネル及び入力オーディオオブジェクト)の重みを決定する。その出力チャンネルのスピーカーに近接して位置しているそれらのオーディオオブジェクトは、対応する出力チャンネルのスピーカーから遠く離れて位置しているオーディオオブジェクトの係数より大きい係数を有する。
例えば、ベクトルベース振幅パニング(ＶＢＡＰ)をスピーカーの各オーディオチャンネルの内部でオーディオオブジェクト信号の重みを決定するために利用することができる(例えば、[ＶＢＡＰ]を参照)。例えば、ＶＢＡＰに関して、オーディオオブジェクトは、仮想音源に関係していると仮定する。
オーディオオブジェクトに対比して、オーディオチャンネルは位置を有していないので、レンダリング行列の中のオーディオチャンネルに関係する係数は、例えば、位置情報から独立したものとすることができる。
以下、実施形態によるビットストリーム構文を説明する。
ＭＰＥＧ ＳＡＯＣに関して、起こり得る動作モード(チャンネルベース、オブジェクトベース又は統合モード)の信号伝達は、例えば、２つの以下の可能性(第１の可能性:動作モードを信号伝達するフラグを使用する；第２の可能性:動作モードを信号伝達するフラグを使用しない)のうち１つを使用することによって達成することができる:
したがって、第１の実施形態によれば、動作モードを信号伝達するためにフラグが使用される。
動作モードを信号伝達するためにフラグを使用するために、SAOCSpecifigConfig()要素又はSAOC3DSpecifigConfig()要素の構文は、例えば、以下を含むことができる。
Figure 2016528542
ビットストリーム変数bsSaocChannelFlagが１に設定された場合、最初のbsNumSaocChannels+1入力信号はチャンネルベース信号のように取り扱われる。ビットストリーム変数bsSaocObjectFlagが１に設定された場合、最後のbsNumSaocObjects+1入力信号はオブジェクト信号のように処理される。その結果、両方のビットストリーム変数(bsSaocChannelFlag, bsSaocObjectFlag)が零とは異なる場合、オーディオトランスポートチャンネル中のチャンネルとオブジェクトの存在が信号伝達される。
ビットストリーム変数bsSaocCombinedModeFlagが１に等しい場合、統合復号化モードがビットストリーム中へ伝えられ、デコーダは完全なダウンミックス行列Ｄ(これは、チャンネル信号とオブジェクト信号がいっしょに混合されていることを意味する)を使用して、bsNumSaocDmxChannelsトランスポートチャンネルを処理する。
ビットストリーム変数bsSaocCombinedModeFlagが零である場合、独立した復号化モードが信号伝達され、デコーダは前述のようにブロック状ダウンミックス行列を使用して、(bsNumSaocDmxChannels+1) + (bsNumSaocDmxObjects+1)のトランスポートチャンネルを処理する。
好ましい第２の実施形態によれば、動作モードを信号伝達するためにはフラグは必要ではない。
フラグを使用することなく動作モードを信号伝達することは、例えば、以下の構文を利用することによって実現することができる。
信号伝達:
SAOC3DSpecificConfig()の構文:
Figure 2016528542
チャンネルとオブジェクトとの間の相互相関が零になるように制限する。
Figure 2016528542
オーディオチャンネルとオーディオオブジェクトが、異なったオーディオトランスポートチャンネルにおいて混合された場合と、それらがオーディオトランスポートチャンネルの内部でいっしょに混合された場合とで、ダウンミキシング利得を別々に読み取る。
Figure 2016528542
ビットストリーム変数bsNumSaocChannelsが零とは異なる場合、最初のbsNumSaocChannels入力信号はチャンネルベース信号のように取り扱われる。ビットストリーム変数bsNumSaocObjectsが零とは異なる場合、最後のbsNumSaocObjects入力信号はオブジェクト信号のように処理される。その結果、両方のビットストリーム変数が零とは異なる場合、オーディオトランスポートチャンネル中のチャンネルとオブジェクトの存在が信号伝達される。
ビットストリーム変数bsNumSaocDmxObjectsが零に等しい場合、統合復号化モードがビットストリーム中へ信号伝達され、デコーダは完全なダウンミックス行列Ｄ(これはチャンネル信号とオブジェクト信号がいっしょに混合されていることを意味する)を使用して、bsNumSaocDmxChannelsトランスポートチャンネルを処理する。
ビットストリーム変数bsNumSaocDmxObjectsが零でない場合、独立した復号化モードが信号伝達され、デコーダは前述のようにブロック状ダウンミックス行列を使用して、bsNumSaocDmxChannels＋bsNumSaocDmxObjectsのトランスポートチャンネルを処理する。
以下、実施形態によるダウンミックス処理の態様を説明する。
(ハイブリッドＱＭＦドメインにおいて表現された)ダウンミックスプロセッサの出力信号は、ISO/IEC 23003-1:2007に記載されているように、対応する合成フィルタバンクに送り込まれ、ＳＡＯＣ ３Ｄデコーダの最終出力を生じさせる。
図１のパラメータプロセッサ１１０とダウンミックスプロセッサ１２０は、統合処理ユニットとして実施することができる。そのような統合処理ユニットは図１によって示され、ユニットＵとＲがミキシング情報を供給することによってパラメータプロセッサ１１０を実施する。
出力信号
Figure 2016528542
は、マルチチャンネルダウンミックス信号Ｘと逆相関マルチチャンネル信号Ｘdから以下のように計算される。
Figure 2016528542
式中、Ｕはパラメトリック分解行列を表わす。
行列Ｐ＝(Ｐdry Ｐwet)はミキシング行列である。
逆相関マルチチャンネル信号Ｘdは以下のように定義される。
Figure 2016528542
復号化モードはビットストリーム要素bsNumSaocDmxObjectsによって制御される。
Figure 2016528542
統合復号化モードの場合、パラメトリック分解行列Ｕは次式によって与えられる。
Figure 2016528542
サイズが
Figure 2016528542
である行列Ｊは、
Figure 2016528542
によって与えられる。但し、
Figure 2016528542
である。
独立復号化モードの場合、分解行列Ｕは次式によって与えられる。
Figure 2016528542
式中、
Figure 2016528542
及び
Figure 2016528542
である。
サイズがＮch×Ｎchであるチャンネルベース共分散行列ＥchとサイズがＮobj×Ｎobjであるオブジェクトベース共分散行列Ｅobjは、共分散行列Ｅから、対応する対角ブロックだけを選択することにより得られる。
Figure 2016528542
式中、行列
Figure 2016528542
は、入力チャンネルと入力オブジェクトとの間の相互共分散行列を表わし、計算する必要がない。
サイズが
Figure 2016528542
であるチャンネルベースダウンミックス行列Ｄchとサイズが
Figure 2016528542
であるオブジェクトベースダウンミックス行列Ｄobjは、ダウンミックス行列Ｄから、対応する対角ブロックだけを選択することにより得られる。
Figure 2016528542
サイズが
Figure 2016528542
である行列
Figure 2016528542
は、
Figure 2016528542
の代わりに行列Jの定義から導かれる。
サイズが
Figure 2016528542
である行列
Figure 2016528542
は、次式の代わりに行列Jの定義から導かれる。
Figure 2016528542
行列
Figure 2016528542
は以下の方程式を使用して算出される。
Figure 2016528542
ここで、行列Δの特異ベクトルＶは、以下の特性方程式を使用して得られる。
Figure 2016528542
対角特異値行列Λの正規化逆行列
Figure 2016528542
は以下のように計算される。
Figure 2016528542
相対正規化スカラー
Figure 2016528542
は、絶対閾値
Figure 2016528542
とΛの極大値を使用して以下のように決定される。
Figure 2016528542
以下、実施形態によるレンダリング行列について説明する。
入力オーディオ信号Ｓに適用されるレンダリング行列Ｒは、Ｙ＝ＲＳとして目標のレンダリング出力を決定する。サイズがＮout×Ｎであるレンダリング行列Ｒは、次式
Ｒ＝(Ｒch Ｒobj)
によって与えられる。式中、サイズがＮout×ＮchであるＲchは入力チャンネルに関連付けられたレンダリング行列を表わし、サイズがＮout×ＮobjであるＲobjは入力オブジェクトに関連付けられたレンダリング行列を表わす。
以下、実施形態による逆相関マルチチャンネル信号Ｘdについて説明する。
逆相関信号Ｘdは、例えば、bsDecorrConfig == 0、及び例えば逆相関器インデックスＸを用いて、ISO/IEC 23003-1:2007の6.6.2に記載された逆相関器から作り出される。その結果、
Figure 2016528542
は、例えば以下の逆相関プロセスを表す。
Figure 2016528542
いくつかの態様が装置に関連して説明されているが、これらの態様は対応する方法の説明も表し、ブロック又は機器は方法ステップ又は方法ステップの特徴に対応することが明らかである。同様に、方法ステップに関連して説明された態様は、対応する装置の対応するブロックもしくは物又は特徴の説明を表している。
本発明の分解された信号は、ディジタル記憶媒体に記憶することができ、又は無線伝送媒体もしくはインターネットのような有線伝送媒体といった伝送媒体上で送信することができる。
特定の実施要件に依存して、本発明の実施形態はハードウェア又はソフトウェアで実施することができる。その実施は、ディジタル記憶媒体、例えば、フロッピーディスク、ＤＶＤ、ＣＤ、ＲＯＭ、ＰＲＯＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ又はＦＬＡＳＨメモリを使用して実行することができる。そのディジタル記憶媒体は、それぞれの方法が実行されるようにプログラマブルコンピュータシステムと協働する(協働する能力がある)電子的に読み取り可能な制御信号を記憶しているものである。
本発明によるいくつかの実施形態は、本明細書に記載された方法のうちの１つが実行されるようにプログラマブルシステムと協働する能力がある電子的に読み取り可能な制御信号を有する非遷移型のデータ担体を含む。
概して、本発明の実施形態はプログラムコードをもつコンピュータプログラムプロダクトとして実施することができ、そのプログラムコードはこのコンピュータプログラムプロダクトがコンピュータ上で動くとき本発明方法のうち１つを実行するために動作するものである。そのプログラムコードは、例えば機械読み取り可能な担体に記憶することができる。
他の実施形態は、機械読み取り可能な担体上に記憶され、かつ本明細書に記載された方法のうち１つを実行するコンピュータプログラムを含む。
換言すれば、本発明の方法の実施形態は、従って、コンピュータプログラムがコンピュータ上で動くとき、本明細書に記載された方法のうち１つを実行するプログラムコードを有するコンピュータプログラムである。
本発明の方法のさらなる実施形態は、従って、本明細書に記載された方法のうちの１つを実行するコンピュータプログラムを記録しているデータ担体(又はディジタル記憶媒体、もしくはコンピュータ読み取り可能な媒体)である。
本発明の方法のさらなる実施形態は、従って、本明細書に記載された方法のうちの１つを実行するコンピュータプログラムを表現するデータストリーム又は信号のシーケンスである。そのデータストリーム又は信号のシーケンスは、例えば、データ通信接続を介して、例としてインターネットを介して転送されるように構成することができる。
さらなる実施形態は、本明細書に記載された方法のうちの１つを実行するように構成され又は適合した処理手段、例えば、コンピュータ又はプログラマブル論理デバイスを含む。
さらなる実施形態は、本明細書に記載された方法のうちの１つを実行するコンピュータプログラムを実装しているコンピュータを含む。
いくつかの実施形態では、プログラマブル論理デバイス(例えば、フィールドプログラマブルゲートアレイ)を本明細書に記載された方法の機能性のうちの一部又は全部を実行するために使用することができる。いくつかの実施形態では、フィールドプログラマブルゲートアレイが、本明細書に記載された方法のうち１つを実行するためにマイクロプロセッサと協働することができる。概して、本発明方法は、好ましくは、ハードウェア装置によって実行される。
上記実施形態は、本発明の原理の単なる例示である。当然のことながら、本明細書に記載された配置構成及び細部の変更及び変形は、当業者には明白であろう。したがって、意図するところは、本発明は直ぐ後の特許請求の範囲だけによって限定され、本明細書において実施形態の記載及び説明のために提示された具体的な細部によって限定されないことである。

Claims (19)

  1. １つ以上のオーディオ出力チャンネルを生成する装置であって、該装置は、
    ミキシング情報を算出するパラメータプロセッサ(１１０)と、
    前記１つ以上のオーディオ出力チャンネルを生成するダウンミックスプロセッサ(１２０)と、を備え、
    前記ダウンミックスプロセッサ(１２０)は１つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を受信するように構成され、１つ以上のオーディオチャンネル信号が前記オーディオトランスポート信号内で混合され、１つ以上のオーディオオブジェクト信号が前記オーディオトランスポート信号内で混合され、かつ、前記１つ以上のオーディオトランスポートチャンネルの数が前記１つ以上のオーディオオブジェクト信号の数に前記１つ以上のオーディオチャンネル信号の数を加えた数より少なくされており、
    前記パラメータプロセッサ(１１０)は、前記１つ以上のオーディオチャンネル信号及び前記１つ以上のオーディオオブジェクト信号が前記１つ以上のオーディオトランスポートチャンネルの内部でどのように混合されるかに関する情報を示すダウンミックス情報を受信するように構成され、かつ、前記パラメータプロセッサ(１１０)は共分散情報を受信するように構成され、
    前記パラメータプロセッサ(１１０)は、前記ダウンミックス情報に依存して、及び前記共分散情報に依存して前記ミキシング情報を算出するように構成され、
    前記ダウンミックスプロセッサ(１２０)は、前記ミキシング情報に依存して前記オーディオトランスポート信号から前記１つ以上のオーディオ出力チャンネルを生成するように構成され、
    前記共分散情報は、前記１つ以上のオーディオチャンネル信号のうち少なくとも１つに対するレベル差情報を示し、さらに前記１つ以上のオーディオオブジェクト信号のうち少なくとも１つに対するレベル差情報を示し、
    前記共分散情報は、前記１つ以上のオーディオチャンネル信号のうち１つと前記１つ以上のオーディオオブジェクト信号のうち１つとのペアに対する相関情報を示すことがない装置。
  2. 前記共分散情報は、前記１つ以上のオーディオチャンネル信号の１つずつに対するレベル差情報を示し、さらに前記１つ以上のオーディオオブジェクト信号の１つずつに対するレベル差情報を示す請求項１に記載の装置。
  3. ２つ以上のオーディオオブジェクト信号は前記オーディオトランスポート信号の内部で混合され、２つ以上のオーディオチャンネル信号は前記オーディオトランスポート信号の内部で混合され、
    前記共分散情報は、前記２つ以上のオーディオチャンネル信号のうちの１つと、前記２つ以上のオーディオチャンネル信号のうちのもう１つとからなる１つ以上のペアに対する相関情報を示し、又は、
    前記共分散情報は、前記２つ以上のオーディオオブジェクト信号のうちの１つと、前記２つ以上のオーディオオブジェクト信号のうちのもう１つとからなる１つ以上のペアに対する相関情報を示し、又は、
    前記共分散情報は、前記２つ以上のオーディオチャンネル信号のうちの１つと、前記２つ以上のオーディオチャンネル信号のうちのもう１つとからなる１つ以上のペアに対する相関情報を示し、かつ、前記２つ以上のオーディオオブジェクト信号のうちの１つと、前記２つ以上のオーディオオブジェクト信号のうちのもう１つとからなる１つ以上のペアに対する相関情報を示す請求項１又は２に記載の装置。
  4. 前記共分散情報は、Ｎを前記１つ以上のオーディオチャンネル信号の数に前記１つ以上のオーディオオブジェクト信号の数を加えた数として、サイズがＮ×Ｎである共分散行列Ｅｘの複数の共分散係数を含み、
    前記ダウンミックス行列Ｅｘは、式
    Figure 2016528542
    に従って定義され、
    式中、
    Figure 2016528542
    はサイズがＮChannels×ＮChannels(ＮChannelsは前記１つ以上のオーディオチャンネル信号の数)である第１の共分散部分行列の係数を示し、
    Figure 2016528542
    はサイズがＮObjects×ＮObjects(ＮObjectsは前記１つ以上のオーディオオブジェクト信号の数)である第２の共分散部分行列の係数を示し、
    ０は零行列を示し、
    前記パラメータプロセッサ(１１０)は、前記ダウンミックス行列Ｅｘの前記複数のダウンミックス係数を受信するように構成され、
    前記パラメータプロセッサ(１１０)は、前記パラメータプロセッサ(１１０)によって受信されることがない前記ダウンミックス行列Ｅｘの全係数に０を設定するように構成されている請求項１から３のいずれか一項に記載の装置。
  5. 前記１つ以上のオーディオチャンネル信号は前記オーディオトランスポートチャンネルの１つ以上からなる第１のグループの内部で混合され、前記１つ以上のオーディオブジェクト信号は前記オーディオトランスポートチャンネルの１つ以上からなる第２のグループの内部で混合され、前記第１のグループの各オーディオトランスポートチャンネルは前記第２のグループに含まれることがなく、前記第２のグループの各オーディオトランスポートチャンネルは前記第１のグループに含まれることがなく、
    前記ダウンミックス情報は、前記１つ以上のオーディオチャンネル信号が前記１つ以上のオーディオトランスポートチャンネルからなる前記第１のグループの内部でどのように混合されるかに関する情報を示す第１のダウンミックスサブ情報を含み、かつ、前記ダウンミックス情報は、前記１つ以上のオーディオオブジェクト信号が前記１つ以上のオーディオトランスポートチャンネルからなる前記第２のグループの内部でどのように混合されるかに関する情報を示す第２のダウンミックスサブ情報を含み、
    前記パラメータプロセッサ(１１０)は、前記第１のダウンミックスサブ情報に依存して、前記第２のダウンミックスサブ情報に依存して、及び前記共分散情報に依存して前記ミキシング情報を算出するように構成され、
    前記ダウンミックスプロセッサ(１２０)は、前記ミキシング情報に依存して、１つ以上のオーディオトランスポートチャンネルからなる前記第１のグループから、及びオーディオトランスポートチャンネルからなる前記第２のグループから前記１つ以上のオーディオ出力信号を生成するように構成されている請求項１から４のいずれか一項に記載の装置。
  6. 前記ダウンミックス情報はサイズがＮDmxCh×Ｎ(ＮDmxChは前記１つ以上のオーディオトランスポートチャンネルの数を示し、Ｎは前記１つ以上のオーディオチャンネル信号の数に前記１つ以上のオーディオオブジェクト信号の数を加えた数を示す)であるダウンミックス行列Ｄの複数のダウンミックス係数を含み、
    前記ダウンミックス行列Ｄは、
    Figure 2016528542
    に従って定義され、
    式中、Ｄchはサイズが
    Figure 2016528542
    ×ＮChannels(
    Figure 2016528542
    は前記１つ以上のオーディオトランスポートチャンネルからなる前記第１のグループの前記１つ以上のオーディオトランスポートチャンネルの数を示し、ＮChannelsは前記１つ以上のオーディオチャンネル信号の数を示す)である第１のダウンミックス部分行列の係数を示し、
    Ｄobjはサイズが
    Figure 2016528542
    ×ＮChannels(
    Figure 2016528542
    は前記１つ以上のオーディオトランスポートチャンネルからなる前記第２のグループの前記１つ以上のオーディオトランスポートチャンネルの数を示し、ＮChannelsは前記１つ以上のオーディオチャンネル信号の数を示す)
    である第２のダウンミックス部分行列の係数を示し、
    ０は零行列を示し、
    前記パラメータプロセッサ(１１０)は前記ダウンミックス行列Ｄの前記複数のダウンミックス係数を受信するように構成され、
    前記パラメータプロセッサ(１１０)は、前記パラメータプロセッサ(１１０)によって受信されることがない前記ダウンミックス行列Ｄの全係数に０を設定するように構成されている請求項５に記載の装置。
  7. 前記ダウンミックスプロセッサ(１２０)は、前記オーディオトランスポート信号の前記オーディオトランスポートチャンネルを含むデータストリームを受信するように構成され、
    前記ダウンミックスプロセッサ(１２０)は、１つ以上のオーディオトランスポートチャンネルからなる前記第１のグループの前記オーディオトランスポートチャンネルの数を示す第１のチャンネルカウント数を受信するように構成され、
    前記ダウンミックスプロセッサ(１２０)は、１つ以上のオーディオトランスポートチャンネルからなる前記第２のグループの前記オーディオトランスポートチャンネルの数を示す第２のチャンネルカウント数を受信するように構成され、
    前記ダウンミックスプロセッサ(１２０)は、前記第１のチャンネルカウント数もしくは前記第２のチャネルカウント数に依存して、又は前記第１のチャネルカウント数及び前記第２のチャネルカウント数に依存して、前記データストリーム内のオーディオトランスポートチャンネルが前記第１のグループに属するのか又は前記第２のグループに属するのかを識別するように構成されている請求項５又は６に記載の装置。
  8. 前記パラメータプロセッサ(１１０)は、前記１つ以上のオーディオチャンネル信号及び前記１つ以上のオーディオオブジェクト信号が前記１つ以上のオーディオ出力チャンネル内でどのように混合されるかに関する情報を示すレンダリング情報を受信するように構成され、
    前記パラメータプロセッサ(１１０)は、前記ダウンミックス情報に依存して、前記共分散情報に依存して及びレンダリング情報に依存して前記ミキシング情報を算出するように構成されている請求項１から７のいずれか一項に記載の装置。
  9. 前記パラメータプロセッサ(１１０)は、前記レンダリング情報としてレンダリング行列Ｒの複数の係数を受信するように構成され、
    前記パラメータプロセッサ(１１０)は、前記ダウンミックス情報に依存して、前記共分散情報に依存して及び前記レンダリング行列Ｒに依存して前記ミキシング情報を算出するように構成されている請求項８に記載の装置。
  10. 前記パラメータプロセッサ(１１０)は、前記レンダリング情報としてメタデータ情報を受信するように構成され、前記メタデータ情報は位置情報を含み、
    前記位置情報は前記１つ以上のオーディオオブジェクト信号の１つずつに対する位置を示し、
    前記位置情報は前記１つ以上のオーディオチャンネル信号のいずれかに対する位置を示すことがなく、
    前記パラメータプロセッサ(１１０)は、前記ダウンミックス情報に依存して、前記共分散情報に依存して、及び前記位置情報に依存して前記ミキシング情報を算出するように構成されている請求項８に記載の装置。
  11. 前記メタデータ情報はさらに利得情報を含み、
    前記利得情報は前記１つ以上のオーディオオブジェクト信号の１つずつに対する利得値を示し、
    前記利得情報は前記１つ以上のオーディオチャンネル信号のいずれかに対する利得値を示すことがなく、
    前記パラメータプロセッサ(１１０)は、前記ダウンミックス情報に依存して、前記共分散情報に依存して、前記位置情報に依存して、及び前記利得情報に依存して前記ミキシング情報を算出するように構成されている請求項１０に記載の装置。
  12. 前記パラメータプロセッサ(１１０)は、前記ミキシング情報としてミキシング行列Ｓを算出するように構成され、前記ミキシング行列Ｓは、式
    Ｓ＝ＲＧ
    に従って定義され、
    式中、Ｇは前記ダウミックス情報に依存し、かつ、前記共分散情報に依存した復号化行列であり、
    Ｒは前記メタデータ情報に依存したレンダリング行列であり、
    前記ダウンミックスプロセッサ(１２０)は、式
    Ｚ＝ＳＹ
    を適用することにより、前記オーディオ出力信号の前記１つ以上のオーディオ出力チャンネルを生成するように構成され、
    式中、Ｚはオーディオ出力信号であり、Ｙはオーディオトランスポート信号である請求項１０又は１１に記載の装置。
  13. ２つ以上のオーディオオブジェクト信号が前記オーディオトランスポート信号内で混合され、２つ以上のオーディオチャンネル信号が前記オーディオトランスポート信号内で混合され、
    前記共分散情報は、前記２つ以上のオーディオチャンネル信号のうちの１つと、前記２つ以上のオーディオチャンネル信号のうちのもう１つとからなる１つ以上のペアに対する相関情報を示し、
    前記共分散情報は、前記１つ以上のオーディオオブジェクト信号のうちの１つと前記１つ以上のオーディオオブジェクト信号のうちのもう１つとのペアに対する相関情報を示すことがなく、
    前記パラメータプロセッサ(１１０)は、前記ダウンミックス情報に依存して、前記１つ以上のオーディオチャンネル信号の１つずつのレベル差情報に依存して、前記１つ以上のオーディオオブジェクト信号の１つずつの前記第２のレベル差情報に依存して、及び前記２つ以上のオーディオチャンネル信号のうちの１つと前記２つ以上のオーディオチャンネル信号のうちのもう１つとの前記１つ以上のペアの前記相関情報に依存して前記ミキシング情報を算出するように構成されている請求項１から１２のいずれか一項に記載の装置。
  14. １つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成する装置であって、該装置は、
    前記オーディオトランスポート信号の前記１つ以上のオーディオトランスポートチャンネルを生成するチャンネル/オブジェクトミキサ(２１０)と、
    出力インターフェース(２２０)と、を備え、
    前記チャンネル/オブジェクトミキサ(２１０)は、前記１つ以上のオーディオチャンネル信号及び前記１つ以上のオーディオオブジェクト信号が前記１つ以上のオーディオトランスポートチャンネル内でどのように混合されるべきであるかに関する情報を示すダウンミックス情報に依存して、前記オーディオトランスポート信号内で前記１つ以上のオーディオチャンネル信号と前記１つ以上のオーディオオブジェクト信号とを混合することにより前記１つ以上のオーディオトランスポートチャンネルを含む前記オーディオトランスポート信号を生成し、前記１つ以上のオーディオトランスポートチャンネルの数が１つ以上のオーディオチャンネル信号の数に１つ以上のオーディオオブジェクト信号の数を加えた数より少なくなるように構成され、
    前記出力インターフェース(２２０)は、前記オーディオトランスポート信号、前記ダウンミックス情報及び共分散情報を出力するように構成され、
    前記共分散情報は、前記１つ以上のオーディオチャンネル信号のうちの少なくとも１つに対するレベル差情報を示し、さらに前記１つ以上のオーディオオブジェクト信号のうちの少なくとも１つに対するレベル差情報を示し、
    前記共分散情報は、前記１つ以上のオーディオチャンネル信号のうちの１つと前記１つ以上のオーディオオブジェクト信号のうちの１つとのペアに対する相関情報を示すことがない装置。
  15. チャンネル/オブジェクトミキサ(２１０)は、前記オーディオトランスポート信号の前記１つ以上のオーディオトランスポートチャンネルの数がどの程度のビットレートが前記オーディオトランスポート信号を送信するため利用可能であるかに依存するように、前記オーディオトランスポート信号を生成するように構成されている請求項１４に記載の装置。
  16. オーディオトランスポート信号を生成する請求項１４又は１５に記載の装置(３１０)と、
    １つ以上のオーディオ出力チャンネルを生成する請求項１から１３のいずれか一項に記載の装置(３２０)と、を備え、
    請求項１から１３のいずれか一項に記載の装置(３２０)は、請求項１４又は１５に記載の前記装置(３１０)から前記オーディオトランスポート信号、ダウンミックス情報及び共分散情報を受信するように構成され、
    請求項１から１３のいずれか一項に記載の装置(３２０)は、前記ダウンミックス情報及び前記共分散情報に依存して前記オーディオトランスポート信号から前記１つ以上のオーディオ出力チャンネルを生成するように構成されているシステム。
  17. １つ以上のオーディオ出力チャンネルを生成する方法であって、該方法は、
    １つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を受信するステップであって、１つ以上のオーディオチャンネル信号が前記オーディオトランスポート信号内で混合され、１つ以上のオーディオオブジェクト信号が前記オーディオトランスポート信号内で混合され、１つ以上のオーディオトランスポートチャンネルの数が前記１つ以上のオーディオチャンネル信号の数に前記１つ以上のオーディオオブジェクト信号の数を加えた数より少なくされているステップと、
    前記１つ以上のオーディオチャンネル信号と前記１つ以上のオーディオオブジェクト信号が前記１つ以上のオーディオトランスポートチャンネル内でどのように混合されるかに関する情報を示すダウンミックス情報を受信するステップと、
    共分散情報を受信するステップと、
    前記ダウミックス情報に依存して、及び前記共分散情報に依存してミキシング情報を算出するステップと、
    前記１つ以上のオーディオ出力チャンネルを生成するステップであって、前記ミキシング情報に依存して前記オーディオトランスポート信号から前記１つ以上のオーディオ出力チャンネルを生成するステップと、を含み、
    前記共分散情報は、前記１つ以上のオーディオチャンネル信号のうちの少なくとも１つに対するレベル差情報を示し、さらに前記１つ以上のオーディオオブジェクト信号のうちの少なくとも１つに対するレベル差情報を示し、
    前記共分散情報は、前記１つ以上のオーディオチャンネル信号のうちの１つと前記１つ以上のオーディオオブジェクト信号のうちの１つとのペアに対する相関情報を示すことがない方法。
  18. １つ以上のオーディオトランスポートチャンネルを含むオーディオトランスポート信号を生成する方法であって、該方法は、
    １つ以上のオーディオチャンネル信号及び１つ以上のオーディオオブジェクト信号が前記１つ以上のオーディオトランスポートチャンネル内でどのように混合されるべきであるかに関する情報を示すダウンミックス情報に依存して、前記オーディオトランスポート信号内で前記１つ以上のオーディオチャンネル信号及び前記１つ以上のオーディオオブジェクト信号を混合することにより前記１つ以上のオーディオトランスポートチャンネルを含む前記オーディオトランスポート信号を生成し、前記１つ以上のオーディオトランスポートチャンネルの数が前記１つ以上のオーディオチャンネル信号の数と前記１つ以上のオーディオオブジェクト信号の数を加えた数より少なくなるようにするステップと、
    前記オーディオトランスポート信号、前記ダウンミックス情報及び共分散情報を出力するステップと、を含み、
    前記共分散情報は、前記１つ以上のオーディオチャンネル信号のうちの少なくとも１つに対するレベル差情報を示し、さらに前記１つ以上のオーディオオブジェクト信号のうちの少なくとも１つに対するレベル差情報を示し、
    前記共分散情報は、前記１つ以上のオーディオチャンネル信号のうちの１つと前記１つ以上のオーディオオブジェクト信号のうちの１つとのペアに対する相関情報を示すことがない方法。
  19. コンピュータ又は信号プロセッサ上で実行されたときに請求項１７又は１８に記載の方法を実施するコンピュータプログラム。
JP2016528448A 2013-07-22 2014-07-17 拡張空間オーディオオブジェクト符号化の装置及び方法 Active JP6333374B2 (ja)

Applications Claiming Priority (9)

Application Number Priority Date Filing Date Title
EP13177357.4 2013-07-22
EP13177371.5 2013-07-22
EP20130177378 EP2830045A1 (en) 2013-07-22 2013-07-22 Concept for audio encoding and decoding for audio channels and audio objects
EP13177378.0 2013-07-22
EP13177357 2013-07-22
EP13177371 2013-07-22
EP13189290.3A EP2830050A1 (en) 2013-07-22 2013-10-18 Apparatus and method for enhanced spatial audio object coding
EP13189290.3 2013-10-18
PCT/EP2014/065427 WO2015011024A1 (en) 2013-07-22 2014-07-17 Apparatus and method for enhanced spatial audio object coding

Publications (2)

Publication Number Publication Date
JP2016528542A true JP2016528542A (ja) 2016-09-15
JP6333374B2 JP6333374B2 (ja) 2018-05-30

Family

ID=49385153

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2016528436A Active JP6395827B2 (ja) 2013-07-22 2014-07-16 ３ｄオーディオコンテンツのｓａｏｃダウンミックスを実現する装置及び方法
JP2016528448A Active JP6333374B2 (ja) 2013-07-22 2014-07-17 拡張空間オーディオオブジェクト符号化の装置及び方法
JP2018126547A Active JP6873949B2 (ja) 2013-07-22 2018-07-03 １つのオーディオトランスポート信号から１つ以上のオーディオ出力チャネルを生成するための装置及び方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2016528436A Active JP6395827B2 (ja) 2013-07-22 2014-07-16 ３ｄオーディオコンテンツのｓａｏｃダウンミックスを実現する装置及び方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2018126547A Active JP6873949B2 (ja) 2013-07-22 2018-07-03 １つのオーディオトランスポート信号から１つ以上のオーディオ出力チャネルを生成するための装置及び方法

Country Status (19)

Country Link
US (4) US9578435B2 (ja)
EP (4) EP2830050A1 (ja)
JP (3) JP6395827B2 (ja)
KR (2) KR101774796B1 (ja)
CN (3) CN105593929B (ja)
AU (2) AU2014295270B2 (ja)
BR (2) BR112016001244B1 (ja)
CA (2) CA2918529C (ja)
ES (2) ES2768431T3 (ja)
HK (1) HK1225505A1 (ja)
MX (2) MX355589B (ja)
MY (2) MY176990A (ja)
PL (2) PL3025333T3 (ja)
PT (1) PT3025333T (ja)
RU (2) RU2666239C2 (ja)
SG (2) SG11201600460UA (ja)
TW (2) TWI560700B (ja)
WO (2) WO2015010999A1 (ja)
ZA (1) ZA201600984B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018180531A1 (ja) * 2017-03-28 2018-10-04 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MX370034B (es) 2015-02-02 2019-11-28 Fraunhofer Ges Forschung Aparato y método para procesar una señal de audio codificada.
CN106303897A (zh) 2015-06-01 2017-01-04 杜比实验室特许公司 处理基于对象的音频信号
BR112017002758B1 (pt) * 2015-06-17 2022-12-20 Sony Corporation Dispositivo e método de transmissão, e, dispositivo e método de recepção
WO2017209477A1 (ko) * 2016-05-31 2017-12-07 지오디오랩 인코포레이티드 오디오 신호 처리 방법 및 장치
US10349196B2 (en) * 2016-10-03 2019-07-09 Nokia Technologies Oy Method of editing audio signals using separated objects and associated apparatus
US10535355B2 (en) 2016-11-18 2020-01-14 Microsoft Technology Licensing, Llc Frame coding for spatial audio data
CN108182947B (zh) * 2016-12-08 2020-12-15 武汉斗鱼网络科技有限公司 一种声道混合处理方法及装置
CN109688497B (zh) * 2017-10-18 2021-10-01 宏达国际电子股份有限公司 声音播放装置、方法及非暂态存储介质
GB2574239A (en) * 2018-05-31 2019-12-04 Nokia Technologies Oy Signalling of spatial audio parameters
US10620904B2 (en) 2018-09-12 2020-04-14 At&T Intellectual Property I, L.P. Network broadcasting for selective presentation of audio content
WO2020067057A1 (ja) 2018-09-28 2020-04-02 株式会社フジミインコーポレーテッド 酸化ガリウム基板研磨用組成物
GB2577885A (en) 2018-10-08 2020-04-15 Nokia Technologies Oy Spatial audio augmentation and reproduction
GB2582748A (en) * 2019-03-27 2020-10-07 Nokia Technologies Oy Sound field related rendering
US11622219B2 (en) * 2019-07-24 2023-04-04 Nokia Technologies Oy Apparatus, a method and a computer program for delivering audio scene entities
US11972767B2 (en) 2019-08-01 2024-04-30 Dolby Laboratories Licensing Corporation Systems and methods for covariance smoothing
GB2587614A (en) * 2019-09-26 2021-04-07 Nokia Technologies Oy Audio encoding and audio decoding
EP4120250A4 (en) * 2020-03-09 2024-03-27 Nippon Telegraph & Telephone SOUND SIGNAL REDUCING MIXING METHOD, SOUND SIGNAL CODING METHOD, SOUND SIGNAL REDUCING MIXING DEVICE, SOUND SIGNAL CODING DEVICE, PROGRAM AND RECORDING MEDIUM
GB2595475A (en) * 2020-05-27 2021-12-01 Nokia Technologies Oy Spatial audio representation and rendering
KR102508815B1 (ko) 2020-11-24 2023-03-14 네이버 주식회사 오디오와 관련하여 사용자 맞춤형 현장감 실현을 위한 컴퓨터 시스템 및 그의 방법
US11930348B2 (en) * 2020-11-24 2024-03-12 Naver Corporation Computer system for realizing customized being-there in association with audio and method thereof
JP2022083445A (ja) 2020-11-24 2022-06-03 ネイバー コーポレーション ユーザカスタム型臨場感を実現するためのオーディオコンテンツを製作するコンピュータシステムおよびその方法
WO2023131398A1 (en) * 2022-01-04 2023-07-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for implementing versatile audio object rendering

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010525403A (ja) * 2007-04-26 2010-07-22 ドルビー インターナショナル アクチボラゲット 出力信号の合成装置及び合成方法
JP2013506164A (ja) * 2009-09-29 2013-02-21 フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン オーディオ信号デコーダ、オーディオ信号エンコーダ、アップミックス信号表現の生成方法、ダウンミックス信号表現の生成方法、コンピュータプログラム、及び共通するオブジェクト間相関パラメータ値を用いるビットストリーム

Family Cites Families (77)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US2605361A (en) 1950-06-29 1952-07-29 Bell Telephone Labor Inc Differential quantization of communication signals
JP3576936B2 (ja) 2000-07-21 2004-10-13 株式会社ケンウッド 周波数補間装置、周波数補間方法及び記録媒体
US7720230B2 (en) 2004-10-20 2010-05-18 Agere Systems, Inc. Individual channel shaping for BCC schemes and the like
SE0402652D0 (sv) * 2004-11-02 2004-11-02 Coding Tech Ab Methods for improved performance of prediction based multi- channel reconstruction
SE0402649D0 (sv) * 2004-11-02 2004-11-02 Coding Tech Ab Advanced methods of creating orthogonal signals
SE0402651D0 (sv) 2004-11-02 2004-11-02 Coding Tech Ab Advanced methods for interpolation and parameter signalling
RU2411594C2 (ru) * 2005-03-30 2011-02-10 Конинклейке Филипс Электроникс Н.В. Кодирование и декодирование аудио
CN101151658B (zh) 2005-03-30 2011-07-06 皇家飞利浦电子股份有限公司 多声道音频编码和解码方法、编码器和解码器
US7548853B2 (en) 2005-06-17 2009-06-16 Shmunk Dmitry V Scalable compressed audio bit stream and codec using a hierarchical filterbank and multichannel joint coding
CN101310328A (zh) * 2005-10-13 2008-11-19 Lg电子株式会社 用于处理信号的方法和装置
KR100888474B1 (ko) * 2005-11-21 2009-03-12 삼성전자주식회사 멀티채널 오디오 신호의 부호화/복호화 장치 및 방법
CN101410891A (zh) * 2006-02-03 2009-04-15 韩国电子通信研究院 使用空间线索控制多目标或多声道音频信号的渲染的方法和装置
EP1989920B1 (en) 2006-02-21 2010-01-20 Koninklijke Philips Electronics N.V. Audio encoding and decoding
EP2005787B1 (en) * 2006-04-03 2012-01-25 Srs Labs, Inc. Audio signal processing
US8027479B2 (en) * 2006-06-02 2011-09-27 Coding Technologies Ab Binaural multi-channel decoder in the context of non-energy conserving upmix rules
WO2008002098A1 (en) 2006-06-29 2008-01-03 Lg Electronics, Inc. Method and apparatus for an audio signal processing
ES2623226T3 (es) 2006-07-04 2017-07-10 Dolby International Ab Unidad de filtro y procedimiento de generación de respuestas al impulso de filtro de subbanda
CN101617360B (zh) * 2006-09-29 2012-08-22 韩国电子通信研究院 用于编码和解码具有各种声道的多对象音频信号的设备和方法
EP2071564A4 (en) * 2006-09-29 2009-09-02 Lg Electronics Inc METHOD AND DEVICES FOR CODING AND DECODING OBJECT-BASED AUDIO SIGNALS
MY145497A (en) * 2006-10-16 2012-02-29 Dolby Sweden Ab Enhanced coding and parameter representation of multichannel downmixed object coding
EP2095365A4 (en) * 2006-11-24 2009-11-18 Lg Electronics Inc METHOD FOR ENCODING AND DECODING AUDIO SIGNALS BASED ON OBJECTS AND APPARATUS THEREOF
EP2122613B1 (en) * 2006-12-07 2019-01-30 LG Electronics Inc. A method and an apparatus for processing an audio signal
EP2595152A3 (en) * 2006-12-27 2013-11-13 Electronics and Telecommunications Research Institute Transkoding apparatus
EP2115739A4 (en) * 2007-02-14 2010-01-20 Lg Electronics Inc METHODS AND APPARATUSES FOR ENCODING AND DECODING AUDIO SIGNALS BASED ON OBJECTS
CN101542596B (zh) * 2007-02-14 2016-05-18 Lg电子株式会社 用于编码和解码基于对象的音频信号的方法和装置
RU2406166C2 (ru) 2007-02-14 2010-12-10 ЭлДжи ЭЛЕКТРОНИКС ИНК. Способы и устройства кодирования и декодирования основывающихся на объектах ориентированных аудиосигналов
KR20080082917A (ko) * 2007-03-09 2008-09-12 엘지전자 주식회사 오디오 신호 처리 방법 및 이의 장치
US8463413B2 (en) 2007-03-09 2013-06-11 Lg Electronics Inc. Method and an apparatus for processing an audio signal
WO2008114984A1 (en) 2007-03-16 2008-09-25 Lg Electronics Inc. A method and an apparatus for processing an audio signal
US7991622B2 (en) 2007-03-20 2011-08-02 Microsoft Corporation Audio compression and decompression using integer-reversible modulated lapped transforms
US8639498B2 (en) 2007-03-30 2014-01-28 Electronics And Telecommunications Research Institute Apparatus and method for coding and decoding multi object audio signal with multi channel
PT2165328T (pt) 2007-06-11 2018-04-24 Fraunhofer Ges Forschung Codificação e descodificação de um sinal de áudio tendo uma parte do tipo impulso e uma parte estacionária
US7885819B2 (en) 2007-06-29 2011-02-08 Microsoft Corporation Bitstream syntax for multi-process audio decoding
BRPI0816557B1 (pt) 2007-10-17 2020-02-18 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Codificação de áudio usando upmix
US8527282B2 (en) 2007-11-21 2013-09-03 Lg Electronics Inc. Method and an apparatus for processing a signal
KR100998913B1 (ko) 2008-01-23 2010-12-08 엘지전자 주식회사 오디오 신호의 처리 방법 및 이의 장치
KR101061129B1 (ko) 2008-04-24 2011-08-31 엘지전자 주식회사 오디오 신호의 처리 방법 및 이의 장치
EP2144230A1 (en) 2008-07-11 2010-01-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Low bitrate audio encoding/decoding scheme having cascaded switches
EP2144231A1 (en) 2008-07-11 2010-01-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Low bitrate audio encoding/decoding scheme with common preprocessing
EP2146522A1 (en) * 2008-07-17 2010-01-20 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for generating audio output signals using object based metadata
ES2592416T3 (es) 2008-07-17 2016-11-30 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Esquema de codificación/decodificación de audio que tiene una derivación conmutable
US8798776B2 (en) 2008-09-30 2014-08-05 Dolby International Ab Transcoding of audio metadata
MX2011011399A (es) * 2008-10-17 2012-06-27 Univ Friedrich Alexander Er Aparato para suministrar uno o más parámetros ajustados para un suministro de una representación de señal de mezcla ascendente sobre la base de una representación de señal de mezcla descendete, decodificador de señal de audio, transcodificador de señal de audio, codificador de señal de audio, flujo de bits de audio, método y programa de computación que utiliza información paramétrica relacionada con el objeto.
EP2194527A3 (en) 2008-12-02 2013-09-25 Electronics and Telecommunications Research Institute Apparatus for generating and playing object based audio contents
KR20100065121A (ko) * 2008-12-05 2010-06-15 엘지전자 주식회사 오디오 신호 처리 방법 및 장치
EP2205007B1 (en) 2008-12-30 2019-01-09 Dolby International AB Method and apparatus for three-dimensional acoustic field encoding and optimal reconstruction
WO2010085083A2 (en) * 2009-01-20 2010-07-29 Lg Electronics Inc. An apparatus for processing an audio signal and method thereof
US8139773B2 (en) * 2009-01-28 2012-03-20 Lg Electronics Inc. Method and an apparatus for decoding an audio signal
WO2010090019A1 (ja) * 2009-02-04 2010-08-12 パナソニック株式会社 結合装置、遠隔通信システム及び結合方法
MX2011009660A (es) 2009-03-17 2011-09-30 Dolby Int Ab Codificacion estereo avanzada basada en una combinacion de codificacion izquierda/derecha o media/lateral seleccionable de manera adaptable y de codificacion estereo parametrica.
WO2010105695A1 (en) 2009-03-20 2010-09-23 Nokia Corporation Multi channel audio coding
CN102449689B (zh) 2009-06-03 2014-08-06 日本电信电话株式会社 编码方法、编码装置、编码程序、以及它们的记录介质
TWI404050B (zh) 2009-06-08 2013-08-01 Mstar Semiconductor Inc 多聲道音頻信號解碼方法與裝置
US20100324915A1 (en) 2009-06-23 2010-12-23 Electronic And Telecommunications Research Institute Encoding and decoding apparatuses for high quality multi-channel audio codec
KR101283783B1 (ko) 2009-06-23 2013-07-08 한국전자통신연구원 고품질 다채널 오디오 부호화 및 복호화 장치
WO2011013381A1 (ja) 2009-07-31 2011-02-03 パナソニック株式会社 符号化装置および復号装置
KR101842411B1 (ko) * 2009-08-14 2018-03-26 디티에스 엘엘씨 오디오 객체들을 적응적으로 스트리밍하기 위한 시스템
MX2012004621A (es) * 2009-10-20 2012-05-08 Fraunhofer Ges Forschung Aparato para proporcionar una representacion de una señal de conversion ascendente sobre la base de una representacion de una señal de conversion descendente, aparato para proporcionar una corriente de bits que representa una señal de audio de canales multiples, metodos, programa de computacion y corriente de bits que utiliza una señalizacion de control de distorsion.
US9117458B2 (en) 2009-11-12 2015-08-25 Lg Electronics Inc. Apparatus for processing an audio signal and method thereof
KR101490725B1 (ko) 2010-03-23 2015-02-06 돌비 레버러토리즈 라이쎈싱 코오포레이션 비디오 디스플레이 장치, 오디오-비디오 시스템, 음향 재생을 위한 방법 및 로컬라이즈된 지각적 오디오를 위한 음향 재생 시스템
US8675748B2 (en) 2010-05-25 2014-03-18 CSR Technology, Inc. Systems and methods for intra communication system information transfer
US8755432B2 (en) 2010-06-30 2014-06-17 Warner Bros. Entertainment Inc. Method and apparatus for generating 3D audio positioning using dynamically optimized audio 3D space perception cues
US8908874B2 (en) 2010-09-08 2014-12-09 Dts, Inc. Spatial audio encoding and reproduction
TWI800092B (zh) 2010-12-03 2023-04-21 美商杜比實驗室特許公司 音頻解碼裝置、音頻解碼方法及音頻編碼方法
AR084091A1 (es) * 2010-12-03 2013-04-17 Fraunhofer Ges Forschung Adquisicion de sonido mediante la extraccion de informacion geometrica de estimativos de direccion de llegada
US9165558B2 (en) 2011-03-09 2015-10-20 Dts Llc System for dynamically creating and rendering audio objects
KR102374897B1 (ko) 2011-03-16 2022-03-17 디티에스, 인코포레이티드 3차원 오디오 사운드트랙의 인코딩 및 재현
US9754595B2 (en) 2011-06-09 2017-09-05 Samsung Electronics Co., Ltd. Method and apparatus for encoding and decoding 3-dimensional audio signal
AU2012279349B2 (en) 2011-07-01 2016-02-18 Dolby Laboratories Licensing Corporation System and tools for enhanced 3D audio authoring and rendering
TW202339510A (zh) 2011-07-01 2023-10-01 美商杜比實驗室特許公司 用於適應性音頻信號的產生、譯碼與呈現之系統與方法
JP5740531B2 (ja) 2011-07-01 2015-06-24 ドルビー ラボラトリーズ ライセンシング コーポレイション オブジェクトベースオーディオのアップミキシング
CN102931969B (zh) 2011-08-12 2015-03-04 智原科技股份有限公司 数据提取的方法与装置
EP2560161A1 (en) * 2011-08-17 2013-02-20 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Optimal mixing matrices and usage of decorrelators in spatial audio processing
BR112014010062B1 (pt) * 2011-11-01 2021-12-14 Koninklijke Philips N.V. Codificador de objeto de áudio, decodificador de objeto de áudio, método para a codificação de objeto de áudio, e método para a decodificação de objeto de áudio
EP2721610A1 (en) 2011-11-25 2014-04-23 Huawei Technologies Co., Ltd. An apparatus and a method for encoding an input signal
US9666198B2 (en) 2013-05-24 2017-05-30 Dolby International Ab Reconstruction of audio scenes from a downmix
EP2830047A1 (en) 2013-07-22 2015-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for low delay object metadata coding

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010525403A (ja) * 2007-04-26 2010-07-22 ドルビー インターナショナル アクチボラゲット 出力信号の合成装置及び合成方法
JP2013506164A (ja) * 2009-09-29 2013-02-21 フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン オーディオ信号デコーダ、オーディオ信号エンコーダ、アップミックス信号表現の生成方法、ダウンミックス信号表現の生成方法、コンピュータプログラム、及び共通するオブジェクト間相関パラメータ値を用いるビットストリーム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018180531A1 (ja) * 2017-03-28 2018-10-04 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
JPWO2018180531A1 (ja) * 2017-03-28 2020-02-06 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
US11074921B2 (en) 2017-03-28 2021-07-27 Sony Corporation Information processing device and information processing method
JP7230799B2 (ja) 2017-03-28 2023-03-01 ソニーグループ株式会社 情報処理装置、情報処理方法、およびプログラム

Also Published As

Publication number Publication date
CN112839296A (zh) 2021-05-25
PL3025335T3 (pl) 2024-02-19
EP3025335B1 (en) 2023-08-30
CA2918869C (en) 2018-06-26
CN112839296B (zh) 2023-05-09
KR101774796B1 (ko) 2017-09-05
BR112016001244B1 (pt) 2022-03-03
EP2830048A1 (en) 2015-01-28
MX355589B (es) 2018-04-24
CA2918869A1 (en) 2015-01-29
BR112016001244A2 (ja) 2017-07-25
TW201519216A (zh) 2015-05-16
CN105593929A (zh) 2016-05-18
CN105593930A (zh) 2016-05-18
KR101852951B1 (ko) 2018-06-04
US20160142846A1 (en) 2016-05-19
US11330386B2 (en) 2022-05-10
TW201519217A (zh) 2015-05-16
PL3025333T3 (pl) 2020-07-27
SG11201600396QA (en) 2016-02-26
TWI560701B (en) 2016-12-01
JP2016527558A (ja) 2016-09-08
RU2660638C2 (ru) 2018-07-06
ES2768431T3 (es) 2020-06-22
EP3025333A1 (en) 2016-06-01
ZA201600984B (en) 2019-04-24
US20160142847A1 (en) 2016-05-19
AU2014295270B2 (en) 2016-12-01
JP6873949B2 (ja) 2021-05-19
JP2018185526A (ja) 2018-11-22
CN105593929B (zh) 2020-12-11
BR112016001243B1 (pt) 2022-03-03
US20170272883A1 (en) 2017-09-21
CN105593930B (zh) 2019-11-08
MY192210A (en) 2022-08-08
MX2016000914A (es) 2016-05-05
EP3025335C0 (en) 2023-08-30
RU2016105472A (ru) 2017-08-28
EP3025333B1 (en) 2019-11-13
KR20160041941A (ko) 2016-04-18
HK1225505A1 (zh) 2017-09-08
MX357511B (es) 2018-07-12
RU2666239C2 (ru) 2018-09-06
CA2918529A1 (en) 2015-01-29
SG11201600460UA (en) 2016-02-26
ES2959236T3 (es) 2024-02-22
US9699584B2 (en) 2017-07-04
EP2830050A1 (en) 2015-01-28
AU2014295270A1 (en) 2016-03-10
TWI560700B (en) 2016-12-01
PT3025333T (pt) 2020-02-25
MX2016000851A (es) 2016-04-27
JP6333374B2 (ja) 2018-05-30
AU2014295216A1 (en) 2016-03-10
EP3025335A1 (en) 2016-06-01
US9578435B2 (en) 2017-02-21
AU2014295216B2 (en) 2017-10-19
BR112016001243A2 (ja) 2017-07-25
CA2918529C (en) 2018-05-22
US20200304932A1 (en) 2020-09-24
WO2015011024A1 (en) 2015-01-29
MY176990A (en) 2020-08-31
JP6395827B2 (ja) 2018-09-26
US10701504B2 (en) 2020-06-30
RU2016105469A (ru) 2017-08-25
WO2015010999A1 (en) 2015-01-29
KR20160053910A (ko) 2016-05-13

Similar Documents

Publication Publication Date Title
JP6333374B2 (ja) 拡張空間オーディオオブジェクト符号化の装置及び方法
US11227616B2 (en) Concept for audio encoding and decoding for audio channels and audio objects
JP6687683B2 (ja) マルチチャネル非相関器、マルチチャネル・オーディオ・デコーダ、マルチチャネル・オーディオ・エンコーダおよび非相関器入力信号のリミックスを使用したコンピュータ・プログラム
RU2576476C2 (ru) Декодер аудиосигнала, кодер аудиосигнала, способ формирования представления сигнала повышающего микширования, способ формирования представления сигнала понижающего микширования, компьютерная программа и бистрим, использующий значение общего параметра межобъектной корреляции
JP6239110B2 (ja) 効率的なオブジェクト・メタデータ符号化の装置と方法
JP6346278B2 (ja) ジョイント符号化残留信号を用いたオーディオエンコーダ、オーディオデコーダ、方法、およびコンピュータプログラム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20170113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20170113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170321

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170615

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170920

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180302

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180327

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180424

R150 Certificate of patent or registration of utility model

Ref document number: 6333374

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250