JP7362807B2 - 適応オーディオ・コンテンツのためのハイブリッドの優先度に基づくレンダリング・システムおよび方法 - Google Patents

適応オーディオ・コンテンツのためのハイブリッドの優先度に基づくレンダリング・システムおよび方法 Download PDF

Info

Publication number
JP7362807B2
JP7362807B2 JP2022027836A JP2022027836A JP7362807B2 JP 7362807 B2 JP7362807 B2 JP 7362807B2 JP 2022027836 A JP2022027836 A JP 2022027836A JP 2022027836 A JP2022027836 A JP 2022027836A JP 7362807 B2 JP7362807 B2 JP 7362807B2
Authority
JP
Japan
Prior art keywords
audio
rendering
dynamic object
priority
speaker
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022027836A
Other languages
English (en)
Other versions
JP2022065179A (ja
Inventor
ブランドン ランドー,ジョシュア
サンチェス,フレディ
ジェイ. シーフェルト,アラン
Original Assignee
ドルビー ラボラトリーズ ライセンシング コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ドルビー ラボラトリーズ ライセンシング コーポレイション filed Critical ドルビー ラボラトリーズ ライセンシング コーポレイション
Publication of JP2022065179A publication Critical patent/JP2022065179A/ja
Application granted granted Critical
Publication of JP7362807B2 publication Critical patent/JP7362807B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S3/00Systems employing more than two channels, e.g. quadraphonic
    • H04S3/008Systems employing more than two channels, e.g. quadraphonic in which the audio signals are in digital form, i.e. employing more than two discrete digital channels
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16Vocoder architecture
    • G10L19/167Audio streaming, i.e. formatting and decoding of an encoded audio signal representation into a data stream for transmission or storage purposes
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16Vocoder architecture
    • G10L19/18Vocoders using multiple modes
    • G10L19/20Vocoders using multiple modes using sound class specific coding, hybrid encoders or object based coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/20Arrangements for obtaining desired frequency or directional characteristics
    • H04R1/32Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
    • H04R1/40Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers
    • H04R1/403Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers loud-speakers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R27/00Public address systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R5/00Stereophonic arrangements
    • H04R5/02Spatial or constructional arrangements of loudspeakers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • H04S7/302Electronic adaptation of stereophonic sound system to listener position or orientation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2499/00Aspects covered by H04R or H04S not otherwise provided for in their subgroups
    • H04R2499/10General applications
    • H04R2499/13Acoustic transducers and sound field adaptation in vehicles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/11Positioning of individual sound objects, e.g. moving airplane, within a sound field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2420/00Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/03Application of parametric coding in stereophonic audio systems

Description

関連出願への相互参照
本願は2015年2月6日に出願された米国仮特許出願第62/113,268号の優先権を主張するものである。同出願の内容はここに参照によってその全体において組み込まれる。
技術分野
一つまたは複数の実装は概括的にはオーディオ信号処理に関し、より詳細には適応オーディオ・コンテンツのための、ハイブリッドの優先度に基づくレンダリング戦略に関する。
デジタル映画館の導入および三次元(「3D」)コンテンツまたは仮想3Dコンテンツの発達は、サウンドについての新たなスタンダードを作り出した。たとえば、コンテンツ・クリエーターにとってのより大きな創造性を許容する複数チャネルのオーディオの組み込みや、聴衆にとってのより包み込むような、リアルな聴覚経験などである。空間的オーディオを配送する手段として伝統的なスピーカー・フィードおよびチャネル・ベースのオーディオを超えて拡張することは枢要であり、聴取者が選んだ構成のために特にレンダリングされたオーディオを用いることで聴取者が所望される再生構成を選択することを許容するモデル・ベースのオーディオ記述には多大な関心が寄せられてきた。音の空間的呈示はオーディオ・オブジェクトを利用する。オーディオ・オブジェクトは、見かけの源位置(たとえば3D座標)、見かけの源幅および他のパラメータの、関連付けられたパラメトリックな源記述をもつオーディオ信号である。さらなる進歩として、オーディオ・オブジェクトと伝統的なチャネル・ベースのスピーカー・フィードとの混合をオーディオ・オブジェクトのための位置メタデータとともに含む次世代空間的オーディオ(「適応オーディオ」とも称される)フォーマットが開発されている。空間的オーディオ・デコーダでは、チャネルは関連付けられたスピーカーに直接送られるか、あるいは既存のスピーカー集合にダウンミックス〔下方混合〕され、オーディオ・オブジェクトはデコーダによって、柔軟な(適応的な)仕方でレンダリングされる。各オブジェクトに関連付けられたパラメトリックな源記述、たとえば3D空間における位置軌跡は、デコーダに接続されたスピーカーの数および位置とともに入力として取られる。次いで、レンダラーはパン則のようなある種のアルゴリズムを使って、取り付けられたスピーカーの集合にまたがって各オブジェクトに関連付けられたオーディオを分配する。このようにして、各オブジェクトのオーサリングされた空間的意図が、聴取室に存在する特定のスピーカー構成を通じて、最適に呈示される。
高度なオブジェクト・ベースのオーディオの到来は、さまざまな異なるスピーカー・アレイに伝送されるオーディオ・コンテンツの性質およびレンダリング・プロセスの複雑さを有意に増した。たとえば、映画サウンドトラックは、スクリーン上の像に対応する多くの異なる音要素、ダイアログ、ノイズおよびサウンド効果を含むことがある。これらの音要素は、スクリーン上の異なる位置から発し、背景音楽および周囲効果(ambient effects)と組み合わさって全体的な聴覚体験を作り出す。正確な再生は、音が、音源の位置、強度、動きおよび奥行きに関してスクリーン上に示されるものにできるだけ近く対応する仕方で再現されることを要求する。
高度な3Dオーディオ・システム(ドルビー(登録商標)アトモス(商標)システムなど)は主に映画館用途のために設計され、配備されてきたが、映画館の適応オーディオ経験を家庭やオフィス環境にもたらす消費者レベルのシステムが開発されつつある。映画館に比べ、これらの環境は会場サイズ、音響特性、システム・パワーおよびスピーカー構成の点で明らかな制約がある。このように、現在の業務用レベルの空間的オーディオ・システムは、高度なオブジェクト・オーディオ・コンテンツを、種々のスピーカー構成および再生機能を備える聴取環境にレンダリングするよう適応される必要がある。この目的に向け、コンテンツ依存レンダリング・アルゴリズム、反射音送出などといった洗練されたレンダリング・アルゴリズムおよび技法の使用を通じて空間的な音の手がかりを再現するよう、伝統的なステレオまたはサラウンドサウンド・スピーカー・アレイの機能を拡張するために、ある種の仮想化技法が開発されている。そのようなレンダリング技法は、オブジェクト・オーディオ・メタデータ・コンテンツ(OAMD: object audio metadata content)ベッドおよびISF(Intermediate Spatial Format[中間空間的フォーマット])オブジェクトのような種々の型の適応的なオーディオ・コンテンツをレンダリングするよう最適化されたDSPベースのレンダラーおよび回路の開発につながった。個別的なOAMDコンテンツをレンダリングすることに関して適応オーディオの種々の特性を活用する種々のDSP回路が開発されている。しかしながら、そのようなマルチプロセッサ・システムはそれぞれのプロセッサのメモリ帯域幅および処理機能に関する最適化を必要とする。
したがって、必要とされているのは、適応オーディオのためのマルチプロセッサ・レンダリング・システムにおける二つ以上のプロセッサのためのスケーラブルなプロセッサ負荷を提供するシステムである。
サラウンドサウンドおよび映画館ベースのオーディオの家庭における採用が増えたことで、標準的なツーウェーまたはスリーウェーの床置き型またはブックシェルフ型スピーカーを超えたスピーカーの種々の型および構成が開発されている。5.1または7.1システムの一部としてのサウンドバー・スピーカーのような種々のスピーカーが特定のコンテンツを再生するために開発されている。サウンドバーは二つ以上のドライバーが単一のエンクロージャー(スピーカー・ボックス)内に集められており、典型的には単一の軸に沿って配置されているスピーカーのクラスを表わす。たとえば、一般的なサウンドバーは典型的には、スクリーンから直接音を送出するために、テレビジョンまたはコンピュータ・モニタの上、下または真正面に収まるよう設計された長方形のボックスにおいて整列されている4~6個のスピーカーを含む。サウンドバーの構成のため、物理的な配置を通じた高さ手がかりを提供するスピーカー(たとえば高さドライバー(height driver))または他の技法に比べて、ある種の仮想化技法は実現するのが難しいことがある。
したがって、さらに必要とされているのは、サウンドバー・スピーカー・システムを通じた再生のための適応オーディオ仮想化技法を最適化するシステムである。
背景セクションで論じられている主題は、単に背景セクションでの開示のために従来技術であると想定されるべきではない。同様に、背景セクションにおいて言及されているまたは背景セクションの主題に関連する問題は、従来技術において以前から認識されていたと想定されるべきではない。背景セクションにおける主題は単に、種々のアプローチを表わすものであり、それらのアプローチ自身も発明であることがありうる。ドルビー、ドルビー・トゥルーHDおよびアトモスはドルビー・ラボラトリーズ・ライセンシング・コーポレイションの商標である。
適応オーディオをレンダリングする方法の実施形態が記述される。該レンダリングは、チャネル・ベースのオーディオ、オーディオ・オブジェクトおよび動的オブジェクトを含む入力オーディオを受領する段階であって、前記動的オブジェクトは低優先度動的オブジェクトの集合および高優先度動的オブジェクトの集合として分類される、段階と;前記チャネル・ベースのオーディオ、前記オーディオ・オブジェクトおよび前記低優先度動的オブジェクトをオーディオ処理システムの第一のレンダリング・プロセッサにおいてレンダリングする段階と;前記高優先度動的オブジェクトを前記オーディオ処理システムの第二のレンダリング・プロセッサにおいてレンダリングする段階とを実行することによる。入力オーディオは、オーディオ・コンテンツおよびレンダリング・メタデータを含むオブジェクト・オーディオ・ベースのデジタル・ビットストリーム・フォーマットに従ってフォーマットされていてもよい。前記チャネル・ベースのオーディオはサラウンドサウンド・オーディオ・ベッドを含み、前記オーディオ・オブジェクトは中間空間的フォーマットに準拠するオブジェクトを含む。前記低優先度動的オブジェクトおよび高優先度動的オブジェクトは、前記入力オーディオを含むオーディオ・コンテンツの作者、ユーザー選択された値および前記オーディオ処理システムによって実行される自動化されたプロセスのうちの一つによって定義されうる優先度閾値によって区別される。ある実施形態では、優先度閾値は、オブジェクト・オーディオ・メタデータ・ビットストリームにおいてエンコードされる。前記低優先度および高優先度のオーディオ・オブジェクトのオーディオ・オブジェクトの相対的な優先度はオブジェクト・オーディオ・メタデータ・ビットストリームにおけるそれぞれの位置によって決定されてもよい。
ある実施形態では、本方法はさらに、前記第一のレンダリング・プロセッサにおいて前記チャネル・ベースのオーディオ、前記オーディオ・オブジェクトおよび前記低優先度動的オブジェクトをレンダリングしてレンダリングされたオーディオを生成する間またはその後に、前記高優先度オーディオ・オブジェクトを前記第一のレンダリング・プロセッサを通して前記第二のレンダリング・プロセッサに渡し;前記レンダリングされたオーディオをスピーカー・システムへの伝送のために後処理することを含む。後処理段階は、アップミックス、ボリューム制御、等化、低音管理および前記スピーカー・システムを通じた再生のための前記入力オーディオに存在している高さ手がかりのレンダリングを容易にするための仮想化段階のうちの少なくとも一つを含む。
ある実施形態では、前記スピーカー・システムは、単一の軸に沿って音を送出する複数の共位置のドライバーを有するサウンドバー・スピーカーを有しており、前記第一および第二のレンダリング・プロセッサは、伝送リンクを通じて一緒に結合された別個のデジタル信号処理回路において具現される。優先度閾値は、前記第一および第二のレンダリング・プロセッサの相対的な処理機能、前記第一および第二のレンダリング・プロセッサのそれぞれに関連付けられたメモリ帯域幅および前記伝送リンクの伝送帯域幅のうちの少なくとも一つによって決定される。
実施形態はさらに、適応オーディオをレンダリングする方法であって、該レンダリングは、オーディオ・コンポーネントおよび関連付けられたメタデータを含む入力オーディオ・ビットストリームを受領する段階であって、前記オーディオ・コンポーネントはそれぞれチャネル・ベースのオーディオ、オーディオ・オブジェクトおよび動的オブジェクトから選択されるオーディオ型をもつ、段階と;各オーディオ・コンポーネントについてのデコーダ・フォーマットをそれぞれのオーディオ型に基づいて決定する段階と;各オーディオ・コンポーネントの優先度を、該各オーディオ・コンポーネントに関連付けられたメタデータにおける優先度フィールドから決定する段階と;第一のレンダリング・プロセッサにおいて第一の優先度型のオーディオ・コンポーネントをレンダリングする段階と;第二のレンダリング・プロセッサにおいて第二の優先度型のオーディオ・コンポーネントをレンダリングする段階とを実行することによる、方法に向けられる。前記第一のレンダリング・プロセッサおよび第二のレンダリング・プロセッサは、伝送リンクを通じて互いに結合された別個のレンダリング・デジタル信号プロセッサ(DSP)として実装される。第一の優先度型のオーディオ・コンポーネントは低優先度の動的オブジェクトを含み、第二の優先度型のオーディオ・コンポーネントは高優先度の動的オブジェクトを含み、本方法はさらに、前記チャネル・ベースのオーディオ、前記オーディオ・オブジェクトを前記第一のレンダリング・プロセッサにおいてレンダリングすることを含む。ある実施形態では、前記チャネル・ベースのオーディオはサラウンドサウンド・オーディオ・ベッドを含み、前記オーディオ・オブジェクトは中間空間的フォーマット(ISF)に準拠するオブジェクトを含み、前記低優先度および高優先度動的オブジェクトはオブジェクト・オーディオ・メタデータ(OAMD)フォーマットに準拠するものを含む。各オーディオ・コンポーネントについてのデコーダ・フォーマットは:OAMDフォーマットされた動的オブジェクト、サラウンドサウンド・オーディオ・ベッドおよびISFオブジェクトのうちの少なくとも一つを生成する。本方法はさらに、前記スピーカー・システムを通じた再生のための前記入力オーディオに存在している高さ手がかりのレンダリングを容易にするよう、少なくとも前記高優先度動的オブジェクトに仮想化プロセスを適用してもよく、スピーカー・システムは、単一の軸に沿って音を送出する複数の共位置のドライバーを有するサウンドバー・スピーカーを有していてもよい。
実施形態はさらに、上述した方法を実装するデジタル信号処理システムおよび/または上述した方法の少なくとも一部を実装する回路を組み込むスピーカー・システムに向けられる。
〈参照による組み込み〉
本明細書において言及される各刊行物、特許および/または特許出願はここに参照によって、個々の各刊行物および/または特許出願が具体的かつ個別的に参照によって組み込まれることが示されている場合と同じ程度にその全体において組み込まれる。
以下の図面では、同様の参照符号が同様の要素を指すために使われる。以下の図はさまざまな例を描いているが、前記一つまたは複数の実装は図面に描かれる例に限定されるものではない。
高さチャネルの再生のための高さスピーカーを提供するサラウンド・システム(たとえば9.1サラウンド)における例示的なスピーカー配置を示す図である。 ある実施形態のもとでの、適応的なオーディオ混合を生成するためのチャネルおよびオブジェクト・ベースのデータの組み合わせを示す図である。 ある実施形態のもとでの、ハイブリッドの優先度に基づくレンダリング・システムにおいて処理されるオーディオ・コンテンツの型を示す表である。 ある実施形態のもとでの、ハイブリッドの優先度に基づくレンダリング戦略を実装するマルチプロセッサ・レンダリング・システムのブロック図である。 ある実施形態のもとでの、図4のマルチプロセッサ・レンダリング・システムの、より詳細なブロック図である。 ある実施形態のもとでの、サウンドバーを通じて適応オーディオ・コンテンツの再生のために優先度に基づくレンダリングを実装する方法を示すフローチャートである。 ハイブリッドの優先度に基づくレンダリング・システムの実施形態とともに使用されうるサウンドバー・スピーカーを示す図である。 例示的なテレビジョンおよびサウンドバー消費者使用事例における優先度に基づく適応オーディオ・レンダリング・システムの使用を示す図である。 例示的なフル・サラウンドサウンド家庭環境における優先度に基づく適応オーディオ・レンダリング・システムの使用を示す図である。 ある実施形態のもとでの、サウンドバーについて優先度に基づくレンダリングを利用する適応オーディオ・システムにおける使用のためのいくつかの例示的なメタデータ定義を示す表である。 いくつかの実施形態のもとでの、レンダリング・システムと一緒に使う中間空間的フォーマットを示す図である。 ある実施形態のもとでの、中間空間的フォーマットと一緒に使うための積層環フォーマット・パン空間における環の配置を示す図である。 ある実施形態のもとでの、ISF処理システムにおいて使うための、諸スピーカーの弧を、ある角度にパンされたオーディオ・オブジェクトとともに示す図である。 A~Cは、異なる実施形態のもとでの、積層環中間空間的フォーマットのデコードを示す図である。
オブジェクト・オーディオ・メタデータ(OAMD)ベッドまたは中間空間的フォーマット(ISF)オブジェクトが第一のDSPコンポーネント上の時間領域オブジェクト・オーディオ・レンダラー(OAR)コンポーネントを使ってレンダリングされ、一方、OAMD動的オブジェクトは第二のDSPコンポーネント上の後処理チェーンにおける仮想レンダラーによってレンダリングされるハイブリッドの優先度に基づくレンダリング戦略のためのシステムおよび方法が記述される。出力オーディオは、一つまたは複数の後処理および仮想化技法によってサウンドバー・スピーカーを通じた再生のために最適化されてもよい。本稿に記載される一つまたは複数の実施形態の諸側面は、ソフトウェア命令を実行する一つまたは複数のコンピュータまたは処理装置を含む混合、レンダリングおよび再生システムにおいて源オーディオ情報を処理するオーディオまたはオーディオビジュアル・システムにおいて実装されうる。記載される実施形態はいずれも、単独でまたは任意の組み合わせにおいて互いと一緒に使用されうる。さまざまな実施形態が、本明細書の一つまたは複数の場所で論じられるまたは暗示されることがありうる従来技術でのさまざまな欠点によって動機付けられていることがありうるが、それらの実施形態は必ずしもこれらの欠点のいずれかに取り組むものではない。つまり、種々の実施形態は本明細書において論じられることがある種々の欠点に取り組むことがある。いくつかの実施形態は、本明細書において論じられることがあるいくつかの欠点または一つだけの欠点に部分的に取り組むだけであることがあり、いくつかの実施形態はこれらの欠点のどれにも取り組まないこともある。
本記述の目的のためには、以下の用語は関連付けられた意味をもつ:用語「チャネル」は、オーディオ信号にメタデータを加えたものを意味する。メタデータにおいて、位置はチャネル識別子、たとえば左前方または右上方サラウンドとして符号化される。「チャネル・ベースのオーディオ」は、関連付けられた公称位置をもつスピーカー・ゾーンのあらかじめ定義されたセット、たとえば5.1、7.1などを通じた再生のためにフォーマットされたオーディオである。用語「オブジェクト」または「オブジェクト・ベースのオーディオ」は、見かけの源位置(たとえば3D座標)、見かけの源幅などといったパラメトリックな源記述をもつ一つまたは複数のオーディオ・チャネルを意味する。「適応オーディオ」は、チャネル・ベースのおよび/またはオブジェクト・ベースのオーディオ信号に、オーディオ・ストリームに位置が空間内の3D位置として符号化されているメタデータを加えたものを使って、再生環境に基づいてオーディオ信号をレンダリングするメタデータを加えたものを意味する。「聴取環境」は、任意の開けた、部分的に囲まれたまたは完全に囲まれた領域、たとえば部屋であって、オーディオ・コンテンツを単独でまたはビデオまたは他のコンテンツと一緒に再生するために使用できる領域を意味し、自宅、映画館、シアター、講堂、スタジオ、ゲーム・コンソールなどにおいて具現されることができる。そのような領域は、壁またはバッフルのような、そこに配置された一つまたは複数の表面を有していてもよく、それが音波を直接または拡散的に反射する。
〈適応的なオーディオ・フォーマットおよびシステム〉
ある実施形態では、相互接続システムは、「空間的オーディオ・システム」または「適応オーディオ・システム」と称されうる音フォーマットおよび処理システムとともに機能するよう構成されているオーディオ・システムの一部として実装される。そのようなシステムは、向上した聴衆没入感、より大きな芸術的制御ならびにシステム柔軟性およびスケーラビリティーを許容するためのオーディオ・フォーマットおよびレンダリング技術に基づく。全体的な適応オーディオ・システムは一般に、通常のチャネル・ベースのオーディオ要素およびオーディオ・オブジェクト符号化要素の両方を含む一つまたは複数のビットストリームを生成するよう構成されたオーディオ・エンコード、配送およびデコード・システムを含む。そのような組み合わされたアプローチは、別個に実施されるチャネル・ベースまたはオブジェクト・ベースのアプローチのいずれと比べても、より大きな符号化効率およびレンダリング柔軟性を提供する。
適応オーディオ・システムおよび関連するオーディオ・フォーマットの例示的実装は、ドルビー(登録商標)・アトモス(商標)・プラットフォームである。そのようなシステムは、9.1サラウンド・システムまたは同様のサラウンドサウンド構成として実装されてもよい高さ(上下)次元を組み込む。図1は、高さチャネルの再生のための高さスピーカーを提供する現在のサラウンド・システム(たとえば9.1サラウンド)におけるスピーカー配置を示している。9.1システム100のスピーカー構成は、床面における五つのスピーカー102および高さ面における四つのスピーカー104から構成される。一般に、これらのスピーカーは、室内で多少なりとも正確に任意の位置から発するよう設計された音を生じるために使用されうる。図1に示されるようなあらかじめ定義されたスピーカー構成は、当然ながら、所与の音源の位置を正確に表現する能力を制限することがある。たとえば、音源は左スピーカー自身よりさらに左にパンされることはできない。これはすべてのスピーカーにあてはまり、よってダウンミックスがその中に制約される一次元(たとえば左右)、二次元(たとえば前後)または三次元(たとえば左右、前後、上下)の幾何形状をなす。そのようなスピーカー構成において、さまざまな異なるスピーカー構成および型が使用されうる。たとえば、ある種の向上されたオーディオ・システムは、9.1、11.1、13.1、19.4または他の構成にあるスピーカーを使ってもよい。スピーカー型はフルレンジ直接スピーカー、スピーカー・アレイ、サラウンド・スピーカー、サブウーファー、ツイーターおよび他の型のスピーカーを含みうる。
オーディオ・オブジェクトは、聴取環境における特定の物理的位置(単数または複数)から発するように知覚されうる音要素の群と考えることができる。そのようなオブジェクトは静的(すなわち定常)または動的(すなわち動いている)であることができる。オーディオ・オブジェクトは、他の機能とともに所与の時点における音の位置を定義するメタデータによって制御される。オブジェクトが再生されるとき、オブジェクトは、必ずしもあらかじめ定義された物理チャネルに出力されるのではなく、位置メタデータに従って、存在している諸スピーカーを使ってレンダリングされる。セッションにおけるトラックはオーディオ・オブジェクトであることができ、標準的なパン・データは位置メタデータに似ている。このように、スクリーン上に配置されたコンテンツはチャネル・ベースのコンテンツと同じ仕方で効果的にパンしうるが、サラウンドに配置されたコンテンツは望むなら個別のスピーカーにレンダリングされることができる。オーディオ・オブジェクトの使用が離散的な諸効果についての所望される制御を提供する一方、サウンドトラックの他の側面がチャネル・ベースの環境において効果的に機能しうる。たとえば、多くの周囲効果または残響は、スピーカーのアレイに供給されることから実際に裨益する。これらはアレイを満たすために十分な幅をもつオブジェクトとして扱われることができるが、いくつかのチャネル・ベースの機能を保持することが有益である。
適応オーディオ・システムは、オーディオ・オブジェクトに加えてオーディオ・ベッドをサポートするよう構成されている。ここで、ベッドとは、事実上、チャネル・ベースのサブミックスまたはステムである。これらは、コンテンツ・クリエーターの意図に依存して、個々に、あるいは単一のベッドに組み合わされて、最終的な再生(レンダリング)のために送達されることができる。これらのベッドは、5.1、7.1および9.1ならびに図1に示したような頭上スピーカーを含むアレイのような、異なるチャネル・ベースの構成で生成されることができる。図2は、ある実施形態のもとでの、適応的なオーディオ混合を生成するための、チャネルおよびオブジェクト・ベースのデータの組み合わせを示している。プロセス200において示されるように、たとえばパルス符号変調された(PCM)データの形で提供された5.1または7.1サラウンドサウンド・データでありうるチャネル・ベースのデータ202が、オーディオ・オブジェクト・データ204と組み合わされて、適応オーディオ混合208を生成する。オーディオ・オブジェクト・データ204は、もとのチャネル・ベースのデータを、オーディオ・オブジェクトの位置に関するある種のパラメータを指定する関連するメタデータと組み合わせることによって生成される。図2に概念的に示されるように、オーサリング・ツールは、スピーカー・チャネル・グループおよびオブジェクト・チャネルの組み合わせを同時に含むオーディオ・プログラムを生成する能力を提供する。たとえば、オーディオ・プログラムは、任意的にグループ(またはトラック、たとえばステレオまたは5.1トラック)に編成されている一つまたは複数のスピーカー・チャネルと、一つまたは複数のスピーカー・チャネルについての記述メタデータと、一つまたは複数のオブジェクト・チャネルと、一つまたは複数のオブジェクト・チャネルについての記述メタデータとを含むことができる。
ある実施形態では、図2のベッドおよびオブジェクト・オーディオ・コンポーネントは、特定のフォーマット標準に準拠するコンテンツを含んでいてもよい。図3は、ある実施形態のもとでの、ハイブリッドの優先度に基づくレンダリング・システムにおいて処理されるオーディオ・コンテンツの型を示す表である。図3のテーブル300に示されるように、コンテンツの二つの主要な型がある。軌跡に関して比較的静的であるチャネル・ベースのコンテンツと、システムにおいてスピーカーまたはドライバーの間で動く動的なコンテンツである。チャネル・ベースのコンテンツはOAMDベッドにおいて具現されてもよく、動的なコンテンツは、少なくとも二つの優先度レベル、すなわち低優先度および高優先度に優先順位付けされるOAMDオブジェクトである。動的なオブジェクトはある種のフォーマット・パラメータに従ってフォーマットされてもよく、ISFオブジェクトのようなある種の型のオブジェクトとして分類されてもよい。ISFフォーマットは本稿でのちにより詳細に述べる。
動的オブジェクトの優先度は、コンテンツ型(たとえばダイアログか効果か周囲音(ambient sound)か)、処理要件、メモリ要件(たとえば高帯域幅か低帯域幅か)および他の同様の特性といった、オブジェクトのある種の特性を反映する。ある実施形態では、各オブジェクトの優先度はあるスケールに沿って定義され、オーディオ・オブジェクトをカプセル化するビットストリームの一部として含まれる優先度フィールドにおいてエンコードされる。優先度は1(最低)から10(最高)の整数値のようなスカラー値として、あるいは二値フラグ(0低/1高)として設定されてもよく、あるいは他の同様のエンコード可能な優先度設定機構でもよい。優先度レベルは一般に、オブジェクト毎に一度、コンテンツ作者によって設定される。コンテンツ作者は、上述した特性の一つまたは複数に基づいて各オブジェクトの優先度を決定してもよい。
代替的な実施形態では、前記オブジェクトのうち少なくともいくつかのオブジェクトの優先度レベルはユーザーによって、あるいは自動化された動的プロセスを通じて設定されてもよい。該プロセスは、動的プロセッサ負荷、オブジェクト・ラウドネス、環境変化、システム障害、ユーザー選好、音響的な調整などといったある種のランタイムの基準に基づいてオブジェクトのデフォルト優先度レベルを修正してもよい。
ある実施形態では、動的オブジェクトの優先度レベルは、マルチプロセッサ・レンダリング・システムにおけるオブジェクトの処理を決定する。各オブジェクトのエンコードされた優先度レベルは、デュアルまたはマルチDSPシステムのどのプロセッサ(DSP)がその特定のオブジェクトをレンダリングするために使われるかを決定するためにデコードされる。これは、優先度に基づくレンダリング戦略が、適応オーディオ・コンテンツをレンダリングすることにおいて使用されることができるようにする。図4は、ある実施形態のもとでの、ハイブリッドの優先度に基づくレンダリング戦略を実装するためのマルチプロセッサ・レンダリング・システムのブロック図である。図4は、二つのDSPコンポーネント406および410を含むマルチプロセッサ・レンダリング・システム400を示している。二つのDSPは二つの別個のレンダリング・サブシステム、すなわちデコード/レンダリング・コンポーネント404およびレンダリング/後処理コンポーネント408内に含まれる。これらのレンダリング・サブシステムは一般に、オーディオがさらなる後処理および/または増幅およびスピーカー段に送られる前に、レガシーの、オブジェクトおよびチャネル・オーディオ・デコード、オブジェクト・レンダリング、チャネル再マッピングおよび信号処理を実行する処理ブロックを含む。
システム400は、入力オーディオをデジタル・ビットストリーム402としてエンコードする一つまたは複数の捕捉、前処理、オーサリングおよび符号化コンポーネントを通じて生成されるオーディオ・コンテンツをレンダリングおよび再生するよう構成される。適応オーディオ・コンポーネントは、源分離およびコンテンツ型のような因子を調べることによる入力オーディオの解析を通じて適切なメタデータを自動的に生成するために使われてもよい。たとえば、チャネル対の間の相関付けられた入力の相対的なレベルの解析を通じてマルチチャネル記録から位置メタデータが導出されてもよい。発話または音楽といったコンテンツ型の検出はたとえば特徴抽出および分類によって達成されてもよい。ある種のオーサリング・ツールは、サウンドエンジニアの創造的な意図の入力およびコード化を最適化し、それによりひとたびそれが事実上任意の再生環境における再生のために最適化されたらサウンドエンジニアが最終的なオーディオ混合を作り出せるようにすることによって、オーディオ・プログラムのオーサリングを許容する。これは、オーディオ・オブジェクトと、もとのオーディオ・コンテンツに関連付けられ、それと一緒にエンコードされている位置データとの使用を通じて達成できる。ひとたび適応オーディオ・コンテンツがオーサリングされて適切なコーデック装置において符号化されたら、それはスピーカー414を通じた再生のためにデコードされ、レンダリングされる。
図4に示されるように、オブジェクト・メタデータを含むオブジェクト・オーディオおよびチャネル・メタデータを含むチャネル・オーディオが入力オーディオ・ビットストリームとしてデコード/レンダリング・サブシステム404内の一つまたは複数のデコーダ回路に入力される。入力オーディオ・ビットストリーム402は、図3に示されるような、OAMDベッド、低優先度動的オブジェクトおよび高優先度動的オブジェクトを含むさまざまなオーディオ・コンポーネントに関係するデータを含んでいる。各オーディオ・オブジェクトに割り当てられた優先度が、二つのDSP 406または410のうちのどちらがその特定のオブジェクトに対してレンダリング・プロセスを実行するかを決定する。OAMDベッドおよび低優先度オブジェクトはDSP 406(DSP1)においてレンダリングされ、一方、高優先度オブジェクトはDSP 410(DSP2)でのレンダリングのためにレンダリング・サブシステム404を素通しにされる。次いで、レンダリングされたベッド、低優先度オブジェクトおよび高優先度オブジェクトはサブシステム408内の後処理コンポーネント412に入力されて、スピーカー414を通じた再生のために伝送される出力オーディオ信号413を生成する。
ある実施形態では、低優先度オブジェクトを高優先度オブジェクトから区別する優先度レベルは、それぞれの関連付けられたオブジェクトについてのメタデータをエンコードするビットストリームの優先度内に設定されている。低優先度と高優先度の間のカットオフまたは閾値は優先度範囲に沿ったある値、たとえば1から10の優先度スケールに沿った値5または7、あるいは二値の優先度フラグ0または1についての単純なディテクターとして設定されてもよい。各オブジェクトについての優先度レベルは、各オブジェクトをレンダリングするために適切なDSP(DSP1またはDSP2)にルーティングするために、デコード・サブシステム402内の優先度決定コンポーネントにおいてデコードされてもよい。
図4のマルチプロセシング・アーキテクチャーは、DSPの特定の構成および機能ならびにネットワークおよびプロセッサ・コンポーネントの帯域幅/処理機能に基づいて、種々の型の適応オーディオ・ベッドおよびオブジェクトの効率的な処理を容易にする。ある実施形態では、DSP1はOAMDベッドおよびISFオブジェクトをレンダリングするために最適化されるが、OAMD動的オブジェクトを最適にレンダリングするようには構成されないこともある。一方、DSP2はOAMD動的オブジェクトをレンダリングするために最適化される。この応用については、入力オーディオにおけるOAMD動的オブジェクトは高優先度レベルを割り当てられ、それによりレンダリングのためにDSP2へと素通しにされる。一方、ベッドおよびISFオブジェクトはDSP1においてレンダリングされる。これは、最もよくレンダリングできる適切なDSPがオーディオ・コンポーネント(単数または複数)をレンダリングすることを許容する。
レンダリングされるオーディオ・コンポーネントの型(すなわちベッド/ISFオブジェクトかOAMD動的オブジェクトか)に加えてまたはその代わりに、オーディオ・コンポーネントのルーティングおよび分散式のレンダリングは、ある種のパフォーマンスに関係した指標、たとえば前記二つのDSPの相対的な処理機能および/または前記二つのDSPの間の伝送ネットワークの帯域幅に基づいて実行されてもよい。こうして、一方のDSPが他方のDSPより著しく強力であり、ネットワーク帯域幅がレンダリングされていないオーディオ・データを伝送するのに十分であれば、より強力なほうのDSPが前記オーディオ・コンポーネントのうちのより多くをレンダリングするために頼られるよう優先度レベルが設定されてもよい。たとえばDSP2がDSP1よりずっと強力であれば、DSP2がOAMD動的オブジェクトのすべてを、あるいは他の型のオブジェクトをレンダリングできるとすればフォーマットに関わりなくすべてのオブジェクトを、レンダリングするよう構成されてもよい。
ある実施形態では、オブジェクト優先度レベルの動的な変更を許容するために、ある種の用途固有のパラメータ、たとえば部屋構成情報、ユーザー選択、処理/ネットワーク制約条件などがオブジェクト・レンダリング・システムにフィードバックされてもよい。すると、優先順位付けされたオーディオ・データは、スピーカー414を通じた再生のための出力に先立って、等化器およびリミッターといった一つまたは複数の信号処理段を通じて処理される。
システム400は適応オーディオのための再生システムの例を表わしているのであって、他の構成、コンポーネントおよび相互接続も可能であることを注意しておくべきである。たとえば、二つの型の優先度に区分された動的オブジェクトを処理するために図3においては二つのレンダリングDSPが示されている。より大きな処理パワーおよびより多くの優先度レベルのために追加的な数のDSPも含まれてもよい。こうして、N個の異なる優先度の区別のためにN個のDSPが使用されることができる。たとえば、高、中、低の優先度レベルについての三つのDSPなどである。
ある実施形態では、図4に示されるDSP 406および410は、物理的な伝送インターフェースまたはネットワークによって一緒に結合された別個の装置として実装されている。DSPはそれぞれ別個のコンポーネントまたはサブシステム、たとえば図のようなサブシステム404および408内に含まれてもよく、あるいは同じサブシステム、たとえば統合されたデコーダ/レンダラー・コンポーネントに含まれる別個のコンポーネントであってもよい。あるいはまた、DSP 406および410は、モノリシックな集積回路デバイス内の別個の処理コンポーネントであってもよい。
〈例示的実装〉
上述したように、適応オーディオ・フォーマットの初期の実装は、新規なオーサリング・ツールを使ってオーサリングされ、適応的なオーディオ・シネマ・エンコーダを使ってパッケージングされ、PCMもしくは既存のデジタル映画館イニシアチブ(DCI: Digital Cinema Initiative)頒布機構を使う独自の無損失コーデックを使って頒布されるコンテンツ・キャプチャー(オブジェクトおよびチャネル)を含むデジタル映画館コンテキストにおいてであった。この場合、オーディオ・コンテンツはデジタル映画館においてデコードされ、レンダリングされて、没入的な空間的オーディオ映画館体験を作り出すことが意図される。しかしながら、今不可欠なのは、適応オーディオ・フォーマットによって提供される向上したユーザー経験を、自宅にいる消費者に直接届けることである。これは、フォーマットおよびシステムのある種の特性が、より制限された聴取環境での使用のために適応されることを要求する。説明の目的のため、用語「消費者ベースの環境」は、家、スタジオ、部屋、コンソール・エリア、講堂などといった通常の消費者またはプロフェッショナルによる使用のための聴取環境を含む、任意の映画館ではない環境を含むことが意図されている。
消費者オーディオのための現在のオーサリングおよび頒布システムは、オーディオ・エッセンス(すなわち、消費者再生システムによって再生される実際のオーディオ)において伝達されるコンテンツの型の限られた知識でのあらかじめ定義された固定されたスピーカー位置への再生のために意図されたオーディオを生成し、送達する。しかしながら、適応オーディオ・システムは、固定されたスピーカー位置固有のオーディオ(左チャネル、右チャネルなど)と位置、サイズおよび測度を含む一般化された3D空間情報を有するオブジェクト・ベースのオーディオ要素との両方についてのオプションを含むオーディオ生成への新たなハイブリッド・アプローチを提供する。このハイブリッド・アプローチは、(固定したスピーカー位置によって提供される)忠実性とレンダリングにおける柔軟性(一般化されたオーディオ・オブジェクト)とのためのバランスの取れたアプローチを提供する。このシステムは、コンテンツ生成/オーサリングの時点でコンテンツ作成者によってオーディオ・エッセンスと対にされた新たなメタデータを介してオーディオ・コンテンツについての追加的な有用な情報をも提供する。この情報は、レンダリングの間に使用できる前記オーディオの属性についての詳細な情報を提供する。そのような属性はコンテンツ型(たとえばダイアログ、音楽、効果、効果音(Foley)、背景音/周囲音等)ならびにオーディオ・オブジェクト情報、たとえば空間的属性(たとえば3D位置、オブジェクト・サイズ、速度など)および有用なレンダリング情報(たとえば、スピーカー位置にスナップ、チャネル重み、利得、ベース〔低音〕管理情報など)を含みうる。オーディオ・コンテンツおよび再生意図メタデータは、コンテンツ作成者によって手動で作成されるか、あるいはオーサリング・プロセスの間にバックグラウンドで実行できる自動的なメディア・インテリジェンス・アルゴリズムの使用を通じて生成されて望むなら最終的な品質管理フェーズの間にコンテンツ作成者によって確認されることができる。
図5は、チャネルおよびオブジェクト・ベースのコンポーネントという異なる型をレンダリングするための優先度に基づくレンダリング・システムのブロック図であり、図4に示したシステムの、より詳細な図である。図5に示されるように、システム500は、ハイブリッドのオブジェクト・ストリーム(単数または複数)およびチャネル・ベースのオーディオ・ストリーム(単数または複数)両方を担持するエンコードされたビットストリーム506を処理する。ビットストリームは、レンダリング/信号処理ブロック502および504によって処理され、これらはそれぞれ別個のDSP装置を表わすまたはそれによって実装される。これらの処理ブロックにおいて実行されるレンダリング機能は、適応オーディオのためのさまざまなレンダリング・アルゴリズムおよびアップミックスなどといったある種の後処理アルゴリズムを実装する。
優先度に基づくレンダリング・システム500は、デコード/レンダリング段502およびンダリング/後処理段504という二つの主要なコンポーネントを有する。入力オーディオ506はHDMI(high-definition multimedia interface[高精細度マルチメディア・インターフェース])を通じてデコード/レンダリング段に与えられる。ただし、他のインターフェースも可能である。ビットストリーム検出コンポーネント508は前記ビットストリームをパースして、異なるオーディオ・コンポーネントを、ドルビー・デジタル・プラス・デコーダ、MAT2.0デコーダ、トゥルーHDデコーダなどといった適切なデコーダに差し向ける。それらのデコーダは、OAMDベッド信号およびISFもしくはOAMD動的オブジェクトといったさまざまなフォーマットされたオーディオ信号を生成する。
デコード/レンダリング段502はOAR(object audio renderer[オブジェクト・オーディオ・レンダラー])インターフェース510を含み、これはOAMD処理コンポーネント512、OARコンポーネント514および動的オブジェクト抽出コンポーネント516を含む。動的抽出ユニット516はデコーダ全部からの出力を受け、ベッドおよびISFオブジェクトをもしあれば低優先度動的オブジェクトとともに、高優先度動的オブジェクトから分離する。ベッド、ISFオブジェクトおよび低優先度動的オブジェクトはOARコンポーネント514に送られる。図示した例示的実施形態については、OARコンポーネント514はプロセッサ(たとえばDSP)回路502のコアを表わし、固定の5.1.2チャネル出力フォーマット(たとえば標準的な5.1+二つの高さチャネル)にレンダリングする。ただし、7.1.4など、他のサラウンドサウンドに高さを加えた構成も可能である。OARコンポーネント514からのレンダリングされた出力513は次いで、レンダリング/後処理段504のデジタル・オーディオ・プロセッサ(DAP)コンポーネントに伝送される。この段は、アップミックス、レンダリング/仮想化、ボリューム制御、等化、低音管理および他の可能な機能といった機能を実行する。段504からの出力522はある例示的実施形態では5.1.2スピーカー・フィードを有する。段504は、プロセッサ、DSPまたは同様の装置といったいかなる適切な処理回路として実装されてもよい。
ある実施形態では、出力信号522はサウンドバーまたはサウンドバー・アレイに伝送される。図5に示したような特定の使用事例については、二つの段502と504の間のメモリ帯域幅をおとしめることなく、31.1オブジェクトをもつMAT 2.0入力の使用事例をサポートするために、サウンドバーも優先度に基づくレンダリング戦略を用いる。ある例示的実装では、メモリ帯域幅は、最大32個のオーディオ・チャネルについて48kHzで外部メモリから読まれるまたは書き込まれることを許容する。OARコンポーネント514の5.1.2チャネル・レンダリングされた出力513のためには8個のチャネルが必要とされるので、最大で24個のOAMD動的オブジェクトが後処理チェーン504において仮想レンダラーによってレンダリングされうる。24個より多いOAMD動的オブジェクトが入力ストリーム506に存在する場合には、追加的な低優先度オブジェクトが第一段502でOARコンポーネント514によってレンダリングされる必要がある。動的オブジェクトの優先度は、OAMDストリームにおけるその位置に基づいて決定される(たとえば最高優先度のオブジェクトが最初、最低優先度のオブジェクトが最後)。
図4および図5の実施形態は、OAMDおよびISFフォーマットに準拠するベッドおよびオブジェクトとの関係で記述されているが、マルチプロセッサ・レンダリング・システムを使う優先度に基づくレンダリング方式は、チャネル・ベースのオーディオおよび二つ以上の型のオーディオ・オブジェクトを含む任意の型の適応オーディオ・コンテンツとともに使用されることができる。ここで、オブジェクト型は相対的な優先度レベルに基づいて区別できる。適切なレンダリング・プロセッサ(たとえばDSP)は、オーディオ・オブジェクト型および/またはチャネル・ベースのオーディオ・コンポーネントの全部またはただ一つの型を最適にレンダリングするよう構成されうる。
図5のシステム500は、チャネル・ベースのベッド、ISFオブジェクトおよびOAMD動的オブジェクトに関わる個別的なレンダリング・アプリケーションならびにサウンドバーを通じた再生のためのレンダリングとともに機能するようOAMDオーディオ・フォーマットを適応させるレンダリング・システムを示している。システムは、サウンドバーまたは同様の共位置のスピーカー・システムを通じて適応オーディオ・コンテンツを再現することに関するある種の実装上の複雑さ問題に対処する優先度に基づくレンダリング戦略を実装する。図6は、ある実施形態のもとでの、サウンドバーを通じた適応オーディオ・コンテンツの再生のための優先度に基づくレンダリングを実装する方法を示すフローチャートである。図6のプロセス600は概括的には、図5の優先度に基づくレンダリング・システム500において実行される方法段階を表わしている。入力オーディオ・ビットストリームを受信後、チャネル・ベースのベッドおよび種々のフォーマットのオーディオ・オブジェクトを含むオーディオ・コンポーネントがデコードのために適切なデコーダ回路に入力される(602)。オーディオ・オブジェクトは、異なるフォーマット方式を使ってフォーマットされていてもよく、各オブジェクトと一緒にエンコードされる相対的な優先度に基づいて区別(604)されうる動的オブジェクトを含む。プロセスは、定義された優先度閾値と比較しての各動的オーディオ・オブジェクトの優先度レベルを、そのオブジェクトについてビットストリーム内の適切なメタデータ・フィールドを読むことによって決定する。低優先度オブジェクトを高優先度オブジェクトから区別する優先度閾値は、コンテンツ作成者によって設定された固定構成値としてシステムにプログラムされていてもよく、あるいはユーザー入力、自動化された手段または他の適応機構によって動的に設定されてもよい。チャネル・ベースのベッドおよび低優先度動的オブジェクトは、もしあればシステムの第一のDSPにおいてレンダリングされるべく最適化されたオブジェクトと一緒に、その第一のDSPにおいてレンダリングされる(606)。高優先度の動的オブジェクトは第二のDSPに渡され、そこでレンダリングされる(608)。レンダリングされたオーディオ・コンポーネントは次いで、サウンドバーまたはサウンドバー・アレイを通じた再生のために、ある種の任意的な後処理段階を通じて伝送される(610)。
〈サウンドバー実装〉
図4に示されるところでは、二つのDSPによって生成される優先順位付けされ、レンダリングされたオーディオ出力は、ユーザーへの再生のためにサウンドバーに伝送される。サウンドバー・スピーカーは、フラットスクリーン・テレビジョンの普及を受けて人気が増した。そのようなテレビジョンは非常に薄く、比較的軽くなってきており、可搬性および取り付けオプションが最適化され、それでいて手の出せる価格で増大し続ける画面サイズを提供している。しかしながら、これらのテレビジョンの音質は、スペース、電力およびコストの制約のため、しばしば非常に貧弱である。サウンドバーは、フラットパネル・テレビジョンの下に置かれてテレビジョン・オーディオの品質を改善するしばしばスタイリッシュな、電源付きスピーカーであり、それ自身で、あるいはサラウンドサウンド・スピーカー・セットアップの一部として使用できる。図7は、ハイブリッドの優先度に基づくレンダリング・システムの実施形態とともに使用されうるサウンドバー・スピーカーを示している。システム700において示されるように、サウンドバー・スピーカーは、いくつかのドライバー703を収容するキャビネット701を有する。これらのドライバーは、キャビネットの前面から直接、音を駆出するよう水平(または垂直)軸に沿って配列されている。サイズおよびシステム制約条件に依存して、いかなる実際的な数のドライバー701が使用されてもよく、典型的な数は2~6個の範囲のドライバーである。ドライバーは同じサイズおよび形であってもよく、あるいは異なるドライバーのアレイであってもよい。たとえばより低周波音のための、より大きな中央ドライバーなど。高精細度オーディオ・システムへの直接的なインターフェースを許容するために、HDMI入力インターフェース702が設けられる。
サウンドバー・システム700は、搭載電源または増幅がなく、最小限の受動回路をもつ受動スピーカー・システムであってもよい。キャビネット内に設置された、あるいは外部コンポーネントを通じて緊密に結合された一つまたは複数のコンポーネントをもつ電源付きのシステムであってもよい。そのような機能およびコンポーネントは電源および増幅704、オーディオ処理(たとえばEQ、低音制御など)706、A/Vサラウンドサウンド・プロセッサ708および適応オーディオ仮想化710を含む。本稿の目的のためには、用語「ドライバー」は電気的なオーディオ入力信号に応答して音を生じる単一の電気音響トランスデューサを意味する。ドライバーは、いかなる適切な型、幾何構成およびサイズで実装されてもよく、ホーン、コーン、リボン・トランスデューサなどを含みうる。用語「スピーカー」はユニット的なエンクロージャー内の一つまたは複数のドライバーを意味する。
サウンドバー710のためのコンポーネント710において、あるいはレンダリング・プロセッサ504のコンポーネントとして提供される仮想化機能は、テレビジョン、コンピュータ、ゲーム・コンソールまたは同様のデバイスといった局所化されたアプリケーションにおける適応オーディオ・システムの実装を許容するとともに、閲覧画面またはモニター表面に対応する平坦な面内に配置されたスピーカーを通じたこのオーディオの空間的な再生を許容する。図8は、例示的なテレビジョンおよびサウンドバー消費者使用事例における優先度に基づく適応オーディオ・レンダリング・システムの使用を示している。一般に、テレビジョン使用事例は、設備(テレビ・スピーカー、サウンドバー・スピーカーなど)のしばしば低下した品質および空間的分解能の点で限定されていることがある(たとえばサラウンドまたは後方スピーカーがない)スピーカー位置/構成(単数または複数)に基づいて、没入的な消費者体験を作り出すことに対して困難を呈する。図8のシステム800は、標準的なテレビジョンの左および右の位置にあるスピーカー(TV-LおよびTV-R)ならびに可能性としては任意的な左および右の上方発射ドライバ(TV-LHおよびTV-RH)を含んでいる。システムは図7に示したサウンドバー700をも含んでいる。先述したように、テレビジョン・スピーカーのサイズおよび品質は、コスト制約および設計選択に起因して、単独のまたは家庭シアター・スピーカーに比べて低下している。しかしながら、サウンドバー700との関連での動的仮想化の使用がこうした不足を克服する助けとなりうる。図8のサウンドバー700は、みなサウンドバー・キャビネットの水平軸に沿って配列された前方発射ドライバーおよび可能な側方発射ドライバーを有するものとして示されている。図8では、動的仮想化効果は、サウンドバー・スピーカーについて示されている。これにより、特定の聴取位置804にいる人々は、水平面内で個々にレンダリングされる適切なオーディオ・オブジェクトに関連付けられた水平要素を聞くことになる。適切なオーディオ・オブジェクトに関連付けられた高さ要素が、適応オーディオ・コンテンツによって与えられるオブジェクト空間情報に基づいたスピーカー仮想化アルゴリズム・パラメータの動的制御を通じてレンダリングされてもよい。少なくとも部分的に没入的なユーザー経験を提供するためである。サウンドバーの共位置のスピーカーについては、この動的仮想化は、部屋の辺に沿って動くオブジェクトの知覚または他の水平面音軌跡効果を作り出すために使用されてもよい。これは、サラウンド・スピーカーや後方スピーカーがないために普通なら存在しない空間手がかりをサウンドバーが提供することを許容する。
ある実施形態では、サウンドバー700は、高さ手がかりを提供する仮想化アルゴリズムを許容するために音の反射を利用する上方発射ドライバーのような、共位置でないドライバーを含んでいてもよい。ドライバーのうちあるものは、他のドライバーとは異なる方向に音を放射するよう構成されてもよい。たとえば、一つまたは複数のドライバーが別個に制御される音ゾーンをもつ操縦可能な音ビームを実装してもよい。
ある実施形態では、サウンドバー700は高さスピーカーまたは高さ対応の床置きスピーカーをもつフル・サラウンドサウンド・システムの一部として使われてもよい。そのような実装は、サウンドバー仮想化がサラウンド・スピーカー・アレイによって提供される没入的な音を増強することを許容する。図9は、例示的なフル・サラウンドサウンド家庭環境における優先度に基づく適応的なオーディオ・レンダリング・システムの使用を示している。システム900において示されるように、テレビジョンまたはモニター802に付随するサウンドバー700は、図示した5.1.2構成のようなスピーカー904のサラウンドサウンド・アレイとの関連で使われる。この場合、サウンドバー700は、サラウンド・スピーカーを駆動し、レンダリングおよび仮想化プロセスの少なくとも一部を提供するためにA/Vサラウンドサウンド・プロセッサ708を含んでいてもよい。図9のシステムは、適応オーディオ・システムによって提供されうるコンポーネントおよび機能のほんの一つの可能なセットを示すものであり、ある種の側面はユーザーのニーズに基づいて低減または除去されてそれでいて向上された経験を提供することがありうる。
図9は、サウンドバーによって提供されるものに加えて聴取環境において没入的なユーザー経験を提供するための動的スピーカー仮想化の使用を示している。それぞれの関連するオブジェクトについて別個の仮想化器が使われてもよく、組み合わされた信号はLおよびRスピーカーに送られて多重オブジェクト仮想化効果を作り出すことができる。例として、LおよびRスピーカーについて動的仮想化効果が示されている。これらのスピーカーは、オーディオ・オブジェクトのサイズおよび位置情報と一緒に、拡散的なまたは点源のニアフィールド・オーディオ経験を作り出すために使用できる。同様の仮想化効果は、システム内の他のスピーカーの任意のものまたは全部に適用されることもできる。
ある実施形態では、適応オーディオ・システムは、もとの空間的オーディオ・フォーマットからメタデータを生成するコンポーネントを含む。システム500の方法およびコンポーネントは、通常のチャネル・ベースのオーディオ要素およびオーディオ・オブジェクト符号化要素の両方を含む一つまたは複数のビットストリームを処理するよう構成されたオーディオ・レンダリング・システムを有する。オーディオ・オブジェクト符号化要素を含む新たな拡張層が定義され、チャネル・ベースのオーディオ・コーデック・ビットストリームまたはオーディオ・オブジェクト・ビットストリームのいずれか一方に加えられる。このアプローチは、拡張層を含むビットストリームが、既存のスピーカーおよびドライバー設計または個々にアドレッシング可能なドライバーおよびドライバー定義を利用する次世代スピーカーと一緒に使うためのレンダラーによって処理されることができるようにする。空間的オーディオ・プロセッサからの空間的オーディオ・コンテンツは、オーディオ・オブジェクト、チャネルおよび位置メタデータを有する。オブジェクトがレンダリングされるとき、オブジェクトは位置メタデータおよび再生スピーカーの位置に従って、サウンドバーまたはサウンドバー・アレイの一つまたは複数のドライバーに割り当てられる。エンジニアの混合入力に応答してオーディオ・ワークステーションにおいてメタデータが生成される。このメタデータは、空間的パラメータ(たとえば位置、測度、強度、音色など)を制御するレンダリング・キューを提供するとともに、展示の際に聴取環境におけるどのドライバー(単数または複数)またはスピーカー(単数または複数)がそれぞれの音を再生するかを指定する。メタデータは、空間的オーディオ・プロセッサによるパッケージングおよび転送のためにワークステーションにおいてそれぞれのオーディオ・データに関連付けられる。図10は、ある実施形態のもとでの、サウンドバーのための優先度に基づくレンダリングを利用する適応オーディオ・システムにおいて使うためのいくつかの例示的なメタデータ定義を示す表である。図10のテーブル1000において示されるように、メタデータの一部は、オーディオ・コンテンツ型(たとえば、ダイアログ、音楽など)およびある種のオーディオ特性(たとえば直接音、拡散音など)を定義する要素を含んでいてもよい。サウンドバーを通じて再生する優先度に基づくレンダリング・システムについては、メタデータに含まれるドライバー定義は、再生サウンドバーおよびサウンドバーと一緒に使用されうる他のスピーカー(たとえば他のサラウンド・スピーカーまたは仮想化対応スピーカー)の構成設定情報(たとえば、ドライバー型、サイズ、パワー、組み込みA/V仮想化など)を含んでいてもよい。図5を参照するに、メタデータはデコーダ型(たとえばデジタル・プラス、トゥルーHDなど)を定義するフィールドおよびデータをも含んでいてもよく、それからチャネル・ベースのオーディオおよび動的オブジェクト(たとえばOAMDベッド、ISFオブジェクト、動的OAMDオブジェクトなど)の具体的なフォーマットが導出できる。あるいはまた、各オブジェクトのフォーマットは、個別的な関連付けられたメタデータ要素を通じて明示的に定義されてもよい。メタデータは動的オブジェクトについて優先度フィールドをも含み、関連付けられたメタデータはスカラー値(たとえば1から10)または二値の優先度フラグ(高/低)として表現されてもよい。図10に示されるメタデータ要素は、適応オーディオ信号を伝送するビットストリームにおいてエンコードされる可能なメタデータ要素のほんの一部を示すことが意図されており、他の多くのメタデータ要素およびフォーマットも可能である。
〈中間空間的フォーマット(Intermediate Spatial Format)〉
一つまたは複数の実施形態について上記したように、システムによって処理されるある種のオブジェクトはISFオブジェクトである。ISFは、パン動作を時間変化する部分と静的な部分の二つの部分に分割することによってオーディオ・オブジェクト・パンナーの動作を最適化するフォーマットである。一般に、オーディオ・オブジェクト・パンナーは、モノフォニック・オブジェクト(たとえばObjecti)をN個のスピーカーにパンすることによって動作する。ここで、パン利得はスピーカー位置(x1,y1,z1),…,(xN,yN,zN)およびオブジェクト位置XYZi(t)の関数として決定される。オブジェクト位置が時間変化するので、これらの利得値は時間的に連続的に変化する。中間空間的フォーマットの目標は、単にこのパン動作を二つの部分に分けることである。(時間変化する)第一の部分はオブジェクト位置を利用する。(固定した行列を使う)第二の部分はスピーカー位置のみに基づいて構成される。図11は、いくつかの実施形態のもとでレンダリング・システムと一緒に使うための中間空間的フォーマットを示している。描画1100に示されるように、空間的パンナー1102は、スピーカー・デコーダ1106によるデコードのためにオブジェクトおよびスピーカー位置情報を受領する。これら二つの処理ブロック1102および1106の間でオーディオ・オブジェクト・シーンはKチャネルの中間空間的フォーマット(ISF)1104において表現される。複数のオーディオ・オブジェクト(1≦i≦Ni)が個々の空間的パンナーによって処理され、これらの空間的パンナーの出力が足し合わされてISF信号1104をなしてもよく、一つのKチャネルISF信号集合はNi個のオブジェクトの重畳を含みうる。ある種の実施形態では、エンコーダは高度制約データを通じてスピーカー高さに関する情報をも与えられてもよく、再生スピーカーの高さの詳細な知識が空間的パンナー1102によって使用されうる。
ある実施形態では、空間的パンナー1102は、再生スピーカーの位置についての詳細な情報を与えられない。しかしながら、いくつかのレベルまたは層に制約された一連の「仮想スピーカー」の位置と、各レベルまたは層内での近似的な分布について想定がされる。こうして、空間的パンナーは再生スピーカーの位置についての詳細な情報を与えられないものの、しばしば、可能性の高いスピーカー数およびそれらのスピーカーの可能性が高い分布に関していくつかの合理的な想定がある。
結果として得られる再生経験の品質(すなわち、図11のオーディオ・オブジェクト・パンナーにどのくらいよく一致するか)は、ISF内のチャネルの数Kを増すことによって、あるいは最も確からしい再生スピーカー配置についてのより多くの知識を集めることによって、改善できる。特に、ある実施形態では、図12に示されるようにスピーカー高さがいくつかの面に分割される。所望される合成音場は、聴取者のまわりの任意の方向から発する一連の音イベントと考えることができる。それらの音イベントの位置は、聴取者を中心とする球1202の表面上に定義されると考えられることができる。(高次アンビソニックス(Higher Order Ambisonics)のような)音場フォーマットは、音場が(かなり)任意のスピーカー・アレイを通じてさらにレンダリングされることを許容するような仕方で定義される。しかしながら、考えられている典型的な再生システムは、スピーカーの高さが三つの面(耳高さ面、天井面および床面)において固定されているという意味で制約される可能性が高い。よって、理想的な球状音場の概念は修正されることができる。ここで、音場は、聴取者のまわりの球の表面上のさまざまな高さのところにある環内に位置される音オブジェクトから構成される。たとえば、天頂環、上層環、中層環および低位環をもつ、一つのそのような環の配置が図12に示されている(1200)。必要であれば、完全性(completeness)のため、球の底部の追加的な環も含められることもできる(天底;これも厳密に言えば環ではなく点である)。さらに、他の実施形態においては、追加的なまたはより少数の環が存在していてもよい。
ある実施形態では、積層環フォーマット(stacked-ring format)はBH9.5.0.1と名付けられ、ここで、四つの数字はそれぞれ中部、上部、下部および天頂の環におけるチャネル数を示す。マルチチャネル・バンドルにおけるチャネルの総数はこれら四つの数の和に等しい(よって、BH9.5.0.1フォーマットは15個のチャネルを含む)。四つの環すべてを利用するもう一つの例示的なフォーマットはBH15.9.5.1である。このフォーマットについては、チャネルの命名および順序付けは次のようになる:[M1,M2,…M15,U1,U2…U9,L1,L2,…L5,Z1]ここで、チャネルは環(M、U、L、Zの順)に配置されており、各環内では単に昇順に基数で番号付けられる。各環は、該環のまわりに一様に広がっている公称スピーカー・チャネルの集合を入れられると考えられることができる。よって、各環におけるチャネルは特定のデコード角に対応し、0°の方位角(真正面)に対応するチャネル1で始まり、反時計回りに数える(よってチャネル2は聴取者から見て中央の左になる)。よって、チャネルnの方位角は(n-1)/N×360°である(ここで、Nはその環におけるチャネル数であり、nは1からNまでの範囲内である)。
ISFに関係したオブジェクト優先度(object_priority)についてのある種の使用事例に関し、OAMDは一般に、ISFにおける各環が個別のオブジェクト優先度値をもつことを許容する。ある実施形態では、これらの優先度値は追加的な処理を実行するために複数の仕方で使われる。第一に、高さ面および下部面の環は極小/非最適レンダラーによってレンダリングされ、一方、重要な聴取者面の環はより複雑な/高精度の高品質レンダラーによってレンダリングされることができる。同様に、エンコードされたフォーマットにおいて、聴取者面の環についてはより多くのビット(すなわちより高い品質のエンコード)、高さ面および地上面の環についてはより少数のビットが使用されることができる。ISFは環を使うので、これはISFにおいて可能である。一方、これは伝統的な高次アンビソニックス・フォーマットでは一般には可能ではない。相異なる各チャネルが、全体的なオーディオ品質を損なう仕方で相互作用する極パターンだからである。一般に、高さ環または床環についてのやや低下したレンダリング品質は過度に有害ではない。それらの環におけるコンテンツは典型的には雰囲気コンテンツを含むだけだからである。
ある実施形態では、レンダリングおよび音処理システムは、空間的オーディオ・シーンをエンコードするための二つ以上の環を使用する。ここで、異なる環は、音場の異なる空間的に別個の成分を表わす。オーディオ・オブジェクトは、環内では、転用可能なパン曲線に従ってパンされ、オーディオ・オブジェクトは、環どうしの間では、転用可能でないパン曲線を使ってパンされる。異なる空間的に別個の成分は、その垂直軸に基づいて分離される(すなわち、垂直方向に積層された環)。音場要素は「公称スピーカー」の形での各環内で伝送される:各環内での音場要素は空間周波数成分の形で伝送される。環の諸セグメントを表わす事前計算されたサブマトリクスをはぎ合わせることによって、各環についてデコード行列が生成される。音がある環から別の環へ、第一の環にスピーカーが存在しない場合、リダイレクトされることができる。
ISF処理システムにおいて、再生アレイにおける各スピーカーの位置は(x,y,z)座標(これは、アレイの中心に近い候補聴取位置に対する各スピーカーの位置である)を使って表現できる。さらに、(x,y,z)ベクトルは単位ベクトルに変換されることができ、事実上、各スピーカー位置を単位球の表面に投影する。
Figure 0007362807000001
図13は、ある実施形態のもとでの、ISF処理システムにおいて使うための、スピーカーの弧を、ある角度にパンされたオーディオ・オブジェクトとともに示している。描画1300は、オーディオ・オブジェクト(o)がいくつかのスピーカー1302を通じて逐次的にパンされるシナリオを示している。これにより、聴取者1304は各スピーカーを順次通過する軌跡を通じて動いているオーディオ・オブジェクトの印象を経験する。一般性を失うことなく、これらのスピーカー1302の単位ベクトルは水平面内の環に沿って配列されているとする。よって、オーディオ・オブジェクトの位置はその方位角φの関数として定義されうる。図13では、角度φにおけるオーディオ・オブジェクトはスピーカーA、BおよびCを通過する(これらのスピーカーはそれぞれ方位角φA、φBおよびφCに位置している)。オーディオ・オブジェクト・パンナー(たとえば図11のパンナー1102)は典型的には、角度φの関数であるスピーカー利得を使って、オーディオ・オブジェクトを各スピーカーにパンする。オーディオ・オブジェクト・パンナーは、次のような性質をもつパン曲線を使用してもよい:(1)オーディオ・オブジェクトが物理的なスピーカー位置に一致する位置にパンされるときは、他のすべてのスピーカーを排除してその一致するスピーカーが使用される;(2)オーディオ・オブジェクトが二つのスピーカー位置の間にある角度φにパンされるときは、それら二つのスピーカーのみがアクティブであり、こうしてオーディオ信号のスピーカー・アレイ上での最小量の「広がり」を提供する;(3)パン曲線は、高レベルの「離散性」を示してもよい。該「離散性(discreteness)」とは、パン曲線エネルギーの、あるスピーカーとその最近接スピーカーとの間の領域内に制約されている割合を指す。よって、図13を参照するに、スピーカーBについて、
Figure 0007362807000002
よって、dB≦1である。dB=1のとき、これは、スピーカーBについてのパン曲線は、φAとφC(それぞれスピーカーAとCの角位置)の間の領域のみで非0になるよう(空間的に)完全に制約されることを含意する。対照的に、上記の「離散性」属性を示さない(すなわち、dB<1)パン曲線は一つの他の重要な属性を示しうる:パン曲線が空間的に平滑化されており、空間周波数において制約されておりナイキスト・サンプリング定理を満たすのである。
空間的に帯域制限されているいかなるパン曲線もその空間的なサポートにおいてコンパクトであることはできない。換言すれば、これらのパン曲線は、より幅広い角度範囲に分散される。用語「阻止帯域リプル」は、パン曲線において生起する(望ましくない)非0の利得をいう。ナイキスト・サンプリング基準を満たすことによって、これらのパン曲線は、より「離散的」でなくなってしまう。適正に「ナイキスト・サンプリングされ」ることで、これらのパン曲線は代替的なスピーカー位置にシフトされることができる。つまり、(円において均等に離間されている)N個のスピーカーのある特定の配置について生成されたスピーカー信号の集合が、異なる角度位置にあるN個のスピーカーの代替的な集合に(N×N行列によって)リミックスされることができる;すなわち、スピーカー・アレイは角度スピーカー位置の新たな集合に回転させられることができ、もとのN個のスピーカー信号はN個のスピーカーの該新たな集合に転用されることができる。一般に、この「転用可能性」属性は、N個のスピーカー信号を、S×N行列を通じて、S個のスピーカーにマッピングし直すことを許容する。ただし、S>Nの場合、新たなスピーカー・フィードはもとのNチャネルよりも「離散的」であることはないことは受け入れられるとする。
ある実施形態では、積層環中間空間的フォーマット(Stacked Ring Intermediate Spatial Format)は、以下の段階によって(時間変化する)(x,y,z)位置に従って各オブジェクトを表わす、を提供する。
1.オブジェクトiが(xi,yi,zi)に位置しており、この位置は立方体内(よって|xi|≦1、|yi|≦1および-|zi|≦1)または単位球内(xi 2+yi 2+zi 2≦1)にあると想定される。
2.転用可能でないパン曲線に従って、オブジェクトiについてのオーディオ信号を、ある数(R)の空間的領域のそれぞれにパンするために、垂直位置(zi)が使われる。
3.各空間的領域(たとえば領域r: 1≦r≦R)(これは図4のように、空間の環状領域内にあるオーディオ成分を表わす)は、オブジェクトiの方位角(φi)の関数である転用可能なパン曲線を使って生成されるNr個の公称スピーカー信号の形で表現される。
サイズ0の環(図12では天頂環)という特殊な場合については、環が最大で一つのチャネルを含むので、段階3は不要である。
図11に示されるように、K個のチャネルについてのISF信号1104はスピーカー・デコーダ1106においてデコードされる。図14のA~Cは、異なる実施形態のもとでの、積層環中間空間的フォーマットのデコードを示している。図14のAは別個の環としてデコードされる積層環フォーマットを示す。図14のBは天頂スピーカーなしでデコードされる積層環フォーマットを示す。図14のCは天頂スピーカーや天井スピーカーなしでデコードされる積層環フォーマットを示す。
上記ではISFオブジェクトを動的OAMDオブジェクトに対する一つの型のオブジェクトとして実施形態が記述されているが、異なるフォーマットでフォーマットされているが動的OAMDオブジェクトとは区別可能なオーディオ・オブジェクトが使われることもできることは注意しておくべきである。
本稿に記述されるオーディオ環境の諸側面は、適切なスピーカーおよび再生装置を通じたオーディオまたはオーディオ/ビジュアル・コンテンツの再生を表わし、聴取者が捕捉されたコンテンツの再生を経験している任意の環境、たとえば映画館、コンサートホール、屋外シアター、家庭または部屋、聴取ブース、自動車、ゲーム・コンソール、ヘッドフォンまたはヘッドセット・システム、公衆アナウンス(PA: public address)システムまたは他の任意の再生環境を表わしうる。実施形態は主として、空間的オーディオ・コンテンツがテレビジョン・コンテンツに関連付けられているホームシアター環境における例および実装に関して記述されてきたが、実施形態は、ゲーム、スクリーニング・システムおよび他の任意のモニター・ベースのA/Vシステムといった他の消費者ベースのシステムにおいて実装されてもよいことを注意しておくべきである。オブジェクト・ベースのオーディオおよびチャネル・ベースのオーディオを含む空間的オーディオ・コンテンツは、いかなる関係するコンテンツ(関連付けられたオーディオ、ビデオ、グラフィックなど)との関連で使われてもよく、あるいは単独のオーディオ・コンテンツをなしていてもよい。再生環境は、ヘッドフォンまたはニア・フィールド・モニターから大小の部屋、自動車、屋外アリーナ、コンサートホールなどまでのいかなる適切な聴取環境であってもよい。
本稿に記載されるシステムの諸側面は、デジタルまたはデジタイズされたオーディオ・ファイルを処理するための適切なコンピュータ・ベースの音処理ネットワーク環境において実装されてもよい。適応オーディオ・システムの諸部分は、コンピュータ間で伝送されるデータをバッファリングおよびルーティングするはたらきをする一つまたは複数のルーター(図示せず)を含め、任意の所望される数の個々の機械を含む一つまたは複数のネットワークを含んでいてもよい。そのようなネットワークは、さまざまな異なるネットワーク・プロトコル上で構築されてもよく、インターネット、広域ネットワーク(WAN)、ローカル・エリア・ネットワーク(LAN)またはその任意の組み合わせであってもよい。ネットワークがインターネットを含む実施形態では、一つまたは複数の機械がウェブ・ブラウザー・プログラムを通じてインターネットにアクセスするよう構成されてもよい。
上記のコンポーネント、ブロック、プロセスまたは他の機能構成要素の一つまたは複数は、システムのプロセッサ・ベースのコンピューティング装置の実行を制御するコンピュータ・プログラムを通じて実装されてもよい。本稿に開示されるさまざまな機能は、ハードウェア、ファームウェアのいくつもある組み合わせを使っておよび/またはさまざまな機械可読もしくはコンピュータ可読媒体において具現されたデータおよび/または命令として、挙動上の、レジスタ転送、論理コンポーネントおよび/または他の特性を用いて記載されることがあることを注意しておくべきである。そのようなフォーマットされたデータおよび/または命令が具現されうるコンピュータ可読媒体は、光学式、磁気式もしくは半導体記憶媒体のようなさまざまな形の物理的(非一時的)、不揮発性記憶媒体を含むがそれに限定されない。
文脈がそうでないことを明確に要求するのでないかぎり、本記述および請求項を通じて、単語「有する」「含む」などは、排他的もしくは網羅的な意味ではなく包含的な意味に解釈されるものとする。すなわち、「……を含むがそれに限定されない」の意味である。単数または複数を使った単語は、それぞれ複数または単数をも含む。さらに、「本稿で」「以下で」「上記で」「下記で」および類似の意味の単語は、全体としての本願を指すのであって、本願のいかなる特定の部分を指すものでもない。単語「または」が二つ以上の項目のリストを参照して使われるとき、その単語は該単語の以下の解釈のすべてをカバーする:リスト中の項目の任意のもの、リスト中の項目のすべておよびリスト中の項目の任意の組み合わせ。
本明細書を通じて「一つの実施形態」「いくつかの実施形態」または「ある実施形態」への言及は、その実施形態との関連で記述されている特定の特徴、構造または特性が開示されるシステムおよび方法の少なくとも一つの実施形態に含まれることを意味する。よって、本稿を通じた随所に「一つの実施形態では」「いくつかの実施形態では」または「ある実施形態では」という句が現われるのは、同じ実施形態を指すこともあれば、必ずしもそうでないこともある。さらに、具体的な特徴、構造または特性は、当業者には明白であろう任意の好適な仕方で組み合わされてもよい。
一つまたは複数の実装が、例として、個別的な実施形態を用いて記載されているが、一つまたは複数の実装は開示される実施形態に限定されないことは理解されるものとする。逆に、当業者に明白であろうさまざまな修正および類似の構成をカバーすることが意図されている。したがって、付属の請求項の範囲は、そのようなすべての修正および類似の構成を包含するような最も広い解釈を与えられるべきである。
いくつかの態様を記載しておく。
〔態様1〕
適応オーディオをレンダリングする方法であって:
チャネル・ベースのオーディオ、オーディオ・オブジェクトおよび動的オブジェクトを含む入力オーディオを受領する段階であって、前記動的オブジェクトは低優先度動的オブジェクトの集合および高優先度動的オブジェクトの集合として分類される、段階と;
前記チャネル・ベースのオーディオ、前記オーディオ・オブジェクトおよび前記低優先度動的オブジェクトをオーディオ処理システムの第一のレンダリング・プロセッサにおいてレンダリングする段階と;
前記高優先度動的オブジェクトを前記オーディオ処理システムの第二のレンダリング・プロセッサにおいてレンダリングする段階とを含む、
方法。
〔態様2〕
前記入力オーディオは、オーディオ・コンテンツおよびレンダリング・メタデータを含むオブジェクト・オーディオ・ベースのデジタル・ビットストリーム・フォーマットに従ってフォーマットされている、態様1記載の方法。
〔態様3〕
前記チャネル・ベースのオーディオはサラウンドサウンド・オーディオ・ベッドを含み、前記オーディオ・オブジェクトは中間空間的フォーマットに準拠するオブジェクトを含む、態様2記載の方法。
〔態様4〕
前記低優先度動的オブジェクトおよび高優先度動的オブジェクトは、優先度閾値によって区別される、態様2記載の方法。
〔態様5〕
前記優先度閾値は、前記入力オーディオを含むオーディオ・コンテンツの作者、ユーザー選択された値および前記オーディオ処理システムによって実行される自動化されたプロセスのうちの一つによって定義される、態様4記載の方法。
〔態様6〕
前記優先度閾値は、前記オブジェクト・オーディオ・メタデータ・ビットストリームにおいてエンコードされている、態様5記載の方法。
〔態様7〕
前記低優先度および高優先度のオーディオ・オブジェクトのオーディオ・オブジェクトの相対的な優先度は前記オブジェクト・オーディオ・メタデータ・ビットストリームにおけるそれぞれの位置によって決定される、態様5記載の方法。
〔態様8〕
前記第一のレンダリング・プロセッサにおいて前記チャネル・ベースのオーディオ、前記オーディオ・オブジェクトおよび前記低優先度動的オブジェクトをレンダリングしてレンダリングされたオーディオを生成する間またはその後に、前記高優先度オーディオ・オブジェクトを前記第一のレンダリング・プロセッサを通して前記第二のレンダリング・プロセッサに渡し;
前記レンダリングされたオーディオをスピーカー・システムへの伝送のために後処理することをさらに含む、
態様1記載の方法。
〔態様9〕
前記後処理する段階は、アップミックス、ボリューム制御、等化および低音管理のうちの少なくとも一つを含む、態様8記載の方法。
〔態様10〕
前記後処理する段階は、前記スピーカー・システムを通じた再生のための前記入力オーディオに存在している高さ手がかりのレンダリングを容易にするための仮想化段階をさらに含む、態様9記載の方法。
〔態様11〕
前記スピーカー・システムは、単一の軸に沿って音を送出する複数の共位置のドライバーを有するサウンドバー・スピーカーを有する、態様10記載の方法。
〔態様12〕
前記第一および第二のレンダリング・プロセッサは、伝送リンクを通じて一緒に結合された別個のデジタル信号処理回路において具現される、態様4記載の方法。
〔態様13〕
前記優先度閾値は、前記第一および第二のレンダリング・プロセッサの相対的な処理機能、前記第一および第二のレンダリング・プロセッサのそれぞれに関連付けられたメモリ帯域幅および前記伝送リンクの伝送帯域幅のうちの少なくとも一つによって決定される、態様12記載の方法。
〔態様14〕
適応オーディオをレンダリングする方法であって:
オーディオ・コンポーネントおよび関連付けられたメタデータを含む入力オーディオ・ビットストリームを受領する段階であって、前記オーディオ・コンポーネントはそれぞれチャネル・ベースのオーディオ、オーディオ・オブジェクトおよび動的オブジェクトから選択されるオーディオ型をもつ、段階と;
各オーディオ・コンポーネントについてのデコーダ・フォーマットをそれぞれのオーディオ型に基づいて決定する段階と;
各オーディオ・コンポーネントの優先度を、該各オーディオ・コンポーネントに関連付けられたメタデータにおける優先度フィールドから決定する段階と;
第一のレンダリング・プロセッサにおいて第一の優先度型のオーディオ・コンポーネントをレンダリングする段階と;
第二のレンダリング・プロセッサにおいて第二の優先度型のオーディオ・コンポーネントをレンダリングする段階とを含む、
方法。
〔態様15〕
前記第一のレンダリング・プロセッサおよび第二のレンダリング・プロセッサは、伝送リンクを通じて互いに結合された別個のレンダリング・デジタル信号プロセッサ(DSP)として実装される、態様14記載の方法。
〔態様16〕
前記第一の優先度型のオーディオ・コンポーネントは低優先度の動的オブジェクトを含み、第二の優先度型のオーディオ・コンポーネントは高優先度の動的オブジェクトを含み、本方法はさらに、前記チャネル・ベースのオーディオ、前記オーディオ・オブジェクトを前記第一のレンダリング・プロセッサにおいてレンダリングすることを含む、態様15記載の方法。
〔態様17〕
前記チャネル・ベースのオーディオはサラウンドサウンド・オーディオ・ベッドを含み、前記オーディオ・オブジェクトは中間空間的フォーマット(ISF)に準拠するオブジェクトを含み、前記低優先度および高優先度動的オブジェクトはオブジェクト・オーディオ・メタデータ(OAMD)フォーマットに準拠するものを含む、態様15記載の方法。
〔態様18〕
各オーディオ・コンポーネントについてのデコーダ・フォーマットは:OAMDフォーマットされた動的オブジェクト、サラウンドサウンド・オーディオ・ベッドおよびISFオブジェクトのうちの少なくとも一つを生成する、態様17記載の方法。
〔態様19〕
前記低優先度および高優先度動的オブジェクトのオーディオ・オブジェクトの相対的な優先度は前記入力オーディオ・ビットストリームにおけるそれぞれの位置によって決定される、態様16記載の方法。
〔態様20〕
前記スピーカー・システムを通じた再生のための前記入力オーディオに存在している高さ手がかりのレンダリングを容易にするよう、少なくとも前記高優先度動的オブジェクトに仮想化プロセスを適用することをさらに含む、態様19記載の方法。
〔態様21〕
前記スピーカー・システムは、単一の軸に沿って音を送出する複数の共位置のドライバーを有するサウンドバー・スピーカーを有する、態様20記載の方法。
〔態様22〕
適応オーディオをレンダリングするシステムであって:
オーディオ・コンテンツおよび関連付けられたメタデータを有するビットストリームにおいて入力オーディオを受領するインターフェースであって、前記オーディオ・コンテンツは、チャネル・ベースのオーディオ、オーディオ・オブジェクトおよび動的オブジェクトを含み、前記動的オブジェクトは低優先度動的オブジェクトの集合および高優先度動的オブジェクトの集合として分類される、インターフェースと;
前記チャネル・ベースのオーディオ、前記オーディオ・オブジェクトおよび前記低優先度動的オブジェクトをレンダリングする、前記インターフェースに結合された第一のレンダリング・プロセッサと;
前記高優先度動的オブジェクトをレンダリングする、伝送リンクを通じて前記第一のレンダリング・プロセッサに結合された第二のレンダリング・プロセッサとを有する、
システム。
〔態様23〕
前記チャネル・ベースのオーディオはサラウンドサウンド・オーディオ・ベッドを含み、前記オーディオ・オブジェクトは中間空間的フォーマット(ISF)に準拠するオブジェクトを含み、前記低優先度および高優先度動的オブジェクトはオブジェクト・オーディオ・メタデータ(OAMD)フォーマットに準拠するオブジェクトを含む、態様22記載のシステム。
〔態様24〕
前記低優先度動的オブジェクトおよび高優先度動的オブジェクトは、優先度閾値によって区別され、前記優先度閾値は、前記メタデータ・ビットストリームの適切なフィールドにおいてエンコードされており、前記入力オーディオを含むオーディオ・コンテンツの作者、ユーザー選択された値および前記オーディオ処理システムによって実行される自動化されたプロセスのうちの一つによって決定される、態様23記載のシステム。
〔態様25〕
前記第一のレンダリング・プロセッサおよび第二のレンダリング・プロセッサにおいてレンダリングされたオーディオに対して一つまたは複数の後処理段階を実行する後処理器をさらに有し、前記後処理段階は、アップミックス、ボリューム制御、等化および低音管理のうちの少なくとも一つを含む、態様24記載のシステム。
〔態様26〕
単一の軸に沿って音を送出する複数の共位置のドライバーを有するサウンドバー・スピーカーを通じた再生のための前記レンダリングされたオーディオに存在している高さ手がかりのレンダリングを容易にするための少なくとも一つの仮想化段階を実行する、前記後処理器に結合された仮想化器コンポーネントをさらに有する、態様25記載のシステム。
〔態様27〕
前記優先度閾値は、前記第一および第二のレンダリング・プロセッサの相対的な処理機能、前記第一および第二のレンダリング・プロセッサのそれぞれに関連付けられたメモリ帯域幅および前記伝送リンクの伝送帯域幅のうちの少なくとも一つによって決定される、態様24記載の方法。
〔態様28〕
聴取環境における仮想化されたオーディオ・コンテンツの再生のためのスピーカー・システムであって:
エンクロージャーと;
前記エンクロージャー内に配置され、前記エンクロージャーの前面を通じて音を投射するよう構成された複数の個別ドライバーと;
オーディオ・コンポーネントおよび関連付けられたメタデータを含むオーディオ・ビットストリームに含まれる第一の優先度型のオーディオ・コンポーネントをレンダリングする第一のレンダリング・プロセッサならびに前記オーディオ・ビットストリームに含まれる第二の優先度型のオーディオ・コンポーネントをレンダリングする第二のレンダリング・プロセッサによって生成されたレンダリングされたオーディオを受領するインターフェースとを有する、
スピーカー・システム。
〔態様29〕
前記第一のレンダリング・プロセッサおよび第二のレンダリング・プロセッサが、伝送リンクを通じて互いに結合された別個のレンダリング・デジタル信号プロセッサ(DSP)として実装される、態様28記載のスピーカー・システム。
〔態様30〕
前記第一の優先度型のオーディオ・コンポーネントは低優先度動的オブジェクトを含み、前記第二の優先度型のオーディオ・コンポーネントは高優先度動的オブジェクトを含み、前記チャネル・ベースのオーディオはサラウンドサウンド・オーディオ・ベッドを含み、前記オーディオ・オブジェクトは中間空間的フォーマット(ISF)に準拠するオブジェクトを含み、前記低優先度および高優先度動的オブジェクトはオブジェクト・オーディオ・メタデータ(OAMD)フォーマットに準拠するものを含む、態様29記載のスピーカー・システム。
〔態様31〕
当該スピーカー・システムを通じた再生のための前記入力オーディオに存在している高さ手がかりのレンダリングを容易にするために少なくとも前記高優先度動的オブジェクトに仮想化プロセスを適用する仮想化器をさらに有する、態様30記載のスピーカー・システム。
〔態様32〕
前記仮想化器、前記第一のレンダリング・プロセッサおよび前記第二のレンダリング・プロセッサのうちの少なくとも一つは当該スピーカー・システムの前記エンクロージャーに緊密に結合されているまたは該エンクロージャーに囲まれている、態様31記載のスピーカー・システム。

Claims (8)

  1. 適応オーディオをレンダリングする方法であって:
    静的なチャネル・ベースのオーディオおよび少なくとも一つの動的オブジェクトを含む入力オーディオ・ビットストリームを受領する段階であって、前記動的オブジェクトは優先度値をもち、前記入力オーディオ・ビットストリームは、オーディオ・コンテンツおよびレンダリング・メタデータを含むオブジェクト・オーディオ・ベースのデジタル・ビットストリーム・フォーマットに従ってフォーマットされている、段階と;
    前記動的オブジェクトが低優先度動的オブジェクトであるか、または前記動的オブジェクトが高優先度動的オブジェクトであるかを判定する段階であって、該判定は、前記優先度値の、優先度閾値との比較に基づいて、前記動的オブジェクトを低優先度動的オブジェクトまたは高優先度動的オブジェクトのいずれかとして分類することを含み、前記優先度閾値は、事前設定された値または自動化されたプロセス選択に基づく、段階と;
    前記動的オブジェクトが前記低優先度動的オブジェクトである場合、前記動的オブジェクトを第一のレンダリング・プロセスに基づいてレンダリングする、または前記動的オブジェクトが前記高優先度動的オブジェクトである場合、前記動的オブジェクトを第二のレンダリング・プロセスに基づいてレンダリングする段階とを含み、
    前記第一のレンダリング・プロセスは前記第二のレンダリング・プロセスとは異なるメモリ処理を使用し、
    前記第一のレンダリング・プロセスまたは前記第二のレンダリング・プロセスは、前記動的オブジェクトの前記分類に基づいて選択され、前記分類とは独立に前記静的なチャネル・ベースのオーディオをレンダリングする、
    方法。
  2. スピーカー・システムへの伝送のために後処理する段階をさらに含む、
    請求項1記載の方法。
  3. 前記後処理する段階は、アップミックス、ボリューム制御、等化および低音管理のうちの少なくとも一つを含む、請求項2記載の方法。
  4. 前記後処理する段階は、前記スピーカー・システムを通じた再生のための前記入力オーディオ・ビットストリームに存在している高さ手がかりのレンダリングを容易にするための仮想化段階をさらに含む、請求項3記載の方法。
  5. 前記第一のレンダリング・プロセスは、前記静的なチャネル・ベースのオーディオをレンダリングするよう最適化されている第一のレンダリング・プロセッサにおいて実行され、
    前記第二のレンダリング・プロセスは、前記第一のレンダリング・プロセッサに比べて、向上したパフォーマンス機能、向上したメモリ帯域幅および向上した伝送帯域幅のうちの少なくとも一つによって前記高優先度動的オブジェクトをレンダリングするよう最適化されている第二のレンダリング・プロセッサにおいて実行される、
    請求項1記載の方法。
  6. 前記第一のレンダリング・プロセッサおよび前記第二のレンダリング・プロセッサは、伝送リンクを通じて互いに結合された別個のレンダリング・デジタル信号プロセッサ(DSP)として具現される、請求項5記載の方法。
  7. プロセッサによって実行されたときに請求項1記載の方法を実行する命令を含んでいる非一時的なコンピュータ可読記憶媒体。
  8. 入力オーディオ・ビットストリームの適応オーディオをレンダリングするためのシステムであって:
    静的なチャネル・ベースのオーディオおよび少なくとも一つの動的オブジェクトを含む入力オーディオ・ビットストリームを受領するためのインターフェースであって、前記動的オブジェクトは優先度値をもち、前記入力オーディオ・ビットストリームは、オーディオ・コンテンツおよびレンダリング・メタデータを含むオブジェクト・オーディオ・ベースのデジタル・ビットストリーム・フォーマットに従ってフォーマットされている、インターフェースと;
    前記動的オブジェクトが低優先度動的オブジェクトであるか、または前記動的オブジェクトが高優先度動的オブジェクトであるかを判定するためのデコード段であって、該判定は、前記優先度値の、優先度閾値との比較に基づいて、前記動的オブジェクトを低優先度動的オブジェクトまたは高優先度動的オブジェクトのいずれかとして分類することを含み、前記優先度閾値は、事前設定された値または自動化されたプロセス選択に基づく、デコード段と;
    前記動的オブジェクトが前記低優先度動的オブジェクトである場合、前記動的オブジェクトを第一のレンダリング・プロセスに基づいてレンダリングする、または前記動的オブジェクトが前記高優先度動的オブジェクトである場合、前記動的オブジェクトを第二のレンダリング・プロセスに基づいてレンダリングするためのレンダリング段とを有しており、
    前記第一のレンダリング・プロセスは前記第二のレンダリング・プロセスとは異なるメモリ処理を使用し、
    前記第一のレンダリング・プロセスまたは前記第二のレンダリング・プロセスは、前記動的オブジェクトの前記分類に基づいて選択され、前記分類とは独立に前記静的なチャネル・ベースのオーディオをレンダリングする、
    システム。
JP2022027836A 2015-02-06 2022-02-25 適応オーディオ・コンテンツのためのハイブリッドの優先度に基づくレンダリング・システムおよび方法 Active JP7362807B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201562113268P 2015-02-06 2015-02-06
US62/113,268 2015-02-06
JP2020117715A JP7033170B2 (ja) 2015-02-06 2020-07-08 適応オーディオ・コンテンツのためのハイブリッドの優先度に基づくレンダリング・システムおよび方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2020117715A Division JP7033170B2 (ja) 2015-02-06 2020-07-08 適応オーディオ・コンテンツのためのハイブリッドの優先度に基づくレンダリング・システムおよび方法

Publications (2)

Publication Number Publication Date
JP2022065179A JP2022065179A (ja) 2022-04-26
JP7362807B2 true JP7362807B2 (ja) 2023-10-17

Family

ID=55353358

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2017539427A Active JP6732764B2 (ja) 2015-02-06 2016-02-04 適応オーディオ・コンテンツのためのハイブリッドの優先度に基づくレンダリング・システムおよび方法
JP2020117715A Active JP7033170B2 (ja) 2015-02-06 2020-07-08 適応オーディオ・コンテンツのためのハイブリッドの優先度に基づくレンダリング・システムおよび方法
JP2022027836A Active JP7362807B2 (ja) 2015-02-06 2022-02-25 適応オーディオ・コンテンツのためのハイブリッドの優先度に基づくレンダリング・システムおよび方法

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2017539427A Active JP6732764B2 (ja) 2015-02-06 2016-02-04 適応オーディオ・コンテンツのためのハイブリッドの優先度に基づくレンダリング・システムおよび方法
JP2020117715A Active JP7033170B2 (ja) 2015-02-06 2020-07-08 適応オーディオ・コンテンツのためのハイブリッドの優先度に基づくレンダリング・システムおよび方法

Country Status (5)

Country Link
US (4) US10225676B2 (ja)
EP (2) EP3254476B1 (ja)
JP (3) JP6732764B2 (ja)
CN (6) CN114554387A (ja)
WO (1) WO2016126907A1 (ja)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2931952T3 (es) * 2013-05-16 2023-01-05 Koninklijke Philips Nv Un aparato de procesamiento de audio y el procedimiento para el mismo
JP2017163432A (ja) * 2016-03-10 2017-09-14 ソニー株式会社 情報処理装置、情報処理方法、及び、プログラム
US10325610B2 (en) * 2016-03-30 2019-06-18 Microsoft Technology Licensing, Llc Adaptive audio rendering
EP3373604B1 (en) 2017-03-08 2021-09-01 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for providing a measure of spatiality associated with an audio stream
US10972859B2 (en) * 2017-04-13 2021-04-06 Sony Corporation Signal processing apparatus and method as well as program
EP3618067B1 (en) * 2017-04-26 2024-04-10 Sony Group Corporation Signal processing device, method, and program
US11595774B2 (en) * 2017-05-12 2023-02-28 Microsoft Technology Licensing, Llc Spatializing audio data based on analysis of incoming audio data
US11102601B2 (en) * 2017-09-29 2021-08-24 Apple Inc. Spatial audio upmixing
EP3729830B1 (en) * 2017-12-18 2023-01-25 Dolby International AB Method and system for handling local transitions between listening positions in a virtual reality environment
US11270711B2 (en) 2017-12-21 2022-03-08 Qualcomm Incorproated Higher order ambisonic audio data
US10657974B2 (en) 2017-12-21 2020-05-19 Qualcomm Incorporated Priority information for higher order ambisonic audio data
CN108174337B (zh) * 2017-12-26 2020-05-15 广州励丰文化科技股份有限公司 一种室内声场自适应的方法及组合扬声器系统
US10237675B1 (en) * 2018-05-22 2019-03-19 Microsoft Technology Licensing, Llc Spatial delivery of multi-source audio content
GB2575510A (en) 2018-07-13 2020-01-15 Nokia Technologies Oy Spatial augmentation
EP3618464A1 (en) * 2018-08-30 2020-03-04 Nokia Technologies Oy Reproduction of parametric spatial audio using a soundbar
BR112021008089A2 (pt) 2018-11-02 2021-08-03 Dolby International Ab codificador de áudio e decodificador de áudio
US20220020381A1 (en) * 2018-11-20 2022-01-20 Sony Group Corporation Information processing device and method, and program
EP3963906B1 (en) * 2019-05-03 2023-06-28 Dolby Laboratories Licensing Corporation Rendering audio objects with multiple types of renderers
JP7412091B2 (ja) * 2019-05-08 2024-01-12 株式会社ディーアンドエムホールディングス オーディオ装置およびオーディオシステム
KR102565131B1 (ko) * 2019-05-31 2023-08-08 디티에스, 인코포레이티드 포비에이티드 오디오 렌더링
CN114080822B (zh) * 2019-06-20 2023-11-03 杜比实验室特许公司 S扬声器上m声道输入的渲染
US11140503B2 (en) * 2019-07-03 2021-10-05 Qualcomm Incorporated Timer-based access for audio streaming and rendering
US11366879B2 (en) * 2019-07-08 2022-06-21 Microsoft Technology Licensing, Llc Server-side audio rendering licensing
US11523239B2 (en) * 2019-07-22 2022-12-06 Hisense Visual Technology Co., Ltd. Display apparatus and method for processing audio
KR102638121B1 (ko) * 2019-07-30 2024-02-20 돌비 레버러토리즈 라이쎈싱 코오포레이션 상이한 재생 능력을 구비한 디바이스에 걸친 역학 처리
US11038937B1 (en) * 2020-03-06 2021-06-15 Sonos, Inc. Hybrid sniffing and rebroadcast for Bluetooth networks
EP4118839A4 (en) * 2020-03-10 2024-02-28 Sonos Inc CONVERTER ARRANGEMENT FOR AUDIO DEVICE AND ASSOCIATED SYSTEMS AND METHODS
US11601757B2 (en) * 2020-08-28 2023-03-07 Micron Technology, Inc. Audio input prioritization
WO2022066370A1 (en) * 2020-09-25 2022-03-31 Apple Inc. Hierarchical Spatial Resolution Codec
US20230051841A1 (en) * 2021-07-30 2023-02-16 Qualcomm Incorporated Xr rendering for 3d audio content and audio codec
CN113613066B (zh) * 2021-08-03 2023-03-28 天翼爱音乐文化科技有限公司 一种实时视频特效的渲染方法、系统、装置及存储介质
WO2023239639A1 (en) * 2022-06-08 2023-12-14 Dolby Laboratories Licensing Corporation Immersive audio fading

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120230497A1 (en) 2011-03-09 2012-09-13 Srs Labs, Inc. System for dynamically creating and rendering audio objects
JP2013502184A (ja) 2009-08-14 2013-01-17 エスアールエス・ラブス・インコーポレーテッド オーディオオブジェクトを適応的にストリーミングするためのシステム
JP2014525048A (ja) 2011-03-16 2014-09-25 ディーティーエス・インコーポレイテッド 3次元オーディオサウンドトラックの符号化及び再生

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5633993A (en) 1993-02-10 1997-05-27 The Walt Disney Company Method and apparatus for providing a virtual world sound system
JPH09149499A (ja) 1995-11-20 1997-06-06 Nippon Columbia Co Ltd データ転送方法及びその装置
US7706544B2 (en) 2002-11-21 2010-04-27 Fraunhofer-Geselleschaft Zur Forderung Der Angewandten Forschung E.V. Audio reproduction system and method for reproducing an audio signal
US20040228291A1 (en) * 2003-05-15 2004-11-18 Huslak Nicolas Steven Videoconferencing using managed quality of service and/or bandwidth allocation in a regional/access network (RAN)
US7436535B2 (en) * 2003-10-24 2008-10-14 Microsoft Corporation Real-time inking
CN1625108A (zh) * 2003-12-01 2005-06-08 皇家飞利浦电子股份有限公司 一种使用优先级技术的通信方法和系统
US8363865B1 (en) 2004-05-24 2013-01-29 Heather Bottum Multiple channel sound system using multi-speaker arrays
EP1724684A1 (en) * 2005-05-17 2006-11-22 BUSI Incubateur d'entreprises d'AUVEFGNE System and method for task scheduling, signal analysis and remote sensor
US7500175B2 (en) * 2005-07-01 2009-03-03 Microsoft Corporation Aspects of media content rendering
ES2674897T3 (es) * 2005-07-18 2018-07-04 Thomson Licensing Método y dispositivo para manejar múltiples flujos de vídeo usando metadatos
US7974422B1 (en) * 2005-08-25 2011-07-05 Tp Lab, Inc. System and method of adjusting the sound of multiple audio objects directed toward an audio output device
JP2009526263A (ja) 2006-02-07 2009-07-16 エルジー エレクトロニクス インコーポレイティド 符号化/復号化装置及び方法
KR101422745B1 (ko) 2007-03-30 2014-07-24 한국전자통신연구원 다채널로 구성된 다객체 오디오 신호의 인코딩 및 디코딩장치 및 방법
US8639368B2 (en) * 2008-07-15 2014-01-28 Lg Electronics Inc. Method and an apparatus for processing an audio signal
EP2154911A1 (en) 2008-08-13 2010-02-17 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. An apparatus for determining a spatial output multi-channel audio signal
US8718285B2 (en) * 2009-03-26 2014-05-06 Panasonic Corporation Decoding device, coding and decoding device, and decoding method
KR101387902B1 (ko) 2009-06-10 2014-04-22 한국전자통신연구원 다객체 오디오 신호를 부호화하는 방법 및 부호화 장치, 복호화 방법 및 복호화 장치, 그리고 트랜스코딩 방법 및 트랜스코더
MY154078A (en) 2009-06-24 2015-04-30 Fraunhofer Ges Forschung Audio signal decoder, method for decoding an audio signal and computer program using cascaded audio object processing stages
EP2630808B1 (en) * 2010-10-20 2019-01-02 DTS, Inc. Stereo image widening system
EP2523111A1 (en) * 2011-05-13 2012-11-14 Research In Motion Limited Allocating media decoding resources according to priorities of media elements in received data
MX337790B (es) * 2011-07-01 2016-03-18 Dolby Lab Licensing Corp Sistema y herramientas para autoria y representacion mejorada de audio tridimensional.
CN104054126B (zh) 2012-01-19 2017-03-29 皇家飞利浦有限公司 空间音频渲染和编码
WO2013111034A2 (en) * 2012-01-23 2013-08-01 Koninklijke Philips N.V. Audio rendering system and method therefor
US8893140B2 (en) * 2012-01-24 2014-11-18 Life Coded, Llc System and method for dynamically coordinating tasks, schedule planning, and workload management
KR102059846B1 (ko) * 2012-07-31 2020-02-11 인텔렉추얼디스커버리 주식회사 오디오 신호 처리 방법 및 장치
BR112015002367B1 (pt) 2012-08-03 2021-12-14 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung Ev Decodificador e método para codificação de objeto de áudio espacial multi-instância empregando um conceito paramétrico para caixas multicanal de downmix/upmix
KR102050455B1 (ko) 2012-08-10 2019-12-02 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 파라미터 오디오 오브젝트 코딩을 위한 잔류 개념을 이용하는 인코더, 디코더, 시스템 및 방법
WO2014088328A1 (ko) * 2012-12-04 2014-06-12 삼성전자 주식회사 오디오 제공 장치 및 오디오 제공 방법
JP6012884B2 (ja) * 2012-12-21 2016-10-25 ドルビー ラボラトリーズ ライセンシング コーポレイション 知覚的基準に基づいてオブジェクト・ベースのオーディオ・コンテンツをレンダリングするためのオブジェクト・クラスタリング
CN103335644B (zh) * 2013-05-31 2016-03-16 王玉娇 街景地图的声音播放方法及相关设备
WO2015009748A1 (en) * 2013-07-15 2015-01-22 Dts, Inc. Spatial calibration of surround sound systems including listener position estimation
US9564136B2 (en) * 2014-03-06 2017-02-07 Dts, Inc. Post-encoding bitrate reduction of multiple object audio
CN103885788B (zh) * 2014-04-14 2015-02-18 焦点科技股份有限公司 一种基于模型组件化动态web 3d虚拟现实场景的搭建方法及系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013502184A (ja) 2009-08-14 2013-01-17 エスアールエス・ラブス・インコーポレーテッド オーディオオブジェクトを適応的にストリーミングするためのシステム
US20120230497A1 (en) 2011-03-09 2012-09-13 Srs Labs, Inc. System for dynamically creating and rendering audio objects
JP2014525048A (ja) 2011-03-16 2014-09-25 ディーティーエス・インコーポレイテッド 3次元オーディオサウンドトラックの符号化及び再生

Also Published As

Publication number Publication date
US11765535B2 (en) 2023-09-19
WO2016126907A1 (en) 2016-08-11
CN114374925A (zh) 2022-04-19
US20220159394A1 (en) 2022-05-19
JP7033170B2 (ja) 2022-03-09
JP2020174383A (ja) 2020-10-22
EP3893522A1 (en) 2021-10-13
CN111586552A (zh) 2020-08-25
US11190893B2 (en) 2021-11-30
CN111556426A (zh) 2020-08-18
JP2018510532A (ja) 2018-04-12
US20190191258A1 (en) 2019-06-20
CN107211227B (zh) 2020-07-07
CN111556426B (zh) 2022-03-25
CN111586552B (zh) 2021-11-05
US10225676B2 (en) 2019-03-05
CN114554387A (zh) 2022-05-27
EP3893522B1 (en) 2023-01-18
CN107211227A (zh) 2017-09-26
US10659899B2 (en) 2020-05-19
JP2022065179A (ja) 2022-04-26
EP3254476A1 (en) 2017-12-13
CN114554386A (zh) 2022-05-27
CN114374925B (zh) 2024-04-02
US20170374484A1 (en) 2017-12-28
JP6732764B2 (ja) 2020-07-29
US20210112358A1 (en) 2021-04-15
EP3254476B1 (en) 2021-01-27

Similar Documents

Publication Publication Date Title
JP7362807B2 (ja) 適応オーディオ・コンテンツのためのハイブリッドの優先度に基づくレンダリング・システムおよび方法
US11277703B2 (en) Speaker for reflecting sound off viewing screen or display surface
RU2741738C1 (ru) Система, способ и постоянный машиночитаемый носитель данных для генерирования, кодирования и представления данных адаптивного звукового сигнала
EP3285504B1 (en) Speaker system with an upward-firing loudspeaker

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230518

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230905

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231004

R150 Certificate of patent or registration of utility model

Ref document number: 7362807

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150