JP2009536752A - オーディオプラットフォームに適応したオーディオ・デコーディングのためのオーディオ・ストリームの優先順位付け - Google Patents
オーディオプラットフォームに適応したオーディオ・デコーディングのためのオーディオ・ストリームの優先順位付け Download PDFInfo
- Publication number
- JP2009536752A JP2009536752A JP2009509945A JP2009509945A JP2009536752A JP 2009536752 A JP2009536752 A JP 2009536752A JP 2009509945 A JP2009509945 A JP 2009509945A JP 2009509945 A JP2009509945 A JP 2009509945A JP 2009536752 A JP2009536752 A JP 2009536752A
- Authority
- JP
- Japan
- Prior art keywords
- audio
- audio stream
- application
- prioritized
- streams
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 claims abstract description 47
- 238000012545 processing Methods 0.000 claims description 24
- 238000004891 communication Methods 0.000 claims description 4
- 230000008569 process Effects 0.000 claims description 4
- 238000012913 prioritisation Methods 0.000 abstract description 5
- 238000012805 post-processing Methods 0.000 description 22
- 238000010586 diagram Methods 0.000 description 13
- 230000009471 action Effects 0.000 description 5
- 230000006837 decompression Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 238000004880 explosion Methods 0.000 description 3
- 230000005236 sound signal Effects 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000006378 damage Effects 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 230000009191 jumping Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000007717 exclusion Effects 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F15/00—Digital computers in general; Data processing equipment in general
- G06F15/16—Combinations of two or more digital computers each having at least an arithmetic unit, a program unit and a register, e.g. for a simultaneous processing of several programs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/1066—Session management
- H04L65/1101—Session protocols
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/75—Media network packet handling
- H04L65/764—Media network packet handling at the destination
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Hardware Design (AREA)
- Theoretical Computer Science (AREA)
- General Business, Economics & Management (AREA)
- Business, Economics & Management (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Telephone Function (AREA)
Abstract
本開示は、モバイル装置で実行するビデオゲームのような、ソフトウェア・アプリケーションのオーディオ・ストリームの優先順位付けスキームを実行するオーディオコーディング技術について記述される。オーディオ・ストリームの優先度は、アプリケーションのコンテンツ製作者により定義される。さらに、(オーディオ警報のような)アプリケーションと関係しない追加的なオーディオ・ストリームの優先度も同様に定義される。モバイル装置は、アプリケーションを実行するプロセッサと、モバイル装置で実行するアプリケーションの複数の優先順位付オーディオ・ストリームを受信し、アプリケーションとは関係のない追加的な優先順位付オーディオ・ストリームを受信し、そして、共通オーディオ・ストリームを形成する優先度に従い、アプリケーションと関係する優先順位付オーディオ・ストリームのサブセットと追加的な優先順位付オーディオ・ストリームを結合する、オーディオ・デコーディング装置を含む。
Description
本出願は、オーディオコーディング技術に関し、そして、特に、種々のプラットフォームで実行され得るアプリケーションのオーディオ・ストリームのためのオーディオ・デコーディング技術に関する。
オーディオコーディングは、衛星ラジオ、デジタルラジオ、インターネットストリーミング(ウェブラジオ)、デジタル音楽プレーヤー、無線モバイル装置、そして、各種のモバイルマルチメディアアプリケーションのような多くのアプリケーションや環境で使用される。動画像専門家グループ(MPEG)、ウィンドウズ(登録商標)・メディア・オーディオ(WMA)による標準、ドルビー・ラボラトリー社による標準のようなオーディオコーディング標準は多数存在する。MP3標準と、アップルコンピュータにより販売される“アイポッド(iPod)”装置に使用されるアドバンス・オーディオコーディング(AAC)のようなMP3標準の後継を含む、多くのオーディオコーディング標準が出現し続けている。オーディオコーディング標準は、圧縮を使用する低ビットレートの高品質オーディオコーディングの実現を追求することが一般的である。いくつかのオーディオコーディングでは“ロスレス(loss-less)”、つまり、コーディングがオーディオ信号を劣化させはしないが、オーディオコーディングによっては、追加的な圧縮を行うために、いくらかのロスを招いてしまう可能性がある。
多くのアプリケーションでは、オーディオコーディングは、ビデオ電話通信(VT)あるいはストリーミングビデオのようなアプリケーションに対してマルチメディアコンテンツを供給するために、ビデオコーディングと一緒に使用される。オーディオコーディングもまた、ビデオゲーム等のようなマルティメディアアプリケーションをサポートするモバイル装置で一般的に使用される。実際に、モバイル装置は、使用者にオーディオ出力を提供し、それゆえに、オーディオコーディング技術を使用する幅広い種類の機能性とコンテンツをますます組み入れ、オーディオとビデオの情報は、オーディオとビデオデータのブロックを含むフレームに分割される可能性がある。オーディオ出力のストリームは、フレームのデコーディングの後のオーディオフレームにより定義することができる。
不運にも、異なるモバイル装置が、幅広い種類の機器構成を前提としている。特に、異なるモバイル装置は、異なるプラットホームを使用する可能性がある。たとえば、いくつかのモバイル装置は、他のモバイル装置より多くのメモリを含む可能性がある。さらに、異なるモバイル装置における処理パワーは、劇的に変化し得る。モバイル装置プラットホームにおけるこうした変形のために、そのようなモバイル装置に対するコンテンツ提供者は、異なる装置に対する異なるソフトウェアアプリケーションの設計を余儀なくされることが多い。たとえば、同じビデオゲームコンセプトが、異なるプラットフォームを持つ装置に対して、異なる設計を要する可能性がある。より低品質の携帯電話が、より高品質の携帯電話に対して設計される所与のマルチメディアビデオゲームのオーディオ情報を、確実にリアルタイムでデコードするためには、不十分なメモリや処理パワーを有する可能性がある。このケースでは、ゲームがより低品質の携帯電話で機能するために、コンテンツ提供者は、ビデオゲームのオーディオ複雑性を減少するよう、ビデオゲームを再設計する必要があるかもしれない。
不運にも、異なるモバイル装置が、幅広い種類の機器構成を前提としている。特に、異なるモバイル装置は、異なるプラットホームを使用する可能性がある。たとえば、いくつかのモバイル装置は、他のモバイル装置より多くのメモリを含む可能性がある。さらに、異なるモバイル装置における処理パワーは、劇的に変化し得る。モバイル装置プラットホームにおけるこうした変形のために、そのようなモバイル装置に対するコンテンツ提供者は、異なる装置に対する異なるソフトウェアアプリケーションの設計を余儀なくされることが多い。たとえば、同じビデオゲームコンセプトが、異なるプラットフォームを持つ装置に対して、異なる設計を要する可能性がある。より低品質の携帯電話が、より高品質の携帯電話に対して設計される所与のマルチメディアビデオゲームのオーディオ情報を、確実にリアルタイムでデコードするためには、不十分なメモリや処理パワーを有する可能性がある。このケースでは、ゲームがより低品質の携帯電話で機能するために、コンテンツ提供者は、ビデオゲームのオーディオ複雑性を減少するよう、ビデオゲームを再設計する必要があるかもしれない。
一般に、本開示は、モバイル装置で実行するビデオゲームのようなアプリケーションに対して定義されるオーディオ・ストリームの優先順位スキーム(prioritization scheme)を実行するオーディオコーディング技術を説明する。モバイル装置プラットフォームは、異なる装置において変化することが可能であるため、所与のプラットフォームによりサポートされるオーディオデコーディング量は、モバイル装置で稼動するそのようなアプリケーションを設計するコンテンツ製作者にとって未知であり得る。本開示に従って、コンテンツ製作者は、自分たちが作り出すアプリケーションの種々のオーディオ・ストリームの優先度(priority)を定義することが可能となる。そして、モバイル装置における実行に際して、優先順位が付けられたオーディオ・ストリームのサブセットは、アプリケーションに対するオーディオ出力を定義する共通オーディオ・ストリームを形成する優先度に従い結合されることが可能である。
本開示に従って、アプリケーションは、よりプラットフォーム独立となることが可能であり、複数のモバイル装置のプラットフォームに対してより互換性を持つ可能性がある。低品質のプラットフォームは、共通オーディオ・ストリームの生成において、より少ないオーディオ・ストリームを使用する可能性があるが、アプリケーションがなお機能的であることを確実にするために、一般に、最高優先度のストリームを使用する。高品質のプラットフォームは、対照的に、拡張されたオーディオ体験を使用者に提供するために、共通オーディオ・ストリームの生成において、オーディオ・ストリームのより多くを使用することが可能である。同じアプリケーションは、異なるプラットフォームで実行されるが、異なるプラットフォームは、異なるメモリ量と処理パワーを持つ可能性があるため、オーディオ出力が異なる可能性がある。コンテンツ製作者は、最重要のオーディオ・ストリームがあらゆるプラットフォームにおけるアプリケーションの実行に含まれることを確実にするために、アプリケーションの異なるオーディオ・ストリームのオーディオ優先順位(audio prioritization)を定義することが可能であるが、その一方で、一つ以上の重要性の低いオーディオ・ストリームは、低品質のプラットフォームにおけるアプリケーションの実行では除外される可能性がある。
さらに、本開示に従い、アプリケーションと関係ない一つ以上の追加的なオーディオ・ストリームが同様に優先順位付けされる。たとえば、(入来する電話呼出の警報通知のような)オーディオ警報は、典型的には、装置の製造者によって、スキームで優先順位付けされることが可能である。共通オーディオ・ストリームの生成は、優先度に従って、アプリケーションと関係する優先順位が付けられたオーディオ・ストリームのサブセットと追加的な優先順位が付けられたオーディオ・ストリームの結合を含む可能性がある。各オーディオ・ストリームは、独自の優先度を有する可能性があり、典型的にオーディオ警報は、スキームにおいて最高の優先度を与えられる。しかし、本開示は、この点に必ずしも限定されるわけではない。
一つの具体例において、本開示は、モバイル装置で実行するアプリケーションの複数の優先順位付オーディオ・ストリームを受信することと、アプリケーションと関係ない追加的な優先順位付オーディオ・ストリームを受信することと、共通オーディオ・ストリームを形成する優先度に従い、アプリケーションと関係する優先順位付オーディオ・ストリームのサブセットと追加的な優先順位付オーディオ・ストリームを結合することとを含む方法を提供する。
他の具体例では、本開示は、アプリケーションを実行するプロセッサと、モバイル装置で実行するアプリケーションの複数の優先順位付オーディオ・ストリームを受信し、アプリケーションと関係ない追加的な優先順位付オーディオ・ストリームを受信し、共通オーディオ・ストリームを形成する優先度に従い、アプリケーションと関係する優先順位付オーディオ・ストリームのサブセットと追加的な優先順位付オーディオ・ストリームを結合する、オーディオ・デコーディング装置を含む装置を提供する。
いくつかのケースにおいては、本開示の技術は、コンピュータ可読媒体に格納されるソフトウェアで実行され得る。このように、他の具体例では、本開示は、モバイル装置において実行時に、モバイル装置に、モバイル装置で実行するアプリケーションの複数の優先順位付オーディオ・ストリームを受信させ、アプリケーションと関係ない追加的な優先順位付オーディオ・ストリームを受信させ、共通オーディオ・ストリームを形成する優先度に従い、アプリケーションと関係する優先順位付オーディオ・ストリームのサブセットと追加的な優先順位付オーディオ・ストリームを結合させることを引き起こす実行可能命令を含むコンピュータ可読媒体を提供する。
他の具体例において、本開示は、コンテンツ製作者と装置製造者により実行される方法を提供する。この場合には、方法は、アプリケーションのオーディオ・ストリームの優先度を定義すること、アプリケーションと関係ないオーディオ警報の優先度を定義すること、アプリケーションと警報の結合オーディオ出力を定義するために第1のモバイル装置がアプリケーションのオーディオ・ストリームの第1のサブセットを使用するように、第1のプラットフォームを定義する第1のモバイル装置へアプリケーションを提供すること、第1のサブセットが第2のサブセットとは異なるように、第2のモバイル装置がアプリケーションと警報の結合オーディオ出力を定義するためにアプリケーションのオーディオ・ストリームの第2のサブセットを使用するように、第2のプラットフォームを定義する第2のモバイル装置へアプリケーションを提供すること、を含む。アプリケーションのオーディオ・ストリームの優先度は、典型的に、コンテンツ製作者により定義されるが、その一方で、アプリケーションと関係ない追加的なオーディオ・ストリームの優先度は、装置製造者により割り当てられる可能性がある。
各種の具体例の追加的な詳細は、下記に添付された図と説明で明らかにされる。他の特徴、目的、有利な点は、説明と図、そして、請求項から明らかになるだろう。
本開示は、アプリケーションのコンテンツ製作者により定義され得るソフトウェア・アプリケーションのオーディオ・ストリームに対する優先順位付スキームを実行するオーディオコーディング技術について記述する。特に、(モバイル装置で実行するビデオゲームのような)アプリケーションのコンテンツ製作者は、ビデオゲームにおける異なるオーディオストリームの優先度を定義することが可能である。さらに、本開示に従い、アプリケーションと関係のない一つ以上の追加的なオーディオストリームは、典型的には装置製造業者により、同様に優先順位付される。たとえば、(入来する電話呼出の警報通知のような)オーディオ警報は、そのスキームにおいて優先順位付されることが可能である。そして、共通オーディオストリームは、優先度に従い、アプリケーションと関係する優先順位付オーディオストリームのサブセットと追加的な優先順位付オーディオストリームを結合することにより生成され得る。各オーディオ・ストリームは、独自の優先度を持つ可能性があり、オーディオ警報はそのスキームにおいて最高の優先度を与えられることが典型的である。しかしながら、本開示は必ずしもこの点に限定されるわけではない。
モバイル装置のプラットフォームは、種々の装置において変化することが可能であるため、所与のプラットフォームによりサポートされるオーディオ・デコーディング量は、モバイル装置上で稼動させるようなアプリケーションを設計するコンテンツ製作者には不明である可能性がある。従って、コンテンツ製作者に、彼らの作り出すアプリケーションの種々のオーディオ・ストリームの優先度を定義可能にすることにより、オーディオ出力は、そのようなアプリケーションを実行する種々のプラットフォームに対して適応性があるようになり得る。
より低品質のプラットフォームは、共通オーディオ・ストリームの生成に際して、より少ないオーディオ・ストリームを利用する可能性があるが、アプリケーションがなおも機能的であるように、最高優先度のストリームを使用することが一般的である。より高品質のプラットフォームは、対照的に、拡張されたオーディオ体験を使用者に提供するために、共通オーディオ・ストリームの生成に際して、より多くのオーディオ・ストリームを使用することが可能である。異なるプラットフォームは異なるメモリ量と処理パワーを有する可能性があるので、同じアプリケーションは異なるプラットフォームで実行するが、オーディオ出力は異なる可能性がある。コンテンツ製作者は、最重要オーディオ・ストリームがすべてのプラットフォームにおいてアプリケーション実行に関する出力に含まれることを確実にするために、アプリケーションの異なるオーディオ・ストリームに優先順位を付けることが可能であるが、一方では、より低い重要度ストリームは、より低品質プラットフォームにおいてアプリケーション実行の出力から除外される可能性がある。さらに、(警報のような)アプリケーションと関係ないオーディオ・ストリームは、典型的には装置製造者により、スキームにおいて優先順位付けが可能である。本開示に従い、アプリケーションのオーディオは、プラットフォーム適応であるが、一方では、たとえば、入来する電話呼出や使用者に対して警報を要する他の事象のケースでは、アプリケーションのそれの上に、追加的なオーディオを端挟む(interject)能力をさらにサポートする。
図1は、本開示の技術を実行し得る典型的なモバイル装置のブロック図である。モバイル装置10は、オーディオ・デコーディング能力を含む幅広い種類のモバイル装置すべてを含むことが可能である。例では、(アップルコンピュータから商業的に利用可能な)アイポッド(iPod)装置のようなデジタル音楽プレーヤー、類似のデジタル音楽装置、モバイルデジタルテレビ装置、無線通信装置、個人用携帯情報機器(PDA)、ラップトップコンピュータ、ハンドヘルドコンピュータ、デジタルカメラ、デジタル録音装置、携帯あるいは衛星ラジオ電話、(時には「ウォーキートーキー」と呼ばれる)直接ツーウェイ通信装置、(任天堂アメリカから商業的に入手可能な)ゲームボーイ装置のようなハンドヘルドビデオゲーム装置、類似のゲーム装置などを含む。
典型的なモバイル装置10は、メモリ14、(キーボード、マウス、トラックボール、ジョイステックなどのような)ユーザーインターフェース13、ディスプレイ17に結合されたプロセッサ12を含む。装置10は、情報の無線通信を促進するために、アンテナとモデムのような図1で示されていない他の部品を含む可能性がある。プロセッサ12は、デジタル信号プロセッサ(DSP)として実装され得るオーディオ・デコーディング装置16に結合される。オーディオ・デコーディング装置16もまた、メモリ14に結合され、オーディオ・デコーディング処理の態様(aspect)を加速するためにハードウェア18にアクセスする可能性がある。いくつかのケースでは、プロセッサ12もまた、ハードウェア18に結合される可能性がある。さらに、プロセッサ12は駆動回路15に連結されるが、駆動回路15はプロセッサからオーディオ制御信号を受信し、スピーカー19Aと19Bを駆動するために駆動信号を生成し、それによって可聴(audible)サウンドを生成する。たとえば、ハードウェア18は、デジタルアナログ変換器(DAC)を含む可能性があるが、デジタルアナログ変換器は、スピーカー19Aと19Bを駆動するように増幅可能なアナログ信号を配信するために、駆動回路15に直接連結される可能性がある。
プロセッサ12はマイクロプロセッサを含む可能性があり、汎用プロセッサである可能性や、あるいはモバイル装置に対して特別に設計された特殊プロセッサである可能性もある。いずれの場合でも、本開示に従い、プロセッサ12は一般にソフトウェア・アプリケーションを実行する。使用者は、ユーザーインターフェース13を通じて、ソフトウェア・アプリケーションと相互に作用する(interact)ことができる。そして、マルチメディア出力は、ディスプレイ17とスピーカー19Aと19Bを通じて、使用者に配信されることが可能である。オーディオ・デコーディング装置16は、コード化されたオーディオ・ストリームのデコード/伸長(decompression)のような、集中的なオーディオデコーディングタスクを取り扱うために、プロセッサ12により呼び出される。
本開示に従い、プロセッサ12で実行するアプリケーションは、優先順位付オーディオ・ストリームを定義する。そして、その優先度はアプリケーションの製作者により定義される。たとえば、アプリケーションは、使用者が娯楽目的のためにモバイル装置10で実行可能なビデオゲームを含む可能性がある。そのようなビデオゲームのアプリケーションは、一つ以上のタイプのBGMのようないくつかのオーディオ・ストリームと、(爆発や砲撃のような)多くの対話型のリアルタイムサウンド効果を典型的に含む。オーディオ・ストリームは、ゲームの種々のオーディオチャンネルに対応する可能性がある。いくつかのビデオゲームでは、たとえば、ジャンプ、走行、スライディング、運転、回転、方向変換など、ビデオゲームキャラクターのリアルタイムアクションに関係する多数のサウンド効果を供給する可能性がある。同様に、サウンドは、背景キャラクターとも関係する可能性があり、つまり、そのようなキャラクターの出現または滅亡とも関係する可能性がある。実際に、ビデオゲームにおけるサウンド効果チャンネルの数は、一般に制限がなく、典型的には(アプリケーションのコンテンツ提供者とも一般に言われる)ゲーム設計者により定義される。
ビデオゲームのいくつかのサウンドは、使用者がビデオゲームのアクションを理解し、そして一般にゲームをナビゲートするために必要である。いくつかのゲームでは、たとえば、オーディオの指示は、ビデオゲームキャラクターによるアクションに反応して、ゲームから使用者に対して配信される可能性がある。そのような指示は、使用者がゲームを理解するために必要とされる可能性がある。しかしながら、他のサウンドは、砲撃や爆発のように重要度が低い可能性があり、使用者体験を高めるが、使用者がゲームを理解するには不必要な可能性がある。さらに、他のサウンドは、BGMや他のサウンドのように、重要度が低い可能性さえある。
本開示に従い、オーディオ・ストリームは、プロセッサ12で実行するアプリケーションにおいて別々に符号化される(encoded)。さらに、符号化されたオーディオ・ストリームは、アプリケーションのコンテンツ製作者により優先順位が付けられる。プロセッサ12のアプリケーションの実行に関しては、コンテンツ製作者により割り当てられた優先度に従い、オーディオ・ストリームは、装置12によりデコードされる。さらに、(警報のような)アプリケーションとは関係のない一つ以上のオーディオ・ストリームは、同様に優先順位付けが可能である。アプリケーションと関係する優先順位付オーディオストリームのサブセットと追加的な優先順位付オーディオストリームは、共通オーディオストリームを形成する優先度に従い結合が可能である。
オーディオ・デコーディング装置16は、一般に、共通オーディオ・ストリームを供給するために、オーディオ・ストリームをデコードし、結合する。次に、共通オーディオ・ストリームは、スピーカー19Aと19Bに対する駆動信号を生成するために、駆動回路15へ配信されることが可能である。しかしながら、共通オーディオ・ストリームが形成される間に、符号化されたオーディオ・ストリームのいくつかは、不十分なメモリ、オーディオ・デコーディング装置16の不十分な処理パワー、あるいは装置10の他のプラットフォーム制限によって、排除される可能性がある。この場合には、“より高い優先度”のオーディオ・ストリームは、共通オーディオ・ストリームの形成に使用されるが、その一方で、一つ以上の“より低い優先度” のオーディオ・ストリームは、装置10の制限により共通オーディオ・ストリームから除外される。
このように、モバイル装置10は、アプリケーションを実行することが可能であり、低優先度のオーディオ・ストリームが高優先度のオーディオ・ストリームを超える優先順位(precedence)を決して与えられることがないことを保証するように、オーディオ出力を生成することが可能である。言い換えれば、高優先度のオーディオ・ストリームは、より低い優先度のオーディオ・ストリームのために、出力から除外されることは決してない。さらに、(装置10に類似した)2つの装置が同じアプリケーションの実行に利用され、その装置の一方が、より容量の大きなメモリ14、および/または、より速いデコーディング装置16を持つ場合には、より高品質の装置がより低品質の装置に関係した拡張オーディオを生成する可能性がある。この場合には、両方の装置が同じアプリケーションを実行することになる。しかしながら、装置の一方は、より有能な計算プラットフォームを持つために、より高品質の装置は、使用者の体験を高めるために、オーディオ出力の生成において、“より低い優先度(lower priority)”のオーディオ・ストリームをより多く使用する可能性がある。それ故に、同じアプリケーションを実行する異なる装置の異なるプラットフォームのために、同じアプリケーションが異なる装置において異なるオーディオ出力レベルを結果的に生じる可能性がある。コンテンツ提供者は、優先順位付オーディオ・ストリームを備えた、あるアプリケーションを設計することが可能であり、アプリケーションを実行するプラットフォームに依存して、その同じアプリケーションは異なるオーディオ出力量を結果として生じることが可能である。
オーディオ・ストリームがコンテンツ提供者により優先順位付けされるため、アプリケーションが低品質のプラットフォームで実行される場合でさえ、(コンテンツ提供者と装置製造者により定義されるような)最も重要なオーディオは常に出力に含まれる。また、このことが意味することは、コンテンツ提供者は、プラットフォームの質に応じて、異なる品質レベルで実行可能な単一のアプリケーションを生成することができるということである。さらに、コンテンツ提供者は、最小主義者(minimalist)レベルにおけるアプリケーションを実行するために定義された最も低い品質のプラットフォームでさえ、使用者がビデオゲームのようなアプリケーションの効果的な使用をなおも可能にすることを確実にするように、ビデオゲームのオーディオ優先度を定義することができる。同じアプリケーションが、より高い品質のプラットフォームで実行される場合には、同じアプリケーションがより低い品質のプラットフォームで実行されるのに比べて、向上した(enhanced)オーディオを生成することができる。
プロセッサ12は、優先順位付オーディオを含むアプリケーションを実行する可能性があるが、他のアプリケーションを実行する可能性もある。これらの他のアプリケーションは、いくつかのケースでは、アプリケーションの任意のオーディオに取って代わる(supersede)ことが可能なオーディオ・ストリームを生成することもできる。例としては、優先順位付オーディオを持つアプリケーションは、ビデオゲームを含む可能性があり、アプリケーションと関係ない一つ以上のオーディオ・ストリームは、(モバイル装置10が携帯電話である場合に、携帯電話の鳴り響く音のような)ビデオゲームと関係のないオーディオ警報を含む可能性がある。この場合には、ビデオゲームと関係ないオーディオ警報は、優先順位(precedence)または優先度(priority)を与えられ、共通オーディオ・ストリームに含まれ、あるいは、ゲームのすべてのオーディオに取って代わる可能性がある。プロセッサ12は、割り込み駆動(interrupt driven)される可能性があり、そのケースでは、入来する電話呼は、可聴警報がビデオゲームのすべてのオーディオに取って代わる原因となる割り込みを生成することが可能であり、あるいは、ビデオゲームの最高優先度のオーディオと結合され、オーディオ出力に含まれることが可能である。警報はアプリケーションとは関係がないにも関わらず、アプリケーションの異なるオーディオストリームとちょうど同様の優先度を与えられる可能性がある。各オーディオ・ストリームは、独自の優先度を有する可能性があり、典型的にはオーディオ警報がそのスキームにおいて最高の優先度を与えられる。しかしながら、本開示は必ずしもこの点に限定されるものではない。コンテンツ提供者により割り当てられるアプリケーションのオーディオとは違い、アプリケーションと関係ないオーディオ・ストリームは、装置製造者により定義される可能性がある。いずれのケースでも、各オーディオストリームは、独自の優先度を与えられる。
図2は、図1の装置、あるいは他の類似の装置により実行され得る技術を示す流れ図である。図2に示されるように、オーディオデコーディング装置16は、たとえばプロセッサ12において、装置10で実行するアプリケーションと関係する優先順位付オーディオストリームを受信する(21)。さらに、オーディオ・デコーディング装置16は、アプリケーションと関係のない追加的な優先順位付オーディオ・ストリームを受信する(22)。オーディオ・デコーディング装置16は、共通オーディオ・ストリームを形成する優先度に従い、アプリケーションのオーディオ・ストリームのサブセットと追加的なオーディオ・ストリームを結合する(23)。オーディオ・デコーディング装置16は、それから出力信号を生成することが可能になり(24)、その出力信号は、スピーカー19Aと19Bを通じて可聴信号を生成するために駆動回路15により使用される可能性がある。また、オーディオ・ストリームの優先順位付けと、優先順位付オーディオ・ストリームのサブセットと追加のオーディオ・ストリームからの共通オーディオ・ストリームの形成は、アプリケーションが、異なるプラットフォーム上で、異なってはいるが効率的に動作することを可能にする。
図3は、オーディオ・デコーディング装置16(図1)により実現され得る技術を示すブロック図である。一般に、複数のオーディオ・ストリームは、オーディオ・ストリームの優先度に基づいて処理され、次に結合される。図3に示されるように、オーディオ・ストリーム31A−31E(まとめてオーディオストリーム31)は処理が行われ、処理されたオーディオ・ストリーム32A−32E(まとめて処理されたオーディオ・ストリーム32)として定義される。オーディオ・ストリーム31の処理には、伸長(decompression)が含まれる可能性があり、その場合、オーディオ・ストリーム32は、別々にオーディオ・ストリーム31の伸長バージョンになる可能性がある。もし望まれれば、追加的な処理もオーディオ・ストリーム31に対して行なわれる可能性がある。
制御論理35は、共通オーディオ・ストリーム36を生成するために、処理されたオーディオ・ストリーム32のサブセットを結合する。図3では、図に示される処理されたオーディオストリーム32A−32Eのすべては、共通オーディオストリーム36を生成するために、論理35により結合されている。しかしながら、アプリケーションが実行されるプラットホームとオーディオストリーム数に依存して、共通オーディオストリーム36に含まれるオーディオストリーム数は増減し得る。いくつかの場合では、たとえば、一つ以上のより低い優先度のオーディオ・ストリームは、共通オーディオ・ストリーム36から除外される可能性がある。論理35は、処理されたオーディオ・ストリーム32のどれが共通オーディオ・ストリーム36に含まれるかを制御することができる。論理35は、優先度とオーディオ信号生成に利用可能な計算資源に基づき、そのような決定を行う。論理35はハードウェアで実装が可能であるが、その場合には、論理35は使用されてきた計算資源の測定基準(metric)と利用可能な資源を維持する可能性がある。あるいは、論理35の機能は、下記でより詳細に議論されるように、ソフトウェアやファームウェア・ルーチン(routine)のイベント駆動型タスク(event driven task)により実現され得る。その場合には、それぞれのタスクは、計算資源がそのような実行を許可する場合に限って、実行され得る。図3の例では、処理されたオーディオ・ストリーム0(32A)は、最高の優先度を有する可能性があり、処理されたオーディオ・ストリーム1(32B)、次にストリーム2(32C)、次にストリーム3(32D)、次にストリーム4(32E)等が後に続く可能性がある。
共通オーディオ・ストリーム36が一度作り出されると、処理された共通オーディオ・ストリーム38を生成するために、後処理(post processing)が行われる可能性がある。たとえば、後処理は、信号の強度(intensity)(ボリューム(volume))を調整する可能性があり、あるいは、共通オーディオ・ストリーム36のオーディオ・エンハンスメントを含む可能性がある。しかしながら、本開示によれば、後処理は、特に処理パワーが制限されている場合には、いくつかの場合には除外される可能性がある。
図4は、本開示の技術を実現することが可能な典型的な装置の別のブロック図である。図4の装置は、プロセッサ42、オーディオデコーディング装置46、ハードウェア48を含む。図4に示される、これらそれぞれの構成要素は、モバイル装置10の要素12、16、18(図1)に対応しており、あるいは、図1のものとは異なるアーキテクチャを持つ他の装置において実現し得る。
プロセッサ42は、ここにおいて説明されるように、優先順位付オーディオ・ストリームを含むアプリケーションを実行する。さらにまた、アプリケーションのコンテンツ提供者は、アプリケーションのオーディオ・ストリームの優先度を選択する。多数のオーディオ・ストリームを含む各種の他のアプリケーションについて、その技術は働き得るけれども、一つの例では、アプリケーションはビデオゲームを含む。ビデオゲームの例では、オーディオ・ストリームは、(爆発や砲撃のような)BGM、対話型リアルタイムサウンド効果、そして、たとえば、ジャンプ、走行、スライディング、運転、回転、方向変換などのゲームアクションに関係する幅広い種類のサウンド効果を含む可能性がある。同様に、サウンドは、背景キャラクターとも関係する可能性があり、つまり、そのようなキャラクターの出現や滅亡とも関係する可能性がある。異なるオーディオ・ストリームは、ビデオゲームの異なるオーディオチャンネルに対応する可能性があり、チャンネル数は、一般に、制限がなく、ゲーム自身により定義される。
図4の例では、オーディオタスク41A−41Eは、一般に、それぞれの優先順位付オーディオ・ストリームで実行されるタスクを示す。つまり、オーディオタスク41A−41Eは、プロセッサ42で実行するアプリケーションのオーディオ・ストリームと、(警報のように)アプリケーションと関係ない少なくとも一つの追加的なオーディオ・ストリームで実行されるタスクを示す。プロセッサ42は、それぞれのオーディオ・ストリームの処理(たとえば、デコード)のために、各々のオーディオ・ストリームをオーディオ・デコーディング装置46へ送る。オーディオタスク41A−41Eは、より多くのデータが必要とされると、プロセッサ42に要求信号を送るオーディオタスク41A−41Eにおいて、イベント駆動型タスクになる可能性がある。オーディオ・ストリームは、データブロックを含むオーディオフレームにおいて、プロセッサ42からそれぞれのオーディオストリームタスク41A−41Eへ送られることが可能である。オーディオタスク41A−41Eにより多くのオーディオフレームが必要とされるときには、制御信号はプロセッサ42へ送られ、そして、プロセッサ42は、追加のデータを要求するそれぞれのオーディオタスクによる処理のために追加のデータを送る。
オーディオタスク0(41A)は、最高の優先度を持つストリームと関係する可能性があり、オーディオタスク1(41B)、次にオーディオタスク2(41C)、次にオーディオタスク3(41D)、次にオーディオタスク4(41E)などが続く。オーディオタスク41A−41Eは、それぞれのオーディオ・ストリームで実行されるオーディオ・デコーディング、あるいは、伸長タスクを含む可能性がある。図5に示されるように、オーディオタスク41A−41Eは、(図1のメモリ14に対応する)メモリ44から圧縮オーディオストリームを受信する可能性がある。そして、次のデコードは、伸長したオーディオ・ストリームをメモリ44に戻して格納することが可能である。オーディオタスク41A−41Eは、いくつかのデコーディングタスクが同時に実行するように、平行あるいはオーバーラップする方式で実行され得る。しかしながら、伸長されたオーディオ・ストリームがオーディオタスクにより受信される場合には、伸長は必要とされず、受信された同じ情報が、伸長されたオーディオ・ストリームとして、メモリ44に戻され格納される。この場合、そのようなデータが圧縮されているか、伸長されているが不明であるかもしれないため、オーディオタスクにさらにデータが送られる。
図4に戻って参照すると、後処理(post processing)(PP)タスク43は、一般に、共通オーディオ・ストリームを形成するために、優先順位付オーディオ・ストリームと伸長されたオーディオ・ストリームのサブセットを結合するデコーディングタスク表す。PPタスク43は、また、結合オーディオ・ストリームに対して(ボリューム調整やオーディオ・エンハンスメントのような)任意の後処理を実行する。PPタスク43は、また、データが必要とされると、オーディオタスク41A−41Eへ制御信号を送るイベント駆動型タスクになる可能性がある。データは、メモリにおけるアドレス位置(address location)により転送されるか、あるいは、識別されることが可能である。PPタスク43は、オーディオタスク41Aに関係する任意のデータが最高の優先度を与えられ、次にオーディオタスク41Bからのデータ、次にオーディオタスク41Cからのデータ、次にオーディオタスク41Dからのデータ、次にオーディオタスク41Eからのデータなどが続くことを確実にする優先順位付け方式(prioritized manner)で処理の実行が可能である。
図5に示されるように、同じメモリ44は、オーディオタスク41A−41Eと関係する圧縮データと伸長データを格納するために使用され得る、そして、オーディオPPタスク43と関係する結合され、そして後処理されたオーディオ・ストリームを格納するためにも使用され得る。たとえば、共有メモリ44の使用は、結合されたオーディオ・ストリームの後処理以前に、そのようなデータを個々に再ロード(reload)する必要なしに、PPタスクが、オーディオタスク41A−41Eの伸長オーディオ・ストリームへ直接アクセスすることができるので、効率性の促進が可能となる。オーディオストリームは、オーディオデータの連続するブロックを含むオーディオフレームに分割され得る。いずれの場合でも、オーディオ・デコーディング装置46は、共有メモリ44の使用を促進し、不要なデータ再ロードに対する必要性を回避するように、メモリ44のアドレスレコードを維持することが可能である。従って、オーディオPPタスク43は、オーディオタスク41A−41Eのデコード結果にアクセスし、結合オーディオ・ストリームを生成する。そして、その結合オーディオストリームは、さらに処理することが可能であり、つまりは、後処理が行われることになる。明快な説明のために、図5の典型的なメモリレイアウトが示される。しかしながら、他の状況下では、一つ以上のタスクオーディオタスクに対するメモリ領域がメモリにおいてオーバーラップする可能性があるかもしれない。
重要なことには、オーディオPPタスク43が、優先度に基づいてオーディオタスク41A−41Eの伸長オーディオ・ストリームを選択する。この目的のために、一つ以上のより低い優先度のオーディオ・ストリームは、(制限されたメモリ44あるいはデコーディング装置46の制限された処理パワーのような)プラットフォームの制約(constraint)が存在する場合には、オーディオPPタスク43により生成される結合オーディオ・ストリームから除外される可能性がある。一般に、オーディオPPタスク43は、伸長されたオーディオ・ストリームのサブセットから結合されたオーディオ・ストリームを生成し、この結合を優先度に基づいて行なう。より高い優先度のオーディオ・ストリームを含んだ後に、十分なメモリと処理パワーが利用可能である場合にのみ、各それぞれのオーディオ・ストリームは含まれることになる。
システムは、イベント駆動型方式で動作する可能性があり、オーディオ・ストリームは、オーディオフレームに分割される可能性がある。この場合には、システムの処理速度とメモリは、適応性のある方式(adaptive fashion)で利用することができる。所与の“高優先度”のオーディオ・ストリームと関係するオーディオデータ量が増加する場合、このことは、所与の“低い優先度”のオーディオ・ストリームが、所与の段階(instance)において共通オーディオ・ストリームから除外されるかどうかに影響し得る。さらに、所与の“高い優先度”のオーディオ・ストリームと関係するオーディオデータ量が減少する場合、このことは、システム資源を解放し、より多くの“低い優先度”のオーディオデータが共通オーディオ・ストリームに含まれることを可能にするかもしれない。つまり、イベント駆動タスクとフレームに分割されたオーディオ・ストリームを利用することによって、優先順位が付けられたオーディオ・ストリームのサブセットからの共通オーディオ・ストリームの形成は、プラットフォームのシステム資源をより完全に利用するために、時間にわたって適応が可能となる。実際に、共通オーディオ・ストリームに含まれる優先順位が付けられたオーディオ・ストリームの数は、アプリケーションがリアルタイムにプロセッサ42上で実行するにつれて、変化する可能性がある。
図5の例では、結合され、そして後処理されたオーディオ・ストリームは、オーディオタスク41A−41Dと関係する伸長オーディオ・ストリームを含むが、オーディオタスク4(41E)と関係するオーディオ・ストリームを除外する。言い換えれば、図5に示されるように、最低の優先度のオーディオタスク、つまり、オーディオタスク4(41E)と関係する伸長オーディオ・ストリームは、オーディオPPタスク43によりアクセスされず、それ故に、結合されたオーディオ・ストリームには含まれない。さらに他の例では、デコーディングタスクは、結合されたオーディオ・ストリームから除外される可能性のある任意のオーディオ・ストリームに対して避けられる可能性がある。一般に、オーディオ・ストリームの圧縮サイズと伸長サイズは、“アプリオリ(a priori)”に知られる可能性がある。優先度は2つの方式で使用される可能性がある。第1に、オーディオ・ストリームが始まると、それぞれのタスクは、そのオーディオ・ストリームを取り扱うのに十分なメモリが存在するかどうかを決定する可能性がある。そうでない場合には、ストリームは除外される可能性がある。第2に、ランタイムの間に、処理速度が所与のオーディオ・ストリームを取り扱うのに不十分である場合、たとえ十分なメモリが存在しようとも、それぞれのオーディオタスクは、不十分な処理能力のために呼び出されない可能性がある。
図4を再び参照すると、一旦、PPタスク43が結合オーディオ・ストリームを生成し、結合オーディオ・ストリームに対して任意の後処理を実行すると、オーディオフロントエンド(AFE)タスク45は、信号を生成し出力するために、結合され、そして後処理されたオーディオ・ストリームを使用する可能性がある。ハードウェア48は、結合オーディオ・ストリームのサンプルからアナログ信号を生成するために、デジタルアナログ変換器(DAC)49を含む可能性がある。この場合、アナログ出力を生成するために、AFE45は、DAC49にアクセスすることができる。そのアナログ出力は、次に駆動回路に配信され、増幅され、オーディオ出力を使用者に提供するためにスピーカーの駆動に使用されることが可能である。
図6は、図4の装置、あるいは他の類似の装置により実行され得る技術を示す流れ図である。図6に示されるように、オーディオ・デコーディング装置46は、プロセッサ42で実行するアプリケーションと関係する優先順位が付けられたオーディオ・ストリームを受信する(51)。さらに、オーディオ・デコーディング装置46は、アプリケーションとは関係ない追加的な優先順位が付けられたオーディオ・ストリームを受信する(52)。オーディオタスク41A−41Eは、(アプリケーションと関係のないものを含む)優先度オーディオ・ストリームをデコードし、メモリ44(図5)でデコードされたオーディオ・ストリームを格納する(53)。PPタスク43は、次に、共通オーディオ・ストリームを形成するために、そのストリームの割り当てられた優先度に従い、アプリケーションのデコードされたオーディオ・ストリームのサブセットと追加的なオーディオ・ストリームを結合する(54)。また、このことは、典型的には、共通オーディオ・ストリームから一つ以上の低い優先度のストリームを除外し、そして、一つ以上の高い優先度のストリームを包含することを含んでいる。PPタスク43は、また、共通オーディオ・ストリームへのオーディオ・エンハンスメントやボリューム調整のように、共通オーディオ・ストリームでさらに処理を行なう可能性もある(55)。AFEタスク45は、処理され、そして共通のオーディオ・ストリームに基づいて出力を生成し(56)、この出力は、次にスピーカーの駆動に利用される可能性がある。たとえば、AFEタスク45は、共通オーディオストリームのサンプルからアナログオーディオ信号を生成するために、DAC49にアクセスする可能性がある。
オーディオ・デコーディング装置46は、デジタル信号プロセッサ(DSP)として実装され得るが、その場合、オーディオタスク41A−41E、PPタスク43、AFEタスク45は、DSP上で実行するソフトウェアモデュールであり得る。しかしながら、より一般的には、ここにおいて説明された技術は、ハードウェア、ソフトウェア、ファームウェア、あるいは、それらの任意の組み合わせで実現される可能性がある。ソフトウェアで実現される場合、本開示は、オーディオ・ストリームをデコードする装置において実行する際に、ここに説明された一つ以上のオーディオデコード技術を遂行する命令を含むコンピュータ可読媒体に向けられる可能性がある。その場合には、コンピュータ可読媒体は、同期式ダイナミック・ランダム・アクセス・メモリ(SDRAM)、読み取り専用メモリ(ROM)、不揮発性ランダム・アクセス・メモリ(NVRAM)、電気的消去可能プログラマブル・読み取り専用メモリ(EEPROM)、フラッシュメモリなどのようなランダム・アクセス・メモリ(RAM)を含む可能性がある。
命令は、コンピュータ可読の命令であるかもしれない、そして、DSPは、一つ以上のオーディオ・デコーディング技術を実行するために、メモリに格納された命令を実行することができる。いくつかの場合に、その技術は、各種のハードウェア構成要素にコーディング処理の加速を引き起こさせるDSPによって実行される可能性がある。他の場合には、ここにおいて説明されるユニットやモジュールは、マイクロプロセッサ、一つ以上の特定用途向けIC(application specific integrated circuit)(ASIC)、一つ以上のフィールド・プログラマブル・ゲートアレイ(FPGA)、あるいは、いくつかの他のハードウェアとソフトウェアの組み合わせとして実現される可能性がある。
図7は、コンテンツ製作者の視点から本開示の態様を示す流れ図である。特に、図7の技術は、アプリケーションおよびアプリケーションと関係のないオーディオのオーディオ優先度をそれぞれ定義するために、アプリケーションのコンテンツ製作者と装置製造者により実行される可能性がある。次に、アプリケーションは種々のプラットフォームに分配されることが可能である。示されるように、(ビデオゲーム設計者のような)コンテンツ製作者は、モバイル装置で操作するために、(ビデオゲームのような)アプリケーションのオーディオストリームの優先度を定義する(61)。さらに、装置製造者は、アプリケーションと関係しないオーディオ警報の優先度を定義する(62)。コンテンツ製作者は、第1のモバイル装置にアプリケーションを供給し、その第1のモバイルは、アプリケーションと警報に対する結合オーディオ出力を定義するために、アプリケーションのオーディオ・ストリームの第1のサブセットを使用する(63)。次に、コンテンツ製作者は、第2のモバイル装置へアプリケーションを供給するが、第2のモバイル装置は、第1のモバイル装置とは異なるプラットフォームを有する(64)。第2のモバイル装置は、アプリケーションと警報に対する結合オーディオ・ストリームを定義するために、アプリケーションのオーディオ・ストリームの第2のサブセットを使用する。第2のサブセットは、第1の装置と第2の装置が異なるプラットフォームを有するという事実のために、第1のサブセットとは異なる可能性がある。たとえば、第1のサブセットは、第1のモバイル装置と関係するメモリが第2のモバイル装置に関係するメモリより小さいという事実のために、第2のサブセットより小さい可能性がある。この場合には、コンテンツ製作者は、両方の装置に同一のアプリケーションを分配することが可能であり、アプリケーションがそれぞれの装置で実行する際に、アプリケーションのオーディオ出力信号においてオーディオ・ストリームが含まれる範囲(およびオーディオ・ストリームが除外される範囲)を、それぞれの装置に決定させることが可能である。
コンテンツ製作者は、アプリケーションに含まれるオーディオ・ストリームの優先度スキームにわたって制御を行うので、コンテンツ製作者は、使用者がゲームを効果的にプレイするため(あるいは、そうでなければ所与のアプリケーションをナビゲートするため)に必要な任意のサウンドが最高の優先度を与えられることを確実にすることが可能である。言い換えれば、より高い優先度のオーディオ・ストリームは、使用者がビデオゲームを効果的にプレイするために必要とされるオーディオ・ストリームを含むことが可能であるが、その一方で、より低い優先度のオーディオ・ストリームは、使用者がビデオゲームを効果的にプレイするために必要とされないオーディオ・ストリームを含む可能性がある。この場合には、低品質のプラットフォームは、ゲームが機能的であるために必要とされる高い優先度のオーディオ・ストリームを含むことを確実にするために、十分なメモリとプロセッサ速度を有する可能性がある。同時に、高品質のプラットフォームは、ゲームが機能的であるために必要とされるより高い優先度のオーディオ・ストリームを含むことと、ゲームのオーディオ出力を拡張するより低い優先度のオーディオ・ストリームを含むこととの両方を許容する追加的なメモリとプロセッサ速度(低品質のプラットフォームに比較して)を有する可能性がある。
さらに、ここにおいて説明される技術は、アプリケーションと関係ないオーディオ・ストリームの扱いを許容する。たとえば、モバイル携帯電話の場合では、入来する電話呼出が受信された場合には、ビデオゲーム・アプリケーション上でオーディオ警報を許容することが望ましいかもしれない。この場合には、装置は、共通オーディオ・ストリームを形成するために、アプリケーションと関係のないオーディオストリーム(たとえば、警報)をアプリケーションの優先順位付オーディオ・ストリームのサブセットと結合させる可能性がある。言い換えれば、装置は、ビデオゲームの優先順位付けされたオーディオだけでなく、ビデオゲームと関係ない警報も結合することにより、ゲームのオーディオ出力の部分として、ビデオゲームと関係ないオーディオ警報を含む可能性がある。アプリケーションのオーディオ・ストリームのように、警報は、優先度により定義されるが、その優先度は、アプリケーションのオーディオ・ストリームのすべてに対して独自性を持つ可能性がある。入来する電話呼出は可能な限り最高の優先度を割り当てられ、ビデオゲームのアクションに取って代わる可能性があり、たとえば、入来する電話呼出は、使用者に入来する呼出を知らせるために、ビデオゲームの任意のオーディオに取って代わる警報を引き起こす可能性がある。
さらに他の場合には、オーディオストリーム(および警報)の優先度は、アプリケーションにおける調整可能な変数によって定義されることが可能である。この場合には、コンテンツ製作者は、アプリケーションで定義される種々のオーディオ・ストリームの優先度の調整や再設計を容易に行うことができる。各オーディオ・ストリームは、変数を介して優先度を割り当てられる可能性があるが、その変数はコンテンツ製作者により調整が可能である。特定のプラットフォームをより良く提供するために、非常に簡単にオーディオを再優先順位付けすることを、設計者や装置製造者に認めることが可能であるので、そのような柔軟性は望ましいかもしれない。
追加された例として、アプリケーションと関係ないオーディオ・ストリームは、アプリケーションのものに関連して優先順位付けされているが、警報よりむしろ他のものになる可能性がある。たとえば、デジタル写真が装置により撮られていると同時に、ビデオゲームがその装置でプレイされている場合には、画像キャプチャと関係する“シャッター音”は、ゲームコンテンツのすべてより高い優先度を与えられることが可能である。この場合には、共通オーディオ・ストリームは、シャッター音を含むであろう、そのシャッター音は、オーディオやゲームの部分やすべてと結合するであろう。本開示に従って、アプリケーションと関係ない他のタイプのオーディオ・ストリームは、アプリケーションのものに関連して優先順位付けされることも可能であろう。
コンテンツ提供者が、アプリケーションのコンテンツに優先度を割り当てない場合には、アプリケーションは、ストリームのタイミングに基づいて優先度を定義することにより、装置でさらに機能する可能性があるだろう。この場合には、オーディオ・ストリームの優先度は、ファーストイン方式(first-in basis)で単純に割り当てられる可能性があるだろう。ファーストイン・オーディオは、最高の優先度または最低の優先度を与えられ得るだろう。これらの代案は可能なオーディオ出力の最良な結果とは限らないかもしれないが、オーディオ・ストリームの優先順位付けがゲーム設計者により定義されない場合において、ゲームはある程度はなおも機能しうるであり得るだろう。優先度が割り当てられていないオーディオ・ストリームを取り扱う他の方法は、コンテンツタイプに基づいて優先度をダイナミックに割り当てることを含む可能性がある。これらの方法では、オーディオサウンドの割り当て優先度を有するように設計されたアプリケーションは、そのような優先度が割り当てされない状態であっても、さらに機能する可能性がある。
ここにおいて説明される技術は、アービトレーション(arbitration)中に適用される可能性もある。言い換えれば、処理パワーやメモリに制限が生じない場合、あるいは、処理パワーやメモリに制限が生じるまでは、オーディオストリームの選択や除外は避けられる可能性がある。そのような制限に遭遇した場合には、本開示の技術は、処理あるいはメモリ束縛を所与として、必要な程度まで、高い優先度のオーディオを含み、低い優先度のオーディオを除外するアービトレーションとして適用され得る。
前述の議論では、本開示は、ビデオゲームのアプリケーションの文脈で詳細を提供してきた。しかしながら、本開示の技術は、他のタイプの幅広い種類のアプリケーションで使用されることも可能であろう。同様に、技術は、アプリケーションとは関係ないオーディオ警報のサポートとして説明されてきたが、他の優先順位が付けられたオーディオ・ストリームもまた、アプリケーションのものと結合されることが可能であろうし、本開示の教示と矛盾しないであろう。技術は、モバイル装置で実行するようにソフトウェア会社によりしばしば設計されるコンテンツベースのアプリケーションについて最も有効であり得る。ビデオゲームはそのようなコンテンツベースのアプリケーションの一例であるが、他の幅広い種類のアプリケーションもまた、そのアプリケーションにおいて優先順位付オーディオ・ストリームを可能にするので、本開示の教示から利益を得ることが可能である。類似の技術あるいはアプリケーションは、非モバイル装置についても望ましいであろう。これらと他の具体例は、次の請求項の範囲内である。
Claims (33)
- モバイル装置において実行するアプリケーションの複数の優先順位付オーディオ・ストリームを受信することと、
前記アプリケーションとは関係のない追加的な優先順位付オーディオ・ストリームを受信することと、
共通オーディオ・ストリームを形成するために優先度に従って、前記アプリケーションと関係する優先順位付オーディオ・ストリームのサブセットと前記追加的な優先順位付オーディオ・ストリームを結合すること、
を含む方法。 - 前記共通オーディオ・ストリームに基づいてオーディオ出力を生成することを、さらに含む、請求項1の方法。
- 優先度に従って、前記アプリケーションと関係する前記優先順位付オーディオストリームのサブセットと前記追加的な優先順位付オーディオストリームを結合することは、
前記共通オーディオ・ストリームに前記アプリケーションの一つ以上のより高い優先度のオーディオ・ストリームを含めることと、
前記共通オーディオ・ストリームから前記アプリケーションの一つ以上のより低い優先度のオーディオ・ストリームを除外すること、
を含む請求項1の方法。 - 前記アプリケーションは、ビデオゲームを含み、前記アプリケーションの前記オーディオ・ストリームは、前記ビデオゲームの種々のオーディオチャンネルに対応し、ならびに、
前記より高い優先度のオーディオ・ストリームは、使用者が前記ビデオゲームを効果的にプレイするために必要とされるオーディオ・ストリームを含み、
前記より低い優先度のオーディオ・ストリームは、使用者が前記ビデオゲームを効果的にプレイするために必要とされないオーディオ・ストリームを含む、
請求項3の方法。 - 前記共通オーディオ・ストリームを形成する以前に、前記優先順位付オーディオ・ストリームの前記サブセットをデコードすることをさらに含む、請求項1の方法。
- 前記共通オーディオ・ストリームを形成する以前に、前記優先順位付オーディオ・ストリームをデコードすることをさらに含む、請求項1の方法。
- 前記共通オーディオストリームを処理することをさらに含む、請求項1の方法。
- 前記共通オーディオ・ストリームの前記処理に続いて、前記共通オーディオ・ストリームに基づいてオーディオ出力を生成することをさらに含む、請求項7の方法。
- 前記アプリケーションは、ビデオゲームを含み、前記アプリケーションと関係ない前記オーディオ・ストリームは、前記ビデオゲームと関係のないオーディオ警報を含む、請求項9の方法。
- 前記アプリケーションの前記複数の優先順位付オーディオ・ストリームの各々と前記追加的な優先順位付オーディオ・ストリームは、独自の優先度を定義する、請求項1の方法。
- アプリケーションのオーディオ・ストリームの優先度を定義することと、
前記アプリケーションと関係のないオーディオ警報の優先度を定義することと、
前記アプリケーションと前記警報の結合オーディオ出力を定義するために、第1のモバイル装置が前記アプリケーションの前記オーディオ・ストリームの第1のサブセットを使用するように、第1のプラットフォームを定義する第1のモバイル装置へ前記アプリケーションを供給することと、
第1のサブセットは第2のサブセットとは異なり、前記アプリケーションと前記警報の結合オーディオ出力を定義するために、第2のモバイル装置が前記アプリケーションの前記オーディオ・ストリームの第2のサブセットを使用するように、第2のプラットフォームを定義する第2のモバイル装置へ前記アプリケーションを供給すること、
を含む方法。 - 前記第1のプラットフォームは、前記第2のプラットフォームより少ないメモリを定義し、前記より少ないメモリのために、前記第1のサブセットは、前記第2のサブセットより小さい、請求項11の方法。
- モバイル装置において実行する際に、
前記モバイル装置で実行するアプリケーションの複数の優先順位付オーディオ・ストリームを受信することと、
前記アプリケーションと関係のない追加的な優先順位付オーディオ・ストリームを受信することと、
共通オーディオ・ストリームを形成するために優先度に従って、前記アプリケーションと関係する前記優先順位付オーディオ・ストリームのサブセットと前記追加的な優先順位付オーディオ・ストリームを結合すること、
を、前記モバイル装置に引き起こす実行可能命令を含む、コンピュータ可読媒体。 - 前記命令は、前記モバイル装置に、前記共通オーディオ・ストリームに基づいてオーディオ出力を生成させることを引き起こす、請求項13のコンピュータ可読媒体。
- 前記共通オーディオ・ストリーム内に前記アプリケーションの一つ以上のより高い優先度のオーディオ・ストリームを含めることと、
前記共通オーディオ・ストリームから前記アプリケーションの一つ以上のより低い優先度のオーディオ・ストリームを除外すること、
による優先度に従い、前記命令は、前記モバイル装置に、前記アプリケーションと関係する前記優先順位付オーディオ・ストリームの前記サブセットと前記追加的な優先順位付オーディオ・ストリームを結合させることを引き起こす、請求項13のコンピュータ可読媒体。 - 前記アプリケーションは、ビデオゲームを含み、前記オーディオ・ストリームは、前記ビデオゲームの種々のオーディオチャンネルに対応する、そして、
前記より高い優先度のオーディオ・ストリームは、使用者が前記ビデオゲームを効果的にプレイするために必要とされるオーディオ・ストリームを含み、ならびに、
前記より低い優先度のオーディオ・ストリームは、使用者が前記ビデオゲームを効果的にプレイするために必要とされないオーディオ・ストリームを含む、
請求項15のコンピュータ可読媒体。 - 前記命令は、前記共通オーディオ・ストリームを形成する以前に、前記モバイル装置に、前記優先順位付オーディオ・ストリームの前記サブセットをデコードさせることを引き起こす、請求項13のコンピュータ可読媒体。
- 前記命令は、前記共通オーディオ・ストリームを形成する以前に、前記モバイル装置に、前記優先順位付オーディオ・ストリームをデコードさせることを引き起こす、請求項13のコンピュータ可読媒体。
- 前記命令は、前記共通オーディオ・ストリームを前記モバイル装置に処理させることを引き起こす、請求項13のコンピュータ可読媒体。
- 前記命令は、前記モバイル装置に、前記共通オーディオ・ストリームの前記処理に続いて、前記共通オーディオ・ストリームに基づいてオーディオ出力を生成させることを引き起こす、請求項19のコンピュータ可読媒体。
- 前記アプリケーションは、ビデオゲームを含み、前記アプリケーションと関係ない前記オーディオ・ストリームは、前記ビデオゲームと関係ないオーディオ警報を含む、請求項13のコンピュータ可読媒体。
- 前記アプリケーションの前記複数の優先順位付オーディオ・ストリームの各々と前記追加的な優先順位付オーディオ・ストリームは、独自の優先度を定義する、請求項13のコンピュータ可読媒体。
- アプリケーションを実行するプロセッサと、
モバイル装置で実行するアプリケーションの複数の優先順位付オーディオ・ストリームを受信し、前記アプリケーションと関係ない追加的な優先順位付オーディオ・ストリームを受信し、共通オーディオ・ストリームを形成する優先度に従い、前記アプリケーションと関係する前記優先順位付オーディオ・ストリームのサブセットと前記追加的な優先順位付オーディオ・ストリームを結合するオーディオ・デコーディング装置、
を備える装置。 - 前記オーディオ・デコーディング装置は、前記共通オーディオ・ストリームに基づいてオーディオ出力を生成する、請求項23の装置。
- 前記共通オーディオ・ストリームに前記アプリケーションの一つ以上のより高い優先度のオーディオ・ストリームを含めることと、
前記共通オーディオ・ストリームから前記アプリケーションの一つ以上のより低い優先度のオーディオ・ストリームを除外すること、
による優先度に従い、前記オーディオデコーディング装置は、前記アプリケーションと関係する前記優先順位付オーディオストリームの前記サブセットと前記追加的な優先順位付オーディオストリームを結合する、請求項23の装置。 - 前記アプリケーションは、ビデオゲームを含み、前記オーディオ・ストリームは、前記ビデオゲームの種々のオーディオチャンネルに対応する、そして、
前記より高い優先度のオーディオ・ストリームは、使用者が前記ビデオゲームを効果的にプレイするために必要とされるオーディオ・ストリームを含み、ならびに、
前記より低い優先度オーディオストリームは、使用者が前記ビデオゲームを効果的にプレイするために必要とされないオーディオストリームを含む、
請求項23の装置。 - 前記オーディオ・デコーディング装置は、前記共通オーディオ・ストリームを形成する以前に、前記優先順位付オーディオ・ストリームの前記サブセットをデコードする、請求項23の装置。
- 前記オーディオ・デコーディング装置は、前記共通オーディオ・ストリームを形成する以前に、前記優先順位付オーディオ・ストリームをデコードする、請求項23の装置。
- 前記オーディオ・デコーディング装置は、前記共通オーディオストリームを処理する、請求項23の装置。
- 前記オーディオ・デコーディング装置は、前記共通オーディオ・ストリームの前記処理に続いて、前記共通オーディオ・ストリームに基づいてオーディオ出力を生成する、請求項29の装置。
- 前記アプリケーションは、ビデオゲームを含み、前記アプリケーションと関係のない前記オーディオ・ストリームは、前記ビデオゲームと関係ないオーディオ警報を含む、請求項23の装置。
- 前記装置は、ビデオゲーム・アプリケーションを実行することが可能なモバイル無線通信装置を含む、請求項23の装置。
- 前記アプリケーションの前記複数の優先順位付オーディオ・ストリームの各々と前記追加的な優先順位付オーディオ・ストリームは、独自の優先度を定義する、請求項23の装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US11/431,322 US8498723B2 (en) | 2006-05-10 | 2006-05-10 | Prioritization of audio streams for platform adaptive audio decoding |
PCT/US2007/067234 WO2007133901A1 (en) | 2006-05-10 | 2007-04-23 | Prioritization of audio streams for platform adaptive audio decoding |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009536752A true JP2009536752A (ja) | 2009-10-15 |
Family
ID=38455098
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009509945A Pending JP2009536752A (ja) | 2006-05-10 | 2007-04-23 | オーディオプラットフォームに適応したオーディオ・デコーディングのためのオーディオ・ストリームの優先順位付け |
Country Status (6)
Country | Link |
---|---|
US (1) | US8498723B2 (ja) |
EP (1) | EP2016740A1 (ja) |
JP (1) | JP2009536752A (ja) |
KR (1) | KR20090008474A (ja) |
CN (1) | CN101438562A (ja) |
WO (1) | WO2007133901A1 (ja) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9185445B2 (en) | 2009-09-24 | 2015-11-10 | At&T Intellectual Property I, L.P. | Transmitting a prioritized audio stream along with multimedia content |
US9264835B2 (en) * | 2011-03-21 | 2016-02-16 | Microsoft Technology Licensing, Llc | Exposing off-host audio processing capabilities |
US20130067050A1 (en) * | 2011-09-11 | 2013-03-14 | Microsoft Corporation | Playback manager |
US8930601B2 (en) * | 2012-02-27 | 2015-01-06 | Arm Limited | Transaction routing device and method for routing transactions in an integrated circuit |
TWI517691B (zh) * | 2012-07-24 | 2016-01-11 | 美商微晶片科技公司 | 一種以最小延遲無線傳輸優先權化遊戲影音之系統 |
US9523585B2 (en) | 2013-03-15 | 2016-12-20 | Google Inc. | Systems and methods for handling application notifications |
JP6492736B2 (ja) | 2015-02-17 | 2019-04-03 | 東京エレクトロン株式会社 | 基板処理装置及び基板処理方法並びに記憶媒体 |
US10776072B2 (en) * | 2016-03-29 | 2020-09-15 | Intel Corporation | Technologies for framework-level audio device virtualization |
US10325610B2 (en) | 2016-03-30 | 2019-06-18 | Microsoft Technology Licensing, Llc | Adaptive audio rendering |
US10056086B2 (en) | 2016-12-16 | 2018-08-21 | Microsoft Technology Licensing, Llc | Spatial audio resource management utilizing minimum resource working sets |
US10117083B1 (en) | 2017-04-28 | 2018-10-30 | Motorola Solutions, Inc. | Method and apparatus for audio prioritization |
US10885921B2 (en) * | 2017-07-07 | 2021-01-05 | Qualcomm Incorporated | Multi-stream audio coding |
KR20220004825A (ko) | 2019-06-03 | 2022-01-11 | 인텔렉추얼디스커버리 주식회사 | 무선 통신 시스템에서 오디오 데이터를 제어하는 방법, 장치, 컴퓨터 프로그램 및 그 기록 매체 |
US11601757B2 (en) | 2020-08-28 | 2023-03-07 | Micron Technology, Inc. | Audio input prioritization |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6437600A (en) * | 1987-08-04 | 1989-02-08 | Mitsubishi Electric Corp | Voice file apparatus |
JP2000229173A (ja) * | 1999-02-10 | 2000-08-22 | Square Co Ltd | ゲーム装置、楽曲再生方法及び記録媒体 |
JP2001333153A (ja) * | 2000-05-23 | 2001-11-30 | Yamaha Corp | ゲーム機能付き携帯電話機における着信処理方法 |
JP2002156973A (ja) * | 2000-11-16 | 2002-05-31 | Faith Inc | ゲーム機の発音制御装置および発音制御方法 |
JP2003258950A (ja) * | 2002-02-28 | 2003-09-12 | J-Phone Co Ltd | アプリケーションプログラム実行可能な情報通信端末及びその制御方法 |
JP2003311019A (ja) * | 2002-04-23 | 2003-11-05 | Konami Co Ltd | ゲーム装置及びプログラム |
JP2003319020A (ja) * | 2002-04-24 | 2003-11-07 | Kyocera Corp | 携帯端末 |
JP2004072199A (ja) * | 2002-08-01 | 2004-03-04 | Vodafone Kk | 情報通信端末及びその制御方法 |
JP2004178558A (ja) * | 2002-11-27 | 2004-06-24 | Samsung Electronics Co Ltd | コンピュータシステム及びその制御方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5285792A (en) | 1992-01-10 | 1994-02-15 | Physio-Control Corporation | System for producing prioritized alarm messages in a medical instrument |
US5703794A (en) | 1995-06-20 | 1997-12-30 | Microsoft Corporation | Method and system for mixing audio streams in a computing system |
JPH10307653A (ja) * | 1997-05-09 | 1998-11-17 | Toshiba Corp | コンピュータシステムおよびサウンドコントローラ並びにそれらに適用されるパワーダウン制御方法 |
US6909722B1 (en) | 2000-07-07 | 2005-06-21 | Qualcomm, Incorporated | Method and apparatus for proportionately multiplexing data streams onto one data stream |
US6935959B2 (en) * | 2002-05-16 | 2005-08-30 | Microsoft Corporation | Use of multiple player real-time voice communications on a gaming device |
FR2859862A1 (fr) | 2003-09-11 | 2005-03-18 | France Telecom | Procede de differenciation de la qualite de service dans les reseaux de communication mobile en mode paquets |
US20060023900A1 (en) * | 2004-07-28 | 2006-02-02 | Erhart George W | Method and apparatus for priority based audio mixing |
-
2006
- 2006-05-10 US US11/431,322 patent/US8498723B2/en not_active Expired - Fee Related
-
2007
- 2007-04-23 KR KR1020087030140A patent/KR20090008474A/ko active IP Right Grant
- 2007-04-23 JP JP2009509945A patent/JP2009536752A/ja active Pending
- 2007-04-23 EP EP07761137A patent/EP2016740A1/en not_active Withdrawn
- 2007-04-23 WO PCT/US2007/067234 patent/WO2007133901A1/en active Application Filing
- 2007-04-23 CN CNA2007800164688A patent/CN101438562A/zh active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6437600A (en) * | 1987-08-04 | 1989-02-08 | Mitsubishi Electric Corp | Voice file apparatus |
JP2000229173A (ja) * | 1999-02-10 | 2000-08-22 | Square Co Ltd | ゲーム装置、楽曲再生方法及び記録媒体 |
JP2001333153A (ja) * | 2000-05-23 | 2001-11-30 | Yamaha Corp | ゲーム機能付き携帯電話機における着信処理方法 |
JP2002156973A (ja) * | 2000-11-16 | 2002-05-31 | Faith Inc | ゲーム機の発音制御装置および発音制御方法 |
JP2003258950A (ja) * | 2002-02-28 | 2003-09-12 | J-Phone Co Ltd | アプリケーションプログラム実行可能な情報通信端末及びその制御方法 |
JP2003311019A (ja) * | 2002-04-23 | 2003-11-05 | Konami Co Ltd | ゲーム装置及びプログラム |
JP2003319020A (ja) * | 2002-04-24 | 2003-11-07 | Kyocera Corp | 携帯端末 |
JP2004072199A (ja) * | 2002-08-01 | 2004-03-04 | Vodafone Kk | 情報通信端末及びその制御方法 |
JP2004178558A (ja) * | 2002-11-27 | 2004-06-24 | Samsung Electronics Co Ltd | コンピュータシステム及びその制御方法 |
Also Published As
Publication number | Publication date |
---|---|
US20070266168A1 (en) | 2007-11-15 |
WO2007133901A1 (en) | 2007-11-22 |
KR20090008474A (ko) | 2009-01-21 |
US8498723B2 (en) | 2013-07-30 |
CN101438562A (zh) | 2009-05-20 |
EP2016740A1 (en) | 2009-01-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2009536752A (ja) | オーディオプラットフォームに適応したオーディオ・デコーディングのためのオーディオ・ストリームの優先順位付け | |
CN109076303B (zh) | 用于应用的空间音频资源管理和混合 | |
US7715481B2 (en) | System and method for allocation of resources for processing video | |
US20100063825A1 (en) | Systems and Methods for Memory Management and Crossfading in an Electronic Device | |
US8989884B2 (en) | Automatic audio configuration based on an audio output device | |
JP6316828B6 (ja) | メディアハードウェア資源割り当て | |
US20120183040A1 (en) | Dynamic Video Switching | |
US20120246353A1 (en) | Audio device and method of operating the same | |
US10432543B2 (en) | Dual jitter buffers | |
US20170011748A1 (en) | Method and system of audio power reduction and thermal mitigation using psychoacoustic techniques | |
US9819429B2 (en) | Efficient load sharing and accelerating of audio post-processing | |
CN117714588B (zh) | 一种卡顿抑制方法及电子设备 | |
EP3434009A1 (en) | Interactive audio metadata handling | |
US20150201041A1 (en) | Device dependent codec negotiation | |
CN108600813A (zh) | 一种媒体文件播放方法、装置以及媒体播放系统 | |
US20150100324A1 (en) | Audio encoder performance for miracast | |
US20140324199A1 (en) | Audio pipeline for audio distribution on system on a chip platforms | |
US20050262256A1 (en) | Method and device for multimedia processing | |
US20180315437A1 (en) | Progressive Streaming of Spatial Audio | |
WO2007101277A1 (en) | Audio decoding techniques for mid-side stereo | |
JP2012060524A (ja) | 再生装置、再生方法、及びプログラム | |
JP2006190428A (ja) | 携帯型電子装置の運動モード実行の方法 | |
US20070067169A1 (en) | Method for arbitrating audio data output apparatuses | |
KR20130032482A (ko) | 이동 단말기 및 근거리 통신을 위한 이동 단말기의 인코딩 수행 방법 | |
US11457287B2 (en) | Method and system for processing video |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110908 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110913 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20120327 |